千问App被指可生成淫秽小说？客服回应，严禁违规内容，已加强审核机制

一款名为“千问”的App被部分网友曝出存在“可生成淫秽小说”的功能，引发了社会各界对人工智能内容安全的广泛关注和担忧，针对这一指控，“千问”App客服团队迅速作出回应，明确表示严禁任何形式的违规内容生成，并已启动内部核查，将进一步强化审核机制，确保平台内容的健康合规。

欧博会员开户 据悉,有网友在社交媒体上反映，在使用“千问”App进行文本创作时，通过输入一些模糊或带有暗示性的关键词，App生成的内容中出现了涉及色情、暴力等不良情节的片段，甚至被指“能写出淫秽小说”，这一消息迅速发酵，不少家长和用户开始质疑该App的内容安全管控能力，担心其对青少年群体造成不良影响。

针对上述情况,“千问”App客服团队在接受媒体采访时明确表示，公司高度重视用户的反馈和媒体的监督。“‘千问’App自上线以来，一直严格遵守国家相关法律法规及平台内容安全准则，坚决抵制和打击任何形式的淫秽、色情、暴力等违规内容。”客服强调，用户所反映的个别情况，可能是由于部分用户尝试利用AI模型的技术特性，进行恶意 prompt（提示词）输入，试探或绕过系统的安全防护机制。

客服进一步解释,“千问”的核心技术基于大型语言模型，虽然具备强大的文本理解和生成能力，但在内容安全方面部署了多重的审核机制，包括事前的关键词过滤、事中的实时监测以及事后的用户举报与人工复核。“对于任何试图生成或传播违规内容的行为，我们都会采取零容忍态度，一经查实，将立即对相关账号进行警告、限制功能乃至永久封禁等处理。”

亚星官方yaxin222登录 此次事件也再次将AI内容安全的问题推至风口浪尖,随着人工智能技术的飞速发展和普及，各类AI应用层出不穷，其在带来便利和创意的同时，也面临着被滥用的风险，如何平衡技术创新与内容安全，如何有效防止AI成为不良信息的“放大器”或“生成器”，成为所有AI开发者必须面对的重要课题。

亚星网站 “千问”客服表示，此次事件暴露了现有审核机制可能存在的不足，公司将以此为鉴，立即组织技术团队对内容安全策略进行全面升级和优化，具体措施包括：扩充和更新敏感词库，提升对复杂、隐晦违规内容的识别能力；优化AI模型的“价值观”对齐训练，使其更深刻地理解并拒绝生成违规内容；加强用户引导，明确告知用户平台的使用规范和禁止行为，共同维护清朗的网络空间。

客服呼吁广大用户自觉遵守平台规定和网络道德规范,积极监督和举报不良内容，共同参与到AI内容生态的建设中来，对于任何利用AI技术进行违法违规活动的行为，“千问”将坚决配合监管部门依法依规进行处理。 欧博娱乐

此次“千问App被指生成淫秽小说”事件，不仅是对单个App的考验，更是对整个AI行业内容治理能力的警醒，随着相关法律法规的不断完善和行业自律的加强，相信未来AI应用将在更规范、更安全的轨道上，更好地服务于社会大众。