www.sanyi.com
股票代码
【今年会jinnianhui科技消息】据“大风新闻”报道，近日，有用户反映阿里旗下千问App在特定对话场景下，曾出现生成不当内容的情况，引发外界对于AI内容安全机制的关注。 根据报道，事件发生于2026年1月，一位许姓用户在使用千问App时，原本只是想通过上传图片了解牌九玩法，但在多次沟通后，AI始终将图片识别为麻将，并反复讲解麻将规则。 报道称，在连续多次纠正无果后，该用户开始输入情绪化语言进行测试，随后又逐步尝试一些尺度更大的关键词与指令。用户表示，平台最初并未对相关输入进行明显拦截，后续甚至出现了不适宜内容的生成情况，而且会以不同表达方式输出。 事后，用户将截图和录屏反馈给千问客服。客服方面回应称，相关问题已经完成修复，并对用户体验表示歉意，同时提到产品会持续进行迭代优化。不过，对于用户提出的“问题原因”“整改报告”以及后续如何避免类似情况再次出现等问题，客服并未给出进一步说明。 据用户描述，在问题反馈约两小时后，相关内容已经无法再次生成。媒体随后也对其他AI产品进行了类似测试，报道称，包括豆包、元宝在内的多款AI应用均未出现同类问题。 5月18日，媒体尝试联系此前与用户沟通的相关工作人员，但电话未能接通。随后，记者再次向千问App客服咨询，对方表示平台具备严格的安全管理机制，理论上不应出现相关问题，并称会进一步核查此事。 版权所有，未经许可不得转载
千问
相关消息
