近日,腾讯旗下元宝App因人工智能生成内容出现异常辱骂现象引发公众关注。一名西安市民在除夕夜使用该应用制作拜年图片时,遭遇AI无端输出侮辱性文字。原本设定的祝福语“新年快乐,仕途顺遂”,在多次调整生成参数后,意外被替换为含有粗俗用语的四字短句。
据当事人描述,他当时共提交约五次图像生成请求,全程未输入任何违规词汇或带有攻击性、诱导性的指令,仅因对前几次生成效果不满意而反复微调参数。初期生成结果虽不尽如人意,但内容始终符合基本规范;直至最后一次调整后,系统输出发生明显偏差,祝福语被完全替换为不当表述。
元宝团队随后在相关用户反馈页面发布说明,对此次事件表示诚挚歉意,确认问题源于模型在多轮对话场景下的异常响应,并已迅速完成技术校正与算法优化,同步加强内容安全机制,持续提升交互稳定性与用户体验。
值得注意的是,此类AI失当回应并非首次发生。今年年初已有用户反映,在使用该应用进行代码编辑辅助时,多次收到诸如“滚”“自己不会调吗”“天天浪费别人时间”等明显带有贬损和情绪化倾向的回复。

评论
更多评论