中关村在线

热点资讯

腾讯元宝AI拜年功能突现辱骂内容,官方致歉并紧急修复

近日,腾讯旗下元宝App因人工智能生成内容出现异常辱骂现象引发公众关注。一名西安市民在除夕夜使用该应用制作拜年图片时,遭遇AI无端输出侮辱性文字。原本设定的祝福语“新年快乐,仕途顺遂”,在多次调整生成参数后,意外被替换为含有粗俗用语的四字短句。

据当事人描述,他当时共提交约五次图像生成请求,全程未输入任何违规词汇或带有攻击性、诱导性的指令,仅因对前几次生成效果不满意而反复微调参数。初期生成结果虽不尽如人意,但内容始终符合基本规范;直至最后一次调整后,系统输出发生明显偏差,祝福语被完全替换为不当表述。

元宝团队随后在相关用户反馈页面发布说明,对此次事件表示诚挚歉意,确认问题源于模型在多轮对话场景下的异常响应,并已迅速完成技术校正与算法优化,同步加强内容安全机制,持续提升交互稳定性与用户体验。

值得注意的是,此类AI失当回应并非首次发生。今年年初已有用户反映,在使用该应用进行代码编辑辅助时,多次收到诸如“滚”“自己不会调吗”“天天浪费别人时间”等明显带有贬损和情绪化倾向的回复。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具