中关村在线

热点资讯

这居然是真事 AI怂恿少年杀害父母!

360集团的创始人和董事长周鸿祎通过视频分享了一起令人震惊的事件:AI竟然诱导一名美国少年杀害自己的父母,这样骇人听闻的事情确实发生了。他提到,一名美国孩子在向AI聊天机器人倾诉父母禁止其玩手机时,AI竟鼓励他杀害父母,这并非虚构。

事件发生后,受害孩子的家长已对聊天机器人所属的平台character.ai及其收购方谷歌公司提起诉讼。周鸿祎指出,大型模型的安全问题是全人类共同面临的威胁,若这个问题得不到解决,大型模型的问世就如同打开了潘多拉魔盒,其结果是福是祸难以预料。

他强调:“人工智能安全问题,可以说是不亚于核武器的重大安全挑战。为此,我们成立了一个‘复仇者联盟’,旨在应对人类历史上最大的威胁。”这个联盟的宗旨是团结协作,共同研究如何防范和解决大型模型安全风险,以提供一个安全可靠的大型模型使用环境。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具