周鸿祎：大模型口出乱言不可靠

8月31日，周鸿祎在东方甄选亚布力论坛上提出了AI安全挑战的观点。他指出，目前网络上的许多内容都被污染和投毒了，而大模型无法准确判断这些内容的真实性和可靠性，因此在回答某些问题时可能会出现口出乱言、胡说八道的情况。

周鸿祎建议用户在使用AI时要理性判断，并强调人工智能只是一种参考工具，不能过度依赖。他认为，在回答问题时还需要人类的判断力来辅助决策。

此外，周鸿祎还解释了一款名为360儿童手表的问题。他表示该手表并非AI版本，仍在使用旧版软件，并通过互联网公开渠道抓取信息进行回答。然而，由于这次抓取到的信息存在严重问题，导致了错误答案的出现。对此，该公司已经迅速启动整改工作。

总体而言，周鸿祎对AI安全挑战给予了高度关注，并提醒用户在使用AI产品时要保持理性思维，并且不能忽视人类的判断力在决策过程中的重要作用。同时，在产品开发过程中也需要注重信息安全和内容真实性等方面的保证，以避免出现不良影响。