AI模型“虚构内容”频率或低于人类

在近日于旧金山举行的首届开发者大会“Code with Claude”上，Anthropic 公司首席执行官达里奥•阿莫代伊表示，当前人工智能模型出现“虚构内容”的频率或许已经低于人类。

所谓“虚构内容”，指的是人工智能生成看似真实但实际错误的信息。阿莫代伊指出，尽管 AI 仍会出现这类问题，但这并不会阻碍其迈向通用人工智能（AGI）的步伐。他认为，“衡量标准不同，AI 的幻觉可能比人类更少，只是出错的方式往往更加令人意外。”

阿莫代伊长期以来都是通用人工智能发展最乐观的倡导者之一。他表示，“人们总是试图寻找 AI 能力的上限，但实际上，目前我们根本看不到这种边界在哪里。”

不过，这一观点并非得到所有人认同。也有业内人士提出不同看法，认为现有 AI 模型存在不少问题，一些基础性推理任务中也会给出明显错误的答案。

此外，在面对复杂推理任务时，有迹象表明部分新一代模型反而更容易出现幻觉现象。例如某些知名模型的新版本在测试中表现出比前代更高的虚构内容生成率，连其开发团队也无法确定具体原因。

阿莫代伊同时指出，人类在日常判断中同样会犯错，因此 AI 出现错误并不意味着它“不够智能”。但他也承认，AI 在以高度自信的方式表达错误信息时，确实更容易带来潜在风险。