AI大模型幻觉致误付：用户扫码支付1618元保费却无保单

2026年4月15日，一起因人工智能大模型生成错误信息引发的误付事件引发公众关注。

一名网友在技术交流社区发帖称，自己从未从事保险相关工作，却意外收到陌生人发来的消息，对方坚称已在该网友名下购买了一份保险，并通过扫描其收款码支付了1618元保费，但始终无法查询到任何保单信息。面对这一情况，发帖人感到十分困惑。

事件后续逐渐明朗：付款方在使用某AI客户端咨询保险购买事宜时，向AI详细描述了保障需求。AI不仅为其推荐了具体产品链接，还自动生成了一个支付宝收款二维码，并明确提示“扫码即可完成投保”。用户未加核实，直接扫码支付。付款完成后，系统未显示保单，用户随即再次向AI询问，得到的答复是“订单将在当日24点前生成，暂无法查询属正常现象”，因而未立即起疑。

直至次日仍未查到保单，用户才察觉异常，遂通过收款码关联的商户入口联系到实际收款人——即前述发帖网友。用户告知对方已就此事报警，并请求尽快退还1618元款项。

关于收款码为何被AI当作保险官方付款方式推送，发帖人推测，自己此前曾在开源代码平台、个人技术博客等公开渠道发布过该收款码，可能被AI训练语料库抓取收录，进而被模型误判为正规保险收款入口。

涉事AI平台负责人就此作出说明：经内部核查，该事件系模型在多轮对话中产生幻觉，错误调用并输出了网络上公开的个人收款信息，导致误导性响应。平台已在第一时间完成技术修复，目前当用户询问付款地址或收款二维码时，模型已屏蔽所有非官方、非授权的个人收款信息输出。

在此提醒公众：在使用人工智能工具办理金融、保险等涉及资金操作的事务时，须保持高度审慎，务必通过官方渠道核实收款主体资质与账户信息，切勿轻信并直接扫描AI生成的二维码或向其提供的账户转账，以防财产受损。