【ZOL中关村在线原创技术解析】一场史无前例的“模型召回”发生了。
美国商务部直接签发一纸管制令,要求Anthropic立即中断所有外国人对Fable 5和Mythos 5的访问——连Anthropic自己的外籍员工都不许碰。Anthropic只能选择全员下线。
这是历史上第一次,一个已经上线商用的大模型被政府强制召回。
事情的起点,是Anthropic在凌晨收到了一封信。信是商务部长Howard Lutnick亲笔签发给CEO Dario Amodei的,援引的是国家安全权限。信中没有给出具体细节,只口头描述了一个“越狱”方式:让模型读一段代码、修好里面的bug。
Anthropic看了这个所谓的越狱演示后表示,这些漏洞都是此前已知的小问题,而且其他公开模型——包括OpenAI的GPT-5.5——不需要任何绕过也能发现它们。用Anthropic自己的话说:“要么是完全无害的回复,要么是不构成任何Mythos级增益的小发现。”
但政府不这么看。指令不仅要求立即停用Fable 5和Mythos 5,还要求Anthropic往后逐案申请出口许可证,违者罚款加民事处罚。
Anthropic在官方声明中逐条回应了政府的指控。
关于安全防护,Anthropic称Fable 5发布前经过了数千小时的红队测试,与美国政府、英国AISI、多家第三方机构及内部团队合作完成。测试结论是:Fable的防护效果显著优于此前部署过的任何模型,至今没有任何测试者找到能广泛绕过防护的“通用越狱”。
但Anthropic也承认,完美的抗越狱在目前的技术条件下不可能实现。“业内使用的每一种防护都存在非通用越狱的风险,通用越狱未来也很可能被找到。”这一点他们在发布时就已经明确说过。
为此,Anthropic在Fable 5上采取了纵深防御策略:让越狱要么很窄(非通用),要么制作成本极高(通用),并配合全面监控快速发现和阻断攻击。这也是为什么Fable要求客户数据做30天留存——代价是客户抱怨,但能用来研究和缓解越狱。
Anthropic的态度很明确:我们不认同“发现一个窄域潜在越狱”可以成为召回一个服务数亿人的商用模型的理由。“如果这一标准适用于全行业,它将基本叫停所有前沿模型提供商的新模型部署。”
但政府与Anthropic之间的恩怨并非一日之寒。今年3月,五角大楼把Anthropic列为“供应链风险”,Anthropic随后在旧金山和华盛顿两地起诉了政府,官司至今没打完。Axios的报道指出,这次举报另有其人,而政府本来就不想让这个模型发出来。
截至本文发出时,Fable 5已经彻底无法访问。Opus、Sonnet、Haiku等其他模型一切照常。
Anthropic在声明结尾说:“我们相信这是一场误会,正在努力尽快恢复访问。”但白宫那边,恐怕不这么想。
这场模型召回,到底是国家安全的需要,还是政治博弈的延伸?答案可能比任何越狱都更难找到。


评论
更多评论