中关村在线

手机

美国政府下令召回Fable 5,Anthropic被迫全员下线

【ZOL中关村在线原创技术解析】一场史无前例的“模型召回”发生了。

美国商务部直接签发一纸管制令,要求Anthropic立即中断所有外国人对Fable 5和Mythos 5的访问——连Anthropic自己的外籍员工都不许碰。Anthropic只能选择全员下线。

这是历史上第一次,一个已经上线商用的大模型被政府强制召回。

事情的起点,是Anthropic在凌晨收到了一封信。信是商务部长Howard Lutnick亲笔签发给CEO Dario Amodei的,援引的是国家安全权限。信中没有给出具体细节,只口头描述了一个“越狱”方式:让模型读一段代码、修好里面的bug。

Anthropic看了这个所谓的越狱演示后表示,这些漏洞都是此前已知的小问题,而且其他公开模型——包括OpenAI的GPT-5.5——不需要任何绕过也能发现它们。用Anthropic自己的话说:“要么是完全无害的回复,要么是不构成任何Mythos级增益的小发现。”

但政府不这么看。指令不仅要求立即停用Fable 5和Mythos 5,还要求Anthropic往后逐案申请出口许可证,违者罚款加民事处罚。

Anthropic在官方声明中逐条回应了政府的指控。

关于安全防护,Anthropic称Fable 5发布前经过了数千小时的红队测试,与美国政府、英国AISI、多家第三方机构及内部团队合作完成。测试结论是:Fable的防护效果显著优于此前部署过的任何模型,至今没有任何测试者找到能广泛绕过防护的“通用越狱”。

但Anthropic也承认,完美的抗越狱在目前的技术条件下不可能实现。“业内使用的每一种防护都存在非通用越狱的风险,通用越狱未来也很可能被找到。”这一点他们在发布时就已经明确说过。

为此,Anthropic在Fable 5上采取了纵深防御策略:让越狱要么很窄(非通用),要么制作成本极高(通用),并配合全面监控快速发现和阻断攻击。这也是为什么Fable要求客户数据做30天留存——代价是客户抱怨,但能用来研究和缓解越狱。

Anthropic的态度很明确:我们不认同“发现一个窄域潜在越狱”可以成为召回一个服务数亿人的商用模型的理由。“如果这一标准适用于全行业,它将基本叫停所有前沿模型提供商的新模型部署。”

但政府与Anthropic之间的恩怨并非一日之寒。今年3月,五角大楼把Anthropic列为“供应链风险”,Anthropic随后在旧金山和华盛顿两地起诉了政府,官司至今没打完。Axios的报道指出,这次举报另有其人,而政府本来就不想让这个模型发出来。

截至本文发出时,Fable 5已经彻底无法访问。Opus、Sonnet、Haiku等其他模型一切照常。

Anthropic在声明结尾说:“我们相信这是一场误会,正在努力尽快恢复访问。”但白宫那边,恐怕不这么想。

这场模型召回,到底是国家安全的需要,还是政治博弈的延伸?答案可能比任何越狱都更难找到。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具