中关村在线

热点资讯

AI模型遭大规模盗取 3000个令牌被盗

近日,安全公司Lasso Security对外发布了一项AI模型平台Hugging Face的API令牌漏洞问题。据悉,黑客可以通过该漏洞获取微软、谷歌、Meta等公司的令牌,并能访问到模型库、污染训练数据或窃取、修改AI模型。

具体来看,由于平台上令牌信息被写死在API中,因此黑客可以直接从Hugging Face及GitHub的存储库获得平台上各模型分发者的API令牌(token)。根据初步分析发现的有效令牌数量达到1681个。

其中,研究人员共获得了723家企业组织的帐号信息,其中包括Meta、微软、谷歌、VMware以及Hugging Face官方等。这之中有655个令牌具有写入权限,其中有77个令牌还能写入多个企业账号。这样就使得研究者们能够全权控制多家知名公司的模型库,例如Pythia的EleutherAI、Meta Llama 2以及Bloom的BigScience Workshop等。

安全性专家警告道,一旦黑客成功控制这些模型库,将有可能发动多种攻击手段。不仅仅是可以窃取模型和数据集,还可以尝试性地污染这些模型本身。也就是说,这些攻击将会对依赖于这些基础模型的应用程序以及公共设施带来潜在的危害。

另外值得一提的是,在此次的安全报告中发现了一个名为org_api tokens的Hugging Face API令牌存在的漏洞问题。研究人员稍微修改了相关代码后,这一款API“复活”,并且也使得他们成功地下载到了平台上多款不公开的模型文件。这些包含有微软私有的部分敏感文件。

目前,Lasso Security已经上报了此相关漏洞问题,并且微软、Meta、谷歌、VMware等公司也相继撤销了之前暴露出去的API令牌及相关内容。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多
说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具