Hugging Face 与 Wiz 合作开发人工智能安全技术

阅读量29378

发布时间 : 2024-04-07 10:18:56

网络安全公司 Wiz 与 Hugging Face 合作,修补人工智能云提供商架构中的漏洞,这些漏洞可能导致其客户数据面临风险。

Wiz 表示,它已经发现了 Hugging Face AI 基础设施的关键缺陷,这些缺陷可能会损害提供商并使其客户数据面临风险。它警告说,其他人工智能即服务或人工智能云提供商也可能面临类似的风险。

“我们相信这些发现并不是 Hugging Face 独有的,并且代表了许多人工智能即服务公司将面临的租户分离挑战,考虑到它们运行客户代码和处理大量数据的模型,同时增长速度比任何其他公司都快。维兹在博客文章中说道。

Wiz 研究人员与 Hugging Face 合作,将恶意 AI 模型上传到该平台,并利用它在提供商的内部环境中获得立足点。

该模型被精心设计为充当具有隐藏后门功能的普通模型,通过使用 Hugging Face Inference API 与模型进行交互。后门 AI 模型是在 Hugging Face AI 基础设施上执行和激活的。

根据 Wiz 的说法,其研究人员随后使用后门生成了一个与内部环境相反的 shell。他们逃离了Linux容器,并在Hugging Face内部AI基础设施中获得了高权限。

Wiz表示:“恶意模型对人工智能系统构成了重大风险,特别是对于人工智能即服务提供商而言,因为潜在的攻击者可能会利用这些模型来执行跨租户攻击。

该公司表示,此类攻击的潜在影响可能是“毁灭性的”,因为攻击者可能能够访问存储在云中的数百万个私有人工智能模型和应用程序。

Hugging Face 在另一篇博客文章中表示,与该漏洞相关的所有问题均已解决。它呼吁该领域的其他人“负责任地披露”安全漏洞和错误。

“人工智能行业正在迅速变化,新的攻击媒介/漏洞一直在被发现,”它说。

本文转载自:

如若转载,请注明出处: https://cybernews.com/security/hugging-face-partners-with-wiz/

安全客 - 有思想的安全新媒体

分享到:微信
+14赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66