Hugging Face 与 Wiz 合作开发人工智能安全技术

网络安全公司 Wiz 与 Hugging Face 合作，修补人工智能云提供商架构中的漏洞，这些漏洞可能导致其客户数据面临风险。

Wiz 表示，它已经发现了 Hugging Face AI 基础设施的关键缺陷，这些缺陷可能会损害提供商并使其客户数据面临风险。它警告说，其他人工智能即服务或人工智能云提供商也可能面临类似的风险。

“我们相信这些发现并不是 Hugging Face 独有的，并且代表了许多人工智能即服务公司将面临的租户分离挑战，考虑到它们运行客户代码和处理大量数据的模型，同时增长速度比任何其他公司都快。维兹在博客文章中说道。

Wiz 研究人员与 Hugging Face 合作，将恶意 AI 模型上传到该平台，并利用它在提供商的内部环境中获得立足点。

该模型被精心设计为充当具有隐藏后门功能的普通模型，通过使用 Hugging Face Inference API 与模型进行交互。后门 AI 模型是在 Hugging Face AI 基础设施上执行和激活的。

根据 Wiz 的说法，其研究人员随后使用后门生成了一个与内部环境相反的 shell。他们逃离了Linux容器，并在Hugging Face内部AI基础设施中获得了高权限。

Wiz表示：“恶意模型对人工智能系统构成了重大风险，特别是对于人工智能即服务提供商而言，因为潜在的攻击者可能会利用这些模型来执行跨租户攻击。”

该公司表示，此类攻击的潜在影响可能是“毁灭性的”，因为攻击者可能能够访问存储在云中的数百万个私有人工智能模型和应用程序。

Hugging Face 在另一篇博客文章中表示，与该漏洞相关的所有问题均已解决。它呼吁该领域的其他人“负责任地披露”安全漏洞和错误。

“人工智能行业正在迅速变化，新的攻击媒介/漏洞一直在被发现，”它说。