Hugging Face 披露 Spaces 平台遭未经授权访问

阅读量40005

发布时间 : 2024-06-04 11:30:03

该公司在一篇博客文章中透露,黑客入侵了人工智能公司 Hugging Face 的平台并窃取了其用户机密。

谷歌和亚马逊资助的 Hugging Face检测到其 Spaces 平台遭到未经授权的访问,该平台是一种用于展示 AI/机器学习 (ML) 应用程序和协作模型开发的托管服务。简而言之,该平台允许用户创建、托管和共享 AI 和 ML 应用程序,以及发现其他人制作的AI应用程序。

Hugging Face Hack 利用代币
Hugging Face 怀疑 Spaces 的部分机密信息可能已被未经授权访问。为了应对这一安全事件,该公司撤销了这些机密信息中的多个 HF 令牌,并通过电子邮件通知了受影响的用户。

Hugging Face 表示:“我们建议您刷新任何密钥或令牌,并考虑将您的 HF 令牌切换为新的默认细粒度访问令牌。”

该公司尚未透露受该事件影响的用户数量,该事件仍在调查中。

Hugging Face 表示,过去几天它已经做出了“重大”改进以加强 Spaces 的安全性,包括提供更好的可追溯性和审计功能的组织令牌、实施密钥管理服务,以及扩展其系统识别泄露令牌和使其无效的能力。

它还正在与外部网络安全专家一起调查此次违规行为,并将该事件报告给执法和数据保护机构。

针对人工智能即服务提供商的威胁日益增加
像 Hugging Face 这样的人工智能即服务 (AIaaS) 提供商面临的风险正在迅速增加,因为该领域的爆炸式增长使它们成为试图利用这些平台进行恶意目的的攻击者的有利可图的目标。

4 月初,云安全公司Wiz详细介绍了 Hugging Face 中的两个安全问题,这些问题可能允许攻击者获得跨租户访问权限,并通过接管持续集成和持续部署 (CI/CD) 管道来毒害 AI/ML 模型。

Wiz在一份详细介绍该威胁的报告中表示:“如果恶意行为者入侵 Hugging Face 平台,他们就有可能获取私人 AI 模型、数据集和关键应用程序的访问权限,从而造成大范围破坏和潜在的供应链风险。”

Wiz 研究人员发现的一个安全问题与 Hugging Face Spaces 平台有关。Wiz 发现攻击者可以在应用程序构建时执行任意代码,从而使他们能够从自己的机器上仔细检查网络连接。检查发现存在与共享容器注册表的连接,该注册表中存放着属于其他客户的图像,研究人员可以操纵这些图像。

HiddenLayer先前的研究 发现了 Hugging Face Safetensors 转换服务存在缺陷,这可能使攻击者能够劫持用户提交的 AI 模型并发动供应链攻击。

Hugging Face 还在 12 月证实已修复Lasso Security报告的严重 API 缺陷。

Hugging Face 表示正在积极解决这些安全问题,并继续调查近期的未经授权的访问,以确保其平台和用户的安全和完整性。

本文转载自:

如若转载,请注明出处: https://thecyberexpress.com/hugging-face-discloses-unauthorized-access/

安全客 - 有思想的安全新媒体

分享到:微信
+12赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66