开源 AI/ML 平台中发现的严重漏洞

阅读量42343

发布时间 : 2024-01-22 12:01:14

在过去的一个月里,人工智能 (AI) 和机器学习 (ML) 的 Huntr 漏洞赏金平台的成员在 MLflow、ClearML 和 Hugging Face 等流行解决方案中发现了多个严重漏洞。

CVSS 得分为 10,其中最严重的问题是 MLflow 中的四个关键问题,MLflow 是一个用于简化 ML 开发的平台,提供一组支持现有 ML 应用程序和库的 API。

其中一个问题 CVE-2023-6831 被描述为根源于工件删除的路径遍历错误,该操作在使用前对路径进行规范化,允许攻击者绕过验证检查并删除服务器上的任何文件。

第二个漏洞 CVE-2024-0520 存在于 mlflow.data 模块中,该漏洞可被精心设计的数据集滥用,生成未经清理的文件路径,从而允许攻击者访问信息或覆盖文件,并可能实现远程代码执行 (RCE) )。

第三个严重缺陷 CVE-2023-6977 被描述为路径验证绕过,可能允许攻击者读取服务器上的敏感文件,而第四个严重缺陷 CVE-2023-6709 可能导致在加载恶意软件时远程执行代码。配方配置。

MLflow 2.9.2中解决了所有四个漏洞,该漏洞还修复了一个高严重性的服务器端请求伪造 (SSRF) 错误,该错误可能允许攻击者访问内部 HTTP(S) 服务器并可能在受害者计算机上实现 RCE。

Hugging Face Transformers 中发现了另一个严重缺陷,它提供了用于构建 ML 应用程序的工具。

该问题 CVE-2023-7018 的存在是因为用于从远程存储库自动加载 vocab.pkl 文件的函数没有实施任何限制,这可能允许攻击者加载恶意文件并实现 RCE。Transformers版本 4.36 解决了该漏洞。

Huntr 社区的成员还发现ClearML中存在高严重性的存储跨站脚本 (XSS) 缺陷,ClearML 是一个用于在统一环境中自动化 ML 实验的端到端平台。

该问题被追踪为 CVE-2023-6778,是在项目描述和报告部分的 Markdown 编辑器组件中发现的,如果将未经过滤的数据传递给该组件,则允许注入恶意 XSS 有效负载,从而可能导致用户帐户泄露。

Protect AI 尚未公开有关严重性Paddle命令注入漏洞 (CVE-2024-0521) 的详细信息,该公司表示,所有漏洞均在报告发布前 45 天报告给项目维护人员。

本文转载自:

如若转载,请注明出处:

安全客 - 有思想的安全新媒体

分享到:微信
+10赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66