英特尔披露其人工智能模型压缩软件中的最大严重错误

阅读量53765

发布时间 : 2024-05-20 11:53:39

英特尔披露了其用于人工智能模型压缩的英特尔神经压缩软件的某些版本中存在一个最严重的漏洞。

该漏洞编号为CVE-2024-22476,为未经身份验证的攻击者提供了一种在运行受影响软件版本的英特尔系统上执行任意代码的方法。该漏洞是该公司本周在41 个安全公告中披露的数十个缺陷中最严重的一个。

输入验证不当
英特尔将 CVE-2024-22476 确定为源于不正确的输入验证或未能正确清理用户输入。该芯片制造商在 CVSS 等级上给该漏洞最高评分为 10 分,因为该漏洞可远程利用,复杂性较低,并且对数据机密性、完整性和可用性有很大影响。攻击者不需要任何特殊权限,也不需要用户交互即可利用漏洞。

该漏洞影响 Intel Neural Compressor 2.5.0 之前的版本。英特尔建议使用该软件的组织升级到版本 2.5.0 或更高版本。英特尔的通报表明,该公司从外部安全研究人员或该公司未透露身份的实体处获悉该漏洞。

英特尔神经压缩器是一个开源 Python 库,可帮助压缩和优化计算机视觉、自然语言处理、推荐系统和各种其他用例等任务的深度学习模型。压缩技术包括神经网络修剪——或删除最不重要的参数;通过进程调用量化减少内存需求;并将较大的模型提炼为性能相似的较小模型。 AI 模型压缩技术的目标是帮助在各种硬件设备上部署 AI 应用程序,包括那些计算能力有限或受限的硬件设备,例如移动设备。

众多之一
CVE-2024-22476 实际上是英特尔本周披露的神经压缩器软件中的两个漏洞之一,并发布了修复程序。另一个是CVE-2024-21792,这是一个检查时间使用时间 (TOCTOU) 缺陷,可能导致信息泄露。英特尔评估该缺陷仅带来中等风险,因为除其他外,它要求攻击者已经对易受攻击的系统具有本地、经过身份验证的访问权限才能利用它。

除了神经压缩器缺陷之外,英特尔还披露了其服务器产品 UEFI 固件中的五个高严重性提权漏洞。英特尔的公告将所有漏洞(CVE-2024-22382、CVE-2024-23487、CVE-2024-24981、CVE-2024-23980和CVE-2024-22095)列为输入验证缺陷,严重程度评分范围从7.2到7.2 CVSS 量表为 7.5。

新出现的人工智能漏洞
神经压缩器漏洞是安全分析师最近描述的人工智能软件和工具在企业组织中创建的不断扩大但经常被忽视的攻击面的例子。到目前为止,围绕人工智能软件的许多安全问题都集中在使用大型语言模型和支持 LLM 的聊天机器人(如 ChatGPT)的风险上。在过去的一年里,研究人员发布了大量关于这些工具对模型操纵、越狱和其他几种威胁的敏感性的报告。

到目前为止,不太受关注的是用于构建和支持人工智能产品和平台的一些核心软件组件和基础设施的漏洞给组织带来的风险。例如,Wiz 的研究人员最近发现了广泛使用的HuggingFace 平台的漏洞,该平台为攻击者提供了篡改注册表中的模型或相对轻松地将武器化模型上传到该平台的方法。英国科学、创新和技术部最近委托进行的一项研究发现,从软件设计阶段到开发、部署和维护,人工智能技术在每个生命周期状态都存在许多潜在的网络风险。这些风险包括未能进行足够的威胁建模、在设计阶段未考虑安全身份验证和授权来编码漏洞、不安全的数据处理、不充分的输入验证以及一长串其他问题。

本文转载自:

如若转载,请注明出处: https://www.darkreading.com/cyber-risk/intel-discloses-max-severity-bug-in-its-ai-model-compression-software

安全客 - 有思想的安全新媒体

分享到:微信
+12赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66