网络蠕虫潜入人工智能核心:一种新病毒迫使 Gemini 和 ChatGPT 攻击自己

阅读量49499

发布时间 : 2024-03-08 10:49:11

由以色列理工学院、Intuit 和康奈尔理工大学的科学家领导的一项联合研究开发并测试了一种能够攻击流行人工智能模型的新型计算机蠕虫。我们谈论的是Gemini Pro(以前称为 Bard AI)、ChatGPT和 LLaVA 等系统。这一令人震惊的发现引发了人们对人工智能系统安全性的日益担忧。

该蠕虫是一种零点击攻击程序。它能够在没有任何用户交互的情况下传播和执行恶意操作。

通过检查此类技术可能被恶意使用的情况,研究人员证实了 欧洲刑警组织 去年发出的警告。当时,专家们注意到了与即时工程和聊天机器人黑客攻击相关的风险。

根据实验结果,该蠕虫迫使神经网络重现恶意输入数据并执行潜在危险的操作。在一次演示中,他攻击了旨在处理电子邮件的人工智能助手,窃取电子邮件数据并发送垃圾邮件。

恶意代码被插入信件文本中,导致电子邮件客户端数据库“中毒”。结果,连ChatGPT、Gemini这样的知名模型也开始重现恶意命令。

在他们名为ComPromptMized 的 工作中 ,科学家们研究了各种场景。使用黑盒和白盒方法,并针对不同类型的数据(文本和图像)测试蠕虫的有效性。结果凸显了此类攻击对不断发展的生成式人工智能生态系统构成的潜在威胁。

这种威胁的规模超出了理论上的范围。随着越来越多的公司将生成式人工智能功能集成到其应用程序中,被利用的风险变得更加真实和有形。

Synopsys 软件完整性集团的人工智能和 SAST 高级总监 Beth Linker 强调了正在进行的工作的重要性:“这次攻击清楚地表明,由生成式人工智能驱动的主动代理可能成为恶意利用的目标。随着使用神经网络的新工具的出现,承诺“对于组织来说,仔细考虑他们授予这些工具的权限并实施强有力的保护措施至关重要。”

虽然科学工作为现代生成人工智能系统的漏洞提供了宝贵的见解,但它也呼吁跨学科的所有各方采取行动。

 

本文转载自:

如若转载,请注明出处:

安全客 - 有思想的安全新媒体

分享到:微信
+16赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66