Morris II:第一个人工智能蠕虫病毒发布

阅读量13501

发布时间 : 2024-03-05 12:07:45




OpenAI 和 Google 的模型正受到攻击。行业巨头能够保护他们的用户吗?

在 一项新的研究中, 一组科学家展示了一种首创的恶意人工智能蠕虫的创建,它可以在生成人工智能代理之间自动传播,从而为潜在的数据盗窃和垃圾邮件打开了大门。这一突破指出了一种可以在互联、自主的人工智能生态系统中进行的新型网络攻击。

康奈尔理工学院 的研究人员(包括 Ben Nassi、Stav Cohen 和 Ron Bitton)开发了一种名为 Morris II 的蠕虫病毒,该蠕虫病毒以 1988 年在互联网上造成严重破坏的最初的 Morris 计算机蠕虫病毒命名。专家的实验表明,这种蠕虫病毒如何攻击基于人工智能的电子邮件助手,窃取电子邮件数据并发送垃圾邮件,同时违反ChatGPT和Gemini系统中的一些安全措施。

该研究特别关注“敌意的自我复制查询”,它迫使人工智能模型在其响应中生成新的查询。研究人员表示, 这种技术让人想起SQL 注入和缓冲区溢出等传统攻击。

为了展示蠕虫病毒的能力,研究人员创建了一个电子邮件系统,可以使用生成式人工智能发送和接收消息,连接到 ChatGPT、Gemini 和名为 LLaVA 的开源模型。专家们发现了操作系统的两种方法:使用基于文本的自复制查询和在图像中嵌入自复制查询。

该研究强调,生成式人工智能蠕虫是初创公司、开发商和科技公司应该关注的新兴安全风险。尽管生成型人工智能蠕虫尚未在野外被发现,但安全专家认为,它们未来出现的风险相当高。

研究人员向谷歌和 OpenAI 报告了他们的发现,强调需要开发更强大的安全系统,并警告开发人员不要使用恶意输入。谷歌拒绝对这项研究发表评论,而 OpenAI 发言人则指出,该公司正在努力增强其系统对此类攻击的抵御能力。

一些防范潜在人工智能蠕虫的方法已经存在,例如使用传统的安全方法以及确保人类参与人工智能代理的决策过程。专家强调开发安全应用程序和监控以防止此类威胁的重要性。


分享到:微信
+16赞
收藏
ISC6196381205
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66