趋势科技:人工智能的犯罪用途不断增长,但落后于防御者

阅读量40124

发布时间 : 2024-05-10 11:41:21

在本周于旧金山举行的 2024 年 RSA 会议上,趋势科技周三发布了 2023 年对 gen-AI 犯罪使用调查的最新情况。 “剧透:犯罪分子在人工智能的采用方面[仍然]落后。”

综上所述,趋势科技只发现了一个犯罪的LLM:WormGPT。相反,越来越多的越狱服务出现,因此其潜在用途也越来越多:EscapeGPT、BlackHatGPT 和 LoopGPT。 (RSA 演示由单独的趋势科技博客支持。)

还有越来越多的“服务”的目的不明确。这些不提供演示,仅提及其假定的功能:声称很高,但证据很少。 FraudGPT 就是一个例子。

欺诈GPT

Trend 不确定这些产品的相关性或价值,并将它们置于一个单独的类别中,标记为潜在的“诈骗”。其他示例包括 XXX.GPT、WolfGPT、EvilGPT、DarkBARD、DarkBERT 和 DarkGPT。

简而言之,犯罪分子在不诈骗其他犯罪分子的同时,专注于使用主流人工智能产品,而不是开发自己的人工智能系统。这也体现在人工智能在其他服务中的使用中。 Predator 黑客工具包括 GPT 功能,使用 ChatGPT 来帮助诈骗者的文本创建能力。

越来越多的 Deepfake 服务也体现了这一点。特伦德说:“总的来说,创建足以进行广泛攻击的深度伪造变得非常容易且计算成本低廉,目标受众对被模仿的主题不太了解。” 

语音深度伪造可以支持图像或视频深度伪造。结果足以愚弄那些对被冒充者知之甚少的人,因此服务往往集中在创建虚假账户的 KYC 元素上。

尽管目前还没有对人工智能进行大规模犯罪利用,但趋势研究人员强调,有迹象表明这种情况可能会改变。犯罪分子的首要任务是学习如何使用人工智能,而不改变进化而非革命的偏好,获得最大的努力回报,并保持对执法部门的隐藏。

第一个原则解释了缺乏紧迫感的原因。人工智能是革命性的,犯罪分子不愿意放弃现有的成功方法,宁愿融入人工智能,也不愿跳入人工智能领域。最大努力回报原则解释了刑事LLM的缺乏:当现有方法已经非常成功时,为什么还要花费时间、精力和金钱来开发新方法?第三个原则解释了越狱服务的增长。

越狱服务允许犯罪分子使用现有的 LLM(目前几乎完全是 ChatGPT),而被跟踪和追查的可能性极小。 Microsoft 和 OpenAI 已经展示了根据问题内容和源 IP 位置来分析 ChatGPT 的 APT 使用情况的能力。 

“同样,”趋势研究人员告诉《安全周刊》,“虽然由于调查量较小而不太容易,但可以对犯罪团伙进行分析。犯罪分子不愿意直接使用 ChatGPT 或 Gemini 等服务,因为它们可能会被暴露和追踪。这就是为什么我们看到地下犯罪分子提供基本上是代理服务的内容,试图解决匿名、隐私和LLM周围的所有痛点。这些越狱服务使犯罪分子可以通过被盗帐户匿名访问LLM。”

目前,新的越狱技术的开发速度比 LLM 护栏的开发速度还要快。随着人工智能技术的快速发展,这种情况可能不会持续下去。

当主要LLM的越狱变得过于困难时,我们可能会看到犯罪用途的新演变。我们目前看到的并不是网络犯罪分子对人工智能的拒绝,甚至也不是缺乏理解,而是对其能力进行了谨慎而有条理的纳入。这可能会加快步伐,并最终包括直接使用专门的刑事LLM。

研究人员表示:“我们的期望是,我们目前看到的服务将变得更加复杂,并且可能会采用不同的LLM。”目前,ChatGPT 在使用和性能方面都是市场领先者,但其他法学硕士正在改进,这种情况可能不会持续下去。 HuggingFace 已经拥有超过 6,700 名法学硕士。这些模型往往更小、更专业,但 Trend 表示,“它们是 ChatGPT 和 Gemini、Anthropic 和 Mistral 的竞争对手。”

犯罪分子可以选择并下载它们。研究人员表示:“我们正在慢慢进入这个时代,犯罪分子可能不再需要依赖开放人工智能。我们可以期待这一点。到目前为止,我们只看到了 LLM 的基本用途,即大规模生成网络钓鱼活动。但这些工具的用途还有很多。”

他们怀疑改进的深度伪造可能是最早的应用之一。 “我们已经开始了解如何将深度伪造应用到实际场景中,例如绕过“了解你的客户”验证。这可能会导致另一场猫鼠游戏,金融机构将被迫寻找更好的方法来验证用户身份,而犯罪分子将找到新技术来逃避用户验证,例如利用更复杂的深度伪造技术。”

但趋势科技仍然没有加入悲观的人工智能场景。 “自去年第一次评估以来的几个月里,我们认为可能会出现一些新的突破或真正具有颠覆性的东西。我们还没有看到这一点。人工智能的犯罪应用仍然远远落后于行业应用。它们速度较慢,因为它们可能不需要它——为什么要冒着向已经有效的方法引入新的复杂性和未知因素的风险呢?这是需要说的。”

在犯罪分子和防御者之间的整体人工智能猫鼠游戏中,防御者目前占据优势。

本文转载自:

如若转载,请注明出处: https://www.securityweek.com/criminal-use-of-ai-growing-but-lags-behind-defenders/

安全客 - 有思想的安全新媒体

分享到:微信
+10赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66