ChatGPT将引发网络安全三大革命

阅读量121592

发布时间 : 2023-02-01 14:43:09

 

自从2022年11月30日OpenAI首公测ChatGPT至今,短短三个月内,大量参与测试的网络安全专业人士对生成式人工智能的看法从最初的不屑和傲慢,变成了今天的兴奋甚至恐惧。

毫无疑问,ChatGPT对于网络安全有着革命性的意义。已经有无数例子说明ChatGPT有能力改变各种黑帽子游戏规则。在首个公开的概念验证中,纽约大学教授Brendan Dolan-Gavitt使用ChatGPT来利用缓冲区溢出漏洞。其他安全专家的ChatGPT应用案例包括以闪电般的速度编写恶意软件以及制作令人信服、语法正确的网络钓鱼电子邮件。

人工智能在网络安全领域的武器化并不新鲜,但ChatGPT最让人兴奋的是它有望解决困扰网络安全行业多年的难题:人才和技能短缺问题。目前网络安全行业在网络安全技能(即专业化)的广度和深度方面都缺乏足够的人才。以下,是ChatGPT将在2023年深刻改变网络安全行业的三种方式。

1、撬动众包威胁情报

很长一段时间以来,网络安全行业的圣杯之一是成功实施众包威胁情报。众包情报的重要价值在于能够看到具体垂直行业内大量公司正在发生的事情。不幸的是,众包情报最大的障碍是组织之间缺乏共享情报的信任(编者:难以打破的纳什均衡)。这也是困扰各行业信息共享和分析中心(ISAC)多年的难题。

未来,ISAC可以使用其自然语言界面对ChatGPT模型进行迭代,并基于组内的隐式信任向其提供ISAC成员提交的日志数据。然后,ISAC可以使用ChatGPT关联网络连接、恶意IP地址和域的类别以及类似行为。结果可能会产生一组IDS规则,ISAC成员通过实施这些规则来保护自己免受威胁。ISAC还将深入了解其所代表行业的整体风险状况。

2、大幅提高安全运营能力和效率

人才和预算短缺正在成为CISO面临的最大难题,而ChatGPT则有望帮助企业充分利用现有资源,大大提高安全运营效率和能力。因为ChatGPT可以让安全分析师完成过去需要多人完成的工作。

安全通才和入门级员工可以描述他们在警报和检测中看到的内容,然后要求ChatGPT破译他们的观察结果,以快速启动分类流程。一个具体的例子是帮助安全从业者每天对可疑的恶意代码进行去混淆处理,这通常需要一个小时或更长时间。而在ChatGPT的帮助下,这个工作现在可以在几秒钟内完成。

ChatGPT还具有改变事件响应的潜力。团队可以使用现有模型和自然语言处理来提供有关事件的所有可用数据,并描述潜在响应的基本原理。然后,ChatGPT可以立即证明或证伪有关攻击的假设。如今,在ChatGPT的帮助下,只需要一名事件响应负责人、一名工程师和几名分析师花费数天的时间就能完全解决一个事件。可以预见,在不久的未来,企业安全运营中心的事件响应流程甚至根本不需要分析师!

3、将恶意软件攻防提高到一个新的水平

如今,虽然攻击者每年生成1亿个新的恶意软件样本,但这些样本都需要手动编码,所以仍然是一个有限的、可管理的签名检测量。然而,借助ChatGPT,黑客甚至不需要编码就可以生成一个恶意软件的数十万次迭代。

这意味着安全防御者必须尽快重新计算检测引擎的机器学习模型,因为不久的将来,需要处理的恶意软件检测数据集的规模要大得多。幸运的是,ChatGPT同样也是防御方的利器,它将加强逆向工程能力,大大提高反恶意软件工作的效率。

例如,一个重大的逆向工程挑战是通用文件名,此类文件名不提供样本来源的任何上下文信息。这需要更多的手动工作来识别其所针对的系统。不同样本的二进制汇编代码会有一些细微的变化,决定其分析结果——例如,它是为32位还是64位架构编写的?系统使用的是Little Endian还是Big Endian?这个结果决定了研究人员阅读机器语言的方向(向前或向后)。

如果没有上下文,所有这些分析都需要反复试错。而ChatGPT可以惊人的速度运行这些迭代,并为逆向工程师提供最终的汇编语言并从那里进行处理。甚至,你想工程师还可以让ChatGPT以自然语言告诉他们恶意软件在做什么。更重要的是,ChatGPT可以大规模执行所有这些操作,分析数十万个二进制样本并向分析师提供分析观点。

ChatGPT还可以帮助防御者攻克恶意软件常见的反逆向技术。例如,恶意软件通常包含嵌套循环等反逆向工程技术,使逆向工程师更难跟踪正在发生的事情和最终状态。ChatGPT可以比人类更快地解决这个问题。它还可以分析恶意软件的遗传代码,查看可能存在代码重用的位置,以便更快地识别开发者的指纹。

本文转载自: GoUpSec

如若转载,请注明出处: https://mp.weixin.qq.com/s/7D6hlaYkzZWLsxfN9l8yrw

安全客 - 有思想的安全新媒体

分享到:微信
+10赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66