人工智能+数字安全,稳了!

阅读量159166

发布时间 : 2024-03-13 11:16:20

2024年政府工作报告中提出,要深入推进数字经济创新发展。制定支持数字经济高质量发展政策,积极推进数字产业化、产业数字化,促进数字技术和实体经济深度融合。深化大数据、人工智能等研发应用,开展“人工智能+”行动,打造具有国际竞争力的数字产业集群。

“人工智能+”上升为一种行动,意味着国家将加强顶层设计,加快形成以人工智能为引擎的新质生产力。人工智能与数字化技术“+”,与数字经济下百行千业的业务场景“+”,作为数字经济发展的底座和基石,数字安全更应首当其冲, 共创“+”绩!

人工智能赋能数字安全的攻与防

2023年,以ChatGPT为代表的生成式人工智能开启AIGC元年,2024年,大模型进入落地应用元年。与其他“人工智能+”行业不同,在安全行业,人工智能不仅会对于安全产品和服务本身带来改变,而且能够通过降低安全攻击门槛带来行业总需求的提升,攻防两端,人工智能都在驱动着。

AI+

攻击门槛降低,安全风险显现

以ChatGPT为代表的生成式人工智能技术可以快速生成钓鱼邮件、编写恶意软件代码等,大大降低了网络攻击的技术门槛和成本,进而导致攻击数量激增。据Darktrace数据,生成式人工智能技术导致网络邮件钓鱼邮件攻击增长135%。

对于攻击者来说,机器学习、深度学习等技术使网络攻击趋向自动化、智能化和武器化,提高了攻击的数量、复杂程度和被检测难度。同时,网络攻击服务化、勒索即服务等普及,降低了对于攻击者自身能力的要求:不需要拥有太高黑客技能也可以通过购买获得攻击工具。

如何应对利用AI技术进行的网络攻击,成为“人工智能+数字安全”一大考题。

AI+

防守能力提升,运营降本增效

在安全防护体系中,防火墙、终端等单点安全产品往往已经具备了较高的自动化水平,安全运营本身却成为自动化程度最低的一环:传统安全设备供应商众多,数据混杂,协作困难;处置流程自动化程度低,面对告警风暴防御效果大打折扣;攻击方使用大模型后,威胁升级,对安全人员的防御能力提出新的要求,安全运营工作效率和效果的提升陷入瓶颈。

人工智能+数字安全,让安全行业拥抱大模型,以智能对抗智能,以AI赋能防守,用大模型拉通割裂的产品、用大模型发挥资深专家的研判分析能力、用大模型逐步落地自动化安全运营,实现了安全能力和运营效率的双重提升。

\ | /

在安全能力上,对于经验不足的安全运维新手,大模型生成能力和专家经验,可以帮助他们快速提升运营能力,掌握运营技能以迅速达到中高级安全人员处置水平,从一线运营迅速成为安全专家,降低安全运营门槛;

\ | /

在运营效率上,大模型帮助安全人员自动执行数据收集、提取、告警降噪等重复且繁琐的基础工作,同时通过自然语言提示实现检测、调查或响应工作流程,将处置响应时间从数天或数小时缩短到分钟级甚至秒级,大大降低安全运营的时间和人力成本。

大模型安全和安全大模型同样重要

大模型是一把双刃剑,在提高生产力的同时也带来了风险。大模型的安全,是保障人工智能技术可持续发展、实现广泛应用的重要基础,对确保人工智能系统的可靠性和安全性意义重大,更需国家和企业重点应对和保障。

与人工智能自身相关的安全问题在不断演进,人工智能的算法发展带来数据投毒攻击、恶意样本攻击等新安全挑战;生成式人工智能在对话交互过程中存在数据非法获取、泄露、滥用等问题;随着AI技术滥用,AI欺诈等新安全威胁也在持续增加。

如何保证AI和大模型的安全性,也成为“人工智能+数字安全”领域的又一重要考题。

躬身入局

下好“人工智能+数字安全”先手棋

作为国内唯一兼具数字安全和人工智能双重能力的企业,360躬身入局探索人工智能+数字安全实践。在国家级安全能力基础上,打造原生安全的通用人工智能大模型360智脑,并以智脑为核心打造企业级AI解决方案,通过“小切口,大纵深”,推动大模型垂直化、产业化落地。

\ | /

在大模型安全方面,360基于“安全、向善、可信、可控”原则,保障大模型在训练和运行阶段安全。同时,支持行业级垂直大模型深度定制,将大模型与企业业务场景相结合,打造企业专属大模型和个人助手、智能体应用,在保障大模型安全的前提下真正发挥大模型价值。

\ | /

提及安全大模型,360开放国家级安全能力,打造国内首个可交付的安全行业大模型“360安全大模型”,并赋能全线产品矩阵。360安全大模型已经可以高效便捷地完成安全问题咨询、态势指标分析、安全事件处理、攻击威胁溯源等工作。

数字经济的底座是数字安全,顶峰是人工智能,360以大模型安全的全流程解决方案和安全大模型来平衡这两端,以“人工智能+数字安全”两条主线,驱动新质生产力安全发展,助力百行千业数转智改,为数字中国和网络强国建设贡献力量!

本文由安全客原创发布

转载,请参考转载声明,注明出处: https://www.anquanke.com/post/id/293884

安全客 - 有思想的安全新媒体

分享到:微信
+121赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66