近日,国内数字安全领域中立的第三方调研机构数世咨询正式发布《安全优先的大模型——AI安全系列研究报告》(以下简称《报告》)。凭借在大模型领域的领先创新技术和解决方案,360数字安全集团成功入选安全优先的大模型推荐供应商。
大模型安全需求进入爆发期
随着大模型不断发展,人们逐渐认识到其价值并非模型本身,而在于其深度融合并改造业务场景的过程。以专业领域大模型为核心的大模型业务系统成为关键。大模型安全保护市场自2025年起进入需求爆发期,主要关注AI治理、数据安全、模型安全和基础设施安全四大方向。现阶段市场以合规为核心驱动,未来将转向“合规+业务”双轮驱动。
《报告》核心价值
《报告》基于对20余家安全能力厂商的深入调研,遴选出推荐供应商名单,旨在帮助用户全面了解大模型业务系统中的安全风险,为其在建设与运营过程中提供有价值的决策参考。
360的“以模制模”安全理念
作为国内领先的安全智能体厂商,360提出“以模制模”的思路,利用AI自身优势对抗AI安全风险。其大模型安全卫士解决方案聚焦AI安全“可靠、可信、向善、可控”四大核心问题:
1.“可靠”:聚焦模型基础安全问题,智能识别供应链开源软件漏洞和AI自身缺陷,实现模型资产闭环管理,保障系统环境安全;
2.“可信”与“向善”:针对模型原生安全挑战,借助幻觉抑制、内容安全防护等技术,保障输出真实可信、符合社会良善导向,应对误导和违规风险;
3.“可控”:强调智能体执行安全,通过身份认证、权限管控、异常识别等手段,防范数据泄露与越权操作,确保AI行动可控。
实践案例:杭州智慧政务
在杭州市数据局的大模型安全保障过程中,360方案实现了全面覆盖政务咨询、智能客服、政务信息检索、政策解读等智慧政务场景。系统日均检测不良内容1000余条,业务代答900余条,回复安全率超过99%,日均防护超过万次,形成“前置过滤—过程检测—结果处置”的闭环安全防护体系,有效保障了大模型输入与输出的全链路安全。
推动行业标准与生态建设
360积极推动AI安全行业发展,作为国家人工智能标准化大模型专题组联合组长单位,积极参与国标与安全框架的制定,并牵头发起大模型安全联盟,打造资源共享、共创共赢的生态集群。未来,360将继续深化生态协作,为AI时代的可持续发展注入强劲动力,助力构建更可信赖的智能世界。
发表评论
您还未登录,请先登录。
登录