趋势科技(Trend Micro)正准备推出一套新的安全功能套件,旨在帮助组织管理人工智能应用带来的风险。Trend Vision One AI 安全包 旨在提供跨人工智能应用全生命周期的集中式暴露管理和分析。
已识别的 AI 风险
组织正在快速采用 AI 技术,但许多组织缺乏工具来监控 AI 系统如何处理信息、做出决策,或如何被网络攻击者盯上。现有的安全工具,例如那些保护端点、网络和云资源的工具,并非为解决 AI 特有的漏洞(如提示注入或数据投毒)而开发。
新套件旨在通过支持从早期模型开发到生产使用的全程保护来弥补这些差距。随着 AI 日益融入业务流程,这种扩展的覆盖范围旨在为组织提供更好的监督。
技术特性
AI 安全包包括 AI 应用安全,由 AI 扫描器提供支持,该扫描器能够持续监控模型漏洞并部署自动化防护措施以最小化风险。该解决方案形成一个“闭环”系统,旨在检测、评估和响应特定于 AI 应用的威胁。
该公司还在其现有产品组合中引入了新功能,例如针对多云环境的无代理漏洞扫描、对 Kubernetes 的额外支持,以及云存储系统中的实时恶意软件检测。这些增强功能旨在减少手动开销,并确保在软件开发和部署过程中一致的策略执行。
行业担忧
尽管对 AI 相关风险的认识不断扩大,但世界经济论坛的一份报告发现,只有 37% 的组织在部署前会对 AI 系统进行安全筛查。该报告还强调,现在数据泄露的平均成本超过 440 万美元。
安全专家强调,随着公司在其运营中实施基于 AI 的解决方案,全面治理和持续监督至关重要。
趋势科技 ANZ 区域首席技术官 Mick McCluney 表示:“没有监督的创新是企业承担不起的风险。我们的目标是为 AI 安全和防护措施提供基础,使 AI 转型与安全和信任保持一致。通过从一开始就遵循这些原则,随着 AI 成为其增长的核心,组织可以充满信心地前进。”
集成管理
该套件配备了 AI 安全蓝图 和 风险洞察仪表板,以可视化风险态势并指导整个 AI 开发流程中的合规工作。它提供实时监控、威胁警报和全栈风险可见性,以增强开发团队和安全团队之间的协作。
其他更新包括用于可扩展文件安全操作的基于 Kubernetes 的云架构,以及与原生日志源的集成,以提高事件检测和响应能力。零信任安全功能也扩展到生成式 AI 工具,允许管理员对员工访问和潜在数据泄露进行精细控制。
行业评论
行业分析师强调了覆盖整个 AI 应用生命周期的保护框架的必要性。
Omdia 首席分析师 Dave Gruber 表示:“随着组织竞相通过在其整个运营环境中使用 AI 来获得优势,大多数组织在 AI 安全和治理的许多方面都面临重大风险。缓解这些风险需要在模型和应用开发、部署和使用的整个过程中进行全面的可见性和治理。”








发表评论
您还未登录,请先登录。
登录