微软推出 PyRIT——评估人工智能风险的工具

阅读量33397

发布时间 : 2024-02-26 10:38:26

微软的一款新实用程序将对人工智能进行严格的压力测试。

微软推出了一款用于 在人工智能系统中 自动进行风险评估的新工具,称为 PyRIT (Python 风险识别工具)。这一开发旨在主动识别生成人工智能系统中的潜在威胁,使世界各地的组织能够安全地集成人工智能的最新进展。

该工具可用于评估大型语言模型对各种威胁(包括创建不准确信息和禁止内容)的稳健性。此外,PyRIT 能够检测恶意软件创建和系统黑客等安全威胁,以及身份盗窃等隐私威胁。

微软强调,PyRIT 并不是取代 AI 系统的手动分析,而是补充安全团队的现有技能。该工具有助于识别人工智能操作中最有问题的领域,生成数十个查询并显着节省专家的时间。

PyRIT 出现在 Protect AI最近的一份报告 中,研究人员在流行的 AI 供应链平台(例如 ClearML、Hugging Face、MLflow 和 Triton Inference Server)中发现了多个关键漏洞,这些漏洞可能导致任意代码执行和敏感信息泄露。

因此,在神经网络模型的使用快速增长以及人工智能系统漏洞报告众多的背景下,新的微软工具将允许组织有效评估所有可能的风险,并避免因数据泄露或模型偏差而造成的声誉损失。

 

本文转载自:

如若转载,请注明出处:

安全客 - 有思想的安全新媒体

分享到:微信
+16赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66