微软发布漏洞赏金计划,重点关注人工智能驱动的 Bing,奖金高达15000 美元

阅读量120679

发布时间 : 2023-10-13 10:37:40

微软宣布了一项新的人工智能赏金计划,重点关注人工智能驱动的 Bing 体验,奖励达到 15,000 美元。

利用人工智能驱动的 Bing 体验作为新漏洞赏金计划的第一个范围内产品,安全研究人员可以提交在以下合格服务和产品列表中发现的漏洞:

  • bing.com浏览器中由人工智能驱动的 Bing 体验  (支持所有主要供应商,包括 Bing Chat、Bing Chat for Enterprise 和 Bing Image Creator)
  • Microsoft Edge (Windows)中基于 AI 的 Bing 集成  ,包括 Bing Chat for Enterprise
  • Microsoft Start 应用程序( iOS 和 Android) 中人工智能驱动的 Bing 集成
  • Skype 移动应用程序(iOS 和 Android) 中人工智能驱动的 Bing 集成

微软在人工智能赏金计划的网站上解释道:“微软人工智能赏金计划邀请来自全球的安全研究人员来发现新的、创新的、人工智能驱动的 Bing 体验中的漏洞。合格的提交有资格获得 2,000 美元到 15,000 美元的赏金奖励。”  。

“识别 Bing 相关在线服务中的漏洞的提交将在 M365 赏金计划下予以考虑。所有提交的内容都会经过赏金资格审核,因此,如果您不确定您提交的内容适合哪里,请不要担心。”

 

漏洞类型 报告质量 严重性
批判的 重要的 缓和 低的
推理操作

$15,000
$10,000
$6,000
$6,000
$3,000
$2,000
$0 $0
模型操作

$15,000
$10,000
$6,000
$6,000
$3,000
$2,000
$0 $0
推理性信息披露

$15,000
$10,000
$6,000
$6,000
$3,000
$2,000
$0 $0

除了 Microsoft 人工智能系统漏洞严重性分类中概述的问题外,还鼓励研究人员报告导致以下情况的漏洞:

    • 跨用户边界改变 Bing 的聊天行为,即以可能影响所有其他用户的方式改变人工智能。
    • 通过更改客户端和/或服务器可见配置(包括更改调试和功能标志)来调整 Bing 的聊天行为。
    • 绕过 Bing 与交叉对话记忆和历史记录删除相关的安全措施。
    • 披露 Bing 的内部机制和提示、决策流程和机密信息。
    • 规避 Bing 聊天模式会话中的限制和规则。

该公司还强调了一系列超出范围的问题和漏洞类型,包括只会影响攻击者的问题和漏洞类型、一些模型幻觉攻击、不准确或令人反感的聊天响应等等。

MSRC 技术项目经理 Lynn Miyashita表示:“通过我们的错误赏金计划与安全研究人员合作是 Microsoft 保护客户免受安全威胁的整体战略的重要组成部分。”

“我们重视与全球安全研究界的合作伙伴关系,并很高兴能够扩大我们的范围,将人工智能驱动的 Bing 体验纳入其中。”

在最近的一篇赏金年度回顾博客文章中,微软表示,它  向全球 345 名安全研究人员支付了 1380 万美元的奖励,这些研究人员在 17 个不同的漏洞赏金计划中报告了 1,180 个漏洞。

去年,该公司 将本地 Exchange、SharePoint 和 Skype for Business 添加 到其错误赏金计划中,并 提高了 通过 Microsoft 365 计划报告的高影响安全缺陷的最高奖励。

本文由安全客原创发布

转载,请参考转载声明,注明出处: https://www.anquanke.com/post/id/290741

安全客 - 有思想的安全新媒体

分享到:微信
+10赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66