英国人工智能安全研究所推出加速安全人工智能发展的平台

阅读量37228

发布时间 : 2024-05-13 11:19:42

英国人工智能安全研究所已于 2024 年 5 月 10 日向全球人工智能社区开放其人工智能测试和评估平台。
据人工智能安全研究所和科学、创新与技术部 (DIST) 称,该平台名为 Inspect,旨在为人工智能模型的安全创新铺平道路。
该研究所表示,通过向全球社区提供 Inspect,它正在帮助加快国际上开展的人工智能安全评估工作。目的是更好地进行安全测试并开发更安全的模型。
它还允许在世界各地采用一致的人工智能安全评估方法。据政府称。
Inspect 是一个软件库,使测试人员(从初创企业、学术界、人工智能开发人员到国际政府)能够评估各个模型的特定功能,然后根据结果给出分数。
Inspect 可用于评估一系列领域的模型,包括其核心知识、推理能力和自主能力。通过开源许可证发布,这意味着 Inspect 现在可以免费供 AI 社区使用。
AI 安全研究所主席 Ian Hogarth 评论道:“我们受到了一些领先的开源 AI 开发人员的启发,尤其是 GPT-NeoX、OLMo 或 Pythia 等项目,这些项目都拥有公开可用的训练数据和 OSI 许可的训练和评估代码、模型权重和部分训练的检查点。这是我们回馈社会的努力。”
“我们希望看到全球人工智能社区不仅使用 Inspect 进行自己的模型安全测试,而且帮助适应和构建开源平台,以便我们能够全面进行高质量的评估。”
英国首相 Rishi Sunak 于 2023 年 11 月在英国布莱切利公园举行的人工智能安全峰会上宣布成立英国人工智能安全研究所。
当时,苏纳克表示,英国政府对这个新实体的目标是使其成为一个全球中心,负责测试新兴人工智能类型的安全性。

本文转载自:

如若转载,请注明出处: https://www.infosecurity-magazine.com/news/platform-to-accelerate-safe-ai/

安全客 - 有思想的安全新媒体

分享到:微信
+10赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66