美国国土安全部宣布与 OpenAI 创始人、微软、英伟达、IBM 首席执行官一起成立人工智能安全委员会

阅读量24843

发布时间 : 2024-04-28 10:32:34

美国国土安全部宣布成立新的人工智能安全委员会,旨在指导人工智能在美国关键基础设施中的使用。

国土安全部部长亚历杭德罗·马约卡斯 (Alejandro Mayorkas) 周五在媒体电话会议上表示,该委员会将就如何最好地管理人工智能在16 个关键基础设施领域的部署方式向该部门提供建议,“从国防到能源运输、信息技术、金融服务、食品和服务”。农业等等。”

人工智能可以成为“提高关键基础设施提供的所有服务的效率和质量的极其强大的力量。与此同时,我们认识到错误使用它可能会产生极大的破坏性影响,”马约卡斯告诉记者。

他说,成员将包括科技公司、关键基础设施实体、学术界和政府机构的代表,以及“民权、公民自由和隐私社区的领导人”。

该委员会的任务是为负责任的人工智能使用和防御该技术制定“实用”建议、指南和最佳实践,但马约卡斯对国土安全部防御人工智能关键基础设施或使用人工智能保护它的具体方式守口如瓶。该部门计划在未来发布公告,更全面地解释董事会的目标。

成员名单包括OpenAI首席执行官Sam Altman和NVIDIA首席执行官黄仁勋;西雅图市长布鲁斯·哈勒尔和马里兰州州长韦斯·摩尔;以及民权领袖和学者,如民权与人权领袖会议主席玛雅·威利 (Maya Wiley) 和人道情报公司首席执行官鲁曼·乔杜里 (Rumman Chowdhury)。

Alphabet、亚马逊网络服务、达美航空、IBM、Adobe、Northrop Grumman 和 Advanced Micro Devices (AMD) 的首席执行官也在董事会中。

国土安全部表示,总统乔·拜登指示马约卡斯成立了一个由 22 人组成的委员会,该委员会将于 5 月首次召开会议,每季度举行一次会议。

除了可行的建议外,国土安全部表示,该委员会还将允许关键基础设施社区和人工智能领导者“分享有关人工智能带来的安全风险的信息”。

威胁意识
马约卡斯在新闻发布会上提到了人工智能的优点和缺点,并指出国土安全部已使用人工智能来创建失踪儿童的渲染图,以了解孩子 5-10 年后的样子。但国土安全部调查人员也处理了人工智能创建的儿童色情制品调查,说明了人工智能光谱的两端。

在新闻发布会上,马约卡斯被问及关于1 月份初选之前在新罕布什尔州发出的人工智能生成的以拜登为主角的虚假机器人电话的情况。他表示,这一事件是需要该委员会的原因,并表示他已经与专家就“浅层造假”(而不是深度造假)进行了对话,其中恶意行为者可以对视频和图像进行轻微更改以改变信息,特别是在未来2024 年总统选举。

国土安全部还指出,人工智能是其 2024 年国土威胁评估报告的主要部分,该部门警告说,敌对的民族国家行为者已经在部署人工智能辅助工具来威胁关键基础设施。

报告称,人工智能技术“有可能对管道、铁路和其他美国关键基础设施等目标进行更大规模、更快、更高效、更隐蔽的网络攻击。”它还得出结论,包括中国在内的民族国家正在开发“其他可能破坏美国网络防御的人工智能技术,包括支持恶意软件攻击等恶意活动的生成式人工智能程序”。

新董事会成员的声明反映了人工智能的双重性,一些人吹捧其创新用途,另一些人则警告其巨大的潜在危害。达美航空首席执行官埃德·巴斯蒂安表示,人工智能已经被用于处理机组资源、湍流保护等流程。

但曾竞选纽约市市长的威利指出,这也“构成了巨大的威胁,包括网上偏见和仇恨言论的传播,在我们的有色人种社区中煽动恐惧、不信任和仇恨。

该委员会是国土安全部和美国政府为对人工智能提供可靠监督而做出的更大努力的一部分。 。今年 3 月,国土安全部公布了一份路线图,详细说明了该部门计划如何部署人工智能,拜登在 10 月发布了一项有关人工智能的行政命令,命令该部门“促进在全球范围内采用人工智能安全标准,保护美国网络和关键基础设施,降低风险”。人工智能可用于制造大规模杀伤性武器、打击与人工智能相关的知识产权盗窃、帮助美国吸引和留住技术人才等任务。”

国土安全部还在2 月份宣布计划聘用 50 名人工智能专家,并任命埃里克·海森 (Eric Hysen) 为首位首席人工智能官。

本文转载自:

如若转载,请注明出处: https://therecord.media/dhs-artificial-intelligence-safety-security-board-announcement

安全客 - 有思想的安全新媒体

分享到:微信
+12赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66