GPT-4搬上政府绝密云!美国间谍机构率先创建隔离的绝密生成式人工智能服务

阅读量25740

发布时间 : 2024-05-09 10:09:59

微软5月7日宣布,已在隔离的、气隙的Azure政府绝密云中部署了GPT-4大型语言模型,供国防部使用。一旦该工具获得认可,五角大楼官员将能够在安全的环境中使用该技术。中央情报局跨国与技术任务中心助理主任希塔尔·帕特尔(Sheetal Patel)上个月在一次安全会议上,CIA正在展开一场将生成式人工智能应用到情报数据上的竞赛。帕特尔说,第一个使用生成式人工智能来获取情报的国家将赢得这场竞赛,希望这个国家是是他们美国。
绝密AI系统将极大赋能情报界
情报界一直迫切需要类似 ChatGPT 的产品,但生成式 AI 产品的安全风险太高。查佩尔告诉彭博社,上周四部署的这个模型是安全的,这要归功于将其与互联网隔离的“气隙”云环境。
在由特别竞争研究项目主办的人工智能博览会上,微软战略任务和技术首席技术官威廉·查佩尔在场外接受采访时告诉DefenseScoop,“当你连接到互联网时,你总是必须防御人们的探查和试图造成严重破坏。所以现在你已经有了一个孤立且气隙的环境……。现在我们第一次拥有了在非机密方面、在[绝密]环境中所拥有的能力。因此,你在这里看到的所有工具,人们使用它,现在都可用于这些类型的[绝密]用途,”他说,这项技术将帮助国防部官员处理大量数据。
这是关于“确保您在正确的时间获得正确的信息。因此,无论是地理空间还是任何数量的数据,我们都在数据中游泳,我们到处都有传感器。您如何真正理解组织内的信息?无论是提案还是我们都必须做的各种不同类型的文书工作——您如何简化以及如何排序……以任务为中心的数据,还是更以后台和人力资源为中心的数据?”
微软是OpenAI的主要投资者,OpenAI是GPT-4和流行的ChatGPT的制造商。
五角大楼官员的目标是利用大型语言模型等生成式人工智能功能,但他们希望获得不会将机密信息暴露给未经授权的个人的解决方案。他们还希望能够定制能力来满足国防部的独特需求。
借助Microsoft通过Azure OpenAI服务在Azure Government Top Secret中部署的GPT-4功能,“他们可以对其进行微调,他们可以添加自己的数据,他们可以做很多事情……他们将在此基础上构建独特的工作流程其中,具体到他们的使命,”查佩尔说。
“在我看来,OpenAI是同类中最好的。然后我们构建了安全Copilot,我们构建了M 365 Copilot……然后从商业领域、我们的产品套件中提取隐藏在幕后的智能,然后让政府可以构建类似类型的应用程序, “他告诉DefenseScoop。
绝密人工智能大模型即将正式上线
该系统的开发工作耗时18个月,其中包括对爱荷华州现有的人工智能超级计算机进行大修。云托管模型是静态的,这意味着它可以读取文件,但不能从中学习或从开放的互联网中学习。查佩尔说,政府可以保持其模型的“干净”,并防止敏感信息泄露到平台上。据他介绍,理论上大约有10,000人能够接触到人工智能。
该模型于上周四(5月2日)开通,但“现在需要接受情报界的测试和认证”,然后才能开始在情报机构中广泛使用。他拒绝预测GPT-4工具何时会获得绝密工作认证。
“我不想透露确切的日期,因为政府有发言权。因此,从这一刻起,我们将与政府携手合作,现在政府将实际编写代码并为您提供信息,告诉您我们如何利用东西,如何部署它,您知道,以正确的方式并确保它是以正确的方式呈现给最终用户。这是他们真正控制的认证过程的一部分,”他说。
中央情报局和国家情报总监办公室没有立即回应Gizmodo的置评请求。
微软发力军用大模型
这似乎是第一个专门为分类工作负载构建的人工智能模型,也是第一个完全独立于互联网运行的主要大型语言模型。去年,中央情报局推出了自己的ChatGPT式人工智能工具来筛选大量公共信息。然而,该人工智能模型并未用于任何机密文档。其他政府机构,包括宾夕法尼亚州行政办公室,使用生成式人工智能来处理非机密数据。
微软在过去18个月里一直在研究这个GPT-4间谍模型,其中包括彻底检修爱荷华州现有的人工智能超级计算机。
针对绝密工作负载的人工智能模型的推出正值微软网络安全声誉的关键时刻。美国国土安全部最近对微软的安全实践进行了严厉的审查,指责这家云提供商泄露了政府高级官员的电子邮件。报告称,微软的安全文化“需要彻底改革”。这促使首席执行官萨蒂亚·纳德拉 (Satya Nadella) 最近告诉员工,安全现在是微软的“首要任务”。”
与此同时,微软并不羞于为政府机构开发人工智能工具。The Intercept 4月份的一份报告显示,微软 Azure版本的DALL-E被定位为美国国防部的战场工具。微软长期以来一直与军队和政府机构合作,尽管人工智能的引入相对较新。

本文转载自:

如若转载,请注明出处:

安全客 - 有思想的安全新媒体

分享到:微信
+10赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66