英国政府出资 850 万英镑应对人工智能网络威胁

英国承诺投入 850 万英镑（1080 万美元）资助旨在应对包括深度伪造在内的网络威胁的新型人工智能安全研究。

技术部长米歇尔·多尼兰 (Michelle Donelan) 今天在人工智能首尔峰会上宣布，研究资助将重点关注“系统性人工智能安全”，即了解如何更好地保护社会免受人工智能风险并利用该技术的优势。

该研究项目将由政府人工智能安全研究所的研究员 Shahar Avin 领导，并与英国研究与创新中心和艾伦图灵研究所合作实施。尽管申请人需要居住在英国，但我们鼓励他们与世界各地人工智能安全机构的其他研究人员合作。

人工智能对经济和社会稳定构成双重威胁。一方面，人工智能系统可能成为即时注入和数据中毒等技术的目标；另一方面，威胁者自己也可以利用该技术来获取优势。

英国国家网络安全中心 (NCSC)一月份警告称 ，恶意人工智能的使用“几乎肯定”会导致未来两年网络攻击的数量和影响增加，特别是勒索软件。

事实上，合规专家 ISMS.online本周发布的新研究显示，30% 的信息安全专业人士在过去 12 个月中经历过与深度伪造相关的事件，这是继“恶意软件感染”之后第二受欢迎的答案。

与此同时，四分之三（76%）的受访者声称人工智能技术正在改善信息安全，64%的受访者表示他们将在未来一年相应增加预算。

人工智能安全研究所研究主任克里斯托弗·萨默菲尔德 (Christopher Summerfield) 表示，新资金代表着确保人工智能在社会中安全部署的“重要一步”。

“我们需要仔细思考如何调整我们的基础设施和系统，以适应人工智能渗透到我们所做的一切的新世界，”他补充道。“这个项目旨在为如何解决这个问题提出大量的想法，并帮助确保伟大的想法能够付诸实践。”

该研究所已经对人工智能威胁进行了有价值的研究。周一发布的 5 月份更新 显示，四个最常用的生成式人工智能聊天机器人很容易受到基本越狱尝试的攻击。

英国和韩国昨日称赞 这是“历史性的首次”，因为 16 家主要人工智能公司签署了安全开发人工智能模型的新承诺。