ChatGPT 4o 的推出引发网络安全担忧

阅读量27621

发布时间 : 2024-05-15 11:28:12

人工智能领域正在迅速发展,OpenAI 的 ChatGPT 是这场革命的领导者。这一突破性的大语言模型 (LLM) 重新定义了对人工智能的期望。

首次发布仅 18 个月后,OpenAI 就发布了重大更新:GPT-4o。此次更新扩大了 OpenAI 与其竞争对手(尤其是谷歌)之间的差距。

OpenAI在本周早些时候的直播中推出了 GPT-4o,其中“o”代表“o​​mni”。这一最新版本在各个方面都取得了显着的进步。以下是 OpenAI GPT-4o 的主要特性和功能的详细介绍。

GPT-4o的特点
增强的速度和多模态:GPT-4o 的运行速度比其前身更快,并且擅长理解和处理各种信息格式(书面文本、音频和视频)。这种多功能性使 GPT-4o 能够进行更全面、更自然的交互。

免费套餐扩展:OpenAI通过向免费套餐用户提供一些 GPT-4o 功能,让 AI 变得更容易使用。这包括在对话期间访问基于网络的信息、讨论图像、上传文件,甚至利用企业级数据分析工具(有限制)的能力。付费用户将继续享受更广泛的功能。

改进的用户体验:公告附带的博客文章展示了一些令人印象深刻的功能。 GPT-4o 现在可以产生令人信服的真实笑声,有可能突破恐怖谷的界限并提高用户采用率。此外,它还擅长解释视觉输入,使其能够识别电视上的体育赛事并解释规则——这对许多用户来说是一个有价值的功能。

然而,尽管有新的特性和功能,ChatGPT 的潜在滥用仍在增加。新版本虽然被认为比以前的版本更安全,但仍然容易受到利用,并且可能被黑客和勒索软件团体用于邪恶目的。

在谈到新版本的安全问题时,OpenAI 分享了一篇关于 GPT-4o 中正在实施的新的高级安全措施的详细帖子。

ChatGPT 4o 周围的安全问题
ChatGPT 对网络安全的影响一直是安全领导者和专家讨论的热门话题,因为许多人担心人工智能软件很容易被滥用。

自 2022 年 11 月推出以来,亚马逊、摩根大通、美国银行、花旗集团、德意志银行、高盛、富国银行和 Verizon 等多家组织以安全问题为由限制了该程序的访问或阻止其使用。

2023年4月,意大利在指责OpenAI窃取用户数据后成为世界上第一个禁止ChatGPT的国家。这些担忧并非没有根据。

OpenAI 确保安全
OpenAI 向人们保证,GPT-4o 拥有“新的安全系统,可为语音输出提供护栏”,并进行广泛的训练后和训练数据过滤,以防止 ChatGPT 说出任何不适当或不安全的内容。 GPT-4o 是根据 OpenAI 的内部准备框架和自愿承诺构建的。在 GPT-4o 发布之前,超过 70 名外部安全研究人员对其进行了红队测试。

OpenAI 在其官方网站上发表的一篇文章中表示,其对网络安全的评估得分并未高于“中等风险”。

“GPT-4o 通过过滤训练数据和通过训练后改进模型行为等技术,在跨模式设计中内置了安全性。我们还创建了新的安全系统,为语音输出提供防护。我们对网络安全、CBRN、说服力和模型自主性的评估表明,GPT-4o 在这些类别中的任何一个类别中的得分都不高于中等风险。”

“该评估涉及在整个模型训练过程中运行一套自动化和人工评估。我们使用自定义微调和提示测试了模型的安全缓解前和安全缓解后版本,以更好地激发模型功能。”

OpenAI 表示,它还聘请了 70 多名专家的服务来识别风险并增强安全性。

“GPT-4o 还与社会心理学、偏见和公平以及错误信息等领域的 70 多名外部专家进行了广泛的外部红队合作,以识别新添加的模式引入或放大的风险。我们利用这些经验来制定安全干预措施,以提高与 GPT-4o 交互的安全性。我们将继续降低发现的新风险。”

本文转载自:

如若转载,请注明出处: https://thecyberexpress.com/cybersecurity-concerns-for-openais-gpt-4o/

安全客 - 有思想的安全新媒体

分享到:微信
+10赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66