ChatGPT 制作了一份令人信服的虚假医疗报告

阅读量52984

发布时间 : 2023-11-30 10:23:54

这项研究表明人工智能可以轻易地制造出虚假科学。

 图像

意大利研究人员最近 发现 人工智能生成的数据可能会产生误导。这项研究由卡利亚里大学眼科医生 Giuseppe Giannaccare 进行,其主要发现是 ChatGPT 可以生成令人信服但虚假的数据。

 Giannaccare 指出,ChatGPT 在几分钟内创建了包含数百名患者的虚假数据集。这一发现令人担忧,特别是考虑到医学研究中伪造数据的威胁日益增加。

 剑桥大学词典甚至将“hallucinate”(大型语言模型产生虚假信息)评为年度词汇。滥用 ChatGPT 的例子已经导致了制裁:两名使用 ChatGPT 准备案件材料的律师因使用虚假信息而被罚款 5,000 美元。

 研究人员使用连接到高级 Python 数据分析模型的 ChatGPT 来生成治疗圆锥角膜的临床试验数据。然而,生成的数据尽管令人信服,但完全是虚构的。

 Giannaccare 强调认识人工智能的阴暗面的重要性以及开发更好的检测欺诈方法的必要性。他还指出,充分利用人工智能可以为科学研究做出重大贡献。

  这篇 发表 在《JAMA 眼科》杂志上的论文指出,对数据进行更仔细的分析可能会发现伪造的迹象,例如受试者年龄以 7 8 结尾的不自然数字。

本文转载自:

如若转载,请注明出处:

安全客 - 有思想的安全新媒体

分享到:微信
+10赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66