人工智能工具可能导致严重蘑菇中毒

阅读量29565

发布时间 : 2024-03-26 11:10:49

野生蘑菇采摘量的激增引起了专家的担忧,他们警告称,这可能会带来灾难性的后果,特别是当我们过度依赖人工智能时。

全国性非营利消费者权益组织公共公民在最近关于蘑菇风险的报告中表示:“仅依靠人工智能技术进行蘑菇识别的个人在食用了人工智能系统误认为可食用的野生蘑菇后,已经患上重病并住院治疗。”

在北美,大约有 5,000 种“肉质”蘑菇,其中 15 种是致命的,另外 60 种是有毒的,但其中大多数从未经过毒性测试。

最近,采摘蘑菇的现象有所增加,蘑菇中毒事件也有所增加。多年来,各种互联网资源,包括专门的社交媒体团体,在教育采集者有关蘑菇和远离伤害方面非常有帮助。

然而,随着人工智能的蓬勃发展,情况似乎正在失控。现在,人们在蘑菇方面咨询人工智能,就像他们在生活的其他方面咨询人工智能一样。不幸的是,人工智能工具目前还远不可靠。

根据公众公民报告,大约有十几个蘑菇识别应用程序,其中最强大的应用程序依靠人工智能来识别特定物种。

“由于这些应用程序的营销方式,用户可能会认为识别蘑菇就像拍摄蘑菇照片并让人工智能提供可靠的识别一样简单,”它写道。

蘑菇识别应用程序蘑菇识别应用程序

显然,大多数基于人工智能的应用程序无法考虑到自信地识别蘑菇的关键因素,例如蘑菇的基质、瘀伤特征和气味。更重要的是,即使蘑菇可以食用,也不意味着采摘者不会生病。

“它可能处于不应该食用的状态。对于物种识别人工智能工具而言,放在厨房柜台上腐烂的水果是可以食用的。需要人类的判断来认识到腐烂的水果可能会导致疾病,”报告写道。

它引用了澳大利亚科学家的研究,在野生蘑菇中毒事件增加的推动下,他们通过向三个人工智能应用程序“喂食”78 种蘑菇的图片来测试它们。这些应用程序在 2020 年和 2021 年的 78 种蘑菇的数码照片上进行了测试。

当时性能最好的应用程序(Picture Mushroom)仅在一半的情况下准确识别出蘑菇,并且仅在 44% 的情况下识别出有毒蘑菇。

“需要明确的是,人工智能应用程序识别近一半测试的野生蘑菇的能力以任何人类标准来看都令人印象深刻。但是,与直觉相反,这种令人印象深刻的现象是使用这些应用程序作为唯一或主要蘑菇识别工具会带来如此高风险的部分原因,”公众公民说。

人类对基于人工智能的应用程序的过度信任确实令人担忧。

2022 年,一名俄亥俄州男子在吃了致命的蘑菇后需要紧急治疗,因为一款应用程序认为这些蘑菇是可以食用的,他说:“我想如果我没有手机,我就不会选择它们。”

报告总结道:“蘑菇只是一个例子,说明过度依赖人工智能技术获取真实信息会如何造成伤害。”

本文转载自:

如若转载,请注明出处: https://cybernews.com/tech/ai-severe-mushroom-poisoning/

安全客 - 有思想的安全新媒体

分享到:微信
+12赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66