潘多拉魔盒:X 级世界中的人工智能

阅读量67790

发布时间 : 2024-01-18 12:00:10

人工智能 (AI) 和色情内容似乎不太可能是一对。然而,随着人工智能被用来制作色情内容,它们之间的关系变得越来越复杂。

随着人工智能的爆发,它已经渗透到商业和社会的各个方面,其中最重要的是色情内容。

现在有很多网站可以用来生成色情内容。

PornPen 和 Unstable Diffusion 等网站专注于未经审查的图像生成。

众所周知,标准人工智能(并非用于此目的)也可以制作色情内容——无论是合法的还是非法的。

但什么是伪情色,它对个人和行业有何影响?

什么是深度造假?

在过去的一年里,深度伪造的色情内容变得越来越多。

深度学习会创建虚假图像、音频和视频——因此出现了“deepfake”这个混成词。

深度学习是机器学习的一部分,属于更广泛的人工智能范畴。

流行的深度造假的一个例子是英国前女王伊丽莎白二世的病毒视频,该视频给出了她著名的女王演讲的另一种版本。

该视频是一个例子,展示了深度造假的真实性和不可思议性。

现在想象一下,您的脸已叠加到真实色情演员的露骨色情图像或视频上。

这不仅是对您的侵犯,而且还使色情演员处于不利地位,因为他们的图像或视频也被利用来谋取不正当利益。

屡获殊荣的独立色情电影制作人埃里卡·拉斯特(Erika Lust)告诉《网络新闻》,这项技术如何引起“重大担忧,因为它可以用来创建未经同意的露骨内容,可能侵犯隐私和同意。”

研究人员、教师和数字权利活动家索菲·马多克斯 (Sophie Maddocks) 解释说,一些研究人员认为,随着“致力于创作和分享假裸体”的在线团体的出现变得更加普遍,深度假色情已经成为一种“新常态”。

Deepfake 统计数据

深度造假色情内容已成为一种流行病。

根据 Maddocks 的报告“Deepfakes 的状况以及 2023 年未经同意的合成成人内容的指数级增长”,2023 年有近 280,000 个明网合成的、未经同意的深度伪造色情视频。

报告称,这些视频的时长为 1249 天,观看次数超过 42 亿次。

此外,领先的 Deepfake NCEI 网站上发布的视频时长从 9,300 小时跃升至近 14,000 小时。

这种有害趋势已经对个人和行业产生了深远的不利影响。

真实故事

未经同意的深度伪造视频的后果可能是毁灭性的。

《麻省理工科技评论》写道,15 岁的弗朗西斯卡·马尼 (Francesca Mani) 就是一个例子,据报道,新泽西州韦斯特菲尔德高中传播的深度伪造色情内容有 30 名受害者,她是其中之一。

高中里的多名男生使用人工智能来操纵图像,制作露骨的儿童色情作品。

除了玛尼之外,其他女性也成为未经同意的深度伪造色情内容的受害者,这进一步说明了成人和儿童在不断发展的数字时代面临的日益严重的问题。

最近,我们了解到LAION中存在虐待儿童的材料,这是一个支持文本到图像服务(例如 Stable Diffusion 和 Google 的 Imagen)的重要数据集。

斯坦福互联网观察站得出的结论是,机器学习模型可能会产生儿童性虐待材料。

那么,如果显性材料是人工智能系统的固有元素,我们如何才能阻止机器学习模型生成这些内容呢?

对个人的影响

研究表明,人工智能正在被用来操纵图像和剥削个人,主要是妇女和儿童。

此外,未经同意的深度伪造色情内容的创作可能会对受害者产生深远的影响。

“许多受害者在图像被伪造后经历了抑郁、自杀念头、创伤后应激障碍和性创伤,”马多克斯补充道

即使已知图像是假的,该内容也会“对可能难以达到心理安全的受害者进行性羞辱和羞辱”,因为他们的图像无法从互联网上删除。

“这侵犯了他们的自主权,并可能导致他们情绪困扰、尴尬或声誉受损。这也对行业造成损害,因为观众越来越难以辨别真实内容和被操纵的内容,可能导致错误信息、对媒体的不信任以及对用户喜爱的网站的不信任。”

对行业的影响

普林斯说,在色情内容中,似乎没有深度造假的空间,因为“这项技术可以创建高度真实、有时未经同意或非法的内容”。

在深度造假色情作品中,演员的面孔通常被名人或知名人士替换,但他们不同意他们的图像被用于此目的。

普林斯说,利用人工智能技术操纵色情演员往往会侵犯演员的同意和自主权。

普林斯补充道,这可能会导致心理伤害和声誉受损,甚至可能导致法律诉讼。

这些因素对于深度造假在成人娱乐行业的危害至关重要。它还质疑未经同意而使用自己的肖像的道德含义。

好的影响

相反,人工智能极大地改善了用户体验和我们观看色情内容的方式。

Lust 表示:“人工智能通过分析用户偏好并提供量身定制建议的算法来个性化内容,从而彻底改变了行业。”

此外,人工智能还增强了更有效地监控和监管有害内容的能力,有可能减轻有害和滥用内容的影响。

“人工智能工具可以协助色情平台上的内容审核,标记不适当或非法材料,并确保遵守准则和法规。”

杜绝未经同意的深度造假

尽管人工智能对色情行业产生了积极影响,但仍需要制定更多法规来阻止未经同意的深度伪造色情内容的扩散。

我们的专家对这个话题进行了权衡,并讨论了结束未经同意的深度伪造色情内容的方法。

“政府和政策制定者需要采取行动并制定法规,专门解决未经同意的内容的创建和传播,”Lust 表示

为了制止未经同意的色情内容的产生,我们应该制定更严格的法律、水印等技术措施,以及更好的社交媒体内容平台执法。”Microters 首席执行官 MD Nazmul Hasan 说道。

普林斯说,我们还应该制定法规,包括对创建和传播未经同意的人工智能内容进行处罚。

“这些法律可以规定对未经同意创建、分发此类材料或从此类材料中获利的人的处罚,”拉斯特总结道。

最重要的是,必须更新现有法律,以承认并惩罚滥用某人的肖像来制作人工智能生成的色情内容的行为。

本文转载自:

如若转载,请注明出处:

安全客 - 有思想的安全新媒体

分享到:微信
+10赞
收藏
安全客
分享到:微信

发表评论

内容需知
  • 投稿须知
  • 转载须知
  • 官网QQ群8:819797106
  • 官网QQ群3:830462644(已满)
  • 官网QQ群2:814450983(已满)
  • 官网QQ群1:702511263(已满)
合作单位
  • 安全客
  • 安全客
Copyright © 北京奇虎科技有限公司 360网络攻防实验室 安全客 All Rights Reserved 京ICP备08010314号-66