流行巨星泰勒·斯威夫特的裸照最近在社交媒体X上疯传，被数百万用户浏览和分享。但这些图像并非真实的

　　——它们是使用人工智能(AI)制作的深度伪造。这一事件引发了关于监管深度造假的辩论，引起了如此多的关注，以至于白宫也参与了进来。

　　政界人士和大型科技公司正在讨论解决方案。但我们有可能防范这种攻击吗?在DTU计算机学院从事人工智能研究的Morten M?约勒普表示，这可能是一项非常艰巨的任务。

　　Deepfake使用深度学习来创建文本、图像、语音或视频，这些文本、图像、语音或视频看起来是真实的，但实际上远非真实。深度造假的发展始于2014年，当时生成对抗网络(GAN)人工智能学习原理被开发出来。

　　该原理允许人工智能模型与其他用于检测深度伪造的人工智能模型进行训练。从那以后，人工智能模型的发展使得区分虚假和真实变得更加困难，互联网上有许多深度伪造工具。

　　“GAN的学习原理是基于两种人工智能模型之间的军备竞赛:一种产生深度伪造，另一种试图区分真实和人工智能创造的东西。deepfake模型用设计用来检测它们的模型来测试自己。如果设计用于产生深度伪造的人工智能模型与另一个人工智能模型进行训练，以确定图像是真还是假，它将从这个人工智能模型中学习需要如何改进。

　　“两个人工智能模型之间的竞争——一个试图生成，另一个试图检测假材料

　　——将继续下去，直到检测模型不再能够区分真假。”这就是为什么人类和人工智能模型很难区分真假的原因，”M? jolrup说。

　　深度伪造是计算机生成的文本、图像、声音、语音或视频，它们看起来是真实的，但实际上并非如此。人类很难分辨出某样东西是真实的还是人工智能生成的

　　——在某些情况下几乎是不可能的。深度伪造通常是基于GAN学习原理生成的，但今天也存在许多其他生成深度伪造的方法。

　　科技公司和研究人员正在努力开发能够检测深度造假的人工智能模型，但即使是这些模型也很难区分两者的区别。

　　看看你能不能分辨出来。(这个网站从2019年开始就是基于GAN的，甚至更好的深度伪造工具也被开发出来了。)

　　DR(丹麦)的一项研究发现，年龄在9

　　至14岁之间的儿童中，有三分之一从未考虑过社交媒体上的照片和视频可能被操纵的可能性。大量的深度造假已经促使拥有Facebook和Instagram的meta公司努力检测计算机生成的图像和视频。

　　与此同时，欧盟的人工智能法案

　　——世界上第一个人工智能立法

　　——将强制要求对计算机生成的内容进行申报。然而，尽管这一领域的法规正在起草中，科技公司将寻求检测深度造假，M? jolrup认为，无法保证我们将来不会看到更多的深度造假内容。

　　“开始声明深度造假绝对是重要的一步，但仍然会有人在没有声明的情况下生成内容。人们正在研究开发基于人工智能的深度假探测器，但随后我们又回到了军备竞赛。我认为这是一场很难取胜的军备竞赛。因此，我们不能睁一只眼闭一只眼，想当然地认为任何没有被宣布为深度造假的东西都是真实的，”M? jolrup说。

　　目前有另一种方法可以完全绕过人工智能，并基于彻底的研究来检测深度伪造。

　　“你可以试着对照其他信息来检查深度造假。例如，如果一段视频片段显示了在乌克兰发生的事情，你可以将其与当时的卫星照片和天气信息进行比较，看看是否一切都与视频片段相符。例如，那天下雨了，但视频片段显示天空万里无云?

　　“唯一的问题是，人工智能模型也可能获得我们正在检查视频的信息。因此，一个好的深度造假将确保视频中下雨，”M? jolrup说。

　　2019年，英国一家能源公司的首席执行官接到了他认为是德国母公司上司的电话，要求他将22万欧元转入一个银行账户。实际上，这位首席执行官被一个骗子骗了。一名骗子利用人工智能生成了他上司的声音，如此令人信服，以至于导演立即转账。2024年2月，香港一家大公司也发生了类似的事件，被骗2560万美元。

　　在丹麦，外交部将更密切地监控外交视频对话，因为外交部长拉尔斯L?约勒克·拉斯穆森(M)去年接到了一群俄罗斯喜剧演员的深度伪造电话，这些喜剧演员伪造了非洲联盟委员会主席穆萨·法基的脸和声音。

　　虽然很难防止类似的骗局和深度虚假产生的错误信息的传播，但M?乔纳普认为，提高对这些问题的认识是限制问题的关键。

　　“申报要求将使普通用户更难在不被发现的情况下进行深度造假，但仍会有一些主要参与者欺骗他人或影响民主进程。因此，我们需要认识到这些技术的存在并采取相应的行动。

　　“我们需要对信息来源进行批评，并理解我们生活在一个错误信息的世界，在这个世界里，操纵行为很难被发现。作为一个社会，我们对真实的共同理解可能会受到威胁。如果我们因为不符合我们的世界观而开始拒绝真相，认为它们是错误的信息和虚假的，这将是一个大问题，”M? jolrup说。

　　泰勒·斯威夫特的照片随后被删除，并且在一段时间内禁止在X上使用这位歌手的名字搜索，以防止新的照片被分享。此后，包括民主党女议员伊维特·克拉克(Yvette Clarke)在内的几位美国政界人士呼吁立法禁止在互联网上制作和分享深度伪造的色情内容。

　　丹麦技术大学提供

　　引用:检测人工智能操纵的公司

　　内容是一场具有挑战性的军备竞赛(2024年，3月11日)2024年3月13日检索自https://techxplore.com/news/2024-03-ai-content-arms.html本文档

　　作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司

　　内容仅供参考之用。