世界经济论坛的《2024年全球风险报告》发出了严厉警告:主要由深度伪造驱动的错误信息和虚假信息被列为未来两年世界面临的最严重的全球短期风险。

　　2023年10月，在与专家和公众进行了数月的磋商后，qusamube创新委员会也得出了同样的结论。

　　这种利用人工智能(artificial intelligence)以及最近的生成式人工智能(generative AI)来创造超现实主义作品的数字欺骗，不仅是一项技术奇迹;它构成了深刻的社会威胁。

　　为了应对仅凭技术和立法就能有效打击深度造假的差距，我和我的团队领导的一个研究项目揭示了一个至关重要的解决方案:通过教育进行人为干预。

　　尽管深度伪造检测工具正在不断发展，但这些技术解决方案正在竞相追赶深度伪造算法快速发展的能力。

　　法律体系和政府正在努力跟上数字欺骗的迅速发展。

　　我们迫切需要教育采取更严肃、更积极和更有策略的方法，让青少年有能力对抗这一迫在眉睫的威胁。

　　政治两极分化的可能性尤其令人担忧。

　　在未来两年内，孟加拉国、印度、印度尼西亚、墨西哥、巴基斯坦、英国和美国等国预计将有近30亿人参加投票。

　　造谣活动有可能破坏新当选政府的合法性。

　　对巴勒斯坦裔美国超模贝拉·哈迪德(Bella Hadid)等知名人物的深度造假被用来伪造他们的政治声明，这充分说明了该技术影响公众舆论和扭曲政治叙事的能力。

　　Greta Thunberg提倡“素食手榴弹”的深度伪造强调了这项技术的邪恶使用。

　　meta发布了一款带有名人肖像的人工智能助手，引发了人们对滥用和传播虚假信息的担忧。

　　金融诈骗、色情危害

　　毫无疑问，深度造假视频也被用来实施金融欺诈。

　　受欢迎的youtube用户MrBeast在TikTok上被假冒为深度假骗局，虚假地承诺赠送iPhone 15，导致财务欺诈。

　　这些事件凸显了针对所有年龄段人群的复杂人工智能驱动的欺诈和骗局的脆弱性。

　　深度假色情作品对年轻人和成年人来说都是一个严重的问题，在这些作品中，个人的脸被未经同意地叠加在露骨的内容上。泰勒·斯威夫特(Taylor Swift)的色情深度假照片在社交媒体上传播，随后被平台撤下。其中一个被观看了超过4500万次。

　　meta的政策现在要求政治广告客户披露广告中的任何人工智能操作，谷歌也采取了类似的举措。

　　罗切斯特大学(University of Rochester)的博士生尼尔·张(Neil Zhang)正在开发音频深度伪造的检测工具，包括先进的算法和水印技术。

　　美国出台了几项法案:2023年《深度造假责任法案》、保护身份不受人工智能滥用的《禁止人工智能欺诈法案》，以及针对未经同意的色情深度造假的《防止亲密图像深度造假法案》。

　　在加拿大，立法者提出了强调人工智能透明度和数据隐私的C-27法案和人工智能和数据法案(AIDA)。

　　英国通过了网络安全法案。欧盟最近宣布了一项围绕其人工智能法案的临时协议;欧盟的人工智能责任指令解决了更广泛的在线安全和人工智能监管问题。

　　印度政府宣布计划起草针对深度造假的法规。

　　这些措施反映了遏制深度造假有害影响的全球承诺日益增强。然而，这些努力不足以遏制，更不用说阻止深度虚假传播的扩散。

　　在社会科学与人文研究理事会(SSHRC)和加拿大遗产基金会的资助下，我和同事们进行了一项研究，揭示了如何通过数字机构赋予年轻人权力，以对抗由深度造假和人工智能技术推动的虚假信息浪潮。

　　我们的研究重点是年轻人如何看待深度造假对关键问题的影响，以及他们自己在数字环境下构建知识的过程。我们探索了他们有效对抗虚假信息的能力和意愿。

　　这项研究将加拿大18至24岁的大学生聚集在一起，进行了一系列的实践研讨会、深入的个人访谈和焦点小组讨论。

　　参与者创造了深度伪造，获得了对这种技术的容易获取和使用及其滥用可能性的第一手了解。事实证明，这种体验式学习在揭示深度伪造是如何轻易产生的过程中是无价的。

　　参与者最初认为深度造假是数字环境中不可控制和不可避免的一部分。

　　通过参与和讨论，他们从被动的深度旁观者转变为更深刻地认识到他们的严重威胁。至关重要的是，他们还培养了一种预防和减轻深度造假传播的责任感，并准备好应对深度造假。

　　学生们就具体行动提出了建议，包括敦促教育系统增强青年权能，帮助他们认识到自己的行动可以发挥作用。这包括:

　　教导虚假信息对社会的有害影响;

　　为青年提供反思和挑战社会规范的空间，让他们了解社会规范关于社交媒体政策，概述允许和禁止的内容;

　　通过接触深度造假背后的技术，训练学生识别深度造假;

　　鼓励参与有意义的事业，同时保持警惕虚假信息，引导青少年尊重和有效地打击虚假信息。

　　根据我们的研究和参与者的建议，我们提出了一个多方面的策略来对抗深度造假的扩散。

　　深度造假教育需要融入教育课程，同时培养我们年轻人的批判性思维和数字代理能力。需要鼓励青年积极、安全、知情和战略性地参与打击数字空间中的恶意深度造假。

　　我们强调实践合作学习经验的重要性。我们还提倡一种跨学科的教育方法，将技术、心理学、媒体研究和伦理学结合起来，以充分掌握深度造假的含义。

　　我们的研究强调了一个重要的认识:在打击深度造假的斗争中，人的因素，尤其是教育的作用，是不可或缺的。我们不能仅仅依靠技术和法律手段。

　　通过让年轻一代以及我们社会的每一个成员具备批判性地分析和挑战虚假信息的技能，我们正在培养一个数字化的社会，这个社会有足够的韧性来抵御深度造假的操纵力量。

　　要做到这一点，我们必须让人们了解，他们在维护数字世界的完整性方面有自己的角色和能动性。

　　公司提供

　　nversation

　　本文转载自The Co在知识共享许可下的对话。阅读原文。

　　引用: Deepfakes:如何授权年轻人对抗错误信息和虚假信息的威胁(2024年1月29日)，2024年1月29日从https://techxplore.com/news/2024-01-deepfakes-empower-youth-threat-misinformation.html检索

　　作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司

　　内容仅供参考之用。

点击分享到