学术前沿速递丨我知道这是深度伪造：AI声明和理解能力在处理深度伪造恶搞中的作用

　　编译丨吴东昊

　　审阅丨张卓越 王国燕

　　# Acdemic Frontier #

　　编者按：AI生成内容日益普遍，我们必须重新审视受众如何“看懂”和处理当下时代的信息。本文聚焦于政治类深度伪造视频中的幽默戏仿（Parody），以特朗普与拜登为例，探讨不同政治人物的公众形象感知如何影响受众对恶搞视频的识别与信息接受。作者还深入探讨了AI免责声明的有效性，发现仅依靠声明不能确保人们意识到内容的虚构性，关键在于提升用户对AI运作机制的理解程度。在“误乐信息/错误信息娱乐化”（Misinfotainment）这一新兴概念框架下，本文通过建构从“免责声明”到“态度改变”的理论路径模型，为理解数字时代的信息解读与误导机制提供了珍贵的分析视角。

　　我知道这是深度伪造：AI声明和理解能力在处理深度伪造恶搞中的作用

　　标题：“I know it's a deepfake”:the role of AI disclaimers and comprehension in the processing of deepfake parodies

　　作者：Hang Lu (吕航)，Shupei Yuan (袁淑培)

　　DOI：10.1093/joc/jqae022

　　发表期刊：Journal of Communication

　　期卷页码：Volume74, Issue 5，Page 359–373，在线发表于2024年6月

　　关键词：deepfake, parody, artificial intelligence, comprehension, climate change

　　文章摘要

　　随着媒体技术的迅速革新，政治娱乐内容日益多样化，既带来了新的传播机遇，也引发了诸多社会挑战。本文聚焦于深度伪造技术在政治娱乐领域的应用，特别是深度伪造恶搞视频（Deepfake parodies）所代表的“错误信息娱乐化”现象，探讨观众如何理解并处理这类虚假信息。此外，本文还探讨了AI免责声明（AI disclaimers）是否能提升观众对深度伪造技术本质的认知及其带来的问题。

　　本研究通过两项实验展开，参与者观看了围绕气候变化议题、采用立场对立的政治人物的深度伪造视频，实验条件包括是否呈现AI免责声明。结果显示，AI免责声明显著影响观众的理解水平和恶搞识别能力，理解程度进一步预测观众的感知幽默乐趣、信息折扣及反驳倾向。这些心理反应与政策支持态度及分享意愿呈现不同关联。研究最终讨论了研究结果在理论建构与实践操作层面的意义，强调AI在媒体内容加工中的角色及其对公众信息处理路径的潜在影响。

　　深度伪造技术被频繁应用于2024 年美国总统大选中（图片来源：Truepic）

　　内容概要

　　随着人工智能技术的发展，深度伪造视频正迅速渗透至政治传播领域，以政治人物为主角的深度伪造恶搞（Deepfake parody）改变了人们对政治人物的认知和媒体互动方式，加剧了将错误信息娱乐化的“误乐信息”（Misinfotainment）现象。尽管此类视频被包装为幽默讽刺性的娱乐内容，但其逼真程度可能误导观众，引发公共认知混乱，进而对政治态度与社会舆论产生潜移默化的影响。

　　在此背景下，作者整合了幽默理解-深化理论（Comprehension–Elaboration Theory of Humor）与政治讽刺双路径模型（Dual-path Model of Political Satire Processing），提出了一个新的分析框架，试图探讨：AI免责声明是否能在用户接触深度伪造恶搞视频时，提高其识别伪造的能力与理解水平，并进一步影响其心理反应（如幽默感、质疑、反驳）以及信息传播行为（如政治态度与分享意愿）。

　　研究构建的概念模型

　　具体而言，研究着重解决三个核心研究问题：

　　AI声明是否有效降低受众对视频内容的感知理解难度（Perceived comprehension difficulty），提升其识别恶搞的能力（Parody recognition）？

　　受众的理解能力是否会影响其对信息的情绪反应与认知加工，如幽默乐趣（Humor enjoyment,）、信息折扣（Message discounting）与反驳思维（Counterarguing）？

　　这些心理加工路径是否影响受众的政策立场与传播意愿？

　　基于此，提出若干假设：

　　H1：感知理解难度与幽默乐趣呈负相关，识别恶搞的能力与幽默乐趣呈正相关。

　　H2：受众越能识别恶搞内容，越倾向于不认真对待其所传递的信息（信息说服力折扣）。

　　H3：感知理解难度越高，受众越难产生反驳思维（认知负荷限制其深入的认知处理）。

　　H4：感知幽默乐趣越高，受众越支持视频中倡导的政治立场，越倾向于分享视频内容。

　　H5：反驳越强烈，受众越不支持视频中表达的政治立场，越不愿意分享视频内容。

　　H6：AI免责声明将降低受众的感知理解难度，增强其识别恶搞的能力。

　　为检验这些假设，研究设计了两项实验，借助语音合成与唇形同步技术，生成气候变化议题相关的深度伪造恶搞视频。2808名美国成年参与者被随机分配观看两种视频：一种是带有AI声明的深度伪造视频，明确告知视频内容是经过AI技术修改；另一种则没有任何声明。这些视频内容涉及两位政治人物（特朗普vs拜登）就气候变化问题发表的言论，以恶搞视频的方式呈现。

　　通过比较两组参与者在观看视频后的感知理解难度、识别恶搞的能力、以及对视频的感知幽默乐趣、信息折扣、反驳倾向、政策支持度和分享意图等，揭示AI声明对用户理解和接受深度伪造内容的具体影响。

　　结构方程模型分析结果：

　　两项实验的非标准化回归系数，研究1结果标注在斜线前，研究2结果标注在斜线后。若路径在两项研究中均不具有显著性，则以虚线表示。

　　实验结果表明，AI声明显著影响了受众的理解和识别恶搞视频的能力，进而影响他们的心理反应。这在实验组1（特朗普）中效果尤为显著。但在实验组2（拜登）中，AI免责声明反而略微削弱了受众识别恶搞内容的能力，这可能是由于政治人物形象预期与免责声明的作用产生了交互。

　　此外，理解能力显著影响观众的心理反应。具体来说，当观众感知理解难度较低且能准确识别恶搞时，更有可能产生幽默乐趣并愿意分享内容；而识别出恶搞内容后，观众则更容易对信息进行折扣，从而降低对政策议题的支持。

　　特朗普与黑人选民在一起的假照片在社交媒体上流传（事实核查来源：BBC）

　　研究强调了AI声明对于降低深度伪造欺骗效果的重要性，但AI声明不是万能工具，其作用依赖于受众的理解能力与信息素养，该发现为媒体消费和错误信息娱乐化现象的治理提供了理论支持和实践指导。此外，受众的心理反应可能因政治倾向而异。例如受众对政治人物既有的“期望”会影响其对内容真实性与讽刺性的判断。因此，若希望AI声明充分发挥作用，需将其与更广泛的媒介素养教育、政治传播机制设计结合。

　　主要作者简介

　　# Author Profile #

　　吕航 Hang Lu 美国密歇根大学传播与媒体系副教授，媒体与风险 (MaR) 实验室主任。研究聚焦于科学、政治、健康、环境与风险传播领域，专攻媒体心理学，特别关注AI与新兴技术如何重塑公众舆论、媒体认知与传播效果等科技与社会交叉议题。

　　袁姝培 Shupei Yuan 美国北伊利诺伊大学传播学系副教授，专注于战略科学传播、风险传播、公众参与科学、社会化媒体研究、公众情绪与态度形成机制，尤为关注年轻群体在网络环境中的信息加工行为与媒介互动方式。

　　发表期刊简介

　　# Journal Description #

　　Journal of Communication（JOC）由国际传播学会主办，传播学领域最具权威性的核心学术期刊，是与Communication Research、New Media & Society 齐名的全球传播学三大顶刊之一，被SSCI数据库收录。2024年影响因子6.1，JCR分区为Q1，中科院1区期刊。期刊重点关注传播学研究、传播实务、传播政策以及媒介理论，带来传播学领域最新、最广泛和最重要的研究成果。