主流媒体事实核查应对AIGC的问题分析与路径探索|机器人_新浪财经

转自：上观新闻

作者：林嘉琳（中山大学新闻传播学院助理教授、硕士生导师）；师文（暨南大学新闻与传播学院副教授、硕士生导师）

导读

本文基于对智能传播领域的观察，从主体、技术、认知结构三个角度，探讨了AIGC（人工智能内容生产）对主流媒体开展事实核查的主体冲击，以及主流媒体应用AIGC进行事实核查的技术壁垒和工具局限，提出构建智能化的新型把关体系、组建专业化的事实核查队伍、完善规范化的行业自治制度，以期实现算法向善，促进事实核查和新闻传播行业整体的良性发展。

事实核查（fact-checking）指对报道对象的事实性进行核实、确认的行为，包括事前核查和事后核查。事前核查是指基于新闻业对于真实性与客观性的追求，在新闻报道发表前，由新闻记者对所报道事实的真实性进行确认与把关的行为，是传统媒体进行新闻报道时的必要环节。事后核查是新闻业在数字化的时代背景之下的产物[1]，指对已然出现的、真实性存疑或存有争议性的信息，通过多方取证、交叉核实并将核实后的信息向公众进行公开的行为。

如今谈及事实核查时，更多地指向事后的事实核查。普遍认为，事后事实核查兴起于美国21世纪初的政治新闻实践，由专业新闻媒体机构组织专业的记者、编辑，对政客在新闻报道中提出的实质性主张的准确性展开评估[2]。数字时代，越来越多的虚假新闻带来的负面影响催生了对于事实核查更大的需求。由此之后，事实核查的主体也从主流媒体逐渐辐射至其他专业媒体机构、互联网平台、高等院校乃至民间组织和个体，事实核查的对象也从时事政治类新闻拓展至更为广泛的新闻类型。

2022年11月30日，Open AI推出ChatGPT，这意味着AIGC自此打破了先前由分析式AI主导的用户生产内容模式，实现了人工智能从基于算法预测的辅助工具向一个能够根据决策作出判断、生成内容的决策模型的转变[3]。生成式AI的出现，在主体层面、技术层面、核查对象层面为主流媒体进行事实核查带来了新的挑战，其中也暗藏着事实核查作为新闻业的新生事物而蓬勃发展的机遇。

主体冲击：多主体事实核查对主流媒体专业自主性的挑战

事实核查源自专业新闻媒体机构的业内自我纠偏的行业实践，在市场需求的催化之下独立出专门的部门，乃至成立专业的机构、表现为专业化的职业，由专门机构和主要新闻工作者（leading journalists）负责[4]，例如《华盛顿邮报》（The Washington Post）成立的Fact Checker、澎湃新闻成立的全球事实核查平台“澎湃明查”等。时至今日，美国几乎每一家全国性新闻媒体都提供某种形式的事实核查，事实核查机构不仅设立在《纽约时报》和《华盛顿邮报》这类纸质媒体，也覆盖了CNN、ABC等广播公司。

主流媒体主导的事实核查工作沿袭了传统媒体的新闻调查模式，是一种通过实地调查、采访获得多角度的证据资料后，将线上线下资料充分整合比对，最终得出结论的人工事实核查机制。这一过程极度依赖核查人员、核查机构的知识水平、技能水平、专业水平，往往需要足够的人力、物力、财力作为支撑，也因而形成了一定的行业准入门槛。

虽然主流媒体因此占据了事实核查的主导地位，但其纠偏效果始终是有限的。面对新闻报道中的事实纠偏，受众群体内存在着一种明显的抵抗情绪，用以对抗与自己固有观念相悖的纠偏信息[5]。新闻报道中的纠正信息不仅无法减少误解，有时反而会强化最有可能持有这些误解的意识形态群体的误解。而传统主流媒体常用的事实核查发布方式正是正统的新闻报道。在这种情况下，主流媒体的事实核查往往只能呈现信息的变化，无法真正触及公众内心对于事实的认知偏向，故此无法达到预期的纠偏效果，反之，还可能会触发他们对传播澄清信息的主体的抵触情绪。实验结果表明，这种抵触情绪在互联网环境中尤为明显。当受众参与到相关话题的互联网讨论中时，他们会被诱导对新闻信息进行更深层次的认知处理，这一过程可能会加剧他们对传统主流媒体的负面态度[6]。

此时，若有另一机构以非主流媒体的身份向公众传递相反的信息，该信息将更容易被公众接受，传播该信息的主体也将迅速获得公众情感上的偏向和共情。这就为非主流媒体机构进入事实核查领域营造了空间。同时，AI技术的飞速发展，打破了早期人工事实核查机制的专业壁垒，为非专业媒体机构与个体从事事实核查工作提供了便捷的工具。近年来，高校及各类教育机构、研究机构也逐渐成为发起成立事实核查机构的主体，其中，由宾夕法尼亚大学安纳伯格公共政策中心成立的FactCheck.org、由波因特媒体研究学院成立的PolitiFact在全美的事实核查机构中都具有较高的权威性。

相较于欧美国家，中国的事实核查已然更多地呈现出主体的多元性，事实核查更是发展为一种民间的信息纠偏行为，多由平台发起、伴随用户参与[7]，也因此事实核查的话语权更加具有分散性。除了如“澎湃明查”这类由专业媒体机构派生的事实核查平台外，主导事实核查的主体还包括高等院校和互联网平台，例如由南京大学新闻传播学院启动的事实核查项目“NJU核真录”、由腾讯新闻主导搭建的事实查证平台“较真”、由新浪依托于社交媒体平台微博开设的“微博辟谣”官方账号，这些机构在事实核查领域都具有了一定程度的影响力。

尽管就AI是否会取代媒体从业人员这一问题，学界仍未有定论，但显而易见的是，AIGC确实对媒体从业人员在事实核查领域的专业自主产生了冲击。生成式AI在事实核查领域的应用，成为主流媒体之外的多元主体进入事实核查领域的有力工具，使得他们能够迅速实现在线信息的获取和整合，在事实核查领域获得与主流媒体同等、甚至超越主流媒体的话语权和信任度。

技术冲击：深度伪造快速发展与其检测技术滞后之间的冲突

在技术维度，AIGC对事实核查的冲击主要体现在两个层面。第一个层面是人工智能技术赋能的新闻事实核查对早期人工事实核查机制的冲击，AIGC将人工智能整合与生成内容的质量提高到了又一个等级，使得传统人工事实核查的方式在铺天盖地、快速更迭的虚假信息面前显得力不从心，这就对事实核查主体的技术水平提出了要求。

然而实际上，不论是传统的互联网时代、分析式AI时代还是如今的生成式AI时代，深度伪造检测技术的开发始终具有滞后性。这也是AIGC在技术维度对事实核查的第二层冲击，即AIGC在虚假信息生产领域的广泛应用与快速发展对于更新相对缓慢的深度伪造检测技术的冲击。

自2016年美国总统大选以来，人工智能技术多次被发现用于时事政治类虚假信息的生产和互联网舆论的制造。其中，由算法操纵、可以一定程度模拟人类行为并介入公众讨论的社交机器人已然成为社交媒体平台上虚假信息生产和散播的主要工具。作为应对手段，关于识别和检测社交机器人的学术研究也同比增长，只不过，就现阶段的技术水平而言，检测技术存在的局限性依然十分明显。

从现有研究结果来看，当前对于社交机器人的检测可大致分为追踪推文发布的源平台和通过账户身份建构与信息行为特征两种思路。追踪推文发布的源平台（Post Source Platform）是一种简单可靠的机器人账户检测方法[8]，如果一个账户100%的推文都是通过自动化平台发布的，那么就能够直接判定该账户是一个机器人。

但并非所有的机器人账户都通过第三方自动化平台发布内容，相当一部分的机器人账户可以在自动化脚本的驱动下基于标准客户端运行。因此，更大一部分关于社交机器人检测的文章试图从账户身份信息建构和内容发布、分享、点赞等信息行为的角度，找到社交机器人区别于人类用户的一般规律。多个研究结果证实，当前的社交机器人检测程序同时存在“假阳性”和“假阴性”的判定错误，即将人类账户误标记为社交机器人账户、将社交机器人账户误标记为人类账户[9]。据统计，社交机器人检测中的假阳性和假阴性判定占数据总量的26%左右，其中假阳性约占11%，假阴性约占15%[10]。

相较于专业生产内容（PGC）和用户生产内容（UGC），AIGC拥有更高的产出效率、更为稳定的内容质量、更低的产出成本、更强的内容可拓展性[11]，也因此使得本就滞后的社交机器人的检测与虚假信息的识别技术面对快速迭代的AIGC显得更为捉襟见肘。这些都是主流媒体在应用AIGC进行事实核查以及应对AIGC生产的虚假信息时不得不面对的问题。

认知冲击：AIGC作为事实核查工具的局限

事实核查所纠偏的对象不仅包括事实性信息，也包括观点性的信息。主流媒体在进行事实核查时，往往着重于对事实性信息的纠偏。过往研究证明，由权威机构发表的事实纠偏能够有效改变公众对事实性信息的认知。Howell和West从政治学视角切入的一项研究发现，通过直接向受试者提供与事件相关的信息，能够改变受众对于一个事件的表层事实性认知[12]。这也使得主流媒体在进行事实核查与澄清时，时常基于对公众“不知情”的假设[13]，换句话说，主流媒体总是假设公众之所以对事实产生误解，是因为受到了错误信息的干扰，因而一旦主流媒体以核查或澄清的形式向公众传递出真实的事实性知识，就可以理所当然地对舆论进行纠偏。

互联网世界里存在着大量闭环的虚假信息，它们生成且扩散于线上环境，对这类虚假信息进行事实性纠偏是AIGC运用于事实核查的主要方式。然而仅仅向公众提供他们缺失的信息或者纠正公众在认知层面的错误并不意味着公众的认知就能够同步改变。公众接触到了纠偏的信息，并不意味着就天然接受了这一信息所承载的事实与想要传达的观点[14]。公众可能只是接收到了对虚假新闻的澄清信息，但并没有从认知上真正接受这一信息对于已有观念的纠偏，甚至在抵触心理的作用下并未对接收到的信息进行认知层面处理。即便公众接收到了关于某个事件的事实性澄清，最终是否接受这一事实或事实的澄清，却与其原本的认知偏好有着紧密的关联。Kull等学者在美国入侵伊拉克后做了一项民意调查，结果显示，公民对于伊拉克在美国入侵之前拥有大规模杀伤性武器的认知与他们对布什总统的支持态度密切相关[15]。此时，即便这一部分的公众接收到了关于“伊拉克在美国入侵之前并不持有大规模杀伤性武器”的信息，也并不天然地意味着他们能够接受这一澄清，更不意味着这一事实核查的结果能够改变他们对于布什总统的支持态度。

虽然事实核查主体通过加强算法对新闻数据质量的判断和对生成内容的严密筛选，以生成式AI作为核查工具，应对部分假新闻同时具有理论和现实上的可行性，但其所生成的纠偏内容无法突破事实性信息的局限，致使将AIGC运用于事实核查工具时，依然无法越过从接收信息到扭转观念的认知壁垒，因而其所能发挥的作用十分有限。此外，作为虚假信息的制造工具，AIGC加速了深度伪造技术的升级，使得虚假信息的生成和传播都变得更加容易，导致了互联网环境中虚假信息在数量层面的增长和难以识别性的增强，这也直接影响了用户实现认知建构所需的外部信息环境。

启发与机遇：智能传播时代主流媒体事实核查的路径探索

近几年，伴随着社交媒体平台上层出不穷的虚假信息，社会各界对于事实核查的关注度也越来越高，体现出新闻的传者与受者对于客观、真实的新闻业的共同需要，反映了人类对于“求真”的价值追求。国内外皆有学者探讨过将事实核查视为专业新闻生产领域的创新实践，挖掘新闻专业在这一新的实践领域的发展机遇。智能传播背景下，主流媒体通过AIGC实现事实核查向善发展同时具有必要性与可能性。

（一）构建智能化的新型把关体系

面对信息爆炸的互联网环境，作为信息受众的新闻消费者需要权威、可靠的事实核查渠道，以便迅速甄别真实有效的信息；面对大量且快速传播的假新闻、伪新闻、谣言、误导信息、恶意信息，主流媒体、传统媒体和社交媒体平台急需行之有效的应对策略以挽回公信力。这就对更加智能化的把关体系构建提出了要求。

智能传播时代，算法已经全面介入了内容生产与分发的全流程。在主流媒体向智能化生产的过渡中，生成式AI对内容生产技术的更新为探索更为智能化的事实核查模式、建构更为智能化的新型把关体系提供了可能。一方面，利用AIGC辅助互联网数据层面的信息整合与写作，能够优化主流媒体在事实核查工作中的资源布局；另一方面，善用AIGC根据用户的偏好生成并推送相应核查内容，能够避免因公众的抵触情绪导致的无效信息纠偏。

与此同时，主流媒体通过智能化的把关体系建设，向受众提供准确的信息，亦可强化其自身在数字化时代公信力、权威性的身份建构。

（二）组建专业化的事实核查队伍

尽管从UGC（用户生产内容）到AIGC，事实核查的主体构成、技术手段、核查对象都已然发生了巨大的变化，但不可否认的是，现有的人工智能技术依旧处于弱人工智能的阶段。在人工智能真正实现人类对于强人工智能的想象之前，专业的新闻从业人员以及专业化的新闻事实核查依然不可取代。

AIGC兼具正面与负面、有意与无意、短期与长期、赋能与限制的效应，但与此同时，其作用水平也存在技术局限，例如，AIGC在内容生产层面缺乏复杂沟通和专家思维，从而无法突破结构化写作的框架等[16]。想要最大限度实现AIGC在事实核查层面的功能，仍需要新闻事实核查的从业者有相应的专业素养、作为信息接受者的社会大众有相应的媒介素养。因此，主流媒体在事实核查工作的布局中，应当有意识地开展人才培养，组建专业化的事实核查团队，以应对飞速发展的人工智能技术对传媒业的影响。

（三）完善规范化的行业自治制度

事实核查既是作为信息消费者的受众的需求，也是作为新闻事实供应方的新闻媒体与新闻记者实现对自身职业价值观的坚守以及对自身行业影响力的维系的必由之路。然而就目前而言，在媒介伦理道德的领域，对于事实核查的规范建设仍处于缺位状态。

如今，编辑和记者正越来越多地利用互联网技术进行事实核查，并将其作为监督手段，对同行开展行之有效的行业监督，其中，行业地位高、议程设置能力强的新闻机构能够起到的作用尤为明显[17]。几项针对中国媒体的比较研究证明，在众多的媒体类型中，《人民日报》、新华社等传统主流新闻媒体能够从新闻消费者处获得高于其他媒体平台、民营企业、组织机构、个人意见领袖的整体性信任[18]。在对虚假新闻进行事实核查与信息纠偏的过程中，即便公众对传统主流新闻媒体的信任度处于下降趋势，由政府主导的事实核查机构所发布的纠偏信息也能有效降低网民由于假新闻而产生的错误认知[19]。

由此可见，即便是在多主体争夺话语权、信息舆论环境纷繁复杂的当下，主流媒体依然拥有无可替代的权威地位。主流媒体应当充分利用这一优势，主动引导建设规范化的行业自治，凝聚新闻行业的价值共识以及从业人员的职业价值观，直面AIGC带来的挑战，促进AIGC辅助下的事实核查高效、透明、向善发展。

【本文为2022年广东省社科学科共建项目“海外社交机器人计算宣传机制与中国对外传播方案研究”（编号：GD22XXW03）阶段性成果】

参考文献：

[1][7][18]闫文捷，刘于思，周睿鸣.事实核查：专业新闻生产者可为的创新实践——一项在线实验的启示[J].新闻记者,2023(02): 46-59.

[2][4][17]Graves L,Nyhan B, Reifler J. Understanding innovations in journalistic practice: A field experiment examining motivations for fact-checking[J]. Journal of communication, 2016, 66(1): 102-138.

[3][11]陈永伟.超越ChatGPT：生成式AI的机遇、风险与挑战[J].山东大学学报(哲学社会科学版),2023(03):127-143.

[5]Nyhan B,Reifler J. When corrections fail: The persistence of political misperceptions[J]. Political Behavior, 2010, 32(2): 303-330.

[6][19]Ho S S,Chuah A S F, Kim N, et al. Fake news, real risks: How online discussion and sources of fact‐check influence public risk perceptions toward nuclear energy[J].Risk analysis, 2022, 42(11): 2569-2583.

[8]Bolsover G, Howard P.Chinese computational propaganda: Automation, algorithms and the manipulation of information about Chinese politics on Twitter and Weibo[J]. Information,communication & society, 2019, 22(14): 2063-2080.

[9]Bastos M,Mercea D. The public accountability of social platforms: Lessons from a study on bots and trolls in the Brexit campaign[J]. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 2018,376(2128): 20180003.

[10]Varol O,Ferrara E, Davis C, et al. Online human-bot interactions: Detection,estimation, and characterization[C]//Proceedings of the international AAAI conference on web and socialmedia.2017,11(1): 280-289.

[12]Howell W G, West M R. Educating the public: how information affects Americans" support for school spending and charter schools[J].Education Next, 2009, 9(3): 40-48.

[13]Kuklinski J H, Quirk P J. Reconsidering the rational public: Cognition,heuristics, and mass opinion[J]. Elements of reason: Cognition, choice, and the bounds of rationality, 2000: 153-182.

[14]Scheufele D A,Krause N M. Science audiences, misinformation, and fake news[J]. Proceedings of the National Academy of Sciences,2019,116(16): 7662-7669.

[15]Kull S,Ramsay C, Lewis E. Misperceptions, the media, and the Iraq war[J]. Political science quarterly,2003,118(4):569-598.

[16]蒋俏蕾，陈宗海，张雅迪.可供性视角下的人工智能生成内容[J].青年记者,2023(20):84-86.

本文引用格式参考：

林嘉琳,师文 .主流媒体事实核查应对AIGC的问题分析与路径探索[J].青年记者,2023(23):19-22.