人工智能不仅会撒谎 还能让你信以为真

人工智能及相关技术带来了一个更为隐蔽且更具危害性的威胁，那就是能够篡改人们的记忆。

心理学家伊丽莎白·洛夫特斯(Elizabeth Loftus)在过去 50 年里一直致力于证明，人类有多么容易被操纵，去记住那些从未发生过的事情——尤其是在检察官和警察讯问证人的时候。

如今，加州大学欧文分校的洛夫特斯教授与麻省理工学院的研究人员合作，探究人工智能如何操纵我们自以为记得的事情。即便受试者明知自己看到的是人工智能生成的文本和图像，这种操纵行为依然会发生。研究结果表明，人工智能可能会强化人类植入虚假记忆的能力。

在20世纪70年代开始的一系列著名实验中，洛夫特斯证明，通过适当的暗示，心理学家可以植入人们童年时在购物中心走失的记忆，或者他们在野餐时因吃鸡蛋或草莓冰淇淋而生病的记忆。后一段记忆实际上让人们对这些食物产生了抵触情绪。尽管有证据表明并非如此，但我们仍难以摆脱这样的观念：记忆就像录音带一样精确记录事件——对自身思维的误解使我们容易受到伤害。

“那些坚持录音带式记忆模式的人似乎没有意识到，记忆是一个构建过程，”洛夫特斯解释说，我们的大脑会从不同时间获取的零碎片段中构建记忆。我们本能地把遗忘理解为失去记忆或淡忘记忆，但没有意识到多出了虚假的细节。

洛夫特斯还一直在研究“诱导式民意调查”扰乱思维的潜力，即民意调查人员在问题中夹杂误导性信息，比如：“如果你知道乔·拜登因逃税被定罪，你会如何看待他？”她表示，想到人工智能可能大规模有效实施这种骗术，就令人感到不寒而栗。

麻省理工学院媒体实验室的研究人员帕特·帕塔纳努塔蓬(Pat Pataranutaporn)指出，记忆操纵与用深度伪造欺骗人们是截然不同的过程。你不需要创建一个复杂的假冒网站，比如《纽约时报》网站————你只需要让人们相信他们过去曾在网站上读到过某些内容。“人们通常不会质疑自己的记忆，”他说。

帕塔纳努塔蓬是三项记忆实验的主要作者，其中第一项实验表明，聊天机器人审讯者只需在提问中植入暗示，就能改变证人的证词——这是洛夫特斯早期关于人类审讯工作的研究在人工智能领域的延伸。

在这项研究中，参与者观看了一起武装抢劫的视频片段。随后，一些参与者被问及具有误导性的问题，比如：“抢劫犯停车的地方附近有监控摄像头吗？”大约三分之一的参与者后来回忆说，亲眼看到抢劫犯开车抵达。但实际上现场并没有车。一周后，这种虚假记忆仍然存在。

参与者被分为三组：一组未收到误导性问题，另一组收到书面形式的误导性问题，第三组则由人工智能聊天机器人提出这些问题。聊天机器人组形成的虚假记忆数量是收到书面误导性信息组的1.7倍。

另一项研究表明，不诚实的人工智能摘要或聊天机器人可以轻易地将虚假记忆植入人们阅读的故事中。帕塔拉努塔蓬指出，更令人担忧的是，收到误导性人工智能摘要或聊天内容的参与者，不仅通过阅读记住的真实信息更少——而且他们对自己回忆起的真实信息也更缺乏信心。

第三项研究展示了人工智能如何利用图像和视频植入虚假记忆。研究人员将200名志愿者分为四组。每组参与者观看一组24张图像，其中一些是新闻网站上常见的图像，另一些则是个人图像，比如有人可能在社交媒体上发布的婚礼照片。

几分钟过后，等到第二次观看时，每个组都看到了不同版本的图像。第一组看到的是相同的（未修改的）图像。第二组看到的是人工智能修改过的版本。第三组看到的是人工智能修改的图像，转换成人工智能生成的短视频。最后一组看到的是完全由人工智能生成的图像，这些图像被转换成了人工智能生成的视频。

即使是看到原始图像的那组人，也保留了一些虚假记忆——考虑到要记住 24 张不同的图像有多难，这也不令人意外。但是，只要接触到任何程度的人工智能操纵，参与者报告的虚假记忆都会显著增多。而记忆扭曲率最高的群体，是观看基于人工智能生成图像制作的人工智能生成视频的那组参与者。

年轻人比老年人更容易形成虚假记忆。教育水平似乎并未影响人们的易感性。值得注意的是，这些虚假记忆并非是依靠欺骗参与者使其相信人工智能生成的内容是真实的——参与者从一开始就被告知，他们将看到人工智能创建的内容。

在图像实验中，一些修改涉及背景的变化，比如在公共集会中加入军队存在，或者改变天气。这些图像保留了原始图像的大部分特征。正如我从专家那里了解到的，要产生实质性影响，虚假信息必须包含至少60%的真实内容。

这项最新研究应该会引发关于科技对我们认知现实影响的更多讨论，而这种影响可能远不止传播虚假信息的范围。社交媒体算法还会通过营造虚假的受欢迎程度和影响力，鼓励人们接受边缘想法和阴谋论。

人工智能聊天机器人将对我们产生更加微妙、更难以预料的影响。我们都应保持开放心态，愿意接受新事实和有力论据带来的观念转变，同时警惕那些通过扭曲我们所见、所感、所记来试图改变我们想法的企图。编辑/陈佳靖

海量资讯、精准解读，尽在新浪财经APP