诺贝尔奖经济学家丹尼尔·卡尼曼：人类如何适应迷人又可怖的未来？

原标题：诺贝尔奖经济学家丹尼尔·卡尼曼：人类如何适应迷人又可怖的未来？

2012年，丹尼尔·卡尼曼在伦敦：“当人工智能出错时，那个错误对人类而言是完完全全的犯蠢，或者几乎就是作恶。”图片来源：Richard Saker/The Observer

87岁的丹尼尔·卡尼曼，2002年因其在判断与决策心理学方面的研究而获得诺贝尔经济学奖。他的第一本书《思考，快与慢》是世界范围的畅销书，书中陈述了他关于人类错误与偏差，以及如何识别和减轻这些特征的革命性思想。他与奥利维尔·西伯尼和卡司·R·桑斯坦合著的新作《噪音：人类判断的瑕疵》（Noise: A Flaw in Human Judgment），则将这些观念应用到了组织中。本次访谈通过Zoom与位于纽约家中的卡尼曼进行。

我认为新冠疫情大流行是一个很好的切入点。从某种程度上说，这是全球政治决策中有史以来规模最大的一次逐时试验（hour-by-hour experiment）。对于人们所理解的我们应该“听从科学”这一点，你是否认为这是个分水岭呢？

丹尼尔·卡尼曼：是，但也不是，因为不听科学的话会有坏处这一点很清楚。另一方面，科学界也是花了好长时间才开始一起行动起来。

关键问题之一似乎是人们普遍无法掌握指数增长的基本概念。这使你吃惊吗？

丹尼尔·卡尼曼：我们是几乎无法掌握指数级现象的。对于或多或少呈线性的世界，我们都非常熟悉。如果有物体在加速，它们通常是在合理范围内加速。但指数级变化（例如病毒传播）却完全是另一回事。我们对此毫无准备，培养直觉需要很长时间。

你认为社交媒体上各种意见的嘈杂恶化了这一情况吗？

丹尼尔·卡尼曼：我对社交媒体知之甚少，代沟太大了。但是，有一点很清楚，错误信息传播的可能性已经增加了。这是一种全新的媒介，它基本不对准确和声誉控制负责任。

你能否用外行也能听懂的词语来定义一下你书中所提到的“噪音”的含义？它和“主观性”或者“错误”有什么不同呢？

丹尼尔·卡尼曼：我们的主题是系统性噪音。系统性噪音不是在个体上出现的现象，而是出现在应该做出一致决定的组织或系统中。这和“主观性”或者“偏差”是很不同的。你必须以统计学方法查看大量的案例，才能察觉噪音。

《噪音》

你所描述的一些例子——比如，对相同罪行的判决（甚至受诸如天气、周末足球比赛结果等外部因素的影响），或者基于相同基准信息的保险承保、医疗诊断或工作面试方面的巨大差异——令人震惊。这种噪音的驱动因素似乎常常与做出选择的“专家”的受保护地位有关。我想，没有法官会愿意承认，算法在伸张正义时会更公平吧?

丹尼尔·卡尼曼：我想，司法系统在某种程度上是独特的，因为其中的一些“明智”的人在做决定。医学领域是有很多噪音的，但在医学中，“真理”是有客观标准的。

你曾经参加过陪审团，或者花时间去过法庭吗？

丹尼尔·卡尼曼：没有。但是就研究噪音如何影响他们审判的可能性，我和很多法官交流过。但是，你知道的，司法团体对研究自己没有兴趣。

我想人们在本能或情感上，仍然更倾向于相信人类系统，而不是更抽象的过程?

丹尼尔·卡尼曼：这当然是事实。比如，就拿对疫苗接种的态度来说，我们就能看出来。当人们接种疫苗时，他们愿意承担的风险比他们面对疾病时要小得多。所以自然和人工之间的鸿沟随处可见。这在一定程度上是因为，当人工智能出错时，那个错误对人类而言是完完全全的犯蠢，或者几乎就是作恶。

你在分析中并没有谈到无人驾驶汽车，但我认为，那将成为这场争论的关键领域，对吗？是不是无论自动驾驶的汽车从统计学意义上说多么安全，但每次它们酿成事故，都会被夸大？

丹尼尔·卡尼曼：比人驾驶安全得多还不够。他们比人类更安全的因素，要求是非常高的。

2002年，斯德哥尔摩，丹尼尔·卡尼曼从瑞典国王卡尔·古斯塔夫手中接过诺贝尔经济学奖。图片来源：Jonas Ekstromer/AFP/Getty Images

自你与已故的阿莫斯·特维尔斯基第一次开始研究这些问题，已经过去了50年。你是否认为，你们关于人类可测量偏差以及易错性的结论，在今天应该被更加广泛地理解？

丹尼尔·卡尼曼：其实那会儿做研究的时候，我们根本就没有任何特定的想要改变世界的期望。我自己的经验就很值得警醒，我了解了这些知识之后，对我做决策的质量的改善微乎其微。在决策的时候避免噪音，实在不是个体十分擅长的事情。如果说可以抱有什么信念的话，我其实把它放在组织身上。

我想知道你是否认为你的作品具有讽刺传统，突出了人类的愚蠢?

丹尼尔·卡尼曼：并不。我将自己视为一位非常客观的心理学家。很明显，人类是有局限性的，但同时也那样非凡。在《思考，快与慢》中，我真的尝试讨论直觉思维的奇妙，而不仅仅是它的缺点——但是缺点往往更加有意思，所以人们常常将注意力倾注于此。

使我印象深刻的一点是，无论个人和组织如何宣称他们希望变得高效或理性，我们身上都有一个根本性的部分，对可预见性感到厌倦，只想去制造随机。你认为自己对此着墨够多吗？

丹尼尔·卡尼曼：有很多领域，人们想在其中寻找多样性与创造性。但是在明确的任务中，人们又渴望一致性。如果寻求一致性的努力使得人们缺乏动力，或者使组织变得太过官僚主义，那这在组织中就会成为一个问题。这就是组织应该去磋商的。

当我观察美国大选时，有一点也使我震撼，那就是民主党、共和党双方的政治家如此频繁地祈求上帝给他们指引或帮助。你在书里并没有讨论宗教问题，不过超自然信仰会增加噪音吗？

丹尼尔·卡尼曼：我想，宗教和其他信念系统之间的区别，可能比我们想的要小。我们都倾向于相信我们与真理直接相联。我会说，在某些方面，我对科学的信念与其他人在宗教中所持的那种信念没有什么不同。我的意思是，我相信气候变化，但我对此其实所知甚少。我所相信的，是那些机构，以及告诉我气候变化存在的那些人的方法。那种认为作为非宗教人士的我们，就一定比宗教人士更明智的想法是要不得的。科学家的傲慢是我经常思考的事。

《思考，快与慢》

[美]丹尼尔·卡尼曼 著 胡晓姣 / 李爱民 / 何梦莹 译

中信出版社 2012-7

你在书的结尾，写了一些清除噪音的方法，为决策列了一份清单，包含了“指定决策观察者”等等内容。这使我联想起一些研究，结果显示，企业通过强制培训所做的减少无意识种族偏差或性别偏差的那些努力，最后要么无效，要么起了反作用。你对这种不可预见的后果怎么看呢？

丹尼尔·卡尼曼：那种风险是一直有的。你说的那种观念很大程度上未经验证，但是我们认为值得考虑。书里的其他建议都是建立在更多经验之上的，因此也更稳固。

使用数据和人工智能来增强或者取代人类决策，你认为这其中有更多的危险吗？

丹尼尔·卡尼曼：这种改变会有严重的后果，并且现在已经开始发生了。一些医学专长已经很清楚地面临着被取代的危险，譬如说诊断。当人们谈及领导工作时，也有一些可怖的场景。一旦人工智能可以产生被验证成功的、优越的商业决策，你说，那将为人类的领导力带来什么影响？

那么我们是否已经有一些针对此种现象的抵制行动了呢？我想，理解特朗普和鲍里斯·约翰逊胜选的一种方式是，这是一种对抗这个日益复杂的信息社会的反应——他们的魅力在于，他们是简单、冲动的投机者。我们会看到更多这类民粹主义现象吗？

丹尼尔·卡尼曼：我已经明白，永远不要做预测。不只是因为我做不到，我也不确定预测是否可以真的可以实现。但是有件事看上去是非常有可能的，那就是巨大的改变并不会悄悄发生。大规模的破坏将有可能发生。技术的发展十分迅猛，可能是以指数式的方式在进步。但人是线性的——当线性的人们遭遇指数型的改变时，他们并不能很轻易就做出适应。所以，这一点很清楚，有些东西确实正在到来……而AI（相较于人类智力）将会胜出，这也是很清楚的事，已经不能说这种事离我们“很近”了。人类将如何适应这种变化，会是一个迷人的问题——但这是我子辈和孙辈的事了，跟我没关系了。

你自己的生命开始于更加极端不确定的环境中——当时你还是个小男孩，生活在被德军占领的法国：你的父亲因犹太人身份先是被纳粹逮捕，后来幸免于难，你们全家都躲了起来。你对于理解人类动机问题的持续终生的兴趣，多大程度上根植于那些幼时的焦虑与恐惧？

丹尼尔·卡尼曼：当我回忆往事时，我觉得我无论如何都会成为一个心理学家。关于人类意识是如何工作的，我从很小的时候就萌生了好奇。我不觉得我个人的经历对我的兴趣起了多大作用，它一直就是这样。

从根本上说，你会不会觉得自己一直还是那个六、七岁的少年？

丹尼尔·卡尼曼：是的，那种连续性是肯定存在的。我还能认得出我内心里的一些东西。

当你开始从事这项工作时，你能否想象到直到87岁你还在做同样的事？

丹尼尔·卡尼曼：不，我会觉得87岁的时候我已经死了吧！但让我惊讶的是，我的好奇心居然一点没变。写完这本书之后，我又参与了几个项目和调查的合作。其中一个是，人们对著名的“球棒与球问题”（球棒与球的价格一共是1.1元，球棒比球贵1元，问球的价格是多少？答案不是0.1元）的无法解答，与对上帝的信仰并认为“9·11事件”是阴谋论之间是怎么产生关联的。这些问题对我来说，还是和从前一样充满乐趣。

作者Tim Adams是《观察者报》前图书、书评记者。

（翻译：马元西）