关于AI的发展，赫拉利的担忧过头了|AI_新浪财经

转自：中国科学报

“《人类简史》三部曲”让尤瓦尔·赫拉利蜚声全球，也让他的新书《智人之上：从石器时代到AI时代的信息网络简史》备受期待。

在《人类简史》中，赫拉利以历史叙事为主线，勇敢地将诸多宏大问题汇于一炉，突破学科限制和束缚，重回文艺复兴和启蒙运动时期百科全书式的“通人”“通学”传统，形成了难能可贵的“大历史”写作方式。《智人之上》延续了《人类简史》的写作风格。

一

《智人之上》大部分内容在回顾人类社会的网络发展史。赫拉利认为，人类的力量归根结底来自大规模合作网络，因此人类所有问题归根结底是联结问题。从石器时代至今天的网络时代，是从以故事、文件等为典型信息的“人类网络”，向AI（人工智能）或自行决策的计算机成为完整成员的“非生物网络”演进的历史。而人类信息网络的目标，不是趋向于真理、智慧，而是强调秩序的建构与维护，因此产生了强大的力量，但并没有获致多少智慧。

在历史回顾的基础上，赫拉利指出，一直以来存在三种信息观，即天真的信息观、民粹主义的信息观和客观的信息观。前两种是极端的、错误的信息观念，赫拉利均表示反对。他反对所谓天真的信息观，即认为信息本质上是好事，拥有的信息越多越好，只要有足够的信息和时间，我们就能发现真理和真相，增长人类智慧。他也反对民粹主义的信息观，即认为信息本质上就是权力，或者获得权力的武器，根本没有什么真理和真相。

赫拉利信奉的信息观可以称之为客观的信息观。即网络中既有真相，也有谎言，这不可避免，因为人类联结的目标不是真理而是秩序。不过，“应该强调的一点是，拒绝天真的信息观、拒绝把信息视为对现实的呈现，并不代表拒绝承认有所谓真相，也不代表必须接受将信息视为武器的民粹主义观点”。

在客观的信息观指导下，赫拉利审视民主、极权及其与AI的关系。在他看来，民主与极权是两种不同的人类网络，前者是分布式的，后者是集中式的。而所谓信息政治的根本问题在于——AI有利于民主，还是极权？对此，赫拉利认为，无论是民主还是极权，AI既有有利的一面，也有冲突的地方。

赫拉利还认为，在国际政治领域，AI可能通往“硅幕”，它并非如冷战时期的“铁幕”分隔东西阵营，而是通过垄断AI能力分隔“AI霸主国”与“AI附从国”。因此，AI时代的信息网络，可能加剧人类既有冲突，让人类“比过去任何时候更接近自我毁灭”。赫拉利预计，其中一种很可能的毁灭方式是AI统治人类，即“如果21世纪真会有某个极权主义网络成功征服世界，其背后的掌控者可能并不是人类的独裁者，而是某种非人类智慧”。

二

总的来说，赫拉利对于智能社会的未来偏向于技术悲观主义。在《智能之上》中，他一再强调AI的社会冲击远超之前人类信息网络的变革，比如印刷术的出现。同时，他又认为本质上“人类的信息网络重秩序而轻真理”，因而自我修正机制堪忧。显然，威力巨大的AI，加上纠错困难的秩序网络，当然会使人秉持悲观立场。但仔细想想赫拉利的立场，还是有值得斟酌之处。

首先，在目前的信息网络中，AI并非如他所说的成为“自行决策”的节点，而是仍然处于人类的控制之下。至于AI主导信息网络，基本上还处在科幻想象之中。目前，各种“AI觉醒”“AI统治人类”的论调在社会舆论中很普遍，这很大程度上是资本和媒体夸大炒作的结果，与AI现实发展状况相去甚远。此类“AI宣传术”和拟人化AI文化的流行，容易催生“AI焦虑”“AI恐惧”，甚至导致相关政策部门的误判。

其次，真相仍然是人类信息网络中最重要的目标，绝非他认为的始终服从于秩序的次要目标。真相传播当然有阻力，比如布鲁诺被烧死在罗马鲜花广场，但从长远来看，真相最终战胜谎言是人类信息网络的常态。赫拉利认为，谎言、阴谋论比真理、真相更容易在信息网络中传播，“原因并不难理解。印刷术与书商从《女巫之锤》这种狗血故事中赚到的钱，要比从哥白尼的《天体运行论》这种枯燥的科学专著中赚的多太多了”。他的论据显而易见是错误的：《天体运行论》仍然在印刷，而《女巫之锤》早不见踪影，到底谁赚取了更多利润？

最后，AI只是一种复杂的技术工具，人类的未来并非AI技术所能决定的。实际上，赫拉利也在《智人之上》中反对技术决定论。比如，“现代科技除了能让人类有可能实现大规模民主，也有可能让人类实现大规模极权”。AI支持民主，还是支持极权，最终还在于人类自己的选择。出现问题时，追责于新科技，而不去反思社会制度，显然是推卸责任。

“AI悲观主义”无疑能给人警醒，让社会注意到AI发展中的各种风险，预先研究、提前应对。但是，必须提醒读者注意：要看到AI实现人类福祉的巨大潜力，不要让AI承受太多本不应承担的压力，不要对AI的发展担忧过头。

无论如何，《智人之上》将学术思考和专业研究喜闻乐见地传播给人民群众，值得学习和提倡。连接象牙塔和社会，是知识分子的职责，亦对社会进步善莫大焉。高校和科研院所的优秀学者，在专业工作之余，应该抽出时间，尽力扮演好知识分子的角色。