连AI教父都栽过的坑，咱们应该怎么避？| 泉果探照灯|库兹韦尔_新浪财经

泉心泉意

我们正在奔向“奇点”的最后阶段。

——未来学家

雷·库兹韦尔( Ray Kurzweil )

有“人工智能教父”之称的杰弗里·辛顿居然也认“栽”了？

具体是什么情况？

“库兹韦尔的预言似乎不再那么牵强了。曾经被认为遥不可及的科幻小说情节，现在已经变成了触手可及的技术。说句实话，事情发生的速度比我预期的要快得多。”

今年2月，“人工智能教父”杰弗里·辛顿（Geoffrey Hinton）在牛津大学发表了演讲，首次正面承认了库兹韦尔的预测，此前，辛顿一直觉得库兹韦尔有点言过其实，但现在，他承认库兹韦尔是对的——人工智能发展的速度，甚至超越了他这个“教父”的预料。

18年前，没错，已经过去18年了！早在2006年，未来学家雷·库兹韦尔（Ray Kurzweil ）在波士顿的人工智能大会上就提出了自己的预测：人类将在2029年实现AGI。当时，这一言论引起了台下的一片窃笑，毕竟波士顿作为全美平均学历最高的城市，这里的听众们还是比较有素质的——嘲笑别人的时候都掩着嘴，而且尽量压低了笑声。

据说，当时杰弗里·辛顿也在现场，但作为走在全球人工智能最前沿的领袖级科学家，他的素质显然还要更高一些，他并没有窃笑，只是对库兹韦尔的预言深表怀疑。

图1. “人工智能教父”杰弗里·辛顿（Geoffrey Hinton）

但到了今天，几乎所有人都认同了库兹韦尔的预言——AGI会在2029年实现，甚至可能不需要到2029年，就能提前实现。

其实，类似的质疑或是“窃笑”，几乎伴随着库兹韦尔的整个学术生涯——他14岁就师从AI神经网络先驱马文·明斯基（Marvin Minsky），算到今年，库兹韦尔研究人工智能已经有61年了，比任何活着的人都要长。但事实上，当初库兹韦尔提出AGI的预测时间表时，连他的老师都持怀疑态度，认为他可能过于乐观了。

库兹韦尔被《福布斯》杂志称为“终极思考机器”，在上一期【泉果探照灯】中，我们介绍了库兹韦尔的最新预测——人类到2030年，将迎来“长寿逃逸速度”的“奇点”时刻：

在今天的文章中，我们试图更进一步，讨论一下库兹韦尔在学术生涯中反复问出的两个问题，这两个问题，也是几乎所有人（包括最顶级的科学家），在面对科技进步时，经常会一头栽进去的两个“坑”，咱们姑且叫它“认知陷阱”吧：

■ 陷阱1：为什么技术的发展总是超出人们的预料，而且这个意外程度在越来越大？

■ 陷阱2：为什么人们总会高估技术的短期表现，而低估其长期潜力？

图2. 未来学家雷·库兹韦尔

“人的感知是线性的，而技术进步是指数的。”

——未来学家

雷·库兹韦尔

我们用下面这张漫画，来描述一下大多数人对技术的感知：

在最初始的阶段，大家往往认为生活尽在掌握——My life is so predictable！

然后到了某个时刻，我们突然发现自己身处一个与想象完全不同的现实之中——I didn’t expect this！

图3. 人们在技术发展不同阶段的感知

下图是一条典型的指数增长曲线，在初期，它会非常慢，慢到像一条直线。其实人类在此前漫长的历史时光中，都在经历这样漫长的斜率很小的增长，所以人们总是更倾向于用线性增长去预测未来。

而我们对长期指数增长的理解，是一个需要后天训练的感知，就像我们很难心算出指数增长10次之后的数字一样。

图4. 指数增长曲线

因此，如果依靠惯性，用线性思维去预测科技发展，结果就是下面这张图：

图5. 指数增长的迷惑性

在某项科学技术的“奇点”临近前，人们总会经历非常漫长的失望阶段，然后，这项技术突然跨过了临界点，大家的人生瞬间充满了一连串猝不及防的惊叹号。

这就是几乎每个人都会栽进去的“坑”——先是因为高估技术的短期表现而失望，然后又因为低估了技术在“奇点”之后爆发的潜力而错失良机。

“库兹韦尔的才华并不在于他的预测本身，而在于他预测背后的规则。”

——未来学家

彼得·迪亚曼迪斯

为什么说科技的变化遵循指数增长规律？这个规律又在多长的周期内有效？

要回答这个问题，就要提到库兹韦尔的另一个理论——“加速回报定律”（The Law of Accelerating Returns）。

作为一个热爱数据的未来学家，库兹韦尔曾经用一套含有50多张图表的数据组说明自己的理念，其中他最为重视的就是下面这张图，他自己说，这张图是他所有理论的基石。

图6. 计算能力的性价比（1939-2023）

这个关于计算能力的性价比的趋势，是库兹韦尔在40年前研究技术进步时注意到的，在这张图中他将数据更新至了2023年。

以上整整84年的数据，描述了技术文明的一个重要规律：1美元可以购买到的计算能力，一直在呈现指数增长——

自1939年以来，计算机的运算速度已从每秒每美元0.000007次，提高到50万亿次。这是75兆倍的增长！

库兹韦尔有一个更形象的解释：“在2023年我写这篇文章的时候，1美元能买到的计算能力，经通胀因素调整后，大约是2005年《奇点临近》上架时的1.1万倍。”

这奠定了“加速回报定律”（The Law of Accelerating Returns）的基础——即技术进步是可以自我强化的，并且随着时间的推移而指数加速。

库兹韦尔认为，摩尔定律也是“加速回报定律”的一种表现形式。摩尔定律指，芯片中包含的晶体管数量大约每24个月翻一番——即晶体管一直在稳步缩小，从而让计算机越来越强大。

实际上，如上图所示，早在1947年晶体管发明之前，“加速回报定律”就已经成立了，而在晶体管达到其物理极限并被新技术取代之后，“加速回报定律”也大概率继续存在。

图7. 摩尔定律的体现（1970-2020）

库兹韦尔认为，这样的指数增长并不局限于计算机硬件，而是涵盖了生物技术、纳米技术、人工智能等多个领域，因为每一次进步，都能让技术下一阶段的进化变得更容易，同时通过网络效应、跨领域促进等因素，让技术的生命周期得以加速实现。

比如，在医疗领域，“人类基因组计划”（Human Genome Project）同样适用于指数增长的规律。

作为20世纪最宏大的研究项目之一，基因组计划始于1990年，该计划预计用15年时间完全破译人类基因密码，绘制出基因组图谱。

但它在项目中期，一度陷入了“无法完成”的阴影。

在1997年的时候，项目时间已经过半，但是当时被破译的基因组数只占总体的1%，于是很多人开始质疑，以这种速度看，这个计划就应该提前宣告失败。

但当时，库兹韦尔坚信，基因组计划的进程符合指数增长规律，在指数发展的道路上，当你完成1%的时候，你距离100%，不是差99步，而是只差7步——2%、4%、8%、16%、32%、64%、128%。

果然，在2003年，基因组计划提前完成，总共只用了13年，比规划还早了2年！

因为，项目进展并不是线性进行的，随着数据处理能力的增加，测序的技术在成倍提升、同时跨国合作的增加、以及经验的积累与改进，都在后期极大地提升了基因图谱的绘制速度。

库兹韦尔认为，之所以指数增长趋势也适用于医药这种计算机之外的科技领域，主要是因为科技发展的“正反馈循环”效应——新的技术成果会加速后续的创新进程，这就好像是强大的计算机可以帮助设计更强大的计算机一样。同时，科技的进步会通过递归改进*、新设备普及、跨学科融合的协同效应，来实现指数加速。

* 递归改进（Recursive Improvement）：递归是一个计算机科学中的概念，指的是在解决问题时，函数调用自身的一种方式。递归改进则借用了这一概念，指的是反复自我优化的过程，通过每一轮的小幅测试和改进，实现技术性能的显著提升。

图8. 人类基因组计划的时间表

库兹韦尔还观察到，很多技术人员容易在工作中跌进一个小坑——在科技发展的很多领域，技术人员往往专注于当前的挑战，可能忽视了整体科技发展的快速节奏——技术人员们总是过度关注手头技术存在的各种客观约束，比如资金不够、无法应用等等，认为这些问题可能几年或者十几年都突破不了。但是，虽然技术在某些细节上的增长可能受限，但是从人类整体上讲，当一种技术接近其发展极限时，往往新的范式突破会在其他地方发生，因此总体增长率非常快，而且持续了很多年。

简单来讲，

如果以线性方式计算30步，1、2、3、4…...依此类推，你会得到30步。

如果以指数方式计算30步，2、4、8、16…...依此类推，你会得到10亿。

根据这样的增值趋势，在未来的某个时刻，我们每一秒的科技进步，可能比过去几千年的进展还要多。

虽然也有质疑者认为，并非所有技术领域都能保持指数增长。但大家都共识是，库兹韦尔给了我们一个重要的提醒：在预测时，别忘了把技术看成变量，一个可能会指数增长的变量。

“奇点，如同黑洞一样，是一个真实存在但难以描述的临界点。”

——未来学家

雷·库兹韦尔

“奇点”（Singularity）可以说是库兹韦尔理论的“题眼”，近期他又再次回顾了“奇点”这一概念。并且重申“奇点”会在2045年到来。

他说，自己第一次提出“奇点理论”的时候，是在2005年，当时离“奇点”还有40年，大多数人会把它当作一种科学幻想来对待。但是在今天，当“奇点”离我们只有20年的时候，再看“奇点”，大家心境都变了。

库兹韦尔提到，自己之所以会把这一临界点称为“奇点”，源于一个隐喻。

“奇点”一词原本是数学和物理学中的术语：

在数学世界中，“奇点”是一个未被定义的点，比如当一个数除以0的时候；

在物理世界中，“奇点”则指一个普遍物理规律都不适用的点，比如黑洞就是一类“奇点”。

所以“奇点”的意思是，无法定义，而且在亲身感受它之前，我们无法真正理解。

库兹韦尔说，他使用“奇点”的这个特点，是为了说明，科技的指数增长达到的某种临界值，最终会使人类社会迎来一个彻底的转变，虽然我们现在无法完全理解，但不影响它的真实存在。

之所以提出“奇点更近”，并不是“奇点临近”的简单续章，库兹韦尔是想提醒人们，我们正奔向“奇点”的最后阶段——“之前我们说的‘奇点’是远方的地平线，而现在大家距离‘奇点’只差最后的几公里。”

库兹韦尔说——

我们很难准确地描述“奇点”之后的生活会是什么样子。但通过逐渐理解和预测这一转变，我们应该尽量确保，在真正面对它时，人类会是安全的、成功的。未来这几年，将是人类历史上最重要且最激动人心的几年。

他这样描述“奇点”时刻：

当“奇点”来临，人类将与机器融合，我们将变得更有趣、更性感、更聪明、更有创造力。我们将不受生物学限制，能够选择我们的外观，能够做我们今天做不到的事情，包括通过VR/AR延展更丰富的虚拟空间，以及理解“11维空间”。我们将可以说所有语言，能够以我们几乎无法想象的方式扩展意识，也将拥有更长的生命，来体验更丰富的文化。

*11维空间（11 Dimensions）：源自物理学，弦理论中，在三维空间叠加时间之外，还有7个维度，它们在我们目前的日常生活中是无法直接感知的，库兹韦尔认为，在”奇点”来临时，人类的认知会极大拓展，以至于能理解更加复杂的新维度世界。

彩蛋

未来学家是如何为自己的下一代规划未来的？

库兹韦尔的儿女都在做什么？

库兹韦尔说，他自己多年来，一直在努力培养一对儿女的创新意识。

现在，他的女儿是一位漫画家，而他的儿子是风险投资家。虽然看上去是非常不同的领域，但让他高兴的是，两个小孩的工作都是在不断学习与创新。

而作为他自己，76岁的库兹韦尔说，他现在最主要的目标，是努力保持健康，他每天要吃80片营养品。他希望自己能活到2030年，看到“长寿逃逸速度”的实现，他还希望给自己做一个数字克隆人。

参考资料：

The Singularity is Nearer, Ray Kurzweil
Ray Kurzweil Still Says He Will Merge With A.I.,New York Times, Jul 4, 2024
Ray Kurzweil on how AI will transform the physical world, the Economist, Jun 17, 2024
Ray Kurzweil & Geoff Hinton Debate the Future of AI, Moonshots with Peter Diamandis, Apr 11, 2024