当机器拥有心灵时，

　　当机器拥有心灵时，

　　人类该怎么办——读《机器之心》

　　⊙夏学杰

　　在2004年的电影《我，机器人》中，男主角问机器人：“机器人能写交响乐吗？能把画布变成一幅美丽的杰作吗？”机器人狡黠地答道：“你能吗？”言外之意，虽然我机器人做不到，而人又有几个能做得到的呢？然而，如果换做是2015年的现实世界，男主角的提问将会得到一个更有力的回答：“能。”2012年7月，伦敦交响乐团演奏了一曲《通向深渊》。一位评论家称其“充满艺术感且令人愉悦”。该曲由名为“伊阿摩斯”的运行音乐人工智能算法的计算机集群创作。这是人工智能专家马丁·福特在《机器人时代》中的描述。《时代》杂志的列弗·格罗斯曼曾说：“艺术创作是我们留给人类自己的活动之一，也是只有人类才能进行的活动。它是一种自我表达的行为，缺少自我意识便意味着无法进行艺术创作。”以当下之情境来思考，这段话是否该打问号了？

　　麻省理工学院教授埃里克·布莱恩约弗森与安德鲁·麦卡菲合著的《第二次机器革命》认为，厨师、园艺师、修理工、木工、牙医和家庭健康护理员在短时期内不会被机器代替。如今，美国康奈尔大学都创造出一个能自行做实验的人造科学家了，厨师、园艺师又怎么不能替代？

　　更为震惊的是，预言家一再说的“奇点”。这是由约翰·冯·诺伊曼首次提出的。1993年圣迭哥州立大学的数学家弗诺·文奇在“即将到来的技术奇点”的论文中说：“在未来30年间，我们将有技术手段来创造超人的智慧。不久后，人类的时代将结束。”《我们最终的发明：人工智能和人类时代的终结》作者詹姆斯·巴拉特说：“当比我们更聪明的力量出现在这星球上的时候，它就将接管地球。”巴拉特对200名研究人员做了一次非正式调查。他让计算机科学家们在人工智能何时实现的四个预测时间中做出选择。结果是：42%的人认为能思考的机器将在2030年前创造出来，25%的人选择在2050年前，10%的人认为2100年之前不会发生，只有2%的人认为永远不会发生。值得注意的是，而一些受访者在对此做出评论时表示，巴拉特应加进一个更早的选项——或许是2020年。

　　而如今，“奇点”已不仅停留在预言层面上，而开始讨论了。正如这本《机器之心》。作者雷·库兹韦尔集预言大师、科技大师、人类社会发展大师于一身，微软创始人比尔·盖茨曾经称他是“我知道在预测人工智能上最厉害的人”。过去30年，库兹韦尔对未来预测的准确率超过了86%。他在《机器之心》中大胆预测：未来的世界，人类和机器将难分彼此，人类将不再是万物之灵。电脑将比人脑有高一万倍的智能。量子计算将引爆技术未来。机器不仅拥有智能，而且拥有心灵，将具有人类的意识、情绪和欲望。人类身体中植入了用生物工程和纳米材料制成的电脑芯片、人造器官，将比现代人类更长寿（甚至长生不老），有更强的学习能力，更灵敏的视觉和听觉。虚拟现实有可能使人机“恋爱”……

　　到21世纪中叶有望出现直接将知识下载到大脑中的方法，到了21世纪末人可利用大脑移植技术避免传统意义上的死亡……书中的预测，听起来有些天方夜谭。为了说服读者，库兹韦尔剖析了指数级增长、摩尔定律、相对论、量子计算等理论。以如今世人的常识看来，计算机是愚蠢的，只要人类切断电源，它就立即瘫痪。不过，在库兹韦尔看来，虽然以现在计算机发展的速度，奇点是难以想象的，但指数级增长有可能导致其发展在瞬间爆发。为了说明指数级增长，他在书中援引了象棋的发明者与其赞助人——一位中国皇帝之间的传奇故事。这位皇帝非常喜爱这款新游戏，于是允诺其发明者可从自己国土上任选一样心仪的东西。“陛下，只要在棋盘的第一格放1粒米即可。”“只要1粒米？”“是的，陛下，只需在棋盘的第一格放1粒米，在第二格放2粒米。”“那么，一共是3粒米？”“是的，不过要在第三格放4粒米，第四个格放16粒，以此类推。”皇帝爽快答应了这位发明家看似谦卑的要求。这个故事后续有很多版本，其中一个是，这个皇帝破产了，因为在每个格子都加倍放大米意味着最终要放1 800万兆粒米。作者指出，自20世纪40年代第一台可操作的计算机诞生起，计算机的速度和容量发展到20世纪末已翻了32番，所处的位置也就相当于刚刚走完棋盘的前半部分。现在，我们正迈向新世纪，相当于迈进了棋盘的后半部分。

　　虽说奇点听来有些不可思议，可是谁又能说绝无可能呢？毕竟人工智能正在一步步突破不可能。前不久，“阿尔法围棋”以4比1完胜世界冠军李世石。赛前李世石还表示：虽然人工智能的水平相当不错而且持续提高，但至少这次我有获胜的信心。考虑到可能多少会出现失误，他预测自己将以4∶1获胜。赛后他又不得不承认：就算再次比赛我也不确定能不能赢，他感叹从技术上，人类很难与阿尔法抗衡。尽管当下世界排名第一的柯洁在微博上表示“就算阿尔法战胜了李世石，但它赢不了我。”但在笔者看来，这不过是个表态而已，柯洁对阵李世石都没有绝对胜算。这就像1990年时的国际象棋大师加里·卡斯帕罗夫信心满满地宣称计算机永远不会击败他，连想都别想，然而1997年计算机击败了卡斯帕罗夫。1990年库兹韦尔在《智能机器的时代》中就预测电脑将在1998年战胜棋王，库兹韦尔也因为这个成功预测一举成名。

　　当机器有了心灵，那机器算不算人呢？库兹韦尔不仅仅停留于科技层面发展的预测，还开启了哲学思考：计算机究竟是在思考还是只是在做计算而已？反过来看，人类到底是在思考还是在做计算？人脑遵循的大概是各项物理法则，因此肯定也是台机器，不过是比较复杂的机器而已。人类思考和机器思考之间是否有本质上的差异？或者换个问法，一旦计算机和人脑一样复杂，可以像人脑一样捕捉到最微妙复杂的想法，是否可以认为它们有意识？这些问题看似无厘头，但是假如“奇点”成真，人类就得重新思考此前思考定位过的各种问题。

　　一旦创造出超过人的智力的机器人，那将是颠覆性的破坏。几乎所有的观念和原则都将被颠覆。库兹韦尔曾说过：这会“撕裂历史的结构”。人类社会生活的一切都将会改变，那将是以如今人们的见识无法理解的未来。正如伦敦帝国理工学院认知机器人学系教授默里·沙纳汉在《技术奇点》中所言：“今天被我们当作理所当然的一切（经济、政府、法律、国家）会改变形态，人类最根本的价值观（生命的尊严、对幸福追求、选择的自由）也会被淘汰。我们对人类之所以为人的理解（人性、生存、意识、社会秩序）提出疑问，不是通过漫无边际的哲学思考，而是由真实存在的环境所推动。”

　　当人工智能的智慧超过人类，人类将再无任何优势可言。那时人有可能被机器人统治了，人类的时代也许真的会宣告结束。不要天真地以为机器人会为我所用，它们都比你聪明，你还能控制得了机器人吗？科技是一把双刃剑，人类有可能自掘坟墓。那么，人类将会成为智能机器的奴隶吗？库兹韦尔分析道：“奴隶制并不是智能时代能使双方都有丰厚收获的经济体系。对机器而言，我们做奴隶没有任何价值。”那么，人类能拒绝智能技术的发展吗？库兹韦尔认为这不可能，“停止电脑发展技术或任何一项令人类收获颇丰的技术都意味着否认经济竞争的基本事实，更别提拒绝对知识的追求了。”

　　库兹韦尔虽然展望了智能技术对人类的各种便利，但对将来人类何去何从，没有给出明确的判断。当然，这也实在是太难了。《技术奇点》的作者默里·沙纳汉就建议人们放弃人类中心主义视角。他说：“技术奇点可能是一种生存机会，要理解这一概念，必须放弃人类的视角，采取一种更具宇宙性的视角。”言下之意可能是，即便人类遭受“奇点”的打击或毁灭，但对宇宙来说，“奇点”也是一个巨大的发展，或是必由之路吧？