陈一舟的忧心：人类会被AI灭绝吗？

人人公司董事长兼首席执行官陈一舟

　　新浪财经讯 由《中国企业家》主办的“2016年商界木兰年会”于4月10日在北京举行。人人公司董事长兼首席执行官陈一舟出席并演讲。

　　陈一舟分析称，人类的进化由团体选择来完成的。由于人类愿意为了团体的发展而牺牲，所以能够逐渐统治周围的环境。另外，先进物种总是愿意团结相似的物种而欺负落后物种。“我们养宠物猫，却吃鱼”就是一例。

　　陈一舟担心，相对人工智能的快速发展，终有一天人工智能会变成先进物种，而人类变成落后物种。“如果人类在未来会被先进的物种或者机器人灭绝后，也许我们的情感会变成机器的方式继续的繁衍和生存下去”，陈一舟表示。　

　　　以下为演讲实录：

　　陈一舟：两个星期以前何社长让我来参加这个活动，我说这是女生的活动让我来干吗？她说今天的主题是讲恐惧和热爱，我听了各位的演讲非常震撼，觉得大家口才很好。我就是孙总说的互联网大会台底下的理工男，作为一个理工男，我们最热爱的是女人。

　　因为我们的工作是跟机器打交道，研究的是客观世界的规律，对我来说最恐惧的机器人，所以我今天带来了演讲的课题是“机器是否有慈悲之心”。

　　过去一段时间人工智能的课题非常受到大家的关注，主要是因为谷歌的机器人打败了人类的围棋冠军，围棋是人所发明的最复杂的棋类运动，机器打败人类是标志性的事件。为什么我们认为机器总有一天会超过人类，其中一个很重要的原因是随着过去70年IT革命的发展，计算能力成本迅速下降。

　　在01年的时候，一千美元买到的计算能力跟一只老鼠的计算能力类似，在五到十年以后一千美元所能够买到的计算能力就会超过人类的大脑，这是指数型的发展。2050年左右，一千美元可以买到的计算能力是人类大脑的总和，这就是为什么这些理工男对未来的机器人的能力非常恐惧，因为它的发展速度太快了。

　　人类所特有的能力，比如说意识能力，包括自由的意识，实际上并不时人类独有的。地球上其他的生物、包括灵长类的很多动物基本上也有意识。很多年前，科学家通过实验证明，非常低等的软体动作比如乌贼，睡觉醒来后可以观察到脑电波活动大幅度的加强。

　　十几年前，英国剑桥的科学家提出了一个关于意识的宣言，大量的证据表明人类并非唯一拥有产生的意识的神经基础的机制，包括所有的哺乳类和鸟类和其他生物，也拥有能够产生意识的神经基础的机制，生物学上得到证明的，很多科学家相信这个事情。

　　人类在过去的350年之内，大脑加重了将近二倍多左右，我们的脑容量扩大了两倍多，大脑的重量提高了两倍多。现在的人类比350年前要聪明不少，我们比起几千年前的人类估计也要聪明一些，科学家觉得过去几千年脑容量和聪明程度也是逐步的增长，且不说过去几百万年。

　　宇宙中有各种智能体，它们有哪些共同的特点，一个老鼠、一个人都是智能体，我们看他们共同的特点。我寻找了很多文献，找到了一个教授的著作，他在物理学的刊物上发表了两页纸很短的文章，他提出智能应该被看作是物理过程，最终的目的是任何智能最终目的是为了将自己未来的行动自由最大化，并且避免自己未来中的约束。

　　举几个例子，《越狱》一个囚犯关在监狱里，如果不想越狱的囚犯不是一个好囚犯，因为出去以后可以获得自由，甚至包括一个被关在笼子里的低等动物，比如一个猴子，你上面放个香蕉有个棍，它会很快想到用棍子拿到香蕉，所有的智能都会想办法，要在自己的未来中的自由不要受到约束，不管它有没有某一个行动，所有的智能都有这个条件。某种程度上Alpha Go也是有智能的，它是为了让它的自由最大化，它计算的方向是让自由最大化。

　　他们是怎么合作与对抗的呢？我对机器人很恐惧，所以我要考虑哲学的问题，智能体之间的合作是怎样的。关于热爱，包括人为什么有这么多无私的情感，我觉得最主要的原因是因为人的进化是由团体的选择来完成的。美国著名生物学家威尔逊以研究蚂蚁著称，写过一本书《蚂蚁》，奠定了在科学界的基础，他说拥有众多愿意为了集体利益做出贡献或为之牺牲成员的部落将会胜过其他合作意识不强的部落，一个部落很多人愿意站出来我愿意去打仗，可能会死掉，另外一个部落都不愿意去打仗，那些善于打仗的愿意去打仗的部落会逐渐的统治它周围的环境。

　　现在统治地球的包括我们智人是相对其他类似的智能体是比较愿意去为我们的团体、部落、民族和国家而作出牺牲的，没有任何牺牲精神的话，团体不可能长时间生存下去，自身的基因也无法留存，利他的基因会部分的留存。

　　还有一个伟大科学家是霍金，他也有所表述，虽然我们不太了解外星人，但是我们了解人类，纵观人类历史，人类与智力相对欠缺的物种之间的接触，站在他们的角度来说这种接触往往是场灾难，先进文明与原始的接触对原始是非常糟糕的，有一天人工智能远远超过人类的智能的时候是不是对我们很糟糕呢？

　　霍金说文明的外星人可能会比我们早数十亿年读取我们的信息，人是非常恐惧的，对未知的先进的智能有本能的恐惧，恐惧有非常强的原因，比如对待动物、对待大部分动物是非常残忍的，对同样是差不多聪明的动物，猪会比猫聪明，但是我们会吃猪肉会把猫当做宠物，我们会吃很多牛肉和鱼。人类对待人类也是自相残杀的，强大的部落永远战胜弱小的部落，美国是世界上非常民主的国家，但是也会对印第安人进行屠杀。

　　一群具有智力的力量在一起的时候，强大的智能会团结在一起欺负那些弱小的群体。我们有理由认为不同的智能体会统一表现出一种驱动力，和其他强调的智能体力量合作在一起欺负小的智能体，获得最大的利益，我国著名的科幻小说作者刘老师提出黑暗森林的法则，如果是一个智能的话，如果是地球上的人最好在宇宙探索的时候最好不声不响，因为如果主动对外发出信号，让先进的外星人知道以后，先进的文明可能会马上把你干掉，这是黑暗森林的理论。

　　我们讲了关于机器人和人类本性丑陋的一面，但是我们要看到在越来越聪明的机器人面前，我们面临很大的难题，我们是男人和女人的时代，我们是男人、女人和机器人的时代，我们的价值到底在哪，我们有哪些独特的地方，这是值得大家去思考的。

　　关于宇宙智慧发展的曲线，如果人类在未来会被先进的物种或者机器人这样的先进人工智能灭绝后，我们在宇宙智慧发展中还是起到了应有的作用，也许我们的情感会变成机器的方式继续的繁衍和生存下去。

　　当人工智能非常发达的时候，人类到底有哪些无可取代的价值，这些无可取代的价值还是来源于我们自己进化的过程，我们可以设身处地为他人着想，人是有慈悲之心。在这个过程中不会有天生的慈悲之心，但是我觉得人类社会走向女性发挥越来越大作用的时代，人类社会中任何一个非常艰难的、用理性、用暴力不能够完全解决的难题的时候，女性的智慧、女性的宽容、女性的更加强大的慈悲的情怀，我觉得也许能够帮助我们找到答案，谢谢大家！   

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。