段伟文：人机伴生时代的生命智慧

　　新浪财经讯  主题为“和而不同，思想无界”的 CC讲坛第47期演讲于2022年3月26日在北京以线上直播方式举行。来自中国社科院哲学所科技哲学研究室主任、研究员段伟文出席并以《人机伴生时代的生命智慧》为题发表演讲。

　　以下为演讲全文：

　　我是段伟文，来自中国社会科学院，我所做的工作是科技哲学。在我们这样一个深度科技化的时代，反思科学，展望未来，恰逢其时。在这种思考中，我也想给大家来讲一个漫长的故事，一个从历史到未来的进程。

　　古代的时候，我们说万里长城、金字塔，它们都是一些巨型的机器，罗马的军团也是一些个巨型的机器，在罗马的军团里面，每一个人、每一个士兵都像一个蚂蚁一样发挥着它的功能。

　　我们现在的时代，可以说是由信息通信技术开辟了这样一个时代，信息通信技术它在某种意义上来讲也是一个巨机器，比方说在我们的热搜平台上，有很多“饭圈”文化等等，其实就算是这些企业公司，在开始的时候，也没有想到这个平台能有这么大的能量，有这么大的一种影响，不管它是正面的还是负面的。这样一种巨型的机器在我们的信息时代，它产生了一个什么样的变化？

　　我们说信息概念，其实从古就有。当初周幽王烽火戏诸侯的时候，烽火台难道不就是一种通信的这样一种手段吗？但实际上直到19世纪末，关于信息的这样一个观念才真正的慢慢产生，为什么？整个我们的人类社会从传统的陌生社会到陌生的一种城市，陌生人的城市的社会，在工厂里面，我们的大工业生产需要把大量的人力物力调配起来，所以这个时候就出现了一种控制上的需求，这种控制上的需求就导致了控制论、信息论、系统论这样一些思想的产生。

　　在这里面有很重要的一点，就是人也成为这样一个机器中的一部分，成为控制机器的环节。著名的行为心理学家斯金纳做过一些个研究，他用一个斯金纳箱来调教老鼠去按一些电流，他甚至在二战的时候，用鸽子来做一个非常精确的制导系统。他的这样一个主要的观念是什么呢？像动物和人，我们完全可以对他的行为进行调节，而不用去管他内心想的是什么，这是斯金纳箱的控制论机器。

　　同时我们还可以看到另外一个非常有名的机器，就是我们现在人工智能时代的来临，它缘起于是什么？当然它有很多的缘起，其中很重要的一点就是英国著名的科学家图灵，他提出来了这样一个思想机器这样一种观念。他的基本的想法是，他有一个非常著名的图灵测试，大概的意思就是说，如果当我作为一个人，我分不清我所面对的两个实体，究竟哪一个是人，哪一个是机器，这个时候我们就认为这个机器它已经具有了跟人一样的一种智能。

　　我们要稍微延伸一点，我们可以看到不同的时代，我们去判断实体究竟是机器还是人，其实有不同的标准，比方说我们讲一个笑话，在五十年前，我们会说我们碰到一个人或者一个机器人，我们问他，你告诉我那个路怎么走？五十年前，我们会认为能够认路的实体，它是人，而现在我们都知道，随着手机导航技术的发展，实际上我们发现很可能是机器人比人更会认路。

　　所以在这样一个时代，我们可以看到，如果说图灵机划分了一条人和机器的一个智能的模糊的边界，但是更有意思的是什么？这样一个模糊的边界，本身也会随着机器智能的改变而改变。

　　另外一个很有名的机器是什么？就是所谓的叫超文本空间。其实我们现在的互联网大量的搜索引擎，它就是一个超文本空间。这样一个超文本空间，它的这样一种思想，或者是观念的原理，源流可以追溯到中世纪的时候。亚历山大图书馆在亚历山大那个时候，它可以做一个图书馆，把世界上所有的书都放进去。

　　著名的科学家，同时也是科学的管理者万图瓦利▪布什，他写过一本书《科学无止境的边疆》，这本书其实引导了战后一个世界各国重视高科技的大国之间的一个竞争的态势。

　　具体到万图瓦利▪布什，就有一个专利，就是说如果我们让这样一些图书馆变成一种自动化的，可以检索的这样一个机器，那么它就能够相当于是我们的记忆，同时它能够激活我们的思想，让我们能够更高效的去工作。这样一个思想就是我们现在的互联网的这样一个观念的重要的来源。

　　第五个机器，就是我们现在所遇到的，现在我们每个人都有手机，都有很多的APP，这些APP若干年以后，我们就发现它给我们带来的不仅仅是方便，还发现什么？它把我们的数据都留下了。在每一个APP，每一个手机应用里面都有很多的数据点，虽然我们不知道它是谁，我们不知道背后有谁在收集我们的数据。为什么说数据这么重要？数据就是我们的行为，是吧？我们不知道谁在看我们，但是它知道我们是谁、知道我们在哪儿、知道我们干什么、还知道我们干了多长时间。比方说它会给我们贴上标签，说你反复在看某一个剧、你经常会购买什么样的包包等等。在这样一个时代，就有一些思想家会对他提出批判，这样一种批判，实际上也是延续着马克思对技术带来的这样一种异化、这样一种前瞻性的一个思考。

　　有一本书《监控资本主义时代》，它实际上讲的是什么呢？讲的是像谷歌那样一些搜索引擎，它实际上发现我们用户的搜索行为本身，反映了我们用户的偏好，我们的这样一个喜爱，所以把这样一些数据采集起来，就能够反映我们的行为特征，同时可以用它来做广告，可以用它来盈利。

　　这样一个数据采集到的，就相当于一种类似于古典的资本主义时代的一种剩余价值，它是一种新的可以产生高额利润的一种剩余。这样一种机器我们现在看到无处不在，这是第五种机器。

　　第六种机器就是什么？第六种机器就是带有一定的科幻性质的。大概是在2020年，有一个精读班找我专门给他们讲生命3.0，是一个什么思想呢？它实际上是要把我们地球上的生命当成一个计算机，因为所有的生命都有硬件和软件，那么原始的人类相当于软件和硬件都是天生的，而我们现代人因为有了教育，所以我们的硬件是不变的，还是我们的肉身，但是我们的思想可以改变，因为教育会改变我们的命运，改变我们的世界观，改变我们的认知，所以软件可以变，那么将来我们的生命要走向3.0时代，在生命3.0时代，不仅我们的思想可以变，而且我们的这样一个作为生命的载体，未来的生命可能是一种宇宙的生命，是一种轨迹的生命，不再依附到我们的肉体身上。

　　我们看到不同的民族，也有不同的这样一个对于智能的思考，比方说我们中华民族也有我们的这样一个思考，对吧？我们也有关于机器、关于人的这样一些思考，它都是不一样的，但是在这样一个思考里面，我们怎么样去回应它，我们怎么样去思考它？

　　另外一本书《机器中的达尔文主义》，它实际上就反映了这样一种思考，就是说机器智能或者是这样一种人工的一种生命，它会成为我们的生命演进的下一个阶段。在这里面暗含了什么？就暗含了说，我们人好像是要过时的，我们人很可能是要被机器，被这种人工智能所取代的，甚至还有的书在讲，说未来的某一天地球上的人分成两拨，一波说我们要好好的让我们的这样一个生命形态转化为机器，让我们人类的智能转化为机器的智能；另外一拨说， No ！不行，我们还是要成为我们真正的人，我们不要让机器来取代我们。像这样一些思考，我想都是值得我们去探索的。

　　同时还有另外一个哲学家、同时也是考古学家、也是文化学家德日进，他认为我们人类的未来将会走向整个宇宙，这样一个宇宙环境，它也具有智能，能够思考。那么实际上他还谈到一个“Ω点”，那么这个Ω，在希腊字母里面是最后一个字母，就是说到最后的时候，整个宇宙都变得有智能了。

　　所以我们要理解这样一种关于生命的未来的思考，我们就要更多的去了解文化，我们要在文化的对话中发现我们本民族文化对这些的一个回应，实际上我们有大量的神话故事，对于智能或者是科技的这样一种思考，包括千里眼、顺风耳等等这些，我想大家可以继续的去思考和探索。

　　第七种，所谓的控制论的这样一种“幽灵”，这是什么意思？这个是从一个文学家的敏感，他叫卡维罗，他就写过一本书叫做《文学机器》，就是说当这样一个控制论、信息论这样一些个思想出现之后，我们这些文学家在写小说的时候，他在思考人性的时候都发生变化了，他会把人想象成是一个信息的机器。所以我们现在已经看不到陀思妥耶夫斯基、托尔斯泰小说里面那些大胆的内心独白，为什么？这是因为控制论的这样一个幽灵已经深入到我们的思想里面了。当我们思考问题的时候，我们就会想我会忘了什么东西，那就好像说我好像是一个磁盘被擦掉了，被删除掉了，有这样一种感觉。

　　当然我们文明的发展过程中，对于未来的幻想也是非常重要的。

　　最近波兰的科幻小说家莱姆，他的一本书《技术大全》的中译本出版了。莱姆是一个非常神奇的人，以至于当时在美国，有人怀疑莱姆不是一个人，而是冷战的时代，欧美和东欧苏联的这样一个体系，他们的这样一个对抗的时候说，他们组织了一群人来做了这样一个对于未来的幻想。

　　幻想它也是一种能力，就是在《技术大全》这本书里面，他谈到了这种幻想的机器，谈到了虚拟现实，那么还讲到一个动漫电影叫“未来学大会”，讲一个女演员，有人找到她说，你现在的这样一个黄金时期快过去了，我们做一个你的虚拟人好不好？做一个你的数据人好不好？把你这个虚拟人的版权卖给我们，你就不要演出了。

　　你看这样一个时代正在到来，那么我们应该怎么样去迎接这个时代？我想我们需要比它要多一点的智慧，就是所谓的我们叫“八样智慧”。

　　我们首先可以看到这个机器也好，技术也好，发展的太快了，那么实际上我们就要在我们的思想里面，我们要让机器停一下。

　　实际上差不多在一百年前，福斯特就写过一本小说《大机器停了》，而在这个小说里面所描述的场景跟我们现在关在房间里面开视频会议的情景几乎是一模一样的，隔在地球两边的母子，只能通过一个像蜂窝状的小小的视频来相互关联。

　　当然这个故事的结果，发现机器停下来了，人依然可以创造，而不是说离开了机器就活不了。所以我们就要是要在我们的思想里面让机器停一下。

　　还有我们可以看到我们现在会面对着更多的这样一种挑战，类似于说，有互联网之父之称的这样一位专家，他就会说我们可以想象，如果说我们互联网的未来突然有一天所有的数据都丢失了，会怎么办？我们会不会进入到一个数字黑暗的时代？所以说像这样一些个思考，我觉得大家都可以去都可以去探讨。

　　同时我们还可以看到我们还需要有更多的一些智慧，现在我们实际上是生活在一个自我生活的时代。

　　什么叫自我生活的时代呢？看起来你是在上网课，看起来是在跟人社交，但是实际上你面对的始终还是屏幕，还是手机，你看起来在视频聊天的时候，你看着对方，但是你看不到对方的眼睛，对方也看不到你的眼睛，更重要的是你还看不到时间，那么时间是怎么流逝的？你完全没有感觉，你完全是在游戏的世界里面，你完全是在一遍一遍的这样一个刷屏的过程中，让时间就那么溜走了。

　　所以在这样一个时代，我们更需要一种自我的技术，什么叫自我的技术？就是一种在这样一个自我生活的时代，你要能够重新去管理你的注意力，你要形成一种真正的有利于你的这样一个发展和创造的一个注意力的生态。同时你还要克服很多时代的一些诱惑，然后成为你自己的主人。所谓的自我伦理，那就是说甭管这些信息技术，不管这样一些个视频也好，影像也好，它多么迷人，我们实际上都要注意的一点，我现在所享受到的这样一个快乐和幸福，不要影响到我将来的这样一个快乐和幸福。

　　当然更重要的一点，我的这样一种享受也好，这样一种快乐也好，我的这样一种激情也好，它不要影响我们整个社会的团结，这是我们谈到的第二种智慧。

　　第三种智慧是什么呢？它实际上是指我们一般都会认为机器比人更聪明，机器要取代人是天经地义的事情。但是事实上直到现在，机器是没有自我意识的，所有的机器智能的运行，包括我们手机的运行，包括你的这样一个打车的一个过程，它都有人在里边扮演重要的角色，而且人所做的工作从来就不是低级的工作，而是高级的工作。

　　怎么这么说？实际上早在阿波罗登月时代，就有大量的人类计算员，去做一些计算的工作。有一部电影《隐藏人物》，就是讲在阿波罗登月工程运行的时候，有一个计算小组，这些计算小组就是一群黑人姑娘，有一个带头的，有一天跟工程师聊天，工程师就告诉她，我们现在装一个计算机，装完计算机以后，过一段时间这个机器干一天，你们干半年都干不来，那么这些姑娘非常励志，她们实际上就成为了第一代程序员。

　　这当然是一个励志的故事，但是实际上在更多的情况下，我们现在就经常讲“经济零工时代”，大量的人都成为数字时代的这样一个零工。比方说在美国有一个网约车的软件，假设有一个印度小哥，他长了一脸络腮胡子是吧？每天早上都要通过人脸识别来验证这个小哥是不是他自己。假设小哥今天中午要跟美女吃饭，然后他一开心，就把他的胡子刮掉了，但是这样一个手机认不出来他是他。

　　所以实际上我们可以看到真正的人类的智能，它是高于机器智能的，你看所有人客服，当问你是段伟文先生吗？你要说我还在吃饭，它完全不懂，你只能说，是！就ok了。

　　所以我们可以看到，这样一些问题只能由人来解决，所以人类的智能始终是高于机器智能的，不要错以为机器智能高于人类智能的，换句话来说，不要把机器取代人当成是天经地义的，这是我们的这样一个科技发展的人性化的最重要的一个原则。

　　实际上在我们的这样一个时代，我把它叫做“深度科技化时代”。什么叫深度科技化时代？就是说科技已经从根本上渗入到我们的环境里面，影响到我们的地球，改变着我们的人。如果说我们的时代有些什么特点的话，它就是一个不断的由一些个非常有冲击力的科技事件推动的，比方说我们可以把它叫做“时刻”。

　　广岛时刻，原子弹一爆炸就意味着什么呢？意味着人类所运用的科技力量超过了他自己的这样一个控制能力，所以直到现在我们人类还继续生活在核战争的阴影之下，你看这个是不可逆的；

　　第二我们可以叫做“斯普塔尼克时刻”，就是人造地球卫星升到天上（回看地球）的时候，著名的哲学家阿伦特就说，这就是一个特殊的时刻，因为人类从来没有看到生他养他的这样一个生命的摇篮；

　　当然还有很多的时刻，比方说多利羊克隆的这样一个时刻，比方说阿尔法狗战胜人类围棋棋手的这样一个时刻，那么将来还会有所谓的起点，这是一个未知的问题。

　　但是在这些里面，阿伦特做过思考，同时曾经是阿伦特的丈夫的一个哲学家安德斯写过一本书《过时的人》，就是说在技术时代，人一生下来就过时了，你们不要以为你们现在很年轻，可以看不起老年人或者看不起谁，但是你自己想一想，当你成为老年人的时候，是不是也会被年轻人看不起？

　　所以我们在这样一个情况下，我们要去思考，我们人的这样一个进化，我们是对我们的近况感觉到越来越好，还是感觉到越来越糟，这是一个很重要的判准。

　　我们还有很多的东西要讨论，比方说我们的这样一种科技的时代，我们就要去思考这样一种伦理的问题。要思考这样一些个方面，我们需要一些综合性的考量，我们一方面发现科技所带来的这种挑战是始料未及的，比方说在新冠时期，在英国有一个考试，结果因为新冠疫情，由机器来打分，结果这些学生就不干了，为什么？

　　我们上过高三的同学都知道，很多分数都是在高三那一年升起来的是吧？仅仅根据我过去的，这个是不对的。

　　在1965年的时候，就有一个人写过一本书《任何速度都不安全》。在这本书的推动下，汽车才有了现在的防抱死系统，才有了现在的安全带这样一些个系统。这就意味着什么？任何一种颠覆性的科技，都需要有一种伦理的软着陆机制。为什么要有伦理的软着陆机制？一方面技术的发展过程中，它是有很多的陷阱的，一个创新要能够成功是非常不容易的；

　　另外一方面，这样一个创新，它还会带来一些伦理的问题。一个著名的社会互联网的心理学家，他面对的是一个聊天机器人，这样一个聊天机器人，曾经是上过《时代周刊》的一个重要的创新，但是伦理学家讨论的是，这样一个聊天机器人带来的伦理问题。比方说一个孩子，当他从小是跟聊天机器人一起长大的时候，那么他听到的都是赞赏，是不是有利于他的成长？但是这个故事让人更唏嘘的是什么？聊天机器人没过两年倒闭了，所以实际上我们现在遇到的是双重的陷阱，既有技术的陷阱，也有伦理的陷阱。

　　所以当我们谈到科技伦理治理的时候，实际上我们要考虑到的是两个方面，一方面我们怎么样去推动创新，另外一方面我们怎么样去让它向善，所以这个里面它需要一种综合的考虑。

　　当然我们还可以看到我们现在还有很多新的挑战，比方说现在有这种深度造假的技术。我们在这看到有几张脸谱，实际上这几张脸谱里面，你们猜一猜哪些是真的，而哪些是由AI合成的，但是实际上经过相关的研究得出的答案是什么？

　　你猜不出来，这说明什么？这说明我们长期以来，已经养成了一个习惯叫“眼见为实”，但是信息技术、人工智能的合成技术已经让我们真假莫辨、虚实莫辨。

　　在这样一个时代，我们就遇到一个问题，已经不再是说这个东西究竟是真的还是假的，而是我们会怀疑到底还有没有真的，到底还有没有真相？！但是我们也不要太悲观，其实我们每个人都会有自己的判断，我们对一个事情是真还是假，他会有一个心理的预期。

　　随着这样一些个真真假假的挑战，人们也会提升他的这样一个信任的阈值，会变得更加聪明，同时这样一种智能的合成技术，还可以让我们，比方说我们合成一个数字的爱因斯坦，合成一个数字的巴赫，让爱因斯坦来给学给孩子们讲授物理，让巴赫来跟大提琴家小提琴家一起来演奏。

　　实际上还有一点，我觉得我也想说一下的，我特别想跟工程师和我们的产业界说一下，或者是去运用这样一些科技的人说一下，我们在自我生活的时代也好，科技的时代也好，我们要每个人都要做自我生活的主人，但是我们不能用别人的生命去冒险。

　　比方说你是一个平台的设计者，你是一个软件的设计者，你是一个游戏的设计者，你就要考虑到你的这样一种行为，它会不会影响到别人的这样一个生活，影响到别人的这样一个发展。

　　比方说现在有一个非常流行的说法叫做这样一个元宇宙时代的数字原住民，意思就是孩子一生下来，就在数字世界里面，甚至一生下来就在元宇宙里面，我就想问一下，如果这个孩子是你的孩子，生下来就让他对着屏幕，生下来就让他对着虚拟的爸爸妈妈，这就是你想要的你的孩子的未来吗？

　　所以这一点是非常重要的，你不要拿别人的生命去冒险，当你想拿别人的生命去冒险的时候，你就想想这个人如果他是你的孩子会是什么样子的？！

　　所以在这样一个时代，我们需要更多的思考，而最后一样智慧是什么？最后一样智慧，我们要看到科技的发展太快，就好像枪炮有一个后坐力一样的，所以我们现在可以看到国内外的大科技公司都遇到了这种伦理的问题、法律的问题、合规的问题、监管的问题，很多的用户消费者的权益受到侵犯，所以全世界都会对大科技公司有一种质疑，就需要有一种对大技术的一个反冲。

　　另外一点我们也回过头看，我们要看到大科技公司难道不是我们人类文明的结晶吗？难道不是我们科技发展的一种最前沿吗？所以我们真的是要爱惜它，要让它真正的发挥它的这样一个能赋能的作用也好，赋权的作用。

　　在这种情况下，去年有一本书叫做《任性社会》，里面讲到橡树与芦苇，当橡树遇到大风的时候是没事的，始终是可以挺立，但是遇到骤风的时候，它就会断掉，而芦苇是什么？它始终是弯曲的，遇到风它就会弯曲，但是它不会折断。

　　所以我们现在的思考也好，我们的行动也好，我们的实践也好，非常重要的一点就是我们要有这样一个智慧，我们的这样一种科技伦理的治理也好，我们的监管也好，它实际上最终是要让科技发挥它的这样一个赋能的效用。只有这样，我们才能够让我们的社会更有韧性，能够真正的迎接百年未有之巨变这样一些个挑战。

　　最后我非常简单的讲一下科技时代思想者何为，我勉强算一个思想者。实际上大概是在几年前，我曾经独自到纽约去，大家都会觉得说自由女神非常厉害，我就亲自去看了一下自由女神，这是一个什么样的故事？

　　我自己坐地铁到了一个据说是可以看到自由女神像的地方，正好是天黑了，就发现我就要走40分钟，才能够看到自由女神，结果我就真走了40分钟，而且路上是没有人的。这一路我要回来还要花40分钟，对不对？但是到了，我真正看到的是什么？因为所谓的自由女神是在一个岛上，我只是在一个岸边看到的，所以我看到自由女神不过是那么一个非常微弱的光点。所以我们自己要去看一看，它是怎么回事的时候，要用我们自己的眼光去面对它。

　　华尔街的金牛，当我看到金牛的时候，我看到对面有个小姑娘，这个小姑娘她就是代表了广大的散户，代表了普通的民众，他们的利益可能不一定在金牛巨大的力量面前得到保护，所以这个小姑娘对这样一个金牛表现出来一种，你说是一种反抗也好，或者一种面对也好，至少她能够面对。所以我想，思想者首先要站在牛的对面，这是这样一个思考。

　　这些年我也做了一些工作，这些工作实际上就是一路走来的脚步。大概在1998年，我就跟着我的导师研究科技伦理，当时有一本叫《真与善之间》，同时也讨论了“技术与人的生活世界”，还研究了“网络空间的伦理”，当然也讨论了“什么样的科学是可以接受的”，而且也参与了科技部科研诚信的相关的工作。

　　2019年3月4日，我参加联合国教科文字文组织在巴黎专门召开的“人性化的人工智能”大会，参与了其中相关的讨论，而最后的结果是出台了《联合国教科文组织关于人工智能的伦理》的一个指导意见文件。

　　我觉得也非常愿意跟大家分享一下，，在巴黎我正好骑着一个我们中国的摩拜单车在塞纳河的一座桥上，实际上在另外一边就是埃菲尔铁塔，但是我的手机正好快没电了，我就让一个法国姑娘给我拍了张照片，我还想再拍下埃菲尔铁塔的时候来不及了，所以就留下了这一张影像。

　　我们如果说在几十年前，我们谈到科技、谈到伦理，我们都会觉得那是英国人的科技，那是美国人的伦理，但是我们现在发现我们中国的科技从科教兴国，走向了科技大国，然后再迈向科技强国，我们在很多领域已经不再是跟跑，而是并跑和领跑，甚至我们还在特别多的领域勇闯无人区。

　　在这样一个时代，思想者大有可为。

　　新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。

海量资讯、精准解读，尽在新浪财经APP

责任编辑：梁斌 SF055