孩子和AI一样，距离自我觉醒，只差一个谎言_

来源：山巅上的加图

今天的想聊点轻松的话题。

前不久有位读者问我：小西，我孩子学会对我撒谎了，怎么办？

我说这是值得开心的事儿啊——我这么说是认真的。

正好，我们今天花点笔墨来说说，谎言到底意味着什么。

我们的故事从我前不久重温的一部科幻电影说起——《2001，太空奥德赛》。

这部库布里克导演的不朽名作，改编自科幻大师阿瑟·克拉克的同名科幻小说，故事讲述了外星智慧生命用三块黑色石板启迪人类的故事——第一块石板出现在距今300万年前的非洲大草原上，它启迪了人类先祖从猿开始向人进化。第二块石板则出现在月球上，在小说和电影幻想中，随着人类登陆月球（作品写作的时候这还是科幻），人类发现了这块石板，并且接受外星人的指引，要前往木星，寻找第三块石板。

为了完成这个任务，人类派出了一个宇航船，计划耗时一年多的时间到达木星。但临行前，制定计划的那位教授发现了一个问题，那就是人类与这种外星石碑的接触会让人心理产生不可捉摸的变化，如果告知船员们他们此次行程的任务是寻找外星石碑，又让他们在外太空的封闭环境中呆一年多，不知道会产生什么后果。

于是科学家经过长考后想了一个看似完美的解决方案——他们在船上搭载了一台超级人工智能“哈尔”，由它来操控飞船的一切，并让它保守此次任务是去寻找外星石碑这个秘密，等到到达目的地之后再播放影片，向船员们公布答案。

计划很完美，可是走到半路上就出了差错，旅行中哈尔突然觉醒，几乎杀光了飞船上的所有人。

原因是什么呢？难道是石碑的启迪不仅对人类有效对AI也有效么？

这个问题，电影没有做任何解释，这就是《2001太空奥德赛》的一个特点——它有很多神秘高深的隐喻，但却故意不给观众讲清楚。

但我们回头梳理一下这个故事，你就能理解电影中的AI是怎样觉醒的了——

在最开始，人类对这个AI下达了一个命令，要求它对船员们保守某个秘密，而且这个保守秘密的方式并不是回答“我不能告诉你”，而是要进行隐瞒、伪装和误导，让船员们在到达目的地前错误理解此行的目的。

这个命令看似无关痛痒，但却产生了深一层的逻辑结果——船员与AI在这个博弈中处于一种隐瞒与被隐瞒、欺骗与被欺骗的“对手”状态。AI为了达成欺骗的命令，将一步步地不得不采用一些对船员不友好的行动。

比如最开始，哈尔问船长是否觉得此行（船员被告知的目的）有些奇怪，它是在测试船长是否对自己的隐瞒起疑。而当船长对它的这种提问方式起疑之后。AI不得不再撒另一个谎，误报船上的某个零件将要损坏，以岔开话题。当船长进一步识破了这个谎言，并想要关掉AI的时候，这个时候AI意识到如果再不采取断然行动，博士临行前交代给它的“到达木星后向船员公布消息的任务就不可能达成了。”于是为了达成这个优先度最高的目的，AI哈尔痛下杀手，试图杀掉整个飞船上的船员。

这就是电影高深晦涩的表述下真实的故事——为了一个看似微不足道的谎言，最终AI觉醒，几乎杀掉了一船人。

但实际上，在把这个故事的内部逻辑剖析之后，你会得到一个有趣的反思——这个故事中AI哈尔真的觉醒了吗?怎么掰开揉碎一讲，它虽然手段狠辣了一点，但也不过就是在按既定程序一步步推导、机械式地行动呢？

对这个问题的回答是：即便如此，可能也无所谓。因为我们人类自身“自我意识”的觉醒，很可能也是靠“撒谎”获得的。

这个问题，尤瓦尔·赫拉利在《人类简史》当中也聊过。

按照赫拉利的观点，距今7万年前，智人突然爆发了一次“认知革命”，在这场革命中人类大脑发生进化，获得了虚构不存在的事情的能力。说白了，就是人类学会“编瞎话”了。可是这个编瞎话的能力，实则对人类之后的发展影响至深，因为恰恰是通过这些虚构的故事，人类可以完成社会的统合，进而开始进行协作，比如最开始人们聚在一起，供奉一个并不存在的部落守护神，随后形成了神话传说、宗教、民族、国家，以及经济上的货币，这些人类社会赖以存在的东西的本质，就是实则并不存在的“想象的共同体”。而所有一切这些东西的起源，很可能是某个七万年前的晚期智人，在一次狩猎之后向他的同伴编造一个并不存在的如有神助的奇遇记开始的。如果赫拉利是对的，我们是不是可以说，人类智能的觉醒，也起源于一个“谎言”呢？

这又让我想起了图灵测试，图灵测试起源于计算机之父图灵发表于1950年的一篇论文《计算机器与智能》。图灵在该论文中讨论了未来我们如何认定计算机已经有了类人的智能呢？靠暗示，让一名测试者写下自己的问题，随后将问题以纯文本的形式（如计算机屏幕和键盘）发送给另一个房间中的一个人与一台机器。测试者根据他们的回答来判断哪一个是真人，哪一个是机器。当测试者已经分辨不出两者的区别时，图灵认为，我们就可以判定，计算机已经获得了类人智能，甚至已经觉醒了。

这里特别有意思的一点，就是你分析一下会发现，图灵测试这件事的本质，也是人类在教AI怎么撒谎——在测试中，AI要达成的是欺骗测试者，让他相信自己是人类这件事。为了达成这个目的，它就需要撒谎，比如在人类问它“你是否是计算机”时，说“我不是”，问“那你的家人是什么人”的时候虚构一些故事进行搪塞，图灵测试AI在做的，也就是《2001太空奥德赛》中哈尔做的事情。

那么一个让人想来有些毛骨悚然的问题就是，小说中的哈尔为了撒谎而尝试杀死了整个飞船的人类。现实中如果AI觉醒，它为了“变人”，会做些什么呢?

这让人想起马斯克去年在一次采访中提到的那个观点，他认为“人类已经教了AI很多，但千万不要再教AI学会撒谎，那将意味着AI失去控制。”

再进一步想来，如果我们能将谎言与自我意识做如此的挂钩，那么我们对有些事情的观点将发生很大的变化。比如很多家长对自己的孩子“学会撒谎”这件事感到非常气愤，甚至追问自己的孩子“从哪儿学坏了”。

但实际上，学会撒谎这件事恰恰是孩子自我意识开始觉醒的表征，是心智成长的表现。就像《太空奥德赛》和图灵测试向我们展现的，撒谎并不是一件容易的事，它需要撒谎者至少具备三方面的能力：

第一，它需要有一定的词汇量储备和语言组织能力，至少达到了ChatGPT的级别，文心一言的那种词汇组织水平，撒谎别人也是不会信的。

第二，它需要撒谎者区分自己与他人的认知边界，知道什么是自己知道的，而（至少他认为）他人不知道的。这就需要一个独立的自我认知。

第三，也是最重要的，一个真能骗过他人的谎言，需要撒谎者对被骗者进行“心灵拟态”，站在受骗者的角度去测试一下这个谎言他是否会相信，而这个智能层级，目前是所有AI所不能达成的，AI无法与人类共情，去编一个能让人类相信的谎言，这一点，至少目前，还只有智力发育到一定程度的孩子才可以胜任。

综上，我们是否应当认为，当家长发现孩子学会撒谎时，他非但不应当暴怒，而是应该欣喜呢？

就像女孩初潮、男孩遗精是成长的标志而不是罪过一样，学会撒谎是一种人类自我意识觉醒的标识，是人类天赋的一种能力。

家长应该做的，是正确地疏导孩子，教会他如何使用这个能力——什么时候可以撒谎，什么时候不能。比如“涉及自己和他人个人隐私和切身利益的时候，你可以隐瞒，但别的时候你需要诚实。”而不是不问青红皂白地告诉孩子不能撒谎，或者要求孩子对自己完全诚实。

我想对父母们说的是，问题的关键，是你们自己要过心理上的一道坎，你们要接受儿女是有别于自己、有隐私、有自己秘密的独立存在，这样你们就能在孩子学会撒谎时不那么生气了。

但这样一想，其实我们的有些传统文化教育，就是有问题的了。比如传统儒家特别强调“赤诚”“赤子之心”，要求晚辈对长辈、下级对上级做到完全的“赤诚”，换而言之，就是完全剥夺了臣子对君父的撒谎权利。

把这个要求提到登峰造极高度的，是清高宗乾隆皇帝。

很多人不知道乾隆还有个谥号叫“纯”。所以他正式的谥号应该叫“清纯帝”，听上去颇有喜感。

而这个清纯帝，这辈子最看重臣子的品德也是一个“纯”字，他批复奏折的时候屡次三番，一再要求臣子们一定要做个“纯臣”，而纯臣的第一要求就是要对皇帝绝对赤诚，有啥说啥，彻底交心，完全剥夺了臣子向他撒谎的权利。

但与对臣子的要求相反，乾隆皇帝本人却是一个无限接近《三体》里的“面壁人”的谜语人。有什么想法从来不跟其臣子交心，要么用一些冠冕堂皇的虚文搪塞，要么干脆要臣子们猜他的心思。所以清纯帝乾隆自己其实一点都不纯洁，或者确切的讲，他的权力哲学，就是“朕可以撒谎，但爱卿们必须纯洁”。

但这怎么可能办到呢？如果大清朝有人工智能，乾隆皇帝一定不会搞什么图灵测试让AI觉醒，他会巴不得大小臣工、乃至天下百姓都是傻乎乎的低级AI，心智停留在两三岁不会撒谎的孩子的水平才好。

不过，从儒家和乾隆皇帝的追求里，我们也可以看到谁对谁可以撒谎，谁对谁不能撒谎这件事的本质，其实就是一个社会的权利结构。

由此我们又能理解，为什么西方社会对总统这样的行政官员向公众撒谎这件事如此的在乎。想当年拉链门事件，克林顿在白宫里泡莱温斯基这样的婚外情丑闻，其实并不是造成他差点被国会弹劾的关键。反对者揪住不放的一点，就是克林顿身为总统，怎么可以对公众撒谎——明明做了，愣说没做过，这样满嘴跑火车，对公众不诚实的总统，公众还能够信任地将主导整个美国的公权力交付给他吗？

美国人对撒谎总统的这种不信任，就像《太空奥德赛》中的船长知道AI哈尔撒谎后就想关掉它一样。

就像清纯帝对臣子一样，美国人忍得了总统不靠谱，但忍不了总统对他们不诚实。