你，要比AI更凶猛|AI_新浪财经

　　炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

转自：正和岛

这两年，全球AI技术突飞猛进。

美国以全国之力投入AI，GPT-4的实力有目共睹，GRE考试接近满分，律考击败了90%人类，掌握的医学知识超过了所有医学生。

从去年大语言模型ChatGPT的一鸣惊人,再到今年视频生成大模型Sora的火爆全网，AI的浪潮一浪更比一浪高。

人们惊叹于AI实力的同时，也唤醒了心中的隐忧：据麦肯锡报告，AI的发展将使当前工作的60%-70%实现自动化，同时，50%的岗位将逐步被AI取代。AI似乎越来越“危险”了。

更令人忧心的是，OpenAI宣布终止对中国提供API服务。

中美AI之间的差距有多大？人类与AI相比，竞争优势在哪里？未来我们应当如何与AI相处？

带着这些问题，我们与物理学家、科普作家万维钢老师聊了聊，在过去很长时间里，他亲自调研了硅谷，对AI发展有着深刻的洞见。他认为，AI不是取代你，而是放大你，让你真正的活出“人样”。

“人要比工具强势，对于AI，更强势的用法是，把AI当作助手，自己掌握控制权，所以人要比AI凶。”

以下是内容精编，希望对你有所启发。

口述：万维钢物理学家、科普作家、《拐点》作者

采编：星辰

来源：正和岛（ID：zhenghedao）

为什么AI变革是启蒙运动级别的？

从人的智能到人工智能之变，不但比信息革命重要，而且比工业革命重要———这是启蒙运动级别的大事件。

——亨利 · 基辛格

问：您曾引用荀子的《劝学》来描述AI的三个能力境界，AI目前已经发展到了哪个阶段了？

万维钢：《荀子·劝学》指的是，随着知识的积累，人的认知水平和工作水平会有所提高，这个提高不是线性的，而是上台阶式的。

第一层叫“积土成山，风雨兴焉”，只要参数足够多，训练达到一定的积累，你就可以做一些事情，相当于几年前的AI，比如围棋AI，经过足够多的训练，不看棋谱就能自己和自己下棋了。

第二层是“积水成渊，蛟龙生焉”，AI通过大语言数据，涌现出更高级的能力，如逻辑推理和数学解题，它拥有了思考链，能举一反三，类似于当前的AI阶段。

第三层是“积善成德，而神明自得，圣心备焉”，除了知识和智能以外，AI可能产生自我意识，甚至有了机器的道德，对社会产生深远影响，甚至有人将它奉为神明，我们可能会回到欧洲中世纪，宗教势力和王权势力共同治理天下的局面。

现在的AI技术还没有实现第三层的水平，这只是一种可能性，但第二层非常成熟了，“龙”已经大显身手了。

OpenAI的CEO山姆·奥特曼在一次访谈中提到，他们内部的数据表明模型性能的缩放法继续有效，也就是说通过使模型更大可以继续提升性能，GPT5的水平远远高于GPT4。

今天GPT4解决问题的能力越来越强，GPT提出创意计划书的能力超过了沃顿商学院MBA的学生，写科研经费申请书的水平，在专家双盲评议的过程中，超过了职业的物理学家，更不用说AI的客服能力了。

我认为，AI现在非常接近于AGI（通用人工智能），也就是通用人工智能阶段，换言之，AI跟任何一个人相比，已经毫不逊色了。

问：在《拐点》一书中，为什么说AI变革是一场启蒙运动级别的？

万维钢：启蒙运动始于牛顿的物理定律，在此之前，人们对大自然的认识非常感性，会把自然现象归为神的意志。但牛顿认为这背后都是由物理定律决定的，只要用方程和测量就能算清万事万物的规律。所以说启蒙运动是一种理性化的运动，主张用理性和规则取代感性认知。

但AI恰恰不是这样，AI只是一种感觉，它基于神经计算，这边给输入，那边就给输出，中间是黑箱。搞不懂这个输出是怎么得出的，就像一种情绪，一种感觉，一种直觉。

人类学者对“理性”的推崇，只不过是漫长的智能演化史中的一段短暂的插曲。用神经网络直接从输入感知输出，才是更根本、更普遍、更厉害的智能。AI的出现只是让智能回归本性。

事实证明，大量训练过后的AI让我们又回到了当初感性的状态，这比理性计算更根本、更普遍、也更方便。

直觉也是应对复杂局面最好的方法，很多问题是没有办法通过理性一点点计算的，就像一个篮球运动员投篮不会先计算好角度、速度和旋转弧度，只是凭感觉一投就进了，这就是直觉。

所以说，AI的思维方式恰恰就是人的感性思维。从人的智能到人工智能之变，不但比信息革命重要，而且比工业革命重要。这是启蒙运动级别的大事件。

未来，每个AI都不一样，而且各有各的风格。哪怕做的是同样的事，因为经历的训练不一样，它们的产出也会各不相同。世界将从工业复制时代重归匠人定制时代。而那样一个直觉而非逻辑的世界，原本就是我们熟悉的。

不会被AI取代的职业

问：人工智能惠及到人类了吗？目前大众对AI最大担忧在于未来是否会加剧失业，甚至剥夺一部分人的工作价值。2023年之前，很多人认为AI可能会取代流水线工人、话务员、翻译等等，没想到AI能够写诗和画画，AI的创造力会超过人类吗？人类有哪些职业不会被取代？

万维钢：AI在写诗和画画方面的创造力肯定超过我了，我用AI做插图，只要精确地告诉它图上有什么元素，AI就能设计出令人惊叹的构图。

创造性是链接不同想法，一个人想要有超群的创造力，需要吸收大量古今中外的名家思想，如果在西方油画的基础上加入中国古代元素，那就是创新，全新的创造则需要更遥远、更基础的元素组合，这是AI所擅长的。

而且AI的创造力是可调控的，有一个参数叫温度系数（注：一个用于调整模型生成文本时创造性和多样性的超参数），温度调高一点，AI就会生成天马行空的内容。AI在生成商业计划书、科研探索的计划书等方面，其创造性已经超越了人类。

但是，AI（主要指人形机器人）目前还比不上流水线工人，因为工人处理的信息比画家多一些。工人需要协调身体，这是在三维空间里做事，画家则在二维空间里做事。

三维空间不仅仅要处理视觉信号，还要处理材料质感、力度等更复杂的运算，人脑经过亿万年的演化，处理这些事情游刃有余，但是AI起步时间不长，所以在处理三维空间的事情上比较笨拙。

现在特斯拉、Open AI、英伟达正在力推人形机器人，只不过机器人主要是模仿人类，比如斯坦福大学有一个团队，只用了20万美元就搭建了一套设备，让AI会炒菜，会洗碗，打鸡蛋的力度拿捏得很好。

即便如此，人形机器人的能力还没有迎来“飞跃时刻”，如同GPT3.5到GPT4的一次飞跃。或许两年之内，AGI（通用人工智能）有了身体，能走路、能干活、能听能看、能主动做它认为该做的事，那么机器人接管所有低端体力劳动的日子可能很快就会到来。

目前来看，有几个行业绝对不会被AI取代的，比如运动员，我们看比赛主要看人类比赛，想看到人能做到什么程度；再比如围棋或象棋等棋类比赛，尽管AI的技术水平已经超越了人类，但人们仍然热衷于观看人类棋手之间的比赛。

事实上，人类棋手并没有因为AI的崛起而减少比赛，反而在AI的辅助训练下，提高了专业水平。只要我们的社会价值观更倾向于欣赏和支持人类的表现，人类就不会被AI彻底取代。

还有有两件事与AI能力无关，仅仅因为它是AI，我们就不愿意让它做。

一个是做决策，如果决策失误，只有人能以血肉之躯承担后果，我们无法对AI问责。AI时代的决策=AI的预测+人的判断。预测是客观的，判断是主观的，预测是对人的一种赋能，而判断力和随之而来的决策力，本质上是一种权力，AI没有权力。

从道德角度应该是，谁承担决策的后果，决策权就应该属于谁；从经济学角度来说，则是谁决策能让整个组织的效率最高，就应该属于谁。假设你是董事长，花钱请一位高水平职业经理人当总经理，对于重大决策，总经理再厉害，也需要董事长签字认可、让董事长拍板，AI可以作为一个好参谋，它提出建议的能力远远超过你。

再一个就是服务业是不会被取代的，因为我们是人，所以我们更愿意跟人打交道，比如老师、医生、护士、警察，所有的服务业本质上是跟人打交道，历史趋势就是这样。美国流水线工人的数量急剧减少，工业上所雇佣的人数越来越少。

中国和美国的趋势都是如此，服务业的人数变得越来越多，以后绝大多数人可能会去服务业，而不是工业或农业。

问：运动员之间的比赛是体力上的极限游戏，下围棋又是智力上的极限游戏，可以理解为，人是一个游戏的制定者吗？

万维钢：人是创造者，当我们构建系统时，我们的价值观更倾向于人类，即便是设计AI系统时，我们的目标总是由价值观驱动，这种价值观和人类息息相关。

例如，建造公园不是为了蜘蛛的利益，而是为了人类利益。如果AI变得非常先进，它将拥有什么样的价值观？这是一个未知数。但我们需要在AI的发展过程中，不断调整，确保其价值观始终与人类对齐，而不是与人类价值观背道而驰。

价值观一定是由人来决定的，我们可能会更深刻地理解“以人为本”的含义。

问：从碳基文明本身来看，人为什么更倾向于人类本身，是基于人类自身的情感诉求吗？

万维钢：人类的情感诉求来自于哪儿？人类的演化。在亿万年的演化中，我们的头脑里预装了这些“程序”，我们天生就会产生依恋感。

不管在世界的哪个地方演化，有一个环境因素是永远不变的，那就是他人的存在，这对人特别敏感，以至于我们大脑里面专门有一个区域是用来识别人脸。比如你跟某人聊完天以后，你可能忘了对方穿什么衣服，但下次见到他，你会觉得对方面熟。

我们如此的倾向于人，各种情感比如愤怒、羡慕、嫉妒等等都是对人的，有时人会移情到物品上，但这不是主流，我们只会更倾向于人。

人比AI厉害在哪？

问：您刚刚提到，AI的思维方式是人的感性思维，而它的智力也正在赶超人类，GRE考试接近满分，律考击败了90%人类，还会做商业策划书，那么GPT的命门是什么？与AI相比，人类的优势究竟是什么？

万维钢：GPT的命门是太像人脑。有个反直觉的常识，AI不会算复杂的数学题，你让GPT4解一个六位数带有相乘与相加的四则运算，GPT4在第一步就算错数了，算出来的结果和计算器算出来的结果不一样。

GPT的底牌，它只是一个语言模型。语言模型的本质，对文本进行“合理的延续”，用更直白的话就是根据它已有的数据库，总结出用户输入文本的规律，这一点和人类的思考很像。

但是GPT远远不是万能的，它的命门就是太像人脑，擅长思考，但不太擅长做数学计算，也不是传统的计算机。

和AI相比，人有具身认知。所谓具身认知，是通过身体去体察自己的和别人的情感。我们大脑的思想不是缸中之脑，身体给大脑提供能源，让大脑处理外界信息，大脑思考高度受到身体各个部分的感知，比如肠道菌群也参与决策，我们心情好一点、坏一点，温度冷一点、热一点，就连吃没吃早饭，都会影响决策，这就是具身认知。

过去十几年的研究，我们非常清楚身体能高度影响大脑，而AI再厉害也没有肉体，它不是碳基生物，它没有人的感知能力。

还有一个神秘能力，就是历史。人是历史的产物。历史对人来说是一种主观存在，是人对世界的主观感受。我们背负了亿万年生物演化的历史包袱，我们的文化承载了无数的历史记忆。我们的价值观本质上是历史的产物。

现在AI已经有了各种拥有了人的各种能力：论创造，GPT可以写小说和诗歌；论情感，GPT可以根据你设定的情感生成内容；GPT还有远超过普通人的判断力和推理能力，还有相当水平的常识……

但是，AI没有历史。AI的代码是我们临时编写的，而不是亿万年演化来的，AI的记忆是我们用语料喂出来的，而不是一代代“硅基祖先”传给它的。

AI至少在短期内没有办法形成自己的价值观，它只能参照——或者说“对齐”——我们的价值观。这就是人类相对于AI最后的优势。

AI时代，应当具备的两种能力

问：如果我们去考虑下一代的话，您觉得AI时代，他们应该是掌握哪些才能？或者说我们的教育系统如何去教育未来的孩子，让他们更好地适应AI时代。

万维纲：传统的教育是居高临下的姿态。主动权在学校、老师和家长这些“教育者”手里。学生作为“教育对象”是被动的。以前我们可以把这种教育比喻成园丁栽培植物：教育者安排好环境，浇水，施肥，时而选拔；教育对象根据要求成长，如果更精确的类比的话，这实质上是训练AI的方法。

这种教育系统是为工业时代所准备的，最优秀的品质是遵守规则、一丝不苟地按照流程操作，创造性通常被视为锦上添花的特质，学校没有教孩子们如何跟人打交道，怎样在社会上做个独立的人，又怎么成为值得信赖的人。

AI时代，我们最缺失两种能力：一是批判性思维；二是领导力。

批判性思维，简单来讲就是能明辨是非，这个社会上有很多人、很多种说法，哪个说法是对的，哪个说法是不对的，你崇尚什么，你鄙视什么，这个能力你得有。

再一个就是领导力，领导力不仅仅是管理下属，更重要的是领导他人的能力，包括领导你的领导，领导客户，领导消费者，让别人心甘情愿、按照你的意志去做事，这就是领导力。

这种能力在中国教育体系中往往被忽视。美国教育当然也有问题，但相比之下，它更注重培养领导力和口头表达，这可能是为什么许多中国留学生在美国公司中往往处于中层或技术岗位，而很少能上升到领导层，与此同时，印度人正在接管美国硅谷的领导岗位。

中国学生往往缺乏主人翁意识，他们更倾向于适应公司文化、保住工作和关注工资，而不是主动思考如何塑造公司的未来或调整公司的方向。

他们很少从宏观的角度分析社会问题或运用高级的方法解决问题。我们的孩子侧重于灌输教材知识，对世界运行的机制和科学原理知之甚少。

人如何与AI相处？

问：2023年，Open AI发布了一则声明，叫《对AGI及以后的规划》，这份声明更多的是忧患人类怎么接受AGI，反复强调要“逐渐过渡”。

您在书中提到，这等于是说，通往AGI的技术已经具备，但是为了让人类有个适应过程，Open AI正在刻意压着，尽量慢点出。不仅仅是就业，AI将重构人类社会新秩序，您对AI持什么样的态度，人类应该如何处理AI之间的关系？

万维钢：人会跟AI共存，是一个共生的关系。首先人肯定不能接受AI的控制，这个根本原因就是，如果出了事，承担后果的是人，而不是AI。

AI没有身体，不掌握钱，没有资源，不会冻着，也不会饿着，承担一切后果的是人。万一气侯真的恶化了，倒霉的是人类本身，而不是AI。所以我们不可能永远听AI的，我的事只能我作主，AI只能给我提供一个参谋的作用，所以人绝对不会被AI完全控制。

但是人能不能永远掌控AI，这是一个悬念。如果某些AI不接受人类控制，我们是否可以再训练一个AI去控制它，让AI跟AI互相制衡。

我们要承认星球上存在另一个物种，比我们更聪明，接受它的存在、互惠共存是更好的策略，而不是禁止这个物种出现。哪怕这个物种带来一定的危险也是值得的，比如每年都有人因车祸身亡，但我们仍然接受汽车的存在，汽车的存在使人类社会变得更加繁荣。

再一点，人因为演化了这么多年的文化和历史，人有一套价值观和主动性，这个是AI所没有的。AI再强，你没有历史，我有历史，我家有故事，你没有，我活着有意义，我要传承我们的文化和历史，你没有意义，所以这个主动性只能由我来发起，而不是你来发起。

当然AI不能从理论上证明它一定会忠于人的价值，但是我觉得至少有些AI会非常认可人的价值，它是我们的产物，我们有权利要求它跟我们的价值观对齐。

中美AI差距有多大？

问：美国以举国之力投入AI，在硅谷投资人逢人必谈AI，根据您的调研，AI目前的基本情况是怎样的？中国在这个窗口期慢了半拍了吗？

万维钢：准确来讲，美国AI比全世界领先一步。

美国有这么多的创新，一个特别重要的原因就是风险投资非常发达。只要你有好技术或好想法，还有执行力，不需要自己多有钱，有人会给你投钱，并且帮你找客户、拓展市场，希望从你发展壮大的这个过程中获利。

硅谷顶极孵化器Y Combinator（YC），专门孵化创业团队，它提供了一个“创业公司训练营”，其中超2/3以上的项目使用了AI技术。去年年底，只要你是AI公司，几乎马上能拿到投资。现在投资人更趋于理性，创业者需要证明，在OpenAI下一次的升级中不会被取代，总的来说，AI仍然很热门领域，这就是目前的局面。

与美国相比，中国AI有两个问题应当引起重视：

一是中国没有做AI的“神通”，缺乏超一流的AI天才。中国有很多优秀的AI科学家，但在世界范围内，缺乏具有开创性贡献的AI天才，这导致中国AI的创新多为模仿，缺乏独创性。

另一方面，中国在AI应用方面与美国相比还有差距。

2023年美国的AI创业公司如雨后春笋般出现，许多公司已经具备了盈利能力，但中国的AI应用公司凤毛麟角，“挽弓当挽强，用箭当用长”，如果中国公司用不上最好的大模型，就丧失了先发优势。

从目前局面来看，在AI领域，中国比欧洲和日本领先，但与美国相比，差距比较明显。

问：目前来看，AI技术会带来怎样的商业机会？

万维钢：我在硅谷观察到AI技术在多个领域的成功应用。比如金融文档阅读，AI帮助金融公司阅读和分析大量文档，如贷款审批和商业法规，提高了效率。

比如软件测试，AI被用于自动化软件测试，减少人力需求，提高测试效率。一些公司甚至使用旧版本的AI模型，因为成本效益高。因为AI成本非常低，他们已经盈利了。

在领导力教练方面，哈佛大学的毕业生创建了AI领导力教练服务，为公司高管提供个性化的领导力训练和职业发展建议，这门生意已经打开了市场，很多公司愿意付费给中层干部配备一个教练。

我前两天在旧金山开了一次会议，叫生成式AI峰会，有很多参会的小型创业公司，比如做电商服务，他们让AI代理接管海外电商运营，包括库存管理、商品上架等；最有意思的公司是用AI算命……

这些公司一大特点就是小，AI的技术门槛不高，三五人的团队就能快速成立公司，用现成的技术与本地知识相结合，很容易吸引投资并快速实现商业化。