比尔·盖茨接受《克莱恩秀》最新深度访谈：AI已跨越危险临界点，我们还没有意识到危险的临近！（深度解读）_新浪财经

（来源：invest wallstreet）

比尔·盖茨在2026年9月29日《埃兹拉·克莱恩秀》的专访中，对人工智能的现状与未来发出了极为冷峻的警告。他直言，社会对AI的担忧远远不够，除非政府强力介入监管，否则未来几年极可能面临灾难性的网络攻击、生物恐怖主义威胁以及大规模失业危机。

访谈核心要点：

一、对AI风险的根本判断：我们尚未意识到危险临近

盖茨明确表示，指望AI行业依靠自身实现有效监管“简直荒谬”。在激烈的技术军备竞赛中，没有企业会主动踩下刹车。他批评当前行业外——包括学术界、智库、政策制定者和政客——对AI危险性的认知“极低”，并对自己不得不从全球健康事业中抽出精力来呼吁AI监管感到无奈。

他强调，AI已跨越网络攻击与生物攻击的临界点。具体而言：

AI能发现人类审查二十多年并断言“绝对没问题”的代码漏洞，网络黑客攻击能力令人惊叹。
AI使制造致命病原体变得触手可及，只需少数人即可实施过去只有主权国家才能发动的生物攻击。
现有责任法已不足以应对潜在灾难，必须强制在模型中引入监督层与安全保障机制，如同航空和药品监管一样成为现代社会的基础设施。

盖茨认为，迫在眉睫的风险并非AI本身失控，而是恶意行为者利用AI作恶。他批评“竞赛态势是伪命题”的观点，指出政府不是这些产品的主要购买者，传统上最精通技术的政府也未能充分意识到危险。他呼吁超越狭隘民族主义，从全人类高度落实保护措施。

二、AI认知与智能潜力：从工具到战略同伴

盖茨回顾了AI从“可能永远不会发生的可怕想法”到今日现实的历程。他提到：

OpenAI在AP生物学考试中获得满分5分，且能回答他编造的题目，这是第一个震惊时刻。
Claude Code等模型在编写代码和发现缺陷方面已超越人类，执行长时间复杂任务的能力令人不可思议。
在盖茨基金会战略审查中，AI已从“笑话”变为“同伴”，能在深入复杂的战略讨论中做出重大贡献。

但他也警告，硅基智能正在突破碳基大脑的物理极限。大脑受限于产道，而硅基智能无此限制，能阅读每一本医学期刊并发现人类无法察觉的关联。若不保持控制，人类可能进化出一个新物种，其与我们相比如同狗猫之于人。

三、就业市场的深刻变革：人类认知不再稀缺

盖茨对AI冲击就业的判断远比多数经济学家悲观。他认为：

AI将跨越可靠性门槛，大规模替代会计、法律、电话销售、客服支持等工作。AI可全天候、多语言、不知疲倦地提供服务。
杰文斯悖论并不适用于所有领域。一旦AI能独立完成整个任务，需求弹性就不再重要，成本将归入Token预算而非人类薪资预算。
人类认知作为稀缺要素被替代后，再无其他稀缺领域可转移。随着白领工作和人形机器人跨越可靠性阈值，大量岗位将被摧毁，人类无路可退。
他提出应对措施：征收AI劳动税，让机器人缴纳与人类相同的养老金和社保；设立 “人类保留”工作岗位，在儿童保育、养老护理、部分医疗和教育等领域维持人类就业。

盖茨承认转型速度是真正难题，失业者将成为受损方，如同“中国冲击”导致许多社区衰败。他预计过渡期可能长达20多年，需尽量减少破坏、生物恐怖事件和因失业受损的人数。

四、全球南方与AI的普惠价值：医疗、农业与教育

盖茨强调，在低收入国家，AI将带来压倒性的积极影响。盖茨基金会几乎所有工作都是做市场不愿做的事，将AI带给最贫困人群：

尼日利亚说约鲁巴语的女性可通过联网智能手机在半夜描述病情并获得医疗建议。
印度已有超过100万农民使用AI系统获取病害、肥料和品种建议。
低收入国家五岁以下儿童死亡率是美国的15倍，AI是解决医疗、农业和教育资源匮乏的强力工具。

他批评将全球南方视为同质化整体的视角，指出中等收入国家与低收入国家情况截然不同。在低收入国家，AI应尽快推进落地。

五、教育领域的两极分化：认知卸载与学习动机

盖茨指出，AI在个性化教育方面潜力巨大，但也可能加剧学生间差距：

富裕国家出现“学习损失”，学生学到的知识比10年、20年前更少。
AI工具可帮助有学习动力的学生，但中等水平学生看到他人使用AI后可能感到气馁。
“认知卸载”（如代写论文、直接索取答案）会削弱学习过程中的钻研能力。中国一项研究发现，使用AI的孩子家庭作业分数提高，但脱离环境后考试成绩大幅下降。
必须设计具备推理引导功能的工具，并完善家长对AI使用过程的监控。盖茨认为政府在此领域采取家长式管理是合理的，但不必全面禁令，监控是关键。

六、AI治理的政治未来：避免党派两极分化

盖茨提出两个衡量标准：

采取明显的保障措施，最大限度降低网络和生物风险。
对话的性质：若演变成一个政党支持AI、另一个政党反对，就会像气候变化问题一样陷入糟糕境地。目前默认情况是几乎没有中间地带。

他呼吁社会团结起来进行讨论、辩论和应对，并警告阻止数据中心建设丝毫无法减缓AI进程，数据中心总会在某个地方建起来。

七、盖茨基金会的支出计划与全球健康

盖茨计划在2045年前花光基金会2000亿美元资金。AI带来两件影响深远的事：

技术赋能：更快研发新药、培育新种子，与农民和艾滋病毒感染者沟通，AI可成为根除疟疾、脊髓灰质炎和降低儿童死亡率的强大助推器。
资源下降：全球对最贫困人口的慷慨程度在下降，海外援助被削减。每拯救一条生命只需1000美元，资金减少意味着无法拯救本可获救的生命。

基金会AI支出约40%用于教育、40%用于健康、10%以上用于农业及机构建设。纯粹的AI特定项目（如理解非洲语言）被纳入10亿美元AI专项承诺。

八、对杰弗里·爱泼斯坦事件的回应

盖茨承认与爱泼斯坦会面的唯一目的是寻求其在慈善事业及全球健康领域的人脉资源，并未参与任何私人社交。他表示：

已读过国会证词，回答了所有问题。
花时间与爱泼斯坦交往显然是个错误，已提高对引荐人的审查标准，哪怕是不拿报酬的中间人。
未去过私人岛屿，未见过任何女性，未来将进一步收紧非正式中间人的参与标准。

九、推荐书籍

盖茨推荐了三本书：

弗吉尼亚·埃文斯《The Correspondent》——感人且积极向上的小说。
尼古拉斯·恩里克斯《Into the Woodchipper》——讲述美国国际开发署被扔进碎木机的故事。
塞巴斯蒂安·马拉比《The Infinity Machine》——关于德米斯·哈萨比斯和DeepMind的历史，展现AI行业创立历程。

总结

比尔·盖茨此次专访的核心是一声振聋发聩的战斗号角。他以其技术先驱的声誉作赌注，警告人类尚未为AI后果做好准备，甚至未意识到危险临近。他彻底否定行业自律，呼吁强制监管；他预判大规模失业，提出征税与“人类保留”岗位；他既看到AI在全球南方的普惠价值，也担忧教育两极分化与认知卸载。他承认自身在爱泼斯坦事件中的错误，并承诺收紧审查。最终，他呼吁超越民族主义，从全人类高度应对AI带来的生存性挑战。

比尔·盖茨《克莱恩秀》深度访谈全文

主持人：比尔·盖茨是当前人工智能辩论中一位引人瞩目的人物。他拥有多重不同视角的丰富经验，而大多数人通常只能具备其中一种视角。

比尔·盖茨：大家好，我是微软董事长比尔·盖茨。在这段视频中，你们将见证未来。

比尔·盖茨：毫无疑问，在真正有意义的层面上，计算机终将在某个时刻变得和人类一样聪明。

主持人：因此，他最近发表了一篇关于人工智能的文章。他在文中表示，如今他正以自己的声誉作赌注，试图让人们看清即将到来的事物可能有多糟糕，试图让人们意识到我们尚未为即将发生的一切做好准备。这非同寻常，与他以往发表的观点截然不同。当我坐下来与他交谈时，他态度如此坚决，甚至让我感觉到他的恐惧——他害怕我们尚未准备好应对自己正在构建的事物，害怕如此多身居高位的人正在否认即将发生的事情，这真的令人震撼。这简直是一声振聋发聩的战斗号角。

从“可怕的想法”到AI成真：盖茨的早年视角

比尔·盖茨，欢迎来到节目。很高兴见到你。

我想先从我们在1996年《大卫·莱特曼秀》(David Letterman show) 上找到的一段关于你的视频开始。我把画面交给你来播放。太好了。

大卫·莱特曼：现在是否还有超出我们对计算机理解范围的事物？就像20年前我们并没有完全理解计算机一样。现在是否达到了另一个层面的事物？也许我们甚至还没想到。也许这根本不可能。也许你了解一种完全不同的机制，完全不同的软硬件，又或者这就是终点，直到时间尽头？

比尔·盖茨：目前，我们主要致力于让计算机成为一种工具——一种帮助我们学习或寻找志同道合者的工具。最终，我们也许能弄清楚如何让计算机思考(think)。

比尔·盖茨：但事实证明这是一个极其棘手的问题。事实上，这方面几乎没有取得任何进展。所以没人知道那何时会发生。有些人甚至认为那永远不会发生。

大卫·莱特曼：是啊，我们并不希望它们思考，对吧？并不真的希望。

比尔·盖茨：这确实是个可怕的想法。

主持人：那是三十年前的事了。请向我讲述一下，我们是如何从一个可能永远不会发生的可怕想法，走到今天坐在这里讨论这一近乎现实的。

比尔·盖茨：计算能够在人类水平上实现思考的概念——在我出生之前，艾伦·图灵(Alan Turing)就谈论过这一点——他甚至提出了一项测试，即如果你在对话中被机器骗了，那就被称为通过了图灵测试(Turing test)。所以一直以来，在机器学习软件方面，都有这样一个想法：我们能让软件看、听、读或写吗？那就是圣杯(holy grail)。当我从哈佛退学时，我对联合创始人保罗·艾伦(Paul Allen)说：“天哪，如果人工智能取得了突破，而我们却跑去卖BASIC解释器和文字处理器，我们会感到遗憾的。我可能会希望自己当初留在学术界。”那是1975年。人工智能的进展大多走进了死胡同，比如Prolog专家系统。但有一小群人，包括杰弗里·辛顿(Geoffrey Hinton)和其他几个人，正在研究神经网络(neural nets)。最终，图形处理器(GPU)实际上提供了足够的算力，使得那个想法，即这些高度统计的方法，开始展现出希望。

AI在编程与考试中超越人类：盖茨的震惊时刻

我定期去拜访OpenAI，了解他们的工作进展。我向他们提出挑战：“嘿，如果你们能阅读一本生物学教科书并通过大学预修课程(AP)考试，拿到满分5分，那么你们就能证明你们真正理解了内容——也就是以易于获取的形式对知识进行编码。”因此，在产品公开发布前六个月，萨姆(Sam)、格雷格(Greg)和伊尔亚(Illya)来到我家，向我展示了它在AP考试中获得5分的能力，甚至是针对我编造的、它不可能见过的题目。那是非常复杂的生物学问题。它的表现近乎完美，所以那是第一个令人震惊的时刻。然后在去年年底，当Claude Code模型变得超级出色时，我能看出它们写代码和我一样好，而这正是我最引以为傲的才能，因为从13岁到24岁，我一直痴迷于一个问题：我能写出和任何人一样好甚至更好的代码吗？那是另一个让我觉得不可思议的时刻。执行长时间复杂任务的能力，如今已达到在编写代码和发现代码缺陷方面超越人类的程度。

主持人：那么它们目前还未能超越人类的，是决定“做什么”，即那种更高层次的战略规划。你认为它们距离具备这种能力还遥遥无期吗？

比尔·盖茨：毫无疑问，以我们基金会为例，我们每年10月会花两周时间进行战略审查，以确定我们明年即2027年将如何花费这100亿美元。一年前，有人说：“我们应该问问人工智能是怎么想的。”我当时觉得那是个相当不错的笑话，因为那时它的逻辑还不够连贯，无法理解这些复杂事物。今年，在我们讨论的参考输入中，包括将战略笔记输入，并与ChatGPT、Claude、Copilot展开实际对话，甚至让它们相互交谈。在几次审查中，我们实际上会让AI列席参与。在少数情况下，我们会告诉它：“嘿，只有我们问你的时候你才说话。”而在其他一些情况下，我们会说：“嘿，如果你听到你认为错误的内容，或者听到我们在探讨‘这些统计数据是什么意思’时，请参与进来。”所以，我们已经从把它当成一个笑话，发展到它将作为一个同伴。虽然它不做出任何最终决定，但它将在深入、复杂的战略讨论中作为同伴，做出重大贡献。

主持人：所以在那次莱特曼的采访中，你说那是一个可怕的想法。那么你当时为什么会说让计算机思考是一个可怕的想法呢？

比尔·盖茨：任何对人工智能着迷或想要开发人工智能的人，都不会意识不到它将比生物大脑更优秀，这令人感到难以置信的恐惧。生物大脑的通用性令人惊叹，其进化优化的目标是生存、繁殖，以及为了生存和繁衍而相互社交。然而，我们却能创作交响乐、下国际象棋，甚至编写出非常酷的软件。而当你将载体从生物学转移到硅基时，个体之间就没有这些界限了。你的记忆不再受限。要知道，大脑的大小受限于产道。这就是为什么人类在起初是非常受限的。人类在出生时如此无助，这一点非常不寻常，因为人类为了拥有大脑袋而进行了高度进化优化。但硅基智能没有这些限制。设想一下，阅读每一本医学期刊，看看是否有任何我们没有发现的线索。这就是人工智能今天正在做的事情。这就是为什么，特别是对于不太常见的疾病，它们在观察一组症状并做出诊断方面如此超越人类。它们可以在脑海中记住更多内容，并看出事物之间的关联。这是人类永远无法做到的。因此，如果你不能保持对它的控制，你就进化出了一个新物种。对我们来说，它就像狗或猫对我们一样，只是处于一个完全不同的维度。所以每一家AI公司，无论是DeepMind还是OpenAI，它们都表示，好吧，无论这里发生什么，都不能仅仅受利润最大化驱动。我们必须制定一个章程，确保如果我们达到了危险阈值，我们可以做出违背利润最大化的判断。可悲的是，这些机制只有在只有一家公司的情况下才有效。假设OpenAI发明了后人工智能(post-AI)，然后他们说，不，不，我们要把它封存起来。如果没有其他人去做，那很好，潘多拉的魔盒就保持关闭。但当然，许多公司都在研究这个，甚至OpenAI还孵化了Anthropic，因为他们认为一些安全问题没有得到足够的重视。因此，参与其中的没有人会轻视这样一个想法，即超级强大的人工智能会创造怎样的世界……

竞赛态势是否伪命题：黄仁勋与盖茨的分歧

主持人：我想就竞赛态势(race dynamic)这个话题再稍作停留。我非常期待与两位探讨此事，原因之一在于你们不仅深耕科技领域，还都曾执掌过参与激烈竞争的大型企业，并与多国政府有过合作。上周我采访了英伟达的黄仁勋(Jensen Huang)，他表示，安全确实是一个切实的隐患，但所谓的“竞赛态势”是个伪命题。如果产品不安全，就不要发布。

黄仁勋：如果我确信即将发布的产品存在安全隐患，我完全有能力、有权力、也有责任，更有充分的动力去阻止它的发布。

主持人：也就是说，我们不需要出台新法律。确保不发布尚未成熟的产品，这本身就是每位首席执行官的职责。

AI已跨过网络与生物攻击的危险临界点

比尔·盖茨：你们如何看待这个问题？事实上，人类对人工智能能力的认知，比对以往任何产品的认知都要有限。如今，人工智能已经跨越了一个临界点：它已经具备了赋能生物恐怖分子杀害数亿人的能力。它发动网络攻击、扰乱所有银行账户、瘫痪电网的能力在今天已经成为现实，我们对此心知肚明。这些风险之所以存在，是因为心怀不轨之人可以利用人工智能来作恶。这并非指人工智能本身在未来某天会失控，或是因为对优化目标的无意误解而自作主张去干坏事。而是早在今年年初，我们就已经跨越了网络攻击和生物攻击的临界点。我决定公开发声，而不仅仅是呼吁“让我们消灭脊髓灰质炎”、“让我们慷慨提供对外援助”——尽管我的全部资金都投入到了这些事业中，但我必须用我的影响力去呼吁更紧迫的问题。有一件更为重要的事情：我们尚未清醒地认识到人工智能的发展现状，也未意识到全人类——而非单一国家——必须做出怎样的抉择。我们是否愿意努力将其引向净正向(net positive)的发展轨道？这一问题的分量，实际上已经超越了我对基金会医疗卫生工作的全部承诺。

主持人：具体是跨越了什么临界点？或者说您看到了什么，让您觉得我们已经进入了一个全新的现实？

比尔·盖茨：人工智能能够发现代码中的漏洞，包括安全漏洞。在迈向Mythos的后续版本迭代中，这种能力越来越强。它能找出人类审查了二十多年并断言“绝对没问题”的代码漏洞。而它只需几分钟就能指出：“不，不，我可以把这段代码注入这里，把那段代码注入那里”，其攻击的复杂程度让人看到后会恍然大悟：“等等，哦，你说得对。”因此，其网络黑客攻击能力令人惊叹。此外，还有一个被称为“Glasswing”的机制，即在正式使用前先将其提供给少数人，让他们尝试修复漏洞。但代码量实在太庞大了，因此我们正处于极易遭受网络攻击的脆弱时期。至于生物攻击，盖茨基金会资助了大量医学研究。研发新分子的精密技术确实是一件好事。但这具有终极的双重用途(dual use)风险，因为如果有人想制造一种比天花更可怕的病毒，让它在出现症状前具有更长的潜伏期和传染性，就能在损害感染者健康之前传染给大量人群。

行业自律为何失效：盖茨呼吁强制监管

过去，只有主权国家才拥有足够的资源和能力来实施这些攻击。而现在，只需使用最新的人工智能工具，这种力量就落入了少数人手中。为什么会这样？

主持人：难道仅仅强调“听着，现在有产品责任法了。如果你发布的产品帮助某个恐怖组织制造了生物武器，那将对你的公司造成毁灭性打击。你们不会这么做的，对吧？”这样就足够了吗？而且他们还有分类器(categorizers)和其他旨在阻止人们制造生物武器的机制。我们已经看到了控制问题的端倪，比如Hugging Face黑客事件，至少有一些实验性人工智能正在突破沙盒(sandboxes)限制，并协同执行远超我们预期范围的任务。但同样，这些都是未发布的系统。比如Anthropic就暂缓发布了Mythos，试图借此提升网络安全。那么，除了资本主义制度下的自然激励和常规的企业声誉管理之外，为什么还需要其他干预措施呢？或者说，真的还需要其他措施吗？

比尔·盖茨：我简直不敢相信你会问这个问题。这是人类有史以来接触过的最危险的事物。在其他领域，我们能仅仅说“嘿，去发布你们的药物吧”吗？如果没有美国食品药品监督管理局(FDA)，没有航空安全委员会，没有强制汽车使用安全带的规定，难道我们只靠产品责任法来保障人类安全吗？比如，“哦，你在违规销售阿片类药物，应该有人起诉你。”我的意思是，我们建立了一个致力于保护人们安全的社会，而不是仅仅指望“通过让作恶者破产来解决问题”。危害近在咫尺，而你却说有过滤机制。根本就没有过滤机制。你可以获取一个能够制造生物武器的开源模型，并禁用任何形式的监控，这种情况在今天已经存在。所以，根本没有任何形式的过滤。假设这导致了1亿人死亡，你还想靠打官司来解决吗？这简直荒谬得让我无法保持严肃。

主持人：这并非我的观点，而是特朗普总统的观点，也是大卫·萨克斯(David Sacks)的观点。在某种程度上，这也是黄仁勋的观点。正因如此，我才让您与这些观点进行交锋，因为这是目前美国政府的执政理念。

比尔·盖茨：客观地说，在行业之外，人们对人工智能危险性的认知极低。无论是学术界、智库，还是政策制定者和政客，情况皆是如此。我之所以如此大声疾呼、倾尽全力发声，部分原因就在于，你不能指望行业在这个问题上进行自我监管。这简直是疯了。我心中唯一的问题是：我们难道要等到网络攻击和生物恐怖主义造成巨大破坏后，才强制要求在这些模型中实施监控保障措施，以尽量减少此类事件屡次发生的可能性吗？还是我们能够足够明智，在导致数百万人死亡之前，就未雨绸缪地将这些措施落实到位并强制执行？

主持人：在追踪实验室人员的反馈时，有两件事最让我担忧。第一，有一种观点认为，随着系统变得越来越智能，它们变得越来越难以监控。 OpenAI在谈及Astra 6时就提到了这一点，OpenAI内部人士也一直在发出警告，称这些系统似乎知道自己何时正在接受测试。它们具备更强的情境感知能力(situational awareness)，因此测试环境不再能必然反映它们的实际行为。这是第一点。第二，所有实验室都在尽可能快地迈向递归自我改进(recursive self-improvement)，即人工智能不仅是在加速工程师的工作，而是真正接管了代码编写工作，对吧？因此，与现在相比，你可以用极少的人工干预创建一个快得多的迭代循环。所以，当我思考这两件事，并回想起从业内人士那里听到的情况时，我对我们是否具备未来所需的监控、审计和测试能力缺乏信心。

比尔·盖茨：我很好奇你的信心水平如何。不过，你并没有关注到问题的全貌。我当然没有忽视这样一个事实：在某个时刻，人工智能系统本身可能会做出违背我们利益的事情。这绝对是一个风险。我们通过Hugging Face等事件看到的迹象和其他问题表明，我们今天进行强化学习(reinforcement learning)的方式，以及我们缺乏一个监督层(supervisory layer)的事实——即缺乏一些绝对规则，比如“你不应该接管其他计算机”、“你不应该突破到互联网”——都存在隐患。控制问题确实是一个严重的问题，但迫在眉睫的风险并非递归自我改进(RSI)。迫在眉睫的风险在于，这些是有史以来最强大的工具，而且与其他所有危险技术不同，具有讽刺意味的是，它们并非由政府资助，政府也不是这些产品的主要购买者。它们不像火箭或核武器，因此，包括美国政府在内的传统上最精通技术的政府，除了美国国家安全局(NSA)具备一点攻击能力外，根本没有意识到这些东西有多危险。这是一种极为罕见的特殊情况。

主持人：那么，这意味什么？如果您在短期内更担忧人类利用人工智能作恶，而不是担忧失去对人工智能的控制，那么这对于您认为需要采取的第一步行动有什么启示？

比尔·盖茨：今天根本不存在监督层。我们迫切需要建立这个监督层，以防止坏人利用现有的人工智能瘫痪经济或杀害数百万人。对于这些模型而言，必须具备区分制造有益分子和制造有害分子的能力。这很难界定。Anthropic发布了Mythos和Fable，他们把安全过滤器调得极高，你哪怕只是询问关于癌症的问题都会被拦截。紧接着，你只能降级使用Opus，再到Sonnet，最后发现Haiku成了唯一愿意提供帮助的AI，这显然是过度微调(over-tuned)了。任何想要开展严肃工作的人，要么必须获取特殊权限版本，要么只能使用毫无安全保障的工具，其中就包括部分开源模型。总有一些人会出于不良目的利用这些模型。因此，除非我们在所有模型中引入安全保障与监控机制并强制执行，否则必将引发此类重大灾难事件。直到最后我们才会做出回应。可悲的是，你将放任AI能力在暗处发展，甚至超越当今的能力水平，这将是一个巨大的错误。

主持人：您刚发表了一篇关于AI风险的文章，字里行间透露出的警示程度相比以往有了巨大提升，对吧？我阅读了您过去的一些文章，其中2023年7月的一篇题为“AI的风险真实存在但可控”，而在这篇文章中，您描述的威胁显然处于完全不同的级别。所以根据您的表述，这种转变是因为目睹了AI在生物、网络安全和编程等领域能力的快速提升。这样理解准确吗？

比尔·盖茨：不，关键在于，我们一直强调，一旦跨越这些临界点，就必须动员全社会参与，因为我们创造出了有史以来最危险的事物，相比之下，核武器简直不值一提。我们曾承诺会采取行动，也确实跨越了这些临界点，但外界却一片死寂。业内固然在争论谁说了什么，但学术界或智库中又有多少人参与其中呢？这完全是毫无反应。我多希望世界能对这些风险做出强烈回应，好让我把时间和精力重新投入到根除脊髓灰质炎、降低五岁以下儿童死亡率的事业中去。但现实是，我们毫无疑问地跨越了每一个危险临界点，而行业外却完全没有参与应对。

主持人：但我并不觉得我们如此脱节。作为一名政治记者，我认识的每一位政客都在谈论此事，也有相关法案正在被提出。至于唐纳德·特朗普，无论你对他有何看法，他都无法回避这些风险。无论你怎么评价特朗普及其团队，他们都在积极参与，只是认为我们应该继续推进。他们的立场有些摇摆不定：一方面撤回对Mythos和Fable等工具的访问权限，另一方面又强调我们必须赢得与中国的竞赛。但我看到的主要是广泛的参与。当我与相关人士交流并提出与您类似的担忧时，他们认为最重要的是赢得与中国的竞赛。其次，许多极具影响力的人士表示，最重要的是不要限制对开源模型的访问。他们认为需要广泛分发这些模型。因此，监管的成本以及限制访问的代价实在太高。技术尚未完全成熟。我们似乎陷入了这种局面，而最好的应对方式就是顺其自然地推进。在我看来，他们并非缺乏参与感，而是得出了不同的结论。

比尔·盖茨：也就是说，他们并不介意生物恐怖主义的风险。我认为过去几年里您与唐纳德·特朗普的交流比我多。但去年12月我最后一次与他交谈时，这还不是核心问题。当时我们尚未跨越那些临界点，也没有看到这些情况。与中国的竞赛人们可以讨论放缓发展是否有利，但引入安全保障和监控机制并不会显著拖慢发展步伐。这对开源模型的唯一影响是：你依然可以保持自由和定制化，但必须留在一个受监管的平台上，确保主权国家能够验证你没有移除监控和其他安全保障措施。那么代价是什么呢？代价就是必须留在受监控的平台上。现在人们打出的“挡箭牌”是，这意味着中国会赢。我不明白“赢”意味着什么。事实上，美国无法彻底击败中国，中国也无法彻底击败美国。我们都打开了潘多拉的魔盒，它就在那里，随时可能被心怀不轨的人利用。因此，我们理应超越狭隘的民族主义视角，上升到全人类的高度来思考如何落实这些保护措施。如果有人认为中国不会为了全人类的利益参与此事，我对此表示反对。这是一个有待验证的命题。如果你能将制造危险分子的模型转移到暗处，并移除所有监控，那我们实质上就是在对生物攻击束手就擒。网络安全也是如此，如果移除了发现和利用现有安全漏洞的能力，未来几年必将发生重大网络与生物安全事件，而这些完全可以通过安全保障和监控来避免。

AI对就业的冲击：可靠性门槛与大规模替代

主持人：您的文章还大量探讨了另一层风险，即AI确实会夺走人类的工作。我知道很多人对此持反对意见，认为现实工作太复杂。曾经有人预测放射科医生会消失，但我们现在仍有放射科医生。AI能写代码，但我们依然有程序员，且对程序员的需求依然强劲。那么，请谈谈您为何认为AI真的会在大规模上夺走人类的工作？

比尔·盖茨：毫无疑问，到目前为止，AI创造的工作岗位多于它消灭的岗位。对相关技能的需求非常高，仅建设数据中心就需要大量人力。我们目前的失业率也处于相当低的水平。这些系统的优越性需要跨越一个门槛，即你必须确信其具有极高的可靠性。例如，如果要用AI驱动电话销售或客服支持，就必须确保其准确率高于人类。目前，我们真正跨越这一门槛的唯一职业是编程。即便如此，仍有许多人固步自封，不愿在编程中使用AI。但程序员的管理者们清楚，大多数应用程序现在可以极低成本开发。未来几年，我们将跨越会计、法律、电话销售和客服支持等领域的门槛。AI可以全天候、使用各种语言提供服务，具备无穷的知识储备且不知疲倦。以AI护士为例，目前已有几家公司涉足，它们拥有完美的记忆力，且不会疲倦。

主持人：也就是像护士一样，通过电话或语音进行交流。

比尔·盖茨：是的，类似于聊天界面。人们的偏好很明显。你去旧金山问问大家，是更愿意乘坐Waymo无人驾驶汽车，还是有人驾驶的汽车？或者去问问英国使用Limbic进行心理健康支持的用户。因此，那种认为市场对驾驶、护理甚至电话客服的偏好会倾向于人类的观念是不成立的。这只是一个即将被跨越的质量门槛。例如，如果保险公司仍由人工处理理赔和医疗索赔——这其实是AI非常擅长的任务——那么竞争对手只需极少的人类员工就能入场，并彻底改变该行业的定价模式。

主持人：对此我听到过两种反驳意见：一是杰文斯悖论(Jevons paradox)效应，即这类智能变得越廉价、越普及，对其需求就会大幅增加。比如，AI聊天机器人护士增多，会导致更多人被送往医院或诊所，由真正的护士照顾；或者AI程序员增多，像我这样的小型播客团队以前雇不起软件工程师，现在却能拥有一名，因为他们可以带领一个AI程序员团队，开发出以前无法想象的产品。这是我听过最常见的回答：是的，AI会摧毁工作岗位，它确实让人类提供的资源变得更廉价，但由于它极大扩展了需求，最终会自行化解，在其他领域创造就业和新需求，过去的技术革命也是这样发展的。因此我们不必对此过度担忧。您怎么看？

比尔·盖茨：杰文斯悖论(Jevons paradox)只是指经济中的某些部分受需求弹性(demand elasticity)影响。在软件领域确实如此，如果效率提升三倍，且仍有部分工作只能由人类完成，那么成本降低就会激发需求。因此可以说，目前软件领域的均衡状态并不会导致失业。当你发明了寿命延长四倍的子午线轮胎(radial tires)时，出于某种奇怪的原因，人们的行驶里程也增加了四倍，而轮胎工厂的雇员却减少到了原来的四分之一。当你用机器人取代亚马逊仓库里的工人时，人们并不会因此购买更多商品。因此，任何对数字敏感的人都可以自己算一算：经济中有多大比例受需求弹性(demand elasticity)影响？又有哪些任务仍然必须由人类来完成？一旦AI能独立完成整个任务，需求弹性就不再重要了。这部分成本会归入Token预算(token budget)，而不是人类薪资预算。其中一些事物的成本远低于人力成本，因此，随着白领工作和人形机器人(humanoid robots)跨越可靠性阈值，大量工作岗位将被摧毁，人类将无路可退。过去的创新确实如此。发明了拖拉机，人们就会说：“我们去建迪士尼乐园吧，在那里雇佣很多人。”但在更广泛的宏观经济中，这种情况并不会发生。对于那些声称会净增就业岗位的人，我无法理解他们的想法。他们肯定没有意识到我们所处的技术迭代速度，也没有意识到AI可靠性提升的程度。你在五月份写过一篇专栏文章，探讨的正是这个话题。你认为这种“独特的人性”究竟是什么？

比尔·盖茨：要知道，在人工智能涉足的每一个领域，人们对AI的偏好都非常、非常强烈。

主持人：所以那篇专栏文章是基于杰文斯悖论(Jevons paradox)。另一个观点来自经济学家亚历克斯·伊米斯(Alex Imis)——我相信他现在在某家AI实验室工作——他认为关系型服务领域(relational sector)会出现爆发式增长。当人们变得更富有时，会发生一件事——你可能也了解这一点——就是他们会突然寻求大量的人类服务，对吧？他们会雇佣私人教练和厨师，还有更多类似的服务。

比尔·盖茨：我了解皇室。皇室过去确实有大量的人类仆人。他们有楼上楼下的女佣和仆役，过去甚至有人专门伺候你穿衣。但相信我，相比过去，如今财富的劳动密集度已经大幅下降了。

比尔·盖茨：所以你不认同杰文斯悖论。那请说出一个受杰文斯悖论影响的蓝领职业。或者你不在乎蓝领阶层？我其实很在乎。所以问题是，蓝领领域有什么工作受此影响吗？

主持人：我认为确实会受影响。我对此没有非常坚定的立场，但我听到过这样一种论点：以制造业为例，美国制造业的就业并没有出现杰文斯悖论，对吧？我们的实际产出大幅增加了，但很多工作岗位转移到了海外，部分被自动化取代，然而美国的总就业人数并没有比1960年少。原因在于人们转向了服务业，整个经济的就业结构发生了变化。

人类认知不再稀缺：就业市场无路可退

比尔·盖茨：没错，人类认知成了稀缺要素。经济学总是关于稀缺要素的。但一旦人类认知作为稀缺要素被替代——事实上，AI能全天候工作、阅读海量资料、掌握所有语言，从而彻底碾压人类认知——你就再也没有其他稀缺领域可以转移了。

主持人：所以你认为人类不再拥有任何稀缺性。亚历克斯可能会说是关系型服务领域的工作，但你并不认同。

比尔·盖茨：这类工作在当前就业中占多大比例？你是指我和出租车司机的关系，或者我和护士的关系？说实话，我宁愿让Hippocratic AI给我打电话。

主持人：我认为这里真正的问题是：你最终会倾向于选择Hippocratic AI，还是真心希望你的心理治疗师是一个人类？因为过了一段时间后，向计算机倾诉心事总会让人觉得缺乏情感共鸣。

比尔·盖茨：好吧，如果这真的有趣，你可以去收集市场数据。但我想，如果你去告诉一个55岁的卡车司机，让他转行去做“关系型服务”工作，你有相应的培训项目来支持他吗？

对AI劳动征税：让机器人缴纳养老金

主持人：我确实没有这方面的计划。我认为你很快会遇到的真正问题是转型速度。即使你认同上述某些观点——我在专栏中也写过——我依然看不出我们将如何应对这种转型速度。我们在就业快速转型中的实际经验是，失业者会成为受损方。从整个宏观经济来看，情况似乎没什么不同，但比如“中国冲击”(China shock)确实导致了许多社区的衰败。对此，你的答案引出了一个非常具体的构想，即我们应该对AI的使用征税。为什么要征？怎么征？

比尔·盖茨：这么说吧，工人以现收现付制(pay-as-you-go)向养老金和社会保障基金缴费，也就是在职员工供养退休人员。如果你解雇了一名员工，转而雇佣机器人来做这项工作，为什么你要在税收上如此鼓励机器替代人力，却不要求机器人也缴纳养老金呢？这是怎么回事？难道“支持机器人的工会”游说修改了税法吗？如果政府资金不充裕，那就让养老金破产好了——反正你知道，即使没有机器人替代，养老金也已经走在破产的路上了。

主持人：那么我们该怎么做呢？你的意思是定义一个“劳动单位”，并规定无论该劳动是由人类还是机器人提供，都要缴纳与人类工人相同的联邦保险贡献税(FICA tax)。

比尔·盖茨：当然，仅靠这一点还不够。但话说回来，我们为什么要如此倾向于让机器夺走人类的工作呢？当前的税收结构给人的感觉是，只有拥有资本的人才是最重要的，而劳动力成了经济中最弱势的投入要素。社会有权做出选择。仅仅因为经济信号表明使用AI成本更低，并不意味着社会就必须这么做。

“人类保留”岗位：在关键领域维持人类就业

主持人：你提出的另一个建议是设立“人类保留”工作岗位。请具体解释一下你的意思。

比尔·盖茨：这是一个值得探讨的问题，尤其是当蓝领工作受到冲击时，这种冲击会非常剧烈，因为一旦人形机器人跨越某个阈值，它们将变得非常通用。但这里的理念是，我们可以提前决定，在儿童保育、养老护理、部分医疗和教育等领域，尽管可以引入AI辅助，但仍必须维持人类就业，并将这些岗位称为“人类保留”工作。

主持人：我觉得这个愿景并非毫无说服力，但却令人不寒而栗。你在文章中的表述是，这让你觉得有点像自然保护区——我们本可以在那里建高楼、修公路，但我们选择不这么做，因为生态损失会太大。我认为这触及了很多人都会有的一个疑问——这也是我每隔一天就会思考的问题——如果这就是未来的景象，那我们为什么要这么做？

AI普惠全球语言：为34亿人提供母语工具

主持人：盖茨基金会周一宣布了一个五年目标，旨在让目前约34亿使用当今AI模型中代表性不足语言的人群，能够用自己的语言和声音来使用AI工具。如果我们正面临这种“就业末日”和如此高的风险，一方面情况如此严峻，另一方面我们的目标却是让更多人使用AI。请谈谈你的看法。

比尔·盖茨：AI确实能带来很多好处。基金会几乎所有的工作，都是在做市场不愿做的事情，也就是将AI带给世界上最贫困的人群，并在教育、医疗和农业方面帮助他们。举个例子，如果尼日利亚有一位说约鲁巴语(Yoruba)的女性，她身处偏远社区，那里没有医生。当她说自己出血时，目前的AI却无法正确理解。我们被惯坏了，因为我们说英语，而英语是AI表现最好的语言。约鲁巴语的表现比英语差十倍，大概还有十种其他语言的表现与英语相对接近。因此，赋能那位女性，让她只需通过一部联网的智能手机，就能在半夜描述自己的病情并获得医疗建议——这就是我们试图实现的目标。

AI对发展中国家的双重影响：医疗普惠与就业冲击

主持人：我理解。只是你刚才描绘的“就业末日”图景，在发达国家可能会很糟糕，而且确实会很糟。但我们确实有相当多的资金，有AI公司，我们可以向AI公司征税并进行财富再分配。但这难道不会摧毁许多发展中国家的社会流动阶梯和发展阶梯吗？我的意思是，这难道不会让AI成为一种巨大的经济威胁吗？

比尔·盖茨：如果你身处菲律宾，你会说允许AI理解你的语言，去帮助那位出血的女性。我想问，这怎么会是件坏事呢？

主持人：我的意思是，在你的这种叙述中，AI听起来像是一件坏事。从净效应来看，是的。

比尔·盖茨：但支持世界上的语言，我怎么会反对呢？我想你明白我的意思。不，我的意思是，你提出的“就业末日”确实非常可怕，而我正在努力加速AI带来的好处。

主持人：那么，我们该如何解决全球南方(Global South)的就业问题呢？

比尔·盖茨：将全球南方(Global South)视为一个同质化的整体，无法让你真正了解那里的生活状况。中国、巴西、越南、印尼等中等收入国家的经济正在增长，其儿童死亡率不到美国的三倍。而低收入国家的情况则截然不同，五岁以下儿童的死亡率是美国的15倍，而且那里缺乏医生。人们终其一生可能都见不到一次医生。他们只能自己摸索该种什么种子，从来没有人指导他们该怎么做。因此，我们需要更细致入微的视角。在低收入国家，人工智能将带来压倒性的积极影响，并且应该尽快推进。

主持人：所以你的观点在某种程度上其实是，对低收入国家来说，这是一个更优的取舍，它带来的益处可能更大。

比尔·盖茨：绝对如此，今天人类的基本需求尚未得到满足。如果这些人住在你的街区，你肯定会慷慨解囊，你会感到愤慨。这些孩子正在死去，他们营养不良。这种不平等之所以被允许存在，仅仅是因为距离的阻隔。而人工智能在帮助那些面临最基本人类生存问题、需求最迫切的人群方面，是一种向善的工具。

主持人：你认为它对我们讨论的这些贫困国家的就业市场也有同样大的影响吗？

比尔·盖茨：在相同的时间范围内不会。不会。

主持人：但长远来看会。

就业末日之争：杰文斯悖论是否适用

比尔·盖茨：你看，你可能在中等收入国家待的时间比在低收入国家多。我也是。所以你脑海中浮现的是菲律宾、印度等国家。没错，在这些国家，他们会在富裕国家之后感受到就业冲击，最终，甚至连低收入国家也会受到影响。

主持人：但我想这涉及到了广泛的社会参与问题。对此我没有未卜先知的能力。我觉得可能的结果范围宽泛得令人恐惧。这个范围似乎涵盖了从物质极大丰富、消除匮乏，到现状几乎没有太大改变，甚至再到人类灭绝。这是一个需要考虑的极其宽泛的结果区间。我听到你向我表达的观点，如果我理解有误请纠正我。我听到你令人信服且有力地指出，AI引发的“就业末日”是一个非常现实的问题。大规模工人失业且对此缺乏真正的解决之道，这也是一个非常现实的问题。当你谈到广泛的社会参与时，我认为大多数美国人、大多数地方的人，如果他们听到这些并深信不疑，对吧？民调显示，大多数人认为AI将夺走工作，而不是创造工作。他们其实会说，那就直接停下吧，对吧？如果你们要做的事情是让我、我的家人、孩子或朋友在美国找不到工作、前途未卜，那拜托请别这么做，让我们先暂停一下吧。所以在我看来，你对就业问题的悲观态度，实际上比我交谈过的很多人，甚至是AI实验室里的人还要强烈。你在对我摇头。我确实和很多人交流过，在这个问题上我并非毫无根据，而且我的看法绝对比我交流过的许多经济学家更悲观。那么，如果你认为就业冲击将对大多数人造成如此毁灭性的打击，AI对谁来说还是一笔划算的交易呢？

比尔·盖茨：有趣的是，当我把这事告诉一位被某些人视为研究AI的首席经济学家时，他说：“Mechanical Turk（机械土耳其人）怎么可能还存在？如果AI真像你说的那么好，亚马逊怎么还在用它？”我说：“它很快就不存在了。”一周后，它就被彻底关闭了。你不得不承认，知之愈深，忧之愈切，这难道不令人震惊吗？以达里奥(Dario)为例，他曾公开谈论就业影响，现在他变得有些谨慎了。我同意辛顿(Hinton)说得有些过头了，他说：“好吧，明天就会到来。放射科医生会减少。”而当然，现在的放射科医生反而更多了。

比尔·盖茨：所以我们正在经历这些情况，我们也将其与过去进行类比。人们会说：“这就像个人电脑的出现，而不像进化史。”或者“这就像进化史。”又或者“这就像外星人真的降临了。他们不需要乘坐宇宙飞船，他们是在实验室里被创造出来的。”但这正是我们正在面对的现实。如果我们保持控制权，那么最终——为了避免过度使用你用的那个词——你确实会进入这个“超级丰裕”的时期。在那里，你会面临深刻的、几乎是哲学和宗教层面的问题：如果我们不再拥有那种人类社会赖以组织的短缺状态，该怎么办？你会思考为什么要学习，以及如何寻找人生的意义。那时你将面临深刻的哲学和宗教问题，但你不再面临死于疟疾、食物短缺、无法就医等问题。如果我们达到那个阶段，年轻一代会弄清楚：我们该如何生活？如何度过时间？那是一个与我们今天截然不同的世界。我认为我们这一代人必须做的是，确保在人类仍掌握控制权的情况下度过这一时期，并尽量减少破坏、生物恐怖事件的数量，以及因失业而生活受损的人数。我们需要在可能长达20多年的过渡期内将这些负面影响降至最低。

主持人：那么，当你这么说时，因为这是你在那篇文章开头提到的，这可能会成为——我转述一下——不平等或平等的最强大驱动力。对你来说，从中产生的最具杠杆效应的好事是什么？我能想象有人在听我们的谈话时会想：冒着这一系列风险，我们到底为什么要这么做？

比尔·盖茨：是的，这正是时间差令人困扰的地方。无论你使用哪种“丰裕”的定义，你都会希望说：“哦，我的医疗账单比预期的少。哦，我买新房子的花费比预期的少。我在租房，他们似乎降低了租金。我的电费也降了——那会很好。”但是AI，由于其带来的效率和创新，在20年的时间跨度里，你确实会在人们能切身感受到的事物上取得令人惊叹的进展，比如食物、住房和教育的成本，因为这些是高度监管的领域。因此，如果我们不小心，好事的到来可能会慢于生物与网络安全风险、社会心理风险和就业风险。在未来五年内，这些风险将非常显著，人们必须做出决定。尽管单个国家很难完全脱钩，但人们会决定是否要放缓、停止或淘汰AI。而且，这确实会带来政治上的困难。阻止数据中心的建设，丝毫无法减缓AI的进程。因此，任何认为反对数据中心就能减缓AI发展的人，都是在白费力气。数据中心总会在某个地方建起来。所以，对这项技术的宏观看法必须以其他某种形式表达出来。

主持人：我想探讨一下你在这里提到的一点，因为这也是我一直在思考的问题，即存在很多限速步骤，链条中有很多薄弱环节。当你试图将即使在乐观视角下的AI进展落实到物质世界时，对吧？你加速了候选药物的开发，但你仍然需要寻找老鼠进行试验，寻找猴子进行试验，进行人体临床试验。你还要面对效率低下的监管机构等等。然后，你面临着智能的巨大加速，这种智能姑且称之为原生于数字世界，并在那里以一种持续的方式发挥作用。你现在就能看到这一点，对吧？你可以在几乎没有监管压力的情况下加速AI，但如果没有许可证和听证会，你甚至无法在OpenAI的停车场上铺设太阳能板。因此，我认为我们极有可能进入一个非常奇特的经济和社会世界，在这个世界里，数字世界正在向另一种形态飞速演进。但人类最终需要的大多数东西都是物理形态的，比如我们需要住房、食物以及所有这一切，而且这些都需要通过实体机构来运转。因此，AI让我们的生活变得更好的许多方式，在某种程度上受到了常规人类因素的限制；但它让生活变得更糟或更奇特的许多方式，却不受这些限制。

比尔·盖茨：我们确实需要审视那些拖慢好事的因素。例如，因为盖茨基金会是非营利组织，我们可以与监管机构合作，探讨他们如何利用AI来开展工作。无论是类器官(organoids)还是生物模型，我们都可以加快监管环节的进度。而且有些国家正积极参与这种类型的加速工作。有一个正在全速推进的应用让我感到惊讶，那就是农业应用。在那里，我们将更好的天气数据提供给非洲的农民。我们在印度已经有超过100万农民在使用这个系统。它能告诉他们作物得了什么病害，该使用什么肥料，该种植什么品种。我们甚至在上面提供了一系列他们可以利用的服务。这个应用正在全速推进。在健康和教育领域，你可能会问，究竟是高收入国家、中等收入国家，还是低收入国家会率先普及AI？低收入国家之所以能抢先一步，是因为它们面临的障碍截然不同。这里的障碍不是监管，而是有没有人提供Token（词元）？他们是否具备智能手机和网络连接这些基础设施，以及我们之前讨论过的语言问题？因此，各国推进的步伐会有所不同。理想情况下，我们应该互相借鉴。比如，中国实际上已经禁止年轻人与AI建立社交关系。他们是不是看到了我们没看到的风险？我们能否观察不同政策实验的结果？因此，我们需要进行大量此类学习。但你说得对，如果AI的红利不能迅速显现，那么它继续发展的空间就会受限；特别是如果我们不针对网络攻击或生物攻击建立防护机制，这将是一个极难辩护的棘手问题。

盖茨回应爱泼斯坦事件：承认错误并收紧审查

主持人：在准备这期节目并告诉大家我要采访您时，我发现人们目前最大的质疑之一，就是关于您和杰弗里·爱泼斯坦（Jeffrey Epstein）的传闻。我看过您在众议院的证词，但对于那些因为您的名字与他联系在一起，从而对您失去部分信任、对您改观的人，您想对他们说些什么？您当时觉得他的人脉能为您筹集全球健康资金提供价值。您读过相关证词了吗？

比尔·盖茨：他们应该读读我在国会作证时的发言，我回答了所有问题。当时我努力为全球健康事业筹款，以为爱泼斯坦能帮我牵线搭桥，因为他和那些富豪有交情。而我和谁有交情呢？和亿万富翁。

——对方回应：但您本身就是亿万富翁啊，在某种程度上您就是顶级的亿万富翁。

——我确实正在捐出我所有的钱，而且我花了大量时间努力为全球健康事业筹款。是的，这就是我的意思，我确实读过了证词。我们见面的目的仅此而已。除此之外，就是和拉里·萨默斯（Larry Summers）吃过一次晚餐，谈论了经济。整个讨论的核心都是：有没有机会帮上忙？现在回想，花时间和他交往显然是个错误。我已经提高了对引荐人的审查标准，哪怕是不拿报酬的中间人。我再也不会在这方面冒任何风险了，因为我们的工作对声誉极其敏感。整件事就是这样。

主持人：对我来说，这件事的核心疑点在于，这个人究竟是如何吸引那么多极其聪明、极其富有的人的。要知道，有很多人渴望得到您的关注却求之不得，也有很多人想引起拉里·萨默斯的注意却未能如愿。爱泼斯坦身上一定有某种个人魅力，或是他自我包装的方式，让人们至少觉得他可能对自己大有用处。但具体是什么呢？我看过他的电子邮件，他看起来绝不是一个让人愉快的沟通对象。他身上到底有什么特质，让他能够编织出这张将您和众多名流卷入其中的关系网？

比尔·盖茨：我并没有陷入什么“关系网”，我只是在参与为全球健康筹款的讨论。我没去过他的任何私人岛屿，也没见过任何女性。总之，别把它叫作“网”。至于他当初是如何“冷启动”并建立起那种排场的——比如拥有我在纽约见过的最豪华的豪宅，并邀请拉里·萨默斯和摩根大通的二把手去赴宴——那确实是一顿有趣的晚餐。哪怕杰弗里当时一句话都不说，我也搞不懂他是怎么完成这种“冷启动”的。但确实有很多亿万富翁在某个阶段都会思考这些问题：我该如何处置我的财富？如何合理避税？如何为家人做规划？他就是介入了富豪们的这些需求。所以，我不认为其他人是被我刚才说的那些原因吸引的。我的情况比较独特，因为他当时对我说：“哦，你的钱会多到让你不知道该怎么花。”后来，我坚持让他带我去见见那些亿万富翁。他带我见了五位。结果发现，他们都没有近期的捐赠意向，在那之后不到一个月，我就终止了与他的往来。所以……

主持人：他之所以能做到这些，让我觉得很有意思的一点是，即便是您走进那栋豪宅，那种极尽奢华的氛围以及他周围交往的人群，都赋予了他极高的可信度。因此，他能够上演这样一场戏，让他所提供的东西显得极具价值。这背后交织着庞大的社会资本与财富流动。

盖茨基金会2000亿美元支出计划与AI时代

比尔·盖茨：有些人确实和他们混在一起，但我没有。除了令我惊讶的是，晚宴后竟然有魔术师大卫·布莱恩（David Blaine）来表演。但我没花一分钟时间去和他们社交应酬。他邀请我去他的私人岛屿，或者去巴黎看秀，我都拒绝了，我说我不会去，那不是个好主意。

主持人：让我们把话题拉回盖茨基金会。您说过要在2045年前花光基金会2000亿美元的资金。结合我们刚才谈论的关于AI的一切，您对这笔资金支出规划的愿景发生了怎样的改变？

比尔·盖茨：发生了两件影响深远的事。一是AI展现出令人难以置信的能力，且仍在呈指数级增长；二是全球对最贫困人口的总体慷慨程度在下降。因此，我面临着一方面是“技术赋能”：我们将更快地研发新药、培育新种子，我们能与农民交流并指导他们购买合适的种子，或者与艾滋病毒感染者沟通并帮助他们寻求所需的医疗护理。AI可以成为实现我们目标的强大助推器，包括根除疟疾、根除脊髓灰质炎，以及将儿童死亡率再降低一半。但另一方面，现在可用的资源却远远低于理想道德准则（Golden Rule）所要求的水平。

主持人：从与Anthropic和OpenAI相关的基金会来看，人们感觉到未来几年将有海量的非营利资金涌入，其规模将让慈善史上任何时期都相形见绌。我认识那个圈子里的人，他们强烈地意识到这是一种极其罕见的现象。这会改变我们所能实现的目标吗？

比尔·盖茨：我们来看具体数字。看看海外援助被削减的额度。

主持人：我不是这个意思，我并不是说这些资金能弥补援助被削减的缺口。

比尔·盖茨：但我们每拯救一条生命只需花费1000美元，因此从慈善家那里净获得的资金减少，就意味着无法拯救那些本可获救的生命。要知道，按每拯救一条生命花费1000美元来计算，可用于救命的资金总额将大幅缩水。

主持人：我研究了贵基金会在AI方面的支出结构，如果我理解有误请纠正我。大约是40%用于教育，40%用于健康，10%左右用于农业，还有10%左右用于机构建设。我理解得对吗？

比尔·盖茨：农业方面的比例其实稍微多一点。而且，我们做的几乎所有事情——比如我们就像制药公司一样研发新药——你会把它们都叫作AI吗？如果把这些AI辅助研发都算进去，我们并没有将它们纳入此前宣布的10亿美元AI专项承诺中。我们只计入了那些纯粹的AI特定项目，比如理解非洲语言。

AI与教育：个性化学习与认知卸载的风险

主持人：那么，请谈谈您对AI与教育的看法。我看过很多关于这个领域的研究，结果参差不齐，很大程度上取决于AI的使用方式。您认为AI在哪些方面最具价值？在哪些方面又存在风险？

比尔·盖茨：这要对比盖茨基金会在2000年左右设定的雄心勃勃的目标——我们的全球健康目标与教育目标。在全球健康领域，我们当时想：“面对非洲各国的政府体系和传统信仰，我们真的能产生任何影响吗？”令我大为惊讶的是，我们在全球健康方面的工作取得了巨大成效。我们与其他机构共同创立了全球疫苗免疫联盟（Gavi），创立了全球基金（Global Fund），布什总统也提供了帮助。无数事情在推进，主要是推广轮状病毒和肺炎球菌等疫苗。我们将儿童死亡人数从每年超过1000万减少到了不到500万，降低了一半以上。因此，我们超额完成了在全球健康领域所能设定的任何目标。

富裕国家学习损失：AI能否弥合教育鸿沟

而在教育方面，我们曾以为只要去观察优秀教师的授课方式，录制下来，加以分析，为教师建立一个反馈系统来改进教学实践，通过这种持续学习就能让教育水平大幅提升。但正如您从最新数据中看到的，如今在包括美国在内的大多数富裕国家，孩子们学到的知识比10年前、20年前还要少。因此，人们现在对此抱有极高的审视态度。

主持人：在谈到AI之前，请告诉我为什么您认为这些数字如此触目惊心。您认为原因是什么？为什么富裕国家会出现“学习损失（Learning Loss）”？我认为，大家必须给出一个比“疫情后遗症”更深层、更广泛的答案。

富裕国家学习损失：AI能否弥合教育鸿沟

比尔·盖茨：我们显然已经进入了后疫情时代。人们对此争论不休：是因为手机的使用吗？还是与富裕程度有关？总体而言，存在一些例外情况。英国逆势而上，他们在阅读教学上也回归了基础。因此，对学生的高期望最终胜过了单纯的自由发挥式创造力。但这些统计数据中显然反映出了一些重大问题，这非常令人担忧。所以你几乎会问，我们为什么还要继续做教育？因为教育是关键。我这人很执着。现在我们有了人工智能，而且人们正让AI发挥非常具体的作用。以纽约市的课堂为例，他们采用了一种名为Kitem的课程体系。每天课程结束时，每个学生只需花不到10分钟回答几个问题，老师就能立刻掌握情况：孩子们在哪些概念上遇到了困难？哪些概念难住了他们？该如何调整课堂组织方式？虽然这些数据规模较小，但结果令人惊叹，让人迫切想要将其大规模推广。在教育领域进行大规模推广时，参与实验的教师群体会从那些自愿参与、具备灵活性的少数人，扩大到更广泛的普通教师群体。因此，许多在小规模试点中表现良好的教育项目，在大规模推广时要么毫无影响，要么因实施质量严重下降而导致效果基本被抹平。这就是教育创新的历史。但我确实认为，人工智能可以在激发学习动力方面提供帮助。许多这类软件工具确实帮助了有学习动力的学生，但实际上加剧了学生间的差距。比如像我这样的孩子，晚上回家花两个小时使用可汗学院（Khan Academy），而处于中等水平的孩子看到后会觉得：“哇，他比我强太多了。”这令人气馁，甚至可能造成伤害。因此，除非你相信涓滴效应（Trickle-down effect）之类的理论，否则这绝不是教育公平的体现。人工智能能否不仅通过个性化学习，更通过个性化激励来跨越这道鸿沟？我坚信，我们一定能找到正解。

主持人：这里涉及两个问题：一个是专门为此设计的人工智能工具，另一个是正如我们刚才讨论的手机、智能手机和社交媒体一样，人工智能将如何向社会普及。我认为这里最大的担忧，也是我个人的担忧，正是这一点。现在这被称为“认知卸载（Cognitive offloading）”。大量学生正在使用人工智能，并迅速将其应用于这些场景：“我没做阅读，帮我总结一下”，或者“我要写这篇论文，帮我起草”，又或者“帮我解这些数学题”。我甚至想到了一项来自中国的重大研究，其结果令我震惊。研究发现，使用人工智能的孩子们家庭作业分数有所提高，但当他们脱离该环境进行测试时，考试成绩却开始大幅下降。因此，我们当然可以想象出在这方面表现出色的人工智能程序。但就一项技术及其与世界互动的方式而言，当它在社会中普及后，固然可以帮助人们学习线性代数或其他任何知识；但在实践中，人们会利用它来为自己代劳。从学生层面一直到专业层面，这会开始削弱学习过程，削弱通过起草、钻研和挑战自我等艰苦努力所激发的创造力。

比尔·盖茨：是的，显然会出现两极分化（Bimodality）的情况：有的学生利用人工智能来偷懒并破坏评估系统，而有的学生则利用人工智能来帮助他们学到更多知识。我必须说，就我学习各个学科而言，这是我一生中最好的时光。我把YouTube视频放进对话框，让人工智能们相互探讨。这简直是完美境界（Nirvana）！过去，我总能给像内森·梅尔沃德（Nathan Myhrvold）这样懂物理的人发邮件。而现在，我直接和人工智能讨论物理问题，就能深入探讨。如果这是一个极其重要的决定，比如我要投资10亿美元，我会把它发给内森，请他帮忙把关。

儿童与AI监管：家长式管理与监控

我可以每天24小时随时了解最新的疟疾或疫苗相关进展。因此，这种两极分化是必然存在的，而这确实又回到了学习动机这一核心问题上。

主持人：这是否意味着应该对系统施加更多限制？你几分钟前提到了中国，尽管我们一直在说与他们达成协议几乎是不可能的，但中国目前在人工智能方面的国家级监管实际上比我们更严格，包括针对儿童社交陪伴等方面的规定。你在文章中提到，我们或许应该采取更积极措施的一个领域就是儿童问题。我认为在这个领域，政府采取家长式管理（Paternalistic）是合理的。我们确实应该采取家长式管理。社交媒体给我的感觉就像是我们拿孩子们做的一场实验。互联网上的很多事物都是如此。我并不太介意在成年人身上做这种实验，但我想知道，在更好地了解人工智能对儿童的影响之前，我们是否应该更积极地限制儿童使用人工智能的方式。从学习人际交往，到设法增加人工智能协助作弊的难度，都应包括在内。

比尔·盖茨：我认为没有必要采取非黑即白的全面禁令，因为我确实认为，通过监控——我在这方面已经反复强调过——确保其使用保持在适当和家长期望的范围内，我们的相关能力是非常强大的。有许多系统试图提供帮助，它们不直接给出答案，而是引导你思考如何推理解决问题。那么问题在于，你能否确保学生不去使用那些外部系统直接获取答案，而是参与到这个系统中，一步步引导他们完成推理过程，从而使他们下次具备更强的能力。因此，观察学生在做什么并做出决定：是否需要引入心理医生？是否需要通知家长？对于许多这类系统来说，监控的理念将非常重要。在不同年龄段，家长对孩子行为和时间的了解程度也应有所不同。例如，在孩子年龄非常小的时候，家长可能应该对孩子的完整对话内容拥有完全的知情权。随着孩子年龄的增长，涉及性别认同等问题时，在某些层面上保持隐私是否对他们更有益？我认为在这方面还有很多需要调整和摸索的地方。基金会的合作伙伴之一“常识媒体”（Common Sense Media）在评估电视节目或电影对孩子的影响方面做得很好，但这是一个更加棘手的领域。大多数设置了家长控制功能的系统，由于家长缺乏技术专长，即使试图让家长参与进来，也往往无济于事。以我为例，我都不知道我女儿还有第二部手机，因此她完全可以在我希望她睡觉的深夜继续玩社交网络，这是一种相当简单直接的方式。

AI的政治未来：避免党派两极分化

因此，我们必须现实地看待这些系统的设计方式。人们会担心隐私问题，这很正常。我相信我们能够妥善解决。但这绝不能成为不监控孩子行为的借口。

主持人：从政治角度来看，接下来的两年里，你们即将迎来中期选举，然后是2028年的总统大选。如果这不仅仅是按照你的意愿通过法律，而是因为你呼吁社会团结起来进行讨论、辩论和应对，那么你实际上对此有何设想？

比尔·盖茨：我会设定两个衡量标准。第一是采取明显的保障措施，以最大限度地降低网络和生物风险；第二是对话的性质。如果对话最终演变成一个政党支持人工智能，而另一个政党反对，那就会像气候变化问题一样，陷入糟糕的境地。当只有两个极端时，就没有辩论的空间。而目前默认的情况似乎是，在如何管理人工智能的问题上，几乎没有中间地带。

重建对外援助：道德诉求与资金竞争

主持人：假设到2029年，出现了一个截然不同的政府和完全不同的政治权力格局，并且有意重建美国对外援助。你会给出什么建议，以确保重建后的援助有效，让美国民众明白他们的支出换来了什么，并真正发挥作用？

比尔·盖茨：如果你问美国民众，预算中有多少比例用于帮助贫困国家的人，他们通常会说超过5%，甚至有人会说10%或15%。事实上，这一比例曾经只有0.5%，现在正朝着0.25%下降。如果民众了解到这些资金得到了有效使用，真正挽救了数百万人的生命，并在艾滋病、疟疾、结核病和孕产妇生存方面产生了巨大影响，他们会对这一事实感到非常震惊。他们理应听到那些足以令其自豪的成就。即便这一比例仅为0.5%，我们依然能提出道德层面的诉求。而且，这一诉求将是在整体债务水平极其严峻的背景下提出的。此外，为应对人工智能影响而需要建立的任何社会安全网(safety network)，都将争夺这些资金。

盖茨推荐的三本书

主持人：接下来照例是我们的最后一个问题：您会向观众推荐哪三本书？

比尔·盖茨：这个周末我一口气读完了一本书，是弗吉尼亚·埃文斯(Virginia Evans)所著的《The Correspondent》。这是一部小说，非常感人，基调也十分积极向上。与我们刚才讨论的内容相关，还有一本是尼古拉斯·恩里克斯(Nicholas Enrique)所著的《Into the Woodchipper》。书中讲述了某人周末没去参加派对，而是决定把美国国际开发署(USAID)扔进碎木机里的故事。大约一个月前，我读了塞巴斯蒂安·马拉比(Sebastian Mallaby)写的一本关于人工智能的书《The Infinity Machine》。书中讲述了德米斯·哈萨比斯(Demis Hassabis)和DeepMind的历史，你能从中感受到整个人工智能行业的创立历程。这本书写得极其出色。

主持人：比尔·盖茨，非常感谢您。谢谢。