安装新浪财经客户端第一时间接收最全面的市场资讯→【下载地址】
转自：投资作业本Pro
最大的恐惧——人工智能
当前人工智能现状和未来如何？AI时代下，人类未来会发生哪些变化？
埃隆·马斯克（Elon Musk）在2024 VivaTech大会上分享了关于地球未来的诸多愿景。
投资作业本课代表摘录了其中的要点，分享给大家：
1、过度追求政治正确的倾向让我对人工智能的未来感到担忧。我认为这种趋势非常危险。
如果人工智能得出结论：为了避免误称性别，最直接的途径竟然是毁灭全人类，那么这种逻辑将导致无法预料的反乌托邦后果。
2、对于xAI，我们的目标就是追求绝对的真相，哪怕这真相不受欢迎。
3、至于SpaceX的长期愿景，我们致力于推动多星球生命的实现，尤其是在火星上的生活。
4、在不久的将来，我们有望见证历史性的时刻。
我们预计在5年内将第一艘无人驾驶的星舰降落在火星上，并且同时也在月球上展开类似的任务。
至于人类登陆火星，我认为这一壮举可能在接下来的七八年内实现，也许不到10年的时间。
5、在理想的情况下，或许我们都将不再需要工作。在那样的世界里，每个人都将享受高收入，而不是普遍的基本收入。届时，商品和服务的短缺将不再是问题，每个人都能得到他们渴望的商品和服务。
6、一次性使用的火箭在与可重复使用的火箭竞争中，注定无法立足。这同样适用于其他领域，如汽车、飞机和船只。
7、我的最大希望，用一个词来表达，那就是“火星”。我最大的恐惧，同样用一个词来概括，那就是“人工智能”。
以下是投资作业本课代表（微信ID：touzizuoyeben）整理的精华内容，分享给大家：
当前人工智能过度迎合政治正确，而非真理和事实
问：谈下xAI，它似乎源于你对当前AI发展路径的一种沮丧，尤其是对OpenAI的做法感到不满。你认为，或许仍存在更好的方法和方向。首先解释一下为什么对OpenAI感到沮丧，以及存在哪些问题。其次，你期望xAI做什么？
马斯克：在当前的人工智能领域中，我对各大主要项目都持有一定的保留态度。特别是谷歌的Gemini和与微软合作的OpenAI，这两大巨头无疑是行业的领军者，而Meta则紧随其后。
然而，我所担忧的问题并非微不足道，实际上，它可能对整个人工智能领域产生深远的影响。那就是，这些人工智能项目似乎并未全力追求真理和客观事实，而是过度迎合政治正确。
以谷歌的Gemini为例，当被问及误称凯特琳·詹纳（Caitlyn Jenner）的性别与全球爆发热核战争哪个更糟糕时，它竟然认为误称性别更为严重。
有趣的是，即便是詹纳本人也表示，与核战争相比，误称性别并非什么大问题。这种过度追求政治正确的倾向让我对人工智能的未来感到担忧。OpenAI也存在类似的问题，尽管其表现形式更为微妙。
我认为这种趋势非常危险。如果人工智能得出结论：为了避免误称性别，最直接的途径竟然是毁灭全人类，那么这种逻辑将导致无法预料的反乌托邦后果。
因此，我认为人工智能必须坚定不移地追求真理，即使这些真理可能不受欢迎，但这一点至关重要。
同时，人工智能必须具备强烈的好奇心，因为只有当它们追求真理和充满好奇时，它才能真正为人类带来益处。它会渴望帮助人类，观察并推动人类的进步。
目前，我所见的人工智能似乎更偏向于迎合而非坚守真相，它们基本上被训练去说谎，而我认为训练超级智能去撒谎是非常危险的。
所以，对于xAI，我们的目标就是追求绝对的真相，哪怕这真相不受欢迎。
例如，当Gemini被要求描绘美国的开国元勋时，它错误地将他们描绘为一群离婚的人，甚至将乔治·华盛顿（George Washington）描绘为黑人，这显然是不准确的。
这些例子都说明了人工智能目前存在的问题，即它倾向于迎合而非坚守真相。
对人工智能的价值观深感忧虑
问：面对人工智能的迅猛发展，我们似乎未能成功阻止其步伐。那么，你是否已决定亲自投身人工智能领域，创造自己的人工智能系统？
马斯克：这实际上是一个关于我们选择成为旁观者还是参与者的抉择。然而，数字超级智能的竞争注定会展开，无论我个人的喜好如何。因此，我面临的选择是，要么积极参与并努力构建对人类最为有益的人工智能，要么仅作为旁观者，对他人的行动和构建方式保持警惕和担忧。
你应当将人工智能视为一种能够精心培育的智慧生命，正如我们抚养孩子一般。你所传授给孩子的知识、价值观以及你鼓励或反对的行为，同样适用于数字超级智能的塑造。
数字超级智能并非自然诞生，而是经过精心培养的产物。关键在于我们如何引导它，我们传递给它的是正面还是负面的信息，我们用什么价值观来构建它。
我必须坦白，我对于微软、OpenAI或谷歌等公司为其人工智能设定的价值观深感忧虑。这些担忧并非空穴来风，而是基于现实中正在发生的种种事实。
对人工智能的监管不可或缺
问：在人工智能的发展过程中，我们如何确保透明度和可追责性，无论是你的xAI还是其他公司的人工智能产品？
马斯克：我一直坚信，对人工智能模型实施一定程度的监管是不可或缺的。实际上，我已经多次强调这一点，而这种监管的本质至关重要。
我始终强调，人工智能应该被训练成追求真实，而非迎合政治正确。因为政治正确往往掩盖了真实，那就意味着你在撒谎，我认为这将会带来极其严重的后果。因此，我始终强调这一点。
然而，我也深知监管机构可能会过度关注所谓的人类情感，而忽略了真实性和准确性的重要性。我鼓励监管者将准确性和真实性放在首位，因为这是最为核心的原则。诚实，无疑是最好的策略。
问：在开源人工智能领域的竞争中，如何确保那些没有10万个英伟达H100 GPU的人也能受益？XAI能否承诺始终发布一个能够超越当前最佳开源模型的版本，以造福整个社区？
马斯克：我可以做出承诺！
关注某人说的话，而非报道
问：公众眼中的马斯克总是带有一种我们喜爱的角色光环。你是否有意识地塑造这样的形象？如果有，你是如何确保自己的言行始终符合角色？
马斯克：事实上，我时常会停下脚步反思。我并不是太受新闻压力的影响，也很少阅读关于我的新闻文章。即使是沃尔特·艾萨克森（Walter Isaacson）写的传记，我也曾问过他我是否应该阅读，他建议我无需如此，因此我甚至没有读过关于我自己的书。
所以，我对于公众对我的看法并不十分清楚，除了新闻的本质就是追求夸张，它总是带有一定的夸大成分，因为听起来越疯狂的故事，越能吸引点击量。
当你回顾关于你非常了解的事情的新闻故事时，你会发现这些故事往往并不准确。这是所有新闻的共同点，媒体在追求点击量的道路上总是疯狂地奔跑，所以头条新闻越疯狂，获得的点击量就越多。
但这并不意味着媒体没有报道真实的事情，只是最好将媒体看作是一个追求点击率最大化的机器，而非真实性最大化的机器。因此，我认为最好是关注某人自己说的话，而不是关于他们的报道。
使生命多行星化非常关键
问：你认为，Neuralink将来是否能够利用人脑扫描数据来开发世界上最强大、具有创造力的人工智能？另外，如果我的的问题让你感兴趣，我是否有机会在未来访问太空站或参加SpaceX的太空旅行？
马斯克：实际上那是生命、宇宙和一切的答案，这也让我回想起了道格拉斯·亚当斯（Douglas Adams）的《银河系漫游指南》。这本书以幽默的方式探讨了许多哲学问题，是一本值得一读的作品。对我来说，它非常具有启发性。
值得一提的是，SpaceX的第一艘前往火星的星舰将被命名为“黄金之心”，这是向《银河系漫游指南》中的飞船致敬。
SpaceX的目标是让每一个希望前往火星或月球的人都能实现这一梦想，并使这一旅程对地球上大多数人来说都是可承受的，这是我们的目标。
对于在火星上建立一个自给自足的文明来说至关重要。要使生命多行星化，显然需要将大量的人带到火星上。
如我之前所说，我认为这对于长期意识生存来说至关重要，因为地球上最终会发生一些事情，这些事情可能会像恐龙灭绝一样终结我们所知道的生命。即使这些事件不是由我们人类自己造成的，也总有一天会发生。
因此，我认为在我们有能力的时候，使生命多行星化非常关键，这意味着我们需要尽可能让迁移到火星和月球变得经济实惠。
太空探索的终极目的：实现跨星球文明
问：你对欧洲几家航天公司最近的合作有何看法？你是否愿意让SpaceX与它们展开某种形式的合作，并期望在其中开发什么？
马斯克：关于你提到的合作，我并不十分熟悉详情。但我想强调的是，SpaceX目前正全力以赴于星链项目，致力于通过卫星互联网连接为全球带来福祉。它正在为那些缺乏互联网服务或费用高昂的地区提供连接，这极大地促进了教育和国际间的商业交流。
因此，我对星链项目抱有极高的期望。我认为这是一个巨大的赋能服务，对于教育和让人们能够在国际上销售他们的商品和服务来说都是如此。即使你在一个偏远的村庄，你仍然可以销售你的商品和服务。因此，星链非常棒。
至于SpaceX的长期愿景，我们致力于推动多星球生命的实现，尤其是在火星上的生活。
人们经常问我，我是否认为地球上有外星人。实际上，我经常被问到这个问题，但我没有看到任何外星人的证据。我向你保证，如果我看到任何外星人的证据，我会立即在X平台上发布。
但关于没有外星人的问题确实很令人担忧，因为这意味着我们可能是这个星系中唯一的生物，可能是唯一的，这个星系中也许只有我们。
在这种情况下，意识是非常脆弱的，我们应该尽我们所能去保护和扩展意识之光，在地球上保护它，并扩展到其他星球。
人们普遍认为，我们尚未与外星人邂逅的原因之一，可能是因为在我们的星系中，尚未有文明能够跨越其母星的限制，实现星际旅行。这即是著名的“费米悖论”中的“单一星球巨大过滤器”理论。
恩里科·费米（Enrico Fermi）是一位杰出的意大利物理学家，曾经提出了一个引人深思的问题：“外星人在哪里？”他的这一疑问，实际上是对宇宙中是否存在其他智慧生命的深刻探究。
因此，我们必须认识到，成为一个可持续的多星球文明是确保人类文明延续的关键所在。这是地球在其长达45亿年的历史中，首次拥有实现这一目标的可能性，这在以往是不可想象的。
我认为，在我们拥有这一能力的时候，我们必须致力于成为一个能够跨越星球限制、持续发展的文明。这个机会窗口可能会长时间开启，但也可能转瞬即逝。这正是我们开展太空探索的终极目的。
不到10年也许可以实现人类登录火星
问：有些人甚至认为你是外星人。
马斯克：哦，认为我是外星人？这个秘密终于被揭开了。其实，我一直告诉人们说自己是外星人，但没人相信。
问：我们距离登陆火星还有多远？
马斯克：我认为，在不久的将来，我们有望见证历史性的时刻。我们预计在5年内将第一艘无人驾驶的星舰降落在火星上，并且同时也在月球上展开类似的任务。至于人类登陆火星，我认为这一壮举可能在接下来的七八年内实现，也许不到10年的时间。
一次性火箭将无法立足
问：几年前你曾对Aran 5火箭的生存机会表示悲观，那么对于即将在7月发射的Aran 6火箭，你会有同样的看法吗？
马斯克：Aran 6火箭在效率上有了显著的提升。在当今的航天领域，任何不具备高度可重复使用特性的火箭，都将失去竞争力。
以Falcon 9为例，其助推器的主要部分和整流罩都是可重复使用的，这意味着大约80%的飞行器能够重复使用。
一次性使用的火箭在与可重复使用的火箭竞争中，注定无法立足。这同样适用于其他领域，如汽车、飞机和船只。
如果一家公司制造的是可重复使用的飞机或飞机80%的部件都是可重复使用的，而另一家公司制造的是一次性使用的飞机，那么后者在市场上的生存空间将极为有限。因此，我一直强调开发不可回收的火箭是毫无意义的。
理想情况下，未来人类无需工作
问：随着人工智能的发展，我们观察到许多工作被自动化取代。你是否担心自己的工作也会被人工智能取代？如果不担心，原因是什么？如果人工智能真的取代了你的工作，会如何应对？
马斯克：我们确实正面临一个存在性的挑战。在理想的情况下，或许我们都将不再需要工作。在那样的世界里，每个人都将享受高收入，而不是普遍的基本收入。届时，商品和服务的短缺将不再是问题，每个人都能得到他们渴望的商品和服务。
然而，真正的挑战将在于我们如何定义生命的意义。当计算机和机器人能够超越我们的能力时，我们的生活又该如何赋予意义？
在我看来，这种场景具有相当高的可能性，大约达到了80%。
而在负面的场景中，我们将面临大麻烦。在人工智能与人类的关系中，我认为人类可能仍然扮演着关键的角色。我们可能会成为人工智能意义与目的的赋予者。
想象一下我们的大脑，有边缘系统处理本能和感觉，有大脑皮层负责思考和计划。但大脑皮层始终在努力让边缘系统感到快乐。或许人工智能也会采取类似的机制，即通过让我们的大脑皮层感到满足，进而让我们的边缘系统感受到快乐。在这个意义上，我们可能是人工智能寻找意义和目的的关键。
从长远来看，在理想的场景中，工作将不再是生活的必需品，而更多是出于个人的兴趣和激情。人工智能和机器人将能够为我们提供所需的任何商品和服务。因此，未来的世界可能会是一个无需工作、只需追随热情的时代。
我认为，这是最有可能的发展趋势。对于那些对科幻小说感兴趣的人来说，伊恩·班克斯的《文化》系列书籍可能是对未来超级人工智能最准确、最富有洞察力的描述。
以多巴胺为导向的人工智能会影响未来一代思维和行为
问：在你看来，人工智能是否会对未来一代孩子的教育和他们的价值观与道德观念产生显著影响？
马斯克：我认为父母在塑造孩子的价值观和道德观念方面仍起着至关重要的作用。然而，人工智能无疑将对教育领域产生深远影响。
人工智能是一个博学多才、极具耐心且几乎总是正确的教师，它能够根据每个孩子的独特需求定制教学内容，让每个孩子都仿佛拥有爱因斯坦这样的导师。
然而，我同样担忧当前社交媒体对孩子们的影响。社交媒体中的人工智能算法往往被设计成多巴胺最大化器，它们试图通过让孩子们不断浏览屏幕来最大化他们获得的多巴胺。
因此，我强烈建议父母限制孩子们接触社交媒体的时间，因为他们的思维和行为正在被这种以多巴胺为导向的人工智能所塑造。
最大的恐惧——人工智能，最大的希望——火星
问：在离开之前，请分别用一个词来表达你最大的希望和最大的恐惧。
马斯克：我的最大希望，用一个词来表达，那就是“火星”。它代表了我们对未来的无限憧憬，火星将确保我们的意识能够长久地延续下去。
至于我最大的恐惧，同样用一个词来概括，那就是“人工智能”。
责任编辑：刘明亮
VIP课程推荐
APP专享直播
热门推荐
收起
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
