AI教父：人类正创造比自己更强大的怪物！

有“AI教父”之称的约书亚·本吉奥（Yoshua Bengio）最新警告称，我们正在创造比人类更强大的怪物（人工智能）。

他在接受采访时表示：“智慧赋予力量，无论谁控制了这种力量——无论是人类水平还是高于人类水平，都将变得非常非常强大。”

“总的来说，技术会被那些想要更多权力的人所利用，例如他们想要经济主导地位、军事主导地位、政治主导地位。因此，在我们创造可能以危险方式集中权力的技术之前，我们需要非常小心。”

对于普通投资者而言，这位学术大佬的知名度或许不及黄仁勋、山姆·阿尔特曼，但他在多层神经网络技术上贡献卓著，奠定了其“AI教父”的地位。

60岁的本吉奥是一位加拿大计算机科学家，他致力于神经网络和深度学习算法的研究。他的开创性工作为我们今天使用的人工智能模型开辟了道路，例如OpenAI的ChatGPT和Anthropic的Claude。

2018 年，本吉奥与两位同事——前谷歌副总裁杰弗里·辛顿（2024 年诺贝尔物理学奖得主）和 Meta首席人工智能科学家杨立昆（Yann LeCun）共同获得了图灵奖（有计算界诺贝尔奖之称）。2022 年，本吉奥成为全球被引用次数最多的计算机科学家。《时代》杂志将他评选为全球100 位最具影响力人物之一。

可以说，如果没有本吉奥，人工智能可能就不存在了。

尽管帮助发明了这项技术，但本吉奥现在已经成为人工智能领域的一个谨慎人物。与此同时，投资者们却对AI领域表现出了极大的热情，并将相关公司的股价推至高位。例如，人工智能芯片宠儿英伟达的股价今年迄今上涨了约180%，而标普500指数的涨幅仅为22%。

以下为本吉奥在最新采访中的一些观点：

我们为什么要关注人类水平的人工智能？

如果它落入坏人之手，不管这意味着什么，那将是非常危险的。这些工具可以很快帮助恐怖分子，也可以帮助那些希望摧毁我们民主的国家机构。还有一个问题，许多科学家一直在指出，那就是我们现在训练它们的方式——我们并不清楚如何才能避免这些系统变得自主（思考和行动），有自己的保护目标，我们可能会失去对这些系统的控制。所以我们可能会创造出比我们更强大的怪物。

OpenAI、Meta、谷歌、亚马逊，哪个AI巨头做得对？

在道德方面，我认为表现最好的公司是Anthropic（其主要投资者包括亚马逊和谷歌）。但我认为他们都有偏见，因为在经济结构中，他们的生存取决于成为领先的公司，最好是第一个实现AGI（通用式人工智能）。这意味着一场竞赛，一场公司之间的军备竞赛，公共安全很可能是失败的目标。

Anthropic 发出了很多信号，表明他们非常关心如何避免灾难性后果。他们是第一个提出安全政策的公司，承诺如果人工智能最终拥有可能造成危险的能力，他们就会停止这种努力。他们也是唯一支持SB 1047 的公司，与马斯克的态度一样。

“SB 1047法案”，全称“前沿人工智能模型安全创新法案”。该法案是首批要求AI开发人员对其技术造成的任何严重损害负责的法案之一。不过，这一AI监管“里程碑”在最后一刻被美国加利福尼亚州州长纽森否决了。

对英伟达等人工智能股票的大幅上涨有何看法？

b我认为非常确定的是长期的发展轨迹。因此，如果你长期投资，这是一个相当安全的赌注。除非我们无法保护公众……（那么）后果可能是一切都会崩溃，对吧？要么是因为社会普遍反对人工智能，要么是因为真正灾难性的事情发生了，我们的经济结构崩溃了。

无论哪种情况，都对投资者不利。所以我认为，如果投资者够聪明的话，他们会明白，我们需要谨慎行事，避免可能损害我们整体未来的那种错误和灾难。

对人工智能芯片竞赛的看法？

我认为芯片显然正在成为这个谜题的重要组成部分，当然，它也是一个瓶颈。很可能对大量计算的需求不会随着各种事件的发生而消失，我可以预见未来几年的科学进步，因此拥有高端人工智能芯片的能力将具有战略价值——供应链中的所有步骤都将至关重要。现在很少有公司能够做到这一点，所以我希望看到更多的投资，希望有一点多样化。