转自：周到上海
“从技术上说，人工智能发展非常快。但我们过去 5、6 年主要是在想搞清楚智能到底是怎么回事。中国人讲事情分成‘道’和‘术’，‘术’是技术，过去十年技术蓬勃发展，大家眼花缭乱。但‘道’就是道理、方法。”
在近日举行的首届“浦江 AI 学术年会”上，香港大学计算与数据科学学院院长、AI 讲座教授马毅以这番话开启了他对智能本质的深度解读。
马毅引用爱因斯坦的话：“Everything should be made as simple as possible, but not any simpler”，中国讲的是大道至简，智能的本质是什么？马毅说，从某种意义上说物理在讲世界的起源，实际上智能就是生命的起源，智能就是生命，生命就是智能，生物只是智能的载体。生物就是在学习外部的知识，把这些信息通过DNA记录下来传承下去，这就是智能。
在他看来，生命进化的过程就是智能发展的历程。这个过程大致可以分为三个关键阶段。
最早期是依靠 DNA 的进化阶段。“DNA 就是自然界的大模型，而且是个开环模型，一代代传承，跟自然界形成闭环，通过选择不断进步。”马毅说，“这个过程代价巨大，自然界花了 30 亿年才进化得不错。”
约 5000 万年前，生物出现了大脑和神经系统，标志着个体智能的诞生。这带来了一个显著的现象：“智能随着形式越来越高，越来越不依赖于 DNA 本能。从鸟到哺乳动物，从低等的哺乳动物到人类，动物从出生后跟父母学习的时间越长，智能形式就越高。”
人类文明的出现，带来了智能发展的第三次飞跃。语言的出现让知识可以代际传承，“三四千年前更了不起的事情发生了——当数学家、哲学家提出抽象概念，我们发明了数学、科学，这才是真正意义上的人工智能。”
然而，对于当前火热的 AI 发展，马毅提出了严肃的警告。“这些机制模型都是黑盒子试出来的，跟早期生物进化几乎一模一样，物竞天择、适者生存。大家几千个 T，你试你的模型，我改这个，突然出来个 Transformer，怎么出来的也不知道，挺好用。听起来有点像中医炼丹一样。”
他强调，从科学角度必须把这些机制搞清楚：“如果是无关紧要的黑盒子无所谓，但这是很重要的黑盒子，它的功能越来越强大，做的事情越来越多，甚至有人说这可以变成原子弹、病毒，把人类给毁灭了，那就不能再是黑盒子。”
马毅特别强调了知识与智能的本质区别。“GPT 有知识没有智能，新生婴儿有智能没有知识。Knowledge （知识）是智能活动的积分，智能是 Knowledge 的微分。当一个人、一个社会在 forget Knowledge 的时候，这个群体、这个个人的智能是负的。”
在他看来，真正的智能必须具备自主学习能力。“如果要一个系统能够自主学习，没有上帝，没有工程师，N to N 帮它纠错，它必须是闭环系统，自然界所有学习系统都是闭环系统。”而目前的大模型还远未达到这一点，“我们经常开玩笑，现在所有的大模型出来，我的学生就做一件事，测这些大模型明不明白数的概念，很负责任的告诉大家，没有任何大模型具有自然数的概念。”
那么，未来的 AI 发展应该何去何从？马毅认为，关键是要回归智能的本质。
“智能实际上做一件很简单的事情，就是要学习这个世界外部世界哪些是可预测的。我们的记忆也好、个体的世界模型也好，DNA 也好，甚至整个科学在做的是同一件事情，就是把外部世界可预测的规律学到、学好。”
“技术的发展给我们带来很多进步，但很可能我们在道理这件事情上，实际上过去十年可能没有进步，反而有点退步，这是我个人的理解。”马毅说。
来源：周到上海 作者：苗夏丽
VIP课程推荐
APP专享直播
热门推荐
收起
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
