微软 AI 主管警告：AI 不应模仿人类，需设“安全围栏”

IT之家 8 月 25 日消息，微软人工智能部门主管穆斯塔法・苏莱曼上周（8 月 19 日）发布博文，谈及 AI 的现状和未来。

苏莱曼表示，他此生的使命就是让世界更好，创造安全且有益的 AI。如今微软的目标是用 AI 赋能人类，专注于将 Copilot 打造成负责的技术，帮助人们获得更高的创造力。

他想创造出“更通人性”的 AI，和真实世界紧密联系，并加深人与人之间的信任和理解。但这种设计也存在诸多挑战，最重要的是需要非常谨慎的思维，且微软会围绕着“以人为本”的价值观来指引其行为。

文中苏莱曼还担忧起 AI 的现状，他认为现在许多人已经开始相信 LLM（IT之家注：大语言模型）是具有意识的实体，以至于他们会依感觉为“AI 权利”、“AI 福利”甚至“AI 公民身份”发声，且这些症状在没有心理疾病的人中也会出现，他将这种行为形容成“AI 精神分裂”。

苏莱曼认为 AI 应以人为本，不应让 AI 来“模仿人类”，AI 业界必须紧急设置一个“安全围栏”来保护人类，并明确哪些东西不应去造，只有这样 AI 才能被关进制度的笼子，真正为世界创造价值。

外媒 WindowsReport 对此认为，苏莱曼的担忧并非天方夜谭，毕竟本月初 OpenAI 停用 GPT-4o 模型时就遭到了用户强烈反对，他们认为这个 AI 模型就像是他们的伴侣，并恳切它能“回归”。

此外，OpenAI 的 CEO 山姆・奥尔特曼也承认，AI 提供的情感依附比以往任何技术都强，他还认为 AI 技术强的“能让人类自我毁灭”。