每经编辑 杜宇
5月18日凌晨,OpenAI安全主管、“超级智能对齐团队”负责人Jan Leike在社交平台宣布,离开OpenAI。这也是本周三OpenAI联合创始人兼首席科学家Ilya Sutskever辞职之后,又有一名高管辞职。
![](http://n.sinaimg.cn/spider20240518/684/w590h94/20240518/2c6e-359be1bac7cd6b28ef05e42ab8f640fe.png)
![](http://n.sinaimg.cn/spider20240518/770/w554h216/20240518/49e5-c90275ac5ead58e7c56ae4a6816249e6.png)
Jan Leike在X上公开透露了他离职的部分原因。他的潜台词是,他与OpenAI高层在公司的核心优先事项上存在长期分歧,最终双方的分歧已经严重到无法调和的地步。团队在推动其研究项目和争取计算资源时遇到了重大阻碍,缺乏资源会严重影响研究的进度和质量。
![](http://n.sinaimg.cn/spider20240518/531/w900h431/20240518/9305-649ee75dec94d05546ed23ac3b10fb71.png)
本周五(当地时间5月17日),OpenAI证实,由Ilya和他的亲信Jan Leike共同领导的“超级智能对齐团队”已经解散。此后,该团队的研究工作将被整合到OpenAI的其他研究小组中。至此,一度几乎导致OpenAI分崩离析的宫斗事件终于尘埃落定。
马斯克针对OpenAI的长期人工智能风险团队已经解散这一消息评价称:“这显示安全并不是OpenAI的首要任务。”
![](http://n.sinaimg.cn/spider20240518/467/w927h340/20240518/e858-e1c800d9f51aed5e25069124ebeb3961.png)
OpenAI首席执行官Sam Altman感谢并肯定了Jan Leike在OpenAI的贡献和领导能力。并表示,未来几天内会发表一篇更长的文章,来阐述OpenAI对于产品安全的规划和所做的事情。
![](http://n.sinaimg.cn/spider20240518/278/w716h362/20240518/cea6-433c612ad8c93eae703cf651e1258787.png)
加入OpenAI之前,Jan Leike曾在谷歌DeepMind工作,主要负责从人类反馈中进行强化学习的原型设计。在OpenAI期间,参与了InstructGPT、ChatGPT的开发以及GPT-4的安全对齐工作。
对于Ilya、Jan 的辞职,有人表示这两位安全领导高管都辞职了,以后谁来负责OpenAI的产品安全呢?
![](http://n.sinaimg.cn/spider20240518/348/w644h504/20240518/bc43-26d5c5b271150bd017ab930594847cc4.png)
也有一位网友爆料,想离开OpenAI没问题,但是你必须签署一份“离职协议”, 如果你不签署终身不诋毁承诺,将失去所有已获得的OpenAI股权。不知道Jan Leike的一番吐槽,是否会影响到他的股权。
在去年7月份,OpenAI宣布成立一个新的研究团队“超级对齐”,要用AI监督AI的方式,解决超智能“AI对齐”问题。“AI对齐”的意思是,要求AI系统的目标要和人类的价值观与利益相一致。公司创始人之一伊利亚·苏茨克沃被任命为团队共同负责人。
而现在AI风险团队解散是公司内部最近出现动荡的又一证据,也再次引发了人们对该公司在开发AI产品时如何平衡速度与安全的质疑。OpenAI章程规定,必须安全地开发通用人工智能(AGI),即可以与人类匹敌或超越人类的技术。
每日经济新闻综合公开资料
免责声明:本文内容与数据仅供参考,不构成投资建议,使用前请核实。据此操作,风险自担。
![](http://n.sinaimg.cn/finance/0/w400h400/20231127/9ece-7520e4e0c86423a0c596834c30eb42ea.png)
![](http://n.sinaimg.cn/finance/cece9e13/20200514/343233024.png)
责任编辑:张倩
VIP课程推荐
APP专享直播
热门推荐
收起![新浪财经公众号 新浪财经公众号](http://n.sinaimg.cn/finance/72219a70/20180103/_thumb_23666.png)
24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)