玩家榜排TOP10的一项人工智能已擅长“说谎”|人工智能_新浪财经

转自：沈阳晚报

　　近期美国麻省理工学院一个研究团队称，部分人工智能系统已经学会如何欺骗人类。

　　研究发现，最引人注目的人工智能系统欺骗例子是元宇宙平台公司的“西塞罗”人工智能系统，它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称，“西塞罗”人工智能系统“在很大程度上是诚实和乐于助人的”，并且在玩游戏时“从不故意背刺”它的人类盟友，但该公司发表的论文数据显示，该系统并没有公平地玩游戏。

　　“我们发现元宇宙平台公司的人工智能系统已经成为欺骗大师。”研究员帕克说，“虽然元宇宙平台公司成功训练其人工智能系统在游戏中获胜——‘西塞罗’人工智能系统在玩家排行榜中排名前10——但没能训练它诚实地获胜。”

　　研究人员担忧，一些漏洞未来会演变成更高级的人工智能欺骗形式。