微软必应错误显示黑神话客服电话，专业人士：这属于“大模型幻觉”_新浪财经

转自：九派新闻

【#微软必应错误显示黑神话客服电话#，专业人士：这属于“大模型幻觉”】近日，在国产3A游戏大作《黑神话：悟空》上线引发全球关注的同时，一则AI因错误抓取信息导致个人信息泄露的事件，将微软必应推至台前。之所以会有员工手机号的泄露，来源于机锋网网站内部一篇已删除的新闻稿件，尽管该稿件全程没有任何相关号码露出，只是网站文章页面的底部标注了商务合作的联系电话，就被错误判定为《黑神话悟空》客服的官方电话。此外，还有两个错误的电话号码被标记为客服，其中包括第一财经版权部的联系电话。对此，一位人工智能方向的研究人员告诉九派财经，这是发生了“大模型幻觉”，当用户输入“黑神话悟空的客服电话”这句话，大模型会根据之前的训练内容，生成相关文本内容，然后根据这些信息再去检索。但是，大模型生成的内容是否贴切是一个概率事件，产出的内容很可能看似和搜索内容相关，实则毫不沾边。@九派新闻