封面评论 | AI又曝“事实性错误”，信息整合先要做好信源分级|AI_新浪财经

□蒋璟璟

“自2025年1月1日起，宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”如果你通过AI咨询“多大年纪的老年人在宁波可以免费乘坐公交”相关问题，可能会获得这样的回答。然而，这个看上去有鼻子有眼的回答，却是一条彻头彻尾的假消息。记者亲测，将该问题分别向三个人工智能软件提问，得到的回答中，仅有一个是正确的。（羊城晚报）

看似实力跃升、无所不能的大模型，又一次在“事实性错误”上栽了跟头。这似乎是意料之外，其实也很好理解。须知，本轮AI大爆发，其主要的突破方向还是文本理解、语义识别、语言组织层面，其典型成果，就是“写作”能力大为提升，基本做到了文通句顺、上下连贯。但是，同样应该看到的是，其底层逻辑，依旧是对信息、内容、数据的“预处理”与“化炼”，这并不神秘，故而自然也不必迷信。低可靠性的信息源、被污染的语料，当然可能导致终端输出偏差。

记者就相关问题向市面上几个主流的大模型提问，得到的回答五花八门，其中很多都属于是“一本正经的胡说八道”。进一步追溯其“引用资料”，AI犯错的原因，并不难弄清楚：有些是“整合了其他地方的政策”，造成张冠李戴；有的是引用了自媒体的错误信息，以讹传讹——说到底，在算法逻辑层面，是很容易为之归因的，那就是没有就不同信源进行科学的“分级”，就信息采纳和内容生产环节，赋予了低质素信源太大的权重，这直接导致了结果的翻车。

其实，现阶段而言，就查询政策信息而言，AI并没有表现出比传统搜索引擎、政府门户更大的优势。但是，AI浪潮席卷的当下，AI隐隐被塑造成了某种无所不能的“开创性工具”，不少人已经形成了“AI在手，尽在掌握”的错觉，AI成了他们的“超级终端”，甚至是“唯一的终端”。事实上，在AI尚不成熟的背景下，对之过于倚重和相信，乃至放弃了以往那些行之有效的信息检索工具和经验方法，这本身就是隐患重重。

AI当然会不断进化，可以预见的是，只要对底层算法稍加优化，其对于地方政策信息呈现的准确度，就会有所提升。但无论如何，AI终究只是工具，用户应始终居于主体性地位。这种认知的主体性，应该体现为不轻信的警惕、交叉验证的严谨，以及一种直觉性的常识判断等等。