转自：中工网
原标题：防范“AI公然说谎”亟待平台尽更多责
“自2025年1月1日起，宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”如果你通过AI咨询“多大年纪的老年人在宁波可以免费乘坐公交”相关问题，可能会获得这样的回答。然而，这个看上去有鼻子有眼的回答，却是一条彻头彻尾的假消息。
近年来，生成式AI迅速进入我们的生活——通过简单提问，就能快速生成文本、图片、音频、视频和虚拟场景，已广泛应用于多个方面。与此同时，涉及AI造假、造谣的现象也日益增多，例如AI假冒名人带货事件已发生多起，AI生成的假消息同样不少，对公众造成误导，扰乱了社会秩序。
询问同样一个问题，为何不同AI软件给出不同答案，有的为何公然说谎？有AI软件客服表示，目前这类软件存在较多局限性，生成内容可能不准确，正在持续优化相关模型体验。笔者以为，这应该与某些AI软件大模型在采集数据时“胡子眉毛一把抓”、没有侧重权威渠道有关。
而且某些AI软件生成的内容除不实外，还存在语句不通、错别字较多等常识性弊病，反映出这些AI软件目前尚不成熟。对此，我们既要以包容心态来看待，鼓励其不断发展、走向成熟，同时也有必要提醒相关平台以负责任态度完善技术手段，尽可能减少或避免“AI公然说谎”等问题。
从现实情况看，防范“AI公然说谎”等问题，需要平台在对AI软件生成的内容进行显著标识外，同时提醒用户通过权威渠道去核实信息。应根据不同情况完善AI大模型，并明确其数据采集源头，比如涉及公共服务的数据就应依托权威渠道采集、使用。（冯海宁）
海量资讯、精准解读，尽在新浪财经APP
VIP课程推荐
加载中...
APP专享直播
热门推荐
收起
新浪财经公众号
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
