AI数据污染，治污还得靠人|AI_新浪财经

　　李松林

　　宁波交警短视频账号2月注销，AI竟称注销是因为5月的一起交通事故；求问儿童手表软件，AI给出了否定中国发明创造、否定中国文化的答案……据央视报道，AI杜撰信息甚至编造谣言，与数据污染、数据投毒有关。

　　近年来，AI广泛应用。从查阅资料到办公写作，从休闲玩乐到求医问诊，AI提升了人们生活工作的便利度。与此同时，AI技术带来的风险与日俱增。据报道，个别人向AI大模型训练数据中注入伪装成正常样本的恶意数据，削弱模型性能、降低准确性；有的不良信息没有被甄别删除，被人工智能当作可信任的信息源加入算力；有的不法分子利用AI炮制虚假信息，导致AI“胡编”、AI“新闻”大行其道……

　　数据污染、数据投毒，滋生安全风险，也扰乱公众认知。比如在经济金融领域，一旦数据受到污染，诸如市场行为分析、信用风险评估等工作，就可能出现误判，造成经济损失。被污染、被投毒的数据，产生成量级的有害内容，又将二次“投喂”网民。久而久之，不仅危及AI本身的思考力，也将降低网民思考和决策的“智力”。

　　AI信息不靠谱的背后，显然是防范机制还不够靠谱。强制要求各平台为AI生成内容打上醒目标签，提醒用户谨慎、合理使用AI内容等措施，迫在眉睫。以《网络安全法》《数据安全法》等法律法规为依据，建立AI数据分类分级保护制度，同时定期“清洗”受污染的数据，也是必然之举。及时为AI数据安全“打补丁”，从源头上建章立制，防范受污染和有毒数据产生，才能让AI信息足够靠谱。

　　数据是人工智能技术发展的基础，是AI的核心资源。数据真实、准确、健康，AI技术和应用才能造福人。AI数据污染，治污还得靠人。不论是技术开发者、监管者，还是使用者，都要始终守牢AI数据的安全底线，履行“治污清毒”的职责，共同守护AI的美好未来。