警惕被“AI谍影”牵着鼻子走|AI_新浪财经

　　关末

　　虚假信息的“投毒者”，关键信息的“窃密者”，意识形态的“挑拨者”……近日，国家安全部发文提醒，“AI工具若被不法分子利用，会对我关键数据、基础设施、社会秩序造成损害，成为威胁国家安全的‘隐形武器’。”

　　这一提醒颇具现实针对性。AI技术改变了信息生产传播流程：一键上传照片，就能生成以假乱真的影像；写下几句描述，就能拼出有头有尾的文章……这些功能确实方便有趣，可一旦技术与恶意交织，就可能走向违法犯罪。据不完全统计，去年搜索热度较高的50个国内AI风险相关舆情案例中，超1/5与AI造谣有关。国家安全机关在工作中发现，某境外反华敌对势力通过深度伪造技术生成虚假视频，企图向境内传播。耸人听闻的“恶性事件”、煞有介事的“官方公告”大行其道，不仅会误导舆论、制造恐慌，更是在破坏全社会的信任基石。

　　除了直接批量制造数字谎言，AI“攻心”的手段同样不容小觑。AI算法具有学习能力，但所谓自主其实离不开人的投喂与操纵，算法黑箱、数据偏见等弊病一直存在。随着智能化程度越来越高，AI能根据使用者的输入习惯推算出其行为特征，进而再去分析、引导使用者的价值观念。过去，某些境外势力带节奏、搅浑水尚需雇佣“卒子”，而眼下通过AI分析通信数据、社交媒体等就能快速识别群体、带歪舆论、激化矛盾、制造对立。特别是在社会热点事件前期，情况尚不明朗、公众情绪累积之时，利用技术设置话题、刷屏控评，很可能就带偏了舆情走势，导致大量错误思潮得到广泛而隐秘的传播。

　　今天，“网络谍影”不仅是情报战，更是舆论战、认知战。美国《战略安全》杂志就曾刊文摊明，“认知操作可以是扩张的工具，甚至可以通过改变目标群体的观点、价值观和利益来实现特定的殖民化。”AI正改变着舆论战的性质、手段、打法，对此，相关部门和平台要加强网络空间治理，建立起更可靠的防火墙。同时，不断提高数字素养，识别众声喧哗中的价值偏见与认知谬误，已成为这个时代每个普通人的必修课。

　　暗流涌动、谍影重重并非说说而已，技术带来的意识形态风险已成为不可回避的课题。提高警惕意识，增强辨别能力，合理使用工具，方能共同筑牢维护国家安全的人民防线。