据统计，全球约一半人口所在的国家或地区，将在明年迎来领导人选举。其中，包括美国、印度、印尼、墨西哥等大国将在2024年迎来大选年。在AI技术飞速发展的当下，越来越多的政治家和科技界大佬表示，他们非常担忧在AI技术加持下假消息愈发泛滥，而且“真假难辨”，会严重影响选举的公平性。今年早些时候，在美国地方和联邦层面选举活动中都出现了AI生成的假消息干扰选民判断。虽然“假新闻”并不是今年冒出来的新鲜事物，但一位美国民主党竞选团队人员认为，AI制造的假新闻“体验更加丝滑”，速度更快，内容更加“真实”，让普通观众更容易接受和传播。“AI教父”辛顿警告说，未来AI生产的高质量“假”内容，可能让普通人完全难以分辨真假。
▲美国网友用AI生成的“特朗普被捕”假照片AI假消息干扰选举
已有“前车之鉴”
今年美国芝加哥市长选举前夕，网上突然出现一段关于温和派民主党候选人保罗·瓦拉斯的视频。视频中，瓦拉斯侃侃而谈，一改往日温和的政见，对芝加哥社会负面现象展开猛烈抨击。瓦拉斯表示，由于缺乏法律和秩序，芝加哥已经变成一个“无法无天”的真空地带，而且“警察随随便便就可以射杀嫌疑人，人们却对这些情况视而不见”。
不过，这段视频是由AI合成的。AI通过大量素材的输入学习，模仿瓦拉斯的声音，达到了“以假乱真”的地步。在瓦拉斯本人亲自向推特平台发出投诉之后，推特删除了这段视频，但负面影响已经产生。最终瓦拉斯在选举中不敌对手布兰登·约翰逊。
值得注意的是，这段由AI造假的视频是由一个叫“芝加哥湖畔新闻”的账号发布的。该账号在发布视频之日刚刚注册2天，目前尚不清楚这个账号背后的操纵者是否为瓦拉斯的竞争对手。
通过AI模仿声音并非芝加哥选战中首创，美国共和党总统候选人德桑蒂斯的支持者们也干过类似的事情。他们曾经用AI模拟特朗普的声音讲话，试图影响选民，但这次尝试远不能撼动特朗普在共和党选民心中遥遥领先的地位。
除了明目张胆的造假之外，AI技术也能在常规竞选广告制作中起到很大作用。此前共和党方面曾推出一段广告，利用AI技术描绘了拜登连任当选后美国的“悲惨境况”：来自墨西哥的难民源源不断涌入，消耗美国城镇内的公共资源，大量警察也很难维持当地社会治安……
美国民主党竞选办公室成员杰基表示，这段广告虽然不至于让观众误以为是真实发生的事情，但AI技术的加持的确让虚拟的画面显得更真实、更有质感，“丝滑的观看体验也更有利于传播。”
专家：
造假成本更低，隐蔽性更强
由机器人创立的假账号在网上自动发帖，“病毒式传播”假消息，是2016年美国大选给人留下的深刻印象之一。脸书平台估计，约1.26亿美国网民（占选民总人数的一半）看到过社交媒体上发布的虚假内容。在此之后，社交媒体上泛滥的假消息一发不可收拾。根据哈佛大学肯尼迪学院研究人员的分析，美国社交平台上所有新闻中可能有5%是完全虚假或具有高度误导性的。
如今各大社交媒体公司都推出了技术手段，打击由机器人批量注册的“僵尸账号”，但这并不能阻断假消息的生产分发链条。在AI技术帮助下，假消息的生产成本变得更便宜了，而且传播效果更好。
美国乔治敦大学政治学教授穆塞尔最近的一项研究算出，一个生成可用文本的人工智能模型每生产1000万个帖子，可以比组织人工编写假新闻的方式节省300万美元，从而将内容生成成本削减三分之二。更重要的是，大语言模型和机器翻译技术的进步意味着AI可能很快就会消除“僵尸账号”的一些明显迹象，例如糟糕的语法或标点符号错误，这会让社交平台更加防不胜防。
更重要的是，以往这些假账号通常会一遍又一遍使用相同的文本复制在评论区，这对平台监控者来说是比较容易捕捉的。但AI模型能让人创建无限数量的不重样的消息，经过训练，一些看起来像真人的机器人账号可以骗过大型社交媒体平台使用的过滤算法，以突出宣传某些新闻主题并用声量“淹没”其他负面新闻主题的讨论。如果有政治倾向的媒体随后抓住社交媒体上热门的话题，这种假新闻的影响力可能会进一步放大。
长期担任美国共和党竞选策略师的里克·威尔逊是反特朗普组织“林肯计划”的联合创始人，他表示一些涉及拜登儿子丑闻的假新闻可能会被发布在极右翼Facebook群组等地，通过分享进行传播，然后被主流右翼媒体某个知名人士看到后给予采纳，突然间就成为在主流人群中热烈讨论的话题。“这样做的目的不是为了愚弄高智商选民或主流媒体，他们的目的是欺骗一些信息匮乏的共和党选民，让他们相信并在社交媒体上分享这些内容。一旦主流人群看见有大量类似信息被人分享，可能会动摇他们的想法。”
在印度，政治同行们也发现，由真人传播的假消息要比机器人账号来得更加可信，而且还节约成本。在当地选举中，印度一些选举团队会将精心制作的内容同时扔进几千个WhatsApp群聊里，往往会获得受众自发的大面积转发。
政客、科技巨头：
AI造假破坏力无法预估
AI对选举产生的巨大影响引起了政界和科技界的普遍关注。在今年一次听证会上，美国参议员们就选举被AI操纵的可能性向专家进行了质问。当时密苏里州共和党参议员乔什·霍利表示：“我不希望这个国家的劳动人民和儿童被用作生成式AI技术的小白鼠。”他要求对AI模型进行白名单式准入管理。明尼苏达州民主党参议员艾米·克洛布查也表示担心，她认为在选举广告中大量使用AI的情况没有得到足够重视和警惕。
曾在美国前总统奥巴马竞选团队担任数字总监的泰迪·戈夫此前对媒体表示，“AI还不会创造出我们从未想像过的全新类型的虚假信息，但它会让生成虚假信息变得更容易、更快速、更廉价。其影响将是相当深远的。”
谷歌前首席执行官埃里克·施密特曾警告说，“2024年的选举将一团糟，因为社交媒体平台无法保护我们免受AI生成的虚假消息的侵害。”创造了Chatgpt的OpenAI首席执行官山姆·阿尔特曼表示，“我对人工智能对未来选举产生的影响感到紧张，至少在每个人都习惯AI之前，这种影响将是巨大的。”
▲阿尔特曼谷歌CEO桑达尔·皮查伊此前表示，社会需要为人工智能快速发展做好准备。他同时强调虚假信息、视频和图像带来的问题要远比人们想像的严重，破坏力无法预估。
红星新闻记者 郑直
编辑 彭疆 责任编辑 魏孔明
VIP课程推荐
APP专享直播
热门推荐
收起
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
