一张假图片引发股市动荡！AI“恶作剧”不断显现，各国加紧监管|人工智能_新浪财经

来源：环球时报

【环球时报驻美国特约记者张思思环球时报记者陈子帅】一周以来，一连串人工智能（AI）生成内容对经济运行带来负面影响的事件暴露在公众视野内。周一，一张显示美国五角大楼附近发生爆炸的图片在海外社交网站上迅速传播，受此图片影响，美国股市出现明显下跌。美国《纽约时报》对此报道称，“一场人工智能带来的‘恶作剧’让市场不安”。无独有偶，24日，中国人工智能研发公司科大讯飞受一篇名为《科大讯飞出现重大风险的警示文》的文章影响，股价也迅速跳水。该公司紧急回应称，股价下跌系某生成式AI写作虚假“小作文”导致。在此期间，“AI换脸”“AI换声”进行诈骗的事件在多国频发。随着AI技术的高速发展，潜在的数据、算法危机带来的危害已在真实发生，多国也加紧从政策层面对其进行监管与约束。

“AI生成图像首次影响市场”

对于“五角大楼爆炸图片引发美股大跌”事件，彭博社报道称，这可能是人工智能生成图像首次影响市场。德意志银行全球经济和专题研究主管吉姆·里德对此评价称，未经证实的五角大楼爆炸报道在网上传播后，市场出现短暂的抛售。这一由AI生成的假新闻对资产价格造成冲击的例子，揭露了市场未来将面临的潜在风险。此外，假图片的出现正值美国债务上限谈判的关键节点，投资者神经十分紧绷。另据福布斯新闻网报道，近来由AI生成的非常逼真的“深度伪造图像”已经多次在网上引起轰动，其中包括美国前总统特朗普在一次假逮捕中抵抗当局的逼真图像。

AI生成内容的“以假乱真”令投资市场增加了更多不确定性。据《纽约时报》报道，美国证券交易委员会主席加里·詹斯勒曾警告称，一些不法分子可能会通过人工智能来影响本就“脆弱的”金融体系。美国联邦贸易委员会也对AI生成的深度伪造图像和克隆语音系统可能被用作新型欺诈手段向人们发出了警告。

近期通过“AI换脸”技术实施诈骗的案件也频频发生。中国互联网协会24日发文表示，伴随着深度合成技术的开放开源，深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诈骗、诽谤的违法行为屡见不鲜。例如，近期包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信网络诈骗的案件。

通过AI技术生成的图像、文本等内容也被质疑涉嫌侵权。据报道，某AI软件具有模仿歌手音色并进行翻唱的功能，律师表示，在没有原歌手授权或同意的情况下进行“AI翻唱”，已经构成侵权。

尽管人工智能对金融资本市场带来了一定风险，但《纽约时报》表示，这并不意味着人工智能总是“可怕的”，对这一技术的投入研发推高了谷歌、微软等相关公司的市值。

多国紧急搭建AI“护栏”

近期公布的一项益普索民意调查显示，超过2/3的美国人担心人工智能的负面影响，61%的人认为它可能威胁文明。不仅民众，政府对人工智能也感到担忧。多国也已经走在了出台相关措施的道路上。早在今年4月11日，中国国家网信办就起草了《生成式人工智能服务管理办法（征求意见稿）》，并向社会公开征求意见。

“唐宁街10号首次承认了AI存在风险”，据英国《卫报》25日报道，英国首相苏纳克当地时间周三晚会见了OpenAI、谷歌Deepmind和Anthropic的首席执行官，讨论人工智能监管的必要性。会议后发表的一份联合声明表示，AI技术的成功取决于是否有“正确的护栏”，以确保公众相信它是安全的。苏纳克表示，对AI的监管必须要灵活并且寻求国际间的合作。

据《华尔街日报》报道，拜登政府周二宣布正在制定一项国家人工智能战略，以防范虚假信息和该技术的其他潜在缺陷。

此外，据路透社报道，欧盟也在推进《人工智能法案》，这可能是全球首部全面管理该技术的法律文书，不过欧盟各国政府和立法者仍然需要时间就法律文本内容达成一致。为防范AI诈骗，统一俄罗斯党正在起草一项对AI监管的法案，该法案将确定有关责任，防范犯罪者利用AI进行诈骗。

“监管不意味着追求零错误”

“全球监管的发展需要大量的时间和精力”，《印度人报》报道称，“节奏问题”是监管面临的挑战之一，因为技术的应用和传播速度很快，而法律法规的制定和推广速度却相对较慢。

针对各国为应对AI风险正在探讨或者已经推出的相关监管规则，浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林认为，AI监管的重点在于如何在不影响人工智能发展的前提下推动监管，让人工智能在健康环境下实现可持续发展，而监管在规则制定上要具备可执行性。

清华大学新闻学院教授、元宇宙文化实验室主任沈阳25日对《环球时报》记者表示，想要最大程度消除AI“假内容”造成的负面影响，目前来看有效方式是加大信息公开力度，这能确保对应的信息辟谣功能。“对于‘谣言’，我们不能完全用‘堵’的策略，因为这反而会造成信息的扭曲和变异，信息公开一定是对冲信息谬误的最佳手段。”

沈阳认为，未来这种深层次人工智能造成的“以假乱真”将是一种常态化现象，防控深层次内容谬误的成本也会随之急剧上升，所以要在防控成本和最大错误接受限度之间寻找平衡。“不应把监管的目标定位追求零错误，这只会导致成本无限高，同时阻碍技术发展。”