技术不断进步，风险全面升级！才过半年，全球再开AI安全峰会|AI_新浪财经

来源：环球时报

【环球时报驻韩国特派记者莽九晨环球时报记者陈子帅任重】5月21日，第二届人工智能（AI）安全峰会在韩国首尔召开。本届峰会以“安全、创新、包容”为议题，就进一步保障AI安全性、推进AI可持续发展等方案进行讨论。去年11月，首届AI安全峰会在英国布莱奇利庄园召开，各国于峰会期间发布《布莱奇利宣言》。

挑战日新月异

“历史性的首次，横跨北美、亚洲、欧洲和中东的企业就AI开发的安全承诺达成一致。”21日，英国政府在一份声明中称，16家来自全球的AI企业在首尔的AI安全峰会上做出安全承诺。达成协议的公司包括ChatGPT所有者OpenAI、谷歌DeepMind和Anthropic、美国科技巨头微软、亚马逊、IBM和Meta，以及中国的智谱AI等。

据韩国科学技术信息通信部（科技部）此前发布的消息，本届AI安全峰会分为领导人会议和部长会议等环节。其中，领导人会议以视频连线方式举行，由韩国总统尹锡悦和英国首相苏纳克共同主持召开。部长会议于22日下午在首尔以线下方式举行，韩国科技部长官李宗昊及英国科学、创新和技术大臣米歇尔·多尼兰担任共同主持。综合多家韩媒消息，本届峰会参与方包括七国集团成员国以及新加坡、澳大利亚等国的政府人员，联合国、经合组织等国际机构，以及微软、OpenAI、三星等科技企业。

路透社20日称，自去年11月首届AI安全峰会以来，AI领域的创新步伐令人惊叹，但随之而来的挑战范围也不断扩大，这让各国政府忙于应对越来越多的风险。中国科学院自动化研究所AI伦理与治理中心主任曾毅已是第二次受邀参与AI安全峰会。他告诉《环球时报》记者，近段时间以来，部分国家在AI安全的研究与实践方面取得的进展很值得关注，“第一届AI安全峰会上，各国签署并发布《布莱奇利宣言》，可以说是对安全、管控等问题达成共识，第二届峰会的很多议题将会更具体务实”。

“社会和政府决定AI的未来”

英国《卫报》18日称，美国人工智能公司OpenAI日前推出的新一代AI模型GPT-4o令很多专家感到不安与担忧。但同时也提醒人们，这一领域的创新仍在继续。谷歌近期也发布了一款名为Project Astra的新AI助手，以及对Gemini模型的更新。上个月，Meta发布了自己的AI模型Llama的新版本，并继续提供“开源”服务，这意味着它们可以免费使用和调整。美国股票经纪商韦德布什证券分析师丹·艾夫斯估计，今年在生成式AI上的支出热潮将达到1000亿美元，而这仅是未来十年1万亿美元支出的一部分。

OpenAI发布新模型GPT-4o

曾毅告诉《环球时报》记者，第一届AI安全峰会召开期间，技术层面主要以单模态生成式AI（如文本、视频）为代表，风险与安全方面的关注点也聚焦在单模态内容方面。短短数月间，多模态生成式AI已经成为行业发展的新重点，风险类型也随之“全面升级”，“生成内容的真伪更难以鉴别，人与AI之间的界限更加模糊。更重要的是，前沿AI的风险更加难以预测和难以控制。”

路透社20日称，上周五，一份由30多个国家的专家支持的全球AI安全报告显示，大规模劳动力市场受冲击、AI技术下的黑客攻击或生物攻击，以及社会对AI失去控制等风险可能会出现。这份报告称，社会和政府将决定AI的未来。

韩国希望成为AI强国

本届AI安全峰会也体现出韩国打造AI强国这一雄心。此前在4月9日，韩国总统尹锡悦在龙山总统府主持召开“半导体工作检查会议”时表示，将在2027年之前在AI领域投资9.4万亿韩元（约合499亿人民币），作为保持尖端半导体芯片全球领先地位的努力的一部分，“力争跻身全球三大AI强国之列”，并实现其在2030年全球系统半导体市占率超过10%的目标。

韩联社在20日的报道中援引韩国总统办公室科学技术首席秘书朴相旭的发言称，期待通过此次会议确保数字AI规则制定的全球领导力，提高韩国作为AI先导国家的影响力，“成为跻身世界三大AI强国的契机”。

韩国能否达成“全世界三大AI强国”的目标？据韩国《东亚日报》报道，负责AI研究的韩国国内大学因找不到最新芯片，无法正常进行以大型语言模型（LLM）为基础的生成型AI研究。就连首尔大学、KAIST等主要大学，即使被选定为政府支援事业，但由于分配预算少，也无法充分获得AI芯片。此外，电力不足也会导致设施无法启动。

中国社科院亚太与全球战略研究院副研究员王晓玲21日告诉《环球时报》记者，韩国非常希望在全球性议题上发声，凸显其中等强国、发达国家的地位，很喜欢开峰会。此外，韩国非常重视尖端技术产业，半导体是韩国产业的骄傲。面临中国半导体产业的大规模建设，现在它的危机感很强。王晓玲认为，对于韩国和很多其他亚洲国家而言，能把技术用得很好，但往往缺乏创新优势，韩国在AI技术领域不会实现领导性突破，只可能是技术跟随者和应用者。王晓玲认为，尽管不可能成为AI领域具有领导力的国家，但这不耽误韩国企业在AI产业链中占据一席之地。