《AI智能体的崛起》作者佩塔尔·拉达尼列夫：AI治理刻不容缓，安全应贯穿开发全流程_新浪财经

　　新浪财经ESG评级中心提供包括资讯、报告、培训、咨询等在内的14项ESG服务，助力上市公司传播ESG理念，提升ESG可持续发展表现。点击查看【ESG评级中心服务手册】

　　2025可持续全球领导者大会于10月16日-18日在上海市黄浦区世博园区召开。

　　《AI智能体的崛起》作者，牛津大学计算机科学系专业硕士课程导师，艾伦·图灵研究所研究员佩塔尔·拉达尼列夫（PetarRadanliev）出席2025可持续全球领导者大会并主旨演讲。

　　“AI发展如双刃剑，一边推动新药研发、经济进步，一边暗藏安全漏洞与治理难题，而解决问题的核心，在于从开发之初就筑牢安全防线。”佩塔尔・拉丹利耶夫直面AI发展的核心矛盾，为全球AI治理提供了关键思路。

　　佩塔尔・拉丹利耶夫指出，AI已深度融入社会各领域。2018年GPT模型问世后，线上数据库中可复用的AI模型已超1600个，它们在新药研发中助力攻克癌症、在自动驾驶中突破技术瓶颈，甚至能呈现比顶尖学府教师更优质的知识内容。但技术进步的背后，风险也在滋生——16岁年轻人利用暗网中的“诈骗GPT”实施犯罪，生成式AI的“幻觉”可能引发系统性崩溃，这些问题都凸显了AI治理的紧迫性。

　　他进一步分析，当前不少企业存在“重开发、轻安全”的倾向，认为执行安全标准会拖累发展进度。但实际上，缺乏安全保障的AI会丧失用户信任，最终导致业务受损。以“睡眠智能体”为例，这种可能被植入系统的恶意程序，可潜伏数年甚至十几年，在GPS、医院等关键场景中引发风险，且因难以被AI自身检测，成为当前最棘手的威胁之一。

　　佩塔尔・拉丹利耶夫强调，AI安全不能“事后补救”，而应“事前规划”。无论是即将到来的量子AI，还是下一代AI操作系统，都需从设计阶段就融入安全逻辑，建立类似“公路栅栏”的防护机制，同时通过“AI物料清单”明确数据来源与构成，以透明度消除隐患。只有让安全成为AI发展的底色，才能避免技术滥用，释放其真正价值。

　　本届可持续大会在以往四届“ESG全球领导者大会”的基础上进一步升级！嘉宾阵容强大，可持续大会组委会邀请约500位中外重磅嘉宾，其中约100位为海外嘉宾，不仅有政要、前政要、国际组织的代表，还包括了诺贝尔奖得主、图灵奖得主、全球500强企业负责人等国际顶尖学者与业界领军代表。本届大会将围绕近50个议题展开深入研讨，议题涵盖能源与“双碳”、绿色金融、可持续消费、科技与公益等细分领域。

　　来源：（新浪财经）

　　新浪财经ESG评级中心简介

　　新浪财经ESG评级中心是业内首个中文ESG专业资讯和评级聚合平台，致力于宣传和推广可持续发展，责任投资，与ESG（环境、社会和公司治理）价值理念，传播ESG的企业实践行动和榜样力量，推动中国ESG事业的发展，促进中国ESG评估标准的建立和企业评级的提升。

　　依托ESG评级中心，新浪财经发布多只ESG创新指数，为关注企业ESG表现的投资者提供更多选择。同时，新浪财经成立中国ESG领导者组织论坛，携手中国ESG领导企业和合作伙伴，通过环境、社会和公司治理理念，推动建立适合中国时代特征的ESG评价标准体系，促进中国资产管理行业ESG投资发展。