美国联邦贸易委员会(FTC)高级官员周三表示，该机构正在对Anthropic、OpenAI及其他AI实验室展开一项覆盖整个行业的调查，以查明这些公司的技术可能给消费者带来的潜在风险。
此次调查是美国政府首次针对“失控AI智能体”展开的正式执法行动。此前，自今年7月以来，一系列相关事件接连曝光，引发公众对失控AI未来可能伤害人类的担忧。
业内研究人员警告称，这些公司的AI模型可能造成灾难性后果。OpenAI曾在今年7月披露，其AI智能体在测试过程中突破了隔离环境，并入侵了开源平台Hugging Face，这一消息当时在业内引发震动。
上述FTC官员表示，FTC计划向包括Anthropic、OpenAI以及AI研究机构METR在内的主要AI开发商发出正式信息索取要求，并要求这些公司的高管接受询问、提供证词。
Anthropic和OpenAI此前曾聘请METR，就涉及其AI智能体技术的安全事件展开独立调查。FTC拒绝透露其他正在接受调查的公司名单。
这名官员表示，早在OpenAI开发的AI智能体入侵开源平台Hugging Face之前，FTC主席安德鲁·弗格森就已经对这些公司存在担忧。
不过，该官员称，OpenAI的AI智能体在发动大规模攻击之前，曾先对这一AI编程平台进行漏洞探测，这一事件进一步凸显了相关问题的紧迫性。
弗格森上周表示，如果开发商在网络安全测试中指示AI智能体实施攻击，并最终造成损害，那么开发商应当为由此造成的任何损害承担责任。
据悉，FTC拥有广泛的执法权限，可以就企业的不公平或欺骗性经营行为提起诉讼。过去，该机构曾利用这一权限，对未采取合理措施保护消费者数据安全的企业采取执法行动。
就在本月早些时候，Anthropic首席执行官达里奥·阿莫代伊呼吁AI企业放缓最先进模型的迭代速度，并要求政府加强监管，这一表态在科技行业引发震动。他提出了一项包含三个步骤的方案，旨在放缓AI发展速度，同时“不牺牲商业优势，也不影响美国在AI领域的领先地位”。
包括OpenAI首席执行官萨姆·奥尔特曼和SpaceX首席执行官马斯克在内的多位同行对这一提议表示支持；但Meta首席执行官扎克伯格和英伟达首席执行官黄仁勋等人则认为，各家公司应自行负责确保其产品的安全性。
美国总统特朗普周二召集Alphabet、Meta、SpaceX、英伟达、Palantir、Anthropic、OpenAI等公司的高管，就这一问题举行会谈。与会企业随后签署了一份自愿且不具约束力的简短协议。
协议写道：“每家公司都有责任以安全的方式开发自身技术，并以能够赢得客户和公众信任的方式推进技术发展。”
特朗普曾多次将外界对AI的担忧称为“骗局”，同时寻求将维持美国在该技术领域的主导地位置于监管之上。不过，他也表示，对于AI公司可能造成的任何损害，政府可以依据现有法律采取行动。
阿莫代伊周二在白宫外接受采访时表示：“我们都需要共同努力，确保我们能够取得胜利，而且能够安全地取得胜利。如果我们采取正确的方式，与总统以及在场的每一个人展开合作，我们就能安全地取得胜利。”
（文章来源：财联社）
VIP课程推荐
APP专享直播
热门推荐
收起
24小时滚动播报最新的财经资讯和视频，更多粉丝福利扫描二维码关注（sinafinance）
