Anthropic推出全新人工智能工具可代替用户完成在线任务|人工智能_新浪财经

人工智能初创公司Anthropic发布了一款新工具，可以理解用户电脑屏幕上出现的内容，代替用户完成一系列在线任务——这是科技企业从提供简短回复的聊天机器人扩展到可以代表人类行事的所谓“人工智能代理”的最新例证。

Anthropic公司在10月22日宣布，这项名为“电脑使用”的新功能可以读取用户在电脑上看到的信息，并在获得用户许可的情况下，通过浏览网页、点击按钮和输入文字等方式为用户执行操作。最近几周，该公司与数量有限的企业客户测试了这项服务，将向使用其Claude技术的开发人员发布一个测试版本。

越来越多的人工智能公司正在投入资金，构建能够在最少的人力监督下为用户执行任务的代理，试图兑现人工智能的承诺，从根本上提高我们个人和职业生活的生产率。10月21日，微软公司(Microsoft Corp.)推出了一套代理工具，旨在帮助员工发送电子邮件和管理记录。Salesforce Inc.在9月的Dreamforce活动上宣传了该公司用于客户服务的企业代理应用程序。

Anthropic在代理工具方面采取了与许多其他公司不同的做法。该公司的技术不是与后端的各种应用程序集成，而是实时处理用户电脑屏幕上的任务。该公司表示，这种方法能带来更直观的体验。

Anthropic的联合创始人兼首席科学官贾里德·卡普兰(Jared Kaplan)在接受彭博新闻社(Bloomberg News)采访时说：“这将是有史以来第一个以人类方式使用电脑的模型。”

在一段预先录制的演示视频中，Anthropic的一名员工使用这款工具，安排了带朋友早上徒步游览金门大桥美景的具体流程。Anthropic的人工智能代理能够在谷歌上搜索徒步路线、规划行程、确认日出时间、发送日历邀请，甚至包括穿着建议等细节——除了最初进行提示以外，所有这些操作都不需要人工输入指令。

Anthropic将自己定位为一家注重安全的人工智能公司，但这款新工具可能会引发更多的审查。这项能够访问用户屏幕活动的技术也带来更多的安全和安保问题。例如，微软推出过基于人工智能的“召回”(Recall)功能，该功能可以记录用户在电脑上的所有行为，由于担心软件容易受到黑客攻击，引发了强烈反对。微软公司最终重新推出了该产品，并进行了安全升级。

人工智能代理的使用也提高了出错的风险。人工智能系统在聊天机器人屏幕上回复貌似真实的虚假信息是一回事；在网上或线下代表他人行事时犯错误是另一回事。

卡普兰表示，Anthropic已经对该功能的漏洞进行了“红队测试”（即压力测试），对于允许该工具执行的操作设置了某些限制。该公司表示，比如，用户将被“引导远离”使用社交媒体、创建账户以及与政府网站互动等活动。此外，开发人员对工具何时可以访问用户计算机加以限制，他们还可以在整个过程的各个步骤中增加人工监督。

该公司在一篇博客文章中说，虽然这款工具可以处理计算机上的一系列任务，却仍然难以胜任人类可以轻松完成的一些操作，如滚动、拖动和缩放。

“这个模型并不完美，仍然会犯错，”卡普兰说，“无论如何，它还没有达到完全可靠的程度。我们希望逐步与开发人员合作进行试验，了解会出现哪些反馈和风险，以便我们做好准备，在我们发现可能存在滥用的领域改进安全培训。”

该公司表示，在正式推出前，包括Canva、Asana和Replit在内的早期合作伙伴已经在图形设计、项目管理和编码等领域使用了该工具。卡普兰说，未来Anthropic可能会将一些计算机使用功能整合到其消费产品中。

在10月22日的发布会上，Anthropic公司推出了全新升级的Claude 3.5 Sonnet模型，该模型在编码和推理等方面进行了改进。该公司还推出了一款功能更强大、价格更低、速度更快的Claude 3.5 Haiku模型。编辑/陈佳靖