新智元报道
编辑:英智
【新智元导读】Salesforce首席科学家Silvio Savarese深入解析AI智能体的发展方向,提出从独立任务执行到多智能体协作,再到企业级全面协调的三阶段演进路径。
就在不久前,科技界目光聚焦于一篇别具深意的文章。其作者正是Salesforce首席科学家、斯坦福大学计算机科学兼职教授——Silvio Savarese。
Savarese还有一个令人瞩目的身份——「AI教母」李飞飞的丈夫。
Silvio Savarese深入探讨了AI智能体的未来发展,提出了三大阶段的演变:从独立任务执行到多智能体协作,再到企业级的全面协调。
智能体将不仅仅是工具,更将成为提升工作效能和创造力的强大伙伴。
同时,他还深入思考了在这一激动人心的发展进程中,人类所应扮演的角色与承担的责任。
本文在不改变原文大意的情况下,编译如下:
最近,通过推出Agentforce,Salesforce正在推动企业迈向一个全新的AI赋能时代。
步入AI的第三波浪潮,借助AI智能体,人们工作起来会更有能力、更觉有趣、更富创造力。
从人才招聘到医疗保健领域,AI与人类在各行各业的合作日益广泛。这种协作不仅能快速满足大规模的需求,而且在多数情况下,比单纯的人工操作更加精准。
虽然需要些时间,但智能体无疑会在多方面优化我们的工作:提升生产力与效率,辅助战略决策,我坚信,它还能提高整体工作满意度。
无论普通员工还是高管,几乎所有企业人员都能在调配人力的同时,指挥数字劳动力。
在这个时代的发展进程中,信任和问责制至关重要。
其演进分为三个阶段:首先,专业智能体负责独立任务;接着,多智能体系统实现无缝协作;最后,企业级协调系统将彻底改变企业的运作模式。
Salesforce的AI研究团队肩负着塑造企业AI未来的使命。接下来,为大家讲讲我们对智能体发展的展望,以及人类在此过程中需扮演的角色 。
AI智能体的演变:从规则到推理
LLM是经过训练的深度学习模型,能理解文本还能生成文本。
AI智能体的发展和机器学习的进步密切相关。早期传统的基于规则的系统,比如机器人(19.300, -0.30, -1.53%)过程自动化(RPA),能精准完成一系列任务,但在应对变化时就容易出现问题。这类早期系统需要大量技术支持,还要找专业人员咨询。
过去几十年,机器处理信息的方式有了很大变化,从原来死板的自动化系统,变成了现在灵活、适应能力强又高效的学习系统。
现在,像Agentforce这样的现代平台造出的智能体,能明白具体情况,适应新变化,还能做各种任务。
而未来的发展方向更值得期待:我们将会有借助多智能体推理的自适应智能体。
这种智能体可以从周围环境中学到东西,在实际使用中不断进步,能和人类、企业客户、合作伙伴、供应商一起工作。甚至,还能跟越来越贴近人们生活的个性化AI助手配合。
现在,我们才刚开始朝着企业AI智能体发展的三个阶段迈进。
企业智能体的三个阶段
就好比音乐从简单的单音旋律,逐渐演变成复杂美妙的交响乐。AI智能体也在不断进步,从单个独自工作,变为多个智能体协同配合。
每个阶段都建立在上一阶段的基础上,为企业创造出更加丰富、更有层次的互动。
第一阶段:单个AI专家智能体
第一阶段,专家智能体聚焦特定行业,能出色完成既定任务。这给日常关键的商业运作带来了前所未有的效率和准确性。这些智能体是企业应用AI的基础。它们处理零散任务又稳又快,极大改变了部门的工作流程。
它们还能将AI的最新成果用于工作。比如,精准预测最佳行动方案,根据每位客户的偏好和行为,给出高度个性化的产品推荐。此外,不管是面向客户、服务还是销售代表(人和智能体都是如此),都能生成高质量的指导意见、营销文案和信函。
例如,在商业领域,智能体彻底改变了库存和账户管理。
智能体可不只做简单的库存检查,还会主动监控多个地点的库存状况,预测季节性需求变化,实时生成账户摘要,从中找出不寻常的模式或潜在机会。
过去,人工分析这些任务要花好几个小时,现在智能体几秒钟就能搞定,而且分析得更准、更透彻。这给零售客户带来了更优质、更个性化,甚至是神奇的体验。
服务运营也发生了类似转变。这些智能体不光能做基本的账单汇总,还会分析客户互动模式,自动对服务请求分类、排序,进而得出有关客户需求的预测性洞察。
智能体能够发现客户行为中的趋势,这些趋势可能意味着客户满意度有问题,或者存在业务拓展机会。如此一来,就为服务团队提供了实用信息,而不只是一堆原始数据。
如此一来,客户服务变得轻松又流畅。终端客户几乎察觉不到服务的存在——很多时候,他们还没意识到有问题,问题就已经解决了。
金融服务领域,智能体大大提高了客户服务效率。
确认争议时,智能体能分析交易历史,识别潜在的欺诈活动,还会自动启动相关安全协议。做财务规划时,智能体整合市场数据、客户个人历史和各类经济指标,生成全面的分析报告。
合理使用这些智能体,企业后台的运作效率会大幅提升,消费者也能体验更先进的私人银行、投资指导和财富管理服务。
第二阶段:复合智能体——无缝协作者
这一阶段,公司内部的专家智能体开始协同合作,朝着一个共同的商业目标努力。
「协调者智能体」负责组织多个专家智能体协同工作。这就好比餐厅的总经理,要把出色的接待员、服务员、经理、厨师、备餐员和配送员组织起来,大家齐心协力,赢得那个梦寐以求的米其林星级。
在复杂的商业场景中,复合智能体的表现是怎样的呢?我们来看看这个客户服务场景。
有一位忠诚的零售客户,想要更换一款过季商品的尺码。这时,多个智能体在背后默默协作。
首先,有一名前线服务代表负责处理客户最初的询问。接着,一名库存专家会去检查各个地方的产品库存情况。同时,物流智能体开始计算运输选项和时间安排。还有账单专家,认真审查客户的账户历史和支付选项。
最关键的是「协调者智能体」,它把前面这些智能体的工作成果汇总到一起,生成一个有条理、高效率,既符合品牌形象又贴合客户需求的回复。这些回复会交给前线工作人员,他们审核、完善后,再分享给客户。
当多智能体方法实施得当,「协调者智能体」为人类协调者提供服务时,能带来诸多由AI驱动的显著优势:
在理想的最终阶段,跨组织边界的复杂智能体对智能体(A2A)交互出现了,这开创了全新的商业模式。
除了传统的企业对企业(B2B)、企业对消费者(B2C)模式外,还涌现出企业对智能体(B2A),甚至企业对智能体再到消费者(B2A2C)的交互形式。在这些新模式中,AI智能体成了工作和交易的中介。
来看一个简单的汽车租赁场景:客户的个人AI智能体与租赁公司的商业AI智能体进行谈判。
客户智能体一心争取更划算的价格和更多价值,租赁公司智能体则试图靠附加服务多赚钱。但租赁公司的智能体得拿捏好分寸,推销要积极,又不能太激进,以防生意被竞争对手抢走。
这些智能体之间的交互,需要依据复杂的博弈理论。这要求它们具备高超的谈判技巧,遵循特定的协议,能够在不确定的情况下管理风险,有可靠的信任验证机制,还要能巧妙地化解冲突。
现在,想象一下复杂的企业流程。
就拿供应链优化和客户协调这些工作来说,无论你是消费者,还是企业员工,集成式AI能让你拥有一个智能助手。这个助手可以根据你的需求和期望,处理复杂的协调工作,开展有价值的协作。
但是,要实现这个目标,我们人类还有很多工作要做。
必要条件:信任与责任
当我们部署愈发复杂的智能体系统时,每一项决策都必须遵循信任与责任这两个基本原则。
构建信任
在智能体时代,信任的内涵远不止于防范有害内容、偏见和幻觉。
Salesforce近期的研究表明,61%的客户觉得,随着AI的发展,可信度变得比以往任何时候都更加重要。我们正步入一个全新领域,在这个领域中,组织需要对人类与AI的共生关系抱有深度信任。
这种信任基于以下要素。首先是准确性和边界:AI智能体必须在明确的范围里运行,同时保持准确。
智能体的自我意识同样关键。就像一个值得敬重的同事,AI智能体得清楚自己的能力边界,明白什么时候该向人类寻求帮助。这就需要一套复杂的交接协议,保证AI和人类能无缝配合。
比如,我们的AI研究团队正在研究训练方法,教AI智能体遇到解决不了的难题时,把不确定的地方标出来,接着去寻求帮助。只要训练得当,AI就会知道什么时候不能瞎猜,而是向人类求助。
对于多智能体系统,我们还需要全球公认和广泛采用的协议。有了这些协议,协调者智能体才能安全、合乎道德地与其他企业的智能体交流、协商与合作,实现双方共同利益。这种互动得快速、高效,还得公平。
最后,随着AI智能体越来越多,我们的安全措施也得增强。
和其他技术一样,一些人也会利用AI搞破坏。他们可能会训练AI蠕虫来泄露数据,或者尝试控制其他AI智能体,曝光客户的私人数据。
强化保护、做好隐私控制以及持续进行监控,是维持信任的关键。只有建立了信任,AI才能从工具变成和我们一起成长的业务伙伴。
确保问责制
当组织开始部署能每秒做出数千个决策的AI智能体时,需要建立明确的责任和监督框架。
这样一来,一旦出现问题,我们就能有应对的办法。这要有一套周全的方案。下面讲讲负责监督智能体的管理团队该怎么做。
清晰的责任链条:AI 智能体做出重要决策时,得清楚到底谁来负责,不能有丝毫含糊。这可能意味着建立新的角色,比如「AI运维官」,他们不仅有权监管智能体的部署工作,而且在问题发生时也承担责任。
我们需要一个强大的系统,在信息不完整、有偏见、出现幻觉或者产生有害输出之前,就把问题查出来并解决掉。
这可不只是做简单的安全检查,还要持续监控智能体做出的决策,具备实时干预的能力,而且要有一套完整的审计追踪机制。
研究团队最近在检索增强生成(RAG)上有了很大的进展,这让AI系统获取和验证信息的方式有了很大改善。这些新成果能让我们快速评估和调整AI系统,确保它给出的结果既准确又靠谱。
要制定一套流程,让人类能对智能体进行监督和干预。不能只局限于「human-in-the-loop」这个简单概念,要设计出更复杂的框架,明确人类在何时、以何种方式介入智能体的决策。
在常规任务中,智能体能充分发挥自主性,而遇到重大决策时,人类的判断仍能起到关键作用 。
一旦出现错误,我们要有一套结构化应对方法。这不仅包含技术层面的回滚程序,还得明确如何与客户沟通、采取哪些补救措施,以及制定系统性改进的协议,以防止类似问题的发生。
目前,做出商业决策的自主AI智能体面临着责任界定的问题,现有的监管环境并不适用于它们。
我们需要和监管机构合作,制定合适的治理结构,明确AI智能体的责任,建立全新的法律和合规框架。
展望未来:科学方法与企业创新
要想部署真正有效的AI系统,企业高层要有长远眼光,把这些技术进步运用到实际应用中。
企业在AI应用上是否成功,不只看部署了多少AI智能体,或者实施速度有多快。关键在于企业领导和技术专家的精心规划,让AI与现有的工作流程、业务过程以及人类的工作偏好完美融合。
Salesforce在企业CRM领域摸爬滚打多年,经验丰富,很懂业务逻辑优化。我们把这些经验和知识融入到 Agentforce的部署策略里。系统不仅功能强大,在满足客户业务需求和运营人员需求方面,也做到了可靠又负责。
未来,人类和AI不再相互对立,而是携手合作,各展所长。随着Agentforce发布,智能体已经成为提升工作效能的强大助力,让团队完成以前办不到的任务。
开始这一转型的时机就是现在,就像每一次突破性实验都始于假设一样,每次成功的AI转型也都是从一个愿景开始,到最终验证成真!
参考资料:
https://x.com/silviocinguetta/status/1877166654464893035
https://www.salesforce.com/blog/the-agentic-ai-era-after-the-dawn-heres-what-to-expect/
APP专享直播
热门推荐
特朗普考虑上任后签署行政令暂停TikTok禁令 收起特朗普考虑上任后签署行政令暂停TikTok禁令
- 2025年01月15日
- 22:04
- APP专享
- 广西台新闻910
- 12,314
指甲起竖纹是肠胃不好?指甲“月牙”越多越健康?真相来了
- 2025年01月15日
- 22:15
- APP专享
- 广西台新闻910
- 1,401
《闪亮的名字——2024“最美基层民警”发布仪式》明日播出
- 2025年01月14日
- 13:32
- APP专享
- vsta
- 777
24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)
投资研报 扫码订阅
股市直播
-
趋势领涨今天 07:44:34
=加入潜伏擒牛VIP,享四大顶级服务=【1】购买VIP自动加入私密小直播间!【2】每周3-5只超短金股调入调出服务,适合实时看盘的投资者!【3】每周一份高端内部绝密文章:包含近期布局、热点版块、指数预判!【4】每月2~3只高端中线金股服务!(VIP超短、中线个股均有涉足,让上班族也能跟上VIP节奏!)现月课7.5折,1288元!季课6.9折,3558元,续费季度更划算!新朋友可先月课体验!点网址,直接买,订购地址:【更多独家重磅股市观点请点击】【更多独家重磅股市观点请点击】 -
宋谈股经今天 07:13:07
1月16日收评:创业板指冲高回落涨0.66%,寒武纪(sh688256)放量大跌超14%1、市场全天冲高回落,三大指数集体收涨。家电、零售等消费股拉升,火星人(sz300894)、浙江美大(sz002677)、帅丰电器(sh605336)、深康佳A(sz000016)等多股封板。CPO概念股午后走强,天孚通信(sz300394)、方正科技(sh600601)、共进股份(sh603118)涨停,太辰光(sz300570)涨近8%,股价续创历史新高。有色、油气、煤炭等周期股走高,准油股份(sz002207)、鹏欣资源(sh600490)、闽发铝业(sz002578)、安源煤业(sh600397)涨停。下跌方面,芯片股下挫,寒武纪(sh688256)大跌超14%;机器人(sz300024)概念冲高回落,建设工业(sz002265)、东港股份(sz002117)跌停。个股涨多跌少,沪深京三市超3300股飘红,今日成交1.29万亿。截止收盘沪指涨0.28%,深成指涨0.41%,创业板指涨0.66%。2、板块概念方面,CPO、家电、零售、有色金属等板块涨幅居前,AI芯片、机器人(sz300024)、减速器、半导体等板块跌幅居前。3、两市共3153只个股上涨,84只个股涨停,1772只个股下跌,7只个股跌停,31只股票炸板,炸板率30%。 -
徐小明今天 07:12:59
【盘中直播】语音课见 -
巨丰投资张翠霞今天 07:04:48
4小时运行结束,总结全天市场运行,1)指数宽幅震荡一天,寒武纪(sh688256)为首的高位高价股出现闪崩急跌,主要来自于年报不及资金预期,以及海外政策扰动,年报预披露阶段避雷为主要点,盘口消费机器人(sz300024)小红书轮动拉升,超跌的CPO迎来修复,总体轮动节奏;2)量能,沪深两市今日成交额12930亿元,较上个交易日12119亿元增加811亿元;3)行业板块方面,以加权涨幅来看56家行业36家红盘,通信设备、公共交通、工程机械等板块涨幅居前;半导体、酿酒、仓储物流等板块跌幅居前;4)市场延续结构型行情,题材热点快速轮动。详细解盘,可关注《翠霞首席课》的“热点直击”和“操盘指南”~~~ -
徐小明今天 07:04:42
【盘中直播】你回首行情,,你发现我们该做的都做了。 -
波段擒龙今天 07:04:02
A股三大指数今日集体反弹,截至收盘,沪指涨0.28%,深成指涨0.41%,创业板指涨0.66%,北证50指数涨2.04%。全市场成交额12930亿元,较上日放量811亿元。全市场超3300只个股上涨。板块题材上,厨卫电器、CPO、小红书概念、工业金属板块涨幅居前,半导体、人形机器人(sz300024)概念跌幅居前。 -
冯矿伟今天 07:01:58
明天见! -
趋势起航今天 07:01:56
周二市场见底至今,这波反弹最大的特点就一个字:乱无序轮动,没有主线,中线交易靠格局,短线交易必须要灵活应变;短线交易,无论对哪个方向太上头,最后的结果要么利润回吐做电梯,要么吃面。 -
量化伏妖今天 07:01:26
【股票收评】:上冲遇阻今日市场想重拾升势,早盘高开11点后全日表现比较纠结,上蹿下跳不太稳定,下午13点13分下探出全日最低3217点后回升,虽然顽强的翻红了,但是翻红后想要更高阻力非常大,没上升一个点都要非很大劲,盘面不轻快,死气沉沉的感觉。板块方面昨日连扳,CPO概念,盲盒经济,F5G概念,快手概念,退税商店,光通信模块,小红书概念,家电行业等板块涨幅靠前;AI芯片,人形机器人(sz300024),减速器,半导体,CRO等板块微跌。总体看上方市场内在价值线3242点阻力巨大,不是一次就能成功站上去的,需要继续努力,技术上具备了继续冲高的条件了,还要各方面齐心协力。 -
趋势领涨今天 06:58:03
前期市场一直将寒武纪(sh688256)跟美股英伟达对比,英伟达上涨是因为有业绩支撑,寒武纪(sh688256)上市亏损了6年,它有业绩吗?虽然去年第四季度转成了盈利,但本来只值7元的股价,结果炒到了777元,它不跌,天理不容!只是可怜了广大基民,又是基民买单了!这两天小红书很火爆,但更火爆的还是小红书暴露了漂亮国一些秘密,全球都认为,美国就业强劲,但是美国人自己有苦说不出,因为他们是8小时工作制度,如果企业超过这个限制,那是不允许的,重点是,他们物价太高,为了生活,他们又必须得再找一份工作,然后,他们又被统计了一遍,所以,物价越高,他们兼职越多,然后就业率就节节攀升!你们说牛不牛逼?如果不是小红书火爆,我们还真不知道他们原来是这么玩的!昨晚发布了规范中介机构为公司公开发行股票提供服务的规定,目的就是要从源头保护投资者的权益,目前证监会各项制度都在完善中,在这个时候,证监会把握住了IPO的节奏,对待上市公司从严审核,减少欺诈发行的概率,这是全心全意保护投资者的举措。但有些专家想的就不一样,这个时候想到的是加速IPO,放开做空机制,去年A股发行上市100家,相比以前是大幅减少的,重点是相对正常市场,这个数量依然不少,毕竟A股退市太少,所以,这种要求加速IPO,放开做空机制的人,一般是没有鼻子两边的人!技术上,前天大盘长阳线,今天出现冲高回落,主要是下周一市场还有不确定性,但目前市场反应的就是下周一最坏的情况,所以,我们还是认为大盘问题不大,整体依然做多为主。