亚马逊云科技代闻:不会有一个大模型能够“包打天下”

亚马逊云科技代闻:不会有一个大模型能够“包打天下”
2024年12月24日 18:35 媒体滚动

转自:周到上海

在亚马逊云科技2024 re:Invent中国行上海站上,亚马逊云科技大中华区解决方案架构总经理代闻接受了媒体采访,阐述在大模型创新、降低大模型应用门槛和推动AI普惠化方面的最新进展。

他表示,亚马逊云科技投身生成式AI领域,不单单提供基础的开箱即用组建,而是根据不同企业用户的需求,为其量身定制合适的工具。

12月4日,亚马逊宣布推出新一代基础模型Amazon Nova,包括超快速文本生成模型Amazon Nova Micro,以及能够处理文本、图像和视频并生成文本的多模态模型Amazon Nova Lite、Amazon Nova Pro和Amazon Nova Premier。

而Amazon Nova最大的特点是性价比高。数据显示,Amazon Nova的每百万token的输入价格低至0.0175美元,输出价格低至0.07美元‌‌,成本比Amazon Bedrock中表现最佳的模型至少便宜75%。

对于这个数字,代闻表示,这是一个综合评估得出的数值,能做到成本降低,主要还是因为这样的大模型诞生,是由用户业务侧反向推动产生需求的结果。比如Amazon Nova中的Micro模型,就是一个专门用于文本到文本转换的模型;Amazon Nova Lite则是一个专门处理图像、视频和文本的多模态模型。

通过让不同大模型应对不同场景,才能在保证其使用效率的同时降低成本。

在代闻看来,当下大家追求的无非就是性能要好、延迟要低、价格要便宜,但在目前的状况下,这几方面肯定是要有一定取舍的。而Amazon Nova里的Micro模型瞄准的就是文本到文本转换这样的场景。

不只是Amazon Nova,当前追逐大模型性价比已经成为一种趋势。不久前,字节跳动正式发布豆包视觉理解模型,据介绍,豆包视觉理解模型千tokens输入价格仅为3厘。

大模型使用性价比的提升,意味着使用门槛的降低,但是否已经进入普惠时代?

代闻认为,“普惠”只是个形容词,相较于此,大模型更应该关注用户需求在哪里,以及企业里业务人员、开发人员的需求所在现在,在各个应用中,应用生成式AI的能力已经变得无可避免了。

代闻告诉记者,如果要探讨普惠这件事,现在很多人在进行信息检索以及人机接口交互等方面,都已经在借助大模型了,包括很多APP等也都如此。这就带来了从面向消费者(ToC)到面向企业(ToB)领域中,对于整个应用程序的重构,这种重构会涉及能否开箱即用、开发人员能否更好地利用大模型为自己的应用程序赋能,以及底层平台能否具备更好的性价比等问题。

事实上,经过近两年发展,大模型的使用方向已经没有争议,大家都在不断拓展各种各样的用户场景。比如知识库、客户服务场景等,在实现了相应功能后,人们就会去考量能否以更低的成本、更好的延迟来满足需求。

代闻回顾亚马逊云科技的创新历程,其实每次创新都是为了给用户提供更好的投资回报率(ROI),也就是性价比,有时是针对单个产品,有时是着眼整个总体拥有成本(TCO)。

来源:周到上海       作者:姜欣愉

海量资讯、精准解读,尽在新浪财经APP

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 12-30 钧崴电子 301458 --
  • 12-30 赛分科技 688758 --
  • 12-24 星图测控 920116 6.92
  • 12-23 黄山谷捷 301581 27.5
  • 12-20 天和磁材 603072 12.3
  • 新浪首页 语音播报 相关新闻 返回顶部