腾讯云升级AI全家桶,混元对标GPT-4o

腾讯云升级AI全家桶,混元对标GPT-4o
2024年09月05日 21:38 极客公园

摘要

内卷突围三方向:「以数提效、顺势而为、扬帆出海。」

9月5日,2024腾讯全球数字生态大会在深圳国际会展中心举行。

在大会上,腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生披露了腾讯云过去一年的成绩:与伙伴共同服务的客户数超过200万家,百万级订单的合作伙伴数量实现两位数增长,众多SaaS伙伴收入翻倍,国际业务增速也保持在两位数以上。

此外,在AI方面,腾讯云这次也公布了一系列进展。首先是发布了新一代大模型“混元Turbo”,相较前代,混元Turbo性能大幅提升:训练效率提高108%,推理效率提升100%,推理成本降低50%,目前,混元Turbo已在腾讯云上线,提供多个版本供企业和开发者使用。

同时,在大会上,腾讯云还发布了AI infra品牌“腾讯云智算”,一个集计算、存储、网络为一体的高性能智能计算平台,提供了领先的AI计算能力;并推出了RAG解决方案,支持企业用多种技术“量身定制”AI大模型应用,进一步拓展了AI应用的灵活性和适用范围。

而面对国内企业所面临的更普遍的“内卷式竞争”的困境,汤道生在会上还提出了「破局增长」的三个方向:以数提效、顺势而为、扬帆出海,建议企业应聚焦核心场景提升效率、抓住新产业机会、开拓全球市场,探索产业新的发展机遇。

对标GPT-4o,腾讯混元再升级

在这次大会上,腾讯发布了新一代大模型“混元Turbo”,相较前代,混元Turbo性能大幅提升:训练效率提高108%,推理效率提升100%,推理成本降低50%。效果在多个基准测试上对标GPT-4o,且第三方测评居国内第一。

目前,混元Turbo已在腾讯云上线,提供Turbo、Pro、Standard、Lite等多个版本,企业和开发者可以直接在云上接入使用,输入和输出价格仅为前代模型的一半。混元Turbo还开放了代码生成、角色扮演、Functioncall等功能,企业可通过腾讯云TI平台对模型进行精细调整,实现定制化应用。

汤道生表示,随着大模型与生成式AI的技术突破,图片、视频、语言的理解与生成已经有很大进步,人与人的沟通、人与系统的交互方式,都可能会被重塑。最近半年,产业界的关注点也从模型技术的本身转向了智能应用的落地。

据了解,腾讯已经构建起了全链路的大模型产品矩阵,包括基础设施、专属模型训练平台TI、行业大模型解决方案、自研混元大模型,以及一系列基于大模型的智能应用。

会上,腾讯AI应用“元宝”品牌智能体专区正式上线,首批邀请11家合作伙伴入驻,涵盖工作提效和生活娱乐等多个场景,用户可在“腾讯元宝”APP上直接进行体验。

“面向场景创造价值才是大模型发展的意义。”腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声表示,大模型已经在全球发展了两年,一方面,模型性能不断提升,围绕着模型的产品使用门槛变得更低、更加易用;另一方面,企业积极探索大模型与自身业务场景的结合,大模型的落地场景变得更丰富、更纵深。

目前,腾讯已经有700多款产品接入混元大模型,包含腾讯元宝、腾讯云、QQ、微信读书、腾讯新闻、腾讯客服等。此前,腾讯旗下协作SaaS(软件即服务)产品已全面接入腾讯混元大模型。

同时,腾讯全矩阵的大模型产品目前已经在知识管理、智能客服、研发提效、智能营销、内容生成、办公协同、风险管控等落地。

新发布AI infra品牌“腾讯云智算”RAG解决方案

在大会上,腾讯云还发布了AI infra品牌“腾讯云智算”,并推出了RAG解决方案,进一步展示了其在AI计算基础设施和大模型应用定制上的能力。

“腾讯云智算”是腾讯云打造的集计算、存储、网络为一体的高性能智能计算平台。该平台整合了腾讯云高性能计算HCC、高性能网络IHN星脉、高性能云存储、加速框架、容器、向量数据库等多项腾讯云的优势产品,提供了性能领先、多芯兼容、灵活部署的AI计算能力。

在稳定性和性能上,腾讯云的集群千卡单日故障数已经刷新到0.16,是行业水平的1/3;1分钟就能完成万卡checkpoint写入,数据读写效率是业界10倍;千卡集群的通信时间缩短到6%,是业界一半。

同时,通过整合软硬件技术能力,腾讯云智算集群从机器上架到开始训练可以做到只需1天,相比业界以月为单位也大为缩短。

腾讯云智算的灵活性也体现在其支持多种云部署方式,包括公有云、私有云和分布式云,使其成为国内大模型厂商的优选解决方案,同时也帮助大量IDC厂商向AIDC转型。

除了“腾讯云智算”,腾讯云这次还发布了RAG解决方案,支持企业用多种技术“量身定制”AI大模型应用。

该方案包括兼容Elastic开源生态的腾讯云智能搜索(腾讯云Elasticsearch Service)以及腾讯云自研的向量数据库,帮助企业根据架构、数据类型和技术生态灵活选择合适的组件。

腾讯云智能搜索提供了从模型管理、向量生成、向量存储、混合搜索、结果重排到大模型集成的全链路RAG能力。企业仅需使用Elastic的技术栈,就能快速搭建AI应用。

该技术已经成功支持了微信读书的“AI问书”功能,为亿级用户提供毫秒级的检索服务,同时相比传统解决方案大幅降低了90%的机器成本。

针对数据规模大、数据类型多样的企业,腾讯云的向量数据库提供2倍于行业平均水平的吞吐能力和毫秒级响应延迟,支持千亿级的单表存储规模,为企业构建强大的AI数据中台,打造RAG应用基础设施。

汤道生:如何打破企业内卷

汤道生在会上指出,目前国内企业面临着内外部多重挑战,甚至陷入“内卷式竞争”的困境,但如果蛋糕不增长,结果就是“零和”游戏。

他认为,企业要想实现增长,关键在于打破常规,探索产业的新发展。

为此,他提出了企业破局增长的三个方向:以数提效、顺势而为、扬帆出海。

具体来说,第一个增长方法是以数提效,聚焦核心场景。汤道生强调,指望大模型在短期内给企业带来巨大变革并不现实,企业更应该借助AI在现有业务场景中提升效率、降低成本,这种稳健的路径更能够为企业带来长远的竞争力。

目前,腾讯的混元大模型已经落地到腾讯700多个业务场景中,同时,根据国内大模型评测机构SuperCLUE前天发布的最新报告,腾讯混元Turbo总分位列国内第一,在11个能力项测评中,8项核心任务排名国内第一,中文场景效果对标GPT-4o。

第二个增长思路是顺势而为,抓住新产业机会。汤道生表示,国家正大力推动新质生产力的发展,新能源、电动车、消费电子等新兴产业蓬勃兴起。

在数字产业领域,国产软件企业也迎来了前所未有的发展机遇。腾讯云积极响应国家政策,深耕基础软件、云计算、大数据、人工智能等核心技术领域,助力国产软件产业崛起,为企业增长开拓新的机会。

第三个增长机会是扬帆出海,开拓全球市场。当前,越来越多的中国企业将海外市场列为战略重点。相关机构调研显示,90%的企业有意拓展国际业务,四分之一的企业计划在未来1到3年内优先布局海外市场。谈及企业出海的新机遇,汤道生表示,以“云”为载体的中国产业经验和科技优势,正在成为企业出海开拓全球市场的有力支撑。

汤道生指出,当前,企业出海模式已经发生转变,从原来“产品出海”发展到“平台出海”,供应链和商业模式向海外迁移,需要考虑系统、产品、数据和服务的打通,实现“全球一盘棋”管理,这对数字化基础设施和管理手段有很高的要求。

自2016年开始,腾讯云开展海外业务,也始终重视技术研发领域投入,自2018年至今6年多研发投入累计超过3000亿元,截至目前,腾讯云已经打造了遍布全球的云基础设施,覆盖五大洲21个地区,运营着58个可用区、3200多个全球加速节点。

目前,腾讯云已经成功服务10000多家海外客户,国际业务连续三年保持双位数高速增长。截至目前,腾讯云在全球范围内拥有超过11000家合作伙伴,这些伙伴贡献了国际业务80%的收入。

头图来源:腾讯

新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片