火山引擎:未来十年计算范式从云原生进入到AI云原生的新时代

火山引擎:未来十年计算范式从云原生进入到AI云原生的新时代
2024年12月18日 13:38 新浪科技

  新浪科技讯 12月18日下午消息,今日举办的火山引擎Force大会上,字节跳动基础框架负责人赵鹏伟表示,“更极致性价比、更深度创新、更可靠安全是AI行业的发展趋势。”

  云原生是过去十年最重要的计算范式,大模型时代则推动着云计算的变革。

  火山引擎认为,下一个十年,计算范式应该从云原生进入到AI云原生的新时代。基于AI云原生的理念,火山引擎推出了新一代计算、网络、存储和和安全产品。在计算层面,火山引擎GPU实例,通过vRDMA网络,支持大规模并行计算和P/D分离推理架构,显著提升训练和推理效率,降低成本;存储上,新推出的EIC弹性极速缓存,能够实现GPU直连,使大模型推理时延降低至1/50、成本降低20%;在安全层面,火山将推出PCC私密云服务,构建大模型的可信应用体系。基于PCC,企业能够实现用户数据在云上推理的端到端加密,而且性能很好,推理时延比明文模式的差异在5%以内。(罗宁)

海量资讯、精准解读,尽在新浪财经APP

责任编辑:尉旖涵

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 12-20 天和磁材 603072 --
  • 12-19 国货航 001391 2.3
  • 12-17 方正阀门 920082 3.51
  • 12-13 中力股份 603194 20.32
  • 12-10 林泰新材 920106 19.82
  • 新浪首页 语音播报 相关新闻 返回顶部