思科大中华区副总裁侯胜利:当我们进行AI与机器学习时,网络成为很重要的因素

思科大中华区副总裁侯胜利:当我们进行AI与机器学习时,网络成为很重要的因素
2023年05月29日 13:48 睿见Economy

股市瞬息万变,投资难以决策?来#A股参谋部#超话聊一聊,[点击进入]

  5月27日,ChatGPT与人工智能前沿技术交流会在北京举行。思科大中华区副总裁侯胜利发表了演讲。

  侯胜利说:“AI怎样帮助各行各业解决实际问题?思科已经有一些相关方面的应用,比如帮助客户进行IT运维、IT智能管理、IT自动化部署等等。今天我想讲讲:当我们进行AI建设时,整个IT平台有哪些新变化和新要求,以及我们应该怎样去应对这些新变化和新要求。”

  侯胜利表示,过去一两年,无论是国内还是国外,都有大量的大数据模型和AI平台涌现,用于帮助客户解决各种问题。而这些大数据模型和预训练的AI平台,跟以往的数据、IT平台有什么不同呢?

  在侯胜利看来,主要差异有两个:

  第一、因为大量的数据,大量信息的计算或者沟通,一个CPU或者一个GPU没办法再单独完成所有工作,一定会需要多个CPU多个GPU协调进行工作。

  第二、以前的高性能计算,虽然有非常大的数据流,但都是单一任务的;而在AI时代,需要多种并行不同的任务,会更加复杂。

  “当进行AI计算时,网络要支持并行可拓展,实现1000个以上的GPU的并行处理,而一个GPU在峰值可产生200GE、400GE的数据量。以前的网络是尽力服务可能会丢包,现在需要零丢包。另外网络还要支持更灵活的编程方式。”侯胜利说。

  侯胜利表示,现在很多厂家都在陆续推出自己的AI技术解决方案。思科的解决方案是通过全调度数据中心架构提高AI业务运行效率。

  “从原来的基于数据流的方式,变成基于每一个包,通过逐包负载分担和硬件重排序实现高效率。基于VOQ Credit 算法的全调度Fabric,支持无损数据传输。通过对传统以太网络做的这些优化,更好地支持大数据模型。”侯胜利说。

  侯胜利指出,一个芯片可以支持多种不同模式,既可以是传统的数据中心模式,也可以是支持AI的全调度数据中心模式,既可以是大单机运行模式,也可以是Spine和Leaf的扩展模式。

  “当我们进行AI业务时,网络已经成为很重要的因素。传统的基于以太网ECMP的方式没办法实现机器学习和人工智能的需求,所以我们需要一个全调度的数据中心架构,从而更好地满足机器学习和大数据模型的需求。”侯胜利说。

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

海量资讯、精准解读,尽在新浪财经APP

责任编辑:王蒙

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

7X24小时

  • 05-31 南王科技 301355 --
  • 05-31 阿特斯 688472 --
  • 05-30 豪江智能 301320 13.06
  • 05-29 双元科技 688623 125.88
  • 05-29 天键股份 301383 46.16
  • 产品入口: 新浪财经APP-股票-免费问股
    新浪首页 语音播报 相关新闻 返回顶部