英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型

英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型
2023年06月14日 05:05 市场资讯

安装新浪财经客户端第一时间接收最全面的市场资讯→【下载地址

MI300X提供的HBM密度是英伟达AI芯片H100的2.4倍,HBM带宽是H100的1.6倍,可以运行的模型比H100的更大。

  来源:华尔街见闻

  凭借发布的新品,AMD正式向英伟达的AI芯片王者地位发起挑战。

  美东时间6月13日周二,AMD举行了新品发布会,其中最重磅的新品当属性用于训练大模型的Instinct MI300。

  AMD CEO苏姿丰介绍,生成式AI和大语言模型(LLM)需要电脑的算力和内存大幅提高。AMD的Instinct MI300A号称全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布1460亿个晶体管。

  它采用CDNA 3 GPU架构和24个Zen 4 CPU内核,配置128GB HBM3。相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在发布会稍早介绍,新的Zen 4c内核比标准的Zen 4内核密度更高,比标准Zen 4的内核小35%,同时保持100%的软件兼容性。

  AMD推出一款GPU专用的MI300,即MI300X,该芯片是针对LLM的优化版,拥有192GB的HBM3、5.2TB/秒的带宽和 896GB/秒的Infinity Fabric 带宽。AMD将1530亿个晶体管集成在共12个5纳米的小芯片中。

  AMD称,MI300X提供的HBM密度是英伟达AI芯片H100的2.4倍,其HBM带宽是H100的1.6倍。这意味着,AMD的芯片可以运行比英伟达芯片更大的模型。

  Lisa Su介绍,MI300X可以支持400亿个参数的Hugging Face AI 模型运行,并让这个LLM写了一首关于旧金山的诗。这是全球首次在单个GPU上运行这么大的模型。单个MI300X可以运行一个参数多达800亿的模型。

  LLM需要的GPU更少,带来的直接好处就是,可以节约成本。

  AMD还发布了AMD Instinct 平台,它拥有八个MI300X,采用行业标准OCP设计,提供总计1.5TB 的HBM3 内存。

  苏姿丰称,适用于CPU和GPU的版本MI300A现在就已出样,MI300X和八个GPU的Instinct 平台将在今年第三季度出样,第四季度正式推出。

海量资讯、精准解读,尽在新浪财经APP

责任编辑:周唯

AMD 英伟达 内存

APP专享直播

开播时间 | 1-04 09:00
中国首席经济学家论坛年会:连平、盛松成等演讲
开播时间 | 1-03 19:30
嘉实基金:【指数大玩家】创业板来了! 布局创业板,指选实力派
开播时间 | 1-03 16:15
国投瑞银:国投瑞银基金经理说 | 2025年人工智能能走多远?
开播时间 | 1-03 16:00
国君资管:股债轮动进行时,市场怎么看?
开播时间 | 1-03 16:00
大成基金:低利率时代,债市如何布局?
开播时间 | 1-03 16:00
光大证券李泉:大基金三期迎来最新进展,斥资超1600亿布局半导体
开播时间 | 1-03 15:30
海通证券肖鑫雨,景顺长城基金张晓南:“20CM”的故事——谁是反弹先锋?
开播时间 | 1-03 15:00
国投瑞银:国投瑞银基金经理说 | 2025年债市展望
开播时间 | 1-03 15:00
创金合信基金 小仙女、陆迪:唠唠科吧丨通胀2025?就干三大主线!
开播时间 | 1-03 14:00
中银基金:全市场最大宽基指数!中银沪深300重磅新发
开播时间 | 1-04 09:00
中国首席经济学家论坛年会:连平、盛松成等演讲
开播时间 | 1-03 19:30
嘉实基金:【指数大玩家】创业板来了! 布局创业板,指选实力派
开播时间 | 1-03 16:15
国投瑞银:国投瑞银基金经理说 | 2025年人工智能能走多远?
开播时间 | 1-03 16:00
国君资管:股债轮动进行时,市场怎么看?
开播时间 | 1-03 16:00
大成基金:低利率时代,债市如何布局?
开播时间 | 1-03 16:00
光大证券李泉:大基金三期迎来最新进展,斥资超1600亿布局半导体
开播时间 | 1-03 15:30
海通证券肖鑫雨,景顺长城基金张晓南:“20CM”的故事——谁是反弹先锋?
开播时间 | 1-03 15:00
国投瑞银:国投瑞银基金经理说 | 2025年债市展望
开播时间 | 1-03 15:00
创金合信基金 小仙女、陆迪:唠唠科吧丨通胀2025?就干三大主线!
开播时间 | 1-03 14:00
中银基金:全市场最大宽基指数!中银沪深300重磅新发
上一页下一页
1/10

热门推荐

3.5万在北海道买一套170平米一户建,当事人朋友:是捡漏 收起
3.5万在北海道买一套170平米一户建,当事人朋友:是捡漏

3.5万在北海道买一套170平米一户建,当事人朋友:是捡漏

  • 2025年01月04日
  • 04:25
  • APP专享
  • 广西台新闻910
  • 3,011
APP专享
银川24小时发生11次地震,地震局:将持续做好地震监测

银川24小时发生11次地震,地震局:将持续做好地震监测

  • 2025年01月03日
  • 09:15
  • APP专享
  • 广西台新闻910
  • 2,543
APP专享
上映半月票房未过亿元 《雄狮少年2》导演孙海鹏:国漫需破同质化怪圈

上映半月票房未过亿元 《雄狮少年2》导演孙海鹏:国漫需破同质化怪圈

  • 2025年01月03日
  • 12:32
  • APP专享
  • vsta
  • 2,374
APP专享
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股票简称 最新价 涨跌幅
以下为热门股票
三峡能源 4.25 0.00%
京东方A 4.20 -0.94%
TCL科技 4.88 -1.41%
中远海控 14.96 -0.47%
格力电器 45.74 -1.29%
广告

7X24小时

  • 06-15 东方碳素 832175 12.6
  • 06-15 莱斯信息 688631 25.28
  • 06-15 美硕科技 301295 37.4
  • 06-14 锡南科技 301170 34
  • 06-14 华丰科技 688629 9.26
  • 投顾直播

    更多>
    产品入口: 新浪财经APP-股票-免费问股
    广告
    新浪首页 语音播报 相关新闻 返回顶部