Inter发布新一代AI加速器Gaudi 3，对标NVIDIA H00，官方称Gaudi 3与NVIDIA H00对比，LLM大模型推理领先50%，训练时间领先40%，性价比超越NVIDIA高达200%。
Gaudi 3 制造工艺采用台积电5nm，MME高达8个，MME的TPC拥有8个，总数共计拥有64个，媒体编码器拥有14个。MME BF16/FP8都是1835 TFlops，矢量BF16为28.8 TFlops，较之前分别提升至320%、110%、160%。
开发方面，Gaudi 3 无缝兼容PyTorch框架、Hugging Face Transformer和扩展模型。
Gaudi3 支持三种形态部署，标准夹层版最高被动散热峰值功耗900W，液冷峰值功耗1200W；通用基板支持八颗Gaudi 3；HL-338扩展卡可四卡互联，PCIe 5.0 x16，被动散热峰值功耗600W。
新浪科技公众号
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
0条评论|0人参与网友评论
表情
登录|注册
|退出
分享到微博
发布最热评论
最新评论
更多精彩评论>>
台积电TSM.US176.73-0.74-0.42%周末休市Mar 21 04:00PM EDT
科技上市公司行情全掌握
官方微博
公众号
新浪科技
新浪科技为你带来最新鲜的科技资讯
苹果汇
苹果汇为你带来最新鲜的苹果产品新闻
新浪众测
新酷产品第一时间免费试玩
新浪探索
提供最新的科学家新闻，精彩的震撼图片
