AMD也能跑大模型 MI300X对比NVIDIA H100/200毫不逊色

AMD也能跑大模型 MI300X对比NVIDIA H100/200毫不逊色
2024年09月05日 12:04 泡泡网

    NVIDIA长期以来在AI算力领域占据主导地位,然而据国外媒体报道,AMD的最 新GPU产品MI300X在性能上终于展现出与NVIDIA H100/200相媲美的实力。根据The Information发布的评测报告,AMD的Instinct MI300X GPU在AI推理基准测试中的表现与NVIDIA的H100 GPU相当,表明AMD在高性能AI计算领域取得了显著进展。

    这份评测报告由MLCommons提供数据,测试了AMD的MI300X GPU及NVIDIA的H100和H200 GPU。结果显示,在AI推理任务中,MI300X GPU的性能与H100 GPU不相上下,结合对GPU成本及系统总成本的估计,MI300X GPU的表现可以与H100和H200 GPU相媲美。

    需要注意的是,这些测试仅使用了来自Meta的Llama 2 70B,尽管测试存在一定局限性,但这一结果仍然表明AMD的MI300X GPU在处理大型AI模型方面展现了强大的潜力。业内人士对AMD在AI领域的发展前景持乐观态度,认为其未来有望进入主流市场。

    Transformer作者及Cohere公司创始人之一艾丹·戈麦斯也对AMD及其技术持积极看法,认为AMD和其他平台如Tranium将很快在主流市场中占据一席之地。

AMDgpuAI推理NVIDIA
新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片