安装新浪财经客户端第一时间接收最全面的市场资讯→【下载地址】
GH200 Grace芯片搭载全球首款HBM3e处理器,可通过英伟达的NVLink技术连接其他GH200芯片,计划明年二季度投产。依托该芯片的GH200 Grace Hopper平台通过双芯片配置将内存容量提高3.5倍,带宽增加三倍。HBM3e带宽每秒5TB,比当前的HBM3快50%,可提供总共10TB/秒的组合带宽,使新平台能运行比前代大3.5倍的模型。
来源:华尔街见闻
生成式AI又添强大助力,英伟达升级产品,推出容量和速度双双大幅提升的超级芯片GH200 Grace,力求巩固AI芯片领域的霸主地位。
发布产品当天,英伟达股价周二低开低走,临近午盘时刷新日低,日内跌幅达3%。
美东时间8月8日周二,英伟达发布新一代GH200 Grace Hopper平台,该平台依托于搭载全球首款HBM3e处理器的新型Grace Hopper超级芯片(下称GH200),专为加速计算和生成式AI时代而打造。
新平台旨在处理世界上最复杂的生成式AI工作负载,涵盖大型语言模型、推荐系统和矢量数据库,将提供多种配置。英伟达称,GH200将于2024年第二季度投产。
新平台采用的GH200可以通过英伟达的NVLink技术连接其他GH200芯片,共同部署在生成式AI的大模型上。这种技术让GPU能充分访问CPU内存,在双芯片配置时提供合计1.2TB的快速内存。
英伟达的超大规模和高性能计算主管Ian Buck介绍,GH200比英伟达基于H100 的数据中心系统配备了更多内存和带宽。它采用的英伟达的Hopper GPU,并结合基于Arm架构的英伟达Grace CPU。

相比前代平台,新GH200 Grace Hopper平台的双芯片配置将内存容量提高3.5倍,带宽增加三倍,一个服务器就有144个Arm Neoverse高性能内核、8 petaflops 的 AI 性能和282GB的最新HBM3e内存技术。
HBM3e是一种高带宽内存,带宽达每秒5TB。该内存比当前的HBM3快50%,可提供总共每秒10TB的组合带宽,使新平台能运行比前代大3.5倍的模型,同时通过快三倍的内存带宽提高性能。
本周二,在计算机协会(ACM)计算机图形和交互技术特别兴趣组织(SIGGRAPH)的年度大会上发表主题演讲时,英伟达CEO黄仁勋将GH200称为“世界上最快的内存”。
黄仁勋说,为了满足生成式 AI 不断增长的需求,数据中心需要有针对特殊需求的加速计算平台。新的GH200 Grace Hopper 超级芯片平台提供了卓越的内存技术和带宽,以此提高吞吐量,提升无损耗连接GPU聚合性能的能力,并且拥有可以在整个数据中心轻松部署的服务器设计。

黄仁勋表示,在AI时代,英伟达的技术可以替代传统数据中心,投资800 万美元的新技术可以取代用旧设备建造的1亿美元设施,而且用电量可以减少20倍。“这就是数据中心在向加速计算转变的原因。你买的越多,越省钱。”
快速创建生成式AI的工具包AI Workbench
除了GH200,英伟达周二还发布了新的统一工具包AI Workbench,以及对英伟达Omniverse软件服务的重大升级。
AI Workbench为开发者提供了统一且便于使用的工具包,可在个人电脑(PC)或工作站上快速创建、测试和微调生成式AI模型,然后将其扩展到几乎任何数据中心、公共云或者英伟达的DGX云。

英伟达称,AI Workbench让企业的AI项目入门不再复杂。通过在本地系统运行的简化界面进行访问,它让开发者能使用自定义数据微调Hugging Face、GitHub 和 NGC 等常用存储库中的模型,然后可以在多个平台上轻松共享模型。
借助AI Workbench,开发者只需点击几下即可自定义和运行生成式AI,而且他们能够将所有必要的企业级模型、框架、软件开发套件和库整合到一个统一的开发者工作区中。
用黄仁勋的话来说就是:“人人都可以做到。”


责任编辑:周唯


APP专享直播
热门推荐
51岁男子找17岁女孩代孕前已离异 收起51岁男子找17岁女孩代孕前已离异
- 2025年03月27日
- 00:31
- APP专享
- 扒圈小记
34,057
华为智驾大师赛冠军开智驾出车祸?官方回应:协助进行事故处理和医疗安置,提醒用户规范使用智驾功能
- 2025年03月27日
- 02:19
- APP专享
- 扒圈小记
11,368
央行副行长宣昌能:将根据国内外经济金融形势择机降准降息
- 2025年03月27日
- 06:58
- APP专享
- 北京时间
3,987

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)
投资研报 扫码订阅
股市直播
-
数字江恩今天 10:23:30
【3月限时vip活动】3月板块轮动加快,哪些赛道机会更好?数字江恩《股知道VIP》48小时VIP课程2元(原价8元),月课限时特价979元(原价1088元)。活动截止3月31日。【更多独家重磅股市观点请点击】 -
趋势领涨今天 10:07:58
【南向资金今日净买入逾41亿港元 泡泡玛特获净买入居前】南向资金今日净买入41.42亿港元,其中,泡泡玛特、阿里巴巴-W分别合计获净买入约7.25亿港元、3.64亿港元;盈富基金遭净卖出约14.42亿港元。 -
数字江恩今天 09:33:02
明日看3366-3386之间的选择,若先站上3386,那么2-b还可以延伸一点空间;反之,若先跌破3366,则立即确认2-c回踩开始。这里也不用过于担心,2-c确立后,能否跌破3340还两说了,而且哪怕跌破也空间非常有限。第二浪回踩有望在未来三个交易日内结束。 -
数字江恩今天 09:32:57
看5分钟图,今日的脉冲受阻与图上的3297-3341红色轮谷线。截止今日,3340的2-b结构反弹了54个点,和本人预期的50-60个点相吻合,时间也算合适。正常来说,2-b可以结束了。【更多独家重磅股市观点请点击】 -
数字江恩今天 09:32:44
板块上,今日化工板块继续炒作涨价概念,活跃度第一。光刻机、芯片、新能源、医药医疗也算是局部炒作,总的来说,都是局部炒作,市场没有明显热点。 -
数字江恩今天 09:32:38
A股两市今日成交4965 + 6942 = 11907 亿人民币,相对昨日成交金额略微提升,但成交量下跌。大盘今日低开后脉冲拉起新高,然后全天缓缓回调了约一半拉升幅度。个股方面,红盘个股略微超过了1/3,大幅下跌个股家数86家,和大幅上涨个股家数91家相当。 -
数字江恩今天 09:32:30
2-c回踩呼之欲出 -
趋势领涨今天 09:32:07
沪深北三大交易所年内的发行上市审核全线启动。3月26日,北交所召开年内首场上市委会议,四川西南交大铁路发展股份有限公司过会。有业内人士称,目前IPO申报不需要预沟通,发行人和中介机构可视情况进行申报。另有投行人士表示:“IPO申报数量后续将增加,但市场是否回暖还要再观察。”他认为,判断IPO是否常态化,应综合申报受理、发行上市等整体情况考量。这个是下午大盘回落的原因吗?这叫带病工作! -
北京红竹今天 07:59:00
3、短线有增仓<br /><br />2个组合,基本上长线组合没变化,好几天没有交易了,静等大级别调整之后的布局。<br /><br />短线组合昨天是55%的仓位,酱油股大跌没给机会出来,还在持有,早上跌停又买了一只算力10%的仓位,下午差点干到涨停吃个地天板,仓位就上到了65%。<br /><br />大级别末端只能发挥短线的作用,因为不格局,随时可以撤,这里长线和ETF没办法布局,长线需要格局的。 -
北京红竹今天 07:58:57
2、创业板也是如此<br /><br />创业板我们在直播中跟踪过,现在日线级别回落段基本雏形已经出现了,还差内部结构。<br /><br />如果下周创业板和科创50同时止跌,那么有可能带动沪指再反弹一波,只是预期别太大,格局也别格局就好。<br /><br />目前创业板已经构造出三十分钟级别3段,下周看力度和止跌信号吧。<br /><br />聊点主观的吧,如果下周科创和创业板止跌,沪指大概率还破不了3297点,3325点这里是个强支撑,有可能还会延续反弹。<br /><br />不过大方向依然不变,即便后面反弹也是大级别末端。<br /><br />这里级别不要搞混哦。