当前,一个令人振奋的趋势是,人工智能(AI)应用和功能正在各种边缘侧设备上快速扩展和普及。随着AI的不断发展和进步,对于AI研究员、数据科学家、开发者和学生而言,获取高性能算力以开发或运行新的模型(如语言模型、视觉模型或多模态模型)变得至关重要。鉴于AI创新的步伐空前加快,行业需要确保开发者在云端及边缘侧均能获得高性能算力,从而直接获得更多的新功能。
为开发者实现唾手可得的突破性AI性能
在今年的国际消费类电子产品展览会(CES)上,NVIDIA创始人兼首席执行官黄仁勋在主题演讲中发布了个人AI超级计算机NVIDIA Project DIGITS,朝着“随处可开发和部署AI”的愿景又迈近了重要一步。基于Linux系统的Project DIGITS搭载了Arm CPU核心,使每位AI开发者都能拥有一套高性能的AI桌面系统。
Project DIGITS采用了全新NVIDIA GB10 Grace Blackwell超级芯片,搭载NVIDIA Grace CPU、NVIDIA Blackwell GPU、新一代CUDA core和第五代Tensor Cores,通过NVIDIA NVLink-C2C片间互连技术实现连接,并配有128GB的统一的高一致性内存。NVIDIA Grace CPU搭载了先进的高性能Arm Cortex-X 和Cortex-A技术,配置10个Cortex-X925和10个Cortex-A725 CPU 核心。NVIDIA GB10超级芯片能以FP4计算精度提供高达1 PFLOPS (1,000TFLOPs) 的AI性能,使开发者能对AI大模型进行原型设计、微调和推理,同时还能与云端或数据中心环境无缝对接,实现协同工作。
Arm计算平台的价值
借助无处不在的Arm计算平台,新的AI模型和应用能更高效、更快速地在边缘侧运行。在消费级技术市场,不论是用于Project DIGITS的最新Arm CPU,或是集成在Arm终端计算子系统(CSS)的一部分,Arm CPU技术已成为市场中高性能边缘侧设备的核心驱动力。这些CPU技术经过精心优化,可在各种实际用例和工作负载中实现最大性能和最高效率。
Arm计算平台还兼具灵活性,可针对不同的AI应用场景使用不同的计算引擎。在NVIDIA Project DIGITS 中,基于Arm架构的NVIDIA Grace CPU和NVIDIA Blackwell GPU互相协作,使开发者能够将这些组件用于各种工作负载。这种异构计算策略对于最大化AI性能,同时管理内存利用率和功耗至关重要。
NVIDIA SoC产品副总裁Ashish Karandikar表示:“我们与Arm在GB10超级芯片的合作上,巧妙地结合了NVIDIA的AI专业知识与Arm可扩展的计算平台,实现了出众的性能和能效,将推动下一代AI创新。随着Project DIGITS 的推出,每位AI开发者和研究员都将能拥有一台功能强大的超级计算机。”
释放软件创新的潜能
对于开发者而言,拥有一个完全集成的软硬件AI平台至关重要。Project DIGITS使用开源Linux操作系统,用户可以访问资源丰富的NVIDIA AI软件库,包括NVIDIA NGC目录和NVIDIA开发者门户网站中提供的软件开发套件、编排工具、框架和AI模型,以加快生成式AI的工作流程。
Arm和NVIDIA Grace Hopper和Grace Blackwell在数据中心的合作,为数据中心和边缘侧设备环境提供一致的平台架构,使开发者能够无缝地使用同一套工具进行AI应用开发。此外,Arm不断积极推动开源开发者社区的重要工作,旨在开发出适配的软件,加速AI的全面部署。目前,全球已有超过2000万软件开发者在Arm计算平台上构建自己的应用程序,共同推动着一个快速创新、日益壮大的开源社区。
赋予高性能AI算力的理想平台
Arm作为当前和未来AI领域应用最广泛的计算平台,自然而然地成为了Project DIGITS 中GB10超级芯片的理想平台。Project DIGITS是一个功能强大的个人计算机桌面平台,能够运行高达200B参数的AI大模型,让原本的不可能变为可能。这种对AI生态系统的广泛影响力,为全球数百万开发者带来了灵活、高性能且高能效的AI功能。通过与NVIDIA及Arm强大的软件生态系统紧密的合作,我们翘首以待下一代极具创新的AI应用的问世。
(9375671)
VIP课程推荐
APP专享直播
热门推荐
收起24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)