2024 Hot Chips |博通展示重要技术突破:AI计算ASIC

2024 Hot Chips |博通展示重要技术突破:AI计算ASIC
2024年09月04日 08:14 芝能汽车

来源:芝能汽车

在今年的Hot Chips 2024大会上,博通公司展示了一项突破性的技术进展:带有光学附件的AI计算ASIC,硅光子学和共封装光学器件(CPO)在高性能计算和AI领域中的重要应用,并揭示了博通在推动未来计算技术方面的雄心。

光学互连技术的出现旨在解决传统电气I/O传输面临的一些关键挑战,如在通过PCB传输时损耗高、距离短和带宽受限。光学技术,特别是硅光子学,提供了一种更高效、更低能耗的替代方案。

相比于电连接,光连接在传输速度和信号完整性方面具有显著优势。博通公司正是基于这一优势,将其应用于超大规模数据中心和高性能计算系统中。

硅光子学与共封装光学器件的结合

博通的展示不仅仅是AI加速器的一次升级,而是硅光子学和CPO技术的融合。

博通已经在其Tomahawk系列交换机中使用了硅光子学,这些交换机被广泛用于高性能网络连接。

新一代的Tomahawk 5 Bailly交换机采用了共封装光学器件,这种设计使得光学模块能够直接集成到芯片封装中,显著减少了系统延迟,并提高了数据传输速度和能效。

博通在其设计中采用了可插拔激光器的策略,这与英特尔等公司有所不同。可插拔激光器的设计提高了系统的可维护性,因为激光器是光学模块中最容易失效的部分,能够更换激光器显然降低了整个系统的维护成本。

博通在Hot Chips 2024上的展示特别强调了AI计算ASIC中光学互连的潜力。

通过结合CPO技术,博通展示了如何将计算ASIC与光学模块和高带宽内存(HBM)封装在一起,从而提供更高的计算密度和更低的功耗。

在新的Tomahawk 5 Bailly设计中,光学模块的功耗已经从传统的13-15W降至4.8W以下,这是通过消除DSP的复杂性和直接光学连接实现的。

博通的设计理念还包括从xPU(如GPU)中移除光学元件的策略。这样做的好处在于将光学引擎从发热的计算单元中移开,保证光学元件的稳定和可靠运行,光学元件不仅仅是互连的工具,还需要在整个系统设计中考虑其热管理和可靠性。

Part 2

技术挑战与前景

光学互连技术具有许多优势,但也面临着一些挑战,特别是在确保无错误数据传输和模块集成的可靠性方面。

博通在其演讲中提到,正在进一步优化解决方案,以确保其光学模块的性能能够与传统的可插拔光学器件相媲美,并提供大规模生产所需的可靠性和一致性。

光学互连技术的推广不仅仅是硬件上的革新,更是对整个计算架构的重新思考。博通的展示为行业指明了一个未来的方向,即通过光学I/O技术的引入,AI计算和数据中心的性能和能效将得到前所未有的提升。

特别声明:以上内容仅代表作者本人的观点或立场,不代表新浪财经头条的观点或立场。如因作品内容、版权或其他问题需要与新浪财经头条联系的,请于上述内容发布后的30天内进行。

海量资讯、精准解读,尽在新浪财经APP

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部