推理芯片,英伟达迎来强劲对手

推理芯片,英伟达迎来强劲对手
2024年11月06日 10:11 半导体行业观察

@全体股民:《投资研报》巨额特惠,满3000减1000,满1500减500!【历史低价手慢无,速抢>>

如果您希望可以时常见面,欢迎标星 收藏哦~

来源:内容编译自forbes,谢谢。

如果你从事金融行业,那么有关即将进行 IPO 的 Cerebras 的新闻全部是关于该公司的股票代码将如何在纳斯达克表现。

然而,如果你对科技感兴趣,故事就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的看不到大局。

很多人都知道人工智能革命的开始是如何导致用 GPU 取代 CPU 的:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 - 输入大量训练数据,其中通常包括大量的网络抓取数据 - 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些繁重的工作负载而构建的。

现在,该行业似乎正在进一步发展,走向所谓的推理,这是一种不同的任务,而且硬件必须更加专业化。

那么,什么是推论?因为每当有人开始谈论它时,你都能看到人们的眼睛都呆呆的。一般来说,除了高度科学的语境外,我们不喜欢这类词。

嗯,无论如何,推理基本上是人工智能的动态学习能力——获取实时数据并将其放入训练模型中以获得合乎逻辑的结果。

换句话说,训练有素的人工智能正在展示它从训练中学习到的知识。

因此,这种活动需要一些重量级的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于科技爱好者来说,它的规格相当令人印象深刻。。

WSE:幕后

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上内存。它拥有大约 9,000 个核心,估计每秒可执行 125 千万亿次浮点运算。

我们之前曾报道过这类巨大的多核引擎,其硬件物理上很大——以英寸而不是厘米来衡量。

Perplexity 首席技术官丹尼斯·亚拉茨 (Denis Yarats) 在一份新闻声明中指出:“更低的延迟可以提高用户参与度。凭借 Cerebras 比传统 GPU 快 20 倍的速度优势,我们相信用户与搜索和智能答案引擎的互动将发生根本性转变。”

不难看出,这种力量将会为众多行业的人工智能发展提供强大的动力。

人工智能推理的用例

思考这个消息的一种方式是,我们只是想要更快的速度和更强大的功能来实现越来越复杂的流程。但你也可以考虑一下推理在人工智能进化的这一阶段将扮演的角色。换句话说,我们正在从监督较多的学习类型转向监督较少的学习类型——从我们 10 年前所做的那种确定性机器学习,转向一种新型的神经网络活动,在这种活动中,我们更信任系统能够自行学习。

因此,Cerebras 的新挑战的故事(更不用说另一家加入这一潮流的公司 Groq)是硬件追赶的故事。

硬件本身令人印象深刻——这些新款凯迪拉克系统引人注目——但我们应该关注的是,这些产品的用途是什么,它们为何会颠覆商业格局。

Run:AI 的一位作者写道:“随着人工智能越来越多地融入日常生活和商业运营的各个方面,高效、准确的人工智能推理的重要性日益凸显。准确的推理在医疗保健、欺诈检测和自动驾驶等敏感用例中尤为重要。”

这些只是一些顶级示例:我们尚未真正发现更深层次推理模型的一些更隐蔽的用途。十年后人工智能会是什么样子?它看起来仍然像是从计算机中出来的吗?还是事情会变得完全不同?

几年前,福布斯技术委员会成员Nir Kaldero 为我们列出了这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对于许多工作负载有一个竞争的想法。它是在边缘、在设备上、在网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之争实际上是下一代技术系统的先兆。它们将会非常引人注目。

参考链接

https://www.forbes.com/sites/johnwerner/2024/11/04/nvidia-cerebras-race-to-supply-big-chips-for-ai-inference-activities/

海量资讯、精准解读,尽在新浪财经APP

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 11-08 壹连科技 301631 --
  • 11-08 金天钛业 688750 --
  • 10-29 聚星科技 920111 6.25
  • 10-25 港迪技术 301633 37.94
  • 10-25 健尔康 603205 14.65
  • 新浪首页 语音播报 相关新闻 返回顶部