将AI带入企业 红帽选择了“开源”和“混合”

【TechWeb】6月20日消息，在言必谈AI的当下，如何把握AI发展机遇？在2024红帽媒体Open讲话活动上，红帽全球副总裁兼大中华区总裁曹衡康对外阐述了红帽在生成式AI与大模型领域的最新理念和举措。

在解读红帽在AI发展路线上的看法时，曹衡康着重强调了两点：AI必须是开源的，AI应该在混合云上做。

曹衡康解释称，开源闭源之间并没有对错之分，但在封闭体系下，生态的垄断和安全隐患已初具端倪。相较之下，开源由于受到整个开源社区的监督，能够更好地应对安全问题。同时，开源能够降低企业拥有核心技术的门槛，让开发者参与到模型贡献当中，提升效率和性能。

“未来，AI既会有开源，也会有闭源，但红帽绝对是开源的。”曹衡康说到，“开源精神是红帽文化的核心，也是红帽在AI领域取得成功的关键。”

关于混合云，曹衡康提到，AI从开发到运行都并非仅能在云上操作，笔记本甚至智能手机都可以实现建模开发。因此，AI应该拿到混合云上来操作。

这主要有三方面原因：一是能够最大化利用资源；二是可以提升效率；三则是安全问题，因为很多的模型可能很多企业是本身自己企业内部用的，假如放到“云”上面会有一些安全问题。

红帽大中华区解决方案架构部高级总监王慧慧进一步补充称，将混合模式落到AI项目上其实并不难理解。比如某企业建模时可在数据中心搭建，培训时可在公有云上训练，推理时甚至可以在公司产线上的某一台风控设备上进行。而企业若要“单打独斗”实现这些操作，还需解决构建AI基础架构、保证协作效率、进行模型调优、开发AI应用、促进模型与应用间的高效交互等问题。

如何以开源的方式将AI带入企业？红帽此前已经宣布了一系列与AI相关的创新，包括RHEL AI、OpenShift AI和Lightspeed等，并与NVIDIA等合作伙伴在混合云和AI领域展开合作。

曹衡康表示，红帽不做硬件，不做应用，而是在两者之间提供领先的AI平台，帮助企业安全高效地部署和管理AI模型、应用；构建AI基础设施层，为企业提供安全的可扩展基础设施和自动化。

对于在中国的发展策略，曹衡康表示，红帽将配合国家战略，加速企业智能制造升级，同时赋能与融合国内AI生态，加速AI在全行业的应用。

以下为与曹衡康、王慧慧、红帽大中华区市场总监赵文斌的部分对话实录：

问：混合AI是一个什么样的概念？

曹衡康：从开发来讲，开发就不需要一定在“云”上开发、我可以在笔记本建模、开发。运行的时候可以在“云上、云下”，在我“私有云”、笔记本、甚至是手机上都可以运行，就是从“建模”跟“运行”都是一样。还有就是混合模式，找出最适合的计算方式。可能我在计算的时候，只要前提是数据、客户愿不愿意把数据放在公有云上面。当我在整个运行当中找出一个最优化的方式计算，因为GPU不够、又耗电，我就找出最优化的方式把这个东西、这个应用整个执行出来。

王慧慧：它既可以被部署在公有云上、也可以私有云上，也可以一个私有化的数据中心或者某个设备上都可以。举一个比较简单的例子：同样一个AI项目或者AI应用，建模的时候可以在数据中心里面建，训练的时候可以在公有云上训练，最后做推理的时候可以在产线上的某一台工控设备上面去做推理，同样的一套AI。也就是说，这个AI项目本身的不同阶段可以用不同的环境。

为什么这样做？因为我们支持的就是一个混合环境，只不过你每一次在使用的时候你觉得你的资源在哪边，你用什么方面觉得是安全的。你不希望你推理时候个人数据去公有云上，那你就放在自己的数据中心去做、都可以。

问：为什么我们现在谈AI、大模型，大家都在关注GPU、不关注其它层面，根本原因是什么？

曹衡康：其实算力讲“白”了、做的事情本身是最简单的，比如最核心的运算可能就是矩阵乘。现在的大模型训练本质上做的是一个大力出奇迹的事情，是需要大量的快速的做这些矩阵乘的运算，GPU资源可能就成为瓶颈。

问：大家都相信“大力出奇迹”，觉得基础设施到位了，可能就能产生一些应用。但现实是，大家可能对于AI做事并没有太大的信心、做什么也没有看到。

曹衡康：目前AI的发展还比较早期，可能首先要解决有无问题，因此我们看到在GPU，AI Infrastructure等方面，大家比较关注，顺便提一句，红帽是能够帮助您快速构建AI Infrastructure软件的一家公司。 在AI的应用和如何变现方面，整个行业都还需要探索，大模型本身目前还有一些问题，比如幻觉，所以对于AI做事，既要有信心，同时也应看到技术发展目前的局限性。

赵文斌：大家都看“算力、平台、模型”。现在开源的模型很多、开发平台相对来讲也有一些开源或者一些选择，只是短期的一个焦点问题就是算力、因为相对紧张。这是一个现实的问题，所以关注度高。但是这是一个发展阶段的初级阶段的问题。“大力出奇迹”没问题，大模型是不是可以针对行业企业有小模型，用更小的算力就可以解决你的生产和应用的问题。其实市场的解决方法很多，只是因为大家对这个市场还是早期、还没有看清楚，短期突出的是算力紧张的问题。我觉得随着大家的研究更深入或者更多的工具、更多厂商的这些方案更清楚，我觉得这个问题相对会被平滑地过渡过去。只是这样的一个过程。

王慧慧：我们如果看AI这件事的话，AI其实存在很久了。最近这么火是因为生成式AI、大模型把它炒热的，实际上企业AI落地的应用去年、前年都有了。在我看来AI至少有四个方面的问题是值得所有从业者、媒体朋友们一起讨论的：

1.基础架构。就是所谓的算力平台，GPU的问题。

2.算法和模型的问题。我们其实并没有人很多地去探讨“算法”和“模型”，可能是因为这个很难被广大的听众们和观众们能够理解。比方说我们今天说：Lab是个算法，很难去解释这个事情。

3.数据。数据其实因为考虑到合规的问题，每个国家、每个地方都有数据合规的问题，以及数据隐私的问题，其实这也是AI相关的领域。

4.AI本身的应用场景的问题。现在我觉得AI应用本身场景的问题，每一个企业都在摸索中。我们现在看到大量的生成式AI，就是ChatGPT给我们冲击太大了。国内也有很多大语言模型，例如：文心一言什么的，你问它个问题、它就回答了。但是这些不是企业级的AI应用，企业级的AI应用才是真正的为企业创造生产力的一个内容。什么样的企业级的AI应用真的能够做到新质生产力呢？就是用更少的投入得到更多的产出，这个其实是一个更值得探讨的问题，而且我们中国这么多的企业、这么多的不同的各行各业的企业，我是很坚信企业级的AI应用在中国一定会发展得特别迅速，只是现在大家好像还没有开始探讨这件事。（周小白）