红帽发布基础模型平台RHEL AI,推动基于开源的AI创新

红帽发布基础模型平台RHEL AI,推动基于开源的AI创新
2024年06月30日 16:59 媒体滚动

转自:中国科技网

科技日报记者 杨雪

近日,开源解决方案供应商红帽公司推出红帽企业Linux AI(RHEL AI。这是一个基础模型平台,能够使用户更加便捷地开发、测试和部署生成式人工智能模型,降低模型训练和调优门槛。基于RHEL AI,红帽推出模型对齐工具InstructLab,可以用少量数据、系统合成方法、人为反馈模式帮助模型训练人员用较低成本将基础模型按需对齐。

随着以ChatGPT为代表的大模型迅速迭代更新,AI迎来了爆发式增长的拐点。在融入企业生产过程中,AI到底如何带来降本增效、绿色节能、产业升级的切实改变?

红帽全球副总裁兼大中华区总裁曹衡康认为,企业拥抱AI有两个关键词,一是开源,二是混合。

开源与闭源各有特色,并无对错之分。相对而言,开源AI有三大好处。一是透明性和信任度。开源模型的代码和算法是公开的,任何人都可以检查和审计,这种透明性增加了对模型的信任,特别是在涉及敏感数据或需要高可靠性的应用中。二是社区协作和创新。开源项目通常有一个庞大的开发者社区,可以共同贡献代码、发现和修复漏洞、改进算法,这样的协作加速了技术进步和创新。三是成本效益和灵活性。开源模型没有或只收取少许许可费用,这对于资源有限的开发者和企业非常重要。同时,用户可以根据需求修改和优化模型,具有高度的灵活性。

“混合”指混合云。随着模型规模和训练参数的增长,算力需求水涨船高,造成了GPU供不应求的市场状况。红帽认为,将所有工作放在“云”上非常浪费资源,未来AI应该百花齐放。“混合云”可以让模型轻量化,降低算力负担。例如,在“云”或者数据中心建模,再将小语言模型放在边缘站点运行,最后到大平台进一步优化,这样可以最大化利用资源,提升AI效率,解决企业将模型放到“云”上的数据安全顾虑。

曹衡康解释,简而言之,就是在比较简单的环境下建立模型、使用AI应用。

海量资讯、精准解读,尽在新浪财经APP
AI 红帽

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 07-11 科力装备 301552 --
  • 07-01 乔锋智能 301603 26.5
  • 06-26 键邦股份 603285 18.65
  • 06-24 安乃达 603350 20.56
  • 06-17 爱迪特 301580 44.95
  • 新浪首页 语音播报 相关新闻 返回顶部