A股群雄逐鹿AI“魔盒” 守望大模型一体机千亿级风口

A股群雄逐鹿AI“魔盒” 守望大模型一体机千亿级风口
2024年08月02日 20:40 市场资讯

  自ChatGPT及其背后的GPT系列大语言模型发布以来,人工智能大模型热潮持续蔓延。

  除了提供云端大模型应用程序编程接口(API)的商业模式外,销售“软硬件结合”的大模型训推一体机是另一条备受关注的商业化路径,在中国市场上热度较高,甚至被称作AI“魔盒”。

  大模型的训练和部署往往需要大量的计算资源。然而,当前国内在大模型训练上存在算力不够、缺少高端芯片等问题,导致大模型训练进展缓慢。

  业内人士认为,在AI时代,既需要算力的强大性能,也需要考虑灵活性、普惠性和易获得性。

  在此背景下,大模型训推一体机应运而生。训推一体机是指集成了大模型训练和推理功能的“全栈式”人工智能设备,通常包含中央处理器(CPU)、图形处理器(GPU)、存储器、操作系统、深度学习模型等软硬组件,能通过大规模数据训练掌握数据处理和预测等能力。

  “训推一体机的出现,通过集成硬件设备、基础软件以及AI开发平台,降低了开发门槛,使得更多的企业和开发者能够参与到AI大模型的研发和应用中来。”一位机构分析师对记者指出。

  目前,多家厂商都发布了基于华为?腾AI基础软硬件平台的训推一体机产品。但从市场情况来看,仍处于商业化前期阶段。

  灵活的AI“魔盒”

  与OpenAI、谷歌等公司采取的提供云端大模型应用程序编程接口(API)的模式不同,训推一体机采取的是“软硬件结合”的模式。通过软硬件协同,优化了性能,降低部署成本。

  “训推一体机可根据企业的特定业务需求提供‘开箱即用’的定制化大模型解决方案,企业将模型放到机器里,边进行推理边进行训练,相当于把大模型私有化,先让客户用起来,边用边训练,然后不断完善模型。”有业内资深人士对21世纪经济报道记者表示。

  除了能够解决大模型的训练问题,训推一体机还可以提供本地化部署的解决方案,满足企业对数据安全的需求。随着数据安全和隐私保护意识的不断提高,越来越多的企业和组织希望能够在本地进行模型训练和推理,以减少数据泄露的风险。

  在国内市场,自2023年3月华为?腾携手华鹏振宇推出针对高校与科研院所的AI训练开发一体机以来,国内厂商相继发布合作版?腾一体机,应用范围迅速拓宽,覆盖科研至AI全场景及垂类模型应用落地。

  民生证券研报称,?腾AI一体机是国内AI软硬件技术的黄金交点,是以国产算力领军者华为?腾AI基础软硬件平台为基础,联合国内领先AI厂商打造的先进生产力工具。

  2023年3月,华为?腾与旗下华鹏振宇打造了专为高校和科研院所设计的AI训练开发一体机,奠定了将AI算力、AI平台软件、AI开发框架、开发组件和存储高效融合的算力底座基础架构。

  2023年6月,软通动力(301236.SZ)发布训推一体化平台,支持用户一站式AI开发、深度适配不同AI应用场景;同年8月起,云从科技(688327.SH)、科大讯飞(002230.SZ)、智谱AI等大模型厂商合作款?腾一体机面世。

  其中,科大讯飞联合华为在去年8月15日推出讯飞星火一体机,进军私有化垂直大模型赛道。

  据科大讯飞董事长刘庆峰介绍,“星火一体机”是国产软硬件一体化的私有专属大模型解决方案,开箱即可使用,提供从底层算力、AI框架、训练算法、推理能力、应用成效等全栈AI能力,面向金融、国企、央企等重点行业客户,提供自主可控的私有化大模型。

  后续医渡科技、安恒信息中兴通讯等公司将?腾一体机用于自身垂类模型落地,?腾一体机应用范围逐渐扩展到AI全场景。

  值得一提的是,随着技术的进步和市场竞争的加剧,训推一体机的价格逐渐从百万级降至千元级。例如,云天励飞(688343.SH)推出的深目AI模盒,其售价在千元级,这在很大程度上降低了大模型应用的门槛。

  当前,训推一体机市场上还有跨界玩家涌入。

  开勒股份(301070.SZ)近日接受机构调研时表示,豫资开勒目前在研一款通用型的模型服务开发平台,以及具备训练、推理功能的一体机产品。

  仍处于商业化前期

  虽然训推一体机以低成本和灵活性著称,但不可忽视的是,它也存在一些局限性。

  首先,其性能往往会受到硬件技术的限制,这不仅增加了技术持有和更新的成本,还在一定程度上制约了其处理复杂任务的能力。

  与公共云服务或使用 API 接入大模型相比,训推一体机在效率方面可能处于劣势。由于其对大模型的使用较为零散,难以充分发挥大模型的整体优势,从而影响了处理大规模数据和复杂任务的效果。

  从技术层面来看,训推一体机集成了多种高性能组件,并需要软硬件之间的紧密协同工作。尽管众多厂商陆续发布训推一体机,但记者多方了解获悉,多家厂商仍投入大量技术人员持续优化调试,以确保其在应用场景下的稳定性和效率。

  目前,训推一体机覆盖的范围也逐渐扩展至能源、金融、运营商、政务、制造、教育科研等多领域的通用问答、写作辅助、代码辅助、智能分析、智能客服、知识咨询等场景。

  但训推一体机仍处于商业化前期阶段。一位接近科大讯飞人士对记者表示,关于星火一体机的销售情况,目前还没有可披露的新消息。

  近期,有投资者在互动平台向云从科技提问:云从科技携手华为联合发布从容大模型训推一体化解决方案,是否已与相关客户签订一体机业务合同或意向订单?

  云从科技回应称,今年一体机的市场需求正随着国产算力和应用的明确,已经有了合同和未来预期的收入。另一方面,一体机订单优先会在信息化、私有化部署以及国产化算力需求明确的行业(如能源、教育和文旅等)突破。

  从市场空间来看,华为董事、ICT(信息与通信技术)产品与解决方案总裁杨超斌在今年3月举行的华为中国合作伙伴大会上表示,2024年中国区人工智能训推一体机市场规模有望达到168亿元。

  民生证券研报指出,以华为?腾AI基础软硬件平台为基础,联合国内领先AI厂商打造的先进生产力工具,有着数据安全可控、开箱即用的特点,AI大模型在数据安全与数据要素驱动下,带来央国企与政府大模型本地化部署的刚需。乐观预计,2027年G端?腾一体机市场规模超4500亿元,30%的G端PC将接入大模型AI。

海量资讯、精准解读,尽在新浪财经APP

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 08-12 国科天成 301571 --
  • 08-05 珂玛科技 301611 8
  • 08-05 巍华新材 603310 17.39
  • 07-26 龙图光罩 688721 18.5
  • 07-23 博实结 301608 44.5
  • 新浪首页 语音播报 相关新闻 返回顶部