以创新创未来云天励飞边缘AI引领大模型落地|云天励飞_新浪财经

党的二十届三中全会强调了高质量发展的重要性，并构建支持全面创新的体制机制，为中国科技产业高质量发展提供新动能。云天励飞作为国内边缘AI领军企业，以“算法芯片化”为核心能力，自主研发多模态大模型“云天天书”及面向边缘AI的大算力芯片。目前，公司不断推进AI在智能硬件、智算服务、智慧行业三大领域的应用，致力于为个人、家庭、行业带来安全、智慧、便捷的AI体验。

高质量语料库告急大模型如何发展

过去几年，人工智能大模型技术飞速发展，各类AIGC应用层出不穷，用于训练大模型的参数量已经从最初的十几亿跃升到如今的万亿规模，对算力和能源都提出了很高的要求。此外，大模型的训练离不开高质量的语料，一项来自Epoch AI Research团队的预测了2022年至2100年间可用的图像和语言数据总量，并据此预估了未来大模型训练数据集规模的增长趋势，结果表明：高质量的语言数据存量将在2026年耗尽。这意味着，在没有找到更高效训练模型的方法之前，通过无限扩大数据规模以提升模型能力的方式在未来某天不再可行。

作为一项全新技术，大模型始终需要落地到应用服务上，当通用型产品无法提供更高质量服务时，行业将目光聚焦到大模型与行业的结合上。目前，虽然云端大模型训练依旧是主流方式，但落地行业面临诸多难点：模型幻觉、行业数据缺失、信息反馈较慢、长尾场景无法覆盖、数据隐私较难有效保护等。未来大模型要落地千行万业，走到线下物理世界，并对大量突发状况给予及时响应，拥有在本地分析处理的能力变得至关重要。

依托“算法芯片化”核心加速大模型行业落地

“算法芯片化”是云天励飞的核心能力，云天励飞自2014年成立以来，经过10年的技术积淀，将该能力沉淀为基础技术研究平台，为技术研发和产业赋能提供有力支撑。基于算法芯片化技术平台，云天励飞打造了“云天天书”大模型以及系列AI芯片。“云天天书”系列大模型使用自研训练框架，全栈适配国产算力，在可伸缩训练、断点续训等业界难点问题上屡次取得创新突破。

2023年，“云天天书”大模型正式通过中央网信办备案，并在智慧政务、城市治理、智慧安防、智慧交通、智慧商业、智慧教育等多行业落地。同年底，云天励飞推出基于全国产先进工艺打造，完全自主可控的14nm AI芯片DeepEdge10，搭载第四代自研神经网络处理器NNP400T，主要用于大模型在边缘场景的推理部署。目前，DeepEdge10已在摄像头、边缘服务器、机器人、智驾汽车等边缘设备落地应用。

布局产业链持续拓展应用领域

2023年4月，云天励飞于科创板上市，并积极利用资本纽带与更多人工智能产业上下游合作伙伴建立深度联系，投资了智慧互通、臻识科技、神州云海等在动态停车、静态停车、全息路口及智慧工地、清洁机器人等方向的龙头企业，并作为创始股东成员之一参股深圳国创具身智能机器人有限公司，提供AI芯片、大模型领域的技术支持。此外，还通过收购智能穿戴头部方案设计公司岍丞技术，进军大模型C端应用市场，围绕边缘AI不断拓展上下游产业链及生态。

目前，云天励飞围绕智能硬件、智算服务、智慧行业三大行业，不断推进人工智能的产业化应用。在智能硬件方面，公司推出“深目”AI模盒，“天舟”大模型巡推一体机的硬件设备，推动大模型的便捷应用与落地。在智算服务方面，公司已落地含自研芯片的超大规模异构高性能算力集群，并积累大模型训练所需的能力平台与工具，为客户提供算力及相应服务。2024年，云天励飞推出IPU-X6000加速卡，主要用于大模型云端推理，其内置高效大模型推理DeepEdge200芯片，且具有256T大算力、486GB/s超高带宽、128GB大显存、c2c mesh互联，可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域，目前已经支持适配云天天书、通义千问、百川智能、智谱清言、Meta30+开源大模型，涵盖1.5B参数到70B参数量，并且预期能使大模型推理成本大幅度下降。

在智慧行业方面，云天励飞打造了一系列标杆项目，并积累了优质的客户资源和良好的品牌口碑，从而保障未来业绩持续稳定的增长。今年6月，云天励飞拿下一笔16亿元的算力订单，提前锁定未来三年收入。(CIS)

（文章来源：证券时报网）