把大模型“装”进小盒子 云天励飞推出“深目”AI模盒

把大模型“装”进小盒子 云天励飞推出“深目”AI模盒
2024年03月29日 10:27 经济参考网

3月28日,云天励飞(688343.SH)举办AI大模型产品发布会,正式发布“深目”AI模盒。据介绍,该产品能够做到“3个90%”——覆盖场景超过90%、算法精度超过90%,使用成本降低90%,解决大模型在场景落地“最后一公里”的问题,帮助更多中小企业客户轻松使用大模型。

从ChatGPT到Sora,从文生文、文生图像到文生视频,大模型发展日新月异,持续给行业带来惊喜,不仅国内掀起“百模大战”,国外科技巨头也在大模型上相互“较劲”。

发布会上,云天励飞董事长兼CEO陈宁认为,未来3年,全球80%的企业都将使用大模型。但是,要训练专属大模型,不仅需要大算力、大数据,还需要大量顶尖人才。大模型一次训练成本在千万元级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。

值得关注的是,为了能够让大模型“平民化”,云天励飞推出了“深目”AI模盒。这款产品售价在千元级,用单手就能托起,搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”,具备算法边缘侧在线学习能力,可实现算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%,让用户都能够根据自身场景需求,利用大模型能力,训练出可实战应用的算法。

“能够实现3个90%,离不开云天励飞的核心能力——算法芯片化。”陈宁说。据介绍,“深目”AI模盒的算力基础,来源于去年云天励飞推出的14nm Chiplet大模型训推芯片DeepEdge10 Max。该芯片采用自主可控的国产工艺,内含国产RISC-V核,支持大模型训练推理部署。依托自研芯片DeepEdge10 Max创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。

此外,为了共同探索更多大模型低成本、高效率落地应用路径,云天励飞与鹏城实验室、之江实验室、上海交通大学城市治理研究院等多家单位共同成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。

(文章来源:经济参考网)

股市回暖,抄底炒股先开户!智能定投、条件单、个股雷达……送给你>>
海量资讯、精准解读,尽在新浪财经APP
云天励飞 算法 AI 芯片

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 04-01 宏鑫科技 301539 10.64
  • 03-29 灿芯股份 688691 19.86
  • 03-27 无锡鼎邦 872931 6.2
  • 03-25 中瑞股份 301587 21.73
  • 03-22 广合科技 001389 17.43
  • 新浪首页 语音播报 相关新闻 返回顶部