摩尔线程GPU千卡集群完成师者AI 70亿参数教育大模型训练测试

摩尔线程GPU千卡集群完成师者AI 70亿参数教育大模型训练测试
2024年06月14日 01:32 快科技

快科技6月14日消息,摩尔线程与全学科教育AI大模型“师者AI”联合宣布,双方已完成大模型训练测试。

师者AI基于摩尔线程夸娥(KUAE)千卡智算集群,完成了其70亿参数大模型的高强度训练测试。

整个训练过程用时一周,训练效率达到预期,充分展示了夸娥千卡智算集群作为国产全功能GPU千卡千亿训练平台的能力与优势。

师者AI成立于2020年,核心模型团队来自清华大学,拥有多年技术研发和模型算法自研能力,基于智谱AI开源底座打造了专注于全学科的教育大模型,包括数学、物理等19个学科。

开放内测以来,师者AI已经拥有超过2.5万用户,支持30个以上学科知识、2000本以上教材。

随着教育大模型的快速迭代,摩尔线程、师者AI还将在大模型推理上开展适配工作。

摩尔线程夸娥方案是业内首个跑通、跑完国产大模型的千卡集群,基于全功能MTT S4000 GPU,提供软硬一体化的全栈解决方案,具备模型覆盖、推理加速、CUDA兼容、断点续训、分布式训练、集群可靠性等8大核心能力。

摩尔线程夸娥千卡集群此前已公布的大模型训推相关成就:

- 第一家接入无问芯穹,适配无穹Infini-AI大模型开发与服务平台、完成LLama2 700亿参数大模型训练测试、完成MT-infini-3B 3B(30亿参数)规模大模型实训

- 羽人科技70亿参数大语言模型YuRen-7b训练测试

- 憨猴集团7B、34B、70B不同参数量级大模型的分布式训练

- 训练、推理适配滴普企业大模型Deepexi v1.0

【本文结束】如需转载请务必注明出处:快科技责任编辑:上方文Q文章内容举报

【本文结束】如需转载请务必注明出处:快科技

责任编辑:上方文Q

新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片