中国电信发布全球首个单体稠密万亿参数语义模型 Tele-FLM-1T

中国电信发布全球首个单体稠密万亿参数语义模型 Tele-FLM-1T
2024年06月19日 13:41 IT之家

IT之家 6 月 19 日消息,中国电信人工智能研究院(TeleAI)和智源研究院联合发布全球首个单体稠密万亿参数语义模型 Tele-FLM-1T,该模型与百亿级的 52B 版本,千亿级的 102B 版本共同构成 Tele-FLM 系列模型。

TeleAI 和智源研究院基于模型生长和损失预测等技术,Tele-FLM 系列模型仅使用了业界普通训练方案 9% 的算力资源,基于 112 台 A800 服务器,用 4 个月完成 3 个模型总计 2.3T tokens 的训练。模型训练全程做到了零调整零重试,算力能效高且模型收敛性和稳定性好,Tele-FLM-1T 版本即将开源

目前,TeleFLM 系列模型已经全面开源了 52B 版本,核心技术 (生长技术、最优超参预测)、训练细节 (loss 曲线、最优超参、数据配比和 Grad Norm 等) 均开源,开源模型下载量过万,积累超 40 万用户。

此外,中国电信在某市民生诉求场景项目上,通过引入 TeleChat-52B 模型能力,整体应用效果提升 40%,达到行业领先水平。

IT之家附 Tele-FLM-52B 版本开源地址:https://huggingface.co/CofeAI/Tele-FLM

Tele-FLM-Chat 试用 (纯模型单轮对话版) 地址:https://modelscope.cn/studios/FLM/ChatFLM

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片