腾讯推出Huanyuan-large开源模型,与公司内部同源

腾讯推出Huanyuan-large开源模型,与公司内部同源
2024年11月05日 15:29 新京报

新京报贝壳财经讯(记者 白金蕾)11月5日,腾讯机器学习平台总监康战辉在混元大模型媒体沟通会上发布了全新的Huanyuan-large模型。据康战辉介绍,这是业界参数规模最大、效果最好的开源MoE大语言模型。

现场数据显示Huanyuan-large模型的上下文长度为256k,词表大小为12.8w,训练tokens为7TB,总参数为398B,激活参数为52B。“我们不急于为了开源而开源,要在内部业务打磨好后再开源,要开源就要有诚意,开源的模型必须和公司内使用的同宗同源。”康战辉说。

编辑 岳彩周

校对 柳宝庆

海量资讯、精准解读,尽在新浪财经APP

VIP课程推荐

加载中...

APP专享直播

1/10

热门推荐

收起
新浪财经公众号
新浪财经公众号

24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance)

股市直播

  • 图文直播间
  • 视频直播间

7X24小时

  • 11-08 壹连科技 301631 --
  • 11-08 金天钛业 688750 --
  • 10-29 聚星科技 920111 6.25
  • 10-25 港迪技术 301633 37.94
  • 10-25 健尔康 603205 14.65
  • 新浪首页 语音播报 相关新闻 返回顶部