清华团队发布ChatGLM2-6B ,在ChatGLM-6B 基础上改进

清华团队发布ChatGLM2-6B ,在ChatGLM-6B 基础上改进
2023年06月26日 15:43 PingWest品玩

品玩6月26日讯,据 huggingface 页面显示, ChatGLM-6B 的第二代版本 ChatGLM2-6B  现已正式开源。

ChatGLM2-6B 拥有比 ChatGLM-6B 更强大的性能,相比于初代模型,ChatGLM2-6B 在 MMLU(+23%)、CEval(+33%)、GSM8K(+571%) 、BBH(+60%)等数据集上的性能取得了大幅度的提升,在同尺寸开源模型中具有较强的竞争力。此外,ChatGLM2-6B基座模型的上下文长度由 ChatGLM-6B 的 2K 扩展到了 32K,并在对话阶段使用 8K 的上下文长度训练,允许更多轮次的对话。

另外,ChatGLM2-6B 可以实现更高效的推理,在官方的模型实现下,其推理速度相比初代提升了 42%,INT4 量化下,6G 显存支持的对话长度由 1K 提升到了 8K。

清华大学改进
新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片