百度智能云发布千帆大模型平台2.0:升级多项优化

百度智能云发布千帆大模型平台2.0:升级多项优化
2023年09月05日 10:40 中关村在线

9月5日,百度智能云在2023百度云智大会上宣布,其一站式企业级大模型平台——千帆大模型平台2.0全面升级发布。据百度云官方介绍,千帆大模型平台2.0在工具链、算力效能和数据等方面进行了多项改进。在工具链方面,千帆大模型平台2.0的工具链能够紧密结合大模型开发、训练、部署和应用开发各个环节,从而最大化提升效率。以前,技术团队需要一个月的时间才能调试和运行大模型,而现在,在千帆一站式工具链平台上,只需要一天就能实现。在算力效能方面,千帆大模型平台2.0的底层是一套集合了异构算力集群、高速互联的网络和高性能存储的AI算力基础设施,能够支撑万卡规模的训练。同时,平台还能够将大模型训练和推理的成本降到最低。在数据方面,千帆大模型平台2.0不仅能够管理大模型,还能够增强大模型的能力。本次升级,平台在中文增强方面取得了显著的进展,能够大幅提升大模型的中文理解和生成能力,例如Liam2的国外大模型,也能够实现中文对话的优秀效果。此外,千帆大模型平台2.0还全面提升训练和推理性能,训练Liam2的总体吞吐可以提升1/4,推理甚至可以提升3倍。在企业级安全方面,平台通过千帆的安全机制,能够构建四层安全防线,全方位保障大模型的内容安全、数据安全和系统安全。对于合规要求很高的客户,平台还支持国内、国外主流芯片和操作系统,以及私有化部署,确保每个企业的大模型都自主可控。最后,百度集团执行副总裁、百度智能云事业群总裁沈抖表示,截至目前,百度网盘“云一朵”智能助理累积使用人数已经超过600万。而千帆大模型平台2.0的升级,使得平台能够纳管的国内外主流大模型达到了42个,预置了41个有行业特色的数据集,月活企业数已近万家,覆盖金融、制造、能源、政务、交通等行业的400多个业务场景。

百度智能云
新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片