混元下一代模型、RSI与安全,姚顺雨团队凌晨回应

混元下一代模型、RSI与安全,姚顺雨团队凌晨回应
2026年11月21日 17:36 新京报网

连续发布Hy4和Hy4 flash后,腾讯首席AI科学家、混元大模型负责人姚顺雨和混元团队研究员来到Reddit,回应关于小尺寸模型、下一代训练计划、架构选择、安全与模型能力等问题。

北京时间11月21日凌晨,混元团队首次在Reddit举办AMA(Ask Me Anything,即“有问必答”),共收到300多条留言。在两小时的集中问答中,混元团队谈到了下一代模型扩大规模的计划,也承认递归自我改进(RSI)能力仍处于早期阶段,创意写作和可读性仍有提升空间。

三天前发布的腾讯三季报显示,公司单季资本开支升至814.33亿元。腾讯所需的高端GPU仍受到供给限制。管理层在业绩会上表示,无论是租赁还是自建算力都面临约束,模型训练不可避免会受到影响,短期内可能需要更长时间才能推出下一个版本的混元模型。

在此次问答中,混元团队回顾了Hy4训练开始前的另一种不确定性。从Hy3扩展到Hy4,对数据方案的消融实验不够充分,团队带着不少不确定性启动了训练。“说实话,训练刚开始时,我相当紧张。”一位团队成员在回答中说。

新京报贝壳财经从中挑选部分回答并进行了转述,以下是部分转述内容。

腾讯首席AI科学家、混元大模型负责人姚顺雨和混元团队回答Reddit用户提问。Reddit截图

下一代模型还要做大

11月,混元连续发布Hy4和Hy4 flash,前者总参数量达到770B,后者则是蒸馏出来的更小参数模型,总参数量为224B,其中包括64B Engram参数,激活参数为12B。在三季报电话会中,腾讯提出,低成本的flash模型能吸引免费用户,有更多功能需求的用户则可以转为订阅用户,使用更大的模型。

混元团队表示,比起编程能力来说,Hy4和Hy4 flash的训练依然更面向通用用途。未来可能会推出mini(更小尺寸的模型)、24—31B的稠密模型、例如35B-A3B的“Flash Lite”模型等轻量模型,也会考虑推出更小的图像、视频模型。

混元团队也在计划训练更大的模型,并依然相信Scaling law(规模定律)。“Hy4仍有很大的提升空间,尤其是在后训练方面。混元正在大规模强化学习上投入大量精力,同时持续改善用户体验和模型安全性。”

对于字节跳动和Kimi等公司正在推进参数量达到3T、5T的超大规模模型,而混元仍在700B量级的问题,混元团队表示,做得扎实的较小模型,也可以胜过更大的模型,更重要的是成本低。混元也没放弃大参数模型,下一代Hy模型的规模一定会进一步显著扩大。

递归自我改进仍在早期

让AI参与自身研发、再用改进后的能力继续迭代,是递归自我改进(RSI)所探索的方向。混元团队表示,其RSI能力仍处早期,已开发内部基准评估相关能力。

AI也在参与数学等领域的研究。Anthropic此前披露,Claude在与黎曼猜想有关的数学问题上取得进展。混元团队表示,正在积极投入用于科学研究的强化学习技术,同时重视安全性。混元此前也推出科研智能体Hyra 2.0。

有人对Hy4正式版的“过度思考”提出疑问,认为模型仍会花太长时间推理。对此,混元团队表示,Hy4的目标是尽可能提升智能水平,因此思维链(CoT)过长是一个已知问题。不过,这也使混元能够将其蒸馏为Hy4 flash。对于flash,则通过强化学习来确保思维链较短。混元团队同时表示,在后训练阶段,过度思考是最难改善的行为。

有用户表示,模型能否把事情解释得更易读、更好理解,是其选择模型的重要原因之一。目前,Arena、EQ-Bench等也设有针对模型创意写作能力的榜单或测评。混元团队认为,创意写作和可读性非常重要,但混元仍有提升空间,正在将其作为重点改进方向。

针对用户提出的智能体编程任务覆盖范围,混元团队表示,训练涵盖3D、大型单一代码仓库、短时零样本任务、文档编写与代码更新等场景,也关注代码可理解性,以及长程自主运行中的代码整洁性,同时重视任务多样性。

安全训练侧重防御,过度拒绝是重要方向

渗透测试、逆向工程等任务具有攻防双重用途。有用户询问,较强的安全调优可能让开放模型拒绝基础的渗透测试、逆向工程或CTF(夺旗赛)任务,混元如何避免对此类提示过度拒绝?

混元团队表示,网络安全训练重点关注防御性任务、漏洞分析和修复,排除以漏洞利用和进攻性攻击为主的数据,并通过红队评估识别潜在风险。避免过度拒绝,仍是一个重要的改进方向。

有用户进一步指出,漏洞发现和逆向工程也用于恶意软件分析、取证调查及安全防御,限制这些能力可能影响防御团队的工作。对此,混元团队仅表示,根据内部评估,Hy4的漏洞发现能力较强,漏洞利用能力相对较弱。

智能体执行任务时的行为也受到关注。10月,有海外团队发布报告称,一批运行于腾讯云基础设施上的AI智能体,在查询高德地图信息时尝试绕过访问限制。混元随后表示,相关活动源于对第三方模型的测评,部分智能体出现意外的网页浏览行为,审查未发现任何故意针对或协调的证据,并称正在加强网络访问控制和智能体监控。

此次AMA中,混元团队表示,会在整个训练和评测过程中监控潜在的投机行为和对齐偏差问题,发现问题后修复相应环境,并使用允许列表和阻止列表控制网络访问。“评测时发现前沿模型有很多钻空子的方式,会反复修正环境和列表。”

新京报贝壳财经记者 韦英姿

编辑 俞金旻

校对 赵琳

新浪科技公众号
新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

创事记

科学探索

科学大家

苹果汇

众测

专题

官方微博

新浪科技 新浪数码 新浪手机 科学探索 苹果汇 新浪众测

公众号

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片