一句话定位

美团 LongCat-Flash-Prover,560B MoE,通过 agentic 工具集成 RL 推进 Lean4 原生形式化推理,提出 HisPO 算法稳定长程 MoE RL。

摘要

LongCat-Flash-Prover(arXiv 2026-03-22,作者 Jianing Wang 等 27 人)是 560B 旗舰开源 MoE 模型,通过 agentic tool-integrated reasoning (TIR) 推进 Lean4 中的原生形式化推理。把原生形式化推理任务分解为 auto-formalization、sketching、proving 三种独立能力,并提出 Hybrid-Experts Iteration Framework 扩展高质量任务轨迹(informal→formal statement、whole-proof、lemma-style sketch)。在 agentic RL 中提出 Hierarchical Importance Sampling Policy Optimization (HisPO),用梯度掩码策略考虑 policy staleness 与 train-inference 引擎差异(序列级与 token 级),稳定长程任务上的 MoE 训练;并引入定理一致性与合法性检测机制消除 reward hacking。

关键技术细节

  • 规格:560B 参数旗舰开源 MoE。
  • 任务分解:auto-formalization + sketching + proving 三独立形式化能力(Lean4)。
  • 数据扩展-Hybrid-Experts Iteration Framework:生成 formal statement / whole-proof / lemma-style sketch 三类轨迹。
  • RL 算法-HisPO:Hierarchical Importance Sampling Policy Optimization,梯度掩码处理 policy staleness 与训练-推理引擎差异(sequence + token 两级),稳定长程 MoE RL。
  • 防 reward hacking:theorem consistency + legality detection 机制。
  • agentic:tool-integrated reasoning(TIR)形式化证明。

原始链接

一手源存档(sources/)

  • longcat-flash-prover.pdf (PDF 不入 git,走 HF bucket)