AI Research 技术调研

❯

❯

❯

文件夹: llm/themes/post-training

此文件夹下有63条笔记。

2025年10月01日
On-Policy Distillation
2025年8月01日
GLM-4.5: Agentic, Reasoning, and Coding (ARC) Foundation Models
2025年6月01日
Magistral
2025年6月01日
MiniMax-M1: Scaling Test-Time Compute Efficiently with Lightning Attention
2025年5月01日
Hunyuan-TurboS: Advancing Large Language Models through Mamba-Transformer Synergy and Adaptive Chain-of-Thought
2025年5月01日
Llama-Nemotron: Efficient Reasoning Models
2025年5月01日
ProRL: Prolonged Reinforcement Learning Expands Reasoning Boundaries in Large Language Models
2025年5月01日
Qwen3 Technical Report
2025年5月01日
Skywork Open Reasoner 1 Technical Report (Skywork-OR1)
2025年5月01日
WebDancer: Towards Autonomous Information Seeking Agency
2025年4月01日
Seed1.5-Thinking: Advancing Superb Reasoning Models with Reinforcement Learning
2025年4月01日
ToolRL: Reward is All Tool Learning Needs
2025年3月01日
DAPO: An Open-Source LLM Reinforcement Learning System at Scale
2025年3月01日
Open-Reasoner-Zero: An Open Source Approach to Scaling Up Reinforcement Learning on the Base Model
2025年3月01日
QwQ-32B: Embracing the Power of Reinforcement Learning
2025年2月01日
SWE-RL: Advancing LLM Reasoning via Reinforcement Learning on Open Software Evolution
2025年1月01日
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning
2025年1月01日
Kimi k1.5: Scaling Reinforcement Learning with LLMs
2025年1月01日
2 OLMo 2 Furious
2025年1月01日
The Lessons of Developing Process Reward Models in Mathematical Reasoning
2025年1月01日
rStar-Math: Small LLMs Can Master Math Reasoning with Self-Evolved Deep Thinking
2024年12月01日
DeepSeek-V3 Technical Report
2024年12月01日
Deliberative Alignment: Reasoning Enables Safer Language Models
2024年11月01日
Tulu 3: Pushing Frontiers in Open Language Model Post-Training
2024年10月01日
VinePPO: Unlocking RL Potential For LLM Reasoning Through Refined Credit Assignment
2024年9月01日
Learning to Reason with LLMs (OpenAI o1)
2024年7月01日
The Llama 3 Herd of Models
2024年6月01日
Nemotron-4 340B Technical Report
2024年5月01日
RLHF Workflow: From Reward Modeling to Online RLHF
2024年5月01日
SimPO: Simple Preference Optimization with a Reference-Free Reward
2024年4月01日
Is DPO Superior to PPO for LLM Alignment? A Comprehensive Study
2024年3月01日
Gemini 1.5: Unlocking multimodal understanding across millions of tokens of context
2024年3月01日
ORPO: Monolithic Preference Optimization without Reference Model
2024年2月01日
DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models (GRPO)
2024年2月01日
KTO: Model Alignment as Prospect Theoretic Optimization
2024年2月01日
Back to Basics: Revisiting REINFORCE Style Optimization for Learning from Human Feedback in LLMs (RLOO)
2024年1月01日
Contrastive Preference Optimization: Pushing the Boundaries of LLM Performance in Machine Translation (CPO)
2024年1月01日
Self-Rewarding Language Models
2024年1月01日
Self-Play Fine-Tuning Converts Weak Language Models to Strong Language Models (SPIN)
2023年12月01日
Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations
2023年12月01日
Math-Shepherd: Verify and Reinforce LLMs Step-by-step without Human Annotations
2023年11月01日
Camels in a Changing Climate: Enhancing LM Adaptation with Tulu 2
2023年10月01日
Collective Constitutional AI: Aligning a Language Model with Public Input
2023年10月01日
A General Theoretical Paradigm to Understand Learning from Human Preferences (IPO / ΨPO)
2023年10月01日
UltraFeedback: Boosting Language Models with Scaled AI Feedback
2023年10月01日
Zephyr: Direct Distillation of LM Alignment
2023年9月01日
RLAIF vs. RLHF: Scaling Reinforcement Learning from Human Feedback with AI Feedback
2023年7月01日
Llama 2: Open Foundation and Fine-Tuned Chat Models
2023年5月01日
Claude's Constitution
2023年5月01日
Direct Preference Optimization: Your Language Model is Secretly a Reward Model (DPO)
2023年5月01日
Let's Verify Step by Step
2023年4月01日
RAFT: Reward rAnked FineTuning for Generative Foundation Model Alignment
2023年4月01日
RRHF: Rank Responses to Align Language Models with Human Feedback without tears
2023年4月01日
WizardLM: Empowering Large Language Models to Follow Complex Instructions (Evol-Instruct)
2022年12月01日
Constitutional AI: Harmlessness from AI Feedback
2022年11月01日
Solving math word problems with process- and outcome-based feedback
2022年10月01日
Scaling Laws for Reward Model Overoptimization
2022年9月01日
Improving alignment of dialogue agents via targeted human judgements (Sparrow)
2022年4月01日
Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback (HH-RLHF)
2022年3月01日
Training language models to follow instructions with human feedback (InstructGPT)
2022年2月01日
Red Teaming Language Models with Language Models
2021年12月01日
WebGPT: Browser-assisted question-answering with human feedback
2020年9月01日
Learning to summarize from human feedback

GitHub