<?xml version="1.0" encoding="UTF-8" ?>
<rss version="2.0">
    <channel>
      <title>AI Research 技术调研</title>
      <link>https://zhao9797.github.io/ai-research</link>
      <description>最近的10条笔记 on AI Research 技术调研</description>
      <generator>Quartz -- quartz.jzhao.xyz</generator>
      <item>
    <title>00-SUMMARY.en</title>
    <link>https://zhao9797.github.io/ai-research/omni/00-SUMMARY.en</link>
    <guid>https://zhao9797.github.io/ai-research/omni/00-SUMMARY.en</guid>
    <description><![CDATA[  🌐 English entry page. Deep pages are in Chinese. ]]></description>
    <pubDate>Thu, 10 Sep 2026 13:59:04 GMT</pubDate>
  </item><item>
    <title>AI Research — 技术调研</title>
    <link>https://zhao9797.github.io/ai-research/</link>
    <guid>https://zhao9797.github.io/ai-research/</guid>
    <description><![CDATA[ 个人 AI 技术调研（只收一手官方资料，逐工作六维精读，数字经对抗式核查）。 两大调研 📚 llm) — GPT-3 2020 → 2026，525+ 一手源（预训练数据 / 架构 / AI infra / 后训练 / agentic） 🎨 omni) — 2020 → 2026，324 工作页（文生图 / 编辑 / 统一理解生成 / any-to-any omni / 视频 / 音频 / 3D / 使能方法） 左侧 explorer 可展开目录树；每页右侧有 TOC，[[内链]]、反向链接与关系图谱可点击跳转；右上角可全文搜索。 . ]]></description>
    <pubDate>Thu, 10 Sep 2026 13:59:04 GMT</pubDate>
  </item><item>
    <title>data-pipelines</title>
    <link>https://zhao9797.github.io/ai-research/llm/deep-dive/data-pipelines</link>
    <guid>https://zhao9797.github.io/ai-research/llm/deep-dive/data-pipelines</guid>
    <description><![CDATA[ 预训练数据集与处理 Pipeline 深挖（FineWeb / DCLM / The Stack / RedPajama / Dolma / Nemotron-CC / RefinedWeb / C4 / CulturaX / ROOTS） 本档案聚焦「开放预训练数据集」家族，逐个数据集抠抽取→清洗→去重→质量过滤→去毒→PII→污染检测全 pipeline，以及配比/消融/分类器阈值等一手数字。 所有数字均来自官方 arXiv 技术报告 / 官方 HF 数据集卡 / 官方 GitHub。第三方解读一律不收。 注意：这些是「数据集」而非「模型」，因此「架构/SFT/RL」字段大多不适用（数据集... ]]></description>
    <pubDate>Thu, 10 Sep 2026 13:59:04 GMT</pubDate>
  </item><item>
    <title>deepseek</title>
    <link>https://zhao9797.github.io/ai-research/llm/deep-dive/deepseek</link>
    <guid>https://zhao9797.github.io/ai-research/llm/deep-dive/deepseek</guid>
    <description><![CDATA[ DeepSeek（深度求索）开源大模型【训练配方】深挖档案 全部数字均来自官方一手来源（arXiv 原文、官方 technical report、官方 model card / 博客 / GitHub）。 凡官方未公开或本地原文未提及者，明确标注「官方未公开」。 本地原文路径见每个小节末尾「来源」。本档案为列表式，逐型号一个 ## 小节。 家族演进脉络 DeepSeek-AI（幻方量化旗下）走的是一条「先用 scaling laws 立项 → 用 MoE 降本 → 用 MLA 降 KV cache → 用 FP8 + DualPipe 极致压成本 → 用 GRPO/纯 RL 激发推理 → 用稀... ]]></description>
    <pubDate>Thu, 10 Sep 2026 13:59:04 GMT</pubDate>
  </item><item>
    <title>internlm</title>
    <link>https://zhao9797.github.io/ai-research/llm/deep-dive/internlm</link>
    <guid>https://zhao9797.github.io/ai-research/llm/deep-dive/internlm</guid>
    <description><![CDATA[ InternLM 书生（上海 AI Lab）训练配方深挖 家族：InternLM / 书生·浦语（Shanghai AI Laboratory + SenseTime + 港中文/复旦/上交/清华/南大） 范围：InternLM(v1) → InternLM2 → InternLM2.5 → InternLM3；多模态 InternVL 1.5 → 2.5 → 3；科学多模态 Intern-S1。 原则：仅一手官方来源（arXiv 技术报告原文 PDF、HF 官方组织 model card、官方 GitHub README、官方 config.json）。所有数字均抠自原文/配置文件；查不到的... ]]></description>
    <pubDate>Thu, 10 Sep 2026 13:59:04 GMT</pubDate>
  </item><item>
    <title>llama</title>
    <link>https://zhao9797.github.io/ai-research/llm/deep-dive/llama</link>
    <guid>https://zhao9797.github.io/ai-research/llm/deep-dive/llama</guid>
    <description><![CDATA[ Llama 家族（Meta）训练配方深挖 范围：LLaMA 1 / Llama 2 / Llama 2 Long / Code Llama / Llama 3·3.1·3.2（Herd of Models）/ Llama 4（Scout/Maverick/Behemoth）/ Llama Guard。 所有数字均抠自官方一手来源（arXiv 原文 PDF、官方 technical report、官方博客、官方 GitHub/model card）。查不到或官方未公开的，逐条标注。 注意：本档案不收任何第三方解读/评测聚合站。 家族演进脉络（一句话主线） LLaMA 1（2023-02）：证明”... ]]></description>
    <pubDate>Thu, 10 Sep 2026 13:59:04 GMT</pubDate>
  </item><item>
    <title>minicpm</title>
    <link>https://zhao9797.github.io/ai-research/llm/deep-dive/minicpm</link>
    <guid>https://zhao9797.github.io/ai-research/llm/deep-dive/minicpm</guid>
    <description><![CDATA[ MiniCPM 家族训练配方深挖（面壁智能 ModelBest / OpenBMB / 清华 THUNLP） 本文只采信一手官方来源（arXiv 原文 PDF、官方 HF model card / config.json、官方 GitHub）。 已落盘 PDF 均逐页精读抠数字；架构数字尽量交叉核对官方 config.json。 查不到或官方未公开的，明确标注「官方未公开」。 编写日期：2026-06-18。 家族演进脉络 MiniCPM 是面壁智能（ModelBest）联合清华 NLP（OpenBMB）的「端侧小模型 + 可扩展训练策略」系列。核心方法论贯穿始终： Model Wind Tu... ]]></description>
    <pubDate>Thu, 10 Sep 2026 13:59:04 GMT</pubDate>
  </item><item>
    <title>mistral</title>
    <link>https://zhao9797.github.io/ai-research/llm/deep-dive/mistral</link>
    <guid>https://zhao9797.github.io/ai-research/llm/deep-dive/mistral</guid>
    <description><![CDATA[ Mistral / Mixtral 家族 训练配方深挖 家族：Mistral AI（法国，2023 创立）。本档只收一手官方来源（arXiv 原文、官方博客、官方 HuggingFace 组织页的 config.json）。 关键事实：Mistral 对预训练数据来源/配比、数据 pipeline、算力/卡时、并行策略、优化器/LR/warmup、RL 超参等几乎从不公开。其技术报告（Mistral 7B、Mixtral、Pixtral）只给「架构表 + 评测」，刻意不写数据与训练细节。因此本档中大量「预训练数据 / 训练细节 / RL」字段会标注官方未公开——这是 Mistral 的一贯风格... ]]></description>
    <pubDate>Thu, 10 Sep 2026 13:59:04 GMT</pubDate>
  </item><item>
    <title>qwen</title>
    <link>https://zhao9797.github.io/ai-research/llm/deep-dive/qwen</link>
    <guid>https://zhao9797.github.io/ai-research/llm/deep-dive/qwen</guid>
    <description><![CDATA[ Qwen（通义千问，阿里巴巴）训练配方深挖 家族：Qwen / 通义千问，阿里巴巴 Qwen Team（前身达摩院）。 本文只收一手官方来源（arXiv 原文、官方 technical report、官方博客 qwenlm.github.io / qwen.ai、官方 GitHub / HF model card）。所有架构/数据/训练数字均抠自原文 PDF 或官方博客；查不到的标注「官方未公开」。 撰写日期：2026-06-18。2025 下半年及 2026 内容以联网检索官方博客为准。 家族演进脉络（一句话版） Qwen (v1)，2023-08/09：1.8B/7B/14B（后补 72B... ]]></description>
    <pubDate>Thu, 10 Sep 2026 13:59:04 GMT</pubDate>
  </item><item>
    <title>yi</title>
    <link>https://zhao9797.github.io/ai-research/llm/deep-dive/yi</link>
    <guid>https://zhao9797.github.io/ai-research/llm/deep-dive/yi</guid>
    <description><![CDATA[ Yi 家族（零一万物 / 01.AI）训练配方深挖 本文只采一手官方来源：arXiv 原文、官方 technical report、官方 GitHub / Hugging Face 官方组织页（01-ai）的 model card / config.json。每个数字尽量标注出处页/字段。官方未公开的项明确写”官方未公开”。 家族演进脉络 2023-11 Yi-6B / Yi-34B（base）：从零训练的中英双语稠密 Transformer，预训练 3.1T token，4K 上下文。同期放出 200K 长上下文版（Yi-6B/34B-200K）与 chat 版。数据工程优先路线（“qual... ]]></description>
    <pubDate>Thu, 10 Sep 2026 13:59:04 GMT</pubDate>
  </item>
    </channel>
  </rss>