跳转至

覆盖地图

覆盖不是页面数量,而是一个问题能否从定义走到验证。下表连接 canonical mechanism、最小实现以及系统或评测边界;模型案例和最新论文不替代这条链。

覆盖维度

维度 需要回答的问题
定义 对象、变量、输入输出和适用范围是什么
推导 目标、复杂度和关键公式怎样得到
实现 最短可审计代码怎样固定语义
系统 FLOPs、bytes、通信、状态和延迟怎样变化
评测 数据、指标、统计与预算怎样固定
失效 哪些退化输入、分布偏移或攻击会破坏结论
证据 结论来自理论、作者实验、开放实现还是独立复现
脉络 它承接什么限制,又把瓶颈移到哪里

机制页不必平均展开八项,但不能只列名词与论文。

技术发展的因果关系由技术谱系维护;关键工作页再把原论文、最小实现与今天的机制连接起来。谱系不是第八种孤立内容,而是帮助读者判断每一项机制为何存在。

主干矩阵

主题 原理与机制 最小实现 系统与评测
表示与目标 语言建模、分词、概率与损失、上下文学习 Tokenizer、张量原语 缩放、语言模型评测
数据 来源谱系、过滤去重、混合课程、合成数据 序列构造 质量治理、记忆与隐私、评测污染
Transformer Decoder Block、注意力、位置 完整 Transformer Attention Kernel、KV Cache
稀疏与递推 MoE、状态空间与线性注意力、记忆架构 递推与记忆、MoE dispatch MoE 系统、长上下文
多模态共同基础 信号与 Token、对齐与融合、位置与 Mask 多模态原语 数据、训练与系统、多模态评测
视觉理解与空间 视觉表示与 Grounding、视觉语言、空间与三维 多模态原语 文档与 GUI、多模态评测
媒体生成与交互 图像生成、音频生成、视频生成、Any-to-Any 多模态原语 控制、编辑与评测、连续媒体协议
世界模型 世界模型总览、潜在动力学与规划、预测与生成式世界 模型、规划与层级决策 闭环规划与不确定性
具身智能 具身总览、状态、动作与策略、VLA 与跨本体 模仿与 Offline RL 规划、闭环评测与安全
训练与对齐 预训练、SFT、蒸馏、PEFT 训练目标 规模实验、优化稳定性、训练系统
策略优化主线 序贯决策、价值与 Bellman、MC 与 TD、Policy Gradient、Actor–Critic、GAE、TRPO、PPO 强化学习 函数逼近、探索、实验诊断
LLM 强化学习 配方地图、GRPO、Ratio 与 Gate、训推分布、在线 RL LLM 策略优化 DAPO、VAPO、信用分配、RLVR
训练系统 性能模型、数值精度、GPU 执行 分布式与容错 状态分片、模型并行、系统韧性
推理时计算 预算与搜索、搜索验证 推理时计算 推理后训练、Agentic RL
推理服务 解码、运行时、调度 推理引擎 缓存复用、量化、推测解码、推理可靠性
检索与生成 索引召回、重排上下文、RAG 检索与智能体 证据约束生成、事实性
工具与智能体 工具调用、记忆规划、运行时 检索与智能体 智能体安全、Agent 评测
Agentic RL 从经典 RL 到语言 Agent、算法决策、数据环境 LLM 策略优化、推理时计算 轨迹契约、训练系统、长时任务、SAO 与 CompactionRL
DeepSeek 家族 家族总览、演化时间线、V4 深读 CSA / HCA、mHC、全词表 OPD 的页内 reference 多模态分支、TileLang、MegaMoE 与 DSec、103 项引用图谱与 canonical 机制页
Kimi 家族 家族总览、技术谱系、K3 深读 KDA、AttnRes、SiTU-GLU、QB、MOPD、KCP 与 hybrid cache 多模态分支、150 项引用图谱、canonical 机制页与评测证据边界
GLM 家族 家族总览、演化时间线、GLM-5 深读 MLA / DSA / MTP、IndexShare、TITO / direct IS 多模态分支、Agentic Engineering、63 项引用图谱与 canonical 机制页
评测与可靠性 评测协议、指标、校准 评测工具 Judge、安全、生产可靠性

这张表用于发现断链。例如量化只有论文摘要,却没有运行时 dtype、实际 kernel、质量 slice 和 reference 对照,就尚未形成完整专题。

稳定性层级

稳定基础

定义、公式或系统约束已经跨多项工作复用,例如交叉熵、causal attention、AdamW、collective 语义和 KV 容量。正文直接讲机制,但仍标明假设。

条件化方法

有原始论文、官方实现或多个公开系统采用,收益依赖数据、shape、硬件、预算或训练配方。正文说明适用条件,不使用无条件“更优”。

研究前沿

近期论文、单一团队报告或快速演进的软件需要记录:

  • 首次公开与最近核验日期;
  • 论文、代码、权重和复现是否可用;
  • 已验证规模、任务与硬件;
  • 尚未证明的外推;
  • 与稳定 baseline 的差异。

模型发布数字与机制结论分开;前者进入技术谱系,后者只有在抽象后才进入机制页。

版本与证据

持续演进的对象需要版本化:

  • 论文绑定具体版本、实验表与假设;
  • 软件绑定 release、commit 或带日期的官方文档;
  • 模型绑定明确 checkpoint 与 chat template;
  • benchmark 绑定数据 revision、harness commit 与污染时间窗;
  • 协议绑定规范版本;
  • 硬件结论绑定 device、dtype、shape 和软件栈。

某个链接仍可访问,不代表其中结论仍是当前状态。核验方法见证据与研究方法。

阅读检查

读者可以用同一组问题审查任何页面:

  1. 公式里的量是否有定义;
  2. 理论复杂度是否与真实执行分开;
  3. 最大能力是否与有效能力分开;
  4. 作者报告是否与独立证据分开;
  5. 最小实现是否包含 mask、退化和断言;
  6. 指标是否给出分母、预算和缺失值;
  7. 前沿结论是否有日期与外推边界;
  8. 链接是否指向概念的 canonical page。

页面边界见知识架构,实验验收见实验方法,来源判断见证据与研究方法。

Reference