阅读方法¶
知识库把内容分成五层,读者可以按问题深度停止,而不必每次都进入底层实现。
五层结构¶
- 动机:现有方法在哪个约束下失效。
- 机制:状态、目标函数和计算图发生了什么变化。
- 系统代价:FLOPs、内存、带宽、通信和调度怎样改变。
- 证据:结论来自定义、推导、论文实验、复现还是工程观察。
- 边界:假设何时不成立,指标可能怎样误导。
在历史中阅读机制¶
历史脉络不是年份列表。阅读一项工作时,先找出它承接的限制,再区分它移动了哪类成本:
相邻论文可能同时出现并走向不同分支;后来的术语也不能倒写进早期版本。例如现代 LSTM 的 forget gate、BERT 的后续变体和持续演进的官方仓库,都需要与原论文事件分开。完整入口见技术谱系。
关键工作页提供短小、可执行的机制 reference;它们验证公式与状态语义,不替代论文训练代码、数据或完整复现。
阅读公式旁边的代码¶
代码不与正文分成两条阅读路线。一个机制第一次被完整定义时,页面会紧接着给出它的最小语义实现:输入输出、归一化轴、mask、状态边界和关键断言与公式使用同一组符号。读者可以在“看懂计算图”之后立即运行小张量,而不必先跳到另一章寻找实现。
默认展开的代码只保留不可替代的主路径,通常是一段函数和紧邻的不变量。辅助函数、完整状态机、较长的边界测试或替代实现放在可深链的折叠区;标题会说明折叠内容,而不是笼统写“更多代码”。折叠不改变搜索和复制,也不承担隐藏核心推理的作用。
手撕实现继续承担跨机制组装、完整测试矩阵和优化前后对照。正文给出可独立阅读的语义核,实践页为保持实验可运行会重述少量原子逻辑,再扩展为组合实现;关键工作深读则聚焦论文特有增量。三层通过具体锚点互相校验,而不把任一层当作另外两层的替代品。
证据标签¶
| 标签 | 含义 |
|---|---|
| 定义或推导 | 可由数学或接口契约直接得到 |
| 来源支持 | 原始论文、规范或官方实现明确陈述 |
| 复现实验 | 环境、版本、数据和指标足以重复 |
| 工程经验 | 在特定系统中稳定观察到,但不可无条件外推 |
| 推断 | 由有限证据推演,仍需验证 |
| 未知 | 公开材料不足,不能填空式补全 |
比较技术的最小表格¶
比较两个方法时,至少列出:目标、质量、训练成本、推理成本、显存、延迟、实现复杂度、硬件依赖、数据依赖和失效模式。只写“更快”“效果更好”通常没有决策价值。
时效性¶
模型版本、接口、硬件、价格和榜单会快速变化;原理与公开论文相对稳定。遇到时效性事实,应记录具体版本和核验日期。遇到未公开训练配方,应明确写成未知,而不是从产品表现反推。
建议的实验纪律¶
- 一次只改变一个主要因素,并保存完整配置。
- 区分训练损失、验证损失、任务指标和线上业务指标。
- 同时记录均值、方差、样本数与失败样本。
- 性能测试先 warm-up,再固定输入长度、输出长度、并发和硬件状态。
- 结论必须能指向日志、脚本、模型版本和数据切分。
实践模板见实验方法。
模型版本、训练 token、产品能力或供应商声明需要更严格的来源与时效管理,见证据与研究方法。
页级书目¶
实质性知识页以 Reference 作为最后一个二级章节,集中列出理解和核验本页所需的原论文、标准、官方文档与官方实现。正文中与具体结论相邻的链接仍然保留:就地引用回答“这句话依据什么”,页末书目回答“继续核验和深入阅读什么”,两者不能互相替代。
书目链接使用可独立理解的题名,避免裸 URL 与“论文”“点击这里”一类脱离上下文便失去意义的标签。来源随版本变化时,在正文中补充版本、日期或 commit;同一目标在书目中只出现一次。索引、导航、术语表、更新日志与全站文献索引不机械重复页级书目。