RAG 与 LLM Wiki
1 通俗解释¶
RAG 就像一个参加开卷考试的人，其本身会做题，作答前需要去书里翻几页相关的内容才能组织答案。
LLM Wiki 则是把所有学到的东西整理成一份自己的百科全书，如果再遇到问题，不是重新翻找原始资料，而是先查这本已经整理好的百科全书，类似把知识内化了。
2 工作原理¶
2.1 RAG¶
RAG 的工作机制可以理解为一种“按需组织知识”的过程。系统会先把外部资料拆分成多个片段，并转化为向量存入检索库；当用户提出问题时，再将问题同样转为向量，在向量空间中找到最相关的内容片段，最后把这些片段连同问题一起交给大模型生成答案。整个过程的关键不在于提前整理好知识结构，而是在问题出现时，从原始材料中动态筛选并组合出可用信息。
它之所以迅速成为主流，并不是因为模型本身能力发生了质变，而是补上了纯参数存储知识的短板。仅依赖模型内部参数来记忆知识，会带来更新困难、来源不透明等问题，而引入外部可检索数据后，知识可以随时替换或扩展，也更容易追溯依据。模型本身依然负责理解和生成，但在此之前多了一步“查找资料”的过程，这一步在工程上带来的价值非常直接。
从系统形态来看，RAG 并不会提前把知识整理成稳定结构，而是将知识保留在原始文档中，依赖每次查询时的检索结果来组织答案。它更像是一种在运行时临时构建上下文的机制：问题不同，命中的内容也不同，最终生成的答案随之变化。因此，这类系统常被感知为“会对话的搜索工具”，核心能力体现在检索质量和上下文拼接，而不是预先沉淀好的知识体系。
2.2 LLM Wiki¶
LLM Wiki 的工作方式可以理解为一种“提前整理知识”的过程。系统不会等用户提问后再去原始资料中检索，而是先把资料导入，再由大模型对这些内容进行一轮系统化整理与重构。通常会形成几层结构：原始资料作为底层保留，其上生成经过归纳的知识页面，再通过索引页串联整体结构，同时用日志记录更新过程。这样一来，原始信息不会丢失，但真正用于后续使用的，是已经被组织过的一套知识体系。
在具体运行上，它包含一组持续循环的关键动作。导入阶段负责吸收新资料，并同步更新多个相关页面，而不是简单追加内容；查询阶段优先依赖已有的索引和知识页来回答问题，而不是直接回溯原文；同时还会定期进行结构检查，用来发现断链、重复内容或组织混乱等问题，并进行修正。这种机制更接近一个长期维护的知识系统，而不是一次性的处理流程。
从整体特性来看，LLM Wiki 的核心在于引入了一个“中间知识层”。原始文档并不直接参与问答，而是先被整理、抽象并沉淀为结构化页面，后续查询主要围绕这些页面展开。这使得系统更像是在使用一套已经编排好的知识库，而不是临时拼接信息。本质上，它属于一种偏向 compile-time 的思路：先完成知识的组织与压缩，再在此基础上进行使用。
3 对比分析¶
| 对比维度 | RAG | LLM Wiki |
|---|---|---|
| 核心思路 | 提问时再检索资料 | 先整理资料，再回答 |
| 工作时机 | Query-time | Compile-time / 预处理式 |
| 基本单位 | 文本块 chunk | 知识页面 page |
| 强项 | 找信息 | 组织知识 |
| 典型风险 | 检索不准、上下文碎 | 摘要失真、页面维护差 |
| 知识积累 | 弱 | 强 |
| 适合场景 | 大规模资料问答 | 长期知识沉淀 |
| 使用体验 | 像搜索引擎 | 像百科/笔记系统 |
从具体使用场景来看，两者在回答问题时的路径差异非常明显。面对一组论文去分析某个方法的优缺点，RAG 的做法是临时检索相关段落，再由模型进行归纳总结，最终结果高度依赖检索是否精准命中关键内容；如果关键段落没有被召回，答案质量就会明显下降。LLM Wiki 则不同，它通常已经提前整理好了方法介绍、优缺点分析以及相关对比页面，回答问题时更像是在查阅一套经过加工和组织的知识，而不是从零开始拼接信息。
在长期使用过程中，这种差异会进一步放大。RAG 引入新资料时，本质只是扩充了可检索的文档集合，知识本身不会发生结构性变化；而 LLM Wiki 会在新资料进入后，对已有页面进行更新、修正和重组，使整体知识体系持续演化。前者更接近不断堆积的数据仓库，后者更像一个会生长的知识结构，随着时间推移逐渐变得更有组织、更具内在逻辑。
当然 LLM Wiki 并不是对 RAG 的替代，而是针对不同问题场景的另一种解法。当需求侧重于处理大量、频繁更新的原始文档，并要求快速接入与检索时，RAG 更具优势；当目标转向长期知识沉淀、结构化组织以及让系统逐步形成领域理解时，LLM Wiki 更有价值。两者并非能力层级上的递进关系，而是分别代表了“按需检索”和“预先组织”两种不同的知识系统思路。
4 总结¶
RAG 的核心是“检索增强”，也就是在回答问题时，从外部资料中临时找出相关内容，再交给模型生成答案。它更像一个会查资料的系统，强项是快速接入和利用大规模原始文档。RAG 最早在 2020 年被系统化提出，目标就是把模型参数里的知识和外部可检索知识结合起来。
LLM Wiki 的核心是“知识编译”，也就是先让 LLM 把原始资料整理成结构化 wiki，再基于这套 wiki 查询和回答。它更像一个会做笔记、会维护百科的系统，强项是让知识长期积累、持续沉淀。Karpathy 在 2026 年提出这一模式时，强调的就是这种“先组织知识，再使用知识”的思路。
所以最通俗的一句话就是：
- RAG 是“边问边查”
- LLM Wiki 是“先学后答”
二者没有强弱之分，按照需求选择即可。