给小硅发本随身小抄 - RAG

大话 AI · 10 ｜给小硅发本随身小抄：RAG

上一篇说，教小硅懂你的事有三条路，眼下最划算的是"带小抄"这条。这一篇就把这本小抄拆开看看——它有个洋气的名字叫 RAG，但道理土得掉渣：开卷考试。

先想想你上学时，最爱哪种考试？

开卷考。 因为不用把书全背下来，考场上翻一翻、找到对应那页、抄下来就行。你不需要是记忆天才，只需要会翻书。

RAG 干的就是这事——它让小硅从"闭卷靠死记"，变成"开卷现场翻"。

RAG，就是在小硅回答之前，先帮它从你的资料库里"翻出相关的那几页"，让它照着这几页答，而不是凭脑子里的老记忆瞎编。

RAG 三个字母拆开是"检索（Retrieval）+ 增强（Augmented）+ 生成（Generation）"，说人话就是：先查，再答。 查到的真材料，"增强"了它回答的底气。

假设你给公司客服配了个小硅，用户问："我上个月买的扫地机器人，保修期多长？"

第一步·翻书（检索）：小硅先不急着答，而是拿着"扫地机器人保修期"这几个关键意思，去你的产品资料库里翻，捞出最相关的几段——比如《售后政策手册》里讲保修的那一页。

第二步·夹进去（增强）：它把翻到的这几段，连同用户的问题，一起摆到自己面前的"桌子"上（还记得第 6 篇的上下文吗）。

第三步·照着答（生成）：现在它不是凭空回忆，而是看着手册那页，用大白话回你："扫地机器人整机保修一年，主要部件保修三年。"

全程小硅没背下整本手册，它只是在对的时候翻到了对的那页。

这里有个大部分人会忽略的细节：资料不是"整本丢进资料库"就完事了。

你想，一本 400 页的产品手册，总不能翻书的时候把 400 页全拍到小硅桌上吧——桌子（上下文窗口）放不下，放得下它也看花眼。

所以在建资料库之前，还有一个关键步骤叫切块（Chunking）——把一本厚书拆成一张张便利贴，每张只写一个知识点。

想象一下：你把整本手册一页页撕下来，每一段独立的知识（"保修期规定""退货流程""安装注意事项"）各夹一张便利贴，贴在资料柜对应的格子里。将来小硅翻书时，它不是捞一整章，而是精准捞出那几张便利贴。

切得好不好，直接决定翻书准不准。 切得太粗（整章当一段），翻到了也是大海捞针，有效信息淹在一堆废话里；切得太细（逐句一段），上下文断裂，小硅看到半句话完全不知道在说啥。好的切法，就像好的读书笔记——一段一个完整知识点，不长不短刚好够理解。

（这一步听着简单，实际上是做 RAG 最磨人的工程活。有按段落切的、按 token 数切的、按语义切的……门道很多，但核心就一条：让每一块独立拿出来都能看懂。）

对比一下上一篇的"送培训班"（微调），RAG 的好处一下就出来了：

更新快：政策改了？把资料库里那份文件换掉就行，小硅立刻"知道"新政策。不用重新训练。

少胡说：它是照着材料答的，不是凭记忆编的——第 4 篇那个"一本正经胡说八道"的毛病，能压下去一大半。

能溯源：它能告诉你"这答案出自《售后手册》第 3 页"，你一查就知道真假，不用担心被忽悠。

便宜：搭个资料库，比训练一个模型便宜太多了。

这也是为什么今天你见到的绝大多数"企业 AI 助手""智能客服""文档问答"，底层几乎都是 RAG。

RAG 也不是万能。它最容易栽在一个地方：翻错页。

用户问"退货政策"，结果小硅从资料库里翻出了"退款政策"那页——俩词长得像，它一看差不多就抄了，答得头头是道，其实答偏了。

翻错页的锅该谁背？不只一个人。三个环节都可能出问题：切得好不好（块的质量）、向量找得准不准（地图坐标对不对，下一篇讲）、以及捞几条回来（专业叫 top-k，捞太少可能漏掉正确答案，捞太多又塞了一堆噪音）。

所以你有时会发现，喂了资料的 AI 还是答不对——先别怪模型笨，多半是这三个环节里某一步拉了胯。

（进阶冷知识：检索回来的那几条结果，其实还可以再"精挑"一轮——这一步叫 Rerank，让一个专门的小模型把真正最相关的排到最前面，把"长得像但其实不对"的踢下去。相当于开卷考试翻到了好几页疑似答案，再仔细看一遍挑最对的那页抄。工业级 RAG 系统几乎都带这一步。）

想让 AI 懂你的专属知识，最实用的一招不是"重新训练它"，而是"给它配一个能随时翻的资料库"——先把书切成便利贴，用的时候现查现答。切块质量 + 检索精度 + 捞取数量，三者决定翻书翻得准不准。

普通人也用得上这个思路：你让 AI 处理一份它没见过的资料，别指望它"本来就知道"，先把资料贴给它，让它基于这份材料回答。你手动贴资料，其实就是在给它做一次"人肉 RAG"。

下一篇预告：RAG 最关键、也最容易翻车的一步，是"怎么从一大堆资料里，秒找到该抄的那一页"。小硅靠的是一种把"意思"变成"位置"的魔法——向量。下一篇说人话讲透它。