大模型像个博学但记不住你私货的学霸:通用知识懂,但你公司的内部文档、最新资料它没见过。硬把几百页塞进对话?又贵又超长度。

怎么办?RAG(检索增强生成) 登场:给 AI 配一个“随时翻的笔记本”。

一、RAG 三步曲

  1. 建笔记(索引):把你的一堆文档切块,转成向量(一种能表达“意思”的数字),存进向量库。
  2. 考试时翻笔记(检索):你提问,系统把问题也转成向量,去库里找意思最相近的几块,抓出来。
  3. 带着笔记答题(生成):把“问题 + 翻到的资料”一起喂给大模型,让它基于资料作答。

先翻笔记再答题

二、为什么比“直接全塞进去”好

  • 只塞最相关的几段,省 Token、不超窗口。
  • 答案有出处,能附上来源,减少瞎编(幻觉)。
  • 资料更新了,只更新笔记(向量库),模型不用重训。

三、一句话类比

就是开卷考试:不要求学霸背下整本书,而是让他考场上快速翻到相关页,再作答。RAG = 检索(翻笔记)+ 生成(答题)。

一句话:RAG 给大模型外挂一个可检索的知识库,先找最相关的资料、再让模型据此回答,又准又省又不易胡说。