什么是 RAG？

RAG（Retrieval-Augmented Generation，检索增强生成）是当前企业级 LLM 应用中最重要的技术架构。它通过将外部知识库与大语言模型结合，让 AI 能够基于最新、最准确的信息生成回答。

为什么需要 RAG？

LLM 的局限性

大语言模型虽然强大，但存在几个关键问题：

RAG 如何解决这些问题

RAG 的核心思想非常直观：先检索，再生成。

RAG 的核心流程

一个完整的 RAG 系统包含两个主要阶段：索引阶段和查询阶段。

索引阶段（离线）

查询阶段（在线）

代码示例：最简 RAG 系统

下面用 Python 实现一个最简单的 RAG 系统，帮助你理解核心流程：

"""
最简 RAG 系统示例
演示 RAG 的核心流程：索引 → 检索 → 生成
"""
from openai import OpenAI
client = OpenAI()
# ============================================
# 第一步：准备知识库（模拟文档）
# ============================================
documents = [
{
"id": 1,
"title": "公司年假政策",
"content": "员工入职满1年可享受5天年假，满3年享受10天，满5年享受15天。年假需提前3天申请。"
},
{
"id": 2,
"title": "报销流程",
"content": "员工报销需在费用发生后30天内提交，金额500元以下主管审批，500元以上需部门经理审批。"
},
{
"id": 3,
"title": "远程办公政策",
"content": "员工每周可申请2天远程办公，需提前1天在系统中申请，主管审批后生效。"
},
]
# ============================================
# 第二步：创建向量索引
# ============================================
def get_embedding(text: str) -> list[float]:
"""获取文本的向量表示"""
response = client.embeddings.create(
model="text-embedding-3-small",
input=text
)
return response.data[0].embedding
def cosine_similarity(a: list[float], b: list[float]) -> float:
"""计算余弦相似度"""
dot_product = sum(x * y for x, y in zip(a, b))
norm_a = sum(x ** 2 for x in a) ** 0.5
norm_b = sum(x ** 2 for x in b) ** 0.5
return dot_product / (norm_a * norm_b)
# 为所有文档创建向量
print("正在创建文档向量...")
for doc in documents:
doc["embedding"] = get_embedding(doc["content"])
print(f"已为 {len(documents)} 篇文档创建向量索引")
# ============================================
# 第三步：检索相关文档
# ============================================
def retrieve(query: str, top_k: int = 2) -> list[dict]:
"""检索与查询最相关的文档"""
query_embedding = get_embedding(query)
# 计算相似度并排序
scored_docs = []
for doc in documents:
score = cosine_similarity(query_embedding, doc["embedding"])
scored_docs.append({"doc": doc, "score": score})
scored_docs.sort(key=lambda x: x["score"], reverse=True)
return scored_docs[:top_k]
# ============================================
# 第四步：生成回答
# ============================================
def generate_answer(query: str) -> str:
"""RAG 完整流程：检索 + 生成"""
# 检索相关文档
results = retrieve(query, top_k=2)
# 构建上下文
context = "\n\n".join([
f"【{r['doc']['title']}】\n{r['doc']['content']}"
for r in results
])
# 构建 Prompt
prompt = f"""请根据以下参考资料回答用户的问题。
如果参考资料中没有相关信息，请坦诚说明。
请在回答中标注信息来源。
## 参考资料
{context}
## 用户问题
{query}
## 回答"""
# 调用 LLM 生成
response = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": prompt}],
temperature=0.3
)
return response.choices[0].message.content
# ============================================
# 测试
# ============================================
question = "我工作两年了，能请几天年假？"
print(f"\n问题：{question}")
print(f"\n回答：{generate_answer(question)}")

输出示例：

问题：我工作两年了，能请几天年假？
回答：根据公司年假政策，员工入职满1年可享受5天年假。
您工作两年，已满1年但未满3年，因此您目前可以享受5天年假。
待您工作满3年后，年假将增加至10天。
请注意，年假需提前3天申请。
——来源：《公司年假政策》

RAG vs 其他方案

RAG vs 微调（Fine-tuning）

RAG vs 长上下文（Long Context）

RAG 的应用场景

1. 企业知识库问答

最常见的应用，让员工通过自然语言查询公司内部文档。

2. 客服机器人

基于产品文档和 FAQ 自动回答客户问题。

3. 法律/合规检索

在海量法规文件中快速找到相关条款。

4. 技术文档助手

帮助开发者快速查找 API 文档和代码示例。

5. 医疗辅助

基于医学文献辅助诊断建议（需严格审核）。

本章小结

• RAG 通过"先检索，再生成"的方式解决 LLM 的知识局限
• RAG 系统包含索引阶段（离线）和查询阶段（在线）两个核心流程
• 相比微调和长上下文，RAG 在成本、可更新性、可溯源性方面具有优势
• RAG 是当前 85% 企业 LLM 应用的核心架构

下一章：我们将深入了解 RAG 的系统架构，学习如何设计一个生产级的 RAG 系统。