RAG 论文学习路径

从 RAG 原论文理解检索增强生成

RAG(Retrieval-Augmented Generation)把模型参数里学到的知识,与可检索、可更新的外部文档结合。原论文使用 DPR 检索 Wikipedia 段落,再让生成模型基于问题和检索结果回答。它证明了检索能帮助知识密集型任务,但并没有自动解决检索错误、引用真实性、权限隔离和生产延迟。

PaperBridge Editorial·July 21, 2026

从基础模型到 RAG Agent

理解表示与生成

Transformer 提供生成骨架,BERT 一类编码器帮助理解稠密向量表示和语义检索。

精读 RAG 原论文

重点区分参数记忆与非参数记忆,并比较 RAG-Sequence 和 RAG-Token 如何选择文档。

扩展到产品与 Agent

InstructGPT 解释指令跟随,ReAct 解释推理与工具调用;现代 RAG 产品通常把这几条路线组合起来。

读懂 RAG 的五篇关键论文

这条路线把检索、生成、指令对齐和工具行动拆开,避免把今天所有知识库产品能力都误算在 RAG 原论文上。

  1. 01

    2017 · Ashish Vaswani et al.

    Attention Is All You Need

    Transformer 用注意力替代循环结构,成为大语言模型与多模态模型的共同底座。

  2. 02

    2018 · Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova

    BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

    把双向预训练加任务微调变成自然语言理解的通用范式。

  3. 03

    2020 · Patrick Lewis et al.

    Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

    把参数记忆和可更新的外部检索结合起来,成为企业知识问答的基础架构。

  4. 04

    2022 · Long Ouyang et al.

    Training language models to follow instructions with human feedback

    把人类偏好反馈用于指令跟随,奠定了现代对话式 AI 的训练路径。

  5. 05

    2022 · Shunyu Yao et al.

    ReAct: Synergizing Reasoning and Acting in Language Models

    让模型交替进行推理与工具行动,成为今天 Agent 工作循环的直接原型。

FAQ

RAG 论文常见问题

RAG 是谁提出的?

Patrick Lewis 等人在 2020 年的论文《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》中系统提出并评估了 RAG。

RAG 能消除大模型幻觉吗?

不能。RAG 可以提供外部证据,但检索可能召回错误、过时或不相关的文档,生成模型也可能忽略或误读证据。

RAG 和微调有什么区别?

RAG 在推理时取回外部知识,内容更容易更新;微调改变模型参数,更适合调整行为、格式或特定能力。两者可以组合。