2017 · Ashish Vaswani et al.
Attention Is All You Need
- 常见说法
- Transformer 证明了注意力可以取代此前所有序列模型。
- 论文直接证据
- 论文在 WMT 2014 英德翻译上取得 28.4 BLEU，在英法翻译上取得 41.8 BLEU，并展示了比循环模型更容易并行的训练方式。
- 证据边界
- 这些结果直接支持机器翻译中的注意力式序列转换；它们没有在 2017 年就证明后来大语言模型的全部能力，也没有证明循环或卷积在所有任务上都无用。
PaperBridge 原创证据索引
8 篇经典 AI 论文，究竟证明了什么
这不是论文热度榜，也不是把摘要再缩短一次。我们把常被重复的说法、论文实际报告的实验结果，以及证据不能覆盖的边界放在一起，帮助读者区分“原论文证明了什么”和“后来行业如何解释它”。
这个索引怎样判断证据
每一项只陈述原论文直接报告的实验、指标和研究条件。边界不是否定论文，而是避免把后来的产品能力、历史影响或营销说法倒推成原论文已经证明的事实。PaperBridge 没有复现实验；需要做研究或产品决策时，请继续核对原论文。
2018 · Jacob Devlin et al.
BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
- 常见说法
- BERT 证明了一个预训练模型可以直接理解语言。
- 论文直接证据
- BERT 通过双向预训练加任务微调，在 11 项自然语言处理任务上刷新结果；论文摘要报告 GLUE 80.5%、MultiNLI 86.7%、SQuAD v1.1 F1 93.2 和 SQuAD v2.0 F1 83.1。
- 证据边界
- 证据来自当时的英文理解基准和有监督微调流程。它没有证明模型具有一般意义上的语言理解，也没有验证生成质量、事实可靠性或跨语言表现。
2020 · Tom B. Brown et al.
Language Models are Few-Shot Learners
- 常见说法
- GPT-3 证明模型只要足够大，就不再需要训练数据或微调。
- 论文直接证据
- 1750 亿参数的自回归模型在不更新权重的情况下，通过零样本、单样本和少样本提示完成了大量任务；规模增大通常带来更好的上下文学习表现。
- 证据边界
- 论文也记录了明显失败、偏见和不稳定性，且不少任务仍落后于专门微调系统。结果支持提示式任务适应，不代表数据、训练或任务专用系统已经不再需要。
2020 · Patrick Lewis et al.
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
- 常见说法
- RAG 能让大模型不再幻觉，并且回答都会有可靠引用。
- 论文直接证据
- 原论文把预训练生成模型与 Wikipedia 的稠密检索结合，在三项开放域问答任务上报告了当时的最佳结果，并比只依赖参数记忆的基线生成更具体、多样且更符合事实的文本。
- 证据边界
- 实验支持检索对知识密集型任务有帮助，但不保证召回文档正确、生成忠于证据或引用可核验。权限隔离、过期内容和生产延迟也不在原论文证明范围内。
2020 · Jonathan Ho, Ajay Jain, Pieter Abbeel
Denoising Diffusion Probabilistic Models
- 常见说法
- DDPM 论文已经发明了今天的文生图系统。
- 论文直接证据
- 论文把逐步加噪和学习逆向去噪变成高质量图像生成方法，在无条件 CIFAR-10 上报告 9.46 的 Inception Score 和 3.17 的 FID，并展示了 256×256 LSUN 样本。
- 证据边界
- 它证明了无条件扩散生成的可行性与质量，但没有提出今天完整的文本条件、潜空间扩散或生产级文生图产品；原始采样还需要很多去噪步骤。
2020 · Alexey Dosovitskiy et al.
An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale
- 常见说法
- ViT 证明卷积网络已经过时。
- 论文直接证据
- 论文把图像切成 patch 序列并直接使用标准 Transformer；在大规模预训练后，ViT 在多项图像分类基准上匹配或超过当时的卷积网络，同时训练计算更少。
- 证据边界
- 优势依赖大规模预训练和论文中的数据配置。它证明 Transformer 可以成为视觉骨架，不等于卷积归纳偏置在小数据、效率或其他视觉任务上都没有价值。
2021 · Edward J. Hu et al.
LoRA: Low-Rank Adaptation of Large Language Models
- 常见说法
- LoRA 总能用几乎零成本达到完整微调的效果。
- 论文直接证据
- 论文冻结预训练权重，只学习低秩增量；对 GPT-3 175B 的示例，训练参数最多减少约 10,000 倍，GPU 显存约减少 3 倍，并在所测模型与任务上达到相当或更好的质量。
- 证据边界
- 低秩假设、秩大小、注入层和任务都会影响结果。论文证明的是特定设置下的参数高效适配，不保证每个模型、任务和数据量都等同于完整微调。
2022 · Long Ouyang et al.
Training language models to follow instructions with human feedback
- 常见说法
- RLHF 让语言模型变得安全、真实并与所有人类价值对齐。
- 论文直接证据
- 论文用示范、偏好排序和强化学习训练 InstructGPT。在论文的提示分布与标注者群体中，13 亿参数模型的输出总体上比 1750 亿参数 GPT-3 更受偏好，并改善了真实性、毒性和指令遵循的若干指标。
- 证据边界
- 偏好来自特定标注者和任务分布，指标也不覆盖所有伤害、事实或价值冲突。结果支持一种有效的指令对齐流程，不代表安全或价值对齐已经被完全解决。
FAQ
关于 AI 论文证据的常见问题
什么才算一篇 AI 论文的直接证据？
直接证据是论文在明确数据、基线、指标和实验条件下报告的结果。后续产品成功、引用量或行业影响很重要，但不等于原论文当时已经验证了这些结论。
为什么要单独写“证据边界”？
因为论文结论经常被传播成更宽泛的说法。写出边界能区分实验支持、作者解释和后来推断，减少把相关性、单一基准或历史影响误当成普遍证明。
这个索引能替代阅读原论文吗？
不能。它适合快速判断一篇论文是否值得深读，并指出核对重点；复现、研究和高风险决策仍应阅读原文、附录、代码和后续独立验证。