RAG

TL; DR AK的LLM-wiki 本质上没有太新的东西，大家的思路方向基本上形成共识，只是缺乏一个KOL发声和传播。毕竟一些观点从小卡拉米嘴里说出是爆论，而从AK嘴里说出则成了真理。 过去传统的 naive-RAG（文档解析-分块-向量索引-语义检索-召回）已死 ...

梳理 2025 年基于 VLM 的文档解析方案，比较 Qwen-VL、OlmOCR 等模型及其在 OCR、版面理解和复杂文档处理中的表现。

面向初学者整理 RAG 的核心原理、入门教程、实践课程、常用框架和进一步学习材料。

几年前初识 Milvus 的契机，来源于开发一个图像相似检索的应用，当时市面上向量库的可选择项并不像现在这么多，且功能也仅限于单纯的向量检索。 鉴于最近有业务更新的需要，和打算重构一下之前做的RAG项目，再次有机会深入学习 Milvus，探索其在新功能和实际应用上的更多可能性。 ...

介绍 RAG 中的 Query Enhancement，包括查询改写、扩展、分解、路由和多查询召回等常见优化方法。

从搜索引擎视角梳理 RAG 检索系统，讨论向量检索、关键词检索、混合召回、重排序和索引设计。

为什么要进行文本分块？ 大型语言模型（LLM）和嵌入式模型都有其处理文本的长度限制。为了有效处理超出这些限制的长文本，我们需要进行文本分块。 如何进行文本分块 **块分割戒律：**我们的目标不仅仅是为了划分数据块。更重要的是，我们要以一种便于日后检索和提取价值的格式来整理我们的数据。 ...

梳理 RAG 系统中 PDF 文档解析和表格处理的主流方案，包括 OCR、版面分析和结构化提取技术。

写在最前面 在过去的几个月中，我主要致力于与RAG（检索增强生成模型）相关的研究和实验工作。通过深入地分析众多论文和项目代码，我发现虽然在RAG领域取得基本成就相对容易，但要实现出色的成果却异常困难。 此系列文章旨在分享我在RAG研究中的心得和挑战。正如我们从OpenAI的开发者日活动中看到的，即使是在这个领域的领头羊也在不断试验和努力以寻求突破。 ...