LightRAG 论文

RAG 任务概述

我们可以把 RAG 任务用一个统一的框架来描述：

这里的字母变量都是什么意思呢？有必要搞这么复杂的数学描述吗……原论文甚至还用上了希腊字母和花体字……

1. $M$ 是整个 RAG 框架。
2. $M(q;D)$ 代表一次查询：给定问题 $q$ 和知识库 $D$ 让模型给出回答。
3. 这里的 $G$ 是 Generation Module，即模型生成。
4. $R=(I,S)$ 是 RAG 里的 Retrieval-Augment 部分
   1. 其中 $I$ 用于处理知识库 $D$，将原始文档 $D$ 转化为特定的数据结构 $\hat D$，以期更好质量的 retrieval
   2. $S$ 是 Search，其实更像 Augment 的过程，从处理好的数据库 $\hat D$ 里获取相关的信息，传递给 Generation 模块 $G$ 让模型进行输出。