微软研究：RAG系统的四个层次提升理解与回答能力

RAG架构的选择主要看具体的应用场景和实现需求，确保系统契合任务需求。

代理型RAG的重要性预计会逐渐增加，这与代理型X概念相一致，其中代理能力嵌入在个人助理、工作流和流程中。

在这里，，“X”代表了智能代理系统无尽的适应性，实现无缝任务自动处理，并在不同情境中做出知情决策，从而大幅提升组织效率和自主性。

整合多样化的文档来源以有效应对复杂的多部分查询非常重要。

或直接使用

实现准确的RAG（检索增强生成）过程中面临的挑战包括检索相关的数据，准确理解用户的意图，以及利用大语言模型的推理能力来解决复杂任务。

通过代理方法如ReAct来增强推理能力，其中会创建一个由推理和行动组成的序列。

我发现有趣的是，它指出并没有一个单一的解决方案适用于所有数据增强的LLM应用场景。

上下文指的是围绕对话的各种信息，这些信息帮助AI理解用户的意图并提供相关且连贯的答案。

这包括用户的输入、当前任务、环境以及影响对话的外部数据等因素。

有效的上下文处理能让AI维持一致且个性化的对话，根据互动适时调整回应，让对话感觉自然且有意义。

在许多情况下，系统表现不佳的原因要么是未能准确把握任务的核心，要么是需要多种技能配合的任务，这些技能必须分开使用才能发挥最佳效果。

意图（Intent） 指的是用户输入背后的真正目的，代表用户想通过查询实现或传达的意图。

识别意图能让AI系统作出恰当的回应。

直接询问已知的具体事实。

查询是关于显而易见的事实，这些事实直接出现在给定的数据中，不需要额外的推理。

这是查询中最简单的一种，其中模型的主要任务就是找到并提取相关信息。当用户提出问题时，RAG（检索和生成）实现会从分块数据中找出相关事实。

间接找事实，需要解读才能得出答案。

查询涉及数据中的隐藏事实，这些事实不够明显，可能需要一些常识判断和简单的逻辑推断。

可能需要的信息会分散在不同的部分，或者需要做些简单的推断。

例如，问题“堪培拉所在国家现在哪个政党占多数？”可以通过结合堪培拉位于澳大利亚这一事实以及关于澳大利亚当前占多数政党的信息来回答。

在第二级，我们开始看到推理与行动元素的引入，因此，RAG（检索增强生成）方法开始采取了更具有自主性的方法。

我们要注重理解事实背后的逻辑，并且要求提供能够支持逻辑解释的数据。

这些查询需要同时具备事实知识和理解和应用特定领域的相关指导方针的能力，这些指导方针对于理解数据背景至关重要。

这样的理由通常可以在外部资源中找到，但在通用语言模型的初期预训练阶段很少遇到。

例如，在财务审核中，LLM（法律硕士）可能需要遵循合规监管指南，以评估公司的财务报表是否达标。

同样，在技术支持中，可能需要遵循故障解决步骤来帮助用户，确保回复准确且符合既定流程。

第四级：隐藏的理据查询

挖掘更深层次的理解，通常需要结合上下文推断，以发现潜在的意义或内涵。

这类查询要求AI推断复杂理由，这些理由在文档中未明确记录。AI依赖于从数据中观察到的模式和结果。

这些隐含的逻辑依据包含推理和逻辑联系，很难抽丝剥茧地找出来。

例如，在IT运维中，语言模型可以分析过去事件解决模式中的成功策略，来识别成功的解决策略。

在软件开发中，AI可以借鉴过去的调试案例来推断有效的问题解决方法。通过结合这些隐含的洞察，模型可以提供反映细致、基于经验决策的回复。

可解释的和隐藏的逻辑依据强调了RAG系统理解和应用数据背后逻辑的能力。

这些级别需要更深层次的认知过程，其中代理框架模型与专家知识相匹配，或从历史数据中提取见解。

根据这项研究并结合上述图片，存在需要明确事实的查询类型和依赖隐含推理的查询类型的区别。

例如，关于签证资格的查询需要从领事馆指南中明确的事实（L3），而关于公司未来发展经济影响的问题，则需要对财务报告和经济趋势进行分析（L4）。

在两种情况下，数据的依赖性都突显了外部来源的重要性，不论是官方文件还是专家分析。

在两种情况下，提供理由说明有助于使回答更具体化，不仅给出答案，还提供了背后的推理。

首席传道师 @Kore.ai _| 我热衷于探索人工智能与语言的交汇点。从语言模型、AI代理到智能代理、开发框架，再到数据驱动的生产力工具，我分享我对这些技术如何塑造未来的见解和想法。