Kotaemon：本地机器上的开源图形RAG界面

来自官方作者的这张图片

Kotaemon 是一个开源的、简洁明了且可定制的检索增强生成（RAG）用户界面（UI），旨在满足普通用户和开发人员的需求。不论是想要在文档上进行问答的用户，还是想要构建自己RAG流程的开发者，Kotaemon都提供了所需的工具。

在这篇文章里，我们将探讨 Kotaemon 的功能、架构以及如何开始使用这个灵活的平台。

在深入了解细节之前，请查看实时演示页面和源代码。如果您准备好了，可以动手操作，并查看用户指南和开发人员指南开始使用。

Kotaemon 提供了多种功能来满足不同用户的需求。

• 干净简洁的用户界面: 专为基于RAG的问答设计的友好界面。
• 支持LLM API提供商: 与OpenAI、AzureOpenAI、Cohere以及通过Ollama和llama-cpp-python支持的本地模型无缝集成。
• 简易安装: 快速启动脚本，让您马上开始使用。

• 可自定义的RAG管道框架: 一个用于构建和自定义基于RAG的文档问答Pipeline的框架。
• 交互式用户界面: 使用Gradio构建，开发人员可以使用Gradio查看RAG管道的实际运行并根据需要进行调整。

• 托管您的文档QA Web界面：支持多用户登录，文件私有或公共集合存储，以及协作功能。
• 混合RAG管道： 结合全文检索与向量检索，并通过重新排序优化检索质量。
• 多文档的问答支持： 支持多文档的问答，包括含图表和表格的文档。
• 带有文档预览的高级引用： 提供详细引用以确保LLM答案准确，并配有浏览器内PDF查看器进行核对。
• 支持复杂推理方法： 支持复杂推理方法，如问题拆解与代理推理等。
• 可配置的设置界面： 通过界面轻松调整检索和生成参数。
• 可扩展性： 基于Gradio构建，支持UI自定义和多种文档索引及检索策略，如GraphRAG索引管道。

Kotaemon可以通过Docker或直接在您的机器上进行设置。下面是两种方法的步骤。

要运行服务器并使用 Docker，请如下命令：

    docker run \  
    -e GRADIO_SERVER_NAME=0.0.0.0 \  
    -e GRADIO_SERVER_PORT=7860 \  
    -p 7860:7860 -it --rm \  
    taprosoft/kotaemon:v1.0

打开 http://localhost:7860/ 访问网页界面。

RAG UI

如果您更喜欢不使用 Docker 安装，可以按照以下步骤来：

（可选）环境设置:

运行以下命令来创建并激活名为ragui的环境，其中Python版本为3.11：

conda create -n ragui python=3.11  
conda activate ragui

注：如果你使用的是 bash 终端，则输入以下命令 source activate ragui

• 克隆这个仓库:

克隆仓库：`git clone https://github.com/Cinnamon/kotaemon`  
切换到kotaemon目录：`cd kotaemon`

• 安装所需的软件包:

注：根据上下文和专家建议选择最合适的翻译，这里选择了“安装所需的软件包:”，既准确又符合技术文档的用语习惯。

在终端中输入以下命令来安装指定的软件包：
pip install -e "libs/kotaemon[all]"  
pip install -e "libs/ktem"

• 配置环境变量:
• 编辑你的 .env 文件以包含 API 密钥。
• 启动 Web 服务器:
  </TRANSLATION>

运行 `python app.py`

• 应用将在您的浏览器中自动启动。
• 默认的用户名和密码: admin/admin。您可以直接通过界面添加其他用户。

Kotaemon 是一个强大的工具，适合希望通过 RAG 做文档问答的任何人。不论是想要简单界面的终端用户，还是希望搭建复杂 RAG 管道的开发者，Kotaemon 都能满足你的需求，提供灵活性和功能。

探索Live Demo，查看源代码，现在就开始构建你的基于RAG的系统。