MaxKB携手Ollama构建本地知识库问答系统

在数字化时代，企业对于高效、智能的知识管理与问答服务需求日益增长。MaxKB与Ollama的结合，为企业提供了一个强大的本地知识库问答系统解决方案。本文将详细介绍如何通过MaxKB与Ollama，快速构建基于大语言模型的本地知识库问答系统。

一、背景介绍

MaxKB：是1Panel开源项目组推出的一款基于大语言模型（LLM）的知识库问答系统。它旨在为用户提供高效的学习支持和快速的回答能力，致力于成为企业的智能助手。MaxKB不仅支持基于OpenAI、百度千帆大模型等在线大模型快速搭建知识库问答系统，还与以Ollama为代表的本地私有大模型相结合，实现本地知识库问答系统的快速部署。

Ollama：是一个开源框架，支持用户通过本地部署的方式构建大语言模型服务。目前，Ollama支持的大语言模型包括LIama 2、Mistral、Gemma等，为企业提供了更多选择。

二、系统部署

1. 安装MaxKB

MaxKB的安装部署有两种方式：通过1Panel应用商店安装或命令行安装。

• 通过1Panel应用商店安装：登录1Panel应用商店（apps.fit2cloud.com/1panel），在应用商店中搜索“MaxKB”，点击下载并安装。

• 命令行安装：在确保Docker后台服务已启动后，使用以下命令在终端快速部署MaxKB：

  docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

  该命令会以后台模式运行容器，为容器指定名称maxkb，并将宿主机的8080端口映射到容器的8080端口，同时确保数据持久化。

2. 安装Ollama

Ollama的安装同样简便。用户可以通过1Panel应用商店快速安装，或者从Ollama的GitHub页面下载并按照说明进行安装。

3. 接入Ollama模型

• 登录MaxKB：在1Panel应用商店的“已安装”选项卡中，找到MaxKB应用面板，点击应用名下方的“服务端口”选项打开MaxKB应用页面，使用默认的账户名和密码登录至MaxKB。
• 添加Ollama模型：进入MaxKB的“系统设置”菜单，在“模型设置”页面中选择添加“Ollama”模型，并填写模型的具体信息，包括模型名称、权限、模型类型、基础模型、API域名和API Key等。填写完毕后，点击“添加”按钮，系统会自动下载并部署Ollama模型。

三、创建知识库与应用

1. 创建知识库

在MaxKB应用界面中，点击“知识库”菜单，选择创建知识库。用户可以根据需要选择“通用型”或“Web站点”两种知识库类型。其中，“通用型”适合上传本地文件或手动录入内容，而“Web站点”则用于同步Web网站文本数据。

在创建知识库时，用户需要填写知识库名称、选择向量模型以及上传文本文件或表格等。例如，可以创建一个包含《水浒传》原文的知识库，用于历史文学研究、传统文化学习和语料库分析等多种场景。

2. 创建应用

在MaxKB的“应用”菜单中，选择创建应用，并填写相关的应用信息，包括应用名称、简单配置或高级编排等。在AI模型配置中，选择之前在模型库中添加的Ollama模型。此外，用户还需要为应用添加知识库，并进行相应的参数设置以优化性能和查询速度。

四、应用演示与嵌入

1. 应用演示

创建完成后，用户可以在MaxKB“应用”列表中点击对应应用的演示图标进行调试和预览。通过问答形式，用户可以验证知识库问答系统的准确性和效率。

2. 嵌入第三方业务系统

此外，MaxKB还支持将企业小助手嵌入到第三方业务系统中。用户只需回到MaxKB“应用”菜单中，点击对应应用面板，进入该应用的“概览”页面，在概览页面打开“嵌入第三方”选项，复制脚本并加入到第三方业务系统的文件中即可。

五、产品关联：百度千帆大模型开发与服务平台

虽然本文重点介绍了MaxKB与Ollama的结合使用，但值得注意的是，MaxKB同样支持对接百度千帆大模型开发与服务平台。百度千帆大模型开发与服务平台提供了丰富的大模型资源和开发工具，可以帮助用户更轻松地构建和部署知识库问答系统。通过选择百度千帆大模型作为MaxKB的模型供应商之一，用户可以享受到更加便捷、高效的模型接入和部署服务。

六、总结

通过MaxKB与Ollama的结合使用，企业可以快速构建基于大语言模型的本地知识库问答系统。该系统不仅具备高效的学习能力和问答响应速度，还支持多种知识库类型和应用场景。同时，MaxKB还支持将企业小助手嵌入到第三方业务系统中，进一步提升了企业的智能化水平和用户体验。未来，随着技术的不断发展，MaxKB与Ollama的结合应用将会为企业带来更多惊喜和价值。

对于希望构建本地知识库问答系统的企业来说，MaxKB与Ollama无疑是一个值得尝试的解决方案。通过简单的安装部署、接入模型、创建知识库与应用等步骤，企业可以轻松实现智能化问答服务，提升工作效率和竞争力。