零代码搭建本地法律 AI 知识库：Cherry Studio + Ollama + bge-m3 完整实战指南

无需编写一行代码，无需部署 Docker，无需联网——仅用一台普通电脑，即可搭建一套专业、安全、完全离线的法律法规智能检索与问答系统。

一、为什么选择这套方案？

在法律实务工作中，快速检索法条、精准定位法律依据是每一位法律从业者的核心需求。传统的关键词搜索往往难以应对语义化的查询场景，而在线 AI 工具又存在数据隐私泄露的风险。

Cherry Studio 是一款功能强大的 AI 桌面客户端，内置了完整的 RAG（检索增强生成）知识库功能。配合 Ollama 本地模型运行环境和 bge-m3 中文向量化模型，我们可以在完全不联网的情况下，构建一套本地法律 AI 助手。

这套方案的核心优势：

• 零代码：全程图形化操作，无需编程基础
• 数据不出本机：模型与知识库均在本地运行，确保绝对隐私
• 轻量部署：不需要 Docker，不需要 GPU，普通办公电脑即可运行
• 专业检索：bge-m3 对中文法律条文的语义理解和检索能力极强

---

二、整体架构说明

在动手之前，先理解这套系统的三个核心组件及其分工：

组件	角色	功能说明
Ollama	模型运行环境	在本地运行大语言模型和向量化模型
Cherry Studio	客户端界面	提供知识库管理、对话交互、RAG 检索等功能
bge-m3	嵌入模型（Embedding）	将法律文本转化为向量索引，实现语义检索
qwen2.5	对话模型（LLM）	阅读检索到的法条，生成专业的法律回答

简单来说：bge-m3 是”图书管理员”，负责在海量法律文件中精准定位相关法条；qwen2.5 是”律师”，负责阅读法条并用专业语言生成回答。两者协同，构成完整的 RAG 工作流。

三、第一步：准备本地模型运行环境（Ollama）

3.1 下载安装 Ollama

前往 ollama.com 下载对应操作系统（Windows / macOS / Linux）的安装包，按提示完成安装即可。

3.2 下载对话大模型

打开终端（Windows 的 CMD/PowerShell 或 Mac 的 Terminal），输入以下命令下载通义千问模型：

ollama run qwen2.5:7b

配置建议：如果您的电脑内存 ≥ 16GB，推荐使用 qwen2.5:14b，法律逻辑推理能力更强。输入 /bye 可退出对话。

3.3 下载向量化模型

在终端中输入以下命令，下载 bge-m3 嵌入模型：

ollama pull bge-m3

bge-m3 由智源研究院（BAAI）开源，文件大小约 2.2GB，对中文长文本和法律条文的检索效果极佳，且普通办公电脑即可流畅运行。

四、第二步：在 Cherry Studio 中连接模型

1. 打开 Cherry Studio，点击左下角的 “设置”（齿轮图标）
2. 找到 “模型服务” → “Ollama”
3. 确认 API 地址为默认的 http://localhost:11434
4. 点击 “管理” 或 “同步模型”

完成后，qwen2.5:7b 和 bge-m3 将出现在可用模型列表中。

五、第三步：创建法律法规知识库

这是整个流程的核心步骤——将法律文件导入系统并建立向量索引。

5.1 新建知识库

1. 在左侧导航栏点击 “知识库”
2. 点击 “新建知识库”，命名为”现行有效法律法规”

5.2 配置嵌入模型

在知识库设置中，找到 “嵌入模型（Embedding Model）” 选项，选择 bge-m3。

⚠️ 注意：必须选择 Embedding 模型，切勿选择对话模型（如 qwen2.5），否则知识库将无法正常工作。

5.3 上传法律文件

将预处理好的 Markdown（.md）或纯文本（.txt）法律文件拖拽上传至知识库。

文本分块（Chunking）参数建议（针对法律文本优化）：

参数	推荐值	说明
分块大小（Chunk Size）	500 – 800 字符	确保完整法条不被截断
重叠大小（Overlap）	100 – 150 字符	保证上下文语义连贯

5.4 等待索引完成

Cherry Studio 会在后台调用 bge-m3 将法律文本转化为向量数据。根据文件数量和电脑配置，处理时间从几分钟到几十分钟不等，请耐心等待状态变为”已完成”。

六、第四步：配置 AI 助手并关联知识库

6.1 新建对话助手

回到 “对话” 界面，新建一个智能体或对话。在模型下拉菜单中选择 qwen2.5:7b。

6.2 开启知识库检索

在对话窗口中找到 “知识库” 或 “RAG” 开关并打开，勾选”现行有效法律法规”知识库。

6.3 设置系统提示词

为确保 AI 回答的严谨性，在助手的”系统提示词”中输入以下指令：

你是一个专业的中国法律顾问。请仅根据知识库中提供的法律法规文本回答用户问题。

如果知识库中有明确规定，请准确回答，并必须引用具体的法律名称和条款序号
（如：根据《中华人民共和国民法典》第一百零五条...）。

如果知识库中没有相关规定，请明确回答"根据现有知识库未找到相关法律依据"，
绝对不要编造法条或自行推理。

保持客观、严谨的法言法语。

七、第五步：开始本地检索与问答

至此，您的本地法律 AI 助手已搭建完成。以下是几个测试提问示例：

• “劳动合同法中关于试用期最长不得超过几个月？”
• “如果公司没有给我交社保，我该如何解除劳动合同并要求经济补偿？”
• “请帮我总结一下《公司法》中关于有限责任公司股东出资期限的最新规定。”

AI 会在后台瞬间检索本地法律文件，匹配最相关的法条片段，并结合大模型的语言能力生成带有法条引用的专业回答。全程无需联网，数据绝对安全。

八、bge-m3 国内下载与离线部署方案

由于 Ollama 官方服务器位于海外，国内用户直接执行 ollama pull bge-m3 常常遇到速度慢或连接中断的问题。以下提供两种解决方案。

方案一：配置国内镜像源

在拉取模型前，先设置环境变量指向国内镜像：

Windows（PowerShell）：

$env:OLLAMA_HOST="https://ollama.modelscope.cn"
ollama pull bge-m3

Mac / Linux（终端）：

export OLLAMA_HOST="https://ollama.modelscope.cn"
ollama pull bge-m3

方案二：从魔搭社区离线下载（推荐）

这是最稳妥、速度最快的方案——从国内”魔搭社区（ModelScope）”下载 GGUF 格式模型文件，再手动导入 Ollama。

第一步：下载模型文件

1. 访问 ModelScope 魔搭社区
2. 搜索 bge-m3 GGUF
3. 下载 fp16.gguf（约 2.2GB，精度最高）或 q8_0.gguf（约 1.1GB，速度更快）

💡 不建议下载 q4 或 q2 版本：Embedding 模型对精度要求较高，过度压缩会导致法律条文检索不准确。

第二步：创建 Modelfile 配置文件

在模型文件所在目录（例如 D:\AI_Models\）创建一个名为 Modelfile 的纯文本文件（无任何后缀），内容为：

FROM D:\AI_Models\bge-m3-fp16.gguf

⚠️ Windows 用户注意：请确保文件名为 Modelfile 而非 Modelfile.txt。在文件夹”查看”菜单中勾选”文件扩展名”以确认。

第三步：导入 Ollama

打开终端，执行以下命令：

ollama create bge-m3 -f D:\AI_Models\Modelfile

几秒钟后终端显示 success，即表示导入成功。执行 ollama list 可验证模型是否出现在列表中。

第四步：在 Cherry Studio 中使用

进入 Cherry Studio 的 设置 → 模型服务 → Ollama，点击”同步模型”，手动导入的 bge-m3 即可正常使用。

九、树莓派 4B 能跑这套系统吗？

结论：理论上可行，但实际体验极差，强烈不建议将树莓派 4B 作为本地大模型的计算主力。

具体分析如下：

表格

组件	树莓派 4B 表现	说明
bge-m3（嵌入模型）	✅ 能跑，但很慢	8GB 版本可运行，但建立索引可能需要数小时
qwen2.5:7b（对话模型）	❌ 极慢或无法运行	4GB 版内存溢出；8GB 版生成速度仅 0.5-2 字/秒
Cherry Studio（客户端）	❌ 难以安装且卡顿	基于 Electron，ARM Linux 兼容性差

树莓派的正确玩法：算力分离架构

如果您希望利用树莓派 24 小时低功耗在线的优势，推荐采用 Client-Server 架构：

• 树莓派：部署 Ollama + bge-m3，充当”知识库管家”，负责存储法律文件和向量检索
• 主力电脑：运行 qwen2.5 对话模型，负责 AI 推理与回答生成

在树莓派上设置环境变量 OLLAMA_HOST=0.0.0.0 开放局域网访问，然后在主力电脑的 AI 客户端中将 Embedding 模型和知识库 API 指向树莓派的局域网 IP（如 http://192.168.1.100:11434）即可。

十、常见问题与避坑指南

Q1：Cherry Studio 的 Embedding 下拉菜单中找不到 bge-m3？

某些版本会自动过滤非 Chat 类型模型。解决方法：在”模型服务 → Ollama → 管理”中手动添加模型，名称填 bge-m3，类型选择 Embedding，然后重启软件。

Q2：bge-m3 下载速度极慢或频繁报错？

优先使用上文介绍的”魔搭社区离线下载 + Modelfile 导入”方案，彻底规避网络问题。

Q3：8GB 内存的电脑够用吗？

完全够用。bge-m3 仅占用约 1.5GB 内存，qwen2.5:7b 量化后约需 5-6GB。8GB 内存可以运行但较为紧张，建议关闭其他占用内存的程序；16GB 及以上内存体验最佳。

Q4：Modelfile 导入时报”找不到文件”错误？

99% 的原因是 Windows 自动隐藏了文件后缀，导致文件实际名称为 Modelfile.txt。请在文件夹设置中开启”显示文件扩展名”并修正文件名。

总结

本文详细介绍了如何使用 Cherry Studio、Ollama 和 bge-m3 三大工具，在零代码、零联网的条件下，搭建一套本地法律法规 AI 知识库与智能问答系统。

整套方案的核心价值在于：数据完全不出本机，从根本上杜绝了隐私泄露风险；操作门槛极低，无需编程和运维经验；检索专业可靠，bge-m3 对中文法律文本的语义理解能力出色，配合精心设计的系统提示词，AI 能够给出带法条引用的严谨回答。

无论您是律师、法务、法学生，还是对法律科技感兴趣的开发者，这套方案都值得尝试。从安装 Ollama 到完成第一次法律问答，整个过程大约只需要 30 分钟。