元峰AI笔记 · AI知识库

方案二:搭建MaxKB可视化个人知识库

<titleDeepSeek 搭建个人知识库教程</title

DeepSeek 搭建个人知识库教程

兄弟们,你是不是经常被AI的回答气得想砸键盘?

"让你查公司去年的财务数据,它给你背起了经济学原理..."

"让它分析竞品策略,它给你讲起了马斯洛需求..."

我懂,这种感觉就像你花钱请了个助理,结果这助理啥都不会,就会复制粘贴百度百科!

但是今天,我要教大家一招绝活:使用 DeepSeek 打造专属的AI知识库!

这招我自己已经在用了,效果相当惊艳。不仅让AI变得超级靠谱,关键是再也不用担心商业机密泄露了!

私有知识库在前AI时代就有非常多使用场景,尤其是企业内部知识、个人知识库等。结合一个优秀的 DeepSeek 之后,能够让知识检索和归纳上升一个台阶。

小白快速搭建个人AI知识库

个人AI知识库的方案有很多种,今天介绍一种难度很低且知识检索效果不错的方案:AnythingLLM + DeepSeek R1

工具简介

  • AnythingLLM 是一个知识库管理的前端工具,支持上传知识、向量化数据和RAG(检索增强生成)一条龙服务,并且是开源免费的。

  • DeepSeek R1 是幻方量化的大模型,总体评分与Claude 3.5不相上下,且Token成本非常低。本次方案使用DS作为推理模型。

    • 注意:AnythingLLM还支持其他推理模型,如GPT、Claude或通过Ollama运行本地开源模型等。

一、安装AnythingLLM

下载AnythingLLM

地址:https://anythingllm.com/,支持windows、mac、Linux系统。

图片展示的是AnythingLLM官网界面,突出其隐私设计,支持Windows、MacOS、Linux系统下载。画面右侧显示“下载Windows (x64)”按钮,旁边有“Download for Windows (ARM)”按钮。右侧弹出窗口显示“正在下载”状态,进度条已满,提示“下载完成”。该图片与上下文关系紧密,上下文提到下载AnythingLLM支持windows、mac、Linux系统,此图直观呈现了Windows系统下载的界面及下载完成情况。

配置AI大脑

打开软件,先设置LLM,这里选DeepSeek,模型选择chat(也就是最新的模型)。API Key可以

去它们官网注册下,https://platform.deepseek.com 充值几块钱就够用了。

图片展示的是AnythingLLM软件中配置AI大脑的界面。上方显示“LLM提供商”,下方有“DeepSeek”选项,其下文字为“Run DeepSeek’s powerful LLMs.”。下方还有“API Key”和“Chat Model Selection”两个设置区域,其中“API Key”处显示有星号遮挡的密文,而“Chat Model Selection”处显示“deepseek-chat”。该图片与上文配置AI大脑时选择DeepSeek及模型选择chat的内容相关,直观呈现了设置界面。

但是你可能会看到这样的信息:“我们正在对网站进行维护升级,网站暂时无法访问。我们将尽快恢复服务,感谢您的理解与支持。”

图片展示的是AnythingLLM官网的维护升级页面。画面中有一只蓝色的海豚,正专注地看着面前的笔记本电脑。下方文字说明“我们正在对网站进行维护升级,网站暂时无法访问。我们将尽快恢复服务,感谢您的理解与支持。”该图片位于介绍AnythingLLM安装教程中“下载AnythingLLM”部分之后,可能是因官网维护升级导致无法访问,提示用户稍后重试或尝试其他方式。

如果发现官网的API无法使用,可以尝试本地部署版本的DeepSeek。

部署过程可以看下面这个文档:

图片展示了AnythingLLM的LLM首选项界面。左侧菜单栏中“LLM首选项”被红色箭头突出显示。右侧界面显示LLM提供商为Ollama,可本地运行LLM,下方有Ollama Model和Max Tokens两个设置项,Ollama Model下拉菜单中“deepseek-r1 8b”被红色箭头指向,Max Tokens显示为4096。该图片与文档中介绍LLM首选项设置的内容相关,直观呈现了设置界面及关键选项。

进入工作区

可以在左下角设置按钮中进行基础配置,如:LLM、嵌入模型、向量数据库选择等,新手可以先保持默认设置。

(这里单独提下Embedding模型,Embedding是将高纬度数据嵌入低纬度空间方便存储,模型性能影响对后续知识检索有挺大影响,建议可以换成bge-m3,这个模型对多语言和长文本都支持的不错,需要本地运行0llama加载这个模,由于需要安装0llama,新手可以跳过这一步)

图片展示的是Windows PowerShell界面,显示“ollama run bge-m3”命令正在执行,提示“pulling manifest”及“pulling daec91ffbb5dd... 17%”,同时显示传输进度为201 MB/1.2 GB,速度为4.9 MB/s,剩余时间3m14s。该图片与文档中“安装AnythingLLM”部分相关,用于说明安装最新ollama时运行bge-m3模型的命令及执行情况,是安装过程中的一个操作示例。

图片展示了AnythingLLM嵌入首选项界面。左侧为导航栏,选中“Embedder首选项”。右侧“嵌入引擎提供商”处显示为Ollama,可选择本地运行的Ollama模型,当前选中“bge-m3 latest”。下方有“Max Embedding Chunk Length”输入框,当前值为8192。底部“Ollama Base URL”处显示为“http://127.0.0.1:1434”。该图片与文档中上传文档前设置嵌入引擎的内容相关,展示了嵌入引擎的设置界面及可选参数。

二、上传文档

  1. 上点击工作空间的上传按钮,打开上传

图片展示了AnythingLLM界面中上传文档的操作区域。画面左上角有其标志,下方有一个“+ 新工作区”按钮。画面右下角有一个红色箭头指向的图标,该图标为一个带有箭头的“上”字,旁边还有两个图标,分别是网格状图标和齿轮状图标。该图片与文档中“上传文档”部分内容相关,直观呈现了点击工作空间上传按钮后打开上传操作的界面位置,辅助说明上传文档的具体位置和操作入口。

  1. 支持上传pdf、csv、音频或者抓取网页内容等等。上传后右键加入工作空间就ok了。

图片展示了AnythingLLM界面中上传文档的操作。左侧为工作空间界面,有“New Thread”等选项,下方显示“Custom documents”文件夹及“元蜂”文档。右侧是“元蜂”文档内容,包含“元蜂”“元蜂”“元蜂”等重复信息。中间有“Move to Workspace”按钮,下方提示可拖拽上传文件。图片与上下文关系紧密,直观呈现了上传文档的操作步骤及界面展示,帮助用户了解如何将文档移动至工作空间。

  1. 也可以在Data Connnector中获取youtube(需要有cc字幕)视频、confluence文档库等内容平台的

数据。

图片展示的是AnythingLLM的Data Connectors界面。左侧有多个数据连接选项,如GitHub Repos、GitLab Repo、YouTube Transcript等。右侧弹出的GitHub Repos数据连接窗口中,显示了GitHub Repo URL、GitHub Access Token、Branch、File ignores等输入框,其中Branch被设置为“main”,并有提示未填写Access Token时仅能收集公开仓库的顶层文件。该图片与文档中“上传文档”部分上下文相关,用于说明在Data Connectors中获取数据的操作。

三、知识检索问答

  1. 在工作区点击new thread可以开启新的对话,然后提问就ok了

图片展示了AnythingLLM知识检索问答界面。左侧为工作区,有default和New Thread选项,当前选中default。右侧显示用户提问“如何理解一个知识库的构建”,下方有引用的多个文档链接,如“知识库构建.docx”等。还呈现了“过去一年中,我做了哪些事情”的内容。底部有“Send a message”输入框及发送按钮。该图与文档中介绍知识检索问答功能的内容相关,直观呈现了提问、引用文档及回复信息的界面情况。

  1. 如果想判断LLM回答的知识范围,可以在回答的底部点开:Show Citations就能看到引用了哪些知

识。

图片展示了在工作区点击new thread开启新对话后,提问“元鲸主要做了哪些事情?”的回复界面。底部有“Hide Citations”选项,展开后显示了引用的多个文档,如“AI数字、API上的加速器.docx”“元鲸的AI创业复盘,AI破局和AI_的逆袭.docx”等,还标注了引用数量“487条帖子,25篇AI - 什么7.docx”和“元鲸的使用说明书.docx”。该图片与上文介绍判断LLM回答知识范围的内容相关,直观呈现了点击“Show Citations”后可看到引用知识的场景。

AnythingLLM是一个很强大的知识库管理工具,新版本还提供了Agent模式,可以接入谷歌、bing等搜索引擎,实现实时搜索增加检索的时效性。

方案二:搭建MaxKB可视化个人知识库

<synced_reference src-block-id="SDuvd9a4bs8zLobWywmcMMRFnmg" src-token="Vq8OdiF63oMutxxX0FacOXaVnth"></synced_reference>