Obsidian插件篇-Copilot搭建本地知识库大模型

growhuan · 2025 年3 月 2 日 03:03

本篇文章主要介绍如何使用Obsidian+Ollama+Copilot搭建本地知识库大模型，细节部分可以参考提及的链接。

电脑配置不行给出回答会很慢，效果并不理想。即使电脑配置可以，基于知识库的问答效果依然不尽人意。即使现在deepseek风头无二，也不建议普通人折腾，玩一玩还行。

想搭建自己的本地大模型知识库，希望AI助手能够成为我的知识助手。

配置参数如下的笔记本，运行起来ali 7b模型生成速度太慢。

配置参数如下的台式机，运行起来ali 7b模型速度可以。

满血版的deepseek家用的硬件根本支持不起，7b,8b版本使用体验比满血版又差的太多。

绵羊猫 · 2025 年3 月 3 日 06:34

之前看到别人讨论Deepseek开源的稀疏注意力论文，按这里面提到的情况，标准情况下大模型上下文长度很不够用，又不太可能为本地数据专门训练一个模型出来，那本地知识库是不是原理上就不太可行？
不知道现在RAG技术的效果怎么样了，之前用通义理解文档，感觉不太行。