smart-connections安装后花了6小时时间才把本地的笔记进行embedding完成，接着不知道怎么配置才能连接到在线的deepseek, 它是和openAI api兼容的，但是好像要建立本地ollama服务才能加载deepseek模型是吗？但是本地模型需要大内存，条件不满足，所以想直接配置在线接口，有什么办法吗？
它的 Chat 模型是在侧栏里配的, 大概类似这样
花了6小时时间才把本地的笔记进行embedding完成
建议先拿小仓库试试水… 这插件不熟悉时还是有点折腾的
如果觉得这六小时的 embedding 成果有效, 建议赶紧备份 .smart-env/multi/*.ajson 未来万一把向量数据弄挂了, 还能覆盖回去, 将就着还能用 (过期老数据覆盖回去没事, 它下次启动时会检查仓库哪个文件改过, 然后就只计算新笔记)
2 个赞
另外几个提示:
1 抽查几个 .smart-env/multi/*.ajson 如果只有元数据, 没看到 "vec":[-0.08390436,0.01437502,... 一串数, 建议把这文件删了, 否则它可能以为这是有效的嵌入文件, 简单判断: 只有1-2kb 的 ajson 肯定有问题
2 设置界面那几个按钮 Re-load Sources, Import, Prune, Clear All & Re-import (最后那个肯定知道不要随意按, 其他三个说实话看不明白) 其含义分别是
// Runs the load process by invoking superclass methods and rendering settings.
source_collection.run_load(); // 会重新载入模型
// Runs the import process by queuing imports for changed items and processing the import queue.
source_collection.run_import(); // 就是看嵌入块 metadata 是否改变了, 然后排一个 item.queue_import()
// Runs the prune process to clean up sources and blocks.
source_collection.run_prune(); // 灭掉失效的嵌入块
// confirm("Are you sure you want to clear all data and re-import? This action cannot be undone."))
// Clears all data by removing sources and blocks, reinitializing the file system, and reimporting items.
source_collection.run_clear_all();
3 一定要选支持中文的嵌入模型
2 个赞
我换了一个小小库，确实快很多，可以成功chat了，太棒了！非常感谢！！
1 个赞
有没有具体填写配置的对应设置呢？这里面的东西看的迷糊
一般来说, 只关心几样东西:
1 调用网址是啥, 关键词 base_url 或 endpoint, 有的插件让填到 v1 有的让填到最后 .../chat/completions
举例
https://api.deepseek.com/v1
https://api.moonshot.cn/v1/chat/completions
https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions
2 模型名是啥, 关键词 model_name, 每家平台网站里会提供, deepseek-chat moonshot-v1-8k 等等
3 api_key 是啥, 这个好理解
有的插件会对这一整套配置, 让用户取一个 label 名字, 那这个就随便写
smart-connections 这个是非要拆开了填写, 一般别的插件不这样填
我这个通义千问的对着不？
实测对的, 可以用, 我除了 qwen-turbo 跟你不一样, 其他填的都一致
它可以回答，但是会显示如下的信息：No model selected.
实测不影响用, 别管他, 感觉这插件最近又重构了, 唉
右上角还会显示这个信息呢，也有点看不懂了
表示插件查到仓库里有 4080 个片段需要做索引, 等全做完索引, 才能对知识库聊天
bge-micro-v2 是它默认给设的向量嵌入模型, 快, 能力差, 不支持中文
NaN tokens 不靠谱, 如果总这样就有问题, 其一原因可能是, 它没能从 huggingface 下载到那个嵌入模型 (考虑开魔法后, 重启 Ob 让它再下载一次, 成功下载后就缓存了, 之后不必魔法)
如果不太熟悉 smart-connections 强烈建议先找个小仓库做实验
感谢感谢大佬！回答问题好细致啊，真心感谢
！！
你好，能否请教一下你是如何用smart connections插件调用deepseek的API的？我也一直在研究这件事，只不过一直卡在embedding这个过程中过不去，本地对话也显示没有模型连接。
如何用smart connections插件调用deepseek的API
这插件支持所有的 OpenAI 格式 API 的聊天模型, deepseek-chat 自然也是能用的,
参考上面通义千问那个配置, DeepSeek 配置大致如下
一直卡在embedding这个过程中过不去
唉… 这一半是由于插件基本没做报错提示, 一半是国内网络太差了
如果没网络问题, 其实还算省心
实际上你得看它控制台, 才知道里面有多少东西没能下载到,
比如我让它使用 “本地 embedding” 去做嵌入,
解释: 它首次运行嵌入时, 依赖两个网上的资源: transformers.js 是从 jsdelivr 下载, 嵌入模型 Jina-v2-base-zh-8k 是从 huggingface 下载
如图问题是它有可能下载不到 (这图还略过了之前一堆网络报错)
办法是首次使用时, 开全局魔法先让它把模型下载到, 之后就缓存了
本地对话也显示没有模型连接
实测不影响使用, 等着慢慢改 bug 吧
关于魔法，我可以开启，刚刚开启魔法选择“本地embedding”一次，进度还是一直上不去。是不是像我这种直接填写deepseekAPI，没有经过本地部署的要选择open ai模型相关的东西啊？
其实我的主要需求还就是embedding本地知识库，对话内容可以接受网页或者手机询问，请大佬指点该如何设置这些。
看错了，我已经放弃smart-connection, 现在用的是smart-composer, 这个好用多了
可以支持本地知识库的embedding吗大佬？
可以的，我就是成功了，才一直用它
好的好的，那我现在就去试试
