现在ob在弄原生的数据库，我觉得下一步应该要弄原生的AI框架，因为现在无论本地的LLM还是在线的LLM都提供API服务，ob用户使用这些API和ob的数据结合一定是未来的方向。但是目前已有的插件都无法和ob自身的数据结构结合的很好，这样ob官方来做这一部分是很有必要的。后续无论是弄成api提供给其它插件使用，还是自己出AI服务都是好的。
2 个赞
这个在去年gpt刚出的时候就建议过了，官方的考虑有以下两点。对于在线的模型来说，有悖于数据隐私的初衷，一些用户可能会不放心自己的数据。对于本地模型来说，去年应该尝试过了，但是模型很大，能不能放/怎么放到用户机器是最大的问题…所以只能看后面技术的发展了。
其实现在本地开源模型发展很快，我用的qwen 7B q5 效果已经不错了。后面新的框架出了，资源消耗和效果会越来越好。
关于数据安全，我想和ob的第三方插件类似，增加一个开关。用户要使用就要承受相应的风险，把选择权交给用户。
我的看法也一致，有时间和银姐他们再聊聊这个问题 