admin 发表于 2024-8-21 03:22:55

想用大模型搭建私有知识库,处理5GB左右的企业PDF文档,求助各位大佬!

想搭建私有知识库,目前有两个想法:
1. 类似训练 LoRA 的方式,用数据训练 LoRA 模型,与主模型一起使用,最好能合并成一个模型。
2. 使用 MaxKB + Ollama,搭建向量数据库,部署开源模型。
想知道还有没有其他方案?
另外,对于自建私有知识库,是训练企业自己的模型好,还是使用第二种方案好呢?不太理解两种区别,感觉第一种训练自己的模型更方便迁移,只需要将模型下载下来,传到其他服务器,用 Ollama 启动即可。
页: [1]
查看完整版本: 想用大模型搭建私有知识库,处理5GB左右的企业PDF文档,求助各位大佬!