一元网络论坛

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 152|回复: 0

想用大模型搭建私有知识库,处理5GB左右的企业PDF文档,求助各位大佬!

[复制链接]

3万

主题

3万

帖子

9万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
96158
发表于 2024-8-21 03:22:55 | 显示全部楼层 |阅读模式
想搭建私有知识库,目前有两个想法:
1. 类似训练 LoRA 的方式,用数据训练 LoRA 模型,与主模型一起使用,最好能合并成一个模型。
2. 使用 MaxKB + Ollama,搭建向量数据库,部署开源模型。
想知道还有没有其他方案?
另外,对于自建私有知识库,是训练企业自己的模型好,还是使用第二种方案好呢?不太理解两种区别,感觉第一种训练自己的模型更方便迁移,只需要将模型下载下来,传到其他服务器,用 Ollama 启动即可。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|一元网络论坛

GMT+8, 2024-11-28 14:43 , Processed in 0.074334 second(s), 19 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表