admin 发表于 2024-7-16 01:33:03

微软的GraphRAG,有些许槽点想分享

的确,它的性能令人满意,但令牌消耗实在惊人:
我输入了总计约30页的PDF文件,仅仅构建知识图谱并解答了不到十个问题,就已经耗费了将近250万个令牌。
经过测试,单次回答可能就需要接近10万个令牌。如果处理更大量的数据,估计令牌消耗会更加庞大……
幸运的是,我及时切换到了deepseek,否则使用默认的gpt4,成本恐怕会急剧增加。
https://cdn.linux.do/images/emoji/apple/boom.png?v=12

https://cdn.linux.do/uploads/default/optimized/3X/0/5/05a3536ccbf95495d82bc4f6a330d4c16e049b12_2_690x197.png
Image1784×510 48.4 KB
页: [1]
查看完整版本: 微软的GraphRAG,有些许槽点想分享