admin 发表于 2024-9-16 13:44:23

Sambanova FastAPI 的密钥。

之前申请的API速度很快。它使用了Meta Llama 3.1系列模型，包括8B、70B和405B版本。这些模型支持8192的上下文长度，输出长度为1000，数据类型为BF16。
页: [1]
查看完整版本: Sambanova FastAPI 的密钥。