论坛 › 资源分享 › 将GitHub Models 模型集成到 One API 等分发平台。

admin 发表于 2024-8-30 15:16:46

将GitHub Models 模型集成到 One API 等分发平台。

Github Models 的 API 格式没有 `v1` 前缀，无法直接在 one-api 等客户端使用。可以使用 Nginx 做转发来解决：
```nginx
server {
    listen 80;
    server_name yourdomain.com;
    location /v1/chat/completions {
      proxy_pass https://models.inference.ai.azure.com/chat/completions;
      proxy_set_header Host models.inference.ai.azure.com;
      proxy_set_header X-Real-IP $remote_addr;
      proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
      proxy_set_header X-Forwarded-Proto $scheme;
    }
}
```
注意，生产环境下需要使用 SSL 验证。

查看完整版本: 将GitHub Models 模型集成到 One API 等分发平台。