Novita

Novita AI 提供了一个经济实惠、可靠且简单的推理平台，具有可扩展的 LLM API，赋能开发者构建 AI 应用。立即试用 Novita AI Llama 3 API 演示！您可以在 此处 注册，在 密钥管理 页面复制您的 API 密钥，然后点击 Novita AI 模型列表 中的任意模型旁边的播放按钮。将 ~/.continue/config.json 修改为如下所示

YAML

config.yaml

models:
  - name: Llama 3.1 8B
    provider: novita
    model: meta-llama/llama-3.1-8b-instruct
    apiKey: <YOUR_NOVITA_API_KEY>

JSON

config.json

{
  "models": [
    {
      "title": "Llama 3.1 8B",
      "provider": "novita",
      "model": "meta-llama/llama-3.1-8b-instruct",
      "apiKey": "<YOUR_NOVITA_API_KEY>"
    }
  ]
}

查看源码