DeepInfra

DeepInfra 以非常低的成本为开源模型提供推理服务。要开始使用DeepInfra，请在此获取您的API密钥。然后，在此找到您想使用的模型并复制其名称。然后可以将Continue配置为使用DeepInfra LLM类，例如这里的示例

YAML

config.yaml

models:
  - name: DeepInfra
    provider: deepinfra
    model: mistralai/Mixtral-8x7B-Instruct-v0.1
    apiKey: <YOUR_DEEP_INFRA_API_KEY>

JSON

config.json

{
  "models": [
    {
      "provider": "deepinfra",
      "title": "DeepInfra",
      "model": "mistralai/Mixtral-8x7B-Instruct-v0.1",
      "apiKey": "<YOUR_DEEP_INFRA_API_KEY>"
    }
  ]
}

查看源代码