ReplicateLLM

Replicate 是一个很好的选择，适用于新发布的语言模型或您通过其平台部署的模型。在这里注册一个账户，复制您的 API 密钥，然后从Replicate 流式模型列表中选择任何模型。将 ~/.continue/config.json 修改为如下所示：

YAML

config.yaml

models:
  - name: Replicate CodeLLama
    provider: replicate
    model: codellama-13b
    apiKey: <YOUR_REPLICATE_API_KEY>

JSON

config.json

{
  "models": [
    {
      "title": "Replicate CodeLLama",
      "provider": "replicate",
      "model": "codellama-13b",
      "apiKey": "<YOUR_REPLICATE_API_KEY>"
    }
  ]
}

如果您未指定 model 参数，则默认为 replicate/llama-2-70b-chat:58d078176e02c219e11eb4da5a02a7830a283b14cf8f94537af893ccff5ee781。

查看源代码