Cerebras Inference

Cerebras 推理使用专用芯片提供快速推理。

1. 在此处门户网站创建帐户。
2. 创建并复制 API 密钥，以便在 Continue 中使用。
3. 更新你的 Continue 配置文件

YAML

config.yaml

models:
  - name: Cerebras Llama 3.1 70B
    provider: cerebras
    model: llama3.1-70b
    apiKey:  <YOUR_CEREBRAS_API_KEY>

JSON

config.json

{
  "models": [
    {
      "title": "Cerebras Llama 3.1 70B",
      "provider": "cerebras",
      "model": "llama3.1-70b",
      "apiKey": "<YOUR_CEREBRAS_API_KEY>"
    }
  ]
}