Groq

信息

请参阅模型文档，检查您选择的模型是否仍受支持。如果模型已弃用，您在使用时可能会遇到 404 错误。

Groq 为开源语言模型提供最快的推理速度，包括整个 Llama 3.1 系列。

1. 在此处获取 API 密钥
2. 如下更新您的 Continue 配置文件

YAML

config.yaml

models:
  - name: Llama 3.3 70b Versatile
    provider: groq
    model: llama-3.3-70b-versatile
    apiKey: <YOUR_GROQ_API_KEY>
    roles:
      - chat

JSON

config.json

{
  "models": [
    {
      "title": "Llama 3.3 70b Versatile",
      "provider": "groq",
      "model": "llama-3.3-70b-versatile",
      "apiKey": "<YOUR_GROQ_API_KEY>"
    }
  ]
}