Anthropic

信息

您可以从 Anthropic 控制台获取 API 密钥。

聊天模型

我们推荐将 Claude 3.5 Sonnet 配置为您的聊天模型。

YAML

config.yaml

models:
  - name: Claude 3.5 Sonnet
    provider: anthropic
    model: claude-3-5-sonnet-latest
    apiKey: <YOUR_ANTHROPIC_API_KEY>

JSON

config.json

{
  "models": [
    {
      "title": "Claude 3.5 Sonnet",
      "provider": "anthropic",
      "model": "claude-3-5-sonnet-latest",
      "apiKey": "<YOUR_ANTHROPIC_API_KEY>"
    }
  ]
}

自动补全模型

Anthropic 目前不提供任何自动补全模型。

点击此处查看自动补全模型提供商列表。

Embedding 模型

Anthropic 目前不提供任何 Embedding 模型。

点击此处查看 Embedding 模型提供商列表。

重排序模型

Anthropic 目前不提供任何重排序模型。

点击此处查看重排序模型提供商列表。

提示词缓存

Anthropic 支持通过 Claude 进行提示词缓存。

要启用系统消息和轮流对话的缓存，请按如下方式更新您的模型配置

YAML

config.yaml

models:
  - name: Anthropic
    provider: anthropic
    model: claude-3-5-sonnet-latest
    apiKey: <YOUR_ANTHROPIC_API_KEY>
    roles:
      - chat
    cacheBehavior:
      cacheSystemMessage: true
      cacheConversation: true

JSON

config.json

{
  "models": [
    {
      "cacheBehavior": {
        "cacheSystemMessage": true,
        "cacheConversation": true
      },
      "title": "Anthropic",
      "provider": "anthropic",
      "model": "claude-3-5-sonnet-latest",
      "apiKey": "<YOUR_ANTHROPIC_API_KEY>"
    }
  ]
}