跳到主要内容
这些是最常用的模型提供商,它们提供广泛的功能。
提供商描述功能
AnthropicClaude 模型提供商,以长上下文窗口和强大的推理能力而闻名聊天、编辑、应用、嵌入
OpenAIGPT 模型创建者,具有强大的编码能力聊天、编辑、应用、嵌入
Azure微软的云平台,提供 OpenAI 模型聊天、编辑、应用、嵌入
Amazon BedrockAWS 服务,提供对各种基础模型的访问聊天、编辑、应用、嵌入
Ollama通过简单的界面在本地运行开源模型聊天、编辑、应用、嵌入、自动补全
Google Gemini谷歌的多模态 AI 模型聊天、编辑、应用、嵌入
DeepSeek性能强大的专用代码模型聊天、编辑、应用
Mistral高性能开源模型,提供商业化服务聊天、编辑、应用、嵌入
xAIxAI 的 Grok 模型聊天、编辑、应用
Vertex AI谷歌云的机器学习平台聊天、编辑、应用、嵌入
Inception本地部署的开源模型运行器聊天、编辑、应用
HuggingFace开源模型平台,提供推理提供商和端点聊天、编辑、应用、嵌入

其他模型提供商

除了顶级提供商,Continue 还支持许多其他选项。

托管服务

提供商描述
Groq多种开源模型的超快推理
Together AI运行各种开源模型的平台
DeepInfra托管各种开源模型
OpenRouter访问多个模型提供商的网关
Tetrate Agent Router Service智能路由至多个模型提供商的网关
Cohere专注于语义搜索和文本生成的模型
NVIDIAGPU 加速的模型托管
Cloudflare边缘 AI 推理服务

本地模型选项

提供商描述
LM Studio用于在本地运行模型的桌面应用程序
llama.cpp运行 LLM 的优化 C++ 实现
LlamaStack在本地运行 Llama 模型的堆栈
llamafile独立的、可执行的模型文件

企业解决方案

提供商描述
SambaNova企业级 AI 平台
Watson xIBM 的企业级 AI 平台
SagemakerAWS 机器学习平台
Nebius云端机器学习平台

如何选择模型提供商

选择模型提供商时,请考虑:
  1. 托管偏好:您是否需要本地模型进行离线使用或隐私保护,还是更倾向于云服务?
  2. 性能要求:不同的提供商在速度、质量和上下文长度方面提供不同级别的服务。
  3. 特定功能:有些模型在代码生成方面表现出色,而另一些则在嵌入或推理任务方面表现出色。
  4. 定价:提供商之间的成本差异很大,从免费的本地选项到付费的云服务。
  5. API 密钥要求:大多数云提供商需要 API 密钥,您需要进行配置。

配置格式

您可以像这样将模型添加到您的 config.yaml 文件中。
models:
  - name: Claude 4 Sonnet
    provider: anthropic # Choose provider from the lists above
    model: claude-sonnet-4-20250514 # Specific model name
    apiKey: ${{ secrets.OPENAI_API_KEY }}
    roles:
      - chat
      - edit
      - apply
有关更详细的配置,请访问上面链接的特定提供商页面。

更改模型提供商

Continue 允许您选择您喜欢的模型提供商,甚至添加多个模型提供商。这使您可以使用不同的模型来处理不同的任务,或者在对当前模型的结果不满意时尝试其他模型。Continue 支持所有热门模型提供商,包括 OpenAI、Anthropic、Microsoft/Azure、Mistral 等。如果您愿意,您甚至可以自托管自己的模型提供商。了解有关模型提供商的更多信息