热门模型提供商
这些是最常用的模型提供商,它们提供广泛的功能。| 提供商 | 描述 | 功能 |
|---|---|---|
| Anthropic | Claude 模型提供商,以长上下文窗口和强大的推理能力而闻名 | 聊天、编辑、应用、嵌入 |
| OpenAI | GPT 模型创建者,具有强大的编码能力 | 聊天、编辑、应用、嵌入 |
| Azure | 微软的云平台,提供 OpenAI 模型 | 聊天、编辑、应用、嵌入 |
| Amazon Bedrock | AWS 服务,提供对各种基础模型的访问 | 聊天、编辑、应用、嵌入 |
| Ollama | 通过简单的界面在本地运行开源模型 | 聊天、编辑、应用、嵌入、自动补全 |
| Google Gemini | 谷歌的多模态 AI 模型 | 聊天、编辑、应用、嵌入 |
| DeepSeek | 性能强大的专用代码模型 | 聊天、编辑、应用 |
| Mistral | 高性能开源模型,提供商业化服务 | 聊天、编辑、应用、嵌入 |
| xAI | xAI 的 Grok 模型 | 聊天、编辑、应用 |
| Vertex AI | 谷歌云的机器学习平台 | 聊天、编辑、应用、嵌入 |
| Inception | 本地部署的开源模型运行器 | 聊天、编辑、应用 |
| HuggingFace | 开源模型平台,提供推理提供商和端点 | 聊天、编辑、应用、嵌入 |
其他模型提供商
除了顶级提供商,Continue 还支持许多其他选项。托管服务
| 提供商 | 描述 |
|---|---|
| Groq | 多种开源模型的超快推理 |
| Together AI | 运行各种开源模型的平台 |
| DeepInfra | 托管各种开源模型 |
| OpenRouter | 访问多个模型提供商的网关 |
| Tetrate Agent Router Service | 智能路由至多个模型提供商的网关 |
| Cohere | 专注于语义搜索和文本生成的模型 |
| NVIDIA | GPU 加速的模型托管 |
| Cloudflare | 边缘 AI 推理服务 |
本地模型选项
| 提供商 | 描述 |
|---|---|
| LM Studio | 用于在本地运行模型的桌面应用程序 |
| llama.cpp | 运行 LLM 的优化 C++ 实现 |
| LlamaStack | 在本地运行 Llama 模型的堆栈 |
| llamafile | 独立的、可执行的模型文件 |
企业解决方案
如何选择模型提供商
选择模型提供商时,请考虑:- 托管偏好:您是否需要本地模型进行离线使用或隐私保护,还是更倾向于云服务?
- 性能要求:不同的提供商在速度、质量和上下文长度方面提供不同级别的服务。
- 特定功能:有些模型在代码生成方面表现出色,而另一些则在嵌入或推理任务方面表现出色。
- 定价:提供商之间的成本差异很大,从免费的本地选项到付费的云服务。
- API 密钥要求:大多数云提供商需要 API 密钥,您需要进行配置。
配置格式
您可以像这样将模型添加到您的config.yaml 文件中。