在 Continue 中使用 Instinct 与 Ollama
了解如何通过 Ollama 在您自己的硬件上运行 Continue 领先的 Next Edit 模型——Instinct
Instinct 是一个拥有 70 亿参数的模型。如果在笔记本电脑上运行,响应可能会较慢。要了解如何在 GPU 上对 Instinct 进行推理,请查看我们的 HuggingFace 模型卡片。
我们最近发布了 Instinct,这是一款业界领先的开源 Next Edit 模型。它基于 Qwen2.5-Coder-7B 进行了深度微调,能够智能预测您的下一步操作,助您保持流畅的编程体验。要了解有关该模型的更多信息,请参阅我们的博客文章。

1. 安装 Ollama
如果您尚未安装 Ollama,请参阅我们的指南这里。
2. 下载 Instinct
ollama run nate/instinct
3. 更新您的 config.yaml
打开您的
config.yaml 并将 Instinct 添加到模型部分# ... rest of config.yaml ...
models:
- uses: continuedev/instinct
或者,您可以直接点击链接添加该配置块:https://continue.org.cn/continuedev/instinct。