在 Continue 中使用 Instinct 与 Ollama

了解如何通过 Ollama 在您自己的硬件上运行 Continue 领先的 Next Edit 模型——Instinct

Instinct 是一个拥有 70 亿参数的模型。如果在笔记本电脑上运行,响应可能会较慢。要了解如何在 GPU 上对 Instinct 进行推理,请查看我们的 HuggingFace 模型卡片
我们最近发布了 Instinct,这是一款业界领先的开源 Next Edit 模型。它基于 Qwen2.5-Coder-7B 进行了深度微调,能够智能预测您的下一步操作,助您保持流畅的编程体验。要了解有关该模型的更多信息,请参阅我们的博客文章

1. 安装 Ollama

如果您尚未安装 Ollama,请参阅我们的指南这里

2. 下载 Instinct

ollama run nate/instinct

3. 更新您的 config.yaml

打开您的 config.yaml 并将 Instinct 添加到模型部分
# ... rest of config.yaml ...

models:
  - uses: continuedev/instinct
或者,您可以直接点击链接添加该配置块:https://continue.org.cn/continuedev/instinct