跳到主要内容

Novita

Novita AI 提供了一个经济实惠、可靠且简单的推理平台,具有可扩展的 LLM API,赋能开发者构建 AI 应用。立即试用 Novita AI Llama 3 API 演示!您可以在 此处 注册,在 密钥管理 页面复制您的 API 密钥,然后点击 Novita AI 模型列表 中的任意模型旁边的播放按钮。将 ~/.continue/config.json 修改为如下所示

config.yaml
models:
- name: Llama 3.1 8B
provider: novita
model: meta-llama/llama-3.1-8b-instruct
apiKey: <YOUR_NOVITA_API_KEY>

查看源码