Novita
Novita AI 提供了一个经济实惠、可靠且简单的推理平台,具有可扩展的 LLM API,赋能开发者构建 AI 应用。立即试用 Novita AI Llama 3 API 演示!您可以在 此处 注册,在 密钥管理 页面复制您的 API 密钥,然后点击 Novita AI 模型列表 中的任意模型旁边的播放按钮。将 ~/.continue/config.json
修改为如下所示
- YAML
- JSON
config.yaml
models:
- name: Llama 3.1 8B
provider: novita
model: meta-llama/llama-3.1-8b-instruct
apiKey: <YOUR_NOVITA_API_KEY>
config.json
{
"models": [
{
"title": "Llama 3.1 8B",
"provider": "novita",
"model": "meta-llama/llama-3.1-8b-instruct",
"apiKey": "<YOUR_NOVITA_API_KEY>"
}
]
}