跳到主要内容

Venice

Venice.AI 是一个注重隐私的生成式 AI 平台,允许用户与开源 LLM 互动,而无需存储任何私人用户数据。要开始使用 Venice 的 API,可以购买专业账户,质押 $VVV 以获得每日推理配额,或使用美元为您的账户充值,然后前往 https://venice.ai/settings/api。Venice 托管着最先进的开源 AI 模型,并支持 OpenAI API 标准,使用户能够轻松与平台互动。在 https://venice.ai/api 了解更多关于 Venice API 的信息。

~/.continue/config.json 修改为如下所示。

config.json
{
"models": [
{
"provider": "venice",
"title": "Autodetect",
"model": "AUTODETECT",
"apiKey": "..."
}
]
}

要使用 venice API 提供的、不属于标准 OpenAI API 模式的功能,请将这些功能作为 venice_parameters 包括在内。

例如,要使用没有系统提示的模型,您可以像这样明确关闭该功能:

config.json
{
"completionOptions": {
"venice_parameters": {
"include_venice_system_prompt" : false
},
...
}
}

在此处了解有关可用设置的更多信息:here