Llamafile

一个 llamafile 是一个自包含的二进制文件，可以运行开源 LLM。您可以在 config.json 中如下配置此提供商：

config.yaml
models:
  - name: Llamafile
    provider: llamafile
    model: mistral-7b

config.json
{
  "models": [
    {
      "title": "Llamafile",
      "provider": "llamafile",
      "model": "mistral-7b"
    }
  ]
}