如何在SillyTavern中使用Voxtral Mini 3B 2507?
mistralai/voxtral-mini-3b-2507在 SillyTavern 中,打开API Connections,将API设置为Chat Completion,将Chat Completion Source设置为Custom (OpenAI-compatible),在Custom Endpoint (Base URL)中输入https://api.uberllm.dev/v1,将您的 UberLLM 密钥粘贴到Custom API Key中,点击Connect,然后在Enter a Model ID中输入mistralai/voxtral-mini-3b-2507。
- API
Chat Completion- Chat Completion Source
Custom (OpenAI-compatible)- Custom Endpoint (Base URL)
https://api.uberllm.dev/v1- Custom API Key
ull_your_key- Enter a Model ID
mistralai/voxtral-mini-3b-2507
SillyTavern 调用:OpenAI 聊天补全 https://api.uberllm.dev/v1/chat/completions · 完整的SillyTavern指南
把 ull_your_key 换成你的 UberLLM API 密钥。一个密钥可用于所有工具和所有模型。
通过 API,Voxtral Mini 3B 2507 在三个地址上响应,使用相同的 UberLLM 密钥和模型 ID mistralai/voxtral-mini-3b-2507:位于https://api.uberllm.dev/v1/chat/completions的 OpenAI 聊天补全、位于https://api.uberllm.dev/v1/responses的 OpenAI Responses API 以及位于https://api.uberllm.dev/v1/messages的 Anthropic Messages API。