Dùng UberLLM với SillyTavern
SillyTavern kết nối với UberLLM qua nguồn chat completion Custom (OpenAI-compatible) của nó. Hướng dẫn này do UberLLM duy trì, theo hướng dẫn dành cho các nhà cung cấp tương thích của SillyTavern.
Điều kiện tiên quyết
- Một tài khoản UberLLM có số dư
- Một API key từ Bảng điều khiển → Khóa (
ull_...) - Một model id, ví dụ
deepseek/deepseek-v4.1-flash
Kết nối
- Trong SillyTavern, mở API Connections (biểu tượng phích cắm).
- Đặt API thành Chat Completion.
- Đặt Chat Completion Source thành Custom (OpenAI-compatible).
- Trong Custom Endpoint (Base URL), nhập
https://api.uberllm.dev/v1. Sử dụng API root kết thúc bằng/v1, không phải/chat/completions: SillyTavern sẽ tự động thêm phần đó. - Trong Custom API Key, dán khóa của bạn.
- Nhấp vào Connect. Chọn một mô hình từ Available Models (được tải từ
/v1/models), hoặc nhập ID của nó vào Enter a Model ID. - Prompt Post-Processing: để nó ở chế độ None. Nếu một mô hình từ chối bố cục lời nhắc của bạn (ví dụ, hai tin nhắn liên tiếp từ cùng một vai trò), hãy thử Merge consecutive roles.
- Nhấp vào Test Message.
Máy chủ của SillyTavern thực hiện các cuộc gọi, không phải trình duyệt của bạn, vì vậy không cần thêm bất cứ điều gì khác.
Mô hình đề xuất
Đã kiểm tra vào 30 tháng 10, 2026 qua UberLLM.
| ID mô hình | Ngữ cảnh | Ghi chú |
|---|---|---|
deepseek/deepseek-v4.1-flash |
1,048,576 | Nhanh và rẻ; đưa ra lý do trước khi trả lời |
z-ai/glm-5.2 |
1,048,576 | Giỏi kể chuyện dài |
venice/uncensored-1.2 |
128,000 | Không kiểm duyệt |
deepseek/deepseek-v4.1-flash-uncensored |
1,048,576 | Không kiểm duyệt; ít nhà cung cấp hỗ trợ nên có thể bận |
Các mô hình văn bản không kiểm duyệt được liệt kê cho mọi tài khoản. Giá thay đổi tùy theo nhà cung cấp xử lý mỗi yêu cầu: xem trang mô hình.
Hỗ trợ tính năng
- Khám phá mô hình qua
/v1/models: có, với khóa của bạn. Menu thả xuống liệt kê các mô hình trò chuyện. - Streaming: có.
- Tool calling: có, trên các mô hình hỗ trợ công cụ.
- Vision: có, trên các mô hình đọc hình ảnh (ví dụ
google/gemini-2.5-flash). - Reasoning: các mô hình Reasoning truyền tải lập luận của chúng trong
reasoning_content(và cùng một văn bản trongreasoning) trước câu trả lời, bất kể nhà cung cấp nào phục vụ chúng. - Structured output: có (
response_formatvới một JSON schema), trên các mô hình hỗ trợ tính năng này.
Các hạn chế đã biết
- Mỗi yêu cầu được gửi đến một nhà cung cấp phục vụ mô hình. Các câu trả lời cho cùng một prompt có thể hơi khác nhau giữa các nhà cung cấp.
- Additional Parameters → Include Body Parameters truyền các trường bổ sung đến nhà cung cấp nguyên trạng. Các trường mà mô hình không biết có thể bị bỏ qua hoặc từ chối.
- Chưa được kiểm tra: chế độ hoàn thành văn bản, và tính năng tạo ảnh của SillyTavern thông qua nguồn này.
Lỗi thường gặp
| Bạn thấy gì | Nguyên nhân và cách khắc phục |
|---|---|
Kết nối thất bại, 401 |
API key bị thiếu hoặc gõ sai. |
404 "page not found" |
Endpoint có /chat/completions ở cuối, hoặc bị lỗi chính tả. Hãy dùng https://api.uberllm.dev/v1. |
404 model_not_found |
ID model bị gõ sai. Hãy chọn từ Các Mô hình có sẵn. |
402 insufficient_credits |
Số dư trống. Hãy nạp thêm tiền trong Bảng điều khiển → Tín dụng. |
503 no_available_provider |
Hiện không có nhà cung cấp nào cho model đó. Hãy thử lại hoặc chọn model khác; bạn không bị tính phí. |
Hỗ trợ
Đối với các vấn đề về tài khoản, thanh toán, API hoặc mô hình, hãy gửi email đến [email protected].
Đã xác minh lần cuối với SillyTavern 1.19.0 (staging, 3 tháng 10, 2026) vào ngày 30 tháng 10, 2026.