SillyTavern với một API rẻ hơn: kết nối UberLLM trong một phút
Trong SillyTavern, mở API Connections (biểu tượng phích cắm), chọn Chat Completion, đặt Chat Completion Source thành Custom (tương thích OpenAI), nhập https://api.uberllm.dev/v1 làm base URL và khóa UberLLM của bạn, nhập một model id, và nhấn Connect.
Các bước
- Tạo một khóa trên trang khóa của bạn và thêm tín dụng (vài đô la có thể dùng được rất lâu với các mô hình bên dưới).
- Trong SillyTavern, nhấp vào biểu tượng phích cắm ở trên cùng (chú giải công cụ của nó hiển thị API Connections).
- Đặt API thành Chat Completion.
- Đặt Chat Completion Source thành Custom (OpenAI-compatible).
- Điền vào:
- Custom Endpoint (Base URL):
https://api.uberllm.dev/v1 - Custom API Key: khóa
ull_…của bạn - Enter a Model ID:
deepseek/deepseek-v4.1-flash-uncensored
- Custom Endpoint (Base URL):
- Nhấn Connect. Đèn sẽ chuyển sang màu xanh và danh sách Available Models sẽ được điền đầy, để bạn có thể chuyển đổi mô hình từ đó sau.
- Tùy chọn: nhấn Test Message để kiểm tra. Đây là một yêu cầu thực tế, vì vậy nó tốn một phần nhỏ của một xu.
Không thêm /chat/completions vào URL. SillyTavern sẽ tự động thêm nó cho bạn; gợi ý của trường đó cũng nói như vậy.
Các cài đặt quan trọng cho nhập vai
- Prompt Post-Processing: để ở None. Các tùy chọn "no tools" tắt chức năng gọi công cụ, và các tùy chọn "merge" chỉ cần thiết cho các mô hình từ chối hai tin nhắn liên tiếp từ cùng một vai trò.
- Streaming: bật. Mọi mô hình ở đây đều hỗ trợ streaming, nên văn bản xuất hiện ngay khi được tạo.
- Context size: đặt theo khả năng xử lý của mô hình, hoặc giảm xuống để tiết kiệm chi phí. Trang của mỗi mô hình trên uberllm.dev/models liệt kê độ dài context của nó. Bạn trả tiền cho toàn bộ prompt trong mỗi lần phản hồi, vì vậy một context 32k trong một cuộc trò chuyện dài tốn khoảng 4 lần so với một context 8k.
- Max response length: 300 đến 600 tokens phù hợp với hầu hết các trường hợp nhập vai. Output tokens tốn kém hơn input trên hầu hết mọi mô hình.
Tại sao lại rẻ hơn
Cùng một mô hình được bán bởi nhiều nhà cung cấp với các mức giá khác nhau. UberLLM gửi mỗi phản hồi đến nhà cung cấp rẻ nhất đang hoạt động hiện tại và không thêm bất kỳ khoản phí nào cho mỗi yêu cầu, vì vậy một mô hình như deepseek/deepseek-v4.1-flash-uncensored chỉ tốn một phần nhỏ so với giá niêm yết của nó. Bảng dưới đây hiển thị giá tại lần cập nhật hàng giờ gần nhất.
Khắc phục sự cố
- Trạng thái vẫn màu đỏ, hoặc danh sách mô hình trống: khóa bị sai hoặc có khoảng trắng ở cuối. Dán lại và nhấn Connect. Bạn vẫn có thể nhập ID mô hình thủ công; SillyTavern cho phép một custom endpoint bỏ qua kiểm tra trạng thái.
- "Status check bypassed" nhưng không có phản hồi: base URL bị sai. Nó phải chính xác là
https://api.uberllm.dev/v1. - 402 / "insufficient credits": thêm credit trên trang credit.
- 404 model not found: sao chép ID từ bảng bên dưới, bao gồm cả phần trước dấu gạch chéo (
deepseek/…,z-ai/…). - Phản hồi bị cắt cụt giữa chừng: tăng Max response length.
- Mô hình từ chối một cảnh: chuyển sang một trong các mô hình không kiểm duyệt trong bảng đầu tiên. Các mô hình chính thống (Claude, GPT, Gemini) tuân thủ quy tắc của nhà sản xuất.
Đọc thêm
- Trang tham khảo: tài liệu SillyTavern doc
- thiết lập Janitor AI (cùng một key hoạt động ở đó) · tài liệu RisuAI
- Tất cả các mô hình không kiểm duyệt và nhập vai kèm giá
- Cách UberLLM chọn nhà cung cấp rẻ nhất