Endpoint tùy chỉnh LibreChat cho UberLLM (librechat.yaml)

Các bước

1. Tạo một khóa trên trang khóa của bạn và nạp tiền.
2. Thêm khóa vào tệp .env trong thư mục của LibreChat:

UBERLLM_API_KEY=ull_your_key

Dùng tên này, không phải OPENAI_API_KEY, để endpoint OpenAI tích hợp không nhận diện nó.

3. Thêm UberLLM vào librechat.yaml (cùng thư mục với .env):

version: 1.3.18
cache: true
endpoints:
  custom:
    - name: "UberLLM"
      apiKey: "${UBERLLM_API_KEY}"
      baseURL: "https://api.uberllm.dev/v1"
      models:
        default: ["deepseek/deepseek-v4.1-flash", "google/gemini-3.5-flash", "anthropic/claude-sonnet-5.5"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "UberLLM"

Nếu tệp của bạn đã có endpoints: custom:, chỉ thêm khối - name: "UberLLM" vào danh sách đó. Giữ dòng version của tệp bạn nếu nó mới hơn.

4. Docker: đảm bảo tệp được mount. Trong docker-compose.override.yml:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

5. Khởi động lại: docker compose down && docker compose up -d (hoặc khởi động lại tiến trình npm).
6. Chọn UberLLM trong menu endpoint và chọn một mô hình.

Chức năng của các trường

• baseURL: LibreChat thêm /chat/completions vào đó, vì vậy hãy dừng lại ở /v1.
• models.default: các mô hình luôn được hiển thị. fetch: true yêu cầu UberLLM cung cấp toàn bộ danh sách của nó ngoài những mô hình đó.
• titleModel: "current_model": tiêu đề cuộc trò chuyện được viết bởi mô hình bạn đang trò chuyện. Thay vào đó, hãy đặt một ID rẻ tiền như deepseek/deepseek-v4.1-flash để giữ chi phí tiêu đề gần bằng không.
• Bạn muốn mỗi người dùng tự mang theo khóa UberLLM của riêng họ? Đặt apiKey: "user_provided" và LibreChat sẽ yêu cầu họ cung cấp.

Khắc phục sự cố

• UberLLM không xuất hiện trong menu: LibreChat không đọc được tệp. Kiểm tra xem nó có nằm cạnh .env (hoặc tại CONFIG_PATH), được mount trong Docker, và đọc docker compose logs api để tìm lỗi cấu hình. Một tệp bị lỗi sẽ ngăn LibreChat khởi động.
• 401: ${UBERLLM_API_KEY} trống rỗng bên trong container. Kiểm tra dòng .env và khởi động lại.
• Không tìm thấy model 404: id cần có tên nhà sản xuất ở phía trước, ví dụ deepseek/deepseek-v4.1-flash.
• Không đủ credit 402: thêm credit trên trang credit.
• Một model từ chối một cài đặt: hãy bỏ nó cho endpoint này bằng dropParams: ["stop"] (hoặc ["user"]).

Tiếp tục đọc

• Trang tham khảo: Tài liệu LibreChat
• Thiết lập Open WebUI
• Một API key cho tất cả các LLM