LibreChat

LibreChat thêm UberLLM như một custom endpoint trong librechat.yaml.

Trước khi bắt đầu

• Một tài khoản UberLLM có số dư, và một API key từ Dashboard → Khóa](ull_...).

1. Thêm khóa vào .env

UBERLLM_API_KEY=ull_your-key-here

2. Thêm endpoint vào librechat.yaml

Nếu tệp đã có danh sách endpoints.custom, chỉ dán mục - name: vào đó, với cùng mức thụt lề.

version: 1.3.18
endpoints:
  custom:
    - name: "UberLLM"
      apiKey: "${UBERLLM_API_KEY}"
      baseURL: "https://api.uberllm.dev/v1"
      models:
        default: ["deepseek/deepseek-v4.1-flash", "z-ai/glm-5.2", "moonshotai/kimi-k3", "google/gemini-2.5-flash"]
        fetch: true
      titleConvo: true
      titleModel: "qwen/qwen3-vl-235b-a22b-instruct"
      modelDisplayLabel: "UberLLM"
      iconURL: "https://uberllm.dev/apple-icon"
      headers:
        X-Title: "LibreChat"

• fetch: true tải mọi mô hình trò chuyện từ /v1/models (khoảng 250). Để có một menu ngắn gọn, hãy đặt fetch: false và liệt kê các mô hình bạn muốn trong default.
• titleModel là một mô hình nhanh trả lời mà không cần bước suy luận, nên tiêu đề cuộc trò chuyện sẽ ngắn gọn.
• Để mỗi người dùng có thể nhập khóa riêng của họ trong màn hình LibreChat, hãy viết apiKey: "user_provided" (không có ${}).

3. Gắn tệp (Docker)

Tạo docker-compose.override.yml bên cạnh docker-compose.yml:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

Sau đó khởi động lại: docker compose down && docker compose up -d.

Các mô hình được đề xuất

Đã kiểm tra vào 30 tháng 10, 2026: mỗi mô hình đều đã truyền tải một câu trả lời qua UberLLM.

Lỗi thường gặp