LibreChat

LibreChat integriert UberLLM als benutzerdefinierten Endpoint in librechat.yaml.

Bevor Sie beginnen

• Ein UberLLM-Konto mit Guthaben und einem API key von Dashboard → Keys (ull_...).

1. Füge den Schlüssel zu .env hinzu

UBERLLM_API_KEY=ull_your-key-here

2. Füge den Endpoint zu librechat.yaml hinzu

Wenn die Datei bereits eine endpoints.custom-Liste enthält, füge nur den - name:-Eintrag mit der gleichen Einrückung ein.

version: 1.3.18
endpoints:
  custom:
    - name: "UberLLM"
      apiKey: "${UBERLLM_API_KEY}"
      baseURL: "https://api.uberllm.dev/v1"
      models:
        default: ["deepseek/deepseek-v4.1-flash", "z-ai/glm-5.2", "moonshotai/kimi-k3", "google/gemini-2.5-flash"]
        fetch: true
      titleConvo: true
      titleModel: "qwen/qwen3-vl-235b-a22b-instruct"
      modelDisplayLabel: "UberLLM"
      iconURL: "https://uberllm.dev/apple-icon"
      headers:
        X-Title: "LibreChat"

• fetch: true lädt jedes Chat-Modell von /v1/models (ungefähr 250). Für ein kurzes Menü setze fetch: false und liste die gewünschten Modelle in default auf.
• titleModel ist ein schnelles Modell, das ohne einen Begründungsschritt antwortet, daher fallen Chat-Titel kurz aus.
• Damit jeder Benutzer seinen eigenen Key im LibreChat-Bildschirm eingeben kann, schreibe apiKey: "user_provided" (kein ${}).

3. Die Datei mounten (Docker)

Erstellen Sie docker-compose.override.yml neben docker-compose.yml:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

Starten Sie dann neu: docker compose down && docker compose up -d.

Empfohlene Modelle

Geprüft am 30. Oktober 2026: jedes streamte eine Antwort über UberLLM.

Häufige Fehler