Endpoint personalizzato LibreChat per UberLLM (librechat.yaml)

Passaggi

1. Crea una chiave sulla tua pagina delle chiavi e aggiungi credito.
2. Aggiungi la chiave al file .env nella cartella di LibreChat:

UBERLLM_API_KEY=ull_your_key

Usa questo nome, non OPENAI_API_KEY, in modo che l'endpoint OpenAI integrato non lo rilevi.

3. Aggiungi UberLLM a librechat.yaml (stessa cartella di .env):

version: 1.3.18
cache: true
endpoints:
  custom:
    - name: "UberLLM"
      apiKey: "${UBERLLM_API_KEY}"
      baseURL: "https://api.uberllm.dev/v1"
      models:
        default: ["deepseek/deepseek-v4.1-flash", "google/gemini-3.5-flash", "anthropic/claude-sonnet-5.5"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "UberLLM"

Se il tuo file ha già endpoints: custom:, aggiungi solo il blocco - name: "UberLLM" a quella lista. Mantieni la riga version del tuo file se è più recente.

4. Docker: assicurati che il file sia montato. In docker-compose.override.yml:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

5. Riavvia: docker compose down && docker compose up -d (o riavvia il processo npm).
6. Seleziona UberLLM nel menu dell'endpoint e scegli un modello.

Cosa fanno i campi

• baseURL: LibreChat vi aggiunge /chat/completions, quindi fermati a /v1.
• models.default: i modelli sempre mostrati. fetch: true chiede a UberLLM la sua intera lista in aggiunta a quelli.
• titleModel: "current_model": i titoli delle chat sono scritti dal modello con cui stai chattando. Imposta invece un ID economico come deepseek/deepseek-v4.1-flash per mantenere i costi dei titoli quasi a zero.
• Vuoi che ogni utente porti la propria chiave UberLLM? Imposta apiKey: "user_provided" e LibreChat gliela chiederà.

Risoluzione dei problemi

• UberLLM non appare nel menu: LibreChat non ha letto il file. Verifica che sia accanto a .env (o a CONFIG_PATH), montato in Docker, e leggi docker compose logs api per un errore di configurazione. Un file errato impedisce a LibreChat di avviarsi.
• 401: ${UBERLLM_API_KEY} è vuoto all'interno del container. Controlla la riga .env e riavvia.
• Modello 404 non trovato: gli ID richiedono il produttore davanti, ad esempio deepseek/deepseek-v4.1-flash.
• Crediti 402 insufficienti: aggiungi credito sulla pagina dei crediti.
• Un modello rifiuta un'impostazione: eliminala per questo endpoint con dropParams: ["stop"] (o ["user"]).

Continua a leggere

• Pagina di riferimento: documentazione LibreChat
• Configurazione di Open WebUI
• Una chiave API per tutti gli LLM