LibreChat

LibreChat aggiunge UberLLM come custom endpoint in librechat.yaml.

Prima di iniziare

• Un account UberLLM con credito e una API key da Dashboard → Chiavi (ull_...).

1. Aggiungi la chiave a .env

UBERLLM_API_KEY=ull_your-key-here

2. Aggiungi l'endpoint a librechat.yaml

Se il file ha già un elenco endpoints.custom, incolla solo la voce - name: al suo interno, con la stessa indentazione.

version: 1.3.18
endpoints:
  custom:
    - name: "UberLLM"
      apiKey: "${UBERLLM_API_KEY}"
      baseURL: "https://api.uberllm.dev/v1"
      models:
        default: ["deepseek/deepseek-v4.1-flash", "z-ai/glm-5.2", "moonshotai/kimi-k3", "google/gemini-2.5-flash"]
        fetch: true
      titleConvo: true
      titleModel: "qwen/qwen3-vl-235b-a22b-instruct"
      modelDisplayLabel: "UberLLM"
      iconURL: "https://uberllm.dev/apple-icon"
      headers:
        X-Title: "LibreChat"

• fetch: true carica ogni modello di chat da /v1/models (circa 250). Per un menu breve, imposta fetch: false ed elenca i modelli che desideri in default.
• titleModel è un modello veloce che risponde senza un passaggio di ragionamento, quindi i titoli delle chat risultano brevi.
• Per consentire a ogni utente di inserire la propria chiave nella schermata di LibreChat, scrivi apiKey: "user_provided" (senza ${}).

3. Monta il file (Docker)

Crea docker-compose.override.yml accanto a docker-compose.yml:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

Poi riavvia: docker compose down && docker compose up -d.

Modelli consigliati

Verificato il 30 ottobre 2026: ognuno ha trasmesso in streaming una risposta tramite UberLLM.

Errori comuni