Endpoint kustom LibreChat untuk UberLLM (librechat.yaml)

Langkah-langkah

1. Buat kunci di halaman kunci Anda dan tambahkan kredit.
2. Tambahkan kunci ke file .env di folder LibreChat:

UBERLLM_API_KEY=ull_your_key

Gunakan nama ini, bukan OPENAI_API_KEY, agar endpoint OpenAI bawaan tidak mengambilnya.

3. Tambahkan UberLLM ke librechat.yaml (folder yang sama dengan .env):

version: 1.3.18
cache: true
endpoints:
  custom:
    - name: "UberLLM"
      apiKey: "${UBERLLM_API_KEY}"
      baseURL: "https://api.uberllm.dev/v1"
      models:
        default: ["deepseek/deepseek-v4.1-flash", "google/gemini-3.5-flash", "anthropic/claude-sonnet-5.5"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "UberLLM"

Jika file Anda sudah memiliki endpoints: custom:, tambahkan hanya blok - name: "UberLLM" ke daftar tersebut. Pertahankan baris version milik file Anda jika lebih baru.

4. Docker: pastikan file terpasang. Di docker-compose.override.yml:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

5. Mulai ulang: docker compose down && docker compose up -d (atau mulai ulang proses npm).
6. Pilih UberLLM di menu endpoint dan pilih model.

Fungsi Kolom-kolom Ini

• baseURL: LibreChat menambahkan /chat/completions ke dalamnya, jadi berhenti di /v1.
• models.default: model-model yang selalu ditampilkan. fetch: true meminta UberLLM untuk daftar lengkapnya di samping yang sudah ada.
• titleModel: "current_model": judul chat ditulis oleh model yang sedang Anda ajak bicara. Atur ID murah seperti deepseek/deepseek-v4.1-flash sebagai gantinya untuk menjaga biaya judul mendekati nol.
• Ingin setiap pengguna membawa UberLLM key mereka sendiri? Atur apiKey: "user_provided" dan LibreChat akan memintanya dari mereka.

---

Pemecahan Masalah

• UberLLM tidak muncul di menu: LibreChat tidak membaca berkas tersebut. Pastikan berkas tersebut berada di sebelah .env (atau di CONFIG_PATH), terpasang di Docker, dan baca docker compose logs api untuk kesalahan konfigurasi. Berkas yang salah akan menghentikan LibreChat untuk memulai.
• 401: ${UBERLLM_API_KEY} kosong di dalam container. Periksa baris .env dan mulai ulang.
• model 404 tidak ditemukan: ID memerlukan nama pembuat di depannya, contohnya deepseek/deepseek-v4.1-flash.
• kredit 402 tidak mencukupi: tambahkan kredit di halaman kredit.
• Sebuah model menolak pengaturan: hapus pengaturan tersebut untuk endpoint ini dengan dropParams: ["stop"] (atau ["user"]).

Baca juga

• Halaman referensi: Dokumentasi LibreChat
• Pengaturan Open WebUI
• Satu API key untuk semua LLM