LibreChat

LibreChat은 UberLLM을 custom endpoint로 librechat.yaml에서 추가했어요.

시작하기 전에

• 크레딧이 있는 UberLLM 계정, 그리고 대시보드 → 키](ull_...)에서 발급받은 API 키.

1. .env에 키 추가

UBERLLM_API_KEY=ull_your-key-here

2. librechat.yaml에 endpoint 추가하기

파일에 이미 endpoints.custom 목록이 있다면, - name: 항목만 동일한 들여쓰기로 그 안에 붙여넣으세요.

version: 1.3.18
endpoints:
  custom:
    - name: "UberLLM"
      apiKey: "${UBERLLM_API_KEY}"
      baseURL: "https://api.uberllm.dev/v1"
      models:
        default: ["deepseek/deepseek-v4.1-flash", "z-ai/glm-5.2", "moonshotai/kimi-k3", "google/gemini-2.5-flash"]
        fetch: true
      titleConvo: true
      titleModel: "qwen/qwen3-vl-235b-a22b-instruct"
      modelDisplayLabel: "UberLLM"
      iconURL: "https://uberllm.dev/apple-icon"
      headers:
        X-Title: "LibreChat"

• fetch: true는 /v1/models에서 모든 chat model을 로드합니다 (약 250개). 짧은 메뉴를 원한다면, fetch: false을(를) 설정하고 원하는 model들을 default에 나열하세요.
• titleModel은(는) 추론 단계 없이 답변하는 빠른 model이며, chat 제목이 짧게 나옵니다.
• 각 사용자가 LibreChat 화면에서 자신의 key를 입력하도록 하려면, apiKey: "user_provided"를(을) 작성하세요 (${} 없음).

3. 파일 마운트 (Docker)

docker-compose.yml 옆에 docker-compose.override.yml을(를) 생성하세요:

services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml

그런 다음 재시작하세요: docker compose down && docker compose up -d.

추천 모델

확인됨: 2026년 10월 30일. 각 모델이 UberLLM을 통해 답변을 스트리밍했습니다.

일반적인 오류