NieuwKoppel elke agent aan UberLLM: één sleutel, elk model, voor de catalogusprijs of minder.
UberLLM

Continue

Continue (de VS Code / JetBrains assistent) bereikt UberLLM via zijn openai provider met een aangepaste apiBase. Stapsgewijze handleiding met live modelkeuzes: Continue instellen.

Instellen

Plaats je sleutel in ~/.continue/.env (de editor-extensies lezen geen shell-variabelen):

ULL_API_KEY=ull_xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

Voeg vervolgens een model toe aan ~/.continue/config.yaml:

name: My Config
version: 1.0.0
schema: v1

models:
  - name: DeepSeek V4.1 Flash (UberLLM)
    provider: openai
    model: deepseek/deepseek-v4.1-flash
    apiBase: https://api.uberllm.dev/v1
    apiKey: ${{ secrets.ULL_API_KEY }}
    useResponsesApi: false
    useLegacyCompletionsEndpoint: false
    capabilities: [tool_use]
    roles: [chat, edit, apply]

Belangrijke velden:

  • provider: openai (UberLLM spreekt de OpenAI API).
  • model: elke catalogusmodel-ID, bijv. deepseek/deepseek-v4.1-flash.
  • apiBase: https://api.uberllm.dev/v1 — overschrijft de standaard OpenAI URL.
  • apiKey: je ull_ sleutel, hier gelezen uit de .env secret.
  • useResponsesApi: false: Continue stuurt anders gpt-5* en o* modelnamen naar de Responses API. UberLLM bedient die route ook (Responses API), daarom zorgt deze regel ervoor dat elk model alleen chat completions gebruikt, de route waarop deze configuratie is getest.
  • useLegacyCompletionsEndpoint: false: autocomplete roept anders /v1/completions aan, die UberLLM niet bedient (404).

Herlaad Continue en selecteer het model uit de model-dropdown.

Meerdere modellen en automatisch aanvullen

Voeg één item per model toe. Voor automatisch aanvullen voeg je een snel, goedkoop model toe met roles: [autocomplete] en dezelfde twee false instellingen:

  - name: Autocomplete (UberLLM)
    provider: openai
    model: qwen/qwen3-coder
    apiBase: https://api.uberllm.dev/v1
    apiKey: ${{ secrets.ULL_API_KEY }}
    useResponsesApi: false
    useLegacyCompletionsEndpoint: false
    roles: [autocomplete]

Elke aanroep wordt naar een beschikbare externe provider voor het model gestuurd. Zie Modellen & routering.