Continue (VS Code / JetBrains) với UberLLM: config.yaml hoạt động

Các bước

1. Tạo một khóa trên trang khóa của bạn và nạp tiền.
2. Lưu khóa nơi Continue tìm kiếm các bí mật, trong ~/.continue/.env:

ULL_API_KEY=ull_your_key

Các tiện ích mở rộng của trình chỉnh sửa không thấy các biến từ shell của bạn, vì vậy hãy sử dụng tệp này (hoặc .continue/.env trong dự án).

3. Mở ~/.continue/config.yaml và thêm các mô hình:

name: My Config
version: 1.0.0
schema: v1

models:
  - name: moonshotai/kimi-k3 (UberLLM)
    provider: openai
    model: moonshotai/kimi-k3
    apiBase: https://api.uberllm.dev/v1
    apiKey: ${{ secrets.ULL_API_KEY }}
    useResponsesApi: false
    useLegacyCompletionsEndpoint: false
    capabilities: [tool_use]
    roles: [chat, edit, apply]

  - name: deepseek/deepseek-v4.1-flash (UberLLM)
    provider: openai
    model: deepseek/deepseek-v4.1-flash
    apiBase: https://api.uberllm.dev/v1
    apiKey: ${{ secrets.ULL_API_KEY }}
    useResponsesApi: false
    useLegacyCompletionsEndpoint: false
    capabilities: [tool_use]
    roles: [chat, edit, apply]

4. Tải lại cửa sổ và chọn mô hình trong menu mô hình của Continue.

Hai dòng định tuyến

Continue chọn một tuyến đường cho mỗi mô hình, và hai dòng này giữ cho mọi mô hình UberLLM hoạt động trên chat completions:

• useLegacyCompletionsEndpoint: false: autocomplete nếu không sẽ sử dụng tuyến đường /v1/completions cũ, mà UberLLM không hỗ trợ (404). Dòng này là bắt buộc.
• useResponsesApi: false: Continue gửi bất kỳ mô hình nào có tên chứa gpt-5 (hoặc o1, o3…) đến Responses API, ngay cả với một apiBase tùy chỉnh. UberLLM cũng hỗ trợ tuyến đường đó, vì vậy dòng này không còn cần thiết để tránh lỗi; nó giữ tất cả các mô hình của bạn trên một tuyến đường mà config đã được kiểm tra.

Tự động hoàn thành

Thêm một mô hình nhanh riêng biệt với vai trò autocomplete:

  - name: Autocomplete (UberLLM)
    provider: openai
    model: deepseek/deepseek-v4.1-flash
    apiBase: https://api.uberllm.dev/v1
    apiKey: ${{ secrets.ULL_API_KEY }}
    useResponsesApi: false
    useLegacyCompletionsEndpoint: false
    roles: [autocomplete]

Tự động hoàn thành thông qua mô hình trò chuyện hoạt động, nhưng chất lượng thay đổi tùy theo mô hình nhiều hơn khi dùng cho trò chuyện. Hãy thử hai hoặc ba mô hình từ bảng nhanh bên dưới. Nó gửi nhiều yêu cầu nhỏ, vì vậy hãy theo dõi Dashboard → Activity trong ngày đầu tiên.

Khắc phục sự cố

• 404 trên trò chuyện: apiBase không kết thúc bằng /v1.
• 404 chỉ trên tính năng tự động hoàn thành: thiếu useLegacyCompletionsEndpoint: false.
• 401: không tìm thấy bí mật. Kiểm tra tên có khớp (ULL_API_KEY) và tệp .env nằm ở một trong các vị trí trên, sau đó tải lại cửa sổ.
• Chế độ Agent không hoạt động: thêm capabilities: [tool_use].
• 402 không đủ tín dụng: thêm tín dụng trên trang tín dụng.

Đọc tiếp

• Tiếp tục tài liệu
• Thiết lập Cline · Thiết lập Aider