Kilo Code với UberLLM: thêm một nhà cung cấp tùy chỉnh trong 1 phút

Phiên bản hiện tại của Kilo Code (7.x) chia sẻ một tệp cài đặt giữa VS Code, JetBrains và kilo CLI, nên bạn chỉ cần thiết lập UberLLM một lần. Các hướng dẫn cũ hiển thị một menu thả xuống (dropdown) nhà cung cấp với các trường thông tin mô hình mô tả tiện ích mở rộng cũ (legacy extension).

Các bước (trong trình chỉnh sửa)

1. Tạo khóa trên trang khóa của bạn và nạp tín dụng.
2. Mở Kilo Code, nhấp vào biểu tượng bánh răng → tab Providers, cuộn xuống cuối và nhấp vào Custom provider.
3. Điền vào:
   • ID nhà cung cấp: uberllm
   • Tên hiển thị: UberLLM
   • API nhà cung cấp: Tương thích OpenAI
   • Base URL: https://api.uberllm.dev/v1
   • API key: khóa ull_… của bạn
4. Nhấn Fetch models. Danh sách này đến từ UberLLM; giữ lại những mô hình bạn muốn, ví dụ moonshotai/kimi-k3.
5. Nhấp Submit, sau đó chọn mô hình trong bộ chọn mô hình của Kilo.

Các bước (tệp cấu hình)

Cùng một nhà cung cấp trong ~/.config/kilo/kilo.jsonc (Windows: C:\Users\<you>\.config\kilo\kilo.jsonc; đối với một dự án, .kilo/kilo.jsonc trong dự án):

{
  "provider": {
    "uberllm": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "UberLLM",
      "env": ["UBERLLM_API_KEY"],
      "options": { "baseURL": "https://api.uberllm.dev/v1" },
      "models": {
        "moonshotai/kimi-k3": {
          "name": "moonshotai/kimi-k3",
          "tool_call": true,
          "limit": { "context": 200000, "output": 32000 }
        }
      }
    }
  },
  "model": "uberllm/moonshotai/kimi-k3"
}

Sau đó thiết lập UBERLLM_API_KEY=ull_your_key trong môi trường của bạn. Các số limit là một ví dụ: sao chép độ dài ngữ cảnh thực từ trang của mô hình trên uberllm.dev/models.

Hai cài đặt mọi người thường bỏ qua

• limit: nếu thiếu nó, Kilo coi ngữ cảnh là 0 và không bao giờ nén một tác vụ dài, nên cuối cùng nó sẽ thất bại. Hộp thoại trình chỉnh sửa không thể đặt nó; hãy thêm nó vào tệp ("chỉnh sửa cài đặt nâng cao trong tệp cấu hình JSON").
• tool_call: true: Tác nhân của Kilo hoạt động thông qua các công cụ. Nếu mô hình trả lời bằng văn bản thuần túy thay vì chỉnh sửa tệp, thì đây là thứ còn thiếu.

Bạn thích định dạng Anthropic?

Kilo cũng cung cấp Provider API → Anthropic Messages. Với UberLLM, hãy dùng https://api.uberllm.dev/v1 làm Base URL ở đó nữa (không phải host trần), và cùng một key. Tìm nạp model không có sẵn ở chế độ đó, vì vậy hãy tự nhập các id.

Khắc phục sự cố

• "Xác thực thất bại. Vui lòng kiểm tra khóa API ở trên và thử lại." khi tìm nạp: khóa bị thiếu hoặc có khoảng trắng.
• Mô hình không có trong bộ chọn: khóa mô hình phải khớp với uberllm/<model id>. Chạy kilo models để xem Kilo đã tải gì.
• Agent không bao giờ chỉnh sửa tệp: thêm "tool_call": true vào mô hình.
• Tác vụ thất bại sau một phiên dài: đặt limit.context.
• 402 tín dụng không đủ: thêm tín dụng trên trang tín dụng.

Đọc thêm

• Trang tham khảo: Kilo Code doc
• OpenCode setup (Định dạng cấu hình của Kilo đến từ OpenCode)
• Cline setup