MớiTrỏ bất kỳ agent nào về UberLLM — một key, mọi model, bằng giá niêm yết hoặc rẻ hơn.
UberLLM

Người bán

Bạn có thể niêm yết dung lượng suy luận mà bạn được cấp phép bán lại trên UberLLM: GPU của riêng bạn, một mô hình mã nguồn mở tự lưu trữ, hoặc tín dụng từ nhà cung cấp theo gói cho phép bán lại. Yêu cầu của người mua đối với một mô hình có thể được định tuyến đến ưu đãi của bạn, và bạn được ghi nhận toàn bộ số tiền mà người mua thanh toán cho mỗi yêu cầu.

Để niêm yết một ưu đãi từ trình duyệt, hãy sử dụng trang người bán: Tài khoản → Bán dung lượng → Ưu đãi mới. Nó sẽ hướng dẫn bạn qua năm bước: Nhà cung cấp, Khám phá, Kiểm tra sức khỏe, Định giá, Đánh giá. Không có gì được công bố cho đến khi bạn xác nhận, và người mua sẽ được chuyển đến một ưu đãi mới sau khi nó vượt qua kiểm tra mô hình của chúng tôi và được một thành viên trong nhóm của chúng tôi chấp thuận.

Mọi thứ trang này thực hiện cũng là một API, vì vậy tác nhân của bạn cũng có thể làm được điều đó (xem Dành cho tác nhân).

Cách một ưu đãi hoạt động

  • Một khóa nhà cung cấp, một base URL, nhiều mô hình. Một ưu đãi là một mô hình được phục vụ thông qua một khóa tại một địa chỉ. Cùng một khóa có thể phục vụ bao nhiêu mô hình tùy thích, nhưng bạn không thể liệt kê cùng một mô hình hai lần trên cùng một khóa và địa chỉ — một mô hình thứ hai sẽ bị từ chối với 409 duplicate_offer_for_credential (và, khi ưu đãi hiện có là của bạn, ID của nó trong error.detail.existing_offer_id).
  • Tên mô hình trên máy chủ của bạn có thể khác với của chúng tôi (ví dụ: chúng tôi gọi nó là deepseek/deepseek-v4-flash, máy chủ của bạn gọi nó là deepseek-v4-flash). Tính năng khám phá sẽ khớp chúng cho bạn; nếu làm thủ công, hãy gửi upstream_model.
  • Địa chỉ máy chủ của bạn phải là công khai (https, có thể truy cập từ internet). Các địa chỉ cục bộ, riêng tư và địa chỉ của chính UberLLM đều bị từ chối.
  • Khóa của bạn được mã hóa khi không sử dụng, chỉ được giải mã để phục vụ một yêu cầu gửi đến bạn, không bao giờ được trả về bởi bất kỳ thao tác đọc nào và không bao giờ được ghi nhật ký. Một khóa mới được kiểm tra trước khi được chấp nhận — nếu kiểm tra thất bại, khóa cũ của bạn sẽ được giữ lại. Việc xóa một ưu đãi sẽ xóa khóa đã lưu trữ.

Giá cả

Các ưu đãi văn bản được định giá theo mức chiết khấu so với giá niêm yết của mô hình (giá mà người mua sẽ trả nếu mua trực tiếp). Gửi discount_pct (ví dụ: 45 = giảm 45%) hoặc tương đương với multiplier (0.55). Giá mỗi token (input_usd_per_mtok / output_usd_per_mtok) không còn được chấp nhận cho các mô hình văn bản.

"match_best": true đặt giá của bạn theo mức chiết khấu sâu nhất mà người mua có thể nhận được cho mô hình đó ngay bây giờ. Bạn có thể thay đổi bất cứ lúc nào.

Người mua trả giá của bạn; toàn bộ số tiền đó sẽ được ghi có vào tài khoản của bạn khi mỗi yêu cầu hoàn tất. UberLLM không thu phí từ doanh số bán hàng của bạn. Chi phí của riêng bạn là bất cứ điều gì nhà cung cấp của bạn tính phí cho API key của bạn.

Tùy chọn daily_cap_usd: một khi người mua đã chi tiêu số tiền đó cho ưu đãi trong một ngày, nó sẽ ngừng nhận yêu cầu cho đến ngày hôm sau.

Tình trạng hoạt động

Tình trạng hoạt động được đo lường dựa trên lưu lượng truy cập thực tế từ người mua. Các yêu cầu duy nhất khác mà chúng tôi gửi đến khóa của bạn là yêu cầu kiểm tra bên dưới và các yêu cầu của kiểm tra mô hình.

  • Khi bạn niêm yết hoặc bật một ưu đãi, hoặc thay đổi khóa của nó, chúng tôi gửi một yêu cầu kiểm tra nhỏ (nó có thể sử dụng một phần rất nhỏ quota của bạn).
  • Nếu yêu cầu của người mua đến bạn thất bại, người mua sẽ được chuyển sang người bán tiếp theo và ưu đãi của bạn sẽ tạm thời không được định tuyến: 30 giây → 1 phút → 2 phút → 10 phút đối với lỗi máy chủ và hết thời gian chờ, 10 → 20 → 40 → 60 phút đối với khóa bị từ chối hoặc không có tín dụng, 15–30 giây đối với giới hạn tốc độ. Khi thời gian chờ kết thúc, ưu đãi của bạn sẽ nhận lại yêu cầu; một yêu cầu thành công sẽ đặt lại nó.
  • Đã khắc phục sớm hơn? POST /seller/offers/{id}/reset-health (nút Đã khắc phục, thử lại) sẽ đưa nó trở lại ngay lập tức. Một khóa hoặc địa chỉ mới vượt qua kiểm tra cũng vậy.
  • Nếu nhà cung cấp của bạn từ chối khóa của bạn hoặc thông báo tài khoản không có tín dụng hai lần liên tiếp, chúng tôi sẽ gửi email cho bạn (tối đa một lần mỗi ngày) với các ưu đãi bị ảnh hưởng.
  • GET /seller/health-log cho biết, bằng những từ ngữ đơn giản, lý do tại sao một ưu đãi bị bỏ qua và khi nào nó trở lại.

Từ niêm yết đến hoạt động

Mọi ưu đãi mới đều trải qua các bước giống nhau, và trang Bán hàng hiển thị trạng thái của từng ưu đãi:

  1. Đã niêm yết. Khóa của bạn đã vượt qua yêu cầu kiểm tra khi bạn xác nhận.
  2. Kiểm tra mô hình. Chúng tôi kiểm tra xem máy chủ của bạn có phản hồi đúng như mô hình bạn đã niêm yết hay không. Việc này thường mất vài phút. Xem Kiểm tra mô hình.
  3. Đội ngũ xem xét. Một người trong đội ngũ của chúng tôi sẽ phê duyệt ưu đãi. Cho đến lúc đó, trang Bán hàng sẽ hiển thị trạng thái là Đang xem xét. Việc kiểm tra mô hình và xem xét diễn ra đồng thời.
  4. Hoạt động. Người mua sẽ được chuyển đến ưu đãi này. Chúng tôi sẽ gửi email cho bạn khi ưu đãi được phê duyệt.

Nếu đội ngũ của chúng tôi không phê duyệt một ưu đãi, ưu đãi đó sẽ bị tạm dừng và hiển thị trạng thái Không được phê duyệt kèm theo lý do, và chúng tôi sẽ gửi email cho bạn cùng lý do đó. Hãy khắc phục theo những gì được nêu, sau đó bật lại ưu đãi: ưu đãi sẽ quay lại đội ngũ của chúng tôi để xem xét.

Một khóa mới, địa chỉ máy chủ hoặc mô hình mới trên một ưu đãi được coi là một ưu đãi mới: nó sẽ trải qua quá trình kiểm tra mô hình và xem xét lại. Trong khi một ưu đãi đang chờ xem xét, bạn vẫn có thể thay đổi giá hoặc tạm dừng nó.

Kiểm tra mô hình

Người mua trả tiền cho mô hình bạn niêm yết, vì vậy chúng tôi kiểm tra xem ưu đãi của bạn có thực sự cung cấp đúng mô hình đó không.

Các quy tắc

  • Cung cấp đúng mô hình bạn niêm yết. Không phải mô hình nhỏ hơn, rẻ hơn, cũ hơn hoặc được tinh chỉnh khác, và không phải là sự kết hợp của nhiều mô hình.
  • Không thêm bất cứ thứ gì vào yêu cầu. Không có hướng dẫn, system prompt hoặc công cụ của riêng bạn, và không cắt bỏ bất cứ thứ gì từ những gì người mua đã gửi. Một ứng dụng trò chuyện hoặc công cụ viết mã được bán lại mà thêm hướng dẫn riêng của nó sẽ vi phạm quy tắc này.
  • Truyền số lượng token không thay đổi, chính xác như cách mô hình đã đếm chúng.

Cách chúng tôi kiểm tra

  • Mọi ưu đãi đều được một người trong nhóm của chúng tôi xem xét trước khi bất kỳ người mua nào được gửi đến đó. Cho đến lúc đó, trang Bán hàng (Selling page) hiển thị nó là Đang xem xét (In review).
  • Mọi ưu đãi cũng được kiểm tra trước khi bất kỳ người mua nào được gửi đến đó. Cho đến khi nó vượt qua, trang Bán hàng (Selling page) hiển thị nó là Đang kiểm tra (Checking); một khi cả hai hoàn tất, nó sẽ Hoạt động (Live). Một key, địa chỉ hoặc mô hình mới sẽ được xem xét và kiểm tra lại theo cùng một cách.
  • Các ưu đãi tiếp tục được kiểm tra trên lưu lượng truy cập thực tế miễn là chúng còn được niêm yết.
  • Các lần kiểm tra sử dụng một phần nhỏ hạn mức của bạn và được thanh toán như bất kỳ yêu cầu nào khác.
  • Chúng tôi không công bố cách thức hoạt động của các lần kiểm tra hoặc thời điểm chúng chạy.

Khi một ưu đãi không vượt qua kiểm tra

  • Nó bị Tạm dừng (Paused), và bạn không thể tự mình bật lại. Việc niêm yết cùng một key một lần nữa dưới dạng một ưu đãi mới cũng bị từ chối.
  • Các khoản thanh toán của bạn bị giữ lại trong khi nhóm của chúng tôi xem xét.
  • Trang Bán hàng (Selling page) và GET /seller/offers cho biết lý do, bằng những từ ngữ đơn giản (listing_state: "paused" với check_reason), và chúng tôi sẽ gửi email cho bạn.
  • Để được kiểm tra lại, hãy khắc phục những gì cung cấp ưu đãi, sau đó viết thư cho [email protected].

Khi người bán bị phát hiện cung cấp mô hình khác với mô hình đã niêm yết

  • Tài khoản người bán của bạn bị đình chỉ (suspended) và tất cả các ưu đãi của bạn dừng lại ngay lập tức.
  • Thu nhập chưa được thanh toán sẽ bị tịch thu và dùng để hoàn tiền cho những người mua mà ưu đãi của bạn đã phục vụ. Các khoản thanh toán chưa được gửi sẽ bị hủy.
  • Bạn không thể niêm yết trên UberLLM nữa, với cùng một provider key, server, địa chỉ thanh toán hoặc email.
  • Trang Bán hàng (Selling page) nói như vậy, và GET /seller/offers trả lời listing_state: "suspended". Viết thư cho [email protected] về vấn đề này.

Mô hình mã nguồn mở (Open-weight models): cho biết cách bạn chạy chúng

Các mô hình mã nguồn mở (Open-weight models) (GPT-OSS, Qwen, DeepSeek, GLM, Kimi, MiniMax và các mô hình khác có trọng số được công bố) có thể được chạy ở chất lượng đầy đủ hoặc nén để tiết kiệm bộ nhớ. Một bản sao nén trả lời kém hơn một chút, và không có thử nghiệm nào có thể phân biệt đáng tin cậy nó với mô hình đầy đủ. Vì vậy, khi bạn niêm yết một mô hình mã nguồn mở (open-weight model), bạn phải cho biết server của bạn chạy nó như thế nào, và người mua sẽ thấy câu trả lời của bạn trên trang của mô hình:

  • Chất lượng đầy đủ (Full quality) (16-bit): trọng số như đã công bố (bf16 / fp16), hoặc tốt hơn.
  • 8-bit: fp8 hoặc int8.
  • Dưới 8-bit (6-bit hoặc 4-bit): bất cứ thứ gì nhỏ hơn.

Một niêm yết mới của mô hình mã nguồn mở (open-weight model) cần một trong ba tùy chọn này. Các ưu đãi được niêm yết trước 1 tháng 11, 2026 hiển thị "Độ chính xác chưa được nêu" (Precision not stated) cho đến khi bạn đặt nó (Trang Bán hàng (Selling page) → ưu đãi → Giá và độ chính xác (Price and precision)). Việc nêu độ chính xác cao hơn so với những gì server của bạn thực sự chạy là một mô hình khác với mô hình đã niêm yết: tài khoản bị đình chỉ, như dưới đây. Các mô hình đóng (Claude, GPT-5, Gemini…) không yêu cầu.

Số lượng token được đệm

Khi server của bạn báo cáo số lượng prompt token nhiều hơn đáng kể so với những gì một yêu cầu thực sự chứa, người mua sẽ bị tính phí, và bạn sẽ được thanh toán, tối đa khoảng 2× số lượng do chúng tôi tự đếm các prompt token của yêu cầu, cộng thêm một khoản phụ cấp nhỏ cho các định nghĩa công cụ và hình ảnh. Dưới mức đó, các yêu cầu được tính phí chính xác như server của bạn báo cáo.

Thu nhập và thanh toán

Bảng điều khiển người bán có sáu tab: Thu nhập, Thanh toán, Ưu đãi (mỗi mô hình bạn bán, được nhóm theo nhà cung cấp, lọc theo Trực tiếp / Đang xem xét / Cần chú ý, và các khóa nhà cung cấp đã lưu của bạn), Ưu đãi mới, Khóa đại lý và Thị trường nhà cung cấp.

  • Thị trường nhà cung cấp (GET /seller/market): mỗi khóa nhà cung cấp bạn niêm yết trong 30 ngày qua: số tiền kiếm được, số cuộc gọi đã phục vụ và tỷ lệ thắng của nó, tức là phần trăm thắng trong mỗi cuộc gọi mà người mua thực hiện trên cùng các mô hình đó (thông qua bất kỳ ai, vì vậy đây là mức trần, không phải nhu cầu nhắm vào bạn). Nó cũng hiển thị doanh thu hôm nay so với giới hạn hàng ngày của mỗi khóa (chúng được đặt lại vào 00:00 UTC).

  • GET /seller/earnings?range=7d|30d|90d|all — số tiền kiếm được, doanh số và token, theo mô hình, cùng với thị trường xung quanh mỗi mô hình của bạn (mức chiết khấu rẻ nhất hiện tại và mức chiết khấu thực tế của thị trường trong giờ qua) để bạn có thể biết cách định giá. daily liệt kê số tiền bạn kiếm được mỗi ngày UTC với doanh số, và avg_discount_pct mức giá trung bình mà người mua đã trả thấp hơn giá niêm yết (chưa hiển thị cho đến khi bạn có doanh số trên một mô hình có giá niêm yết).

  • GET /seller/payouts — có sẵn để thanh toán (owed_usd), đang giữ (held_usd, và next_release_at: khi phần tiếp theo sẵn sàng), đang trên đường và đã thanh toán dưới dạng các con số riêng biệt, nơi các khoản thanh toán của bạn được gửi đến (payout_method, null cho đến khi bạn thiết lập), cộng với lịch sử thanh toán của bạn.

  • PUT /seller/payout-method {method, address} — nơi gửi tiền của bạn: {"method":"paypal","address":"[email protected]"} (email tài khoản PayPal của bạn) hoặc {"method":"usdc_base","address":"0x…"} (ví của bạn trên Base, 0x và 40 ký tự hex; chúng tôi chỉ gửi USDC trên mạng Base). Trả lời {method, address, set_at} đã lưu. Trong bảng điều khiển: Thanh toán → Nơi nhận thanh toán.

Thu nhập được giữ lại trước khi có thể thanh toán: 14 ngày khi bạn là người bán mới (30 ngày đầu tiên của bạn, hoặc cho đến khi bạn kiếm được tổng cộng $500), sau đó là 7 ngày. Bằng cách đó, người mua có thể được hoàn tiền nếu một ưu đãi hóa ra không phục vụ mô hình mà nó niêm yết. Trang Bán hàng hiển thị Có sẵn để thanh toán và Đang giữ, cùng với ngày phần tiếp theo sẵn sàng.

Khi đã hết thời gian giữ, số tiền có sẵn sẽ tự động được đưa vào một khoản thanh toán ngay khi đạt $5, hoặc 72 giờ sau khi giao dịch bán hàng chưa thanh toán cũ nhất của bạn đã hết thời gian giữ (kiểm tra mỗi 10 phút). Bạn cũng có thể yêu cầu thanh toán bất cứ lúc nào (POST /seller/payouts/request, nút Thanh toán cho tôi ngay). Bạn chỉ có một khoản thanh toán đang trên đường tại một thời điểm: số tiền bạn kiếm được trong thời gian chờ đợi sẽ vẫn nợ và sẽ được đưa vào khoản thanh toán tiếp theo của bạn sau khi khoản hiện tại đã được thanh toán (yêu cầu một khoản khác trả lời 409 payout_already_on_the_way).

Đội ngũ của chúng tôi gửi mỗi khoản thanh toán đến email PayPal hoặc ví USDC (Base) mà bạn đã thiết lập, thường trong vòng 2 ngày làm việc kể từ khi khoản đó bắt đầu. Nếu một khoản thanh toán bắt đầu trước khi bạn thiết lập, chúng tôi sẽ gửi email cho chủ sở hữu tài khoản của bạn để hỏi, và gửi nó ngay khi bạn làm. Một khoản thanh toán chỉ được tính là đã thanh toán khi nó thực sự đã được gửi đi; mã tham chiếu thanh toán sau đó sẽ hiển thị bên cạnh nó, và chúng tôi sẽ gửi email cho bạn rằng nó đã được gửi.

Nếu một khoản thanh toán không thể được gửi (ví dụ: email PayPal không thể nhận tiền), nó sẽ hiển thị là Không thành công cùng với lý do. Không có gì bị mất: số tiền đó sẽ được ghi nợ lại cho bạn và sẽ được gửi đi cùng với khoản thanh toán tiếp theo của bạn, và chúng tôi sẽ gửi email cho bạn để kiểm tra nơi chúng tôi gửi tiền của bạn.

API

Khi đăng nhập trên web, API người bán nằm dưới /api/v1/seller. Với khóa API UberLLM của bạn (khóa mà tác nhân của bạn đã nhận được từ đăng nhập uberllm), API tương tự nằm dưới /v1/seller.

Khóa tác nhân (Bán hàng › Khóa tác nhân) cho phép một tập lệnh hoặc tác nhân quản lý các ưu đãi của bạn mà không cần đăng nhập và không cần khóa chi tiêu của bạn. Một khóa tác nhân chỉ gọi /v1/seller: nó có thể tạo, thay đổi, tạm dừng và xóa ưu đãi, kiểm tra khóa, đọc thu nhập và yêu cầu thanh toán, cũng như liệt kê, tạo và thu hồi khóa tác nhân (GET/POST /v1/seller/agent-keys {name}, DELETE /v1/seller/agent-keys/{id}; khóa đầy đủ được trả lời một lần). Nó không thể thực hiện yêu cầu AI, chi tiêu tín dụng, thay đổi nơi nhận thanh toán của bạn (/seller/payout-method trả lời 403 agent_key_not_allowed), hoặc quản lý khóa API, tín dụng hay tài khoản của bạn. Tối đa 25 mỗi tài khoản; thu hồi một khóa có hiệu lực ngay lập tức, và các ưu đãi nó đã tạo vẫn tiếp tục hoạt động.

curl https://api.uberllm.dev/v1/seller/offers -H "Authorization: Bearer $UBERLLM_SELLER_KEY"
Cuộc gọi Chức năng
POST /seller/register {display_name?} Bắt đầu bán hàng (một lần). Tên là tùy chọn: nếu bỏ qua, bạn sẽ được hiển thị là "Người bán" cộng với 4 chữ cái. Trang Bán hàng thực hiện điều này cho bạn.
GET /seller/providers Các nhà cung cấp và base URL của họ.
POST /seller/discover {base_url, api_key} or {config_id} Các mô hình mà một khóa có thể phục vụ, khớp với của chúng tôi (open_weights: true = liệt kê nó cần một precision). Không tốn hạn mức.
POST /seller/test {base_url, api_key, models[]} Một yêu cầu kiểm tra nhỏ cho mỗi mô hình.
POST /seller/offers/bulk Liệt kê nhiều mô hình trên một khóa: {endpoint_url, api_key, save_config, daily_cap_usd, precision, offers:[{model_id, upstream_model, precision, discount_pct | match_best}]}. precision (full, 8bit hoặc below8) là bắt buộc đối với mô hình mã nguồn mở; cấp cao nhất áp dụng cho mọi mô hình mã nguồn mở trong lô. Mỗi mô hình được kiểm tra khi nó được liệt kê; mô hình nào thất bại sẽ bị bỏ qua cùng với lý do.
POST /seller/offers Liệt kê một mô hình: {model_id, endpoint_url, api_key, upstream_model, precision, discount_pct, daily_cap_usd}.
GET /seller/offers · GET /seller/offers/{id} Các ưu đãi của bạn với giá, % giảm giá, tình trạng, trạng thái (listing_state: review, checking, live, paused hoặc suspended; needs_review: true trong khi nhóm của chúng tôi chưa phê duyệt; review_note với lý do khi nhóm của chúng tôi không phê duyệt; với check_reason khi nó không vượt qua kiểm tra mô hình) và thứ hạng trực tiếp (vị trí của bạn trong số tất cả những gì người mua có thể được gửi đến cho mô hình đó).
PATCH /seller/offers/{id} Định giá lại (discount_pct), giới hạn (daily_cap_usd, 0 loại bỏ), precision (mô hình mã nguồn mở), status: paused | active (một ưu đãi không vượt qua kiểm tra mô hình không thể bật lại).
POST /seller/offers/{id}/rotate-credential {api_key} Khóa mới, được kiểm tra trước khi được chấp nhận.
POST /seller/offers/{id}/reset-health Hiện đã trở lại định tuyến.
DELETE /seller/offers/{id} Xóa: ra khỏi định tuyến, khóa đã lưu bị xóa.
GET /seller/configs · DELETE /seller/configs/{id} Các khóa đã lưu để bắt đầu ưu đãi mới (chỉ hiển thị gợi ý 4 ký tự).
GET /seller/health-log Lý do các ưu đãi bị bỏ qua.
GET /seller/earnings · GET /seller/payouts · POST /seller/payouts/request Tiền: số tiền khả dụng, đang giữ, đang chuyển và đã thanh toán.
PUT /seller/payout-method {method: paypal | usdc_base, address} Nơi nhận thanh toán của bạn: một email PayPal hoặc một ví USDC trên Base.
curl https://api.uberllm.dev/v1/seller/offers/bulk \
  -H "Authorization: Bearer $UBERLLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "endpoint_url": "https://api.together.xyz/v1",
    "api_key": "<your provider key>",
    "save_config": true,
    "offers": [
      { "model_id": "meta-llama/llama-3.3-70b-instruct", "match_best": true },
      { "model_id": "qwen/qwen3-235b-a22b-instruct", "discount_pct": 40 }
    ]
  }'

Dành cho các tác nhân

Tác nhân của bạn đã có một API key của UberLLM sau khi đăng nhập. Nó có thể đăng ký, tìm các mô hình trên một provider key, liệt kê chúng và theo dõi thu nhập với các lệnh gọi ở trên dưới /v1/seller. Không cần loại key nào khác.

Chỉ liệt kê những gì bạn được phép bán lại

  • ✅ Các mô hình mã nguồn mở hoặc tự lưu trữ mà bạn vận hành.
  • ✅ Dung lượng của nhà cung cấp mà bạn được phép bán lại.
  • ❌ Một key của nhà cung cấp mà các điều khoản không cho phép bạn bán lại hoặc cấp quyền truy cập cho người khác. Điều khoản của nhiều nhà cung cấp không cho phép: hãy kiểm tra điều khoản của bạn trước khi bạn liệt kê nó.
  • ❌ Các key bị đánh cắp, rò rỉ, chia sẻ, dùng thử miễn phí hoặc đánh giá. Một đề nghị vi phạm các quy tắc này sẽ bị gỡ bỏ.

Sử dụng một key của nhà cung cấp chuyên dụng với giới hạn chi tiêu. Bạn chịu trách nhiệm về việc cấp phép và vận hành hợp pháp những gì bạn liệt kê.