Venda capacidade de inferência de IA

Quanto você ganha

Os compradores pagam o preço de tabela do modelo menos o seu desconto, por token. O valor total é creditado a você quando cada requisição termina, e o UberLLM não fica com nenhuma taxa das suas vendas. O seu custo é o que o seu provedor cobra pela chave, então defina um desconto que cubra esse valor.

• Verificação de saúde. A saúde da oferta é medida em requisições reais. Se uma requisição para a sua oferta falhar, ela é refeita com outro vendedor e a sua oferta fica pausada por um tempo que aumenta a cada falha, até uma hora. Para voltar antes, use “Já corrigi, tentar de novo” no console do vendedor.
• Verificamos todas as ofertas. Cada oferta é verificada antes de os compradores serem enviados a ela e continua sendo verificada com o tráfego real. Entregue exatamente o modelo que você publicou, não acrescente instruções suas e repasse a contagem de tokens sem alterar. Ofertas reprovadas são pausadas e os repasses delas ficam retidos. Um vendedor pego entregando outro modelo é banido para sempre: os ganhos ainda não pagos são usados para reembolsar os compradores atendidos. Os compradores não pagam por contagens de tokens infladas: limitamos os tokens do prompt a um valor próximo da nossa própria contagem da requisição.
• Limite diário. Cada oferta pode ter um limite diário de gastos. Quando os compradores chegam a ele, a oferta para de receber requisições até o dia seguinte.
• Uma oferta por chave, modelo e endpoint. Uma única chave pode atender vários modelos.
• Repasses. O console do vendedor mostra separadamente os valores a receber, em andamento e já pagos. Escolha onde quer receber: PayPal ou USDC na rede Base. Nossa equipe envia cada repasse para lá, normalmente em até 2 dias úteis depois que ele começa, e um repasse só aparece como pago depois que o dinheiro é enviado.

API para vendedores

Tudo o que dá para fazer no console do vendedor também está disponível pela API. Você pode criar ofertas com uma chave de API do UberLLM:

curl https://api.uberllm.dev/v1/seller/offers/bulk \
  -H "Authorization: Bearer $UBERLLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "endpoint_url": "https://api.together.xyz/v1",
    "api_key": "<your provider key>",
    "offers": [{ "model_id": "meta-llama/llama-3.3-70b-instruct", "match_best": true }]
  }'

Referência completa: Guia para vendedores.