NovoConecte qualquer agente ao UberLLM: uma chave, todos os modelos, pelo preço de tabela ou menos.
UberLLM

API do JEV 1.13 (TypeSafe)

typesafe/jev-1.13Decisões

Use o JEV 1.13 (TypeSafe) pela API do UberLLM compatível com OpenAI, a partir de $0.0416/M de entrada e $0.00/M de saída, atendido por provedores terceiros. Criado por TypeSafe. Sem taxa do UberLLM nas requisições. Adicionar crédito com cartão custa 5,5% + US$ 0,50.

Aqui, os vendedores servem o modelo pelas próprias contas nos provedores. De onde vem a capacidade

Preços do JEV 1.13 (TypeSafe)

Preço agora · por 1M de tokens
Entrada
$0.0416
Saída
$0.00
% de desconto sobre o preço oficial
1% de desconto
Preço oficial · por 1M de tokens
Entrada
$0.042
Saída
$0.00

Preços de 08:00 UTC.

Cada requisição vai para um provedor terceiro disponível para este modelo e é tentada de novo se o provedor falhar antes de começar a responder. Sem taxa do UberLLM nas requisições. Adicionar crédito com cartão custa 5,5% + US$ 0,50.

Como usar o JEV 1.13 (TypeSafe) com o SDK da OpenAI

Com o SDK da OpenAI, defina a base URL do UberLLM e chame o JEV 1.13 (TypeSafe) com o código que você já tem. Os SDKs da Anthropic funcionam com https://api.uberllm.dev/v1/messages.

python
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uberllm.dev/v1",
    api_key="ull_your_key_here",
)

resp = client.chat.completions.create(
    model="typesafe/jev-1.13",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(resp.choices[0].message.content)

Perguntas frequentes sobre a API do JEV 1.13 (TypeSafe)

Quanto custa a API do JEV 1.13 (TypeSafe)?

O JEV 1.13 (TypeSafe) custa a partir de $0.0416 por milhão de tokens de entrada e $0.00 por milhão de tokens de saída pelo UberLLM agora, sem nenhuma taxa do UberLLM por cima. Uma requisição custa o que o provedor cobrou; o preço de tabela é $0.042 de entrada e $0.00 de saída por milhão de tokens. Cada requisição aparece com o seu custo em Atividade.

Como usar o JEV 1.13 (TypeSafe) pela API?

Use qualquer SDK compatível com OpenAI: defina a base URL como https://api.uberllm.dev/v1, sua chave de API do UberLLM e o modelo "typesafe/jev-1.13". Os SDKs da Anthropic funcionam via https://api.uberllm.dev/v1/messages.

O JEV 1.13 (TypeSafe) é compatível com OpenAI no UberLLM?

Sim. Todos os modelos no UberLLM, incluindo o JEV 1.13 (TypeSafe), são servidos por um único endpoint compatível com OpenAI. Defina a base URL e a chave no cliente que você já usa.

Comparado com outros provedores: Uma API para texto, imagem e vídeo

Mais modelos de TypeSafe