Anthropic SDK

UberLLM은 Anthropic 호환 Messages API를 /v1/messages에서 제공합니다. 공식 anthropic SDK의 base URL을 설정하여 UberLLM을 가리키면, Anthropic 모델뿐만 아니라 카탈로그에 있는 모든 모델을 Anthropic wire format을 통해 호출할 수 있습니다. UberLLM은 자체 게이트웨이에서 streaming을 포함하여 Anthropic과 OpenAI 형태 간에 번역합니다.

• Base URL: https://api.uberllm.dev
• Endpoint: POST /v1/messages
• Auth: 귀하의 ull_ key

Anthropic SDK는 x-api-key header에 key를 보냅니다. UberLLM은 Authorization: Bearer ull_...도 허용합니다. 둘 다 작동합니다.

파이썬

import os
from anthropic import Anthropic

client = Anthropic(
    base_url="https://api.uberllm.dev",
    api_key=os.environ["UBERLLM_API_KEY"],
)

msg = client.messages.create(
    model="deepseek/deepseek-v4-flash",
    max_tokens=256,
    messages=[{"role": "user", "content": "Say hello in one sentence."}],
)
print(msg.content[0].text)

스트리밍

with client.messages.stream(
    model="deepseek/deepseek-v4-flash",
    max_tokens=256,
    messages=[{"role": "user", "content": "Count to five."}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

TypeScript / JavaScript

import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({
  baseURL: "https://api.uberllm.dev",
  apiKey: process.env.UBERLLM_API_KEY,
});

const msg = await client.messages.create({
  model: "deepseek/deepseek-v4-flash",
  max_tokens: 256,
  messages: [{ role: "user", content: "Say hello in one sentence." }],
});
console.log(msg.content[0].type === "text" ? msg.content[0].text : "");

curl

curl -N https://api.uberllm.dev/v1/messages \
  -H "x-api-key: $UBERLLM_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek/deepseek-v4-flash",
    "max_tokens": 256,
    "stream": true,
    "messages": [{"role": "user", "content": "Say hello."}]
  }'

참고 사항

• max_tokens은(는) Anthropic Messages API에서 필요합니다 — 포함하세요.
• 모델은 요청할 때만 생각합니다. Anthropic의 API에서와 같이: "thinking": {"type": "enabled", "budget_tokens": 2000} (또는 "adaptive")를 보내세요. 이것이 없으면, DeepSeek과 같은 추론 모델은 직접적으로, 더 빠르게 답변하며, 작은 max_tokens은(는) 생각하는 데 사용되지 않습니다. 일부 모델은 생각을 끌 수 없습니다; 그들은 어떤 식으로든 생각합니다.
• 시스템 프롬프트는 네이티브 Anthropic API에서와 같이 최상위 system 필드를 사용합니다; UberLLM은(는) 이를 대상 모델에 올바르게 매핑합니다.
• Anthropic 모델은 다른 모델과 동일하게 청구됩니다: 공급자가 청구한 금액 그대로, UberLLM 수수료는 추가되지 않습니다. 가격 책정]을(를) 참조하세요.
• 프레임워크가 OpenAI만 지원한다면, 대신 OpenAI SDK]를(을) 사용하세요. 두 인터페이스 모두 동일한 모델에 접근하며 동일한 청구 방식을 사용합니다.