Anthropic SDK

UberLLMは、Anthropic互換のMessages APIを/v1/messagesで提供しています。公式のanthropic SDKのベースURLを設定してUberLLMに向けることで、Anthropicモデルだけでなく、カタログ内のあらゆるモデルをAnthropicワイヤーフォーマットで呼び出すことができます。UberLLMは、独自のゲートウェイでAnthropicとOpenAIの形式間で変換を行います（ストリーミングを含め）。

ベースURL: https://api.uberllm.dev
エンドポイント: POST /v1/messages
認証: あなたのull_キー

Anthropic SDKは、キーをx-api-keyヘッダーで送信します。UberLLMはAuthorization: Bearer ull_...も受け入れます。どちらでも機能します。

Python

import os
from anthropic import Anthropic

client = Anthropic(
    base_url="https://api.uberllm.dev",
    api_key=os.environ["UBERLLM_API_KEY"],
)

msg = client.messages.create(
    model="deepseek/deepseek-v4-flash",
    max_tokens=256,
    messages=[{"role": "user", "content": "Say hello in one sentence."}],
)
print(msg.content[0].text)

Streaming

with client.messages.stream(
    model="deepseek/deepseek-v4-flash",
    max_tokens=256,
    messages=[{"role": "user", "content": "Count to five."}],
) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

TypeScript / JavaScript

import Anthropic from "@anthropic-ai/sdk";

const client = new Anthropic({
  baseURL: "https://api.uberllm.dev",
  apiKey: process.env.UBERLLM_API_KEY,
});

const msg = await client.messages.create({
  model: "deepseek/deepseek-v4-flash",
  max_tokens: 256,
  messages: [{ role: "user", content: "Say hello in one sentence." }],
});
console.log(msg.content[0].type === "text" ? msg.content[0].text : "");

curl

curl -N https://api.uberllm.dev/v1/messages \
  -H "x-api-key: $UBERLLM_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek/deepseek-v4-flash",
    "max_tokens": 256,
    "stream": true,
    "messages": [{"role": "user", "content": "Say hello."}]
  }'

注意事項

max_tokens は Anthropic Messages API によって必須です — 含めてください。
モデルは、Anthropic の API と同様に、要求された場合にのみ思考します: "thinking": {"type": "enabled", "budget_tokens": 2000} (または "adaptive") を送信してください。これがない場合、DeepSeek のような推論モデルは直接、より速く応答し、思考によって少量の max_tokens が消費されることはありません。一部のモデルは思考をオフにできません。どちらにしても思考します。
システムプロンプトは、ネイティブの Anthropic API と同様に、トップレベルの system フィールドを使用します。UberLLM はそれをターゲットモデルに正しくマッピングします。
Anthropic モデルは他のモデルと同様に課金されます: プロバイダーが請求した金額で、UberLLM の手数料は追加されません。料金] を参照してください。
お使いのフレームワークが OpenAI のみに対応している場合、代わりに OpenAI SDK] を使用してください。どちらのインターフェースも同じモデルにアクセスでき、同じ課金を使用します。