Llama 3.3 70B Instruct API

Llama 3.3 70B Instructの料金

現在の市場最安値なら、公式価格$0.10 / $0.32に比べて、入力100万トークンあたり$0.0855、出力100万トークンあたり$0.2735節約できます。 なぜこんなに安いの？ OpenRouterの料金は入力 / 出力100万トークンあたり$0.20 / $0.52です。

05:45（UTC）時点の価格。

各リクエストはこのモデルを提供している利用可能なサードパーティのプロバイダーに送られ、プロバイダーが応答を開始する前に失敗した場合は再試行されます。 リクエストにUberLLMの手数料はかかりません。カードでのクレジット追加には5.5% + $0.50がかかります。

OpenAI SDKでLlama 3.3 70B Instructを使う方法

OpenAI SDKでは、ベースURLをUberLLMに設定すれば、既存のコードでLlama 3.3 70B Instructを呼び出せます。Anthropic SDKはhttps://api.uberllm.dev/v1/messagesに対して動作します。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uberllm.dev/v1",
    api_key="ull_your_key_here",
)

resp = client.chat.completions.create(
    model="meta-llama/llama-3.3-70b-instruct",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(resp.choices[0].message.content)

Llama 3.3 70B Instruct APIのよくある質問