NVIDIA Nemotron Nano 9B v2 API

NVIDIA Nemotron Nano 9B v2の料金

現在の市場最安値なら、公式価格$0.06 / $0.23に比べて、入力100万トークンあたり$0.0589、出力100万トークンあたり$0.2257節約できます。 なぜこんなに安いの？

05:45（UTC）時点の価格。

各リクエストはこのモデルを提供している利用可能なサードパーティのプロバイダーに送られ、プロバイダーが応答を開始する前に失敗した場合は再試行されます。 リクエストにUberLLMの手数料はかかりません。カードでのクレジット追加には5.5% + $0.50がかかります。

OpenAI SDKでNVIDIA Nemotron Nano 9B v2を使う方法

OpenAI SDKでは、ベースURLをUberLLMに設定すれば、既存のコードでNVIDIA Nemotron Nano 9B v2を呼び出せます。Anthropic SDKはhttps://api.uberllm.dev/v1/messagesに対して動作します。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.uberllm.dev/v1",
    api_key="ull_your_key_here",
)

resp = client.chat.completions.create(
    model="nvidia/nemotron-nano-9b-v2",
    messages=[{"role": "user", "content": "Hello!"}],
)
print(resp.choices[0].message.content)

NVIDIA Nemotron Nano 9B v2 APIのよくある質問