Gunakan OpenAI Python SDK dan LangChain dengan API yang lebih murah (UberLLM)

Langkah-langkah (OpenAI Python SDK)

1. Buat kunci di halaman kunci Anda dan tambahkan saldo.
2. Simpan sebagai variabel lingkungan:

export UBERLLM_API_KEY=ull_your_key

3. Arahkan klien ke UberLLM:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uberllm.dev/v1",
    api_key=os.environ["UBERLLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="deepseek/deepseek-v4.1-flash",
    messages=[{"role": "user", "content": "Give me three names for a coffee shop."}],
)
print(resp.choices[0].message.content)

Itu saja perubahannya. client.chat.completions.create dengan stream=True, tools, response_format, temperature, dan max_tokens berfungsi seperti sebelumnya. Klien async (AsyncOpenAI) menerima dua argumen yang sama.

Tanpa menyentuh kode

OpenAI SDK juga membaca dua variabel lingkungan, jadi skrip yang memanggil OpenAI() tanpa argumen dapat dipindahkan tanpa mengeditnya:

export OPENAI_BASE_URL=https://api.uberllm.dev/v1
export OPENAI_API_KEY=ull_your_key
python your_script.py

Anda masih perlu mengubah string model= menjadi ID UberLLM seperti deepseek/deepseek-v4.1-flash.

---

Langkah-langkah (LangChain)

pip install langchain-openai

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="deepseek/deepseek-v4.1-flash",
    base_url="https://api.uberllm.dev/v1",
    api_key=os.environ["UBERLLM_API_KEY"],
)
print(llm.invoke("Say hello in one sentence.").content)

Chains, agents, bind_tools dan .stream() berfungsi tanpa perubahan. Lewatkan base_url dalam kode daripada mengandalkan variabel lingkungan: argumen selalu diutamakan, jadi sebuah OPENAI_API_BASE di mesin tidak dapat mengirim panggilan ke tempat lain.

LangChain.js memiliki ide yang sama:

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "deepseek/deepseek-v4.1-flash",
  apiKey: process.env.UBERLLM_API_KEY,
  configuration: { baseURL: "https://api.uberllm.dev/v1" },
});

Pilih model yang lebih murah untuk setiap pekerjaan

Inti dari satu kunci untuk setiap model adalah Anda bisa berhenti membayar harga terdepan untuk pekerjaan mudah. Pembagian umum:

• Penalaran sulit atau jawaban yang berhadapan langsung dengan pelanggan: model teratas seperti deepseek/deepseek-v4.1-flash.
• Ringkasan massal, penandaan, ekstraksi: google/gemma-3-27b-it atau model lain dari tabel batch di bawah, seringkali 50 hingga 100 kali lebih murah per token.

Cukup ubah string model= untuk berpindah dari satu ke yang lain.

---

Apa yang tidak ada

UberLLM melayani kompletasi obrolan (/v1/chat/completions), Responses API (client.responses.create, termasuk streaming dan tool calls) dan Anthropic messages route. Ini tidak menyimpan status antar panggilan, jadi kirimkan seluruh percakapan di input alih-alih previous_response_id (Responses API reference). Ini tidak melayani embeddings atau Assistants API: pertahankan panggilan tersebut pada penyedia Anda saat ini.

---

Penyelesaian Masalah

• openai.AuthenticationError (401): kunci salah atau kosong. Cetak len(os.environ["UBERLLM_API_KEY"]); kunci adalah ull_ ditambah 43 karakter.
• openai.NotFoundError (404) on /responses or /embeddings: rute-rute tersebut tidak ada di sini, lihat di atas.
• model_not_found: ID gaya OpenAI seperti gpt-4o membutuhkan pembuat di depannya: openai/gpt-4o.
• openai.RateLimitError (429): batas per menit kunci (300 secara default). Tingkatkan di halaman kunci, atau tambahkan percobaan ulang dengan backoff.
• 402 insufficient_credits: isi ulang di halaman kredit.

---

Baca juga

• Referensi OpenAI SDK dan Dokumen LangChain
• API GPT termurah
• Satu API key untuk semua LLM