LangChain
LangChain의 ChatOpenAI (langchain-openai에서)는 base_url와 api_key으로 UberLLM을 가리킵니다. 그 외 모든 것 — chains, agents, tools, streaming —은 변경 없이 작동합니다.
설치
pip install langchain langchain-openai
Python
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="deepseek/deepseek-v4-flash",
base_url="https://api.uberllm.dev/v1",
api_key=os.environ["UBERLLM_API_KEY"],
)
print(llm.invoke("Say hello in one sentence.").content)
base_url는 OPENAI_API_BASE / OPENAI_BASE_URL 환경 변수보다 우선하므로, 명시적인 kwarg가 가장 신뢰할 수 있습니다.
Streaming
for chunk in llm.stream("Count to five."):
print(chunk.content, end="", flush=True)
도구 / 에이전트
ChatOpenAI가 OpenAI 도구 호출 형식을 사용하기 때문에, bind_tools와 에이전트 실행기는 모든 도구 사용 가능한 UberLLM 모델에 대해 그대로 작동합니다:
from langchain_core.tools import tool
@tool
def get_weather(city: str) -> str:
"Return the weather for a city."
return f"Sunny in {city}."
agent_llm = llm.bind_tools([get_weather])
print(agent_llm.invoke("What's the weather in Paris?").tool_calls)
JavaScript / TypeScript
import { ChatOpenAI } from "@langchain/openai";
const llm = new ChatOpenAI({
model: "deepseek/deepseek-v4-flash",
apiKey: process.env.UBERLLM_API_KEY,
configuration: { baseURL: "https://api.uberllm.dev/v1" },
});
const res = await llm.invoke("Say hello in one sentence.");
console.log(res.content);