Question 1

LLM gateway는 무엇인가요?

Accepted Answer

LLM gateway는 여러 모델 제공업체 앞에 있는 단일 API입니다. 애플리케이션은 하나의 키와 base URL을 사용하며, gateway가 제공업체를 선택하고, 실패를 재시도하며, 청구를 처리합니다. UberLLM은 OpenAI 및 Anthropic 호환 LLM gateway입니다. 2026년 11월 5일 기준으로, 하나의 UberLLM API key로 현재 요청에 사용할 수 있는 218개의 채팅, 84개의 이미지, 140개의 비디오 모델에 접근할 수 있습니다. UberLLM은 지난 30일 동안 290,174건의 청구된 요청을 처리했습니다. 실패한 요청은 청구되지 않으며, UberLLM은 제공업체 가격에 어떠한 수수료도 추가하지 않습니다.

Question 2

LLM gateway를 왜 사용해야 하나요?

Accepted Answer

gateway는 개별 제공업체 계정과 키를 하나로 통합하고, 제공업체가 응답을 시작하기 전에 실패한 호출을 재시도하며, model id를 변경하여 모델을 바꿀 수 있도록 합니다.

Question 3

요청 가격은 어떻게 책정되나요?

Accepted Answer

요청 비용은 해당 제공업체가 청구한 금액과 동일하며, 모든 요청은 Activity에서 비용과 함께 표시됩니다. UberLLM은 제공업체 가격에 어떠한 수수료도 추가하지 않습니다. 크레딧을 추가할 때 5.5% + $0.50의 카드 수수료가 추가됩니다.

모델	입력 / 1M token	출력 / 1M token	정가 이하
GPT-OSS 20B	$0.000018	$0.000089	99.9%
GPT-OSS 120B	$0.000069	$0.000297	99.9%
GPT OSS Safeguard 20B	$0.000074	$0.000297	99.9%
Qwen: Qwen3.8 Omni Flash	$0.000178	$0.000556	99.9%
GLM 4.5 Air	$0.000129	$0.000842	99.9%
DeepSeek V4.1 Flash	$0.000179	$0.00137	99.6%
Gemma 3 4B IT	$0.000463	$0.000579	99.1%
MiniMax M2.1	$0.000356	$0.00143	99.9%
Gemma 4 26B A4B IT	$0.000446	$0.00149	99.3%
GLM 4.7 Flash	$0.000309	$0.00204	99.5%
Gemma 3 12B IT	$0.000495	$0.00149	99%
Qwen 3.8 27B	$0.000196	$0.00246	99.9%

LLM gateway는 무엇인가요?

더 많은 질문

LLM gateway를 왜 사용해야 하나요?

요청 가격은 어떻게 책정되나요?