모델링 비용은 얼마인가요? AI 추론 가격 설명

최신 모델 개발과 일상적인 모델 사용은 경제성이 매우 다릅니다. Epoch AI의 훈련 비용 분석]에 따르면 하드웨어가 최신 모델 개발 비용의 **47%–67%**를 차지하는 반면, 에너지는 단 **2%–6%**에 불과하다고 합니다. 하지만 애플리케이션 개발자에게는 모델 구축 비용이 중요한 질문이 아닙니다. 중요한 것은 재시도가 필요한 요청을 포함하여 유용한 작업을 완료하기 위해 지불할 금액입니다.

목차

• 텍스트, 이미지, 비디오 모델의 현재 가격
  • 모델 유형별 현재 단위 가격
• 월별 모델 비용을 추정하는 방법
  • 추정치를 활용 가능한 예산으로 전환하기
• 추론 비용을 변경하는 요인
  • 비용 요인과 각 요인이 청구서에 미치는 영향
  • 자체 호스팅에는 자체 계산이 필요합니다
• 더 저렴한 토큰이 여전히 더 높은 비용을 의미할 수 있는 이유
  • 개별 생성물이 아닌 완료된 작업을 비교하세요
  • 비용이 많이 드는 경로 진단하기
• 안정성과 인프라가 실제 비용을 어떻게 변화시키는가
  • 일괄 작업과 대화형 작업에는 다른 용량이 필요합니다
  • 라우팅이 운영 비교를 변경합니다
• 모델을 사용하기 전에 예산을 설정하세요
  • 평가에 대한 통제 장치를 마련하세요
  • 제공업체를 전환하기 전에 차이점을 조사하세요

텍스트, 이미지, 비디오 모델의 현재 가격

모델링 비용은 얼마인가요? AI 추론의 경우, 답변은 청구 단위에서 시작됩니다: 텍스트는 입력 및 출력 토큰을 사용하고, 이미지는 이미지 또는 메가픽셀을 사용하며, 비디오는 작업을 사용할 수 있습니다. 이 글은 훈련 예산이 아닌 추론 사용 가격을 다룹니다. 스탠포드가 보고한 Gemini 1.0 Ultra 훈련 비용 추정치는 Voronoi의 AI 지수 추정치 발표에 따르면 $192백만이었지만, API 고객은 해당 개발 비용을 직접 지불하지 않습니다.

역사적 추세는 놀랍습니다. 스탠포드 2025 AI 지수는 MMLU에서 GPT-3.5 수준의 성능을 달성하는 시스템을 쿼리하는 비용이 2022년 11월에 백만 토큰당 약 $20에서 2024년 10월까지 $0.07로 하락했다고 측정했습니다. 이는 벤치마크별 비교이며, 모든 유능한 모델에 대한 현재 견적은 아닙니다.

모델 유형별 현재 단위당 가격

UberLLM은 GPT, Claude, Gemini, DeepSeek, GLM, Qwen, Llama, Mistral, Kimi를 포함한 254개 모델에 대한 실시간 모델별 API 가격을 나열합니다. 채팅 가격은 입력을 출력과 분리합니다.

미디어 지출을 추정하기 전에 비디오 API 가격 비교를 사용하여 실시간 작업 제공을 확인하세요. 작업 가격은 요청하려는 출력 구성과 함께 있을 때만 의미가 있습니다.

나열된 가격은 요청에 일반적으로 드는 비용이며, 상한선이 아닙니다. 각 행을 읽을 때 기능이 소비하는 단위를 식별한 다음, 해당 단위를 예상 사용량으로 곱하세요. 이미지 크기를 고려하지 않고 메가픽셀 가격을 이미지당 가격과 직접 비교하지 마세요.

월별 모델 비용을 추정하는 방법

단일 통합 토큰 허용량이 아닌 제품 기능을 중심으로 추정치를 만드세요. 지원 대화, 문서 추출 및 비디오 미리보기는 서로 다른 리소스를 소비하므로, 너무 일찍 통합하면 어떤 기능에 주의가 필요한지 파악하기 어렵습니다.

계산은 볼륨과 측정된 사용량으로 시작됩니다.

1. 기능별 요청 수를 세세요. 채팅 턴, 문서 처리 호출, 이미지 생성 및 비디오 작업을 별도로 기록하세요. 사용자에게 보이는 작업뿐만 아니라 백그라운드 호출도 포함하세요.

2. 입력과 출력을 독립적으로 측정하세요. 응답 사용량 필드와 로그에서 실제 token 수를 캡처하세요. 시스템 지침, 대화 기록, 검색된 구절 및 도구 결과를 입력 측정에 포함하세요.

3. 정확한 모델 요율을 적용하세요. 카탈로그에 표시된 청구 분모를 사용하여 월별 입력 token에 입력 요율을 곱하고 월별 출력 token에 출력 요율을 곱하세요. 모델 변경으로 인해 예측이 무효화되지 않도록 각 계산 옆에 모델 식별자를 기록하세요.

4. 미디어 단위를 추가하세요. 이미지, 메가픽셀 및 비디오 작업 볼륨에 해당 가격을 곱하세요. 관련 없는 출력을 평균화하기보다는 구성별 작업을 별도로 유지하세요.

5. 추가 시도를 포함하세요. 애플리케이션 재시도, 거부되었지만 성공적으로 생성된 답변, 공급자 실패를 구분하세요. 저희의 실패한 요청이나 생성은 청구되지 않지만, 애플리케이션이 거부한 전달된 답변은 여전히 워크플로우가 소비한 작업을 나타냅니다.

6. 자금 조달 비용을 고려하세요. 저희는 명시된 모델 가격 외에 추가 수수료를 부과하지 않으며, 월별 수수료나 최소 금액도 없습니다. 카드 잔액 추가에는 명시된 5.5%에 $0.50 수수료가 부과되므로, 이 자금 조달 비용을 요청 지출과 별도로 유지하세요.

추정치를 활용 가능한 예산으로 전환

기본 텍스트 계산은 다음과 같습니다:

월별 텍스트 지출 = 모든 시도에 대한 input-token 요금 + output-token 요금.

그런 다음 미디어 지출과 모든 지원 애플리케이션 서비스를 추가하세요. AI 가격 모델 가이드는 청구 구조를 결합하기 전에 구분하는 데 도움이 됩니다.

저희가 공개한 월별 예시는 총 $113.00이며, OpenRouter 또는 공식 가격의 $400.00와 비교하면 $287.00의 차이가 있습니다. 이는 예시 워크로드로 간주하고, 다른 모델 조합이나 출력 볼륨을 가진 애플리케이션에 대한 예측으로 간주하지 마세요.

예산 책정 규칙: 각 기능에 대한 월별 총액, 요청당 평균 비용, 그리고 불확실성에 대한 별도의 허용량을 유지하세요. 단일 계정 총액만으로는 지출이 왜 변동했는지 설명할 수 없습니다.

추론 비용을 변화시키는 요인

모델 호출은 택시 요금과 비슷합니다. 대기 시간도 중요하면 거리만으로 요금이 결정되지 않습니다. 추론의 경우, 토큰 볼륨은 계산의 일부일 뿐이며, 워크로드 형태와 서비스 요구 사항이 답변을 제공하는 데 필요한 리소스에 영향을 미칩니다.

비용 요인 및 각 요인이 요금에 미치는 영향

소비자 GPU 추론 연구]에 따르면, 일반 API 워크로드의 경우 전력 비용만으로 추정된 비용은 백만 토큰당 $0.001–$0.005이며, 32K 컨텍스트를 사용하는 검색 증강 생성의 경우 $0.14–$0.22였습니다. 또한 NVFP4는 BF16 처리량의 약 1.6배를 41% 적은 에너지로 제공했으며, 2%–4%의 품질 손실이 추정된다고 보고했습니다.

이것은 고객 API 가격이 아닌, 전력 비용만 포함된 운영 추정치입니다. 이 추정치에는 나머지 서비스 사업 비용이 제외되어 있으며, 가격표에 있는 청구된 입력 및 출력 요금과 직접 비교할 수 없습니다.

자체 호스팅에는 별도의 계산이 필요합니다

LLaMA 추론 벤치마크]에 따르면, 65B 모델을 서비스하는 데 대략 8–32개의 GPU가 필요했으며, 샤딩 구성에 따라 약 300와트에서 1킬로와트의 추론 전력 소비량이 보고되었습니다. 따라서 자체 호스팅은 단순히 전력 추정치뿐만 아니라 활용도 계산이 필요합니다. 하드웨어, 메모리, 네트워킹, 운영 및 유휴 용량을 포함해야 합니다.

대안을 검토할 때 모델 가격 변경 추적기]를 사용하세요. 저희는 모델 ID를 변경하여 모델을 전환할 수 있도록 하지만, 호환성이 동등한 품질을 보장하지는 않습니다.

자체 평가를 통과하는 가장 저렴한 모델을 선택한 다음, 더 낮은 요율을 협상하기 전에 불필요한 컨텍스트와 출력을 줄이세요.

더 저렴한 토큰이 여전히 더 높은 요금으로 이어질 수 있는 이유

TCS의 성과 기반 생성형 AI 지출 분석]에 따르면, 토큰당 비용은 약 3년 동안 1,000배 감소했지만, 전체 추론 지출은 계속 증가했으며, 출력 토큰은 일반적으로 입력 토큰보다 3배에서 6배 더 비싸다고 보고합니다. 단위 가격이 낮다고 해서 애플리케이션 지출이 반드시 낮아지는 것은 아닙니다.

가격과 사용량이 반대 방향으로 움직일 때 이러한 차이를 더 쉽게 알 수 있습니다.

개별 생성물이 아닌 완료된 작업을 비교하세요

예시적인 문서 추출 워크플로를 생각해 보세요. 저렴한 모델이 필요한 구조화된 응답 대신 장황한 설명을 생성하면, 애플리케이션은 수정 요청을 제출합니다. 수정된 응답이 여전히 유효성 검사에 실패하면, 워크플로는 더 강력한 모델로 에스컬레이션됩니다.

대안 모델은 출력 토큰당 비용이 더 많이 들지만, 즉시 허용 가능한 구조화된 결과를 반환합니다. 더 높은 단위 요율에도 불구하고, 수정 프롬프트, 반복되는 문서 컨텍스트, 그리고 대체 생성을 피할 수 있기 때문에 총 작업 비용을 낮출 수 있습니다.

이러한 결과가 필연적인 것은 아닙니다. 이는 대표적인 평가가 정확히 결정해야 할 사항입니다.

완료된 작업당 비용 = 총 워크플로 지출 ÷ 성공적으로 완료된 작업.

검색, 도구 호출, 가드레일 및 사람의 개입이 워크플로에 속한다면 이를 포함하세요. 측정하기 전에 성공을 정의하세요: 도착한 답변이 반드시 제품이 사용할 수 있는 답변은 아닙니다.

이러한 구분은 AI 경제학에 대한 광범위한 논의를 해석할 때도 중요합니다.

비싼 경로를 진단하세요

지출과 함께 프롬프트 길이, 출력 길이, 유효성 검사 실패 및 대체 결정을 추적하세요. 저렴한 첫 시도는 일상적인 사례를 해결하고 어려운 사례를 선별적으로 에스컬레이션한다면 여전히 가치가 있습니다. 거의 모든 작업이 초기 시도와 대체 모두에 비용을 지불하게 되면 낭비가 됩니다.

겉보기 성공률을 높이기 위해 품질 검사를 제거하지 마세요. 그것은 유용한 작업의 비용을 줄이는 것이 아니라 성공의 정의를 바꾸는 것입니다.

결정 테스트: 긴 출력, 재시도 및 지원 서비스를 거친 후 승인된 워크플로의 비용은 얼마이며, 단순히 첫 모델 호출 후의 비용은 얼마입니까?

신뢰성과 인프라가 실제 비용을 어떻게 변화시키는가

표면적인 가격만으로는 애플리케이션이 필요할 때 적절한 용량을 사용할 수 있다고 보장할 수 없습니다. 지역, 약정, 지연 시간 요구 사항 및 용량 유형이 모두 비교에 영향을 미칩니다.

GPU 가격 및 추론 비용 추적기는 H100 가격이 스팟 인스턴스에서 시간당 약 $0.34에서 평균 시간당 약 $3.46에 이른다고 보고했으며, 공급자, 지연 시간 계층 및 컨텍스트 창 전반에 걸쳐 유사한 기능의 서비스에 대해 백만 출력 토큰당 $0.50–$3로 추정했습니다. 이러한 범위는 서로 교환할 수 있는 제안이 아니라, 서로 다른 구매 조건을 설명합니다.

배치 작업과 대화형 작업에는 다른 용량이 필요합니다

배치 처리의 경우, 완료 시간이 변동하더라도 저렴한 엔드포인트가 허용될 수 있습니다. 애플리케이션이 작업 상태를 추적하고 중복 처리를 방지한다면, 문서 분류 큐는 작업을 일시 중지하거나 재조정할 수 있습니다. 즉각적인 응답을 위해 추가 비용을 지불하는 것은 가치가 거의 없을 수 있습니다.

대화형 제품의 경우, 동일한 엔드포인트가 좋지 않은 구매일 수 있습니다. 사용자가 요청이 완료되기 전에 포기하면, 기술적으로 성공적인 생성도 상업적으로는 실패할 수 있습니다. 더 비싼 엔드포인트는 시간 초과 관련 재시도, 중단된 세션 또는 지원 개입을 줄일 때 가치가 있을 수 있습니다.

대표적인 동시성 조건에서 두 가지 옵션을 모두 비교하십시오. 유휴 엔드포인트 테스트에 의존하기보다는, 첫 토큰까지의 시간, 완료 지연 시간, 꼬리 지연 시간 및 승인된 작업 완료를 측정하십시오.

라우팅이 운영 비교를 변화시킵니다

저희는 각 요청을 가장 저렴하고 정상적인 판매자에게 라우팅하고, 공급자가 느려지거나 사용할 수 없게 되면 다른 정상적인 판매자에게 이동시킵니다. 이는 애플리케이션이 모든 판매자별 복구 경로를 구현할 필요성을 줄여주지만, 여전히 엔드투엔드 동작을 테스트해야 합니다.

어떤 공급자도 모델을 제공할 수 없는 경우, API는 **503 no_available_provider**을 반환하며, 요금은 부과되지 않습니다. 비디오의 경우, 응답은 생성이 시작되기 전에 작업에 들 수 있는 최대 비용을 명시합니다. 두 가지 동작 모두 제품에서 사용할 수 없는 용량이나 지연된 결과를 처리해야 할 필요성을 없애지는 않습니다.

엔드포인트를 비교하기 전에 다음 값을 설정하십시오:

• 가용성 목표: 기능이 언제 작동해야 하며 어떤 저하된 동작이 허용되는지 정의하십시오.
• 지연 시간 목표: 느린 꼬리 동작을 포함하여 사용자가 필요로 하는 응답 시간을 지정하십시오.
• 장애 조치 값: 어떤 중단이 대체 용량 또는 다른 모델을 정당화하는지 결정하십시오.
• 작업 비용 상한: 승인된 결과에 대해 경제적으로 허용 가능한 최대 지출을 설정하십시오.

유용한 조달 비교는 이러한 요구 사항을 일정하게 유지합니다. 그렇지 않으면, 동일한 가격 열을 통해 서로 다른 서비스를 비교하는 것입니다.

모델을 확정하기 전에 예산을 설정하세요

모델의 가격을 기능별 예산 및 측정 가능한 승인 테스트와 연결할 수 있을 때만 모델을 확정하세요. 유망한 플레이그라운드 응답은 시작점일 뿐, 전체 워크플로우가 경제적이라는 증거는 아닙니다.

평가에 대한 통제 설정

1. 각 기능의 청구 단위를 선택하세요. 결과물이 input tokens, output tokens, images, megapixels 또는 jobs를 소비하는지 기록하세요. 이미지 치수 또는 비디오 설정 변경 시 예산 검토가 시작되도록 요청된 구성을 해당 단위 옆에 유지하세요.

2. 기능별 예측을 만드세요. 대표 샘플에서 관찰된 요청 볼륨과 사용량을 활용하세요. 사용자의 눈에 보이는 prompt만으로 추정하는 대신, 백그라운드 처리 및 애플리케이션 지향적인 복구 호출을 포함한 전체 실행 경로를 포함하세요.

3. 요청과 함께 가격 제한을 보내세요. 해당 max_price 또는 max_cost 제어를 사용하세요. 요청은 귀하가 보낸 값 이상으로 청구되지 않으므로, 일반적인 카탈로그 가격이 보장된 최대치라고 가정하는 것보다 강제 가능한 제한이 더 유용합니다.

4. 공유 잔액을 신중하게 할당하세요. 하나의 잔액으로 text, image, video 및 music 모델을 모두 사용할 수 있습니다. 미디어 실험이 기존 text 워크플로우에 필요한 자금을 가리지 않도록 기능별 지출 기록을 유지하세요.

5. 대체 모델을 평가하세요. 저희 API는 모든 모델에 대해 정가 이하로 하나의 key를 제공합니다. 작업 지침과 승인 기준을 안정적으로 유지하면서 모델 식별자를 변경한 다음, 가장 세련되게 들리는 답변을 선택하는 대신 결과물을 비교하세요.

6. 제한된 프로덕션 파일럿을 실행하세요. 일상적이고 어려운 트래픽을 모두 포착하는 검토 기간을 선택하세요. 접근을 확대하거나 동시성을 높이기 전에 승인된 작업당 측정된 비용을 예측치와 비교하세요.

공급자를 전환하기 전에 차이점을 조사하세요

프로덕션 통합 전에 대시보드 playground를 사용하여 출력을 비교하고 매개변수를 조정하세요. 추출의 경우, schema 준수 여부와 필드가 문서에 의해 지원되는지 검사하세요. 코딩의 경우, 제안된 변경 사항이 작업을 충족하고 관련 검사를 통과하는지 평가하세요.

측정된 비용이 예측치를 초과할 경우, output length, retry behavior 및 context size를 먼저 확인하세요. 그런 다음, 전체 대화 기록을 첨부하거나 동일한 문서를 반복적으로 제공하는 등 애플리케이션이 워크로드를 변경했는지 검사하세요. 더 높은 청구서가 표시된 요율이 인상되었음을 의미한다고 가정하지 마세요.

이번 주에 실시간 가격표를 열고, 지출의 가장 큰 부분을 차지하는 기능을 식별하고, 기록된 사용량으로부터 해당 추정치를 만드세요. 첫 번째 측정 결과를 해당 예측치와 비교 검토할 담당자를 지정하세요.

---

UberLLM은 text, image, video 및 music 모델에 접근하기 위한 통합 API와 선불 잔액을 제공하며, 요청 수준의 가격 제어 기능을 갖추고 있습니다. UberLLM]를 방문하여 실시간 모델 가격을 비교하고, 가장 많은 지출이 예상되는 기능에 대한 후보를 선택하고, 확정하기 전에 완료된 작업당 비용을 테스트해 보세요.