---
title: "GPU 시간(GPU-hour)이란? GPU 임대 vs 토큰당 요금 | BroadRouter"
description: "GPU 시간은 GPU 한 장을 1시간 쓰는 것으로, 클라우드 GPU 임대와 연산 예산의 단위입니다. 과금 방식과 시간제 LLM API 키와의 차이를 정리했습니다."
url: https://broadrouter.com/ko/glossary/gpu-hour/
lang: ko
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

이 페이지는 영어 원문을 AI의 도움을 받아 번역했습니다. [영어 원문 읽기](https://broadrouter.com/glossary/gpu-hour/) (2026-11-16 업데이트).

# GPU 시간(GPU-hour)

업데이트 2026-11-16

GPU 시간(GPU-hour)은 그래픽 프로세서 하나를 1시간 사용한 양입니다. 클라우드 제공업체는 임대한 GPU 인스턴스를 시간 또는 초 단위로 청구하고, 연구자는 작업에 든 연산량을 GPU 시간으로 나타냅니다. 기계가 일을 하든 안 하든 그 시간만큼 비용을 냅니다.

다른 이름: GPU 시간, GPU 아워, GPU 사용 시간, GPU 임대 시간, GPU 인스턴스 시간, GPU hours, GPU-hours, GPU instance hour, GPU rental hour

GPU 시간은 하드웨어를 빌릴 때 돈을 내는 단위입니다. 토큰당 API에서는 보이지 않지만, 자체 호스팅 모델에서는 청구서 전체가 됩니다.

## 작동 방식

클라우드 제공업체는 GPU 인스턴스 가격을 시간당으로 매기고, 실제 계량은 더 잘게 합니다. AWS 온디맨드 페이지는 요금이 “per instance-hour consumed”(번역: 사용한 인스턴스 시간당)이며, Linux의 1시간 미만 사용분은 최소 60초 이후 초 단위로 청구한다고 말합니다. Google Cloud는 “all vCPUs, GPUs, and GB of memory”(번역: 모든 vCPU, GPU, 메모리 GB)에 최소 1분을 청구한 뒤 1초 단위로 청구합니다. GPU 8장짜리 인스턴스를 3시간 돌리면 24 GPU 시간입니다.

계량기는 인스턴스가 쓸모 있게 일할 때가 아니라 켜져 있는 동안 돌아갑니다. 새벽 3시에 놀고 있는 GPU도 바쁜 GPU와 같은 비용이 듭니다.

연구자들도 연산량에 같은 단위를 씁니다. 예를 들어 GPTQ 논문은 175B 파라미터 모델을 “in approximately four GPU hours”(번역: 약 4 GPU 시간 만에) 양자화합니다.

## 왜 중요한가

GPU 시간을 토큰당 요금과 비교하려면 [처리량](https://broadrouter.com/ko/glossary/throughput/)으로 환산합니다.

```text
cost per 1M output tokens = hourly GPU cost ÷ (tokens per second × 3,600 ÷ 1,000,000)
```

함정은 분모에 있습니다. 처리량은 모델, 정밀도, 배치 크기, 그리고 GPU를 얼마나 바쁘게 유지하느냐에 따라 달라집니다. 부하 20%로 돌아가는 임대 GPU는 같은 GPU를 최대 부하로 쓸 때보다 토큰당 비용이 5배입니다. 트래픽이 들쭉날쭉한 팀이 API를 쓰는 주된 이유입니다. [자체 호스팅 vs API 비용](https://broadrouter.com/ko/blog/self-hosting-llm-vs-api-cost/)을 참고하세요.

## BroadNet Inference에서는

BroadNet은 GPU를 시간 단위로 빌려주지 않습니다. 자사 모델에 대한 API 접근을 판매하며, 서비스 약관에 따르면 이 모델들은 미국에 있는 BroadNet 소유 또는 임차 하드웨어나 미국 추론 파트너를 통해 실행됩니다. 시간 단위로 가격이 매겨지는 옵션이 두 가지 있지만, 어느 쪽도 GPU 시간이 아닙니다.

|  | GPU 시간(클라우드 임대) | BroadNet 시간제 키 | Meteor 플랜 |
| --- | --- | --- | --- |
| 받는 것 | GPU 한 장 전체와 그 서버 | 공유 모델의 스트림 하나 | 공유 모델의 세션 하나 |
| 모델 | 들어가는 것은 무엇이든 | BroadNet Gemma 4 VL 26B만 | DeepSeek V4.1 Flash만 |
| 한도(BroadNet 문서 기준) | 하드웨어 | 분당 요청 120개, 분당 토큰 300,000개, 스트림 1개 | 한 번에 요청 하나, 토큰 계량 없음 |
| 가격 | 클라우드가 정함 | 시간당 $0.50 | 세션당 시간당 $1 |

BroadNet의 두 옵션 모두 드라이버, 확장, 유휴 시간을 관리할 필요가 없지만, 하드웨어를 고르거나 다른 모델을 불러올 수도 없습니다. 시간제 키를 한 달 내내 쓰면 $0.50 × 24 × 30 = $360.00 금액이 됩니다. 자세한 내용은 [시간제 LLM API 키 설명](https://broadrouter.com/ko/blog/hourly-llm-api-key-explained/)과 [정액 플랜](https://broadrouter.com/ko/glossary/flat-rate-llm-plan/) 항목을 참고하세요.

## 자주 묻는 질문

### BroadNet 시간제 키는 GPU 시간인가요?

아닙니다. 시간제 키는 공유 모델 BroadNet Gemma 4 VL 26B에 대한 요청 스트림 하나를 1시간 동안 고정된 한도로 쓰는 것입니다. GPU를 받는 것도, 모델을 고르는 것도, 서버를 제어하는 것도 아닙니다.

### GPU 시간은 1시간 단위로 다 청구되나요?

그렇지 않은 경우가 많습니다. AWS는 많은 Linux 인스턴스를 최소 60초 이후 초 단위로 청구하고, Google Cloud는 GPU에 최소 1분을 청구한 뒤 초 단위로 청구합니다. 인스턴스 유형과 운영체제를 확인하세요.

### GPU 시간 가격을 토큰당 가격으로 어떻게 바꾸나요?

시간당 비용을 GPU가 1시간에 만드는 토큰 수(백만 단위)로 나눕니다. 이 값은 초당 토큰 수 × 3,600 ÷ 1,000,000입니다. 유휴 시간도 청구되므로 처리량은 실제 부하에서 측정하세요.

## 함께 보기

-   [종량제(Pay-as-you-go)](https://broadrouter.com/ko/glossary/pay-as-you-go/) (용어)
-   [LLM 정액 플랜(Flat-rate LLM plan)](https://broadrouter.com/ko/glossary/flat-rate-llm-plan/) (용어)
-   [추론 제공업체(Inference provider)](https://broadrouter.com/ko/glossary/inference-provider/) (용어)
-   [서버리스 추론(serverless inference)](https://broadrouter.com/ko/glossary/serverless-inference/) (용어)
-   [처리량(throughput)](https://broadrouter.com/ko/glossary/throughput/) (용어)
-   [에이전트용 무제한 LLM API 플랜은 어떻게 작동하나요?](https://broadrouter.com/ko/guides/unlimited-llm-api-sessions/) (가이드)
-   [LLM 자체 호스팅 vs API: 실제 비용과 손익분기점](https://broadrouter.com/ko/blog/self-hosting-llm-vs-api-cost/) (글)
-   [시간제 LLM API 키: 시간당 정액 요금 완벽 정리](https://broadrouter.com/ko/blog/hourly-llm-api-key-explained/) (글)

실제 워크로드로 테스트해 보세요. 신규 계정에는 US$5 상당의 초기 크레딧이 제공되며 Gemma 및 음성 전사에 사용할 수 있습니다. DeepSeek, GLM 및 Qwen3.8 모델은 충전이 필요합니다.

[시작하기](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-glossary-gpu-hour&utm_content=page-cta) ·

**출처**

-   [Amazon EC2 온디맨드 요금(시간 단위 및 초 단위 과금)](https://aws.amazon.com/ec2/pricing/on-demand/)
-   [Google Cloud Compute Engine 요금(GPU 과금 단위)](https://cloud.google.com/products/compute/pricing)
-   [Frantar 외, GPTQ(175B 모델을 약 4 GPU 시간에 양자화), arXiv 2210.17323](https://arxiv.org/abs/2210.17323)
-   [BroadNet Inference API 레퍼런스, 시간제 키와 한도 (영어)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-glossary-gpu-hour&utm_content=sources#limits)
