NVIDIA H100 가격 가이드: 구매자가 실제로 지불하는 금액

Q3 2026 기준 NVIDIA H100 80GB 가속기 한 장의 신품 시장 거래 가격은 대체로 장당 25,000에서 40,000 미국 달러 수준입니다. SXM 모듈 형태는 PCIe 카드보다 높은 가격에 형성되며, 중고 시장 물량은 상태와 이력에 따라 이 구간을 상당히 밑도는 선에서 거래됩니다. 이를 8장 탑재한 완성형 GPU 서버는 플랫폼, 메모리, 스토리지, 지원까지 포함하면 수십만 달러에 이릅니다.

이는 견적이 아니라 참고용 시장 구간입니다. 실제 가격은 공급, 구성, 목적지에 따라 움직이며 이 페이지는 분기마다 갱신됩니다. 특정 구성에 대한 공식 금액이 필요하다면 정직한 답은 언제나 프로포마 인보이스입니다. 이 가이드는 사양과 플랫폼 선택을 다루는 GPU 서버 구매 가이드 아래에 속합니다.

한눈에 보기

• H100 80GB: Q3 2026 기준 신품 장당 약 25,000에서 40,000 USD
• SXM 모듈은 PCIe 카드보다 비싸며 베이스보드 단위로 판매됩니다
• 중고 시장은 뚜렷하게 낮은 선에서 거래되며, 가격 편차는 이력이 좌우합니다
• 8장 구성 노드는 수십만 달러짜리 시스템이지, 카드 여덟 장 가격의 합이 아닙니다
• 수출 통제는 최상위 가속기를 합법적으로 선적할 수 있는 지역을 제한합니다
• 클라우드 임대는 GPU 시간 단위로 과금되며, 일정 가동률 이하에서는 직접 보유보다 유리합니다

실제로 구매하는 것

H100 가격을 찾는 구매자는 대개 이 넷 중 하나를 염두에 두지만 다른 하나의 견적을 받습니다. 제안을 비교하기 전에 모델부터 확정하십시오. 메모리 용량과 인터커넥트의 차이가 바로 그 가격 차이의 실체이기 때문입니다.

가격이 이 수준인 이유

네 가지 힘이 이 숫자를 결정합니다.

제조 측 희소성

이번 사이클 내내 데이터센터 GPU 생산을 묶어 둔 것은 첨단 패키징과 고대역폭 메모리의 공급이었습니다. 생산 능력은 확대되었지만, 최대 고객에 대한 할당이 여전히 나머지 모두에게 돌아가는 물량을 좌우합니다.

수요 집중

하이퍼스케일러와 대형 AI 연구소는 계약을 통해 대규모 단위로 구매합니다. 그보다 작은 구매자들은 남은 물량을 두고 경쟁하며, 같은 부품인데도 정가에 가까운 가격과 유통 채널 가격이 크게 벌어지는 이유가 여기에 있습니다.

수출 통제

미국 수출 규정은 최상위 AI 가속기의 특정 지역 선적을 제한합니다. 이로 인해 시장은 쪼개집니다. 공급은 허용된 시장에 몰리고 통제 대상 시장에서는 얇아지며, 통제 지역의 그레이마켓 프리미엄은 그 증상일 뿐 기회가 아닙니다. 당사는 합법적으로 이행할 수 없는 거래를 거절하며, 최종 용도를 묻지 않는 판매자는 싼 물건이 아니라 경고 신호입니다.

세대 교체에 따른 순환

새로운 세대의 가속기가 대량 출하되면 이전 세대 실리콘은 하이퍼스케일 운용 자산에서 빠져나와 중고 시장으로 흘러듭니다. 이것이 H100 가격을 끌어내리는 가장 큰 단일 요인이며, 출시 당시 가격 때문에 밀려났던 팀들에게 리퍼비시 전략이 이제 진짜 주류가 된 이유입니다.

신품과 중고 시장

중고 시장 H100은 신품 가격보다 낮게, 때로는 상당히 낮게 거래되지만 편차가 큰 이유는 실리콘만큼이나 위험에도 값을 매기고 있기 때문입니다. 좋은 거래와 나쁜 거래를 가르는 기준은 다음과 같습니다.

• 배치 단위 증서가 아니라 카드 한 장씩의 번인 및 메모리 테스트 결과
• 문서화된 이력: 어떤 운용 자산에서, 어떤 환경으로, 왜 퇴역했는지
• 서면 상태 등급과 명시된 판매자 보증 기간
• 펌웨어와 벤더 락 상태의 사전 고지
• 불량 카드를 되받아 갈 책임 있는 거래 상대

데이터센터 가속기는 연속 가동을 전제로 설계되므로, 기록이 잘 갖춰진 중고 카드는 합리적인 산업용 구매입니다. 기록이 없는 카드는 복권입니다. 당사의 GPU 및 가속기 취급 목록이 품목마다 상태와 등급을 표기하는 이유가 바로 그것입니다.

카드 가격이 아니라 시스템 가격

H100을 단품으로만 사는 경우는 거의 없습니다. 노드 전체로 예산을 잡으십시오.

8장 구성 노드는 부하 시 10 kW 수준의 전력을 소비하며, 이는 구매 결정이기에 앞서 설비 결정입니다.

구매냐 임대냐

클라우드 사업자는 H100 자원을 GPU 시간 단위로 임대합니다. 갑작스러운 부하, 탐색적 작업, 단기 프로젝트, 그리고 설비가 없는 팀에는 임대가 유리합니다. 가동률이 지속적으로 높을 때, 데이터 소재지나 개인정보 요건이 워크로드 실행 위치를 제약할 때, 또는 실제 가동 주기에서 상각 후 시간당 하드웨어 비용이 임대 요율보다 낮을 때는 보유가 유리합니다. 이 계산은 희망하는 가동률이 아니라 실제로 예상되는 가동률로 하십시오. 손익분기점은 결국 카드가 주당 몇 시간이나 실제로 일하는지에 달려 있습니다.

실제 금액을 받는 방법

정확한 모델, 수량, 수용 가능한 상태(신품 또는 등급이 매겨진 리퍼비시), 목적국, 그리고 플랫폼까지 필요한지 여부를 보내 주십시오. 그 정도면 리드타임과 Incoterms가 담긴 프로포마 인보이스를 발행하기에 충분합니다. 이 부품의 가격은 주 단위로 움직이므로 견적에는 유효 기간이 붙으며, 기간 제한 없이 확정 가격을 제시하는 쪽은 이 시장을 진지하게 다루고 있지 않습니다.

자주 묻는 질문

NVIDIA H100 한 장은 얼마입니까?

Q3 2026 기준 신품 시장에서 장당 약 25,000에서 40,000 미국 달러이며, 모델과 수량, 유통 경로에 따라 달라지고 중고 물량은 이보다 낮게 거래됩니다. 프로포마 인보이스에 적히기 전까지는 어떤 단일 수치도 참고치로만 보십시오.

NVIDIA H100은 왜 그렇게 비쌉니까?

첨단 패키징과 고대역폭 메모리의 공급 제약, 초대형 구매자에게 집중된 수요, 공급이 갈 수 있는 곳을 쪼개는 수출 통제, 그리고 카드 한 장에 실리는 HBM 용량 자체가 크다는 점 때문입니다. 제조 원가의 이야기라기보다 공급과 할당의 이야기입니다.

H100은 5090 같은 소비자용 카드보다 낫습니까?

데이터센터 AI 작업에서는 그렇고, 애초에 서로 대체재도 아닙니다. H100은 훨씬 많은 고대역폭 메모리, ECC 보호, 데이터센터급 드라이버 지원, 연속 가동을 전제한 설계, 그리고 다중 GPU 인터커넥트를 갖추고 있습니다. 소비자용 카드는 자체 메모리에 들어가는 단일 카드 워크로드에서 순수 연산 성능당 가격이 유리합니다.

클라우드에서 H100은 시간당 얼마입니까?

클라우드 가격은 GPU 시간 단위로 제시되며 하이퍼스케일러와 GPU 전문 클라우드 사이에서, 그리고 약정 기간에 따라 크게 달라집니다. 결정하기 전에 실제 가동률에서의 상각 후 보유 비용과 요율을 비교하십시오.

H100 GPU를 전 세계 어디서나 구매할 수 있습니까?

아닙니다. 수출 통제가 최상위 가속기의 특정 지역 선적을 제한하며, 합법적인 판매자는 통제 대상 모델에 대해 최종 사용자와 최종 용도 정보를 요구합니다. 당사는 거래를 합법적으로 이행할 수 있는 곳에만 공급합니다.