H100 Tensor Core GPU

대규모 언어모델(LLM) 훈련과 추론에 최적화된 데이터센터 GPU

대규모 언어모델(LLM) 훈련과 추론에
최적화된 데이터센터 GPU

H100 SXM: 80GB HBM3 | 3,958 TFLOPS | 700W TDP
H100 NVL: 94GB HBM3 | 3,341 TFLOPS | 400W TDP

기술 사양

H100 SXM

H100 NVL

FP64

34 TFLOPS

30 TFLOPS

FP64 Tensor 코어

67 TFLOPS

60 TFLOPS

FP32

67 TFLOPS

60 TFLOPS

TF32 Tensor 코어*

989 TFLOPS

835 TFLOPS

BFLOAT16 Tensor 코어*

1,979 TFLOPS

1,671 TFLOPS

FP16 Tensor 코어*

1,979 TFLOPS

1,671 TFLOPS

FP8 Tensor 코어*

3,958 TFLOPS

3,341 TFLOPS

INT8 Tensor 코어*

3,958 TOPS

3,341 TOPS

H100 SXM

H100 SXM

A100 PCIe

GPU 메모리

80GB HBM3

94GB HBM3

GPU 메모리 대역폭

3.35TB/s

3.9TB/s

디코더

7 NVDEC / 7 JPEG

7 NVDEC / 7 JPEG

최대 TDP

최대 700W

350-400W

MIG

최대 7개 (각 10GB)

최대 7개 (각 12GB)

폼 팩터

SXM

PCIe 듀얼 슬롯 (공랭식)

PCIe 듀얼 슬롯
(공랭식)

인터커넥트

NVLink 900GB/s

NVLink
900GB/s

NVLink 600GB/s

NVLink
600GB/s

PCIe Gen5 128GB/s

PCIe Gen5
128GB/s

PCIe Gen5 128GB/s

PCIe Gen5
128GB/s

H100 Tensor Core GPU 기반

최적의 인프라 구성을 간편하게 확인해 보세요.

호환성 확인하기

1.0

서버 호환성 체크

Dell PowerEdge, HP ProLiant, Lenovo ThinkSystem 등 주요 서버 플랫폼과의 물리적 장착 및 ISV 인증 여부 확인

Dell PowerEdge, HP ProLiant, Lenovo ThinkSystem 등 주요 서버 플랫폼과의 물리적 장착 및 ISV 인증 여부 확인

2.0

멀티 GPU 시뮬레이션

단일 시스템 내 다중 GPU 구성 시의 연산 성능과 작업 효율을 기반으로 워크로드별 최적의 확장 환경 예측

단일 시스템 내 다중 GPU 구성 시의 연산 성능과 작업 효율을 기반으로 워크로드별 최적의 확장 환경 예측

3.0

구매 옵션 최적화

전문가용 단품 도입부터 엔터프라이즈급 완제 시스템 패키지까지, 비즈니스 규모에 맞춘 최적의 도입 경로 제안

전문가용 단품 도입부터 엔터프라이즈급 완제 시스템 패키지까지, 비즈니스 규모에 맞춘 최적의 도입 경로 제안

호환성 확인하기

호환성 확인하기