.gb-summary{max-width:880px;margin:0 auto;background:#F8FFED;border-radius:3px;padding:26px 30px;font-family:'Noto Sans KR',-apple-system,BlinkMacSystemFont,'Malgun Gothic','맑은 고딕','Apple SD Gothic Neo',sans-serif;color:#1a2733;line-height:1.6;}
.gb-summary__head{display:flex;align-items:center;justify-content:space-between;margin-bottom:16px;}
.gb-summary__label::before{content:"요약";font-size:20px;font-weight:700;color:#1a2733;letter-spacing:0.5px;}
.gb-summary__badge::after{content:"\23F0\00A0 8 min";font-size:13px;font-weight:500;color:#555;background:#ffffff;padding:4px 12px;border-radius:20px;white-space:nowrap;}
.gb-summary__list{font-size:16px;font-weight:400;color:#2c3e50;line-height:1.7;counter-reset:gbnum;padding:0 60px 0 50px;}
.gb-summary__item{margin:0 0 14px 0;padding-left:26px;text-indent:-26px;counter-increment:gbnum;}
.gb-summary__item:last-child{margin:0;}
.gb-summary__item::before{content:counter(gbnum) ".\00a0\00a0";font-weight:700;color:#1F3864;}
GPU 성능은 사양이 같아도 데이터센터의 냉각·전력·연결·배치·가동 조건에 따라 달라집니다.
같은 서버 안에서도 뜨거운 위치의 GPU는 열 스로틀링(Thermal Throttling)으로 클럭이 낮아집니다.
GPU 보관 장소를 고를 때는 냉각 용량·전력 이중화·GPU 간 연결·랙 배치·장애 복구 절차를 사양표와 함께 비교합니다.
GPU를 고를 때는 보통 사양표를 먼저 비교합니다. 메모리 용량과 연산 성능이 같다면 같은 모델 GPU는 어디에 두어도 같은 성능을 낼 것처럼 보입니다. 하지만 실제로는 GPU를 어디에, 어떻게 두느냐에 따라 같은 GPU도 다른 성능을 냅니다. 이 글에서는 GPU 성능을 가르는 시설 요인 5가지와 GPU 보관 장소를 고를 때 물어볼 질문을 정리합니다.
GPU 성능은 사양표만으로 정해질까?
사양표에는 GPU가 낼 수 있는 최대 성능이 적혀 있습니다. 하지만 실제 성능은 냉각, 전력, 연결, 배치, 가동 조건에 따라 달라집니다.
GPU를 전력과 냉각 설비를 갖춘 데이터센터에 둬야 하는 이유는 [GPU를 사 왔습니다. 그런데 이건 어디에 두나요?]¹에서 살펴봤습니다. 데이터센터 안에서도 조건은 같지 않습니다. 대규모 AI 학습을 분석한 미국 조지아공과대학교 연구진은 AI 학습 성능이 하드웨어 용량을 늘리는 것만으로 정해지지 않는다고 결론 내렸습니다². 연구진은 학습 성능이 하드웨어와 시스템 구성, 실행 방식이 맞물려 결정된다고 봤습니다. 특히 같은 서버 안에서도 GPU 위치에 따라 열이 몰려 속도가 떨어지고 순간 전력이 치솟으면 이 현상이 더 심해진 다는 점을 확인했습니다.
대규모 AI 모델 학습은 GPU 수천 장에서 수만 장을 동시에 사용해 모델 하나를 학습합니다. 2024년 공개된 Meta의 Llama 3 가운데 가장 큰 모델은 H100 GPU 최대