고성능 GPU 1만 장은 칩만으로 약 7MW를 소비해 소도시급 전력에 맞먹습니다. 전력밀도·발열·하중을 일반 서버실이 감당하지 못해 전용 데이터센터가 필요합니다. AI GPU는 서버·랙·상면과 전력·냉각 설비를 갖춘 ...
Read More
||
.gb-summary{max-width:880px;margin:0 auto;background:#F8FFED;border-radius:3px;padding:26px 30px;font-family:'Noto Sans KR',-apple-system,BlinkMacSystemFont,'Malgun Gothic','맑은 고딕','Apple SD Gothic Neo',sans-serif;color:#1a2733;line-height:1.6;}
.gb-summary__head{display:flex;align-items:center;justify-content:space-between;margin-bottom:16px;}
.gb-summary__label::before{content:"요약";font-size:20px;font-weight:700;color:#1a2733;letter-spacing:0.5px;}
.gb-summary__badge::after{content:"\23F0\00A0 4 min";font-size:13px;font-weight:500;color:#555;background:#ffffff;padding:4px 12px;border-radius:20px;white-space:nowrap;}
.gb-summary__list{font-size:16px;font-weight:400;color:#2c3e50;line-height:1.7;counter-reset:gbnum;}
.gb-summary__item{margin:0 0 14px 0;padding-left:26px;text-indent:-26px;counter-increment:gbnum;}
.gb-summary__item:last-child{margin:0;}
.gb-summary__item::before{content:counter(gbnum) ".\00a0\00a0";font-weight:700;color:#1F3864;}
고성능 GPU 1만 장은 칩만으로 약 7MW를 소비해 소도시급 전력에 맞먹습니다.
전력밀도·발열·하중을 일반 서버실이 감당하지 못해 전용 데이터센터가 필요합니다.
AI GPU는 서버·랙·상면과 전력·냉각 설비를 갖춘 데이터센터에서만 제대로 작동합니다.
GPU 확보 후 시작되는 고민
‘GPU 몇만 장 확보’ 같은 주제가 뉴스에 자주 나옵니다. 정부만 해도 2025년 1차 추가경정예산 약 1조 4,600억 원을 들여 클라우드 3사와 함께 첨단 GPU 1만 3천 장을 확보하기로 했죠¹. 많이 확보했다는 소식은 들리는데 정작 이걸 어디에 설치해 어떻게 쓰는지는 기사에 잘 나오지 않습니다.
AI 연구와 사업은 고성능 GPU 수천, 수만 장을 한데 모아 며칠씩 쉬지 않고 돌리며 개발됩니다. GPU 한 장은 최대 700W 안팎을 사용합니다.² 1만 장이면 약 7MW로 작은 도시 하나가 동시에 사용하는 전력과 맞먹습니다. 이렇게 많은 전기를 쓰는 GPU가 한 공간에 빽빽이 모여 있으면 당연히 온도도 함께 치솟겠죠. GPU 칩은 90도 안팎인데요, 계속해서 과열되면 GPU는 스스로 속도를 줄이거나 아예 꺼져버립니다. 그렇기 때문에 GPU를 제대로 사용하려면 전기와 열 조절, 그리고 장비의 무게를 감당할 조건이 함께 갖춰져야 합니다.
항상 수요가 늘면 그것을 어떻게 안정적으로 공급하고 운용할지가 사회적 주제로 대두됩니다. AI 시대로 들어오면서 그 관심이 GPU와 이를 안정적으로 돌릴 데이터센터로 옮겨왔습니다. 국내에서는 생성형 AI가 빠르게 확산되면서 대규모 모델 학습·추론에 쓰이는 GPU 서버 수요가 늘었습니다. 실제로 국내 서버 시장에서 GPU 서버가 차지하는 비중은 2023년 26.2%에서 2024년 45%로 확대됐습니다³.
GPU가 데이터센터에 자리 잡게