AI 데이터센터는 왜 이렇게 뜨거운가—전력·냉각·물 사용량의 실제

2026-09-22 · 수정 2026-09-22 · 테크 · 쥬곰 편집부

AI 서비스는 화면 안에서 움직이지만, 그 계산은 전기와 열을 다루는 거대한 물리 시설에서 일어난다. 모델이 커지고 추론이 길어질수록 GPU와 전용 가속기의 가동 시간이 늘고, 좁은 랙 안에 모인 장비의 열을 밖으로 옮기는 설비도 커진다. 데이터센터를 이해하려면 칩 성능만이 아니라 전력망·변전·냉각·물·입지까지 함께 봐야 한다.

이 문제가 한국과 미국에서 동시에 떠오르는 이유도 여기에 있다. 미국은 AI 컴퓨팅 투자가 전력 수요를 끌어올리고 있으며, 한국은 GPU 인프라 확대와 함께 메모리·냉각·전력 설비를 공급하는 산업 기반을 갖고 있다.

결론부터 말하면 AI 데이터센터의 핵심 병목은 전력량 하나가 아니다. 전기를 제때 공급하고, 칩에서 발생한 열을 안정적으로 제거하며, 물과 전력의 상충관계를 입지별로 해결하는 능력이 함께 필요하다.

세 줄 요약

1. 데이터센터의 세계 전력 소비는 2030년까지 약 두 배로 늘어날 전망이며, AI 중심 시설은 더 빠르게 증가한다.
2. 고밀도 AI 랙은 공기만으로 식히기 어려워 직접 수랭과 폐쇄회로 냉각의 중요성이 커진다.
3. ‘물 사용 0’은 냉각수 자체가 없다는 뜻이 아니라, 운영 중 물을 증발시키지 않는 설계를 가리키는 경우가 많다.

일반 데이터센터와 무엇이 다른가

데이터센터가 쓰는 전기는 전부 연산에 들어가지 않는다. International Energy Agency의 최신 요약과 기존 Energy and AI 보고서는 서버가 현대 데이터센터 전력 수요의 평균 약 60%를 차지한다고 설명한다. 나머지는 스토리지·네트워크·무정전 전원장치·변전 손실·냉각 등에서 사용된다.

AI 가속기는 많은 데이터를 병렬로 처리하고, 여러 장을 고속 연결해 하나의 큰 시스템처럼 운용한다. 같은 건물 면적에 더 많은 전력을 집중시키므로 총사용량뿐 아니라 랙당 전력 밀도와 순간 부하 변화가 중요해진다. 발전소가 충분해도 변전소나 송전선이 제때 연결되지 않으면 시설을 가동할 수 없다.

전력 수요는 얼마나 커지는가

IEA는 세계 데이터센터 전력 소비가 2025년 약 485TWh에서 2030년 약 950TWh로 늘어날 것으로 전망한다. 전체 데이터센터 수요는 약 두 배가 되고, AI 중심 데이터센터의 소비는 같은 기간 약 세 배가 된다는 기준 전망이다. 2030년의 약 950TWh는 세계 전력 수요의 약 3%에 해당하지만, 시설이 특정 지역에 몰린다는 점이 더 큰 문제다.

미국에서는 규모가 더 직접적으로 보인다. 미국 에너지부가 공개한 데이터센터 전력 보고서는 미국 데이터센터가 2023년 176TWh, 미국 전체 전력의 약 4.4%를 소비했다고 추정했다. 2028년에는 325580TWh, 전체의 6.712%가 될 수 있다는 범위를 제시했다. 범위가 넓은 이유는 AI 투자 속도, 칩 효율, 가동률과 전력망 제약이 모두 불확실하기 때문이다.

이 수치를 ‘AI가 곧 국가 전력의 12%를 쓴다’로 바꾸면 부정확하다. 보고서는 AI뿐 아니라 기존 클라우드·스토리지·네트워크를 포함한 데이터센터 전체를 계산한다. 반대로 전국 평균이 3%라고 해서 지역 부담이 작다는 뜻도 아니다. 대형 시설이 집중된 변전 구역에서는 연결 지연과 전력 설비 증설 비용이 훨씬 크게 나타날 수 있다.

냉각은 열을 없애는 일이 아니라 옮기는 일이다

냉각 시스템은 열을 사라지게 하지 않는다. 칩에서 공기나 냉각수로, 다시 건물 밖 대기나 다른 용도로 열을 이동시킨다. 대표적인 방식은 다음과 같다.

• 외기·공랭: 차가운 외부 공기와 팬을 활용한다. 구조가 단순하지만 기후와 랙 밀도의 영향을 크게 받는다.
• 기계식 냉각: 냉동기와 압축기를 사용해 폐쇄회로의 열을 제거한다. 물 증발을 줄일 수 있지만 전력 사용이 늘 수 있다.
• 증발식 냉각: 물이 증발하면서 열을 가져가는 원리를 사용한다. 전력 효율이 좋을 수 있으나 물 스트레스가 큰 지역에서는 부담이 된다.
• 직접 수랭: 냉각판을 칩 가까이에 붙이고 액체를 순환시킨다. 고밀도 랙에 적합하지만 누수 감지, 펌프, 배관과 유지보수 체계가 필요하다.
• 후면 열교환기: 랙 뒤에서 뜨거운 배기열을 받아 냉각수로 전달한다. 기존 공랭 시설을 단계적으로 고밀도 환경에 맞출 때 활용할 수 있다.

한 가지 방식이 모든 지역에서 가장 친환경적인 것은 아니다. 물을 적게 쓰는 기계식 냉각은 전력을 더 사용할 수 있고, 증발식은 전력을 아끼는 대신 물 사용이 늘 수 있다. 기온·습도·전력원의 탄소배출·물 부족 정도를 함께 비교해야 한다.

‘무수 냉각’이라는 표현을 정확히 읽는 법

Microsoft는 2026년 데이터센터 물 관리 설명에서 2025년 자사 보유 시설의 약 90%가 저수량 또는 무수 냉각 방식으로 운영됐다고 밝혔다. 회사가 도입하는 직접 수랭식 폐쇄회로는 냉각수를 계속 순환시켜 정상 운용 중 증발 손실을 없애는 구조다.

Microsoft는 차세대 무증발 냉각 설계를 기존 운영 평균과 비교할 때, 시설 한 곳의 냉각 관련 물 소비를 해마다 1억 2,500만 리터 넘게 줄일 수 있다고 추산했다. 2026년 미국 애리조나주 피닉스와 위스콘신주 마운트플레전트에서 시험하며, 해당 시설은 2027년 말부터 가동될 예정이다.

다만 ‘냉각용 물 0’은 건물 전체가 물을 전혀 쓰지 않는다는 뜻이 아니다. 화장실·조경·소방 등 다른 용도는 남을 수 있고, 냉각수를 만드는 공급망의 물 사용도 별도다. 폐쇄회로가 물 증발을 줄이는 대신 펌프와 기계식 냉각의 전력 부담을 높일 가능성도 함께 봐야 한다.

전기는 서버에서 끝나지 않는다

데이터센터의 환경 영향을 계산하려면 발전원부터 폐열까지 전체 흐름을 봐야 한다. 재생에너지 구매계약을 맺어도 실제 시설이 연결된 지역 전력망에서는 가스·석탄·원전·재생에너지가 섞인다. 배터리와 무정전 전원장치는 순간적인 부하 변동과 정전에 대응하지만, 장기간 전력 부족을 해결하지는 못한다.

서버에서 나온 낮은 온도의 폐열은 모든 곳에서 경제적으로 재사용할 수 있는 것도 아니다. 가까운 지역난방망, 온실이나 산업 수요가 있고 온도와 계절이 맞아야 한다. 회수 설비를 추가하면 펌프와 배관 비용도 생긴다. 따라서 ‘폐열 재사용 가능’과 ‘실제로 재사용 중’을 구분해야 한다.

AI 질문 한 번보다 시스템 전체가 중요하다

단일 질문의 전력 사용량을 하나의 고정 숫자로 말하기는 어렵다. 모델 크기, 입력·출력 길이, 배치 처리, 하드웨어, 가동률, 냉각 효율과 전력원에 따라 달라진다. IEA는 단순 텍스트 작업의 단위당 효율이 빠르게 개선됐지만, 영상 생성·장기 추론·에이전트 작업은 단순 텍스트보다 수백 배 또는 수천 배 많은 에너지를 사용할 수 있다고 설명한다.

효율 개선만으로 총수요가 줄어든다고 단정할 수도 없다. 한 번의 요청이 저렴해지면 사용량과 적용 분야가 더 빠르게 늘어나는 반동 효과가 나타날 수 있다. 반대로 모든 AI 요청이 같은 수준의 전력을 쓴다는 주장도 틀리다. 운영자는 모델의 정확도뿐 아니라 요청당 에너지, 지연시간, 가속기 이용률과 냉각 효율을 함께 측정해야 한다.

한국에서 봐야 할 세 가지

첫째는 전력망이다. 과학기술정보통신부의 2026년 업무계획은 정부 조달과 국가 슈퍼컴퓨터 등을 포함해 2026년까지 누적 3만7000개의 GPU를 확보하는 계획을 제시했다. 컴퓨팅 자원 확대는 서버 구매로 끝나지 않고 변전·송전·냉각 용량을 함께 요구한다.

둘째는 입지다. 수도권의 네트워크와 인력 접근성이 좋아도 전력계통 여유가 부족하면 시설 연결이 늦어진다. 지역 분산은 해법이 될 수 있지만 통신망, 정비 인력, 부품 공급, 재난 대응과 고객의 지연시간 요구가 함께 충족돼야 한다.

셋째는 공급망 기회다. 한국 기업은 메모리뿐 아니라 냉동기, 열교환기, 펌프, 전력변환장치, 케이블과 배터리 분야에도 강점이 있다. AI 데이터센터 경쟁은 GPU 구매를 넘어 열관리와 전력 설비의 효율·공급 능력으로 확대되고 있다. 다만 기술 개발이나 공급 가능성은 실제 계약·납품 실적과 다르므로 기업의 공식 발표를 기준으로 확인해야 한다.

사업자와 지역사회가 확인할 항목

• 최대 전력뿐 아니라 시간대별 부하 변화와 계통 연결 시점은 무엇인가
• 냉각 방식별 연간 전력 사용효율과 물 사용효율을 함께 공개하는가
• ‘무수 냉각’이 운영 중 증발 0인지 시설 전체 취수 0인지 구분했는가
• 비상발전기의 연료와 가동시험이 지역 대기질에 미치는 영향은 무엇인가
• 폐열 재사용 계획에 실제 수요처와 배관 비용이 포함됐는가
• 장비 효율이 좋아졌을 때 절감분이 총사용량 감소로 이어지는지 추적하는가
• 전력망 증설 비용이 기존 가정과 사업자 요금에 전가되지 않도록 어떤 장치가 있는가

결론

AI 데이터센터의 성패는 가장 빠른 GPU를 얼마나 많이 샀는지만으로 결정되지 않는다. 전력망이 부하를 감당하고, 냉각 설비가 칩의 열을 안정적으로 옮기며, 지역의 물과 전기 비용을 투명하게 관리해야 한다. 한국에는 반도체와 열관리 공급망이라는 기회가 있지만, 시설 집중과 계통 부족이라는 위험도 동시에 있다.

좋은 AI 인프라는 연산량을 자랑하는 시설이 아니라 같은 결과를 더 적은 전력과 물로 만들고 그 비용을 지역사회에 떠넘기지 않는 시설이다. 앞으로 데이터센터 발표를 볼 때는 GPU 숫자와 투자액뿐 아니라 연결 전력, 냉각 방식, 물 사용효율과 실제 가동 시점을 함께 확인해야 한다.

출처와 이용 고지

• IEA (2026), Key Questions on Energy and AI, Licence: CC BY 4.0
• IEA (2025), Energy and AI, Licence: CC BY 4.0
• 미국 에너지부, 데이터센터 전력 수요 보고서 요약
• Microsoft, 2026년 데이터센터 물 관리 설명
• Microsoft, 차세대 무증발 냉각 설계
• 과학기술정보통신부, 2026년 업무계획

본문은 위 자료의 사실과 수치를 자체 문장으로 설명하고 별도의 전력·냉각 분석을 더했으며, 출처의 사진·그래프·도표는 복제하지 않았다.

This is a work derived by Zoogom Live from IEA material and Zoogom Live is solely liable and responsible for this derived work. The derived work is not endorsed by the IEA or its Member countries in any manner.