인공지능 구현에서 전력 사용량을 줄여야 하는 이유와 그 노력
인공지능 구현에서 전력 사용량을 줄여야 하는 이유와 그 노력
인공지능이 일상과 산업 전반으로 빠르게 스며들면서, 그 화려한 성능의 이면에서 소리 없이 커지는 문제가 있다. 바로 전력 소비다. 우리는 생성형 인공지능에게 질문을 던지고 몇 초 만에 답을 얻는 데 익숙해졌지만, 그 한 번의 응답을 위해 지구 어딘가의 데이터센터에서는 결코 적지 않은 양의 전기가 소모된다. 인공지능이 지속 가능한 기술로 자리 잡기 위해서는, 그 지능을 떠받치는 에너지의 무게를 정확히 인식하고 줄여 나가려는 노력이 반드시 함께 이루어져야 한다.
먼저 문제의 규모를 짚어 볼 필요가 있다. 국제에너지기구(IEA)에 따르면 전 세계 데이터센터의 전력 소비량은 2024년 약 415테라와트시(TWh)로, 전 세계 전력 소비의 약 1.5퍼센트를 차지했다. 그러나 이 수치는 인공지능 확산과 함께 빠르게 증가하고 있으며, IEA는 2030년경 약 945TWh에 이를 것으로 전망한다. 일부 고성장 시나리오에서는 이미 2026년에 1,000TWh를 넘어설 것으로 보는데, 이는 일본 한 나라의 연간 전력 소비량에 맞먹는 규모다. 브루킹스연구소는 데이터센터를 하나의 국가로 가정할 경우 일본과 러시아 사이, 세계 5위권의 전력 소비국에 해당한다고 분석했다.
특히 생성형 인공지능의 전력 집약성이 두드러진다. IEA는 일반적인 검색 한 건이 약 0.3와트시(Wh)를 소비하는 반면, 대화형 인공지능에 대한 요청 한 건은 약 2.9Wh를 소비한다고 추정했다. 대략 열 배에 이르는 차이다. 미국의 경우 로런스버클리국립연구소(LBNL)는 데이터센터가 2023년 미국 전체 전력의 약 4.4퍼센트를 소비했으며, 2028년에는 그 비중이 6.7퍼센트에서 최대 12.0퍼센트까지 늘어날 수 있다고 내다봤다.
그렇다면 왜 이 문제를 심각하게 받아들여야 하는가. 첫째는 전력망에 가해지는 부담이다. 특정 지역에 대규모 데이터센터가 집중되면 국지적으로 전력 수요가 급증하여 전력망 계획과 안정적 공급이 어려워진다. 실제로 아일랜드에서는 국가 전력의 약 5분의 1이 데이터센터에서 소비되고 있으며, 그 비중은 계속 늘어나는 추세다. 둘째는 기후 위기다. IEA는 2030년까지 데이터센터가 추가로 사용할 전력의 약 40퍼센트가 여전히 가스와 석탄 기반 발전으로 충당될 것으로 전망했다. 데이터센터는 현재 전 세계 이산화탄소 배출의 약 0.5퍼센트에 불과하지만, 다른 대다수 부문이 탈탄소를 향해 가는 가운데 배출량이 오히려 증가하는 몇 안 되는 영역 중 하나다. 셋째는 물리적 한계와 비용이다. 컴퓨터가 소비하는 전기 에너지는 결국 모두 열로 소산되며(열역학 법칙), 이 열을 식히기 위한 냉각 전력과 막대한 물 소비가 다시 뒤따른다. 전력과 물, 탄소는 서로 맞물려 비용과 환경 부담을 동시에 키운다.
이러한 문제에 대응하여 전력 절감 노력은 여러 층위에서 동시에 이루어지고 있다. 가장 근본적인 접근은 모델 자체를 가볍게 만드는 것이다. 양자화(quantization)는 모델 파라미터의 수치 정밀도를 FP32에서 INT4로 낮추어 메모리 요구량을 약 75퍼센트 줄이고 에너지 소비를 60~80퍼센트까지 절감하면서도 정확도 손실은 1~5퍼센트에 그친다. 불필요한 연결을 잘라 내는 가지치기(pruning)와, 큰 모델의 지식을 작은 모델로 옮기는 지식 증류(knowledge distillation) 역시 유사한 원리로 모델을 경량화한다. 또한 전문가 혼합(Mixture of Experts, MoE) 구조는 토큰마다 전체 파라미터의 5~10퍼센트만 선택적으로 활성화하여 3~5배의 연산 절감을 이룬다. 실제로 딥시크-V3는 6,710억 개의 파라미터 가운데 370억 개만 활성화하는 방식으로 최상위급 성능을 훨씬 낮은 추론 비용에 달성했다.
소프트웨어와 서비스 운영 차원의 개선도 눈에 띈다. 구글은 2024년 5월부터 2025년 5월까지 단 1년 사이에 자사 인공지능 프롬프트 한 건당 중간값 에너지 소비를 33배, 그에 따른 탄소 배출을 44배 줄였다고 밝혔다. 이는 더 효율적인 모델 구조와 알고리즘, 양자화, 추론 및 서빙 최적화, 맞춤형 텐서처리장치(TPU) 등이 종합적으로 결합된 결과다. 단순한 질문에 굳이 최고 성능의 대형 모델을 쓰지 않고 작업의 성격에 맞는 크기의 모델을 배정하는 '적정 규모화', 그리고 탄소 배출이 적은 시간대에 학습을 배치하는 방식도 전력과 배출을 크게 줄이는 실질적 수단으로 주목받는다.
하드웨어와 실행 위치의 전환도 중요한 흐름이다. 신경망처리장치(NPU)를 활용해 스마트폰이나 로컬 기기에서 직접 소형 언어모델을 구동하는 온디바이스 인공지능과 엣지 컴퓨팅은, 데이터를 중앙 데이터센터로 왕복 전송하며 발생하는 부담을 덜어 준다. 모든 연산을 거대한 중앙 시설에 집중시키는 대신 일부를 사용자 기기 쪽으로 분산함으로써, 전체 시스템의 에너지 효율과 응답 속도, 개인정보 보호를 함께 개선할 수 있다. 다만 대규모 학습에는 여전히 초대형 데이터센터가 가장 효율적인 만큼, 엣지와 중앙 인프라는 대체 관계가 아니라 역할을 나누는 보완 관계로 발전하고 있다.
마지막으로 데이터센터 인프라 자체의 효율화가 있다. 공랭 방식에서 액체 냉각(liquid cooling)으로의 전환이 대표적인데, 액체 냉각은 냉각에 드는 전력 소비를 최대 40퍼센트까지 줄일 수 있으며, 장비를 냉각액에 담그는 침지 냉각(immersion cooling)은 전력사용효율(PUE)을 이상적 값인 1.0에 가까운 1.02~1.03 수준까지 끌어내린다. 엔비디아가 미국 에너지부와 함께 추진하는 쿨러칩스(COOLERCHIPS) 같은 프로그램은 차세대 냉각 기술로 기존 공랭 대비 효율을 약 20퍼센트 개선하는 것을 목표로 한다. 여기에 재생에너지와 원자력 등 청정 전원의 확대, 그리고 추론 한 건당 에너지·물·탄소를 투명하게 공개하도록 하는 정책적 요구가 더해지면서, 효율화 노력은 기술과 제도 양면에서 동시에 진전되고 있다.
결국 인공지능의 전력 문제는 기술 발전이 낳은 필연적 부산물이지만, 결코 방치할 수 없는 과제다. 모델 경량화, 소프트웨어 최적화, 온디바이스와 엣지로의 분산, 냉각과 전원의 혁신은 저마다 다른 층위에서 같은 목표를 향한다. 인공지능이 진정으로 지속 가능한 기술로 남으려면, 더 똑똑해지는 만큼 더 적게 소비하려는 노력이 나란히 이어져야 한다. 지능의 무게를 키우는 일과 그 무게를 떠받치는 에너지를 줄이는 일은, 이제 분리될 수 없는 하나의 과제가 되었다.