AI 컴퓨팅 파워의 진화와 실용화에 있어 액체냉각의 핵심 포인트
Sep 25, 2024
메시지를 남겨주세요
최근에는 인공지능, 빅데이터, 대형 모델 등 기술의 급속한 발전으로 효율적인 냉각에 대한 요구가 꾸준히 증가하고 있습니다. 액체 냉각 기술은 광범위한 관심과 적용을 받아왔습니다. 많은 유명 기업들이 액체 냉각 기술의 연구 및 적용에 투자하여 지속적인 혁신과 개발을 주도해 왔습니다. 5G 통신, 엣지컴퓨팅 등 분야에서도 액체냉각 기술 적용이 점차 확대되고 있어 이들의 성장을 든든하게 뒷받침하고 있다.
시장조사기관에 따르면 전 세계 액체냉각 시장은 앞으로도 급속한 성장을 이어가며 2025년에는 수십억 달러 규모에 이를 것으로 예상된다. 중국 시장에서도 액체냉각 기술 적용이 점차 늘어나고 있으며 시장 규모도 앞으로 몇 년 안에 두 배로 늘어날 것으로 예상됩니다.
I 컴퓨팅 성능과 냉각의 진화
컴퓨팅 성능의 진화에서 냉각은 중요한 역할을 합니다. 컴퓨팅 성능의 모든 주요 혁신에는 냉각 기술의 개선이 동반되는 경우가 많습니다. 초기에는 팬을 사용하여 공기를 이동시키고 열을 발산하는 공기 냉각이 주요 방법이었습니다. 이는 보다 전통적이고 일반적인 냉각 방법입니다.
컴퓨팅 성능이 향상되고 열 발생이 증가함에 따라 보다 효율적인 히트 파이프 냉각 기술이 등장했습니다. 히트 파이프는 작동 유체의 증발 및 응축을 통해 열을 전달하여 우수한 열 전도성을 제공합니다. 액체 냉각 기술이 점차 두각을 나타내면서 순환하는 액체를 통해 효과적으로 열을 흡수하고 전달하여 공냉식에 비해 더 높은 효율을 제공합니다. 이기종, HPC 및 AI 시스템의 컴퓨팅 요구가 계속 증가함에 따라 액체 냉각의 중요성이 더욱 분명해지고 있습니다.
▲ 냉각 기술의 진화 뒤에는 끊임없는 칩 기술의 진화가 있다
반도체 공정이 물리적 한계에 접근함에 따라 고급 패키징은 무어의 법칙을 확장하는 중요한 경로가 되었습니다. 공정 기술을 통한 소자 크기 축소, 신소재 개발, 트랜지스터 밀도 향상을 위한 회로 구조 개선, 집적 회로 용량 증대를 위한 패키징 방식 변화도 중요한 방향이다. 시스템 성능을 향상시키는 멀티 칩 2.5D 및 3D 패키징과 같은 시나리오에서 컴퓨팅 네트워크 프레임워크의 시스템 전력 및 열 밀도가 증가함에 따라 액체 냉각은 고효율 냉각 솔루션에 필수 불가결해졌습니다.
AI 훈련과 추론이 컴퓨팅 네트워크 아키텍처를 재구성함에 따라 대규모 모델 매개변수의 증가율은 GPU 메모리의 증가율보다 훨씬 빠릅니다. 고집적도, 대용량 메모리 및 다중 GPU 시스템은 대규모 모델 교육 및 추론에 더 적합합니다. AIDC 캐비닛의 칩 밀도가 크게 증가함에 따라 기존 냉각에서 효율적인 액체 냉각으로의 진화는 불가피합니다.
▲ AIDC 캐비닛
II 액체 냉각의 응용 시나리오 및 기술
칩 수준에서 칩의 일반적인 전력 소비가 300W를 초과하는 경우 컴퓨팅 성능의 방출을 보장하기 위해 액체 냉각이 필요합니다. 시스템 수준에서 AI 서버의 전력은 캐비닛당 10kW 수준에서 수십 kW로 증가하여 액체 냉각의 침투가 시급합니다. 데이터 센터 수준에서 IDC PUE를 1.5 이상에서 1.2로 줄이는 유일한 방법은 액체 냉각을 채택하는 것입니다.
현재 중국의 주류 액체 냉각 솔루션에는 냉각판, 침지 및 스프레이 유형이 포함되며 냉각판이 가장 널리 사용됩니다.
▲ 콜드플레이트, 침지형, 스프레이형
▲ 냉각판, 상변화침지, 단상침지, 분무냉각
컴퓨팅 성능에 대한 요구가 증가함에 따라 액체 냉각 기술은 다음과 같은 주요 애플리케이션 시나리오에서 중요한 역할을 하고 있습니다.
1. 데이터 센터:서버 및 기타 IT 장비를 냉각하여 에너지 효율성을 높이고 운영 비용을 절감합니다.
2. 슈퍼컴퓨터:대규모 컴퓨팅 작업을 처리하여 고성능과 안정성을 보장합니다.
3. 인공지능:계산 속도를 높이기 위해 딥 러닝 모델을 훈련하고 실행합니다.
4. 의료기기:MRI 기계와 같은 장비를 작동 온도로 유지합니다.
5. 산업 제조업:생산 효율성과 제품 품질을 향상시키는 냉각 처리 장비.
6. 전기자동차:배터리 팩을 냉각하여 배터리 수명을 연장하고 안전성을 향상시킵니다.
7. 항공우주:전자 장치 및 엔진 부품 냉각.
8. 연구:각종 실험장비 냉각.
9. 게임용 컴퓨터:고성능 냉각 솔루션을 제공합니다.
10. 암호화폐 채굴:광산 장비의 효율적인 작동을 유지합니다.
III 액체 냉각 기술 개발 동향
에너지 보존 및 배출 감소의 맥락에서 액체 냉각 기술의 장점이 점차 명백해지고 있으며 몇 가지 새로운 추세가 나타나고 있습니다.
1. 더 높은 효율성:증가하는 컴퓨팅 수요를 충족하기 위해 냉각 효율성을 지속적으로 개선합니다.
2. 낮은 에너지 소비:최적화된 디자인과 소재를 통해 에너지 소비를 줄입니다.
3. 더 넓은 적용 범위:5G 통신, 엣지컴퓨팅 등 다양한 분야로 확장
4. 스마트 관리:액체 냉각 시스템의 지능형 모니터링 및 관리를 달성합니다.
5. 환경 지속 가능성:친환경 냉각수와 소재를 사용합니다.
6. 통합 디자인:다른 기술과 통합하여 전체 시스템 성능을 향상시킵니다.
7. 비용 절감:기술이 성숙하고 확장됨에 따라 비용이 절감됩니다.
8. 향상된 신뢰성:액체 냉각 시스템의 전반적인 신뢰성과 안정성을 향상시킵니다.
9. 맞춤형 솔루션:다양한 애플리케이션 시나리오에 맞는 맞춤형 액체 냉각 솔루션을 제공합니다.
10. 열 회수:액체 냉각 시스템에서 생성된 열의 재사용을 탐구합니다.
IV 일반적인 액체 냉각 기술의 특성 및 응용 시나리오
▲ 일반적인 액체 냉각 기술의 특성 및 응용 시나리오
V 컴퓨팅 파워의 한계는 전력이다
"East Data West Computation"을 논의해보면, IDC/AIDC는 에너지 소비가 많은 산업이기 때문에 컴퓨팅 파워와 전력을 일치시키는 것이 현실적으로 필요합니다. Omdia 2020에 따르면 데이터 센터의 전 세계 전력 소비는 사회 전체 전력 소비의 2%를 차지합니다.
PUE는 IDC 프로젝트의 경제성과 에너지 소비량을 평가하는 중요한 표준입니다. "East Data West Computation"은 현재 표준보다 높은 데이터 센터 PUE 수준을 요구합니다(일반적으로 국가 프로젝트의 경우 PUE 약 1.2 필요). 에너지 절약 목표 달성의 핵심은 온도 조절 에너지 절약 장비에 있습니다. "East Data West Computation"은 중국의 전반적인 컴퓨팅 성능 수준이 크게 향상됨을 의미하며 온도 제어 냉각 및 에너지 절약 장비 지원에 대한 수요도 함께 증가할 것입니다.
PUE=IDC 총 에너지 소비량 / IT 장비 에너지 소비량
IT 장비 에너지 소비량=캐비닛당 정격 전력 × 전원 캐비닛 수 × 24시간 × 연간 일수 × 부하율
VI 액체 냉각의 경제성 개선
AIDC의 비용 구조를 무너뜨린 액체 냉각 보급은 단순한 액체 냉각 비용이 아닌 전력 밀도로 인해 이미 경제적 생존 가능성을 입증했습니다.
Capex 관점에서 보면:건설(공간 비용), 배전(전력 용량), 열 관리 장비 비용(공냉식 또는 수냉식)이 초기 투자의 대부분을 차지합니다(ICT 장비를 고려하지 않은 경우 비용 점유율 > 50%).
Opex 관점에서 보면:전기 및 감가상각비는 지속적인 운영 비용의 주요 부분입니다(비용 점유율은 80%를 초과할 수 있음).
액체 냉각의 경제성을 측정하는 핵심 요소는 PUE 최적화, 밀도 증가를 통해 달성된 전력 절감, 그리고 이것이 장비에 대한 추가 초기 투자를 상쇄할 수 있는지 여부에 있습니다.
▲ 액체냉각의 경제성을 향상시키는 방법
VII 액체 냉각 경제학의 논리적 틀
전통적인 IDC 건설 비용에서 건설, 배전, 공조는 프로젝트의 경제성에 영향을 미치는 핵심 요소입니다. 캐비닛의 전력 밀도가 증가함에 따라 IDC 비즈니스 모델에서 전력 장비 Capex 및 연간 전력 Opex의 영향력이 크게 커졌습니다.
▲ 액체냉각경제학의 논리적 틀
컴퓨팅 성능을 위한 VIII 액체 냉각
AI 컴퓨팅 전력 시스템과 마찬가지로 에너지 저장 시스템의 효율적이고 안정적인 작동에도 엄격한 온도 및 습도 조건이 필요합니다. 온도는 배터리 용량 및 효율 저하에 직접적인 영향을 미치며, 열폭주 사고와도 직결됩니다. 현재 에너지 저장을 위한 주류 냉각 기술에는 공냉식, 액체 냉각, 히트파이프 냉각, 상변화 냉각 등이 있습니다. 공기 및 액체 냉각이 업계의 주류입니다.
중국 에너지 저장 네트워크(China Energy Storage Network)에 따르면 에너지 저장 시스템의 배터리 비용은 약 55%, PCS는 약 20%, BMS와 EMS를 합친 경우 약 11%를 차지하며 열 관리 비용은 2-4 사이에서 다양합니다. %는 선택한 냉각 기술에 따라 달라집니다.
대규모 에너지 그룹과 대규모 시스템 통합업체가 주도하는 신에너지 발전소, 독립형 저장소 등 대용량, 고밀도 에너지 저장 스테이션이 건설되면서 에너지 저장 장치에 액체 냉각의 보급률이 증가하고 있습니다. IDC 정밀 온도 제어, 산업 온도 제어, 신에너지 차량 온도 제어 등 에너지 저장 온도 제어의 확장은 향후 발전 가능성을 제시합니다.
▲ 에너지 저장 시스템
에너지 저장 온도 제어 산업의 하류 집중도는 높고 협상력과 협상 영향력이 높습니다. 일단 공급 자격이 확립되면 관계가 끈끈해지기 때문에 선점자 이점이 중요해집니다. 핵심 AI 칩 및 단말기 제조업체의 인증은 서비스 역량과 함께 컴퓨팅 성능의 액체 냉각에 대한 주요 진입 장벽입니다.
수요의 급속한 증가와 함께 에너지 저장 분야에 공기 및 액체 냉각 시스템이 대규모로 적용됨에 따라 제품 제공 능력과 비용 제어가 중요해졌습니다. 제조 및 비용 관리를 통해 ICT 및 IDC 투자 비용을 줄이는 것이 필수적입니다.
스토리지 용량이 증가함에 따라 제품 맞춤화 요구도 더욱 커지고 있습니다. 액체 냉각 시스템은 유동 경로 수, 유속, 유속 측면에서 고도의 맞춤화를 요구하므로 고객은 공동 설계 기능을 갖춘 제조업체를 선택하게 됩니다. 부품 부문은 제품 전반에 걸쳐 성능 차이가 큰 표준화된 제품에 중점을 두는 반면, 시스템 부문은 열 관리 기술에 대한 이해와 ICT 및 IDC 시스템에 대한 지식이 필요한 비표준 제품에 중점을 둡니다.
Ⅸ 올바른 액체 냉각 기술을 선택하는 방법
적절한 액체 냉각 기술을 선택하려면 다음 요소를 고려해야 합니다.
- 냉각 요구사항:장비 또는 시스템의 냉각 요구 사항을 결정합니다. 고성능 컴퓨팅, 데이터 센터, 게이밍 PC 등 애플리케이션과 장치마다 냉각 요구 사항이 다르므로 더 강력한 냉각 기능이 필요할 수 있습니다.
- 기술 유형:냉각판, 침지, 스프레이 유형 등 다양한 유형의 액체 냉각 기술을 이해합니다. 각 기술에는 고유한 특성과 적용 분야가 있으므로 특정 요구 사항에 따라 신중한 선택이 필요합니다.
- 비용:액체 냉각 기술은 일반적으로 장비, 설치 및 유지 관리 비용을 포함하여 더 높은 비용을 수반합니다. 예산에 맞는 기술을 선택하세요.
- 공간 요구사항:액체 냉각 시스템은 설치 및 작동을 위해 약간의 공간이 필요한 경우가 많습니다. 장비의 크기와 공간 제약을 고려하십시오.
- 신뢰성 및 유지 관리:시스템 안정성과 신뢰성을 보장하려면 신뢰할 수 있는 액체 냉각 기술과 공급업체를 선택하십시오. 일일 유지 관리 및 문제 해결을 용이하게 하기 위해 시스템의 유지 관리 요구 사항을 이해합니다.
- 호환성:액체 냉각 기술이 다른 부품에 손상을 주지 않고 장비 및 구성 요소와 호환되는지 확인하십시오.
- 성능 및 효율성:다양한 액체 냉각 기술의 냉각 성능과 효율성을 비교하고 요구 사항에 맞는 기술을 선택하세요.
- 환경 및 안전 고려사항:액체 냉각 기술이 환경에 미치는 영향과 안전성을 고려하여 친환경적이고 무독성, 불연성 냉각수를 선택하세요.
- 기술 지원 및 서비스:문제를 즉시 해결하려면 우수한 기술 지원과 애프터 서비스를 제공하는 공급업체를 선택하세요.
이러한 모든 요소를 고려하여 요구 사항에 가장 적합한 액체 냉각 기술을 선택할 수 있습니다. 결정을 내리기 전에 전문 액체 냉각 기술 공급업체에 문의하여 더 자세한 정보와 권장 사항을 알아보는 것이 좋습니다.
기술이 발전함에 따라 액체 냉각 기술은 더욱 성숙해지고 널리 보급될 것이며 응용 분야는 지속적으로 확장될 것입니다. 미래에는 액체 냉각이 AI 및 IoT와 통합되어 더욱 지능적인 열 관리로 이어질 수 있습니다. 액체 냉각 기술의 개발은 지속적인 혁신과 탐구가 필요한 다양한 산업에 더 많은 기회와 도전을 가져올 것입니다.