액체 냉각이 AI 서버를 위한 최고의 냉각 솔루션일까?

 

I 기존의 공기 냉각은 과부하 상태입니다. 액체 냉각 기술이 등장합니다.

 

AI의 세 가지 기둥은 칩, 컴퓨팅 파워, 알고리즘입니다. 칩과 컴퓨팅 파워는 생산성을 주도하는 요소이며, 뛰어난 컴퓨팅 파워를 달성하기 위해 사람들은 끊임없이 더 빠른 프로세서와 더 효율적인 하드웨어를 추구합니다. AI 컴퓨팅 파워가 증가하고 CPU와 GPU의 성능이 향상됨에 따라 칩 전력 소비와 발열도 그에 따라 증가합니다. 예를 들어, NVIDIA의 H200 시리즈 GPU 칩은 최대 700W의 TDP(Thermal Design Power)를 가지고 있습니다.

 

기존의 공랭식에는 한계가 있습니다. 공랭식의 원리는 열을 발산하기 위해 히트싱크 표면 위로 공기를 흐르게 하는 것입니다. 현재 시중에서 가장 좋은 공랭식 쿨러는 최대 275W의 전력을 처리할 수 있습니다. 기존의 공랭식은 더 이상 주류 AI 서버의 냉각 요구 사항을 충족할 수 없습니다.

 

액체 냉각 기술이 등장했습니다. 액체 냉각의 원리는 서버 내에서 액체 냉각수를 순환시켜 열 교환을 통해 열을 생성하는 구성 요소에서 열을 흡수하는 것입니다. 액체 냉각은 더 높은 냉각 효율을 제공하고 다양한 작업 환경에 적응하도록 냉각수를 정밀하게 제어할 수 있지만 비용이 더 많이 듭니다.

 

액체 냉각은 공식 인정을 받았습니다. 2023년 6월, 중국의 3대 통신 사업자는 공동으로 "통신 사업자를 위한 액체 냉각 기술 백서(2023)"를 발표하여 냉각판 액체 냉각과 단상 침지 액체 냉각의 두 가지 기술 경로를 명확히 홍보했습니다. 또한 2023-2025에 대한 홍보 계획을 설명했습니다.

 

▲ 2023-2025 홍보 계획

 

 

II 액체 냉각이란?

 

액체 냉각은 데이터 센터의 IT 장비 내부 구성 요소에서 발생하는 열을 외부로 전달하기 위해 액체를 냉각제로 사용하여 IT 장비의 발열 부분이 안전한 온도 범위 내에서 작동하도록 하는 냉각 방법입니다. 주류 액체 냉각 솔루션은 주로 콜드 플레이트와 침지 유형으로 나뉩니다. 침지 액체 냉각은 냉각제가 상 변화를 겪는지 여부에 따라 상 변화 및 비상 변화 침지 냉각으로 더 나눌 수 있습니다.

 

▲ 액체냉각기술

 

냉각판 액체 냉각은 구리나 알루미늄과 같이 열전도도가 좋은 금속으로 만든 방열판을 사용하여 작동합니다. 구성 요소에서 생성된 열은 방열판 내부의 액체 냉각수로 전달되고, 그런 다음 열을 멀리 운반합니다.

 

침지 액체 냉각은 서버(CPU, 메모리, I/O 등)와 같은 IT 장비가 냉각 액체에 완전히 잠기는 직접 접촉 액체 냉각 방법입니다. 냉각은 액체 순환을 통해 발생합니다. 빠르게 발전하고 있는 상변화 침지 냉각 기술은 열을 생성하는 구성 요소를 냉각하여 냉각수를 증발시킨 다음 증기를 다시 액체 형태로 응축하여 재사용합니다. 이 방법은 더 높은 냉각 효율과 더 낮은 소음을 제공합니다.

 

 

III. 모든 서버 냉각 솔루션을 액체 냉각으로 교체해야 할까요?

 

당연히 그렇지 않습니다. 데이터 센터 냉각 방법에는 강제 공기 냉각과 액체 냉각이 모두 포함됩니다. 공기 냉각 기술은 비교적 성숙했지만, 액체 냉각은 최근 몇 년 동안 데이터 센터의 냉각 요구가 증가함에 따라 새로운 요구 사항입니다.

 

현재 데이터 센터에는 기본적으로 3가지 냉각 솔루션이 있습니다.

1. 액체 냉각에만 의존하는 새로운 데이터 센터를 설계하고, 대규모 컴퓨팅 파워를 갖춘 더 작고 효율적인 데이터 센터를 만듭니다.

2. 주로 공기 냉각을 사용하지만 향후 전환을 단순화하기 위해 액체 냉각 옵션을 포함하는 데이터 센터 설계.

3. 기존의 공랭식 시설에 액체 냉각 시스템을 통합하는 데이터 센터 운영자, 종종 공랭 시스템을 부분적으로 액체 냉각 시스템으로 전환합니다.

 

▲ 다양한 유형의 데이터 센터에 권장되는 냉각 방법

 

 

 

IV 액체 냉각은 어떤 과제에 직면하는가?

 

1. 비용 문제

액체 냉각 시스템의 비용에는 높은 자재 비용(냉각수, 방열판, 배관 등)이 포함될 뿐만 아니라, 설계 및 제조의 복잡성, 높은 설치 및 유지 관리 비용, 높은 신뢰성을 달성하기 위한 더 많은 투자 필요성도 포함됩니다.

 

2. 신뢰성 문제

 

안정:액체 냉각수의 화학적 안정성이 부족하여 사용 중에 분해, 산화 또는 유해 물질이 생성될 수 있으며, 이는 냉각 효과와 시스템 안정성에 영향을 미칩니다.

 

누출:액체 누출, 파이프라인 막힘 또는 기타 사고가 발생하는 경우, 기존의 간접 액체 냉각 시스템은 오류를 제때 감지하지 못해 서버 안전을 위협할 수 있습니다.

 

호환성:일부 데이터 센터 장비는 액체 냉각 시스템에 적합하지 않을 수 있으며, 추가적인 적응 및 수정이 필요할 수 있습니다.

 

 

V 액체 냉각의 상류 및 하류 산업은 무엇입니까?

 

액체 냉각 산업 생태계에는 상류 구성 요소 공급업체, 중류 액체 냉각 서버 공급업체, 하류 컴퓨팅 파워 사용자가 포함되며, 특히 냉각판 및 침지 액체 냉각 시스템에 중점을 둡니다.

 

▲ 콜드플레이트 액체냉각 시스템 원리

 

▲ 침지식 액체 냉각 시스템 원리

 

 

1. 상류

 

▲ 냉각판 액체 냉각 시스템 상류
 

콜드 플레이트 액체 냉각 시스템은 주로 CDU, 콜드 소스, 냉각수, 액체 냉각 파이프라인, 액체 냉각 캐비닛으로 구성됩니다. 침지 액체 냉각 시스템은 주로 CDU, 콜드 소스, 액체 냉각 파이프라인, 침지 챔버, IT 장비, 냉각수로 구성됩니다.

 

냉각 분배 장치(CDU)

CDU는 2차 측의 고온 냉각수와 1차 측의 차가운 소스 간의 열 교환에 사용되어 액체 냉각 IT 장비에 대한 냉각 분배를 제공하고 온도, 압력 및 유량 모니터링을 관리합니다. 열 교환, 순환 구동, 냉각수 정화 및 액체 저장과 같은 기능이 있습니다. CDU는 주로 열 교환기/응축기, 순환 펌프, 필터, 액체 저장 탱크 및 액세서리(밸브, 파이프라인, 커넥터, 센서 등)로 구성됩니다.

 

차가운 소스

액체 냉각 시스템의 외부 냉각원은 건식 냉각기, 폐쇄형 냉각탑 또는 냉각기 등의 조건에 따라 선택할 수 있습니다.

 

액체 냉각 파이프라인

파이프라인은 열교환 냉각판, 냉각 분배 장치, 열교환 장치, 실외 냉원을 연결하는 필수 구성 요소입니다. 일반적으로 순환 파이프라인은 서로 다른 연결 방법에 따라 직접 연결(비동기) 및 루프 연결(동기) 유형으로 나눌 수 있습니다.

 

냉각수

냉각판 시스템에 사용되는 일반적인 냉각수에는 물, 에틸렌 글리콜, 프로필렌 글리콜 등이 있습니다. 이러한 냉각수는 비열 용량이 높고 점도가 낮아 장비에서 발생하는 열을 빠르게 흡수하여 열교환기로 전달하여 소산시킵니다.

 

일반적인 침지 냉각제(절연)에는 미네랄 오일, 불소화합물 등이 있습니다. 그 중에서도 상변화 냉각은 불연성 불소화합물만 사용할 수 있습니다. 냉각제 매체와 다양한 구성 요소의 재료 간의 호환성은 침지 상변화 액체 냉각 시스템의 성능에 영향을 미치는 주요 요인 중 하나입니다.

 

현재 침지 상변화 냉각에 사용할 수 있는 불소화 액체는 몇 가지 종류가 있으며, 주요 공급업체는 3M입니다. 중국의 침지 액체 냉각은 아직 초기 단계에 있습니다.

 

밀폐된 챔버

챔버는 상변화 냉각수를 담는 데 사용됩니다. 챔버는 냉각판, 파이프라인, 커넥터 및 기타 부품에서 밀봉하여 누출 없이 안전을 보장해야 하며, 이를 통해 전력 및 신호 전송의 무결성과 데이터 센터의 안전을 보장해야 합니다. 따라서 고무 개스킷, 액체 배출 커넥터, 전원 커넥터, 신호 커넥터 등과 같은 맞춤형 밀봉 구성 요소가 필요합니다.

 

액체 냉각 캐비닛

액체 냉각 캐비닛은 주로 액체 냉각 플레이트, 매니폴드, 파이프라인, 커넥터, 퀵 커넥터, 액체 분배기 및 옵션 압축기로 구성됩니다.

 

액체 냉각판은 냉각 시스템의 증발기와 동등한 열 전달 장치 역할을 하며 냉각 시스템을 위해 설계된 핵심 기술입니다. 일반적으로 커버 플레이트, 핀, 베이스 플레이트, 씰로 구성됩니다.

매니폴드는 냉각 분배 장치를 액체 냉각 서버 냉각판에 연결하는 장치입니다. 일반적으로 캐비닛에 내장되어 있으며, 냉각수 흐름을 각 냉각판 층에 고르게 분배하고 열을 흡수한 후 냉각수를 수집하여 연결 파이프를 통해 냉각 분배 장치로 보냅니다.

 

퀵 커넥터는 본체와 엔드 터미널로 구성됩니다. 본체는 액체 퀵 커넥터의 연결 및 밀봉 기능을 달성하기 위한 기본 장치이고, 엔드 터미널은 액체 퀵 커넥터를 장착하고 고정하기 위한 설치 포트 역할을 합니다.

 

제어 시스템

제어 시스템은 온도 및 압력 센서를 포함하여 냉각 시스템의 작동을 모니터링하고 조절하며, 이를 통해 열 발산을 측정하고 펌프 속도 또는 냉각수 유량을 조정합니다.

 

여과 및 정화 장치

필터는 액체 냉각수에서 이물질과 입자를 제거하는 데 사용되어 시스템 성능과 수명을 보장합니다. UV 살균 또는 화학 처리와 같은 방법으로 냉각수를 정화할 수 있습니다.

 

2. 미드스트림

미드스트림은 주로 액체 냉각 시스템으로 구성되며, 라디에이터, 펌프, 파이프, 냉각수와 같은 주요 구성 요소가 단일 시스템으로 통합됩니다. 이러한 회사는 제품 품질과 성능을 보장하기 위해 일정 수준의 기술 전문성과 생산 능력이 필요합니다.

 

3. 하류

컴퓨팅 파워의 하류 사용자로는 데이터 센터, 슈퍼컴퓨터, AI 서버, 전자 장치, 신에너지 차량, 레이저, 인버터 및 기타 산업 장비가 있습니다. 액체 냉각 기술은 항공우주 분야에서도 사용됩니다. 고효율 냉각 특성으로 인해 액체 냉각 데이터 센터와 그 인프라는 주로 고성능 컴퓨팅 분야에 적용됩니다. 현재 액체 냉각 기술을 활용하는 산업으로는 인터넷, 금융, 통신, 에너지, 생물학 및 의료가 있습니다.

 

이 중에서 인터넷은 액체 냉각 데이터 센터의 핵심 고객으로, 상당한 데이터 수요, 광범위한 사용자 기반, 대규모 비즈니스 볼륨을 갖추고 있습니다. 데이터 센터의 컴퓨팅 전력 요구 사항은 높고 단일 캐비닛 전력 밀도는 10kW를 초과합니다.

 

 

VI 액체 냉각의 산업화는 어느 단계에 있습니까?

 

현재, 액체 냉각 데이터 센터에 대한 다양한 검증이 대부분 완료되었으며, 향후 3년 동안 액체 냉각 기술이 대규모로 확장될 것입니다. 기술적 측면에서 콜드 플레이트 냉각은 여전히 ​​시장에서 주류 액체 냉각 솔루션입니다. 산업 개발 측면에서 인프라에서 AI 장비에 이르기까지 풀스택 제공 모델은 업계의 합의가 되었습니다. 고객 측면에서 두 개의 가장 큰 데이터 센터 산업 애플리케이션 고객인 인터넷 및 통신 부문은 액체 냉각 기술에 대한 긍정적인 인식을 보였습니다.

 

관련 업계 기업들이 공개한 2023년 반기 보고서에 따르면, 액체 냉각 데이터 센터는 기술, 에너지, 정부, 금융, 인터넷 등 다양한 산업을 포함하여 누적 용량이 260MW가 넘습니다.

 

 

VII AI 액체 냉각 시장 규모는 얼마나 되나요?

 

Caitong Securities의 데이터에 따르면, 중국의 액체 냉각 데이터 센터 시장 규모는 2022년 69억 9,900만 위안에서 2025년 358억 7,700만 위안 이상으로 성장할 것이며, AI 데이터 센터 액체 냉각 시장 규모는 2022년 55억 5,200만 위안에서 2025년 279억 6,400만 위안으로 증가하여 연평균 성장률 76.2%를 나타낼 것입니다. 제품 분류에 따르면, 냉각 효율이 더 높고 데이터 센터의 PUE(전력 사용 효율)를 효과적으로 줄일 수 있는 침지 액체 냉각 제품이 더 큰 시장 점유율을 차지할 것으로 예상되며, 2019년 18%에서 2025년 41%로 성장할 것으로 예상됩니다(냉판 액체 냉각 제품이 82%를 차지함).

 

시장이 데이터 센터 인프라에 대한 더 높은 냉각 및 에너지 효율성을 요구함에 따라, 업계는 액체 냉각 제품의 침투율이 2025년까지 20%에 도달하고 시장 점유율이 지속적으로 확대될 것으로 예측합니다. AI 액체 냉각 서버에 대한 대규모 애플리케이션의 봄이 조용히 다가오고 있습니다!

 

 

VIII 잘 알려진 액체 냉각 회사는 어디인가요?

 

해외 냉각판 액체 냉각 시장의 주요 기업으로는 IBM, CoolIT Systems, Asetek, Motivair 등이 있으며, 침지 액체 냉각 시장의 주요 기업으로는 GRC, LiquidStack, Midas 등이 있습니다.