액체 냉각 기술: 고밀도 데이터 센터의 효율성 향상

 

Ⅰ액체 냉각 기술의 장점

 

기존의 공기 냉각 기술과 비교하여 액체 냉각은 다음과 같은 장점을 제공합니다.낮은 에너지 소모, 높은 방열, 낮은 소음 및 낮은 TCO데이터 센터의 높은 에너지 소비 및 고밀도 추세에 맞춰:

 

• 효율적인 열 발산:액체의 냉각 용량은 공기의 1,000~3,000배에 달하므로 액체 냉각은 고에너지, 고전력 서버 애플리케이션에 더 적합합니다.
• 에너지 절약:액체 냉각 시스템은 더 높은 에너지 효율 비율을 달성하여 데이터 센터의 에너지 소비를 줄일 수 있습니다. 액체 냉각 기술, 특히 침지 냉각은 데이터 센터의 PUE(전력 사용 효율)를 1.2 미만으로 낮추어 기존 공랭 방식에 비해 30-50%의 전기를 절약할 수 있습니다.
• 장비 신뢰성 증가:액체 냉각 기술은 고온으로 인한 장비 고장을 줄이고, 서버의 수명을 연장하며, 팬으로 인한 진동 및 소음을 ​​피할 수 있습니다.
• 공간 절약:액체 냉각 방식은 공기 냉각 방식에서 필요한 넓은 공기 흐름 공간이 필요하지 않으므로 더욱 컴팩트한 서버 레이아웃이 가능하여 데이터 센터의 바닥 공간을 절약할 수 있습니다.
• 증가된 전력 밀도:액체 냉각은 더 높은 랙 전력 밀도를 지원하여 고성능 컴퓨팅 및 AI 애플리케이션의 요구 사항을 충족합니다. 침지 냉각 솔루션은 단일 랙 전력을 100kW 또는 심지어 200kW 이상으로 높일 수 있습니다.

 

냉각판 및 침지 냉각과 같은 주류 액체 냉각 기술은 방열, 통합 및 에너지 효율 측면에서 기존의 공랭식보다 훨씬 우수한 성능을 보입니다.

 

 

▲ 액체 냉각

 

 

Ⅱ액체 냉각 기술의 광범위한 채택

 

인공 지능이 혁신되고 디지털 경제가 변화함에 따라 데이터 센터는 더 높은 에너지 소비와 밀도로 진화하고 있으며, 이는 액체 냉각 기술의 광범위한 채택으로 이어지고 있습니다. 기존의 공랭식은 랙당 2.7kW로 데이터 센터의 냉각 요구 사항을 충족할 수 있으며, 이는 중간에서 고밀도 데이터 센터에는 충분하지 않습니다. 높은 비열 용량과 대류 열 전달 기능을 갖춘 액체 냉각은 랙당 2.7-30kW로 데이터 센터의 냉각 요구 사항을 충족할 수 있으며, 초고열 플럭스 밀도의 과제를 해결합니다. 미래에는 액체 냉각 기술이 데이터 센터 분야에서 점점 더 광범위하게 적용될 것입니다.

 

대규모 AI 모델의 높은 컴퓨팅 수요로 인해 AI 인프라 구축이 촉진되고 있습니다.AIGC 산업이 급속한 개발 기간에 접어들면서, 수조 개의 매개변수에 대한 훈련으로 지원되는 대규모 AI 모델의 성능이 지속적으로 개선되면서 상당한 계산적 요구가 발생하여 AI 인프라 구축의 새로운 물결을 몰고 올 가능성이 높습니다. OpenAI에 따르면, AI 모델 훈련에 대한 계산적 요구 사항은 2012년 이후 3.4개월마다 두 배로 증가했습니다.

 

GPT-3 모델을 예로 들어보겠습니다. Lambdalabs 데이터에 따르면 이 모델은 1,750억 개의 매개변수를 가지고 있으며, 총 교육 계산은 3,640 PFlop/s-days입니다(즉, 1 PFlop/s로 계산을 완료하는 데 3,640일이 걸립니다). 모델의 단일 교육 실행에는 약 355 CPU 년이 필요하고 비용은 460만 달러입니다(Nvidia Tesla V100 칩을 사용한다고 가정).

 

▲ 오픈AI

 

Ⅲ높은 연산 능력에 대한 시급한 필요성이 AI 인프라 개발을 촉진하고 있습니다.

 

높은 훈련 연산 능력은 해당 인프라와 일치해야 합니다. "2022-2023 중국 인공지능 연산 능력 개발 평가 보고서"에 따르면, 글로벌 AI 지출은 2023년에 27.9% 성장할 것으로 예상되며, 중국의 지능형 연산 능력은 427 EFlop/s에 도달할 것으로 예상되며, 이는 전년 대비 59% 증가한 수치입니다.

 

AI 산업이 급속히 성장함에 따라 컴퓨팅 파워의 상당한 격차가 AI 서버 출하량의 고속 성장을 주도하고 있습니다. 2023년에 일반 AI 서버/하이엔드 AI 서버의 글로벌 출하량은 각각 470,000대와 270,000대로 전년 대비 36.6%와 490.5% 성장했습니다. 2024년에는 일반 AI 서버와 하이엔드 AI 서버의 글로벌 출하량이 각각 725,000대와 543,000대로 전년 대비 54.2%와 172.0% 성장할 것으로 예상됩니다.

 

▲ AI 서버 출하량 급증

 

에 따르면2023 중국 액체 냉각 데이터 센터 시장 심층 연구 보고서, 중국의 액체 냉각 데이터 센터 시장은 2024년에 236억 3천만 위안에 도달할 것으로 예상되며, 이는 전년 대비 53% 증가한 수치입니다. 시장 수요와 산업 생태계의 발전을 바탕으로, 이 시장은 향후 5년간 연평균 성장률 59%로 성장할 것으로 전망됩니다. 2027년까지 대규모 AI 모델의 상업적 출시와 액체 냉각 생태계의 성숙으로 시장 규모가 크게 성장하여 잠재적으로 1,020억 위안에 도달할 것으로 예상됩니다.