급증하는 수요는 컴퓨팅 파워 혁명을 일으키고, 액체 냉각이 산업 성장을 강력하게 견인할 것입니다!

 

2023년 이래로 OpenAI의 AI 챗봇 모델인 ChatGPT는 광범위한 찬사를 받았습니다. 이 모델은 대량의 훈련 데이터를 사용하여 인간의 언어 행동을 시뮬레이션하고 의미 분석을 통해 텍스트를 생성하여 자연스럽고 사실적인 방식으로 사용자와 상호 작용할 수 있으며, 종종 인간의 상호 작용과 구별할 수 없습니다.

 

시 창작 및 대본 쓰기와 같은 많은 분야에서는 인간의 능력을 능가하기도 합니다. 그러나 인공지능의 개발에는 매우 강력한 컴퓨팅 파워가 필요하여 서버 전력 소비가 증가하고 데이터 센터의 단위당 전력 밀도가 높아지고 에너지 소비가 증가합니다. 기존의 공랭 기술은 더 이상 냉각 요구를 충족할 수 없으므로 액체 냉각이 필수적이며 의심할 여지 없이 산업 성장을 촉진할 것입니다!

 

▲ OpenAI의 AI 챗봇 모델인 ChatGPT

 

 

Ⅰ ChatGPT의 폭발적 성공: 어떤 수준의 컴퓨팅 파워가 필요한가?

 

데이터, 알고리즘, 컴퓨팅 파워는 인공지능의 세 가지 핵심 요소이며, 컴퓨팅 파워는 AI의 "엔진" 또는 "모터"라고 불립니다. 데이터와 알고리즘은 모두 컴퓨팅 파워에 의존합니다. OpenAI의 추정에 따르면, 2012년 이후 세계 최고의 AI 모델을 훈련하는 데 필요한 컴퓨팅 파워는 약 3-4개월마다 두 배로 증가했으며, 최고의 훈련 모델에 필요한 컴퓨팅 파워의 연간 증가는 최대 10배에 달했습니다. 훈련 단계에서 ChatGPT는 총 약 3640PF-days(즉, 3640일 동안 1 PetaFLOP/s의 효율성으로 실행됨)를 소비했습니다. 이는 강력한 컴퓨팅 파워가 미래에 AI 생성 콘텐츠(AIGC)의 추가 적용 및 대중화를 지원하는 데 핵심이라는 점을 강조합니다.

 

ChatGPT를 예로 들어보겠습니다. GPT-3.5 모델에서 지원하는데, 이 모델은 세 번의 반복(GPT-1, GPT-2, GPT-3)을 거쳤고, 매개변수 수는 1억 1,700만 개에서 1,750억 개로 늘어났으며, 사전 학습 데이터 양은 5GB에서 45TB(위키피디아 전체 영어 버전의 160배에 해당)로 늘어났습니다. 이 엄청난 양의 데이터와 연산에는 작동을 지원하기 위해 더 높은 컴퓨팅 파워가 필요합니다. Similarweb의 데이터에 따르면, 2023년 1월 ChatGPT에는 약 1,300만 명의 일일 활성 사용자가 있었으며, 각자 평균 1,000개의 단어를 질문했습니다.

 

이는 총 약 130억 단어(173억 3천만 토큰)를 생성했습니다. 작업이 24시간 동안 균등하게 분산된다고 가정하면 필요한 A100 GPU 수는 173억 3천만 * 2 * 3천억 / (20% * 24시간 * 3600초)=601.75 PetaFLOP/S가 됩니다. 트래픽 피크가 존재한다는 점을 감안할 때 피크 트래픽이 일 평균의 5배라고 가정하면 현재 트래픽 수요를 충족하려면 총 602개의 DGX A100 서버가 필요하므로 컴퓨팅 전력 요구 사항이 매우 엄격해집니다.

 

이는 더 나은 AI 모델을 훈련하고 다양한 산업에 AI 모델을 진정으로 적용하려면 더 효율적인 컴퓨팅 파워와 더 풍부한 컴퓨팅 리소스가 필요하다는 것을 보여줍니다. 컴퓨팅 파워는 AI의 산업화를 제한하는 중요한 요소가 되었으며, 새로운 컴퓨팅 파워 혁명을 촉발할 것입니다! AI 컴퓨팅 파워 수요가 빠르게 증가함에 따라 관련 CPU/GPU의 파워가 가속화되어 장비가 원활하게 작동하도록 하는 더 강력하고 효과적인 냉각 솔루션이 필요합니다.

 

 

Ⅱ 컴퓨팅 파워의 광범위한 응용

 

디지털 경제 시대에 컴퓨팅 파워는 핵심 생산성 요소일 뿐만 아니라 보편적으로 적용되는 요소가 될 것입니다. 컴퓨팅 파워 인프라 구축이 진행됨에 따라 컴퓨팅 파워 애플리케이션의 새로운 모델과 비즈니스 형태가 빠르게 등장하여 제조, 운송, 교육, 항공우주, 금융, 미디어와 같은 더 많은 산업에 컴퓨팅 파워를 깊이 통합하고 있습니다. 동시에 컴퓨팅 파워 스케줄링, 관리 및 거래가 산업 탐색의 초점이 되고 있습니다. 컴퓨팅 파워는 "자원"에서 "요소"로 진화하여 사람들의 생산과 삶에 필수적인 부분이 되고 있습니다.

 

다양한 산업의 발전은 컴퓨팅 전력 수요의 폭발을 촉발했습니다. 프로세서 성능을 극대화하려면 더 높은 냉각 효율이 필요하며, 기존의 공랭 기술은 더 이상 급증하는 컴퓨팅 전력 수요를 충족할 수 없습니다. 장점을 가진 액체 냉각 서버는 상당한 시장 점유율을 확보하고 산업 발전을 강력하게 이끌 것입니다!

 

 

III 액체 냉각 수요의 상당한 증가

 

2022년 인텔의 4세대 서버 프로세서는 단일 CPU 전력 소비량이 350와트를 넘었고, 엔비디아의 단일 GPU 칩 전력 소비량은 700와트를 넘었습니다. AI 클러스터의 컴퓨팅 전력 밀도는 일반적으로 캐비닛당 50kW에 도달했으며, 기존의 공랭 기술은 더 이상 대처할 수 없습니다! 프로세서 성능을 극대화하려면 더 높은 냉각 효율이 필요합니다.

 

한편, 정책적 관점에서 중국의 "동부 데이터, 서부 컴퓨팅" 프로젝트와 이중 탄소 목표의 시작으로 인해 업계는 에너지 절약, 배출 감소 및 고품질 개발에 더 많은 관심을 기울이게 되었습니다. 데이터 센터의 전력 사용 효율성(PUE)에 대한 기술 요구 사항이 더욱 엄격해졌으며, 전국의 새로 건설된 대형 및 초대형 데이터 센터의 평균 PUE는 1.3 이하로 낮아지고 국가 허브 노드에서는 1.25 이하로 더욱 낮아집니다.

 

액체 냉각은 경제적 효율성과 냉각 성능을 포함한 여러 측면에서 시장 비용 효율성과 정책 지침 요구를 충족하여 매우 가치 있고 경제적으로 유익합니다. CCID 컨설팅에 따르면 중국의 액체 냉각 IDC 시장은 2025년까지 1,200억 위안을 초과할 것으로 예상되며 성장률은 30%가 넘고 현재 보급률은 약 20%입니다. 액체 냉각에 대한 수요가 크게 증가하고 있으며 시장 전망은 유망합니다.

 

 

4 액체 냉각 서버 산업 사슬

 

1. 액체 냉각 산업의 전망

액체 냉각 서버 산업은 액체 냉각 서버만을 포괄하는 것이 아닙니다. 전체 산업 체인이 길고, 하위 분야가 넓으며, 참여하는 업체도 많아 자본 집약적 산업입니다.액체 냉각 기술은 현재 급속한 개발 단계에 있으며, 관련 업체가 자금 조달이나 고객 확보 측면에서 유리한 입장에 있다면 진입 장벽을 구축할 수 있습니다.

 

다양한 하위 분야의 기업들은 핵심적 이점을 바탕으로 관련 분야에 점차 침투하여 자체 생태계를 구축하고 있습니다. 인프라에서 애플리케이션으로 구분하면 액체 냉각 데이터 센터 산업은 액체 냉각 인프라, 미드스트림 산업, 산업 애플리케이션의 세 가지 주요 하위 분야로 나눌 수 있습니다.

 

액체 냉각 인프라 부문은 액체 냉각 데이터 센터를 구축하는 데 필수적인 장비와 시설을 제공합니다. 액체 냉각 캐비닛, 냉각수, 냉각 시스템, 전력 시스템, 네트워크 시스템 및 데이터 센터 인프라 관리 시스템과 같은 하위 분야로 나뉩니다. 이러한 하위 분야는 주로 서버 운영을 위한 장비, 소프트웨어 시스템 및 냉매를 공급합니다. 또한 인프라 부문에는 건설 계약자, 네트워크 운영자 및 전력 공급업체가 포함됩니다. 건설 계약자는 앞서 언급한 장비 및 시설의 건설 및 설치를 담당하고, 네트워크 운영자는 기본 네트워크 액세스를 제공하며, 전력 공급업체는 장비 운영에 필요한 전기를 제공합니다. 이러한 영역은 데이터 센터에 비교적 기본적인 주변 환경을 제공합니다.

 

미드스트림 산업에는 서버 제조업체, 데이터 센터 호스팅 제공업체 및 일부 신규 진입업체가 포함됩니다. 서버 제조업체는 액체 냉각 환경에 적합한 서버를 연구, 설계 및 생산하거나 콜드 플레이트 액체 냉각 서버를 직접 생산합니다. 데이터 센터 호스팅 제공업체는 인프라 부문의 리소스를 통합하고 애플리케이션 사용자에게 서버 호스팅 서비스를 제공하기 위해 자체적인 이점을 활용하여 데이터 센터를 구축하고 운영합니다. 데이터 센터가 빠르게 발전함에 따라 새로운 회사가 액체 냉각 데이터 센터 분야에 진출하고 있습니다.

 

데이터 센터 애플리케이션 사용자는 주로 클라우드 컴퓨팅 및 클라우드 컴퓨팅 파워, 인터넷 및 블록체인, 기타 사용자라는 세 가지 하위 분야로 나뉩니다. 이들은 데이터 센터의 주요 사용자입니다. 클라우드 컴퓨팅 및 클라우드 컴퓨팅 파워 공급업체는 가상화를 통해 고객에게 유연한 컴퓨팅 파워 할당 및 스케줄링을 제공하여 수익을 창출합니다. 일부 주요 인터넷 및 블록체인 회사는 종종 데이터 센터 운영자와 협력하여 직접 데이터 센터를 구축하는 반면, 다른 사용자는 일반적으로 데이터 센터 운영자로부터 서버 또는 컴퓨팅 파워 리소스를 직접 호스팅하거나 임대합니다.

 

2. 액체 냉각 산업 개요

공기 냉각에 비해 액체 냉각 기술은 높은 안정성과 높은 냉각 효율이라는 장점을 제공합니다. 포괄적인 응용 관점에서 볼 때, 액체 냉각은 캐비닛당 전력 밀도가 15kW를 초과할 때 점차 경제적 이점을 드러냅니다.UPS 애플리케이션저널에 따르면 액체 냉각 서버의 CPU 코어 온도는 공랭 시스템의 최대 온도보다 20-30도 낮아질 수 있어 안정성을 크게 향상시킬 수 있습니다.

 

인텔의 백서,그린 데이터 센터 혁신 관행-냉판 액체 냉각 시스템 설계 참조, 공랭식 데이터 센터는 일반적으로 최대 12kW의 전력 수준을 가진 캐비닛에 대한 냉각을 관리할 수 있음을 나타냅니다. 15kW를 초과하는 캐비닛의 경우 기존 공랭식 데이터 센터는 공기 대류 냉각 기능의 한계에 도달했습니다. 더 강력한 냉각 기능을 제공하는 액체 냉각 기술은 더 높은 전력 밀도를 지원할 수 있습니다.

 

공기 냉각 솔루션과 비교했을 때, AIGC와 "Eastern Data, Western Computing" 이니셔티브가 주도하는 액체 냉각으로의 추세는 필연적으로 데이터 센터 온도 제어 시장의 양과 가격 모두 상승으로 이어질 것입니다. 액체 냉각 서버 산업은 콜드 플레이트, 침지 및 스프레이 냉각의 세 가지 기술 경로를 따릅니다.냉각판 액체 냉각은 냉각수가 서버의 열을 발생시키는 구성 요소에 직접 닿지 않는 냉각 방법을 사용합니다.

 

▲ 콜드플레이트 쿨링

 

▲ 스프레이 액체 냉각 시스템

 

▲ 단상액침냉

 

▲ 2상냉각

 

대신 주요 발열 구성 요소는 냉각판에 부착되고 냉각수는 냉각판의 내부 액체 냉각 시스템 내에서 순환하여 열을 제거합니다. 열 교환 기능을 향상시키려면 열 교환 면적을 최대화해야 하며, 냉각판을 서버의 발열 구성 요소 표면에 최대한 밀착시켜야 합니다. 불규칙한 모양의 발열 구성 요소는 이 방법을 사용하여 냉각하기 어렵습니다. 비교적 규칙적인 모양의 칩만이 냉각판 냉각에 적합합니다.

 

이는 냉각판 액체 냉각 솔루션에 대한 중대한 문제를 제기합니다. 스토리지, 메모리, 전원 공급 장치와 같은 다른 구성 요소에서 생성된 서버 열의 약 30%는 여전히 기존의 공기 냉각이 필요합니다. 이로 인해 냉각판 액체 냉각 솔루션에서 두 개의 냉각 시스템을 동시에 사용해야 하며, 비용과 실제 시스템 PUE가 모두 증가합니다. 현재의 냉각판 솔루션은 비교적 성숙했으며, 견고한 상업적 기반을 갖추고 있으며, 이미 수많은 상업적 적용을 보았습니다.

 

▲ 콜드플레이트 액체냉각 솔루션

 

침지 액체 냉각은 냉각수에 서버 장비를 완전히 담그는 것을 말하며, 냉각수는 냉각수와 발열 구성 요소 간의 직접 접촉을 통해 냉각됩니다. 이 방법에서는 서버의 발열 구성 요소가 냉각수에 완전히 잠겨 냉각수와 충분히 접촉할 수 있으며, 냉각수는 지속적으로 생성된 열을 제거하여 서버를 냉각합니다. 침지 냉각은 더 높은 냉각 효율을 제공하며, 캐비닛당 전력 밀도를 3배 이상 증가시킬 수 있는 잠재력이 있습니다. 2025년까지 시장의 40% 이상을 차지할 것으로 예상되며, 완전 침지 액체 냉각 서버는 미래의 기술 트렌드가 될 가능성이 높습니다.

 

▲ 침지 액체 냉각

 

스프레이 냉각 액체 냉각 시스템은 서버의 열 생성 구성 요소에 냉각수를 정밀하게 분사하도록 설계된 직접 접촉 액체 냉각 기술입니다. 냉각수는 중력 또는 시스템 압력에 의해 열 생성 장치 또는 이에 연결된 고체 열 전도성 재료에 직접 적용됩니다. 이 프로세스를 통해 서버를 냉각하기 위한 열 교환이 가능합니다. 열 교환 중에 서버 내부의 냉각수 수준은 열 생성 구성 요소 또는 이에 연결된 고체 열 전도성 재료 아래에 유지됩니다. 이 시스템은 외부 열 교환 장치를 사용하여 냉각수를 냉각하고 재활용합니다.

 

 

3. 액체 냉각 시장 현황

액체 냉각은 첨단 기술로서 여러 학문과 분야에 걸쳐 있으며 기술 장벽이 높습니다.

현재 국내외 데이터 센터 인프라 제조업체에서 액체 냉각 기술을 도입하는 비율은 비교적 낮으며, 이 기술을 완벽하게 습득한 기업은 거의 없습니다.

 

그러나 국내외의 여러 회사가 고객에게 맞춤형 액체 냉각 솔루션을 제공하기 시작했으며, 일부 기술 회사는 점차 자체 액체 냉각 데이터 센터를 구축하고 배치하고 있습니다. 그럼에도 불구하고 데이터 센터 인프라 제조업체에서 액체 냉각 기술 채택률은 여전히 ​​낮고, 시장에서는 아직 지배적인 리더가 등장하지 않아 경쟁 환경이 여전히 불확실합니다.

 

중국 시장에서는 일부 기업이 수년간의 기술 축적과 경험을 통해 상당한 기술적, 시장적 우위를 입증했으며, 미래에는 선도적 기업이 시장을 장악하여 주요 업체가 상당한 시장 점유율을 차지하는 경쟁 환경이 형성될 것으로 예상됩니다.

 

4. 칩 레벨 액체 냉각

액체 냉각 장비와 칩과 같은 핵심 열원 간의 거리를 줄이는 것은 중요한 추세입니다. 미래에는 냉각이 룸 레벨, 캐비닛 레벨, 서버 레벨에서 칩 레벨로 진화하여 냉각 구성 요소와 칩 표면 간의 직접 접촉을 통해 더 나은 칩 냉각을 달성할 것으로 예상됩니다. 액체 쿨러는 액체 흐름과 라디에이터의 내부 표면 간의 마찰을 통해 대량의 열을 이동시켜 열을 발산합니다. 기존의 공랭 시스템에 비해 액체 냉각은 냉각 효율을 크게 향상시킬 수 있습니다. 현재 액체 냉각 기술은 주로 간접 및 직접 유형으로 나뉩니다.

 

최신에 따르면중국 반기 액체 냉각 서버 시장(2022년 하반기) 추적International Data Corporation(IDC)이 발표한 보고서에 따르면, 중국 액체 냉각 서버 시장은 2022년에 10억 1,000만 달러에 도달하여 전년 대비 189.9% 성장했습니다. IDC는 2022년부터 2027년까지 중국 액체 냉각 서버 시장의 연평균 성장률이 56.6%에 도달할 것으로 예측하고, 2027년까지 시장 규모가 95억 달러에 도달할 것으로 예상하여 액체 냉각 산업의 밝은 미래를 시사했습니다!

 

 

▲ 2023~2027년 중국 액랭 서버 시장 전망