액체 냉각: AI 시대의 차세대 광학 모듈

Oct 04, 2024

메시지를 남겨주세요

I. 액체 냉각이 "선택"에서 "필수"로 전환되었습니다.

 

1. 컴퓨팅 파워 및 광모듈 수요 급증

빠르게 진화하는 인공 지능(AI) 환경에서 컴퓨팅 성능에 대한 수요는 전례 없는 수준에 도달했습니다. OpenAI의 ChatGPT에서 사용되는 것과 같은 대형 모델의 출현으로 인해 필요한 컴퓨팅 성능에 상당한 격차가 생겼습니다. OpenAI는 모델 컴퓨팅 성능의 증가율이 AI 하드웨어의 발전 속도를 10배나 앞선다고 보고합니다. 대형 모델이 수조 개의 매개변수로 확장됨에 따라 AI 훈련 칩의 성능 향상에 대한 필요성이 중요해졌으며 더 빠른 데이터 전송에 대한 기대가 높아졌습니다.

 

이러한 컴퓨팅 규모의 기하급수적인 성장으로 인해 데이터 센터 내 상호 연결이 핵심 문제가 되었습니다. AI 훈련이 진행됨에 따라 단일 카드/서버 컴퓨팅의 한계가 분명해지고 있습니다. 칩 간 상호 연결이 우선 순위로 대두되었으며, 신속한 데이터 교환을 촉진하려면 효율적인 고속 광학 모듈이 필요합니다. 결과적으로, 특히 데이터 센터가 컴퓨팅 성능 아키텍처를 업그레이드함에 따라 상호 연결 효율성을 향상시키기 위해서는 고속 광학 모듈의 배포가 필수적입니다.

 

Optical modules facilitating high-speed data transmission in data centers

▲ 데이터센터에서 고속 데이터 전송을 용이하게 하는 광모듈

2. 수냉식의 전환점

액체 냉각은 광학 모듈의 진화와 병행하여 AI 인프라의 다음 중요한 요소가 될 준비가 되어 있습니다. 전자 제품이 계속 발전함에 따라 효율적인 냉각 시스템의 필요성이 점점 더 커지고 있습니다. 광학 모듈의 궤적이 사치품에서 필수품으로 전환된 것처럼 액체 냉각 기술도 그 뒤를 따르고 있습니다.

 

역사적으로 냉각 솔루션은 자연 공기 냉각 및 방열판과 같은 수동적 방법에서 공조 및 최종적으로 액체 냉각을 포함한 고급 기술로 발전했습니다. 이러한 전환은 부품의 최적 성능과 수명을 보장하기 위해 열 관리가 가장 중요한 전자 부문의 광범위한 추세를 반영합니다.

 

3. 액체 냉각이 이제 필수적인 이유

작은 조각

환경 온도가 반도체 칩에 미치는 영향은 매우 중요합니다. 온도가 상승하면 전자 부품의 성능과 수명이 크게 저하될 수 있습니다. 높은 열 환경은 커패시터 및 저항기와 같은 재료의 열팽창을 초래하여 기계적 고장을 일으키고 정상적인 작동을 방해할 수 있습니다. ANJIE의 보고서에 따르면 기존 공기 냉각은 최대 800W까지만 열 방출을 관리할 수 있으며, 이는 여러 NVIDIA 제품이 능가하는 임계값입니다.

 

데이터 센터

공냉식 데이터 센터는 일반적으로 캐비닛당 8-10kW의 밀도를 지원합니다. 그러나 AI 클러스터 컴퓨팅 성능은 2025년까지 캐비닛당 20-50kW에 도달할 것으로 예상됨에 따라 공기 냉각의 한계가 명백히 드러납니다. 전력 밀도가 증가함에 따라 더욱 효율적인 냉각 방법이 필요해졌으며, 액체 냉각이 탁월한 대안으로 자리매김하고 있습니다.

 

An AI data center designed for high-density computing, utilizing advanced liquid cooling systems

▲ 액체 냉각 기술을 적용한 고밀도 AI 데이터센터

 

 

II. 액체 냉각 정책은 시장에 "자극제"를 주입합니다.

 

PUE(Power Usage Effectiveness)는 데이터 센터의 에너지 효율성을 평가하는 핵심 지표로 사용됩니다. PUE가 낮을수록 데이터 센터가 더 친환경적이고 효율적이라는 것을 의미합니다. 이는 IT 부하에서만 소비되는 에너지에 대한 시설에서 소비되는 총 에너지의 비율을 반영하기 때문입니다. 일반적인 데이터센터에서 IT 장비는 에너지 소비의 약 50%를 차지하고 냉각 시스템은 약 35%를 차지합니다.

 

액체 냉각 기술은 기존 공기 냉각에 비해 PUE 값이 상당히 낮은 경향이 있습니다. 예를 들어, 기존 공기 냉각은 약 1.3의 PUE를 유지하는 반면, 액체 냉각 방법은 사용된 특정 기술에 따라 이를 1.05에서 1.2 사이로 줄일 수 있습니다.

 

Graph comparing PUE values of air cooling and various liquid cooling technologies in data centers

▲ 공냉식과 수냉식 기술의 PUE 비교

 

 

III. 액체 냉각을 통한 Vertiv의 전략적 성장

 

Vertiv는 CoolTera 인수를 통해 액체 냉각 기능을 향상시키는 데 큰 진전을 이루었습니다. 영국에 본사를 둔 이 회사는 액체 냉각 인프라를 전문으로 하며 여러 데이터 센터 및 슈퍼컴퓨팅 프로젝트에서 수년 동안 Vertiv와 협력해 왔습니다. 이번 인수를 통해 Vertiv는 열 관리 시장에서 입지를 강화하여 데이터 센터의 진화하는 요구 사항에 맞춰 더욱 강력한 솔루션을 제공할 수 있게 될 것으로 예상됩니다.

 

 

IV. 액체 냉각의 핵심 가치 사슬

1. 액체 냉각의 이해

액체 냉각은 컴퓨터 시스템의 최적 작동 온도를 유지하는 데 사용되는 방법을 의미합니다. 액체의 높은 비열을 활용하여 내부 부품에서 발생하는 열을 외부 환경으로 효과적으로 전달하는 기술입니다. 액체 냉각 시스템은 직접 냉각 기술과 간접 냉각 기술로 분류할 수 있습니다. 냉각판 시스템과 같은 간접 냉각은 냉각액이 가열된 구성 요소와 직접 접촉하지 않도록 하는 반면, 직접 냉각 방법에는 냉각 매체가 가열된 구성 요소와 직접 상호 작용하는 침수 냉각이 포함됩니다.

 

2. 액체 냉각 산업 생태계: 냉각판 시스템

액체 냉각 산업은 다음을 포함한 다양한 구성 요소와 시스템으로 구성됩니다.

  • RCM(냉매 공급 및 회수) 장치:이 장치는 액체 냉각 캐비닛 내에서 냉매의 분배 및 수집을 관리합니다.
  • 냉각 분배 장치(CDU):CDU는 냉각판 구성 요소로 유입되는 냉매와 냉각 소스 측의 냉각수 분리를 용이하게 합니다.
  • LCM(액체 순환 모듈):이 모듈은 냉각 시스템 전반에 걸쳐 냉매의 운송 및 회수를 관리합니다.

 

사용되는 냉매는 효과적인 열 전달에 기여하는 탈이온수 및 글리콜 기반 솔루션을 포함한 옵션에 따라 다양할 수 있습니다.

 

 Diagram depicting the various components of a liquid cooling ecosystem in data centers

▲ 데이터센터 액체냉각 생태계 개요

 

 

V. 액체 냉각 공급망에서 수혜 기업 식별

1. 수혜기업 : 서버 내부 부품

액체 냉각 공급망은 내부 서버 구성 요소, 액체 냉각 구성, 액체 냉각 인프라 제공업체 등 세 가지 기본 범주로 나눌 수 있습니다. 내부 구성 요소에는 고성능 AI 칩의 성능을 향상시키는 데 필수적인 냉각판 시스템과 빠른 연결 해제가 포함됩니다. Huawei 및 NVIDIA와 같은 회사가 이 분야의 핵심 기업입니다.

 

2. 액체 냉각 구조

액체 냉각 구조에는 전체 체인 솔루션 제공업체와 서버 제조업체가 포함됩니다. Vertiv와 같은 풀체인 제공업체는 포괄적인 솔루션을 제공하지만 서버를 직접 공급하지 않을 수 있으므로 칩 제조업체와의 협력이 필요합니다.

 

3. IDC 구축

IDC 제조업체는 데이터 센터를 구축하고 고객 요구에 맞는 액체 냉각 솔루션을 개발하는 일을 담당합니다. 이러한 제조업체는 성능을 최적화하기 위해 점점 더 액체 냉각 기술을 설계에 통합할 것입니다.

 

4. 인프라 제공자

인프라 제공업체는 CDU 및 LCM과 같은 특정 액체 냉각 구성 요소를 제공합니다. 이러한 기술에 대한 수요가 증가함에 따라 데이터 센터 설계에서 액체 냉각의 중요성이 커지는 것을 반영하여 이러한 제품의 수량과 가격이 모두 증가할 것으로 예상됩니다.

 

 

결론

 

AI 인프라에서 공기 냉각에서 액체 냉각으로의 전환은 단순한 추세가 아니라 컴퓨팅 수요 증가에 따른 필수적인 진화입니다. 대형 모델의 확산과 효율적인 열 관리의 필요성으로 인해 액체 냉각 기술은 데이터 센터의 미래에서 중추적인 역할을 하게 될 것입니다. Vertiv와 같은 회사가 전략적 인수 및 파트너십을 통해 역량을 강화함에 따라 액체 냉각 시장은 상당한 성장을 이룰 준비가 되어 있습니다. 이러한 전환은 궁극적으로 보다 효율적이고 지속 가능한 고성능 컴퓨팅 환경에 기여할 것입니다.

 

 

 

 

문의 보내기