지속 가능한 메탈 클라우드
인공지능 붐이 더 강력한 프로세서와 데이터 센터를 시원하게 유지하는 데 필요한 에너지에 대한 수요를 증가시키고 있음.
이는 지속 가능한 AI 공장을 운영하는 데이터 센터 회사인 지속 가능한 메탈 클라우드에게 기회가 됨. 이 회사는 싱가포르와 호주에 있는 하이퍼큐브로 구성된 공장을 운영하고 있음.
하이퍼큐브에는 Nvidia 프로세서가 장착된 서버가 있으며, 이는 공기보다 열을 더 효율적으로 빼앗는 합성 오일인 폴리알파올레핀에 잠겨 있음. 이 회사는 자사의 플랫폼이 전통적인 공기 냉각 기술에 비해 에너지 소비를 최대 50% 줄인다고 밝힘.
"이 기술은 GPU의 고밀도 호스팅을 가능하게 함. Nvidia의 Grace Blackwell과 같은 플랫폼을 위해 필요한 호스팅을 가능하게 함,"이라고 지속 가능한 메탈 클라우드의 공동 창립자이자 공동 CEO인 팀 로젠필드가 말함. 이는 Nvidia가 3월에 발표한 새로운 세대의 AI 그래픽 프로세서를 언급한 것임.
싱가포르에 본사를 둔 이 회사는 또한 자사의 침수 냉각 기술이 다른 액체 기반 솔루션보다 설치 비용이 28% 저렴하다고 말함. 하이퍼큐브는 모든 데이터 센터에 들어갈 수 있도록 설계되었으며 기존 데이터 센터의 사용하지 않는 공간에 배치할 수 있음.
대부분의 데이터 센터는 침수 또는 직접 칩 냉각을 포함한 어떤 형태의 액체에도 준비가 되어 있지 않음. 시장은 이를 어떻게 활용할지 알아내고 있으며 여러 가지 방법이 있을 것이라고 생각함.
"우리의 솔루션이 컨테이너화되어 있기 때문에 우리는 매우 빠르게 어디든 갈 수 있음. 고객의 수요에 따라 새로운 가용 영역을 열 수 있음,"이라고 로젠필드가 말함.
그는 SMC가 태국과 인도와 같은 다른 시장으로 확장하고 있다고 덧붙임.
이 회사는 이미 Nvidia와 Deloitte를 주요 기업 파트너로 두고 있음. SMC는 Nvidia의 컴퓨팅 및 AI의 선호 클라우드 파트너이며, 이 칩 거인의 설계한 GPU 클러스터를 제공함. 7월에 SMC는 Deloitte와 파트너십을 발표했으며, 이 파트너십을 통해 컨설팅 고객이 AI 애플리케이션을 구축할 수 있도록 Nvidia의 GPU 컴퓨팅 인프라에 접근할 수 있도록 함.
정부와 기업들은 AI의 변혁적 영향을 포착하기 위해 서두르고 있으며, 그 결과 데이터 센터 수요가 급증하고 있음.
SMC가 본사를 두고 있는 싱가포르와 같은 국가들은 AI 야망을 지원하기 위해 "녹색" 데이터 센터를 추진하여 막대한 에너지 소비를 완화하려고 하고 있으며, 이 나라에서는 5억 싱가포르 달러(약 3억 7970만 달러)를 약속함.
지속 가능한 메탈 클라우드는 아시아 최대 데이터 센터 운영업체 중 하나인 Temasek가 지원하는 ST Telemedia Global Data Centres로부터 자금을 받음.
SMC는 현재 싱가포르를 넘어 데이터 센터 확장을 위해 4억 달러의 자본과 5억 5000만 달러의 부채를 모금하고 있음. 블룸버그는 이와 관련된 소식통을 인용하여 보도함.
액체 냉각이 속도를 내고 있음
기술 회사들은 성능 요구가 증가함에 따라 과열 위험도 증가하고 있어 데이터 센터의 액체 냉각을 점점 더 많이 고려하고 있음.
전통적으로 데이터 센터는 냉각된 공기가 순환할 수 있도록 넓은 통로를 두고 있으며, 과열은 장비 고장과 다운타임으로 이어질 수 있음. 이론적으로 액체 냉각은 이러한 시설이 기존 공간에 더 많은 서버를 배치할 수 있도록 해야 함.
디지털 인프라 제공업체 Vertiv의 CEO인 지오르다노 알베르타치는 6월 CNBC에 액체 냉각 채택이 2024년에 가속화될 수 있다고 말함. Vertiv의 열 관리 솔루션에는 하이브리드 공기 및 액체 냉각, 완전 액체 냉각 데이터 센터가 포함됨.
6월 타이페이 컴퓨텍스에서 Nvidia CEO인 젠슨 황은 슈퍼마이크로의 직접 액체 냉각 기술의 이점을 강조하며, 이는 AI 데이터 센터에서 에너지를 절약하고 비용을 낮춘다고 말함.
지속 가능한 메탈 클라우드
슈퍼마이크로의 CEO인 찰스 리앙은 6월 CNBC에 액체 냉각이 더 높은 전력 효율성을 제공하여 더 나은 성능, 적은 오염 및 낮은 에너지 비용으로 이어진다고 말함.
하지만 SMC의 로젠필드에 따르면 액체 냉각을 배치하는 데 여전히 도전 과제가 남아 있음.
"대부분의 데이터 센터는 침수 또는 직접 칩 냉각을 포함한 어떤 형태의 액체에도 준비가 되어 있지 않음. 시장은 이를 어떻게 활용할지 알아내고 있으며 여러 가지 방법이 있을 것이라고 생각함,"이라고 로젠필드가 말함.
Vertiv의 알베르타치는 "여전히 데이터 센터에서 많은 공기 냉각이 이루어지고 있으며, 고밀도 AI 데이터 센터에서도 계속될 것임"이라고 덧붙임.
