AMD의 Instinct MI300X는 AI 가속기 중 하나로, 회사의 3세대 CDNA 아키텍처와 TSMC의 고급 5nm 및 6nm 공정으로 제작됨. 19,456개의 스트림 프로세서, 192GB의 HBM3 메모리, 304개의 컴퓨트 유닛, 1,216개의 매트릭스 코어, 750와트의 열 설계 전력(TDP)을 특징으로 함. 첫 번째 벤치마크 테스트에서 Nvidia의 RTX 4090을 압도적으로 이김.
Vultr는 선도적인 민간 클라우드 컴퓨팅 플랫폼으로, AMD의 고성능 하드웨어를 확장 가능한 클라우드 인프라와 통합할 계획을 발표함. 목표는 GPU 가속 작업을 보다 효과적으로 관리하고 데이터 센터와 엣지 컴퓨팅 전반에 걸쳐 원활한 성능을 제공하는 것임.
“혁신은 개방형 생태계에서 번창한다”고 Vultr의 CEO J.J. Kardwell가 말함. “기업 AI 작업의 미래는 유연성, 확장성 및 보안을 허용하는 개방형 환경에 있다. AMD 가속기는 고객에게 비할 데 없는 비용 대비 성능을 제공함. 높은 메모리와 낮은 전력 요구 사항의 균형은 지속 가능성 노력을 더욱 촉진하고 고객이 AI를 통해 혁신과 성장을 효율적으로 추진할 수 있는 능력을 제공함.”
GPU 가속 Kubernetes
Vultr와 AMD의 협력은 기업들이 세계적 수준의 AI 개발 환경에 접근할 수 있도록 하는 것을 목표로 함. AMD의 아키텍처와 Vultr의 플랫폼이 결합되어 기업들이 오픈 소스, 사전 훈련된 모델로 작업할 수 있게 하여 AI 프로젝트 개발을 간소화함.
“Vultr와의 긴밀한 협력에 자부심을 느낀다. Vultr의 클라우드 플랫폼은 고성능 AI 훈련 및 추론 작업을 관리하고 전반적인 효율성을 개선하도록 설계됨”이라고 AMD 데이터 센터 GPU 사업부의 비즈니스 개발 부사장 Negin Oliver가 말함.
“AMD Instinct MI300X 가속기와 ROCm 오픈 소프트웨어의 채택으로 Vultr의 고객은 다양한 AI 집약적 작업을 관리하는 데 최적화된 시스템을 갖추게 될 것임.”
이 파트너십은 또한 복잡한 작업을 전 세계적으로 처리할 수 있는 GPU 가속 Kubernetes 클러스터를 위해 Vultr의 인프라를 최적화함. Vultr는 정확히 몇 대의 Instinct MI300X 유닛을 주문했는지는 밝히지 않았지만, 초기 클러스터는 '수천 대'에 이른다고만 언급함.
/cdn.vox-cdn.com/uploads/chorus_asset/file/25345067/STK468_APPLE_ANTITRUST_CVIRGINIA_B.jpg)