AI/ML, HPC, 클라우드, 스토리지 및 5G/엣지를 위한 토탈 IT 솔루션의 글로벌 리더 슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(SMCI), 이하 슈퍼마이크로)가 데이터센터 빌딩 블록 솔루션(이하 DCBBS)을 공개했다.
DCBBS는 서버, 스토리지, 네트워킹, 랙, 액체 냉각, 소프트웨어, 서비스 및 지원을 포함한 모든 핵심 인프라 구성 요소를 갖춘 수냉식 AI 팩토리의 구축 복잡성을 가장 손쉽게 극복할 수 있는 솔루션이다. 슈퍼마이크로의 시스템 빌딩 블록 솔루션이 확장된 솔루션으로서, DCBBS는 표준화되었으면서도 유연성을 갖춘 솔루션 아키텍처를 채택했다. 그 결과, 가장 까다로운 AI 데이터센터 훈련 및 추론 워크로드를 처리할 수 있도록 범위가 대폭 확장되었고, 데이터센터 계획, 구축 및 운영이 더욱 쉬워졌으며 비용 또한 절감할 수 있다.
찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 "슈퍼마이크로의 DCBBS는 고객이 데이터센터 인프라를 3개월 만에 쉽게 구축하고, 가장 빠르게 시장 진출 및 가동할 수 있도록 지원한다"며 "데이터센터 레이아웃과 네트워크 토폴로지 설계, 전력 및 배터리 백업 장치 등 토탈 솔루션을 제공한다. 이를 통해 AI 데이터센터 구축을 간소화하고 가속화함으로써 비용 절감 및 품질 향상을 돕는다"고 밝혔다.
DCBBS는 256 노드 AI 팩토리 DCBBS 확장형 유닛을 비롯해 사전 검증된 데이터센터 규모의 확장형 유닛 패키지를 제공한다. 평면도, 랙 입면도, 부품 목록 등 간소화된 패키지 구성으로 장기적인 데이터센터 설계 부담을 완화한다. 슈퍼마이크로는 상담부터 현장 구축, 사후 현장 지원까지 자체적으로 제공하는 포괄적인 서비스로 프로젝트의 성공을 돕는다. DCBBS는 시스템, 랙 클러스터, 데이터센터 규모까지 맞춤화가 가능하며, 사실상 모든 프로젝트 요구 사항을 충족할 수 있다.
또한, DLC-2 기술과 함께 데이터센터의 전력 최대 40%, 공간 60%, 냉각수 소비량 40% 줄일 수 있며, 이를 통해 총소유비용(TCO)을 20%까지 절감할 수 있다.
슈퍼마이크로 DCBBS에 대한 자세한 내용은 홈페이지에서 확인 가능하다.
AI 팩토리 데이터센터 규모 확장형 유닛
AI 인프라에 대한 수요는 계속해서 증가하고 있다. AI 훈련 클러스터가 기반 모델을 개발하는 데에는 수천 개의 GPU가 필요하다. AI 추론 애플리케이션은 다양한 모델을 활용하는 다중 추론 패스를 통해 테스트 시 연산량을 크게 확장함으로써 보다 뛰어난 인텔리전스를 제공한다. 슈퍼마이크로의 AI 팩토리 DCBBS 패키지는 이러한 AI 연산 요구사항의 증가에 대응하며, 데이터센터를 최적화된 통합 솔루션을 제공한다.
슈퍼마이크로의 솔루션은 수냉식 4U 엔비디아 HGX 시스템을 최대 256개 노드로 구성 가능하며, 각 시스템은 8개의 엔비디아 블랙웰 GPU, 즉 총 2,048 GPU를 지원한다. 이때 각 시스템은 최대 800Gb/s 속도의 엔비디아 퀀텀-X800 인피니밴드 또는 엔비디아 스펙트럼 X 이더넷 네트워킹 플랫폼을 통해 상호 연결된다. 컴퓨팅 패브릭은 고성능 PCIe Gen5 NVMe 기반의 계층형 스토리지, TCO를 최적화한 데이터 레이크 노드, 그리고 중단 없는 연속 운영을 위한 복원력을 갖춘 관리 시스템 노드로 구성된다.
시스템 , 랙, 데이터센터 단위의 맞춤화
슈퍼마이크로는 시스템, 랙, 데이터센터 단위의 3단계 모듈형 빌딩 블록 접근 방식을 기반으로 고객에게 가장 유연한 설계 옵션을 제공한다. 고객은 시스템 단위에서 CPU, GPU, DIMM, 드라이브, NIC 등 개별 부품까지 선택할 수 있으며, 특정 데이터센터 워크로드 및 애플리케이션에 최적화된 하드웨어 요구 사항을 충족할 수 있다.
슈퍼마이크로는 열 제어와 케이블링을 최적화하기 위해 42U, 48U, 52U 등 다양한 구성 옵션의 랙 인클로저의 입면도 설계를 지원한다. 또한, 초기 협의 내용을 바탕으로, 데이터센터의 전력 예산, 목표 성능 등 다양한 조건에 부합하는 맞춤형 제안서를 제공한다.
슈퍼마이크로 DLC-2
현재 1% 미만에 불과한 수냉식 데이터센터의 시장 점유율이 1년 내 30%까지 급성장할 것으로 전망되는 가운데, 슈퍼마이크로는 직접 수냉식 냉각(Direct Liquid Cooling; 이하 DLC)의 대중화를 주도하고 있다.
DLC는 1,000W TDP 이상의 AI GPU에서 발생하는 열을 칩 단위로 직접 포집해 탁월한 냉각 효율을 제공한다. 이러한 수냉식 인프라는 데이터센터 규모로 설계 및 구축되며, 열 제거를 위한 배관 및 시설 측 수냉식 냉각탑까지 포함된다. 슈퍼마이크로는 DLC 시스템, 랙 내 또는 랙 간 냉각수 분배 장치(CDU), 냉각수 분배 매니폴드(CDM), 냉각탑 등으로 구성된 직접-칩 수냉식 인프라에 대한 토탈 솔루션을 제공하며 업계를 선도하고 있다.
슈퍼마이크로의 DLC-2는 다음과 같은 향상된 성능을 제공한다:
- CPU, GPU, PCIe 스위치, DIMM, VRM, PSU 등 다양한 부품에 대응하는 냉각판 적용
- 최대 45°C의 유입수 온도 수용
- 소음 수준이 50dB까지 감소
- 최대 98%의 열을 수냉식으로 직접 포집
- 공냉식 대비 최대 40%의 데이터센터 에너지 절감 효과
서비스 및 소프트웨어 빌딩 블록
DCBBS는 고객의 자체 IT 리소스 투입 없이도 시장 출시 및 가동까지의 시간을 단축할 수 있는 서비스를 포함한다. 슈퍼마이크로는 데이터센터 설계, 솔루션 검증, 전문적인 현장 구축 등 다양한 서비스를 모듈화된 구성으로 제공한다. 또한 장기적인 성공을 위한 지속적인 현장 지원과 미션 크리티컬한 시스템 가동을 위한 4시간 이내 현장 대응 옵션도 지원한다.
슈퍼마이크로의 슈퍼클라우드 컴포저는 클라우드 규모에서 컴퓨팅, 스토리지, 네트워크 자원을 통합 관리하며, 풍부한 분석 기능을 기반으로 인프라 운영을 최적화하도록 설계된 관리 솔루션이다.
슈퍼마이크로는 서비스 외에도 AI 훈련, AI 추론, 클러스터 관리, 워크로드 오케스트레이션 등 데이터센터 애플리케이션 통합에 대한 방대한 전문 지식을 보유하고 있다. 여기에는 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼 구축 지원도 포함된다. 슈퍼마이크로는 고객의 소프트웨어 스택에 기반한 소프트웨어 프로비저닝 및 검증에 대한 완전한 서비스를 제공한다.
