AI/ML, HPC, 클라우드, 스토리지 및 5G/엣지를 위한 토탈 IT 솔루션의 글로벌 리더 슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(SMCI), 이하 슈퍼마이크로)가 엔비디아와의 협력을 통해 차세대 엔비디아 베라 루빈 및 루빈 플랫폼을 위한 수냉식 AI 인프라 솔루션을 신속히 제공할 수 있도록 제조 역량과 냉각 기술을 확대한다고 발표했다.

 

 

슈퍼마이크로는 이러한 협력을 바탕으로 엔비디아 베라 루빈 NVL72 및 엔비디아 HGX 루빈 NVL8 솔루션을 가장 빠르게 공급할 수 있는 역량을 확보했다. 슈퍼마이크로의 데이터센터 빌딩 블록 솔루션(Data Center Building Block Solutions; DCBBS)은 빌딩 블록 기반의 모듈형 설계 접근을 통해 생산을 간소화하고, 다양한 구성 옵션과 신속한 구축을 지원해 차세대 AI 인프라 도입 속도를 단축한다.

 

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 "엔비디아와의 오랜 파트너십과 슈퍼마이크로의 민첩한 빌딩 블록 솔루션을 통해 업계 최고 수준의 AI 플랫폼을 그 누구보다 빠르게 시장에 선보일 수 있다"며, "확장된 제조 역량과 업계를 선도하는 수냉식 냉각 기술을 바탕으로 하이퍼스케일러와 엔터프라이즈 고객이 베라 루빈 및 루빈 플랫폼 기반 AI 인프라를 대규모로 신속하고 효율적으로 구축할 수 있도록 지원할 것"이라고 말했다.

 

슈퍼마이크로의 엔비디아 베라 루빈 플랫폼 기반 솔루션에 대한 자세한 내용은 홈페이지에서 확인 가능하다.

 

슈퍼마이크로 엔비디아 베라 루빈 클러스터

 

슈퍼마이크로가 차세대 엔비디아 베라 루빈 및 루빈 플랫폼을 위해 지원하는 주요 제품군 및 기술은 다음과 같다.

 

<비고: 슈퍼마이크로의 첨단 AI 인프라 솔루션 제품군>

 

• 엔비디아 베라 루빈 NVL72 슈퍼클러스터 솔루션: 엔비디아 베라 루빈 NVL72 슈퍼클러스터는 72개의 엔비디아 루빈 GPU와 36개의 엔비디아 베라 CPU를 하나의 랙 스케일 솔루션으로 통합한 플래그십 AI 인프라 솔루션이다. 엔비디아 NVLink 6 기반의 고속 인터커넥트와 엔비디아 커넥트 X-9 슈퍼 NICs, 엔비디아 블루필드-4 DPU를 통해 GPU–GPU 및 CPU–GPU 간 고속 통신을 지원하며, 엔비디아 퀀텀-X800 인피니밴드 및 엔비디아 스펙트럼-X 이더넷을 통해 대규모 클러스터 확장이 가능하다.
  해당 솔루션은 NVFP4 기준 최대 3.6 엑사플롭스(exaflops)의 AI 연산 성능과 초당 1.4PB의 HBM4 메모리 대역폭, 75TB의 고속 메모리를 제공한다. 3세대 엔비디아 MGX 랙 아키텍처를 기반으로 설계돼 가용성, 신뢰성, 유지보수성을 강화했으며, 인로우(In-row) CDU를 활용한 데이터센터급 수냉식 냉각 기술을 적용해 웜 워터(warm-water) 운용을 지원한다. 이를 통해 에너지 소비와 물 사용량을 최소화하는 동시에 높은 집적도와 에너지 효율성을 구현한다.
• 2U 수냉식 엔비디아 HGX 루빈 NVL8 솔루션: 2U 수냉식 엔비디아 HGX 루빈 NVL8 솔루션은 AI 및 HPC 워크로드에 최적화된 컴팩트한 8-GPU 기반 솔루션이다. NVFP4 기준 최대 400 페타플롭스(petaflops)의 연산 성능과 176TB/s의 HBM4 메모리 대역폭, 28.8TB/s의 NVLink 대역폭을 제공하며, 1600Gb/s 엔비디아 커넥트-9 슈퍼 NICs을 통해 고속 네트워킹을 지원한다.
  차세대 인텔 제온 또는 AMD EPYC 프로세서를 지원하는 x86 기반 구성 옵션을 제공하며, 고밀도 2U 버스바(Busbar) 설계를 통해 랙 통합 효율성을 높였다. 또한 슈퍼마이크로의 업계를 선도하는 DLC 기술을 적용해 집적도와 에너지 효율성을 동시에 강화했다.

 

<비고: 엔비디아 베라 루빈 플랫폼 핵심 기술>

 

• 엔비디아 NVLink 6: 대규모 MoE(Mixture-of-Experts) 모델 학습 및 추론을 위해 GPU–GPU 및 CPU–GPU 간 초고속 인터커넥트
• 엔비디아 베라 CPU: 엔비디아 설계 커스텀 Arm 코어 기반 CPU, 이전 세대 대비 2배 향상된 성능, 88코어/176스레드 공간 멀티스레딩, 1.2TB/s LPDDR5X 메모리 대역폭, 3배 확장된 메모리 용량, GPU 연결을 위한 1.8TB/s NVLink-C2C 대역폭(이전 세대 대비 2배)
• 3세대 트랜스포머 엔진: 롱 컨텍스트(long-context) 워크로드 처리 및 대규모 AI 확장을 위한 저정밀 연산 최적화 가속 기술
• 3세대 컨피덴셜 컴퓨팅: GPU 단위 통합 신뢰 실행 환경(TEE) 기반 랙 스케일 기밀 컴퓨팅, AI 모델•데이터•프롬프트 보호 및 격리
• 2세대 RAS 엔진: 무중단 실시간 상태 점검을 포함한 신뢰성(Reliability)•가용성(Availability)• 유지보수성(Serviceability) 강화 기능

 

<비고: 네트워킹 및 제조 역량 확대>

 

엔비디아 베라 루빈 플랫폼은 새롭게 발표된 엔비디아 스펙트럼-X 이더넷 포토닉스 네트워킹의 이점을 제공한다. 스펙트럼-X는 TSMC 3nm 공정으로 제작된 스펙트럼-6 이더넷 ASIC을 기반으로, 최대 102.4Tb/s의 스위칭 성능과 200G SerDes 공동 패키지 광학(co-packaged optics), 완전 공유 버퍼를 지원한다. 이를 통해 기존 플러거블 옵틱 대비 에너지 효율성은 5배, 신뢰성은 10배, 애플리케이션 가동 시간은 5배 향상된다. 지원 모델에는 수냉식 SN6800(409.6Tb/s CPO, 512×800G 포트), SN6810(102.4Tb/s CPO, 128×800G 포트), SN6600(플러거블 방식, 128×800G 포트, 공냉/수냉식)이 포함된다. 또한 엔비디아 블루필드-4 DPU를 지원하는 슈퍼마이크로 기반 페타스케일 올플래시 스토리지 서버 및 JBOF 솔루션을 통해 다양한 데이터 관리 워크로드를 지원한다.

 

슈퍼마이크로는 확장된 제조 시설과 엔드 투 엔드 수냉식 기술 스택에 대한 전략적 투자를 통해 완전 수냉식 엔비디아 베라 루빈 및 루빈 플랫폼 기반 AI 인프라 솔루션의 생산과 구축을 가속하고 있다. 모듈형 DCBBS 아키텍처와 결합된 이러한 역량은 신속한 구성, 엄격한 검증, 원활한 확장을 가능하게 하며, 고집적 AI 인프라의 구축 기간과 가동 시점을 단축해 고객이 시장 선점 경쟁력을 확보할 수 있도록 지원한다.