• 새로운 DLC-2 4U 전면 I/O 액체 냉각 시스템, 데이터 센터 전력 최대 40% 절감
• 8U 전면 I/O 공랭식 시스템, 향상된 시스템 메모리 구성 유연성, 집적도, 콜드 아일 유지보수성 개선
• 새로운 전면 I/O 공랭식 또는 액체 냉각 구성으로 고객 선택 폭을 넓히고 다양한 AI 팩토리 환경에 서비스 대응 가능

 

I/ML, HPC, 클라우드, 스토리지, 5G/엣지 분야의 토털 IT 솔루션 제공업체 슈퍼마이크로(Supermicro, Inc., NASDAQ: SMCI)가 오늘 엔비디아(NVIDIA) 블랙웰(NVIDIA Blackwell)과의 시스템 포트폴리오 확장 소식을 발표했다. 슈퍼마이크로는 대규모 출하 준비를 마친 새로운 4U DLC-2 액체 냉각 NVIDIA HGX B200 시스템과 공랭식 8U 전면 I/O 시스템을 선보였다. 가장 까다로운 대규모 AI 훈련 및 클라우드 규모 추론 워크로드에 맞춰진 슈퍼마이크로의 새로운 시스템은 공랭식 또는 액체 냉각 AI 인프라의 구축, 관리, 유지보수를 간소화한다. 이러한 시스템은 향후 출시될 NVIDIA HGX B300 플랫폼을 지원하도록 설계됐으며, 전면 I/O 접근이 용이하기 때문에 케이블링을 단순화하고, 열효율과 컴퓨팅 밀도를 개선하며, 운영 비용(OPEX)을 절감한다.

 

 

찰스 리앙(Charles Liang) 슈퍼마이크로 최고경영자(CEO) 겸 사장은 "슈퍼마이크로 포트폴리오의 선두 주자인 DLC-2 기반 NVIDIA HGX B200 시스템은 AI 팩토리 구축 시 전력 절감 효과를 높이고 온라인 가동 준비 시간을 단축한다"며 "슈퍼마이크로의 빌딩 블록(Building Block) 아키텍처를 통해 고객이 요청하는 솔루션을 신속히 제공할 수 있다. 슈퍼마이크로의 광범위한 포트폴리오는 이제 공랭식 또는 액체 냉각식 설비 등 모든 환경에서 다양한 AI 인프라 요구에 최적화된 엔비디아 블랙웰 솔루션을 정확히 제공할 수 있다"라고 말했다.

 

슈퍼마이크로의 DLC-2는 차세대 직접 액체 냉각(Direct Liquid Cooling) 솔루션으로, AI에 최적화된 데이터센터의 증가하는 요구사항을 충족하도록 설계됐다. 이 포괄적인 냉각 아키텍처는 고집적 컴퓨팅 환경에서 상당한 운영 및 비용 절감 효과를 제공한다.

 

• 데이터 센터 전력 최대 40% 절감
• 엔드투엔드 데이터 센터 규모의 액체 냉각 솔루션 제공으로 배포 시간을 단축하고 가동 준비 시간 단축
• 최대 45°C에 달하는 유입 온도를 가진 온수를 냉각해 칠러(chiller) 사용 필요성을 줄여 물 소비량 최대 40% 절감
• CPU, GPU, DIMM, PCIe 스위치, VRM, 전원공급장치 등 주요 부품을 액체로 냉각해 시스템 열의 최대 98% 흡수
• 소음 수준을 50dB까지 낮춰 저소음 데이터 센터 운영

 

슈퍼마이크로는 이번에 새롭게 출시한 전면 I/O 2종과 후면 I/O 6종을 포함해 업계에서 가장 폭넓은 NVIDIA HGX B200 솔루션 포트폴리오를 갖추게 됐다. 이를 통해 고객은 CPU, 메모리, 네트워킹, 스토리지, 냉각 구성에서 최적의 조합을 선택할 수 있다. 새로운 4U 및 8U 전면 I/O NVIDIA HGX B200 시스템은 검증된 대규모 AI 학습 및 추론용 솔루션을 기반으로, 네트워킹, 케이블링, 열 관리 등 주요 배치 문제를 해결하도록 설계됐다.

 

카우스투브 상가니(Kaustubh Sanghani) 엔비디아 GPU 제품 관리 부사장은 "첨단 인프라가 모든 산업에서 AI 산업 혁명을 가속하고 있다"며 "기업은 최신 엔비디아 블랙웰 아키텍처를 기반으로 한 슈퍼마이크로의 신규 전면 I/O B200 시스템을 활용해 전례 없는 속도로 AI를 구축하고 확장할 수 있으며, 혁신, 효율성, 운영 우수성을 실현할 수 있다"라고 말했다.

 

현대 AI 데이터센터는 높은 확장성을 요구하며, 이를 위해서는 대규모 노드 간 연결이 필요하다. 이번 시스템은 콜드 아일(cold aisle)에서 네트워킹 케이블, 스토리지 드라이브 베이, 관리 작업을 모두 구성할 수 있도록 400G급 고성능 NVIDIA ConnectX®-7 NIC 8개와 NVIDIA BlueField®-3 DPU 2개를 전면에 배치했다. 또한 NVIDIA Quantum-2 InfiniBand와 Spectrum™-X 이더넷 플랫폼을 완벽하게 지원해 최고 성능의 컴퓨트 패브릭(Compute Fabric)을 구현한다.

 

시스템 아키텍처 개선 외에도 슈퍼마이크로는 AI 데이터센터 워크로드를 위한 효율성, 성능 및 비용 절감을 극대화하도록 부품들을 미세 조정했다. 32개의 DIMM 슬롯을 갖춘 메모리 확장 업그레이드는 시스템 메모리 구성에 더 큰 유연성을 제공해 대용량 메모리를 구현할 수 있다. 대용량 시스템 메모리는 CPU-GPU 병목 현상을 제거하고, 대규모 워크로드 처리를 최적화한다. 또한 가상화 환경에서 다중 작업 효율성을 높이고, 데이터 전처리를 가속함으로써 엔비디아 HGX B200의 HBM3e GPU 메모리를 보완한다.

 

모든 슈퍼마이크로 4U 액체 냉각 시스템과 8U 또는 10U 공랭식 시스템은 NVIDIA HGX B200 8-GPU에 최적화돼 있으며, 각 GPU는 5세대 NVLink®를 통해 초당 1.8TB로 연결된다. 이를 통해 시스템당 총 1.4TB의 HBM3e GPU 메모리를 제공한다. 엔비디아의 블랙웰 플랫폼은 호퍼(Hopper) 세대 GPU 대비 LLM(대규모 언어 모델)의 실시간 추론 성능을 최대 15배, 학습 속도를 3배 향상시킨다. 듀얼 소켓 CPU와 최대 350W의 Intel^® Xeon^® 6 6700 시리즈 프로세서를 지원하는 새로운 전면 I/O 시스템은 광범위한 AI 워크로드에서 높은 성능과 효율성을 제공한다.

 

새로 출시된 4U 전면 I/O 액체 냉각식 시스템은 전면에서 NIC, DPU, 스토리지, 관리 구성 요소에 접근할 수 있도록 설계됐다. 이 시스템은 최대 350W P코어를 지원하는 Intel^® Xeon^® 6700 시리즈 듀얼 소켓 프로세서와 NVIDIA HGX B200 8-GPU(GPU당 180GB HBM3e)를 탑재한다. 메모리는 최대 32개의 DIMM을 지원하며, 5200MT/s DDR5 RDIMM 기준 최대 8TB, 6400MT/s DDR5 RDIMM 기준 최대 4TB까지 구성 가능하다. 또한 8개의 핫스왑 E1.S NVMe 스토리지 드라이브 베이와 2개의 M.2 NVMe 부팅 드라이브를 갖췄다. 네트워크 연결은 NVIDIA ConnectX®-7 NIC 또는 NVIDIA BlueField®-3 SuperNIC 단일 포트 8개, 그리고 NVIDIA BlueField®-3 DPU 듀얼 포트 2개를 지원한다.

 

슈퍼마이크로는 이 액체 냉각식 시스템을 수천 개 이상의 노드 규모에 도달할 수 있는 고집적 AI 팩토리의 빌딩 블록으로 설계해 공랭식 대비 데이터 센터 전력을 최대 40% 절감했다.

 

8U 전면 I/O 공랭식 시스템은 동일한 전면 접근 아키텍처와 핵심 사양을 유지하면서도, 액체 냉각 인프라가 없는 AI 팩토리를 위한 간소화된 솔루션을 제공한다. 컴팩트한 8U 폼 팩터(Supermicro의 10U 시스템 대비)를 특징으로 하며, CPU 트레이 높이를 줄이는 대신 GPU 트레이는 6U 높이를 그대로 유지해 공랭 성능을 극대화했다.