AI/ML, 클라우드, 스토리지 및 5G/엣지를 위한 토탈 IT 솔루션의 글로벌 리더 슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(SMCI), 이하 슈퍼마이크로)가 최신 AMD 인스팅트(Instinct) MI350 시리즈 GPU를 기반 AI 솔루션을 공개했다.

새롭게 발표된 슈퍼마이크로 H14세대 GPU 최적화 솔루션은 수냉식과 공냉식 냉각 옵션 모두 지원하며, 탁월한 성능과 최대 확장성, 그리고 효율성을 제공하도록 설계됐다. 해당 서버는 AMD 인스팅트 MI350 시리즈 GPU와 듀얼 AMD EPYC 9005 시리즈 CPU를 함께 탑재해, 대규모 환경에서도 높은 성능을 유지하면서 총소유비용(TCO) 절감을 추구하는 기업에 이상적이다.

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 "슈퍼마이크로는 AI 및 HPC 애플리케이션을 위한 고성능 시스템 분야을 설계하고 제공해 온 풍부한 경험을 바탕으로 업계를 지속적으로 선도하고 있다"며, "슈퍼마이크로의 데이터센터 빌딩 블록 솔루션(이하 DCBBS)은 엔드투엔드 솔루션을 신속하게 시장에 제공할 수 있게 해주고, 가장 까다로운 애플리케이션에도 최신 기술을 적용할 수 있도록 지원한다"고 말했다.

이어 그는 "슈퍼마이크로 GPU 서버 라인업에 새로운 MI350 시리즈 GPU 추가함으로써 당사의 AI 솔루션을 한층 강화하고 확장했다"며, "이를 통해 고객은 차세대 데이터센터를 설계하고 구축하는 데 있어 더욱 폭넓은 선택지와 향상된 성능을 누릴 수 있게 되었다"고 덧붙였다.

슈퍼마이크로의 H14 세대 데이터센터 솔루션은 AI, HPC, 클라우드, 엔터프라이즈 워크로드 전반에 걸쳐 탁월한 성능과 유연성을 제공한다. 슈퍼마이크로의 검증된 빌딩 블록 아키텍처를 기반으로 설계되어, 엔터프라이즈 고객이 워크로드를 효율적으로 업그레이드하고 확장할 수 있도록 지원한다. 최신 AMD EPYC CPU와 AMD Instinct GPU를 모두 탑재한 신규 서버는 AI 기능을 갖춘 강력한 서버 제품군을 구성하며, 슈퍼마이크로의 DCBBS을 통해 컨설팅부터 현장 구축, 사후 지원까지 전 과정에 걸쳐 고객의 성공을 돕는다.

리사 수(Lisa Su) AMD 회장 겸 CEO는 "최신 AMD 인스팅트 MI350 시리즈는 OEM 인프라와의 호환을 위해 업계 표준 폼팩터를 유지하면서도, 경쟁 제품 대비 달러당 토큰 처리량이 최대 40% 더 높은 성능을 제공한다"며, "해당 GPU를 슈퍼마이크로의 검증된 플랫폼과 결합하면, 고객은 AMD 기술 기반의 완전 통합형 수냉식 또는 공냉식 랙을 구축할 수 있다. 이를 통해 어떤 규모에서도 유연하고 효율적으로 강력한 AI 솔루션을 구현할 수 있다"고 설명했다.

슈퍼마이크로는 검증된 수냉식 및 공냉식 고성능 패브릭 8GPU 시스템을 확장하고 있으며, 업계 표준 개방형 멀티 아키텍처인 OCP 가속기 모듈(OAM)을 활용해 최신 AMD 인스팅트 MI350 시리즈 GPU를 지원하고 있다. AMD 인스팅트 MI355X GPU를 탑재한 4U 수냉식 시스템은 슈퍼마이크로가 새롭게 향상시킨 직접 수냉식 냉각(DLC) 아키텍처를 채택해 고집적도 환경에 적합하다. 이 DLC 아키텍처는 다양한 서버 구성 요소의 열을 효과적으로 제어하며, 전력 소비를 최대 40%까지 절감할 수 있다. 또한 이는 랙당 성능을 극대화하고, 대규모 냉각 인프라 환경을 지원하는 데 기여한다. 고객은 고집적도 랙 스케일 구축을 위한 4U 수냉식 옵션과 공냉식 환경에 적합한 8U 옵션 중 선택할 수 있다.

슈퍼마이크로의 이 가속화 GPU 서버는 보다 전력 효율적인 AI 추론을 지원하기 위해 컴퓨팅 처리량, 메모리 대역폭 활용도, 에너지 효율성을 극대화하도록 설계됐다. AMD 인스팅트 MI350 시리즈를 탑재함으로써 GPU당 288GB의 HBM3e를 제공하며, 이는 기존 AMD 인스팅트 가속기보다 메모리 용량이 1.5배 증가한 수치다. 또한, 대역폭은 8TB/s, FP16/FP8 기준 페타플롭스 성능은 AMD 인스팅트 MI325X 대비 1.8배 향상되었다. 이를 통해 고객은 AI 워크로드에서 더 많은 데이터를 더 빠르게 처리할 수 있다.

폴 셸(Paul Schell) ABI 리서치(ABI Research) 산업 분석가는 "AI 모델은 단순히 규모가 커지는 데 그치지 않는다. 실제 환경에서도 안정적으로 구축 가능한, 보다 빠르고 효율적인 인프라를 요구한다"며, "슈퍼마이크로가 최신 H14 세대 시스템에 AMD MI350 시리즈 GPU를 추가한 것은 AI 학습과 추론 모두에 최적화된 확장 가능한 고성능 메모리 솔루션을 제공하려는 강력한 의지를 보여주는 사례"라고 설명했다. 이어 그는 "수냉식과 공냉식을 모두 지원하는 이 시스템은 CSP, 네오 클라우드, 엔터프라이즈 환경에서 차세대 AI 성장을 견인할 유연성과 효율성을 제공한다"고 덧붙였다.

이번에 발표된 GPU 솔루션은 클라우드 서비스 공급업체와 엔터프라이즈 고객이 대규모 AI를 안정적으로 구동할 수 있도록 설계됐다. 4세대 AMD CDNA 아키텍처를 기반으로 구축된 AMD 인스팅트 MI350 시리즈는 AI 학습 및 추론부터 복잡한 과학 시뮬레이션까지 다양한 워크로드에 대해 뛰어난 성능과 에너지 효율성을 제공하며, FP6 및 FP4와 같은 새로운 데이터 유형을 통해 대규모 AI 모델 처리에 필요한 강력한 기능을 지원한다.