제타바이트(Zettabyte)와 라이트온(LiteOn)이 2월 9일, Ultra Edge Pod라 불리는 이동통신 기지국 또는 기지국 인접 위치에 구축되는 마이크로 엣지 AI 추론 플랫폼을 대상으로 전략적 연구개발 협력에 착수한다고 발표했다.

이번 초기 구축은 이동통신 기지국, 기지국 인접 시설 및 기타 네트워크 인접 인프라에 배치되는 특화된 모바일 엣지 컴퓨팅(Mobile Edge Compute, MEC) 기반 AI 추론 플랫폼으로 구성된다(엣지 AI 구축). MEC는 AI 추론 워크로드를 사용자와 더욱 가까운 위치에서 처리함으로써 지연 시간을 획기적으로 줄일 수 있다. 또한 MEC 플랫폼은 성숙한 데이터센터 인프라가 부족한 국가에서도 시민과 기업의 디지털 및 AI 활용 역량을 제고하는 데 기여할 것으로 기대된다. 이번 협력에 따라 라이트온은 엣지 구축에 필요한 전력, 냉각 및 물리적 인프라를 제공하며, 제타바이트는 GPU 스케줄링, 오케스트레이션, 관측성, 원격 운영을 담당하는 종합 소프트웨어 계층을 제공한다. 이를 통해 모든 이동통신 기지국의 컴퓨팅 성능을 결합한 MEC 환경을 구현하게 된다.

이번 구축은 전력, 열 관리, 운영 측면에서 실제 제약 조건이 존재하는 통신 인접 환경에서도, 인프라와 소프트웨어가 긴밀하게 통합될 경우 신뢰성 높고 비용 효율적이며 저지연의 AI 추론을 구현할 수 있음을 입증하는 데 목적이 있다.

계획된 엣지 AI 구축은 모바일 사용자, 무선 접속망, 데이터 소스와 보다 가까운 위치에서 동작하는 저지연·위치 인지형 AI 추론 워크로드를 지원한다. 또한 기지국 운영사 및 통신사가 운영하는 환경을 포함해, 전력과 공간이 제한된 고도로 분산된 통신 시나리오에서 GPU 기반 AI 컴퓨팅을 운영할 수 있는 가능성을 검증하게 된다.

제타바이트의 케네스 타이(Kenneth Tai) 이사회 의장은 "이번 구축을 통해 양사는 인프라와 소프트웨어의 명확한 역할 분담을 기반으로, 반복 가능성·복원력·운영 효율성을 강조한 실용적이고 확장 가능한 엣지 AI 구축 모델을 검증할 수 있을 것"이라고 말했다.

라이트온의 직류 마이크로그리드 부문 제이슨 차오(Jason Tsao) 부사장 겸 책임자는 "라이트온은 전력 시스템, 열 관리, 물리적 인프라 분야에서 축적한 경험을 바탕으로, 체계적이고 구축 중심적인 협업을 통해 새로운 엣지 AI 활용 사례를 지원할 수 있는 입지를 갖추고 있다"고 밝혔다.