HS효성인포메이션시스템(대표 양정규)은 저전력 Arm 서버 ‘GreenCore’와 신경망처리장치(NPU)를 결합한 AI 추론 인프라를 바탕으로 기업 AI 서비스 운영 시장을 공략한다.

생성형 AI와 대규모 언어 모델(LLM) 활용이 본격화되면서 AI 시장의 중심은 모델 개발과 학습에서 실제 업무 적용과 서비스 운영인 추론 단계로 이동하고 있다. 이에 따라 기업들은 제한된 비용, 전력, 공간 내에서 반복되는 추론 요청을 효율적으로 처리할 수 있는 인프라를 요구한다. 이와 함께 GPU와 함께 NPU에 대한 관심이 커지고 있다.

NPU는 AI 추론 전용 가속기로 저전력, 저비용 등 고효율 특성으로 GPU의 단점을 보완하는 AI 인프라 옵션으로 주목받고 있다. 다만 제조사와 제품에 따라 지원하는 AI 모델과 목표 워크로드가 다르므로, 서비스 특성과 구축 환경에 맞는 제품 선정이 필요하다.

HS효성인포메이션시스템은 퀄컴, 퓨리오사 AI, 딥엑스, 모빌린트 등 국내외 주요 NPU 기업과 협업해 고객 환경에 적합한 인프라를 제공한다. 제품 카탈로그상의 성능뿐 아니라 AI 모델, 서비스 유형, 모델 크기, 동시 사용자 수, 응답 속도, 데이터센터의 전력 및 공간 조건을 종합적으로 분석해 적합한 NPU 후보를 제안한다.

또한 HS효성인포메이션시스템은 Arm 서버 ‘GreenCore’를 통해 NPU의 특성을 극대화하는 옵션을 제공한다. 엑세스랩과 공동개발한 GreenCore는 저전력·저발열 특성과 매니코어 병렬처리 효율을 갖춘 Arm 아키텍처 기반 서버 제품군이다. 이는 제한된 전력과 냉각, 랙 공간 조건의 데이터센터와 온프레미스 AI 서비스를 준비하는 기업 및 기관에 적합하다.

선정한 NPU를 GreenCore에 직접 탑재해 하드웨어 및 소프트웨어 호환성, AI 모델 구동, 운영 안정성을 통합 검증한다. 필요 시 AI 솔루션 기업과 연계해 실제 서비스 환경을 반영한 개념검증(PoC)을 진행해 고객의 비교·검증 부담을 줄인다.

HS효성인포메이션시스템은 워크로드 분석부터 NPU 선정, GreenCore 서버 구성, 통합 검증, AI 솔루션 연계, PoC, 구축 및 운영까지 AI 추론 인프라 전 과정을 지원한다. 앞으로 Arm 서버, GPU, NPU, 고성능 스토리지, 데이터 레이크, AIOps, AI 솔루션 파트너 생태계를 결합해 AI 도입부터 운영과 확장까지 지원하는 ‘HS효성 AI 플랫폼’ 포트폴리오를 강화할 계획이다.

양정규 대표는 “AI 경쟁력이 모델 개발을 넘어 비즈니스 환경에서의 안정적이고 효율적인 운영으로 이동하고 있다”며 “GreenCore와 다양한 NPU를 결합한 추론 인프라를 통해 고객들이 비용, 전력, 공간 제약 내에서 워크로드에 적합한 AI 서비스를 신속하게 구현할 수 있도록 지원하겠다”고 밝혔다.