SKT·Arm·리벨리온, ‘CPU+NPU’ 결합으로 AI 데이터센터 판 바꾼다

• AI 패러다임 ‘학습→추론’ 전환…저전력·고효율 인프라 경쟁 본격화
• Arm CPU와 리벨리온 NPU 결합…GPU 대체 가능한 서버 구조 실험
• SKT AIDC 실증 및 자체 AI 모델 A.X K1 적용 검토로 풀스택 경쟁력 강화

SK텔레콤이 글로벌 반도체 설계 기업 Arm, 국내 AI 반도체 스타트업 리벨리온과 손잡고 차세대 AI 데이터센터(AIDC) 인프라 구축에 나섰다. 단순 협력을 넘어 AI 서버 구조 자체를 바꾸려는 시도로, 향후 AI 산업의 핵심 경쟁 축이 될 ‘추론(Inference) 시장’을 겨냥한 전략적 행보로 해석된다.

3사는 Arm의 차세대 데이터센터용 ‘Arm AGI CPU’와 리벨리온의 AI 추론 전용 칩 ‘리벨카드’를 하나의 서버에 결합한 새로운 형태의 AI 서버 솔루션을 공동 개발하고, SK텔레콤의 AI 데이터센터에서 실증에 나설 계획이다. CPU가 데이터 처리와 시스템 운영을 맡고, NPU가 AI 추론을 전담하는 구조다.

이번 협력의 본질은 AI 산업의 구조적 변화에 있다. 그동안 AI 경쟁력은 대규모 모델을 학습시키는 ‘트레이닝’ 중심이었지만, 최근에는 실제 서비스를 운영하는 ‘추론’ 단계로 무게 중심이 이동하고 있다. 생성형 AI의 상용화가 확산되면서, 얼마나 빠르고 저렴하게, 그리고 안정적으로 AI 서비스를 제공할 수 있는지가 핵심 경쟁력으로 떠오른 것이다.

특히 추론은 365일 실시간으로 작동해야 하는 특성상 전력 효율이 비용과 직결된다. 기존 GPU 기반 구조는 높은 성능을 제공하지만 전력 소모와 비용 부담이 크다는 한계를 지닌다. 이에 따라 업계는 추론에 특화된 NPU를 중심으로 한 새로운 아키텍처 전환을 모색하고 있다.

CPU와 NPU를 결합한 ‘이종 컴퓨팅’ 구조는 이러한 흐름 속에서 등장했다. 실제 AI 서비스는 단순 연산 외에도 데이터 입출력, 네트워크 통신, 메모리 관리 등 다양한 작업이 동시에 수행된다. CPU가 전체 시스템을 제어하고 NPU가 AI 연산을 담당하는 방식은 성능과 효율을 동시에 확보할 수 있는 현실적인 대안으로 평가된다.

Arm AGI CPU는 Arm이 처음으로 직접 생산에 나선 데이터센터용 프로세서로, AI 추론 환경에 최적화된 것이 특징이다. 리벨리온의 리벨카드는 대규모 AI 서비스에 특화된 고성능 NPU로, 전력 대비 성능 효율에서 경쟁력을 갖춘 것으로 평가받는다. 양사의 기술 결합은 단순한 협업을 넘어 글로벌 AI 반도체 시장에서 새로운 표준 가능성을 제시한다는 점에서 의미가 크다.

이미 양사는 지난 3월 ‘Arm 에브리웨어’ 행사에서 해당 구조를 기반으로 GPT 계열 대형 언어모델을 활용한 AI 서비스를 실시간 시연하며 상용화 가능성을 입증한 바 있다. 이는 CPU+NPU 구조가 단순 실험 단계가 아니라 실제 데이터센터 적용이 가능한 수준에 도달했음을 보여준다.

SK텔레콤은 이 솔루션을 자사 AI 데이터센터에 적용해 성능과 안정성을 검증하는 한편, 자체 개발한 AI 파운데이션 모델 ‘A.X K1’ 운영에도 활용하는 방안을 검토 중이다. 이를 통해 인프라부터 모델까지 아우르는 ‘풀 패키지 AI 사업자’로의 진화를 가속화한다는 전략이다.

이번 협력은 글로벌 AI 인프라 경쟁 구도에서도 중요한 의미를 갖는다. 현재 시장은 GPU 중심의 특정 기업 의존도가 높은 구조인데, CPU+NPU 기반 대안이 현실화될 경우 공급망 다변화와 비용 절감 효과를 동시에 가져올 수 있다. 특히 국가 단위 AI 경쟁이 심화되는 상황에서, 독자적인 AI 반도체 생태계 구축은 전략적 자산으로 부상하고 있다.

결국 이번 프로젝트는 단순한 기술 협력을 넘어 AI 데이터센터의 ‘전력 효율 혁명’을 겨냥한 실험이다. AI 서비스가 일상 인프라로 자리 잡는 시대, 누가 더 효율적으로 AI를 운영하느냐가 시장의 승패를 가를 핵심 변수가 될 전망이다.

더 좋은 미래를 위한 콘텐츠 플랫폼 – <굿퓨처데일리>