삼성SDS가 엔비디아 B300 기반 GPUaaS를 국내 최초로 출시하며 AI 추론 시대에 맞춘 고성능 클라우드 인프라 경쟁에 본격 돌입했다

삼성SDS, 엔비디아 최신 ‘B300 GPUaaS’ 국내 첫 출시…AI 추론 시대 겨냥

2026년 03월 23일 굿퓨처데일리 서정원 기자

삼성SDS, 엔비디아 최신 GPU 기반 구독형 서비스 도입…AI 인프라 시장 선점
H100 대비 메모리 성능 대폭 향상…LLM 병목 해소로 기업 AI 서비스 속도 개선
서버리스·AI 학습 서비스 예고…GPUaaS 생태계 확장 본격화

삼성SDS가 엔비디아의 최신 GPU ‘B300(블랙웰 울트라)’를 기반으로 한 GPU 구독형 서비스(GPUaaS)를 국내 최초로 출시하며 기업용 AI 인프라 시장 선점에 나섰다. 생성형 AI 확산 이후 ‘모델 개발’에서 ‘실제 서비스 적용’ 단계로 빠르게 이동하는 산업 흐름에 대응한 전략적 행보다.

이번 ‘B300 GPUaaS’는 삼성SDS의 클라우드 플랫폼(SCP)을 통해 제공된다. 해당 GPU는 12단 HBM3E(고대역폭 메모리)를 탑재해 GPU당 288GB 메모리와 초당 8TB의 데이터 처리 대역폭을 제공한다. 이는 기존 NVIDIA H100 대비 메모리 용량은 약 3.6배, 대역폭은 2.4배 향상된 수준으로, 대규모언어모델(LLM) 구동 시 발생하는 데이터 병목 현상을 크게 줄인 것이 핵심이다.

이 같은 성능 개선은 최근 기업들이 집중하고 있는 ‘AI 추론(Inference)’ 영역에서 특히 중요하다. AI 모델을 실제 서비스에 적용하는 단계에서는 응답 속도와 처리 효율성이 핵심 경쟁력으로 작용하기 때문이다. 삼성SDS는 B300 GPUaaS를 통해 AI 에이전트, 이미지·영상 생성, 코드 분석 등 고성능 연산이 필요한 서비스의 지연 시간을 최소화할 수 있다고 설명했다.

비즈니스 모델 측면에서도 변화가 뚜렷하다. GPUaaS는 필요한 만큼만 사용하고 비용을 지불하는 구독형 구조로, 기업의 초기 인프라 투자 부담을 크게 낮춘다. 특히 글로벌 GPU 수급이 여전히 불안정한 상황에서 최신 GPU를 즉시 활용할 수 있다는 점은 기업 고객에게 중요한 경쟁력으로 평가된다. 여기에 삼성SDS의 보안 역량이 결합된 클라우드 환경을 통해 민감한 데이터를 안정적으로 처리할 수 있는 것도 강점이다.

삼성SDS는 GPUaaS를 단순 인프라 제공을 넘어 AI 서비스 플랫폼으로 확장할 계획이다. 올해 3분기에는 별도의 인프라 비용 없이 사용량 기반으로 과금하는 ‘서버리스 추론 서비스’와, 코드와 데이터를 입력하면 자동으로 분산 학습을 수행하는 ‘AI 학습 서비스’를 추가로 선보일 예정이다. 이는 AI 도입 장벽을 낮추고 개발 생산성을 높이는 방향으로 클라우드 서비스가 진화하고 있음을 보여준다.

최근 글로벌 클라우드 기업들이 GPU 인프라 확보 경쟁을 벌이는 가운데, 삼성SDS의 이번 행보는 국내 기업의 AI 전환(AX)을 가속화하는 촉매 역할을 할 것으로 보인다. 특히 반도체, 제조, 금융 등 데이터 집약 산업에서 고성능 AI 활용이 확대되는 흐름과 맞물리며 GPUaaS 시장은 빠르게 성장할 전망이다.

업계에서는 향후 AI 경쟁력이 ‘모델 성능’뿐 아니라 ‘인프라 접근성과 운영 효율성’으로 이동하고 있다는 점에서, 이번 B300 GPUaaS 출시를 국내 AI 산업 구조 전환의 중요한 신호로 해석하고 있다.

더 좋은 미래를 위한 콘텐츠 플랫폼 – <굿퓨처데일리>