KT, ‘토큰팩토리’ 30일 출시…AI 모델 선택부터 비용 관리까지 한곳에

• 초기 73종 제공 후 오픈라우터 연계 확대…내년 3월 개인·개발자로 대상 확장
• 업무별 모델 자동 선택·입력 압축 적용…기업 AI 운영 효율 겨냥

KT가 여러 인공지능(AI) 모델을 한곳에서 이용하고 사용량과 비용을 관리하는 플랫폼을 선보인다. 기업이 업무별로 필요한 AI를 연결하는 데서 나아가 이용료와 보안까지 함께 관리하도록 지원하는 사업이다.

KT는 27일 서울 종로구 광화문 웨스트빌딩에서 기자간담회를 열고 ‘KT 토큰팩토리’를 오는 30일 기업 고객 대상으로 출시한다고 밝혔다. 출시 초기에는 국내외 AI 모델 73종을 제공하고, 11월 글로벌 AI 모델 유통 플랫폼 오픈라우터와 연계해 이용 가능한 모델을 500종 이상으로 확대할 계획이다.

기업 고객은 하나의 플랫폼에서 모델을 선택하고 이용 현황을 확인하며 결제까지 처리할 수 있다. 문서 요약, 자료 분석, 프로그램 개발 등 업무마다 다른 모델을 활용할 때 발생하는 관리 부담을 줄이는 구조다. 서비스 대상은 내년 3월 개인과 개발자로 넓히고 구독형 요금제도 도입할 예정이다.

비용 절감을 위해서는 질문의 업무 유형과 난도, 요구 품질 등을 분석해 적합한 모델을 연결하는 자동 선택 기술을 적용했다. 한국어 특성을 고려해 입력 문장의 불필요한 반복 표현을 줄이는 압축 기술도 활용한다. KT는 이를 통해 토큰 사용을 최대 25% 절감할 수 있다고 설명했다. 토큰은 AI가 입력과 답변을 처리하는 기본 단위로, 사용량은 이용 비용에 영향을 준다.

출시 모델 가운데 7종은 KT의 국내 데이터센터에서 추론 서비스를 제공한다. 다만 오픈라우터 등을 통해 연결하는 글로벌 모델은 사업자에 따라 해외 서버에서 처리될 수 있다. KT는 모델별 제공 사업자와 운영 지역 정보를 공개할 방침이다. 금융·공공 분야에는 국내 추론 모델과 별도 보안 환경을 중심으로 공급을 추진한다.

요금은 사용량에 따라 지불하는 방식과 이용 규모·약정 기간에 따라 할인받는 기업용 방식으로 구성된다. KT는 외부 모델을 연결하는 중개뿐 아니라 자체 데이터센터의 그래픽처리장치(GPU)를 활용한 AI 추론을 주요 수익원으로 키운다는 구상이다.

이번 서비스는 기업의 AI 도입 이후 운영 문제가 중요해지고 있음을 보여준다. 여러 부서가 서로 다른 AI를 쓰기 시작하면 구독료와 사용량을 파악하기 어려워지고, 데이터 처리 위치도 복잡해질 수 있기 때문이다. 기업 입장에서는 모델 수보다 실제 업무의 정확도, 처리 시간, 전체 이용 비용을 함께 비교하는 것이 중요하다.

자동으로 저렴한 모델을 선택하더라도 재작업이 늘면 비용 절감 효과는 줄어든다. 토큰팩토리의 경쟁력 역시 연결 가능한 모델의 규모와 함께 업무 품질을 유지하면서 관리 부담을 얼마나 낮추는지에 따라 평가받을 전망이다.

더 좋은 미래를 위한 콘텐츠 플랫폼 – <굿퓨처데일리>