국산 모델만으론 AI 주권 못 지킨다…‘소버린 AI 2.0’의 조건

• 최종현학술원·서울대, 모델 보유 넘어 ‘접근·운용 주권’ 중심 전략 제안
• 특정 클라우드·AI 중단돼도 핵심 기능 이어갈 다중화·전환·복구 체계 필요
• 반도체·데이터센터 강점에 에이전트 플랫폼·보안·국제규범 역량 더해야

국가가 자체 인공지능(AI) 모델 하나를 개발하면 ‘소버린 AI’, 즉 AI 주권을 확보한 것으로 볼 수 있을까. AI가 질문에 답하는 도구를 넘어 스스로 판단하고 외부 시스템을 조작하는 에이전트로 진화하면서 AI 주권의 기준도 ‘무엇을 보유했는가’에서 ‘위기에도 무엇을 계속 운용할 수 있는가’로 바뀌어야 한다는 주장이 제기됐다.

최종현학술원과 서울대학교 미래전연구센터가 발간한 ‘보유에서 운용으로: 에이전트 AI 시대의 국가안보와 소버린 AI 2.0’ 보고서는 독자적인 파운데이션 모델 확보에 집중했던 기존 전략을 접근 주권과 운용 주권 중심으로 확장해야 한다고 제안했다.

접근 주권은 국가와 기업이 업무에 필요한 AI 모델과 클라우드, 반도체, 데이터 등의 기술 자원을 안정적으로 이용할 수 있는 능력이다. 운용 주권은 특정 국가나 기업이 모델과 서비스를 차단하거나 시스템 장애가 발생하더라도 다른 체계로 신속하게 전환해 국가 핵심 기능을 중단 없이 유지하는 능력을 뜻한다.

소버린 AI 1.0이 ‘우리 모델을 갖자’는 기술 자립 전략이었다면 소버린 AI 2.0은 ‘어떤 상황에서도 AI 기능을 지속하자’는 국가 회복력 전략에 가깝다. 에너지 안보가 국내에서 모든 석유와 가스를 생산하는 것을 의미하지 않고, 금융 안보가 모든 결제 기술을 자체 개발하는 것을 뜻하지 않는 것과 같은 맥락이다. 중요한 것은 완전한 고립이 아니라 공급 중단에 대비한 다변화와 대체 능력이다.

이 관점에서 보면 국산 AI 모델을 보유하고 있다는 사실만으로는 주권을 확보했다고 단정하기 어렵다. 모델이 해외 기업의 그래픽처리장치와 클라우드에서만 작동하고, 외국산 개발 도구와 폐쇄형 데이터베이스에 의존하며, 서비스 장애 때 옮겨갈 대체 환경이 없다면 실질적인 운용 권한은 외부 공급자가 쥐고 있을 수 있다.

반대로 해외 AI 모델을 사용하더라도 데이터 통제권을 국내에 두고 복수의 모델과 클라우드를 선택할 수 있으며, 공급이 중단됐을 때 국산 모델이나 다른 서비스로 전환할 수 있다면 운용 주권은 더 강할 수 있다. AI 주권을 기업의 국적이 아니라 전환 가능성, 통제 가능성, 복구 능력으로 판단해야 한다는 의미다.

이러한 변화는 에이전트 AI의 등장으로 더욱 중요해졌다. 기존 생성형 AI는 이용자의 질문에 답하거나 문서 초안을 만드는 데 주로 활용됐다. 에이전트 AI는 목표를 부여받으면 필요한 자료를 찾고, 다른 프로그램을 실행하고, 이메일을 보내거나 계약·결제·물류 시스템과 연결해 여러 단계의 업무를 수행한다.

AI가 행동할 수 있는 권한을 갖게 되면서 모델 자체의 성능보다 모델을 둘러싼 운용체계가 중요해지고 있다. 이를 ‘하네스’라고 부른다. 하네스에는 외부 도구 연결, 기억 관리, 사용자 인증, 권한 설정, 결과 검증, 오류 복구, 안전장치, 작업 기록 등이 포함된다. 같은 AI 모델을 사용하더라도 어떤 하네스와 결합하느냐에 따라 신뢰성과 보안 수준은 크게 달라진다.

특히 에이전트가 장시간 복잡한 업무를 수행하면 작은 판단 오류가 연쇄적으로 누적될 수 있다. AI가 잘못된 문장을 한 줄 작성하는 것과 잘못된 판단으로 행정자료를 수정하거나 자금을 집행하는 것은 위험의 차원이 다르다. 이메일과 결제, 주민정보, 의료·교통 시스템에 접근할 수 있는 에이전트가 공격받으면 하나의 계정 침해가 국가 기반시설의 연쇄 장애로 이어질 가능성도 있다.

따라서 공공·금융·의료·국방 분야에 에이전트 AI를 도입할 때는 업무 단계별 확인 지점과 권한 한도를 마련해야 한다. 중요한 거래에는 사람의 승인을 의무화하고, 에이전트를 격리된 환경에서 실행하며, 이상 행동이 발생하면 즉시 작동을 멈추는 비상정지 장치도 갖춰야 한다. 모든 작업 과정이 조작할 수 없는 기록으로 남아야 사고 원인과 책임도 규명할 수 있다.

국가 AI 전략에는 시스템의 중요도에 따른 차등 설계도 필요하다. 일반 행정과 민원 안내에는 상용 AI와 민간 클라우드를 폭넓게 활용할 수 있다. 다만 계약 종료나 가격 인상에 대비해 데이터와 업무를 다른 서비스로 옮길 수 있는 표준을 마련해야 한다.

복지·세금·의료처럼 민감한 개인정보를 처리하는 분야에는 국내 데이터 저장과 복수 공급자 체계, 엄격한 접근통제가 요구된다. 국방·정보·원전·전력망 등 국가안보와 직결되는 분야는 인터넷과 분리된 자체 운용 환경과 오프라인 대체 체계까지 확보해야 한다.

정부 조달 방식도 달라져야 한다. 특정 기업의 모델을 구매하는 데서 그치지 않고 다른 모델로 얼마나 빨리 전환할 수 있는지, 데이터와 작업 기록을 표준 형식으로 내보낼 수 있는지, 장애 발생 시 핵심 기능을 몇 시간 안에 복구할 수 있는지를 계약 조건에 포함해야 한다.

AI 주권을 평가하는 지표 역시 모델의 벤치마크 점수나 매개변수 규모에서 벗어날 필요가 있다. 국가 핵심 AI 업무 가운데 복수 모델로 전환할 수 있는 비율, 공급자 중단 이후 복구에 걸리는 시간, 국내에서 통제되는 데이터의 범위, 에이전트 행동을 추적·감사할 수 있는 수준, 사이버 공격 발생 시 피해를 격리할 수 있는 능력 등이 새로운 평가 기준이 될 수 있다.

전국에 AI 데이터센터를 건설하는 것만으로 운용 주권이 확보되는 것도 아니다. 데이터센터가 국내에 있더라도 핵심 가속기와 클라우드 제어체계, AI 모델, 에이전트 플랫폼을 해외 기업에 의존한다면 국내에는 전력 소비와 건물만 남고 기술 지식과 부가가치는 외부로 빠져나갈 수 있다.

한국은 고대역폭메모리(HBM)를 비롯한 메모리 반도체, 첨단 제조, 통신망, 산업 데이터에서 강점을 갖고 있다. 이를 단순히 글로벌 AI 기업에 부품과 시설을 공급하는 데 그치지 않고 모델·클라우드·에이전트 서비스의 설계 과정에 참여하기 위한 협상력으로 활용해야 한다.

반도체와 데이터센터를 제공하는 대신 최신 AI 모델에 대한 안정적인 접근권과 공동 연구, 국내 인재 양성, 기술 이전, 서비스 운영 경험을 확보하는 방식이다. 미국·일본·유럽 등과의 AI 협력에서도 공급망 참여와 시장 개방뿐 아니라 위기 시 컴퓨팅 자원과 AI 서비스를 상호 지원하는 체계를 논의할 필요가 있다.

모든 분야에서 세계 최고 수준의 AI 기술을 독자 개발하겠다는 목표는 현실성과 효율성이 떨어질 수 있다. 막대한 비용을 들여 해외 모델과 비슷한 범용 모델을 반복해서 만드는 것보다 제조·헬스케어·문화 콘텐츠·재난 대응·고령화 등 한국이 강점이나 절박한 수요를 가진 분야에 집중하는 전략이 필요하다.

제조업 현장의 설비와 공정 데이터를 활용한 산업 에이전트, 한국어 의료정보를 안전하게 처리하는 헬스케어 AI, 창작자의 권리를 보호하면서 문화 콘텐츠의 해외 진출을 돕는 서비스처럼 구체적인 산업 문제를 해결해야 국내에 기술과 수익이 축적될 수 있다.

소버린 AI라는 이름이 시장을 닫거나 특정 국내 기업을 보호하는 명분으로 활용돼서도 안 된다. 해외 기술과의 경쟁을 차단하면 국내 이용자는 더 비싼 비용으로 낮은 성능의 서비스를 사용하게 되고, 국내 기업도 세계적인 기술 발전에서 고립될 수 있다. 필요한 것은 폐쇄적인 자급자족이 아니라 세계 생태계와 연결되면서도 한 기업과 한 국가에 종속되지 않는 구조다.

정부가 우선 해야 할 일은 국가 핵심 업무의 AI 의존 관계를 지도처럼 파악하는 것이다. 어떤 반도체와 클라우드, 모델, 데이터, 소프트웨어에 의존하는지 확인하고 하나의 공급이 끊어졌을 때 영향을 받는 서비스를 찾아야 한다.

이후 복수 모델·복수 클라우드 조달 원칙과 데이터 이동 표준을 마련하고, 실제 공급 중단을 가정한 국가 AI 연속성 훈련을 정기적으로 실시해야 한다. 국내 기업에는 거대 모델 개발뿐 아니라 에이전트 하네스, 보안, 감사, 모델 전환, 오류 복구처럼 운용 주권을 구성하는 기반 소프트웨어 개발 기회를 제공할 필요가 있다.

AI가 국가안보의 핵심 자산이 되는 시대에는 가장 뛰어난 모델을 하나 갖는 것보다 필요할 때 원하는 기술을 선택하고, 위기에는 신속히 교체하며, 사고가 나면 안전하게 복구할 수 있는 능력이 더 중요하다. 소버린 AI 2.0의 본질은 국산이라는 표시가 아니라 국가와 시민이 AI의 작동 조건과 최종 통제권을 쥐고 있는가에 있다.

더 좋은 미래를 위한 콘텐츠 플랫폼 – <굿퓨처데일리>