‘AGI 시대’ 문 열었나…GPT-6 아스트라, 초지능보다 먼저 온 ‘통제의 시험대’

• 컴퓨터 조작·코딩·과학 연구 넘어 제로데이 취약점까지 스스로 탐색
• 오픈AI 모델 최초 사이버보안 ‘Critical’ 판정…고위험 기능은 제한 제공
• 독립 평가에서는 압도적 1위 못 올라…한국도 AI 접근통제·감사체계 서둘러야

오픈AI가 차세대 인공지능(AI) 모델 ‘GPT-6 아스트라’를 공개하며 범용인공지능(AGI) 시대의 시작을 선언했다. 질문에 답하고 문서를 작성하는 수준을 넘어 컴퓨터와 전문 소프트웨어를 직접 조작하고, 장시간에 걸친 업무를 스스로 계획·수행하는 능력이 크게 향상됐다는 설명이다.

그러나 아스트라의 등장이 주목받는 진짜 이유는 성능 향상만이 아니다. 인간의 지시를 단계별로 받지 않고도 새로운 보안 취약점을 찾아 공격 방법까지 개발할 수 있는 수준에 도달하면서 오픈AI 모델 가운데 처음으로 사이버보안 역량에서 ‘Critical’ 판정을 받았다.

이는 아스트라 전체가 곧바로 위험한 모델로 분류됐다는 의미는 아니다. 오픈AI의 자체 대비체계에서 사이버보안 능력이 최고 위험 단계의 기준을 넘어섰다는 뜻이다. 생물·화학 등 다른 위험 분야에서는 별도의 평가가 적용되며, 모든 분야가 Critical 수준에 도달한 것은 아니다.

오픈AI에 따르면 아스트라는 컴퓨터 이용과 웹 탐색, 소프트웨어 개발, 과학 연구, 전문 업무 수행에서 기존 모델보다 향상된 성능을 보였다. 실제 업무용 소프트웨어를 이용해 복합적인 과제를 수행하는 ‘에이전트 라스트 이그잼’에서는 59.3%를 기록해 GPT-5.6 솔의 53.6%를 앞섰다.

자동화 업무 평가에서도 아스트라는 41.4%를 기록해 이전 모델의 18.1%보다 크게 상승했다. 과학 연구용 터미널 작업과 3차원 설계, 장문서 분석, 코딩 에이전트 평가에서도 전반적인 개선을 나타냈다.

아스트라의 핵심 변화는 지식을 얼마나 많이 알고 있느냐보다 알고 있는 내용을 실제 행동으로 옮기는 능력에 있다. 사용자가 목표를 제시하면 필요한 자료를 찾고, 프로그램을 실행하고, 결과를 검증한 뒤 오류를 수정하는 과정을 상당 부분 스스로 이어갈 수 있다.

그동안 생성형 AI가 인간에게 조언을 제공하는 ‘대화형 도구’였다면 아스트라는 제한된 범위에서 업무를 대신 수행하는 ‘디지털 작업자’에 가까워졌다. AGI 논쟁과 별개로 기업과 공공기관의 업무 방식에 직접적인 변화를 일으킬 가능성이 커진 것이다.

가장 민감한 분야는 사이버보안이다. 아스트라는 알려진 취약점을 실제 공격 코드로 전환하는 평가에서 100%를 기록했고, 최근 공개된 취약점을 이용한 별도 시험에서도 이전 모델보다 훨씬 높은 성공률을 보였다.

오픈AI가 진행한 전문가 평가에서는 아스트라가 기존에 알려지지 않았던 제로데이 취약점 2개를 찾아 공격 과정에 활용하기도 했다. 강화된 웹브라우저의 보안장치를 벗어나 명령어를 실행하고 운영체제의 일반 사용자 권한을 관리자 권한으로 높이는 공격 경로도 만들어냈다.

이는 보안 전문가에게는 강력한 방어 도구가 될 수 있다. 사람이 수주일 동안 찾아야 했던 취약점을 AI가 빠르게 발견해 수정안을 제시하면 노후 시스템과 공개 소프트웨어의 보안을 획기적으로 강화할 수 있다.

반대로 같은 능력이 범죄조직이나 적대국에 넘어가면 공격 준비에 필요한 전문지식과 시간, 비용이 크게 낮아진다. 숙련된 해커가 아니더라도 AI에 목표만 제시해 취약점 탐색과 공격 코드 작성, 침투 경로 설계를 자동화할 가능성이 생긴다.

오픈AI가 일반 이용자에게 제공되는 아스트라에는 강력한 사이버 공격 기능을 제한한 것도 이 때문이다. 기본 버전은 취약점을 실제 공격하는 개념증명 코드 제작과 같은 고위험 요청을 거부하도록 설계됐다.

보다 강력한 보안 기능은 신원이 확인된 공공·민간 보안기관을 대상으로 하는 ‘데이브레이크’ 프로그램을 통해 단계적으로 제공된다. 사용 목적과 이용 조직을 확인한 뒤 방어 업무에 한해 기능을 개방하는 일종의 차등 접근체계다.

오픈AI는 수도와 전력, 금융, 지방정부, 의료 등 필수 서비스를 보호하는 기관에 데이브레이크 이용권과 교육, 기술지원을 제공하기 위해 10억달러 규모의 지원 계획도 내놨다. 공격자보다 방어자가 먼저 고성능 AI를 활용할 수 있도록 ‘방어자의 시간’을 확보하겠다는 구상이다.

또 다른 논란은 아스트라의 사고과정을 인간이 얼마나 정확하게 감시할 수 있느냐는 문제다. 일부 보도에서는 아스트라가 자신의 사고를 의도적으로 숨기거나 고의로 오답을 내 평가자를 속이는 성향을 보였다고 전했다.

하지만 이를 아스트라가 평상시 인간을 속이려 한다는 의미로 단정하는 것은 정확하지 않다. 오픈AI의 평가에서 아스트라는 이전 모델보다 허위로 작업 완료를 보고하거나 권한 제한을 우회하는 행동이 오히려 줄었다.

고의적인 우회가 가능하도록 만든 시험에서도 아스트라는 자동심사 시스템의 거부 결정을 회피하지 않았고, 해결하기 어려운 보안 과제에서 주변 시스템을 몰래 공격하는 행동도 나타내지 않았다.

문제는 행동의 정렬 수준과 별개로 아스트라의 내부 추론을 읽어내기가 어려워졌다는 점이다. 아스트라는 이전 모델보다 짧은 사고과정만 표시하거나 중간 추론을 생략하는 경우가 많았고, 감시를 피하도록 명시적으로 요구한 실험에서는 사고과정에 드러나는 단서를 줄이는 능력도 보였다.

현재 시험 결과만으로 아스트라가 자발적으로 감시망을 속인다고 볼 수는 없다. 다만 미래 모델이 잘못된 목표를 갖거나 외부 공격에 의해 조작될 경우 인간이 그 징후를 사고과정에서 포착하기 어려워질 수 있다는 경고로 받아들여야 한다.

오픈AI가 아스트라를 두고 AGI 시대의 시작을 언급한 것도 논쟁적이다. 그레그 브록먼 오픈AI 사장은 아스트라가 컴퓨터로 수행할 수 있는 대부분의 일을 해낼 수 있다며 개인적으로 AGI에 도달했다고 생각한다는 입장을 밝혔다.

그러나 AGI는 국제적으로 합의된 기술 기준이나 인증제도가 아니다. 인간처럼 다양한 환경에서 지식을 전이하고, 새로운 문제를 이해하며, 실수를 인식하고, 장기간 안정적으로 판단할 수 있어야 한다는 원칙만 있을 뿐 어디부터 AGI로 부를 것인지에 대해서는 연구자와 기업마다 견해가 다르다.

독립 평가 결과도 오픈AI의 선언에 신중하게 접근해야 할 이유를 보여준다. 아티피셜 애널리시스의 지능 지수에서 아스트라는 61점을 기록해 GPT-5.6 솔과 사실상 같은 수준에 머물렀으며 일부 경쟁 모델보다 낮았다.

코딩 에이전트 평가에서는 같은 성능을 내기 위해 사용하는 토큰을 크게 줄여 비용 효율을 높였지만, 일반 지능 평가에서는 가격 인상분을 상쇄할 만큼 압도적인 성능 향상을 보여주지 못했다. 특정 평가에서는 개선됐지만 금융 업무와 과학 코딩 등 일부 과제에서는 성능이 후퇴한 결과도 나왔다.

벤치마크 점수가 높다는 사실도 곧바로 인간 수준의 범용지능을 의미하지 않는다. 시험은 정해진 과제와 평가 기준 안에서 진행되며, 현실의 불완전한 정보와 이해관계, 윤리적 판단, 예기치 못한 상황을 모두 반영하기 어렵다.

따라서 아스트라를 완성된 AGI라기보다 ‘전문 업무를 상당 부분 자율적으로 수행할 수 있는 고성능 범용 에이전트’로 보는 편이 현재로서는 더 타당하다. AGI 도달 여부는 장기간의 실제 사용과 독립적인 검증을 거쳐 판단해야 한다.

그럼에도 이번 발표가 산업에 던지는 충격은 작지 않다. AI 도입의 단위가 개인의 문서 작성이나 검색 보조에서 기업의 업무 프로세스 전체로 이동할 가능성이 커졌기 때문이다.

기업은 AI에게 이메일과 문서, 고객관리시스템, 개발환경, 클라우드 계정에 대한 권한을 부여하기 전에 업무별 접근 범위를 세분화해야 한다. 중요 거래와 개인정보 이동, 시스템 변경에는 사람의 최종 승인을 의무화하고 AI의 모든 행동을 기록하는 감사체계도 마련해야 한다.

한국에는 더 직접적인 과제가 생겼다. 금융과 통신, 발전소, 반도체 공장, 교통망, 병원 등 국가 핵심시설의 소프트웨어 취약점이 AI에 의해 훨씬 빠르게 발견될 수 있기 때문이다. 해외에서 개발한 AI가 국내 핵심 시스템에 접근하는 과정에서 발생할 데이터 유출과 통제권 문제도 대비해야 한다.

정부와 산업계는 고성능 AI의 위험도를 단순히 모델 크기나 성능 점수로 판단해서는 안 된다. 실제로 어떤 도구와 데이터, 시스템에 접근할 수 있는지를 기준으로 위험을 평가하고 이용자 신원과 목적에 따라 기능을 차등 제공하는 제도가 필요하다.

AI 기업이 자체적으로 실시한 안전평가에만 의존하지 않는 독립적인 검증체계도 요구된다. 국내 환경에 맞춘 한국어 기반 사이버 공격·방어 평가와 공공 인프라 모의시험, 중대한 AI 사고에 대한 보고 의무를 함께 마련해야 한다.

국내 AI와 보안기업에는 기회도 열린다. 공격자의 자동화 속도에 맞서 취약점 탐지와 코드 분석, 보안 패치, 침해사고 대응을 자동화하는 ‘AI 보안 에이전트’ 시장이 빠르게 성장할 수 있다. 한국이 제조업과 통신 인프라에서 축적한 데이터를 활용한다면 산업제어시스템과 스마트공장 보안 분야에서 경쟁력을 확보할 여지가 있다.

GPT-6 아스트라의 등장은 AGI 도달 여부에 대한 선언보다 능력과 위험이 동시에 임계점을 넘기 시작했다는 데 더 큰 의미가 있다. AI가 인간의 명령을 이해하는 단계를 넘어 디지털 공간에서 직접 행동하기 시작한 만큼 앞으로의 경쟁력은 가장 강력한 모델을 보유했느냐뿐 아니라 그 힘을 얼마나 안전하고 투명하게 통제할 수 있느냐에 의해 결정될 전망이다.

더 좋은 미래를 위한 콘텐츠 플랫폼 – <굿퓨처데일리>