딥브레인AI, 딥페이크 탐지 API 공식 출시…외부 기관도 손쉽게 활용

• 추가 시스템 구축 없이 영상·이미지·음성 조작 여부 즉시 검증
• 업로드 단계 자동 감지·게시 후 실시간 모니터링까지 지원
• 유해 콘텐츠 블러 처리 기능으로 온라인 피해 확산 예방

생성형 AI 기술 확산 속에서 딥페이크에 대한 우려가 높아지는 가운데, 딥브레인AI가 외부 기업·기관도 손쉽게 활용할 수 있는 딥페이크 탐지 API 서비스를 공식 출시했다. 이번 서비스는 문화체육관광부와 한국콘텐츠진흥원이 주관한 문화기술 연구개발 사업의 성과물로, 기존 자사 플랫폼 내부에서만 제공되던 탐지 기능을 개방형 API 형태로 확장한 것이 특징이다.

새롭게 공개된 ‘AI 디텍터’ API는 영상·이미지·음성 등 다양한 형태의 콘텐츠를 분석해 얼굴 생성, 얼굴 맞바꾸기, 립싱크 합성 등 여러 유형의 합성 조작물을 탐지한다. 특히 픽셀 단위의 미세 변형까지 감지하는 고도화된 분석 기술이 적용돼 콘텐츠 진위 여부 판단의 정확도를 높였다. 이 기술은 이미 국내 관공서 대상 상용화 사례를 확보했고, 온라인 플랫폼에서도 높은 검증 만족도를 기록하고 있다.

기업과 기관은 별도의 시스템을 새로 구축할 필요 없이 API를 연동하는 것만으로 딥페이크 탐지 기능을 사용할 수 있다. 이는 미디어 플랫폼, 공공기관, 정보 검증 서비스 등에서 비용과 시간을 대폭 절감하면서도 콘텐츠 신뢰도를 높일 수 있다는 점에서 의미가 크다. 실제로 콘텐츠 업로드 단계부터 영상·이미지의 조작 여부를 자동 검증해 불법 합성물 확산을 사전에 차단하며, 게시 이후에도 실시간 모니터링으로 의심 콘텐츠를 즉시 탐지해 대응할 수 있도록 설계됐다.

유해 콘텐츠 차단 기능 역시 강화됐다. 특히 불법 성인물이나 신체 노출 이미지의 경우 자동 블러 처리 기능을 적용해 피해를 즉각 줄일 수 있도록 지원한다. 이는 최근 국내외 플랫폼에서 딥페이크 기반 불법물 생성이 증가하는 가운데, 2차 피해를 예방하는 중요한 안전장치로 평가된다.

딥브레인AI는 이번 기술 개방을 통해 AI 진위 검증 생태계가 더욱 빠르게 확장될 것으로 기대하고 있다. 영상 편집·미디어 제작 분야는 물론, 공공 정보 검증, 보안, 교육 플랫폼 등 다양한 산업에서도 활용성이 커질 전망이다. 장세영 대표는 “딥페이크 확산 속에서 콘텐츠 진위 판단은 필수적인 시대적 과제가 됐다”며 “누구나 안전하게 디지털 콘텐츠를 이용할 수 있는 환경을 만들기 위해 신뢰 가능한 기술 개발을 이어가겠다”고 강조했다.

최근 글로벌 IT 기업들도 AI·딥페이크 검증 기능 확대에 속도를 내고 있으며, 각국 정부도 디지털 진위 검증 기술의 도입을 추진하고 있다. 이러한 흐름 속에서 국내 기업인 딥브레인AI가 API 형태로 기술을 개방한 것은 민간·공공 분야의 콘텐츠 신뢰 인프라 구축에 중요한 전환점이 될 전망이다.

더 좋은 미래를 위한 콘텐츠 플랫폼 – <굿퓨처데일리>