AI 탐지·분석모델 현장 적용…피해영상물 신속 삭제·차단 지원
탐지 정확도 76%→93% 향상…재유포 방지·피해자 보호 연계 강화
 |
| ▲AI 딥페이크 탐지모델 화면(출처: 성평등가족부) |
정부가 생성형 인공지능(AI)을 악용한 딥페이크 성범죄에 대응하기 위해 AI 기반 탐지 기술을 현장에 본격 도입한다. 피해 영상물을 AI로 신속하게 찾아 삭제·차단하고, 피해자 보호까지 이어지는 범정부 대응체계를 구축한다는 계획이다.
행정안전부와 성평등가족부, 방송미디어통신위원회는 25일 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 체결했다. 협약에 따라 행정안전부가 개발한 'AI 딥페이크 탐지·분석모델'을 관계기관이 공동 활용해 피해영상물 탐지와 삭제·차단, 재유포 방지, 피해자 지원까지 연계하는 협력체계를 운영한다.
이번 협약은 생성형 AI 기술 발전으로 딥페이크 성범죄가 갈수록 정교해지고, 피해 영상물이 온라인을 통해 빠르게 확산되는 상황에 대응하기 위해 마련됐다.
세 기관은 AI 딥페이크 탐지·분석모델 공유와 활용, 피해영상물 탐지·삭제·차단 절차 연계, 정보보호와 보안조치, 온라인 플랫폼과의 협력 등을 함께 추진한다. 행정안전부는 AI 탐지모델의 성능 개선과 기술지원을 담당하고, 성평등가족부는 피해영상물 분석과 삭제, 피해자 지원기관 연계를 맡는다. 방송미디어통신위원회는 온라인 플랫폼 사업자와 협력해 불법 콘텐츠 삭제와 차단, 재유포 방지를 지원한다. 협약에는 관계기관과 경찰청, 국립과학수사연구원 등과의 협력도 포함됐다.
정부는 피해영상물이나 의심 콘텐츠가 접수되면 AI 탐지·분석모델로 1차 분석을 실시한 뒤 그 결과를 삭제·차단과 피해자 지원 절차에 연계해 신속히 대응할 계획이다. 처리 과정에서는 개인정보와 피해자 인권 보호를 최우선으로 고려하고, 자료의 복제·공유·보관을 최소화하는 등 보안관리 기준도 강화한다. 협약은 체결일부터 1년간 유효하며, 종료 의사 표시가 없으면 1년씩 자동 연장된다.
이번에 활용되는 AI 탐지모델은 행정안전부와 국립과학수사연구원이 2024년 공동 개발한 기술을 기반으로 한다. 이어 올해 '딥페이크 AI 탐지모델 경진대회'를 통해 새롭게 발굴한 우수모델을 반영해 성능을 개선했다. 5개 분석 알고리즘을 결합한 앙상블 시스템을 적용한 결과 탐지 정확도는 기존 76%에서 93% 수준으로 향상됐다. 독일 연방수사청이 제공한 32개 샘플을 기준으로 성능을 검증했다.
딥페이크 성범죄는 AI 기술 발전과 함께 영상 합성 수준이 높아지고 유포 속도도 빨라지면서 기존 인력 중심 대응만으로는 한계가 있다는 지적이 이어져 왔다. 특히 삭제 이후에도 변형·재유포가 반복되는 사례가 적지 않아 신속한 탐지와 기관 간 정보 공유의 중요성이 커지고 있다.
정부는 앞으로 AI 탐지기술의 현장 활용도를 높이는 한편 공동 대응 성과를 지속적으로 점검할 계획이다.
윤호중 행정안전부 장관은 "딥페이크 성범죄는 피해 확산 속도가 빠르고 재유포에 따른 2차 피해 우려가 큰 만큼 관계기관 간 신속한 공동 대응이 무엇보다 중요하다"며 "AI 탐지·분석모델을 관계기관과 공유해 탐지부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력체계를 강화하겠다"고 말했다.
피앤피뉴스 / 서광석 기자 gosiweek@gmail.com
[저작권자ⓒ 피앤피뉴스. 무단전재-재배포 금지]
