인공지능(AI) 활용한 딥페이크 성범죄 영상물 신속 대응, 정부 3개 기관 공동 협력 시작

 최근 생성형 AI 기술의 발전으로 딥페이크 성범죄가 더욱 지능화되고 고도화되면서, 피해 영상물이 온라인에서 급속히 확산되는 문제가 심각해지고 있습니다. 이에 행정안전부, 성평등가족부, 방송미디어통신위원회가 손잡고 AI 기술을 활용한 딥페이크 성범죄 대응 전 과정을 체계화하는 업무협약을 체결해 새로운 공동대응 체계를 본격 가동합니다.

1. 협약 취지와 배경

딥페이크 기술의 발전으로 피해 영상물이 빠르게 재유포되며 2차·3차 피해가 잇따르는 상황에서, 단순 대응을 넘어서 AI를 기반으로 한 신속 판별과 체계적 보호가 필요한 시점입니다. 이번 협약은 행정안전부, 성평등가족부, 방송미디어통신위원회가 각자의 역할을 연계해 딥페이크 영상물 탐지부터 삭제·차단, 그리고 피해자 보호까지 일괄 대응하는 시스템을 구축하는 데 목적을 두고 있습니다.

2. 역할 분담과 세부 협력 내용

행정안전부

• 국립과학수사연구원과 협력해 개발한 AI 딥페이크 탐지·분석모델을 관계기관과 공유합니다.
• 모델 고도화를 지속적으로 추진해 탐지 정확도를 높이고, 모든 관련 기관에서 활용할 수 있도록 지원합니다.

성평등가족부

• 기존 민간 딥페이크 탐지모델과 정부 AI 탐지모델을 함께 활용해 의심 영상과 피해영상물에 대한 정밀 분석을 강화합니다.
• 피해 영상물 삭제 지원 및 보안 기준 마련을 통해 피해자가 2차 피해를 겪지 않도록 보호합니다.

방송미디어통신위원회

• 온라인 플랫폼 사업자와 긴밀히 협력하여 딥페이크 성범죄 의심 콘텐츠의 유통을 차단하고 신속히 삭제·차단하는 체계를 유지합니다.
• 재유포, 변형 콘텐츠에 대해서도 긴밀한 정보 공유를 통해 신속 대응합니다.

3. AI 탐지 모델 기반 전 과정 대응체계

앞으로 피해 영상물이나 의심 콘텐츠 접수 시, AI 딥페이크 탐지·분석 모델이 첫 번째 탐지와 판단을 담당합니다. 이 결과는 관련 기관에 즉각 전달되어 삭제 및 차단 절차와 피해자 지원 과정으로 신속히 이어집니다. 이렇게 전 과정이 AI 기반으로 연결되어 대응 속도와 정확성이 크게 향상될 전망입니다.

특히 개인정보 보호와 피해자 인권이 최우선 가치로 반영되어 영상물의 불필요한 복제, 공유, 보관이 엄격히 제한되고, 보안 관리 기준이 강화됩니다.

4. 정부의 의지와 향후 계획

윤호중 행정안전부 장관은 “딥페이크 성범죄의 급속한 확산과 재유포로 인한 2차 피해 위험을 줄이기 위해 관계기관 간 신속하고 체계적인 공동 대응이 필요하다”며 “AI 탐지·분석모델 공유뿐 아니라 피해자 보호까지 아우르는 협력체계를 앞으로도 꾸준히 발전시켜 나가겠다”고 밝혔습니다.

협약 이후 3개 기관은 AI 모델의 현장 적용과 활용도를 지속 점검하며 딥페이크 성범죄 근절 및 피해자의 안전을 위한 공동 대응에 힘쓸 예정입니다.

---

이번 협약과 AI 기술 도입은 디지털 성범죄 근절을 위한 정부의 선제적 대응으로 평가받고 있습니다. 온라인 공간에서 누구나 안전할 수 있도록 첨단 기술과 협력체계를 바탕으로 한 이 체계가 빠르게 정착되길 기대합니다.

문의: 행정안전부 공공데이터분석관리과(044-205-2287), 성평등가족부 디지털성범죄방지과(02-2100-6575), 방송미디어통신위원회 디지털유해정보대응과(02-2110-1549)

 

출처 - 행정안전부·성평등가족부·방송통신미디어위원회