지난 1년간 딥페이크 성범죄 피해자 1,807명 지원…
AI 기반 대응체계 본격 추진
- 피해자 총 1,807명 중 여성 97.1%, 10대 이하 46.4% 차지
- 중앙디성센터, AI 기반 기술 고도화로 피해자 보호·지원 강화
□ 여성가족부 산하 한국여성인권진흥원(원장 신보라, 이하 진흥원)은 오늘(28일) 지난 1년간 중앙디지털성범죄피해자지원센터*(이하 중앙디성센터)를 통해 합성·편집(딥페이크 등) 성범죄 피해자 1,807명을 지원했다고 밝혔다.
※ 집계 기준 : 2024년 8월 26일(월) ~ 2025년 8월 25일(월)
* ｢성폭력방지법｣ 제7조의4에 근거하여 디지털성범죄 피해자에 대한 상담, 피해 영상물 삭제 지원, 수사․법률․의료지원 연계 등 종합지원서비스를 지원하는 기관(‘18.4.30.~)
ㅇ 진흥원은 ‘24.8월 딥페이크 기술을 활용한 성범죄 피해가 급속히 확산됨에 따라 중앙디성센터 내 「딥페이크 성범죄 전담팀」을 구성하고 이에 대응해 왔다.
주요 지원사례(3건) |
▸ A씨는 학교 친구들끼리 대화하는 텔레그램방에서 본인이 SNS에 올렸던 사진이 다른 사람의 성적인 사진과 합성되어 공유되고 있다는 것을 친구를 통해 인지하게 되었고, 즉시 중앙디성센터에 상담과 삭제지원을 요청함. - 중앙디성센터는 피해자가 제공한 텔레그램방 링크를 통해 합성물 원본을 확보하고, 피해자가 경찰 신고를 원함에 따라 가까운 수사기관 및 지역 지원기관으로 연계함. - 이후에도 피해자가 제공한 합성물을 토대로 유포 여부를 지속적으로 모니터링하며 발견 즉시 삭제지원 조치를 실시하여 피해 확산을 차단함. |
▸ B씨는 직장 그룹웨어 증명사진 속 자신의 얼굴과 타인의 나체가 합성된 사진이 유포되고 있다는 사실을 지인을 통해 알게 되어 중앙디성센터 온라인게시판으로 삭제지원을 요청함. - 중앙디성센터는 유포된 합성·편집물 원본을 즉시 확보하여 당일에 삭제지원을 시작하였으며, 피해자를 가까운 지역디성센터로 연계함. 지역디성센터는 출장이 많은 피해자를 위해 ‘찾아가는 상담 서비스’를 제공하고, 전화와 문자 등을 통해 지속적으로 연락하면서 B의 심리·정서적 회복 지원을 지속하였음. 초기 상담 시 퇴사를 생각했던 피해자는 마지막 상담 후 일상으로 복귀함. |
▸ 중앙디성센터는 딥페이크 불법 합성물이 확산되는 텔레그램방을 집중 모니터링하여 해당 텔레그램방 링크 정보를 수집함. 이후 수집한 정보를 바탕으로 다수의 텔레그램방에 직접 가입해 딥페이크 등의 성적인 불법합성물 유포 현황을 채증함. - 텔레그램방은 수시로 폐쇄·폭파되어 증거가 사라질 우려가 있으므로 확보한 채증 자료를 당일 즉시 수사를 의뢰하는 등 신속하게 경찰청과 협력함. - 125건의 수사 의뢰 중 117건이 실제 수사로 이어졌고 지난 12월 대규모 인원이 포함된 텔레그램방 운영자가 구속되는 성과가 있었음. |
□ (피해지원 현황) 딥페이크 성범죄가 사회적 현안으로 대두된 지난 1년간 중앙디성센터에 ‘합성·편집’ 피해로 도움을 요청한 피해자는 총 1,807명에 달했다. 이는 「딥페이크 성범죄 전담팀」 설치 이전(‘23.8.1. ~ ‘24.7.31., 793명) 대비 약 128% 증가한 수치이다. 특히 상담·연계·삭제 등 지원 서비스를 제공한 건수는 총 18,523건으로 약 3.1배 증가했다.
<합성·편집(딥페이크 등) 성범죄 피해지원 현황> |
구분 | 피해자(명) | 상담·연계·삭제지원(건) |
‘23.8.1. ~ ‘24.7.31. (전담팀 설치 전) | 793 | 5,908 |
‘24.8.26. ~ ‘25.8.25. (전담팀 설치 후) | 1,807 (▴127.9%) | 18,523 (▴213.5%) |
ㅇ (성별·연령 현황) 성별로는 전체 피해자 중 여성이 97.1%(1,754명), 남성은 2.9%(53명)를 각각 차지하였다. 연령대별로는 중‧고등학교와 대학가 딥페이크가 기승을 부렸던 만큼 10대 이하가 46.4%(839명)로 가장 많았고, 그다음으로 20대가 45.9%(829명)를 차지하는 것으로 나타났다.
<합성·편집(딥페이크 등) 성범죄 피해자 성별·연령별 현황> (단위: 명) |
구분 | 계 | 10대 이하 | 20대 | 30대 | 40대 | 50대 이상 | 연령 미상 |
신규 | 여성 | 1,131 | 613 | 434 | 69 | 11 | 2 | 2 |
남성 | 49 | 20 | 18 | 2 | 2 | 7 | 0 |
소계 | 1,180 | 633 | 452 | 71 | 13 | 9 | 2 |
지속 | 여성 | 623 | 206 | 375 | 37 | 5 | 0 | 0 |
남성 | 4 | 0 | 2 | 2 | 0 | 0 | 0 |
소계 | 627 | 206 | 377 | 39 | 5 | 0 | 0 |
합계 | 여성 | 1,754 | 819 | 809 | 106 | 16 | 2 | 2 |
남성 | 53 | 20 | 20 | 4 | 2 | 7 | 0 |
소계 | 1,807 | 839 | 829 | 110 | 18 | 9 | 2 |
□ 한편, 중앙디성센터는 경찰청, 교육부, 국방부 등 관계부처를 대상으로 피해자 발견 시 신속히 디성센터로 연계될 수 있도록 협력을 요청하고, 특히 학교 및 군대에서 보다 적극적으로 피해자를 보호할 수 있도록 피해대응 요령 및 지원 절차를 담은 안내서를 제작해 상반기 내 배포를 완료했다.
* ｢디지털성범죄 피해 통합지원 안내｣(한국여성인권진흥원, 2025) 학교 및 군대 내 디지털성범죄 피해 대처 방법 등 수록
ㅇ 또한, 피해지원 서비스가 국민께 널리 알려질 수 있도록 「딥페이크 등 디지털성범죄 피해지원 대응 가이드」 및 각종 홍보자료(카드뉴스, 포스터 등)를 발행하였으며, 모든 자료는 한국여성인권진흥원 누리집(www.stop.or.kr)을 통해 열람 및 내려받기할 수 있다.
□ 아울러, 중앙디성센터는 딥페이크 등 디지털 성범죄 대응력 강화를 위해 「삭제지원 통합대응 솔루션」의 연내 구축을 목표로 주요 과제를 집중 추진하고 있다.
ㅇ (통합 홈페이지) 디지털 성범죄 원스톱 통합 홈페이지를 구축해 디지털 성범죄 피해 신고창구를 일원화한다. 이에 피해를 입은 국민 누구나 하나의 홈페이지를 통해 필요한 서비스를 신속하고 편리하게 지원받을 수 있도록 서비스 접근성을 대폭 강화할 계획이다.
ㅇ (삭제지원시스템) 기존 수작업(육안 모니터링 및 삭제요청) 중심의 삭제지원 절차를 자동화하여 삭제지원시스템의 기능을 대폭 개선한다. 인공지능(AI) 시스템을 통해 24시간 365일 실시간 감시부터 피해촬영물 삭제요청까지 전 과정을 자동화함으로써 신속하고 체계적인 피해자 보호가 가능해질 전망이다.
ㅇ (선제적예방시스템) 딥페이크 등 성착취물 탐지·식별·분석 시스템 도입으로 삭제지원의 신속성을 높인다. SNS, 모바일 애플리케이션 등 온라인 공간에서 유통되는 아동·청소년 대상 성착취물 및 유인 정보를 사전 탐지 및 감지하여 자동으로 신고하는 선제적 예방 시스템을 구축하고, 자가학습형 인공지능(AI)을 적용해 탐지 정확도와 대응 역량을 지속적으로 고도화할 계획이다.
□ 신보라 원장은 “딥페이크 성범죄는 기술의 악용으로 발생하는 새로운 형태의 인권 침해로, 생성형 AI의 높은 ‘편의성’과 ‘접근성’으로 인해 누구나 순식간에 딥페이크 성범죄 피해자가 될 수 있는 환경이 조성되었다”라며,
ㅇ “지난 1년간의 피해지원 사례를 분석한 결과, 특히 폐쇄형 소셜미디어가 범죄 도구로 활용되면서 피해가 ‘대량화’되고 ‘장기화’되는 특성이 확인되었다”라고 지적하면서
ㅇ 이어 “진흥원은 앞으로도 피해자 중심의 지원체계를 강화하고, 기술 고도화를 포함한 포괄적인 대응 역량을 지속적으로 확대해 나가겠다”라고 강조했다.
