최근 딥페이크 성범죄가 청소년 사이에 확산하면서 관련 피해자가 속출하고 있는 가운데 평택도 예외가 아닌 것으로 확인됐다.

8월 30일 경기도여성가족재단 경기도젠더폭력통합대응단이 접수한 피해신고를 확인해 보니 평택에서 10건이 접수됐으며 계속 증가하는 추세로 전해졌다. 8월 25일부터 소셜미디어 엑스(X·구 트위터)에서 딥페이크 피해가 발생한 평택지역 학교 리스트가 공유되고 있다. 또 ‘딥페이크 피해 학교 지도’ 사이트에서는 9월 3일 현재 평택지역에서 4개 학교가 포함되어 있다.

딥페이크(Deepfake)는 인공지능(AI) 기술을 이용해 기존의 이미지나 영상을 조작하여 사람의 얼굴이나 목소리를 다른 사람의 것으로 바꾸는 기술을 말한다. 유명인의 얼굴을 다른 사람의 몸에 합성하거나, 특정 인물의 음성을 모방해 가짜 음성 메시지를 생성하는 방식으로 사용될 수 있다. 딥페이크 성범죄는 생성형 AI 기술로 지인 사진과 나체 사진·영상을 합성해 텔레그램 방에 공유한 방식으로 이뤄진다. 허위 정보 유포, 명예 훼손, 개인정보 침해 에 해당한다. 하지만 기술 발달로 쉽고 빠르게 합성물을 만들 수 있고 이를 익명성 있는 텔레그램에 퍼뜨리면서 계속 문제가 커지는 상황이다.

이에 경기도는 경기도여성가족재단 내 경기도젠더폭력통합대응단(대응단)을 통해 딥페이크 피해자 지원에 나선다고 8월 28일 밝혔다.

대응단은 불법 영상물 삭제와 모니터링, 수사·법률 지원, 전문심리 상담 등을 돕게 된다.

신고가 들어오면 영상 이미지 추출하고 검색하는 등 반복적인 작업을 로보틱 처리 자동화(RPA, robotic process automation) 시스템이 수행하는 동안 지원 담당자는 피해영상물에 대한 삭제와 모니터링 지원에 나서게 된다.

도는 최대한 신속하게 삭제 처리한 이후 수사 등 필요한 조치와 정서적인 상담을 진행할 방침이다.

자신이 피해를 입었다고 판단될경우 대응단 내 디지털성범죄피해자원스톱지원센터에 도움을 요청할 수 있다. 딥페이크 합성물에 있는 사람이 본인 여부를 확인하면 제작·유포 정황을 캡처하되 자신의 SNS 계정을 비공개로 전환하고 개인정보 파악이 가능한 사진을 삭제하고나중에 사실 여부를 확인할 수 있게 딥페이크에 사용된 자신의 사진도 찾아 놓는 것이 좋다.

또 모르는 사람에게서 다이렉트 메일(DM, Direct Mail)이나 메시지로 받았을 때는 캡처 후 연락을 차단해야 2차 피해를 막을 수 있다.

피해신고는 전화 1544-9112로 가능하며 상담은 오전 9시부터 오후 6시까지 가능하다. 전화상담이 어렵다면 대응단 홈페이지에서 카카오톡 상담, 챗봇 서비스를 통해 지원받을 수 있다.