텔레그램 딥페이크 (2024년)

텔레그램에 퍼지는 성착취

텔레그램 성착취

• 도움받을 수 있는 곳
  • 디지털 성범죄 피해자 지원센터
  • 한국사이버성폭력대응센터
  • 십대여성인권센터
• 텔레그램 성착취 범죄
  • n번방, 고담방, 박사방
  • 지인 제보, 교사 채널
  • 그 외
• 관련 정보
  • 타임라인
  • N번방 방지법
• 관련 인물
  • n번방 : 문형욱('갓갓'), 회사원 전모씨(왓치맨), 켈리, 안승진
  • 박사방 : 조주빈('박사'), 강훈(부따),이원호(이기야), 공무원 천모씨
  • 프로젝트 N
  • 태평양원정대 : 태평양
  • 텔레그램측 : 파벨 두로프(CEO)
  • 최초고발자 : 추적단불꽃
• 기획 기사
  • 십대여성인권센터, 구매자 가장해보니
  • 불법 성착취 영상 활개
  • 어떤 처벌 받나
  • 숨어버리는 피해자, 왜?
  • 피해자 심층 인터뷰
  • 가해자 단죄가 필요한 이유
  • 현실의 찌질함 잊는 상상속 권력
  • 왜 무법지대가 됐나
  • 텔레그램 성착취물의 시초
  • 에필로그-범죄 막을 대책은
  • 국민일보 n번방 추적기
• • 외신 모음
  • n번방 시민방범대

vdeh

대학 단위의 성범죄 사건과 함께 지역·학교로 세분화해 '지인'인 피해자를 특정하고 불법합성물을 제작·유포하는 범죄가 2024년 복수 언론에 보도되었다. 이른바 겹지방(겹지인방)이라는 이름으로 참가자들이 서로 같이 아는 특정 여성의 정보를 공유하고 딥페이크 영상물을 제작·유포한다. 2019년 대두된 지인 제보 방의 연장선이지만, 딥페이크 성범죄의 역사는 오래되었다. 2017년 휴대전화를 잃어버렸다가 지인을 대상으로 딥페이크 성착취 영상을 제작한 사실이 밝혀져 기소된 20대 남성도 있었다.

범죄 내용

텔레그램 채널들은 사회적 파장이 커지자 '비공개 상위 채널'을 생성하고 비공개 채널 입장을 위한 링크 거래, 피해자에 대한 성희롱, 계좌번호 등을 통한 인증을 요구하기도 했다. 한편으로 '기자 합성방'을 만들어 특정 언론사명, 기자 이름을 콕 집어 거론하고 사진과 신상을 올리도록 부추기는 분위기를 조성하며 조롱했다.

규모

전국교직원노동조합이 2492명을 대상으로 진행한 설문 조사에서 517명이 본인을 대상으로 한 불법 합성물을 직접 확인하거나 간접적으로 파악했다고 응답했다. 추적단불꽃 원은지 활동가는 2020년도부터 소위 말하는 지인 능욕 방들의 규모가 3000명 이상, 많게는 몇 만명 이상의 방들이 여러 개가 있기 때문에 정확한 규모를 파악하는 것 자체가 어려운 상황이라고 말했다.

• 인하대 1200명
• 900명이 참가한 군인을 대상으로 하는 대화방
• 15일부터 "가족" 방 2000여 명

목적

추적단불꽃 원은지 활동가는 업체들이 텔레그램 안에서 딥페이크를 이용할 수 있는 포인트 같은 경우를 것을 지급해 청소년들을 홍보책으로 대화방을 온라인에 홍보하거나 공유하고 유포하는 것으로 확인하였다.

한국여성변호사회 서혜진 변호사는 청소년 가해자들이 "또래 집단에서 인정받기 위한 놀이"로 생각하는 경향이 있다고 밝혔다.

일각에서는 1000명 이상의 구독자를 모으면 방 개설자가 광고 수익을 지급받는 텔레그램의 정책을 범죄의 배경으로 지목하였다.

타임라인

2022년

• 인하대 텔레그램 개설

2024년

8월

19일

• 인하대 언론보도
• 인천경찰청 사이버범죄수사대 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 텔레그램 단체 대화방 운영자 등을 수사하고 있다고 밝혔다

20일

• 같은 학교 2명, 다른 학교 2명의 사진을 나체 사진고 합성해 제작, 소지한 김 모 중학생(14) 용인서부경찰서에 의해 수원지검 불구속 송치 이후 해외 이민.

21일

• 22만 7천여명 참가 텔레그램 보도

22일

• 서울경찰청 딥페이크 등 허위영상물 집중 대응 TF, 딥페이크를 비롯한 허위 영상물 279개(피해자 246명)를 제작하고 자신이 운영하는 텔레그램 채널 OO보관소에 유포한 20대 남성 긴급체포 및 구속. 청소년성보호법 위반(성착취물의 제작배포) 등의 혐의로 검찰에 송치.

24일

• 싱가포르 일간지에서 한국의 성범죄로 보도
• 딥페이크 제작 소프트웨어 DeepFaceLab의 공개 코드 저장소 깃헙에 의해 비활성화
• "길티아카이브" X 계정이 사건 공론화

25일

• 길티아카이브 계정이 겹지방에 나와 있는 17개 학교 목록을 게시

26일

• 서울경찰청장 기자간담회에서 언급
• 오전, 기본소득당 최고위원회에서 노서영 최고위원 관련 발언
• 전 추적단불꽃 "불" 박지현 페이스북 포스트 게시
• 정의당 수사 촉구
• 누리꾼에 의한 피해 지역·학교 명단 작성
• 국회 청원 게시
• 사건 공론화 X 계정, X에 의해 임시조치
• 이재명 대표, 처벌법안 발의 지시
• 출판사 움튼 "디지털 성범죄 피해자 연대 수칙" 무료 온라인 강의 진행

27일

• 경찰청, 딥페이크 성범죄 근절을 위해 시·도 경찰청 사이버성폭력 수사팀을 중심으로 내년 3월까지 집중 단속을 하겠다고 밝힘.
• 교육부 전국17개 시도교육청에 피해·가해 현황을 파악해 달라는 공문 보냄.
• 광주시교육청, 긴급회의를 주재

28일

• 전국의 유치원, 초, 중, 고를 대상으로 진행한 실태조사에서 2500건의 신고 접수

29일

• 뻑가 채널, 수익 창출 정지됨. 딥페이크 관련 영상 삭제됨.
• 조국혁신당 강미정 의원 비판 발언
• 민주당 여성위, 시청 처벌 법안 발의
• 국회, ‘딥페이크 성범죄 관련 부처 긴급 현안보고’ 개최. 딥페이크 성범죄 처벌수위 강화(현행 최대 5년에서 불법촬영물과 같은 최대 7년으로), 텔레그램 운영사와 정부 차원 핫라인 확보 방안 추진, 교육부 누리집 메뉴창에 딥페이크 성범죄 관련 신고센터를 개설하고 피해자를 대상으로 정신건강의료·법률 지원을 하는 방안 등 논의.
• 서울경찰청 사이버수사대에 TF를 조직해 딥페이크 성착취물을 자동 생성하는 프로그램봇 8개를 입건하는 등 집중 대응에 나선다고 밝혔다.
• 7월 담임 교사의 사진 합성을 외뢰한 중학생에 수사 착수
• 전교죠 정부청사 앞 긴급 기자회견

30일

• 출판사 움튼, 기술 테러리즘으로서의 딥페이크 포르노 무료 온라인 강의 진행

9월

1일

• 30대 남성 용의자, 경찰 방문에 아파트 8층에서 이웃집 베란다로 넘어가는 등 10여 분 동안 베란다에서 머물다가 떨어져 숨져

2일

• YG엔터테인먼트, 소속 아티스트 관련 딥페이크 성착취물 엄정 대응 예고

3일

• 100여명의 여성, 사태 해결을 촉구하며 주영국 한국대사관 앞에서 행진

5일

• 박지현, 장혜영 등 <딥페이크 성폭력 박멸을 위한 긴급 토론회> 개최
• 여성의당, 대한변호사협회 앞에서 긴급 기자회견

6일

• 궁금한 이야기 Y 딥페이크 성범죄 편 방송
• 규탄 집회 500여명
• 참고인 조사를 받은 안동시 남고생 투신 소동

연대

X (구 트위터)

• 구독자 12만명을 보유한 X계정 ‘길티아카이브’와 '퀸아카이브'로 알려져 있는 A씨는 8월 24일 한 시민으로부터 딥페이크를 활용한 음란물이 텔레그램에서 판치고 있다는 제보를 받은 후, 가해자 신상을 추적하기 위해 텔레그램 방에 잠입했다. 피해규모가 크다는 것을 깨달은 후 추가제보를 받으며 공론화하였다. A씨에 따르면 1분에 8개씩 제보가 쏟아졌다고 한다.
• 여성들을 위한 실용적 정보를 제공하던 미국인 여성 W모 계정을 비롯하여 많은 계정들이 사건의 실태와 피해자에 대한 혐오적 반응 및 2차가해를 영어로 번역하여 공론화하자 해외 여성들이 자국어로 재번역하여 공유하였다.

피해 학교 지도도 제작되었지만, 현재는 사이트 폐쇄 상태.

유튜브

• 뻑가가 게시한 딥페이크 관련 영상에 'Stand with Korean women'이라는 문구로 외국인 여성들이 연대하였다.

기타

• 중국 웨이보와 샤오홍슈 등에서 공유되었으며 "한국 여성들을 응원한다"고 올렸다. 저우샤오레이 베이징외대 교수는 "대체로 여성들은 국경을 넘어선 전폭적인 지지를 보내고 있다"고 말했다.

처벌 규정과 개정안 발의

현행법 상 성폭력범죄의 처벌 등에 관한 특례법 제14조 2에는 제작하거나 퍼뜨린 자만 처벌하도록 되어 있어 시청한 자를 처벌하도록 하는 개정안이 발의되었다.

• 이해식의원 등 10인: 성폭력범죄의 처벌 등에 관한 특례법 성적허위영상물 소지·구입·저장·시청의 처벌규정 신설과 상습적인 경우 형의 가중
• 김한규의원 등 10인: 허위영상물을 소지·구입·저장 또는 시청한 자를 처벌
• 김남희의원등 10인: 반포 목적에 상관 없어도 성적 욕망 또는 수치심을 유발할 수 있는 형태로 허위영상물을 편집·합성·가공 뿐만 아니라 소지·구입·저장·시청하는 행위에 대한 처벌규정을 신설하고 상습적인 경우 형을 가중
• 한정애의원 등 11인: 허위영상물을 소지·구입·저장 또는 시청한 자를 처벌
• 황명선의원등 29인: 허위영상물을 구입·소지·시청·저장·판매하는 행위에 대한 처벌규정을 신설하고 상습적인 경우 형을 가중

또 빠른 대응을 위한 법안도 발의되었다.

• 강유정의원등 11인: 수사기관이 피해 신고를 받거나 의심 사실을 발견한 경우 초기에 적극적으로 개입해 피해영상물 확산 차단 조치를 취할 수 있도록 근거규정 마련

언론보도

국내

• 최예슬 (2024년 9월 3일). ““한국 딥페이크 심각하다”… 中 SNS ‘분노’ 퍼지는 이유”. 《국민일보》. 

외신

영상 불러오기

유튜브

유튜브에서 개인 정보가 수집될 수 있습니다. 개인정보보호정책

계속취소

• Justin McCurry (2024년 8월 28일). “South Korea battles surge of deepfake pornography after thousands found to be spreading images”. 《가디언》. 

• Jean Mackenzie; Marsh, Nick (2024년 8월 28일). “South Korea faces deepfake porn 'emergency'”. 《BBC》. 
• Shinhye Kang (2024년 8월 28일). “South Korea Urges Telegram to Crack Down on Deepfake Sex Crimes”. 《블룸버그》. 
• “Inside the deepfake porn crisis engulfing Korean schools”. 《BBC》. 

기타

• 뉴시스에 따르면 가해자의 부모들이 디지털장의사에게 증거 삭제를 의뢰하고 있다고 한다.
• 한 성인 피해자는 조사를 받는 자리에 형사가 "X에서는 성인 딥페이크를 표현의 자유로 본다", "성인이 피해자면 수사 협조를 받기 어렵다"는 식으로 말했다고 밝혔다.