텔레그램을 기반으로 한 불법합성물(딥페이크) 성범죄가 잇달아 벌어지는 가운데, 참여 인원만 22만여명에 이르는 불법합성물 제작 텔레그램 채널까지 성행하고 있는 것으로 확인됐다. 간단한 검색으로 접근이 가능한데다 불법합성물 제작을 유료화한 ‘수익 구조’까지 갖춘 형태라 범죄라는 인식조차 없이 번지고 있는 불법합성물 실태를 보여주는 단면이라는 분석이 나온다.

한겨레가 21일 엑스(X, 옛 트위터)에 올라온 주소를 통해 접근한 한 텔레그램방은, 여성의 사진을 넣으면 이를 합성해 나체 사진으로 만드는 불법합성물 제작 프로그램(봇)을 탑재하고 있었다. 방에 입장하니 대화창에 곧장 “지금 바로 좋아하는 여자의 사진을 보내라”는 내용의 문구가 떴다. 인공지능(AI)이 만든 가상의 여성 사진을 넣었더니 약 5초 뒤 불법합성물이 생성됐다. 제작 과정엔 특정 신체 부위 모습을 조정하는 기능까지 있었다. 이 텔레그램방 이용자 수는 21일 기준 22만7천여명에 이른다. 텔레그램은 세계적으로 쓰이는 메신저이므로 여러 국적의 참여자가 모인 것으로 보인다. 

우리나라에서 이 텔레그램방 접근은 손쉽게 이뤄진다. 엑스 등 사회관계망서비스에 특정 단어를 검색하면 나오는 연결 주소를 누르는 식인데, 엑스에선 이 방 주소를 담은 내용이 ‘인기 글’로 버젓이 공유되고 있다. 최근 불법합성물 성범죄가 알려지고 경찰 수사가 진행되고 있는데도 홍보글은 잇따라 올라오고 있다.

이 텔레그램방은 두번째 사진까지는 무료로 불법합성물을 제작하다가 이후 유료로 전환되는 수익 구조까지 지니고 있었다. 사진 하나당 1다이아(0.49달러, 약 650원)를 받는데, 10다이아 단위로 구매가 가능했다. 구매량이 늘어나면 할인을 해주고, 돈을 내는 대신 친구를 초대해 제작을 이어갈 수 있게 했다. 이용자 저변을 넓히는 수법인 셈이다. 익명성을 고려한 듯 결제는 가상화폐 ‘크립토’로만 하도록 돼 있다.

이 방에는 참여자들이 대화를 나누거나 사진을 유포하는 기능은 없다. 다만 수십만명에 이르는 참여자가 제작한 불법합성물이 어떻게 악용될지 알 수 없다는 게 문제다. 서혜진 한국여성변호사회 인권이사(더라이트하우스 법률사무소)는 “이런 텔레그램방에서 만들어진 딥페이크 성착취물이 단체대화방 등으로 공유돼 집단 성범죄가 시작되는 것”이라며 “제작 단계 텔레그램방에 22만명 넘게 참여하고 있다면 유포로 인한 피해는 어마어마할 것으로 보인다”고 말했다.

엄청난 참여자 규모에 수익 모델까지 갖춘 텔레그램 방의 존재 자체는 심각한 피해를 안기는 불법합성물 제작을 가볍게 여기는 실태를 반영한 것이기도 하다. 김혜정 한국성폭력상담소장은 “수익구조화돼 있다는 건 그만큼 수요가 많다는 의미”라며 “여성에 대한 성적 모욕이 온라인상에서 하나의 ‘콘텐츠’가 돼버렸는데도, 이를 경미한 사안이라고 보는 사회 인식이 성범죄를 키우는 주요 원인”이라고 짚었다.

박고은 기자 euni@hani.co.kr

▶ 한겨레는 디지털 성범죄 방지를 위해 끈질기게 취재합니다. 
[추적보도 https://campaign.hani.co.kr/deepfake]