☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘h:730’을 쳐보세요.

“인공지능(AI)이 여자 사진에 특화된 기능을 제공합니다. 사용자가 사진을 입력하면 실사화된 현실적 여성 이미지를 얻을 수 있습니다.”

29일 한 포털 검색창에 ‘인공지능 실사화 사이트’를 입력하고 실행하자, 자극적인 인공 사진과 특정인의 얼굴·목소리를 뒤섞어 가짜 영상·이미지·오디오를 제작해 해주는 이른바 ‘딥페이크’ 사이트 주소가 무더기로 쏟아졌다. “인공지능 실사 연예인, 움짤(움직이는 이미지), 여자 사진 등 다양한 기능 제공”, “연예인 사진을 입력하면 연예인의 표정, 동작, 스타일 등을 정확하게 재현해 몰입감 있는 경험을 선사한다”는 등의 소개글과 함께 여러 누리집 주소가 튀어 나왔다.

세계적 팝가수 테일러 스위프트의 얼굴을 합성한 음란물이 지난 25일 ‘엑스’(X·옛 트위터)를 통해 전 세계에 퍼지면서, 딥페이크를 악용한 음란물에 대한 경각심이 새삼 커지고 있다. ‘초거물급 인사’인 스위프트가 피해자로 등장하자 미국 정치권은 물론 엑스와 마이크로소프트(MS·엠에스) 등 글로벌 공룡기업들도 화들짝 놀라 대응책을 쏟아냈다.

카린 장피에르 미 백악관 대변인은 영상이 퍼지기 시작한 이튿날인 26일 브리핑에서 “미 행정부가 이 문제를 매우 심각하게 받아들이고 있다”면서, “의회도 입법 조처에 나서야 한다”고 말했다. 미국은 현재 10개 주에서 딥페이크를 범죄로 처벌하고 있지만, 이를 다룰 수 있는 연방법은 아직 만들어지지 않았다. 이번 사건을 통해 입법 과정에 탄력이 붙을 것으로 예상된다.

음란물의 매개체로 지목된 엑스는 스위프트의 딥페이크 이미지가 유포된 뒤 곧바로 ‘테일러 스위프트’라는 단어 검색을 차단했다고 밝혔다. 28일엔 긴급 대책의 하나로 “직원 100명을 채용해 콘텐츠 검토와 안전 규정 준수를 전담하는 ‘신뢰와 안전 센터’를 텍사스주 오스틴에 만들 것”이라는 계획을 밝혔다. ‘스위프트 딥페이크’를 만드는데 사용된 제작툴의 제조업체인 엠에스도 서둘러 반응을 내놨다. 사티아 나델라 최고경영자(CEO)는 엔비시(NBC) 인터뷰에서 “끔찍한 일이다. 우리는 (재발을 막기 위해) 행동해야 한다”고 강조했다.

딥페이크 음란물의 피해는 어제오늘의 일은 아니다. 지난해엔 유명배우 엠마 왓슨과 스칼렛 조핸슨 등이 딥페이크 음란물 피해를 겪은 바 있다. 미국 엔비시는 당시에도 딥페이크 앱에 배우들의 사진을 입력하자 불과 수초만에 가짜 동영상을 만들 수 있었다는 실태를 전했다.

미국 시엔엔(CNN)은 26일 “유명인만이 아니라, 간호사, 예술대생, 교사, 언론인 같은 평범한 사람들이 딥페이크의 표적이 된다”며 다시 한번 대책 마련을 주문했다. 영국 가디언은 다니엘 시트론 버지니아대 교수(법학)를 인용해 “스위프트는 가장 유명한 딥페이크 피해자의 하나일지 모르지만, 이미 딥페이크로 수많은 보통 사람들의 삶이 흔들렸다”고 말했다.

홍석재 기자 forchis@hani.co.kr