한국 딥페이크 악몽: AI 가짜 이미지가 실제 삶을 파괴할 때

2021년 여름, 루마(개인 정보 보호를 위해 가명 사용 - CNN)는 점심 식사를 하던 중 갑자기 휴대전화에 메시지가 쏟아지는 것을 확인했습니다. 메시지를 열어본 그녀는 경악했습니다. 소셜 미디어에서 가져온 자신의 얼굴 사진이 나체와 합성되어 텔레그램 채팅방에 퍼지고 있었던 것입니다.

채팅방 화면 캡처 속 댓글들은 그녀에게 사진을 보낸 익명의 메시지처럼 모욕적이고 외설스러웠습니다.

괴롭힘은 그녀의 사진을 더 광범위하게 유포하겠다는 위협과 경찰이 범인을 찾을 수 없을 것이라는 조롱으로까지 확대되었습니다. 메시지를 보낸 사람은 루마의 개인 정보를 잘 알고 있는 듯했지만, 그녀는 그의 신원을 확인할 수 없었습니다.

루마는 CNN과의 인터뷰에서 "인생에서 감히 상상조차 할 수 없었던 수많은 이미지로 공격받았습니다"라고 털어놓았습니다.

비록 '리벤지 포르노'(동의 없이 민감한 이미지 유포)가 오랫동안 존재해 왔지만, AI 기술의 급증으로 인해 누구나 자신의 나체 사진을 찍거나 보낸 적이 없더라도 딥페이크 포르노의 피해자가 될 수 있습니다.

한국은 공중 화장실의 몰래카메라부터 텔레그램 채팅방에서 여성과 소녀들에게 민감한 영상을 강요하는 행위까지 수많은 디지털 성범죄에 직면해 왔습니다.

이제 딥페이크는 특히 학교에서 새로운 위협으로 떠오르고 있습니다. 한국 교육부 보고서에 따르면 2024년 1월부터 11월 초까지 900명 이상의 학생, 교사, 학교 직원이 딥페이크 성폭력 피해를 신고했습니다. 이 수치에는 유사한 사건이 많이 보고된 대학은 포함되지 않았습니다.

이러한 상황에 대처하기 위해 교육부는 긴급 대응팀을 구성했습니다. 2024년 9월, 한국 국회는 법률 개정안을 통과시켜 딥페이크 포르노 소지 또는 시청 시 최대 3년 징역 또는 최대 3천만 원(약 2만 달러)의 벌금형에 처할 수 있도록 했습니다. 동의 없이 딥페이크 포르노 이미지를 제작 또는 유포할 경우 최대 7년의 징역형에 처할 수 있으며, 이는 이전의 5년에서 강화된 것입니다.

한국 경찰청은 "딥페이크 성범죄 완전 근절에 앞장설 것"을 전 경찰에 촉구했습니다. 같은 해 1월부터 10월까지 신고된 964건 중 경찰이 체포한 사람은 23명에 불과했습니다.

김남희 의원은 CNN과의 인터뷰에서 "현재 수사와 처벌은 너무 소극적"이라고 지적했습니다. 따라서 루마와 같은 일부 피해자들은 직접 수사에 나서야 했습니다.

피해자의 자력 조사

피해를 당했을 당시 루마는 27세의 대학생이었습니다. 경찰에 신고했을 때 경찰은 텔레그램에 사용자 정보 제공을 요청하겠다고 약속했지만, 텔레그램이 협조하지 않는 경우가 많다고 경고했습니다.

활발하고 긍정적이었던 대학생 루마의 삶은 이 사건으로 완전히 바뀌었습니다. 그녀는 "그것은 세상에 대한 저의 모든 믿음을 무너뜨렸습니다. 그들이 그렇게 외설적이고 잔인한 이미지로 당신을 그토록 심하게 모욕할 수 있다는 사실은 거의 회복 불가능한 상처를 줍니다"라고 말했습니다.

수많은 수사가 "용의자 특정의 어려움"으로 인해 몇 달 만에 종결된다는 사실을 알고 루마는 직접 행동에 나서기로 결심했습니다.

그녀는 다른 학생들과 함께 2020년 텔레그램에서 한국 최대 규모의 디지털 성범죄 집단을 폭로한 활동가 원은지를 찾아갔습니다.

원은 30대 남성으로 위장하여 가짜 계정을 만들어 딥페이크 채팅방에 침투했습니다.

거의 2년 동안 원은 조용히 정보를 수집하고 회원들과 대화한 후 경찰과 협력하여 "급습"을 실행했습니다.

경찰이 용의자와 대면했을 때 원은 그에게 텔레그램 메시지를 보냈습니다. 그의 전화벨이 울렸고 - 그는 현장에서 체포되었습니다.

작년 5월, 서울대학교(SNU) 동문 두 명이 체포되었습니다. 주범은 음란물 제작 및 유포 혐의로 징역 9년형을 선고받았고, 공범은 징역 3년 6개월형을 선고받았습니다. 경찰은 최소 61명의 피해자를 확인했으며, 그중 12명이 서울대 학생 및 졸업생이었습니다.

루마의 변호사가 공유한 판결문 발췌록에서 법원은 "피고인이 제작한 허위 음란물은 극히 혐오스럽고, 그에 대한 대화는 충격적입니다... 그것들은 졸업 사진, 결혼 사진, 가족 사진을 이용하여 피해자들을 마치 사냥하듯 겨냥하고, 모욕하며, 인격을 파괴합니다"라고 판시했습니다.

루마는 판결 후 CNN과의 인터뷰에서 "매우 기쁘지만, 이것은 1심 판결일 뿐입니다. 아직 완전히 안심할 수 없습니다"라고 말했습니다.

공감 부족한 사회

김 교사(가명)는 CNN과의 인터뷰에서 2023년 7월 한 학생이 수업 중 자신의 몸을 클로즈업한 몰래카메라 사진이 담긴 트위터(현 X) 화면을 보여주었을 때 자신이 표적이 되었다는 것을 알게 되었다고 말했습니다. "손이 떨리기 시작했어요"라고 김 교사는 회상했습니다.

이틀 후 상황은 더욱 악화되었습니다. 그녀의 머리카락은 헝클어진 것처럼 조작되었고, 몸은 뒤돌아보는 것처럼 수정되었으며, 얼굴은 나체 사진에 합성되었습니다.

경찰은 범인을 찾을 수 있는 유일한 방법은 트위터(현 X)에 사용자 정보를 요청하는 것이지만, 이 절차는 복잡하고 오래 걸린다고 밝혔습니다.

기다리지 않고 김 교사는 또 다른 피해자인 동료와 함께 자체 조사를 벌였습니다. 그 결과, 그들은 범인을 밝혀냈습니다. 조용하고 내성적인, "아무도 예상하지 못했던" 학생이었습니다.

범인이 기소되었음에도 불구하고 김 교사는 자신의 삶은 이전으로 돌아갈 수 없을 것이라고 말했습니다. 그녀는 또한 일부 사람들의 댓글에서 보이는 공감 부족에 분개하고 충격을 받았습니다.

김 교사는 "많은 사람들이 '딥페이크는 진짜 몸이 아니잖아. 뭘 그렇게 난리야?'라는 식의 댓글을 달아요"라고 말했습니다.

현재 X의 정책에 따르면 사용자 정보를 얻으려면 법원 영장, 법원 명령 또는 법 집행 기관의 법적 문서가 필요합니다.

디지털 플랫폼에 대한 압력

원은 오랫동안 한국에서 여성에 대한 성적 콘텐츠 유포가 중범죄로 간주되지 않았다고 말했습니다. 음란물은 금지되었지만, 허술한 법 집행으로 인해 디지털 성범죄가 만연했습니다.

흔한 수법 중 하나는 가해자가 아는 여성의 사진과 개인 정보를 공유한 다음 딥페이크 제작 또는 공유를 부추기는 "지인 능욕"입니다.

이러한 행위로 인해 피해자들은 가해자가 주소, 직장, 심지어 가족에 대한 세부 정보까지 알고 있기 때문에 공포에 떨며 살고 있습니다.

2020년 대규모 스캔들 이후 텔레그램 성범죄 네트워크는 수사로 인해 축소되었지만, 당국의 단속이 느슨해지자 다시 활개를 치기 시작했습니다.

CNN이 인터뷰한 모든 피해자들은 더 강력한 처벌을 요구했습니다. 피해자 김 교사는 "예방이 중요하지만, 발생한 사건에 대해서는 엄중한 처벌이 필요하다"고 강조했습니다.

온라인 플랫폼 또한 압력에 직면

수많은 디지털 범죄 콘텐츠의 온상인 텔레그램은 사용자 데이터를 당국과 공유하기 시작할 것이라고 발표했습니다.

이 발표는 텔레그램 CEO 파벨 두로프가 불법 콘텐츠 통제 실패와 관련된 체포 영장으로 인해 8월 프랑스에서 체포된 이후 나온 것입니다.

지난해 9월 한국 방송통신위원회는 텔레그램이 불법 콘텐츠 삭제를 위한 핫라인 설치에 동의했으며, 요청에 따라 디지털 성범죄 관련 영상 148건을 삭제했다고 밝혔습니다.

원은 이러한 움직임을 환영하면서도 회의적인 입장을 보이며, 텔레그램이 신속하게 개선하지 않으면 정부가 앱 스토어에서 해당 앱을 삭제해야 한다고 주장했습니다.

올해 1월 한국 당국은 처음으로 텔레그램으로부터 범죄 데이터를 성공적으로 확보했습니다.

서울 경찰은 200명 이상의 피해자를 성적으로 착취한 혐의로 14명(미성년자 6명 포함)을 체포했습니다.

딥페이크 콘텐츠 제작 및 공유 혐의로 70명 이상이 수사 중입니다. 한편 피해자들은 CNN과의 인터뷰에서 앞으로 경찰과 법원이 피해자를 더 많이 지원해 주기를 바란다고 말했습니다.

마지막으로 루마는 "처벌이 강화된다 해도 아직 체포되지 않은 가해자 때문에 고통받는 피해자가 너무 많습니다. 따라서 오늘의 판결은 아직 진정한 변화나 정의가 아닙니다. 우리는 갈 길이 멀습니다"라고 말했습니다.

주목할 만한 사례로 미국인 유튜버 조니 소말리(2000년생)는 한국 여성 스트리머와 함께 등장하는 비동의 딥페이크 음란물을 제작한 혐의로 한국에서 기소되었습니다.

그는 현재 성범죄 및 업무 방해를 포함한 여러 혐의에 직면해 있으며, 올해 5월 한국 법원에서 재판을 받을 예정입니다.

baomoi.com 제공