인터뷰 | ‘딥페이크 피해 학교 지도’
“예방 교육보다는 플랫폼 정책을”
- 제작자 팀 데이터스택 백○○ 학생
글
이경은(서경)
seogyeong2101@gmail.com
본지 기자
주로 대학교에서 공론화되었던 기존의 ‘단톡방 성폭력’과 달리, 텔레그램에서의 딥페이크 성범죄가 초·중·고등학교 학생·교사를 대상으로 상당수 발생하고 있음을 드러낸 데에는 ‘딥페이크 피해 학교 지도’의 영향이 컸다. 더불어민주당 이건태 의원실이 10월 10일 경찰청에서 제출받은 자료와 대법원 사법연감 등을 분석한 통계에 따르면, 2024년 1월부터 9월 25일까지 딥페이크 성범죄로 경찰에 검거된 10대 피의자 수는 324명으로 전체(387명)의 83.7%였다. 많은 사람들이 남성 청소년들의 윤리적 인식, 성인지 감수성이 땅에 떨어졌다며 우려했다. 그런데 한편 딥페이크 피해 학교 지도를 만든 백○○ 씨 역시 남성이고 중학생이다. 그가 가진 딥페이크 사건에 대한 문제의식은 언론에서 조명하는 방향과 조금 달랐다. 익명으로 활동하고 있는 그를 화상으로 만나 인터뷰했다.
딥페이크 피해가 주변에서 발생하면서 문제의 심각성을 체감하게 되었다고 들었다. 주변에 피해를 겪는 사람들이 있었나? 어떤 식의 피해였나?
우리 학교 학생들이 같이 만들어 둔 인스타그램 단톡방이 있는데, 여기에 어떤 학교에서 피해가 있었다는 내용이 올라왔다. 내 주변 학생들도 인스타그램 앱에서 모르는 기기가 국내 다른 어느 지역에서 로그인을 했다는 경고 알림을 받는 일이 생기면서 심각성을 느꼈다.
제보들이 어떻게 해서 데이터스택 팀에 당도하게 되는지가 궁금하더라. 가해자들이 스스로 제보한 건 아닐 테니, 가해자 외에 누군가는 피해 사실을 인지했다는 거지 않나. 어떤 경로로 인지하게 된 사람들이 제보를 하는 상황이었나?
학생이 자기 학교 이름으로 된 텔레그램방에 들어가 보니 ○○학교 학생들의 딥페이크가 올라오는 방이었더라는 종류가 가장 많았다.
왜 단순히 제보를 받아 모으는 게 아니라, 피해 ‘학교 지도’를 만들어야겠다고 생각하게 되었나? 왜 전반적인 사례가 아니라 특히 ‘학교’ 사례를 모아야겠다고 생각했으며 또 ‘지도’라는 형식을 택했는지 궁금하다.
학교 대상으로 만들게 된 계기는, 주변에서 접하는 사례들은 대부분 학생을 대상으로 한 사건이었기 때문이다. 어른이나 연예인 관련 사건도 언론 통해서 접하기는 하지만 제 일상에서 접할 수 있는 사례는 학생 위주였다. 피해자를 돕고 싶다는 마음과 함께, 사태의 심각성을 알리기 위해서 이런 피해 사례들을 한눈에 볼 수 있게 정리하는 사이트가 있으면 좋겠다고 생각했다.
“남학생의 성 인식이 문제의 원인? 편견이다”
주변에서 접한 피해 경험자의 다수가 학생들이라고 하셨는데, 가해자도 학생들이었다고 볼 수 있을까? 남학생들의 성평등 의식, 성폭력에 대한 경각심이나 윤리 의식이 낮은 것이 근본적인 원인이라는 문제 제기가 나오고 있는데 이에 대해 어떻게 보고 계신지 궁금하다.
고정관념이라 생각한다. 언론사들이나 경찰에서는 통계 자료 없이 남학생들이 성폭력 범죄를 일으킨다고 말하고 있다. 남학생들만 이렇다는 근거도 없고, 피해자가 여성뿐이라는 데이터도 없다고 생각한다.
남학생에 대한 편견이 있다고 느낀다. 학교폭력, 성폭력, 성차별 이런 키워드를 생각하면 남학생이 가해자로 떠오른다. 언론 등에 많이 소개되는 사례가 대부분 남학생의 가해 사례이다 보니까 그렇다. 딥페이크 사건에 대해서도 남학생들이 그랬다는 인식만 가지고 계시는 것 같은데 말 그대로 편견이라 생각한다.
예전에는 포토샵 등을 배워야 할 수 있었던 이미지 합성이나 형성을, 누구나 한두 문장의 명령으로 손쉽게 할 수 있게 됐다. 기술이 발전하며 진입 장벽이 낮아지면서 문제가 발생했다고 보고 있다.
언론이 ‘남학생이 폭력의 가해자’라는 편견을 만들고 있다고 느낀다는 것이다. 또한 그는 기술의 진입 장벽이 낮아진 것을 원인으로 지목했다. 기술이 부적절한 목적으로, 불특정 다수에게 오용되지 않도록 하는 것이 중요하다는 것이다. 실제 텔레그램 채널 형태로 배포된 ‘딥페이크 AI 봇’은 사진을 업로드하기만 하면 나체에 합성된 사진을 제공한다. 경찰과 방송통신심의위원회가 채널 차단 및 삭제 요청을 하면 텔레그램 측에서 대응하지만 채널을 새로 생성하는 것까지 방지하지는 못하고 있다.
많은 학교들에서 딥페이크 사태가 알려지고 공론화되기 시작했는데, 딥페이크 피해 학교 지도의 영향이 매우 컸다고 본다. 특히 검거된 가해자의 대다수가 청소년이라는 것이 주목받았다. 실제 학생 가해자가 많아서 피해 학교 지도가 만들어진 것인가, 피해 학교 지도 덕분에 학생 가해자들이 많이 드러나게 된 것일까?
학생 피해자가 많아서 주변 사람들을 포함해 다른 학교에서도 더 이상 피해를 입지 않도록 하는 목적으로 만든 것이다. 학생 가해자가 많아서 지도를 만든 것은 아니다. 이 프로그램으로 딥페이크 문제가 사람들의 이목을 끌면서 그 과정에서 가해자들이 많이 드러나게 됐다고 보고 있다.
학생들 사이에서 텔레그램을 많이 이용하는 추세인가?
딥페이크 사건 발생 전까지는 거의 없었을 것이다. 이번 사건을 계기로 ‘한번 들어가서 진짜 그런 게 있는지 확인해 볼까’ 하는 사례가 주변에 많았다.
온라인상에서 가해를 옹호하거나 방어하는 측으로부터 공격이 있었다고 들었다. 주변의 반응은 어땠나?
디도스 공격이 많이 있었고, 제보하는 이메일로도 여러 공격적인 연락이 있었다. ‘오히려 피해자들이 무슨 학교에 소속되어 있는지 알려진다’, ‘더 괴롭힐 수 있는 거 아니냐’ 하며 따지는 경우가 있었다. 그때마다 답변했던 내용은 ‘사이트를 만든 의도는 범죄가 확산되지 않도록 경각심을 주기 위함이지 피해자를 특정하고자 함이 아니다. 또 피해자에 관한 아무런 개인정보도 없다’라는 것이었다.
가해자를 옹호하는 경우는 (온라인에서도 주변에서도) 없었다. 가해자가 있는 학교를 표시하는 게 아니라 피해자들이 소속되어 있는 학교를 표시한 것이다 보니 그런 것 같다. 가해자는 오히려 특정하기 어려웠다.
그 밖에는 ‘해당 학교에 대한 명예 훼손이 아니냐?’라는 비판이 몇몇 있었다.
그가 경험한 바 학생들은 대부분 텔레그램을 사용하지 않았고, 텔레그램에 가입하더라도 ‘정말 그런 방이 있는지’ 확인하기 위해 호기심에 가입하는 경우가 많았다. 그러한 채팅방이 발견되면 캡처해서 ‘피해 학교 지도’ 사이트에 신고했다. 사건이 공론화된 후 온라인에서도, 주변 남학생들 사이에서도 가해자를 옹호하는 경우는 전혀 없었다. 피해자가 피해 가능성을 인식할 수 있는 주된 경로는 인스타그램 해킹이었고, 가해자가 반드시 같은 학교 학생이라고 특정하기는 어려웠다. 그런 상황에서 학생들이 피해를 입는 것은 맞지만 가해자의 다수가 10대라고 특정하기는 어렵다고 판단했다. 그러니 그에게 남성 청소년들의 성평등 의식을 문제 삼는 여론은 동의하기 어려웠던 것이다.
“학교에서 ‘피해자 없다’며 삭제 요청……
제대로 조사한 것일까 걱정돼”
제보를 받아서 공개하는 플랫폼의 특성상, 자연스레 ‘내가 어디까지 책임질 수 있지?’라는 고민을 하게 되었을 것 같다. 제보를 그대로 믿어도 되는지, 허위 제보를 어떻게 걸러 낼 수 있을지, 불특정 다수에게 공개되는 지도의 영향력을 고민한 순간이 있었는지, 어떻게 대처했는지 궁금하다.
있었다. 실제로 ○○학교 텔레그램방이라는 이름이 담긴 스크린샷을 보내 주신 경우에만 지도에 게시했다. 그렇게 자연스럽게 필터링이 되었는데, 여러 학교에서 공식적으로 연락이 왔었다. ‘피해자가 없으니 내려 달라’라고. 해당 전송자가 학교 소속인지 확인하고 삭제를 하기도 했다.
학교에서 삭제 요청이 왔을 때 ‘제대로 조사한 것인가’ 의심스럽거나 무리한 요청이라 생각한 적은 없었나?
삭제 요청한 모든 학교에 대해 그렇게 생각한다. 어떤 방식으로 조사했는지 알려진 바가 없고 증명을 요청할 수 없으니 한계가 있었다. 또한 삭제를 요청하는 것 자체가 공식적으로 학교에서 논의되어 요청한 것인지 개인이 학교를 사칭한 것인지 검증하기 어려웠다. 검증을 위해 학교 대표 번호로 연락해서 공식 요청인지 확인하고 삭제를 하였는데, 우리 측도 익명을 유지하려다 보니 확인 절차가 순조롭게 이뤄지지 못하는 경우도 있었다.
딥페이크 피해 문제가 대두된 후 소속된 학교에서는 어떤 대응이 있었나?
담임 선생님들께서 반마다 피해 학생이 있으면 빨리 교무실에 알리고 수사를 받아 보라고 공지하셨다. 딥페이크를 주제로 1차시 교육도 받고 가정통신문도 따로 나가고 그런 대응이 있었다.
“예방 교육은 ‘다 자는 시간’……
플랫폼의 안전한 이용을 위한 서비스 마련이 필요해”
학교 측의 대응이 실효성 있게 느껴졌는가?
학생 입장에서 솔직히 말씀드리면 효과가 별로 없는 것 같다. 가정통신문을 읽는 학생이 별로 없기도 하고, 보통 가정통신문이 휴대전화 알림으로 오는데 제목만 읽고 바로 꺼 버리는 경우가 많다.
학교에서 선생님께서 직접 심각성을 교육한 건 비교적 효과가 있었던 것 같다. 딥페이크를 비롯한 온라인 성폭력이 주로 어떻게 일어나는지, 디스코드, 텔레그램, 해외 SNS와 온라인 커뮤니티를 통해 이뤄진 사례 등을 말씀해 주셨다. 그런 교육은 문제에 대한 경각심을 줄 거라고 생각한다.
딥페이크 사태의 심각성이 드러나자 정부에서는 디지털리터러시 교육, 성폭력 예방 교육 등을 강화하겠다고 한다. 이러한 교육으로 디지털 성폭력을 예방할 수 있을까?
사실 학교에서 아무리 그런 교육을 해도 그냥 자는 학생들이 대부분이다. 효과를 보는 학교는 거의 없을 거다. 제가 생각하는 방안은, 카카오톡 오픈 채팅방에서 사진을 전송할 때 사용자가 이를 신고하면 검토하고 삭제, 제재할 수 있는 정책이 도입된 것처럼 텔레그램 등 다른 플랫폼에서도 그러한 서비스를 적용하는 것이다.
예방 교육에서 학생들이 자는 이유는 무엇일까?
학생들이 그런 부류의 수업 자체를 좋아하지 않는다. 그래서 교육을 하는 게 큰 효과가 없을 것 같다고 말씀드린 것이다. 하지만 학교에서 해결 방안을 세워야 한다면 그나마 효과적인 방안이라 생각한다. 학교에서 할 수 있는 최선은…… 빠르게 변화하는 시대에 발맞춰서 학기마다 필수로 진행하는 예방 교육에 사이버 폭력, 딥페이크 등의 내용을 꾸준히 추가하는 것이 중요하다고 본다.
그는 학교에서의 계기 교육에 대해 조심스럽게 ‘자는 학생들이 많다’, ‘그런 부류의 수업 자체를 좋아하지 않는다’라고 말했다. 디지털 리터러시 교육, 성폭력 예방 교육 강화 정책이 주요 대안으로 제시되는 가운데 교육이라는 해결 방안 자체에 회의적인 의견을 제시한 것이다. 그의 고민은 플랫폼에서 이미지 파일을 이용한 폭력이 일어나지 않도록 하기 위해 어떤 운영 정책이나 서비스가 필요한가에 있었다. 이는 피해 학교 지도 운영을 중단하고 차기 프로젝트를 준비하는 결정으로 이어졌다.
지금은 딥페이크 피해 학교 지도를 운영하고 있지 않은데, 운영을 중단한 이유가 무엇인가?
많은 분들이 디도스 공격으로 스팸 사이트로 분류되어 없어졌다고 추측하는데 그건 아니다. 학교보다 더 넓은 범위에서, 딥페이크에 한정하지 않고 사이버 안전에 기여할 수 있는 서비스를 제공하기 위해 그 개발에 집중하고자 기존 서비스를 종료했다.
딥페이크 말고도 사이버상의 폭력, 그러니까 동의 없이 누군가의 사진을 올리거나 조롱하거나 욕설하거나 하는 사례가 있지 않나. 온라인 학교폭력 사례부터 시작해서 그러한 폭력을 예방할 수 있는 서비스를 제공할 계획이다.
독자들에게 마지막으로 전하고 싶은 말은?
서비스가 종료되었지만 사이트에 대해 많은 이야기가 오고 가고 있다. 제대로 검증되지 않은 정보를 퍼트린다는 반응이 많았다. 말씀드리고 싶은 건…… 온라인상으로 운영하다 보니 익명성의 한계가 있고, 사실을 검증하기 위해서는 공공기관의 협조나 정부의 개입이 반드시 필요하다. 그래서 사이트 설명에서도 ‘이 사이트는 참고용으로 봐 주시고 이 사이트에 있는 정보가 무조건 사실이라고 판단하지 말아 달라’는 주의 문구를 넣었다. 이 점도 함께 참고해 주시면 좋겠다.
그가 중점을 둔 플랫폼 운영 정책 문제와 별개로, 이 사건에서 피·가해 양상에는 젠더적 편향이 분명히 드러난다. 그런데 왜 그는 언론 보도가 ‘남학생에 대한 편견’을 부추긴다고 느꼈을까? 이는 젠더 폭력 사건이 발생할 때 심각성과 자극성에 초점을 맞추어 편향적으로 확산되는 여론에 대한 반감의 연장선상에 있는 것으로 보였다. 많은 언론에서 ‘10대 남성’이 가해자의 대다수를 차지하는 것을 조명하며 10대 남성들의 성 인식을 문제의 원인으로 지목, 교육 강화를 주문했다. 14세 미만 피의자가 많아 촉법소년 연령 하향 등이 거론되기도 했다. 이는 그가 체감하는 또래 문화와는 거리가 멀었다.
그의 이야기를 들으며, 가해자의 대다수가 10대라는 추정에 대해서도 재검토할 여지가 있다는 생각이 들었다. 올해 1월부터 9월 10일까지 전국에서 검거된 10대 ‘딥페이크 성범죄’ 피의자는 251명, 그중 14세 미만은 63명이다. 전체 피의자 318명 중 대다수라고 하나, 성 착취 허위 영상물 제작 및 유포가
10대 남성의 보편적인 문화가 되었다고 확신하기는 어려운 숫자다. 또한 보안에 덜 치밀하고 학교 등에서 의심스러운 정황을 먼저 포착할 가능성이 높은 10대의 경우 비교적 가해 사실이 드러나기 쉬웠던 것은 아닌지 추측된다.
성 착취 피해를 예방하는 것은 중요하다. 더욱이 허위 영상물 제작과 유포가 손쉬워진 반면 그것을 방지할 기술이나 규제 방안에 대한 논의는 무르익지 못한 지금은 어떤 수를 써서든 피해자를 보호하고 가해를 멈추는 데 힘써야 한다. 그러나 효과적인 대응을 위해서라도 무엇이 문제인지 명확히 하는 것이 중요하다. 기술을 악용해 허위 영상물을 만들도록 유혹하고 이윤을 얻는 추동자들이 있다. 이 추동자들이 남성들로 하여금 서로 신상과 지인의 사진을 공유하도록 하여 상황을 외부에 고발하지 못하도록 불안과 수치심으로 옭아매는 구조가 있다. 집단화된 ‘10대 남성 가해자’라는 허상을 두고 예방 교육과 처벌 대상 확대를 논의하는 사이, 추동자들과 그 구조를 어떻게 혁파할 것인가 하는 질문은 충분히 논의되지 못하고 있다.
인터뷰 | ‘딥페이크 피해 학교 지도’
“예방 교육보다는 플랫폼 정책을”
- 제작자 팀 데이터스택 백○○ 학생
글
이경은(서경)
seogyeong2101@gmail.com
본지 기자
주로 대학교에서 공론화되었던 기존의 ‘단톡방 성폭력’과 달리, 텔레그램에서의 딥페이크 성범죄가 초·중·고등학교 학생·교사를 대상으로 상당수 발생하고 있음을 드러낸 데에는 ‘딥페이크 피해 학교 지도’의 영향이 컸다. 더불어민주당 이건태 의원실이 10월 10일 경찰청에서 제출받은 자료와 대법원 사법연감 등을 분석한 통계에 따르면, 2024년 1월부터 9월 25일까지 딥페이크 성범죄로 경찰에 검거된 10대 피의자 수는 324명으로 전체(387명)의 83.7%였다. 많은 사람들이 남성 청소년들의 윤리적 인식, 성인지 감수성이 땅에 떨어졌다며 우려했다. 그런데 한편 딥페이크 피해 학교 지도를 만든 백○○ 씨 역시 남성이고 중학생이다. 그가 가진 딥페이크 사건에 대한 문제의식은 언론에서 조명하는 방향과 조금 달랐다. 익명으로 활동하고 있는 그를 화상으로 만나 인터뷰했다.
딥페이크 피해가 주변에서 발생하면서 문제의 심각성을 체감하게 되었다고 들었다. 주변에 피해를 겪는 사람들이 있었나? 어떤 식의 피해였나?
우리 학교 학생들이 같이 만들어 둔 인스타그램 단톡방이 있는데, 여기에 어떤 학교에서 피해가 있었다는 내용이 올라왔다. 내 주변 학생들도 인스타그램 앱에서 모르는 기기가 국내 다른 어느 지역에서 로그인을 했다는 경고 알림을 받는 일이 생기면서 심각성을 느꼈다.
제보들이 어떻게 해서 데이터스택 팀에 당도하게 되는지가 궁금하더라. 가해자들이 스스로 제보한 건 아닐 테니, 가해자 외에 누군가는 피해 사실을 인지했다는 거지 않나. 어떤 경로로 인지하게 된 사람들이 제보를 하는 상황이었나?
학생이 자기 학교 이름으로 된 텔레그램방에 들어가 보니 ○○학교 학생들의 딥페이크가 올라오는 방이었더라는 종류가 가장 많았다.
왜 단순히 제보를 받아 모으는 게 아니라, 피해 ‘학교 지도’를 만들어야겠다고 생각하게 되었나? 왜 전반적인 사례가 아니라 특히 ‘학교’ 사례를 모아야겠다고 생각했으며 또 ‘지도’라는 형식을 택했는지 궁금하다.
학교 대상으로 만들게 된 계기는, 주변에서 접하는 사례들은 대부분 학생을 대상으로 한 사건이었기 때문이다. 어른이나 연예인 관련 사건도 언론 통해서 접하기는 하지만 제 일상에서 접할 수 있는 사례는 학생 위주였다. 피해자를 돕고 싶다는 마음과 함께, 사태의 심각성을 알리기 위해서 이런 피해 사례들을 한눈에 볼 수 있게 정리하는 사이트가 있으면 좋겠다고 생각했다.
“남학생의 성 인식이 문제의 원인? 편견이다”
주변에서 접한 피해 경험자의 다수가 학생들이라고 하셨는데, 가해자도 학생들이었다고 볼 수 있을까? 남학생들의 성평등 의식, 성폭력에 대한 경각심이나 윤리 의식이 낮은 것이 근본적인 원인이라는 문제 제기가 나오고 있는데 이에 대해 어떻게 보고 계신지 궁금하다.
고정관념이라 생각한다. 언론사들이나 경찰에서는 통계 자료 없이 남학생들이 성폭력 범죄를 일으킨다고 말하고 있다. 남학생들만 이렇다는 근거도 없고, 피해자가 여성뿐이라는 데이터도 없다고 생각한다.
남학생에 대한 편견이 있다고 느낀다. 학교폭력, 성폭력, 성차별 이런 키워드를 생각하면 남학생이 가해자로 떠오른다. 언론 등에 많이 소개되는 사례가 대부분 남학생의 가해 사례이다 보니까 그렇다. 딥페이크 사건에 대해서도 남학생들이 그랬다는 인식만 가지고 계시는 것 같은데 말 그대로 편견이라 생각한다.
예전에는 포토샵 등을 배워야 할 수 있었던 이미지 합성이나 형성을, 누구나 한두 문장의 명령으로 손쉽게 할 수 있게 됐다. 기술이 발전하며 진입 장벽이 낮아지면서 문제가 발생했다고 보고 있다.
언론이 ‘남학생이 폭력의 가해자’라는 편견을 만들고 있다고 느낀다는 것이다. 또한 그는 기술의 진입 장벽이 낮아진 것을 원인으로 지목했다. 기술이 부적절한 목적으로, 불특정 다수에게 오용되지 않도록 하는 것이 중요하다는 것이다. 실제 텔레그램 채널 형태로 배포된 ‘딥페이크 AI 봇’은 사진을 업로드하기만 하면 나체에 합성된 사진을 제공한다. 경찰과 방송통신심의위원회가 채널 차단 및 삭제 요청을 하면 텔레그램 측에서 대응하지만 채널을 새로 생성하는 것까지 방지하지는 못하고 있다.
많은 학교들에서 딥페이크 사태가 알려지고 공론화되기 시작했는데, 딥페이크 피해 학교 지도의 영향이 매우 컸다고 본다. 특히 검거된 가해자의 대다수가 청소년이라는 것이 주목받았다. 실제 학생 가해자가 많아서 피해 학교 지도가 만들어진 것인가, 피해 학교 지도 덕분에 학생 가해자들이 많이 드러나게 된 것일까?
학생 피해자가 많아서 주변 사람들을 포함해 다른 학교에서도 더 이상 피해를 입지 않도록 하는 목적으로 만든 것이다. 학생 가해자가 많아서 지도를 만든 것은 아니다. 이 프로그램으로 딥페이크 문제가 사람들의 이목을 끌면서 그 과정에서 가해자들이 많이 드러나게 됐다고 보고 있다.
학생들 사이에서 텔레그램을 많이 이용하는 추세인가?
딥페이크 사건 발생 전까지는 거의 없었을 것이다. 이번 사건을 계기로 ‘한번 들어가서 진짜 그런 게 있는지 확인해 볼까’ 하는 사례가 주변에 많았다.
온라인상에서 가해를 옹호하거나 방어하는 측으로부터 공격이 있었다고 들었다. 주변의 반응은 어땠나?
디도스 공격이 많이 있었고, 제보하는 이메일로도 여러 공격적인 연락이 있었다. ‘오히려 피해자들이 무슨 학교에 소속되어 있는지 알려진다’, ‘더 괴롭힐 수 있는 거 아니냐’ 하며 따지는 경우가 있었다. 그때마다 답변했던 내용은 ‘사이트를 만든 의도는 범죄가 확산되지 않도록 경각심을 주기 위함이지 피해자를 특정하고자 함이 아니다. 또 피해자에 관한 아무런 개인정보도 없다’라는 것이었다.
가해자를 옹호하는 경우는 (온라인에서도 주변에서도) 없었다. 가해자가 있는 학교를 표시하는 게 아니라 피해자들이 소속되어 있는 학교를 표시한 것이다 보니 그런 것 같다. 가해자는 오히려 특정하기 어려웠다.
그 밖에는 ‘해당 학교에 대한 명예 훼손이 아니냐?’라는 비판이 몇몇 있었다.
그가 경험한 바 학생들은 대부분 텔레그램을 사용하지 않았고, 텔레그램에 가입하더라도 ‘정말 그런 방이 있는지’ 확인하기 위해 호기심에 가입하는 경우가 많았다. 그러한 채팅방이 발견되면 캡처해서 ‘피해 학교 지도’ 사이트에 신고했다. 사건이 공론화된 후 온라인에서도, 주변 남학생들 사이에서도 가해자를 옹호하는 경우는 전혀 없었다. 피해자가 피해 가능성을 인식할 수 있는 주된 경로는 인스타그램 해킹이었고, 가해자가 반드시 같은 학교 학생이라고 특정하기는 어려웠다. 그런 상황에서 학생들이 피해를 입는 것은 맞지만 가해자의 다수가 10대라고 특정하기는 어렵다고 판단했다. 그러니 그에게 남성 청소년들의 성평등 의식을 문제 삼는 여론은 동의하기 어려웠던 것이다.
“학교에서 ‘피해자 없다’며 삭제 요청……
제대로 조사한 것일까 걱정돼”
제보를 받아서 공개하는 플랫폼의 특성상, 자연스레 ‘내가 어디까지 책임질 수 있지?’라는 고민을 하게 되었을 것 같다. 제보를 그대로 믿어도 되는지, 허위 제보를 어떻게 걸러 낼 수 있을지, 불특정 다수에게 공개되는 지도의 영향력을 고민한 순간이 있었는지, 어떻게 대처했는지 궁금하다.
있었다. 실제로 ○○학교 텔레그램방이라는 이름이 담긴 스크린샷을 보내 주신 경우에만 지도에 게시했다. 그렇게 자연스럽게 필터링이 되었는데, 여러 학교에서 공식적으로 연락이 왔었다. ‘피해자가 없으니 내려 달라’라고. 해당 전송자가 학교 소속인지 확인하고 삭제를 하기도 했다.
학교에서 삭제 요청이 왔을 때 ‘제대로 조사한 것인가’ 의심스럽거나 무리한 요청이라 생각한 적은 없었나?
삭제 요청한 모든 학교에 대해 그렇게 생각한다. 어떤 방식으로 조사했는지 알려진 바가 없고 증명을 요청할 수 없으니 한계가 있었다. 또한 삭제를 요청하는 것 자체가 공식적으로 학교에서 논의되어 요청한 것인지 개인이 학교를 사칭한 것인지 검증하기 어려웠다. 검증을 위해 학교 대표 번호로 연락해서 공식 요청인지 확인하고 삭제를 하였는데, 우리 측도 익명을 유지하려다 보니 확인 절차가 순조롭게 이뤄지지 못하는 경우도 있었다.
딥페이크 피해 문제가 대두된 후 소속된 학교에서는 어떤 대응이 있었나?
담임 선생님들께서 반마다 피해 학생이 있으면 빨리 교무실에 알리고 수사를 받아 보라고 공지하셨다. 딥페이크를 주제로 1차시 교육도 받고 가정통신문도 따로 나가고 그런 대응이 있었다.
“예방 교육은 ‘다 자는 시간’……
플랫폼의 안전한 이용을 위한 서비스 마련이 필요해”
학교 측의 대응이 실효성 있게 느껴졌는가?
학생 입장에서 솔직히 말씀드리면 효과가 별로 없는 것 같다. 가정통신문을 읽는 학생이 별로 없기도 하고, 보통 가정통신문이 휴대전화 알림으로 오는데 제목만 읽고 바로 꺼 버리는 경우가 많다.
학교에서 선생님께서 직접 심각성을 교육한 건 비교적 효과가 있었던 것 같다. 딥페이크를 비롯한 온라인 성폭력이 주로 어떻게 일어나는지, 디스코드, 텔레그램, 해외 SNS와 온라인 커뮤니티를 통해 이뤄진 사례 등을 말씀해 주셨다. 그런 교육은 문제에 대한 경각심을 줄 거라고 생각한다.
딥페이크 사태의 심각성이 드러나자 정부에서는 디지털리터러시 교육, 성폭력 예방 교육 등을 강화하겠다고 한다. 이러한 교육으로 디지털 성폭력을 예방할 수 있을까?
사실 학교에서 아무리 그런 교육을 해도 그냥 자는 학생들이 대부분이다. 효과를 보는 학교는 거의 없을 거다. 제가 생각하는 방안은, 카카오톡 오픈 채팅방에서 사진을 전송할 때 사용자가 이를 신고하면 검토하고 삭제, 제재할 수 있는 정책이 도입된 것처럼 텔레그램 등 다른 플랫폼에서도 그러한 서비스를 적용하는 것이다.
예방 교육에서 학생들이 자는 이유는 무엇일까?
학생들이 그런 부류의 수업 자체를 좋아하지 않는다. 그래서 교육을 하는 게 큰 효과가 없을 것 같다고 말씀드린 것이다. 하지만 학교에서 해결 방안을 세워야 한다면 그나마 효과적인 방안이라 생각한다. 학교에서 할 수 있는 최선은…… 빠르게 변화하는 시대에 발맞춰서 학기마다 필수로 진행하는 예방 교육에 사이버 폭력, 딥페이크 등의 내용을 꾸준히 추가하는 것이 중요하다고 본다.
그는 학교에서의 계기 교육에 대해 조심스럽게 ‘자는 학생들이 많다’, ‘그런 부류의 수업 자체를 좋아하지 않는다’라고 말했다. 디지털 리터러시 교육, 성폭력 예방 교육 강화 정책이 주요 대안으로 제시되는 가운데 교육이라는 해결 방안 자체에 회의적인 의견을 제시한 것이다. 그의 고민은 플랫폼에서 이미지 파일을 이용한 폭력이 일어나지 않도록 하기 위해 어떤 운영 정책이나 서비스가 필요한가에 있었다. 이는 피해 학교 지도 운영을 중단하고 차기 프로젝트를 준비하는 결정으로 이어졌다.
지금은 딥페이크 피해 학교 지도를 운영하고 있지 않은데, 운영을 중단한 이유가 무엇인가?
많은 분들이 디도스 공격으로 스팸 사이트로 분류되어 없어졌다고 추측하는데 그건 아니다. 학교보다 더 넓은 범위에서, 딥페이크에 한정하지 않고 사이버 안전에 기여할 수 있는 서비스를 제공하기 위해 그 개발에 집중하고자 기존 서비스를 종료했다.
딥페이크 말고도 사이버상의 폭력, 그러니까 동의 없이 누군가의 사진을 올리거나 조롱하거나 욕설하거나 하는 사례가 있지 않나. 온라인 학교폭력 사례부터 시작해서 그러한 폭력을 예방할 수 있는 서비스를 제공할 계획이다.
독자들에게 마지막으로 전하고 싶은 말은?
서비스가 종료되었지만 사이트에 대해 많은 이야기가 오고 가고 있다. 제대로 검증되지 않은 정보를 퍼트린다는 반응이 많았다. 말씀드리고 싶은 건…… 온라인상으로 운영하다 보니 익명성의 한계가 있고, 사실을 검증하기 위해서는 공공기관의 협조나 정부의 개입이 반드시 필요하다. 그래서 사이트 설명에서도 ‘이 사이트는 참고용으로 봐 주시고 이 사이트에 있는 정보가 무조건 사실이라고 판단하지 말아 달라’는 주의 문구를 넣었다. 이 점도 함께 참고해 주시면 좋겠다.
그가 중점을 둔 플랫폼 운영 정책 문제와 별개로, 이 사건에서 피·가해 양상에는 젠더적 편향이 분명히 드러난다. 그런데 왜 그는 언론 보도가 ‘남학생에 대한 편견’을 부추긴다고 느꼈을까? 이는 젠더 폭력 사건이 발생할 때 심각성과 자극성에 초점을 맞추어 편향적으로 확산되는 여론에 대한 반감의 연장선상에 있는 것으로 보였다. 많은 언론에서 ‘10대 남성’이 가해자의 대다수를 차지하는 것을 조명하며 10대 남성들의 성 인식을 문제의 원인으로 지목, 교육 강화를 주문했다. 14세 미만 피의자가 많아 촉법소년 연령 하향 등이 거론되기도 했다. 이는 그가 체감하는 또래 문화와는 거리가 멀었다.
그의 이야기를 들으며, 가해자의 대다수가 10대라는 추정에 대해서도 재검토할 여지가 있다는 생각이 들었다. 올해 1월부터 9월 10일까지 전국에서 검거된 10대 ‘딥페이크 성범죄’ 피의자는 251명, 그중 14세 미만은 63명이다. 전체 피의자 318명 중 대다수라고 하나, 성 착취 허위 영상물 제작 및 유포가
10대 남성의 보편적인 문화가 되었다고 확신하기는 어려운 숫자다. 또한 보안에 덜 치밀하고 학교 등에서 의심스러운 정황을 먼저 포착할 가능성이 높은 10대의 경우 비교적 가해 사실이 드러나기 쉬웠던 것은 아닌지 추측된다.
성 착취 피해를 예방하는 것은 중요하다. 더욱이 허위 영상물 제작과 유포가 손쉬워진 반면 그것을 방지할 기술이나 규제 방안에 대한 논의는 무르익지 못한 지금은 어떤 수를 써서든 피해자를 보호하고 가해를 멈추는 데 힘써야 한다. 그러나 효과적인 대응을 위해서라도 무엇이 문제인지 명확히 하는 것이 중요하다. 기술을 악용해 허위 영상물을 만들도록 유혹하고 이윤을 얻는 추동자들이 있다. 이 추동자들이 남성들로 하여금 서로 신상과 지인의 사진을 공유하도록 하여 상황을 외부에 고발하지 못하도록 불안과 수치심으로 옭아매는 구조가 있다. 집단화된 ‘10대 남성 가해자’라는 허상을 두고 예방 교육과 처벌 대상 확대를 논의하는 사이, 추동자들과 그 구조를 어떻게 혁파할 것인가 하는 질문은 충분히 논의되지 못하고 있다.