'딥페이크' 공포, 선 넘었다…특정인 정보 공유하며 퍼즐 맞추듯 음란물 제작

딥페이크 기술 발달, 누구든 피해자 될 수 있다는 공포감 확산

12사단 훈련병 사망사건 계기로 여군 대상으로 하는 딥페이크까지

전문가 "AI로 제작한 영상물에는 표식 반드시 들어가도록 규제해야"

딥페이크를 제작해 공유하는 텔레그램 대화방들ⓒSNS캡처

인공지능(AI)을 활용해 정교한 가짜 영상물을 만들어내는 '딥페이크'가 빠른 속도로 유포되면서 누구든지 피해자가 될 수 있다는 공포감이 확산되고 있다. 전문가들은 "SNS의 활성화로 타인의 사진이나 영상을 쉽게 구할 수 있는 이상 누군가 악의적으로 딥페이크를 만들어내는 것을 막을 방법은 사실상 없다"면서 "제작자와 유포자에 대한 처벌을 강력하게 시행해 범죄 의도를 억제하는 것이 그나마 현실적인 방안"이라고 지적했다.

26일 경찰 등 수사당국에 따르면 최근 한 대학에서 여학생들의 얼굴에 나체사진 및 음란물을 합성한 딥페이크 영상물을 공유한 텔레그램 대화방이 적발된 데 이어 비슷한 종류의 대화방이 연이어 발견됐다.

피해 대상도 점차 확대되고 있다. 적발된 사례를 보면 일반인은 물론 교사·공무원·승무원 등 특정 직업군을 대상으로 한 딥페이크 영상물 제작방도 있는 것으로 확인됐다. 심지어는 12사단 훈련병 사망사건을 계기로 여군에 대한 혐오가 생기며 여군 사진을 합성해 음란물을 제작하는 '여군능욕방', '군수품창고' 등의 대화방까지 등장하는 실정이다.

이런 대화방들은 참여자들이 서로 저마다 피해자에 관련한 정보를 공유하며 딥페이크를 제작하는 이른바 '겹지인방' 방식으로 운영되는 경우가 많은 것으로 알려졌다. 어떤 참여자는 피해자의 이름과 연령 등의 정보를 내놓고, 다른 참여자는 SNS등을 통해 입수한 피해자의 사진을 제공, 또다른 참여자는 피해자의 주소·근무지 등의 정보를 내놓는 식으로 퍼즐을 맞춰가듯이 정보를 완성해가는 것이다.

이렇게 합성된 영상물이 피해자에 대한 구체적 정보와 함께 공개되면 피해자의 직장이나 학교에 속한 사람들이 이를 접하게 되는 것은 시간문제일 뿐이다. 이런 딥페이크로 피해를 입은 사람들은 대인기피증에 시달리거나 심할 경우 극단적 선택까지 고려하게 된다.

이런 딥페이크로 인한 피해신고는 올해만 297건에 달한다. 이 사건들은 가해자들의 연령이 매우 어린 경향을 가지고 있다. 입건된 피의자 178명 중 10대는 131명으로 무려 73.6%를 차지했다. 이들은 경찰 조사에서 대부분 "그냥 호기심으로 했다", "장난이었다"고 변명하며 본인들의 행위가 범죄라는 사실을 자각하지 못하고 있었다.

디지털영상분석 전문업체인 디지털아트랩의 문신원 대표는 "AI나 영상제작프로그램은 성인에 비해 10대 청소년들의 습득속도가 매우 빠르다"며 "이미 이들 사이에서는 어떤 프로그램이 딥페이크를 더 정교하고 효율적으로 만들어내는지에 대한 정보가 공유되고 있다"고 전했다.

문 대표는 "이는 기술의 발전속도를 사회적 책임감이 따라가지 못하고 있는 상황"이라며 "딥페이크 제작이 범죄라는 사실을 명확히 교육하고 처벌을 강화해 범죄의도를 조금이나마 억제하는 것이 그나마 현실적 방안"이라고 밝혔다.

AI프로그램에 대한 기술적 규제와 사용조건을 강화하는 것으로 어느정도 대응할 수 있다는 지적도 나왔다. 디지털재산권 분쟁 전문가인 강민구 변호사(법무법인 도울)은 "유럽에서는 AI기본법을 통해 AI로 제작한 영상물에 대해서는 필수적으로 워터마크가 삽입되도록 해 딥페이크라는 것을 사람들이 알아볼 수 있도록 하는 조치가 이뤄지고 있다"며 "물론 이런 조치로도 딥페이크 제작 자체를 막을 수는 없지만 가짜라는 것을 인식하게 해 이용자들의 관심도를 줄이는 효과는 거둘 수 있을 것"이라고 설명했다.