오세훈 서울시장 "딥페이크 삭제, 지자체에서 할 수 있게 법 개정해야"

"딥페이크 영상, 7초 만에 생성돼 유포…피해 규모 추산 조차 어려워"

서울시, 자체AI기반 딥페이크 예방 기술 개발…24시간 신고 핫라인 운영

오세훈 서울시장이 3일 서울 여의도 국회 의원회관에서 열린 딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책토론회에서 발언하고 있다ⓒ뉴시스

오세훈 서울시장은 딥페이크 성범죄에 빠르게 대응하기 위해 피해 영상물 삭제 지원을 국가에서 지자체로 확대해야 한다며 관련 법령 개정을 촉구했다. 기존의 성범죄와는 양상이 완전히 다른 점을 감안해 피해자에게 보다 밀착된 지원이 필요하다는 것을 강조한 것이다.

오 시장은 3일 국회의원회관에서 개최된 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회'에 참석해 "딥페이크 성범죄는 이전과는 다른 범죄 양상인 만큼 서울시에서도 딥페이크 피해 영상물을 삭제 지원할 수 있는 제도적 장치가 필요하다"며 이같이 밝혔다.

이번 토론회는 국회의원 조은희 의원실과 한국여성인권진흥원이 주최하고, 이수정 경기대 범죄심리학과 교수, 경찰청, 서울시, 서울시교육청 등이 발제자로 나섰다.

오 시장은 "AI(인공지능)로 특정 인물의 얼굴에 음란물을 합성한 딥페이크 영상이 무분별하게 생성, 유포되면서 남녀 가리지 않고 피해자들이 생겨나고 있고, 불안감이 사회 전반에 확산되고 있다"며 "딥페이크 영상은 제작까지 단 '7초'밖에 걸리지 않고, 제작부터 유포까지 너무나 쉽게 가담할 수 있는 구조라 누구나 피해자가 될 수 있다"고 지적했다.

이어 "현재 전국적으로 피해 학교가 400개에서 500개 정도 될 것으로 추산되고는 있지만, 딥페이크 특성상 피해자가 피해 사실을 모르는 경우가 많다는 점을 고려하면 정확한 피해 규모를 추산하는 것조차 어렵다"고 지적했다.

서울시는 딥페이크 피해에 대응하기 위해 지자체 최초로 방송통신심의위원회와 협력해 피해 영상물을 24시간 내 삭제 지원하는 핫라인 시스템을 가동 중이다. '디지털 성범죄SOS상담창구'를 신설해 개설한 지 2일 만에 딥페이크 피해자 15명의 상담을 하고 있다.

진화하는 딥페이크 기술에 대응하기 위해 피해자 얼굴 사진과 유사도·정확도가 높은 영상을 검출하는AI얼굴매칭 딥페이크 검출기술인 '서울 안심 아이'를 내년 상반기까지 개발하고, 검색부터 신고까지 전 과정을AI가 자동 실시하는AI신고자동화 시스템도 연내 구축할 계획이다.

또 이달부터 초·중·고 50개 학급 1000명을 대상으로 딥페이크 예방교육을 운영하고, 재발 방지를 위해 가해자 상담·교육도 함께 추진한다.

오 시장은 "서울시에서도 딥페이크 피해 영상물을 삭제 지원 할 수 있는 제도적 장치가 필요한 만큼, 삭제 지원의 주체를 국가에서 지자체로 확대하는 법령 개정을 강력히 촉구한다"고 강조했다．

오 시장은 가해자가 아닌 사람이 가해자로 지목되는 일명 '사적 제재' 논란과 관련해 우려도 드러냈다. 오 시장은 "딥페이크 가해자에 대한 사적 제재 움직임이 확산되고 있는데, 또 다른 무고한 피해자가 발생하지 않도록 자제해주시기를 부탁드린다"고 당부했다.