대선 앞두고 '가짜뉴스 주의보'…'딥페이크' 범죄 무더기 법정행 우려

이재명 선대위, 허위사실 유포자 17명 법적 대응

대선 기간 선거사범수 증가 추세…역대 최고 예상

공직선거법 위반 시 '7년 이하 징역·5000만원' 벌금

선관위 딥페이크 범죄 모니터링 강화…"심각하게 봐"

6·3 대선을 앞두고 딥페이크를 활용한 가짜뉴스 확산 우려가 제기된다.(자료사진) ⓒ게티이미지뱅크

6·3 대선을 앞두고 인공지능(AI) 기술을 활용한 딥페이크(Deepfake)가 정치공작과 가짜뉴스 유포에 적극 활용될 수 있단 우려가 제기된다. 공직선거법 개정으로 처벌 근거가 마련돼 있는 가운데 딥페이크가 횡행할 경우 선거사범 입건자 수가 쏟아질 것으로 보인다.

16일 법조계에 따르면 이재명 더불어민주당 대선 예비후보 선거대책위원회는 이날 이 예비후보 얼굴을 합성한 딥페이크 영상 유포자와 허위사실 유표자 등 17명(9건)에 대한 법적 대응에 나섰다.

딥페이크는 딥러닝(Deep learning)과 페이크(Fake)의 합성어로, AI 기술을 이용해 제작된 가짜 동영상 또는 제작 프로세스 자체를 말한다.

이 예비후보 선대위는 허위조작정보를 담은 영상과 게시글 작성자 및 유포자를 공직선거법 위반으로 수사기관에 고발하고, 모니터링을 강화해 딥페이크 등 허위조작정보 유포자에 대한 엄중한 법적 책임을 묻겠단 방침이다.

선거 기간 딥페이크를 이용한 허위사실 유포는 AI 기술이 발달하고 유권자들에게 접근성이 높아짐에 따라 매해 늘고 있다. 이에 이 예비후보 뿐 아니라 여야를 가리지 않고 고소·고발이 남발할 것으로 보여 이번 대선 기간 선거사범이 역대 최고 수준을 기록할 수 있단 우려섞인 전망이 나온다.

실제로 대검찰청 자료를 보면 대선 기간 선거사범수는 갈수록 급증하고 있다. 특히 눈여겨 볼 부분은 허위사실 공표의 비중이 높아지고 있단 점이다.

지난 2022년 20대 대선 당시 입건된 선거사범수는 732명으로 19대 대선 선거사범수(435명)과 비교해 68.3%(297명)나 증가했다. 18대 대선(287명)과 비교하면 155.0%(445명)나 불어난 수치다.

아울러 20대 대선 당시 입건 유형 중 허위사실 공표의 비중은 58.9%(431명)로 과반을 넘어섰는데, 이는 18대(34.8%·100명), 19대(29.0%·126명) 대선과 비교해 비중이 크게 증가한 것이다.

제18~20대 대선 선거사범 유형별 입건 현황. ⓒ대검찰청

과거와 달리 이번 대선에서 딥페이크를 이용해 허위사실을 유포할 경우 피의자에 대한 법적 처벌 강도는 중할 예정이다. 지난 2023년 국회가 선거일 90일 전부터 딥페이크를 활용한 선거 운동을 원천 금지하는 것을 골자로 한 공직선거법 개정안을 통과시켰기 때문이다.

대선이 50여 일 앞으로 다가온 만큼 딥페이크 범죄자는 공직선거법 적용을 받을 수 있다. 개정된 공직선거법을 위반할 경우 7년 이하의 징역이나 1000만∼5000만원의 벌금에 처해진다.

현재 선거관리위원회는 딥페이크 범죄 모니터링 강화에 들어갔다. 선거 특별대응팀 내 '허위사실비방 딥페이크 검토자문단'을 꾸리고 AI 기술을 활용한 허위 콘텐츠 단속에 나섰다.

구체적으로 선관위는 네이버·구글 등과 핫라인을 구축해 가짜 영상 배포 여부를 신속하게 파악하고 삭제 요청을 할 방침이다. 경찰도 전국 278개 경찰서에 설치한 선거사범 수사상황실을 통해 딥페이크 관련 선거 범죄를 집중 단속 중이다.

선관위 관계자는 "지난 총선 후 1년 사이 챗(Chat)GPT 열풍이 불면서 AI 기술이 많이 대중화된 만큼 이번 대선 땐 관련 문제가 훨씬 심각할 수 있다고 보고 있다"고 말했다.