"AI 활용 '허위 판례' 인용시 과태료 부과해야"…법원행정처, 대안 마련 나서

'AI 활용 허위 주장·증거 제출 대응 TF' 활동 결과 공개

지난달 사법정보공개포털에 '허위 사건번호 확인' 기능 추가

서울 서초구 대법원 청사. ⓒ데일리안DB

최근 소송 절차 내 인공지능(AI)을 활용한 사례가 늘어나고 있는 가운데 사법부가 대응책 마련에 나섰다.

대법원 법원행정처는 31일 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'가 지난 5개월 동안의 활동 결과를 공개했다.

법조계에서는 최근 AI 기술의 발전·보급으로 소송당사자 및 법률전문가들의 사법절차 내 AI 사용이 증가하는 추세를 보이고 있다.

그러나 AI의 '환각(hallucination)' 현상에 따른 허위의 법령·판례 또는 위·변조된 증거가 제출될 우려가 높아지고 있고 실제 각급 법원에서 AI를 활용해 허위 법령 또는 허위 판례를 인용한 사례가 다수 보고되고 있다.

'AI 환각' 현상이란 AI가 잘못된 정보를 그럴듯하게 제시하는 것을 뜻한다.

이에 따라 과도한 사법자원의 소모를 방지하고 사회적 비용을 최소화하기 위해 적절한 대응 방안을 마련할 필요성이 높아졌고 법원행정처는 지난해 11월부터 이번 달까지 법관 8명·변호사 2명으로 구성된 'AI 활용 허위 주장·증거 제출 대응 TF'를 운영했다.

TF는 각급 법원의 의견을 수렴하고, 관계 법령과 해외의 판결 및 실무동향, 국제적 경향 등을 조사했고 현 시점에서 법원이 취할 수 있는 대응 방안을 제시했다.

TF는 당사자 또는 대리인이 AI를 활용해 허위 법령 등을 인용함으로써 불필요한 소송비용을 발생시켰거나 소송을 지연시킨 경우, 그로 인해 발생한 소송 비용의 전부 또는 일부를 부담하게 할 수 있게 했다.

아울러 허위 법령·판례 등이 인용된 서면에 대해선 변론에서 그 진술을 제한할 수 있고, 판결문에 '원고가 제시한 판결은 존재하지 않는 사건번호'와 같은 방식으로 관련 내용이 허위임을 적시할 수 있게 했다.

나아가 변호사가 AI 생성 허위 법령·판례 등을 제대로 검증하지 않고 제출한 경우 재판부가 대한변호사협회(변협)에 징계를 의뢰할 수 있게 했다. 다만, 이런 조치들을 시행할지는 개별 재판부 재량에 맡겼다.

TF는 당사자가 허위 법령 등을 인용한 경우 과태료를 부과할 수 있도록 하는 소송법 개정 방안도 제안했다.

TF는 AI를 활용한 당사자가 그 활용 사실을 재판 상대방과 법원에 고지하고, 주요 내용이 정확한지 여부를 확인하도록 하는 내용의 민사소송규칙 개정도 함께 제안했다.

이와 함께 재판 당사자가 해당 판결의 실제 존재 여부를 확인할 수 있는 서비스 제공도 제안했다. 실제 지난달 20일부터 사법정보공개포털에서 '허위 사건번호 확인' 기능이 추가되면서 누구든지 사건번호를 입력해 해당 판결서의 존재 여부를 쉽게 확인할 수 있다.

법원행정처 관계자는 "현재 시점에서 검토할 수 있는 대응 방안을 정리하고 향후 AI 기술과 실무환경의 변화에 능동적으로 대응하기 위한 기초를 다졌다"며 "AI 기술의 발전 추이와 재판에 미치는 영향 등을 면밀히 살펴서 적시에 추가 방안을 마련하고 급변하는 환경 속에서도 사법부 본연의 재판 기능을 충실히 수행하겠다"고 밝혔다.