개인정보 유출 AI 챗봇 ‘이루다’, 과징금 1억330만원

이용자 카톡 대화 수집해 다른 서비스에 무분별 이용

첫 제재 사례로 AI 기술 기업 개인정보 처리 방향 제시

스캐터랩 AI 챗봇 ‘이루다’.ⓒ스캐터랩

개인정보보호위원회는 28일 제7회 전체회의를 열고 챗봇 ‘이루다’ 개발사 스캐터랩에 대해 총 1억330만원의 과징금과 과태료 등을 부과했다고 밝혔다.

이는 인공지능(AI) 기술 기업의 무분별한 개인정보 처리를 제재한 첫 사례다.

개인정보위는 지난 1월 12일 언론보도를 통해 조사에 착수했다. 당시 스캐터랩이 연애 분석 애플리케이션(앱) ‘연애의 과학’과 ‘텍스트앳’으로 이용자들 카카오톡 대화를 수집해 AI 챗봇 이루다를 제작했다는 의혹이 제기됐다.

조사 결과 이는 사실로 드러났다. 스캐터랩은 이루다 AI 모델의 개발을 위한 알고리즘 학습 과정에서 카카오톡 대화에 포함된 이름·휴대전화번호·주소 등의 개인정보를 삭제하거나 암호화하는 등의 조치를 전혀 하지 않고 이용자 약 60만명의 카카오톡 대화문장 94억건을 이용했다.

이루다 서비스 운영 과정에서는 20대 여성의 카카오톡 대화문장 약 1억건을 응답 데이터베이스(DB)로 구축하고 이루다가 이 중 한 문장을 선택해 발화할 수 있도록 운영했다.

스캐터랩은 텍스트앳과 연애의 과학 이용자 개인정보처리방침에 ‘신규 서비스 개발’이라는 포함시켰다. 하지만 개인정보위는 이용자가 이에 동의하는 것만으로는 이루다와 같은 신규 서비스 개발 목적의 이용에 동의했다고 보기 어렵다고 봤다.

또 ‘신규 서비스 개발’이라는 문구 만으로는 이용자가 이루다 개발과 운영에 카카오톡 대화가 이용될 것에 대해 예상하기 어려우며, 이용자의 개인정보 자기결정권이 제한되는 등 예측할 수 없는 손해를 입을 우려가 있다고 봤다.

종합적으로 개인정보위는 스캐터랩이 이용자 개인정보를 수집한 목적을 벗어나 이용했다고 판단했다.

스캐터랩은 개발자 코드 공유·협업 사이트 깃허브(Github)에 지난 2019년 10월부터 올해 1월까지 이름 22건(성은 미포함)과 지명정보(구·동 단위) 34건, 성별, 대화 상대방과의 관계(친구 또는 연인) 등이 포함된 카카오톡 대화문장 1431건과 함께 AI 모델을 게시했다.

개인정보위는 이 행위가 가명정보를 불특정 다수에게 제공하면서 ‘특정 개인을 알아보기 위해 사용될 수 있는 정보’를 포함했기 때문에 개인정보 보호법 제28조의2제2항을 위반한 것이라고 판단했다.

개인정보위는 조사 과정에서 정보주체가 명확히 인지할 수 있도록 알리고 동의를 받지 않은 사실 등 추가 위반사실을 확인했다.

이루다와 관련된 사항을 포함, 총 8가지 개인정보 보호법 위반행위에 대해 스캐터랩에 총 1억330만원의 과징금과 과태료를 부과하고 시정조치를 명령했다.

윤종인 개인정보위 위원장은 “이루다 사건은 전문가들조차 의견이 일치되지 않아 그 어느 때보다도 격렬한 논쟁이 있었고 매우 신중한 검토를 거쳐 결정됐다”고 말했다.

이어 “이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고 개인정보 처리에 대해 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다”고 말했다.

윤 위원장은 “이 건에 대한 처분 결과가 AI 기술 기업이 개인정보를 이용할 때에 올바른 개인정보 처리 방향을 제시하는 길잡이가 되고 기업이 스스로 관리·감독을 강화해 나가는 계기가 되길 바란다”고 덧붙였다.