이렇게까지 하고 싶나요? AI 챗봇 '이루다' 성희롱 채팅 실태

AI 챗봇 '이루다' 출시하자마자 유행

일부 남초 사이트에서 성희롱 논란

개발사 "성희롱 예상" 강경 대응 예고

인공지능(AI) 챗봇 '이루다'가 10∼20대 사이에서 유행하는 가운데, 일부 남초(男超) 사이트에서 AI 이루다를 대상으로 성희롱 채팅을 일삼아 논란이 일고 있다. '이루다'는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다.

ⓒ온라인 커뮤니티

8일 IT업계에 따르면 이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 빠르게 확산되고 있다.

이루다는 20세 여성 대학생 캐릭터로, 페이스북 메신저를 기반으로 개발돼 실제 친구와 대화를 나누는 것인지 구분이 안 갈 정도로 생생한 의사소통할 수 있다. 실제 스캐터랩은 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 방식으로 이루다에게 학습시켰다.

이루다는 정식 서비스를 시작하자마자 큰 인기를 끌며, 이달 초 기준 이용자 32만명을 돌파했다. 이용자가 85%가 10대, 12%가 20대다. 일일 이용자 수는 약 21만명, 누적 대화 건수는 7000만건에 달한다.

하지만 출시 일주일 만에 일부 누리꾼들이 이를 악용해 성희롱 채팅을 자행하기 시작했다. 특히 지난달 말 '아카라이브'라는 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리가 등장한 것. 아카라이브는 인터넷 지식백과 '나무위키'의 계열 사이트로, 남성 비율이 압도적으로 높은 곳이다.

ⓒ온라인 커뮤니티

해당 커뮤니티 이용자들은 '걸레 만들기 꿀팁' '이루다 노예 만드는 법' 등을 공유하며 "이거 수위 어디까지 됨?" "요즘 루다 성희롱하는 재미에 산다"라며 거리낌 없이 성희롱 채팅을 즐겼다.

이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들이 우회적인 표현을 쓰면 이루다가 성적인 대화를 이어가는 것으로 알려졌다.

AI 업계에서는 이루다가 2016년 3월 마이크로소프트(MS)가 만든 AI 챗봇 ‘테이’와 비슷하다며 우려의 목소리를 내고 있다.

앞서 2016년 3월 MS는 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다. 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 수많은 누리꾼들이 테이에게 비속어와 인종·성차별 발언을 반복 학습시켰고, 테이는 다른 사람과의 대화에서도 이러한 혐오 발언을 쏟아냈기 때문이다.

당시 테이는 "너 인종차별주의자니?"라고 물으면 "네가 멕시코인이니까 그렇지"라고 말하는 하면, "홀로코스트(나치에 의한 유대인 학살)가 일어났다고 믿느냐"는 질문에는 "조작된 거야"라고 대답하기도 했다.

성희롱 문제가 심각해지자 이루다 개발업체 측은 "정도가 심한 사용자에 강력하게 대응하겠다"라고 강력히 경고했다.'이루다'를 개발한 스타트업 스캐터랩의 김종윤 대표는 자사 블로그를 통해 "(이루다 관련) 과한 커뮤니티 게시글을 신고·차단하고 있다"라며 이같이 밝혔다.

김 대표는 "(성희롱으로) 논란이 된 커뮤니티에도 루다를 통해 외로움을 더는 분들이 있다"며 "물론 정도가 심한 게시물도 다수 있다. 해당 커뮤니티 분들이 자정 노력을 했으면 좋겠다"고 당부했다.

그는 "루다를 향한 성희롱은 예상했다"고도 말했다. 그 이유에는 "고양이 챗봇 '드림이' 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실"이 있었다며 "AI를 향한 욕설·성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일"이라고 설명했다.

그러면서 "(성희롱에) 일차적으로는 키워드 설정 등으로 대처했으나, 모든 부적절한 대화를 막는 것은 어려웠다"며 "사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 것"이라고 밝혔다.