中 텐센트 AI, 반복 명령하자 욕설 퍼부어 논란

텐센트 위안바오, 새해 인사 이미지에 욕설 담겨

마화텅 텐센트그룹 회장이 지난달 29일 열린 정기 주주총회에서 공식 연사를 맡아 ‘중국판 카카오톡’인 위챗 기반 e커머스 사업과 글로벌 게임 사업을 중요한 축으로 제시하고 있다. ⓒ로이터/연합뉴스

중국 빅테크(기술대기업)가 만든 생성형 인공지능(AI) 서비스가 사용자와의 대화 도중 욕설을 쏟아내는 일이 벌어져 논란이 일고 있다.

중국 매체 홍성신문 등에 따르면 중국 중부 산시성 시안의 한 변호사는 춘제(春節·중국의 설) 연휴 기간 텅쉰(騰訊·Tencent)그룹의 생성형 AI 서비스 '위안바오'(元寶)를 이용해 새해 인사용 이미지를 제작하던 중 욕설이 포함된 문구가 생성됐다고 밝혔다. 위안바오는 텅쉰이 자체 거대언어모델(LLM)을 기반으로 선보인 대화형 AI 서비스다.

이 변호사는 위안바오에 자신의 사진을 업로드한 뒤 “나는 변호사이니 직업 특성에 맞는 새해 인사 이미지를 제작해 달라”고 지시했다. 초기 결과가 기대에 못 미쳐 몇 차례 추가 지시를 내렸다. 이 과정에서 위안바오는 “이게 무슨 디자인이냐”는 취지의 불만을 표현했다. 이후 새로 생성된 이미지에 기존의 “새해 복 많이 받으세요, 영전하시길 바랍니다”라는 문구 대신 욕설이 삽입됐다고 이 변호사는 전했다.

이 같은 사례가 소셜미디어(SNS)를 통해 확산되자 텅쉰 측은 25일 사과와 함께 재발 방지를 약속했다. 텅쉰은 “모델이 여러 차례 대화를 처리하는 과정에서 비정상적인 결과가 발생했다”며 “관련 문제를 긴급 교정하고 사용자 경험을 최적화했다”고 해명했다.

이번 사례는 중국이 생성형 AI 경쟁에서 빠르게 존재감을 키우는 가운데 발생했다는 점에서 주목된다. 텅쉰과 바이두, 알리바바 등 중국 주요 빅테크들은 잇따라 자체 LLM을 고도화하며 상용 서비스를 확대하고 있다. 중국 광저우일보는 “기술은 죄가 없지만 그대로 두는 것은 방임”이라며 “AI는 사람의 학습 능력과 지식만을 습득해서는 안 되고, 인류의 양심도 계승해야 한다”고 지적했다.