“AI가 하면 중립적?”…꺼지지 않는 포털 뉴스 편집 논란

다음과 네이버 모바일 뉴스 화면 캡쳐.

윤영찬 더불어민주당의 카카오 호출 메시지 논란이 포털 뉴스 편집 중립성 논란으로 확대되는 모양새다.

카카오가 뉴스 배치는 인공지능(AI)이 한다며 인위적인 편집 가능성을 일축했으나, 포털의 뉴스 편집 신뢰성에 대한 의구심은 여전하다.

전문가들은 결국 외부 개입 차단 여부, 알고리즘에 근거한 뉴스 편집의 중립성이 관건이라고 강조한다.

◆ 카카오-네이버, 머신러닝 기반 AI 뉴스 제공

양사는 AI알고리즘을 통해 뉴스의 제목, 내용, 이미지 등의 기사 자체 항목과 열독률, 클릭률, 독자의 뉴스페이지 체류 시간 등을 반영해 이용자마다 다른 뉴스를 선정해 보여주고 있다.

카카오는 2015년부터 ‘루빅스(RUBICS, 현재 카카오i)’라는 자체 AI를 통해 이용자 선호도에 맞춰 뉴스를 제공해왔다. 카카오가 ‘AI리포트에’ 공개한 내용에 따르면, 루빅스는 뉴스 특성에 맞춰 개발한 멀티암드밴딧(MAB) 알고리즘을 기반으로 한다.

해당 알고리즘은 기사 클릭률(CTR)과 열독률(DRI)을 따져 기사를 선정하며, 실제 많이 본 기사나 해당 독자와 성별이나 연령대가 같은 집단이 많이 본 기사를 추려 배열한다. 이 과정에서 위치에 따른 클릭률이나 기사의 다양성 등 변수를 조절해 정확성을 더욱 높인다.

네이버는 PC에서는 클러스터링 방식으로 언론사들의 뉴스를 편집 제공하고, 모바일에서는 AI알고리즘인 ‘에어스(AiRS)’로 뉴스를 추천한다. 기본 뉴스화면에서는 언론사가 편집한 뉴스를 보여주지만 ‘MY뉴스’에서 이용자 콘텐츠 선호도와 관심사를 반영해 뉴스를 제공한다. 에어스도 협력필터기술(CF)과 인공신경망 기술(RNN)로 사용자들의 콘텐츠 소비 패턴을 분석하고 스스로 학습해 독자마다 다른 뉴스를 선정해 보여준다.

그러나 AI가 모든 것을 대신하는 것은 아니다. 중복 기사나 광고 기사, 선정적 기사는 자동화시스템으로 걸러내도 별도 검수인력이 이를 확인한다. 또 대형사고, 재난재해, 스포츠 중계성 등 시의성이 생명인 뉴스는 우선 배치하기도 한다.

카카오 AI 뉴스 편집 시스템 '루빅스' 개요. ⓒ 카카오

◆ 전문가 “AI 방식 공개돼야...검증 시스템도 수반”

그렇다면 사람이 개입하지 않는 뉴스 배열은 중립적인가. 인공지능의 객관성 및 중립성 논의는 현재진행형이다. 전문가들은 AI 알고리즘 역시 인간이 설계하고 사용하기 때문에 편견이나 가치관 등이 반영될 수 밖에 없다고 지적한다.

포털 다음 창업자인 이재웅 전 쏘카 대표는 전날 페이스북을 통해 “많은 사람들이 AI는 가치중립적이라고 생각하지만 그렇지 않다”며 “AI가 우리가 설계한 대로 혹은 우리의 현상을 반영해서 판단할 가능성이 높다”고 의견을 밝히기도 했다. 이 대표는 AI시스템이 차별하는지 정치적으로 중립적으로 판단하기 위한 감사 시스템이 필요하다고 제언했다.

익명을 요구한 AI업체 고위 관계자는 “양사의 뉴스 편집 운영방식은 알 수가 없기 때문에 결과를 두고 외부에서 중립성을 따지기 어렵다”면서도 “AI시스템은 원천 데이터를 토대로 학습하는데, 데이터는 사람으로부터 얻어지기 때문에 바이어스(bias, 편향성)가 생길 수 밖에 없는 구조”라고 말했다.

데이터가 편향됐다면 AI도 한쪽으로 치우치거나 왜곡된 선택을 할 수 있다는 설명이다. 결국 AI 기술이 더 정교해야 하며, AI가 잘 운영되는지 후속 추적이 필수 동반돼야 한다. 양사는 AI알고리즘을 일부 공개하고 있는 수준이다.

외부 검증 시스템 또한 미흡하다. 네이버는 2018년 외부 전문가로 구성된 네이버 뉴스 알고리즘 검토위원회를 구성해 딱 한번 검토를 받은 바 있다. 카카오는 미디어자문위원회를 통해 뉴스 알고리즘 등 미디어 주요 사안에 대한 전문가 조언을 공유받고 있다.

네이버는 당시 공정성 다양성에는 합격점을 받았으나 ‘알고리즘 선정방식 가이드라인의 세부 요소를 좀 더 잘 맞춰나가려는 노력이 필요하다’는 권고도 받았다. 검토위는 또 AiRS에 대해 “편향된 정보를 습득하는 필터버블 문제점은 없으나, 장기적으로 학습 데이터를 수집 활용하는 체계적인 계획이 필요하다”고 조언했다. 네이버의 AI가 만능은 아니라는 얘기다.

이병태 카이스트 경영대학 교수는 “국내 포털은 외국과 달리 오랫동안 뉴스 영향력을 많이 행사하며 이익을 얻어왔고, 편집 기능도 이같은 점이 반영돼 더 복잡하다”며 “AI알고리즘도 편견이 들어간 데이터로 학습하는데, 기계가 배열하기 때문에 중립적이고 공평하다는 주장은 무책임한 변명”이라고 일갈했다.

한편 국내 뿐 아니라 외국에서도 AI 알고리즘의 중립성에 대한 우려는 존재한다.

인공지능 전문가인 미국 위스콘신 대학의 마이클 짐머 교수는 “인공지능이 중립적이라고 착각하기 쉽지만 기존 사회의 편견과 불의를 영원히 유지하는 수단이 될 것”이라고 단언한 바 있다.

국제 정보감시단체 ‘알고리즘 워치’가 발표한 알고리즘 의사결정 선언(ADM)의 제 1항은 “알고리즘은 결코 중립적이지 않다” 2항은 “알고리즘 의사결정을 만든 사람은 그 결과에 책임을 져야한다”이다.