[D:이슈] 아이들에게 음란물 추천…알고리즘의 소셜 딜레마 커진다

'소셜미디어' 알고리즘 중독의 부작용 공개

카카오, "아동·청소년 부적절한 정보 위험 노출 되지 않도록"…알고리즘 윤리 헌장 추가

알고리즘은 사용자의 흥미나 관심사를 정확히 파악해, 맞춤형 정보를 제공한다는 점에서 편리하다는 인식이 깔려 있다. 바쁘게 돌아가는 사회 속에서 정보의 홍수 속에 사는 우리에게 알고리즘은 시간을 절약하고 수고를 덜어주는 존재인 셈이다.

ⓒ

우리 일상과 맞닿아 있는 유튜브, 스포티파이, 넷플릭스 등은 정교한 알고리즘을 통해 많은 이미 보유한 구독자의 체류시간을 늘리고 있다. 플랫폼 안에서 지루할 틈 없이 영상을 소비할 수 있도록 영상 추천을 하며 구독을 이어가게 만든다.

유튜브는 이 같은 알고리즘의 수혜를 톡톡히 입었다. 닐 모한 유튜브 최고 상품 담당자(CPO)는 2019년 3월 뉴욕타임스(NYT) 인터뷰에서 "유튜브 이용자 시청 기간 중 70%는 추천 알고리즘에 의한 결과이며, 알고리즘 도입으로 총 비디오 시청 시간이 20배 이상 증가했다"라고 밝힌 바 있다.

그러나 사람에 따라 알고리즘이 제공하는 정보가 분류되고 제한된다는 점은 부작용을 야기한다. 유튜브에서 추천 시스템을 다뤘던 엔지니어 기욤 샬로는 가디언과의 인터뷰에서 유튜브 알고리즘이 영상 체류시간에 집중된 추천을 하다 보니 가짜 뉴스와 확증편향을 발생시킨다고 폭로했다. 그는 추천 알고리즘이 민주주의의 질서를 유지하고 건강한 정보를 양산하는 데 최적화돼 있지 않다고 주장해 논란을 키웠다.

넷플릭스 역시 다큐멘터리 '소셜미디어'를 통해 알고리즘의 어두운 이면을 공개했다. 전 구글 디자인 윤리학자 트리스탄 해리스를 중심으로 구글, 페이스북, 트위터 등의 수많은 소셜미디어 기업의 핵심 인력과 앱 개발자들이 인터뷰 질문에 답하는 식으로 진행되며 소셜미디어의 알고리즘이 어떤 문제를 가지고 있는지 말한다.

이들은 유튜브, 구글, 인스타그램, 트위터 등 수많은 플랫폼들이 사용자들의 대한 데이터를 수집하며 점점 사용자가 원하는 동영상, 사진, 정보를 제공함으로써 체류시간을 늘리고 수많은 광고를 노출시키는 것에 대해 합리적인 편리가 아닌, 기업들이 오로지 데이터 수집을 통한 수익창출에 목표가 있다고 입을 모은다.

구글 드라이브와 지메일 챗의 공동 개발자이자 페이스북 페이지와 좋아요 버튼을 만든 저스틴 로젠스타인은 "가짜 뉴스를 능숙하게 만들고, 진짜처럼 받아들여지게 해서 우리가 그런 거짓말을 믿게 만듭니다. 우리의 자아와 신념에 대한 통제력을 점점 상실하는 것 같다"면서 "우린 곧 디스토피아를 맞을 것"이라고 우려했다.

특히 아동, 청소년은 미디어의 알고리즘에 무방비하게 노출돼 있다. 스마트폰 보급률이 급증하면서 연령의 제한 없이 SNS를 자유롭게 이용할 수 있게 됐고, 아동·청소년의 경우 정보 결정권이 완벽히 정립되지 않은 상태에서 편향된 정보를 취할 확률이 성인보다 높다. 또한 데이터를 수집하는 과정에서 개인 정보, 사생활 침해 등 알고리즘이 야기할 수 있는 문제로부터 장벽 낮은 먹잇감이 된다.

최근 월스트리트 저널이 미국, 캐나다, 영국에서 틱장애를 호소하는 10대 여학생들이 갑자기 늘어났는데, 이들의 공통점이 틱톡이었다고 보도하기도 했다. 10대 여학생들이 틱장애 영상들을 보고 따라 하게 됐을 수 있다고도 지적했다. 한 번 클릭하면 계속 비슷한 영상들을 추천하는 알고리즘을 통해 변별력 없이 수용하면서 일어난 흐름이라는 주장이다.

한국에서도 틱톡, 유튜브 등 알고리즘을 기반한 플랫폼이 10대들 사이에서 큰 인기를 끌고 있다. 넷플릭스 '오징어 게임'은 전 세계적으로 신드롬을 일으킨 콘텐츠지만 18세 관람 불가로 청소년들이 보기에 잔혹하고 유해한 장면들이 다수 포함됐다. 하지만 아동·청소년들은 유튜브, 틱톡 등 SNS 게임, 광고 등 다양한 경로를 통해 오징어 게임을 접하고 있어 우려의 목소리가 나온 바 있다.

알고리즘은 사용자의 수용에 따라 유토피아가 될 수도 디스토피아가 될 수도 있다. 우리의 삶에 유용한 기술임은 부정할 수 없지만 안전하게 활용될 수 있는 방안이 마련되어야 한다. 문제점을 정확히 알고 이에 대비하려는 노력이 필요하다.

카카오는 지난해 7월 알고리즘 윤리 헌장에 아동과 청소년이 부적절한 정보와 위험이 노출되지 않도록 알고리즘 개발 단계부터 주의한다는 내용을 신설했다. 아동청소년 성 착취물을 제작 및 제공하거나 광고·소개하는 행위, 아동·청소년 성 착취 물임을 알면서도 소지하거나 이용하는 행위, 아동·청소년이 성 착취 물의 제작에 이용되도록 돕는 행위, 아동·청소년에게 음란물이나 성 착취물을 제공하는 행위, 아동·청소년의 성을 매매하는 행위, 아동·청소년 대상 성범죄를 모의하거나 묘사하는 행위, 아동·청소년을 대상으로 한 그루밍(grooming, 길들이기) 행위, 아동·청·소년의 성적 대상화, 그 외 아동·청소년 대상 성범죄를 조장하는 행위 등을 금지하고, 적발될 시 무관용 원칙을 적용하겠다고 밝혔다.