코로나19 국내 현황 >
2020-10-27 00시 기준
확진환자
26043 명
격리해제
23981 명
사망
460 명
검사진행
23003 명
11.5℃
튼구름
미세먼지 64

[AI의 역습③] "완벽한 알고리즘은 없다" 중립성 해법은?

  • [데일리안] 입력 2020.10.16 07:00
  • 수정 2020.10.15 17:31
  • 이호연 기자 (mico911@dailian.co.kr)

전문가들 “AI 초보 수준, 가치중립 불가능”

최소한의 알고리즘 공개로 윤리기준 정립 시급

정부, 연말 AI 법·제도 등 개선책 발표 예정

'인공지능(AI)'의 개념도 ⓒ 픽사베이

지난 50년간 미래 핵심 기술로 언급된 인공지능(AI)은 음성인식, 검색, 모빌리티, 통신 등 삶의 동반자로 거듭나고 있다. 그러나 최근 국내에서는 정치권의 포털 통제 의혹이 불거지며, 콘텐츠 노출과 배열을 결정하는 알고리즘에 대한 ‘사회적 감시’ 요구가 거세지고 있다. 알고리즘은 가치 중립적인가? 그렇지 않다면 편향성 검증과 투명성 확보는 어떤 방식으로 이뤄져야 할까? (편집자주)


검색 알고리즘 조작 논란이 불거질때마다 카카오와 네이버는 “AI 알고리즘이 하기 때문에 인위적인 개입이 있을 수 없다”며 해명해왔다. 그러나 기계가 한다는 이유로 중립성이 보장되는 것은 아니다. 네이버와 카카오의 뉴스 배열은 사람의 손을 거치지 않고 AI알고리즘을 통해 이뤄지지만 초기 AI역시 사람이 만든 데이터를 기반으로 학습하고, 특정한 방향성으로 결과값이 도출되도록 로직을 짤 가능성도 배제할 수 없다.


◆ “사회 현상 반영” AI의 태생적 한계

전문가들은 현재 활용되는 AI알고리즘은 인간이 추구하는 가치나 편견에서 자유로울 수 없다는 지적이다. 포털 다음을 창업한 이재웅 전 쏘카 대표는 지난 9월 윤영찬 더불어민주당 의원의 ‘카카오 호출 메시지 논란’관 관련 페이스북에 “많은 사람이 AI는 가치중립적이라고 생각하지만 그렇지 않다”며 “부인할 수 없는 사실은 AI가 우리가 설계한대로 혹은 우리의 현상을 반영해서 판단할 가능성이 높다”고 꼬집었다.


빅데이터 분석 전문기업 링크브릭스의 지윤성 대표도 MBC라디오 ‘김종배의 시선집중’에서 “일반적으로 알고리즘 자체는 인간이 설정해놓은 목표나 목적, 기업 같으면 매출을 극대화 하는 방향으로 자동으로 변경되게 만들어진다”며 “이 과정에서 목적을 달성하지 못하는 경우는 알고리즘이 변경되고 조작된다”고 설명하기도 했다. 네이버 뉴스 검색 알고리즘 조정 여부에 대해서는 “개연성은 충분히 있고 누구나 정황 증거는 있다고 판단한다"고 덧붙였다.


ICT 전문가인 최기영 과학기술정보통신부 장관도 국정감사에서 이같은 한계를 인정했다. 최 장관은 “알고리즘을 중립적으로 만드는 것은 굉장히 어려운 반면 편향적으로 만드는 것은 쉽다”면서도 “알고리즘을 공개하거나 (중립성을) 강제하는 건 어려움이 있다”고 답했다.


전창배 한국인공지능윤리협회 이사장은 “현재 AI알고리즘은 초보적인 기술 수준이기 때문에 세상의 편향된 데이터를 토대로 그대로 학습할 수 밖에 없다”며 “AI가 스스로 자신의 알고리즘을 체크해 편향성을 스스로 수정하고 보완할 수 있는 수준은 돼야 중립성을 기대할 수 있을 것”이라고 말했다.


2018년 11월 29일 서울 중구 프레스센터에서 열린 네이버 뉴스 알고리즘 검토위원회 김용찬 위원(왼쪽)과 맹성현 위원장이 취재진 질문에 답하고 있다. ⓒ 연합뉴스2018년 11월 29일 서울 중구 프레스센터에서 열린 네이버 뉴스 알고리즘 검토위원회 김용찬 위원(왼쪽)과 맹성현 위원장이 취재진 질문에 답하고 있다. ⓒ 연합뉴스

◆ 검증 시스템 필요성↑ 정부, 연내 AI윤리 기준 마련

알고리즘의 허점이 드러나자 ‘사회적 감시’를 강화 요구가 거세지고 있다. 콘텐츠 노출이나 배열을 결정하는 알고리즘의 로직은 기업 외 누구도 알지 못한다. 작동 방식을 알 수 없는 불투명한 ‘블랙박스’적인 알고리즘을 공개해 투명성을 확보해야 한다는 주장도 나온다.


관건은 효과적인 AI 알고리즘의 검증 시스템을 어떻게 구축하느냐다. 조작 의혹을 받고 있는 네이버와 카카오의 경우 AI 윤리성을 확보하기 위한 나름대로의 노력을 해왔다. 카카오는 2018년 1월 국내 기업 중 처음으로 ‘카카오 알고리즘 윤리헌장’을 발표한 후 지난 7월까지 총 7개의 조항을 추가해왔다. 네이버도 2018년 외부 전문가로 구성된 ‘네이버 뉴스 알고리즘 검토 위원회’를 통해 인위적 개입이 없다는 검증을 받은 바 있다.


다만 이같은 노력들이 AI알고리즘 조작 의혹 이슈를 해결하기엔 아직 부족하다는 평가다. 또 알고리즘 공개는 기밀 사항인 만큼 기업이 섣불리 결정하기 어렵다는 한계가 있다. 실제 한성숙 네이버 대표는 검색 알고리즘 조작 의혹으로 지난 14일 국민의힘 의원들이 네이버 본사에 항의 방문하자 “뉴스 배치 알고리즘은 전문가 그룹에 공개하고 검증받도록 검토하겠다”고 했으나 “쇼핑 부문은 영업상 기밀이 있어 좀 더 정돈한 다음 조치하겠다”는 입장을 밝혔다.


전 이사장은 “기업 입장에서 AI알고리즘은 영업기밀 또는 지적 재산권이라고 볼 수 있어 기업에게 알고리즘을 공개하라고 강요하기 힘들다. 이같은 이유로 구글도 알고리즘의 일부만 공개하고 있다”며 “기업의 자발적인 노력으로는 한계가 있으므로, 외부에서 상시적으로 AI 알고리즘의 중립성, 투명성을 판단하고 검증할 수 있는 시스템을 갖춰야 한다”고 조언했다.


영업 비밀을 지키면서도 최소한의 감독과 평가를 받을 수 있는 검증 시스템이 필요한 시점이다. 우선 과기정통부는 올해 4분기 중 디지털뉴딜의 일환으로 AI법제도 개선 로드맵을 제시하고, AI 윤리 기준과 하위법령을 제정할 예정이다. 정부의 AI윤리 규범이 실효성이 있을지 기대된다.


정태경 세한대 인공지능학과 교수는 “AI기술을 사용해 가짜 동영상을 만드는 ‘딥페이크’ 기술이 있는데, 이같은 기술을 활용하면 역으로 가짜도 추려낼 수 있을 것”이라며 “AI의 기술력이 높아져 알고리즘을 스스로 검증할 수 있다면 비로소 가치중립에 가까워질 것”이라고 밝혔다.


©(주) 데일리안 무단전재 및 재배포 금지

0
0
0

전체 댓글 0

로그인 후 댓글을 작성하실 수 있습니다.
  • 좋아요순
  • 최신순
  • 반대순
데일리안 미디어