[AI뱅커가 온다④] 추천 상품 믿을만 한가요? 책임은 누가?

개인정보 침해・편향성 등 우려

AI가이드라인 및 체계 손질

AI챗봇 등 서비스 고도화 기대

디지털 생존 기로에 선 은행들이 인공지능(AI) 개발에 팔을 걷어붙였다. 역대급 실적 속에서도 행원들은 내보내고 그 자리를 ‘디지털 키오스크’와 ‘AI 행원(뱅커)’으로 채운다는 구상이다. 신종 코로나바이러스 감염증 팬데믹에 따른 비대면 금융 가속화는 AI뱅커의 대중화를 더욱 앞당길 것으로 예상된다. 은행권에 불어 닥친 디지털화의 이면을 점검해본다. <편집자주>

AI인간 이미지. ⓒ픽사베이

국내 은행들의 인공지능(AI) 기술 활용도가 높아지면서, AI행원도 상당 수준에 도달했다는 평가가 나온다. 최근 오픈AI가 내놓은 챗GPT 열풍까지 더해지며 AI행원 도입에 대한 기대감도 고조되고 있다. 국내 은행들은 상담, 대출 심사, 신용평가 등에 AI를 적용하며 기술 고도화에 한창이다.

단 이 과정에서 발생할 수 있는 AI적용 리스크가 관건이다. 예를 들어 AI가 추천한 상품에서 문제가 생길 시 책임 여부, 개인정보 침해 소지나 데이터 보관의 안정성 등이다. 운영 과정에서도 AI가 편향된 데이터로 학습할 경우, 대출 자격이 있는 소비자임에도 여신을 거절하는 결과를 낼 수도 있기 때문이다.

이를 위해 은행은 물론 금융당국도 나서서 AI 내부 운영방침이나 비대면 가이드 라인을 마련해 보완중이다.

앞서 금융당국은 지난해 7월 ‘금융분야 AI 가이드라인’을 마련해 금융사가 AI 개발 및 운영시 준수해야 할 사항을 제시했다. 가이드라인은 금융사의 책임있는 AI 운영을 위해 ▲AI윤리 원칙 마련 ▲AI 관리 조직 구성 ▲위험관리정책 수립 등 3대 내부통제장치를 마련하도록 권고했다.

특히 AI의사결정이 개인의 금융거래계약의 체결 유지에 중대한 영향을 가져오는 경우, 이에 대한 내부통제 승인절차 등을 마련하고 별도의 책임자를 지정토록 했다. AI가 의사결정 과정을 대체하는 경우에도 필요시 AI시스템 감독-통제가 가능토록 시스템을 설계하는것을 제안하고 있다. 이 외 데이터 조사・검증 강화, 개인신용정보 오・남용 방지, 소비자에게도 AI에 대한 충분한 설명 및 권리행사를 할 수 있도록 보장하고 있다.

금융당국은 이에 그치지 않고 보다 구체적인 안내가 필요하다는 업계 의견을 참고해 지난해 8월 ‘5대 서비스별 AI 개발, 활용 안내서’도 내놓았다. 5대 서비스는 금융분야에서 AI가 가장 많이 활용되는 ▲신용평가 ▲여신심사 ▲로보어드바이저 ▲챗봇 ▲맞춤형 추천 ▲이상거래탐지(FDS) 등이다.

각 사별로도 AI 내부 관리 체계를 구축하고 있다. NH농협은행은 국내 은행권 최초로 지난해 11월 ‘AI 거버넌스 구축 계획’을 발표하고 실행중이다. 하나금융도 'AI시스템 개발 업무 매뉴얼‘을 제정해 운영중이며, 우리은행은 기업 여신 자동심사 시스템을 AI기반으로 재설계했다. 지방은행에서는 경남은행이 AI 모니터링 시스템 구축에 나섰다.

업계 관계자는 “금융권 AI 기술은 계속 발전하는 중이고 내부적으로도 상당한 수준까지 올라왔다”며 “금융 서비스를 제공하는 만큼 다양한 법적 제약이 많아 법적 제도를 보완하고, 윤리적 인프라 측면도 신경쓰는 것이 필요하다”고 언급했다.

이새롬 우리금융경영연구소 수석 연구원은 최근 공개한 ’차세대 챗봇서비스 챗GPT의 주요 특징과 시사점‘ 보고서를 통해 “주요 투자처로서 AI 산업의 가치와 매력도가 높아지고 있는 만큼 국내 금융회사도 우수 기업에 대한 투자와 지원을 확대할 필요가 있다”며 “금융회사가 운영 중인 챗봇서비스는 챗 GPT의 진화와 함께 고도화될 가능성이 크므로 우수한 AI 기술을 확보하는 한편, 서비스 발전 방향 등을 예의 주시할 필요가 있다”고 밝혔다.