업스테이지 찾은 과기정통부 2차관…"AI윤리·신뢰성 확산 앞장"

‘AI 대표기업 릴레이 방문’ 첫 행사로 업스테이지 연구소 방문

“AI기술 발전을 위해 윤리·신뢰성 확보는 필수…노력 지속"

(오른쪽부터) 김성훈 대표, 권순일 사업총괄, 이활석 최고기술책임자(CTO), 김재범 개인화AI팀 리더가 지난 5월 열린 기자 간담회에서 질문을 받고 있다. ⓒ데일리안 민단비 기자

국내 대표 인공지능(AI) 기업 업스테이지가 과기정통부와 AI 윤리·신뢰성 강화를 위해 머리를 맞댔다.

업스테이지는 15일 과학기술정보통신부 ‘AI 윤리·신뢰성 확산 위한 과기정통부 AI 대표기업 릴레이 방문’에 첫 번째 기업으로 낙점, 기업 및 솔루션을 소개하고 AI 윤리·신뢰성 확보 경험을 공유했다고 밝혔다.

이번 현장 방문은 과기정통부가 지난달 11일 개최된 ‘AI 윤리·신뢰성 강화를 위한 간담회’에 이어 AI 윤리·신뢰성 확산 위한 AI 분야별 대표기업 방문의 일환으로 업스테이지가 방문 첫 기업이다.

이날 박윤규 제2차관은 용인에 위치한 업스테이지 연구소를 방문, 현장의 목소리를 청취했다.

행사 참석한 이활석 CTO는 업스테이지의 대표 AI 솔루션인 ‘다큐먼트 AI팩’과 120만명이 활용하는 챗AI '아숙업(AskUp)’를 활용, 추천·검색 서비스를 접목한 ‘아숙업 써제스트(AskUp Seargest)’에 대한 소개와 서비스 시연을 진행했다.

이활석 CTO는 다큐먼트 AI팩 적용시 클라우드 컴퓨팅 환경과 AI 모델 고도화를 위한 대량의 데이터 학습 과정에서 발생가능한 개인의 민감 정보 유출 방지 및 AI서비스 윤리 확보를 위해 데이터 관리 차원에서 대책을 마련했던 경험과 노하우를 공유했다.

또 아숙업 운영에서 있었던 다양한 AI 윤리·신뢰성 확보 노력도 함께 나눴다. 업스테이지는 아숙업 운영에 있어 생성 AI의 단점으로 지적받던 환각(Hallucination) 현상을 완화하기 위해 ‘? 검색’을 국내 최초로 도입, 팩트 기반의 정보를 제공하고 있다. 뿐만 아니라 개인정보 텍스트에 대한 마스킹 처리, 부적절한 이미지 생성 요청 시 거절 메시지 노출과 출력 거부 조치 등 다양한 노력을 기울이고 있다.

과기정통부 박윤규 제2차관은 “AI 산업과 우리 일상 속으로 빠르게 확산되고 있는 상황에서 기술개발부터 활용의 전단계에서 윤리와 신뢰성을 확보하는 것이 산업발전의 전제조건이 되고 있다”면서 “국내 기업이 자사 제품 및 서비스에 AI윤리·신뢰성을 선제적으로 확보할 수 있도록 산업현장에 방문해 애로사항과 지원 필요사항을 경청하고 AI윤리·신뢰성 확산에 앞장서 나가겠다”고 말했다.

이활석 CTO는 “챗GPT 등 생성AI 시대가 열리며 챗GPT의 할루시네이션과 혐오발언등으로 AI 윤리와 신뢰성에 대한 논의가 가속화 되고 있다“며 “업스테이지는 선도적인 AI 기술을 바탕으로 이번 행사를 포함 민관 논의 등 다양한 노력을 통해 AI기술 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것”이라고 했다.

한편, 업스테이지는 최근 있었던 샘 알트만 방한에서도 국내 AI 스타트업으로 함께 AI 윤리·신뢰성 관련 논의를 진행한 바 있다.