[인터뷰] 공공 부문 생성형 AI 플랫폼 사업협의체에게서 듣다...빠른 업무 적용 가능한 실체 있는 결과 만들 것

지난 10일 공공 부문의 SaaS 플랫폼 도입과 AI 비서 업무 적용 확산을 위한 ‘공공 부문 생성형 AI 플랫폼 사업협의체’가 구성되었다. 협의체 구성의 주역인 5인의 대표들을 만나 협의체의 역할과 발전방향을 들어보았다.

(왼쪽부터) 10일 포티투마루 본사에서 열린 업무협약식에 참석한 정수호 큐빅웨어 대표, 이수시스템 손원동 대표, 포티투마루 김동환 대표, 스캐터엑스 강명수 대표, 휴마인 조혜준 대표 ⓒ포티투마루 제공

Q: 공공 부문 생성형 AI 플랫폼 사업협의체는 무엇인가? 실체가 있는 것인가?

강명수 대표(스캐터엑스): 실체가 있다. 경기도 24개 자자체와 강원도 9개 지자체를 대상으로 진행한 생성형 AI 플랫폼 도입 사업설명회를 계기로 5개사가 뭉친 사업 협의체이다. 공공 부문은 단기간에 생성형 AI 업무 도입과 교육의 성과를 내기 위해 분주히 움직이고 있다. 우리는 그 Needs를 파악했고, 단기간에 성과를 만드는 실체를 보여드리며 연천군 등 AI비서 사업 진행을 확정했다.

손원동 대표(이수시스템): 공공 부문은 생성형 AI에 대해 3가지를 이야기한다. 첫째, 예산이 없다. 둘째, 생성형 AI를 업무에 적용해야 한다. 셋째, 생성형 AI 교육이 필요하다. 이 3가지를 충족하는 사업협의체를 만들면서 더욱 확신을 가졌다. 우리 5개사가 뭉치면 올해 2분기부터 ‘구축형이 아닌 SaaS 방식 AI 비서’, ‘연간구독제 방식 AI비서 직원 별 제공’, ‘AI비서 활용을 위한 전문 교육 프로그램 제공’을 빠르게 할 수 있다는 것이다. 협의체의 성공은 이미 각 참여사의 실적이 증명하고 있고, 공공 부문의 지속적인 요청이 보장한다.

Q: 그래도 잘 모르겠다. 생성형 AI는 말은 무성하지만, 실무에 적용된 사례는 드물다. 구체적으로 어떤 실적이 있는가?

조혜준 대표(휴마인): 광역/기초자치단체 및 공기업에서 AI 리터러시 교육이 급증하고 있다. 이제는 단순히 생성형 AI 툴 사용법을 가르치는 것을 넘어, 각 분야별, 직무별 구체적인 문제 상황을 분석하고 병목점(bottleneck)을 파악한 후, 이를 생성형 AI로 어떻게 해결할 수 있는지에 대한 고민이 필요하다.

광역/기초자치단체에서는 지속적으로 다양한 데이터/AI 교육을 시행해왔으나, 실제 업무 현장에서의 변화가 잘 일어나지 않아 고민이 많다. 이제는 단순한 이론이나 사용방법(스킬) 전달을 넘어서, 실제 업무 상황에서 발생하는 문제들에 대한 해결방안으로서 데이터와 AI를 효과적으로 활용하는 방법에 대한 교육이 절실하다.

교육 후에는 작은 성과라도 가시적으로 나타나야 조직 내에서 긍정적 바이럴 효과가 생기고, 이러한 긍정적 인식과 확산을 통해 조직 전체가 데이터 기반, AI 기반 문화로 변화할 수 있을 것이다.

스캐터엑스(강명수 대표): 맞다. 눈에 보이는 성과가 중요하다. 대형 디스플레이 기업에 구축한 Text to SQL BI. 물관리 기업과 인구가 1,000만명을 넘는 광영자치단체에서 진행 중인 생성형 AI 플랫폼 구축사업. 경기도 자치단체 4곳에서 2분기 내에 시작하는 SaaS AI 비서 사업. 이 사업들은 모두 눈으로 확인할 수 있는 실체를 보여드리고 확정한 결과이다.LLM, MPC 등 더 정확한 기술을 사용하여 빠른 업무 적용의 해답을 보여줘야 한다.

ⓒ포티투마루 제공

Q: LLM, MRC가 무엇인가? 왜 빠른 생성형 AI 업무 적용을 위해 필요한가?

포티투마루(김동환 대표): LLM은 대량의 학습 데이터를 기반으로 언어의 이해와 생성 능력을 향상시키기 위해 설계되었는데, 트랜스포머 아키텍처를 기반으로, 문장 생성, 텍스트 분류, 번역 등 다양한 작업을 수행할 수 있다. 이 모델은 자기 지도 및 반지도 학습 등 다양한 방법론을 사용하여 학습하며, 이러한 과정에서 언어의 통계적 관계를 학습한다. MRC(Machine Reading Comprehension)는 인공지능 독해이며, LLM의 능력을 활용하여 주어진 텍스트에서 특정 질문에 대한 답변을 찾아내는 기술이다. MRC 시스템은 질문을 이해하고, 문맥을 파악하여 관련 정보를 추출함으로써 질문에 대한 정확한 답변을 생성한다. 이 과정에서 신경망 모델과 고급 자연어 처리 기술이 사용되며, MRC는 검색 엔진, 고객 지원 시스템, 질의 응답 시스템 등 다양한 분야에서 활용된다.

큐빅웨어(정수호 대표): 쉽게 정리하면 두 모델 모두 기술적인 접근 방법의 기초는 같으나, LLM 방식은 커버리지가 상당히 넓어 좋지만, 허위정보 생성과 같이 정확도가 떨어지는 문제를 가지고 있는데 비해, MRC는 정확도 중심으로 되어 있어 정확도가 상당히 높은데 비해 상대적으로 커버리지가 좁다는 단점을 가지고 있다. 우리 회사는 정확한 대중교통, 도로, 모빌리티의 효율성과 상권 분석 등을 제공해야 한다. 이를 위해 할루시네이션(환각증상)을 줄이는 방안이 필요한데 MRC와 RAG를 혼합해 제공하는 하이브리드 대형언어모델(LLM) 기술이 필요하다. 이 협의체를 통해 가장 발전한 LLM을 제공받고 플랫폼에서 공공 부문 교통 및 부동산 담당자들에게 정확한 답변 서비스가 가능할 것으로 기대한다.

Q: 결국은 공공 부문에서 사용하는 것이 중요하다. ‘채택’되어야 한다. 이를 위해 어떻게 사업협의체를 발전시킬 것인가?

손원동 대표(이수시스템): LLM 기업은 많다. 기술이 있는 것도 다 안다. 그러나 눈에 보이는 서비스를 찾아보기 어렵다. 당장 사용할 수 있는 업무 최적화된 애플리케이션이 없는 것이다. 구축형만 제안하면 공공 부문은 이제 믿지 않는다. 공공 부문에서는 AI 기업이 제안한 아이디어를 통해 필요한 실효성을 얻기를 원하고 있다. 이에 맞추어 바로 실무에 적용 가능한 애플리케이션을 제공하는 사업협의체 및 SaaS/구축형을 모두 포함하여 예산 친화적이고 결과 지향적인 서비스를 이 협의체를 통해 제공할 것이다.

포티투마루(김동환 대표): 그렇다. 사례로 인정받고, 성능으로 증명하는 생성형 AI 플랫폼이 되어야 한다. 포티투마루는 RAG, MRC를 모두 활용하여 공공 부문 각 기관 업무에 최적화된 LLM을 구축형과 SaaS 방식으로 모두 제공할 것이다. LLM이 ‘팔방미인’ 스타일이라면, MRC는 ‘너드’에 해당한다 즉 LLM은 분야에 국한하지 않고 답변이 가능하지만, 한번 더 점검이 필요하다. 반면 MRC는 전문 분야가 한정적이지만, 그만큼 정확하고 깊이 있는 답변이 가능하다. 퍼블릭 LLM과 프라이빗 LLM의 장점을 모두 갖춘 기술을 우리는 공공 부문에 원활히 제공할 것이다.

스캐터엑스(강명수 대표): 구체적으로, 공공 부문 고객에게 알맞은 클라우드 인프라를 선정하고 관리운영하는 이수시스템의 기반 위에 이용자의 특정 요구에 따라 대화, 이미지, 코딩, 문서 등의 결과를 능동적으로 생성해내는 포티투마루의 생성형 AI를 개인비서로 제공하고스캐터엑스의 GS 1등급 인증 빅데이터 플랫폼과 시각화 솔루션으로 연간 구독형 SaaS를 구성하며 통신사, 카드결제, 교통 및 모빌리티 데이터 분석 가공 전문기업 큐빅웨어가 공급하는 결과를 시각화 콘텐츠와 AI 비서 답변으로 제공하고 생성형 AI 플랫폼을 업무에 효과적으로 활용하기 위해 AI 리터러시 전문 교육기업 휴마인의 데이터다이빙 서비스 수강을 지원할 것이다.