표준협회, 'AI+ 신뢰성 인증' 발족…AI기본법 대응

책임 있는 AI 구현 위한 신뢰성 인증 체계 본격 출범

한국표준협회는 16일 인공지능(AI) 시험·평가 전문기관 와이즈스톤(WISESTONE)과 'AI+ 신뢰성 인증' 발족식을 열고 AI 제품·서비스의 운영 신뢰성을 검증하는 신규 인증 제도를 공식 출범했다.ⓒ표준협회

한국표준협회는 16일 인공지능(AI) 시험·평가 전문기관 와이즈스톤(WISESTONE)과 'AI+ 신뢰성 인증' 발족식을 열고 AI 제품·서비스의 운영 신뢰성을 검증하는 신규 인증 제도를 공식 출범했다.

AI+ 신뢰성 인증은 AI 시스템이 실제 운영 환경에서 안전하고 책임 있게 활용되고 있는지를 객관적으로 확인하는 제도다. 기존의 성능 중심 평가를 넘어 운영 단계에서의 위험 관리와 책임성 확보 여부를 중점적으로 살핀다.

표준협회는 그동안 AI 모델 성능과 기능에 대해 평가하는 AI+ 스탠다드 인증과 AI 제품 전반적인 품질을 평가하는 AI+ 프리미엄 인증을 운영해 왔다.

이번 AI+ 신뢰성 인증 도입으로 표준협회의 AI 인증 체계는 성능-품질-운영 신뢰성으로 이어지는 단계적이고 상호 보완적인 구조를 갖추게 됐다.

AI+ 신뢰성 인증은 내년 1월 시행 예정인 '인공지능기본법'이 요구하는 ▲안전성 ▲투명성 ▲공정성 ▲책임성 ▲설명가능성 ▲제어가능성 ▲프라이버시 보호 등 AI 신뢰성 핵심 요소를 종합적으로 평가하는 제품 인증 제도다.

인증 과정에서는 AI 모델 성능 시험과 함께 기획-데이터 관리-개발-운영-변경-폐기에 이르는 전 주기에 대한 라이프사이클 기반 현장심사가 병행된다.

이번 인증 제도는 ISO/IEC 42001(인공지능경영시스템), ISO/IEC 23894(AI 리스크 관리), ISO/IEC 42005(AI 시스템 영향평가) 등 국제표준을 기반으로 설계됐다. 국내 법·제도와 글로벌 AI 규제 환경을 함께 고려한 인증 체계로 운영된다.

표준협회는 인증 제도의 총괄 운영을 맡고 와이즈스톤은 AI 시스템 신뢰성 시험과 기술 평가를 담당한다. 양 기관은 고영향 AI와 생성형 AI를 포함한 다양한 AI 서비스에 대해 신뢰성 검증을 체계적으로 지원할 계획이다.

문동민 표준협회 회장은 "AI+ 신뢰성 인증은 인공지능 기술의 우수성을 평가하는 제도가 아니라 AI가 실제 환경에서 안전하고 책임 있게 운영될 수 있는지를 확인하는 데 목적이 있다"며 "기업이 AI를 도입·활용하는 과정에서 무엇을 준비하고 관리해야 하는지를 명확히 제시하는 기준이 될 것"이라고 말했다.