EU AI법 시행…“한국도 법적 기반 조속히 정비해야”

EU AI법 산업육성과 규제 사이 절충 접근

중소기업·스타트업 등은 완화된 규제 적용

한국 AI 관련 법제 미비로 역할 수행 한계

“규제와 혁신 균형점 모색 등 정비 시급”

챗GPT 탑재 어르신 맞춤 인공지능 로봇. ⓒ뉴시스

세계 주요국들이 인공지능(AI) 법을 시행하고 있는 만큼, 한국도 AI 관련 법적·제도적 기반을 조속히 마련해야 한다는 지적이다.

22일 과학기술정책연구원이 발표한 ‘EU, AI법 시행과 한국의 대응’ 보고서에 따르면, EU AI법은 산업육성과 규제 사이를 절충해 접근했다고 분석했다. 유럽 내 AI 기술개발을 지원하는 ‘AI 혁신패키지’와 사용자와 개발자 안전하고 기본권을 보장하는 AI 생태계 조성을 위한 ‘AI 조정 계획’이 포함됐다.

EU AI법은 AI를 허용 불가한 위험, 고위험, 투명성 위험, 최소 위험 등급으로 분류해 차등 규제한다. 허용 불가한 이용은 사람 잠재의식 기술을 이용하거나 의도적으로 교묘하게 또는 기만적으로 기술을 이용해 사람 의사결정 능력을 손상시킬 수 있는 시스템 등이 포함돼 있다.

위반에 대한 제재 및 기업규모별 과징금도 차등 부과한다. 허용 불가능한 AI는 위반 시 최대 약 500억원 또는 직전 회계연도 전세계 연 매출 7% 이하 중 더 높은 금액으로 과태료를 부과한다.

중소기업·스타트업 등에 대해서는 완화된 규제를 적용한다. 고위험 AI 시스템에 이용되는 도구·서비스·구성요소 공급에 관한 계약조건, 계약위반 또는 종료에 대한 조건이 중소기업에 일방적이고 불공정하게 부과될 때 해당 규제는 효력이 없다.

EU AI법 위험기반 접근법. ⓒ과학기술정책연구원

EU AI법 시행에 따라 우리나라도 모니터링 체계 구축이 시급하다는 조언이 나왔다.

EU AI법은 AI 기술 빠른 진보와 잠재적 위험이 국가안보에 미칠 영향을 예측하고 제도적으로 제한하는 수단 등을 마련하고 있다.

한국은 고위험 AI 규제 필요성에 대해 국내정책 방향 설정과 신흥 기술 국가안보 위협시 국가 차원에서 대응을 위한 공공·민간 주체 임무와 역할에 대한 정립이 필요하다고 설명했다.

또 AI 훈련·개발에 필수적인 사용자 데이터 순환과 재사용 규제 관련 목표 설정 및 제도 정비도 검토해야 한다고 주장했다. 관련 목표 설정과 제도 정비가 미비하면 리바운드 효과로 인해 데이터 재사용이 유해한 합성 콘텐츠 생산으로 오남용 될 수 있다고 우려했다.

성경모 과학기술외교안보연구단장은 “안전한 AI 의제로 국제 규범화 대세에 참여하기 위해 AI 규제와 혁신정책간 균형점 모색과 새로운 국가 아젠다 설정, 관련 법제도 정비가 시급하다”고 주장했다.

그러면서 “EU AI법과 미 AI 행정명령에 이어 영국 주도 AI 안정성 정상회담까지 ‘안전한 AI’ 국제 규범화가 대세”라며 “한국은 AI 관련 법제 미비로 영향력 있는 역할 수행에 한계가 있기에 법적·제도적 기반한 대응체계 마련이 필요하다”고 덧붙였다.

유상임 과기정통부 장관도 취임사를 통해 “새로운 디지털 질서 정립과 규제혁신을 통해 국가 전반에 AI·디지털 확산을 촉진하겠다”며 “AI산업 육성과 안전·신뢰 기반 조성을 균형 있게 고려한 인공지능 기본법 제정에 최선을 다하겠다”고 강조했다.

하지만 22대 국회에서 발의된 AI 기본법만 6개다. AI에 대한 위험성을 초점에 맞춰 ‘규제’가 중점으로 담긴 법안이 있는 반면 글로벌 경쟁력 확보를 위해 ‘진흥’을 중심으로 마련된 법안도 있다. 국회 내부에서도 상반된 법안이 발의되고 있는 만큼, AI 기본법 제정까지 진통이 예상된다.