‘AI 가짜 의사 광고’ 급증…정부, 규제 칼 빼들었다

현행법, 실제 의사·약사만 규제…가상 인물 제외

정부, AI 생성물 표시제 도입…사전 방지

식·의약품 등 AI 허위 광고 빈발 영역 서면심의

ⓒ데일리안 AI 삽화 이미지

인공지능(AI)으로 제작된 가상 의사가 의료 제품을 추천하는 광고가 급증하면서 소비자 피해 우려가 커지고 있다. 노년층 등 취약계층이 허위 정보를 사실로 믿고 구매로 이어지는 사례가 늘어 시장 질서를 교란하고 있다는 지적이 나온다. 이에 정부가 AI 활용 의료·건강 광고에 대한 규제 강화에 나섰다.

최근 동영상 플랫폼을 중심으로 AI가 의사·약사 등 전문가를 사칭해 제품을 추천하는 광고가 무분별하게 확산하고 있다. 영상 속 ‘AI 가짜 의사’는 검증되지 않은 제품의 효과를 사실처럼 설명하거나 효능을 과장해 소비자를 기만하고 있다.

현행법상 실제 의사나 약사는 영리 목적으로 의료 관련 제품을 광고할 수 없다. 약사법 제68조는 의사·치과의사·한의사·수의사 등의 의약품 효능 광고를 금지하고 있으며, 식품표시광고법·의료기기법 등에서도 전문가 광고를 제한하고 있다. 그러나 AI로 제작된 가상의 의사·약사에는 현행 법령이 적용되지 않아 규제 사각지대에 놓여 있다는 지적이 이어졌다.

이에 정부가 AI 가짜 의사 광고를 차단하기 위해 칼을 빼들었다. 정부는 10일 김민석 국무총리 주재로 열린 제7회 국가정책조정회의에서 ‘AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안’을 발표했다.

먼저, 방송미디어통신위원회는 AI 생성물이 실제가 아니라는 점을 소비자가 정확히 알 수 있도록 플랫폼 등에 대한 AI 생성물 표시제를 도입한다.

이에 따라 앞으로 AI 생성물을 제작·편집해 게시할 경우 해당 사진·영상 등을 AI로 만들었다는 사실을 표시해야 한다. 또 플랫폼 이용자가 AI 생성물 표시를 제거하거나 훼손하는 행위는 금지된다.

아울러 과학기술정보통신부는 내년 1월부터 시행 예정인 AI 기본법에 따라 AI 사업자의 AI 생성물 표시 의무 이행, AI 생성물의 투명한 사용을 돕기 위한 가이드라인을 마련할 방침이다.

방미통위·방송미디어통신심의위원회는 식·의약품, 화장품, 의약외품, 의료기기 등 AI 허위·과장광고가 빈발하는 영역을 서면심의 대상에 추가하도록 추진한다.

앞으로 해당 영역의 허위·광고에 대해서는 심의 요청 후 24시간 이내 신속한 심의가 이뤄질 수 있을 것으로 예상된다.

또 식약처 전용 방미심위 심의신청 시스템(패스트트랙)도 이들 품목까지 확대 적용해 안건 상정 시간도 단축할 계획이다. 현재는 마약류만 적용하고 있다.

또 국민의 생명·재산 피해 우려가 커 시급한 조치가 필요한 경우에는 방미통위의 플랫폼사에 대한 긴급 시정요청 절차를 도입, 방미심위 심의 완료 전에 차단조치가 이뤄질 수 있도록 한다.

아울러 정부 차원뿐 아니라 플랫폼 사업자 차원에서도 허위·과장광고 관련 자율규제가 확대·강화될 수 있도록 유도할 예정이다.

공정거래위원회와 식품의약품안전처는 AI로 만든 전문가가 제품을 추천하는 광고에 대한 위법성 판단 기준을 명확화함으로써 예측가능성을 제고할 계획이다.

위법성 판단 기준을 명확히하기 위해 AI가 제품을 추천하는 광고의 경우 추천자가 ‘가상인간’임을 표시하지 않으면 ‘부당한 표시광고’에 해당한다고 판단할 예정이다.

아울러 AI가 생성한 의사 등 전문가가 식·의약품을 추천하는 광고행위는 ‘소비자를 기만하는 광고’에 해당한다고 봤다.

또 방미통위와 공정위는 위법행위자에 대한 금전 제재를 강화함으로써 위법 행위 유인을 약화시키고 적발시에는 엄중 제재하기로 했다.

이를 위해 ▲정보통신망 등에서의 악의적인 허위·조작정보 유통 행위에 대한 징벌적 손해배상(손해액의 최대 5배) 도입 ▲표시·광고법상 허위·과장 광고에 대한 과징금 수준 대폭 상향 등을 추진한다.

한편, 식약처와 한국소비자원은 AI 허위·과장 광고에 대한 신속한 차단을 위해 관계 부처 협의 등을 통해 감시·적발 기능 강화하기로 했다.

정부는 “이번 대책을 통해 신기술의 부작용을 최소화하는 동시에 AI 시대에 걸맞은 시장 질서를 확립해나갈 것”이라며 “대책에 포함된 법령·제도개선 등을 조속히 추진할 계획이다. 플랫폼 업계, 소비자 단체 등 이해관계자와도 긴밀하게 소통하겠다”고 말했다.