[현장] AI가 오진하면 누구 책임?…"AI·로봇發 의료혁신, 리스크 관리 병행돼야"

국회 ‘보건의료 미래리스크 정책포럼’ 개최

“의료 수준 높일 피지컬 AI…규제·정책 논의 필요”

김강립 김·장법률사무소 고문이 11일 국회에서 열린 ‘보건의료 미래리스크 정책포럼’에서 기조발제를 하고 있다. ⓒ데일리안 김효경 기자

인공지능(AI), 로봇 등 첨단기술이 의료 현장에 빠르게 확산하면서 기술 혁신의 속도만큼이나 법·윤리·보호체계를 정비하는 ‘리스크 관리’가 병행돼야 한다는 제언이 나왔다. 기술의 파급력만큼 개인정보 유출, 의료오진 시 책임 공백, 상업화 논란 등 부작용도 커지고 있어 선제적 규제와 사회적 합의가 필요하다는 것이다.

11일 서울 영등포구 국회의사당에서 열린 ‘보건의료 미래리스크 정책포럼’에서는 첨단기술이 의료 현장에 도입되는 과정에서 발생할 수 있는 사회적·법적 리스크와 이를 관리하기 위한 정책 방향이 집중적으로 논의됐다.

첫 연사로 나선 김강립 김·장법률사무소 고문(전 식품의약품안전처장)은 ‘신기술의 적정 활용을 위한 리스크 관리 정책 방향’ 주제발표에서 “AI는 이미 우리의 일상에 깊이 스며들어 있다”며 “재생의료와 유전체 분석이 질병의 예측·진단·치료라는 기존 의료 패러다임을 바꾸고 있다”고 말했다.

특히 “전례없이 빠른 고령화와 고착화된 저성장으로 지속가능성을 고민해야 할 시점에 해답은 기술 혁신에 있다”며 “AI와 로봇, 장치가 결합된 ‘피지컬 AI’ 기술은 진단과 치료 수준을 한 단계 높이는 방법이 될 것”이라고 강조했다.

김 고문은 AI가 방대한 데이터 처리, 24시간 가동, 강력한 연산력을 기반으로 의료진단과 신약개발 영역에서 인간의 한계를 보완할 수 있다고 평가하면서도, “질병 예측과 맞춤치료의 혁신적 가능성과 함께 데이터가 유출될 경우 본인과 가족 모두가 회복하기 어려운 피해를 입을 수 있고, 고용차별이나 해킹 위험 같은 구조적 한계도 존재한다”고 짚었다.

신기술 확산에 따라 현실적으로 드러나는 사회·법적 리스크로는 ▲개인정보 보호 위기 ▲AI 의료오진 시 책임 주체의 공백 ▲재생의료 안전성 문제 ▲과도한 상업화·영리화 우려 등을 꼽았다. 그는 “정보가 비대칭적인 상황에서는 소비자의 합리적 선택이 제한된다”며 “과도한 영리추구로 인한 소비자 피해를 막을 합리적인 보호장치가 필요하다”고 했다.

김 고문은 “혁신과 신뢰의 균형점을 찾는 게 중요하다”고도 강조했다. 그는 “AI와 재생의료, 유전체 분석은 한국의 미래 성장동력이자 국민 보건복지의 전환점이 될 수 있다”면서 “이를 뒷받침할 신뢰 가능한 규제와 책임 있는 사용, 사회적 신뢰 기반의 협력적 거버넌스가 필요하다”고 덧붙였다.

조남민 엔젤로보틱스 대표이사가 11일 국회에서 열린 ‘보건의료 미래리스크 정책포럼’에서 발제를 진행하고 있다. ⓒ데일리안 김효경 기자

이날 포럼에서는 피지컬 AI의 구체적 응용사례로 웨어러블 로봇과 의료로봇 안전거버넌스에 대한 발표도 이어졌다.

조남민 엔젤로보틱스 대표이사는 ‘Wearable Robot in Healthcare’ 발표에서 “웨어러블 로봇은 재활과 로봇의 경계를 넘어 인간의 움직임을 기반으로 한 피지컬 AI 시대로 진입하고 있다”며 인간의 능력 회복·유지·증강·초월이라는 네 가지 발전 목표를 제시했다.

그는 “웨어러블 로봇 시장은 빠르게 성장하고 있으며, 고령화 사회를 대비한 필수 기술로 자리잡고 있다”며 “사람을 대체하는 로봇이 아닌, 사람과 함께 하는 로봇이 돼야 한다”고 강조했다.

김한나 연세대 의과대학 교수는 ‘보건의료 로봇 시대를 위한 기술·안전·신뢰 거버넌스 구축’을 주제로 “의료로봇은 병원 안팎의 진료·돌봄 서비스에 큰 변화를 가져올 잠재력이 있다”며 “기술의 가속화와 사회적 도입을 위해서는 잠재적 위험 해소와 사회적 신뢰 구축이 필수”라고 말했다.

그러면서 “산·학·정 협력을 통한 기술 발전뿐 아니라, 기술 도입 과정의 책임 공백을 해소하고 제도적 차원에서 기술 안전과 인간성 존중의 가치 실현을 위한 장기적 노력이 요구된다”고 덧붙였다.