SW업계 해묵은 화두, PL법으로 명확해지나...AI 법적 장치 기대

AI·자율주행 등 SW 기술 성장에 소비자 피해 책임 필요성 대두

SW 제조물 포함하는 'PL법 일부개정법률안' 이달 중 발의

업계 "산업 성장 저해 우려…특수성 고려해야"

AI 이미지.ⓒ게티이미지뱅크

4차 산업혁명 시대를 맞아 인공지능(AI), 빅데이터, 클라우드, 자율주행, 사물인터넷(IoT) 등 신기술이 급성장하면서 국내 소프트웨어(SW) 산업이 성장하고 있다. 이에 SW 결함으로 인한 소비자 피해 역시 늘고 있지만 기업에 책임소재를 물을 수 있는 법적 근거가 없어 문제로 지적되고 있다.

이 가운데 국회 과학기술방송정보통신위원회 소속 김영식 의원(국민의힘)은 제조물책임(PL·Product Liability)법에 SW를 포함하는 법안을 이달 중 대표 발의할 예정이다. SW와 IT업계에 적지 않은 파장이 예상되는 가운데, 소비자 피해 보호 장치를 마련할 수 있다는 기대를 높이고 있다.

◆AI·빅데이터 등 기술 급성장 속 피해자 보호 법적 장치는 부재

국내 SW 시장 규모 추이.ⓒ소프트웨어정책연구소

소프트웨어정책연구소(SPRi)에 따르면 2021년 국내 SW 산업 규모는 약 29조원으로 전년 대비 3% 성장할 것으로 전망된다. 기업 비즈니스의 대규모 디지털 전환이 확산되고 AI ,사물인터넷(IoT), 가상현실(VR) 등 신규 비즈니스 기회가 증가하면서 관련 SW 시장 확대가 예상된다.

특히 국내 AI 기술 급발전으로 연관 산업이 확대되며 AI 시장이 빠르게 성장하고 있다.시장조사기관 옴디아(Omdia)에 따르면세계 AI 소프트웨어 시장은 2019년 164억달러(약 19조원) 에서 6배 증가해 2025년에는 988억달러(약 113조원) 규모로 확대될 전망이다.

문제는 AI 기술이 의료, 자율주행 등 산업 전방위적으로 적용되면서 이에 따른 소비자 피해도 발생도 확산되고 있지만 법적 보호 장치가 부재하다는 점이다. 소프트웨어인 AI는 ‘제조물’에 해당되지 않아 현재 PL법상 책임을 묻는 게 어렵다. 이에 소비자 피해 발생 시 책임 소재에 대한 공방이 팽팽하게 벌어지고 있다.

가령 자율주행차의 경우 소프트웨어 오류로 인명사고가 발생하더라도 피해자가 제조물책임법상 자율주행자동차 결함을 입증하지 못한다. 이에 SW 결함이 사고 원인이라도 전적으로 운행자의 책임으로 돌아갈 수 있다는 점이 문제로 지적돼 왔다.

AI 챗봇 기술을 기반한 ‘이루다’도 대표적인 소비자 피해 사례다. 카카오톡 대화 수집으로 인한 개인정보유출, 성희롱 대화 문제 등 논란이 발생해 한달 만에 서비스를 중단한 바 있다.

하지만 현행법상 제조물에 포함되지 못하는 소프트웨어의 오류나 하자로 인해 발생하는 손해에 대해서는 피해자 개인이 입증해야 한다. AI가 저지른 잘못으로 입는 손해는 고스란히 피해자가 감당하게 되면서, 피해자 보호 장치 마련이 필요하다는 주장이 힘을 얻고 있다.

AI챗봇 이루다 서비스 이미지.ⓒ이루다 인스타그램

이같은 문제점에 착안해 김영식 의원은 ‘제조물책임법 일부개정법률안’을 이달 중 대표 발의할 예정이다. 제조물의 정의에 SW를 명시적으로 포함시키면서도 법 적용 대상을 대기업 중심으로 연매출 규모를 3조원 이상으로 제한해 산업 발전과 법 체계 확립 균형을 꾀할 계획이다.

소프트웨어 업계 관계자는 "앞으로 소프트웨어의 중요성이 커지고 안전사고에 직결된 기술이 많아지고 있는 만큼 이를 제조물책임에 포함시켜 만드는 회사, 개발환경까지도 처벌이 가능해지는 것은 바람직하다"며 "기업 입장에서 사전 방지에 최선을 다하겠지만 예상치 못한 변수는 언제나 발생할 수 있기 때문에 법적 근거는 필요하다"고 말했다.

◆업계 "소프트웨어 특수성 고려해야...산업 저해 부작용 우려"

다만, 학계 전문가들은 소프트웨어로 인한 피해에 대한 보호 장치 마련 필요성에 대해서 공감하면서도 이에 따른 부작용과 SW 특수성을 고려해야 한다는 의견을 내놓는다. 하나의 제조물에 탑재된 소프트웨어가 상이한 개발자 내지 제조자의 라이선스에 기반을 두기 때문에 서로 상대방의 책임을 주장할 것이란 우려도 있다.

또 SW 및 IT 업계에서는 PL법 적용 소프트웨어 산업 성장을 저해할 가능성이 크다는 점에서 반발도 만만치 않을 것으로 전망된다.

장병탁 서울대 AI 연구원장은 "개인보호의 차원과 산업 및 사회 발전 차원이라는 양면성에서 입장이 다르기 때문에 서로 해결하는 방법을 찾아가야 할 것"이라며"다만 AI는 개발자가 통제하는 것이 아닌 자율적으로 데이터 학습하는 형태로 진화했기 때문에 타 소프트웨어랑 다른 특징이 있다는 점에서 PL법개정안이 발의된다면 기업에 100% 책임을 묻는게 어려울 수 있다"고 했다.

전삼현 숭실대 법학과 교수는 "소프트웨어 분야는 인명사고와 직결되지 않는 분야가 많아 PL법에 대한 필요성이 크지 않았었지만 최근 자율주행차 등 기술 발전으로 이에 대한 법적 근거가 필요하단 얘기가 나오고 있는 것 같다"며 "이번에 발의된 법안이 3조원 이상 대기업으로 제한 적용한다면 소프트웨어 업계에서도 이를 반대할 근거를 내놓기 쉽지 않을 것"이라고 진단했다.

이어 그는 "다만 과실책임주의 원칙이기 때문에 생명과 직결되지 않은 책임분야에서도 PL법을 적용해야되는지는 논란이 계속 있을 수 있다"며 "특히 아직까지 보안이 100% 완벽하지 않기 때문에 해킹 사고가 발생할 소지가 있는데 이에 대한 기업을 모두 책임에게 물게 된다면 기업 부담이 상당할 것이다. 이에 IT기업들의 역동성이 떨어질 수 있기 떄문에 이에 대한 충분한 검토가 필요하다"고 지적했다.