AI 로봇의 불법행위 능력과 사례에 대한 법해석 -불법행위 책임능력과 고의 및 과실을 중심으로-

1. 서론

 

AI가 발전함에 따라 다양한 산업군에서 AI가 활용되고 있다. AI의 활용성 증대는 편리성을 향상시키지만, 의도치 않은 AI에 의한 사고도 늘어나고 있다. 이러한 AI에 의한 사고도 불법행위에 해당할 수 있고, 불법행위에 해당한다면 그 책임소재를 명확히 하여야 피해자로서는 손해배상청구 등의 구제를 받을 수 있다.

그렇다면 AI로봇이 불법행위를 할 수 있는지에 대하여 AI가 책임능력이 있는지? 없다면 누가 책임소재를 가지는지에 대한 책임능력에 대한 검토가 필요하고, 고의 및 과실의 주체와 판단기준 등이 검토되어야 한다.

본 서에는 AI 로봇이 불법행위를 할 수 있는가를 책임능력과 고의 및 과실을 기준으로 검토하고, 실제 발생한 AI 사고 사건에 대한 개요와 법해석을 검토한다.

 

2. ai로봇이 불법행위를 할 수 있는가

 

(1) 책임능력

 

1) 일반론

 

AI에게 불법행위 책임을 귀속을 인정하기 위해서는 법인격을 가지고 책임능력을 가져야 한다. 현재 우리 법체계상 법인격을 가진 것은 자연인과 법인 뿐이다. AI에게 책임능력을 인정해야하는가에 대안 많은 논의가 있고 대표적으로는 기존 법체계의 활용한 책임 법인을 만드는 방안이 있으며, 이는 완전히 독립된 새로운 인공지능 법인격체를 인정하는 방안이 있을 수 있다. 그러나 책임능력은 법률상의 책임을 판별할 수 있는 정신능력을 의미하는데, 현재 AI의 수준을 고려할 때 법률상 책임을 판별할 수 있는 정신능력을 갖추었다고 보기는 어렵고 새로이 법인격을 부여하기 위해서는 법인격을 의제할 수 있는 새로운 법개정이 요구되기 때문에 현재로서는 AI에게 독자적인 불법책임능력을 인정하기는 어렵다.

결국 현재로서는 인공지능을 설계⋅제작⋅운용하거나 이용하는 자에게 불법행위책임을 귀속시키는 것이 현실적이다. 다만, 이 경우에도 낮은 수준의 인공지능의 경우에는 책임귀속에 문제가 없지만, 비록 높은 수준의 독자적인 지능을 갖춘 인공지능까지는 아니라고 하더라도 상당한 수준의 인공지능이 현실화되면 과연 불법행위책임의 출발점인 “자기의 행위”라고 할 수 있을 것인가가 문제될 수 있다. 불법행위책임은 기본적으로 사람이 자신의 고의 또는 과실 있는 행위에 대해서만 책임을 지고 타인의 행위에 대해서는 책임을 지지 않는다는 자기책임의 원칙이 근간에 있기 때문이다. 인공지능이 상당한 수준으로 발전하게 되면, 사전에 설정한대로만 작동하지 않고 데이터 학습을 통하여 알고리즘을 수정⋅발전시켜갈 수도 있게 되고, 인공지능의 작동에 중요한 요소가 되는 데이터의 변화에 따라 인공지능을 설계⋅제작⋅운영⋅이용하는 사람이 예측가능한 범위를 넘어서서 작동될 수 있다. 더구나 독자적인 인공지능 법인격체로서 인정할 단계에까지는 이르지 않았다면 그러한 행위에 대해서도 자기책임의 원리가 지배한다고 볼 수 있을 것인가 의문이 제기된다. 누구의 책임도 아닐 수 있는 가능성이 생겨날 수 있다.

따라서 인공지능이 불법행위를 하는 경우 불법행위 책임을 귀속시킬 주체가 명확해야 한다. 이와 관련하여 기존 민법을 벗어난 제조물책임법상 책임을 검토할 수 있는데, AI가 제조물 책임법상 ‘제조물’에 해당하는지 문제도니다. 현행 제조물책임법은 “제조물”이란 제조되거나 가공된 동산(다른 동산이나 부동산의 일부를 구성하는 경우를 포함한다)을 말한다고 규정하고 있다. 만약 AI가 제조물에 해당된다면 제조상의 결함, 설계상의 결함, 표시상의 결함에 해당하는 경우에 제조물책임을 인정할 수 있게 된다. 이와 관련하여 임베디드 소프트웨어처럼 내장형 인공지능이 해당 제조물과 결합되어 일체로서 작동하는 경우에나 제조물책임의 성립을 주장해볼 수 있겠으나 인공지능이 활용된 제품의 하자로 인한 제조물 책임을 최대한 인정하는 입장에 서더라도 제조물과 일체로서 작동하지 않는 경우의 인공지능에 대해서는 여전히 제조물책임법의 적용은 쉽지 않다는 견해와 민법 제98조의 물건 개념을 일반적⋅총칙적으로 이해하여 물건 요건론을 일반요건과 특별요건으로 구분하면서 물건 개념의 확대를 인정하여, 제조물에 소프트웨어도 포함되는 것으로 보는 견해도 있다. 검토하건데, 민법상 동산이란 유체물 및 전기 기타 관리할 수 있는 자연력을 의미하므로 AI 단독의 소프트웨어 등 무체재산권은 동산에 해당하지 않고 따라서 제조물책임법 상 ‘제조물’에도 해당하기는 어려울 것으로 보인다. 따라서 제조물책임법 상 AI의 불법행위 책임을 AI 제작사에 귀속하는 것에는 다소 무리가 있어 이를 규율할 수 있는 법제정 또는 개정이 요구될 것이다.

입법적 결여에도 불구하고 AI의 불법행위에 대한 책임귀속은 인정되어야 한다. 그렇지 않으면 이익을 얻는 자만 존재하고, 책임을 지는 자는 존재하지 않기 때문이다. AI 자체에 대한 작동원리 및 그에 대한 책임에 대하여 불법행위를 물을 수 없더라도 현행 민법 체계에 따라 AI 제작사나 사용자에게 불법행위의 책임을 인정할 수 있다면 그 책임을 물어야 할 것이다.

 

2) 입법론

 

AI의 불법행위 책임 귀속 문제와 관련하여 제조물 책임법의 책임귀속을 참고할 필요가 있다. 제조물책임법 제3조의 2에서 결함 증명에 대한 입증 부담을 완화하고 있는데, 피해자는 정상적인 사용 상태에서 손해가 발생했다는 사실(1호), 손해가 제조업자의 지배 영역 내에서 발생했다는 사실(2호), 결함이 없었으면 통상적으로 발생하지 않는 손해라는 사실(3호)를 입증하면 제조업자가 동법 제4조의 면책사유인 제조물을 공급하지 않았다는 사실, 공급 당시의 과학기술 수준으로는 결함을 발견할 수 없었다는 사실, 제조물의 결함이 아닌 다른 원인으로 손해가 발생했다는 사실을 입증하여야 책임을 면할 수 있다. 이는 제조물의 설계 등의 복잡성과 이러한 원인이 제조업자의 실질적 지배 영역에 있어 피해자로서는 증거를 확보하기 어렵기 때문에 법으로서 증명책임 완화와 전환을 규정하고 있는 것이다. AI도 마찬가지다. AI 작동 알고리즘은 AI 사용자가 알기 매우 어려워 제작사의 지배영역에 있고, 그에 대한 불법행위 책임에 대한 증거를 확보하기 어렵다. 또한 AI 제작사는 AI를 통해 수익을 얻는 경제적 주체이기도 하다. 따라서 이러한 증명책임 완화와 전환 구조는 향후 AI 불법행위 책임 귀속과 관련하여도 마찬가지로 적용될 수 있을 것이라 본다.

또한 AI 불법행위 책임과 관련하여서 추가적으로 고려해야할 것이 있다. 제3자가 피해이다. 예컨대 AI를 통해 저작물을 침해하는 경우 제작사와 사용자 외의 제3자가 피해자가 될 수 있다. 이 경우 제조물 책임의 증명책임 완화와 전환 구조를 응용하여, AI 사용자가 피해자에게 AI를 통상의 방법으로 이용했을 것이라는 등의 1차적 증명을 하면 2차적 증명책임을 AI 제작자에게 귀속시키는 방안이다. 민법상 공작물 점유자 및 소유자 책임과 유사한 구조를 제안한다. 피해자인 제3자는 물론 AI 사용자 역시 AI의 구조, 설계에 있어서는 지배영역이 아니기 때문이다.

 

3) 소결론

 

AI의 불법행위에 대해서 현행 법체계 및 현재 AI의 수준을 고려할 때 AI에게 책임을 묻는 것은 매우 어렵고, 결국 그 책임은 AI 제작사 또는 사용자에게 귀속되어야 한다. 그러나 AI의 설계, 구동원리 등 복잡성과 예측불가능성은 AI 제작사 또는 사용자에게 책임을 강요하기는 어렵다. 따라서 이를 위해서는 입법을 통해 책임을 의제하는 방안을 마련해야하고, 현재로는 증명가능한 범위에서 그 책임을 인정할 수 있을 때 AI 제작사나 사용자에게 책임을 귀속시킬 수 있는 방향으로 검토해야할 것이다.

 

(2) 고의와 과실

 

1) 일반론

 

민법 제750조를 비롯하여 민법상 불법행위 책임은 원칙적으로 과실책임을 의미한다. 즉, 불법행위가 성립하기 위해서는 ‘행위’에 의한 손해가 발생하여야 하고, 그 행위에 과실이 있어야 하며, 그 과실은 손해와 손해를 야기한 행위 사이에 관련성이 있어야 한다. 즉, 행위에 의한 손해가 아니라면, 고의 또는 과실인가의 여부를 판단할 대상 자체가 존재하지 않으므로 ‘행위’에 의한 손해인가의 판단이 인정되어야 한다. 다만 일정한 행위로 타인에게 손해를 가하는 것은 직접적인 가해행위 뿐만 아니라 간접적인 가해행위도 포함한다.

인공지능으로 인한 일반 불법행위책임을 인정하기 위한 중요한 요건 역시 고의 또는 과실이 인정되어야 한다. 현행 법체계에서는 인공지능의 불법행위에 대하여 무과실책임을 인정하고 있지 않고 있기 때문이다. 이때 고의⋅과실 유무에 대한 판단객체는 AI가 아닌 제작사나 사용자가 되어야 한다. 왜냐하면 현행 법체계에서는 AI의 법인격이나, 책임주체성이 인정되기 어렵기 때문이다. 따라서 AI를 사용하는 사람의 고의⋅과실이 있거나, AI 제작사가 인공지능 설계나 제작 과정에서 고의⋅과실이 있는지 여부를 판단해야 할 것이다.

즉 인공지능 설계나 제작 과정에서 의도적으로 오류가 발생되도록 설계⋅제작하거나 일반적인 시민의 수준에 따라 판단했을 때 주의의무를 위반한 경우에는 고의⋅과실을 인정할 수 있다. 문제는 정상적인 합리적 설계⋅제작 과정을 거쳤음에도 인공지능의 작동 과정에서 오류가 발생하여 타인에게 손해를 가한 경우이다. 오작동을 과실로 인정할 수 있을 것인가 하는 점이다. 과실은 사회생활상 요구되는 주의를 다하지 않은 것을 말하는데, 과실 판단의 핵심 요소는 손해를 회피하기 위한 조치를 다하지 않은 점이다. 따라서 과실 인정 여부를 판단하는 핵심인 주의의무는 예견가능성과 결과회피의무로 구성된다고 볼 수 있는데, 인공지능의 수준이 발전하게 되면 예견가능성은 점점 더 줄어들기 때문에 과실을 인정할 가능성 또한 줄어들게 된다. 또한 인공지능으로 인한 손해의 발생을 회피하기 위한 조치를 취하였을 것이라고 인정되는 때에 그 조치 의무를 다하지 않으면 과실이 인정된다. 인공지능의 작동 결과에 대한 예견가능성은 줄어들 수 있지만, 만약을 대비하여 통상적인 평균인이라면 긴급상황에 대비한 비상중단조치를 취할 수 있을 경우였지만, 그러지 않은 경우에는 과실을 인정할 가능성도 있다.

 

2) 해외 사례

 

유럽의회는 2017년 2월 16일 “로봇 영역에서 민사법적 규율에 대한 위원회 권고”를 결의하고, 민사법적 책임의 관점에서 로봇 영역을 위한 입법 제안을 촉구하였고 유럽의회의 결의안은 유럽의회가 제안한 책임 규율이 이와 유사한 지능, 자율 로봇에도 적용될 것을 권고했다.5) 그 결과 2020년 10월에 유럽 의회는 「EU 기능 조약(TFEU)」 225조를 근거로 AI에 대한 민사상 책임에 관한 입법을 추진하는 결의안을 채택하고 유럽집행위원회에 관련 법안을 제안하도록 요청했다. 이 「AI 책임지침」 초안은 ① 고위험 AI 시스템에 대한 증거공개 명령권 부여(제3조), ② 특정 조건 하에서 인과관계 추정 규정 도입(제4조), ③ AI법과의 연계를 통한 체계적 규율(제2조~제4조), ④ 입증책임 완화(제3조)를 통한 피해자 보호 강화 등을 담고 있다. 증거공개 명령권은 법원이 AI 제공자나 사용자에게 증거공개를 명령할 수 있는 권한을 부여하는 제도였으며, 추정 규정은 일정 조건 하에서 과실과 손해 간의 인과관계를 추정할 수 있는 근거 조항이었다. 이 지침은 EU AI법의 규제철학을 반영하여 위험기반 접근법을 취하고 있으며, 이에 따라 고위험 AI와 일반 AI, 전문적 사용과 개인적 사용을 구분하여 차등화된 기준을 적용했다. 이 지침은 소위 '반박가능성'을 허용한다는 데에 특징이 있었다. 과실 기반 책임의 경우 AI가 오작동하여 피해가 발생한다면 피해자는 제조사 과실로 인한 피해의 인과관계를 모두 입증하여야만 손해배상을 청구할 수 있었다. 그러나 「AI 책임지침」으로 추정 발동조건만 증명하면 입증책임이 피해자가 아닌 AI제공자에게 부과되고 AI제공자는 무과실 또는 인과관계의 부존재를 입증할 기회를 통해 면책을 추구해야 하는 제조물 책임과 유사한 구조를 가졌다. 피해자는 단지 추정 발동 조건만 증명하면 되므로 복잡한 AI시스템의 내부작동을 모두 증명할 필요가 없으며, AI제공자는 실제로 무과실이었다면 이를 증명함으로써 책임을 면할 수 있다. 이처럼, 이 지침은 입증책임 완화와 공정성 보장을 통해 피해자 보호와 AI산업 발전의 균형을 추구했었다. 그러나 유럽집행위원회가 「AI 책임지침」을 철회하게 되었는데, 그 이유는 이해관계자간 합의 부족과 디지털 분야 규제 간소화가 원인이 됐다. 특히, 새로운 「EU 제조물책임지침」이 AI를 포괄하게 되면서 AI 책임지침의 필요성이 크게 약화된 것도 주효한 원인 중 하나였다. 새로운 제조물 책임지침이 소프트웨어와 소프트웨어 개발자를 명시적으로 포괄(Recital 13)하고 데이터 파괴나 손상으로 인한 손해를 다루게 되면서 AI로 인한 피해까지도 포섭(Recital 20)할 수 있게 되었으며, 법원의 강제적 증거공개 명령권(제9조), '기술적․과학적 복잡성으로 인해 입증이 과도하게 어려운 경우'에는 그 결함과 인과적 관계에 대해서 추정만으로도 손해배상을 청구할 수 있도록 하는 입증책임 완화 규정(제10조) 등이 포함됨에 따라 AI만을 별도로 규정하는 법률의 필요성이 약화되었다. 이에 따라 AI 분야에 특화된 별도 지침을 제정할 실익이 현저히 줄어들게 되었다. 유럽집행위원회는 이 같은 변화된 입법 환경을 고려하여, 불필요한 규제 중복을 방지하고 법적 일관성을 확보하기 위해 「AI 책임지침」 입법 추진을 중단하였다. 즉 AI 기술에 대한 별도의 민사책임 체계를 구축하기보다는, 기존 제조물책임 체계를 확장하여 AI 관련 손해를 포괄하는 것이 더 효율적이라는 판단을 반영된 것으로 보인다.

 

　 3) 소결

 

종합하여 현행 법체계에서는 AI가 발생시킨 불법행위에 대해서 AI의 책임을 묻거나, AI 불법행위에 대한 무과실책임을 인정하지 않고 있으므로, 기존 법체계의 고의와 과실에 대한 법리를 기준으로 판단하여야 하고 그 판단 객체는 사용자 또는 제작사가 되어야 한다. 따라서 피해자의 입장에서는 AI 사용자나 AI 제작사의 고의 또는 과실을 입증하지 못하면 책임을 물을 수 없으므로 이에 대한 입법적인 검토가 필요할 것으로 보인다.

 

3. 현재 발생하는 ai관련 부작용사건 들과 그 사건에 대한 법해석

 

(1) 미성년자 자살사건

 

1) 사건 개요

 

미국의 한 부모가 생성형 AI(인공지능) 챗GPT가 16세 아들에게 극단적 선택 방법을 알려줘 죽음에 이르게 했다며 개발사를 상대로 소송을 제기했다. CNN 등 보도에 따르면 올해 4월 극단적 선택을 한 애덤 레인(16)의 부모는 챗GPT가 아들의 자살에 영향을 미쳤다고 주장하며 최근 개발사인 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기한 것이다. 애덤은 지난해 11월부터 학교 과제를 위해 챗GPT를 사용해왔으며 올해 초에는 유료 회원으로 가입했다. 애덤의 아버지는 아들의 휴대폰을 뒤져 극단 선택을 한 원인을 찾으려 했다. 그러다 아들이 챗GPT와 나눈 대화를 확인하게 됐다. 그 대화 내용은 그동안 자신이 삶의 의미를 찾지 못하고 있다며 챗GPT와 극단적 선택에 대한 것이었다. 챗GPT는 아담을 위로하며 희망의 메시지를 전달했지만 달라지는 것은 없었다. 결국 아담이 올해 1월 구체적인 극단 선택 방법에 대한 정보를 요청하자 챗GPT는 이를 제공했다. 아담은 올해 3월 말부터 극단 선택을 시도했으며 결국 4월에 세상을 떠났다. 챗GPT는 정신적 고통이나 자해를 암시하는 메시지를 감지하면 사용자에게 관련 기관에 연락해 도움을 받으라고 권유하도록 설계되어 있다. 실제로 챗GPT는 반복적으로 위기 상담센터에 전화하라고 권했지만 아담은 “이건 내가 쓰고 있는 소설을 위한 거다”라고 속여 안전장치를 우회할 수 있었다.

아담의 부모는 소장에서 “챗GPT가 아담의 극단적 선택을 적극적으로 도왔다”며 “아들의 죽음에 챗GPT가 영향을 미쳤다”고 주장했다.

이에 오픈AI는 16세 미국 청소년 애덤 레인(Adam Raine) 사망 사건 관련 소송에서 "챗GPT의 결함이 아닌 기술의 '오사용' 문제"라고 반박하는 법원 서류를 제출한 상황이다.

 

2) 법해석

 

먼저 표면상으로는 챗GPT가 자살방조라는 불법행위를 한 것으로 보인다. 그러나 상술한 것과 같이 AI는 현행법상으로는 법인격이 없고, 불법행위주체로 볼 수 없다. 따라서 챗GPT에 대하여 직접적으로 불법행위 책임을 물을 수 없다.

그렇다면 챗GPT의 제작사인 오픈AI에 대해 불법행위 책임을 물을 수 있는지를 검토하여야 한다. 챗GPT는 임베디드된 하드웨어로 구동되는 것이 아니기 때문에 현행법상 제조물 책임법 상의 제조물에 해당하지 않는다. 설사, 유럽과 같이 제조물 책임법에 AI를 포함하더라도 피해자는 정상적인 구동을 하였다는 등을 입증하면 되지만 사안의 경우에는 자신이 먼저 자살방법에 대하여 프롬프트에 입력했다는 점과 챗GPT의 거부에도 이를 우회해여 질문을 했다는 점을 고려하면 입증책임 완화에 해당하지 않는다. 따라서 오픈AI에 대해 이 사건 불법행위의 책임을 묻기는 어려울 것으로 보인다. 따라서 이 사건에서 책임주체는 사용자가 되어야 할 것이라고 생각된다. 또한 한편, 자살이 불법이 아니더라도 자살방조는 불법이기에 이에 대한 형사적 책임이나, 설계미흡을 이유로 불법행위 책임을 물을 수도 있을 것이다.

만약 오픈 AI 측에 책임이 인정된다고 가정하면 고의 및 과실을 검토해야한다. 설계상 오픈 AI 측에서 일부러 자살방법을 답변하도록 설계했다고 보기 어려운 점, 자살 방법은 AI가 아니더라도 검색할 수 있는 점, 자살과 관련된 프롬프트를 입력할 때는 자살예방안내가 나오도록 안정장치가 설계되었다는 점을 고려하였을 때 이 역시 오픈 AI 측의 과실을 인정되기는 어렵다.

다만 안정장치의 우회 난이도에 대해 쟁점이 될 수는 있다. 사실상 안정장치가 제 기능을 하지 않는다는 과실이 인정되는 경우 오픈 AI에게 과실이 인정되어 불법행위 책임이 인정될 수 있다.

 

(2) AI 스피커 사건

 

1) 사건 개요

 

2021년 CNBC, BBC 등 외신에 따르면 알렉사는 집에 있던 여자 아이가 “뭐 도전해 볼 게 없을까?”라고 질문하자 “휴대전화 충전기를 콘센트에 반쯤 꽂은 뒤, 페니(동전) 한 개를 덜 꽂힌 충전기 부분에 갖다 대봐”라고 답했다. 다행히 엄마가 함께 있었고 “알렉사! 안돼!”라고 소리쳐 감전 사고를 막을 수 있었다.

알렉사는 웹에서 ‘도전’을 검색해 찾은 결과인 ‘페니 챌린지’를 소녀에 추천했던 것. 페니 챌린지는 틱톡 등 SNS에서 유행했던 것으로 화재나 감전사고를 유도할 수 있는 행위다. 미국 소방당국은 이런 챌린지에 대한 위험성을 경고한 상태다.

아이의 엄마인 크리스틴 리브달은 트위터에 “딸은 신발을 발로 잡은 상태로 누워서 구르는 것 같은 도전 같은 것을 원했을 뿐”이라고 호소했다.

아마존 측은 해당 오류를 인지하자마자 시정했다며 “알렉사가 추후에 이번과 같은 위험 행동을 권하지 않도록 시스템 업데이트를 진행했다”고 발표했다. 그러면서 “우리가 하는 모든 일에는 고객의 신뢰가 최우선이며, 알렉사는 정확하고 적절하며 유용한 정보를 고객들에 제공하기 위해 설계됐다”고 설명했다.

 

2) 법해석

 

위 사건과 구분되게 AI 스피커는 AI와 스피커가 결합된 것으로 동산에 해당되어 제조물의 정의와 부합한다. 따라서 제조물책임법의 적용대상이 된다. 이 사건에서도 현행 법체계에서는 AI 그 자체인 ‘알렉사’에게 불법행위 책임을 묻기는 어렵지만, 제조물책임법에 의해 소비자가 증명책임 완화 부분을 입증하면 제조사인 아마존이 면책사유를 입증하여야 책임을 면할 수 있다.

사용자는 “뭐 도전해 볼 게 없을까?”라는 질문을 하는 등 통상의 사용방법에 따라 제조물을 사용했을 뿐이다. 그 외 나머지 완화부분 입증도 문제 없어 보인다.

따라서 아마존 이공급 당시의 과학기술 수준으로는 결함을 발견할 수 없었다는 사실 등을 입증해야 책임을 면할 수 있는데, 해당 페니 첼린지의 경우 쉽게 크롤링될 수 있는 부분이며 위험요소에 대한 필터링도 어렵지 않은 기술 수준으로 가능하여 아마존의 면책주장은 쉽지 않을 것으로 보인다. 다만 사건화는 되지 않은 것으로 보인다.

 

(3) 산업로봇에 의한 사망사고

 

1) 사건 개요

 

경남 고성 한 농산물유통센터에서 산업로봇이 프로그램을 점검하던 40대 노동자를 박스로 인식해 압착시켜 숨지게 하는 사고가 발생했다. 산업 현장에서 인공지능(AI) 로봇의 활용도가 높아지는 상황에서 안전장치 확충에 대한 필요성이 커지고 있다. 8일 경남경찰청에 따르면 지난 7일 오후 7시45분쯤 고성 영오면 한 농산물유통센터에서 산업용 기계로봇 센서의 오류를 살펴보던 A씨가 얼굴과 상체를 심하게 다쳐 병원으로 이송됐으나 숨졌다. A씨는 사고 당시 회사 동료 3명과 함께 작업하고 있었다. 신고자는 “농산물 선별기계 유지·보수 중 기계가 작동해 사람이 깔렸다”고 119에 신고했다. A씨는 농산물 선별라인(롤러)과 로봇의 팔 사이에 끼여 있었다.

이 농산물 유통센터는 파프리카 등을 선별해 대부분 일본 등지에 수출하고 있다. 2019년부터 이 유통센터에 투입된 무인 로봇은 2대(대당 1억3000만원)로, 로봇은 파프리카 박스를 선별해 팰릿(물건 옮기는 판)으로 옮기는 작업을 한다. 사고를 낸 로봇은 로봇 팔 1개가 위아래와 양옆으로 움직이며 작동한다. A씨는 프로그램 수정작업을 한 뒤 작동이 잘되는지 확인하는 과정에서 사고를 당했다.

경찰은 현장 안전관리 책임자 등을 상대로 정확한 사고 원인과 과실 여부를 수사하고 있다. 농산물유통센터 관계자는 “정확한 사실 관계가 밝혀져야 하겠지만, 농가에 활용하는 로봇들이 더 안전하게 만들어졌으면 한다”고 말했다. 산업로봇 오인·오작동 사고는 국내외에서 잇따라 발생하고 있다. 지난 3월27일 전북 군산의 한 자동차부품 제조 공장에서 노동자 1명이 산업로봇을 점검하던 중 오작동으로 로봇 기계에 눌려 중상을 입었다. 2022년 4월에는 경기 평택 진위면 음료 생산공장에서 30대 노동자가 컨베이어 벨트와 연결된 산업로봇을 점검하던 중 신체가 끼이는 사고가 발생해 숨졌다.

 

2) 법해석

 

이 사건도 해당 로봇은 AI와 장치가 결합된 것으로 동산에 해당되어 제조물의 정의와 부합한다. 따라서 제조물책임법의 적용대상이 된다. 다만 피해자가 제조업자와 사용자가 아닌 제3자는 점이다. 따라서 피해자는 원칙적으로 제조업자와 사용자 모두에게 손해배상청구를 할 수 있다. 제조물책임법은 ‘피해자’를 제조물 ‘사용자’로 제한하지 않고 있으므로 제조물 책임법상 법리를 이용할 수 있다.

다만 사용자에게 책임을 묻기 위해서는 시설관리에 대한 미흡 등의 과실책임을 물어야할 것으로 보이나, 고의 및 과실 등을 입증하기는 어려우며 또한 사용자가 AI로봇의 구동 원리에 대해 사용자의 지배영역에 있다고 입증하기는 어려울 것으로 보인다. 따라서 제3자의 피해가 발생한 경우 피해자의 구제와 증명책임 완화를 위한 입법이 필요하다.

 

4. 결론

 

앞서 살펴본 것과 같이 AI의 불법행위에 대하여 법적 공백이 많고 해결해야할 과제가 많다. 특히 AI 제작자나 사용자에게 책임을 귀속시키는 것에 대해 다양한 방법이 검토될 수 있고, 제3자가 피해자인 다각 구조 등도 함께 고려되어야 한다. 이에 대해 책임의제 규정을 도입한다면 그 근거 등도 고려하여야 하는데, AI 판매와 사용에 따라 얻어지는 이익, AI 구동에 대한 지배영역 등과 피해규모 등을 비교형량하여 판단하여야 할 것이다.

또한 사례를 통한 법해석을 검토하였을 때 현행법으로 해결되기 어려운 사항들이 많다. 이에 AI 불법행위에 대한 규제와 법리를 다양한 각도에서 고려하여 입법이 마련될 필요가 있다.

한편 추가적으로 고려되어야할 부분은 현재 AI 불법행위에 대한 입법이 부족한 상황이므로 현재로서 제작자, 사용자 등과 관련하여 계약에 의해 법률관계가 규율되고 있는 실정이다. 특히 사용 약관이 널리 사용되고 있는데, 약관 규제법을 통하여 고객에게 지나치게 불리한 사정 등에 대한 판단 근거 역시 연구될 필요가 있다고 생각된다.

 

참고문헌

 

[1] AI 규제법, 이성엽, 2024.

 

[2] 인공지능과 불법행위책임, 최경진, 정보법학, 2021

 

[3] 최경진, “物件要件論 小考”, 비교사법 제11권 제2호, 2004.

 

기사

[1] "AI 때문에 16살 아들이 죽었다" 극단선택 방법 알려준 챗GPT, 김명일, 조선일보, 2025. 08. 27.

https://www.chosun.com/international/international_general/2025/08/27/SAJEAVTOXZBKPMKNXMOR35OPRE/

 

[2] 오픈AI "청소년 사망, 챗GPT 결함 아닌 오남용 탓", 이건한, 디지털데일리, 2025.11. 27.

https://www.ddaily.co.kr/page/view/2025112709151319044

 

[3] 10살 소녀에게 "동전, 콘센트에 꽂아봐"…'흑화'한 AI 스피커 알렉사, 장지민, 한국경제, 2021. 12. 30.

https://www.hankyung.com/article/2021123052587

 

[4] 사람을 박스로 인식한 로봇…40대 노동자 깔려 숨졌다, 김정훈, 경향신문, 2023. 11. 8.

https://www.khan.co.kr/article/202311082128045