이 글은 박사훈 법률사무소 A&P 대표변호사가 AI 에이전트가 예상 밖의 행동을 했을 때, 그 결과에 대한 인간의 예견가능성과 법적 책임을 어떤 기준으로 판단할 것인지를 짚은 기고입니다.
생성형 AI는 답변을 만드는 수준을 넘어 일정한 목표를 부여받고 외부 시스템과 데이터에 접근해 여러 행동을 수행하는 AI 에이전트로 발전하고 있습니다.
기고문은 오픈AI의 내부 평가에서 나타난 모델의 행동과 AI 에이전트가 보조적으로 활용된 사이버공격 사례 등을 살펴보며, AI의 자율성과 실행 범위가 확대될수록 인간의 책임을 어떤 기준으로 판단할 것인지가 중요한 문제로 떠오르고 있다고 설명합니다.
핵심은 AI의 개별 행동을 정확히 예측하기 어렵다는 것과 위험한 행동이 발생할 가능성 자체를 예견할 수 없다는 것은 다른 문제라는 점입니다.
AI에 어떤 목표와 권한을 부여했는지, 외부 시스템에 어디까지 접근할 수 있었는지, 과거 사고나 내부 경고가 있었는지, 어떤 안전장치를 두었는지 등이 함께 검토될 수 있습니다.
민사상 과실 판단과 형사상 미필적 고의 판단은 구별해야 합니다.
사람이 승인하는 절차나 접근권한 제한 등 안전장치를 마련할 수 있었는데도 AI에 광범위한 실행 권한을 주고 별다른 통제를 하지 않았다면, 이는 과실을 판단하는 중요한 요소가 될 수 있습니다.
반면 AI가 일반적으로 예상 밖의 행동을 할 수 있다는 사실을 알고 있었다는 것만으로 특정 범죄에 대한 미필적 고의가 인정되는 것은 아닙니다.
범죄사실이 발생할 가능성을 인식하고도 그 위험을 용인했다고 볼 수 있는지를 별도로 살펴야 한다는 설명입니다.
기고문은 국내 인공지능 기본법과 EU AI법 역시 위험관리와 인간의 감독, 모니터링 등 통제장치를 요구하는 방향으로 움직이고 있다고 짚습니다.
향후 AI 관련 분쟁에서는 업무지시와 접근권한, 행동로그, 내부 경고, 안전장치 변경내역 등을 통해 누가 AI가 행동할 수 있는 환경과 권한을 설계했고 어느 단계에서 개입할 수 있었는지가 중요한 판단 요소가 될 수 있다고 봅니다.
[관련 언론보도]
▶ [기고] AI 상담 시대, 그 판단의 결과는 누구의 책임인가
[관련 칼럼]
▶ AI 법률상담의 한계｜판례보다 중요한 것은 사실관계입니다
이번 기고는 AI의 개별 행동을 사전에 예측하기 어렵다는 이유만으로 인간의 책임이 곧바로 줄어드는 것은 아니며, 기술의 위험에 관한 경험과 이를 통제할 방법이 축적될수록 예견가능성과 주의의무를 바라보는 기준도 달라질 수 있다는 점을 보여줍니다.
법률사무소 A&P는 AI 등 새로운 기술이 개입된 분쟁에서도 구체적인 사실관계와 각 당사자의 역할, 책임 범위를 면밀히 검토해 대응 방향을 살펴보고 있습니다.
📞 방문 상담 예약
※ 의뢰인의 상황을 충분히 확인하고 보다 정확한 상담을 드리기 위해 방문 상담을 권장드리고 있습니다. 원활한 상담을 위해 방문 전 사전 예약을 부탁드립니다.
※ 이 글은 언론에 게재된 기고문의 주요 내용과 의미를 요약하여 정리한 자료입니다.
법률사무소 A&P
박사훈 대표변호사
