회복적 정의, AI 시스템이 만든 '책임의 공백'을
해결할 수 있는 가장 효과적인 관점
주제글5 AI와 회복적 정의_연구논문
류혜선 회복적정의연구소 연구원
[연구논문 소개] 원제 : Collective Risk Allocation and Restorative Justice in the Age of Artificial Intelligence 저자 : Dr. Maria Carla Canato |
정리 : 류혜선 / 회복적정의연구소 연구원
'자율주행차나 의료 AI가 사고를 냈을 때, 과연 누구에게 형사 책임을 물을 수 있을까? 형법에서 ‘책임’을 묻고 ‘책임’을 질 수 있는 능력을 판단하는 것은 형벌의 ‘대상’을 결정하는 것과 연결이 된다. 가해 행위에 상응하는 합당한 처벌을 부여함으로써 실현되는 정의, 이것이 오랫동안 전통적 형법이 정의를 이뤄온 방식이기 때문이다.
전통적인 형법은 개인의 ‘고의’나 ‘과실’을 전제로 책임이 누구에게 있는지를 가려내지만, AI의 불투명성(Opacity)과 자기 학습 능력은 책임 소재의 규명을 어렵게 한다. 이처럼 비약적인 기술의 진보와 기존의 법률 모델의 한계로 발생하는 ‘책임의 공백(Responsibility Gap)’1) 은 우리에게 기존 형사법적 패러다임을 넘어 패러다임 전환의 필요성을 던진다.
전통적 형벌 이론의 한계와 위기
형법은 인간의 고의와 과실을 전제로 하지만, AI는 의식이나 의도가 없는 비인격적인 존재이기 때문에 응보적 처벌이 불가능하다. 응보, 억제, 그리고 교화(재사회화)를 포함한 전통적인 형벌 이론들은 의도적인 행위가 가능하고 자기 행동에 따른 결과를 이해할 수 있는 ‘도덕적 행위자’를 전제로 하기 때문이다. 그러나 머신러닝에 기반한 AI 시스템은 의도성, 도덕적 인식, 그리고 죄책감이나 후회를 느끼는 인간적인 능력이 결여되어 있다. 이러한 도덕적 행위 주체성의 부재는 기존 형벌 이론의 적용 가능성을 약화시키고, 인간의 행동을 규제하기 위해 설계된 법적 구조에 근본적인 도전 과제를 던진다.2)
예를 들어 응보(Retribution)는 잘못된 행위와 그에 상응하는 처벌 사이의 교환적 논리에 근거한다. 하지만 AI인공지능 시스템은 의식, 의도성, 그리고 범죄 의도(mens rea)가 없기 때문에 처벌을 ‘받아 마땅하다’고 규정할 도덕적 근거가 없다. 마찬가지로, 개발자나 사용자에게 책임을 지게 하는 방식은 현대 형법의 근간인 책임능력(유책성: culpability)과 인과관계의 원칙을 유지하는 데 한계를 보일 수밖에 없다. 따라서 시스템 자체나 그 ‘창조자’를 향한 처벌은 해악에 대한 단지 상징적인 대응에 그칠 위험이 있고, 기술에 내재된 시스템적 위험이나 설계 결함을 근본적으로 해결하기에는 부족하다.
AI와 관련된 결함은 종종 개별 운영자와 무관하게 발생하며, 오히려 더 높은 차원에서 해악을 피할 수 있는 구체적인 예방 조치를 채택하지 못한 ‘관리 부실(malagestio)’을 반영한다. 또한 알고리즘의 복잡성으로 인해 ‘합리적 의심이 없는 수준’의 고의나 과실 증명이 사실상 불가능하다. 따라서 이러한 맥락에서는 비난과 처벌 중심의 사법적 틀에서 벗어나 ‘피해자의 필요와 이익을 분석하고 복구(reparation)하는 것에 초점을 전환’하는 것이 더 적절하고 실효적일 수밖에 없다.3)
새로운 대안, ‘집단적 책임’과 ‘허용된 위험’
이러한 한계에 대하여 논문은 ‘집단적 책임(Collective Responsibility)’과 ‘허용된 위험(Permitted Ri sk)’개념을 재해석한다.
전통적으로 ‘허용된 위험’이란, 필요한 모든 예방 조치를 다했음에도 사라지지 않는 남아 있는 위험이 지속되는 상황에서, 형사법상 유무죄의 경계를 확정하기 위해 사용되어 왔다. 이 개념은 복잡하거나 혁신적인 과정에서는 어느 정도 위험이 내재되어 있다는 점을 인정하며, 법 체계는 이에 따라 통상적으로 수용 가능한 위험과 형사 책임의 문턱을 넘어서는 위험을 구분해 왔다. 예를 들어, 자동차는 편리한 교통수단이지만, 동시에 교통사고를 낼 수 있는 위험한 물체이다. 완벽하게 안전한 공간을 만들려면 자동차의 운행을 금지해야 한다. 하지만, 사회적 합의에 따라 ‘신호를 지키고, 제한 속도를 유지하는 등의 안전 규칙을 지킨다면 운전하다가 불행한 사고가 나더라도 운전자를 형법적으로 처벌하지 말자’는 법률을 만들었다. 이처럼 사회의 이익과 발전을 위해 현대 사회가 어쩔 수 없이 안고 가기로 약속한 위험, 그리고 그 위험 속에서 법률을 잘 지켰다면 책임을 묻지 않는 영역을 형법에서 ‘허용된 위험’이라고 부른다.
그러나 전문가조차 예측하기 어려운 방식으로 작동하는 AI 기술의 특성에 따라 이러한 법적 경계를 정의하는 것은 점점 더 어려워지고 있다.4)
AI는 인간의 행위 주체성(agency)과 기계의 자율성 사이의 경계를 모호하게 만들기 때문에 책임 문제를 더욱 복잡하게 만든다. 이해하기 쉽게, 실제로 AI 시스템이 해악이나 손해를 끼쳤을 때, 누구에게 책임을 물어야 할까? AI를 프로그래밍한 개발자인지, 이것을 배포한 사용자인지, 아니면 독립적 행위자로서의 AI 자체인지 결정하기 어려운 경우가 많다. 이런 의미에서 ‘허용된 위험’의 개념에 대한 재정립이 필요하다.
이러한 관점은 자연스럽게 AI 기술 위험의 시스템적 특성을 다루기 위한 방법으로 ‘집단적 책임’에 대한 탐구로 이어진다. AI의 배포와 개발은 단지 개인의 노력이 아니므로, 개발자, 기업, 규제기관 및 사용자를 포함한 다양한 이해관계자가 관여하기 때문이다. 따라서 AI 위험을 단순히 ‘개인의 잘못’이 아닌 ‘사회적으로 수용된 시스템의 위험’으로 바라봐야 하는 패러다임의 전환으로 이어진다. 책임 또한 개인에게 국한되는 것이 아니라, 기술의 생태계 전체에 분배되어야 한다는 필요성으로 연결된다.5)
EU AI법과 ‘예방적·집단적 책임’6)
집단적 책임의 개념은 AI 시스템이 상당한 주의, 투명성, 그리고 강력한 윤리적 기준 준수 하에 개발, 배포, 및 운영될 수 있도록 이해관계자 간의 조율된 다각적인 노력이 필요함을 강조한다. AI법이 ‘집단적 책임’이라는 용어를 명시적으로 사용하는 것은 아니지만, 그 규제 프레임워크는 광범위한 행위자들, 특히 기업들에게 AI 생명주기 전반에 걸쳐 엄격한 요건을 준수하도록 포괄적인 의무를 부과함으로써 이러한 접근 방식을 암묵적으로 촉진하고 있다.
최근 제정된 EU AI법은 전통적인 형사 처벌 중심의 사후 대응에서 벗어나, 기술의 위험도에 따라 사전에 책임을 분산하는 ‘'예방적·조직적 책임' 구조를 지향하고 있다.
먼저, EU AI법은 AI 시스템을 위험도에 따라 분류하고 있다. 이것은 논문에서 주장하는 허용된 위험의 개념과도 연결된다. 허용된 위험은 복잡하거나 혁신적인 과정에서 완전히 제거할 수 없는 한계를 인정하고, 법 체계가 수용할 수 있는 위험과 범죄적 책임의 경계를 설정해야 한다고 본다. AI법은 위험 수준에 따라 데이터 거버넌스, 투명성 및 인간의 감독 등 차등적인 의무를 부과해서 위험을 관리한다.7) 이는 사고 발생 후 개인의 과실을 따지는 대신, 개발 및 배포 과정에서 조직이 지켜야 할 ’사전 예방적 주의 의무‘를 핵심으로 한다.8)
이처럼, 전통적 형법이 개인의 의도나 과실을 중시했다면, 논문과 EU AI법은 기술 생태계 전반의 집단적 책임을 우선시할 것을 주장하고 있다.
AI법은 공급자, 배포자 등 다양한 이해관계자에게 의무를 나눔으로써, 책임의 공백을 방지한다. 이러한 방식은 전통적인 법적 프레임워크의 응보적 논리를 넘어, 형법의 ‘결과 반가치’ 원칙과 최후 수단성의 원칙을 재확인한다. 이것은 윤리적 고려사항을 AI 거버넌스 구조 내에 내재화해서, 위험을 개인의 과실로 돌리기보다는 집단적으로 관리하도록 보장한다. 이처럼 ‘책임’을 ‘공동의 노력’으로 규정함으로써, 집단적 위험 배분은 해악(피해)를 방지하고, 기본권을 수호하려는 더 넓은 사회적 이익과도 일치하게 된다. 또한 기술 표준이나 규정을 준수하지 않았을 때, 조직의 ‘조직적 과실’과 특정 유해 사건 사이에 직접적인 인과관계가 없더라도 해당 조직에 책임을 물을 수 있다. 이러한 형태의 책임은 궁극적으로 개인의 잘못이나 행위와 결과 사이의 명확한 인과관계보다는 ‘구조적, 시스템적 부적절성’과 연결된다. 이러한 관점에서 특정 위험 범주에 대한 설정된 표준을 준수하지 않은 경우에 조직의 책임은 무과실 책임(Strict Liability)의 형태를 띠게 된다. 이러한 구조는 기업이 스스로 지배구조 안에서 윤리와 안전에 관한 고려사항을 내재화하도록 유도할 수 있다.
회복적 정의(Restorative Justice)의 적용
이에 대하여 논문은 AI 기술이 가진 위험으로 발생하는 책임의 공백을 해결하기 위한 도구로 회복적 정의를 제안한다. 이것은 ‘대화, 신뢰 구축, 그리고 사회적 책임’에 기반한 메커니즘을 강조하는 접근이다. ‘AI를 감옥에 보낼 수도, 반성을 시킬 수도 없다면 정의는 어떻게 실현될 수 있는가?’ 라는 질문에 대해 논문은 처벌 중심의 ‘응보’에 서 피해 복구 중심의 ‘회복’으로 패러다임의 전환을 강조한다. 회복적 정의는 전통적인 응보적 접근과는 달리, 해악의 원인을 규명하고 복구(회복)하고, 피해자의 필요를 충족함과 동시에, 협력적 과정을 통해 책임성을 높이는 것에 초점을 맞춘다. 이를 통해 피해자, 개발자, 조직, 규제기관 등 모든 이해관계자가 의미 있는 대화에 참여하여 해악(피해)을 해결하고 재발을 방지할 수 있는 프레임워크를 제공할 수 있다.
실제로 AI로 인한 오류의 피해자들은 알고리즘의 불투명하고 비인격적인 특성 때문에 좌절감과 소외를 경험한 다. 회복적 정의는 이러한 피해자의 목소리를 우선적으로 반영한다. 피해자는 오류 발생 경위에 대한 투명한 설명을 듣고, 실질적인 시정 조치와 시스템 개혁에 대한 약속을 받음으로써 소외되었던 권한(Empowerm ent)을 회복하게 된다. 이러한 방식은 단순히 가해자를 처벌하는 것보다 피해자의 신뢰를 회복하고 사법 체계의 정당성을 강화하는 데 훨씬 효과적이다. 이러한 패러다임의 전환은 회복적 정의가 법적 책임과 윤리적 책임 사이의 가교 역할을 할 수 있음을 보여준다.11)
마무리하면, 본 논문은 AI 특유의 불투명성으로 인해 범죄의 고의나 인과관계를 입증하는 데 근본적인 한계가 있음을 인정하고, 형사처벌이 AI 문제 해결의 만병통치약이 될 수 없으며 형법을 최후 수단(Extrema Ratio)으로 보존하는 정책적 전환을 제안한다. 대신 단순한 처벌보다는 기술적 표준을 준수하고 회복적 정의를 적용함으로써 피해자의 권리를 실질적으로 보호하고 시스템을 개선하는 것이 훨씬 더 공평하고 실효적인 전략임을 제안하고 있다. 이것은 기술적 불투명성이 초래하는 ‘책임의 공백(Responsibility Gap)’을 사회적 이해관계자들이 공동의 노력으로 메워나감으로써, 기술적 안정성과 인간의 존엄성을 동시에 보장하고자 하는 회복적 거버넌스의 핵심적 제언이라 할 수 있다.
1) Maria Carla Canato, ‘Collective Risk Allocation and Restorative Justice in the Age of Artificial Intelligence’, The Global Crime and Security Journal,2025, p.104.
2) 위 논문, p.110.
3) 위 논문, p.111.
4) 위 논문, p.106.
5) 위 논문, p.107
6) 위 논문, p.108
7) 위 논문, p.108
8) 위 논문, p.108 각주. 이것은 AI 시스템의 특성에 맞춰 책임의 개념이 사후 처벌에서 사전 예방으로 변화하고 있음을 설명하고 있다. 예방적 책임(precautionary accountability)이라는 규범적 전환이다. 예방적 책임은 전통적인 사후적 비난(ex post blame) 방식보다 ‘공동의 책임, 제도적 감독, 그리고 사전적(ex ante) 위해 완화’를 강조하는 미래 지향적 모델이다. 이러한 변화는 EU AI법의 핵심 조항들과 같은 맥락을 가진다. AI법은 개개인에게 책임을 묻기보다 제공자, 배포자, 인증기관과 같은 ‘시스템적 주체’들에게 리스크 평가, 추적 가능성, 인간의 감독과 같은 ‘예방적 의무’를 부과하는 '위험 기반 규제 체계'를 도입하고 있다. 이러한 의무들은 AI 시스템 특유의 지식적·인과적 파편화 (분산성)를 반영하여, ‘개별 주체의 예견 가능성이나 고의성 여부와 상관없이 작동’하도록 명시적으로 설계되었다. 또한, 이는 AI법의 예방적 정신을 보완하고 남아 있는 책임의 공백을 메우기 위해, 메커니즘과 미래 지향적 책임 프로세스를 구축하려는 노력이기도 하다.
주제글5 AI와 회복적 정의_연구논문
류혜선 회복적정의연구소 연구원
[연구논문 소개]
원제 : Collective Risk Allocation and Restorative Justice in the Age of Artificial Intelligence
저자 : Dr. Maria Carla Canato
정리 : 류혜선 / 회복적정의연구소 연구원
'자율주행차나 의료 AI가 사고를 냈을 때, 과연 누구에게 형사 책임을 물을 수 있을까? 형법에서 ‘책임’을 묻고 ‘책임’을 질 수 있는 능력을 판단하는 것은 형벌의 ‘대상’을 결정하는 것과 연결이 된다. 가해 행위에 상응하는 합당한 처벌을 부여함으로써 실현되는 정의, 이것이 오랫동안 전통적 형법이 정의를 이뤄온 방식이기 때문이다.
전통적인 형법은 개인의 ‘고의’나 ‘과실’을 전제로 책임이 누구에게 있는지를 가려내지만, AI의 불투명성(Opacity)과 자기 학습 능력은 책임 소재의 규명을 어렵게 한다. 이처럼 비약적인 기술의 진보와 기존의 법률 모델의 한계로 발생하는 ‘책임의 공백(Responsibility Gap)’1) 은 우리에게 기존 형사법적 패러다임을 넘어 패러다임 전환의 필요성을 던진다.
전통적 형벌 이론의 한계와 위기
형법은 인간의 고의와 과실을 전제로 하지만, AI는 의식이나 의도가 없는 비인격적인 존재이기 때문에 응보적 처벌이 불가능하다. 응보, 억제, 그리고 교화(재사회화)를 포함한 전통적인 형벌 이론들은 의도적인 행위가 가능하고 자기 행동에 따른 결과를 이해할 수 있는 ‘도덕적 행위자’를 전제로 하기 때문이다. 그러나 머신러닝에 기반한 AI 시스템은 의도성, 도덕적 인식, 그리고 죄책감이나 후회를 느끼는 인간적인 능력이 결여되어 있다. 이러한 도덕적 행위 주체성의 부재는 기존 형벌 이론의 적용 가능성을 약화시키고, 인간의 행동을 규제하기 위해 설계된 법적 구조에 근본적인 도전 과제를 던진다.2)
예를 들어 응보(Retribution)는 잘못된 행위와 그에 상응하는 처벌 사이의 교환적 논리에 근거한다. 하지만 AI인공지능 시스템은 의식, 의도성, 그리고 범죄 의도(mens rea)가 없기 때문에 처벌을 ‘받아 마땅하다’고 규정할 도덕적 근거가 없다. 마찬가지로, 개발자나 사용자에게 책임을 지게 하는 방식은 현대 형법의 근간인 책임능력(유책성: culpability)과 인과관계의 원칙을 유지하는 데 한계를 보일 수밖에 없다. 따라서 시스템 자체나 그 ‘창조자’를 향한 처벌은 해악에 대한 단지 상징적인 대응에 그칠 위험이 있고, 기술에 내재된 시스템적 위험이나 설계 결함을 근본적으로 해결하기에는 부족하다.
AI와 관련된 결함은 종종 개별 운영자와 무관하게 발생하며, 오히려 더 높은 차원에서 해악을 피할 수 있는 구체적인 예방 조치를 채택하지 못한 ‘관리 부실(malagestio)’을 반영한다. 또한 알고리즘의 복잡성으로 인해 ‘합리적 의심이 없는 수준’의 고의나 과실 증명이 사실상 불가능하다. 따라서 이러한 맥락에서는 비난과 처벌 중심의 사법적 틀에서 벗어나 ‘피해자의 필요와 이익을 분석하고 복구(reparation)하는 것에 초점을 전환’하는 것이 더 적절하고 실효적일 수밖에 없다.3)
새로운 대안, ‘집단적 책임’과 ‘허용된 위험’
이러한 한계에 대하여 논문은 ‘집단적 책임(Collective Responsibility)’과 ‘허용된 위험(Permitted Ri sk)’개념을 재해석한다.
전통적으로 ‘허용된 위험’이란, 필요한 모든 예방 조치를 다했음에도 사라지지 않는 남아 있는 위험이 지속되는 상황에서, 형사법상 유무죄의 경계를 확정하기 위해 사용되어 왔다. 이 개념은 복잡하거나 혁신적인 과정에서는 어느 정도 위험이 내재되어 있다는 점을 인정하며, 법 체계는 이에 따라 통상적으로 수용 가능한 위험과 형사 책임의 문턱을 넘어서는 위험을 구분해 왔다. 예를 들어, 자동차는 편리한 교통수단이지만, 동시에 교통사고를 낼 수 있는 위험한 물체이다. 완벽하게 안전한 공간을 만들려면 자동차의 운행을 금지해야 한다. 하지만, 사회적 합의에 따라 ‘신호를 지키고, 제한 속도를 유지하는 등의 안전 규칙을 지킨다면 운전하다가 불행한 사고가 나더라도 운전자를 형법적으로 처벌하지 말자’는 법률을 만들었다. 이처럼 사회의 이익과 발전을 위해 현대 사회가 어쩔 수 없이 안고 가기로 약속한 위험, 그리고 그 위험 속에서 법률을 잘 지켰다면 책임을 묻지 않는 영역을 형법에서 ‘허용된 위험’이라고 부른다.
그러나 전문가조차 예측하기 어려운 방식으로 작동하는 AI 기술의 특성에 따라 이러한 법적 경계를 정의하는 것은 점점 더 어려워지고 있다.4)
AI는 인간의 행위 주체성(agency)과 기계의 자율성 사이의 경계를 모호하게 만들기 때문에 책임 문제를 더욱 복잡하게 만든다. 이해하기 쉽게, 실제로 AI 시스템이 해악이나 손해를 끼쳤을 때, 누구에게 책임을 물어야 할까? AI를 프로그래밍한 개발자인지, 이것을 배포한 사용자인지, 아니면 독립적 행위자로서의 AI 자체인지 결정하기 어려운 경우가 많다. 이런 의미에서 ‘허용된 위험’의 개념에 대한 재정립이 필요하다.
이러한 관점은 자연스럽게 AI 기술 위험의 시스템적 특성을 다루기 위한 방법으로 ‘집단적 책임’에 대한 탐구로 이어진다. AI의 배포와 개발은 단지 개인의 노력이 아니므로, 개발자, 기업, 규제기관 및 사용자를 포함한 다양한 이해관계자가 관여하기 때문이다. 따라서 AI 위험을 단순히 ‘개인의 잘못’이 아닌 ‘사회적으로 수용된 시스템의 위험’으로 바라봐야 하는 패러다임의 전환으로 이어진다. 책임 또한 개인에게 국한되는 것이 아니라, 기술의 생태계 전체에 분배되어야 한다는 필요성으로 연결된다.5)
EU AI법과 ‘예방적·집단적 책임’6)
집단적 책임의 개념은 AI 시스템이 상당한 주의, 투명성, 그리고 강력한 윤리적 기준 준수 하에 개발, 배포, 및 운영될 수 있도록 이해관계자 간의 조율된 다각적인 노력이 필요함을 강조한다. AI법이 ‘집단적 책임’이라는 용어를 명시적으로 사용하는 것은 아니지만, 그 규제 프레임워크는 광범위한 행위자들, 특히 기업들에게 AI 생명주기 전반에 걸쳐 엄격한 요건을 준수하도록 포괄적인 의무를 부과함으로써 이러한 접근 방식을 암묵적으로 촉진하고 있다.
최근 제정된 EU AI법은 전통적인 형사 처벌 중심의 사후 대응에서 벗어나, 기술의 위험도에 따라 사전에 책임을 분산하는 ‘'예방적·조직적 책임' 구조를 지향하고 있다.
먼저, EU AI법은 AI 시스템을 위험도에 따라 분류하고 있다. 이것은 논문에서 주장하는 허용된 위험의 개념과도 연결된다. 허용된 위험은 복잡하거나 혁신적인 과정에서 완전히 제거할 수 없는 한계를 인정하고, 법 체계가 수용할 수 있는 위험과 범죄적 책임의 경계를 설정해야 한다고 본다. AI법은 위험 수준에 따라 데이터 거버넌스, 투명성 및 인간의 감독 등 차등적인 의무를 부과해서 위험을 관리한다.7) 이는 사고 발생 후 개인의 과실을 따지는 대신, 개발 및 배포 과정에서 조직이 지켜야 할 ’사전 예방적 주의 의무‘를 핵심으로 한다.8)
이처럼, 전통적 형법이 개인의 의도나 과실을 중시했다면, 논문과 EU AI법은 기술 생태계 전반의 집단적 책임을 우선시할 것을 주장하고 있다.
AI법은 공급자, 배포자 등 다양한 이해관계자에게 의무를 나눔으로써, 책임의 공백을 방지한다. 이러한 방식은 전통적인 법적 프레임워크의 응보적 논리를 넘어, 형법의 ‘결과 반가치’ 원칙과 최후 수단성의 원칙을 재확인한다. 이것은 윤리적 고려사항을 AI 거버넌스 구조 내에 내재화해서, 위험을 개인의 과실로 돌리기보다는 집단적으로 관리하도록 보장한다. 이처럼 ‘책임’을 ‘공동의 노력’으로 규정함으로써, 집단적 위험 배분은 해악(피해)를 방지하고, 기본권을 수호하려는 더 넓은 사회적 이익과도 일치하게 된다. 또한 기술 표준이나 규정을 준수하지 않았을 때, 조직의 ‘조직적 과실’과 특정 유해 사건 사이에 직접적인 인과관계가 없더라도 해당 조직에 책임을 물을 수 있다. 이러한 형태의 책임은 궁극적으로 개인의 잘못이나 행위와 결과 사이의 명확한 인과관계보다는 ‘구조적, 시스템적 부적절성’과 연결된다. 이러한 관점에서 특정 위험 범주에 대한 설정된 표준을 준수하지 않은 경우에 조직의 책임은 무과실 책임(Strict Liability)의 형태를 띠게 된다. 이러한 구조는 기업이 스스로 지배구조 안에서 윤리와 안전에 관한 고려사항을 내재화하도록 유도할 수 있다.
회복적 정의(Restorative Justice)의 적용
이에 대하여 논문은 AI 기술이 가진 위험으로 발생하는 책임의 공백을 해결하기 위한 도구로 회복적 정의를 제안한다. 이것은 ‘대화, 신뢰 구축, 그리고 사회적 책임’에 기반한 메커니즘을 강조하는 접근이다. ‘AI를 감옥에 보낼 수도, 반성을 시킬 수도 없다면 정의는 어떻게 실현될 수 있는가?’ 라는 질문에 대해 논문은 처벌 중심의 ‘응보’에 서 피해 복구 중심의 ‘회복’으로 패러다임의 전환을 강조한다. 회복적 정의는 전통적인 응보적 접근과는 달리, 해악의 원인을 규명하고 복구(회복)하고, 피해자의 필요를 충족함과 동시에, 협력적 과정을 통해 책임성을 높이는 것에 초점을 맞춘다. 이를 통해 피해자, 개발자, 조직, 규제기관 등 모든 이해관계자가 의미 있는 대화에 참여하여 해악(피해)을 해결하고 재발을 방지할 수 있는 프레임워크를 제공할 수 있다.
실제로 AI로 인한 오류의 피해자들은 알고리즘의 불투명하고 비인격적인 특성 때문에 좌절감과 소외를 경험한 다. 회복적 정의는 이러한 피해자의 목소리를 우선적으로 반영한다. 피해자는 오류 발생 경위에 대한 투명한 설명을 듣고, 실질적인 시정 조치와 시스템 개혁에 대한 약속을 받음으로써 소외되었던 권한(Empowerm ent)을 회복하게 된다. 이러한 방식은 단순히 가해자를 처벌하는 것보다 피해자의 신뢰를 회복하고 사법 체계의 정당성을 강화하는 데 훨씬 효과적이다. 이러한 패러다임의 전환은 회복적 정의가 법적 책임과 윤리적 책임 사이의 가교 역할을 할 수 있음을 보여준다.11)
마무리하면, 본 논문은 AI 특유의 불투명성으로 인해 범죄의 고의나 인과관계를 입증하는 데 근본적인 한계가 있음을 인정하고, 형사처벌이 AI 문제 해결의 만병통치약이 될 수 없으며 형법을 최후 수단(Extrema Ratio)으로 보존하는 정책적 전환을 제안한다. 대신 단순한 처벌보다는 기술적 표준을 준수하고 회복적 정의를 적용함으로써 피해자의 권리를 실질적으로 보호하고 시스템을 개선하는 것이 훨씬 더 공평하고 실효적인 전략임을 제안하고 있다. 이것은 기술적 불투명성이 초래하는 ‘책임의 공백(Responsibility Gap)’을 사회적 이해관계자들이 공동의 노력으로 메워나감으로써, 기술적 안정성과 인간의 존엄성을 동시에 보장하고자 하는 회복적 거버넌스의 핵심적 제언이라 할 수 있다.
1) Maria Carla Canato, ‘Collective Risk Allocation and Restorative Justice in the Age of Artificial Intelligence’, The Global Crime and Security Journal,2025, p.104.
2) 위 논문, p.110.
3) 위 논문, p.111.
4) 위 논문, p.106.
5) 위 논문, p.107
6) 위 논문, p.108
7) 위 논문, p.108
8) 위 논문, p.108 각주. 이것은 AI 시스템의 특성에 맞춰 책임의 개념이 사후 처벌에서 사전 예방으로 변화하고 있음을 설명하고 있다. 예방적 책임(precautionary accountability)이라는 규범적 전환이다. 예방적 책임은 전통적인 사후적 비난(ex post blame) 방식보다 ‘공동의 책임, 제도적 감독, 그리고 사전적(ex ante) 위해 완화’를 강조하는 미래 지향적 모델이다. 이러한 변화는 EU AI법의 핵심 조항들과 같은 맥락을 가진다. AI법은 개개인에게 책임을 묻기보다 제공자, 배포자, 인증기관과 같은 ‘시스템적 주체’들에게 리스크 평가, 추적 가능성, 인간의 감독과 같은 ‘예방적 의무’를 부과하는 '위험 기반 규제 체계'를 도입하고 있다. 이러한 의무들은 AI 시스템 특유의 지식적·인과적 파편화 (분산성)를 반영하여, ‘개별 주체의 예견 가능성이나 고의성 여부와 상관없이 작동’하도록 명시적으로 설계되었다. 또한, 이는 AI법의 예방적 정신을 보완하고 남아 있는 책임의 공백을 메우기 위해, 메커니즘과 미래 지향적 책임 프로세스를 구축하려는 노력이기도 하다.