AI는 갈등의 증폭기인가, 회복의 촉매인가
- AI 윤리와 회복적 정의, 서로에게 배우다
주제글1. AI와 회복적정의
김명신 『글로벌 AI 거버넌스와 한국』 저자
김명신 : ‘유네스코 AI 윤리 권고' 작업 한국 대표단으로 참여했으며, 성균관대 겸임교수와 통일부·서울시교육청 정책자문위원 등을 거쳐 현재는 기업에서 AI 윤리 업무를 담당하고 있다.
들어가며: 증폭기 앞에 선 우리
AI가 우리의 일상으로 빠르게 들어오고 있다. 그 변화가 열어 주는 가능성은 놀랍다. AI는 수십 년간 난제였던 단백질 구조 예측을 풀어내 신약 개발의 길을 넓혔고, 방대한 기후 데이터를 분석해 기후 위기 대응의 새 해법을 제시하며, 교육과 의료의 문턱을 낮춰 더 많은 사람에게 기회를 건넨다. 효율과 생산성의 도약은 말할 것도 없다. AI가 인류의 오랜 숙제를 푸는 강력한 도구가 될 수 있다는 기대는 결코 과장이 아니다.
그러나 같은 기술이 그늘도 드리운다. 편향된 데이터로 차별을 재생산하고, 그럴듯한 거짓 정보로 신뢰를 무너뜨리며, 부와 권력을 소수에게 집중시켜 격차를 키울 수 있다. 중요한 것은 이 빛과 그늘이 서로 별개가 아니라는 사실이다. 같은 기술이 어떤 손에, 어떤 가치 위에 놓이느냐에 따라 축복이 될 수도 재앙이 될 수도 있다.
그래서 AI의 성격을 한 단어로 압축하면 ‘증폭기(amplifier)’라 할 만하다. 증폭기는 그 자체로 선하지도 악하지도 않다. 좋은 것을 더 크게 키우지만, 나쁜 것 또한 더 크게 키운다. 무엇이 증폭될지는 기술이 정하지 않는다. 우리가 그것을 어떤 가치 위에 올려놓는가가 정한다. ‘AI가 무엇을 할 수 있는가’만큼이나 ‘AI가 무엇을 증폭하게 할 것인가’라는 질문이 중요해지는 이유다.
이 질문은 기술의 문제가 아니라, 결국 우리가 서로를―특히 소외된 이웃을―어떻게 대할 것인가에 관한 문제다. 바로 여기서 회복적 정의와 AI는 뜻밖의 자리에서 만난다. 회복적 정의가 공동체의 갈등을 처벌이 아닌 관계의 회복으로 풀어 온 그 자리에서, AI 역시 갈등을 키우는 증폭기가 될 수도, 포용과 회복을 앞당기는 촉매가 될 수도 있기 때문이다. 어느 쪽이 될지는 우리의 선택에 달려 있다. 이 글은 그 선택을 돕는 두 지혜―AI 윤리와 회복적 정의―가 서로에게서 무엇을 배울 수 있는지를 살피려 한다.
AI 윤리라는 낯선 지형
회복적 정의에 익숙한 독자에게 AI 윤리의 지형은 다소 낯설 수 있다. 그 지형은 기술이 자라 온 흐름을 따라네 단계로 나눠 보면 한결 이해하기 쉽다. 다만, 한 가지는 기억할 필요가 있다. 새로운 단계의 문제가 생긴다고 이전 단계의 문제가 사라지는 것이 아니라, 그 위에 차곡차곡 쌓인다는 점이다.
첫째, 콘텐츠의 문제다. ‘콘텐츠’란 AI가 만들어 내는 결과물, 곧 답변 한 줄, 이미지 한 장, 요약문 하나하나를 가리킨다. 이 결과물이 사실과 다르거나(흔히 ‘환각(hallucination)’이라 부른다), 특정 집단에 치우치거나, 남의 저작물과 개인정보를 침해할 때 문제가 된다. AI는 사람이 만든 방대한 데이터를 학습해 그 속의 패턴을 따라 하기 때문에, 우리 사회에 이미 존재하는 차별과 편견을 그대로, 때로는 더 또렷하게 되비춘다. 결국 ‘무엇을 학습시켰는가’가 ‘무엇을 만들어 내는가’를 좌우한다.
둘째, 시스템의 문제다. 여기서 용어를 잠깐 정리하자. ‘모델’이 데이터를 학습해 콘텐츠를 만들어 내는 AI의 두뇌 자체라면, ‘시스템’은 그 모델이 실제 사회의 장치 속에 들어가 작동하는 전체를 말한다. 예컨대 채용 심사 AI는 모델 하나가 아니라, 지원서 데이터와 평가 기준, 사람의 운영 절차가 결합된 하나의 시스템이다. AI가 이렇게 채용·대출·심사처럼 사람의 삶을 좌우하는 의사결정 시스템으로 자리 잡으면서, 특정 집단을 불리하게 대하는 알고리즘 차별, ‘왜 그런 결정이 내려졌는지 알 수 없는’ 불투명성(블랙박스), 그리고 잘못된 결정의 책임을 누구에게 물어야 하는가의 문제가 떠올랐다.
셋째, 에이전트의 문제다. 지금까지의 AI가 사람이 물으면 답하는 ‘도구’였다면, ‘에이전트(agent)’는 사람이 일일이 시키지 않아도 스스로 목표를 세우고, 필요한 도구를 사용하며, 단계를 밟아 일을 실행하는 AI다. 질문에 답해 주는 ‘조언자’에서 일을 대신 처리하는 ‘대리인’으로 바뀌는 셈이다. 이렇게 되면 ‘AI가 스스로 한 행동의 결과는 누가 책임지는가’, ‘그 행동이 사람의 의도를 벗어났을 때 어떻게 멈출 것인가’라는 통제와 책임의 질문이 한층 무거워진다. AI 안전 논의의 무게중심이 ‘모델이 안전한가’에서 ‘행동하는 AI가 안전한가’로 빠르게 옮겨 가는 이유다.
넷째, 여러 에이전트가 얽히는 문제다. 한 걸음 더 나아가, 서로 다른 AI 에이전트들이 동시에 활동하며 거래하고 경쟁하는 환경에서는, 각자는 합리적으로 행동해도 그 결과가 모이면 누구도 의도하지 않은 사고로 번질 수 있다. 이 단계의 위험은 아직 충분히 밝혀지지도 않은, 가장 새로운 숙제다.
네 단계의 문제는 기술이 발전할수록 넓어지고 깊어진다. 그러나 흥미롭게도, 끝까지 따라가 보면 늘 같은 질문에 가 닿는다. '이 기술이 누구에게 피해를 주고, 누구를 소외시키는가.' 편향된 데이터는 특정 집단을 충분히 담아내지 못해 그들을 보이지 않는 존재로 만들고, 불투명한 시스템은 불리한 결정을 받은 사람에게 따져 물을 기회조차 주지 않는다. 결국 어느 층위의 문제든 사람, 그중에서도 약자의 자리를 묻는 셈이다. 게다가 이 문제는 국경 안에 머물지 않는다. 한 나라의 법이나 한 기업의 지침만으로는 따라잡기 어려울 만큼 빠르고 전 지구적이다. 그래서 AI 윤리는 처음부터 '기술적 규칙' 그 이상을 고민해 왔다. 누가 다치고, 무엇을 회복해야 하며, 누구의 목소리를 들어야 하는가. 바로 회복적 정의가 오래 천착해 온 질문이다.
닮은꼴: AI 윤리는 이미 ‘회복’을 고민한다
여기서 한 가지 오해를 짚고 가야 한다. AI를 둘러싼 사회적 장치를 흔히 ‘AI 규제’와 ‘AI 윤리’로 뭉뚱그리지만, 둘은 결이 다르다. 규제가 ‘무엇을 금지하고, 어기면 어떻게 제재할 것인가’를 다룬다면, 윤리는 그보다 앞서서 ‘무엇이 옳고, 누가 다칠 수 있으며, 어떻게 그들을 지키고 회복시킬 것인가’를 고민한다. 바로 이 점에서 AI 윤리는 회복적 정의와 닮아 있다.
2021년 193개국이 만장일치로 채택한 유네스코의 ‘AI 윤리 권고’가 좋은 예다. 이 권고는 사고가 난 뒤 처벌하는 데서 그치지 않는다. AI를 만들고 쓰는 전 과정에서 누가 피해를 입을 수 있는지 미리 평가하고, 위험을 예방·완화하며, 피해가 생기면 구제할 길까지 마련하도록 권한다. ‘윤리영향평가’라 불리는 이 도구가 그 핵심이다. 또한 권고는 포용을 으뜸 가치로 삼아, 디지털 격차를 줄이고 AI의 혜택이 모두에게 닿도록 하며, 그 설계 과정에 다양한 목소리―특히 그동안 배제되어 온 집단의 목소리―가 참여하도록 강조한다.
피해자를 미리 헤아리고, 깨어진 것을 회복하려 하며, 소외된 목소리를 절차의 중심으로 끌어들인다. 이것은 회복적 정의가 오래도록 실천해 온 바로 그 정신이다. 요컨대 AI 윤리와 회복적 정의는 출발점도 무대도 다르지만, ‘처벌보다 회복, 배제보다 참여’를 지향한다는 점에서 지향하는 바는 서로 통한다고 할 수 있다. 그렇다면 둘은 같은 것인가. 그렇지 않다. 결정적인 차이가 있고, 바로 그 차이 때문에 서로에게 배울 것이 생긴다.
다르기에 배운다: 빠르게 바뀌는 일상 앞에서
가장 큰 차이는 ‘손상의 모습’과 ‘회복의 방법’에 있다. 회복적 정의가 다루는 손상은 대체로 얼굴이 분명하다. 가해자와 피해자가 있고, 깨어진 관계가 있으며, 그들이 한자리에 모여 대화함으로써 회복이 시작된다. 반면 AI가 일으키는 손상은 얼굴이 흐릿하다. 가해의 책임은 데이터 제공자·개발자·배포자·사용자에게 잘게 나뉘어 있고, 피해는 눈에 잘 띄지 않은 채 수많은 사람에게 통계적으로 흩어진다. 회복적 정의의 ‘서클(Circle)’과 같은 대면 대화 방법을 AI가 만든 손상에 그대로 옮겨 적용하기 어려운 이유다.
이 차이는 AI가 일상으로 빠르게 스며드는 지금, 회복적 정의에 새로운 숙제를 안긴다. 딥페이크를 이용한 디지털 성범죄, 알고리즘에 의한 따돌림과 배제, 사람과 AI 사이에서 빚어지는 정서적 갈등은 모두 ‘기술로 매개된 관계의 손상’이며, 회복적 정의가 전문으로 다뤄 온 영역이기도 하다. 그러나 가해자가 익명이거나 분산되어 있고 피해가 온라인에 광범위하게 퍼진 이런 사건에서, ‘누구를, 어떻게 한자리에 모을 것인가’는 결코 단순한 문제가 아니다. 회복적 정의는 얼굴을 마주한 대화라는 강점을 지키되, 가해자와 피해자를 딱 짚어내기 어렵고 피해가 넓게 퍼진 사건까지 다룰 수 있도록 실천을 넓혀야 한다. 이를 위해 실천가에게도 AI의 작동 방식과 위험을 이해하는 기본 소양, 곧 'AI 리터러시'가 필요하다.
거꾸로, AI 윤리가 회복적 정의에서 배울 것도 분명하다. AI 윤리는 ‘회복’을 원칙으로 선언하지만, 그 회복을 구체적으로 ‘어떻게’ 이뤄낼지에 대한 실천의 지혜는 아직 얕다. 반면 회복적 정의는 수십 년간 사람과 사람을 다시 잇는 대화의 기술, 피해자의 목소리를 안전하게 드러내는 절차, 공동체가 함께 책임을 나누는 방식을 현장에서 갈고닦아 왔다. 영향평가서에 적힌 ‘구제 절차’ 한 줄이 실제로 작동하려면, 바로 이런 관계 회복의 노하우가 필요하다. 무엇보다 회복적 정의는 AI 윤리에 ‘회복의 주체는 끝내 사람’이라는 사실을 일깨운다. 아무리 정교한 도구도 깨어진 신뢰를 대신 회복해 주지는 못하며, 효율과 측정의 논리에 매몰될 때 윤리가 형식적인 점검표로 굳어질 위험을, 회복적 정의는 끊임없이 경고한다.
증폭기에서 촉매로: 두 지혜가 함께 가야 하는 이유
이제 처음의 질문으로 돌아가자. AI를 갈등의 증폭기가 아니라 포용과 회복의 촉매로 만들 수 있는가. 두 윤리는 같은 곳을 바라보지만, 저마다 절반씩의 답을 쥐고 있다. AI 윤리는 전 지구적 규모와 빠른 속도, 그리고 영향평가·투명성 같은 도구를 갖췄으나, 사람 사이의 깨어진 관계를 실제로 잇는 손길에는 서툴다. 회복적 정의는 관계를 회복하는 깊은 실천의 지혜를 지녔으나, AI가 만들어 내는 손상의 규모와 분산성 앞에서 홀로 감당하기엔 벅차다. 둘이 만나 서로의 빈 절반을 채울 때, 비로소 증폭기는 촉매로 바뀐다.
그 만남은 협력을 전제로 한다. 어느 한 주체의 힘만으로는 결코 이룰 수 없다. 기업은 신뢰할 수 있는 모델을 개발하고 전 생애주기 위험관리 체계를 갖추되, 위험을 제거하는 데 그치지 않고 AI로 사회 문제를 푸는 역할까지 끌어안아야 한다. 정부는 새로운 갈등 앞에서 다양한 이해관계자를 조정하고, 누구도 배제되지 않는 합의의 틀을 선제적으로 마련해야 한다. 개인은 더 이상 소비자가 아니라 데이터의 생산자이자 서로에게 영향을 미치는 행위자임을 자각하고, 차별과 허위정보의 생산·유포에 가담하지 않는 성숙한 시민이자 비판적 감시자로 서야 한다. 국제기구는 모범사례를 표준화해 확산하는 한편, 영향력이 큰 선진국과 글로벌 빅테크가 더 큰 책임을 지는 ‘공통의, 그러나 차등화된 책임(CBDR; Common But Differentiated Responsibilities)’의 원리를 AI 규범에 녹여 내야 한다.
이 모든 협력의 바탕에는 하나의 통찰이 놓여 있다. 정의는 가해와 피해를 가르고 처벌하는 데서 완성되는 것이 아니라, 손상된 관계를 회복하고 깨어진 공동체를 다시 잇는 데서 완성된다는 통찰이다. AI 윤리도, 회복적 정의도 결국 같은 곳을 향한다. 소외된 목소리를 듣고, 끊어진 관계를 잇고, 모두가 기술의 혜택을 누리도록 하는 적극적 ‘회복’의 기획. 그것이 AI를 촉매로 바꾸는 길이다.
맺으며: 앞을 보되, 곁을 둘러보라
AI의 역량은 기술의 진보와 함께 기하급수적으로 커지고, 인류가 풀어야 할 과제도 그만큼 무거워지고 있다. 그러나 역설적이게도, 바로 그 빠른 변화가 뜻밖의 기회를 함께 연다. 인류는 수천 년 동안 평화와 인권, 공정하고 안전한 사회를 이야기해 왔지만, 그 가치들은 늘 선언에 머물 뿐 좀처럼 일상의 실천으로 내려오지 못했다. 그런데 AI가 삶의 구석구석으로 들어오면서, 멀게만 느껴지던 그 가치들이 비로소 '내 문제'로 다가오기 시작했다. 알고리즘이 나를 어떻게 판단하는지, 내 데이터가 어디에 쓰이는지 묻는 순간, 공정과 존엄은 더 이상 추상적 구호가 아니라 구체적인 관심사가 되기 때문이다. 그리고 바로 이 자리에서, 관계의 회복과 공동체의 참여를 오래 실천해 온 회복적 정의가 시대가 찾는 답과 맞닿는다. 어쩌면 지금이야말로 회복적 정의가 '주변부의 대안'에서 '시대의 중심'으로 올라설 기회인지도 모른다.
빠르게 변하는 AI 시대에, 새겨둘 만한 한 문장이 있다. '앞을 내다보는 일은 중요하다. 그러나 곁을 둘러보는 일을 잊어서는 안 된다.' AI와 함께 나아가되 그 걸음이 모두에게 이로우려면, 앞을 향한 시선과 곁을 살피는 시선이 함께 가야 한다. 곁을 둘러보는 일, 그것은 회복적 정의가 오래 해 온 일이다. AI 윤리와 회복적 정의가 서로에게 배우며 나아갈 때, 증폭기는 촉매가 될 것이다.
- AI 윤리와 회복적 정의, 서로에게 배우다
주제글1. AI와 회복적정의
김명신 『글로벌 AI 거버넌스와 한국』 저자
김명신 : ‘유네스코 AI 윤리 권고' 작업 한국 대표단으로 참여했으며, 성균관대 겸임교수와 통일부·서울시교육청 정책자문위원 등을 거쳐 현재는 기업에서 AI 윤리 업무를 담당하고 있다.
들어가며: 증폭기 앞에 선 우리
AI가 우리의 일상으로 빠르게 들어오고 있다. 그 변화가 열어 주는 가능성은 놀랍다. AI는 수십 년간 난제였던 단백질 구조 예측을 풀어내 신약 개발의 길을 넓혔고, 방대한 기후 데이터를 분석해 기후 위기 대응의 새 해법을 제시하며, 교육과 의료의 문턱을 낮춰 더 많은 사람에게 기회를 건넨다. 효율과 생산성의 도약은 말할 것도 없다. AI가 인류의 오랜 숙제를 푸는 강력한 도구가 될 수 있다는 기대는 결코 과장이 아니다.
그러나 같은 기술이 그늘도 드리운다. 편향된 데이터로 차별을 재생산하고, 그럴듯한 거짓 정보로 신뢰를 무너뜨리며, 부와 권력을 소수에게 집중시켜 격차를 키울 수 있다. 중요한 것은 이 빛과 그늘이 서로 별개가 아니라는 사실이다. 같은 기술이 어떤 손에, 어떤 가치 위에 놓이느냐에 따라 축복이 될 수도 재앙이 될 수도 있다.
그래서 AI의 성격을 한 단어로 압축하면 ‘증폭기(amplifier)’라 할 만하다. 증폭기는 그 자체로 선하지도 악하지도 않다. 좋은 것을 더 크게 키우지만, 나쁜 것 또한 더 크게 키운다. 무엇이 증폭될지는 기술이 정하지 않는다. 우리가 그것을 어떤 가치 위에 올려놓는가가 정한다. ‘AI가 무엇을 할 수 있는가’만큼이나 ‘AI가 무엇을 증폭하게 할 것인가’라는 질문이 중요해지는 이유다.
이 질문은 기술의 문제가 아니라, 결국 우리가 서로를―특히 소외된 이웃을―어떻게 대할 것인가에 관한 문제다. 바로 여기서 회복적 정의와 AI는 뜻밖의 자리에서 만난다. 회복적 정의가 공동체의 갈등을 처벌이 아닌 관계의 회복으로 풀어 온 그 자리에서, AI 역시 갈등을 키우는 증폭기가 될 수도, 포용과 회복을 앞당기는 촉매가 될 수도 있기 때문이다. 어느 쪽이 될지는 우리의 선택에 달려 있다. 이 글은 그 선택을 돕는 두 지혜―AI 윤리와 회복적 정의―가 서로에게서 무엇을 배울 수 있는지를 살피려 한다.
AI 윤리라는 낯선 지형
회복적 정의에 익숙한 독자에게 AI 윤리의 지형은 다소 낯설 수 있다. 그 지형은 기술이 자라 온 흐름을 따라네 단계로 나눠 보면 한결 이해하기 쉽다. 다만, 한 가지는 기억할 필요가 있다. 새로운 단계의 문제가 생긴다고 이전 단계의 문제가 사라지는 것이 아니라, 그 위에 차곡차곡 쌓인다는 점이다.
첫째, 콘텐츠의 문제다. ‘콘텐츠’란 AI가 만들어 내는 결과물, 곧 답변 한 줄, 이미지 한 장, 요약문 하나하나를 가리킨다. 이 결과물이 사실과 다르거나(흔히 ‘환각(hallucination)’이라 부른다), 특정 집단에 치우치거나, 남의 저작물과 개인정보를 침해할 때 문제가 된다. AI는 사람이 만든 방대한 데이터를 학습해 그 속의 패턴을 따라 하기 때문에, 우리 사회에 이미 존재하는 차별과 편견을 그대로, 때로는 더 또렷하게 되비춘다. 결국 ‘무엇을 학습시켰는가’가 ‘무엇을 만들어 내는가’를 좌우한다.
둘째, 시스템의 문제다. 여기서 용어를 잠깐 정리하자. ‘모델’이 데이터를 학습해 콘텐츠를 만들어 내는 AI의 두뇌 자체라면, ‘시스템’은 그 모델이 실제 사회의 장치 속에 들어가 작동하는 전체를 말한다. 예컨대 채용 심사 AI는 모델 하나가 아니라, 지원서 데이터와 평가 기준, 사람의 운영 절차가 결합된 하나의 시스템이다. AI가 이렇게 채용·대출·심사처럼 사람의 삶을 좌우하는 의사결정 시스템으로 자리 잡으면서, 특정 집단을 불리하게 대하는 알고리즘 차별, ‘왜 그런 결정이 내려졌는지 알 수 없는’ 불투명성(블랙박스), 그리고 잘못된 결정의 책임을 누구에게 물어야 하는가의 문제가 떠올랐다.
셋째, 에이전트의 문제다. 지금까지의 AI가 사람이 물으면 답하는 ‘도구’였다면, ‘에이전트(agent)’는 사람이 일일이 시키지 않아도 스스로 목표를 세우고, 필요한 도구를 사용하며, 단계를 밟아 일을 실행하는 AI다. 질문에 답해 주는 ‘조언자’에서 일을 대신 처리하는 ‘대리인’으로 바뀌는 셈이다. 이렇게 되면 ‘AI가 스스로 한 행동의 결과는 누가 책임지는가’, ‘그 행동이 사람의 의도를 벗어났을 때 어떻게 멈출 것인가’라는 통제와 책임의 질문이 한층 무거워진다. AI 안전 논의의 무게중심이 ‘모델이 안전한가’에서 ‘행동하는 AI가 안전한가’로 빠르게 옮겨 가는 이유다.
넷째, 여러 에이전트가 얽히는 문제다. 한 걸음 더 나아가, 서로 다른 AI 에이전트들이 동시에 활동하며 거래하고 경쟁하는 환경에서는, 각자는 합리적으로 행동해도 그 결과가 모이면 누구도 의도하지 않은 사고로 번질 수 있다. 이 단계의 위험은 아직 충분히 밝혀지지도 않은, 가장 새로운 숙제다.
네 단계의 문제는 기술이 발전할수록 넓어지고 깊어진다. 그러나 흥미롭게도, 끝까지 따라가 보면 늘 같은 질문에 가 닿는다. '이 기술이 누구에게 피해를 주고, 누구를 소외시키는가.' 편향된 데이터는 특정 집단을 충분히 담아내지 못해 그들을 보이지 않는 존재로 만들고, 불투명한 시스템은 불리한 결정을 받은 사람에게 따져 물을 기회조차 주지 않는다. 결국 어느 층위의 문제든 사람, 그중에서도 약자의 자리를 묻는 셈이다. 게다가 이 문제는 국경 안에 머물지 않는다. 한 나라의 법이나 한 기업의 지침만으로는 따라잡기 어려울 만큼 빠르고 전 지구적이다. 그래서 AI 윤리는 처음부터 '기술적 규칙' 그 이상을 고민해 왔다. 누가 다치고, 무엇을 회복해야 하며, 누구의 목소리를 들어야 하는가. 바로 회복적 정의가 오래 천착해 온 질문이다.
닮은꼴: AI 윤리는 이미 ‘회복’을 고민한다
여기서 한 가지 오해를 짚고 가야 한다. AI를 둘러싼 사회적 장치를 흔히 ‘AI 규제’와 ‘AI 윤리’로 뭉뚱그리지만, 둘은 결이 다르다. 규제가 ‘무엇을 금지하고, 어기면 어떻게 제재할 것인가’를 다룬다면, 윤리는 그보다 앞서서 ‘무엇이 옳고, 누가 다칠 수 있으며, 어떻게 그들을 지키고 회복시킬 것인가’를 고민한다. 바로 이 점에서 AI 윤리는 회복적 정의와 닮아 있다.
2021년 193개국이 만장일치로 채택한 유네스코의 ‘AI 윤리 권고’가 좋은 예다. 이 권고는 사고가 난 뒤 처벌하는 데서 그치지 않는다. AI를 만들고 쓰는 전 과정에서 누가 피해를 입을 수 있는지 미리 평가하고, 위험을 예방·완화하며, 피해가 생기면 구제할 길까지 마련하도록 권한다. ‘윤리영향평가’라 불리는 이 도구가 그 핵심이다. 또한 권고는 포용을 으뜸 가치로 삼아, 디지털 격차를 줄이고 AI의 혜택이 모두에게 닿도록 하며, 그 설계 과정에 다양한 목소리―특히 그동안 배제되어 온 집단의 목소리―가 참여하도록 강조한다.
피해자를 미리 헤아리고, 깨어진 것을 회복하려 하며, 소외된 목소리를 절차의 중심으로 끌어들인다. 이것은 회복적 정의가 오래도록 실천해 온 바로 그 정신이다. 요컨대 AI 윤리와 회복적 정의는 출발점도 무대도 다르지만, ‘처벌보다 회복, 배제보다 참여’를 지향한다는 점에서 지향하는 바는 서로 통한다고 할 수 있다. 그렇다면 둘은 같은 것인가. 그렇지 않다. 결정적인 차이가 있고, 바로 그 차이 때문에 서로에게 배울 것이 생긴다.
다르기에 배운다: 빠르게 바뀌는 일상 앞에서
가장 큰 차이는 ‘손상의 모습’과 ‘회복의 방법’에 있다. 회복적 정의가 다루는 손상은 대체로 얼굴이 분명하다. 가해자와 피해자가 있고, 깨어진 관계가 있으며, 그들이 한자리에 모여 대화함으로써 회복이 시작된다. 반면 AI가 일으키는 손상은 얼굴이 흐릿하다. 가해의 책임은 데이터 제공자·개발자·배포자·사용자에게 잘게 나뉘어 있고, 피해는 눈에 잘 띄지 않은 채 수많은 사람에게 통계적으로 흩어진다. 회복적 정의의 ‘서클(Circle)’과 같은 대면 대화 방법을 AI가 만든 손상에 그대로 옮겨 적용하기 어려운 이유다.
이 차이는 AI가 일상으로 빠르게 스며드는 지금, 회복적 정의에 새로운 숙제를 안긴다. 딥페이크를 이용한 디지털 성범죄, 알고리즘에 의한 따돌림과 배제, 사람과 AI 사이에서 빚어지는 정서적 갈등은 모두 ‘기술로 매개된 관계의 손상’이며, 회복적 정의가 전문으로 다뤄 온 영역이기도 하다. 그러나 가해자가 익명이거나 분산되어 있고 피해가 온라인에 광범위하게 퍼진 이런 사건에서, ‘누구를, 어떻게 한자리에 모을 것인가’는 결코 단순한 문제가 아니다. 회복적 정의는 얼굴을 마주한 대화라는 강점을 지키되, 가해자와 피해자를 딱 짚어내기 어렵고 피해가 넓게 퍼진 사건까지 다룰 수 있도록 실천을 넓혀야 한다. 이를 위해 실천가에게도 AI의 작동 방식과 위험을 이해하는 기본 소양, 곧 'AI 리터러시'가 필요하다.
거꾸로, AI 윤리가 회복적 정의에서 배울 것도 분명하다. AI 윤리는 ‘회복’을 원칙으로 선언하지만, 그 회복을 구체적으로 ‘어떻게’ 이뤄낼지에 대한 실천의 지혜는 아직 얕다. 반면 회복적 정의는 수십 년간 사람과 사람을 다시 잇는 대화의 기술, 피해자의 목소리를 안전하게 드러내는 절차, 공동체가 함께 책임을 나누는 방식을 현장에서 갈고닦아 왔다. 영향평가서에 적힌 ‘구제 절차’ 한 줄이 실제로 작동하려면, 바로 이런 관계 회복의 노하우가 필요하다. 무엇보다 회복적 정의는 AI 윤리에 ‘회복의 주체는 끝내 사람’이라는 사실을 일깨운다. 아무리 정교한 도구도 깨어진 신뢰를 대신 회복해 주지는 못하며, 효율과 측정의 논리에 매몰될 때 윤리가 형식적인 점검표로 굳어질 위험을, 회복적 정의는 끊임없이 경고한다.
증폭기에서 촉매로: 두 지혜가 함께 가야 하는 이유
이제 처음의 질문으로 돌아가자. AI를 갈등의 증폭기가 아니라 포용과 회복의 촉매로 만들 수 있는가. 두 윤리는 같은 곳을 바라보지만, 저마다 절반씩의 답을 쥐고 있다. AI 윤리는 전 지구적 규모와 빠른 속도, 그리고 영향평가·투명성 같은 도구를 갖췄으나, 사람 사이의 깨어진 관계를 실제로 잇는 손길에는 서툴다. 회복적 정의는 관계를 회복하는 깊은 실천의 지혜를 지녔으나, AI가 만들어 내는 손상의 규모와 분산성 앞에서 홀로 감당하기엔 벅차다. 둘이 만나 서로의 빈 절반을 채울 때, 비로소 증폭기는 촉매로 바뀐다.
그 만남은 협력을 전제로 한다. 어느 한 주체의 힘만으로는 결코 이룰 수 없다. 기업은 신뢰할 수 있는 모델을 개발하고 전 생애주기 위험관리 체계를 갖추되, 위험을 제거하는 데 그치지 않고 AI로 사회 문제를 푸는 역할까지 끌어안아야 한다. 정부는 새로운 갈등 앞에서 다양한 이해관계자를 조정하고, 누구도 배제되지 않는 합의의 틀을 선제적으로 마련해야 한다. 개인은 더 이상 소비자가 아니라 데이터의 생산자이자 서로에게 영향을 미치는 행위자임을 자각하고, 차별과 허위정보의 생산·유포에 가담하지 않는 성숙한 시민이자 비판적 감시자로 서야 한다. 국제기구는 모범사례를 표준화해 확산하는 한편, 영향력이 큰 선진국과 글로벌 빅테크가 더 큰 책임을 지는 ‘공통의, 그러나 차등화된 책임(CBDR; Common But Differentiated Responsibilities)’의 원리를 AI 규범에 녹여 내야 한다.
이 모든 협력의 바탕에는 하나의 통찰이 놓여 있다. 정의는 가해와 피해를 가르고 처벌하는 데서 완성되는 것이 아니라, 손상된 관계를 회복하고 깨어진 공동체를 다시 잇는 데서 완성된다는 통찰이다. AI 윤리도, 회복적 정의도 결국 같은 곳을 향한다. 소외된 목소리를 듣고, 끊어진 관계를 잇고, 모두가 기술의 혜택을 누리도록 하는 적극적 ‘회복’의 기획. 그것이 AI를 촉매로 바꾸는 길이다.
맺으며: 앞을 보되, 곁을 둘러보라
AI의 역량은 기술의 진보와 함께 기하급수적으로 커지고, 인류가 풀어야 할 과제도 그만큼 무거워지고 있다. 그러나 역설적이게도, 바로 그 빠른 변화가 뜻밖의 기회를 함께 연다. 인류는 수천 년 동안 평화와 인권, 공정하고 안전한 사회를 이야기해 왔지만, 그 가치들은 늘 선언에 머물 뿐 좀처럼 일상의 실천으로 내려오지 못했다. 그런데 AI가 삶의 구석구석으로 들어오면서, 멀게만 느껴지던 그 가치들이 비로소 '내 문제'로 다가오기 시작했다. 알고리즘이 나를 어떻게 판단하는지, 내 데이터가 어디에 쓰이는지 묻는 순간, 공정과 존엄은 더 이상 추상적 구호가 아니라 구체적인 관심사가 되기 때문이다. 그리고 바로 이 자리에서, 관계의 회복과 공동체의 참여를 오래 실천해 온 회복적 정의가 시대가 찾는 답과 맞닿는다. 어쩌면 지금이야말로 회복적 정의가 '주변부의 대안'에서 '시대의 중심'으로 올라설 기회인지도 모른다.
빠르게 변하는 AI 시대에, 새겨둘 만한 한 문장이 있다. '앞을 내다보는 일은 중요하다. 그러나 곁을 둘러보는 일을 잊어서는 안 된다.' AI와 함께 나아가되 그 걸음이 모두에게 이로우려면, 앞을 향한 시선과 곁을 살피는 시선이 함께 가야 한다. 곁을 둘러보는 일, 그것은 회복적 정의가 오래 해 온 일이다. AI 윤리와 회복적 정의가 서로에게 배우며 나아갈 때, 증폭기는 촉매가 될 것이다.