크리미널 마인드: AI 주도의 정의 시스템, 법과 정의

"나는 법이다!" 같은 이름의 심오한 풍자 만화에서 판사 드레드가 말한다. 판사 드레드는 잘못된 법 체계의 풍자적 패러디이다(할리우드가 그를 두 편의 훌륭한 영화에서 영웅으로 묘사하는 경향이 있음에도 불구하고). 그것은 너무 많은 권력이 판사, 배심원, 사형 집행인 역할을 하는 한 인물에게 응고되는 세상을 보여준다. 그것은 존재하는 디스토피아 사회를 길들이는 것만큼 그것을 전파하는 데 도움이 되는 도망치는 정의의 시스템이다.

우리는 한 사람이 그렇게 많은 권력을 가져서는 안 된다는 것을 알고 있으며, 잘못을 저지르는 것은 인간의 본성이며, 법과 질서의 문제에서 우리는 개인 인간 정신의 맹점을 없애기 위해 강력하고 충분한 감독이 필요하다는 것을 알고 있다. 우리는 비효율적이고 힘들고 비용이 많이 들더라도 공유된 가치 체계를 통해 정의가 적절하게 제공되도록 하기 위해 필연적으로 관료적이고 바로크적인 전체 시스템을 가지고 있다. 비효율성으로 인해 안타깝게도 많은 사람이 정의를 완전히 피하게 되었는데, 압도된 경찰과 법원은 단순히 따라잡을 수 없기 때문이다.

고통스러운 우화

하지만 AI를 사용하여 정의를 실현하는 것은 어떨까? 최근 지지자들은 AI가 인간의 편견을 해소하고, 경찰 업무를 더 빨리 처리하고, 미제 사건을 해결하고, 심지어 범죄가 발생하기 전에 잠재적 범죄를 예측하는 데 도움이 될 수 있다고 주장했다. 그들은 경찰 업무의 효율성을 크게 높이면 효능이 높아진다고 주장한다. 어떤 사람에게는 좋게 들리지만, 다른 사람에게는 완전히 무섭게 들린다. 권위주의적 악몽에서 잠깐 벗어난 이야기이다.

저지 드레드 만화에서 판사는 어떤 범죄가 저질러졌는지 판단하는 데 도움이 되는 AI 시스템의 지원을 받는다. 필립 K. 딕의 마이너리티 리포트(또한 뛰어난 영화로 만들어짐)는 AI 시스템을 사용하여 인간의 비전을 처리하여 순전히 예정된 방식으로 누가 유죄인지 판단하고 범죄가 발생하기도 전에 가두었다. 사이코패스(Psycho-pass)라는 뛰어난 사이버펑크 애니메이션에서 AI 시스템은 인간의 정신 활동을 감독하고 이를 '범죄 계수'로 정제하여 확률만으로 범인을 '정의'에 넘긴다.

독자와 시청자로서 우리는 이런 미친 AI 주도의 정의 시스템을 혐오한다. 우리는 이를 불가능한 미래에서 온 경고 이야기로 보고, 더 나은 사회를 만드는 방법을 가르쳐주지 않는다. 우리는 이를 어리석은 공상과학 이야기, 우리 세상에서는 절대 일어나지 않을 우화로 치부할 수도 있다.

법 집행 기관에서의 AI 활용

하지만, 이제 시작일 뿐이다. 프레임워크와 규정에 대한 적절한 고집이 있었지만, AI는 이제 경찰이 업무를 돕기 위해 사용하기 시작했다. 영국 경찰이 '30시간 만에 81년 분의 경찰 업무를 처리할 수 있는' 도구를 시범적으로 도입하여 증거 더미에 묻힌 잠재적 단서를 식별하는 데 도움을 주고 있다. AI는 끈기 있고, 방대한 문서를 걸러내는 능력은 지금까지 가장 설득력 있는 사용 사례일 것이다. 수천 개의 문서에서 증거를 정리하는 데 사용하는 것은 시스템을 효율적으로 사용하는 것처럼 보이지만 그 의미는 여전히 무섭다.

이에 대한 한 가지 예는 미국 경찰이 경찰 보고서를 작성하는 데 AI를 사용하는 것이다. 미친 짓이다. 진술서의 단어 하나에 범죄 유죄 판결이 달려 있는 세상에서, 경찰관의 메모를 기반으로 생성 AI를 사용하여 보고서를 만드는 것은 사법 오류의 가능성을 열어주는 것이다. AI를 위한 시간과 장소가 있으며, 정확한 기억이 중요한 정의 문제에서 AI를 사용하여 사건에 대한 기록 문서를 작성하는 것은 허용될 수 없다.

우리는 여전히 이러한 LLM이 어떻게 결론에 도달하는지 정확히 알지 못한다. 최고 기업의 AI 연구원은 산출물을 통해 '역추적'할 수 없으며, 그렇게 작동하지 않는다. 우리 법률 시스템의 대부분 기반이 되는 보고서를 생성하는 데 AI를 사용하는 것은 위험할 정도로 미끄러운 경사로이다. 연구에 따르면 어차피 시간을 거의 절약하지 못하고 이러한 봇이 훈련되는 방식과 관련된 문제는 편견을 침식하는 대신 강화할 수 있음을 의미한다.

종신형 선고

하지만 멈추지 않을 것이다. 경찰에서 AI 이니셔티브를 구현하는 것은 이미 영국에서 널리 퍼져 있다. 프로세스 중심적이고 무감각하게 힘든 작업의 ​​경우 모든 것을 가속화하는 데 AI를 사용하는 매력이 너무 매력적이다. 이러한 AI에 공급하는 데이터는 신중하게 선택해야 한다. 왜냐하면 세대를 거쳐 경찰 문서에 살아온 편견을 확실히 모시게 될 것이기 때문이다. 런던 경찰은 제도적으로 성차별적이고, 인종차별적이며, 동성애 혐오적이라는 비난을 받아왔다. 그들의 역사적 관행에 대해 훈련받은 AI가 평등주의적 미덕의 모범이 될 것이라고 생각하는가?

법은 느리게 작동한다. 번거로운 성격은 거짓 정의의 재앙에 대한 해독제이다. AI 기반 경찰 시스템의 공포에 대한 공상 과학은 너무 많은 지름길의 위험에 대한 중요한 경고이다. 사회의 모든 측면과 마찬가지로 AI가 사회를 안전하게 유지하는 데 도움이 될 수 있지만, 우리는 매우 신중하게 행동해야 한다. 이 부문의 기하급수적 특이점은 곧 우리 모두가 우리가 저지를 것이라고는 전혀 몰랐던 범죄로 감옥에 갇힐 수 있기 때문이다. 우리가 진정으로 이해하지 못하는 AI 모델의 추론에 따라 말이다.