AI와 법률인공지능은 판사를 완전히 대체할 수 있을까. 옆의 사례들은 이 질문의 답을 살펴보기 위해 실제 세계 어딘가에서 일어났거나 곧 일어날 일을 살짝 고친 것이다. 여기서 보듯 인공지능은 아직 판사의 판단을 보조하는 정도로만 활용되고 있다. 사실 이렇게 인공지능을 보조 수단으로만 쓰려 해도 해결해야 할 법적 · 절차적 문제가 많다. 재범 위험성을 재단하는 인공지능 사례 1을 보자. 우리 형사 재판에서는 성폭력 범죄자의 재범 위험성을 평가하기 위해 ‘ 한국판 사이코패스진단검사 ( PCL - R ) ’ 와 ‘ 한국성범죄재범위험성평가 (
인공지능 사례 1을 보자. 우리 형사 재판에서는 성폭력 범죄자의 재범 위험성을 평가하기 위해 ‘ 한국판 사이코패스진단검사 ( PCL - R ) ’ 와 ‘ 한국성범죄재범위험성평가 ( KSORAS ) ’ 라는 두 척도를 사용한다. 피해자와의 관계, 나이 차, 본인의 혼인 경험 등 15 ~ 20개의 변수를 활용하며, 점수 산정 원리도 논문 등을 통해 공개돼 있다. 피고인은 자신의 재범 위험성 점수가 무얼 가지고 어떻게 산정된 것인지 알 수 있고, 오류에 대해 다툴 수도 있다. 이를 두고 ‘ 설명 가능성이 100 % ’ 라고 한다. 하지만 이 점수는 재범률에
위법하다 ” 고 [UNK]. 위스콘신주 대법원은 “ 판사가 여러 사정을 종합해 독립적으로 형량을 정했으니, 비공개 알고리즘이 낸 결과를 참조한 것만으로는 양형이 잘못되었다고 할 수 없다 ” 고 판단했다. 그러나 이 판결에 대해서는 비판이 많다. 특히 판사가 점수를 본 이상 소위 ‘ 정박 효과 ’ 가 생기는 문제가 있다.
과거 데이터로부터 편향이나 편견까지 학습했더라도 알기 어렵다. 미국의 여러 주 법원은 선고 형량이 지나치게 널뛰는 것을 막기 위해 비공개 알고리즘인 ‘ 컴퍼스 ( COMPAS ) ’ 가 산출한 재범 위험성 점수를 양형에 참고해 왔다. 여기에 루미스라는 피고인이 이의를 제기했다. “ 이렇게 불투명한 점수를 참작하는 것이 피고인의 방어권을 침해하므로 위법하다 ” 고 [UNK]. 위스콘신주 대법원은 “ 판사가 여러 사정을 종합해 독립적으로 형량을 정했으니, 비공개 알고리즘이 낸 결과를 참조한 것만으로는 양형이 잘못되었다고 할 수 없
피고인은 자신의 재범 위험성 점수가 무얼 가지고 어떻게 산정된 것인지 알 수 있고, 오류에 대해 다툴 수도 있다. 이를 두고 ‘ 설명 가능성이 100 % ’ 라고 한다. 하지만 이 점수는 재범률에 영향을 미칠 수 있는 수많은 요소 중 일부만 고려하므로 정확성은 떨어진다. 이들 척도 대신 인공지능을 이용하면 어떨까. 기존의 수많은 범죄 기록을 반복 학습해 재범 위험성을 산출하는 알고리즘을 만들어 낼 수 있다. 기존 척도에서는 고려되지 못했던 수많은 변수를 고려하고, 계속 학습하는 과정에서 변수들의 가중치도 수정되므로 앞서 본 한국형 척도보다 훨씬 정확해진다. 그러나
만들어 낼 수 있다. 기존 척도에서는 고려되지 못했던 수많은 변수를 고려하고, 계속 학습하는 과정에서 변수들의 가중치도 수정되므로 앞서 본 한국형 척도보다 훨씬 정확해진다. 그러나 머신러닝 알고리즘은 인과관계가 아니라 확률적인 상관관계만 포착하는 것이다. “ 이런 사람들이 이렇다더라 ” 는 식이다. 그래서 [UNK] 어떻게 도출한 것인지 명확히 설명할 수 없다. 알고리즘이 과거 데이터로부터 편향이나 편견까지 학습했더라도 알기 어렵다. 미국의 여러 주 법원은 선고 형량이 지나치게 널뛰는 것을 막기 위해 비공개 알고리즘인 ‘ 컴퍼스 ( COMPAS ) ’
여기서 보듯 인공지능은 아직 판사의 판단을 보조하는 정도로만 활용되고 있다. 사실 이렇게 인공지능을 보조 수단으로만 쓰려 해도 해결해야 할 법적·절차적 문제가 많다.