중국의 연구자가, AI인의 손을 빌리지 않고 범죄의 내용을 특정하고, 거기에 응해 기소할 수 있는 "AI 검찰관"을 개발했다고 한다.
AI 검사는 사건에 대해 구두로 설명받으면, 그 범죄 내용을 분석해 97%의 정확도로 기소할 수 있다.
이를 활용하면, 인간 검사들이 부담을 덜고 더 힘든 일에 집중할 수 있게 된다는 설명이지만, 정부의 악용 가능성과 오검지 문제가 우려되고 있다.
■ 과거의 사건 데이터를 바탕으로 AI 검사에게 학습시킨다
AI 검사의 개발을 추진하는 것은, 중국 내에서 가장 바쁜 것으로 알려진 상하이 푸둥인민 검찰원이다.
개발팀은, 2015~2020년에 발생한 17000건 이상의 사건 데이터를 AI 검사들에게 학습시키고, 이에 따라 사건 기록으로 읽을 수 있는 1000개 항목의 특징을 토대로 범죄 내용을 특정해 97%의 정확도로 기소하는 성능이 실현됐다.
그렇다고는 해도, 현시점에서 AI 감서가 모든 범죄에 대응할 수 있는 것은 아니다. 그래도 상하이에서 가장 일반적인 "신용카드 사기", "도박 운영", "위험운전", "고의 상해", "공무집행 방해", "절도", "사기", "시비" 등 8가지에 대응할 수 있다고 한다.
또한 이후의 개량으로, 일반적이지 않은 복잡한 범죄도 인식할 수 있고, 1명을 복수 혐으로 기소할 수도 있을 것이라고 개발자들은 설명하고 있다.
■ 기계가 인간을 심판하는 시대가 열리는가?
중국의 검찰은, 벌써 2016년에 AI를 채용하고 있고, 지금은 "증거의 강도", "체포시의 상황", "일반사회에 대한 용의자의 위험성" 이라는 것의 평가에 넓게 이용되고 있다.
그런데도, 범죄의 기소나 형량의 제안이라고 하는 수속은, 어디까지나 인간의 일이며, AI 툴의 역할은 한정적인 것이었다.
하지만, 만약 향후, 이러한 분야에도 AI가 개입해 온다면, 그것이 사회에 주는 영향은 매우 클 것이다.
■ 현역 검사들의 우려
이런 점에 대해, 인간의 검사들은 우려의 목소리를 내고 있다. 광저우의 한 검사는 익명을 조건으로 "사우스 차이나 모닝 포스트"의 취재에 대해 이렇게 말했다.
"97%라는 정확도는 기술적으로는 높을지 몰라도, 틀릴 가능성은 항상 있다. 그렇게 됐을 때 도대체 누가 책임질 것인가? 검사, AI 개발자일까?"
그는 또 다른 문제를 지적하고 있다.
그것은 AI 검사가 과거의 경험만을 토대로 기소할 가능성이 있다는 것이다. 사건에 대한 일반 사회의 반응은 세상의 변화에 따라 변하는 것이지만, AI는 그것을 예측할 수는 없다.
"AI는 틀린 곳을 찾아내는 데는 편리하겠지만, 인간의 의사 결정을 대체할 수는 없다"고, 그는 AI 검사에 대해 회의적이다.
그는 대부분의 검사가 컴퓨터 과학자가 법적인 판단에 개입하는 것을 원치 않는다고 말한다.
또, 정부의 반대 의견을 봉쇄하는 데 이용될 가능성도 배제 할 수 없다.
그래도 중국 정부는 효율화, 부패 방지, 통제 강화 등 모든 분야에서 AI 활용에 적극적으로 임하고 있다고 하는데....