「정확도 97% 이상」: 중국 과학자들, 디지털 “검사”를 개발 중

이 시스템은 가장 흔한 여덟 가지 유형의 범죄 사건 자료를 바탕으로 결정을 내리게 된다.

중국 연구진은 인공지능을 활용해 사람을 범죄 혐의로 기소할 수 있는 “검사”를 세계 최초로 개발했다고 밝혔다고 The Korea Times가 전했다.

연구진에 따르면 AI “검사”는 사건에 대한 구두 설명만으로 97% 이상의 정확도로 기소 판단을 내릴 수 있다. 이 기계는 중국에서 가장 크고 업무량이 가장 많은 지역 검찰청인 상하이 푸둥 인민검찰원이 제작하고 시험했다.

AI “검사”

중국과학원 빅데이터 관리 연구소장 스이윈 교수는 이 기술이 검사들이 보다 복잡한 업무에 집중할 수 있게 해 일상적인 업무 부담을 줄일 수 있다고 말했다.

“이 시스템은 결정 과정에서 어느 정도 검사를 대체할 수 있다”고 스 교수와 동료들은 이번 달 내부 동료 심사 학술지 Management Review에 게재된 논문에서 밝혔다.

법 집행 기관에서 인공지능 기술의 활용은 전 세계적으로 늘고 있다. 일부 독일 검사들은 사건 처리 속도와 정확성을 높이기 위해 이미지 인식, 디지털 법의학 등 인공지능 기술을 사용해 왔다.

중국 검사들은 2016년 가장 먼저 AI를 도입하기 시작했다. 현재 많은 검사가 ‘시스템 206’으로 알려진 AI 도구를 사용하고 있다. 이 도구는 증거의 강도, 체포 조건, 용의자의 위험 정도를 용의자별로 평가할 수 있다.

그러나 기존의 모든 AI 도구는 “기소 및 형량 제안에 관한 결정 과정에 참여하지 않기” 때문에 역할이 제한적이라고 스 교수와 동료들은 밝혔다.

이러한 결정을 내리려면 기계가 유용한 정보를 삭제하지 않고 사건 자료에서 범죄와 무관한 내용을 식별해 제거해야 한다.

또한 기계는 복잡하고 끊임없이 변화하는 인간의 언어를 컴퓨터가 이해할 수 있는 표준 수학적 또는 기하학적 형식으로 변환해야 한다.

중국 인터넷 기업들은 강력한 자연어 처리 도구를 개발했지만, 이러한 도구는 대개 검찰이 접근할 수 없는 대형 컴퓨터를 필요로 한다.

스 교수 팀이 개발한 AI “검사”는 데스크톱 컴퓨터에서도 작동할 수 있었다. 사람이 작성한 사건 설명문에서 얻은 1000개의 ‘특징’을 바탕으로 용의자마다 기소 판단을 내리는데, 이들 대부분은 사람이 이해하기에는 지나치게 세부적이거나 추상적이다. 이후 시스템 206이 증거를 평가한다.

이 기계는 2015년부터 2020년까지 17,000건 이상의 사건으로 ‘학습’했다. 현재는 상하이에서 가장 흔한 여덟 가지 범죄 유형을 식별하고 기소할 수 있다.

스 교수와 동료들은 업데이트를 통해 이 “검사”가 곧 더 큰 영향력을 갖게 될 것이라고 말했다. 덜 흔한 범죄를 인식하고, 한 명의 용의자에게 여러 혐의를 제기할 수 있게 될 것이라는 설명이다.

문제가 되는 질문들

광저우 남부 지역의 한 검사는 기소 과정에서 AI를 사용하는 데 일부 우려가 있다고 말했다. “97%의 정확도는 기술적 관점에서는 높을 수 있지만, 오류의 가능성은 항상 존재한다”고 이름을 밝히지 않기를 요청한 이 검사는 말했다. “그런 일이 발생하면 누가 책임을 지는가? 검사인가, 기계인가, 알고리즘 개발자인가?”

AI가 결정 과정에 직접 참여하는 것은 검사의 자율성에도 영향을 미칠 수 있다. 광저우의 검사는 대부분의 검사가 컴퓨터 과학자들이 사법 결정에 “개입”하는 것을 원하지 않는다고 말했다.

또 다른 문제는 이 “검사”가 과거 경험에만 근거해 기소할 수 있다는 점이다. 변화하는 사회 환경 속에서 사건에 대한 여론의 반응을 예측할 수 없다.

“AI는 오류를 찾아내는 데 도움을 줄 수 있지만, 결정을 내리는 데 사람을 대신할 수는 없다”고 이 검사는 말했다. 그럼에도 중국은 효율성을 높이고 부패를 줄이며 통제를 강화하기 위해 정부의 거의 모든 분야에서 AI를 적극 활용하고 있다.