«Una precisión superior al 97 %»: científicos chinos desarrollan un «fiscal» digital

El sistema tomará decisiones sobre los expedientes penales en los ocho tipos de delito más frecuentes.

Investigadores de China afirman haber sido los primeros del mundo en desarrollar un «fiscal» capaz de acusar a personas de delitos mediante inteligencia artificial, según informa The Korea Times.

Según los investigadores, el «fiscal» de IA puede formular una acusación con una precisión superior al 97 % a partir de una descripción oral del caso. La máquina fue construida y probada por la Fiscalía Popular del Distrito de Pudong de Shanghái, la fiscalía de distrito más grande y con mayor carga de trabajo del país. 

«Fiscal» de IA

Según el profesor Shi Yun, director del Laboratorio de Gestión de Macrodatos de la Academia China de Ciencias, esta tecnología puede reducir la carga diaria de los fiscales, permitiéndoles centrarse en tareas más complejas.

«El sistema puede sustituir en cierta medida a los fiscales en el proceso de toma de decisiones», afirmaron Shi y sus colegas en un artículo publicado este mes en la revista interna revisada por pares Management Review.

El uso de tecnologías de inteligencia artificial en las fuerzas del orden está creciendo en todo el mundo. Algunos fiscales alemanes han empleado tecnologías de IA, como el reconocimiento de imágenes y la peritación judicial digital, para acelerar y mejorar la precisión en la tramitación de los casos. 

Los fiscales chinos fueron los primeros en empezar a usar IA en 2016. Muchos de ellos utilizan ahora una herramienta de IA conocida como Sistema 206. Esta herramienta puede evaluar la fuerza de las pruebas, las condiciones de detención y el grado de peligrosidad de los sospechosos. 

Pero todas las herramientas de inteligencia artificial existentes tienen un papel limitado, porque «no participan en el proceso de toma de decisiones sobre la formulación de cargos y [la propuesta de] condenas», afirmaron Shi y sus colegas.

Tomar decisiones de este tipo exigiría que la máquina identificara y eliminara cualquier contenido de los expedientes que no guarde relación con el delito, sin eliminar la información útil. 

La máquina también tendría que convertir el lenguaje humano, complejo y en constante cambio, en un formato matemático o geométrico estándar comprensible para el ordenador. 

Las empresas de internet chinas han desarrollado potentes herramientas de procesamiento del lenguaje natural, pero su funcionamiento requiere a menudo grandes ordenadores a los que la fiscalía no tiene acceso.

El «fiscal» de IA desarrollado por el equipo de Shi podía funcionar en un ordenador de sobremesa. Para cada sospechoso, formulará una acusación basándose en 1000 «rasgos» extraídos del texto de la descripción del caso, elaborada por una persona, la mayoría de los cuales son demasiado pequeños o abstractos para tener sentido para las personas. El Sistema 206 evaluará después las pruebas.

La máquina fue «entrenada» con más de 17 000 casos de 2015 a 2020. En la actualidad puede identificar y formular acusaciones por los ocho tipos de delitos más comunes de Shanghái. 

Shi y sus colegas afirmaron que el «fiscal» pronto será más influyente gracias a las actualizaciones. Podrá reconocer delitos menos frecuentes y formular varios cargos contra un mismo sospechoso.

Cuestiones problemáticas

Un fiscal de la ciudad sureña de Cantón dijo tener algunas preocupaciones sobre el uso de la IA para formular acusaciones. «Una precisión del 97 por ciento puede ser alta desde el punto de vista tecnológico, pero siempre existirá la posibilidad de error», dijo el fiscal, que pidió no revelar su nombre. «¿Quién asumirá la responsabilidad cuando eso ocurra? ¿El fiscal, la máquina o el desarrollador del algoritmo?»

La participación directa de la IA en el proceso de toma de decisiones también podría afectar a la autonomía del acusador. Un fiscal de Cantón afirmó que la mayoría de los fiscales no quieren que los informáticos «interfieran» en las resoluciones judiciales.

Otro problema es que el «fiscal» solo podría formular acusaciones basándose en su experiencia previa. No podría prever la reacción pública ante un caso en un entorno social cambiante. 

«La IA puede ayudar a detectar un error, pero no puede sustituir a una persona en la toma de decisiones», dijo el fiscal. Sin embargo, China utiliza activamente la IA en casi todos los sectores del gobierno para intentar aumentar la eficiencia, reducir la corrupción y reforzar el control.