« Précision supérieure à 97 % » : des scientifiques chinois mettent au point un « procureur » numérique

Le système prendra des décisions sur les dossiers pénaux dans les huit types de crimes les plus répandus.

Des chercheurs chinois affirment avoir été les premiers au monde à mettre au point un « procureur » capable d'accuser des personnes de crimes à l'aide de l'intelligence artificielle, selon The Korea Times.

Selon les chercheurs, le « procureur » IA peut inculper avec une précision supérieure à 97 % sur la base d'une description orale d'une affaire. La machine a été construite et testée par le Parquet populaire de Pudong à Shanghai, le plus grand et le plus chargé des parquets de district du pays. 

« Procureur » IA

Selon le professeur Shi Yun, directeur du laboratoire de gestion des mégadonnées de l'Académie chinoise des sciences, cette technologie pourrait réduire la charge quotidienne des procureurs, en leur permettant de se concentrer sur des tâches plus complexes.

« Le système peut, dans une certaine mesure, remplacer les procureurs dans le processus de prise de décision », ont déclaré Shi et ses collègues dans un article publié ce mois-ci dans la revue interne à comité de lecture Management Review.

L'utilisation des technologies d'intelligence artificielle dans les forces de l'ordre se développe partout dans le monde. Certains procureurs allemands ont utilisé des technologies d'IA, telles que la reconnaissance d'images et l'expertise judiciaire numérique, pour accélérer le traitement des affaires et en améliorer la précision. 

Les procureurs chinois ont été les premiers à commencer à utiliser l'IA en 2016. Beaucoup d'entre eux utilisent aujourd'hui un outil d'IA connu sous le nom de Système 206. Cet outil peut évaluer la force des preuves, les conditions d'arrestation et le degré de dangerosité du suspect. 

Mais tous les outils d'intelligence artificielle existants ont un rôle limité, car « ils ne participent pas au processus de décision concernant la mise en examen et [la proposition de] peines », ont déclaré Shi et ses collègues.

La prise de telles décisions exigerait que la machine identifie et supprime tout contenu des dossiers sans rapport avec l'infraction, sans supprimer les informations utiles. 

La machine devrait également convertir le langage humain complexe et en constante évolution en un format mathématique ou géométrique standard, compréhensible pour un ordinateur. 

Les entreprises chinoises d'Internet ont développé des outils puissants de traitement du langage naturel, mais leur fonctionnement nécessite souvent de gros ordinateurs auxquels le parquet n'a pas accès.

Le « procureur » IA conçu par l'équipe de Shi pouvait fonctionner sur un ordinateur de bureau. Pour chaque suspect, il formulera une accusation sur la base de 1 000 « traits » extraits de la description de l'affaire rédigée par un humain, dont la plupart sont trop petits ou trop abstraits pour avoir un sens pour les humains. Le Système 206 évaluera ensuite les preuves.

La machine a été « entraînée » sur plus de 17 000 affaires entre 2015 et 2020. Pour l'instant, elle peut identifier et formuler des accusations pour les huit types de crimes les plus courants à Shanghai. 

Shi et ses collègues ont déclaré que le « procureur » deviendrait bientôt plus influent grâce à des mises à jour. Il pourra reconnaître des crimes moins courants et retenir plusieurs chefs d'accusation contre un même suspect.

Questions problématiques

Un procureur de la ville méridionale de Canton a déclaré avoir certaines inquiétudes quant à l'utilisation de l'IA pour formuler des accusations. « Une précision de 97 % peut être élevée sur le plan technologique, mais il y aura toujours un risque d'erreur », a déclaré ce procureur, qui a demandé à ne pas être nommé. « Qui assumera la responsabilité lorsque cela se produira ? Le procureur, la machine ou le concepteur de l'algorithme ? »

La participation directe de l'IA au processus de décision pourrait également affecter l'autonomie du magistrat instructeur. Un procureur de Canton a déclaré que la plupart des procureurs ne veulent pas que des informaticiens « interfèrent » dans une décision judiciaire.

Un autre problème est que le « procureur » ne pourrait formuler des accusations que sur la base de son expérience antérieure. Il ne pourrait pas anticiper la réaction du public à une affaire dans un environnement social en mutation. 

« L'IA peut aider à détecter une erreur, mais elle ne peut pas remplacer un humain dans la prise de décision », a déclaré le procureur. Néanmoins, la Chine utilise activement l'IA dans presque tous les secteurs du gouvernement pour tenter d'accroître l'efficacité, de réduire la corruption et de renforcer le contrôle.