Et dans la guerre et en politique. Comment l'influence de l'intelligence artificielle grandit-elle ?

Elon Musk estime que l'intelligence artificielle pourrait déclencher une troisième guerre mondiale.

Le Pentagone alloue près d'un milliard de dollars à l'intelligence artificielle à des fins militaires. Des experts en intelligence artificielle sont déjà recrutés dans les états-majors de campagnes électorales. En Chine, les technologies modernes sont utilisées pour renforcer le régime autoritaire et la censure. En Nouvelle-Zélande, on crée le premier homme politique virtuel au monde, et Musk estime que l'intelligence artificielle pourrait devenir un dictateur cruel et même déclencher une troisième guerre mondiale. Nous expliquons comment l'intelligence artificielle influence déjà la situation dans le monde.

L'intelligence artificielle comme arme

« Les États-Unis, la Russie et la Chine conviennent tous que l'intelligence artificielle deviendra à l'avenir une technologie clé, de laquelle dépendra la puissance nationale », — affirme Gregory Allen, collaborateur du Center for a New American Security, organisation analytique indépendante. L'année dernière, le ministère américain de la Défense a créé un groupe interdisciplinaire sur les technologies algorithmiques. Ses missions comprennent la mise en place de l'application des technologies d'intelligence artificielle et de vision par ordinateur au Pentagone. 

Conformément au décret signé par Donald Trump, le développement de l'intelligence artificielle est une priorité de la politique de son administration. L'année dernière, le Pentagone a approuvé l'allocation de 885 milliards de dollars à l'intelligence artificielle à des fins militaires. Le vice-président de l'entreprise sous-traitante du Pentagone Booz Allen Hamilton, Josh Sullivan, a déclaré que ces technologies doivent aider les États-Unis à concurrencer avec succès la Russie et la Chine, car l'utilisation de l'intelligence artificielle facilitera le travail des militaires et leur donnera du temps pour des tâches plus importantes. « Une partie de la mission consiste à garantir l'accès de notre gouvernement aux meilleures technologies et à les appliquer avec toute la responsabilité requise pour nos citoyens et nos combattants », a souligné Sullivan.

Les États-Unis ont également créé le Centre interarmées de l'intelligence artificielle (JAIC), qui dirigera et coordonnera les projets pilotes d'IA au Pentagone, y compris le recrutement de personnel, sa formation, la recherche propre et la protection contre les cyberattaques. Il s'est fixé pour objectif une utilisation large des systèmes d'intelligence artificielle dans le renseignement. Par exemple, pour l'analyse d'images en vue de préparer des opérations et de minimiser les risques pour les soldats et les civils.

L'utilisation de l'IA peut aussi améliorer la sécurité des avions, des navires et d'autres véhicules, et optimiser leur maintenance. Ainsi, la défaillance de pièces critiques peut être anticipée avec plus de précision et à temps. En outre, l'intelligence artificielle est activement utilisée dans le déminage : on l'emploie pour inspecter les objets suspects et pour désamorcer des bombes de différentes configurations.

Des systèmes semi-autonomes sont déjà utilisés dans les combats. Par exemple, des systèmes d'armes de combat rapproché. Ils peuvent effectuer seuls la recherche, repérer l'ennemi, évaluer la situation et frapper la cible.  Les scientifiques ont aussi commencé à travailler sur des technologies qui permettront aux systèmes d'agir non seulement selon un plan élaboré à l'avance, mais aussi d'élaborer leur propre algorithme d'action. Ceux-ci dépendront de leurs propres représentations de la situation qui s'est formée autour d'eux et de ce qu'il vaut mieux faire à l'instant même.

L'intelligence artificielle comme outil de renforcement de l'autoritarisme et de la censure

L'intelligence artificielle peut aussi être utilisée à des fins néfastes. Par exemple, dans la lutte contre la liberté. Le gouvernement chinois prévoit de l'utiliser pour prévoir les cyberattaques, les rassemblements, ainsi que pour renforcer la censure sur internet, qui y est déjà à un niveau élevé. Dans les villes chinoises, on déploie des systèmes de reconnaissance faciale et d'autres technologies fondées sur l'intelligence artificielle. La raison officielle : la sécurité. Elles ont également été utilisées pendant les manifestations à Hong Kong.

Le système policier cloud chinois est conçu pour rechercher sept catégories de personnes, y compris celles qui « portent atteinte à la stabilité ». Le pays cherche aussi à créer un système qui attribuera à chaque citoyen et à chaque entreprise une notation de crédit social : chacun aura son score, reflétant ses habitudes d'achat, son historique de conduite et même son attitude envers la politique. Presque comme dans « Black Mirror ».

À la fin de l'année dernière, le média The Verge a publié des exemples de photos de personnes générées par la société Nvidia à l'aide de technologies d'intelligence artificielle. Les journalistes se sont inquiétés que les falsifications produites par l'intelligence artificielle puissent influencer la société, car elles peuvent être utilisées pour la désinformation et la propagande.

L'intelligence artificielle en politique

L'élection présidentielle américaine de 2012 a été la première où l'influence de l'intelligence artificielle a fortement aidé l'un des candidats. Tout a commencé lorsque Barack Obama a nommé comme analyste en chef de sa campagne un expert en apprentissage automatique, Rayid Ghani. Son équipe a rassemblé toutes les informations sur les électeurs dans une seule base de données, y a ajouté des données issues des réseaux sociaux, et a commencé à prédire quatre facteurs pour chaque électeur : 1. Quelle est la probabilité qu'il vote pour Obama ? 2. Ira-t-il voter du tout ? 3. Réagira-t-il à un rappel pour le faire ? 4. Changera-t-il d'avis après une conversation sur des sujets précis ? Sur cette base, 66 000 simulations électorales étaient menées quotidiennement. Une fois les résultats obtenus, des bénévoles étaient mobilisés —  ils savaient qui visiter chez soi, qui appeler, quoi dire et à qui il valait mieux ne pas s'adresser. Cela a aidé Obama à obtenir un second mandat.

De tels systèmes d'intelligence artificielle seront utilisés encore davantage et plus souvent dans les campagnes électorales et les initiatives politiques qui nécessitent le traitement de grands volumes de données sur les électeurs. Les systèmes modernes sont déjà capables d'analyser différents ensembles de données provenant de nombreuses sources, d'apprendre d'une élection à l'autre et de fournir des conseils précieux. Lors de l'élection présidentielle américaine de 2016, des groupes d'analystes ont utilisé des algorithmes informatiques pour analyser les tendances sur les réseaux sociaux. L'affaire de la société Cambridge Analytica et du piratage des données personnelles des utilisateurs de Facebook reste encore fraîche dans les mémoires. 

Une histoire dont on ne peut pas non plus passer à côté. En Nouvelle-Zélande, le programmeur Nick Garrittsen a créé le premier homme politique virtuel au monde. C'est un bot nommé Sam. On peut lui parler via la messagerie Facebook. Le bot — une femme politicienne virtuelle qui participera aux prochaines élections générales de 2020.

Réaction

Les diplomates internationaux et les experts discutent depuis plusieurs années de la question des armes autonomes. Le niveau de ces discussions a atteint celui de consultations officielles de l'ONU. Actuellement, 26 États se prononcent pour un moratoire préventif sur les systèmes d'armes autonomes. Il est soutenu par plus de 230 organisations et environ 3 000 entrepreneurs et scientifiques du monde entier. Parmi eux figurent le fondateur de Tesla et de SpaceX, Musk, ainsi que l'entreprise DeepMind, qui appartient à Google. « La décision d'ôter la vie à un être humain ne doit jamais être déléguée à un robot », est-il dit dans la lettre. Contre l'interdiction se prononcent les États qui investissent déjà activement dans l'utilisation de l'intelligence artificielle à des fins militaires. Par exemple, les États-Unis, Israël, la Russie et le Royaume-Uni. Les représentants des États-Unis tentent de convaincre que les armes autonomes permettront d'éviter les « dommages collatéraux ». Car un ordinateur, contrairement à un soldat, peut analyser plus rapidement toute la situation sur le champ de bataille et commettre moins d'erreurs.

L'un des principaux entrepreneurs et innovateurs du monde, Musk, est sceptique à l'égard de l'IA non seulement dans les combats, mais aussi dans les questions politiques. Il a déclaré que l'intelligence artificielle peut créer un « dictateur immortel dont on ne pourra pas s'échapper ». Musk admet que des régimes autoritaires pourraient créer une intelligence artificielle capable de survivre à des dirigeants ou partis individuels et de devenir une source permanente d'oppression. Selon lui, la concurrence dans le domaine du développement de l'intelligence artificielle pourrait être la cause du déclenchement d'une troisième guerre mondiale.

Nicholas Wright, enseignant à l'University College London, dans une chronique pour Foreign Affairs, a noté que dans les pays ayant de solides traditions de liberté individuelle, on saura repousser de telles initiatives gouvernementales, si elles apparaissent. Il a aussi noté que de telles menaces peuvent venir non seulement de l'État. « Les entreprises technologiques oligopolistiques concentrent le pouvoir entre leurs mains, en absorbant leurs concurrents et en faisant pression pour l'adoption de normes de régulation favorables à leur activité. Pourtant, la société a déjà fait face à de tels défis après les révolutions technologiques précédentes », écrit-il. Et le renforcement de l'autoritarisme dans d'autres pays contribuera encore davantage à l'affirmation de la démocratie là où elle existe déjà.

« L'humanité a tendance à enfermer la rivalité dans certains cadres : « nous » contre « eux ». En conséquence, les pays occidentaux redéfiniront peut-être leur rapport à la censure et à la surveillance. La plupart des gens n'entrent pas dans les détails de la politique des données et ne prêtent pas attention aux risques. Mais lorsque ces détails deviendront la base d'un régime dans le monde réel, ils cesseront de paraître ennuyeux et abstraits. Les gouvernements et les entreprises technologiques devront expliquer en quoi consiste la différence », estime le scientifique.

Alexeï Simonchouk