«Black Mirror» à l'envers : comment les technologies rendront les gens plus bienveillants

Bots tuteurs et podcasts pour développer l'empathie.

La journaliste Caitlin Ugolik Phillips a passé plusieurs années à échanger avec les créateurs d'applications « humaines » : films en VR sur la guerre en Syrie, chatbots capables de repérer une dépression chez leur interlocuteur et programmes qui apprennent aux enfants l'empathie. À l'issue de ces entretiens, elle a publié le livre « Le futur des sentiments : comment construire l'empathie dans un monde obsédé par la technologie » (The Future of Feeling: Building Empathy in a Tech-Obsessed World). Aux technologies qui réveillent en nous les pires impulsions succèdent des services qui nous rendent meilleurs : nous résumons l'essentiel.

Il existe deux types d'empathie : cognitive (quand nous comprenons ce que ressent l'autre) et affective (quand nous ressentons avec lui). En 2018, la société PsychTests a évalué le lien entre le niveau d'empathie de 9 000 personnes et 31 paramètres – leur stabilité morale, leur capacité à résoudre les conflits, à exprimer leurs sentiments, etc. Les personnes qui se considèrent comme des empathes – c'est-à-dire capables de compatir activement aux autres – se sont révélées plus heureuses, plus motivées, plus optimistes. Les non-empathes n'ont obtenu un meilleur score que sur un seul paramètre : « le désir d'approbation d'autrui ». Rien d'étonnant à ce que les réseaux sociaux, où ce désir est inscrit dans les fonctions principales – « j'aime » et « partager » –, soient vite devenus un lieu très peu agréable.

Même un utilisateur inexistant de réseau social peut nous mettre en colère. Melanie Green de l'Université d'État de New York à Buffalo a conclu que les gens ont du mal, émotionnellement, à discuter de questions sur lesquelles il n'existe pas de consensus. Par exemple, les Américains soutiennent dans l'ensemble les droits des anciens combattants et peuvent en parler de manière civilisée ; en revanche, la discussion sur l'utilisation des cellules souches est une autre affaire. Green énonçait un sujet simple ou controversé, puis demandait à la personne d'évaluer le visage généré par ordinateur de son « interlocuteur ». Les visages présentés après des questions controversées (par exemple sur la légalisation du mariage gay) paraissaient plus menaçants. Rien d'étonnant à ce que nous nous lancions si facilement dans des disputes, même avec de faux comptes vides.  

TikTok ne facilite pas la communication. Les enseignants des jeunes Zoomers (c'est-à-dire ceux nés à la fin de la décennie précédente) se plaignent que les enfants qui utilisent constamment des applications comme Musical.ly peinent à communiquer entre eux sans smartphone. En outre, lorsqu'ils échangent des messages ou utilisent des applications de partage de photos, ils placent le nombre de messages au-dessus de leur contenu – cette volonté de s'exprimer en permanence est même ancrée dans la fonction streaks de Snapchat, qui incite l'utilisateur à ne pas laisser son compte inactif.

L'empathie recule chez les adolescents. En 2010, Sara Konrat de l'Université du Michigan a analysé les réponses de 14 000 étudiants et a conclu que leur niveau d'empathie était inférieur de 40 % à celui des personnes du même âge en 1979. Toutefois, la chercheuse n'a pas conclu que le boom technologique était seul responsable, mais les journalistes ont vite repris le sujet et accusé les entreprises de conditionner les enfants. Cette théorie compte néanmoins des partisans dans le monde universitaire. Sherry Turkle du Massachusetts Institute of Technology s'est inquiétée bien avant l'apparition des réseaux sociaux, lorsqu'elle a observé comment, dans les années 90, des enfants traitaient les jouets « Furby » – des robots parlants ressemblant à des oisillons. Les enfants les percevaient souvent comme des êtres vivants, tout en pouvant sans scrupule les casser.

Il faut remanier les technologies à cause des abus. Brisa Ayub, ex-productrice de contenus éducatifs chez Common Sense Media, raconte que l'entreprise doit modifier les conditions d'utilisation de ses produits en tenant compte des nouvelles failles que trouvent les enfants. Ils reprennent aux adultes, et les uns aux autres, de nouvelles formes de harcèlement. Parmi elles figure typiquement le jeu sur le FOMO des camarades (fear of missing out – peur de manquer quelque chose d'intéressant) : les enfants n'invitent pas leurs camarades de classe à une fête, puis les identifient sur les réseaux sociaux, sur des photos de l'événement. Même le fameux « j'aime » devient un outil de pression lorsque quelqu'un parcourt la page d'autrui en le mettant sous chaque publication – ce qui signifie : « je te surveille ».

Mais les réseaux sociaux sont aussi des outils d'« éducation des sentiments ». Et on peut éduquer non seulement les écoliers. Ainsi, le blogueur YouTube Dylan Marron s'est fait connaître par des vidéos de déballage – sauf qu'au lieu d'achats, il « déballait » des notions comme la masculinité toxique. Marron a vite eu un groupe de haters personnels qui souhaitaient sa mort dans les commentaires. Il a alors décidé de discuter personnellement avec l'un d'entre eux et lui a donné son numéro de téléphone. « Comme tu t'en souviens, je suis un tas de merde », a-t-il commencé. « Je dois reprendre mes mots. Je ne voulais pas t'appeler ainsi », a répondu son interlocuteur. Tel est le podcast de Marron « Conversations avec des gens qui me détestent ». Le blogueur ne parvient pas à convaincre tout le monde, mais presque chaque invité mène avec lui une conversation civilisée. Il suffisait de passer de l'espace anonyme à une discussion en tête-à-tête.

Les podcasts provoquent eux-mêmes l'empathie. Et ce n'est pas seulement parce qu'ils racontent des histoires (et les personnes qui lisent ou écoutent davantage d'histoires obtiennent de meilleurs scores aux tests d'empathie). Une expérience de l'Université de Californie a montré que la voix des gens suscite plus de compassion que leur discours écrit. On a proposé aux participants de lire, d'écouter et de regarder des monologues sur des sujets complexes comme l'avortement ou la guerre en Afghanistan. Il s'est avéré que les intervenants qu'ils ne faisaient qu'entendre leur paraissaient les plus humains. Il en allait de même avec les voix des candidats à la présidence des États-Unis en 2016 : sans voir l'orateur, les gens le percevaient comme plus agréable et plus intelligent, même lorsqu'ils n'étaient pas d'accord avec son programme. Dans une autre étude, des participants entendaient ou voyaient deux femmes se moquer l'une de l'autre : l'audio suscitait davantage de compassion que l'audio associé à la vidéo. Il y a dans la voix quelque chose qui provoque l'empathie davantage que l'observation des expressions du visage – et a fortiori que la lecture d'un texte. Mais certaines start-up veulent rendre les discussions écrites, elles aussi, plus humaines.

Les réseaux neuronaux aideront à lire le texte « plus en profondeur ». Ainsi, l'application Faciloscope utilise un algorithme qui repère dans les phrases trois « schémas rhétoriques » de base : la pose (quand les gens fixent les règles de la conversation), l'interpellation (quand ils soulignent les relations entre les participants) et l'invitation (quand ils demandent de commenter quelque chose ou posent une question). Après avoir analysé avec Faciloscope la première dispute venue sur Facebook au sujet de la censure dans les bibliothèques, la journaliste a constaté que la plus grande part du dialogue (69 %) était occupée par la fixation des règles. Il ne restait pratiquement aucune place pour un véritable échange d'opinions. Rien d'étonnant à ce que nos disputes sur les réseaux sociaux soient si improductives.

L'algorithme déterminera à quel moment le dialogue cesse d'être culturel. Un outil similaire, permettant de comprendre la structure des conversations en ligne, a été développé par Google : il s'appelle Perspective API. Des chercheurs de l'Université Cornell l'ont utilisé pour analyser 1 270 discussions sur Wikipédia qui, de conversations civilisées, ont glissé vers un échange d'insultes. Ils les ont ensuite comparées à des discussions sur les mêmes sujets qui ne se sont pas transformées en « prises de bec ». Il est apparu que si le premier commentaire sous un sujet commençait par « tu/vous », par des mots de remerciement ou par une question directe sur le thème, la discussion avait beaucoup moins de chances de dérailler. Non pas que les gens étaient d'accord entre eux – ils pouvaient se disputer, mais l'intérêt actif pour l'opinion d'autrui ne laissait pas de place aux insultes.

Un autre outil d'étude de l'empathie : les jeux. L'Institut du futur (IFTF) de Palo Alto a développé le jeu multijoueur Face the Future, destiné aux adolescents. Le jeu raconte qu'à l'avenir on inventera l'appareil FeelThat, qui transmet les émotions d'une personne à d'autres : il mesure le taux d'hormones et les modulations de la voix, après quoi les personnes environnantes peuvent physiquement ressentir ce que ressent le propriétaire du FeelThat. L'IFTF a proposé aux écoliers d'imaginer des scénarios utopiques et dystopiques sur la façon dont les gens utiliseraient un tel appareil. Une partie des utilisateurs ont jugé que FeelThat aiderait à rapprocher les gens – par exemple, il « ferait ressentir à Trump ce que ressent un émigré mexicain ». Mais d'autres se sont demandé si l'appareil ne donnerait pas lieu à de nouveaux motifs de discrimination – sur la base des émotions ? Et si l'État ne pourrait pas surveiller plus activement les citoyens à partir des données obtenues grâce à un tel programme ? Les écoliers ont, en substance, exprimé ce que disent les technoenthousiastes du monde entier : les technologies n'inculquent pas en nous de bons ou de mauvais traits par elles-mêmes – elles exploitent seulement les habitudes déjà existantes.

Il existe aussi des jeux « empathiques » pour les jeunes écoliers. L'entreprise Tinybop crée des applications pour les plus petits ; par exemple, le jeu Homes permet de visiter virtuellement les maisons de différents peuples du monde, du bungalow américain à la yourte mongole. Si l'enfant allume la webcam, il se voit dans le miroir pendant l'exploration d'une maison inconnue et réfléchit au fait que, à l'autre bout de la Terre, vivent au fond des enfants semblables à lui. L'entreprise a reçu un avis chaleureux d'une famille d'émigrés musulmans du Yémen. Leur fille cadette voulait montrer à ses nouveaux amis aux États-Unis comment elle vivait dans son pays, mais, sur demande « maisons au Yémen », internet ne renvoyait que des habitations détruites par la guerre. Dans le programme Homes, elle a trouvé une maison yéménite contemporaine, ressemblant à la sienne, et pour la première fois elle a pu être fière de l'intérêt de ses camarades pour son pays. Le jeu Random App of Kindness, quant à lui, permet à l'enfant d'aider virtuellement une personne ou un animal. Il est apparu, sur l'exemple de 106 participants âgés d'au moins dix ans, qu'après deux mois d'utilisation ils étaient plus enclins à aider leur entourage dans la vie réelle.

La réalité virtuelle est une « machine à empathie ». C'est ainsi que le réalisateur Chris Milk a qualifié cette technologie lors de la conférence TED en 2015. Milk a créé le film en VR « Des nuages au-dessus de Sidra », dans lequel le spectateur est transporté au cœur d'un camp de réfugiés syrien. Le film a été présenté au forum de Davos, et la réaction des dirigeants mondiaux a paru impressionnante au réalisateur. Lorsque l'ONU a commencé à utiliser la VR pour transporter les gens dans les pays pauvres, le nombre de dons a doublé. Sont également apparus des films en VR expliquant les conséquences de l'Holocauste, de la crise climatique et des inégalités raciales. Dans l'un d'eux, vous pourrez vous mettre à la place d'un adolescent noir fouillé sans raison par la police. Dans un autre, à la place d'une jeune femme qui vient avorter et subit les insultes de manifestants (« tu ferais mieux d'avorter, ta mère ! Le Centre de journalisme numérique de l'Université Columbia a conclu que l'immersion en VR non seulement suscite une réaction plus émotionnelle que la photo ou la vidéo, mais pousse aussi plus souvent le spectateur à accomplir un acte concret après le visionnage – par exemple, faire un don.

Mais la VR crée aussi un espace de manipulations. Mark Zuckerberg a dû s'excuser pour une idée malheureuse : une promenade en VR à Porto Rico après l'ouragan Maria – sur les scènes de destruction était superposé un avatar de dessin animé de Zuckerberg qui expliquait ce qui se passait, et, pour de nombreux spectateurs, ses commentaires sonnaient sarcastiques. Les lunettes à réalité augmentée d'Epson Moverio peuvent montrer à un ouvrier d'usine ce qui se passera lorsqu'il effectuera une action donnée : d'un côté, les créateurs des lunettes ont pu se mettre à la place de l'ouvrier et l'aider, mais de l'autre, le chef pourra aussi « se mettre à sa place » et exploiter le subordonné avec une force redoublée (par exemple, le pousser à enfreindre les règles de sécurité qui ne sont pas « inscrites » dans les lunettes). Même le film en VR du lauréat de l'« Oscar » Alejandro González Iñárritu, « Chair et sable », consacré aux immigrés, a été critiqué : on l'a jugé manipulateur, à la fois trop oppressant pour l'ambiance (il présente tous les aspects sombres du contrôle migratoire) et irréaliste – par exemple, on peut traverser le personnage virtuel et voir son cœur battre.

L'empathie devient un procédé marketing et une partie obligatoire de la culture d'entreprise. La société britannique The Empathy Business et la revue Harvard Business Review établissent des classements des entreprises au niveau d'empathie le plus élevé (Facebook, Google, LinkedIn et Netflix y occupent régulièrement les premières places). On évalue non seulement l'attitude de la direction face aux problèmes de discrimination ou de harcèlement, mais aussi la capacité à organiser un travail commun où les salariés sont attentifs aux émotions d'autrui au lieu de mettre des bâtons dans les roues à leurs collègues. En 2016, 20 % des employeurs américains ont introduit des cours d'« apprentissage de l'empathie » pour leur management.

La « formation à l'empathie » est une pratique courante dans les grandes entreprises. L'entrepreneuse transgenre Natalie Egan a fondé la start-up Translator, conçue au départ comme un réseau social pour les personnes transgenres. Mais de nombreux investisseurs potentiels ne comprenaient tout simplement pas en quoi l'expérience de ces utilisateurs différait de toutes les autres. Egan a alors fait de Translator une application qui « traduit » l'expérience d'un groupe de personnes dans un langage compréhensible par tous. La start-up utilise des chatbots et des technologies VR pour que les employés des entreprises clientes (y compris des géants comme McKinsey & Co) puissent mieux comprendre les difficultés auxquelles les femmes et les minorités sont confrontées dans les affaires. Comme l'application est anonyme, personne ne se sentira humilié comme lors du « défilé des privilèges » – une formation d'entreprise typique où les RH demandent aux personnes nées dans une famille aisée, non émigrées, etc., de faire un pas en avant.

Les salariés sont même recrutés en fonction de leur propension à l'empathie. Par exemple, la chaîne hôtelière Hyatt Hotels utilise activement l'intelligence artificielle pour communiquer avec les clients, mais a néanmoins besoin de vraies personnes lorsqu'il faut résoudre un problème survenu. Pour recruter de nouveaux employés, Hyatt leur fait passer un jeu développé par la société Pymetrics, qui aide à identifier les compétences souples nécessaires. Et l'entreprise Fidelity Investments améliore son service client grâce à une simulation en VR dans laquelle un employé de centre d'appels peut virtuellement visiter le « domicile » de l'appelant, voir de ses propres yeux comment il vit et comment la solution apportée par l'entreprise à son problème affectera son quotidien.

Les bots remplacent déjà les thérapeutes : par exemple, Ellie apparaît à l'écran sous les traits d'une brune calme en cardigan. Elle discute avec des soldats et repère chez eux des signes de trouble de stress post-traumatique. Cela fait partie d'un projet plus vaste, SimCoach – un programme interactif de réinsertion des anciens combattants. Ceux qui ont eu une séance avec « Ellie » se sont montrés plus ouverts lors des consultations ultérieures, cette fois non anonymes, avec des médecins. Probablement parce qu'elle est humaine, sans trop ressembler à un être humain, ce qui permet aux gens de lui ouvrir leur âme sans crainte. Un robot ne suscite pas chez l'homme un élan d'empathie aussi fort qu'une autre personne, mais il n'est pas perçu non plus comme un automate totalement dénué d'âme : ainsi, une étude de 2012 a révélé que 98 % des enfants ne voulaient pas qu'une autre personne soit enfermée dans un placard, 100 % ne s'opposaient pas à ce qu'on y enferme un simple balai, mais 46 % ne voulaient pas qu'un tel châtiment soit infligé au robot Robovie. Les concepteurs comprennent parfaitement nos faiblesses et, en 2019, ont même présenté un robot spécial pour les câlins, Lovot.

Un bot peut aider les parents à devenir meilleurs. Vivienne Min a inventé Muse – une application qui étudie les relations des parents avec leurs enfants et envoie des notifications push avec des suggestions d'activités à faire ensemble, par exemple organiser un concours d'avions en papier ou comprendre comment fonctionne la plomberie de la salle de bains. Si l'enfant perd constamment, l'application conseille à la maman de le laisser gagner. Il est de plus en plus difficile pour les parents de montrer un modèle d'empathie à des enfants qui passent beaucoup de temps en ligne, alors Muse devient une véritable bouée de sauvetage : le programme suit cinquante constructions cognitives et sait lesquelles il vaut mieux développer à tel âge de l'enfant.

Enfin, un bot peut soutenir dans un moment difficile. Le chatbot Replika est né après la mort du meilleur ami de sa créatrice, Evguenia Kuïda. Elle a chargé dans l'IA tous les messages que lui envoyait le défunt, ainsi que ceux que lui avaient transmis des amis communs. L'application obtenue ne ressemble pas beaucoup à une conversation avec une autre personne, mais elle convient parfaitement à la réflexion : vous partagez quelque chose avec Replika, et le bot pose des questions qui vous aident à mieux vous comprendre. L'application vous réapprend à vous parler comme vous le feriez avec un ami, un enfant ou votre chiot préféré – avec juste un peu d'aide de l'algorithme.

Mais l'auto-assistance numérique n'est pas toujours impersonnelle. Ainsi, Robert Morris a depuis longtemps l'habitude de faire appel à des inconnus pour résoudre ses problèmes : en notant ses observations et difficultés, il les envoyait à des étrangers via la plateforme d'externalisation Amazon Mechanical Turk, où, pour quelques centimes, des personnes évaluaient ses actions et lui permettaient parfois de regarder la situation sous un nouvel angle. C'est ainsi qu'est né chez lui le projet du service Koko, où les gens discuteraient des problèmes des uns et des autres et offriraient virtuellement une épaule amicale. Parfois, il suffit d'écrire à un inconnu : « tout ira bien ». L'algorithme de Koko a été racheté par Airbnb pour ses propres développements en IA, et Tumblr a intégré Koko à sa plateforme : ainsi, si un utilisateur cherchait des contenus par des tags comme « dépression » ou « suicide », le site lui proposait d'utiliser Koko, « une communauté anonyme de personnes bienveillantes ».

L'intelligence artificielle n'a pas d'intentions malveillantes, mais elle est capable de refléter nos mauvais penchants. Et elle peut tout aussi bien refléter notre empathie : tout dépend donc des êtres humains.