«Black Mirror» al revés: cómo la tecnología hará a la gente más amable

Bots tutores y pódcast para desarrollar la empatía.

La periodista Caitlin Ugolik Phillips pasó varios años hablando con los creadores de aplicaciones «humanas»: películas de realidad virtual sobre la guerra en Siria, chatbots capaces de detectar depresión en el interlocutor y programas que enseñan empatía a los niños. A partir de esas entrevistas publicó el libro «El futuro de los sentimientos: cómo construir empatía en un mundo obsesionado con la tecnología» (The Future of Feeling: Building Empathy in a Tech-Obsessed World). A las tecnologías que despiertan en nosotros los peores impulsos les suceden servicios que nos convierten en nuestras mejores versiones: resumimos lo más importante.

Hay dos tipos de empatía: la cognitiva (cuando entendemos qué experimenta otra persona) y la afectiva (cuando sentimos junto a ella). En 2018, la compañía PsychTests evaluó la relación entre el nivel de empatía de 9.000 personas y 31 parámetros: su estabilidad moral, su capacidad para resolver conflictos, para expresar sus sentimientos, etc. Las personas que se consideran empáticas, es decir, capaces de compadecer activamente a otros, resultaron ser más felices, motivadas y optimistas. Los no empáticos obtuvieron un resultado más alto en un solo parámetro: el «afán por la aprobación ajena». No es de extrañar que las redes sociales, donde ese afán se expresa en sus funciones principales ("me gusta" y «compartir»), se hayan convertido rápidamente en un lugar bastante incómodo.

Incluso un usuario inexistente de una red social puede enfadarnos. Melanie Green, de la Universidad Estatal de Nueva York en Búfalo, llegó a la conclusión de que a las personas les resulta emocionalmente difícil debatir sobre cuestiones en las que no hay consenso general. Por ejemplo, los estadounidenses en general apoyan los derechos de los veteranos y pueden hablar del tema con civismo; otra cosa es debatir sobre el uso de células madre. Green leía un tema simple o controvertido y luego pedía a la persona que valorara el rostro generado por ordenador de su «interlocutor». Los rostros mostrados tras preguntas controvertidas (por ejemplo, sobre la legalización de los matrimonios homosexuales) parecían más amenazantes. No es de extrañar que nos enzarcemos tan fácilmente en discusiones incluso con cuentas falsas vacías.  

TikTok no ayuda a comunicarse. Los profesores de los más jóvenes de la generación Z (es decir, de quienes nacieron a finales de la década pasada) se quejan de que los niños que usan constantemente aplicaciones como Musical.ly tienen dificultades para comunicarse entre sí sin el teléfono. Además, al escribir mensajes o usar aplicaciones para compartir fotos, anteponen la cantidad de mensajes a su contenido: esa necesidad de expresarse continuamente está incluso integrada en la función streaks de Snapchat, que motiva al usuario a no dejar su cuenta inactiva.

La empatía entre los adolescentes disminuye. En 2010, Sara Konrath, de la Universidad de Míchigan, analizó las respuestas de 14.000 estudiantes universitarios y concluyó que su nivel de empatía era un 40 % inferior al de las personas de la misma edad en 1979. Sin embargo, la investigadora no llegó a la conclusión de que la culpa fuera del auge tecnológico, pero los periodistas se hicieron eco rápidamente del tema y acusaron a las corporaciones de adoctrinar a los niños. Aun así, esa teoría tiene sus partidarios en el ámbito académico. Sherry Turkle, del Instituto Tecnológico de Massachusetts, se inquietó mucho antes de que aparecieran las redes sociales, cuando notó cómo en los noventa los niños trataban a los Furby, robots parlantes parecidos a polluelos. Los niños a menudo los percibían como seres vivos, pero al mismo tiempo podían romperlos sin ningún reparo.

La tecnología tiene que reinventarse por culpa de los abusos. Brisa Ayub, exproductora de contenidos educativos en Common Sense Media, cuenta que tienen que cambiar las condiciones de uso de sus productos teniendo en cuenta las nuevas lagunas que encuentran los niños. Estos imitan de los adultos y de los demás nuevas formas de acoso. Entre ellas es típico aprovechar el FOMO de los compañeros (fear of missing out, miedo a perderse algo interesante): los niños no invitan a sus compañeros de clase a una fiesta y luego los etiquetan en redes sociales en las fotos del evento. Incluso el preciado «me gusta» se convierte en una herramienta de presión cuando alguien recorre el perfil de otro y lo pone en cada publicación, lo que señala: «te estoy vigilando».

Pero las redes sociales también son herramientas para «educar los sentimientos». Y no solo se puede educar a los escolares. Así, el youtuber Dylan Marron se hizo famoso con vídeos de unboxing: solo que, en lugar de compras, «desempaquetaba» conceptos como la masculinidad tóxica. Marron pronto tuvo un grupo de haters personales que en los comentarios le deseaban la muerte. Entonces decidió hablar personalmente con alguno de ellos y dio su número de teléfono a uno de los comentaristas. «Como recordarás, soy una mierda», empezó. «Tengo que retirar lo que dije. No pretendía llamarte así», respondió el interlocutor. Así suena el pódcast de Marron «Conversaciones con gente que me odia». El bloguero no consigue convencer a todos, pero casi con cada invitado mantiene una conversación civilizada. Y solo hacía falta pasar del espacio anónimo a una conversación cara a cara.

Los pódcast por sí mismos provocan empatía. Y no solo porque cuenten historias (y las personas que leen o escuchan más historias obtienen más puntos en las pruebas de empatía). Un experimento de la Universidad de California demostró que las voces de las personas despiertan en nosotros más compasión que su mismo discurso por escrito. Se pidió a la gente que leyera, escuchara y viera monólogos sobre temas complejos como el aborto o la guerra en Afganistán. Resultó que los oradores que los sujetos solo habían escuchado les parecían los más humanos. Lo mismo ocurría con las voces de los candidatos a la presidencia de Estados Unidos en 2016: sin ver al orador, la gente lo percibía como una persona más agradable e inteligente, incluso cuando no estaba de acuerdo con su programa. En otro estudio, las personas oían o veían cómo dos mujeres se imitaban burlonamente: el audio despertó más compasión que el audio más el vídeo. Hay algo en la voz que provoca empatía en mayor grado que la observación de las expresiones faciales, y mucho más que la lectura de un texto. Pero varias startups quieren hacer más humanos también los debates escritos.

Las redes neuronales ayudarán a leer el texto «más a fondo». Así, la aplicación Faciloscope usa un algoritmo que identifica en las oraciones tres «patrones retóricos» básicos: el planteamiento (cuando las personas establecen las normas de la conversación), la apelación (cuando señalan la relación entre los participantes de la conversación) y la invitación (cuando piden que alguien comente algo o hacen una pregunta). Tras analizar con Faciloscope la primera discusión que le salió al paso en Facebook sobre la censura en las bibliotecas, la periodista vio que la mayor parte del diálogo (69 %) se dedicaba a establecer reglas. Eso apenas dejaba espacio para un intercambio real de opiniones. No es de extrañar que nuestras discusiones en las redes sociales sean tan poco productivas.

Un algoritmo determinará en qué momento una conversación deja de ser cultural. Google ha desarrollado una herramienta similar para comprender la estructura de las conversaciones en línea: se llama Perspective API. Investigadores de la Universidad de Cornell la aplicaron para analizar 1.270 debates de Wikipedia que pasaron de conversaciones civilizadas a intercambios de insultos. Luego los compararon con debates sobre los mismos temas que no degeneraron en «broncas». Se vio que, si el primer comentario bajo un tema empezaba con «tú» o «usted», con palabras de agradecimiento o con una pregunta directa sobre el tema, la discusión tenía mucho menos riesgo de descarrilar. Y no se debía a que la gente estuviera de acuerdo entre sí: podían discutir, pero el interés activo por la opinión ajena no dejaba lugar a los insultos.

Otra herramienta para estudiar la empatía son los juegos. El Instituto para el Futuro (IFTF) de Palo Alto desarrolló el juego multijugador Face the Future, dirigido a adolescentes. El juego cuenta que en el futuro se inventará un dispositivo llamado FeelThat, que transmite las emociones de una persona a otras: mide el nivel de hormonas y la modulación de la voz, tras lo cual quienes la rodean pueden sentir físicamente lo que siente el dueño del FeelThat. El IFTF propuso a los escolares que imaginaran escenarios utópicos y distópicos de cómo la gente usaría ese aparato. Algunos usuarios consideraron que FeelThat ayudará a acercar a las personas; por ejemplo, «hará que Trump sienta lo que siente un emigrante de México». Pero otros se preguntaron si el dispositivo no generaría nuevos motivos de discriminación basados en las emociones. ¿Y no podría el Estado vigilar más activamente a los ciudadanos con datos obtenidos de ese programa? Los escolares, en esencia, expresaron lo mismo que dicen los entusiastas de la tecnología de todo el mundo: las tecnologías no nos inculcan en sí mismas rasgos buenos o malos, solo explotan los hábitos ya existentes.

Existen juegos «empáticos» también para escolares pequeños. La empresa Tinybop crea aplicaciones para los más pequeños; por ejemplo, el juego Homes permite visitar virtualmente las casas de distintos pueblos del mundo, desde el bungaló estadounidense hasta la yurta mongola. Si el niño activa la webcam, mientras explora una casa desconocida se verá a sí mismo en el espejo y pensará que en el otro extremo del planeta viven, en esencia, niños iguales que él. La empresa recibió una opinión cálida de una familia de emigrantes musulmanes de Yemen. Su hija menor quería mostrar a sus nuevos amigos de Estados Unidos cómo había vivido en su país, pero internet le devolvía, al buscar «casas en Yemen», solo viviendas destruidas por la guerra. En Homes encontró una casa yemení moderna, parecida a la suya, y por primera vez pudo sentirse orgullosa del interés de sus coetáneos por su patria. El juego Random App of Kindness, por su parte, permite al niño ayudar virtualmente a una persona o un animal. En un estudio con 106 participantes de diez años o más, tras dos meses de uso se mostraron más dispuestos a ayudar a los demás en la vida real.

La realidad virtual es una «máquina de empatía». Así llamó a la tecnología el director Chris Milk en la conferencia TED de 2015. Milk creó la película de realidad virtual «Nubes sobre Sidra», en la que el espectador se traslada al centro de un campamento sirio para refugiados. La película se proyectó en el Foro de Davos, y la reacción de los líderes mundiales le pareció impresionante al director. Cuando la ONU empezó a usar la realidad virtual para trasladar a la gente a países pobres, el número de donaciones se duplicó. También aparecieron películas de realidad virtual que explican las consecuencias del Holocausto, de la crisis climática y de la desigualdad racial. En una de ellas podrá ponerse en la piel de un adolescente de piel negra al que la policía registra sin motivo. En otra, en la de una joven que acude a abortar y sufre insultos de manifestantes («¡Ojalá tu madre hubiera abortado!»). El Centro de Periodismo Digital de la Universidad de Columbia llegó a la conclusión de que la inmersión en realidad virtual no solo provoca una respuesta más emocional que las fotos o los vídeos, sino que también induce con más frecuencia al espectador a realizar una acción concreta tras verla, por ejemplo, hacer una donación.

Pero la realidad virtual también crea espacio para la manipulación. Mark Zuckerberg tuvo que disculparse por una idea fallida: un paseo en realidad virtual por Puerto Rico tras el huracán María; sobre las escenas de destrucción se superponía un avatar animado de Zuckerberg que explicaba lo ocurrido, y para muchos espectadores sus comentarios sonaban sarcásticos. Las gafas de realidad aumentada Epson Moverio pueden mostrar a un trabajador de fábrica lo que sucederá si realiza una determinada acción: por un lado, los creadores de las gafas lograron ponerse en el lugar del trabajador y ayudarlo, pero por otro, el jefe también podrá «ponerse en su lugar» y explotar al subordinado con doble fuerza (por ejemplo, empujándolo a infringir las normas de seguridad que no están «escritas» en las gafas). Incluso fue criticada la película de realidad virtual del ganador del Óscar Alejandro González Iñárritu Carne y arena, dedicada a los inmigrantes: la calificaron de manipuladora, a la vez demasiado cargada de tensión (en ella se muestran todos los lados oscuros del control migratorio) y poco realista, por ejemplo, porque se puede atravesar al personaje virtual y ver su corazón latiendo.

La empatía se convierte en un truco de marketing y en una parte obligatoria de la cultura corporativa. La empresa británica The Empathy Business y la revista Harvard Business Review elaboran clasificaciones de las empresas con mayor nivel de empatía (Facebook, Google, LinkedIn y Netflix ocupan regularmente los primeros puestos). Se evalúa no solo la actitud de la dirección ante la discriminación o el acoso, sino también la capacidad de organizar un trabajo conjunto en el que los empleados presten atención a las emociones ajenas en lugar de «hacer la zancadilla» a los compañeros. En 2016, el 20 % de los empleadores estadounidenses introdujo cursos de «formación en empatía» para sus directivos.

El «entrenamiento en empatía» es algo habitual en las grandes empresas. La empresaria transgénero Natalie Egan fundó la startup Translator, que en un principio se concibió como una red social para personas transgénero. Pero muchos posibles inversores simplemente no entendían en qué se diferencia la experiencia de esos usuarios de la de los demás. Entonces Egan convirtió Translator en una aplicación que «traduce» la experiencia de un grupo de personas a un lenguaje comprensible para todos. La startup usa chatbots y tecnología de realidad virtual para que los empleados de empresas clientes (incluidos gigantes como McKinsey & Co) puedan comprender mejor las dificultades que enfrentan en los negocios las mujeres y las minorías. Como la aplicación es anónima, nadie se sentirá humillado, como sucede en el «desfile de privilegios», un típico entrenamiento corporativo en el que Recursos Humanos pide dar un paso al frente a las personas que nacieron en familias acomodadas, no son emigrantes, etc.

A los empleados incluso se les contrata según su inclinación a la empatía. Por ejemplo, la cadena hotelera Hyatt Hotels usa activamente la inteligencia artificial para comunicarse con los clientes, pero aun así necesita personas reales cuando hay que resolver un problema surgido. Al contratar nuevo personal, Hyatt les propone jugar a un juego desarrollado por la empresa Pymetrics, que ayuda a identificar las habilidades flexibles necesarias. Y la compañía Fidelity Investments mejora su servicio al cliente con una simulación de realidad virtual en la que un empleado del centro de llamadas puede visitar virtualmente la «casa» de quien llama y ver personalmente cómo vive y cómo afectará a su vida cotidiana la solución que la empresa dé a su problema.

Los bots ya están sustituyendo a los terapeutas: por ejemplo, Ellie aparece en pantalla como una morena serena con cárdigan. Habla con soldados y detecta en ellos signos de trastorno de estrés postraumático. Es parte de un proyecto más amplio, SimCoach, un programa interactivo de reintegración de veteranos. Quienes tuvieron una sesión con «Ellie» se mostraban más abiertos en consultas posteriores, ya no anónimas, con médicos. Probablemente se deba a que es humana, pero no demasiado parecida a una persona, lo que permite a la gente abrirle el alma con tranquilidad. El robot no despierta en la persona un arrebato de empatía como lo haría otra persona, pero tampoco se percibe como un autómata completamente desalmado: así, un estudio de 2012 descubrió que el 98 % de los niños no querían que encerraran en un armario a otra persona, el 100 % no tenía inconveniente en que encerraran en el armario una escoba normal, pero el 46 % no quería que ese castigo se aplicara al robot Robovie. Los desarrolladores comprenden muy bien nuestras debilidades y en 2019 presentaron incluso un robot especial para abrazos, Lovot.

Un bot puede ayudar a los padres a ser mejores. Vivian Min creó Muse, una aplicación que estudia la relación de los padres con los hijos y envía notificaciones push con propuestas de actividades para hacer juntos, por ejemplo, organizar un concurso de aviones de papel o averiguar cómo funciona la fontanería del baño. Si el niño pierde siempre, la aplicación aconsejará a la madre que lo deje ganar. A los padres les resulta cada vez más difícil mostrar a sus hijos, que pasan mucho tiempo en línea, un modelo de empatía, así que Muse se convierte en un salvavidas: el programa sigue cincuenta constructos cognitivos y sabe cuáles de ellos conviene desarrollar más a cada edad del niño.

Por último, un bot puede apoyar en un momento difícil. El chatbot Replika surgió después de que muriera el mejor amigo de su desarrolladora, Eugenia Kuyda. Ella cargó en la IA todos los mensajes que le había enviado el fallecido, así como los que sus amigos en común le reenviaron. La aplicación resultante no se parece mucho a comunicarse con otra persona, pero es excelente para la reflexión: compartes algo con Replika, y el bot hace preguntas orientadoras que te ayudan a entenderte mejor. La aplicación te enseña de nuevo a hablar contigo mismo como hablarías con un amigo, un niño o tu perrito favorito, solo que con una pequeña ayuda del algoritmo.

Pero la autoayuda digital no siempre es impersonal. Así, Robert Morris lleva mucho tiempo acostumbrado a implicar a extraños en la solución de sus problemas: anotaba sus observaciones y dificultades y se las enviaba a desconocidos a través de la plataforma de subcontratación Amazon Mechanical Turk, donde personas pagadas unos céntimos evaluaban sus acciones y a veces le permitían ver la situación desde otro ángulo. Así surgió su idea del servicio Koko, en el que la gente comentaría los problemas de los demás y ofrecería virtualmente un hombro amigo. A veces basta con escribir a un desconocido: «todo irá bien». El algoritmo de Koko fue comprado por Airbnb para sus propios desarrollos de IA, y Tumblr integró Koko en su plataforma, de modo que si un usuario buscaba etiquetas como «depresión» o «suicidio», el sitio le ofrecía usar Koko, «una comunidad anónima de personas que se preocupan».

La inteligencia artificial no tiene intenciones malignas, pero es capaz de reflejar nuestros impulsos malignos. Y del mismo modo es capaz de reflejar nuestra empatía, así que todo depende de las personas.