«Чорне дзеркало» навпаки: як технології зроблять людей добрішими

Боти-опікуни та подкасти для емпатії.

Журналістка Кейтлін Угролік Філліпс кілька років спілкувалася з творцями «людяних» застосунків: VR-фільмів про війну в Сирії, чат-ботів, здатних розпізнати в співрозмовника депресію, та програм, які вчать дітей емпатії. За підсумками цих інтерв'ю вона випустила книгу «Майбутнє почуттів: як побудувати емпатію у світі, одержимому технологіями» (The Future of Feeling: Building Empathy in a Tech-Obsessed World). На зміну технологіям, що пробуджують у нас найгірші імпульси, приходять сервіси, які роблять нас кращими версіями себе: переказуємо найголовніше.

Емпатія буває двох типів: когнітивна (коли ми розуміємо, які переживання відчуває інша людина) і афективна (коли ми переживаємо разом із нею). У 2018 році компанія PsychTests оцінила зв'язок рівня емпатії 9 тисяч людей із 31 параметром – їхньою моральною стійкістю, здатністю розв'язувати конфлікти, висловлювати свої почуття тощо. Люди, які вважають себе емпатами – тобто здатними активно співпереживати іншим людям – виявилися щасливішими, мотивованішими, оптимістичнішими. Не-емпати отримали вищий результат лише за одним параметром: «прагнення до чужого схвалення». Не дивно, що соцмережі, де прагнення до схвалення закладено в їхні головні функції – «лайк» і «поділитися», – швидко стали доволі неприємним місцем.

Навіть неіснуючий користувач соцмережі може нас розлютити. Мелані Грін з Університету штату Нью-Йорк у Буффало дійшла висновку, що людям емоційно важко обговорювати питання, щодо яких немає загального консенсусу. Наприклад, американці загалом підтримують права ветеранів і можуть говорити на цю тему цивілізовано; інша справа – обговорення використання стовбурових клітин. Грін озвучувала просту або суперечливу тему, після чого просила людину оцінити згенероване комп'ютером обличчя «співрозмовника». Обличчя, показані після суперечливих питань (наприклад, питання легалізації одностатевих шлюбів), здавалися людям більш загрозливими. Не дивно, що ми так легко встряємо в суперечки навіть із незаповненими фейковими акаунтами.  

TikTok не допомагає комунікувати. Вчителі молодших зумерів (тобто тих, хто народився наприкінці минулого десятиліття) скаржаться, що діти, які постійно користуються застосунками на кшталт Musical.ly, з труднощами спілкуються одне з одним без смартфона. Крім того, під час листування або використання застосунків для обміну фотографіями вони ставлять кількість повідомлень вище за їхній зміст – це прагнення до безперервного самовираження навіть закріплено у функції streaks у Snapchat – вона мотивує користувача не давати своєму акаунту простоювати.

Емпатія серед підлітків знижується. У 2010 році Сара Конрат з Університету Мічигану проаналізувала відповіді 14 тисяч студентів коледжів і дійшла висновку, що їхній рівень емпатії на 40% нижчий, ніж був у людей того самого віку в 1979 році. Водночас дослідниця не зробила висновку, що винен технологічний бум, але журналісти швидко підхопили тему й звинуватили корпорації в зомбуванні дітей. Втім, така теорія має своїх прихильників і в академічному середовищі. Шеррі Теркл з Массачусетського технологічного інституту насторожилася задовго до появи соцмереж, коли помітила, як у 90-х дітлахи поводилися з іграшками «Ферबі» – говорячими роботами, схожими на пташенят. Діти часто сприймали їх як живих істот, але при цьому легко могли їх зламати.

Технології доводиться переробляти через зловживання. Бріса Аюб, колишня продюсерка освітнього контенту в компанії Common Sense Media, розповідає, що їм доводиться змінювати умови використання своїх продуктів з урахуванням нових лазівок, які знаходять діти. Вони перейманють у дорослих і одне в одного нові форми булінгу. Серед них типово грати на FOMO ровесників (fear of missing out – страх пропустити щось цікаве): діти не запрошують однокласників на свято, а потім у соцмережах позначають їх на фотографіях із заходу. Навіть заповітний «лайк» стає інструментом тиску, коли хтось проходиться по чужій сторінці, ставлячи його під кожним дописом – це сигналізує: «я стежу за тобою».

Але соцмережі – це також інструменти для «виховання почуттів». До того ж виховувати можна не лише школярів. Так, ютубер Ділан Меррон прославився роликами з розпакуванням – лише замість покупок він «розпаковував» поняття на кшталт токсичної маскулінності. У Меррона швидко з'явився пул особистих хейтерів, які в коментарях бажали йому смерті. Тоді він вирішив особисто поспілкуватися з кимось із них і дав одному з коментаторів свій номер телефону. «Як ти пам'ятаєш, я – лайно», – почав він. «Я маю взяти свої слова назад. Я не збирався тебе так називати», – відповів співрозмовник. Так звучить подкаст Меррона «Розмови з людьми, які мене ненавидять». Блогер не може переконати всіх, але майже з кожним гостем він веде цивілізовану розмову. А всього-то й треба було – перейти з анонімного простору до розмови віч-на-віч.

Подкасти самі по собі провокують емпатію. І справа не лише в тому, що вони розповідають історії (а люди, які читають або слухають більше історій, отримують більше балів у тестах на емпатію). Експеримент Каліфорнійського університету продемонстрував, що голоси людей викликають у нас більше співчуття, ніж їхнє мовлення в письмовій формі. Людям пропонували прочитати, прослухати та переглянути монологи на складні теми на кшталт абортів або війни в Афганістані. Виявилося, що найлюдянішими піддослідним здавалися спікери, яких вони лише чули. Те саме працювало з голосами кандидатів у президенти США 2016 року – не бачачи мовця, люди сприймали його як приємнішу й розумнішу людину, навіть якщо не погоджувалися з його програмою. В іншому дослідженні люди чули або бачили, як дві жінки передражнюють одна одну: аудіо викликало більше співчуття, ніж аудіо плюс відео. У голосі є щось, що провокує емпатію більшою мірою, ніж спостереження за виразами облич – а тим більше ніж читання тексту. Але низка стартапів хоче зробити й текстові дискусії людянішими.

Нейромережі допоможуть «глибше» прочитати текст. Так, застосунок Faciloscope використовує алгоритм, який виокремлює в реченнях три базові «риторичні патерни»: постановка (коли люди задають правила для розмови), звертання (коли вказують на стосунки між учасниками розмови) і запрошення (коли просять щось прокоментувати або ставлять запитання). Проаналізувавши за допомогою Faciloscope першу-ліпшу суперечку з Facebook про цензуру в бібліотеках, журналістка побачила, що левову частку діалогу (69%) займало встановлення правил. Це практично не залишило місця для справжнього обміну думками. Не дивно, що наші суперечки в соцмережах такі непродуктивні.

Алгоритм визначить, у який момент діалог перестає бути культурним. Схожий інструмент для розуміння структури онлайн-розмов розробила Google – він називається Perspective API. Дослідники з Корнельського університету застосували його для аналізу 1270 обговорень у Вікіпедії, які з цивілізованих розмов скотилися в обмін образами. Потім вони порівняли їх з обговореннями на ті самі теми, які не перетворилися на «срачі». З'ясувалося, що якщо перший коментар під темою починався зі слів «ти/ви», слів подяки або з прямого запитання по темі, то в дискусії було значно менше шансів зійти з рейок. І справа не в тому, що люди погоджувалися одне з одним – вони могли сперечатися, але активна зацікавленість чужою думкою не залишала місця для образ.

Ще один інструмент для вивчення емпатії – ігри. Інститут майбутнього (IFTF) у Пало-Альто розробив багатокористувацьку гру Face the Future, спрямовану на підлітків. Гра розповідає, що в майбутньому винайдуть пристрій FeelThat, який транслює емоції людини іншим людям – він вимірює рівень гормонів і модуляції голосу, після чого оточуючі можуть фізично відчути те, що відчуває власник FeelThat. В IFTF запропонували школярам придумати утопічні та дистопічні сценарії того, як люди використовуватимуть таку річ. Частина користувачів вирішила, що FeelThat допоможе зблизити людей – наприклад, він «змусить Трампа відчути те, що відчуває емігрант з Мексики». Але інші поставили питання: чи не породить пристрій нових приводів для дискримінації – на ґрунті емоцій? І чи не зможе держава активніше стежити за громадянами на основі даних, отриманих від такої програми? Школярі, по суті, озвучили те саме, що кажуть техно-ентузіасти в усьому світі: технології самі по собі не закладають у нас поганих або хороших рис – вони лише експлуатують уже наявні звички.

Існують «емпатичні» ігри й для молодших школярів. Компанія Tinybop створює застосунки для найменших; наприклад, гра Homes дає змогу віртуально відвідати будинки різних народів світу, від американського бунгало до монгольської юрти. Якщо дитина ввімкне веб-камеру, то під час дослідження незнайомого будинку побачить себе в дзеркалі й задумається про те, що на іншому кінці землі живуть, по суті, такі самі діти. Компанія отримала теплий відгук від родини мусульманських емігрантів з Ємену. Їхня молодша донька хотіла показати новим друзям у США, як жила на батьківщині, але інтернет за запитом «будинки в Ємені» видавав суцільні житла, зруйновані війною. У програмі Homes вона знайшла сучасний єменський будинок, схожий на її, і вперше змогла пишатися інтересом ровесників до своєї батьківщини. Гра Random App of Kindness, у свою чергу, дає дитині змогу віртуально допомогти людині чи тварині. Як з'ясувалося на прикладі 106 піддослідних віком від десяти років, після двох місяців її використання вони частіше допомагали оточуючим у реальному житті.

Віртуальна реальність – це «машина емпатії». Так технологію назвав режисер Кріс Мілк на конференції TED у 2015 році. Мілк створив VR-фільм «Хмари над Сидрою», у якому глядач переноситься в центр сирійського табору для біженців. Фільм показали на форумі в Давосі, і реакція світових лідерів здалася режисеру вражаючою. Коли ООН почала використовувати VR, щоб переносити людей у бідні країни, кількість пожертв зросла вдвічі. З'явилися також VR-фільми, що пояснюють наслідки Голокосту, кліматичної кризи та расової нерівності. В одному фільмі ви зможете побути на місці темношкірого підлітка, якого без приводу обшукує поліція. В іншому – на місці дівчини, яка приходить робити аборт і зазнає образ від мітингувальників («краще б твоя мати зробила аборт!»). Центр цифрової журналістики Колумбійського університету дійшов висновку, що VR-занурення не лише викликає емоційніший відгук, ніж фото чи відео, а й частіше змушує глядача зробити конкретний вчинок після перегляду – наприклад, оформити пожертву.

Але VR створює й простір для маніпуляцій. Марку Цукербергу довелося вибачатися за невдалу ідею з VR-прогулянкою Пуерто-Ріко після урагану «Марія»: на сцени руйнувань було накладено мультяшний аватар Цукерберга, який пояснював происходящее, і для багатьох глядачів його коментарі звучали саркастично. Окуляри з доповненою реальністю від Epson Moverio можуть показати працівнику заводу, що буде, коли він вчинить певну дію: з одного боку, творці окулярів змогли поставити себе на місце працівника й допомогти йому, але з іншого – начальник теж зможе «поставити себе на його місце» й експлуатувати підлеглого вдвічі сильніше (наприклад, підштовхувати до порушення техніки безпеки, яка не «прописана» в окулярах). Критиці зазнав навіть VR-фільм лауреата «Оскара» Алехандро Гонсалеса Іньярріту «Плоть і пісок», присвячений іммігрантам – його назвали маніпулятивним, водночас надто нагнітаючим обстановку (у ньому представлено всі темні сторони міграційного контролю) і при цьому нереалістичним – наприклад, можна пройти крізь віртуального персонажа і побачити його серце, що б'ється.

Емпатія стає маркетинговим трюком і обов'язковою частиною корпоративної культури. Британська фірма The Empathy Business і видання Harvard Business Review складають рейтинги компаній з найвищим рівнем емпатії (Facebook, Google, LinkedIn і Netflix регулярно посідають у них перші місця). Оцінюється не лише ставлення керівництва до проблем дискримінації або домагань, а й здатність організувати спільну роботу, за якої співробітники прислухатимуться до чужих емоцій, а не «підсиджуватимуть» колег. У 2016 році 20% американських роботодавців запровадили курси «навчання емпатії» для свого менеджменту.

«Тренінг з емпатії» – звичайна справа у великих компаніях. Трансгендерна підприємиця Наталі Іган заснувала стартап Translator, який спочатку задумувався як соцмережа для трансгендерних людей. Але багато потенційних інвесторів просто не розуміли, чим досвід таких користувачів відрізняється від усіх інших. Тоді Іган зробила Translator застосунком, який «перекладає» досвід однієї групи людей загальнозрозумілою мовою. Стартап використовує чат-ботів і VR-технології, щоб співробітники клієнтських компаній (включно з гігантами на кшталт McKinsey & Co) могли краще зрозуміти труднощі, з якими в бізнесі стикаються жінки та меншини. Оскільки застосунок анонімний, ніхто не почуватиметься принижено, як під час «параду привілеїв» – типового корпоративного тренінгу, коли HR просить вийти вперед людей, які народилися в заможній родині, не є емігрантами тощо.

Співробітників навіть наймають, виходячи з їхньої схильності до емпатії. Наприклад, готельна мережа Hyatt Hotels активно використовує штучний інтелект у спілкуванні з клієнтами, але все одно потребує реальних людей, коли треба розв'язати виниклу проблему. Наймаючи нових співробітників, Hyatt пропонує їм пройти гру, розроблену компанією Pymetrics, яка допомагає виявити необхідні гнучкі навички. А компанія Fidelity Investments покращує свій клієнтський сервіс за допомогою VR-симуляції, у якій співробітник колцентру може віртуально відвідати «дім» того, хто телефонує, і особисто побачити, як той живе, та як рішення компанією його питання вплине на його побут.

Боти вже замінюють терапевтів: наприклад, Ellie на екрані має вигляд спокійної брюнетки в кардигані. Вона спілкується з солдатами і виявляє в них ознаки посттравматичного розладу. Це частина більшого проєкту SimCoach – інтерактивної програми реінтеграції ветеранів. Ті, хто пройшов сеанс з «Еллі», ставали відкритішими під час подальших, уже не анонімних консультацій з лікарями. Імовірно, справа в тому, що вона людяна, але не надто схожа на людину, що дає змогу людям спокійно відкривати їй душу. Робот не викликає в людини такого припливу емпатії, як інша людина, але й не сприймається як повністю безду́шний автомат: так, дослідження 2012 року з'ясувало, що 98% дітей не хотіли, щоб іншу людину зачинили в шафі, 100% не заперечували проти того, щоб у шафі замкнули звичайну мітлу, але 46% не хотіли, щоб такому покаранню піддали робота Robovie. Розробники чудово розуміють наші слабкості й у 2019 році навіть представили спеціального робота для обіймашок Lovot.

Бот може допомогти батькам стати кращими. Вів'єн Мін створила Muse – застосунок, який вивчає стосунки батьків із дітьми та надсилає пуш-сповіщення з пропозиціями, чим можна зайнятися разом – наприклад, влаштувати конкурс паперових літачків або розібратися, як працює сантехніка у ванній. Якщо дитина постійно програватиме, застосунок порадить мамі дати їй виграти. Батькам дедалі важче продемонструвати модель емпатії дітям, які багато часу проводять онлайн, тож Muse стає рятівною соломинкою – програма відстежує п'ятдесят когнітивних конструктів і знає, які з них найкраще розвивати в певному віці дитини.

Нарешті, бот може підтримати в скрутну хвилину. Чат-бот Replika з'явився після того, як помер найкращий друг його розробниці Євгенії Куйди. Вона завантажила в ШІ всі повідомлення, які їй надсилав покійний, і його повідомлення, які їй переслали спільні друзі. Вийшов застосунок, який не надто нагадує спілкування з іншою людиною, але чудово підходить для рефлексії: ви ділитеся чимось із Replika, а бот ставить наводящі запитання, які допомагають краще зрозуміти себе. Застосунок заново вчить вас говорити із собою так, як ви говорили б із другом, дитиною чи з улюбленим щеням – лише з невеликою допомогою алгоритму.

Але цифровий self-help не завжди знеособлений. Так, Роберт Моррис давно звик залучати сторонніх до розв'язання своїх проблем: записуючи свої спостереження та складнощі, він надсилав їх незнайомцям через платформу аутсорсингу Amazon Mechanical Turk, де за кілька центів люди оцінювали його дії й інколи дозволяли поглянути на ситуацію по-новому. Так у нього народилася ідея сервісу Koko, в якому люди обговорюватимуть проблеми одне одного та віртуально підставлятимуть дружнє плече. Іноді досить написати незнайомцю: «все буде добре». Алгоритм Koko купила компанія Airbnb для власних ШІ-розробок, а Tumblr впровадила Koko у свою платформу, тож якщо користувач шукав щось за тегами на кшталт «депресія» або «суїцид», сайт пропонував скористатися Koko – «анонімною спільнотою небайдужих людей».

Штучний інтелект не має злих намірів, але він здатен відображати наші злі спонуки. І так само здатен відобразити нашу емпатію – тож усе залежить від людей.