『ブラック・ミラー』の逆：テクノロジーは人をどう優しくするのか

見守りボットと共感を育むポッドキャスト。

ジャーナリストのケイトリン・ウーリック・フィリップスは数年にわたり、「人間らしい」アプリの開発者たちと交流してきた。シリア戦争を描いたVR映画、うつ病を見抜けるチャットボット、子どもに共感を教えるプログラムなどだ。これらのインタビューをもとに、彼女は書籍『未来の感情：テクノロジーに夢中な世界で共感を育てる方法』(The Future of Feeling: Building Empathy in a Tech-Obsessed World)を出版した。人の最悪の衝動を呼び起こすテクノロジーに代わり、私たちを自分のより良いバージョンへと導くサービスが登場しつつある。要点をまとめよう。

共感には2つのタイプがある：認知的共感（相手がどのような感情を抱いているかを理解すること）と情動的共感（相手と一緒に感情を共有すること）だ。2018年、PsychTests社は9,000人の共感のレベルと31のパラメータとの関係を評価した。道徳的な強さ、対立を解決する力、自分の感情を表現する力などである。自分を共感者、つまり他人に積極的に寄り添える人間だと考える人々は、より幸福で、意欲的で、楽観的であることがわかった。共感者でない人々が高い結果を得たのは一つのパラメータだけだった。「他人からの承認を求める傾向」である。承認欲求が主要機能である「いいね」や「シェア」を備えたSNSが、すぐに非常に居心地の悪い場所になったのも不思議ではない。

架空のSNSユーザーですら私たちを怒らせることがある。バッファロー校（ニューヨーク州立大学）のメラニー・グリーンは、共通の合意がない問題について議論することは人にとって感情的に難しいという結論に至った。例えば、アメリカ人は概ね退役軍人の権利を支持しており、その話題について冷静に語ることができる。しかし幹細胞の利用について議論となると話は別だ。グリーンは単純な話題や賛否の分かれる話題を提示し、その後、コンピュータで生成された「対話相手」の顔を評価するよう被験者に求めた。（例えば同性婚の合法化など）論争的な質問の後に示された顔は、人々にとってより脅威的に感じられた。偽のアカウントが未記入であっても、私たちがこれほど簡単に論争に巻き込まれてしまうのも不思議ではない。  

TikTokはコミュニケーションの助けにはならない。最近の10年の後半に生まれた若いZ世代の教師たちは、Musical.lyのようなアプリを常用する子どもたちが、スマートフォンなしでは互いに話すのに苦労すると嘆いている。さらに、メッセージのやり取りや写真共有アプリでは、内容よりもメッセージの数を重視する。この絶え間ない自己表現への欲求は、Snapchatのstreaks（ストリークス）機能にさえ組み込まれている。これはユーザーがアカウントを休眠させないよう動機づけるものだ。

ティーンエイジャーの共感力は低下している。2010年、ミシガン大学のサラ・コンラートは14,000人の大学生の回答を分析し、彼らの共感レベルが1979年の同年代の人々より40%低いという結論に至った。ただし、この研究者は技術ブームのせいだとは結論づけなかったが、ジャーナリストたちはすぐにこのテーマに飛びつき、企業が子どもたちを洗脳していると非難した。それでも、このような理論には学界に支持者がいる。マサチューセッツ工科大学のシェリー・タークルは、SNSが登場するずっと前、90年代に子どもたちがファービー（雛鳥に似た話すロボット）を扱う様子に気づき、警戒心を抱いた。子どもたちはしばしばそれらを生き物のように扱ったが、同時に平気で壊すこともあった。

悪用を受けてテクノロジーを作り直す必要がある。コモン・センス・メディアの元教育コンテンツ・プロデューサー、ブリサ・アイユブは、子どもたちが見つける新たな抜け穴を考慮して、自社製品の利用規約を変更しなければならないと語る。子どもたちは大人や互いから新しい形のいじめを学んでいる。その中でも典型的なのは、同年代の友人のFOMO（fear of missing out＝取り残されることへの恐怖）を利用することだ。子どもたちは、クラスメイトをパーティーに招待せず、その後SNSでイベントの写真にタグ付けする。「いいね」というささやかな行為さえ、圧力の道具になることがある。誰かが他人のページを巡回し、どの投稿にも「いいね」を押すとき、それは「お前を見張っているぞ」という合図になるのだ。

しかしSNSは「感情を育む」ための道具にもなる。しかもそれは学童だけに限らない。例えばYouTuberのディラン・マロンは、開封動画で有名になった。ただし彼が「開封」したのは商品ではなく、「有害な男らしさ」といった概念だった。マロンにはすぐに、コメント欄で彼の死を願う個人的なヘイターが集まった。そこで彼は自分でその一人と話すことに決め、コメントしていた一人に自分の電話番号を教えた。「覚えているだろうが、私は最低の人間だ」と彼は話し始めた。「その言葉は撤回しなければならない。そう呼ぶつもりではなかった」と相手は答えた。これがマロンのポッドキャスト『私を嫌いな人たちとの対話』の内容だ。ブロガーはすべての人を説得できるわけではないが、ほぼすべてのゲストと文明的な会話を交わしている。必要だったのは、匿名の空間から一対一の会話へ移ることだけだったのだ。

ポッドキャスト自体が共感を引き起こす。それは、物語を語るからだけではない（物語をより多く読んだり聞いたりする人ほど、共感テストで高得点を得る）。カリフォルニア大学の実験は、人の声が書き言葉よりも多くの共感を私たちの中に呼び起こすことを示した。被験者は、中絶やアフガニスタン戦争といった難しいテーマに関する独白を、読んだり、聞いたり、視聴したりするよう求められた。その結果、最も人間味があると感じられたのは、彼らが聞くだけの話者だった。同じことが2016年のアメリカ大統領候補の声でも起きた。話す人の姿が見えなくても、たとえ政策に同意しなくても、人々はその人をより好感が持てて賢いと感じた。別の研究では、人々が二人の女性が互いの真似をする様子を聞いたり見たりした。音声だけの方が、音声と映像の両方よりも多くの共感を呼んだ。声には、表情を観察するよりも、そしてテキストを読むことよりもはるかに共感を誘発する何かがある。それでも一部のスタートアップ企業は、テキストによる議論も人間味のあるものにしようとしている。

ニューラルネットワークが文章をより「深く」読む手助けをする。例えばFaciloscopeというアプリは、文章から3つの基本的な「修辞パターン」を見つけ出すアルゴリズムを使っている。それは、会話のルールを設定すること（設定）、会話の参加者同士の関係を指摘すること（呼びかけ）、そしてコメントや質問を求めること（招待）だ。ジャーナリストは、Facebookで図書館の検閲について起きた最初の議論をFaciloscopeで分析したところ、対話の大部分（69%）がルールの設定に費やされていることに気づいた。これでは実際の意見交換の余地がほとんど残らない。SNS上の論争がこれほど非生産的なのも不思議ではない。

アルゴリズムは、会話がいつ礼儀正しさを失うかを見抜く。オンライン会話の構造を理解するために、Googleは似たツールPerspective APIを開発した。コーネル大学の研究者たちは、これを使ってウィキペディアの1,270件の議論を分析した。それらは、礼儀正しい会話から罵り合いに転じたものだった。研究者たちはそれらを、同じテーマで「大喧嘩」にならなかった議論と比較した。その結果、スレッドの最初のコメントが「君/あなた」で始まっていたり、感謝の言葉で始まっていたり、テーマに関する直接の質問で始まっていたりする場合、議論が脱線する可能性がはるかに低いことがわかった。これは人々が互いに同意していたからではない。彼らは反論することもできたが、相手の意見に積極的に関心を持つことで、罵倒が入り込む余地がなかったのだ。

共感を学ぶためのもう一つのツールはゲームだ。パロアルトの未来研究所（IFTF）は、10代の若者を対象とした多人数参加型ゲーム『フェイス・ザ・フューチャー』を開発した。ゲームでは、将来「フィールザット」というデバイスが発明されるという設定だ。これは人の感情を他人に伝えるもので、ホルモンの量や声の抑揚を測定し、周囲の人がデバイス保有者の感じていることを身体で感じられるようにする。IFTFは生徒たちに、この装置が人々にどう使われるかについて、理想的なシナリオと反理想的なシナリオを考えるよう依頼した。ある参加者は、フィールザットは人々を近づけるだろうと考えた。例えば「トランプに、メキシコからの移民が感じていることを感じさせる」ことができる、と。しかし他の人々は、このデバイスが感情をめぐる新たな差別の口実を生むのではないか、国家がこのプログラムから得られたデータをもとに市民をさらに監視できるのではないか、という疑問を投げかけた。生徒たちは本質的に、世界中のテクノロジー愛好家たちが言うのと同じことを述べた。テクノロジー自体は、私たちに良い性質や悪い性質を植え付けるわけではなく、既存の習慣を利用するだけなのだ。

幼い子ども向けの「共感的な」ゲームも存在する。Tinybopは、最も幼い子どもたちのためのアプリを開発している。例えばゲーム『Homes』では、アメリカのバンガローからモンゴルのゲルまで、世界の様々な民族の家をバーチャルで訪れることができる。子どもがウェブカメラをオンにすると、見知らぬ家を探索する間、鏡に映った自分の姿が見え、地球の反対側にも本質的に同じような子どもたちが暮らしていることを考えるようになる。この会社は、イエメンからのイスラム教徒の移民家族から温かい評価を受けた。その家の末っ子の娘は、アメリカの新しい友達に故郷での暮らしを見せたいと思っていたが、「イエメンの家」と検索するとインターネットには戦争で破壊された住居ばかりが表示された。『Homes』の中で、彼女は自分の家に似た現代的なイエメンの家を見つけ、初めて同年代の人々が自分の故郷に関心を寄せていることを誇りに思うことができた。また、ゲーム『Random App of Kindness』では、子どもが人や動物をバーチャルで助けることができる。10歳以上の106人の被験者を対象とした結果、2か月間使用した後、彼らは現実世界で周囲の人々を助ける傾向が高くなったことが明らかになった。

バーチャルリアリティは「共感マシン」だ。この技術は、2015年のTEDカンファレンスでクリス・ミルク監督がそう呼んだものだ。ミルクはVR映画『シドラの雲』を制作し、視聴者はシリアの難民キャンプの中心に移される。この映画はダボス会議のフォーラムで上映され、世界の指導者たちの反応は監督にとって印象的だった。国連が貧しい国々へ人々を移動させるためにVRを使い始めると、寄付の額は2倍に増えた。ホロコースト、気候危機、人種差別の影響を説明するVR映画も登場している。ある作品では、理由もなく警察に職務質問される黒人の少年の立場になることができる。別の作品では、中絶手術を受けに来て、抗議者から侮辱される女性の立場になれる。（「お前の母親は中絶すべきだった！」）コロンビア大学のデジタル・ジャーナリズム・センターは、VRへの没入が写真や動画よりも感情的な反応を呼び起こすだけでなく、視聴後に視聴者が具体的な行動を取る（例えば寄付をする）ことをより頻繁に促すという結論に至った。

しかしVRは操作の空間も生み出す。マーク・ザッカーバーグは、ハリケーン・マリア後のプエルトリコのVR散策という考えが不評を買い、謝罪する羽目になった。破壊された場面の上に、ザッカーバーグの漫画風のアバターが重ねられ、起きていることを説明していたのだが、多くの視聴者にはそのコメントが皮肉に聞こえたのだ。エプソンの拡張現実メガネ「モベリオ」は、工場労働者が特定の動作をしたときに何が起こるかを見せることができる。一方では、メガネの開発者は自分を労働者の立場に置き、労働者を助けることができた。しかし他方では、上司も「彼の立場に立つ」ことができ、二倍の力で部下を搾取する可能性がある（例えば、メガネに記載されていない安全規則に違反するよう促すなど）。アカデミー賞受賞者アレハンドロ・ゴンサレス・イニャリトゥの、移民をテーマにしたVR映画『肉と砂』でさえ批判を受けた。作品は操作的で、同時に状況をあまりに煽り（移民管理のすべての暗い側面が描かれている）、しかも非現実的だと評された。例えば、仮想のキャラクターを通り抜けて、その心臓が鼓動しているのを見ることができる。

共感はマーケティングの手段となり、企業文化の必須要素にもなっている。英国の企業The Empathy Businessと『ハーバード・ビジネス・レビュー』は、最も高い共感レベルを持つ企業のランキングを作成している（フェイスブック、グーグル、LinkedIn、ネットフリックスが定期的に上位を占める）。評価されるのは、差別やハラスメントの問題に対する経営陣の姿勢だけでなく、社員が互いの感情に耳を傾け、同僚を「出し抜く」のではなく、共同作業を組織化できる能力も含まれる。2016年、アメリカの雇用主の20%が、管理職向けに「共感トレーニング」のコースを導入した。

「共感トレーニング」は大企業では当たり前になっている。トランスジェンダーの起業家ナタリー・イーガンは、もともとトランスジェンダーのためのSNSとして構想されたスタートアップ「トランスレーター」を設立した。しかし、多くの潜在的な投資家は、そのようなユーザーの経験が他とどう違うのかをまったく理解できなかった。そこでイーガンは、トランスレーターを、ある集団の経験を誰にでも理解できる言葉に「翻訳する」アプリに作り変えた。このスタートアップは、チャットボットとVR技術を使い、クライアント企業の社員（マッキンゼーなどの大手企業を含む）が、ビジネスの中で女性やマイノリティが直面する困難をよりよく理解できるようにしている。このアプリは匿名のため、「特権のパレード」（典型的な企業研修で、人事担当者が裕福な家庭に生まれた人、移民でない人などに一歩前に出るよう求める行為）のように誰かが屈辱を感じることはない。

社員は共感を持つ傾向に基づいて採用されることさえある。例えばホテルチェーンのハイアット・ホテルズは、顧客との対話に人工知能を積極的に活用しているが、問題が起きて解決する必要があるときには、やはり生身の人間が必要だ。新入社員を採用する際、ハイアットはPymetricsが開発したゲームをプレイしてもらい、必要な柔軟なスキルを見極めている。また、フィデリティ・インベストメンツは、VRシミュレーションを使ってコールセンターのサービス改善を図っている。その中で、コールセンターの社員は電話をかけてきた人の「家」をバーチャルで訪問し、その人がどのように暮らしているのか、そして会社が問題を解決することがその人の日常にどう影響するのかを直接見ることができる。

ボットはすでにセラピストに取って代わりつつある。例えばエリーは、画面上では落ち着いた、カーディガンを着た黒髪の女性の姿をしている。彼女は兵士と会話し、心的外傷後ストレス障害の兆候を見つけ出す。これは退役軍人の社会復帰を支援するインタラクティブなプログラム、SimCoachというより大きなプロジェクトの一部である。「エリー」とのセッションを経験した人々は、その後の、もはや匿名ではない医師との相談で、より心を開くようになったという。おそらく、彼女が人間らしいが、人間にそれほど似ていないからこそ、人々は安心して心を開けるのだろう。ロボットは、人間同士のような共感を引き起こすことはないが、完全に心のない機械として受け止められるわけでもない。例えば2012年の研究では、98%の子どもが人間を戸棚に閉じ込めることに反対し、100%がほうきを閉じ込めることには反対せず、46%がロボット「ロボヴィ」を閉じ込めることに反対した。開発者は私たちの弱さをよく理解しており、2019年には、抱きしめ専用のロボット「Lovot」まで発表している。

ボットは親がより良くなる手助けもできる。ヴィヴィアン・ミンは「Muse」を開発した。これは親子関係を分析し、一緒にできることの提案をプッシュ通知で送るアプリだ。例えば紙飛行機のコンテストを開いたり、浴室の配管の仕組みを調べたりといったものだ。子どもがいつも負けてばかりいれば、アプリは母親に勝たせてやるよう助言する。オンラインで多くの時間を過ごす子どもたちに、親が共感のモデルを示すことはますます難しくなっている。そこでMuseが頼れる存在となる。このプログラムは50の認知的構成要素を追跡し、子どもの特定の年齢においてどれを最も伸ばすべきかを把握している。

最後に、ボットは困難な時期に寄り添うこともできる。チャットボット「レプリカ」は、開発者エウゲニア・クイダの親友が亡くなった後に生まれた。彼女は、亡くなった友人が送ってきたすべてのメッセージと、共通の友人が転送してくれた彼のメッセージをAIに読み込ませた。できあがったアプリは、人との会話にはあまり似ていないが、内省にはとても適している。レプリカに何かを話すと、ボットが誘導的な質問をし、それによって自分をよりよく理解できるようになる。このアプリは、友達や子ども、あるいは愛犬に話すように自分に語りかける方法を、もう一度教えてくれる。ただし、アルゴリズムの少しの助けを借りて。

しかしデジタル・セルフヘルプが常に無個性というわけではない。ロバート・モリスは、自分の問題解決に他人を巻き込むことに長年慣れていた。自分の観察や困難を記録して、アマゾンのクラウドソーシング・プラットフォームAmazon Mechanical Turkを通じて見知らぬ人々に送った。そこでは、数セントで人々が彼の行動を評価し、時には新しい視点で状況を見る機会を与えてくれた。こうしてモリスは、人々が互いの問題を話し合い、仮想的に親身に寄り添うサービス「Koko」の構想を思いついた。時には、見知らぬ人に「すべてうまくいくよ」と書くだけで十分なこともある。Kokoのアルゴリズムはエアビーアンドビーに買収され、自社のAI開発に利用された。さらにタンブラーはKokoを自社プラットフォームに組み込み、ユーザーが「うつ」や「自殺」といったタグで検索すると、サイトは「思いやりのある人々の匿名コミュニティ」であるKokoの利用を勧めるようになった。

人工知能には悪意はないが、私たちの悪い衝動を映し出すことはできる。そして同じように、私たちの共感も映し出すことができる。だからすべては人間次第なのだ。