何が真実で何が偽りか？ディープフェイクは私たちの世界をどう変えるのか

テクノロジー大手は、偽造コンテンツと戦うために既に数百万ドルを投じている。

「ディープフェイク」という言葉が、世界の主要テレビ局の番組や、私たちのニュースフィードにますます頻繁に登場するようになっている。AmazonやFacebookといったテクノロジー大手は、これに対抗するため協力して取り組んでいる。ディープフェイクとは何か、そしてそれが私たちの世界をどう変えるのかを解説する。 

ディープフェイクとは何か、そしてどのように利用されているか 

これは人工知能を用いた技術である。コンテンツを生成したり、完全に作り替えたりし、その結果、実際には存在しなかった映像が生まれる。こうして、政治家、ビジネスマン、科学者、そして誰であれ、その発言を偽造することが可能になる。技術は日々進歩しており、やがては専門家でさえ、その映像が本物かどうか見分けられないほど精巧になる可能性も十分にある。 

ディープフェイクは、敵対的生成ネットワーク（GAN）として知られる深層学習の手法によって作られる。この手法では、2つのアルゴリズムを用いて偽造物をより本物らしくする。人物の画像や映像を学習データとして取り込み、一方のモデルが映像を生成し、もう一方のモデルがその欠陥を見つけようとする。この2つのモデルは互いに協力し合いながら、説得力のある映像ができるまで繰り返す。

これは政治やショービジネスで使われる可能性があるほか、日常生活においても脅迫や恐喝に利用されうる。今日でも、ほぼすべてのインターネットユーザーが偽造動画を作ることができ、今後はさらに容易になるだろう。

この技術には、良い目的で使えば利点もある。例えば、自動運転車を改良するための学習データを増やすことなどだ。しかし、他のどの技術とも同じく、人々はそれを自分勝手に利用している。偽造動画の作成や、ソーシャルメディア上での偽情報の拡散に使われているのだ。 

ディープフェイクはどのように見えるか

米国の映画監督ジョーダン・ピール（映画『ゲット・アウト』『アス』）が、バラク・オバマのデジタルコピーを使った動画を制作した。これは、オバマ氏の過去のインタビューとニューラルネットワークのおかげで可能になった。

動画の中で、監督と「大統領のコピー」は、危険な時代が来ており、ユーザーはより警戒心を持ち、インターネットで見るすべてのものを信じるべきではなく、検証された信頼できるニュース源だけを信頼すべきだと警告している。

「我々は、敵が見た目も話す内容もいつでもどんなふうにもできる時代に生きている。例えば、彼らは私に、キルモンガー（『ブラックパンサー』の宿敵で、今年の主要なスーパーヒーロー映画の一つ）が正しかったと言わせることもできる！あるいは、最も単純なこととして、トランプ大統領は完全なクソ野郎だと言わせることもできる。ご承知の通り、私は決してそんな言葉は口にしない。少なくとも公の場では。しかし、誰か別の人間は言うかもしれない。その誰かとは、ジョーダン・ピールだ」——。偽造されたオバマ氏のスピーチでバラク・オバマはこう語る。偽のオバマは「ありがとう、そしていつも用心していてくれ、ビッチども」という言葉で演説を締めくくる。

ディープフェイクはどのように選挙に介入しうるか 

来年、米国では大統領選挙が行われる。政界では既に、ビデオフェイクが投票結果に重大な影響を与えかねないと、パニックが広がっている。昨年のケンブリッジ・アナリティカのスキャンダルを考慮すると、米国人は、外部勢力が明らかに介入した大統領選挙のシナリオが繰り返されることを望んでいない。 

このような偽造はまだ広く拡散していないが、米国政府は、外国の敵対勢力が2020年の選挙に介入するためにこれらを使う可能性を懸念している。1月に行われた国際的な脅威評価で、米国国家情報長官のダン・コーツは、選挙を妨害しようとする者の中に、詐欺師や偽のメディアが含まれる可能性が高いと警告した。下院情報委員会は、改ざん技術がもたらす潜在的な脅威に関する公聴会さえ開いた。

ディープフェイクに関連する偽情報の拡散を食い止めるため、ダートマス大学の教授で法科学の専門家であるハニ・ファリドは、ディープフェイクを検出できるソフトウェアを開発している。彼は、12月までに、記者が映像の真正性を確認できるサイトを通じて、偽造動画を検出するツールをジャーナリストに広めることを望んでいると語る。「あなたが記者であり、ある映像を見たなら、報道する前に検証の仕組みが必要です」と彼は語った。

テクノロジー大手はディープフェイクとどのように戦うか 

Facebook、Microsoft、Amazonは、ディープフェイクと戦うため連携した。特にAmazonは、今後2年間で研究者に100万ドルを提供する予定だ。 

今年9月にはFacebookが、Microsoftおよびコーネル・テック、MIT、オックスフォード大学などの学術機関との協力のもと、ディープフェイク検出プログラムとのパートナーシップを発表していた。イニシアチブのパートナーは1000万ドルを約束し、人々が検出ツールを作れるよう、5000本の動画からなるデータセットを公開した。 

アレクセイ・シモンチューク