戦争にも政治にも。人工知能の影響はどう拡大しているのか？

イーロン・マスク氏は、人工知能が第三次世界大戦を引き起こしかねないと考えている。

ペンタゴンは軍事目的の人工知能に約10億ドルを投じようとしている。すでに人工知能の専門家が選挙対策本部に起用されている。中国では現代的な技術が権威主義体制の強化と検閲に利用されている。ニュージーランドでは世界初の仮想政治家が作られており、 マスク氏は人工知能が残忍な独裁者となり、第三次世界大戦を引き起こす可能性さえあると考えている。本稿では、人工知能がすでに世界の情勢にどのような影響を与えているかを紹介する。

兵器としての人工知能

「米国もロシアも中国も、人工知能が将来の重要技術となり、国力がそれに左右されるという点では一致している」と、独立系の分析機関である新アメリカ安全保障センターのグレゴリー・アレン研究員は語る。昨年、米国国防総省はアルゴリズム技術に関する総合グループを設立した。同グループの任務には、ペンタゴンにおける人工知能および機械視覚技術の導入の推進が含まれる。 

ドナルド・トランプ大統領が署名した大統領令によれば、人工知能の発展は政権の政策上の優先課題である。昨年、ペンタゴンは軍事目的の人工知能に8850億ドルを配分することを承認した。ペンタゴンの請負業者であるブーズ・アレン・ハミルトンのジョシュ・サリバン副社長は、人工知能の活用が軍の業務を簡素化し、より重要な任務に取り組む時間を与えるため、これらの技術は米国がロシアや中国と効果的に競争する助けになるはずだと述べた。「任務の一部は、政府が最良の技術にアクセスし、国民と兵士のために、然るべき責任をもってそれを活用できるようにすることだ」とサリバン氏は指摘した。

米国ではまた、合同人工知能センター（JAIC）も創設された。同センターは、人材の採用や教育、独自の研究、サイバー攻撃からの防御を含め、ペンタゴンにおける人工知能のパイロットプロジェクトを指揮・調整する。同センターには、諜報活動において人工知能システムを幅広く利用するという課題がある。例えば、作戦準備のための画像分析や、兵士と民間人へのリスク最小化などである。

人工知能の利用は、航空機、艦船、その他の輸送機器の安全性を高め、その整備を改善することもできる。例えば、重要部品の故障を、より高い精度と適時性で予測することが可能になる。加えて、人工知能は爆発物処理作業でも積極的に使われており、不審物の点検や、さまざまな構造の爆弾の解体に用いられている。

半自律型システムは、すでに戦闘行為で使用されている。例えば近接戦闘兵器システムである。これらは自ら索敵し、敵を発見し、状況を評価して目標を攻撃することができる。 科学者たちはまた、システムが事前に策定された計画だけでなく、自らの行動アルゴリズムを策定できる技術の研究も始めている。それは、周囲でどのような状況が生じているのか、そして今何をするのが最善かについての、システム自身の認識に依存することになる。

権威主義と検閲を強める手段としての人工知能

人工知能は害をもたらす形でも利用されうる。例えば、自由との闘いにおいてである。中国政府は、サイバー攻撃や集会を予測するために、また、ただでさえ高水準にあるインターネット上の検閲をさらに強化するためにこれを利用する計画である。中国の都市では、顔認識システムやその他の人工知能に基づく技術が導入されている。公式な理由は安全のためである。また、香港での抗議活動の際にも利用された。

中国の警察のクラウドシステムは、「社会の安定を損なう」者を含む7つのカテゴリーの人々を探し出すために作られている。また中国は、すべての市民と企業に社会信用格付けを付与するシステムの構築を目指しており、各人が購買習慣、運転履歴、さらには政治への態度までを反映した点数を持つことになる。ほぼ『ブラック・ミラー』のような世界である。

昨年末、ジ・ヴァージは、エヌビディアが人工知能技術を用いて生成した人物写真の例を掲載した。記者らは、人工知能による偽造が偽情報やプロパガンダに利用されうるため、社会に影響を及ぼしかねないと懸念した。

政治における人工知能

2012年の米大統領選挙は、人工知能の影響が候補者の一人に大きく寄与した初めての選挙となった。発端は、バラク・オバマ氏が機械学習の専門家であるレイド・ガネム氏を選挙キャンペーンの主任アナリストに任命したことだった。彼のチームは有権者に関する全情報を一つのデータベースにまとめ、ソーシャルメディアからの情報を加え、有権者一人ひとりについて四つの要素を予測し始めた。1. 彼がオバマ氏に投票する確率はどのくらいか。2. そもそも投票に行くか。3. 投票を促す呼びかけに応じるか。4. 特定のテーマについて話し合った後に意見を変えるか。これに基づいて、毎日66000回の選挙シミュレーションが行われた。結果が出ると、ボランティアが活動に加わった。彼らは、どの家を訪ねるべきか、誰に電話をすべきか、何を話すべきか、そして誰には接触しない方がよいかを把握していた。これがオバマ氏の再選を後押しした。

今後、有権者に関する大量のデータを処理する必要がある選挙運動や政治的取り組みでは、このような人工知能システムがさらに多く、より頻繁に用いられるだろう。現代のシステムは、さまざまな情報源からの多様なデータセットを分析し、選挙ごとに学習し、有益な助言を与えることがすでに可能になっている。2016年の米大統領選挙では、分析グループがソーシャルメディアの傾向を分析するためにコンピュータアルゴリズムを使用した。ケンブリッジ・アナリティカ社とフェイスブック利用者の個人データ流出事件は、今もなお記憶に新しい。 

見過ごすことのできないもう一つの出来事がある。ニュージーランドのプログラマー、ニック・ゲリツェン氏が世界初の仮想政治家を作った。ボットの名前はサムである。フェイスブックのメッセンジャーで会話することができる。このボットは仮想の女性政治家で、2020年の次回総選挙に出馬する予定である。

反応

国際的な外交官や専門家は、自律型兵器の問題について数年来議論を続けている。この議論は国連の公式協議の段階にまで達している。現在、26か国が自律型兵器システムの予防的モラトリアムを支持している。これを230以上の団体と、世界中の約3000人の起業家や科学者が支持している。その中には、テスラとスペースXの創業者であるマスク氏や、グーグルが保有するディープマインド社も含まれる。「人の命を奪う決定を、ロボットに委ねてはならない」と書簡には記されている。一方、禁止に反対しているのは、すでに軍事目的で人工知能への投資を積極的に進めている国々である。例えば、米国、イスラエル、ロシア、英国などである。米国の代表は、自律型兵器が「付随的被害」を回避するのに役立つと説得しようとしている。戦場の状況をコンピュータは兵士よりも速く分析でき、ミスも少ないからだという。

世界有数の起業家であり革新者であるマスク氏は、戦闘行為だけでなく政治問題においても人工知能に懐疑的である。彼は、人工知能は「逃れることのできない不死の独裁者」を生み出しかねないと述べた。マスク氏は、権威主義体制が、個々の指導者や政党を超えて存続し、恒久的な抑圧の源となりうる人工知能を生み出す可能性があると認めている。同氏によれば、人工知能開発をめぐる競争が第三次世界大戦の始まりの原因になりうるという。

ユニバーシティ・カレッジ・ロンドンの講師ニコラス・ライト氏は、『フォーリン・アフェアーズ』のコラムで、個人の自由の伝統が根付いた国々では、政府によるそのような取り組みが現れた場合にそれに抵抗できるだろうと指摘した。さらに、そのような脅威は国家からだけでなく、他の主体からも生じうると述べた。「寡占的なテクノロジー企業は、競争相手を吸収し、自社の活動に都合のよい規制の導入をロビー活動によって働きかけることで、権力を自らの手に集中させている。しかし社会は、過去の技術革命の後にも、このような挑戦にすでに対処してきた」と彼は書いている。また、他国における権威主義の強化は、すでに民主主義が存在する場所において、民主主義をさらに確立させることに役立つという。

「人類は対立を特定の枠組みに押し込める傾向がある。『我々』対『彼ら』という構図である。その結果、西側諸国は、検閲や監視に対する自らの姿勢を改めて定義することになるかもしれない。大半の人々はデータ政策の詳細に踏み込むことはなく、リスクにも注意を払わない。しかし、そうした詳細が現実世界における体制の基盤となれば、それらはもはや退屈で抽象的なものとは思われなくなる。政府やテクノロジー企業は、その違いを説明する必要に迫られるだろう」と、この学者は考えている。

アレクセイ・シモンチュク