І на війні, і в політиці. Як зростає вплив штучного інтелекту?

Ілон Маск вважає, що штучний інтелект може розв'язати Третю світову війну.

Пентагон виділяє майже мільярд доларів на штучний інтелект для військових цілей. Експертів зі штучного інтелекту вже залучають до виборчих штабів. У Китаї сучасні технології використовують для посилення авторитарного режиму та цензури. У Новій Зеландії створюють першого у світі віртуального політика, а Маск вважає, що штучний інтелект може стати жорстоким диктатором і навіть розв'язати Третю світову війну. Розповідаємо про те, як штучний інтелект уже впливає на ситуацію у світі.

Штучний інтелект як зброя

«І США, і Росія, і Китай погоджуються з тим, що штучний інтелект стане в майбутньому ключовою технологією, від якої залежатиме національна міць», — каже співробітник незалежного аналітичного центру Центр нової американської безпеки Грегорі Аллен. Минулого року Міністерство оборони США створило комплексну групу з алгоритмічних технологій. До переліку її завдань входить налагодження застосування в Пентагоні технологій штучного інтелекту та машинного зору. 

Згідно з указом, підписаним Дональдом Трампом, розвиток штучного інтелекту є пріоритетом політики його адміністрації. Минулого року Пентагон затвердив виділення $885 млрд на штучний інтелект для військових цілей. Віцепрезидент фірми-підрядника Пентагона Booz Allen Hamilton Джош Салліван сказав, що ці технології мають допомогти США успішно конкурувати з Росією та Китаєм, оскільки використання штучного інтелекту полегшить роботу військових і надасть їм час для вирішення важливіших завдань. «Частина завдань полягає в тому, щоб забезпечити доступ нашого уряду до найкращих технологій і застосовувати їх з належною відповідальністю заради наших громадян і бійців», — зазначив Салліван.

У США також створили Об'єднаний центр штучного інтелекту (JAIC), який керуватиме та координуватиме пілотні проєкти ШІ в Пентагоні, зокрема набір персоналу, його навчання, власні дослідження, захист від кібератак. Там ставлять завдання широко використовувати системи штучного інтелекту у розвідувальній діяльності. Наприклад, під час аналізу зображень для підготовки до операцій і мінімізації ризиків для солдатів і цивільних осіб.

Використання ШІ також може підвищити безпеку літаків, кораблів та інших транспортних засобів і покращити їх технічне обслуговування. Так, несправність критичних частин може бути передбачена з більшою точністю та своєчасністю. Крім того, штучний інтелект активно використовується у саперній роботі: його застосовують для огляду підозрілих об'єктів, а також для розмінування бомб різних комплектацій.

Напівавтономні системи вже використовуються в бойових діях. Наприклад, системи ближнього бою зброї. Вони можуть самостійно виконувати пошук, знаходити ворога, оцінювати ситуацію та вражати ціль.  Учені також почали працювати над технологіями, які дозволять системам діяти не лише за заздалегідь розробленим планом, а й мати можливість розробляти власний алгоритм дій. Вони залежатимуть від їхніх власних уявлень про те, яка ситуація склалася навколо і що краще зробити саме зараз.

Штучний інтелект як інструмент посилення авторитаризму та цензури

Штучний інтелект може бути використаний і на шкоду. Наприклад, у боротьбі зі свободою. Уряд Китаю планує використовувати його для прогнозування кібератак, мітингів, а також для посилення цензури в інтернеті, яка й так там на високому рівні. У китайських містах запускають системи розпізнавання облич та інші технології, засновані на штучному інтелекті. Офіційна причина — безпека. Задіяли їх і під час протестів у Гонконзі.

Китайська поліцейська хмарна система створена для пошуку семи категорій людей, зокрема тих, хто «підриває стабільність». Країна також прагне створити систему, яка надаватиме кожному громадянину й кожній компанії соціальний кредитний рейтинг: у всіх буде свій бал, що відображатиме купівельні звички, історію водіння та навіть ставлення до політики. Майже як у «Чорному дзеркалі».

Наприкінці минулого року видання The Verge опублікувало приклади фотографій людей, згенерованих компанією Nvidia за допомогою технологій штучного інтелекту. Журналісти занепокоїлися, що підробки штучного інтелекту можуть впливати на суспільство, адже їх можна використовувати для дезінформації та пропаганди.

Штучний інтелект у політиці

Вибори президента США 2012 стали першими, коли вплив штучного інтелекту дуже допоміг одному з кандидатів. Усе почалося з того, що Барак Обама призначив головним аналітиком своєї кампанії експерта з машинного навчання Раїда Ґане. Його команда зібрала всю інформацію про виборців в одну базу даних, додала відомості із соцмереж і почала прогнозувати чотири фактори про кожного виборця: 1. Яка ймовірність того, що він проголосує за Обаму? 2. Чи прийде він взагалі на вибори? 3. Чи відгукнеться на нагадування це зробити? 4. Чи змінить свою думку після розмови на конкретні теми? На основі цього щодня проводилися 66000 симуляцій виборів. Після отримання результатів до процесу залучали волонтерів —  вони знали, до кого йти додому, кому телефонувати, що говорити, а кого краще не чіпати. Це допомогло Обамі піти на другий термін.

Такі системи штучного інтелекту будуть застосовуватися у виборчих кампаніях і політичних ініціативах, які потребують обробки великих масивів даних про виборців, ще більше і частіше. Сучасні системи вже здатні аналізувати різні набори даних із багатьох джерел, навчатися від виборів до виборів і давати цінні поради. Аналітичні групи під час президентських виборів у США 2016 року використовували комп'ютерні алгоритми для аналізу трендів у соцмережах. Історія з компанією Cambridge Analytica і зломом персональних даних користувачів Facebook ще свіжа в пам'яті. 

Історія, повз яку також не можна пройти. У Новій Зеландії програміст Нік Гарріттсен створив першого у світі віртуального політика. Це бот на ім'я Сем. Поспілкуватися з ним можна за допомогою месенджера Facebook. Бот — віртуальна жінка-політик, яка візьме участь у наступних загальних виборах у 2020 році.

Реакція

Міжнародні дипломати й експерти вже кілька років обговорюють питання автономної зброї. Рівень цих обговорень дійшов до офіційних консультацій ООН. Наразі 26 держав виступають за превентивний мораторій на автономні системи озброєння. Їх підтримують понад 230 організацій і близько 3000 підприємців та науковців з усього світу. Серед них — засновник компаній Tesla та Space X Маск, а також компанія Deep Mind, що належить Google. «Рішення позбавити людину життя ніколи не має бути делеговане роботу», — йдеться в листі. Проти заборони виступають держави, які вже активно інвестують у використання штучного інтелекту для військових потреб. Наприклад, США, Ізраїль, Росія та Велика Британія. Представники Сполучених Штатів намагаються переконати, що автономна зброя допоможе уникнути «супутніх руйнувань». Адже комп'ютер, на відміну від солдата, може швидше аналізувати всю ситуацію на полі бою і робити менше помилок.

Один із головних підприємців та інноваторів світу Маск скептично ставиться до ШІ не лише в бойових діях, а й у політичних питаннях. Він сказав, що штучний інтелект може створити «безсмертного диктатора, від якого нікуди не подінешся». Маск припускає, що авторитарні режими можуть створити штучний інтелект, здатний пережити окремих лідерів чи партії і стати постійним джерелом гноблення. За його словами, конкуренція у сфері розвитку штучного інтелекту може стати причиною початку Третьої світової війни.

Ніколас Райт, викладач Університетського коледжу Лондона у колонці для Foreign Affairs зазначив, що в країнах, які мають міцні традиції індивідуальної свободи, зможуть протидіяти подібним ініціативам уряду, якщо такі з'являтимуться. І зауважив, що такі загрози можуть походити не лише від держави. «Олігополістичні технологічні компанії концентрують у своїх руках владу, поглинаючи конкурентів і лобіюючи ухвалення зручних норм регулювання їхньої діяльності. Однак суспільство вже справлялося з подібними викликами після попередніх технологічних революцій», — пише він. А посилення авторитаризму в інших країнах допоможе ще більшому становленню демократії там, де вона вже існує.

«Людство схильне загоняти суперництво у певні рамки: «ми» проти «них», унаслідок чого західні країни, можливо, заново визначать своє ставлення до цензури і спостереження. Більшість людей не занурюється в деталі політики у сфері даних і не звертає уваги на ризики. Але коли ці деталі перетворяться на основу режиму в реальному світі, вони перестануть здаватися нудними й абстрактними. Урядам і технологічним компаніям доведеться пояснювати, в чому різниця», — вважає науковець.

Олексій Симончук