Де правда, а де брехня? Як дипфейки змінюють наш світ

Технологічні гіганти вже виділяють мільйони доларів на боротьбу з підробленим контентом.

Слово «дипфейки» все частіше з'являється в наших стрічках і ефірах провідних світових телеканалів. Технологічні гіганти, такі як Amazon і Facebook, разом працюють над тим, щоб протистояти їм. Розповідаємо, що це таке і як вони змінять наш світ. 

Що таке Deepfake і як їх застосовують 

Це технологія, яка працює за допомогою штучного інтелекту. Вона створює або повністю змінює контент, унаслідок чого з'являється відео, якого ніколи не існувало. Таким чином можна підробляти заяви політиків, бізнесменів, науковців і будь-кого. З кожним днем рівень технології зростає і, цілком можливо, вона стане настільки правдоподібною, що навіть експерти не зможуть визначити, реальне це відео чи ні. 

Deepfakes створюються за допомогою методу глибокого навчання, відомого як Generative Adversarial Networks (GAN), за якого два алгоритми використовуються для того, щоб зробити фейки правдоподібнішими. Вивчаючи зображення і відео людини у формі навчальних даних, перша модель створює відео, тоді як друга модель намагається виявити його недоліки. Ці дві моделі працюють рука об руку, доки не створять правдоподібне відео.

Їх можуть використовувати в політиці, шоу-бізнесі, а також у побуті для погроз і шантажу. Адже вже сьогодні створити фейкове відео може практично кожен користувач інтернету, а з часом це буде робити ще легше.

Ця технологія має й свої плюси, якщо спрямувати її на благо. Наприклад, створення більшої кількості навчальних даних для вдосконалення автономних транспортних засобів. Але, як і у випадку з будь-якою іншою технологією, люди використовують її по-своєму — для створення фейкових відеороликів і поширення дезінформації в соціальних мережах. 

Як виглядають дипфейки

Американський режисер Джордан Піл (фільми «Геть» і «Ми») створив відео з цифровою копією Барака Обами. Це стало можливим завдяки попереднім інтерв'ю Обами і нейромережам.

У самому ролику режисер і «президентська копія» застерігають, що настав небезпечний час і користувачам потрібно бути пильнішими та не вірити всьому, що вони бачать в інтернеті, а довіряти варто виключно перевіреним і верифікованим джерелам новин.

«Ми живемо в епоху, коли наші вороги можуть виглядати як завгодно, говорити що завгодно і коли завгодно. Наприклад, вони можуть змусити мене сказати, що Кілмонгер (заклятий ворог Чорної Пантери, одного з головних супергеройських фільмів року) був правий! Або, що найпростіше — президент Трамп повний лайно. Як ви розумієте, я ніколи не скажу цих слів, принаймні publicly. Але хтось інший може. Цим кимось буде Джордан Піл», — каже Барак Обама у фейковому зверненні. Завершує свою промову фейковий Обама словами: «Дякую і завжди будьте напоготові, сучки».

Як дипфейки можуть втручатися у вибори 

Наступного року в США обиратимуть президента. У політичних колах вже б'ють на сполох, що відеофейки можуть серйозно вплинути на результати голосування. Враховуючи минулорічний скандал із компанією Cambridge Analytica, американці не хочуть повторення сценарію, коли вибори президента відбулися з явним втручанням сторонніх сил. 

Подібні фейки ще не набули широкого поширення, але уряд США занепокоєний тим, що іноземні противники можуть використати їх у спробах втрутитися у вибори 2020 року. Під час міжнародної оцінки загроз у січні Ден Коутс, директор Національної розвідки США, попередив, що, ймовірно, серед тих, хто захоче зірвати вибори, можуть опинитися шахраї або фейкові ЗМІ. Комітет з розвідки Палати представників навіть проводив слухання щодо потенційних загроз, які створює технологія фальсифікації.

Сподіваючись зупинити поширення дезінформації, пов'язаної з Deepfake, Хані Фарід, професор і експерт з криміналістики в Дартмутському коледжі, розробляє програмне забезпечення, яке може виявляти Deepfake. Він каже, що сподівається поширити свої інструменти виявлення фейкових відео для журналістів у грудні за допомогою сайту, де вони зможуть перевірити автентичність відео. «Якщо ви репортер і бачите відео, перш ніж повідомити про нього, у вас має бути механізм перевірки», — сказав він.

Як технологічні гіганти боротимуться з дипфейками 

Компанії Facebook, Microsoft і Amazon об'єдналися для боротьби з дипфейками. Зокрема, Amazon протягом наступних двох років збирається надати дослідникам $1 млн. 

Раніше, у вересні цього року, Facebook оголосив про партнерство з програмою DeepFake Detection у співпраці з Microsoft та академічними установами, такими як Cornell Tech, MIT і Оксфордський університет. Партнери ініціативи пообіцяли 10 мільйонів доларів і випустили набір даних із 5000 відео, щоб допомогти людям створювати інструменти виявлення. 

Олексій Симончук