어디가 진실이고 어디가 거짓일까? 딥페이크가 세상을 바꾸는 방식

기술 공룡들이 가짜 콘텐츠와 싸우기 위해 이미 수백만 달러를 투입하고 있다.

‘딥페이크’라는 단어는 우리의 피드와 세계 주요 방송사의 뉴스 진행자 멘트에 점점 더 자주 등장하고 있다. 아마존, 페이스북 같은 기술 기업들은 이에 맞서 함께 노력하고 있다. 이것이 무엇인지, 그리고 이것이 우리 세상을 어떻게 바꿀지 알아본다. 

딥페이크란 무엇이고 어떻게 활용되나 

이는 인공지능을 기반으로 작동하는 기술이다. 콘텐츠를 생성하거나 완전히 바꿔서, 존재한 적 없는 영상을 만들어낸다. 이렇게 정치인, 사업가, 과학자 등 누구의 발언이든 위조할 수 있다. 기술 수준은 날로 높아지고 있으며, 충분히 그럴듯해져서 전문가조차 그 영상이 실제인지 아닌지 가려내지 못하게 될 가능성도 있다. 

딥페이크는 생성적 적대 신경망(GAN)이라고 알려진 딥러닝 기법으로 만들어지며, 이 방식에서는 두 개의 알고리즘이 가짜를 더 그럴듯하게 만드는 데 사용된다. 첫 번째 모델은 사람의 이미지와 영상을 학습 데이터 형태로 분석해 영상을 만들고, 두 번째 모델은 그 영상의 결함을 찾아내려 한다. 두 모델은 그럴듯한 영상이 만들어질 때까지 손을 맞잡고 함께 작동한다.

이 기술은 정치, 쇼비즈니스 분야뿐 아니라 일상생활에서도 협박과 공갈에 쓰일 수 있다. 실제로 오늘날에도 거의 모든 인터넷 사용자가 가짜 영상을 만들 수 있으며, 시간이 지날수록 그 일은 더 쉬워질 것이다.

이 기술은 좋은 목적으로 쓰일 경우 장점도 있다. 예를 들어 자율주행 차량을 개선하기 위한 학습 데이터를 더 많이 만드는 데 활용할 수 있다. 하지만 다른 모든 기술과 마찬가지로 사람들은 이를 제 방식대로 사용하고 있다. 가짜 영상을 만들고 소셜미디어에서 허위 정보를 퍼뜨리는 데 쓰는 것이다. 

딥페이크는 어떤 모습인가

미국 영화감독 조던 필(영화 〈겟 아웃〉과 〈어스〉의 감독)은 버락 오바마의 디지털 복제본이 등장하는 영상을 만들었다. 이는 오바마의 과거 인터뷰와 신경망 덕분에 가능했다.

영상 속에서 감독과 ‘대통령 복제본’은 위험한 시기가 찾아왔으며, 사용자들이 인터넷에서 보는 모든 것을 믿지 말고 더 경계해야 하며, 검증된 뉴스 출처만 신뢰해야 한다고 경고한다.

“우리는 적들이 언제, 어디서든 누구처럼 보이고 무엇이든 말할 수 있는 시대에 살고 있습니다. 예를 들어 그들은 나에게 킬몽거(그해 가장 유명한 슈퍼히어로 영화 〈블랙 팬서〉의 주적)가 옳았다고 말하게 만들 수도 있습니다! 아니면 가장 간단하게, 트럼프 대통령은 완전히 쓰레기라고 말하게 할 수도 있죠. 아시다시피 저는 이런 말을 절대 하지 않을 겁니다. 적어도 공개적으로는요. 하지만 누군가는 할 수 있습니다. 그 누군가는 바로 조던 필입니다”라고 가짜 연설에서 버락 오바마가 말한다. 가짜 오바마는 연설을 이렇게 마무리한다. “감사합니다, 그리고 항상 경계를 늦추지 마세요, 이 개자식들아.”

딥페이크가 선거에 개입할 수 있는 방식 

내년에 미국에서는 대통령을 선출한다. 정치권에서는 이미 가짜 영상이 투표 결과에 심각한 영향을 줄 수 있다며 공황 상태에 가까운 우려가 나오고 있다. 작년 케임브리지 애널리티카 스캔들을 고려하면, 미국인들은 대통령 선거가 외부 세력의 명백한 개입 속에서 치러졌던 상황이 되풀이되는 것을 원하지 않는다. 

이런 가짜 영상이 아직 널리 퍼지지는 않았지만, 미국 정부는 외국의 적대 세력이 이를 2020년 선거에 개입하려는 시도에 사용할 수 있다고 우려하고 있다. 1월에 진행된 국제 위협 평가에서 미국 국가정보국장 댄 코츠는 선거를 무산시키려는 자들 가운데 사기꾼이나 가짜 언론이 있을 수 있다고 경고했다. 하원 정보위원회는 조작 기술이 야기할 수 있는 잠재적 위협을 주제로 청문회를 열기까지 했다.

딥페이크와 관련된 허위 정보의 확산을 막기 위해 다트머스 칼리지의 교수이자 디지털 포렌식 전문가인 하니 파리드는 딥페이크를 식별할 수 있는 소프트웨어를 개발하고 있다. 그는 12월에 기자들이 영상의 진위를 확인할 수 있는 사이트를 통해 가짜 영상 탐지 도구를 확산시키기를 바란다고 말한다. “기자라면 영상을 보도하기 전에 검증 절차가 반드시 있어야 합니다”라고 그는 말했다.

기술 공룡들은 딥페이크와 어떻게 싸울 것인가 

페이스북, 마이크로소프트, 아마존은 딥페이크에 맞서기 위해 손을 잡았다. 특히 아마존은 향후 2년 동안 연구자들에게 100만 달러를 제공할 계획이다. 

앞서 올해 9월 페이스북은 마이크로소프트 및 코넬 공대, MIT, 옥스퍼드 대학교 같은 학술 기관과 협력해 DeepFake Detection 프로그램과 파트너십을 맺었다고 발표했다. 이 이니셔티브의 파트너들은 1,000만 달러를 약속했고, 사람들이 탐지 도구를 만들 수 있도록 5,000개의 영상으로 이루어진 데이터셋을 공개했다. 

알렉세이 시모nchuk