전쟁에서도, 정치에서도. 인공지능의 영향력은 어떻게 커지고 있나?

일론 머스크는 인공지능이 제3차 세계대전을 촉발할 수 있다고 본다.

펜타곤은 군사 목적의 인공지능 개발에 거의 10억 달러를 배정하고 있다. 인공지능 전문가들은 이미 선거 캠프에 영입되고 있다. 중국에서는 최신 기술을 권위주의 체제 강화와 검열에 활용하고 있다. 뉴질랜드에서는 세계 최초의 가상 정치인이 만들어지고 있으며, 머스크는 인공지능이 잔혹한 독재자가 되어 제3차 세계대전을 일으킬 수도 있다고 본다. 인공지능이 이미 세계 상황에 어떤 영향을 미치고 있는지 살펴본다.

무기로서의 인공지능

“미국, 러시아, 중국 모두 인공지능이 앞으로 국가 권력을 좌우하는 핵심 기술이 될 것이라는 데 동의한다”고 독립 분석기관인 신미국안보센터의 그레고리 앨런 연구원은 말한다. 작년 미국 국방부는 알고리즘 기술 종합 그룹을 창설했다. 이 그룹의 임무에는 펜타곤에서 인공지능과 기계 시각 기술의 도입을 추진하는 일이 포함된다.

도널드 트럼프 대통령이 서명한 행정명령에 따라 인공지능 발전은 그의 행정부의 정책 우선순위다. 작년 펜타곤은 군사 목적의 인공지능에 885억 달러를 배정하기로 승인했다. 펜타곤의 계약업체인 부즈 앨런 해밀턴의 부사장 조시 설리번은 이러한 기술이 인공지능 활용으로 군의 업무를 간소화하고 더 중요한 과제를 해결할 시간을 마련해 줌으로써, 미국이 러시아와 중국과 성공적으로 경쟁하는 데 도움이 되어야 한다고 말했다. 설리번은 “과제의 일부는 우리 정부가 최고의 기술에 접근하고, 우리 시민과 병사들을 위해 모든 책임을 다해 이를 활용하도록 하는 것”이라고 밝혔다.

미국은 또한 펜타곤의 인공지능 시범사업을 이끌고 조율할 합동인공지능센터(JAIC)를 설립했다. 이 센터는 인력 채용과 교육, 자체 연구, 사이버 공격 방어 등을 담당한다. 이곳의 목표는 정보 활동에 인공지능 시스템을 폭넓게 사용하는 것이다. 예를 들어 작전 준비를 위한 이미지 분석을 하고, 병사와 민간인의 위험을 최소화하는 데 활용하는 것이다.

인공지능을 활용하면 항공기, 함선 및 기타 운송수단의 안전성을 높이고 정비도 개선할 수 있다. 예를 들어 핵심 부품의 고장을 더 정확하고 제때 예측할 수 있다. 또한 인공지능은 공병 작업에서도 적극적으로 쓰이고 있으며, 의심스러운 물체를 점검하고 다양한 형태의 폭탄을 해체하는 데 활용된다.

반자율 시스템은 이미 전투에서 사용되고 있다. 예를 들어 근접 전투 무기 시스템이 있다. 이들은 스스로 탐색하고, 적을 찾아내고, 상황을 평가한 뒤 목표를 타격할 수 있다. 또한 과학자들은 사전에 마련된 계획에만 따르지 않고, 스스로 행동 알고리즘을 만들어 낼 수 있는 기술을 연구하기 시작했다. 이러한 행동은 주변 상황에 대한 시스템 자체의 판단과 지금 무엇을 하는 것이 최선인지에 대한 판단에 따라 달라질 것이다.

권위주의와 검열을 강화하는 도구로서의 인공지능

인공지능은 해악을 끼치는 데에도 쓰일 수 있다. 예를 들어 자유를 억압하는 데 말이다. 중국 정부는 사이버 공격, 집회를 예측하는 데 이를 활용하려 하고 있으며, 원래도 높은 수준인 인터넷 검열을 더욱 강화하는 데도 쓰려 하고 있다. 중국의 도시들에서는 얼굴 인식 시스템과 기타 인공지능 기반 기술이 도입되고 있다. 공식적인 이유는 안전을 위해서다. 이 기술은 홍콩 시위 때도 사용되었다.

중국의 경찰 클라우드 시스템은 “사회 안정을 해치는” 사람들을 포함해 일곱 가지 범주의 사람들을 찾아내기 위해 만들어졌다. 중국은 또한 모든 시민과 기업에 사회신용 등급을 부여하는 체계를 구축하려 하고 있다. 모든 사람은 구매 습관, 운전 이력, 심지어 정치적 태도까지 반영한 점수를 갖게 된다. 거의 “블랙 미러”와 같다.

작년 말 언론 The Verge는 엔비디아가 인공지능 기술로 생성한 인물 사진 예시들을 공개했다. 기자들은 인공지능이 만든 가짜 이미지가 허위 정보와 선전에 쓰일 수 있어 사회에 영향을 미칠까 우려했다.

정치에서의 인공지능

2012년 미국 대통령 선거는 인공지능의 영향이 후보 중 한 명에게 크게 도움이 된 첫 선거였다. 이 모든 것은 버락 오바마가 기계학습 전문가 라이드 가네를 자신의 캠페인 수석 분석가로 임명하면서 시작되었다. 그의 팀은 유권자에 관한 모든 정보를 하나의 데이터베이스에 모으고, 소셜미디어 정보를 추가한 뒤 유권자 각각에 대해 네 가지 요소를 예측하기 시작했다. 1. 그가 오바마에게 투표할 확률은 얼마인가? 2. 그가 아예 투표장에 갈 것인가? 3. 투표하라는 알림에 응답할 것인가? 4. 특정 주제에 대해 대화를 나눈 후 자신의 의견을 바꿀 것인가? 이를 바탕으로 매일 66,000번의 선거 시뮬레이션이 진행되었다. 결과를 받은 뒤에는 자원봉사자들이 과정에 투입되었다. 그들은 누구의 집을 방문해야 하는지, 누구에게 전화해야 하는지, 무슨 말을 해야 하는지, 누구는 건드리지 않는 편이 나은지를 알고 있었다. 이것이 오바마가 재선에 성공하는 데 도움이 되었다.

이러한 인공지능 시스템은 대량의 유권자 데이터 처리가 필요한 선거 캠페인과 정치적 활동에 앞으로 더 많이, 더 자주 활용될 것이다. 현대의 시스템은 이미 여러 출처의 다양한 데이터 집합을 분석하고, 선거마다 학습하며, 가치 있는 조언을 제공할 수 있다. 2016년 미국 대통령 선거 때 분석 그룹들은 소셜미디어의 동향을 분석하기 위해 컴퓨터 알고리즘을 사용했다. 케임브리지 애널리티카 사건과 페이스북 사용자 개인정보 유출 사건은 아직도 기억에 생생하다.

잊을 수 없는 또 하나의 사례가 있다. 뉴질랜드의 프로그래머 닉 갈리트센은 세계 최초의 가상 정치인을 만들었다. 샘이라는 이름의 봇이다. 페이스북 메신저를 통해 대화할 수 있다. 이 봇은 가상의 여성 정치인으로, 2020년 차기 총선에 출마할 예정이다.

반응

국제 외교관들과 전문가들은 몇 년째 자율 무기 문제를 논의하고 있다. 이 논의는 유엔의 공식 협의 단계에까지 이르렀다. 현재 26개국이 자율 무기 체계에 대한 예방적 모라토리엄을 지지하고 있다. 이들을 지지하는 단체는 230곳이 넘으며, 전 세계의 기업가와 과학자 약 3,000명도 함께하고 있다. 그중에는 테슬라와 스페이스X의 창립자 머스크와, 구글 소속인 딥마인드도 포함된다. “인간의 생명을 빼앗는 결정은 결코 로봇에게 위임되어서는 안 된다”고 서한에는 적혀 있다. 금지에 반대하는 국가들은 군사적 필요를 위해 인공지능에 이미 적극적으로 투자하고 있는 나라들이다. 예를 들어 미국, 이스라엘, 러시아, 영국이다. 미국 대표들은 자율 무기가 “부수적 피해”를 피하는 데 도움이 될 것이라고 설득하려 하고 있다. 컴퓨터는 병사와 달리 전장의 상황을 더 빨리 분석하고 실수도 적게 할 수 있기 때문이다.

세계의 대표적인 기업가이자 혁신가 중 한 명인 머스크는 전투뿐 아니라 정치적 문제에서도 인공지능에 회의적이다. 그는 인공지능이 “도망칠 수 없는 불멸의 독재자”를 만들 수 있다고 말했다. 머스크는 권위주의 정권이 개별 지도자나 정당을 넘어 존속하면서 지속적인 억압의 원천이 될 수 있는 인공지능을 만들 수 있다고 본다. 그의 말에 따르면, 인공지능 개발을 둘러싼 경쟁이 제3차 세계대전의 원인이 될 수 있다.

런던 대학교 칼리지의 니컬러스 라이트 강사는 Foreign Affairs 기고문에서, 개인의 자유에 대한 전통이 확고한 나라들은 정부의 그러한 시도가 등장하더라도 이에 맞설 수 있을 것이라고 지적했다. 그는 또한 그러한 위협이 국가에서만 나오는 것은 아니라고 언급했다. “소수의 거대 기술 기업들은 경쟁자를 흡수하고 자신들의 활동에 유리한 규제 규범을 로비함으로써 권력을 한 손에 모으고 있다. 그러나 사회는 이전의 기술 혁명 이후에도 이미 이런 도전을 극복한 바 있다”고 그는 썼다. 또한 다른 나라에서 권위주의가 강화되는 것은, 이미 민주주의가 존재하는 곳에서 민주주의가 더욱 공고해지는 데 도움이 될 것이라고 했다.

“인류는 경쟁을 ‘우리’ 대 ‘그들’의 틀에 가두는 경향이 있다. 그 결과 서구 국가들은 검열과 감시에 대한 입장을 다시 정립하게 될지도 모른다. 대부분의 사람들은 데이터 정책의 세부 사항을 깊이 들여다보지 않고, 위험에도 주의를 기울이지 않는다. 그러나 이러한 세부 사항이 현실 세계에서 체제의 토대가 되면, 더 이상 지루하고 추상적으로 느껴지지 않을 것이다. 정부와 기술 기업들은 그 차이가 무엇인지 설명해야 할 것이다”라고 이 학자는 말한다.

알렉세이 시몬추크