[박태웅 칼럼] In the age of AI

얼마전 미국 PBS 방송에서 'In the age of AI'라는 프로그램을 방영했다. 최근 몇년간 본 다큐를 통털어 손에 꼽을 수작이었다. 이 글의 앞 부분은 말하자면 그 프로그램에 바치는 감상문이다.

◆ 혁명의 시작, Beyond our body

지금까지 인류사에는 근본적으로 두번의 산업혁명이 있었다. 첫번째는 모두가 아는, 영국에서 시작한 그것이다. 첫번째 산업혁명의 본질은 사람의 몸, Body를 넘어서고 대체하는 것이었다. 증기 동력은 수십 배로 시작해 곧 수백 배, 수천 배의 지수함수를 그리며 인간의 몸의 한계를 넘어섰다. 이 시기는 한편으로 신질서가 구질서를 압살하는 시기이기도 했다. 인간의 몸을 수십 배, 수백 배로 확장한 기계는 그 만큼의 속도로 사람들의 육체를 경계의 바깥으로 몰아냈다. 양들이 사람을 잡아먹었고, 스모그가 도시와 그 안에 살던 생물들의 호흡기를 틀어막았다.

'미성년 아동 노동에 관한 영국 의회 조사 보고서(1830)'

문 : 공장이 바쁠 때 이 소녀들은 몇 시에 출근하는가? 답 : 바쁠 때는 약 6주간인데, 새벽 3시에 나가 밤 10시에 돌아온다.

문 : 19시간의 노동 중 휴식 시간은 얼마나 되는가? 답 : 아침 식사에 15분, 점심에 30분, 차 마시는 데 15분이다.

(중략)문 : 사고를 당한 일이 있는가? 답 : 큰 딸이 손가락을 다쳐서 5주간 치료했다.

문 : 그 동안 임금은 받았는가? 답 : 사고가 나자마자 임금은 전액 지불이 정지되었다.

런던에서는 만여 명이 스모그로 숨졌다. 1952년 12월 5일, 우연히 런던 일대가 안정된 고기압권 내에 들어갔다. 대류 순환이 멈추고 짙은 안개가 끼었다. 날은 추웠고, 집집마다 피운 난로에서 연기가 피어 올랐다. 여기에 차량, 발전소, 공장 등에서 나온 오염 물질이 런던에 낀 안개와 합세해 pH2에 달하는 강산성의 스모그를 만들었다. 특히 공장과 항만이 밀집해 있던 런던 동부는 30cm 앞도 분간하기 힘들 정도로 스모그가 짙었다. 1만여 명에 달하는 사람들이 폐렴과 호흡기질환, 심장 질환 등으로 사망했다.

산업혁명은 인류의 생산성을 역사상 본 적이 없을 정도로 높여 놓았지만, 초기의 90년간 그러니까 거의 한세기동안 평균적인 서민의 생활수준은 나락으로 떨어진 채 결코 회복되지 못했다.

단지 생산현장에서만 그랬던게 아니다. 인류는 신체의 한계를 넘어 급격히 확대된 힘을 어떻게 통제할지 알지 못했다. 이 가공할 힘으로 양차 대전 사이 수백만 명을 죽인 인류는, 결국 히로시마와 나가사끼에 ‘리틀 보이’와 ‘팻맨’을 떨어뜨려 수십만 명을 더 죽인 다음에야 상호확증파괴(MAD mutually assured destruction)라는 죽음의 교리를 받아 들였다. 지금도 곳곳에서 나타나는 총기난사와 테러, 국지전들은, 인류가 여전히 이 힘을 그저 미봉하고 있을 뿐이란걸 알려준다.

◆ 두 번째 혁명, Beyond our mind

우리는 지금 두번째 산업혁명을 목격하고 있다. 1차산업혁명이 몸 즉 Body의 한계를 뛰어넘는 혁명이었다면, 이번은 인간의 지능 혹은 정신, 즉 Mind의 한계를 뛰어넘는 혁명이다. 그저 우리가 활용할 수 있는 뛰어난 기술이 하나 더 나타난 것이 아니라는 뜻이다. 1차산업혁명기 때 그랬듯이 인류는 또 한번 오랜 기간 변경의 바깥으로 내몰릴지도 모른다. 인간의 정신, 다시 말해 인간 자체가 대체되고 있기 때문이다. '노동 유연성'이라는 단어는 이런 변화 속에서 녹아 사라지는 인간의 역할에 대한 은유다. 이번 혁명이 두려운 또 한가지 이유는, 인간의 지각이 미처 알지도 못한 사이에 조작당할 수 있게 되었다는 것이다. 육체에 이어 정신이 대상이 되고 있기 때문이다.

1. 페이스북 감정조작 실험 ; 페이스북 코어데이터과학팀 소속 연구원 아담 크레이머는 캘리포니아대와 코넬대 소속 연구원 등 2명과 함께 2012년 1월 사회관계망서비스(SNS)에서 감정 전이 현상이 일어나는지를 실험했다. 실험군과 비교군으로 나누고 실험군 68만9,003명의 뉴스피드를 조작하자 감정 전이 현상이 나타났다. 긍정적인 게시물이 줄어들면 사용자는 긍정적인 표현을 줄이고, 부정적인 게시물을 더 많이 올렸다. 반대로 뉴스피드에 나타나는 부정적인 게시물이 줄어들면 사용자는 긍정적인 게시물을 더 많이 올렸다. 단지 뉴스피드만 봐도 페이스북 사용자가 감정에 영향을 받았다는 뜻이다. 즉, 페이스북은 사용자들에게 보여줄 피드를 조종하는 것으로 사람들의 감정을 조작할 수 있었다.

2. 캠버리지 애널리티카 ; 케임브리지 애널리티카 임원은 '우리가 트럼프를 대통령으로 만들었다'고 자랑했다. "그게 바로 우리가 선거를 이긴 방법이다." 영국 데이터분석업체 ‘케임브리지 애널리티카(Cambridge Analytica; CA)’의 임원들이 도널드 트럼프 미국 대통령의 대선 승리에 대한 당시 자신들의 역할을 자랑하듯 털어놓은 장면이 잠입취재 카메라에 고스란히 담겼다.. 닉스는 “우리는 그저 정보를 인터넷의 혈류(bloodstream)에 던져놓은 다음 이게 커져가는 것을 보고 이게 유지되도록 이따금씩 한 번씩 찔러준다.(...) 이게 온라인 커뮤니티에 침투하게 되지만 브랜드가 없기 때문에 이건 출처도 모호하고 추적할 수도 없다.”이들은 증거를 남기지 않는 ‘자폭 이메일 시스템’을 소개하기도 했다. ”우리가 이것을 가지고 있다는 걸 아무도 모른다. 닉스의 설명이다. 2014년 캠브리지 애널리티카는 케임브리지 대학교 심리학 교수인 알렉산더 코건 교수에게 심리 퀴즈게임 앱 “Thisisyourdigitallife” 개발을 의뢰한다. 이 앱은 페이스북 이용자의 데이터를 이용해서 ‘당신의 전생은 무엇이었다’, ‘신은 당신을 무엇, 무엇으로 만들었다’, ‘당신에게 가격표를 붙인다면?’ 등의 서비스를 제공하는 앱들과 유사하다. 다시말해 페이스북 이용자라면 한번쯤 이용했을 법한 앱과 유사하다.

코건 교수의 심리 퀴즈게임 앱은 페이스북 오픈 그래프 API을 이용해서 앱 이용자 27만 명의 ‘동의’를 얻어 이들의 페이스북 정보를 얻을 수 있었다. 2014년 당시 페이스북은 오픈 그래프를 통해 해당 이용자의 정보만 제공하는 것이 아니라 그들의 친구 정보에 대한 접근권도 함께 제공했다. 자연스럽게 코건 교수팀은 27만 명뿐 아니라 이들의 페이스북 친구인 약 5천만 명에 이르는 이용자 정보를 페이스북으로부터 가져왔다. 여기서 이용자 정보라고 함은 특정 기간에 5천만 명 이용자가 어떤 포스트를 올렸고, 어떤 포스트에 ‘좋아요’를 표현했는지 등에 대한 정보를 포함한다. 그뿐만 아니라 5천만 명 이용자들이 쓴 댓글, 공유한 포스트, 위치 정보 등도 포함한다. 업계에서는 이를 페이스북 오픈 그래프의 루프홀(loophole; 빠져나갈 구멍, 세칭 ‘개구멍’, 법과 계약의 허술한 구멍)을 이용한다고 칭한다.

캠브리지 애널리티카는 쉬운 퀴즈게임을 페이스북에 올려 무려 5천만명에 달하는 사용자의 정보를 얻어낸 다음, 이것을 선거 캠페인에 이용했다. 이들이 얻어낸 것은 단지 개인의 신상뿐 아니라 취향과 정치적 성향까지를 포함해 AI로 분석해낸 모든 데이터들이었다. 이들은 이 정보로, 전체 득표수에서는 뒤진 트럼프가 미국 대통령이 되게 만들었다.

알고리듬은 우리가 알지 못한 사이에 사방으로 스며들고 있다. 페이스북의 광고는 내가 말을 하지 않아도 내가 관심이 있을 법한 그 상품을 광고로 올린다. 나의 감정은 조금 전에 본 친구의 피드를 따라 출렁이고, 유튜브는 내가 즐겨찾는 동영상과 비슷한 내용들을 끊임없이 보여준다. 나는 나 자신의 끊임없는 반복이다. 내 말과 생각이 에코챔버 속에서 끝없는 메아리로 울린다.

◆ 무엇을 해야 하나

두번째가 첫번째 산업혁명기와 같다면 우리는 어쩌면 또 한번의 대 학살기를 앞두고 있다. 앞으로 몇십년간 일자리는 눈 녹듯이 사라질 것이다. 단지 몸이 역할을 잃을 뿐 아니라, 정신 즉 인간 자체가 필요 없어진다. 1차산업혁명의 피해자가 주로 육체노동자였다면 2차는 육체와 정신을 가리지 않는다. “지난 2000년 투자은행 골드만삭스는 주요 고객의 주식거래를 위해 600명의 트레이더를 고용했다. 그런데 17년이 지난 2017년에는 같은 일을 하는 직원이 불과 2명이다. 분당 수백만 건의 거래를 처리하는 자동거래시스템이 대신했기 때문이다. AI가 고졸자보다 대졸자에게 더 큰 위협으로 다가올 것이라는 연구결과가 나왔다. 미국 싱크탱크 브루킹스연구소는 AI가 고졸 이하 인력보다 대졸자를 5배가량 대체하게 될 것이라는 연구결과를 내놓았다. 보고서는 AI 기술이 갈수록 더 정교해지고 더 많은 산업 분야에 적용되면서 대학교육을 받은 더 많은 근로자를 위협받고 있다고 지적했다. 특히 일부 예외는 있겠지만 "교육을 더 잘 받고 임금을 더 많이 받아온 근로자들"이 새로운 AI기술의 영향을 가장 많이 받게 될 것이라는 분석이다.”

◆ Social twin을 만들자

빅데이터와 AI를 공장 자동화에 적용해 '디지털 트윈'이라는 개념이 나타났다. 실제 공장과 똑같은 모델을 디지털로 만들어 현실에서 발생할 수 있는 일들을 미리 시뮬레이션하는 것이다. 아주 적은 자원으로 온갖 실험을 해보고 미리 대처를 할 수가 있다는 게 디지털 트윈의 매력이다.

그와 마찬가지로 '소셜 트윈'을 만들어야 한다. 어느때보다 Fail Safe한 변화수용체계를 만들어야 한다. 인간의 정신을 대체하는 AI가 불러올 사회의 근본적인 변화에 대응하는 법적, 사회적, 문화적, 제도적 시뮬레이션이 절실하다. IT뿐 아니라, 법학, 사회학, 정치학, 인류학 등 범학제적인 공동 대응이 필수적이다. 1차산업혁명기가 불러온 변화와 달리 알고리듬이 가져올 그것은 사회의 전영역에 걸쳐 스며들지만 그럼에도 우리 눈에 보이지 않는다는 점에서 더욱 두렵다. 두 가지 사례.

얼마전 애플의 신용카드가 동일한 조건의 남성에 비해 여성에게 더 낮은 신용한도를 부여하고 있다는게 드러났다. 이 소식은 소셜미디어를 통해 금새 퍼져나갔고, 미 금융당국도 조사에 착수했다. 이 사건은 2가지 점에서 큰 주목을 받았다. 첫번째, 애플이 사용한 금융 데이터에는 고객이 남성인지 여성인지는 들어 있지 않았다. 그러니까 고객이 남자인지, 여자인지를 애플은 애초에 알 수가 없었다는 것이다. 두번째, 애플 스스로도 왜 자신들의 알고리듬이 이런 편향된 결과를 불렀는지를 설명하지 못했다. 그저 인공지능이 저지른 일이었던 것이다. 애플과, 카드발급을 맡은 골드만삭스는 과거의 데이터 자체가 편향되었을 가능성이 있다고 짐작했다. 지난해 아마존은 몇년간 개발해서 채용에 적용해오던 인공지능 툴을 폐기했다. 최근 10년간의 채용 데이터를 근거로 수많은 채용후보자중에서 적합한 사람을 가려내는 툴이었는데, 그 결과가 남성 편향적이었다는게 드러난 것이다. 지난 10년간 남자직원이 훨씬 많았는데, 인공지능은 이것을 주요한 입력요소로 판단한 것이다. 아마존은 이 편향을 제거할 적절한 방법이 없다고 판단해 결국 툴을 개발해온 팀 자체를 해체했다.

테크프론티어의 한상기 박사는 “탈락자에게 왜 탈락 대상이 되었는지를 투명하게 설명할 수 없다면, 그 알고리듬을 사용해서는 안된다”라고 말한다. “이미 편향된 데이터를 응용한 AI에서 공정성을 기대할 수는 없다”는 것이다. 한 박사는 ‘설명할 수 있는 AI(XAI Explainable AI)가 AI 연구의 주요한 흐름중 하나라고 설명한다. 유럽연합은 이미 알고리듬에 의해 자동으로 결정된 사안에 대해서는 회사에서 설명을 제공하도록 강제하고 있다. 미국에서도 회사가 내린 신용카드 발급, 주택담보대출 등의 주요 금융 결정에 대해서 이유를 제시하도록 법적으로 강제하고 있다. 이런 일을 하기 위해서도 ICT, 심리, 언어 분야 등의 학제간 연구가 불가피하다. 다시 말해 학제간 공동연구를 위한 Social Twin이 불가결하다.

전사회적으로 AI 리터러시, 디지털 리터러시가 필요하다 KBS와 같은 공영방송이 큰 역할을 할 수 있다. AI와 디지털 트랜스포메이션에 관한 다큐멘터리를 찍고, 교양프로그램을 만들고, 공론을 만들 토론의 장을 열어줘야 한다

◆ 로봇세와 기본소득

우리가 자각해야 할 것은, 지금부터 수십년간 그간의 평화시기와는 비교할 수 없는 희생자들이 나타날지도 모른다는 것이다. 대 격변기에 맞는 사회적 안전판을 준비해야 한다. 빌 게이츠는 ‘로봇세’ 도입을 주장한다. 로봇세를 도입함으로써 ‘자동화의 확산을 늦추고’ 사회가 준비할 시간을 벌어줄 수가 있다는 것이다. 그는 “로봇이 사람들의 일자리를 차지한다면 그들도 세금을 내야한다”고 말한다. 두번째 혁명기의 충격은 육체노동과 정신노동을 가리지 않는다. 그만큼 전방위적이고 그만큼 심대하다. 고졸이하보다 대졸자가 5배나 더 많이 일자리를 잃게 될 것이란 예측도 있다. 평화롭던 시기의 복지정책이나 사회정책으로는 이런 전쟁기의 희생자들을 감당치 못할 것이다. 전쟁기에 필요한 것은 신속히 그리고 곳곳에 배치될 수 있는 야전병원들이다. AI는 언젠가 인류의 생활수준을 한단계 더 높은 곳으로 인도할 지도 모른다. 그러나 1차산업혁명기 생산성의 폭발적 상승이 인류에게 더 나은 생활을 보장해주기까지는 90년이 걸렸다. 자신의 생애가 그 90년에 속해 있었던 사람들에게 그 뒤의 보다 나은 생활이 무슨 위로가 되겠는가. 케인즈는 ‘장기적인 경제정책’이라는 언술의 허무함을 이렇게 설명했다. “장기적으로는 우리 모두 죽는다.”

◆ AI 인재와 산업 적용

한국의 경제는 AI에 어떻게 적응할 수 있을까? AI는 산업 전체에 적용하는 범용기술이다. 말 그대로 전체산업에 적용할 방안을 찾기 위해서는 무엇보다도 MECE한 산업지도가 필요하다 MECE(Mutually Exclusive Collectively Exhaustive의 약자, 상호배제와 전체포괄)는 항목들이 상호 배타적이면서 모였을 때는 완전히 전체를 이루는 것을 의미한다. 이를테면 '겹치지 않으면서 빠짐없이 나눈 것'이라 할 수 있다. 한국은 중간재와 자본재를 제조해서 수출하는 것으로 먹고사는 나라다. 이런 기존산업의 도메인 전문가들이 AI를 활용할 수 있도록 도와야 한다. 각 산업별 AI 결합 Best Practice를 구해서 공유할 수 있는 시스템을 갖춰야 한다. ‘AI 개발은 늦었지만, AI 적용은 앞서가자!’가 모토가 될 수 있을 것이다.

AI 인재의 3계층이 있다. 그것은 신, 신탁을 듣는 사람 그리고 도구를 쓰는 사람이다. 계층별로 다른 접근이 필요하다. 딥마인드를 만든 하사비스와 같은 사람이 신계의 인재다. 그리고 이들이 만든 알고리즘을 이해하고 텐서플로를 다 풀어서 해석할 수 있는, 말하자면 신탁을 듣는 사람이 있다. 이런 두 종류의 인재는 우리가 키우는게 아니라, 탄생할 토양을 만들어줘야 한다. 포닥, 즉 박사후과정을 중심으로 다년간의 Grant를 제공해 마음껏 연구를 할 수 있게 하자. 온갖 꼬리표와 행정절차가 붙은 정책과제는, 확률도 낮을 뿐더러 이미 시대에 뒤쳐진 주제를 과제로 삼게 될 확률이 높다. 5년정도 기간을 정하고, 해마다 1억원정도를 지원해서 하고 싶은 연구를 마음껏 할 수 있게 해주자. 5천만원은 연구원이 선택한 연구기관에서 운영비로 쓸 수 있게 하고, 5천만원은 연구원이 생활비든 뭐든 제한없이 쓸 수 있게 하는 것이다. 3년뒤쯤 중간평가를 하고 5년뒤에 최종평가를 해서 성과가 있으면 지원을 더 연장할 수도 있을 것이다. 이렇게 하면 가장 최신이론에 가까이 있고 열정도 샘솟을 박사후과정 인재의 능력을 최대로 끌어올릴 수 있을 뿐 아니라, 과제 관리에 들어가는 수많은 비용과 시간도 한번에 사라질 수 있다. 국내에 와서 연구를 한다면 외국인에게도 문호를 넓힐 수 있을 것이다. 이런 접근은 지나치게 호흡이 길어보이지만, 장담컨대 3년안에 분명한 성과를 목격하게 될 것이다.

세번째, 툴을 쓰는 사람은 우리가 충분히 키울 수 있다. 툴이 충분히 좋아졌다. 아마존과 MS, 구글 클라우드에도 인공지능 API들이, 활용만 하면 되는 수준으로 다 공개돼 있다. 각 산업부문의 도메인 전문가들이 AI와 관련한 툴을 자유자재로 쓸 수 있게 하는게 대단히 중요한 시기다. 위에서 말했듯이 AI 개발은 늦었지만, AI 적용은 앞서가자!가 모토가 돼야 한다. MECE한 산업지도를 만들고, 각 분야의 인재들이 AI 활용법을 익혀 Best Practice를 만들게 하고, 이런 성공사례를 실시간으로 공유함으로써, AI 활용에서 앞서나갈 수 있는 기회가 아직은 열려 있다.

주의할 것은 AI Transformation과 Digital Transformation이 별개이거나 심지어 경합하는 것처럼 대하는 것이다. 이 둘은 함께 진행이 돼야 한다. 디지털이 안돼 있는 곳은 디지털 전환작업에 자원을 쏟아야 한다. AI와 디지털을 함께 할 곳도 있을 것이고, AI에 보다 집중해야 할 곳도 있을 것이다. 무슨 유행처럼 ‘이제는 디지털에서 AI로 주제를 바꿔야지’라고 해서는 게도 구럭도 잃는 결과만 낳기가 십상이다. 정부의 정책도 이 둘이 다르지 않으며 동시에 진행이 되어야 한다는 것을 이해한 기반 위에 수립이 되고 집행이 되기를 바란다.

박태웅 한빛미디어 이사회 의장