[아이포럼 2021] AI 뉴노멀 시대…"'인간 중심' 되어야" [종합]

[아이뉴스24 신지훈,이재용 수습 기자] 신종 코로나바이러스 감염증(코로나19) 사태로 가속화된 '4차 산업혁명'의 물결이 산업뿐만 아니라 경제, 사회, 정치 등 전 분야에 걸쳐 막대한 변화를 일으키고 있다.

그리고 이 엄청난 변화의 물결은 '인공지능(AI)'이 주도하고 있다. 인간의 지능을 훌쩍 뛰어넘는 '초(超)지능'을 가진 AI의 출현이 그리 멀지 않았다는 얘기가 허투루 들리지 않을 정도다.

과연 AI는 우리의 생활을 어디까지 바꿔 놓을까. 인간은 AI와 공존할 수 있을까.

아이뉴스24가 2일 서울 드래곤시티호텔에서 개최한 '아이포럼 2021' 행사에서는 'AI 위드 휴먼(AI WITH HUMAN)'을 주제로 AI 기술의 현재를 살펴보고 미래 발전 방향을 제시하는 한편, 인간과 AI의 공존을 탐구해보는 시간을 가졌다.

이날 임혜숙 과학기술정보통신부 장관은 조경식 제2차관 대독 축사를 통해 "인공지능 기술이 수많은 분야에서 다양한 제품과 서비스로 개발되며 우리 일상과 가까워지고 있다"며 "앞으로는 사람의 창의성에 인공지능의 효율성이 더해지는 협업 시대가 열릴 것"이라고 말했다.

박동석 아이뉴스24 사장 겸 편집인은 인사말을 통해 "코로나19 사태 장기화로 인해 인공지능과 사물, 인류 등 모든 것이 연결되는 이른바 '인공지능 사회'로 빠르게 진입하고 있다"면서도 "인공지능이 초래할 수 있는 부작용에 대한 우려도 커지고 있어 인공지능이 인류를 위협하는 존재가 아닌, 인류 발전에 공헌하는 기술로 발전하는 데 있어 통찰이 필요한 시기"라고 말했다.

◆ AI 기술 혁신을 위해선 리스크 없애야

AI 기술이 고도화하고 복잡화됨에 따라 AI의 '신뢰성'에 대한 논의도 폭넓게 이뤄지고 있다. 'AI가 예측 또는 판단한 결과를 믿을 수 있는가', 'AI 판단에 공정성을 부여할 수 있는가' 등 'AI 거버넌스' 체계에 대한 논의가 활발하게 진행되고 있다.

AI 정책 분야의 세계적 석학으로 꼽히는 마크 로텐버그(Marc Rotenberg) AI&디지털 정책 센터(Center for AI and Digital Policy)장은 이날 진행한 민원기 과학기술협력대사 겸 한국뉴욕주립대 총장과의 화상 대담에서 'AI에 대한 윤리 정립'에 대해 강조했다.

민 총장은 "AI의 발전, 특히 머신러닝 기술로 인해 인간이 AI를 컨트롤 할 통제권을 잃고 있는 것은 아닌가 생각한다"며 "빅데이터를 기반으로 하는 AI 기술이 우리의 프라이버시를 악용하고, 개인정보 유출 등에 대한 우려도 발생하고 있다"고 지적했다.

이에 대해 로텐버그 센터장은 "향후 어느 시점에서 AI의 지능이 인간의 지능을 뛰어넘을 것"이라며 "AI는 완벽한 존재라고 볼 수 없기 때문에 AI에 대한 통제권은 인간이 갖고 있어야 한다. '지속가능한 혁신'에는 리스크가 존재하지 않는다"고 답했다. AI 기술의 발전과 혁신을 위해선 리스크를 만들어서는 안된다는 것이다.

그러며 글로벌 AI 거버넌스 체계를 구축하는 것이 중요하다고 제언했다.

민 총장은 "AI 알고리즘의 설계, 데이터 수집·보관·이용에 대한 투명성, 공정성, 책임성 확보의 중요성이 증대되고 있는 만큼, 윤리 정립을 위해선 AI 알고리즘 개발자와 데이터 관리자 및 사용자에 대한 수준 높은 윤리 교육이 필요하다"고 강조했다.

로텐버그 센터장 또한 "AI가 주는 솔루션에 대해 확신할 수 있도록 인간에게 전문성을 더욱 늘려줘야한다"고 말했다. 그는 "예를 들어 모든 사람들의 의견이 반영된 공평한 판결을 AI가 도출해내기 위해서는 우선적으로 이러한 시스템을 개발하는 사람의 전문성과 책임감이 중요하다"고 말했다.

◆ 새로운 질서 확립 필요

AI가 바둑으로 인간을 이긴지 5년이 흘렀다. 그 사이 AI는 진화를 거듭했다. 인간의 지능을 뛰어넘는 이른바 '초(超)지능'을 가진 AI의 출현을 눈 앞에 뒀다.

정상조 국가지식재산위원회 공동위원장(서울대학교 법학전문대학원 교수)은 "그럼에도 현재의 법 질서는 여전히 인간 중심으로만 마련되어 있다"며 "AI와 함께하는 새로운 질서를 마련하기 위해서는 많은 이해관계인들이 참여하고 고민해야 한다"고 지적했다.

AI는 4차 산업혁명의 엔진으로 꼽힌다. 대변혁의 시기에 성공을 좌우할 핵심 경쟁력이다. AI는 컴퓨터를 이용해 마치 인간의 뇌와 같은 신경망을 구축해 학습·추론·지각·이해능력 등을 프로그램으로 실현한 알고리즘으로 정의된다.

정 위원장은 이 같은 알고리즘의 동력으로 '데이터'를 꼽았다. 정 위원장은 "데이터는 4차 산업혁명의 시대의 엔진을 움직이는 '석유'와 같은 존재"라며 "더 많은 데이터를 알고리즘이 수집해야 더 많은 학습이 이뤄지고, 이는 곧 AI 기술의 발전으로 이어진다"고 말했다.

다만 정 위원장은 데이터를 수집하는 과정에서 야기되는 문제에 대한 법과 제도적인 준비는 미비하다는 점을 지적했다. 데이터를 수집‧학습하는 주체가 사람이 아니라 AI가 되면서 로열티 제공과 관련한 새로운 질서 정립이 필요해졌다는 설명이다.

정 위원장은 "우리나라 대법원과 미국의 경우 AI도 사람과 똑같이 취급해야 한다는 판결이 늘어나고 있다"며 "특히 정부에서도 저작권법 개정안, 부정경쟁방지법 개정, 데이터기본법 등으로 AI의 데이터 이용과 관련한 법적 질서 정비를 지속하고 있다"고 말했다.

이어 "AI나 로봇을 처벌하거나 책임을 부과한다고 해도, (AI와 로봇이) 문제에 대해 반성하고 책임을지지 않도록 노력해야 하는데, 아무 효과가 없다는 문제가 발생한다"면서 "AI 주인을 처벌하거나 AI를 만든 기업을 처벌해야 하는데 현실적으로는 쉽지 않다"고 지적했다.

그는 "현행법 질서에 따라 어떤 처벌해야 할지 불명확 불확실 부적절한 경우 많기 때문에 우리는 AI와 공존하기 위한 새로운 시대의 새 질서에 대해 고민해야 한다"면서 "참여민주주의를 통해 보다 많은 이해관계인들이 참여해 새로운 질서를 모색해 나가야 할 것"이라고 강조했다.

◆"긍정적 미래 보장 없다…윤리적 고민해야"

AI 기술이 고도화, 복잡화됨에 따라 AI가 초래할 수 있는 부작용에 대한 우려가 커지고 있다. AI로 인한 다양한 변수를 예방하기 위해선 결국 AI를 구축하고 활용하는 사람들의 윤리적 의식 함양이 필요하다는 제언이 나온다.

이상직 법무법인 태평양 파트너 변호사(과학기술정보통신부 AI 법제정비단 위원)는 "AI 기술을 주도로 한 4차 산업혁명이 단순한 기술발전을 넘어 패러다임의 구조적 변화를 야기하고 있어 부작용을 방지하기 위한 규제와 관행을 점검할 필요가 있다"고 강조했다.

이 변호사는 AI의 기술 발전이 '사람 중심'이 되어야 올바른 방향으로 이뤄질 것으로 내다봤다. 이 같은 환경을 조성하기 위해선 AI의 윤리적 가이드가 필수라는 설명이다. 상황에 대해 맞춤형 규제를 펼치고, 업체들이 자율적으로 견제 수단을 마련해 자정작용을 유도해야 한다고 강조했다.

그러면서도 이 변호사는 AI 윤리기준을 세운다고 해서 모든 부작용이 해결되는 것은 아니라고 지적했다. 윤리는 말 그대로 강제성을 띄지 않은, 양심에 따라 해야 할 도리이기 때문이라는 설명이다.

이 변호사는 "과학기술정보방송통신부 등에서 윤리규정을 만들었으며 네이버·카카오 등도 자체 AI 윤리규정을 만들어 시행 중"이라며 "이러한 시장에서의 자정작용이 잘 되고 있으며 정부도 이에 힘을 보태는 모습"이라고 평가했다.

다만 그는 "AI의 미래에 대한 섣부른 규제가 AI의 성장동력 정체를 야기할 수 있 신중하게 접근해야할 필요성이 있다"며 "섣불리 법을 적용했다 AI 산업 발전을 가로막을 수 있다. AI 초기 규제는 최소화함과 동시에 자율규제와 이용자의 견제시스템을 독려해야 한다"고 강조했다.

◆AI 기술 도입으로 부는 산업·금융계 '새바람'

산업계에서 AI 기술은 필수적인 요소로 자리 잡고 있다. 천편일률적인 서비스가 아닌 개인 맞춤형 서비스가 중요해지면서다.

LG전자의 '씽큐(ThinQ)' 앱 서비스 개발과 플랫폼사업센터를 이끌고 있는 김동욱 LG전자 플랫폼사업센터장 전무는 이번 포럼에서 '산업에 영혼을 심다'를 주제로 강연을 펼쳤다.

김 전무는 '공급자 중심'에서 '소비자 중심'으로 시장 환경이 급변하면서 AI 기술의 역할이 커졌다고 평가했다.

그는 "과거에는 공급자 중심의 시장이었기 때문에 좋은 성능과 신뢰성 높은 품질의 제품을 적정한 가격에 출시하면 됐다"며 "하지만 이미 오래전부터 시장은 소비자 중심으로 재편됐고, 소비자들의 마음을 움직일 수 있는 제품을 만들어야 하는 상황이 됐다"고 말했다.

이어 "클라우드, AI 기술 발전으로 고도화된 제품을 만들 수 있는 환경이 좋아지고 있다"며 "반면 경쟁의 범위가 동종 업계로 한정되지 않는 등 기술 발전에 따른 기대와 우려가 상존한다"고 덧붙였다.

자산운용 업계에서도 AI 기술을 활용한 효율화 바람이 불고 있다. 그간 전문 인력이 맡아왔던 '데이터 분석'을 고도화된 AI 기술이 대체할 수 있게 되면서 투자 전략에도 변화가 찾아왔기 때문이다.

김형식 크래프트테크놀로지(크래프트) 대표는 '어려운 주식 투자, AI에게 맡긴다'를 주제로 자산운용 업계에서의 AI 활용 아이디어를 공유했다.

김 대표는 이번 포럼에서 크래프트가 AI 금융상품을 개발하는 과정과 기술에 대해 설명하고, 이를 실제 뉴욕증권거래소에 상장해 좋은 성과를 내기까지의 과정을 공개했다.

김 대표는 "처음 목표는 S&P500지수를 뛰어넘는 ETF(상장지수펀드)를 개발하는 것이었고, 시장평균보다 좋은 수익을 내려면 다른 회사보다 빠르게 새로운 투자 패턴을 찾으려고 노력해야 한다"면서 "전략을 찾는 과정을 사람이 아닌 AI에 맡겨보는 방식으로 개발하기 시작했다"고 설명했다.

아울러 자산운용 분야에서의 AI 도입 의미에 대해 살펴보고, 자동화된 AI 자산운용 프로세스를 소개하면서 AI 기술이 향후 자산운용 지형 변화에 미칠 영향을 예측했다.

그는 지수를 추종하는 패시브 펀드와 직관으로 운용하는 액티브 펀드를 조화한 액티브 인덱스 펀드가 안정적인 투자의 대안이 될 수 있다고 조언했다.

◆실생활에 스며든 AI…데이터 편향과 오·남용 우려도

알파고를 상대로 유일한 1승을 거둔 인간 기사 이세돌 9단의 은퇴 대국 상대는 국산 AI인 '한돌'이었다. 한돌은 국내 게임·IT 업체인 NHN이 자체 개발한 AI로 2019년 12월 이뤄진 고별 대국은 한돌의 2대1 승리로 끝났다. 국산 AI도 정상급 인간 기사를 상대로 승리할 정도로 발전했다는 의미다.

박근한 NHN AI 사업본부장은 한돌의 현재와 알파고 열풍 이후 국내외 AI 연구 발전 과정, 현재 AI 트렌드를 살펴보고 NHN이 그동안 진행해온 AI 연구 성과와 앞으로의 방향성 등을 설명했다.

NHN은 박근한 사업본부장을 주축으로 한돌을 개발하며 축적한 AI 노하우를 토대로 우리 실생활을 유용하게 바꿀 수 있는 기술 개발에 매진 중이다.

박 본부장은 "실생활에 유용한 AI 연구를 이어오며, 실제 AI 기반의 서비스를 하나씩 선보이고 있고 앞으로 중소기업을 위한 AI 플랫폼과 같이 누구나 쉽게 접근 가능한 AI 기술을 제공할 것"이라고 말했다.

보건의료 분야 인공지능 기술은 코로나19 이후 빠른 상용화를 구축했다. 인공지능 기술은 질병을 진단하고, 예후를 예측하는 데 활용되는 것은 물론 새로운 치료제를 개발하는 속도도 획기적으로 단축시키고 있다.

하지만 인공지능 기술의 급속한 확산에 데이터 편향과 오·남용에 대한 우려가 커지고 있다. 데이터의 품질과 검증 여부가 생명과 직결되는 보건의료 분야에서도 인공지능 기술의 타당성과 안전성 문제가 중요하게 대두되고 있다.

최근 '사회를 위한 보건의료 분야 인공지능 활용 가이드' 개발을 주도한 김소영 KAIST 교수(한국4차산업혁명정책센터장)은 인공지능 기술이 보건의료분야에서 신뢰성을 확보하기 위한 방안을 제시했다.

김 교수는 "사람들은 인공지능의 의사결정이 냉철하고 객관적일 것이라고 생각하지만, 인공지능은 현실에 존재하는 데이터들 바탕으로 학습한다"며 "우리가 가진 사회적 편견과 편향, 위험한 가정들을 그대로 내재한 결과가 도출될 수도 있다는 뜻"이라고 설명했다.

이어 "보건의료 분야의 인공지능 기술이 충분히 견고한지를 검증하는 질문들이 우리 사회에서 활발하게 논의된다면, 궁극적으로 인공지능 기술의 역량을 끌어올리는 것과 동시에 신뢰할 수 있는 기준을 마련할 수 있을 것"이라고 덧붙였다.

한편 이번 행사에서는 '제2회 아이뉴스24 소셜 D·N·A 혁신상' 시상식도 진행됐다. D·N·A 혁신상은 아이뉴스24가 창간 20주년을 맞은 지난해 사회적 가치 실현의 일환으로 과학기술정보통신부와 함께 제정한 상으로 4차 산업혁명 시대 사회문제 해결 및 포용적 혁신성장을 실현할 데이터(Data), 네트워크(Network), 인공지능(AI) 분야 우수 혁신 사례를 발굴해 시상한다.

소셜 D·N·A 혁신 대상은 메가존클라우드가, 소셜 D·N·A 혁신상은 딥바이오, 소셜 D·N·A 안전상은 네이버클라우드가 받았다. 또 소셜 D·N·A 포용상은 엔젤로보틱스, 소셜 D·N·A 협력상은 클라썸, 소셜 D·N·A 공로상 부문에는 KISTI와 이노베이션아카데미가 수상했다.

신지훈 기자의 다른 기사 보기

• 인간과 인공지능의 공존 탐구…'아이포럼 2021' 개막

• 메가존클라우드, 소셜D·N·A혁신대상 수상