[아이포럼 2021] 김소영 KAIST 교수 "AI, 신뢰성 지속 요구해야 발전"

[아이뉴스24 최상국 기자] "보건의료분야에 적용되는 인공지능에 대해 사회가 신뢰성을 지속적으로 요구하는 것이 기술의 발전을 이끌어내 궁극적으로는 의료비용의 감소 등에 기여하게 될 것이다"

김소영 KAIST 교수(한국4차산업혁명정책센터장)은 2일 서울 드래곤시티호텔 그랜드볼룸 한라홀에서 열린 '아이포럼 2021'에서 "의료분야의 인공지능이 특히 신뢰성을 요구받는 것은 사람의 생명과 직결된 분야이기 때문"이라며 사회가 보건의료 인공지능에게 지속적으로 신뢰성을 요구해야 한다"고 강조했다.

김 교수는 이 날 지난 8월 중순 KAIST 한국4차산업혁명정책센터와 싱가포르, 영국, 스페인 등의 관련 전문가들이 함께 개발한 '사회를 위한 보건의료 분야 인공지능 활용 가이드'(Using Artificial Intelligence to Support Healthcare Decisions: A Guide for Society)' 에 대해 소개하고 가이드라인 개발 과정에서 얻은 경험을 공유했다.

김 교수는 "이번 가이드라인은 인공지능 기술자들을 위한 가이드라인이라기보다는 정책개발자, 언론, 보건의료 관련기관, 의료진과 환자들을 위해 만들어진 것"이라며 "인공지능을 보건의료 분야에 적용할 때 우리가 물어야할 질문들을 정리한 것"이라고 소개했다.

현재 인공지능 기술은 임상적 의사결정 지원, 환자의 의사결정 지원, 보건의료 행정관리, 치료제 개발 등에 다양하게 사용되고 있다. KAIST가 내놓은 가이드라인은 기술자가 아닌 사용자들이 인공지능의 신뢰성에 대해 이야기할 수 있도록 이 분야에서 사용되는 용어를 일반인이 이해할 수 있도록 정의하고, 헬스케어 분야에서 인공지능이 어떻게 발전·활용되고 있는지, 신뢰성이 왜 중요한지, 어떤 질문을 해야 하는지, 이를 바탕으로 우리가 기대할 수 있는 미래는 어떨지 등을 정리한 보고서다.

우리가 던져야 할 질문들로는 AI가 어떤 데이터를 바탕으로 하고 있는지, 개발과정에서 어떤 전제조건들이 주어졌는지, 변수가 잘 정의되고 인간의 편견은 잘 제거됐는지, 실제로 유용한 권고사항을 도출했는지 등을 제시했다.

김 교수는 강연에서 이런 질문들과 연관된 다양한 사례들을 소개하면서 "가장 중요한 문제는 '휴먼 에러'를 어떻게 통제할 것인가 하는 문제"라고 지적했다.

인공지능의 신뢰성에 대한 과도한 요구는 기술발전을 저해하는 규제로 작용한다는 지적에 대해서는 "규제가 기술발전을 담보한다"는 의견을 제시했다. 김 교수는 "AI에 대한 강한 신뢰성 요구가 당연히 규제처럼 보이지만, 과거에도 의학은 규제를 통해 발전했다. 인공지능의 신뢰성에 대해 비 기술자들이 지속적인 질문을 던지는 것은 기술 발전의 걸림돌이 되는 것이 아니라 기술 발전에 엄청난 도움이 된다"고 주장했다.

김 교수는 강연을 마무리하면서 "가이드라인 작업을 하면서 국내외의 많은 전문가들과 대화를 했는데, 어떤 분야보다도 보건 의료 분야에서는 AI가 의사를 대체하는 것은 거의 불가능하다, 매우 먼 얘기라는 데 대부분 동의했다"고 전하면서 "미래 인공지능 기술의 발전은 갈수록 증가하고 있는 의료비용 지출을 줄이는 데도 크게 기여할 것"이라고 말했다.

한편 이날 포럼은 'AI 위드 휴먼(AI WITH HUMAN)'을 주제로 AI 기술의 현재를 살펴보고 미래 발전 방향을 제시하며 인간과 AI의 공존에 대해 논의하는 시간을 가졌다.

각 분야 전문가들이 ▲AI의 윤리 ▲산업 ▲증권·금융 ▲정보미디어 ▲보건의료 등 5개 세션을 주제로 AI 기술과 관련한 법적 규범과 제도적 장치, 인류와의 공존, 향후 변화까지 조망하는 시간을 가졌다.