IBM "기업 80%, AI 윤리 책임자는 기술 부서 아닌 경영진"

[아이뉴스24 김혜경 기자] 기업 10곳 중 8곳은 인공지능(AI) 윤리 책임자로 최고경영자(CEO) 등 비 기술 분야의 임원을 꼽았다.

IBM 기업가치연구소(IBV)는 26일 '신뢰할 수 있는 AI 발전을 위한 기업 지침서'를 공개하고 이같은 글로벌 조사 결과를 발표했다. 해당 조사는 지난해 옥스퍼드 이코노믹스(Oxford Economics)와 함께 22개 국가·산업에서 종사하고 있는 기업 임원 1천200명을 대상으로 진행됐다.

우선 '기업 내 AI 윤리 책임자는 누구인가'를 묻는 질문에 응답자의 80%는 경영진이라고 답했다. 이는 2018년 조사와 비교했을 때 15% 증가한 수치다. 이번 조사에 참여한 경영진 75%는 AI 윤리가 중요하다고 응답해 과거 조사 대비 50% 늘어난 것으로 나타났다.

보고서에 따르면 응답자 75%는 AI 윤리성이 기업의 차별화된 경쟁력이라고 답했다. 또 응답자의 67%는 자사 조직이 경쟁사 대비 지속가능성과 사회적 책임, 다양성 측면에서 더 나은 성과를 거두고 있다고 답했다.

전체 응답자의 절반 이상은 자사 조직이 AI 윤리를 기존 기업 윤리에 접목하는 데 착수하고 있다고 답했다. 이중 45%는 AI 프로젝트 위험 평가 프레임워크, 검토 프로세스 등을 만들어 본 경험이 있는 것으로 조사됐다.

CEO 응답자 가운데 79%는 AI 윤리를 AI 관련 업무에 포함할 준비가 됐다고 답했다. 이는 2018년 조사 대비 20% 늘어난 수치다.

반면 AI 윤리를 실제 도입했다고 답한 곳은 25%로 나타났다. 또 응답자의 68%는 AI의 편견을 낮추기 위해 다양성을 갖춘 AI 조직이 필요하다고 답했지만 실제 포용성은 미흡한 것으로 나타났다. 조직 전체와 비교했을 때 AI 조직 내 여성 비율은 5.5배, 성소수자 비율은 4배, 인종 다양성은 1.7배 낮은 것으로 조사됐다.

지저스 만타스(Jesus Mantas) IBM 컨설팅 글로벌 매니징 파트너는 "공정하고 신뢰할 수 있는 AI 알고리즘 설계에 대한 요구사항은 앞으로 증가할 것"이라며 "그러나 산업 전반에서 실제 AI 윤리 가치를 적극적으로 도입하는 기업은 아직 많지 않은 것으로 나타났다"고 말했다.

이어 "신뢰할 수 있는 AI 구축은 단순히 규정을 준수하는 문제가 아닌 비즈니스 필수 사항인 동시에 사회적 기대치를 반영하고 있다"며 "기업은 AI 전체 수명 주기에 걸쳐 거버넌스 모델을 구현해야 한다"고 덧붙였다.