"산업 중심이 아닌 시민 보호 AI 규율법 마련해야"

[아이뉴스24 박진영 기자] "산업 중심이 아닌 시민을 보호하는 인공지능(AI) 규율법을 마련해야 한다."

정보인권연구소, 참여연대 등 120여개 시민사회단체가 24일 오후 2시 참여연대 아름드리홀에서 열린 기자회견을 통해 인권과 안전, 민주주의가 보장되는 인공지능 정책을 정부와 국회에 요구했다.

이날 자리에서는 ▲인공지능 국가 감독 체계 마련 ▲정보 공개와 참여 ▲인공지능 평가 및 위험성 통제 ▲권리구제 절차 보장 등 내용을 담은 인공지능(AI) 규율법을 마련해야 한다고 주장했다.

인공지능이 일반 국민들에게 일상적으로 영향을 미치는 만큼 이를 관리·감독하는 시스템 구축이 필요하다는 것이다. 인공지능은 서비스, 제품을 추천·제공하는 것은 물론, 금융, 사회복지, 치안, 군사영역까지 사람을 평가하거나 중대한 의사결정을 내리는 단계까지 발전했다. 특히, 인공지능을 채용단계에 도입함으로써 발생할 수 있는 불공정한 결과와 관련해 이를 구제할 수 있는 방안이 전무하다고 지적했다.

김민 진보네트워크센터 활동가는 "AI 채용은 데이터 표본의 편향성, 누락 등의 문제가 발생할 수 있어, 충분한 검증과 검토를 통한 결정인지는 알 수가 없다"면서, "EU는 인공지능 규제 방안에서 채용과정과 노동자 권리에 영향을 미치는 기술 사용을 고위험으로 규정하고 있고, 미국도 채용 과정에 AI를 도입하는 것에 엄격한 의무를 부과하고 있다"고 밝혔다.

고위험 인공지능에 대한 감시와 규제가 필요함을 강조했다. 고위험 인공지능은 ▲의료, 운송, 에너지, 금융 및 공공부문에서 인권에 법적 또는 상당한 영향을 미치는 경우 ▲사람의 부상·사망이나 상당한 물질적·비물질적 손상을 초래하는 경우 ▲채용과 업무관리 등 노동권과 입점업체 배정에 영향을 미치는 경우 ▲소비자 권리에 영향을 미치는 경우 ▲원격으로 생체를 인식하거나 침입적으로 감시하는 경우 등으로 규정했다.

특히, 인공지능을 통한 인권침해에 규제 원리가 적용돼야 한다고 주장했다. 그 주체는 국가가여야 하고, 유럽 등 국제사회에서는 이미 국가가 나서서 고위험 인공지능을 규제하고 있다는 것이다.

서채완 민주사회를 위한 변호사모임(민변) 변호사는 "기업의 자율 규제를 통해 인공지능으로 인한 인권 제약이 통제가 가능할 지 모르겠다"면서, "영향평가제도, 감사제도, 차별금지법 등을 도입해 인공지능의 인권침해 요소를 사후적으로 규제할 수 있는 법제가 구축될 필요가 있다"고 주장했다.

이어 "인공지능 기술이 어떻게 활용됐는지, 설명할 수 있는 구체적인 절차가 마련돼야 한다"면서, "절차상 명확한 책임주체를 설정하고, 권리구제를 용이하게 할 수 있는 행정적 절차도 마련될 필요가 있다"고 덧붙였다.

이를 위해 국가적인 감독체계 마련이 필요하다고 강조했다. 국내의 경우, 인공지능 정책이 사람이 아닌 기술 중심으로 이뤄지고 있다고 지적했다.

과학기술정보통신부, 4차산업혁명위원회 등 산업 진흥을 위한 정부 부처가 인공지능 정책을 주도하고 있어, 사람을 보호하기 위한 조건이나 절차에 대한 논의가 충분치 못하다는 지적이다. AI로부터 인권과 안전을 보장할 수 있는 국가 감독 체계를 마련하고, 여기에 공정거래위원회, 국가인궈위원회, 개인정보보호위원회 등이 참여해야 한다고 주장했다.

이날 사회를 맡은 장여경 정보인권연구소 상임 이사는 "이날 참석한 120개 시민단체는 선언문을 국회 상임위원회나 관련 정부기관에 민원 형태로 제출할 계획"이라면서, "앞으로 문제제기 수준을 넘어 인공지능을 규율하는 제도나 권리구제 방안에 대해 지속적으로 제안할 방침"이라고 밝혔다.