'사람의 성장을 지원하는 인공지능'…교육부, 'AI 윤리원칙' 발표

[아이뉴스24 최상국 기자] 교육부가 '교육분야 인공지능 관련 윤리원칙'을 제정했다.

교육부는 교육분야 인공지능이 윤리적으로 개발되고 안전하게 활용될 수 있도록, 개발자와 교육당사자들이 함께 준수해야 할 '교육분야 인공지능 윤리원칙'을 11일 확정·발표한다고 밝혔다.

교육부가 발표한 '윤리원칙'은 '사람의 성장을 지원하는 인공지능'이라는 대원칙 아래 교육 분야에서의 인공지능 개발·활용 지침이 될 10대 세부원칙을 제시하고 있다.

'윤리원칙'은 자발적 실천과 준수를 독려하는 도덕적 규범이자 자율규제다. 교육기관과 교육활동을 지원하는 행정기관에서 활용되는 인공지능을 적용대상으로 하며, 교육당사자와 이용자, 개발자, 관리자들이 권리·책임의 주체다.

◆다음은 '윤리원칙'의 10대 세부원칙

1. 인간성장의 잠재성을 이끌어낸다. 교육분야 인공지능은 인간 존엄성에 대한 존중을 바탕으로 인간 성장의 잠재성을 이끌어낼 수 있도록 제공되어야 한다.

2. 학습자의 주도성과 다양성을 보장한다. 교육분야 인공지능은 학습자의 자기주도성을 신장하는 범위에서 활용되고, 학습자의 개성과 다양성을 존중해야 한다.

3. 교수자의 전문성을 존중한다. 교육분야 인공지능은 교수자의 전문성을 존중해야 하며, 교수자가 가진 전문성이 효과적으로 발휘될 수 있도록 개발·활용되어야 한다.

4. 교육당사자 간의 관계를 공고히 유지한다.교육분야 인공지능은 일련의 교수·학습 활동 과정에서 교육에 참여하는 사람들 간의 긍정적 관계 형성을 도울 수 있게 제공되어야 한다.

5. 교육의 기회균등과 공정성을 보장한다.교육분야 인공지능은 모든 사회구성원이 지역·경제적 배경 등의 조건에 상관없이 교육의 기회를 공정하게 보장받을 수 있도록 제공되어야 한다.

6. 교육공동체의 연대와 협력을 강화한다.교육분야 인공지능은 그 활용에 있어 민·관·학·연의 협력을 지향하고 지속 가능한 교육생태계를 구축할 수 있도록 제공되어야 한다.

7. 사회 공공성 증진에 기여한다.교육분야 인공지능은 학습자가 민주시민으로서 필요한 자질을 갖추고 개인의 행복과 사회의 공익 추구에 긍정적인 영향을 미치도록 적용되어야 한다.

8. 교육당사자의 안전을 보장한다.교육분야 인공지능은 일련의 교수·학습 과정에서 나타날 수 있는 잠재적 위험을 방지하고 안전을 보장하는 방향으로 구현되어야 하며, 인공지능의 활용에 있어 책임주체가 명확히 설정되어야 한다.

9. 데이터 처리의 투명성을 보장하고 설명 가능해야 한다.교육분야 인공지능은 데이터의 수집·정제·선택 등의 과정이 투명해야 하고, 알고리즘과 데이터의 처리과정이 교육당사자가 이해할 수 있는 언어로 설명가능 해야 한다.

10. 데이터를 합목적적으로 활용하고 프라이버시를 보호한다. 교육분야 인공지능의 개발 및 활용을 위해 수집되는 데이터는 활용 목적에 적합한 정도로 수집되고 교육 목적에 부합하도록 활용되어야 하며, 데이터의 처리 과정에서 교육당사자의 개인정보 등 사적 영역을 보호해야 한다.

교육부는 교육분야 인공지능 윤리원칙 마련을 위해 지난 1월 27일 시안 발표 이후 공청회, 전문가 간담회 등을 통해 의견을 수렴했다. 5~6월 중에는 주요 7개국 정상회담(G7) 국가와 유네스코 등에 의견을 조회했으며 영국 교육부에서는 관심 표명 및 지지 의견을 제출했다고 밝혔다.

한편 정부는 지난 2020년 12월 범정부 '인공지능 윤리기준'을 마련하고 각 분야별 여건에 맞는 윤리기준 제정을 권고했다. 교육분야에서는 지난해 11월 유네스코가 학습에 사용되는 인공지능의 엄격한 관리 필요성을 전 세계에 권고한 바 있다.

오석환 교육부 기획조정실장은 “인공지능이 미래세대의 인지(사고)·정서에 미치는 영향이 클 수 있는 만큼, 교육분야 인공지능의 개발과 안전한 활용이 균형을 이룰 수 있도록 교육계·산업계와 지속해서 소통하고 협력하겠다.”라고 밝혔다.