군사 AI 도입, 의도치 않은 결과 발생할 수도

[아이뉴스24 정종오 기자] 군사 부문에 인공지능(AI) 도입이 대세를 이루겠는데 그만큼 위험성도 크다는 지적이 나왔다. 지나친 경쟁을 통해 불거지는 통제 불능 상황, 의도치 않은 결과가 발생할 수 있다는 거다.

KAIST(총장 이광형)는 문술미래전략대학원 전우정 교수가 우리나라 법학자 최초로 세계 최고 과학 학술지인 네이처(Nature)의 자매지 ‘네이처 일렉트로닉스(Nature Electronics)'의 코리스판던스(Correspondance) 섹션에 군사 AI 통제의 과학적 도전에 관한 기고문(기고문 제목: Scientific challenges in governing military AI)을 게재했다.

지난 9월 9일부터 10일까지 서울에서 개최된 ‘2024 인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM 2024)'에서 군사 AI 거버넌스에 중요한 진전이 이뤄졌다.

우리나라뿐 아니라 네덜란드, 싱가포르, 케냐, 영국이 공동 주최국으로 참여한 이번 회의에서 미국, 독일, 프랑스, 일본 등 61개국이 ‘행동을 위한 청사진(Blueprint for Action)'을 채택했다. 이후 두 개 국가가 추가로 동참해 현재 총 63개국이 채택하고 있다.

전우정 교수는 이번 기고문에서 군사 분야의 AI 활용에 대한 이러한 원칙들을 과학적·기술적 조치로 실천하는 데 상당한 어려움이 있음을 강조했다. 전 세계 과학계의 관심과 노력이 필요하다는 점을 강조했다.

전 교수는 현대 전쟁에서 AI의 역할을 강조하며 AI가 육군, 해군, 공군뿐 아니라 우주와 사이버 영역을 포함한 5개 군사 분야를 연결하는 핵심 요소라고 지적했다.

AI는 신속 정확한 의사 결정, 물류 최적화, 작전 계획, 인공위성 영상 분석, 드론 공격 목표 식별, 리스크 평가 등을 통해 전투 효율성을 높일 수는 있는데 알고리즘 결함이나 상황 오판 등으로 인해 의도치 않은 결과가 발생할 위험도 존재한다고 설명했다.

이러한 도전을 해결하기 위해 전 교수는 몇 가지 핵심 분야에서의 집중적 연구와 국제 협력이 필요하다고 제안했다. 작전을 수행해야 하는 상황에서 의미 있는 인간의 통제를 보장하고, 핵 무기 통제 시스템에 AI를 통합할 때 발생할 수 있는 잠재적 리스크를 해결해야 한다는 거다.

투명성과 작전 보안을 균형 있게 유지하는 설명 가능한 AI(eXplainable AI, XAI)를 개발해야 한다고 주문했다.

KAIST 문술미래전략대학원 전우정 교수는 공군 예비역 대위로, 공군학사장교회 국제위원장으로 봉사하고 있다.