[AI브리핑] 11월, 판교에 'AI안전연구소' 들어선다

[아이뉴스24 윤소진 기자] 정부가 인공지능(AI) 기술의 급속한 발전에 따른 위험에 대응하고 안전한 AI 개발·활용을 촉진하기 위해 'AI안전연구소'를 11월 출범한다. 국가 차원의 AI 안전 대응 체계를 구축하고 글로벌 AI 안전 거버넌스에서 한국의 역할을 강화하며, 동시에 국내 AI 산업의 경쟁력 제고와 안전한 AI 생태계 조성을 목표로 한다.

이는 지난 5월 개최된 'AI서울정상회의'의 후속 조치로, 연구소는 한국전자통신연구원(ETRI) 산하에 신설된다. 위치는 판교 글로벌 R&D센터다. 초대 소장에는 AI 분야 전문성과 국제적 감각을 갖춘 전문가를 영입해, 11월 중순 무렵 임명한다. 연구소는 AI안전 정책, 평가, 기술 분야의 3개 연구실로 구성되며, 총 30여 명의 연구 인력을 단계적으로 확보할 예정이다.

연구소의 주요 기능으로는 △AI 위험 정의 및 안전 평가 △AI안전 정책 연구 △대내외 협력 수행 △AI안전 확보를 위한 R&D 추진 등이 있다. 특히, AI 통제력 상실 대응, AI 모델의 보안·강건성 강화, 딥페이크 탐지 등 고도화되는 AI 위험에 대비한 안전 기술 개발에 주력한다.

일각에선 AI 기본법 부재, 예산 삭감에 대한 우려도 제기된다. 현재 AI 기본법 관련해서만 11개 법안이 국회에 발의돼 있다. 이에 정부는 국회 논의 중인 AI기본법에 연구소 운영 근거 마련을 추진한다.

남철기 과기정통부 인공지능기반정책과장은 "통상 독립 공공 기관을 설립할 때는 법적 근거가 필요하다. AI안전연구소는 빠르게 설립할 필요가 있어서 일단 ETRI 내 조직으로 운영할 계획"이라며 "연구소의 중요성에 대해 국회와 재정 당국이 인지하고 있기 때문에 예산 지원 등도 병행적으로 이루어질 것"이라고 설명했다.

AI안전연구소는 다음 달 20일부터 미국 샌프란시스코에서 개최되는 '국제 AI안전연구소 네트워크' 행사 참여를 시작으로 본격적인 활동에 나선다. 정부는 이를 통해 글로벌 AI 안전 거버넌스의 주요 일원으로서 국제 협력을 강화하고, 국내 AI 기업들의 안전한 AI 개발을 지원할 방침이다.

유상임 과기정통부 장관은 "AI안전연구소 출범을 통해 우리나라가 인공지능, 디지털 분야 선도국으로 도약할 수 있는 기반을 마련할 것"이라며, "관계 부처와 적극 협력하여 속도감 있게 추진해 나가겠다"고 말했다.