화웨이, 'AI 윤리·보안' 책임론 제기…"표준·법률 제정 시급"

[아이뉴스24 김문기 기자] 화웨이가 인공지능(AI) 보안에 대한 명확한 표준과 법률적 기준이 신속히 마련돼야 한다고 촉구했다.

션 양 화웨이 글로벌 사이버보안 & 프라이버시 오피스 책임자는 19일 중국 상하이 '화웨이 커넥트 2019'에서 열린 '사이버 시큐리티 서밋'의 발표자로 나서 이 같이 강조했다.

션 양 책임자는 "AI에서 우리가 어떤 역할을 할 수 있을지 고려한다면 각자 맡은 책임과 리스크가 따르게 마련이고, 이 과정에서 사이버 보안은 수호해야 하는 가치"라며, "AI 보안과 개인정보 등을 논하게 된다면 좀 더 명확한 표준과 법률적 기준이 만들어져야 한다"고 강조했다.

화웨이는 AI가 이미 삶 깊숙한 곳에 자리잡고 있기 때문에 상업화를 고민하면서도 그에 따른 책임을 벗어나서는 안된다는 점을 강조했다.

가령, 20년 전만해도 차량 번호판을 식별하기 위해서는 굉장히 복잡하고 어려운 과정을 거쳐야 했지만 현재 많은 변화를 통해 구현 가능해졌다. 향후에는 스마트시티의 교통분야에서 신호등 관리 등도 AI를 접목할 수 있는 수준까지 다다랐다. 중국 대형도시에서 심각한 교통체증 또한 AI 기능으로 해결할 수 있다.

하지만 이러한 AI의 상업화는 이를 개발하는 과정에서 각자 역할이 다를 수는 있지만 사이버보안과 관련한 책임은 함께 해야 한다고 지적했다. 결론적으로 동등한 리스크를 안아야 한다는 것.

션 양 책임자는 최근 영상에서 얼굴을 바꿀 수 있는 애플리케이션을 예로 들어 설명했다. 영상에서 얼굴을 바꾸기 위해서는 안면인식 기능이 핵심이다. 다양한 알고리즘을 통해 고안됐따. 이를 구현하기 위해서는 다양한 정보들, 예를 들어 각기 다른 피부색이나 다양한 특징들을 모두 데이터로 수집해야 한다. 막대한 데이터 수집은 높은 컴퓨팅 능력을 필요로 하고 딥러닝을 가속화해야 한다.

다만, 이미지는 클라우드에 올려야 하고 사진을 통해 이미지로 안면인식을 해야 하기 때문에 데이터를 보호할 수 있는 범위 내에서 활용될 수 있도록 주의를 기울여야 한다.

션 양 책임자는 "재미있는 사례들이 많을 수 있으나 악용 가능성도 있다"며, "데이터 수집 과정에서 내가 수집하고 있는 자료들이 어디서 어떤 목적으로 사용될지도 명확해야 하고, 데이터를 보호할 수 있는 범위도 설정돼야 한다"고 지적했다.

이에 따라 범국가적인 AI의 윤리와 표준을 제정해야 한다고 관심을 촉구했다.

션 양 책임자는 "화웨이가 제시한 풀스택 AI도 법률 프레임을 기반으로 관리해야 한다"라며, "시나리오마다 AI에 대한 이해와 입장이 다를 수밖에 없지만 화웨이뿐 아니라 많은 국가와 기업들이 분석과 연구를 진행하고 있기에 AI 발전을 위해 다같이 협력을 모색해야 한다"고 마무리했다.