"내 계좌로 22만 유로 보내" 전화로 대표 목소리 흉내낸 AI

[아이뉴스24 최은정 기자] 이제는 전화 너머 가족의 목소리도 의심해야 하는 날이 머지 않은 것으로 보인다.

인공지능(AI) 기반 딥페이크 기술로 지인 목소리를 모방해 금전을 탈취한 사건이 발생했기 때문.

딥페이크는 오픈소스 형태로 제공되는, AI 기반 음성·영상 생성 기술을 통칭한다. 이 기술로 실제 인물이 녹음·녹화한 것과 비슷한 결과물을 만들 수 있다. 가령 특정 인물의 얼굴 사진을 수천 장 정도 프로그램에 넣으면, 영상에 찍힌 타인의 얼굴을 특정 인물 얼굴로 바꿔주는 방식이다. 가짜 음성도 같은 방식으로 제작할 수 있다.

8일 관련 업계 및 외신 보도 등에 따르면 지난 3월 사이버 범죄자가 영국의 한 에너지 회사 대표에게 전화해 22만 유로(한화 약 2억 8천924만 원)를 탈취하는 사건이 발생했다.

이는 독일 신용보험사 율러 헤르메스 그룹 SA의 고객사인 영국 에너지사가 딥페이크 기술을 이용한 범죄자에 사기를 당한 첫 사례다.

사이버 범죄자가 에너지사 대표에게 모기업 대표 목소리를 딥페이크로 위조해 전화를 걸어 22만 유로를 송금하라 속였던 것. 독일계 억양과 평소 말버릇까지 완벽하게 들렸던 모기업 대표 목소리는 가짜였다.

이를 몰랐던 에너지사 대표는 요청대로 22만 유로를 이체했고, 이 후, 해당 범죄자가 재차 돈을 요청했을 때야 비로소 사기라는 사실을 알아챘다고 한다. 독일이 아닌 오스트리아에서 걸려온 전화였던 것.

다행히 에너지사는 피해금액을 보상받았지만, 범죄자에게 송금했던 22만 유로는 찾을 길이 없었다. 헝가리에서 멕시코, 그리고 이후 다른 곳으로 송금된 게 확인됐기 때문.

이와 관련 우리나라도 안전지대가 아니라는 지적이 나온다. 아직 밝혀진 AI 사기 사례는 없지만 보이스 피싱 피해 건수가 해마다 늘고 피해액 또한 높아지는 추세다.

경찰청에 따르면 국내 보이스피싱 피해 발생 건수는 2016년 1만7천40건, 2017년 2만4천259건, 지난해 3만4천132건을 기록했다. 피해액은 각각 1천468억 원, 2천470억 원, 4천40억원이었다.

올 6월까지는 1만9천828 보이스피싱 피해가 발생, 올해 발생 건수가 4만 건을 넘을 것이라는 전망도 나왔다.

이제는 사람 뿐 아니라 기술로 만들어진 가짜 목소리까지 경계해야 해야 한다는 목소리도 나온다. 다만 그렇다고 이를 우려해 AI 기술 활용 등이 위축돼서는 안된다는 지적도 있다.

황보현 솔트룩스 최고창작책임자(CCO)는 "인류의 기술 사용이 긍정적 혹은 부정적 결과를 가져오는 것은 자연스럽다"며 "기술이 잘못 쓰일 수 있다고 해서 이걸 막는 것은 불가능하며, 인류를 위해서도 좋지 않다"고 말했다.

이어 "최근 AI 딥페이크를 잡아내는 기술이 나온 것처럼 기술 발전은 지향돼야 한다"고 덧붙였다.