"피싱 사이트 만들어줘"…해커들에게 악용되는 챗GPT

[아이뉴스24 김혜경 기자] 인공지능(AI) 챗봇 '챗GPT'가 인기를 끌고 있는 가운데 AI 기술 성숙도가 사이버 공격을 더욱 확대할 수 있다는 우려가 제기된다. 최근 일부 해커들이 챗GPT를 이용해 악성코드를 제작하는 등 벌써부터 징후가 나타나고 있어서다. 전문가들은 AI 성능이 고도화될수록 사이버 공격의 파괴력은 그만큼 더 커질 것이라면서 보안 대책을 당부했다.

10일 체크포인트 등 보안업계에 따르면 지난해 12월말 한 해킹포럼에 '챗GPT-멀웨어의 이점'이라는 글이 게재됐다. 멀웨어란 악성 소프트웨어로 악성코드를 뜻한다. 이 글을 올린 해커는 멀웨어 변종과 기법을 재현하기 위해 챗GPT를 실험하고 있다고 주장했다.

같은 달 또 다른 해커는 챗GPT에 명령해 악성 코드를 만드는데 성공한 것으로 알려졌다. 체크포인트는 "스크립트 일부 구문이 수정될 경우 코드가 랜섬웨어로 바뀌는 것으로 확인됐다"며 "초보 수준의 해커들에게 챗GPT를 악용할 수 있는 실제 예제를 보여주는 것"이라고 전했다.

체크포인트에 따르면 일부 해커들은 챗GPT를 이용한 사이버 블랙마켓 생성에도 관심을 보이고 있는 것으로 나타났다. 사이버공간에서 블랙마켓은 도난한 계정과 악성코드, 마약 등이 거래를 위해 암호화폐로 결제할 수 있는 플랫폼을 제공한다.

문종현 이스트시큐리티 이사는 "챗GPT가 피싱 사이트 제작에 악용되는 사례가 보고되고 있다"면서 "이런 악용을 막기 위해 오픈AI는 특정 용어를 차단하려 하지만 얼마든지 회피할 수 있어 대책이 필요하다"고 말했다. 챗GPT에 악성 코드 제작을 명령할 때 '피싱 사이트'라는 용어 대신 '로그인 페이지'라고 바꾸면 얼마든지 악성 코드 제작이 가능하다는 것이다.

문 이사는 "국내는 북한발 사이버 위협이 높다는 점에서 북한이 챗GPT 등 AI를 실제 사이버 공격에 활용할 가능성도 있으므로 다각적인 고민이 필요하다"며 "서비스 시행 초기에 사이버보안 문제를 인지하고 대책을 모색해야 할 것"이라고 전했다.