'챗GPT'를 둘러싼 창과 방패의 대결

[아이뉴스24 김혜경 기자] "챗GPT가 선풍적인 인기를 끌면서 멀웨어(악성 소프트웨어)를 제작하거나 피싱 도구로 이용하려는 시도가 늘고 있다. 이처럼 챗GPT를 악용할 것인지 혹은 이로운 방향으로 활용할 것인지 갈림길에 서 있는 상황이다."

지난 달 31일 일산 킨텍스에서 열린 '2023 세계보안엑스포'에서 참관객의 관심을 끈 곳의 공통점은 챗GPT였다.

행사장 한켠에 마련된 ‘해킹존’에는 챗GPT를 이용한 해킹 시연을 보기 위해 모여든 인파로 발 디딜 틈이 없었다. 공격자 입장에서 로그를 분석하고, 챗GPT가 생성한 코드를 이용해 사물인터넷(IoT)를 해킹하는 시연이 열렸다. 해킹을 시연한 노르마 연구원은 "챗GPT를 사이버 공격에 이용하는 것은 충분히 가능한 시나리오"라며 "악용이 아닌 활용을 고민해야 할 시점"이라고 전했다.

이달 챗GPT 연계 보안서비스를 공개할 예정인 이글루코퍼레이션의 전시 부스에서도 시연이 이뤄지고 있었다. 이글루코퍼레이션은 4월 중 '이글루XAI(가칭)' 시범 서비스를 공개하고 7월에 정식 출시할 예정이다. 이 서비스는 방어자 입장에서 챗GPT를 활용하는 형태다.

이글루XAI에는 '설명 가능한' AI 기술과 생성 AI 기술이 적용됐다. 보안 담당자는 서비스를 통해 AI 탐지모델의 판단 근거와 빅데이터 분석결과, 자연어 형태의 답변을 비교‧확인할 수 있다. 사용자가 페이로드(악성코드에서 핵심이 되는 부분)를 입력하면 AI 탐지모델이 공격 특징과 중요도 등을 분석한다. 웹사이트에 접속만 하면 이용할 수 있는 구독형 서비스라는 점도 특징이다.

이날 시연을 담당한 최우빈 이글루코퍼레이션 대리는 "분류형 AI 모델이 몇 %의 확률로 공격인지 정상 상태 인지를 예측하면 설명 가능한 AI 모델은 무엇을 근거로 이 같은 결과를 도출했는지 보안 담당자에게 보여준다"며 "좀 더 구체적인 설명이 필요할 경우 '더 자세히 물어보기' 버튼을 누르면 질문과 답변 형식으로도 정보를 얻을 수 있다"고 말했다.

자연어 형태로 정보를 제공받을 수 있다는 점이 기존에 제공했던 서비스와 다르다고 최 대리는 설명했다. 그는 "보안 담당자에 따라 판단과 해석 능력이 다를 수밖에 없는데 상대적으로 지식이 부족하더라도 탐지 결과를 이해할 수 있다는 것이 장점"이라고 전했다.

이달 공개하는 서비스에는 우선 5가지 질문이 탑재된다. 특정 공격이 어떤 취약점을 이용한 공격인지 등 상대적으로 쉬운 질문 3가지를 비롯해 중‧상 등급의 질문 2가지가 지원된다. 이 대리는 "질의를 어떻게 하는지 여부에 따라 AI의 답변이 달라지므로 최대한 원하는 답변을 이끌어내기 위해 질문을 내재화했다"고 설명했다.

실제 보안 업무에 도움이 될 수 있수록 특정 질문을 만들었고, 향후 질문 범위 등을 늘려간다는 계획이다. 비식별 처리를 한 것도 특징이다. 그는 "보안 데이터에는 민감한 정보가 많이 포함된다"며 "비식별 처리를 한 후 분석을 진행하는 작업이 필수"라고 했다.