네이버 "대화형 검색 'AI탭' 누구나 써도 척척⋯답변까지 평균 10초" [IT돋보기]

[아이뉴스24 정유림 기자] "인공지능(AI) 기반 대화형 검색 'AI탭'에 특화한 경량 모델을 적용해 응답 속도를 2배 이상 개선했다. 초창기에는 첫 답변이 나갈 때까지 20~30초가 소요됐다면 이제는 평균적으로 10초가 걸리는 속도로, 앞으로도 성능을 꾸준히 고도화할 것이다"

2일 서울 서초구 네이버 D2스타트업팩토리(D2SF) 강남에서 '탐색에서 실행까지, 차세대 AI 기술이 만드는 네이버 AI 검색'을 주제로 진행된 간담회에서 한승균 네이버 AI 검색 서비스 리더는 AI탭에 적용된 기술과 관련 성과를 소개하며 이같이 밝혔다.

"AI 대화형 검색, 대규모 서비스로 확대⋯맞춤형 경량 모델로 효율화"

네이버는 이용자의 검색 의도와 맥락을 파악해 맞춤형 답변을 제공하고 쇼핑·장소 탐색, 예약 등을 돕는 AI탭 서비스를 최근 정식 출시했다. 네이버 첫 화면 검색창에 배치된 별도의 버튼을 누르면 새 창(탭)이 열리고 AI와의 대화 모드를 통해 이용할 수 있는 형태다.

앞서 지난 4월 말 첫선을 보여 멤버십 구독자를 대상으로 시범 운영했던 것에서 이제는 누구나 써볼 수 있다. 한 리더는 "정식 출시 초기지만 시범 운영 때와 비교하면 이용자는 3~4배 이상 증가한 것으로 파악하고 있다"고 했다.

네이버의 데이터와 서비스 시나리오, 이용자 피드백을 반영해 AI 검색 서비스를 위한 경량 모델을 개발해 적용했다. 대규모 이용자를 대상으로 서비스를 제공하게 된 가운데, 답변 속도 개선 등도 이뤄낸 건 주요 기술이 뒷받침했기에 가능했다는 설명이다.

한 리더는 "규모가 큰 거대언어모델(LLM)이 모든 작업을 처리하는 대신, 역할별로 특화된 소규모 언어모델(SLM)을 조합해 운영 비용을 줄이면서 응답 속도와 품질을 높였다"고 강조했다. 경량 모델을 적용함으로써 일부 컴포넌트의 장비 운영 비용은 기존 대비 최대 3배 절감하며 비용 측면에서도 효율성을 꾀했다는 것이 한 리더의 설명이다.

"그럴듯하게 답변하는 환각 현상도 개선⋯멀티모달 기술 고도화 지속"

사실이 아님에도 AI가 내용을 그럴듯하게 지어내 답변하는 환각(할루시네이션) 현상도 줄였다. 이기창 네이버클라우드 하이퍼스케일 AI모델 이사는 "AI가 모호한 요청을 임의로 해석하지 않고 추가 질문을 통해 이용자의 의도를 명확하게 확인하는 명료성 강화학습(Clarify RL) 기술로 환각 현상을 개선했다"고 설명했다.

이 이사는 AI 평가 전문 기관인 아티피셜 애널리시스의 AA-옴니사이언스(Omniscience) 벤치마크 기준으로 AI탭에 적용한 특화 모델의 환각 비율이 기존 모델(하이퍼클로바X) 대비 최대 30%포인트(p) 감소한 검증 결과도 제시했다. 이 벤치마크는 40여 개 주제·6개 도메인의 6000개 문항을 통해 AI 모델의 지식 정확도와 환각률을 측정한다. 정답률 외에도 모르는 질문에 대해 거부하거나 모른다고 인정하는 답변 능력까지 평가하는 것이 특징이다.

이 이사는 "AI가 불완전한 질문에 성급하게 추측하는 것보다 필요한 정보를 되묻는 방식으로 이용자에게 좀 더 신뢰할 수 있는 AI 경험을 제공할 것으로 기대한다"고 했다.

이어 "AI탭에 적용된 모델은 학습 데이터 구축부터 모델 설계, 강화학습까지 전 과정을 네이버 서비스에 맞춰 최적화했다"며 "이용자가 검색을 비롯해 구매, 예약 등 실제 서비스 과정에서 가장 정확하고 효율적으로 작동하는 모델을 만드는 것이 궁극적인 목표"라고 했다.

AI가 문자 뿐만 아니라 이미지, 영상 등 다양한 형태의 정보를 함께 이해하고 활용할 수 있게 하는 기술도 꾸준히 고도화한다. AI가 이용자와 질문·답변을 여러 번 주고받는 환경에서도 같은 이미지를 반복 처리하지 않게 해 효율을 높인 '다중 턴 대조 학습(MuCo)' 기술은 세계 최고 권위의 컴퓨터 비전·AI 국제 학술대회 중 하나인 CVPR에서 성과를 인정받았다.

윤상두 네이버 퓨처AI센터 리더는 "최근 세계적인 기술 경쟁 흐름을 보면 이제는 AI가 단순히 문자 기반의 질문에 대답하는 수준을 넘어서 '보고, 이해하고, 실행하는' 방향으로 진화하고 있다"며 "지난 10년간 축적한 스마트렌즈(스마트폰 카메라로 촬영한 사진을 올리면 관련 정보를 검색) 기반의 시각 검색 기술과 선행 연구를 바탕으로 이용자가 더 자연스럽게 탐색하고 실행까지 이어서 할 수 있는 환경을 만들어 갈 것"이라고 했다.