[ICTF2023] 이활석 업스테이지 CTO "챗GPT 단점 극복한 넥스트GPT...핵심은 데이터와 프롬프트"

[아이뉴스24 박진영 기자] "챗GPT가 잘하는 분야와 다양한 기술들을 적절히 연계한 AI 서비스가 넥스트 GPT 시대의 모습이다. 이때 중요한 것은 데이터와 프롬프트가 될 것이다."

이활석 업스테이지 최고기술책임자(CTO)는 24일 서울 을지로 페럼타워 페럼홀에서 열린 '아이뉴스24 ICT포럼(ICTF) 2023'에 참석해 '초거대 AI 시대: 챗GPT와 미래세상'이라는 주제의 강연에서 이같이 말했다.

이활석 CTO는 "챗GPT는 회의 업무 요약이나 번역, 혹은 최신정보는 아니지만 일반적 정보가 담긴 문장을 그럴듯하게 잘 만들어준다는 분명한 장점이 있다"면서, "다만 정보의 최신성이 떨어지고 데이터 기반으로 확률적으로 말을 만들어내기 때문에 사실 관계와 상관없이 그럴듯한 말을 지어내는 '할루시네이션(환각)' 현상이 챗GPT의 단점"이라고 지적했다.

이어 "텍스트 기반의 채팅을 잘하는 챗GPT 기술과 이미지 생성이나 OCR(광학문자인식) 등 기존 기술들과의 결합을 통해 새로운 서비스를 만드는게 AI시대 중요한 흐름이 될 것"이라고 덧붙였다.

◆넥스트GPT의 핵심은 '데이터·프롬프트'

그는 넥스트GPT의 핵심으로 데이터·프롬프트를 들었다. 데이터와 관련해 그는 ▲텍스트 이외에 이미지, 음성신호 등 학습데이터로 쓰는 멀티모달 ▲컴퓨터가 만든 합성데이터 ▲도메일 특화 데이터 등이 중요해질 것이라고 강조했다.

이 CTO는 "챗GPT의 주요 학습데이터인 텍스트는 물론, 이미지, 음성신호 등 다양한 형태의 데이터를 학습시킴으로써 기존에 챗GPT가 하지 못했던 업무도 가능해질 것"이라면서 "또 앞으로 '합성데이터'의 활용 비중이 높아지면서 개발 효율도 높아질 것이라고 설명했다.

이어 "그는 "인터넷에는 보험 상품 및 약관 등에 대한 데이터가 적기 때문에 금융과 같은 특정분야의 데이터의 경우 따로 학습시킬 필요가 있다"면서 "도메인별 데이터를 챗GPT에 다시 학습시켜 산업 특화 맞춤형 모델을 통해 성능을 향상시킬 수 있다"고 밝혔다.

또 챗GPT의 성능이 무궁무진한 만큼 이를 잘 활용할 수 있도록 프롬프트의 역할도 중요해졌다. 프롬프트는 LLM에 적절한 질문과 답변을 통해 사용자가 원하는 결과를 도출해 나가는 작업을 의미한다.

이 CTO는 프롬프트 최적화를 위한 여러 방식을 소개했다. 그는 "프롬프트 자체를 변경하는 튜닝 작업도 있지만 예시를 들 때 생각의 흐름을 같이 넣어 답변시 생각의 흐름도 출력하도록 하는 방법도 있다"면서 "또는 정답을 얻기 위해 필요한 정보를 우선 넣은 후 이 정보를 같이 프롬프트로 넣어 정답을 얻는 방법도 있다"고 설명했다.

◆"초거대AI 모델 발전해도 빈구멍 '여전'…'프롬프트 매니저' 역할 중요"

그는 초거대AI 모델이 발전하더라도 한계점이 존재할 것이고 이는 챗GPT에 다양한 기술과 결합을 통해 해결할 수 있다고 단언했다.

이 CTO는 "챗GPT 기술이 아무리 발전해도 빈 구멍은 여전할 것인데, API(앱프로그래밍인터페이스) 연동, 플러그인 생태계 등을 통해 챗GPT의 단점을 빠르게 극복해나갈 것"이라면서 "이를 서비스화 하는 과정에서 프롬프트 매니저라는 역할이 중요해지고 있다"고 밝혔다.

프롬프트 매니저는 고객에 수요에 맞는 최적의 AI서비스를 만들기 위해 챗GPT와 어떤 모델을 붙일지 결정하는 역할을 담당한다. 그는 "최근 AI업계에서는 프롬프트 매니저가 각광받고 있다"면서 "고품질 AI서비스를 만들어낼 수 있도록, 지휘자 역할을 하는 또다른 인공지능이라 볼 수 있다"고 설명했다.

또 대화 기반의 인터페이스를 통해 다양한 AI 서비스가 나올 것으로 기대된다고 강조했다. 업스테이지가 2달 전 출시한 카카오 기반 AI챗봇 애스크업(Ask Up)을 대표적 사례로 설명했다.

그는 "챗GPT 열풍으로 채팅이라는 인터페이스가 뜨기 시작했고, 향후 모든 서비스가 채팅 인터페이스로 연결될 수도 있을 것"이라면서 "업스테이지는 애스크업을 통해 사용자들의 수요와 사용 패턴을 분석하기 위해 다양한 실험을 진행 중"이라고 밝혔다. 이어 그는 "애스크업에는 챗GPT는 물론 OCR 기술, 최신정보 기반의 검색 서비스, 이미지 생성 기술 등을 붙여 서비스하고 있다"고 전했다.