[KCSF2024 개막] 구글 클라우드 "성공적인 AI 도입, '데이터 피드백 루프' 중요"

[아이뉴스24 정진성 기자] "AI를 활용할 때 단발적인 형태로 서비스를 오픈하고 진전이 없다면 사용자들이 찾아오지 않는다. '데이터 피드백 루프'가 최적화된 곳에 AI를 통해 새로운 정보를 지속 전달해야 생산성을 향상시킬 수 있다."

오충현 구글 클라우드 AI 스페셜리스트팀 매니저는 26일 아이뉴스24가 서울 영등포구 FKI타워 컨퍼런스센터에서 개최한 제2회 대한민국 클라우드·SaaS 포럼(KCSF2024) '클라우드와 AI의 미래: 혁신과 가능성'에서 이같이 밝혔다.

오 매니저는 '파일럿을 넘어 실제 서비스에 적용하는 생성형 AI 전략'을 주제로 강연대에 올랐다. 그는 "여러 기업들이 생성형 AI 활용에 있어 아직 파일럿 단계에서 벗어나지 못하고 있다"며 그 문제점과 극복 방안에 대해 설명하고 또 구글이 도움을 줄 수 있다고도 강조했다.

◇ 생성형 AI의 현주소를 파악해야…"생성형 AI 도입 기업 중 60%가 파일럿 단계"

오충현 매니저는 "생성형 AI가 화두에 오르면서 이를 적용함에 있어 상당히 많은 기대치를 가지고 있다"며 "생성형 AI는 아직 일반인공지능(AGI)의 최고 수준에 비하면 한참 뒤떨어져 있다. 기업에서 비즈니스 사용 사례를 실현하려면 AGI 수준을 더 잘 이해하는 것이 중요하다"고 말했다.

오 매니저의 설명에 따르면 '챗GPT', '제미나이(Gemini)' 등 일반적인 AI 용도는 레벨 1수준의 '미숙한 사람과 같거나 조금 더 나은 상태'에 머물러 있다. 반면 '알파제로(AlphaZero)', '스톡피시(StockFish)' 등 특정 업무 AI의 용도는 현재 레벨5의 '슈퍼 휴먼 단계'까지 올라있는 상태다.

'알파제로'는 과거 이세돌 9단과 맞붙었던 '알파고'와 비슷한 형태로, 계보를 학습시켰던 '알파고'와는 달리 바둑의 규칙만 습득한 채 서로 간의 대국을 통해 학습한 시스템이다.

오 매니저는 "앞서 고객들은 딥러닝 AI 등의 붐이 일어났을 때 이를 통해 모든 걸 해결할 수 있겠다고 생각하고 많이 접근했지만 해결하지 못한 것들이 많았다"며 "이후 생성형 AI가 나오면서 다시 이를 해결하려 했지만 다시 난관에 부딪힌 상태"라고 말했다.

오 매니저에 따르면 현재 10% 미만의 기업이 AI를 대규모로 도입했지만, 60% 이상이 파일럿 단계에 머물러 있다. 이에 대해 그는 "AI 관련 스킬을 가진 인력의 부족한 것이 첫 번째, 이에 더해 민감 정보 공유 사례로 인한 차단 등 보안 문제가 존재한다"며 "마지막으로 기업이 최근 신경쓰고 있는 탄소 배출 등의 지속가능성 문제가 있다"고 지적했다.

◇ 잠재적 고객을 먼저 이해해야…"데이터 피드백 루프 통한 선순환 구조 이뤄야"

오 매니저는 "기업이 AI 도입에서 성공하기 위해서는 단발적인 적용이 아닌 지속적인 데이터 피드백을 통한 AI 모델 개선이 필요하다"고 강조했다. 잠재적인 고객을 이해하고 '데이터 피드백 루프'가 최적화된 곳에 AI를 배포해 새로운 정보를 지속적으로 전달 할 수 있어야 한다는 이야기다.

'데이터 피드백 루프'는 데이터를 수집하고 분석하는 것을 통해 통찰력을 추출하고, 이렇게 얻은 인사이트를 실제로 실행, 구현한 후 평가하는 프로세스를 뜻한다. 예컨대 고객의 성향을 파악하고 이를 다시금 정보전달을 위한 AI로 구현해야한다는 설명이다.

그는 "단순히 어떤 기능을 제공하기보다는 잠재적인 고객들이 어떤지 파악해야하고, 기업이라면 내부 직원의 성향을 파악하는 것이 중요하다"며 "즉각적인 반응에 민감한 세대들에 맞춰서는 잘 알고 있고, 관심이 있는 정보를 제공해야 꾸준한 생산성을 유지할 수 있다"고 말했다.

단순히 LLM(대규모 언어 모델, 구글의 제미나이 등)으로 가능한 요약, 생산이 아닌 비즈니스적 고찰이 필요하다고도 강조했다. 오 매니저는 "비즈니스 고찰을 통한 선순환 가능한 '데이터 피드백 루프'를 구축하는 것이 상당히 중요하다"며 "특화된 고유 데이터를 통해 상품 워크플로우를 사용했을 때, 이 효과는 극대화가 될 것"이라고 말했다.

이날 그는 △모바일 뱅킹 앱 △삼성 갤럭시 AI △당근 마켓 등 성공적인 생성형 AI 도입 사례를 소개하기도 했다. 대표적으로 뱅킹 앱을 통해 현금 흐름을 보여주며 고객에 맞는 포트폴리오를 보여주거나, 갤럭시 스마트폰을 통해 '이미지 에디팅', '기사 요약' 등 고객이 원하는 기능을 탑재하는 형태다.

마지막으로 오 매니저는 "AI 에이전트를 만들 때 하나의 에이전트에서 모든 걸 다 처리하려고 하면 양도 많고 복잡해지기에 관리가 잘되지 않는다"며 "마이크로, 지능, 통합 등 영역별로 구분한 레이어를 두고 관리한다면 서비스를 구축한 데 도움이 될 것"이라고 말했다.

그러면서 구글 측이 아이디어부터 운영까지 도움을 줄 수 있다고도 설명했다. 그는 "4~6주의 기간 동안 시스템 구축에 무상으로 도움을 드리고 있고, 운영 전환에 대해서도 제공을 하고 있다"고 설명했다.