[아이뉴스24 정유림 기자] 네이버와 카카오가 딥페이크(AI로 만든 영상·이미지 합성 조작물)와의 전쟁에 나섰다. 자사 인공지능(AI) 서비스가 부적절한 콘텐츠 제작에 악용되지 않도록 하는 대응책을 도입하는 것이다. 딥페이크 제작을 요청하는 부적절한 질문에는 답하지 않거나 AI로 생성된 콘텐츠에 워터마크를 채택하는 식이다.
20일 네이버에 따르면 이 회사는 자사 AI 서비스 클로바X에서 음란성 콘텐츠나 얼굴 합성을 요청하는 경우 결과물(답변)을 제공하지 않도록 했다. 클로바X는 이용자가 질문하면 네이버의 AI가 적합한 답변을 제공하는 대화형 AI 서비스다.
네이버 관계자는 "클로바X에서 이미지 삭제나 변경이 가능한 편집 기능을 제공하게 되면서 부적절한 콘텐츠 생성을 요청하는 경우와 관련해 조치를 취하게 됐다"고 설명했다.
카카오의 AI 전문 자회사 카카오브레인은 자체 개발한 이미지 생성 AI 모델 '칼로'에 비가시성 워터마크 기술 도입을 검토하고 있다. 비가시성 워터마크란 일반 이용자에게는 워터마크가 보이지 않지만 기술적으로 AI를 활용해 만들어진 이미지임을 알 수 있게 하는 기술을 말한다.
카카오 관계자는 "AI가 만든 콘텐츠(이미지)의 출처나 진위 판단을 위한 워터마크 도입 논의가 이뤄지면서 카카오도 관련 연구를 진행해 왔다"며 "구체적인 일정은 미정이지만 최대한 빠르게 기술 도입을 하려고 한다"고 설명했다.
네이버와 카카오의 이같은 행보는 4월 치러지는 국회의원 총선거를 앞두고 딥페이크 게시물의 정치적 악용을 원천 차단하려는 조치로 풀이된다. 혁신적인 AI 기술을 도입하는 과정에서 자사의 AI가 엉뚱하게 악영향을 미칠 수 있다는 판단에 따라 대응책을 마련한 것이다.
선거일 90일 전부터 딥페이크를 활용한 선거 운동을 원천 금지하는 내용의 공직선거법 개정안이 지난해 말 국회에서 의결된 가운데 두 회사는 콘텐츠 모니터링도 강화하고 있다.
네이버는 정책을 위반하는 게시물을 감지해 조치하기 위한 모니터링 전담 부서를 운영하고 있으며 딥페이크와 같은 신규 어뷰징 패턴도 지속 분석하고 업데이트해 모니터링을 강화하고 있다고 밝혔다.
카카오 관계자는 "기존에도 다음카페, 티스토리 등에서 유통되는 유해 콘텐츠(불법 게시물 등)에 대해서는 모니터링해 왔고 딥페이크 역시 연장선상에서 모니터링 중"이라고 설명했다. 다만 "이용자 간에 사적인 대화가 이뤄지는 카카오톡의 경우 대화 내용이나 콘텐츠를 열람하지 않으며 신고가 들어온 건에 대해 사후 조치를 취하는 형태"라고 설명했다.
선거 허위 정보와 관련해서도 대책을 마련하고 있다. 네이버는 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능을 적용할 예정이다. 이달 중 네이버 고객센터에 별도 신고센터 영역을 만들어 선거관리위원회 채널로 이동할 수 있도록 연결한다. 카카오도 다음 뉴스 메인 페이지에 선거관리위원회의 허위 정보 신고센터 배너를 노출해 왔으며 이번 선거 때도 동일하게 운영하는 것을 검토 중이다.
/정유림 기자(2yclever@inews24.com)
--comment--
첫 번째 댓글을 작성해 보세요.
댓글 바로가기