'총선 모드' 네이버·카카오…딥페이크는 공동 대응 논의

[아이뉴스24 정유림 기자] 오는 4월 22대 국회의원 선거를 앞두고 네이버와 카카오가 총선 페이지 개설을 준비하고 있다. 인공지능(AI) 등 기술을 활용해 악의적으로 조작된 정보를 만들거나 유통할 수 있는 우려가 커지면서 관련 대응 방안을 모색하기 위해서다. 선거 기간 동안 허위 정보, 가짜뉴스 확산 방지를 위한 모니터링 강화 등을 추진한다.

29일 관련 업계에 따르면 네이버와 다음은 오는 3월 총선 페이지를 개설해 운영한다. 두 포털은 선거 관련 뉴스와 소식을 확인할 수 있는 전용 페이지를 마련하고 선거 기간 동안 지역 언론사 뉴스를 강화할 예정이다. 각 지역 유권자에게 더 밀접한 선거 정보를 제공하기 위한 취지다.

네이버는 뉴스혁신포럼 권고안에 따라 총선 페이지 내 '최신뉴스'에서 시·도 지역별로 기사를 구분해 노출할 예정이다. 지역 언론사 뉴스는 서울 이외의 부산, 대구, 인천 등 16개 시·도 110여 개 검색 제휴 지역 언론사가 대상이다. 또한 네이버 통합검색에서 지역 언론사의 기사를 보다 쉽게 확인할 수 있도록 '지역 언론사별' 검색 상세 옵션을 추가하기로 했다.

다음은 뉴스 콘텐츠 제휴를 맺지 않은 지역 언론사를 대상으로 총선 페이지 내 콘텐츠 제공에 참여할 매체들을 모집했다. 지역 언론사 뉴스를 강화하는 한편, 지역 언론사가 독자와 만나는 기회를 넓힐 수 있도록 한다는 취지다. 다음 관계자는 "참여를 원하는 언론사들로부터 신청을 받아 접수를 마쳤고 관련해서 결과는 다음주 중 알릴 예정"이라고 설명했다.

허위 정보 유포나 가짜뉴스 확산 방지에도 주력하고 있다. 뉴스 댓글 신고 기능을 제공해 온 네이버는 선거와 관련해 허위 정보가 포함된 댓글을 신고하려는 이용자에게 방법을 안내하고 있다. 유의 사항과 함께 네이버 고객센터에서 중앙선거관리위원회(선관위) 선거 위반 행위 신고 채널로 이동할 수 있도록 했다.

네이버 측은 "정책을 위반하는 게시물을 감지해 조치하기 위한 모니터링 전담 부서를 운영하고 있다"며 "신규 어뷰징 패턴도 지속 분석하고 업데이트하며 모니터링을 강화하고 있다"고 설명했다.

카카오도 관련 방안들에 대해 검토하고 있다. 카카오 관계자는 "다음 뉴스 메인 페이지에 선관위의 허위정보 신고센터 배너를 노출하고 허위 정보나 법을 위반한 건에 대해서는 이용자가 조치를 취할 수 있도록 안내를 지원해 왔다"며 "이번 선거 때도 동일하게 운영하는 것을 검토 중"이라고 설명했다.

AI로 이미지나 동영상을 손쉽게 만들 수 있게 되면서 선거에 영향을 미칠 수 있는 콘텐츠, 일명 딥페이크(AI로 만든 영상·이미지 합성 조작물)를 악의적으로 만들어 유포하는 행위에 대한 우려도 커졌다. 이에 네이버와 카카오는 구글, 메타(구 페이스북) 등 업계와 논의를 이어왔으며 조만간 대응 방안을 발표할 예정이다.

각자 AI 사업을 추진 중인 네이버와 카카오는 자사 AI가 딥페이크 제작에 악용될 소지를 막는 차원에서 워터마크(꼬리표) 연구와 도입 검토 등을 진행하고 있다. 각자 정책 외에도 업계와 공동 대응을 모색하며 협력할 방침이다.

네이버와 카카오 등을 회원사로 둔 사단법인 한국인터넷기업협회 관계자는 "유권자를 현혹하는, 기만적인 AI 사용을 막기 위해 기업들이 협의체를 구성해 논의해 왔다"며 "선거에 영향을 미칠 수 있는 악의적인 딥페이크 콘텐츠에 대한 대응 방안은 빠른 시일 내, 되도록 다음주에 발표하는 것을 목표로 하고 있다"고 덧붙였다.