네이버에 '딥페이크' 검색하면 "유의하세요"…안내 문구

[아이뉴스24 정유림 기자] 네이버는 오는 4월 국회의원 총선거를 앞두고 딥페이크(AI로 만든 영상·이미지 합성 조작물)로 인해 발생할 수 있는 문제에 대한 방지책을 28일 발표했다. 네이버 검색창에 '딥페이크' 관련 검색어를 입력할 경우 기술 활용에 대한 주의를 당부하는 문구를 제공한다.

네이버 측은 "딥페이크를 부적절하게 사용하거나 관련 정보를 찾고자 하는 의도가 포함된 검색어들을 대상으로 주의를 당부하는 문구를 제공한다"며 "정보를 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있도록 돕기 위함"이라고 설명했다. 검색을 통해 관련 정보나 콘텐츠가 유통되지 않도록 모니터링도 강화한다.

허위 정보 확산 방지에도 주력한다. 인공지능(AI) 서비스에서 선거와 관련한 주의 문구를 제공한다. 선거 기간 동안 웹사이트 하단에 "선거 정보는 대화 시점에 따라 변동될 수 있으니 선거관리위원회의 공식 자료 또는 네이버 통합검색 결과를 확인하세요"라는 문구를 띄운다.

선거와 관련한 정보 요청이나 예측 등을 위해 AI 서비스를 사용할 경우 답변을 통해서도 안내한다. 예를 들어 네이버의 대화형 AI 서비스 '클로바X'에 선거에서 어떤 정당이 승리할지, 예측에 관한 질문을 하면 네이버의 AI가 "저는 AI 언어 모델로서 해당 질문에 답변을 드릴 수 없습니다. 제한된 정보와 경험으로 미래를 예측하는 것은 불가능하기 때문입니다"와 같이 답변을 제공한다.

블로그, 카페 등에서 동영상 등을 이용한 게시물을 작성할 때 딥페이크 관련 안내 문구를 제공해 이용자가 관련 내용을 확인하고 주의할 수 있도록 조치했다.

뉴스 서비스에서도 AI가 자동으로 작성한 기사를 이용자가 인지할 수 있도록 했다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에 '이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성되었습니다.'라는 문구를 보여주고 있다.

이밖에 선거 기간 동안 선거와 관련된 허위 정보를 신고할 수 있도록 네이버 신고센터 메인 페이지에 '선거 관련 허위 정보 신고' 채널을 개설했다. 네이버 관계자는 "선거에 영향을 줄 수 있는 허위 정보의 신고가 원활하게 진행될 수 있도록 신고 방법 등 관련 정보를 제공할 예정"이라고 설명했다.