딥페이크 확산, 업계에도 불똥

네이버·카카오 "허위 영상물 법적 처벌 대상" 엄중 경고네이버, 24시간 음란물 필터링 ‘클로바그린아이’ 가동카카오는 허위 영상물 배포 시 카톡 서비스 영구 제한

[뉴스토마토 오세은 기자] 인공지능(AI)을 활용한 딥페이크(Deepfake·이미지 합성 기술)의 고도화 속 음란물 유포 등 피해가 늘면서 네이버(NAVER(035420)), 카카오(035720) 발등에도 불이 떨어졌습니다. 양사 모두 딥페이크에 대한 엄중 경고에 나서는 한편 기술적으로 이를 차단하기 위한 노력을 강화하고 있습니다.

 

29일 교육부·경찰청 등에 따르면 딥페이크 신고 접수는 지속해 증가하고 있습니다. 디지털성범죄피해자지원센터에 접수된 딥페이크 피해 지원 건수는 2018년 68건에서 올해 8월 25일 기준 781건으로 11배 넘게 급증했습니다. 또 지난 1~7월 딥페이크 성범죄 신고는 총 297건이 접수됐고, 입건된 피의자 178명 중 10대는 131명으로 73.6%를 차지했습니다. 또 전국 초·중·고에서 딥페이크 피해 신고는 올 들어 196건이 접수됐습니다. 

 

이처럼 최근 딥페이크에 대한 피해 사례가 크게 증가하자 네이버와 카카오는 ‘딥페이크’ 검색에 제한을 두는 동시에 허위 영상물 배포 시 법적으로 처벌을 받을 수 있다는 경고 메시지를 띄우며 딥페이크 침투 원천 차단에 나섰습니다.

 

(사진=딥브레인AI/연합)

 

구체적으로 네이버는 음란물을 24시간 필터링하는 ‘클로바그린아이’ 시스템을 가동하고 있습니다. 회사가 지난 2022년 출시한 ‘클로바그린아이’는 수백만 장의 이미지를 학습해 부적절한 이미지나 동영상을 AI가 감지하고 실시간으로 검색 노출을 차단하는 시스템입니다. 회사 측에 따르면 해당 시스템의 적중률은 99.5% 수준입니다.

 

또 전날 네이버는 고객센터를 통해 “이용자의 안전과 개인정보 보호를 최우선으로 생각한다”며 “딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견하면 아래의 신고 채널을 통해 접수해 달라”고 공지했습니다.

 

카카오는 다음과 카카오톡에서 딥페이크 유통에 대한 모니터링을 진행하고 있으며, 고객센터 공지사항에도 디지털 성범죄 피해 신고 채널을 안내하고 있습니다. 카카오는 “허위 영상물을 제작하거나 유포하는 행위는 법적 규제 대상에 해당하며 개인의 명예 훼손, 사생활 침해, 개인정보 보호법 위반 등 관련 법적 처벌을 받을 수 있다”고 경고했습니다. 또한, 카카오톡의 경우 허위영상물 배포 및 제공 행위에 대해서는 카카오톡 전체 서비스에 대한 영구 제한 정책을 시행하고 있습니다.

 

다만 이 같은 정책은 사후조치인 만큼 업계 일각에선 유해한 이미지일 경우 처음부터 업로드를 제한하는 것도 고려해야 한다는 의견이 나오는데요. 하지만 현재 주된 유통 창구로 지목되는 텔레그램의 경우 국내 규제로부터 벗어나 있는 만큼 이 같은 방법으로도 딥페이크를 막는 데는 한계가 있습니다.

 

업계 관계자는 “유해한 이미지가 업로드 되지 않게 원천 차단하는 것이 딥페이크를 최소한으로 막을 수 있는 하나의 방법이 될 수도 있다”면서도 “다만 플랫폼이 아닌 텔레그램 등을 통해 허위 음란물 유포 차단 방법은 미흡한 상황이다. AI 개발로 너무 손쉽게 딥페이크 생성이 가능하다는 점도 우려스럽다”고 전했습니다.

 

 

(사진=네이버 고객센터 갈무리)

 

 

오세은 기자 [e-mail]

 

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.