딥페이크 성착취물 표적된 한국

인공지능(AI)을 악용해 지인이나 연예인, 정치인 등의 얼굴을 도용한 딥페이크(deepfake) 범죄가 사회적 관심사이다. 정보기술(IT) 업계에 따르면, 초·중·고 학생이나 연예인 등의 얼굴 사진과 음란물을 합성한 딥페이크 성착취물이 텔레그램에서 대거 유포되고 있다. 딥페이크는 딥 러닝(deep learning)과 가짜(fake)의 합성어이다.

여성가족부 산하 한국여성인권진흥원의 최근 자료가 놀랍다. 올 1월 1일~8월 25일까지 디지털성범죄피해자지원센터로부터 딥페이크 피해 지원을 요청한 781명 중 288명(36.9%)은 10대 이하였다. 2022년 전체 212건 중 64건이 10대 이하에 비교하면 3.7배나 급증했다.

전 세계 딥페이크 성착취물은 1년 새 464%로 급증했다. 전체 피해자 중 53%가 한국인이다. 최다 표적이 된 상위 10명 중 8명이 한국인 가수로 나타났다. 1위 한국, 2위 미국, 3위 일본, 4위 영국. 5위 중국 순이다. 한국은 ‘딥페이크 성착취물 표적국’이라는 오명이 붙었다.

미국 사이버 보안업체 ‘시큐리티 히어로’ 조사 결과 한국은 디페이크 성착취물에 가장 취약한 것으로 나타났다. 지난 7~8월 딥페이크 성착취물 사이트 10곳과 동영상 공유 플랫폼의 딥페이크 채널 85곳, 9만 5820건을 분석했다. 그 결과 딥페이크 영상물 98%가 성착취물로 나타났다.

2022년 3725건에서 2023년 2만1019건으로 464%나 급증했다. 성착취물 피해자 99%는 여성이고 이 중 94%는 연예계 종사자로 나타났다.

가장 큰 피해를 본 가수는 디페이크 성착취물 1595건에 등장하여 조회 수 561만 회를 기록했다.

외신도 촉각을 세우고 있다. 영국의 BBC는 N번방·몰카 등 ‘디지털성범죄 흑역사 있어’라는 제하로 딥페이크와 비교 보도했다. 미국의 윌스트리트저널(WSJ)은 ‘한국, 전 세계적 문제의 진앙지’라는 제하에 문제점을 지적했다.

딥페이크 기술은 기존 합성 기술보다 고도화돼 전문지식 없이도 실제와 구분하기 어려운 음성·사진·영상 등을 생성할 수 있어 피해 규모가 더욱 크다. 정부는 딥페이크 등 허위 영상물 소지·구입·시청 행위를 처벌하는 규정을 신설하고 딥페이크 물 제작·유통에 대한 처벌 기준을 강화하는 방향으로 법률을 개정할 계획이다.

영상물 소지·구입·시청 행위에 대한 처벌은 현행법상 딥페이크 불법 음란물을 ‘반포 목적’으로 제작된 것으로 규정하는 맹점을 보완할 것으로 기대된다. 내년 도입되는 AI 디지털 교과서, 학생의 PC나 태블릿 등에 AI 딥페이크 방지 모니터링 서비스를 설치, 딥페이크 물 생성 시 자동 삭제하는 방식을 구상 중................................딥페이크 성착취물 표적된 한국 출처 : SDG뉴스(http://www.sdgnews.net)