[정순채 칼럼] 딥페이크 범죄와 AI 윤리 교육

 

딥페이크 불법 영상물로 초중고 학생들의 불안감이 높다. 지난해 12월 교육부가 발표한 ‘학교 딥페이크 불법 영상물 실태 및 청소년 인식조사’에 의하면 청소년 89.4%가 불법 영상물을 범죄로 인식하고 있다. 딥페이크(deepfake)는 딥러닝(Deep Learning)과 거짓(Fake)의 합성어로 딥러닝 기술을 이용한 인간 이미지 합성 기술이다.

지난해 딥페이크 성범죄자 80%는 10대로 나타났다. 딥페이크 성범죄로 불안감을 느낀 이유도 다양하다. ‘나도 모르게 피해자가 될 수 있어서’가 76.0%나 된다. ‘주변 사람이 가해자일 수 있어서’(45.4%), ‘피해 시 대처 방법을 몰라서’(29.7%) 순이다.

딥페이크는 사실(fact)이 아닌 것을 만들어 낼 수 있는 기술이다. 딥페이크는 생성형 AI 기술의 핵심을 사용하기 때문에 기술의 미래다. 원래 목적과 달리 오작동이나 문제가 발생해 생긴 병리적 현상이 아니다. 딥페이크 기술의 특징으로부터 자연스럽게 파생된 것이다.

최근 딥페이크 성범죄가 학교로 광범위하게 퍼져 문제이다. 정부는 딥페이크 대책을 쏟아내고 있다. 이는 부작용을 줄이는 방안일 뿐이다. 딥페이크를 잡아내는 기술은 불완전하고 부작용을 완전히 없앨 수는 없다. 딥페이크 범죄는 강력한 제재를 해야 한다. 텔레그램 등에서 딥페이크 영상을 만들어 유포하거나 참여자에게는 강한 처벌이 요구된다.

딥페이크 불법 영상물에 미온적으로 대응하면 큰 문제가 생길 수 있다. 미국은 딥페이크 불법 영상 등의 피해로 극단적 선택을 하는 10대가 1500여 명에 달한다. 이러한 비극을 막으려면 강력하고 빠른 대응책을 마련해야 한다. 딥페이크 문제를 교육으로 해결함도 한 방법이다.

다수가 장난삼아 딥페이크 영상을 제작했다고 한다. 이런 행위에는 큰 대가가 따른다는 것을 주지해야 한다. 디지털 환경의 특성상 한번 올린 영상물은 빠르게 전파된다. 전파된 영상물은 되돌릴 수 없다는 사실을 알아야 한다. 재미로 한 행동이 내 인생을 포함해 타인의 삶을 망가뜨릴 수 있다는 경각심이 필요하다.

인공지능(AI) 윤리는 AI의 바람직한 활용에 관한 다양한 생각과 규범을 조성한다. AI 윤리는 균형 잡힌 의견을 도출해 제도화해야 한다. AI 윤리에 관한 사회 구성원의 생각이 각기 달라 사회적 합의가................[정순채 칼럼] 딥페이크 범죄와 AI 윤리 교육 전문 SDG뉴스(http://www.sdgnews.net)