청소년 딥페이크 범죄 예방 위한 주요국의 정책

[사진-'팀 데이터스택'이 제작한 딥페이크 피해학교 지도 화면. 출처-딥페이크맵 누리집 갈무리]

AI를 활용한 범죄와 관련하여 가해자의 나이가 낮아지고 있다. 주요국에서는 딥페이크 범죄가 10대 청소년들을 중심으로 확산하자 처벌을 강화하면서도 예방에 중점을 두어 교육을 확대하고 있다.

 

경찰청 자료에 따르면 올해 9월 기준 검거된 딥페이크 성범죄 피의자 318명 중 10대는 251명에 이른다. 이 가운데 만 14세 미만 소년범인 촉법소년은 63명에 달했다. 그다음이 20대(57명)이며, 30대(9명) 순이다. 이에 청소년에게  미디어 리터러시 교육을 강화하고 정보윤리 강좌를 실시할 필요가 있다는 목소리가 나온다. 

 

미국도 우리나라처럼 학교 현장에서 AI 활용 범죄가 증가하고 있다. 지난 8월 펜실베니아 주에 있는 한 고등학교에서는 학생이 휴대전화의 인공지능 앱을 통해 학교에서 스포츠를 하는 여학생을 대상으로 가짜 나체 사진을 수백 장 만든 딥페이크 범죄가 발생했다. 이에 미국은 처벌을 강화하는 한편 예방 교육도 확대하고 있다. 

 

미국 상원은 최근 「명시적 위조 이미지 및 비합의 편집 중단법(DEFIANCE Act)」을 통과시켰다. 이는 비합의적 성적 딥페이크 피해자가 최대 25만 달러(최대 한화 3억 4600만 원)의 손해배상을 청구하고 콘텐츠를 삭제하라는 법원 명령을 요청할 수 있도록 하는 근거가 된다. 

 

무엇보다 피해자가 학생일 경우 학생의 교육 활동에, 그리고 교직원일 경우 관련 경력에 피해가 가지 않도록 적절한 적법 절차 및 보호 절차를 가장 중요시 하고 있다.

 

미국 교육부는 딥페이크 예방 교육이 디지털 리터러시 교육의 일환으로 초등학교부터 나이에 적합한 방식으로 이루어져야 한다는 것을 강조하고 있다. 또한 학생에게 ▲딥페이크란 무엇인가 ▲딥페이크가 어떠한 피해를 초래하는가 ▲딥페이크를 만들고 공유하는 것에 따르는 결과 ▲딥페이크 사건을 보거나 들었을 때 누구를 찾아가야 하느냐는 주제를 중심으로 디지털 세계 및 관련 기술에 접근하는 것에 대한 주의사항을 가르치는 시스템을 갖춰가고 있다.

 

일본은 생성형 AI의 급속한 발전과 보급이 청소년의 범죄에 대한 인식을 낮추고 무분별한 범죄 행위로 이어진다고 분석한다. 이에 어린 학생이 인터넷이나 AI를 활용한 범죄의 피해자, 또는 가해자가 되지 않도록 하기 위해 먼저 학교, 가정, 지역사회에서의 교육을 우선시하고 있다. 

 

일본 문부과학성은 경찰청과 공동으로 구체적인 범죄피해사례와 범죄수법을 담은 리플릿을 작성하여 웹사이트에 공개하였으며, 교육위원회와 연계하여 학생과 학부모에게 알리고 각 도도부현 경찰의 홍보와 의식 개선에 활용하도록 하였다. 총무성은 학교로 출장강연을 나가거나 정보통신분야 기업이나 단체와 협력하여 전국에서 강좌를 개최하는 등 인터넷의 적절한 사용에 관한 의식개선 활동을 시행하고 있다. 

 

학교나 교육위원회 등이 강좌 신청을 하면 전기통신사업자, 통신기기업자, 공익법인, 총무성 등의 인재를 강사로 파견하여 학생, 학부모, 교직원 등을 대상으로 강좌를 실시한다. 강좌는 초등학교 3, 4학년, 초등학교 5학년에서 중학교 1학년, 중학교 2학년에서 고등학생까지, 그리고 학부모와 교직원 그룹으로 나누어지며 내용은 인터넷 의존, 인터넷 따돌림, 개인정보 관리, 인터넷 사기, 저작권, 초상권 등 7가지 항목에 대한 주의점을 다루고 있다. 허위정보에 대한 강좌는 VOD로 제공하고 있다. 

 

지난 9월엔 ‘제6차 청소년인터넷환경정비기본계획’을 통해 가정에서도 청소년의 의식개선 활동을 돕는 프로그램이 추진되고 있다. 프로그램은 학부모의 의식을 개선해 가정에서 부모가 자녀와 함께 인터넷 사용규칙을 만들어 적절히 관리하도록 하고, 학교와 지역사회에서도 청소년과 학부모를 대상으로 인터넷의 안전한 이용을 위한 교육을 추진한다.

 

독일은 딥페이크 사진 및 동영상을 구별해내기 위한 다양한 교육 활동이 예방활동의 주를 이루고 있다. 

 

바이에른 주 교육부 산하 기관인 바이에른 주 정치교육 센터는 ‘딥페이크와 진실의 대결? 딥페이크 기술의 기회와 위험’이라는 주제로 교사가 수업에서 활용할 수 있는 수업 자료를 제공한다. 이 자료엔 ▲딥페이크란 무엇이며, 어떻게 제작되는가? ▲가능한 사용 시나리오와 남용 사례는 무엇인가? ▲가짜 영상을 어떻게 식별할 수 있으며, 기자는 어떤 방법을 사용하는가? ▲가짜가 어디서 시작되며, 언제 가짜가 문제가 되는가? 에 대한 내용이 담겨 있다.

 

유호경 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)