IT, 암호화폐 분야 딥페이크 피해 가장 커...대책은?

= 디지털공론장 누리집

 

[이코리아] 딥페이크를 활용한 가짜뉴스의 부정적 영향에 대한 우려가 커지고 있으며, 확산을 막기 위한 법제도 정립이 필요하다는 조사결과가 나왔다. 과학기술정보통신부가 9일 발표한 ‘딥페이크 가짜뉴스 대응’ 대국민 설문조사 결과에 따르면, 응답자의 94.5%는 딥페이크 가짜뉴스가 심각한 영향을 미친다고 답했으며, 41.9%는 이를 판별할 수 없다고 밝혔다.

 

과기정통부가 10월부터 11월까지 진행한 설문조사에는 597명이 참여했다. 조사 결과에 따르면, 응답자 39%는 딥페이크 가짜뉴스를 접해본 경험이 있으며, 딥페이크의 가장 큰 문제로 '인격적 피해(48.2%)'를 지적했다. 또한, 딥페이크 확산의 원인으로는 '법·제도의 미비(36.5%)'를 꼽았고, 응답자의 57.6%는 강력한 입법 및 정책이 피해를 예방하는 데 효과적일 것이라고 답변했다.

 

특히, 법적·제도적 대응 외에도 기술적 안전장치를 요구하는 목소리도 높았다. 설문조사와 함께 진행된 정책 아이디어 공모전에서는 ‘워터마크를 통한 딥페이크 추적 및 탐지’ 기술이 최우수상으로 선정되었으며, 'AI 생성물 워터마크 표준안 마련' 등 다양한 제안이 주목받았다.

 

과기정통부는 이 외에도, 10월 19일에 디지털 심화쟁점 토론대회를 통해 딥페이크 가짜뉴스와 성범죄 대응 방안에 대해 대학생 토론을 진행했으며, 제3회 디지털 심화쟁점 콜로키움에는 표창원 범죄과학연구소장과 이독실 과학평론가를 초청하여 딥페이크 기술에 대한 이해와 딥페이크 범죄의 문제 원인 및 대응 방안에 대해 시민들과 논의하는 자리를 가졌다고 밝혔다.

 

송상훈 과기정통부 정보통신정책실장은 “딥페이크 가짜뉴스가 개인과 사회에 미치는 부정적 파급효과가 크고, 기술 발전에 따라 사실과 구별하기 어려워지고 있다는 것에 국민들이 공감하고 있다”라며, “신속히 법‧제도를 정비할 수 있도록 방송통신위원회와 적극 협력하겠다”라고 밝혔다.

 

 

= 주미오 누리집

 

딥페이크 기술은 전 세계적으로도 큰 위협으로 인식되고 있다. 모바일 결제 업체 주미오의 2024 글로벌 소비자 조사에 따르면, 응답자의 72%가 딥페이크로 인해 민감한 정보를 유출하거나 금전적 피해를 입을까 우려한다고 답했다. 응답자의 60%는 지난 1년 동안 딥페이크 콘텐츠를 접한 경험이 있다고 밝혔으며, 이 기술의 확산 속도에 대한 우려가 커지고 있다. 

 

또 딥페이크를 판별할 수 있다고 자신하는 응답자는 60%로, 지난해의 52%에서 증가했다. 스튜어트 웰즈 주미오 CTO는 "딥페이크 탐지에 대한 과신이 여전히 존재하며, 이는 공공 교육과 기술적 해결책의 중요성을 보여준다"라고 강조했다. 또 대다수의 소비자들은 딥페이크와 생성 AI를 둘러싼 문제를 해결하기 위해 AI에 대한 정부 규제를 강화할 것을 요구하고 있다고도 덧붙혔다.

 

 

= 레귤라 누리집

신원 확인 솔루션 전문 기업 레귤라(Regula)의 '2024 딥페이크 트렌드' 보고서에 따르면 2024년 전 세계 기업 2곳 중 1곳이 딥페이크 사기 사건을 보고했으며, 지난 2년간 AI 관련 범죄가 증가하는 추세를 보였다. 또  딥페이크 사기로 인한 손해 금액은 평균적으로 약 45만 달러(약 6억 원)에 달했으며 특히 금융 서비스, IT, 암호화폐 업계는 딥페이크로 인한 피해가 가장 큰 분야로 꼽혔다. 

 

세계 각국은 대책 마련에 돌입했다. 국내의 경우 정치권에서 여야를 가리지 않고 딥페이크 피해를 막기 위한 법안을 잇따라 내놓고 있다. ‘통신비밀보호법 일부개정법률안’은 범죄 수사를 위한 통신제한조치의 허가 요건에 성폭력처벌법과 청소년성보호법에 규정된 범죄를 추가하는 것을 핵심 내용으로 하는 법안이며, ‘아동·청소년의 성보호에 관한 법률 일부개정법률안’은 딥페이크 범죄에 신속히 대응할 수 있도록 긴급 수사 착수 절차를 간소화하는 내용을 담고 있다.

 

양 법안은 딥페이크 범죄물이 무차별적으로 유포되는 것을 적시에 차단하기 위해 발의되었지만, 일각에서는 수사기관에 개인을 감청할 권리를 쥐어주는 법안이라는 반대 의견도 나오며 찬반 논쟁이 벌어지고 있다.

 

미국에서도 각 주에서 주정부 차원의 규제 법안을 마련하고 있다. 캘리포니아주는 AI 기술을 이용한 딥페이크를 규제하는 법안을 지난 8월 마련했으며 지난 2019년에는 일찌감찌. 선거법 개정을 통해 딥페이크를 정치적으로 악용하는 것을 규제하는 법안을 마련했다. 텍사스주 역시 지난 2019년 유사한 법안을 마련했으며 뉴욕, 사우스다코타 등 여러 주가 딥페이크 규제방안을 마련하고 있다.

 

유럽의 경우 지난 5월 최종승인된 AI법을 통해 딥페이크 AI 시스템 공급자와 사용자에게 투명성 의무를 부과하고 있다. 유럽 AI 법에는 합성된 오디오·이미지·비디오 또는 텍스트 콘텐츠를 생성하는 AI 시스템의 공급자(provider)는 해당 결과물이 기계가 판독할 수 있는 형식으로 표시하고, 인위적으로 생성 또는 조작된 것으로 감지할 수 있어야 한다(제 50조 2항)는 조항이 포함되어 있으며, 이에 따라 AI로 생성된 생성물에는 워터마크 삽입이 의무화되어있다.

 

 

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)