6월 3일 대선 앞두고 딥페이크 요주의

[픽사베이]

​

[이코리아] 6월 대통령 선거가 다가오면서, 딥페이크 등 인공지능(AI) 기술을 활용한 조작물로 인해 허위정보가 퍼질 가능성이 제기되자 경찰이 단속에 나섰다.

​

딥페이크 탐지 기술도 함께 발전하고 있지만, 유포 속도가 탐지 속도를 앞서면서 잘못된 정보로 인한 피해가 커질 수 있다는 우려가 나온다. 이에 선거관계자들은 촉각을 곤두세우고 있다. 인스타그램 같은 사회관계망서비스(SNS)나 인터넷 커뮤니티에서는 이미 AI로 제작된 주요 대선 주자들의 가짜 사진과 영상이 빠르게 퍼지고 있다.

​

지난 11일에는 딥페이크를 활용한 선거 조작 시도가 실제로 감지됐다. 박수현 이재명 더불어민주당 대통령 선거 예비후보 선거대책위원회 공보단장은 “이 예비후보가 김혜경 여사에게 욕설하는 내용의 딥페이크 영상 유포 시도가 있었다는 제보가 선대위에 접수됐다”라고 밝혔다.

​

이어 “제보된 딥페이크 영상이 실제로 유포될 경우, 즉시 유포 중지 가처분 신청과 형사 고발 등 모든 수단을 동원해 법적 책임을 묻겠다”라고 강조했다.

​

다만, AI 생성물임을 알리는 워터마크 표시를 의무화한 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)」은 2026년 1월 시행 예정이라, 이번 대선에는 이를 근거로 딥페이크 유통을 직접적으로 통제하기 어렵다.

​

대신 2023년 개정된 「공직선거법」이 적용된다. 이 법은 선거일 90일 전부터 선거운동을 위한 딥페이크 영상의 제작 및 유포 등을 금지하고 있다. 해당 규정은 지난해 총선에서 처음 적용됐으나, 실제로 이를 근거로 처벌된 사례는 없었다.

​

지낸해 대선을 치른 미국에서는 딥페이크 로보콜이 유권자들에게 전송되면서 선거관리 당국이 수사에 나선 사례가 있었다.

​

사건 이후 연방통신위원회(FCC)는 AI를 활용한 음성 로보콜을 불법으로 규정하고, 이에 대한 단속에 나섰다. 현재 미국 연방법에서는 딥페이크를 통한 선거 조작을 명확히 처벌하는 법은 아직 존재하지 않는다. 대신 「사기 방지법」이나 허위정보 유포 관련 법률을 통해 이를 다루고 있다. 이들 법은 딥페이크가 허위정보를 퍼뜨려 경제적 손해를 끼치거나, 선거에 개입할 때 적용된다.

​

일부 주에서는 딥페이크가 선거 기간 중 유포되면 형사처벌이 가능하도록 개별적으로 대응하고 있다. 뉴욕은 딥페이크를 이용한 사기 및 허위정보 유포에 대해 엄격한 처벌 규정을 두고 있다. 딥페이크 영상이 특정 인물이나 후보자의 명예를 훼손하거나 선거에 영향을 미치는 경우, 최대 5년 징역형 또는 벌금형을 부과할 수 있다.

​

캘리포니아는 2019년 딥페이크 영상 규제법을 도입했다. 이 법은 공직 후보자나 공적인 인물에 대한 허위정보를 유포하는 딥페이크 영상을 불법으로 규정하고 있다. 선거 기간 동안 허위정보를 퍼뜨리거나 공정한 선거 진행을 방해하려는 목적으로 딥페이크 영상을 사용하는 행위는 최대 1년 징역형 또는 1만 달러 이하의 벌금으로 처벌될 수 있다.

​

프랑스는 딥페이크와 같은 디지털 조작물이 선거에 악용되는 문제에 대해 매우 엄격한 법적 규제를 마련해두고 있다. 2017년 대선 당시, 딥페이크와 허위정보의 유포는 심각한 문제로 대두되었으며, 프랑스 정부는 디지털 플랫폼과 협력하여 조작된 콘텐츠를 신속하게 차단했다. 당시 소셜 미디어 플랫폼과의 협력은 유명 인사나 후보자들에 대한 허위정보를 빠르게 차단하는 데 중요한 역할을 했다.

​

이후, 2018년에는 「정보조작법」을 제정하여, 선거 기간 중 디지털 미디어를 통한 허위 정보 유통에 대해 정부가 즉시 차단할 수 있는 권한을 부여했다. 또한, 딥페이크 영상과 같은 조작물이 선거에 영향을 미칠 수 있다고 판단되면, 해당 콘텐츠는 선거일 3개월 전부터 유포를 금지하는 규정을 마련했다. 선거 결과에 영향을 미칠 목적으로 허위정보를 퍼뜨린 경우, 최대 1년 징역형과 15만 유로의 벌금에 처할 수 있다.

 

 

 

 

유호경 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)