딥페이크에 대응하는 '딥페이크 탐지' 산업 뜬다

= 픽사베이

 

AI의 발전으로 딥페이크 등 AI로 인해 발생하는 부작용에 대해 우려가 늘어가는 가운데, AI가 생성하는 딥페이크 이미지를 식별하는 기술을 개발하는 탐지 산업이 함께 급성장하고 있다. 

 

딥페이크 탐지 기술은 초창기에는 손가락이나 팔과 같은 복잡한 신체 부위의 부자연스러운 모습이나 부자연스러운 깜빡임, 배경의 흐릿함 등 AI의 자잘한 ‘실수’를 찾아내는 수준이었지만, 최근에는 딥페이크 영상에서 얼굴의 혈류 신호를 탐지하고, AI를 통해 프레임 단위로 영상을 분석하는 등 점차 정교해지고 있다. 

 

디지털 신원 연구 기관 리미널은 2023년부터 2026년까지 미국 내 딥페이크 탐지 건수가 연평균 42%씩 성장할 것으로 예상했으며, 이에 따라 딥페이크 탐지에 소비되는 비용이 지난해 55억 달러에서 올해 157억 달러까지 증가할 것으로 예상했다. 또 글로벌 시장조사업체 마켓앤마켓은 글로벌 딥페이크 탐지 시장이 2022년 5억 달러 규모에서 2027년에는 18억 달러까지 늘어날 것으로 전망하기도 했다.

 

주요 AI 제조기업들 역시 딥페이크 기술의 악용을 방지하기 위해 자체적인 탐지 기술을 개발하고 있다. 오픈AI, 구글, 마이크로소프트, 메타 등 주요 기술 기업은 지난 2월 독일에서 열린 뮌헨안보회의 (MSC)에서 AI 생성 콘텐츠가 가짜 콘텐츠, 가짜뉴스를 유포하는 것을 방지하기위해 공동 대응에 나서도록 하는 선언문을 발표한 바 있다. 기업들은 딥페이크로 생성된 콘텐츠를 식별해 표시하고, 대중에 AI 관련 교육을 진행하는 등의 공동 대응책을 합의했다.

 

이미지 생성 AI인 ‘달리(DALL-E)’를 서비스하고 있는 오픈AI는 7일 달리를 통해 생성된 AI 이미지를 탐지할 수 있는 도구를 발표했다. 오픈AI에 따르면 해당 도구는 내부 테스트에서 DALL-E 3로 생성된 이미지를 약 98% 정확하게 식별했으며 압축, 자르기 및 채도 변경과 같은 일반적인 수정 사항을 최소한의 영향만으로 처리할 수 있었다.

 

온라인 보안 기업 맥아피는 지난 6일 인텔와 협력해 심층 합성 영상 탐지 기술을 발표했다. 맥아피 딥페이크 탐지기는 고급 AI 탐지 기법을 활용해 영상과 음성에서 딥페이크 기술이 적용되었는지의 여부를 감지한다. 또 해당 기술은 온디바이스로 실행되어 민감한 사용자 정보를 클라우드로 전달할 필요가 없다고도 강조했다.

 

스티브 그로브먼 맥아피 기술총괄은 “가장 까다로운 시청자도 속을 수 있는 세상에서, 소비자들은 증가하는 위협에 대항하기 위해 고급 AI 도구를 요구한다.”라며 “인텔의 코어 울트라 프로세서 기술과 NPU를 활용함으로써 우리는 성능 또는 개인 정보 보호를 희생하지 않으면서 강력한 딥페이크 탐지 기능을 고객들에게 제공할 수 있다.”라고 강조했다.

= 트루스미디어 누리집

 

또 미국의 비영리단체 트루스미디어는 2024년 미국 대선을 앞두고 자체 개발한 딥페이크 검출기를 공개했다. 이용자는 트루스미디어 홈페이지에서 검사하고 싶은 영상이 포함된 유튜브, 인스타그램, 틱톡 등의 링크를 입력하면 해당 링크에 포함된 영상이 딥페이크로 조작된 것인지 알려준다.

 

트루스미디어는 정부 관계자, 언론인, 학술기관, 비영리 단체 등 진보와 보수를 막론하고 모든 사람이 해당 도구를 무료로 사용할 수 있다고 밝혔다.

 

오렌 에치오니 트루스미디어 설립자는 "가짜 소셜 미디어는 기하급수적으로 증가하고 있기 때문에 가능한 한 많은 기자를 돕는 것이 우리의 사명이다. 이는 특정 후보나 의제를 지지하는 것이 아니라 기자들에게 최첨단 딥페이크 탐지 도구를 제공하는 것이다."라며 "우리는 이 도구를 미국 전역의 크고 작은 지역 및 전국 선거를 다루는 뉴스룸에 제공하며 딥페이크의 확산을 식별하고 막는 데 도움을 주고 싶다."라고 밝혔다.

 

한편 국내에서도 생성형 AI 전문 기업 딥브레인AI가 ‘행동 패턴 분석 기반 딥페이크 탐지 기술'의 특허를 출원하는 등 관련 연구가 활발하다. 

 

지난 3월 경찰청 국가수사본부는 딥페이크 탐지 소프트웨어를 개발해 딥페이크를 이용한 범죄 단속을 위해 본격적으로 활용한다고 밝혔다.

 

경찰청에 따르면 해당 소프트웨어는 페이스 스왑(Face Swap) 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 (화질 ․ 길이에 따라 상이하나) 통상 5분 ~ 10분 내에 분석 작업을 완료하여 ‘가짜 영상’인지, ‘진짜 영상’인지 판별한다. 또한, 판별이 완료됨과 동시에 결과보고서를 즉각 창출하여 수사에 곧바로 활용할 수 있도록 한다.

 

특히 해외에서 제작되어 서양인 위주의 데이터로 구성된 기존의 모델과 달리 경찰청이 사용하는 소프트웨어는 인물 5,400명의 데이터 520만 점(한국인 데이터 100만 점 및 아시아 계열 인종 데이터 13만 점 포함) 등 한국인과 관련한 다양한 데이터 학습이 이루어졌다는 장점이 있다. 경찰청은 해당 소프트웨어의 진위 여부 탐지율이 80%에 달하며, 증거자료보다는 수사 방향을 설정하는 자료로 활용할 계획이라고 밝혔다.

 

경찰청은 “딥페이크 이용 여부가 의심될 경우 ‘딥페이크 탐지 소프트웨어’를 통한 분석을 거쳐 빠르게 결과를 확인한 후, 적극적인 수사를 진행해나갈 수 있을 것으로 기대하고 있다. 향후 더욱 정확한 탐지가 이루어지도록 해당 소프트웨어를 고도화할 것이며, 선거범죄 · 합성성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나가겠다.”라고 밝혔다.

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)