주요 기술 기업, 선거 앞두고 딥페이크 등 허위 정보 차단 총력전

= 픽사베이

 

올해는 미국에서 대선이 치러지는 등 전 세계에서 중요한 선거가 잇따라 예정되어 있다. 전 세계 총인구의 약 절반에 해당하는 40억 명이 투표를 치르게 된다는 분석도 나온다.

 

그런데 AI 기술이 최근 급격히 발전하며 딥페이크 등 AI로 만들어진 허위 정보가 민주주의에 악영향을 미칠 것이라는 우려도 나온다. 이에 따라 전 세계적으로 기술 기업들이 스스로 허위 정보에 대한 대책을 마련해야 한다는 책임론이 부상하는 상황이다.

 

이에 따라 주요 기술기업들은 잇따라 선거 대책을 마련하고 있다. 오픈 AI는 챗 GPT와 같은 자사의 AI 서비스가 선거 결과에 악영향을 미치지 않도록 하는 ‘허위 정보 방지 대책’을 발표해 정치 캠페인과 로비를 위한 애플리케이션을 만드는 것을 금지하고 챗 GPT가 선거와 관련된 대화에 응답하지 않도록 차단했다.

 

또 구글은 지난해 9월 AI로 만들어진 정치 광고에는 시청자가 AI 생성의 결과물이라는 것을 알아볼 수 있도록 광고주가 '이 영상은 AI로 생성되었다.'나 '이 이미지는 실제 사건을 묘사하지 않는다.'와 같은 문구를 추가하도록 하는 규정을 추가했으며 자사의 AI 챗봇 바드가 선거와 관련된 질문에는 응답하지 않도록 했다.

 

메타 역시 광고주가 AI 기술을 사용해 정치 또는 사회 문제 광고를 만들 경우 투명하게 공개하도록 강제했으며 미국 선거 캠페인 마지막 주에는 새로운 정치, 선거, 사회 문제와 관련된 광고를 차단한다고 밝혔다.

 

국내에서도 4월 10일 22대 총선을 앞두고 주요 기술기업들이 각종 대책을 수립해 실행하고 있다. 지난 3월 8일에는 구글, 메타, 네이버, 카카오, SK커뮤니케이션즈, 틱톡 등 기술기업들이 모여 '악의적 선거 딥페이크 사용 방지를 위한 공동선언'을 발표했다.

 

공동선언문에는 ▲악의적 선거 딥페이크의 위험을 완화하기 위한 탐지와 신속한 조치 노력 ▲대응 정책 공개를 통한 대응 투명성 제고 ▲딥페이크 확산 방지를 위한 적극적인 논의와 정보, 의견 교류 활성화 ▲악의적 선거 딥페이크에 대한 대중 인식 제고 ▲다양한 시민단체, 학계 등 외부 전문가와 지속적인 교류 및 논의▲각 기업의 서비스 특성에 따라 추가적 조치 방안 모색 등의 내용이 담겼다.

 

31일 업계에 따르면 구글은 총선 기간 유권자의 혼란을 방지하기 위해 정치 광고 게시를 중단하고, 이용자가 선거에 대해 검색할 경우 공신력 있는 콘텐츠로 바로 연결되도록 지원한다. 해당 정책은 구글 검색, 유튜브, 플레이스토어 등 모든 서비스에 동일하게 적용된다. 또 구글 홈페이지에서는 유권자에게 '투표 방법' 및 '유권자 등록 방법'과 관련해 공신력 있는 정보를 안내하는 링크를 제공할 계획이다.

 

구글은 블로그에서 “구글은 유권자에게 양질의 정보를 제공하고, 플랫폼이 악용되지 않도록 보호하며, 사람들이 AI로 생성된 콘텐츠를 확인할 수 있도록 노력하고 있다.”라며 “현지 규정을 준수하기 위해 다가오는 선거 기간 동안 정치 관련 광고를 지원하지 않는다.”라고 밝혔다.

= 네이버 검색 페이지 갈무리

 

네이버는 지난 2월 선거를 앞두고 AI 딥페이크와 허위 정보 확산 방지를 위한 대책을 발표했다. 이에 따라 네이버에서 딥페이크 악용으로 이어질 수 있는 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 함께 제공된다. 또 선거 관련 허위 정보 신고 센터를 운영하며 24시간 모니터링을 강화했으며 클로바 X, 큐 등 네이버의 생성 AI 서비스에서도 선거 관련 안내 문구를 제공한다.

 

카카오는 지난 3월 13일 딥페이크 허위 조작 정보 근절 대책을 발표했다. 카카오브레인의 이미지 생성형 모델인 ‘칼로(Karlo)’에 비가시성 워터마크를 도입했으며, 언론사에서 AI를 이용해 생성한 기사는 사용자가 쉽게 인지할 수 있도록 상단에 해당 사실을 표기한다.

 

또 다음 카페, 티스토리, 카카오스토리, 브런치 스토리, 다음 뉴스, 다음 총선 특집 페이지, 다음 채널 스튜디오 등 각종 서비스를 통해 건전한 선거 문화 정착을 위한 이용자 주의를 제고하는 캠페인을 지난 3월 8일부터 진행하고 있다.

 

이 외에도 위반 사항에 대한 빠른 조치, 신고 센터 24시간 운영 등 허위 정보 확산 및 불공정 선거 보도를 막기 위한 노력도 강화했다. 카카오는 남은 선거 운동 기간 악의적인 딥페이크를 비롯한 허위 조작 정보를 담은 콘텐츠가 유통되지 않도록 관계 당국과도 긴밀하고 적극적인 협의를  이어나간다는 방침이다.

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)