AI 생성물 표기 의무화해주세요

= 국민동의청원 갈무리

 

생성 AI의 발전으로 창작자의 저작권 침해, 딥페이크 기술로 인한 각종 범죄나 정치적 악영향 등 부작용에 대한 우려가 전 세계적으로 높아지고 있다. AI로 생성된 결과물을 인간의 눈으로 구별하기 힘들어진 만큼, 이를 식별할 수 있도록 조치를 취해야 한다는 요구가 세계 각국에서 높아지고 있다.

 

국회 국민동의청원에 AI 생성 표기 의무화 법안의 통과를 촉구하는 청원이 올라왔다. 지난 2일 올라온 청원은 현재 올라온 지 일주일 만에 2만 명의 동의를 얻은 상황이다. 청원이 종료되는 6월 1일까지 5만 명의 동의를 얻게 되면 해당 청원은 국회 소관 상임위에서 논의하는 절차를 밟게 된다.

 

청원인은 2022년 말부터 생성형 AI가 대중에게 많이 알려지고 사용되면서 AI로 인한 가짜뉴스, 딥페이크, 사기등의 피해가 급증하고 있으나 관련 법률이 마련되지 않아 대중들이 이로 인한 피해를 고스란히 받고 있는 상황이라고 지적했다. 

 

청원인은 생성 AI의 악용으로 인한 피해의 각종 사례에 대해 언급했다. 지난해 3월 디지털 자료 분석단체 ‘벨링캣’의 창립자 엘리엇 히긴스가 이미지 생성 AI ‘미드저니’를 활용해 트럼프 전 대통령이 체포되는 장면을 트위터에 게시하며 AI로 인해 생성되는 가짜 이미지에 대한 논쟁도 함께 불러일으킨 것이 대표적이다. 

 

지난해 5월에는 미국 국방부 청사 펜타곤에서 폭발이 일어나는 AI로 생성된 가짜 사진이 소셜 미디어를 통해 퍼져나가며 미국 사회에 혼란을 불러일으켰다. 또 유명인의 딥페이크를 AI로 제작해 투자를 유도하는 사기나 AI 딥페이크로 실존 인물의 모습으로 음란물을 제작하는 등 사회 전반적으로 AI 생성 이미지를 악용하는 사례가 다수 발생했다.

 

생성 AI는 이미지 뿐만 아니라 '딥보이스'라는 이름으로 음성 부분에서도 악용될 수 있다. 최근 오픈 AI가 사람의 음성을 단 15초 분량만 학습시켜도 모방 음성을 생성하는 기술을 개발하는 등 음성 합성 AI의 발전 역시 빠르게 진행되고 있는 상황이다.

 

해외에서는 배우 엠마 왓슨의 목소리를 AI로 재구성해 아돌프 히틀러의 저서 ‘나의 투쟁’을 읽도록 하는 등 유명인의 목소리로 인종차별적이며 폭력적인 딥페이크 음성을 생성하는 악용 사례가 나왔다. 또 AI 음성으로 타인의 음성을 합성해 성문 인증을 통해 은행 계좌의 잔액을 확인하고 금융사기를 저지르거나 보이스피싱을 저지를 수 있다는 우려도 커지는 상황이다.

 

청원인은 이와 같은 악용 사례들은 극히 일부에 불과하며, 지금도 AI를 이용한 사기와 딥페이크 등의 문제는 셀 수 없이 쏟아지고 있다고 지적했다. 또 AI가 점점 더 정교해지고 현실과의 구분을 어렵게 하는 상황에서 관련 법제화가 계속 미루어 진다면 피해는 걷잡을 수 없이 커질 것이라고 지적했다. 

 

정치인 뿐만 아니라 일반 대중들까지 자신이 하지도 않은 발언과 행동이 AI로 조작되어 범죄에 노출되고 있으며, 창작자들 역시 자신들이 제작한 적 없는 콘텐츠가 AI로 표절되어 퍼져나가고 있다는 것이다.

 

이에 따라 청원인은 AI의 비윤리적인 사용을 막기 위해서라도 AI로 생성된 생성물을 확실히 구분할 수 있도록 법제화해야 한다고 주장했다. 확실한 표기와 구분을 통해 현재 무분별하게 벌어지고 있는 AI를 이용한 범죄를 어느정도 억제할 수 있을것이라는 주장이다.

 

방송통신위원회는 지난 3월 2024 업무계획을 발표하며 올해 AI의 각종 부작용을 방지하고 이용자의 보호를 강화하는데 정책 역량을 집중한다고 밝혔다. 특히 AI로 생성된 콘텐츠를 게시할 경우 AI 생성물임을 표시하도록 의무화하고, 인공지능 관련 피해구제를 위한 신고 전담창구를 설치할 계획이라고 밝혔다.

 

또 과기정통부는 지난해 10월 ‘인공지능 윤리·신뢰성 확보 추진계획’을 발표하며 AI 생성 결과물을 구분할 수 있는 표식을 도입하겠다고 밝힌 바 있다.

 

지난해 5월에는 국회 문화체육관광위원회 소속 이상헌 전 더불어민주당 의원이  AI를 이용해 제작된 콘텐츠라는 사실을 표기하도록 하는 '콘텐츠산업진흥법 일부개정안'을 발의하기도 했다. 또 1월에는 김승수 국민의힘 의원이 AI 기술을 이용한 영상‧음향‧화상 등 각종 콘텐츠에 식별 표시를 의무화하는 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률 일부 개정 법률안’을 대표 발의했다.

 

하지만 해당 법안들이 임기가 얼마 남지 않은 21대 국회의 문턱을 넘을 수 있을지는 불분명한 상황이다. 만약 21대 국회 내에 해당 법안이 처리되지 않을 경우 해당 법안은 자동 폐기되어 22대 국회에서 법안 발의부터 모든 과정을 처음부터 시작해야 한다.

 

국내에서 논의가 지지부진한 사이 해외에서는 이미 AI 생성물 구분을 위한 규제를 정립해가는 상황이다. 미국은 지난해 10월 조 바이든 미국 대통령이 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했으며 미국 상무부는 AI 생성 자료에 워터마크 등을 표기하도록 하는 표준안을 개발중이다. 

 

유럽 역시 지난해 8월 온라인 플랫폼들이 자신의 플랫폼에서 불법 콘텐츠가 유통되지 않도록 규제하는 디지털 서비스법(DSA)을 제정하며 AI 생성 콘텐츠를 구분할 수 있도록 별도의 표시를 넣도록 규정했다. 또 구글, 오픈 AI 등 주요 AI 기업들은 AI 생성 이미지에 보이지 않는 워터마크를 삽입하는 기술을 개발했다.

 

 

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)