"경쟁만으론 AI 위험 못 막아”...미중 AI안전 협력론 배경은?

= 픽사베이

​

[이코리아] 미국과 중국이 경제, 군사, 거버넌스 등 다양한 AI 분야에서 패권 경쟁을 이어가는 가운데, 양국이 AI 안전 분야에서는 협력해야 한다는 목소리가 나오며 그 배경이 주목받는다.

​

로이터의 보도에 따르면 비영리단체 미중관계위원회(NCUSCR) 위원장 스티븐 올린스(Stephen Orlins)는 최근 베이징에서 열린 연례 중국 개발 포럼에 참석해 양국이 AI 분야에서 협력해 불필요한 중복을 피해야 한다고 주장했다. 로이터는 AI가 최근 몇년간 미중갈등의 주요 원인이 되어 왔으며, 미국은 중국이 AI 군사기술을 개발하는 것을 막기 위해 중국의 AI와 반도체 산업에 연이어 제재를 가하고 있는 상황이라고 짚었다.

​

비슷한 주장은 이전에도 여러 차례 나왔다. 아라티 프라바카 전 백악관 과학기술정책실장은 지난해 1월 파이낸셜타임스와의 인터뷰에서 AI 시스템의 안전은 그 기술의 복잡성과 불투명성으로 인해 평가하기가 쉽지 않은 상황이며, 이에 따라 AI 시스템의 안전성을 확보하려면 중국과의 협력이 필요하다고 주장했다. 또 사업적으로는 중국을 견제중인 샘 올트먼 오픈AI CEO 역시 지난 2023년에는 AI 안전을 위해서는 미국과 중국의 협력이 필요하다고 강조한 바 있다.

​

미국의 싱크탱크 랜드 연구소는 지난 1월 미국과 중국이 AI 기술을 직접 공유하지 않으면서도, 사고가 났을 때의 보고 방식이나 위험을 평가하는 기준과 같은 '비기술적인 방식'부터 협력해나가야 한다고 제안하는 보고서를 내놓았다.(How Might the United States Engage with China on AI Security Without Diffusing Technology?)

​

연구소는 AI가 초국경적 위험을 동반하며, 미국의 경쟁국이 개발한 AI 시스템조차도 미국 안보에 영향을 미칠 수 있다고 바라봤다. 따라서 미국이 자국의 이익을 지키기 위해서라도 중국과의 협력이 필요하다고 주장했다.

​

보고서는 AI 안전 기술을 공유할 경우에는 기술이 중국의 독재 이념 강화에 악용되거나 중국 AI 시스템의 성능을 높이는 등의 우려가 있다고 짚었다. 이 때문에 양국이 당장 기술을 공유하기보다는 냉전시대 미국과 소련의 핵무기 통제 협정과 같은 형태로 양국이 AI 안전 사고가 발생했을 때 관련 정보를 공유하거나, 위험한 AI의 기준을 함께 정하는 것부터 시작해야 한다고 제안했다.

​

한편 양국의 협력에 대해 회의적인 시각도 여전하다. 특히 미국과 중국은 군사 AI 분야에서는 입장차를 좁히지 못하는 상황이다. 중국은 미국이 주도한 ‘군사 AI 책임 선언’에 불참했으며, 양국 모두 AI 기술의 군사적 통합을 가속화하고 있어 AI 안전 거버넌스 논의의 한계가 명확하다는 지적도 제기된다. 더불어 시장 중심의 미국과 국가 통제형 중국의 거버넌스 철학 차이 역시 공동 규범 제정의 걸림돌로 작용하고 있다는 분석도 나온다.

​

정치적, 사업적인 영역을 떠나 학술 분야에서는 미중 간 협력이 꾸준히 이어지고 있다. 비영리 간행물 레스트 오브 월드는 조지타운대학교 산하 ‘신흥기술연구소(Emerging Technology Observatory)’의 데이터를 인용해, 지난 10년간 미국과 중국이 AI 연구에서 가장 활발한 공동 연구 파트너였다고 보도했다. 특히 컴퓨터 비전 등 실용 분야에서의 협업이 두드러지며, 이는 AI 연구가 다양한 사회적·문화적 맥락에서 테스트되고 조정돼야 한다는 학계의 인식과도 맞닿아 있다고 보도했다.

​

조사에 참여한 분석가 자커리 아놀드(Zachary Arnold)는 매체와의 인터뷰에서 “AI는 본질적으로 매우 협력적인 분야”라며, “국경을 넘는 연구 협업은 기술의 신뢰성과 안전성을 확보하는 데 중요한 역할을 한다”고 강조했다. 그는 “AI 기술은 특정 사회나 실험실 밖으로 옮겨졌을 때 예기치 못한 문제를 일으키는 경우가 많다”며, 다양한 맥락에서의 협업이 필수적이라고 말했다.

 

 

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)