미국 우주군, 1년 전 생성 AI 사용 중단 왜?

= 픽사베이

AI 기술이 급속도로 발전하면서 군사 분야에서도 빠르게 확산되고 있다. 이스라엘에서는 공습 대상을 선정하는 ‘파이어 팩토리’와 같은 AI 시스템을 사용 중이며 우크라이나 역시 AI 기반 시스템을 활용해 러시아군의 활동을 모니터링하고 AI 기술이 적용된 정밀 타격 드론 ‘스위치블레이드’를 활용하는 등 이미 세계 각국의 분쟁 지역에서 AI는 실전적으로 활용되고 있다. 

= 뉴시스

한편 대한민국 국군 역시 AI 기술을 적극 도입해 군 병력 감소 문제를 해결하려 하고 있다. 국군은 AI 기반 영상분석 기능을 갖춘 일반전방초소(GOP) 과학화 경계시스템을 올해 안에 동부전선 육군 22사단 등 일부 전방부대와 해안부대에 적용할 예정이다. 

 

또 지난 7월에는 위험 지역 탐색을 위한 AI 기반의 무인 로봇을 도입했다. 이 로봇은 전방 카메라와 탐색레이더를 활용해 적의 위협을 피하고, 건물 내부를 스캔하여 실시간으로 정보를 전송하는 역할을 수행한다. 또한, 사족보행 로봇은 사람이 접근하기 어려운 위험한 환경에서 작전을 수행하며 병력의 안전을 보장한다.

 

지난 7월에는 국방부 직원들이 활용하는 대화형 AI ‘국방생성형 AI’가 도입되었다. 40만 건의 군 자료를 포함해 100만 건의 데이터를 학습한 국방생성형 AI는 군사용어 특화번역, 군 내부규정 질의응답, 문서요약 등의 각종 서비스를 제공한다.

 

신원식 전 국방부 장관은 지난 7월 열린 'GP(최전방 감시초소)·GOP(일반전초) 경계작전 혁신 대토론회'에 참석해 "AI 기반의 경계작전 체계 전환을 통해 작전병력을 절약하면서도 경계작전의 질을 대폭 향상할 수 있을 것이다."라며 “앞으로 우리 군은 AI 기반의 첨단 과학기술을 국방 전 분야에 전용할 것이다.”라고 밝혔다.

 

한국과 마찬가지로 병력 부족을 겪는 일본 자위대 역시 AI 기술을 통해 이에 대응하려 하고 있다. 지난 30일 로이터에 따르면 지난 8월 일본 방위성은 AI와 자동화 기술을 도입해 군사 기지의 보안 시스템을 강화하고, 무인 드론 및 고도로 자동화된 방공함을 도입할 예정이라고 밝혔다. 자동화된 방공 함선은 기존 함선 승조원의 절반도 안 되는 90명의 선원으로 운용 가능하다는 설명이다. 또 내년에는 군 기지 보안을 위한 AI 감시 시스템에 180억 엔을 책정할 것이라고도 밝혔다.

 

미국 역시 AI 기술을 활용해 군사 작전의 효율성을 크게 향상시키고 있다. 외신에 따르면 미군은 지난 4월, 'Shrike'라는 이름의 새로운 소프트웨어를 도입했다. 이 소프트웨어는 드론과 결합되어 적의 차량을 신속하게 식별하고, 자동으로 포격 미션을 생성하며, 이후에도 전투 피해 평가와 추가 타격 미션을 자동으로 생성할 수 있는 프로그램으로, AI를 활용해 타겟 식별과 대응 시간을 기존 15분에서 1분으로 단축했다. 미군은 그 외에도 공급망 분석, 위성 데이터 해독 등 다양한 분야에서 AI 기술을 활용하고 있는 것으로 알려져 있다.

 

하지만 AI 기술의 신뢰성 문제는 여전히 뒤따르는 고민거리다. 특히 AI가 군사적 갈등을 고조시킬 수 있다는 주장도 나오며 주목받는다. 지난 5월 악시오스에 따르면 미국 국방부는 AI 기술을 광범위하게 실험한 결과, AI는 본질적인 보안 취약성을 지니고 있으며 잘못된 결정을 내릴 수 있다는 결과가 나왔다.

 

포린 어페어에 기고된 글에 따르면 후버 연구소의 워게임 및 위기 시뮬레이션 이니셔티브 책임자인 재클린 슈나이더와 AI 연구자 맥스 램퍼스는 오픈AI, 앤트로픽, 메타 등 각종 상용 거대언어모델을 시뮬레이션 전쟁 게임과 같은 상황에서 테스트했다. 그 결과 AI가 대안에 대한 확대, 군비 경쟁, 갈등, 심지어 핵무기 사용까지 제안한다는 것을 발견했다. 이에 따라 연구진은 대규모 언어 모델은 잘못된 결정을 내릴 수 있으며 핵전쟁을 유발할 수 있다는 결론을 내렸으며, 군대는 AI를 신뢰할 수 없다고 주장했다.

 

악시오스는 “국방부가 수십 년간 광범위한 AI 기술을 실험한 끝에 미군의 일부 부대가 생성 AI에 브레이크를 걸었다.”라고 전하며 미국 우주군의 경우 이미 지난해 9월부터 생성 AI 사용을 중단했다고도 전했다.

= REAIM 누리집

한편 AI 기술의 발전이 군사 혁신을 이끄는 핵심 요소로 자리잡으면서, AI의 책임 있는 이용에 대한 국제적인 논의도 중요해지고 있다. 지난해 2월에는 네덜란드 헤이그에서 '군사적 영역에서의 책임 있는 인공지능에 관한 장관급 회의(REAIM)'가 열렸다. 한국과 네덜란드의 공동 주최로 열린 이 회의에는 60여 개국에서 2천여 명이 참석해 군사 영역에서의 책임 있는 AI 사용에 대해 논의했다. 참여한 국가들은 AI의 군사적 이용과 개발이 의도치 않은 결과를 초래할 수 있다며 이를 규제하는 국제 원칙 제정을 촉구했다.

 

외교부에 따르면, 제2차 REAIM 고위급회의는 올해 9월 서울에서 한국, 네덜란드, 싱가포르, 케냐, 영국의 공동 주최로 열릴 예정이다. 이번 회의에서는 각국이 군사 분야에서 AI를 책임 있게 이용하기 위한 규범 마련에 대한 논의가 이루어질 것이며, 이를 바탕으로 한 '행동 청사진(Blueprint for Action)'이 발표될 예정이다. 이러한 국제 협력은 군사 AI의 책임 있는 사용을 보장하고, 미래의 안보 환경을 안정적으로 관리하는 데 중요한 역할을 할 것으로 기대되고 있다.

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)