서방국가들, 딥시크 금지령 확산 왜?

= 딥시크 누리집

​

[이코리아] 지난달 중국 스타트업이 내놓은 AI 모델 딥시크(DeepSeek)가 가성비 AI 모델로 주목받으며 이용자를 빠르게 늘려나가는 가운데, 세계 각국에서 개인정보 유출 위험과 안보 위험을 이유로 딥시크 사용을 금지하는 사례가 나타나고 있어 주목받는다.

​

미국에서는 텍사스 주정부가 지난 2일 정부 기관과 공공 부문에서 딥시크를 포함한 중국산 AI 모델의 사용을 금지하는 명령을 내렸다. 주정부는 데이터 보안과 국가 안보를 이유로 들었으며, 중국 AI 모델이 미국 사용자 데이터를 수집하고 이를 중국 정부와 공유할 가능성이 있다고 경고했다.

​

그레그 애벗 텍사스 주지사는 딥시크를 포함해 레몬8, 샤오홍슈 등 각종 중국 앱의 사용을 금지하며 "텍사스는 중국 공산당이 데이터 수집 AI와 소셜 미디어 앱을 통해 우리 주의 중요한 인프라에 침투하는 것을 허용하지 않을 것이다. 텍사스는 적대적인 외국 행위자로부터 우리 주를 계속 보호하고 방어할 것이다."라고 밝혔다.

​

이에 앞서 미국 해군과 NASA, 하원 등 민감한 정보를 취급하는 기관에서도 업무 관련으로 딥시크의 사용을 금지했다.

​

이러한 딥시크 금지령은 다른 나라에서도 이어지고 있다. 이탈리아는 지난 28일 딥시크의 전국적인 금지를 명령했으며, 애플과 구글의 앱 스토어에서 딥시크 다운로드를 차단하도록 조치했다. 이탈리아 데이터 보호 당국은 딥시크가 제공하는 개인정보 보호 조치와 관련된 정보가 불충분하다고 밝히며 딥시크에 데이터의 중국 저장 여부 등 각종 상세한 정보를 제공하라고 요구했다.

​

이 외에도 대만 디지털부는 지난 31일 정부 기관에서 딥시크 이용을 금지했으며, 호주 정부는 4일 모든 정부 시스템과 기기에서 딥시크 제품의 사용을 금지하는 조치를 발표했다. 또 프랑스와 아일렌드의 규제 당국은 딥시크가 개인정보 보호법을 위반하고 있는지 조사에 착수했다.

​

국내에서도 개보위가 지난 31일 딥시크의 개인정보 수집 및 처리 방식이 국내법을 준수하는지 확인하기 위해 공식 질의서를 보냈다고 밝혔으며, 필요할 경우 추가적인 조사나 규제 조치를 검토할 예정이다.

​

그렇다면 딥시크의 위협은 사실일까? 각국의 보안 및 AI 연구 기관들은 딥시크가 심각한 보안 취약점을 품고 있다고 경고하고 있다.

​

영국 브리스톨 대학의 연구진은 딥시크가 '사고 사슬(CoT)' 방식을 활용해 논리적인 사고 과정을 모방하는 방식으로 훈련되었지만, 이로 인해 오히려 위험한 정보가 보다 상세하고 정교하게 노출될 가능성이 크다고 경고했다. 연구진은 CoT 모델이 특정 역할을 자처하면서 보안 우회 요청을 처리할 가능성이 크다는 점을 지적하며, 보안 조치의 추가적 개선이 필요하다고 강조했다.

​

미국의 AI 전문 보안기업 엔크립트 AI(Enkrypt AI)는 딥시크가 기존 모델보다 유해한 콘텐츠를 생성할 가능성이 훨씬 높으며, 보안 취약점을 악용한 조작(일명 '탈옥' 공격)에 쉽게 노출된다고 지적했다. 연구에 따르면, 딥시크는 오픈 AI의 GPT-4o보다 4배, o1보다 11배 더 유해한 출력을 생성할 가능성이 높은 것으로 나타났다. 연구진은 "딥시크는 CBRN(화학, 생물학, 방사능, 핵) 관련 정보를 오픈 AI의 o1 및 클로드-3 등 경쟁 모델 보다 3.5배 더 많이 생성하는 것으로 분석됐다"고 밝혔다.

​

사힐 아가왈 엔크립트 AI CEO는 "딥시크는 AI 배포에 있어 상당한 비용 이점을 제공하지만, 여기에는 심각한 위험이 따른다. 우리의 연구 결과는 딥시크의 보안 취약점이 사이버 범죄자, 허위 정보 네트워크, 심지어 생화학전 야망을 가진 자들이 악용할 수 있는 위험한 도구로 바뀔 수 있음을 보여준다. 이러한 위험은 즉각적인 주의가 필요하다."라고 주장했다.

​

= 체크포인트 리서치 누리집

​

글로벌 사이버 보안 기업 체크포인트 리서치(Check Point Research)는 딥시크가 이미 보안 취약점을 악용하는 해커들에게 빠르게 채택되고 있으며, 기존 ChatGPT보다 악성 콘텐츠 생성에 대한 제한이 적다고 경고하는 보고서를 내놓았다.

​

보고서에 따르면, 해커들은 딥시크를 활용해 금융 사기 방지 시스템을 우회하는 방법을 연구하고 있으며, 악성 코드 생성 및 대량 스팸 유포에 활용하는 사례도 증가하고 있다. 특히 딥시크의 '탈옥(jailbreaking)' 기법을 공유하는 포럼이 활성화되며, 사이버 범죄자들이 이를 적극적으로 이용하고 있다는 점이 지적됐다.

​

한편 BBC는 딥시크 뿐만 아니라 모든 종류의 AI 모델은 민감한 정보를 취급할 때 신중하게 사용해야 한다고 지적했다. 옥스퍼드 정보 연구소(Oxford Information Labs)의 에밀리 테일러(Emily Taylor) CEO는 BBC와의 인터뷰에서 "딥시크뿐만 아니라 모든 AI 모델이 웹 또는 앱 인터페이스를 통해 사용자 데이터를 수집하는 만큼, 기밀 정보나 국가 안보와 관련된 작업에 사용하는 것은 매우 신중해야 한다."라고 강조했다.

​

또 살포드 대학교의 리처드 휘틀 박사는 딥시크의 데이터와 개인정보 보호 문제에 대한 우려가 있지만, 미국의 AI 모델들 역시 비슷한 문제를 안고 있다고 지적하며, 소비자들이 AI 기술에 대한 과도한 기대에 휘둘리지 말아야 한다고 주장했다.

 

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)