생성형 AI, 2025 사이버 보안에 최대 위협

= 과기정통부 누리집

​

[이코리아] 2025년 사이버보안 환경에서 생성형 AI 기술의 발전과 악용이 가장 큰 위협이 될 전망이다. 과기정통부와 한국인터넷진흥원은 18일 국내외 정보보안 전문가 관계망과 함께 사이버 위협에 대한 선제적 예방 및 대응체계 강화를 위해 「2024년 사이버위협 사례 분석과 2025년 사이버위협 전망」을 발표했다.

​

먼저 올 한 해 발생했던 3대 사이버 침해사고 이슈는 ▲ 유명스타 콘서트, 티몬·위메프 환불 등 사회적 이슈를 악용한 피싱과 문자 결제 사기 등 사이버 사기 ▲소프트웨어 공급망에 악성코드를 삽입해 보안 체계를 우회하는 복합적인 공격 전술 ▲데이터 암호화, 기업자료 유출과 공개, 피해 기업에 대해 디도스 공격을 가하는 3중 갈취 전술 등 고도화된 랜섬웨어 공격기법 세 가지다.

​

2025년의 전망 첫 번째는 공격자의 생성형(GPT) 인공지능 활용 본격화와 GPT 서비스에 대한 위협 가능성이다. 챗 GPT 외에도 국산 생성형 AI의 활용도 확산되고 있으며, 다크웹을 통해 목적 자체가 불법적인 사기(FruadGPT), 악성코드 생성(WormGPT)과 같은 사이버 범죄에 특화된 AI 모델이 유통되고 있어 이를 기반으로 한 사이버위협이 증가할 것으로 전망된다.

​

두 번째는 디지털 융복합 체계에 대한 사이버 위협 증가다. 자율주행 차량, 지능형(스마트) 빌딩･교통 체계 등 디지털 융합기술이 널리 확산되고 있으며, 이에 따라 기업･기관 중심의 공격에서 자율주행차, 지능형 농장(스마트팜) 등 디지털 융복합 제품･서비스에 대한 사이버 위협도 증가할 것으로 보인다.

​

다음으로 국제 환경 변화에 따른 사이버 위협 증가 가능성을 들었다. 우크라이나-러시아 전쟁 등 국제 분쟁이 심화되는 상황에서 국가 배후의 해커 그룹과 핵티비스트의 활동이 확대되어 정부기관 디도스, 사회기반시설 등에 사이버 공격을 통해 사회적 혼란을 유발하여 국민들의 불안을 가중시킬 우려가 높아지고 있다.

​

마지막으로 무차별 분산 서비스 거부(디도스) 공격이 증가할 것으로 예상된다. 올해 분산 서비스 거부(디도스) 공격 증가 추세를 고려할 때, 2025년도에는 정부･공공 및 민간 기업을 가리지 않고 지속적인 증가할 것으로 예측된다. 이에 따라 기업들은 선제적인 대응이 필요하며, 정보보호 인력 및 시설 투자 여력이 부족한 기업들은 한국인터넷진흥원에서 제공하는 ‘분산 서비스 거부(디도스) 사이버대피소’를 이용할 것을 적극 권장한다고 밝혔다.

​

과기정통부 류제명 네트워크정책실장은 “국민과 기업들의 보안인식 제고와 일상 속 사이버 위협에 대한 이용자 경각심 강화”를 당부하며, “고도화된 사이버위협에 체계적으로 대응할 수 있도록 더욱 유기적인 민간, 공공기관의 협력체계를 구축하여, 사이버위협의 선제적 방어와 억제를 통해 안전한 디지털 환경을 만들어 가겠다”라고 밝혔다.

​

구글 클라우드 역시 지난달 ‘2025년 사이버 보안 전망(Mandiant Cyber Security Forecast 2025)’ 보고서를 내놓으며 생성형 AI를 최대의 보안 위협으로 꼽았다. 보고서는 생성형 AI가 사이버 공격과 보안 모두에서 핵심적인 역할을 할 것으로 전망했다.

​

내년에는 대규모 언어 모델(LLM)과 딥페이크 기술을 활용한 정교한 피싱, 신원 도용, 취약점 탐색 등이 급증하며, 특히 보안 제약이 없는 AI 모델에 대한 수요가 증가할 것으로 예측된다. 또 정보 작전 분야에서도 AI가 대량의 콘텐츠 제작 및 가짜 뉴스 유포를 통해 사회적 혼란과 여론 조작을 증폭시키는 도구로 활용될 가능성이 크다고도 짚었다.

​

또 구글은 내년이 AI와 보안이 본격적으로 다음 단계에 접어드는 해가 될 것이라고도 짚었다. AI는 보안 관계자들이 반복적인 작업을 줄이고 워크플로를 간소화하도록 도와주며, 보안 분야에서도 주요한 도구로 자리잡고 있다는 것이다. 이에 따라 내년에는 완전한 자율 보안 작업으로 가기 전의 중간 단계인 반자율 보안 작업이 도입될 것이며, 이에 따라 보안 워크플로의 많은 부분에 AI가 개입하면서도, 여전히 인간의 감독이 필요할 것으로 바라봤다.

​

미국의 비영리조직 CIS(Center for Internet Security, 인터넷보안센터)가 지난 5일 내놓은 2025년도 예측에서도 전문가들은 AI가 사이버 공격과 방어 모두에서 중대한 영향을 미칠 것이라고 전망했다. 전문가들은 특히 AI 기반 피싱 이메일은 점점 더 설득력 있고 정교해져 인간의 실수를 유도하는 심리적 효과를 극대화할 가능성이 있다고 경고했으며 딥페이크 기술은 신원 도용, 사기, 고객 신원 확인(KYC) 보안 절차 우회 등 다양한 분야에서 악용될 위험이 크다는 점이 강조됐다.

​

숀 앳킨슨 CIS 최고 정보 보안 책임자는 AI가 공격자의 도구로 활용되며, 점점 더 복잡한 전략과 정교한 공격 기술을 지원하면서도, 방어적인 관점에서는 AI 기술이 '제로 트러스트 보안 모델'을 강화하고, 권한 상승 및 무단 접근을 방지하는 데 기여할 수 있을 것이라고 바라봤다.

​

또 마커스 삭스 CIS 수석 부사장은 "내년에는 AI가 사이버 보안에서 좋은 의미로든 나쁜 의미로든 더 큰 역할을 하게 될 것이다."라며 공격자들이 AI를 사용해 실시간으로 공격 전략을 변경하고 수행하는 사이 방어자 역시 위협 탐지, 이상 징후 발견에 AI 사용을 늘려나가며 결국 AI 군비 경쟁이 벌어질 것이라고 짚었다.

 

 

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)