'AI 에이전트' 출시 본격화... 이용자 개인정보 침해 우려도

= 픽사베이

​

[이코리아] 올해 AI 업계에서 가장 주목받는 키워드는 'AI 에이전트'다. AI 에이전트는 자율적으로 작업을 수행하는 AI 서비스로, 기존의 챗봇이나 자동화 시스템과 차별화되어 차세대 AI 솔루션으로 주목받고 있다. 딜로이트는 올해 생성형 AI를 사용하는 기업의 25%가 본격적인 AI 에이전트를 도입할 것이며, 이는 2027년에는 50%까지 증가할 것으로 예측했다. 또 글로벌 시장조사기관 그랜드뷰리서치는 AI 에이전트 시장이 2030년까지 연평균 42.8% 성장할 것으로 예측하기도 했다.

​

여러 기술 기업에서 잇따라 AI 에이전트 개발을 발표하고 있다. 외신에 따르면 오픈 AI는 월 이용료가 수천만 원에 달하는 전문가용 AI 에이전트를 출시할 예정이다. 더인포메이션 등 외신에 따르면 오픈AI는 잠재적 고객 평가, 소프트웨어 엔지니어링 등 다양한 용도의 AI 에이전트를 개발 중이며 연구 수행, 논문 작성, 데이터 분석 및 정리 등의 업무를 자율적으로 수행할 수 있다.

​

특히 소프트웨어 개발을 위한 AI 에이전트는 월 1만 달러, 박사급 연구가 가능한 AI 에이전트는 월 2만 달러의 이용료를 부과하는 등 고가의 이용료를 책정할 계획이다. 오픈 AI가 이에 앞서 지난달 출시한 AI 에이전트 '오퍼레이터'의 경우 월 200달러의 '챗 GPT 프로' 구독자에게 제공되고 있는 상황이다.

​

​

= 마누스 유튜브 갈무리

​

한편 최근 중국에서 공개된 AI 에이전트 '마누스(Manus)' 역시 주목받고 있다. 마누스는 중국의 스타트업 '버터플라이 이펙트'가 공개한 AI 에이전트로, 개발진은 마누스가 “최초의 범용 AI 에이전트(General AI Agent)”라고 주장하고 있다.

​

마누스는 라틴어로 '손'을 뜻하는 단어이며, 생각을 행동으로 바꿔주는 범용 AI 에이전트"로 홍보되고 있다. 마누스는 '다중 에이전트 구조'를 채택해 복잡한 작업을 여러개로 분할해 적절한 에이전트에 할당한다. 그리고 마누스는 작업을 수행하는 모든 에이전트를 관리하는 지휘자의 역할을 한다.

​

공개된 영상에서 마누스는 이력서 정리, 다양한 주식의 상관 관계 식별, 뉴욕 부동산 검색 등 이용자가 요청하는 작업을 수행하는 모습을 보여준다. 또 모든 작업은 클라우드에서 수행되어 이용자가 기기를 끈 상황에서도 작업을 지속할 수 있다.

​

일부 매체에서는 마누스를 두고 지난해 12월 등장한 저비용 고성능 AI 딥시크의 충격에 비유하며 '제 2의 딥시크'로 주목하고 있는 상황이다. 포브스는 마누스의 등장에 대해 "자율 AI 에이전트의 시대가 열렸고 중국이 이를 주도하고 있다. 지능이 더 이상 인간의 고유한 자산이 아닌 세상에서 일하고, 창작하고, 경쟁한다는 것이 무엇을 의미하는지 다시 생각해야 할지도 모른다."라고 전했다.

​

다만 마누스가 '제 2의 딥시크'라는 표현은 과장광고라는 회의적인 시선도 나돈다. 일부 연구자들은 AI 에이전트가 자율적인 AI 제품이 아닌 단순한 워크플로우 생성기에 불과하다고 바라보고 있으며, 일부 이용자들 사이에서는 항공편 예약이나 음식 주문 등 간단한 요청에서도 실수를 하는 등 마누스가 아직 완벽하게 작동하지 않는다는 지적도 나온다.

​

한편 AI 에이전트가 발전하며 그 위험성에 대한 경고의 목소리도 커지고 있다. 지난 2023년 아직 'AI 에이전트'라는 용어가 본격적으로 등장하기 전, '오토 GPT'와 같은 수준의 프로그램이 개발되기 시작한 시점에도 이와 같은 논의가 있었다. 자율적으로 코드를 작성하는 자동화 AI의 특성상 사이버 공격이나 범죄 행위에 사용될 수 있다는 우려가 나왔으며, 인간의 개입 없이 작업을 수행하도록 내버려 둘 경우 그 과정을 통제할 수 없게 될 것이라는 우려도 나왔다.

​

포브스는 마누스와 같은 AI 에이전트가 심오한 윤리적, 규제적 문제를 제기한다고 짚었다. 그 예시로 AI 에이전트가 회사에 수백만 달러의 손실을 초래하는 재정적 결정을 내렸을 경우나 감독 없이 행동하도록 훈련된 자율 시스템이 잘못된 결정을 내렸을 경우의 책임 소재에 대해 지적했다. 또 세계 각국이 AI가 인간의 감독을 필요로 한다고 가정하는 상황에서, 스스로 감독 없이 작동하는 AI 에이전트의 등장은 그 가정을 깨뜨리고 있다고도 지적했다.

​

개인정보 보호에 대한 우려도 나온다. 구글 출신의 AI 전문가 메러디스 휘태커는 지난 8일 텍사스주 오스틴에서 열린 SXSW 콘퍼런스에서 AI 에이전트가 이용자의 개인정보를 침해할 우려가 있다고 경고했다. 그녀는 현재 AI 에이전트가 일종의 마법의 '지니 봇' 처럼 홍보되고 있다고 꼬집으며, AI 에이전트에게 작업을 맡기면서 이용자의 데이터를 과도하게 맡기고 있다고 경고했다.

​

인간이 AI 에이전트에 너무 많은 통제권을 부여하게 되면 클라우드 서버를 통해 신용카드 정보와 같은 민감한 정보가 처리될 것이며, 결국 이는 개인정보 침해로 이어질 수 있다는 우려다.

 

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)