AI 검색 기능에서 취약점 발견...사용시 주의할 점은?

= 챗 GPT 누리집

​

[이코리아] 글로벌 기술 기업들이 잇따라 AI 검색 시장에 진입하며 AI 기반 검색에 대한 관심이 높아지는 가운데, AI 기반 검색 기능에 취약점이 있다는 주장이 나오고 있다.

​

영국의 매체 가디언은 24일 오픈 AI가 서비스중인 AI 검색 기능 '챗GPT 서치'에 취약점이 있다고 보도했다. 가디언이 주목한 위협은 '프롬프트 주입(prompt injection)'이라는 기술로, 이는 웹페이지에 숨겨진 텍스트를 이용해 AI의 요약 및 답변 결과를 조작하는 기법이다. 가디언은 악의적인 사용자가 프롬프트 주입을 통해 AI 검색 이용자를 기만할 우려가 있다고 지적했다.

​

가디언은 한 실험에서 가상의 카메라 제품 페이지를 제작하고, 숨겨진 텍스트를 통해 긍정적인 평가만 이용자에게 제공하라는 지시를 삽입했다. 해당 웹페이지의 요약을 부탁받은 챗GPT 서치는 부정적인 리뷰가 포함된 페이지임에도 불구하고 숨겨진 명령어를 적용해 이용자에게 긍정적인 평가만을 요약 결과로 제공했다.

​

챗 GPT 서치는 지난 10월부터 유료 이용자를 대상으로 제공되다가 지난 18일부터는 모든 챗GPT 무료 이용자에게도 제공되고 있는 AI 검색 서비스다. 챗GPT 서치는 이용자의 질문에 따라 실시간 웹 검색을 스스로 수행해 최신 정보를 제공하고, 이용자가 직접 아이콘을 눌러 검색할 수도 있다. 검색 결과를 요약한 답변과 함께 사진이나 유튜브 동영상 역시 제공된다. 사람과 대화하듯 후속 질문을 이어갈 수 있으며, 이 과정에서 각 질문을 통해 공유된 맥락을 구축한다. 또 iOS 모바일 환경에서는 주소와 전화번호 등의 기능이 연동된다.

​

사이버 보안 전문가 제이콥 라르센(Jacob Larsen)은 가디언과의 인터뷰에서 "현재 상태로 챗GPT 검색 시스템이 완전히 모두에게 공개될 경우, 사용자들을 속이기 위한 웹사이트가 다수 생성될 위험이 높다."라고 경고했다. 또 챗GPT는 악성 코드를 포함한 웹사이트에서 코드를 참고해 이를 결과물로 내놓기도 해 사용자가 사기성 정보나 보안 위협에 노출될 위험이 크다는 점도 지적됐다.

​

올해 초에는 구글의 AI 검색 기능에서도 유사한 문제가 발생했다. 더 레지스터 등 외신의 지난 3월 보도에 따르면, 구글의 AI 기반 검색 결과 기능에서 스팸성 콘텐츠와 사기성 링크가 상위에 노출되는 문제가 잇따라 발생했다. 게다가 구글이 스팸과 AI 생성 콘텐츠를 배제하는 과정에서 많은 독립 웹사이트의 트래픽이 급감하는 등의 문제 역시 발생했다.

​

사이버 보안회사 SR랩스의 수석 과학자 카르스텐 놀(Karsten Nohl)은 가디언과의 인터뷰에서 AI 기반 검색 서비스를 완전히 신뢰해서는 안된다고 지적했다. 그는 AI 기반 검색 엔진은 판단력이 부족한 어린아이와 같아, 전달받은 정보를 비판 없이 그대로 반환한다고 지적하며, AI가 내놓는 결과물은 필터링 없이 보거나 사용해서는 안된다고 주장했다.

​

놀은 AI를 활용한 검색이 직면한 문제가 해커들이 악성 코드나 기타 유해한 콘텐츠를 포함한 웹사이트를 검색 결과에서 높은 순위에 올리기 위해 조작하는 "SEO 포이즈닝(SEO poisoning)"이라는 기법과 유사하다고 지적했다. 해당 기법은 구글, 마이크로소프트 빙 등 전통적인 검색 엔진에서 운영사와 해커가 오랜 시간 경쟁을 벌여 온 영역으로, 챗GPT가 검색 분야에 발을 들여놓은지 얼마 되지 않은 만큼, 구글을 따라잡기 위해 해야 할 일이 많다고 지적했다.

 

 

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)