빅테크, AI 기능 도입에 개인정보 보호 우려 커져

 

= 픽사베이

일상생활 속 각종 제품과 서비스에 AI 기능이 도입되며 개인정보유출 우려 역시 함께 증가하고 있다. 

최근 삼성전자, 애플 등 주요 글로벌 스마트폰 제조기업이 잇따라 AI 스마트폰을 출시하며 이용자의 개인정보 보호가 주목받고 있다. 글로벌 시장조사업체 카날리스가 최근 내놓은 보고서에 따르면 지난해 AI 스마트폰의 점유율은 5%에서 16%까지 성장했으며, 2028년에는 AI 스마트폰의 비중이 54%까지 증가할 것으로 바라봤다. 

= 카날리스 보고서 갈무리

 

이에 따라 사용자들은 AI 기능으로 인해 개인정보 보호에 대한 우려에 직면하고 있는 것으로 나타났다. 설문조사 참여자의 절반 이상은 자신의 데이터가 안전한지 확신하지 못한다고 답변했으며, 이는 AI 스마트폰과 관련된 이용자들의 가장 큰 관심사인 것으로 드러났다. 카날리스는 개인정보 보호 및 데이터 보안 위험이 AI 스마트폰 이용자들의 가장 큰 우려였으며, 이는 AI 알고리즘에 의한 개인 데이터 수집, 저장, 활용 가능성에 대한 우려인 것으로 보인다고 짚었다. 

 

뉴욕타임즈는 빅테크가 다양한 AI 기능을 도입하면서 이용자들의 개인정보가 위험에 처할수도 있다고 23일 전했다. AI 스마트폰과 AI PC의 등장으로 기술기업들은 서비스 이용자들의 데이터를 더 많이 필요로 하게 되며, 이 과정에서 데이터가 유출되는 등의 위험이 벌어질 수 있다는 것이다.

 

예를 들면 애플의 새로운 AI 기능 ‘애플 인텔리전스’는 AI를 사진으로 편집하고 문자 메시지와 이메일에 자동으로 응답하며 웹 문서를 요약하는 등의 기능을 탑재했다. 애플은 대부분의 AI 작업을 온디바이스로 처리하기 위해 노력하고 있으며, 서버에 데이터를 전송해야 할 경우 암호화를 거치는 등의 안전 장치를 개발했다고 주장하고 있다.

 

하지만 매튜 그린 존스홉킨스대 교수는 애플이 어떤 종류의 AI 작업 요청과 데이터가 회사의 서버로 전송될지 명확히 밝히지 않고 있으며, 장치를 떠나는 모든 데이터는 본질적으로 취약해질 수 있다고 지적했다.

 

최근 마이크로소프트가 새로운 AI 기능을 도입하려다 개인정보 유출 우려로 출시를 연기한 사례도 있다. 마이크로소프트는 지난달 사용자가 작업한 문서와 파일, 읽은 이메일 또는 탐색한 웹 사이트를 빠르게 다시 불러올 수 있도록 도와주는 ‘리콜’ 기능을 공개했다.

 

그런데 보안 전문가들은 리콜 기능이 사용자가 컴퓨터에서 수행하는 작업을 5초마다 스크린샷으로 저장하는 방식으로 작동하며, 이에 PC가 해킹당할 경우 사용자가 입력했거나 열람한 모든 정보가 쉽게 노출될 수 있어 이에 따라 방대한 데이터 침해가 벌어질 수 있다고 지적했다. 

 

젠 골벡 메릴랜드대 교수는 CNN과의 인터뷰에서 리콜 기능은 잠재적인 "악몽"을 초래할 수 있다고 지적했다. 골벡 교수는 "시크릿 모드를 사용하거나 기록을 지운다고 해도 이 도구는 화면에 있던 모든 것에 액세스할 수 있기 때문에 자신을 보호할 수 있는 옵션이 없다."라며 "사람들은 자신이 하는 모든 일이 영구적으로 기록된다는 개인정보 보호 위험을 이해하지 못한 채 이 멋진 기능을 사용하고 싶어 할 것이다."라고 지적했다.

 

이어지는 보안 우려에 마이크로소프트는 리콜 기능을 새 PC 제품과 함께 출시하는 대신, 출시를 연기하고 별도의 소규모 프리뷰를 진행할 예정이라고 밝혔다.

 

세계 각국의 규제기관 역시 AI의 개인정보보호에 주목하고 있다. 특히 강력한 개인정보보호 정책을 시행하고 있는 유럽지역에서는 빅테크의 새로운 AI 서비스 출시가 보류되는 사례가 나왔다. 

 

메타는 지난 14일 EU의 개인정보 보호 규제에 따라 새로운 AI 서비스 ‘메타 AI’의 유럽 출시를 보류했다. 메타 공식 블로그에 따르면 아일랜드 데이터 보호 위원회는 메타가 페이스북, 인스타그램 등 자사 서비스 이용자의 데이터를 LLM 훈련에 사용하는 것을 연기할 것을 요청했다. 이에 따라 메타는 메타 AI의 유럽 출시를 연기했으며, 이번 요청을 두고 ‘유럽의 혁신과 AI 개발 경쟁에 있어 한 걸음 후퇴’라고 지적하며 "유럽 사람들에게 AI의 혜택을 제공하는 것을 더욱 지연시킬 것이다."라고 반발했다.

고학수 개인정보보호위원회 위원장 = 뉴시스

개인정보보호위원회는 인공지능 시대 개인정보 정책 방향을 국제사회와 논의했다고 23일 밝혔다. 개인정보보호위원회는 6월 20일과 21일 이틀간 캐나다 브리티시 컬럼비아주 개인정보 감독기구가 화상으로 주최한 「제61차 아시아태평양 개인정보보호감독기구 협의체(APPA*) 포럼」에 참석해 아시아·태평양 지역의 개인정보 현안 및 정책 협력을 논의했으며, 고학수 위원장이 패널로 참석해 최근 발표한 ‘한국의 합성데이터 참조 모델’을 공유하고, 개인정보 강화 기술로 주목받고 있는 ‘합성데이터’ 발전 방안에 대해 논의했다고 밝혔다. 

 

이에 대해 개보위는 연구자나 기업 등이 인공지능 학습을 위해 활용할 수 있는 구강 이미지 등 5가지 종류 합성 데이터집합 참조 모델과 함께, 합성데이터 생성 시 필요한 유용성·안전성 검증 절차 등의 소개에 많은 감독기구에서 높은 관심을 보였다고도 밝혔다.

 

고학수 위원장은 이번 포럼 관련 “아시아·태평양 국가들과 개인정보 정책 및 동향을 공유·논의할 수 있었던 뜻깊은 자리였다”며 “특히 지난 2월 우리 위원회를 방문해 우리나라의 법 개정 경험을 공유했던 말레이시아 감독기구가 협의체 회원이 된 것을 환영한다”는 뜻을 밝히며, 아시아·태평양 지역 간 협력을 강화해 나가면서 아시아 지역 개인정보 감독기구의 역량 제고를 지원하는 데 더 많은 관심을 기울여 나가겠다고 소감을 전했다. 

 

 

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)