AI 서울 정상회의 종료, 외신과 시민단체 평가는?

= 뉴시스

 

지난 21일부터 22일까지 이틀간 서울에서 세계 각국이 모여 AI 안전과 규범에 대해 논의하는 'AI 서울 정상회의'가 개최되었다. 이번 회의는 지난해 11월 영국 블레츨리 파크에서 열린 'AI 안전 정상회의'의 후속 회의로, 주요 7개국(G7)을 비롯한 세계 각국의 장관급 인사와 AI를 개발하는 빅테크 관계자들이 참석했다.

 

이번 회의에서 정부는 안전, 혁신, 포용 3대 AI 거버넌스 원칙을 국제 사회에 제시했으며, 안전하고 혁신적이며 포용적인 AI를 위한 '서울 선언'을 채택했다. 지난해 영국에서 채택된 강력한 AI 시스템의 위험을 관리하고 규제하기 위한 국제 협력을 강조하며 '안전' 문제에 중점을 둔 블레츨리 선언과 달리, 이번 회의에서 제시된 서울 선언은 '혁신'과 '포용' 두 가지 가치를 추가해 AI의 악영향을 최소화하면서도, AI의 긍정적인 사회적 영향에도 주목하며 인권과 지역적 AI 정책 통합에 중점을 둔다는 차이점이 있다.

 

서울 선언은 크게 ▴상호 운용성을 지닌 보안 조치의 중요성 ▴각국의 AI 안전연구소 간 네트워크 확대 및 글로벌 협력 촉진 ▴안전·혁신·포용적인 AI 생태계를 조성하기 위한 정책 개발 및 거버넌스 구축 의지 ▴기업들을 비롯한 다양한 이해관계자들의 참여 필요성 등의 내용을 포함하고 있다. 또한, 'AI 안전 과학 국제협력을 위한 서울 의향서'를 채택해 AI 안전 증진을 위한 국제 공조와 협력을 약속했다.

 

한편, 회의에 참석한 16개 글로벌 AI 기업들 역시 'AI 안전 서약'을 통해 자발적으로 AI 위험을 예방하겠다고 서약하며 주목받았다. 이 서약에는 오픈 AI, 구글, 아마존, 마이크로소프트, 삼성, IBM, xAI, 미스트랄 등이 참가했다. 서약에는 기업이 개발한 AI 모델이 위험 기준치를 초과할 우려가 있을 경우, AI 배포를 중단하고 시스템을 수정하는 등 위험을 완화하도록 하는 내용이 담겼다. 참가 기업들은 민감한 영업비밀을 제외한 AI 안전 전략 등의 상세한 정보를 서로 공유하기로 합의했다.

톰 루 구글 딥마인드 부사장은 "이번 약속은 선도적인 개발자들 사이에서 AI 안전에 관한 중요한 모범 사례를 확립하는 데 도움이 될 것이다."라며 이번 협약은 국제 안전 정상회의의 가치를 보여준다고 평가했다.

 

안나 마칸주 오픈 AI 글로벌 업무 담당은 "AI 안전 분야는 빠르게 진화하고 있다. 특히 과학과 함께 접근 방식을 개선하는 데 중점을 둔 이번 서약을 지지하게 되어 기쁘다."라며 "앞으로도 다른 연구소, 기업, 정부와의 협력을 통해 AI가 안전하고 모든 인류에게 혜택을 줄 수 있도록 최선을 다할 것이다."라고 약속했다.

 

'인공지능의 대부'로 불리는 요슈아 벤지오 교수는 AI 기업들의 이런 움직임을 환영한다고 밝혔다. 벤지오 교수는 "AI 위험 관리의 투명성을 높이기 위한 조치와 극단적인 위험을 발생시킬 AI 모델을 위험성이 제거될 때까지 중단하겠다는 기업들의 약속을 환영한다."라며 "이런 자발적인 의지는 분명히 다른 규제 조치가 동반되어야 할 것이지만, 그럼에도 불구하고 AI 안전을 촉진하기 위한 국제 거버넌스 체제를 구축하는 데 중요한 진전을 이루고 있다."라고 평가했다.

 

정부는 이번 회의를 계기로 서울 선언 등 정상 간 첫 합의가 도출됐고 의제도 안전에서 혁신과 포용까지로 확대되면서 AI 정상회의는 포괄적인 AI 거버넌스를 논의하는 유일한 정상급 플랫폼으로 자리매김하게 되었다고 밝혔다. 또한, 서울 선언은 정상 간 합의로, 이는 블레츨리 파크에서 이룬 각료 간 합의를 격상시켰다는 점에서 의미가 크다고 평가했다.

 

그러나 이번 회의에서 나온 선언과 서약이 규제나 강제성이 없는 약속에 불과해 실효성이 없을 것이라는 우려도 제기되었다. AP 통신은 "AI 기업들이 거창하게 들리지만 구속력이 없는 안전 약속을 한 것은 이번이 처음이 아니다."라고 전하며, 이미 아마존, 구글, 메타, MS 등 주요 AI 기업이 지난해 백악관에서 한 차례 안전 서약을 맺었던 점을 상기시켰다.

 

IT 매체 아스 테크니카는 이번 서약이 지난 11월 발표된 블레츨리 선언을 토대로 이루어졌지만, 기업이 약속을 이행하지 못할 경우 어떤 책임을 지게 될지는 여전히 불분명하다고 지적했다. 또 더 레지스터는 "이 모든 약속이 훌륭해 보이지만, 세부적인 내용은 아직 해결되지 않았다."라고 전하는 등 외신들은 이번 서약을 구체적인 내용과 구속력이 없는 약속에 불과하다고 잇따라 지적하고 있다. 지난해 영국에서 나온 블레츨리 선언과 마찬가지로 구체적인 내용이 부족한 추상적인 선언에 불과하다는 것이다.

 

또한, 이번 서울 회의의 규모가 지난번 영국에서 열린 1차 회의에 비해 작아진 것에 대한 우려도 제기되었다. 영국에서 열린 지난번의 회의에서는 28개국이 참석했으며, 일론 머스크 xAI CEO, 샘 올트먼 오픈 AI CEO, 브래드 스미스 MS 회장 등 주요 관계자들이 직접 참석했지만, 이번 서울 회의는 화상으로 진행되었고 참가국의 규모도 줄었다. 이에 전 세계적으로 AI의 위험성 관리에 대한 관심이 식은 것 아니냐는 우려가 나오고 있다.

 

한편, 국내 시민단체들은 회의 개최를 앞두고 시민단체가 배제된 점을 지적하기도 했다. 참여연대는 회의가 열리기 직전인 지난 20일, AI의 위험성으로부터 시민의 안전과 인권을 보호하기 위한 견고한 국제 규범을 마련할 것을 한국 정부와 각국 정부에 촉구했다.

 

참여연대는 "이번 AI 서울 정상회의는 전 세계 다중 이해관계자와 함께 논의하겠다는 취지와 달리, 한 사회의 인공지능 규범 형성 과정에 중요한 이해관계를 갖는 시민사회를 배제하여 '포용'의 가치를 훼손하고 불투명하게 운영되고 있는 것에 대해 심각하게 우려하지 않을 수 없다."라며 "한국 정부의 AI 정책에 비판적인 시민사회는 이번 국제 회의에 초대조차 받지 못했다. 규범의 논의 과정 자체가 투명하게 진행되지 않으면 그 결과물인 AI 규범에 대한 사회적 신뢰 또한 얻기 힘들다."라고 지적했다.

 

또한, EU가 독자적인 AI 법안을 통과시키고 미국 행정부가 적극적으로 AI를 규제하는 행정명령을 발동하는 상황에서, 한국 정부는 AI의 위험과 악용을 막아야 한다고 주장하면서도, 이를 위한 실질적인 조치는 방관하고 있다고 비판했다. 한국 역시 22대 국회에서 AI의 위험성을 규율하고 시민의 안전과 인권을 보호할 수 있는 실질적인 법안을 마련해야 한다고 촉구했다.

 

 

 

현기호 기자

저작권자  이코리아 무단전재 및 재배포 금지

 

더 많은 기사는 '이코리아'(http://www.ekoreanews.co.kr/)