유엔 회원국들이 지난주 목요일에 처음으로 인공지능을 감독하는 결의안을 채택했다. 이번 결의안은 인공지능의 부적절한 설계와 사용의 위험성을 인지하고 전 세계 국가가 자국의 국민과 기본적 인권을 보호하도록 촉구한다.
결의안은 미국이 처음 제안하고 중국과 120개 이상의 국가가 공동 후원했다.
"오늘 유엔 총회의 193개 회원국 모두가 한 목소리를 내어 AI가 우리를 지배하는 대신 우리가 AI를 지배하기로 선택했다." – 린다 토머스-그린필드 유엔 주재 미국 대사
결의안을 두고 미국과 다른 국가 사이 갈등
이번 결의안이 전체 사회의 공동선을 위해 마련되었음에도 불구하고 초반부터 모두가 100% 찬성한 것은 아니었다.
보도에 의하면 미국은 수개월 동안 협상을 진행하고 40번 이상의 회의를 통해 모두의 찬성표를 받을 수 있었다. 한 익명의 관계자는 "열띤 토론"도 진행되었다고 전했다.
대부분의 반대는 러시아, 중국, 쿠바에서 유래했으며 이들은 자국의 수정안이 반영된 후에야 동의했다. 해당 국가가 반대한 주요 이유는 다음과 같다.
두 요인이 결합되면서 일부 국가가 초기에 반대하는 양상을 띠었다. 그러나 결의안 초안이 수정되면서 중국, 러시아, 쿠바를 비롯한 모두가 만족스러운 결과물이 탄생하게 되었다.
결의안의 문제
전 세계 국가가 성장하는 AI의 영향력과 관련한 위험을 인지하고 이를 완화하기 위해 발을 벗고 나섰다는 점은 긍정적으로 평가할 만하다. 그러나 과거의 여러 조치가 그러했듯이 이번 결의안도 구속력이 없으며 패널티가 없어 실효성이 부족하다는 지적이 나왔다.
지난해 11월, 미국, 중국, 유럽연합을 비롯한 25개국은 블레츨리 선언(Bletchley Declaration)에 서명해 인공지능의 위험성을 완화하면서 개발하기로 합의했다. 해당 선언문은 개발도상국을 포함하지 않아 많은 비판을 받았다.
간단히 말해, 여러 국가의 개별적 시도에도 불구하고 아직까지 전 세계적으로 적용될 만한 견고하고 비협조적인 주체에 패널티를 줄 수 있는 AI 규제 프레임워크가 없다.
한 가지 희소식은 위와 같은 국제적 협약과 별개로 많은 국가가 AI 붐을 안전하게 관리하기 위한 조치를 취하기 시작했다는 점이다. 아래에서 몇 가지를 소개한다.
이 모든 프로그램이 AI 규제를 향한 긍정적 발걸음에 해당하지만, 강력한 패널티 규제가 마련되지 않는 한 큰 효과가 없을 수 있다. 많은 국가가 AI를 사용해 정부 지원 해커 그룹을 통해 경쟁국을 공격하고 있다는 사실은 비밀도 아니다. 패널티가 없다면 AI가 다음 대량 살상 무기로 변할지도 모른다.