유엔이 처음으로 인공지능(AI)에 관한 결의안을 채택했다. 부적절한 AI 개발의 위험성을 경고하고 디지털 격차 해소 등을 촉구하는 것이 골자로, 이를 위해 AI의 안전한 사용에 관한 국제적인 합의 마련이 시급하다는 내용 등이 담겼다.
21일(현지시간) AP통신 등에 따르면 유엔은 이날 총회에서 '지속 가능한 발전을 위한 안전하고 위험이 없으며 신뢰할 수 있는 AI 기회 활용'에 관한 결의안을 표결 없이 컨센서스(전원동의)로 채택했다. 미국이 주도한 이번 결의안은 한국과 영국 등 미국의 우방국은 물론 중국도 참여했다.
결의안에서 유엔 회원국들은 "AI 시스템의 부적절하거나 악의적인 설계·개발·배포 및 사용은 인권과 기본적 자유의 보호·증진 및 향유를 약화할 수 있는 위험을 초래한다"며 책임 있는 AI 개발을 강조했다. 이와 함께 AI가 디지털 격차 확대, 구조적 불평등·편견 악화, 사생활 침해 같은 문제를 야기할 수 있다고도 지적했다. 이 같은 문제를 해결하기 위해 유엔 회원국들은 AI 시스템을 운영하면서 인권과 기본적 자유가 존중·보호·증진돼야 한다고 결의했다. 또한 국가 내 또는 국가 간 디지털 격차 해소를 위해 노력하고 이를 위해 AI 관련 논의에서 모든 회원국이 참여해야 한다는 내용도 결의안에 담았다.
유엔총회 결의는 국제법상 구속력은 없지만, 만장일치로 회원국이 찬성했다는 점에서 향후 국제사회가 AI 관련 규제나 거버넌스 체계를 논의하고 마련하는 데 있어 기초가 될 전망이다.
결의안을 주도한 린다 토머스-그린필드 주유엔 미국 대사는 유엔 총회 연설에서 "딥 페이크와 같은 AI가 생성한 콘텐트는 정치적 논쟁의 진실성을 훼손할 가능성이 있고, 알고리즘의 편향은 사회 분열과 소수자 차별을 심화시킬 수 있다"고 말했다. 결의 채택 후엔 "193개 회원국 모두가 인공지능이 우리를 지배하는 게 아니라 우리가 인공지능을 지배하기로 결정했다. 획기적인 결의"라고 강조했다.
최근 AI 안전 관련 논의는 이 분야 양대 강국인 미국과 중국을 중심으로 활발히 이뤄지고 있다. 중국 관영 CCTV와 영국 파이낸셜타임스(FT) 등에 따르면 지난 14일 서방과 중국의 주요 AI 과학자들은 AI 안전에 관한 국제회의를 열고 "AI 위험 피하려면 냉전 시대에 핵 다루듯 인류가 협력해야 한다"는 내용에 합의했다.