빠르게 진화하는 AI가 인류를 멸종시킬 수준의 위협이 될 수 있다는 경고가 미국에서 나왔습니다.
AI 정책 조언 등을 제공하는 민간업체 글래드스톤 AI가 미국 국무부 의뢰를 받아 이번 주 발표한 보고서는, 가장 발전한 형태의 AI 시스템이 최악의 경우 인류 멸종 수준의 위협이 될 수 있다고 경고했습니다.
미국 CNN은 최근 이 보고서 내용을 전하며 "AI로 인한 재앙적인 국가 안보 위험에 대한 경고"라고 했습니다.
보고서에는 "미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다"는 경고도 담겼습니다.
보고서는 크게 두 가지 위험을 꼽았는데 첫 번째는 AI 시스템이 무기화돼 잠재적으로 돌이킬 수 없는 피해를 줄 수 있다는 점을 꼽았습니다.
경쟁 압박으로 기업들이 안전과 보안을 희생하면서 AI 개발을 가속화하고 있다는 것입니다.
또 하나는 어느 시점이 되면 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있다는 점입니다.
보고서는 "AI와 범용인공지능이라 불리는 AGI의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다"며 AI 군비 경쟁과 분쟁을 예상했습니다.
특정 AI 차세대 모델이 오픈 엑세스로 공개될 경우, 이 모델의 잠재적인 설득 능력이 선거 개입이나 유권자 조작 등에 사용돼 민주주의를 파괴할 수 있다는 주요 AI 연구소 관계자의 구체적인 우려도 담겼습니다.
보고서는 오픈AI, 구글 딥마인드, 페이스북 모회사 메타, 앤트로픽 등 주요 빅테크 기업을 포함한 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기 전문가, 국가 안보 정부 당국자 등 200여 명을 1년여에 걸쳐 인터뷰한 내용을 기반으로 작성됐습니다.
(취재 : 김민정, 영상편집 : 고수연, 제작 : 디지털뉴스편집부)
Copyright Ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지