세계 첫 'AI 규제법' 최종 승인
'개인 성향-신념 분류' 기술 금지
CNN "규제강도, 美수준 뛰어넘어"
AI업계 "기술발전 저해" 협상요청
올 11월부터 유럽연합(EU) 회원국에선 스마트폰으로 사람 얼굴을 인식해 성적 취향을 알아내거나 개인의 소득, 사회적 지위를 점수로 매기는 인권침해적 인공지능(AI) 서비스가 금지된다. 인간 수준의 사고능력을 지닌 범용인공지능(AGI·Artificial General Intelligence) 개발 기업은 내년 5월부터 당국의 철저한 평가를 받고 심각한 사고는 꼭 보고해야 한다.
EU가 13일 세계 최초로 AI법을 승인함에 따라 AI의 위험 수준에 따라 차등화된 규제가 순차적으로 시행된다. 'AI 선진국' 미국에선 "미국의 조치를 뛰어넘는 규제"라는 의견도 나왔다. 지난해 10월 AI를 통제하는 행정명령에 서명한 미국보다 내용과 형식에서 모두 앞선다는 평가다. 반면 AI 기업들은 "산업 발전을 저해할 수 있다"고 우려의 목소리를 냈다.
관건은 AI법이 현실적으로 얼마나 효과를 발휘할 수 있느냐에 있다. 이 때문에 스페인 등은 규제기관을 설립하고 전문인력 확보에 적극 나서고 있다.
● 생체인식 등 올 11월부터 금지
EU의 AI법은 AI 기술을 위험 수준에 따라 규제한다. 최고 단계인 '허용될 수 없는 위험'부터 '고위험' '제한된 위험' '저위험'까지 4단계로 분류됐다. 법을 위반할 경우엔 해당 회사의 세계 매출 최대 7%에 해당하는 벌금이 부과될 수 있다.
'허용될 수 없는 위험'은 스마트폰 안면인식 결제 시스템처럼 사람 얼굴을 촬영해 이용자의 성적 취향, 정치·종교적 신념, 인종 등 민감한 정보를 알아내는 AI가 대표적이다. 실시간 얼굴을 인식한 뒤 이를 기존 데이터를 바탕으로 분류해 특정인의 정보를 추론해내는 방식이다. 음성 인식으로 어린이의 위험한 행동을 유도하는 장난감 등도 포함된다.
이 같은 기술은 11월 먼저 금지된다. 다만 테러나 성폭력 등 중대범죄와 관련된 용의자 수색 등엔 예외적으로 허용할 방침이나, 이 역시 법원의 허락을 받아야 한다.
당국의 주요 규제 대상이 될 것으로 전망되는 '고위험' AI 기술은 인간의 삶 전반을 다양하게 포함시켰다. 생명 및 건강에 위험을 일으킬 수 있는 인프라부터 시험 채점 등 교육·직업훈련, 이력서 분류 등 고용 및 근로자 관리, 신용조회 등 공공·민간 서비스 등이 망라된다. 고위험 AI 기술은 개발부터 엄격한 심사를 거치면 시장에 내놓을 수 있다.
'제한된 위험' AI엔 올해 '슈퍼 선거의 해'를 맞아 더욱 관심이 쏠리는 생성형 AI와 딥페이크 등이 포함된다. 기업들은 이용자들이 콘텐츠가 생성형 AI나 딥페이크임을 알아보도록 반드시 표시해야 한다. '저위험' AI는 비디오 게임이나 스팸 필터 앱 등 현재 EU에서 허용되는 대부분의 AI 기술을 일컫는다.
● 규제기관 신설, 인재 유치 경쟁
미 CNN방송은 "EU의 AI법은 중요하고 파괴적 기술을 규제해 미국을 뛰어넘었다"고 보도했다. 반면 영국 런던 영국왕립국제문제연구소(채텀하우스)는 "중국은 이미 AI 규제 규정과 함께 표준 설정에 상당한 진전을 이뤄냈다"고 평가했다.
AI 기업들은 이 법이 관련 산업 발전을 위축시킬 것을 우려하고 있다. 유로뉴스에 따르면 기술기업과 무역협회를 대표하는 디지털유럽은 이미 EU 측에 관련 협상을 요청한 상태다.
EU 회원국들은 AI법 최종 승인에 앞서 규제기관 설립 및 전문인력 채용 등 인프라 구축에 집중해왔다. 유로뉴스는 "스페인은 지난해 라코루냐에 AI 감독기관(AESIA)을 설립해 EU 회원국 중 처음으로 AI 규제기관을 마련했다"고 전했다. 아일랜드는 기업무역고용부가 AI법에 대한 국가 시행 계획 개발을 주도할 예정이다.