유럽에서 인공지능(AI)을 활용한 생체 정보 수집이 엄격히 제한되고, 개인의 특성과 행동을 데이터화해 점수를 매기는 '사회적 점수 평가(소셜 스코어링)'가 금지된다. 글로벌 빅테크들의 AI 경쟁이 치열해지며 그 위험성에 대한 경고가 커지는 가운데 유럽의회가 이런 내용을 골자로 한 세계 첫 'AI 규제법(AI Act)'을 통과시켰다.
지난 13일(현지시간) 로이터통신 등에 따르면 이날 프랑스 스트라스부르에서 열린 유럽의회 본회의에서 AI 규제법의 최종안이 찬성 523표, 반대 46표, 기권 49표로 가결됐다. 로베르타 메솔라 유럽의회 의장은 "혁신을 가능하게 하는 동시에 인간의 기본권을 보호해 줄 선구적인 법안"이라고 의의를 밝혔다.
빅테크의 본거지인 미국에서는 지난해 10월 조 바이든 대통령이 AI 개발자가 정부와 주요 데이터를 공유하도록 하는 내용의 행정명령을 발표한 바 있지만, 민간·정부를 아울러 포괄적인 기술 규제법을 내놓은 것은 유럽연합(EU)이 처음이다.
핵심은 AI 서비스의 위험도를 4단계로 나누어 차등 규제한다는 점이다. 우선 AI를 활용한 실시간 생체 정보 수집·식별 시스템이 사실상 금지된다. 강간·테러 등 중대 범죄 용의자 수색 등 극히 예외적인 경우에만 법원의 사전 허가를 받는다는 조건으로 허용된다. 개인의 특성·행동 데이터로 점수를 매기는 소셜 스코어링 역시 금지된다.
의료·교육·고용·금융 등 필수적인 공공·민간 서비스와 법 집행, 이주 및 국경 관리 등 국가의 주요 시스템과 관련한 AI는 '고위험 등급'으로 분류된다. 이 경우 사람의 감독을 받아야 하고, 위험관리 시스템을 구축하는 일도 필수 의무가 된다. 반면 '스팸 필터'처럼 위험도가 낮은 AI 서비스는 가벼운 규제를 받게 된다. BBC는 "EU는 대부분 AI 서비스가 이 범주에 속할 것이라 보고 있다"고 전했다.
주목할 것은, 사람과 유사한 수준 혹은 그 이상의 지능을 갖춘 범용 AI(AGI)를 개발하는 기업에 '투명성 의무'를 부과하기로 한 점이다. 이들 업체는 EU의 저작권법을 준수해야 하고, AI를 학습시키는 데 이용한 콘텐트를 명시해야 한다. 사이버 공격, '유해한 선입견' 전파 등 EU가 위험하다고 규정한 사고 발생을 막기 위한 조치도 필수적으로 마련해야 한다. 'AI 학습에 이용한 콘텐트 명시 규정' 등은 기업의 기밀과 연관된 사항일 수 있어 유럽 시장을 공략하려는 빅테크들의 고심이 깊어질 것으로 보인다.
이 밖에도 딥페이크 영상·이미지에 대해 'AI로 만든 콘텐트'라고 표기하도록 하는 안 등이 담겼다.
AI 규제법은 EU 27개국 장관들이 내달 최종 승인하면 관보 게재를 거쳐 발효된다. 일부 금지 조항은 발효 뒤 6개월부터 적용되며, 이후 단계적으로 도입돼 2026년 이후 전면 시행될 예정이다. 규정을 어길 시 기업은 세계 매출액의 1.5%에서 최대 7%에 달하는 벌금을 내야 한다.
인공지능 전문가들 사이에서는 대체로 긍정적인 평가가 나온다. 미국 CNBC 방송은 "법률 전문가들은 이 법안이 국제 AI 규제의 중요한 이정표가 될 것이라 보고 있다"며 "다른 국가들이 이를 따를 수 있도록 길을 닦아줬다"고 평했다. BBC 또한 "EU는 이 법안을 글로벌 표준으로 만들려고 할 것"이라며 "많은 국가가 이를 따르게 될 것"이라고 내다봤다.
그러나 자칫 혁신을 가로막을 수 있다는 우려도 나온다. 기술의 발전 속도가 너무 빠른 탓에 실효성이 부족할 것이라는 목소리도 높다. CNBC는 전문가들의 말을 인용해 "글로벌 빅테크들이 AI 서비스를 출시하는 속도를 고려하면, EU의 AI 규제법은 빠르게 '구식'이 될 수 있다"며 "그럴 경우 AI를 둘러싼 논란은 더욱 복잡해질 수 있다"고 지적했다.
오픈AI '소라' 일반 공개 발표...빅테크 경쟁은 더욱 치열
유럽을 시작으로 각국이 AI 규제안 마련에 분주하지만, 빅테크들의 경쟁은 더욱 치열해지는 모습이다. 이날 오픈AI는 동영상 생성 AI 서비스인 '소라(Sora)'를 하반기부터 일반인도 이용할 수 있을 것이라고 발표했다.
미라 무라티 오픈AI 최고기술책임자(CTO)는 "올해 (대중이) 소라를 이용할 수 있을 것"이라며 "몇 달 후가 될 수도 있다"고 월스트리트저널(WSJ) 인터뷰를 통해 밝혔다. 소라는 입력어(프롬프트)만 넣으면 동영상을 자동 생성해줘, 현재 베타 서비스를 이용 중인 창작자들로부터 큰 호평을 받고 있는 서비스다.
마이크로소프트(MS) 역시 이날 사이버 보안 대응 AI인 챗봇 '코파일럿 포 시큐리티'를 내달 출시할 예정이라고 발표했다. 사이버 보안 종사자들이 보안 사고에 대한 최신 정보 등 여러 데이터를 얻을 수 있는 챗봇으로, MS는 지난해 3월 이를 처음 공개한 이후 1년에 걸쳐 테스트를 해왔다.
규제안 마련과는 별도로, 내세울 만한 글로벌 빅테크가 없는 유럽 국가들도 경쟁력 마련에 고심 중이다. 프랑스의 '인공지능 위원회'는 이날 정부에 앞으로 5년간 매년 50억 유로(약 7조원)를 투자하라고 권고했다. 생성형 AI 기술 발달로 연간 경제성장률이 2배가 될 수 있어, 향후 뒤처지지 않기 위해서는 이같은 투자가 필요하다는 제언이다. 위원회는 또 프랑스의 민간·공공 부문에서 생성형 AI에 대한 투자는 미국보다 20배 낮다며, 100억 유로(약 14조원) 규모의 투자 펀드를 조성해 스타트업에 투자해야 한다고 강조했다.