AI 기술에 대한 높은 관심은 AI를 활용한 선거운동으로까지 이어지고 있다. 지난 20대 대선에서는 AI 후보들이 온라인 유세를 펼쳐 많은 주목을 받았다. 그러나 딥페이크를 활용한 선거운동이 선거 공정성을 침해할 수 있다는 우려가 커지면서 올해 4월에 실시되는 22대 총선에서는 딥페이크 영상물을 활용한 선거운동이 금지되었다.
지난해 말 개정된 공직선거법에서는 선거일 90일 전부터 선거일까지 AI로 제작한 음향, 이미지, 영상을 선거과정에서 활용할 수 없다고 명시하고 있다.
딥페이크 제작물이 선거과정에서 논란이 된 사례는 지구촌 곳곳에서 찾아볼 수 있다. 2023년 9월 실시된 슬로바키아 의회 선거에서는 부정선거를 모의하는 유력 정치인의 음성이 선거일 이틀 전 페이스북을 통해 유포되는 사건이 발생했다. 이후 이 음성물은 AI로 조작된 것으로 밝혀졌으나 이 정치인이 이끌고 있는 친서방 성향의 '진보적인 슬로바키아(PS)'는 친러시아 성향의 '사회민주당(SMER)'에 패배했다. 딥페이크 영상물이 선거 패배의 결정적인 요인이라고 단정할 수 없으나 영향이 없었다고도 말할 수 없을 것이다.
딥페이크 제작물은 올해 11월 대선을 앞두고 경선을 치르고 있는 미국에서도 문제가 되고 있다. 지난 1월 실시된 뉴햄프셔 민주당 경선 기간에는 유권자들에게 걸린 바이든 대통령의 전화 통화가 논란이 되었다. 경선에 참여하지 않기를 당부하는 이 전화 음성 역시 AI로 조작한 것이었다.
그러나 딥페이크 영상이 선거에 미칠 부정적인 영향만을 강조하는 것은 섣부르다. 딥페이크 기술은 비교적 최근의 현상이기 때문에 딥페이크와 정치의 연관성을 검증한 연구들 역시 초기 단계에 머물고 있기 때문이다. 구체적으로 딥페이크 영상물 노출이 정치인에 대한 부정적 평가로 이어질 수 있다는 입장과 유권자들을 오도하는 수준은 아니라는 주장이 맞서고 있다.
따라서 딥페이크의 부정적인 측면뿐 아니라 긍정적인 면을 함께 고려해 보는 것이 의미 있을 것이다.
인터넷은 창의적인 공간이다. 딥페이크 역시 창의성의 한 산물이다. 혁신적인 기술과 서비스의 발전은 인터넷이라는 매체의 특성상 표현의 자유를 존중했기 때문에 가능했다. 인터넷 서비스 공급자가 주도하는 자율규제의 전통이 강한 미국에서 빅테크 기업들이 성장할 수 있었던 이유도 기업들의 법적 책임을 면제해 주는 통신품위법 230조와 같은 면책조항이 있었기 때문이다.
AI를 활용한 선거운동은 정치적 표현의 자유를 증진하는 장점을 갖는다. 공정성을 위해 선거운동을 지나치게 규제할 경우, 후보나 정당의 자유로운 선거운동은 물론이고 유권자의 정치적 의사 표현 역시 제한될 소지가 있다. 이것은 헌법이 보장하고 있는 기본권을 침해하는 것이다. 신기술을 활용한 선거운동은 젊은 유권자들의 정치참여를 유도할 수도 있다. 20대 대선에서 젊은 유권자들이 AI후보에 가졌던 흥미와 관심을 생각해 볼 때, AI를 활용한 선거운동이 과소 대표되어있는 유권자층의 대표성 증진에 도움을 줄 수도 있다.
따라서 AI와 관련된 규제를 좀더 유연하게 적용하는 것이 자유로우면서도 공정한 선거를 하는 데 도움이 될 수도 있을 것이다.
미국의 캘리포니아와 미시간 주에서도 AI와 관련된 선거 규제를 실시하고 있으나 딥페이크 제작물임을 공개(disclosure)하는 전제로 AI의 선거 활용을 허용하고 있다. 또한, 구글이나 메타와 같은 빅테크 역시 딥페이크 제작물에 꼬리표를 붙이는 방식의 자율규제를 실시한다고 밝힌 바 있다.
선거 공정성을 해칠 수 있다는 우려만으로 규제 중심의 정책 처방을 내리는 것은 바람직하지 않을 수 있다. 보다 유연한 규제의 시행을 통해 자유와 공정의 가치가 선거과정에서 균등하게 구현될 방안을 고민할 필요가 있다.
최재동 충북대 사회교육과 교수