경찰은 개정 공직선거법 제82조의8에 따라 선거일 전 90일부터 선거일까지 딥페이크 영상 등을 이용한 선거운동이 금지돼 해당 범죄에 대해 엄정 대응하겠다고 밝힌 바 있다.
이번에 개발한 탐지 소프트웨어는 딥페이크 의심 영상을 시스템에 업로드하면 통상 5~10분 내 분석 작업을 완료해 가짜영상인지 판별할 수 있다. 판별이 완료되면 결과보고서를 즉각 만들어 수사에 활용할 수 있도록 한다.
하지만 이번에 개발한 소프트웨어는 한국인 데이터 100만 점과 아시아 계열 인종 데이터 13만 점을 포함해 5400명의 데이터 520만 점 등 다양한 데이터 학습이 이뤄졌다.
아울러 기존에 학습된 데이터가 아니라 새로운 형태의 합성 영상이 발견돼도 대응할 수 있게 최신 인공지능(AI) 모델이 적용됐다.
해당 소프트웨어의 진위 여부 탐지율은 약 80%에 달한다. 다만 경찰은 탐지율이 100%가 아닌 점을 고려해 증거자료보다는 수사 방향을 설정하는 자료로 활용할 방침이다. 또 학계, 기업 등 AI 전문가로 구성된 민간 자문위원의 교차 검증을 거치도록 해 오탐지 가능성도 최소화할 계획이다.
경찰은 소프트웨어를 활용해 선거범죄·합성 성착취물 범죄 외에도 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나간다는 방침이다.
경찰청 관계자는 "딥페이크 이용이 의심되면 탐지 소프트웨어로 분석해 결과를 확인한 후 적극 수사할 것"이라고 전했다.
김예슬 동아닷컴 기자 seul56@donga.com