딥페이크(Deep Fake) 포르노.
  텔레그램 n번방 중 '지인능욕방'에서 소비된 집단 성착취 영상이다.
  지인의 사진을 올리면 다른 사람의 신체가 노출된 사진이나 영상에 지인의 얼굴을 합성해서 만드는 가짜 포르노.
  이에 대해 김인겸 법원행정처 차장은 '딥페이크 처벌법' 입법 과정에서 "예술로 생각하고 만들 수 있지 않냐"고 말해 비난을 받았다.
  범죄에 악용되는 딥페이크 기술, 어디까지 왔을까.
  무슨 일이야?• 지난 5일 성폭력범죄처벌 특례법 개정안(딥페이크 처벌법)이 국회 본회의를 통과했다.
  딥페이크 포르노를 제작하거나 퍼뜨리면 5년 이하 징역 또는 5000만원 이하의 벌금에 처한다.
  특히 영리 목적으로 유포시 7년 이하 징역으로 가중처벌한다.
 • 딥페이크 포르노를 콕 집어낸 '핀셋 규제'다.
  그래서 성노예·신상유포 같은 디지털 성범죄 처벌 근거를 누락한 '졸속 입법'이라는 지적이 나온다.
   딥페이크는 어떻게 만들어?• 이미지를 '감별'하는 알고리즘과 '생성'하는 알고리즘으로 구성된 인공지능(AI) 기술로 만든다.
  두 알고리즘을 대조해 원본과의 오차를 줄이는 방법으로 가짜를 만들어낸다.
  감별 알고리즘이 정교할수록 '진짜 같은 가짜'가 나온다.
 • 네덜란드의 딥페이크 탐지 전문회사 '딥트레이스'는 "미국엔 2.
 99달러(3700원)만 내면 이틀 만에 딥페이크를 만들어주는 업체들이 있다"고 주장한다.
  • 삼성전자 모스크바 AI 연구소는 지난해 '사진 1장만으로 말하는 동영상을 만드는 기술'을 개발했다.
  이게 왜 문제야?• 성범죄: 딥트레이스에 따르면, 전 세계 딥페이크 포르노의 25%가 K팝 아이돌 등 한국 여성 연예인이다.
  2018년 인도에선 현 모디 정권을 비판해온 여성 언론인(라나 아윱)의 딥페이크 포르노가 유포됐다.
 • 정치·외교: 2018년 멕시코는 대선기간에 "안드레스 마누엘(현 멕시코 대통령) 캠프 사람들이 선불카드를 (뇌물로)받았다"는 4분짜리 딥페이크 음성이 유포돼 곤혹을 치렀다.
  뉴욕대학교 스턴 비즈니스&인권 센터는 "2020년 미국 대선에 딥페이크 영상과 중국·러시아·이란의 가짜뉴스가 영향을 끼칠 것"이라고 경고했다.
 • 경제: 기업을 사칭한 허위 콘텐트가 생길 수 있다.
  지난해 독일 신용보험사 외러 에르메스는 '딥페이크 사기'를 당한 고객의 사례를 소개했다.
  한 영국 에너지 회사의 CEO가 독일 모회사의 지시에 따라 22만 유로(약 3억원)를 송금했는데, 지시한 자는 음성 딥페이크였던 것.
 
지난 5일 성폭력범죄처벌 특례법 개정안(딥페이크 처벌법)이 국회 본회의를 통과했다. 딥페이크 포르노를 제작하거나 퍼뜨리면 5년 이하 징역 또는 5000만원 이하의 벌금에 처한다. 특히 영리 목적으로 유포시 7년 이하 징역으로 가중처벌한다.