[ 2020 보안 키워드 ] ④ 양날 의 검 , AI - 데이터 넷 
 공격자 도 이용 하 는 AI … 보안 분석 더 어렵 게 만들 수 도 
 위협 대응 최적화 AI 알고리즘 으로 보안 수준 높여야 
 AI 가 보안 영역 에 널리 사용 되 고 있 다 . AI 를 사용 하 지 않 는 보안 솔루션 을 찾아보 기 어려울 정도 다 . 위협 이 다양 화 , 대 규모 화 , 지능 화 되 면서 보 안 인력 만 으로 모든 위협 에 대응 할 수 없 게 되 자 AI 기술 을 이용 해 위협 을 자동 으로 찾 도록 하 고 있 다 . AI 는 위협 으로 의심 되 는 것 을 찾 아 유형 별 로 분류 하 고 정책 에 따라 격리 하 거나 차단 , 프로세스 삭제 , 보안 팀 에게 알림 , 다른 보안 분석 솔루션 으로 이관 등 을 진행 한다 . AI 보안 탐지 · 대응 프로세스 를 표준 화 · 자동 화 해 보 안 조직 의 업무 를 줄여 준다 . 
 보안 탐지 에 AI 가 필요 한 이유 는 위협 이 너무 많이 발생 하 기 때문 이 다 . 시스코 조사 에 따르 면 기존 보안 툴 을 우회 한 공격 이 65 %, 보안 침해 원인 을 규명 하 지 못한 조직 이 55 % 에 이르 며 , 공격 이 탐지 되 기 까지 100 일 이상 걸린다 . 공격 이 어떤 경로 로 시작 해 진행 됐으며 , 어떤 취약점 을 이용 했 는지 , 공격 이 진행 되 는 동안 어떤 피해 가 일어났 는지 파악 하 지 못하 는 것 이 상당수 에 이른다는 뜻 이 다 . 
 시 큐 리온 은 2019 년 새롭 게 발견 된 악 성 코드 가 9 억 800 천만 개 에 이른다는 AV 테스트 의 조사 결과 를 인용 하 며 , 기존 의 전통 적 인 악 성 코드 는 전년 대비 절반 수준 으로 줄 었 지만 , 잠재 적 위협 을 가진 앱 ( PUA ) 과 같 은 새로운 형태 의 위협 이 급증 하 고 있 다고 설명 했 다 . 
 보안 진영 에서 따라갈 수 없 는 속도 로 공격 도구 가 쏟아지 는데 , 보안 분석가 의 역량 에 만 의존 할 수 는 없 다 . 팔로알토 네트 웍스 는 ▲ 기존 에 알려진 위협 을 지능 적 으로 차단 하 는 선제 방어 를 통해 99 % 이상 의 공격 을 자동 으로 차단 하 고 ▲ AI , 머신 러닝 을 이용 해 증가 하 는 고급 분석 업무 를 줄이 고 보 안 이벤트 의 상관 관계 를 파악 하 며 ▲ 자동 화 를 통해 보 안 팀 의 개입 없이 확실 한 위협 이 차단 될 수 있 도록 해야 한다고 주장 했 다 . 
 AI 이용 해 진화 하 는 공격자 
 AI 는 공격자 들 도 사용 한다 . 공격자 들 은 AI 를 이용 해 보 안 기술 을 분석 하 고 우회 방법 을 찾아낸다 . 공격 도구 개발 을 자동 화 해 대 규모 악 성 코드 와 봇넷 을 생산 해낸다 . AI 를 이용 해 네트워크 취약점 을 자동 으로 찾 아 침입 을 시도 하 며 , 다양 한 경로 로 입수 한 개인 정보 를 AI 로 분석 해 개인 을 매칭 하고 고급 개인 정보 로 완성 시킨다 . 
 소포 스 는 머신 러닝 이 공격 받 을 가능 성 을 제기 했 다 . 보안 시스템 이 사용 하 는 AI 분석 을 교란 시키 기 위해 대량 의 오염 된 데이터 를 보내 기 도 하 며 , 공격 목표 가 된 사람 을 성공 적 으로 속일 수 있 는 방법 을 찾 는데 AI 를 사용 한다는 설명 이 다 . 예 를 들 어 다수 의 사람 들 에게 스피어 피싱 메일 을 발송 한다 했 을 때 각각 의 사용자 에 대한 정보 를 학습 시킨 후 그 사람 에 에게 맞 는 문구 와 내용 , 악 성 파일 을 제작 하 는데 AI 를 사용 할 수 있 다 . 백신 이 차단 하 기 전 까지 짧 은 시간 동안 많 은 사람 들 에게 스피어 피싱 공격 을 해 공격 성공 률 을 높인다 . 
 이 글 루 시큐리티 는 AI 의 양면 성 에 대해 ▲ AI 는 특정 한 용도 로 사용 되 도록 정해진 기술 이 아니 고 ( 이중성 ) ▲ 비 정상 적 데이터 로 학습 할 시 오류 가 유발 되 는 등 아직 해결 되 지 않 은 다수 의 취약점 이 존재 한다고 설명 했 다 . 
 AI 의 이중 성 과 취약 성 으로 인해 ▲ 방어 자 의 보안 시스템 우회 ▲ 이미지 인식 용 AI 알고리즘 을 속이 는 페이크 샘플 을 생성 해 오작동 을 유도 하 고 ( 적대 적 스티커 ) ▲ 진위 여부 를 가릴 수 없 는 가짜 영상 을 생성 하 며 ( 모방 및 흉내 ) ▲ 공격 표적 을 빠르 고 정확 하 게 분석 해 정교 한 스피어 피싱 공격 을 자동 수행 ( 사회 공학 적 공격 자동화 ) 하 는 등 다양 한 형태 의 보안 위협 이 발생 할 것 으로 전망 된다 . AI 의 역기능 에 대한 다각도 의 대응 방안 마련 이 요구 될 것 이 다 . 
 ▲ 인공지능 대상 공격 예시 ( 자료 : 금융 보안원 ) 
 보안 전반 에 사용 하 는 AI 
 요리사 가 칼 을 들 고 있 으면 맛있 는 요리 가 탄생 하 지만 살인범 이 칼 을 들 고 있 으면 사람 의 생명 을 위협 하 게 된다 . AI 도 보안 진영 에서 사용 하 면 보안 탐지 와 대응 을 정확 하 게 하 는 수단 이 되 지만 , 범죄자 가 사용 하 면 보안 을 우회 하 는 지능 형 공격 수단 으로 사용 될 수 있 다 . 
 이 같 은 AI 의 양면 성 에 도 불구 하 고 보 안 진영 에서 는 지속 적 으로 AI 활용 범위 를 넓혀 가 고 , 보안 업무 에 사용 할 수 있 는 AI 알고리즘 을 개선 시킬 것 이 다 . AI 를 사용 하 지 않 고 진화 하 는 위협 에 대응 하 는 것 이 불 가능 에 가까운 상황 이 됐 기 때문 이 다 . 더 많 은 정제 된 데이터 로 AI 를 학습 시켜 적대 적 머신 러닝 공격 에 도 잘못 된 결과 값 을 도출 하 지 않 도록 준비 해야 한다 . 
 AI 가 보안 에 사용 되 는 영역 은 2 가지 로 나누 어 볼 수 있 다 . 악 성 코드 , 악성 URL , 악 성 문서 등 공격 도구 를 찾아내 는 것 과 , 시스템 , 네트워크 , 클라우드 전반 에서 발생 하 는 이벤트 를 연계 분석 해 지능 적 으로 은밀 하 게 진행 되 는 위협 을 찾아내 는 것 이 다 . 
 백신 기업 들 은 이미 오래 전 부터 악성 코드 탐지 에 머신 러닝 을 사용 했 다 . 최근 에 는 시그 니 처 와 AI 를 이용 해 알려진 / 알려 지 지 않 은 위협 을 효과 적 으로 차단 하 는 방법 을 사용 하 고 있 다 . 100 % AI 만 으로 탐지 하 는 보안 솔루션 이 있 지만 , 노이즈 가 많 고 고급 보안 전문가 를 필요 로 해 운영 이 쉽 지 않 다 . 
 AI 통해 글로벌 위협 대응 공조 
 위협 인텔리 전 스 는 ‘ 악성 코드 탐지 의 꽃 ’ 이라고 할 수 있 다 . 위협 인텔리 전 스 는 전 세계 에서 발생 하 는 위협 이벤트 를 정밀 하 게 비교 · 연계 분석 해 최신 공격 도구 를 알아내 고 이 를 파트너 엑 판매 한다 . 혹은 연결 된 보안 솔루션 에 내려 적절 한 보안 조치 가 이뤄질 수 있 도록 한다 . 위협 인텔리 전 스 는 선제 보안 전략 을 위해 반드시 필요 한 보안 사항 이 다 . 
 과학 기술 정보 통신부 는 사이버 보안 빅 데이터 센터 를 운영 하 면서 국내외 에서 발생 하 는 위협 정보 를 서비스 한다 . 파트너십 을 맺 은 보안 기업 과 기관 들 로부터 위협 정보 를 제공 받 아 분석 해 새로운 위협 을 찾 아 공동 대응 하 도록 한다 . 
 사이버 보안 빅 데이터 센터 에서 제공 하 는 데이터 로 보안 시스템 을 개선 한 사례 로 피싱 사이트 차단 , 악 성 도메인 예측 등 이 가능 하 다 . 침해 사고 조합 분석 플랫 폼 을 모니터링 해 사고 를 미리 탐지 하 는 것 도 가능 하 다 . 
 이 글 루 시큐리티 는 보안관 제 , 모니터링 에 AI 가 적용 된 순 기능 을 설명 했 다 . 하루 수십만 건 의 보안 이벤트 에서 AI 가 자동 으로 처리 하 는 것 을 제외 하 고 보 안 분석가 가 직접 대응 해야 하 는 높 은 수준 의 보안 이벤트 만 을 알려 보안 대응 수준 을 한층 높이 도록 했 다 . 
 AI 가 만능 은 아니 다 . AI 는 노이즈 가 심하 고 오 탐지 가능 성 이 언제나 열려 있 다 . 따라서 AI 를 사용 하 면서 보 안 조직 은 AI 가 분석 한 결과 를 점검 하 고 정확도 를 개선 하 도록 알고리즘 을 수정 해야 한다 . 
 AI 는 영상 보안 시스템 에 도 적용 된다 . AI 를 이용 해 방대 한 영상 정보 에서 필요 한 영상 을 빠르 게 찾 아 보안관 제 와 수사 에 도움 을 줄 수 있 다 . 한화 테크윈 의 ‘ 2020 년 주목 해야 할 영상 보안 트렌드 ’ 에 따르 면 AI 와 엣지 보안 기술 이 영상 보안 기술 과 결합 돼 물리 · 사이버 영역 에서 의 보안 을 강화 하 고 있 다 . 
 # 2020 보안 키워드 # AI # AI 보안