[ 최보식 이 만난 사람 ] " 인공지능 스스로 공격 과 전쟁 결정 하 면 … 核 무기 보다 인류 에게 더 위협 " - 11 등 인터넷 뉴스 조선닷컴 인물 DB 
 [ 최보식 이 만난 사람 ] " 인공지능 스스로 공격 과 전쟁 결정 하 면 … 核 무기 보다 인류 에게 더 위협 " 
 입력 : 2018 . 07 . 02 03 : 11 
 ' 인공지능 무기 ' 논쟁 촉발 … 김정호 국방 AI 융합 연구 센터 장 · 카 이스트 교수 
 " 인공지능 무기 는 핵무기 만큼 이나 인류 생존 을 위협 할 수 있 다 . " 
 열흘 전 카 이스트 ( KAIST ) 주최 로 열린 인공지능 ( AI ) 세미나 에서 토비 월시 호주 뉴사우스웨일스 대 교수 가 이렇게 발언 했 을 때 일반 국민 은 영문 을 몰라 어리둥절 했 을 것 이 다 . 하지만 월시 교수 와 카 이스트 간 에 는 이미 이 문제 로 한 차례 소동 이 있 었 다 . 카 이스트 가 한화 시스템 과 손잡 고 ' 국방 AI 융합 연구 센터 ' 를 개소 하 자 , 그 는 세계 각국 의 인공지능 연구자 50 여 명 과 함께 ' 대량 살상 AI 무기 를 개발 하 려는 카 이스트 와 는 연구 협력 을 전면 보이콧 하 겠 다 ' 는 공동 성명 을 발표 했 다가 취소 했 다 . 국제 적 인 사건 이 됐 던 것 이 다 . 
 국방 AI 융합 연구 센터 책임자 인 김정호 ( 57 ) 카 이스트 교수 는 ' 인공지능 무기 ' 를 주제 로 만나 는 걸 처음 에 는 부담 스러워 했 다 . 미시 간대 에서 박사 를 한 그 는 삼성전자 에서 반도체 설계 를 담당 했 다가 카 이스트 로 옮겼 다 . 그 뒤 삼성전자 · SK 하이닉스 등 과 함께 100 여 건 의 산학 공동 연구 를 해 왔 다 . 
 ― 월시 교수 는 왜 ' 국방 AI 융합 연구 센터 ' 를 지목 했 나 ? 
 " 군인 숫자 감소 와 국방 예산 절감 을 위해 경계 와 훈련 , 작전 판단 등 에 인공지능 기술 을 활용 하 자는 취지 였 는데 , 언론 에서 ' 인공지능 무기 개발 ' 이라고 보도 했 다 . 대량 살상 인공지능 무기 나 킬러 로 봇 으로 오인 했 던 것 같 다 . " 
 ― 개소식 이 있 고서 불과 열흘 됐 을 때 공개 질 의 서한 을 발송 해 온 것 으로 아 는데 ? 
 " 그렇 다 . 바로 다음 날 엔 휴먼 라이츠 워치 ( 국제 인권 기구 ) 가 주미 한국 대사관 을 통해 문 의 공문 을 보내왔 다 . 취리히 에서 열리 는 유엔군 축 회의 에 와서 이 내용 을 발표 해 달 라고 했 다 . 국방 안보 와 관련 된 연구 여서 답변 하 기 난처 했 다 . " 
 ― 4 월 4 일 월시 교수 가 세계 각국 의 인공지능 연구자 들 과 함께 카 이스트 와 의 협력 연구 보이콧 선언 을 하 면서 , 국제 적 인 사건 이 된 셈 인데 . 
 " 보이콧 선언 을 할 것 이 라는 정보 를 입수 한 날 월시 교수 등 에게 ' 국방 AI 융합 연구 센터 는 대량 살상 무기 나 공격 용 무기 개발 계획 이 없 고 인간 존엄성 에 어긋나 는 연구 활동 을 수행 하 지 않 을 것 ' 이 라는 카 이스트 총장 명 의 이메일 을 발송 해 급한 불 을 껐 다 . " 
 ▲ 김정호 교수 는 “ 자녀 가 성장 하 면 완전히 통제 가 안 되 듯이 인공지능 도 우리 의 통제 를 벗어날지 모른다 ” 고 말 했 다 . / 김지호 기자 
 ― 월시 교수 등 의 문제 제기 에 대해 어떻 게 보 나 ? 무엇 보다 인공지능 무기 가 핵무기 만큼 위협 적 이 라고 보 나 ? 
 " 종국 적 으로 는 핵무기 보다 인공지능 무기 가 인류 에게 더 위협 적 이 다 . 인간 의 명령 과 결정 없이 인공지능 스스로 공격 과 전쟁 을 결정 하 는 상황 이 올 수 가 있 다 . 이런 논의 를 시작 했 다는 것 은 큰 의미 가 있 다 . " 
 ― 비슷 한 시기 에 구글 이 미국 국방부 와 협력 해 인공지능 으로 무기 성능 을 향상 시키 는 ' 메이 븐 프로젝트 ' 에 참여 했 다가 직원 반대 등 으로 철회 한 사건 이 있 었 는데 . 
 " 그 뒤 로 구글 은 ' 사회 적 으로 유익 하 고 , 불 공정 한 편향 을 만들 어 내 지 않 고 , 인간 을 위해 책임 을 다 한다 ' 는 등 의 인공지능 개발 윤리 헌장 을 만들 었 다 . 직원 들 에게 이런 윤리 교육 을 반드시 받 게끔 하 고 있 다고 했 다 . " 
 ― 핵무기 는 국가 가 주도 하 지만 인공지능 기술 은 민간 차원 에서 이뤄지고 있 다 . 이런 윤리 선언 만 으로 인공지능 의 오용 ( 誤用 ) 을 막 을 수 있 을까 ? 
 " 국제 사회 는 핵확산 방지 조약 을 맺 었 다 . 핵무기 는 100 % 는 아니 더라도 찾아내 폐기 하 고 검증 할 수 있 다 . 그러나 인공지능 무기 의 경우 이게 가능 할지 의문 이 다 . 인공지능 은 ' 소프트웨어 코드 ' 이 기 때문 이 다 . 찾아내 거나 확인 하 는 작업 이 크 게 의미 가 없 다 . 저장 했 다가 복사 를 하 면 된다 . " 
 ― 인공지능 에 대한 기대 나 우려 가 너무 부풀려져 있 다는 지적 도 있 다 . 지금 이런 논의 를 해야 할 만큼 인공지능 기술 이 높 은 수준 에 와 있 는가 ? 
 " 우리 는 현재 인터넷 에 종속 돼 살 고 있 다 . 10 년 전 만 해도 손바닥 에서 모든 정보 를 얻 는 스마트폰 을 상상 했 겠 나 . 인공지능 의 발전 속도 는 상상 이상 으로 빠르 다 . 알 파고 에서 봤 듯이 이미 판단 , 기억 , 학습 능력 등 에서 일정 부분 인간 지능 을 뛰어넘 었 다 . 10 년 뒤 에 는 인공지능 에 윤리 및 감정 학습 까지 가능 해질 것 이 다 . 멜 로 영화 를 보 면서 슬픈 감정 을 느끼 는 인공지능 도 나올 게 틀림없 다 . " 
 ― 실생활 에서 는 스마트폰 의 음성 인식 이나 수술실 에서 스마트 안경 을 끼 고 도움 받 는 정도 인데 . 
 " 빅 데이터 센터 와 인공지능 소프트웨어 를 갖 고 있 는 구글 은 한 개인 에 대해 어떤 정치 성향 이 고 언제 무엇 을 구매 하 는지 모든 정보 를 갖 고 있 다 . 구글 의 유튜브 에 들어가 면 내 성향 에 맞 는 음악 이 자동 으로 올라온다 . 다음 에 누가 대통령 이 될지 도 예측 하 고 있 다 . 현재 글로벌 시가총액 의 ' 빅 5 ' 는 애플 , 구글 , 마이크 로 소프트 , 아마존 , 페이스북 이 다 . 공통점 은 뭘까 . 데이터 를 모을 수 있 는 ' 빅 데이터 플랫 폼 ' 과 인공지능 소프트웨어 를 확보 한 기업 이 다 . 이 는 미래 산업 의 방향 을 제시 하 고 있 다 . " 
 ― 한국 의 랭킹 기업 은 어떤가 ? 
 " 지난해 한국 의 시가총액 기준 으로 삼성전자 , 한국전력 , 삼성물산 , 현대 자동차 , SK 하이닉스 , 네이버 , 현대 , 모비스 , 삼성 생명 , 아모레 퍼시픽 , 포스코 순 이 다 . 대부분 제조업 과 에너지 업체 다 . 이 중 네이버 가 거의 유일 하 게 빅 데이터 플랫폼 으로 발전 할 가능 성 이 있 다 . 산업 패러다임 의 변화 를 따라가 야 한다 . " 
 ― 현재 국내 산업 부문 에서 반도체 만 유일 하 게 국제 경쟁력 을 갖 고 있 는데 ? 
 " 반도체 는 인공지능 성능 과 빅 데이터 저장 능력 을 결정 하 는 핵심 부품 이 다 . 작년 중국 의 반도체 수입액 이 원유 수입액 보다 많 았 을 정도 로 반도체 시장 은 계속 확대 된다 . 작년 에 삼성전자 와 SK 하이닉스 의 반도체 메모리 매출 은 100 조 원 이 었 다 . 10 년 후 에 는 1000 조 원 이상 이 고 , 예상 이익 만 400 조 원 이상 될 수 있 다 . 올해 우리나라 전체 예산 에 맞먹 는 액수 다 . " 
 ▲ 김정호 교수 와 토비 월시 교수 . 
 ― 반도체 에서 도 중국 이 곧 추월 할 것 이 라는 전망 은 ? 
 " 중국 의 한 국영 기업 에서 반도체 시제품 을 납품 하 기 시작 한 것 으로 알려졌 다 . 아직 우리 와 는 3 년 쯤 기술 격차 가 있 다 . " 
 ― 반도체 의 기술 격차 는 어디 에 달려 있 나 ? 
 " 데이터 용량 과 집적도 를 얼마나 더 높이 고 , 동시 에 전력 사용량 을 얼마나 더 줄이 느냐 에 있 다 . 인공지능 이 빅 데이터 를 처리 하 려면 엄청난 전력 이 소모 된다 . 요즘 인공지능 서버 용 반도체 는 둥그런 얇 은 판 이 아니 라 , 데이터 저장 과 계산 처리 를 한 공간 에서 할 수 있 는 입체 형태 로 만들 고 있 다 . " 
 ― 전력 사용량 은 계속 늘어나 는데 , 현 정부 의 원전 폐쇄 정책 은 이런 흐름 과 어긋나 지 않 나 ? 
 " 4 차 산업 혁명 이 진행 될수록 전력 은 지금 보다 훨씬 더 필요 하 다는 답변 만 하 겠 다 . " 
 ― 일반 사람 들 은 인공지능 을 ' 로봇 ' 으로 생각 하 는 경향 이 있 다 . 평창 올림픽 때 선보인 인공지능 로봇 ' 소피 ' 의 수준 은 ? 
 " 인공지능 이 인간 의 두뇌 라면 , 휴머노이드 ( humanoid ) 로봇 은 인간 과 닮 은 기계 라고 할 수 있 다 . 로봇 의 관절 은 모터 로 구동 된다 . 인간 의 근육 을 따라갈 수 없 다 . 로봇 은 힘들 고 반복 적 인 일 을 할 수 는 있 지만 아이 를 돌보 는 것 같 은 섬세 한 일 은 하 기 어렵 다 . 또 배터리 가 필요 하 기 때문 에 오래 움직일 수 없 다 . 이런 로봇 보다 는 인공지능 의 발전 속도 가 훨씬 더 빠르 다 . " 
 ― 인공지능 은 인간 의 뇌 를 모방 했 다고 하 지만 뇌 ( 腦 ) 작동 원리 는 아직 풀리 지 않 은 게 훨씬 더 많 다 . 그런데 어떻게 뇌 처럼 만들 수 있 나 ? 
 " 이전 에 는 인간 의 뇌 를 이해 해서 만들 려고 했 다 . 지금 은 왜 그렇게 되 느냐 원리 를 이해 하 려고 하 지 않 는다 . 인공지능 의 심화 학습 알고리즘 ( 명령 체계 ) 은 ' 블랙박스 ' 와 같 다 . 그 안 에서 어떻게 작동 해 그렇게 되 는지 모른다 . 하지만 컴퓨터 가 내놓 는 해답 은 믿 을 수 있 다는 것 이 다 . 인간 의 판단 이 학습 과 진화 의 결과 인 것 처럼 인공지능 도 데이터 를 갖 고 나름 대로 학습 해 오 면서 자신 의 판단 을 내놓 는 것 이 다 . " 
 ― 인공지능 이 인간 의 통제 를 벗어나 스스로 생각 하 고 판단 하 는 단계 까지 갈까 ? 
 " 인간 이 인공지능 을 통제 할 수 있 는 수단 은 데이터 밖에 없 다 . 어떤 데이터 를 입력 하 느냐 에 따라 달렸 다 . 하지만 인간 통제 를 벗어날 가능 성 은 있 다 . 우리 자녀 가 성장 하 면 완전히 통제 가 안 되 듯이 . 이 때문 에 인공지능 에 대한 법 과 규율 을 정하 지 않 으면 인간 이 위험 에 처할 수 있 다 . " 
 ― 그래봐야 전원 코드 를 뽑 으면 인공지능 도 기계 덩어리 인데 . 
 " 컴퓨터 에 공급 되 는 전기 를 차단 할 권리 만 은 인간 이 끝 까지 지켜야 한다 . " 
 ― 인공지능 이 자신 의 생명 을 지키 기 위해 전원 을 못 끊 게 막 을 수 도 있 을까 ? 인간 에 대한 반란 ( 反亂 ) 같 은 것 인데 . 
 " 글쎄 . 그 단계 는 아직 생각 해 보 지 못했 다 . " 
 ― 만약 인공지능 시대 가 도래 하 면 인간 의 노동 은 줄 고 많이 편해질 것 같 다 . 전문가 가 보 기 에 부정 적 인 측면 은 무엇 이 있 을까 ? 
 " 인공지능 은 인간 의 일자리 를 대신 해 소득 을 올리 지만 세금 을 내 거나 소비 하 진 않 는다 . 인공위성 의 소유자 나 법인 에 대신 세금 을 매겨야 한다 . 또 인공지능 은 전력 사용량 이 인간 의 뇌 에 비하 면 엄청나 다 . 이 를 어떻게 감당 할 것 인가 . 또 인간 이 어떤 의도 를 갖 고 데이터 를 집어넣 을 때 인공지능 도 정치 적 편견 을 갖 게 된다 . 이 때문 에 인공지능 을 지배 한 자 가 세계 를 지배 하 는 소수 독재 가 가능 해질 수 있 다 . " 
 ― 그러면 우리 같 은 세상 흐름 부적응 자 는 어떻게 살 아야 하나 ? 
 " 소프트웨어 코딩 교육 을 권하 고 싶 다 . 코딩 은 인간 이 컴퓨터 와 대화 하 는 능력 이 다 . 앞 으로 는 코딩 교육 의 격차 에 의해 사회 계급 이 나눠질 수 있 다 . "