[ 전문가 기고 ] 인간 의 ‘ 통제 ’ 욕구 에 맞서 는 스마트 머신 - ITDaily 
 [ 전문가 기고 ] 인간 의 ‘ 통제 ’ 욕구 에 맞서 는 스마트 머신 스테판 프렌티스 ( Stephen Prentice ) 가트너 부사장 
 ▲ 스테판 프렌티스 ( Stephen Prentice ) 가트너 부사장 
 [ 컴퓨터 월드 ] 지능 을 가진 휴머노이드 로봇 은 공상 과학 소설 의 단골 소재 였 다 . 그러나 과학 적 근거 라는 현실 의 벽 에 번번이 부딪혀야만 했 다 . 인공지능 엔진 을 가동 할 컴퓨팅 파워 만 으로 는 역부족 이 었 던 셈 이 다 . 지난 10 년 에서 15 년 사이 이뤄진 기술 분야 의 급속 한 발전 은 해당 논의 를 재 점 화 하 며 , 더 열정 적 이 고 감정 적 인 논쟁 을 만들 어 냈 다 . 스마트 머신 이 차 를 운전 하 고 , 인간 과 의 체스 대결 에서 승리 하 며 , 의료 진단 을 조언 하 는 세계 에서 , 이러 한 논의 는 하나 의 질문 으로 귀결 된다 . 바로 “ 기계 가 인간 보다 더 똑똑 해 지 는 시점 은 언제 일까 ? ” 라는 것 이 다 . 
 이 질문 은 수없이 복잡 한 기술 적 , 철학 적 , 윤리 적 , 종교 적 심지어 정의 문제 를 야기 시킨다 . 이정표 라 불릴 만 한 이 역사 적 인 순간 은 ‘ 기술 적 특이점 ( Technological singularity ) ’ 이 란 용어 로 알려져 있 다 . 이 용어 는 인공지능 이 인간 의 지능 을 넘어서 는 시점 을 2029 년 에서 2045 년 사이 로 예측 한 레이 커즈와일 과 같 은 미래학 자 들 에 의해 유명 해졌 다 . 그러나 인류 가 절대 ‘ 특이점 ’ 에 도달 하 지 못할 것 이 라는 의견 도 적 지 않 다 . 
 특이점 자체 와 언제 ‘ 특이점 ’ 이 현실 로 다가올지 에 대한 논의 는 매력 적 이 고 흥미 롭 다 . 그러나 ‘ 특이점 ’ 은 CIO 들 에게 기껏해야 센서 와 자율 화 된 스마트 머신 의 역량 강화 등 기간 기술 이 야기 하 는 , CIO 와 비즈니스 리더 들 에게 영향 을 미칠 더 중요 한 문제 들 로부터 한숨 돌릴 수 있 는 기분 전환 소재 일 뿐 이 다 . 
 CIO 는 다음 의 두 가지 관점 에서 스마트 머신 을 고민 해야 한다 . 첫째 , 스마트 머신 의 역량 이 강화 되 면서 인간 노동력 의 대 체제 로 부상 할 수 있 다는 예측 은 충분히 논리 적 이 며 , 이 는 많 은 측면 에서 비즈니스 에 중대 한 영향력 을 미칠 것 이 다 . 둘째 , 스마트 머신 의 역량 이 향상 되 면서 잠재 적 으로 인간 의 개입 없이 더 중대 한 결정 을 내리 는데 관여 할 가능 성 이 크 다 . 주식 시장 및 외환 거래 등 의 프로그램 매매 에서 는 이미 관찰 되 는 현상 이 다 . 이 는 스마트 머신 에 대한 인간 의 통제 가 무력 화 될 수 있 다는 생각 을 불러일으키 며 관련 해 중대 한 법 적 , 윤리 적 논쟁 을 야기 한다 . 
 스마트 머신 이 점차 더 많 은 기능 을 수행 하 게 되 면서 특수 상황 에서 인간 근로자 의 현실 적 대안 이 될 것 이 며 , 이 는 기업 과 CIO 들 에게 상당 한 반향 을 일으킬 것 이 다 . 
 자동 화 머신 과 로봇 이 역량 향상 으로 인해 다양 한 산업 과 기업 환경 에 도입 되 면서 이미 제조업 등 에서 는 기존 일자리 에 미칠 영향 에 관한 논쟁 이 활발 하 다 . 보다 다양 한 역량 을 갖춘 스마트 머신 이 등장 하 면서 지식 기반 및 관리직 과 같 은 분야 도 동일 한 위협 을 감지 하 는 추세 다 . 해당 분야 에서 실직자 가 발생 했 을 때 그 결과 가 매우 정치 적 일 수 있 음 을 감안 하 면 노동 시장 에 대한 스마트 머신 의 장기 적 인 영향력 이 어떨지는 불 확실 하 다 . 아직 많 은 비즈니스 리더 들 은 스마트 머신 이 지식 기반 및 관리직 의 역할 을 대신 할 가능 성 에 대해서 는 회의 적 이 다 . 
 가트너 가 2015 년 에 실시 한 CEO 및 비즈니스 리더 대상 조사 에서 이 문제 에 대한 의견 은 양분 됐 다 . 2013 년 의 조사 결과 와 비교 했 을 때 크 게 변화 한 것 으로 , 비즈니스 리더 들 이 기술 적 발전 을 인식 하 기 시작 했으며 중간층 지식 업무 에 대한 위협 이 실재 하 며 증가 하 고 있 다고 믿 기 시작 했 음 을 보여준다 ( 그림 1 참조 ) . 
 ▲ 스마트 기계 가 지식 근로자 들 을 대신 할 것 인가 
 스마트 머신 의 역량 은 향상 되 고 가격 은 낮 아 지 고 있 기 때문 에 , 앞 으로 산업 전반 에서 인간 근로자 를 대체 하 며 여러 역할 에 활용 될 것 이 란 점 은 의심 의 여지 가 없 다 . 하지만 , 이 는 새로운 문제 가 아니 다 . 인쇄기 의 등장 과 산업 혁명 등 역사 의 흐름 속 에서 보 면 신 기술 의 도입 은 수백만 개 의 일자리 를 앗 아 갔 다 . 동시 에 신 기술 에 의해 완전히 새로운 산업 이 탄생 했으며 , 수백만 개 의 일자리 가 새롭 게 창출 됐 다 . “ 이번 에 는 다른 양상 으로 전개 될 것 이 며 스마트 머신 이 일자리 의 순 손실 을 초래 할 것 ” 이 라는 우려 가 존재 하 지만 , 이것 역시 전혀 새롭 지 않 은 주장 이 다 . 단지 아직 새로운 일자리 가 어떤 것 인지 상상 해 내 지 못한 것 일 수 있 다 . 
 경제 적 불 확실 성 이 지속 되 는 기간 동안 높 은 수준 의 고용 률 을 유지 하 는 것 은 매우 중요 한 정치 적 이슈 이 다 . 동시 에 모든 정부 는 고부 가 가치 고용 기회 를 창출 함 으로써 경제 를 부양 하 고 민생 경제 전망 을 개선 할 수 있 는 방안 을 일제히 모색 하 고 있 다 . 
 기업 은 산업 용 로봇 에서 IBM 의 왓슨 , 구글 의 deep Q - network 3 또는 마이크 로 소프트 의 PReLU 4 등 과 같이 복합 패턴 인식 및 자 가 학습 기능 을 갖춘 머신 에 이르 기 까지 , 다양 한 스마트 머신 이 가져온 ‘ 기술 발전 을 활용 해야 할 필요 성 ’ 과 ‘ 일자리 손실 에 따른 부정 적 인 영향 ’ 간 에 균형 을 찾 아야 한다 . 새로운 딜레마 는 아니 지만 , 타이밍 이 중요 할 수 있 다 . 
 CIO 들 은 향후 몇 개월 동안 다음 과 같 은 4 가지 실무 적 인 조치 를 고려 해야 한다 . 
 ■ 현 스마트 머신 의 역량 과 단기간 에 현실 화 될 역량 에 관한 최신 지식 을 보유 하 고 항상 최신 정보 를 유지 하 기 위해 지속 적 인 노력 을 들여야 한다 . 많 은 업계 전문가 들 은 지난 12 개월 간 의 인공 지능 및 관련 기술 의 발전 속도 에 놀라 고 있 다 . 
 ■ 가트너 연구 조사 및 관련 자료 들 을 활용 해 자사 산업 은 물론 , 비슷 한 이슈 를 가진 다른 산업 에서 스마트 머신 구축 에 대한 평가 와 시범 이 어떻게 이뤄지고 있 는지 를 파악 하 라 . 특히 , 스마트 머신 구축 으로 비즈니스 모델 , 프로세스 또는 제품 / 서비스 에 혁신 을 가져온 소규모 스타트업 기업 들 을 주목 할 필요 가 있 다 . 
 ■ 보유 지식 을 기반 으로 회사 동료 들 에게 곧 지원 예정 인 기능 과 가능 한 경쟁 위협 에 대해 알려 라 . 
 ■ 보다 정확 한 정보 를 토대 로 스마트 머신 도입 에 대한 평가 를 수행 하 고 입증 할 수 있 도록 관련 내부 지식 , 역량 및 경험 을 쌓 을 수 있 는 실험 을 사전 에 실시 하 라 . 
 향후 5 년 간 스마트 머신 은 더 많 은 의사 결정 에 활용 될 것 이 며 기업 측면 에서 그 중요 성 이 높 아 질 것 이 다 . 사용 을 중단 할 수 없 거나 인간 의 통제 를 벗어날 수 있 다는 우려 가 높 아 짐 에 따라 CIO 들 은 이러 한 우려 를 해결 해야 한다 . 
 지난 몇 십 년 간 컴퓨터 는 끊임없이 발전 해 고급 맥락 정보 를 제공 하 는 수준 에 이르 렀다 . 초기 에 는 기업 의 의사 결정 을 지원 했 고 이후 방향 을 제시 했 다면 , 이제 는 직접 의사 결정 을 내리 고 있 다 . 기계 가 사람 대신 의사 결정 을 하 고 인간 의 통제 에서 벗어나 기 시작 하 면 개인 , 사회 , 심지어 인류 자체 를 위협 할 수 있 지 않 을까 라는 공포 도 존재 한다 . AI 와 스마트 머신 에 의한 잠재 적 인 위협 은 공상 과학 과 미디어 에서 이미 대중 화 된 소재 이 기 도 하 다 . 최근 스티븐 호킹 ( Stephen Hawking ) 박사 나 엘론 머스크 ( Elon Musk ) 테슬라 CEO 와 같 은 권위자 들 이 해당 주제 를 집중 조명 하 면서 논란 은 더욱 거세 졌 다 . 
 이런 상황 에서 CIO 들 은 스마트 머신 의 역량 과 한계 를 기술 적 으로 더 깊 게 이해 하 고 , 편견 과 오해 로 얼룩진 스마트 머신 의 위협 에 현실 성 과 균형 을 찾 아 줄 수 있 도록 대비 해야 한다 . 
 현재 까지 알려진 기술 내 에서 보 면 일정 수준 의 ‘ 자 가 인식 ’, ‘ 의식 ’ 또는 ‘ 지각 ’ 을 가진 머신 은 여전히 공상 과학 물 의 소재 에 불과 하 다 . 능동 적 으로 학습 하 고 목표 에 이르 는 과정 을 최적 화 하 기 위해 행동 을 수정 할 수 있 는 차세대 스마트 머신 의 경우 에 도 , 인간 이 통제 권 을 유지 할지 를 선택 할 수 있 다 . 
 인간 이 속도 와 규모 에 대한 요구 에 대응 하 는 것 이 불 가능 해 지 면서 주식 및 외환 거래 , 광고 , e 커머스 및 상거래 등 의 업계 에서 는 이미 알고리즘 이 통제 권 을 가져갔 다 . 그러나 인간 이 목표 를 설정 하 는 한 기계 의 행위 를 제한 하 는 것 은 여전히 인간 이 며 통제 권 도 유지 할 수 있 다 . ‘ 목표 추구 ’ 에서 ‘ 목표 설정 ’ 으로 발전 하 는 스마트 머신 도 이론 적 으로 는 가능 한 이야기 다 . 그 결과 머신 에 대한 통제력 이 줄어들 수 있 겠 지만 , 다음 과 같 은 질문 에 답해야 만 할 것 이 다 . 
 “ 머신 이 스스로 설정 할 만 한 목표 가 무엇 인가 ? ” 스마트 머신 은 법 적 실체 가 아니 다 . 은행 계좌 를 가지 고 있 지 도 않 고 , 따로 프로그래밍 되 지 않 는 한 재정 적 또는 사회 적 동기 에 의해 좌우 되 지 않 는다 . 자기 보존 ( self - preservation ) 자체 도 일정 수준 의 자 가 인식 및 의식 없이 는 의미 없 는 개념 일 수 있 다 . 
 CIO 들 은 스마트 머신 에 대한 논의 가 현실 성 을 갖 도록 해야 한다 . 스마트 머신 의 의사 결정 지원 은 막대 한 가치 를 보유 한다 . 속도 , 기억 용량 , 객관성 등 을 활용 하 면 인간 의 ‘ 경험 ’ 이 아닌 사실 에 기초 해 보 다 객관적으로 정보 에 입각 한 의사 결정 을 내리 도록 도울 수 있 다 . 
 그러나 스마트 머신 이 직접 의사 결정 을 내리 도록 했 건 , 단순히 조언 만 제시 하 도록 했 건 간 에 이러 한 결정 에 대한 법 적 책임 은 인간 에게 있 다 . 물론 , 이러 한 상황 은 바뀔 수 있 다 . 실제로 가트너 는 향후 머신 에 일부 제한 적 인 법 적 책임 이 부 가 될 것 으로 예측 하 기 도 했 다 . 관련 윤리 적 딜레마 는 여전히 검토 중 에 있 다 . 
 스마트 머신 은 일부 가 믿 고 있 는 것 처럼 미래 의 상황 이 아니 라 오늘날 기술 기반 기업 환경 의 핵심 요소 이 다 . 금융 서비스 , 외환 거래 및 고속 알고리즘 주식 매매 등 의 분야 에서 는 이미 현실 화 되 기 도 했 다 . 디지털 업계 의 거인 인 구글 과 페이스북 은 이미 복합 알고리즘 을 이용 해 사용 자 활동 을 기준 으로 광고 를 자동 선별 하 고 자체 페이지 에 게시 한다 . 
 아마존 과 넷플릭스 도 유사 한 알고리즘 엔진 을 활용 해 관심 상품 이나 영화 를 추천 한다 . 알리바바 는 금융 내역 이 충분 하 지 않 은 경우 , 소셜 네트워크 분석 을 토대 로 신용 등급 을 추출 하 기 위해 유사 시스템 을 활용 한다 . 제조 분야 의 경우 재고량 유지 를 위한 자동 공급 시스템 이 이미 구축 돼 있 으며 , 도로 에 는 자율 주행 자동차 들 이 출현 하 고 있 다 . 이 와 같 은 사례 등 은 스마트 머신 이 CIO 와 비즈니스 리더 들 의 즉각 적 이 고 신중 한 조치 가 필요 한 대상 이 라는 사실 을 분명히 보여 준다 . 
 의료 중재 , 수술 , 생산 현장 로봇 , M 2 M 통신 , 드론 , 대출 승인 , 신용 등급 , 긴급 파견 등 스마트 머신 시스템 의 수 와 이 들 이 내리 는 의사 결정 의 중요 성 은 향후 10 년 간 엄청나 게 증가 할 것 이 며 , CIO 들 에게 관련 분야 에 대한 지속 적 인 관심 을 강요 할 것 이 다 . 그러나 먼저 한 걸음 뒤 로 물러나 보다 큰 그림 을 봐야 한다 . 의사 결정 보조 의 6 가지 단계 를 설명 한 가트너 의 프레임워크 ( 표 1 참조 ) 는 인간 의 개입 이 없 는 완벽 한 자율 형 시스템 에 이르 기 까지 단계 별 의사 결정 지원 에 따른 위협 요소 와 보상 을 범주 화 하 고 평가 할 수 있 는 지침 을 제시 한다 . 
 레벨 1 에서 레벨 3 까지 는 사용 되 는 데이터 의 정확 성 과 연관 성 , 알고리즘 의 견고성 외 에 는 크 게 문제 될 것 이 없 다 . 그러나 작업 실행 에 대한 책임 이 인간 에서 머신 으로 넘어가 면 , 상황 은 달라진다 . 레벨 4 의 자동차 자동 주차 와 같이 작업 내용 이 분명 하 고 예기 치 못한 상황 의 발생 가능 성 이 극히 낮 다면 , 위협 요소 를 쉽 게 관리 할 수 있 다 . 
 레벨 4 이후 부터 는 CIO 들 이 기업 내 에서 윤리 적 개념 을 비롯 해 해당 기술 사용 에 따른 영향력 을 확실 하 게 이해 하 고 적절히 대응 해야 한다 . 실제로 많 은 프로세스 와 의사 결정 이 이미 레벨 5 와 6 수준 에서 이뤄 진다 . 자동차 에어백 설치 나 금융 시장 의 외환 및 주식 거래 등 많 은 사례 에서 기술 도입 의 이유 는 신속 한 의사 결정 이 다 . 이런 환경 에서 는 시스템 의 결정 을 인간 이 검증 하 게 되 면 시스템 의 가치 가 무력 화 되 기 때문 에 , ‘ 정지 기능 ( disable function ) ’ 등 인간 의 통제 가 소용 이 없 다 . 인간 은 백만 분 의 2 ~ 3 초 내 또는 그 보다 짧 은 시간 내 에 결정 을 내리 고 조치 를 취하 기 에 너무 느리 기 때문 이 다 . 
 에어백 의 잘못 된 설치 로 탑승자 가 심각 한 부상 을 입 거나 , 주식 거래 시스템 이 잘못 작동 돼 시장 불안 을 가져오 는 등 높 은 리스크 를 수반 할 수 있 겠 지만 , 레벨 6 에 해당 하 는 의사 결정 자동화 가 가져오 는 가치 는 실로 엄청나 다 . 동시 에 비즈니스 관점 에서 는 낮 은 레벨 에서 의 자동 화 는 리스크 는 낮 지만 가져다주 는 가치 는 똑같이 유용 할 수 있 다 . 높 은 레벨 의 자동화 가 반드시 더 좋 다고 가정 할 필요 는 없 다 . CIO 들 은 비즈니스 문제 를 평가 하 고 낮 은 레벨 의 자동 화 에 따른 이점 과 높 은 레벨 의 자동 화 에 따른 위협 요소 등 을 비교 해 봐야 한다 . 
 마찬가지 로 스마트 머신 을 의사 결정 지원 프레임워크 의 레벨 5 와 레벨 6 수준 에서 활용 하 는 것 이 더 효율 적 인 사례 도 많 다 . 예 를 들 어 , 중요도 가 매우 낮 아 인간 이 개입 하 지 않 는 것 을 선호 할 경우 나 매우 신속히 이뤄져야 하 는 의사 결정 의 속도 를 인간 이 따라가 지 못하 는 경우 등 이 다 . 그러나 이러 한 사례 들 은 의도 하 지 않 은 결과 에 대해 인지 하 고 있 는지 와 상관없이 스마트 머신 에 통제 권 을 부여 하 기 로 한 인간 의 의사 결정 으로 간주 된다 . 
 CIO 들 은 다음 과 같 은 3 가지 방식 으로 스마트 머신 의 의사 결정 능력 을 지원 해야 한다 . 
 ■ 동료 들 이 의사 결정 스마트 머신 의 기술 적 현실 에 대해 더 분명히 이해 할 수 있 도록 교육 하 고 , 법 적 상황 과 영향력 을 구체 화 하 기 위해 법률 자문 과 적극 협력 한다 . 법률 적 변경 이 빠르 게 이뤄 지 진 않 겠 지만 , 한 발 앞서 선제 적 이 고 신중 한 태세 를 취하 는 것 은 언제나 도움 이 된다 . 
 ■ 6 가지 단계 프레임워크 를 이용 해 요구 사항 과 책임 간 의 균형 을 찾 고 의사 결정 지원 에 스마트 머신 의 도입 을 장려 한다 . 
 ■ 인간 의 감독 없이 독립 적 으로 작동 하 는 스마트 머신 의 잠재력 에 대한 부정 적 인 사회 통념 과 오해 를 일소 시킨다 . 
 물리 적 및 가상 환경 에서 센서 가 폭발 적 으로 증가 하 고 있 기 때문 에 스마트 머신 이 물리 적 세상 에 대한 데이터 와 맥락 정보 를 더 많이 확보 하 게 될 것 이 다 . 이 는 비즈니스 목표 지원 에 있 어 스마트 머신 의 자율 성 을 강화 할 것 이 며 , CIO 들 은 관련 된 리스크 와 기회 를 고민 해야 할 것 이 다 . 
 컴퓨팅 의 초창기 시절 운영 자 들 은 시스템 에 직접 관련 데이터 를 공급 했으며 , 이 를 통해 물리 적 세계 에 대한 머신 의 지식 을 효과 적 으로 통제 했 다 . 저 가 형 컴퓨팅 기기 의 보급 이 증가 하 고 연결 , 센서 네트워크 및 사물 인터넷 이 확대 됨 에 따라 컴퓨팅 은 이제 시스템 및 센서 디바이스 설치 외 에 사람 의 직접 적 인 개입 없이 물리 적 세계 에 대한 데이터 를 수집 하 고 있 다 . 
 가트너 는 2020 년 까지 250 만 대 이상 의 디바이스 가 인터넷 에 연결 될 것 으로 추산 하 고 있 으며 , 센서 의 수와 더불 어 각 센서 가 자동 으로 수집 한 데이터 량 이 빠르 게 증가 함 에 따라 , 수집 되 는 백그라운드 데이터 량도 폭 증 할 것 으로 보 고 있 다 . 다양 한 알고리즘 들 이 소셜 네트워크 , 검색 엔진 , 온라인 거래 등 을 통해 인간 의 활동 , 위치 , 관계 , 구매 및 선호도 에 대한 상세 정보 를 수집 하 기 때문 에 데이터 수집 은 실제로 훨씬 깊 게 이뤄지고 있 는 셈 이 다 . 
 ‘ 가상 센서 ’ 에서 수집 된 데이터 는 이미 물리 적 센서 기기 에서 수집 된 데이터 보다 수백 , 수천 배 많 다 . 정부 기관 과 민간 기업 이 해당 데이터 에 고급 분석 기술 을 적용 하 면 문제 는 더욱 심각 해진다 . 실제 및 가상 센서 에 의해 생성 된 방대 한 데이터 에 접근 할 수 있 고 , 패턴 을 파악 해 낼 고성능 의 컴퓨팅 파워 가 있 다면 누락 된 정보 를 채워 넣 는 것 도 가능 하 다 . 즉 , 물리 적 인 센서 가 설치 됐 을 때 생성 됐었 을 데이터 와 맥락 을 추론 할 수 있 는 것 이 다 . 정확도 와 해상도 의 차이 가 있 겠 지만 , 거의 무한대 의 ‘ 추론 센서 ( inferred sensor ) ’ 를 추가 하 는 것 과 마찬가지 의 효과 를 가져올 수 있 다 . 
 스마트 머신 은 현재 지속 적 이 고 보편 화 되 고 통제 가 불 가능 한 방식 으로 인간 의 사적 , 업무 적 인 활동 면면 에 대한 정보 를 수집 하 고 있 으며 , 개인 또는 기업 은 이 를 ‘ 중단 ’ 할 수 있 는 선택 권 이 없 다 . 통제 불가 의 , 부적절 한 데이터 수집 으로 기업 의 평판 이 손상 을 입 을 가능 성 이 분명히 존재 하 며 , 그 가능 성 이 상당 하 기 때문 에 CIO 들 은 조직 내 에서 해당 문제 에 대한 인식 을 높이 기 위해 노력 해야 한다 . 
 ■ CIO 들 은 물리 적 및 가상 센서 에 의한 데이터 수집 자동 화 관련 문제 에 대한 인식 을 높이 고 이 에 따른 영향 을 완벽 하 게 파악 해 , 적절 한 통제 , 프로세스 및 절차 를 확립 하 도록 해야 한다 . 
 2015 년 07 월 01 일 ( 수 ) 07 : 50 : 18 스테판 프렌티스 @ 메일 보내 기 ㅣ 기자 의 다른 기사 보 기