‘ 인공지능 역기능 ’ 주시 해야 - 코리아 뉴스 타임즈 
 머지않 아 인공지능 은 주식회사 와 같 은 법인격 을 가지 게 되 고 , 다른 인공지능 과 사람 들 까지 고용 하 여 독자 적 으로 사업 을 확대 할 것 이 다 . 많 은 사람 들 이 기계 는 인간 과 달라 편견 을 가지 고 않 고 엄정 하 고 냉정 한 판단 을 내릴 것 이 라고 기대 한다 . 하지만 , 인간 이 입력 하 는 데이터 의 편향성 과 범람 하 는 가짜 뉴스 로 인하 여 인공지능 이 인간 의 편향성 을 답습 할 위험 은 증가 하 고 있 다 . 인간 과 같 은 지성 을 가지 고 활동 할 인공 지성 이 민주 사회 의 일원 으로 활동 하 기 위해서 는 자칫 위험 할 수 도 있 는 편향성 을 사전 에 적절히 제거 할 필요 가 있 다 . 
 플랫 폼 이 바꿀 수 있 는 여론 의 편향 
 과거 의 민주주의 는 권력 분립 과 표현 의 자유 를 중시 하 며 발전 했 다 . 이제 인공지능 이나 알고리즘 이 여론 을 조성 함 에 크 게 기여 하 므로 인공지능 알고리즘 의 투명 성 을 보장 하 는 것 은 민주 국가 의 또 다른 책무 가 되 었 다 . 하지만 그 과정 은 결코 간단 하 지 않 다 . 사람 들 이 펼치 는 집회 나 시위 와 달리 , 자동 화 된 온라인 시스템 은 생각 보다 복잡 하 고 다양 하 다 . 운영 의 주체 는 정부 가 아니 라 상업 적 인 기업 이 므로 접근 이나 통제 마저 쉽 지 않 다 . 
 온라인 에 구축 된 정보 세계 에서 특정 세력 이 플랫 폼 을 여론 몰이 에 활용 될 가능 성 은 언제나 존재 한다 . 페이스북 은 지난 2012 년 68 만 명 에 대하 여 1 주일 간 실험 을 실시 했 다 . 그 결과 뉴 스피드 에서 긍정 적 인 더 많이 본 사람 은 긍정 적 인 포스트 를 생산 하 고 부정 적 인 포스트 를 접한 사람 은 부정 적 인 포스트 를 생산 한다는 사실 을 알 게 되 었 다 . 
 이미 온라인 네트 웍 은 미국 오바마 대통령 선거 에서 큰 역할 을 하 였 다 . 지난 3 월 트럼프 대통령 이 당선 된 최근 미국 대선 전후 5 천만 명 의 페이스북 사용 자 들 의 정보 가 노출 되 었 다는 보도 가 있 었 다 . 이 소식 으로 페이스북 의 주가 가 한때 큰 폭 으로 떨어졌 다 . 이 수치 는 미국 유권자 의 4 분 의 1 에 달하 는 방대 한 수 치이 다 . 러시아 출신 의 한 앱 개발 전문가 가 성격 검사 명목 의 앱 을 배포 했 고 , 정치 적 목적 으로 개인 성향 자료 를 축적 하 여 선거 에 활용 했 다는 주장 이 제기 되 었 다 . 이러 한 문제 에 직면 했 던 페이스북 은 최근 시스템 을 악용 하 는 사람 들 을 배제 하 기 위한 작업 을 강화 했 다 . 페이스북 은 올해 4 월 부터 9 월 까지 가짜 계정 15 억 개 를 삭제 했 고 , 테러 선동 콘텐츠 1 억 개 , 음란물 6 천만 개 도 제거 했 다고 밝혔 다 . 
 캘리포니아 에 있 는 행동 기술 연구소 의 로버트 엡스타인 은 2016 년 연구 에서 검색 엔진 의 알고리즘 조작 만 으로 도 부동층 중 20 % 는 표 심 을 바꿀 수 있 다고 주장 했 다 . 최근 에 는 한국 에서 도 매크로 등 의 프로그램 을 이용 하 여 정치 적 인 기사 의 우선 순위 를 조작 한 것 이 사회 적 문제 가 되 었 다 . 2017 년 한국 대통령 선거 를 전후 하 여 일부 조직 은 매크로 프로그램 을 이용 하 여 뉴스 기사 의 노출 정도 를 조절 했 다 . 그 들 은 대략 기사 8 만 개 에 달린 댓글 149 만 개 를 조작 했 다고 알려졌 다 . 이 들 이 조작 한 공감 이나 비 공감 클릭 은 약 9 , 970 만 회 에 달한다 . 한국인 인구 의 2 배 에 달하 는 방대 한 수 치이 다 . 만약 인공지능 이 자체 적 으로 진행 하 는 뉴스 추천 이 비 정상 적 인 입력 에 노출 되 면 우리 는 가치 있 는 뉴스 보다 는 단순 한 정보 의 거품 을 수령 하 게 된다 . 이 에 일부 포털 은 관련 조작 이 여론 을 왜곡 할 우려 가 있 음 을 파악 하 고 하루 에 댓글 로 표현 가능 한 기사 의 숫자 를 20 개 로 제한 하 거나 , 댓글 관련 기능 을 없애 기 도 하 였 다 . 
 일부 검색 엔진 은 현재 유사 한 뉴스 기사 를 묶 어서 정리 하 고 있 지만 , 이제 는 유사 성 이란 기준 에 묶여서 가치 있 는 정보 가 사라질 위험 도 검토 할 필요 가 있 다 . 일부 광고 업체 들 은 검색 엔진 의 연관 검색어 마저 조작 하 기 시작 했 다 . 이 에 검색 엔진 운영 업체 들 은 자동 적 으로 대량 입력 되 는 연관 검색어 에 대한 모니터링 을 한층 강화 하 고 있 다 . 
 입력 된 데이터 로부터 발생 하 는 편향 
 인공지능 은 수백만 장 의 학습 데이터 를 통하 여 귀납 적 으로 사물 을 인식 한다 . 그렇지만 학습 용 데이터 는 사람 이 제공 하 기 때문 에 개발 진이 사전 에 가진 편견 은 인공지능 에게 도 그대로 전수 된다 . 개발 진 들 은 주변 에서 접할 수 있 는 가능 한 많 은 데이터 를 입력 하 지만 , 인공지능 은 개발자 가 사용 한 언어 , 데이터 입력 장소 , 사용 한 OS , 사람 들 의 검색 습관 등 다양 한 내용 에 직접 적 인 영향 을 받 게 된다 . 
 사용자 들 이 의식 적 으로 무 의식 적 으로 입력 하 는 데이터 는 벌써 부터 인공 지성 이 인종주의 자 가 될지 도 모른다는 경고 로 이어지 고 있 다 . 실리콘밸리 인근 의 오클랜드 에서 는 2010 년 흑인 청년 을 살해 한 경찰 이 무죄 를 선고 받 자 1 , 000 명 이 넘 는 시위대 가 인종주의 에 항의 하 는 격렬 한 시위 를 벌였 다 . 인공지능 의 개량 을 위하 여 구글 등 900 만장 이상 의 사진 을 학습 시켰 다 . 그리고 , 인류 는 10 만장 이상 의 그림 에 대하 여 직접 라벨 링 을 하 면서 인공지능 에게 개인 교습 까지 하 였 다 . 2015 년 소프트웨어 엔지니어 인 재 키 알 시 네 는 구글 포토 즈 가 흑인 을 고릴라 라고 판독 하 는 실수 를 범했 다고 문제 를 제기 했 다 . 구글 포토 즈 는 대 신 바 분 , 마모셋 원숭이 는 모두 정상 적 으로 인식 했 다고 한다 . 한편 특정 회사 가 시도 한 인공지능 프로젝트 는 지속 적 으로 잘못 된 반응 을 심 어 준 사용 자 들 로 인하 여 , 24 시간 내 에 페미니즘 과 유대인 을 미워하 는 잘못 된 반응 을 보였 다 . 이러 한 결과 는 공공 데이터 를 이용 하 여 인공지능 을 학습 시킬 경우 나타날 수 있 는 위험 을 잘 보여준다 . 
 인터넷 의 세계 에서 는 정보 접근성 이 약한 노인 층 이나 특정 국가 국민 의 의사 가 반영 되 지 못하 는 위험 도 있 다 . 이 에 프랑스 등 의 일부 국가 에서 는 빈곤 한 사람 들 과 노인 의 정보 접근권 을 개선 하 여 이러 한 문제 를 해결 하 고자 한다 . 아프리카 에 헬륨 풍선 이나 태양광 무인기 를 띄워서 정보 접근성 을 개선 하 려는 움직임 도 인공 지성 의 편견 을 개선 하 려는 움직임 에 도움 이 된다 . 올해 아프리카 의 콩고 민주 공화국 에서 는 보급 된 한국 산 전자 투표 기 가 아프리카 에서 사회 적 이슈 가 되 었 다 . 콩고 민주 공화국 의 경우 인구 의 90 % 는 인터넷 정보 접근 은 고사하고 아직 도 글자 로 읽 지 못한다 . 그런데 , 전자 적 인 투표 는 선거 의 결과 에 크 게 영향 을 미칠 수 있 다는 우려 가 제기 되 었 기 때문 이 다 . 
 제작자 의 의도 를 벗어날 수 있 는 인공지능 
 일부 인공지능 은 그 결정 과정 을 설명 할 수 없 는 블랙박스 시스템 을 가지 고 있 다 . 그 결과 인공지능 이 제작자 의 의도 를 벗어난 결정 을 내릴 가능 성 이 존재 하 는 것 이 다 . 최근 에 는 이러 한 문제 가 널리 인식 되 자 , 유럽연합 은 개인 정보 보호법 이 라고 할 수 있 는 GDPR 에서 자동 화 된 의사 결정 시스템 에 대하 여 의사 결정 과정 에 대한 설명 을 요구 할 권리 를 규정 하 기 도 했 다 . 구글 등 다수 의 검색 알고리즘 은 하나 의 알고리즘 에 의하 여 움직이 는 것 이 아니 라 수천 개 의 추천 알고리즘 이 조합 하 여 작동 한다 . 그렇 기 때문 에 알고리즘 이 편향성 을 가지 고 있 는지 를 파악 하 는 것 은 쉽 지 않 다 . 
 2016 년 탐사 보도 전문 언론 프로 퍼블 리카 는 미국 의 사법 당국 이 이용 하 는 범죄 위험 예측 프로그램 이 흑인 을 더욱 차별 할 수 있 음 을 보도 했 다 . 아마존 의 경우 는 2014 년 부터 500 대 의 컴퓨터 가 5 만 개 의 키워드 를 분석 하 여 구직자 들 을 평가 하 였으나 인공지능 이 남성 구직자 를 우선 적 으로 추천 하 자 사용 을 중단 했 다 . 인공지능 이 어느새 인간 이 가졌 던 편견 마저 학습 했 던 것 이 다 . 최근 에 는 일부 플랫폼 에서 운전자 의 구인 광고 가 남성 에게 더욱 집중 적 으로 노출 되 었 다는 보도 도 있 었 다 . 최근 에 는 특송업체가 이용 하 는 사전 예측 배송 프로그램 은 백인 거주지 에 더 우선 하 여 물품 을 공급 할 가능 성 이 높 다는 연구 도 나오 고 있 다 . 
 위 와 같 은 우려 가 증폭 되 자 IBM 은 ‘ AI 공정성 360 ’ 이 란 소프트웨어 를 만들 었 다 . 이 프로그램 은 검색 엔진 등 의 공정 성 을 평가 하 는 도구 로 IBM 은 이 를 오픈 소스 로 공개 했 다 . 이 도구 를 사용 하 면 특정 서비스 가 이용자 들 에게 균등 한 기회 를 제공 했 는지 에 대한 판단 을 제공 한다 . 다양 한 검색 엔진 은 성 적 인 또는 인종 적 인 편향성 을 가질 수 있 기 때문 에 애드 피셔 ( Adfisher ) 등 은 이러 한 편견 성 을 찾아내 는 도구 로 활용 된다 . 애드 피셔 는 브라우즈 에 임의 로 남성 과 여성 등 의 다양 한 설정 을 입력 하 고 , 제시 되 는 검색 결과 를 분석 하 여 알고리즘 이 편향성 을 가지 고 있 는지 를 알아낸다 . 
 최근 관심 을 끌 고 있 는 자율 주행 시스템 에 는 탑승자 를 보호 하 도록 하 는 알고리즘 이 탑재 되 어 있 다 . 그런데 , 탑승자 를 무조건 보호 하 는 프로그램 은 선량 한 보행자 의 사망 과 부상 을 증가 시킬 수 있 다 . 탑승자 는 이미 안전벨트 와 에어백 으로 무장 하 고 있 으며 사고 두꺼운 차체 가 일차 적 인 충격 을 흡수 하 는 우월 적 지위 에 있 다 . 하지만 보행자 는 무방비 로 자율 주행 차량 으로부터 의 위험 에 노출 되 어 있 다 . 비록 자동차 구매자 에게 는 반갑 지 않 겠 지만 , 자율 주행 알고리즘 은 탑승자 보다 보행자 의 희생 을 최소 화 하 도록 설계 되 어야지 만 전체 적 인 인류 의 피해 를 감소 시킬 수 있 다 . 
 제 4 차 산업 혁명 시대 의 기반 기술 로 꼽히 는 인공지능 은 사람 이 제작 하 기 때문 에 인간 이 가졌 던 편견 으로부터 완전히 자유 로울 수 는 없 다 . 하지만 인공지능 이 편견 을 가질 수 있 음 을 인정 하 고 , 스스로 편견 을 알아차리 는 것 은 문제 해결 의 시작 이 다 . 인류 는 인공지능 에게 실정법 과 윤리 를 학습 시키 는 것 을 넘 어서 , 인간 만 이 가지 는 보편 적 인 인류애 와 합리 성 을 가르칠 필요 도 있 음 을 유념 해야 한다 .