성차별: 아마존, '여성차별' 논란 인공지능 채용 프로그램 폐기
전자상거래 기업 아마존이 인력 채용을 위해 도입한 인공지능(AI) 시스템을 폐기하기로 했다고 로이터 통신이 밝혔다.
아마존은 2014년부터 AI 채용 시스템을 개발해왔다 통신에 따르면 아마존은 지난 10년간의 데이터를 바탕으로 지원자들의 이력서를 검토하고 채용 적합도를 판단하는 인공지능 채용 시스템을 개발해왔다. 하지만, 그 결과 여성보다 남성 지원자를 선호하는 패턴을 발견했다. 아마존은 이러한 주장에 대해 아직 입장을 밝히지 않았다. 로이터는 2014년부터 인공지능 채용 프로그램을 개발해 온 엔지니어 5명을 인용해 보도했지만, 이들의 요청으로 신분을 밝히지는 않았다. AI 채용 프로그램은 지원자들의 이력서에 1개에서 5개 사이 별점을 부여하도록 고안했다고 밝혔다. 한 담당자는 로이터에 "100개의 이력서를 주고 프로그램이 상위 5개를 추천하면 이들을 채용하는 방식이었다"고 설명했다. '여성 차별' 시스템 도입 1년이 지난 2015년 AI 프로그램이 지원자들을 공정하지 못하게 평가했다는 사실이 분명해졌다. AI가 추천한 지원자가 대부분 남성으로 드러났다. 인공지능 시스템이 스스로 남성 지원자가 더 바람직하다고 판단했다는 것이다. 로이터에 따르면 아마존의 AI 채용 시스템은 '여성'이라는 단어가 포함된 이력서에 감점을 주기에 이르러 특정 용어에 중립적 평가를 하도록 개선했지만, 같은 문제가 반복되지 않으리라는 확신을 주지 못했다. 이후에도 채용 담당자들은 AI를 부분 활용해 채용을 진행했지만 결국 프로젝트는 무산됐다. 아마존의 글로벌 인력은 현재 6:4 정도로 남성이 더 많다. 메사추세츠 공과 대학(MIT)의 연구팀은 사이코패스 인공지능 '노먼(Norman)'을 개발, 편향된 데이터가 알고리즘에 사용될 때 어떤 결과를 가져오는지 실험했다 소프트웨어 회사 커리어빌더의 조사에 따르면, 미국 인사 담당자 중 약 55%가 AI가 향후 5년 이내에 채용에 중요한 역할을 할 것으로 생각한다고 밝혔다. 그러나 AI 알고리즘에 대한 의구심이 제기된 것은 이번이 처음이 아니다. 2017년 5월 보고서에 따르면 미국 법원의 AI가 흑인들의 재범확률이 백인보다 2배 높다고 판단한 사례도 있었다. 경찰 예측 알고리즘 역시 유사한 편향성을 보였다. 이는 애초 데이터가 흑인의 범죄에 대해 더 많은 정보를 포함했기 때문으로 알려졌다.