이미지 크롭 ( 잘라내기 ) 알고리즘이 인종차별적이라는 비판을 받고 사과했다. 흑인과 백인 얼굴을 같이 올린 게시물의 이미지 미리보기에서 백인 얼굴을 우선해 보여주는 게 문제였다. 2015년 구글의 사진 앱도 흑인 남성 두 명을 고릴라로 인식해 논란이 됐다. 안면 인식 소프트웨어가 백인보다 아시아인이나 아프리카계 미국인에서 오류가 많다는 것도 알려진 얘기다. 알고리즘의 기반인 데이터 수집에서의 편향성 때문이다. 알고리즘 개발자 ( 주로 남성, 백인 ) 들의 편향성도 작용한다. 인공지능 ( AI ) 스피커들은 대부분 젊은 여성의 목소리다. 보조적인 ‘ 여비서 ’ 이미지로 성차별을
와 극단주의가 출몰하는 이유다. 배경에는 이용자를 더 오래 화면 앞에 잡아둬 수익을 극대화하려는 경제적 동기가 있다. “ 학습하는 기계가 하는 일은 오직 유튜브 이용자들의 사용시간을 극대화하는 것뿐 ” ( 『 노모포비아 』 ), 과격하고 극단적인 내용일수록 사람들을 붙잡을 수 있기에 자동으로 그런 동영상을 추천한다는 설명이다.
늘 과격하다. ” 조깅을 검색하면 울트라 마라톤이 추천되고 채식주의로 시작하면 비건 ( 엄격한 채식주의자 ) 으로 이어지는 식이다. 정치 이슈라면 더 심각하다. 미국에서 트럼프를 검색하면 순식간에 홀로코스트를 부정하거나 백인우월주의를 옹호하는 동영상으로 넘어간다. 반대로 힐러리 클린턴 동영상으로 시작하면 미 정부가 9 · 11의 배후라는 식의 좌파 음모론으로 이어진다. 유튜브에 가짜뉴스와 극단주의가 출몰하는 이유다. 배경에는 이용자를 더 오래 화면 앞에 잡아둬 수익을 극대화하려는 경제적 동기가 있다. “ 학습하는 기계가 하는 일은 오직 유튜브 이용자들
“ 유튜브 시청시간 70 % 가 추천 알고리즘에 의한 결과며, 알고리즘 도입으로 총 비디오 시청시간이 20배 이상 증가했다 ” 고 밝혔다. 넷플릭스도 “ 매출의 75 % 가 추천 시스템에 의해 발생한다 ” 고 밝혔다. 알지 못하는 사이에 추천 알고리즘에 포박당했다는 얘기다. 기술과 데이터를 독점한 거대 기업들이 개발한 알고리즘은 ‘ 영업기밀 ’ 이라 정체를 알 길이 없다. 트위터는 최근 자동 이미지 크롭 ( 잘라내기 ) 알고리즘이 인종차별적이라는 비판을 받고 사과했다. 흑인과 백인 얼굴을 같이 올린 게시물의 이미지 미리보기에서 백인 얼굴을 우선해 보여주는 게 문제였다. 2015년
“ 유튜브의 알 수 없는 알고리즘에 이끌려 여기까지 오게 됐다. ” 유튜브에서 자주 보이는 댓글이다. ‘ 자동 재생 ’ 기능으로 끝없이 이어지는 추천 영상을 보다 보면 10분 같은 1시간이 후딱 지난다. 입맛에 맞는 영상을 맞춤하게 골라주니 유용하지만, 한편으론 찜찜하다. 유튜브의 최고 상품 담당자 ( CPO ) 닐 모한은 지난해 뉴욕타임스와의 인터뷰에서 “ 유튜브 시청시간 70 % 가 추천 알고리즘에 의한 결과며, 알고리즘 도입으로 총 비디오 시청시간이 20배 이상 증가했다 ” 고 밝혔다. 넷플릭스도 “ 매출의 75 % 가 추천 시스템에 의해 발생한다 ” 고 밝혔
수집에서의 편향성 때문이다. 알고리즘 개발자 ( 주로 남성, 백인 ) 들의 편향성도 작용한다. 인공지능 ( AI ) 스피커들은 대부분 젊은 여성의 목소리다. 보조적인 ‘ 여비서 ’ 이미지로 성차별을 강화한다. 유튜브 추천 알고리즘은 분열과 극단화를 조장한다는 비판도 받는다. 책 『 노모포비아, 스마트폰이 없는 공포 』 에 따르면 “ 추천 동영상은 본인이 직접 검색한 첫 동영상보다 늘 과격하다. ” 조깅을 검색하면 울트라 마라톤이 추천되고 채식주의로 시작하면 비건 ( 엄격한 채식주의자 ) 으로 이어지는 식이다. 정치 이슈라면 더 심각하다. 미국에서 트럼프를 검색하면 순식간
안면 인식 소프트웨어가 백인보다 아시아인이나 아프리카계 미국인에서 오류가 많다는 것도 알려진 얘기다. 알고리즘의 기반인 데이터 수집에서의 편향성 때문이다. 알고리즘 개발자(주로 남성, 백인)들의 편향성도 작용한다.