사이버 폭력: 인스타그램이 괴롭힘 방지 툴을 개발했다
인스타그램이 사이버 폭력을 방지하기 위해, 부정적인 댓글을 감지하고 올리기 전에 경고 창을 띄우는 프로그램을 선보였다.
인스타그램은 '사이버 폭력' 대해 책임을 져야 한다는 사회적 압박을 받았다 또, 부정적인 대화로 이용자들을 괴롭히는 경우가 있다면, 내용을 차단할 수 있는 방법도 곧 소개할 예정이다. 인스타그램은 온라인 괴롭힘으로 시작된 자살 사건이 늘자, 책임을 져야 한다는 사회적 압박을 받았다. 아담 모세리 대표는 인스타그램 블로그에 우리는 이 문제에 대해 "더 노력해야 한다"라고 올렸다. 그는 "인스타그램에서 괴롭힘이 일어나기 전에 미리 예방할 수 있도록 더 노력해야 하며, 따돌림을 당하는 사람들이 당당하게 일어나서 맞설 수 있는 환경을 만들어줘야 한다"라고 적었다. 경고창이 따돌림을 방지할 수 있을까 인스타그램은 AI 기술을 이용해 기존에 신고받은 부적절한 댓글을 바탕으로, 이와 비슷한 내용의 댓글을 미리 파악할 수 있다고 말했다. "정말 이 글을 게시하고 싶으신가요?"라는 창이 사이버 폭력을 막을 수 있을까 예를 들어 "못생기고 무식하다"라는 비방성 댓글을 작성한 경우, 올리기 전에 "정말 이 글을 게시하고 싶으신가요?"라는 창이 뜬다. 사용자가 "더 알아보기" 버튼을 누르면, "비방성 댓글 신고가 들어온 댓글과 비슷한 내용의 글이기 때문에, 한 번 더 생각해 보실 것을 권유한다"라는 설명이 나온다. 경고를 무시하고 글을 게시할 수도 있다. 하지만 인스타그램은 초기 테스트를 했을 때 "사람들이 다른 결정을 내리는 것을 볼 수 있었다면서, 다시 한번 생각해볼 기회를 주는 것만으로 덜 해로운 댓글로 바꾸거나 삭제하는 것을 볼 수 있었다"라고 말했다. 해당 기능은 영어권 나라에서 먼저 선보일 예정이다. 인스타그램은 점차 다른 언어로도 이 서비스도 시작할 것이라고 BBC에 말했다. 인스타그램 아담 모세리 대표는 사이버 폭력 관련해 "더 노력해야 한다"고 말했다 인스타그램은 '리스트릭트(제한)'이라는 툴도 개발 중이라고 말했다. '리스트릭트'는 청소년들이 특정 유저를 차단하지 않고도 비방글을 걸러낼 수 있는 기능이다. "어린 사용자들이 특정 사용자를 차단하는 것이 더 심각한 사회적 고립이나 따돌림으로 번질까봐 불편해한다는 것을 들었다"라고 모세리는 말했다. "또한 프로필을 차단해버릴 경우, 그들이 계속 어떻게 자신을 괴롭히는지 알 수 어렵다"라고 덧붙였다. 따돌림 방지 활동가인 알렉스 홈스는 "이런 기능들이 나와 너무 다행이다"라면서 "앞으로도 소셜미디어 회사들이 따돌림 방지를 위해 더 많은 노력을 해야한다"라고 말했다.