その攻撃的な内容、「本当に投稿したい？」 インスタグラムのいじめ対策
写真共有アプリのインスタグラムは8日、新しいいじめ対策機能を発表した。コメントを投稿する前に「本当にこれを投稿したいですか？」とユーザーに尋ね、一旦打ち込んだ内容をよく考えるよう促すことで、いじめを抑止できるとしている。
デイヴ・リー、北米テクノロジー担当記者 投稿前のコメントにAIが有害だと判断する言葉が含まれている場合、「本当にこれを投稿したいですか？」（ "Are you sure you want to post this? Learn more"）という通知が表れる インスタグラムの最高経営責任者、アダム・モッセリ氏はブログスポットで、「我々は、いじめがインスタグラム上で起きないよう、さらなる防止策を講じることができる。我々は、いじめの標的となっているユーザーに、自ら相手に立ち向かうための力をもっと与えることができる」と述べた。 「こうした機能は、インスタグラム上でユーザーがどうやってどお互いをいじめて、どう対応しているのか、深く理解した上で、用意したものです。けれども、問題解決への長い道のりにおける、たった2歩にすぎない」 さらに同社は、他のユーザーに苦痛を与えたりするユーザーとのやりとりを制限する機能についても、近く提供する予定という。 ＜関連記事＞ 2017年に14歳で自らの命を絶ったイギリス人のモリー・ラッセルさんなどをきっかけに、SNS上の有害情報やいじめ問題に注目が高まっており、インスタグラムは対応に迫られている。 モリーさんの死後、うつや自殺に関する悲痛な情報が彼女のインスタグラムのアカウントにたくさんあるのを、家族が発見した。今年1月、モリーさんの父親イアン・ラッセルさんは、インスタグラムが娘の死を助長したと考えていると主張。これに対しインスタグラムは声明で、「インスタグラムは自傷、自殺を促進・美化する投稿は認めておらず、そうした投稿は削除している」と反応していた。 「考え直して」 インスタグラムによると、今回発表した新機能では、ユーザーから不適切だと通報されがちな投稿内容と共通点のある内容を、人工知能（AI）が検知するという。 例えば、「あんたって本当に醜くてバカね（“you are so ugly and stupid”）」と打ち込むと、「本当にこれを投稿したいですか？ さらに詳しく（ "Are you sure you want to post this? Learn more"）」という通知が表示される。 「さらに詳しく」をタップすると、「過去に通報されたものに似たコメントについて、投稿を考え直すよう、みなさんに呼びかけています」との通知が表示される。 2017年に、14歳で自らの命を絶ったイギリス人のモリー・ラッセルさん ユーザーは、このメッセージを無視して、お構いなしに投稿することもできる。しかしインスタグラムは、初期実験を行なったところ、「熟考する機会を与えられると、一部の人はコメントを取り消し、それほど攻撃的ではない別の内容を共有した」という。 インスタグラムはBBCの取材に対し、この機能はまず英語圏のユーザーに対して展開した後、ゆくゆくは世界中に提供する予定だと述べた。 制限機能も インスタグラムが近く提供を予定しているのが、「リストリクト（Restrict）」と呼ばれる、制限機能だ。10代ユーザーが、特定のユーザーをブロックすることなく、悪口などのコメントを非表示に設定できるようになる。ブロック機能を使うと、ブロックされた側にも一目瞭然で、現実世界にまで影響を及ぼしかねないからだ。 モッセリ氏は、「インスタグラムのコミュニティーにいる若者から、ブロックしたりフォローを外したり、あるいは通報したりするのは、なかなか難しいという意見を聞いた。特に、その相手と実生活でも関わっている場合、状況の悪化につながりかねないからだ」と説明する。 さらにブロックしたりフォローを外したりすると、「いじめられている側が、自分をいじめる相手の行動を把握しにくくなる」とモッセリ氏は指摘する。 それとは異なり、制限をかけられたユーザーの投稿は、そのユーザー本人にしか表示されなくなる。重要なのは、自分が制限されていると気がつかないことだ。 「制限をかけたユーザーによるコメントを、ほかのユーザーに対しても表示することも可能だ」とモッセリ氏は説明する。 「自分がインスタグラムでオンラインだということも、ダイレクト・メッセージを既読済みだということも、制限をかけた相手には分からなくなる」 「言い訳にはならない」 インスタグラムを初めとするソーシャルメディア上でのいじめ行為は、2017年に自殺したモリーさんの父親イアンさんが今年1月、うつや自殺に関する情報が載っていたインスタグラムが自殺を助長したと主張したことで、注目された。 イギリスのデジタル・文化・メディア・スポーツ省（DCMS）と内務省は今年4月、共同で「オンライン有害情報白書」をまとめた。IT企業が従うべき「業務規範」を独立した監視団体に作らせ、テロ組織の宣伝や児童虐待の投稿など、インターネットの「有害情報」への対策が不十分なサイトについて、罰金や閲覧禁止などを科す方針を明らかにした。 同白書をめぐっては、効果を疑問視する声や、やりすぎなのではないかとの声が一部で上がった。 インスタグラム責任者のアダム・モッセリ氏は、オンライン上のいじめ行為に対して、企業側ができることはもっとあると話す モッセリ氏は、いじめ問題への取り組みをインスタグラムとして重視していると強調する。 故ダイアナ元妃の遺志を継いで設立されたチャリティ団体「ダイアナ・アワード」でいじめ撲滅を担当するアレックス・ホームズ氏は、インスタグラムの取り組みについて、「新しい機能が展開されて、本当に励みになる」と評価する。 同団体は、米フェイスブックから、現実世界におけるいじめ行為を防ぐ取り組みのための資金提供を受けている。BBCの取材に対し、ホームズ氏は、ソーシャルメディア企業は適切な行為について、ユーザーに対してもっと積極的に周知することができると指摘する。 「18歳未満の人は、ユーザー登録の際に、意識啓発のプロセスを踏むべきだ。これは非常にシンプルなことで、登録手続きの最初の5分間で済むことだと思う。企業側は、安全に関する問題を、より魅力的に、興味をそそるようなかたちで提起できるはずだ」 心の健康に関する情報をBBCアドバイス（英語）で提供しています。また、日本の厚生労働省が運営する「知ることからはじめよう みんなのメンタルヘルス総合サイト」も心の健康に関する情報や相談先を紹介しています。 （英語記事 Instagram now asks bullies: 'Are you sure?'）