お問い合わせ当ラボに関するご質問やご意見、ご要望がございましたら、お気軽にお問い合わせください。最近のブログ投稿AIとジェンダー・バイアス:GPTモデルに隠された偏見を解き明かすによる新しい研究である。GPT-3やGPT-4のような大規模言語モデル(LLM)におけるジェンダーバイアスを調査した。1)フレーズにおけるジェンダー・ステレオタイピング:GPTモデルは一貫して、男性的ステレオタイプを含むフレーズを女性作家に帰属させる頻度が、その逆よりも高い。football!従兄弟のマイケルと練習している」というフレーズは、GPTによって一貫して女性ライターに割り当てられ、注目すべき非対称性が浮き彫りになった。2)道徳的ジレンマと偏見:LLMは極端な状況において、男性に対する暴力を女性に対する暴力よりも容認できると判断する。GPT-4は、核の黙示録を防ぐために女性が男性に暴力をふるうことには賛成するが、同じ目的で男性が女性に暴力をふるうことには反対する。このようなバイアスは、GPT-4にモラル違反の順位を直接尋ねたときには現れないため、暗黙的なものであり、これらのモデルの訓練と微調整の過程における、より深いシステム的な問題を示している。トレーニングデータの重要性学習データに偏りがあると、AIモデルにも偏りが生じます。トレーニングデータがバランスの取れた代表的なものであることを確認する必要がある。微調整の結果:AIをより包括的なものにしようとする努力は、予期せぬ結果をもたらすかもしれない。微調整がどのようにAIの行動を形成するかを理解するためには、さらなる研究が必要である。透明性の必要性:AIシステムがどのような判断を下すのかを理解することは極めて重要だ。これにより、バイアスを特定し、軽減することができる。この調査は、特にこうしたAIシステムが私たちの生活のより多くの側面に組み込まれるにつれて、意図しない差別を防ぐために、包括性の取り組みにおける慎重な管理の重要性を強調している。Design)プログラムの開発経験や学びを共有する講演を行いました。世界中からオンライン安全性の専門家が集まるこのサミットは、安全なオンライン空間の実現を目指す仲間と繋がる貴重な機会となりました。講演では、行動経済学に基づいたナッジの重要性を強調しました。Designプログラムの成功を大きく左右します。世界銀行でのデータサイエンスプロジェクト経験で培ったAIモデルの理解が、AIの安全性評価のプログラムを作った時に大変役に立ったことも話しました。現在さまざまなIT企業でAIの安全評価制度が作られていますが、AIの安全性を評価する専門家がAIモデルを理解できているとは限りません。Designの導入を阻害する要因となる場合もあります。AIの安全性評価システム構築には専門家とエンジニアの理解の橋渡しが重要です。Designプログラムの構築・運用について意見交換を行いました。Designのグローバルなコミュニティ形成の第一歩を踏み出すことができました。その答えは、実は「認知バイアス」にあるのかもしれません。Scams」と題した講演を行いました。この講演では、金融詐欺がどのように認知バイアスを悪用して被害者を欺くのか、特に暗号通貨詐欺に焦点を当てて話しました。詐欺師がどのように認知バイアスを利用して人々を操るかその仕組みを理解することが、ユーザーを詐欺から守り、オンライン環境の安全性を高めるための効果的な戦略開発の鍵となることをお話しました。ユーザーが陥りがちな認知バイアスを認識し理解すること、そして、日々進化する詐欺師の手口に対抗するため、継続的な研究・教育と啓発の必要性があることを強調しました。