攻撃者は、学習データに含まれている、または、含まれていないデータに対する挙動の違いを観察することで、AIが学習したデータを知ることが可能となります。以下は、メンバーシップ推論攻撃を行っている様子を表しています。Network)を用意しておきます。classification)を出力します。Network)に入力し、メンバーシップの有無を判定していきます。メンバーシップ推論の例メンバーシップ推論は正常なクエリアクセスで行われるため、入力値の検証機構で異常を検知することは困難です。メンバーシップ推論攻撃を防ぐためには、クエリアクセスに対して信頼スコアなどの不必要な情報を応答しない、過学習を抑制するなどの対策を行う必要があります。–」にて詳しく説明します。このように、AIの開発工程には気を付けるべきセキュリティのポイントが数多くあります。セキュリティを考慮せずに開発を進めてしまうと、思わぬ脆弱性を作り込んでしまう原因になりますので注意が必要です。さいごに本コラムでは、AIを取り巻く環境とセキュリティについて俯瞰しました。AIにも従来のシステムと同様に攻撃を受ける可能性があり、セキュリティを意識して開発を進めなければ脆弱性が作り込まれてしまうことが分かっていただけたのではないでしょうか。AIを攻撃から守るためには、従来のセキュアな設計やコーディング、また、防御の仕組みなどを導入するのは勿論のこと、AI特有の防御策を講じる必要があります。とそれに対する防御策の要点を可能な限り整理して解説していきます。この連載コラムが、皆さまのAIセキュリティの向上に役立てれば幸いです。株式会社ChillStack:「世界中の人が安心して、新しいサービス・技術を作り、提供し、利用できる社会」を実現するために世界最高のAIセキュリティ技術を開発・提供している。AIを用いた不正ユーザ検知システムの開発・提供をはじめ、Webアプリケーションの脆弱診断や、AIを守るセキュリティ技術を研究・開発している。三井物産セキュアディレクション株式会社:サイバーセキュリティ専門企業である。Huntingサービス等の高度なセキュリティ技術サービスおよびコンサルティングサービス等を提供している。YouTubeとK-POPにハマっています。AIがこれから宗教とどのように関わり、仏教徒の生活に影響するのかについて興味があります。週1回、注目のAIニュースやイベント情報を編集部がピックアップしてお届けしています。こちらの規約にご同意のうえチェックしてください。