1.はじめにAIのセキュリティの研究に着手しており、2020年に、AIとセキュリティの関係は図1の4つに整理できることを明らかにしました[1][2]。AIが注目を浴びており、その影響は非常に大きいと考えられます。そこで、この生成AIが普及することによって4つのうちどの部分に対する影響が大きいのか、そのためどのような対策が必要になるのか考察してみました[3][4]。いったクリエーティブな領域での活用が期待されているのはご存じのとおりです。生成AIには表1に示すように何が入力で何が出力かによっていろいろなシステムがありますがここでは、テキストを入力とし、テキストを出力とするChatGPTを主な対象とすることとしました。ChatGPTの出現により、技術的な背景を持たない人々も簡単にAIを活用することができるようになり、「AI活用の民主化」が一気に進むと思われます。生成AIによって生じうる広い意味のリスクは図2に示すように整理することが可能であると考えています[4]。3.生成AIの出現によって変わるもの生成AIが出現してもAIとセキュリティに関する4つの関係そのものは変わらないと考えられます。AIであると考えられます。AIに絞って、リスクがどのように変わり、どのような対策が必要になるか考察を行っていきます。私は、AIの研究開発を強引に抑制するアプローチは科学の発展を享受するために適切でないと考えています。人間は、地震発生時の津波による福島における原子力プラント事故にみられるようにリスクを正しく認識するのが苦手です。したがって生成AIによる人間への攻撃の可能性に今まで以上に高まっている現在、状況をしっかり観察し,対策を検討する人がいなければならないとも考えています。ここでの検討はこのような認識に基づくものであります。従来からいわれていたAIによる人間への反乱のストーリーは、汎用AIが、より優れた汎用AIを作ることを繰り返し、ついに人間の能力を超える汎用AIが誕生し、人間に反乱するというものです。従来のAIは汎用AIではなく専用AIであり、新しいAIソフトを自動的に作り出す機能を持たないものです。したがって反乱の可能性は限りなく低かったといえるでしょう。それに対し、生成AIは汎用性が高いAIであり、ChatGPTなどの生成AIはプログラムを自動生成する機能を持っています。そのため反乱のリスクは大幅に上昇したと考えざるを得ないでしょう。実際にAIが反乱に成功するためには、AIが人間に被害を与える行動に出るとともに、人間がAIの攻撃を防御するのに失敗することが条件となります。AIが人間に被害を与える行動に出るパターンとしては表3に示すように、1ターミネータ型、22001年宇宙の旅型、3マッドサイエンティスト型の3つがあると考えました。それぞれの攻撃方法は表4に示すようになると想定しています。従来はターミネータ型だけを考えることが多かったのですが人間への影響としては他の2つも考慮することが必要になると考えました。AIに関するリスクアセスメントと対策の検討をきちんとすると簡単にはいかず多くの時間がかかると推定されます。Treeを用いた予備検討を実施しリスクのプライオリティ付けをするとともに、必要性が大きな対策をリストアップすることにしました。アタックツリーは、図3-図6に示すとおりであり、それらをまとめると必要な対策は表5に示すようになります。これにより必要な対策は概略明らかになりましたが、これで十分かの問題があります。対策コストや利便性や社会の発展性とのバランスで本当にここまで対策をやってよいのかの検討が必要です。対策をAIが回避する手段に出ることも考えられこれに対する対策も必要になります。私は長年にわたってリスクアセスメントやリスクコミュニケーションの研究をしてきました。AI問題のリスクアセスメントを行っていきたいと考えています。