マルチモーダルAIの悪用可能性を評価2024年7月15日AIニュースOpenAIとロスアラモス国立研究所(米)は7月10日、バイオサイエンスにおける生成AIの安全性・有効性を評価するため提携を発表しました。この検証は、AIバイオセキュリティ評価の研究の最先端実験として位置付けられています。本研究は、生成AIの中でもGPT-4oなどのマルチモーダルモデルが悪意のある生物学的用途にどれだけ悪用される可能性があるのかを検証します。ロスアラモス国立研究所(以下、LANL)は「AI発展による恩恵は計り知れない」と述べています。一方で「発展したAIが生物学的脅威に関係する危険性については大部分が未解明のままである」と述べており、そのため本研究がスタートしています。AIを用いた生物学的脅威は高い危険性を持っており、以前の評価ではGPT-4に生物学的脅威に関わる情報出力に関して軽微な向上が見られたという結果がでています。マルチモーダルモデルに関しては未だ研究が為されておらず、本研究において、どれだけ生物学的脅威の危険性を軽減できるのかが注目されます。Framework」を用いて実施されます。Framework」とは、GPT-4oのような高度なAIモデルの持つリスクに対して体系的に対応していくための方針です。軽減するための包括的アプローチを取っていくことができます。参考:OpenAIロスアラモス国立研究所の取り組みLANLは第2次世界大戦中に設立され、現在はヘルスケア・バイオサイエンス分野の研究に取り組んでいる機関です。AIのリスク評価を行う「AIRTAG」を設立しており、AIツールの安全な展開を実現するための戦略立案などを行っています。今回のOpenAIとの共同研究もAIRTAGの活動の一環としており、LANLのニック氏は以下のように述べています。secure,和訳この種の協力は、AIRTAGが推進しようとしているAIリスクを理解し、最終的にAI技術をより安全かつ安心なものにするための一例です。ロスアラモス国立研究所まとめOpenAIとロスアラモス国立研究所(米)は7月10日、バイオサイエンスにおける生成AIの安全性・有効性を評価するため提携を発表しました。本研究が主眼に置いていることは、あくまでバイオサイエンスにおける生成AIの持つ生物学的脅威のリスクです。今回の研究で生成AIの安全性が保証されれば、今後異なる科学領域での生成AI活用の糸口になる可能性があります。LANLとOpenAIの今後の発表に注目していきましょう。Bocekにて生成AI専門メディア「PROMPTY」の記事執筆を担当。