Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。最新の動向を知ることができる場として、好評を得ています。Academy」や、すべてのITパーソンに向けた「新エバンジェリスト養成講座」などの講座を企画しています。EnterpriseZine編集部ならではの切り口・企画・講師セレクトで、明日を担うIT人材の育成をミッションに展開しております。市場を勝ち抜く企業はどこにEnterpriseZine編集部が最旬ITトピックの深層に迫る。ここでしか読めない、エンタープライズITの最新トピックをお届けします。生成AIの急速な発展と社会実装が進む中、各国でAI規制の整備が加速している。新たな技術がもたらすリスクにどう立ち向かうべきか。TRiSM」の概要と、生成AIのリスク対策のポイントを解説。信頼性、リスク、セキュリティ、マネジメントの4つの観点から、生成AIを安全に活用するための指針を探る。柳井省吾氏2017年株式会社マクニカに入社。データ分析プラットフォーム製品を中心とした製品を対象にセールスエンジニア、サポートエンジニア、トレーニング講師を担当。・機械学習・データ活用の分野における新商材の発掘やセールス活動に従事する。近年、生成AIの社会的実装が急速に進む中、AIがもたらすインパクトの大きさが注目されている。一方で、各国における規制の動きも活発化しつつある。柳井氏は、日本の状況について次のように述べる。「日本では『広島プロセス国際指針』が、生成AIに関する初の国際的な取り決めとして合意されました。アメリカでは大統領令が発令され、安全性テストの結果報告義務などが盛り込まれた。Act」が採択されている。中国でも生成AI特化の法律が施行されるなど、グローバルでルール作りが本格化している。(出典)マクニカ[画像クリックで拡大]各国の規制動向を俯瞰すると、生成AIがもたらすリスクへの懸念が根底にあることがわかる。米国では、イノベーション促進の色が強いが、大統領令では、安全性テストの結果報告を政府に義務付けるなど、拘束力のある内容が盛り込まれ、大統領令をベースにより踏み込んだ内容の法案が将来可決される可能性がある。Act」ではAIシステムを4つのリスクレベルに分類し、段階的な規制を導入しようとしている。リスクの高い「許容できないリスク」には、ソーシャルスコアリングなどが該当し、禁止・制限される。次の「ハイリスク」には、生体認証や重要インフラなどが該当し、事前の適合性評価が求められる。「限定リスク」では、チャットボットなどに透明性義務が課される。「最小リスク」は規制の対象外となる。したルールはEU域内にサービスを提供する日本にも適用され、制裁金や市場からの取り下げなどの罰則が生じる可能性がある。(出典)マクニカ[画像クリックで拡大]こうした規制の背景には、生成AIの予期せぬ動作や、悪用による被害への懸念がある。運用面でのリスク管理が十分でないことが、企業のAI活用を躊躇させる一因となっているようだ。実際、ある調査[※1]では日本企業の71%が職場での生成AI利用を禁止、もしくは禁止を検討していることが明らかになった。その理由として、情報漏洩やセキュリティインシデントへの懸念が大きいようだ。リスクの事例も生まれている。TRiSM」(エーアイトリズム)だ。TRiSMは、ガートナー社が提唱するAIリスク管理フレームワークで、Trust(信頼)、Risk(リスク)、Security(セキュリティ)、Management(マネジメント)の頭文字を取った造語である。生成AIに限らず、AI全般に適用可能な点が特徴だ。具体的には、(1)モデルの説明可能性、(2)ModelOps、(3)アプリケーションセキュリティ、(4)プライバシー、の4本柱から成る。予測結果を人間が理解できるようにすること。AIモデルは、材料(入力)から結果(出力)が得られるが、内部で何が起きているかわかりにくい「ブラックボックス」的なシステムになりがちだ。説明可能性とは、AIがどのような根拠で最終的な結論を導き出したのかを明らかにすることを指す。がん検診に使うAIモデルがあったとする。説明可能性により、AIががんの判定を下した際に、どの部分の画像情報を見て判断したのかなどが明らかになる。このようにAIの回答に説明性がつくことで、結果への信憑性が増し、ビジネスの意思決定にも活用しやすくなる。(出典)マクニカ[画像クリックで拡大]ModelOpsModelOpsは、AIモデルの運用を効率化・維持するためのプロセスや仕組みを指す。モデルを実稼働環境に導入し、評価・改善とモデルのライフサイクル管理を一連の流れで行う。AIモデルは、開発時点から現場でのデータの傾向が変化すると、性能が劣化しやすい。開発時のデータを学習したモデルでは、現実との乖離が生まれ、運用に耐えられない信頼性の低いAIになってしまう。ModelOpsでは、モデルの開発と運用を一体的に管理することで、モデルを実環境で適切に評価できる。これにより、モデルの改善サイクルが回しやすくなったり、ドリフト(モデルと現実のずれ)の検知がしやすくなったりと、品質維持の面で利点が大きい。(編集部)(キョウベヤスオ)ライター兼エディター。翔泳社EnterpriseZineには業務委託として関わる。翔泳社在籍時には各種イベントの立ち上げやメディア、書籍、イベントに関わってきた。支援などもおこなっている。Day、DataTechという、3つのイベントを開催しております。それぞれ編集部独自の切り口で、業界トレンドや最新事例を網羅。SOC監視でリスク低減へ新着記事一覧を見るイベントイベントカレンダーを見る講座イベントカレンダーを見る「EnterpriseZine」(エンタープライズジン)は、翔泳社が運営する企業のIT活用とビジネス成長を支援するITリーダー向け専門メディアです。データテクノロジー/情報セキュリティ/システム運用の最新動向を中心に、企業ITに関する多様な情報をお届けしています。イラストの無断転載を禁じます。記載されているロゴ、システム名、製品名は各社及び商標権者の登録商標あるいは商標です。