「生成AIセキュリティ対策事例共有会」のイベントレポートをお届けします。OpenAIの最新情報を中心としたセミナーと、実際に事業会社内で生成AIを活用した開発事例やセキュリティ対策などについてお届けします。最新状況について、以下のポイントでお伝えします。AIアプリ作成のための知識AIモデルの選定や注意点AIアプリ作成のためのテクニックAzureOpenAI最新情報オンライン講座のご紹介AIアプリ作成のための知識AIと一口に言っても様々なAIのモデルがあり、何かひとつ使えれば十分ということはありません。様々な種類のAIを組み合わせて使うことで、できることがたくさん増えていきます。重要なことは「どんなモデルがあり、どのモデルで何ができるのか」を理解することだと思います。各モデルでできる事と、それぞれの違い埋め込みモデル(text-embedding-ada-002)埋め込みモデルに関しては、最近第三世代のモデルが出てきました。マシンにとっては自然言語を扱うよりも、数値データを扱う方が得意なため、数値データを使って、「似ている言葉を探したり」「後に続く文字列はどんなものがくるのか」を計算したりしています。テキスト生成モデル一方、私たち人間が扱いやすいものとしてテキスト生成モデルがあります。プロンプトはどのように動く?プロンプトで重要なのは「トークン」と呼ばれているものです。テキストを書いて命令をする際に、AIの内部的には、そのテキストをトークンという単位に分けて扱っています。トークンが重要かというと、使用するトークン数によって金額が変わってくるからです。トークンを使うほどお金がかかります。トークンは英語と日本語でその性質が異なります。英語の場合、1つの単語に1つのトークンが使われるのですが、日本語で使用すると変なところでトークンが区切られてしまいます。英語に比べると日本語のほうがより多くのトークンを消費してしまうのです。よって、費用面を考えると、日本語ではなく、英語で命令を与えて結果を日本語に翻訳して出力させれば、消費するトークンを減らすことができます。実際の課金体系は下画像をご覧ください。どの言語モデルを使うかによっても、金額が変わってきます。そのため、言語モデルは適材適所で考えて使用した方が良いと思います。便利だからと1つのモデルを使いすぎると、思った以上のお金がかかることがあります。例の提供プロンプトという形で命令を与えますが、すでに多くの方がいろんなプロンプトの手法を生み出しています。Thought)インストラクト・チューニングこれは、システムのメッセージを記載することによって、AIの振る舞いを定義することができます。シナリオにおけるモデルのプロファイル、機能、制限事項を定義するモデルの出力形式を定義するモデルの意図された動作を示す例を提供する追加の動作ガードレールを提供するTemperature(温度)ChatGPTなどを扱う際には、「Temperature」というパラメーターも強く意識してください。同じ質問を繰り返した際に、temperatureを1にすると毎回違った回答を出し、ランダム性が高くなります。0に近づけるとより決定的な回答になるので、同じ質問を繰り返したとしても、毎回同じような回答が出てくることになります。ランダムな回答が求められているのか、または決定的な回答が求められているのかで使い分けてください。エンジニアリングの部分で工夫することです。Generation)です。ここまでなら比較的簡単に開発できるところだと思います。コンテンツ・フィルタAzureのOpenAIでは、「コンテンツ・フィルタ」という機能をデフォルトで提供しています。危険な内容が記入されたら弾く設定をすることが可能です。Vision下画像では、GPTに対して三角形の図の画像を与えて、角度や線の長さを求めるように依頼しています。Visionが画像を解析して回答してくれます。OpenAIに追加されました。下画像では、おばあちゃんが手書きで書いた文字を認識して、それをもとに食材を自動的に購入する、というものです。手書きで書かれたものを正しく読み取り、それをもとに何かしらの処理をする、というアプリも出てきています。下画像では、ヒトデの写真を解析して、ヒトデの数などを回答しています。これによって、例えば目が不自由な方に対して、目の前の様子を説明してあげることができます。(GA)自分が持っているデータを簡単に取り込んで、簡単にRAGのようなものを作れるような機能も提供しております。speech」というものが追加されました。これはテキストをリアルな音声に変換する機能です。現時点でテキストの文字列の最大は4096文字で、声に関しては男性や女性が選べます。話すスピードは、いくつか選べるようになっています。最後に、マイクロソフトのアドボケイトのチームが作ったコンテンツを私が翻訳したものがありますので、それを紹介したいと思います。全て無料でご利用いただくことができ、今回紹介した「プロンプトエンジニアリング」のより深い内容など学ぶことができますので、ぜひ利用していただければと思います。寺田さん、ありがとうございました!続いては、パーソルキャリア株式会社の泉さんの発表です。泉:皆さまの組織では生成系AIをどのように活用されているでしょうか?多くの企業で望まれているユースケースとしては、「社内のデータを利用して業務効率化を図りたい」というものだと思います。生成系AIのサービスをインターネット経由で利用する場合、情報漏洩のリスクを伴ったり、法令違反や規約に反した学習データの利用などリスクがあります。そのため、サービス事業者としてはこれらのリスクを把握する必要があります。我々、パーソルキャリアとしては「こういうリスクがあるから使えないね。Serviceの利用展開に踏み切りました。Azure共通基盤構築を実施しました。基盤管理者側から「ランディングゾーン」を提供することで、利用者(開発者)側が、Azure基盤を自前で用意する必要がなく、開発作業に従事できる環境となっています。Endpoint)について紹介したいと思います。Serviceを活用した社内向けチャットサービスを構築しました。俗に言う、社内版ChatGPTです。DB:利用者が入力するプロンプトやコンプリーション等が含まれるため、インターネット経由でのアクセスは望ましくないと考えました。Service:より安全に利用することを目的とした、クローズドな環境で利用可能な生成系AIの環境が必要だと考えました。Serviesを活用したWebアプリケーション構成図そこで、下図のような構成にしました。Azureの仮想ネットワークであるVnetを構成して、各コンポーネントに対してプライベートアクセスさせる構成です。することで、万が一API機が外部に漏れたとしても、個人端末や外部環境からはリソースへのアクセスはできない形となります。Serviceを導入する弊社では、オンプレミスをはじめ、AWS、GCP、オラクルクラウドなどを中心に様々なシステムが稼働しています。これらの環境から、AIサービスをセキュアに利用するために、下図のようなアーキテクチャで基盤設計をしました。現在、弊社の既存システムではすでにいくつかの開発プロジェクトでこの環境の活用が進んでいます。今後も機能拡充やレベルアップに向けて、プラットフォーム側でさまざまな取り組みを検討しています。世の中の変化に対応し、事業にコミットメントするという観点からも、生成AIのプロダクト開発やインフラ構築をスピーディーに展開する必要があり、そのためにも可能な限りオペレーションを自動化したいと考えました。実装できないかを考えました。これはサブスクリプション利用者の発行要求から承認プロセスまで組み込まれているので、単純な環境構築のオペレーション工数の削減のみならず、プロセスの簡素化も併せて実現可能となるので、本共通基盤においては非常にメリットの大きなソリューションだと考えています。今後も生成AIの活用推進に向けて、社内イベントや、Azure勉強会を積極的に開催!発表は以上です。泉さん、ありがとうございました!続いては、日清食品ホールディングス株式会社の武田さんの発表です。武田:本日は以下の内容について発表させていただきます。コアスキル」のキーワードで生成したメッセージを披露し、テクノロジーを賢く駆使することで短期間に多くの学びを得てほしいと新入社員を激励しました。この入社式には、成田敏博CIOも参加しおり、「業務で活用するための環境をすぐに整えなければならない」と判断され、その日のうちにプロジェクトが開始いたしました。AI-chatを構築しました。Platformを使っています。そのため、迅速に構築することが可能でした。AI-chat”ぶつかった壁リリースして間もなく、壁にぶつかりました。社員に「使ってください」と大々的にアナウンスしましたが、「どう使えばいいの?」という声がたくさん上がってきました...。AI-chatをセールス業務に活用する企画の検討を開始しました。画像は実際のプロンプトです。これまではセールスのスタッフがアイデアを考えていましたが、AI-Chatを使うことによって、効率的にアイデア出しができるようになりました。現場が使いやすいテンプレートを現場主導でどんどん作っていき、現在では20個以上のテンプレートがあります。現場の声を吸い上げるまた、Goodボタン、Badボタン、さらにフィードバックコメントの入力欄を設けて現場の声を吸い上げています。現場から届いたテキストメッセージは、フィードバック内容から「分類・件名」を生成AIが自動的に生成し、カテゴリー分けしています。AI-Chat月別利用率がアップしました。これを成功事例として、他部門にも横展開しています。今後はグループ各社にも広げていきたいと考えています。した活動を続けた結果、現在は100種類以上のテンプレートができています。Appsに対してプロンプトを送信します。AIに指示を出しています。Appsのデータベースで、そこに情報を格納しています。その際に「何を打ったか、どんな回答が返ってきたか」という情報は格納していません。プライバシーの問題にも考慮する必要があるので、あえて情報を残さない対応をしています。BIを用いて利用状況の分析をしていますが、そこでは「どの部門がどれだけ使っているか」という分析のみ行なっています。生成AI利用に際するリスク新技術であるがゆえに、生成AIは利用に際して様々なリスクが取り沙汰されますが、そのほとんどが以下の「セキュリティ」と「コンプライアンス」の2点に集約されると考えています。AI-chatにおけるセキュリティ対策Microsoft社と連携して日清食品グループ専用のセキュアな環境を構築し、情報漏洩リスクに対処しています。AI-chatにおけるコンプライアンス対策コンプライアンス面に関しては、ガイドラインを作成して対応しました。それに加え、下の画像のように、初回ログイン時にはコンプライアンスに関するテストが表示されるようにしました。2回目以降のログイン時は、ログインするごとに「ひよこちゃん」がコンプライアンスに関する注意喚起をします。複数パターンを用意し、ランダムで表示が切り替わります。生成AIのさらなる活用に向けた施策については、以下の2軸を定めています。“AIの利用をあらかじめ前提とした”業務プロセスの確率AIの利用を前提とした業務プロセスを確立することで、意識せずとも自然にAIを使うようにしていきたいです。RAGの活用例として社内問い合わせ業務の効率化があります。質の向上が可能になりました。お客様からのお問い合わせについても、過去の対応履歴を生成AIに参照させ、回答業務の対応工数削減や対応品質の向上に繋がっています。工場における是正措置ナレッジの有効活用kintoneにて年間約400件申請される是正措置報告の情報をデータベースに蓄積しています。トラブル発生時に過去の対応履歴を生成AIに参照させ、対応策を提案しています。各業務システムデータを集約した全社共通データベースに対して、AIがデータ参照し、より多様・広範囲な回答生成を可能にしていきます。食品製造業の各業務領域において、AIの活用を前提とした業務プロセスの構築を推進中です。今後目指すこと今後、AIを社内の様々な業務に統合し、業務プロセスを再設計することで業務の効率化とイノベーションの創出を実現していきたいと思います。武田さん、ありがとうございました!続いては、Q&Aコーナーです。Q&Aコーナー(Q)日清食品さまの生成AIに関するセキュリティ周りはどのような対策をとられていますでしょうか。Vaultを使うといった一般的なAzureのセキュリティ対策をしています。(Q)パーソルさんも色々サービスがあって部署も企業も色々だと思いますが、こういった生成AIは情報共有や活用推進の横串部隊なんてありますか?泉:横串部隊はあります。弊社(パーソルキャリア)の中で、生成AIをどんどん活用していこうというチームがあります。実際に活用に向けての勉強会やイベントなどもやっています。(Q)生成AIを絡めた開発のアンチパターン、気を付けたほうが良い点をお聞きしたいです。寺田:アンチパターンという意味からはズレるかもしれませんが、現時点ではまだまだ生成AIは進化の途中なので、ガチに作り込まない方がいいと思っています。開発をする際においての、いろんなSDKやライブラリも出てきていますが、次のバージョンが出てきた時、ガラッと変わってしまうことが想定されます。そのため、ローカルで試したりするのは良いと思いますが、企業の本番環境で実施する場合は慎重になった方が良いかと思っています。寺田:Microsoftの社員側にとっても「こんなことができるの!?」と驚くことがあるくらい、生成AIはまだ先が読めない状況です。変わる可能性が十分にあるので、柔軟性を持って対応するのが良いかと思います。(Q)AI活用企業側の開発視点で、生成AIについて「もっとこうなってくれると嬉しい」というものはありますか?マイクロソフトさまもいらっしゃるので良い機会かなと!泉:そもそも生成AIは、エンジニアリングをあまり知らない人でも簡単に触れるものだと思うのですが、それでもまだ、難しいと思う部分もあるため、更にもう少しとっつきやすくなれば嬉しいと思います。武田:例えば、開発するにあたってのSDKの情報が少ないので、そのような情報を皆さんがブログなどで情報発信していけば、どんどん開発しやすい環境が生まれると思います。寺田:確かに現状としては1つのインスタンスの中で、例えば同じプロンプトを与えたときに、「こうきたらこのファンクションを」ということは可能ですが、複数のインスタンスをまたいで、もしくはモデルを変えてというのは難しいと思います。現時点で無理やりやろうと思うと、どういった処理から来たのかを把握する1つのインスタンスが必要で、それが裏側でファンクションを呼びます。それで出来なくはないと思いますが、現時点では難しいのかもしれません。ご利用いただくと、お客様のデータはお客様の物と考えているため、個人情報や顧客情報などを利用しても、それらが学習されることはございません。(Q)社内の業務(例えばシステム開発における設計やコーディングの業務、サービス窓口運用における返信業務や問合せ内容分析業務など)に生成AIを活用する際のセキュリティ基準として、どんな項目でどのレベルのセキュリティを担保すべきか?厳しくしすぎると業務で生成AIを何も使えなくなってしまうため、できる限り安全に生成AIの恩恵を享受できる丁度よい基準を作りたいです。利用するデータへのアクセス保護も必要と感じます。サービスから特定のサービスに対してのみアクセスできるように設定する他、ユーザ名、パスワードによるアクセスを禁止し特定リソースからだけアクセスできる様にするなど、セキュリティの要件に応じていくつか対応を施す事ができます。(Q)生成AIだからこそ対策に注意しないといけない点が気になります。寺田:まず、利用者の観点では、想定する利用者に使われているか(不特定多数?企業向け、大人、子供、システム)を確認し対象の利用者に適切な回答や回答フォーマットを返しているかを確認することは重要です。意図しない入力がされていないかを確認し、意図しない質問には回答を拒否するように設定しているかにより不適切な使用を防げます。回答する生成は正確でない回答を返す可能性もありますので、それが許される場合に使用すべきです。100%正しい結果が必要な場合においては、ご使用を控えるか、返された結果を人間が判断するなど、最終的に人間の判断が必要です。(Q)学習済みのモデルを利用しつつ、企業情報も学習させ、かつ、企業情報は社内のみで閉じられるような方法がないか検討しています。テクニックを使用して、検索結果から得られた情報を利用して回答を生成する方法などがあります。モデルを利用するなどで適切な利用が可能になるかと想定します。(Q)単純に、日本語を英語に翻訳して、それをプロンプトにする方が良いでしょうか?寺田:ケース・バイ・ケースかと想定します。スピードが求められる場合には、多段プロセスを挟むことになるため、日本語のまま実施した方が良いかと思います。利用金額を考える場合は、現時点では最終回答を得るまでは英語で処理を進め、最終段階で日本語にする方が安く済むかと想定します。社が将来日本語対応のモデルを出すという報告もありますので、それが出てくるとトークン数の計算も変わってくるのではないかと想定しますので、日本語対応モデルの登場に期待したいです。(Q)CodeInterpreterの企業での検証を超えた実業務利用で考慮しておくべき安全性の問題について何か良く問われるポイントなどありましたらご教授いただきたいです。違いを正しくご理解いただき、適切なニーズでご利用いただくのをお勧めします。業務で当たり前になり、様々な面で日々の業務が改善されています。利用できるようになっています。利用のありがたみを感じています。(Q)セキュリティ面についての意識は実際どれくらい必要になってきますでしょうか。寺田:セキュリティについては、どの程度求められるかによって、セキュリティの設定レベルは変わってきます。マイクロソフトにおきましては、現在セキュリティはトップ・プライオリティでの対策が求められていますので、利用するデータへのデータアクセスや、サービスへの接続、利用するサービスへのネットワークからの接続制限に至るまで厳しい対応を行っています。ファイル程度ならば問題なく対応できます。TB/Partitionまで大丈夫です。機能ですが、将来的に有償になる可能性はございます。具体的な課金体系については、まだ決まっておりません。日本語も試しましたが、日本語も利用可能です。Dataを利用したいのですが、セキュリティが不安です。十分にセキュリティを確保して利用するには、どうすればよいでしょうか。よるアクセスを不可にする設定などを行うことができます。(Q)CodeInterpreterのデータをアップロードした場合、どこにデータが保存されるのでしょうか?そこはセキュアな場所なのでしょうか。用の領域にアップロードされる様です。ServiceそのものはVNet内に配置しなくても大丈夫でしょうか?寺田:設置した方がより、セキュアになります。Turboは、まだプレビュー版だと思いますが、実務で利用する上での判断基準がありましたら、教えてください。今後はこちらのご利用をお勧めします。(Q)キャッチコピー作成とか、商品のマーケ施策なんかでも使われているのでしょうか?寺田:利用可能です。武田:キャッチコピーやマーケ施策などでのたたき台として生成AIを使用することはあります。そのまま使用するのではなく、「日清らしさ」を追加しブラッシュアップして利用する形となります。(Q)Snowflakeに集約した後の検索はベクトル検索ですか?武田:現状は通常のSQLで検索していますが、今後はベクトル検索なども利用したいと考えています。(Q)ラインが止まった時の報告書の下書きを過去の事例から作らせるのは疑問でした。新しい視点でのレポートを書けなくなるような気がします。武田:説明の仕方が悪く、誤解を与えてしまい申し訳ありません。生成AIを用いて自動化しているのは、あくまで資料のベースを作る箇所となります。原因分析や対策の検討を生成AIで実施しているわけではありません。いかがでしたでしょうか、レポートの内容は以上です。StreetではIT・テクノロジーに関する様々なイベントや勉強会を開催しています!参加ご希望の方はフォームよりご登録をお願いいたします。引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。