株式会社pipon代表取締役。キャリアはADK(広告代理店)でテレビ広告運用をして残業120時間するが、ネット広告では自分の業務がAIで自動化されていることに驚愕する。EC業界、様々な業界でAI受託開発事業を運営。Storeがオープン致しました!今回は初学者に向けて解説できればと思います。・まだGPTsを作ったことがない人になります。それではよろしくお願いします!今回はStudyCoさんの勉強会にて、発表させていただきました。StudyCoさんでも、定期的に勉強会を開催しております。日程についてはこちらから確認してみてください!動画はこちらから。GPTsとは「GPTs」とは、ChatGPTをカスタマイズできる機能です。GPTsを使用することによって、オリジナルのチャットボットを作り、公開することができます。GPTsは、2023年11月6日に、ChatGPTを開発・提供するOpenAIによって発表されました。Plus」でのみ利用可能です。GPTsで開発したチャットボットは、他のユーザーへの共有が可能です。PDFPDFの要約であったり、GPTが解釈したあと、理解したものを問うことができます。論文などの解釈に役立てることができます。AIYoutubeなど、ビデオの要約をすることができます。技術系の動画をあげている方の動画を見る際に使っています。Interpreterの機能でPythonを実行します。こちらからの指示でスライドを作成、そしてダウンロードまで行うことができます。(発表資料の大枠の概要を作りたいときに活用しています。PDF実際に論文を投げてみると、以下のように解答が返ってきました。要約ですので、これを読んだからといって、一発で理解することは難しいです。このあと、自分の疑問をプロンプト(指示文)を書いてGPTと会話しながら進めていくという流れになります。最初から読むとなるとかなり時間がかかりますが、これを使うことで、生産性もあがり、非常に便利だなと感じています。Store」のように、GPTsのシェアやマネタイズができます。娯楽など、カテゴリーごとにGPTsが表示されます。OpenAIは、今年の第1四半期中に、支払いシステムを導入するらしいですが、今のところはGPTのユーザーエンゲージメントに基づいて支払われる、という点しか明らかになっていません。Builderは、OpenAIが開発したツールで、誰でも簡単に独自の「GPT」を作成し使用することが可能になります。GPTs」をクリックすると以下のページに遷移します。右上にある「Create」というボタンを押すと作成画面にいくことができます。GPTを作ることができる画面にきました。Builderと呼ばれるものです。左の画面で作成し、右側の画面でその挙動を確認することができます。作り方1:GPTと会話しながら作成タイトルの通り、「こういうものを作りたい」ということを話ながら作成していきます。赤枠上部にCreateとConfigureがあり、Createという画面で、プロンプトを直接打ち込むことでGPTsを作れます。作り方2:プロンプトで作成ある程度、プロンプト入力に慣れている人であればプロンプト文で作成することができます。赤枠上部にCreateとConfigureがあり、Configureという画面で、プロンプトを直接打ち込むことでGPTsを作れます。Knowledgeという機能がございます。:インターネットに接続して情報を取得することができる機能です。Knowledge:独自の情報のファイルをアップロードして、ChatGPTに参照させることができる機能です。実際に作成したGPTsを「薬機法チェッカー」と「カスタマイズ営業メール」をご紹介します。薬機法チェッカーこれはECの業界で、広告文を掲載してものを売るための「広告文を作成」するためのGPTsになります。2021年頃になるのですが、ECは今よりも盛んでなかったので、広告の掲載のチェックが甘かったです。効果があるという証明がないのに、過剰な表現で効果があると謳う商品も中にはありました。これはまずいということで、消費者庁が当時の薬事法というものを改正し、薬機法というものに改名し、きちんと効果があるものでないと広告文に掲載していはいけないというものになりました。これにより、広告を入稿する前に、きちんとチェックする必要になりました。そのため、広告文のチェックですが、専門家に頼むと費用がかかってしまい、小さい会社には中々難しいところがあります。薬機法のチェック項目というのは決まっていますので、それをGPTにインプットさせ、広告文をチェックする際に違反していないかどうかをチェックしてくれる。そんなGPTsとなっています。「これを飲めば1日で痩せるサプリです。欠かさず飲むことで体重が10kg痩せます。」という、違反にひっかかるような広告文を投げてみます。以下のように解答が返ってきました。改善案まで提示してくれます。「適切な運動・・・」など、とても安全な文章にしてくれていますね(笑)カスタマイズ営業メール各企業様ごとにカスタマイズされた営業メールを送るために開発しました。これをしなければ当然反応率も悪くなってしまいます。1社ごと丁寧に行っていくとなると、その作業は膨大で、非常に時間と労力がかかってしまいます。このボットは各会社さんの情報をしっかりと読み込んで、理解した上で、自社の売りたいものをどうやって売るかの営業提案文を考えてくれるボットとなっております。「サンリオ」さんに向けた営業メールを考えてもらおうと思います。以前、優秀な営業マンさんにどのようにして、営業を行っているかを尋ねたところ、会社さんの採用情報を見て、そこで「どういう事業しているか」「どういう人を募集しているか」というのを理解するようです。上場している企業であれば「IR情報」というのも見るそうです。これらの情報をもとにして、今後注力していくところはどこかを見極め、そこに自社が売れる、PRできるものを提案していくという流れだそうです。これらのステップの一部をGPTに代行してもらい、実行しております。以下が実際にGPTが書いた営業メールになります。これらを、プロンプトを組むだけでカンタンに作成することができ、さらに社内など共有することも可能です。プロンプトエンジニアリングの紹介プロンプトを入力する際にはいくつかの決まり事がございます。そのルールは以下のリンクだったり、OpenAIの公式ページの方からも確認ができます。以下の項目がプロンプトエンジニアリングの基本になっています。・プロンプトのバージョン管理GPT3.5よりも4、いきなり複雑で長いプロンプトにしてしまうと、どこが違うのか判断しずらくなってしまいます。引き算というよりも足し算していく方が良いです。プロンプトのバージョンの管理も重要になってきます。使っていくと、当然修正点というのもでてきます。修正していっても、前の物の方が良いという場合もあります。修正する際にはどこを変えたのか、記録をとっておく。プロンプトバージョンを管理するというのも重要です。ChatGPTというのがございます。AIの役割、話のテーマ、予備知識)指示(命令や質問)入力データ(扱ってほしいデータ)出力形式(出力の条件)※参考情報を元に改変:プロンプトの要素これらを意識すると、より、回答の精度は上がりやすくなります。文脈についてさせたい挙動の裏にある背景はどのようなものなのか、状況はどういったものなのか、それにおけるAIの役割はなんなのか、そもそもテーマはなんなのか等。知識がない部分を予備知識として与えておくのも重要であったりします。指示についてステップを分けて指示をだしていくことが重要です。入力データについて入れるデータがどういうデータなのかを教える必要があります。出力形式どういう形式で出力するかを指示だすことです。言葉・テクニック集ここの内容については以前12月の勉強会で話した内容と同じになるため、記事の方では割愛いたします。以下のイベントレポートをご参照していただければと思います。最初の一文で役割を与え、2〜3文では知識を与えております。薬機法をチェックする上での「広告文が入力されてくるよ」と広告カテゴリーについても教えておきます。実際にChatGPTにして欲しいことを伝えます。薬機法の観点NGワードもあるのでそれを教えます。例を出し、その下には回答例を与える「フューショット」を行い、きちんと例題を解釈してもらった上で回答を生成してもらうようにします。これで、未知の広告文が入ってきたとしても、しっかりと薬機法の観点に伴ってチェックしてくれるボットとなっております。先ほどと同じように役割を伝えてあげます。参考した内容については自分でもチェックできるように、「リンク先」も出力させています。英語で出力されてしまうこともあるので、日本語で出力という指示もしております。他にも営業メールなのに企業を褒めたりしてしまうこともあったので、こちらも試行錯誤しながら付け足した指示になります。以上が本日の勉強会の内容になります。定期的に勉強会を開催しております。piponでは定期的にChatGPTの勉強会を開催しております。ChatGPTの技術を知りたい方はぜひこちらからご参加ください!Kindleを出版いたしました。先日、kindleを出版し、プログラミング部門の新着ランキングで1位をいただきました。内容はteamsのチャットボットの作成についてです。こちらもよろしくお願いします。質疑応答Q1.GPTsはRAG的なことをサクッとできるという認識でいいですか。業務情報などは注意が必要ですよね。MyGPTsができると個人の趣味の備忘録が作れて同じ趣味の方々にシェアできそうですね。はい、その認識で問題ないと思います。私が作成したカスタマイズ営業メールも採用情報だったり、IR情報をもとに営業メールを作成しております。(RAGは検索して得た情報をさらに拡張させて、生成させる技術になります。)おっしゃる通り、業務情報などをそのまま、ChatGPTで使うのもまずいかなと思います。Q2.作ったGPTsをAPIから使用することはできますか。すみません、こちらについては知識がありません。できないとは思いますが、後ほど調べてみようと思います。Q3.腕利き営業マンの視点は勉強になりました。GPTsにも自分しかしらない情報とか暗黙知識方法を入れると効果がありそうですが、間違っていますか?はい、おっしゃる通り、自分しか知らない情報であったり、自分が何かその職業のプロフェッショナルであって、その知見をプロンプトに入れてあげると有能なチャットボット、GPTsができるのではないかと思います。実際に私もある医師の方に医療現場で使えるようなプロンプトをかいていただいたことがあります。医師の方だからこそ知っているものを入れて頂いたおかげで、かなり精度をあげることができました。Q4.プロンプトを上手につくることと、ChatGPTの上手な指示の仕方というのは同じようなものでしょうか。はい、同じ物になるかなと思います。Q5.一般公開されたGPTsを利用する料金は作成者負担するのでしょうか。それとも利用者が負担するのでしょうか。こちらは利用者が負担するというものになっています。Plusに入っている方がGPTsを利用することができます。こちらを利用者が月額20ドルを負担してGPTsが使えるようになります。OpenAIがこの20ドルからクリエーターの方に配分を考えてくれているという形になっております。Q6.算数や文字数のカウントはなかなか正確に出してくれない印象があります。確かに、数値は弱いという印象です。「1」という数字もGPTは文字列として認識しています。数式などの計算について弱いのは仕方ないかなと思っています。Q7.「チェインオブソート」や「ステップバイステップ」を重ねていくと、精度が上がっていくものなのでしょうか。はい、思考例がわかるようにプロンプトを書き上げる、ステップバイステップと指示をだすことで、回答の精度を上げることが可能です。Q8.ChatGPTに法律的な質問をするには注意が必要だと思いますが、薬機法チェッカーはそのような問題は大丈夫なのでしょうか。社内で使うツールだから問題ないのでしょうか。法律的な質問であったり、このBotが完璧な回答が作れているとは思っていません。広告文を毎回専門家に出せるかというと、そうしていくと膨大なコストになる。そこを自分達でチェックするというのも中々現実的ではありません。簡易的なものとはなりますが、Botを使って変な表現はないかを確認させる意味で一部役に立つかなという感じです。Q9.プロンプトを「##」で区切るのは精度を上げるために有効な手段なのでしょうか。ここからここまでが指示を出しているところだよ。いうのをわかりやすくするためのものです。これはOpenAIのベストプラクティスというところに載っていたものになります。回答の精度をあげるのに有効なものだと思っています。Q10.チャットを往復していく過程で、精度が下がってしまうのはGPTのトークン数の制限によるものなのでしょうか。ちなみにプロンプトはトークンに含まれるのでしょうか。確かに、入力トークンの制限というものはございます。最初に入力したものは、ずっと会話を続けていくと忘れてしまうというようなことがあります。精度が下がるというより、事前の指示がない状態で、途中の会話の内容から入力文が走っているというようなイメージです。精度がさがってしまう場合もあるかと思います。プロンプトもトークンに含まれます。全て日本語で出力してください」といった表現は見やすくするための工夫であって、行動的指示の意味をもつものではないのですか「ハイフン」や「##」というのはGPTに表現させる上でも重要になってくる表現の一つであると認識しております。こちらも曖昧な表現を避けるために、バッククォートであったりコロンなどで区切ってきちんと指示を出しています。指示の意味を持つものであると認識しています。Q12.ナレッジに複数の英語論文をアップして、個人的なチャットボットにしようとしたのですが、うまくいきませんでした。何かアドバイスはありますでしょうか。アシスタンスAPIでもうまくいきませんでした。どのように指示を出されたのかにもよりますが、例えば複数の英語論文の比較をしたかった。いう視点で比較するかを具体的に書くことで精度が上がる可能性があるなと思いました。背景情報にこの英語論文はどういうもので、どういう観点で比較したいのかを書くことで精度が上がるのではないかと思いました。Q13.ナレッジタイプでGPTsを作成する場合、アップロードいた情報がGPTに学習されてしまうことはないのでしょうか。プロンプトインジェクションのターゲットになってしまわないか心配しております。アップロードした情報がどうなるかについてはGPTの利用規約を確認する必要があると思います。すみませんが、この質問の回答箇所となる利用規約が私にはわからないので、答えかねます。Q14.入力データの学習利用を制御することは可能でしょうか。こちらも利用規約の確認が必要になりますが、オプトアウトを申請することができたと思います。我々の情報を学習に利用しないでくださいということで、申請をだすことは可能だったかと思います。Q15.入力したテキストやファイルはGPTsの作者に渡るのでしょうか。渡らない場合、その渡らないという保証はどこで確認できますかはい、これは渡らないです。いうのも、私が実際にGPTsを作成して社員に使ってもらっています。その社員が入力したデータというのは、私はみることができていません。保証については利用規約を見る必要があるかなと思います。BuilderでGPTにナレッジを与えた際に、そのナレッジの内容を与えた際にそのナレッジの内容を踏まえずに回答したり、ハルシネーションを起こしたりするチャットボットが出来上がるのですが、これはプロンプトエンジニアリングで改善されるものなのでしょうか。ここもプロンプトエンジニアリングである程度改善すると思います。そのナレッジに与えた文章が莫大で、その該当箇所をきちんと抽出できていなかったりする可能性はあると思います。このような箇所をプロプトエンジニアリングで改善できるかなと思います。Q17.GPTsから外部のAPIを呼ぶことはできるのですか。呼ぶことができなかったかと思います。(自信ないですが、、、確認が必要ですね。(youtubeコメントより)Q18.GPTsにはPDFのデータは入れられると思いますが、データの拡張子やサイズに制限があるかどうか分かりますか。1つのGPTにデータはいくつも入れられるのでしょうか。制限はあったとおもうのですが、いくつまでというのはわからないです。Storeで似たようなGPTsがたくさんありますが、良いGPTsを見つけるコツなどはありますでしょうか。確かに似たGPTsというのはたくさんありますが、トレンドでランキング上位のものはしっかり使えるGPTsかなと思います。Q20.ChatGPTは数値に弱いということですが、データ分析が主なボットを作成することは難しいのでしょうか。これはCodeInterpreterという機能やデータアナリシスアドバンスドというものがございます。これは数値をGPTが扱うのではなくて、数値をプログラムコードで扱わせることで、そういった数値の処理をPythonで処理して実行までさせることができます。Q21.GPTsを作成する時にそのような(CodeInterpreterを利用する)指示を出せますか?すみません、わたしはCodeInterpreter用のBotというのを作ったことがないのでどうやるかわかりかねるのですが、それ用のBot(データを上げるだけで可視化、解析ができるというようなGPTs)があるというのは認識しております。その裏側がどのような動作になっているかまではわからないです。Q22.GPT4には利用に上限あありますが、GPTsにも同じように利用上限はあるのでしょうかGPTsの利用に上限はありません。Q23.作成したボットは他社に共有する際に正確性がとても重要かと思いますが、その正確であるかをどこで判断されていますか。非常に難しいところかと思います。LLMの正確性を評価するのは本当にさまざまな方が論文であったり、記事であったり出していると思います。一概には言えないおころであります。自分が使って、自分が使えるかどうか判断しているって感じです。仕事で行う際には「プロンプトフロー」というアジュールのサービス(一部のプロンプトを変えたときに回答がどうなるかをまとめ、正しい回答とどれくらい違うかっていうことをスコアで出してくれます。)を活用しております。そういのを活用しながら、作成したLLMのBotを評価しております。Q24.複数の論文を与えてメタ分析をさせたいです。最大のファイル数や文字数はどの程度でしょうか。APIの文字数は1万2600だったと認識しているのですが、おそらく8000字ぐらいは余裕だと思います。正確な回答ができず、申し訳ございません。PDFは複雑な図面や画像を含んだPDF文書えも処理できるのですか。GPT4はテキストベースの内容以外は困難なようですが。図面は試したことがないので、わからないです。PDFについても確認する必要があるので今は答えられないです。Q26.先ほどの質問の続きです、膨大なナレッジを与えた際に有効なプロンプトエンジニアリングについてもう少し具体的にご教示ねがえないでしょうか。GPTにナレッジを与えた際にそのナレッジの内容を踏まえずに回答したり、ハルシネーションを起こしたりするチャットボットが出来上がるのですが。ナレッジの情報がどういうでデータなのかであったり、そのナレッジの情報をどうやって活用したりするのかというところがわからないので、なかなか難しいですね💦Q27.新しいアクションを作成というボタンが気になります。今日のデモの範囲外だと思いますが、後日、別の勉強会で題材にする予定はありますか。はい、私のほうでも調べ、もし勉強会にできるようであれば発表させていただきます。Q28.ChatGPT、Teamsもでたことで、今後さまざまな企業で社内用アプリとしてGPTsもどんどん作成、使用されると思っています。RAGや社内DBを使用するとなるとベクトルDB、LangChain等で作成する選択肢もあると考えています。GPTsとLangChainによるアプリの住み分けといいますが、どういった方向でのアプリがGPTに適しているのでしょうか。GPTsであれば、きちんとLangChainを使うと大規模なデータや処理を実現できるかなと思います。データ容量が多いものや複雑なデータを分析する際にはLangChainを利用すればと思います。GPTsは開発が必要ない分、プロンプトのみで簡単にすぐに作れる。ナレッジ容量の制限があったりするところもあるので、簡易的なGPTs(薬機法チェッカーなど)でもあれば役に立つというのを現場目線で考え、作成するのがいいかなと思います。本日は以上になります。ありがとうございました。