AI)の発展により、自然言語処理や画像生成の分野で目覚ましい進歩が見られます。その一方で「ハルシネーション」と呼ばれる問題が指摘されています。ハルシネーションとは、AIが学習データにはない誤った情報を生成してしまう現象のことを指します。本記事では、「生成AIやハルシネーション」について、以下の項目について解説しています。生成AIについて詳しく知りたい方は、以下の記事も併せてご覧ください。サービス比較と企業一覧ハルシネーションとは?種類や発生原因についてこの章では、ハルシネーションについて詳しく説明していきます。ハルシネーションとは?ハルシネーションは、本来存在しない情報を、AIが誤って生成してしまう現象のことです。AIは大量のデータから統計的な規則性を学習しますが、その過程で誤った関連性を見出してしまうことがあります。その結果、事実に基づかない情報や、存在しない情報を生成してしまう場合があります。ハルシネーションは自然言語処理や画像生成など、様々な分野のAIで確認されています。ハルシネーションの種類ハルシネーションには大きく分けて2つの種類があります。学習データに存在しない内容を回答として出力ハルシネーション発生の原因ハルシネーションが発生する主な原因は以下の通りです。情報が古いAIは過去のデータを基に学習するため、最新の情報を反映できていない場合があります。ある企業に関する情報を学習したAIが、その後その企業に起こった大きな変化を知らないと、古い情報に基づいた不適切な回答を生成してしまうことがあります。単語や文章の意味を理解していないAIは単語の表層的な並びは理解できますが、深い意味を理解しているわけではありません。そのため、文脈に合わない単語を選んでしまうことがあります。情報の正誤判定ができないAIには情報の正誤を判断する能力がありません。学習データに誤った情報があると、それを真実として扱ってしまいます。「太陽は地球の周りを回っている」という誤った情報を学習したAIは、その情報を正しいものとして利用し、誤ったアウトプットを生成することがあります。学習データの不足や誤った組み合わせ学習データに不足や偏りがあることで、AIが学習データの一般的な情報を適切に学習できず、ハルシネーションが生じる可能性があります。ChatGPTのような大規模な言語モデル(LLM)は、インターネット上の膨大なテキストデータを学習しています。このデータには特定の話題や意見など、情報に偏りがある可能性があります。その結果、ユーザーが偏った内容のトピックについて質問した場合、LLMは適切な回答を生成できず、ハルシネーションが発生する可能性が考えられます。LLMが学習に使用するデータは、主に2021年までのものであるため、それ以降の出来事や最新の情報が反映されていない可能性があります。そのため、ユーザーが最新のトピックについての質問をした場合、LLMは古い情報に基づいて不適切な回答を生成してしまうかもしれません。ハルシネーションのリスクと対策ハルシネーションのリスクハルシネーションは、以下のようなリスクをもたらす可能性があります。1.事実とは異なる情報が拡散されるリスクハルシネーションによって生成された誤情報が、まるで真実であるかのように広まってしまう危険性を持っています。これにより、社会的な混乱を招く恐れがあります。2.個人や組織の名誉が傷つけられるリスクハルシネーションにより、特定の個人や組織に対する誤った情報・誹謗中傷が生成される可能性が考えられます。これにより、特定の個人や組織の名誉が傷つけられ、社会的信用が失墜する恐れがあります。3.重要な意思決定が誤った情報に基づいて行われるリスク企業や組織が、ハルシネーションにより生成された誤情報を基に、重要な意思決定を下してしまう危険性が考えられます。これにより、経済的損失や社会的混乱を招く恐れがあります。ハルシネーションが発生する確率を減らすには?ハルシネーションへの対策としては、以下のような取り組みが行われています。プロンプトエンジニアリングでアウトプットの質を上げる適切なプロンプト(AIへの指示)を設計することで、AIが生成する情報の質を高めることができます。具体的には、以下のような工夫が行われています。事実に基づいた回答を要求する情報ソースの開示を求める曖昧な表現を避け、明確な指示を与えるこれらの工夫により、ハルシネーションの発生を抑制することが可能です。ファインチューニングで情報の精度を上げる追加の学習データを用いてモデルを微調整(ファインチューニング)することで、情報の精度を高めることができます。具体的には、以下のような手順で行われます。高品質な追加データを収集する追加データを用いて、既存のモデルを再学習させる再学習後のモデルの性能を評価し、必要に応じて調整を行うただし、大量の高品質なデータが必要となるため、コストがかかるという課題があります。生成AIのハルシネーションが原因で、実際に法的問題に発展したケースもあります。弁護士がChatGPTを使い、虚偽の判例が裁判資料にアメリカの弁護士がChatGPTを利用して民事裁判の資料を作成しましたが、その中に引用された航空会社を巡る複数の判例が、実際には存在しない「偽の判例」であることが判明しました。この事例は、ニューヨークに向かう飛行機内での事故に関する訴訟で起きたもので、ChatGPTによって生成された内容が問題となりました。この出来事は、生成AIの利用における注意点を浮き彫りにしています。米国」ChatGPTが名誉棄損。「横領を働いた」とする虚偽の情報をでっち上げ裁判に米国のラジオパーソナリティであるマーク・ウォルターズ氏が、OpenAIのチャットボットであるChatGPTが自身について虚偽の情報を生成したとして、OpenAIを名誉毀損で訴えました。これは、AIチャットボットに対する初の名誉毀損訴訟となる可能性があります。訴状によると、ジャーナリストがウォルターズ氏に関する情報をChatGPTに尋ねたところ、ChatGPTは、ウォルターズ氏が非営利団体から金銭を横領したという虚偽の情報を提供したそうです。ウォルターズ氏は、この虚偽情報についてOpenAIに責任があると主張しています。チャットボットは免責条項を掲げているため、訴訟の根拠が弱まる可能性があります。ジャーナリストが誤った情報を記事にしなかったことも、今回の訴訟に不利に働く可能性があります。この訴訟は、AIによる名誉毀損の前例として、画期的なテストケースになる可能性を持っています。将来のAI名誉毀損訴訟における、重要な法的懸念点を提起することになるでしょう。米の訴訟が試金石に」まとめ生成AIにおけるハルシネーションは、その便利さと引き換えに生じる重大な問題です。AIを開発する側は、ハルシネーションを最小限に抑えるための技術的な工夫を怠らないことが大切です。AIを利用する側も、AIの限界を理解し、情報を鵜呑みにせず吟味する姿勢が求められます。ハルシネーションは、AIの社会実装における大きな障壁の一つと言えるでしょう。技術の進歩と、それを適切に活用するための社会的な枠組み作りの両軸が重要です。三位一体となった取り組みが不可欠です。生成AIの技術は日進月歩で進化しており、ハルシネーションの問題もいずれ克服される可能性があります。技術的な解決を待つだけでなく、ユーザー教育や法整備など、社会全体で取り組むべき課題であることを忘れてはなりません。ハルシネーションと適切に付き合いながら、生成AIの可能性を追求していくことが、私たち一人一人に求められていると言えるでしょう。AIについて詳しく知りたい方は以下の記事もご覧ください。みから事例まで徹底解説また、生成AIの具体的なサービスを知りたい方は、以下もご覧ください。株式会社アイスマイリーが運営するAIポータルメディア「AIsmiley」は、AIの専門家によるコンテンツ配信とプロダクト紹介を行うWebメディアです。AI資格を保有した編集部がDX推進の事例や人工知能ソリューションの活用方法、ニュース、トレンド情報を発信しています。業務の課題解決に繋がる最新DX・情報をお届けいたします。メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。メールマガジン登録メールマガジンの配信をご希望の方は、下記フォームよりご登録ください。名を入力してくださいメールアドレスメールアドレスを入力してくださいニュースPVランキング週間PVランキング世界初!GPT-4o搭載のウェアラブルAIメモリーカプセル「PL...JA豊橋、AIで病害虫の発生を予測する防除DXアプリを導入ネオス、太陽生命の生成AIを活用した実証実験に参画。One」に新機能追加。...関連記事オルツ、日本語RAG(検索拡張生成)で軽量型LLMとして世界最高の精度と推論速度を実現。searchとは?機能や利用方法を詳しく解説PWM日本証券、生成AIを活用したチャットボットの試験運用を開始。Suite」に生成AIエージェントを搭載。