※以下に書いたことは全て個人の意見と妄想です。引用文の太字は私がやりました。内容を予約している箇所があります。最近急に登場して示し合わせたように普及を目指して大企業や省庁や市役所などで急速に導入されている対話型AI(ChatGPT等)だが、AIの回答が不正確なケースが目立ったり、中にはとんでもない捏造さえあるという。話のつじつま合わせだけが高度に発達したAI。【2023年最新】ChatGPTを導入した日本の企業・組織事例まとめ省庁や大企業も多く導入している。いい加減な対話型AIに仕事を依存するなんて心配だ・・・メルセデス車にチャットGPT搭載、米国で試験運用タロット風に表現すると「戦車の逆位置」な結果にならないことを祈る。「平気で嘘をつく」AIの誤情報を排除するには...知らないと痛い目に遭う"ChatGPTの弱み"【酒井】AIが生成した文章が正しいかどうかは、人間が自分で信頼できる情報源にあたるなどして確認するしかないんでしょうか?【古川】そうなりますね。根拠を説明してください」のように質問する方法もありますが、それに対する回答がさらに間違っている可能性もあるので、人によるファクトチェックが基本です。【酒井】Web検索ですぐに確認できればいいですが、専門性の高い内容などの場合、人間がチェックしきれずにAIが生成した間違った情報がそのまま使われてしまうケースもありそうです。(中略)【古川】一方で文章生成AIの場合、回答の根拠がブラックボックスになってしまうために、使用するユーザーは誤りに気づきにくいと考えられます。航空会社を訴えている顧客の弁護士が裁判所に提出した書面に、存在しない架空の事件がでっち上げられて記載されていたことが分かりました。弁護士は文書作成のためにChatGPTの助けを借りたことを認め、「内容が虚偽である可能性には気づかなかった」と説明しました。「投資の神様」として知られる米大手投資会社「バークシャー・ハサウェイ」のウォーレン・バフェット会長兼CEOは、同社の年次総会で次のように言い放った。「(生成AIやチャットGPTなどの)AIは原爆に匹敵するのではないか」AIへの懐疑を公にしたのだが、メディアはこの発言を無視して、「バフェット氏は、シリコンバレー銀行(SVB)の預金者保護は不可避的だったのであり、もしそうしていなければ事態はもっと深刻となっただろう」と発言した部分だけを強調した。米IT大手「グーグル」で最高経営責任者(CEO)を務めたエリック・シュミット氏が、これまでの立場を変えて「AIにはガードレールが早急に必要である。1年前には考えもしなかったことが起こっている」と言い出した。次の経済を牽引(けんいん)すると期待されたAIやチャットGPTなどの新技術に投資筋は懐疑的なのである。シュミット氏は、元米国務長官のヘンリー・キッシンジャー氏らと共同で、「AI開発と国家安全保障」を追求し、ガイドラインを制定する委員会を継続してきただけに、姿勢の変化には注目が必要だ。ネットの対話型AIの情報源はしょせん、冗談や妄想や噂やフェイクニュース等、いい加減な情報が氾濫するネットである。ヒトと違って理性的な感覚のないAIにしてみれば、ここみたいなオカルト妄想系ブログさえ回答を作るための情報源になりうる。人間なら「さすがにそれはウソだろうw」と感覚的に判断できるものも、AIにはできない。「嘘を嘘と見抜けない」わけだ。仕事でそんなAIに依存し、AIが作成した文章や回答の根拠や情報源を調べていちいち検証やファクトチェックが必要ならば、二度手間だ。AI使わずに最初から自分でやった方が早い。そんなあやふやな対話型AIをもてはやし依存したがる先進国。マイクロソフト創業者のビル・ゲイツに至っては「18カ月以内にチャットAIが子どもたちに読み書きを教育するようになる。いずれは他の科目も教えられる良い家庭教師になる」と提唱(報道)。自社のパソコンもChatGPT対応の仕様にするという。そんなゲイツだが、先日中国へ訪問したら珍しく習近平が自ら出迎え、ゲイツは習近平から「今年北京で米国人の友人に会うのはあなたが初めてだ」とのコメントをもらっている(報道)。何やらかなり歓迎されている模様。今のところ、いい加減な情報が氾濫する「ネット」を情報源とする対話型AI依存を急激に推進したことで混乱や不利益が出ているのは欧米など先進国だけのようだ。中国が政治的な理由でChatGPTを禁じている意味を、考えてみた方がいい。これと似た感じ、前にもあったような気がする。脱炭素を口実に災害やエネルギー防衛に対して国を脆弱化させる電気一元依存政策を欧米先進国にだけゴリ押しする流れや、健康面で不安要素が残るコオロギ食を先進国で推進するのと似ているような気がするのだ。すると社会を混乱させる歪んだLGBT政策の推進とも似てるかもしれない。