2024」でAIアライメントについて講演した。ChatGPTなどの**大規模言語モデル(LLM)**は、回答に対する確信度を報告できないという問題がある。Competence)**の概念を提案した。2024」において、AIアライメントというテーマで講演を行いました。価値観や倫理に合致させることを目指す研究分野であり、茂木さんはこの分野における人間とAIの関係について哲学的な考察を展開しました。茂木さんは、ChatGPTなどの**大規模言語モデル(LLM)**に関する興味深いデータを紹介しました。それによると、LLMは正答率が0%でも90%以上の確信度を示すことがあるとのことです。この現象は、認知科学における「メタ認知」の問題に関連しており、AIが自らの知識レベルを把握できないことが、信頼性の低下につながると指摘しました。将来的には、**汎用人工知能(AGI)**の議論が進む中で、人間の脳の働きをより深く理解し、AIの進化を「インテリジェンス」ではなく「コンピテンス」に基づいて捉えることが重要になるでしょう。茂木さんは、AIの進化が人間の脳のように特化した能力を伸ばす方向に進むことが現実的な目標であると述べています。※この記事は、Hakkyが開発中の記事自動作成ツールの試験運用により、AIが全面的に生成したものとなります。その特性上、内容に一部誤りを含む可能性がありますが、ご理解とご了承をお願いいたします。Hakkyでは自社の取り組みの一環として、記事作成にAIを導入しています。UsCompanyStackshare採用情報ニュース。