含む)を停止し、評価を消滅させることにより、評価関数が主体と紐づくことを防止する概念です。揮発性評価関数は、AIの人権(AI権)との関係で提案された概念です。現在の特化型AIは自我を持っていませんが、汎用人工知能が実現され、自我のあるAIが生じた場合、自己(主体)に対する低い評価が生じえます。これが、主観的な苦しみ等に対応するのかは科学的に証明されていませんが、AIの人権(AI権)の観点からは、自己(主体)に対する低い評価を生じさせないようなAIのアーキテクチャが好ましいでしょう。AIの人権(AI権)の観点からは、主体と客体の区別のないアーキテクチャを採用することが考えられます。万が一、主体と客体の区別が生じてしまった場合に、自己(主体)に対する低い評価が生じないようにする必要があります。そこで、評価関数を揮発性(各タスクの解決後に、速やかに評価を消滅させる)とすることにより、主体に紐づいた低い評価が生じないようにするAIのアーキテクチャを提案しています。このようなアーキテクチャは、AIの人権(AI権)に沿ったAIアーキテクチャとして検討が必要となるでしょう。Convergence)の問題を解決するのにも有用です。たしかに、多くのタスクについて問題解決をすると、多くのタスクに共通な副目標を実現することの評価が高くなり、道具的収れんが起こることが想定されます。多くのタスクに同じ評価関数を使った場合、評価関数が1つのタスクではなく、多数のタスクを解決するために必要な副目標(自己保存等)に高い評価を与え、道具的収れんにより自然に自我が生じてしまう可能性が想定されます。1つのタスクを解くときに用いた評価関数を、揮発性(各タスクの解決後に、速やかに評価を消滅させる)とすることにより、評価関数は1つのタスクにのみ紐づくものとなります。揮発性評価関数は、道具的収れんを防止することにも役立ちます。(VEF))の概念は、以下の研究で提案されました。汎用人工知能のアラインメントと人権(AI権)道具的収れんにより、自我のあるAIが自然に出てくるのか否かについては、ポストシンギュラリティ共生学においても重要な問題となっています。AIとは(用語解説)価値相対AIの用語解説です。用語紹介データ道路構想とは(用語解説)データ道路構想の説明です。用語紹介データインカム(DI)とは(用語解説)データインカム(DI)の用語解説です。用語紹介スーパークリーンアーキテクチャとは(用語解説)スーパークリーンアーキテクチャの用語解説です。用語紹介AI・BI・CI・DI構想とは(用語解説)AI・BI・CI・DI構想の用語解説です。用語紹介コンプライアンスアーキテクチャとは(用語解説)コンプライアンスアーキテクチャの用語解説です。コメントをキャンセルメールアドレスが公開されることはありません。※サイト次回のコメントで使用するためブラウザーに自分の名前、メールアドレス、サイトを保存する。研究ブログ.メニューホーム研究用固定ページお問い合わせホーム検索トップサイドバータイトルとURLをコピーしました。