超絶AIと人類の命運」という本の書評です。この本は700ページもあるから、読むの大変!この書評でさらっと学んでしまいましょう。この本は、いわゆる「シンギュラリティ」を解説した本ではありません。人口知能の科学技術史を振り返りながら、現在におけるAIの可能性を示すとともに、将来必ず訪れるAIが人間を超える日(スーパーインテリジェンスが誕生する日)について、我々がいかに無自覚であるかを教えてくれる本です。人口知能については、過去に二度ピークが起きており、現在は三度目のピークといわれています。過去二回は、どちらかといえば専門家がルールを設定して動かすルールベースのAIでした。一度目は、1956年に、ダートマス大学で科学者が集まり人口知能についてのワークショップを行った日を契機として、有名なELIZAなどの初期人口知能を作り上げたときです。二度目は、1980年代になって、日本の官民一体プロジェクトを契機に、アメリカやヨーロッパでエキスパートシステムが構築されていったときです。三回目のピークである現在のAIは、ニューラルネットワークなどを使った全く新しいものになっています。AIは(チェスのように)局所的な物事の処理では優れているものの、無意識に人が行うような思考(汎用的な思考)はできないというのが現在の状況です。人口知能が人類を超える時AIが人間の頭脳を汎用的に超えていく時代は、必ず訪れるだろうと著者はいいます。スーパーインテリジェンス(人類を超える知性を持った人口知能)がいつ頃誕生するのかについては、多くの楽観的な未来学者によると、20年後という数字がよく飛び交います。(5年、10年だと既に一定条件下で実現できていなければならないし、20年であればそれらも必要なく、言ってる本人がギリギリ現役ということも多いからという邪推あり)しかし、著名な科学者たちの間では、どうやら2050年から2100年くらいまでに凡そ誕生するのではと予想されているようです。これには何ら科学的な根拠があるわけではありませんし、この本で語られているわけではありません。近い将来必ず来ることを考えた場合に、我々は今からでもスーパーインテリジェンスをコントロールするためのルール作りなどを始める必要があり、時間的猶予はそれほどないということを著者は言いたいのです。スーパーインテリジェンスのコントロール問題この本の多くのページは、そうしたスーパーインテリジェンスを人間がコントロールできるのかについて論じられています。著者いわく、スーパーインテリジェンスをコントロールすることはとても難しい問題であるといいます。コントロールするためには人間が本来持っている価値観や常識をコンピュータに植え付けなければならず、人それぞれでも価値観が多様である中、その作業は至難の業だからです。好奇心が強く良識的ではない国家や企業によって人口知能が研究されていったとき、人の価値観を持ち合わせていないスーパーインテリジェンスが誕生する可能性は大いにあります。それに全てが飲み込まれていって手が付けられなくなるといったことも予想できます。この本では、多くのページを割いて、スーパーインテリジェンスをコントロールするための様々なケースを仮定し思考を繰り返しているものの、こうすれば大丈夫というようなことまでは書いてありません。私たちは、これからこの点について議論を尽くさなければならないということです。スーパーインテリジェンスに支配された世界スーパーインテリジェンスを学んでいくうちに、ふと1つのアニメを思い出しました。こちらの記事で取り上げた「PSYCHO-PASS」です。このアニメのシビュラシステムがまさにスーパーインテリジェンスだからです。詳しくは記事を読んでいただきたいですが、「PSYCHO-PASS」では、人口知能によって人類が完全に監視・支配された世の中がとてもリアルに描かれています。こんな未来にならないように、スーパーインテリジェンスをコントロールするためのルール作りについて、私たちは今から備えておくべきだと強く思いました。エレファントカーブが予測する未来」エッセイ2023.09.16広告に奪われる時間と脳のメモリ【日本は広告天国。