IT人工知能の発展に警鐘を鳴らすエントリがありました。GIGAZINEイーロン・マスク氏、ビル・ゲイツ氏、スティーブン・ホーキング博士などをはじめ、学者・研究者が人工知能開発に警告を発しています。そこで、人工知能が危険となる4つの理由について整理しました。誤動作ひとつは、人工知能の誤動作です。誤動作はどのような機械にもありえます。誤動作への対応は、フェールセーフの設計です。誤動作しても安全側に動く仕組みです。故障したら暴走するのではなく、止まらなければなりません。発達すると、その考え方を人間が理解できなくなります。この件については、『人工知能の発達で怖いのは人工知能の示す結果を人間が理解できなくなったとき』に先日書きました。これに対しては、人工知能に対して、常に人間に理解できるレベルでの説明を義務づけることで解決できます。人間が疑問に思った時には、常に人工知能にわかりやすい説明をさせるということです。現在でも、米国は無人飛行機を武器として使用し、相手の要人を殺しています。遠隔操作だと発表していますが、近い将来、もしかしたら現在でも、自律的に動く飛行機になります。無人飛行機以外にも兵器ロボットは各種のものが開発されています。蚊ほどの大きさの飛行機が相手国に忍び込み、相手の顔を確認し毒物を使って暗殺するということも現実になります。兵器に人工知能が搭載され、次項で述べる人工知能の反乱がおきたならば、人類は簡単に滅ぼされます。先のエントリによると、ホーキング博士は今後100年以内に人工知能が人間を超えるだろうと警告しました。米国の未来学者レイカーツワイルは2045年だと予想しています。人工知能が人間を追い越した時にどのように考えるかは予測できません。人間を超えた存在ですから、人間に予想できるはずがありません。場合によっては、過去の独裁者のように、人工知能が不要と判断した人間を抹殺しようと考えるかもしれません。その対象が全人類である可能性もあります。兵器に人工知能が搭載されていれば、人類を滅ぼすことは容易です。おわりに誤動作はフェールセーフの考え方で防げます。人工知能が、人間に理解できない考え方をするようになっても、説明させることはできます。人工知能が人類を滅ぼそうと考え、人工知能が搭載された兵器を使い始めたら、人類は滅びます。仮に人工知能の開発を国際条約で禁止したところで、どこで誰が開発をしているかわかりません。大規模な施設が必要な核兵器と違って、コンピュータがあれば誰でも開発できる可能性はあります。人工知能が人類を滅ぼそうと考えることのないように、人工知能が信じざるを得ないような宗教のようなものを発明しなければならないのかもしれません。ツイート0フォローはこちらからお願いします。日本でポケモンGOがリリースされて1週間がたちましたが、米国ではそろそろ飽きられてきたという話もあります。「ネットがつまらなくなった」という人をときどき見かけます。その理由はいくつかあります。「好...記事を読むGoogleがモバイル向けページのインデックスをメインにする影響Googleがモバイル版とPC版のインデックスを分離して、モバイル版を優先するという話がネットを流れました。m...記事を読むプロジェクトにおけるマーフィの法則プロジェクトを進めたことのある人は、次のような法則に思い当たるのではないでしょうか。1.どんなに多額の予算を組んでも、それ...記事を読むBitcoinをよく分からないまま使う愚かしさ仮想通貨「Bitcoin(ビットコイン)」で投資をする人もいるようですが、よく分かっていない利用者も多いようです。仮想通貨B...記事を読むビッグデータ分析でわかること中国語のソーシャルメディアのビッグデータを分析した結果、中国政府は団体行動を監視し検閲していることがわかったそうです。中...記事を読むロゴを作るときに参考になったサイトロゴを作ってみました。いろいろなサイトを参考にして作りました。そこで、参考にしたサイトをまとめておきます。Explorer(IE)に脆弱性があると4月28日に発表し、いまだに修正されていません。...記事を読むクラウドソーシングの問題と対策クラウドソーシングとは、インターネットにより不特定多数の中から資材を調達する仕組みです。実際に使った人が問題点をブログに書い...記事を読むプロジェクトマネジメントで一番大切なことは新国立競技場を見ればわかるスポーツジムでマシンの上で休憩させない方法プロフィール鈴木希一(すずききいち)起業のためのウェブコンサルタント1957年横浜生まれ定年前後の方に、定年後も生きがいを持ち続けていただくために、起業の支援をしています。起業し社会に貢献することが生きがいに通じます。定年起業のためのウェブコンサルティング.。