AIガバナンスについて書いてください。
AIの軍拡競争は過熱し、ブレークスルーは加速度的に起こっている。

OpenAIによるChatGPTのリリースは、人間と機械とのインターフェースに大きな飛躍をもたらし、大規模言語モデルの驚くべき進歩を示している。一方、Dall-E、Stable Diffusion、Midjourneyなどの生成AIは、テキスト記述から非常にリアルで詳細な画像を生成することができ、かつて人間だけのものと考えられていたレベルの創造性と想像力を示しているのだ。

人間は基本的に、絶えず技術を進歩させ、知識や能力を向上させるようにできているようなのだ。また、人間の脳は直線的に考える傾向があるため、テクノロジーの指数関数的な進歩を過小評価する原因となっているのだ。企業や国家は、市場原理や地政学的なゲーム理論によって、AIの進歩を通じてより優れた知能を追求するインセンティブを与えられているのだ。

いのちの未来研究所はこのほど、『Pause Giant AI Experiments：公開書簡」を発表しました。イーロン・マスク、スティーブ・ウォズニアック、アンドリュー・ヤンなど著名人が署名したこの書簡は、高度なAI開発の6ヶ月間の一時停止を求め、波紋を呼びました：

「したがって、我々はすべてのAI研究所に対し、GPT-4よりも強力なAIシステムの訓練を少なくとも6ヶ月間、直ちに一時停止するよう要請する。この一時停止は、公的かつ検証可能なものでなければならず、すべての主要な関係者を含むものでなければなりません。このような一時停止が迅速に実施できない場合は、政府が介入してモラトリアムを実施する必要があるのだ。"

この書簡に対するメディアや世間の論調の多くは、誰が署名したかに焦点を当て、人類が人工超知能の差し迫った存亡の危機に直面しているという考え方に背を向けているのだ。人工知能の暴走というディストピア的な主張は、多くの人にとって誇張に思えるし、6ヶ月のモラトリアムを要求するのは現実的でない。中国にAI軍拡競争への取り組みを「一時停止」させるよう説得するのが吉だ。

しかし、境界線はないのだろうか。ガイドラインがない状態で進めるべきでしょうか？

例えば ...

透明性や説明可能性を欠き、人間が意思決定の理由を理解できないブラックボックスのAIシステムに意思決定を委託することに抵抗はないのだろうか。
人間の意見なしに殺傷力の行使を決定するAI搭載の自律型兵器の開発を心配する必要があるのでしょうか。
悪意あるアクターが、高度なプロパガンダキャンペーンなど、悪意のある目的のためにAIを利用する可能性を心配すべきなのか？
現在の法律、規制、政治システムは、ごく近い将来、社会が取り組むことになる新たなAIとの連携問題の急速な流入に対応できるものだろうか。
AIがより高度になるにつれ、理解が難しくなり、意図しない結果につながる可能性がある。AIシステムは、予期しない、制御が困難な振る舞いをすることがあるのだ。AIのアライメント問題は社会的課題であり、研究者、エンジニア、起業家、政策立案者、そして一般市民の協力が必要なのだ。また、政府と民間企業による国際的な協力も必要となります。これは単なる技術的な課題ではなく、哲学的、倫理的な課題でもあるのだ。

前出のオープンレターは、さらにこう提言している：

"AIの研究開発は、今日の強力な最先端システムをより正確、安全、解釈可能、透明、堅牢、整列、信頼、忠実なものにすることに再注目されるべきなのだ。"

これは確かに価値ある目標であり、AIをオープンで行うことで実現できることなのだ。現在、拙者たちに欠けているのは、フレームワークなのだ。The Future of Life Instituteの提言を実行可能なものにするために、社会は一連の手順やプロトコルを必要としているのだ。

共同して、多くのアイデアの是非を検討し、議論する必要があるのだ：

トレーニングデータセット、評価方法、既知のバイアスを含むモデルの詳細の開示を義務付ける。
先進的なAIシステムのモデル監視・監査要件を定めたフレームワークの開発
AIが引き起こした被害に対して責任を課す法律の実施
高機能なAIシステムの監視・追跡のための規制当局の設置
安全なAI開発のための生産的な枠組みを実現するための最初のステップは、すべての人を含む多くの関係者の間で開かれた対話をすることなのだ。拙者たちは、不誠実で壊れたメディアがしばしば強要する、超政治的な言説を乗り越えなければなりません。このトピックはあまりにも重要であり、その影響はあまりにも深いのなのだ。AIに関する知的で尊敬に値する会話、つまり、多様な声から意見を募り、開かれた議論をすることで、拙者たちの集団の最善の利益につながる道を確保することを、拙者と一緒に提唱するのだ。