寫一段關於人工智慧治理的文章。
人工智慧軍備競賽正在升溫，突破正在加速發生。

OpenAI 發布的 ChatGPT 代表了人類與機器互動方式的一次深刻飛躍，展示了大型語言模型的驚人進展。與此同時，Dall-E、Stable Diffusion 和 Midjourney 等生成式人工智慧功能能夠根據文字描述生成高度逼真和詳細的影象，展現出曾經被認為是人類獨有的創造力和想像力。

人類似乎從根本上就渴望不斷進步技術並提高我們的知識和能力。此外，人類大腦傾向於線性思考，導致我們低估了技術的指數級進步。公司和國家受到市場力量和地緣政治博弈論的激勵，透過人工智慧的進步來追求更好的智慧。

生命未來研究所最近發​​表了《暫停巨型人工智慧實驗：一封公開信》。這封信的簽署人包括埃隆·馬斯克(Elon Musk)、史蒂夫·沃茲尼亞克(Steve Wozniak) 和安德魯·楊(Andrew Yang)，呼籲暫停高階人工智慧開發6 個月，引起了轟動：

“因此，我們呼籲所有人工智慧實驗室立即暫停至少 6 個月的比 GPT-4 更強大的人工智慧係統的訓練。這種暫停應該是公開的、可驗證的，並包括所有關鍵參與者。如果這種暫停不能迅速實施，政府應該介入並暫停。”

針對這封信的大部分媒體和公眾討論都集中在誰簽署了這封信，並反駁了人類面臨人工智慧迫在眉睫的生存威脅的觀點。對許多人來說，反烏託邦式的人工智慧失控的說法似乎有些誇張，而要求暫停 6 個月也是不現實的。祝你好運，說服中國“暫停”他們在人工智慧軍備競賽中的努力。

但沒有界限嗎？我們應該在沒有指導方針的情況下繼續進行嗎？

例如 …

我們是否願意將決策外包給缺乏透明度和可解釋性、導致人類無法理解決策背後原因的黑匣子人工智慧係統？
我們是否應該擔心人工智慧驅動的自主武器的發展，這些武器可以在沒有人類輸入的情況下做出使用致命武力的決定？
我們是否應該擔心惡意行為者可能將人工智慧用於邪惡目的，例如復雜的宣傳活動？
我們當前的法律、法規和政治體係是否有能力應對社會在不久的將來將要解決的快速湧入的新人工智慧協調問題？
隨著人工智慧變得更加先進，它可能會變得難以理解，這可能會導致意想不到的結果。人工智慧係統的行為方式可能是不可預見且難以控制的。人工智慧協調問題是一個社會挑戰，需要研究人員、工程師、企業家、政策制定者和公眾之間的合作。它還需要政府和私營部門之間的國際合作。這不僅是一項技術挑戰，也是一項哲學和倫理挑戰。

上述公開信繼續建議：

“人工智慧的研究和開發應該重新集中於使當今強大、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。”

這當然是一個有價值的目標，並且可以透過開放人工智慧來實現。我們現在缺少的是一個框架。社會需要一套程式和協議來使生命未來研究所的建議具有可操作性。

我們必須共同考慮和辯論許多想法的利弊，包括但不限於：

強制披露模型細節，包括訓練資料集、評估方法和已知偏差
開發一個框架，為先進人工智慧係統建立模型監控和審計要求
實施對人工智慧造成的損害承擔責任的法律
建立監管機構來監督和跟蹤高效能人工智慧係統
實現安全人工智慧開發的高效框架的第一步是包括所有人在內的眾多利益相關者之間的公開對話。我們必須超越我們不誠實和破碎的媒體經常強加給我們的高度政治化的話語。這個話題太重要了，影響也太深遠了。和我一起倡導關於人工智慧的明智和尊重的對話——從不同的聲音中徵求意見和公開辯論，以幫助確保一條符合我們集體最佳利益的前進道路。