可能意外終結人類的時刻
20世紀60年代末，美國宇航局需要作出一個決定，這可能決定人類的命運。阿波羅11號登月後，三名宇航員漂浮在太平洋上的太空艙裏等待被接走，他們很熱，很不舒服。美國國家航空航天局的官員決定為這三位國家英雄做些好事。但缺點呢？有些許可能在地球上釋放致命外星微生物。
幾十年前，一群科學家和軍方官員也面臨類似的轉折點。他們等待觀看第一次原子武器試驗，這時意識到潛在的災難性後果。這個實驗有可能意外點燃大氣層，摧毀地球上的所有生命。 在上個世紀的幾個瞬間，很少很少的人掌握著世界的命運，他們有可能造成巨大災難。儘管可能性很小，但卻是真實存在的。這不僅意味著他們自己生命的終結，而是一切的終結。 那麼，是什麼導致了這些決定？這些經歷告訴我們，當面臨今天的風險和危機時，應該採取什麼態度呢？ 當人類在20世紀中期首次制定向太空發射探測器和人類計劃時，污染問題就出現了。 首先，人們擔心「前方」污染——地球上的生命可能會意外搭上便車進入宇宙。航天器在發射前需要消毒和仔細包裝。如果有微生物潛入飛船，將會使探測外星生命的嘗試陷入混亂。如果有外星生物存在，我們可能會無意間用地球上的細菌或病毒殺死它們，就像世界大戰結束時外星人的命運一樣。這些擔憂在今天和太空競賽時代一樣重要。 一架起重機將阿波羅11號太空艙抬到飛船上，而宇航員已經在飛船上了。 第二個擔憂是「後方」污染。該理論認為，宇航員、火箭或探測器返回地球後可能帶回生命，這些生命可能帶來災難性後果，要麼打敗地球上的生物，要麼消耗掉我們所有的氧氣。 反污染是美國宇航局在阿波羅登月計劃期間需要認真考慮的問題。如果宇航員帶回了危險的東西怎麼辦？這種可能在當時並不高，幾乎沒有人認為月球可能孕育生命。但這種情況仍然需要探索，因為後果十分嚴重。當時一位頗有影響力的科學家說：「也許有99%的人可以肯定，阿波羅11號不會帶回月球生物，但就連這1%的不確定性也太大了，不能滿足於此。」 美國宇航局採取了幾項隔離措施——在某些情況下做得有點不情願。美國公共衛生服務部門的相關官員主張採取比原計劃更嚴格的措施，並指出，他們有權拒絶受污染的宇航員入境，從而向航天局施壓。在國會聽證會後，美國宇航局同意在船上安裝昂貴的隔離設施，將這些人從太平洋上中接回來。雙方還同意，月球探險者將被隔離三周，然後才能與家人擁抱，或與總統握手。 但杜克大學（Duke University）的法律學者喬納森·維納（Jonathan Wiener）表示，隔離程序存在重大漏洞。他在一篇關於對災難性風險的誤解的論文中提到了這一事件。 當宇航員從太平洋上個濺落下來時，最初的協議規定他們待在宇宙飛船內。但是，當宇航員在悶熱的太空中等待，受到海浪衝擊時，他們的健康受到關注，美國宇航局重新考慮了這一問題。官員們決定打開門，用筏子和直升飛機把這些人救出來（見本文上方的圖片）。他們穿著生物污染防護服進入船上的隔離設施，但在海上，膠囊一打開，裏面的空氣就被淹沒了。 幸運的是，阿波羅11號任務沒有把致命的外星生命帶回地球。但如果發生了這種情況，將船員的短期舒適放在首位的決定，可能會在短暫開窗時將外星生命釋放到海里。 核毀滅 24年前，美國政府的科學家和官員們站在另一個轉折點，涉及一個微小但潛在的災難性風險。在1945年第一次原子彈試驗之前，曼哈頓計劃的科學家們進行了計算，指出一種令人寒心的可能性。在他們描繪的場景中，裂變爆炸產生的熱量非常巨大，可能引發失控的核聚變。換句話說，該測試可能會意外地點燃大氣層，燒燬海洋，摧毀地球上的大部分生命。 隨後的研究表明，這不太可能的。但就在測試當天，科學家們反覆檢查了他們的分析。「三位一體」測試的日子終於到了，官員們決定繼續進行測試。 第一次核武器試驗標誌著一個險峻時代的開始。 當閃電比預期時間更長、更亮時，至少一名觀察小組成員認為最壞的情況已經發生了。其中一位是哈佛大學校長，他最初感到敬畏，但很快變成了恐懼。「（他）不僅對爆炸沒有信心，而且即使爆炸成功，他還相信將產生災難性後果」。他說，他正在目睹「世界的盡頭」，他的孫女傑尼特·柯南特（Jennet Conant）在寫了一本關於該項目的科學家後告訴《華盛頓郵報》。 對牛津大學的哲學家托比·奧德（Toby Ord）來說，那一刻是人類歷史上的重要時刻。他確定「三位一體」試驗的具體時間和日期——1945年7月16日05:29——是人類新時代的開始，標誌著人類毀滅地球的能力逐步改變。奧德在他的《懸崖》（The Precipice）一書中寫道：「突然之間，我們釋放了如此多的能量，創造了地球歷史上前所未有的溫度。」他指出，儘管曼哈頓的科學家們十分嚴謹，但這些計算從未受到非關聯黨派同行的評議，也沒有證據表明有民選代表被告知其中的風險，更不用說其他政府了。科學家和軍事領導人索性自行採取了行動。 奧德還強調，1954年，科學家們在另一次核試驗中的計算結果出現了驚人錯誤：他們得到的不是預期600兆噸的爆炸，而是15兆噸。「在那年夏天進行的兩項主要的熱核計算中……他們得到了一對一錯。由此得出的主觀風險高達50%的結論是錯誤的。但這肯定不是能讓人類未來冒險的可靠水平。」 脆弱的世界 從我們在21世紀的開明立場來看，很容易精凖評判這些決定以及他們的時代。關於太陽系污染和生命的科學知識要先進得多，盟軍和納粹之間的戰爭也早已過去。現在沒人會再冒這樣的風險了，對吧？ 遺憾的是，無論是偶然還是其他原因，現在發生災難的可能性比過去更大。 阿波羅11號宇航員在著陸後被隔離，但當他們從海上被接走時，出現一個空隙。 誠然，外星人帶來的滅絶並不是世界面臨的最大風險。不過，儘管可能會有「行星保護」政策和實驗室來防止外星人污染，但這些規定和程序在如何適用於訪問太陽系其他行星和衛星的私人企業方面仍是懸而未決的問題。（除了外星災難帶來的威脅外，向銀河系廣播人類存在可能會有與外星人相遇的潛在危險，尤其是當他們比人類還要先進。歷史表明，糟糕的事往往發生在那些技術更嫻熟的文化的人身上——看看土著居民遇到歐洲定居者的命運就知道了。) 更令人擔憂的是核武器威脅。大氣燃燒或許不可能，但類似於導致恐龍滅絶的帶來氣候變化的核冬天卻情況不同了。在第二次世界大戰中，核武庫的數量和威力都不足以引發這場災難，但現在已經足夠了。 奧德估計，20世紀人類滅絶的風險約為百分之一。但他認為現在風險更高了。他說，除了一直存在的自然風險外，人為死亡的可能性在過去幾十年顯著上升。除了核威脅，人工智能的前景已經出現，碳排放飆升，我們現在可以干預病毒的生物學，使它們更具致命性。 正如新冠肺炎大流行所顯示的，全球互聯互通、錯誤信息和政治不妥協也使我們更加脆弱。「根據我所知道，本世紀的風險約為六分之一，」他寫道。他說：「如果我們不採取行動，如果人類繼續讓實力增長超過智慧增長，可以預期，下個世紀以及接下來的每一個世紀，這種風險會更高。」 風險研究人員還有另一種方式描述這種迅速發展的風險，想象從一個巨大的甕裏撿球。每個球代表一項新技術、發現或發明。這些球絶大多數是白色或灰色。白球代表人類進步，比如肥皂的發現。灰球像社交媒體一樣，代表好壞參半。但在甕裏還有黑球。黑球非常罕見，但只要挑出一個，人類就毀滅了。 這被稱為「脆弱世界假說」，關於為未來非常罕見、非常危險的事件做凖備。到目前為止，我們還沒有找到一個黑球，但這很有可能是因為它們太罕見了——當我們把手伸進甕裏，已經碰到了一兩個。簡而言之，我們很幸運。 有很多技術或發現可能是黑球。有些我們已經知道了，但還沒有實施，比如核武器或生物工程病毒。還有一些是已知的未知數，比如機器學習或基因組技術。還有一些是未知的未知：我們甚至不知道它們是危險的，因為還沒有被構思出來。 不平凡的悲劇 為什麼我們不能嚴肅的對待這些災難性風險呢？維納有一些建議。他將人們對極端災難性風險的誤解描述為「非公有悲劇」 （tragedy of the uncommons）。 你可能聽說過「公地悲劇」（tragedy of the commons）：它表示自私自利的個人對公共資源管理不善的方式。每個人都做對自己最有利的事，但最終每個人都在受苦。這是氣候變化、森林砍伐或過度捕撈的根源。 幸運的是，「三位一體」試驗地點的大氣層沒有被點燃。 維納解釋，非公有悲劇是不同的。與其說人們對共享資源管理不善，不如說人們誤解了罕見的災難性風險。 他提出以下三個原因。第一個是罕見災難的「不可獲得性」。最近發生的重大事件比從未發生過的事件更容易讓人憶起。大腦傾向於將過去的記憶拼貼在一起來構建未來。如果新聞報道了一種風險——比如恐怖主義——公眾擔憂就會增加，政客就會採取行動，科技就會發明出來，等等。然而，預見非公有悲劇的困難在於，我們不可能從經驗中學習。它們不會出現在頭條新聞上。但一旦發生，遊戲就結束了。 第二個原因是，我們誤解了罕見災難，即大規模災難的"麻木"效應。心理學家觀察到，人們的擔憂並不隨著災難的嚴重程度線性增長。或者更直白地說，如果你問大家，有多關心地球上所有人死亡，他們的關心程度不會比關心一個人死亡的程度高。他們也不考慮失去後代的生命。大量證據表明，人們對個人悲劇的關注會下降。在BBC Future最近一篇關於麻木心理的文章中，記者蒂芬妮·文（Tiffanie Wen）引用了特蕾莎修女的話：「如果我看著彌撒，就永遠不會行動起來。如果我只看那個人，我就會採取行動。」 最後，維納描述了一種「威懾不足」效應，即鼓勵那些承擔風險的人採取放任態度，因為沒有責任可擔。如果世界因你的決定而毀滅，那麼你就不會因為疏忽而被起訴。法律和規則沒有力量阻止終結物種的魯莽行為。 也許最令人不安的事情是，非公有悲劇可能偶然發生——無論是由於傲慢、愚蠢還是疏忽。 「在其他條件都相同的情況下，沒有多少人願意毀滅世界。即使是不知名的公司、愛管閒事的政府、魯莽的科學家和其他末日代理人，也需要一個世界來實現他們的利潤、秩序、任期或其他邪惡目標，」人工智能研究員埃利澤·尤多科夫斯基（Eliezer Yudkowsky）曾經寫道。「如果我們的滅絶進程緩慢到足以讓人們驚恐地意識到這一點，做事的人可能就會停一停……如果地球被毀滅了，很可能因錯誤而毀滅。」 我們應該感謝，阿波羅11號的官員和曼哈頓科學家不是那些被嚇壞的人。但在未來的某一天，有人會到達另一個轉折點，屆時物種的命運將由他們來決定。或者，也許他們已經在這條路上，閉著眼睛奔向災難。當時機到來時，希望他們能為了人類的利益做出正確的選擇。 請訪問 BBC Future 閲讀 英文原文。