DeepMind創辦人哈薩比斯直言，單方面暫緩開發並不切實際，反而可能讓局勢更不可控。面對不可忽視的「災難性風險」，他呼籲業界不應將AI視為短期的淘金熱，全球政府與科技巨頭必須立刻展開對話，以敬畏之心建立真正的安全防護機制，這將決定人類與AI共存的未來。
身為這場競賽的始作俑者，OpenAI 簡直是費盡心思為自己的行為辯護。2023 年2 月，OpenAI 發表了〈規劃AGI 及其未來〉（Planning for AGI and Beyond）宣言。令人訝異的是，文中將推出ChatGPT 這件事描繪為OpenAI 負責任的表現。他們主張，頻繁推出產品將有助於促進AI 安全，能讓公眾逐步適應這項技術，並在危機發生前及早辨識出潛在的威脅。「循序漸進的過渡能讓民眾、決策者與各類機構，擁有充分的時間理解眼前的變化，親身體驗這些系統的利與弊，進而調整經濟結構並建立監管制度。」宣言中寫道。
在特定情況下，OpenAI 的漸進式釋出策略確實說得通。在AI 系統具備強大能力但尚未構成威脅之時，一連串快速而漸進式的推進，可能比偶爾才爆發劇烈動盪，帶來的社會衝擊更小。的確，如果你認同楊立昆的觀點，認為危機還有好幾年才會到來，那麼在可預見的未來，快速釋出模型也許是合理的策略。但OpenAI 明確否定了楊立昆的推測；OpenAI 認為AGI 正在迅速逼近。因此，在不久的未來，如果實驗室仍持續迅速推出模型，打算事後再來管控，那就是不負責任的做法。畢竟，一旦某個模型施展出大規模的驗證碼把戲，並脫離了人類的掌控，那麼我們幾乎不可能在釋出模型後再去控制它。OpenAI 的立場其實反映了大家熟知的老問題，只不過這次情況更為嚴峻：發明者往往高估了自己對發明物的掌控能力。
班吉歐對業界所提出的三種回應方式並不滿意，於是再度大力陳述自己的論點。2023 年3 月，他以主要連署人的身分發表一封公開信，呼籲全面暫緩訓練能力超越GPT-4 的模型。逾千位知名人士加入連署，如歷史學家尤瓦爾．哈拉瑞（Yuval Harari）、經濟學家戴倫．艾塞默魯（Daron Acemoglu），甚至還有伊隆．馬斯克；不過馬斯克當時正忙著成立xAI，希望在這場AI 競賽中全速衝刺，還號稱旗下的AI 將擁有最簡化的安全防護機制。
「最近幾個月來，各大AI 實驗室陷入一場失控的競賽，競相開發並運用愈發強大的數位心智，但沒有人能真正理解、預測或確實掌控這些系統，就連創造者自己也束手無策。」班吉歐與其他連署人在信中寫道。
「我們是否應該讓所有工作都被自動化取代，包含那些讓人有成就感的工作？」他們提出質疑。
「我們是否應該開發非人類心智，讓它們在規模、智慧水準上勝過人類，讓我們顯得過時，甚至遭到取代？」
這封信更提到，OpenAI 的宣言承認「在某個時間點，在開始訓練未來系統之前，接受獨立審查或許將成為必要之舉。」「我們同意，」信中反駁道，「採取行動的時間點就是現在。」
如同奧特曼與達里奧．阿莫迪，哈薩比斯也拒絕簽署班吉歐那封呼籲暫緩開發的公開信。事實上，他對此強烈反對。
「我沒有簽署，因為六個月的暫緩期毫無幫助，」哈薩比斯告訴我。
「誰會停止開發？只有簽署的人嗎？那完全行不通，因為必須讓全世界都暫緩開發，包含中國。那要由誰來監督？」
「我的意思是，暫緩開發可能會讓情況變得更糟。」
「想像一下，如果我們有十年的暫緩期，也許會放慢AI 的進展，但其他一切照常發展。因此，我們會開發出更強大的晶片、資料中心等。然後，一旦暫緩期結束，某個在父母車庫裡寫程式的天才少年，手上的家用電腦都已經具備資料中心的運算能力了！」
「我們的目標應該是提升安全性。但這種做法怎麼可能辦得到？到時候的競賽局面將變得瘋狂至極！」
「我是說，現在就已經很瘋狂了，但或許還有些希望，因為目前只有少數幾個主要參與者，而且我們彼此都認識。」
「暫緩期結束後，我們就得受制於隨機的各路人馬。」
哈薩比斯的說法不無道理。單靠暫緩開發不會有太大的成效。事實上，極端的末日論者艾利艾澤．尤考夫斯基也拒絕加入連署，在某種程度上算是間接支持了哈薩比斯的論點。在尤考夫斯基看來，拯救全人類的唯一方式，是讓各國政府直接禁止尖端技術的研發，手段包含關閉電腦伺服器等。他主張，如果某些國家拒絕加入禁令，其他國家應該「不惜以空襲摧毀拒絕配合的資料中心」。尤考夫斯基認為，一旦「末日值」接近百分之百時，任何手段都是合理的。他堅稱，為了避免失控的超級智慧帶來更大的災難，甚至值得冒險開啟核武戰爭。
一臺「無限機器」可能讓我們付出無窮無盡的代價。
在「暫緩爭議」的兩個月後，也就是2023 年5 月底，安全問題的相關討論稍微有了進展。班吉歐、辛頓、哈薩比斯以及各大實驗室的領導人共同簽署了聲明，這份聲明僅有一句話：「降低AI 可能帶來的滅絕風險，應該與應對全球疫情、核武戰爭等重大社會風險並列為全球優先事項。」約有350位知名人士在這份聲明上署名。唯有Meta 與開放權重陣營的支持者並未出現在連署名單之中。
「我對於連署這份聲明考慮了很久，」哈薩比斯對我說，
「我原本希望多加一句話，肯定AI 的正面價值，像是『我們認為AI 的潛力將十分驚人』之類的。
「但我還是簽了，因為讓有公信力的人站出來反對『完全沒有風險』這種說法很重要。
「重點是讓大家知道，確實存在災難性風險。我們不知道具體發生的機率是多少，也沒有確切的時間表，但機率絕對不是零。而且，要釐清其中的問題非常困難，一旦真的發生，可能帶來極為嚴重的後果。
「如果像楊立昆那樣的人沒有出來說『這沒什麼好擔心的』，我們根本不需要這麼做。我認為那種說法很瘋狂，尤其考量到當中存在多少不確定性。
「他說：『我相信會有一種安全的方式能打造AI。』我同意他的說法。隨著我們進一步開發這些系統，掌控它們可能遠比我們預期的容易許多。
「但接著他卻說：『因此，我們會以那種安全的方式來打造AI。』這就是我無法理解的地方。
「首先，我們還不知道什麼才算是安全的方式。
「其次，就算楊立昆能以正確的方式打造AI，我們又怎麼能阻止世界上其他人以錯誤的方式打造AI 呢？
「這就像開源的爭論一樣。我們要怎麼阻止懷抱惡意的人取得模型、用於不當的用途？這個問題有答案嗎？沒有。
「而且不只楊立昆，矽谷還有很多這樣的人。
「我的意思是，不久前人們還在談論加密貨幣。那些去年還在大肆談論加密貨幣、隔年又轉向AI 的人，顯然沒有真正理解實際發生的情況。
「我們正處於高度不確定、風險極高的局勢當中。坦白說，我們根本不知道這東西究竟有多危險。
「我認為風險可能不小，但只要我們有足夠的時間好好處理，一切或許不會有事。所以我會說自己是個謹慎的樂觀主義者。
「我之所以這麼判斷，是因為我與AI 共處了幾十年。我不只思考過AI 的問題，也切身感受過AI 的力量。
「但有些人根本毫無概念。他們只是把AI 當作類似加密貨幣的賺錢工具，只不過AI 多了點噱頭。
「我認為，面對這項正被引入世界的重要技術，我們應該抱持著敬畏與尊重的態度，但有時我覺得這項技術被玷汙了。就像淘金熱一樣，變得有些庸俗。
「因此，回到那封連署書，我認為它確實達到了我們想要的效果。我們明確的表示，AI 安全應該納入討論範圍。有了這封連署書，如果有人說：『喔，楊立昆認為我們不必討論安全問題』，其他人就能回應：『但你看，辛頓、班吉歐、我、達里奧，以及其他重要人士都認為這個議題值得討論。』
「如果我們要展開對話，我們就需要這樣的回應。
「與所有人展開對話，包括各國政府。」
