時至今日,AI 顯然是一本「選你自己的冒險結局」的故事書,而每一個選項最終都通向災難。碳排放激增與生態崩潰?翻到第 37 頁。其他可能的結局包括(部分或全部):泡沫破裂並引發金融危機;自動化導致的大規模失業;民主的終結與威權監控國家的崛起;相信模式匹配演算法具有意識的狂熱邪教;製造毀滅性生化武器的恐怖分子;部署以非人類時間尺度運作的自主武器系統的民族國家;駭入我們所依賴無數系統的民族國家或恐怖分子;以及一個(無論是否具有意識)追求與人類福祉相悖指令的 AI。
想像一下,由馬斯克、OpenAI 執行長 Sam Altman、Palantir 創辦人 Peter Thiel,以及川普政府的科技顧問 Marc Andreessen 等人將引領我們走向烏托邦的未來——充滿環境主義、社會和諧與無盡休閒——這需要極其嚴重的幻覺與諂媚,以至於這個「選你自己的冒險」的情節,恐怕只有 ChatGPT 才寫得出來。
越來越多人(雖然認識得過於遲緩)意識到我們正走向災難,並伴隨著減速、監管甚至全面暫停的呼聲,好讓我們有時間理解這一切。這些呼聲不僅來自社會運動人士,也來自一群涵蓋範圍過於廣泛而難以忽視的政治人物、專家與科技業內部人士,從 Bernie Sanders 到比爾蓋茲。比爾蓋茲近期撰文指出:「如果有人提出一個可信的全球性 AI 減速方案,我很可能會支持。」他只是最新一位承認此一現實的業內人士;今年夏天早些時候,AI 公司 Anthropic 就曾呼籲踩下「煞車踏板」。產業自律不會奏效。如果要有暫停,必須從外部強制執行。
然而,達成國際協議的可能性依然渺茫。AI 類似於核武,遵循相同的邏輯:每個參與者都被激勵參與這場愚蠢的競賽,唯一理由就是不想讓自己落入贏家的宰制。看來,促成減速的最佳機會,將是由單一行為者掌控一個戰略瓶頸,且有動機將其關閉。巧合的是,歐盟手中正握有這樣一張牌——甚至有動機打出它,只要它敢這麼做。
荷蘭科技公司 ASML 是歐洲市值最高的企業,憑藉其生產的極紫外光(EUV)微影設備。這些設備是全球最先進晶片製造的基礎,因此也是整個 AI 產業少數可能的戰略瓶頸之一。ASML 已掌握製造這款單價 4 億美元設備所需的技術與複雜供應鏈,該設備能將光線聚焦至 13.5 奈米波長(約人類頭髮寬度的萬分之一)以蝕刻矽晶圓上的電路圖案。沒有它的設備,就沒有先進晶片;沒有晶片,就不再有資料中心。這意味著從台灣晶片製造商台積電對未來晶圓廠(業界稱為「fabs」)的 2,650 億美元投資,到業界預計將於 2030 年前(主要在美國)全球興建、價值 7 兆美元的資料中心,都將受到影響。如果沒有更多採用當前及下一代晶片的資料中心,AI 沿著指數級成長(與風險)曲線的推進將陷入停滯。
這正是美國政府對 ASML 實施域外出口管制的原因——禁止其最先進的 EUV 設備出口至中國,以試圖減緩中國發展先進晶片製造能力。美國在對 ASML 實施這些限制時,也暴露了自身對這個戰略瓶頸的依賴:正如歐洲在最終可被複製的金融與軟體服務上依賴美國,所有基於晶片的技術未來完全依賴 ASML。直接禁止 ASML 設備出口,將迫使全球 AI 產業實際上原地踏步、原地慢跑。
由此引發的晶片短缺與 AI 發展減速,將為監管機構爭取追趕技術的時間、為立法者爭取更新從著作權法到稅法等各種法規的時間,也為社會爭取進行真正辯論的時間——辯論我們希望 AI 在生活中扮演什麼角色。
歐盟為什麼要這樣做?不僅出於人道主義,更出於自身利益。在最理想的情況下,全面出口禁令將導致供應鏈重組,並將更多關鍵決策納入歐盟管轄範圍——在這個範圍內,它將受到唯一已表明將對 AI 進行廣泛監管的行為者的法規監管。當然,最理想的情況過於牽強:更可能的情況是,美國將以切斷 ASML 取得美國本土供應商的管道作為報復。但即便如此,引發這樣的對峙仍符合歐盟的利益。基於純粹經濟與地緣政治自利的狹隘邏輯:歐盟在 AI 模型與運行模型所需的資料中心「運算力」方面將不再相對落後。
歐洲自身的 AI 樂觀派也同意此一看法——儘管他們關切的是歐盟的相對劣勢,而非 AI 廣泛的風險。「Europe 2031 計畫」是一份由一群產業專家彙編的科技政治預測,探討在 AI 徹底改變經濟、且歐盟遠遠落後於美國的情境下,歐盟可能面臨的局面。他們主張,歐洲必須在「前沿模型」與「運算力」變成如同今日台積電與 ASML 那樣——享有競爭對手無法跨越的巨大領先優勢——之前,將數千億資金投入 AI 軍備競賽。
在他們設定的情境中,在不久的將來某個時刻,歐盟將被迫將 ASML 的使用權擺上談判桌,以換取其經濟與安全未來將依賴的、由美國掌控的模型與運算力——結果卻發現 ASML 的霸主地位已隨時間削弱。(出口的 EUV 設備越多,在其他地方興建的晶圓廠就越多,中國與美國就有越多時間複製 ASML 的技術。)
核武理論學家擔憂,一旦最不可言說的情況發生,各國將因「不用則失」的盤算而被推向發射核武。完全相同的計算邏輯適用於唯一能阻止 AI 產業狂奔的事物:歐盟現在可以使用 ASML 帶給它的籌碼,否則將冒著永遠失去這個機會的風險。難得的是,不同立場的群體最終得出相似的結論:歐洲只有一張牌可以打,而這張牌必須打出去。讓我們別再奔向愚蠢的結局,而是直接讓這場競賽停下來。現在就停下,而且為所有人停下。