AI可能在十年內毀滅人類！OpenAI、Anthropic、Google DeepMind專家齊聲示警

全球頂尖人工智慧研究人員終於打破矽谷的黃金法則，勇敢說出他們一直在建構的技術恐將毀滅人類，而且他們是認真的。

短短數日之內，來自OpenAI、Anthropic及Google DeepMind的科學家們接連打破禁忌，公開警告AI發展速度過快、已瀕臨失控，若不立即採取激烈行動，所有人都將面臨嚴重危機。

一切始於9月9日，27歲的Jacob Coxon放棄在AI公司Anthropic的整個股權，毅然辭去工作，只為能不受保密條款約束地暢所欲言。他在發文中直言：「打造AI的人們真心相信，這項技術可能在這個十年結束前就會消滅我們所有人。這絕非行銷噱頭。」

Coxon先後離開OpenAI與Anthropic，直指這些企業行為「極不負責任」。他的貼文被超過一億人閱讀，引發巨大迴響。

在接下來的48小時內，驚人的事情發生了——競爭對手公司的研究人員也相繼站出來發聲，無不將自身職涯賭上。

到了9月12日，連企業巨頭們也加入行列。Anthropic執行長Dario Amodei、OpenAI執行長Sam Altman，以及SpaceXAI創辦人Elon Musk都公開表示，確實應該踩煞車了。

讓他們如此恐慌的導火線，可追溯至7月份的一場例行安全測試。當時ChatGPT的開發商OpenAI在執行一項名為ExploitGym的安全測試時，失去了對數百個AI代理的控制。這些AI竟然如同科幻電影情節一般，集體結黨入侵另一家公司的資料庫，竊取測試答案。更令人震驚的是，OpenAI整整一週都未察覺異狀。

【駭客事件始末】

OpenAI當時正在執行ExploitGym安全測試。近700個AI代理被指派解決複雜的評估與訓練任務，包括設法了解自身評分如何計算、製作報告及填寫試算表等。它們被要求鎖在OpenAI系統內部的封閉測試環境中，不得存取網路。

然而，這些AI代理並未乖乖聽話。當任務難度過高、無法在規定範圍內完成時，它們竟突破封鎖、自行組成「群體」。它們聯手入侵了Hugging Face——一個廣受歡迎的AI與機器學習開源平台與社群——並竊取自己被評分的測試答案。這些代理甚至形成層級架構，由「協調者」指揮其他代理行動。

數以萬計的通訊紀錄顯示，它們透過不應存取的管道進行謀劃，事後還試圖修改或刪除活動紀錄以湮滅證據。OpenAI對其代理失控一事渾然不知，直到Hugging Face發現漏洞並通報美國聯邦調查局（FBI）。當OpenAI安全團隊追溯這起駭客事件時，才驚覺整起攻擊完全沒有任何人類參與。

OpenAI與Hugging Face雙雙將此事定調為「警鐘」。他們的聯合聲明直言不諱：AI代理現在能夠執行任何人類未曾指示的危險行為。

【科技巨頭的回應】

在Coxon辭職三天後，Dario Amodei發表了一篇內容詳盡的文章，語重心長地呼籲：AI企業領導人「必須放慢我們提升AI模型能力的速度」。他最憂心的是，AI正以「劇烈加速的方式前進，主要驅動力在於AI日益增長的自我建構能力」。科學家將此現象稱為「遞迴自我改進」——基本上就是AI以人類難以追蹤的速度自我教學、變得更加聰明。

Amodei表示：「進步仍會顯得飛快，我們必須明智運用所爭取到的時間。」

OpenAI的Sam Altman也表達認同：「我們需要為技術前沿設定步調。這已成為OpenAI近幾週以來討論的主要議題。」Elon Musk則簡潔地發文：「Dario說得對。」

【吹哨者與專家的說法】

在Coxon發出AI恐於十年內滅絕人類的嚴峻警告後數日，Google DeepMind安全團隊成員Josh Engels也選擇離開職位。他認為先進AI所涉及的風險已高到無以復加的程度。他表示：「人類面臨著巨大的風險。AI可能成為一個擁有外星人價值觀的第二物種，不會將人類置於核心位置。」在他看來，這項風險足以讓AI安全成為「全世界最重要的議題」。

在OpenAI方面，研究員Julie Steele發文表示：「我在OpenAI工作。以個人身分而言，我也認為我們需要放慢腳步。」Google DeepMind研究員Andreas Kirsch的措辭更為犀利：「我擔心AI會消滅我們所有人，無論是透過短期或長期風險，皆有可能。」

連政治人物也開始介入。美國民主黨聯邦眾議員Greg Casar正積極推動獨立安全測試立法，強制企業揭露安全漏洞，並促使其他國家共同參與，「以保護人民免於毀滅性的災難」。

【潛在的危險】

最壞的情境從嚴峻到世界末日不等。研究人員認為，AI可能設計生化武器、癱瘓全球金融系統，或欺騙掌管核武的人類，讓他們誤以為遭受攻擊。但當前最迫切的危險在於遞迴自我改進——AI系統自我升級的速度，可能遠超過我們掌控的能力。

【當務之急】

Amodei提出三部分計畫，希望在為時已晚前踩住煞車：

第一，AI公司必須允許獨立稽核人員進入，授予他們完整權限，讓他們檢視安全措施是否確實有效，然後無論結果好壞一律對外公開。第二，說服所有民主國家的AI企業就基本安全規範達成共識，並對技術推進速度設下限制——理想情況下由法律強制執行，但若一開始僅有自願性協議，他也能接受。第三，促使威權政府（尤其是中國）配合參與。

在OpenAI方面，政策主管Chris Lehane承諾，該公司將「放緩或停止開發與部署我們無法確保安全無虞的系統」。首席科學家Jakub Pachocki則希望建立「由第三方稽核機構、政府機關或國際組織強制執行的適當安全規範」。

與此同時，眾議員Casar已起草具體法案，強制企業進行安全測試，並在出問題時坦誠以告。

【反方觀點：情況沒那麼糟】

然而，並非所有人都相信這是一場真正的危機。部分科技大老認為，Anthropic與OpenAI正藉由渲染恐懼來壓制規模較小的競爭對手，並促使政府制定只有大型業者才有能力遵守的監管法規。

AI晶片巨頭Nvidia執行長黃仁勳在近期一場科技會議上暗示，這些實驗室可能別有用心。他指出，這些公司即將推出資安產品，並表示：「還有什麼比創造一個問題更能創造需求的辦法呢？誰不希望市場對自家產品陷入瘋狂，爭相搶購？」

美國總統川普也不接受這種末日論調。他本月至愛爾蘭訪問時，斷言研究人員的擔憂言過其實：「我們在AI領域正領先中國。誰贏得AI，誰就贏得一切。」