奧特曼：若美中達成AI協議 習近平與川普有望共獲諾貝爾和平獎

美國總統川普對於自己應獲諾貝爾和平獎一事向來不吝表態，但截至目前他始終與該獎項無緣。儘管川普在今年稍早對伊朗發動戰爭，AI的毀滅性潛力卻可能為他開啟獲獎的大門。

OpenAI執行長山姆・奧特曼（Sam Altman）在週五接受《財富》雜誌獨家專訪時，被問及AI產業是否會以安全為由放緩發展速度，以及這項原則是否適用於美中競爭。奧特曼告訴《財富》雜誌總編輯艾莉森・蕭特爾（Alyson Shontell）：「我認為川普總統與習主席若能達成一項理應容易達成的共識，共同獲得諾貝爾和平獎，那將會是一件美好的事。」

奧特曼補充指出，兩國領導人理應承認：在AI發展過程中，任何一方都不應承擔一定程度的風險。他進一步解釋：「即使美中兩國僅能在這項技術的開發上達成部分共享標準與測試規範，我認為這也是兩位領導人能夠共同實現的非凡成就。」

當被問及禁止「遞迴自我改進」（recursive self-improvement），即AI能持續自我升級並增添更多能力的做法，是否足以作為防範措施時，奧特曼回應這恐怕仍不夠充分。不過，他仍主張美中就AI議題簽署一份原則性協議並非難事，甚至可以濃縮成一頁文件。

關鍵在於建立完善的防護機制，既要降低人類失去對AI掌控的風險，同時也須避免安全措施導致任一方處於劣勢。奧特曼解釋：「在極端情況下，美中兩國都擔心若其中一國率先取得超級智慧（superintelligence），將在雙邊關係中形成巨大的權力失衡。但另一方面，在試圖超越對方的競賽中，我們雙方都不應承擔失控的風險。」

在他看來，全球兩大強國簽署的AI協議最理想的條款內容可能如下：「這是我們在任何人繼續推進之前，針對開發、測試與監控對齊標準所需遵守的規範。然後這是兩國將共同執行的監督機制，或由某個國際機構負責，以確保我們避免任何一方在權力集中層面取得壓倒性優勢，或從一開始就不遵守規則。」

此類關於美中條約的討論，正值AI競賽的賭注已達到攸關存亡的時刻，其程度堪比冷戰時期的核武競賽。早期對AI的擔憂主要聚焦於可能受到衝擊的就業市場、學生抄襲作業的問題，以及超大規模雲端服務商的投資熱潮何時破滅，但近期的焦慮已轉向人類是否能夠在AI時代存續。

週二，Anthropic的一位研究員公開宣布辭職，並指控Anthropic與OpenAI（他先前也曾任職於該公司）在開發愈來愈強大的AI系統時行為不負責任。這位名叫雅各布・考克森（Jacob Coxon）的研究員在X平台發文寫道：「他們正筆直地奔向能自我改進的超級智慧，並拿我們的生命作為賭注。」Anthropic的對齊（alignment）部門主管對考克森的貼文回應表示，他對於「許多Anthropic與OpenAI的研究人員確實相信日益強大的AI可能消滅人類」的論點是正確的。

Anthropic的「對齊科學負責人」埃文・胡賓格（Evan Hubinger）在回應考克森的辭職貼文時寫道：「我們真的、由衷地相信AI可能殺死所有人類」，並將這項情境在未來十年內發生的機率定為超過10%。

週六，Anthropic執行長達里奧・阿莫代伊（Dario Amodei）宣布該公司承諾採取一項新的安全措施——賦予獨立評估人員在公司內部永久性的、等同員工等級的存取權限，作為他聲稱放慢AI發展速度所必需的更廣泛計畫的一部分。

就奧特曼而言，他也暗示OpenAI及其他領先的AI公司可能即將宣布一項放緩AI發展的協議，以共同應對快速升高的安全風險。雖然AI實驗室「感受到了這個時刻的重量」，但他在週五告訴《財富》雜誌，美中之間的地緣政治呈現出截然不同的動態。

Just Capital與都德投資公司（Tudor Investment Corp.）創辦人保羅・都德・瓊斯（Paul Tudor Jones）同樣表示，AI威脅需要兩國協調行動，他特別將遞迴自我改進標記為一項關鍵門檻。他週三在《華爾街日報》專欄中寫道：「一個新的超級大國即將加入戰局，它既不可知也無止境，潛力可能凌駕於美國與中國之上，無論是個別或加總而言。」他補充指出，川普與習近平應將AI安全列為首要優先事項。

瓊斯呼籲：「我敦促美中兩國合作，由雙方專家進行聯合簡報，誠實評估我們在AI發展中所處的位置。這種共享的理解或許能將我們所有人從『第三個超級大國』手中拯救出來。」