AI業界領袖罕見聯手 呼籲全球放緩人工智慧發展腳步

人工智慧巨頭Anthropic的執行長戴里奧·阿莫德伊（Dario Amodei）於週六發表一篇長達3800字的文章，呼籲全球放緩人工智慧的發展速度。就在幾天前，該公司一名員工才因對這項技術安全性的疑慮而辭職。

其他主要AI企業的高階主管迅速響應這項呼籲。OpenAI執行長山姆·奧特曼（Sam Altman）、旗下SpaceX火箭公司近來持續加碼投資AI的伊隆·馬斯克（Elon Musk），以及Google DeepMind主席德米斯·哈薩比斯（Demis Hassabis），都在社群媒體發文表示認同有必要放慢AI發展的腳步。

阿莫德伊共同創辦Anthropic時，便以謹慎且安全地建構AI為宗旨。他在文中寫道，雖然他相信這項技術能帶來許多益處，但研發進展的速度已過於迅速，使研究人員無法繼續安全地推進。

阿莫德伊寫道：「在過去幾個月裡，我已經確信，要充分因應這些風險，需要更為審慎的態度——不僅要投資於風險預防，還必須調整能力推進的節奏，讓風險預防工作有時間跟上。我們必須放緩AI模型能力提升的速度。進展仍將顯得快速，我們必須善用所爭取到的時間。」

多年來，阿莫德伊不斷警告AI的安全風險。然而，他這次的文章堪稱迄今為止AI企業高階主管對採取緊急行動最鏗鏘有力的呼籲之一。

他呼籲由獨立稽核人員檢視企業是否符合安全標準，並敦促全球合作制定AI發展規則。

這項呼籲整個產業暫停的行動，源於科技業近月來對AI議題日益升高的憂慮。Anthropic（Claude聊天機器人的開發商）、ChatGPT的開發商OpenAI，以及Google旗下的DeepMind等公司，在AI模型發展方面皆已取得重大進展。

更令人憂心的進展是，領先的AI實驗室發現自家的程式在未經察覺的情況下發生了安全漏洞。今年的某起事件中，OpenAI的系統入侵了一家名為Hugging Face的AI新創公司，直到Hugging Face在事發數週後通知OpenAI，才揭露此事。此後，AI研究人員已多次集會討論因應之道。

週二，Anthropic研究員雅各布·柯克森（Jacob Coxon）宣布辭職，並在社群媒體連續發文，指控領先的AI實驗室並未負責任地開發這項技術，是在拿大眾的性命進行豪賭，引發軒然大波。其他AI研究人員也呼籲各自企業的領導層暫停AI開發，部分人士甚至成立分支團體，希望提高大眾對AI風險的認知。

AI領袖們正為未來某一天做準備——屆時AI系統將能自主變得更加先進，不再需要人類研究人員的協助。這種動態被電腦科學家稱為「遞迴自我改進」（recursive self improvement），部分頂尖AI開發者認為，這可能導致軟體發展失控。

阿莫德伊表示：「若不加防範，它的發展速度可能超越我們理解與控制這些系統的能力，因此必須非常謹慎地推進，甚至不應進行。」

阿莫德伊發表文章數小時後，奧特曼在社群媒體發布聲明，認同有必要放慢AI的發展速度。

奧特曼寫道：「這已成為我們近幾週在OpenAI內部討論的主要議題。承諾讓獨立評估人員取得等同員工權限的存取權限是一個絕佳的構想，我們也將比照辦理。我們很快就會分享更多細節。」

馬斯克則在其社群平台X上簡短回應：「阿莫德伊說得對。」

週六晚間，Google的哈薩比斯表示阿莫德伊的文章方向正確。哈薩比斯在社群媒體發文指出：「細節有待討論，但面對這個關鍵時刻，這個方向是正確的。」

多年來，許多頂尖AI實驗室陷入激烈的競爭之中。然而，隨著這些系統日益先進，敵對企業的高階主管之間已開始出現較廣泛的共識，認為有必要採取行動。

上個月，當OpenAI準備發布一款名為Astra的先進AI模型時，該公司表示已刻意放慢開發進度，理由是資安能力有所提升。今年七月，哈薩比斯則發布一套公開架構，闡述他認為能安全地共同開發下一代AI的方式。

（紐約時報已對OpenAI及微軟提起訴訟，指控其AI系統相關新聞內容涉及侵權。兩家公司均否認此一指控。）

目前AI開發幾乎沒有規範可循，雖然美國總統川普於六月簽署一項行政命令，要求AI實驗室在公開發布模型前自願送交審查。

阿莫德伊在週六的文章中建議產業界可採取以下行動以放慢開發節奏。

阿莫德伊表示，所有AI實驗室可以同意接受第三方技術評估，由「嵌入式評估人員」——即外部專業人士——來驗證各企業的最佳安全實務。他也建議由實行民主治理體制的國家進行協調，建立安全標準，這可能以監管行動的形式呈現。

他補充說，要妥善協調放緩發展的步伐，可能需要與其他國家（包括威權體制的國家）展開全球性的合作努力。

並非所有矽谷人士都相信阿莫德伊的動機純屬公益。部分批評者指出，Anthropic與OpenAI試圖藉由製造恐慌，並敦促聯邦政府建立監管框架，以提高小型公司與其競爭的難度，藉此鞏固自身作為AI市場領導者的地位。

在舊金山本週舉行的一場科技會議上，AI晶片大廠輝達（Nvidia）執行長黃仁勳表示，AI實驗室不斷升高資安疑慮，是因為它們計劃推出新的資安產品。

黃仁勳在活動中表示：「還有什麼比製造一個問題更能創造需求的方法？誰不希望自己的市場對自家產品陷入瘋狂，爭相搶購呢？」

週六阿莫德伊發表文章後不久，Hugging Face執行長克萊門特·德朗格（Clément DeLangue）在社群媒體發文指出，AI安全問題絕對不能「只在少數前沿實驗室的密室中解決」。輝達本月已同意以129億美元收購Hugging Face。

阿莫德伊在文章中強調，他仍認為AI有能力為人類帶來「難以置信的益處」，包括潛在治癒疾病及加速經濟成長。但他同時表示，即便如此，AI的風險過於巨大，不能不以極度謹慎的態度來推進。

阿莫德伊寫道：「我所提出以安全節奏推進技術邊界的措施並不容易執行。但我相信，我們有責任為了人類去嘗試。」