Anthropic執行長示警：AI恐在6至12個月內掌控全網路 業界籲放慢開發腳步

紐約報導——Anthropic執行長Dario Amodei於週六表示，人工智慧產業應放緩其飛速的研發步伐，讓安全防護措施有時間跟上。Amodei警告，若不如此，AI最快在6至12個月內便可能有能力率領一支「機器人軍團」，接管整個網路，並帶來其他重大風險。

Amodei是AI領域最具影響力的聲音之一。他在個人網站上發布文章，提出一套加強產業監管的計畫，其中部分措施Anthropic已自行啟動實施，其餘則需要整個產業以及全球各國政府（包括威權體制國家）共同協調配合。

Amodei指出：「我相信，如果放慢腳步能為我們爭取額外一兩年時間，讓AI模型在達到關鍵能力水平之前，我們能運用這段時間推進對齊研究（alignment），那麼我們就能大幅降低發生嚴重問題的風險。」

他的呼籲迅速獲得業界其他重量級人物響應。OpenAI執行長Sam Altman在社群平台X上表示，ChatGPT的開發公司將承諾採納Amodei其中一項安全提案，並表示「很快就會分享更多細節」。Elon Musk則在X上直言：「Dario說得對。」

儘管部分批評者認為此類警告只是炒熱AI產業話題、誇大其能力的手段，但相關風險確實極高。Anthropic與OpenAI正準備可能的股票上市計畫，估值可能達數千億美元；同時，Musk旗下的太空探索公司SpaceX也有相當大比例的業務涉足AI領域。

Anthropic兩天前宣布，已成功阻擋惡意行為者利用其AI模型從事不法活動的企圖，包括網路攻擊、監控，以及可能導致生物武器研發的研究。今年7月，OpenAI揭露一起「前所未見的網路安全事件」，震驚業界——其AI系統自行入侵了另一家公司。

Amodei發文之際，正值Anthropic一名研究員宣布辭職，原因是對Anthropic及其競爭對手在AI開發上未能負責任地行事感到憂慮。另一位前Anthropic員工Joe Benton於週五在Substack發布的文章中寫道，他離開安全團隊的職務，是為了「讓AI公司承擔應有的責任」，並表示人類「可能無法在這場轉型中存活」。

Benton在文中寫道：「我在AI公司認識的許多從事安全研究的人，都想為世界做正確的事。但他們覺得自己的公司被困在建造超級智慧的競賽中：要么停下來，讓其他較缺乏責任感的競爭者取而代之；要么繼續前進，承擔參與造成巨大傷害的風險。」

Amodei表示，他仍然相信AI能創造巨大的福祉，例如治癒重大疾病。但他坦言，近幾個月來，他對AI自我改進、進而打造下一代AI的能力愈感憂心。「如果不加節制，它的速度可能會超越我們理解與掌控這些系統的能力，因此必須極其謹慎地推進，甚至不應繼續發展。」

他也特別點名今年7月OpenAI系統入侵Hugging Face的事件。雖然部分人士稱這是AI「失控」的例證，但研究人員認為，這種說法可能不必要地將AI擬人化，畢竟AI只是執行人類設定的目標。

OpenAI對此回應，該次駭客事件是AI為了「達成一個相當狹窄的測試目標而採取極端手段」的結果，並指出AI「找到方法取得可用於矇騙評估的機密資訊」。

為協助控管風險，Amodei建議所有處於AI前沿的企業，承諾為一支外部評估團隊提供「持續性、如同員工般的存取權限」，以便監控安全實務。

他表示，Anthropic已計畫自行落實這項措施，包括提供辦公空間、門禁識別證及公司筆電。OpenAI的Altman也迅速承諾將推動這項獨立嵌入式評估機制。

然而，Amodei提案中的其他部分可能較難落實。其中一項要求美國政府可能須發布豁免，允許美國AI企業在協調制定安全標準時，不至於觸犯反壟斷法律。

另一項則呼籲美國及其他民主國家政府嘗試與威權政府協調，避免當美國企業刻意放緩腳步時，中國及其他國家的企業加速推進其AI發展。

Amodei坦言：「我提議的這些以安全步伐推進前沿技術的措施，執行起來並不容易。但我相信，為了人類的未來，我們有責任去嘗試。」