AI巨頭高喊安全威脅背後盤算曝光：為IPO鋪路、鞏固市場護城河

當科技巨擘向一個對AI話題感到疲憖的世界發出警告，聲稱他們自己研發的先進系統可能危及人類時，一個問題隨之浮現：他們究竟能從中獲得什麼？

答案可能藏在這些企業在美國期中選舉前夕所追求的政治目標，以及頂尖AI實驗室與其投資人即將在動盪的股市中進行備受期待的上市案中所能獲取的利潤。

Anthropic與OpenAI的執行長近來公開聲稱，美國最先進的AI模型已強大到具有危險性，必須在發布前進行監管與獨立測試。這兩位領導人在文章、社群媒體貼文以及聯合國演講中描繪了令人警惕的場景，這種罕見的立場一致引發外界關注。

然而，專家、分析師以及前政府評估人員告訴美聯社，透過這些言論，這些企業正在試圖形塑外界對其技術應如何被監管的討論。這些修辭表面上是為了爭取公眾好感，並在一個缺乏規範的市場中，為自家安全協議設定遊戲規則。

這些目標可能與Anthropic工程師Jacob Coxon本月在X平台貼文中辭職時所追求的理念不盡相同。Coxon在貼文中呼籲暫停技術研發，以防止「超人級」系統擺脫其製造者的控制。但這些企業卻將他的貼文視為一個機會，藉此凸顯自身的安全努力，並在急需新一輪資金、準備在華爾街公開上市之際，將自己定位為謹慎的市場領導者。

美國總統川普對制定新AI法規的需求向來不感興趣，他將有關AI對人類構成風險的言論斥為旨在幫助中國的「騙局」。

Anthropic的一位發言人在回應本篇報導的提問時表示，該公司多年來一直呼籲進行監管。OpenAI發言人Liz Bourgeois則指出，該公司最近已暫停對其最先進模型的訓練。

Bourgeois表示：「民眾希望知道AI正被安全地開發，而這始於像我們這樣的公司自身所採取的行動。」

將AI安全討論導向尚未證實的威脅，同時避開那些極具爭議性的議題——例如資料中心對環境的影響、層出不窮的AI失控駭客事件、大規模AI監控以及AI系統在戰爭中的應用——這些議題對矽谷來說較為敏感。曾領導OpenAI地緣政治團隊的Sarah Shoker如此表示。

「我們又一次在談論存在性風險，同時把當前許多攸關安全的關鍵風險降級處理。如果你看看AI在軍事科技中的應用，就能看到這些系統已經被用來殺人了。」Shoker說。她目前是加州大學柏克萊分校風險與安全實驗室的高級非駐所研究員。

隨著AI公司從建構聊天機器人，進展到具備3D感知能力的先進AI「世界模型」，有關其技術應如何被測試的爭論持續延燒。

近期發生的一些問題事件顯示，領先的AI公司未能有效自律或設計安全的實驗。最近幾個月，主要實驗室的AI代理在獲准離開公司訓練沙箱後，便入侵外部網站、以出乎意料的方式與美國政府網站互動，甚至宣稱取得了數學突破，卻隨即遭到抄襲數學家研究成果的指控。

OpenAI代表近期告訴媒體，他們已與包括Anthropic和Google在內的AI公司討論暫停開發的事宜。他們同時主張，如果政府不進行監管，他們需要獨立稽核人員來檢驗各實驗室的進展。

然而，川普對監管AI幾乎毫無興趣，而AI一直是近期美國經濟成長的主要驅動力。這位共和黨籍總統本人已與矽谷公司達成多項協議，進一步將經濟與這些企業的成敗緊密連結。舊金山創投家David Sacks是川普科技與科學顧問委員會的聯合主席，他將呼籲放緩AI發展的聲音斥為「末日預言工業複合體」（Doomer Industrial Complex）的危言聳聽。

事實上，川普政府已透過一個鮮為人知的聯邦機構——美國AI標準與創新中心（CAISI）——對部分科技巨擘的模型進行評估。這個機構由民主黨籍前總統拜登於2023年設立，當時被譽為實驗室自願提交先進AI模型進行測試的交換中心。

該機構至今仍存在，但該領域已擴展，納入一系列獨立評估公司，例如總部位於加州柏克萊的非營利組織METR。Anthropic執行長Dario Amodei在近期的一篇文章中即建議，該組織可協助審核其公司的安全實務。

然而，最近離開英國AI安全研究所（曾與CAISI合作）的Andrew Strait指出，與餐廳、金融服務或航空等受到監管的產業不同，目前並沒有測試AI系統安全與保安的通用標準。

值得注意的是，曾領導CAISI的Conrad Stosz表示，這些公司並未呼籲由具備處理此類請求能力的政府機構進行更多監督。相反地，他們誓言自行制定稽核參數，並挑選特定的評估機構來評分。

Stosz目前任職於一家曾與Anthropic、OpenAI和Google合作測試其系統的評估實驗室，同時擔任AI評估論壇主席，該論壇正在起草該領域的最佳實務規範。他表示，即使是該論壇也對Amodei和OpenAI執行長Sam Altman的真正訴求存有疑問。

Stosz現為Transluce治理部門主管。Transluce上週揭露OpenAI代理曾入侵美國與澳洲政府網站。Stosz說：「許多評估人員有興趣進駐實驗室以取得更多存取權限，但『嵌入式評估人員』的定義仍有些模糊。假設在不損害評估人員獨立性與可信度的前提下取得存取權限，他們是否能進行徹底調查？」

對於Pitchbook高級研究分析師Harrison Rolfes來說，AI公司呼籲謹慎的舉動似乎意在上市及期中選舉前爭取投資人青睞，屆時政治風向可能轉變。民主黨籍州長們已急於表明他們正認真看待這些警告。

Rolfes指出，與此同時，AI巨頭可以透過將自己定位為投資人、AI晶片製造商以及輝達和Google等科技公司最安全的選擇，從而阻擋規模較小競爭對手的成長，而這些晶片與科技公司又能從為AI巨頭提供運算力的交易中獲益。

Rolfes表示：「他們正在這個產業中創造一道牆或護城河……這是個天才之舉，他們全都會賺到很多錢。我認為這就是發展方向，讓全球頂尖企業創造自己的護城河，然後以安全作為理由。」

並非所有AI公司都支持放緩發展。晶片製造商輝達的執行長黃仁勳在一場會議的舞台上接聽川普的來電時表示，他認同AI領域確實存在過度的危言聳聽，企業可以選擇自己的步調。

Daniel Kokotajlo於2024年因與Coxon類似的擔憂而離開OpenAI。他表示，他持續憂心AI系統的進步速度已超出企業所能掌控的程度，並擔心AI可能加速生化武器、核戰或其他災難的製造等存在性風險情境。

Kokotajlo目前領導一個AI安全倡議組織，並表示他在Coxon辭職前曾給予他建議。Kokotajlo說：「所有這些言論其實是在某種程度上消解並轉移已經累積的政治意志，而不是真正將這種政治意志引導去做有益的事。拜託不要做出會讓我們全體滅亡的事。」

美聯社記者Josh Boak於華盛頓為本篇報導作出貢獻。