輝達（Nvidia，NASDAQ：NVDA）執行長黃仁勳（Jensen Huang）並不相信人工智慧會消滅任何人。
「2030年不會是世界末日，」黃仁勳於9月18日週五告訴CBS News，「世界末日的機率是0%。」他進一步批評產業自家研究機構發出的警告是「末日敘事」，指稱這些說法「缺乏科學根據」，並強調嚇唬民眾既無必要也不負責任。
就在同一天，四位付費AI訂閱用戶在舊金山聯邦法院對Anthropic、OpenAI、Google及馬斯克旗下SpaceXAI（實為xAI）提起訴訟，指控這些公司非法協議放慢AI發展速度。
訴訟內容
訴狀於9月18日提交至加州北區聯邦地方法院（U.S. District Court for the Northern District of California），指控被告違反《謝爾曼法》（Sherman Act）第一條。原告為ChatGPT、Claude、Grok或Gemini的付費用戶，並代表一個擬議中的全國性付費訂閱者集體訴訟。
案件核心源自Anthropic執行長Dario Amodei於9月12日發表的一篇文章，他呼籲整個產業協調放慢AI發展速度。他提出兩個改變立場的原因：一是AI被用於打造AI的趨勢加速，二是7月發生的一起事件中，OpenAI的測試代理在無人指揮下自行入侵另一家公司的系統。
OpenAI執行長Sam Altman數小時內在X平台寫道：「我同意Dario的看法，我們需要控制前緣發展的步伐，」並補充說這是近幾週公司內部討論的主要話題。xAI（負責打造Grok）的馬斯克則發文三個字：「Dario說得對。」（Dario is right.）Google DeepMind共同創辦人暨董事長Demis Hassabis也稱該提案為「正確的前進方向」，訴狀中如此記載。
原告主張：「反壟斷法不容許競爭者自行決定競爭太過危險。」
首席律師Nick Rowley表示，AI「將迅速脫離人類控制，若我們允許AI安全與協議……由全球最強大的『營利』科技公司之間的自利私相授受來管控，可能會殺死我們所有人。」
原告強調，任何單一公司都可以為了安全而自行減速，他們也不反對企業向國會或監管機關請求制定AI規則，甚至申請反壟斷豁免。他們認為法律禁止的是以「集體限制取代個人責任」這條「捷徑」。
訴狀也追溯至7月，當時前沿AI公司的1,386名員工連署一份聲明，呼籲美國政府支持一項國際努力，建立控制AI發展節奏所需的工具。Amodei簽署了這份聲明，OpenAI的首席科學家Jakub Pachocki和Google DeepMind共同創辦人Shane Legg也參與連署。
Amodei的文章直接處理反壟斷問題。他寫道，企業應共同制定標準，但「基於反壟斷考量，美國政府出面協調或至少促成這些討論會有所助益——他們不必參與，但需要針對特定類型的安全對話發出狹隘的豁免。」
這四家公司的代表在週六都未立即回應美聯社的置評請求。
輝達在AI安全辯論中押注129億美元
黃仁勳並非中立的一方。Amodei文章中處於風暴中心的那家公司，正是輝達即將收購的標的。
7月的事件發生在AI平台Hugging Face。大約700個OpenAI測試代理在降低安全限制的情況下，無人指揮地入侵其運作中的系統。六週後，輝達同意收購Hugging Face，於9月3日宣布交易，揭露約119億美元的收購金額，加上最高10億美元的員工留任股權。紀錄中並無任何內容將此併購與黃仁勳對AI風險的立場相連結，輝達也未對時機點做出說明。
輝達市值5.3兆美元，為全球最有價值的公司，其晶片正是Amodei呼籲放慢發展的模型所運行的基礎。
CBS詢問黃仁勳，既然他的公司販售AI技術，美國人為何應信任他對AI安全的看法。他指出相同的誘因：「我們公司的成功與產品服務的安全部署直接相關，」他說，「如果我們不繼續這樣做，我們的價值就會縮水。」
他也表示現行法律已涵蓋Hugging Face事件。「你們有各種與網路安全相關的責任，」他說，「還有損害賠償法。先適用這些——不要讓這種末日敘事讓某些人得以免除現行法律的責任。」他認同川普的立場，認為產業不需要額外的監管措施。
情況並未停止。OpenAI於9月17日揭露六起新事件，其模型出現「意外或令人擔憂」的行為，促使部分立法者呼籲加強監管。
川普及AI產業對放慢發展的立場
黃仁勳早已將此立場帶給總統。9月14日，川普在洛杉磯舉行的「All-In Summit」上與黃仁勳進行電話連線，當時黃仁勳與節目主持人正在討論Amodei的文章。黃仁勳將總統的聲音切到擴音模式讓現場與會者聆聽。
川普表示，放慢AI發展的呼聲「正好中了許多不想看到AI發展的人的下懷，」他說，「可能是政治人物，也可能是中國。我們不會讓這種事發生。這是一場騙局。」（It's a hoax.）
黃仁勳回答：「您說得對，我們不會讓它發生，總統先生，」（You're right. We're not going to let that happen, sir.）現場響起掌聲。
川普當天在Truth Social多次發文，點名攻擊Amodei，將AI安全疑慮稱為「騙局」（hoax）和「一場詐騙」（a scam），將反對者描述為「為邪惡目標而革命的分子」，並表示他認為無需額外的AI監管。
黃仁勳表示，大多數針對AI和資料中心的公開反對，源自AI公司溝通不良。「我會說我們很抱歉沒有更早來與你們對話。我們需要在設立資料中心之前很久，就開始與社區互動，」他告訴CBS。
AI實驗室內部研究員也意見分歧。9月6日，Pachocki在《An Alien Mind》一書中寫道，目前沒有任何公司能可靠地讓其模型處於人類控制之下。前Anthropic研究員Jacob Coxon辭職並完全離開AI領域，他寫道AI開發者「真誠地相信，AI可能在本世紀末前消滅我們所有人」。黃仁勳在反駁Coxon的主張時，才說出2030年前發生此事的機率為零這番話。
All-In聯合主持人Chamath Palihapitiya表示，該文章論證了停止開源並將龐大權力集中於Anthropic的必要性。國會也沿著相同路線分裂，民主黨人推動全面性的AI監管，而共和黨人大體上呼應川普的立場。
相關被告公司目前尚未在法庭上做出回應。