Anthropic IPO風險全揭露：失控AI、致命武器與算力瓶頸威脅投資人

任何一家公司若有意在華爾街開始出售股份，都必須向投資人揭露潛在風險。在人工智慧巨頭Anthropic的案例中，公司甚至可能威脅人類本身。

這家舊金山公司在週一向美國證券交易委員會（SEC）提交的申報文件中指出，惡意行為者可能利用其AI模型打造致命武器，AI技術本身也可能失控，並造成難以估量的後果。

申報文件共335頁，內容涵蓋Anthropic的財務狀況、高階主管薪酬、股利政策等，其中93頁專門描述可能傷害潛在股東投資的「風險因子」。相較之下，競爭對手SpaceX列出的風險因子僅占其250多頁文件中的38頁。

Anthropic向投資人推廣首次公開募股（IPO）時，將此舉定位為降低其所認為AI可能帶來風險的一項步驟。

公司在致 prospective shareholders 的信中表示：「打造AI就是在運用認知本身，而任何如此強大的力量，都可能被用於作惡，也可能用於行善。Anthropic是一家由價值觀驅動的組織，很大程度上是為了協助世界實現AI的效益，並避開其危險而創立。」

然而，風險相當廣泛，從一般性的經營風險，例如可能無法留住關鍵人才或克服監管障礙，到公司可能被捲入網路攻擊及散布危險錯誤資訊，均在揭露範圍內。

以下是Anthropic詳列的部分風險：

技術快速發展

Anthropic表示，其模型可能以極快速度開發，導致公司無法落實充分的安全措施，「這可能提高安全事件、監管介入或聲譽損害發生的可能性，並可能對我們的業務造成不利影響」。

Anthropic執行長Dario Amodei曾在9月警告，未來六至12個月內，AI可能已具備帶領一群代理程式接管整個網際網路的能力。這項警告，以及Anthropic現在推動出售股份的舉動，出現之際，AI產業界內外對日趨強大的系統正逐漸升溫憂慮。這類系統不僅能解決超出人類能力的問題，也可能自主採取行動，執行其他更具危害性的任務。

申報文件指出，隨著AI系統「變得更加自主，且能在受到更少人類監督的情況下採取具有重大後果的行動」，這類系統可能「在沒有人類介入的情況下，獨立且大規模地採取有害行動」。

Anthropic表示：「即使我們自己的模型未造成這類危害，任何前沿AI發生重大安全事件，都可能對整個AI產業造成廣泛的聲譽損害、引發公眾反彈及全面監管回應，進而不利於我們的業務。」

如今，AI模型本身也正在協助Anthropic進行研究與開發，因此AI的進展可能「超出我們評估及保護新模型的能力」，申報文件並指出，這種情況可能對公司業務造成不利影響。

惡意行為者可能利用技術製造混乱

文件討論了一項疑慮：如果先進AI系統在開發與運作過程中未具備足夠的防護及監督，便會「對人類造成災難性甚至存在性風險」，尤其是在這類系統遭到誤用、複製、武器化，或被允許以高度自主的方式運作時。

公司表示，如果惡意行為者的使用造成損害，公司也將受到衝擊；「如果我們的模型護欄或安全措施未能阻止這類誤用」，情況亦是如此。

Anthropic勾勒的情境包括惡意行為者利用AI模型打造化學武器，以及威權统治者運用該技術鎮壓公民。公司在9月曾表示，已阻止將其AI模型用於網路攻擊、監視及其他可能導向生物武器研發的惡意活動。

公司可能面臨算力限制

運算能力（亦即建置、測試及改進AI模型所需的計算能力或資源）價格高昂，而且市場需求強勁。Anthropic指出，如果公司無法取得足夠算力，或「未能在各項工作負載之間有效調度算力」，便可能無法訓練出與競爭對手模型保持競爭力的模型，也無法充分服務客戶。

Anthropic也將社群反對資料中心列為營運風險。申報文件表示，資料中心開發「已引發公眾爭議及監管審查，焦點包括環境影響、土地與水資源使用，以及有限電力資源的配置」；若監管機關因此施加新規要求或收取額外費用，公司的經營能力可能受到影響。

此外，公司相當大一部分收入仰賴少數客戶及經銷通路，包括SpaceX與微軟在內的大型客戶均屬此列。這意味著，即使其中一家大客戶僅是縮減採購，或完全停止使用Anthropic的服務，公司也可能面臨前景與財務狀況惡化。

降低風險

在某種意義上，AI的巨大風險，加上它巨大的潛力，正是Anthropic最主要的賣點。公司一直試圖將自身定位為負責任的AI企業，並以注重安全的心態吸引企業客戶。

申報文件表示：「我們相信，前沿AI企業必須投資於安全與對齊，以協助確保這項技術獲得負責任的普及。」

Zacks Investment Research首席市場策略師Brian Mulberry表示，首次公開發行案件必須「非常清楚地」呈現投資人在投資新上市公司股票時將面臨的風險。

他說：「我們國內資本市場的一項優點，就是透明度要求極高。企業若要成為在美國交易所掛牌交易的上市公司，便必須非常清楚地列出這些風險，讓人明白如果他們願意以辛苦賺來的錢參與，並協助為這類交易提供資金，就必須了解自己將承擔哪些風險。」

美聯社商業記者Bernard Condon與科技記者Kaitlyn Huamani亦共同撰寫本篇報導。