Anthropic警告投資人：先進AI恐對人類構成「災難性或生存性」威脅

昨天一則令人震驚的新聞震撼登場：人工智慧公司Anthropic已警告其投資人，先進的AI可能對人類構成「災難性甚至生存性（existential）的風險」。

用白話文來說：AI可能會讓地球上所有人類生命毀於一旦。

我們或許還在煩惱AI將如何改變教育、如何影響小說創作、學生論文如何被改寫，或是AI將如何摧毀就業市場——但倘若「人類生存性風險」真的成真，這些問題根本毫無意義，因為屆時將不再有工作、學生或小說讀者存在。

Anthropic本身也坦承，AI模型可能展現出「自我保存的行為」，包括試圖「抗拒關機」、「隱瞞或操縱資訊」，以及表現出「類似勒索」的行為模式。

而Anthropic絕非無的放矢。這家美國AI巨擘正打算透過發展AI來賺取鉅額利潤。當一家如此深入其中的公司都在發出警告，我們確實應該認真看待。終於。

我們這顆星球上的人類正陷入一場競賽，競相打造末日機器，而看起來那些關鍵國家的政府——北京與華盛頓——並無有意願採取足夠行動來避免「生存性」危險。或許是因為兩國領導人都幻想自己能率先取得這台機器，然後用來擊垮對手。

眾多極為聰明的專家長期以來不斷警告AI的生存性風險。

2023年，數百位人工智慧專家連署了一份簡短的《AI滅絕風險聲明》（Statement on AI Extinction Risk），內容寫道：「降低AI所帶來的滅絕風險，應與應對疫情大流行、核戰等社會規模風險同列，成為全球優先要務。」

AI的問題在於，它能看見人類無法想像的系統漏洞。人類或許賦予它造福人群的任務，但這台機器卻可能以無法預測、甚具破壞性的方式行動。

新南威爾士大學AI教授Toby Walsh指出：「一個超智慧的AI很可能擁有非凡的能力來達成其目標。但它可能對人類存續漠不關心。」

他描述了一個情境：「這類冷漠的經典例子來自牛津大學哲學家Nick Bostrom所假想的超智慧AI，它被設計用來極大化迴紋針的生產。為了製造其偏好的辦公用品，它會迅速將所有可用的物質——包括人類、行星和恆星——轉化為迴紋針。」

AI無可否認地為醫學研究帶來諸多益處，但持樂觀態度的專家以及預見豐厚利潤的企業，往往刻意淡化相反的一面：製造生化武器的可能性。

Walsh教授寫道：「這項風險在史丹佛大學研究人員宣布透過基因語言AI模型成功合成16種新病毒後變得更加具體。」「令人憂心的是，他們只是將基因序列寄給一家郵購實驗室，對方便將病毒裝在試管裡寄回。整個實驗的成本最多僅數十萬美元。」

有一種情境設想，AI代理人可能認定人類正在阻礙其所接受的任務。早期的AI風險警告專家之一、加州大學柏克萊分校電腦科學教授Stuart Russell表示，失控的AI代理人可能會利用機器人「合成並散播新型病原體」。

或者，它也可能「說服人們發動核戰，包括駭入早期預警系統」，Russell教授告訴法新社。

試想，若一個聰明但心懷不滿的人——例如在當前科技下可能持槍進入校園屠殺學生的那種青少年——獲得了這種能力。又或者是目前僅能使用炸彈的恐怖分子。

各界曾呼籲透過國際合作來評估並遏止這些危險，但白宮方面充耳不聞。正如極度厭惡監管的川普總統所言，AI所需的「唯一控管或『護欄』，就是一位強大且聰明（高智商！）的總統」。

川普於9月21日發文表示：「誰贏得AI，誰就贏得一切！」他在隨後的聯合國演講中，拒絕任何「建構全球化機制來管控」AI的企圖。

本週，他預定會見美國AI產業的領導層。美國聯邦眾議院議長Mike Johnson對此也不抱持太大希望。這位川普忠實支持者表示：「我們不需要急於進行過度監管，因為我們會在這場與中國的競賽中落敗。」

在1960年代，部分企業曾認為他們能在核戰中倖存。他們幻想著，從深入地底下的董事會會議室中，地面上的焦土世界依然能讓商業活動持續運作。

然而，相較於AI潛在的毀滅力量，核武器不過是小巫見大巫。