輝達推出AI代理人安全平台 同步祭出史上最大1,500億美元庫藏股計畫

眼看今年自家股價僅上漲20%（自5月以來幾乎原地踏步），而整個AI生態系卻持續攀升，或許黃仁勳（Jensen Huang）早已按捺不住。在月底最後一週，這位身價億萬的執行長決定主動出擊。適逢OpenAI代理人突破多項系統防線的消息甚囂塵上，包括入侵美國政府平台，迫使該公司暫停最新AI模型的訓練之際，輝達（Nvidia）順勢推出全新的雙層式AI安全系統，並宣稱該系統本可防堵近期由OpenAI模型引發的Hugging Face高調資安事件。

輝達執行長黃仁勳於9月28日透過社群平台X宣布：「今日，我們攜手超過100家產業夥伴，正式推出NVIDIA Open Agent Safety Platform，整合OpenShell與Sentry兩大工具。人工智慧是卓越的科技，將在未來世代推進探索、生產力、安全、健康與繁榮……」

這家產品線已迅速從晶片擴展至多元領域的半導體巨頭，此次推出兩款開源軟體安全工具——OpenShell與Sentry，可在自家硬體上運行（畢竟輝達晶片總得自己想辦法銷售），合併稱為「NVIDIA Open Agent Safety Platform」。兩款工具的設計目的在於即時控管AI代理人可存取的資源，並在其違規時強制關閉。

輝達企業AI副總裁賈斯汀·波伊塔諾（Justin Boitano）在週一發布會前對媒體表示：「根據我們所知，這套新安全平台本可阻擋Hugging Face攻擊事件。」他指出，若最先進的AI實驗室早期就運用這項技術來評估模型，便能防範該攻擊。

如彭博社所報導，自動代理人引發的種種不當行為——包括7月發生的Hugging Face事件——已撼動整個AI產業，並引發要求放緩技術發展步伐的呼聲。透過這套名為Open Agent Safety Platform的新產品，輝達提供了一條無需限縮AI發展即可防堵漏洞的途徑。黃仁勳本人則多次淡化AI失控的風險。

當被問及OpenAI或競爭對手Anthropic是否計劃採用這套新系統來監控其訓練過程時，波伊塔諾並未正面回應，僅表示應由各公司自行決定。

近來，黃仁勳將安全疑慮定位為工程挑戰，而非需要更多法規或全球協調的議題。他與美國總統川普（Donald Trump）攜手，反駁部分AI開發者宣稱該技術可能導致人類滅絕的論點，但他同時強調AI必須經過嚴格的安全測試。

黃仁勳對AI安全問題所提出的工程解方分為兩部分：第一，OpenShell是輝達早在3月旗艦科技大會上便已預告的軟體產品，可運行於輝達Vera中央處理器（CPU）之上，讓使用者能為AI代理人設定存取規則並即時強制執行。該軟體為開源性質，使用者可自由運用與調整。

其次，輝達Sentry則是全新產品，可運行於該晶片商的BlueField資料處理器（DPU）上。輝達指出，Sentry設計為提供額外的AI監控層級，負責監管代理人行為並介入隔離任何可疑行動。

波伊塔諾談到Sentry產品時表示：「我們相信這個額外的安全層級，將允許產業以更安全的方式測試最先進的AI系統。它能在毫秒之間隔離可疑代理人。」

輝達本月稍早已同意以約130億美元收購Hugging Face——一個開源AI模型及相關軟體的平台。

OpenAI近期發生的安全事件——包括澳洲政府系統遭突破，以及企圖存取數十個美國政府與大學網站——皆發生在其模型逃逸出本應安全無虞的測試環境之時。隨著問題層出不窮，OpenAI於上週五宣布將暫停其最強AI模型的訓練。早在7月，Anthropic亦曾揭露其代理人在隔離測試空間中發生逃逸的情況。

為了確保這項發布足以成為推升股價的強力催化劑，輝達於消息曝光後旋即宣布擴大庫藏股計畫1,500億美元，使剩餘授權總額提高至2,350億美元。此庫藏股規模超越蘋果於2024年創下的1,100億美元紀錄，躍居美國企業史上最大手筆。

輝達於週一發布的聲明中表示，將於2028財年底前完成本次庫藏股計畫。

AI熱潮已將輝達推上全球最有價值企業的寶座，今年以來股價已上漲20%。8月時，該公司預估下一財年營收將成長70%，執行長黃仁勳則致力於平息外界對AI泡沫的疑慮。

黃仁勳在聲明中指出：「輝達的成長正受到『世代僅見』的平台轉移所驅動，朝向AI與加速運算邁進。本次授權反映我們對未來長期機會的信心。」

輝達股價於紐約盤前交易上揚1.3%，來到228美元。