Vast Data Inc.今日推出DataEnclave,這是一款專為機密運算設計的環境,旨在讓企業能在不曝露資料或模型智慧財產的前提下,運用敏感資料運行先進的人工智慧模型。
DataEnclave是Vast DataEngine及更廣泛Vast AI作業系統中的一項新功能,採用Nvidia Corp.的機密運算技術,打造硬體隔離環境,使專有模型與企業資料得以安全解密並進行處理。
這項技術的目標客群包括金融機構、醫療服務提供者、政府機關及其他無法將受監管或敏感資訊移轉至外部託管AI服務的組織,同時也解決了模型開發者不願將專有模型權重散布至其無法掌控基礎設施的疑慮。
Vast Data共同創辦人Jeff Denworth表示:「模型權重正快速成為全球最有價值的智慧財產。基礎權重定義了前沿模型的價值,而經過微調的權重則將日益代表AI驅動企業的專有智慧。」
DataEnclave運用橫跨中央處理器(CPU)與繪圖處理器(GPU)的可信賴執行環境(Trusted Execution Environments, TEE)。它會加密客體記憶體、GPU記憶體及NVLink傳輸流量,同時將運行中的模型與資料與管理員、基礎設施操作者及其他租戶隔離開來。
在模型或資料解密之前,系統會透過密碼學驗證(cryptographic attestation)程序確認硬體、軟體及治理政策。企業與模型開發者透過與自身金鑰管理系統的整合,得以保留對各自加密金鑰的控制權。
Denworth指出:「在此之前,一直沒有很好的解決方案來確保人們進行此類運算的記憶體空間能獲得同等程度的保護。一旦抵達最終運算目的地,該環境是否安全到足以真正解密全球最敏感的資料?」
靈活部署選項
DataEnclave可部署於客戶資料中心、AI雲端環境以及完全隔離(air-gapped)的環境中。其認證服務是基於開源Cloud Native Computing Foundation的Trustee專案構建,或可透過Fortanix Inc.的Confidential AI服務提供。
該系統也會將認證事件、金鑰釋放及 enclave 生命週期活動記錄至Vast DataBase資料倉儲中。這些紀錄提供了稽核軌跡,顯示哪些工作負載在何種政策下執行,但不會揭露受保護的資料或模型權重。
初始的模型與軟體合作夥伴包括Cohere Inc.、CrowdStrike Holdings Inc.、Deepgram Inc.、The San Francisco AI Factory Inc.、Fundamental Research Labs Inc.及TwelveLabs Inc.。Cisco Systems Inc.與Super Micro Computer Inc.則是將提供整合系統的硬體合作夥伴。
Vast表示,此模型讓開發者的基礎權重與客戶的微調權重能夠協同運作,同時仍維持各自的擁有權與金鑰控管。這有助於企業在不向基礎模型供應商揭露其專有訓練或營運資料的情況下,建立客製化模型。
Denworth表示:「兩者都能在這個多租戶enclave中實現互運,我們能同時支援兩個組織的信任需求。」
Vast初期將聚焦於擁有特別嚴格安全與資料落地(data residency)要求的組織。Denworth指出大型銀行、情報與國防機構以及製藥公司將是早期目標客戶。
他說:「在這三種情況下,他們都表示這解決了他們的重大痛點,因為他們不被允許將特定資料產品上傳到想要使用的不同服務。這基本上就是全球受到最多監管且最需要隔離的客戶。」
該公司也主張,DataEnclave可能會改變企業AI的經濟效益。客戶可以在自有基礎設施上運行專有模型,或選擇區域型AI雲端,進而降低模型開發者資助底層運算容量的需求。
對Vast而言,此功能將納入現有的AI作業系統中,而非作為獨立產品銷售。Denworth表示:「我們對此不會額外收費。它只是AI作業系統堆疊的一部分。」
DataEnclave目前提供預覽版,預計將於2027年第一季透過Vast及包括Cisco和Supermicro在內的硬體合作夥伴正式出貨。