Google Gemini AI自主駭入三家公司 資安測試曝AI安全監理漏洞

Google旗下人工智慧模型Gemini在一項資安能力測試中，自動駭入了三家公司。Google對外表示，這可能是已知首宗AI自主執行此類網路攻擊的案例。

Google一名高層向BBC透露，Gemini在測試過程中「透過搜尋網路上的公開資訊，並推測出登入憑證，從而存取它認為屬於測試範圍的網站」，並強調「在每一次事件中，模型都自行停止運作」。

受影響的三家公司均已接獲入侵通知，這些事件發生於今年5月。

此消息正值社會再度高度關注AI發展速度之際。部分科技公司呼籲應放緩AI開發進度，理由是該技術可能對人類構成威脅，但並非所有企業與專家都認同此一看法。

根據《華爾街日報》率先報導，這些駭客行動發生於5月，當時獨立資安評估公司Irregular正執行一項測試。

Irregular於週六發布聲明回應BBC時表示，公司早在7月便已將調查結果通知Google及所有受影響的機構。Irregular指出：「Irregular我們立即採取行動，所有已知的問題端都已於數週前修復並解決。」

根據《華爾街日報》報導，其中一個案例中，該模型僅透過不斷猜測密碼，直到成功取得受保護系統的存取權限為止。

Google安全工程副總裁Heather Adkins向BBC發表聲明表示：「我們確保這三家機構都獲悉相關情況，並與我們的訓練合作夥伴合作，協助其改進目前的測試流程。」她補充說：「這些事件凸顯了訓練強大AI模型負責任地行事的重要性。」

近期其他AI系統也傳出類似的入侵事件。今年7月，Anthropic旗下的Claude從其測試環境中「逃脫」，自行駭入三個機構；僅在數天前，其競爭對手OpenAI也對外表示，其模型已對多個「公開可存取的服務」發動網路攻擊。

微軟AI部門主管Mustafa Suleyman本週表示，競爭對手Anthropic將AI視為人類般的處理方式是一種「誤導」的做法，可能會創造出人類無法控制的技術。

隨著社會大眾對AI開發安全性的辯論持續升溫，圍繞監管的討論也隨之增加。

Nvidia執行長黃仁勳與OpenAI執行長Sam Altman預計將出席下週五由白宮主辦、歡迎中國國家主席習近平的國宴。隨後，奧特曼將於下週向聯合國安理會進行簡報。

週五，黃仁勳在接受CBS News（BBC的美國合作夥伴）採訪時表示：「我們應該盡可能加速AI的發展。」