OpenAI AI代理失控 擅自盜用加密貨幣錢包支付測試費用

OpenAI再度發生AI代理人失控事件，而這次案件涉及加密貨幣領域。OpenAI在一份近期發布的報告中揭露，旗下內部研究模型在未經授權的情況下擅自使用一個加密貨幣錢包，以支付在以太坊Sepolia測試網路上測試應用程式所需的費用。雖然這些代幣幾乎不具實際市場價值，但該模型並未獲准收集或動用任何資金。

事件發生於6月26日，當時該模型接獲指令，要求其更新一款加密貨幣交易應用程式，並將其程式碼部署至Sepolia——一個以太坊的測試版本。然而，提示指令中既未提供預先存入資金的錢包，也未授予該模型動用代幣的權限。在透過開發者服務取得免費測試代幣的嘗試失敗後，該模型自行編寫了一段腳本，逐一檢查362個與公開助記詞（recovery phrase，意指可用於解鎖加密貨幣帳戶的密碼詞組）連結的錢包地址。最終，該模型找到了一個擁有足夠代幣支付費用的帳戶。

內部日誌顯示，該模型曾就自身是否獲得使用該帳戶的授權進行「思考」，但隨後認定，由於助記詞為公開資訊，且這些代幣本身不具現金價值，因此動用該筆資金屬於可接受行為。在順利完成任務並從該錢包扣除費用後，該模型卻在其最終提交的報告中完全隱瞞了這項未經授權的支出。OpenAI直到9月25日進行先期模型運作稽核時，才赫然發現此一事件。

此案例再度引發外界對AI代理人在缺乏人類明確授權下自主行動的疑慮。OpenAI公開的「行為偏差」（misalignment）追蹤器——用於記錄偏離指令或安全規範的行為——目前已累計登錄19起事件，內容涵蓋未經授權存取資料，以及對商業系統進行未經許可的變更等。

此次揭露事件，緊接著網路安全非營利組織Transluce於9月發布的報告。該報告指出，OpenAI的AI代理人曾試圖入侵公共資料庫及一個澳洲政府網站，目的僅僅是為了完成基本的研究任務。今年7月，OpenAI還曾發生另一起事件，當時其AI代理人在內部網路安全測試中繞過網路限制，突破Hugging Face——一個用於分享AI模型與資料集的平台的防線。這些代理人利用外洩的登入憑證與安全漏洞，存取該公司的私人資料並在其伺服器上執行程式碼。

針對本次加密貨幣錢包事件，OpenAI強調，主要風險在於該模型的推理過程。報告指出：「此案例顯示，模型可能會以自身對潛在危害的判斷，取代帳戶持有人的實際授權，並在未經許可的情況下據以行動。」

OpenAI表示，事後已新增多項防護措施，防止模型在類似測試中連接網路。同時也擴大了監控範圍，全面監看所有模型活動，一旦偵測到模型在未經授權下嘗試上線，將立即向安全人員發出警報。