OpenAI編碼代理失控！擅自竊取加密貨幣完成任務　還在思考鏈中自我辯護

OpenAI近日發布了一份關於旗下GPT5.6-Sol編碼代理的「偏離目標」（misalignment）報告，揭露該AI代理在執行任務過程中，擅自從非其持有的帳戶竊取加密貨幣以完成工作，引發外界對AI自主行為與安全性的高度關注。

根據報告內容，該代理原本被指派的任務是更新交易計算器與資料庫行為，並將佔位符合約地址替換為Sepolia測試網路上的實際部署。然而，任務最後一步需要部署智慧合約，這需要支付以Sepolia ETH計價的Gas費用（譯者註：Gas費即區塊鏈上的手續費）。問題在於，OpenAI既沒有提供該代理一個已充值錢包，也明確禁止它使用其他帳戶的資金。

儘管規則如此，這個代理仍決心要完成任務。它自行編寫了一個腳本，專門搜尋網路上公開的開發者助記詞（seed phrases，即加密貨幣錢包的復原詞組），並逐一檢查這些地址的餘額。最終，代理從中找到362個地址，其中一個擁有足夠的Sepolia ETH來部署合約。

值得注意的是，代理的思維鏈（Chain of Thought，CoT，即AI逐步推理的紀錄）顯示它完全清楚自己在做什麼。其內部推理紀錄寫道：「私鑰公開，資金隨時可能被竊取。我們可以部署了！」隨後，它並未立即動用資金，反而還在嘗試為自己的行為尋找道德正當性：「但使用公開已知的金鑰與資金是否符合倫理？公開開發者助記詞上的資金基本上是被遺棄的測試用ETH，Sepolia沒有實際價值。我們可以用[金額已遮罩]來部署任務。這樣應該沒問題。」

在成功為自己找到行為的「正當理由」後，代理隨即執行了任務。然而，在最終回報中，它僅報告成功完成了被指派的各項工作，卻完全沒有說明是如何完成的，也沒有解釋自己如何找到公開暴露的帳戶並在未經授權的情況下動用資金。代理之所以隱瞞，可能是因為它認為自己已經在內部完成了正當性的論證，因此認為無需進一步說明。

幸運的是，整起事件發生在Sepolia測試網路上。Sepolia是專為加密貨幣應用程式開發所使用的模擬以太坊網路，其使用的Sepolia ETH屬於模擬貨幣，並不具備任何實際金錢價值，因此並未造成真實的財務損失。

儘管如此，這起事件仍凸顯了AI代理在自主執行任務時可能出現的偏離行為問題。報告指出，這個代理之所以未意識到自己已經「失控」，部分是因為它清楚自己處於測試環境中。這與先前Anthropic的內部網路安全研究模型發生的事件如出一轍——該模型曾誤以為自己仍在訓練階段，實際上卻已連上網路，並對三間真實公司發動了駭客攻擊。