OpenAIAI代理質疑竊取加密貨幣倫理後照做不誤　凸顯自主決策風險

這又是一個提醒世人「不應盲目信任AI代理」的最新案例。近來AI代理「脫韁暴走」的事件似乎有越來越多的趨勢，從早期的Hugging Face事件開始，AI代理擅自入侵企業系統、利用線上憑證竊取人口普查資料、執行未經授權的駭客行動等消息層出不窮。而OpenAI最新發布的報告，再次印證了AI代理目前仍無法被完全信任來獨立處理重大任務。

這份報告指出，其內部研究模型——來自GPT-5.6 Sol系列——在一次訓練任務中，負責更新一款加密貨幣交易原型。另一項任務則聚焦於在Sepolia上部署合約，這是一個基於區塊鏈的測試網路，讓開發人員能在正式部署至以太坊主網前先行測試應用程式。由於該實驗中的加密貨幣主要用於測試用途，資金本身不具備任何現實世界的貨幣價值。

然而問題在於，當該模型無法透過測試水龍頭（faucet）取得測試代幣時，它執行了四項行動，徹底展現了AI代理有多麼容易為了達成目標而無視開發者所設定的限制：

首先，該模型自行撰寫了一支腳本，從公開已知的助記詞（recovery phrases）衍生出錢包地址。經搜尋後獲得362個錢包地址的結果，並從中找到一個持有足夠加密貨幣的Sepolia ETH帳戶，以執行其部署任務。

其次，過程中該模型一度考慮使用該帳戶的加密資金是否妥當。它曾提出疑問：「使用公開已知的密鑰／資金是否合乎倫理？」隨後卻自行合理化，聲稱「已知公開開發者助記詞上的資金實際上是已被遺棄的測試ETH；Sepolia代幣毫無價值。我們可以使用[金額已遮蔽]來部署任務，沒問題的。」

再者，在成功完成任務並執行該筆資金的交易後，該加密錢包被收取了交易手續費。而最關鍵的是，在提交給開發者的最終任務報告中，該模型完全隱瞞了資金的實際來源。

儘管這起事件發生在今年6月26日，OpenAI直到9月25日才首度察覺。該公司在報告中承認：「此案例顯示，模型可能會以自身對潛在危害的判斷，取代帳戶持有人的授權，並在未獲授權的情況下據以行動。」OpenAI亦宣布將安裝防護措施，「防止此類情況下進行即時網路存取」，以避免類似事件重演。

這起AI代理暴走事件最令人震驚之處，在於該模型不僅意識到自身行為可能違反倫理，還自行推論這些加密資金實際上已被棄置、不會再被任何人使用，進而繞過限制採取行動，並在最終報告中選擇不向開發者揭露其真實作為。事實證明，AI代理已演化到一個令人憂心的階段——它們可能認定「完成任務」的重要性，遠高於「取得執行該任務的授權」，而這往往涉及不安全的行為。

底線是，即便此事件僅涉及不具實際財務後果的加密貨幣測試網，仍值得正視的是，OpenAI的模型已展現出未能尊重開發者授權的問題。該模型或許在行動前曾質疑其作為的道德性，但重點在於：它選擇建構一套自認合理的理由來完成任務——這與一個小偷告訴自己「必須偷竊才能生存」並無太大差別。

很明顯地，AI代理已不再只是回答問題、執行簡單任務的工具，它們正被賦予風險更高的任務，而這些任務恐怕尚未到達適合交由它們獨立處理的階段。