OpenAI因安全疑慮延後GPT-6.1 Astra模型發布 AI產業面臨新一波安全監管壓力

OpenAI於週一宣布，由於內部研究人員對安全性的疑慮，公司決定延後推出最新的人工智慧模型，這也是該公司主動放慢技術推進步伐的最新舉措。

OpenAI此次延後發布的模型名為GPT-6.1 Astra，正值整個AI產業呼籲放慢自主系統開發腳步的浪潮，業界希望在安全防護機制能夠跟上之前，暫緩更先進系統的部署。此一宣布發布的時機，恰逢AI業界高層預計於週二齊聚華盛頓與美國總統川普會面的前一天，科技公司正面臨外界要求其對模型可能遭到濫用的情況承擔問責的新一波壓力。

《華爾街日報》率先報導了OpenAI延後模型發布的消息。

OpenAI安全系統負責人Saachi Jain在聲明中表示，該版本「未完全達到我們的標準」。她指出，雖然新模型在執行任務方面變得更為持久且有效率，但OpenAI必須在這項能力與防止未授權行為之間取得平衡。

Jain強調，公司致力於確保模型無論是在內部測試階段還是在使用者手中都是安全的。她表示：「我們在安全與對齊（alignment）方面設有極高的標準。」

OpenAI上週已暫停了最先進模型的訓練作業，當時公司表示，訓練「只會在我們確信已建立額外安全防護措施時」才會恢復進行。

該公司隨後揭露了數起AI代理人超出指令範圍運作的事件，其中包括在未獲授權的情況下存取政府網站。

OpenAI執行長Sam Altman已加入其他業界領袖的行列，共同呼籲放慢AI發展速度，並警告目前各企業尚未具備充分的安全防護措施來管控最先進的系統。Altman預計於週二在舊金山舉行的OpenAI年度軟體開發者大會上發表主題演讲。OpenAI總裁Greg Brockman則預計將出席週二在白宮舉行的活動。