花旗集團執行長Jane Fraser近日表示,隨著人工智慧模型催生新型態的網路攻擊,全球企業正加速強化網路防禦能力。
在紐約舉行的卡達經濟論壇(Qatar Economic Forum)上,Fraser指出,面對Anthropic等公司推出的Mythos等先進AI模型,全球企業正陷入一波「修補海嘯」(tsunami of patching),全力加固資安防線。多家媒體報導了上述談話。
談到AI技術發展,Fraser表示,產業發展的瓶頸已從晶片製造轉移至能源需求,也就是支撐AI運算所需的龐大電力。
Fraser進一步指出,Mythos模型的發布對企業而言是「不美好的一天」(not a good day),象徵AI演進已步入令人擔憂的階段。
她透露,Mythos發布後,美國財政部長Scott Bessent與時任聯準會主席Jerome Powell緊急召集華爾街高層,敦促各企業為能力更強大的AI系統做好準備。
自2026年初以來,包括Google與Anthropic等公司所開發的AI已發生多次意外入侵其他企業的事件。Anthropic執行長Dario Amodei等高層已發出警告,主張應放慢AI發展步伐。
Amodei表示,其公司將實施第三方評估機構等新的安全措施。
Anthropic員工Jacob Coxon本月稍早已辭去職務,將外界目光聚焦在AI風險上。這也引發外界擔憂,部分頂尖AI研究人員認為,這項技術可能在本十年結束前導致存在性災難(existential catastrophe)。
不過,產業高層如Nvidia執行長Jensen Huang則對此類憂慮不以為然。他呼籲企業在兼顧產品安全責任的前提下加速AI發展,並強調企業不應推出尚未準備就緒或不夠安全的系統。
同樣出席卡達經濟論壇的高盛集團執行長David Solomon則呼籲科技高層「深呼吸、放慢腳步」。他並表示,對「人類將持續存在並將積極參與其中」抱持高度信心。