全球領袖必須正視網路攻擊威脅,否則遭到駭客入侵的冰箱將只是最微不足道的煩惱——這是國際貨幣基金組織(IMF)、各國央行總裁及財經首長齊聚悶熱曼谷時,一個出乎意料但發人深省的議題,也凸顯出網路攻擊成本正快速攀升。
法國超市連鎖的冰箱控制器遭駭客入侵,溫度被調高至攝氏50度,迫使業者將整批變質食品全數丟棄。IMF總裁喬治艾娃(Kristalina Georgieva)藉此事件強調,在這個快速變遷且高度互聯的世界中,防範「惡意行為者」的重要性——特別是在AI讓「數位詐欺的潛在威脅如虎添翼」的當下。
政策制定者早已警告,AI熱潮可能在某個時間點引發股價崩盤(業界委婉稱之為「修正」),進而威脅金融穩定。但在曼谷,另一項相關但截然不同的威脅浮上檯面。喬治艾娃表示,她擔心由AI加持的網路犯罪,將從根本上瓦解大眾對金融體系的信任。
社群媒體上充斥著利用名人造假來推銷加密貨幣或黃金的廣告,連傳統的電子郵件詐騙如今也能以更高的效率大量產出。正如AI生成的劣質內容有潛力破壞人們對事實查核報導的信任,並將民眾引向政治極端化的兔子洞,喬治艾娃憂心網路詐欺可能打擊消費者對主流銀行的信心。
她回憶自己在保加利亞鐵幕時代度過的童年,指出當時許多人不信任體制,把現金藏在床底下的鞋盒裡。「我擔心的是,今天如果我們無法搶在這條曲線前面……最終可能會有許多人重新把錢藏在床底下的鞋盒中。」
然而威脅或許根本不必等到犯罪浪潮真正爆臨。本週,摩根大通執行長戴蒙(Jamie Dimon)警告,該行將不允許數位代理(digital agents)代客戶操作帳戶。「你不會希望出現流氓代理,屆時可能多達數千個。」戴蒙說道。
包括Meta的Muse在內,AI代理正開始提供使用者授權金融資訊的功能,讓代理代為搜尋最高的存款利率並自動移轉資金。金融監管機構對此感到憂慮,原因有幾項:首先是若這類服務被廣泛採用,可能引發不穩定的「群聚效應」——當存款能瞬間在金融體系間流動時,一旦出現不確定性,便可能加速銀行擠兌的發生。
第二個隱憂正是戴蒙所點出的:當AI代理代你做出最終證明是災難性——甚至是犯罪——的財務決定時,責任該由誰承擔?答案或許是要等判例法慢慢釐清,但這往往要等到事情真正一團糟之後。
這令人警惕之處在於,當事情出錯時法律對於「誰欠誰、欠多少」的模糊性,反而可能成為加速金融不穩的催化劑。我們早在2008年金融危機時就學過這個教訓——當時部分銀行設計出責任歸屬極其複雜的金融商品,導致根本無法估值,進而引爆恐慌。
與喬治艾娃同台發言的英格蘭銀行總裁貝利(Andrew Bailey),同時也是全球央行總裁組成的金融穩定委員會(FSB)主席,則點出本週另一則震撼的新聞——Anthropic警告,AI模型可能很快就會在一般家用裝置中「自我複製」。如果你的聯網烤箱或電視因此爆炸,責任與成本究竟該由誰承擔?
一個完全合理的因應之道,或許是消費者直接拒用聯網裝置,改用不會遭自我複製機器人劫持的「笨」電器。本月,部分法國超市已緊急將旗下冰箱離線以避免攻擊。
如果聯網的電水壺和冰箱無法普及,或許算不上社會的重大損失;但在金融領域,「笨裝置」的對應版本就是喬治艾娃口中的鞋盒——而這對消費者及整體經濟的順暢運作,都將付出代價。
正如貝略帶末日預言意味的說法:「如果我們不再信任貨幣,社會就無法正常運作。」
資深金融政策制定者對於快速發展的AI與全球金融體系的碰撞深感不安——這個金融體系如今已遠遠超越受到嚴格監管的銀行範疇,延伸到社群媒體平台、支付應用程式及其他金融工具。
令人遺憾的是,這個關鍵時刻正值美國——AI熱潮的發源地——由一位主要貢獻只是試圖將AI重新命名為「超智慧」(superintelligence)的人執政。
本週在曼谷,美國聯準會主席沃許(Kevin Warsh)在公開場合乖乖照辦川普的措辭,因為所有美國政府機關都已接到相關指令。在正視風險方面仍有些許進展。川普的超智慧工作小組由國家情報總監克萊頓(Jay Clayton)主持,正在建立機制,要求AI實驗室通報「漏洞、駭客入侵、越獄及其他問題」——但似乎並未要求廠商在模型上市前提交審查。
英國則已承諾將AI安全議題納入明年G20輪值主席國的議程;G7財長本週也在曼谷宣布,將進行模擬演練以測試全球金融體系對網路攻擊的韌性。
這有助於凸顯體系的脆弱點,但核心問題遠比罪犯能否駭入銀行更深、更廣,而且已經迫在眉睫——尤其當國際合作的前景看來一片黯淡之際。如果AI遭到濫用而成為金融混亂的導火線,那麼所謂的「超智慧」,將一點都不會讓人覺得「超級」。