從訓練龐大的語言模型到驅動不間斷的AI推論運算,人工智慧正深刻改變人類日常生活,同時也從根本上重寫了資料中心熱管理的規則。
過去,氣冷足以應付企業級工作負載,對於功耗在20至40千瓦範圍內的機櫃至今仍具實用性。然而,當今由GPU加速的AI機櫃功耗普遍介於40千瓦至100千瓦以上,下一代系統更預計將達到200千瓦甚至更高。在如此高密度的環境下,傳統氣冷難以為繼,直接液冷(DLC)因而崛起。
效能差異十分顯著:熱模擬顯示,在500瓦處理器負載下,單相直接液冷能將晶片與冷卻劑之間的溫差維持在約17至20°C,而同等條件下的氣冷系統溫差則超過60°C。液冷的導熱效率較氣冷高出多達3000倍,能直接在熱源處擷取熱量,避免熱節流(thermal throttling)並保護基礎設施投資。
然而,轉向液冷並非一蹴可幾的全面替代方案。2026年,大多數設施並未全面押注液冷,而是採取結合傳統氣冷架構與先進直達晶片(direct-to-chip)系統的混合冷卻模式。
【2027至2028年混合策略將居主導地位】
在2027至2028年間,混合式熱管理策略將佔據主導地位,因為資料中心必須在同一設施內同時容納既有IT設備與新一代AI加速器。事實上,現有氣冷設施的棕地(brownfield)改裝,是目前AI運算容量部署的主要場域,與從零開始設計為液冷的綠地(greenfield)建案形成對比,這意味著氣冷仍將在輔助系統與低密度區域扮演關鍵角色。
未來並非「純液冷」的單一選項,而是依據特定工作負載選擇最合適的冷卻方式。營運商若要成功擴展規模,須部署混合架構,例如在高密度AI叢集中採用直達晶片冷板與冷卻劑分配單元(CDU),同時透過電腦機房空氣調節機(CRAH)或風扇輔助後門式熱交換器(RDHx)處理餘熱。
【真正瓶頸:營運複雜度與人才缺口】
儘管液冷技術日趨成熟,但在混合冷卻環境中駕馭營運複雜度才是真正的挑戰。散熱已不再僅是機房設施的議題,而是需要IT、機械工程與軟體管理的匯流整合。設施如今必須管理流體化學、洩漏偵測、風險控管以及精密的維護工作流程。
更嚴峻的是,產業正面臨日益擴大的人才缺口。Uptime Institute報告指出,近三分之二的營運商在招募與留任合格人才方面遭遇困難,凸顯出同時具備液冷系統與整合基礎設施專業知識的團隊嚴重不足。要解決此問題,需要全新的培訓模式、更深入的供應商協作,以及對託管服務更高的依賴。
產業雖然在標準化可互通設計方面有所進展,例如即插即用的CDU與能在機櫃間有效分配冷卻劑的歧管系統,但各家供應商與技術路線之間仍存在碎片化現象。此外,營運商還須因應不斷變化的經濟結構。雖然液冷基礎設施需要更高的前期資本支出(CapEx),但由於效率與密度提升,長期總持有成本(TCO)更為優異。決策者因此逐漸將焦點從「今日最便宜」轉向「能否隨AI需求擴展」。
【成功藍圖:參考架構與整備策略】
要在混合冷卻轉型中順利前行,必須將部署作業標準化,避免每個站點都需進行複雜的客製化工程。成功的液冷生態系仰賴選用合適的排熱架構,而這取決於熱擷取方式、CDU類型(機櫃式或落地式)以及室外排熱方法。
為使AI基礎設施具備前瞻韌性,營運商應參考以下戰略整備清單:
同步並行規劃:實體基礎設施與IT規劃必須從第一天起同步進行,避免設施進度落後於硬體部署。
設計兼顧彈性:建構動態且具回應力的設計,能支援多代硬體,採用氣冷與液冷的混合組合。
擁抱永續與餘熱再利用:將冷卻策略與ESG目標掛鉤是顯而易見的雙贏局面。先進液冷解決方案可降低整體設施能耗達40%、減少用水量達60%。此外,液冷還開啟了餘熱再利用的契機,營運商可將廢熱引導至鄰近建築物或區域供熱系統。
【產業背景與作者】
本文作者為施耐德電機(Schneider Electric)冷卻業務資深副總裁Andrew Bradner,在IT產業深耕逾25年,並有20年資料中心解決方案經驗。施耐德電機橫跨三大洲,業務涵蓋消費型UPS、中國資料中心業務、預製資料中心及目前的冷卻業務。