總部位於美國雷諾的AI硬體新創公司Positron AI,近日對輝達(NVIDIA)在推論時代的記憶體架構提出了最明確的工程化反駁:問題不在於加速器的峰值頻寬有多大,而在於這些頻寬實際被利用的比例——而為推論解碼量身打造的商品化記憶體,即便在規格表上無法與高頻寬記憶體(HBM)匹敵,在實際應用中卻能達到相近的效能表現。
Positron AI於週三宣布完成規模達8.75億美元的C輪融資,投後估值為50億美元,較該公司在2026年2月以2.3億美元完成B輪融資時所擁有之略高於10億美元估值,成長約五倍。本輪融資宣布的兩天前,高通與亞馬遜剛揭露一項基於LPDDR的多世代推論合作案,採購金額最高可達600億美元——這項交易獨立驗證了Positron所押注的架構理念。
本次募得資金將支援Asimov晶片的tape-out作業。Asimov是Positron採用台積電N3P製程打造的自研推論ASIC,目標於2026年底完成,量產時程則預定於2027年下半年。Asimov最具標誌性的特點在於採用LPDDR5X記憶體——也就是智慧型手機與筆電所使用的同類商品化DRAM——而非驅動輝達H100、H200及Rubin系列加速器的3D堆疊特殊記憶體HBM。
【推論支出首超訓練,記憶體成兵家必爭之地】
這項融資的時機至關重要。2026年8月,Gartner報告指出,推論支出在今年首次超越訓練支出,全球AI推論市場規模達233億美元,相較之下訓練市場僅190億美元。Gartner將此一結構性轉折點歸因於產業從模型開發轉向持續、即時部署的階段。整體AI最佳化基礎建設支出年增率高達96%,達423億美元。AI基礎建設意涵「我要在哪裡訓練模型」的時代已經結束,如今的問題是「如何以規模化方式持續提供服務」。
這個問題直接撞上供應鏈瓶頸。HBM——這項提供輝達GPU建構基礎的TB/s級頻寬堆疊DRAM技術——由少數供應商生產,並透過稱為CoWoS(Chip on Wafer on Substrate)的先進封裝製程進行封裝,全球僅有少數晶圓廠能執行此項製程。HBM需求以每年約60%的速度成長,但產能無法跟上。這項瓶頸甚至衝擊了輝達自身的產品路線圖:正如Positron投資人、NEA合夥人Forest Baskett在融資公告中所指出,據報導Rubin Ultra GPU的記憶體規格已從原本規劃的1TB HBM4E下修至約192GB,原因正是供應量無法到位。
【頻寬利用率勝過峰值頻寬——但此論點尚未獲獨立驗證】
Positron的核心論點在於,僅憑峰值頻寬數字來比較HBM與LPDDR5X,忽略了AI推論實際運作的方式。
現代大型語言模型的推論分為兩個階段:prefill階段,模型以平行方式處理輸入提示並進行大量矩陣運算;以及decode階段,模型從儲存的鍵值(KV)快取中逐一讀取,循序產生輸出權杖(token)。Prefill屬於運算受限,會飽和GPU的張量核心;decode則屬於記憶體受限——它為每個生成的權杖讀取整個KV快取,但讀取方式是循序而非平行,這意味著瓶頸在於硬體如何有效率地搬運既有資料,而非理論上最佳情況下的資料傳輸速度。
這正是Positron正在切入的市場缺口。Positron聲稱,GPU推論部署——原先是圍繞需要大量平行頻寬的訓練工作負載所設計——在推論解碼期間通常僅能達到不到30%的記憶體頻寬利用率。Positron表示,其「記憶體優先」架構可達到90%以上。若這些數字在實際生產環境中站得住腳,那麼即便原始峰值頻寬較低,模型實際獲得的有效頻寬仍可與之匹敵。
這是一項重大的架構主張,但目前僅由公司自行提出,未經獨立第三方驗證。Tom's Hardware於2025年7月曾指出,Positron針對輝達H200 DGX所做的Atlas效能比較「需要第三方驗證」。更直接地,The Register今年稍早的分析計算出,Asimov約2.76TB/s的可實現頻寬設計目標,相較於輝達Rubin加速器約22TB/s的HBM峰值頻寬。即便以30%的GPU利用率計算,Rubin的記憶體系統速度仍快約2.4倍。Positron的反駁論點是——推論工作負載在GPU硬體上根本無法接近那樣的利用率——但此論點尚未透過已發表的Asimov第三方量測數據獲得確認,而Asimov目前尚未完成tape-out。所有Asimov效能數字都是設計目標,而非矽晶圓實測結果。
【深入架構:LPDDR5X帶來的設計可能性】
除了利用率論點之外,LPDDR5X在實務面上的優勢最終歸結於供應鏈與規模。
Positron的Asimov晶片採用有機基板,而非HBM所需的矽中介層(CoWoS封裝使其成為可能,但也使其供應受限)。LPDDR5X由SK海力士、三星及美光等多家供應商以商品化規模生產,無需特殊先進封裝,每GB成本遠低於HBM。Asimov設計上每顆晶片搭載288GB至2,304GB記憶體,上限透過CXL(Compute Express Link)擴充達成——這是一種記憶體池化協議,允許晶片存取封裝之外的額外記憶體容量。以四至八顆Asimov晶片構成的Titan系統,設計上可在單一節點中服務超過16兆參數、上下文視窗超過1,000萬權杖的模型。
作為對照:輝達H100搭載80GB HBM3;H200搭載141GB HBM3e;即將推出的Rubin架構原本瞄準288GB HBM4——此一數字如今因供應限制已從最初公布的1TB下調。Asimov的下限(288GB)對應Rubin調降後的HBM4目標;其可擴展上限(2.3TB)在現有GPU配置中則無直接對應方案。
Titan亦設計為可在氣冷與液冷資料中心中以不同機櫃密度運作。這並非次要的便利功能:許多企業級設施無法容納高密度液冷GPU叢集所需的散熱與電力供應要求,這意味著Positron能切入輝達最高密度配置在結構上無法觸及的基礎建設市場。
【Atlas已出貨,Oracle部署即為概念驗證】
Positron並非僅靠未來矽晶圓說故事。其第一代Atlas推論系統已部署於Oracle雲端基礎設施(OCI),規模超過50個機櫃,推論服務商Parasail運用這些容量服務其客戶。Jump Trading與i3d.net也是已確認的Atlas生產客戶。
Cloudflare於2025年測試了Atlas硬體,Tom's Hardware的報導記載,該系統在2,000瓦功耗預算內,於Llama 3.1 8B基準測試中聲稱達到每用戶每秒280權杖的效能,相較之下,八路輝達DGX H200伺服器約為每秒180權杖。如Tom's Hardware所指出,此項比較仍需第三方驗證,且涵蓋的是Atlas而非Asimov——前者是目前出貨中的產品,後者是2027年目標推出的自研ASIC。
執行長Mitesh Agrawal將Oracle部署描述為Asimov的主要工程輸入:「在規模化部署Atlas的過程中,我們對推論客戶的實際需求有了深刻理解,並將這些經驗直接帶入Asimov與Titan的設計中。」
【本輪融資:誰在押注,以及為何意義超越金錢本身】
本次融資分兩階段進行。第一階段為3.75億美元C輪,pre-money估值為35億美元,由NEA、Andra Capital、Atreides Management、Valor Equity Partners及Dylan Patel的SemiAnalysis Capital共同領投。第二階段為最高5億美元的C-1輪,由NEA與Jim Clark領投。Jim Clark是1982年創辦矽谷圖形(SGI)、1994年共同創辦Netscape將網頁瀏覽器商業化的工程師。其他投資人包括DFJ Growth、卡達投資局、Resilience Reserve、思科投資、Hudson River Trading、Naver Ventures及Liberty Global Tech Ventures。
Jim Clark的參與具有特定的模式辨識意涵:矽谷圖形圍繞專用矽晶圓建構其業務,瞄準的是當時通用硬體無法有效服務的特殊運算工作負載(3D渲染)——這與Positron為推論解碼所下的架構賭注如出一轍。
Patel所創辦的SemiAnalysis被廣泛認為是AI半導體供應鏈最嚴謹的獨立分析機構,他將自身資本與分析結論並行投入。「我畢生的工作就是量測AI硬體在生產環境中的實際效能,」Patel在隨本輪融資發表的董事會聲明中表示,「大多數推論經濟模型都經不起這樣的檢驗。Positron的架構直指真正的瓶頸——記憶體——且其下一代系統無需依賴HBM或先進封裝。」
作為融資的一部分,NEA的Forest Baskett、Atreides Management的Gavin Baker、Jim Clark辦公室的Thomas Jermoluk以及Dylan Patel加入Positron董事會。
【Positron在推論硬體戰場的位置】
Positron是新創公司群中的一員——包括Cerebras(已上市)、d-Matrix、Tenstorrent、FuriosaAI及Rebellions——競爭目前由輝達主導的推論矽晶圓市場。Groq早先以其語言處理單元(LPU)架構建立追隨者,於2025年12月將其推論技術授權給輝達;Cerebras則已完成公開上市。相較於輝達遍及各大雲端服務供應商的龐大陣容,Positron的安裝基礎仍屬小規模——僅在一家超大規模雲端業者部署50個機櫃。
Positron正在執行的LPDDR5X路線並非該公司獨有:英特爾於2026年Computex發表的Crescent Island GPU搭載最高480GB LPDDR5X而非HBM,以350瓦氣冷設計瞄準推論市場缺口。高通的AI200加速器作為其AWS交易的一部分已進入量產,採用最高768GB LPDDR而非HBM。三星則於2026年Hot Chips展示其LPDDR5X-PIM(Processing in Memory)架構,將運算直接整合進記憶體晶片,從不同角度攻克頻寬瓶頸。Positron的作法與英特爾和高通不同之處在於,Asimov是專為推論打造的ASIC——而非改良型GPU或智慧型手機CPU——且其利用率主張(>90%)才是整個架構論述的核心,而非僅是記憶體容量升級的附帶好處。
【後續發展】
近期里程碑明確:在2026年底前完成Asimov的tape-out、調試2MW以上的工程資料中心與模擬平台,並於2027年下半年推動Titan進入量產爬坡階段。LPDDR5X能否在前沿規模——即數兆至16兆參數等級模型、以百萬權杖為單位計的上下文視窗——下維持具競爭力的推論效能,將成為驗證此架構論點是否成立的技術試金石。
對2027年評估AI部署成本的企業基礎建設買家而言,Positron的Titan系統將與輝達Blackwell和Rubin級系統、高通Dragonfly機櫃以及英特爾Crescent Island一同進入採購週期。無論行銷話術為何,評估標準其實一致:每美元權杖數、每瓦權杖數、所需模型規模對應的總記憶體容量,以及設施是否能容納該系統的散熱與電力需求。Titan的氣冷相容性與LPDDR5X供應鏈獨立性,若每美元效能成立,將構成結構性優勢。而2027年的量產爬坡,正是設計來證明這一點的關鍵驗證。
【常見問題】
HBM與LPDDR5X在AI推論上有何差異?為何加速器選用哪種記憶體至關重要?
高頻寬記憶體(HBM)是3D堆疊記憶體技術,提供TB/s等級原始頻寬,但需要稀缺且專業的CoWoS先進封裝、僅有少數供應商生產、且每GB成本溢價顯著。LPDDR5X則是智慧型手機與筆電所使用的商品化行動DRAM標準:原始峰值頻寬較低,但供應商多元、產能充足、成本顯著較低,且無需先進封裝。就AI推論——尤其是模型循序產生輸出權杖而非平行處理的decode階段——而言,許多硬體工程師主張,與其看原始頻寬,不如看記憶體容量與利用率效率。若推論晶片能高效運用其LPDDR5X頻寬,便能與浪費大部分頻寬的HBM型GPU在實際吞吐量上匹敵。Positron聲稱頻寬利用率超過90%;此一數字尚未針對尚未完成tape-out的Asimov晶片進行獨立驗證。
為何獨立基準測試尚未確認Positron的效能主張?
Asimov——Positron的自研推論ASIC——尚未完成tape-out,預定於2026年底前完成tape-out、2027年下半年進入量產。所有Asimov效能數字——包括2.3TB最大記憶體配置、90%以上頻寬利用率目標、以及服務超過16兆參數模型的能力——都是設計規格,而非出貨矽晶圓的實測結果。就目前出貨中的Atlas產品(採用不同、更早期的架構)而言,Tom's Hardware於2025年7月指出,Positron與輝達H200的效能比較仍需第三方驗證。評估2027年基礎建設的買家應將這些數字視為架構主張,待Asimov量產樣品出貨後再行驗證。
HBM為何供不應求?這對AI基礎建設規劃有何影響?
HBM透過稱為CoWoS(Chip on Wafer on Substrate)的專業製程生產,需要將DRAM堆疊與運算晶片放置於矽中介層上——這項製程全球僅有少數晶圓廠能大規模執行。SK海力士與三星是主要HBM生產商;需求以每年約60%速度成長,但封裝產能擴張速度較慢。這項供應瓶頸已衝擊輝達自身的路線圖:Positron投資人Forest Baskett援引報導指出,Rubin Ultra GPU的HBM4E規格已從原先規劃的1TB下修至約192GB,原因正是供應無法到位。對規劃AI基礎建設的企業買家而言,HBM稀缺意味著GPU配額——尤其是輝達最高記憶體配置——至少到2027年前仍將受限。商品化LPDDR5X則無對應的供應瓶頸。
若Positron的Asimov如所宣稱般表現,對企業AI買家意味著什麼?
若Positron的效能目標能轉化為矽晶圓實測結果,Asimov與Titan系統將為企業買家提供一條以更低每權杖成本、且在資料中心部署上更具彈性的途徑,服務包括兆級參數前沿模型在內的大型語言模型。氣冷相容性意味著Titan可運行於無法容納液冷高密度GPU機櫃的設施。LPDDR5X供應鏈降低了與HBM可用性相關的採購風險。記憶體容量優勢——Titan目標每節點超過2TB——使其可能成為需要將極大型模型或超長上下文視窗完整保留於記憶體之應用的實務首選。關鍵字是「若」:買家在圍繞這些規格做出基礎建設承諾之前,應將2027年Asimov量產樣品的到來納入規劃。