AI晶片大洗牌！Google、亞馬遜搶攻2奈米＋HBM4　記憶體頻寬暴增2.5倍、台廠散熱PCB迎大單

記者莊蕙如／綜合報導

全球AI晶片競賽進入新階段！Google、亞馬遜AWS、微軟及Meta等四大雲端服務供應商（CSP）加速開發客製化AI晶片（ASIC），競爭焦點正從單純追求運算效能，轉向突破記憶體容量、資料傳輸頻寬及整機櫃運算效率等瓶頸。隨新一代晶片陸續導入2奈米先進製程、高頻寬記憶體HBM4，以及整機櫃系統設計，市場看好台灣半導體先進製程、封裝、散熱、PCB及電源供應鏈將迎來新一波升級商機。

過去AI晶片效能主要以每秒浮點運算次數（FLOPS）作為衡量指標，但隨生成式AI模型規模持續擴大，單純提高運算能力已不足以確保整體效能。尤其大型語言模型每生成一個新的Token，都需要頻繁讀取模型權重與鍵值快取（KV Cache），若記憶體容量不足或傳輸頻寬無法跟上，即使晶片具備強大算力，運算核心仍可能因等待資料而無法充分發揮效能。

廣告 更多內容請繼續往下閱讀

因此，解決被稱為「記憶體牆」（Memory Wall）的瓶頸，已成為雲端巨頭下一代ASIC晶片的重要設計方向。從Google TPU、AWS Trainium到微軟Maia，各家業者不僅持續升級晶片製程，也同步增加HBM容量及頻寬，試圖在長文本生成、即時多模態推論及大型AI模型運作中取得更高效率。

依據相關技術發展藍圖，2026年主要ASIC平台朝向台積電3奈米製程搭配HBM3e發展，包括Google TPU v7、AWS Trainium 3及微軟Maia 200等產品，單顆晶片記憶體容量規劃約144GB至216GB，頻寬則落在每秒4.9TB至7.4TB區間，藉由提高資料存取速度，減少運算核心等待記憶體傳輸的時間。

廣告 更多內容請繼續往下閱讀

進入2027年，下一代ASIC規格預期將進一步升級，包括Google TPU v8、AWS Trainium 4及微軟Maia 300等平台，技術方向朝2奈米製程與HBM4發展，部分產品記憶體容量規劃提升至288GB，顯示雲端業者正積極擴大單顆晶片可處理的模型與資料規模。

其中，微軟Maia 300的規劃尤其受到關注。根據相關技術預估，該平台將採用八組HBM4記憶體堆疊，單顆晶片記憶體頻寬有望達到每秒18TB，較前代提升超過2.5倍，主要鎖定長上下文（Long-context）及即時多模態AI推論需求。不過，相關產品規格及量產時程仍須以業者後續正式公布資訊為準。

除了晶片本身升級，AI伺服器的系統架構也正面臨重大轉變。四大CSP業者的ASIC發展方向，逐漸由過去單張加速卡、2U或4U伺服器，轉向整機櫃規模系統（Rack-Scale System），將大量運算晶片、記憶體、網路設備及電源散熱系統整合，提升整體資料傳輸與運算效率。

這項轉變背後並非單純追求設備整合，而是受到大型AI模型對記憶體容量、高速互連、供電能力及散熱效率等要求推動。尤其混合專家模型（MoE）與長上下文推論應用持續增加，部分大型運算工作負載可能需要10TB至25TB以上的HBM記憶體資源，單一晶片或傳統伺服器架構難以獨立負擔，必須透過多晶片與整機櫃互連共同運作。

隨AI系統走向整機櫃化，散熱與電源設計的重要性也同步提高。當單櫃功耗提升至百千瓦等級，傳統氣冷方案將面臨更大挑戰，液冷散熱、高效率電源轉換及配電系統的需求可望持續增加，帶動相關零組件規格升級。

另一方面，整機櫃內部需要連接大量運算晶片與高速網路設備，也將提高PCB的訊號完整性、傳輸速度及材料規格要求。高層數PCB、高密度互連板（HDI）、低損耗銅箔基板及高速傳輸材料的重要性可望進一步提升，讓台灣PCB與上游材料供應鏈具備新的成長機會。

◎《FTNN新聞網》提醒您：本資料僅供參考，投資人應獨立判斷，審慎評估並自負投資風險。