【半導體展熱點2】力積電攜手工研院強攻3D堆疊晶片　獲超微導入AI伺服器平台

圖文／鏡週刊

生成式AI帶動下，所搭配的高頻寬記憶體（HBM）因產能有限近期供不應求，為了緩解此一缺口，力積電今年於SEMICON Taiwan與工研院聯手發表以記憶體為中心的MOSAIC 3D AI晶片（Memory-cube Operability in a Stacked AI Chip；MOSAIC），因為大幅縮減了記憶體與運算晶片之間的距離，資料傳輸的頻寬不但是傳統AI晶片10倍、還能降低1/7功耗，成為3D IC封裝下頗具成本競爭力的解決方案，因此獲得美商超微（AMD）導入，針對下一代AI伺服器平台展開合作。

廣告 更多內容請繼續往下閱讀

力積電副總經理暨技術長張守仁表示，目前AI搭配的HBM多半使用的CoWoS這類的2.5D封裝，效能很好，但成本、功耗還是有下降與改善空間，而力積電與工研院合作開發的3D堆疊晶片，非常適合接下來Chiplet之下的3D封裝。

「我們（MOSAIC）是以記憶體為中心的3D堆疊技術，跟工研院的合作，不只提供邏輯晶片上的客製設計，連記憶體也利用特殊規格來打造，再搭配晶圓堆疊（Wafer on Wafer），使得這個產品相較於2.5D的HBM多了10倍頻寬，但功耗只有1/7到1/8，是一個很好替代方案。」張守仁補充。

廣告 更多內容請繼續往下閱讀

張守仁進一步指出，記憶體未來若要廣泛應用在大語言模型，頻寬要更增加，力積電推出的多層晶圓堆疊可望滿足，目前也將全力以銅鑼新廠為生產重心，搭配集團子公司如IP等資源打造完整生態鏈。

經濟部產業技術司司長邱求慧則說明，目前的生成式AI，多得靠高速頻寬記憶體才能跑得動，但成本相當高，產能也相當有限，MOSAIC 3D AI不但頻寬可比傳統HBM大增，還能確保AI算力，成本更比傳統的少了1/5，他推估在邊端的AI市場會很有價格競爭力，更透露目前也與超微正展開下一代產品的合作。

據了解，MOSAIC 3D AI晶片針對目前市場一片難求的高頻寬記憶體（High Bandwidth Memory；HBM），提供AI產業更高效能、高彈性、高性價比的替代方案，結合邏輯與記憶體的創新技術，也一舉拿下2024 R&D100大獎，

而根據Fortune Business Insights預估，生成式AI市場規模，將從2024年的670億美元，增長到2032年的9,676億美元，年均複合成長率高達39.6％，截至目前為止，經濟部產業技術司積極投入AI人工智慧、HPC半導體、化合物半導體等前瞻技術研發，已投入超過300億元在相關領域，此次MOSAIC 3D AI晶片技術榮獲2024 R&D100大獎，不僅能顯著提升AI模型的運算效能，還能在成本和能耗方面提供更具競爭力的解決方案，為我國在全球AI產業競賽中奠定了堅實基礎。

更多鏡週刊報導
【半導體展熱點1】鎖定先進封裝等三大市場商機　東京威力5年砸1.5兆日圓
【電腦展AI狂潮】全球晶片6雄齊聚COMPUTEX　3趨勢擁抱AI黃金年代
【電腦展AI狂潮2】晶片大廠CEO拉攏台灣IT供應鏈　AI PC成台廠營運爆發新動能