FTNN 新聞網
新聞大追查
  • FTNN 新聞網 Facebook 粉絲專頁
  • FTNN 新聞網 Youtube 頻道
【週四12~週五21】
鄉民監察院_每周二三
吳崢 李柏毅 簡舒培 溫朗東【政治讀新術】完整版20241212

【Computex會後亮點1】比黃仁勳皮衣還「Cool」 AI加速伺服器廠看好液冷成新顯學

發布時間:2023/6/5 10:22

AI熱帶動液冷降溫需求升溫,美超微搭載輝達最頂級H100伺服器的液冷機櫃,被黃仁勳大讚,背後供應商為雙鴻。

為期4天的台北國際電腦展(COMPUTEX 2023)風光落幕,輝達(NVIDIA)創辦人暨執行長黃仁勳掀起的AI旋風餘威不斷,近5萬名參觀人潮湧向各電子大廠攤位朝聖最新AI伺服器,也讓高速運算系統引發的熱耗問題受到關注,討論多時的液冷(液體冷卻)技術躍上檯面。

圖文/鏡週刊

廣告 更多內容請繼續往下閱讀

本刊調查,包括美超微、廣達、技嘉、鴻海旗下的鴻佰,均紛紛透過水冷(水循環)或更先進的浸沒散熱在新品各顯神通,比起傳統的風冷或氣冷,「液冷」已成新顯學,背後推動的零組件台廠功不可沒。

工研院電光所組長王欽宏告訴本刊,液冷可說是此次Computex的熱門話題,關鍵原因,正是ChatGPT帶來的效應!

廣告 更多內容請繼續往下閱讀

他分析,生成式AI刺激大語言模型(LLM)需求,裡面需要的晶片算力與資料量都比傳統伺服器暴增,大幅拉高晶片運轉過程的熱功耗(TDP)瓦數,但傳統利用風冷氣冷(風扇或冷氣)幫晶片/機房帶走熱能,在效率上已出現瓶頸,液冷絕對是未來新解。

「好的散熱處理,就像降血壓藥,可避免有AI腦袋的處理器中風(當機),否則,機器再聰明再厲害,跑不動也沒用。」高力熱能事業處行銷經理胡馥純生動的向本刊形容,她並表示,比起氣冷,高運算伺服器與資料中心建置未來若採用液冷,用電量明顯減少,更能降低電力使用率(PUE),而PUE在世界各國越來越受重視,也讓資料中心的PUE值成為現今節能環保重要指標。

高力副總王心五則向本刊說明,液冷在業界已討論多時,這次會展可以看到水冷與浸沒兩種解決方案,不少伺服器業者都雙雙投入,其中,水冷是利用水循環(Open Loop Rack)原理,透過有幫浦的冷水分配器(CDU)與冷水板(cold Plate)、水管串接後吸熱降溫;浸默將伺服器浸泡在不導電的冷卻液(礦物油),以流動循環方式帶走熱能。

業者也指出,水冷因可沿用原本的氣冷架構來改裝,建置成本比浸沒低,導入速度比浸沒快,挑戰在漏水檢測,值得注意的是,與輝達關係緊密的美超微,此次在Computex推出搭載輝達最頂規H100 8-GPU機櫃,就是採用水冷為主的液冷散熱。

AI熱帶動液冷降溫需求升溫,美超微搭載輝達最頂級H100伺服器的液冷機櫃,被黃仁勳大讚,背後供應商為雙鴻。

當美微創辦人梁見後一邊演講一邊秀產品的同時,還被後來站台的黃仁勳用台語大誇:「就水ㄟ!」梁見後也得意地說,這款散熱機櫃,可替公司每年節省高達百億美元的能源成本,相當於減少建造30座化石燃料電廠,藉此優勢要讓美超微領先站上AI浪潮。

專家指出,台灣伺服器零組件廠堪稱是這波推動液冷技術的幕後功臣,美超微這次推出的液冷機櫃,供應商就是國內散熱模組大廠—雙鴻,雙鴻董事長林育申鴻日前出席股東會不但證實此一合作,更重申今年是水冷伺服器導入元年。


【點擊看完整全文】

更多鏡週刊報導
【Computex會後亮點2】技嘉浸沒冷卻槽讓黃仁勳開金口說金句 廣運勤誠高力競逐此一商機
【Computex會後亮點3】水冷浸沒產品一應俱全 台達電搶占資料中心建置商機先機
【Computex會後亮點4】水冷散熱也吹韓風 韓國第一台韓屋水冷主機快閃台北
top