【鴻海法說直擊2】DeepSeek讓蒸餾模型蔚為風潮　劉揚偉樂見邊緣與高階AI雙軌成長

圖文／鏡週刊

鴻海在AI高階伺服器強勁需求帶動下，今年營運持續樂觀，董事長劉揚偉更強調，DeepSeek（簡稱：DS）採用蒸餾技術打造開源模型，不但不會影響高階AI伺服器的需求，還可以加速邊緣AI的普及。

廣告 更多內容請繼續往下閱讀

他更透露，日前鴻海研究院對外發表首款繁體中文大型語言模型「FoxBrain」，就是採用DS的蒸餾方法，這方法以前就有，但業界總覺得不合法，以至於做了也不敢說，如今DS的問世，將打破生成式AI由大型CSP業者一手主導的局面。

「DS採用的技術，過去業界就很多人用，就是把已經成熟的語言模型，透過知識蒸餾來訓練出新模型。」劉揚偉解釋，蒸餾法早就存在，但過去業界總覺得不合法，如今走出突破。

廣告 更多內容請繼續往下閱讀

接著他透露，鴻海FoxBrain就是用類似蒸餾的方法，再把繁體中文部分進一步加強，而且只用了100張輝達H100來訓練，內部研發團隊告訴他，若照過去的做法需要用到2千張以上H100，因為大大加速了推理訓練開發速度，他認為這將打破開發AI開發多由大型CSP業者的主導局面，「會有越來越多如鴻海這樣的中型業投入。」他說。

劉揚偉並表示，FoxBrain模型，無論在繁體中文的對話能力或數學上表現都有不錯的測試校能，該模型未來也會開放給變成開源（Open source）讓業界在繁體中文上的應用進行開發，而這種以推論為主的訓練模型，不但不會衝擊高階AI伺服器的需求，還會帶動邊緣AI發展逐漸普及，「會有更多個人、客製化的生成AI需求落地。」他說。

鴻海2024年來自大型CSP對AI需求明顯增加，已帶動AI伺服器年營收超過150％的成長，劉揚偉表示，AI伺服器今年確定將佔整個伺服器營收5成以上，營收不但一季比一季好，全年挑戰兆元規模，而光第1季AI伺服器無論季對季、年對年，也都會有100％、也就是一倍的成長。

「我們從市場供需觀察到，大型CSP到一線品牌客戶，對高階AI伺服器的買氣仍佳，能見度比之前預期更好。」他更直指幫輝達生產的GB200以及未來的GB300等新產品新案，都陸續在擴產滿足需求。

針對GB200量產卡關的市場消息，劉揚偉也做出回應，指出GB200的NV72，是非常複雜的系統，得需要收集很多數據，才能讓生產變得更順暢，如今經過半年多的調校改善，已看到此產品良率達到批量生產的標準，因此確定未來幾季的出貨量會持續增長。

他更強調，幫客戶生產AI伺服器，穩定度非常重要，訓練也要花上很長一段時間，期間凡有故障問題，訓練都得重新來過，這也是這一行業門檻高的原因所在，鴻海也因為獲得客戶信任，品質穩定度處於業界領先地位，他預估目前在高階伺服器市場，鴻海40％市占是保守，有信心今年會更高，下週輝達的GTC大會，鴻海也會展出最新解決方案。

更多鏡週刊報導
【鴻海法說直擊1】坦承川普關稅讓客戶CEO非常頭痛　劉揚偉4個字透露端倪
【聖暉集團躍海外1】聖暉業務佈局多元　台灣封測、中國資料中心業務看漲
【聖暉集團躍海外2】跟著晶圓代工龍頭赴美　銳澤預計上半年成立美國子公司