發布時間:2024/1/11 07:00
圖文/鏡週刊
ChatGPT引爆全球AI算力大戰,最大獲益者就是提供AI運算晶片的輝達(NVIDIA),去年第3季輝達財報顯示,資料中心相關業務年增279%,羨煞伺服器晶片龍頭英特爾,而本刊調查,迥異於英特爾,輝達因「銷售模式」大轉變,從晶片一條龍做到伺服器與雲服務,加上對手超微(AMD)與Google等業者開發AI晶片搶地盤,身為硬體製造大國的台灣,立馬成為最佳助攻手,包括廣達、鴻海、緯創等伺服器老將與華碩、技嘉等新秀都各顯神通,大拓伺服器江山。
廣告 更多內容請繼續往下閱讀
「各位同學,你們手機的3D遊戲能連線互打、女朋友的美妝APP,可是跟AI有關喔,而AI能運作,則是跟伺服器(server)息息相關…」
去年暑假,一群來自香港的高中生特地來台前往新店參訪技嘉,介紹者是從技嘉網通事業分拆出來提供伺服器的技鋼台灣區產品行銷經理王昭力,為了讓大家了解時下超夯的生成式AI如何運作,現場擺了一台搭載輝達8張A100晶片伺服器,只見王昭力指著這款伺服器透露,「這一台要價台幣400多萬,如果要玩ChatGPT,需要一萬台!」簡報一結束,同學們立刻衝上朝聖,一位男同學似乎頗了解市況,知道這顆晶片最近缺貨,還趁機調皮地摸一摸!
廣告 更多內容請繼續往下閱讀
連高中生都知道—「ChatGPT」得靠輝達的繪圖處理晶片(GPU)來幫忙,但這跟以往電腦或傳統伺服器多以中央處理器(CPU)為主要架構似乎不同,究竟為何?
「過去的CPU 用伺服器, 7-8成工作都是儲存或搬運資料,但在AI架構下,有越來越多推論與分析資料的需求,CPU已無法滿足,原本早期只放在CPU下、用來加強圖像顯示的GPU,因為具有平行運算、可一次處理大量資料等特性,正好得以充分發揮。」工研院資通所總監徐銘鴻一邊詳細地說明,一開幽默的說,輝達就像撿到槍,成為這波AI浪潮下的主角,接著更生動地說形容,CPU好比用手指頭算數,GPU是計算機,同樣都能解題數學,手指頭要算來算去,按計算機一下子就能得到答案。
MIC資深分析師朱師右進一步向本刊補充,這次橫空出世的ChatGPT,因為得支援上千億個參數的大語言模型(LLM),要在短時間一次消化大量資料生成需要的回應,GPU的角色更是吃重。
不過,生成式AI帶動伺服器架構從CPU轉為GPU,輝達看似抓到時機,其實是十多年磨一劍結果。
徐銘宏觀察,一般來說,AI包含三大項,分別是算力、算法跟場域(Domain),而輝達早從2007年就推出CUDA平台布建完整的生態圈,「你看Jason Huang(輝達創辦人黃仁勳)每年在辦開發展大會(GTC),跟各大學產學合作,就是在推這件事情(CUDA),無形中,也慢慢地把AI底層到應用所需的基礎建設建置成熟。」他更點出,這也是為何輝達至今拿下AI GPU市場6、7成佔有率的關鍵。
朱師右也補充,包含學校、企業終端這十多年已逐漸習慣用CUDA,儘管近期超微(AMD)也想透過RCOM平台與CUDA比拚,但如今的輝達就像蘋果的iOS,短期難以撼動,話鋒一轉,他仍對超微積極搶市樂觀其成,兩大業者力拱生成式AI,台灣身為伺服器王國,都是贏家。
更多鏡週刊報導
高息ETF新天王崛起!專家曝:00918逆勢飆紅成「存股王牌」 00713人氣流失真走下神壇?
驚悚畫面曝!台中男騎士加油站外燒成火球 坐地掙扎70%三度燒燙傷
林明佐罹癌傳命危!1500萬交保不到1天高燒送醫 胞妹痛訴:盼司法給活命機會
台積電2奈米開轟!台積電供應鏈全線狂飆 「這8檔」迎最強成長你有跟上嗎?
傷口新藥獲准在美上市!「這檔」4天狂漲33% 拉3根漲停登量價雙增王
ETF現金雨灑下314億元!年化配息率衝破10% 「這5檔」吸金爆表股民嗨翻
不是金融股、台積電!定期定額新榜一次看 「這檔ETF」2月超車00878連4月奪冠
自營商狂買1.68億!這檔「電子五哥」5月營收雙減、股價慘跌 散戶嚇:求回90
16縣市高溫警報! 大台北、東部及各地山區午後防雷雨
台灣版晶片法案上路!AI「10大建設」來了 「這幾家台廠」恐都沾光預備起飛!
車無故拋錨 女子「舔引擎」驚覺是甜的!報警一查:表哥倒砂糖
除息日將至!國家隊豪砸10億進貨00919卡位 另斥資1.7億敲進00713
鴻門宴!國安簡報之後「全面開戰」 局勢還能逆轉嗎?
台南人妻偷情夫提告小王求償80萬 法官查出「結7次離6次」判免賠
鏡爆頭條/傻眼!家暴事件大反轉 吳婉君神復合趙駿亞
女子逛街遭挾持 身中搶匪20刀只因「有這物」保命
5月營收衝破2000億!主力最愛的不是老AI緯創 「這檔」00919新兵配3.5元...15日建倉20萬張
特斯拉被拉黑了!歐系養老基金因「1原因」清空400億持股
以伊衝突「引爆油價」飆7%!阮慕驊預告:通膨壓力暴增「Fed降息更無望」
以色列伊朗開戰!AI概念股一片慘綠 「這檔」5月營收年增飆117%...仍遭主力大砍2.4萬張