發布時間:2024/1/11 07:00
圖文/鏡週刊
ChatGPT引爆全球AI算力大戰,最大獲益者就是提供AI運算晶片的輝達(NVIDIA),去年第3季輝達財報顯示,資料中心相關業務年增279%,羨煞伺服器晶片龍頭英特爾,而本刊調查,迥異於英特爾,輝達因「銷售模式」大轉變,從晶片一條龍做到伺服器與雲服務,加上對手超微(AMD)與Google等業者開發AI晶片搶地盤,身為硬體製造大國的台灣,立馬成為最佳助攻手,包括廣達、鴻海、緯創等伺服器老將與華碩、技嘉等新秀都各顯神通,大拓伺服器江山。
廣告 更多內容請繼續往下閱讀
「各位同學,你們手機的3D遊戲能連線互打、女朋友的美妝APP,可是跟AI有關喔,而AI能運作,則是跟伺服器(server)息息相關…」
去年暑假,一群來自香港的高中生特地來台前往新店參訪技嘉,介紹者是從技嘉網通事業分拆出來提供伺服器的技鋼台灣區產品行銷經理王昭力,為了讓大家了解時下超夯的生成式AI如何運作,現場擺了一台搭載輝達8張A100晶片伺服器,只見王昭力指著這款伺服器透露,「這一台要價台幣400多萬,如果要玩ChatGPT,需要一萬台!」簡報一結束,同學們立刻衝上朝聖,一位男同學似乎頗了解市況,知道這顆晶片最近缺貨,還趁機調皮地摸一摸!
廣告 更多內容請繼續往下閱讀
連高中生都知道—「ChatGPT」得靠輝達的繪圖處理晶片(GPU)來幫忙,但這跟以往電腦或傳統伺服器多以中央處理器(CPU)為主要架構似乎不同,究竟為何?
「過去的CPU 用伺服器, 7-8成工作都是儲存或搬運資料,但在AI架構下,有越來越多推論與分析資料的需求,CPU已無法滿足,原本早期只放在CPU下、用來加強圖像顯示的GPU,因為具有平行運算、可一次處理大量資料等特性,正好得以充分發揮。」工研院資通所總監徐銘鴻一邊詳細地說明,一開幽默的說,輝達就像撿到槍,成為這波AI浪潮下的主角,接著更生動地說形容,CPU好比用手指頭算數,GPU是計算機,同樣都能解題數學,手指頭要算來算去,按計算機一下子就能得到答案。
MIC資深分析師朱師右進一步向本刊補充,這次橫空出世的ChatGPT,因為得支援上千億個參數的大語言模型(LLM),要在短時間一次消化大量資料生成需要的回應,GPU的角色更是吃重。
不過,生成式AI帶動伺服器架構從CPU轉為GPU,輝達看似抓到時機,其實是十多年磨一劍結果。
徐銘宏觀察,一般來說,AI包含三大項,分別是算力、算法跟場域(Domain),而輝達早從2007年就推出CUDA平台布建完整的生態圈,「你看Jason Huang(輝達創辦人黃仁勳)每年在辦開發展大會(GTC),跟各大學產學合作,就是在推這件事情(CUDA),無形中,也慢慢地把AI底層到應用所需的基礎建設建置成熟。」他更點出,這也是為何輝達至今拿下AI GPU市場6、7成佔有率的關鍵。
朱師右也補充,包含學校、企業終端這十多年已逐漸習慣用CUDA,儘管近期超微(AMD)也想透過RCOM平台與CUDA比拚,但如今的輝達就像蘋果的iOS,短期難以撼動,話鋒一轉,他仍對超微積極搶市樂觀其成,兩大業者力拱生成式AI,台灣身為伺服器王國,都是贏家。
更多鏡週刊報導
砂石車左轉撞直行機車!40歲女騎士慘捲車底亡 驚悚畫面曝光
廖玉蕙、謝金河打蔣都翻車 許宇甄:若不是被告會這麼快道歉?
台股狂飆1960點!外資竟倒貨900億「真正買家是誰」 專家揭殘酷真相
狂客音樂季2天狂吸10萬人!羅時豐領軍12組歌手開趴 唱跳10分鐘沒停過
15年差238萬!每月花5000元變美還是投資?巴逆逆神回「投報率非常多」超真心
台灣微軟資遣6年女經理挨告!法院認定「未盡安置義務」 每月16.6萬薪資照給
黃仁勳婚外情是國安危機!中國晶片走私風波再起 女間諜背後資本布局曝光
投30萬月領7200元!投資詐騙「保本高配息」吸金逾70億 4人遭羈押禁見
台股單日漲點排行榜出爐!2026年前十名占9席 網驚:今年到底怎麼回事
空殼公司大手筆買晶片!律師開轟黃仁勳「早就知情」:他是睜一眼、閉一眼吧
曾峻岳入札拚旅美 美媒點出近年球速下滑、入札失敗可走這條路
黃仁勳婚外情恐引國安危機 川普曝曾警告AI大咖「準備坐牢」
被動元件漲不停!「這檔」10月營收連8月創高領漲2.92% 禾伸堂列注意股照樣漲2%、勤凱漲逾6%、光頡漲停
黃仁勳婚外情對象超狂背景曝!黃樂涉近50億遊戲公司交易 身兼網約車「T3出行」董事
影/李多慧甜跳42年前神曲〈紅鞋女孩〉原唱徐乃麟驕傲喊:不容易啊!
黃仁勳風波壓不住台股!郭哲榮拆解3大利空雜訊 再曝10檔看好標的
APEC 領袖代表傳施振榮呼聲高 卓榮泰:總統府將在適當時間向國人報告
「傳家寶典」海外密帳寄給女兒!張俊傑棄保潛逃50多天 檢警疑有內鬼通風報信
黃樂曾陪同黃仁勳入台、出席聚會 外交部:符合相關規定
支持度僅差張善政4.1% 黃世杰:不少市民期待桃園政黨輪替
您已閒置超過五分鐘,請點擊右上角關閉按鈕