發布時間:2024/1/11 07:00
圖文/鏡週刊
ChatGPT引爆全球AI算力大戰,最大獲益者就是提供AI運算晶片的輝達(NVIDIA),去年第3季輝達財報顯示,資料中心相關業務年增279%,羨煞伺服器晶片龍頭英特爾,而本刊調查,迥異於英特爾,輝達因「銷售模式」大轉變,從晶片一條龍做到伺服器與雲服務,加上對手超微(AMD)與Google等業者開發AI晶片搶地盤,身為硬體製造大國的台灣,立馬成為最佳助攻手,包括廣達、鴻海、緯創等伺服器老將與華碩、技嘉等新秀都各顯神通,大拓伺服器江山。
廣告 更多內容請繼續往下閱讀
「各位同學,你們手機的3D遊戲能連線互打、女朋友的美妝APP,可是跟AI有關喔,而AI能運作,則是跟伺服器(server)息息相關…」
去年暑假,一群來自香港的高中生特地來台前往新店參訪技嘉,介紹者是從技嘉網通事業分拆出來提供伺服器的技鋼台灣區產品行銷經理王昭力,為了讓大家了解時下超夯的生成式AI如何運作,現場擺了一台搭載輝達8張A100晶片伺服器,只見王昭力指著這款伺服器透露,「這一台要價台幣400多萬,如果要玩ChatGPT,需要一萬台!」簡報一結束,同學們立刻衝上朝聖,一位男同學似乎頗了解市況,知道這顆晶片最近缺貨,還趁機調皮地摸一摸!
廣告 更多內容請繼續往下閱讀
連高中生都知道—「ChatGPT」得靠輝達的繪圖處理晶片(GPU)來幫忙,但這跟以往電腦或傳統伺服器多以中央處理器(CPU)為主要架構似乎不同,究竟為何?
「過去的CPU 用伺服器, 7-8成工作都是儲存或搬運資料,但在AI架構下,有越來越多推論與分析資料的需求,CPU已無法滿足,原本早期只放在CPU下、用來加強圖像顯示的GPU,因為具有平行運算、可一次處理大量資料等特性,正好得以充分發揮。」工研院資通所總監徐銘鴻一邊詳細地說明,一開幽默的說,輝達就像撿到槍,成為這波AI浪潮下的主角,接著更生動地說形容,CPU好比用手指頭算數,GPU是計算機,同樣都能解題數學,手指頭要算來算去,按計算機一下子就能得到答案。
MIC資深分析師朱師右進一步向本刊補充,這次橫空出世的ChatGPT,因為得支援上千億個參數的大語言模型(LLM),要在短時間一次消化大量資料生成需要的回應,GPU的角色更是吃重。
不過,生成式AI帶動伺服器架構從CPU轉為GPU,輝達看似抓到時機,其實是十多年磨一劍結果。
徐銘宏觀察,一般來說,AI包含三大項,分別是算力、算法跟場域(Domain),而輝達早從2007年就推出CUDA平台布建完整的生態圈,「你看Jason Huang(輝達創辦人黃仁勳)每年在辦開發展大會(GTC),跟各大學產學合作,就是在推這件事情(CUDA),無形中,也慢慢地把AI底層到應用所需的基礎建設建置成熟。」他更點出,這也是為何輝達至今拿下AI GPU市場6、7成佔有率的關鍵。
朱師右也補充,包含學校、企業終端這十多年已逐漸習慣用CUDA,儘管近期超微(AMD)也想透過RCOM平台與CUDA比拚,但如今的輝達就像蘋果的iOS,短期難以撼動,話鋒一轉,他仍對超微積極搶市樂觀其成,兩大業者力拱生成式AI,台灣身為伺服器王國,都是贏家。
更多鏡週刊報導
記憶體齊回神!自營商大舉加碼這3檔題材股「買超它最多」 華邦電獲輸血1.34億元
美伊談判將在11日進行!美股四大指數3漲1跌 台積電ADR同步上漲
要小心拉高出貨?「這檔」利多出盡3天慘殺14.72%登弱勢股王 網諷:又可以空了
營收崩盤、處分卡關!三大法人提款「這檔」1.7億 「面板雙虎」也遭狂砍近20萬張登賣超榜一、二
林珍羽批無菸城市「做半套」 蔣萬安承諾研議改善
三大法人要拚大的?「這晶圓黑馬」營收雙創高外資、自營商搶破頭 網嗨:下週開始噴
府轟鄭習會要凸顯兩制台灣方案 國民黨嗆賴清德背離憲法:你敢廢陸委會嗎?
鄭習會重申「九二共識」 行政院轟抹殺台灣主權:2300萬國人堅決反對
對面板雙虎大開殺戒!外資翻臉拋售友達、群創2天失血10萬張 「台塑四寶這檔」遭回收20億
日月光高雄再擴產!仁武先進測試基地動土 砸逾1083億拚AI新商機
綠性平部「禮物說」惹議 民眾黨:限賴清德3天內道歉否則提告
法說前夕利多連發!聯電攜英特爾攻12奈米製程 獲外資砸14.8億回補2.3萬張
鄭習會重申九二共識 總統府轟失格:淪出賣國家主權的政治工具
北院暗指柯文哲干預獨立審判 民眾黨轟干擾司法的是背離公正的院檢體系
Q1營收首登百億大關!投信連9砍「封測大廠」再提5億出場 轉頭補刀長興8千張
《周處除三害》在中爆紅卻僅得20%分紅!李烈發聲明追債:7天內出面否則提告
矽光子飆瘋了!光聖6檔喜掛紅燈、聯亞6天暴衝近47% 訊芯-KY、智邦刷新高價
北市聯開宅該賣或轉社宅?蔣萬安強調:審計處曾糾正
轉型發威!這檔3月吸金23.5億獲投信買進逾6千張 旺宏營收創51個月高點引2500張卡位
800G、1.6T需求爆發!「半導體封測廠」連炒4根創高攜75檔衝漲停 光通訊股多達8檔入列
您已閒置超過五分鐘,請點擊右上角關閉按鈕