發布時間:2024/1/11 07:00
圖文/鏡週刊
ChatGPT引爆全球AI算力大戰,最大獲益者就是提供AI運算晶片的輝達(NVIDIA),去年第3季輝達財報顯示,資料中心相關業務年增279%,羨煞伺服器晶片龍頭英特爾,而本刊調查,迥異於英特爾,輝達因「銷售模式」大轉變,從晶片一條龍做到伺服器與雲服務,加上對手超微(AMD)與Google等業者開發AI晶片搶地盤,身為硬體製造大國的台灣,立馬成為最佳助攻手,包括廣達、鴻海、緯創等伺服器老將與華碩、技嘉等新秀都各顯神通,大拓伺服器江山。
廣告 更多內容請繼續往下閱讀
「各位同學,你們手機的3D遊戲能連線互打、女朋友的美妝APP,可是跟AI有關喔,而AI能運作,則是跟伺服器(server)息息相關…」
去年暑假,一群來自香港的高中生特地來台前往新店參訪技嘉,介紹者是從技嘉網通事業分拆出來提供伺服器的技鋼台灣區產品行銷經理王昭力,為了讓大家了解時下超夯的生成式AI如何運作,現場擺了一台搭載輝達8張A100晶片伺服器,只見王昭力指著這款伺服器透露,「這一台要價台幣400多萬,如果要玩ChatGPT,需要一萬台!」簡報一結束,同學們立刻衝上朝聖,一位男同學似乎頗了解市況,知道這顆晶片最近缺貨,還趁機調皮地摸一摸!
廣告 更多內容請繼續往下閱讀
連高中生都知道—「ChatGPT」得靠輝達的繪圖處理晶片(GPU)來幫忙,但這跟以往電腦或傳統伺服器多以中央處理器(CPU)為主要架構似乎不同,究竟為何?
「過去的CPU 用伺服器, 7-8成工作都是儲存或搬運資料,但在AI架構下,有越來越多推論與分析資料的需求,CPU已無法滿足,原本早期只放在CPU下、用來加強圖像顯示的GPU,因為具有平行運算、可一次處理大量資料等特性,正好得以充分發揮。」工研院資通所總監徐銘鴻一邊詳細地說明,一開幽默的說,輝達就像撿到槍,成為這波AI浪潮下的主角,接著更生動地說形容,CPU好比用手指頭算數,GPU是計算機,同樣都能解題數學,手指頭要算來算去,按計算機一下子就能得到答案。
MIC資深分析師朱師右進一步向本刊補充,這次橫空出世的ChatGPT,因為得支援上千億個參數的大語言模型(LLM),要在短時間一次消化大量資料生成需要的回應,GPU的角色更是吃重。
不過,生成式AI帶動伺服器架構從CPU轉為GPU,輝達看似抓到時機,其實是十多年磨一劍結果。
徐銘宏觀察,一般來說,AI包含三大項,分別是算力、算法跟場域(Domain),而輝達早從2007年就推出CUDA平台布建完整的生態圈,「你看Jason Huang(輝達創辦人黃仁勳)每年在辦開發展大會(GTC),跟各大學產學合作,就是在推這件事情(CUDA),無形中,也慢慢地把AI底層到應用所需的基礎建設建置成熟。」他更點出,這也是為何輝達至今拿下AI GPU市場6、7成佔有率的關鍵。
朱師右也補充,包含學校、企業終端這十多年已逐漸習慣用CUDA,儘管近期超微(AMD)也想透過RCOM平台與CUDA比拚,但如今的輝達就像蘋果的iOS,短期難以撼動,話鋒一轉,他仍對超微積極搶市樂觀其成,兩大業者力拱生成式AI,台灣身為伺服器王國,都是贏家。
更多鏡週刊報導
專勤隊女科員好奇借警配槍...遭控「槍口瞄人」 移民署回應了
機器人股漲跌互現!和椿11月營收創10年來新高 與全球傳動一同奔向漲停
現蹤傳統市場買菜!香港影帝「超親民舉動」意外曝光私生活
改車仔注意!交通新制「排氣管認證」不從最高罰3萬 元旦開跑前快去辦
中國軍演不是針對台灣?林楚茵嗆蕭旭岑「越辯越荒唐」:當年斬首目標就是馬英九
AI家居助攻點火!網通「1檔」連5跌強勢反彈漲停 機器人全球傳動連2日亮紅燈
何謂最嚴重之罪?燒死8至親仍逃死!公民老師怒批:不要混淆視聽
爭議過往全被挖!川普怒斥「虛假沒品味」施壓喊告 台灣一刀未剪播出
敘利亞反對派組織承諾「兩年自由選舉」盼得到國際社會認可
成2028角逐總統大位假想敵 盧秀燕喊「超出市政的議題」不便答覆請大家海涵
步上四寶後塵...聯電狂破底「40元快陷落」 吐量7萬張網酸:二哥別撐了吧
行政院霸凌通報平台明上線!「需具名申訴」限一個月結案 卓榮泰:盼改變官場文化
台積電上漲20元領頭!台股指數收漲143.17點 資訊服務股零壹慘直奔跌停
幼童不當對待案件頻傳「調閱監視器卻常受阻」 林月琴攜民團籲地方政府別再擋
遭控職場霸凌逼走下屬!內湖分局蕭慧珠駁:指控不實
最後上車機會?聯發科打入蘋果鏈大噴漲「成交額爆106億」 反觀「它」連6跌…網:發哥突破天際
大法官被提名人廖福特遭疑「站在霸凌者那邊」 張啓楷:應公開道歉、反省!
為何00929配息狂縮水?「單週成交量炸破200萬張」復華投信正面回應了
影/范瑋琪轉戰中國突喊「我是河北人」 昔日貼文被翻出網酸:來割韭菜的
婦產部名醫涉性騷 台大醫院:已辭職