發布時間:2023/10/8 21:10
圖文/CTWANT
據科技媒體The Information昨天(7日)引述知情人士消息報導,微軟、OpenAI、特斯拉、谷歌、亞馬遜、Meta這六大科技公司正在研發自家的AI晶片,預計會與輝達(Nvidia)的旗艦級微處理器H100 GPU競爭,且可能有助於降低成本及減少對輝達AI晶片的依賴。
廣告 更多內容請繼續往下閱讀
輝達如今已是當之無愧的「AI算力王者」,A100/H100系列晶片佔據金字塔頂部的位置,但用戶面對輝達的獨霸天下,吃盡了成本高昂的苦頭。據華爾街投行伯恩斯坦(Bernstein)的分析,ChatGPT單次查詢的成本約4美分(約新台幣1.2元),若要將搜尋量增長到谷歌的十分之一,每年將耗費約481億美元的GPU,以及約160億美元的晶片來維持運行。所以無論是為了降低成本,還是減少對輝達的依賴、提高議價能力,科技巨頭們都紛紛下場自研AI晶片。
微軟計劃在下個月的年度開發者大會上,推出該公司首款為人工智慧(AI)設計的晶片。事實上,The Information曾報導過,微軟自2019年以來就一直在開發一款代號雅典娜(Athena)的專用晶片,用於為大型語言模型提供動力。該晶片將由台積電代工,採用5nm先進製程,計劃最早於明年推出。
廣告 更多內容請繼續往下閱讀
有分析師表示,開發類似於雅典娜的晶片可能每年需花費約1億美元,ChatGPT每天的營運成本約70萬美元,大部分來源於昂貴的服務器,如果雅典娜晶片與輝達的產品擁有同等競爭力,每個晶片的成本將可以降低三分之一。
OpenAI也正在探索製造自研人工智能芯片,並已開始評估潛在的收購目標。報導稱,至少從去年開始,OpenAI就已討論各種方案,以解決AI晶片短缺問題。OpenAI已與包括輝達在內的其他晶片製造商更密切地合作,以及在輝達之外實現供應商多元化。
電車大廠特斯拉則立足於智能駕駛,目前已經推出了兩種自研晶片,分別為全自動駕駛(FSD)和Dojo D1晶片。FSD晶片用於特斯拉汽車上的自動駕駛系統;Dojo D1晶片則用於特斯拉超級計算機Dojo片,它是一種通用的CPU,目的是為了加速特斯拉自動駕駛系統的訓練和改進。
谷歌也早在2013年,就已祕密研發一款專注於AI機器學習算法的晶片,並將其用在內部的雲端計算數據中心中,以取代輝達的GPU。這款自研晶片「TPU」於2016年公諸於世,可以為深度學習模型執行大規模矩陣運算,例如用於自然語言處理、計算機視覺和推薦系統的模型。谷歌實際上2020年便已在其數據中心部署了AI晶片TPU v4。不過直到今年4月才首次公開了技術細節。
亞馬遜從2013年推出首顆Nitro1晶片至今,AWS是最先涉足自研晶片的雲端廠商,已擁有網路晶片、伺服器晶片、人工智慧機器學習自研晶片3條產品線。AWS自研AI晶片版圖包括推理晶片Inferentia和訓練晶片Trainium。2023年初,專爲人工智慧打造的Inferentia 2(Inf2)發佈,將計算性能提高了三倍,加速器總內存提高了四分之一,可通過晶片間的直接超高速連接支持分佈式推理,最多可支持1750億個參數,這使其成為大規模模型推理的有力競爭者。
Meta直到2022年,還主要使用CPU和專為加速AI算法而設計的訂製晶片組合來運行其AI工作負載,但CPU的效率往往不如GPU。後來Meta取消了於2022年大規模推出訂製晶片的計劃,轉而訂購了價值數十億美元的輝達GPU。為扭轉局面,Meta已經在開發內部晶片,並於5月19日公布了AI訓練與推理晶片項目。據介紹,該晶片的功耗僅為25瓦,佔輝達等市場領先供應商晶片功耗的一小部分,並使用了RISC-V(第五代精簡指令處理器)開源架構。
邁邁斬世族1/替下一站鋪路?陳其邁滿弓連三箭 槓上「高雄陳家」內幕
邁邁斬世族2/再下一城添戰功?陳其邁「使力綠化」農會系統 地方大佬「這樣看」
邁邁斬世族3/百年高雄陳家政商兩棲 「當年踩一踩地板,整個高雄都會震動!」
曾對林智堅、王義川、陳時中開砲! 大法官被提名人劉靜怡大方承認「是真心話」
政治讀新術/八炯爆料讓中共急了?他曝馬英九訪中背後不單純 簡舒培揭網紅統戰「受益者」
高鐵自由坐問題好多!去廁所可以「用外套佔位嗎」?網困惑:官方無明確規定
00918配息上調也難贏!00929「爆9萬大量」股價起飛 網懺悔:好險沒賣掉
譚艾珍遭詐瞬間曝光!「牛皮紙包110萬」3警急忙衝出來攔阻
影/李多慧環島衝武嶺遇坍方阻斷 熱情伯報路認出本尊興奮求合照
影/安芝儇性感泳衣 穿出新高度!網笑神回:抱歉 真的很像垃圾袋
台股漲破百點三大法人卻僅買超2.14億元 網直呼:小打小鬧結果爆噴
吳鎮宇真的氣炸了!大膽單挑《葉問》甄子丹上演激烈肉搏戰
衛福部霸凌案延燒!總案件增至8起 3案認定成立、7人受懲處
專勤隊女科員好奇借警配槍...遭控「槍口瞄人」 移民署回應了
機器人股漲跌互現!和椿11月營收創10年來新高 與全球傳動一同奔向漲停
現蹤傳統市場買菜!香港影帝「超親民舉動」意外曝光私生活
改車仔注意!交通新制「排氣管認證」不從最高罰3萬 元旦開跑前快去辦
中國軍演不是針對台灣?林楚茵嗆蕭旭岑「越辯越荒唐」:當年斬首目標就是馬英九
AI家居助攻點火!網通「1檔」連5跌強勢反彈漲停 機器人全球傳動連2日亮紅燈
何謂最嚴重之罪?燒死8至親仍逃死!公民老師怒批:不要混淆視聽