TrendForce:預(yù)估2023年市場(chǎng)上AI加速芯片搭載HBM總?cè)萘繉⑦_(dá)2.9億GB 同比增長(zhǎng)近6成_天天觀天下
時(shí)間:2023-06-23 06:38:17
(資料圖片僅供參考)
6月21日,TrendForce集邦咨詢研究表示,2023年ChatBOT等生成式AI應(yīng)用帶動(dòng)AI服務(wù)器成長(zhǎng)熱潮,又以大型云端業(yè)者最積極投入,包含Microsoft、Google、AWS或其他中系業(yè)者如Baidu、ByteDance等陸續(xù)采購(gòu)高端AI服務(wù)器,以持續(xù)訓(xùn)練及優(yōu)化其AI分析模型。高端AI服務(wù)器需采用的高端AI芯片,將推升2023-2024年高帶寬存儲(chǔ)器(HBM)的需求,并將驅(qū)動(dòng)先進(jìn)封裝產(chǎn)能2024年成長(zhǎng)3-4成。TrendForce集邦咨詢預(yù)估,2023年市場(chǎng)上主要搭載HBM的AI加速芯片(如NVIDIA的H100及A100、AMD的MI200及MI300及Google的TPU等),搭載HBM總?cè)萘繉⑦_(dá)2.9億GB,成長(zhǎng)率近6成,2024年將持續(xù)成長(zhǎng)3成以上。
TrendForce集邦咨詢指出,為提升整體AI服務(wù)器的系統(tǒng)運(yùn)算效能,以及存儲(chǔ)器傳輸帶寬等,NVIDIA、AMD、Intel等高端AI芯片中大多選擇搭載HBM。目前NVIDIA的A100及H100,各搭載達(dá)80GB的HBM2e及HBM3,在其最新整合CPU及GPU的Grace Hopper芯片中,單顆芯片HBM搭載容量再提升20%,達(dá)96GB。另外,AMD的MI300也搭配HBM3,其中,MI300A容量與前一代相同為128GB,更高端MI300X則達(dá)192GB,提升了50%。同時(shí)預(yù)期Google將于2023年下半年積極擴(kuò)大與Broadcom合作開發(fā)AISC AI加速芯片TPU亦采搭載HBM存儲(chǔ)器,以擴(kuò)建AI基礎(chǔ)設(shè)施。
此外,AI及HPC等芯片對(duì)先進(jìn)封裝技術(shù)的需求日益提升,其中,以TSMC的CoWoS為目前AI 服務(wù)器芯片主力采用者。CoWoS封裝技術(shù)主要分為CoW和oS兩段,其中,CoW主要整合各種Logic IC(如CPU、GPU、AISC等)及HBM存儲(chǔ)器等,另外,oS部分則將上述CoW以凸塊(Solder Bump)等接合,封裝在基板上,最后再整合到PCBA,成為服務(wù)器主機(jī)板的主要運(yùn)算單元,與其他零部件如網(wǎng)絡(luò)、儲(chǔ)存、電源供應(yīng)單元(PSU)及其他I/O等組成完整的AI 服務(wù)器系統(tǒng)。
TrendForce集邦咨詢觀察,估計(jì)在高端AI芯片及HBM強(qiáng)烈需求下,TSMC于2023年底CoWoS月產(chǎn)能有望達(dá)12K,其中,NVIDIA在A100及H100等相關(guān)AI Server需求帶動(dòng)下,對(duì)CoWoS產(chǎn)能較年初需求量,估提升近5成,加上AMD、Google等高端AI芯片需求成長(zhǎng)下,將使下半年CoWoS產(chǎn)能較為緊迫,而此強(qiáng)勁需求將延續(xù)至2024年,預(yù)估若在相關(guān)設(shè)備齊備下,先進(jìn)封裝產(chǎn)能將再成長(zhǎng)3-4成。
TrendForce集邦咨詢指出,值得注意的是,在AI較急促需求下,無(wú)論是HBM或CoWoS生產(chǎn)過程中,得后續(xù)觀察周邊配套措施,例如硅通孔封裝技術(shù)(TSV)、中介層電路板(Interposer)以及相關(guān)設(shè)備(如濕制程設(shè)備)等是否能到位,如前置時(shí)間(Lead Time)等考量。而在AI強(qiáng)勁需求持續(xù)下,估NVIDIA針對(duì)CoWoS相關(guān)制程,亦不排除將評(píng)估其他類似先進(jìn)封裝外援,例如Amkor或Samsung等,以應(yīng)對(duì)可能供不應(yīng)求的情形。
相關(guān)稿件
TrendForce:預(yù)估2023年市場(chǎng)上AI加速芯片搭載HBM總?cè)萘繉⑦_(dá)2.9億GB 同比增長(zhǎng)近6成_天天觀天下
【環(huán)球報(bào)資訊】word怎么自動(dòng)排序號(hào)_word排序號(hào)怎么弄
四川大學(xué)通報(bào)對(duì)“地鐵偷拍”事件涉事學(xué)生處理結(jié)果:推免研究生未違反規(guī)定 世界要聞
支付通pos機(jī)用的時(shí)候要入網(wǎng)嗎_支付通pos機(jī)怎么用 每日聚焦
健麾信息(605186)6月21日主力資金凈買入1541.34萬(wàn)元 焦點(diǎn)播報(bào)
【全球熱聞】哈爾濱市民,23日白天氣溫較高,凌晨至上午局地易有霧
環(huán)球即時(shí)看!武田信玄3攻略(盡情的運(yùn)籌帷幄馳騁疆場(chǎng)(2))
鮑威爾發(fā)聲在即 現(xiàn)貨黃金急跌失守1930美元丨就市論市
天天百事通!安徽剛剛發(fā)布!有編、有崗、有補(bǔ)助、有待遇!
世界訊息:十年來陜西共破獲毒品犯罪案件3.07萬(wàn)起 抓獲毒品犯罪嫌疑人3.55萬(wàn)名
賽龍舟、包粽子......各地如何過端午?熱鬧場(chǎng)面來啦-焦點(diǎn)
富陽(yáng)區(qū)市場(chǎng)監(jiān)管部門幫扶鄉(xiāng)村美食工坊,灰湯粽托起共富夢(mèng)
4比1大勝!浙江隊(duì)晉級(jí)足協(xié)杯第四輪-焦點(diǎn)熱門
多國(guó)遭遇高溫模式 厄爾尼諾如何攪動(dòng)全球氣候? 世界觀速訊
男子回憶被騙去泰國(guó)又拐至緬甸:遭到勒索和電擊,向園區(qū)投訴后終被當(dāng)?shù)剀姺骄瘸?全球滾動(dòng)
滾動(dòng):什么叫關(guān)節(jié)(什么叫關(guān)節(jié)?)
食品包裝紙股票概念有哪些,食品包裝紙概念股股價(jià)一覽
每日熱議!低碳行業(yè)三只優(yōu)質(zhì)龍頭股(6/21)
創(chuàng)業(yè)板干細(xì)胞上市企業(yè)有幾家_創(chuàng)業(yè)板干細(xì)胞概念上市公司一覽-獨(dú)家焦點(diǎn)
昆明呈貢第二屆劉家營(yíng)龍舟文化節(jié)6月22日開幕 焦點(diǎn)精選
教育頻道
國(guó)家發(fā)展改革委副主任叢亮?xí)姷聡?guó)聯(lián)邦總理府國(guó)務(wù)秘書庫(kù)基斯-天天新要聞
世界速遞!人教版小學(xué)二年級(jí)上冊(cè)數(shù)學(xué)期中測(cè)試卷
學(xué)寫詩(shī)要從哪開始_寫詩(shī)要怎么做_獨(dú)家焦點(diǎn)
3天掉3公斤?“液斷”減肥,減掉的或還有健康_環(huán)球新資訊
房貸利率下調(diào),對(duì)廣大居民來說,真的“省錢”了嗎?-世界最新
精彩看點(diǎn):就業(yè)困難大學(xué)生 身邊有群熱心人
韓信不費(fèi)一兵一卒滅項(xiàng)羽20萬(wàn)大軍,曾國(guó)藩?dú)v史偽造!
2023縱覽高招會(huì)丨河北中醫(yī)藥大學(xué):2023年招生計(jì)劃為1820人,河北省內(nèi)計(jì)劃招生1366人


