前陣子，DeLL'ORO GROUP發(fā)布預(yù)測報告，回顧了23年數(shù)據(jù)中心基礎(chǔ)設(shè)施報告中的突出趨勢，及展望了2024年數(shù)據(jù)中心基礎(chǔ)設(shè)施的發(fā)展情況，以下是報告內(nèi)容。

2023年預(yù)測中強(qiáng)調(diào)的突出趨勢

正如2022年支出大幅增長后所預(yù)測的那樣，2023年數(shù)據(jù)中心資本支出增長明顯放緩。美國四大云服務(wù)提供商（SP）總體上在2023年大幅放緩了資本支出，亞馬遜和Meta正在經(jīng)歷消化周期，而微軟和谷歌有望增加加速計算部署和數(shù)據(jù)中心的greenfield（未開發(fā)地區(qū)）支出。盡管人工智能相關(guān)投資在2023年下半年出現(xiàn)好轉(zhuǎn)跡象，但由于宏觀經(jīng)濟(jì)和監(jiān)管不利因素導(dǎo)致云需求依然疲軟，中國云服務(wù)提供商市場依然低迷。企業(yè)服務(wù)器和存儲系統(tǒng)市場的表現(xiàn)差于預(yù)期，因為由于庫存調(diào)整以及經(jīng)濟(jì)不確定性導(dǎo)致終端需求下降，大多數(shù)OEM預(yù)計2023年收入增長將出現(xiàn)兩位數(shù)下降。然而，網(wǎng)絡(luò)和物理基礎(chǔ)設(shè)施OEM在2023年表現(xiàn)更好，因為2023年上半年實現(xiàn)了強(qiáng)勁的積壓出貨量，從而提升了收入增長。

我們低估了加速計算投資對2023年人工智能應(yīng)用的影響。在那一年，我們看到支出從通用計算轉(zhuǎn)向加速計算以及網(wǎng)絡(luò)和物理基礎(chǔ)設(shè)施的補(bǔ)充設(shè)備。AI訓(xùn)練模型變得越來越大、越來越復(fù)雜，需要GPU和網(wǎng)絡(luò)連接等加速器的最新進(jìn)展。部署的人工智能相關(guān)基礎(chǔ)設(shè)施的高成本有助于抵消通用計算市場的急劇下滑。然而，鑒于新超大規(guī)模的強(qiáng)勁需求，加速器的供應(yīng)仍然緊張。

盡管英特爾和AMD推出了第四代處理器，對CPU進(jìn)行了重大更新，但到2023年，通用計算已讓位于加速計算。這些新服務(wù)器平臺采用最新的服務(wù)器互連技術(shù)，例如PCIe 5、DDR5，以及更重要的CXL。CXL能夠聚合跨服務(wù)器的內(nèi)存使用情況，從而提高整體利用率。然而，通用服務(wù)器需求一直疲軟，向第四代CPU平臺的過渡比預(yù)期慢（盡管AMD在2023年第三季度取得了重大進(jìn)展）。此外，CXL的采用僅限于超大規(guī)模市場，用例有限。

服務(wù)器連接的發(fā)展速度比我們一年前的預(yù)期要快。特別是，加速計算的速度轉(zhuǎn)換周期至少比主流市場領(lǐng)先一代。目前，配備NVIDIA H100 GPU的加速服務(wù)器具有高達(dá)400Gbps的網(wǎng)絡(luò)適配器和112Gbps SerDes，一年后下一代GPU 的帶寬將增加一倍。此外，智能NIC的采用繼續(xù)得到普及，但主要局限于超大規(guī)模市場。根據(jù)我們的以太網(wǎng)適配器和智能網(wǎng)卡報告，智能網(wǎng)卡收入在2023年增長了50%以上。

邊緣計算市場的實現(xiàn)進(jìn)展緩慢，我們在最近的電信服務(wù)器報告中降低了預(yù)測，因為需要開發(fā)生態(tài)系統(tǒng)和更具吸引力的用例，并且早期采用者之外的其他采用者受到限制。

根據(jù)我們的數(shù)據(jù)中心IT資本支出報告，隨著市場狀況正?；?，我們預(yù)計數(shù)據(jù)中心資本支出將在2024年恢復(fù)兩位數(shù)增長。加速計算仍將處于超大規(guī)模和企業(yè)市場資本支出計劃的前沿，以支持人工智能相關(guān)和其他特定領(lǐng)域的工作負(fù)載。考慮到加速服務(wù)器的高成本及其專門的網(wǎng)絡(luò)和基礎(chǔ)設(shè)施要求，最終用戶將需要在資本支出優(yōu)先事項上更具選擇性。雖然通用服務(wù)器的部署預(yù)計將在2024年反彈，但我們相信將更加重視提高服務(wù)器效率和利用率，同時限制成本增加。

下面，我們重點(diǎn)介紹了可以增強(qiáng)整體服務(wù)器占用空間優(yōu)化并降低最終用戶總擁有成本的主要趨勢：

我們預(yù)計2023年服務(wù)器單位出貨量將加速增長11%，并預(yù)計五年復(fù)合增長率接近30%。加速服務(wù)器包含GPU、FPGA或自定義ASIC等加速器，在與特定領(lǐng)域的工作負(fù)載匹配時比通用服務(wù)器更高效。GPU可能仍然是訓(xùn)練大型人工智能模型以及運(yùn)行推理應(yīng)用程序的主要選擇。雖然NVIDIA目前在GPU市場占據(jù)主導(dǎo)地位，但我們預(yù)計，隨著客戶尋求更大的供應(yīng)商多樣性，AMD和英特爾等其他供應(yīng)商將隨著時間的推移獲得一些份額。供應(yīng)鏈中更多的選擇可以轉(zhuǎn)化為急需的供應(yīng)可用性和成本降低，從而實現(xiàn)加速計算的可持續(xù)增長。

通用服務(wù)器的計算密度一直在增加，因為CPU的發(fā)展使服務(wù)器的每個CPU具有更多的處理器核心、內(nèi)存和帶寬。AmpereComputingAltraMax、AMD的Bergamo每個處理器最多配備128個核心，而英特爾的GraniteRapids（今年晚些時候上市）每個處理器也將擁有相似數(shù)量的核心。不到七年前，英特爾的 Skylake CPU最多配備28個內(nèi)核。最新一代的CPU還包含針對AI推理工作負(fù)載進(jìn)行優(yōu)化的板載加速器。

超大規(guī)模云SP延長了通用服務(wù)器的更換周期。隨著時間的推移，這一措施會降低通用服務(wù)器的更換成本，從而將更多的資本支出分配給加速系統(tǒng)。

近年來，計算和存儲已被分解，以提高服務(wù)器和存儲系統(tǒng)的利用率。我們相信，基于CXL的下一代機(jī)架規(guī)模架構(gòu)將實現(xiàn)更大程度的分解，有利于計算核心、內(nèi)存和存儲的利用。

原文轉(zhuǎn)自：Data Center Infrastructure—a Look into 2024, Baron Fung, ?DeLL'ORO GROUP