自2023年底第五代英特爾^®至強^®可擴展處理器發(fā)布以來，這款專為AI加速而生的CPU就一直在業(yè)內保持著很高的熱度，其強大的算力、出色的性能、成熟的生態(tài)、廣泛的合作伙伴等，都讓人們對它的期待值日益高漲。

第五代至強可擴展處理器發(fā)布至今，它到底有哪些新特性值得關注？具體應用實踐情況又是如何？

為了讓大家有個全面的了解，在近日舉辦的2024英特爾數(shù)據(jù)中心產(chǎn)品技術媒體分享會上，多位英特爾技術專家從技術特性、產(chǎn)品價值、實踐應用等角度對其進行了詳細介紹。

提升軟硬件，打造至強“芯”

最近一年多來，人類在算法、計算等方面取得的突破，讓生成式AI實現(xiàn)了令人驚嘆的進展。

數(shù)據(jù)顯示，全球約有58%的企業(yè)都會運用到生成式AI；預計到2026年，生成式AI市場規(guī)模有望增長至3000億美元，這其中包括硬件、軟件、解決方案等；到2028年，大約80%以上的PC產(chǎn)品將會轉換成AI PC；屆時，人們將通過AI PC提高工作效率，釋放更多的生產(chǎn)力和創(chuàng)造力。

在這場AI的革命浪潮中，英特爾作為計算領域的引領者，自然要走在行業(yè)的最前沿。而第五代至強的問世，就是邁向成功的第一步。

據(jù)英特爾市場營銷集團副總裁、中國區(qū)數(shù)據(jù)中心銷售總經(jīng)理兼中國區(qū)運營商銷售總經(jīng)理莊秉翰介紹，去年年底發(fā)布的第五代至強，主要面向生成式AI設計的，是英特爾迄今為止可持續(xù)性最強的數(shù)據(jù)中心處理器，并且與上一代英特爾^®至強^®可擴展處理器相比，都有著較大幅度的升級。

具體來說，在硬件方面，其核數(shù)和不同的性能指標都達到了行業(yè)領先水平?！暗谖宕翉娮疃鄵碛?4個核；同時，我們也通過和AI相關的新的指令集，如AMX、AVX等來提高主頻和性能。這些性能的提升，對一些生成式AI的應用也有很大幫助。當然還有其他和AI相關的，比如提高內存的帶寬等。”莊秉翰介紹說。

據(jù)悉，第五代至強在業(yè)界數(shù)據(jù)中心級的處理器當中，擁有較高內存帶寬，能夠達到5600MT/s。英特爾通過加大三級緩存，即把三級緩存的容量提升了三倍，使得數(shù)據(jù)處理無需內存，直接在芯片內部就可以進行處理。

針對這款處理器，除了硬件提升之外，英特爾在軟件生態(tài)方面也做出了很大調整。

“隨著第五代至強的發(fā)布，我們上傳了300個以上的深度學習模型到社區(qū)，也支持50個以上的基于機器學習的、且基于第五代至強優(yōu)化過的模型，這些開發(fā)者都可以調用?！鼻f秉翰談到，不僅如此，我們還更新了AI開發(fā)軟件，可以在第五代至強上的應用做到較大優(yōu)化；同時加大了對主流大模型、生成式AI模型的框架投入，如PyTorch和TensorFlow等，讓使用PyTorch和TensorFlow開發(fā)的資產(chǎn)，均可以無縫拓展至英特爾至強可擴展處理器上。

總之，基于硬件和軟件的優(yōu)化，第五代至強與第四代至強相比，在AI訓練、實時推理、批量推理上，基于不同的算法，都可以看到不同性能的提升，最高可提升40%。

增強架構設計，助力CPU迭代升級

為了改善工作負載的性能，第五代至強在架構設計方面也進行了增強，這主要表現(xiàn)為五個方面：

一是，制程技術的改進。據(jù)英特爾資深技術專家介紹，制程是半導體領域離不開的話題，第四代和第五代至強都是基于Intel 7的制程，采用的是Dual-poly-pitch SuperFin晶體管技術。為了展現(xiàn)第五代至強的卓越性能，我們在關鍵技術指標做了改進，特別是在系統(tǒng)的漏電流控制和動態(tài)電容方面，這兩項指標都對整個晶體管的性能表現(xiàn)有著較大的影響。通過這些調整，第五代至強在同等功耗下的頻率可以提升3%（其中2.5%是由漏電流控制貢獻的，動態(tài)電容下降貢獻了0.5%）。

二是，芯片布局的改變。現(xiàn)階段，人們對服務器的算力要求越來越高，因此需要在里面放更多的核心，以及更多的內存帶寬。但這就意味著會有更多的IO，會使芯片面積不斷增加。為了解決這一問題，第五代至強對芯片切分方式做了調整，把原來芯片分為四個部分的做法變成切為兩份，這樣就可以更好的對芯片的質量和面積進行控制。

三是，性能能效的提升。為了說明第五代至強在性能能效方面的優(yōu)勢，英特爾官方給出了兩組數(shù)據(jù)：一個是常規(guī)的整數(shù)計算，相較于上一代，第五代至強針對AI負載的性能大幅提升了42%；二是SoC芯片拓撲結構的改變，把原來的4芯片封裝改為2芯片封裝，使芯片之間的功耗減少，從而將更多功耗放在處理器的性能提升上。

四是，三級緩存（LLC）的增加。正如前面提到的，把三級緩存的容量提升三倍，可以使數(shù)據(jù)處理無需內存，直接在芯片內部進行處理。“現(xiàn)在我們每個模塊的LLC容量都從1.875MB增加到了5MB，這個提升是非常大的，所以第五代至強有著高達320MB的緩存。”該技術專家解釋說。

五是，內存IO的擴展。第五代至強的DDR速度從4800MT/s提升到了5600MT/s，可以確保高度的信號完整性。要知道，實現(xiàn)這一過程并不容易，因為所有內存速度的增加，都是在現(xiàn)有的基板和PCB的基礎上去實現(xiàn)的。所以，要想達到更高的速度，就需要從芯片設計到基板設計，以及鏈路上一系列整體的提升。為此，英特爾做了很多優(yōu)化，包括一些MIM的內存、基板上走線的提升，以及片上的低噪聲的供電措施等。

發(fā)揮資源優(yōu)勢，持續(xù)貢獻更多力量

除了核心技術、架構細節(jié)之外，第五代至強在解決方案和實踐應用中的表現(xiàn)同樣值得一提。

在英特爾看來，解決方案的目的其實很簡單，就是將底層硬件的能力充分發(fā)揮出來，真正將硬件能力轉化為用戶價值。而為了實現(xiàn)這一目標，英特爾投入了大量資源，比如在工藝、微架構、系統(tǒng)、生態(tài)上的投入，以及在數(shù)據(jù)安全和模型安全等方面的投入，這些英特爾都有端到端的解決方案。

據(jù)介紹，在云計算時代，英特爾在虛擬化技術上投入了“重兵”，在提升虛擬化效率的同時，也減少了對底層硬件的損耗。而到了AI時代亦是如此，其AI推理能力比上一代大幅提升了42%，同時核數(shù)也增加了，內存帶寬也更多了，三級緩存容量也增大了，英特爾同樣也在努力發(fā)揮著這些硬件能力。

“過去的10年，英特爾致力于構建一個完備的生態(tài)，通過軟、硬件結合幫助生態(tài)合作伙伴們充分挖掘和利用底層CPU能力?？梢哉f，我們挖掘CPU的能力并非是單一的?！庇⑻貭柤夹g專家表示，CPU就像是一位大俠，十八般武藝樣樣精通，一個人可以應對很多人，單打獨斗能力很強；而GPU更像是一支軍隊，人數(shù)眾多，執(zhí)行的任務簡單且并發(fā)高。所以，CPU和GPU適用的場景是不同的。面向AI時代，英特爾正在逐步優(yōu)化CPU的架構，讓性能得到不斷的提升。

會上，英特爾官方還分享了幾個關于第五代至強的應用案例，在展示該處理器強大的同時，也進一步體現(xiàn)了英特爾擁有開放生態(tài)的共贏格局。

在技術革新的道路上，英特爾永不止步。據(jù)官方透露，繼第五代至強之后，2024年還會發(fā)布全新一代的至強可擴展處理器，并且將迎來豐富的產(chǎn)品組合，可以同時滿足性能的要求和社會對能耗的要求。

除此之外，英特爾還將計劃推出下一代的P-core（性能核）和E-core（能效核）處理器。其中，P-core看重的是整體性能的提升，而E-core則看重的是每瓦帶來的性能提升。未來，底層能源的利用率便是企業(yè)最大的優(yōu)勢，誰的能源利用率高、轉化率高，誰就更有競爭力。