2020年6月19日，英特爾公司在“‘芯’存高遠(yuǎn)，智者更強(qiáng)”的英特爾?數(shù)據(jù)創(chuàng)新峰會(huì)暨新品發(fā)布會(huì)上，圍繞最新推出的 第三代至強(qiáng)可擴(kuò)展處理平臺(tái) 和 人工智能 （AI） 應(yīng)用 ，推出了包括 全新處理器 、 內(nèi)存 、 存儲(chǔ) 、 FPGA 的解決方案，21ic中國(guó)電子網(wǎng)記者應(yīng)邀參加本次發(fā)布會(huì)。

01

第三代英特爾至強(qiáng)可擴(kuò)展處理器

 

首先介紹英特爾全新的 第三代英特爾?至強(qiáng)?可擴(kuò)展處理器 ，新產(chǎn)品的代號(hào)為 “Cooper?Lake” ，仍然采用的是14nm的工藝制造，最高28核心、56線程，這意味著用于8路服務(wù)器將支持多達(dá)224個(gè)處理器內(nèi)核、448線程。而第三代產(chǎn)品線，在 今年下半年將有基于10nm Ice Lake的單路、雙路市場(chǎng)產(chǎn)品推出 ，補(bǔ)充構(gòu)成完整的第三代家族。

 

圖1：第三代至強(qiáng)可擴(kuò)展處理器

 

提到英特爾，個(gè)人用戶首先想到的是 “酷睿” （Core） 或 “奔騰” （Pentium） ，而作為經(jīng)常與服務(wù)器和工作站打交道的電子工程師，則首先會(huì)想到 “至強(qiáng)” （Xeon） 或 “傲騰” （Optane） 。

 

正如字面意思，至強(qiáng)處理器的側(cè)重點(diǎn)便是數(shù)據(jù)處理和穩(wěn)定性，在很久以前至強(qiáng)處理器細(xì)分為E3、E5、E7幾個(gè)系列，名稱剛好對(duì)應(yīng)了i3、i5、i7。但與酷睿不同的是，至強(qiáng)并不集成核心顯卡，另外照顧到全天候運(yùn)行的大型服務(wù)器，普遍來說主頻和超頻性能會(huì)低于酷睿系列，只搭載一個(gè)睿頻加速功能，追求極致的穩(wěn)定性。

 

而在2017年，英特爾推出了全新的產(chǎn)品線英特爾至強(qiáng)可擴(kuò)展處理器，命名上也采用了更加符合主流、直觀易懂的 “銅牌” 、 “銀牌” 、 “金牌” 、 “鉑金” 的分級(jí)。

 

至強(qiáng)處理器到底強(qiáng)在哪？ 多核心、多線程，支持多路CPU ， 支持更大內(nèi)存和內(nèi)存帶寬 ， 支持更高緩存 ， 更豐富的指令集 ， 更穩(wěn)定出色的性能 。

 

英特爾表示，第三代產(chǎn)品與5年前的平臺(tái)相比擁有 1.9倍的平均性能提升 與 1.98倍的數(shù)據(jù)庫性能提升 。

 

圖2：第三代英特爾可擴(kuò)展處理器詳解

需要注意的是，本次推出的第三代至強(qiáng)可擴(kuò)展處理器不單純的是頻率、核心數(shù)、內(nèi)存支持的硬參數(shù)提升，新產(chǎn)品的核心關(guān)鍵點(diǎn)是 首批內(nèi)置bfloat16的主流服務(wù)器CPU ， 還支持最新一代的英特爾?傲騰?持久內(nèi)存200系列 （在第二節(jié)將深入講解） ，部分型號(hào)還支持英特爾Speed Select技術(shù)優(yōu)化處理資源、提高工作負(fù)載和性能利用率。而第三代至強(qiáng)主要面向的主要是 四路 和 八路 系統(tǒng)。

 

圖3：第三代至強(qiáng)處理器的主要突破

 

所謂bfloat16即是英特爾?深度學(xué)習(xí)加速 （英特爾?DL Boost） 功能當(dāng)前主打的指令集技術(shù)，簡(jiǎn)單來說， bfloat16這項(xiàng)技術(shù)可以通過一半的比特?cái)?shù)對(duì)軟件做出很小的修改，便可達(dá)到與32位浮點(diǎn)數(shù) （FP32） 同等水平的模型精度 。

 

圖4：第三代至強(qiáng)處理器內(nèi)置bfloat16

 

據(jù)英特爾公司數(shù)據(jù)中心事業(yè)部副總裁、英特爾至強(qiáng)處理器和存儲(chǔ)事業(yè)部總經(jīng)理LisaSpelman介紹，bfloat16這項(xiàng)功能主要面向人工智能 （AI） 應(yīng)用訓(xùn)練和推理性能加速，搭載4顆第三代至強(qiáng)鉑金8380H處理器的英特爾參考平臺(tái)下， ResNet-50圖像分類訓(xùn)練吞吐量性能提升達(dá)1.93倍 ， BERT Squad推理吞吐量性能提升高達(dá)1.9倍 。

 

圖5：Lisa Spelman對(duì)bfloat16的性能講解

 

從型號(hào)方面來講，Cooper Lake第三代至強(qiáng)可擴(kuò)展處理器擁有 11種不同的型號(hào) ，分為 至強(qiáng)鉑金8300 、 至強(qiáng)金牌6300 、 至強(qiáng)5300 三個(gè)子系列，均以H和HL編號(hào)結(jié)尾，區(qū)別在于 HL支持單路最多4.5TB內(nèi)存 ， H支持1.12 TB內(nèi)存 。

 

圖6：第三代至強(qiáng)可擴(kuò)展處理器具體型號(hào)參數(shù)

 

從型號(hào)上來看，參數(shù)最為強(qiáng)大的至強(qiáng)鉑金8380HL擁有28核心56線程，高速緩存達(dá)38.5MB，最高睿頻頻率4.3GHz，支持思路到八路擴(kuò)展。而其他型號(hào)方面，則根據(jù)需求不同，擁有不同截然不同的參數(shù)選擇，主要針對(duì)AI訓(xùn)練、內(nèi)存密集型應(yīng)用、虛擬機(jī)三種不同應(yīng)用場(chǎng)景平衡成本。

 

02

第二代傲騰持久內(nèi)存

 

上文也提及第三代至強(qiáng)可擴(kuò)展處理器的一大亮點(diǎn)就是支持傲騰持久內(nèi)存200系列，是傲騰持久內(nèi)存的第二代產(chǎn)品，單條最大容量為512GB，熱設(shè)計(jì)功耗可達(dá)12-15瓦。英特爾表示， 在傲騰持久內(nèi)存200系列與上一代持久內(nèi)存相比，內(nèi)存帶寬平均增幅25%，在運(yùn)行要求嚴(yán)苛的工作負(fù)載時(shí)帶寬增加多達(dá)39% 。

 

圖7：英特爾傲騰持久內(nèi)存200系列模組

 

傲騰200系列單條容量上擁有 128GB 、 256GB 、 512GB 三種選擇，熱設(shè)計(jì)功耗分別為15W、18W、18W，最高溫度84℃，而在外部也擁有散熱外殼。

 

圖8：英特爾傲騰200系列單條參數(shù)

 

傲騰系列為何被稱之為持久內(nèi)存？這主要是從特性方面所講的，眾所周知存儲(chǔ)器分為易失存儲(chǔ)器 （DRAM為主） 和非易失存儲(chǔ)器 （NAND為主） ，而 傲騰則屬于介于DRAM和NAND之間的PMem （Persistent memory） ，斷電也不會(huì)丟失數(shù)據(jù)。不過，傲騰系列并非要取代DRAM和NAND，而是與之共存，填補(bǔ)二者之間在容量和性能的空檔。

 

圖9：傲騰技術(shù)與DRAM和NAND共存

 

因此，需要注意的是， 傲騰200系列能夠與傳統(tǒng)DDR 4 DIMM共存 ，共有1.5 TB的DRAM并排占用相同的主板插槽，而第三代至強(qiáng)處理器平臺(tái)支持每個(gè)通道一個(gè)IntelOptanePMem200系列模塊，而這一模塊則是 單個(gè)插槽可支持6條傲騰200內(nèi)存 ，即每個(gè)插槽提供3TB的PMem。

 

DRAM與6條傲騰200內(nèi)存， 相當(dāng)于每個(gè)插槽 （路） 提供4.5 TB的總存儲(chǔ)容量 ！而每路4.5TB， 八路系統(tǒng)就是36 TB的內(nèi)存 ！

圖10：英特爾傲騰持久內(nèi)存200系列詳解

Lisa Spelman表示，自去年2019年4月傲騰持久內(nèi)存問世以來，目前已收貨超過270份訂單，200多家世界500強(qiáng)企業(yè)已采用這項(xiàng)技術(shù)，從POC到銷售轉(zhuǎn)換率超過85%。 軟銀 、 SKTelecom 、 西門子 均從傲騰技術(shù)中獲益，國(guó)內(nèi)企業(yè)則主要包括 金山云 、 快手 、 平安云 、 中通快遞 等。

 

圖11：Lisa Spelman講解傲騰持久內(nèi)存

 

附視頻詳解傲騰持久內(nèi)存200系列：

視頻：英特爾傲騰持久內(nèi)存200系列詳解

03

先進(jìn)的TCL 3D NAND固態(tài)盤

 

除了PMem內(nèi)存以外，英特爾還推出了一款基于最先進(jìn)的 96層TLC 3D NAND介質(zhì)的固態(tài)盤 （SSD） ，采用 Intel PCle Gen4控制器 ，具有增強(qiáng)的管理功能和可擴(kuò)展性，可為AI和大數(shù)據(jù)分析負(fù)載實(shí)現(xiàn)性能與容量的更優(yōu)平衡。

 

英特爾表示，與上一代NVme NAND相比， 在PCle-3的表現(xiàn)上擁有高達(dá)33%的性能提升以及40%的延遲降低 。

 

圖12：采用TLC 3D NAND介質(zhì)的優(yōu)勢(shì)

 

從參數(shù)來看，這些SSD具有U.2 15mm的尺寸，D7-P5500提供 1.92 TB 、 3.84TB 、 7.68 TB 三種選擇，而D7-5600則擁有 1.6 TB 、 3.2 TB 、 6.4 TB 三種選擇。

 

圖13：兩個(gè)系列SSD產(chǎn)品的具體參數(shù)

 

從功能方面來看，兩個(gè)系列SSD產(chǎn)品內(nèi)置 TCGOpal 2.0 和 AES-XTS 256 bit 加密，擁有增強(qiáng)的 SMART監(jiān)控 功能，可使用 Telemetry 2.0 訪問各種存儲(chǔ)數(shù)據(jù)，擁有優(yōu)化的 TRIM架構(gòu) 作為后臺(tái)運(yùn)行而不會(huì)干擾工作負(fù)載，具有內(nèi)置的自檢 Power-Loss imminent （PLI） 功能從而防止在低電量或故障情況下丟失數(shù)據(jù)。

 

04

與眾不同的英特爾Stratix? 10 NX FPGA

 

不難看出，上文所發(fā)布的新產(chǎn)品都是專門為人工智能（AI）而生的，針對(duì)AI英特爾也即將發(fā)布新品Stratix 10 NX FPGA。

 

Stratix? 10 FPGA家族的這款新產(chǎn)品也是 第一款專為AI優(yōu)化的FPGA 。Stratix 10NX FPGA核心芯片采用14nm工藝，與標(biāo)準(zhǔn)的Stratix10 FPGA DSP模塊相比擁有 高達(dá)15倍的INT8吞吐量 ，可實(shí)現(xiàn)高帶寬、低延遲的AI加速。

 

圖14：Stratix 10 NX產(chǎn)品

 

Stratix? 10 NX FPGA為何能在AI上性能如此暴增？關(guān)鍵點(diǎn)有三：

 

其一，內(nèi)置的AI張量塊是針對(duì)AI算法進(jìn)行調(diào)整的。 模塊包含AI應(yīng)用程序中通常使用的密集的較低精度乘法器，而在架構(gòu)上則針對(duì)廣泛AI計(jì)算的通用矩陣-矩陣或矢量-矩陣乘法進(jìn)行了調(diào)整，從而高效支持大小矩陣。

 

另外，AI張量塊乘法器具有INT8和INT4的基本精度，通過共享指數(shù)支持硬件支持FP16和FP12數(shù)字格式。所有加法或累加都可以使用INT32或IEEE754單精度浮點(diǎn)（FP32）精度執(zhí)行，并且多個(gè)AI張量塊可以級(jí)聯(lián)在一起以支持更大的矩陣。

 

圖15：AI張量塊高層示意圖

 

其二，使用了EMIB堆疊了HBM2和高帶寬DRAM。 集成的內(nèi)存堆棧允許將大型的持久AI模型存儲(chǔ)在芯片上，從而通過較大內(nèi)存帶寬降低延遲，幫助解決大型模型中的內(nèi)存受限性能挑戰(zhàn)。

 

圖16：Stratix 10 NX FPGA使用EMIB技術(shù)

 

其三，擁有高達(dá)57.8G PAM4收發(fā)器，并采用了硬知識(shí)產(chǎn)權(quán) （IP） 。 提供了多節(jié)點(diǎn)的AI推理解決方案所需的可擴(kuò)展性和靈活性，從而減少或消除在多節(jié)點(diǎn)設(shè)計(jì)中的帶寬連接這一限制因素。

 

05

新產(chǎn)品成效明顯

 

隨著第三代至強(qiáng)可擴(kuò)展處理器平臺(tái)及相關(guān)產(chǎn)品的發(fā)布，國(guó)內(nèi)廠商也在跟進(jìn)之中。

會(huì)上，騰訊云副總裁劉穎表示， 從1998年騰訊成立之初就已攜手英特爾持續(xù)在數(shù)據(jù)中心的基礎(chǔ)設(shè)施建設(shè)領(lǐng)域進(jìn)行了技術(shù)合作。

 

他表示，隨著第三代至強(qiáng)的發(fā)布，也將推出一系列的全新云產(chǎn)品?；诘谌⑻貭栔翉?qiáng)可擴(kuò)展處理器，騰訊星星海實(shí)驗(yàn)室自研了首款四路服務(wù)器。這個(gè)服務(wù)器采用了騰訊全新定制的英特爾高密CPU，整機(jī)密度較上一代提升了116%。

 

基于新的英特爾處理器，騰訊云推出的云開發(fā)Serverless服務(wù)啟動(dòng)時(shí)間不超過100毫秒，處于行業(yè)領(lǐng)先。

 

圖17：騰訊云與英特爾在數(shù)據(jù)中心計(jì)算上已合作22年

 

這款四路服務(wù)器通過差異化的散熱器方案，使CPU單點(diǎn)的散熱能力提升22%，大幅降低了CPU溫度；風(fēng)扇節(jié)能達(dá)30%。同時(shí)，繼續(xù)使用英特爾RAS技術(shù)，使得設(shè)備宕機(jī)率下降高達(dá)50%，大幅提升了系統(tǒng)穩(wěn)定性。

 

無獨(dú)有偶，金山云CDN及視頻云產(chǎn)品中心總經(jīng)理宗劼表示， 金山云也與英特爾持續(xù)在優(yōu)化AI處理效果，在使用英特爾各種技術(shù)后，整體媒體處理效應(yīng)上提升130%。

 

“在邊緣服務(wù)器上，金山云與英特爾緊密合作，通過使用最新的SSD技術(shù)，利用SSD+MemCache+AIO的第三代DMA技術(shù)，使得整個(gè)邊緣的處理能力提升400%。同時(shí)在網(wǎng)絡(luò)傳輸上面，通過與英特爾的合作，使得PAAS的邊緣處理效能提升了超過200%?！?/span>

 

國(guó)電南瑞集團(tuán)子矜技術(shù)團(tuán)隊(duì)首席架構(gòu)師徐戟表示， 傳統(tǒng)的運(yùn)維自動(dòng)化系統(tǒng)只是針對(duì)一些單一指標(biāo)進(jìn)行計(jì)算，這種CPU的消耗量是很小的。但如果每個(gè)模型都需計(jì)算，就是大量的計(jì)算資源。如果數(shù)據(jù)中心當(dāng)中有幾十萬臺(tái)設(shè)備，這樣的計(jì)算量是相當(dāng)大的，所以要通過分布式的方法進(jìn)行計(jì)算。在此方面，正在與英特爾的聯(lián)合團(tuán)隊(duì)進(jìn)行健康模型進(jìn)行深度分析和優(yōu)化。通過目前的效果來看，取得了不錯(cuò)的效果，對(duì)預(yù)測(cè)的準(zhǔn)確性和時(shí)長(zhǎng)都有了很大的提高。

 

06

為何都是AI相關(guān)產(chǎn)品

 

英特爾緣何在本次發(fā)布會(huì)上一口氣發(fā)布如此多AI相關(guān)產(chǎn)品？英特爾公司市場(chǎng)營(yíng)銷集團(tuán)副總裁兼中國(guó)區(qū)總經(jīng)理王銳告訴記者，這是因?yàn)橛⑻貭柲壳笆且患乙詳?shù)據(jù)為驅(qū)動(dòng)力的廠商，而智能技術(shù)的洞察則圍繞在終端客戶的需求上，具體體現(xiàn)在三點(diǎn)：

 

1、現(xiàn)在是行業(yè)轉(zhuǎn)折性技術(shù)的歷史交匯，推動(dòng)智能進(jìn)入新的發(fā)展拐點(diǎn)。AI讓網(wǎng)絡(luò)和邊緣更智能，5G和邊緣讓AI無處不在，AI和5G讓邊緣解鎖新機(jī)遇。AI、5G、智能邊緣的三方匯合，創(chuàng)造了智能技術(shù)飛速更新迭代的需求和條件。

 

2、當(dāng)前正在爆發(fā)的云經(jīng)濟(jì)，以后會(huì)成為常態(tài)，這也會(huì)促進(jìn)整個(gè)產(chǎn)業(yè)乃至社會(huì)加速向智能化轉(zhuǎn)型。

 

3、更值得期待的是，AI、5G、智能邊緣的組合加上云經(jīng)濟(jì)的催化會(huì)為新業(yè)務(wù)的增長(zhǎng)帶來巨大發(fā)展機(jī)遇。

 

王銳認(rèn)為，推動(dòng)智能變革需要重點(diǎn)解決三大挑戰(zhàn)：

 

1、傳統(tǒng)基礎(chǔ)設(shè)施已經(jīng)不能滿足智能化的新需求，很多企業(yè)需要從云到端實(shí)現(xiàn)基礎(chǔ)設(shè)施的升級(jí)。

 

2、應(yīng)用場(chǎng)景多元復(fù)雜，要推動(dòng)智能規(guī)?；瘧?yīng)用，就需要根據(jù)需求制定不同的解決方案。

 

3、生態(tài)還處于發(fā)展早期，只有生態(tài)高度協(xié)作才能帶來產(chǎn)業(yè)效益的最大化。

眾所周知，英特爾是一家產(chǎn)品覆蓋 CPU 、 FPGA 、 ASIC 、 封裝 、 存儲(chǔ) 、 軟件 等方面的 IDM廠商 ，擁有著構(gòu)建全面產(chǎn)品的領(lǐng)導(dǎo)力。因此基于趨勢(shì)和挑戰(zhàn)，英特爾推出了一套的解決方案。

 

圖18：英特爾公司市場(chǎng)營(yíng)銷集團(tuán)副總裁兼中國(guó)區(qū)總經(jīng)理王銳

 

英特爾公司市場(chǎng)營(yíng)銷集團(tuán)副總裁 兼中國(guó)區(qū)行業(yè)解決方案部總經(jīng)理梁雅莉表示，英特爾的價(jià)值包含在客戶的解決方案之中。作為一家技術(shù)產(chǎn)品提供商，英特爾一直在不斷推出新的產(chǎn)品和技術(shù)，來積極配合客戶的數(shù)字化需求。

 

她表示，“在中國(guó)，發(fā)展產(chǎn)業(yè)生態(tài)最重要的一點(diǎn)，是要真正扎根于本土的市場(chǎng)特點(diǎn)和用戶需求。中國(guó)是英特爾全球最大的單一區(qū)域市場(chǎng)，在互聯(lián)網(wǎng)的“上半場(chǎng)”、也就是消費(fèi)者互聯(lián)網(wǎng)的發(fā)展歷程中，中國(guó)已經(jīng)成為全球的領(lǐng)先者。

現(xiàn)在隨著“新基建”的推進(jìn)、5G的大發(fā)展，中國(guó)必定會(huì)成為互聯(lián)網(wǎng)“下半場(chǎng)”的領(lǐng)跑者，這是一個(gè)產(chǎn)業(yè)互聯(lián)網(wǎng)狂飆突進(jìn)的階段。產(chǎn)業(yè)市場(chǎng)的需求會(huì)比消費(fèi)者市場(chǎng)更多樣、更復(fù)雜，從而也有更多的技術(shù)方案提供商，分布在大大小小的各個(gè)行業(yè)。英特爾未來的成功，離不開與眾多的老朋友新伙伴在產(chǎn)業(yè)互聯(lián)網(wǎng)的新時(shí)代深化合作?！?/strong>

圖19：英特爾公司市場(chǎng)營(yíng)銷集團(tuán)副總裁兼中國(guó)區(qū)行業(yè)解決方案部總經(jīng)理梁雅莉

 

在發(fā)布會(huì)的最后，王瑞表示，英特爾的2030年戰(zhàn)略及目標(biāo)建立在持續(xù)履行企業(yè)社會(huì)責(zé)任的承諾上，并誠邀大家通過科技賦能，集體行動(dòng)創(chuàng)造一個(gè)負(fù)責(zé)任的、包容的和可持續(xù)的未來。

 

圖20：英特爾2030年目標(biāo)和實(shí)現(xiàn)路徑

 

-END-

推薦閱讀

【1】“?！敝杏小皺C(jī)”，Intel放大招

【2】英特爾發(fā)布全球最大容量FPGA，問題來了：FPGA和ASIC孰優(yōu)孰劣？

【3】終于整理齊了，電子工程師“設(shè)計(jì)錦囊”，你值得擁有！

【4】半導(dǎo)體行業(yè)的人都在關(guān)注這幾個(gè)公眾號(hào)

你和大牛工程師之間到底差了啥？

加入技術(shù)交流群，與高手面對(duì)面 

添加管理員微信

加入“中國(guó)電子網(wǎng)微信群”交流