越來越多的現(xiàn)代云數(shù)據(jù)中心內的工作負載正在按照微服務集合的結構進行整合。雖然微服務導向的架構有很多好處，但也因為聚合的特點而造成了大量的通信開銷，而用于這種基礎設施開銷的CPU循環(huán)不會為云服務提供商產生收入。Srirama、Dhanota等人近期發(fā)表的一篇論文發(fā)現(xiàn)， 超大規(guī)模數(shù)據(jù)中心的微服務開銷高達31-83%1，如下圖所示。

在某些情況下，絕大多數(shù)CPU循環(huán)用于開銷

英特爾近期發(fā)布了基礎設施處理器（IPU）。通過基于IPU的架構，云服務提供商可以把基礎設施任務從CPU轉移到IPU，而釋放的服務器CPU循環(huán)可用于處理能夠產生收益的任務，這樣就可以將從數(shù)據(jù)中心獲得的收入最大化。通過把基礎設施任務轉移到IPU，云服務提供商可以把服務器CPU全部租賃給客戶。

云數(shù)據(jù)中心就像酒店，而不是家

我們可以用酒店和家進行簡單的類比，這有助于解釋工作負載所有權的劃分，而正是這種劃分推動了IPU的發(fā)展。在我的家里，我希望能夠輕易地從客廳走到廚房或餐桌，因此我們設計了一個開放式的廚房，將所有功能都集中在一個大房間中，這樣我們就可以輕松地從一個區(qū)域轉移到另一個區(qū)域。

酒店則不同，客房、餐廳和廚房是不同的區(qū)域。酒店員工的工作區(qū)域與酒店客人的餐飲、休憩和會議區(qū)域嚴格分離。通常，酒店里會有很多道門將內部不同的功能區(qū)分開，有時出于安保原因，你甚至需要佩戴胸牌才能穿過賓客區(qū)和員工區(qū)之間的門。

酒店和獨立住宅擁有不同的設計

類似于酒店劃分住客和員工活動的不同區(qū)域，包含IPU的數(shù)據(jù)中心架構也對租戶和云服務提供商的工作負載進行區(qū)隔。通過把IPU引入數(shù)據(jù)中心來實施基礎設施功能，云服務提供商的基礎設施工作負載將在IPU上運行，這就解除了服務器CPU的負擔，使其用于運行更多租戶的應用。

基于IPU的數(shù)據(jù)中心架構具備以下幾大優(yōu)勢：

? 可以嚴格分離基礎設施功能和租戶的工作負載，更好地隔離這些功能將大大加強系統(tǒng)安全。

? 租戶可以全面掌控服務器CPU，并獲得其全部的性能。

? 基礎設施工作負載的飆升不再會造成服務器CPU的性能問題。如上面的統(tǒng)計所示，這一問題在傳統(tǒng)數(shù)據(jù)中心的架構模式下日趨嚴重。

? 通過把基礎設施任務從CPU轉移到IPU，可以讓服務器CPU處理可以產生收益的任務，云服務提供商可以從數(shù)據(jù)中心獲取最大化的收入。通過把基礎設施任務轉移到IPU，云服務提供商可以把服務器CPU全部租賃給客戶。

? IPU專門處理基礎設施任務而不是通用任務，它可以應用硬件加速并更精細地優(yōu)化計算，從而大幅提高性能和能效。

? IPU能夠讓云數(shù)據(jù)中心實現(xiàn)全面的無磁盤服務器架構。在傳統(tǒng)的企業(yè)數(shù)據(jù)中心架構中，每臺服務器擁有自己的一套磁盤驅動器和固態(tài)盤。

由于難以預測每個租戶的存儲使用情況，在傳統(tǒng)數(shù)據(jù)中心架構中，每臺服務器必須超額配置存儲資源，才能應對高峰期存儲負載。在無磁盤服務器架構下，中央服務為所有租戶提供存儲資源。下圖顯示了一種可能的無磁盤服務器架構。

通過網絡利用虛擬存儲進行擴展

管理一項中央存儲服務比管理數(shù)據(jù)中心中數(shù)十萬臺服務器的存儲資源要容易得多，效率也高得多。

數(shù)據(jù)中心演進

幾年來，英特爾與包括微軟、百度、京東和 VMware 在內的大型云服務提供商緊密合作，持續(xù)推動數(shù)據(jù)中心產品的創(chuàng)新與演進。通過基于英特爾® 至強® D處理器、英特爾® FPGA 和以太網組件的產品，我們成為IPU市場的量產領先者。英特爾與超大規(guī)模合作伙伴聯(lián)手，設計推出了第一代 基于FPGA的IPU 平臺，并且已經部署在多個云服務提供商自有并負責運營的數(shù)據(jù)中心內。

在FPGA產品進入IPU領域的五年間，我們觀察到超大規(guī)模云服務提供商正在分階段實現(xiàn)IPU的價值：

? 第一階段：加速網絡——把虛擬交換機和防火墻等常見網絡任務從服務器CPU轉移到IPU。把流量查找和封裝/解封等用戶面功能（UPF）從CPU轉移到IPU，從而釋放CPU循環(huán)。

? 第二階段：加速存儲——把存儲堆棧從服務器CPU轉移到IPU，提高了存儲吞吐量，并降低了存儲的復雜性、開銷和管理負擔。

? 第三階段：加速安全——轉移加密/解密、壓縮和其它消耗服務器CPU循環(huán)的安全功能。（這些安全功能經常與第二階段轉移的存儲功能搭配）。此外，IPU可以開啟主機系統(tǒng)的啟動和配置，而通過隔離安全功能和提供與CPU分離的信任根，此舉可以進一步加強安全。

? 第四階段：基礎設施處理——或許是最精妙的用途，把虛擬機管理程序服務管理功能從CPU轉移到IPU。

目前的基于FPGA的英特爾IPU 將英特爾® Stratix® 10 FPGA 和英特爾至強 D 處理器進行整合。它們將優(yōu)化的加速器（基于可配置、基于 FPGA 的數(shù)據(jù)路徑）與軟件可編程 的CPU 相結合，可以安全地加速和管理數(shù)據(jù)中心的基礎設施功能。

這種混合 IPU 架構可以以硬件的速度進行網絡管理，其超高的軟件靈活性可以使用戶更輕松地實施控制面功能。使用 FPGA 板載資源的基于硬件的數(shù)據(jù)路徑和基于軟件的控制平面與 IPU 的板載處理器上的基礎設施 OS 堆棧一起運行的可編程性使這些 IPU 變得強大?；谟布臄?shù)據(jù)路徑(使用FPGA的板載資源)和基于軟件的控制平面(與IPU的板載處理器上的基礎架構操作系統(tǒng)堆棧一起運行)所提供的可編程性使得IPU具有強大的性能表現(xiàn)。 而IPU 與 SmartNIC 的不同之處在于，它是一個安全、獨立的控制點，租戶工作負載無法直接訪問。

英特爾未來的IPU和智能網卡

未來，我們將推出更多基于FPGA的IPU平臺和專用 ASIC，這些解決方案建立在強大的軟件基礎之上，使云運營商和生態(tài)系統(tǒng)廠商能夠構建領先的云編排軟件。在近期舉行的英特爾架構日上，我們?yōu)镮PU系列引入了兩個新的成員——Mount Evans 和 Oak Springs Canyon，以及此前代號為 Arrow Creek的英特爾 N6000 加速開發(fā)平臺。

作為成功的 Big Spring Canyon 平臺的后續(xù)產品，Oak Springs Canyon（OSC）是一個基于英特爾® Agilex? FPGA的平臺，其目前在性能、功耗和工作負載效率方面領先整個FPGA行業(yè)2。OSC 與基于英特爾至強CPU的服務器協(xié)同工作，提供卸載2x100G 工作負載所需的基礎設施加速。OSC 擁有豐富的軟件生態(tài)系統(tǒng)，并針對英特爾® CPU進行了優(yōu)化，同時還采用了英特爾開放 FPGA 堆棧，這是一個可擴展、開源軟硬件基礎設施堆棧，使我們的合作伙伴和客戶能夠開發(fā)定制的解決方案。OSC的能力和特性能夠滿足新興云服務提供商對于部署100GB工作負載的需求。

英特爾的另一個新開發(fā)項目是此前的代號為 Arrow Creek的英特爾 N6000 加速開發(fā)平臺，它是一個基于 FPGA 的智能網卡100GbE網絡加速開發(fā)平臺（ADP）。它是在英特爾® FPGA 可編程加速卡（英特爾® FPGA PAC）N3000取得成功的基礎之上開發(fā)的，后者目前已經被部署在一些世界頂級通信服務提供商運營的數(shù)據(jù)中心內?；谟⑻貭朅gilex FPGA 和英特爾® 以太網控制器E810，這個全新的英特爾N6000加速開發(fā)平臺，將能夠與基于英特爾處理器的服務器搭配使用，并支持多種類型的基礎設施任務，以幫助電信運營商提供靈活的加速工作負載，例如Juniper Contrail、OVS 和 SRv6。

英特爾宣布了第一款 ASIC IPU，代號為Mount Evans，是我們與大型云服務提供商聯(lián)合設計開發(fā)的。Mount Evans IPU基于同類最佳的數(shù)據(jù)包處理引擎，能夠在ASIC上進行實例化，它支持大量的現(xiàn)有使用場景，例如vSwitch卸載、防火墻和虛擬路由，并為未來使用場景留出顯著空間。通過擴展英特爾經過驗證的高性能傲騰NVMe控制器而開發(fā)的另外一項技術讓Mt. Evans能夠模擬NVMe設備。 在FPGA IPU上運行的相同英特爾基礎設施操作系統(tǒng)也將能夠在Mount Evans上運行。

下一代可靠傳輸協(xié)議以及我們先進的加密和壓縮加速器也都是 Mount Evans IPU的其它技術創(chuàng)新。我們與云服務提供商合作伙伴在下一代可靠傳輸協(xié)議上進行了聯(lián)合創(chuàng)新，以解決有損網絡上的長尾時延問題。

IPU：云服務提供商新的戰(zhàn)略性資源

IPU是英特爾云計算戰(zhàn)略中的一個戰(zhàn)略性組成部分。我們領先的IPU產品組合為通用基礎設施奠定了基礎，使我們的云客戶能夠在不久的將來，在異構數(shù)據(jù)中心架構中充分利用其通用計算、XPU和加速資源。這些功能的融合完美契合了持續(xù)的微服務發(fā)展趨勢，并提供機會來構建與高速硬件網絡組件和通用軟件框架相匹配的優(yōu)化、基于功能的基礎設施。IPU 為云服務提供商提供了重新布局數(shù)據(jù)中心架構、加速云計算以及在數(shù)據(jù)中心的每個服務器 CPU上托管更多創(chuàng)收服務，即在虛擬機上運行租戶應用程序的機會。

憑借其提高性能、降低成本和提供更好的云數(shù)據(jù)中心架構的能力，我們認為 IPU 將成為未來數(shù)據(jù)中心設計的戰(zhàn)略元件。

作者：Patricia Kummrow，英特爾公司網絡與邊緣事業(yè)部副總裁兼以太網產品部總經理