對于內(nèi)存而言，辨別內(nèi)存帶寬是一件相當簡單的事情，因為SDRAM、DDR、RDRAM這三種內(nèi)存在外觀上有著很大的差別，唯一需要去辨認的便是不同頻率的DDR內(nèi)存。

      隨著深度學習的不斷發(fā)展，計算能力得到了深度學習社區(qū)越來越多的注意。任何深度學習模型，歸根到底都是需要跑在設備上的，而模型對設備性能的要求越低，則能得到越多的運用——千萬不能讓硬件成為模型普及的瓶頸！

　　說到模型對于硬件的要求，大家第一個想到的就是計算量，即一個深度學習模型需要多少次計算才能完成一次前饋。然而，除了運算量之外，模型對于內(nèi)存帶寬的需求也是影響實際計算所需要時間的重要參數(shù)。我們下面會看到，在內(nèi)存帶寬有限的情況下，僅僅縮小計算量并不能讓計算時間等比例下降！

　　內(nèi)存帶寬對于硬件系統(tǒng)的性能影響如上圖所示。如果把內(nèi)存比做瓶子，運算單元比作杯子，那么數(shù)據(jù)就是瓶子里的各色顆粒，而內(nèi)存接口就是瓶口，通過瓶口數(shù)據(jù)才能進入杯子被消費（處理）掉。而內(nèi)存帶寬就是瓶口的寬度了。瓶口寬度越窄，則數(shù)據(jù)需要越多時間才能進入杯子（處理單元）。正所謂「巧婦難為無米之炊」，如果帶寬有限，那么即使處理單元無限快，在大多數(shù)時候也是處理單元在空等數(shù)據(jù)，造成了計算力的浪費。

　　對于工程師來說，定性分析并不夠，我們還需要能定量分析算法對于內(nèi)存帶寬的需求，以及對于計算性能的影響。

　　算法對于內(nèi)存帶寬的需求通常使用「運算強度 （operaTIonal intensity，或稱 arithmeTIc intensity）」這個量來表示，單位是 OPs/byte。這個量的意思是，在算法中平均每讀入單位數(shù)據(jù)，能支持多少次運算操作。運算強度越大，則表示單位數(shù)據(jù)能支持更多次運算，也就是說算法對于內(nèi)存帶寬的要求越低。所以，運算強度大是好事！

　　我們來舉一個例子。對于步長（stride）為 1 的 3x3 卷積運算，假設輸入數(shù)據(jù)平面大小為 64x64。簡單起見，假設輸入和輸出 feature 都為 1。這時候，總共需要進行 62x62 次卷積運算，每次卷積需要做 3x3=9 次乘加運算，所以總共的計算次數(shù)為 34596，而數(shù)據(jù)量為（假設數(shù)據(jù)和卷積核都用單精度浮點數(shù) 2byte）：64x64x2（輸入數(shù)據(jù)）+ 3x3x2（卷積核數(shù)據(jù)）= 8210 byte，所以運算強度為 34596/8210=4.21。如果我們換成 1x1 卷積，那么總的計算次數(shù)變成了 64x64=4096，而所需的數(shù)據(jù)量為 64x64x2 + 1x1x2=8194。顯然，切換為 1x1 卷積可以把計算量降低接近 9 倍，但是運算強度也降低為 0.5，即對于內(nèi)存帶寬的需求也上升了接近 9 倍。因此，如果內(nèi)存帶寬無法滿足 1x1 卷積計算，那么切換成 1x1 卷積計算雖然降低了接近 9 倍計算量，但是無法把計算速度提升 9 倍。

　　這里，我們可以看到，深度學習計算設備存在兩個瓶頸，一個是處理器計算能力，另一個是計算帶寬。如何分析究竟是哪一個限制了計算性能呢？可以使用 Roofline 模型。

　　典型的 Roofline 曲線模型如上圖所示，坐標軸分別是計算性能（縱軸）和算法的運算強度（橫軸）。Roofline 曲線分成了兩部分：左邊的上升區(qū)，以及右邊的飽和區(qū)。當算法的運算強度較小時，曲線處于上升區(qū)，即計算性能實際被內(nèi)存帶寬所限制，有很多計算處理單元是閑置的。隨著算法運算強度上升，即在相同數(shù)量的數(shù)據(jù)下算法可以完成更多運算，于是閑置的運算單元越來越少，這時候計算性能就會上升。然后，隨著運算強度越來越高，閑置的計算單元越來越少，最后所有計算單元都被用上了，Roofline 曲線就進入了飽和區(qū)，此時運算強度再變大也沒有更多的計算單元可用了，于是計算性能不再上升，或者說計算性能遇到了由計算能力（而非內(nèi)存帶寬）決定的「屋頂」（roof）。拿之前 3x3 和 1x1 卷積的例子來說，3x3 卷積可能在 roofline 曲線右邊的飽和區(qū)，而 1x1 卷積由于運算強度下降，有可能到了 roofline 左邊的上升區(qū)，這樣 1x1 卷積在計算時的計算性能就會下降無法到達峰值性能。雖然 1x1 卷積的計算量下降了接近 9 倍，但是由于計算性能下降，因此實際的計算時間并不是 3x3 卷積的九分之一。

　　顯然，一個計算系統(tǒng)的內(nèi)存帶寬如果很寬，則算法不需要運算強度很大也能輕易碰到計算能力上限決定的「屋頂」。在下圖中，計算能力不變，而隨著內(nèi)存帶寬的上升，達到計算力屋頂所需的運算強度也越低。

　　Roofline 模型在算法-硬件協(xié)同設計中非常有用，可以確定算法和硬件優(yōu)化的方向：到底應該增加內(nèi)存帶寬/減小內(nèi)存帶寬需求，還是提升計算能力/降低計算量？如果算法在 roofline 曲線的上升區(qū)，那么我們應該增加內(nèi)存帶寬/減小內(nèi)存帶寬需求，提升計算能力/降低計算量對于這類情況并沒有幫助。反之亦然。

　　我們來看一個實際的例子，比較一下各種機器學習算法在 roofline 模型上所處的位置。下圖取自 Google 的 TPU 論文《In-Datacenter Performance Analysis of a Tensor Processing Unit》。由圖中可見，LSTM 算法的運算強度最低，所以被卡在了 roofline 模型的上升區(qū)中間的地方，即 TPU 在執(zhí)行 LSTM 算法的時候，由于內(nèi)存帶寬限制所以性能只有 3TOPS 左右，僅為峰值性能（90TOPS）的三十分之一。經(jīng)典全聯(lián)接神經(jīng)網(wǎng)絡（mulTI-layer perceptrons， MLP）的運算強度略好于 LSTM，也被卡在 roofline 曲線的上升區(qū)，實際執(zhí)行性能大約在 10TOPS 左右。而卷積神經(jīng)網(wǎng)絡模型，尤其是 CNN0，由于卷積神經(jīng)網(wǎng)絡中能實現(xiàn)卷積核復用，因此運算強度非常高，于是可以非常接近 TPU roofline 曲線的屋頂（86 TOPS）。CNN1 模型雖然運算強度也很高，但是由于種種其他原因（論文中表示是由于 CNN1 模型的特征深度較淺無法完全利用 TPU 的計算單元）無法到達屋頂。這個例子又讓我們看到了硬件-算法協(xié)同設計時的另一個要點：除了內(nèi)存帶寬之外還有「其他原因」可能讓算法無法到達屋頂，我們要盡量減小這些「其他因素」！