毫無疑問，智能手機和智能家居仍將是邊緣人工智能的兩個最大市場。與此同時，自動駕駛汽車的潛力為邊緣人工智能公司帶來了極高的期望和市場估值。然而，自動駕駛汽車的緩慢推出，以及智能手機市場的標準化，導致許多廠商在他剛才提到的市場之外尋求新的增長機會。許多供應商已經(jīng)轉向工業(yè)應用和其他以移動為中心的應用，例如，英特爾、英偉達、高通和 Hailo 已與許多邊緣計算供應商合作，為希望使傳統(tǒng)基礎設施更智能的公司提供 AI in the box 解決方案。供應商還為機器人和無人機應用推出了專用解決方案。此外，該行業(yè)本身見證了硬件和軟件供應商之間的許多合作伙伴關系。這些關系在本質上通常是共生的，因為它們鼓勵領域專業(yè)知識的交流并為垂直特定供應商開辟新的市場機會。

ZigZag 工具

關于用于以超低功耗運行神經(jīng)網(wǎng)絡的尖端微處理器架構的有價值的信息,開發(fā)了一個叫做 ZigZag 的工具。幫助設計師比較硬件與不同的架構、不同的內(nèi)存層次、不同的數(shù)據(jù)路徑、不同的組合如何以節(jié)能的方式運行不同的神經(jīng)網(wǎng)絡。因為較低精度、越來越多的并行芯片可以提高能源效率，但以靈活性為代價。

它的核心是一種非?？焖俚姆治龀杀灸Ｐ?。因此，它采用神經(jīng)網(wǎng)絡工作負載，采用具有內(nèi)存層次結構、數(shù)據(jù)路徑甚至技術特征的硬件架構，并基于這種技術組合，嘗試估計在此特定設備上運行工作負載所需的能量架構，需要多少延遲或時鐘周期，以及該架構的區(qū)域是什么。當然，正如他之前所展示的，你不能只說，他把工作負載映射到架構上，不，有很多不同的方法來映射它，甚至是一個特定的工作負載，神經(jīng)網(wǎng)絡的一層，硬件架構，這與他在空間上展開什么循環(huán)有關，他暫時展開哪些循環(huán)，他將哪些數(shù)據(jù)放入 SRAM 寄存器文件、1 級內(nèi)存、2 級內(nèi)存等等。他們的工具做什么，它需要神經(jīng)網(wǎng)絡工作負載并嘗試找到所有可能的良好映射和調(diào)度，它正在嘗試數(shù)百萬個這樣的調(diào)度，在硬件架構上并為每個調(diào)度估計能量/延遲/面積，然后附帶一組帕累托最優(yōu)解決方案，為您提供此神經(jīng)網(wǎng)絡工作負載、此技術、在這些硬件限制下，他可以實現(xiàn)的每次推理的最佳時間、每次推理的能量等。

IBM 的目標：在 2025 年將 AI 計算性能每年提高 2.5 倍

BM Research 計劃在短期內(nèi)使用數(shù)字電子技術結合超低精度計算中的算法工作來實現(xiàn)這一目標。有助于開發(fā)模擬 AI 計算能力的工藝創(chuàng)新，包括 PCM、相變存儲器和 EC RAM、電化學 RAM 技術。在推理方面，他們使用了 PCM 技術，并通過使用他們所謂的投影 PCM 技術對其進行了改進。

這本質上是一個精心設計的層，用于解決您在直接使用 PCM 元素進行模擬計算進行推理時看到的一些非理想性或抗漂移。他們絕對不希望這種漂移發(fā)生 - 每次您在模擬域中使用并使用此模型進行推理時。在右側，他們正在開發(fā)材料，以便在深度神經(jīng)網(wǎng)絡正在編程時，這些材料可用于存儲數(shù)千個權重或數(shù)千個不同狀態(tài)。他們正在使用他們從高 k 金屬柵極技術中學到的對氧空位產(chǎn)生和消除的一些基本理解。

他們還在開發(fā)一種稱為 ECRAM 的技術，即電化學 RAM 技術，它一直在利用電池技術的一些原理，但他們已經(jīng)找到了一種將其集成到 CMOS 兼容晶圓中的方法。

Cerebras新型計算機

Cerebras構建了一種針對 AI 工作進行優(yōu)化的新型計算機，他們的目標不是變得更好，不是快兩倍或三倍，而是在 AI 工作上快 100 或 1000 倍。為此，他們解決了計算機行業(yè) 70 年來一直未解決的問題：他們解決了構建非常大的芯片的挑戰(zhàn)。在他們出現(xiàn)之前，最大的芯片大約有 800 平方毫米，大約是一張郵票的大小。他們制造了一個芯片，并在 2019 年 8 月宣布了它，即 46,000 平方毫米。所以它是一個餐盤的大小。

在這項人工智能工作中，更大的芯片處理信息的速度更快，在更短的時間內(nèi)產(chǎn)生答案。因此，他們所做的是，他們制造這些大型芯片，將它們放入他們設計的系統(tǒng)中，創(chuàng)造性地稱為 CS-2，用于 Cerebras Systems 2，然后交付給客戶。它大約有 16…15 個機架單元高，大約 26 英寸。Sally，他不確定如何為您轉換為公制。那是什么……11,000厘米或類似的東西。