本文從多個(gè)角度深入探討了在嵌入式系統(tǒng)中注入本地化 AI 的業(yè)務(wù)和技術(shù)。

圣何塞——列出從事某種形式人工智能的半導(dǎo)體公司很容易——幾乎所有這些公司都是如此。機(jī)器學(xué)習(xí)的廣泛潛力正在吸引幾乎所有芯片供應(yīng)商探索這一新興技術(shù)，尤其是在網(wǎng)絡(luò)邊緣的推理處理方面。

“似乎每個(gè)星期，我都會(huì)在這個(gè)領(lǐng)域遇到一家新公司，有時(shí)是我從未聽(tīng)說(shuō)過(guò)的中國(guó)公司，”Real World Technologies 微處理器分析師大衛(wèi)坎特說(shuō)。

深度神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一種新的計(jì)算方式。您無(wú)需編寫(xiě)程序以在吐出數(shù)據(jù)的處理器上運(yùn)行，而是通過(guò)算法模型流式傳輸數(shù)據(jù)，該算法模型過(guò)濾掉所謂的推理處理的結(jié)果。

這種方法在 2012 年 ImageNet 競(jìng)賽后開(kāi)始受到關(guān)注，當(dāng)時(shí)一些算法在識(shí)別圖片時(shí)提供了比人類(lèi)更好的結(jié)果。計(jì)算機(jī)視覺(jué)是第一個(gè)受到巨大推動(dòng)的領(lǐng)域。

從那時(shí)起，亞馬遜、谷歌和 Facebook 等網(wǎng)絡(luò)巨頭開(kāi)始將深度學(xué)習(xí)應(yīng)用于視頻、語(yǔ)音和翻譯。去年，超過(guò) 3 億部智能手機(jī)出貨了某種形式的神經(jīng)網(wǎng)絡(luò)功能;今年將有 800,000 個(gè) AI 加速器運(yùn)往數(shù)據(jù)中心;現(xiàn)在每天有 7 億人使用某種形式的智能個(gè)人助理，例如亞馬遜 Echo 或蘋(píng)果的 Siri。

據(jù)說(shuō)已經(jīng)有多達(dá) 50 家公司在銷(xiāo)售或準(zhǔn)備某種形式的硅 AI 加速器。有些是 SoC 的 IP 塊，有些是芯片，還有一些是系統(tǒng)。

它們的共同目標(biāo)是被設(shè)計(jì)成從數(shù)據(jù)中心服務(wù)器到智能手機(jī)、智能揚(yáng)聲器和許多其他產(chǎn)品的所有產(chǎn)品。東芝的研究人員最近發(fā)表了一篇關(guān)于神經(jīng)網(wǎng)絡(luò)加速器模塊的論文，該模塊旨在嵌入傳感器中，這表明該技術(shù)可能會(huì)變得多么普遍。

核心技術(shù)還在不斷發(fā)展。每天發(fā)表多達(dá) 50 篇關(guān)于 AI 的技術(shù)論文，“而且還在上升——這是一個(gè)令人興奮的領(lǐng)域，”RISC 的資深聯(lián)合開(kāi)發(fā)者、谷歌張量處理單元工作的大衛(wèi)帕特森說(shuō)。

分析師 Kanter 指出，機(jī)器學(xué)習(xí)涉及新的系統(tǒng)架構(gòu)。例如，明天的監(jiān)控?cái)z像頭可能會(huì)決定在其 CMOS 傳感器旁邊放置深度學(xué)習(xí)加速器，并在模擬域中處理原始數(shù)據(jù)，然后再將其轉(zhuǎn)換為數(shù)字位并發(fā)送到圖像處理器，他說(shuō)。

“從理論上講，您可以使用更好的信息。我們知道神經(jīng)網(wǎng)絡(luò)通常具有非直觀的算法，因此我們需要考慮神經(jīng)網(wǎng)絡(luò)可以看到的數(shù)字處理可能丟棄的內(nèi)容——這令人興奮?！?

Imec 研究所正在機(jī)器學(xué)習(xí)架構(gòu)方面進(jìn)行自己的實(shí)驗(yàn)，并在使用單位精度的加速器上開(kāi)展工作。它旨在推動(dòng)關(guān)于人工智能任務(wù)的理想精度水平的辯論。

“有趣的是，我們?cè)谀睦镞M(jìn)行推理處理沒(méi)有達(dá)成共識(shí)，”坎特說(shuō)。“很可能，我們最終將結(jié)合邊緣和數(shù)據(jù)中心推理處理以及一些垂直特定的位置，如自動(dòng)駕駛汽車(chē)。”

如果您使用正確的軟件，許多應(yīng)用程序可能不需要任何特殊的芯片。經(jīng)驗(yàn)豐富的 DSP 分析師兼嵌入式視覺(jué)聯(lián)盟創(chuàng)始人 Jeff Bier 表示，現(xiàn)有的芯片，如高通的 Snapdragon，可以“在人工智能工作上提供驚人的性能，如果你知道自己在做什么” 。