一、AIoT概述

AIoT(Artificial Intelligence & Internet of Things)中文譯為人工智能物聯(lián)網(wǎng)，是將人工智能(AI)與物聯(lián)網(wǎng)(IoT)兩者有機結(jié)合的一種技術(shù)。AI在這個系統(tǒng)中充當了大腦的角色，賦予了物聯(lián)網(wǎng)更多的可能性，將萬物互聯(lián)提升到萬物智聯(lián)，如目前的智能醫(yī)護助手、人體測溫攝像頭、智能配送機器人都是在AI的加持下得以實現(xiàn)。

據(jù)2019年的市場調(diào)查報告顯示，2020年中國AIoT硬件市場及相關(guān)產(chǎn)業(yè)的規(guī)模將突破萬億元。目前AIoT的主流方案以邊緣計算和云計算結(jié)合為主，相比之下，邊緣計算有部署靈活、穩(wěn)定性強、網(wǎng)絡(luò)依賴度低、安全性強更有利于保護隱私的特點。作為布局AIoT的重要產(chǎn)品，ZLG發(fā)布了M1808 AI核心板。本文將針對M1808核心板的AI性能參數(shù)做具體講解。

二、M1808平臺簡介

M1808平臺是由M1808-T核心板和M1808-EV-Board評估底板組成，是基于Rockchip 的RK1808 AIoT處理器開發(fā)。RK1808處理器芯片采用CPU（Central Processing Unit，中文譯為中央處理單元）+NPU（Network Process Unit，中文譯為神經(jīng)網(wǎng)絡(luò)處理單元）雙架構(gòu)，其中CPU為1.6GHz雙核Cortex-A35架構(gòu)，NPU的峰值算力高達3.0TOPs，支持INT8/INT16/FP16混合運算，最大程度兼顧性能、功耗、運算精度，支持TensorFlow/MXNet/PyTorch/Caffe等一系列框架的網(wǎng)絡(luò)模型轉(zhuǎn)換，兼容性強。VPU視頻處理單元支持1080P視頻編解碼，支持麥克風陣列，并具有硬件VAD功能，支持低功耗偵聽遠場喚醒，還支持攝像頭視頻信號輸入，并具有內(nèi)置ISP。M1808平臺具有高性能、低功耗、易編程、集成NPU等特點。 

三、AIoT硬件平臺AI性能對比

算力和功耗是衡量硬件平臺AI性能的重要參數(shù)。為了充分驗證M1808的高性能、低功耗特點，表格1提供了M1808與其他產(chǎn)品的AI性能參數(shù)對比。通過對比可知，M1808 AI核心板能夠最大程度的兼顧算力與功耗。這也使其在AIoT硬件平臺上具有領(lǐng)先地位。

表格 1

四、常見AI功能的算力花銷

考慮到讀者對3.0 TOPs的算力很難有一個清晰的概念，在表格2中我們列出了常見AI功能所需要的算力花銷：

表格 2

由表格可知，除了自動駕駛這種多模型融合、實際場景十分復(fù)雜多變的情形，大部分單一功能的實現(xiàn)所需的算力要求在1TOPS這個數(shù)量級。M1808作為目前具有代表性的嵌入式AI平臺，具備了3.0 TOPs的基礎(chǔ)算力，基本可以滿足大部分場景的使用，如人臉門禁、掃臉支付、智能餐桌等。此外，如果對照片處理的實時性要求不高，比如山火識別，面對這種對網(wǎng)絡(luò)模型的查全率要求很高的場景，就可以使用上結(jié)構(gòu)更深的模型，來達到精度更高的效果。

五、神經(jīng)網(wǎng)絡(luò)推理速度

• 為了更直觀地認識M1808的AI計算能力，在圖表1中，我們分別在三種相同的神經(jīng)網(wǎng)絡(luò)模型下，對比M1808與常見手機芯片的網(wǎng)絡(luò)神經(jīng)網(wǎng)絡(luò)運行時間。運行時間的長短可以反應(yīng)出硬件平臺AI計算能力?？梢钥吹?，對比當今主流的手機芯片，M1808的AI算力也毫不遜色，足以滿足大部分AI功能需求。

圖表 1

六、軟件層面

除了提供強大的AI算力，M1808也提供了對應(yīng)的AI開發(fā)套件來支持研發(fā)人員的開發(fā)工作。目前M1808的套件支持主流的tensorflow、tensroflow lite、caffe、darknet、onnx、pytorch等框架訓(xùn)練的模型，可以對其進行模型轉(zhuǎn)換以便將模型部署到開發(fā)板上，我們還提供了自動量化及模型運行效率的評估功能，減少模型適配的工作量。

同時，M1808也提供了一些常用的AI模型可供開發(fā)人員調(diào)用，目前支持以下功能：人臉識別，司機疲勞駕駛檢測系統(tǒng)，人臉關(guān)鍵點定位，人臉檢測，物體檢測，物體分類，紐扣方向的功能。目前的人臉識別精度在lfw上達到了99.7%，一萬人臉庫的情景下達到每秒10幀左右，支持年齡跨度、人臉部分遮擋和摘戴眼鏡等戶外及室內(nèi)場景，更多的功能正在開發(fā)測試完善中，敬請期待。

以上即為M1808的算法算力性能介紹，大家是會能夠真切的感受到這款A(yù)I核心板的性能呢？若是想了解我司基于M1808提供的算法可查閱往期文章《立功科技嵌入式平臺“軟”實力——人臉識別算法篇》，若是再想更近距離的感受M1808性能的強大，歡迎咨詢小致，可有機會實際感受M1808 AI核心板的強勁性能。