使用Python和PYNQ,以最小的工作量啟動(dòng)并運(yùn)行Xilinx Vitis AI硬件加速推理
下面的說(shuō)明記錄了一種新的方法,可以立即開(kāi)始使用Xilinx Vitis AI v2.5硬件加速機(jī)器學(xué)習(xí)推理。它還使Python能夠控制和執(zhí)行Vitis AI Xilinx深度學(xué)習(xí)處理單元(DPU)。現(xiàn)在還支持VART api。
在ZUBoard 1CG, Ultra96 (v1和v2), ZCU104, ZCU208, ZCU111和其他邊緣平臺(tái)上開(kāi)始使用Vitis AI,只需幾個(gè)簡(jiǎn)單的步驟。對(duì)于高級(jí)用戶來(lái)說(shuō),與標(biāo)準(zhǔn)的PetaLinux方法相比,使用Vitis AI與PYNQ有一些好處:
?在試用之前,不需要安裝初始的Xilinx工具,也不需要下載任何docker映像!
?您可以在不同的推理模型之間切換!
?您可以使用Python(或C/ c++)控制DPU并與之交互!
?您不必每次都重新構(gòu)建SD圖像來(lái)運(yùn)行不同的推理模型!
雖然只需要花費(fèi)少量的本地編譯時(shí)間,但它比之前任何已知的為Xilinx Vitis AI組裝合適平臺(tái)的技術(shù)都要短得多。
使用包含的PYNQ Vitis AI Jupyter notebook,您將立即能夠使用以下推理加速器:
?《盜夢(mèng)空間》
?Resnet
?經(jīng)典MNIST
?Yolo
?(您也可以創(chuàng)建自己的自定義推理模型)
所有在python或C/ c++的控制下,如果需要!
開(kāi)源的PYNQ框架總是能夠輕松地與AARCH64 Ubuntu應(yīng)用程序集成?,F(xiàn)在硬件加速Vitis AI與PYNQ !
還有更好的呢!賽靈思AI模型動(dòng)物園中的許多其他免費(fèi)預(yù)訓(xùn)練的Caffe、Tensorflow、Darknet和PyTorch Vitis AI模型現(xiàn)在也可以很容易地移植到支持PYNQ的主板上運(yùn)行。您甚至可以使用賽靈思Vitis AI構(gòu)建自己的自定義推理模型!
警告:如果遵循這些說(shuō)明,一些PYNQ Python庫(kù)和其他庫(kù)可能會(huì)更新。如果您依賴于較舊的PYNQ或Xilinx AI DPU版本,您可能需要先備份現(xiàn)有的PYNQ映像,或者在新安裝的最新版本PYNQ上嘗試這樣做。
在開(kāi)始之前,請(qǐng)?jiān)陂_(kāi)發(fā)板上安裝正確版本的PYNQ軟件
您的PYNQ板應(yīng)該運(yùn)行最新版本的PYNQ!你還在等什么:開(kāi)始吧!
對(duì)于已經(jīng)運(yùn)行PYNQ的兼容板,請(qǐng)按照以下步驟操作!
步驟1 -訪問(wèn)PYNQ Jupyter命令控制臺(tái)
隨著PYNQ的啟動(dòng)和運(yùn)行,主板本身通過(guò)有線局域網(wǎng)或Wifi連接到互聯(lián)網(wǎng),從一臺(tái)可以訪問(wèn)主板所在局域網(wǎng)的PC上,使用web瀏覽器(最好是Firefox、Chrome或Safari)并登錄到PYNQ Jupyter服務(wù)器。然后在web瀏覽器中打開(kāi)一個(gè)Jupyter命令根控制臺(tái)選項(xiàng)卡。
提示:您可以通過(guò)在PC web瀏覽器中輸入您的WLAN或LAN上的PYNQ板的IP地址來(lái)登錄在PYNQ板上運(yùn)行的Jupyter服務(wù)器。對(duì)于下面的屏幕截圖,這是使用通過(guò)USB OTG連接到PC的Ultra96完成的。Ultra96還附帶了一個(gè)USB轉(zhuǎn)以太網(wǎng)適配器,為Ultra96提供互聯(lián)網(wǎng)服務(wù)。
提醒:在開(kāi)始之前,您需要找到自己的板的IP地址,并為其提供互聯(lián)網(wǎng)連接:
系統(tǒng)可能會(huì)要求您輸入密碼,密碼都是小寫的:xilinx
輸入密碼后,您應(yīng)該看到(本例顯示的是一臺(tái)Ultra96):
通過(guò)web瀏覽器登錄到Jupyter筆記本服務(wù)器后,使用鼠標(biāo)單擊New按鈕(上面用紅色圈出)并選擇創(chuàng)建一個(gè)新的根控制臺(tái)終端:
這將打開(kāi)一個(gè)具有root權(quán)限的命令控制臺(tái),在這個(gè)控制臺(tái)中,您將很快輸入安裝命令:
步驟2 -安裝Vitis AI
注意:為了這個(gè)工作你的開(kāi)發(fā)板必須有一個(gè)互聯(lián)網(wǎng)連接!(如果你不知道怎么做,請(qǐng)參閱下面的一些提示和說(shuō)明)。我不建議使用U96 v2 wifi,因?yàn)樗苈?。我建議使用板載以太網(wǎng)或USB到以太網(wǎng)適配器用于U96 v2和任何其他選擇以太網(wǎng)的板。
這一步最難的部分是要有耐心!!這一步將直接在PYNQ板上編譯Vitis AI和Xilinx XRT驅(qū)動(dòng)程序和庫(kù)。要花半個(gè)小時(shí)到一整個(gè)小時(shí)。這取決于你SD卡的速度。這是值得等待的,只需要做一次!
如下所示輸入命令:
步驟3 -安裝示例Jupyter Notebooks
在命令控制臺(tái)中輸入以下內(nèi)容,確保輸入空格和最后一個(gè)'。,如下所示:
您現(xiàn)在可以關(guān)閉或退出終端!
步驟4 -學(xué)習(xí)示例筆記本
在web瀏覽器中返回Jupyter(或Jupyter Lab)并在筆記本文件夾下找到新安裝的筆記本。以下是其中的一些例子:
本文編譯自hackster.io





