?Ensemble E4/E6/E8是業(yè)界首個為Transformer網(wǎng)絡(luò)提供硬件加速的MCU系列，可在邊緣設(shè)備及終端設(shè)備上實現(xiàn)本地生成式AI推理

?Alif與Arm合作，在PyTorch大會上展示了經(jīng)ExecuTorch Runtime編譯的生成式AI模型，該模型可在Ensemble E8上運行

中國，北京–2025年11月4日-全球領(lǐng)先的安全、聯(lián)網(wǎng)、高能效人工智能與機器學(xué)習(xí)(AI/ML)微控制器(MCU)及融合處理器供應(yīng)商Alif Semiconductor®今日宣布，開發(fā)者現(xiàn)可將PyTorch ML框架的量化擴展ExecuTorch Runtime用于基于其Ensemble E4/E6/E8系列MCU及融合處理器開發(fā)的AI應(yīng)用。

ExecuTorch擴展可幫助面向微控制器等資源受限硬件平臺的AI模型開發(fā)者，借助PyTorch框架打造輕量級模型，支持低延遲、高精度推理。由于Ensemble E4、E6和E8系列產(chǎn)品均搭載支持Transformer式ML網(wǎng)絡(luò)的Arm® Ethos?-U85 NPU，開發(fā)者如今可通過PyTorch與ExecuTorch Runtime，構(gòu)建能在電池供電終端設(shè)備上本地運行的生成式AI應(yīng)用，涵蓋智能眼鏡、人機交互設(shè)備、醫(yī)療健康與診斷設(shè)備、機器人、交通設(shè)備、益智玩具與教育產(chǎn)品、智能家居及智慧城市設(shè)備等場景。

在PyTorch大會(10月22-23日，美國加利福尼亞州舊金山市Moscone West)上，Arm展示了經(jīng)ExecuTorch編譯、可在Alif Ensemble E8融合處理器上運行的生成式AI應(yīng)用案例，包括：

一款運行于Ensemble E8的小型語言模型，可根據(jù)視覺提示生成適合兒童的故事，還可擴展至支持語音提示。

實時設(shè)備端語音轉(zhuǎn)文字模型，適用于集成到智能眼鏡等可穿戴設(shè)備，能實現(xiàn)語音實時轉(zhuǎn)錄以生成實時字幕。

Alif Semiconductor總裁Reza Kazerounian表示：“Alif通過持續(xù)創(chuàng)新始終處于邊緣AI領(lǐng)域的前沿，如今更延伸至生成式AI時代。我們的Ensemble系列微控制器對ExecuTorch Runtime的原生支持，進一步拓展了MCU級AI的應(yīng)用邊界。對于致力于打造下一代智能產(chǎn)品的嵌入式設(shè)備制造商而言，Alif仍是將AI技術(shù)落地邊緣端的可靠引領(lǐng)者?！?

Arm高級副總裁兼IoT業(yè)務(wù)總經(jīng)理Paul Williamson表示：邊緣生成式AI正催生全新品類的智能電池供電設(shè)備，這類設(shè)備可實時理解并響應(yīng)環(huán)境交互。借助ExecuTorch框架，開發(fā)者能高效地將PyTorch模型部署到Alif Ensemble MCU上，實現(xiàn)低功耗設(shè)備端推理。此次合作充分證明，統(tǒng)一生態(tài)系統(tǒng)可推動邊緣智能的規(guī)?；瘧?yīng)用，加速實際場景中的AI創(chuàng)新。”

PyTorch大會演示中所用的Alif DK-E8開發(fā)板現(xiàn)已開放購買，該開發(fā)板支持整個E4/E6/E8系列的開發(fā)工作。