Arm中國正在考慮通過最近創建的加速器"accel"子系統將其"周易"NPU驅動程序上傳到Linux內核中。中國Arm公司的神經處理單元(NPU)驅動程序目前擁有開源內核和用戶空間堆棧。
三年前,百度的一位工程師曾關註過用於 Linux 內核的周易 AI 加速器驅動程序,但這隻是一個開源的內核驅動程序,當時還缺乏一個開源的用戶空間軟件棧。從那時起,Arm China 就開始著手開發這個完全開放的用戶/內核驅動程序棧。全志 R329 等一些 SoC 中就采用 Arm China 的 NPU。
今天,Arm China 的一位工程師宣佈,希望將他們的 NPU 驅動程序上遊化到加速器子系統中。目前,至少開放的用戶模式驅動程序和內核驅動程序是通過Arm China在 GitHub 上的Compass NPU 驅動程序開發的。
這個開源 AI 加速器驅動程序棧依賴於通過 Arm China 的 NN 圖編譯器將 TensorFlow Lite 和 ONNX 模型轉化為可執行程序庫。然後,應用程序將該可執行文件加載到用戶模式驅動程序中,二進制文件提交給內核驅動程序,內核驅動程序再調度到支持的 SoC 上的 NPU 硬件。
通過阿裡速賣通和類似渠道可以買到一些支持 Arm China NPU 的開發板。
到目前為止,郵件列表隻是闡述大傢的興趣,並找出將 Arm China NPU 驅動程序上傳到主線 Linux 內核的要求。這仍然需要上遊 DRM/accel 維護者審查代碼,確保其符合適當的接口等,因此前方的路還很長,但至少很高興看到 Arm China 現在有一個完全開源的 Linux NPU 驅動程序棧。