以 RISC-V SoC 為基礎的類神經網路模型部署工具

黃文吉Hwang, Wen-Jyi鄭翔升Cheng, Hsiang-Sheng2024-12-172024-01-262024https://etds.lib.ntnu.edu.tw/thesis/detail/13e99a3a5d1d7e661c2de86fe7cf5205/http://rportal.lib.ntnu.edu.tw/handle/20.500.12235/123704本論文實做一個適用於 RISC-V SoC 的模型部署工具，將建立模型、量化模型、部署模型功能整合成一套軟體工具，使用自訂義之 Intermedia Representation 將神經網路自動轉換為可以在 SoC 執行的 C 語言，主要目的是簡化 TinyML 系統開發階段的模型部署流程。使用 Genesys2 FPGA 實現 Rocket Core 與 AI accelerator Gemmini 為基礎的 SoC 驗證此工具的部署結果，包括神經網路推理資料流以及效能。nonenoneRISC-VTinyMLModel deployment以 RISC-V SoC 為基礎的類神經網路模型部署工具Neural network model deployment tools for SoC based on RISC-V cores學術論文