基於 AI 硬體加速器的自動化類神經網路設計與部署之研究

dc.contributor黃文吉zh_TW
dc.contributorHwang, Wen-Jyien_US
dc.contributor.author黃任慶zh_TW
dc.contributor.authorHuang, Ren-Chingen_US
dc.date.accessioned2023-12-08T08:02:47Z
dc.date.available9999-12-31
dc.date.available2023-12-08T08:02:47Z
dc.date.issued2023
dc.description.abstract由於大多邊緣裝置由於對於類神經模型推理的運算效率不佳,因此邊緣裝置通常會搭配上AI硬體加速器,來進行更有效率的運算。然而如何將類神經模型推理應用至AI硬體加速器進行加速,必須從軟體端加速器的使用,到硬體端加速器的架構,都要有深刻理解,這對於開發者來說是一個不小的挑戰。本論文研究基於RISC-V架構下的 Gemmini 硬體加速器平台,開發一套圖形介面工具。開發者根據自身的需求,在工具中選擇需求的模型架構,將其轉換成中間表達式,藉此生成模型架構程式碼,以及硬體推理程式碼。模型架構程式碼供軟體端模型訓練以及模型量化用;硬體推理程式碼供邊緣裝置利用硬體加速器進行模型推理。本論文將透過圖形介面生成之程式碼,生成基於CNN,以及GRU的兩種不同模型架構,執行於含Gemmini加速器平台的FPGA板上,以Clock Cycles為運算速度的根據,比較模型運算時使用加速器與否的差別。藉由兩種不同種類模型的比較,驗證Gemmini的加速效果及使用本研究開發之圖形介面的可行性。zh_TW
dc.description.abstractnoneen_US
dc.description.sponsorship資訊工程學系zh_TW
dc.identifier61047023S-44172
dc.identifier.urihttps://etds.lib.ntnu.edu.tw/thesis/detail/aa6294809eb6b42073112b5fc2728491/
dc.identifier.urihttp://rportal.lib.ntnu.edu.tw/handle/20.500.12235/121622
dc.language中文
dc.subject硬體加速器zh_TW
dc.subjectRISC-Vzh_TW
dc.subjectGemminizh_TW
dc.subject圖形介面zh_TW
dc.subject中間表達式zh_TW
dc.subject量化zh_TW
dc.subjectnoneen_US
dc.title基於 AI 硬體加速器的自動化類神經網路設計與部署之研究zh_TW
dc.titleAutomated Neural Network Design and Deployment Based on AI Hardware Acceleratorsen_US
dc.typeetd

Files

Collections