以FPGA實現二元化類神經網路及應用於手寫圖片辨識之研究

Abstract

本論文是實作摺積類神經網路，並應用於手寫辨識。傳統摺積類神經網路的權重都是以實數表示，運算方式複雜。不論是在記憶體的使用或是運算子的資源消耗上分別會增加儲存與運算的負擔，此舉造成在FPGA上實作的困難。為了解決資源消耗的問題，本論文使用二元化類神經網路。最主要的核心概念是把權重簡化為二進制表示法，以及將運算子使用XNOR位元運算，最大的好處就是可以降低FPGA資源消耗。 本論文以LeNet5模型為例，此模型中的C1、C3、C5、F6的權重佔用了FPGA許多的資源。二元化類神經網路使用Sign function把原本32bit 浮點數權重簡化為1bit二進位碼。由於所有的運算元都是以二進位碼表示，運算子即可使用XNOR位元運算，不需使用浮點數的加法器與乘法器。經由二元化類神經網路的法則至少可以減少百分之八十的資源消耗，不只減少了內建記憶體使用，也減少數學運算子與暫存器使用。 在未來的應用中，不只可以放置在FPGA中，還可以放置在行動裝置或是穿戴式裝置中，來進行圖片辨識與語音辨識，對於科技的發展又前進了一大步。