Browsing by Author "林韋廷"

Filter results by typing the first few letters
Now showing 1 - 1 of 1
  • No Thumbnail Available
    Item
    探究新穎深度學習方法於中英文混語語音辨識之使用
    (2021) 林韋廷; Lin, Wei-Ting
    在多語言社會中易有一段對話中包含了多種語言的情形發生，不僅是多語言社會，甚至是單語言社會也受全球化的影響，對話中常參雜一些其他語言，這種現象稱為語碼轉換(Code-Switching, CS)。在CS自動語音辨識(Automatic Speech Recognition, ASR)中，需要同時辨識出兩種或更多種的語言，但又與多語言語音辨識不同，語者除了在句子間轉換語言外，更常在句子內進行轉換，所以也在最近被視為一個難題而被關注。本論文的研究分為兩個方面，分別為端對端和DNN-HMM混語語音辨識之改進方法，前者著重於增強中英文混語語料庫SEAME。我們採用了前陣子提出的模型Conformer，並設計語言遮罩(language-masked) multi-head attention架構應用到解碼器(decoder)端，希望讓各自的語言能學到其獨立的語言特性並強化其單語言的辨識能力。另外，為了防止模型學出的中文和英文特徵向量相近，而將三元組損失(Triplet loss)用於訓練模型。後者我們提出多種不同階段的語言模型合併策略以用於企業應用領域的多種語料。在本篇論文的實驗設定中，會有兩種中英文CS語言模型和一種中文的單語言模型，其中CS語言模型使用的訓練資料與測試集同一領域(Domain)，而單語言模型是用大量一般中文語料訓練而成。我們透過多種不同階段的語言模型合併策略以探究ASR是否能結合不同的語言模型其各自的優勢以在不同任務上都有好的表現。在本篇論文中有三種語言模型合併策略，分別為N-gram語言模型合併、解碼圖 (Decoding Graph) 合併和詞圖 (Word Lattice) 合併。經由一系列的實驗結果證實，透過語言模型的合併的確能讓CS ASR對不同的測試集都有好的表現。而端到端混語語音辨識之方法於測試集上的字符錯誤率(Token Error Rate, TER)並沒有顯著的進步，但透過其他數據分析發現我們的研究方法仍有些微效果。