ISCAS機(jī)器翻譯和系統(tǒng)融合評測系統(tǒng)課件

ISCAS機(jī)器翻譯和系統(tǒng)融合評測系統(tǒng)張大鯤孫樂中國科學(xué)院軟件研究所dakun04@1大綱漢英新聞?lì)I(lǐng)域翻譯評測概述系統(tǒng)流程預(yù)處理和后處理測試結(jié)果系統(tǒng)融合評測2概述訓(xùn)練語料受限的漢英機(jī)器翻譯基于短語的統(tǒng)計(jì)機(jī)器翻譯系統(tǒng)4元語言模型3元大小寫敏感語言模型進(jìn)行大小寫還原利用規(guī)則對數(shù)字進(jìn)行處理3系統(tǒng)流程全部小寫化GIZA++雙向詞對齊短語抽取5個(gè)概率4元語言模型3元大小寫敏感語言模型數(shù)詞翻譯替換翻譯輸出數(shù)詞識別與替換Beam搜索解碼預(yù)處理后處理訓(xùn)練平行語料4特征短語翻譯概率詞匯化概率反向短語翻譯概率反向詞匯化概率短語懲罰概率（2.718）詞語懲罰（目標(biāo)語言句子長度）目標(biāo)語言模型，4元5預(yù)處理和后處理中文語料中的英文和英文語料全部小寫中文全角字符轉(zhuǎn)換為半角ＡＢＣ１２３→ABC123StanfordChineseWordSegmenter分詞數(shù)字單獨(dú)處理6訓(xùn)練語料來源數(shù)據(jù)提供單位數(shù)據(jù)文件類型句對數(shù)目（約）廈門大學(xué)英漢電影字幕平行語料庫廈門大學(xué)電影17萬哈工大信息檢索組英漢句子級對齊語料庫哈工大檢索綜合10萬ChineseLDC（資源編號：CLDC-LAC-2003-006）漢英/漢日雙語語料庫（漢英部分）北京大學(xué)綜合20萬哈工大機(jī)器翻譯組英漢句子級對齊語料庫哈工大機(jī)譯綜合5萬ChineseLDC（資源編號：CLDC-LAC-2003-004）中英句子級對齊雙語語料庫計(jì)算所、自動(dòng)化所綜合30萬合計(jì)82萬短語數(shù)量：1600萬7開發(fā)集調(diào)整參數(shù)參數(shù)WPPT-0.26590.04490.10090.03210.0433-0.2747參數(shù)DWLWMLLDMSTL0.09490P–詞語懲罰PT–翻譯模型概率（包括詞匯化概率和短語懲罰）DW–調(diào)序的權(quán)重LW–語言模型權(quán)重ML–最大的短語長度LD–調(diào)序的限制范圍MS–棧大小TL–允許的最多翻譯候選項(xiàng)489句4個(gè)參考答案BLEU=0.10398測試結(jié)果IDBLEU4NIST5GTMmWERmPERICT受限語料ISCAS0.18386.81840.65960.78840.56760.2752最好結(jié)果0.22647.64260.71280.73070.51640.3352非受限語料最好結(jié)果0.28097.52350.72380.68240.50500.38059系統(tǒng)融合主要方法(Rostietal.2007)句子級融合重評分，輸出最好的句子短語級融合構(gòu)造新的短語表，計(jì)算概率，重新解碼詞級融合詞對齊，形成詞圖，最優(yōu)路徑10系統(tǒng)融合11重評分統(tǒng)計(jì)在候選翻譯中出現(xiàn)的所有n-gram個(gè)數(shù)計(jì)算每個(gè)句子中命中的個(gè)數(shù)n=7

權(quán)重，利用開發(fā)集訓(xùn)練12測試使用提供的10個(gè)單位提交的17個(gè)系統(tǒng)的翻譯結(jié)果（沒有使用系統(tǒng)U14的結(jié)果）IDBLEU4NIST5GTMmWERmPERICTISCAS0.25098.10130.71960.71540.50050.3336最好結(jié)果0.29447.75010.73190.67610.49720.392013總結(jié)漢英新聞?lì)I(lǐng)域翻譯評測訓(xùn)練語料受限