基于DL-T及迁移学习的语音识别研究
来源期刊：工程科学学报2021年第3期
论文作者：张威 刘晨 费鸿博 李巍 俞经虎 曹毅
文章页码：433 - 441
关键词：深度学习;语音识别;声学模型;DL–T;迁移学习;
摘 要：为解决RNN–T语音识别时预测错误率高、收敛速度慢的问题,本文提出了一种基于DL–T的声学建模方法.首先介绍了RNN–T声学模型;其次结合DenseNet与LSTM网络提出了一种新的声学建模方法——DL–T,该方法可提取原始语音的高维信息从而加强特征信息重用、减轻梯度问题便于深层信息传递,使其兼具预测错误率低及收敛速度快的优点;然后,为进一步提高声学模型的准确率,提出了一种适合DL–T的迁移学习方法;最后为验证上述方法,采用DL–T声学模型,基于Aishell–1数据集开展了语音识别研究.研究结果表明:DL–T相较于RNN–T预测错误率相对降低了12.52%,模型最终错误率可达10.34%.因此,DL–T可显著改善RNN–T的预测错误率和收敛速度.
张威1,2，刘晨1,2，费鸿博1,2，李巍3，俞经虎1,2，曹毅1,2
1. 江南大学机械工程学院2. 江苏省食品先进制造装备技术重点实验室3. 苏州工业职业技术学院
摘 要：为解决RNN–T语音识别时预测错误率高、收敛速度慢的问题,本文提出了一种基于DL–T的声学建模方法.首先介绍了RNN–T声学模型;其次结合DenseNet与LSTM网络提出了一种新的声学建模方法——DL–T,该方法可提取原始语音的高维信息从而加强特征信息重用、减轻梯度问题便于深层信息传递,使其兼具预测错误率低及收敛速度快的优点;然后,为进一步提高声学模型的准确率,提出了一种适合DL–T的迁移学习方法;最后为验证上述方法,采用DL–T声学模型,基于Aishell–1数据集开展了语音识别研究.研究结果表明:DL–T相较于RNN–T预测错误率相对降低了12.52%,模型最终错误率可达10.34%.因此,DL–T可显著改善RNN–T的预测错误率和收敛速度.
关键词：深度学习;语音识别;声学模型;DL–T;迁移学习;
