带你了解3类预训练语音模型预测方法
摘要:在调研多篇论文后,笔者发现预训练语音模型的预测方法基本可以分为以下3类:<1>用前文预测当前及后文(自回归)<2> 随机mask 一些帧并预测 <3> 用两侧上下文预测中间帧。 本文分享自华为云社区《预训练语音模型调研小结》,作者: Hudson ...
摘要:在调研多篇论文后,笔者发现预训练语音模型的预测方法基本可以分为以下3类:<1>用前文预测当前及后文(自回归)<2> 随机mask 一些帧并预测 <3> 用两侧上下文预测中间帧。 本文分享自华为云社区《预训练语音模型调研小结》,作者: Hudson ...