在每個新單詞產生后，該單詞就被添加在之前生成的單詞序列后面，這個序列會成為模型下一步的新輸入。這種機制叫做自回歸（auto-regression），同時也是令 RNN 模型效果拔群的重要思想。
GPT-2，以及一些諸如 TransformerXL 和 XLNet 等后續出現的模型，本質上都是自回歸模型
免責聲明！
本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。
在每個新單詞產生后，該單詞就被添加在之前生成的單詞序列后面，這個序列會成為模型下一步的新輸入。這種機制叫做自回歸（auto-regression），同時也是令 RNN 模型效果拔群的重要思想。
GPT-2，以及一些諸如 TransformerXL 和 XLNet 等后續出現的模型，本質上都是自回歸模型
本站轉載的文章為個人學習借鑒使用，本站對版權不負任何法律責任。如果侵犯了您的隱私權益，請聯系本站郵箱yoyou2525@163.com刪除。