请问在T5模型里，怎么不使用teacher forcing换成auto regressive？
在T5模型中，使用teacher forcing是为了训练模型，使其在每个时间步都可以观察到正确的前面的标记（ground-truth）并预测下一个标记。这在训练期间可能是有益的，但在实际的生成任务中，你可能希望模型能够在没有前面正确标记的情况下生成后续标记，这称为自回归（auto-regressive）模式。
要在T5模型中使用自回归模式，可以使用“自回归循环”（autoregressive loop）来逐步生成输出。这个循环将输入编码成一个“上下文向量”（context vector），然后用它来预测下一个标记。每次循环中的输入都是前一个标记的嵌入向量（embedding vector）和上下文向量，输出是下一个标记的预测。
在T5模型中，原本使用的是teacher forcing的方式进行训练和预测，即在decoder端的每个时间步直接使用上一个时间步的输出作为输入。而auto regressive则是在decoder端的每个时间步根据前面的输出逐步生成下一个输出，具体步骤如下：
将输入文本通过encoder转换为一个向量表示；
1.将向量表示作为初始输入，送入decoder的第一个时间步；
2.在decoder端的每个时间步，根据前面的输出预测下一个输出，并将该输出作为下一个时间步的输入；
3.重复步骤3，直到decoder生成特殊的终止符或达到最大输出长度。
在T5模型中，将teacher forcing换成auto regressive，可以按照以下步骤实现：
1.在训练时，不再使用teacher forcing，而是按照auto regressive的方式进行训练。具体地，每个时间步的输入为上一个时间步的输出，而不是使用真实的标签作为输入；
2.在预测时，按照auto regressive的方式生成输出。具体地，每个时间步的输入为上一个时间步的输出，直到生成特殊的终止符或达到最大输出长度。
需要注意的是，将teacher forcing换成auto regressive可能会导致训练和预测的速度变慢，同时可能会对生成结果的质量产生一定的影响，因此需要根据具体的应用场景进行权衡。