pytorch - 如何在FP16模式下将pytorch模型转换为TensorRT时保持准确性

Question

我想使用 TensorRT FP16 模式来加速我的 pytorch 模型，但是有精度损失。我的问题是如何使用 pytorch 的混合精度训练来避免转换为 TensorRT FP16 模型时的精度损失。我已经尝试过torch.cuda.amp.autocast训练模型，但它仍然失去了一些精度。