本节主要介绍如何加载模型及其耐用的参数状态和推理模型预测。
为了加载模型，我们需要提前定义模型类，其中包含用于训练模型的神经网络的状态和参数。
加载模型的重量时，我们必须首先立即定义模型类，因为此类设置了NN结构。BELOW，我们使用load_state_dict（）方法来加载模型的参数
Pytorch还支持本地ONX导出。但是，考虑到Pytorch执行图的动态特征，导出过程必须穿越执行图以生成长时间的lasting onnx模型。出于此原因，应传递具有适当大小的测试变量走向导出过程（在我们的示例中，我们将创建一个具有适当大小的虚拟零卷）。
我们将测试数据集用作示例数据，并从ONNX模型中推断进行预测。
我们需要使用onnxruntime.Inferencesession来创建推理。要推断ONNX模型，使用运行并传递要返回的输出列表（如果需要所有输出，请保留空白）和输入值的映射。结果。结果是输出列表。
可以看出仍然有错误
原始：https：//juejin.cn/post/7095208942459944974