torch.save保存权重文件和net.parameters()参数量大小不一致

torch保存权重和参数量大小不一致

问题说明及相关代码

采用param.numel()计算参数

 for param in net.parameters():
      num_params += param.numel()

结果如下：

采用torch.save()保存权重大小

torch.save(net.cpu().state_dict(), save_path)

结果如下：

网上的部分解释

发现两者的大小关系确实接近四倍，但其中具体的细节不清楚，希望帮忙解答下疑惑，详细解释下，万分感谢。

这个是不是和文件占用空间和文件大小不一致同理呢

cs231n上确实是说的因为保存的参数都是float形式的，所以每个参数的占用磁盘大小要乘4。

模型里面不止只有权重啊，你这个相当于就保存了权重，其他类似优化器，网络结构等你都丢掉了当然不一致