Pytorch如何实现权重初始化-创新互联
小编给大家分享一下Pytorch如何实现权重初始化，希望大家阅读完这篇文章之后都有所收获，下面让我们一起去探讨吧！
在TensorFlow中，权重的初始化主要是在声明张量的时候进行的。 而PyTorch则提供了另一种方法：首先应该声明张量，然后修改张量的权重。通过调用torch.nn.init包中的多种方法可以将权重初始化为直接访问张量的属性。
1、不初始化的效果
在Pytorch中，定义一个tensor，不进行初始化，打印看看结果：
w = torch.Tensor(3,4) print (w)
可以看到这时候的初始化的数值都是随机的，而且特别大，这对网络的训练必定不好，最后导致精度提不上，甚至损失无法收敛。
2、初始化的效果
PyTorch提供了多种参数初始化函数：
torch.nn.init.constant(tensor, val) torch.nn.init.normal(tensor, mean=0, std=1) torch.nn.init.xavier_uniform(tensor, gain=1)
等等。详细请参考：http://pytorch.org/docs/nn.html#torch-nn-init
注意上面的初始化函数的参数tensor，虽然写的是tensor，但是也可以是Variable类型的。而神经网络的参数类型Parameter是Variable类的子类，所以初始化函数可以直接作用于神经网络参数。实际上，我们初始化也是直接去初始化神经网络的参数。
让我们试试效果:
w = torch.Tensor(3,4) torch.nn.init.normal_(w) print (w)
3、初始化神经网络的参数
对神经网络的初始化往往放在模型的__init__()函数中，如下所示：
class Net(nn.Module):
def __init__(self, block, layers, num_classes=1000): self.inplanes = 64 super(Net, self).__init__() *** *** #定义自己的网络层 *** for m in self.modules(): if isinstance(m, nn.Conv2d): n = m.kernel_size[0] * m.kernel_size[1] * m.out_channels m.weight.data.normal_(0, math.sqrt(2. / n)) elif isinstance(m, nn.BatchNorm2d): m.weight.data.fill_(1) m.bias.data.zero_() *** *** #定义后续的函数 ***
也可以采取另一种方式：
定义一个权重初始化函数，如下：
def weights_init(m):
classname = m.__class__.__name__
if classname.find('Conv2d') != -1:
init.xavier_normal_(m.weight.data)
init.constant_(m.bias.data, 0.0)
elif classname.find('Linear') != -1:
init.xavier_normal_(m.weight.data)
init.constant_(m.bias.data, 0.0)在模型声明时，调用初始化函数，初始化神经网络参数：
model = Net(*****) model.apply(weights_init)pytorch的优点
1.PyTorch是相当简洁且高效快速的框架；2.设计追求最少的封装；3.设计符合人类思维，它让用户尽可能地专注于实现自己的想法；4.与google的Tensorflow类似，FAIR的支持足以确保PyTorch获得持续的开发更新；5.PyTorch作者亲自维护的论坛 供用户交流和求教问题6.入门简单
看完了这篇文章，相信你对“Pytorch如何实现权重初始化”有了一定的了解，如果想了解更多相关知识，欢迎关注创新互联行业资讯频道，感谢各位的阅读！
本文标题：Pytorch如何实现权重初始化-创新互联
本文地址：http://abwzjs.com/article/cchdse.html
