关于pytorch:PyTorch中-torchnn与torchnnfunctional的区别

35次阅读

共计 441 个字符,预计需要花费 2 分钟才能阅读完成。

原文链接

torch.nn

pytorch 中文文档链接:torch.nn

__init__() 函数里定义,定义的是一个类:

torch.nn.functional

pytorch 中文文档链接:torch.nn.functional

__forward()__ 函数里定义,定义的是一个函数:

两者的区别

torch.nn 中是一个定义的类,以 class xx 来定义的,能够提取变动的学习参数。

torch.nn.functional 是一个函数,由 def function()定义,是一个固定的运算公式。

深度学习中会有很多权重是在不断更新的,所以须要采纳类的形式,以确保能在参数发生变化时仍能应用咱们之前定好的运算步骤。因而如果模型有可学习的参数,应该应用 nn.Module,否则两个没有区别。然而简略的计算不须要新建一个类来做,所以应用 nn.functional 定义函数就能够。

即:层内有 variable 的状况用 nn 定义,否则用 nn.functional 定义。

学习更多编程常识,请关注我的公众号:

代码的路

正文完
 0