原文链接
torch.nn
pytorch 中文文档链接：torch.nn
在 __init__() 函数里定义，定义的是一个类：
torch.nn.functional
pytorch 中文文档链接：torch.nn.functional
在 __forward()__ 函数里定义，定义的是一个函数：
两者的区别
torch.nn 中是一个定义的类，以 class xx 来定义的，能够提取变动的学习参数。
torch.nn.functional 是一个函数，由 def function()定义，是一个固定的运算公式。
深度学习中会有很多权重是在不断更新的，所以须要采纳类的形式，以确保能在参数发生变化时仍能应用咱们之前定好的运算步骤。因而如果模型有可学习的参数，应该应用 nn.Module，否则两个没有区别。然而简略的计算不须要新建一个类来做，所以应用 nn.functional 定义函数就能够。
即：层内有 variable 的状况用 nn 定义，否则用 nn.functional 定义。
学习更多编程常识，请关注我的公众号：
代码的路