PyTorch框架可以帮我们计算好反向传播,需要求导的,可以手动定义
示例:
#先构造一个随机的三行四列矩阵,两种方法都可以
#方法1
x = torch.randn(3,4,requires_grad=True)
x
#方法2
x = torch.randn(3,4)
x.requires_grad=True
x
#再构建一个随机矩阵
b = torch.randn(3,4,requires_grad=True)
#定义一个简单加法
t = x + b
#定义一个y等于t求一个和
y = t.sum()
y
#从y开始进行反向传播
y.backward()
#自动求导
b.grad
可以看到w求导的值跟x一样
注意:在做反向传播的时候如果不清空会把结果累加起来