Torch截断一部分后是否能梯度回传

2023-10-09 22:30

本文主要是介绍Torch截断一部分后是否能梯度回传,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!


import torchfrom torch import optim 
import torch.nn as nnclass g(nn.Module):def __init__(self):super(g, self).__init__()self.k = nn.Conv2d(in_channels=2, out_channels=1, kernel_size=1, padding=0, bias=False)def forward(self, z):return self.k(z)c = 2
h = 5
w = 5
z = torch.rand( (1,c , h , w)).float().view(1, c, h, w)*100
z.requires_grad = True
k = g()optim = optim.Adam(k.parameters(), lr=1)
optim.zero_grad()
r = k(z)
r= r[:,:,:3,:3]
r = r.sum()
loss = (r - 1) * (r - 1)for name,v in k.named_parameters():print(name,v) 
print(z)
print("*********************")loss.backward()
optim.step()
for name,v in k.named_parameters():print(name,v) 
print(z)

输出:


tensor([[[[-0.0464]],

         [[ 0.4256]]]], requires_grad=True)
tensor([[[[65.6508, 65.0099, 38.5205, 78.4769, 31.6377],
          [27.1530,  5.7923, 23.9614, 59.5419,  3.5597],
          [69.9373, 29.7657, 91.4004, 85.5130, 65.2210],
          [62.6357, 23.9004, 95.3394, 59.5155, 48.1762],
          [98.7728, 97.2193, 66.3625, 65.0421, 22.0612]],

         [[19.3582,  2.4226, 47.2068, 20.1124, 31.9324],
          [23.4966,  5.0654, 12.4682, 35.3092, 90.3394],
          [ 8.4709, 91.5994, 79.7592, 93.8652, 92.6337],
          [49.0805, 63.9460, 81.2459, 63.4729, 77.1670],
          [17.8333, 18.6162, 44.9271, 44.8790,  3.6609]]]], requires_grad=True)
*********************
k.weight Parameter containing:
tensor([[[[-1.0464]],

         [[-0.5744]]]], requires_grad=True)
tensor([[[[65.6508, 65.0099, 38.5205, 78.4769, 31.6377],
          [27.1530,  5.7923, 23.9614, 59.5419,  3.5597],
          [69.9373, 29.7657, 91.4004, 85.5130, 65.2210],
          [62.6357, 23.9004, 95.3394, 59.5155, 48.1762],
          [98.7728, 97.2193, 66.3625, 65.0421, 22.0612]],

         [[19.3582,  2.4226, 47.2068, 20.1124, 31.9324],
          [23.4966,  5.0654, 12.4682, 35.3092, 90.3394],
          [ 8.4709, 91.5994, 79.7592, 93.8652, 92.6337],
          [49.0805, 63.9460, 81.2459, 63.4729, 77.1670],
          [17.8333, 18.6162, 44.9271, 44.8790,  3.6609]]]], requires_grad=True)

这篇关于Torch截断一部分后是否能梯度回传的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/176009

相关文章

python判断文件是否存在常用的几种方式

《python判断文件是否存在常用的几种方式》在Python中我们在读写文件之前,首先要做的事情就是判断文件是否存在,否则很容易发生错误的情况,:本文主要介绍python判断文件是否存在常用的几种... 目录1. 使用 os.path.exists()2. 使用 os.path.isfile()3. 使用

C/C++的OpenCV 进行图像梯度提取的几种实现

《C/C++的OpenCV进行图像梯度提取的几种实现》本文主要介绍了C/C++的OpenCV进行图像梯度提取的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的... 目录预www.chinasem.cn备知识1. 图像加载与预处理2. Sobel 算子计算 X 和 Y

Python如何判断字符串中是否包含特殊字符并替换

《Python如何判断字符串中是否包含特殊字符并替换》这篇文章主要为大家详细介绍了如何使用Python实现判断字符串中是否包含特殊字符并使用空字符串替换掉,文中的示例代码讲解详细,感兴趣的小伙伴可以了... 目录python判断字符串中是否包含特殊字符方法一:使用正则表达式方法二:手动检查特定字符Pytho

Python如何精准判断某个进程是否在运行

《Python如何精准判断某个进程是否在运行》这篇文章主要为大家详细介绍了Python如何精准判断某个进程是否在运行,本文为大家整理了3种方法并进行了对比,有需要的小伙伴可以跟随小编一起学习一下... 目录一、为什么需要判断进程是否存在二、方法1:用psutil库(推荐)三、方法2:用os.system调用

pytorch自动求梯度autograd的实现

《pytorch自动求梯度autograd的实现》autograd是一个自动微分引擎,它可以自动计算张量的梯度,本文主要介绍了pytorch自动求梯度autograd的实现,具有一定的参考价值,感兴趣... autograd是pytorch构建神经网络的核心。在 PyTorch 中,结合以下代码例子,当你

Python中判断对象是否为空的方法

《Python中判断对象是否为空的方法》在Python开发中,判断对象是否为“空”是高频操作,但看似简单的需求却暗藏玄机,从None到空容器,从零值到自定义对象的“假值”状态,不同场景下的“空”需要精... 目录一、python中的“空”值体系二、精准判定方法对比三、常见误区解析四、进阶处理技巧五、性能优化

如何在pycharm安装torch包

《如何在pycharm安装torch包》:本文主要介绍如何在pycharm安装torch包方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录在pycharm安装torch包适http://www.chinasem.cn配于我电脑的指令为适用的torch包为总结在p

pytorch之torch.flatten()和torch.nn.Flatten()的用法

《pytorch之torch.flatten()和torch.nn.Flatten()的用法》:本文主要介绍pytorch之torch.flatten()和torch.nn.Flatten()的用... 目录torch.flatten()和torch.nn.Flatten()的用法下面举例说明总结torch

Java实现检查多个时间段是否有重合

《Java实现检查多个时间段是否有重合》这篇文章主要为大家详细介绍了如何使用Java实现检查多个时间段是否有重合,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录流程概述步骤详解China编程步骤1:定义时间段类步骤2:添加时间段步骤3:检查时间段是否有重合步骤4:输出结果示例代码结语作

Java判断多个时间段是否重合的方法小结

《Java判断多个时间段是否重合的方法小结》这篇文章主要为大家详细介绍了Java中判断多个时间段是否重合的方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录判断多个时间段是否有间隔判断时间段集合是否与某时间段重合判断多个时间段是否有间隔实体类内容public class D