梯度反转层（GRL）

发布时间：2024年01月18日

最近在做域自适应相关的工作。看到了一篇生成对抗网络中巧妙的使用了梯度反转层（GRL），避免了一般GAN模型分步训练的情况，即不需要固定一个去训练另一个。
在这里插入图片描述
上图中，只在这个红色矩形处进行一次反转，即梯度乘以一个负数。粉色部分，还是尽可能让分类误差小，域判别更准。到了绿色这里，因为反转了一下梯度，绿色部分网络优化的目标和粉色相反了，尽可能让绿色部分提取的特征，让后面判别不出来。
论文名称：Unsupervised Domain Adaptation by Backpropagation
论文地址：https://proceedings.mlr.press/v37/ganin15.html

文章来源:https://blog.csdn.net/m0_46252199/article/details/135678483
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
最新文章