即插即用篇 | UniRepLKNet:用于音频、视频、点云、时间序列和图像识别的通用感知大卷积神经网络 | DRepConv

发布时间:2024年01月22日

在这里插入图片描述

大卷积神经网络(ConvNets)近来受到了广泛研究关注,但存在两个未解决且需要进一步研究的关键问题。1)现有大卷积神经网络的架构主要遵循传统ConvNets或变压器的设计原则,而针对大卷积神经网络的架构设计仍未得到解决。2)随着变压器在多个领域的主导地位,有待研究ConvNets在视觉以外领域是否也具有强大的通用感知能力。在本文中,我们从两个方面做出了贡献。1)我们提出了四个设计大卷积神经网络的架构指导原则,其中的核心是充分利用大核与小核的本质特征之间的区别——它们可以广泛地看而无需深入。遵循这些指导原则,我们提出的大卷积神经网络在图像识别方面表现出色。例如,我们的模型在ImageNet准确度上达到了88.0%,在ADE20K mIoU上达到了55.6%,在COCO box AP上达到了56.4%,表现优于一些最近提出的强大竞争对手,且速度更快。2)我们发现大核是解锁ConvNets在其原本不擅长的领域中卓越性能的关键。通过一定的与模态相关的预处理方法,所提出的模型在时间序列预测和音频识别任务上即使没有对架构进行特定模态的定制化,也能达到最先进的性能水平。

论文地址:https://arxiv.org/pdf/2311.15599.pdf
代码地址:htt

文章来源:https://blog.csdn.net/weixin_43694096/article/details/135660646
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。