QTNet：Query-based Temporal Fusion with Explicit Motion for 3D Object Detection

参考代码：QTNet

动机和出发点
自动驾驶中时序信息对感知性能具有较大影响，如在感知稳定性维度上。对于常见的时序融合多是在feature的维度上做，这个维度的融合主要分为如下两个方案：

• 1）BEV-based方案：将之前帧的结果按照ego-motion进行warp之后再叠加融合，这样的操作简单，但低效且引入较多无关噪声
• 2）Proposal-based方案：将目标做RPN，然后再将多帧RPN之后的特征融合起来，这样的操作是高效，但是对proposal有质量要求

这俩方案具有各自的优缺点，那么基于query的方式便是一种折中的考量了，query中包含了物体语义信息，reference point中包含了位置信息，而这篇文章提出的方案便是在query的维度上对齐（按照距离作为度量对齐），之后再去做感知预测。那么上面三种时序方案各自的实现过程和对比见下图所示：

其实在了解完整篇文章的思路之后会觉得文章的方案其实并不是那么靠谱，在文章的方案中分类、速度预测、ego-motion精度等是关键因素，直接影响了attn-mask的质量，要是这些拉垮了，那就完犊子了。并且这个机制更加适合障碍物的检测，那么对于其它的感知任务就不是那么友好了，扩展性比较差。反倒个人更加倾向cross-attn的方式（如StreamPETR）。

方法的设计
要使用到时序信息，那么自然的就需要添加一个FIFO队列去存储之前帧的信息，再使用一个时序融合网络去融合多帧的信息，对此下图中的M模块（参数是共享的）便是完成这个工作的，并且是按照时间帧级连的过程。下图是结构图：

时序融合过程
假设之前帧的query和reference point分别表示为$Q_{t?1}^{{}^{\prime }},C_{t?1}$，那么在ego-motion下实现前一帧道当前帧的变换$R_{t?1}^t$，则可推出reference point的对齐变换关系为：
$$C_{t?1}^{{}^{\prime }}=(C_{t?1}+V_{t?1}\Delta t)?(R_{t?1}^t{)}^T$$
那么依据reference point之间的距离度量：
$$O_{t?1}^t=L_2(C_t?C_{t?1}^{{}^{\prime }})$$
那么再结合分类的结果$s_t$和距离阈值$\gamma$可以得到不同query之间的度量，从而得到attn-mask：
$$M=\{\begin{array}{ll}0,& \text{if?Ot?1t?≤γ?and?st?=st?1?}\\ 1e8,& \text{if?Ot?1t?≥γ?or?st?=st?1?}\end{array}$$
则对应的attn-weight描述为（注意原文少个括号）：
$$A=softmax(?1?(O_{t?1}^t+M))$$
这样经过加权之后的前一帧query再和当前帧做融合，这样级连优化query的表达，如下图所示：

回归和分类是否需要解耦
对于级连优化query的方式在回归和分类上是share与否可以将时序融合划分为两种类型（一般来讲都是解耦好些）：

实验结果