论文阅读整理

1. Spatial Transformer Networks. 原文
   可学习的空间变换，也可以理解为空间注意力。想象一下你最近刚拍的一张照片，端端正正的放在你面前，你可以旋转、拉近、离远地从不同角度欣赏它。但是不论你从哪个角度看，它其实都是从端端正正的那个方位转换过来的。这就是文章的思想：对于任意的输入（图片），文中通过一个网络学习到一个变换，利用该变换尝试将现在的输入变回到最开始那个端端正正的角度。

2. Squeeze-and-Excitation Networks. 原文
   学习不同通道之间的关系，也可以理解为对通道的注意力。对某一输出，文中先对每个通道计算一个数值（文中使用average-pooling，AvePool）作为对应通道的一个表示，再利用神经网络（MLP）进一步学习到对应通道的权重，最后将权重赋予对应通道（点乘），以这样的方式重构了输出。

3. CBAM, Convolutional Block Attention Module. 原文
   通道注意力和空间注意力。通道注意力和上文2类似，不同的是，文中同时使用了AvePool和max-pooling（MaxPool）提取每个通道的表示。空间注意力是空间的重要性。对某一输出，文中先在通道方向利用AvePool和MaxPool计算了所有通道的空间表示（这样保持了长宽尺寸不变），接下来用卷积网络在空间表示上学习到空间注意力，最后利用通道注意力和空间注意力重构输出。

4. Pyramid Scene Parsing Network. 原文
   如果只想看方法论，那就看文中图3。文中认为分割某个物体有时候需要提供全局信息，例如湖边的船（而不是车），床上的枕头。所以，怎么提供一个好的全局信息呢？文中的方法是：输入某张图片，得到编码器提取的特征后，先通过池化层提取不同尺寸的池化结果，再上采样到同编码器提取的特征一样的尺寸，把它们堆叠在一起，最后利用解码器进行分割。（全局信息好在哪？）

5. U-Net: Convolutional Networks for Biomedical Image Segmentation. 原文
   著名的U-Net网络。

6. Feature Pyramid Networks for Object Detection. 原文
   多级感受野，看起来和U-Net没有多大的区别。针对的问题是在一副图片中，不同的物体可能有不同的尺寸大小，相似的物体，例如车，近端和远端尺寸差别也较大。