2021年6月25日 · In this work, we present new baselines by improving the original Pyramid Vision Transformer (PVT v1) by adding three designs, including (1) linear complexity attention layer, (2) overlapping patch embedding, and (3) convolutional feed-forward network.

2021年6月29日 · 本文是南京大学&港大&南理工&商汤团队针对PVT的升级，针对PVT存在的不足提出了三点改进 (1)采用卷积提取局部连续特征； (2)带 zero-padding 的重叠块嵌入提取位置信息编码； (3)带均值池化、线性复杂度的注意力层。 受益于上述三点改进措施，所得PVTv2取得了显著优于PVTv1的 性能，同时具有比Swin更佳的性能。 Transformer 在CV领域取得了喜人的进展。 在本文工作中，我们在PVT (后称PVTv1)的基础上引入了如下三个改进得到了PVTv2: 带均值池 …

效果：PVTv2将计算复杂度降低为线性，并在分类、检测和分割等基本视觉任务上取得了显著的改进。 值得注意的是，PVTv2与Swin Transformer等最近的作品相比，不相上下的性能。 论文地址： PVTv2: Improved Baselines with Pyramid Vision Transformer. 代码地址： github.com/whai362/PVT.（和PVTv1一样） 这里很有意思的是文章的1、2作还有segformer等文章经常互换，找一个长期合作的伙伴吧. 1. Introduction.

在这项工作中，我们通过添加三种设计来改进原始的Pyramid Vision Transformer（PVT v1），从而提出了新的基线，包括（1）线性复杂度注意力层，（2）重叠补丁嵌入，以及（3）卷积前馈网络。 通过这些修改，PVT v2将PVT v1的计算复杂度降低到线性，并在分类、检测和分割等基本视觉任务上取得了显著的改进。 值得注意的是，所提出的PVT v2实现了与最近的一些工作（如Swin Transformer）相当或更好的性能。 我们希望这项工作能够促进计算机视觉领域最先进 …

2024年6月7日 · paper： PVT v2: Improved Baselines with Pyramid Vision Transformer. official implementation： https://github.com/whai362/PVT. third-party implementation： https://github.com/huggingface/pytorch-image-models/blob/main/timm/models/pvt_v2.py. 为了减少attention操作的高计算开销，作者提出了linear spatial reduction attention层，如图1所示。

2023年11月8日 · 与最近提出的专门为图像分类而设计的视觉转换器 (Vision Transformer, ViT)不同，我们引入了金字塔视觉转换器 (Pyramid Vision Transformer, PVT)，它克服了将Transformer移植到各种密集预测任务中的困难。 与目前的技术相比，PVT有几个优点。 (1)与ViT不同的是，ViT通常产生低分辨率的输出，并导致较高的计算和内存成本，PVT不仅可以在图像的密集分区上进行训练以获得高输出分辨率，这对密集预测很重要，而且它还使用一个逐步缩小的金字塔来减少大 …

2021年7月1日 · 本文提出PVTv2,PVTv2在分类、检测和分割方面显著改进了PVTv1，表现SOTA！ 性能优于Twins、DeiT和Swin等网络，代码刚刚开源！ 计算机视觉中的Transformer最近取得了令人鼓舞的进展。 在这项工作中，作者通过添加3个改进设计来改进原始金字塔视觉Transformer（PVTv1），其中包括： 具有平均汇集。 通过这些简单的修改，PVTv2在分类、检测和分割方面显著优于PVTv1。 此外，PVTv2在ImageNet-1K预训练下取得了比近期作品（包括 …

(2020/06/21) Code of PVTv2 is released! PVTv2 largely improves PVTv1 and works better than Swin Transformer with ImageNet-1K pre-training. The image is from Transformers: Revenge …

2021年7月1日 · 与最近提出的专门用于图像分类的Transformer模型（如ViT）不同，我们提出了金字塔视觉Transformer（PVT），它克服了将Transformer移植到各种密集预测任务的困难。 与现有技术相比，PVT具有若干优点： （1） 与通常具有低分辨率输出以及高计算和存储成本的ViT不同，PVT不仅可以在图像的密集分区上训练以获得高输出分辨率，这对于密集预测非常重要，而且可以使用渐进收缩金字塔来减少大特征图的计算；（2） PVT继承了CNN和Transformer的优 …

2022年6月30日 · PVT v2旨在建立更强大and more feasible baselines built on the PVTv1 framework。 三个设计改进，即（1）线性复杂度注意力层，（2）重叠块嵌入overlapping patch embedding；（3）卷积前馈网络。 当与PVTv1一起使用时，可以带来更好的性能，改进的框架成为PVT v2，具体来说PVT v2-B5【PVTv2有6中不同大小的变体，from B0-B5】在ImageNet上产生了83.8%的top-1 accuracy由于Swin-B和Swin-SVT-L，而PVTv2具有更少的参数和FLOPs。