ICCV2021 | Vision Transformer中相對位置編碼的反思與改進
前言 在計算機視覺中，相對位置編碼的有效性還沒有得到很好的研究，甚至仍然存在爭議，本文分析了相對位置編碼中的幾個關鍵因素，提出了一種新的針對2D圖像的相對位置編碼方法，稱為圖像RPE(IRPE ...
原文：ICCV2021 | Tokens-to-Token ViT:在ImageNet上從零訓練Vision Transformer
前言 本文介紹一種新的tokens to token Vision Transformer T T ViT ，T T ViT將原始ViT的參數數量和MAC減少了一半，同時在ImageNet上從頭開始訓練時實現了 . 以上的改進。通過直接在ImageNet上進行訓練，它的性能也優於ResNet，達到了與MobileNet相當的性能。 本文來自公眾號CV技術指南的論文分享系列 關注公眾號CV技術指南 ...
2021-12-21 22:45 0 128 推薦指數：
相關推薦
ICCV2021 | 用於視覺跟蹤的學習時空型transformer
前言 本文介紹了一個端到端的用於視覺跟蹤的transformer模型，它能夠捕獲視頻序列中空間和時間信息的全局特征依賴關系。在五個具有挑戰性的短期和長期基准上實現了SOTA性能，具有實時性，比Siam R-CNN快6倍。 本文來自公眾號CV技術指南的論文分享系列 關注公眾號 ...
ICCV2021 | SOTR:使用transformer分割物體
前言 本文介紹了現有實例分割方法的一些缺陷，以及transformer用於實例分割的困難，提出了一個基於transformer的高質量實例分割模型SOTR。 經實驗表明，SOTR不僅為實例分割提供了一個新的框架，還在MS Coco數據集上超過了SOTA實例分割方法。 本文來自公眾號 ...
ICCV2021 | Swin Transformer: 使用移位窗口的分層視覺Transformer
前言 本文解讀的論文是ICCV2021中的最佳論文，在短短幾個月內，google scholar上有388引用次數，github上有6.1k star。 本文來自公眾號CV技術指南的論文分享系列 關注公眾號CV技術指南 ，專注於計算機視覺的技術總結、最新技術跟蹤、經典論文解讀 ...
VIT Vision Transformer | 先從PyTorch代碼了解
文章原創自：微信公眾號「機器學習煉丹術」 作者：煉丹兄 聯系方式：微信cyx645016617 代碼來自github 【前言】：看代碼的時候，也許會不理解VIT中各種組件的含義，但是這個文章的目的是了解其實現。在之后看論文的時候，可以做到心中有數，而不是一片 ...
ICCV2021 | TransFER：使用Transformer學習關系感知的面部表情表征
前言 人臉表情識別(FER)在計算機視覺領域受到越來越多的關注。本文介紹了一篇在人臉表情識別方向上使用Transformer來學習關系感知的ICCV2021論文，論文提出了一個TransFER模型，在幾個FER基准數據集上取得了SOTA性能。 本文來自公眾號CV技術指南的論文 ...
ICCV2021 | PnP-DETR：用Transformer進行高效的視覺分析
前言 DETR首創了使用transformer解決視覺任務的方法，它直接將圖像特征圖轉化為目標檢測結果。盡管很有效，但由於在某些區域(如背景)上進行冗余計算，輸入完整的feature maps的成本會很高。 在這項工作中，論文將減少空間冗余的思想封裝到一個新的輪詢和池(Poll ...
ICCV2021 | 醫學影像等小數據集的非自然圖像領域能否用transformer？
前言 醫學領域的數據集具有標注樣本少、圖像非自然的特點，transformer已經證明了在自然圖像領域下的成功，而能否應用於醫學領域等少量標注樣本的非自然圖像領域呢？ 本文研究比較了CNN和ViTs在三種不同初始化策略下在醫學圖像任務中的表現，研究了自監督預訓練對醫學圖像領域的影響 ...