ICCV2021 | 用於視覺跟蹤的學習時空型transformer
前言 本文介紹了一個端到端的用於視覺跟蹤的transformer模型，它能夠捕獲視頻序列中空間和時間信息的全局特征依賴關系。在五個具有挑戰性的短期和長期基准上實現了SOTA性能，具有實時性，比Siam R-CNN快6倍。 本文來自公眾號CV技術指南的論文分享系列 關注公眾號 ...
原文：ICCV2021 | Swin Transformer: 使用移位窗口的分層視覺Transformer
前言 本文解讀的論文是ICCV 中的最佳論文，在短短幾個月內，google scholar上有 引用次數，github上有 . k star。 本文來自公眾號CV技術指南的論文分享系列 關注公眾號CV技術指南 ，專注於計算機視覺的技術總結 最新技術跟蹤 經典論文解讀。 論文: Swin Transformer: Hierarchical Vision Transformer using Shif ...
2021-11-28 15:29 0 186 推薦指數：
相關推薦
ICCV2021 | SOTR:使用transformer分割物體
前言 本文介紹了現有實例分割方法的一些缺陷，以及transformer用於實例分割的困難，提出了一個基於transformer的高質量實例分割模型SOTR。 經實驗表明，SOTR不僅為實例分割提供了一個新的框架，還在MS Coco數據集上超過了SOTA實例分割方法。 本文來自公眾號 ...
ICCV2021 | PnP-DETR：用Transformer進行高效的視覺分析
前言 DETR首創了使用transformer解決視覺任務的方法，它直接將圖像特征圖轉化為目標檢測結果。盡管很有效，但由於在某些區域(如背景)上進行冗余計算，輸入完整的feature maps的成本會很高。 在這項工作中，論文將減少空間冗余的思想封裝到一個新的輪詢和池(Poll ...
ICCV2021 | TransFER：使用Transformer學習關系感知的面部表情表征
前言 人臉表情識別(FER)在計算機視覺領域受到越來越多的關注。本文介紹了一篇在人臉表情識別方向上使用Transformer來學習關系感知的ICCV2021論文，論文提出了一個TransFER模型，在幾個FER基准數據集上取得了SOTA性能。 本文來自公眾號CV技術指南的論文 ...
ICCV2021 | 醫學影像等小數據集的非自然圖像領域能否用transformer？
前言 醫學領域的數據集具有標注樣本少、圖像非自然的特點，transformer已經證明了在自然圖像領域下的成功，而能否應用於醫學領域等少量標注樣本的非自然圖像領域呢？ 本文研究比較了CNN和ViTs在三種不同初始化策略下在醫學圖像任務中的表現，研究了自監督預訓練對醫學圖像領域的影響 ...
ICCV2021 | Vision Transformer中相對位置編碼的反思與改進
前言 在計算機視覺中，相對位置編碼的有效性還沒有得到很好的研究，甚至仍然存在爭議，本文分析了相對位置編碼中的幾個關鍵因素，提出了一種新的針對2D圖像的相對位置編碼方法，稱為圖像RPE(IRPE)。 本文來自公眾號CV技術指南的論文分享系列 關注公眾號CV技術指南 ，專注於計算機視覺 ...
ICCV2021 | Tokens-to-Token ViT:在ImageNet上從零訓練Vision Transformer
前言 本文介紹一種新的tokens-to-token Vision Transformer(T2T-ViT)，T2T-ViT將原始ViT的參數數量和MAC減少了一半，同時在ImageNet上從頭開始訓練時實現了3.0%以上的改進。通過直接在ImageNet上進行訓練，它的性能也優於 ...
Swin Transformer
論文鏈接：Swin Transformer: Hierarchical Vision Transformer using Shifted Windows Introduction 目前Transformer應用到圖像領域主要有兩大挑戰： 視覺實體變化大，在不同場景下視覺 ...