论文阅读笔记（六十四）【arXiv2021】：TransReID: Transformer-based Object Re-Identification
，因此把transformer应用到ReID中需要考虑到空间的对齐。在此论文中，作者把ViT作为backbone提取特征，并对Re ...
原文：论文阅读 | Compressing Large-Scale Transformer-Based Models: A Case Study on BERT
Transefomer based 的预处理模型往往很消耗资源，对运算性能要求极高，还有严格的延迟需求。 潜在补救方法：模型压缩。 这篇文章主要讲如何压缩Transformers，重点关注BERT。使用不同的方法对attention层 全连接层等不同部分的压缩会有不同的效果，来看看作者后面怎么说。 对BERT的分解与分析 BERT主要有两个训练目标: Masked Language Model ...
2020-03-12 18:27 0 621 推荐指数：
相关推荐
论文阅读笔记（四十二）【AAAI2019】：STA：Spatial-Temporal Attention for Large-Scale Video-based Person Re-Identification
Introduction 本文主要提出了高效且容易实现的STA框架（Spatial-Temporal Attention）来解决大规模video Reid问题。框架中融合了一些创新元素：帧选取、判别 ...
【论文阅读】DuIE: A Large-scale Chinese Dataset for Information Extraction[CCF2019]
论文地址:http://tcci.ccf.org.cn/conference/2019/papers/EV10.pdf 数据集地址：http://ai.baidu.com/broad/download Abstract 信息抽取是知识图构建的重要基础，也是许多自然语言理解应用的基础。与许多 ...
论文解读（LINE）《LINE: Large-scale Information Network Embedding》
论文信息 论文标题：LINE: Large-scale Information Network Embedding论文作者：Jian Tang, Meng Qu , Mingzhe Wang, Ming Zhang, Jun Yan, Qiaozhu Mei论文来源：2015, WWW论文 ...
Efficient Large-Scale Stereo Matching论文解析
Efficient Large-Scale Stereo Matching 解析 @(sinbad)[360sinbad@gmail.com] 这是一篇2010年ACCV的立体匹配方面的论文，该文提出的算法主要用于在双目立体视觉中进行快速高清晰度图像匹配。算法基本思想为：通过计算一些支持点组成 ...
论文阅读《LEX-BERT: Enhancing BERT based NER with lexicons》
key value 论文名称 LEX-BERT: Enhancing BERT based NER with lexicons 一作 Wei Zhu 单位 ...
阅读笔记：Very Deep Convolutional Networks for Large-Scale Image Recognition
摘要： 在这篇论文我们主要研究卷积神级网络的深度对大范围图像识别效果的影响，我们发现增加神经网络层数增加到16-19层时我们的实验结果有很大的提高。这使得我们在2014年的ImageNet Challenge中取得了定位第一和分类第二的成绩。 动机： 卷积神经网络可能因为有了大量的公开图像库 ...
[论文笔记]RandLA-Net: Efficient Semantic Segmentation of Large-Scale Point Clouds
针对目前点云分割存在速度慢、显存需求大的问题，该文提出以一种高效率学习的方法。从论文的结果来看，该文不仅在计算时间和计算资源上大幅缩减，分割效果也是达到甚至超过了SOTA。 采样 大规模点云处理的一个挑战在于如何快速且有效地进行采样，从而加速应用所需的时间和计算资源 ...