https://blog.csdn.net/kansas_lh/article/details/79321234 tensor是tensorflow基础的一个概念——张量。 Tensorflow用到了数据流图，数据流图包括数据（Data）、流（Flow）、图（Graph）。Tensorflow里 ...

Torch中的唯一的数据结构就是Tensor了，而该结构简洁而且强大，非常适合进行矩阵类的数值计算，它是Torch中最最重要的类了。这个Tensor其实就是个多维矩阵，支持矩阵的各种操作。这里需要特别强调的是，lua中的数组（其实是table）下标是从1开始的，因此Tensor对象的下标也是 ...

注意力的种类有如下四种： 加法注意力, Bahdanau Attention 点乘注意力, Luong Attention 自注意力, Self-Attention 多头点乘注意力, Multi-Head Dot Product Attention（请转至Transformer ...

注意力机制分为：通道注意力机制， 空间注意力机制， 通道_空间注意力机制， 自注意力机制 参考： https://blog.csdn.net/weixin_44791964/article/details/121371986 通道注意力机制 SENet 其重点是获得输入进来的特征层 ...

谷歌开源T2T模型库，深度学习系统进入模块化时代！ 谷歌大脑颠覆深度学习混乱现状，要用单一模型学会多项任务 https://github.com/tensorflow/models https: ...

注意力机制中的软和硬 注意力机制是当前深度学习领域比较流行的一个概念。其模仿人的视觉注意力模式，每次只关注与当前任务最相关的源域信息，使得信息的索取更为高效。 注意力机制已在语言模型、图像标注等诸多领域取得了突破进展。 注意力机制可分为软和硬两类： 软性注意力（Soft ...

有一些其他理论先暂时不讲了，直奔今天的主题 视觉注意力机制 视觉注意力机制根据 关注域 的不同，可分为三大类：空间域、通道域、混合域 空间域：将图片中的 空间域信息 做对应的 变换，从而将关键得信息提取出来。对空间进行掩码的生成，进行打分，代表是 Spatial Attention ...