如何理解attention中的Q,K,V？
回答一：作者-不是大叔
我们直接用torch实现一个selfattention来说一说： 1.首先定义三个线性变换矩阵，query, key, value：
class bertselfattention(nn.module):
self.query = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.key = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.value = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 注意，这里的query, key, value只是一种操作(线性变换)的名称，实际的q/k/v是它们三个的输出 2. 假设三种操作的输入都是同一个矩阵（暂且先别管为什么输入是同一个矩阵），这里暂且定为长度为l的句子，每个token的特征维度是768，那么输入就是（l,768），每一行就是一个字，像这样：
乘以上面三种操作就得到了q/k/v，(l, 768)*(768,768) = (l,768)，维度其实没变，即此刻的q/k/v分别为：
代码为：
class bertselfattention(nn.module): def __init__(self, config): self.query = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.key = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.value = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 def forward(self,hidden_states): # hidden_states 维度是（l, 768） q = self.query(hidden_states) k = self.key(hidden_states) v = self.value(hidden_states) 3. 然后来实现这个操作：
① 首先是q和k矩阵乘，（l, 768）*(l, 768)的转置=（l,l），看图：
首先用q的第一行，即“我”字的768特征和k中“我”字的768为特征点乘求和，得到输出（0，0）位置的数值，这个数值就代表了“我想吃酸菜鱼”中“我”字对“我”字的注意力权重，然后显而易见输出的第一行就是“我”字对“我想吃酸菜鱼”里面每个字的注意力权重；整个结果自然就是“我想吃酸菜鱼”里面每个字对其它字（包括自己）的注意力权重（就是一个数值）了~ ② 然后是除以根号dim，这个dim就是768，至于为什么要除以这个数值？主要是为了缩小点积范围，确保softmax梯度稳定性，具体推导可以看这里：莲生三十二：self-attention中dot-product操作为什么要被缩放（https://zhuanlan.zhihu.com/p/149903065），然后就是为什么要softmax，一种解释是为了保证注意力权重的非负性，同时增加非线性，还有一些工作对去掉softmax进行了实验，如paperweekly：线性attention的探索：attention必须有个softmax吗？（https://zhuanlan.zhihu.com/p/157490738）
③ 然后就是刚才的注意力权重和v矩阵乘了，如图：
注意力权重 x value矩阵 = 最终结果 首先是“我”这个字对“我想吃酸菜鱼”这句话里面每个字的注意力权重，和v中“我想吃酸菜鱼”里面每个字的第一维特征进行相乘再求和，这个过程其实就相当于用每个字的权重对每个字的特征进行加权求和，然后再用“我”这个字对对“我想吃酸菜鱼”这句话里面每个字的注意力权重和v中“我想吃酸菜鱼”里面每个字的第二维特征进行相乘再求和，依次类推~最终也就得到了（l,768）的结果矩阵，和输入保持一致~
整个过程在草稿纸上画一画简单的矩阵乘就出来了，一目了然~最后上代码：
class bertselfattention(nn.module):
def __init__(self, config): self.query = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.key = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.value = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 def forward(self,hidden_states): # hidden_states 维度是（l, 768） q = self.query(hidden_states) k = self.key(hidden_states) v = self.value(hidden_states) attention_scores = torch.matmul(q, k.transpose(-1, -2)) attention_scores = attention_scores / math.sqrt(self.attention_head_size) attention_probs = nn.softmax(dim=-1)(attention_scores) out = torch.matmul(attention_probs, v) return out4. 为什么叫自注意力网络？因为可以看到q/k/v都是通过同一句话的输入算出来的，按照上面的流程也就是一句话内每个字对其它字（包括自己）的权重分配；那如果不是自注意力呢？简单来说，q来自于句a，k、v来自于句b即可~ 5. 注意，k/v中，如果同时替换任意两个字的位置，对最终的结果是不会有影响的，至于为什么，可以自己在草稿纸上画一画矩阵乘；也就是说注意力机制是没有位置信息的，不像cnn/rnn/lstm；这也是为什么要引入位置embeding的原因。 02 回答二：作者-到处挖坑蒋玉成
其实直接用邱锡鹏老师ppt里的一张图就可以直观理解——假设d是输入序列的内容，完全忽略线性变换的话可以近似认为q=k=v=d（所以叫做self-attention，因为这是输入的序列对它自己的注意力），于是序列中的每一个元素经过self-attention之后的表示就可以这样展现：
也就是说，the这个词的表示，实际上是整个序列加权求和的结果——权重从哪来？点积之后softmax得到——这里softmax(qk)就是求权重的体现。我们知道，向量点积的值可以表征词与词之间的相似性，而此处的“整个序列”包括the这个词自己（再一次强调这是self-attention），所以最后输出的词的表示，其“主要成分”就主要地包含它自身和跟它相似的词的表示，其他无关的词的表示对应的权重就会比较低。 03
回答三：作者-渠梁
首先附上链接：张俊林：深度学习中的注意力模型（2017版）（https://zhuanlan.zhihu.com/p/37601161） 。这个几乎是我读到过的讲解attention最为透彻的篇章之一了。 q(querry)代表查询值，对应decoder的h(t-1)状态。这里要正确理解h(t-1)，想要解码出t时刻的输出，你送入decoder的必然有前一时刻计算出的隐状态。好了，所谓查询，就是你要拿着这个decoder中的h(t-1)去和encoder中各个时刻的隐状态[h(1), h(2), ... , h(t)](也就是各个key)去比，也就是二者计算相似度(对应于文献中的各种energy函数)。最后算出来的结果用softmax归一化，这个算出来的权重就是带有注意力机制的权重，其实在翻译任务中，key和value是相等的。在transformer的实现源码中，key和value的初始值也是相等的。有了这个权重之后，就可以用这个权重对value进行加权求和，生成的这个新的向量就是带有注意力机制的语义向量 context vector，而这个语义向量会权衡target与source的token与token的关系，从而实现解码输出时，与source中“真正有决定意义”的token关联。 姑且画蛇添足的再说几句：
首先，attention机制是由encoder-decoder架构而来，且最初是用于完成nlp领域中的翻译(translation)任务。那么输入输出就是非常明显的 source-target的对应关系，经典的seq2seq结构是从encoder生成出一个语义向量(contextvector)而不再变化，然后将这个语义向量送入decoder配合解码输出。这种方法的最大问题就是这个语义向量，我们是希望它一成不变好呢？还是它最好能配合decoder动态调整自己，来使target中的某些token与source中的真正“有决定意义”的token关联起来好呢？ 这就是为什么会有attention机制的原因。说到底，attention机制就是想生成会动态变化的语义向量来配合解码输出。而新贵 self-attention则是为了解决target与source各自内部token与token的关系。在transformer中，这两种注意力机制得到了有机的统一，释放出了异常惊人的潜力。
微距与长焦镜头联姻 长焦微距镜头有何意义
IR高压D类音频控制器减少放大器的元件数量
Firefly关于PX3-SE程序SSH使用介绍
故障电弧保护器的功用与作用的介绍
智慧供暖温控物联网系统，实现企业供暖降本升效
如何理解attention中的Q,K,V？
德索fakra连接器的发展前景及三大特性
设计一个基于LED视频显示板-Designing an LE
用开关电源给高速AD转换器供电的优缺点
连涨三周！年轻人为何爱选海尔智家Leader冰箱？
实例讲解变压器参数
荣耀Magic Earbuds耳机与荣耀MagicWatch 2限量版表带在海外公布
LT3752/LT8311具高轻负载效率的有源钳位正激式转换器
WT588F02A-16S录音语音芯片IC：全面开放配置，满足客户个性化定制需求
石墨烯在医疗、健康领域的应用新需求
美日韩三国领导人会议下月在美举行
TransModeler公交信号优先仿真建模案例
玉米呕吐毒素检测仪的特点
磁性材料在电路设计中有什么作用
bxCAN控制器标识符的过滤方法、规则与应用介绍
我们直接用torch实现一个selfattention来说一说： 1.首先定义三个线性变换矩阵，query, key, value：
class bertselfattention(nn.module):
self.query = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.key = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.value = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 注意，这里的query, key, value只是一种操作(线性变换)的名称，实际的q/k/v是它们三个的输出 2. 假设三种操作的输入都是同一个矩阵（暂且先别管为什么输入是同一个矩阵），这里暂且定为长度为l的句子，每个token的特征维度是768，那么输入就是（l,768），每一行就是一个字，像这样：
乘以上面三种操作就得到了q/k/v，(l, 768)*(768,768) = (l,768)，维度其实没变，即此刻的q/k/v分别为：
代码为：
class bertselfattention(nn.module): def __init__(self, config): self.query = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.key = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.value = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 def forward(self,hidden_states): # hidden_states 维度是（l, 768） q = self.query(hidden_states) k = self.key(hidden_states) v = self.value(hidden_states) 3. 然后来实现这个操作：
① 首先是q和k矩阵乘，（l, 768）*(l, 768)的转置=（l,l），看图：
首先用q的第一行，即“我”字的768特征和k中“我”字的768为特征点乘求和，得到输出（0，0）位置的数值，这个数值就代表了“我想吃酸菜鱼”中“我”字对“我”字的注意力权重，然后显而易见输出的第一行就是“我”字对“我想吃酸菜鱼”里面每个字的注意力权重；整个结果自然就是“我想吃酸菜鱼”里面每个字对其它字（包括自己）的注意力权重（就是一个数值）了~ ② 然后是除以根号dim，这个dim就是768，至于为什么要除以这个数值？主要是为了缩小点积范围，确保softmax梯度稳定性，具体推导可以看这里：莲生三十二：self-attention中dot-product操作为什么要被缩放（https://zhuanlan.zhihu.com/p/149903065），然后就是为什么要softmax，一种解释是为了保证注意力权重的非负性，同时增加非线性，还有一些工作对去掉softmax进行了实验，如paperweekly：线性attention的探索：attention必须有个softmax吗？（https://zhuanlan.zhihu.com/p/157490738）
③ 然后就是刚才的注意力权重和v矩阵乘了，如图：
注意力权重 x value矩阵 = 最终结果 首先是“我”这个字对“我想吃酸菜鱼”这句话里面每个字的注意力权重，和v中“我想吃酸菜鱼”里面每个字的第一维特征进行相乘再求和，这个过程其实就相当于用每个字的权重对每个字的特征进行加权求和，然后再用“我”这个字对对“我想吃酸菜鱼”这句话里面每个字的注意力权重和v中“我想吃酸菜鱼”里面每个字的第二维特征进行相乘再求和，依次类推~最终也就得到了（l,768）的结果矩阵，和输入保持一致~
整个过程在草稿纸上画一画简单的矩阵乘就出来了，一目了然~最后上代码：
class bertselfattention(nn.module):
def __init__(self, config): self.query = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.key = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 self.value = nn.linear(config.hidden_size, self.all_head_size) # 输入768， 输出768 def forward(self,hidden_states): # hidden_states 维度是（l, 768） q = self.query(hidden_states) k = self.key(hidden_states) v = self.value(hidden_states) attention_scores = torch.matmul(q, k.transpose(-1, -2)) attention_scores = attention_scores / math.sqrt(self.attention_head_size) attention_probs = nn.softmax(dim=-1)(attention_scores) out = torch.matmul(attention_probs, v) return out4. 为什么叫自注意力网络？因为可以看到q/k/v都是通过同一句话的输入算出来的，按照上面的流程也就是一句话内每个字对其它字（包括自己）的权重分配；那如果不是自注意力呢？简单来说，q来自于句a，k、v来自于句b即可~ 5. 注意，k/v中，如果同时替换任意两个字的位置，对最终的结果是不会有影响的，至于为什么，可以自己在草稿纸上画一画矩阵乘；也就是说注意力机制是没有位置信息的，不像cnn/rnn/lstm；这也是为什么要引入位置embeding的原因。 02 回答二：作者-到处挖坑蒋玉成
其实直接用邱锡鹏老师ppt里的一张图就可以直观理解——假设d是输入序列的内容，完全忽略线性变换的话可以近似认为q=k=v=d（所以叫做self-attention，因为这是输入的序列对它自己的注意力），于是序列中的每一个元素经过self-attention之后的表示就可以这样展现：
也就是说，the这个词的表示，实际上是整个序列加权求和的结果——权重从哪来？点积之后softmax得到——这里softmax(qk)就是求权重的体现。我们知道，向量点积的值可以表征词与词之间的相似性，而此处的“整个序列”包括the这个词自己（再一次强调这是self-attention），所以最后输出的词的表示，其“主要成分”就主要地包含它自身和跟它相似的词的表示，其他无关的词的表示对应的权重就会比较低。 03
回答三：作者-渠梁
首先附上链接：张俊林：深度学习中的注意力模型（2017版）（https://zhuanlan.zhihu.com/p/37601161） 。这个几乎是我读到过的讲解attention最为透彻的篇章之一了。 q(querry)代表查询值，对应decoder的h(t-1)状态。这里要正确理解h(t-1)，想要解码出t时刻的输出，你送入decoder的必然有前一时刻计算出的隐状态。好了，所谓查询，就是你要拿着这个decoder中的h(t-1)去和encoder中各个时刻的隐状态[h(1), h(2), ... , h(t)](也就是各个key)去比，也就是二者计算相似度(对应于文献中的各种energy函数)。最后算出来的结果用softmax归一化，这个算出来的权重就是带有注意力机制的权重，其实在翻译任务中，key和value是相等的。在transformer的实现源码中，key和value的初始值也是相等的。有了这个权重之后，就可以用这个权重对value进行加权求和，生成的这个新的向量就是带有注意力机制的语义向量 context vector，而这个语义向量会权衡target与source的token与token的关系，从而实现解码输出时，与source中“真正有决定意义”的token关联。 姑且画蛇添足的再说几句：
首先，attention机制是由encoder-decoder架构而来，且最初是用于完成nlp领域中的翻译(translation)任务。那么输入输出就是非常明显的 source-target的对应关系，经典的seq2seq结构是从encoder生成出一个语义向量(contextvector)而不再变化，然后将这个语义向量送入decoder配合解码输出。这种方法的最大问题就是这个语义向量，我们是希望它一成不变好呢？还是它最好能配合decoder动态调整自己，来使target中的某些token与source中的真正“有决定意义”的token关联起来好呢？ 这就是为什么会有attention机制的原因。说到底，attention机制就是想生成会动态变化的语义向量来配合解码输出。而新贵 self-attention则是为了解决target与source各自内部token与token的关系。在transformer中，这两种注意力机制得到了有机的统一，释放出了异常惊人的潜力。
微距与长焦镜头联姻 长焦微距镜头有何意义
IR高压D类音频控制器减少放大器的元件数量
Firefly关于PX3-SE程序SSH使用介绍
故障电弧保护器的功用与作用的介绍
智慧供暖温控物联网系统，实现企业供暖降本升效
如何理解attention中的Q,K,V？
德索fakra连接器的发展前景及三大特性
设计一个基于LED视频显示板-Designing an LE
用开关电源给高速AD转换器供电的优缺点
连涨三周！年轻人为何爱选海尔智家Leader冰箱？
实例讲解变压器参数
荣耀Magic Earbuds耳机与荣耀MagicWatch 2限量版表带在海外公布
LT3752/LT8311具高轻负载效率的有源钳位正激式转换器
WT588F02A-16S录音语音芯片IC：全面开放配置，满足客户个性化定制需求
石墨烯在医疗、健康领域的应用新需求
美日韩三国领导人会议下月在美举行
TransModeler公交信号优先仿真建模案例
玉米呕吐毒素检测仪的特点
磁性材料在电路设计中有什么作用
bxCAN控制器标识符的过滤方法、规则与应用介绍