基于训练阶段使用知识库+KNN检索相关信息辅助学习方法
在prompt learning中一个核心问题是模型存在死记硬背现象。prompt learnin主要应用在few-shot learning场景，先将训练数据转换成prompt的形式，在训练过程模型侧重于记忆训练数据，然后使用记忆的信息做预测。这个过程会导致模型缺乏泛化能力，一些长尾的case预测效果不好。
nips 2022中浙大和阿里提出使用检索方法增强prompt learning，利用训练数据构造知识库，在训练阶段使用知识库+knn检索相关信息辅助学习，通过这种方式将需要记忆的信息从模型中拆分出来，直接输入到模型中。通过这种方式，可以让模型参数更侧重泛化信息的学习，而不是过拟合训练数据。下面为大家详细介绍一下这篇工作。
nlp prompt系列——prompt engineering方法详细梳理
1 prompt learning回顾
prompt learning主要面向的是训练数据较少的场景。首先需要一个预训练模型，然后将下游任务转换成完形填空的形式。对于分类问题，判断某个text属于哪个label，转换成如下的文本输入到预训练语言模型中：
利用预训练语言模型，预测出[mask]对应的文本，后面接一个文本到label的映射函数，即可实现文本分类任务。prompt learning的好处是可以充分利用预训练语言模型的知识，让下游任务和预训练任务更加适配，以提升样本量不足情况下的效果。我在之前的文章nlp prompt系列——prompt engineering方法详细梳理详细介绍过prompt相关工作，感兴趣的同学可以进一步阅读。
虽然这种方法充分运用了预训练语言模型的知识，但毕竟finetune的数据少，模型更像在死记硬背训练prompt数据中的信息。这对于长尾样本或非典型的句子的预测效果不友好。为了解决上述问题，本文的核心思路是，如果我们把这些需要记忆的信息单独拿出来存储到一个知识库中，在需要的时候检索它们并作为模型额外输入，就能让模型参数没必要再死记硬背这些信息了，从而实现记忆和泛化更好的平衡，有点【好记性不如烂笔头】的感觉。下图是本文提出的基本框架示意图。
2 从知识库中检索信息
实现上面的框架核心是从知识库中检索信息，这也就涉及到两个问题，一个是如何构造知识库，另一个是如何进行信息检索和利用。
在知识库的构造上，文中构造的是一个{k, v}格式的数据，训练集中的每条样本对应一个{k, v}。k代表这个样本的prompt输入模型后[mask]位置的隐向量，v代表这个样本的label对应的单词。由于k是模型输出的向量，因此每训练几轮，就会动态更新知识库中的key，避免key和模型最新参数隔代太多不匹配。
在信息检索和利用上，对于当前样本模型先得到其[mask]位置的向量，然后用这个向量在知识库中进行knn检索，每个类别的样本都取出topk个，检索的距离度量是向量内积。对于每个类别检索出的向量，使用内积做softmax后进行加权融合，得到这个类别最终向量，拼接到当前样本embedding后面输入到模型中：
这部分检索出来的样本就是将需要记忆的知识直接引入到了当前样本中，不再需要模型参数去记忆了。此外，这种将向量引入而不是引入对应的token，可以让信息的扩展更方便，直接引入样本的token会拉长输入样本长度，导致模型性能下降，且长度也有上限。
3 使用knn指导模型训练和预测
上面收的引入知识库+knn的方法，缓解了模型参数需要强记忆训练样本的问题。此外，文中还通过knn检索结果来指导模型的学习过程。knn检索的好处是不需要模型训练，直接根据预训练的表示计算距离，利用邻居样本的label，就能预测当前样本的label。这对于模型来说是另一个维度的信息补充，文中通过区分难样本指导训练和在inference阶段指导预测两个方面进一步指导模型的训练和预测。
knn的检索结果可以用来区分难样本和简单样本。通过knn检索以及检索邻居的label，可以得到当前样本各个类别的预测概率。这个knn的预测结果可以作为是否是难样本的参考，如果模型预测预测结果和knn结果不一致，就是难样本。对于难样本，加大其学习权重，通过将knn预测概率引入到交叉熵损失中实现：
另一方面，在预测阶段，也直接将knn的预测结果拿出来和模型对于[mask]的预测结果做插值，得到最终的预测结果：
4 实验结果
文中在9个nlu数据集的few-shot和zero-shot learning上对比了效果，可以看到本文提出的方法对于效果的提升还是非常明显的。
此外，文中也对比了跨领域的效果，在source domain进行prompt learning，对比在target domain上的效果：
5 总结
检索在nlp各类任务中的应用越来越多，本文也将检索用于分离可记忆的信息来提升模型的泛化能力，并取得了显著效果。检索通过信息记忆+查询的方式，引入了丰富的外部信息，能够让模型更多的容量服务于学习泛化性，而非简单的记住训练数据。
小米MIX3曝光 或成屏占比最高的小米手机
企业要如何才能开发这样一款高质量的物联网APP呢？
一周融资三起 AI投资理性吗？
无线通信协议未统一，三大巨头谁做老大？
华云数据荣获“2019中国最有影响力物联网云平台企业奖”
基于训练阶段使用知识库+KNN检索相关信息辅助学习方法
索尼次旗舰液晶电视X9300E评测体验：买得起的高画质电视
华为开发者大会 2020 开幕 揭开技术神秘面纱
小米6和三星S8延迟发布竟都是因为它！魅族也不可避免
苹果A13处理器订单或已钦定台积电
用加速度计控制的Google地球（MPU-6050）
高端大屏发力 海信电视今年连续5个月市场占比超20%
友达兴建太阳能电池厂 相关产品已小量出货
全球首发！ROHM开发出高音质音响用电源IC“BD372xx系列”
MS5905旋变数字转换器可pin对pin兼容AD2S1205
UM2082F08在资产跟踪的管理技术应用分析
【解决方案】安科瑞充电桩系统在商业中心的应用
Resonac拟收购JSR，实现资源整合
LoRa节点如何以ABP方式入网TTN服务器？
解读2013显示行业热闻TOP10
nips 2022中浙大和阿里提出使用检索方法增强prompt learning，利用训练数据构造知识库，在训练阶段使用知识库+knn检索相关信息辅助学习，通过这种方式将需要记忆的信息从模型中拆分出来，直接输入到模型中。通过这种方式，可以让模型参数更侧重泛化信息的学习，而不是过拟合训练数据。下面为大家详细介绍一下这篇工作。
nlp prompt系列——prompt engineering方法详细梳理
1 prompt learning回顾
prompt learning主要面向的是训练数据较少的场景。首先需要一个预训练模型，然后将下游任务转换成完形填空的形式。对于分类问题，判断某个text属于哪个label，转换成如下的文本输入到预训练语言模型中：
利用预训练语言模型，预测出[mask]对应的文本，后面接一个文本到label的映射函数，即可实现文本分类任务。prompt learning的好处是可以充分利用预训练语言模型的知识，让下游任务和预训练任务更加适配，以提升样本量不足情况下的效果。我在之前的文章nlp prompt系列——prompt engineering方法详细梳理详细介绍过prompt相关工作，感兴趣的同学可以进一步阅读。
虽然这种方法充分运用了预训练语言模型的知识，但毕竟finetune的数据少，模型更像在死记硬背训练prompt数据中的信息。这对于长尾样本或非典型的句子的预测效果不友好。为了解决上述问题，本文的核心思路是，如果我们把这些需要记忆的信息单独拿出来存储到一个知识库中，在需要的时候检索它们并作为模型额外输入，就能让模型参数没必要再死记硬背这些信息了，从而实现记忆和泛化更好的平衡，有点【好记性不如烂笔头】的感觉。下图是本文提出的基本框架示意图。
2 从知识库中检索信息
实现上面的框架核心是从知识库中检索信息，这也就涉及到两个问题，一个是如何构造知识库，另一个是如何进行信息检索和利用。
在知识库的构造上，文中构造的是一个{k, v}格式的数据，训练集中的每条样本对应一个{k, v}。k代表这个样本的prompt输入模型后[mask]位置的隐向量，v代表这个样本的label对应的单词。由于k是模型输出的向量，因此每训练几轮，就会动态更新知识库中的key，避免key和模型最新参数隔代太多不匹配。
在信息检索和利用上，对于当前样本模型先得到其[mask]位置的向量，然后用这个向量在知识库中进行knn检索，每个类别的样本都取出topk个，检索的距离度量是向量内积。对于每个类别检索出的向量，使用内积做softmax后进行加权融合，得到这个类别最终向量，拼接到当前样本embedding后面输入到模型中：
这部分检索出来的样本就是将需要记忆的知识直接引入到了当前样本中，不再需要模型参数去记忆了。此外，这种将向量引入而不是引入对应的token，可以让信息的扩展更方便，直接引入样本的token会拉长输入样本长度，导致模型性能下降，且长度也有上限。
3 使用knn指导模型训练和预测
上面收的引入知识库+knn的方法，缓解了模型参数需要强记忆训练样本的问题。此外，文中还通过knn检索结果来指导模型的学习过程。knn检索的好处是不需要模型训练，直接根据预训练的表示计算距离，利用邻居样本的label，就能预测当前样本的label。这对于模型来说是另一个维度的信息补充，文中通过区分难样本指导训练和在inference阶段指导预测两个方面进一步指导模型的训练和预测。
knn的检索结果可以用来区分难样本和简单样本。通过knn检索以及检索邻居的label，可以得到当前样本各个类别的预测概率。这个knn的预测结果可以作为是否是难样本的参考，如果模型预测预测结果和knn结果不一致，就是难样本。对于难样本，加大其学习权重，通过将knn预测概率引入到交叉熵损失中实现：
另一方面，在预测阶段，也直接将knn的预测结果拿出来和模型对于[mask]的预测结果做插值，得到最终的预测结果：
4 实验结果
文中在9个nlu数据集的few-shot和zero-shot learning上对比了效果，可以看到本文提出的方法对于效果的提升还是非常明显的。
此外，文中也对比了跨领域的效果，在source domain进行prompt learning，对比在target domain上的效果：
5 总结
检索在nlp各类任务中的应用越来越多，本文也将检索用于分离可记忆的信息来提升模型的泛化能力，并取得了显著效果。检索通过信息记忆+查询的方式，引入了丰富的外部信息，能够让模型更多的容量服务于学习泛化性，而非简单的记住训练数据。
小米MIX3曝光 或成屏占比最高的小米手机
企业要如何才能开发这样一款高质量的物联网APP呢？
一周融资三起 AI投资理性吗？
无线通信协议未统一，三大巨头谁做老大？
华云数据荣获“2019中国最有影响力物联网云平台企业奖”
基于训练阶段使用知识库+KNN检索相关信息辅助学习方法
索尼次旗舰液晶电视X9300E评测体验：买得起的高画质电视
华为开发者大会 2020 开幕 揭开技术神秘面纱
小米6和三星S8延迟发布竟都是因为它！魅族也不可避免
苹果A13处理器订单或已钦定台积电
用加速度计控制的Google地球（MPU-6050）
高端大屏发力 海信电视今年连续5个月市场占比超20%
友达兴建太阳能电池厂 相关产品已小量出货
全球首发！ROHM开发出高音质音响用电源IC“BD372xx系列”
MS5905旋变数字转换器可pin对pin兼容AD2S1205
UM2082F08在资产跟踪的管理技术应用分析
【解决方案】安科瑞充电桩系统在商业中心的应用
Resonac拟收购JSR，实现资源整合
LoRa节点如何以ABP方式入网TTN服务器？
解读2013显示行业热闻TOP10