一种处理多标签文本分类的新颖推理机制
研究动机
多标签文本分类（multi-label text classification, 简称mltc）的目的是在给定文本后要求模型预测其多个非互斥的相关标签。该任务在许多自然语言处理任务上都有体现。如在表1中，需要给该文档打上标签：basketball、nba、sport。
表1多标签文本分类的例子
文本 this article is about a game between houston rockets and los angeles lakers.
相关标签 basketball, nba, sport
不相关标签 football
一种处理mltc的简单方法是将其转换为多个独立的二分类问题。该方法被称为binaryrelevance (br)，由于其简单性而被大规模使用。但该方法的弊端也十分明显，即该方法完全忽略了标签之间的相关信息。直觉上，知道一些标签——如上例中的basketball及nba——会使得预测其他标签（如sport）更加简单。研究者指出对于多标签分类任务而言，有效利用标签之间的相关性是有益的、甚至是必要的。为此，涌现出许多利用标签关系的算法，其中最知名的就是算法classifier chains（cc）。该算法将多个二分类器串联起来，其中每个分类器使用之前分类器的预测结果作为额外的输入。该方法将潜在的标签依赖纳入考虑，但该问题的最大缺陷在于不同的标签顺序会产生天壤之别的性能。同时，cc算法的链式结构使得算法无法并行，在处理大规模数据集时效率低下。
近年来，也有学者将标签集合视作标签序列，并使用基于神经网络的端到端模型（seq2seq）来处理该任务。相较于cc预测所有标签，这类seq2seq的模型只预测相关标签。因此该类模型的决策链条长度更短，性能更优。但这类模型的性能强烈依赖于标签的顺序。在多标签数据集中，标签本质上是无序的集合，未必可以线性排列。学者们指出不同的标签顺序对于学习和预测有着重大影响。举例来说，对于表1中的例子，如果标签序列以sport开始，则对于预测其他相关标签的帮助不大。
02
—
解决方案
为了处理上述问题，我们提出了multi-label reasoner（ml-reasoner），一个基于推理机制的算法。ml-reasoner的框架如图1所示，我们为每一个标签分配一个二分类器，它们同时预测所有标签以满足标签的无序性质。这样的话，ml-reasoner可以同时计算每一个标签相关的概率。例如在处理上例时，ml-reasoner可能认为标签nba相关的概率为0.9，basketball的为0.7，sport为0.55，football为0.3.这样，ml-reasoner就完全避免依赖标签顺序。同时为了有效利用标签的相关性，我们设置了一种新颖的迭代推理机制，即将上一轮对所有标签相关的预测作为下一次迭代的额外特征输入。这种方法使得ml-reasoner可以在每一轮的迭代中完善预测结果。举例来说，考虑到标签nba与basketball相关的概率较高，模型可以在后续迭代中，将标签sport的概率调高。
图 1 multi-label reasoner整体框架图
具体到reasoner的实现，我们将其划分为五个组件，其相关交互关系见图2。
图2多标签文本分类的reasoner模块
- text encoder将词语序列转换为稠密的向量表示，主要负责抽取文本特征；
- label encoder将上一轮次所有标签的相关概率转换为相应的标签表示；
- attention模块负责计算文本与不同标签之间的相关性；
- combiner则将文本的原始特征与标签特征进行整合；
- 具有相同结构但不同参数的classifier则预测各个标签的相关性。
至于损失函数，我们选择了binary cross entropy (bce)。更具体的设置请参见原文。
03
—
实验
我们在两个常用的多标签文本分类数据集arxiv acadmeic paper dataset（aapd）及reuters corpus volum i （rcv1-v2）上进行了实验。aapd数据量更少、标签密度更大，分类难度更大。评价指标则选用了hamming loss，micro-precision，micro-recall及micro-f1；其中hamming loss越低越好，其他则越高越好。至于基准模型，我们选用了经典模型如br、cc、lp，也有性能优越的seq2seq模型如cnn-rnn、sgm，还有其他一些表现卓越的多标签文本分类模型如lsan，之外也将seq2set纳入进来作为比较。seq2set使用强化学习算法来缓解seq2seq模型对于标签顺序的依赖程度。同时，为了验证ml-reasoner在不同文本编码器上能带来的性能提升，我们分别使用了cnn、lstm及bert作为ml-reasoner框架中的text encoder模块。实验结果如表2所示。
表2 ml-reasoner及基准模型在两个数据集上的性能
从表中可以看出，ml-reasoner在两个数据集上均达到了sota水准，且在三种不同文本编码器上都能带来显著提升。
为了验证ml-reasoner可以完全避免对标签顺序的依赖，我们随机打乱aapd数据集的标签顺序，并进行了测试；各个模型的性能如表3所示。从表中可以看到，cc及seq2seq模型的性能受标签顺序的剧烈影响；seq2set可以显著缓解seq2seq的问题；而ml-reasoner则完全不受标签顺序的影响。
表3各模型在标签打乱的aapd数据集上的性能
我们也通过烧蚀实验（见图3），确定了推理机制确实是性能提升的关键。
图3 ml-reasoner（t=1,2,5）及cnn-round（t=1,2,5）在aapd测试集上的性能雷达图
我们也探究了迭代次数对模型性能的影响，由图4可知，进行了一次推理就可以带来显著提升；而推理次数的再次提高并不能带来更多的提升。这可能是因为模型及数据集的选择导致的。
图4不同迭代轮数下的ml-reasoner在aapd测试集上的性能雷达图
为了进一步理解reasoner发挥作用的机制，我们从数据集中选取了一些典型示例（见表4）。在第一个例子中，模型通过推理将相关标签math.oc添上；模型处理第二个例子时，则将无关标签cs.lo剔除；有时添加与删除的动作也会同时发生（见第三个例子）。当然，推理偶尔也会使预测结果变差（见第四、第五个例子）。
表4 aapd测试集中一些由于推理机制预测结果出现变化的实例
为了验证上述例子的变化确实是因为考虑了标签之间的相关性，我们进一步统计模型在添加或删除某个标签时与其他标签的共现频率。从图5中，可以观察到模型往往在添加某个标签时，其共现频率（第二行）与真实共现频率接近（第一行）；而删除某个标签时，其共现频率（第三行）与真实共现频率（第一行）则相差较远。
图5 aapd标签的共现频率图
04
—
结论
在本文中，我们提出了算法ml-reasoner。该算法可以同时预测所有标签进而避免了对标签顺序的依赖；之外，他通过新颖的推理机制利用了标签之间的高阶关系。实验结果表明了ml-reasoner在捕获标签依赖之间的有效性；进一步的分析验证了其确实未对标签顺序产生依赖。一些经验性试验也揭示了该算法发挥作用的机制。由于ml-reasoner未显式利用标签之间的关系，如层次结构等，如何将这些信息纳入考虑是值得进一步探索的。
原文标题：【ipm2020】一种处理多标签文本分类的新颖推理机制
文章出处：【微信公众号：深度学习自然语言处理】欢迎添加关注！文章转载请注明出处。
荣耀9、荣耀V9怎么样?对比评测:华为荣耀9、华为荣耀V9颜值大作战!一流的外观设计和性能,你会买谁?
华为交换机配置光模块发光功率的方法？
最新音频控制和个性化多模式设置智能音频解决方案
“春雷响动”：Hisan智能激光屏落地江苏省委大院某核心部门
思科收购Acacia,光子学产业接下来会如何发展?
一种处理多标签文本分类的新颖推理机制
OPPO Find X卢浮宫惊艳亮相 骁龙845助力Find系列强势回归
未来中国人工智能市场规模将不断攀升,2030年产业规模超过1万亿元
测试程序及测试板开发注意事项
GJB标准 军用设备环境试验方法
买家电，安装还得花钱？选卡萨帝，设计、拆装、局改都免费！
230M/230MHz电台|230MHz收发电台|230无线数传电台
光学模数转换器的主要技术指标、性能与应用分析
传Google、亚马逊、苹果等科技巨头将合资建设5G
如何保护您的模拟前端
算法偏见到底有多复杂
麒麟a2芯片属于什么水平？打破蓝牙传输速度瓶颈
浅谈Wi-Fi6、Wi-Fi6E、Wi-Fi7的差异
性价比较高的无线蓝牙耳机，300元内音质最好的耳机
采用SOC的星载微型GNSS接收机设计方案
多标签文本分类（multi-label text classification, 简称mltc）的目的是在给定文本后要求模型预测其多个非互斥的相关标签。该任务在许多自然语言处理任务上都有体现。如在表1中，需要给该文档打上标签：basketball、nba、sport。
表1多标签文本分类的例子
文本 this article is about a game between houston rockets and los angeles lakers.
相关标签 basketball, nba, sport
不相关标签 football
一种处理mltc的简单方法是将其转换为多个独立的二分类问题。该方法被称为binaryrelevance (br)，由于其简单性而被大规模使用。但该方法的弊端也十分明显，即该方法完全忽略了标签之间的相关信息。直觉上，知道一些标签——如上例中的basketball及nba——会使得预测其他标签（如sport）更加简单。研究者指出对于多标签分类任务而言，有效利用标签之间的相关性是有益的、甚至是必要的。为此，涌现出许多利用标签关系的算法，其中最知名的就是算法classifier chains（cc）。该算法将多个二分类器串联起来，其中每个分类器使用之前分类器的预测结果作为额外的输入。该方法将潜在的标签依赖纳入考虑，但该问题的最大缺陷在于不同的标签顺序会产生天壤之别的性能。同时，cc算法的链式结构使得算法无法并行，在处理大规模数据集时效率低下。
近年来，也有学者将标签集合视作标签序列，并使用基于神经网络的端到端模型（seq2seq）来处理该任务。相较于cc预测所有标签，这类seq2seq的模型只预测相关标签。因此该类模型的决策链条长度更短，性能更优。但这类模型的性能强烈依赖于标签的顺序。在多标签数据集中，标签本质上是无序的集合，未必可以线性排列。学者们指出不同的标签顺序对于学习和预测有着重大影响。举例来说，对于表1中的例子，如果标签序列以sport开始，则对于预测其他相关标签的帮助不大。
02
—
解决方案
为了处理上述问题，我们提出了multi-label reasoner（ml-reasoner），一个基于推理机制的算法。ml-reasoner的框架如图1所示，我们为每一个标签分配一个二分类器，它们同时预测所有标签以满足标签的无序性质。这样的话，ml-reasoner可以同时计算每一个标签相关的概率。例如在处理上例时，ml-reasoner可能认为标签nba相关的概率为0.9，basketball的为0.7，sport为0.55，football为0.3.这样，ml-reasoner就完全避免依赖标签顺序。同时为了有效利用标签的相关性，我们设置了一种新颖的迭代推理机制，即将上一轮对所有标签相关的预测作为下一次迭代的额外特征输入。这种方法使得ml-reasoner可以在每一轮的迭代中完善预测结果。举例来说，考虑到标签nba与basketball相关的概率较高，模型可以在后续迭代中，将标签sport的概率调高。
图 1 multi-label reasoner整体框架图
具体到reasoner的实现，我们将其划分为五个组件，其相关交互关系见图2。
图2多标签文本分类的reasoner模块
- text encoder将词语序列转换为稠密的向量表示，主要负责抽取文本特征；
- label encoder将上一轮次所有标签的相关概率转换为相应的标签表示；
- attention模块负责计算文本与不同标签之间的相关性；
- combiner则将文本的原始特征与标签特征进行整合；
- 具有相同结构但不同参数的classifier则预测各个标签的相关性。
至于损失函数，我们选择了binary cross entropy (bce)。更具体的设置请参见原文。
03
—
实验
我们在两个常用的多标签文本分类数据集arxiv acadmeic paper dataset（aapd）及reuters corpus volum i （rcv1-v2）上进行了实验。aapd数据量更少、标签密度更大，分类难度更大。评价指标则选用了hamming loss，micro-precision，micro-recall及micro-f1；其中hamming loss越低越好，其他则越高越好。至于基准模型，我们选用了经典模型如br、cc、lp，也有性能优越的seq2seq模型如cnn-rnn、sgm，还有其他一些表现卓越的多标签文本分类模型如lsan，之外也将seq2set纳入进来作为比较。seq2set使用强化学习算法来缓解seq2seq模型对于标签顺序的依赖程度。同时，为了验证ml-reasoner在不同文本编码器上能带来的性能提升，我们分别使用了cnn、lstm及bert作为ml-reasoner框架中的text encoder模块。实验结果如表2所示。
表2 ml-reasoner及基准模型在两个数据集上的性能
从表中可以看出，ml-reasoner在两个数据集上均达到了sota水准，且在三种不同文本编码器上都能带来显著提升。
为了验证ml-reasoner可以完全避免对标签顺序的依赖，我们随机打乱aapd数据集的标签顺序，并进行了测试；各个模型的性能如表3所示。从表中可以看到，cc及seq2seq模型的性能受标签顺序的剧烈影响；seq2set可以显著缓解seq2seq的问题；而ml-reasoner则完全不受标签顺序的影响。
表3各模型在标签打乱的aapd数据集上的性能
我们也通过烧蚀实验（见图3），确定了推理机制确实是性能提升的关键。
图3 ml-reasoner（t=1,2,5）及cnn-round（t=1,2,5）在aapd测试集上的性能雷达图
我们也探究了迭代次数对模型性能的影响，由图4可知，进行了一次推理就可以带来显著提升；而推理次数的再次提高并不能带来更多的提升。这可能是因为模型及数据集的选择导致的。
图4不同迭代轮数下的ml-reasoner在aapd测试集上的性能雷达图
为了进一步理解reasoner发挥作用的机制，我们从数据集中选取了一些典型示例（见表4）。在第一个例子中，模型通过推理将相关标签math.oc添上；模型处理第二个例子时，则将无关标签cs.lo剔除；有时添加与删除的动作也会同时发生（见第三个例子）。当然，推理偶尔也会使预测结果变差（见第四、第五个例子）。
表4 aapd测试集中一些由于推理机制预测结果出现变化的实例
为了验证上述例子的变化确实是因为考虑了标签之间的相关性，我们进一步统计模型在添加或删除某个标签时与其他标签的共现频率。从图5中，可以观察到模型往往在添加某个标签时，其共现频率（第二行）与真实共现频率接近（第一行）；而删除某个标签时，其共现频率（第三行）与真实共现频率（第一行）则相差较远。
图5 aapd标签的共现频率图
04
—
结论
在本文中，我们提出了算法ml-reasoner。该算法可以同时预测所有标签进而避免了对标签顺序的依赖；之外，他通过新颖的推理机制利用了标签之间的高阶关系。实验结果表明了ml-reasoner在捕获标签依赖之间的有效性；进一步的分析验证了其确实未对标签顺序产生依赖。一些经验性试验也揭示了该算法发挥作用的机制。由于ml-reasoner未显式利用标签之间的关系，如层次结构等，如何将这些信息纳入考虑是值得进一步探索的。
原文标题：【ipm2020】一种处理多标签文本分类的新颖推理机制
文章出处：【微信公众号：深度学习自然语言处理】欢迎添加关注！文章转载请注明出处。
荣耀9、荣耀V9怎么样?对比评测:华为荣耀9、华为荣耀V9颜值大作战!一流的外观设计和性能,你会买谁?
华为交换机配置光模块发光功率的方法？
最新音频控制和个性化多模式设置智能音频解决方案
“春雷响动”：Hisan智能激光屏落地江苏省委大院某核心部门
思科收购Acacia,光子学产业接下来会如何发展?
一种处理多标签文本分类的新颖推理机制
OPPO Find X卢浮宫惊艳亮相 骁龙845助力Find系列强势回归
未来中国人工智能市场规模将不断攀升,2030年产业规模超过1万亿元
测试程序及测试板开发注意事项
GJB标准 军用设备环境试验方法
买家电，安装还得花钱？选卡萨帝，设计、拆装、局改都免费！
230M/230MHz电台|230MHz收发电台|230无线数传电台
光学模数转换器的主要技术指标、性能与应用分析
传Google、亚马逊、苹果等科技巨头将合资建设5G
如何保护您的模拟前端
算法偏见到底有多复杂
麒麟a2芯片属于什么水平？打破蓝牙传输速度瓶颈
浅谈Wi-Fi6、Wi-Fi6E、Wi-Fi7的差异
性价比较高的无线蓝牙耳机，300元内音质最好的耳机
采用SOC的星载微型GNSS接收机设计方案