NLP 2019 Highlights 给NLP从业者的一个参考
自然语言处理专家elvis在medium博客上发表了关于nlp在2019年的亮点总结。对于自然语言处理（nlp）领域而言，2019年是令人印象深刻的一年。在这篇博客文章中，我想重点介绍一些我在2019年遇到的与机器学习和nlp相关的最重要的故事。我将主要关注nlp，但我还将重点介绍一些与ai相关的有趣故事。标题没有特别的顺序。故事可能包括论文，工程工作，年度报告，教育资源的发布等。
论文刊物
ml / nlp创造力与社会
ml / nlp工具和数据集
文章和博客文章
人工智能伦理
ml / nlp教育
google ai引入了albert，它是bert 的精简版本，用于自监督学习上下文语言表示。主要改进是减少冗余并更有效地分配模型的容量。该方法提高了12个nlp任务的最新性能。
zhenzhong lan, mingda chen, sebastian goodman, kevin gimpel, piyush sharma, radu soricut:albert: alitebertforself-supervised learningoflanguagerepresentations.iclr 2020.
jacob devlin, ming-wei chang, kenton lee, kristina toutanova:bert: pre-training of deep bidirectional transformers for language understanding. naacl-hlt (1) 2019: 4171-4186
arxiv.org/abs/1810.0480
机器在比赛中的表现(类似sat的阅读理解)。随机猜测的基线得分为25.0。最高分是95.0分。
今年早些时候，nvidia的研究人员发表了一篇颇受欢迎的论文（coined stylegan）（arxiv.org/pdf/1812.0494），提出了一种从样式转换中采用的gan替代生成器架构。这是一项后续工作（arxiv.org/pdf/1912.0495），着重于改进，例如重新设计生成器归一化过程。
tero karras, samuli laine, timo aila:a style-based generator architecture for generative adversarial networks. cvpr 2019: 4401-4410
tero karras, samuli laine, miika aittala, janne hellsten, jaakko lehtinen, timo aila:analyzing and improving the image quality of stylegan. corr abs/1912.04958 (2019)
上排显示目标图像，下排显示合成图像
我今年最喜欢的论文之一是code2seq（code2seq.org/），它是一种从结构化代码表示中生成自然语言序列的方法。这样的研究可以让位于诸如自动代码摘要和文档之类的应用程序。
uri alon, shaked brody, omer levy, eran yahav:code2seq: generating sequences from structured representations of code. iclr (poster) 2019
有没有想过是否有可能为生物医学文本挖掘训练生物医学语言模型？答案是biobert（arxiv.org/abs/1901.0874），这是一种从生物医学文献中提取重要信息的情境化方法。
jinhyuk lee, wonjin yoon, sungdong kim, donghyeon kim, sunkyu kim, chan ho so, jaewoo kang:biobert: a pre-trained biomedical language representation model for biomedical text mining. corr abs/1901.08746 (2019)
bert发布后，facebook研究人员发布了roberta，该版本引入了新的优化方法来改进bert，并在各种nlp基准上产生了最新的结果。（ai.facebook.com/blog/-t）
yinhan liu, myle ott, naman goyal, jingfei du, mandar joshi, danqi chen, omer levy, mike lewis, luke zettlemoyer, veselin stoyanov:roberta: a robustly optimized bert pretraining approach. corr abs/1907.11692 (2019)
来自facebook ai的研究人员最近还发布了一种基于全注意力关注层的方法，用于提高transformer语言模型的效率。从这个研究小组更多的工作包括方法来教如何使用自然语言规划的ai系统。
sainbayar sukhbaatar, edouard grave, piotr bojanowski, armand joulin:adaptive attention span in transformers. acl (1) 2019: 331-335
可解释性仍然是机器学习和nlp中的重要主题。集大成者！可解释人工智能(xai)研究最新进展万字综述论文: 概念体系机遇和挑战—构建负责任的人工智能
alejandro barredo arrieta, natalia díaz rodríguez, javier del ser, adrien bennetot, siham tabik, alberto barbado, salvador garcía, sergio gil-lopez, daniel molina, richard benjamins, raja chatila, francisco herrera:explainable artificial intelligence (xai): concepts, taxonomies, opportunities and challenges toward responsible ai.corr abs/1910.10045 (2019)
sebastian ruder发表了有关自然语言处理的神经迁移学习的论文
（ruder.io/thesis/）。
ruder2019neural,neural transfer learning for natural language processing, ruder, sebastian，2019，national university of ireland, galway
一些研究人员开发了一种在对话中进行情感识别的方法（arxiv.org/abs/1910.0498），可以为情感对话的产生铺平道路。另一个相关的工作涉及一种称为dialoguegcn（aclweb.org/anthology/d1）的gnn方法，以检测对话中的情绪。该研究论文还提供了代码实现。
devamanyu hazarika, soujanya poria, roger zimmermann, rada mihalcea:emotion recognition in conversations with transfer learning from generative conversation modeling.corr abs/1910.04980 (2019)
deepanway ghosal, navonil majumder, soujanya poria, niyati chhaya, alexander f. gelbukh:dialoguegcn: a graph convolutional neural network for emotion recognition in conversation. emnlp/ijcnlp (1) 2019: 154-164
google ai quantum团队在《自然》杂志上发表了一篇论文（nature.com/articles/s41），他们声称自己开发了一种量子计算机，其速度比世界上最大的超级计算机还要快。在此处详细了解他们的实验。
arute, f., arya, k., babbush, r. et al.quantum supremacy using a programmable superconducting processor.nature 574, 505–510 (2019) doi:10.1038/s41586-019-1666-5
如前所述，神经网络体系结构需要大量改进的领域之一是可解释性。本论文（arxiv.org/abs/1908.0462）探讨了在语言模型的上下文explainability一个可靠的方法关注的局限性。
sarah wiegreffe, yuval pinter:attention is not not explanation. emnlp/ijcnlp (1) 2019: 11-20
神经逻辑机器是一种神经符号网络体系结构（arxiv.org/abs/1904.1169），能够很好地在归纳学习和逻辑推理方面做得很好。该模型在诸如排序数组和查找最短路径之类的任务上表现出色。
honghua dong, jiayuan mao, tian lin, chong wang, lihong li, denny zhou:neural logic machines. iclr (poster) 2019
神经逻辑机器架构
这是一篇将transformer语言模型应用于提取和抽象神经类文档摘要的论文（arxiv.org/abs/1909.0318）。
sandeep subramanian, raymond li, jonathan pilault, christopher j. pal:onextractiveandabstractiveneuraldocumentsummarizationwithtransformerlanguagemodels.corrabs/1909.03186 (2019)
研究人员开发了一种方法，侧重于使用比较来建立和训练ml模型。这种技术不需要大量的特征标签对，而是将图像与以前看到的图像进行比较，以确定图像是否属于某个特定的标签。
blog.ml.cmu.edu/2019/03
nelson liu等人发表了一篇论文，讨论了预先训练的语境设定者(如bert和elmo)获取的语言知识的类型。
arxiv.org/abs/1903.0885
nelson f. liu, matt gardner, yonatan belinkov, matthew e. peters, noah a. smith:linguistic knowledge and transferability of contextual representations. naacl-hlt (1) 2019: 1073-1094
xlnet是nlp的一种前训练方法，它在20个任务上都比bert有改进。我写了一个总结，这伟大的工作在这里。
arxiv.org/abs/1906.0823
zhilin yang, zihang dai, yiming yang, jaime g. carbonell, ruslan salakhutdinov, quoc v. le:xlnet: generalized autoregressive pretraining for language understanding. corr abs/1906.08237 (2019)
这项来自deepmind的工作报告了一项广泛的实证调查的结果，该调查旨在评估应用于各种任务的语言理解模型。这种广泛的分析对于更好地理解语言模型所捕获的内容以提高它们的效率是很重要的。
arxiv.org/abs/1901.1137
dani yogatama, cyprien de masson d'autume, jerome connor, tomás kociský, mike chrzanowski, lingpeng kong, angeliki lazaridou, wang ling, lei yu, chris dyer, phil blunsom:learning and evaluating general linguistic intelligence. corr abs/1901.11373 (2019)
visualbert是一个简单而健壮的框架，用于建模视觉和语言任务，包括vqa和flickr30k等。这种方法利用了一组transformer层，并结合了self-attention来对齐文本中的元素和图像中的区域。
arxiv.org/abs/1908.0355
liunian harold li, mark yatskar, da yin, cho-jui hsieh, kai-wei chang:visualbert: a simple and performant baseline for vision and language. corr abs/1908.03557 (2019)
这项工作提供了一个详细的分析比较nlp转移学习方法和指导nlp的从业者。
arxiv.org/abs/1903.0598
matthew e. peters, sebastian ruder, noah a. smith:to tune or not to tune? adapting pretrained representations to diverse tasks.repl4nlp@acl 2019: 7-14
alex wang和kyunghyun提出了bert的实现，能够产生高质量、流畅的表示。
arxiv.org/abs/1902.0409
facebook的研究人员发表了xlm的代码(pytorch实现)，这是一个跨语言模型的预培训模型。
github.com/facebookrese
本文全面分析了强化学习算法在神经机器翻译中的应用。
cl.uni-heidelberg.de/st
这篇发表在jair上的调查论文对跨语言单词嵌入模型的培训、评估和使用进行了全面的概述。
jair.org/index.php/jair
gradient发表了一篇优秀的文章，详细阐述了强化学习目前的局限性，并提供了一条潜在的分级强化学习的前进道路。一些人发布了一套优秀的教程来开始强化学习。
thegradient.pub/the-pro
这篇简要介绍了上下文词表示。
arxiv.org/abs/1902.0600
原文标题：【前沿】28篇标志性论文见证「自然语言处理nlp」2019->2020年度亮点进展
文章出处：【微信公众号：深度学习自然语言处理】欢迎添加关注！文章转载请注明出处。
智能安防如何赋能校园安防
使用AI来自动智能地管理投资者投资组合
自动驾驶领域火热，德尔福宣布将参与新加坡政府的自动驾驶租车测试计划
基于PIC16F877A和CC2500的RFID局域定位系统设计
led节能灯DIY电路图
NLP 2019 Highlights 给NLP从业者的一个参考
VRMMORPG游戏《Zenith》众筹获17万美元，总融资额已超30万美元
ERP系统到底有什么作用能改变一个企业
红人街软件app开发定制
小鹏汽车宣布2月实现电动汽车交付2223台
自动驾驶域控制器的来龙去脉
特斯拉成为美国最佳汽车品牌
华成工控“驱控一体”突围，赋能焊接产业自动化
一种用于高功率密度FSBB转换器的新型3D多PCB结构
中兴7年劫后余生 能否重整旗鼓
手机红外遥控器发送红外信号到STM32【HAL库】
进入Chiplet时代，设计将发生哪些转变？
理想运算放大器的“虚短”和“虚断”特性介绍
工业互联网基础设施建设按下“加速键”
2019年的5G手机是“尝鲜机”，售价高且不成熟
论文刊物
ml / nlp创造力与社会
ml / nlp工具和数据集
文章和博客文章
人工智能伦理
ml / nlp教育
google ai引入了albert，它是bert 的精简版本，用于自监督学习上下文语言表示。主要改进是减少冗余并更有效地分配模型的容量。该方法提高了12个nlp任务的最新性能。
zhenzhong lan, mingda chen, sebastian goodman, kevin gimpel, piyush sharma, radu soricut:albert: alitebertforself-supervised learningoflanguagerepresentations.iclr 2020.
jacob devlin, ming-wei chang, kenton lee, kristina toutanova:bert: pre-training of deep bidirectional transformers for language understanding. naacl-hlt (1) 2019: 4171-4186
arxiv.org/abs/1810.0480
机器在比赛中的表现(类似sat的阅读理解)。随机猜测的基线得分为25.0。最高分是95.0分。
今年早些时候，nvidia的研究人员发表了一篇颇受欢迎的论文（coined stylegan）（arxiv.org/pdf/1812.0494），提出了一种从样式转换中采用的gan替代生成器架构。这是一项后续工作（arxiv.org/pdf/1912.0495），着重于改进，例如重新设计生成器归一化过程。
tero karras, samuli laine, timo aila:a style-based generator architecture for generative adversarial networks. cvpr 2019: 4401-4410
tero karras, samuli laine, miika aittala, janne hellsten, jaakko lehtinen, timo aila:analyzing and improving the image quality of stylegan. corr abs/1912.04958 (2019)
上排显示目标图像，下排显示合成图像
我今年最喜欢的论文之一是code2seq（code2seq.org/），它是一种从结构化代码表示中生成自然语言序列的方法。这样的研究可以让位于诸如自动代码摘要和文档之类的应用程序。
uri alon, shaked brody, omer levy, eran yahav:code2seq: generating sequences from structured representations of code. iclr (poster) 2019
有没有想过是否有可能为生物医学文本挖掘训练生物医学语言模型？答案是biobert（arxiv.org/abs/1901.0874），这是一种从生物医学文献中提取重要信息的情境化方法。
jinhyuk lee, wonjin yoon, sungdong kim, donghyeon kim, sunkyu kim, chan ho so, jaewoo kang:biobert: a pre-trained biomedical language representation model for biomedical text mining. corr abs/1901.08746 (2019)
bert发布后，facebook研究人员发布了roberta，该版本引入了新的优化方法来改进bert，并在各种nlp基准上产生了最新的结果。（ai.facebook.com/blog/-t）
yinhan liu, myle ott, naman goyal, jingfei du, mandar joshi, danqi chen, omer levy, mike lewis, luke zettlemoyer, veselin stoyanov:roberta: a robustly optimized bert pretraining approach. corr abs/1907.11692 (2019)
来自facebook ai的研究人员最近还发布了一种基于全注意力关注层的方法，用于提高transformer语言模型的效率。从这个研究小组更多的工作包括方法来教如何使用自然语言规划的ai系统。
sainbayar sukhbaatar, edouard grave, piotr bojanowski, armand joulin:adaptive attention span in transformers. acl (1) 2019: 331-335
可解释性仍然是机器学习和nlp中的重要主题。集大成者！可解释人工智能(xai)研究最新进展万字综述论文: 概念体系机遇和挑战—构建负责任的人工智能
alejandro barredo arrieta, natalia díaz rodríguez, javier del ser, adrien bennetot, siham tabik, alberto barbado, salvador garcía, sergio gil-lopez, daniel molina, richard benjamins, raja chatila, francisco herrera:explainable artificial intelligence (xai): concepts, taxonomies, opportunities and challenges toward responsible ai.corr abs/1910.10045 (2019)
sebastian ruder发表了有关自然语言处理的神经迁移学习的论文
（ruder.io/thesis/）。
ruder2019neural,neural transfer learning for natural language processing, ruder, sebastian，2019，national university of ireland, galway
一些研究人员开发了一种在对话中进行情感识别的方法（arxiv.org/abs/1910.0498），可以为情感对话的产生铺平道路。另一个相关的工作涉及一种称为dialoguegcn（aclweb.org/anthology/d1）的gnn方法，以检测对话中的情绪。该研究论文还提供了代码实现。
devamanyu hazarika, soujanya poria, roger zimmermann, rada mihalcea:emotion recognition in conversations with transfer learning from generative conversation modeling.corr abs/1910.04980 (2019)
deepanway ghosal, navonil majumder, soujanya poria, niyati chhaya, alexander f. gelbukh:dialoguegcn: a graph convolutional neural network for emotion recognition in conversation. emnlp/ijcnlp (1) 2019: 154-164
google ai quantum团队在《自然》杂志上发表了一篇论文（nature.com/articles/s41），他们声称自己开发了一种量子计算机，其速度比世界上最大的超级计算机还要快。在此处详细了解他们的实验。
arute, f., arya, k., babbush, r. et al.quantum supremacy using a programmable superconducting processor.nature 574, 505–510 (2019) doi:10.1038/s41586-019-1666-5
如前所述，神经网络体系结构需要大量改进的领域之一是可解释性。本论文（arxiv.org/abs/1908.0462）探讨了在语言模型的上下文explainability一个可靠的方法关注的局限性。
sarah wiegreffe, yuval pinter:attention is not not explanation. emnlp/ijcnlp (1) 2019: 11-20
神经逻辑机器是一种神经符号网络体系结构（arxiv.org/abs/1904.1169），能够很好地在归纳学习和逻辑推理方面做得很好。该模型在诸如排序数组和查找最短路径之类的任务上表现出色。
honghua dong, jiayuan mao, tian lin, chong wang, lihong li, denny zhou:neural logic machines. iclr (poster) 2019
神经逻辑机器架构
这是一篇将transformer语言模型应用于提取和抽象神经类文档摘要的论文（arxiv.org/abs/1909.0318）。
sandeep subramanian, raymond li, jonathan pilault, christopher j. pal:onextractiveandabstractiveneuraldocumentsummarizationwithtransformerlanguagemodels.corrabs/1909.03186 (2019)
研究人员开发了一种方法，侧重于使用比较来建立和训练ml模型。这种技术不需要大量的特征标签对，而是将图像与以前看到的图像进行比较，以确定图像是否属于某个特定的标签。
blog.ml.cmu.edu/2019/03
nelson liu等人发表了一篇论文，讨论了预先训练的语境设定者(如bert和elmo)获取的语言知识的类型。
arxiv.org/abs/1903.0885
nelson f. liu, matt gardner, yonatan belinkov, matthew e. peters, noah a. smith:linguistic knowledge and transferability of contextual representations. naacl-hlt (1) 2019: 1073-1094
xlnet是nlp的一种前训练方法，它在20个任务上都比bert有改进。我写了一个总结，这伟大的工作在这里。
arxiv.org/abs/1906.0823
zhilin yang, zihang dai, yiming yang, jaime g. carbonell, ruslan salakhutdinov, quoc v. le:xlnet: generalized autoregressive pretraining for language understanding. corr abs/1906.08237 (2019)
这项来自deepmind的工作报告了一项广泛的实证调查的结果，该调查旨在评估应用于各种任务的语言理解模型。这种广泛的分析对于更好地理解语言模型所捕获的内容以提高它们的效率是很重要的。
arxiv.org/abs/1901.1137
dani yogatama, cyprien de masson d'autume, jerome connor, tomás kociský, mike chrzanowski, lingpeng kong, angeliki lazaridou, wang ling, lei yu, chris dyer, phil blunsom:learning and evaluating general linguistic intelligence. corr abs/1901.11373 (2019)
visualbert是一个简单而健壮的框架，用于建模视觉和语言任务，包括vqa和flickr30k等。这种方法利用了一组transformer层，并结合了self-attention来对齐文本中的元素和图像中的区域。
arxiv.org/abs/1908.0355
liunian harold li, mark yatskar, da yin, cho-jui hsieh, kai-wei chang:visualbert: a simple and performant baseline for vision and language. corr abs/1908.03557 (2019)
这项工作提供了一个详细的分析比较nlp转移学习方法和指导nlp的从业者。
arxiv.org/abs/1903.0598
matthew e. peters, sebastian ruder, noah a. smith:to tune or not to tune? adapting pretrained representations to diverse tasks.repl4nlp@acl 2019: 7-14
alex wang和kyunghyun提出了bert的实现，能够产生高质量、流畅的表示。
arxiv.org/abs/1902.0409
facebook的研究人员发表了xlm的代码(pytorch实现)，这是一个跨语言模型的预培训模型。
github.com/facebookrese
本文全面分析了强化学习算法在神经机器翻译中的应用。
cl.uni-heidelberg.de/st
这篇发表在jair上的调查论文对跨语言单词嵌入模型的培训、评估和使用进行了全面的概述。
jair.org/index.php/jair
gradient发表了一篇优秀的文章，详细阐述了强化学习目前的局限性，并提供了一条潜在的分级强化学习的前进道路。一些人发布了一套优秀的教程来开始强化学习。
thegradient.pub/the-pro
这篇简要介绍了上下文词表示。
arxiv.org/abs/1902.0600
原文标题：【前沿】28篇标志性论文见证「自然语言处理nlp」2019->2020年度亮点进展
文章出处：【微信公众号：深度学习自然语言处理】欢迎添加关注！文章转载请注明出处。
智能安防如何赋能校园安防
使用AI来自动智能地管理投资者投资组合
自动驾驶领域火热，德尔福宣布将参与新加坡政府的自动驾驶租车测试计划
基于PIC16F877A和CC2500的RFID局域定位系统设计
led节能灯DIY电路图
NLP 2019 Highlights 给NLP从业者的一个参考
VRMMORPG游戏《Zenith》众筹获17万美元，总融资额已超30万美元
ERP系统到底有什么作用能改变一个企业
红人街软件app开发定制
小鹏汽车宣布2月实现电动汽车交付2223台
自动驾驶域控制器的来龙去脉
特斯拉成为美国最佳汽车品牌
华成工控“驱控一体”突围，赋能焊接产业自动化
一种用于高功率密度FSBB转换器的新型3D多PCB结构
中兴7年劫后余生 能否重整旗鼓
手机红外遥控器发送红外信号到STM32【HAL库】
进入Chiplet时代，设计将发生哪些转变？
理想运算放大器的“虚短”和“虚断”特性介绍
工业互联网基础设施建设按下“加速键”
2019年的5G手机是“尝鲜机”，售价高且不成熟