GAN原理及其在半监督学习中的意义
编者按：《gans in action》作者jakub langr简述了对抗生成网络原理及其在半监督学习中的意义。
在许多研究人员和我的朋友看来，对抗生成学习/网络（generative adverserial learning/networks，gans）很可能是ai的未来发展方向之一。gan在商业上有很清晰的吸引力：可以基于较少的数据训练，可以创建迷人的应用（例如3d模型生成），有大量研究潜力。
本文包括一定的技术内容，也有一些高层的伪代码，但我将尽力让这篇文章容易理解，也希望这篇文章不会太枯燥。
你想挤上ai这趟车吗？
gan这一切都是最前沿的内容，本文提到的一些内容甚至是一两年前刚在学术期刊上发布的内容。所以，除非你是这方面的博后，初次接触gan可能会让你觉得不同寻常（至少对我来说是这样的）。同时这也意味着其中有一些研究没有对应的理论，你需要应对一些超奇怪的bug. 不过因为我最近完成了（好吧，我真的很喜欢上mooc）parag mital开设的非常棒的creative applications of deep learning with tensorflow（基于tensorflow的深度学习创意应用）课程，我决定分享一些我学到的东西。
半监督学习大致上指在训练中同时使用标注过的（监督）和未标注过的（无监督）样本，这是一个比较老的概念了。它的核心思想意义很大：在典型的监督设定下，我们有大量没有使用的数据。例如，在房价（标注）数据上的线性回归。我们都明白线性回归可以生成房价，但大多数房子没有出售，然而我们也许仍然能取得相关数据，比如从城市规划数据中获取。这些数据可以给我们提供更多的信息，例如对比不同区域，哪里的房子相对而言供不应求，哪里大面积的房子更多。不以某种形式利用这些数据很蠢，但传统的算法没法使用它们。
因此，半监督学习（ssl）意味着使用不同技术以某种方式在机器学习（ml）模型的训练中添加这些数据。这并非微不足道：如果把训练ml想象出创建一棵决策树，接着通过检查是否得出正确答案评估决策树的表现。那么，很不幸，在未标注数据上，没有正确答案（因为在数据收集期间房子未曾出售），所以没法进行学习，因为ml算法无法连接正确答案（因此无法计算损失）。在这篇文章中，我希望集中讨论其中一种称为对抗生成网络的ssl技术。
gan有两个网络组成。第一个网络创建世界的内在版本（即通常房子是什么样的）：这称为生成模型（g），基本上它基于一切数据学习，因为它不需要标签，只需要数据集中典型房屋的所有特征。第二个网络，称为判别器（d），和g对抗，同时从真实数据集和生成器生成的房屋样本中取样，决定数据看起来是不是真的。
换句话说，想象我们正在尝试标注猫或狗，在这一情形下，g将学习如何生成图像，并逐渐使生成的图像越来越像猫或狗。
接着，我们大致上让g和d互相竞争，以产生最好的结果：我们希望每次g变得更好时，d也能变得更好，相互匹配（我们需要确保g或d没有胜出对方太多）。这也正是驱动alphago的核心原则之一。基本上，我们让g生成图像，让d对此加以评判。所以g会传递一组图像给d，而d会输出0或1(代表真假)并传回g。接着g会根据哪些图像骗过了d、哪些没骗过而努力生成更好的样本。
来源：kdnuggets.com
所以我希望你明白了上面的过程，我们可以基于大量未标注数据构建一个生成器，并让它学习数据的某些结构（即，典型样本看起来是什么样的），接着让它在竞争中使生成数据尽可能接近真实数据。经过这一过程，我们可能得到一些看起来相当不错的合成数据，这些合成数据的数量几乎是无限的。另外，我想指出（省略大量说明）：生成器只能生成和之前见过的数据相似的数据。人们很容易忘记这点，没有魔法。
请会拉丁语的同学谅解 ;-)
从最高层的抽象看，这一切大概是这样的：
# 获取数据
real_data = pd.read('real_data.csv') # 形状 (n样本, n特征加标签)
unlabelled_data = pd.read('unlabelled_data.csv') # 形状 (n样本, n特征)
# 创建两个对象
generator = generatorclass()
discriminator = discriminatorclass()
# 预训练生成器
generator.train(unlabelled_data)
# 获取合成数据
synthetic_data = make_compete(generator, discriminator, real_data)
# 形状 (任意数量, n特征)
好吧，细心的读者可能会注意到我们没有描述如何标记生成样本。理想情况下，我们想要生成标注数据（例如，附带价格的房屋，或者附带物体描述的图像）。感谢大量的训练实例，我们有办法做到这点。如果你回头看看之前的示意图，你会看到其中提到了称为“潜空间”的东西。潜空间是一种控制生成什么样的图像的方法。如果我们训练猫狗生成器，其中一个维度将控制图像有多像猫/狗。它也允许我们获取两者之间的中间值，所以我们可以得到狗猫或者七分猫三分狗。换句话说，潜空间可以看成某种种子因素——为g提供一些初始输入免得它总是生成一样的东西，但是事实上这一种子因素具备一致的潜（“隐藏”）性质，特定的维度对应某种意义的。
简单修改上面的伪代码，以清楚地表明这一点：
# 形状 (任意数量, n特征)
synthetic_cats = make_compete(generator, discriminator,
real_data, input_noise=latent_feature_space.cat)
# 形状 (任意数量, n特征)
synthetic_dogs = make_compete(generator, discriminator,
real_data, input_noise=latent_feature_space.dog)
最棒的地方在于，理论上，我们甚至不需要有为当前任务标注的数据就可以生成相应样本（不过有标注数据会有很大帮助）。例如，我们可能有打上了好孩子和坏孩子的数据，然后我们可以训练g生成猫或狗的新样本（根据潜空间的一个参数决定是猫是狗），其中既有好孩子，也有坏孩子（基于潜空间的另一个参数决定）。比方说，我们可以基于图像判断狗的好坏（例如，如果我们看到狗破坏财物就标记为坏孩子，否则就标记为好孩子）。那么我们就可以在潜空间中发现对应这些特征的参数，然后通过插值生成猫狗或者狗猫。
再举一个例子，我们可以下载大量未标注的名人面部图像，然后让g生成面部，并通过操作潜空间得到明确的雄性样本或雌性样本，接着据此训练另一个识别雄性或雌性图像的分类器（无需标注过的数据！）这正是我曾经做过的项目。你可能想要知道“我们如何得到不同属性的潜空间表示？”很不幸，这个问题的答案超出了本文的范围。
唷，时候不早了：我希望给出一些可以实际运行的代码，这样读者可以自行试验。不过，我觉得这篇博客文章已经够长了，所以，对实际代码感兴趣的读者，请访问我的另一篇博客文章：http://jakublangr.com/gans-code.html
想要加入对话？欢迎在jakublangr.com上评论，或者发推给我（langrjakub）。我正在撰写一本关于对抗生成网络的书，这里有一些样章：www.manning.com/books/gans-in-action
不将就变将就?一加3T和一加5全方面对比评测,谁更值得买?
技巧分享：如何在Vivado中正确使用接口
可用于下一代无人机和自动驾驶车辆中的自我意识灵巧飞行技巧
dfrobotDC-DC可调升压模块简介
学习 Docker 容器的 8 个命令分享
GAN原理及其在半监督学习中的意义
超声电子开发5G通讯设备领域的产品
华为的全球首家“明厨亮灶”手机4S店已落地
维多利亚州墨尔本
聊聊关于虚拟现实的话题
华为RIP与BFD联动实验
针对X-SSD体系结构的Villars器件的参考设计
AMD推锐龙嵌入式R1000处理器Zen架构
便携式农残检测仪的原理及其使用方法的介绍
中外合作研制出新型专用型光量子模拟芯片
艾讯推出全新四核心All-in-One网路安全应用平台
iOS10.3越狱最新消息：iOS10.3越狱等于盘古？盘古真的会放出iOS10.3越狱吗？详细分析事件的真伪
读出S7-1500 CPU运行时间的几种方式
云应用对5G 应用的需求越来越高？
华硕推出AirVision M1智能眼镜，实现手机/电脑内容直接投影至视线
在许多研究人员和我的朋友看来，对抗生成学习/网络（generative adverserial learning/networks，gans）很可能是ai的未来发展方向之一。gan在商业上有很清晰的吸引力：可以基于较少的数据训练，可以创建迷人的应用（例如3d模型生成），有大量研究潜力。
本文包括一定的技术内容，也有一些高层的伪代码，但我将尽力让这篇文章容易理解，也希望这篇文章不会太枯燥。
你想挤上ai这趟车吗？
gan这一切都是最前沿的内容，本文提到的一些内容甚至是一两年前刚在学术期刊上发布的内容。所以，除非你是这方面的博后，初次接触gan可能会让你觉得不同寻常（至少对我来说是这样的）。同时这也意味着其中有一些研究没有对应的理论，你需要应对一些超奇怪的bug. 不过因为我最近完成了（好吧，我真的很喜欢上mooc）parag mital开设的非常棒的creative applications of deep learning with tensorflow（基于tensorflow的深度学习创意应用）课程，我决定分享一些我学到的东西。
半监督学习大致上指在训练中同时使用标注过的（监督）和未标注过的（无监督）样本，这是一个比较老的概念了。它的核心思想意义很大：在典型的监督设定下，我们有大量没有使用的数据。例如，在房价（标注）数据上的线性回归。我们都明白线性回归可以生成房价，但大多数房子没有出售，然而我们也许仍然能取得相关数据，比如从城市规划数据中获取。这些数据可以给我们提供更多的信息，例如对比不同区域，哪里的房子相对而言供不应求，哪里大面积的房子更多。不以某种形式利用这些数据很蠢，但传统的算法没法使用它们。
因此，半监督学习（ssl）意味着使用不同技术以某种方式在机器学习（ml）模型的训练中添加这些数据。这并非微不足道：如果把训练ml想象出创建一棵决策树，接着通过检查是否得出正确答案评估决策树的表现。那么，很不幸，在未标注数据上，没有正确答案（因为在数据收集期间房子未曾出售），所以没法进行学习，因为ml算法无法连接正确答案（因此无法计算损失）。在这篇文章中，我希望集中讨论其中一种称为对抗生成网络的ssl技术。
gan有两个网络组成。第一个网络创建世界的内在版本（即通常房子是什么样的）：这称为生成模型（g），基本上它基于一切数据学习，因为它不需要标签，只需要数据集中典型房屋的所有特征。第二个网络，称为判别器（d），和g对抗，同时从真实数据集和生成器生成的房屋样本中取样，决定数据看起来是不是真的。
换句话说，想象我们正在尝试标注猫或狗，在这一情形下，g将学习如何生成图像，并逐渐使生成的图像越来越像猫或狗。
接着，我们大致上让g和d互相竞争，以产生最好的结果：我们希望每次g变得更好时，d也能变得更好，相互匹配（我们需要确保g或d没有胜出对方太多）。这也正是驱动alphago的核心原则之一。基本上，我们让g生成图像，让d对此加以评判。所以g会传递一组图像给d，而d会输出0或1(代表真假)并传回g。接着g会根据哪些图像骗过了d、哪些没骗过而努力生成更好的样本。
来源：kdnuggets.com
所以我希望你明白了上面的过程，我们可以基于大量未标注数据构建一个生成器，并让它学习数据的某些结构（即，典型样本看起来是什么样的），接着让它在竞争中使生成数据尽可能接近真实数据。经过这一过程，我们可能得到一些看起来相当不错的合成数据，这些合成数据的数量几乎是无限的。另外，我想指出（省略大量说明）：生成器只能生成和之前见过的数据相似的数据。人们很容易忘记这点，没有魔法。
请会拉丁语的同学谅解 ;-)
从最高层的抽象看，这一切大概是这样的：
# 获取数据
real_data = pd.read('real_data.csv') # 形状 (n样本, n特征加标签)
unlabelled_data = pd.read('unlabelled_data.csv') # 形状 (n样本, n特征)
# 创建两个对象
generator = generatorclass()
discriminator = discriminatorclass()
# 预训练生成器
generator.train(unlabelled_data)
# 获取合成数据
synthetic_data = make_compete(generator, discriminator, real_data)
# 形状 (任意数量, n特征)
好吧，细心的读者可能会注意到我们没有描述如何标记生成样本。理想情况下，我们想要生成标注数据（例如，附带价格的房屋，或者附带物体描述的图像）。感谢大量的训练实例，我们有办法做到这点。如果你回头看看之前的示意图，你会看到其中提到了称为“潜空间”的东西。潜空间是一种控制生成什么样的图像的方法。如果我们训练猫狗生成器，其中一个维度将控制图像有多像猫/狗。它也允许我们获取两者之间的中间值，所以我们可以得到狗猫或者七分猫三分狗。换句话说，潜空间可以看成某种种子因素——为g提供一些初始输入免得它总是生成一样的东西，但是事实上这一种子因素具备一致的潜（“隐藏”）性质，特定的维度对应某种意义的。
简单修改上面的伪代码，以清楚地表明这一点：
# 形状 (任意数量, n特征)
synthetic_cats = make_compete(generator, discriminator,
real_data, input_noise=latent_feature_space.cat)
# 形状 (任意数量, n特征)
synthetic_dogs = make_compete(generator, discriminator,
real_data, input_noise=latent_feature_space.dog)
最棒的地方在于，理论上，我们甚至不需要有为当前任务标注的数据就可以生成相应样本（不过有标注数据会有很大帮助）。例如，我们可能有打上了好孩子和坏孩子的数据，然后我们可以训练g生成猫或狗的新样本（根据潜空间的一个参数决定是猫是狗），其中既有好孩子，也有坏孩子（基于潜空间的另一个参数决定）。比方说，我们可以基于图像判断狗的好坏（例如，如果我们看到狗破坏财物就标记为坏孩子，否则就标记为好孩子）。那么我们就可以在潜空间中发现对应这些特征的参数，然后通过插值生成猫狗或者狗猫。
再举一个例子，我们可以下载大量未标注的名人面部图像，然后让g生成面部，并通过操作潜空间得到明确的雄性样本或雌性样本，接着据此训练另一个识别雄性或雌性图像的分类器（无需标注过的数据！）这正是我曾经做过的项目。你可能想要知道“我们如何得到不同属性的潜空间表示？”很不幸，这个问题的答案超出了本文的范围。
唷，时候不早了：我希望给出一些可以实际运行的代码，这样读者可以自行试验。不过，我觉得这篇博客文章已经够长了，所以，对实际代码感兴趣的读者，请访问我的另一篇博客文章：http://jakublangr.com/gans-code.html
想要加入对话？欢迎在jakublangr.com上评论，或者发推给我（langrjakub）。我正在撰写一本关于对抗生成网络的书，这里有一些样章：www.manning.com/books/gans-in-action
不将就变将就?一加3T和一加5全方面对比评测,谁更值得买?
技巧分享：如何在Vivado中正确使用接口
可用于下一代无人机和自动驾驶车辆中的自我意识灵巧飞行技巧
dfrobotDC-DC可调升压模块简介
学习 Docker 容器的 8 个命令分享
GAN原理及其在半监督学习中的意义
超声电子开发5G通讯设备领域的产品
华为的全球首家“明厨亮灶”手机4S店已落地
维多利亚州墨尔本
聊聊关于虚拟现实的话题
华为RIP与BFD联动实验
针对X-SSD体系结构的Villars器件的参考设计
AMD推锐龙嵌入式R1000处理器Zen架构
便携式农残检测仪的原理及其使用方法的介绍
中外合作研制出新型专用型光量子模拟芯片
艾讯推出全新四核心All-in-One网路安全应用平台
iOS10.3越狱最新消息：iOS10.3越狱等于盘古？盘古真的会放出iOS10.3越狱吗？详细分析事件的真伪
读出S7-1500 CPU运行时间的几种方式
云应用对5G 应用的需求越来越高？
华硕推出AirVision M1智能眼镜，实现手机/电脑内容直接投影至视线