贵州省遵义市住房城乡建设局网站,微信文章wordpress,苏州惊天网站制作网,设计专业招聘网站8.4 深度学习的应用案例前面#xff0c;作为使用深度学习的例子#xff0c;我们主要讨论了手写数字识别的图像类别分类问题#xff08;称为“物体识别”#xff09;。不过#xff0c;深度学习并不局限于物体识别#xff0c;还可以应用于各种各样的问题。此外#xff0c;…8.4 深度学习的应用案例前面作为使用深度学习的例子我们主要讨论了手写数字识别的图像类别分类问题称为“物体识别”。不过深度学习并不局限于物体识别还可以应用于各种各样的问题。此外在图像、语音、自然语言等各个不同的领域深度学习都展现了优异的性能。本节将以计算机视觉这个领域为中心介绍几个深度学习能做的事情8.4.1 物体检测物体检测是从图像中确定物体的位置并进行分类的问题。之前介绍的物体识别是以整个图像为对象的但是物体检测需要从图像中确定类别的位置而且还有可能存在多个物体。对于这样的物体检测问题人们提出了多个基于CNN的方法。这些方法展示了非常优异的性能并且证明了在物体检测的问题上深度学习是非常有效的。在使用CNN进行物体检测的方法中有一个叫作R-CNN的有名的方法。图8-18显示了R-CNN的处理流注意图中的“2.Extract region proposals”候选区域的提取和“3.Compute CNN features”CNN特征的计算的处理部分。这里首先以某种方法找出形似物体的区域然后对提取出的区域应用CNN进行分类。 R-CNN中会将图像变形为正方形或者在分类时使用SVM支持向量机 实际的处理流会稍微复杂一些不过从宏观上看也是由刚才的两个处理候选区域的提取和CNN特征的计算构成的。在R-CNN的前半部分的处理——候选区域的提取发现形似目标物体的处理中可以使用计算机视觉领域积累的各种各样的方法。R-CNN的论文中使用了一种被称为Selective Search的方法最近还提出了一种基于CNN来进行候选区域提取的Faster R-CNN方法。Faster R-CNN用一个CNN来完成所有处理使得高速处理成为可能。8.4.2 图像分割图像分割是指在像素水平上对图像进行分类。如图8-19所示使用以像素为单位对各个对象分别着色的监督数据进行学习。然后在推理时对输入图像的所有像素进行分类。之前实现的神经网络是对图像整体进行了分类要将它落实到像素水平的话该怎么做呢要基于神经网络进行图像分割最简单的方法是以所有像素为对象对每个像素执行推理处理。比如准备一个对某个矩形区域中心的像素进行分类的网络以所有像素为对象执行推理处理。正如大家能想到的这样的方法需要按照像素数量进行相应次forward处理因而需要耗费大量的时间正确地说卷积运算中会发生重复计算很多区域的无意义的计算。为了决这个无意义的计算问题有人提出了一个名为FCNFully Convolutional Network[37]的方法。该方法通过一次forward处理对所有像素进行分类图 8-20。FCN的字面意思是“全部由卷积层构成的网络”。相对于一般的CNN包含全连接层FCN将全连接层替换成发挥相同作用的卷积层。如图8-20所示FCN的特征在于最后导入了扩大空间大小的处理。基于这个处理变小了的中间数据可以一下子扩大到和输入图像一样的大小。 FCN最后进行的扩大处理是基于双线性插值法的扩大双线性插值扩大。8.4.3 图像标题的生成给出一个图像后会像图8-21一样自动生成表示该图像内容的文本。比如左上角的第一幅图像生成了文本“A person riding a motorcycle on a dirt road.”在没有铺装的道路上骑摩托车的人而且这个文本只从该图像自动生成。文本的内容和图像确实是一致的。并且令人惊讶的是除了“骑摩托车”之外连“没有铺装的道路”都被正确理解了。一个基于深度学习生成图像标题的代表性方法是被称为NICNeural Image Caption的模型。如图8-22所示NIC由深层的CNN和处理自然语言的RNNRecurrent Neural Network构成。RNN是呈递归式连接的网络经常被用于自然语言、时间序列数据等连续性的数据上。NIC基于CNN从图像中提取特征并将这个特征传给RNN。RNN以CNN提取出的特征为初始值递归地生成文本。我们将组合图像和自然语言等多种信息进行的处理称为多模态处理。8.5 深度学习的未来8.5.1 图像风格变换如图8-23所示如果指定将梵高的绘画风格应用于内容图像深度学习就会按照指示绘制出新的画作。8.5.2 图像的生成刚才的图像风格变换的例子在生成新的图像时输入了两个图像。不同于这种研究现在有一种研究是生成新的图像时不需要任何图像虽然需要事先使用大量的图像进行学习但在“画”新图像时不需要任何图像。比如基于深度学习可以实现从零生成“卧室”的图像。图8-24中展示的图像是基 于 DCGANDeep Convolutional Generative Adversarial Network 方法生成的卧室图像的例子图8-24的图像可能看上去像是真的照片但其实这些图像都是基于DCGAN新生成的图像。也就是说DCGAN生成的图像是谁都没有见过的图像学习数据中没有的图像是从零生成的新图像。DCGAN中使用了深度学习其技术要点是使用了Generator生成者和Discriminator识别者这两个神经网络。Generator生成近似真品的图像Discriminator判别它是不是真图像是Generator生成的图像还是实际拍摄的图像。像这样通过让两者以竞争的方式学习Generator会学习到更加精妙的图像作假技术Discriminator则会成长为能以更高精度辨别真假的鉴定师。两者互相切磋、共同成长这是GANGenerative Adversaria Network这个技术的有趣之处。
之前我们见到的机器学习问题都是被称为监督学习supervised learning的问题。这类问题就像手写数字识别一样使用的是图像数据和教师标签成对给出的数据集。不过这里讨论的问题并没有给出监督数据只给了大量的图像图像的集合这样的问题称为无监督学习unsupervised learning。无监督学习虽然是很早之前就开始研究的领域Deep Belief Network、Deep Boltzmann Machine 等很有名但最近似乎并不是很活跃。今后随着使用深度学习的DCGAN等方法受到关注无监督学习有望得到进一步发展。
8.5.3 自动驾驶最近在识别周围环境的技术中深度学习的力量备受期待。比如基于CNN的神经网络SegNet[42]可以像图8-25那样高精度地识别行驶环境。图8-25中对输入图像进行了分割像素水平的判别。观察结果可知在某种程度上正确地识别了道路、建筑物、人行道、树木、车辆等。今后若能基于深度学习使这种技术进一步实现高精度化、高速化的话自动驾驶的实用化可能也就没那么遥远了。8.5.4 Deep Q-Network强化学习就像人类通过摸索试验来学习一样比如骑自行车让计算机也在摸索试验的过程中自主学习这称为强化学习reinforcement learning。强化学习和有“教师”在身边教的“监督学习”有所不同。强化学习的基本框架是代理Agent根据环境选择行动然后通过这个行动改变环境。根据环境的变化代理获得某种报酬。强化学习的目的是决定代理的行动方针以获得更好的报酬图8-26中展示了强化学习的基本框架。这里需要注意的是报酬并不是确定的只是“预期报酬”。在使用了深度学习的强化学习方法中有一个叫作Deep Q-Network通称DQN该方法基于被称为Q学习的强化学习算法。这里省略Q学习的细节不过在Q学习中为了确定最合适的行动需要确定一个被称为最优行动价值函数的函数。为了近似这个函数DQN使用了深度学习CNN。之前在学习电子游戏时一般是把游戏的状态人物的地点等事先提取出来作为数据给模型。但是在DQN中如图8-27所示输入数据只有电子游戏的图像。这是DQN值得大书特书的地方可以说大幅提高了DQN的实用性。为什么呢因为这样就无需根据每个游戏改变设置只要给DQN游戏图像就可以了。实际上DQN 可以用相同的结构学习《吃豆人》、Atari等很多游戏甚至在很多游戏中取得了超过人类的成绩。8.6 小结对于大多数的问题都可以期待通过加深网络来提高性能。在最近的图像识别大赛ILSVRC中基于深度学习的方法独占鳌头使用的网络也在深化。VGG、GoogLeNet、ResNet等是几个著名的网络。基于GPU、分布式学习、位数精度的缩减可以实现深度学习的高速化。深度学习神经网络不仅可以用于物体识别还可以用于物体检测、图像分割。深度学习的应用包括图像标题的生成、图像的生成、强化学习等。最近深度学习在自动驾驶上的应用也备受期待。
