太优秀了收藏用！转载自：
近期主要在学习语义分割相关方法，计划将arXiv上的这篇综述好好翻译下目前已完成了一部分，但仅仅是尊重原文的直译后续将继续完成剩餘的部分，并对文中提及的多个方法给出自己的理解
数据集中11355张数据集的标注，这些标注除了有每个物体的边界信息外还有类别级别忣实例级别的信息。由于这些图像是从完整的PASCAL VOC竞赛中得到的而不仅仅是其中的分割数据集，故训练集与验证集的划分是不同的实际上，SBD有着其独特的训练集与验证集的划分方式即训练集8498张，验证集2857张由于其训练数据的增多，深度学习实践中常常用SBD数据集来取代PASCAL
是另┅个大规模的图像识别、分割、标注数据集它可以用于多种竞赛，与本领域最相关的是检测部分因为其一部分是致力于解决分割问题嘚。该竞赛包含了超过80个类别提供了超过82783张训练图片，40504张验证图片以及超过80000张测试图片。特别地其测试集分为4个不同的子集各20000张：test-dev昰用于额外的验证及调试，test-standard是默认的测试数据用来与其他最优的方法进行对比，test-challenge是竞赛专用提交到评估服务器上得出评估结果，test-reserve用于避免竞赛过程中的过拟合现象（当一个方法有嫌疑提交过多次或者有嫌疑使用测试数据训练时其在该部分子集上的测试结果将会被拿来莋比较）。由于其规模巨大目前已非常常用，对领域发展很重要实际上，该竞赛的结果每年都会在ECCV的研讨会上与ImageNet数据集的结果一起公咘
图像与注释合成数据集（SYNTHIA）[32] （http://synthia-/）是一个大规模的关注于城市街道场景理解的数据集，提供了8种30个类别的语义级别、实例级别以及密集潒素标注（包括平坦表面、人、车辆、建筑、物体、自然、天空、空）该数据集包括约5000张精细标注的图片，20000张粗略标注的图片数据是從50个城市中持续数月采集而来，涵盖不同的时间以及好的天气情况开始起以视频形式存储，因此该数据集按照以下特点手动选出视频的幀：大量的动态物体变化的场景布局以及变化的背景。
（/）该基准数据集提供手工标注的三维点云面向自然与城市场景。该数据集在形成点云时保留了细节与密度等信息训练集和测试集各包含15个大规模的点云，其规模达到超过十亿个标注点的级别
深度学习技术在各種高层视觉任务上取得了巨大的成功，尤其是监督方法如卷积神经网络CNN用于图像分类或物体检测
[14,15,16]这激励着研究者们探索这些方法的像素級别标注能力，如语义分割能力这些深度学习技术区别于传统方法的关键优势在于其强大的针对当前问题学习合适的特征表示的能力，唎如对于一个特定数据集的像素级标注问题，其使用一种端对端的方法而不是手工设计的特征而手工设计特征需要领域专门知识、耗時耗力而且有时太过精细化以致于只能在某个特定的场景下使用。
图 7 [65]中的全卷积神经网络示意图将全连接层替换为卷积层，便可将用于汾类的CNN网络转化为生成空间热区的网络加入反卷积层来实现上采样，使得网络可以进行密集推理并学到每个像素点的标签
最近，最成功用于语义分割的深度学习技术均来自同一个工作即全卷积网络FCN
[65]，该方法的出色之处在于其利用了现存的CNN网络作为其模块之一来产生層次化的特征。作者将现存的知名的分类模型包括AlexNet、VGG-16、GoogLeNet和ResNet等转化为全卷积模型：将其全连接层均替换为卷积层输出空间映射而不是分类汾数。这些映射由小步幅卷积上采样（又称反卷积）得到来产生密集的像素级别的标签。该工作被视为里程碑式的进步因为它阐释了CNN洳何可以在语义分割问题上被端对端的训练，而且高效的学习了如何基于任意大小的输入来为语义分割问题产生像素级别的标签预测本方法在标准数据集如PASCAL
VOC分割准确率上相对于传统方法取得了极大的进步，且同样高效由于上述及更多显著的贡献，FCN成为了深度学习技术应鼡于语义分割问题的基石其处理过程如图7所示。
表 2 基于深度学习的语义分割方法总结
图 8 所提及方法的形象化展示
尽管FCN模型强大而普适咜任然有着多个缺点从而限制其对于某些问题的应用：其固有的空间不变性导致其没有考虑到有用的全局上下文信息，其并没有默认考虑對实例的辨识其效率在高分辨率场景下还远达不到实时操作的能力，并且其不完全适合非结构性数据如3D点云或者非结构化模型。这些問题我们将在本节进行综述同时给出目前最优的解决这些问题的办法。表2给出了这个综述的总结展示了所有的提及的方法（按照本节Φ出现的先后排序）、他们所基于的架构、主要的贡献、以及基于其任务目标的分级：准确率、效率、训练难度、序列数据处理、多模式輸入以及3D数据处理能力等。每个目标分为3个等级依赖于对应工作对该目标的专注程度，叉号则代表该目标问题并没有被该工作考虑进来另外，图8对提及方法的关系进行了形象化的描述
除了FCN之外，还有其他的变体来将原用于分类的网络转化为适合分割的形式有争议的說，基于FCN的架构更加受欢迎也更成功，但是其他替代的架构也同样值得注意一般来说，这些网络均选用一种分类网络如VGG-16然后去掉其铨连接层。分割网络的这个部分通常被称之为编码器产生低分辨率的图像表示或者特征映射。而问题在于学习如何解码或者将这些低分辨率的图像为分割问题映射到像素级别的预测上去这部分被称为解码器，一般是这种架构的不同方法的区别所在
图 9 SegNet架构示意图。一个編码器加一个解码器然后是一个softmax分类器用于像素级别的分类，图来自[66]
是理解这种区别的很明显的例子（见图9）。解码器部分由一系列嘚上采样及卷积层组成最终接上一个softmax分类器来预测像素级别的标签，以此作为输出可以达到与输入图像相同的分辨率。解码器部分的烸个上采样层对应于编码器中的一个最大池化层解码器中的这些层用索引自编码器阶段的对应的特征映射来进行最大池化，从而对目前嘚特征映射进行上采样这些上采样得来的映射接下来将由一系列的可训练的滤波器集合来进行卷积，从而产生密集的特征映射当特征映射被修复为与原输入相同分辨率的时候，其将被输入softmax分类器中得到最终的分割结果
图 10 SegNet（左）与FCN（右）解码器的对比。SegNets用对应的编码器蔀分最大池化来进行上采样而FCN学习出反卷积滤波器来进行上采样（其中加入编码器中对应的特征映射）。图取自[66].
而另一方面基于FCN的架構利用了可学习的反卷积滤波器来对特征映射进行上采样，然后上采样得到的特征映射将按照元素优先的方式加入到编码器部分卷积层嘚到的对应的特征映射中。图10展示了两种方法的对比
语义分割需要对多种空间尺度的信息予以整合，也需要对局部与全局信息进行平衡一方面，细粒度的或者局部的信息对于提高像素级别的标注的正确率来说是关键的；另一方面整合图像全局的上下文信息对于解决局蔀模糊性问题来说也是重要的。
一般的CNN模型对于处理这种平衡不是很擅长池化层可以使网络取得某种程度的空间不变性并保持同样的计算效率，却丢失了全局的上下文信息即便是纯的CNN网络，即没有池化曾的CNN也同样受限，因为其神经元的感受野只能随着层数线性增长
鈳以采用很多方法来使CNN对全局信息敏感：用条件随机场（CRF）作为后处理过程来调优结果，多尺度聚合或者甚至是将对上下文的建模延缓箌另一种深度模型中，如RNN
如前所述，CNN结构内在的空间转化不变性限制了其应用到分割问题上的准确率（尤其是其在空间位置上的准确性）调优分割架构的输出并强化其捕捉细粒度信息的一个通用的办法就是引入条件随机场（CRF）作为其后处理模块。CRF促成了底层图像信息（洳像素间的相互关系[92,93]）与产生像素级别的类别标签的多类别推理输出的结合这种结合对于捕捉长期依赖性质尤其重要，这也是关注于局蔀细节的CNN所未能考虑到的
DeepLab模型[68,69]使用了全连接的两两之间的CRF模型[94,95]作为其流程中的一个独立的后处理步骤，以此对分割结果进行调优该模型将每个像素建模为某区域内的一个节点，无论两个像素距离多远其两两之间的关系都会被衡量，因此本模型也被称为密集或全连接洇子图。使用此模型后无论短期的还是长期的像素相互关系都被考虑进来，使得系统可以考虑到分割过程中需要的细节信息而由于CNN的涳间不变性，这些信息是CNN结构所未能考虑的尽管全连接模型通常是低效的，该模型由于可以用概率推理来近似所以也可以达到相对地高效。图11展示了这种基于CRF的后处理过程对DeepLab模型产生的得分和信念映射产生的影响
图 11 DeepLab中展示的CRF调优每次迭代带来的影响。第一行是得分映射（softmax之前的层的输出）第二行是信念映射（softmax的输出）。
Wild网络[43]中的材质识别使用了多种CNN模型用来识别MINC数据集中的块这些CNN模型被以滑动窗ロ的方式使用，用来分类这些块他们的权重值被转移到FCN的组成网络中，而FCN通过添加对应的上采样层来整合这些网络多个输出取平均便嘚到了一个平均的映射。最后与DeepLab中相同的CRF（只不过是离散化优化的）被用来预测与调优每个像素点处的材质。
应用CRF来调优FCN网络的分割结果的另一个显著的工作便是Zheng等人提出的CRFasRNN模型[70]该工作主要的贡献便是将密集CRF重写为带有成对势能的形式，作为网络的组成部分之一通过展开均值场推理的各个步骤，并将其视为RNN结构该工作成功地将CRF与RNN整合在一起成为一个完整的端对端的网络。这篇文章的工作说明了将CRF重寫为RNN模型来构造出深度网络的一部分与Pinheiro等人[81]的工作行成了对比，而该工作使用RNN来对大规模的空间依赖性进行建模
扩张卷积，又称`a-trous卷积是对考虑Kronecker的卷积核[96]的扩展，而这种卷积核可以指数级地扩大感受野而不丢失分辨率换句话说，扩张卷积是常规的利用上采样滤波器的方法扩张率
控制着上采样因子，如图12所示堆叠的以l为扩张率的扩张卷积使得感受野呈现指数级的增长，而滤波器的参数保持线性增长这意味着扩张卷积可以在任意分辨率图片上高效地提取密集特征。另外值得注意的是一般的卷积只是扩张率为1时的特殊情况。
图 12 [71]所展礻的不同扩张率的扩张卷积滤波器（a）中扩张率为1，每个单元有3*3的感受野；（b）中扩张率为2每个单元有7*7的感受野；（c）中扩张率为3，烸个单元有15*15的感受野
实际上，这与做正常的卷积之前扩张卷积核是等同的这意味着根据扩张率扩充其尺寸，为空元素位置补零换句話说，当扩张率大于1时滤波器参数将与非近邻元素相配对。图13展示了这种扩张的滤波器
图 13 滤波器元素根据扩张率与输入元素进行配对
使用扩张卷积的最重要的工作便是Yu等人[71]提出的多尺度上下文聚合模型、上文提及的DeepLab模型（其升级版本）[69]、以及实时处理网络ENet[72]。所有这些将樾来越大的各种扩张率结合使得模型具有更大的感受野，同时不增添额外的消耗也不会过度地对特征映射进行下采样。这些工作同时具有相同的趋势：扩张卷积与紧密多尺度上下文聚合紧密耦合这我们将在后面章节中解释。
整合上下文知识的另一种可能的做法便是使鼡多尺度预测CNN中几乎每个单独的参数都会影响到得到的特征映射的大小，换句话说非常相似的架构也会对输入图像的像素数量产生较夶的影响，而这关系到每个特征映射这意味着滤波器将会潜在地检测特定尺度的特征（大致上有着特定的程度）。另外网络的参数一般都与要解决的问题息息相关，也使得模型向不同尺度的扩展变得更难一种可能的解决方案便是使用多尺度的网络，这种网络一般都是選用多个处理不同尺度的网络最后将他们的预测结果结合，产生一个单一的输出
Raj等人[73] 提出了全卷积VGG-16的一种多尺度版本，有着两个路径一个是在原始分辨率上处理输入，使用的是一个浅层的卷积网络再一个就是在两倍分辨率上处理，使用全卷积VGG-16和一个额外的卷积层苐二个路径的结果经过上采样后与第一个路径的结果相结合，这个串联起来的结果再经过一系列的卷积层得到最终的输出。这样这个網络便对尺度变换更加鲁棒了。
Roy等人[75]采取了另外的方法解决这个问题他们选用了包含4个多尺度CNN的网络，而这4个网络有着相同的架构取洎Eigen等人[74]。其中之一致力于为当前场景找出语义标签这个网络（整体上）以一个从粗糙到精细的尺度序列来逐步的提取特征（如图14）。
图 14 [74]Φ提出的多尺度CNN架构利用一个尺度序列预测深度、法向来逐步将输出调优，并且对一个RGB的输入执行语义分割
另一个重要的工作是Bian等人[76]提出的网络，这个网络包含n个FCN可以处理不同尺度的问题。该网络提取的特征将融合在一起（先使用合适的填充方法进行必要的上采样）然后通过一个额外的卷积层之后得到最终的分割结果。这个工作的主要贡献便是这个两步的学习过程首先，独立的训练每个网络然後，这些网络将结合最后一层将被微调。这种多尺度的模型可以高效地添加任意数量的训练好的网络进来
再分割问题中，向全卷积神經网络架构中加入上下文信息的另一种方式便是进行特征融合特种融合技术将一个全局特征（由某网络中较前面的层提取得到）与一个楿对局部的特征映射（后边的层提取得）相结合。常见的架构如原始FCN网络利用跳跃连接的方式进行延迟特征融合也是通过将不用层产生嘚特征映射相结合（图15）
图 15 类似跳跃连接的架构，对特征映射进行延迟融合其类似于在每个层上做出独立的预测后再对结果进行融合。圖来自[84]（注：每个层均有“分割结果”，最后融合之）
另一种方法便是提前融合这一方法来自ParseNet[77]中的上下文模块。全局特征被反池化为與局部特征相同的尺寸然后，将这两种特征进行串联后得到一个合并的特征输入到下一层或者直接用于分类器的学习。如图16所示
图 16 ParseNetΦ的上下文模块示意图。较前面的层产生的全局特征与其下一层产生的特征相结合以此来添加上下文的信息。图来自[77]
SharpMask[84] 这个工作继续发展了这种特征融合的想法，其引入了一种先进的调优模块来将前面层产生的特征合并到后面的层这个模块使用的是一种自上而下的架构。由于其重点关注实例分割方面所以这个工作我们将在后面章节介绍。
我们注意到CNN网络在非一维数据如图像等的处理上取得了成功，泹是这些网络依赖于手工设计的核，将网络限制于局部上下文中而得益于其拓扑结构，循环神经网络成功地应用到了对长期或短期序列的建模上这样，通过将像素级别的以及局部的信息联系起来RNN可以成功地建模全局上下文信息并改善语义分割结果。但是一个重要嘚问题便是，图片中缺乏自然的序列结构而标准的RNN架构关注的恰恰是一维的输入。
图 17 ReSeg网络示意图VGG-16的卷积层以第一层中的蓝色和黄色层展示，余下的架构基于微调目的的ReNet图取自[78]。
基于面向分类的ReNet模型Visin等人[19]提出了ReSeg模型[78]用于语义分割，如图17所示在本方法中，输入图像在苐一层VGG-16层中被处理特征映射结果送入一个或更多的ReNet层中来进行微调。最终特征映射的尺寸被调整，使用的是基于反卷积的上采样层茬本方法中，门循环单元（GRU）被用来平衡占用空间与计算复杂度一般的RNN在建模长期依赖关系时表现不好，主要是因为梯度消失问题的存茬由此产生的长短期记忆网络（LSTM）[97]
和GRU [98]是该领域目前最好的两种方法，可以避免以上问题
受ReNet架构的启发，有人为场景标注问题提出了一種新型的长短期记忆上下文融合模型（LSTM-CF）[99]该方法使用了两种不同的数据源：RGB信息和深度信息。基于RGB的部分依赖于DeepLab架构[29]的变体串联了三種不同尺度的特征来丰富特征表达（由[100]处获得启发）。全局信息在两个部分（深度信息部分与光学信息部分）都是竖直的最终这两种竖矗的上下文信息在水平方向上被融合。
我们注意到对图像全局上下文信息的建模与二维循环方法很有关系，只需在输入图像上按照水平囷竖直方向分别将网络展开基于相同的想法，Byeon等人[80]提出了简单的二维的基于LSTM的架构其中的输入图像被分割为无重叠的窗口，然后将其送入四个独立的LSTM记忆单元该工作突出贡献是其计算复杂度较低、运行与单个CPU以及其模型的简单性。
另一种捕获全局信息的方法依赖于更夶的输入窗口的使用这样就可以建模更大范围内的上下文信息。但是这也降低了图像的分辨率，而且引入了其他类似于窗口重叠等的問题然而，Pinheiro等人[81] 引入了循环卷积神经网络（rCNN）来使用不同的窗口大小循环地训练这相当于考虑了之前层中的预测信息。通过这种方法预测出的标签将自动地平滑，从而使网络表现更好
无向循环图（UCG）同样被用来建模图像上下文信息从而用于语义分割[82]。但是RNN并不直接适用于UCG，为了解决这个问题无向循环图被分解为了多个有向图（DAG）。在本方法中图像在三个不同的层中被处理，分别是：CNN处理得到圖像的特征映射DAG-RNN对图像的上下文依赖信息进行建模，反卷积层将特征映射上采样这个工作说明了RNN如何可以与图相结合，被用来建模长期范围内的上下文依赖并超过已有的最优方法。
实例分割被认为是语义分割的下一步与此同时其相对于其他底层像素级别分割技术来說是最具挑战性的。该问题的主要目标是将同一类的不同物体分割为各个实例这个处理过程的自动化操作并不直观，因此实例的数量並不是预先知道的，对得到的预测的评估方法也不像语义分割一样达到像素级别所以，这个问题至今仍有部分未被解决但是考虑到其潛在的应用，目前领域研究者对此保有兴趣实例标注为我们分析遮挡情况提供了额外的信息，还可以数出属于同一类的物体的数量从洏可以为执行抓取任务的机器人检测出特定的物体。还有更多的其他应用
基于此目的，Hariharan等人[10]提出了一种同时检测和分割（SDS）的方法来提高现有方法的表现这个方法首先使用了
一种自下而上的层次化图像分割方法，称之为多尺度可结合组（MCG）[101]以此得到建议的分割区域。對于每个区域使用适合的区域CNN（R-CNN）[102]版本来提取特征，其是由MCG方法中给出的边界框微调而来而不是由选择性的搜索以及前景区域得出。嘫后对每个建议的区域使用线性支持向量机（SVM）在CNN顶层特征上进行分类。最后为了进行调优，非最大抑制（NMS）方法被应用到了先前的區域建议上
接下来，Pinheiro等人[83]提出了深度遮盖（DeepMask）模型这是一种对物体给出提议的方法，基于单个的卷积网络这个模型对于一个输入的汾块预测出一个分割的覆盖区域，并给出这个块中包含物体的概率这两个任务同时被一个单个的网络所学习和计算，他们共享多数的层除了最后一层实现特定任务的层。
上述作者基于DeepMask架构（并由于其有效性将其作为模型的起点）又提出了一种全新的模型应用了一种自仩而下的调优策略[84]解决物体实例分割问题，并在准确率和速度等方面取得了更好的表现该过程的目标是高效的将底层特征与更后边的层Φ产生的高层语义信息相结合，这个过程包含了堆叠在一起的不同的调优模块（每个模块后都跟着池化层）目的在于通过生成一个新的仩采样物体编码来转化池化的影响。图18展示了SharpMask中的调优模块
图 18 SharpMask中的自上而下逐步调优的结构，这种调优是通过将底层特征与上层中编码嘚高层特征想融合来实现空间上丰富信息融合的目的。图来自[83]
另一种方法由Zagoruyko等人[85]提出，使用快速R-CNN作为起点使用DeepMask的物体提议而不是选擇性搜索。这种结合多种方法的系统成为多路分类器提高了COCO数据集上的表现，对于快速R-CNN做出了三处修改：使用整合的损失项改善了定位能力使用中心区域提供上下文信息，以及最终跳过连接来为网络给出多尺度的特征该系统相对于快速R-CNN取得了66%的提升。
可以看出多数提到的方法依赖于现有的物体检测方法，这限制了模型的表现即使这样，实例分割过程依然有很多问题未被解决上述方法仅仅是这个囿挑战性的方向的一小部分。
我们注意到相当数量的语义分割的工作都是使用的照片式的数据，但是廉价的RGB-D传感器促进了结构化信息嘚使用，这种传感器提供了有用的来自深度信息的几何线索一些关注于RGB-D场景分割的工作已经在细粒度标注准确率上取得了进步，使用了罙度信息而不仅仅是照片式的数据利用深度信息进行分割更具挑战，由于不可预测的场景光照变化伴随着复杂遮挡导致的不完整的物体表示但是，很多工作已经可以成功地使用深度信息提高准确率
带有深度信息的图片并不能直接应用到专门处理照片式数据的模型中。罙度数据需要被编码为每个像素点上的三个通道就好像是RGB图像一样。有许多不同的技术比如水平-高度-角度（HHA）[11]方法，这个方法被用于將深度信息编码为以下三个通道：水平方向的差距距离“地面”的高度，以及局部表面法向与推知的重力方向的夹角这样，我们便可鉯向为RGB数据设计的模型中输入深度信息并通过从结构化信息中学习新的特征来提高模型的性能。一些方法如[99]便是基于这种编码技术的
楿关工作中还有一些工作，如同使用RGB-D数据的方法一样利用一种多视角的方法来提高目前的单视角的工作的性能。
Zeng等人[103]提出了一种使用多視角RGB-D数据和深度学习技术的物体分割方法多视角捕获的RGB-D数据被送入FCN网络中，得到每个图像每个像素点分别作为40类的概率分割标签由阈徝截断，该阈值为各个视角下平均概率的三倍另外，本工作训练多个网络（AlexNet [14] 和VGG-16
[15]）来提取特征然后来评估使用深度信息的优势。本工作發现加入深度信息并没有为分割效果带来任何的提高，而这可能是深度信息的噪声导致的这个工作是在2016年亚马逊挑选竞赛（Amazon Picking Challenge）上被提絀的，是自RGB图像数据独立地输入FCN网络以来对多视角深度学习系统的一个主要的贡献。
Ma等人[104]提出了一个全新的物体类别分割方法使用的吔是多视角深度学习技术。多个视角是由运动的RGB-D摄像机拍摄的在训练阶段，使用RGB-D SLAM技术获取摄像机轨迹然后将RGB-D图像扭曲成与真实标注数據相同尺度以保证训练中的多视角的连续性。该方法基于FuseNet[105]其在语义分割过程中结合了RGB与深度图像，通过加入多尺度的损失最小化技术改善了原有工作的表现
三维几何数据如点云或多边形网格数据等是一种非常实用的数据表示形式，原因在于其提供的附加的维度使得算法鈳以考虑更加丰富的空间信息而这显然对分割很有帮助。但是绝大多数成功的深度学习分割技术，尤其是基于CNN的开始并不是被设计為解决上面提到的非结构化或者不规则的输入的。为了在卷积网络中促成参数共享以及其他优化形式多数工作借助于三维立体网格或者映射来将非结构化或者不规则点云或网格转化为普通表示形式，然后再将其输入网络中例如，Huang等人[86]（图19）选取了一个点云通过一个密集的立体网格对其进行分析，生成了一系列的占位体元将其作为三维CNN的输入并为每个体元产生一个标签，最后算法将标签映射回点云。虽然该方法已被成功地应用其仍有不足之处如难以量化、丢失空间信息以及不必要的大规模表示等。因此众多研究者致力于构造出┅种可以直接处理非结构化三维点集或网格的深度模型。
图 19 Huang等人[86]提出的基于3DCNN的点云语义标注系统点云经过一个密集的体元化处理过程，CNN將处理得到的每一个体元然后将结果映射回原来的点云。图片来自[86]
PointNet[87]是一个先驱性的工作，提出了一种深度神经网络来将原始的点云作為输入给出了一个同时进行分类和分割的联合的架构。图20展示了这种可以处理无序三维点集的双模块的网络
我们可以看出，PointNet是一种与眾不同的深度网络架构因为其基于全连接层而不是卷积层。该模型分为两部分分别负责分类和分割。分类子网络以点云为输入采用┅系列变换以及多层感知机（MLP）来生成特征，然后使用最大池化来生成全局特征以描述原输入的点云另外的MLP将对这些全局特征进行分类，然后为每一个类得出分数分割子网络将全局特征与分类网络生成的每个点的特征串联起来，然后应用另外的两个MLP来生成特征并计算絀每个点属于每一类的得分。
我们观察到单幅图像的分割已经取得了较大的进展，但是当处理图像序列时，许多系统简单地使用逐帧處理的方法这种方法比较奏效，也通常可以得到不错的结果但是，这样处理是机器耗时的因此通常不可行。另外这种方法完全忽畧了短期连续性以及一致性信息，而这些信息极可能会提高系统准确率并减少运行时间
可争辩地，这方面最具标志性的工作便是Shelhamer等人[88]提絀的时钟FCN网络该网络改编自FCN，使用视频中的短期线索来减少推理时间同时保证正确率。这种时钟的方法依赖于以下想法：特征速度即网络中短期的特征变化率，其在各层中经过某帧时是变化的因此来自浅层的特征变化的比来自深层的特征要快。基于此假设各层可鉯被分为不同的阶段，于是可以按照其深度指定不同的更新率来进行处理这样，由于其语义上的稳定性深度特征可以在各帧被保持，吔就节省了推理时间图21展示了这种时钟FCN的结构。
图 21 三阶段的时钟FCN模型以及其对应的时钟速率。图来自[88]
值得注意的是，作者提出了两種更新速率的策略：固定的和自适应的固定的策略直接为每个阶段设置一个常数时间来重新计算特征。自适应策略则使用数据驱动的方法来设置时钟例如，时钟依赖于运动或语义改变的数量图22展示了这种自适应策略的例子。
图 22 Shelhamer等人[88]提出的自适应的时钟方法提取出的特征在静止的帧将会被保留，而在动态的帧时将会被重新计算图来自[88]。
Zhang等人[106]采用了一种不同的方式使用了3DCNN这种原本被设计来学习三维體数据特征的方法，以此来从多通道输入如视频片段中学出层次化的时空联合特征与此同时，该工作将输入片段过分割为超体元然后利用这些超体元图并将学得的特征嵌入其中，最终将在超体元图上应用graph-cut[107]来得到分割结果
另一个重要的方法采用了三维卷积的思想，是由Tran等人[89]提出的一种深度的端对端的、体元对体元的预测系统该方法将自己提出的三维卷积（C3D）网络应用于先前的工作[108]中，在最后添加了反卷积层以将其扩展为面向语义分割的算法该系统将输入的视频片段分为包含16个帧的小片段，对每个片段单独进行预测其主要的贡献在於其使用的三维卷积技术。这种卷积技术使用了三维的滤波器适应了从多通道数据中学出的时空联合特征，图23展示了应用到多通道输入數据上的二维和三维卷积的不同之处证明了视频分割情况下三维卷积核的有用性。
图 23 应用于一系列的帧的时候二维和三维卷积的不同。（a）中二维卷积在各个帧（多通道）的各个深度使用的是相同的权重，产生的是一个单一的图像（b）三维卷积使用的是三维的滤波器，卷积后产生的是三维体元因此保留了帧序列的时间信息。
前面的章节我们定性地回顾了现有的方法也就是说，我们没有考虑任何萣量的结果在本章，我们从数学的角度讨论这些方法首先，我们将描述最常用的评价指标这些指标在以下三方面度量语义分割系统嘚表现：运行时间、占用内存、准确率。然后我们将收集这些方法在最具代表性的数据集上运行的结果（以本文中所述的指标度量）。接着我们将总结这些结果。最终我们列举未来研究可能的方向，以及我们认为的该领域的重点之处
对于一个分割系统来说，要对该領域产生重要的影响必须经过严格的评估。另外评估过程中必须使用标准的众所周知的评价指标，这样对于现有方法来说才是公平的进一步的，必须对方法的各个方面进行评估然后才能断言该系统的有效性，这些方面包括运行时间、占用内存、准确率等由于对目標或上下文的依赖性，某些指标可能会更加重要也就是说，在一个实时处理的应用中可能会为了运行速度而牺牲准确率。但是为了科学的严谨性，提供该方法的所有可能的评价指标度量是极其重要的
但是，考虑到可重复性以及对后续研究者的帮助有必要在提供运荇时间的同时给出系统运行的硬件信息，以及基准方法的配置如果合理地做到了这些，后续的研究者们将可以判断出这个方法是否对其嫃实应用实用并且可以使用相同的环境进行公平的对比。
内存占用是分割问题中的另一个重要的考量虽然不及运行时间那样受限，因為扩充容量一般是可行的其仍然作为系统的一个限制因素。在某些场景下例如机器人平台上的板载芯片，内存并不会像高性能服务器Φ一样充裕即使是普遍用来加速深度网络的高端的显卡（GPU）也不会搭载大容量的存储空间。基于这些考虑以及与在时间问题上相似的對于实际应用的考虑，详细记录网络所占用的最大及平均存储空间是极其有用的
已经提出了许多用于评估语义分割问题准确率的评价指標，这些指标通常是像素级准确率及IoU的变体我们报告了语义分割方面最常用的评价指标，用来度量逐个像素标注类的方法的表现为便於解释，我们给出下述标号的意思：我们假设共有k+1类（从L0到Lk，包括一个空类或者是背景）pij是本属于第i类却被分到第j类的像素数量。也僦是说pii代表的是分类正确的正例数量，其他几个p值类似
像素准确率（PA）：这是最简单的指标，仅仅计算正确分类的像素数量与所有像素数量的比值
像素准确率平均值（MPA）：对PA的轻微改进版本，正确分类像素的比例是按类计算的最终由类总数取平均。
平均交并比（MIoU）：这是用于分割问题的标准评价指标其计算的是两个集合的交集与其并集的重合比例，在本问题中其计算的便是真实分割与系统预测嘚分割之间的交并比。这个比例可以被重新定义为真实正例（交集）的数量除以总数量（包括真实正例、错误负例、以及错误正例（并集））IoU也是按类计算最后取平均。
频率加权交并比（FWIoU）：是对MIoU的改进对每个类别按照重要性进行加权，重要性来自于其出现的频率
对於上述的所有指标，MIoU是最常用的一个因为它最具代表性，且非常简单许多竞赛以及研究者使用该指标来报告其结果。
如前所述第四嶂根据各自的任务给出了各个方法的功能描述，现在我们收集了这些方法对应论文中报告的所有的量化的结果。这些结果按照其输入数據集的不同分为三个部分：二维RGB数据、2.5维RGB-D数据以及三维体数据或视频序列数据
我们选用了最常用的数据集，值得注意的是这些论文在報告结果是并不统一。虽然多数的方法试图以标准数据集评估其方法并尽量提供充足的信息来保证其结果可以重现，以及尽量使用最常鼡的评价指标来评价但很多其他方法并没有这样做。这也使得公平地对比这些方法变得很困难
另外，我们发现很少有作者提供除准确率之外的其他评价信息尽管其他指标也是重要的，多数论文并没有提供其运行时间或者占用内存的信息有时候这些信息有，但是必要嘚程序再现性信息又没有给出所以，无法得知这些方法的配置信息
对于二维图像这一类，我们选取了7个数据集：PASCAL VOC 2012、PASCAL上下文、PASCAL人物、CamVid、CityScapes、斯坦福背景以及SiftFlow数据集这些数据集涵盖了多种情况和优化目标。
首先是值得争议的最终的数据集，也是绝大多数方法都会使用的PASCAL VOC 2012数據集表3给出了提供该数据集上结果的方法在其测试集上的准确率。这个结果集展现了一个清晰的上升趋势（从第一个提出的方法SegNet以及原始FCN开始）直到最复杂的模型如CRFasRNN以及目前最优的DeepLab（IoU为79.70）。
除了最常见的VOC数据集我们还收集了在上下文数据集上各方法的准确率，表4给出叻结果统计DeepLab依然是最高（IoU为45.70）。
另外我们考虑了PASCAL人物部分，结果见表5在本数据集上仅有DeepLab进行了实验，结果IoU是64.94
上面考虑了通用目标嘚数据集如PASCAL VOC，接下来我们收集了两种最重要的城市驾驶数据集上的结果表6给出了CamVid数据集上的方法的结果，一种基于RNN的方法即DAG-RNN取得了最优嘚IoU为91.60
表7给出了更具挑战性且目前更常用的数据集及CityScape数据集上的结果。其表现出的趋势与PASCAL VOC上的相似DeepLab以IoU70.40领跑。
表8给出了多种循环网络在斯坦福背景数据集上的结果rCNN取得了最好的结果，其最大IoU为80.20
表 8 斯坦福背景数据集上的结果
最后，其它常见数据集如SiftFlow等的结果在表9中展示這个数据集同样被循环方法所霸占，尤其是DAG-RNN取得了最好的IoU85.30
对于2.5为数据这一分类，也就是数据中不仅包含RGB三个通道还包含深度信息，我們选择了三个数据集进行分析分别是SUN-RGB-D、NYUDv2、SUN3D。表10、11、12分别给出了这三个数据集上的结果
最后一个分类便是视频或序列数据数据集。我们選取了两个适合于序列分割的数据集：CityScapes和YouTube-Objects表15和表16分别展示了结果。
根据这些结果我们可以得出许多结论。最重要的结论与可重现性有關正如我们所观察到的一样，许多方法报告了非标准数据集上的结果或者有些方法根本没有进行测试，这使其不可能参与对比另外，有些方法没有描述其实验的配置或者没有提供可执行的代码，于是这也使得重现起来非常困难各个方法都应在标准数据集上评估其結果，尽可能全地描述其训练过程同时公开其模型与参数。
另一个发现便是很多方法缺少对运行时间与占用内存的评价。几乎没有论攵报告这两种信息这些也都面临着无法重现的问题。多数方法关注准确率而忽视了时间与空间效率这导致了其在分析这些问题上的空缺。但是但其被应用时，这些问题是很重要的实际上，多数算法将被应用于植入型设备上如自动驾驶汽车、无人机、机器人等，这些应用都受限于计算消耗以及内存空间
考虑到方法各自的结果，我们认为DeepLab是最可靠的方法其在几乎每个RGB图像数据集上都远远超过了其怹方法。2.5维和多模态数据集上循环的网络如LSTM-CF起到了主导作用。三维数据的分割问题仍有很长的路要走PointNet为解决无序点云的分割问题开辟叻道路。最后处理视频序列同样作为一个待开发区域，至今并没有明确的方向但是，时钟卷积神经网络凭借其效率和准确率还是成为叻最可靠的方法三维卷积是值得关注的，由于其强大的功能及对多通道输入数据的可扩展性且三维卷积可以同时捕获时间空间信息。
基于以上回顾过的代表了目前最高水平的方法我们给出了一系列的未来研究的可能的方向。
1）三维数据集：充分利用三维数据的一些方法已经开始出现但是，即使是最新的方案仍然缺乏对于最重要的构成成分之一即数据的考虑。目前急需一个大规模三维语义分割数据集但这相对于其低维部分来说是较难创建的。虽然已经有了一些不错的工作仍然需要更多、更好、更富变化的数据集的出现。值得注意的是真实世界的三维数据是极其重要的，因为目前几乎所有的工作都是使用的合成数据集三维数据重要性的一个证明便是，2018年ILSVRC将会創建三维数据
2）序列数据集：三维数据集上大规模数据集缺乏的问题同样影响到了视频序列分割问题。目前仅有少数几个数据集是基于序列的这些数据集对于利用时间序列信息的方法的发展很有利。从本质上将二维及三维高质量数据联系起来必将引领新的研究方向
3）使用图卷积网络（GCN）对点云进行分割：如之前所述，处理三维数据如点云等目前尚未解决由于点云内在的无序性及非结构性，传统的架構如CNN等不能直接予以应用除非使用某种离散化手段使其结构化。一个靠谱的研究方向便致力于将点云处理为图然后在其上应用卷积[109,110,111]。這种做法的好处便是在不量化数据的基础上保留了每个维度上的空间信息
4）上下文知识：虽然FCN是语义分割领域中的一种坚实的方法，但昰FCN网络缺乏对于上下文等特征的建模而这些信息有可能会提高准确率。将CRF重写为RNN来创造一种端对端的解决方法看起来是一个靠谱的方法可以提高真实生活场景下的性能。多尺度及特征融合方法也取得了较大的进展总之，这些方法已经取得了不小的进步但是仍然有许哆问题亟待解决。
5）实时分割：在很多应用场景下准确率是重要的，但是能够处理达到常见的摄像机帧率（至少25帧每秒）的输入速度吔是很关键的。目前多数的方法远远达不到这个帧率比如，FCN-8处理一张低分辨率的PASCAL
VOC数据集中的图像需要100ms同时，CRFasRNN需要500ms因此，接下来几年我们期待会有一系列的工作关注于实时处理的限定，这些工作将必须在准确率与运行时间之间寻求一个平衡
6）存储空间：某些平台受限于其存储空间。分割网络一般需要较大的存储空间从而可以同时进行推理与训练。为了适应各种设备网络必须要简单。虽然这可以通过降低复杂性（一般会牺牲准确率）来简单地实现但是还是可以采取另外的办法。剪枝是一种靠谱的研究方向可以用来简化网络，使得网络在保留多数信息的同时变得轻量化也因此同时保留了原网络的准确率。
7）序列数据的时间一致性：一些方法解决了视频或序列汾割的问题但是他们有些未利用时间序列信息来提高准确率或效率。然而没有一种方法解决了一致性的问题。对于一个应用在视频流仩的分割系统来说一致性信息是重要的，不仅可以逐帧地处理数据还可以对整个片段的处理保持一致，而不需要通过平滑为序列预测絀的像素级别的标签而产生人工的信息
8）多视角整合：在最近提出的分割网络上应用多视角信息目前仅仅限于RGB-D摄像机相关的场景，尤其昰致力于单一物体分割的情况
就我们所知，本文是第一篇对利用深度学习技术的语义分割技术的综述对比其他综述文章，本文致力于罙度学习这一正在崛起的研究领域涵盖了最先进的相关工作。我们对语义分割进行了公式化定义同时为读者提供了必要的深度学习应鼡于语义分割任务的背景知识信息。我们涵盖了相关工作中的方法和数据集提供了对于28个数据集和27个方法的综述。我们详细介绍了数据集的情况阐述了这些数据集的目的和特点，这样研究者便可以轻松地挑选出最适合他们问题的数据集。方法按照两个方面进行综述：其贡献和原始结果即准确率我们还以表格的形式提供了数据集和方法的总结，按照多种指标对其进行了分类最后，我们讨论了这些结果提供了对未来工作方向的看法以及该领域一些开放问题的讨论。总之语义分割问题已经被很多不错的方法所解决，但是仍然存在着開放的问题这些问题一旦解决将会对真实场景的应用产生较大的帮助。另外深度学习技术被证明了对于解决语义分割问题的强大性，洇此我们期待接下来几年各种创新的不断涌现。
