工程硕士论文栏目提供最新工程硕士论文格式、工程硕士论文硕士论文范文。详情咨询QQ:1847080343(论文辅导)

基于多重特征匹配机制的知识蒸馏方法探讨

日期:2024年05月20日 编辑:ad201107111759308692 作者:无忧论文网 点击次数:57
论文价格:150元/篇 论文编号:lw202405101450232037 论文字数:35633 所属栏目:工程硕士论文
论文地区:中国 论文语种:中文 论文用途:硕士毕业论文 Master Thesis

本文是一篇工程硕士论文,本文的研究集中于多重特征匹配机制的用于图像分类和语义分割的任务上的知识蒸馏算法,挖掘了输出层特征蒸馏的部分潜力,进一步优化了异构知识蒸馏网络使其实现先进的性能,并且提取到了更有利于提升学生网络性能的结构信息。

1 绪论

1.1 研究背景及意义

计算机视觉是深度学习领域最热门的研究领域之一,目前在各领域中应用广泛。1959年,神经生理学家David Hubel以及Torsten Wiesel通过猫的视觉实验[1],首次发现了视觉初级皮层神经元对于移动边缘刺激十分敏感,发现了视功能柱结构,为视觉神经研究铺垫了基础,奠定了视觉深度学习的核心准则。伴随着计算机功能的发展,计算机视觉得到更多的展现空间,计算机视觉相关功能不断被开发出来,并且在许多行业中展开了实践:在医学诊治领域,在心电图以及超声波图像的分析处理技术中发挥了重要作用;在工业和工程领域,主要的应用集中在自动配置流水线中的零件质量检测以及邮政信件的自动分拣等;在军事、安全领域,数字图像处理技术应用在人脸身份认证、指纹识别以及火灾防控等方面[1]。

其中,图像分类任务是计算机视觉的核心任务,其目标是利用计算机分析图像信息中所反映的不同特征区分不同类别的图像,将图像归为若干个类别中的某一种,以代替人的视觉判读。图像分类作为解决语义分割、目标检测、目标跟踪、场景理解等其他复杂视觉问题的基础,是整个计算机视觉研究的基石。此外,语义分割也在计算机视觉中占有一席之地。语义分割问题也可以被认为是像素级图像分类问题,其中每个像素将被分类为既定的一系列对象类中的某一个。语义分割在自动驾驶和机器人领域是关键性技术,对于这些领域的模型来说,能够拥有理解卷积神经网络环境中的特征上下文的能力是非常重要的。图像分类和语义分割能够跨越图像语义理解的鸿沟,建立像素信息到语义信息的映射,有着深刻的研究价值,深入研究、探讨其未来的发展方向能够为未来生活带来很多惊喜。

1.2 国内外研究现状

知识蒸馏是模型压缩的一种常用的方法,最早由Hinton在2015年首次提出并应用在分类任务上[13],随着知识蒸馏的发展,其架构作为一种特殊的迁移学习方式,演化出了丰富的架构和变体,并被逐渐扩展到各种深度学习任务和场景中,包括计算机视觉、自然语言处理、推荐系统等等,是解决多方面实际问题的一种通用手段。本节梳理了近些年知识蒸馏的主要研究成果并加以总结,并对计算机视觉中两大任务:图像分类以及语义分割的研究现状加以分析。

1.2.1 图像分类研究现状

图像分类是计算机视觉中基础的工作,深度学习模型的发展与图像分类任务的发展息息相关,图像分类在深度学习中的地位举足轻重。图像分类顾名思义就是一个分类问题,图像分类任务目的是判断图像中包含物体的类别。人类的视觉感官系统极易判别出图像所属类别,但是对于计算机而言,获得图像的语义信息是十分困难的。通常,图像分类任务的监督由给定的分类集合标签给出,即对每个输入图像判定类别时都有一个图像分类标签,在分类集合的范围内输出图像类别的预测,图像分类的训练过程就是模型预测向标签靠拢的过程。拓展图像分类任务的方向有给出目标所在位置,判断图中含有物体的数量等等,这些工作都是以图像分类任务为基础的。

2 基于头部输出特征自适应匹配的知识蒸馏方法

2.1 引言

深度神经网络在业界和学术界均取得了巨大成功,深度学习的成功主要归功于自身强大的可扩展性,既有大规模的数据样本,也有数十亿的模型参数。但同时也应看到,在移动电话和嵌入式等资源有限的设备上部署这些笨重的深度模型也带来了巨大挑战。近年来,人们提出了许多基于深度学习的知识蒸馏方法来解决这些问题,包括输出层特征知识蒸馏和中间层特征知识蒸馏。最先进的蒸馏方法大多数基于中间层特征蒸馏深层特征,而往往忽视了输出层特征蒸馏的意义。中间层特征知识蒸馏方法与输出层特征知识蒸馏方法相比,性能在各种任务上都具有优越性,因此对输出层特征知识蒸馏方法的研究很少。然而,中间层特征知识蒸馏方法的训练成本,例如网络模块的运算成本和时间成本在大多数情况下损耗较大,这是因为在模型训练期间,这些方法为了提取深度特征引入了额外的计算和存储。

工程硕士论文怎么写

2.2 基于头部输出特征自适应匹配的知识蒸馏网络

本节将深入研究输出层特征知识蒸馏的机制,详细介绍一种基于头部输出特征自适应匹配的知识蒸馏方法。该方法将知识蒸馏损失定义为两个部分的加权和:一个为头部输出特征匹配损失,另一个为输出特征自适应匹配损失。本节将描述从经典知识蒸馏和解耦知识蒸馏得到启发并且发散思维,进一步提出一种新的输出层特征知识蒸馏方法的过程,与此同时,也将基于头部输出特征自适应匹配探讨知识蒸馏损失各部分在知识蒸馏框架中的作用。

2.2.1 整体框架

本章提出的基于头部输出特征自适应匹配的知识蒸馏模型,仅包含教师网络和学生网络,未引入额外参数产生计算和内存上的损耗,并提出了两个蒸馏损失方法:头部输出特征匹配和输出特征自适应匹配。将分类图片分别输入教师网络和学生网络,可得教师网络输出层特征以及学生网络输出层特征。对得到的教师网络输出层特征以及学生网络输出层特征进行修剪处理,只保留输出层特征中比较重要的部分,得到教师网络的头部输出特征和学生网络的头部输出特征,采用KL-Divergence损失公式求出头部输出特征匹配损失。输出特征自适应匹配是在头部输出特征匹配的基础上实现的,对得到的教师网络的头部输出特征以及学生网络的头部输出特征进行“掐头去尾”的操作,即将更多的关注力集中于含更多泛化信息的中间主体特征。

3 基于辅助型中间特征融合匹配的知识蒸馏方法 .............................. 26

3.1 引言 ................................. 26

3.2 基于辅助型中间特征融合匹配的知识蒸馏网络 ........................ 28 

4 基于模块间关系学习的解耦知识蒸馏方法 .................. 38

4.1 引言 ...................................... 38

4.2 基于模块间关系学习的解耦知识蒸馏网络 ................ 40

5 总结与展望....................................... 51

5.1 论文总结 .................................. 51

5.2 未来展望 .......................................... 52

4 基于模块间关系学习的解耦知识蒸馏方法

4.1 引言

语义分割是计算机视觉中一个关键且具有挑战性的任务,该任务能够生成中间层特征以及输出层特征并对其加以利用,通过一定的方法将图像分割成具有一定语义含义的区域块,并识别出每个区域块的语义类别,实现从底层到高层的语义推理过程,最终得到一幅具有逐像素语义标注的分割图像。语义分割的应用通常集中在自动驾驶、虚拟现实技术和机器人领域中。在语义分割技术的发展中,全卷积网络(Fully Convolutional Networks, FCN)[32]为语义分割的端到端密集特征学习创建了一个开创性的范例。尽管流行的最先进的分割网络,如DeepLab[33, 66, 67],PSPNet[34]和 OCRNet[68],取得了显著的性能,但它们往往需要较高的计算成本。这一缺点使得这些分割网络很难在资源有限的移动设备上部署到现实场景中。本章研究了在大容量教师网络的指导下,如何让知识蒸馏算法提高小容量学生网络的语义分割性能的问题。

目前,基于图像分类任务的知识蒸馏的研究已经得到了很好的发展,通过预训练网络中的各层特征可以提炼出可转移的知识,知识蒸馏的效果就取决于提炼到的知识的好坏。由于老师网络可以教学生网络学习解决分类问题的流程,在知识蒸馏的礼物:快速优化,网络最小化和迁移学习[69]一文中,将提炼到的知识定义为解决分类问题的流程,如图4-1所示。利用了神经网络使用多层网络从输入空间映射到输出空间的特点,解决分类问题的流程可以定义为来自两个模块的特征之间的关系,在数学上表现形式即为计算跨特征层间的Gramian矩阵内积,经过训练使学生网络矩阵与教师网络生成的矩阵相似。该方法设计了FSP矩阵G∈Rmxn来表示求解过程的流程,选定一个层生成的特征映射F1∈Rhxwxm,其中h、w和m分别表示通道的高度、宽度和数量。

工程硕士论文参考

5 总结与展望

5.1 论文总结

随着电子设备的广泛使用,人类记录和传递信息的方式渐渐由文本转变为图像和视频等。随之而来地,对这些大数据量的图片进行分类识别成了一项繁杂、耗费时间的工作,因此希望能够借助机器学习到图片的内在特征。通过针对图像分类、图像语义分割等任务的算法对图像进行分析时,为了在越来越多的包含干扰噪声的特征中提取有效信息,减少所需消耗的设备资源,因此需要在保持图像分析的正确性的同时,需要利用知识蒸馏、网络剪枝和量化等模型轻量化的方法保证这些算法对图像分析的实时性,降低模型所占用的内存空间。本文的研究集中于多重特征匹配机制的用于图像分类和语义分割的任务上的知识蒸馏算法,挖掘了输出层特征蒸馏的部分潜力,进一步优化了异构知识蒸馏网络使其实现先进的性能,并且提取到了更有利于提升学生网络性能的结构信息。现将本文的工作总结如下:

(1)本文提出了一种基于头部输出特征自适应匹配的知识蒸馏方法。基于头部输出特征自适应匹配的知识蒸馏模型未引入额外参数产生计算和内存上的损耗,该模型中的头部输出特征匹配需要对得到的教师网络输出层特征以及学生网络输出层特征进行修剪处理,提取教师网络和学生网络的输出层特征较大概率