基于知识蒸馏和通道剪枝的轻量化植物病害识别模型及移植
植物病害种类繁多，精准识别植物病害对植物及时采取防护和治理具有重要意义。最近几年，随着人工智能技术的不断进步，各种先进的AI技术层出不穷，深度学习作为其中炙手可热的一种，也有了长足的发展，其中卷积神经网络已经成为了解决图像处理和分析任务的主要手段之一，在植物病害识别中的也具有很高的应用价值。然而，当前大多数卷积神经网络模型参数较多，难以在计算资源和存储空间有限的智能手机、嵌入式传感器节点等边缘设备上进行部署和应用。为了解决这些问题，本文提出一种基于知识蒸馏与通道剪枝的轻量化植物病害识别模型，并将其移植到安卓端并部署。具体研究工作如下： 首先，根据需求调整ResNet模型的网络结构，通过在知识蒸馏中引入一个或多个助教网络使得模型训练效果更佳，将最终助教网络模型稀疏化训练后，利用通道剪枝获得轻量化的学生网络模型后，微调学生网络模型以恢复模型性能。实验结果表明：在14种植物共38个类别的数据集上，将模型剪枝50%后，模型准确率为95.76%，比原模型增加4.22%；在5个类别苹果叶的数据集上，将模型剪枝70%后，模型准确率为88.97%，比原模型增加1.88%。 其次，针对在通道剪枝中去除部分网络后，重训练模型恢复准确性不如预期的问题，本文使用知识蒸馏的思想和学习率倒带代替微调进行重训练。通过助教网络指导学生网络，同时结合学习率倒带进行重训练，使得模型性能恢复更佳。实验结果表明：在14种植物共38个类别的数据集上，将模型剪枝90%后，模型准确率为97.78%，比原模型增加1.49%；在5个类别苹果叶的数据集上，将模型剪枝70%后，模型准确率为91.94%，比原模型增加4.85%。 最后，本文将获得的轻量化模型转换到能够在安卓端部署的模型，并进行安卓端的应用开发。实验结果表明：在14种植物共38个类别的数据集上，该方法转换后的.tflite模型准确率高达99.03%，比转换前高1.25%，模型大小降低了一半多；在5个类别苹果叶的数据集上，经过该方法转换后的.tflite模型准确率高达95.25%，比转换前高3.31%，模型大小同样降低了一半多。 综上所述，本文对缩小模型规模和恢复模型精度两方面进行了优化，实现减小模型规模的同时有效保证了模型的性能，并将转换后的模型成功部署在安卓端中，为智能手机、嵌入式传感器节点等边缘设备精准识别植物病害提供新方案。
植物病害识别;知识蒸馏;通道剪枝;学习率倒带;残差网络;深度学习
华东交通大学
硕士
计算机技术
刘媛媛
2023
中文
TP391.41
2023-11-30（万方平台首次上网日期，不代表论文的发表时间）