基于半监督学习的表面缺陷在线训练及检测方法研究文献综述

文献综述（或调研报告）：

在工业发展过程中，表面缺陷问题已经是许多生产企业都重点关注的问题。表面缺陷的传统检测方法是人工检测。该方法准确性低、实时性差、检测效率低下，并且受人工因素影响很大，人工经验、劳动强度等都会影响检测结果。随着数字图像处理技术和机器学习技术等的发展，基于机器视觉的缺陷检测系统逐渐代替人工目测进行工业产品的检测工作。

国外的视觉检测技术研究开展相对较早，当前较为成熟的商业化视觉软件有Halcon、HexSight、Vision Pro、LEADTOOLS等。这些软件除了具备基本的图像处理和分析功能外，还具有软件界面友好、操作简单、扩展性好、与图像处理专用硬件兼容的优点。国内的机器视觉检测系统开发较晚，相关的企业主要是代理国外同类产品，提供视觉检测方案和系统集成，其中具有代表性的企业有凌华科技、大恒图像、凌云光子、康视达、OPT和微视图像等。

近年来，深度学习飞速发展。将深度学习应用于图像分类和目标检测的大规模研究始于2012年的ILSVRC，由Krizhevsky等提出了一种新型卷积神经网络模型AlexNet，在图像分类任务上取得了16.4%的Top-5错误率，比基于传统方法的第二名的错误率降低了近一半。由于AlexNet 的成功，许多研究人员开始关注和改进CNN 结构。Zeiler等缩小了AlexNet第一层滤波器的尺寸和步长，形成ZFNet模型。紧随其后Simonyan等提出VGG网络，Szegedy等提出了一种新的深度CNN 模型GoogLeNet，He等提出了深度高达上百层的残差网络ResNet等等。随着基于深度学习的计算机视觉技术发展，人们开始尝试把深度学习算法应用到工业领域表面缺陷检测中。刘力哲提出了一种基于深度学习的一般性表面缺陷检测算法，着重解决表面缺陷检测中的定性判别缺陷有无的缺陷识别问题和定量分析缺陷的缺陷分割问题；于志洋基于全卷积神经网络的基本结构，针对检测效率与检测精度两个重要的工业指标，提出一种级联分割、检测、滤波三种任务的缺陷检测解决方案。

然而，绝大多数的机器学习算法都建立在完全标注的数据集上，而现实场景中的数据往往是没有被标注的。为了避免耗费人力物力的人工标注数据的操作，半监督学习（Semi-Supervised Learning，SSL）应运而生。Merz等人在1992年提出了SSL这个术语，并首次将SSL用于分类问题。接着Shahshahani和Landgrebe展开了对SSL的研究。协同训练方法由Blum和Mitchell提出，基于不同的视图训练出两个不同的学习机，提高了训练样本的置信度。Vapnik和Sterin提出了TSVM，用于估计类标签的线性预测函数。为了求解TSVM，Joachims提出了SVM方法，Bie和Cristianini将TSVM放松为半定规划问题从而进行求解。许多研究学者广泛研究将期望最大算法（Expectation Maximum，EM）与高斯混合模型（Gaussian Mixture Model，GMM）相结合的生成式SSL方法。Blum等人提出了最小割法，首次将图论应用于解决SSL问题。Zhu等人提出的调和函数法将预测函数从离散形式扩展到连续形式。由Belkin等人提出的流形正则化法将流形学习的思想用于SSL场景。Klein等人提出首个用于聚类的半监督距离度量学习方法，学习一种距离度量。在半监督学习成为一个热门领域之后，涌现出了许多关于提高学习算法预测精度和加快速度的研究。孙博良在对偶问题中重新分析在线半监督学习问题的特点，提出了一种基于对偶提升过程的在线半监督学习框架模型；Wu H等人提出了一种约束Dirichlet过程混合模型（C-DPMM），一种用于半监督聚类的非参数贝叶斯聚类算法，使得能够产生高质量的伪标签，从而改善深度神经网络的初始化。

参考文献：

1. LeCun Y, Bengio Y, Hinton G. Deep learning[J]. nature, 2015, 521(7553): 436-444.
2. Liu W, Wang Z, Liu X, et al. A survey of deep neural network architectures and their applications[J]. Neurocomputing, 2017, 234: 11-26.
3. Zhou Z H. A brief introduction to weakly supervised learning[J]. National Science Review, 2017, 5(1): 44-53.
4. Wu H, Prasad S. Semi-supervised deep learning using pseudo labels for hyperspectral image classification[J]. IEEE Transactions on Image Processing, 2017, 27(3): 1259-1270.
5. 张慧, 王坤峰, 王飞跃. 深度学习在目标视觉检测中的应用进展与展望[J]. 自动化学报, 2017(8).
6. Krizhevsky A, Sutskever I, Hinton G E. ImageNet classification with deep convolutional neural networks[C]// International Conference on Neural Information Processing Systems. 2012.
7. Zeiler M D , Fergus R . Visualizing and Understanding Convolutional Networks[J]. 2013.
8. Simonyan K , Zisserman A . Very Deep Convolutional Networks for Large-Scale Image Recognition[J]. Computer Science, 2014.
9. Szegedy C , Liu W , Jia Y , et al. Going Deeper with Convolutions[J]. 2014.
10. SHAHSHAHANI B.M., LANDGREBE D.A.. The effect of unlabeled samples in reducing the small sample size problem and mitigating the Hughes phenomenon[J]. IEEE Transactions on Geoscience and Remote Sensing,1994,5(5):1087-1095.
11. 刘力哲. 基于深度学习的表面缺陷检测算法研究[D].华中科技大学,2019.
12. 于志洋. 基于全卷积神经网络的表面缺陷检测方法研究[D].哈尔滨工业大学,2018.
13. 王武,叶明,陆永华.基于机器视觉的手机壳表面划痕缺陷检测[J].机械制造与自动化,2019,48(01):160-163 189.
14. 彭方进.一种高鲁棒性的钢轨表面缺陷检测算法[J].中国机械工程,2019,30(03):266-270.
15. 孙博良. 在线半监督学习理论、算法与应用研究[D].国防科学技术大学,2014.
16. 刘建伟,刘媛,罗雄麟.半监督学习方法[J].计算机学报,2015,(8):1592-1617. DOI:10.11897/SP.J.1016.2015.01592.