使用无标签数据的主成分初始化方法
为了解决初始化方法的不确定性以及有标签数据的不足,提出一种使用无标签数据对网络参数进行主成分初始化的方法,包括采样、主成分计算、初始化和重排卷积核4个步骤. 首先,通过移动感受野区域对特征图进行采样,得到与特征图的所有感受野对应的图像块并形成采样集合;然后,计算采样集合的主成分;最后,使用主成分初始化网络参数并重排卷积核,以便提高识别性能. 在相同的网络结构和数据集上,即STL-10和CIFAR-10数据集,该方法比传统的初始化方法在识别准确率上提高了4% ~20% . 实验结果表明,该方法能够充分利用无标签数据初始化网络参数以取得显著的识别效果. 此外,通过算法的性能评估,证明该方法明显优于传统的初始化方法.
初始化方法、网络参数、无标签数据、主成分、采样
45
TP181(自动化基础理论)
国家自然科学基金资助项目61876010
2019-07-25(万方平台首次上网日期,不代表论文的发表时间)
共8页
654-661