深层感知器结构设计的逐层主成分分析方法
为了解决深层感知器的结构设计问题,提出了一种逐层主成分分析方法.该方法根据训练数据集的分布特点,在适当控制信息损失的条件下,可以有效地确定每层神经元的个数.首先,依据样本维数和标签类数分别确定输入层和输出层神经元的个数;然后,对训练样本集进行主成分分析,利用降维后的维数确定第2层神经元的个数;最后,在确定其他层神经元的个数时,将上一次降维后的样本经过非线性激活函数作用,再进行主成分分析,得到降维后的样本维数即为该层神经元的个数.在MNIST手写字数据集上的实验结果表明:该方法有助于简化深层感知器的结构,在减少参数个数、缩短收敛时间和降低训练难度等方面均具有优越性.
深层感知器、结构设计、神经元个数、主成分分析
43
TP391(计算技术、计算机技术)
国家自然科学基金资助项目61175004;高等学校博士学科点专项科研资助项目20121103110029;中国博士后科学基金资助项目2015M580952
2017-05-16(万方平台首次上网日期,不代表论文的发表时间)
共7页
230-236