基于Lasso和互信息的特征选择算法研究
随着计算机技术和网络技术的飞速发展,大数据和人工智能的浪潮也随之而来,数据越来越多,数据的特征也随之变得更加繁杂。当数据大量产生时,如何去处理这些数据就成了当下迫切需要解决的问题。在传统单标记方法无法满足现实需要的时候,多标记学习框架被提出,随着越来越多专家学者的深入研究,更多的基于多标记学习的研究方法相继被提出。特征选择在解决数据高维性问题具有很好的效果,在原始特征空间的基础上进行操作,去除冗余,得到一个性能优越的特征子集。有效的提高分类器的分类性能,减少运算时间,提高算法的计算效率。但是这些传统的特征选择算法却只能处理静态的特征数据,需要在运算前获取整个特征空间,然后才能加以处理得到相应的特征子集。而现实生活中,特征空间往往是动态产生的,并实时增加变化的,这就导致了传统的特征选择算法无法处理这类流特征选择问题。基于上述问题,本文提出了两种特征算法用以解决相应的特征选择问题,主要内容如下: (1)针对传统特征选择算法在删除冗余特征,进行特征子集的选择过程中,往往存在计算开销大的问题,本文引入了Lasso特征选择算法,用于快速处理高维数据,选择特征子集。此外鉴于传统的信息熵不具有补的性质,且计算较为繁杂,本文引入模糊信息熵来替代传统的信息熵,以提高分类性能。基于这两点本文提出了一种基于Lasso和模糊互信息的多标记特征选择算法,通过实验证明该算法是有效的。 (2)针对动态特征选择问题,主要还是围绕着如何降低数据维度进行处理。基于“最大相关性,最小冗余性”的选择标准,考虑到实际情况下,特征空间往往具高维性和稀疏性的特点,而特征之间的冗余度相对是很小的。本文采用一种极限的思想,充分考虑筛选出与标记空间相关性高的特征,去忽略特征与已选特征之间的冗余性,计算实时产生的特征与标记空间之间的互信息,最后选出互信息大于阈值的特征得到最终的特征子集。基于此种思想,提出了基于互信息的快速流特征选择算法。通过实验证明该算法能达到节约运算时间的目标,同时也能提高分类效率。
多标记学习;特征选择;Lasso算法;模糊互信息
安庆师范大学
硕士
统计信息技术
钱萌
2020
中文
TP181
2022-01-10(万方平台首次上网日期,不代表论文的发表时间)