10.3969/j.issn.1000-386x.2016.05.010
Hadoop 下负载均衡的频繁项集挖掘算法研究
频繁项集挖掘 FIM(Frequent Itemsets Mining)是关联规则挖掘算法的重要组成部分。而经典 Apriori 和 FP-Growth 算法在海量数据处理时面临内存占用、计算性能等方面的瓶颈。基于 Hadoop 云计算平台,提出适用大数据处理的频繁项集挖掘 HBFP (High Balanced parallel FP-growth)算法,设计后缀模式转换的数据分割及均衡任务分组方案,使计算节点本地拥有计算所依赖的数据,实现不同节点相互独立的并行数据挖掘方法,并保证算法全局的负载均衡特性。实验数据表明,HBFP 算法能均匀地将计算量分散至不同计算节点,并行且相互独立地进行 FP-Growth 挖掘过程,算法效率提高了约12%,算法全局稳定性及效率取得提升。
频繁项集挖掘、FP-Growth 算法、Hadoop、并行计算
33
TP311(计算技术、计算机技术)
国家林业局重点课题2013-05;十二五科技支撑课题2011BAH10B04。
2016-06-16(万方平台首次上网日期,不代表论文的发表时间)
共5页
35-39