期刊专题

10.3969/j.issn.1000-386x.2015.09.007

一种大规模数据快速并行导入工具的研究与实现

引用
随着大规模数据的快速增长及高可靠性需求,将本地数据迁移到分布式数据库势在必行。针对这种情况,提出一种基于MapReduce的“快速并行导入”技术,充分利用集群的并行计算能力,直接向HBase底层存储文件HFile写入数据,既可避免上层数据导入时间的浪费,又节省资源开销。有效解决了从单机数据库向HBase分布式数据库导入数据功能低下、效率不高等问题。实验结果表明,在“快速并行导入”技术的基础上设计并实现的快速并行导入工具,支持多列族文本数据的快速导入。与传统使用API导入数据相比,速度提升一倍以上。

Hadoop HBase、MapReduce、分布式数据库、大规模数据导入

TP3(计算技术、计算机技术)

河南省教育厅科学技术研究重点项目12B520025;郑州市科技攻关项目20120473;校级科研项目KYZR201006。

2015-10-12(万方平台首次上网日期,不代表论文的发表时间)

共5页

26-30

相关文献
评论
暂无封面信息
查看本期封面目录

计算机应用与软件

1000-386X

31-1260/TP

2015,(9)

相关作者
相关机构

专业内容知识聚合服务平台

国家重点研发计划“现代服务业共性关键技术研发及应用示范”重点专项“4.8专业内容知识聚合服务技术研发与创新服务示范”

国家重点研发计划资助 课题编号:2019YFB1406304
National Key R&D Program of China Grant No. 2019YFB1406304

©天津万方数据有限公司 津ICP备20003920号-1

信息网络传播视听节目许可证 许可证号:0108284

网络出版服务许可证:(总)网出证(京)字096号

违法和不良信息举报电话:4000115888    举报邮箱:problem@wanfangdata.com.cn

举报专区:https://www.12377.cn/

客服邮箱:op@wanfangdata.com.cn

打开万方数据APP,体验更流畅