期刊专题

10.3969/j.issn.1000-386x.2018.02.017

基于Spark的空间范围查询索引研究

引用
由于传统的数据处理系统的数据存储与数据处理能力有限,不能满足处理大量数据的需求.为了发挥数据的价值,高效、高性能地处理大量数据集,提出基于Spark系统结合SIMBA的思路共同建立的大数据分析处理系统,基于Spark SQL的查询方式进行检索;在Spark中嵌入索引管理机制,将其封装在RDD内,用于提高查询效率;通过建立线段树存储数据的方式提高数据检索的效率.对于数据预处理时采用RangePartitioner 分区策略的方式对数据进行分区,基于全局过滤和局部索引进行查询.保证该系统在进行查询操作时能够保持高吞吐量和低延迟特性,提高查询效率.

Spark系统、大数据、范围查询、SparkSQL组件

35

TP391(计算技术、计算机技术)

安徽省高校自然科学研究重点项目KJ2015A130

2018-05-14(万方平台首次上网日期,不代表论文的发表时间)

共6页

96-101

相关文献
评论
暂无封面信息
查看本期封面目录

计算机应用与软件

1000-386X

31-1260/TP

35

2018,35(2)

相关作者
相关机构

专业内容知识聚合服务平台

国家重点研发计划“现代服务业共性关键技术研发及应用示范”重点专项“4.8专业内容知识聚合服务技术研发与创新服务示范”

国家重点研发计划资助 课题编号:2019YFB1406304
National Key R&D Program of China Grant No. 2019YFB1406304

©天津万方数据有限公司 津ICP备20003920号-1

信息网络传播视听节目许可证 许可证号:0108284

网络出版服务许可证:(总)网出证(京)字096号

违法和不良信息举报电话:4000115888    举报邮箱:problem@wanfangdata.com.cn

举报专区:https://www.12377.cn/

客服邮箱:op@wanfangdata.com.cn

打开万方数据APP,体验更流畅