分布式内存数据库存储研究

分布式内存数据库存储研究

论文摘要

近年来,国内外对智能电网的研究大力推进了电网的信息化进程。随着电网系统对信息技术应用的不断深化,电网系统对于数据库的存储能力及实时性要求逐渐提高,因此比传统磁盘数据库拥有更高性能的内存数据库得到了广泛的应用。但由于内存容量的限制,内存数据库往往以前端缓存的角色出现在电网系统中,用以缓解传统磁盘数据库的性能瓶颈。随着智能电网的兴起,相对于传统电网,数据的交互更加频繁,数据量更加庞大,这就需要数据平台拥有更大的数据容量以及更高的数据并发性。一方面意味着传统电网系统中的内存数据库将要承担更多的业务数据与业务应用,另一方面也对内存数据库提出了新的要求与挑战。通过结合电网的特点以及智能电网的发展趋势,设计实现了基于分布式内存文件系统的分布式内存数据库系统。用以解决集中式内存数据库在容量以及并发性等问题上的不足。系统分为两层结构,下层为分布式内存文件系统,为上层提供透明的内存文件操作服务,负责将文件分块存储于分布式系统中的各个节点并映射到响应节点的进程空间中以供操作,并保证系统中各个节点的负载均衡与数据一致性,同时提供动态的节点增减功能;上层为分布式内存数据库管理系统,通过调用下层的文件服务来存储关系数据,并根据需求对这些关系数据分别建立全局索引与局部索引以供快速的查询。两层系统采用松耦合的架构,各自负责独立的功能并进行优化。通过测试结果可以看出,在单节点的情况下,系统的TPS(每秒执行事务量Transaction Per Second)接近商用内存数据库;在系统中每增加一个节点,可以为整个系统提供大约0.76倍的单节点并发量(线性增长);在有节点加入或离开系统时,各节点的负载可以较快速的趋于平衡。

论文目录

  • 摘要
  • Abstract
  • 1 绪论
  • 1.1 课题研究背景
  • 1.2 分布式内存数据库研究现状
  • 1.3 本文研究内容及章节安排
  • 2 分布式内存数据库存储研究
  • 2.1 分布式数据库的分类
  • 2.2 数据分片及分布概述
  • 2.3 分布式数据一致性概述
  • 2.4 本章小结
  • 3 分布式内存数据库设计
  • 3.1 设计遵循的原则
  • 3.2 系统整体设计
  • 3.3 分布式内存文件系统
  • 3.4 分布式内存数据库系统
  • 3.5 本章小结
  • 4 系统测试与分析
  • 4.1 测试环境
  • 4.2 测试流程及结果
  • 4.3 本章小结
  • 5 全文总结与展望
  • 5.1 论文的主要工作
  • 5.2 展望
  • 致谢
  • 参考文献
  • 相关论文文献

    • [1].基于分布式内存计算的深度学习方法[J]. 吉林大学学报(工学版) 2015(03)
    • [2].基于分布式内存数据的数据同步设计与实现[J]. 现代电子技术 2014(02)
    • [3].分布式内存电网关键技术研究及应用[J]. 计算机与现代化 2016(12)
    • [4].数据压缩在分布式内存数据库同步中的设计与实现[J]. 通讯世界 2016(08)
    • [5].基于分布式内存数据库快速计算的设计与实现[J]. 信息通信 2020(09)
    • [6].分布式内存数据库数据分布分析及设计[J]. 计算机光盘软件与应用 2012(23)
    • [7].集成消息服务和定时通知的分布式内存数据库[J]. 软件 2013(01)
    • [8].分布式内存数据库系统的容错管理[J]. 华东师范大学学报(自然科学版) 2016(05)
    • [9].柏睿数据新年亮剑——国产首创分布式内存数据库一体机发布[J]. 个人电脑 2016(02)
    • [10].Velocity:.NET平台分布式内存缓存框架[J]. 程序员 2008(07)
    • [11].面向分布式内存访问的低延迟InfiniBand接口[J]. 计算机研究与发展 2014(S1)
    • [12].一种多存储引擎Key-Value分布式内存数据库的研究与实现[J]. 现代电信科技 2013(Z1)
    • [13].大数据在安全生产中的应用[J]. 安全与环境学报 2016(06)
    • [14].基于分布式内存计算的三元N-gram算法的并行化研究[J]. 计算机产品与流通 2019(03)
    • [15].分布式内存文件系统的发展[J]. 科技与创新 2017(24)
    • [16].最新版Oracle Coherence 3.6上市[J]. 国防制造技术 2010(04)
    • [17].分布式内存数据库的实现[J]. 黑龙江科技信息 2015(20)
    • [18].基于GemFire的海量数据计算性能实验分析[J]. 计算机应用 2013(01)
    • [19].基于分布式内存数据库的HIRFL-CSR真空监控系统[J]. 核电子学与探测技术 2009(01)
    • [20].计算存储融合:从高性能计算到大数据[J]. 指挥控制与仿真 2015(03)
    • [21].运用Spark加速实时数据分析[J]. 电脑编程技巧与维护 2015(21)
    • [22].一种优化的T-tree索引算法[J]. 计算机应用与软件 2011(02)
    • [23].分布式内存机器中优化调度问题的数学模型[J]. 华中科技大学学报(自然科学版) 2008(02)
    • [24].Memcache反射放大攻击或影响主干网络[J]. 中国教育网络 2018(04)
    • [25].上海先进能量管理系统中的实时数据共享技术[J]. 电力系统自动化 2012(12)
    • [26].基于分布式内存计算的空间数据近似查询处理方法[J]. 测绘学报 2017(12)
    • [27].探讨分布式内存数据库的设计与应用[J]. 硅谷 2009(03)
    • [28].天气雷达资料实时并行处理方法[J]. 计算机工程 2009(23)
    • [29].信息技术在民政领域的应用[J]. 电子技术与软件工程 2020(06)
    • [30].基于Spark的分布式大数据机器学习算法[J]. 计算机与现代化 2018(11)

    标签:;  ;  ;  ;  ;  

    分布式内存数据库存储研究
    下载Doc文档

    猜你喜欢