说明:最全电力标准
文库搜索
切换导航
文件分类
频道
仅15元无限下载
联系我们
问题反馈
文件分类
仅15元无限下载
联系我们
问题反馈
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211498391.5 (22)申请日 2022.11.28 (71)申请人 杭州欧若数网科技有限公司 地址 311100 浙江省杭州市余杭区仓前街 道时代未来之城5幢22 02、 2203、 2204、 2205、 2206、 2207、 2208 (72)发明人 岳通 王玉珏 吴敏 叶小萌 (74)专利代理 机构 杭州创智卓英知识产权代理 事务所(普通 合伙) 33324 专利代理师 彭菊凤 (51)Int.Cl. G06F 16/27(2019.01) G06F 11/30(2006.01) (54)发明名称 一种一主多从的集群间数据实时同步的方 法和系统 (57)摘要 本申请涉及一主多从的集群间数据实时同 步的方法和系统, 其中, 该方法包括一主多从的 集群间元数据同步和一主多从的集群间属性数 据同步; 通过元监听器节点和/或存储监听器节 点, 将主集群上要同步的数据发送到各个从集群 的管道节 点上; 再通过管道节 点将数据处理后发 送到对应从集群节点, 完成一主多从的集群间数 据同步。 通过本申请, 解决了如何在图数据库中 进行一主多从的实时数据同步的问题, 实现了图 数据库中实时变化的关系网络数据在一主多从 的集群间实时同步, 有效地保证了数据的一致 性。 权利要求书2页 说明书9页 附图5页 CN 115544172 A 2022.12.30 CN 115544172 A 1.一种一主多从的集群间数据实时同步的方法, 其特征在于, 所述方法包括一主多从 的集群间元 数据同步和一主 多从的集群间属性数据同步; 所述一主多从的集群间元 数据同步包括: 主集群节点为元数据管理节点, 在主集群上启动元监听器节点, 以接收所述元数据管 理节点对应数据分片中的领导 者副本所发送的同步信息; 若所述同步信 息为预写式日志, 则执行第一同步预处理, 若所述同步信息为快照数据, 则执行第二同步预处 理; 定期遍历图空间目录下的元监 听器节点信 息, 通过所述元监 听器节点将所述同步预处 理后的数据发送到各个从集群的管道 节点上; 通过所述管道 节点将所述数据处 理后发送到对应从集群的元 数据管理节点。 2.根据权利要求1所述的方法, 其特征在于, 所述一主多从的集群间属性数据同步包 括: 主集群节点为存储节点, 在主集群上启动存储监听器节点, 创建学习者副本并加入所 述存储节点的数据分片所在的raft组中; 基于raft的一致性原理, 将所述数据分片的领导者副本中存储的预写式日志, 传输到 所述学习者副本; 定期遍历所述学习者副本下的存储监 听器节点信 息, 通过所述存储监 听器节点将日志 发送到各个从集群的管道 节点上; 通过所述管道 节点将所述数据处 理后发送到对应从集群的存 储节点。 3.根据权利要求1所述的方法, 其特征在于, 若所述同步信息为预写式日志, 则执行第 一同步预处 理包括: 若所述同步信息为预写式日志, 则先分析得到所述预写式日志对应的图空间ID, 再根 据所述图空间ID将所述预写式日志写入 对应图空间的预写式日志文件中。 4.根据权利要求1所述的方法, 其特征在于, 若所述同步信息为快照数据, 则执行第二 同步预处 理包括: 若所述同步信息为快照数据, 则先清空各个图空间的预写式日志文件, 分析所述快照 数据得到对应的图空间ID, 再根据所述图空间ID将所述快照数据写入对应图空间的预写式 日志文件中。 5.根据权利要求2所述的方法, 其特征在于, 通过所述存储监 听器节点将所述日志发送 到各个从集群的管道 节点上包括: 判断当前同步的日志是否在所述学习者副本的预写式日志文件中; 若是, 则通过所述存储监听器节点直接读取所述预写式日志, 并发送到从集群的管道 节点上; 若否, 则通过所述存储监听器节点拉取所述领导者副本的快照数据, 并发送到从集群 的管道节点上。 6.根据权利要求1或2所述的方法, 其特征在于, 在通过所述管道节点将所述数据处理 后发送到对应从集群节点之前, 所述方法还 包括: 通过所述管道节点接收所述数据, 根据所述从集群上要同步的图空间ID和日志ID, 判 断所述数据的接收是否合法。权 利 要 求 书 1/2 页 2 CN 115544172 A 27.根据权利要求1或2所述的方法, 其特征在于, 通过所述管道节点将所述数据处理后 发送到对应从集群节点包括: 通过所述管道节点遍历得到所述从集群上要同步的图空间目录, 所述图空间目录 中每 个图空间生成一个任务 放到任务管理队列中; 在任务的执行中, 根据所述任务对应的数据分片的信息, 生成多个子任务, 其中, 一个 数据分片对应一个子任务; 根据并行度, 并行执行所述子任务, 直到所述任务管理队列中的任务全部执行完成, 即 将所述数据发送到从集群对应节点。 8.根据权利要求1所述的方法, 其特征在于, 图空间为主集群与从集群间数据同步的基 本单位, 需要 进行数据同步的图空间在所述主集群中可读可写, 在所述从集群中只读。 9.根据权利要求1所述的方法, 其特征在于, 元数据 管理节点的数据分片中存储着图空 间的元数据; 存储节点的数据分片中存 储着图空间的属性数据。 10.一种一主多从的集群间数据实时同步的系统, 其特征在于, 所述系统应用于权利要 求1至9任一项所述的方法, 所述系统包括主集群模块和从集群模块; 所述主集群模块, 用于当主集群节点为元数据管理节点时, 在主集群上启动元监听器 节点, 以接 收所述元数据管理节点对应数据分片 中的领导者副本所发送的同步信息; 若所 述同步信息为预写式日志, 则执行第一同步预 处理, 若所述同步信息为快照数据, 则执行第 二同步预处 理; 所述主集群模块, 用于定期遍历图空间目录下的元监听器节点信息, 通过所述元监听 器节点将所述同步预处 理后的数据发送到各个从集群的管道 节点上; 所述从集群模块, 用于通过 所述管道 节点将所述数据处 理后发送到对应从集群节点。权 利 要 求 书 2/2 页 3 CN 115544172 A 3
专利 一种一主多从的集群间数据实时同步的方法和系统
文档预览
中文文档
17 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2.5元下载(无需注册)
温馨提示:本文档共17页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2.5元下载
本文档由 人生无常 于
2024-03-18 00:48:13
上传分享
举报
下载
原文档
(1008.8 KB)
分享
友情链接
GB-T 41316-2022 分散体系稳定性表征指导原则.pdf
GB-T 29453-2012 煤炭企业能源计量器具配备和管理要求.pdf
T-ZZB 0372—2018 全息防伪产品.pdf
GB-T 9567-2016 工业用三聚氰胺.pdf
DB42-T 875-2019 湖北省城镇地下管线探测技术规程 湖北省.pdf
NY-T 4375-2023 一体化土壤水分自动监测仪技术要求.pdf
GB-T 6420-2017 货运挂车系列型谱.pdf
GB-T 10051.15-2010 起重吊钩 第15部分:叠片式单钩.pdf
GB-T 42362-2023 矿区地下水含水层破坏危害程度评价规范.pdf
中国科学院科技战略咨询研究院 应急管理指南 2022版 .pdf
GB-T 29716.1-2013 机械振动与冲击 信号处理 第1部分:引论.pdf
GB-T 26281-2021 水泥回转窑热平衡、热效率、综合能耗计算方法.pdf
甲子光年 2024年 AI Agent行业报告.pdf
GM T 0127-2023 移动终端密码模块应用接口规范.pdf
ISO 14644-4 2022 Cleanrooms and associated controlled environments — Part 4 Design, construction and start-up.pdf
DB5119-T 17-2020 巴州虫白蜡生产技术规程 巴中市.pdf
GB-T 42409-2023 物联网 电子价签系统 总体要求.pdf
GB-T 3094-2012 冷拔异型钢管.pdf
DB43-T 2574-2023 林业信息化系统运维和服务规范 湖南省.pdf
GB-T 43435-2023 信息安全技术 移动互联网应用程序 App 软件开发工具包 SDK 安全要求.pdf
1
/
3
17
评价文档
赞助2.5元 点击下载(1008.8 KB)
回到顶部
×
微信扫码支付
2.5
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。