——Part1?现状——
区块链可以视作一个在分布式环境下众多可信节点共同维护的且不可篡改的账本。在区块链系统中,数据以区块作为基本单位,区块链系统利用levelDB基于Key-Value结构的数据库存取数据,通过多节点冗余存储实现账本可信,然而随着区块链运行时间的增长,区块链的存储容量将呈线性增长,且这种数据的增长速度甚至会超过存储介质容量增长的速度,因此,区块链数据存储将成为限制区块链技术发展的重要因素。
面对这一棘手的问题,数据归档技术应运而生,什么是数据归档呢?
——Part2?什么是数据归档——
数据备份的概念大家应该是比较了解的,随着数字化的推进,企业对数据的敏感度逐渐增强,数据备份系统已经成为各大中型企业的必备系统。然而正如我们对数据归档认知的不足,企业对于数据归档的使用也不如数据备份广泛。
备份的目的是为了恢复,保证在系统出现意外情况时业务的连续进展。对于企业来说,每天产生的大量数据,其实绝大部分的使用率很低,但是,出于一些特殊原因,这些数据却必须保留以备查询。简言之,归档的目的是为了服务品质和保证数据的可管理,使得运行、维护、投入整体的成本降低,如何最大化使用存储,保证数据的访问。数据归档,即数据的使用。然而如何规范的归档数据呢?我们就得具备相应的归档原则。
A股收盘:深证区块链50指数下跌1.04%:金色财经消息,A股收盘,上证指数报3151.05点,收盘下跌1.35%,深证成指报11392.23点,收盘下跌2.07%,深证区块链50指数报2918.38点,收盘下跌1.04%。区块链板块收盘下跌1.13%,数字货币板块收盘下跌1.4%。[2022/4/20 14:36:07]
数据存储:无论是备份还是归档,数据的完整性必须得到保证,且需在规定时间内保证数据的安全存储。保证数据的完整性、时效性及存储的安全性。
数据易读取:虽然大部分数据重复读取可能性低,但归档系统依旧不是一个备份系统,必须保证在需要的时候能方便地读取数据。保证系统数据的可读性。
数据可扩展:由于存在不同种类的数据,且数据也是实时变化且增长迅猛,因此为满足企业需求,还应具备可扩展的要求。
数据合法:任何的企业系统运作都应该遵守各项规章制度,要遵守政府和行业指定的各项法律、法规及各种规章。
——Part3实现难点——
杭州:将推进西湖龙井茶“物联网+区块链”项目试点建设:3月9日,杭州市召开西湖龙井茶品牌保护新闻发布会。杭州将推进西湖龙井茶数字化管理系统二期项目实施,增设平台功能,为茶农、茶企提供更便捷、更智慧的服务;推进“物联网+区块链”项目试点建设,打造更加优质的西湖龙井茶产品;推动散户茶园向优质企业流转集中,不断提升规模化经营水平。[2021/3/9 18:28:12]
正如大家所知,区块链存在数据单向增长的特性,这样数据量的增多会导致系统磁盘空间占用率高,所以需要研发区块链专用数据归档技术,将数据进行“冷热分离”,保障系统的高效可靠运转;
另外,因为区块链是一个在分布式环境下众多可信节点共同维护的且不可篡改的账本,所以传统的数据归档技术无法解决多个节点数据归档某一范围数据而账本状态保持一致性的问题,在实际情况中还存在区块链上单一节点数据归档导致的多节点数据同步时账本状态一致性的问题。
总结:
1.区块链存在数据单向增长,需要进行冷热分离存储;
A股开盘:深证区块链50指数下跌0.31%:金色财经消息,A股开盘,上证指数报3347.15点,开盘下跌0.2%,深证成指报13843.01点,开盘下跌0.35%,深证区块链50指数报3836.09点,开盘下跌0.31%。区块链板块开盘下跌0.4%,数字货币板块开盘下跌0.42%。[2020/11/17 21:01:29]
2.分布式环境下,难以保证所有节点实时进行数据归档且保证数据状态的一致性;
3.单一节点数据归档导致多节点数据同步时状态一致性难以保证。
——Part4?数据归档的架构解读——
了解了数据归档的基本概念,那么,在区块链中它是如何运作的呢?数据归档功能的主要职责是将一部分旧的线上数据移到线下转存。对此,趣链科技提出了区块链数据归档的方法,使得整个区块链系统能在不停机情况下,将区块链数据划分为链上、链下两部分,热数据仍保留在链上,但冷数据可以存储在低成本的硬件设备上,进行动态的数据归档。而且,通过数据调度层,可以很好地实现热数据和冷数据的灵活访问,热数据直接通过平台访问,冷数据则通过归档数据浏览技术浏览。另外,每个节点可以自主、多次地对数据进行归档,从而使得系统的链上数据量维持在一个稳定水平,有效释放磁盘空间。
动态 | 瑞士首个房地产监管区块链众筹平台上线:据CCN消息,近日,blockimmo平台推出了两个测试功能用于监管房地产业务,并计划在2019年初应用于房地产领域。blockimmo的工作方式是房地产销售商在平台上列出房产,同时发行代表房产份额的代币。然后投资者可以进行投资,并观察众筹进展,出售时可附加各种条款和限制。一旦交易完成,每个投资的人都会在他们的钱包里收到具有代表性的代币,这些代币与列支敦士登一家投资公司实际持有的代币相关联。[2018/12/20]
为更形象地讲解数据归档技术,我们以趣链数据归档为讲解内容进行:
区块链的数据归档方式是一种基于状态备份的归档方法。
简单来说,用户想要对某一个区块链节点做数据归档,必须在过去某一时刻对区块链制作一个状态快照;
区块链板块大跌1.82% 近9成个股下跌:受大盘拖累,区块链板块低开后一路下探,最低跌到1115.334点,最新指数为1121.479点,跌幅1.82%,资金净流出12亿元。75只概念股中,仅11只上涨,近9成下跌。其中科蓝软件涨3.92%,恺英网络涨2.81%,第一创业涨1.21%;跌幅前三名分别是银之杰跌6.19%,恒银金融跌4.85%,视觉中国跌4.57%。龙头安妮股份跌3.23%。[2018/5/3]
进行数据归档时,可以将快照点之前所有的区块链数据进行归档转储,以实现区块链节点存储压力的减负。后续未归档第一个区块的节点成为新链的1号区块。
▲?数据归档流程
制作快照:
1.系统获取最近距离的快照,即比当前要做快照的区块号小的最大的高度,返回该快照的信息。若没有任何快照,则以0号区块数据为基础新建快照并作为start,其制作的高度为end。
2.快照拷贝以单纯的磁盘io拷贝一份第一步获得的账本到新文件夹,并作为后续账本操作的基础。
3.根据日志数据,遍历线上,制作到账本,且同时遍历区块的merkleRoot,保证账本的正确性。
检查快照:
遍历snashot数据库中的状态数据,重新计算出bucketTree的根哈希,与最新的区块哈希对比,以保证制作的快照与实际的账本是否一致。
数据归档:
如图,用户发起数据归档请求,要求将快照点前所有的区块链数据进行转储归档。该节点将所需转储的区块数据以及相应的交易回执等数据转储,且将本地的创世状态内容更新为之前备份得到的快照状态。
如果说区块链正常的状态变迁是状态终点不停向前更新的过程,那么数据归档就是一个区块链状态起点向终点更新的过程。下面是一个比较典型的相关数据平台应用案例:
数百家中心数据,存量数据4T,日均10GB,年均3.6T数据上链,由于链上存储通常采用SSD硬盘,导致存储成本高昂。针对此问题,我们采用定期归档的方式对链上数据进行归档,由图可见,我们采用了分段存储的方式,平台可对任意的某段数据进行归档操作并保证各节点数据状态的一致性。保证链上数据稳定在1T左右,有效地释放磁盘空间的同时,极大地降低了成本,增加了系统性能。
上述的数据归档主要是针对区块链数据,而部署在区块链上的智能合约,同样有较大的存储需求用来记录庞大的业务数据。针对于这部分数据,趣链提供了另外一种归档机制,用户仅需发起一笔带有特殊标记的交易,调用智能合约中自定义的归档函数,即可实现合约数据的转储。合约编码者可以在合约中实现任意逻辑的归档函数,以满足不同的业务需求。
——?Part5总结?——
在本片中较为详细地讲解了数据归档技术在区块链中的使用,不仅实现了数据的冷热分离存储,保证了单一节点的数据归档而保持整个区块链所有节点的账本状态的一致性,而且实现了分段存储的模式,使得数据在任意范围内被归档。
从设计角度来看,数据归档后不影响原先链上数据的正确性与连续性,而且支持不同节点、不同分区自定义归档序列的范围。
从功能角度来看,数据归档主要解决区块链链上数据的冗余问题。减少链上数据存储压力,将过期数据和历史数据进行线下的存储,突破链上存储的限制。并且,并发执行数据归档过程中的各种操作,提升了归档的效率。
从应用场景来看,数据归档适用于数据冗余存储、链式递增、时效有限等情况导致的存储资源被大量过期数据占用的痛点。对于数据归档或者区块链技术有兴趣的小伙伴,添加小助加入技术交流群,欢迎您和我们共享观点,共论区块链的无限未来~
作者简介
陈少蔚
趣链科技基础平台部文档工程师
标签:区块链ARTPARPART区块链可以看作是Bitmart可以发行币吗Yield ParrotOmega Particle
“加快数字化发展,打造数字经济新优势,协同推进数字产业化和产业数字化转型,加快数字社会建设步伐,提高数字政府建设水平,营造良好数字生态……”这是2021年政府工作报告中明确提出的内容.
1900/1/1 0:00:00在了解Meme经济时,我解释了大流行期间Meme投资的一些关键亮点。在最成功的平台中,让任何人都可以交易这些meme股票的平台Robinhood发挥了关键作用.
1900/1/1 0:00:00来源:证券日报本报记者:张志伟见习记者:张博现阶段,各地数字人民币试点在如火如荼地推进中,应用场景日趋丰富,不少用户已体验了数字人民币支付。最新数据显示,数字人民币白名单用户已达1000万.
1900/1/1 0:00:00作者?|陈丽姗?编审?|照生?排版?|?王纪珑琰““在人类的面前有两条路:一条向外,通往星辰大海,一条对内,通往虚拟现实.
1900/1/1 0:00:00什么是物联网物联网(IoT)是指能够通过互联网的无线网络交换数据和指令的联网设备或物体。现代计算机、智能音箱、智能手表和智能手机可以被视为物联网的基础.
1900/1/1 0:00:00中国计算机学会区块链专委会委员夏平指出,政务领域无疑是区块链应用发展相对先行的领域,早期区块链项目的发展,从贵阳到雄安,无不是获得了当地政府的大力支持.
1900/1/1 0:00:00