MPT:区块链存储爆炸：问题、分析与优化

背景

DeFi、GameFi等去中心化应用的蓬勃发展，极大地增加了对低交易费用的高性能区块链的需求。然而，构建高性能区块链的一个关键挑战是存储爆炸。下图是取自Etherscan的图表，它说明了一个以太坊全节点的区块链数据大小。

从图中我们可以看出，节点的链数据规模稳步增长，现在已经达到~9TB。由于去中心化区块链的一个目标是允许普通配置的计算机运行节点，因此在普通配置的计算机上强制要求9TB+存储会难以达到。

分解存储开销

如果我们进一步分析存储使用情况，我们可以发现区块数据只占了约300GB的数据，这一数字远小于9TB。那么剩下的8.7TB数据从何而来呢？

实际上，存档节点执行所有块并保留所有历史数据，包括：

区块

状态

交易收据

这其中，状态是这8.7TB的主要组成部分。所以有时，我们将存储爆炸称为“状态爆炸”。但是为什状态会如此之大？

什么是以太坊状态？

以太坊状态是一个MerklePatrica树，其中

A股开盘：深证区块链50指数下跌0.06%:金色财经消息，A股开盘，上证指数报3567.55点，开盘下跌0.05%，深证成指报15328.87点，开盘下跌0.15%，深证区块链50指数报3938.43点，开盘下跌0.06%。区块链板块开盘上涨0.03%，数字货币板块开盘下跌0.27%。[2021/1/27 13:37:59]

叶子节点是地址(0x...)=>帐户的映射，其中帐户存储与地址关联的余额、nonce等

内部节点维护树结构，以便可以快速计算整个树的哈希根

由于存档节点将保留所有区块的所有历史状态，这意味着MPT中的任何更新都将创建O(log(N))个内部节点，并且不会删除旧的内部节点。

Geth的全节点

为了解决存档节点状态爆炸的问题，Geth的天才工程师们创建了一种称为“修剪”模式的新模式，该模式仅定期存储MPT。这里我们举一个简化的例子，其中节点只保存每3个区块的MPT。。

动态 | 重庆区块链数字应用技术研究院正式成立:2019年12月29日下午，在\"2020数字资产投资新趋势暨区块链产业应用研讨会\"上，由链圈网联合Bibox海南技术应用中心、Nuls技术团队、知密大学、重庆大数美联科技有限公司和深圳创客区块链技术有限公司共同发起的重庆区块链数字应用技术研究院在重庆市区块链公共服务平台成立，平台负责人夏勇上台进行了授牌。研究院旨在响应国家政策结合国内外经济发展趋势，致力于区块链技术研发、人才培养、应用及产业发展研究，助力区块链行业健康发展和企业数字化升级。[2019/12/30]

通过定期存储MPT，状态的存储大小显著减少。据Etherscan数据，目前Geth全节点的区块链数据大小约为1TB。

Geth的可快速同步的全节点

通过从创世区块开始重放所有交易来运行节点的一个问题是，重放所有交易会占用很长时间。一般来说，建立这样一个节点需要数周时间才能从创世区块赶上网络的最新状态。为了加速节点的启动过程，Geth进一步提供了一种快速同步模式，可以下载最新的稳定区块的MPT，而无需重放和维护区块之前的历史MPT。下载完MPT后，它会像全节点一样重放新区块。

动态 | 重庆市发出第一张区块链营业执照:据中国电子银行网消息，3月6日，重庆市新注册登记营业执照全部加入政务区块链，并发出了第一张基于区块链技术的电子营业执照，这是重庆市实施“全渝通办”、探索政务区块链技术创新应用取得的又一阶段性成果。[2019/3/8]

在不存储历史MPT的情况下，一个Geth节点的存储大小可以进一步减少到447G。通过减去300GB的区块数据，我们推断状态大小约为150GB。

问题

以目前以太坊447GB的存储大小和15TPS，我们预计具有1TBSSD的普通配置计算机应该能够运行以太坊节点相当长的一段时间。那么存储爆炸或状态爆炸真的存在吗？或许未来几年以太坊并不会，但假如我们可以将以太坊的虚拟机(EVM)扩展到数百或数千TPS呢？

让我们将目光转向另一个基于EVM的链，币安智能链。截至2021年12月8日，BSC已有：

约984GB链上数据，其中区块约占550GB，状态约占400GB。

20.6623亿笔交易，100TPS

如果我们进一步用交易数量来预测数据大小，我们可以得到：

声音 | 德国总理：德国科研体系将特别研究关于区块链发展的建议:据新华网报道，德国研究与创新专家委员会27日向德国政府提交新一期年度报告，提出要加强对科研创新的财政支持，推动区块链和人工智能等技术发展。报告说，应推动区块链技术发展，要推出《区块链战略》，加强公众对这一技术及应用的了解和信心。德国总理默克尔当天在接受专家组递交的报告时表示，德国科研体系必须要与时俱进，将特别研究关于区块链发展的建议。德国研究与创新专家委员会是德国政府设立的由资深专家学者组成的智囊团队，每年向政府提供评估报告。[2019/2/28]

如果TPS为100，即~3,153MTPY

1年后，总TX~5,219M，区块~1.375TB，状态~1.085TB

3年后，总TX~11,525M，区块~3.025TB，状态~2.387TB

如果TPS为150，即~4,730MTPY

1年后，总TX~6,796M，区块~1.809TB，状态~1.427TB

3年后，总TX~16,256M，区块~4.327TB，状态~3.414TB

综上所述，对于BSC来说，如果保持目前的速度甚至更高，则很快就会达到以太坊存档节点相同的存储大小，这是普通计算机几乎无法运行的。

具有极高TPS区块链的存储爆炸问题

如果我们对一个极高TPS的区块链做一个更大胆的假设，这个数字会变成多少？我们来考虑一个具有1000TPS的区块链并分析其区块和状态大小，将是：

金色独家 数字彗星创始人张东谊：区块链企业从四个方面提升安全:金色财经独家专访，针对近期热议的安全问题， 数字彗星创始人张东谊指出：目前区块链创业者、从业者、数字货币持有者的区块链安全意识是不够的，安全是个非常庞大的系统架构，其中包括系统安全、网络安全、代码安全、通信安全、中间件安全、业务安全，涵盖面很广。区块链企业应该从：a.使用专业的代码审计服务；b.熟悉安全编码规范，严进宽出规则；c.密码算法的安全性；d.多人代码审核、内部测评小组、外部专家评测，白帽黑客激励机制等四个方面提升安全性。安全是个相对的概念，没有绝对的安全，安全的本质是信任问题。企业应该做好边界的安全，提升入侵检测和应急响应的能力。[2018/6/18]

假设tx大小约为100字节，每年区块所需的存储量为1000(TPS)*100*365*24*3600=2.86TB

假设MPT有100亿账户，我们预计状态大小将为150G/0.18B*10B=8.3TB

将这些数字放在一起，我们很容易得出一个结论，这是大多数普通配置计算机将无法承受的要求！

优化

为了优化存储成本，我们必须将限制放宽为兼容EVM而不是兼容以太坊。即，我们必须构建/运行另一个支持EVM的链，而不是高度优化的以太坊客户端。

状态存储优化

我们提出的第一个优化是使用普通的KV而不是MPT。当MPT很大时，MPT中的所有内部节点可能非常昂贵。而我们的优化将去掉MPT中的所有内部节点。假设每个账户的数据大约是50字节，我们可以节省下100亿账户的数据为：

~10B*50+100GB=600GB，大约是MPT版本的1/10！

虽然使用普通KV会带来巨大的好处，但一个主要问题是我们无法在如此短的区块间隔内计算每个区块的状态后哈希，这意味着我们将失去以太坊的以下好处：

快速同步：下载任何区块的状态并通过重放剩余的区块来快速同步网络

分叉检测：来自对等方新创建的区块是否会导致与本地执行区块的状态不同。

为了启用快速同步，我们有一个周期性的快照区块。一个快照区块包含前状态哈希这一附加信息，即前一个快照区块的后状态哈希：

非快照区块不维护状态哈希，而是具有增量哈希，其中包含该区块的所有交易事务的原始数据库操作的哈希。这使得分叉检测成为可能！

我们使用交易前状态哈希来代替以太坊中区块的交易后状态哈希。原因是节点不能立即计算状交易后的状态哈希，但是通过使用交易前状态哈希，节点可以使用整个epoch间隔来计算哈希。例如，假设状态哈希计算每秒处理10M的状态数据，那么计算600GB的整个状态将需要600GB/10M~16.67小时

计算状态前哈希的流程如下：

1.当一个快照区块被接收并最终确定时，它的KV状态被快照，并创建一个后台线程来迭代所有KV条目并计算哈希。

2.当下一个快照区块被创建时，计算出的状态前哈希值将存储在该区块中。同样，节点将创建KV的另一个快照并在后台计算其哈希。

3.当下一个快照区块被创建时，节点除了存储状态前哈希之外，节点现在可以释放快照区块的KV快照，这意味着来自快照区块以来所有被删除/更新的数据将被自动垃圾回收

其结果意味着，要存储状态，节点只需要最多两个KV快照。

区块存储优化

使用快照区块，我们可以通过仅存储以下数据来进一步减少节点中所需的区块数据：

最新的快照区块的交易执行前状态快照，即快照区块的交易执行后状态

快照区块之后的完整区块?

我们可以对存储成本进行简单的数学计算：假设epoch持续时间为2周，则区块重放大小为

2*14*24*3600*100*1000=224GB！

而且，这里的数字不会随着时间的推移而增长！

总结

我们分析了以太坊当前的存储使用情况：

不仅是区块，状态存储消耗了很多的空间

当TPS>1000时，存储空间用量高得令人望而却步

我们提出对区块和状态进行优化：

区块大小从每年2.86TB减少到224GB

状态大小从8.3TB减少到600GB

一台2TB的普通配置计算机应该能满足长时间运行节点的条件

缺点：轻节点无法验证状态中的一个数据

致谢

感谢dapp-learning主办此次活动。教学全程视频可点击公众号第二条推送观看。

标签：区块链MPT以太坊TPS区块链专业方向好就业吗XMPT价格以太坊硬币图片tps币圈

中币热门资讯