火星链 火星链
Ctrl+D收藏火星链

GEN:一文读懂为大负荷设计的Filecoin索引器可扩展方案

作者:

时间:1900/1/1 0:00:00

这篇文章描述了一个简单的策略,可将大量涌入的索引负荷分散到由索引器节点组成的索引池中。同时,它让这个索引池具备可扩展性。索引器扩容的最终目标是10^{15}个索引。这并非存储数据的字节大小,而是存储索引的数量。一个索引实际上就是一张描述了CID标识与内容提供者数据之间关系的映射图。实际的数据规模将会远大于此。目前,我们可处理约10^{12}个索引,随着时间的推移,我们会通过一列步骤向最终的扩容目标前进。目前,大部分的索引负荷是由涌入的索引数据构成的。新增的数据可能超过单一的索引器能够承受的范围,它还在极速增加。因此,目前扩容路上最迫切的目标,就是处理增加中的涌入负荷。方案:处理索引涌入的简单策略

Gnosis Chain拟在链上部署Spark Protocol:7月6日消息,Gnosis金库管理方Karpatkey发起一项社区提案,提议在Gnosis Chain启动MakerDAO旗下借贷协议Spark Protocol。

此前报道,MakerDAO宣布其借贷协议Spark Protocol将扩展至多链,并公布了有兴趣在特定域(各种区块链网络)中部署Spark Protocol的步骤与流程。[2023/7/6 22:20:39]

数据涌入

一个索引器接收到某个发布者传来的“announce”消息,宣布已经有新的索引数据广告时,就会发生数据涌入。作为回应,该索引器会从发布者那里检索所有尚未检索过的索引数据。随着发布者数量增加,在某个时候,单一的索引器节点将无法跟上新增索引数据发布的速率,也可能没有足够的存储空间来全部存储这些数据。分散涌入负荷

Aragon宣布暂时将Aragon DAO更名为Aragon Grants DAO:5月12日消息,Aragon协会发布澄清公告表示: 1. 金库目前由作为其托管人的 AA(Aragon协会)控制;2. AA 正在逐步将国库和核心基础设施转移到 Aragon DAO 以降低风险;3. 作为非营利组织,AA 有责任确保财政部实现其目标,建立去中心化的治理基础设施。此外,暂时将 Aragon DAO 更名为 Aragon Grants DAO,向 “无风险价值(RFV)攻击者”传达的信息非常明确:从协会发送到 DAO 的任何更多资金都用于建设者。

前天报道,Aragon协会取消ANT代币持有人投票权,以应对Arca等投资者对其发起的“51%攻击”。dForce创始人指责Aragon团队通过“重新调整DAO劫持协议金库”。[2023/5/12 14:59:44]

索引器扩容处理拥堵负载,是基于一个简单策略——将涌入的索引负荷分散到由索引器节点组成的索引池中,这样就能根据容量需求来增加节点,而不需要将数据到处移动来重新达到均衡。它先是分配不同的内容_发布者_给不同的索引节点,这样每个节点可以处理涌入负荷的一部分。这是通过使用单独的轻量服务AssignerService来实现的,后者不属于关键的索引涌入路径的一部分。当一个索引器达到了配置的存储限制后,它就会停止吸纳新增的索引数据,而索引池里的其他索引器会从分配给完整索引器的发布者那里恢复吸纳数据。如果存储容量和涌入负荷分配需求增加,池子里就会增加更多的索引器节点。这个扩容策略的三个主要组件是:分配服务:它将发布者分配给索引器。索引器冻结模式:这种索引器运作模式里,新内容不会被索引。移交发布者任务:将冻结中的索引器的发布者任务重新分配给活跃的索引器,以在冻结索引器停止运行后恢复索引。这篇文章会概括描述这些组件。可以在设计文档和设计展示中获取更多信息。扩容策略的优缺点

Genesis在破产申请中称负债达51亿美元,此前未能从3AC收回12亿美元未偿还贷款:金色财经报道,根据临时首席执行官Derar Islim签署的法庭文件,破产的加密借贷公司Genesis在去年11月冻结提款后的几周内持有51亿美元的负债。Genesis Asia Pacific(该部门也申请了破产),负责管理Genesis与3AC的借贷关系。备案文件显示,在3AC倒闭时,Genesis对该基金有24亿美元的未偿还贷款,其中Genesis只能收回一半。

DCG去年承担了大部分风险,交换了10年期期票以换取Genesis对3AC的12亿美元索赔。该票据现在是DCG与加密货币交易所Gemini就交易所的收益产品Earn发生公开争执的中心,Gemini是Genesis的最大债权人,超过7亿美元。[2023/1/21 11:24:10]

优点:更少的同步工作:不需要让每一个索引者与每一个发布者同步。元数据不会重复发送给多个索引器:元数据只会在处理提供者的索引器上存在。索引器之间不会分享数据。它们各自管理自己的发布者链。不需要只为了检查提供者而去阅读广告,这与提供者分片一样。索引器可有不同的存储容量。不需要共识机制。涌入负荷可重新分配,而无需在索引器之间移动数据。缺点:不平均的分配:一些发布者可能会比其他发布者索引更多的数据。查询请求需要分散和合并:查询请求会重复发送给所有索引器,而响应会合并成一个发送给客户。提供者更改发布者可导致重复索引。增加索引者不会马上起效,除非一个现有的索引器达到了存储容量限制。这方案的整体好处是它的实施方案相对简单,也能去除拥堵扩容的限制。分配服务

Genesis提交第11章破产申请文件,资产和负债估计在10亿至100亿美元之间:1月20日消息,Genesis向纽约南区美国破产法院提交Chapter 11破产申请文件,Genesis列出的资产和负债估计在10亿至100亿美元之间。Genesis表示,将由委员会监督重组的所有方面,现有手头现金超过1.5亿美元。贷款业务的新贷款发放仍处于停滞状态。[2023/1/20 11:22:42]

分配服务负责将发布者分配给在其配置索引器池中的索引者。对一个索引器池来说,它作为单一实例运行在其管理的索引器所在的同一网络上。一个索引器只能作为一个分配服务的索引器池里的成员。除了将新的发布者分配给索引器外,分配服务还检测检索器节点是否进入了冻结模式,并负责将发布者从冻结索引器重新分配给非冻结的索引器。索引服务还通过gossippubsub渠道重新发布直接的HTTP公告,这样池中的所有索引器都能接收到这些信息。基于几个假设,分配服务是用于单个私有部署中使用:任务可以发给任何索引器,所有索引器的管理API是在私有网络上运行,而且也没有建立任何方式或协议让不同的参与方管理池子中要添加或移除的节点。

赵长鹏辟谣:陈光英(Heina)不是比捷科技的秘密所有者,法定代表人身份是迫于法规:9月1日消息,针对陈光英(Heina Chen)是币安神秘高管并遭受大量舆论攻击的情况,赵长鹏在币安官方博客撰文称,他在2010年认识了陈光英,并在2015年创建比捷科技(币安早期实体公司原名)时邀请她加入,负责管理后台,由于中国对外国人的限制性法律,让中国公民作为列出的法定代表人要容易得多,因此陈光英登记为该公司法定代表人。陈光英在2017年与币安大多数人一样离开中国。

“由于她的名字被列在了比捷科技的早期文件中,币安诋毁者趁机散布了一个阴谋论,即陈光英是比捷科技的秘密所有者,甚至可能是币安的所有者。结果,她和她的家人都成为了媒体和网络巨魔的目标和骚扰。如果我知道这会对她的生活产生多大的负面影响,我永远不会要求她做当时看起来如此无害的一步。”[2022/9/2 13:03:16]

将一个发布者分配给一个索引器

一个索引器接收到某个发布者传来的“announce”消息,宣布已经有新的索引数据广告时分配服务会监听gossip-sub和直接的HTTP消息——这些消息主要是宣布新广告可被获取了。它从每一条消息中读取发布者信息,并判断发布者是否已经分配给需要的索引器。如果答案是否定的,该分配服务就会选择任务量最少的索引器,并将该发布者分配给这个索引器。在分配任务后,索引器会收到来自发布者的公告,并自行处理涌入数据。索引服务会处理离线的索引器,它所用的方式能避免在索引器池里过度分配任务。索引服务还支持将特定发布者分配给特定索引器的配置选项。进一步阅读材料:非持久化任务状态意味着索引器能在任何时候停止或重启。索引器池在某个单一部署中的索引器节点的集合。任务复制将发布者分配给多个索引器。索引器冻结模式

索引器存储使用触及到配置`FreezeAtPercent(<``https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer`(https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer"https://pkg.go.dev/github.com/ipni/storetheindex/config#Indexer")`>)`的限制后,索引器自动进入“冻结”模式。这个运作模式里,索引器不再存储新增的索引数据,但还是会处理索引数据的更新或删除。一个冻结的索引器不会接受新的发布者任务。在其内部,该索引器追踪它已读的每一个广告链,目的是纳入广告。索引器会持续响应对索引数据的查询。索引器也可以通过其管理(admin)API来手动进行冻结。这可以是为了暂时冻结纳入数据,直到索引器的存储容量提升为止。这样,持续的索引工作可以被其他索引器节点代替。进一步阅读材料:磁盘使用监控由每一个索引器负责。冻结的能力不依赖于分配服务。解除冻结的能力可让索引器恢复索引工作。发布者移交

分配服务定期统计索引器,要是它发现某个索引器被冻结,它就会将该被冻结的索引器分配的发布者重新移交给其他索引器——活跃的索引器会继续之前冻结索引器上所做的工作。在移交过程中,活跃的索引器也会从冻结的索引器那取得提供者及其相关的进一步信息。分配服务决定哪一个索引器将接收发布者的移交工作——这与分配新发布者的逻辑一样。每一个发布者的移交过程都会单独进行这一步骤,这样冻结索引器的任务就会分配给池子里的可用索引器。进一步阅读材料:分配服务可以恢复不完整的移交任务发布者数据在冻结和活跃索引器之间分发设立带有分配服务的索引器池

这里描述了设立带有分配服务的索引器池的过程。可概括为以下步骤:部署索引器部署分配服务按需部署额外的索引器这里还提供了分配服务配置模板文件。

标签:SISGENEGenesisGENGnosisGenesis Universe TokenGenesis ShardsAGENTSHIBAINU价格

火币APP下载热门资讯
TOP:?构建「Web3的VISA」:基于PlatON的Web3.0密态支付清算体系TOPOS正式发布

日前,PlatON创始人孙立林出席“2023香港Web3嘉年华「全球Web3支付创新论坛」”,在现场进行了《Web3.0密态支付清算体系》的开场演讲.

1900/1/1 0:00:00
ETF:港交所报告解读:ETF与全球金融市场虚拟资产生态圈的发展

3.香港推出的亚洲首批虚拟资产ETF:2022年12月16日在香港交易所上市2只ETF:比特币期货ETF+以太坊期货ETF;2023年1月.

1900/1/1 0:00:00
MIC:欧盟数字金融监管新规MiCA来了,你最需要了解这些

欧洲议会于4月20日通过了欧洲加密资产市场法规。据悉,欧盟是世界上第一个引入全面加密法的主要司法管辖区,通过没多久后,美国国会派遣十几名国会工作人员负责了解欧盟新的加密法律框架.

1900/1/1 0:00:00
CHA:Berachain联创:从NFT到公链,Berachain的发展历程

昨日,Layer1公链Berachain宣布完成了4200万美元融资,其联创SmokeytheBera撰写关于「Berachain发展至今」的文章,BlockBeats编译如下:大约一年半以前.

1900/1/1 0:00:00
WEB3:Web3大数据,引领去中心化未来:Oort香港大会回顾与展望

Web3数据云Oort于4月11日在香港著名的万丽海景酒店举办了一场主题为“用Web3数据去中心化未来”的科技大会,汇聚了来自世界各地的、各个领域的一些最杰出的人才.

1900/1/1 0:00:00
区块链:a16z:关于代币设计的7点小建议

代币是一种强大的新原语,可以用多种方式定义。代币设计空间非常丰富,但我们仍处于探索的早期阶段。实际上,许多团队努力为他们的项目找到“正确的”代币设计.

1900/1/1 0:00:00