火星链 火星链
Ctrl+D收藏火星链

LOCK:深度解析IPFS怎样实现文件存储

作者:

时间:1900/1/1 0:00:00

概述

IPFS-InterPlanetaryFileSystem星际文件系统,是一个点对点的分布式文件存储系统,IPFS的愿景是构建一个全世界的分布式网络,用来替代传统中心化的服务器模式,所有的IPFS节点组成一个分布式网络,每个节点都可以存储文件,用户可以从IPFS构建的网络中以DHT(DistributedHashTable,分布式哈希表)的方式获取文件,从而实现了新一代的完全去中心化的网络,旨在取代现有的万维网。IPFS功能很丰富,包括DHT组网,文件存储,Bitswap文件交换等功能。本文主要介绍IPFS的文件存储原理,文件上传到IPFS节点存储时,节点会将文件分块后进行存储,每个文件以MerkleDAG的格式组织,而MerkleDAG的根哈希则用来表示该文件。本文将对IPFS存储进行详解,所述的IPFS的版本为v0.6.0。

CID

在介绍IPFS存储文件的远离之前,先介绍一个重要的标识——CID,CID是IPFS中用来表示内容的标识,可以用来表示一个文件,也可以用来表示一个文件块。如下所示,CID是一个字符串,它主要由Version、Codec和Multihash三部分构成,Version目前分为v0和v1版本,v0版本的CID可以由V0Builder生成,v0版本的CID以Qm字符串开头,v1版本的CID可以由V1Builder生成,v1版本的CID主要包含三个部分Codec,MhType和MhLength,其中Codec是表示内容的编码类型,例如DagProtobuf,DagCBOR等,MhType是哈希算法,例如SHA2_256(默认的哈希算法),SHA2_512,SHA3_256,SHA3_512等等,MhLength是生成哈希的长度,默认用-1表示根据哈希算法确定长度。

KuCoin与Web 3协作平台Dmail Network达成深度战略合作:金色财经报道,加密货币交易平台KuCoin及其社区链KCC、KuCoin Wallet以及生态投资孵化平台KuCoin Labs将与基于Web 3.0的协作平台Dmail展开深度战略合作。

据介绍,Dmail自成立以来,就受到了Hashkey Capital、Amino Capital、OIG VC等众多投资者的关注。这两家行业巨头的合作将涉及技术、生态、信息服务,为用户提供Web3级的信息服务体验。

通过本次合作,Dmail将为KuCoin生态用户提供基于多链的去中心化邮箱服务,同时KuCoin和KuCoin Labs也将为Dmail在技术、营销、生态等方面提供全方位支持。(businesswire)[2022/9/21 7:09:52]

IPFS组件介绍

IPFS用IpfsNode表示IPFS的节点,存储相关组件的如下所示:

Bitget与比特币一禅学院达成深度合作:据官方消息,Bitget与比特币一禅学院达成深度合作关系,共同推动国内市场和社区共识的发展。

Bitget总部位于新加坡,是一家专注于衍生品的数字资产交易平台。Bitget去年完成由游戏公司SNK领投、安澜资本跟投的千万美金B轮融资,目前估值为10亿美金。截至目前,它在全球拥有110万多注册用户,合约交易量位居世界前五。

比特币一禅学院具备十余年金融从业经验,过往研究投资股票、基金、期货、黄金等,转战区块链行业四年,业务涵盖数字货币现货分析、期货合约策略以及投资者教育培训服务等。现开设现货衍生品培训班,帮助更多用户入门。[2021/3/9 18:29:06]

这些组件的关系如下图所示,最上层是DAGService,它组合了BlockService组件,而BlockService组合了GCBlockstore组件,然后GCBlockstroe包含BaseBlocks和GCLocker两个组件,最后BaseBlocks组合了最原始的blockstore组件。

北京市高级人民法院:将加快区块链等现代科技与审判工作的深度融合:北京市高级人民法院发布关于优化营商环境工作情况的报告。报告指出,北京互联网法院成立以来在线审结案件53307件,运用区块链技术建成“天平链”,解决了电子证据存证认证难题,运用智能合约技术实现执行“一键立案”,成为司法领域智能合约技术全球首个落地应用,进一步提升了在线诉讼的“中国品牌”。报告还指出,下一步将加快实现人工智能、5G、区块链等现代科技与审判工作的深度融合,以北京智慧法院建设成效,为世行评估提供新的最佳实践样本。(北京市人大常委会)[2020/7/30]

接下来分别介绍这些组件的功能:

Pinning:固定CID的管理器,主要负责将文件或者文件块的CID固定,固定CID的块不会被GC掉。上传的文件最后的文件的CID都会被固定住,防止被GC。

Blockstore:GCBlockstore类型,组合Blockstore和GCLocker两个组件。

声音 | 人民日报:企业应加强基础研究,推动区块链和实体经济深度融合:11月27日,人民日报刊文《靠区块链发横财?你想多了》。文章表示,即使是最具代表性的虚拟货币“比特币”,也不是哪国的法定流通货币,本质仍是一种投资风险极高的虚拟商品。任何创新都应以合法合规为前提。目前,区块链技术应用已延伸到数字金融、物联网、智能制造等领域。对企业而言,应加强基础研究,推动区块链和实体经济深度融合,利用区块链技术解决融资难、风控难等问题,让区块链成为服务实体、促进经济发展的新利器;对投资者而言,应尽快放弃“天上掉馅饼”的幻想,增强风险防范意识,谨防上当受,不给非法金融活动提供生存土壤。[2019/11/27]

BaseBlocks:原始的blockstore,提供了对Block的Get/Put/Has/DeleteBlock等操作。

GCLocker:用来锁住blockstore,保护blockstore防止被GC影响。

华尔街财富管理研究院合伙人蔡宇:我们处在区块链深度泡沫中:金色财经现场报道,在2018世界制造业大会区块链技术与产业融合应用论坛上,华尔街财富管理研究院合伙人蔡宇表示,泡沫是丰富营养的,对于区块链泡沫大家非常淡定,我们处在深度泡沫中,而且我们希望泡沫越来越大。目前全球有20亿游戏玩家,区块链用户只占2000万不到。[2018/5/26]

Blocks:提供Block的服务,组合Blockstore组件,提供了GetBlock/GetBlocks、AddBlock/AddBlocks、DeleteBlock等操作。

DAG:IPFS的默克尔DAG的服务,组合BlockService组件,提供Get/GetMany,Add/AddMany,Remove/RemoveMany等操作。

文件存储流程

文件上传时将文件添加到IPFS的仓库中,上传的流程可以如下图所示,生成默克尔DAG的结构,生成的结构有两种Layout:balanced和trickle的。这里介绍默认的balanced结构,首先生成root作为根节点,然后将文件分割,默认按照256KB大小读取一个chunk,生成叶子节点,依次生成node1,node2,root节点会有Link指向挂在root节点的叶子节点node1和node2。root节点下面能够Link的叶子节点数量是有限的,IPFS中默认设置的是174个。

如下图所示,超过174个后则会新创建一个newroot节点,并Link到oldroot,新的chunk作为node3被newroot直接Link。

当继续有新的chunk添加时,则会生成node34作为node3和node4的父节点,node34含有两个Link分别链接到node3和node4。

IPFS在init的时候会生成.ipfs目录,如下图所示,其中blocks则为文件块存储的目录,datastore为leveldb数据库,其中存储了文件系统的根哈希等,存储相关的配置关联在.ipfs目录下面的config文件。

经过上面的步骤,文件已经切块并转化成MerkleDAG的结构,接下来详细介绍每个块是如何进行存储的流程。

如下图所示,一个Block存储时,首先由dagService调用Add进行添加;之后由blockService调用AddBlock添加该Block;再调用arccache的Put,arccache是对存储的Block做arc策略的缓存;再之后由VerifBS调用Put进行存储,VerifyBS主要对CID的合法性进行校验,合法则进行Put;接着blockstore调用Put进行存储,Put函数中会对CID进行转化,调用dshelp的CidToDsKey方法将CID转化成存储的Key;再接着调用keytransform.Datastore的Put,Put函数中会将前缀拼上,这时Key加上了前缀/blocks;然后调用measure的Put函数,measure是对mount的封装;之后调用mount的Put函数,mount和IPFS的config配置文件中结构对应,根据key去查找对应的datastore,由于前缀是/blocks则可以找到对应的measure;调用该measure的Put函数;最后调用flatfs的Put函数,由Put函数调用doPut最终调用encode函数将完整的block写入的目录指定为/home/test/.ipfs/blocks/WD,其中WD来自于blocks/CIQFSQATUBIEIFDECKTNGHOKPOEE7WUPM5NNNSJCCDROMM6YHEKTWDY中的倒数第三第二个字符。这样该Block则写入了该目录下面的文件中。

总结

IPFS文件存储格式为默克尔DAG格式,每一层Links大小为174个,超过了则会重新调整。文件存储过程中有多个Datastore进行了组合和封装,每个Datastore功能比较单一,例如arccache只做Block的缓存,VerifBS只做CID的校验,这样做的好处是每个组件功能明确,不好的地方在于组合太多,调用深度太深,加上内部都是用interface,好几个组件都实现了该interface,不便于阅读。

IPFS的存储模式面向互联网用户而设计,因为它的开放性,允许所有节点随意接入,已接入IPFS网络的节点可以自由查找内容,不适合直接用来作为企业的文件存储服务。但其分布式存储的特点,很容易进行存储的动态扩容,可以通过结合节点认证机制和DHT查找内容的剥离,为企业的分布式存储系统,另外配合区块链技术,通过链上链下协同技术,很容易地解决链上存储容量不足的问题。

了解IPFS和Filecoin资讯,参与Filecoin挖矿,可联系IPFS研习社,微信号:XF2020IPFS

标签:LOCKLOCBLOBLOCKLock3r NetworkBLOCK-Eblok币是pi币吗blockchaininfo登不上

狗狗币最新价格热门资讯
BIG:BigONE 已上线第二期「Curve 流动性挖矿理财产品」

亲爱的用户:第一期「Curve流动性挖矿理财产品」上线后即被用户抢购一空,应社区用户的强烈要求,BigONE现已上线第二期「Curve流动性挖矿理财产品」.

1900/1/1 0:00:00
WISE:Wise Media Foundation:一飞冲天,从车联网开始!

“不飞则已,一飞冲天;不鸣则已,一鸣惊人。”这句古语形象地描绘了在长期积蓄力量后,一个突然爆发的过程.

1900/1/1 0:00:00
USDT:GX.COM 社区福利天天送

尊敬的GX.COM用户:散是满天星,聚是一团火,GX社区有你更精彩!GX社区为欢迎各位的到来,准备了丰富的好礼天天有送.

1900/1/1 0:00:00
AEL:去中心化云计算将是下一波计算浪潮, BHP将实现怎样的未来?

技术突破一般都是先缓慢发生然后突然爆发的。在iPhone出来之前的10年时间来大家就在积极地攻关移动计算.

1900/1/1 0:00:00
NEXO:腾讯云区块链总经理李力:构建“链上城市”,有助于满足四大城市需要

8月14日,2020全球区块链创新发展大会在赣州召开,腾讯云区块链总经理李力发表主旨演讲。李力介绍了腾讯云与深圳市龙华区携手共建的区块链先行试验区.

1900/1/1 0:00:00
COM:[2020年8月13日] AAX将上架6个交易对

尊贵的用户,您好,基于我们对于市场和行业的观察,我们将在AAX交易平台上架6个交易对。以下列出的交易对将于香港时间2020年8月13日16:30起开始交易.

1900/1/1 0:00:00