假设您是web3新手,开始建立web3分析团队,或者刚刚对web3数据感兴趣。无论哪种方式,您都应该已经大致熟悉了API、数据库、转换和模型在web2中的工作方式。
对于这本就职指南,我将尽量保持简洁,并突出我对以下三个重要的想法:
1.思考:为什么开放数据管道会重塑数据工作的完成方式
2.工具:web3数据堆栈中工具的概述,以及如何利用它们
3.团队:在web3数据团队中应具备的基本注意事项和技能
关于数据思维
让我们首先总结一下在web2中如何构建、查询和访问数据。
对于简化的数据管道,我们有四个步骤:
事件API触发
摄取到数据库
特定产品/分析用例的数据转换
模型训练和部署
数据有时是开源的唯一步骤是在转换完成之后。Kaggle和HuggingFace等社区使用暴露数据的一部分来帮助企业构建更好的模型。有一些特定领域的案例,例如在前三个步骤中打开数据的开放街道地图,但这些仍然有写权限的限制。
加密风投Crypto Oasis Ventures推出Web3可持续发展计划:金色财经报道,加密风投Crypto Oasis Ventures和管理咨询公司 Roland Berger宣布推出Web3可持续发展计划“The Green Block”,旨在开发、实施覆盖公司治理、环境可持续性和社会责任领域的Web3解决方案,其核心目标是利用Web3和人工智能技术潜力建立一个繁荣的生态系统,将来自不同行业的利益相关者聚集在一起。(Gulfbusiness)[2023/6/22 21:53:05]
并不是说web2根本没有任何开源。与大多数其他工程角色一样,web2数据拥有大量用于构建其管道的开源工具。我们仍然在web3中使用所有这些工具。总之,他们的工具是开放的,但他们的数据是封闭的。
Web3也将数据开源——这意味着它不再只是数据科学家在开源中工作,分析工程师和数据工程师也是如此!每个人都参与到一个更连续的工作流程中,而不是一个黑盒数据循环。
沙特主权基金Sanabil披露多项对Web3领域的投资:金色财经报道,沙特主权财富工具公共投资基金的风险投资部门 Sanabil 列出了对 Andreessen Horowitz (a16z)、Coatue Management、KKR 和 Valar Ventures 等公司的投资,但尚未披露对每只基金的具体投资细节。
据悉,Sanabil 列出的区块链相关基金包括:a16z、Polychain Capital、Griffin Gaming Partners、500 Startups、9Yards、B Capital、Collaborative Fund、Costanoa、Craft Ventures、Dragoneer、Greenoaks Capital、Human Capital、ICONIQ Capital、Insight Partners、KKR、Legend Capital 、Race Capital、Soma Capital、TCV、Techstars、Third Point Venture、Uncorrelated、Valar Ventures、Valor Equity Partners 和 Village Global。[2023/4/4 13:44:32]
工作的形式已经从web2数据大坝转变为web3数据的河流、三角洲和海洋。同样重要的是要注意,这个新周期会同时影响生态系统中的所有产品/协议。
Meta正研究开发区块链和NFT等Web3技术,将探索单钱包跨平台支付体验:5月13日消息,Meta商业和金融技术主管Stephane Kasriel宣布Facebook Pay将正式更名为Meta Pay。Facebook Pay能在FB、IG、WhatsApp和Messenger使用,并将继续探索如何进一步简化跨平台的支付体验。
Kasriel表示,Meta处于单一钱包制度开发的非常早期阶段,其正在研究如何证明用户身份,并将该身份带入元宇宙的不同体验中。Kasriel还透露Meta正在开发区块链和NFT等Web3技术。(TechCrunch)[2022/5/13 3:13:50]
让我们看一个web3分析师如何协同工作的示例。有几十个DEX使用不同的交换机制和费用,允许你将通证A换成通证B。如果这些是典型的交易所,比如纳斯达克,每个交易所都会以10k或一些API报告自己的数据,并且然后像capIQ之类的其他服务会将所有交换数据放在一起,并收取费用让您访问他们的API。也许偶尔,他们会举办一场创新比赛,这样他们就可以在未来拥有额外的数据/图表功能来收费。
使用web3交换,我们有这个数据流:
dex.trades是Dune上的一张表,其中汇总了所有DEX交换数据-因此您可以非常轻松地搜索所有交易所中单个代币的交换量之类的东西。
钓鱼攻击瞄准Web3 DeFi应用程序,受资金超10万美元:太坊网页钱包MyCrypto与安全公司PhishFort联合发布的一份调查报告显示,在此前的研究中发现针对Ledger、Trezor、MEW、Metamask等用户的虚假浏览器扩展程序。最近的研究中发现了恶意的Web3应用程序「网络钓鱼 dapp」,它们伪装成合法的应用程序或服务来窃取加密货币。已经追踪到了超过 10 万美元的SAI被转移到了攻击者账户。这些攻击通过直接在Web界面输入私钥来进行钓鱼攻击,从样本来看,这次Web3钓鱼攻击的迭代版本似乎是由一群恶意参与者运行的。[2020/6/25]
一位数据分析师出现并使用一堆社区开源查询创建了一个仪表板,现在我们对整个DEX行业有了一个公开的了解。即使所有的查询看起来都是一个人写的,你可以打,在某个不和谐的地方有大量的讨论可以准确地拼凑起来。
一位DAO科学家查看仪表板并开始在他们自己的查询中分割数据,查看特定的配对,例如稳定通证。他们研究用户行为和商业模式,并开始建立假设。
由于科学家可以看到哪个DEX占据了更大的交易量份额,因此他们将提出一个新模型并提出对治理参数的更改,以在链上进行投票和执行。
美国天才少年Marshal Webb担任Path Network项目CTO:美国天才少年Marshal Webb联合众多白帽黑客打造Path Network项目并担任CTO,该项目通过众多上网设备组成一个面向全世界的分布式节点监控网络,提供DDoS攻击报告、DNS劫持分析等多维度企业级监控服务。Path Network将颠覆传统公司臃肿的监控系统,用户通过分享多余的带宽和计算资源来获得PATH token作为回报。据悉,豪华顾问团队囊括安全领域顶尖黑客Eric Taylor、领英基础架构大师Shawn Zandi。[2018/3/10]
之后,我们可以随时查看仪表板,了解该提案如何创造出更具竞争力的产品。
未来,如果有另一个DEX出来,这个过程会提升产品的功能。有人会创建插入查询来更新此表。这将反过来反映在所有仪表板和模型中。任何其他分析师/科学家都可以在Alex已经完成的工作的基础上再接再厉。
由于共享生态系统,讨论、协作和学习发生在更紧密的反馈循环中。这有时会变得非常压倒性,而且我认识的分析师基本上都在轮换数据时表现得倦怠。然而,只要我们中的一个人不断推动数据前进,那么其他所有人都会受益。
它也不一定总是复杂的抽象视图,有时它只是实用功能,例如可以轻松搜索ENS反向解析器或改进工具,例如使用单个CLI命令自动生成大部分graphQL映射!所有这些都可以被每个人重用,并且可以适应某些产品前端或您自己的个人交易模型中的API使用。
虽然这里解锁的可能性是惊人的,但是程序还没有那么顺利地运行。与数据工程相比,数据分析师/科学方面的生态系统仍然非常不成熟。我认为这有几个原因:
数据工程多年来一直是web3的核心焦点,从客户端RPCAPI改进到基本的SQL/graphQL聚合。在theGraph和Dune等产品上的工作确实体现了他们为此付出的努力。
对于分析师来说,理解web3独特的跨协议关系表是一个艰难的过程。例如,分析师可以理解如何仅分析Uniswap,但随后难以将聚合器、其他DEX和不同的代币类型添加到组合中。最重要的是,完成所有这些工作的工具直到去年才真正意义上出现。
数据科学家基本上习惯于进入原始数据转储并独自完成所有工作。我认为他们不习惯在项目早期与分析师和工程师如此密切和公开地合作。这需要一段时间才能适应这样的环境。
除了学习合作之外,web3数据社区还在学习如何在这个新的数据堆栈中工作。您不再需要控制基础架构或从excel中慢慢构建到数据湖或数据仓库-只要您的产品上线,那么您的数据就会无处不在。您的团队基本上进入了数据基础架构的精华部分。
关于数据工具
这就是你们大多数人来这里的目的:?
这些工具并不全面——它们只是我发现自己或其他人在以太坊生态系统中一直使用和引用的工具。
“去中心化”标签意味着有一个基础设施网络或指导框架来阻止单方面发生的变化。我喜欢将其视为解耦基础设施与云基础设施,但这需要有自己的文章。
让我们来看看您何时需要使用每个图层/类别:
交互+数据源:这主要用于前端、钱包和数据摄取到较低层。客户端:虽然以太坊的底层实现是相同的,但每个客户端都有不同的额外功能。例如,Erigon针对数据存储/同步进行了大量优化,Quorum支持启动隐私链。
节点即服务:您无法选择它们运行的客户端,但使用这些服务将为您省去自己维护节点和API正常运行时间的麻烦。节点有很多复杂性,具体取决于您要捕获多少数据。
查询+数据映射:该层中的数据要么在合约中作为URI引用,要么来自使用合约ABI将交易数据从字节映射到表模式。合约ABI告诉我们合约中包含哪些功能和事件,否则我们只能看到已部署的字节码。交易数据:这些是最常用的,主要用于仪表板和报告。theGraph和FlipsideAPI也用于前端。有些表是合约的1:1映射,有些表允许在模式中进行额外的转换。
元数据“协议”:这些不是真正的数据产品,但存在用于存储DID或文件存储。大多数NFT将使用其中的一个或多个,我认为今年我们将开始越来越多地使用这些数据源来增强我们的查询功能。
专业提供商:其中一些是非常强大的数据流产品,用于内存池数据的Blocknative和用于链上交易数据的Parsec。其他人聚合链上和链下数据,例如DAO治理或财务数据。
高频数据提供者:您无法查询/转换他们的数据,但他们已经为您完成了所有繁重的工作。“企业”服务:如果您是VC、调查员或记者,您会经常使用这些服务。您可以使用Nansen的钱包分析器或Chainanalysis的KYT深入了解钱包和钱包关系。或者使用Tolken终端在大量项目/链上获得漂亮的开箱即用图表。
增强的那些API:这些产品将许多查询捆绑到一个中,例如ERC20代币的所有代币余额或为给定地址提取合约ABI。
数据团队
不言而喻,您希望在这些社区中寻找可以雇用到您团队的人。让我们进一步分解重要的web3数据技能和经验,以便您真正知道自己在搜索什么。如果您想被录用,请将其视为您追求的技能和经验!
分析师至少应该是使用Etherscan的高手,并且知道如何阅读Dune仪表板。这可能需要1个月的时间才能慢慢升级,如果您真的预订并狂欢学习,则需要2周。
您还应该考虑更多背景信息,特别是关于时间分配和技能可转移性的内容。
在web3中,数据分析师大约30-40%的时间将用于跟上整个生态系统中的其他分析师和协议。请确保您没有窒息他们,否则,它将成为对每个人的长期损害。与更大的数据社区一起学习、贡献和构建是绝对必要的。
关于可转移性:技能和领域在这个领域都是高度可转移的。如果我使用不同的协议,那么加速时间可能会很短,因为链上数据的表模式都是相同的。如果有的话,我可能在加入之前就已经使用过该协议的数据了!
了解如何使用这些工具并不重要——每个分析师都应该或多或少地能够编写SQL或创建仪表板。这一切都是关于知道如何为社区做出贡献和与社区合作。
标签:WEBWEB3APICAPEndless Web Worldsweb3游戏行业RapidzSharpe Capital
头条▌比特币已连续9周下跌创历史最长记录5月29日消息,比特币已连续9周下跌,创历史最长记录。QCPCapital表示,自5月20日的低点以来,标准普尔和纳斯达克的交易价格上涨了约10%,而同期.
1900/1/1 0:00:00Web3实用程序Web3已经成为一个包罗万象的术语,代表着新的、更好的互联网的愿景。Web3的核心是使用区块链、加密货币和NFT,以所有权的形式将权力交还给用户.
1900/1/1 0:00:00随着各种DeFi协议的崩溃,收益率降低和代币价格的下降,许多DeFi评论员已经开始思考,我们是否发挥出了一个开放的、无需许可的、可组合的、基于区块链的金融系统的潜力.
1900/1/1 0:00:00本文以数据驱动的方式解释了为什么STEPN牛市案例的论点不会阻止GMT、GST的运动鞋价格暴跌.
1900/1/1 0:00:00AuroraEngine什么是AuroraEngineAuroraEngine是Near上用Rust写的一组智能合约.
1900/1/1 0:00:00新华社贵阳5月26日电“适度超前部署建设新型基础设施,统筹优化全国数据市场体系布局”“全面深化大中小企业数字化改造升级.
1900/1/1 0:00:00