火星链 火星链
Ctrl+D收藏火星链
首页 > MANA > 正文

THE:区块链分析中的过度拟合挑战

作者:

时间:1900/1/1 0:00:00

当与区块链数据集一起使用时,机器学习模型往往会过拟合。什么是过度拟合以及如何解决?

乍一看,使用机器学习来分析区块链数据集的想法听起来非常吸引人,但这是充满挑战的道路。在这些挑战中,当将机器学习方法应用于区块链数据集时,缺少标记数据集仍然是要克服的最大难题。这些局限性导致许多机器学习模型使用非常小的数据样本进行操作,以训练和过度优化那些引起过拟合现象的模型。今天,我想深入探讨区块链分析中的过度拟合挑战,并提出一些解决方案。

过度拟合被认为是现代深度学习应用程序中的最大挑战之一。从概念上讲,当模型生成的假设过于适合特定数据集的假设而无法适应新数据集时,就会发生过度拟合。理解过度拟合的一个有用类比是将其视为模型中的幻觉。本质上,模型从数据集中推断出错误的假设时会产生幻觉/过度拟合。自从机器学习的早期以来,已经有很多关于过拟合的文章,所以我不认为有任何聪明的方法来解释它。对于区块链数据集,过度拟合是缺少标记数据的直接结果。

长江商学院推出Global Unicorn Programs将为入选者提供Web3.0、区块链等技术支持:金色财经报道,长江商学院正在推出的全球独角兽项目(Global Unicorn Programs)在与阿联酋世界政府峰会、迪拜行政委员会、新加坡黄埔集团(Whampoa Group)、首尔市政府和 Maekyung Media Group 的合作下,将先后在迪拜(2 月 15 日)、新加坡(5 月 16-19 日)与韩国首尔(9 月 12-15 日)落地。

据悉,Global Unicorn Programs 是一个高管教育项目,专注于欧亚大陆创造独角兽和具有社会责任与全球视野的企业家生态系统。该项目将为入选者提供 Web3.0、区块链、智能制造和人工智能等技术支持。[2023/1/16 11:14:27]

区块链是大型的半匿名数据结构,其中的所有事物都使用一组通用的构造表示,例如交易,地址和区块。从这个角度来看,有最少的信息可以证明区块链记录。这是转账还是付款交易?这是个人投资者钱包或交易所冷钱包的地址?这些限定符对于机器学习模型至关重要。

区块链索引协议The Graph将部署以太坊通用状态通道:总部位于旧金山的区块链索引协议The Graph宣布将与开源项目State Channel、L4、Magmo、Connext和Consensys Mesh R&D合作构建基于以太坊网络部署可扩展通用状态通道,旨在帮助用户直接连接到去中心化服务提供商的分布式网络,从而实现更快,更安全的P2P小额支付交易。据悉,该通用状态通道部署完成之后将由Consensys Diligence进行技术审核,一旦审核工作完成后该协议将会对所有人开放。(The Block)[2020/10/10]

想象一下,我们正在创建一个模型来检测一组区块链中的交换地址。这个过程需要我们使用现有的区块链地址数据集训练模型,我们都知道这不是很常见。如果我们使用来自EtherScan或其他来源的小型数据集,则该模型可能会过度拟合并做出错误的分类。

声音 | 湖南科技大学曾世宏:推动区块链等热点产品创新研发:据湖南日报报道,湖南科技大学商学院教授、湖南创新发展研究院副院长曾世宏发表了题为《注重累积性创新,推动制造业高质量发展》的文章, 建议完善相关政策,以充分调动湖南省市场微观主体强化累积性创新的积极性。曾世宏指出,完善支持制造业高质量发展的知识产权创造和保护政策。加强知识产权创造和保护,有效降低创新的制度性成本,鼓励优势高端装备制造企业自主进行关键零部件和核心技术研发,推动智能家居、可穿戴设备、虚拟显示、区块链等热点产品及清洁技术等生产性服务创新研发,主动攀升产业价值链。[2019/1/5]

使过拟合变得如此具有挑战性的方面之一是很难在不同的深度学习技术中进行概括。卷积神经网络倾向于形成过拟合模式,该模式与观察到的与生成模型不同的递归神经网络不同,该模式可以外推到任何类型的深度学习模型。具有讽刺意味的是,过度拟合的倾向随着深度学习模型的计算能力线性增加。由于深度学习主体几乎可以免费产生复杂的假设,因此过拟合的可能性增加了。

行情 | 区块链百度搜索热度近30日移动同比上涨335%:百度搜索热度中,“区块链”的搜索热度近30日整体日均值为13224,整体同比上涨310%,整体环比下降24%;近30日移动日均值为7454,移动同比上涨335%,移动环比下降30%。[2018/7/29]

在机器学习模型中,过度拟合是一个持续的挑战,但是在使用区块链数据集时,这几乎是必然的。解决过度拟合的明显答案是使用更大的训练数据集,但这并不总是一种选择。在IntoTheBlock,我们经常遇到过度拟合的挑战,我们依靠一系列基本方法来解决问题。

对抗区块链数据集过拟合的三种简单策略

对抗过度拟合的第一个规则是认识到这一点。虽然没有防止过度拟合的灵丹妙药,但实践经验表明,一些简单的,几乎是常识的规则可以帮助防止在深度学习应用中出现这种现象。为了防止过度拟合,已经发布了数十种最佳实践,其中包含三个基本概念。

金色财经现场报道前海梧桐并购基金合伙人 中国创业投资服务联盟理事长王蔚:区块链将颠覆权证与契约:金色财经现场报道,在2018全球区块链精英峰会上,进行以《区块链投资产业的风险与机遇》为题的圆桌谈论,前海梧桐并购基金合伙人王蔚指出:总体而言,币圈还是走在灰色地带,因为不知道规是什么,因此无法合规。未来的发展方向是资产上链,另外,商业模式也将发生改变。社会上的很多行业很复杂,不同的角色会对产业的发展产生不同影响。区块链会将权证和契约领域造成颠覆,区块链是让更多人参与至新型的契约关系中。[2018/4/28]

数据/假设比率

当模型产生太多假设而没有相应的数据来验证它们时,通常会发生过度拟合。因此,深度学习应用程序应尝试在测试数据集和应评估的假设之间保持适当的比率。但是,这并不总是一种选择。

有许多深度学习算法(例如归纳学习)依赖于不断生成新的,有时是更复杂的假设。在这些情况下,有一些统计技术可以帮助估计正确的假设数量,以优化找到接近正确的假设的机会。尽管此方法无法提供确切的答案,但可以帮助在假设数量和数据集组成之间保持统计平衡的比率。哈佛大学教授莱斯利·瓦利安特(Leslie Valiant)在他的《大概是正确的》一书中出色地解释了这一概念。

进行区块链分析时,数据/假设比率非常明显。假设我们正在基于一年的区块链交易构建预测算法。因为我们不确定要测试哪种机器学习模型,所以我们使用了一种神经架构搜索(NAS)方法,该方法针对区块链数据集测试了数百种模型。假设数据集仅包含一年的交易,则NAS方法可能会产生一个完全适合训练数据集的模型。

支持简单假设

防止深度学习模型过度拟合的概念上琐碎但技术上困难的想法是不断生成更简单的假设。当然!简单总是更好,不是吗?但是在深度学习算法的背景下,一个更简单的假设是什么?如果我们需要将其减少到一个定量因素,我会说深度学习假设中的属性数量与它的复杂度成正比。

简单的假设往往比其他具有大量计算和认知属性的假设更易于评估。因此,与复杂模型相比,较简单的模型通常不易过拟合。现在,下一个明显的难题是弄清楚如何在深度学习模型中生成更简单的假设。一种不太明显的技术是基于估计的复杂度将某种形式的惩罚附加到算法上。该机制倾向于倾向于更简单,近似准确的假设,而不是在出现新数据集时可能会崩溃的更复杂(有时甚至更准确)的假设。

为了在区块链分析的背景下解释这个想法,让我们想象一下我们正在建立一个模型,用于对区块链中的支付交易进行分类。该模型使用一个复杂的深度神经网络,该网络会生成1000个特征以执行分类。如果将其应用于较小的区块链(例如Dash或Litecoin),则该模型很可能会过拟合。

偏差/方差余额

偏差和方差是深度学习模型中的两个关键估计量。从概念上讲,偏差是模型的平均预测与我们试图预测的正确值之间的差。具有高偏差的模型很少关注训练数据,从而简化了模型。总是会导致培训和测试数据的错误率很高。或者,方差是指给定数据点的模型预测的可变性或一个告诉我们数据分布的值。具有高方差的模型将大量注意力放在训练数据上,并且没有对以前从未见过的数据进行概括。结果,这样的模型在训练数据上表现很好,但是在测试数据上有很高的错误率。

偏差和方差与过度拟合如何相关?用超简单的术语来说,可以通过减少模型的偏差而不增加其方差来概括泛化的技巧。深度学习的一种良好做法是对它进行建模,以定期将产生的假设与测试数据集进行比较并评估结果。如果假设继续输出相同的错误,则说明我们存在很大的偏差问题,需要调整或替换算法。相反,如果没有明确的错误模式,则问题在于差异,我们需要更多数据。

综上所述

? 任何低复杂度模型-由于高偏差和低方差,容易出现拟合不足。

? 任何高复杂度模型(深度神经网络)-由于低偏差和高方差,容易出现过度拟合。

在区块链分析的背景下,偏差方差摩擦无处不在。让我们回到我们的算法,该算法尝试使用许多区块链因素来预测价格。如果我们使用简单的线性回归方法,则该模型可能不合适。但是,如果我们使用具有少量数据集的超复杂神经网络,则该模型可能会过拟合。

使用机器学习来分析区块链数据是一个新生的空间。结果,大多数模型在机器学习应用程序中都遇到了传统挑战。根本上,由于缺乏标记数据和训练有素的模型,过度拟合是区块链分析中无所不在的挑战之一

标签:区块链THEORNRAM区块链技术通俗讲解简书ATHENASV2币ORN币Zeptagram

MANA热门资讯
比特币:2.9早间行情:BTC站稳一万美金 狂热行情下保持警惕

比特币波动指数昨日回升至52.92,单日涨幅4.94%:5月29日消息,由金融指数公司T3 Index联合比特币期权交易平台LedgerX推出的BitVol(比特币波动)指数昨日回升至52.92.

1900/1/1 0:00:00
ITA:春节读书笔记:Vitalik关注的加密经济学问题 如今解决了吗?

春节闭关在家,静下心来读完了《理想》这本书,书中收录了以太坊创始人Vitalik Buterin从2013年到2018年的优秀作品,话题涉及密码学、经济学、可扩展性、权益证明等.

1900/1/1 0:00:00
加密货币:金色深度丨加密基金Pantera Capital给社区的一封信

金色财经 区块链2月3日讯 最近,Pantera Capital给加密社区写了一封信,下面就让金色财经和大家一起来看看这家加密基金巨头在信中都说了些什么吧.

1900/1/1 0:00:00
zcash:Zcash更新挖矿奖励 创始人奖励被取消

最近的一项调查显示,社区对Zcash挖矿奖励变化的支持将于2020年11月生效。1月28日,该项目的支持者、电子货币公司(ECC)的一篇博客文章称,随着Zcash创始人奖励在11月到期,有关这项.

1900/1/1 0:00:00
LTC:牛市 只有佛系最赚钱?

狂人说 在全国人民的努力下,疫情图终于开始走向死叉,疑似增长的数据开始减缓,这意味着,后面的确诊数也会逐步下降,未来几天将会是确诊的高潮期,然后就会迅速下降了,再加把劲.

1900/1/1 0:00:00
CARD:金色观察 | Cardano创始人透露完成超额质押 ADA会迎来上行吗?

金色财经讯 2月5日,Cardano创始人、IOHK首席执行官Charles Hoskinson表示:“当我们启动激励测试网时,我们最大的期望就是能有100个公平的质押池运行.

1900/1/1 0:00:00