链资讯 链资讯
Ctrl+D收藏链资讯

区块链分析中的过度拟合挑战

作者:

时间:

当与区块链数据集一起使用时,机器学习模型往往会过拟合。什么是过度拟合以及如何解决?

乍一看,使用机器学习来分析区块链数据集的想法听起来非常吸引人,但这是充满挑战的道路。在这些挑战中,当将机器学习方法应用于区块链数据集时,缺少标记数据集仍然是要克服的最大难题。这些局限性导致许多机器学习模型使用非常小的数据样本进行操作,以训练和过度优化那些引起过拟合现象的模型。今天,我想深入探讨区块链分析中的过度拟合挑战,并提出一些解决方案。

过度拟合被认为是现代深度学习应用程序中的最大挑战之一。从概念上讲,当模型生成的假设过于适合特定数据集的假设而无法适应新数据集时,就会发生过度拟合。理解过度拟合的一个有用类比是将其视为模型中的幻觉。本质上,模型从数据集中推断出错误的假设时会产生幻觉/过度拟合。自从机器学习的早期以来,已经有很多关于过拟合的文章,所以我不认为有任何聪明的方法来解释它。对于区块链数据集,过度拟合是缺少标记数据的直接结果。

区块链是大型的半匿名数据结构,其中的所有事物都使用一组通用的构造表示,例如交易,地址和区块。从这个角度来看,有最少的信息可以证明区块链记录。这是转账还是付款交易?这是个人投资者钱包或交易所冷钱包的地址?这些限定符对于机器学习模型至关重要。

区块链公司Qenta推出面向新兴市场的综合金融解决方案套件:6月29日消息,基于区块链的金融服务和基础设施平台Qenta今天发布了一个增强和集成的金融解决方案套件。

据了解,Qenta专注于非洲,拉丁美洲,亚太、中欧和东欧市场,提供代币化资产、多代币钱包、数字银行、无现金支付和商品风险管理服务。(PR Newswire)[2022/6/29 1:39:36]

想象一下,我们正在创建一个模型来检测一组区块链中的交换地址。这个过程需要我们使用现有的区块链地址数据集训练模型,我们都知道这不是很常见。如果我们使用来自EtherScan或其他来源的小型数据集,则该模型可能会过度拟合并做出错误的分类。

使过拟合变得如此具有挑战性的方面之一是很难在不同的深度学习技术中进行概括。卷积神经网络倾向于形成过拟合模式,该模式与观察到的与生成模型不同的递归神经网络不同,该模式可以外推到任何类型的深度学习模型。具有讽刺意味的是,过度拟合的倾向随着深度学习模型的计算能力线性增加。由于深度学习主体几乎可以免费产生复杂的假设,因此过拟合的可能性增加了。

在机器学习模型中,过度拟合是一个持续的挑战,但是在使用区块链数据集时,这几乎是必然的。解决过度拟合的明显答案是使用更大的训练数据集,但这并不总是一种选择。在IntoTheBlock,我们经常遇到过度拟合的挑战,我们依靠一系列基本方法来解决问题。

WTI原油短线走高0.7美元:行情显示,WTI原油短线走高0.7美元,报100.91美元/桶,布伦特原油现报104.74美元/桶。[2022/4/13 14:22:19]

对抗区块链数据集过拟合的三种简单策略

对抗过度拟合的第一个规则是认识到这一点。虽然没有防止过度拟合的灵丹妙药,但实践经验表明,一些简单的,几乎是常识的规则可以帮助防止在深度学习应用中出现这种现象。为了防止过度拟合,已经发布了数十种最佳实践,其中包含三个基本概念。

数据/假设比率

当模型产生太多假设而没有相应的数据来验证它们时,通常会发生过度拟合。因此,深度学习应用程序应尝试在测试数据集和应评估的假设之间保持适当的比率。但是,这并不总是一种选择。

有许多深度学习算法(例如归纳学习)依赖于不断生成新的,有时是更复杂的假设。在这些情况下,有一些统计技术可以帮助估计正确的假设数量,以优化找到接近正确的假设的机会。尽管此方法无法提供确切的答案,但可以帮助在假设数量和数据集组成之间保持统计平衡的比率。哈佛大学教授莱斯利·瓦利安特(Leslie Valiant)在他的《大概是正确的》一书中出色地解释了这一概念。

以太坊市值升至全球资产升至第91位超越雷神公司:Asset Dash数据显示,目前以太坊市值达1093.50亿美元,排名升至全球资产升至第91位,已超越美国大型国防合约商雷神公司(Raytheon Company)。[2021/1/4 16:21:59]

进行区块链分析时,数据/假设比率非常明显。假设我们正在基于一年的区块链交易构建预测算法。因为我们不确定要测试哪种机器学习模型,所以我们使用了一种神经架构搜索(NAS)方法,该方法针对区块链数据集测试了数百种模型。假设数据集仅包含一年的交易,则NAS方法可能会产生一个完全适合训练数据集的模型。

支持简单假设

防止深度学习模型过度拟合的概念上琐碎但技术上困难的想法是不断生成更简单的假设。当然!简单总是更好,不是吗?但是在深度学习算法的背景下,一个更简单的假设是什么?如果我们需要将其减少到一个定量因素,我会说深度学习假设中的属性数量与它的复杂度成正比。

简单的假设往往比其他具有大量计算和认知属性的假设更易于评估。因此,与复杂模型相比,较简单的模型通常不易过拟合。现在,下一个明显的难题是弄清楚如何在深度学习模型中生成更简单的假设。一种不太明显的技术是基于估计的复杂度将某种形式的惩罚附加到算法上。该机制倾向于倾向于更简单,近似准确的假设,而不是在出现新数据集时可能会崩溃的更复杂(有时甚至更准确)的假设。

为了在区块链分析的背景下解释这个想法,让我们想象一下我们正在建立一个模型,用于对区块链中的支付交易进行分类。该模型使用一个复杂的深度神经网络,该网络会生成1000个特征以执行分类。如果将其应用于较小的区块链(例如Dash或Litecoin),则该模型很可能会过拟合。

偏差/方差余额

偏差和方差是深度学习模型中的两个关键估计量。从概念上讲,偏差是模型的平均预测与我们试图预测的正确值之间的差。具有高偏差的模型很少关注训练数据,从而简化了模型。总是会导致培训和测试数据的错误率很高。或者,方差是指给定数据点的模型预测的可变性或一个告诉我们数据分布的值。具有高方差的模型将大量注意力放在训练数据上,并且没有对以前从未见过的数据进行概括。结果,这样的模型在训练数据上表现很好,但是在测试数据上有很高的错误率。

偏差和方差与过度拟合如何相关?用超简单的术语来说,可以通过减少模型的偏差而不增加其方差来概括泛化的技巧。深度学习的一种良好做法是对它进行建模,以定期将产生的假设与测试数据集进行比较并评估结果。如果假设继续输出相同的错误,则说明我们存在很大的偏差问题,需要调整或替换算法。相反,如果没有明确的错误模式,则问题在于差异,我们需要更多数据。

综上所述

? 任何低复杂度模型-由于高偏差和低方差,容易出现拟合不足。

? 任何高复杂度模型(深度神经网络)-由于低偏差和高方差,容易出现过度拟合。

在区块链分析的背景下,偏差方差摩擦无处不在。让我们回到我们的算法,该算法尝试使用许多区块链因素来预测价格。如果我们使用简单的线性回归方法,则该模型可能不合适。但是,如果我们使用具有少量数据集的超复杂神经网络,则该模型可能会过拟合。

使用机器学习来分析区块链数据是一个新生的空间。结果,大多数模型在机器学习应用程序中都遇到了传统挑战。根本上,由于缺乏标记数据和训练有素的模型,过度拟合是区块链分析中无所不在的挑战之一

标签:区块链ARCINFFRA区块链的未来发展前景怎么样ARCONAINFO币FRAPPE

币安交易所app下载热门资讯
加密货币市场全线下跌 比特币奋力守住8300美元支撑

比特币在连续震荡了三天之后,昨天出现了大幅度下跌,并且跌破了8300美元,一度跌至8264美元。 当天早些时候,美国最重要的证券分析专家之一,布林带指标创始人约翰·布林格在推特上表示,最近的回调应该不会让投资者感到恐慌。 根据最新的价格走势,如果比特币价格进一步跌破8200美元,可能会在50日均线处,约8000美元附近寻找支撑。

日本社交媒体巨头Line获批4月在日本推出其数字货币Link

拥有7亿多用户的日本社交网络Line宣布,将从2020年4月开始在日本交易自己的数字货币。 该公司的数字货币名为Link,自2018年起开始使用,但由于日本的监管规定,在其本土日本市场和美国用户都无法使用。此后,该公司推出了自己的交易平台BITBOX,允许这两个地区以外的用户购买和交易加密货币。

Libra负责人:通过银行“批发”的央行数字货币毫无意义

社交媒体巨头Facebook区块链负责人David Marcus在达沃斯世界经济论坛中表示,通过银行“批发”的央行数字货币毫无意义。 据Cointelegraph报道,Marcus表示中央银行可以通过两种可能的方式分配央行数字货币。一种是通过现有的银行系统“批发”发行,另一种是通过零售直接向消费者发行。

瑞士主要银行公司Julius Baer推出加密货币服务

瑞士主要的私人银行和财富管理集团Julius Baer通过与受监管的加密银行Seba合作,推出了数字资产交易和托管服务。 据Cointelegraph报道,Seba于2018年4月成立,于2019年8月被瑞士金融市场监督局(FINMA)授予证券交易商和银行牌照。

金色趋势 |A股大跌莫乱了阵脚 对BTC有何影响?

今天迎来A股的节后开盘,受疫情影响,鼠年首个交易日,三大指数开盘集体下跌,上证综指跌8.73%,深成指跌9.13%,创业板指跌8.23%。超3000家个股跌停,逾3200只个股跌幅超9%。 而医药股现涨停潮,哈药股份、联环药业、江苏吴中、精华制药等医药医疗股大涨。

Cardano CEO驳斥“以太坊2.0复制Cardano”的说法

Cardano首席执行官Charles Hoskinson在推特上驳斥了“以太坊2.0复制Cardano”的说法。 Hoskinson在推文中指出这两个项目走在“不同的道路”上。Reddit用户Tradefeedz认为以太坊2.0与Cardano有很大的相似性。他特别指出,以太坊2.0测试网正在复制Cardano的某些架构。