一、前言
开门见山,以太坊数据同步是以节点作为数据载体存放和传输主要以Header,Body,Reciept组成的数据主体,通过以太坊p2p通信协议管理数据同步事务,最后交给执行器执行最后的数据下载任务。
那么问起数据主体我们进行同步需要同步哪些数据?不同数据又是否需要分类同步?
知道创宇区块链安全实验室?进行了全面而详细的分析。
二、数据主体:
进行数据同步首先需要明确我们同步的数据主体由什么组成,笼统来分有两类,一类不需要节点发送主动同步请求,节点会在完成数据打包的时候自行向网络广播,这一类数据有三种——完整block,区块hash,和交易Transaction。而我们今天重点探讨下一类数据。
第二类数据是需要节点主动发送同步请求随后其他节点响应才能进行同步的数据,除了第一类数据其他需要同步的数据都属于第二类,所以可以说他的种类更加繁杂,而其中最重要的也有三种——区块头Header,区块体Body,交易回执Receipt,跟第一类不同这三者可以说都是完整区块的某一组成部分,这也显示了主动同步希望节点进行数据同步时范围自由可控,能够优先同步必要数据而放弃同步暂时非必要的数据。
Kraken交易所开通澳元交易对 支持七大币种:在收购了澳大利亚交易所Bit Trade之后,Kraken今日开通澳元的交易对。澳元可以与BTC、ETH等七种数字货币兑换。(Cointelegraph)[2020/6/17]
?Header表示区块头,在区块里扮演这相当重要的角色,ParentHash会记录上一个区块的区块hash,uncleHash会记录叔块hash,coinbase则标识矿工地址。Root,Txhash,ReceiptHash这三个分别是statetrie,txtrie,Receipt.trie三个前缀树的根节点RLP编码hash一个用于描述世界状态,一个用于描述交易,一个用于描述交易回执。bloom是区块头中的布隆过滤器用于快速判断目标hash是否在某个集合中。Header中以上数据都是区块头用来对区块以及区块中重要数据模块利用hash进行标识的。剩下的数据则各有他用不细赘述。可以看出一个区块头其实已经将一个区块框架基本描述出来了这也为后面谈到的数据同步策略埋下了伏笔。
?Body就比较简明了,里面包含一组交易对象,和一个叔块的区块头数组。
?Receipt是区块中所有交易对象在执行完成后生成的一个数组,用于记录交易处理信息。他们会在生成后被逐个插入到Receipttrie中同时也会生成区块头中的ReceiptHash。一个交易回执记录了三部分信息用于交易的管理和标识,第一部分为共识部分,PostState,Status,CumulativeGasUsed,Bloom,Logs只有这五个数据在ReceiptRLP会被encode构成回执hash随后回执hash会参与共识的校验,第二部分数据是交易部分,TxHash指的是交易回执所对应的交易哈希,,ContractAddress是当这笔交易是部署新合约时记录新合约的地址,GasUsed表示该笔交易的Gas使用量,第三部分是区块部分,他记录的是BlockHash区块哈希,BlockNumber当前区块数,TransactionIndex该交易在区块中的序号。对于Receipt在数据同步策略中有着直观的区别,下文说到的fullSync和fastSync最直观的区别就在于到底是同步对端的Receipt,还是本地自行生成Receipt。
公告 | BBKX平台ETF专区已于今晚9点新增4大币对:据BBKX.COM公告披露,平台ETF专区已于今晚21时新增BCH、LTC、ETC、BSV四大主流币种,管理费仅收千分之一(每倍)。
ETF是锚定数字货币价格变化的指数基金,在倍数杠杆的作用下,无论行情涨跌,投资者都能以小博大,获取更高收益,是衍生品的重要部分。相较于现货杠杆和合约来说,ETF具有简单易学、操作方便、无需借还、免保证金、永不爆仓、复利计算等独特优势。
创始人MAX表示,BBKX将凭着团队背景和优势,专注做好衍生品交易业务,将平台的发展红利与所有用户共享。
BBKX成立于2019年6月,已获得节点资本和链上产业基金联合战略投资。[2020/2/17]
三、数据载体
数据传输载体为peer节点,这个数据载体peer,如果你在源码里面去认真寻找你会发现,某些角落里就能找到一个peer.go.首先我列出有关数据同步模块我所找到的peer结构。有p2p/peer.go?,eth/peer.go,les/peer.go,eth/downloader/peer.go。以太坊的网络也有传输层,会话层,表示层和协议层。
那p2p包中的peer扮演了一个底层的节点模型,传输层会基于UDP协议发现相邻peer并维持peer连接,还会基于TCP协议建立peer之间的信息交流通道。会话层Peer管理主要管理的是节点和上层子协议的交互,而NodeTable管理主要管理的是底层基于udp协议构建的节点连接表table。所以p2p这一层的peer节点他需要能获取和开启子协议的能力,还需要有ping通其他节点的能力当然还要去接受其他节点消息。这就体现在p2p/peer.go中的3个重要功能模块,pingLoop,readLoop,startProtocols而这也是peer.run()方法里的3个函数。
行情 | 三大币种24小时成交额均下降:根据公开数据显示, 24小时成交额排行中成交额排名第一的是比特币,平均成交额2999025万人民币,与之前成交额数据相比下降355389万人民币,下降幅度约为10.59%,占比降为28.08%;排名第二的是泰达币,平均成交额2536142万人民币,与之前成交额数据相比下降361795万人民币,下降幅度约为12.48%,占比降为23.74%;排名第三的是以太坊,平均成交额1194591万人民币,与之前成交额数据相比下降388898万人民币,下降幅度约为24.56%,占比降为11.18%。[2018/8/17]
可以看出上面是底层peer结构,下图则是子协议层的peer结构,不同的子协议层会有不同的peer结构,这也就是为什么会有eth/peer.go和les/peer.go毕竟不同子协议应用于不同的数据场景。
我们可以看出数据载体有底层peer,和子协议层peer,而进行数据同步需要利用通信协议管理连接两层peer,由底层实现peer的消息分发,消息的监听,子协议层peer执行数据的下载和同步,而这两层之间就需要非常重要的protocolManger进行管理和沟通。
四、数据同步流程
以太坊社区会议EthCC已有七名参会者确诊感染新冠病:截至2020年3月14日,确诊感染新冠病的以太坊社区会议EthCC参会者包括以下7名以太坊社区成员:1. Torus联合创始人Zhen Yu Yong;2. 德国软件工程师、独立开发者Afri Shoedon;3. ERC-777代币标准创建者Jacques Dafflon;4. 以太坊预测平台Gnosis的Marco;5. Atpar.io的Johannes Pfeffer;6. 投资银行家和加密爱好者Werner Jacob;7. 信息由Rotki的Lefteris Karapetsas提供,但他没有透露感染者的姓名。(U.Today)[2020/3/15]
那么如何启动protocolManager呢?我们上面介绍了peer结构,他主要是代表远程其他节点,在以太坊中还有一类同样是代表了节点的结构Node,他主要代表了本地节点自身会稍微有点区别,而节点想要启动p2p网络就要依靠本地Node模块,其中利用Node.Start()函数开启了两个任务,一个是启动EthereumService,其中的Ethereum.start就启动了protocolmanager;另一个是启动p2p.Server,新建并刷新K桶,开启UDP端口监听,同时监听TCP端口,处理从远端节点发来的message。
声音 | 开发人员:以太坊若实施ProgPow升级会导致其哈希率大幅下降:区块链开发人员Danno Ferrin表示,以太坊若实施ProgPow升级会导致其哈希率急剧下降。其解释,最大的原因是ProgPow中完成的工作比Ethash的工作“困难’”两倍,其中部分原因在于这是内存密集型(memory-hard)算法;第二个原因是不同的ProgPow周期有不同的哈希率。他认为,计算PoW(工作证明量)的程序将根据区块编号进行更改,并且每十个块就会生成“不同的随机生成程序”算法。此外,Ferrin称,哈希率的下降会对出块时间和难度炸弹产生影响。[2019/4/25]
当protocolManager启动了之后,他就开始需要连接底层逻辑层peer和顶层协议层peer:
当启动了protocolManager,首先节点会进行初始化,调用NewProtocolManager,初始化的过程中会调用SubProtocol函数向地城p2p.peer获取一个消息读写通道,然后再构建一个消息处理器Handle,Handle,他不仅会接受请求同步的消息,也会接受节点响应的消息,在protocolManger的start方法中他会启动一个定期同步协程syncer,他会根据消息通知调用fecher或者downloader执行器执行数据同步。
数据同步模式
主动数据同步指的是本地节点自发的向相邻节点请求区块数据,数据入口在eth/downloader/downloader,和eth/handler里
被动数据同步指本地节点收到其他节点数据同步消息而后请求区块数据,数据入口在eth/fetcher/fetcher.go
主动同步流程我们以主动同步为例,当调用downloader执行器时,他会先调用findAncestor找到本地链和远程链的共同祖先,从共同祖先开始同步,他会配置4个fetchers,分别是fetcherHeader,fetcherBodies,fetcherReceipts,ProcessHeaders最后根据同步模式调用收到processFullSyncContent和processFastSyncContent最后调用spawnSync执行同步。
以上为同步过程的源码,从源码里可以看出主要的下载任务是集中在他构造的可拓展fetchers里,他是一个fetcher任务队列。而根据不同的数据同步策略他的fetcher任务队列不仅构造不同,fetcher之间的协作流程也不尽相同。
五、数据同步策略
fetcher任务队列的作用概括起来就是在进行,数据填充,数据组装,和最后的数据插入。而其中填充什么样的数据,那些数据需要组装,什么时候插入数据,均由一个重要的数据结构mode进行标识,他代表了数据同步策略,主要分为三种。
lightSync?:轻节点同步,数据填充的时候只填充区块头数据,不需要进行数据组装,调用insertHeaderchain直接插入区块头。
fullSync?:全节点同步,数据填充的时候需要填充区块头Header,区块体Body,但不填充交易回执Receipt,将数据组装到结果集Result,之后调用importBlockResults将结果集内数据插入到主链,和lightSync区别在于轻节点同步没有区块体,所以他不会执行和验证交易而fullSync全节点同步会在插入数据的同时执行交易并验证这也是他为什么同步速度慢的原因,之后会自行生成交易回执Receipt,所以他在填充组装的时候不需要Receipt参与。
fastSync?:快速同步,数据填充的时候会填充Header,Body,同时也会填充Receipt,然后组装3个数据,执行数据插入,而在执行数据插入的时候和fullSync,lightSync完全不同,他调用的commitFastSyncData这个函数和fullSync全节点同步调用的importBlockResults不一样他不会执行交易而只是提交同步数据,所以他为了保证安全加了一步验证获取来的交易回执。而这也才是快速同步的一部分,快速同步为了保证数据的安全性古老的区块会使用上述方法同步,对于时间上来说比较新的区块会使用fullSync的同步模式进行同步。用而言之就是fastSync会快速同步一大部分而一小部分还是会按照fullSync的同步模式同步。
六、结语
以太坊数据同步非常复杂,他涵盖了其网络架构,通信协议管理,数据传输通道的相互配合,数据同步策略的安排,以及加速数据同步速率的算法。其中还有众多细节和逻辑关系。而数据同步是区块链节点和外界通信的基石他还有更多的架构彩蛋令人拍案叫绝。期待后续文章和大家分享。
标签:EERPEERNFTSYNCseer币创始人usepeerethereumGalactic Arena: The NFTverseSYNCBRAIN币
1、研究院短评 这是第一个社区化的opensea空投代币,目前已经有十几万的用户领取了空投代币。是一个fairlanuch的项目,未来大概率会依靠获取的用户开发运营新的产品.
尊敬的XT.COM用戶:應項目方要求,XT.COM將恢復FFF上線時間,相關時間調整如下:充值:2022年3月24日18:00交易:2022年3月25日18:00提現:2022年3月26日18:.
头条 萨尔瓦多向Binance寻求比特币采用方面的支持萨尔瓦多驻美国大使MilenaMayorga本周三表示,该国正在寻求加密货币交易平台Binance的支持.
亲爱的大币网用户: KLAYTN将于区块高度达到86,816,005时)进行硬分叉升级。大币网为降低该期间市场剧烈波动导致的交易风险并保证用户的资产安全,将暂停KLAYTN充提业务,具体安排如下.
尊敬的用户:????????? ?? BKEX举办的"MILO充值交易大赛,瓜分600,000,000,000MILO"活动已于2021年3月1日15:00圆满结束.
Dcoin合约体验金首轮福利即空降合作社区,双重福利,惊喜不尽,单用户最高可获310USDT!活动时间:2022.03.28-03.31活动详情:福利一:社区新人专享1、报名社区新用户注册即可获.