金融的本质:效用跟风险在时空中的交换.比如保险就是把风险转嫁给保险机构,付一些保险费,得到效用就是保险带来的保障,这也是一个效用跟风险在时空的交换.这个其实在任何一个金融场景都是这样,不管你是中心化的去中心化的,都围绕着这个本质.所以我们在做金融的时候,其实都是在做风险跟效用之间的一个交换,两个纬度上,一个在时间一个在空间.
要保证金融体系能够稳定的运行:保证真实公平有效的金融体系,这个金融本质就无法实现,不管是中心化的还是非中心化的.所以中心化的金融体系里面需要什么样的机构,什么样的措施或者什么样的方式保证我们做效用跟风险在时空交换的时候,为了保证交易有效公平.比如说券商,投行,甚至央行,这就是中心化金融体系为了我们做效用跟风险交换的时候必须有的.这是中心化金融体系为了达到有效公平做到一系列的措施.
去中心化的金融体系奉行的代码就是法律,代码智能合约自动执行设好了所有关系和交换规则,这就是DeFi最核心的一点[Code is the law].同时是公开透明的,创造了一种信任,不需要监管或者政府背书,自然的成为了大家都相信的交易机制.同时用加密货币作为价值传输的媒体.去中心化体系虽然和中心化体系不一样,但都是保证风险跟效用交换的时候能够公平真实有效.
在传统的金融系统中,金融服务包括融资投资,储蓄,信贷,结算,证券买卖,商业保险和金融信息咨询等业务,都是由中心化的金融机构为用户提供的.比如跨国汇款通常要通过银行或者汇款公司进行转账,在这一过程中需要时间漫长,快则3-15天.因为有很多外界因素需要考虑,比如距离,是否有银行服务网点,货币环境是否稳定,外汇结算是否复杂等等.除此之外还有很多中介机构赚取差价.这样不仅手续费昂贵,而且手续繁琐.面对如此繁琐的交易环节,DEFI去中心化金融交易让金融机构看到了普惠金融的另个风口.
从2019年年初起,DeFi 成为区块链领域里的长线热点话题.提供DeFi服务的平台和产品也如雨后春笋般破土而出.纵观加密货币的发展,加密货币的进化过程伴随着混乱和希望,仿佛要在淤泥里孕育出纤尘不染的莲花,现在其中一朵叫做DeFi,被认为是目前区块链的发展前景之一.
去中心化交易所(DEX ) :允许用户交易比特币和以太坊等数字 zi 产.去中心化交易所是为了解决中心化交易所问题而产生,在中心化交易所用户不拥资产的私钥,所以无法掌控资产,而DEX 并不控制资产.
DeFi 平台优势 : 虚拟币管理无需信任任何中介机构,信任在机器和代码上重建;访问不受限制空间限制,没有中央控制权;所有协议都是开源的,因此任何人都可以在协议上合作构建新的金融产品.
DeFi和FinTech的区别:
DeFi是英文Decentralized Finance的简写意思是去中心化金融.而FinTech是Finance Technology的合成词成为做金融科技.
根本区别在于:Fintech 扎根于体制和信任,而DeFi 不受体制约束而且对信任的依赖性极低.比起传统金融,DeFi 更全球化,透明化,且易接触的,它可以让金融服务变得比现在更好.
1,Fintech是搭建专用程度很高的软件,而这是需要建立在信任的基础上执行,并且有条件的限制和审查.FinTech交易的最终结算层是实体,而实体指的是某个体制.FinTech没有使用加密方式确保交易的不变性,整个系统存在很高的政治风险,而且系统中的应用程序始终面临下架的风险.
2,DeFi是用一切即代码的基础上建立,透明公开.重点代码的逻辑的执行非常安全以及使用加密确保交易的安全.DeFi是交易发生在对信任依赖性极低且不受管辖的加密网络上的运行.因此二者的本质区别在于DeFi的运行不会受到体制或是技术上的限制,但也极易收到网络黑客的攻击的风险.
去中心化金融应用,包括:支付,借贷,稳定币,资产Token化,去中心化交易所等.目前在DeFi整个生态里面,以太坊占主流,其次是EOS.80%以上还是在以太坊,因为智能合约做得比较好.
去中心化交易所:区块链上所有虚拟数字货币都具有可交易性以及具有被大家承认价值的共同特点.那么这样的虚拟币就物有所值,就可以使用虚拟币进行金融交易.因此去中心化金融(DeFi)就形成了一个生交易生态圈.
支付:加密货币转账支付就是最简单的应用,这个过程不受任何企业或中间机构的干涉,而且最快只需要几小时甚至几分钟,手续费也很低.解决跨国交易的繁琐手续.
借贷传统贷款:由于DeFi平台去去中心化,所以无需担心个人信用问题.只要拥有合法的抵押物,就可以在合法的去中心化交易平台,通过抵押物借到合理的资金.只是每个DEFI交易平台的抵押物的比例和规则不一样.例如在Compound平台上,一笔10美元的债务将需要大约20美元的抵押物.
稳定币:通过发行通证,审计其储备和管理其价格挂钩的新模型在数字资产市场.稳定币只是区块链发行的通证,旨在与外部资产(主要是美元,黄金或其他资产)保持稳定挂钩,稳定币的波动要小得多.稳定币为用户提供诸如交换媒介和价值储存等服务,也可以作为其他加密货币的价值标识.比如USDT,MakerDAO,GUSD,USDC等.
DeFi:透明性,抗审查,不可窜改等.Defi去中心化的核心优势[无需准入]才是其核心价值.无需准入:有三个层级"开发者的无需准入"',"节点的无需准入","用户的无需准入",这些就是造就其自动化,强健性,及不可更改性的特性.DeFi无需信任基础,无需机构许可,资产控制权掌握在自己手中等.
1,DeFi代码即是法律:无需中间机构与仲裁机构.,用户也可以全盘掌控自己的资金.这种方式降低了提供和使用产品的成本,可以催生出更加和谐的金融体系;Defi框架是提前建立起来,部署应用程序非常简单并且完全可靠;Defi深化金融生态系统的开放程度,更好实现普惠金融服务.
2,高效:即便交易对手可能位于完全不同的地理位置,法律法规也不同,但所有操作几乎立即处理完毕.最重要的是,大多数DeFi协议都可在无人干预或少量人力参与的情况下进行.
3,公平:所有服务均完全无需许可,不受审查.
4,无需许可:任何能使用浏览器和接入互联网的人均可访问.无需文件验证,无需提供收入证明,不限国籍或种族,每个人都平等对待.
5,不受审查限制:没有其他方可以拒绝我们访问服务.即便有行为不良者,也无法改变充分去中心化系统的规则.
6,开放:任何人都可以构建新的Defi应用程序,为生态系统做出贡献.与传统金融相反,新应用程序可利用现有协议,构建于现有解决方案之上.
7,区块链上一切均透明可见:交易量,未偿还贷款数,总债务等.所有都能在区块链上检查获得可靠答案.而且这些数字不能被篡改.
1,用户数,活跃度,流动性,交易深度远远不够.比如在去中心化交易所DEX领域,像火币,币安都是中心化的交易所,交易的深度,广度活跃度是超越DeFi的DEX好几个数量级.比如MakerDAO是DeFi借贷最大项目,日活才两千人,但是一个中心化数字货币交易所日活都超过两万.在币世界发布的研究报告里面说整个DeFi用户大概有13万人.
2,多过依靠以太坊:由于以太坊的智能合约非常好用.所以研发DeFi大多用以太坊,但是以太坊用户量就比比特币少很多.扩大DeFi交易需要跨链,不仅跨链,而且跨虚拟币,并且接触现实中的资产,把这些资产能够上链,才有可能解决最大的问题.以太坊吞吐量受限制,无法提供更多吞吐量,所以DeFi就有有底层技术升级换代的影响.
3,产品用户体验有待提高:DeFi注册绑定钱包麻烦,转币繁琐.
4,跨链协议不够:资产跨链不够,稳定币Dai是以太坊为主,MakerDAO推出多资产抵押的贷.
5,资产利用率低,主要资产以抵押为主:Defi生态里面的衍生品,支付,稳定币,借贷,保险.其实主要还是以借贷为主,借贷为主资金利用率非常低.比如像MakerDAO是150%.就是放150个以太坊可以抵押出一百个Dai,相对不高的抵押率.资金利用率还是不够,传统金融体系里面刚刚可以放很高,因为经过KYC验证可以放贷和杠杆,但是现在在去中心化体系不容易.
6,链下资产上链:在以太坊,EOS,比特币上做DeFi的金融产品还不够.比如UMA是想把传统金融的任何资产都可以连到链上,比如说股票,比如说沪深指数,UMA提供预言机器Oracle,把下个月股票能到多少点跟DeFi上的产品对接起来,成为交易的依据,然后就可以在UMA协议里面实现资产上链的方式.
7,门槛高:由于市场,用户习惯,用户信任度等需要用时间来慢慢的在用户心里打下信心.
8,风险:传统金融服务需要准备许多资料并且严格的审核,才能建立个人信用体系.虽然手续繁琐发咋,但是为使用者及服务提供者提供了可靠保障.然而DeFi 的核心特性是无需准入,却也带来相对应的风险.
9,应用场景:DeFi 的应用场景有限,因为加密货币目前的实际应用仍受到很大的限制.
10,法规:市场政策对于加密货币仍然抱持暧昧的态度,相关法规不明朗清晰.
普惠金融:要求就很简单,普的意思就是用户多,惠的意思就是便宜.能够做到普惠金融,就是能够做到用户多又便宜的,能够有多又便宜地做到真实公平有效的风险跟效用的交换.
DeFi:因为准入门槛很低,不需要是超级大客户也可以用DeFi.只要上线只要买一点比特币,数字货币,以太坊,就可以使用DeFi.整个体系可靠透明和开放的,无对手风险.即使交易对手没有办法不去执行它,智能合约自动执行的时候,在链上的资产自动转换.如果DeFi发展起来是最有可能实现普惠金融的一种金融科技方式.
理论上的市场是可以达到万亿美元的市场.理论上现有中心化金融体系的全球GDP(100万亿以上)市场规模就是去中心化体系的理论上限.理论全球产生的GDP都是有可能被DeFi替代的.所以做一个换算,大概就是万亿美元以上.
(1)中心化身份:中心化身份是由单一的权威机构进行管理和控制的,现在互联网上的大多数身份还是中心化身份,比如ICANN管理的域名与IP地址分配,以及PKI(Public Key Infrastructure)系统中的CA(Cert
国际电子技术委员会将"身份"定义为"一组与实体关联的属性".这里的实体不仅仅是人,对于机器或者物体都可以是实体,甚至网络中虚拟的东西也可以是实体并拥有身份.随着互联网的出现和普及,传统的身份有了另外一种表现形式,即数字身份.一般认为,数字身份的演进经历了以下四个阶段:
(1)中心化身份:中心化身份是由单一的权威机构进行管理和控制的,现在互联网上的大多数身份还是中心化身份,比如ICANN管理的域名与IP地址分配,以及PKI(Public Key Infrastructure)系统中的CA(Certificate Authority)证书机构管理的数字证书.中心化身份系统的本质就是,中央集权化的权威机构掌握着身份数据,个人并不是真正意义上拥有自己的身份且身份在不同应用中无法互通.
(2)联盟身份:联盟身份的出现解决了中心化身份中身份数据零碎混乱的弊端,此种身份是有多个机构或者联盟进行管理和控制的,用户的身份数据具备了一定程度的可移植性,例如允许用户登录某个网站时,可以使用其他网站的账户信息,类似于QQ,微信或者微博的跨平台登录.
(3)以用户为中心的身份:在联盟身份提出后,身份系统就开始走向去中心化了.期间也有很多去中心化的标准,方案出现,比如OpenID.这种以用户为中心的身份将重点集中在去中心化上,通过授权和许可进行身份数据的共享.
(4)自我主权身份:自我主权身份才是真正意义上的去中心化的,完全由个人所拥有和控制的身份.该身份不止是人,包括组织,甚至未来也包括物品.这些人或者组织,物品不简单依靠于原先中心化权威机构,无法被拿走或者删除,而且是终身携带的身份.
分布式数字身份标识符是一种去中心化的可验证的数字标识符,具有分布式,自主可控,跨链复用等特点.它是由字符串组成的标识符,用来代表一个数字身份,不需要中央注册机构就可以实现全球唯一性.通常,一个实体可以拥有多个身份,每个身份被分配唯一的DID值,以及与之关联的非对称密钥,实体可自主完成DID的注册,解析,更新或者撤销操作.不同的身份之间没有关联信息,从而有效地避免了所有者身份信息的归集.DID本质上是一个全球唯一的地址标识符URL,在W3C的DID标准化文档中,将DID标识符的规范格式定义为:
前缀did是固定的,表示这个字符串是一个did标识字符串.中间的example被称为DID方法,就是用来表示这个DID标识是用哪一套方案(方法)来进行定义和操作的.这个DID方法我们可以自定义,并且注册到W3C的网站中.最后面的部分是在该DID方法下的唯一标识字符串.
在应用过程中,DID标识将具体解析为写有与用户身份关联的属性信息的DID文档,这个文档就是一个JSON字符串,与DID标识符形成键值对,描述的是与被识别对象进行密码验证交互所必须的DID主体标识,公钥,验证协议,服务端点等,例如下图是W3C官方提供的一个具体的DID文档示例:
我们一般是把DID标识作为Key,把DID文档作为Value存储到区块链中,利用区块链不可篡改,共享数据访问的特点,实现在验证身份时能快速访问获取可信数据.
数字身份凭证(声明集合)是指与身份关联的属性信息,往往是个人或机构对自己身份的声称和主张.声明可以由身份所有者自己发出也可以由发行人发出,其中由发行人发出的为可验证声明(Verifiable Credential,简称VC).可验证声明VC是一个 DID 给另一个 DID 的某些属性做背书而发出的描述性声明,并附加自己的数字签名,用以证明这些属性的真实性,可以认为是一种数字证书.下图为VC的基本组成结构示意图,其包括:(1)VC元数据,主要就是发行人,发行日期,声明的类型等信息.(2)声明,一个或者多个关于主体的说明.比如身份证作为公安机关颁发给我的VC,在声明中会包含:姓名,性别,出生日期,民族,住址等信息.(3)证明,通常就是颁发者的数字签名,保证了本VC能够被验证,防止VC内容被篡改以及验证VC的颁发者.它通过提供该种规范来描述实体所具有的某些属性,来实现基于证据的信任.DID持有者可以通过可验证声明VC,向其他实体(个人,组织,具体事物等)证明自己的某些属性是可信的.可验证声明VC可以表示现实事物所具有的相同信息.数字签名等技术的加入,使得可验证的凭证比其物理对等物更不易被篡改,也更值得信任.可验证的声明可以快速地传输,这使得它们在尝试建立距离上的信任时比物理对等物更方便.第三方根据他们的记录来确认声明是真实的.例如,一所大学可以证明某人在那里学习并获得了学位.来自权威的证明,要比能够伪造的证明更有说服力.
为了增强隐私保护,规范还定义了可验证表述(verifiable presentation),用于证明实体在特定场景下的身份角色属性.可验证表述是一种防篡改的描述,它来自一个或多个可验证凭证,并由披露这些凭证的主体用密码签名.无论是直接使用可验证凭证,还是从可验证凭证中获得的数据构造身份证明, DID 身份证明都将以可验证表述(verifiable Presentation)的方式进行出示.下图为VP的基本组成结构示意图,其通常包括:(1)VP元数据,主要包含了版本,本JSON对象的类型等信息.(2)VC列表,要对外展示的VC的内容,如果是选择性披露或者隐私保护的情形,可能就不包含任何VC.(3)证明,主要就是持有者对本VP的签名信息.
公钥基础设施(Public Key Infrastructure,简称PKI),其主要功能是绑定证书持有者的身份和相关的密钥对(通过为公钥及相关的用户身份信息签发数字证书),为用户提供方便的证书申请,证书作废,证书获取,证书状态查询的途径,并利用数字证书及相关的各种服务(证书发布,黑名单发布,时间戳服务等)实现通信中各实体的身份认证,完整性,抗抵赖性和保密性.下图为一个PKI系统的层级示意图.一个典型的PKI系统包括PKI策略,软硬件系统,证书机构CA,注册机构RA,证书发布系统和PKI应用等.其中PKI安全策略建立和定义了一个组织信息安全方面的指导方针,同时也定义了密码系统使用的处理方法和原则,它包括一个组织怎样处理密钥和有价值的信息,根据风险的级别定义安全控制的级别.证书机构CA是PKI的信任基础,它管理公钥的整个生命周期,其作用包括:发放证书,规定证书的有效期和通过发布证书废除列表(CRL)确保必要时可以废除证书.注册机构RA提供用户和CA之间的一个接口,它获取并认证用户的身份,向CA提出证书请求,它主要完成收集用户信息和确认用户身份的功能.证书发布系统负责证书的发放,如可以通过用户自己,或是通过目录服务器发放,目录服务器可以是一个组织中现存的,也可以是PKI方案中提供的.
传统的PKI数字证书体系需要CA来颁发,而在DID中也是分为颁发者,持有者,验证者,DID注册系统(也就是区块链),它们的具体关系如图4.2.7所示.DID认证过程中的主要角色有:
(1)颁发者Issuer: 颁发者是拥有用户数据并能开具VC的实体,也即证书的颁发机构,比如身份证就是公安机关作为颁发者,毕业证书就是大学作为颁发者.
(2)持有者Holder: 持有者是证书的持有人,它向颁发者请求,收到和持有VC,向验证者出示VC.开具的VC可以自我保存,方便以后再次使用,例如保存在钱包里.
(3)验证者Verifier:验证者是在我们使用证书时查看我们证书的人或者机构,它通过接受VC并进行验证,由此可以提供给出示VC者某种类型的服务.比如我们入住酒店,前台要验证我们的身份证,那么酒店前台就是验证者;再比如我们入职新公司时需要提供大学毕业证书,新公司HR就是验证者.
(4)标识符注册机构Verifiable Data Registry:标识符注册机构是我们存储了DID标识和DID文档的地方,它维护DIDs的数据库如某条区块链,分布式账本,通过DID标识可以在数据库中查询到对应的DID文档.之所以需有标识符注册机构,是因为验证者要验证VC,也要验证用户.验证VC用VC和发VC的Issuer,验证用户用DID和存DID的数据库.
相对于传统的基于PKI的身份体系,基于区块链建立的DID数字身份系统具有保证数据真实可信,保护用户隐私安全,可移植性强等特征.其优势在于:(1)去中心化:基于区块链,避免了身份数据被单一的中心化权威机构所控制.(2)身份自主可控:基于DPKI (分布式公钥基础设施),每个用户的身份不是由可信第三方控制,而是由其所有者控制,个人能自主管理自己的身份.(3)可信的数据交换:身份相关数据锚定在区块链上,认证的过程不需要依赖于提供身份的应用方.
当前,不同机构间存在着大量用户数据流通的需求.然而,由于各个机构之间通常难以组建有效的信任合作机制,因此,各机构间难以将各自保管的用户数据安全可信地授权共享给其他机构.通过分布式数字身份DID解决方案,可帮助机构间进行可信数据授权及共享,使得各机构可基于全面的数据为用户提供更高质量的服务.数据共享过程中的参与方为:用户,数据持有机构,数据使用机构,身份证明机构.其具体流程为:
(1)在身份证明机构,数据持有机构,数据使用机构间搭建区块链网络,机构作为节点接入并注册DID.
(2)由身份证明机构为用户生成DID.
(3)用户授权数据使用机构使用自己的数据.
(4)数据使用机构生成授权凭证(Credential),标明授权对象,数据属主,有效期,授权内容等属性,并使用机构私钥进行签名;数据使用机构可选择将授权凭证生成摘要并写入区块链,达到增信目的.
(5)数据使用机构出示授权凭证给数据持有机构.
(6)数据持有机构通过凭证验证(Verify)接口,验证授权凭证.
(7)验证通过,数据持有机构将数据发送给数据使用机构.
实际应用中IOT也可以与DID进行紧密结合,例如我们给每个IOT设备都分配其独一无二的DID,基于物联网+区块链+DID构建:商品溯源,车联网,智能制造,智慧城市等应用场景.
以制造业中的制造机器为例,每个机器都有一个DID,该DID是由机器的制造商生成并赋予每台机器的,当机器运转时会产生大量的生产数据,该机器会将数据签名,将非敏感生产数据,签名结果和DID上链.机器的制造商可以根据链上数据得知机器的运行情况,便于更好的售后保养服务.当企业需要贷款时,银行可以根据区块链上的生产数据,并结合机器制造商的背书,判断企业的生产经营情况,评估贷款风险.再以高价值商品的物联网防伪溯源为例,当每个商品被制造出来时,商家就为其IOT设备生产私钥并创建唯一的DID.因为私钥无法复制导出,所以只有在区块链上登记了DID的商品才是正品.而且商品的DID可以映射对应的非同质化通证,以数字化的形式表现商品的流转过程.
目前占主导地位的中心化云服务提供商包括:亚马逊网络服务(AWS),谷歌云,微软(Azure)以及阿里云,四大巨头总共占据了71%的市场份额.行业老大亚马逊(AWS)的规模是老二微软(Azure)的三倍,其中亚马逊,谷歌和微软的市值均超过万亿美元.
但随着行业的发展,云计算逐渐从屠龙少年成为了恶龙.目前该市场呈现以下多个缺点:
高度集中,寡头垄断 -  - 四家巨头占据超过70%市场份额;
大型云服务提供商利用已有市场,轻易复制小企业产品并进行捆绑销售,打压竞争对手,极大打击了创新性;
产品定价效率低下,大型服务商在形成垄断后,随意提高产品价格,用户只能被迫选择有限的产品;
最重要的是,用户的数据隐私以及自主权得不到保障,平台出卖用户数据的丑闻时有发生.
因此,云计算市场亟待一场范式转移.这便是Akash诞生的理由,作为首个去中心化云计算市场.
目前世界上有大约840万个数据中心,其中85%服务器容量未被充分利用,Akash的去中心化云计算市场将如何彻底改变和重新定义云市场.
为什么要用Akash
Akash基于跨链双雄之一Cosmos,采用Tendermint技术,引入了区块链的天然优势,具备以下多个优势:
去中心化:Akash提供可信的执行环境,网络启动后,即使团队停止开发,用户仍然能正常使用Askah.
无需许可:只需要按照标准接入市场,人人可自由出借算力获取收益,人人可按需借用算力.
成本更低:Akash用户直接出价,供应商竞价获取该任务.买卖直接受供需关系影响,能提供更合理的价格.根据测试数据,Akash的云计算成本比现有市场提供商(AWS,谷歌云,微软Azure和阿里云)低10倍.
什么是Akash
抗审查,无许可,自治,Akash Network 是全球首个开源云计算市场.
Akash 是世界上第一个去中心化开源云平台.
作为第一个开源云,和唯一可行的可替代中心化云服务商(如亚马逊AWS,谷歌云和微软 Azure)的去中心化云提供商,Akash 主网2赋予开发者摆脱传统云基础设施限制的能力. 该平台通过使开发人员和公司能够将其云基础设施去中心化的方式,以更快,更高效和更低的成本部署应用程序,加速区块链生态系统的增长和规模.
通过 Akash 平台,计算能力未得到充分利用的个人,公司和数据中心也将能够盈利,通过将其的云计算资源租给需要的人, 收回服务器维护和资本支出的高昂成本.
最近, Akash 宣布了与 Equinix Metal 进行整合(Equinix Metal 是全球最大的数据中心和主机托管供应商,在25个国家拥有220个数据中心),从而为云基础设施的访问提供全球化,低延迟和高性能的优势.
作为 Akash Network 的联合创始人兼 CEO,Greg改变了云计算的未来.在加入Akash之前,Greg 创立了全球最大的黑客马拉松组织 " AngelHack ",其在全球50个城市拥有超过15万名开发者.
作为一位著名的开源分布式系统,区块链开发者及意见领袖,经济学家,Greg 在AngelHack时,曾帮助创办了多家可就企业,包括2014年被谷歌收购的Firebase公司.
他在IBM开启了自己的职业生涯,后来设计了Kaiser Permanente的第一台云端架构.Greg 经常获邀出席演讲,并曾在参议院提供第一份专家证人证词,对加州第一部区块链相关法律的通过起到至关重要的作用.
更早前,他在音乐货币化平台 Topspin 担任工程师一职,Topspin 先是被 Beats 收购,随后一起被苹果公司收购.
联邦学习机理如下:设备下载云端最新的共享模型,本地改进和训练,个性化后的模型被抽取为一个更新文件,将差异部分加密上传云端,在云端和其它设备上传的最新模型差异做平均化更新,以改善共享模型. 网络的上传
1,原子操作(atomic operation)指的是由多步操作组成的一个操作.如果该操作不能原子地执行,则要么执行完所有步骤,要么一步也不执行,不可能只执行所有步骤的一个子集.
2,联邦学习为移动设备上的模型共享创造可能,模型训练与云端存储解耦,移动端存储训练数据,并进行模型训练和进化.
联邦学习机理如下:设备下载云端最新的共享模型,本地改进和训练,个性化后的模型被抽取为一个更新文件,将差异部分加密上传云端,在云端和其它设备上传的最新模型差异做平均化更新,以改善共享模型.
网络的上传速度通常比下载速度慢,谷歌开发出一种新颖的算法:"random rotations and quantization",将上传更新的通信速度提升为原来的100倍.这些算法都聚焦在深度学习的训练上,还针对点击率预测的问题设计出了"high-dimensional sparse convex"模型.
差分隐私是用来防范差分攻击的,我们对加入新样本后的结果查询中加入噪声,使得攻击者无法辨别某一样本是否在数据集中,即达到双兔傍地走安能辨我是雄雌的境地.
4,智能合约,类似于实际合同效力,在计算机语言描述和实现,在没有第三方参与的情况下进行合约的触发和执行.
智能合约区别于传统合约:
横向联邦学习适用于联邦学习的参与方的数据有重叠的数据特征,即数据特征在参与方之间是对齐的,参与方数据样本不同.纵向联邦学习 适用于联邦学习参与方的训练数据有重叠的数据样本,即参与方之间的数据样本对齐的,但数据特征上不同.
二,钱学海团队的研究成果:
1,钱学海认为,分布式训练系统的核心问题是不同计算设备的通信以及由于计算和通讯性能的差异带来的异构性,具体可以看做面临三个方面的挑战,分别是:通信(Communication),异构性(Heterogeneity)和多因素交互的复杂性 (Complex Trade-offs ).
(1)通信:早期分布式训练是一个中心化结构,每一个worker会把自己计算得到的梯度上传到中心节点,中心节点对all worker 的梯度平均化处理,再传回各个worker.存在中心节点通信瓶颈问题;第二代分布式训练系统结构是Ring-All-Reduce,节点同步环+并行流水线工作机制,通信更加高效,但当每个worker的运行性能差距较大时,系统性能受限于运行效率最低的worker.
(2)异构性:确定异构性(Deterministic heterogeneity)和 动态异构性(Dynamic heterogeneity ).确定异构性是指不同的设备通常有不同的计算能力(比如:采用不同的GPU或 TPU系列),并且设备或节点具有不同的网络通信性能.动态异构性是由资源共享造成的,即同一个设备对不同的应用提供的计算性能不同.分布式训练系统下会产生Slow Worker,被称为Straggler.Straggler问题亦称之为异构性问题,即平台上Worker具有不同的运行性能时,整个系统的性能受限于运行效率最低的Worker.
(3)复杂性:全局考量系统设计,如考虑并行性与通信之间的关系,一般采用Data Parallelism 和 Model Parallelism
去中心化方法下,可定义任意模式的通信图.提供了一个更灵活的通讯方式.每一个节点的运行过程如下:
根据Min-batch数据和当前的模型进行梯度计算,并更新模型;
接收其他Worker的参数,并进行Reduce操作;
更新模型参数,进入下一个Iteration.
此训练中的同步是指每个Worker在做Reduce操作时,所有的参数应该出自同一个Iteration.这是在构建去中心化分布式训练系统中独特的一个问题,在PS和Ring All-Reduce中都不存在这样的问题,因为它们有一个非常自然的中心节点或者有一个同步的操作去划分Iteration.
基于队列的同步算法(Queue-based Synchronization),该算法应用于同步算法系统设计中,主要解决两个问题:(1)系统应该能够自适应按需分配资源,而不是持续分配资源(2)Backup Worker是解决异构问题的一种技术,它能够控制同步的松紧程度(Bounding Iteration Gap),但会造成无穷大的Iteration gap
基于队列的同步是指每个Worker有两个队列:Update Queue(UQ) 用来存储邻居发送来的信息,Token Queue(TQ) 用来控制同步.假设在部署协议时,设定Iteration Gap的最大容忍是2,则TQ的Token数最大为2.协议开始执行以后,每一个Worker都可以向其他Worker发送参数更新.Worker要想进入下一个Iteration,必须要从邻居的TQ中获取Token放入自己的TQ当中.如果C要进入下一个Iteration,必须先从TQ_A->C和TQ_B->C中获取token,分别放入TQ_C->A和TQ_C->B中.
解释上述提到的Backup技术控制Bounding Iteration Gap,设Number of backup = 1,若A出现Slowdown,B和C仍然可继续进行.当B和C进入Iteration(2)之后,由于A仍然在Iteration(0)且A的TQ中已经没有token了,所以B和C也会停止.这样就确定了Iteration gap的边界.这个边界值是由TQ的长度决定的
去中心化异步训练算法的代表:深度学习异步去中心化随机梯度下降算法Asynchronous Decentralized Parallel SGD(AD-PSGD),其核心思想是通信的随机性(worker的迭代是随机选择的)以及worker之间进行原子性操作.
原子性操作的两个作用:(1)两个串行操作执行完以后,w(2)的模型更新中也包含w(1)的模型更新,(2)模型的收敛速度会大大提高.
原子性操作也存在弊端,参数大量同步成本,训练过程中,AD-PSGD在不同的数据集上训练的同步开销都比Ring All-Reduce要大.在异构环境下,AD-PSGD的收敛速度比Ring All-Reduce要快;在同构环境下,则相反.
鉴于上述挑战,Partial All-Reduce算法应用于异步算法系统设计中,应运而生,它主要解决两个问题:1)如何让同步操作本身更快;2)如何减少冲突,降低由于串行操作带来的延迟.
概算法的核心思想是worker Group 代替worker 同步,首先,Group Generator 产生不冲突的分组,每个节点一个分组,每个分组内部有一个Head worker进行节点之间的同步,组内同步不需要进行节点之间的通信,避免了网络拥堵的问题.
长期以来,网络有了很大的发展,其目前的应用与最初的时代几乎不可... 随着去中心化的区块链协议开始取代主导当前互联网的中心化网络服务,我们将开始看到真正基于互联网的主导地位.未来的互联网将不会是中心化的.
第一次制作unity程序,目标是一种去中心化的社交软件.
去中心化及其局限性 这张表总结了一部分新的 P2P 网络中的去中心化工具.区块链就是其中的一个! 本次演讲我将提出三个问题:(1)去中心化是什么?我们真的知道答案吗?(2)我们真的想要去中心化吗?去中心化交易所是去中心化金融领域最热门的课题之一.
什么是点对点?什么去中心化?