把大数据分析所需的产品功能全部融入一个平台下,进行统一管控. 为各种规模的企业提供灵活易用的全业务链的大数据分析解决方案,让每一位用户都能使用这一平台轻松发掘大数据价值,获取深度洞察力.
大数据是继云计算,物联网之后IT产业又一次技术变革."大数据"是公司在日常运营中生成,累积的用户网络行为的数据.这些数据的规模庞大,以至于不能用GB或TB来衡量.对金融行业而言,虚拟化及电子化交易将成为大数据时代金融行业发展的特征.因此,积极针对大数据布局,从战略层面应对大数据时代的挑战,推进并建立起数据驱动型发展方式的金融机构将获得比同业更高的效率.以有效提升交叉销售,投资管理市场份额及能力,并由此培育出自己的信息核心竞争力.
如今,数据已经成为非常重要的资产.以前人们还只是把它看做是一种附属物,客户来办理业务,在系统中产生了这种附属物.而现在,发现在客户办理业务这条信息中,蕴含着一些客户的需求,成千上万条这类信息累积下来,就能洞察客户需求,而设计新产品,为客户个性化营销产生新的价值.数据变成一种资产了,还需要被管理起来.拥有数据的规模,灵活性,以及收集,运用数据的能力,将决定企业的核心竞争力.掌控数据就可以深入洞察市场,从而做出快速而精准的应对策略,这意味着巨大的投资回报.因此企业的IT部门将从"成本中心"转变为"利润中心".而数据将成为企业的核心资产.
企业战略将从"业务驱动"转向"数据驱动".数据化决策是企业未来发展方向.过去很多企业对自身经营发展的分析只停留在数据和信息的简单汇总层面,缺乏对客户,业务,营销,竞争等方面的深入分析.如果决策者只凭主观与经验对市场进行评估而制定决策,将导致战略定位不准,存在很大风险.在大数据时代,企业通过收集,分析企业内部和外部的数据,获取有价值的信息.通过挖掘这些信息,企业可以预测市场需求,进行智能化决策分析,从而制定更加行之有效的战略.
大数据最至关重要的方面,就是它会直接影响企业怎样做决策,谁来做决策.在今天的整个商业世界中,人们仍然更多依赖个人经验和直觉做决策,而不是基于数据.在信息有限,获取成本高昂,而且没有被数字化的时代,让身居高位的人做决策是情有可原的,但是大数据时代就要让数据说话.
面对大数据的挑战,战略层面上,金融企业应当建立"数据驱动型"发展模式,完善数据运营体系,落实大数据运营中心.战术层面上通过运营优化,管理提升,风险控制等应用全面提升金融核心价值和竞争力.
银行大数据运营中心建设的当务之急应该围绕运营优化,管理提升,风险控制三大建设目标,主要体现为:
1,以用户数据为核心的运营优化,通过客户画像,精准营销,产品优化,舆情分析,市场和渠道分析,全面提高运营效率.
2,以投入产出与价值贡献为导向的管理提升,通过绩效考核,领导驾驶舱,管理会计平台等应用真正实现精细化管理.
3,利用多维度的安全判断和更细粒度的建模及预判实现中小企业货款评估,实时欺诈交易分析,反洗钱业务分析等应用加强对商业银行风险的识别,评价和预答,有效防范金融风险.
1,ETL层:采用PC server作为ETL前置机.将数据清洗,转换,装载.
2,离线分析计算平台:采用Hadoop分布式存储.支持结构化和非结构化数据存储并且当数据量增大时方便横向扩展(Scale-out).可将存储层的数据进行加工.根据分析需要,可进行数据模型计算,挖掘分析等时效性低的大规模批量计算任务.
3,实时在线分析平台:采用永洪高性能MPP数据集市作为介质.MPP分布式的数据集市支持高并发和高可用,每个数据集市是基于一个主题做好轻量建模的细节数据,数据被分布式存储在每个节点上,同时又做好了备份.数据按照列存储的方式,被高效压缩,打好标签,存储在磁盘中.当需要查询计算时,采用内存计算来进行数据计算,并且每台机器节点会同时计算,最终会将结果送应用层做展现.
4,应用层:利用永洪敏捷BI提供自服务分析工具,对离线和在线分析平台中的数据进行自服务可视化展现.无论是终端用户还是IT开发人员都可以通过主流浏览器来访问BI系统,用户还可通过移动终端来访问系统.BI系统提供系统监控,权限多级管理,多维数据分析等等功能,还支持自服务式报表设计和数据分析.
整个系统架构,摒弃了传统系统常见的向上升级(Scale-Up)的思想,不管是数据集市还是BI前端,都支持横向升级(Scale-Out).随着企业的业务增长,数据分析需求都会大幅增长,基于X86 PC Server集群的平台架构十分关键.在这种架构下,我们不用采购昂贵的小型机去支撑高并发,去支撑海量数据计算,去支撑数据分析业务的发展,而是采购多台普通的PC Server搭建集群,建设高性价比的分析平台.
数据层敏捷:数据层无需做数据的预先汇总计算.传统的架构需要将数据提前按照能考虑到的所有维度的组合,以及所需的指标进行汇总,或者通过打Cube的方式预先计算好.但敏捷BI的方式是:只将数据关联做好,导入的数据还是细节数据,所有的计算都是在用户点击时发起实时计算.因此,数据层只需再建立一个轻量模型,导入新需求的细节数据即可.
应用层敏捷:采用灵活的ROLAP机制,每个点击发起的需求都会实时拼出SQL,送给计算层去计算,比较容易适应业务变化.模块层次少,建模完就可以直接设计报表和Dashboard,或进行探索式分析.因此对于终端用户来说也简单易用.
基于主题的集市,已经将物理表结构在语义上转义成便于理解的逻辑结构,终端用户通过拖拉拽的方式可以轻松自定义报表或仪表盘.
前端系统的交互和分析能力:过滤,钻取,缩放,关联,变换,动态计算,链接等等.用户通过发现问题,找到答案,做出商业决定,形成探索式的分析.
离线分析平台和在线分析平台都是分布式架构.数据存储是分布式的,数据的计算也是分布式的,还带有备份机制和监控机制.当某一台机器宕机,其他机器会自动承担所有计算.该分析计算平台应用广泛,有的电信级客户的数据量已经达到了上百T,依旧运行稳定可靠.该分布式数据集市支持对计算和存储节点进行热插拔扩展.可以从一个节点扩展到几十个甚至上百个节点.
在线分析平台支持高并发.数据集市作为计算层,支持分布式计算,采用MapReduce架构来提高计算效率.BI前端可直接连Oracle或Hadoop,但是不建议采用Oracle或Hadoop来支撑高并发的OLAP系统.因为,Oracle是行式存储的,在OLTP系统能支持好高并发,但支持不好高并发的OLAP系统;而Hadoop系统作为高性价比的仓储系统,也不适合于做实时分析系统.永洪科技的分布式数据集市,是列式存储的,采用良好的内存计算技术.可基于多台存储和计算节点并行工作.非常适合海量数据的实时数据分析.
随着移动互联网,物联网,云计算等新兴信息技术在社会,经济各个领域的不断应用,全球数据量正呈现出前所未有的爆发式增长态势.与此同时,数据类型及来源的多样性,数据产生与分析的实时性,数据的低价值密度等复杂特征日益显著,标志着"大数据"时代的到来.
电子商务大数据伴随着消费者和企业的行为实时产生,广泛分布在电子商务平台,社交媒体,智能终端,企业内部系统和其它第三方服务平台上.电子商务数据类型多种多样,既包含消费者交易信息,消费者基本信息,企业的产品信息与交易信息,也包括消费者评论信息,行为信息,社交信息和地理位置信息等.移动智能终端对电子商务的影响越来越大,移动终端的移动性,便捷性和私人性等特征促进了移动电子商务的快速发展,产生了大量的电子商务数据.对电子商务数据进行挖掘,创造价值,将成为电子商务企业的主要竞争力.
大数据等新一代信息技术推动来自各个渠道的跨界数据进行整合,促使价值链上的企业相互连接,形成一体.地理上分布各异的企业以消费者需求为中心,组成动态联盟,将研发,生产,运营,仓储,物流,服务等各环节融为一体,协同运作,创造,推送差异化的产品和服务,形成智能化和快速化的反应机制.大数据时代企业间通过信息开放与共享,资源优化,分工协作,实现新的价值创造.
电子商务系统产生了海量数据且数据增长速度越来越快,导致数据查询及报表生成速度变慢,使用率也不高,是垃圾还是价值?该如何管理利用?
大多数传统ERP系统,订单系统,运维系统,供应链系统中,已有简单的分析统计图表,但数据格式比较单一,灵活性差,交互性低,管理者难以对全院数据有很好的认知.
管理决策时,不能迅速从底层数据中提取关键数据,以数据驱动运营方向,只能通过运营部门,订单部门,供应链部门的统计报表及各个离散系统中的统计报表进行管理决策.
1,数据层:整合电商企业信息系统.打破信息孤岛.实现数据共享.
2,建模层:根据数据决策方面,销售方面,运营方面关心的指标不同.建立不同分析主题集市.
围绕会员方面,对用户所在地,所关联平台来源,线上线下行为,滞留时间,支付方式等角度进行数据分析挖掘,优化推广决策,提高捕获新用户能力.
围绕商品方面,对单个产品,单类产品,价格,利润等角度进行数据分析挖掘,提高商品核心竞争力,优化库存管理.
围绕利润方面,对客单价,人效,坪效,同比利润,环比利润,促销影晌等角度进行数据分析挖掘,从容掌握合理定价.制定销售策略.
围绕服务方面,对用户反馈,售后率,退换货监控,会员更新频率等角度进行数据分析挖掘,帮助电商企业合理规避风险,提升产品质皿竞争力.
·围绕流量方面,对各个平台带来的用户,会员,利润,销量等角度进行数据分析挖掘,提高流量负载,合理拓展平台服务商.
围绕供应链管理,对各个供应链的供应时间,供应周期,供货质且进行数据分析,有效地对供应链进行选择,评判,优化.
4,展现层:以丰富美观的图表展现方式,灵活多变的交互方式,将分析结果呈现给各角色管理人员.
1,基于永洪电商数据分析平台,决策层,管理层可以洞察全企业运行状况.
2,从容应对电商平台迅速增长的数据,基于明细数据,任意业务的计算及展现,均可达到秒级响应.
3,业务部门都能做部分自服务分析,以满足实时探索分析需求.
伴随互联网的快速发展,所产生的数据成为国家基础性战略资源,大数据的应用已然成为"提升政府治理能力的新途径".借助大数据手段推动政府管理理念和社会治理模式的进步,实现国家治理体系和治理能力的现代化,使得政府治理由封闭管理转向开放治理,由单向管理转向协同治理,由定性管理转向定量管理,由粗放管理转向精准化管理,大数据成为政府治理能力现代化最重要,最有力的推手.
我国政府正在经历由管理型政府向服务型政府转型,为适应这种趋势我国政府提出进行政府改革,建设电子政务,实现政府信息化的目标.近些年政务信息化建设成效显著,为推动政府职能转变,加强对企事业单位和公众的服务,发挥了重大作用.随着政府各部门电子政务的陆续上线,政务业务的开展相比以往行政更加高效,沟通更加便捷,公众满意度也极大提升,但在政府工作效率提升的同时,海量,碎片化的业务数据使得"信息孤岛"困境也愈发显著.
以大数据提升政府治理能力已成为大势所趋,运用大数据提升国家治理现代化水平,以推行电子政务,建设智慧城市等为抓手,以数据集中和共享为途径,推动技术融合,业务融合,数据融合,打通信息壁垒,形成覆盖全国,统筹利用,统一接入的数据共享大平台,构建全国信息资源共享体系,实现跨层级,跨地域,跨系统,跨部门,跨业务的协同管理和服务.
电子政务的发展已经渗透进政府社会管理,公共服务,市场监管,宏观调控等领域,各政务系统产生了海量数据且数据增长的速度越来越快,导致数据的查询,报表的生成效率及业务决策准确性极大降低.
随着政务信息化的逐步完善,政务管理,便民服务,应急安全等系统逐渐发挥实际作用,但是各部门信息系统基本以单位为主,相互间以分立系统形态共存,缺乏统一的平台对数据进行关联,融合,导致各方面业务信息难以有效整合为数据应用展现业务全景,难以完全释放数据的真正价值.
管理决策时不能从整合后的高度看问题,不同部门不同层级的用户对业务数据分析有着完全不同的需求,而目前能够提供的报告主要以表格为主,分析维度单一,形式简单固化,不能将决策依据和决策判断规则在数据分析平台上集中展现且对分析需求响应的实效性差,无法为各级用户制定决策提供有效支撑.
平台(P):以Yonghong Z-Suite为代表,我们构建一站式大数据分析平台,平台性能强悍,包括数据准备,数据探索,人工智能(AI),高性能计算,平台的开放,以及面对业务人员的全终端开放等方面能力完美支撑各场景的数据分析;
应用(A):大数据分析解决方案需要深入政府业务应用,与实际行业紧密结合,打造面向社会民生,经济发展,政府服务,社会信用建设,精准扶贫,公务用车监管等各场景主题的垂直应用;
服务(S):国产品牌助力精细化本地服务,提供完整数据咨询,实施,制定合理项目管理规划及高适应性二次开发,从而为用户提供全方位支持服务;
运营(O):结合数据化运营理念,为用户提供健康检查,架构优化建议,提升用户运营规范,将数据化方案真正落在实处,确保大数据驱动业务增长的目标最终得以实现.
(1)数据层:整合不同政务信息系统,实现异构数据源的关联整合,打破信息孤岛,对数据进行集中管理实现数据共享.
(2)数据分析层:整合海量数据,梳理政府行业指标,进行即席查询,制作数据报告,深度分析.
由咨询专家团队向部门领导进行战略调研,了解当前单位部门战略需求以及重点关注KPI,那么在数据化运营落地的角度来说,想要什么是最重要,通过目标的分析和抽象,才能做好数据应用.
咨询专家团队深入做业务内容调研,岗位职责调研以及组织架构调研,深入理解实际业务,熟知各个业务部门工作流程,探寻各个业务部门的真实业务需求,绘制出确切的业务模型.全方位了解各部门业务重心,下钻到各部门业务人员的工作重点及关注方向,可能存在的问题点和分析点.建立一套标准数据分析指标体系,清晰定义指标口径及含义,规范化对指标的管理,保障数据统计口径的一致及结果的准确.从而为后续的规划设计工作做好铺垫,打好坚实的基础.
分阶段建设一套标准化,智能化,移动化的数据分级及应用中心,面向单位内部不同层级的人员构建对应的数据应用服务,既要为管理层提供数字化的决策支持及风险监控,同时也要满足数据分析人员日常统计与分析需求,精简报表及指标,让管理人员从数据处理逐渐转变为数据分析.
在数据化运营落地的过程中,一定要循序渐进,在项目推进的过程中,逐步将数据价值逐渐的释放出来.对于政府单位而言,可以设置未来几年的大数据应用的蓝图,但在实施过程中一定要注意逐步的和快速的分解.
1,打破纵向业务系统的信息壁垒,整合业务数据,实现数据的全景展现综合分析,为政府行业各层级提供充分的决策依据.
2,高效的大数据处理能力,从容应对海量的历史数据以及迅速增长的增量数据,百亿级数据的计算及展现可达到秒级响应.
3,拥有完整的行业解决方案,为用户提供全方位的数据分析咨询服务.