云计算平台建设及大数据应用解决方案
支持基于政务大数据采集、分析、挖掘和应用的“政务云”建设。
支持基于工业企业数据采集、存储和应用开发的“工业云”建设。
支持面向公共数据资源社会化应用的“民生云”建
一、项目目标 支持基于政务大数据采集、分析、挖掘和应用的“政务云”建设。 支持基于工业企业数据采集、存储和应用开发的“工业云”建设。 支持面向公共数据资源社会化应用的“民生云”建设。 二、云计算平台建设 2.1 建设背景 随着十八大将信息化列为“新四化”(新型工业化、信息化、城镇化、农业现代化道路)之一,意味着信息化将成为推进我过经济社会转型的核心力量之一。同时国家鼓励在信息化建设中采用物联网、云计算、大数据、下一代互联网、绿色节能、模拟仿真等新型技术,推动新技术在政务、工业及民生发展中广泛应用。通过互联网化的思路,持续推进网络服务提供,数据资源集中共享,打造扁平化、一体化的网络服务。 2.1.1 政务云背景 随着我国政府想公共服务型政府的转型,政府对政务及民生问题的重视不断加强,电子政务的建设将成为里程碑式的关键性节点。 计世资讯(CCW Research) 《2015年中国政府行业信息化建设与IT应用趋势研究报告》研究结果显示,2014年中国政府行业的信息化投入规模达到572.2亿元人民币,比2013年增长7.5%,继续保持增长的态势。受到电子政务“十二五”规划纲要、信息共享、厉行节约等相关政策的影响,各省市开始整合现有的软硬件资源,构建电子政务公共平台,各部门基于公共平台进行业务部署,从而使政府各部门总体上减少了在网络、机房、服务器等硬件设备上的投入,节约了信息化财政资金。 传统电子政务系统主要面向部门内部事务处理,信息孤岛难以打破、系统构建僵化、扩展性差、无法建立商业模式等弱点,使其无法适应新型政府提供多样化和高效的公共服务的需求。而现如今,从目前政府在省、市乃至区县的传统模式云平台的建设情况中看,仍然普遍存在以下问题: 承载应用业务单一:目前的传统云平台只是简单的承载了少量的边缘应用。迫于安全、性能、可靠性、可操作性等多方面因素的考虑,核心业务仍不能部署至云平台中,原有的老旧业务应用也无法进行整体迁移。 运营模式复杂:目前的传统云平台基本为手工交付云服务,自动化程度极低。而云平台建设成为服务器虚拟化软件的部署,缺乏真正云平台概念来实现完整的、自动化的、人工智能的运营模式及服务申请流量,与真正的云计算概念背道而驰。 项目外包式建设:外包模式的平台建设望望对于需求的理解、技术、运维能力等多方面因素的限制,导致信息不对称,无法建设出真正有能力服务于政务的云平台。 安全隐患巨大:目前的传统云平台在安全上存在这巨大隐患,作为政务数据资源整合的载体,其安全性甚至高于性能、应用和业务,而传统云平台恰恰容易忽略云安全的建设,导致最重要的部分成为了最薄弱的环节。 2.1.2 工业云背景 据美国环球通视数据显示,2015年我国制造业产出占世界比重的25.8%,已经超过美国成为全球制造业大国。我国制造业在快速发展中,仍然存在不少问题。从著名的“产业微笑曲线“理论上看,我国绝大多数制造型企业仍处于产业供应链中的“代工”位置,缺乏创新能力,产品缺少技术含量、附加值低。 企业的发展要靠技术创新,特别是数字化制造技术的普及,对传统企业的生产方式造成了巨大的冲击。对我国中小企业而言,数字化制造技术的应用上仍存在壁垒:主流的工业软件90%以上依靠引进,且价格昂贵;工业软件的运行也需要部署大量高性能计算设备;另外,企业搭建标准系统环境,需要配备专业技术人员,投入高昂的运维成本。数字化制造技术只有大型或超大型企业才能够用得起,占我国90%以上的广大中小型企业则与其无缘。 “工业云服务平台”正是要帮助中小企业解决上述问题,利用云计算技术,为中小企业提供高端工业软件。企业按照实际使用资源付费,极大程度的降低了技术创新的成本,加快了产品上市时间,提高了生产效率。 2.1.3 民生云背景 民生问题是中国社会改革与发展过程中的永恒主题。让公众生活得更安全、更健康、更方便、更文明是各级政府引领建设的智慧民生云服务的最终目标。智慧民生云服务提供面向公众的端到云服务, 包括健康、教育、交通、食品安全等服务。政府通过公共基础设施及时地搜集与民生相关的数据,集成公共服务部门和企业的信息及服务,为公众提供解决其方方面面生活问题的应用。以政府为中心,让第三方开发者参与移动应用的开发,从而向公众提供更优秀的便民应用。建立公众沟通的渠道,让政府更及时地了解公众所需、公众所想。 2.2 云平台建设整体方案 针对目前云平台建设的现状及问题,莱克斯提出了致力于改善现状,解决问题的整体解决方案。本解决方案的制定改变了以往云平台建设的“先建平台,后上业务”的基本思路,而是先从业务应用入手,理顺业务数据流程,构建基础平台,再逐步将业务应用向云平台迁移。并且不再是由供应商提供相关的软硬件产品,由用户自建、自用、自运营的传统模式。而是由莱克斯提供整体的解决方案及云平台产品,用户根据需求租用或购买云服务的方式,无需在关注平台建设及运营维护的问题。 2.2.1 云平台整体架构 莱克斯云平台的建设是基于自主研发的USAP高速数据通讯平台,通过模块化分层设计,在保证高度可靠性、高度扩展性的同时,解决了云计算中计算、网络、存储、安全的技术短板和应用问题,实现基础设施服务的全自动化交付。整体分为基础硬件层、系统控制层、资源调度层三个层面。 基础硬件层:部署超过百台高性能服务器,并通过分布式存储技术,实现对服务器本地硬盘的虚拟化整合,实现云主机、云存储的结合交付。配合数据中心级交换机和莱克斯自主研发的 DSG数据安全网关,构建虚拟网络并实现云安全、云网络服务的交付,保证多租户环境的网络安全隔离。 系统控制层:通过虚拟化管理系统实现计算、存储的虚拟化资源抽象及控制,通过网络控制器实现网络、安全的虚拟化资源抽象及控制。从而实现并充分利用基础硬件的服务器性能。 资源调度层:通过LYX CSM云管理平台,实现计算、存储、网络、安全、数据库、负载均衡等云服务的全自动化交付。同时提供基础资源的功能配置、业务统计、性能告警等全方位管理。 整体架构图如下: 2.2.2 云平台安全防护方案 云安全的问题往往成为云平台普及和整体业务应用迁移的最大限制,因此莱克斯提出了关于云安全独立于云平台建设的解决方案。整体部署主要分为四部分,分别为基础安全、接入安全、服务安全以及管理安全。 基础安全:包括网络、主机、存储三大基础资源的安全加固。 接入安全:遵循全省业务外网的VPN划分,保证租户的网络接入安全。 服务安全:包括Iaas、PaaS和SaaS层服务的安全云计算建设方案,提供云防火墙、云负载均衡、DDoS流量清洗和安全扫描等。 管理安全:包括日常运维的安全规章制度、应急响应机制与处理流程、租户间安全策略的部署与调整、日志分析及行业审计。并通过云安全管理来明确云服务商与租户间的安全责任边界。 安全架构图如下: 2.2.3 云平台服务 云平台在云端部署,提供响应的业务资源,由租户直接进行云服务的申请,申请通过后,云平台将会创建相应的虚拟资源,并实现对计算、网络、存储、安全、数据库、负载均衡等云服务资源统一构架,为租户构建虚拟数据中心,使得租户可直接在数据中心部署业务,灵活配置网络。 2.3 优势总结 通过云平台的建设,推动云用户的计算、存储、网络、数据容灾、安全防护、运维服务等基础设施资源共享,节约资源,减少能耗,降低用户私有云建设的运营维护成本。在建设基础设施平台的成本大大降低意外,同时减少运维人力,并将关注重心转移到业务应用上。 政务云优势总结:减少信息化建设资金投入,降低建设及运维成本,侧重经历关注上层政府政务,打造扁平化、一体化的网上政府,实现网上晒权、网上行权,深化网上办事。这对倒逼政府转变职能、科学行使权力,加快推进省法治政府、服务型政府建设具有重要意义。 工业云优势总结:通过云服务租用、只能学习、在线服务、应用商店和企业空间很好的解决了中小企业技术创新的成本,加快创意、理念、设计产品化,提高了生产效率。 民生云优势总结:实现了海量信息的资源获取和共享,以活动为线索的服务集成,让公众随时随地以各种方式获取信息及生活服务。 三、通用大数据解决方案 3.1 大数据的定义 用户进行互联网访问,在这个过程中会产生大量的网页浏览、网络搜索、即时通讯、网上购物和定位导航等用户流量数据。这些流量数据本身只是用于实现相应应用功能的通讯交互,并没有其他的附属价值。 大数据就是将这些海量数据进行定向采集、整理和存储,以用于挖掘这些数据本身价值以外的附属价值。大数据分析服务就是根据用户的汇总、统计、计算等实际需求,由Hadoop等大数据技术架构以采集得到的海量数据作为基础,进行分析计算后,向用户提供满足需求的结果数据报表。以此应用于战略分析、业务经营分析、市场推广策略、市场营销策略、数据化运营、用户体验优化等。 互联网数据分析演变如下图: 3.2 网络大数据分析服务 网络大数据分析服务平台是利用大数据技术,充分挖掘海量数据的潜在价值,以此服务于用户的通用大数据平台。具备部署灵活、处理高效、定制化扩展服务强等特点。稳定的平台架构可根据行业特性及用户需求进行快速定制开发。 3.2.1 技术架构 网络大数据分析平台的实现主要是依靠于网络流量数据的定向采集,采集完成后进行数据脱敏及二次封装整理,以SYSLOG等格式通过局域网、集中管理或网络云的方式上传到Hadoop架构平台,由Hadoop平台自身的技术架构完成大数据的存储及备份。然后在用户网络大数据分析服务平台上根据用户需求,向Hadoop发起计算任务并指定任务优先级,Hadoop架构平台自身协调计算资源,进行任务计算,最后将结果返回到用户网络大数据分析服务平台,平台最终会以结果数据图表的形式或其他形式展现给最终用户。 技术架构如下图所示: 3.2.2 网络拓扑 网络大数据分析平台的网络拓扑可以根据用户需求及用户实际网络情况进行实施部署,其中数据采集及数据预处理设备分别可以以串接网关、串接网桥和旁路监听三种方式部署在用户的主干网络中,然后可通过互联网云服务器、数据采集设备的网管平台或局域网三种方式,将整理后数据传输到Hadoop平台。 通用化网络拓扑如下图: 3.2.3 数据采集及预处理 网络流量数据作为大数据分析服务平台的基础,面向具有不同行业特性的用户需求,为了确保大数据分析结果的参考价值,因此数据的来源涵盖了不同行业用户、不同阶层用户、不同年龄段用户,积累的数据应具有数据量大、多元化、即时性高等特性。海量数据自身具有了一定的价值,通过大数据技术分析得出的结果才能面向用户提供参考价值高的结果数据。 莱克斯科技自主研发的Netoray 网络数据采集及行为分析系统自推向市场以来,已有10余年的时间,积累了不同行业的大量用户。这些用户来自电信、酒店、高校、公共经营类场所等,完全具备了有价值海量数据积累的先天性优势。 Netoray 网络数据采集及行为分析设备主要是针对内网用户的网络行为进行审计和管控。其中网络行为的审计将作为大数据分析的基础数据,在网络数据采集及行为分析设备系统中收录了22种应用类型共计1600余种应用协议,采用DPI和DFI相结合的应用识别技术,能够完整的识别用户上网行为轨迹及上网内容的审计。 将用户的审计数据作为大数据的基础数据,为了保护用户的隐私及合法权益,所以针对用户的审计数据进行了脱敏处理,以确保用户的隐私不被泄漏出去。除此之外,面对海量的审计数据,需要进行二次封装处理,使得数据传输速率及占用空间都得到一定的保障。 应用类型如下图所示: 主要审计数据如下图所示: 3.2.4 数据传输 审计数据如何传输到Hadoop技术架构平台主要取决于网络的部署方式。主要分为两种传输方式,一种是广域网传输,一种是局域网传输。广域网传输又分为两种方式,一种是利用第三方提供的网络云服务,一种是利用莱克斯科技的网管平台。 数据传输如下图所示: 3.2.5 Hadoop技术架构 Hadoop旨在通过一个高度可扩展的分布式批量处理系统,对大型数据集进行扫描,以产生其结果。Hadoop项目包括三部分,分别是HadoopDistributed File System(HDFS)、HadoopMapReduce编程模型,以及HadoopCommon。 Hadoop平台对于操作非常大型的数据集而言可以说是一个强大的工具。为了抽象Hadoop编程模型的一些复杂性,已经出现了多个在Hadoop之上运行的应用开发语言。Pig、Hive和Jaql是其中的代表。而除了Java外,您还能够以其他语言编写map和reduce函数,并使用称为Hadoop Streaming(简写为Streaming)的API调用它们。 Hadoop平台架构如下图所示: 3.2.6 大数据分析服务平台 随着未来的展会的增多,用户量的发展,数据量不断累积,并构建Hadoop架构的网络大数据分析服务平台,其分析结果数据的参考价值会有可持续性的线性提高。 大数据分析服务平台是垂直面向用户的数据分析服务平台,采用BS架构,服务于用户针对数据的核心需求,深度挖掘海量数据的潜在价值,帮助用户做出战略分析、业务经营分析、市场推广策略、市场营销策略、数据化运营、用户体验优化等。 体系结构设计如下图所示: 系统平台:系统平台是大数据分析服务平台的底层架构支撑,是连接分析服务业务与Hadoop大数据平台的桥梁,接收用户下发的计算任务并转发给Hadoop平台,接收Hadoop平台的结果数据反馈并以WEB界面或APP的形式呈现给用户,同时存储于本地数据库。而分析服务业务主要又分为三种结构类型,分别是综合类计算任务、内部计算任务、外部提取计算任务。 数据模型: 数据模型主要依托于用户画像,用户画像是由用户身份识别、用户虚拟身份绑定和用户行为轨迹三部分构成。结合用户画像及结果数据进行建模分析,形成用户关注的关键性数据,以此作为数据应用的参考。 数据应用:数据应用主要是依托于系统平台提供的数据模型,提炼结果数据作为用户决策的参考数据。针对内部计算可用于参考用户体验优化、市场推广策略及市场营销策略,针对外部提取计算可用于提供数据报表和数据排名,基于两者又可进一步进行科学研究和发展决策等应用。 3.3 定制化大数据服务 定制化大数据服务主要依托于莱克斯网络大数据分析服务平台,在垂直面向用户的大数据分析服务平台的基础上,充分挖掘行业特性,针对用户所关注的具体结果数据需求进行定向的分析开发并部署实施。使得大数据分析服务平台能够更好的服务于用户,满足用户的发展战略制订、营销策略制订、市场推广策略制订、用户体验优化等数据参考需求。 四、云平台与大数据结合 在莱克斯云平台建设的解决方案中主要侧重于业务应用服务,而在莱克斯大数据分析服务的解决方案中主要侧重于数据分析服务。从某种意义上讲,两者之间在架构、功能、应用上都存在一定重叠。云平台后台的数据中心即可作为大数据分析服务的数据来源,莱克斯公共大数据系统平台的设计也是以云计算概念为基本指导思想。在数据中心中进行数据的定向提取、脱敏处理后引流到大数据平台进行计算分析,形成数据分析结果,即可形成云平台建设及大数据应用的综合性解决方案。 五、项目实施基本流程 5.1 项目调研 项目调研处于项目前期阶段,主要进行项目立项的相关准备工作,以确保项目实施的风险可控并顺利验收,主要包含以下工作内容: 1.立项咨询。 2.行业调查及用户研究。 3.详细了解业务及流程,进行需求挖掘。 4.需求归类,定向分析。 5.出具咨询报告给用户,进行全方面评估。 6.如有需要,进行项目需求调整。 5.2 项目实施 项目实施处于项目中期阶段,主要按照前期立项的基本方案及需求分析结果进行项目实施,实施过程中设立里程碑式的项目节点,并及时想用户进行反馈,以便于在实施过程中及时进行调整,主要包含以下工作内容: 1.系统整体架构方案设计。 2.大数据分析服务设计。 3.业务逻辑模块分层设计。 4.系统及业务模块开发。 5.系统自测。 6.项目实施的地点实地调查。 7.系统部署安装,上线公测。 5.3 项目验收及服务 项目验收处于项目后期阶段,主要由影虎按照即定的项目目标进行项目验收,在验收过程中,提供专业的行业顾问团队和技术团队服务,配合验收工作。 1.行业顾问咨询服务。 2.技术团队技术指导及培训服务。 3.用户测试验收。 4.完成项目验收,结项。 六、技术支持与服务 6.1 售前技术支持服务 莱克斯公司拥有多名资深系统分析员和高级技术顾问,以客户为中心,提供优质、及时、标准的支持服务。我们将集中公司的技术资源,采取一套完整的系统和网络管理工具,全力解决用户遇到的问题和故障。同时以预防为主,负责制定相应的预防保养计划和措施,积极协助用户预防信息系统运行中的隐患,提升系统性能,减少系统停机时间,保障系统正常运行,提高投资回报率。 6.2 售前客户度身订制服务 我们可以根据客户的实际情况,进行功能的定制,使得我们的网关和我们的服务更适合客户的需求。 6.3 售后培训服务 我们将负责我们产品的安装,调试和使用的所有培训。 6.4 售后技术支持和到场服务 用户的技术服务请求分为三种级别,服务级别的划分取决于对应用系统运行的关键程度和备用资源的合理调用,并依服务等级的不同,决定相应的服务响应时间。 此外,对于用户的特殊要求,亦可双方商讨并制定单独的解决方法: 1)全面加急服务:指软硬件故障对全部系统的运行产生关键性影响,导致应用系统无法正常运行或系统瘫痪的情况。 2)加急服务:指软硬件故障对系统运行产生部分影响,导致个别网点业务停顿或应用系统中非关键部分失效、性能部分下降但对全部系统运行不构成关键影响的情况。 3)常规服务:指对系统不构成影响的技术服务请求/咨询等。 服务级别 服务时间 现场支持响应时间 全面加急服务 24小时/天,7天/周 国内依服务请求发生时间及交通运输的实际情况最快到达用户现场 加急服务 上午9:00-下午6:00(周一至周五) 在用户同意下第2个工作日到达 常规远程支持服务 上午9:00-下午6:00(周一至周五,公共假期除外) 通过Internet给用户进行远程调试,或者通过电话技术支持 6.5 支持信息栏 售后支持 Tel:010-62970100 莱克斯科技(北京)有限公司 北京市海淀区上地三街9号嘉华大厦A座1104 邮编:100085 七、关于莱克斯 莱克斯科技(北京)有限公司(以下简称“莱克斯”)是由归国留学人员创建的一家高新技术企业。作为专注于网络应用和网络安全的解决方案提供商,本着“化繁为简,解决之道”的服务宗旨,莱克斯从成立之初就致力于通过智能化和集中化的模块管理架构,解决中国用户在网络应用中的管理、运营和安全等问题,推动中国企业信息化的健康成长。公司凝聚了一批国际一流的软、硬件技术专家,其中国内外知名高校的教授、博士生、硕士生占公司员工比例的50%以上。 凭借多年来在网络应用和网络安全的技术积累和对中国用户的深刻理解,莱克斯先后研发出拥有自主知识产权的Netoray网络行为管理系统,ClearNet网络行为分析系统,Netoray TOG系列产品,并已成功为中国大中型企业、政府、医疗、电信、金融、教育以及酒店等各行业提供完整的互联网应用管理软、硬件一体化解决方案。 Netoray网络行为管理系统,是莱克斯互联网管理解决方案的核心,作为完全拥有自主知识产权的网络行为分析管理系统,集成先进的软硬件体系构架,配以先进的行为分析引擎、灵活多样的管理控制策略,实时分析网络活动,并生成丰富的统计报表。能够满足企事业单位、政府机关、金融电信、石油能源、学校教育行业等各种Internet互联网使用单位的网络行为监控需求。作为专门针对上网行为而设计开发的网络行为分析和管理工具,将帮助您的企业提高网络使用效率,最大限度地避免员工无序上网给您的企业带来的风险和损失。 Netoray行为管理系统是在普通宽带网关的基础上,集成了轻型路由器、轻型防火墙等多种功能,采用模块化的设计理念,依托上网行为管理,IP管理(即插即用、IP绑定)、AAA(认证、授权、计费)、带宽管理、统计查询、网络安全防范(防火墙功能\防DDoS攻击)、WLAN用户的管理7大核心特性,为广大中国用户量身定制最为合理网络运营解决方案。 展望未来,莱克斯将继续提升战略竞争力,秉承“成长需要合力,成功源自分享”的经营理念,帮助广大中国客户获得持续发展和事业成功。 扫码关注我吧 (编辑:晋中站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |