云计算的核心技术

时间:14-12-20 栏目:云计算 作者:爱说云网 评论:0 点击: 1,710 次

  云计算系统运用了许多技术,其中以编程模型、数据管理技术、数据存储技术、虚拟化技术、云计算平台管理技术最为关键。

  (1)编程模型

  MapReduce是Google开发的java、Python、C++编程模型,它是一种简化的分布式编程模型和高效的任务调度模型,用于大规模数据集(大于1TB)的并行运算。严格的编程模型使云计算环境下的编程十分简单。MapReduce模式的思想是将要执行的问题分解成Map(映射)和Reduce(化简)的方式,先通过Map程序将数据切割成不相关的区块,分配(调度)给大量计算机处理,达到分布式运算的效果,再通过Reduce程序将结果汇整输出。

  (2) 海量数据分布存储技术

  云计算系统由大量服务器组成,同时为大量用户服务,因此云计算系统采用分布式存储的方式存储数据,用冗余存储的方式保证数据的可靠性。云计算系统中广泛使用的数据存储系统是Google的GFS和Hadoop团队开发的GFS的开源实现HDFS。

  GFS即Google文件系统(Google File System),是一个可扩展的分布式文件系统,用于大型的、分布式的、对大量数据进行访问的应用。GFS的设计思想不同于传统的文件系统,是针对大规模数据处理和Google应用特性而设计的。它运行于廉价的普通硬件上,但可以提供容错功能。它可以给大量的用户提供总体性能较高的服务。

  一个GFS集群由一个主服务器(master)和大量的块服务器(chunkserver)构成,并被许多客户(Client)访问。主服务器存储文件系统所以的元数据,包括名字空间、访问控制信息、从文件到块的映射以及块的当前位置。它也控制系统范围的活动,如块租约(lease)管理,孤儿块的垃圾收集,块服务器间的块迁移。主服务器定期通过HeartBeat消息与每一个块服务器通信,给块服务器传递指令并收集它的状态。GFS中的文件被切分为64MB的块并以冗余存储,每份数据在系统中保存3个以上备份。

  客户与主服务器的交换只限于对元数据的操作,所有数据方面的通信都直接和块服务器联系,这大大提高了系统的效率,防止主服务器负载过重。

  (3) 海量数据管理技术

  云计算需要对分布的、海量的数据进行处理、分析,因此,数据管理技术必需能够高效的管理大量的数据。云计算系统中的数据管理技术主要是Google的BT(BigTable)数据管理技术和Hadoop团队开发的开源数据管理模块HBase。

  BT是建立在GFS, Scheduler, Lock Service和MapReduce之上的一个大型的分布式数据库,与传统的关系数据库不同,它把所有数据都作为对象来处理,形成一个巨大的表格,用来分布存储大规模结构化数据。

  Google的很多项目使用BT来存储数据,包括网页查询,Google earth和Google金融。这些应用程序对BT的要求各不相同:数据大小(从URL到网页到卫星图象)不同,反应速度不同(从后端的大批处理到实时数据服务)。对于不同的要求,BT都成功的提供了灵活高效的服务。

  (4)虚拟化技术

  通过虚拟化技术可实现软件应用与底层硬件相隔离,它包括将单个资源划分成多个虚拟资源的裂分模式,也包括将多个资源整合成一个虚拟资源的聚合模式。虚拟化技术根据对象可分成存储虚拟化、计算虚拟化、网络虚拟化等,计算虚拟化又分为系统级虚拟化、应用级虚拟化和桌面虚拟化。

  (5)云计算平台管理技术

  云计算资源规模庞大,服务器数量众多并分布在不同的地点,同时运行着数百种应用,如何有效的管理这些服务器,保证整个系统提供不间断的服务是巨大的挑战。

  云计算系统的平台管理技术能够使大量的服务器协同工作,方便的进行业务部署和开通,快速发现和恢复系统故障,通过自动化、智能化的手段实现大规模系统的可靠运营。

相关文章

谈谈物联网和云计算的融合发展
views 2019
物联网的英文名称叫“The Internet of things”。见名知义,物联网简单地说,就是“物与物相联而形成的一个彼此互相通信的网络”。其中包含两层含义:它是基于于互联网基础上的一个网络;它有触角己经伸到任何可以通信的物体,能够彼此之间进行信息的沟通。基于此,对物联网可以这样下定义:通过射频...
工信部将借云计算等新技术助推中小企业信息化|工信部|云计算_互联网_新浪科技_新浪网...
views 1704
新华社北京5月5日电(记者张辛欣、刘菊花)工业和信息化部总工程师朱宏任5日说,工信部将借助云计算、大数据、移动互联等新技术,降低中小企业信息化应用的成本和门槛,推进中小企业信息化水平提升。到2018年形成一批有影响力和公信力的中小企业信息化服务平台、园区和产业集群。   朱宏任是在5日举行的2014...
云计算到底哪家强?
views 2278
从全球市场看,微软Azure+谷歌GCE+IBM的Softlayer+阿里云,四家的市场份额加起来也不及Amazon AWS。微软Azure强在哪? 技术储备。Amazon AWS虽然全球员工很多人,但是最核心的工程师也就几十个,而这种技术级别的在微软,可以说是一抓一大把。而且你看,现在的很多A...
阿里云产品博客 » 阿里云ECS拥抱Docker
views 1707
现在我们很高兴地宣布您能使用阿里云ECS部署Docker容器应用了。您能在ECS上把应用打包成Docker镜像、运行Docker容器,从我们提供的镜像库中快速下载官方镜像,或者部署自己的私有镜像库,并和伙伴们分享和协作。 什么是Docker? Docker是一个开源项目,诞生于2013年初,最初是...
明年进入云计算商业元年 青云实现云计算最初梦想...
views 1966
近日,国内著名的基础云服务提供商青云宣布,开启2014年内第三次降价,下调公有云部分资源价格,最高降幅达到了20%。青云自2014年起正式商用后承诺每年都会进行两次资费下调,目的是为了使云计算资源成为一个可以被人们所忽略的资源消费品。就像公有云最开始被提出来时经常被人们挂在嘴边的——“使计算资源可以...
云计算支撑大数据 应用实现价值
views 1809
云计算的发展对社会管理和经济发展将产生什么样的影响?大数据时代给政府、互联网公司、IT企业及行业用户带来了哪些挑战和基于?哪些领域是大数据应用的沃土? 云计算作为新一代信息技术的重要发展方向,已被广泛认为是支撑信息化应用和业务模式创新的核心,其技术与产业发展,以及应用的推广普及,对于我国深入推进两...
亚马逊AWS宣布推出新型低成本通用Amazon EC2实例类型...
views 1842
亚马逊公司(Amazon.com)旗下的Amazon Web Services宣布推出其新型亚马逊EC2(Amazon EC2)实例类型——T2实例。T2实例旨在大幅降低无需持续高CPU性能、但能够从突发全核心性能中受益的应用的成本。T2按需实例(On-Demand Instance)的初始价格定为...
有钱才任性:谁是云计算市场最后的赢家?...
views 1716
从单纯商业竞争的角度看,尽管诸多企业纷纷涉足云计算市场,但云计算市场无疑是有钱企业的游戏(至少从目前的发展阶段看),所以谁会是最后的赢家,更多在于谁更具有可持续的投入及获得市场效应的能力。 提及现在全球炙手可热的云计算市场,亚马逊、微软、谷歌和IBM是不得不提及的四个重量级玩家。而为了在刚刚兴起...

声明: 本文由( 爱说云网 )原创编译,转载请保留链接: 云计算的核心技术

云计算的核心技术:等您坐沙发呢!

发表评论


读者排行