云计算的核心技术

时间:14-12-20 栏目:云计算 作者:爱说云网 评论:0 点击: 1,768 次

  云计算系统运用了许多技术,其中以编程模型、数据管理技术、数据存储技术、虚拟化技术、云计算平台管理技术最为关键。

  (1)编程模型

  MapReduce是Google开发的java、Python、C++编程模型,它是一种简化的分布式编程模型和高效的任务调度模型,用于大规模数据集(大于1TB)的并行运算。严格的编程模型使云计算环境下的编程十分简单。MapReduce模式的思想是将要执行的问题分解成Map(映射)和Reduce(化简)的方式,先通过Map程序将数据切割成不相关的区块,分配(调度)给大量计算机处理,达到分布式运算的效果,再通过Reduce程序将结果汇整输出。

  (2) 海量数据分布存储技术

  云计算系统由大量服务器组成,同时为大量用户服务,因此云计算系统采用分布式存储的方式存储数据,用冗余存储的方式保证数据的可靠性。云计算系统中广泛使用的数据存储系统是Google的GFS和Hadoop团队开发的GFS的开源实现HDFS。

  GFS即Google文件系统(Google File System),是一个可扩展的分布式文件系统,用于大型的、分布式的、对大量数据进行访问的应用。GFS的设计思想不同于传统的文件系统,是针对大规模数据处理和Google应用特性而设计的。它运行于廉价的普通硬件上,但可以提供容错功能。它可以给大量的用户提供总体性能较高的服务。

  一个GFS集群由一个主服务器(master)和大量的块服务器(chunkserver)构成,并被许多客户(Client)访问。主服务器存储文件系统所以的元数据,包括名字空间、访问控制信息、从文件到块的映射以及块的当前位置。它也控制系统范围的活动,如块租约(lease)管理,孤儿块的垃圾收集,块服务器间的块迁移。主服务器定期通过HeartBeat消息与每一个块服务器通信,给块服务器传递指令并收集它的状态。GFS中的文件被切分为64MB的块并以冗余存储,每份数据在系统中保存3个以上备份。

  客户与主服务器的交换只限于对元数据的操作,所有数据方面的通信都直接和块服务器联系,这大大提高了系统的效率,防止主服务器负载过重。

  (3) 海量数据管理技术

  云计算需要对分布的、海量的数据进行处理、分析,因此,数据管理技术必需能够高效的管理大量的数据。云计算系统中的数据管理技术主要是Google的BT(BigTable)数据管理技术和Hadoop团队开发的开源数据管理模块HBase。

  BT是建立在GFS, Scheduler, Lock Service和MapReduce之上的一个大型的分布式数据库,与传统的关系数据库不同,它把所有数据都作为对象来处理,形成一个巨大的表格,用来分布存储大规模结构化数据。

  Google的很多项目使用BT来存储数据,包括网页查询,Google earth和Google金融。这些应用程序对BT的要求各不相同:数据大小(从URL到网页到卫星图象)不同,反应速度不同(从后端的大批处理到实时数据服务)。对于不同的要求,BT都成功的提供了灵活高效的服务。

  (4)虚拟化技术

  通过虚拟化技术可实现软件应用与底层硬件相隔离,它包括将单个资源划分成多个虚拟资源的裂分模式,也包括将多个资源整合成一个虚拟资源的聚合模式。虚拟化技术根据对象可分成存储虚拟化、计算虚拟化、网络虚拟化等,计算虚拟化又分为系统级虚拟化、应用级虚拟化和桌面虚拟化。

  (5)云计算平台管理技术

  云计算资源规模庞大,服务器数量众多并分布在不同的地点,同时运行着数百种应用,如何有效的管理这些服务器,保证整个系统提供不间断的服务是巨大的挑战。

  云计算系统的平台管理技术能够使大量的服务器协同工作,方便的进行业务部署和开通,快速发现和恢复系统故障,通过自动化、智能化的手段实现大规模系统的可靠运营。

相关文章

云计算是一把双刃剑安全问题不容小觑...
views 1715
  互联网新闻研究中心于5月26日发表的《美国全球监听行动记录》指出,美国曾秘密侵入雅虎、谷歌在各国数据中心之间的主要通信网络,窃取了数以亿计的用户信息。这也说明,近年来兴起的“云计算”在给人们带来巨大便利的同时,也存在着不容忽视的安全隐患。   “云”时代:云计算是把双刃剑 中国式突围任重道远 ...
商业模式创新与云计算的关系_云应用_CIO时代网...
views 1796
  创新不再只关乎新的或不同的产品和服务。我们的世界正在出现更多的不稳定性、不确定性、复杂性以及模糊不清的事物,企业必须适应不同的方式来提高自身的竞争力,甚至继续保持目前的市场位置。 越来越多的顶尖公司聚焦于商业模式创新--超出传统的产品或服务的研究和开发范围--来驱动他们的新战略和运营模式。云计...
云计算的概念
views 3375
云计算(Cloud Computing)是由分布式计算(Distributed Computing)、并行处理(Parallel Computing)、网格计算(Grid Computing)发展来的,是一种新兴的商业计算模型。目前,对于云计算的认识在不断的发展变化,云计算没仍没有普遍一致的定义。 ...
云计算数据中心建设融合很多新技术
views 1824
 1、云计算数据中心的构成     云计算数据中心本质上由云计算平台和云计算服务构成。云计算服务包括通过各种通信手段提供给用户的应用、软件、工具以及计算资源服务等;云计算平台包括用来支撑这些服务的安全可靠和高效运营的软硬件平台。通过云计算平台将一个或多个数据中心的软硬件整合起来,形成一种分层的虚拟计...
存储虚拟化能否给企业一个安全环境
views 2828
在企业级市场,无论是大型企业还是中小型企业,都普遍采用信息化系统进行日常办公和企业管理。尤其是近几年,虚拟化技术不断的发展,也在不断的帮助企业优化资源并简化管理,使企业更加灵活、高效、安全。 但是,虚拟化欣欣向荣的发展形势下却隐藏着一个大问题:企业建设虚拟化系统的时候往往将服务器、存储、网络和桌面一...
大话白话云计算
views 4225
大话白话云计算   云计算是什么?IaaS、PasS、SaaS,公有云、私有云、混合云,.......诸多名词术语和花样繁多的产品让人云里雾里的,整不明白。   其实可以类比一下。 PC时代好比农业社会:农户每家亲历亲为种地种田;而云计算时代则好比有分工明细的工业化社会,人类有了...
OpenStack基金会主席Alan Clark:OpenStack最新进展...
views 1814
首届中国开源云计算大会上, SUSE行业创新、新兴标准和开源总监,OpenStack 基金会主席Alan Clark接受了CSDN记者的采访,详细讲述了其对云计算和开源的最新看法以及OpenStack的最新进展。   随着云计算技术的快速发展与应用,“开源软件+云计算”成为最潮流的搭配方式,也成为了...
中小企业如何选择适合自己的云服务器?...
views 2538
云服务器又叫云计算服务器或云主机。云服务器使用了云计算技术,整合了数据中心三大核心要素:计算、网络与存储。     近年来,国内云计算的快速发展催动了一个新时代的产生。云计算正不断渗透到各行各业,不管是大型企业还是中小型企业都在争相拥抱云。与此同时,企业内部的IT基础架构正在发生变化,云服务器作为这...

声明: 本文由( 爱说云网 )原创编译,转载请保留链接: 云计算的核心技术

云计算的核心技术:等您坐沙发呢!

发表评论


读者排行