云计算的核心技术

时间:14-12-20 栏目:云计算 作者:爱说云网 评论:0 点击: 1,767 次

  云计算系统运用了许多技术,其中以编程模型、数据管理技术、数据存储技术、虚拟化技术、云计算平台管理技术最为关键。

  (1)编程模型

  MapReduce是Google开发的java、Python、C++编程模型,它是一种简化的分布式编程模型和高效的任务调度模型,用于大规模数据集(大于1TB)的并行运算。严格的编程模型使云计算环境下的编程十分简单。MapReduce模式的思想是将要执行的问题分解成Map(映射)和Reduce(化简)的方式,先通过Map程序将数据切割成不相关的区块,分配(调度)给大量计算机处理,达到分布式运算的效果,再通过Reduce程序将结果汇整输出。

  (2) 海量数据分布存储技术

  云计算系统由大量服务器组成,同时为大量用户服务,因此云计算系统采用分布式存储的方式存储数据,用冗余存储的方式保证数据的可靠性。云计算系统中广泛使用的数据存储系统是Google的GFS和Hadoop团队开发的GFS的开源实现HDFS。

  GFS即Google文件系统(Google File System),是一个可扩展的分布式文件系统,用于大型的、分布式的、对大量数据进行访问的应用。GFS的设计思想不同于传统的文件系统,是针对大规模数据处理和Google应用特性而设计的。它运行于廉价的普通硬件上,但可以提供容错功能。它可以给大量的用户提供总体性能较高的服务。

  一个GFS集群由一个主服务器(master)和大量的块服务器(chunkserver)构成,并被许多客户(Client)访问。主服务器存储文件系统所以的元数据,包括名字空间、访问控制信息、从文件到块的映射以及块的当前位置。它也控制系统范围的活动,如块租约(lease)管理,孤儿块的垃圾收集,块服务器间的块迁移。主服务器定期通过HeartBeat消息与每一个块服务器通信,给块服务器传递指令并收集它的状态。GFS中的文件被切分为64MB的块并以冗余存储,每份数据在系统中保存3个以上备份。

  客户与主服务器的交换只限于对元数据的操作,所有数据方面的通信都直接和块服务器联系,这大大提高了系统的效率,防止主服务器负载过重。

  (3) 海量数据管理技术

  云计算需要对分布的、海量的数据进行处理、分析,因此,数据管理技术必需能够高效的管理大量的数据。云计算系统中的数据管理技术主要是Google的BT(BigTable)数据管理技术和Hadoop团队开发的开源数据管理模块HBase。

  BT是建立在GFS, Scheduler, Lock Service和MapReduce之上的一个大型的分布式数据库,与传统的关系数据库不同,它把所有数据都作为对象来处理,形成一个巨大的表格,用来分布存储大规模结构化数据。

  Google的很多项目使用BT来存储数据,包括网页查询,Google earth和Google金融。这些应用程序对BT的要求各不相同:数据大小(从URL到网页到卫星图象)不同,反应速度不同(从后端的大批处理到实时数据服务)。对于不同的要求,BT都成功的提供了灵活高效的服务。

  (4)虚拟化技术

  通过虚拟化技术可实现软件应用与底层硬件相隔离,它包括将单个资源划分成多个虚拟资源的裂分模式,也包括将多个资源整合成一个虚拟资源的聚合模式。虚拟化技术根据对象可分成存储虚拟化、计算虚拟化、网络虚拟化等,计算虚拟化又分为系统级虚拟化、应用级虚拟化和桌面虚拟化。

  (5)云计算平台管理技术

  云计算资源规模庞大,服务器数量众多并分布在不同的地点,同时运行着数百种应用,如何有效的管理这些服务器,保证整个系统提供不间断的服务是巨大的挑战。

  云计算系统的平台管理技术能够使大量的服务器协同工作,方便的进行业务部署和开通,快速发现和恢复系统故障,通过自动化、智能化的手段实现大规模系统的可靠运营。

相关文章

Amazon EC2 实例介绍
views 4410
Amazon EC2 提供多种经过优化,适用于不同使用案例的实例类型以供选择。实例类型由 CPU、内存、存储和网络容量组成不同的组合,可让您灵活地为您的应用程序选择适当的资源组合。每种实例类型都包括一种或多种实例大小,从而使您能够将您的资源扩展到符合目标工作负载的要求。 通用 ...
云计算是中小企业建设信息化的关键
views 2628
   我国中小企业的信息化程度大都偏低,在管理信息化全面集成应用方面遇到了难题,但随着云计算的到来,中小企业在实现信息化的道路上突破了传统障碍,云计算成为中小企业实现信息化建设的关键,企业管理信息化应用领域不断拓宽。         然而中小企业对于云计算的应用也有诸多的安全考虑,如数据安全性、可靠...
阿里云宣布入门产品免费试用半年 撼动市场格局...
views 1813
7月15日,阿里云计算宣布:云服务器、云数据库等四款核心基础产品,新用户免费试用半年后再付费。创业者不花一分钱,就能快速完成网站和应用的部署。这一投入上亿元的举措,对广大中小站长和开发者拥有巨大吸引力,将真正意义上撼动传统IT产业格局。 此次的免费试用,主要针对用户购买率最高的四款基础产品,包括云服...
英国政府如何利用云节省成本
views 1828
  长久以来英国政府一直都是云计算的有力支持者。由于他们对云技术的信任,他们在2012年引入了G-Cloud;该服务目的在为英国政府公共部门人员于简化采购过程,尤其关注于使用云计算的商品信息技术服务。 为了突显政策,英国政府的内阁部长Francis Maude声称“云服务是更快、更便宜、更有竞争力...
以云计算的速度部署云计算基础设施
views 1621
以云计算的速度部署云计算基础设施 为了以最终用户所需要的速度部署新的基础设施,企业IT部门需要拥有基本模块架构和真正DIY功能的可视化自动化工具。 云计算的两个主要价值就是速度和灵活性。云计算编排和自动化工具有望让IT部门大大加快运营速度,并且成为更具竞争力的服务型部门。虽然一旦虚拟化系统落实到位...
物联网将成为“威胁连网”?
views 1631
 随着 2015新年的来临,网路安全方案供应商 Fortinet 及其 FortiGuard Labs 安全防护中心,率先评估即将到来的新年会有那些显着的网路安全威胁--分别从黑帽骇客,以及威胁情报解决方案厂商的角度来预估。   Fortinet 认为,由于连网设备的增加,网路罪犯将会持续磨练实力...
IBM将在全球新增11处云计算数据中心
views 1909
IBM公司18日宣布,将在全球11个地点新建云计算中心。   在总额12亿美元的投资中,IBM已经在法兰克福、墨西哥城和东京构建了云计算中心。另外8个新的云计算中心将通过IBM与Equinix的合作关系构建,Equinix在全球各地运营数据中心。   这一合作伙伴关系将会让IBM可以使用澳...
云计算的部署模式
views 1947
云计算的部署模式 私有云 云基础设施是为一个客户单独使用而构建的,因而提供对数据"安全性和服务质量的最有效控制& 私有云可部署在企业数据中心中,也可部署在一个主机托管场所,被一个单一的组织拥有或租用 社区云 基础设施被一些组织共享,并为一个有共同关注点的社区服务( 例如任务"安全要求"政策...

声明: 本文由( 爱说云网 )原创编译,转载请保留链接: 云计算的核心技术

云计算的核心技术:等您坐沙发呢!

发表评论


读者排行