云计算的核心技术

时间:14-12-20 栏目:云计算 作者:爱说云网 评论:0 点击: 1,880 次

  云计算系统运用了许多技术,其中以编程模型、数据管理技术、数据存储技术、虚拟化技术、云计算平台管理技术最为关键。

  (1)编程模型

  MapReduce是Google开发的java、Python、C++编程模型,它是一种简化的分布式编程模型和高效的任务调度模型,用于大规模数据集(大于1TB)的并行运算。严格的编程模型使云计算环境下的编程十分简单。MapReduce模式的思想是将要执行的问题分解成Map(映射)和Reduce(化简)的方式,先通过Map程序将数据切割成不相关的区块,分配(调度)给大量计算机处理,达到分布式运算的效果,再通过Reduce程序将结果汇整输出。

  (2) 海量数据分布存储技术

  云计算系统由大量服务器组成,同时为大量用户服务,因此云计算系统采用分布式存储的方式存储数据,用冗余存储的方式保证数据的可靠性。云计算系统中广泛使用的数据存储系统是Google的GFS和Hadoop团队开发的GFS的开源实现HDFS。

  GFS即Google文件系统(Google File System),是一个可扩展的分布式文件系统,用于大型的、分布式的、对大量数据进行访问的应用。GFS的设计思想不同于传统的文件系统,是针对大规模数据处理和Google应用特性而设计的。它运行于廉价的普通硬件上,但可以提供容错功能。它可以给大量的用户提供总体性能较高的服务。

  一个GFS集群由一个主服务器(master)和大量的块服务器(chunkserver)构成,并被许多客户(Client)访问。主服务器存储文件系统所以的元数据,包括名字空间、访问控制信息、从文件到块的映射以及块的当前位置。它也控制系统范围的活动,如块租约(lease)管理,孤儿块的垃圾收集,块服务器间的块迁移。主服务器定期通过HeartBeat消息与每一个块服务器通信,给块服务器传递指令并收集它的状态。GFS中的文件被切分为64MB的块并以冗余存储,每份数据在系统中保存3个以上备份。

  客户与主服务器的交换只限于对元数据的操作,所有数据方面的通信都直接和块服务器联系,这大大提高了系统的效率,防止主服务器负载过重。

  (3) 海量数据管理技术

  云计算需要对分布的、海量的数据进行处理、分析,因此,数据管理技术必需能够高效的管理大量的数据。云计算系统中的数据管理技术主要是Google的BT(BigTable)数据管理技术和Hadoop团队开发的开源数据管理模块HBase。

  BT是建立在GFS, Scheduler, Lock Service和MapReduce之上的一个大型的分布式数据库,与传统的关系数据库不同,它把所有数据都作为对象来处理,形成一个巨大的表格,用来分布存储大规模结构化数据。

  Google的很多项目使用BT来存储数据,包括网页查询,Google earth和Google金融。这些应用程序对BT的要求各不相同:数据大小(从URL到网页到卫星图象)不同,反应速度不同(从后端的大批处理到实时数据服务)。对于不同的要求,BT都成功的提供了灵活高效的服务。

  (4)虚拟化技术

  通过虚拟化技术可实现软件应用与底层硬件相隔离,它包括将单个资源划分成多个虚拟资源的裂分模式,也包括将多个资源整合成一个虚拟资源的聚合模式。虚拟化技术根据对象可分成存储虚拟化、计算虚拟化、网络虚拟化等,计算虚拟化又分为系统级虚拟化、应用级虚拟化和桌面虚拟化。

  (5)云计算平台管理技术

  云计算资源规模庞大,服务器数量众多并分布在不同的地点,同时运行着数百种应用,如何有效的管理这些服务器,保证整个系统提供不间断的服务是巨大的挑战。

  云计算系统的平台管理技术能够使大量的服务器协同工作,方便的进行业务部署和开通,快速发现和恢复系统故障,通过自动化、智能化的手段实现大规模系统的可靠运营。

相关文章

李克强主持召开国务院常务会议 为小微企业减负...
views 1830
据中国政府网消息,国务院总理李克强11月15日主持召开国务院常务会议,部署加快推进价格改革,更大程度让市场定价;决定实施普遍性降费,进一步为企业特别是小微企业减负添力;确定促进云计算创新发展措施,培育壮大新业态新产业。   会议指出,价格改革牵一发而动全身,是推进市场化改革和政府职能转变的重要内容。...
国务院推六项政策扶持小微企业
views 2016
国务院总理李克强9月17日主持召开国务院常务会议,部署进一步扶持小微企业发展推动大众创业万众创新,决定全面建立临时救助制度、为困难群众兜底线救急难。  李克强说,今年经济下行压力依然很大,特别是七八月份以来增速放缓,但就业仍然实现了稳定增长。他说,“这里既有服务业增长的因素,但更重要的,还是通过改革...
中国电信与VMware联合发布天翼混合云服务...
views 1791
中国电信股份有限公司云计算分公司(以下简称“中国电信云公司”)今天与VMware签署合作备忘录,宣布双方将联合构建中国电信天翼混合云服务。 中国电信天翼混合云服务主要针对大型企业原有自建的数据中心发展遇到的基础设施、电力扩张困难等问题,为其搭建企业侧自建的数据中心与托管到公有云的混合资源模式,方便企...
云计算:加速商用实践 创造万亿价值
views 1962
云计算服务在互联网、移动互联网、智慧城市等领域的渗透融合,形成了市场需求与技术进步的双重拉动态势,2013年我国云计算产业规模已超过1000亿元,这份期待已久的“千亿盛宴”,离不开国内云计算产业链的聚合与努力,离不开国产企业“以用户为中心”的创新奋斗。如今,云计算技术在生活中的应用越来越多,也许有一...
IBM推出新一代的数据云服务,帮助企业“多知先觉”...
views 1819
IBM公司近期宣布推出新一代的基于IBM云的数据服务,从而确保企业和组织机构中可以更为便捷地应用更为可靠的信息。 在大数据无处不在的世界里,随时获取和利用洞察力意味着比对手获得更大的竞争优势。如今,“在分析领域上每投入1美金,将得到13.01美金的回报”,这相比3年前提高了1.2倍 。一些新的基于云...
云计算:程序员重回个人英雄时代 -
views 1675
曾几何时,那些耳熟能详的程序英雄的名字渐渐地离我们远去。随着Windows和Internet时代的来临,个人的力量变得越来越渺小。正当我们开始坚信单打独斗的时代一去不复返的时候,云计算横空出世了。它强大的计算能力、存储能力和简单高效的编程接口,使得一位程序员能够轻松地操控成千上万台计算机,而不必考虑...
值得关注的十家云计算公司
views 2224
云计算正在IT行业大行其道,力求创新的新兴公司和地位稳固的老牌厂商都在争夺客户的眼球。一般而言,云计算提供商分为三类:软件即服务(Software-As-A-Service,SAAS)提供商;基础架构即服务(Infrastructure-As-A-Service,IAAS)提供商,提供基于Web的渠...
智能家居与云计算关系全解
views 2359
 文中首先介绍了智能家居与云计算的概念,接着针对传统的海量数据处理方法硬件成本太高,存在计算瓶颈的问题,在云计算理论的基础上针对智能家居中的门禁系统、温湿度系统、滴灌系统和照明系统搭建了基于Hadoop的数据处理平台。可以对大量传感信息进行分布式并行处理,并根据处理结果向底层设备发送指令以实现智慧化...

声明: 本文由( 爱说云网 )原创编译,转载请保留链接: 云计算的核心技术

云计算的核心技术:等您坐沙发呢!

发表评论


读者排行