云计算的核心技术

时间:14-12-20 栏目:云计算 作者:爱说云网 评论:0 点击: 1,280 次

  云计算系统运用了许多技术,其中以编程模型、数据管理技术、数据存储技术、虚拟化技术、云计算平台管理技术最为关键。

  (1)编程模型

  MapReduce是Google开发的java、Python、C++编程模型,它是一种简化的分布式编程模型和高效的任务调度模型,用于大规模数据集(大于1TB)的并行运算。严格的编程模型使云计算环境下的编程十分简单。MapReduce模式的思想是将要执行的问题分解成Map(映射)和Reduce(化简)的方式,先通过Map程序将数据切割成不相关的区块,分配(调度)给大量计算机处理,达到分布式运算的效果,再通过Reduce程序将结果汇整输出。

  (2) 海量数据分布存储技术

  云计算系统由大量服务器组成,同时为大量用户服务,因此云计算系统采用分布式存储的方式存储数据,用冗余存储的方式保证数据的可靠性。云计算系统中广泛使用的数据存储系统是Google的GFS和Hadoop团队开发的GFS的开源实现HDFS。

  GFS即Google文件系统(Google File System),是一个可扩展的分布式文件系统,用于大型的、分布式的、对大量数据进行访问的应用。GFS的设计思想不同于传统的文件系统,是针对大规模数据处理和Google应用特性而设计的。它运行于廉价的普通硬件上,但可以提供容错功能。它可以给大量的用户提供总体性能较高的服务。

  一个GFS集群由一个主服务器(master)和大量的块服务器(chunkserver)构成,并被许多客户(Client)访问。主服务器存储文件系统所以的元数据,包括名字空间、访问控制信息、从文件到块的映射以及块的当前位置。它也控制系统范围的活动,如块租约(lease)管理,孤儿块的垃圾收集,块服务器间的块迁移。主服务器定期通过HeartBeat消息与每一个块服务器通信,给块服务器传递指令并收集它的状态。GFS中的文件被切分为64MB的块并以冗余存储,每份数据在系统中保存3个以上备份。

  客户与主服务器的交换只限于对元数据的操作,所有数据方面的通信都直接和块服务器联系,这大大提高了系统的效率,防止主服务器负载过重。

  (3) 海量数据管理技术

  云计算需要对分布的、海量的数据进行处理、分析,因此,数据管理技术必需能够高效的管理大量的数据。云计算系统中的数据管理技术主要是Google的BT(BigTable)数据管理技术和Hadoop团队开发的开源数据管理模块HBase。

  BT是建立在GFS, Scheduler, Lock Service和MapReduce之上的一个大型的分布式数据库,与传统的关系数据库不同,它把所有数据都作为对象来处理,形成一个巨大的表格,用来分布存储大规模结构化数据。

  Google的很多项目使用BT来存储数据,包括网页查询,Google earth和Google金融。这些应用程序对BT的要求各不相同:数据大小(从URL到网页到卫星图象)不同,反应速度不同(从后端的大批处理到实时数据服务)。对于不同的要求,BT都成功的提供了灵活高效的服务。

  (4)虚拟化技术

  通过虚拟化技术可实现软件应用与底层硬件相隔离,它包括将单个资源划分成多个虚拟资源的裂分模式,也包括将多个资源整合成一个虚拟资源的聚合模式。虚拟化技术根据对象可分成存储虚拟化、计算虚拟化、网络虚拟化等,计算虚拟化又分为系统级虚拟化、应用级虚拟化和桌面虚拟化。

  (5)云计算平台管理技术

  云计算资源规模庞大,服务器数量众多并分布在不同的地点,同时运行着数百种应用,如何有效的管理这些服务器,保证整个系统提供不间断的服务是巨大的挑战。

  云计算系统的平台管理技术能够使大量的服务器协同工作,方便的进行业务部署和开通,快速发现和恢复系统故障,通过自动化、智能化的手段实现大规模系统的可靠运营。

相关文章

企业信息化规划中的关键问题与应对策略...
views 1607
对于企业来说,信息化的管理能够降低企业的成本,提高企业的生产效率,因此它对市场竞争力的不断提升具有重要的作用,而接下来的文章中就将对信息化规划中的关键问题及应对策略进行了分析。 方法/步骤 1   对于企业来说,信息化的管理能够降低企业的成本,提高企业的生产效率,因此它...
华南首个“云计算与大数据”工程硕士今年招生...
views 1362
6月13日,华南地区首个“云计算与大数据专业方向”工程硕士在华南理工大学揭牌。据华南理工大学消息,该专业方向目前已开始面向全国招生。 据了解,华盛顿邮报 分析处理一批无法检索的图片文件,在应用了云计算技术后,一年的工作量在9个小时内全部处理完毕;卡车运输公司U.S. Xpress通过一系列的运输大数...
云计算之Docker:颠覆者还是昙花一现
views 1447
在云计算产业界,一场由一个技术掀起的革命正在悄悄上演:名不见经传的小公司横插进IT大佬构筑的云生态产业链,各路IT企业纷纷拥抱该技术并接纳该公司,云计算的构建方式和实施方式也即将发生或多或少的改变。这个技术就是Docker,这个公司便是dotCloud。 DotCloud本是家新创业小公司,基本无...
云计算之分布式文件系统
views 1110
云计算的分布式文件系统(如Google的GFS)是整个云计算的基石,提供上层表格系统所需的可靠和高效的数据存储,假设是: l         容错与自动故障恢复是DNA 整个文件系统由许多廉价计算机组成,机器故障是常事而非例外,系统需要不停地进行自我检测和监控,发现故障机器并自动恢复; l     ...
云技术是如何促进IT创新的?
views 1073
 云技术的出现改变许多的东西,也革新的许多东西。传统的IT部门的工作主要是是维护处理坏掉的邮件系统、保证服务器正常运行、保证邮件的正常发送。确保老板不会因为他们的密码无效而咆哮。云计算使这种工作模式发生了翻天覆地的变化。   随着企业把部门工作转移到公有云中,上述所说日常维护之类的工作就可以转移到了...
下一个云计算的大事件:谷歌拥抱Docker...
views 1398
谷歌对当今最热门的云计算技术Docker给予了相当大的支持。在谷歌看来,Docker也是一个足以改变人们创建软件方式的东西,它能让任何程序开发人员更轻松地、即刻地体会到海量计算性能的优势。 北京时间6月10日消息,据Wired报道称,谷歌对当今最热门的云计算技术Docker给予了相当大的支持。“...
中小企业如何借力云计算_软件与服务_比特网...
views 1085
云计算将改变未来工作及生活方式   “云计算实际上是一种商业模式的创新和企业需求的结合,它的发展和应用将使传统的工作和生活模式发生巨大变化。”日前,工业和信息化部软件与集成电路促进中心(CSIP)主任邱善勤博士在接受比特网采访时如是说,“云计算的发展和应用趋势已经毋庸质疑,更要紧的是,我们如何更好地...
Google云计算应用实例
views 2659
IBM公司于2007年底宣布了云计算计划,云计算的概念出现在大众面前。本文简要介绍云计算概念的理解,云计算意思,云计算用到,云计算应用领域以及云计算应用实例。 一、深入理解云计算 在IBM的技术白皮书“Cloud Computing”中对云计算定义:“云计算一词用来同时描述一个系统平台或者一种类型的...

声明: 本文由( 爱说云网 )原创编译,转载请保留链接: 云计算的核心技术

云计算的核心技术:等您坐沙发呢!

发表评论


读者排行