云计算的核心技术

时间:14-12-20 栏目:云计算 作者:爱说云网 评论:0 点击: 1,345 次

  云计算系统运用了许多技术,其中以编程模型、数据管理技术、数据存储技术、虚拟化技术、云计算平台管理技术最为关键。

  (1)编程模型

  MapReduce是Google开发的java、Python、C++编程模型,它是一种简化的分布式编程模型和高效的任务调度模型,用于大规模数据集(大于1TB)的并行运算。严格的编程模型使云计算环境下的编程十分简单。MapReduce模式的思想是将要执行的问题分解成Map(映射)和Reduce(化简)的方式,先通过Map程序将数据切割成不相关的区块,分配(调度)给大量计算机处理,达到分布式运算的效果,再通过Reduce程序将结果汇整输出。

  (2) 海量数据分布存储技术

  云计算系统由大量服务器组成,同时为大量用户服务,因此云计算系统采用分布式存储的方式存储数据,用冗余存储的方式保证数据的可靠性。云计算系统中广泛使用的数据存储系统是Google的GFS和Hadoop团队开发的GFS的开源实现HDFS。

  GFS即Google文件系统(Google File System),是一个可扩展的分布式文件系统,用于大型的、分布式的、对大量数据进行访问的应用。GFS的设计思想不同于传统的文件系统,是针对大规模数据处理和Google应用特性而设计的。它运行于廉价的普通硬件上,但可以提供容错功能。它可以给大量的用户提供总体性能较高的服务。

  一个GFS集群由一个主服务器(master)和大量的块服务器(chunkserver)构成,并被许多客户(Client)访问。主服务器存储文件系统所以的元数据,包括名字空间、访问控制信息、从文件到块的映射以及块的当前位置。它也控制系统范围的活动,如块租约(lease)管理,孤儿块的垃圾收集,块服务器间的块迁移。主服务器定期通过HeartBeat消息与每一个块服务器通信,给块服务器传递指令并收集它的状态。GFS中的文件被切分为64MB的块并以冗余存储,每份数据在系统中保存3个以上备份。

  客户与主服务器的交换只限于对元数据的操作,所有数据方面的通信都直接和块服务器联系,这大大提高了系统的效率,防止主服务器负载过重。

  (3) 海量数据管理技术

  云计算需要对分布的、海量的数据进行处理、分析,因此,数据管理技术必需能够高效的管理大量的数据。云计算系统中的数据管理技术主要是Google的BT(BigTable)数据管理技术和Hadoop团队开发的开源数据管理模块HBase。

  BT是建立在GFS, Scheduler, Lock Service和MapReduce之上的一个大型的分布式数据库,与传统的关系数据库不同,它把所有数据都作为对象来处理,形成一个巨大的表格,用来分布存储大规模结构化数据。

  Google的很多项目使用BT来存储数据,包括网页查询,Google earth和Google金融。这些应用程序对BT的要求各不相同:数据大小(从URL到网页到卫星图象)不同,反应速度不同(从后端的大批处理到实时数据服务)。对于不同的要求,BT都成功的提供了灵活高效的服务。

  (4)虚拟化技术

  通过虚拟化技术可实现软件应用与底层硬件相隔离,它包括将单个资源划分成多个虚拟资源的裂分模式,也包括将多个资源整合成一个虚拟资源的聚合模式。虚拟化技术根据对象可分成存储虚拟化、计算虚拟化、网络虚拟化等,计算虚拟化又分为系统级虚拟化、应用级虚拟化和桌面虚拟化。

  (5)云计算平台管理技术

  云计算资源规模庞大,服务器数量众多并分布在不同的地点,同时运行着数百种应用,如何有效的管理这些服务器,保证整个系统提供不间断的服务是巨大的挑战。

  云计算系统的平台管理技术能够使大量的服务器协同工作,方便的进行业务部署和开通,快速发现和恢复系统故障,通过自动化、智能化的手段实现大规模系统的可靠运营。

相关文章

运用云计算促进中小企业发展
views 1292
由中国中小企业协会、中国电子信息产业发展研究院、工信部中国信息化推进联盟共同指导,中国中小企业服务平台、中国中小企业信息化公共服务平台联合举办的中国中小企业信息化系列活动第二期暨“中小企业的小而美—中小企业信息化登上云端”在中国水利水电科学院隆重开幕。 中国电子信息产业发展研究院中小企业研究所副所长...
云计算技术发展面临的主要问题
views 2056
云计算技术发展面临的主要问题   尽管云计算模式具有许多优点,但是也存在的一些问题,如数据隐私问题、安全问题、软件许可证问题、网络传输问题等。   · 数据隐私问题:如何保证存放在云服务提供商的数据隐私,不被非法利用,不仅需要技术的改进,也需要法律的进一步完善。   · 数据安全性:有些数据是...
传感器打造物联网医疗,广大农村最受益-传感器...
views 1266
回望网络进入中国,20年的发展让各行各业都有着互联网信息技术的影子。百度推出健康安全联盟,阿里上线药品“扫码”,小米进军移动医疗,腾讯布局医疗健康领域,医疗行业似乎从2013年底开始就充斥着一股互联网的“味道”。医疗虽是相对传统封闭的行业,但在这样的大背景下与网络“接轨”也算是意料之中。   据了...
基于Docker的B2B服务思考:Docker到底解决了什么问题...
views 1682
我很喜欢Docker,它容易使用并且速度快,它真的很棒,以至于我每天都能看到与它有关的应用。但是话又说回来,Docker究竟解决了什么实际问题?稳定的环境?配置管理?高性价比的虚拟化? 我认为Docker解决了其它的问题。 我之前公司的主营业务是为客户提供B2B( business-to-busi...
2014年云数据安全技巧回顾 云计算
views 1435
现在,云计算可谓是IT界的宠儿,但安全方面的顾虑让它未能得到企业的青睐。本文通过对2014年五大安全技巧的回顾及介绍,希望可以帮助IT团队与这个新宠儿熟络起来。 没有人否认云计算具有的优点:灵活性、可扩展性和按使用付费,但许多人仍在争论云计算对敏感数据来说是不是一种足够安全的环境。云计算数据的安全...
云服务可以填补自备云的技术空白
views 1139
随着智能手机在消费者中不断流行,移动设备已经从公司为员工购买设备转变到了员工自备设备(BYOD)模式。 云可能会发生同样的转变。 BYOC,或者称作“自备云”,是一种机遇,使用户和工作人员能够使用个性化的云托管服务,以支持他们的工作。 虽然BYOC与BYOD类似 ,能够在成本优势与安全性/合规性风险...
解读“支解理论”,丁健的产业互联网预言...
views 1197
12月12日, 2014 CVW 产业互联网大会上,金沙江创投董事总经理丁健在“产业互联网三人谈”话题中提出了“支解理论”。他认为:“互联网正在支解传统产业,未来每个传统产业领域都会因为互联网的变革而出现一到两家大的平台公司,当然现在的竞争刚刚开始,谁成为剩下的大平台仍是未知数。” 根据“支解理论...
云计算发展历史
views 1339
1983年,太阳电脑提出“网络是电脑”(“The Network is the computer”)。 2006年3月,亚马逊推出弹性计算云服务。 2006年8月9日,Google首席执行官埃里克·施密特在搜索引擎大会(SES San Jose 2006)首次提出“云计算”的概念。Google“...

声明: 本文由( 爱说云网 )原创编译,转载请保留链接: 云计算的核心技术

云计算的核心技术:等您坐沙发呢!

发表评论


读者排行