云计算的核心技术

时间:14-12-20 栏目:云计算 作者:爱说云网 评论:0 点击: 1,413 次

  云计算系统运用了许多技术,其中以编程模型、数据管理技术、数据存储技术、虚拟化技术、云计算平台管理技术最为关键。

  (1)编程模型

  MapReduce是Google开发的java、Python、C++编程模型,它是一种简化的分布式编程模型和高效的任务调度模型,用于大规模数据集(大于1TB)的并行运算。严格的编程模型使云计算环境下的编程十分简单。MapReduce模式的思想是将要执行的问题分解成Map(映射)和Reduce(化简)的方式,先通过Map程序将数据切割成不相关的区块,分配(调度)给大量计算机处理,达到分布式运算的效果,再通过Reduce程序将结果汇整输出。

  (2) 海量数据分布存储技术

  云计算系统由大量服务器组成,同时为大量用户服务,因此云计算系统采用分布式存储的方式存储数据,用冗余存储的方式保证数据的可靠性。云计算系统中广泛使用的数据存储系统是Google的GFS和Hadoop团队开发的GFS的开源实现HDFS。

  GFS即Google文件系统(Google File System),是一个可扩展的分布式文件系统,用于大型的、分布式的、对大量数据进行访问的应用。GFS的设计思想不同于传统的文件系统,是针对大规模数据处理和Google应用特性而设计的。它运行于廉价的普通硬件上,但可以提供容错功能。它可以给大量的用户提供总体性能较高的服务。

  一个GFS集群由一个主服务器(master)和大量的块服务器(chunkserver)构成,并被许多客户(Client)访问。主服务器存储文件系统所以的元数据,包括名字空间、访问控制信息、从文件到块的映射以及块的当前位置。它也控制系统范围的活动,如块租约(lease)管理,孤儿块的垃圾收集,块服务器间的块迁移。主服务器定期通过HeartBeat消息与每一个块服务器通信,给块服务器传递指令并收集它的状态。GFS中的文件被切分为64MB的块并以冗余存储,每份数据在系统中保存3个以上备份。

  客户与主服务器的交换只限于对元数据的操作,所有数据方面的通信都直接和块服务器联系,这大大提高了系统的效率,防止主服务器负载过重。

  (3) 海量数据管理技术

  云计算需要对分布的、海量的数据进行处理、分析,因此,数据管理技术必需能够高效的管理大量的数据。云计算系统中的数据管理技术主要是Google的BT(BigTable)数据管理技术和Hadoop团队开发的开源数据管理模块HBase。

  BT是建立在GFS, Scheduler, Lock Service和MapReduce之上的一个大型的分布式数据库,与传统的关系数据库不同,它把所有数据都作为对象来处理,形成一个巨大的表格,用来分布存储大规模结构化数据。

  Google的很多项目使用BT来存储数据,包括网页查询,Google earth和Google金融。这些应用程序对BT的要求各不相同:数据大小(从URL到网页到卫星图象)不同,反应速度不同(从后端的大批处理到实时数据服务)。对于不同的要求,BT都成功的提供了灵活高效的服务。

  (4)虚拟化技术

  通过虚拟化技术可实现软件应用与底层硬件相隔离,它包括将单个资源划分成多个虚拟资源的裂分模式,也包括将多个资源整合成一个虚拟资源的聚合模式。虚拟化技术根据对象可分成存储虚拟化、计算虚拟化、网络虚拟化等,计算虚拟化又分为系统级虚拟化、应用级虚拟化和桌面虚拟化。

  (5)云计算平台管理技术

  云计算资源规模庞大,服务器数量众多并分布在不同的地点,同时运行着数百种应用,如何有效的管理这些服务器,保证整个系统提供不间断的服务是巨大的挑战。

  云计算系统的平台管理技术能够使大量的服务器协同工作,方便的进行业务部署和开通,快速发现和恢复系统故障,通过自动化、智能化的手段实现大规模系统的可靠运营。

相关文章

你需要一个云策略的迁移? 大多数企业并不这么认为...
views 1622
尽管绝大多数公司的希望随着时间的推移扩大他们的云基础架构,但只有14%的在受访者表示,他们有一个特定的云策略来监督它。 很多人认为云计算作为他们公司的前三大业务或IT的举措之一,但似乎不够开心,他们目前的IT团队来负责他们的云迁移项目。 这被看作是特别有趣给予其他的调查数据,显示私有,公共和混合云部...
用事实告诉你云计算是否安全
views 1248
许多人不敢尝试云计算和云存储,是因为从心理上觉得把自己至关重要的信息存储在第三方实在不靠谱,这其实就像我们经常看到的报道,某老太存了多少年钱放在床底被老鼠啃了一样,专业的事还是让专业人士来处理好一些,云安全问题需要更多关注。 不可否认现在的云服务提供商良莠不齐,但如果连亚马逊这样的服务商都靠不住,那...
大数据和云计算–不仅仅为了大公司...
views 1424
如今,云计算是活蹦乱跳的。举例来说,我住在拉斯维加斯,一个城市充满了创业公司,其中大部分是启动和运行在很短的时间内这在很大程度上归功于对“云”。看看全国各地,真是他的世界。数以百万计小型,中型和大型组织已经接受了它,并看到在这个过程中巨额回报。    或者看看你的手机,你会看到通常的嫌疑人。以消...
小米美的:充满未知的试探
views 1402
中云网每天精选各科技媒体头条! 1.腾讯科技 林宇失联后的网秦迷局:盈利或难以为继 http://tech.qq.com/a/20141215/008246.htm 今年8月参加中国互联网大会后,林宇就没有在公众场合露面,其电话长期处于关机状态,个人微博在半年前发布了回应浑水指控的最后一条内容。除...
警惕云计算技术的另一方面 – 51CTO.COM...
views 1280
计算对于企业来说具有各种好处的吸引力:诸如降低企业的成本、帮助企业实现更加安全的专有IT、可扩展性等等。虽然这些好处(具体而言,还是集中在成本优势和安全性方面)仍然是值得辩论的内容,但这些所谓的好处可能掩盖了云计算的阴暗面。也就是说尽管云计算具有其明显的优势,但其也可能为企业和消费者造成一定的危...
基于云计算等新一代IT的行业参考架构及应用...
views 1673
日前,由北京大学信息化与信息管理研究中心和北大CIO班教务办公室联合主办的“第五届中国云计算应用论坛”在北京大学成功举办,此次论坛以“云计算的转型与创新”为主题,将近200位专家学者、行业代表、优秀CIO们就云计算的技术、架构、建设与应用等一系列的问题展开了讨论,北大信息化与信息管理研究中心秘书...
全息交互设备来了! 用户可以触摸到虚拟世界中的物体...
views 1752
12月4日,据mashable网站报道,英国一家名为Ultrahaptics公司已经开发出了一种新的3D交互式触觉技术,该技术借助超声波,能够为全信息图像提供一种触觉回馈,说得通俗点,就是可以让用户“触摸”到虚拟世界中的物体。 最初,这项技术是由英国布里斯托尔大学研究室开发,这项技术借助超声波,并通...
云计算背景下的大数据时代来临
views 1564
数据中心正在成为新时代的“信息电厂”,成为知识经济的基础设施。过去一年,“大数据”正在成为一个热门话题。 半个世纪信息技术的发展,主要解决的是云计算中“结构性”数据的存储、处理与应用。“结构性”数据的特征有如你到银行去存取款,银行的计算机系统记录着你的名字,在名字之后是你存取款的数量、时间、类型等信...

声明: 本文由( 爱说云网 )原创编译,转载请保留链接: 云计算的核心技术

云计算的核心技术:等您坐沙发呢!

发表评论


读者排行