如何结合大数据与云计算

时间:15-01-25 栏目:大数据 作者:爱说云网 评论:0 点击: 2,752 次

你如何在大数据的海洋寻宝?对于那些拥有庞大信息需要处理的企业,在数据分析之前要克服的第一个障碍就是--不能够定位到相关并且有意义的信息。这也是HGST遇到的问题,HGST(日立环球存储科技公司)是一个计算机硬件的主要生产厂商,他们现在迫切需要追踪在生产设施上收集到的数据。据HGST的云计算与高性能解决方案主管David Hinz介绍,找到所需要的数据来评估生产过程是一个漫长或者说是不可能完成的任务。

“我们不能确定它在哪里,谁拥有它,以及如何得到它,”Hinz说,“对于HGST,我们想改善性能使其能够及时得到数据,并使团队能够快速找到它。然后,我们就可以回过头来开始分析并找出相关见解,来帮助我们改进制造工艺,改善客户响应,并帮助产品推广。”通过在云端集中和精简数据,数据检索用户能够在几分钟之内找到想要的信息而不是几周。事实证明这家公司在云端设立Hive数据仓库是明智的选择。

如何结合大数据云计算

如今的数据绝大多数是非结构化的,而且大多数这类数据都是用户生成的。AWS的大数据及高可用性高级经理Ben Butler发表评论说:“现在生成数据更加容易,并且成本更低。然而它却把压力推给了生命周期的其余部分:收集和存储、分析和计算,从而能够搞清楚这些快速增长的数据的意义。”

如今,拥有PB数量级数据,并且一直包含流媒体的大企业已经不足为奇。可用信息的爆炸性增长意味着在可以被收集和高速分析的数据之间存在差距将越来越大。 “关于大数据,你拥有的数据量,种类,以及增长速率都要求新的工具,”Butler说,“在云端,我们组合不同的计算,网络以及存储工具,你可以用来解决这些问题。”

解锁大数据的秘密

云计算提供的弹性和按需配置,为让企业组织能够试验和尝试解决大数据的新方法提供了核心力量。企业可以根据供应的基础设施,用不同的迭代方式尝试和操纵他们的数据。基础设施不再限制用什么来处理数据。这些相同的灵活性使企业即使有高可变负载的情况下也不会超支。

根据需要可扩展性还可以减少数据处理的等待时间,这样对资源的争用就会更少。获得无限制的资源可以让企业在使用AWS解决方案时做出更好的决策。例如,把EMR或其他解决方案植入Kinesis后台,接近实时的分析可以在几秒之内,通过把可视化的结果传递给BI系统展示出来。

大数据处理是一个挑战,对于这些数据,如果没有强有力的硬件做支撑处理,对其进行有意义的分析几乎是不可能的。但幸运的是,云计算爆炸和弹性使用处理的能力意味着小型企业组织现在可以完成曾经只有大企业才能完成的任务。云计算已经使大数据更易于管理,而且还可以对这些数据做更多,更快的分析。随着大数据还在不断变大,更大的云计算将在那里等待处理。

相关文章

2014中关村大数据日,数据资产驱动产业创新...
views 1471
大数据作为价值万亿的可再生之矿,作为社会资产和生产要素,影响国计民生、产业再造和民族复兴。如何对数据资产的管理、变现和驱动产业创新,决定企业的竞争能力,产业的未来和国家竞争力。 围绕这个话题,政府领导、行业领袖、技术专家怎么看?产业联盟,领军企业和产业代表怎么想,又怎么做?2014中关村大数据日,我...
为什么社交网络中数据翻页技术复杂-技术方案...
views 1354
最近讨论的一个传统的问题,问题本身比较简单,针对key-list类型的数据,如何优化方案做到性能与成本的tradeoff。Key-list 在社交产品及面向用户的产品中非常普遍,如一个用户的好友关系 {“uid”:{1,2,3,4,5}},表示某个uid有1,2,3,4,5好友;一条微博下面的评论i...
云计算支撑大数据 应用实现价值
views 1622
云计算的发展对社会管理和经济发展将产生什么样的影响?大数据时代给政府、互联网公司、IT企业及行业用户带来了哪些挑战和基于?哪些领域是大数据应用的沃土? 云计算作为新一代信息技术的重要发展方向,已被广泛认为是支撑信息化应用和业务模式创新的核心,其技术与产业发展,以及应用的推广普及,对于我国深入推进两...
mongodb备份与恢复方法大全
views 3927
一. 备份单台mongodb 1. 文件快照方式 2. 复制数据文件方式 3. 使用mongodump方式 二. 备份复制集 1. 将复制集中要恢复的成员移除集群 2. 运行mongorestore --oplogReplay命令 3. 创建oplog 4. 恢复oplog ...
大数据与网络黑产
views 2845
随着互联网不断深度介入人们的生活,网络上也在源源不断积累起大量数据。这些数据就像散落在互联网生态中的粒粒珍珠,诱惑着网络黑产分子瞪大贪婪的双眼,伺机而动…… 记者调查发现,基于这些存在的产业链,上游,是以技术含量最高的职业黑客为主,他们通过挖掘漏洞、编写木马实施入侵,获取数据;中游,是购买这些数据...
大数据时代大数据分析的哲学变革
views 1852
近年来,大数据这个原本陌生的专业词汇迅速进入大众视野,掀起了一场新的数据技术革命。大数据正在改变我们的生产、生活、教育、思维等诸多领域以及认识、理解世界的方式,作为时代精神精华的哲学,应该及时对这场数据革命做出全面的回应和批判,深入分析大数据对我们的世界观、认识论、方法论、价值观和伦理观将带来的深刻...
大数据如何解决城市计算的基本框架及核心问题...
views 1796
    编者按:近年来,随着感知技术和计算环境的成熟,各种大数据在城市中悄然而生。城市计算就是用城市中的大数据来解决城市本身所面临的挑战,通过对多种异构数 据的整合、分析和挖掘,来提取知识和智能,并用智能来创造“人—环境—城市”三赢的结果。微软亚洲研究院主管研究员郑宇从城市计算的基本框架及核心问题...
选举大数据研究 美两党火拚-应用案例
views 1617
  大数据研究是美国选战的重要策略,民主党在两次总统选举中领先,但共和党急起直追,网路与手机的数位流动资讯,已成胜选的关键。   美国千禧世代支持者研究网路资料,拟定选举策略,是总统欧巴马两度入主白宫的重要推手;民主党虽在11月的期中选举落败,但大数据(Big Data)研究更为精进,年轻人较支持...

声明: 本文由( 爱说云网 )原创编译,转载请保留链接: 如何结合大数据与云计算

如何结合大数据与云计算:等您坐沙发呢!

发表评论


读者排行