大数据如何解决城市计算的基本框架及核心问题

时间:14-12-15 栏目:大数据 作者:爱说云网 评论:0 点击: 2,326 次

    编者按:近年来,随着感知技术和计算环境的成熟,各种大数据在城市中悄然而生。城市计算就是用城市中的大数据来解决城市本身所面临的挑战,通过对多种异构数 据的整合、分析和挖掘,来提取知识和智能,并用智能来创造“人—环境—城市”三赢的结果。微软亚洲研究院主管研究员郑宇从城市计算的基本框架及核心问题、 典型应用、主要技术等方面对城市计算研究进行了全面而详细的分析,让我们一睹为快!

    作者:微软亚洲研究院研究员 郑宇

    城市计算的基本框架及核心问题

    基本框架

    城市计算的基本框架包括城市感知及数据捕获、数据管理、城市数据分析和服务提供(如图1)。与自然语言分析和图像处理等“单数据单任 务”系统相比,城市计算是一个“多数据多任务”系统。城市计算中的任务包括改进城市规划、缓解交通拥堵、保护自然环境、减少能源消耗等。而一个任务又需要 同时用到多种数据。例如,在城市规划的设计过程中,需要同时参考道路结构、兴趣点分布、交通流等多种数据源。

核心问题

    城市计算是一门新兴的交叉领域,涵盖面较广。从计算机科学的角度来看,其核心的研究问题主要包括以下4 个方面:

    城市感知 如何利用城市现有的资源(如手机、传感器、车辆和人等),在不干扰人们生活的前提下自动感知城市的韵律,是一个重要的研究课题。如何从大量的传感器和设备 中高效而可靠地收集、传送数据将给现有的传感器网络技术带来挑战。此外,人作为传感器参与到城市感知过程是一个新概念。例如,当一场灾难发生后,有些用户 会在社交网络上发布消息或上传照片。这些用户其实就是在感知发生在他们身边的事情。用户在出入地铁站时的刷卡行为也间接帮助我们感知了地铁系统的拥挤和人 们的出行。人赋予了传统传感器强大的感知能力和前所未有的灵活性,但产生的数据更加随机、无序(如微博上的文字),数据的产生时间也变得难以预测、不可 控,这给数据的收集和解析带来了挑战。

    海量异构数据的管理 城市产生的数据五花八门,属性差别很大。例如:气象是时序数据,兴趣点是空间点数据,道路是空间图数据,人的移动是轨迹数据(时间+ 空间),交通流量是流数据,社交网上用户发布的信息是文本或图像数据。如何管理和整合大规模的异构数据是一个新的挑战。尤其是在一个应用中使用多种数据时,只有提前建立起不同数据之间的关联,才能使后面的分析和挖掘过程变得高效、可行。

    异构数据的协同计算 这部分包括三个方面:(1) 如何从不同的数据源中获取相互增强的知识是一个新的课题。传统的机器学习往往基于单一数据,如自然语言处理主要分析文本数据,图像视觉主要基于图像数据。在城市计算的很多应用中,对不同性质的数据一视同仁,其效果并不理想。(2) 在保证知识提取深度的同时,如何提高对大数据的分析效率,从而满足城市计算中众多实时性要求较高的应用(如空气质量预测、异常事件监测等),也是一个难题。(3) 数据维度的增加也容易导致数据稀疏性问题。当数据规模达到一定程度,简单的矩阵分解算法都变得难以执行。

    虚实结合的混合式系统 城市计算常常催生混合系统,如云加端模式,即信息产生在物理世界,通过终端设备被收 集到云端(虚拟世界)分析和处理,最后云再将提取的知识作为服务提供给物理世界的终端用户。数据在物理和虚拟世界中来回穿行,从分散到集中,再到分散。这 对系统的设计和搭建提出了更高的要求。基于浮动车数据的快速行车路线设计以及城市异常事件的监测都是典型的混合式系统。

城市计算的典型应用

城市规划

    城市拥堵在一定程度上突显了现有道路网的设计已经不能满足不断发展的城市交通流的需求。如图2(a) 所示,利用高速和环路等主干道将城市分割成区域,然后分析大规模车流轨迹数据在不同区域之间行驶的一些特征,便可找到连通性较差的区域对,从而发掘现有城市道路网的不足之处。图2(b) 给出了基于北京市3 万多辆出租车3 个月轨迹数据的分析结果。这些结果可以作为制定下一版交通规划的参考。同时,通过对比连续两年的检测结果,可以验证一些已经实施的规划(如新建道路和地铁)是否合理。

相关文章

云计算是一把双刃剑安全问题不容小觑...
views 1904
  互联网新闻研究中心于5月26日发表的《美国全球监听行动记录》指出,美国曾秘密侵入雅虎、谷歌在各国数据中心之间的主要通信网络,窃取了数以亿计的用户信息。这也说明,近年来兴起的“云计算”在给人们带来巨大便利的同时,也存在着不容忽视的安全隐患。   “云”时代:云计算是把双刃剑 中国式突围任重道远 ...
弥合 IaaS 与 PaaS 间差别的三种方法
views 1899
现在市场上关于将云服务的级别提升到基础设施即服务(IaaS)以上的动静或声势越来越大。在云服务层次体系中,价值链上的下一个选择就是平台即服务(PaaS)。不像IaaS托管运行虚拟机,并要求用户提供操作系统和中间件,PaaS提供了包括软硬件在内的完整平台,应用程序在该平台上运行。PaaS能实现更多的...
云计算的十大认识误区
views 2099
云计算概念自诞生以来就无法摆脱误解、困惑和炒作,这么多年过去了,从普通消费者到财富500强CEO依然经常陷入云计算误区。近日Gartner总结了十大最危险的云计算错误观念如下: 一、云计算就是为了降低成本 虽然云计算价格在不断下降,尤其是亚马逊、微软、Google等云计算巨头的价...
Monet DB学习笔记
views 3243
1 架构: 三层软件架构: SQL front-end:前端SQL解析,数据模型优化,降低数据中间结果的总量,最后将SQL语句解析为MAL(MonetDB Assembly Language)。 Tactical-optimizers:一系列优化模块的集合,组成优化管道,这个模块提供功能从符号处理到...
揭秘关于云计算的十大常见术语
views 3089
云计算是当前的一个热门话题,但是如果你想了解云计算的时候,你需要先从一些技术词语下手。这里笔者为那些想了解云计算网友总结了关于云计算的常见十大术语。  SaaS,BDaaS和IaaS  看到上面三个英文单词,可能很多人会表示不解,其实了解这三者并不难,其只是云计算的三个技术单词的缩写。IaaS代表的...
走近云计算:解密IaaS、PaaS和SaaS
views 1821
云计算让整个IT行业为之躁动,微软、IBM、亚马逊、谷歌以及其他的一些公司在这种新的运算形式上投入了数以十亿计美元的资金,它们认为这种新型的业务模式能够揭开一个新世代的序幕,这个时代代表了高响应程度、效率和高效IT服务。事实上,Gartner最近表示,云计算在IT用户2010年最关注的重要技术的榜单...
从Xen漏洞帽子戏法看AWS、Rackspace、SoftLayer的碰撞...
views 1991
从Xen漏洞帽子戏法看AWS、Rackspace、SoftLayer的碰撞 9月23日,用于Linux内核的虚拟化技术Xen被爆出3个安全漏洞,着实上演了一出帽子戏法。Xen漏洞可跳出虚拟主机环境(越权),或读取其它用户的数据、控制hypervisor本身(宿主机)。远程攻击者可利用漏洞造成主机系...
云计算之Docker:颠覆者还是昙花一现
views 2153
在云计算产业界,一场由一个技术掀起的革命正在悄悄上演:名不见经传的小公司横插进IT大佬构筑的云生态产业链,各路IT企业纷纷拥抱该技术并接纳该公司,云计算的构建方式和实施方式也即将发生或多或少的改变。这个技术就是Docker,这个公司便是dotCloud。 DotCloud本是家新创业小公司,基本无...

声明: 本文由( 爱说云网 )原创编译,转载请保留链接: 大数据如何解决城市计算的基本框架及核心问题

大数据如何解决城市计算的基本框架及核心问题:等您坐沙发呢!

发表评论


读者排行