安防行业:未深入发掘的大数据宝库_数据分析师
记得几年前看过一部电影,威尔史密斯主演的《国家公敌》,影片中美国的各个角落充斥着摄像机,CIA可以随时调用这些摄像机进行追踪,无数的摄像机形成了一张超级大网……当时觉得有点科幻也有点背寒。
不过短短几年,这已经成为了现实,成百万的摄像头已经联网,给我们的人财安全、交通出行带来了非常多便利,但这仅仅是开始,实际上,现在的技术已经能够很轻松地进行智能识别、人流计数甚至行为识别等,这庞大的视频数据分析比传统互联网数据更接近于真实的世界,这个潘多拉盒子的里面,究竟会带来什么?
视频监控将是世界上最大的数据生成器
2012年这个世界上增加了2.8ZB的数据,相当于30亿TB。如果视频数据也存储下来,这个数据就要翻倍了。
以国内某省为例,公共视频监控已经超过100多万个摄像头,总保有量近400万,以此估计,全国摄像头数量不少于4000万,某投行的报告称行业每年还在以20%加速增长,行业龙头海康威视12年的年报披露的销售量就达570万套(含前后端),增长37%。而另一个数据也很惊人,英国的摄像头数量与人口数量之比已经达到1:15。粗略计世界至少有1亿个摄像头在角落静静的看着。
如果这些数据存储下来,将是超级大数据。假设所有摄像头换为1080P,每天的数据量是64G,每年的数据量是23T,全世界每年将产生23亿T的视频数据。
这是个可怕的数字。不知是有幸还是不幸,绝大部分视频监控数据存储不会超过一天,因为从目前看来,与存储的价格相比,这些数据不值钱。
正在形成的超级视频监控云
视频监控已经不再是以前那样,几个摄像头连到大楼保安室,只有进入这个神秘的房间才能一窥究竟。实际上,监控摄像头已经成为了智能终端,有网口、能控制甚至可接双向音频,摄像头的互联已经成为趋势。
例如公共视频,已经从一个城市内的互联,发展到一个省的互联,逐步到一个国家的互联,无论是新的网络摄像头,还是旧模拟摄像头+DVS/DVR,都开始加速接入一个庞大的云平台,从单纯的视频流媒体数据到云台操作,每一个终端都成为了一个可被远程控制的智能化终端。而另一端,这些数据又被包装成各种公共应用向公众开放,看看媒体里充斥着多少手机可实时查看城市道路交通视频的新闻。
除了公共视频,无数私有视频也在形成私有云,分支庞大的连锁超市、连锁酒店、物流公司、金融机构甚至工业生产线,无数端点的数据正在向云汇集。而不少国家也要求私有视频数据也要定向开放,可被调用和操作。
这正是与互联网不同的物联云网络,从感知到互联到应用,只不过这个感知是用无数的“眼睛”看世界。
欢迎进入“楚门的世界”。
视频大数据的价值还未发掘
一般看来,视频的冗余数据太多,只有发生了突发事件才会回看记录,所以大部分视频数据的存储很短,超过一周的少之又少。而另一方面,由于数据读写要求高,云端存储极为昂贵(几千元1TB),所以绝大部分数据都是存在前端。
视频智能分析的初衷就是要解决冗余数据的问题,把人从枯燥的监控中解放出来,帮助人更好的眼观六路。所谓智能的核心就是目标识别和行为分析,按照应用的要求设定规则,当视频中的信息符合规则时才进行告警和记录,常见的应用包括入侵检测、周界告警、车辆识别、交通违法监控等。
目前行业主流的智能分析厂商,如国外的ObjectVideo、ioimage、Emza,国内的卓扬科技、文安科技、智安邦科技等,基本都是围绕 “监控”二字,属于视频数据的初级加工,一般只是对单个摄像头的视频信息进行实时处理,按一定规则产生事件数据(如告警事件、车辆计数),跨空间和时间范围的二次加工分析还比较少,因此,视频监控领域并未真正的形成互联网意义上的大数据。
不过视频监控数据必定能成为下一个大数据的宝库。一方面,它具备了典型的大数据4V特征,数据量巨大、多样化、表面上无序、但暗含着无数人和物的行为。另一方面,它是真实世界的写照,这与互联网获得的大数据有很大不同,真实世界蕴含了无数难以用格式化文字表达的信息,比如人通过视觉可以快速形成判断,一个地方是繁荣还是衰退,气氛是紧张还是欢快。
当然,前提是,存储成本能降下来,数据处理能力能升上去。
潜力巨大的应用
比如对于一个商场,除了对安防的需求之外,对视频数据的二次挖掘,可以搜集顾客的性别、年龄、穿着信息,可以统计顾客的购物路径、停留模式、聚集热点,甚至可以二次或者多次回头率、到店周期等。这类似于网站访问分析,能为商场的优化提供基础数据。如果是连锁型企业,还能结合多店的数据,获得区域性甚至全国性的数据。
同样放大到一个城市,每个街道的人流数据、车流数据都在其中,这些数据整体汇集起来,就是一个城市的人车分布图,静态的如不同区域人的特征、车的特征,动态的如人车的路径、停留模式,这对城市的规划和管理都极有价值。
如果再结合到时间线,从无数摄像头收集到的信息,还可以看出一个国家、一个区域、一个城市的变化,如同《大数据》里所言,甚至可以预测趋势,比如是否更多的店铺在新装修开张还是更多的歇业,是更多的饭店还是更多的服装店等,这些变化汇集起来我们可以看到人口的变化、经济的趋势、潮流的趋势、自然环境的变化甚至人的快乐和紧张程度。
这不是天方夜谭,现在的技术已经完全做到。一方面高清摄像机的普及,视频信息质量更加优良;另一方面,智能分析的水平已经相当的高,对物品的识别和分离、对人脸的识别、对颜色文字数字的识别、对物体变化的分析甚至还有暴力行为的监测。
但要实现这种意义上的数据挖掘,需要进行大量元数据的记录,甚至是与监控目的无关的元数据,要***度的进行分析,需要海量的数据汇集存储和超大规模的数据处理,最后还需要基于位置和时间的进行关联性分析整合,这巨大的资源和成本耗费是打开大数据之门的障碍。
数据分析咨询请扫描二维码
《Python数据分析极简入门》 第2节 2 Pandas数据类型 Pandas 有两种自己独有的基本数据结构。需要注意的是,它固然有着两种数据 ...
2024-11-01《Python数据分析极简入门》 第2节 1 Pandas简介 说好开始学Python,怎么到了Pandas? 前面说过,既然定义为极简入门,我们只抓 ...
2024-10-31在当今数据驱动的世界中,数据科学与工程专业的重要性愈发凸显。无论是推动技术进步,还是在商业决策中提供精准分析,这一专业都 ...
2024-10-30在当今信息爆炸的时代,数据已成为企业决策和战略制定的核心资源。爬虫工程师因此成为数据获取和挖掘的关键角色。本文将详细介绍 ...
2024-10-30在当今数据驱动的世界中,数据分析是揭示商业洞察和推动决策的核心力量。选择合适的数据分析工具对于数据专业人士而言至关重要。 ...
2024-10-30能源企业在全球经济和环境保护双重压力下,正面临前所未有的挑战与机遇。数字化转型作为应对这些挑战的关键手段,正在深刻变革传 ...
2024-10-30近年来,随着数据科学的逐步发展,Python语言的使用率也越来越高,不仅可以做数据处理,网页开发,更是数据科学、机器学习、深度 ...
2024-10-30大数据分析师证书 针对不同知识,掌握程度的要求分为【领会】、【熟知】、【应用】三个级别,考生应按照不同知识要求进行学习。 ...
2024-10-30《Python数据分析极简入门》 附:Anaconda安装教程 注:分Windows系统下安装和MacOS系统安装 1. Windows系统下安装 第一步清华大 ...
2024-10-29拥抱数据分析的世界 - 成为一名数据分析工程师是一个充满挑战和机遇的职业选择。要成功地进入这个领域,你需要掌握一系列关键技 ...
2024-10-28降本增效:管理战略的关键 企业管理中的降本增效不仅是一项重要的战略举措,更是激发竞争力、提高盈利能力的关键。这一理念在当 ...
2024-10-28企业数字化是指利用数字技术和信息化手段,对企业的各个方面进行改造和优化,以提升生产效率、服务质量和市场竞争力的过程。实现 ...
2024-10-28数据科学专业毕业后,毕业生可以选择从事多种不同的岗位和领域。数据科学是一个快速发展且广泛应用的领域,毕业生在企业、学术界 ...
2024-10-28学习数据科学与大数据技术是当今职业发展中至关重要的一环。从基础到高级,以下是一些建议的课程路径: 基础课程: Python编程 ...
2024-10-28在信息技术和数据科学领域,数据架构师扮演着至关重要的角色。他们负责设计和管理企业中复杂的数据基础设施,以支持数据驱动的决 ...
2024-10-28进入21世纪以来,随着信息技术的迅猛发展,大数据已经成为全球最具影响力的技术之一,并成为企业数字化转型的核心驱动力。大数据 ...
2024-10-28随着科技的迅猛发展,数字化转型已成为现代企业保持竞争力和推动增长的关键战略之一。数字化不仅仅是技术的应用,它代表着一种全 ...
2024-10-28银行业正处于一个前所未有的数字化转型时期。在数字经济的驱动下,金融科技如大数据、人工智能、生物识别、物联网和云计算等技术 ...
2024-10-28数据分析可视化是一门艺术与科学相结合的技术,其主要目标是将复杂的数据变得更易于理解和分析。通过将数据以图表的形式呈现,我 ...
2024-10-28数据分析师在现代信息密集型的商业世界中扮演着至关重要的角色。他们通过专业的技能和敏锐的商业洞察力,帮助企业从大量数据中提 ...
2024-10-28