大数据与装备体系的概念关联机理和模型结构
大数据带来了数据采集、存储和信息检索等方面信息技术的重大变化,触发人类从海量信息中获取与个人或组织活动、动作相关知识的应用理论技术的变革性思考。2012年美国提出“大数据研发计划”,国内召开大数据为主题的香山科学工作会议,将大数据推向学术和科技战略前沿。大数据中的数据一般指数字化数据,模拟化数据通过数字化转化而被利用,主要可以归纳为人类自身社会性活动产生的行为交互等应用记录数据和机器本身产生的诸如点击流、应用记录、传感器探测数据等机器数据。多领域多学科对大数据概念的热议难以形成一致性定义描述。对于不能够被清晰定义的事物,通常很难被实证研究,大数据尤为如此,越来越多的学者认为利用大数据重在创新数据思维。目前被普遍认可的大数据概念基本内涵是由IBM,IDC,Gartner等权威机构形成的基本观点,“大数据”蕴含以下五个维度特征:①DataVolume,描述数据存储单位的测度;②Datavariety,描述数字化数据存在形式的多样性,大数据的核心是半结构化和非结构化形式数据类型;③Datavelocity,描述数据产生或更新的速度与对数据的处理速度效率;④Datavariability,描述随时间变化而产生的数据流的不一致性;⑤DataComplexity,描述相同事物的数据存在多种来源而导致相互之间的关联,匹配,清洗,跨系统的转换等问题困难,已经成为大数据的核心特征和焦点。大数据也同时内在地蕴含Hadoop、NoSQL等新型数据管理和处理工具。上述大数据特征逐渐引导人们思考数据的可用性、可靠性、可描述表示和可计算等大数据问题,文献[4]指出大数据的价值需要依赖上下文应用环境和数据描述表示手段来释放,应该不断理解利用新的数据源可以做什么,并归纳为3种主要类型:①可追溯性的数据分析过程,利用历史积累的数据和具体的量化工具理解数据中的模式和结果,提供推断或推论;②可预测性的数据分析过程,利用历史数据和仿真模型手段来产生对未来情境的理解;③规定性的数据分析过程,利用时刻有可能触发事件的实时数据和规定的量化分析方法,产生推荐动作建议。
大数据研究大致存在两种技术层次:一种是云计算环境下以网络信息技术和数据存储管理与数据密集型高性能处理分析为核心技术特征,不断应对新数据源特性的数据有效管理为目标,解决系统综合集成与性能优化问题,例如杨小牛提出的大数据概念应用于构造下一代信号情报侦察体系的系统架构,云环境下大规模图数据处理等;另一种是利用人工智能的海量数据挖掘延伸视角下以模式信息智能处理和知识发现为核心技术特征,以利用数据价值为目标,解决网络化复杂巨系统的价值提升和运行机理认知问题,例如位置大数据应用,基于互联网的社会网络大数据对社会认知研究范式的思考等。显然,上述两种层次存在递进、相互融合和转换,第一种立足于大数据概念的海量数据实体面向数据工程化建设,第二种立足于大数据概念深化复杂系统理论方法及实践应用,两种层次在微观和宏观范畴之间相互转换并且技术互相贯通支撑,如下图所示。
图1大数据概念与大规模网络化信息系统研究的结合模式
事实上,以数据密集型计算技术为核心要素的大数据第四范式的涌现与建模仿真第三范式存在紧密联系,大数据将对建模与仿真带来挑战和机遇。应用大数据概念首先要清楚哪些数据源能够被利用,应该清楚预期应用目标。结合上述对大数据应用分析,大数据概念在装备体系领域可能存在如下三种应用场景:①考虑真实作战环境中装备体系数据流特性的大数据概念应用,对应上述第一种技术层次,主要以解决系统级大数据处理面临的困难为目标,例如对侦察卫星持续获取的侦察情报数据的快速有效处理;②考虑装备体系模型仿真或演习产生的大数据应用,在相似数据的基础上依赖数据挖掘发现体系性质规律;③综合上述两种应用场景,大数据概念框架下潜在的动态数据驱动的体系仿真应用范型。例如,在非对称性、对抗性、极恶劣作战环境中,由于信息获取节点遭受攻击,决策或控制环节失误导致战场态势由优势转为劣势等危机情境,如何利用有限获取的稀疏战场动态信息,全面掌握战场装备体系的整体性状态,以支持高层次的战役或战略判断等方面的可能问题情景,能否借鉴数据驱动的复杂网络的识别与控制方面前沿学术思想。
既有研究工作集中在前两种大数据概念应用场景,均不能正面反映装备体系的机制机理和概念原理。鉴于此,本文深入梳理如何建立大数据与装备体系研究之间的理论桥梁,探讨一种基于大数据建模的装备体系模型表达和体系演化问题研究理论架构。希望为进一步厘清大数据概念与装备体系研究方法原理提供启发。
1应用大数据概念的装备体系研究理论方法桥梁
体系的系统概念原理和建模仿真研究经验表明,复杂网络理论尤其是超网络理念与体系模型在认识论上具有较强契合性。大数据时代,网络与数据的产生、采集、存储、管理和处理分析一系列信息活动密切不可分离,学术和实践领域也产生了借鉴复杂网络理论和数据挖掘方面智能计算理论指导大数据建模与分析的大量研究成果。本文认为,基于复杂网络或超网络理论的网络化大数据描述与建模是构建装备体系与大数据概念的重要理论方法桥梁,而基于大数据的人工智能理论发展为体系模型分析和大数据分析方法构建了理论方法桥梁。即形成两“桥”研究理论架构。体系大数据产生于体系,反映了体系网络化大系统的特征和规律,应用大数据概念的基本立场可以理解为数据化和信息化,透视“数据迷雾”,形成支持感知战争态势的认知信息,主要解决战争数据化问题;基于数据优势,发挥多维多元信息认知优势,有效快速形成决策和控制流程,主要解决实现作战信息化问题。
图2应用大数据概念的装备体系研究认识机制
1.1语义超网络——基于大数据的体系结构描述框架模型
目前利用大数据概念研究复杂系统主要以网络大数据为载体,数据挖掘为基本手段,发现新洞察和决策支持为基本目标。相比传统挖掘理论,大数据引导人们更为关注模式之间的关联,复杂网络与数据挖掘的交叉研究取得阶段性进展,主要包括两个方面:一是在信息领域关注网络结构,统计物理方法和系统动力学分析方法结合,例如,基于元路径的异质信息网络中相似性搜索与聚类、链路关系预测等;二是复杂网络领域关注智能信息处理,推广改进学习算法,促进有效获取网络结构模式。数据与网络存在密切联系,20世纪末期建立的小世界网络模型和无标度网络模型就是在网络数据更容易被捕捉的历史条件下提出来的,吸引并促进了复杂网络理论与系统科学、信息科学、社会科学、生命科学等多学科的融合交叉。可以说,数据是网络科学发展的原动力,网络科学是数据科学研究的重要工具。大数据时代给复杂网络的研究范式带来了机遇。周涛讨论了大数据时代复杂网络研究面临的机遇与挑战,例如,面向网络大数据存储管理的图数据库优化设计,基于海量数据的数据采样,网络信息可视化等共性问题,网络动力学与网络结构分析、链路预测,网络控制和动态网络模式挖掘等特殊应用问题。图数据快速处理算法在社会网络演化模式挖掘方面也是典型的大数据与复杂网络交叉研究课题。本文初步思考了大数据概念应用目标驱动下,系统科学与体系工程、网络科学与网络工程相互之间的理论联系,如图3所示。
图3大数据与复杂网络的方法论联系
统计分析、聚类、深度神经网络学习等主流数据分析模型具有的“知其然而不知其所以然”特性,结构拓扑分析、结构模式挖掘、链路预测等经典网络分析模型方法在基于海量数据的模式发现应用方面取得重要研究进展,而面向装备体系研究的大数据建模与分析决策注重数据科学优势与体系机理认知与推理建模密切结合为基本思维主线,需要兼顾复杂巨系统建模理论方法。大数据与网络科学的结合成为体系建模的新理论和技术增长点,而语义网思想正是解决描述数据之间关系的一种有效手段,因此,大数据模型基础上的体系情景推演应用应该建立在语义超网络架构之上,即语义的统一视角下,建立描述体系的大数据的超网络模型。
1.2认知粒计算——装备体系问题建模的系统工程新途径
大数据给数据挖掘及应用带来挑战的同时,也为复杂巨系统的机理认知带来了机遇。在现有体系研究成果基础上,以全新的视角发展基于大数据的体系建模新理论方法,推动体系科学研究变革。粒计算基于粒结构的思维方式,为结构化问题求解和信息处理模式创造了新的计算范式。从人工智能角度看,粒计算模拟人类思考和解决大规模复杂问题的自然智能模式,可以实现以人为中心的认知,立足于实际问题需求,采取可行的满意近似解替代精确解,提供效率。从数据分析与处理层面看,通过信息粒化手段,采取粒元的整体代替复杂数据样本,以粒为中心进行计算。从体系的层面看,通过对系统的粒化处理,可以采取合适粒度的粒结构刻画大规模的体系组成部分及复杂性的体系结构,提高体系的认识水平和问题求解效率。
粒计算的应用基础立足于数据,通常包括数据粒化、多粒度模式发现与融合、多粒度、跨粒度推理等核心内容,以数据为中心的体系结构描述思想为引入粒计算方法论指导体系建模具有显然的契合性。当前,在指控组织结构优化设计、体系需求描述和作战体系结构分析方面已经存在部分研究利用了粒度计算策略,但仅仅是关于体系某一方面的微观上针对复杂问题求解,立足于大数据概念正面讨论装备体系的粒计算建模和体系不确定性研究还十分稀缺。本文认为,基于大数据建模的装备体系复杂问题描述与粒计算求解存在理论和技术上的契合性,粒计算构建起大数据与装备体系的第二座理论桥梁。本节具体梳理为以下3个方面理论要素。
(1)大数据和装备体系的多层次/多粒度特性
从体系原理上讲,体系的基本要义是由系统组成的系统,显然,将系统视为基本构成对象,则体系在系统构成观察维度上客观具备关于系统对象的粒度性和层次性。装备体系是体系原理下的武器装备复杂巨系统,其组成部分本身是集成的,独立运行和管理的,地理上分布存在的复杂系统,复杂系统又具有特定的层次结构。
图4装备体系中多尺度概念示意
(2)大数据和体系问题的不确定性特性
体系的不确定性可以归纳为两大类:一种是体系的客观环境不确定性,表现为目标威胁出现、指控组织(人因决策)自适应演化、随机偶然性的装备故障、气象等自然环境预测困难或复杂电磁环境等因素;另一种是体系的主观认知不确定性,表现为人类特有的感觉直觉等非理性因素对战略使命判断、目标威胁程度评估、体系作战能力或体系效能概念定位等构成的不确定性现象。当前,很多研究机构和学者就单个武器装备(系统)层次上讨论不确定性,基于不确定性信息处理手段研究特定型号装备作战效能评估与预测。但是少有研究正面讨论体系的不确定性问题。上述体系不确定性可能贯穿体系建设规划计划和体系运行控制优化等不同阶段模式,而且现有研究很少考虑装备体系复杂性、对抗性和动态性在不同阶段中的综合建模,而数据化模型描述为不确定性信息刻画和不确定性问题处理提供了很好的基础,建立在大数据建模基础上的装备体系描述模型为进一步采取粒计算与其它认知理论结合途径研究体系不确定性现象提供了条件。例如,关于体系作战能力顶层概念及体系作战支撑能力和体系中系统要素能力或任务能力等下位概念的模糊不确定性推理问题。
(3)大数据分析和体系问题求解算法要求具有高效近似求解性
应用大数据概念原理适应数据科学思维观点研究装备体系的方法核心在于基于大数据的复杂体系问题建模和基于数据的智能推理,就是在以人为中心观察视角下依托数据化问题描述模型,推理发现隐含信息或知识。模糊是人类认知的重要本质特性,从该角度讲,基于大数据分析方法的装备体系问题求解应该具备近似求解特性。首先,装备体系结构的复杂性必然导致采用合适有效的大数据建模手段生成的体系描述模型具有及其复杂的结构,不仅需要将多领域、多来源异构的数据集成与融合,而且要求算法能够按照体系问题特性自动或人机交互地从大数据中抽取与组织出具有多层次、多粒度、多视角、多局部特征的结构;其次,对抗性装备体系动态演化问题需要综合考虑实时战场数据信息的客观事实以反映体系问题框架的理论完整性,必然面临在海量数据中存在大量模糊、不完备信息特征环境下进行推理。基于大数据的信息不确定性认识反映了体系的客观不确定性和主观认知不确定性,现有的粗糙集、模糊集等不确定性问题求解模型或不确定性信息计算模型多数采取近似逼近思想,同时,对于体系问题而言,重点在于评估其建设水平或发展趋势,目的在于支撑决策,无需一味追求问题最优解。
2结束语
综合上述讨论,笔者认为基于“存在”观点思维分析把握大数据和装备体系两者概念之间的联系,可以发现,大数据概念在装备体系范畴内可以存在多种应用模式,既可以在微观系统层面讨论复杂系统的优化集成,也可以在宏观层面讨论基于数据思维视角的装备体系这种复杂巨系统的机理机制研究。由此,催生了一系列不同层次的理论方法和技术体系。本文重点在面向装备体系建模与体系复杂问题研究,讨论可行的大数据建模、分析与决策支持分析方法。创新性地提出语义超网络和认知粒计算的两桥理论架构,将能够有效建立基于大数据的装备体系模型研究方法和实现技术。希冀本文内容能够促进该领域朝着更深更远方向深化发展,有效解决现实体系问题研究困境。
数据分析咨询请扫描二维码
在准备数据分析师面试时,掌握高频考题及其解答是应对面试的关键。为了帮助大家轻松上岸,以下是10个高频考题及其详细解析,外加 ...
2024-12-20互联网数据分析师是一个热门且综合性的职业,他们通过数据挖掘和分析,为企业的业务决策和运营优化提供强有力的支持。尤其在如今 ...
2024-12-20在现代商业环境中,数据分析师是不可或缺的角色。他们的工作不仅仅是对数据进行深入分析,更是协助企业从复杂的数据信息中提炼出 ...
2024-12-20随着大数据时代的到来,数据驱动的决策方式开始受到越来越多企业的青睐。近年来,数据分析在人力资源管理中正在扮演着至关重要的 ...
2024-12-20在数据分析的世界里,表面上的技术操作只是“入门票”,而真正的高手则需要打破一些“看不见的墙”。这些“隐形天花板”限制了数 ...
2024-12-19在数据分析领域,尽管行业前景广阔、岗位需求旺盛,但实际的工作难度却远超很多人的想象。很多新手初入数据分析岗位时,常常被各 ...
2024-12-19入门数据分析,许多人都会感到“难”,但这“难”究竟难在哪儿?对于新手而言,往往不是技术不行,而是思维方式、业务理解和实践 ...
2024-12-19在如今的行业动荡背景下,数据分析师的职业前景虽然面临一些挑战,但也充满了许多新的机会。随着技术的不断发展和多领域需求的提 ...
2024-12-19在信息爆炸的时代,数据分析师如同探险家,在浩瀚的数据海洋中寻觅有价值的宝藏。这不仅需要技术上的过硬实力,还需要一种艺术家 ...
2024-12-19在当今信息化社会,大数据已成为各行各业不可或缺的宝贵资源。大数据专业应运而生,旨在培养具备扎实理论基础和实践能力,能够应 ...
2024-12-19阿里P8、P9失业都找不到工作?是我们孤陋寡闻还是世界真的已经“癫”成这样了? 案例一:本硕都是 985,所学的专业也是当红专业 ...
2024-12-19CDA持证人Louis CDA持证人基本情况 我大学是在一个二线城市的一所普通二本院校读的,专业是旅游管理,非计算机非统计学。毕业之 ...
2024-12-18最近,知乎上有个很火的话题:“一个人为何会陷入社会底层”? 有人说,这个世界上只有一个分水岭,就是“羊水”;还有人说,一 ...
2024-12-18在这个数据驱动的时代,数据分析师的技能需求快速增长。掌握适当的编程语言不仅能增强分析能力,还能帮助分析师从海量数据中提取 ...
2024-12-17在当今信息爆炸的时代,数据分析已经成为许多行业中不可或缺的一部分。想要在这个领域脱颖而出,除了热情和毅力外,你还需要掌握 ...
2024-12-17数据分析,是一项通过科学方法处理数据以获取洞察并支持决策的艺术。无论是在商业环境中提升业绩,还是在科研领域推动创新,数据 ...
2024-12-17在数据分析领域,图表是我们表达数据故事的重要工具。它们不仅让数据变得更加直观,也帮助我们更好地理解数据中的趋势和模式。相 ...
2024-12-16在当今社会,我们身处着一个飞速发展、变化迅猛的时代。不同行业在科技进步、市场需求和政策支持的推动下蓬勃发展,呈现出令人瞩 ...
2024-12-16在现代商业世界中,数据分析师扮演着至关重要的角色。他们通过解析海量数据,为企业战略决策提供有力支持。要有效完成这项任务, ...
2024-12-16在当今数据爆炸的时代,数据分析师是组织中不可或缺的导航者。他们通过从大量数据中提取可操作的洞察力,帮助企业在竞争激烈的市 ...
2024-12-16