当前位置: 主页 > 论文下载 > 经济论文 >

探讨基于物联网的大数据量实时信息交换对策

作者:张 锐,王自力 日期:2014-02-14 15:21 来源:《生产力研究》
目前,北京市已经建立了一个物联网信息交换平台,该平台
对北京市物联网应用的安全运行和应急管理起到了非常重大的
作用,解决了信息传输过程中存在的传输安全问题、信息交换问
题以及传输中断和故障问题。从整个物联网的应用和发展前景上
来看,实现物理信息之间的相互交换与共享,使部门之间信息互
通互享,是其最核心的要求和最终要实现的目标。在从理论上看,
物联信息包括三个方面的内容,分别是物联实时信息、物联管理
对象信息以及物联感知设备信息。后面两种信息是常用的基本信
息,在实践中使用普通的共享方式就能实现,但是物联实施信息
不仅具有实施性高、数据量大的特点,还具有数据增长速度快、共
享频率和交换、查询频率快等特点,因此,在对其进行交换和共享
时,技术上要求更高。为了实现物联网的大数量实时信息交换与
共享,本文将对其信息交换策略做详细的分析,以期对物联网平
台的进一步发展有所帮助。
1 物联信息交换实现方式及需要解决的问题
1.1 物联信息交换的重要功能需求
要进行物联信息的交换,必须要满足其四大功能需求,分别
是数据的处理功能需求、安全传输功能需求、转换集成功能需求
以及交换管理功能需求,下面将对这四个需求分别进行阐述。
1.1.1 数据处理功能需求
物联信息交换要实现物品与互联网的连接,首先要对物品信
息进行处理,因此,在交换信息时,该平台需要提供能够对数据进
行压缩、加密及签名的功能,同时还要提供数据填充设备、数据格
式转换等功能,只有这样才能实现数据的统一性、完整性和及时
性。
1.1.2 安全传输功能需求
要保障信息的传输过程的安全可靠性,必须保证实时数据
能够及时得到传输,而对于非实时数据能够同时成批的进行数据
交换,大文件得到及时处理和传输。此外,由于数据传输的格式种
类很多,包括文件格式、Web 格式等等,所以,还应该提供能够支
持多种数据格式传输的渠道以及多种交换方法。对于一些动态数
据,还应该提供动态消息机制,方便消息的确认和消息的选择性
重发,避免在数据出错的情况下错误信息得不到及时纠正。
1.1.3 转换集成功能需求
为实现不同服务集成方式的整合和互换,使得各个平台的信
息在各部分得到充分的共享和转换,应该提供标准的转换集成组
件,且这些组件应当是系统性特别强的组件,譬如数据库系统、消
息通信系统等等。
1.1.4 交换管理功能需求
交换管理功能能够实现信息流通的规范化和制度化,能够将
数据交流的过程进行合理的规制以实现可视化配置管理。对整个
交流平台进行全面的控制、纠错、故障维护等。
1.2 物联信息交换的实现方式
在物联网运作过程中,对各部门的信息进行上传和接受的常
用转换集成方式是前置机集成法,该系统的能够为物联信息的共
享提供支撑,并且不与其他部门应用系统相联系,抗干扰性强;
在接入前置机后,平台能够实现与共享数据库接口和其他接口之
间数据的共享。这种运作模式可以很好的解决系统运转的压力以
及生产数据库的压力。此外,该系统在设计中选用了ESB 中间产
品,该产品可以支持多种会话模式,包括消息和事件的单个会话、
一对多对话、组对组对话,具有定时、实时等多种会话交流方式和
策略,能够与许多数据接口进行连接,具有很好的兼容性;由于
该系统具有数据交换路由解析的功能,因此可以实现数据的优化
集成,从而达到动态负载均衡的效果。物联信息交换的具体方式
如图一所示。
2 物联实时信息交换的改进措施
对于物联信息交换应用支撑平台使用过程中出现的问题,我
们一般可以采用两种方式解决问题,分别是:采用先进的技术和
完善的策略对平台进行改进;直接更换处理效率、存储容量和运
转速度更快的服务器。更换服务器成本较高,因此,本文将采用第
二种方式解决问题,分别从数据库实时处理性能、日志管理以及
大数据文件的读取和分析性能三个方面提出三个对应的措施。
2.1 临时表技术
传统的数据连接运算方式是将表与表直接连接的运算方式,
然后再从所有运算结果中选出符合要求的那些结论。本文所说的
临时表,是利用临时表这种中介来减少运算量的技术。在对数据
进行连接运算时,先对大数据表进行查询,找出符合要求的数据,
并将数据存在临时表中,这种存储并不是长期的,只是临时的存
储,数据会在不断运作中被新数据取代,存储时间可能是10 分
钟,也可能是几天。系统的访问路径会从源数据的访问改为对临
时表的访问,从而避免对一些不必要的数据进行复杂运算。
在运用该技术之前,先要将操作中需要使用的数据导入临
时表中,从而方便系统的运行。在正常情况下,临时表中的数据不
会出现高于源数据表中数据的情况,因而在进行数据连接和计算
时,系统的性能会变高,速度更快。我们知道,物联实时信息的交
换具有数据量大且运转速度快、操作和访问频繁的特点,访问的
位置也比较固定和集中;且数据的交流属于持续操作的状态,每
一个操作又会形成一个新的数据集。在这种高运转性、高频率性
操作中,采用临时表技术无疑是最佳选择。
2.2 文件缓冲技术
在实践中常用的数据库日志处理方法有两种,分别是一次性
处理法和计时处理法。这两种方法有其存在的必然性,但是其弊
端也是不可忽视的,特别是在数据库日志量很大的情况下,如果
采用一次性处理法对数据进行缓冲的话需要耗费计算机大量的
内存,是费时费力的方式,不能很好的满足数据处理的空间和时
间要求。而采用即时处理方法更加耗费时间,特别是在数据库的
读取和网络传输上,往往需要花费很多时间。为了解决这些问题,
本文提出使用文件缓冲技术进行日志的处理。其具体操作分为
两步,首先是将服务端的数据库日志转到本地客户端的临时文件
中,系统不再对服务端的数据库日志进行处理,转而对临时文件
中的日志进行处理,这样可以减轻服务端的运转压力,增强日志
处理速度。这种策略对于复杂的数据操作并没有多大作用,毕竟
本地文件中的内容是相对固定的,不利于及时变换内容。但该技
术对于多次重复性读取的操作意义重大。
2.3 内存映射文件技术
当平台使用Win32 API 函数的方式对文件进行处理时,需
要将内存和硬盘进行频繁的数据交换,这种处理方式对于小型的
文件处理来说,不会有太大影响,但是在处理大型文件时,就会出
现数据处理效率低的现象。因此,笔者提出使用内存映射文件技
术来解决这一问题,该技术主要是通过内存指针来对硬盘上的文
件进行访问,就像对加载了的文件的内存进行访问一样。在文件
映射下,进程虚拟地址空间的某些区域会与硬盘文件内的全部或
者部分内容取得关联,从而实现被映射文件的直接访问,不必执
行内存与硬盘的文件I/O 操作,且无需对文件进行缓冲处理,节
省的缓冲时数据的运算时间。这就预示着我们在对文件进行处理
时,不在需要考虑文件的缓存问题,文件缓存的所有内容和操作
都会由该系统直接处理。
3 结语
综合全文分析可知,物联网大数据量实时信息交换的实现,
可以运用许多先进适用的技术和方法实现,本文提出了物联网实
时信息交换中存在的一些问题,并对出现的问题提出了相应的解
决措施,希望能为物联网实时信息交换提供一些技术上的支持。
参考文献
[1] 唐俊伟, 薛贺. 基于XML 和 Web Services 的数据交换平
台的研究与设计[J]. 微电子学与计算机,2006,23(1):142-
146.
[2] 于慧彬, 齐鹏, 梁捷, 等. 内存映射文件在大数据量海洋调
查数据处理中的应用[J]. 海洋技术,2010(6):82-89.
[3] 潘虎林. 基于续传数据的动态网络交换模型[J]. 电脑知识
与技术,2009(5):42-44.

 


  博深论文网( www.bosslunwen.com ),是一个专门从事期刊推广、论文发表论文投稿指导的机构。本站提供整体论文发表解决方案:省级论文/国家级论文/核心论文/CN论文。
  论文投稿:bosslunwen@126.com
  咨询电话:18602588568
  在线咨询:
论文发表-论文投稿-发表论文86099078

版权所有:博深论文网 苏ICP备06011074号
论文投稿咨询电话:18602588568,在线咨询:论文发表-论文投稿-发表论文86099078,论文投稿:bosslunwen@126.com
本站点提供如下服务:论文发表 发表论文 论文投稿 职称论文发表 学术论文发表
山东省济南市城南路213号 本网站隶属于-济南富东化工有限公司