CN110456026B - 一种土壤墒情监测方法及装置 - Google Patents
一种土壤墒情监测方法及装置 Download PDFInfo
- Publication number
- CN110456026B CN110456026B CN201910745231.8A CN201910745231A CN110456026B CN 110456026 B CN110456026 B CN 110456026B CN 201910745231 A CN201910745231 A CN 201910745231A CN 110456026 B CN110456026 B CN 110456026B
- Authority
- CN
- China
- Prior art keywords
- soil
- data
- monitoring data
- monitoring
- moisture content
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000002689 soil Substances 0.000 title claims abstract description 465
- 238000012544 monitoring process Methods 0.000 title claims abstract description 393
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000012937 correction Methods 0.000 claims abstract description 77
- 238000003908 quality control method Methods 0.000 claims abstract description 67
- 230000002159 abnormal effect Effects 0.000 claims abstract description 40
- 238000012549 training Methods 0.000 claims description 38
- 230000006870 function Effects 0.000 claims description 28
- 238000013528 artificial neural network Methods 0.000 claims description 26
- 238000013527 convolutional neural network Methods 0.000 claims description 20
- 230000000306 recurrent effect Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 9
- 238000003860 storage Methods 0.000 claims description 8
- 239000011159 matrix material Substances 0.000 claims description 7
- 230000001537 neural effect Effects 0.000 claims description 7
- 238000013441 quality evaluation Methods 0.000 claims description 7
- 230000004913 activation Effects 0.000 claims description 6
- 125000004122 cyclic group Chemical group 0.000 claims description 6
- 238000011049 filling Methods 0.000 claims description 4
- 238000012806 monitoring device Methods 0.000 claims description 4
- 230000005284 excitation Effects 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 239000010410 layer Substances 0.000 description 34
- 238000004891 communication Methods 0.000 description 13
- 238000011176 pooling Methods 0.000 description 10
- 238000012795 verification Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 238000010276 construction Methods 0.000 description 5
- 230000005856 abnormality Effects 0.000 description 4
- 210000002569 neuron Anatomy 0.000 description 4
- 238000013135 deep learning Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 238000003973 irrigation Methods 0.000 description 3
- 230000002262 irrigation Effects 0.000 description 3
- 238000002372 labelling Methods 0.000 description 3
- 238000001556 precipitation Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 230000002354 daily effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000013508 migration Methods 0.000 description 2
- 230000005012 migration Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 238000004162 soil erosion Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000010200 validation analysis Methods 0.000 description 2
- 230000003213 activating effect Effects 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 230000001066 destructive effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000001035 drying Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005670 electromagnetic radiation Effects 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000011229 interlayer Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000035772 mutation Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000005527 soil sampling Methods 0.000 description 1
- 238000000547 structure data Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/24—Earth materials
- G01N33/245—Earth materials for agricultural purposes
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/24—Earth materials
- G01N33/246—Earth materials for water content
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01W—METEOROLOGY
- G01W1/00—Meteorology
- G01W1/02—Instruments for indicating weather conditions by measuring two or more variables, e.g. humidity, pressure, temperature, cloud cover or wind speed
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Environmental & Geological Engineering (AREA)
- Chemical & Material Sciences (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Food Science & Technology (AREA)
- Remote Sensing (AREA)
- General Life Sciences & Earth Sciences (AREA)
- Geology (AREA)
- Medicinal Chemistry (AREA)
- Pathology (AREA)
- Immunology (AREA)
- Biochemistry (AREA)
- Analytical Chemistry (AREA)
- Atmospheric Sciences (AREA)
- Environmental Sciences (AREA)
- Biodiversity & Conservation Biology (AREA)
- Ecology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明实施例提供一种土壤墒情监测方法及装置。所述方法包括接收由监测站发送的土壤监测数据,并根据时间顺序依次存入数据库中;若监测到数据库中新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和质量控制模型,确定新增的土壤监测数据的墒情数据是否正常;若不正常,则根据源于所述监测站早于所述新增的监测数据的土壤监测数据,以及校正插补模型,得到校正的墒情数据更新所述新增的土壤监测数据,本发明实施例通过预设的质量控制模型对新增的土壤监测数据中的墒情数据进行判断,并在判断为不正常时通过预设的校正插补模型对所述墒情数据进行校正或插补,从而使所述数据库的土壤监测数据连续、完整且可靠。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种土壤墒情监测方法及装置。
背景技术
土壤墒情是反映农田土壤湿度情况的指标,适宜的土壤墒情是作物生长的必备条件,土壤墒情的监测对农业旱情监测、节水灌溉技术应用、农作物产量预测等都有重要意义。早期土壤墒情监测是采用人工土钻取土后进行烘干法测量,该方法工作量大、获取数据量少且存在数据滞后问题。目前,随着通讯和传感器技术发展,利用安装于田间的土壤墒情自动监测设备对土壤不同深度土壤含水量进行实时自动采集的方法逐渐兴起,这种方式无需破坏性取样,数据量密集,极大提高了墒情监测效率。但由于农田环境复杂,易受到极端天气、电磁辐射等因素影响,使得数据传输不稳定,造成数据缺失和异常。同时,土壤墒情监测设备的生产和运用正处于起步阶段,采集设备和传感器质量参差不一,设备故障损坏时有发生,也会造成数据缺失和异常,影响墒情监测工作的正常开展。以往采用人工取土方法进行墒情监测时,数据质量均由人工甄别与修正。
但由于自动墒情监测设备采集数据量巨大,以设备每小时采集一次数据并传输为例,全国以县为单位的数据量每日就超过8万余条,这样的数据量对于人工甄别进行数据质量控制来说工作量巨大,采用计算机自动识别为自动墒情监测设备数据质量提供了新途径。土壤墒情数据受到降雨、风速、土壤质地等多因素影响,呈极其复杂的非线性变化,通过简单的设置阈值条件控制数据质量过于片面,不适用于墒情数据质量的管理。例如,利用区域土壤水分自动观测数据,首先根据预设阈值筛选土壤水分自动观测数据作为可信数据,其次根据预设条件识别剔除数据获得稳定数据,通过检测数据的异常峰值识别并得到平稳数据,对平稳数据进行检测识别得到最终数据。可见,现有土壤墒情监测质量控制多为传统规则和阈值判定方法,例如通过界限值、极值和一致性校验等方法来评判数据质量,依据指标的值域范围和经验参数,基于传统规则判断方法识别异常数据能力有限,对降水所造成的数值突变等容易发生误判,尤其是土壤墒情监测存在土壤质地、设备标定、设备老化等隐含差异,无法做到面向具体设备和具体应用环境的数据质量控制。
由此可知,现有技术的地土壤墒情监测方法无法保证土壤墒情监测数据的连续、完整和可靠。
发明内容
本发明实施例提供一种土壤墒情监测方法及装置,用以解决现有技术中无法保证土壤墒情监测数据的连续、完整和可靠的问题。
第一方面,本发明实施例提供了一种土壤墒情监测方法,包括:
接收由监测站发送的土壤监测数据,并根据时间顺序依次存入数据库中;其中,所述土壤监测数据包括墒情数据和气象数据;
若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和预设的质量控制模型,确定所述新增的土壤监测数据的墒情数据是否正常;
若所述新增的土壤监测数据的墒情数据不正常,则根据源于所述监测站,且接收时间点早于所述新增的监测数据的土壤监测数据,以及预设的校正插补模型,得到校正的墒情数据并用于更新所述新增的土壤监测数据;其中,所述质量控制模型和所述校正插补模型由对墒情数据经过标注的土壤监测数据样本预先训练得到。
进一步地,所述若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和预设的质量控制模型,确定所述新增的土壤监测数据的墒情数据是否正确,具体包括:
若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则将源于所述监测站的最接近当前时刻的预设第一数量的土壤监测数据输入到质量控制模型中,确定所述新增的土壤监测数据中的墒情数据是否正确。
进一步地,所述若所述新增的土壤监测数据的墒情数据不正常,则根据源于所述监测站,且接收时间点早于所述新增的监测数据的土壤监测数据,以及预设的校正插补模型,得到校正的墒情数据并用于更新所述新增的土壤监测数据,具体包括;
若所述新增的土壤监测数据的墒情数据不正常,则将源于所述监测站的早于所述新增的监测数据的预设第二数量的土壤监测数据输入到校正插补模型中,得到校正的墒情数据并用于更新所述新增的土壤监测数据。
进一步地,所述质量控制模型采用深度神经回归网络构建;相应地,所述校正插补模型采用集成学习策略结合卷积神经网络和循环神经网络构建。
进一步地,所述新增的土壤监测数据的墒情数据不正常,具体包括:
所述新增的土壤监测数据的墒情数据异常或者缺失。
进一步地,所述土壤墒情监测方法还包括:
若在预设的周期内没有接收到所述监测站发送的土壤监测数据,则在所述数据库中创建一条表征为源于所述监测站的新增的土壤监测数据,且将所述新增的土壤监测数据的墒情数据标识为缺失。
进一步地,所述土壤墒情监测方法还包括:
将由所述监测站发送的土壤监测数据,结合所述质量控制模型的判断结果和/或所述校正插补模型的校正插补结果,作为新的土壤监测数据样本更新所述质量控制模型和校正插补模型。
第二方面,本发明实施例还提供一种土壤墒情监测装置,包括:
数据接收单元,用于接收由监测站发送的土壤监测数据,并根据时间顺序依次存入数据库中;其中,所述土壤监测数据包括墒情数据和气象数据;
数据质量评定单元,用于若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和预设的质量控制模型,确定所述新增的土壤监测数据的墒情数据是否正常;
数据校正补全单元,用于若所述新增的土壤监测数据的墒情数据不正常,则根据源于所述监测站,且接收时间点早于所述新增的监测数据的土壤监测数据,以及预设的校正插补模型,得到校正的墒情数据并用于更新所述新增的土壤监测数据;其中,所述质量控制模型和所述校正插补模型由对墒情数据经过标注的土壤监测数据样本预先训练得到。
第三方面,本发明实施例还提供了一种电子设备,包括:
处理器、存储器、通信接口和通信总线;其中,
所述处理器、存储器、通信接口通过所述通信总线完成相互间的通信;
所述通信接口用于该电子设备的通信设备之间的信息传输;
所述存储器存储有可被所述处理器执行的计算机程序指令,所述处理器调用所述程序指令能够执行如下方法:
接收由监测站发送的土壤监测数据,并根据时间顺序依次存入数据库中;其中,所述土壤监测数据包括墒情数据和气象数据;
若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和预设的质量控制模型,确定所述新增的土壤监测数据的墒情数据是否正常;
若所述新增的土壤监测数据的墒情数据不正常,则根据源于所述监测站,且接收时间点早于所述新增的监测数据的土壤监测数据,以及预设的校正插补模型,得到校正的墒情数据并用于更新所述新增的土壤监测数据;其中,所述质量控制模型和所述校正插补模型由对墒情数据经过标注的土壤监测数据样本预先训练得到。
第四方面,本发明实施例还提供了一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如下方法:
接收由监测站发送的土壤监测数据,并根据时间顺序依次存入数据库中;其中,所述土壤监测数据包括墒情数据和气象数据;
若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和预设的质量控制模型,确定所述新增的土壤监测数据的墒情数据是否正常;
若所述新增的土壤监测数据的墒情数据不正常,则根据源于所述监测站,且接收时间点早于所述新增的监测数据的土壤监测数据,以及预设的校正插补模型,得到校正的墒情数据并用于更新所述新增的土壤监测数据;其中,所述质量控制模型和所述校正插补模型由对墒情数据经过标注的土壤监测数据样本预先训练得到。
本发明实施例提供的土壤墒情监测方法及装置,通过预设的质量控制模型对新增的土壤监测数据中的墒情数据进行判断,并在判断为不正常时通过预设的校正插补模型对所述墒情数据进行校正或插补,从而使所述数据库的土壤监测数据连续、完整且可靠。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例的土壤墒情监测方法流程图;
图2为本发明实施例的土壤墒情监测***结构示意图;
图3为本发明实施例的另一土壤墒情监测方法流程图;
图4为本发明实施例的土壤墒情监测装置结构示意图;
图5示例了一种电子设备的实体结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
图1为本发明实施例的土壤墒情监测方法流程图,图2为本发明实施例的土壤墒情监测***结构示意图,如图1所示,所述方法包括:
步骤S01、接收由监测站发送的土壤监测数据,并根据时间顺序依次存入数据库中;其中,所述土壤监测数据包括墒情数据和气象数据。
本发明实施例的土壤监测数据由预先设置于各地的多个监测站获取,例如,如图2所示的安置于田间地表的农田自动气象墒情监测站。所述土壤监测数据至少包括墒情数据和气象数据。其中,所述墒情数据可以根据实际的需要设定为包括不同地点或深度的土壤湿度,例如,0-20cm土壤湿度、20-40cm土壤湿度、40-60cm土壤湿度、60-80cm土壤湿度等,而所述气象数据也可以根据实际的需要设置不同的传感器进行采集或者直接由气象部门获取,例如:空气温度(T)、空气湿度(H)、降水(R)、日照(S)、大气压强(P)和风速(U)。
另外为了方便对土壤监测数据的统计和管理,如图2所示所述土壤监测数据还可以包括所述监测站的设备参数等,例如:设备编号,经度、纬度、高程等等。可见,所述土壤监测数据包含的内容可以根据实际设定的数据协议来决定在此不作具体地限定,举例如下:
005,CA6028A3D3133032,2019-2-1010:57,17.7,4.9,25.6,23.5,23.7,25.6,29.5,27.8,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,0.0,-0.30,-3.28,1.0,1.0,13.4,0,494C,8F7D。其中包括的内容依次为:协议号,设备编号,日期时间,土壤湿度1,土壤湿度2,土壤湿度3,土壤湿度4,土壤温度1,土壤温度2,土壤温度3,土壤温度4,空气温度,空气湿度,日降雨,最大风速,最小风速,平均风速,风向,辐射,紫外线,小时ET,日累计ET,有效降雨,累计有效降雨,电池电压,NC,地址信息1,地址信息2。
每个监测站通过预设的网络和传输协议,例如,3G/4G网络和TCP/IP协议,按照预设的时间周期,例如,1小时、2小时或者半天等,定时将采集的土壤监测数据实时传回至云服务器的端口,由运行于云服务器的数据接收单元接收并解析接收到的土壤监测数据,依据传输协议程序将解析成功的数据按照接收到的时间顺序依次存入数据库,并将所有接收到的由监测站发送的土壤监测数据作为原始数据记录到日志中。
步骤S02、若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和预设的质量控制模型,确定所述新增的土壤监测数据的墒情数据是否正常。
云服务器的数据质量评定单元通过对数据库的定期扫描,来判断所述数据库中是否存在新增的土壤监测数据,若存在,则所述新增的土壤监测数据为对应的监测站最新发送的土壤监测数据。根据接收到的时间先后从数据库是提取出源于该监测站的土壤监测数据,包括所述新增的土壤监测数据,再结合预设的质量控制模型,对该新增的土壤监测数据中的墒情数据进行判断,来查看所述新增的土壤监测数据的墒情数据是否正常。
所述质量控制模型可以根据实际的需要来进行设定,并通过对墒情数据经过标注的土壤监测数据样本进行预先的训练得到。所述质量控制模型接照通过训练可以得到连续时间点接收到的土壤监测数据间墒情数据和气象数据的相关性或者变化趋势,在将所有气象数据以及其它土壤监测数据的墒情数据判定为正确的前提下,来判断新增的土壤监测数据的墒情数据是否正常,并将判断结果分别标记到所述土壤监测数据中,同时记录到日志中以方便后续的追溯。
步骤S03、若所述新增的土壤监测数据的墒情数据不正常,则根据源于所述监测站,且接收时间点早于所述新增的监测数据的土壤监测数据,以及预设的校正插补模型,得到校正的墒情数据并用于更新所述新增的土壤监测数据;其中,所述质量控制模型和所述校正插补模型由对墒情数据经过标注的土壤监测数据样本预先训练得到。
通过所述质量控制模型得到的判断结果可以根据实际的需要来进行分类,例如,可以简单分为正常或不正常两类。
进一步地,所述新增的土壤监测数据的墒情数据不正常,具体包括:
所述新增的土壤监测数据的墒情数据异常或者缺失。
其中对于所述墒情数据不正常的判断结果还可以进一步分为,墒情数据异常和墒情数据缺失两种情况。从而质量控制模型的判断结果将分为三个等级,分别为:正常、异常和缺失。根据判断结果,在数据库中将所述新增的土壤监测数据进行标记,例如,可以分别标记为0、1、2。
另外,所述云服务器的数据质量评定单元还可以在判定所述墒情数据为异常或缺失时,向相关负责人发送报警信息,具体可通过微信、短信或邮件的方式来进行。从而可以确保对应的监测站能够得到及时的维护。
若所述质量控制模型得到的判断结果为不正常,则所述云服务器将启用数据校正补全单元,利用经过预先训练的校正插补模型来对不正常的墒情数据进行校正或者插补。具体可以由所述校正插补模型,根据源于相同监测站的除去所述新增的土壤监测数据的土壤监测数据来对所述新增的土壤监测数据的墒情数据进行校正或者插补。相当于,利用接收的时间点早于所述新增的土壤监测数据的土壤监测数据来对所述新增的土壤监测数据中的墒情数据进行预测,并将预测结果用于更新所述新增的土壤监测数据中的墒情数据。同时,所述云服务器可以将所述校正插补模型的所有校正和插补操作记录日志并在数据表中作相应标记,该日志包括校正插补结果、校正插补时间、模型版本号等。
通过校正插补后的新增的土壤监测数据中的墒情数据可认定为正常,此时,所述数据库中保存的由所述监测站发送的所有土壤监测数据中的墒情数据均可判定为正常,并且可用于来判断和预测在下一个时间点接收到的新增土壤监测数据的墒情数据。
本发明实施例通过预设的质量控制模型对新增的土壤监测数据中的墒情数据进行判断,并在判断为不正常时通过预设的校正插补模型对所述墒情数据进行校正或插补,从而使所述数据库的土壤监测数据连续、完整且可靠,为灌溉决策、农作物干旱监测、土壤侵蚀监测等用途提供可信、可用的数据集,避免因为数据缺失、设备突发异常造成数据中断或者错误而无法有效利用的情况,极大地提升了数据准确性、可靠性和可用性,使得大范围普适性应用成为可能。
图3为本发明实施例的另一土壤墒情监测方法流程图,如图3所示,所述步骤S02具体为:
步骤S021、若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则将源于所述监测站的最接近当前时刻的预设第一数量的土壤监测数据输入到质量控制模型中,确定所述新增的土壤监测数据中的墒情数据是否正确。
所述云服务器在利用质量控制模型对新增的土壤监测数据的墒情数据进行判断时,为了简便起见,可以预设第一数量,例如5,从而在每次判断过程中,仅从数据库中提取出接收时间点最接近当前时刻的第一数量的土壤监测数据,其中,包括新增的土壤监测数据,来判断所述新增的土壤监测数据中的墒情数据是否正常。例如,若所述数据库中源于同一监测站的土壤监测数据按照接收时间点的先后排序为{a1,a2,……ai-7,ai-6,ai-5,ai-4,ai-3,ai-2,ai-1,ai},其中,ai为新增的土壤监测数据,设第一数量为5,则提取出其中的ai-4,ai-3,ai-2,ai-1,ai作为所述质量控制模型的输入,用于判断所述ai的墒情数据是否正常。
进一步地的,如图3所示,所述步骤S03具体为:
步骤S031、若所述新增的土壤监测数据的墒情数据不正常,则将源于所述监测站的早于所述新增的监测数据的预设第二数量的土壤监测数据输入到校正插补模型中,得到校正的墒情数据并用于更新所述新增的土壤监测数据。
同样地,所述云服务器在利用校正插补模型对所述新增的土壤监测数据的墒情数据进行校正插补时,可以预设第二数量,例如7,从而在每次校正插补的过程中,所述新增的土壤监测数据的接收时间点仅从数据库中提取出接收时间点最接近的土壤监测数据,来对所述新增的土壤监测数据的墒情数据进行校正插补。例如,若所述数据库中源于同一监测站的土壤监测数据按照接收时间点的先后排序为{a1,a2,……ai-7,ai-6,ai-5,ai-4,ai-3,ai-2,ai-1,ai},其中,ai为新增的土壤监测数据,设第二数量为7,则提取出其中的ai-7,ai-6,ai-5,ai-4,ai-3,ai-2,ai-1作为所述校正插补模型的输入,用于对所述ai的墒情数据进行预测,并根据预测值对所述ai进行更新。
本发明实施例通过预设的第一数量和第二数量从而简化了所述质量控制模型和校正插补模型的构建和输入,从而可以快速使所述数据库的土壤监测数据连续、完整且可靠。
基于上述实施例,进一步地,所述质量控制模型采用深度神经回归网络构建。
对于所述质量控制模型的构建方法有很多,本发明实施例仅给出了其中的一种举例说明,采用深度神经回归网络(DNNR)构建,并采用前向传播算法,网络结构包含输入层,隐藏层和输出层,层与层之间采用全连接形式,即第i层的任意一个神经元均与第i+1层的任意一个神经元相连接,前一层的输出值作为后一层的输入值,其公式为:
式中x为输入特征;W为模型各层间权重;c、b为层间节点偏移向量;
激活函数采用ReLU函数,其优点为计算速度快且避免了模型训练时梯度消失问题,其函数公式为:
σ(x)=max(0,x)
进一步地,所述校正插补模型采用集成学习策略结合卷积神经网络和循环神经网络构建。
通过基于深度学习算法构建的校正插补模型对异常和缺失的墒情数据进行校正和插补。其中,深度学习的校正插补模型采用通过集成学习策略将卷积神经网络(CNN)与循环神经网络(RNN)相结合的网络模型结构。
专门用来处理具有网格结构数据,具有表征学习能力的卷积神经网络(CNN),将监测站所采集的一条土壤监测数据看作一维网格,将连续多条按时间排序的土壤监测数据组合视为1通道的二维矩阵灰度图像。卷积神经网络包含卷积层、激活层和池化层三个网络结构层。
卷积神经网络特征是至少有一层网络采用卷积运算来代替一般的矩阵乘法运算,离散化表达卷积算法的公式为:
其中,t表示时刻,s(t)为t时刻的输出或者特征映射,x为输入,w为核函数或概率密度函数。
卷积层对输入数据进行特征提取,其特征是内部包含多个卷积核,组成卷积核的每个元素都对应一个权重系数和一个偏差量。卷积层内每个神经元都与前一层中位置接近的区域的多个神经元相连,区域的大小称为感受野取决于卷积核的大小。卷积核在工作时,会有规律地遍历输入特征,在感受野内对输入特征做矩阵元素乘法求和并叠加偏移量,其数学表达公式为:
式中(i,j)∈{0,1,…Ll+1},求和部分等价于求解一次交叉相关。b为偏差量,Zl和Zl+1表示第l+1层的卷积输入和输出称为特征图,Ll+1为Zl+1的尺寸。Z(i,j)为对应特征图的像素,K为特征图的通道数,f、s0和p是卷积层参数,对应卷积核大小、卷积步长和填充层数。
池化层是模型在卷积层进行特征卷积运算后,输出的特征图传递至池化层进行特征选择和信息过滤。池化层包含预设定的池化函数,池化函数是将特征图中单个点的结果替换为其相邻区域特征图的统计量。池化层选取池化区域与卷积核扫描特征图步骤相同,由池化核大小、步长和填充控制。池化模型数学表达形式为:
式中步长s0、像素(i,j)的含义与卷积层相同,p是预指定参数。
提出用于处理时间序列数据的循环神经网络(RNN)模型,具有记忆性、参数共享并且图灵完备的特性,用来对时间序列的非线性特征进行高效学习,其数学表达为:
h(t)=f(s(t-1),X(t),θ)
式中h为循环神经网络的***状态,s是内部状态,f是激励函数或一个封装的前馈神经网络,θ是循环单元内部的权重系数。
本方案的集成策略是将一系列基模型的输出结果作为新特征输入到其他模型,实现模型的层叠,即第i层的模型输出作为第i+1层模型的输入,第i+1层模型的输出作为第i+2层模型的输入,依次类推,最后一层输出层的结果作为最终结果。本方案中数据校正插补模型的结构为分别构建CNN网络和RNN网络,将两个网络的输出值进行拼接融合作为元学习器的输入,在输出层得出最终预测结果,其中元学习器为全连接神经网络结构,其表达式为:
式中,X′为输入,Y′为输出,W为权重,b为偏置。
模型的激活函数均采用ReLU函数。
在确定所述质量控制模型和校正插补模型的构建方法后,可采集大量的土壤监测数据样本来对所述质量控制模型和校正插补模型进行训练。所述土壤监测数据样本可以采用对土壤监测数据的历史数据,经过规则判断和人工随机加入噪声,对其中的墒情数据进行标注。分别根据预设的第一数量和二数量,以及土壤监测数据的接收时间点,将所有的土壤监测数据样本组成数据集,将所有的数据集再按照一定的比例,例如7:3分训练集和验证集,分别对质量控制模型和校正插补模型进行训练和验证。
质量控制模型采用深度神经回归网络反向传播算法,模型为1-500-1500-100-1全连接网络结构,批大小16,训练次数20000次,激活函数采用ReLU。校正插补模型采用CNN+GRU模型结构,分别利用卷积神经网络(CNN)的特征表达能力和循环神经网络(RNN)的较强记忆能力提取数据的高维特征和时间序列特征,采用的RNN网络为基于门控循环单元的循环神经网络(Gated Recurrent Unit,GRU),其为循环神经网络中最有效的序列模型,GRU网络是LSTM网络的改进较LSTM网络的结构更加简洁,可以解决RNN网络中的长依赖问题。通过集成学习策略将集成模型结果拼接融合输入元学习器进行学习并由元学习器输出作为结果。GRU网络训练参数配置为:时间步为8,预测时长为1d,GRU与Dense层激活函数采用ReLU,Dropout比例20%,损失函数采用均方差(MSE),优化函数为Adam,批大小128,训练周期500次。CNN网络训练参数配置为:时间步为8,预测时长1d,映射图个数25,卷积核大小3×3,池化核大小2×2,Dropout比例20%,损失函数采用均方差(MSE),优化迭代算法为Adam,批大小128,训练周期500次。运算框架基于Keras框架搭建模型,后台采用Google深度学习框架TensorFlow 1.6,编程语言为Python3.6,集成开发环境采用PyCharm2019。
验证结果:质量控制模型的训练集分类准确率99.3%,验证集分类准确率为96.1%。校正插补模型的MSE、MAE、RMSE、R2指标中,训练集训练结果分别为0.0040、0.0502、0.0576、0.9999,验证集预测结果分别为0.2726、0.2576、0.2985、0.9891。
本发明实施例通过采用深度神经回归网络构建质量控制模型,采用CNN+GRU架构构建校正插补模型,从而能够以高准确性和精度进行土壤墒情数据的质量控制和校正插补,通过提出的深度学习模型算法,解决了以往数据质量控制难以判断,缺失数据无法插补,模型老旧更新滞后的难题,所构建的深度学习模型具有运行速度快、占用资源低、精度准确度高、自主学习等特点,不断优化深度神经网络模型结构减少冗余单元,降低算量提高效率,使得所构建模型更加轻量和高效,***运行负载低运算速度高,极大地减轻了数据质量控制和数据校正插补的工作量和人力成本。
基于上述实施例,进一步地,所述方法还包括:
若在预设的周期内没有接收到所述监测站发送的土壤监测数据,则在所述数据库中创建一条表征为源于所述监测站的新增的土壤监测数据,且将所述新增的土壤监测数据的墒情数据标识为缺失。
在所述云服务器对数据库的监控过程中,若判定所述监测站并没能够按照预设的周期发送土壤监测数据,即数据库中并没有在预设的周期内新增源于所述监测站的土壤监测数据。则所述云服务器新建一条土壤监测数据,该新建的土壤监测数据的设备编号与所述监测站对应,所述接收时间点与所述预设周期相对应,从而用于填补未接收到的源于所述监测站的新增的土壤监测数据,以此来保证土壤监测数据的连续性。该新增的土壤监测数据的墒情数据为缺失状态,而气象数据可以由第三方气象部门采集得到。
当然,为了保证所述墒情数据的准确性,若连续多个周期内未接收到所述监测站的土壤监测数据,则可以停止新建土壤监测数据,并发出报警信号。
本发明实施例在未接收到监测器发送的土壤监测数据时可通过新建一条土壤监测数据来填补缺失,从而保证了的源于所述监测器的土壤监测数据的连续性。
基于上述实施例,进一步地,所述方法还包括:
将由所述监测站发送的土壤监测数据,结合所述质量控制模型的判断结果和/或所述校正插补模型的校正插补结果,作为新的土壤监测数据样本更新所述质量控制模型和校正插补模型。
为了能够使所述质量控制模型和校正插补模型更好得适应实际的应用环境,所述云服务器通过模型更新单元可以将所述监测站发送的新增的土壤监测数据,结合经过所述质量控制模型得到的墒情数据的判断结果,以及经过校正插补模型得到的校正插补结果,将所述新增的封监测数据作为新的土壤监测数据样本。不断丰富训练集和测试集,来对所述质量控制模型和校正插补模型进行版本更新。
另外,所述模型更新单元还可以增加新的实验数据再结合人工标注过程,来丰富训练集和测试集。
人工数据标注功能为管理和实验人员提供了人工对数据质量分类进行标注的功能,通过实验室或农田实地针对不同环境和异常情况的实验,可以获得不同判断结果分类下的数据,为质量控制模型和校正插补模型训练提供了高度精准的训练数据。
通过对模型迭代更新训练功能利用不断更新的样本,定期迭代更新训练集和验证集,增强模型的时效性、准确度和迁移泛化性能。
模型训练的泛化能力是考量模型能力的核心标准,本方案在模型迭代更新训练中终止模型训练的方法为:定义某一训练时刻泛化损失为GL(t)用以反映泛化误差相比较目前的最低的误差的增长率,当GL(t)>15时模型终止训练,得到最终结果模型,其中:
式中Eva(t)为迭代次数t时的验证集误差,Eopt(t)为迭代次数t时取得最好的验证集误差,其中Eopt(t)=mint′≤tEva(t′)。
模型训练时数据集70%作为训练集,30%作为验证集,更新后的模型采用如下指标进行衡量:
当数据质量控制模型训练集验证结果准确率大于95%,数据校正插补模型验证集结果满足MAE,MSE,RMSE均小于0.3且R2>0.90时模型生效,生成模型编号记录入数据库并将模型部署上线。
本发明实施例通过利用不断增加的样本数据和人工标注数据对模型进行迭代更新训练,不断强化质量控制模型和校正插补模型的判断和预测精度,以及泛化迁移性能,更好的适应在复杂环境中墒情数据采集的可靠性,通过及时的将新增站点设备增量数据参与模型训练,进一步提升模型性能和***应用能力,实现增量数据-质量控制-校正插补-模型更新正向循环。
图4为本发明实施例的土壤墒情监测装置结构示意图,如图4所示,所述装置包括:数据接收单元10、数据质量评定单元11和数据校正补全单元12,其中,
所述数据接收单元10用于接收由监测站发送的土壤监测数据,并根据时间顺序依次存入数据库中;其中,所述土壤监测数据包括墒情数据和气象数据;所述数据质量评定单元11用于若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和预设的质量控制模型,确定所述新增的土壤监测数据的墒情数据是否正常;所述数据校正补全单元12用于若所述新增的土壤监测数据的墒情数据不正常,则根据源于所述监测站,且接收时间点早于所述新增的监测数据的土壤监测数据,以及预设的校正插补模型,得到校正的墒情数据并用于更新所述新增的土壤监测数据;其中,所述质量控制模型和所述校正插补模型由对墒情数据经过标注的土壤监测数据样本预先训练得到。具体地:
本发明实施例的土壤监测数据由预先设置于各地的多个监测站获取。所述土壤监测数据至少包括墒情数据和气象数据。其中,所述墒情数据可以根据实际的需要设定为包括不同地点或深度的土壤湿度,例如,0-20cm土壤湿度、20-40cm土壤湿度、40-60cm土壤湿度、60-80cm土壤湿度等,而所述气象数据也可以根据实际的需要设置不同的传感器进行采集或者直接由气象部门获取,例如:空气温度(T)、空气湿度(H)、降水(R)、日照(S)、大气压强(P)和风速(U)。
另外为了方便对土壤监测数据的统计和管理,所述土壤监测数据还可以包括所述监测站的设备参数等。
每个监测站通过预设的网络和传输协议,按照预设的时间周期,定时将采集的土壤监测数据实时传回至所述数据接收单元10,由所述数据接收单元10接收并解析接收到的土壤监测数据,依据传输协议程序将解析成功的数据按照接收到的时间顺序依次存入数据库,并将所有接收到的由监测站发送的土壤监测数据作为原始数据记录到日志中。
数据质量评定单元11通过对数据库的定期扫描,来判断所述数据库中是否存在新增的土壤监测数据,若存在,则所述新增的土壤监测数据为对应的监测站最新发送的土壤监测数据。根据接收到的时间先后从数据库是提取出源于该监测站的土壤监测数据,包括所述新增的土壤监测数据,再结合预设的质量控制模型,对该新增的土壤监测数据中的墒情数据进行判断,来查看所述新增的土壤监测数据的墒情数据是否正常。
所述质量控制模型可以根据实际的需要来进行设定,并通过对墒情数据经过标注的土壤监测数据样本进行预先的训练得到。所述质量控制模型接照通过训练可以得到连续时间点接收到的土壤监测数据间墒情数据和气象数据的相关性或者变化趋势,在将所有气象数据以及其它土壤监测数据的墒情数据判定为正确的前提下,来判断新增的土壤监测数据的墒情数据是否正常,并将判断结果分别标记到所述土壤监测数据中,同时记录到日志中以方便后续的追溯。
通过所述质量控制模型得到的判断结果可以根据实际的需要来进行分类,例如,可以简单分为正常或不正常两类。
进一步地,所述新增的土壤监测数据的墒情数据不正常,具体包括:
所述新增的土壤监测数据的墒情数据异常或者缺失。
其中对于所述墒情数据不正常的判断结果还可以进一步分为,墒情数据异常和墒情数据缺失两种情况。从而质量控制模型的判断结果将分为三个等级,分别为:正常、异常和缺失。根据判断结果,在数据库中将所述新增的土壤监测数据进行标记,例如,可以分别标记为0、1、2。
另外,所述数据质量评定单元11还可以在判定所述墒情数据为异常或缺失时,向相关负责人发送报警信息,具体可通过微信、短信或邮件的方式来进行。从而可以确保对应的监测站能够得到及时的维护。
若所述质量控制单元11得到的判断结果为不正常,则将启用所述数据校正补全单元12,利用经过预先训练的校正插补模型来对不正常的墒情数据进行校正或者插补。具体可以由所述校正插补模型,根据源于相同监测站的除去所述新增的土壤监测数据的土壤监测数据来对所述新增的土壤监测数据的墒情数据进行校正或者插补。相当于,利用接收的时间点早于所述新增的土壤监测数据的土壤监测数据来对所述新增的土壤监测数据中的墒情数据进行预测,并将预测结果用于更新所述新增的土壤监测数据中的墒情数据。同时,所述数据校正补全单元12可以将所述校正插补模型的所有校正和插补操作记录日志并在数据表中作相应标记,该日志包括校正插补结果、校正插补时间、模型版本号等。
通过校正插补后的新增的土壤监测数据中的墒情数据可认定为正常,此时,所述数据库中保存的由所述监测站发送的所有土壤监测数据中的墒情数据均可判定为正常,并且可用于来判断和预测在下一个时间点接收到的新增土壤监测数据的墒情数据。
本发明实施例提供的装置用于执行上述方法,其功能具体参考上述方法实施例,其具体方法流程在此处不再赘述。
本发明实施例通过预设的质量控制模型对新增的土壤监测数据中的墒情数据进行判断,并在判断为不正常时通过预设的校正插补模型对所述墒情数据进行校正或插补,从而使所述数据库的土壤监测数据连续、完整且可靠,为灌溉决策、农作物干旱监测、土壤侵蚀监测等用途提供可信、可用的数据集,避免因为数据缺失、设备突发异常造成数据中断或者错误而无法有效利用的情况,极大地提升了数据准确性、可靠性和可用性,使得大范围普适性应用成为可能。
图5示例了一种电子设备的实体结构示意图,如图5所示,该服务器可以包括:处理器(processor)501、通信接口(Communications Interface)503、存储器(memory)502和通信总线504,其中,处理器501,通信接口503,存储器502通过通信总线504完成相互间的通信。处理器501可以调用存储器502中的逻辑指令,以执行上述方法。
进一步地,本发明实施例公开一种计算机程序产品,所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,计算机能够执行上述各方法实施例所提供的方法。
进一步地,本发明实施例提供一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令使所述计算机执行上述各方法实施例所提供的方法。
本领域普通技术人员可以理解:此外,上述的存储器502中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random AccessMemory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (9)
1.一种土壤墒情监测方法,其特征在于,包括:
接收由监测站发送的土壤监测数据,并根据时间顺序依次存入数据库中;其中,所述土壤监测数据包括墒情数据和气象数据;
若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和预设的质量控制模型,确定所述新增的土壤监测数据的墒情数据是否正常;
若所述新增的土壤监测数据的墒情数据不正常,则根据源于所述监测站,且接收时间点早于所述新增的监测数据的土壤监测数据,以及预设的校正插补模型,得到校正的墒情数据并用于更新所述新增的土壤监测数据;其中,所述质量控制模型和所述校正插补模型由对墒情数据经过标注的土壤监测数据样本预先训练得到;
所述质量控制模型采用深度神经回归网络,并采用前向传播算法构建,网络结构包含输入层,隐藏层和输出层,层与层之间采用全连接形式,激活函数采用ReLU函数;
相应地,所述校正插补模型采用集成学习策略结合卷积神经网络和循环神经网络构建的,包括分别构建卷积神经网络和循环神经网络,再将两个网络的输出值进行拼接融合作为元学习器的输入,在输出层得出最终预测结果;其中,元学习器为全连接神经网络结构,所述最终预测结果为所述校正的墒情数据;
所述循环神经网络的数学表达为:
h(t)=f(s(t-1),X(t),θ);
其中,h为循环神经网络的***状态,s是内部状态,f是激励函数或一个封装的前馈神经网络,θ是循环单元内部的权重系数;
卷积神经网络的至少有一层网络采用卷积运算来代替一般的矩阵乘法运算,离散化表达卷积算法的公式为:
其中,t表示时刻,s(t)为t时刻的输出或者特征映射,x为输入,w为核函数或概率密度函数;
所述卷积神经网络的卷积核在工作时,遍历输入特征,在感受野内对输入特征做矩阵元素乘法求和并叠加偏移量,其数学表达公式为:
其中,(i,j)∈{0,1,...Ll+1},求和部分等价于求解一次交叉相关;b为偏差量,Zl和Zl+1表示第l+1层的卷积输入和输出称为特征图,Ll+1为Zl+1的尺寸;Z(i,j)为对应特征图的像素,K为特征图的通道数,f、s0和p是卷积层参数,对应卷积核大小、卷积步长和填充层数;
其中,元学习器为全连接神经网络结构,其表达式为:
其中,X′为输入,Y′为输出,W为权重,b为偏置。
2.根据权利要求1所述的土壤墒情监测方法,其特征在于,所述若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和预设的质量控制模型,确定所述新增的土壤监测数据的墒情数据是否正常,具体包括:
若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则将源于所述监测站的最接近当前时刻的预设第一数量的土壤监测数据输入到质量控制模型中,确定所述新增的土壤监测数据中的墒情数据是否正常 。
3.根据权利要求2所述的土壤墒情监测方法,其特征在于,所述若所述新增的土壤监测数据的墒情数据不正常,则根据源于所述监测站,且接收时间点早于所述新增的监测数据的土壤监测数据,以及预设的校正插补模型,得到校正的墒情数据并用于更新所述新增的土壤监测数据,具体包括:
若所述新增的土壤监测数据的墒情数据不正常,则将源于所述监测站的早于所述新增的监测数据的预设第二数量的土壤监测数据输入到校正插补模型中,得到校正的墒情数据并用于更新所述新增的土壤监测数据。
4.根据权利要求1所述的土壤墒情监测方法,其特征在于,所述新增的土壤监测数据的墒情数据不正常,具体包括:
所述新增的土壤监测数据的墒情数据异常或者缺失。
5.根据权利要求1-4任一所述的土壤墒情监测方法,其特征在于,所述土壤墒情监测方法还包括:
若在预设的周期内没有接收到所述监测站发送的土壤监测数据,则在所述数据库中创建一条表征为源于所述监测站的新增的土壤监测数据,且将所述新增的土壤监测数据的墒情数据标识为缺失。
6.根据权利要求5所述的土壤墒情监测方法,其特征在于,所述土壤墒情监测方法还包括:
将由所述监测站发送的土壤监测数据,结合所述质量控制模型的判断结果和/或所述校正插补模型的校正插补结果,作为新的土壤监测数据样本更新所述质量控制模型和校正插补模型。
7.一种土壤墒情监测装置,其特征在于,包括:
数据接收单元,用于接收由监测站发送的土壤监测数据,并根据时间顺序依次存入数据库中;其中,所述土壤监测数据包括墒情数据和气象数据;
数据质量评定单元,用于若监测到数据库中存在源于所述监测站的新增的土壤监测数据,则根据源于所述监测站的土壤监测数据和预设的质量控制模型,确定所述新增的土壤监测数据的墒情数据是否正常;
数据校正补全单元,用于若所述新增的土壤监测数据的墒情数据不正常,则根据源于所述监测站,且接收时间点早于所述新增的监测数据的土壤监测数据,以及预设的校正插补模型,得到校正的墒情数据并用于更新所述新增的土壤监测数据;其中,所述质量控制模型和所述校正插补模型由对墒情数据经过标注的土壤监测数据样本预先训练得到;
所述质量控制模型采用深度神经回归网络,并采用前向传播算法构建,网络结构包含输入层,隐藏层和输出层,层与层之间采用全连接形式,激活函数采用ReLU函数;
相应地,所述校正插补模型采用集成学习策略结合卷积神经网络和循环神经网络构建的,包括分别构建卷积神经网络和循环神经网络,再将两个网络的输出值进行拼接融合作为元学习器的输入,在输出层得出最终预测结果;其中,元学习器为全连接神经网络结构,所述最终预测结果为所述校正的墒情数据;
所述循环神经网络的数学表达为:
h(t)=f(s(t-1),X(t),θ);
其中,h为循环神经网络的***状态,s是内部状态,f是激励函数或一个封装的前馈神经网络,θ是循环单元内部的权重系数;
卷积神经网络的至少有一层网络采用卷积运算来代替一般的矩阵乘法运算,离散化表达卷积算法的公式为:
其中,t表示时刻,s(t)为t时刻的输出或者特征映射,x为输入,w为核函数或概率密度函数;
所述卷积神经网络的卷积核在工作时,遍历输入特征,在感受野内对输入特征做矩阵元素乘法求和并叠加偏移量,其数学表达公式为:
其中,(i,j)∈{0,1,...Ll+1},求和部分等价于求解一次交叉相关;b为偏差量,Zl和Zl+1表示第l+1层的卷积输入和输出称为特征图,Ll+1为Zl+1的尺寸;Z(i,j)为对应特征图的像素,K为特征图的通道数,f、s0和p是卷积层参数,对应卷积核大小、卷积步长和填充层数;
其中,元学习器为全连接神经网络结构,其表达式为:
其中,X′为输入,Y′为输出,W为权重,b为偏置。
8.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至6任一项所述土壤墒情监测方法的步骤。
9.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至6任一项所述土壤墒情监测方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910745231.8A CN110456026B (zh) | 2019-08-13 | 2019-08-13 | 一种土壤墒情监测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910745231.8A CN110456026B (zh) | 2019-08-13 | 2019-08-13 | 一种土壤墒情监测方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110456026A CN110456026A (zh) | 2019-11-15 |
CN110456026B true CN110456026B (zh) | 2022-05-03 |
Family
ID=68486345
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910745231.8A Active CN110456026B (zh) | 2019-08-13 | 2019-08-13 | 一种土壤墒情监测方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110456026B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112488404B (zh) * | 2020-12-07 | 2022-09-23 | 广西电网有限责任公司电力科学研究院 | 一种配电网大规模电力负荷多线程高效预测方法及*** |
CN114190264B (zh) * | 2021-11-18 | 2022-11-08 | 国网河北省电力有限公司营销服务中心 | 一种精准灌溉方案确定方法、***及终端设备 |
CN114723149A (zh) * | 2022-04-14 | 2022-07-08 | 北京市农林科学院信息技术研究中心 | 土壤墒情预测方法、装置、电子设备及存储介质 |
CN114971097B (zh) * | 2022-08-03 | 2022-11-29 | 北京市农林科学院智能装备技术研究中心 | 土壤墒情数据重建方法及预报方法 |
CN115862272A (zh) * | 2023-02-16 | 2023-03-28 | 山东省国土空间生态修复中心(山东省地质灾害防治技术指导中心、山东省土地储备中心) | 一种地质灾害自动化监测***及方法 |
CN116737729B (zh) * | 2023-04-18 | 2024-01-19 | 速度科技股份有限公司 | 基于土壤墒情进行土壤分布地图的实时在线矫正方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106124729A (zh) * | 2016-04-13 | 2016-11-16 | 北京瑞美德环境修复有限公司 | 一种评价土壤中重金属含量数据异常程度的方法 |
CN109115807A (zh) * | 2018-10-26 | 2019-01-01 | 中国气象局气象探测中心 | 一种土壤水分自动观测数据异常值检测方法及*** |
CN109413193A (zh) * | 2018-11-08 | 2019-03-01 | 南京华渊农业科技有限公司 | 用于精细农业的土壤质量监测装置 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104280791B (zh) * | 2014-09-26 | 2017-03-22 | 宁波绮耘软件股份有限公司 | 一种气象数据质量控制处理方法及*** |
CN105825433A (zh) * | 2016-04-01 | 2016-08-03 | 北京邮电大学 | 一种土壤墒情的确定方法及装置 |
KR101933657B1 (ko) * | 2016-11-11 | 2019-04-05 | 전북대학교산학협력단 | 딥 러닝을 이용한 작물 병충해 검출 및 진단 방법 및 장치 |
CN108197080A (zh) * | 2016-12-08 | 2018-06-22 | 广东精点数据科技股份有限公司 | 一种基于多种算法融合的缺失值插补方法 |
CN107064461B (zh) * | 2017-04-19 | 2019-09-10 | 天津市气候中心 | 一种具有监测评估功能的墒情监测站及监测评估方法 |
CN106981198B (zh) * | 2017-05-24 | 2020-11-03 | 北京航空航天大学 | 用于旅行时间预测的深度学习网络模型及其建立方法 |
CN107943967B (zh) * | 2017-11-28 | 2020-05-22 | 华南理工大学 | 基于多角度卷积神经网络与循环神经网络的文本分类算法 |
CN108108836B (zh) * | 2017-12-15 | 2019-02-05 | 清华大学 | 一种基于时空深度学习的臭氧浓度分布预测方法和*** |
CN108510072A (zh) * | 2018-03-13 | 2018-09-07 | 浙江省水文局 | 一种基于混沌神经网络的河道流量监测数据质量控制方法 |
CN108509881A (zh) * | 2018-03-22 | 2018-09-07 | 五邑大学 | 一种无切分的脱机手写汉字文本识别方法 |
CN109299812B (zh) * | 2018-08-23 | 2021-09-24 | 河海大学 | 一种基于深度学习模型和knn实时校正的洪水预测方法 |
CN109142684A (zh) * | 2018-10-17 | 2019-01-04 | 广州源贸易有限公司 | 农田土壤环境智能可靠监测*** |
CN109583445A (zh) * | 2018-11-26 | 2019-04-05 | 平安科技(深圳)有限公司 | 文字图像校正处理方法、装置、设备及存储介质 |
CN109711547A (zh) * | 2018-12-24 | 2019-05-03 | 武汉邦拓信息科技有限公司 | 一种基于深度学习算法的污染源异常数据识别方法 |
CN109871444A (zh) * | 2019-01-16 | 2019-06-11 | 北京邮电大学 | 一种文本分类方法及*** |
CN109949929A (zh) * | 2019-03-19 | 2019-06-28 | 挂号网(杭州)科技有限公司 | 一种基于深度学习大规模病历的辅助诊断*** |
CN110084367B (zh) * | 2019-04-19 | 2022-10-25 | 安徽农业大学 | 一种基于lstm深度学习模型的土壤墒情预测方法 |
CN110096795B (zh) * | 2019-04-29 | 2023-07-18 | 国网湖南省电力有限公司 | 一种大气雾霾数值预报的校正预报方法及*** |
CN110111848B (zh) * | 2019-05-08 | 2023-04-07 | 南京鼓楼医院 | 一种基于rnn-cnn神经网络融合算法的人体周期表达基因识别方法 |
-
2019
- 2019-08-13 CN CN201910745231.8A patent/CN110456026B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106124729A (zh) * | 2016-04-13 | 2016-11-16 | 北京瑞美德环境修复有限公司 | 一种评价土壤中重金属含量数据异常程度的方法 |
CN109115807A (zh) * | 2018-10-26 | 2019-01-01 | 中国气象局气象探测中心 | 一种土壤水分自动观测数据异常值检测方法及*** |
CN109413193A (zh) * | 2018-11-08 | 2019-03-01 | 南京华渊农业科技有限公司 | 用于精细农业的土壤质量监测装置 |
Non-Patent Citations (1)
Title |
---|
基于卷积神经网络和循环神经网络的入侵检测模型;方圆等;《Journal of Computer Applications》;20181010;第38卷(第10期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN110456026A (zh) | 2019-11-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110456026B (zh) | 一种土壤墒情监测方法及装置 | |
Wintle et al. | Fauna habitat modelling and mapping: a review and case study in the Lower Hunter Central Coast region of NSW | |
CN111639787A (zh) | 一种基于图卷积网络的时空数据预测方法 | |
CN114118640B (zh) | 长期降水预测模型构建方法、长期降水预测方法及装置 | |
JP4719893B2 (ja) | 制御装置、制御方法、及びそのプログラム | |
CN112287294B (zh) | 一种基于深度学习的时空双向土壤含水量插值方法 | |
CN112116143B (zh) | 一种基于神经网络的森林虫害发生概率计算处理方法 | |
CN109086540B (zh) | 一种构建热带气旋路径预报模型的方法及装置 | |
CN110687619B (zh) | 一种用于农田气象站的气象数据校验方法及*** | |
CN109492665A (zh) | 水稻生育期的检测方法、装置及电子设备 | |
CN115951014A (zh) | 一种结合气象特征的cnn-lstm-bp多模态空气污染物预测方法 | |
CN114118634B (zh) | 一种土壤水分预测方法和装置 | |
CN114911788B (zh) | 一种数据插补方法、装置及存储介质 | |
CN115545334A (zh) | 土地利用类型预测方法、装置、电子设备及存储介质 | |
CN115329930A (zh) | 一种基于混合深度学习模型的洪水过程概率预报方法 | |
CN116415730A (zh) | 一种预测水位的融合自注意力机制时空深度学习模型 | |
CN114584406A (zh) | 一种联邦学习的工业大数据隐私保护***及方法 | |
CN117350897A (zh) | 一种考虑空气湿度的转换功率预测的方法和*** | |
WO2024059300A1 (en) | Uncertainty prediction models | |
CN109187898B (zh) | 水产养殖环境中水质氨氮含量的软测量方法及装置 | |
CN116960962A (zh) | 一种跨区域数据融合的中长期区域负荷预测方法 | |
CN113723670B (zh) | 变时间窗口的光伏发电功率短期预测方法 | |
CN115907204A (zh) | 麻雀搜索算法优化bp神经网络的林木蒸腾耗水预测方法 | |
Hasu et al. | Automatic minimum and maximum alarm thresholds for quality control | |
CN114692971A (zh) | 一种基于产量差的作物产量预测方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |