CN113842113A - 发展性阅读障碍智能识别方法、***、设备及存储介质 - Google Patents
发展性阅读障碍智能识别方法、***、设备及存储介质 Download PDFInfo
- Publication number
- CN113842113A CN113842113A CN202110831632.2A CN202110831632A CN113842113A CN 113842113 A CN113842113 A CN 113842113A CN 202110831632 A CN202110831632 A CN 202110831632A CN 113842113 A CN113842113 A CN 113842113A
- Authority
- CN
- China
- Prior art keywords
- identification
- reading disorder
- probability
- eye movement
- developmental
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/113—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7246—Details of waveform analysis using correlation, e.g. template matching or determination of similarity
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Heart & Thoracic Surgery (AREA)
- Physics & Mathematics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Pathology (AREA)
- Physiology (AREA)
- Ophthalmology & Optometry (AREA)
- Dentistry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Psychiatry (AREA)
- Signal Processing (AREA)
- Eye Examination Apparatus (AREA)
Abstract
本发明公开了一种发展性阅读障碍智能识别方法、***、设备及存储介质。所述发展性阅读障碍智能识别方法包括:获取被测者的眼动信号;将所述眼动信号输入到预设的第一识别模型中进行处理,得到所述被测者患有发展性阅读障碍的第一识别概率;从所述眼动信号中提取指定的特征数据,将所述特征数据输入到预设的第二识别模型中进行处理,得到所述被测者患有发展性阅读障碍对应的第二识别概率;将所述第一识别概率和所述第二识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率。通过利用浅层学习模型和深度学习模型的建模结果具有较强的互补性,利用模型融合技术对两种模型进行集成,保证了对被测者的发展性阅读障碍识别的准确性。
Description
技术领域
本发明涉及深度学习技术领域,特别涉及一种发展性阅读障碍智能识别方法、***、设备及存储介质。
背景技术
发展性阅读障碍(developmental dyslexia,DD)是指个体在一般智力、动机、生活环境和教育条件等方面与其它个体没有明显差异,也没有明显的视力、听力、神经***的损伤,但其阅读成绩明显低于同龄人的平均水平。发展性阅读障碍是儿童和青少年人群中高发的障碍,发病率高达5%-12%,其中超过了70%的障碍儿童和青少年存在在校学习困难的问题。
在发展性阅读障碍的诊断上,因为并不被认为是临床疾病,致病机理尚不明确,所以医院并没有专门的诊疗服务。该障碍的诊断一般需要患者通过测试量表进行测试并采集测试数据,再由受过严格专业训练的专业人士根据测试数据和诊断经验进行评估。现有发展性阅读障碍的诊断过程存在诸多难题:实施的技术成本大、诊断结果的准确率依赖专业人士的专业水平、准确率不高以及缺乏统一标准。显然这种诊断方法无法面向广大儿童群里进行筛查。
发明内容
本发明要解决的技术问题是为了克服现有技术中需要人工诊断发展性阅读障碍,实施的技术成本大、诊断结果的准确率依赖专业人士的专业水平、准确率不高以及缺乏统一标准的缺陷,提供一种发展性阅读障碍智能识别方法、***、设备及存储介质。
本发明是通过下述技术方案来解决上述技术问题:
本发明提供一种发展性阅读障碍智能识别方法,所述发展性阅读障碍智能识别方法包括:
获取被测者的眼动信号;
将所述眼动信号输入到预设的第一识别模型中进行处理,得到所述被测者患有发展性阅读障碍的第一识别概率;
从所述眼动信号中提取指定的特征数据,将所述特征数据输入到预设的第二识别模型中进行处理,得到所述被测者患有发展性阅读障碍对应的第二识别概率;
将所述第一识别概率和所述第二识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率。
较佳地,在将所述第一识别概率和所述第二识别概率进行融合之前,所述发展性阅读障碍智能识别方法还包括:
获取用于表征所述被测者的阅读能力的多模态数据;
将所述多模态数据输入到第三识别模型中进行处理,得到所述被测者患有发展性阅读障碍的第三识别概率;
所述将所述第一识别概率和所述第二识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率,包括:
将所述第一识别概率、所述第二识别概率与所述第三识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率。
较佳地,所述第一识别模型为双向长短时间记忆神经网络;
在将所述眼动信号输入所述第一识别模型中进行处理之前,所述方法还包括:
对所述眼动信号进行均匀分段处理。
较佳地,所述第二识别模型为集成决策树模型。
较佳地,在将所述多模态数据输入到第三识别模型中进行处理之前,所述方法还包括:
对所述多模态数据进行预处理,所述预处理包括量化处理、缺失值填充处理以及归一化处理中的至少一种。
较佳地,所述从所述眼动信号中提取指定的特征数据,包括:
从所述眼动信号中提取以下特征数据中的至少一种:眼睛注视到屏幕的坐标位置信息、注视时长和/或眼睛的瞳孔尺寸信息。
较佳地,在所述得到所述眼动信号对应的综合识别概率之后,还包括:
判断所述综合识别概率是否达到预设值,若是,则判定所述被测者患有发展性阅读障碍,否则,判定所述被测者未患有发展性阅读障碍。
本发明还提供一种发展性阅读障碍智能识别***,所述发展性阅读障碍智能识别***包括:
眼动信号获取模块,用于获取被测者的眼动信号;
第一识别模块,用于将所述眼动信号输入到预设的第一识别模型中进行处理,得到所述被测者患有发展性阅读障碍的第一识别概率;
第二识别模块,用于从所述眼动信号中提取指定的特征数据,将所述特征数据输入到预设的第二识别模型中进行处理,得到所述被测者患有发展性阅读障碍对应的第二识别概率;
识别概率融合模块,用于将所述第一识别概率和所述第二识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率。
较佳地,所述***还包括:
多模态数据获取模块,用于获取用于表征所述被测者的阅读能力的多模态数据;
第三识别模块,用于将所述多模态数据输入到第三识别模型中进行处理,得到所述被测者患有发展性阅读障碍的第三识别概率;
所述识别概率融合模块具体用于将所述第一识别概率、所述第二识别概率与所述第三识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率。
较佳地,所述第一识别模型为双向长短时间记忆神经网络;
所述***还包括眼动信号预处理模块,用于在所述第一识别模块执行相应操作之前,对所述眼动信号进行均匀分段处理。
较佳地,所述第二识别模型为集成决策树模型。
较佳地,所述***还包括:
多模态数据预处理模块,用于对所述多模态数据进行预处理,所述预处理包括量化处理、缺失值填充处理以及归一化处理中的至少一种。
较佳地,所述第二识别模块从所述眼动信号中提取的特征数据包括以下特征数据中的至少一种:眼睛注视到屏幕的坐标位置信息、注视时长和/或眼睛的瞳孔尺寸信息。
较佳地,所述***还包括阅读障碍判定模块,用于判断所述综合识别概率是否达到预设值,若是,则判定所述被测者患有发展性阅读障碍,否则,判定所述被测者未患有发展性阅读障碍。
本发明还提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上所述的发展性阅读障碍智能识别方法。
本发明还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的发展性阅读障碍智能识别方法。
本发明的积极进步效果在于:
本发明在获取到被测者的眼动信号之后,一方面直接将眼动信号输入第一模型中进行发展性阅读障碍识别,另一方面利用第二识别模型根据眼动信号的指定特征数据进行发展性阅读障碍识别,而后将两次识别结果进行融合,一定程度上减小了仅利用指定特征数据进行发展性阅读障碍识别所带来的偏差问题,可得到较准确的识别结果。从而,本发明能够自动且准确地识别出被测者是否患有发展性阅读障碍,避免了人工诊断所带来的相应缺陷。
附图说明
图1为本发明实施例1的发展性阅读障碍智能识别方法的流程图。
图2为本发明实施例2的发展性阅读障碍智能识别方法的流程图。
图3为本发明实施例2的发展性阅读障碍智能识别方法的原理图。
图4为本发明实施例3的发展性阅读障碍智能识别***的结构框图。
图5为本发明实施例4的发展性阅读障碍智能识别***的结构框图。
图6为本发明实施例5的电子设备的硬件结构示意图。
具体实施方式
下面通过实施例的方式进一步说明本发明,但并不因此将本发明限制在所述的实施例范围之中。
实施例1
如图1所示,本实施例提供一种发展性阅读障碍智能识别方法。所述发展性阅读障碍智能识别方法包括:
S101、获取被测者的眼动信号。
S102、将眼动信号输入到预设的第一识别模型中进行处理,得到被测者患有发展性阅读障碍的第一识别概率。
第一识别模型可以是利用深度学习技术的识别模型,可以直接从眼动信号提取特征并对被测者是否具有发展性阅读障碍进行预测。
S103、从眼动信号中提取指定的特征数据,将特征数据输入到预设的第二识别模型中进行处理,得到被测者患有发展性阅读障碍对应的第二识别概率。
第二识别模型可以是浅层学习模型。应用特征工程的方式将预设定(pre-defined)的眼动指标的特征数据输入到浅层学习模型,对被测者是否具有发展性阅读障碍进行预测。
可见,第二识别模型中输入的特征数据为手工特征,即带有强烈先验信息的眼动行为指标,而使用手工特征的方式得到的这些眼动指标可能已经丢失了针对任务强有效的信息,即手工提取的特征很大程度上未必是针对任务的最优解;对比下,第一识别模型的输入为最原始的眼动坐标时序信号,使用深度学习技术自动提取任务特定的有效特征,很大程度上避免了手工特征的带有过强的先验信息的问题,特征提取的解空间更大,更容易找到更优解。
S104、将第一识别概率和第二识别概率进行融合,以得到被测者患有发展性阅读障碍的综合识别概率。
综上所述,本发明在获取到被测者的眼动信号之后,一方面直接将眼动信号输入第一模型中进行发展性阅读障碍识别,另一方面利用第二识别模型根据眼动信号的指定特征数据进行发展性阅读障碍识别,而后将两次识别结果进行融合,一定程度上减小了仅利用指定特征数据进行发展性阅读障碍识别所带来的偏差问题,可得到较准确的识别结果。从而,本发明能够自动且准确地识别出被测者是否患有发展性阅读障碍,避免了人工诊断所带来的相应缺陷。
此外,本实施例中的发展性阅读障碍智能识别方法,通过利用浅层学习模型和深度学习模型共同建模,浅层学习模型和深度学习模型的建模结果具有较强的互补性,深度学习模型可以减轻预设定的眼动指标所造成的特征偏差问题,利用模型融合技术对两种模型进行集成可以进一步的提高模型的性能,进而保证了对被测者的发展性阅读障碍识别的准确性。
实施例2
如图2和3所示,本实施例的发展性阅读障碍智能识别方法是对实施例1的进一步改进,具体地:
步骤S101可以通过如下方法获取被测者的眼动信号:
在本实施例中,可以在对被测者进行眼动仪配套的短篇阅读能力测试过程中采集用户的眼动信号。通常发展性阅读障碍患者的答题正确率较低;并且在阅读过程中,患者的眼动信号与正常人有差异,因此,通过记录阅读过程中的眼动信号能综合且较全面客观地判定被测者的阅读能力及障碍水平。
考虑到被测者的阅读能力处于动态的发展中,眼动测试所用阅读文本根据年龄调取,例如,从7-16岁,每个年龄对标3篇基础水平文章。为了获取被测者的阅读效率,每篇文章后附针对文章内容的选择题,被测者通过反应盒按键选择,眼动仪***可记录反应时和正确率。
为了充分评估被测者的真实阅读发展水平,n岁的被测者使用n-1,n,n+1的共九篇文章进行测试。特殊被测者还可以根据具体情况调节(如智力发展迟缓儿童可根据真实智力水平降低测试年龄标准)。
在本实施例中,步骤S102中采用的第一识别模型优选为双向长短时间记忆神经网络(Bidirectional long short-term memory network,Bi-LSTM),当然也可以采用其它任意合适的深度学习模型实现,本实施例对此不做任何具体限制。当第一识别模型为Bi-LSTM时,在步骤S102之前,发展性阅读障碍智能识别方法还包括:
S201、对眼动信号进行均匀分段处理。
其中,每段眼动信号的预设时长d优选为3s(秒),当然也可以根据需要对该时长进行调整,本实施例并不对每段眼动信号的具体时长进行限制。由于眼动信号的原始数据量较大,体现在仪器的采样频率高,采样时长长,为了保证可行性,需要将信号进行分段处理(如将30s的信号均匀采样成10段3s信号),才能够将信号输入到常用的针对时序信号建模的深度神经网络:Bi-LSTM。通过对眼动信号进行均匀分段处理,即可体现出每段信号的时序性。优选地,在对眼动信号进行均匀分段处理之前,本实施例还可以预先对其进行归一化处理。
在本实施例中,步骤S103具体包括:
S202、从眼动信号中提取以下特征数据中的至少一种:眼睛注视到屏幕的坐标位置信息、注视时长和/或眼睛的瞳孔尺寸信息。
S203、将特征数据输入到预设的第二识别模型中进行处理,得到被测者患有发展性阅读障碍对应的第二识别概率。
具体地,第二识别模型为集成决策树模型(Gradient Boosting Decision Tree,GBDT);当然也可以采用其它任意合适的浅层学习模型实现,本实施例对此不做任何具体限制。
在本实例中,双向长短时间记忆网络直接从眼动信号提取特征,一定程度上减轻预设定的眼动指标导致的特征偏差问题。集成决策树模型具有较强的非线性拟合能力,可以更好地适应发展性阅读障碍识别的复杂性。
其中,Bi-LSTM网络的公式为:
在本实施例中,在步骤S104之前,发展性阅读障碍智能识别方法还包括:
S204、获取用于表征被测者的阅读能力的多模态数据。
具体地,用于表征被测者的阅读能力的多模态数据可以包括眼动测试的行为指标(即被测者的反应时和正确率)以及被测者的视力(如近半年的视力)。若被测者为在校学生,多模态数据还可以包括被测者的在校成绩,例如采集被测者最近预定时长(半年)内的语文成绩和数学成绩,以平均成绩作为在校成绩,若近半年只有一次,则使用该单次成绩。
S206、将多模态数据输入到第三识别模型中进行处理,得到被测者患有发展性阅读障碍的第三识别概率。
第三识别模型可以选择浅层学习模型,如集成决策树模型。
此外,在步骤S206之前,发展性阅读障碍智能识别方法还包括:
S205、对多模态数据进行预处理。例如,预处理包括量化处理、缺失值填充处理以及归一化处理中的至少一种。
其中,量化处理是指将非数值化数据转换为数据化数据,如将成绩“A”转换为90分等;缺失值填充处理是指按预定的策略对缺失数据进行填充;归一化处理是指将数据映射到0~1范围之内。
在本实施例中,步骤S104具体包括:
S207、将第一识别概率、第二识别概率与第三识别概率进行融合,以得到被测者患有发展性阅读障碍的综合识别概率。本实施例中,例如可以采用加权平均的方式对各识别概率进行融合。
鉴于识字量评估和读写测试评估的测试结果十分紧密,还可以考虑将两个评估结果的属性联合起来,使得机器学习的建模过程可以利用到两者之间的关系信息共同预测被测者的读写障碍程度。因此,本实施例中的多模态数据还可以包括被测者的识字量评估结果。
在另一个例子中,在步骤S207之后,发展性阅读障碍智能识别方法还包括:
S208、判断综合识别概率是否达到预设值,若是,则判定被测者患有发展性阅读障碍,否则,判定被测者未患有发展性阅读障碍。
具体地,在步骤S208中,预设值为0.5,即,当被测对象的发展性阅读障碍诊断概率达到0.5则诊断为其患有发展性阅读障碍,小于0.5则诊断为其未患有发展性阅读障碍。
本实施例中的发展性阅读障碍智能识别方法,通过对眼动信号进行分段处理并输入到双向长短时间记忆神经网络,对眼动信号进行指定特征提取并输入到集成决策树模型,对多模态数据进行预处理后输入到集成决策树模型,集成决策树模型和双向长短时间记忆神经网络的建模结果具有较强的互补性,深度学习模型直接对眼动信号进行处理可以减轻预设定的眼动指标所造成的特征偏差问题,利用模型融合技术对深度和浅层两种模型进行集成可以进一步的提高模型的性能,进而保证了对被测者的发展性阅读障碍识别的准确性。
实施例3
如图4所示,本实施例提供一种发展性阅读障碍智能识别***。所述发展性阅读障碍智能识别***包括:
眼动信号获取模块1,用于获取被测者的眼动信号。
第一识别模块2,用于将眼动信号输入到预设的第一识别模型中进行处理,得到被测者患有发展性阅读障碍的第一识别概率。
第一识别模型可以是利用深度学习技术的识别模型,可以直接从眼动信号提取特征并对被测者是否具有发展性阅读障碍进行预测。
第二识别模块3,用于从眼动信号中提取指定的特征数据,将特征数据输入到预设的第二识别模型中进行处理,得到被测者患有发展性阅读障碍对应的第二识别概率。
第二识别模型可以是浅层学习模型。应用特征工程的方式将预设定的眼动指标的特征数据输入到浅层学习模型,对被测者是否具有发展性阅读障碍进行预测。
可见,第二识别模型中输入的特征数据为手工特征,即带有强烈先验信息的眼动行为指标,而使用手工特征的方式得到的这些眼动指标可能已经丢失了针对任务强有效的信息,即手工提取的特征很大程度上未必是针对任务的最优解;对比下,第一识别模型的输入为最原始的眼动坐标时序信号,使用深度学习技术自动提取任务特定的有效特征,很大程度上避免了手工特征的带有过强的先验信息的问题,特征提取的解空间更大,更容易找到更优解。
识别概率融合模块4,用于将第一识别概率和第二识别概率进行融合,以得到被测者患有发展性阅读障碍的综合识别概率。
综上所述,本发明在获取到被测者的眼动信号之后,一方面直接将眼动信号输入第一模型中进行发展性阅读障碍识别,另一方面利用第二识别模型根据眼动信号的指定特征数据进行发展性阅读障碍识别,而后将两次识别结果进行融合,一定程度上减小了仅利用指定特征数据进行发展性阅读障碍识别所带来的偏差问题,可得到较准确的识别结果。从而,本发明能够自动且准确地识别出被测者是否患有发展性阅读障碍,避免了人工诊断所带来的相应缺陷。
此外,本实施例中的发展性阅读障碍智能识别***,通过利用浅层学习模型和深度学习模型共同建模,浅层学习模型和深度学习模型的建模结果具有较强的互补性,深度学习模型可以减轻预设定的眼动指标所造成的特征偏差问题,利用模型融合技术对两种模型进行集成可以进一步的提高模型的性能,进而保证了对被测者的发展性阅读障碍识别的准确性。
实施例4
如图5所示,本实施例的发展性阅读障碍智能识别***是对实施例3的进一步改进,具体地:
眼动信号获取模块1可以通过如下方法获取被测者的眼动信号:
在本实施例中,可以在对被测者进行眼动仪配套的短篇阅读能力测试过程中采集用户的眼动信号。在对被测者测试的过程中,眼动仪则会记录下被测者眼睛注视屏幕的坐标。通常发展性阅读障碍患者的答题正确率较低;且在阅读过程中,患者的多种阅读注视特征(如回视次数、注视时间等指标)都与正常人有差异。因此,通过记录阅读过程中的眼动信号能综合且较全面客观地判定被测者的阅读能力及障碍水平。
考虑到被测者的阅读能力处于动态的发展中,眼动测试所用阅读文本根据年龄调取,例如,从7-16岁,每个年龄对标3篇基础水平文章。为了获取被测者的阅读效率,每篇文章后附针对文章内容的选择题,被测者通过反应盒按键选择,眼动仪***可记录反应时和正确率。
为了充分评估被测者的真实阅读发展水平,n岁的被测者使用n-1,n,n+1的共九篇文章进行测试。特殊被测者还可以根据具体情况调节(如智力发展迟缓儿童可根据真实智力水平降低测试年龄标准)。
在本实施例中,第一识别模块2中采用的第一识别模型优选为双向长短时间记忆神经网络(Bidirectional long short-term memory network,Bi-LSTM),当然也可以采用其它任意合适的深度学习模型实现,本实施例对此不做任何具体限制。当第一识别模型为Bi-LSTM时,发展性阅读障碍智能识别***还包括眼动信号预处理模块5,用于在所述第一识别模块执行相应操作之前,对眼动信号进行均匀分段处理。
其中,每段眼动信号的预设时长d优选为3s(秒),当然也可以根据需要对该时长进行调整,本实施例并不对每段眼动信号的具体时长进行限制。由于眼动信号的原始数据量较大,体现在仪器的采样频率高,采样时长长,为了保证可行性,需要将信号进行分段处理(如将30s的信号均匀采样成10段3s信号),才能够将信号输入到常用的针对时序信号建模的深度神经网络:Bi-LSTM。通过对眼动信号进行均匀分段处理,即可体现出每段信号的时序性。优选地,在对眼动信号进行均匀分段处理之前,本实施例还可以预先对其进行归一化处理。
在本实施例中,第二识别模块3从眼动信号中提取的特征数据包括以下特征数据中的至少一种:眼睛注视到屏幕的坐标位置信息、注视时长和/或眼睛的瞳孔尺寸信息。
具体地,第二识别模型为集成决策树模型;当然也可以采用其它任意合适的浅层学习模型实现,本实施例对此不做任何具体限制。
在本实例中,双向长短时间记忆网络直接从眼动信号提取特征,一定程度上减轻预设定的眼动指标导致的特征偏差问题。集成决策树模型具有较强的非线性拟合能力,可以更好地适应发展性阅读障碍识别的复杂性。
其中,Bi-LSTM网络的公式为:
在本实施例中,发展性阅读障碍智能识别***还包括:
多模态数据获取模块6,用于获取用于表征被测者的阅读能力的多模态数据。
具体地,用于表征被测者的阅读能力的多模态数据可以包括眼动测试的行为指标(即被测者的反应时和正确率)以及被测者的视力(如近半年的视力)。若被测者为在校学生,多模态数据还可以包括被测者的在校成绩,例如采集被测者最近预定时长(半年)内的语文成绩和数学成绩,以平均成绩作为在校成绩,若近半年只有一次,则使用该单次成绩。
第三识别模块7,用于将多模态数据输入到第三识别模型中进行处理,得到被测者患有发展性阅读障碍的第三识别概率。
第三识别模型可以选择浅层学习模型,如集成决策树模型。
此外,发展性阅读障碍智能识别***还包括:
多模态数据预处理模块8,用于对多模态数据进行预处理。例如,预处理包括量化处理、缺失值填充处理以及归一化处理中的至少一种。
其中,量化处理是指将非数值化数据转换为数据化数据,如将成绩“A”转换为90分等;缺失值填充处理是指按预定的策略对缺失数据进行填充;归一化处理是指将数据映射到0~1范围之内。
在本实施例中,识别概率融合模块4具体用于将第一识别概率、第二识别概率与第三识别概率进行融合,以得到被测者患有发展性阅读障碍的综合识别概率。本实施例中,例如可以采用加权平均的方式对各识别概率进行融合。
鉴于识字量评估和读写测试评估的测试结果十分紧密,还可以考虑将两个评估结果的属性联合起来,使得机器学习的建模过程可以利用到两者之间的关系信息共同预测被测者的读写障碍程度。因此,本实施例中的多模态数据还可以包括被测者的识字量评估结果。
在另一个例子中,发展性阅读障碍智能识别***还包括阅读障碍判定模块9,用于判断综合识别概率是否达到预设值,若是,则判定被测者患有发展性阅读障碍,否则,判定被测者未患有发展性阅读障碍。
具体地,在步骤S208中,预设值为0.5,即,当被测对象的发展性阅读障碍诊断概率达到0.5则诊断为其患有发展性阅读障碍,小于0.5则诊断为其未患有发展性阅读障碍。
本实施例中的发展性阅读障碍智能识别***,通过对眼动信号进行分段处理并输入到双向长短时间记忆神经网络,对眼动信号进行指定的特征提取并输入到集成决策树模型,对多模态数据进行预处理后输入到集成决策树模型,集成决策树模型和双向长短时间记忆神经网络的建模结果具有较强的互补性,深度学习模型直接对眼动信号进行处理可以减轻预设定的眼动指标所造成的特征偏差问题,利用模型融合技术对深度和浅层两种模型进行集成可以进一步的提高模型的性能,进而保证了对被测者的发展性阅读障碍识别的准确性。
实施例5
图6为本发明实施例5提供的一种电子设备的结构示意图。所述电子设备包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现实施例1或实施例2的发展性阅读障碍智能识别方法。图6显示的电子设备30仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,电子设备30可以以通用计算设备的形式表现,例如其可以为服务器设备。电子设备30的组件可以包括但不限于:上述至少一个处理器31、上述至少一个存储器32、连接不同***组件(包括存储器32和处理器31)的总线33。
总线33包括数据总线、地址总线和控制总线。
存储器32可以包括易失性存储器,例如随机存取存储器(RAM)321和/或高速缓存存储器322,还可以进一步包括只读存储器(ROM)323。
存储器32还可以包括具有一组(至少一个)程序模块324的程序/实用工具325,这样的程序模块324包括但不限于:操作***、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
处理器31通过运行存储在存储器32中的计算机程序,从而执行各种功能应用以及数据处理,例如本发明实施例1或实施例2的发展性阅读障碍智能识别方法。
电子设备30也可以与一个或多个外部设备34(例如键盘、指向设备等)通信。这种通信可以通过输入/输出(I/O)接口35进行。并且,模型生成的设备30还可以通过网络适配器36与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器36通过总线33与模型生成的设备30的其它模块通信。应当明白,尽管图中未示出,可以结合模型生成的设备30使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理器、外部磁盘驱动阵列、RAID(磁盘阵列)***、磁带驱动器以及数据备份存储***等。
应当注意,尽管在上文详细描述中提及了电子设备的若干单元/模块或子单元/模块,但是这种划分仅仅是示例性的并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多单元/模块的特征和功能可以在一个单元/模块中具体化。反之,上文描述的一个单元/模块的特征和功能可以进一步划分为由多个单元/模块来具体化。
实施例6
本实施例提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现实施例1或实施例2的发展性阅读障碍智能识别方法的步骤。
其中,可读存储介质可以采用的更具体可以包括但不限于:便携式盘、硬盘、随机存取存储器、只读存储器、可擦拭可编程只读存储器、光存储器件、磁存储器件或上述的任意合适的组合。
在可能的实施方式中,本发明还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行实现实施例1或实施例2的发展性阅读障碍智能识别方法的步骤。
其中,可以以一种或多种程序设计语言的任意组合来编写用于执行本发明的程序代码,所述程序代码可以完全地在用户设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户设备上部分在远程设备上执行或完全在远程设备上执行。
虽然以上描述了本发明的具体实施方式,但是本领域的技术人员应当理解,这仅是举例说明,本发明的保护范围是由所附权利要求书限定的。本领域的技术人员在不背离本发明的原理和实质的前提下,可以对这些实施方式做出多种变更或修改,但这些变更和修改均落入本发明的保护范围。
Claims (16)
1.一种发展性阅读障碍智能识别方法,其特征在于,所述发展性阅读障碍智能识别方法包括:
获取被测者的眼动信号;
将所述眼动信号输入到预设的第一识别模型中进行处理,得到所述被测者患有发展性阅读障碍的第一识别概率;
从所述眼动信号中提取指定的特征数据,将所述特征数据输入到预设的第二识别模型中进行处理,得到所述被测者患有发展性阅读障碍对应的第二识别概率;
将所述第一识别概率和所述第二识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率。
2.如权利要求1所述的发展性阅读障碍智能识别方法,其特征在于,在将所述第一识别概率和所述第二识别概率进行融合之前,所述发展性阅读障碍智能识别方法还包括:
获取用于表征所述被测者的阅读能力的多模态数据;
将所述多模态数据输入到第三识别模型中进行处理,得到所述被测者患有发展性阅读障碍的第三识别概率;
所述将所述第一识别概率和所述第二识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率,包括:
将所述第一识别概率、所述第二识别概率与所述第三识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率。
3.如权利要求1所述的发展性阅读障碍智能识别方法,其特征在于,所述第一识别模型为双向长短时间记忆神经网络;
在将所述眼动信号输入所述第一识别模型中进行处理之前,所述方法还包括:
对所述眼动信号进行均匀分段处理。
4.如权利要求1所述的发展性阅读障碍智能识别方法,其特征在于,所述第二识别模型为集成决策树模型。
5.如权利要求2所述的发展性阅读障碍智能识别方法,其特征在于,在将所述多模态数据输入到第三识别模型中进行处理之前,所述方法还包括:
对所述多模态数据进行预处理,所述预处理包括量化处理、缺失值填充处理以及归一化处理中的至少一种。
6.如权利要求1所述的发展性阅读障碍智能识别方法,其特征在于,所述从所述眼动信号中提取指定的特征数据,包括:
从所述眼动信号中提取以下特征数据中的至少一种:眼睛注视到屏幕的坐标位置信息、注视时长和/或眼睛的瞳孔尺寸信息。
7.如权利要求1所述的发展性阅读障碍智能识别方法,其特征在于,在所述得到所述眼动信号对应的综合识别概率之后,还包括:
判断所述综合识别概率是否达到预设值,若是,则判定所述被测者患有发展性阅读障碍,否则,判定所述被测者未患有发展性阅读障碍。
8.一种发展性阅读障碍智能识别***,其特征在于,所述发展性阅读障碍智能识别***包括:
眼动信号获取模块,用于获取被测者的眼动信号;
第一识别模块,用于将所述眼动信号输入到预设的第一识别模型中进行处理,得到所述被测者患有发展性阅读障碍的第一识别概率;
第二识别模块,用于从所述眼动信号中提取指定的特征数据,将所述特征数据输入到预设的第二识别模型中进行处理,得到所述被测者患有发展性阅读障碍对应的第二识别概率;
识别概率融合模块,用于将所述第一识别概率和所述第二识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率。
9.如权利要求8所述的发展性阅读障碍智能识别***,其特征在于,所述***还包括:
多模态数据获取模块,用于获取用于表征所述被测者的阅读能力的多模态数据;
第三识别模块,用于将所述多模态数据输入到第三识别模型中进行处理,得到所述被测者患有发展性阅读障碍的第三识别概率;
所述识别概率融合模块具体用于将所述第一识别概率、所述第二识别概率与所述第三识别概率进行融合,以得到所述被测者患有发展性阅读障碍的综合识别概率。
10.如权利要求8所述的发展性阅读障碍智能识别***,其特征在于,所述第一识别模型为双向长短时间记忆神经网络;
所述***还包括眼动信号预处理模块,用于在所述第一识别模块执行相应操作之前,对所述眼动信号进行均匀分段处理。
11.如权利要求8所述的发展性阅读障碍智能识别***,其特征在于,所述第二识别模型为集成决策树模型。
12.如权利要求9所述的发展性阅读障碍智能识别***,其特征在于,所述***还包括:
多模态数据预处理模块,用于对所述多模态数据进行预处理,所述预处理包括量化处理、缺失值填充处理以及归一化处理中的至少一种。
13.如权利要求8所述的发展性阅读障碍智能识别***,其特征在于,所述第二识别模块从所述眼动信号中提取的特征数据包括以下特征数据中的至少一种:眼睛注视到屏幕的坐标位置信息、注视时长和/或眼睛的瞳孔尺寸信息。
14.如权利要求8所述的发展性阅读障碍智能识别***,其特征在于,所述***还包括阅读障碍判定模块,用于判断所述综合识别概率是否达到预设值,若是,则判定所述被测者患有发展性阅读障碍,否则,判定所述被测者未患有发展性阅读障碍。
15.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的发展性阅读障碍智能识别方法。
16.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的发展性阅读障碍智能识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110831632.2A CN113842113A (zh) | 2021-07-22 | 2021-07-22 | 发展性阅读障碍智能识别方法、***、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110831632.2A CN113842113A (zh) | 2021-07-22 | 2021-07-22 | 发展性阅读障碍智能识别方法、***、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113842113A true CN113842113A (zh) | 2021-12-28 |
Family
ID=78975191
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110831632.2A Pending CN113842113A (zh) | 2021-07-22 | 2021-07-22 | 发展性阅读障碍智能识别方法、***、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113842113A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115363581A (zh) * | 2022-08-19 | 2022-11-22 | 山东心法科技有限公司 | 一种面向低龄儿童的阅读障碍预测方法、设备及介质 |
-
2021
- 2021-07-22 CN CN202110831632.2A patent/CN113842113A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115363581A (zh) * | 2022-08-19 | 2022-11-22 | 山东心法科技有限公司 | 一种面向低龄儿童的阅读障碍预测方法、设备及介质 |
CN115363581B (zh) * | 2022-08-19 | 2023-05-05 | 山东心法科技有限公司 | 一种面向低龄儿童的阅读障碍预测方法、设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109087670B (zh) | 情绪分析方法、***、服务器及存储介质 | |
CN110570941B (zh) | 一种基于文本语义向量模型评估心理状态的***和装置 | |
CN111461176A (zh) | 基于归一化互信息的多模态融合方法、装置、介质及设备 | |
CN110457432A (zh) | 面试评分方法、装置、设备及存储介质 | |
WO2019218427A1 (zh) | 基于行为特征对比的关注度检测方法以及装置 | |
CN110084289B (zh) | 图像标注方法、装置、电子设备及存储介质 | |
CN112069329B (zh) | 文本语料的处理方法、装置、设备及存储介质 | |
CN109783631A (zh) | 社区问答数据的校验方法、装置、计算机设备和存储介质 | |
CN110706786A (zh) | 非接触式心理参数智能分析与评测*** | |
CN113722474A (zh) | 文本分类方法、装置、设备及存储介质 | |
CN111428448A (zh) | 文本生成方法、装置、计算机设备及可读存储介质 | |
AU2012200812B2 (en) | Measuring cognitive load | |
CN112185558A (zh) | 基于深度学习的心理健康及康复评定方法、装置及介质 | |
CN117809798B (zh) | 基于大模型的检验报告解读方法、***、设备及介质 | |
WO2018203122A1 (en) | Computationally derived assessment in childhood education systems | |
CN113241178B (zh) | 一种确定被测者的抑郁症严重程度的装置 | |
CN113842113A (zh) | 发展性阅读障碍智能识别方法、***、设备及存储介质 | |
CN113485555A (zh) | 医学影像阅片方法、电子设备和存储介质 | |
CN117557941A (zh) | 基于多模态数据融合的视频智能分析***及方法 | |
Avishka et al. | Mobile app to support people with dyslexia and dysgraphia | |
CN117219127A (zh) | 认知状态识别方法以及相关设备 | |
CN116795986A (zh) | 基于句子补全测验的***意念智能化测评方法及*** | |
CN114758778A (zh) | 一种学生心理健康管理***及方法 | |
CN113610080B (zh) | 基于跨模态感知的敏感图像识别方法、装置、设备及介质 | |
CN113808709A (zh) | 一种基于文本分析的心理弹性预测方法及*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |