CN110797119B - 健康风险智能监测装置和迁移学习方法 - Google Patents

Abstract

本发明提供了健康风险智能监测装置，其包括基础模块、迁移学习模块、多层级加权参数学习模块、健康数据更新模块、超健康参数处理模块和混合值属性数据处理模块；迁移学习模块、多层级加权参数学习模块、健康数据更新模块、超健康参数处理模块和混合值属性数据处理模块分别与基础模块连接。健康风险智能监测装置中能够生成健康风险评估模型。本发明还提供了迁移学习方法。与现有技术比较本发明的有益效果在于：该装置构建了一个高效的、能够处理超参数和混合值属性数据的健康风险评估模型，并且该模型要能够对新增的不同维度的数据进行很好的泛化。该模型还能够根据不断获取的新数据来进行自我学习。该装置的数据效用性高。迁移学习方法的效率高。

Description

健康风险智能监测装置和迁移学习方法

技术领域

本发明涉及大数据统计分析及挖掘技术领域，尤其涉及一种健康风险智能监测装置和一种迁移学习方法。

背景技术

目前，居民健康检查主要是通过医疗机构及体检机构进行的。这种健康检查方式为传统模式为主，缺乏个体针对性及精准性，导致有些必要的检查并未进行，而另外又有一些不必要的检查，造成一定的资源浪费。另外，传统健康检查模式缺乏个体健康状况评估，无法获知个体遗传状况、生活习惯及地域性的差异性特征。最重要的是，传统健康检查模式属于定期检查或触发型检查，多次的健康检查结果之间相对独立，检查所获取的诸多数据间的相关性被极大长度地忽略了。

为了能够实现健康风险预测性，在现有技术中，本领域技术人员尝试通过大数据、云计算和智能评估等手段对部分固定维度的健康参数进行分析，以得到健康风险的预测结果。但由于数据维度和数据效用性的问题，这种现有的健康风险智能监测装置缺乏多维数据处理能力，由于其不能够很好地处理多维数据，所以其缺乏预测准确性，并且存在学习、更新和调整能力差的问题。

发明内容

有鉴于此，为解决现有技术中现有的健康风险智能监测装置多维数据处理能力差和数据效用性差的问题，本发明提供了一种健康风险智能监测装置，其包括基础模块以及与基础模块分别连接的迁移学习模块、多层级加权参数学习模块、健康数据更新模块、超健康参数处理模块和混合值属性数据处理模块；所述健康风险智能监测装置中能够生成健康风险评估模型；所述迁移学习模块用于进行数据填充；所述多层级加权参数学习模块用于执行含高维参数的健康数据结构和变量的参数学习；所述健康数据更新模块用于执行不同类型健康数据的更新和扩展；所述超健康参数处理模块用于处理超健康参数的约减；所述混合值属性数据处理模块用于完成健康风险评估模型的混合值属性的归约。

较佳地，在所述多层级加权参数学习模块中设置多隐藏层特征子空间模块，所述多隐藏层特征子空间模块用于通过特征子空间隐藏层方法建立线性映射，将高维数据的可分组特征投影到低维度空间中。

较佳地，在所述多层级加权参数学习模块中设置嵌套式混合正则模块，所述嵌套式混合正则模块用于将混合正则模型嵌套进入无监督聚类过程中，同时对数据进行聚类。

较佳地，所述健康数据更新模块中相对数据集D_new的健康风险评估模型L_new表示为：

其中，运算符号

表示不同评估模型的集成，

表示基模型的权重，且

表示基于新增数据训练的健康风险评估模型，L_old表示原有的健康风险评估模型；

较佳地，所述相对数据集D_new表示为：

其中，

为新增加的健康数据，D_wld为原有的数据集。

较佳地，所述基模型的权重

的确定方法为：

当新增数据为纵向增加的数据时，先通过核密度估计方法得到新增加的健康数据

的概率密度函数

再通过度量

与p_old之间的相似性确定

的取值，p_old为原有的数据集D_old的概率密度函数；

当新增数据为横向增加的数据时，通过度量数据集信息量的方式来确定基模型的权重

的取值，原有的数据集D_old和新增加的健康数据

的信息量通过代入熵计算。

较佳地，所述超健康参数处理模块能够执行不依赖于梯度下降原则的深度神经网络权重训练方法，所述不依赖于梯度下降原则的深度神经网络权重训练方法包括：

步骤S11，构建形如下含有K个隐含层的深度学习神经网络：

其中，X＝H⁽⁰⁾且为原始超健康输入矩阵，{H^(K)，K＝1，2，L，K}为X的第K层深度表示，w^(K)为深度神经网络第K层的权重；

步骤S12，采用非迭代方式确定w^(K)，w^(K)表示为：

W^(K)＝[H^(K)]^TH^(K-1)

其中，[H^(K)]^T表示H^(K)的转置。

较佳地，所述混合值属性数据处理模块用于将离散值属性转换为连续值属性，所述混合值属性数据处理模块所执行的将离散值属性转换为连续值属性的方法包括如下步骤：

步骤S31，采用one-hot的方式对离散值属性进行独热编码；

步骤S32，构建深度神经网络对one-hot编码进行转化。

较佳地，在训练步骤S32中涉及的训练神经网络的过程中，损失函数采用均方误差和信息量结合的方法。

本发明还提供一种迁移学习方法，其包括步骤：

步骤S21，以有类标数据集，训练第一个深度神经网络；

步骤S22，选择若干层作为第一基础层，其余层为第一目标层；

步骤S23，对新的无类标或者类标不完全数据集，建立新的深度神经网络；

步骤S24，将第一基础层迁移至新的深度神经网络中作为第二基础层，并训练新的第二目标层，完善深度神经网络；

步骤S25，循环步骤S22至步骤S24，多次尝试为第一基础层21选择不同的层数，直至得出合理的基础层层数，并建立自适应迁移学习模型。

与现有技术比较本发明的有益效果在于：

健康风险智能监测装置其构建了一个高效的、能够处理超参数和混合值属性数据的健康风险评估模型，并且这个模型要能够对新增的不同维度的数据进行很好的泛化。健康风险评估模型能够根据新数据的不断获取来进行自我学习。健康风险智能监测装置不局限于数据维度的影响，数据效用性高，迁移学习方法的学习效率高。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例中的健康风险智能监测装置的结构示意图；

图2为本发明实施例中含基础层与目标层的深度神经网络结构示意图；

图3为本发明实施例中迁移学习方法的流程图。

附图标记：

基础模块1、迁移学习模块2、多层级加权参数学习模块3、健康数据更新模块4、超健康参数处理模块10、混合值属性数据处理模块11、第一基础层21、第一目标层22、多隐藏层特征子空间模块31和嵌套式混合正则模块32。

具体实施方式

以下结合附图，对本发明上述的和另外的技术特征和优点作更详细的说明。

在本发明的描述中，需要理解的是，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，除非另有明确具体的限定。

在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或成一体；可以是机械连接，也可以是电连接或彼此可通讯；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通或两个元件的相互作用关系，除非另有明确的限定。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。

以下描述中，为了说明而不是为了限定，提出了诸如特定***结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中，省略对众所周知的***、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。

在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

为了说明本发明所述的技术方案，下面通过具体实施例来进行说明。

图1为本发明实施例中的健康风险智能监测装置的结构示意图；如图1所示，本发明实施例提供的健康风险智能监测装置包括基础模块1、迁移学习模块2、多层级加权参数学习模块3、健康数据更新模块4、超健康参数处理模块10和混合值属性数据处理模块11。迁移学习模块2、多层级加权参数学习模块3、健康数据更新模块4、超健康参数处理模块10和混合值属性数据处理模块11分别与基础模块1连接。

健康风险智能监测装置中能够生成健康风险评估模型。

迁移学习模块2用于进行数据填充。迁移学习模块2优选为自适应迁移学习模块。迁移学习模块2是可以在缺失健康参数下运行的迁移学习模块。机器学习中的缺失参数是指粗糙数据中由于缺少信息而造成的数据的聚类、分组、删失或截断。健康数据的缺失通常由数据采集和存储的失败，以及人工干预过程中的主观失误或知识局限造成。

在深度神经网络的学习过程中，基础层是针对泛化信息(如健康数据的类型，结构等)进行学习，然后利用目标层对不同数据集进行针对性学习。针对不同健康数据集的深度神经网络，基础层具有共性。迁移学习模块2利用完善的健康数据集训练深度神经网络基础层的结构与权重，并迁移到含缺失数据的深度神经网络学习中，从而弥补缺失数据。

此处采用迁移学习方法作为数据填充的关键技术，为特征提取和后期机器学习提供高精确度的数据。人脑识别样本的过程中，最初做出基本判断，然后进行特殊分类。深度神经网络采取了同样的机制，通过对有类标样本的识别和记录，训练神经网络各层的权重，进而识别未分类物体。由于对不同样本的初步判断过程相似，这一部分的神经网络(基础层)具有可重复利用性。

如图2、图3所示，以含基础层与目标层的深度神经网络为例，迁移学习模块2执行的迁移学习方法包括如下步骤：

步骤S21，以有类标数据集，训练第一个深度神经网络；

步骤S22，选择若干层作为第一基础层21，其余层为第一目标层22；

步骤S23，对新的无类标或者类标不完全数据集，建立新的深度神经网络；

步骤S24，将第一基础层21迁移至新的网络中作为第二基础层，并训练新的第二目标层，完善深度神经网络；

步骤S25，循环步骤S22至步骤S24，多次尝试为第一基础层21选择不同的层数，以得出合理的基础层层数，并建立自适应迁移学习模型。

迁移学习模块2的有益效果在于：

迁移学习模块2通过所获取的通用性的大数据集去预训练一个深度神经网络，使这个网络能够充分地学习到浅层的特征。每当遇到特定的新的数据集时，利用这个预训练的深度神经网络去进行微调，使深度神经网络能够在小数据上充分的学习到高层的特征，达到更好的分类效果。迁移学习模块2能通过迁移学习方法完善缺失健康参数并完成后续机器学习操作。

随着数据采集成本的降低和领域知识的成熟，含高维参数的超大型健康数据集成为研究新的目标，并对传统技术带来了挑战。

多层级加权参数学习模块3用于执行含高维参数的健康数据结构和变量的参数学习。

附加多层级加权参数学习模块3的健康风险智能监测装置，通过少量样本数据学习参数的结构和权重，能够提炼少量有效的分类参数，其无需遍历所有参数，就可以对人群的健康风险做出评估，极大降低计算复杂度。

与此同时，健康风险智能监测装置通过学习参数的层级结构、分组、权重、相关性等信息，构建自适应多参数健康风险预测模型。针对不同的精确度需求和软硬件成本能力，在选择不同健康大类(如血压)或小类(与血压的高压或低压)参数下，提出精确程度逐渐增加的学习模型。

针对特征分组的研究发展至今，仍无法有效挖掘健康大数据特征组内和组间的统计相关性，例如是否存在高斯混合分布，是否具有组间正相关或者负相关性等。

因此，在多层级加权参数学习模块3中设置多隐藏层特征子空间模块31和嵌套式混合正则模块32。

多隐藏层特征子空间模块31通过特征子空间隐藏层方法建立线性映射，将高维数据

的可分组特征

投影到低维度空间中。通过这一框架，将原始数据信息解构，从而利用离散化的生物进化算法对特征分组进行优化，并使用解析方法对权重进行优化，通过较低的计算量得到精度较高的特征分析，并进行后续的机器学习。

关于嵌套式混合正则模块32，在不同类型的超高维数据中，特征的权重也存在不同的特点。例如，有的数据中特征的重要性差距不大，而有的数据中存在大量的冗余变量和冗余特征。正则化方法为上述问题的求解提供了有效途径。本发明利用特征分组与聚类这两个学习过程之间的交互关系，将混合正则模型嵌套进入无监督聚类过程中，同时对数据进行聚类，并对特征进行学习。

多层级加权参数学习模块3对构建出来的学习模型进行调增，比如通过引入正则化技术来降低模型之间的过拟合程度，使模型具有更好的泛化能力；其次可以通过优质的学习算法对初始特征进行优化重构。

健康数据更新模块4用于执行不同类型健康数据的更新和扩展。健康风险智能监测装置要能够根据新数据的不断获取具有自我学习的能力，以适应不同类型健康数据的实时更新的需求。

健康数据更新模块4需要解决两方面问题：

第一，如何利用相同维度的新增数据完成对现有健康风险评估模型参数的更新，具体包括新增数据概率分布的计算、新增数据与已有数据概率分布一致性度量以及跨平台和跨区域新增数据的融合等；

第二，如何利用不同维度的新增数据完成对现有健康风险智能监测装置参数的更新，当新的健康数据拥有和已有数据不同的健康参数时，将研究基于新增属性训练的健康风险评估模型与基于已有属性训练的健康风险评估模型的融合问题，具体包括新增健康参数的有效性度量和高效模型融合方法的设计。

健康数据更新模块4的处理方式是：

对于新增加的健康数据

假设当前的数据集为D_old，其概率密度函数为p_old，健康风险智能监测装置现有的健康风险评估模型为L_old，基于新增数据训练的健康风险评估模型为

那么相对数据集D_new(相对数据集D_new可以表示为：

的健康风险评估模型可以被表示为：

其中运算符号

表示不同评估模型的集成，

表示基模型的权重，且

此处的关键在于权重的确定。对于纵向增加的数据，首先通过核密度估计方法得到新增加的健康数据

的概率密度函数

通过度量

与p_old之间的相似性来确定

的取值。对于横向增加的数据，通过度量数据集信息量的方式来确定权重

的取值，当前的数据集为D_old和新增加的健康数据

的信息量通过代入熵来计算。

健康数据更新模块4以此能够完成不同类型健康数据的实时更新。

健康风险智能监测装置通过基础模块1、超健康参数处理模块10和混合值属性数据处理模块11可以构建一个高效的能够处理超参数和混合值属性数据的健康风险评估模型。以解决新增不同维度健康数据的效用性问题。即如何将基于新增的不同维度健康数据所训练的健康风险评估模型与已有的基于历史健康数据训练的健康风险评估模型进行有效地集成。

超健康参数处理模块10用于处理超健康参数的约减，即构建快速的无监督特征学习模型抽取原始超健康参数的深度表示。对于处理超健康参数的约减，超健康参数处理模块10使用不依赖于梯度下降原则的深度神经网络权重训练方法。

不依赖于梯度下降原则的深度神经网络权重训练方法包括：

步骤S11，构建形如下式的含有K个隐含层的深度学习神经网络：

其中X＝H⁽⁰⁾为原始超健康输入矩阵，{H^(K)，K＝1，2，L，K}为X的第K层深度表示，w^(K)为深度神经网络第K层的权重。

步骤S12，采用非迭代方式确定w^(K)。具体的计算可表示为：

W^(K)＝[H^(K)]^TH^(K-1)；

其中，V^(K)为随机赋值矩阵，[H^(K)]^T表示H^(K)的转置。

混合值属性数据处理模块11用于完成健康风险评估模型的混合值属性的归约，完成所述健康风险评估模型的混合值属性的归约需要将离散值属性转换为连续值属性，离散值属性转换为连续值属性的方法包括如下步骤：

步骤S31，采用one-hot的方式对离散值属性进行独热编码，

步骤S32，构建深度神经网络对one-hot编码进行转化。

在训练神经网络的过程中，损失函数采用均方误差和信息量结合的方式，保证转换之后的连续值属性在获得最低误差的同时，信息量的损失也最小。

基于上述转换的原始超健康参数的有效表示构建一个快速高效的健康风险评估模型，即个人的健康风险评估模型的建立。

本发明还从逻辑回归模型入手，针对损失函数的非凸性提出一种基于互补约束的优化问题求解方法。

对于非凸的逻辑回归损失函数，构建形如下式的互补约束优化问题：

min f(x)

s.t.g(x)≥0,h(x)≥0,<g(x),h(x)>≥0；

其中非负垂直的约束集具备等价优化、初始化好、强收敛性、贪心单调、模块优化等优点。拟采用基于极小化熵函数的光滑近似法求解上述互补约束优化问题。

健康风险智能监测装置的有益效果在于：

其可以构建一个高效的能够处理超参数和混合值属性数据的健康风险评估模型，并且这个模型要能够对新增的不同维度的数据进行很好的泛化。健康风险评估模型能够根据新数据的不断获取，具有自我学习的能力。

基础模块1其他内容属于现有技术范畴，在此不做赘述。

以上所述实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

Claims (9)

1.一种健康风险智能监测装置，其特征在于，其包括基础模块以及与基础模块分别连接的迁移学习模块、多层级加权参数学习模块、健康数据更新模块、超健康参数处理模块和混合值属性数据处理模块；

所述健康风险智能监测装置中能够生成健康风险评估模型；

所述迁移学习模块用于进行数据填充；

所述多层级加权参数学习模块用于执行含高维参数的健康数据结构和变量的参数学习；

所述健康数据更新模块用于执行不同类型健康数据的更新和扩展；

所述超健康参数处理模块用于处理超健康参数的约减；

所述混合值属性数据处理模块用于完成健康风险评估模型的混合值属性的归约；

所述超健康参数处理模块能够执行不依赖于梯度下降原则的深度神经网络权重训练方法，所述深度神经网络权重训练方法包括：

步骤S11，构建如下含有K个隐含层的深度学习神经网络：

其中，X＝H⁽⁰⁾且为原始超健康输入矩阵，{H^(K)，K＝1，2，L，K}为X的第K层深度表示，w^(K)为深度神经网络第K层的权重；

步骤S12，采用非迭代方式确定w^(K)，w^(K)表示为：

W^(K)＝[H^(K)]^TH^(K-1)

其中，[H^(K)]^T表示H^(K)的转置。

2.如权利要求1所述的健康风险智能监测装置，其特征在于，在所述多层级加权参数学习模块中设置多隐藏层特征子空间模块，所述多隐藏层特征子空间模块用于通过特征子空间隐藏层方法建立线性映射，将高维数据的可分组特征投影到低维度空间中。

3.如权利要求1所述的健康风险智能监测装置，其特征在于，在所述多层级加权参数学习模块中设置嵌套式混合正则模块，所述嵌套式混合正则模块用于将混合正则模型嵌套进入无监督聚类过程中，同时对数据进行聚类。

4.如权利要求1所述的健康风险智能监测装置，其特征在于，所述健康数据更新模块中相对数据集D_new的健康风险评估模型L_new表示为：

其中，运算符号

表示不同评估模型的集成，

表示基模型的权重，且

表示基于新增数据训练的健康风险评估模型，L_old表示原有的健康风险评估模型。

5.如权利要求4所述的健康风险智能监测装置，其特征在于，所述相对数据集D_new表示为：

其中，

为新增加的健康数据，D_old为原有的数据集。

6.如权利要求5所述的健康风险智能监测装置，其特征在于，所述基模型的权重

的确定方法为：

当新增数据为纵向增加的数据时，先通过核密度估计方法得到新增加的健康数据

的概率密度函数

再通过度量

与p_old之间的相似性确定

的取值，p_old为原有的数据集D_old的概率密度函数；

当新增数据为横向增加的数据时，通过度量数据集信息量的方式来确定基模型的权重

的取值，原有的数据集D_old和新增加的健康数据

的信息量通过代入熵计算。

7.如权利要求1至6任一所述的健康风险智能监测装置，其特征在于，所述混合值属性数据处理模块用于将离散值属性转换为连续值属性，所述混合值属性数据处理模块所执行的将离散值属性转换为连续值属性的方法包括如下步骤：

步骤S31，采用one-hot的方式对离散值属性进行独热编码；

步骤S32，构建深度神经网络对one-hot编码进行转化。

8.如权利要求7所述的健康风险智能监测装置，其特征在于，在步骤S32中涉及的训练神经网络的过程中，损失函数采用均方误差和信息量结合的方法。

9.一种迁移学习方法，其特征在于，用于在权利要求1至8任一所述健康风险智能监测装置的迁移学习模块中执行；所述迁移学习方法包括步骤：

步骤S21，以有类标数据集，训练第一个深度神经网络；

步骤S22，选择若干层作为第一基础层，其余层为第一目标层；

步骤S23，对新的无类标或者类标不完全数据集，建立新的深度神经网络；

步骤S24，将第一基础层迁移至新的深度神经网络中作为第二基础层，并训练新的第二目标层，完善深度神经网络；

步骤S25，循环步骤S22至步骤S24，多次尝试为第一基础层选择不同的层数，直至得出合理的基础层层数，并建立自适应迁移学习模型。

Images