CN111371951B - 基于肌电信号和孪生神经网络的智能手机用户认证方法和*** - Google Patents

基于肌电信号和孪生神经网络的智能手机用户认证方法和*** Download PDF

Info

Publication number
CN111371951B
CN111371951B CN202010140395.0A CN202010140395A CN111371951B CN 111371951 B CN111371951 B CN 111371951B CN 202010140395 A CN202010140395 A CN 202010140395A CN 111371951 B CN111371951 B CN 111371951B
Authority
CN
China
Prior art keywords
neural network
electromyographic signal
user
electromyographic
twin neural
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010140395.0A
Other languages
English (en)
Other versions
CN111371951A (zh
Inventor
牛建伟
范博宇
张一帆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN202010140395.0A priority Critical patent/CN111371951B/zh
Publication of CN111371951A publication Critical patent/CN111371951A/zh
Application granted granted Critical
Publication of CN111371951B publication Critical patent/CN111371951B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72463User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions to restrict the functionality of the device
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/24Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A61B5/316Modalities, i.e. specific diagnostic methods
    • A61B5/389Electromyography [EMG]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A61B5/7267Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/32Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials
    • H04L9/3226Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols including means for verifying the identity or authority of a user of the system or for message authentication, e.g. authorization, entity authentication, data integrity or data verification, non-repudiation, key authentication or verification of credentials using a predetermined code, e.g. password, passphrase or PIN
    • H04L9/3231Biological data, e.g. fingerprint, voice or retina
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/66Substation equipment, e.g. for use by subscribers with means for preventing unauthorised or fraudulent calling
    • H04M1/667Preventing unauthorised calls from a telephone set
    • H04M1/67Preventing unauthorised calls from a telephone set by electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Security & Cryptography (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Veterinary Medicine (AREA)
  • Surgery (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Medical Informatics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Psychiatry (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Mathematical Physics (AREA)
  • Human Computer Interaction (AREA)
  • Fuzzy Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明提供了一种基于肌电信号和孪生神经网络的智能手机用户认证方法和***,属于智能设备身份认证技术领域。本***包括:Myo臂环,安装在智能处理设备上的肌电信号分段处理模块、孪生神经网络训练模块和臂环旋转无关性设计模块,以及安装在智能手机上的解锁***。本方法包括:通过Myo臂环采集用户拿取手机过程中的肌电信号,并进行分段提取为肌电信号矩阵,利用肌电信号矩阵训练卷积孪生神经网络,网络的输出是两肌电信号的相似度;训练好的孪生神经网络移植到智能手机中,根据肌电信号的相似度对用户进行认证。本发明通过用户拿起手机这个动作来进行身份认证,使用方便,经验证,具有很好的普适性和实时性,实现的身份认证安全性更高。

Description

基于肌电信号和孪生神经网络的智能手机用户认证方法和 ***
技术领域
本发明属于智能设备身份认证技术领域,特别涉及一种基于肌电信号和孪生神经网络的智能手机用户认证方法和***。
背景技术
屏幕锁定是智能手机防止未授权访问的一项重要安全功能。近年来,已经有各种解锁技术来保护智能手机的安全性。其中基于生物特征的技术,包括指纹和面部识别,已逐渐取代了传统的基于密码的方法。与密码方法相比,基于生物特征的方法可以实现安全便捷的身份验证。但是,这些方法仍然有一些缺陷。例如,可以用特殊材质获取指纹,从而解锁智能手机;3D打印的头部模型和胶带眼镜可以轻易地欺骗苹果的FaceID身份验证***。
发明内容
本发明的目的是提供一种更加安全可靠的智能设备认证方式,并克服目前基于生物特征的方法解锁智能手机存在一些缺陷。本发明提供了一种基于肌电信号和孪生神经网络的智能手机用户认证方法和***,用户通过佩戴Myo臂环,只需拿起手机,即可实现身份认证。
本发明的基于肌电信号和孪生神经网络的智能手机用户认证***,包括:Myo臂环,安装在智能处理设备上的肌电信号分段处理模块、孪生神经网络训练模块和臂环旋转无关性设计模块,以及安装在智能手机上的解锁***。其中,用户佩戴Myo臂环,采集用户拿取手机过程中的肌电信号。肌电信号分段处理模块Myo臂环采集到的肌电信号提取为肌电信号矩阵。孪生神经网络训练模块利用肌电信号矩阵训练一种卷积孪生神经网络,该网络有两个输入,网络输出两个输入值的相似程度,并根据该相似程度实现用户认证。
孪生神经网络训练模块利用训练数据对孪生神经网络进行训练,对训练好的孪生神经网络进行等错误率分析,找到最佳分类阈值,然后将训练好的孪生神经网络和最佳分类阈值输出给智能手机上的解锁***。
为了解决Myo臂环的旋转问题,用户可以随意佩戴该臂环,不需要每次佩戴时进行校准,臂环旋转无关性设计模块使用数据增强的方法获取孪生神经网络的训练数据,通过旋转Myo臂环,移动传感器的位置,每旋转一次就采集一次用户拿取手机过程中的肌电信号,将从同一用户获取的肌电信号矩阵的标签设置为同一个认证身份。
所述的解锁***包括肌电信号分段处理模块、注册模块和认证模块;用户通过注册模块采集用户拿取手机过程中的肌电信号,输入肌电信号分段处理模块提取肌电信号矩阵,添加用户的认证身份标签,并保存在本地;认证模块存储训练好的孪生神经网络以及最佳分类阈值;需要认证时,认证模块对实时采集的肌电信号通过肌电信号分段处理模块提取肌电信号矩阵,将实时的肌电信号矩阵与保存在本地的肌电信号矩阵输入孪生神经网络,计算两个肌电信号矩阵对应的输出向量的欧氏距离,并与最佳分类阈值进行比较,如果小于阈值,则认证成功,否则,认证失败。
相应地,本发明的一种基于肌电信号和孪生神经网络的智能手机用户认证方法,包括如下步骤:
步骤1,采集肌电信号训练数据;
用户佩戴Myo臂环,采集用户拿取手机过程中的肌电信号,并为采集的肌电信号添加用户身份标签;Myo臂环包括8个传感器通道,采集训练数据时,顺时针旋转Myo臂环8次,每次旋转使当前一个传感器的位置由上一个传感器替代,每次旋转后测量一次肌电信号,得到8组不同的肌电信号,设置8组肌电信号的标签为同一个用户身份;
步骤2,对采集的肌电信号进行分割,提取肌电信号矩阵;
用户拿取手机过程中的有效动作的时间为两秒,在Myo臂环的8传感器通道、采样率为200Hz的条件下,提取到的肌电信号矩阵的大小为8×400,矩阵中的行代表传感器通道,列代表采集的肌电信号值;
步骤3,对不同的肌电信号矩阵进行成对匹配,以形成训练样本;进行成对匹配时,将来自同一个人的两个肌电信号矩阵的匹配值设置为1,将来自不同人的两个肌电信号矩阵的匹配值设置为0;
步骤4,利用训练样本对孪生神经网络进行训练;
训练时,孪生神经网络的输入是两个肌电信号矩阵,计算孪生神经网络的两个输出向量的欧式距离,作为输入的两个肌电信号矩阵的相似度,最小化相似度与训练样本的匹配值,调整孪生神经网络的参数;对孪生神经网络进行等错误率分析,找到最佳的分类阈值;
步骤5,将训练好的孪生神经网络和最佳分类阈值移植到智能手机的解锁***中;
步骤6,用户使用解锁***进行注册;
用户佩戴Myo臂环,按照预设引导信息执行动作,采集肌电信号;对采集的肌电信号进行分割,提取肌电信号矩阵;将提取的肌电信号矩阵保存在手机本地,并添加用户身份标签;
步骤7,用户使用解锁***进行身份认证;
用户佩戴Myo臂环,在拿起智能手机过程中产生新的肌电信号,解锁***实时保存来自Myo臂环的肌电信号,对该实时的肌电信号进行分割,提取肌电信号矩阵;将提取的肌电信号矩阵与用户注册时存储的肌电信号矩阵进行两两配对,将每一对矩阵输入到训练好的孪生神经网络中,计算两个肌电信号矩阵的相似度,当相似度小于最佳分类阈值时,将成功授权用户并解锁智能手机,否则拒绝用户。
本发明的智能手机用户认证***和方法,与现有技术相比,具有以下优势和积极效果:
(1)本发明利用肌电信号结合孪生神经网络,通过用户拿起手机这个动作来进行身份认证,能够在满足实时性的条件下,不但可以很好地区分不同用户,还可以不受手机放置位置和重量的影响。经过试验验证,具有较高识别准确率(92.06%)和较高真实接受率(91.81%)的同时,具有较低的错误接受率(7.43%)和错误拒绝率(8.29%)的,具有较短的安卓***响应时间(0.16s)。
(2)通过对大量的志愿者参与数据采集与测试,进行大量实验,对不同场景、不同手机放置位置、不同佩戴位置分别进行了验证,实验结果表明本发明具有很好的普适性。与现有的指纹认证和人脸认证相比,本发明由于肌电信号无法复制,安全性更高,同时用户在使用过程中,只需要拿起手机,即可实现认证,不需要做任何多余的动作,更加方便。
(3)本发明通过旋转Myo臂环来采集肌电传感器位置改变时的肌电信号,将同一个用户旋转臂环所采集的肌电信号的标签设为同一个值,以扩展训练数据集,输入到孪生神经网络中进行训练,这样孪生神经网络可以学习到Myo的旋转,从而实现旋转不变性,用户无需在每次佩戴Myo臂环时对其进行校准。
附图说明
图1为本发明中卷积孪生神经网络的结构示意图;
图2本发明的基于肌电信号和孪生神经网络的智能手机用户认证方法的流程示意图;
图3为本发明实施例设计的安卓应用程序的数据采集界面;
图4为本发明中采集到的五次动作的原始肌电信号数据示意图;
图5为本发明中Myo臂环旋转示意图;
图6为本发明中设计的安卓应用程序用户认证界面;
图7为本实施例中Myo臂环佩戴的位置示意图;。
图8为本实施例中调查到的手机放置的常见位置示意图。
图9为本实施例中数据采集步骤示意图。
图10为本实施例中不同阈值的DET曲线图。
图11为本实施例中使用不同距离函数的ROC曲线图。
图12为本实施例中随机放置手机的认证结果图。
具体实施方式
为了便于本领域普通技术人员理解和实施本发明,下面结合附图对本发明作进一步的详细和深入描述。
经实验发现,与指纹、面部等生物特征不同,通过在人的皮肤上放置电极以检测肌肉的活动而收集到的肌电信号,有着独特的特征,因此具有很大的身份认证潜力。人们拿起智能手机时的速度、腕部运动、手指运动以及他们抓取智能手机的位置通常因人而异。而且对于一个人来说,由于长时间积累的肌肉记忆,这个人拿起智能手机时的动作通常是相似的。本发明提供了一种基于肌电信号和孪生神经网络的智能手机用户认证方法和***,通过佩戴Myo臂环采集用户拿取手机过程中的肌电信号,然后使用肌电信号数据训练了一种孪生神经网络,通过该网络的输出来进行智能手机用户认证。
本发明提供的一种基于肌电信号和孪生神经网络的智能手机用户认证***,包括用户佩戴的Myo臂环,设置在智能处理设备上的主要功能部分:肌电信号分段处理模块,孪生神经网络训练模块和臂环旋转无关性设计模块,以及安装在智能手机上的解锁***。Myo臂环采集的肌电信号输入肌电信号分段处理模块进行处理。解锁***是安装在智能手机上的APP(应用程序)。
肌电信号分段处理模块将Myo臂环采集到的原始肌电信号提取为肌电信号矩阵。用户拿取有效动作时间为两秒,设置采样率为200Hz,通道数为8,使用8×400的信号矩阵作为一条基本肌电信号矩阵。肌电信号矩阵的行代表通道标号,列代表采样的肌电信号数据。
孪生神经网络训练模块包括两个结构完全相同的神经网络,每个神经网络中包括三个具有不同数量的过滤器卷积层和一个具有128个单元的全连接层,模型结构的设计适合于肌电信号的特点。孪生神经网络的输入为两个8×400的肌电信号矩阵,输出值为两个输入矩阵之间的相似程度。如图1所示,本发明实施例中,设置的孪生神经网络模型的四层结构具体如下:
第一卷积层,设置该卷积层内核大小为8×1,以此来学习八个肌电信号采集通道之间的特征。步幅设置为1,第一层的输出大小是1×400,实现了对Myo采集的八个通道的肌电信号数据的融合。
第二卷积层,设置该卷积层内核大小为1×3,这一层的输出大小为1×398,实现了对用户拿取手机这个过程中动作序列在时间维度上的卷积特征提取。
第三卷积层,设置该卷积层内核大小为1×1,增加模型的深度,提升模型的表征能力。
第四层为全连接层,使用扁平层,平整以前的卷积层输出,输送到全连接层中。全连接层输出数据的所有组合。
进一步的,使用一个额外的层来组合孪生神经网络的输出,使用欧氏距离计算两个神经网络的最后全连接层的输出向量之间的差异。所计算出的两个肌电信号矩阵的欧式距离是一个0到1之间的数值,越接近1,则认为两个肌电信号矩阵越有可能来自同一个人。在训练孪生神经网络时用损失函数最小化模型来预测输出与已知匹配值之间的差异。每个训练样本包括一组肌电信号矩阵和对应的配对值。在获取训练数据时,根据认证身份将肌电信号矩阵分为不同的组,对来自同一个用户的数据配对值设置为1,来自其他不同用户的数据配对值设置为0,配对后的数据输入到孪生神经网络中进行训练。再利用训练好的孪生神经网络模型输入解锁***中。
臂环旋转无关性模块使用数据增强的方法,顺时针旋转Myo臂环8次,每次旋转使当前一个传感器的位置由上一个传感器替代,这样得到8组不同的测量数据,将这8组数据对应的标签设为同一个值,输入到神经网络中进行训练,这样神经网络可以学习到Myo的旋转,从而实现旋转不变性,用户无需在每次佩戴Myo臂环时对其进行校准。数据的标签是给用户身份认证的唯一标识。
解锁***包括注册模块和认证模块、肌电信号分段处理模块。认证模块中存储训练好的孪生神经网络以及最佳分类阈值。将训练好的孪生神经网络模型集成到智能手机应用程序中,使智能手机应用程序利用优化后的模型进行身份认证。用户通过注册模块,使用Myo臂环采集肌电数据并利用手机端的肌电信号分段处理模块对数据进行分段处理,生成肌电信号矩阵,然后以用户身份信息为标签,与用户身份信息配对保存在手机本地的数据库中。在身份认证阶段,认证模块对实时采集的肌电信号进行保存,并通过手机端的肌电信号分段处理模块对两秒的时间窗口内执行分割,分割后得到的肌电信号矩阵与先前存储在手机本地的肌电信号矩阵,同时输入到训练好的孪生神经网络中,输出两肌电信号矩阵的欧式距离。如果输出的欧式距离小于最佳分类阈值,则认为认证成功,解锁手机;否则,认证失败。
本发明实施例的基于肌电信号和孪生神经网络的智能手机用户认证方法,如图2所示,分为离线模型训练和在线身份验证两个流程。图中左侧显示了离线模型训练,肌电信号数据由Myo臂环采集并通过蓝牙通信实时传输到智能手机,用户通过单击相应的按钮来标记不同的动作。得到标记的数据后,将数据进行分割成肌电信号矩阵以提取有效的肌电信号,并进行成对分配准备训练数据,同时进行数据扩充以扩展数据集。接下来,在模型训练步骤中,将所有成对数据输入神经网络以训练孪生卷积神经网络。右侧显示了在线身份验证的步骤,将训练好的孪生神经网络模型移植到安卓智能手机中,以便评估本方法在实际场景中的性能。本发明设计相应的应用程序安装在智能手机中,利用应用程序来采集数据和用户认证。
下面说明本发明实施例的基于肌电信号和孪生神经网络的智能手机用户认证方法,其中离线模型训练包括如下步骤1~步骤4,在线身份验证包括步骤5~步骤7。
步骤1、采集肌电信号数据。在离线训练阶段,训练数据由Myo臂环收集并通过蓝牙通信实时传输到智能手机,然后用户通过点击相应的按钮来标记不同的动作。
如图3所示,为手机APP中采集数据的界面,通过在界面点击相应按钮来标记不同的动作,如图中左上角的四个动作标记按钮。如图4所示,采集五次动作的原始肌电信号数据,图中显示了五个相似的分波,这些波代表了五次拿起和放下智能手机的动作。
由于手势控制Myo臂环旋转采集位置不同会影响肌电信号的数值,因此本发明采取了一种Myo臂环旋转独立性的解决方法,使其与旋转无关。如图5所示,Myo臂环上有八个肌电信号传感器,每个传感器对应一个特定的皮肤区域,这使得Myo臂环不能旋转,使用不便。根据Myo臂环的环型结构,如果第一个传感器旋转到第二个传感器的位置,则其余七个传感器将按顺序移动,最后一个传感器将替换第一个传感器的位置,因此,本发明借鉴图像领域数据增强的方法,通过旋转Myo臂环来扩展采集的肌电信号数据集。在本发明的数据集中,八个肌电数据通道对应于Myo臂环的八个肌电传感器,每次旋转通道时,都会创建一个新的数据集。图5的第一张图片显示了旋转一个通道的结果,一共旋转八次完成一个圆圈旋转,旋转一圈后可以得到一个八倍于原始数据的数据集,将这八个数据集对应的标签设为同一个用户身份标签。从图5的第二张图片中,可以看到两个传感器之间存在间隙,当用户戴上臂环时,无法保证该位置只是本发明扩展的八个位置之一,并且当旋转小于一个通道时,传感器可能会覆盖间隙区域。但是,此间隙的距离远小于传感器的宽度,所以间隙对本发明***的影响可以忽略。在图像分类任务中,翻转,裁剪和缩放是常见的数据增强技术。完成这些操作后,图像的标签不会更改。本发明还通过数据增强技术,扩展训练数据。与数据增强技术相似,Myo臂环的通道交换后,扩展后的数据集仍属于同一个人。通过这种方式,无论用户如何佩戴Myo臂环以及是否旋转它,本发明的孪生神经网络模型都可以学习足够的特征并做出可靠的决策。
步骤2、在得到标记的肌电信号数据后,进行数据分割以提取其中包含的有效数据,表示为肌电信号矩阵。这里本发明不使用任何滤波器,保留信号的原始性,然后使用卷积孪生神经网络模型提取特征。
本发明实施例中,采集有效动作的时间为两秒,在Myo臂环的8通道、采样率为200Hz的条件下,采集到的肌电信号矩阵的大小为8×400,行代表通道,列代表采集的肌电信号值,每个通道在2秒内共采集400个值。
步骤3、对不同的肌电信号矩阵进行成对匹配,以形成一个训练样本,同时进行数据增强处理以扩展训练数据集。进行成对匹配时,将来自同一个人的两个肌电信号矩阵的匹配值设置为1,将来自不同人的两个肌电信号矩阵的匹配值设置为0。每对匹配的肌电信号矩阵作为一个训练样本输入到孪生神经网络模型。
步骤4、利用训练样本对孪生神经网络进行训练,孪生神经网络的结构如图1所示,训练时,网络的输入是两个肌电信号矩阵,对两个全连接层的输出向量计算欧式距离,最小化所得到欧式距离与训练样本对应的匹配值的差异,调整孪生神经网络的参数,找到损失函数最小的最佳参数组合,获得训练好的孪生神经网络。对孪生神经网络模型进行等错误率分析,找到最佳的分类阈值。
步骤5、将训练好的孪生神经网络模型移植到安卓智能手机中。智能手机中安装相应的解锁***APP,APP中存储训练好的孪生神经网络模型,包括模型参数及最佳分类阈值。
步骤6、用户使用解锁***APP进行注册。
与大多数身份验证***类似,用户首先需要注册。在注册阶段,用户需要进行四组动作,每组动作仅需执行一次。如图3所示,为解锁***APP在用户注册时进行动作采集的页面,解锁***APP将这些动作的肌电信号按照步骤2中方式提取成肌电信号矩阵保存到数据库中,并通过用户名和相应的动作作为标识符对其进行命名。用户的名字作为肌电信号数据的索引。
步骤7、用户使用解锁***APP进行身份认证。
如图6所示,为解锁***APP中用户认证界面。在身份认证阶段,用户拿起智能手机过程中产生的新肌电信号,解锁***APP实时保存来自Myo臂环的肌电信号,并在两秒的时间窗口内执行分割,提取肌电信号矩阵,与先前用户注册时存储的肌电信号矩阵进行两两配对,将每一对矩阵输入到训练好的孪生神经网络中,孪生神经网络计算输入的肌电信号数据对的距离。如果输出小于最佳的分类阈值,则将成功授权用户并解锁智能手机,否则将拒绝用户。
实施例:
邀请40名志愿者建立肌电信号数据集。志愿者包括28位男性和12位女性,平均年龄为24.6,范围为18至45,这是智能手机的典型用户群。志愿者在前臂上佩戴Myo臂环,如图7所示,为本实施例中Myo臂环佩戴的位置示意图。安卓智能手机运行数据采集程序,并将肌电信号记录到csv文件中。本实施例设计了一个调查表以记录志愿者在学习或工作时的智能手机位置,如图8所示,本实施例中调查到的手机放置的常用位置,右上角标记了调查的频数。可以看到,志愿者通常将智能手机放在左侧P1,前方P4和右侧P3。图8中,志愿者坐在桌子前,将智能手机放在桌子上。如图9所示,为本发明中数据采集步骤示意图。志愿者要做的只是拿起他们的智能手机并像往常一样观看屏幕。四个场景之间的唯一区别是智能手机和手的位置。两个初始位置,在前两个子图中显示。根据图8中显示了四个智能手机位置。在位置P1,P2和P3中,要求志愿者重复动作20次,而位置P4重复10次,共70次。有效时间从志愿者开始移动手臂开始比到查看屏幕结束,并且该时间通常少于两秒。具体来说,采样率是200Hz,臂环有8个传感器通道,因此一条有效数据是一个8×400的矩阵。本发明实施例有40名志愿者,每个人采集70个数据,所以数据集共有2800个有效数据。
本实施例使用基于Python的深度学习平台Keras实现孪生神经网络模型的训练,在配备NVIDIA Tesla V100 GPU,128GB内存和Intel Xeon E5 2560处理器的服务器上训练模型,并使用学习率为0.002且批次大小为32的Adam优化器。损失函数选择对比损失函数而不是交叉熵损失函数。在训练过程中,使用y来标记两个输入矩阵的关系。如果两个矩阵相似,则y等于0;否则,y等于1。损失函数定义为:
Loss=(1-y)d2+y{max(margin-d,0)}2
其中,d是两个肌电信号特征向量之间的欧几里得距离,margin用于限制loss的范围,当d很大时以致于超过margin时,损失函数Loss的值为0。
本实施例利用等错误率EER找到适当的分类阈值。随着阈值的增加,FAR(错误接受率)下降而FRR(错误拒绝率)增加。当阈值对应于EER时,分类器具有最佳性能。如图10所示,为本发明实施例中不同阈值的DET(检测错误权衡图)曲线图。该EER点的相应阈值为0.55。
本发明实施例研究了神经网络中不同的超参数对***性能的影响,包括CNN层数,过滤器,学习率,脱落率,批处理大小、周期数和距离函数。使用交叉验证来检查性能,训练集与测试集的比率为4:1,并将准确性作为评估的唯一指标。如图11所示,为本发明实施例中使用不同距离函数的ROC(接受者操作特性曲线)曲线图,欧氏距离的ROC曲线下面积最大。实验测试最好的超参数集合为:CNN层数为3,对应的三个过滤器数量为16,32和32,学习率为0.002,丢弃率dropout为0.1,0.2和0.2,批处理大小30,周期数20,使用欧几里得距离来计算两个肌电信号特征向量的相似度。
为了研究***是否可以处理预定的四个位置以外的其他位置,本发明实施例邀请五位志愿者进行此实验。首先,志愿者按照自己的意愿放置智能手机,然后注册其肌电信号。如图12所示,为本发明实施例中随机放置手机的认证结果图。圆形标记是本***正确身份验证的位置,而三角标记是本发明的***错误检测到的位置。本发明实施例仅有一个位置认证错误,准确率达到93.33%。该结果说明本***能够较好的提取用户肌电信号的特征,并具有较好的泛化性。
本发明实施例评估了***对左手惯用者的应对情况。除了佩戴位置,两位志愿者数据采集过程与右手情况相同,实验中在十次中只有一次认证失败,该结果说明本***对左手惯用者也有良好的泛化性能。
本发明实施例评估了***对用户站立情况的应对情况。本实施例额外招募了10名志愿者,志愿者从口袋里拿出智能手机,并观看屏幕,重复执行该动作五次。使用这个小数据集来测试当人们站立而不是坐着时,***是否可以解锁智能手机。首先,本发明实施例将注册数据和身份验证数据的数据集分开,其比例为1:4。然后进行配对并将这些配对放入***。本实施例中的正确接受率为98.43%,这意味着***可以处理用户的站立情况。
本发明实施例使用评估身份验证***中常用的指标来评估身份认证***的性能。准确率达到92.06%,平均真实接受率TAR为91.81%,平均错误接受率FAR为7.43%,平均错误拒绝率为8.49%。
本发明实施例在服务器和安卓智能手机上测试***的速度。整个解锁过程包括四个步骤:加载存储的肌电信号数据,数据分段,进行配对和模型计算。当***在服务器计算机上运行时,身份验证时间约为0.048s。在小米8中运行的身份认证验证时间约为0.16s,结果满足实时智能手机解锁的要求。
上述具体实施可由本领域技术人员在不背离本发明原理和宗旨的前提下以不同的方式对其进行局部调整,本发明的保护范围以权利要求书为准且不由上述具体实施所限,在其范围内的各个实现方案均受本发明之约束。

Claims (3)

1.一种基于肌电信号和孪生神经网络的智能手机用户认证***,其特征在于,包括:
用户佩戴的Myo臂环,用于采集用户拿取手机过程中的肌电信号;
安装在智能处理设备上的肌电信号分段处理模块、孪生神经网络训练模块和臂环旋转无关性设计模块;
以及安装在智能手机上的解锁***;
所述的肌电信号分段处理模块将Myo臂环采集到的肌电信号提取为肌电信号矩阵;所述的Myo臂环采集用户的有效动作时间为2秒,所述的肌电信号分段处理模块设置采样率为200Hz,从一条2秒的肌电信号中提取到一个8×400的肌电信号矩阵;
所述的孪生神经网络训练模块用于训练孪生神经网络;每个神经网络包括三个过滤器卷积层和一个全连接层;神经网络的输入是肌电信号矩阵,神经网络的输出是全连接层的输出向量;计算两个神经网络的输出向量的欧氏距离,距离取值范围是[0,1],0代表两个肌电信号矩阵来自不同的用户,1代表两个肌电信号矩阵来自同一用户;利用训练数据对孪生神经网络进行训练,对训练好的孪生神经网络进行等错误率分析,找到最佳分类阈值;孪生神经网络训练模块将训练好的孪生神经网络和最佳分类阈值输出给智能手机上的解锁***;
所述的孪生神经网络训练模块的每个神经网络包括三个过滤器卷积层和一个具有128个单元的全连接层;其中,第一卷积层用于学习Myo臂环的八个肌电信号采集通道之间的特征,第一卷积层的内核大小为8×1;第二卷积层的内核大小为1×3,用于提取用户拿取手机过程中的动作序列在时间维度上的卷积特征;第三卷积层的内核大小为1×1;
所述的臂环旋转无关性设计模块使用数据增强的方法获取孪生神经网络的训练数据,具体是:旋转Myo臂环,移动传感器的位置,顺时针旋转Myo臂环8次,每次旋转使当前一个传感器的位置由上一个传感器替代,每旋转一次就采集一次用户拿取手机过程中的肌电信号,得到8组不同的肌电信号,将从同一用户获取的8组肌电信号矩阵的标签设置为同一个认证身份;
所述的解锁***包括肌电信号分段处理模块、注册模块和认证模块;用户通过注册模块采集用户拿取手机过程中的肌电信号,输入肌电信号分段处理模块提取肌电信号矩阵,添加用户的认证身份标签,并保存在本地;认证模块存储训练好的孪生神经网络以及最佳分类阈值;需要认证时,认证模块对实时采集的肌电信号通过肌电信号分段处理模块提取肌电信号矩阵,将实时的肌电信号矩阵与保存在本地的肌电信号矩阵输入孪生神经网络,计算两个肌电信号矩阵对应的输出向量的欧氏距离,并与最佳分类阈值进行比较,如果小于阈值,则认证成功,否则,认证失败。
2.如权利要求1所述的智能手机用户认证***,其特征在于,所述的孪生神经网络训练模块,所获取的每个训练样本包括一组肌电信号矩阵和对应的配对值;在获取训练样本时,根据认证身份,对来自同一个用户的一组肌电信号矩阵设置配对值为1,对来自不同用户的一组肌电信号矩阵设置配对值为0,将配对后的肌电信号矩阵输入到孪生神经网络中进行训练。
3.一种基于肌电信号和孪生神经网络的智能手机用户认证方法,其特征在于,包括如下步骤:
步骤1,采集肌电信号训练数据;
用户佩戴Myo臂环,采集用户拿取手机过程中的肌电信号,并为采集的肌电信号添加用户身份标签;Myo臂环包括8个传感器通道,采集训练数据时,顺时针旋转Myo臂环8次,每次旋转使当前一个传感器的位置由上一个传感器替代,每次旋转后测量一次肌电信号,得到8组不同的肌电信号,设置8组肌电信号的标签为同一个用户身份;
步骤2,对采集的肌电信号进行分割,提取肌电信号矩阵;
用户拿取手机过程中的有效动作的时间为两秒,在Myo臂环的8传感器通道、采样率为200Hz的条件下,提取到的肌电信号矩阵的大小为8×400,矩阵中的行代表传感器通道,列代表采集的肌电信号值;
步骤3,对不同的肌电信号矩阵进行成对匹配,以形成训练样本;进行成对匹配时,将来自同一个人的两个肌电信号矩阵的匹配值设置为1,将来自不同人的两个肌电信号矩阵的匹配值设置为0;
步骤4,利用训练样本对孪生神经网络进行训练;
训练时,孪生神经网络的输入是两个肌电信号矩阵,计算孪生神经网络的两个输出向量的欧式距离,作为输入的两个肌电信号矩阵的相似度,最小化相似度与训练样本的匹配值,调整孪生神经网络的参数;对孪生神经网络进行等错误率分析,找到最佳的分类阈值;
所述的孪生神经网络训练模块的每个神经网络包括三个过滤器卷积层和一个具有128个单元的全连接层;其中,第一卷积层用于学习Myo臂环的八个肌电信号采集通道之间的特征,第一卷积层的内核大小为8×1;第二卷积层的内核大小为1×3,用于提取用户拿取手机过程中的动作序列在时间维度上的卷积特征;第三卷积层的内核大小为1×1;
步骤5,将训练好的孪生神经网络和最佳分类阈值移植到智能手机的解锁***中;
步骤6,用户使用解锁***进行注册;
用户佩戴Myo臂环,按照预设引导信息执行动作,采集肌电信号;对采集的肌电信号进行分割,提取肌电信号矩阵;将提取的肌电信号矩阵保存在手机本地,并添加用户身份标签;
步骤7,用户使用解锁***进行身份认证;
用户佩戴Myo臂环,在拿起智能手机过程中产生新的肌电信号,解锁***实时保存来自Myo臂环的肌电信号,对该实时的肌电信号进行分割,提取肌电信号矩阵;将提取的肌电信号矩阵与用户注册时存储的肌电信号矩阵进行两两配对,将每一对矩阵输入到训练好的孪生神经网络中,计算两个肌电信号矩阵的相似度,当相似度小于最佳分类阈值时,将成功授权用户并解锁智能手机,否则拒绝用户。
CN202010140395.0A 2020-03-03 2020-03-03 基于肌电信号和孪生神经网络的智能手机用户认证方法和*** Active CN111371951B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010140395.0A CN111371951B (zh) 2020-03-03 2020-03-03 基于肌电信号和孪生神经网络的智能手机用户认证方法和***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010140395.0A CN111371951B (zh) 2020-03-03 2020-03-03 基于肌电信号和孪生神经网络的智能手机用户认证方法和***

Publications (2)

Publication Number Publication Date
CN111371951A CN111371951A (zh) 2020-07-03
CN111371951B true CN111371951B (zh) 2021-04-23

Family

ID=71211646

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010140395.0A Active CN111371951B (zh) 2020-03-03 2020-03-03 基于肌电信号和孪生神经网络的智能手机用户认证方法和***

Country Status (1)

Country Link
CN (1) CN111371951B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112949403B (zh) * 2021-02-01 2022-08-23 浙江大学 一种基于下颌骨生物特征的可靠用户认证方法及***
CN113807213B (zh) * 2021-08-31 2024-05-28 东南大学 一种基于行为特征的车主身份预认证方法
CN116172520A (zh) * 2023-03-13 2023-05-30 深圳市心流科技有限公司 基于睡眠状态的磨牙行为识别方法、设备和可读存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105243312A (zh) * 2015-11-13 2016-01-13 上海傲意信息科技有限公司 一种密码***及加解密方法
CN105556529A (zh) * 2013-09-09 2016-05-04 三星电子株式会社 使用生物信号执行用户认证的可穿戴装置及其认证方法
CN108985157A (zh) * 2018-06-07 2018-12-11 北京邮电大学 一种手势识别方法和装置
CN110245625A (zh) * 2019-06-19 2019-09-17 山东浪潮人工智能研究院有限公司 一种基于孪生神经网络的野外大熊猫识别方法及***
CN110263520A (zh) * 2019-06-21 2019-09-20 深圳市奋达智能技术有限公司 一种身份验证方法以及***
CN110811633A (zh) * 2019-11-06 2020-02-21 中国科学院自动化研究所 基于肌电信号的身份识别方法、***、装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9984222B2 (en) * 2014-07-08 2018-05-29 Pixart Imaging Inc Individualized control system utilizing biometric characteristic
CN107292259A (zh) * 2017-06-15 2017-10-24 国家新闻出版广电总局广播科学研究院 基于AdaRank的深度特征和传统特征的集成方法
CN108959895B (zh) * 2018-08-16 2021-12-10 广东工业大学 一种基于卷积神经网络的脑电信号eeg身份识别方法
CN111901353A (zh) * 2019-07-18 2020-11-06 创新先进技术有限公司 身份识别预处理方法、身份识别方法,及其设备和***

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105556529A (zh) * 2013-09-09 2016-05-04 三星电子株式会社 使用生物信号执行用户认证的可穿戴装置及其认证方法
CN105243312A (zh) * 2015-11-13 2016-01-13 上海傲意信息科技有限公司 一种密码***及加解密方法
CN108985157A (zh) * 2018-06-07 2018-12-11 北京邮电大学 一种手势识别方法和装置
CN110245625A (zh) * 2019-06-19 2019-09-17 山东浪潮人工智能研究院有限公司 一种基于孪生神经网络的野外大熊猫识别方法及***
CN110263520A (zh) * 2019-06-21 2019-09-20 深圳市奋达智能技术有限公司 一种身份验证方法以及***
CN110811633A (zh) * 2019-11-06 2020-02-21 中国科学院自动化研究所 基于肌电信号的身份识别方法、***、装置

Also Published As

Publication number Publication date
CN111371951A (zh) 2020-07-03

Similar Documents

Publication Publication Date Title
Yuan et al. Fingerprint liveness detection using an improved CNN with image scale equalization
CN111371951B (zh) 基于肌电信号和孪生神经网络的智能手机用户认证方法和***
Delac et al. A survey of biometric recognition methods
CN102073843B (zh) 非接触式快速人手多模态信息融合识别方法
Vijayakumar Synthesis of palm print in feature fusion techniques for multimodal biometric recognition system online signature
Qin et al. A fuzzy authentication system based on neural network learning and extreme value statistics
CN106156702A (zh) 身份认证方法及设备
Fan et al. Emgauth: An emg-based smartphone unlocking system using siamese network
CN115294658B (zh) 一种面向多应用场景的个性化手势识别***及其手势识别方法
Benegui et al. Convolutional neural networks for user identification based on motion sensors represented as images
CN107944356A (zh) 综合多类型特征的层次主题模型掌纹图像识别的身份认证方法
CN108960171B (zh) 一种基于特征迁移学习的转换手势识别到身份识别的方法
Belhadj Biometric system for identification and authentication
Yang et al. Finger-vein pattern restoration with generative adversarial network
Al-Nima Human authentication with earprint for secure telephone system
CN111914724B (zh) 基于滑动窗口分割的连续中国手语识别方法及其***
Latha et al. A novel method for person authentication using retinal images
Thakurdesai et al. Face recognition using one-shot learning
Garg et al. Biometric authentication using soft biometric traits
Kataria et al. Fingerprint alterations type detection and gender recognition using convolutional neural networks and transfer learning
Bhavani et al. A multi-dimensional review on handwritten signature verification: strengths and gaps
Kubanek et al. Intelligent Identity Authentication, Using Face and Behavior Analysis
Das et al. An introduction to biometric authentication systems
Cui et al. An appearance-based method for iris detection
CN113673343A (zh) 一种基于加权元度量学习的开放集掌纹识别***及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant