CN114125148B - 电子设备运行模式的控制方法、电子设备及可读存储介质 - Google Patents

电子设备运行模式的控制方法、电子设备及可读存储介质 Download PDF

Info

Publication number
CN114125148B
CN114125148B CN202210025952.3A CN202210025952A CN114125148B CN 114125148 B CN114125148 B CN 114125148B CN 202210025952 A CN202210025952 A CN 202210025952A CN 114125148 B CN114125148 B CN 114125148B
Authority
CN
China
Prior art keywords
electronic equipment
electronic device
processor
proximity
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210025952.3A
Other languages
English (en)
Other versions
CN114125148A (zh
Inventor
王石磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honor Device Co Ltd
Original Assignee
Honor Device Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honor Device Co Ltd filed Critical Honor Device Co Ltd
Priority to CN202210025952.3A priority Critical patent/CN114125148B/zh
Publication of CN114125148A publication Critical patent/CN114125148A/zh
Application granted granted Critical
Publication of CN114125148B publication Critical patent/CN114125148B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72454User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72463User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions to restrict the functionality of the device

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Environmental & Geological Engineering (AREA)
  • Telephone Function (AREA)

Abstract

本申请实施例提供一种电子设备运行模式的控制方法、电子设备、及计算机可读存储介质。电子设备运行模式的控制方法包括:电子设备在确定接近光传感器检测到的物体距离电子设备在设定范围以内、且电子设备处于预设状态时,通过前置摄像装置获取数据;并在确定数据包括人脸关键信息,控制电子设备不进入防误触模式,预设状态包括通话状态、且姿态为使用姿态,或者显示屏呈现锁屏界面。可以看出:在显示屏显示锁屏界面或者通话场景下,接近光传感器确定出有物体靠近,通过前置摄像装置获取的数据包括人脸关键信息,可推断出用户在使用电子设备,接近光传感器检测的有物体靠近属于受干扰的误报,控制电子设备不进入防误触模式,避免无法正常使用。

Description

电子设备运行模式的控制方法、电子设备及可读存储介质
技术领域
本申请涉及通信技术领域,尤其涉及一种电子设备运行模式的控制方法、电子设备、及计算机可读存储介质。
背景技术
目前,电子设备设置有接近光传感器,用于检测是否有物体靠近电子设备。在通话场景或展示锁屏界面的场景下,电子设备可根据接近光传感器的检测结果来确定是否进入防误触模式。通常情况下,接近光传感器检测到物体靠近,电子设备会进入防误触模式,如控制显示屏灭屏,如此可避免因用户不小心碰触屏幕,而对屏幕进行误操作。
然而,电子设备在实际的使用过程中,接近光传感器会存在受干扰导致检测结果不准确的问题。例如:电子设备可放置于防水袋中使用,以避免水对电子设备的损害。但防水袋长时间使用后,防水袋的表面磨损而变得不完全透明,接近光传感器误将防水袋当做物体靠近,得出存在物体靠近的检测结果。在通话场景或展示锁屏界面的场景下,电子设备则根据接近光传感器的检测结果误入防误触模式,影响电子设备的正常使用。
发明内容
本申请提供了一种电子设备运行模式的控制方法、电子设备、计算机程序产品及计算机可读存储介质,目的在于避免接近光传感器因受干扰导致检测结果不准确,导致电子设备误入防误触模式,进而影响电子设备正常使用的问题。
为了实现上述目的,本申请提供了以下技术方案:
第一方面,本申请提供了一种电子设备运行模式的控制方法,可应用于电子设备,该电子设备包括接近光传感器、前置摄像装置以及显示屏。本申请提供的电子设备运行模式的控制方法,包括:电子设备通过接近光传感器检测物体,在确定接近光传感器检测到的物体距离电子设备在设定范围以内、且电子设备处于预设状态时,通过前置摄像装置获取数据;并在确定数据包括人脸关键信息,控制电子设备不进入防误触模式,其中,预设状态包括:电子设备处于通话状态、且电子设备的姿态不为使用姿态,该使用姿态可以理解成模拟用户手持电子设备靠近耳朵的姿态,或者,电子设备的显示屏呈现锁屏界面,接近光传感器检测到物体距离电子设备在设定范围以内,且电子设备处于预设状态时,电子设备未处于防误触模式。
由上述内容可以看出:在电子设备处于显示屏显示锁屏界面,或者电子设备处于通话场景下,电子设备通过接近光传感器确定出有物体靠近,则通过前置摄像装置获取的数据判断是否包括人脸关键信息,若数据包括人脸关键信息,则可推断出电子设备前出现人脸,用户在使用电子设备,接近光传感器检测的有物体靠近属于受干扰的误报,控制电子设备不进入防误触模式,避免电子设备无法正常使用。
在一个可能的实施方式中,电子设备置于防水袋内,防水袋的表面不完全透明。
在本可能的实施方式中,电子设备放置于防水袋,且防水袋的表面不完成透明,电子设备在处于显示屏显示锁屏界面,或者电子设备处于通话场景下,接近光传感器会将不完全透明的防水袋误当成物体靠近,得到有物体靠近的检测结果。若用户使用电子设备,电子设备通过前置摄像装置获取的数据会包括人脸关键信息,在该情况下,电子设备控制不进入防误触模式,能够避免防水袋对接近光传感器的干扰而导致电子设备误入防误触模式,进而影响电子设备使用的问题。
在一个可能的实施方式中,通过前置摄像装置获取数据,包括:通过前置摄像装置获取图像数据。
在一个可能的实施方式中,通过前置摄像装置获取数据,包括:通过前置摄像装置获取深度数据。
在本可能的实施方式中,前置摄像装置获取深度数据,不依赖较亮的环境光。因此,在电子设备所处环境的亮度较低时,电子设备利用前置摄像装置采集的深度数据,也可以准确识别是否包括人脸关键信息。
在一个可能的实施方式中,通过前置摄像装置获取图像数据之前,还包括:确定电子设备所处环境的环境光亮度大于阈值。
在本可能的实施方式中,因前置摄像装置在暗光环境下拍摄的图像,是无法有效识别是否包括人脸关键信息,因此,在环境光亮度不大于阈值,启动前置摄像装置运行以拍摄图像无实际意义,并增加功耗。基于此,仅在环境光亮度达到一定阈值,才启动前置摄像装置采集图像。
在一个可能的实施方式中,电子设备运行模式的控制方法还包括:确定环境光亮度不大于阈值,控制电子设备进入防误触模式。
在一个可能的实施方式中,控制电子设备不进入防误触模式的方式,包括:控制电子设备的处理器不向上层应用上报接近事件,接近事件由接近光传感器检测到物体距离电子设备在设定范围以内而生成。
在一个可能的实施方式中,电子设备运行模式的控制方法还包括:确定数据不包括人脸关键信息,控制电子设备进入防误触模式。
在一个可能的实施方式中,电子设备运行模式的控制方法还包括:确定接近光传感器检测到物体距离电子设备在设定范围以内,电子设备处于通话状态、且电子设备的姿态为使用姿态,控制电子设备进入防误触模式。
在一个可能的实施方式中,控制电子设备进入防误触模式包括:控制电子设备的处理器向上层应用上报接近事件,接近事件由接近光传感器检测到物体距离电子设备在设定范围以内而生成。
在一个可能的实施方式中,电子设备运行模式的控制方法还包括:确定接近光传感器检测到物体距离电子设备在设定范围以内、且电子设备不处于预设状态,控制电子设备的处理器向上层应用上报接近事件,接近事件由接近光传感器检测到物体距离电子设备在设定范围以内而生成。
在一个可能的实施方式中,确定数据包括人脸关键信息,包括:调用人脸识别模型处理数据,得到处理结果,处理结果指示数据包括人脸关键信息。
在一个可能的实施方式中,电子设备是否处于通话状态的检测方式,包括:监听电子设备的通话应用的发起呼叫流程或接收呼叫流程,以确定电子设备是否处于通话状态。
在一个可能的实施方式中,电子设备的姿态是否为使用姿态的检测方式,包括:利用电子设备的加速度传感器的检测值,计算电子设备的俯仰角和翻滚角;确定电子设备的俯仰角和翻滚角是否持续满足姿态阈值范围预设时长,姿态阈值包括:使用姿态对应的俯仰角范围,和使用姿态对应的翻滚角范围。
在一个可能的实施方式中,电子设备是否处于锁屏界面的检测方式,包括:监听电子设备的锁屏应用的锁屏流程,以确定电子设备是否处于锁屏界面。
第二方面,本申请提供了一种电子设备,包括:一个或多个处理器、存储器、前置摄像装置,显示屏和接近光传感器;存储器、前置摄像装置、接近光传感器,显示屏与一个或多个处理器耦合,存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,当一个或多个处理器执行计算机指令时,电子设备执行如第一方面任意一项的电子设备运行模式的控制方法。
第三方面,本申请提供了一种计算机可读存储介质,用于存储计算机程序,计算机程序被执行时,具体用于实现如第一方面任意一项的电子设备运行模式的控制方法。
第四方面,本申请提供了一种包含指令的计算机程序产品。当该计算机程序产品在计算机或处理器上运行时,使得计算机或处理器执行上述第一方面任意一项的电子设备运行模式的控制方法。
附图说明
图1为本申请提供的电子设备的一种应用场景的展示图;
图2a为本申请实施例提供的电子设备的硬件结构图;
图2b为本申请实施例提供的电子设备的软件架构图;
图3为本申请实施例提供的通话场景的展示图;
图4为本申请实施例一提供的一种电子设备运行模式的控制方法的时序图;
图5为本申请实施例二提供的一种电子设备运行模式的控制方法的时序图;
图6为本申请实施例三提供的一种电子设备运行模式的控制方法的时序图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。以下实施例中所使用的术语只是为了描述特定实施例的目的,而并非旨在作为对本申请的限制。如在本申请的说明书和所附权利要求书中所使用的那样,单数表达形式“一个”、“一种”、“所述”、“上述”、“该”和“这一”旨在也包括例如“一个或多个”这种表达形式,除非其上下文中明确地有相反指示。还应当理解,在本申请实施例中,“一个或多个”是指一个、两个或两个以上;“和/或”,描述关联对象的关联关系,表示可以存在三种关系;例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A、B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。
在本说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本申请实施例涉及的多个,是指大于或等于两个。需要说明的是,在本申请实施例的描述中,“第一”、“第二”等词汇,仅用于区分描述的目的,而不能理解为指示或暗示相对重要性,也不能理解为指示或暗示顺序。
为了更清楚地阐明本申请技术方案,下面对本申请涉及的相关概念进行解释。
1)锁屏界面,也称亮屏锁屏界面,是指在电子设备的显示屏上显示的一个锁定屏幕的图形用户界面,只有在用户对该图形用户界面进行特定操作后才能进入电子设备的主界面,可以有效保护该电子设备里的数据安全。上述特定操作可以是以下操作中的至少一种:用户在触摸屏上滑动后,用户输入密码,或用户进行指纹识别,或用户进行人脸识别,或用户进行虹膜识别等。
锁屏界面可以包括多个界面元素,例如锁屏壁纸,指纹解锁标识,提示框,快速启动相机的图标,时间和日期等。
2)智能传感集线器(sensor hub),提供一种基于低功耗MCU和轻量级RTOS操作***之上的软硬件结合的解决方案,其主要功能是连接并处理来自各种传感器设备的数据。
目前,电子设备设置有接近光传感器,用于检测电子设备是否有物体靠近。在一个示例中,电子设备处于显示锁屏界面或者通话状态时,电子设备会根据接近光传感器得到的检测结果来确定是否进入防误触模式。若接近光传感器的检测结果是有物体靠近,电子设备会进入防误触模式,如控制显示屏灭屏,如此可避免因用户不小心碰触屏幕,而对屏幕进行误操作。
图1展示了电子设备的一种应用场景。在图1展示的应用场景中,为避免水对电子设备的损害,电子设备放置于防水袋中使用。但防水袋长时间使用后,防水袋的表面磨损而变得不完全透明,如此会影响电子设备的正常使用。
如图1中的(a)和图1中的(c)所示,电子设备处于锁屏界面或者通话状态时。由于防水袋表面被磨损而变得不完全透明,电子设备的接近光传感器可能会将防水袋误判为物体接近,得出存在物体靠近的检测结果,电子设备进入防误触模式。图1中的(b)展示了电子设备进入防误触模式的一种示例,该示例中,电子设备进入防误触模式,显示屏则灭屏。
当然,电子设备的其他应用场景,也可能会存在电子设备的接近光传感器因受干扰导致得出的检测结果不准确的问题。进一步的,电子设备会由于接近光传感器不准确的检测结果,在显示锁屏界面或者通话状态时,误入防误触模式,影响正常使用。
基于该问题,本申请实施例提出一种电子设备运行模式的控制方法。本申请实施例提供的电子设备运行模式的控制方法,可以适用于手机,平板电脑,桌面型、膝上型、笔记本电脑,超级移动个人计算机(Ultra-mobile Personal Computer,UMPC),手持计算机,上网本,个人数字助理(Personal Digital Assistant,PDA),可穿戴电子设备,智能手表等电子设备。
图2a为本申请实施例提供的一种电子设备的组成示例。以手机为例,如图2a所示,电子设备100可以包括处理器110,内部存储器120,摄像头130,TOF相机140A,结构光相机140B,天线1,天线2,移动通信模块150,无线通信模块160,显示屏170以及传感器模块180等。其中传感器模块180可以包括加速度传感器180A,陀螺仪传感器180B,接近光传感器180C和环境光传感器180D等。
可以理解的是,本实施例示意的结构并不构成对电子设备100的具体限定。在另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,智能传感集线器(sensorhub)和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了***的效率。
内部存储器120可以用于存储计算机可执行程序代码,可执行程序代码包括指令。处理器110通过运行存储在内部存储器120的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器120可以包括存储程序区和存储数据区。其中,存储程序区可存储操作***,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器120可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器110通过运行存储在内部存储器120的指令,和/或存储在设置于处理器中的存储器的指令,执行电子设备100的各种功能应用以及数据处理。
电子设备100可以通过ISP,摄像头130,视频编解码器,GPU,显示屏170以及应用处理器等实现拍摄功能。
ISP用于处理摄像头130反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头130中。
摄像头130用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头130,N为大于1的正整数。
一些实施例中,摄像头130可被设置为电子设备的前置摄像头,用于拍摄位于电子设备的显示屏前方的人脸图像。
TOF相机140A用于采集TOF数据,也可称深度数据。在一些实施例中,TOF相机被设置为电子设备的前置相机,用于采集电子设备的显示屏前方的TOF数据。例如,采集位于电子设备的显示屏前方的人脸的TOF数据。
在一些实施例中,TOF相机包括TOF传感器、TOF传感器控制器、TOF光源以及TOF光源控制器。
TOF光源控制器受TOF传感器控制器的控制,实现对TOF光源的控制。TOF光源在TOF光源控制器的控制下,发射红外(IR)光。TOF传感器用于感应红外(IR)光在物体例如人脸反射的光线,以采集TOF数据。
结构光相机140B用于采集结构光图像,也可称为深度数据。一些实施例中,结构光相机被设置为电子设备的前置相机,用于采集电子设备的显示屏前方的深度数据。例如,采集位于电子设备的显示屏前方的人脸的深度数据。
在一些实施例中,结构光相机包括:结构光光源和传感器件,结构光光源用于向外发射结构光光束;传感器件用于接收经人或物体调制并反射的结构光,并生成结构光图像。结构光光束可以理解成具有一定结构特征的光的光束,如红外激光。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星***(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
传感器模块180中,加速度传感器180A可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。一些实施例中,加速度传感器180A还可以用于识别电子设备姿态,应用于横竖屏切换,计步器,防误触等应用。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
一些实施例中,加速度传感器180A和陀螺仪传感器180B的检测数据,也可用于确定电子设备的姿态。
接近光传感器180C可以包括例如发光二极管(LED)和光检测器,例如发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。
一些实施例中,如前所述,电子设备可根据接近光传感器180C得到的检测结果来确定是否进入防误触模式。
环境光传感器180D用于感知环境光亮度。电子设备可以根据感知的环境光亮度自适应调节显示屏170亮度。环境光传感器180D也可用于拍照时自动调节白平衡。
另外,在上述部件之上,运行有操作***。例如iOS操作***,Android操作***,Windows操作***等。在操作***上可以安装运行应用程序。
图2b是本申请实施例的电子设备的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android***分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和***库,以及内核层。
应用程序层可以包括一系列应用程序包。如图2b所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,防误触,锁屏以及熄屏显示(Always On Display,AOD)等应用程序。
一些实施例中,防误触、通话、锁屏和AOD等应用程序,以及微信语音等第三方应用程序可向电子设备的处理器发起注册流程,以启动接近光传感器,由接近光传感器进行是否有物体靠近的检测。其中,向电子设备的处理器发起注册流程以启动接近光传感器的应用程序,在下述内容中以上层应用指代。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。如图2b所示,应用程序框架层可以包括窗口管理器,内容提供器,电话管理器,资源管理器,通知管理器,视图***等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
电话管理器用于提供电子设备的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在***顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
视图***包括可视控件,例如显示文字的控件,显示图片的控件等。视图***可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
Android Runtime包括核心库和虚拟机。Android runtime负责安卓***的调度和管理。在本申请一些实施例中,应用冷启动会在Android runtime中运行,Android runtime由此获取到应用的优化文件状态参数,进而Android runtime可以通过优化文件状态参数判断优化文件是否因***升级而导致过时,并将判断结果返回给应用管控模块。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
***库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(Media Libraries),三维图形处理库(例如:OpenGL ES),二维图形引擎(例如:SGL)等。
表面管理器用于对显示子***进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如: MPEG2,H.262,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染、合成和图层处理等。
二维图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,和传感器驱动等。
一些实施例中,摄像头驱动可驱动摄像头130运行,也可驱动TOF相机140A和结构光相机140B运行。
一些实施例中,上层应用向电子设备的处理器发起注册流程可通过应用程序框架层,传输到内核层,并由传感器驱动控制接近光传感器180C运行。
当然,传感器驱动也可用于驱动加速度传感器180A、陀螺仪传感器180B、以及环境光传感器180D运行。
需要说明的是,本申请实施例虽然以Android***为例进行说明,但是其基本原理同样适用于基于iOS、Windows等操作***的电子设备。
实施例一
图3展示了电子设备的一种通话场景。在图3展示的通话场景中,电子设备可执行电子设备运行模式的控制方法,以避免电子设备因放置于防水袋而误入防误触模式,影响电子设备正常运行。
本实施例中,电子设备可设置人脸识别模型。人脸识别模型具有预测输入到人脸识别模型的图像数据是否包含人脸关键信息的功能。
一些实施例中,人脸识别模型可采用卷积神经网络(Convolutional NeuralNetwork,CNN)、长短期记忆人工神经网络(Long-Short Term Memory,LSTM)等基础网络模型。
卷积神经网络通常包括:输入层、卷积层(Convolution Layer)、池化层(Poolinglayer)、全连接层(Fully Connected Layer,FC)和输出层。一般来说,卷积神经网络的第一层是输入层,最后一层是输出层。
卷积层(Convolution Layer)是指卷积神经网络中对输入信号进行卷积处理的神经元层。在卷积神经网络的卷积层中,一个神经元可以只与部分邻层神经元连接。一个卷积层中,通常包含若干个特征平面,每个特征平面可以由一些矩形排列的神经单元组成。同一特征平面的神经单元共享权重,这里共享的权重就是卷积核。
池化层(Pooling layer),通常在卷积层之后会得到维度很大的特征,将特征切成几个区域,取其最大值或平均值,得到新的、维度较小的特征。
全连接层( Fully-Connected layer), 把所有局部特征结合变成全局特征,用来计算最后每一类的得分。
长短期记忆人工神经网络(Long-Short Term Memory,LSTM)通常包括输入层、隐含层以及输出层。其中,输入层由至少一个输入节点组成;当LSTM网络为单向网络时,隐含层仅包括前向隐含层,当LSTM网络为双向网络时,隐含层包括前向隐含层以及后向隐含层。对于每个输入节点分别与前向隐含层节点以及后向隐含层节点连接,用于分别向前向隐含层节点以及后向隐含层节点输出输入数据,每个隐含层中的隐含节点分别与输出节点连接,用于向输出节点输出自己的计算结果,输出节点根据隐含层的输出节点进行计算,并输出数据。
人脸识别模型可采用下述方式进行训练:
构建人脸识别原始模型。其中,人脸识别原始模型可选择CNN、LSTM等基础网络模型。
获取大量的训练样本,训练样本包括:包含人脸关键信息的图像样本以及不包含人脸关键信息的图像样本,并且,训练样本被标记出图像样本中是否包含人脸关键信息。一些实施例中,人脸关键信息可包括指示眼睛、鼻子、嘴的轮廓的图像信息中的至少一个。
将训练样本输入到人脸识别原始模型,由人脸识别原始模型对训练样本是否包含人脸关键信息进行检测,得到检测结果。
利用损失函数对检测结果和每个训练样本的标记结果进行损失值的计算,得到模型的损失值。一些实施例中,可采用交叉熵损失函数、加权损失函数等损失函数进行损失值计算,或者采用多种损失函数组合的方式,计算多种损失值。
判断模型的损失值是否符合模型的收敛条件。
一些实施例中,模型收敛条件可以是,模型的损失值小于或等于预先设定的损失阈值。也就是说,可以将模型的损失值和损失阈值进行比较,若模型的损失值大于损失阈值,则可以判断出模型的损失值不符合模型收敛条件,反之,若模型的损失值小于或等于损失阈值,则可以判断出模型损失值符合模型收敛条件。
需要说明的是,多个训练样本,可以针对每一个训练样本计算得到对应的模型的损失值,这种情况下,只有在每一个训练样本的模型损失值均符合模型收敛条件的情况下才会执行,反之,只要有一个训练样本的模型损失值不符合模型收敛条件,则执行后续步骤。
若模型的损失值符合模型的收敛条件,则说明模型训练结束。训练结束的模型则可用于本实施例提出的电子设备运行模式的控制方法,对输入到模型的图像数据是否包含人脸关键信息的检测。
若模型的损失值不符合模型的收敛条件,则根据模型的损失值计算得到模型的参数更新值,并以模型的参数更新值,更新人脸识别原始模型。并利用更新后的模型,继续对训练样本进行处理,得到检测结果,继续执行后续过程,直至模型的损失值符合模型的收敛条件。
本申请实施例提供的电子设备运行模式的控制方法,参见图4,包括步骤:
S401、上层应用向处理器发送注册请求,该注册请求用于请求注册接近光传感器。
通话应用向处理器发送注册请求;请求注册接近光传感器可以理解成:通话应用请求处理器驱动接近光传感器运行,并请求获取接近光传感器上报的接近事件。
需要说明的是,如前述电子设备的硬件部件的内容,处理器可包括sensor hub和应用处理器(application processor,AP)等多个处理单元。
一些实施例中,上传应用向处理器发送注册请求,可以理解成上层应用向sensorhub发送注册请求。另一些实施例中,上传应用向处理器发送注册请求,可以理解成上层应用向AP发送注册请求。当然,上传应用也可向其他处理单元,如CPU发送注册请求。
图3展示的通话场景中,上层应用为通话应用。用户如图3所示,在电子设备的拨号界面拨号并点击用于触发发起呼叫的按钮后,电子设备执行发起呼叫流程。电子设备的通话应用响应用户的触发操作,执行发起呼叫流程。并且,电子设备的通话应用还向处理器发送注册请求,以请求注册接近光传感器。
S402、处理器驱动接近光传感器运行。
处理器接收上层应用发送的注册请求,驱动接近光传感器运行。具体可如前述电子设备的软件框架的内容,处理器以传感器驱动控制接近光传感器运行。
其中,sensor hub接收上层应用发送的注册请求,驱动接近光传感器运行。
S403、接近光传感器检测到物体靠近,得到接近事件。
其中:接近光传感器如前述电子设备的硬件部件的内容,运行后可进行是否有物体靠近的检测。接近光传感器向外发射红外光,并检测红外反射光。在物体靠近到接近光传感器的设定范围以内,接近光传感器检测到的红外反射光的功率会达到一定值,则确定电子设备的设定范围内有物体。
图3展示的应用场景中,防水袋因表面不完全透明,会遮挡接近光传感器发射的红外光,得到红外反射光。接近光传感器接收红外反射光,确定有物体靠近,生成接近事件。一些实施例中,接近光传感器确定有物体靠近时,可生成高、低电平。一个示例中,接近光传感器确定有物体靠近,则生成高电平。
S404、接近光传感器向处理器上报接近事件。
一些实施例中,sensor hub主要功能是连接并处理来自各种传感器设备的数据。因此,接近光传感器可向sensor hub上报接近事件。
另一些实施例中,接近光传感器也可向其他处理单元上报接近事件,如AP、CPU等。
S405、处理器判断电子设备是否处于通话状态。
其中,处理器判断电子设备未处于通话状态,则执行步骤S406。处理器判断电子设备处于通话状态,则执行步骤S408。
图3展示的通话场景中,通话应用执行发起呼叫流程。处理器可监听通话应用发起的呼叫流程,来确定电子设备是否处于通话状态。当然,在电子设备接听通话的场景中,通话应用执行接收呼叫流程,处理器可监听通话应用的接收呼叫流程,来确定电子设备是否处于通话状态。基于此,处理器可通过监听通话应用的发起呼叫流程或接收呼叫流程,来确定电子设备是否处于通话状态。
一些实施例中,通话应用配置有标志位,该标志位用于指示通话应用是否发起呼叫流程或接收呼叫流程。因此,处理器可通过获取通话应用的标志位的数值,来确定电子设备是否处于通话状态。
需要说明的是,在sensor hub接收到接近光传感器上报的接近事件时,sensorhub可监听通话应用的发起呼叫流程或接收呼叫流程,来确定电子设备是否处于通话状态。
S406、处理器判断电子设备是否处于锁屏界面。
其中,处理器判断电子设备未处于锁屏界面,则执行步骤S407、向上层应用上报接近事件。处理器判断电子设备处于锁屏界面,则执行步骤S410。
电子设备的锁屏应用运行,可执行锁屏流程,处理器也可监听锁屏应用执行的锁屏流程来确定电子设备是否处于锁屏界面。
一些实施例中,锁屏应用配置有标示位,该标志位用于指示锁屏应用是否执行锁屏流程,因此,处理器也读取该标示位的数值,识别读取的数值是否指示出锁屏应用是否执行锁屏流程。
需要说明的是,本步骤的处理器可为sensor hub,由sensor hub判断电子设备是否处于锁屏界面。具体的,sensor hub可监听锁屏应用执行的锁屏流程,来确定手机是否处于锁屏界面。
在sensor hub判断电子设备未处于锁屏界面,sensor hub向上层应用上报接近事件。一些实施例中,接近事件为高、低电平时,sensor hub向上层应用上报高、低电平。
需要说明的是,处理器上报接近事件的上层应用,是步骤S401中提出向处理器发送注册请求,以请求注册接近光传感器的应用。
上层应用接收到接近事件,可根据接近事件执行后续流程。一些实施例中,上层应用为通话应用和锁屏应用,通话应用和锁屏应用接收到接近事件,可根据接近事件向电子设备的处理器(如AP)发送指令,由电子设备的处理器控制电子设备进入防误触模式。另一些实施例中,上层应用为其他应用,如第三方应用,第三方应用接收到接近事件,可执行自身配置的后续流程。
还需要说明的是,图4展示的是步骤S405和步骤S406的执行顺序的一种示例,不构成对步骤S405和步骤S406的执行顺序的限定。一些实施例中,处理器可并行执行步骤S405和步骤S406,或先执行步骤S406再执行步骤S405。
处理器并行执行步骤S405和步骤S406,步骤S405中,处理器判断电子设备不处于通话状态,也向上层应用上报接近事件。
S408、处理器识别电子设备的姿态是否为使用姿态。
其中,处理器识别电子设备的姿态为使用姿态,则执行步骤S409、向上层应用上报接近事件。步骤S409的具体过程,可参见步骤S407的内容,此处不再赘述。
处理器识别电子设备的姿态不是使用姿态,则执行步骤S410。
本步骤中,使用姿态可以理解为一种模拟手机被使用时的姿态,通常是模拟用户手持电子设备靠近耳朵的姿态,属于一种接近直立的姿态。模拟用户手持电子设备靠近耳机的姿态可以包括左手持电子设备靠近耳朵的姿态和右手持电子设备靠近耳朵的姿态。
一些实施例中,处理器可如前述电子设备硬件部件的内容,利用加速度传感器180A计算电子设备的姿态,以确定电子设备的姿态是否为使用姿态。
处理器利用加速度传感器180A计算电子设备的姿态,识别电子设备的姿态是否为使用姿态的方式如下:
测试出左手持电子设备靠近耳朵接听电话时,电子设备的俯仰角(pitch)和翻滚角(roll)的范围(简称第一阈值);以及测试出右手持电子设备靠近耳朵接听电话,电子设备的俯仰角(pitch)和翻滚角(roll)的范围(简称第二阈值)。将测试出的第一阈值和第二阈值保存于电子设备中。其中,俯仰角(pitch)是电子设备绕X轴旋转的角度,翻滚角(roll)是电子设备绕Z轴旋转的角度。
处理器持续获取加速度传感器180A的X轴、Y轴、Z轴的检测值,并利用每一次获取到的加速度传感器180A的X轴、Y轴、Z轴的检测值,分别计算出俯仰角(pitch)以及翻滚角(roll)。
处理器将计算得到的俯仰角(pitch)、翻滚角(roll)分别与第一阈值和第二阈值进行对比。若判断出俯仰角(pitch)和翻滚角(roll)在第一阈值持续一段时间,如3秒,或者,判断出俯仰角(pitch)和翻滚角(roll)在第二阈值持续一段时间,如3秒,则确定出电子设备是使用姿态。
另一些实施例中,处理器也可利用加速度传感器180A和陀螺仪传感器180B计算电子设备的姿态,以确定电子设备的姿态是否为使用姿态。
本步骤中,处理器利用加速度传感器180A和陀螺仪传感器180B计算电子设备的姿态,识别电子设备的姿态是否为使用姿态的方式如下:
与上述实施例相同,电子设备也保存有左手持电子设备靠近耳朵接听电话时,电子设备的俯仰角(pitch)和翻滚角(roll)的范围(简称第一阈值);以及右手持电子设备靠近耳朵接听电话,电子设备的俯仰角(pitch)和翻滚角(roll)的范围(简称第二阈值)。
加速度传感器180A和陀螺仪传感器180B进行检测,得到检测数据。
处理器读取陀螺仪传感器180B、加速度传感器180A的检测数据。利用加速度传感器180A的检测数据,计算得到俯仰角(pitch)以及翻滚角(roll),利用陀螺仪传感器180B的检测数据,计算得到俯仰角速度和翻滚角速度。
采用卡尔曼滤波算法,对翻滚角与翻滚角速度、俯仰角数据与俯仰角速度数据,分别进行滤波处理,可以让加速度传感器180A和陀螺仪传感器180B的检测数据互相补偿,减小测量噪音,使得俯仰角、翻滚角更准确。
处理器将计算得到的俯仰角(pitch)、翻滚角(roll)分别与第一阈值和第二阈值进行对比。若判断出俯仰角(pitch)和翻滚角(roll)在第一阈值持续一段时间,如3秒,或者,判断出俯仰角(pitch)和翻滚角(roll)在第二阈值持续一段时间,如3秒,则确定出电子设备是使用姿态。
需要说明的是,本步骤的处理器可为sensor hub,由sensor hub接收加速度传感器180A和陀螺仪传感器180B的检测数据,并利用检测数据计算电子设备的姿态。
sensor hub识别电子设备的姿态为使用姿态,则向上层应用上报接近事件。
图3展示的通话场景中,处理器可判断电子设备处于通话状态,且识别电子设备的姿态不是使用姿态。
S410、处理器判断环境光亮度是否大于阈值。
如前述电子设备的硬件部件的内容,环境光传感器180D用于感知环境光亮度,得到环境光亮度。处理器获取环境光传感器180D检测的环境光亮度,并判断环境光亮度是否大于阈值。
处理器判断环境光亮度是否大于阈值,可确定电子设备是否处于较亮的环境。其中,处理器判断环境光亮度是否大于阈值原因是:因摄像头在暗光环境下拍摄的图像,是无法有效识别是否包括人脸关键信息,因此,启动摄像头运行以拍摄图像无实际意义。基于此,仅在环境光亮度达到一定阈值,才启动摄像头采集图像。
因不同类型的摄像头的参数不同,因此,能拍摄出人脸轮廓的图像所需要的环境光亮度也有所差异,因此本步骤中的阈值可以理解成是被设置的参数,该参数的设定准则是:环境光亮度足够能让摄像头拍摄到有人脸轮廓的图像。
处理器判断环境光亮度不大于阈值,则执行步骤S411、向上层应用上报接近事件。其中步骤S411的执行过程可参见步骤S407的内容,此处也不再赘述。
处理器判断环境光亮度大于阈值,则执行步骤S412。
一些实施例中,步骤S410的处理器也为sensor hub。sensor hub获取环境光传感器检测的环境光亮度,并判断环境光亮度是否大于阈值,sensor hub判断环境光亮度不大于阈值,向上层应用上报接近事件。
图3展示的通话场景中,若sensor hub判断环境光亮度不大于阈值,则sensor hub向通话应用上报接近事件。
需要说明的是,步骤S410可以是选择性执行的步骤。在一些实施例中,处理器可不执行步骤S410,在执行步骤S406时,识别电子设备处于锁屏界面,执行步骤S412,以及执行步骤S408时,识别电子设备的姿态不是使用姿态,执行步骤S412。
S412、处理器通过摄像头获取图像数据。
处理器确定电子设备的姿态不是使用姿态,环境光亮度大于一定阈值,或者确定电子设备处于锁屏界面,则启动摄像头采集图像。本步骤中,摄像头指代电子设备的前置摄像头。处理器获取前置摄像头采集的图像数据。并且,一些实施例中,本步骤中的处理器也可为sensor hub。
一些实施例中,前置摄像头可拍摄一帧或多帧图像。
并且,前置摄像头拍摄图像的帧数也属于可被设置的参数。可根据前置摄像头的拍摄能力,来设定前置摄像头拍摄图像的帧数。通常情况下,前置摄像头的拍摄能力越强,设定前置摄像头拍摄的图像的帧数越小。基于此,可基于利用前置摄像头拍摄的图像,确定出较为清楚轮廓的图像为基本准则来设定前置摄像头拍摄图像的帧数。
S413、处理器确定图像数据是否包括人脸关键信息。
处理器调用前述内容提出的人脸识别模型,将步骤S412获取的图像数据输入到人脸识别模型,由人脸识别模型识别图像数据是否包括人脸关键信息。
一些实施例中,本步骤中的处理器也可为sensor hub。sensor hub确定图像数据是否包括人脸关键信息。
并且,在前置摄像头拍摄得到多帧图像时,sensor hub通过人脸识别模型来识别每一帧图像的图像数据是否包括人脸关键信息。具体的,前置摄像头得到的每一帧图像,均输入到人脸识别模型,由人脸识别模型确定图像数据是否有人脸关键信息。
处理器确定图像数据不包括人脸关键信息,处理器执行步骤S414、处理器向上层应用上报接近事件。
其中,sensor hub确定图像数据不包括人脸关键信息,向上层应用上报接近事件。图3展示的通话场景中,若前置摄像头拍摄的图像数据不包括人脸关键信息,则sensor hub向通话应用上报接近事件。
在前置摄像头拍摄得到多帧图像时,处理器利用人脸识别模型确定每一帧图像数据均不包含人脸关键信息,向上层应用上报接近事件。
还需要说明的是,上传应用接收到接近事件可执行的流程,可参见步骤S407的内容,此处不再赘述。
处理器确定图像数据包括人脸关键信息,处理器执行步骤S415、处理器控制不上报接近事件。
处理器确定图像数据包括人脸关键信息,处理器可认定电子设备的显示屏前有人脸,进而推断用户在查阅显示屏的屏幕信息,处理器则不向上层应用上报接近事件。如此可以看出:防水袋表面磨损而变得不完全透明,接近光传感误将防水袋当做物体靠近而向处理器上报接近事件。在电子设备处于通话状态或锁屏界面时,处理器可通过前置摄像头拍摄的图像数据,推断出用户在查阅显示屏的屏幕信息,以控制不向上层应用上报接近事件,避免在通话场景或锁屏界面,电子设备因防水袋对接近光传感器的干扰,而因检测到接近事件导致误入防误触模式。
一些实施例中,本步骤中的处理器也可为sensor hub。
还需要说明的是,在前置摄像头拍摄得到多帧图像时,处理器利用人脸识别模型确定一帧图像数据不包含人脸关键信息,则不上报接近事件。
实施例二
实施例一提供的电子设备运行模式的控制方法中,处理器能否准确确定摄像头拍摄的图像数据包括人脸关键信息,受限于电子设备所处环境的亮度。电子设备所处环境的亮度较低,环境光传感器检测的环境光亮度不大于阈值,处理器无法确定摄像头拍摄的图像数据是否包括人脸关键信息。因此,处理器将接近光传感器上报的接近事件向上层应用上报。随之带来的是,假设电子设备放于防水袋中,且在较暗的环境下通话,防水袋对接近光传感器的干扰,使得接近光传感器检测到接近事件,并向处理器上报,处理器再将接近事件向通话应用上报,上层应用可能会依据接近事件而控制电子设备进入防误触模式,导致电子设备无法正常工作。
基于此,本申请实施例提供了另一种电子设备运行模式的控制方法。本实施例提供的电子设备运行模式的控制方法中,利用TOF相机采集深度数据,因TOF相机采集深度数据,不依赖较亮的环境光。因此,在电子设备所处环境的亮度较低时,处理器利用TOF相机采集的深度数据,也可以准确识别是否包括人脸关键信息。
本申请实施例提供的电子设备运行模式的控制方法,也可应用前述内容提出的电子设备。本实施例中,电子设备也可设置人脸识别模型。人脸识别模型具有预测输入到人脸识别模型的深度数据是否包含人脸关键信息。
与实施例一提及的人脸识别模型等同,本实施例的电子设备设置的人脸识别模型也可采用卷积神经网络(Convolutional Neural Network,CNN)、长短期记忆人工神经网络(Long-Short Term Memory,LSTM)等基础网络模型。卷积神经网络和长短期记忆人工神经网络的基本结构可如前述实施例一的内容,此处不再赘述。
本实施例中,人脸识别模型可采用下述方式进行训练:
构建人脸识别原始模型。其中,人脸识别原始模型可选择CNN、LSTM等基础网络模型。
获取大量的训练样本,训练样本包括:包含人脸关键信息的深度数据样本以及不包含人脸关键信息的深度数据样本,并且,训练样本被标记出深度数据样本中是否包含人脸关键信息。并且,训练样本由TOF相机采集得到。一些实施例中,人脸关键信息可包括指示眼睛、鼻子、嘴轮廓的深度数据中的至少一个。
将训练样本输入到人脸识别原始模型,由人脸识别原始模型对训练样本是否包含人脸关键信息进行检测,得到检测结果。
利用损失函数对检测结果和每个训练样本的标记结果进行损失值的计算,得到模型的损失值。一些实施例中,可采用交叉熵损失函数、加权损失函数等损失函数进行损失值计算,或者采用多种损失函数组合的方式,计算多种损失值。
判断模型的损失值是否符合模型的收敛条件。其中,模型收敛条件可如前述实施例一的内容,此处不再赘述。
若模型的损失值符合模型的收敛条件,则说明模型训练结束。训练结束的模型则可用于本实施例提出的电子设备运行模式的控制方法,对输入到模型的深度数据是否包含人脸关键信息的检测。
若模型的损失值不符合模型的收敛条件,则根据模型的损失值计算得到模型的参数更新值,并以模型的参数更新值,更新人脸识别原始模型。并利用更新后的模型,继续对训练样本进行处理,得到检测结果,继续执行后续过程,直至模型的损失值符合模型的收敛条件。
图5展示了本申请实施例提供的一种电子设备运行模式的控制方法。如图5所示,本申请实施例提供的电子设备运行模式的控制方法,包括步骤:
S501、上层应用向处理器发送注册请求,该注册请求用于请求注册接近光传感器。
S502、处理器驱动接近光传感器运行。
S503、接近光传感器检测到物体靠近,得到接近事件。
S504、接近光传感器向处理器上报接近事件。
需要说明的是,步骤S501至步骤S504的具体实现方式,可如实施例一提供的步骤S401至步骤S404的内容,此处不再赘述。
S505、处理器判断电子设备是否处于通话状态。
其中,处理器判断电子设备未处于通话状态,则执行步骤S506。处理器判断电子设备处于通话状态,则执行步骤S508。
S506、处理器判断电子设备是否处于锁屏界面。
其中,处理器判断电子设备未处于锁屏界面,则执行步骤S507、向上层应用上报接近事件。处理器判断电子设备处于锁屏界面,则执行步骤S510。
步骤S505和步骤S506的具体实现方式,可如实施例一提供的步骤S405和步骤S406的内容,此处不再赘述。
需要说明的是,图5展示的是步骤S505和步骤S506的执行顺序的一种示例,不构成对步骤S505和步骤S506的执行顺序的限定。一些实施例中,处理器可并行执行步骤S505和步骤S506,或先执行步骤S506再执行步骤S505。
S508、处理器识别电子设备的姿态是否为使用姿态。
一些实施例中,处理器可利用加速度传感器180A计算电子设备的姿态,以确定电子设备的姿态是否为使用姿态。
另一些实施例中,处理器也可利用加速度传感器180A和陀螺仪传感器180B计算电子设备的姿态,以确定电子设备的姿态是否为使用姿态。
处理器利用加速度传感器180A,或利用加速度传感器180A和陀螺仪传感器180B计算电子设备的姿态的方式,可参见实施例一的步骤S408的内容,此处不再赘述。
其中,处理器识别电子设备的姿态为使用姿态,则执行步骤S509、向上层应用上报接近事件。处理器识别电子设备的姿态不是使用姿态,则执行步骤S510。
S510、处理器通过TOF相机获取深度数据。
处理器识别电子设备处于通话状态,且电子设备的姿态不是使用姿态,或者判断电子设备处于锁屏界面,启动TOF相机采集深度数据。当然,TOF相机一般指代电子设备的前置TOF相机。并且,本步骤中的处理器也可以为sensor hub。
前置TOF相机采集深度数据的具体实施方式可如前述电子设备的硬件部件的内容,此处不再赘述。
一些实施例中,前置TOF相机可拍摄一个或多个深度数据,且多个深度数据可由前置TOF相机一次采集得到或多次采集得到。
前置TOF相机采集深度数据的个数属于可被设置的参数。可根据前置TOF相机的能力,来设定前置TOF相机采集深度数据的个数。通常情况下,前置TOF相机的能力越强,设定前置TOF相机采集深度数据的个数越小。
S511、处理器确定深度数据是否包含人脸关键信息。
处理器调用前述内容提出的人脸识别模型,将步骤S510获取的深度数据输入到人脸识别模型,由人脸识别模型识别深度数据是否包括人脸关键信息。
一些实施例中,本步骤中的处理器也可为sensor hub。sensor hub确定深度数据是否包括人脸关键信息。
并且,在前置TOF相机采集得到多个深度数据时,sensor hub通过人脸识别模型来识别每一个深度数据是否包括人脸关键信息。具体的,前置TOF相机采集的每一个深度数据,均输入到人脸识别模型,由人脸识别模型确定每一个深度数据是否有人脸关键信息。
处理器确定深度数据不包括人脸关键信息,处理器执行步骤S512、处理器向上层应用上报接近事件。
其中,sensor hub确定深度数据不包括人脸关键信息,向上层应用上报接近事件。
处理器确定深度数据包括人脸关键信息,处理器执行步骤S513、处理器控制不上报接近事件。
需要说明的是,处理器确定深度数据包括人脸关键信息,处理器可认定电子设备的显示屏前有人脸,进而推断用户在查阅显示屏的屏幕信息,处理器则不向上层应用上报接近事件。如此可以看出:防水袋表面磨损而变得不完全透明,接近光传感误将防水袋当做物体靠近而向处理器上报接近事件。在电子设备处于通话状态或锁屏界面时,处理器可通过前置TOF相机采集的深度数据,推断出用户在查阅显示屏的屏幕信息,以控制不向上层应用上报接近事件,避免在通话场景或锁屏界面,电子设备因防水袋对接近光传感器的干扰,而因检测到接近事件导致误入防误触模式。
实施例三
本申请实施例提供了另一种电子设备运行模式的控制方法。本实施例提供的电子设备运行模式的控制方法中,利用结构光相机采集深度数据,结构光相机采集深度数据,也不依赖较亮的环境光。因此,在电子设备所处环境的亮度较低时,处理器利用结构光相机采集的深度数据,也可以准确识别是否包括人脸关键信息。
本申请实施例提供的电子设备运行模式的控制方法,也可应用前述内容提出的电子设备。本实施例中,电子设备也可设置人脸识别模型。人脸识别模型具有预测输入到人脸识别模型的深度数据是否包含人脸关键信息。
与实施例一提及的人脸识别模型等同,本实施例的电子设备设置的人脸识别模型也可采用卷积神经网络(Convolutional Neural Network,CNN)、长短期记忆人工神经网络(Long-Short Term Memory,LSTM)等基础网络模型。卷积神经网络和长短期记忆人工神经网络的基本结构可如前述实施例一的内容,此处不再赘述。
本实施例中,人脸识别模型可采用下述方式进行训练:
构建人脸识别原始模型。其中,人脸识别原始模型可选择CNN、LSTM等基础网络模型。
获取大量的训练样本,训练样本包括:包含人脸关键信息的深度数据样本以及不包含人脸关键信息的深度数据样本,训练样本被标记出深度数据样本中是否包含人脸关键信息。并且,训练样本由结构光相机采集得到。一些实施例中,人脸关键信息可包括指示眼睛、鼻子、嘴轮廓的深度数据中的至少一个。
将训练样本输入到人脸识别原始模型,由人脸识别原始模型对训练样本是否包含人脸关键信息进行检测,得到检测结果。
利用损失函数对检测结果和每个训练样本的标记结果进行损失值的计算,得到模型的损失值。一些实施例中,可采用交叉熵损失函数、加权损失函数等损失函数进行损失值计算,或者采用多种损失函数组合的方式,计算多种损失值。
判断模型的损失值是否符合模型的收敛条件。其中,模型收敛条件可如前述实施例一的内容,此处不再赘述。
若模型的损失值符合模型的收敛条件,则说明模型训练结束。训练结束的模型则可用于本实施例提出的电子设备运行模式的控制方法,对输入到模型的深度数据是否包含人脸关键信息的检测。
若模型的损失值不符合模型的收敛条件,则根据模型的损失值计算得到模型的参数更新值,并以模型的参数更新值,更新人脸识别原始模型。并利用更新后的模型,继续对训练样本进行处理,得到检测结果,继续执行后续过程,直至模型的损失值符合模型的收敛条件。
图6展示了本申请实施例提供的一种电子设备运行模式的控制方法。如图6所示,本申请实施例提供的电子设备运行模式的控制方法,包括步骤:
S601、上层应用向处理器发送注册请求,该注册请求用于请求注册接近光传感器。
S602、处理器驱动接近光传感器运行。
S603、接近光传感器检测到物体靠近,得到接近事件。
S604、接近光传感器向处理器上报接近事件。
需要说明的是,步骤S601至步骤S604的具体实现方式,可如实施例一提供的步骤S401至步骤S404的内容,此处不再赘述。
S605、处理器判断电子设备是否处于通话状态。
其中,处理器判断电子设备未处于通话状态,则执行步骤S606。处理器判断电子设备处于通话状态,则执行步骤S608。
S606、处理器判断电子设备是否处于锁屏界面。
其中,处理器判断电子设备未处于锁屏界面,则执行步骤S607、向上层应用上报接近事件。处理器判断电子设备处于锁屏界面,则执行步骤S610。
步骤S605和步骤S606的具体实现方式,可如实施例一提供的步骤S405和步骤S406的内容,此处不再赘述。
需要说明的是,图6展示的是步骤S605和步骤S606的执行顺序的一种示例,不构成对步骤S605和步骤S606的执行顺序的限定。一些实施例中,处理器可并行执行步骤S606和步骤S605,或先执行步骤S606再执行步骤S605。
S608、处理器识别电子设备的姿态是否为使用姿态。
一些实施例中,处理器可利用加速度传感器180A计算电子设备的姿态,以确定电子设备的姿态是否为使用姿态。
另一些实施例中,处理器也可利用加速度传感器180A和陀螺仪传感器180B计算电子设备的姿态,以确定电子设备的姿态是否为使用姿态。
处理器利用加速度传感器180A,或利用加速度传感器180A和陀螺仪传感器180B计算电子设备的姿态的方式,可参见实施例一的步骤S408的内容,此处不再赘述。
其中,处理器识别电子设备的姿态为使用姿态,则执行步骤S609、向上层应用上报接近事件。处理器识别电子设备的姿态不是使用姿态,则执行步骤S610。
S610、处理器通过结构光相机获取深度数据。
处理器识别电子设备处于通话状态,且电子设备的姿态不是使用姿态,或者判断电子设备处于锁屏界面,启动结构光相机采集深度数据。当然,结构光相机一般指代电子设备的前置结构光相机。并且,本步骤中的处理器也可以为sensor hub。
前置结构光相机采集深度数据的具体实施方式可如前述电子设备的硬件部件的内容,此处不再赘述。
一些实施例中,前置结构光相机可拍摄一个或多个深度数据,且多个深度数据可由前置结构光相机一次采集得到或多次采集得到。
前置结构光相机采集深度数据的个数属于可被设置的参数。可根据前置结构光相机的能力,来设定前置结构光相机采集深度数据的个数。通常情况下,前置结构光相机的能力越强,设定前置结构光相机采集深度数据的个数越小。
S611、处理器确定深度数据是否包含人脸关键信息。
处理器调用前述内容提出的人脸识别模型,将步骤S610获取的深度数据输入到人脸识别模型,由人脸识别模型识别深度数据是否包括人脸关键信息。
一些实施例中,本步骤中的处理器也可为sensor hub。sensor hub确定深度数据是否包括人脸关键信息。
并且,在前置结构光相机采集得到多个深度数据时,sensor hub通过人脸识别模型来识别每一个深度数据是否包括人脸关键信息。具体的,前置结构光相机采集的每一个深度数据,均输入到人脸识别模型,由人脸识别模型确定每一个深度数据是否有人脸关键信息。
处理器确定深度数据不包括人脸关键信息,处理器执行步骤S612、处理器向上层应用上报接近事件。
其中,sensor hub确定深度数据不包括人脸关键信息,向上层应用上报接近事件。
处理器确定深度数据包括人脸关键信息,处理器执行步骤S613、处理器控制不上报接近事件。
需要说明的是,处理器确定深度数据包括人脸关键信息,处理器可认定电子设备的显示屏前有人脸,进而推断用户在查阅显示屏的屏幕信息,处理器则不向上层应用上报接近事件。如此可以看出:防水袋表面磨损而变得不完全透明,接近光传感误将防水袋当做物体靠近而向处理器上报接近事件。在电子设备处于通话状态或锁屏界面时,处理器可通过前置结构光相机采集的深度数据,推断出用户在查阅显示屏的屏幕信息,以控制不向上层应用上报接近事件,避免在通话场景或锁屏界面,电子设备因防水袋对接近光传感器的干扰,而因检测到接近事件导致误入防误触模式。
本申请另一实施例还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有指令,当其在计算机或处理器上运行时,使得计算机或处理器执行上述任一个方法中的一个或多个步骤。
计算机可读存储介质可以是非临时性计算机可读存储介质,例如,非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本申请另一实施例还提供了一种包含指令的计算机程序产品。当该计算机程序产品在计算机或处理器上运行时,使得计算机或处理器执行上述任一个方法中的一个或多个步骤。

Claims (17)

1.一种电子设备运行模式的控制方法,其特征在于,应用于电子设备,所述电子设备包括接近光传感器、前置摄像装置以及显示屏,所述电子设备运行模式的控制方法,包括:
通过所述接近光传感器检测物体;
确定所述接近光传感器检测到的物体距离所述电子设备在设定范围以内、且所述电子设备处于预设状态;其中,所述预设状态包括:所述电子设备处于通话状态、且所述电子设备的姿态不为使用姿态,或者,所述电子设备的显示屏呈现锁屏界面;所述接近光传感器检测到物体距离所述电子设备在设定范围以内,且所述电子设备处于预设状态时,所述电子设备未处于防误触模式;所述使用姿态为接近直立的姿态,用于模拟电子设备处于被用户手持且靠近耳朵时的姿态;
通过所述前置摄像装置获取数据;
确定所述数据包括人脸关键信息,控制所述电子设备不进入防误触模式。
2.根据权利要求1所述的方法,其特征在于,所述电子设备置于防水袋内,所述防水袋的表面不完全透明。
3.根据权利要求1或2所述的方法,其特征在于,所述通过所述前置摄像装置获取数据,包括:
通过所述前置摄像装置获取图像数据。
4.根据权利要求1或2所述的方法,其特征在于,所述通过所述前置摄像装置获取数据,包括:
通过所述前置摄像装置获取深度数据。
5.根据权利要求3所述的方法,其特征在于,所述通过所述前置摄像装置获取图像数据之前,还包括:
确定所述电子设备所处环境的环境光亮度大于阈值。
6.根据权利要求5所述的方法,其特征在于,还包括:
确定所述环境光亮度不大于阈值,控制所述电子设备进入防误触模式。
7.根据权利要求1所述的方法,其特征在于,所述控制所述电子设备不进入防误触模式,包括:
控制所述电子设备的处理器不向上层应用上报接近事件,所述接近事件由所述接近光传感器检测到的物体距离所述电子设备在设定范围以内而生成。
8.根据权利要求1所述的方法,其特征在于,还包括:
确定所述数据不包括人脸关键信息,控制所述电子设备进入防误触模式。
9.根据权利要求1所述的方法,其特征在于,还包括:
确定所述接近光传感器检测到的物体距离所述电子设备在设定范围以内,所述电子设备处于通话状态、且所述电子设备的姿态为使用姿态,控制所述电子设备进入防误触模式。
10.根据权利要求6、8或9所述的方法,其特征在于,所述控制所述电子设备进入防误触模式,包括:
控制所述电子设备的处理器向上层应用上报接近事件,所述接近事件由所述接近光传感器检测到的物体距离所述电子设备在设定范围以内而生成。
11.根据权利要求1所述的方法,其特征在于,还包括:
确定所述接近光传感器检测到的物体距离所述电子设备在设定范围以内、且所述电子设备不处于所述预设状态,控制所述电子设备的处理器向上层应用上报接近事件,所述接近事件由所述接近光传感器检测到的物体距离所述电子设备在设定范围以内而生成。
12.根据权利要求1所述的方法,其特征在于,所述确定所述数据包括人脸关键信息,包括:
调用人脸识别模型处理所述数据,得到处理结果,所述处理结果指示所述数据包括人脸关键信息。
13.根据权利要求1所述的方法,其特征在于,所述电子设备是否处于通话状态的检测方式,包括:
监听所述电子设备的通话应用的发起呼叫流程或接收呼叫流程,以确定所述电子设备是否处于通话状态。
14.根据权利要求1所述的方法,其特征在于,所述电子设备的姿态是否为使用姿态的检测方式,包括:
利用所述电子设备的加速度传感器的检测值,计算所述电子设备的俯仰角和翻滚角;
确定所述电子设备的俯仰角和翻滚角是否持续满足姿态阈值范围预设时长,所述姿态阈值包括:使用姿态对应的俯仰角范围,和使用姿态对应的翻滚角范围。
15.根据权利要求1所述的方法,其特征在于,所述电子设备是否处于锁屏界面的检测方式,包括:
监听所述电子设备的锁屏应用的锁屏流程,以确定所述电子设备是否处于锁屏界面。
16.一种电子设备,其特征在于,包括:
一个或多个处理器、存储器、前置摄像装置,显示屏和接近光传感器;
所述存储器、所述前置摄像装置、所述接近光传感器,所述显示屏与所述一个或多个所述处理器耦合,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,当所述一个或多个处理器执行所述计算机指令时,所述电子设备执行如权利要求1至15任意一项所述的电子设备运行模式的控制方法。
17.一种计算机可读存储介质,其特征在于,用于存储计算机程序,所述计算机程序被执行时,具体用于实现如权利要求1至15任意一项所述的电子设备运行模式的控制方法。
CN202210025952.3A 2022-01-11 2022-01-11 电子设备运行模式的控制方法、电子设备及可读存储介质 Active CN114125148B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210025952.3A CN114125148B (zh) 2022-01-11 2022-01-11 电子设备运行模式的控制方法、电子设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210025952.3A CN114125148B (zh) 2022-01-11 2022-01-11 电子设备运行模式的控制方法、电子设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN114125148A CN114125148A (zh) 2022-03-01
CN114125148B true CN114125148B (zh) 2022-06-24

Family

ID=80363944

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210025952.3A Active CN114125148B (zh) 2022-01-11 2022-01-11 电子设备运行模式的控制方法、电子设备及可读存储介质

Country Status (1)

Country Link
CN (1) CN114125148B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116708661B (zh) * 2022-10-26 2024-05-03 荣耀终端有限公司 一种音频通话的处理方法、电子设备及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109195213A (zh) * 2018-11-26 2019-01-11 努比亚技术有限公司 移动终端屏幕控制方法、移动终端及计算机可读存储介质

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8593558B2 (en) * 2010-09-08 2013-11-26 Apple Inc. Camera-based orientation fix from portrait to landscape
CN106201296A (zh) * 2015-04-30 2016-12-07 小米科技有限责任公司 实现防误触的方法及装置
KR20170017280A (ko) * 2015-08-06 2017-02-15 엘지전자 주식회사 이동단말기 및 그 제어방법
CN106303021A (zh) * 2016-08-12 2017-01-04 广东欧珀移动通信有限公司 屏幕工作状态控制方法及装置
CN109557999B (zh) * 2017-09-25 2022-08-26 北京小米移动软件有限公司 亮屏控制方法、装置及存储介质
CN108418953B (zh) * 2018-02-05 2020-04-24 Oppo广东移动通信有限公司 终端的屏幕控制方法和装置、可读存储介质、终端
CN108919952A (zh) * 2018-06-28 2018-11-30 郑州云海信息技术有限公司 一种智能终端屏幕的控制方法、装置、设备及存储介质
CN109784028B (zh) * 2018-12-29 2021-05-11 江苏云天励飞技术有限公司 人脸解锁方法及相关装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109195213A (zh) * 2018-11-26 2019-01-11 努比亚技术有限公司 移动终端屏幕控制方法、移动终端及计算机可读存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
zola.《华为nova4怎么关闭防误触模式》.《智能新闻首页》.2019, *

Also Published As

Publication number Publication date
CN114125148A (zh) 2022-03-01

Similar Documents

Publication Publication Date Title
CN115866121A (zh) 应用界面交互方法、电子设备和计算机可读存储介质
CN112527094A (zh) 一种人体姿态检测方法及电子设备
CN113596242B (zh) 传感器调整方法、装置、电子设备和存储介质
CN110059686B (zh) 字符识别方法、装置、设备及可读存储介质
CN113747085A (zh) 拍摄视频的方法和装置
CN114365482A (zh) 一种基于Dual Camera+TOF的大光圈虚化方法
CN114070928B (zh) 一种防误触的方法及电子设备
CN111741284A (zh) 图像处理的装置和方法
CN111542802A (zh) 一种屏蔽触摸事件的方法及电子设备
CN114510174A (zh) 一种界面显示方法及电子设备
WO2024016564A1 (zh) 二维码识别方法、电子设备以及存储介质
US20230351570A1 (en) Image processing method and apparatus
CN115967851A (zh) 快速拍照方法、电子设备及计算机可读存储介质
CN114125148B (zh) 电子设备运行模式的控制方法、电子设备及可读存储介质
CN115150542B (zh) 一种视频防抖方法及相关设备
CN114205512B (zh) 拍摄方法和装置
CN113168257A (zh) 锁定触控操作的方法及电子设备
CN111249728B (zh) 一种图像处理方法、装置及存储介质
CN116152122B (zh) 图像处理方法和电子设备
CN115131789A (zh) 文字识别方法、设备及存储介质
CN115032640B (zh) 手势识别方法和终端设备
CN114079726A (zh) 一种拍摄方法及设备
CN111475363B (zh) 卡死识别方法及电子设备
CN110087002B (zh) 一种拍摄方法及终端设备
CN114245011B (zh) 图像处理方法、用户界面及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant