CN118226993A - 辅助健身的方法、装置和电子设备 - Google Patents
辅助健身的方法、装置和电子设备 Download PDFInfo
- Publication number
- CN118226993A CN118226993A CN202211634872.4A CN202211634872A CN118226993A CN 118226993 A CN118226993 A CN 118226993A CN 202211634872 A CN202211634872 A CN 202211634872A CN 118226993 A CN118226993 A CN 118226993A
- Authority
- CN
- China
- Prior art keywords
- window
- user
- display screen
- action
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 75
- 230000009471 action Effects 0.000 claims abstract description 179
- 230000008859 change Effects 0.000 claims abstract description 22
- 238000012545 processing Methods 0.000 claims description 27
- 238000004590 computer program Methods 0.000 claims description 13
- 238000007654 immersion Methods 0.000 abstract description 9
- 230000000875 corresponding effect Effects 0.000 description 50
- 230000033001 locomotion Effects 0.000 description 28
- 239000010410 layer Substances 0.000 description 19
- 238000007726 management method Methods 0.000 description 18
- 238000004891 communication Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 12
- 238000003860 storage Methods 0.000 description 10
- 230000000694 effects Effects 0.000 description 8
- 210000003414 extremity Anatomy 0.000 description 8
- 238000010295 mobile communication Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000003475 lamination Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 229920001621 AMOLED Polymers 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000009191 jumping Effects 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 241001122767 Theaceae Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 210000000577 adipose tissue Anatomy 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000012792 core layer Substances 0.000 description 1
- 239000013078 crystal Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 210000004247 hand Anatomy 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000011065 in-situ storage Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 230000003238 somatosensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 210000000707 wrist Anatomy 0.000 description 1
Abstract
本申请实施例提供了一种辅助健身的方法,应用于第一设备,例如大屏设备,该方法包括:显示两个窗口,两个窗口中分别包括本地视频图像和用户动作图像,两个窗口的显示方式可以为分屏显示方式或者小窗显示方式;当用户位置发生改变时,窗口的位置可以自动根据用户位置的变化而相应地变化。通过本申请实施例提供的辅助健身的方法,能够提高用户锻炼时的沉浸感,优化用户体验。
Description
技术领域
本申请实施例涉及电子设备领域,更具体的,涉及一种辅助健身的方法、装置和电子设备。
背景技术
随着科技的发展,运动健身的方式也越来越丰富,不再仅局限于健身房等特定运动场所的运动,用户可以将健身场所转移到家中,将电视机、投影仪等作为主屏幕,跟随视频课程或线上直播等进行锻炼。但是,由于家居设备的摆放以及家居空间的限制,用户常常无法直面显示屏,从而难以清晰地看到显示屏上的各个部分显示的图像,居家锻炼的沉浸感体验较差。
发明内容
本申请实施例提供一种辅助健身的方法、装置和电子设备,能够提高用户锻炼时的沉浸感。
第一方面,提供了一种辅助健身的方法,应用于第一设备,所述方法包括:显示第一窗口和第二窗口,所述第一窗口包括本地视频图像,所述第二窗口包括用户动作图像,所述第一窗口和所述第二窗口分屏显示于所述第一设备的显示屏,或者,所述第一窗口铺满所述显示屏,所述第二窗口悬浮于所述第一窗口上,且所述第二窗口小于所述第一窗口,或者,所述第二窗口铺满所述显示屏,所述第一窗口悬浮于所述第二窗口上,且所述第一窗口小于所述第二窗口;根据用户相对于所述显示屏的位置变化,移动所述第一窗口和/或所述第二窗口。
在本申请提供的实施例中,在用户跟随视频课程进行健身锻炼时,第一窗口和/或第二窗口的位置可以自动跟随用户位置的改变而相应地改变,能够使得用户在锻炼过程中所处位置发生变化时,依旧可以清晰地看到各个窗口所显示的图像,从而能够提高用户锻炼时的沉浸感,优化用户体验。
结合第一方面,在第一方面的某些实现方式中,当所述第一窗口和所述第二窗口的显示方式为分屏显示,或者,所述第二窗口铺满显示屏,所述第一窗口悬浮于所述第二窗口上,且所述用户动作图像中的骨架信息与所述本地视频图像中的骨架信息的匹配程度小于第一预设阈值时,所述方法还包括:将所述第一窗口和所述第二窗口的显示方式切换为所述第一窗口铺满所述显示屏,所述第二窗口悬浮于所述第一窗口上。
在本申请提供的实施例中,在用户动作图像中的骨架信息与本地视频图像中的骨架信息的匹配程度小于第一预设阈值,也就是用户所做的动作不够规范时,第一设备可以自动切换窗口的显示方式,使得本地视频图像全屏显示,而用户动作图像以小窗方式显示,从而使得用户能够更清楚地看到本地视频图像中教练的健身动作,避免出现因看不清视频课程的动作而导致动作不规范,或者因对动作不熟悉而导致跟不上视频课程的问题,为用户提供视觉提醒和引导,提升锻炼的沉浸感,优化用户体验。
结合第一方面,在第一方面的某些实现方式中,所述第一窗口还包括第一指示信息,所述第一指示信息用于指示用户的动作不规范。
在本申请提供的实施例中,在用户动作不够规范时,在第一窗口上还可以显示第一指示信息用于提醒用户,使用户更清楚地知道动作存在的问题,进一步优化用户体验。
结合第一方面,在第一方面的某些实现方式中,在播放所述本地视频图像中的下一个动作之前,所述方法还包括:确定所述用户动作图像中的骨架信息与所述下一个动作对应的骨架信息的匹配程度大于或等于第二预设阈值。
在本申请提供的实施例中,在本地视频图像中的动作切换之前,第一设备可以将用户当前的骨架信息与本地视频图像中的下一个动作的骨架信息进行匹配,在匹配程度大于或等于第二预设阈值时,继续播放下一个动作,相应地,在匹配程度小于第二预设阈值时,则不播放下一个动作。能够防止出现前后两个动作对应的用户姿态差异过大,例如用户需要由卧姿切换为站姿,而视频动作切换过快,用户来不及跟上下一个动作的问题,优化视频对用户动作的引导,进一步优化用户体验。
结合第一方面,在第一方面的某些实现方式中,所述第二预设阈值小于所述第一预设阈值。
在本申请提供的实施例中,在动作切换时,用户的骨架信息与本地视频图像中的骨架信息的匹配程度大于或等于第二预设阈值,能够使得用户下一个动作前的准备姿态便于使用户执行下一个动作,而在识别用户动作是否规范时,对用户的骨架信息与本地视频图像中的骨架信息的匹配程度要求较高,以便于更好地引导用户动作,提升锻炼效果。第二预设阈值小于第一预设阈值能够使得第一设备在不同的场景下对用户动作做出不同的评判和响应,进一步优化用户体验。
结合第一方面,在第一方面的某些实现方式中,所述方法还包括:向第二设备发送第二指示信息,所述第二指示信息用于指示所述第二设备在关键词处发送第三指示信息,所述第三指示信息用于指示所述用户执行的动作需与所述关键词相对应。
结合第一方面,在第一方面的某些实现方式中,所述关键词包括方位和肢体部位。
在本申请提供的实施例中,在用户佩戴有第二设备时,第二设备和第一设备可以相配合,共同对用户动作进行引导。第一设备可以向第二设备发送第二指示信息,指示第二设备发送第三指示信息,来引导用户使得用户动作和视频动作相匹配,例如,该第二设备为智能手表时,第一设备可以指示智能手表在关键词处振动提示,该第二设备为耳机时,第一设备可以指示耳机在关键词处切换声道进行视频语音的播放,或者提高关键词处的音量来进行提示。从而能够结合视频、语音和体感等多方位体验,更全面地引导用户的健身动作,提高视频跟练效果,优化用户体验。
结合第一方面,在第一方面的某些实现方式中,所述第一设备为大屏设备,所述第二设备为可穿戴设备。
第二方面,提供了一种辅助健身的方法,应用于第二设备,包括:接收来自第一设备的第二指示信息,所述第二指示信息用于指示所述第二设备在关键词处发送第三指示信息,所述第三指示信息用于指示用户执行的动作需与所述关键词相对应;向所述用户发送所述第三指示信息。
结合第二方面,在第二方面的某些实现方式中,所述关键词包括方位和肢体部位。
第三方面,提供了一种辅助健身的装置,包括:显示单元,用于显示第一窗口和第二窗口,所述第一窗口包括本地视频图像,所述第二窗口包括用户动作图像,所述第一窗口和所述第二窗口分屏显示于第一设备的显示屏,或者,所述第一窗口铺满所述显示屏,所述第二窗口悬浮于所述第一窗口上,且所述第二窗口小于所述第一窗口,或者,所述第二窗口铺满所述显示屏,所述第一窗口悬浮于所述第二窗口上,且所述第一窗口小于所述第二窗口;处理单元,用于根据用户相对于所述显示屏的位置变化,移动所述第一窗口和/或所述第二窗口。
结合第三方面,在第三方面的某些实现方式中,当所述第一窗口和所述第二窗口的显示方式为分屏显示,或者,所述第二窗口铺满所述显示屏,所述第一窗口悬浮于所述第二窗口上,且所述用户动作图像中的骨架信息与所述本地视频图像中的骨架信息的匹配程度小于第一预设阈值时,所述处理单元还用于:将所述第一窗口和所述第二窗口的显示方式切换为所述第一窗口铺满所述显示屏,所述第二窗口悬浮于所述第一窗口上。
结合第三方面,在第三方面的某些实现方式中,所述第一窗口还包括第一指示信息,所述第一指示信息用于指示用户的动作不规范。
结合第三方面,在第三方面的某些实现方式中,在播放所述本地视频图像中的下一个动作之前,所述处理单元还用于:确定所述用户动作图像中的骨架信息与所述下一个动作对应的骨架信息的匹配程度大于或等于第二预设阈值。
结合第三方面,在第三方面的某些实现方式中,所述第二预设阈值小于所述第一预设阈值。
结合第三方面,在第三方面的某些实现方式中,所述装置还包括:发送单元,用于向第二设备发送第二指示信息,所述第二指示信息用于指示所述第二设备在关键词处发送第三指示信息,所述第三指示信息用于指示所述用户执行的动作需与所述关键词相对应。
结合第三方面,在第三方面的某些实现方式中,所述关键词包括方位和肢体部位。
结合第三方面,在第三方面的某些实现方式中,所述第一设备为大屏设备,所述第二设备为可穿戴设备。
第四方面,提供了一种辅助健身的装置,包括:接收单元,用于接收来自第一设备的第二指示信息,所述第二指示信息用于指示第二设备在关键词处发送第三指示信息,所述第三指示信息用于指示用户执行的动作需与所述关键词相对应;发送单元,用于向所述用户发送所述第三指示信息。
结合第四方面,在第四方面的某些实现方式中,所述关键词包括方位和肢体部位。
第五方面,提供了一种电子设备,包括:处理器和存储器,所述存储器用于存储计算机程序,所述处理器用于从所述存储器中调用并运行所述计算机程序,使得所述电子设备执行如上述第一方面以及第一方面的任意一种可能的实现方式中所述的辅助健身的方法,或者执行如上述第二方面以及第二方面的任意一种可能的实现方式中所述的辅助健身的方法。
第六方面,提供了一种芯片***,所述芯片***包括至少一个处理器,当程序指令在所述至少一个处理器中执行时,使得如上述第一方面以及第一方面的任意一种可能的实现方式中所述的辅助健身的方法,或者如上述第二方面以及第二方面的任意一种可能的实现方式中所述的辅助健身的方法得以实现。
第七方面,提供了一种计算机程序存储介质,所述计算机可读介质存储有程序代码,当所述程序代码在计算机上运行时,使得所述计算机执行如上述第一方面以及第一方面的任意一种可能的实现方式中所述的辅助健身的方法,或者执行如上述第二方面以及第二方面的任意一种可能的实现方式中所述的辅助健身的方法。
第八方面,提供了一种计算机程序产品,所述计算机程序产品包括计算机程序代码,当所述计算机程序代码在计算机上运行时,使得所述计算机执行如上述第一方面或第一方面任意一种可能的实现方式中所述的辅助健身的方法,或者执行如上述第二方面或第二方面任意一种可能的实现方式中所述的辅助健身的方法。
附图说明
图1是一种电子设备的硬件结构示意图。
图2是一种电子设备的软件结构示意图。
图3是本申请实施例提供的一种***架构示意图。
图4是本申请实施例提供的一种选课方法对应的用户界面。
图5是本申请实施例提供的一种辅助健身的方法对应的用户界面。
图6是本申请实施例提供的一种辅助健身的方法对应的用户界面。
图7是本申请实施例提供的一种骨架识别方法对应的用户界面。
图8是本申请实施例提供的一种辅助健身的方法对应的用户界面。
图9是本申请实施例提供的一种辅助健身的方法对应的用户界面。
图10是本申请实施例提供的一种辅助健身的方法的流程示意图。
图11是本申请实施例提供的一种辅助健身的装置的结构框图。
图12是本申请实施例提供的一种电子设备的结构框图。
具体实施方式
下面将结合附图,对本申请实施例中的技术方案进行描述。
在本说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。
在本申请的各个实施例中,第一、第二等只是为了表示多个对象是不同的。例如第一设备和第二设备只是为了表示出不同的设备。而不应该对设备的本身和数量等产生任何影响,上述的第一、第二等不应该对本申请的实施例造成任何限制。
“用于指示”可以包括用于直接指示和用于间接指示。当描述某一指示信息用于指示A时,可以包括该指示信息直接指示A或间接指示A,而并不代表该指示信息中一定携带有A。“当……时”、“在……的情况下”、“若”以及“如果”等描述均指在某种客观情况下设备会做出相应的处理,并非是限定时间,且也不要求设备在实现时一定要有判断的动作,也不意味着存在其它限定。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
对于名词的数目,除非特别说明,表示“单数名词或复数名词”,即“一个或多个”。“至少一个”是指一个或者多个,“多个”是指两个或两个以上,“一种或多种”中的“多种”是指也类似两种或两种以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A、B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。
示例性地,图1是一种电子设备100的硬件结构示意图。电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,指南针190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。
可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的部件,也可以集成在一个或多个处理器中。在一些实施例中,电子设备100也可以包括一个或多个处理器110。其中,控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。在其他一些实施例中,处理器110中还可以设置存储器,用于存储指令和数据。示例性地,处理器110中的存储器可以为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。这样就避免了重复存取,减少了处理器110的等待时间,因而提高了电子设备100处理数据或执行指令的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路间(inter-integrated circuit,I2C)接口,集成电路间音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,SIM卡接口,和/或USB接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与***设备之间传输数据。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为可穿戴设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,WiFi)网络),蓝牙(bluetooth,BT),全球导航卫星***(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像、视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD)、有机发光二极管(organic light-emittingdiode,OLED)、有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode,AMOLED)、柔性发光二极管(flex light-emittingdiode,FLED)、Miniled、MicroLed、Micro-oLed、量子点发光二极管(quantum dot lightemitting diodes,QLED)等。电子设备100的显示屏194可以是一种柔性屏。
电子设备100可以通过ISP、摄像头193、视频编解码器、GPU、显示屏194以及应用处理器等实现拍摄功能。ISP用于处理摄像头193反馈的数据。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储一个或多个计算机程序,该一个或多个计算机程序包括指令。处理器110可以通过运行存储在内部存储器121的上述指令,从而使得电子设备100执行本申请一些实施例中所提供的方法,以及各种应用以及数据处理等。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作***;该存储程序区还可以存储一个或多个应用(比如图库、联系人等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如照片,联系人等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如一个或多个磁盘存储部件,闪存部件,通用闪存存储器(universal flash storage,UFS)等。在一些实施例中,处理器110可以通过运行存储在内部存储器121的指令,和/或存储在设置于处理器110中的存储器的指令,来使得电子设备100执行本申请实施例中所提供的方法,以及其他应用及数据处理。电子设备100可以通过音频模块170、扬声器170A、受话器170B、麦克风170C、耳机接口170D、以及应用处理器等实现音频功能。例如音乐播放、录音等。
传感器模块180可以包括压力传感器180A、陀螺仪传感器180B、气压传感器180C、磁传感器180D、加速度传感器180E、距离传感器180F、接近光传感器180G、指纹传感器180H、温度传感器180J、触摸传感器180K、环境光传感器180L、骨传导传感器180M等。
图2是本申请实施例的电子设备100的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android***分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和***库,以及内核层。应用程序层可以包括一系列应用程序包。
如图2所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
例如,在本申请中,处理图像的算法等都可以包括在应用程序框架层。
如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图***,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图***包括可视控件,例如显示文字的控件,显示图片的控件等。视图***可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在***顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
Android runtime包括核心库和虚拟机。Android runtime负责安卓***的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
***库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(media libraries),三维图形处理库(例如:OpenGL ES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子***进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
图3是本申请实施例提供的一种***架构示意图。包括大屏设备200以及一个或多个可穿戴设备300,该大屏设备200可以为图示的电视机,或者也可以为投影仪等设备,可以用于显示图像,例如,播放视频健身课程、健身直播课程。该一个或多个可穿戴设备300可以包括智能手表、智能手环、耳机等设备。该大屏设备200和可穿戴设备300可以不仅局限于图示的电视机200、智能手表310和耳机320。该一个或多个可穿戴设备300可以与大屏设备200互联,例如,该可穿戴设备300为智能手表310,该大屏设备200与智能手表310为同账号且该智能手表310的位置在大屏设备200的附近时,大屏设备200可以与该智能手表310建立连接。又例如,该可穿戴设备300为耳机320,在用户打开耳机320盒且该耳机320的位置在大屏设备200的附近时,大屏设备200可以与该耳机320建立连接。大屏设备200和/或可穿戴设备300可以通过无线感知、蓝牙、超宽带、飞行时间(time of flight,TOF)等技术感知是否有设备在附近位置。在可穿戴设备300为智能手表310时,该智能手表310还可以作为大屏设备200的遥控器,例如,在用户佩戴了和大屏设备200同账号的智能手表310且位于大屏设备200的附近,大屏设备200前长时间有人且走动范围较小的情况下,在用户抬腕时,该智能手表310可以显示操作按钮,变成大屏设备200的遥控器,对大屏设备200的显示屏的显示内容进行选择。
图4是本申请实施例提供的一例进入健身课程的用户界面示意图。其中,图4中的(a)示出的是大屏设备200的主界面210,该主界面210可以包括电视剧、电影、综艺等多种播放选项,用户可以从分类目录下的健身卡片211中进入健身课程的选择界面220,例如图4中的(b)所示。应理解,该主界面210也可以包括更多、更少或其他的目录类型选项,该分类目录下的也可以包括更多、更少或其他的视频类型卡片。
如图4中的(b)所示,用户从健身卡片211进入健身课程选项,示例性地,该健身课程选项可以包括体态改善、全身燃脂、居家增肌等不同类型的锻炼课程,以供用户根据自己的需要和喜好进行选择。
图4中的(c)是智能手表310作为大屏设备200的遥控器的一例图形用户界面示意图。该大屏设备200可以包括自带的遥控器,以供用户选择大屏设备200上的播放内容。如上文所述,在智能手表310满足一定的条件时,智能手表310也可以作为大屏设备200的遥控器。作为一个示例,智能手表310的操作界面311上可以包括上下左右控件,用于移动大屏设备200的光标,操作界面311上的中心区域还可以包括确认控件。例如,在用户进入图4中的(a)所示界面210时,光标停留在“分类”上,用户可以点击向下控件,使光标移动到“生活”卡片上,再点击向左控件,使光标停留在“健身”卡片211上,然后点击“确认”控件,进入健身课程选择界面220,类似地,进而可以选择全身燃脂221或其他课程进入视频跟练。作为另一个示例,智能手表310的显示屏也可以作为触控板,响应于用户在智能手表310的显示屏上的滑动操作,大屏设备200的显示屏上的光标以一定的速度向相同的方向移动,在光标停留在某个卡片上时,响应于用户点击智能手表310的显示屏,大屏设备200进入该卡片对应的视频内容。
图5是本申请实施例提供的一种健身视频课程播放界面的示意图。如图5中的(a)所示,该播放界面230包括第一窗口231和第二窗口232,该第一窗口231包括本地视频图像,第二窗口232包括用户动作图像。该本地视频图像也就是用户选择的健身课程视频,用户可以在进入该健身课程之前预先下载需要的健身视频,存储在本地,在需要锻炼时打开播放,也可以直接在线播放并跟练。该用户动作图像可以由该大屏设备200的摄像头212实时采集用户动作并呈现在该第二窗口232中,使得用户可以观察到自己的动作。
该第一窗口231和第二窗口232可以分屏显示于该大屏设备200的显示屏,示例性地,该第一窗口231可以显示于显示屏的左半屏,该第二窗口232则可以显示于右半屏,该第一窗口231和第二窗口232的大小可以相同,且该第一窗口231和第二窗口232可以铺满该显示屏的全屏。该第一窗口231也可以显示于显示屏的右半屏,而第二窗口232显示于左半屏,用户可以根据观看显示屏的习惯对第一窗口231和第二窗口232的显示位置进行设置,本申请对该第一窗口231和第二窗口232的初始显示位置不作限定。该左半屏和右半屏为用户面对该显示屏时,用户的左右方位对应的显示屏部分。
如图5中的(a)所示,用户可以站在显示屏的左半屏对应的位置,该左半屏也就是第一窗口231,显示的为本地视频图像。当用户位置切换时,例如,用户从靠近显示屏左半屏的位置移动至靠近显示屏右半屏的位置时,该第一窗口231可以跟随用户位置的变换,自动切换至显示屏的右半屏进行显示,相应地,第二窗口232自动切换至显示屏的左半屏进行显示,如图5中的(b)所示。
大屏设备的传感器可以用于检测用户位置以及用户位置的变换情况。示例性地,传感器可以设置在大屏设备的摄像头212中,该摄像头212可以位于大屏设备的上方且位于显示屏的中心,如图5中的(a)所示,也就是显示屏垂直于地面的对称轴与长边的交点位置。传感器可以以该摄像头212所在位置为原点(O点),显示屏的长边所在直线为x轴,垂直于地面方向上的对称轴所在直线为y轴,建立直角坐标系(图中未示出),则显示屏的左半屏对应的x轴坐标值为负值,右半屏对应的x轴坐标值为正值。当用户所在位置位于x轴的负半轴时,则第一窗口231可以显示于显示屏的左半屏,当用户所在位置位于x轴的正半轴时,则第一窗口231可以显示屏的右半屏。用户所在位置位于x轴的负半轴可以为用户所在位置到显示屏所在平面也就是xOy面的垂足位于x轴的负半轴,用户所在位置位于x轴的正半轴则为用户所在位置到显示屏所在平面的垂足位于x轴的正半轴。
传感器也可以位于大屏设备上方的非对称轴所在的位置,例如位于靠近大屏设备的左侧边缘的位置(图中未示出)。类似地,传感器可以以所在位置为原点建立直角坐标系,检测大屏设备的垂直于地面方向上的对称轴对应的x轴坐标,当检测到用户所在位置的x轴坐标值小于该对称轴的x轴坐标值时,则将第一窗口231自动显示于显示屏的左半屏,当检测到用户所在位置的x轴坐标值大于该对称轴的x轴坐标值时,将第一窗口231显示于显示屏的右半屏。
上述实施例中,第一窗口231也就是显示本地视频图像的窗口可以跟随用户的位置相应地变换,也就是说,第一窗口231的位置是与用户位置相对应的,以使用户更清晰地看到第一窗口231所显示的图像,或者说,使用户更清晰地看到视频中教练的动作。本申请提供的实施例中,也可以是第二窗口232的位置与用户位置相对应,以使用户更清晰地看到自己所做的动作。用户可以根据自己的喜好或使用习惯等,在大屏设备的设置界面中设置与用户位置的窗口是第一窗口231还是第二窗口232,本申请对此不作限定。在用户位置变化时,用户所设置的与用户位置相对应的窗口的位置可以自动跟随用户位置的改变而改变。
上述图5所示的窗口显示模式为分屏模式,以下图6所示的窗口显示模式为叠层显示模式,该叠层显示模式也就是其中一个窗口显示于另一个窗口的上方,或者说其中一个窗口覆盖在另一个窗口上显示,且覆盖在上方的窗口的体积小于被该覆盖窗口的体积,该显示模式也可以称为小窗模式。该分屏模式和叠层模式可以为对应的健身视频默认的显示模式,例如,若健身视频中的健身动作位置移动幅度较小,例如包括深蹲、开合跳等在原地即可做到的健身动作,则该视频的显示模式可以为分屏模式,使用户既方便看清教练的动作,又方便看清自己的动作。若健身视频中的健身动作位置移动幅度较大,例如包括翻滚、跳跃等位置跨度范围较大的动作时,视频的显示模式则可以为图6所示的叠层显示模式,以使用户更清晰地看清教练所做的动作。该分屏模式和叠层模式也可以由用户在视频的播放设置界面中进行设置,根据观看的喜好和习惯选择相应的显示模式。
如图6中的(a)所示,第一窗口231铺满显示屏,显示本地视频图像,第二窗口232悬浮于第一窗口231上,显示用户动作图像。在初始状态下,也就是该显示界面打开时,该第二窗口232在显示屏中的位置可以与用户的位置相对应。与上文相类似地,传感器可以检测用户的位置,该传感器还可以检测该第二窗口232的位置。示例性地,传感器可以以该传感器为原点,长边所在方向为x轴,传感器到地面的垂线所在直线为y轴建立直角坐标系,该第二窗口232的x轴坐标值与用户所在位置的x轴坐标值可以相同。该第二窗口232的x轴坐标值可以为该第二窗口232的垂直于地面方向上的对称轴的x轴坐标值,用户所在位置的x轴可以为用户两眼之间连线的中点对应的x轴坐标值。
在一些实施例中,第二窗口232的位置还可以与用户的身高相对应。也就是说,在第二窗口232的x轴坐标值与用户所在位置对应的x轴坐标值相对应的基础上,该第二窗口232的y轴坐标值可以与用户的双眼对应的y轴坐标值相对应,使得用户可以更清晰地看到第二窗口232中显示的图像。
应理解,为避免第二窗口232遮挡第一窗口231中教练的健身动作,该第二窗口232的显示位置可以靠近显示屏的四个边缘。例如,在用户位置对应的x轴坐标值落在显示屏的左右边缘对应的x轴坐标值范围内时,若用户高度也就是用户双眼的位置对应的y轴坐标值,与显示屏的上边缘也就是远离地面的边缘对应的y轴坐标值之间的差值小于第一预设距离值,则该第二窗口232可以显示于显示屏的上边缘且该第二窗口232的x轴坐标值可以与用户所在位置对应的x轴坐标值相同。类似地,若用户双眼位置对应的y轴坐标值与显示屏的下边缘也就是靠近地面的边缘对应的y轴坐标值之间的差值小于第一预设距离值时,则第二窗口232可以显示于显示屏的下边缘。而在用户位置对应的x轴坐标值落在显示屏的左右边缘对应的x轴坐标值范围外时,第二窗口232可以相应地显示在左边缘或右边缘,例如,用户位置靠近显示屏的左边缘时,则第二窗口232可以显示于显示屏的左边缘,且第二窗口232对应的y轴坐标值与用户双眼位置对应的y轴坐标值可以相同。
图6中的(b)示出的是用户位置发生变化时,第二窗口232显示位置的变化情况。随着用户位置的变化,悬浮在第一窗口231上的第二窗口232的位置随用户位置的变化而相应地变化,第二窗口232变化后的位置与用户位置和/或高度的对应情况与上文中的描述相类似,此处不再赘述。
第二窗口232在切换显示位置时,可以沿显示屏的上下左右边缘所在方向移动,也可以与x轴所在方向呈一定的角度,沿斜向移动,例如用户先是以站姿站立在靠近显示屏的左边缘位置,然后动作变换至以坐姿坐在靠近显示屏右边缘的位置,相应地,第二窗口232的位置可以从显示屏的左上角斜向移动至显示屏的右下角。在第二窗口232的移动过程中,第二窗口232可以显示于第一窗口231的上方显式移动,也可以避开第一窗口231的显示画面隐式移动,例如直接由显示屏的左上角显示,切换回在右下角显示。
在一些实施例中,第二窗口232的位置还可以根据动作的持续时间进行显示,健身动作的持续时间小于预设时间值时,第二窗口232的位置可以不切换,当健身动作的持续时间大于或等于预设时间值时,第二窗口232的位置可以根据用户的位置和/或高度进行切换。
示例性地,在同一个动作的执行时间内需要用户切换位置和/或高度,例如波比跳,用户需要频繁地跳跃、俯卧、起立,用户位置和高度切换速度较快,用户动作的持续时间小于预设时间值,则第二窗口232可以显示于用户开始执行该动作时的位置,在该动作的执行时间范围内不进行位置切换。
又例如,用户执行当前播放的动作与下一个播放的动作时所处的位置不同,需要进行位置切换,且下一个动作的持续时间大于或等于预设时间值,则用户执行下一个动作时,第二窗口232的显示位置可以切换至与用户位置相对应的位置。若下一个动作的持续时间小于预设时间值,则第二窗口232的显示位置可以不进行切换,以防止用户位置移动过快,第二窗口232的位置相应地较快移动,造成用户难以清晰地看清显示的图像,影响用户体验。以进一步提高用户体验。
其中,本地视频图像中的动作持续时间可以由视频应用提供方在上传健身视频时提供,也可以由大屏设备200的传感器根据本地视频图像中教练的骨架信息变换情况进行识别。
通过本申请实施例提供的方法,在分屏显示模式下,在用户位置变换时,第一窗口231和第二窗口232互换显示位置,或者说第一窗口231和第二窗口232的显示位置可以一起随用户位置的变换而变换;在叠层显示模式下,悬浮的小窗可以随用户位置的变换而变换,使得用户在跟随视频图像进行锻炼时,可以更清晰地看到第一窗口231和第二窗口232所显示的图像。例如在家居环境中,大屏设备200的位置前可能设置有茶几等家居设备,使得用户无法直面显示屏中用户习惯观看的窗口,显示屏中的窗口位置跟随用户位置变化能够使得用户可以更清楚地看到显示屏上各个窗口显示的图像,从而提高居家健身的沉浸感,优化用户体验。
大屏设备200的传感器还可以识别用户的骨架信息,对用户的健身动作是否规范进行评价和引导,以提升用户的锻炼效果。图7为本申请实施例提供的一种识别骨架信息的用户界面示意图。
大屏设备200的传感器可以利用超声波、毫米波雷达点云、TOF人体成像等技术对用户位置、与大屏设备200之间的距离、方位、用户的动作、朝向以及用户类型等信息进行感知,其中,用户的动作可以通过识别用户的骨架信息来进行感知。
骨架信息可以包括骨骼节点的位置以及骨骼节点的运动轨迹等信息。大屏设备200的传感器可以识别用户动作的每一帧图像中的用户骨骼节点,也可以在用户动作中间隔固定或不固定的多帧图像中识别用户骨骼节点。用户的骨骼节点可以用于表示用户的肢体。用户骨骼节点可以包括图像中用户身体上的所有骨骼节点,或者也可以包括健身动作涉及到的骨骼节点。如图7所示,假设当前动作为开合跳,传感器可以识别开合跳涉及到的用户四肢上的骨骼节点,根据腿部或手臂上的骨骼节点之间的连线对腿部或手臂的伸直或弯曲程度等进行判断。
作为一个示例,传感器可以在用户与本地视频图像中的教练执行相同健身动作时,将识别出的用户的各个骨骼节点的运动轨迹与教练身体上的对应的骨骼节点的运动轨迹进行匹配,若匹配程度越高,则用户的动作与教练的动作的相似度越高,用户的动作则更为规范。
作为另一个示例,传感器可以判断用户的骨骼节点的运动轨迹是否符合预设特征,该预设特征可以为骨骼节点的运动轨迹的形状或周期等,骨骼节点的运动轨迹的形状可以为三角形、圆形、圆弧、折现形等形状,或者也可以为完整形状中的部分,骨骼节点的运动轨迹可以呈周期性重复。
本地视频图像中教练的骨架信息可以由视频的提供方提供,视频提供方可以预先识别教练的骨架信息并存储于相应的视频保存路径下,也可以由大屏设备200的传感器在进行用户动作图像中的骨架信息识别时,同步进行本地视频图像中教练的骨架信息识别。
在大屏设备200的传感器识别出用户的骨架信息与本地视频图像中的骨架信息匹配程度较低时,可以通过窗口切换的方式来提示用户对动作作出调整。图8为本申请实施例提供的一例窗口切换的用户界面示意图。图8以第一窗口231和第二窗口232的初始显示方式为分屏显示方式为例介绍了窗口切换的情况。
图8中的(a)为分屏显示方式下用户跟随视频锻炼的示意图,第一窗口231的位置与用户位置相对应。在用户动作图像中的骨架信息与本地视频图像中的骨架信息的匹配程度小于第一预设阈值时,也就是用户执行的动作不够规范时,例如图示的第一窗口231中教练动作双臂展平,双腿张开呈一定角度,而用户双臂未展平,且双腿形成的角度较小,动作不规范,则大屏设备200可以自动将第一窗口231和第二窗口232的显示方式从分屏显示切换为叠层显示,且第一窗口231铺满显示屏,第二窗口232悬浮于第一窗口231上,也就是由图8中的(a)切换为图8中的(b)所示的显示方式,在窗口切换后,第二窗口232的位置和/或高度可以分别与用户的位置和/或高度相对应,以使用户更清晰地看到本地视频图像中教练的动作,以便于对动作进行调整以使动作更为规范。
在一些实施例中,当窗口的初始显示方式为第二窗口232铺满显示屏,第一窗口231悬浮于第二窗口232上,且用户动作图像中的骨架信息与本地视频图像中的骨架信息的匹配程度小于第一预设阈值时,大屏设备200也可以自动将第一窗口231和第二窗口232的显示方式切换为第一窗口231铺满显示屏,第二窗口232悬浮于第一窗口231上。
在一些实施例中,在窗口切换后的用户界面上,第一窗口231还可以包括第一指示信息,该第一指示信息用于指示用户的动作不规范。例如图8中的(b)所示的,在第一窗口231的上方包括提示信息“波比跳动作不规范”以提示用户进行动作调整,或者提示用户“请注意手臂伸直”(图中未示出)等,以使用户更清楚地知道动作的具体不规范原因。
可选地,还可以通过提示信息在窗口中周期性振动、放大或闪烁等方式以引起用户的注意。
可选地,在用户佩戴了耳机320时,可以在耳机320中通过语音播报,提醒用户该动作做的不规范,需要进行动作调整,例如语音播报“波比跳动作不规范”或者“请将手臂伸直”等。在播报提示语音时,可以维持视频语音的播报并适当降低视频语音播报的音量,以使用户听清提示语音,进行动作调整。在用户佩戴了智能手表310时,也可以通过智能手表310的振动等方式来提醒用户该动作做得不规范。
在用户佩戴了耳机320或智能手表310时,大屏设备200可以与耳机320和智能手表310通过蓝牙等方式配对,在用户动作不规范时,大屏设备200可以向耳机320和/或智能手表310发送指示信息,指示耳机320和/或智能手表310分别以播报语音提醒或者振动的方式来提醒用户。
通过本申请提供的实施例,在用户动作不规范时,大屏设备200可以自动进行窗口显示方式的切换,将本地视频图像全屏显示,而用户动作图像以小窗方式显示,使得用户可以更清楚地看到教练动作,避免出现因看不清视频课程的动作而导致动作不规范或者因动作不熟悉而导致跟不上视频课程的问题,为用户提供视觉提醒和引导,进一步优化用户体验,提升锻炼时的沉浸感。
大屏设备200的传感器除了可以识别用户动作是否规范,还可以在本地视频图像中的动作切换之前,对用户姿态进行识别,将用户动作图像中的骨架信息与本地视频图像中的下一个动作对应的骨架信息进行匹配,并与第二预设阈值进行比较,以确定是否继续播放下一个动作。图9是本申请实施例提供的一例本地视频图像中的动作切换时的用户界面示意图。
图9中的(a)所示的是当用户动作图像中的骨架信息与本地视频图像中下一个动作的骨架信息的匹配程度大于或等于第二预设阈值时的用户界面。如图9中的(a)所示,下一个动作为开合跳,第二窗口232可以播放该动作的示范动作,同时大屏设备200的传感器可以对骨架信息进行匹配。此时用户的姿态为站姿,用户的骨架信息与下一个动作对应的骨架信息匹配程度较高,大于或等于第二预设阈值,则大屏设备200可以继续播放下一个动作,也就是开合跳动作,并可以对该开合跳的动作进行计时或计数。
如上文所述,在本地视频图像中的下一个动作开始之前,大屏设备200可以播放下一个动作的示范视频,例如下一个动作为开合跳,可以播放开合跳的示范视频,在示范视频的播放期间,可以不对该动作进行计时或计数,在开合跳动作正式开始时再进行该动作的计时或计数。在播放该开合跳的示范视频时,也可以在示范视频上方显示提示信息,该提示信息用于提示用户下一个动作为何种动作,例如可以包括文字提示“下一个动作:开合跳”。
可选地,本地视频图像中也可以不包括下一个动作的示范动作,大屏设备200可以在本地视频图像中的当前动作即将结束前,显示该提示信息,提示用户下一个动作,并将用户的骨架信息与下一个动作对应的骨架信息进行匹配。
图9中的(b)所示的是当用户动作图像中的骨架信息与本地视频图像中下一个动作的骨架信息的匹配程度小于第二预设阈值时的用户界面。如图9中的(b)所示,下一个动作为开合跳,需要用户以站立姿态执行,而此时用户的姿态为坐姿,与下一个动作对应的骨架信息匹配程度较低,小于第二预设阈值,则大屏设备200可以不播放下一个动作,或者说不进行下一个动作的计时或计数。例如,大屏设备200可以播放下一个动作的示范视频,若没有下一个动作的示范视频,大屏设备200也可以自动暂停本地视频图像的播放(如图9中的(b)),或者,大屏设备200也可以继续播放当前动作。大屏设备200可以实时捕获和检测用户的骨架信息,当用户由坐姿切换为站姿时,大屏设备200可以继续播放本地视频图像中的下一个动作,此时用户界面可以切换为图9中的(a)所示的界面。
应理解,图9以叠层显示方式为例对动作切换时的用户界面进行说明,此时,窗口的显示方式也可以为分屏显示方式,在分屏显示方式下,与叠层显示方式相类似地,在本地视频图像中的动作切换之前进行骨架信息匹配,确定是否继续播放本地视频图像。
通过本申请提供的实施例,大屏设备200可以根据用户动作图像中的骨架信息与本地视频图像中的下一个动作对应的骨架信息的匹配程度,确定是否继续播放本地视频图像中的下一个动作,能够避免前后动作姿态差别过大,导致用户在完成上一个动作后无法及时切换姿态而跟不上下一个动作的情况发生,提升视频对用户动作的引导,从而能够提升用户的锻炼效果,并进一步优化用户体验,提升锻炼的沉浸感。
在一些实施例中,该第二预设阈值可以小于该第一预设阈值。在识别用户动作是否规范时,对用户的骨架信息与本地视频图像中的骨架信息的匹配程度要求较高,以便于更准确地评判用户动作的规范性。而在动作切换时,对用户的骨架信息与本地视频图像中的骨架信息的匹配程度要求较低,只需满足用户在进行下一个动作前的准备姿态便于使用户执行下一个动作即可。
在一些实施例中,大屏设备200可以将视频语音转化为文本,并识别出关键词,该关键词可以包括方位和肢体部位,例如右手、左脚等。用户佩戴有智能手表310和/或耳机320等设备时,该大屏设备200可以向智能手表310和/或耳机320发送第二指示信息,该第二指示信息用于指示该智能手表310和/或耳机320在关键词处发送第三指示信息,用于指示用户执行的动作需与关键词相对应。
作为一个示例,大屏设备200可以向智能手表310发送该第二指示信息,进而,关键词与用户佩戴智能手表310的手匹配时,智能手表310向用户发送第三指示信息,例如进行振动提示。例如,用户的右手佩戴有智能手表310,在视频中的动作为右手抓住右脚背时,相应地,在视频中的语音播报到“右手”时,用户右手佩戴的智能手表310振动,以提醒用户需要右手执行相应的动作。
在用户初次佩戴智能手表310时,智能手表310可以显示左右手佩戴确认栏,或者由用户在设置界面进行左右手佩戴设置,在关键词与佩戴的手相匹配时,进行提示。
作为另一个示例,用户双耳佩戴有蓝牙耳机320,在视频中的动作为右手抓住右脚背时,相应地,视频中的语音播报到“右手”和“右脚背”时,耳机320播放语音时,将播放声道由左声道或双声道切换为右声道进行播报,以提醒用户右手和右脚执行相应的动作;或者,通过右耳耳机320音量增加来提醒用户右手和右脚执行相应地动作。而在同一个分句中包括的关键词数量大于或等于预设数值时,耳机320的播报可以维持正常的播报音量,也就是按用户设置的音量进行播报,避免影响用户的听觉体验。
可选地,大屏设备200也可以在关键词处向耳机320和/或智能手表310发送该第二指示信息,指示耳机320和/或智能手表310发送第三信息,也就是进行声道切换、音量增加或者振动等提醒。
可选地,该关键词也可以仅包括方位。例如,在视频语音中包括“左”和“右”时,相应地,无论该关键词涉及的部位为左手还是左脚,若智能手表310佩戴手为左手,则智能手表310可以振动提醒用户执行相应的动作,而耳机320则可以相应地将声道切换为左声道或者左侧耳机320的音量增大等。
可选地,在智能手表310和/或耳机320的算力足够高时,也可以由耳机320和/或智能手表310将视频语音转换成文本,并从文本中识别出关键词,在关键词处发送第三指示信息,也就是用过声道切换、音量增加或震动等方式来提醒用户执行相应的动作。
通过本申请提供的实施例,在用户锻炼过程中,大屏设备200和耳机320、智能手表310等可穿戴设备相配合,在视频提供的视觉引导外,提供耳机320语音和手表310振动等多方位的引导,更全面地对用户的健身动作作出指引,进一步提升视频跟练的效果,防止用户左右不分,或者周边环境嘈杂等问题影响用户跟练效果,进一步优化用户体验,提升锻炼的沉浸感。
结合以上图3至图9所描述的实施例,本申请实施例提供了一种辅助健身的方法,该方法可以在如图1至图2所描述的电子设备中实现,该电子设备可以为大屏设备200,也就是第一设备。图10是本申请实施例提供的辅助健身的方法的示意性流程图,该方法应用于该第一设备,或者说大屏设备,例如可以为电视机和投影仪等设备。如图10所示,该方法可以包括以下步骤:
S1001,显示第一窗口和第二窗口,第一窗口包括本地视频图像,第二窗口包括用户动作图像,第一窗口和第二窗口分屏显示于第一设备的显示屏,或者,第一窗口铺满显示屏,第二窗口悬浮于第一窗口上,且第二窗口小于第二窗口,或者,第二窗口铺满显示屏,第一窗口悬浮于第二窗口上,且第一窗口小于第二窗口。
S1002,根据用户相对于显示屏的位置变化,移动第一窗口和/或第二窗口。
具体地,在第一窗口和第二窗口分屏显示于显示屏时,用户可以对跟随用户位置变化的窗口为第一窗口还是第二窗口进行设置,在用户位置变化时,大屏设备自动切换第一窗口和第二窗口的位置。在第一窗口和第二窗口以叠层显示方式显示时,悬浮的小窗口的位置跟随用户位置的变化而变化。
在一些实施例中,该方法还包括:当第一窗口铺满显示屏,第二窗口悬浮于第一窗口上时,根据用户的高度变化,移动该第二窗口,或者,当第二窗口铺满显示屏,第一窗口悬浮于第二窗口上时,根据用户的高度变化,移动该第一窗口。用户的高度可以指用户的双眼的高度。
在一些实施例中,该方法还包括:根据动作的持续时间,移动第一窗口和/或第二窗口。具体地,若显示方式为分屏显示且下一个动作的持续时间大于或等于预设时间值,则在用户位置变化时,大屏设备可以自动根据用户的位置移动第一窗口和第二窗口;若显示方式为叠层显示且下一个动作的持续时间大于或等于预设时间值,则在用户位置变化时,大屏设备可以自动根据用户的位置和/或高度移动第一窗口或第二窗口,也就是悬浮的小窗;若下一个动作的持续时间小于预设时间值,无论第一窗口和第二窗口为何种显示方式,大屏设备都可以不移动第一窗口和第二窗口。
在一些实施例中,当第一窗口和第二窗口的显示方式为分屏显示,或者第二窗口铺满显示屏,第一窗口悬浮于第二窗口上,且用户动作图像中的骨架信息与本地视频图像中的骨架信息的匹配程度小于第一预设阈值时,该方法还包括:将第一窗口和第二窗口的显示方式切换为第一窗口铺满显示屏,第二窗口悬浮于第一窗口上。
可选地,在用户动作图像中的骨架信息与本地视频图像中的骨架信息的匹配程度小于第一预设阈值时,该方法还包括:向第二设备发送第四指示信息,该第四指示信息用于指示第二设备发送第五指示信息,该第五指示信息用于指示用户的动作不规范。
相应地,第二设备接收第一设备发送的第四指示信息,并向用户发送该第五指示信息。
该第二设备可以为可穿戴设备,例如可以包括智能手表和耳机等设备。
在一些实施例中,该第一窗口还包括第一指示信息,该第一指示信息用于指示用户的动作不规范。
在一些实施例中,在播放本地视频图像中的下一个动作之前,该方法还包括:确定该用户动作图像中的骨架信息与下一个动作对应的骨架信息的匹配程度大于或等于第二预设阈值。
在一些实施例中,该第二预设阈值小于该第一预设阈值。
在一些实施例中,该方法还包括:向第二设备发送第二指示信息,该第二指示信息用于指示该第二设备在关键词处发送第三指示信息,该第三指示信息用于指示用户执行的动作需与该关键词相对应。
相应地,第二设备接收第一设备发送的第二指示信息,并向用户发送第三指示信息。
具体地,该第一设备可以在关键词处向第二设备发送该第二指示信息。
在一些实施例中,该关键词可以包括方位和肢体部位。或者,该关键词也可以仅包括方位。
以上结合图10介绍了本申请实施例提供的辅助健身的方法,以下结合图11介绍本申请实施例提供的辅助健身的装置。
如图11所示,该装置1100可以包括显示单元1101和处理单元1102,该显示单元1101和处理单元1102相互配合,使得该装置1100可以执行上述图4至图10所描述的实施例中的动作。示例性地,该显示单元1101可以用于执行图4至图10所描述的实施例中显示窗口的操作,例如步骤S1001中显示第一窗口和第二窗口的操作。该处理单元1102可以用于执行图4至图10所描述的处理动作,例如用于执行窗口的位置切换、窗口的显示方式的切换、对用户动作图像中的骨架信息与本地视频图像中的骨架信息进行匹配等动作。
可选地,该装置1100还可以包括发送单元1103,该发送单元1103可以用于执行上述图4至图10所描述的实施例中向第二设备发送指示信息等动作。
本申请实施例还提供了一种电子设备1200,用于执行上述辅助健身的方法,该电子设备1200可以包括处理器1201和存储器1202,该处理器可以用于执行如图4至图10所示的实施例中大屏设备执行的各种处理操作,例如显示用户界面,切换用户界面以及信令交互等操作。该存储器上存储有一个或多个计算机程序,该一个或多个计算机程序包括指令,当该指令被一个或多个处理器执行时,使得如前文中任一种辅助健身的方法被执行。
本申请实施例还提供了一种可穿戴设备,该可穿戴设备可以包括接收单元和发送单元,该接收单元可以用于执行接收第一设备发送的指示信息等动作,该发送单元可以用于执行向用户发送指示信息等动作。
本申请实施例还提供一种芯片***,该芯片***包括至少一个处理器,当程序指令在所述至少一个处理器中执行时,使得电子设备执行上述实施例中的辅助健身的方法。
本申请实施例还提供一种计算机存储介质,该计算机存储介质中存储有计算机指令,当该计算机指令在电子设备上运行时,使得电子设备执行上述相关方法步骤实现上述实施例中的辅助健身的方法。
本申请实施例还提供了一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行上述相关步骤,以实现上述实施例中的辅助健身的方法。
另外,本申请的实施例还提供一种装置,这个装置具体可以是芯片,组件或模块,该装置可包括相连的处理器和存储器;其中,存储器用于存储计算机执行指令,当装置运行时,处理器可执行存储器存储的计算机执行指令,以使芯片执行上述各方法实施例中的辅助健身的方法。
其中,本实施例提供的电子设备、计算机存储介质、计算机程序产品或芯片均用于执行上文所提供的对应的方法,因此,其所能达到的有益效果可参考上文所提供的对应的方法中的有益效果,此处不再赘述。
通过以上实施方式的描述,所属领域的技术人员可以了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是一个物理单元或多个物理单元,即可以位于一个地方,或者也可以分布到多个不同地方。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (19)
1.一种辅助健身的方法,其特征在于,应用于第一设备,所述方法包括:
显示第一窗口和第二窗口,所述第一窗口包括本地视频图像,所述第二窗口包括用户动作图像,所述第一窗口和所述第二窗口分屏显示于所述第一设备的显示屏,或者,
所述第一窗口铺满所述显示屏,所述第二窗口悬浮于所述第一窗口上,且所述第二窗口小于所述第一窗口,或者,
所述第二窗口铺满所述显示屏,所述第一窗口悬浮于所述第二窗口上,且所述第一窗口小于所述第二窗口;
根据用户相对于所述显示屏的位置变化,移动所述第一窗口和/或所述第二窗口。
2.根据权利要求1所述的方法,其特征在于,当所述第一窗口和所述第二窗口的显示方式为分屏显示,或者,所述第二窗口铺满显示屏,所述第一窗口悬浮于所述第二窗口上,且所述用户动作图像中的骨架信息与所述本地视频图像中的骨架信息的匹配程度小于第一预设阈值时,所述方法还包括:
将所述第一窗口和所述第二窗口的显示方式切换为所述第一窗口铺满所述显示屏,所述第二窗口悬浮于所述第一窗口上。
3.根据权利要求2所述的方法,其特征在于,所述第一窗口还包括第一指示信息,所述第一指示信息用于指示用户的动作不规范。
4.根据权利要求2或3所述的方法,其特征在于,在播放所述本地视频图像中的下一个动作之前,所述方法还包括:
确定所述用户动作图像中的骨架信息与所述下一个动作对应的骨架信息的匹配程度大于或等于第二预设阈值。
5.根据权利要求4所述的方法,其特征在于,所述第二预设阈值小于所述第一预设阈值。
6.根据权利要求1至5中任一项所述的方法,其特征在于,所述方法还包括:
向第二设备发送第二指示信息,所述第二指示信息用于指示所述第二设备在关键词处发送第三指示信息,所述第三指示信息用于指示所述用户执行的动作需与所述关键词相对应。
7.根据权利要求6所述的方法,其特征在于,所述关键词包括方位和肢体部位。
8.根据权利要求6或7所述的方法,其特征在于,所述第一设备为大屏设备,所述第二设备为可穿戴设备。
9.一种辅助健身的装置,其特征在于,包括:
显示单元,用于显示第一窗口和第二窗口,所述第一窗口包括本地视频图像,所述第二窗口包括用户动作图像,所述第一窗口和所述第二窗口分屏显示于第一设备的显示屏,或者,
所述第一窗口铺满所述显示屏,所述第二窗口悬浮于所述第一窗口上,且所述第二窗口小于所述第一窗口,或者,
所述第二窗口铺满所述显示屏,所述第一窗口悬浮于所述第二窗口上,且所述第一窗口小于所述第二窗口;
处理单元,用于根据用户相对于所述显示屏的位置变化,移动所述第一窗口和/或所述第二窗口。
10.根据权利要求9所述的装置,其特征在于,当所述第一窗口和所述第二窗口的显示方式为分屏显示,或者,所述第二窗口铺满所述显示屏,所述第一窗口悬浮于所述第二窗口上,且所述用户动作图像中的骨架信息与所述本地视频图像中的骨架信息的匹配程度小于第一预设阈值时,所述处理单元还用于:
将所述第一窗口和所述第二窗口的显示方式切换为所述第一窗口铺满所述显示屏,所述第二窗口悬浮于所述第一窗口上。
11.根据权利要求10所述的装置,其特征在于,所述第一窗口还包括第一指示信息,所述第一指示信息用于指示用户的动作不规范。
12.根据权利要求10或11所述的装置,其特征在于,在播放所述本地视频图像中的下一个动作之前,所述处理单元还用于:
确定所述用户动作图像中的骨架信息与所述下一个动作对应的骨架信息的匹配程度大于或等于第二预设阈值。
13.根据权利要求12所述的装置,其特征在于,所述第二预设阈值小于所述第一预设阈值。
14.根据权利要求10至13中任一项所述的装置,其特征在于,所述装置还包括:
发送单元,用于向第二设备发送第二指示信息,所述第二指示信息用于指示所述第二设备在关键词处发送第三指示信息,所述第三指示信息用于指示所述用户执行的动作需与所述关键词相对应。
15.根据权利要求14所述的装置,其特征在于,所述关键词包括方位和肢体部位。
16.根据权利要求14或15所述的装置,其特征在于,所述第一设备为大屏设备,所述第二设备为可穿戴设备。
17.一种电子设备,其特征在于,包括:处理器和存储器,所述存储器用于存储计算机程序,所述处理器用于从所述存储器中调用并运行所述计算机程序,使得所述电子设备执行如权利要求1至8中任一项所述的辅助健身的方法。
18.一种芯片***,其特征在于,所述芯片***包括至少一个处理器,当程序指令在所述至少一个处理器中执行时,使得如权利要求1至8中任一项所述的辅助健身的方法得以实现。
19.一种计算机程序存储介质,其特征在于,所述计算机可读介质存储有程序代码,当所述程序代码在计算机上运行时,使得所述计算机执行如权利要求1至8中任一项所述的辅助健身的方法。
Publications (1)
Publication Number | Publication Date |
---|---|
CN118226993A true CN118226993A (zh) | 2024-06-21 |
Family
ID=
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110045819B (zh) | 一种手势处理方法及设备 | |
WO2020211701A1 (zh) | 模型训练方法、情绪识别方法及相关装置和设备 | |
WO2020151387A1 (zh) | 一种基于用户运动状态的推荐方法及电子设备 | |
US20180375987A1 (en) | Method, apparatus and mobile terminal for device control based on a mobile terminal | |
WO2021013230A1 (zh) | 机器人的控制方法、机器人、终端、服务器及控制*** | |
WO2021036568A1 (zh) | 辅助健身的方法和电子装置 | |
KR101945082B1 (ko) | 미디어 컨텐츠 송신 방법, 미디어 컨텐츠 송신 장치, 미디어 컨텐츠 수신 방법, 및 미디어 컨텐츠 수신 장치 | |
CN111669515B (zh) | 一种视频生成方法及相关装置 | |
CN110503959B (zh) | 语音识别数据分发方法、装置、计算机设备及存储介质 | |
WO2022095788A1 (zh) | 目标用户追焦拍摄方法、电子设备及存储介质 | |
WO2021008589A1 (zh) | 一种应用的运行方法及电子设备 | |
CN111544852B (zh) | 健身姿势矫正的方法及相关装置 | |
CN112835445B (zh) | 虚拟现实场景中的交互方法、装置及*** | |
WO2021103990A1 (zh) | 显示方法、电子设备及*** | |
WO2021147465A1 (zh) | 一种图像渲染方法、电子设备及*** | |
WO2021170062A1 (zh) | 隔空手势的调节方法及终端 | |
WO2022007707A1 (zh) | 家居设备控制方法、终端设备及计算机可读存储介质 | |
KR20220127568A (ko) | 홈 트레이닝 서비스 제공 방법 및 그를 수행하는 디스플레이 장치 | |
CN112241199B (zh) | 虚拟现实场景中的交互方法及装置 | |
EP4383096A1 (en) | Search method, terminal, server and system | |
CN112711335B (zh) | 虚拟环境画面的显示方法、装置、设备及存储介质 | |
CN118226993A (zh) | 辅助健身的方法、装置和电子设备 | |
WO2021036562A1 (zh) | 用于健身训练的提示方法和电子设备 | |
CN115933952B (zh) | 一种触控采样率调节方法及相关装置 | |
WO2022222705A1 (zh) | 设备控制方法和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication |