CN110196900A - 用于终端的交互方法和装置 - Google Patents
用于终端的交互方法和装置 Download PDFInfo
- Publication number
- CN110196900A CN110196900A CN201910509292.4A CN201910509292A CN110196900A CN 110196900 A CN110196900 A CN 110196900A CN 201910509292 A CN201910509292 A CN 201910509292A CN 110196900 A CN110196900 A CN 110196900A
- Authority
- CN
- China
- Prior art keywords
- wake
- condition
- response
- image sequence
- voice
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 230000004044 response Effects 0.000 claims abstract description 174
- 230000002452 interceptive effect Effects 0.000 claims abstract description 14
- 230000009471 action Effects 0.000 claims description 27
- 230000005540 biological transmission Effects 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 6
- 238000001514 detection method Methods 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 3
- 230000036651 mood Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000005291 magnetic effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000012300 Sequence Analysis Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 210000003414 extremity Anatomy 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000002618 waking effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3343—Query execution using phonetics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Human Computer Interaction (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Artificial Intelligence (AREA)
- Acoustics & Sound (AREA)
- Health & Medical Sciences (AREA)
- User Interface Of Digital Computer (AREA)
- Telephonic Communication Services (AREA)
Abstract
本申请实施例公开了用于终端的交互方法和装置。上述方法的一具体实施方式包括:获取图像序列,其中,图像序列至少一帧用户图像;根据图像序列,确定预设的唤醒条件是否满足;响应于确定唤醒条件满足,确定与唤醒条件对应的应答语音;播放应答语音。该实施方式可以根据用户图像来唤醒终端,增加了交互方式。
Description
技术领域
本申请实施例涉及计算机技术领域,具体涉及用于终端的交互方法和装置。
背景技术
随着科技的不断进步,智能终端逐渐出现在了人们的视野中。上述智能终端包括智能音箱、智能电视、智能照相机、智能机器人等。这些智能终端出色的地方在于它不仅可以播放音视频,还能与用户进行语音交互。现有的智能终端交互方式较简单,用户体验不佳。
发明内容
本申请实施例提出了用于终端的交互方法和装置。
第一方面,本申请实施例提供了一种用于终端的交互方法,包括:获取图像序列,其中,上述图像序列包括至少一帧用户图像;根据上述图像序列,确定预设的唤醒条件是否满足;响应于确定上述唤醒条件满足,确定与上述唤醒条件对应的应答语音;播放上述应答语音。
在一些实施例中,上述图像序列包括用户的眼部图像;以及上述根据上述图像序列,检测预设的唤醒条件是否满足,包括:对上述眼部图像进行分析,确定上述用户是否注视终端;响应于确定上述用户注视终端,确定上述唤醒条件满足。
在一些实施例中,上述响应于确定上述唤醒条件满足,确定与上述唤醒条件对应的应答语音,包括:响应于确定上述唤醒条件满足,获取预设时长内的第一语音信息;对上述第一语音信息进行语义解析;根据语义解析结果,确定与上述唤醒条件对应的应答语音。
在一些实施例中,上述图像序列包括用户的面部图像;以及上述根据上述图像序列,检测预设的唤醒条件是否满足,包括:对上述图像序列中的面部图像进行表情识别;根据表情识别结果,确定上述图像序列中相邻两帧图像对应的表情是否相同;响应于确定上述图像序列中相邻两帧图像对应的表情不同,确定上述唤醒条件满足。
在一些实施例中,上述响应于确定上述唤醒条件满足,确定与上述唤醒条件对应的应答语音,包括:响应于确定上述唤醒条件满足,确定与相邻两帧图像中后一帧图像对应的表情对应的应答语音;将所确定的应答语音作为与上述唤醒条件对应的应答语音。
在一些实施例中,上述图像序列包括用户的身体图像;以及上述根据上述图像序列,检测预设的唤醒条件是否满足,包括:对上述图像序列中的身体图像进行分析,确定用户的动作信息;响应于确定用户的动作信息满足预设条件,确定上述唤醒条件满足。
在一些实施例中,上述响应于确定上述唤醒条件满足,确定与上述唤醒条件对应的应答语音,包括:确定与上述动作信息对应的应答语音作为与上述唤醒条件对应的应答语音。
在一些实施例中,上述检测预设的唤醒条件是否满足,包括:响应于接收到服务端发送的应答语音,确定上述唤醒条件满足。
在一些实施例中,上述方法还包括:响应于上述应答语音的播放完成,获取预设时长内的第二语音信息;根据上述第二语音信息,控制上述终端。
第二方面,本申请实施例提供了一种用于终端的交互装置,包括:图像序列获取单元,被配置成获取图像序列,其中,上述图像序列包括至少一帧用户图像;条件判断单元,被配置成根据上述图像序列,确定预设的唤醒条件是否满足;应答语音确定单元,被配置成响应于确定上述唤醒条件满足,确定与上述唤醒条件对应的应答语音;应答语音播放单元,被配置成播放上述应答语音。
在一些实施例中,上述图像序列包括用户的眼部图像;以及上述条件判断单元进一步被配置成:对上述眼部图像进行分析,确定上述用户是否注视终端;响应于确定上述用户注视终端,确定上述唤醒条件满足。
在一些实施例中,上述应答语音确定单元进一步被配置成:响应于确定上述唤醒条件满足,获取预设时长内的第一语音信息;对上述第一语音信息进行语义解析;根据语义解析结果,确定与上述唤醒条件对应的应答语音。
在一些实施例中,上述图像序列包括用户的面部图像;以及上述条件判断单元进一步被配置成:对上述图像序列中的面部图像进行表情识别;根据表情识别结果,确定上述图像序列中相邻两帧图像对应的表情是否相同;响应于确定上述图像序列中相邻两帧图像对应的表情不同,确定上述唤醒条件满足。
在一些实施例中,上述应答语音确定单元进一步被配置成:响应于确定上述唤醒条件满足,确定与相邻两帧图像中后一帧图像对应的表情对应的应答语音;将所确定的应答语音作为与上述唤醒条件对应的应答语音。
在一些实施例中,上述图像序列包括用户的身体图像;以及上述条件判断单元进一步被配置成:对上述图像序列中的身体图像进行分析,确定用户的动作信息;响应于确定用户的动作信息满足预设条件,确定上述唤醒条件满足。
在一些实施例中,上述应答语音确定单元进一步被配置成:确定与上述动作信息对应的应答语音作为与上述唤醒条件对应的应答语音。
在一些实施例中,上述条件判断单元进一步被配置成:响应于接收到服务端发送的应答语音,确定上述唤醒条件满足。
在一些实施例中,上述装置还包括:语音信息获取单元,被配置成响应于上述应答语音的播放完成,获取预设时长内的第二语音信息;终端控制单元,被配置成根据上述第二语音信息,控制上述终端。
第三方面,本申请实施例提供了一种终端,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当上述一个或多个程序被上述一个或多个处理器执行,使得上述一个或多个处理器实现如第一方面任一实施例所描述的方法。
第四方面,本申请实施例提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如第一方面任一实施例所描述的方法。
本申请的上述实施例提供的用于终端的交互方法和装置,可以获取图像序列。图像序列中包括至少一帧用户图像。然后,根据图像序列,确定预设的唤醒条件是否满足。在确定唤醒条件满足后,确定与唤醒条件对应的应答语音。最后,播放应答语音。本实施例的方法,可以根据用户图像来唤醒终端,增加了交互方式。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请的一个实施例可以应用于其中的示例性***架构图;
图2是根据本申请的用于终端的交互方法的一个实施例的流程图;
图3a是根据本申请的用于终端的交互方法的一个应用场景的示意图;
图3b是根据本申请的用于终端的交互方法的另一个应用场景的示意图;
图3c是根据本申请的用于终端的交互方法的又一个应用场景的示意图;
图4是根据本申请的用于终端的交互方法的又一个实施例的流程图;
图5是根据本申请的用于终端的交互装置的一个实施例的结构示意图;
图6是适于用来实现本申请实施例的终端的计算机***的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于终端的交互方法或用于终端的交互装置的实施例的示例性***架构100。
如图1所示,***架构100可以包括智能音箱101,终端设备102、103,网络104和服务器105。网络104用以在智能音箱101,终端设备102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
智能音箱101上可以安装有图像采集装置,可以采集用户图像,然后通过网络104与服务器105交互,以接收或发送消息。例如,将采集的图像发送给服务器105,或者接收服务器105发送的信息。
用户可以使用终端设备102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备102、103上可以安装有各种通讯客户端应用,例如图像处理类应用、音视频播放类应用、网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备102、103可以是硬件,也可以是软件。当终端设备102、103为硬件时,可以是具有麦克风和图像采集装置的各种电子设备,包括但不限于智能手机、平板电脑、智能电视、膝上型便携计算机和台式计算机等等。当终端设备102、103为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器,例如对智能音箱101以及终端设备102、103采集的图像进行处理的后台服务器。后台服务器可以对接收到的图像等数据进行分析等处理,并将处理结果(例如应答语音)反馈给智能音箱101以及终端设备102、103。
需要说明的是,服务器105可以是硬件,也可以是软件。当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当服务器105为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本申请实施例所提供的用于终端的交互方法一般由终端(例如智能音箱101或终端设备102、103)执行。相应地,用于终端的交互装置一般设置于终端中。在一些实现中,用于终端的交互方法的一些步骤也可以由服务端(例如服务器105)来执行。相应地,用于终端的交互装置中的一些单元也可以设置于服务端中。
应该理解,图1中的智能音箱、终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的智能音箱、终端设备、网络和服务器。
继续参考图2,示出了根据本申请的用于终端的交互方法的一个实施例的流程200。本实施例的用于终端的交互方法,包括以下步骤:
步骤201,获取图像序列。
在本实施例中,用于终端的交互方法的执行主体(例如图1所示的智能音箱101或终端设备102、103)可以通过有线连接方式或者无线连接方式获取图像序列。例如可以通过执行主体连接的图像采集装置获取图像序列。图像序列中可以包括至少一帧用户图像。此处,用户图像是指包含用户面部、用户肢体或用户眼部的图像。图像序列中的各帧图像可以是图像采集装置间隔预设时间连续拍摄得到的多帧图像。
需要指出的是,上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultra wideband)连接、以及其他现在已知或将来开发的无线连接方式。
步骤202,根据图像序列,确定预设的唤醒条件是否满足。
在获取到图像序列后,执行主体可以判断预设的唤醒条件是否满足。具体的,执行主体可以首先对图像序列进行一系列的处理,并根据处理结果,判断是否满足唤醒条件。上述处理可以包括但不限于特征提取、表情识别、动作识别等。在这里,预设的唤醒条件可以是预先设置的需要终端及时响应的唤醒条件。例如,唤醒条件可以是图像中包含火苗的图像。或者,唤醒条件可以是图像中包含陌生人的图像。可以理解的是,唤醒条件可以包括多个。利用上述唤醒条件,执行主体可以实现自动唤醒或被动唤醒。
步骤203,响应于确定唤醒条件满足,确定与唤醒条件对应的应答语音。
执行主体在确定唤醒条件满足后,可以确定与唤醒条件对应的应答语音。本实施例中,每个唤醒条件可以对应至少一条应答语音。不同的应答语音对应不同的场景。可以理解的是,应答语音旨在为用户提供相关的信息,或者主动陪伴用户(例如主动与用户交互)。
步骤204,播放应答语音。
执行主体在确定应答语音后,可以播放上述应答语音,以实现与用户的交互。
本申请的上述实施例提供的用于终端的交互方法,可以获取图像序列。图像序列中包括至少一帧用户图像。然后,根据图像序列,确定预设的唤醒条件是否满足。在确定唤醒条件满足后,确定与唤醒条件对应的应答语音。最后,播放应答语音。本实施例的方法,可以根据用户图像来唤醒终端,增加了交互方式。
在图2所示实施例的一些可选的实现方式中,图像序列可以包括用户的眼部图像。上述步骤202具体可以通过图2中未示出的以下步骤来实现:对眼部图像进行分析,确定用户是否注视终端;响应于确定用户注视终端,确定唤醒条件满足。
本实现方式中,图像序列可以是实时获取的包括用户的眼部图像。执行主体可以对眼部图像进行分析,确定用户的是否正在注视终端。如果确定用户当前正在注视终端,则认定用户想要与终端进行交互,则确定唤醒条件满足。
相应的,与本实现方式对应的,步骤203具体可以通过图2中未示出的以下步骤来实现:响应于确定唤醒条件满足,获取预设时长内的第一语音信息;对第一语音信息进行语义解析;根据语义解析结果,确定与唤醒条件对应的应答语音。
在本实现方式中,执行主体在确定唤醒条件满足后,可以监听所在环境中的声音信息,得到预设时长内的第一语音信息。执行主体可以对第一语音信息进行语义解析。并根据语义解析结果,来确定与唤醒条件对应的应答语音。举例来说,终端被唤醒后,可以监听用户的声音。当监听到用户的语音为“说说明天的天气吧”,终端可以将明天的天气信息作为应答语音的内容。或者,用户可以预先为终端设置关键词,终端可以将该关键词作为其名字。举例来说,用户预先设置的终端名字为“小明”。当终端被唤醒后,监听到用户的语音为“小明唱首歌吧”,终端可以播放一首歌曲。
在一些具体的实现中,终端可以在获取到第一语音信息后,将第一语音信息发送给服务端,由服务端来对第一语音信息进行语义解析,并根据语义解析结果,来确定与唤醒条件对应的应答语音。服务端在确定应答语音后,可以将所确定的应答语音发送给终端。
在另外一些实现中,终端可以在获取到第一语音信息后,直接对第一语音信息进行语义解析,并根据语义解析结果,来确定与唤醒条件对应的应答语音。这样可以减轻服务端的处理压力。
参见图3a,图3a是根据本实施例的用于终端的交互方法的一个应用场景的示意图。在图3a的应用场景中,用户A在和用户B聊天。用户A注视了智能音箱一眼说“明天我们去春游吧”,用户B说“好啊”。用户A说“就是不知道明天天气合不合适”。智能音箱在采集到上述语音信息后,对语音信息进行语义解析。并根据解析结果,确定应答语音的内容为“明天天气晴,气温25-30℃,正是春游的好天气”。智能音箱向用户播放上述应答语音。这样,智能音箱能够主动加入对话,并提供相关信息。
在图2所示实施例的一些可选的实现方式中,图像序列可以包括用户的面部图像。上述步骤202具体可以通过图2中未示出的以下步骤来实现:对图像序列中的面部图像进行表情识别;根据表情识别结果,确定图像序列中相邻两帧图像对应的表情是否相同;响应于确定图像序列中相邻两帧图像对应的表情不同,确定唤醒条件满足。
本实现方式中,图像序列可以包括用户的面部图像。执行主体可以对面部图像进行表情识别。然后,根据表情识别结果,来确定图像序列中任意相邻两帧图像对应的表情是否相同。如果存在相邻的两帧图像对应的表情不同,则确定用户的表情发生变化,此时唤醒条件满足。
相应的,与本实现方式对应的,步骤203具体可以通过图2中未示出的以下步骤来实现:响应于确定唤醒条件满足,确定与相邻两帧图像中后一帧图像对应的表情对应的应答语音;将所确定的应答语音作为与唤醒条件对应的应答语音。
本实现方式中,执行主体在确定唤醒条件满足后,可以将相邻两帧图像中的后一帧图像作为目标图像。然后将目标图像对应的表情所对应的应答语音,作为与唤醒条件对应的应答语音。举例来说,用户表情突然变为痛苦,执行主体在确定上述标签变化后,可以确定与痛苦表情对应的应答语音为“需要什么帮助吗?”。
参见图3b,图3b是根据本实施例的用于终端的交互方法的另一个应用场景的示意图。在图3b的应用场景中,用户A独自在家,突然哭泣。智能音箱识别到用户的表情后,确定与哭泣对应的应答语音为“主人,今天心情不太好吗?可以跟我聊聊吗”。这样,智能音箱能够根据用户的表情发起对话,提升用户体验。
在图2所示实施例的一些可选的实现方式中,图像序列可以包括用户的身体图像。上述步骤202具体可以通过图2中未示出的以下步骤来实现:对图像序列中的身体图像进行分析,确定用户的动作类型;响应于确定用户的动作类型满足预设条件,确定唤醒条件满足。
本实现方式中,图像序列可以包括用户的身体图像。执行主体可以对身体图像进行分析,来确定用户的动作类型。具体的,执行主体可以根据图像序列中各图像中用户身体的位置,确定用户的动作信息。动作信息可以包括动作类型和动作持续时间。上述动作类型可以包括跳跃、摔倒、下蹲等。执行主体可以判断用户的动作信息是否满足预设条件,如果满足,则确定唤醒条件满足。上述预设条件例如可以为摔倒时间持续2分钟,或者跳跃持续时间为2分钟。
相应的,与本实现方式对应的,步骤203具体可以通过图2中未示出的以下步骤来实现:确定与动作信息对应的应答语音作为与唤醒条件对应的应答语音。
执行主体可以根据动作信息,来确定其所对应的应答语音,并将所确定的应答语音作为与唤醒条件对应的应答语音。举例来说,用户的动作信息为:跳跃,5分钟。对应的应答语音可以为“适当的运动有助于身体健康”。
继续参见图3c,图3c是根据本实施例的用于终端的交互方法的一个应用场景的示意图。在图3a的应用场景中,独居老人突然摔倒,并且倒地时间超过2分钟,智能音箱唤醒后,确定对应的应答信息为“请问需要帮助吗?”。从而能够主动帮助用户。
在本实施例的一些可选的实现方式中,上述步骤202具体可以通过图2中未示出的以下步骤来实现:响应于接收到服务端发送的应答语音,确定唤醒条件满足。
本实现方式中,执行主体可以与服务端交互。当执行主体接收到服务端发送的应答语音时,则确定唤醒条件满足,终端进入唤醒状态。
继续参见图4,其示出了根据本申请的用于终端的交互方法的另一个实施例的流程400。如图4所示,本实施例的用于终端的交互方法可以包括以下步骤:
步骤401,获取图像序列。
步骤402,根据图像序列,确定预设的唤醒条件是否满足。
步骤403,响应于确定唤醒条件满足,确定与唤醒条件对应的应答语音。
步骤404,播放应答语音。
步骤401~404的原理与步骤201~204的原理类似,此处不再赘述。
步骤405,响应于应答语音的播放完成,获取预设时长内的第二语音信息。
执行主体播放完成应答语音后,可以获取预设时长内的第二语音信息。上述预设时长可以是技术人员根据实际应用场景预先设定的,例如2分钟。
步骤406,根据第二语音信息,控制终端。
执行主体在获取第二语音信息后,可以根据第二语音信息,控制终端。具体的,执行主体可以对第二语音信息进行解析,确定其中的关键词或情绪。然后根据与关键词或情绪对应的指令,来控制终端。举例来说,在图3b所示的场景中,智能音箱可以在播放完成应答语音后,获取用户的回应信息。如果用户的回应信息表示用户愿意倾听,说明智能音箱所识别的表情正确。则智能音箱可以将情绪对应的面部图像及识别到的表情存储在本地。这样,智能音箱再次识别用户面部图像的表情时,可以将面部图像的特征数据与已存储的面部图像的特征数据进行比较,从而能够更快速准确地识别用户的表情。在图3c所示的应用场景中,智能音箱可以在播放完成应答语音后,获取用户的回应信息。如果用户的回应信息包含关键词“打电话”。则智能音箱可以向服务端发送上述回应信息,以供服务端处理。
进一步参考图5,作为对上述各图所示方法的实现,本申请提供了一种用于终端的交互装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的用于终端的交互装置500包括:图像序列获取单元501、条件判断单元502、应答语音确定单元503以及应答语音播放单元504。
图像序列获取单元501,被配置成获取图像序列。其中,图像序列包括至少一帧用户图像。
条件判断单元502,被配置成根据图像序列,确定预设的唤醒条件是否满足。
应答语音确定单元503,被配置成响应于确定唤醒条件满足,确定与唤醒条件对应的应答语音。
应答语音播放单元504,被配置成播放应答语音。
在本实施例的一些可选的实现方式中,图像序列包括用户的眼部图像。条件判断单元502可以进一步被配置成:对眼部图像进行分析,确定用户是否注视终端;响应于确定用户注视终端,确定唤醒条件满足。
在本实施例的一些可选的实现方式中,应答语音确定单元503可以进一步被配置成:响应于确定唤醒条件满足,获取预设时长内的第一语音信息;对第一语音信息进行语义解析;根据语义解析结果,确定与唤醒条件对应的应答语音。
在本实施例的一些可选的实现方式中,图像序列包括用户的面部图像。条件判断单元502可以进一步被配置成:对图像序列中的面部图像进行表情识别;根据表情识别结果,确定图像序列中相邻两帧图像对应的表情是否相同;响应于确定图像序列中相邻两帧图像对应的表情不同,确定唤醒条件满足。
在本实施例的一些可选的实现方式中,应答语音确定单元503可以进一步被配置成:响应于确定唤醒条件满足,确定与相邻两帧图像中后一帧图像对应的表情对应的应答语音;将所确定的应答语音作为与唤醒条件对应的应答语音。
在本实施例的一些可选的实现方式中,图像序列包括用户的身体图像。条件判断单元502可以进一步被配置成:对图像序列中的身体图像进行分析,确定用户的动作信息;响应于确定用户的动作信息满足预设条件,确定唤醒条件满足。
在本实施例的一些可选的实现方式中,应答语音确定单元503可以进一步被配置成:确定与动作信息对应的应答语音作为与唤醒条件对应的应答语音。
在本实施例的一些可选的实现方式中,条件判断单元502可以进一步被配置成:响应于接收到服务端发送的应答语音,确定唤醒条件满足。
在本实施例的一些可选的实现方式中,装置500可以进一步包括图5中未示出的语音信息获取单元和终端控制单元。
语音信息获取单元,被配置成响应于应答语音的播放完成,获取预设时长内的第二语音信息;
终端控制单元,被配置成根据第二语音信息,控制终端。
应当理解,用于终端的交互装置500中记载的单元501至单元504分别与参考图2中描述的方法中的各个步骤相对应。由此,上文针对用于终端的交互方法描述的操作和特征同样适用于装置500及其中包含的单元,在此不再赘述。
下面参考图6,其示出了适于用来实现本公开的实施例的终端(例如图1中的智能音箱101或终端设备102、103)600的结构示意图。图6示出的终端仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图6所示,终端600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图6中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开的实施例的方法中限定的上述功能。需要说明的是,本公开的实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述终端中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取图像序列,其中,图像序列包括至少一帧用户图像;根据图像序列,确定预设的唤醒条件是否满足;响应于确定唤醒条件满足,确定与唤醒条件对应的应答语音;播放应答语音。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括图像序列获取单元、条件判断单元、应答语音确定单元和应答语音播放单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,应答语音播放单元还可以被描述为“播放应答语音的单元”。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (20)
1.一种用于终端的交互方法,包括:
获取图像序列,其中,所述图像序列包括至少一帧用户图像;
根据所述图像序列,确定预设的唤醒条件是否满足;
响应于确定所述唤醒条件满足,确定与所述唤醒条件对应的应答语音;
播放所述应答语音。
2.根据权利要求1所述的方法,其中,所述图像序列包括用户的眼部图像;以及
所述根据所述图像序列,检测预设的唤醒条件是否满足,包括:
对所述眼部图像进行分析,确定所述用户是否注视终端;
响应于确定所述用户注视终端,确定所述唤醒条件满足。
3.根据权利要求2所述的方法,其中,所述响应于确定所述唤醒条件满足,确定与所述唤醒条件对应的应答语音,包括:
响应于确定所述唤醒条件满足,获取预设时长内的第一语音信息;
对所述第一语音信息进行语义解析;
根据语义解析结果,确定与所述唤醒条件对应的应答语音。
4.根据权利要求1所述的方法,其中,所述图像序列包括用户的面部图像;以及
所述根据所述图像序列,检测预设的唤醒条件是否满足,包括:
对所述图像序列中的面部图像进行表情识别;
根据表情识别结果,确定所述图像序列中相邻两帧图像对应的表情是否相同;
响应于确定所述图像序列中相邻两帧图像对应的表情不同,确定所述唤醒条件满足。
5.根据权利要求4所述的方法,其中,所述响应于确定所述唤醒条件满足,确定与所述唤醒条件对应的应答语音,包括:
响应于确定所述唤醒条件满足,确定与相邻两帧图像中后一帧图像对应的表情对应的应答语音;
将所确定的应答语音作为与所述唤醒条件对应的应答语音。
6.根据权利要求1所述的方法,其中,所述图像序列包括用户的身体图像;以及
所述根据所述图像序列,检测预设的唤醒条件是否满足,包括:
对所述图像序列中的身体图像进行分析,确定用户的动作信息;
响应于确定用户的动作信息满足预设条件,确定所述唤醒条件满足。
7.根据权利要求6所述的方法,其中,所述响应于确定所述唤醒条件满足,确定与所述唤醒条件对应的应答语音,包括:
确定与所述动作信息对应的应答语音作为与所述唤醒条件对应的应答语音。
8.根据权利要求1所述的方法,其中,所述检测预设的唤醒条件是否满足,包括:
响应于接收到服务端发送的应答语音,确定所述唤醒条件满足。
9.根据权利要求1-8任一项所述的方法,其中,所述方法还包括:
响应于所述应答语音的播放完成,获取预设时长内的第二语音信息;
根据所述第二语音信息,控制所述终端。
10.一种用于终端的交互装置,包括:
图像序列获取单元,被配置成获取图像序列,其中,所述图像序列包括至少一帧用户图像;
条件判断单元,被配置成根据所述图像序列,确定预设的唤醒条件是否满足;
应答语音确定单元,被配置成响应于确定所述唤醒条件满足,确定与所述唤醒条件对应的应答语音;
应答语音播放单元,被配置成播放所述应答语音。
11.根据权利要求10所述的装置,其中,所述图像序列包括用户的眼部图像;以及
所述条件判断单元进一步被配置成:
对所述眼部图像进行分析,确定所述用户是否注视终端;
响应于确定所述用户注视终端,确定所述唤醒条件满足。
12.根据权利要求11所述的装置,其中,所述应答语音确定单元进一步被配置成:
响应于确定所述唤醒条件满足,获取预设时长内的第一语音信息;
对所述第一语音信息进行语义解析;
根据语义解析结果,确定与所述唤醒条件对应的应答语音。
13.根据权利要求10所述的装置,其中,所述图像序列包括用户的面部图像;以及
所述条件判断单元进一步被配置成:
对所述图像序列中的面部图像进行表情识别;
根据表情识别结果,确定所述图像序列中相邻两帧图像对应的表情是否相同;
响应于确定所述图像序列中相邻两帧图像对应的表情不同,确定所述唤醒条件满足。
14.根据权利要求13所述的装置,其中,所述应答语音确定单元进一步被配置成:
响应于确定所述唤醒条件满足,确定与相邻两帧图像中后一帧图像对应的表情对应的应答语音;
将所确定的应答语音作为与所述唤醒条件对应的应答语音。
15.根据权利要求10所述的装置,其中,所述图像序列包括用户的身体图像;以及
所述条件判断单元进一步被配置成:
对所述图像序列中的身体图像进行分析,确定用户的动作信息;
响应于确定用户的动作信息满足预设条件,确定所述唤醒条件满足。
16.根据权利要求15所述的装置,其中,所述应答语音确定单元进一步被配置成:
确定与所述动作信息对应的应答语音作为与所述唤醒条件对应的应答语音。
17.根据权利要求10所述的装置,其中,所述条件判断单元进一步被配置成:
响应于接收到服务端发送的应答语音,确定所述唤醒条件满足。
18.根据权利要求10-17任一项所述的装置,其中,所述装置还包括:
语音信息获取单元,被配置成响应于所述应答语音的播放完成,获取预设时长内的第二语音信息;
终端控制单元,被配置成根据所述第二语音信息,控制所述终端。
19.一种终端,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-9中任一所述的方法。
20.一种计算机可读介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求1-9中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910509292.4A CN110196900A (zh) | 2019-06-13 | 2019-06-13 | 用于终端的交互方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910509292.4A CN110196900A (zh) | 2019-06-13 | 2019-06-13 | 用于终端的交互方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110196900A true CN110196900A (zh) | 2019-09-03 |
Family
ID=67754421
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910509292.4A Pending CN110196900A (zh) | 2019-06-13 | 2019-06-13 | 用于终端的交互方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110196900A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110910887A (zh) * | 2019-12-30 | 2020-03-24 | 苏州思必驰信息科技有限公司 | 语音唤醒方法和装置 |
CN113626778A (zh) * | 2020-05-08 | 2021-11-09 | 百度在线网络技术(北京)有限公司 | 用于唤醒设备的方法、装置、电子设备和计算机存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108154140A (zh) * | 2018-01-22 | 2018-06-12 | 北京百度网讯科技有限公司 | 基于唇语的语音唤醒方法、装置、设备及计算机可读介质 |
CN108733420A (zh) * | 2018-03-21 | 2018-11-02 | 北京猎户星空科技有限公司 | 智能设备的唤醒方法、装置、智能设备和存储介质 |
CN109346076A (zh) * | 2018-10-25 | 2019-02-15 | 三星电子(中国)研发中心 | 语音交互、语音处理方法、装置和*** |
-
2019
- 2019-06-13 CN CN201910509292.4A patent/CN110196900A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108154140A (zh) * | 2018-01-22 | 2018-06-12 | 北京百度网讯科技有限公司 | 基于唇语的语音唤醒方法、装置、设备及计算机可读介质 |
CN108733420A (zh) * | 2018-03-21 | 2018-11-02 | 北京猎户星空科技有限公司 | 智能设备的唤醒方法、装置、智能设备和存储介质 |
CN109346076A (zh) * | 2018-10-25 | 2019-02-15 | 三星电子(中国)研发中心 | 语音交互、语音处理方法、装置和*** |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110910887A (zh) * | 2019-12-30 | 2020-03-24 | 苏州思必驰信息科技有限公司 | 语音唤醒方法和装置 |
CN113626778A (zh) * | 2020-05-08 | 2021-11-09 | 百度在线网络技术(北京)有限公司 | 用于唤醒设备的方法、装置、电子设备和计算机存储介质 |
CN113626778B (zh) * | 2020-05-08 | 2024-04-02 | 百度在线网络技术(北京)有限公司 | 用于唤醒设备的方法、装置、电子设备和计算机存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11158102B2 (en) | Method and apparatus for processing information | |
US11271765B2 (en) | Device and method for adaptively providing meeting | |
CN105320726B (zh) | 降低对手动开始/结束点和触发短语的需求 | |
US20170277993A1 (en) | Virtual assistant escalation | |
JP2023553101A (ja) | ライブストリーミングインタラクション方法、装置、デバイス及び媒体 | |
CN107704169B (zh) | 虚拟人的状态管理方法和*** | |
CN109993150B (zh) | 用于识别年龄的方法和装置 | |
EP3611724A1 (en) | Voice response method and device, and smart device | |
CN110267113B (zh) | 视频文件加工方法、***、介质和电子设备 | |
CN109887505A (zh) | 用于唤醒设备的方法和装置 | |
US11803579B2 (en) | Apparatus, systems and methods for providing conversational assistance | |
CN110196900A (zh) | 用于终端的交互方法和装置 | |
CN110288683B (zh) | 用于生成信息的方法和装置 | |
CN109949793A (zh) | 用于输出信息的方法和装置 | |
CN111312243B (zh) | 设备交互方法和装置 | |
CN112309387A (zh) | 用于处理信息的方法和装置 | |
CN116437155A (zh) | 一种直播互动方法、装置、计算机设备和存储介质 | |
US20240171418A1 (en) | Information processing device and information processing method | |
CN110459239A (zh) | 基于声音数据的角色分析方法、装置和计算机可读存储介质 | |
CN212588503U (zh) | 一种嵌入式音频播放装置 | |
CN113312928A (zh) | 文本翻译方法、装置、电子设备和存储介质 | |
KR20190030549A (ko) | 영상 채팅에 기반하여 광고 콘텐츠의 흐름을 제어하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체 | |
CN114065056A (zh) | 学习方案推荐方法、服务器及*** | |
CN112565913A (zh) | 视频通话方法、装置和电子设备 | |
CN109348353B (zh) | 智能音箱的服务处理方法、装置和智能音箱 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190903 |
|
RJ01 | Rejection of invention patent application after publication |