CN110851108A - 电子设备操作方法、装置、电子设备及存储介质 - Google Patents
电子设备操作方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN110851108A CN110851108A CN201911130236.6A CN201911130236A CN110851108A CN 110851108 A CN110851108 A CN 110851108A CN 201911130236 A CN201911130236 A CN 201911130236A CN 110851108 A CN110851108 A CN 110851108A
- Authority
- CN
- China
- Prior art keywords
- interface
- application
- target
- event information
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/542—Event management; Broadcasting; Multicasting; Notifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/547—Remote procedure calls [RPC]; Web services
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本公开提供了一种电子设备操作方法、装置、电子设备及存储介质,属于电子设备技术领域。所述方法包括:显示第一目标应用程序的第一应用界面;当接收到被输入的语音信号时,通过第一服务器获取语音信号对应的执行事件和事件信息;根据执行事件、事件信息和第一应用界面的界面数据,生成语音信号的操作指令;在第一应用界面中执行操作指令对应的操作。在本公开中,电子设备仅通过第一服务器获取语音信号对应的执行事件和事件信息,结合电子设备当前显示的第一应用界面的界面数据,即可生成语音信号的操作指令。使得电子设备当前显示的第一应用界面的界面数据不会上传到第一服务器,从而能够保护第一目标应用程序的界面数据的隐私。
Description
技术领域
本公开涉及电子设备技术领域,特别涉及一种电子设备操作方法、装置、电子设备及存储介质。
背景技术
互联网技术和电子设备的发展大大方便了人们的生活。电子设备上的应用程序能够为人们提供诸如通讯、娱乐和购物等各种服务。人们可以通过在电子设备上可以安装应用程序获得自己需要的服务。例如,人们可以在电子设备上安装外卖应用,打开外卖应用的点餐界面,在点餐界面中点击需要的餐品,将餐品加入购物车。
相关技术中,电子设备获取应用程序的安装包,利用应用程序的安装包安装应用程序。电子设备在运行已安装的应用程序时,显示应用程序的界面;在显示应用程序的界面的过程中,当电子设备接收到对该界面中的控件的点击操作时,根据该控件执行相应的操作。
发明内容
本公开实施例提供了一种电子设备操作方法、装置、电子设备及存储介质,能够保护第一目标应用程序的界面数据的隐私。所述技术方案如下:
根据本公开实施例的一方面,提供了一种电子设备操作方法,所述方法包括:
显示第一目标应用程序的第一应用界面;
当接收到被输入的语音信号时,通过第一服务器获取所述语音信号对应的执行事件和事件信息;
根据所述执行事件、所述事件信息和所述第一应用界面的界面数据,生成所述语音信号的操作指令;
在所述第一应用界面中执行所述操作指令对应的操作。
在一种可能的实现方式中,所述根据所述执行事件、所述事件信息和所述第一应用界面的界面数据,生成所述语音信号的操作指令,包括:
根据所述事件信息和所述第一应用界面的界面数据,在所述第一应用界面中匹配出所述事件信息对应的控件标识;
根据所述执行事件和所述控件标识,生成所述操作指令。
在另一种可能的实现方式中,所述根据所述事件信息和所述第一应用界面的界面数据,在所述第一应用界面中匹配出所述事件信息对应的控件标识,包括:
所述第一应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;在所述第一应用界面的界面数据中查找与所述事件信息匹配的目标界面元素;
当查找到与所述事件信息匹配的目标界面元素时,根据所述目标界面元素对应的控件标识,确定所述事件信息对应的控件标识。
在另一种可能的实现方式中,所述方法还包括:
当在所述第一应用界面的界面数据中没有查找到与所述事件信息匹配的目标界面元素时,获取历史显示的第二应用界面的界面数据,所述第二应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;
在所述第二应用界面的界面数据中查找与所述事件信息匹配的目标界面元素;
当查找到与所述事件信息匹配的目标界面元素时,根据所述目标界面元素对应的控件标识,确定所述事件信息对应的控件标识。
在另一种可能的实现方式中,所述根据所述目标界面元素对应的控件标识,确定所述事件信息对应的控件标识,包括:
当所述目标界面元素对应一个控件标识时,将所述目标界面元素对应的控件标识确定为所述事件信息对应的控件标识;
当所述目标界面元素对应多个控件标识时,根据所述执行事件,从所述目标界面元素对应的多个控件标识中确定所述执行事件对应的控件标识。
在另一种可能的实现方式中,所述显示第一目标应用程序的第一应用界面,包括:
向所述第一服务器发送第一获取请求,以及,向所述第一目标应用程序对应的第二服务器发送第二获取请求;
接收所述第一服务器返回的所述第一应用界面的样式数据,以及,接收所述第二服务器返回的所述第一应用界面的界面数据;
根据所述样式数据和所述界面数据,渲染所述第一应用界面。
在另一种可能的实现方式中,所述方法还包括:
显示本地已安装的第二目标应用程序的第三应用界面,所述第三应用界面中包括本地未安装的所述第一目标应用程序的应用接口;
当检测到所述第一目标应用程序的应用接口被触发时,启动所述第一目标应用程序。
在另一种可能的实现方式中,所述通过第一服务器获取所述语音信号对应的执行事件和事件信息,包括:
向所述第一服务器发送所述语音信号,所述第一服务器用于根据所述语音信号,通过语音识别规则,识别出所述语音信号对应的执行事件和事件信息;
接收所述第一服务器返回的所述执行事件和所述事件信息。
根据本公开实施例的另一方面,提供了一种电子设备操作装置,所述装置包括:
显示模块,被配置为显示第一目标应用程序的第一应用界面;
获取模块,被配置为当接收到被输入的语音信号时,通过第一服务器获取所述语音信号对应的执行事件和事件信息;
生成模块,被配置为根据所述执行事件、所述事件信息和所述第一应用界面的界面数据,生成所述语音信号的操作指令;
执行模块,被配置为在所述第一应用界面中执行所述操作指令对应的操作。
在一种可能的实现方式中,所述生成模块,还被配置为根据所述事件信息和所述第一应用界面的界面数据,在所述第一应用界面中匹配出所述事件信息对应的控件标识;根据所述执行事件和所述控件标识,生成所述操作指令。
在另一种可能的实现方式中,所述生成模块,还被配置为所述第一应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;在所述第一应用界面的界面数据中查找与所述事件信息匹配的目标界面元素;当查找到与所述事件信息匹配的目标界面元素时,根据所述目标界面元素对应的控件标识,确定所述事件信息对应的控件标识。
在另一种可能的实现方式中,所述生成模块,还被配置为当在所述第一应用界面的界面数据中没有查找到与所述事件信息匹配的目标界面元素时,获取历史显示的第二应用界面的界面数据,所述第二应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;在所述第二应用界面的界面数据中查找与所述事件信息匹配的目标界面元素;当查找到与所述事件信息匹配的目标界面元素时,根据所述目标界面元素对应的控件标识,确定所述事件信息对应的控件标识。
在另一种可能的实现方式中,所述生成模块,还被配置为当所述目标界面元素对应一个控件标识时,将所述目标界面元素对应的控件标识确定为所述事件信息对应的控件标识;当所述目标界面元素对应多个控件标识时,根据所述执行事件,从所述目标界面元素对应的多个控件标识中确定所述执行事件对应的控件标识。
在另一种可能的实现方式中,所述显示模块,还被配置为向所述第一服务器发送第一获取请求,以及,向所述第一目标应用程序对应的第二服务器发送第二获取请求;接收所述第一服务器返回的所述第一应用界面的样式数据,以及,接收所述第二服务器返回的所述第一应用界面的界面数据;根据所述样式数据和所述界面数据,渲染所述第一应用界面。
在另一种可能的实现方式中,所述显示模块,还被配置为显示本地已安装的第二目标应用程序的第三应用界面,所述第三应用界面中包括本地未安装的所述第一目标应用程序的应用接口;当检测到所述第一目标应用程序的应用接口被触发时,启动所述第一目标应用程序。
在另一种可能的实现方式中,所述获取模块,还被配置为向所述第一服务器发送所述语音信号,所述第一服务器用于根据所述语音信号,通过语音识别规则,识别出所述语音信号对应的执行事件和事件信息;接收所述第一服务器返回的所述执行事件和所述事件信息。
根据本公开实施例的另一方面,提供了一种电子设备,所述电子设备包括:
一个或多个处理器;
用于存储所述一个或多个处理器可执行指令的易失性或非易失性存储器;
其中,所述一个或多个处理器被配置为:
显示第一目标应用程序的第一应用界面;
当接收到被输入的语音信号时,通过第一服务器获取所述语音信号对应的执行事件和事件信息;
根据所述执行事件、所述事件信息和所述第一应用界面的界面数据,生成所述语音信号的操作指令;
在所述第一应用界面中执行所述操作指令对应的操作。
根据本公开实施例的另一方面,提供了一种非临时性计算机可读存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行上述任一可能的实现方式所述的电子设备操作方法。
在本公开实施例中,电子设备仅通过第一服务器获取语音信号对应的执行事件和事件信息,结合电子设备当前显示的第一应用界面的界面数据,即可生成语音信号的操作指令,使得电子设备当前显示的第一应用界面的界面数据不会上传到第一服务器,从而能够保护第一目标应用程序的界面数据的隐私。
并且,由于电子设备从当前显示的第一应用界面的界面数据中查找与事件信息匹配的目标界面元素,使得生成的操作指令与当前显示的界面匹配,从而电子设备执行操作指令对应的操作更加准确。
并且,由于当电子设备在第一应用界面的界面数据中查找不到与事件信息匹配的目标界面元素时,电子设备还可以在历史显示的第二应用界面中查找与事件信息匹配的目标界面元素,使得电子设备能够应对更复杂的语音交互场景,从而提升用户的体验度。
并且,由于当目标界面元素对应多个控件标识时,电子设备可以根据执行事件从多个控件标识中确定事件信息对应的控件标识,使得对于界面元素较复杂的界面,电子设备也能够准确的确定事件信息对应的控件标识,从而能够应对复杂的语音交互场景,提升用户的体验度。
并且,第一服务器仅用于为第一目标应用程序的运行提供样式数据,无法获取到第一目标应用程序的界面数据。从而能够实现对第一目标应用程序的界面数据的数据隐私保护。
并且,由于用户不需要下载第一目标应用程序对应的安装包,也不需要在电子设备上安装第一目标应用程序,即可运行该第一目标应用程序,节省了电子设备本地的存储空间,且由于直接触发应用接口就能使用到第一目标应用程序的功能,从而能够提升用户的体验度。
并且,由于第一服务器能够将语音信号转化为执行事件和事件信息,为快应用的开发者提供了语音识别的服务,从而开发者能够通过第一服务器开发出具有语音交互功能的快应用,使得快应用的应用场景更加丰富。
附图说明
为了更清楚地说明本公开实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据一示例性实施例示出的一种实施环境的示意图;
图2是根据一示例性实施例示出的一种电子设备操作方法的流程图;
图3是根据一示例性实施例示出的一种电子设备操作方法的交互流程图;
图4是根据一示例性实施例示出的一种快应用框架的框图;
图5是根据一示例性实施例示出的一种快应用的启动流程图;
图6是根据一示例性实施例示出的一种电子设备操作装置的框图;
图7是根据一示例性实施例示出的一种电子设备的框图。
具体实施方式
为使本公开的目的、技术方案和优点更加清楚,下面将结合附图对本公开实施方式作进一步地详细描述。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或隐含地包括至少一个该特征。在本公开的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
快应用:是一种新型应用程序,能够基于操作***提供的原生API(ApplicationProgramming Interface,应用程序编程接口)运行。快应用采用统一的标准进行开发,原生渲染,同时具备HTML5(Hyper Text Markup Language,超文本标记语言第5代)界面和原生应用的双重优点。快应用的框架可以深度集成于操作***中,能够在操作***层面进行操作,实现与其他应用服务之间的无缝衔接。开发者可以做到一次性开发即可在不同类型的设备上运行,并且无需用户进行下载和安装即可使用,即点即用。
由于快应用的特殊性,快应用被期待完成更多的任务,实现更多的功能。目前,快应用的功能正在逐步完善中,本公开实施例就是提供了一种快应用的新功能,利用该新功能,快应用能够实现与用户的语音交互,扩展了快应用的功能,提高了快应用的处理能力以及实用性。
图1是根据一示例性实施例示出的一种实施环境的示意图。参见图1,该实施环境中包括电子设备101、第一服务器102和第二服务器103;电子设备101和第一服务器102之间通过无线或者有线网络连接。电子设备101和第二服务器103之间通过无线或者有线网络连接。第一服务器102和第二服务器103之间可以通过无线或者有线网络连接。第一服务器102和第二服务器103之间也可以不建立连接。
电子设备101可以为电脑、手机、智能电视、可穿戴设备、平板电脑或者其他电子设备101。电子设备101上可以安装有第二目标应用程序,第一服务器102用于为该第二目标应用程序提供服务。电子设备101的用户可以通过该第二目标应用程序实现例如数据传输、消息交互等功能。
第二目标应用程序可以为电子设备101的操作***中预置的应用程序,也可以为第三方提供的应用程序。例如,第二目标应用程序可以为应用下载中心或者快应用中心等应用程序。第二目标应用程序中可以提供第一目标应用程序的应用接口。电子设备101可以通过第一目标应用程序的应用接口,快速进入第一目标应用程序的应用界面。第一目标应用程序可以为电子设备101上未安装的任一应用程序。第一目标应用程序可以为快应用。例如,第一目标应用程序可以为购物快应用、音乐快应用、外卖快应用、视频快应用、社交快应用或者浏览器快应用等为用户提供任意服务的快应用。
图2是根据一示例性实施例示出的一种电子设备操作方法的流程图。参见图2,该电子设备操作方法包括以下步骤:
在步骤S201中,显示第一目标应用程序的第一应用界面。
在步骤S202中,当接收到被输入的语音信号时,通过第一服务器获取语音信号对应的执行事件和事件信息。
在步骤S203中,根据执行事件、事件信息和第一应用界面的界面数据,生成语音信号的操作指令。
在步骤S204中,在第一应用界面中执行操作指令对应的操作。
在本公开实施例中,电子设备仅通过第一服务器获取语音信号对应的执行事件和事件信息,结合电子设备当前显示的第一应用界面的界面数据,即可生成语音信号的操作指令,使得电子设备当前显示的第一应用界面的界面数据不会上传到第一服务器,从而能够保护第一目标应用程序的界面数据的隐私。
在一种可能的实现方式中,根据执行事件、事件信息和第一应用界面的界面数据,生成语音信号的操作指令,包括:
根据事件信息和第一应用界面的界面数据,在第一应用界面中匹配出事件信息对应的控件标识;
根据执行事件和控件标识,生成操作指令。
在另一种可能的实现方式中,根据事件信息和第一应用界面的界面数据,在第一应用界面中匹配出事件信息对应的控件标识,包括:
第一应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;在第一应用界面的界面数据中查找与事件信息匹配的目标界面元素;
当查找到与事件信息匹配的目标界面元素时,根据目标界面元素对应的控件标识,确定事件信息对应的控件标识。
在另一种可能的实现方式中,方法还包括:
当在第一应用界面的界面数据中没有查找到与事件信息匹配的目标界面元素时,获取历史显示的第二应用界面的界面数据,第二应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;
在第二应用界面的界面数据中查找与事件信息匹配的目标界面元素;
当查找到与事件信息匹配的目标界面元素时,根据目标界面元素对应的控件标识,确定事件信息对应的控件标识。
在另一种可能的实现方式中,根据目标界面元素对应的控件标识,确定事件信息对应的控件标识,包括:
当目标界面元素对应一个控件标识时,将目标界面元素对应的控件标识确定为事件信息对应的控件标识;
当目标界面元素对应多个控件标识时,根据执行事件,从目标界面元素对应的多个控件标识中确定执行事件对应的控件标识。
在另一种可能的实现方式中,显示第一目标应用程序的第一应用界面,包括:
向第一服务器发送第一获取请求,以及,向第一目标应用程序对应的第二服务器发送第二获取请求;
接收第一服务器返回的第一应用界面的样式数据,以及,接收第二服务器返回的第一应用界面的界面数据;
根据样式数据和界面数据,渲染第一应用界面。
在另一种可能的实现方式中,方法还包括:
显示本地已安装的第二目标应用程序的第三应用界面,第三应用界面中包括本地未安装的第一目标应用程序的应用接口;
当检测到第一目标应用程序的应用接口被触发时,启动第一目标应用程序。
在另一种可能的实现方式中,通过第一服务器获取语音信号对应的执行事件和事件信息,包括:
向第一服务器发送语音信号,第一服务器用于根据语音信号,通过语音识别规则,识别出语音信号对应的执行事件和事件信息;
接收第一服务器返回的执行事件和事件信息。
图3是根据一示例性实施例示出的一种电子设备操作方法的交互流程图。参见图3,该电子设备操作方法包括以下步骤:
在步骤S301中,电子设备显示第一目标应用程序的第一应用界面。
第一目标应用程序为电子设备的任一快应用。第一应用界面为第一目标应用程序的任一界面。第一应用界面可以为第一目标应用程序的主界面,第一目标应用程序还可以为第一目标应用程序的任一子界面。例如,当第一目标应用程序为购物快应用时,第一应用界面可以为该购物快应用的主界面,即第一应用界面可以为该购物快应用的首页;第一应用界面也可以为该购物快应用的任一子界面,例如,第一应用界面可以为任一显示物品信息的界面。
电子设备可以通过第一服务器获取第一应用界面的样式数据,通过第二服务器获取第一应用界面的界面数据,根据该样式数据和该界面数据,渲染第一应用界面。
相应的,电子设备显示第一目标应用程序的第一应用界面的步骤可以为:电子设备向第一服务器发送用于获取样式数据的第一获取请求,以及,向第一目标应用程序对应的第二服务器发送用于获取界面数据的第二获取请求。接收第一服务器返回的第一应用界面的样式数据,以及,接收第二服务器返回的第一应用界面的界面数据,根据该样式数据和该界面数据,渲染第一应用界面。
其中,第一服务器可以用于为第一目标应用程序提供渲染第一应用界面的样式数据。第一服务器还可以用于为第一目标应用程序的开发者提供各种能力接口。第二服务器可以为任一快应用对应的后台服务器。第二服务器可以用于为第一目标应用程序提供渲染第一应用界面的界面数据。第二服务器还可以用于为第一目标应用程序提供服务。例如,当第一目标应用程序为购物快应用时,第二服务器为该购物快应用对应的后台服务器。第二服务器为购物快应用提供物品信息数据、订单信息数据等。样式数据可以为用于渲染第一应用界面的界面框架。界面数据可以为界面框架内的内容。例如,第一应用界面为购物快应用显示物品信息的界面。样式数据包括物品信息展示框、立即购买按钮或者加入购物车按钮等固定的界面框架等。界面数据包括物品图像、描述该物品图像的信息,该界面数据可以显示在上述物品信息展示框中。
在本公开实施例中,第一服务器仅用于为第一目标应用程序的运行提供样式数据,无法获取到第一目标应用程序的界面数据。从而能够实现对第一目标应用程序的界面数据的数据隐私保护。
需要说明的一点是,电子设备显示第一目标应用程序的第一应用界面之前,还可以通过第二目标应用程序启动第一目标应用程序。相应的,电子设备通过第二目标应用程序启动第一目标应用程序的步骤可以为:电子设备显示本地已安装的第二目标应用程序的第三应用界面,该第三应用界面中包括本地未安装的第一目标应用程序的应用接口。当电子设备检测到第一目标应用程序的应用接口被触发时,启动该第一目标应用程序。
其中,第二目标应用程序可以为电子设备本地已安装的应用程序。例如第二目标应用程序为电子设备上已安装的应用下载中心、快应用中心或者桌面应用等。第三应用界面中可以包括第一目标应用程序的应用接口,该应用接口用于启动该第一目标应用程序。例如,第二目标应用程序为应用下载中心,电子设备接收对第一目标应用程序的搜索操作,将搜索结果显示在第三应用界面中,该搜索结果中包括第一目标应用程序的应用接口,该应用接口中可以包括“秒开”标识。当电子设备接收到对该应用接口的触发操作时,启动该第一目标应用程序,显示第一目标应用程序的主界面。再如,第二目标应用程序为快应用中心,电子设备接收到触发第二目标应用程序启动的操作时,显示第二目标应用程序的第三应用界面,该第三应用界面中包括该第一目标应用程序的应用接口。当电子设备接收到对该应用接口的触发操作时,启动该第一目标应用程序,显示第一目标应用程序的主界面。再如,第二目标应用程序为桌面应用,第二目标应用程序的第三应用界面中包括第一目标应用程序的应用接口,当电子设备接收到对该应用接口的触发操作时,启动第一目标应用程序,显示第一目标应用程序的主界面。
在本公开实施例中,由于用户不需要下载第一目标应用程序对应的安装包,也不需要在电子设备上安装第一目标应用程序,即可运行该第一目标应用程序,节省了电子设备本地的存储空间,且由于直接触发应用接口就能使用到第一目标应用程序的功能,从而能够提升用户的体验度。
在步骤S302中,当电子设备接收到被输入的语音信号时,向第一服务器发送语音信号。
在本公开实施例中,第一服务器还能够为第一目标应用程序提供语音识别服务。当电子设备接收到被输入的语音信号时,可以向第一服务器发送该语音信号。
电子设备可以将接收到的被输入的所有语音信号都发送给第一服务器。电子设备也可以在检测到语音服务被触发时,才开始向第一服务器发送语音信号。例如,当电子设备接收到开启语音交互的操作指令时,才开始向第一服务器发送语音信号。
在步骤S303中,第一服务器接收电子设备发送的语音信号,根据语音信号,通过语音识别规则,识别出语音信号对应的执行事件和事件信息。
在本公开实施例中,该执行事件用于操控发送该语音信号的电子设备,电子设备可以按照该执行事件执行相应的操作。例如,该执行事件可以为操作事件,如click(点击)事件或者界面滑动事件等。事件信息可以包括执行事件对应的操作对象的信息。
在一种可能的实现方式中,第一服务器可以将接收到的语音信号先转化为文字信息,再将文字信息转化为语音信号对应的执行事件和事件信息。相应的,第一服务器根据语音信号,通过语音识别规则,识别出语音信号对应的执行事件和事件信息的步骤可以为:第一服务器通过ASR(Automatic Speech Recognition,语音识别)模型和NLP(NaturalLanguage Processing,自然语言处理)模型中的至少一个,将接收到的语音信号转化为文字信息。第一服务器可以根据该文字信息和语音识别规则,识别出该语音信号对应的执行事件和事件信息。
语音识别规则中可以包括文字信息和执行事件。第一服务器可以根据该语音识别规则,确定文字信息对应的执行事件。例如,第一服务器接收到的语音信号为“打开文件a”,第一服务器将该语音信号转化为文字信息“打开文件a”。第一服务器通过语音识别规则,识别出该语音信号对应的文字信息中的“打开”对应的执行事件为“click”,该语音信号对应的文字信息中的“文件a”对应的事件信息为“文件a”。
在另一种可能的实现方式中,第一服务器能够直接根据语音信号和语音识别规则,识别出语音信号对应的执行事件和事件信息。以下为了描述清楚,将第一服务器接收到的语音信号作为第一语音信号。语音识别规则中可以包括至少一个第二语音信号和每个第二语音信号对应的执行事件。
相应的,第一服务器根据语音信号,通过语音识别规则,识别出第一语音信号对应的执行事件和事件信息的步骤可以为:第一服务器根据第一语音信号,从语音识别规则中确定与该第一语音信号匹配的第二语音信号,确定该第二语音信号对应的执行事件;第一服务器从第一语音信号剔除第二语音信号,生成第三语音信号,将该第三语音信号作为事件信息。例如,第一服务器接收到的第一语音信号为“打开文件b”,第一服务器从语音识别规则中确定与该第一语音信号匹配的第二语音信号为“打开”。第二语音信号“打开”对应的执行事件为“click”,则第一服务器识别出第一语音信号对应的执行事件为“click”。第一语音信号剔除第二语音信号生成的第三语音信号为“文件b”,则服务器识别出第一语音信号对应的事件信息为“文件b”。
在本公开实施例中,由于第一服务器能够将语音信号转化为执行事件和事件信息,为快应用的开发者提供了语音识别的服务,从而开发者能够通过第一服务器开发出具有语音交互功能的快应用,使得快应用的应用场景更加丰富。
在步骤S304中,第一服务器向电子设备返回执行事件和事件信息。
第一服务器识别出语音信号对应的执行事件和事件信息后,可以将执行事件和事件信息返回给电子设备。例如,第一服务器可以将执行事件和事件信息通过无线传输的方式返回给电子设备。
在步骤S305中,电子设备接收第一服务器返回的执行事件和事件信息,根据执行事件、事件信息和第一应用界面的界面数据,生成语音信号的操作指令。
在本公开实施例中,当电子设备接收到第一服务器返回的执行事件和事件信息时,可以根据事件信息在第一应用界面中确定事件信息对应的控件标识,将执行事件和控件标识结合起来生成操作指令。相应的,电子设备根据执行事件、事件信息和第一应用界面的界面数据,生成语音信号的操作指令的步骤可以为:电子设备根据事件信息和第一应用界面的界面数据,在第一应用界面中匹配出事件信息对应的控件标识;根据执行事件和控件标识,生成操作指令。
其中,控件标识用于标识第一应用界面中的界面数据的可操作控件。例如,第一目标应用程序为外卖快应用时,电子设备接收到的语音信号为“我要套餐A”,电子设备将该语音信号发送给第一服务器,接收第一服务器返回的执行事件为“add(加)”,事件信息为“套餐A”。电子设备根据该事件信息和第一应用界面的界面数据,在第一应用界面中匹配出“套餐A”对应的控件标识为“001”,根据执行事件和控件标识,生成操作指令“add 001”。
在本公开实施例中,由于电子设备接收第一服务器返回的执行事件和事件信息,可以根据电子设备本地显示的第一应用界面的界面数据,生成语音信号对应的操作指令,使得不需要将本地显示的界面数据上传给第一服务器,由第一服务器生成语音信号的操作指令,从而能够保护第一目标应用程序显示的界面数据的数据隐私。
在一种可能的实现方式中,电子设备可以根据事件信息,从第一应用界面的界面数据查找与事件信息匹配的目标界面元素,将该目标界面元素对应的控件标识确定为事件信息对应的控件标识。相应的,电子设备根据事件信息和第一应用界面的界面数据,在第一应用界面中匹配出事件信息对应的控件标识的步骤可以为:第一应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;电子设备在第一应用界面的界面数据中查找与事件信息匹配的目标界面元素;当查找到与事件信息匹配的目标界面元素时,电子设备根据目标界面元素对应的控件标识,确定事件信息对应的控件标识。当电子设备没有查找到与事件信息匹配的目标界面元素时,电子设备可以在第一应用界面上显示提示信息或者播放语音信号,该提示信息和语音信号用于提示用户当前界面查找不到事件信息。
例如,第一应用界面的界面数据中包括“套餐A”、“套餐B”和“套餐C”等多个界面元素,还包括“套餐A”对应的控件标识“001”、“套餐B”对应的控件标识“002”和“套餐C”对应的控件标识“003”。电子设备在第一应用界面的界面数据中查找到与事件信息“套餐A”匹配的目标界面元素,该目标界面元素为第一应用界面中的第一个界面元素,该第一个界面元素对应的控件标识为“001”,则事件信息“套餐A”对应的控件标识即为“001”。
其中,电子设备在查找到与事件信息匹配的目标界面元素时,可以从第一应用界面的界面数据中确定该目标界面元素对应的可操作控件,将该可操作控件的标识确定为事件信息对应的控件标识。相应的,当电子设备查找到与事件信息匹配的目标界面元素时,电子设备根据目标界面元素对应的控件标识,确定事件信息对应的控件标识的步骤可以为:当电子设备查找到与事件信息匹配的目标界面元素时,电子设备可以根据目标界面元素,从第一应用界面的界面数据中确定与目标界面元素对应的可操作控件,将该可操作控件的控件标识确定为事件信息对应的控件标识。
例如,第一应用界面的界面数据中包括用户名输入框,电子设备接收到的语音信号为“在用户名中输入张三”,电子设备将该语音信号发送给第一服务器,接收第一服务器返回的执行事件为“input(输入)”,事件信息为“用户名”和“张三”。电子设备根据该事件信息和第一应用界面的界面数据,从第一应用界面的界面数据中查找与“用户名”匹配的目标界面元素,根据该界面元素,确定该界面元素对应的可操作控件为用户名的输入框。电子设备根据该可操作控件,确定可操作控件对应的控件标识为事件信息对应的控件标识。
在本公开实施例中,由于电子设备可以根据目标界面元素确定目标界面元素对应的可操作控件,将可操作控件的控件标识确定为事件信息对应的控件标识,使得电子设备根据操作指令中的控件标识执行相应的操作时,不会执行无效操作,从而执行操作的效率更高。
在本公开实施例中,由于电子设备从当前显示的第一应用界面的界面数据中查找与事件信息匹配的目标界面元素,使得生成的操作指令与当前显示的界面匹配,从而电子设备执行操作指令对应的操作更加准确。
在另一种可能的实现方式中,如果电子设备在第一应用界面中查找不到事件信息对应的目标界面元素时,可以从历史显示的第二应用界面的界面数据中找到事件信息对应的目标界面元素。相应的,电子设备匹配出事件信息对应的控件标识的步骤还可以为:当电子设备在第一应用界面的界面数据中没有查找到与事件信息匹配的目标界面元素时,可以获取历史显示的第二应用界面的界面数据,第二应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识。电子设备可以在第二应用界面的界面数据中查找与事件信息匹配的目标界面元素。当电子设备查找到与事件信息匹配的目标界面元素时,可以根据目标界面元素对应的控件标识,确定事件信息对应的控件标识。
其中,历史显示的第二应用界面可以为第一应用界面显示前显示的一个或者多个界面,第二应用界面经过跳转或者滑动操作可以转换到第一应用界面。历史显示的第二应用界面也可以为第一应用界面显示前的预设时长内显示过的一个或者多个界面。该预设时长可以为1分钟或者5分钟等,在本公开实施例中,不做限定。
例如,用户通过语音信号与电子设备进行交互时,用户可以通过控制界面滑动的语音信号,控制界面上下滑动或者左右滑动。电子设备在显示第二应用界面时,电子设备接收到“左滑”的语音信号,将第二应用界面左滑,得到第一应用界面。电子设备当前显示的第一应用界面中包括的界面元素有“a”,“b”、“c”,第二应用界面中包括的界面元素有“b”、“e”、“f”。如果电子设备在显示第一应用界面时接收到“打开b”的语音信号。电子设备可以根据事件信息“b”在第二应用界面的界面数据中查找目标界面元素“b”。
在本公开实施例中,由于当电子设备在第一应用界面的界面数据中查找不到与事件信息匹配的目标界面元素时,电子设备还可以在历史显示的第二应用界面中查找与事件信息匹配的目标界面元素,使得电子设备能够应对更复杂的语音交互场景,从而提升用户的体验度。
在一种可能的实现方式中,目标界面元素可能对应一个控件标识,目标界面元素还可能对应多个控件标识。当目标界面元素对应一个控件标识时,电子设备可以将该控件标识确定为事件信息对应的控件标识。相应的,电子设备根据目标界面元素对应的控件标识,确定事件信息对应的控件标识的步骤可以为:当目标界面元素对应一个控件标识时,电子设备将目标界面元素对应的控件标识确定为事件信息对应的控件标识。
例如,电子设备接收到的语音信号为“打开文件a”,电子设备接收到第一服务器返回的执行事件为“click”,电子设备接收到的第一服务器返回的事件信息为“文件a”。电子设备从第一应用界面中匹配到的目标界面元素为“文件a”,该目标界面元素仅对应一个控件标识为“004”,电子设备可以将该目标元素对应的控件标识“004”作为事件信息“文件a”的控件标识。
在另一种可能的实现方式中,当目标界面元素对应多个控件标识时,电子设备可以根据执行事件,从目标界面元素对应的多个控件标识中确定执行事件对应的控件标识。相应的,电子设备根据目标界面元素对应的控件标识,确定事件信息对应的控件标识的步骤还可以为:当目标界面元素对应多个控件标识时,电子设备可以根据执行事件,从目标界面元素对应的多个控件标识中确定执行事件对应的控件标识。
例如,第一应用界面中的界面数据中包括界面元素“套餐A”,该界面元素对应第一控件标识和第二控件标识。其中,第一控件标识用于指示对“套餐A”的数量加一,第二控件标识用于指示对“套餐A”的数量减一。当电子设备接收到的语音信号为“我不要套餐A了”,电子设备接收到第一服务器返回的执行事件为“del(delete,删除)”,电子设备接收到第二服务器返回的事件信息为“套餐A”。电子设备从第一应用界面的界面数据中匹配出目标界面元素为“套餐A”对应的界面元素,该目标界面元素对应第一控件标识和第二控件标识。电子设备可以根据执行事件“del”,从目标界面元素对应的控件标识中确定执行事件对应的控件标识为第二控件标识。
在本公开实施例中,由于当目标界面元素对应多个控件标识时,电子设备可以根据执行事件从多个控件标识中确定事件信息对应的控件标识,使得对于界面元素较复杂的界面,电子设备也能够准确的确定事件信息对应的控件标识,从而能够应对复杂的语音交互场景,提升用户的体验度。
在步骤S306中,电子设备在第一应用界面中执行操作指令对应的操作。
在本公开实施例中,操作指令中可以包括执行事件和事件信息对应的控件标识。电子设备能够根据操作指令自动执行操作指令对应的操作。相应的,本步骤可以为:电子设备根据操作指令中的控件标识,从第一应用界面中的可操作控件中确定控件标识对应的控件,根据执行事件,对控件标识对应的控件执行相应的操作。
例如,电子设备确定的操作指令为“click 004”。电子设备根据操作指令中的控件标识“004”,电子设备从第一应用界面中的可操作控件中确定该控件标识“004”对应的控件为“文件a”对应的控件,对该控件执行点击操作。
在本公开实施例中,由于电子设备接收语音信号,将语音信号转化为操作指令后,可以自动执行操作指令对应的操作,使得用户无需进行手动操作,从而提升用户的体验度。
在本公开实施例中,电子设备仅通过第一服务器获取语音信号对应的执行事件和事件信息,结合电子设备当前显示的第一应用界面的界面数据,即可生成语音信号的操作指令,使得电子设备当前显示的第一应用界面的界面数据不会上传到第一服务器,从而能够保护第一目标应用程序的界面数据的隐私。
上述所有可选技术方案,可以采用任意结合形成本公开的可选实施例,在此不再一一赘述。
本公开实施例中涉及的快应用是一种基于电子设备的硬件平台的新型应用形态,能够基于操作***提供的原生API(Application Programming Interface,应用程序编程接口)运行。
快应用采用统一的标准进行开发,原生渲染,无需安装,即点即用,又兼具原生应用体验(性能、***整合、交互等)。快应用的框架可以深度集成于操作***中,能够在操作***层面进行操作,实现与其他应用服务之间的无缝衔接。开发者可以做到一次性开发即可在不同类型的电子设备上运行。快应用在诞生之初就在开发规范、能力接入、开发者服务等层面实现了电子设备厂商间的标准化统一,极大地降低开发者的适配成本。
与传统应用相比,快应用具备如下特点:
Instant(即时):即点即用,用户无需等待;
Everywhere(随处可见):与电子设备的使用场景深度整合,入口无处不在,如搜索引擎、智能助手、智能推荐、应用市场、浏览器等;
Efficient(高效):准前端的开发方式,效率高。
图4是根据一示例性实施例示出的一种快应用框架400的框图,该快应用框架包括:场景入口420、快应用引擎440和操作***(Operating System,OS)基础设施及硬件460。
场景入口420包括负一屏、全局搜索、锁屏、桌面、应用市场、浏览器和二维码中的至少一种。场景入口420的外在展现形式可以为页面形式和卡片形式。
快应用引擎440包括前端框架441、通用场景442、轻量化场景443、嵌入式SDK(Software Development Kit,软件开发工具包)444和业务接入445。
其中,前端框架441包括MVVM(Model-View-View-Model,模型-视图-视图-模型)、V-DOM(Virtual-Document Object Model,虚拟文档对象模型)、路由、基础API(Application Programming Interface,应用程序编程接口)、业务API、UI(UserInterface,用户界面)组件、路由等;
通用场景442和轻量化场景443包括JavaScript(一种编程语言)引擎、标准渲染引擎、极速渲染引擎、端-云-芯加速、安全机制、新兴场景如AI(Artificial Intelligence,人工智能)、AR(Augmented Reality,增强现实)等、***整合(应用管理、权限管理等);
业务接入445包括推送、账号/支付等。
OS基础设施及硬件460包括:图形库、原生控件、***服务和GPU(GraphicsProcessing Unit,图形处理器)/NPU(Neural-network Processing Unit,嵌入式神经网络处理器)等。
从执行路径层面,有标准的HTML(Hyper Text Markup Language,超文本标记语言)5方式支撑通用的Web(World Wide Web,万维网)场景,以及JS(JavaScript,一种编程语言)与Native(原生)相结合的方式,支撑更轻量、更快速的体验。
下面将按3个方面简要介绍快应用引擎的架构。
1)应用开发:
快应用的前端设计借鉴并整合了主流前端框架的设计思路:以组件化的方式构建应用,以数据绑定为核心的MVVM设计模式,以V-DOM的方式提升性能,同时选择了简洁清晰的类Vue(虚拟机脱壳引擎)的模板。同时对布局方面做了相应精简。从新的应用形态、映射原生UI、能力开放的角度,需要定义一套组件与API规范,方便开发这种快速开发应用。
2)***整合:
快应用作为完整的应用形态,可以与***深入整合,如同原生应用一样运行,以及与***交互。快应用目前有两种形态:全屏方式的独立应用形态与嵌入方式的卡片形态。在独立应用形态下,给用户的体验就像原生的应用程序,有完整的生命周期管理,页面管理,路由等。快应用可以寄生于安卓的Activity(行为),页面寄生于Fragment(碎片),并通过独立的后台Service(服务)进行实例的管控。卡片形态则是另外一种形态,通过嵌入式SDK(Software Development Kit,软件开发工具包)作为一个独立的局部控件嵌入到***的各个角落,轻量化的展现动态内容。在安全隔离方面,可通过沙盒机制,进程隔离,权限控制,并结合操作***层的支持做到较好的安全保障。
3)性能体验及新兴场景,如JavaScript引擎、渲染引擎、端-云-芯加速、新兴场景等:
在交互体验、资源开销和稳定性等方面,快应用通过引入原生渲染路径,进而实现前端开发方式与原生渲染及平台能力的有效组合。
不同于其它的应用层的跨平台框架,快应用植根于电子设备的操作***,可实现从芯片、操作***与云的深度整合。利用端和云的结合以启动性能加速为例,通过云和端的协同渲染,网络链路层的优化可以大大加速快应用启动速度。同时可以整合硬件平台的特有能力,进一步提升体验。例如可以结合电子设备AI芯片,将NPU(Neural-networkProcessing Unit,网络处理器)的算力整合到快应用引擎中来,使得AI场景(人脸识别、图像超分等)在端侧可以低延时、高性能的执行,同时又有效保护了用户的隐私,并节省带宽。
图5是根据一示例性实施例示出的一种快应用的启动流程图,包括:
1)首次启动时,用户点击触发下载快应用的程序包,同时进行快应用引擎的初始化相关工作。当整个快应用的程序包下载与校验完成后,需要展示的第一个页面的JavaScript文件才会被加载并开始渲染。
2)页面渲染包括JavaScript加载、页面与JavaScript框架逻辑的执行、布局的运算,最终到原生UI控件的绘制。其中,页面内逻辑执行时会有一次或多次的网络请求,网络请求返还的数据驱动页面的再次渲染,直至首屏页面的内容完全展示。
这里的网络请求、JavaScript执行、排版与绘制并非简单的串行关系,而是并行化地交织在一起,影响着整个页面的渲染性能,并与页面设计的逻辑、网络状况与设备运行的状态强相关。
由于快应用的特殊性,快应用被期待完成更多的任务,实现更多的功能。目前,快应用的功能正在逐步完善中,本公开实施例就是提供了一种快应用的新功能,利用该新功能,快应用能够实现与用户的语音交互,扩展了快应用的功能,提高了快应用的处理能力以及实用性。
图6是根据一示例性实施例示出的一种电子设备操作装置的框图。参见图6,该装置包括:
显示模块601,被配置为显示第一目标应用程序的第一应用界面;
获取模块602,被配置为当接收到被输入的语音信号时,通过第一服务器获取语音信号对应的执行事件和事件信息;
生成模块603,被配置为根据执行事件、事件信息和第一应用界面的界面数据,生成语音信号的操作指令;
执行模块604,被配置为在第一应用界面中执行操作指令对应的操作。
在一种可能的实现方式中,生成模块603,还被配置为根据事件信息和第一应用界面的界面数据,在第一应用界面中匹配出事件信息对应的控件标识;根据执行事件和控件标识,生成操作指令。
在另一种可能的实现方式中,生成模块603,还被配置为第一应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;在第一应用界面的界面数据中查找与事件信息匹配的目标界面元素;当查找到与事件信息匹配的目标界面元素时,根据目标界面元素对应的控件标识,确定事件信息对应的控件标识。
在另一种可能的实现方式中,生成模块603,还被配置为当在第一应用界面的界面数据中没有查找到与事件信息匹配的目标界面元素时,获取历史显示的第二应用界面的界面数据,第二应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;在第二应用界面的界面数据中查找与事件信息匹配的目标界面元素;当查找到与事件信息匹配的目标界面元素时,根据目标界面元素对应的控件标识,确定事件信息对应的控件标识。
在另一种可能的实现方式中,生成模块603,还被配置为当目标界面元素对应一个控件标识时,将目标界面元素对应的控件标识确定为事件信息对应的控件标识;当目标界面元素对应多个控件标识时,根据执行事件,从目标界面元素对应的多个控件标识中确定执行事件对应的控件标识。
在另一种可能的实现方式中,显示模块601,还被配置为向第一服务器发送第一获取请求,以及,向第一目标应用程序对应的第二服务器发送第二获取请求;接收第一服务器返回的第一应用界面的样式数据,以及,接收第二服务器返回的第一应用界面的界面数据;根据样式数据和界面数据,渲染第一应用界面。
在另一种可能的实现方式中,显示模块601,还被配置为显示本地已安装的第二目标应用程序的第三应用界面,第三应用界面中包括本地未安装的第一目标应用程序的应用接口;当检测到第一目标应用程序的应用接口被触发时,启动第一目标应用程序。
在另一种可能的实现方式中,获取模块602,还被配置为向第一服务器发送语音信号,第一服务器用于根据语音信号,通过语音识别规则,识别出语音信号对应的执行事件和事件信息;接收第一服务器返回的执行事件和事件信息。
在本公开实施例中,电子设备仅通过第一服务器获取语音信号对应的执行事件和事件信息,结合电子设备当前显示的第一应用界面的界面数据,即可生成语音信号的操作指令,使得电子设备当前显示的第一应用界面的界面数据不会上传到第一服务器,从而能够保护第一目标应用程序的界面数据的隐私。
需要说明的是:上述实施例提供的电子设备操作装置在进行电子设备操作时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将电子设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的电子设备操作装置与电子设备操作方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
图7是根据一示例性实施例示出的一种电子设备700的框图。例如,电子设备700可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参见图7,电子设备700可以包括以下一个或多个组件:处理组件702,存储器704,电源组件706,多媒体组件708,音频组件710,输入/输出(I/O)的接口712,传感器组件714,以及通信组件716。
处理组件702通常控制电子设备700的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件702可以包括一个或多个处理器720来执行指令,以完成上述电子设备操作方法的全部或部分步骤。此外,处理组件702可以包括一个或多个模块,便于处理组件702和其他组件之间的交互。例如,处理组件702可以包括多媒体模块,以方便多媒体组件708和处理组件702之间的交互。
存储器704被配置为存储各种类型的数据以支持在电子设备700的操作。这些数据的示例包括用于在电子设备700上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器704可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件706为电子设备700的各种组件提供电力。电源组件706可以包括电源管理***,一个或多个电源,及其他与为电子设备700生成、管理和分配电力相关联的组件。
多媒体组件708包括在所述电子设备700和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件708包括一个前置摄像头和/或后置摄像头。当电子设备700处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件710被配置为输出和/或输入音频信号。例如,音频组件710包括一个麦克风(MIC),当电子设备700处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器704或经由通信组件716发送。在一些实施例中,音频组件710还包括一个扬声器,用于输出音频信号。
I/O接口712为处理组件702和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件714包括一个或多个传感器,用于为电子设备700提供各个方面的状态评估。例如,传感器组件714可以检测到电子设备700的打开/关闭状态,组件的相对定位,例如所述组件为电子设备700的显示器和小键盘,传感器组件714还可以检测电子设备700或电子设备700一个组件的位置改变,用户与电子设备700接触的存在或不存在,电子设备700方位或加速/减速和电子设备700的温度变化。传感器组件714可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件714还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件714还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件716被配置为便于电子设备700和其他设备之间有线或无线方式的通信。电子设备700可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件716经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件716还包括近场通信(NFC)模块,以促进短程通信。
在示例性实施例中,电子设备700可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述电子设备操作方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器704,上述指令可由电子设备700的处理器720执行以完成上述方法。例如,非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本公开还提供了一种计算机程序产品,所述计算机程序产品包括一个或多个计算机程序,所述计算机程序被处理器执行时,用于实现上述各个方法实施例提供的电子设备操作方法。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本公开的可选实施例,并不用以限制本公开,凡在本公开的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本公开的保护范围之内。
Claims (18)
1.一种电子设备操作方法,其特征在于,所述方法包括:
显示第一目标应用程序的第一应用界面;
当接收到被输入的语音信号时,通过第一服务器获取所述语音信号对应的执行事件和事件信息;
根据所述执行事件、所述事件信息和所述第一应用界面的界面数据,生成所述语音信号的操作指令;
在所述第一应用界面中执行所述操作指令对应的操作。
2.根据权利要求1所述的方法,其特征在于,所述根据所述执行事件、所述事件信息和所述第一应用界面的界面数据,生成所述语音信号的操作指令,包括:
根据所述事件信息和所述第一应用界面的界面数据,在所述第一应用界面中匹配出所述事件信息对应的控件标识;
根据所述执行事件和所述控件标识,生成所述操作指令。
3.根据权利要求2所述的方法,其特征在于,所述根据所述事件信息和所述第一应用界面的界面数据,在所述第一应用界面中匹配出所述事件信息对应的控件标识,包括:
所述第一应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;在所述第一应用界面的界面数据中查找与所述事件信息匹配的目标界面元素;
当查找到与所述事件信息匹配的目标界面元素时,根据所述目标界面元素对应的控件标识,确定所述事件信息对应的控件标识。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
当在所述第一应用界面的界面数据中没有查找到与所述事件信息匹配的目标界面元素时,获取历史显示的第二应用界面的界面数据,所述第二应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;
在所述第二应用界面的界面数据中查找与所述事件信息匹配的目标界面元素;
当查找到与所述事件信息匹配的目标界面元素时,根据所述目标界面元素对应的控件标识,确定所述事件信息对应的控件标识。
5.根据权利要求3或4所述的方法,其特征在于,所述根据所述目标界面元素对应的控件标识,确定所述事件信息对应的控件标识,包括:
当所述目标界面元素对应一个控件标识时,将所述目标界面元素对应的控件标识确定为所述事件信息对应的控件标识;
当所述目标界面元素对应多个控件标识时,根据所述执行事件,从所述目标界面元素对应的多个控件标识中确定所述执行事件对应的控件标识。
6.根据权利要求1所述的方法,其特征在于,所述显示第一目标应用程序的第一应用界面,包括:
向所述第一服务器发送第一获取请求,以及,向所述第一目标应用程序对应的第二服务器发送第二获取请求;
接收所述第一服务器返回的所述第一应用界面的样式数据,以及,接收所述第二服务器返回的所述第一应用界面的界面数据;
根据所述样式数据和所述界面数据,渲染所述第一应用界面。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
显示本地已安装的第二目标应用程序的第三应用界面,所述第三应用界面中包括本地未安装的所述第一目标应用程序的应用接口;
当检测到所述第一目标应用程序的应用接口被触发时,启动所述第一目标应用程序。
8.根据权利要求1所述的方法,其特征在于,所述通过第一服务器获取所述语音信号对应的执行事件和事件信息,包括:
向所述第一服务器发送所述语音信号,所述第一服务器用于根据所述语音信号,通过语音识别规则,识别出所述语音信号对应的执行事件和事件信息;
接收所述第一服务器返回的所述执行事件和所述事件信息。
9.一种电子设备操作装置,其特征在于,所述装置包括:
显示模块,被配置为显示第一目标应用程序的第一应用界面;
获取模块,被配置为当接收到被输入的语音信号时,通过第一服务器获取所述语音信号对应的执行事件和事件信息;
生成模块,被配置为根据所述执行事件、所述事件信息和所述第一应用界面的界面数据,生成所述语音信号的操作指令;
执行模块,被配置为在所述第一应用界面中执行所述操作指令对应的操作。
10.根据权利要求9所述的装置,其特征在于,所述生成模块,还被配置为根据所述事件信息和所述第一应用界面的界面数据,在所述第一应用界面中匹配出所述事件信息对应的控件标识;根据所述执行事件和所述控件标识,生成所述操作指令。
11.根据权利要求10所述的装置,其特征在于,所述生成模块,还被配置为所述第一应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;在所述第一应用界面的界面数据中查找与所述事件信息匹配的目标界面元素;当查找到与所述事件信息匹配的目标界面元素时,根据所述目标界面元素对应的控件标识,确定所述事件信息对应的控件标识。
12.根据权利要求11所述的装置,其特征在于,所述生成模块,还被配置为当在所述第一应用界面的界面数据中没有查找到与所述事件信息匹配的目标界面元素时,获取历史显示的第二应用界面的界面数据,所述第二应用界面的界面数据中包括多个界面元素和每个界面元素对应的控件标识;在所述第二应用界面的界面数据中查找与所述事件信息匹配的目标界面元素;当查找到与所述事件信息匹配的目标界面元素时,根据所述目标界面元素对应的控件标识,确定所述事件信息对应的控件标识。
13.根据权利要求11或12所述的装置,其特征在于,所述生成模块,还被配置为当所述目标界面元素对应一个控件标识时,将所述目标界面元素对应的控件标识确定为所述事件信息对应的控件标识;当所述目标界面元素对应多个控件标识时,根据所述执行事件,从所述目标界面元素对应的多个控件标识中确定所述执行事件对应的控件标识。
14.根据权利要求9所述的装置,其特征在于,所述显示模块,还被配置为向所述第一服务器发送第一获取请求,以及,向所述第一目标应用程序对应的第二服务器发送第二获取请求;接收所述第一服务器返回的所述第一应用界面的样式数据,以及,接收所述第二服务器返回的所述第一应用界面的界面数据;根据所述样式数据和所述界面数据,渲染所述第一应用界面。
15.根据权利要求14所述的装置,其特征在于,所述显示模块,还被配置为显示本地已安装的第二目标应用程序的第三应用界面,所述第三应用界面中包括本地未安装的所述第一目标应用程序的应用接口;当检测到所述第一目标应用程序的应用接口被触发时,启动所述第一目标应用程序。
16.根据权利要求9所述的装置,其特征在于,所述获取模块,还被配置为向所述第一服务器发送所述语音信号,所述第一服务器用于根据所述语音信号,通过语音识别规则,识别出所述语音信号对应的执行事件和事件信息;接收所述第一服务器返回的所述执行事件和所述事件信息。
17.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
用于存储所述一个或多个处理器可执行指令的易失性或非易失性存储器;
其中,所述一个或多个处理器被配置为:
显示第一目标应用程序的第一应用界面;
当接收到被输入的语音信号时,通过第一服务器获取所述语音信号对应的执行事件和事件信息;
根据所述执行事件、所述事件信息和所述第一应用界面的界面数据,生成所述语音信号的操作指令;
在所述第一应用界面中执行所述操作指令对应的操作。
18.一种非临时性计算机可读存储介质,其特征在于,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行如权利要求1-8任一项所述的电子设备操作方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911130236.6A CN110851108A (zh) | 2019-11-18 | 2019-11-18 | 电子设备操作方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911130236.6A CN110851108A (zh) | 2019-11-18 | 2019-11-18 | 电子设备操作方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110851108A true CN110851108A (zh) | 2020-02-28 |
Family
ID=69602165
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911130236.6A Pending CN110851108A (zh) | 2019-11-18 | 2019-11-18 | 电子设备操作方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110851108A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111475216A (zh) * | 2020-04-15 | 2020-07-31 | 湖北亿咖通科技有限公司 | 一种app的语音控制方法、计算机存储介质及电子设备 |
CN112016889A (zh) * | 2020-08-24 | 2020-12-01 | 平安国际智慧城市科技股份有限公司 | 流程构建方法、装置、电子设备及存储介质 |
CN112379954A (zh) * | 2020-11-16 | 2021-02-19 | 北京百度网讯科技有限公司 | 应用程序的数据处理方法、装置、设备及存储介质 |
CN113900621A (zh) * | 2021-11-09 | 2022-01-07 | 杭州逗酷软件科技有限公司 | 操作指令处理方法、控制方法、装置以及电子设备 |
CN115964011A (zh) * | 2023-03-16 | 2023-04-14 | 深圳市湘凡科技有限公司 | 基于多屏协同的显示应用界面的方法及相关装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107240400A (zh) * | 2017-07-03 | 2017-10-10 | 重庆小雨点小额贷款有限公司 | 终端操作方法及装置 |
CN109584879A (zh) * | 2018-11-23 | 2019-04-05 | 华为技术有限公司 | 一种语音控制方法及电子设备 |
-
2019
- 2019-11-18 CN CN201911130236.6A patent/CN110851108A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107240400A (zh) * | 2017-07-03 | 2017-10-10 | 重庆小雨点小额贷款有限公司 | 终端操作方法及装置 |
CN109584879A (zh) * | 2018-11-23 | 2019-04-05 | 华为技术有限公司 | 一种语音控制方法及电子设备 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111475216A (zh) * | 2020-04-15 | 2020-07-31 | 湖北亿咖通科技有限公司 | 一种app的语音控制方法、计算机存储介质及电子设备 |
CN111475216B (zh) * | 2020-04-15 | 2024-03-08 | 亿咖通(湖北)技术有限公司 | 一种app的语音控制方法、计算机存储介质及电子设备 |
CN112016889A (zh) * | 2020-08-24 | 2020-12-01 | 平安国际智慧城市科技股份有限公司 | 流程构建方法、装置、电子设备及存储介质 |
CN112379954A (zh) * | 2020-11-16 | 2021-02-19 | 北京百度网讯科技有限公司 | 应用程序的数据处理方法、装置、设备及存储介质 |
CN113900621A (zh) * | 2021-11-09 | 2022-01-07 | 杭州逗酷软件科技有限公司 | 操作指令处理方法、控制方法、装置以及电子设备 |
CN115964011A (zh) * | 2023-03-16 | 2023-04-14 | 深圳市湘凡科技有限公司 | 基于多屏协同的显示应用界面的方法及相关装置 |
CN115964011B (zh) * | 2023-03-16 | 2023-06-06 | 深圳市湘凡科技有限公司 | 基于多屏协同的显示应用界面的方法及相关装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111026396B (zh) | 页面渲染方法、装置、电子设备及存储介质 | |
CN110990105B (zh) | 界面显示方法、装置、电子设备及存储介质 | |
CN110851108A (zh) | 电子设备操作方法、装置、电子设备及存储介质 | |
US11210119B2 (en) | Method and device for displaying interface, electronic equipment, server, and storage medium | |
CN110990075B (zh) | 快应用的启动方法、装置、设备及存储介质 | |
CN111026490B (zh) | 页面渲染方法、装置、电子设备及存储介质 | |
US10909203B2 (en) | Method and device for improving page display effect via execution, conversion and native layers | |
CN111078325B (zh) | 应用程序运行方法、装置、电子设备及存储介质 | |
CN110971974B (zh) | 配置参数创建方法、装置、终端及存储介质 | |
CN111008057A (zh) | 页面展示方法、装置及存储介质 | |
CN110968362B (zh) | 应用运行方法、装置及存储介质 | |
CN110851240B (zh) | 功能调用方法、装置及存储介质 | |
US11507633B2 (en) | Card data display method and apparatus, and storage medium | |
CN110908629A (zh) | 电子设备操作方法、装置、电子设备和存储介质 | |
CN111008050B (zh) | 页面任务执行方法、装置、终端及存储介质 | |
CN110865864B (zh) | 快应用的界面显示方法、装置、设备及存储介质 | |
CN110891194B (zh) | 评论信息显示方法、装置、终端及存储介质 | |
CN111104183B (zh) | 应用程序运行方法、装置、电子设备及存储介质 | |
CN110865760A (zh) | 电子设备操作方法、装置、电子设备及存储介质 | |
CN110868640A (zh) | 资源转移方法、装置、设备及存储介质 | |
CN110853643A (zh) | 快应用中进行语音识别的方法、装置、设备及存储介质 | |
CN110837817A (zh) | 目标对象识别方法、装置、设备及存储介质 | |
CN111104110A (zh) | 全局样式共享方法、全局样式共享装置及电子装置 | |
CN113867992B (zh) | 调用链资源隔离方法、装置、存储介质和电子设备 | |
CN117255219A (zh) | 一种评论处理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200228 |