CN115145518A - 一种显示方法、电子设备和*** - Google Patents
一种显示方法、电子设备和*** Download PDFInfo
- Publication number
- CN115145518A CN115145518A CN202110484031.9A CN202110484031A CN115145518A CN 115145518 A CN115145518 A CN 115145518A CN 202110484031 A CN202110484031 A CN 202110484031A CN 115145518 A CN115145518 A CN 115145518A
- Authority
- CN
- China
- Prior art keywords
- electronic device
- interface
- information
- interface element
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 92
- 230000004044 response Effects 0.000 claims description 86
- 238000013507 mapping Methods 0.000 claims description 43
- 230000015654 memory Effects 0.000 claims description 31
- 238000004590 computer program Methods 0.000 claims description 17
- 239000010410 layer Substances 0.000 description 41
- 238000004891 communication Methods 0.000 description 35
- 230000006854 communication Effects 0.000 description 35
- 230000006870 function Effects 0.000 description 25
- 210000004027 cell Anatomy 0.000 description 21
- 238000010586 diagram Methods 0.000 description 21
- 238000007726 management method Methods 0.000 description 20
- 230000009471 action Effects 0.000 description 17
- 238000012545 processing Methods 0.000 description 17
- 230000008569 process Effects 0.000 description 14
- 230000006855 networking Effects 0.000 description 13
- 238000010295 mobile communication Methods 0.000 description 11
- 230000005236 sound signal Effects 0.000 description 11
- 210000000988 bone and bone Anatomy 0.000 description 10
- 230000000694 effects Effects 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 9
- 238000000605 extraction Methods 0.000 description 9
- 241000234435 Lilium Species 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 6
- 230000001413 cellular effect Effects 0.000 description 5
- 239000000284 extract Substances 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000001976 improved effect Effects 0.000 description 4
- 229920001621 AMOLED Polymers 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000036772 blood pressure Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000008093 supporting effect Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000010009 beating Methods 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010425 computer drawing Methods 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 239000012792 core layer Substances 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000010985 leather Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000010349 pulsation Effects 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003238 somatosensory effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1454—Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1698—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a sending/receiving arrangement to establish a cordless communication link, e.g. radio or infrared link, integrated cellular phone
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1423—Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
- G06F9/452—Remote windowing, e.g. X-Window System, desktop virtualisation
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/14—Display of multiple viewports
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/20—Cooling means
- G06F1/206—Cooling means comprising thermal management
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2370/00—Aspects of data communication
- G09G2370/16—Use of wireless transmission of display information
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请实施例提供了一种显示方法、电子设备和***,该方法包括:第一电子设备响应于接收到第一指示,显示第一界面并向第二电子设备发送第一信息,第一信息包括第一界面上的一个或者多个界面元素以及一个或者多个界面元素的标签信息;第二电子设备响应于接收到第一信息,根据一个或者多个界面元素的标签信息,显示第二界面,第二界面显示一个或者多个界面元素中的至少部分界面元素。本申请实施例中,通过源端设备对用户界面上的界面元素打上标签信息,客户端设备可以通过界面元素的标签信息来还原适合客户端设备的用户界面,无需依赖客户端设备的视频解码能力。
Description
本申请要求于2021年3月31日提交中国专利局、申请号为202110350080.3、申请名称为“一种显示方法、电子设备和***”的中国专利申请的优先权,其全部内容通过引用结合在本申请中。
技术领域
本申请涉及终端领域,并且更具体地,涉及一种显示方法、电子设备和***。
背景技术
目前设备间用于还原用户界面(user interface,UI)的技术主要是视频投屏类还原技术(例如,Miracast)。其基本原理是将源端设备(source端设备)画面编码为视频并在客户端设备(sink端设备)播放视频,从而实现客户端设备对源端的用户界面的还原。此类还原UI的技术需要客户端设备的能力(例如,视频解码能力),无法使用于无视频解码能力的设备。
发明内容
本申请实施例提供一种显示方法、电子设备和***,通过源端设备对用户界面上的界面元素打上标签信息,客户端设备可以通过界面元素的标签信息来还原适合客户端设备的用户界面,无需依赖客户端设备的视频解码能力。
第一方面,提供了一种***,该***包括第一电子设备和第二电子设备,该第一电子设备通过近距离无线连接与该第二电子设备通信,其中,该第一电子设备,用于响应于接收到第一指示,显示第一界面并向该第二电子设备发送第一信息,该第一信息包括该第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息;该第二电子设备,用于响应于接收到该第一信息,根据该一个或者多个界面元素的标签信息,显示第二界面,该第二界面显示该一个或者多个界面元素中的至少部分界面元素。
本申请实施例中,第一电子设备(源端设备)可以在接收到第一指示后,将第一界面上的一个或者多个界面元素以及一个或者多个界面元素的标签信息发送给第二电子设备(客户端设备),从而使得第二电子设备可以依据标签信息还原适合第二电子设备的界面,用户可以在不同的设备上体验不同的界面风格,有助于提升用户的体验;同时,第一电子设备在发送界面元素以及其标签信息时无需依赖其视频编码能力,第二电子设备在还原界面时无需依赖其视频解码能力。
在一些可能的实现方式中,该第一信息中的一个或者多个界面元素中每一个界面元素与每一个界面元素的标签信息相对应。
在一些可能的实现方式中,该第一电子设备还用于在向第二电子设备发送第一信息之前,获取第一界面上的多个界面元素,并对该多个界面元素打上标签信息。
在一些可能的实现方式中,该标签信息可以为界面元素的名称。
结合第一方面,在第一方面的某些实现方式中,该第二电子设备具体用于:根据该一个或者多个界面元素的标签信息以及第一映射关系,显示该第二界面,该第一映射关系为该至少部分界面元素的显示区域与该至少部分界面元素的标签信息的映射关系。
在一些可能的实现方式中,该第一电子设备保存有该第一映射关系,当第一电子设备接收到第一指示时,除了向第二电子设备发送界面元素以及其标签信息以外,还可以向第二电子设备发送第一映射关系。
在一些可能的实现方式中,该第一电子设备可以保存有同一场景下的多个映射关系。例如,当第一电子设备(例如,手机)向第二电子设备(例如,笔记本电脑)发送第一映射关系,该第一电子设备(例如,手机)可以向第三电子设备(例如,智能手表)发送第二映射关系。
在一些可能的实现方式中,该第二电子设备中可以保存有该第一映射关系。当第二电子设备接收到第一电子设备发送的界面元素以及标签信息时,可以根据第一映射关系来显示第二界面。
本申请实施例中,对于不同的客户端设备,可以按照不同的映射关系来还原不同的显示界面。例如,对于笔记本电脑和智能手表可以在相同的场景下还原出不同风格的显示界面,这样可以使得用户在不同类型的设备上体验不同的界面风格,有助于提升用户的使用体验。
结合第一方面,在第一方面的某些实现方式中,该第一电子设备具体用于:响应于检测到用户启动第一应用程序的操作,显示该第一界面并向该第二电子设备发送该第一信息。
本申请实施例中,当第一电子设备检测到用户启动第一应用程序的操作时,第一电子设备可以显示第一应用程序的显示界面并向第二电子设备发送该显示界面上的界面元素以及界面元素的标签信息,无需用户进行其他繁琐的操作即可实现在第二电子设备上对第一应用程序的显示界面的还原,有助于提升用户的体验。
结合第一方面,在第一方面的某些实现方式中,该第一电子设备具体用于:响应于检测到用户启动该第一应用程序的操作,显示该第一界面并提示用户是否将该第一界面上的一个或者多个界面元素发送给该第二电子设备进行显示;响应于检测到用户确定将该第一界面上的一个或者多个界面元素发送给该第二电子设备进行显示的操作,向该第二电子设备发送该第一信息。
本申请实施例中,第一电子设备在检测到用户启动第一应用程序时还可以提示用户是否将界面元素发送给第二电子设备进行显示,有助于用户明确需要在哪一个设备上对第一应用程序的界面进行显示。
结合第一方面,在第一方面的某些实现方式中,该第一电子设备还用于:响应于检测到用户启动该第一应用程序的操作,显示该第一界面并向该第二电子设备发送第一指示信息,该第一指示信息用于指示该第一电子设备已启动该第一应用程序;该第二电子设备,还用于响应于接收到该第一指示信息,提示用户是否通过该第二电子设备显示该第一应用程序的显示界面;该第二电子设备,还用于响应于检测到用户确定通过该第二电子设备显示该第一应用程序的显示界面的操作,向该第一电子设备发送第一请求信息,该第一请求信息用于请求显示该第一界面上的界面元素;该第一电子设备,具体用于响应于接收到该第一请求信息,向该第二电子设备发送该第一信息。
本申请实施例中,当第一电子设备启动第一应用程序时,第一电子设备可以指示第二电子设备其已经启动了第一应用程序。第二电子设备可以提示用户是否在第二电子设备上显示第一应用程序的显示界面,有助于用户明确需要在哪一个设备上对第一应用程序的界面进行显示。
结合第一方面,在第一方面的某些实现方式中,该第二电子设备,还用于响应于检测到用户的操作,向该第一电子设备发送第二请求信息,该第二请求信息用于请求显示该第一界面上的界面元素;该第一电子设备具体用于:响应于接收到该第二电子设备发送的第二请求信息,显示该第一界面并向该第二电子设备发送该第一信息。
本申请实施例中,当第二电子设备检测到用户的操作时,第二电子设备可以确定用户当前的焦点在第二电子设备上。这样第二电子设备可以向第一电子设备请求第一界面上的界面元素,从而还原第一电子设备上的显示界面。
在一些可能的实现方式中,该用户的操作可以为用户移动或者点击鼠标的操作,或者,该用户的操作可以为用户点击键盘上的物理按键的操作。
在一些可能的实现方式中,该用户的操作可以为用户点击与第一应用程序关联的图标的操作。
结合第一方面,在第一方面的某些实现方式中,该第一电子设备,还用于在向该第二电子设备发送该第一信息之前,确定该第一电子设备和该第二电子设备之间的距离小于或者等于预设距离。
结合第一方面,在第一方面的某些实现方式中,该至少部分界面元素包括第一界面元素,该第一电子设备,还用于响应于第一界面元素发生更新,向该第二电子设备发送第二信息,该第二信息包括更新后的该第一界面元素以及该第一界面元素的标签信息;该第二电子设备,还用于响应于接收到该第二信息,在该第二界面上显示更新后的该第一界面元素。
本申请实施例中,当第一电子设备检测到第一界面元素发生更新后,第一电子设备可以实时向第二电子设备发送更新后的第一界面元素进行显示,从而可以保证第一电子设备和第二电子设备上显示的界面元素可以同步。
在一些可能的实现方式中,若该第一界面为视频播放界面,该第一界面元素可以为视频播放进度条,或者视频显示窗口中的图像信息。
在一些可能的实现方式中,若该第一界面为音乐播放界面,该第一界面元素可以为当前正在播放的音频对应的歌词信息。
在一些可能的实现方式中,若该第一界面元素是实时变化的,那么第一电子设备可以按照一定的周期向第二电子设备发送第一界面元素。
结合第一方面,在第一方面的某些实现方式中,该至少部分界面元素包括第二界面元素,该第二电子设备,还用于响应于检测到用户对该第二界面元素的输入,向该第一电子设备发送第二指示信息,该第二指示信息用于指示该第二电子设备检测到用户对该第二界面元素的输入;该第一电子设备,还用于响应于接收到该第二指示信息,执行针对该输入的操作。
本申请实施例中,当第二电子设备检测到用户对第二界面元素的输入时,第二电子设备可以指示第一电子设备其检测到用户对第二界面元素的输入,从而可以使得第一电子设备执行相应的操作。
示例性的,该第二界面元素为下载控件,当第二电子设备检测到用户对下载控件的点击事件时,第二电子设备可以向第一电子设备指示其检测到用户对下载控件的点击事件。第一电子设备在接收到该指示后,可以在第一电子设备的后台完成对文件(歌曲、文档或者视频等)的下载。
结合第一方面,在第一方面的某些实现方式中,该第一电子设备,还用于响应于执行该操作,该第一电子设备更新第三界面元素,该至少部分界面元素包括该第三界面元素;该第一电子设备,还用于向该第二电子设备发送第三信息,该第三信息包括更新后的该第三界面元素以及该第三界面元素的标签信息;该第二电子设备,还用于响应于接收到该第三信息,在该第二界面上显示更新后的该第三界面元素。
本申请实施例中,若第一电子设备在执行了相应的操作后使得第三界面元素发生了更新或者在第一界面上新增加了某个界面元素,那么第一电子设备可以将更新后的第三界面元素或者新增加的界面元素的信息发送给第二电子设备进行显示,从而可以保证第一电子设备和第二电子设备上显示的界面元素可以同步。
结合第一方面,在第一方面的某些实现方式中,该第一信息中还包括该第一界面对应的场景的信息。
第二方面,提供了一种显示方法,该方法应用于第一电子设备中,该第一电子设备通过近距离无线连接与第二电子设备通信,该方法包括:该第一电子设备接收到第一指示;响应于接收到第一指示,该第一电子设备显示第一界面并向该第二电子设备发送第一信息,该第一信息包括该第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息。
结合第二方面,在第二方面的某些实现方式中,该方法还包括:该第一电子设备向该第二电子设备发送第一映射关系的信息,该第一映射关系为界面元素的显示区域与界面元素的标签信息的映射关系。
结合第二方面,在第二方面的某些实现方式中,该第一电子设备接收到第一指示,包括:该第一电子设备检测到用户启动第一应用程序的操作。
结合第二方面,在第二方面的某些实现方式中,该响应于接收到第一指示,该第一电子设备显示第一界面并向该第二电子设备发送第一信息,包括:响应于检测到用户启动该第一应用程序的操作,显示该第一界面并提示用户是否将该第一界面上的一个或者多个界面元素发送给该第二电子设备进行显示;响应于检测到用户确定将该第一界面上的一个或者多个界面元素发送给该第二电子设备进行显示的操作,向该第二电子设备发送该第一信息。
结合第二方面,在第二方面的某些实现方式中,该响应于接收到第一指示,该第一电子设备向该第二电子设备发送第一信息,包括:该第一电子设备接收该第二电子设备发送的第一请求信息,该第一请求信息用于请求显示该第一界面上的界面元素;该第一电子设备响应于接收到该第一请求信息,向该第二电子设备发送该第一信息。
结合第二方面,在第二方面的某些实现方式中,该方法还包括:在向该第二电子设备发送该第一信息之前,该第一电子设备确定该第一电子设备和该第二电子设备之间的距离小于或者等于预设距离。
结合第二方面,在第二方面的某些实现方式中,该一个或者多个界面元素包括第一界面元素,该方法还包括:响应于第一界面元素发生更新,该第一电子设备向该第二电子设备发送第二信息,该第二信息包括更新后的该第一界面元素以及该第一界面元素的标签信息。
结合第二方面,在第二方面的某些实现方式中,该一个或者多个界面元素包括第二界面元素,该方法还包括:该第一电子设备接收该第二电子设备发送的第二指示信息,该第二指示信息用于指示该第二电子设备检测到用户对该第二界面元素的输入;响应于接收到该第二指示信息,该第一电子设备执行针对该输入的操作。
结合第二方面,在第二方面的某些实现方式中,该方法还包括:响应于执行该操作,该第一电子设备更新第三界面元素,该一个或者多个界面元素包括该第三界面元素;该第一电子设备向该第二电子设备发送第三信息,该第三信息包括更新后的该第三界面元素以及该第三界面元素的标签信息。
第三方面,提供了一种显示方法,该方法应用于第二电子设备,该第二电子设备通过近距离无线连接与第一电子设备通信,该方法包括:该第二电子设备接收该第一电子设备发送的第一信息,该第一信息包括该第一电子设备显示的第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息;响应于接收到该标签信息,该第二电子设备根据该一个或者多个界面元素的标签信息,显示第二界面,该第二界面显示该一个或者多个界面元素中的至少部分界面元素。
结合第三方面,在第三方面的某些实现方式中,该第二电子设备根据该一个或者多个界面元素的标签信息,显示第二界面,包括:该第二电子设备根据该一个或者多个界面元素的标签信息以及第一映射关系,显示该第二界面,该第一映射关系为该至少部分界面元素的显示区域与该至少部分界面元素的标签信息的映射关系。
结合第三方面,在第三方面的某些实现方式中,该第二电子设备接收该第一电子设备发送的该第一信息之前,该方法还包括:该第二电子设备接收该第一电子设备发送的第一指示信息,该第一指示信息用于指示该第一电子设备已启动该第一应用程序;响应于接收到该第一指示信息,该第二电子设备提示用户是否通过该第二电子设备显示该第一应用程序的显示界面;响应于检测到用户确定通过该第二电子设备显示该第一应用程序的显示界面的操作,该第二电子设备向该第一电子设备发送第一请求信息,该第一请求信息用于请求显示该第一界面上的界面元素。
结合第三方面,在第三方面的某些实现方式中,该第二电子设备接收该第一电子设备发送的该第一信息之前,该方法还包括:响应于检测到用户的操作,该第二电子设备向该第一电子设备发送第二请求信息,该第二请求信息用于请求显示该第一界面上的界面元素。
结合第三方面,在第三方面的某些实现方式中,该至少部分界面元素包括第一界面元素,该方法还包括:该第二电子设备接收该第一电子设备发送的第二信息,该第二信息包括更新后的该第一界面元素以及该第一界面元素的标签信息;响应于接收到该第二信息,该第二电子设备在该第二界面上显示更新后的该第一界面元素。
结合第三方面,在第三方面的某些实现方式中,该至少部分界面元素包括第二界面元素,响应于检测到用户对该第二界面元素的输入,该第二电子设备向该第一电子设备发送第二指示信息,该第二指示信息用于指示该第二电子设备检测到用户对该第二界面元素的输入。
结合第三方面,在第三方面的某些实现方式中,该至少部分界面元素包括第三界面元素,该方法还包括:若该第一电子设备在接收到该第二指示信息后更新了该第三界面元素,该第二电子设备接收该第一电子设备发送的第三信息,该第三信息包括更新后的该第三界面元素以及该第三界面元素的标签信息;响应于接收到该第三信息,该第三电子设备在该第二界面上显示更新后的该第三界面元素。
第四方面,提供了一种装置,该装置包括:接收单元,用于接收到第一指示;显示单元,用于响应于接收到第一指示,显示第一界面;发送单元,用于向该第二电子设备发送第一信息,该第一信息包括该第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息。
第五方面,提供了一种装置,该装置包括:接收单元,用于接收该第一电子设备发送的第一信息,该第一信息包括该第一电子设备显示的第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息;显示单元,用于响应于接收到该标签信息,根据该一个或者多个界面元素的标签信息,显示第二界面,该第二界面显示该一个或者多个界面元素中的至少部分界面元素。
第六方面,提供了一种电子设备,包括:一个或多个处理器;存储器;以及一个或多个计算机程序。其中,一个或多个计算机程序被存储在存储器中,一个或多个计算机程序包括指令。当指令被电子设备执行时,使得电子设备执行上述第二方面中任一项可能的实现中的方法。
第七方面,提供了一种电子设备,包括:一个或多个处理器;存储器;以及一个或多个计算机程序。其中,一个或多个计算机程序被存储在存储器中,一个或多个计算机程序包括指令。当指令被电子设备执行时,使得电子设备执行上述第三方面中任一项可能的实现中的方法。
第八方面,提供了一种包含指令的计算机程序产品,当所述计算机程序产品在第一电子设备上运行时,使得所述电子设备执行上述第二方面所述的方法;或者,当所述计算机程序产品在第二电子设备上运行时,使得所述电子设备执行上述第三方面所述的方法。
第九方面,提供了一种计算机可读存储介质,包括指令,当所述指令在第一电子设备上运行时,使得所述电子设备执行上述第二方面所述的方法;或者,当所述指令在第二电子设备上运行时,使得所述电子设备执行上述第三方面所述的方法。
第十方面,提供了一种芯片用于执行指令,当所述芯片运行时,所述芯片执行上述第二方面所述的方法;或者,所述芯片执行上述第三方面所述的方法。
附图说明
图1是本申请实施例提供的一种电子设备的硬件结构示意图。
图2是本申请实施例提供的软件结构框图。
图3是本申请实施例提供的一组图形用户界面。
图4是本申请实施例提供的另一组图形用户界面。
图5是本申请实施例提供的另一组图形用户界面。
图6是本申请实施例提供的***架构的示意性框图。
图7是本申请实施例提供的绘制指令的示意图。
图8是本申请实施例提供的音乐场景下界面元素区域分布的示意图。
图9是本申请实施例提供的聊天场景下界面元素区域分布的示意图。
图10是本申请实施例提供的显示方法的示意性流程图。
图11是本申请实施例提供的装置的示意性结构图。
图12是本申请实施例提供的装置的另一示意性结构图。
图13是本申请实施例提供的电子设备的另一结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述。其中,在本申请实施例的描述中,除非另有说明,“/”表示或的意思,例如,A/B可以表示A或B;本文中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,在本申请实施例的描述中,“复数个”或者“多个”是指两个或多于两个。
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
本申请实施例提供的方法可以应用于手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)等电子设备上,本申请实施例对电子设备的具体类型不作任何限制。
示例性的,图1示出了电子设备100的结构示意图。电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户身份识别(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了***的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户身份识别(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现电子设备100的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等***器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现电子设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现电子设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与***设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如AR设备等。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星***(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯***(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位***(global positioning system,GPS),全球导航卫星***(global navigation satellite system,GLONASS),北斗卫星导航***(beidounavigation satellite system,BDS),准天顶卫星***(quasi-zenith satellitesystem,QZSS)和/或星基增强***(satellite based augmentation systems,SBAS)。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作***,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中,电子设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,电子设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当电子设备100是翻盖机时,电子设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
距离传感器180F,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180G检测用户手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,电子设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,电子设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池142加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称“触控面板”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过***SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时***多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备100采用嵌入式SIM(embedded-SIM,eSIM)卡,即:嵌入式SIM卡。eSIM卡可以嵌在电子设备100中,不能和电子设备100分离。
应理解,本申请实施例中的电话卡包括但不限于SIM卡、eSIM卡、全球用户识别卡(universal subscriber identity module,USIM)、通用集成电话卡(universalintegrated circuit card,UICC)等等。
电子设备100的软件***可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本申请实施例以分层架构的Android***为例,示例性说明电子设备100的软件结构。
图2是本申请实施例的电子设备100的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android***分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和***库,以及内核层。应用程序层可以包括一系列应用程序包。
如图2所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图***,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图***包括可视控件,例如显示文字的控件,显示图片的控件等。视图***可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在***顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
Android Runtime包括核心库和虚拟机。Android runtime负责安卓***的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
***库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(media libraries),三维图形处理库(例如:OpenGL ES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子***进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
应理解,本申请实施例中的技术方案可以用于Android、IOS、鸿蒙等***中。
图3是本申请实施例提供的一组图形用户界面(graphical user interface,GUI)。
如图3中的(a)所示,手机显示手机的桌面。笔记本电脑位于手机的附近,笔记本电脑可以显示笔记本电脑的桌面。
当笔记本电脑靠近手机后,手机和笔记本电脑可以通过近场无线连接方式组网。组网方式包括但不限于接入点(access point,AP)组网和点对点(peer-to-peer,P2P)组网。其中,AP组网就是在同一AP(例如,家用Wi-Fi路由器)下的设备,可以通过AP设备互相通信,从而形成多对多组网。示例性的,手机和笔记本电脑可以位于同一家用路由器下,当笔记本电脑靠近手机后,手机可以使用接收信号的强度指示(received signal strengthindication,RSSI)技术,根据接收的信号的强度计算手机和笔记本电脑之间的距离。当该距离小于或者等于预设距离时,手机和笔记本电脑可以进行AP组网。
Wi-Fi直连(Wi-Fi direct):也可以称之为Wi-Fi点对点(Wi-Fi peer to peer,Wi-Fi P2P),是一种点对点连接方式。它可以使得多个Wi-Fi设备在没有接入点(accesspoint,AP)的情况下也能构成一个点对点网络(peer to peer network,P2P network)互相通信。其中一台站点(station,STA)可以充当传统意义上AP的作用,称之为组拥有者(groupowner,GO);另一台STA可以称之为组客户端(group client,GC),GC可以像连接AP一样连接到GO。其中,可以由一个STA可以来扮演GO的角色(即充当AP),而其他STA来扮演GC的角色。本申请实施例中,当一台设备靠近另一台设备时,可以默认位于左侧的设备为GO,位于右侧的设备为GC。例如,手机可以作为GO,笔记本电脑可以作为GC。或者,当一台设备上检测到用户向右滑动的操作时,该设备可以作为GC且该设备可以选择位于其左侧的另一台设备为GO;或者,当一台设备上检测到用户向左滑动的操作时,该设备可以作为GC且该设备可以选择位于其右侧的另一台设备为GO。
若要构建一个P2P网络,首先需要一台电子设备经过P2P协议能扫描到另外一台电子设备,该过程称之为发现阶段;发现之后才能触发P2P连接的建立。当笔记本电脑靠近手机后,手机可以使用RSSI技术,根据RSSI计算手机和笔记本电脑之间的距离。当该距离小于或者等于预设距离时,手机和笔记本电脑可以进行P2P组网。
Wi-Fi P2P技术是上层业务的基础。当前建立在P2P之上的P2P应用主要有Miracast应用、WLAN直连应用等。在Miracast应用场景中,一台支持P2P的电子设备可以通过扫描发现并连接上一台支持P2P的大屏设备,然后将该电子设备的视频、图片等资源直接送显到大屏设备。借助P2P技术,将极大丰富Wi-Fi技术的体验。
当手机检测到用户点击音乐应用的图标时,手机和笔记本电脑可以显示如图3中的(b)所示的GUI。
如图3中的(b)所示,响应于检测到用户点击音乐应用的图标的操作,手机可以显示音乐播放界面,其中该音乐播放界面上包括多个界面元素,例如音乐专辑的封面图片301、歌曲名称302(例如,《歌曲1》)、歌手名称303、歌词显示区域304、当前正在播放的歌词305(例如,在00:12至00:15播放的歌词为“ExxxxxxxF”)、下载控件306、分享控件307、音量调节控件308、更多功能选择控件309、歌曲播放进度条310、模式选择控件311(该模式选择控件可以用于选择顺序播放、单曲循环、随机播放等等模式)、播放上一首歌曲控件312、暂停/开始控件313、播放下一首歌曲控件314以及点赞控件315。
一个实施例中,当手机确定笔记本电脑和手机之间的距离小于或者等于预设距离时,手机可以将当前显示的音乐播放界面上的多个界面元素的信息以及歌曲的音频内容发送给笔记本电脑。如图3中的(b)所示,响应于接收到手机发送的多个界面元素的信息,笔记本电脑可以显示音乐播放窗口316,其中该音乐播放窗口316上包括音乐专辑的封面图片301、歌曲名称302、歌手名称303、当前正在播放的歌词305、点赞控件315、播放上一首歌曲控件312、暂停/开始控件313、播放下一首歌曲控件314。
一个实施例中,手机、笔记本电脑和智能手表进行了组网。当手机检测到用户点击音乐应用的图标时,手机可以比较手机和笔记本电脑之间的距离以及手机和智能手表之间的距离。当手机和笔记本之间的距离小于手机和智能手表之间的距离时,手机可以将当前显示的音乐播放界面上的多个界面元素的信息以及歌曲的音频内容发送给笔记本电脑。
一个实施例中,当手机检测到用户启动音乐应用时如果手机已经和笔记本电脑已经组网,那么手机可以提示用户是否将音乐应用的显示界面发送给笔记本电脑。当手机检测到用户确定将音乐应用的显示界面发送给笔记本电脑的操作时,手机可以将当前显示的音乐播放界面上的多个界面元素的信息以及歌曲的音频内容发送给笔记本电脑。
一个实施例中,若手机和笔记本电脑、智能手表组网,那么手机可以提示用户将音乐应用的显示界面发送给笔记本电脑或者智能手表。例如,响应于检测到用户确定将音乐应用的显示界面发送给笔记本电脑的操作,手机可以将当前显示的音乐播放界面上的多个界面元素的信息以及歌曲的音频内容发送给笔记本电脑;又例如,响应于检测到用户确定将音乐应用的显示界面发送给智能手表的操作,手机可以将当前显示的音乐播放界面上的多个界面元素的信息以及歌曲的音频内容发送给智能手表。
一个实施例中,笔记本电脑的显示界面上可以显示与音乐应用相关联的图标。当笔记本电脑检测到用户点击该图标的操作时,笔记本电脑可以向手机发送请求信息,该请求信息用于请求将手机将音乐播放界面上的多个界面元素的信息以及歌曲的音频内容发送给笔记本电脑。
一个实施例中,当笔记本电脑检测到用户的第一操作(例如,点击鼠标或者点击键盘上的某个按键)时,笔记本电脑可以向手机发送指示信息,该指示信息用于在指示笔记本电脑检测到用户的第一操作。响应于接收到该指示信息且当前手机正在显示音乐播放界面,手机可以向笔记本电脑发送该多个界面元素的信息以及歌曲的音频内容。
一个实施例中,手机还可以向笔记本电脑发送手机的设备名称(例如,Mate 40)以及用户名称(例如,Lily)。笔记本电脑还可以在该音乐播放窗口316上提示用户该音乐播放界面来自Lily的Mate 40。
一个实施例中,当手机向笔记本电脑发送该多个界面元素的信息以及音频内容时,手机可以继续显示该音乐播放界面且手机可以不播放该歌曲的音频内容。
本申请实施例中,手机可以将当前运行的应用程序显示界面上的多个界面元素扩展到笔记本电脑上,方便用户在笔记本电脑上看到手机端的应用程序的显示界面,有助于提升用户的体验。同时,笔记本电脑上显示的音乐播放界面与手机上的音乐播放界面不同,笔记本电脑上显示的音乐播放界面更适合笔记本电脑的播放风格,有助于用户在不同的设备上体验适合当前设备的显示方式。
图4是本申请实施例提供的一组GUI。
如图4中的(a)所示,手机显示手机的桌面。笔记本电脑位于手机的附近,笔记本电脑可以显示笔记本电脑的桌面。当手机检测到用户点击社交应用的图标时,手机和笔记本电脑可以显示如图4中的(b)所示的GUI。
应理解,当手机和笔记本电脑之间的距离小于或者等于预设距离时,手机和笔记本电脑可以进行组网,组网过程可以参考上述实施例中的描述,此处不再赘述。
如图4中的(b)所示,响应于检测到用户点击社交应用的图标的操作,手机可以显示社交应用的首页,其中该社交应用的首页包括多个界面元素,例如,用户与联系人爸爸的聊天记录400、与联系人妈妈的聊天记录405、与联系人Sam的聊天记录406以及与联系人Lucy的聊天记录407。以与联系人爸爸的聊天记录400为例,该聊天记录中包括联系人爸爸的头像信息401、联系人爸爸的名称402、与联系人爸爸最近的一条聊天记录403、最近的一条聊天记录的发生时间404。
当手机确定笔记本电脑和手机之间的距离小于或者等于预设距离时,手机可以将当前显示的社交应用的首页上的多个界面元素的信息发送给笔记本电脑。如图4中的(b)所示,响应于接收到手机发送的多个界面元素的信息,笔记本电脑可以显示另一社交应用的首页显示窗口408,其中窗口408中包括用户与联系人爸爸的聊天记录400、与联系人妈妈的聊天记录405、与联系人Sam的聊天记录406以及与联系人Lucy的聊天记录407。
一个实施例中,手机还可以向笔记本电脑发送手机的设备名称(例如,Mate 40)以及用户名称(例如,Lily)。笔记本电脑还可以在该窗口408上提示用户该社交应用的显示界面来自Lily的Mate 40。
一个实施例中,响应于接收到手机发送的多个界面元素的信息,笔记本电脑除了还原手机端显示的社交应用的首页以外,还可以绘制最小化窗口控件409和关闭窗口控件410。
一个实施例中,当笔记本电脑检测到用户对窗口408的缩小或者扩大的操作时,笔记本电脑还可以调整窗口408的大小。
如图4中的(b)所示,当笔记本电脑检测到用户点击与联系人爸爸的聊天记录时,手机和笔记本电脑可以显示如图4中的(c)所示的GUI。
如图4中的(c)所示,响应于检测到用户点击与联系人爸爸的聊天记录,笔记本电脑可以向手机发送触控事件以及聊天记录400的标签信息。响应于接收到该触控事件以及标签信息,手机可以确定用户在笔记本电脑上点击了与联系人爸爸的聊天记录,从而手机可以显示用户与联系人爸爸的聊天界面,该聊天界面上包括多个界面元素,例如返回控件411、联系人爸爸的名称412、用户与联系人爸爸最近一次聊天记录的时间信息413、用户的头像414以及用户与联系人爸爸最近一次聊天记录的内容415。同时,手机还可以向笔记本电脑发送该聊天界面上的多个界面元素的信息。响应于接收到手机发送的多个界面元素的信息,笔记本电脑可以更新窗口408中的内容。如图4中的(c),笔记本电脑可以在窗口408中显示返回控件411、联系人爸爸的名称412、用户与联系人爸爸最近一次聊天记录的时间信息413、用户的头像414以及用户与联系人爸爸最近一次聊天记录的内容415。响应于接收到该多个界面元素的信息,笔记本电脑还可以在窗口408中绘制文本输入框416,其中文本输入框416中可以用于文本输入,该文本输入框中还包括语音控件417和发送控件418。
如图4中的(d)所示,用户接收到了联系人爸爸发送的信息“好啊,预约下到家看”后,手机可以显示用户与联系人爸爸的另一聊天界面。相比于图4中的(c)中手机上显示的聊天界面,该聊天界面中还增加了多个界面元素,例如,手机接收到该消息的时间信息419(例如,“08:00”)、联系人爸爸的头像信息420以及消息的内容421。响应于接收到该消息,手机还可以向笔记本电脑发送界面更新后新增的界面元素的信息,例如,时间信息419、联系人爸爸的头像信息420以及消息的内容421的信息。响应于接收到手机发送的多个界面元素的信息,笔记本电脑可以更新窗口408中的内容。如图4中的(d),笔记本电脑可以在窗口408中显示返回控件411、联系人爸爸的名称412、时间信息413、用户的头像414、聊天记录的内容415以及新增的界面元素(时间信息419、联系人爸爸的头像信息420以及消息的内容421)。
当笔记本电脑检测到用户在文本输入框416中输入了文本内容“好”时,笔记本电脑可以向手机发送文本内容。响应于接收到该文本内容,手机可以在文本输入框422中显示该文本内容“好”。当笔记本电脑检测到用户点击发送控件418的操作时,笔记本电脑可以向手机发送触控事件以及控件418的标签信息。响应于接收到该触控事件以及控件418的标签信息,手机可以确定用户在笔记本电脑上点击了发送控件。从而手机可以将文本输入框中的内容“好”发送给联系人爸爸。
如图4中的(e)所示,响应于将该文本内容发送给联系人爸爸,手机可以显示用户与联系人爸爸的另一聊天界面。相比于图4中的(d)中手机显示的聊天界面,该聊天界面中还增加了用户的头像423以及用户回复的内容424。响应于完成对该消息的回复,手机还可以向笔记本电脑发送界面更新后新增的界面元素的信息,例如,用户的头像423以及用户回复的内容424。响应于接收到手机发送的多个界面元素的信息,笔记本电脑可以更新窗口408中的内容。如图4中的(e),笔记本电脑可以在窗口408中显示返回控件411、联系人爸爸的名称412、时间信息413、用户的头像414、聊天记录的内容415、时间信息419、联系人爸爸的头像信息420、消息的内容421以及新增的界面元素(用户的头像423以及用户回复的内容424)。
本申请实施例中,手机可以向笔记本电脑发送社交应用的显示界面上的多个界面元素,从而在笔记本电脑上显示窗口408。窗口408适配笔记本电脑的宽屏,例如窗口408中的文本输入框416相比于手机上的文本输入框422,其区域更大,更方便用户进行文本输入,使得用户的输入不再受手机狭小文本输入框的限制。此外,用户在笔记本电脑上对消息进行回复时,可以调用笔记本电脑的输入法和文本输入框,用户可以使用键盘进行文本输入,从而可以使得用户快速完成消息的回复。
图5是本申请实施例提供的一组GUI。
如图5中的(a)所示,手机显示手机的桌面。笔记本电脑位于手机的附近,笔记本电脑可以显示笔记本电脑的桌面。当手机检测到用户点击图库应用的图标时,手机和笔记本电脑可以显示如图5中的(b)所示的GUI。
应理解,当手机和笔记本电脑之间的距离小于或者等于预设距离时,手机和笔记本电脑可以进行组网,组网过程可以参考上述实施例中的描述,此处不再赘述。
如图5中的(b)所示,响应于检测到用户点击图库应用的图标的操作,手机可以显示图库应用的显示界面,其中该图库应用的显示界面包括多个界面元素,例如,多个照片501-515的缩略图。
当手机确定笔记本电脑和手机之间的距离小于或者等于预设距离时,手机可以将当前显示的图库应用的首页上的多个界面元素的信息发送给笔记本电脑。如图5中的(b)所示,响应于接收到手机发送的多个界面元素的信息,笔记本电脑可以显示窗口516,其中窗口516中包括该多个照片的缩略图。
一个实施例中,手机还可以向笔记本电脑发送手机的设备名称(例如,Mate 40)以及用户名称(例如,Lily)。笔记本电脑还可以在该窗口516上提示用户该图库应用的显示界面来自Lily的Mate 40。
如图5中的(c)所示,当笔记本电脑检测到用户选中照片501-509的缩略图并将其拖动至文件夹中的操作时,笔记本电脑可以向手机发送请求信息,该请求信息用于请求照片501-509的图像信息,该请求信息还包括照片501-509的缩略图的标签信息。响应于接收到该请求信息,手机可以向笔记本电脑发送照片501-509的图像信息。响应于接收到手机发送的照片501-509的图像信息,笔记本电脑可以将照片501-509保存在文件夹中。
如图5中的(d)所示,当笔记本电脑检测到用户双击文件夹的操作时,笔记本电脑可以显示文件夹的显示窗口517,该文件夹的显示窗口517中包括照片501-509的信息。
本申请实施例中,手机可以向笔记本电脑发送图库应用的显示界面上的多个界面元素,从而在笔记本电脑上显示窗口516。当用户想要将图库中的多张照片保存在笔记本电脑本地时,只需要通过鼠标选中多张照片并拖动至想要保存的文件夹即可,省去了用户通过手机向笔记本电脑发送照片的过程,有助于提升用户的体验。
以上结合图3至图5介绍了本申请实施例中的几组GUI,下面结合附图介绍本申请实施例的技术方案的实现过程。
图6示出了本申请实施例提供的***架构的示意性框图,该***架构中包括源端设备(source端设备)以及客户端设备(sink端设备)。其中,source端设备中包括应用程序层和服务层,其中,应用程序层包括标记视图(tagged view)模块601、内容提取(contentfetcher)模块602、动作调度(action dispatcher)模块603;服务层包括数据传输(datatransfer)模块604、远端动作接收(remote action receiver)模块605。
应理解,标记视图模块601、内容提取模块602以及动作调度模块603所实现的功能可以通过由图2中的应用程序框架层中视图***实现。
sink端设备包括内容解析(view content parser)模块606、动作翻译(actiontranslater)模块607。下面对source端设备和sink端设备中的各个模块进行具体说明。
标记视图模块601用于标记场景以及界面元素。以图3的(b)中手机显示的音乐播放界面为例,手机可以将整个界面标记为音乐(music)场景。对于该界面上的多个界面元素也分别进行标记。Source端设备可以将该多个界面元素打上相应的标签,该标签包括界面元素的属性、名称等信息。示例性的,表1示出了一种界面元素与其相对应的标签的对应关系的示意图。
表1
一个实施例中,对于某些场景(例如,聊天(chat)场景),source端设备还可以将多个界面元素进行分组,在进行分组后再将每个组内的界面元素分别打上标签。以图4的(b)中手机显示的GUI为例,手机可以将整个界面标记为聊天(chat)场景。手机可以先对每条聊天记录进行分组(list)。在进行分组后,手机可以对每个list中的界面元素打上标签。示例性的,表2示出了一种界面元素与其相对应的标签的对应关系的示意图。
表2
应理解,以上所述的表1和表2仅仅是示意性的,界面元素与其对应的标签信息还可以有其他的对应方式,本申请实施例并不限于此。
内容提取模块602用于提取界面元素并将提取的界面元素发送给服务层的数据传输模块604。以图3中的(b)所示的音乐场景为例,source端设备的内容提取模块602可以提取封面图片对应的界面元素301、歌曲名对应的界面元素302、歌手对应的界面元素303、当前正在播放的歌词对应的界面元素305、点赞控件对应的界面元素315、播放上一首歌曲控件对应的界面元素312、暂停/播放控件313、播放下一首歌曲控件314。
内容提取模块602提取界面元素的方式包括但不限于以下几种方式:
方式一
从绘制层的指令中提取界面元素。绘制层的指令中包括了每一个界面元素还原的所有信息。图7示出了绘制指令的示意图,绘制指令有40多条,其中有明确内容的是drawText和drawImage两类指令,source端设备可以从这两类指令中提取出界面元素的内容。
方式二
从视图(view)层(或者控件层)提取界面元素。以Android中的控件TextView为例,开发者可以调用TextView的接口setText设置所要显示的文本。本申请实施例中source端设备可以记录下设置的文本,从而完成对属性为TextView的界面元素的提取。同样的,开发者也可以调用ImageView的接口setImage设置所要显示的图像信息,source端设备可以记录下设置的图像信息,从而完成对属性为ImageView的界面元素的提取。
应理解,如图6所示,应用程序层中可以包括绘制层和视图层(或者,控件层),绘制层和视图层可以实现source端的界面显示。视图层可以为开发者提供搭建界面的界面元素,例如TextView或者ImageView,开发者通过TextView提供的接口(例如,setText)可以设置文字样式、文字大小、文字粗细等。内容提取模块602可以直接在视图层完成对界面元素的提取。或者,视图层所提供的界面元素可以在绘制层转化为drawText和drawImage等指令,内容提取模块602也可以在绘制层中通过drawText和drawImage等指令提取出界面元素。
方式三
应用的开发者可以自定义内容,例如开发者可以为界面上包括多个界面元素设置<key,value>这种格式内容,从而source端设备可以对具备这样格式内容的界面元素进行提取。
数据传输模块604可以将source端显示界面的场景名称(例如,music、chat等场景)以及被标记的界面元素的信息(包括界面元素的标签信息以及通过内容提取模块602提取出的界面元素)发送给sink端设备的内容解析模块606。
一个实施例中,source端设备可以向sink端设备发送BLE数据包,该BLE数据包中可以携带界面元素以及界面元素的标签信息。BLE数据包中包括协议数据单元(protocoldata unit,PDU),该界面元素以及界面元素的标签信息可以携带在PDU中的服务数据(service data)字段中,或者,也可以携带在PDU中的厂商特定数据(manufacturerspecific data)字段中。例如,服务数据字段的负荷(payload)中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。source端设备和sink端设备可以约定某个可扩展的比特位的内容。
例如,对于图形类界面元素(ImageView),source端设备可以通过图像编码技术对该图形类界面元素进行图像编码,并将图像编码后的数据携带在第一比特位(第一比特位可以包括一个或者多个比特位)上;同时,source端设备可以对该图形类界面元素的标签信息进行编码。以该图形类界面元素为表1中的界面元素301为例,该界面元素301的标签信息可以为名称“封面图片”。Source端设备可以通过GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对该标签信息进行编码,并将编码后的数据携带在第二比特位(第二比特位可以包括一个或者多个比特位)上;source端设备可以将第一比特位和第二比特位进行关联。sink端设备在接收到该BLE数据包后,可以通过图像解码技术对第一比特位上的数据进行解码从而获得界面元素301;同时,sink端设备还可以对第二比特位上的信息进行解码从而获得该界面元素301的标签信息“封面图片”。
又例如,对于文本类界面元素(TextView),source端设备可以通过GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对该文本类界面元素进行编码,并将图像编码后的数据携带在第三比特位(第三比特位可以包括一个或者多个比特位)上;同时,source端设备可以对该文本类界面元素的标签信息进行编码。以该文本类界面元素为表1中的界面元素303为例,该界面元素303的标签信息可以为名称“歌手”。Source端设备可以通过GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对该标签信息进行编码,并将编码后的数据携带在第四比特位(第四比特位可以包括一个或者多个比特位)上;source端设备可以将第三比特位和第四比特位进行关联。sink端设备在接收到该BLE数据包后,可以通过相应的解码技术对第三比特位上的数据进行解码从而获得界面元素303;同时,sink端设备还可以对第四比特位上的信息进行解码从而获得该界面元素303的标签信息“歌手”。
应理解,对于音乐播放进度条以及开关控件等不属于图形类界面元素且不属于文本类界面元素的界面元素,source端设备可以将这些界面元素以及开关控件转化为字符串,从而source端设备也可以采用GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对这些界面元素以及其标签信息进行编码。
一个实施例中,source端设备除了向sink端设备发送界面元素以及界面元素的标签信息以外,还可以向sink端设备发送界面元素对应的场景信息。示例性的,对于图3所示的GUI,手机还可以向笔记本电脑发送的BLE数据包中携带场景信息“音乐”。Source端在BLE数据包中携带场景信息的实现过程可以参考source端设备在BLE数据包中携带标签信息的过程,此处不再赘述。
一个实施例中,该标签信息可以是名称,也可以是ID。例如,对于界面元素301,source端设备和sink端设备可以约定ID为1的界面元素对应的名称为“封面图片”,可以约定ID为2的界面元素对应的名称为“歌曲名”等。
一个实施例中,source端设备可以向sink端设备发送用户数据报协议(userdatagram protocol,UDP)数据包,该UDP数据包中可以携带该界面元素以及界面元素的标签信息。UPD数据包中包括IP数据报的数据部分。IP数据报的数据部分可以包括可扩展的比特位。Source端设备和sink端设备可以约定其中可扩展的比特位。从而source端设备可以将界面元素以及界面元素的标签信息携带在可扩展的比特位上。
一个实施例中,source端设备可以向sink端设备发送传输控制协议(transmission control protocol,TCP)数据包,该TCP数据包中可以携带该界面元素以及界面元素的标签信息。TCP数据包包括TCP首部和TCP数据部分,该通知信息可以携带在TCP数据部分。例如,TCP数据部分中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。从而source端设备可以将界面元素以及界面元素的标签信息携带在可扩展的比特位上。具体对于图形类界面元素、文本类界面元素、进度条以及开关控件等界面元素的信息传输过程可以参考上述实施例中的描述,此处不再赘述。
Sink端设备的内容解析(view content parser)模块606用于在接收到source端设备的数据传输模块604发送的数据包后,对接收到的数据包进行解析,从而获得一个或者多个界面元素以及其标签信息。一个实施例中,sink端设备还可以获取当前的场景信息。
Sink端设备中保存有不同场景下界面元素显示区域以及界面元素的标签信息的对应关系。图8和图9分别输出了音乐场景下以及聊天场景下界面元素区域分布的示意图。
示例性的,图8示出了一种sink端设备保存的音乐场景的界面元素区域分布的示意图。区域801中可以显示封面图片,区域802中可以显示歌曲名称、区域803中可以显示歌手、区域804中可以显示当前正在播放的歌词、区域805中可以显示点赞控件、区域806中可以显示播放上一首歌曲的控件、区域807中可以显示暂停/播放控件以及区域808中可以显示播放下一首歌曲的控件。
内容解析模块可以根据解析出的每一个界面元素以及每一个界面元素对应的标签信息,将界面元素放入指定的区域。示例性的,当sink端设备解析出界面元素301且该界面元素301标签信息中的名称为封面图片,则sink端设备可以将界面元素301放入区域801;当sink端设备解析出界面元素302且该界面元素302标签信息中的名称为歌曲名称,则sink端设备可以将界面元素302放入区域802。
示例性的,图9示出了sink端设备保存的聊天场景的界面元素区域分布的示意图。区域901中可以显示应用程序的名称;区域902中可以显示第一组聊天记录,其中区域902中还可以包括多个子区域,例如区域9021中可以显示联系人的头像、区域9022中可以显示联系人的名称、区域9023中可以显示用户与联系人最近的一次聊天内容以及区域9024中可以显示用户与联系人最近的一次聊天的实现信息。以此类推,区域903-905中可以显示第二组聊天记录、第三组聊天记录以及第四组聊天记录。
内容解析模块可以根据解析出的每一个界面元素以及每一个界面元素对应的标签信息,将每一个界面元素放入指定的区域。示例性的,sink端设备解析出界面元素401-404为第一组聊天记录中的界面元素。若界面元素401标签信息中的名称为联系人名称,则sink端设备可以将界面元素401放入区域9021;若界面元素402标签信息中的名称为联系人的名称,则sink端设备可以将界面元素402放入区域9022;若界面元素403的标签信息中的名称为最近一次的聊天内容,那么sink端设备可以将界面元素403放入区域9023中;若界面元素404的标签信息中的名称为最近一次的聊天的时间信息,那么sink端设备可以将界面元素404放入区域9024中。同样的,sink端设备可以将其他界面元素分别放入区域902-904中。
动作翻译模块607用于在sink端设备检测到触控事件(例如,对于某个控件的点击事件)时,向source端设备的远端动作接收模块605发送相应的事件以及该事件对应的界面元素的标签信息。
一个实施例中,当sink端的动作翻译模块607检测到用户对第一界面元素的点击事件后,sink端设备可以向source端设备发送BLE数据包,该BLE数据包中包括事件的类型信息以及第一界面元素的标签信息。BLE数据包中包括协议数据单元,该界面元素以及界面元素的标签信息可以携带在PDU中的服务数据字段中,或者,也可以携带在PDU中的厂商特定数据字段中。例如,服务数据字段的负荷中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。source端设备和sink端设备可以约定某个可扩展的比特位的内容。示例性的,以sink端设备为笔记本电脑为例,当某些可扩展的比特位为00时表示该事件的类型为选中第一界面元素;当某些可扩展的比特位为01时表示该事件的类型为选中第一界面元素后右键点击。又例如,sink端设备可以通过GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对第一界面元素对应的标签信息进行编码并将编码后的数据携带在一个或者多个可扩展的比特位上。Source端设备在对BLE数据包进行解析后就可以获知事件的类型以及对应的界面元素的标签信息,从而获知sink端设备检测到在第一界面元素上的相应事件。
远端动作接收模块605在接收到动作翻译模块607发送的事件后,可以将接收到的信息发送给动作调度模块603。动作调度模块603可以根据界面元素的标签信息查找到相应的界面元素,并通过事件类型确定用户在sink端设备上对该界面元素具体的操作。从而动作调度模块603可以当前的显示界面上的界面元素进行更新。
对示例性的,如图3中的(b)所示,当笔记本电脑检测到用户对暂停/播放控件的输入时,笔记本电脑可以向手机发送事件类型(点击事件)以及界面元素313的标签信息。响应于接收到上述信息,手机可以确定用户在笔记本电脑上针对该暂停/播放控件进行点击操作,从而手机可以对当前正在播放的音乐进行暂停。手机将界面元素313从播放状态更新为暂停状态,同时,手机停止向笔记本电脑发送歌曲对应的音频内容且手机还可以向笔记本电脑发送更新后的界面元素313以及界面元素313的标签信息,从而笔记本电脑可以显示更新后的界面元素313。
一个实施例中,若一个或者多个界面元素中包括第二界面元素且第二界面元素的状态是实时更新的,那么第一电子设备在向第二电子设备发送一个或者多个界面元素以及其标签信息后,第一电子设备可以在检测到第二界面元素的状态更新后,可以实时向第二电子设备发送更新后的第二界面元素以及其标签信息。以图3中的(b)所示的界面元素305为例,当前正在播放的歌词是实时更新的,例如在第00:12-00-15播放的是歌词“ExxxxxxxF”,在00:16-00:18播放的是歌词“GxxxxxxxH”。那么在歌曲播放到00:16这一刻,手机可以向笔记本电脑发送更新后的界面元素305(“GxxxxxxxH”)以及其标签信息。这样笔记本电脑在接收到更新后的界面元素305以及其标签信息后,可以对当前正在播放的歌词的内容进行更新。
一个实施例中,对于图4中的(d)所示,当笔记本电脑检测到用户在文本输入框416中检测到用户输入了文本内容“好”的操作时,笔记本电脑可以向手机发送该文本内容以及文本输入框的标签信息。示例性的,笔记本电脑可以向手机发送BLE数据包,该文本内容以及文本输入框的标签信息可以携带在PDU中的服务数据字段中。笔记本电脑可以采用GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对文本内容以及文本输入框的标签信息进行编码,并将编码后的数据携带在服务数据字段的可扩展比特位上。手机在接收到该BLE数据包后,可以对可扩展比特位上的数据进行解码从而获得文本内容以及文本输入框的标签信息,从而手机可以将该文本内容放入手机的文本输入框422中显示。
当笔记本电脑检测到用户点击发送控件418的操作时,笔记本电脑可以向手机发送相应的事件类型以及控件418的标签信息。具体的发送过程可以参考上述实施例中的描述,此处不再赘述。手机在接收到事件类型以及控件418的标签信息后,可以确定笔记本电脑检测到用户点击了发送控件。从而手机可以完成对文本输入框422中的内容的发送。
应理解,本申请实施例中,文本输入框416可以是笔记本电脑绘制的。笔记本电脑和手机可以提前约定文本输入框416、语音控件417以及发送控件418的标签信息。这样手机在接收到笔记本电脑发送的内容后就可以获知用户在笔记本电脑上进行的操作。
图10示出了本申请实施例提供的显示方法1000的示意性流程图,该方法1000可以由第一电子设备和第二电子设备执行,该第一电子设备可以是上述source端设备,该第二电子设备可以是上述sink端设备。该方法1000包括:
S1001,第一电子设备接收第一指示。
一个实施例中,该第一指示可以为第一电子设备检测到用户启动第一应用程序的操作。
一个实施例中,该第一指示可以为第一电子设备接收到第二电子设备发送的指示信息,该指示信息用于指示第一电子设备向第二电子设备发送第一界面上的界面元素。示例性的,第二电子设备可以在检测到用户点击与第一应用程序相关联的图标时,向第一电子设备发送指示信息。
S1002,响应于接收到第一指示,第一电子设备显示第一界面并向第二电子设备发送一个或者多个界面元素以及该一个或者多个界面元素的标签信息,该第一界面上包括一个或者多个界面元素。
示例性的,如图3中的(b)所示,该第一电子设备可以为手机,该第一界面可以为音乐播放界面,该音乐播放界面上包括界面元素301-界面元素315。
应理解,第一电子设备向第二电子设备发送该一个或者多个界面元素以及该一个或者多个界面元素的标签信息的过程可以参考上述实施例中的描述,此处不再赘述。
一个实施例中,当第一电子设备和第二电子设备之间的距离小于或者等于预设距离时,第一电子设备可以提示用户将第一界面上的一个或者多个界面元素发送给第二电子设备进行显示。响应于用户确定将该第一界面上的界面元素发送给第二电子设备的操作,第一电子设备可以向第二电子设备发送该一个或者多个界面元素以及该一个或者多个界面元素的标签信息。
一个实施例中,当第一电子设备确定和第一电子设备组网的设备中包括支持对一个或者多个界面元素进行显示的电子设备时,第一电子设备可以向第二电子设备发送该一个或者多个界面元素以及该一个或者多个界面元素的标签信息。示例性的,第一电子设备在显示第一界面后,可以向和第一电子设备组网的设备发送查询请求,该查询请求用于查询接收到该查询请求的设备是否支持对一个或者多个界面元素进行显示。若和第一电子设备组网的设备中包括第二电子设备且第二电子设备支持对一个或者多个界面元素进行显示,那么第二电子设备可以向第一电子设备发送响应(ACK),从而使得第一电子设备获知第二电子设备支持对一个或者多个界面元素进行显示。
示例性的,第一电子设备可以向第二电子设备发送BLE数据包,该BLE数据包中可以携带该查询请求。BLE数据包中包括PDU,该查询请求可以携带在PDU中的服务数据字段中,或者,也可以携带在PDU中的厂商特定数据字段中。例如,服务数据字段的负荷中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。第一电子设备和第二电子设备可以约定某个可扩展的比特位的内容。例如,当某个可扩展的比特位为1时,第二电子设备就可以获知第一电子设备请求查询第二电子设备是否支持对一个或者多个界面元素进行显示。
若第二电子设备支持对一个或者多个界面元素进行显示,那么第二电子设备可以向第一电子设备发送BLE数据包。例如,当该BLE数据包中某个可扩展的比特位为1时,第一电子设备就可以获知第二电子设备支持对一个或者多个界面元素进行显示。
一个实施例中,若和第一电子设备组网的多个设备都支持对该一个或者多个界面元素进行显示,那么第一电子设备还可以提示用户将该一个或者多个界面元素发送到哪一个设备上进行显示。示例性的,和第一电子设备组网的设备中第二电子设备、第三电子设备均支持对一个或者多个界面元素进行显示,那么第一电子设备可以提示用户将该一个或者多个界面元素发送给第二电子设备或者第三电子设备进行显示。响应于用户选择第二电子设备的操作,第一电子设备可以向第二电子设备发送该一个或者多个界面元素以及该一个或者多个界面元素的标签信息。
一个实施例中,该第一指示还可以是来自于第二电子设备的请求信息。示例性的,第二电子设备的显示界面上可以包括某个应用的图标。当第二电子设备检测到用户点击图标的操作后,第二电子设备可以向第一电子设备发送请求信息,该请求信息用于请求该应用下的显示界面上的一个或者多个界面元素的信息。
应理解,第二电子设备的显示界面上包括某个应用的图标并不代表第二电子设备安装了该应用。第二电子设备检测到用户点击该图标可以触发第二电子设备向第一电子设备发送请求信息,该请求信息用于请求第一电子设备向第二电子设备发送该应用的显示界面上的一个或者多个应用程序的图标。
示例性的,响应于检测到用户点击第一应用(例如,音乐应用或者聊天应用)的图标的操作,第二电子设备可以向第一电子设备发送BLE数据包。例如,当该BLE数据包中某个可扩展的比特位为1时,第一电子设备就可以获知第二电子设备向第一电子设备请求该第一应用的显示界面上一个或者多个界面元素的信息。
一个实施例中,第一电子设备和第二电子设备组网后,第二电子设备可以向第一电子设备发送查询请求,该查询请求用于请求查询第一电子设备是否安装了第一应用。示例性的,第二电子设备可以向第一电子设备发送BLE数据包,该BLE数据包中可以携带该查询请求。BLE数据包中的服务数据字段的负荷中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。第一电子设备和第二电子设备可以约定某个可扩展的比特位的内容。例如,当某个可扩展的比特位为1时,第一电子设备就可以获知第二电子设备请求查询第一电子设备是否安装了第一应用。若第一电子设备安装了第一应用,那么第一电子设备可以向第二电子设备发送响应(ACK),从而第二电子设备可以获知第一电子设备安装了第一应用。此后,若第二电子设备检测到用户点击了第一应用的图标的操作时,第二电子设备可以向第一电子设备发送该请求信息。
S1003,该第二电子设备可以根据一个或者多个界面元素的标签信息,显示第二界面,该第二界面上显示该一个或者多个界面元素中的至少部分界面元素。
一个实施例中,第二电子设备在接收到一个或者多个界面元素以及其标签信息后,可以根据一个或者多个界面元素的标签信息显示第二界面。示例性的,第二电子设备可以从这些标签信息中选择优先级等级较高的标签信息对应的界面元素进行显示。以图3中的(b)所示的GUI为例,手机可以将界面元素301-315以及其标签信息发送给第二电子设备,第二电子设备中可以保存有标签信息的优先级信息(例如,该优先级从高至低依次为歌曲名、歌手、当前正在播放的歌词、播放上一首歌曲控件、暂停/播放控件以及播放下一首歌词控件)。那么第二电子设备可以根据优先级信息以及界面元素301-315的标签信息,依次显示界面元素302、303、305、312、313和314。
一个实施例中,第二电子设备根据第一映射关系以及一个或者多个界面元素的标签信息,显示该一个或者多个界面元素中的至少部分界面元素,该第一映射关系为一个或者多个界面元素的显示区域与一个或者多个界面元素的标签信息的映射关系。
一个实施例中,该第一映射关系可以是保存在第一电子设备中的。第一电子设备在向第二电子设备发送界面元素以及标签信息时,还可以向第二电子设备发送该第一映射关系。
一个实施例中,对于同一场景(例如,音乐场景),第一电子设备可以保存有针对不同设备的不同映射关系。示例性的,以第一电子设备为手机为例,手机中可以保存有第一映射关系和第二映射关系,第一映射关系为笔记本电脑中界面元素的显示区域与界面元素的标签信息的映射关系,第二映射关系为智能手表中界面元素的显示区域与界面元素的标签信息的映射关系。对于不同的sink端设备,手机可以发送不同的界面元素以及界面元素的标签信息。例如,对于笔记本电脑,手机可以向笔记本电脑发送界面元素301-303、305、312-315以及其对应的标签信息;又例如,对于智能手表,手机可以向智能手表发送界面元素302-303、305、312-314以及其对应的标签信息。
一个实施例中,该第一映射关系也可以是保存在第二电子设备中的。当第二电子设备从第一电子设备接收到界面元素以及标签信息时,就可以根据界面元素的标签信息以及第一映射关系,显示第二界面。
一个实施例中,该第二电子设备中可以保存有不同场景下界面元素的显示区域与界面元素的标签信息的映射关系。示例性的,如图8和图9所示,sink端设备可以保存有音乐场景下和聊天场景下,不同区域与不同界面元素的标签信息的映射关系。当第二电子设备从第一电子设备接收到一个或者多个界面元素以及其标签信息后,sink端设备可以根据一个或者多个界面元素的标签信息,选择一个或者多个界面元素中的至少部分进行显示。
一个实施例中,第一电子设备可以将第一界面下所有打上标签的界面元素以及其标签信息都发送给第二电子设备。第二电子设备收到所有打上标签的界面元素以及其标签信息后,可以根据第一映射关系,从这些界面元素中选择其中的部分或者全部进行显示。
示例性的,如图3中的(b)所示,手机可以将打上标签的界面元素301-315以及其对应的标签信息都发送给笔记本电脑。笔记本电脑在接收到界面元素以及其标签信息后,可以根据图8所示的界面元素的显示区域以及标签信息的对应关系,从界面元素301-315中选择界面元素301、界面元素302、界面元素303、界面元素305以及界面元素312-315进行显示。
一个实施例中,第一电子设备中可以保存有某个场景下所需要的界面元素的信息。这样第一电子设备可以向第二电子设备发送第二电子设备需要显示的界面元素以及其标签信息。示例性的,第一电子设备和第二电子设备组网后,第二电子设备可以向第一电子设备发送第一场景下需要的界面元素的信息。第二电子设备可以向第一电子设备发送BLE数据包,该BLE数据包中可以第一场景的信息以及第一场景下所需要的界面元素的信息。BLE数据包中的服务数据字段的负荷中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。第一电子设备和第二电子设备可以约定某个可扩展的比特位的内容。例如,第二电子设备可以采用GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对第一场景(例如,音乐)的信息进行编码,同时可以采用GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对第一场景下所需要的界面元素的标签信息进行编码,从而将编码后的数据携带在一个或者多个可扩展的比特位上。第一电子设备在接收到该BLE数据包后,可以对其进行解码从而获知第二电子设备在第一场景下需要的界面元素的标签信息。这样当第一电子设备接收到第一指示后,可以向第二电子设备发送第二电子设备所需要的界面元素以及其标签信息。
图11示出了本申请实施例提供的装置1100的示意性框图。该装置1100可以设置于上述图10中的第一电子设备中,该装置1100中包括:接收单元1110,用于接收到第一指示;显示单元1120,用于响应于接收到第一指示,显示第一界面;发送单元1130,用于向该第二电子设备发送第一信息,该第一信息包括该第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息。
图12示出了本申请实施例提供的装置1200的示意性框图。该装置1200可以设置于上述图10中的第二电子设备中,该装置1200中包括:接收单元1210,用于接收该第一电子设备发送的第一信息,该第一信息包括该第一电子设备显示的第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息;显示单元1220,用于响应于接收到该标签信息,根据该一个或者多个界面元素的标签信息,显示第二界面,该第二界面显示该一个或者多个界面元素中的至少部分界面元素。
图13示出了本申请实施例提供的电子设备1300的示意性结构图。如图13所示,该电子设备包括:一个或多个处理器1310,一个或多个存储器1320,该一个或多个存储器存储1320存储有一个或多个计算机程序,该一个或多个计算机程序包括指令。当该指令被所述一个或多个处理器1310运行时,使得第一电子设备或者第二电子设备执行上述实施例中的技术方案。
本申请实施例提供了一种***,包括第一电子设备和第二电子设备,该***用于执行上述实施例中的技术方案。其实现原理和技术效果与上述方法相关实施例类似,此处不再赘述。
本申请实施例提供一种计算机程序产品,当所述计算机程序产品在第一电子设备(或者,上述实施例中的笔记本电脑)运行时,使得第一电子设备执行上述实施例中的技术方案。其实现原理和技术效果与上述方法相关实施例类似,此处不再赘述。
本申请实施例提供一种计算机程序产品,当所述计算机程序产品在第二电子设备(或者,上述实施例中的手机)运行时,使得第二电子设备执行上述实施例中的技术方案。其实现原理和技术效果与上述方法相关实施例类似,此处不再赘述。
本申请实施例提供一种可读存储介质,所述可读存储介质包含指令,当所述指令在第一电子设备(或者,上述实施例中的笔记本电脑)运行时,使得所述第一电子设备执行上述实施例的技术方案。其实现原理和技术效果类似,此处不再赘述。
本申请实施例提供一种可读存储介质,所述可读存储介质包含指令,当所述指令在第二电子设备(或者,上述实施例中的手机)运行时,使得所述第二电子设备执行上述实施例的技术方案。其实现原理和技术效果类似,此处不再赘述。
本申请实施例提供一种芯片,所述芯片用于执行指令,当所述芯片运行时,执行上述实施例中的技术方案。其实现原理和技术效果类似,此处不再赘述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请实施例的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的***、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的***、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请实施例的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请实施例揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请实施例的保护范围之内。因此,本申请实施例的保护范围应以所述权利要求的保护范围为准。
Claims (30)
1.一种***,其特征在于,所述***包括第一电子设备和第二电子设备,所述第一电子设备通过近距离无线连接与所述第二电子设备通信,其中,
所述第一电子设备,用于响应于接收到第一指示,显示第一界面并向所述第二电子设备发送第一信息,所述第一信息包括所述第一界面上的一个或者多个界面元素以及所述一个或者多个界面元素的标签信息;
所述第二电子设备,用于响应于接收到所述第一信息,根据所述一个或者多个界面元素的标签信息,显示第二界面,所述第二界面显示所述一个或者多个界面元素中的至少部分界面元素。
2.根据权利要求1所述的***,其特征在于,所述第二电子设备具体用于:根据所述一个或者多个界面元素的标签信息以及第一映射关系,显示所述第二界面,所述第一映射关系为所述至少部分界面元素的显示区域与所述至少部分界面元素的标签信息的映射关系。
3.根据权利要求1或2所述的***,其特征在于,所述第一电子设备具体用于:
响应于检测到用户启动第一应用程序的操作,显示所述第一界面并向所述第二电子设备发送所述第一信息。
4.根据权利要求3所述的***,其特征在于,所述第一电子设备具体用于:
响应于检测到用户启动所述第一应用程序的操作,显示所述第一界面并提示用户是否将所述第一界面上的一个或者多个界面元素发送给所述第二电子设备进行显示;
响应于检测到用户确定将所述第一界面上的一个或者多个界面元素发送给所述第二电子设备进行显示的操作,向所述第二电子设备发送所述第一信息。
5.根据权利要求3所述的***,其特征在于,所述第一电子设备还用于:响应于检测到用户启动所述第一应用程序的操作,显示所述第一界面并向所述第二电子设备发送第一指示信息,所述第一指示信息用于指示所述第一电子设备已启动所述第一应用程序;
所述第二电子设备,还用于响应于接收到所述第一指示信息,提示用户是否通过所述第二电子设备显示所述第一应用程序的显示界面;
所述第二电子设备,还用于响应于检测到用户确定通过所述第二电子设备显示所述第一应用程序的显示界面的操作,向所述第一电子设备发送第一请求信息,所述第一请求信息用于请求显示所述第一界面上的界面元素;
所述第一电子设备,具体用于响应于接收到所述第一请求信息,向所述第二电子设备发送所述第一信息。
6.根据权利要求1或2所述的***,其特征在于,所述第二电子设备,还用于响应于检测到用户的操作,向所述第一电子设备发送第二请求信息,所述第二请求信息用于请求显示所述第一界面上的界面元素;
所述第一电子设备具体用于:响应于接收到所述第二电子设备发送的第二请求信息,显示所述第一界面并向所述第二电子设备发送所述第一信息。
7.根据权利要求1至6中任一项所述的***,其特征在于,所述第一电子设备,还用于在向所述第二电子设备发送所述第一信息之前,确定所述第一电子设备和所述第二电子设备之间的距离小于或者等于预设距离。
8.根据权利要求1至7中任一项所述的***,其特征在于,所述至少部分界面元素包括第一界面元素,
所述第一电子设备,还用于响应于第一界面元素发生更新,向所述第二电子设备发送第二信息,所述第二信息包括更新后的所述第一界面元素以及所述第一界面元素的标签信息;
所述第二电子设备,还用于响应于接收到所述第二信息,在所述第二界面上显示更新后的所述第一界面元素。
9.根据权利要求1至8中任一项所述的***,其特征在于,所述至少部分界面元素包括第二界面元素,
所述第二电子设备,还用于响应于检测到用户对所述第二界面元素的输入,向所述第一电子设备发送第二指示信息,所述第二指示信息用于指示所述第二电子设备检测到用户对所述第二界面元素的输入;
所述第一电子设备,还用于响应于接收到所述第二指示信息,执行针对所述输入的操作。
10.根据权利要求9所述的***,其特征在于,所述第一电子设备,还用于响应于执行所述操作,所述第一电子设备更新第三界面元素,所述至少部分界面元素包括所述第三界面元素;
所述第一电子设备,还用于向所述第二电子设备发送第三信息,所述第三信息包括更新后的所述第三界面元素以及所述第三界面元素的标签信息;
所述第二电子设备,还用于响应于接收到所述第三信息,在所述第二界面上显示更新后的所述第三界面元素。
11.根据权利要求1至10中任一项所述的***,其特征在于,所述第一信息中还包括所述第一界面对应的场景的信息。
12.一种显示方法,其特征在于,所述方法应用于第一电子设备中,所述第一电子设备通过近距离无线连接与第二电子设备通信,所述方法包括:
所述第一电子设备接收到第一指示;
响应于接收到第一指示,所述第一电子设备显示第一界面并向所述第二电子设备发送第一信息,所述第一信息包括所述第一界面上的一个或者多个界面元素以及所述一个或者多个界面元素的标签信息。
13.根据权利要求12所述的方法,其特征在于,所述方法还包括:
所述第一电子设备向所述第二电子设备发送第一映射关系的信息,所述第一映射关系为界面元素的显示区域与界面元素的标签信息的映射关系。
14.根据权利要求12或13所述的方法,其特征在于,所述第一电子设备接收到第一指示,包括:
所述第一电子设备检测到用户启动第一应用程序的操作。
15.根据权利要求14所述的方法,其特征在于,所述响应于接收到第一指示,所述第一电子设备显示第一界面并向所述第二电子设备发送第一信息,包括:
响应于检测到用户启动所述第一应用程序的操作,显示所述第一界面并提示用户是否将所述第一界面上的一个或者多个界面元素发送给所述第二电子设备进行显示;
响应于检测到用户确定将所述第一界面上的一个或者多个界面元素发送给所述第二电子设备进行显示的操作,向所述第二电子设备发送所述第一信息。
16.根据权利要求14所述的方法,其特征在于,所述响应于接收到第一指示,所述第一电子设备向所述第二电子设备发送第一信息,包括:
所述第一电子设备接收所述第二电子设备发送的第一请求信息,所述第一请求信息用于请求显示所述第一界面上的界面元素;
所述第一电子设备响应于接收到所述第一请求信息,向所述第二电子设备发送所述第一信息。
17.根据权利要求12至16中任一项所述的方法,其特征在于,所述方法还包括:
在向所述第二电子设备发送所述第一信息之前,所述第一电子设备确定所述第一电子设备和所述第二电子设备之间的距离小于或者等于预设距离。
18.根据权利要求12至17中任一项所述的方法,其特征在于,所述一个或者多个界面元素包括第一界面元素,所述方法还包括:
响应于第一界面元素发生更新,所述第一电子设备向所述第二电子设备发送第二信息,所述第二信息包括更新后的所述第一界面元素以及所述第一界面元素的标签信息。
19.根据权利要求12至18中任一项所述的方法,其特征在于,所述一个或者多个界面元素包括第二界面元素,所述方法还包括:
所述第一电子设备接收所述第二电子设备发送的第二指示信息,所述第二指示信息用于指示所述第二电子设备检测到用户对所述第二界面元素的输入;
响应于接收到所述第二指示信息,所述第一电子设备执行针对所述输入的操作。
20.根据权利要求19所述的方法,其特征在于,所述方法还包括:
响应于执行所述操作,所述第一电子设备更新第三界面元素,所述一个或者多个界面元素包括所述第三界面元素;
所述第一电子设备向所述第二电子设备发送第三信息,所述第三信息包括更新后的所述第三界面元素以及所述第三界面元素的标签信息。
21.一种显示方法,其特征在于,所述方法应用于第二电子设备,所述第二电子设备通过近距离无线连接与第一电子设备通信,所述方法包括:
所述第二电子设备接收所述第一电子设备发送的第一信息,所述第一信息包括所述第一电子设备显示的第一界面上的一个或者多个界面元素以及所述一个或者多个界面元素的标签信息;
响应于接收到所述标签信息,所述第二电子设备根据所述一个或者多个界面元素的标签信息,显示第二界面,所述第二界面显示所述一个或者多个界面元素中的至少部分界面元素。
22.根据权利要求21所述的方法,其特征在于,所述第二电子设备根据所述一个或者多个界面元素的标签信息,显示第二界面,包括:
所述第二电子设备根据所述一个或者多个界面元素的标签信息以及第一映射关系,显示所述第二界面,所述第一映射关系为所述至少部分界面元素的显示区域与所述至少部分界面元素的标签信息的映射关系。
23.根据权利要求21或22所述的方法,其特征在于,所述第二电子设备接收所述第一电子设备发送的所述第一信息之前,所述方法还包括:
所述第二电子设备接收所述第一电子设备发送的第一指示信息,所述第一指示信息用于指示所述第一电子设备已启动所述第一应用程序;
响应于接收到所述第一指示信息,所述第二电子设备提示用户是否通过所述第二电子设备显示所述第一应用程序的显示界面;
响应于检测到用户确定通过所述第二电子设备显示所述第一应用程序的显示界面的操作,所述第二电子设备向所述第一电子设备发送第一请求信息,所述第一请求信息用于请求显示所述第一界面上的界面元素。
24.根据权利要求21或22所述的方法,其特征在于,所述第二电子设备接收所述第一电子设备发送的所述第一信息之前,所述方法还包括:
响应于检测到用户的操作,所述第二电子设备向所述第一电子设备发送第二请求信息,所述第二请求信息用于请求显示所述第一界面上的界面元素。
25.根据权利要求21至24中任一项所述的方法,其特征在于,所述至少部分界面元素包括第一界面元素,所述方法还包括:
所述第二电子设备接收所述第一电子设备发送的第二信息,所述第二信息包括更新后的所述第一界面元素以及所述第一界面元素的标签信息;
响应于接收到所述第二信息,所述第二电子设备在所述第二界面上显示更新后的所述第一界面元素。
26.根据权利要求21至25中任一项所述的方法,其特征在于,所述至少部分界面元素包括第二界面元素,
响应于检测到用户对所述第二界面元素的输入,所述第二电子设备向所述第一电子设备发送第二指示信息,所述第二指示信息用于指示所述第二电子设备检测到用户对所述第二界面元素的输入。
27.根据权利要求26所述的方法,其特征在于,所述至少部分界面元素包括第三界面元素,所述方法还包括:
若所述第一电子设备在接收到所述第二指示信息后更新了所述第三界面元素,所述第二电子设备接收所述第一电子设备发送的第三信息,所述第三信息包括更新后的所述第三界面元素以及所述第三界面元素的标签信息;
响应于接收到所述第三信息,所述第三电子设备在所述第二界面上显示更新后的所述第三界面元素。
28.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
一个或多个存储器;
所述一个或多个存储器存储有一个或者多个计算机程序,所述一个或者多个计算机程序包括指令,当所述指令被所述一个或多个处理器执行时,使得所述电子设备执行如权利要求12至20中任一项所述的方法。
29.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
一个或多个存储器;
所述一个或多个存储器存储有一个或者多个计算机程序,所述一个或者多个计算机程序包括指令,当所述指令被所述一个或多个处理器执行时,使得所述电子设备执行如权利要求21至27中任一项所述的方法。
30.一种计算机可读存储介质,其特征在于,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求12至20中任一项所述的方法;或者,
当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求21至27中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP22778945.0A EP4287014A4 (en) | 2021-03-31 | 2022-03-29 | DISPLAY METHOD, ELECTRONIC DEVICE AND SYSTEM |
PCT/CN2022/083727 WO2022206763A1 (zh) | 2021-03-31 | 2022-03-29 | 一种显示方法、电子设备和*** |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110350080 | 2021-03-31 | ||
CN2021103500803 | 2021-03-31 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115145518A true CN115145518A (zh) | 2022-10-04 |
Family
ID=83405500
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110484031.9A Pending CN115145518A (zh) | 2021-03-31 | 2021-04-30 | 一种显示方法、电子设备和*** |
Country Status (3)
Country | Link |
---|---|
EP (1) | EP4287014A4 (zh) |
CN (1) | CN115145518A (zh) |
WO (1) | WO2022206763A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023225122A1 (en) * | 2022-05-17 | 2023-11-23 | Apple Inc. | Systems and methods for remote interaction between electronic devices |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9360997B2 (en) * | 2012-08-29 | 2016-06-07 | Apple Inc. | Content presentation and interaction across multiple displays |
CN103744810B (zh) * | 2013-12-23 | 2016-09-21 | 西安酷派软件科技有限公司 | 终端、电子设备、同步显示***和方法 |
KR101548228B1 (ko) * | 2013-12-27 | 2015-08-28 | 주식회사 케이티 | 사용자 상태에 기반하여 사용자 인터페이스를 동기화하는 동기화 기기 및 동기화 방법 |
US20160182603A1 (en) * | 2014-12-19 | 2016-06-23 | Microsoft Technology Licensing, Llc | Browser Display Casting Techniques |
CN106843661A (zh) * | 2015-12-07 | 2017-06-13 | 深圳创锐思科技有限公司 | 一种信息交互的方法、电子设备及控制终端 |
CN108347464A (zh) * | 2017-01-23 | 2018-07-31 | 国基电子(上海)有限公司 | 应用程序的运行状态同步方法、***及电子设备 |
-
2021
- 2021-04-30 CN CN202110484031.9A patent/CN115145518A/zh active Pending
-
2022
- 2022-03-29 WO PCT/CN2022/083727 patent/WO2022206763A1/zh active Application Filing
- 2022-03-29 EP EP22778945.0A patent/EP4287014A4/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4287014A4 (en) | 2024-07-10 |
WO2022206763A1 (zh) | 2022-10-06 |
EP4287014A1 (en) | 2023-12-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109814766B (zh) | 一种应用显示方法及电子设备 | |
CN110134316B (zh) | 模型训练方法、情绪识别方法及相关装置和设备 | |
WO2022257977A1 (zh) | 电子设备的投屏方法和电子设备 | |
CN112231025A (zh) | Ui组件显示的方法及电子设备 | |
CN113885759A (zh) | 通知消息处理方法、设备、***及计算机可读存储介质 | |
WO2021159746A1 (zh) | 文件共享方法、***及相关设备 | |
CN114173000B (zh) | 一种回复消息的方法、电子设备和***、存储介质 | |
CN113961157B (zh) | 显示交互***、显示方法及设备 | |
CN109819306B (zh) | 一种媒体文件裁剪的方法、电子设备和服务器 | |
CN114124980B (zh) | 一种启动应用的方法、设备、***、终端及存储介质 | |
WO2022206764A1 (zh) | 一种显示方法、电子设备和*** | |
CN114006712A (zh) | 一种获取验证码的方法、电子设备和*** | |
CN113986369B (zh) | 物联网设备控制方法、***、电子设备及存储介质 | |
CN111372329A (zh) | 一种连接建立方法及终端设备 | |
CN112740148A (zh) | 一种向输入框中输入信息的方法及电子设备 | |
WO2022206763A1 (zh) | 一种显示方法、电子设备和*** | |
WO2022152174A1 (zh) | 一种投屏的方法和电子设备 | |
WO2022135273A1 (zh) | 一种调用其他设备能力的方法、电子设备和*** | |
WO2022095820A1 (zh) | 一种文本输入的方法、电子设备和*** | |
WO2022062902A1 (zh) | 一种文件传输方法和电子设备 | |
CN114567871A (zh) | 文件共享的方法、装置、电子设备以及可读存储介质 | |
CN114664306A (zh) | 一种编辑文本的方法、电子设备和*** | |
WO2022206762A1 (zh) | 一种显示方法、电子设备和*** | |
CN114666441B (zh) | 一种调用其他设备能力的方法、电子设备、***和存储介质 | |
WO2022206769A1 (zh) | 一种拼接内容的方法、电子设备和*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |