CN115145665A - 一种显示方法、电子设备和*** - Google Patents

一种显示方法、电子设备和*** Download PDF

Info

Publication number
CN115145665A
CN115145665A CN202110486127.9A CN202110486127A CN115145665A CN 115145665 A CN115145665 A CN 115145665A CN 202110486127 A CN202110486127 A CN 202110486127A CN 115145665 A CN115145665 A CN 115145665A
Authority
CN
China
Prior art keywords
interface
electronic device
information
display
interface element
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110486127.9A
Other languages
English (en)
Inventor
孙玺临
刘敏
李�杰
程银柱
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to PCT/CN2022/083717 priority Critical patent/WO2022206762A1/zh
Priority to US18/551,782 priority patent/US20240201932A1/en
Priority to EP22778944.3A priority patent/EP4290375A1/en
Publication of CN115145665A publication Critical patent/CN115145665A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/20Cooling means
    • G06F1/206Cooling means comprising thermal management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3231Monitoring the presence, absence or movement of users
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/16Use of wireless transmission of display information

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请实施例提供了一种显示方法、电子设备和***,该方法包括:第一电子设备显示第一界面并向第二电子设备发送第一信息,第一信息包括第一界面上的一个或者多个界面元素以及界面元素的标签信息;第二电子设备根据第一界面上的一个或者多个界面元素的标签信息,显示第二界面,第二界面包括第一显示窗口和第二显示窗口,第一显示窗口显示第一界面上的一个或者多个界面元素中的至少部分界面元素,第二显示窗口用于显示与第一界面元素相关联的显示界面,该至少部分界面元素包括该第一界面元素。本申请实施例中,客户端可以通过屏幕显示源端设备上多个显示界面,无需用户在多个显示界面上来回切换,有助于提升用户的使用体验。

Description

一种显示方法、电子设备和***
本申请要求于2021年3月31日提交中国专利局、申请号为202110350010.8、申请名称为“一种显示方法、电子设备和***”的中国专利申请的优先权,其全部内容通过引用结合在本申请中。
技术领域
本申请涉及终端领域,并且更具体地,涉及一种显示方法、电子设备和***。
背景技术
目前设备间用于还原用户界面(user interface,UI)的技术主要是视频投屏类还原技术(例如,Miracast)。其基本原理是将源端设备(source端设备)画面编码为视频并在客户端设备(sink端设备)播放视频,从而实现客户端设备对源端的用户界面的还原。此类还原UI的技术需要客户端设备的能力(例如,视频解码能力),无法使用于无视频解码能力的设备。
发明内容
本申请实施例提供一种显示方法、电子设备和***,通过源端设备对用户界面上的界面元素打上标签信息,客户端设备可以通过界面元素的标签信息来还原适合客户端设备的用户界面,无需依赖客户端设备的视频解码能力;并且客户端可以通过屏幕显示源端设备上多个显示界面,无需用户在多个显示界面上来回切换,有助于提升用户的使用体验。
第一方面,提供了一种***,该***包括第一电子设备和第二电子设备,该第一电子设备通过近距离无线连接与该第二电子设备通信,其中,该第一电子设备用于响应于接收到第一指示,显示第一界面并向该第二电子设备发送第一信息,该第一信息包括该第一界面上的一个或者多个界面元素以及该第一界面上的一个或者多个界面元素的标签信息;该第二电子设备用于响应于接收到该第一信息,根据该第一界面上的一个或者多个界面元素的标签信息,显示第二界面,该第二界面包括第一显示窗口和第二显示窗口,该第一显示窗口显示该第一界面上的一个或者多个界面元素中的至少部分界面元素,该第二显示窗口用于显示与第一界面元素相关联的显示界面,该至少部分界面元素包括该第一界面元素。
本申请实施例中,第一电子设备(源端设备)可以在接收到第一指示后,将第一界面上的一个或者多个界面元素以及一个或者多个界面元素的标签信息发送给第二电子设备(客户端设备),从而使得第二电子设备可以依据标签信息还原适合第二电子设备的界面,用户可以在不同的设备上体验不同的界面风格,有助于提升用户的体验;第一电子设备在发送界面元素以及其标签信息时无需依赖其视频编码能力,第二电子设备在还原界面时无需依赖其视频解码能力;同时,客户端可以通过屏幕显示源端设备上多个显示界面(一级页面和二级页面),无需用户在多个显示界面上来回切换,有助于提升用户的使用体验。
在一些可能的实现方式中,该第一信息中的一个或者多个界面元素中每一个界面元素与每一个界面元素的标签信息相对应。
在一些可能的实现方式中,该第一电子设备还用于在向第二电子设备发送第一信息之前,获取第一界面上的多个界面元素,并对该多个界面元素打上标签信息。
在一些可能的实现方式中,该标签信息可以为界面元素的名称。
结合第一方面,在第一方面的某些实现方式中,该第二电子设备具体用于:根据该第一界面上的一个或者多个界面元素的标签信息以及第一映射关系,显示该第一显示窗口,该第一映射关系包括该至少部分界面元素的显示区域与该至少部分界面元素的标签信息的映射关系。
在一些可能的实现方式中,该第一电子设备保存有该第一映射关系,当第一电子设备接收到第一指示时,除了向第二电子设备发送界面元素以及其标签信息以外,还可以向第二电子设备发送第一映射关系。
在一些可能的实现方式中,该第一电子设备可以保存有关于第一界面的多个映射关系。例如,当第一电子设备(例如,手机)向第二电子设备(例如,笔记本电脑)发送第一映射关系,该第一电子设备(例如,手机)可以向第三电子设备(例如,智能手表)发送第二映射关系。
在一些可能的实现方式中,该第二电子设备中可以保存有该第一映射关系。当第二电子设备接收到第一电子设备发送的界面元素以及标签信息时,可以根据第一映射关系来显示第一显示窗口。
本申请实施例中,对于不同的客户端设备,可以按照不同的映射关系来还原不同的显示界面。例如,对于笔记本电脑和智能手表可以在相同的场景下还原出不同风格的显示界面,这样可以使得用户在不同类型的设备上体验不同的界面风格,有助于提升用户的使用体验。
结合第一方面,在第一方面的某些实现方式中,该第一界面上的该第一界面元素关联第三界面,该第一电子设备,还用于响应于接收到该第一指示,向该第二电子设备发送第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息;该第二电子设备具体用于:响应于接收到该第一信息和该第二信息,根据该第一界面上的一个或者多个界面元素的标签信息和该第三界面上的一个或者多个界面元素的标签信息,在该第一显示窗口显示该第一界面上的一个或者多个界面元素中的至少部分界面元素并在该第二显示窗口中显示该第三界面上的一个或者多个界面元素中的至少部分界面元素。
本申请实施例中,第一电子设备在接收到第一指示后,就可以向第二电子设备发送第一信息和第二信息,使得第二电子设备可以在第一显示窗口和第二显示窗口中分别显示第一界面上的至少部分界面元素以及第三界面上的至少部分界面元素,用户可以在第二电子设备上同时看到应用的一级页面和二级页面,相比于第一电子设备上单屏显示一级页面或者二级页面,有助于提升用户的体验。
在一些可能的实现方式中,该第一界面元素可以为该第一界面上的任意一个界面元素怒,或者,该第一界面元素可以为该第一界面上预设方向上的界面元素。
在一些可能的实现方式中,该第一电子设备可以保存有该第三界面上的至少部分界面元素的显示区域以及其标签信息的映射关系。该第一电子设备向第二电子设备发送第二信息时,也可以向第二电子设备发送该映射关系。第二电子设备可以根据该第二信息中的标签信息以及该映射关系,在第二显示窗口中显示第三界面上的至少部分界面元素。
在一些可能的实现方式中,该第二电子设备中可以保存该第三界面上的至少部分界面元素的显示区域以及其标签信息的映射关系。
结合第一方面,在第一方面的某些实现方式中,该第一界面上的该第一界面元素关联第三界面,该第二电子设备,还用于响应于检测到用户针对该第一界面元素的输入,向该第一电子设备发送第一指示信息,该第一指示信息用于指示该第二电子设备检测到用户针对该第一界面元素的输入;该第一电子设备,还用于响应于接收到该第一指示信息,向该第二电子设备发送第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息;该第二电子设备,还用于响应于接收到该第二信息,根据该第三界面上的一个或者多个界面元素的标签信息,在该第一显示窗口继续显示该第一界面上的一个或者多个界面元素中的至少部分界面元素并在该第二显示窗口中显示该第三界面上的一个或者多个界面元素中的至少部分界面元素。
本申请实施例中,当第二电子设备检测到用户针对第一界面元素的输入时,可以向第一电子设备指示其检测到针对第一界面元素的输入,从而可以触发第一电子设备向第二电子设备发送第二信息。用户可以在第二电子设备上同时看到应用的一级页面和二级页面,相比于第一电子设备上单屏显示一级页面或者二级页面,有助于提升用户的体验。
结合第一方面,在第一方面的某些实现方式中,还用于响应于接收到该第一指示信息,从显示该第一界面切换至显示该第三界面。
在一些可能的实现方式中,响应于接收到该第一指示信息,第一电子设备也可以继续显示该第一界面。
结合第一方面,在第一方面的某些实现方式中,该第一界面上的该第一界面元素关联第三界面,该第一电子设备,还用于响应于在该第一界面上检测到用户针对该第一界面元素的输入,从显示该第一界面切换至显示该第三界面并向该第二电子设备发送第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息;该第二电子设备,还用于响应于接收到该第二信息,根据该第三界面上的一个或者多个界面元素的标签信息,在该第一显示窗口继续显示该第一界面上的一个或者多个界面元素中的至少部分界面元素并在该第二显示窗口中显示该第三界面上的一个或者多个界面元素中的至少部分界面元素。
本申请实施例中,当第一电子设备在第一界面上检测到用户针对第一界面元素的输入时,可以从显示第一界面切换至显示第三界面并向第二电子设备发送第二信息。用户可以在第二电子设备上同时看到应用的一级页面和二级页面,相比于第一电子设备上单屏显示一级页面或者二级页面,有助于提升用户的体验。
结合第一方面,在第一方面的某些实现方式中,该第三界面上的一个或者多个界面元素中的至少部分界面元素包括第二界面元素,该第一电子设备,还用于在检测到该第一界面上的该第一界面元素发生更新时,更新该第三界面上的该第二界面元素;该第一电子设备,还用于向该第二电子设备发送第三信息,该第三信息包括更新后的该第一界面元素、更新后的该第二界面元素、该第一界面元素的标签信息以及该第二界面元素的标签信息;该第二电子设备,还用于响应于接收到该第三信息,根据述第一界面元素的标签信息以及该第二界面元素的标签信息,在该第一显示窗口中显示更新后的该第一界面元素以及在该第二显示窗口中显示更新后的该第二界面元素。
在一些可能的实现方式中,该第一电子设备响应于第一界面元素发生更新,可以在第三界面上新增加一些界面元素,并将更新后的第一界面元素、第三界面上新增加的界面元素以及第一界面元素的标签信息,新增加的界面元素的标签信息发送给第二电子设备,从而使得第二电子设备可以及时更新第一显示窗口和第二显示窗口中的内容。
结合第一方面,在第一方面的某些实现方式中,该第二界面上包括第三界面元素,该第三界面元素关联该第一界面或者该第三界面上的第四界面元素,该第二电子设备,还用于响应于检测到用户针对该第三界面元素的输入,向该第一电子设备发送第二指示信息,该第二指示信息用于指示该第二电子设备检测到用户针对该第三界面元素的输入;该第一电子设备,还用于响应于接收到该第二指示信息,更新该第四界面元素或者执行针对该第四界面元素的操作。
在一些可能的实现方式中,该第一电子设备的第一界面或者第三界面上不包括该第三界面元素,第一电子设备和第二电子设备可以提前将第三界面元素和第四界面元素关联起来,那么当第二电子设备检测到用户针对第三界面元素的输入时,第二电子设备可以指示第一电子设备更新该第四界面元素。
在一些可能的实现方式中,该第三界面元素可以为第一文本输入框,该第四界面元素可以为第二文本输入框。
在一些可能的实现方式中,该第三界面元素可以为第一发送控件,该第四界面元素可以为第二发送控件。
在一些可能的实现方式中,当第一电子设备执行了针对第四界面元素的操作时,第一电子设备可以在第一界面和/或第三界面上新增加第五界面元素。第一电子设备可以向第二电子设备发送该第五界面元素以及其标签信息,从而使得第二电子设备在第二界面上显示第五界面元素。
结合第一方面,在第一方面的某些实现方式中,该第一界面为社交应用的显示界面,该第一界面包括一条或者多条聊天记录,该第一界面元素为该一条或者多条聊天记录中用户与第一联系人的聊天记录,与该第一界面元素相关联的显示界面为用户与该第一联系人的聊天界面。
结合第一方面,在第一方面的某些实现方式中,该第一界面为购物应用的显示界面,该第一界面包括一个或者多个商品的购物信息,该第一界面元素为该一个或者多个商品中第一商品的购物信息,与该第一界面元素相关联的显示界面为该第一商品的购物详情页。
结合第一方面,在第一方面的某些实现方式中,该第一电子设备,还用于在向该第二电子设备发送该第一信息之前,确定该第一电子设备和该第二电子设备之间的距离小于或者等于预设距离。
第二方面,提供了一种显示方法,该方法应用于第一电子设备中,该第一电子设备通过近距离无线连接与第二电子设备通信,该方法包括:该第一电子设备接收第一指示;响应于接收到该第一指示,该第一电子设备显示第一界面并向该第二电子设备发送第一信息,该第一信息包括该第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息。
结合第二方面,在第二方面的某些实现方式中,该方法还包括:该第一电子设备向该第二电子设备发送第一映射关系的信息,该第一映射关系为界面元素的显示区域与界面元素的标签信息的映射关系。
结合第二方面,在第二方面的某些实现方式中,该第一界面上的该第一界面元素关联第三界面,该方法还包括:响应于接收到该第一指示,该第一电子设备向该第二电子设备发送第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息。
结合第二方面,在第二方面的某些实现方式中,该第一界面上的该第一界面元素关联第三界面,该方法还包括:该第一电子设备接收该第二电子设备发送的第一指示信息,该第一指示信息用于指示该第二电子设备检测到用户针对该第一界面元素的输入;响应于接收到该第一指示信息,该第一电子设备向该第二电子设备发送第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息。
结合第二方面,在第二方面的某些实现方式中,该方法还包括:响应于接收到该第一指示信息,该第一电子设备从显示该第一界面切换至显示该第三界面。
结合第二方面,在第二方面的某些实现方式中,该第一界面上的该第一界面元素关联第三界面,该方法还包括:响应于在该第一界面上检测到用户针对该第一界面元素的输入,该第一电子设备从显示该第一界面切换至显示该第三界面并向该第二电子设备发送第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息。
结合第二方面,在第二方面的某些实现方式中,该第三界面上的一个或者多个界面元素中的至少部分界面元素包括第二界面元素,该方法还包括:在检测到该第一界面上的该第一界面元素发生更新时,该第一电子设备更新该第三界面上的该第二界面元素;该第一电子设备向该第二电子设备发送第三信息,该第三信息包括更新后的该第一界面元素、更新后的该第二界面元素、该第一界面元素的标签信息以及该第二界面元素的标签信息。
结合第二方面,在第二方面的某些实现方式中,该第二界面上包括第三界面元素,该第三界面元素关联该第一界面或者该第三界面上的第四界面元素,该第一电子设备接收该第二电子设备发送的第二指示信息,该第二指示信息用于指示该第二电子设备检测到用户针对该第三界面元素的输入;响应于接收到该第二指示信息,该第一电子设备更新该第四界面元素或者执行针对该第四界面元素的操作。
结合第二方面,在第二方面的某些实现方式中,该第一界面为社交应用的显示界面,该第一界面包括一条或者多条聊天记录,该第一界面元素为该一条或者多条聊天记录中用户与第一联系人的聊天记录,与该第一界面元素相关联的显示界面为用户与该第一联系人的聊天界面。
结合第二方面,在第二方面的某些实现方式中,该第一界面为购物应用的显示界面,该第一界面包括一个或者多个商品的购物信息,该第一界面元素为该一个或者多个商品中第一商品的购物信息,与该第一界面元素相关联的显示界面为该第一商品的购物详情页。
结合第二方面,在第二方面的某些实现方式中,该方法还包括:在向该第二电子设备发送该第一信息之前,该第一电子设备确定该第一电子设备和该第二电子设备之间的距离小于或者等于预设距离。
第三方面,提供了一种显示方法,该方法应用于第二电子设备,该第二电子设备通过近距离无线连接与第一电子设备通信,该方法包括:该第二电子设备接收该第一电子设备发送的第一信息,该第一信息包括该第一电子设备显示的第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息;响应于接收到该第一信息,该第二电子设备根据该第一界面上的一个或者多个界面元素的标签信息,显示第二界面,该第二界面包括第一显示窗口和第二显示窗口,该第一显示窗口显示该第一界面上的一个或者多个界面元素中的至少部分界面元素,该第二显示窗口用于显示与第一界面元素相关联的显示界面,该至少部分界面元素包括该第一界面元素。
结合第三方面,在第三方面的某些实现方式中,该第二电子设备根据该一个或者多个界面元素的标签信息,显示第二界面,包括:该第二电子设备根据该一个或者多个界面元素的标签信息以及第一映射关系,显示该第二界面,该第一映射关系为该至少部分界面元素的显示区域与该至少部分界面元素的标签信息的映射关系。
结合第三方面,在第三方面的某些实现方式中,该第一界面上的该第一界面元素关联第三界面,该方法还包括:该第二电子设备接收该第一电子设备发送的第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息;其中,该显示第二界面,包括:响应于接收到该第一信息和该第二信息,该第二电子设备根据该第一界面上的一个或者多个界面元素的标签信息和该第三界面上的一个或者多个界面元素的标签信息,在该第一显示窗口显示该第一界面上的一个或者多个界面元素中的至少部分界面元素并在该第二显示窗口中显示该第三界面上的一个或者多个界面元素中的至少部分界面元素。
结合第三方面,在第三方面的某些实现方式中,该第一界面上的该第一界面元素关联第三界面,该方法还包括:响应于检测到用户针对该第一界面元素的输入,该第二电子设备向该第一电子设备发送第一指示信息,该第一指示信息用于指示该第二电子设备检测到用户针对该第一界面元素的输入;该第二电子设备接收该第一电子设备发送的第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息;响应于接收到该第二信息,该第二电子设备根据该第三界面上的一个或者多个界面元素的标签信息,在该第一显示窗口继续显示该第一界面上的一个或者多个界面元素中的至少部分界面元素并在该第二显示窗口中显示该第三界面上的一个或者多个界面元素中的至少部分界面元素。
结合第三方面,在第三方面的某些实现方式中,该第二界面上包括第三界面元素,该第三界面元素关联该第一界面或者该第三界面上的第四界面元素,该方法还包括:响应于检测到用户针对该第三界面元素的输入,该第二电子设备向该第一电子设备发送第二指示信息,该第二指示信息用于指示该第二电子设备检测到用户针对该第三界面元素的输入。
结合第三方面,在第三方面的某些实现方式中,该第一界面为社交应用的显示界面,该第一界面包括一条或者多条聊天记录,该第一界面元素为该一条或者多条聊天记录中用户与第一联系人的聊天记录,与该第一界面元素相关联的显示界面为用户与该第一联系人的聊天界面。
结合第三方面,在第三方面的某些实现方式中,该第一界面为购物应用的显示界面,该第一界面包括一个或者多个商品的购物信息,该第一界面元素为该一个或者多个商品中第一商品的购物信息,与该第一界面元素相关联的显示界面为该第一商品的购物详情页。
第四方面,提供了一种装置,该装置包括:接收单元,用于接收第一指示;显示单元,用于响应于接收到该第一指示,该第一电子设备显示第一界面;发送单元,用于向该第二电子设备发送第一信息,该第一信息包括该第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息。
第五方面,提供了一种装置,该装置包括:接收单元,用于接收该第一电子设备发送的第一信息,该第一信息包括该第一电子设备显示的第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息;显示单元,用于响应于接收到该第一信息,根据该第一界面上的一个或者多个界面元素的标签信息,显示第二界面,该第二界面包括第一显示窗口和第二显示窗口,该第一显示窗口显示该第一界面上的一个或者多个界面元素中的至少部分界面元素,该第二显示窗口用于显示与第一界面元素相关联的显示界面,该至少部分界面元素包括该第一界面元素。
第六方面,提供了一种电子设备,包括:一个或多个处理器;存储器;以及一个或多个计算机程序。其中,一个或多个计算机程序被存储在存储器中,一个或多个计算机程序包括指令。当指令被电子设备执行时,使得电子设备执行上述第二方面中任一项可能的实现中的方法。
第七方面,提供了一种电子设备,包括:一个或多个处理器;存储器;以及一个或多个计算机程序。其中,一个或多个计算机程序被存储在存储器中,一个或多个计算机程序包括指令。当指令被电子设备执行时,使得电子设备执行上述第三方面中任一项可能的实现中的方法。
第八方面,提供了一种包含指令的计算机程序产品,当所述计算机程序产品在第一电子设备上运行时,使得所述电子设备执行上述第二方面所述的方法;或者,当所述计算机程序产品在第二电子设备上运行时,使得所述电子设备执行上述第三方面所述的方法。
第九方面,提供了一种计算机可读存储介质,包括指令,当所述指令在第一电子设备上运行时,使得所述电子设备执行上述第二方面所述的方法;或者,当所述指令在第二电子设备上运行时,使得所述电子设备执行上述第三方面所述的方法。
第十方面,提供了一种芯片用于执行指令,当所述芯片运行时,所述芯片执行上述第二方面所述的方法;或者,所述芯片执行上述第三方面所述的方法。
附图说明
图1是本申请实施例提供的一种电子设备的硬件结构示意图。
图2是本申请实施例提供的软件结构框图。
图3是本申请实施例提供的一组图形用户界面。
图4是本申请实施例提供的另一组图形用户界面。
图5是本申请实施例提供的另一组图形用户界面。
图6是本申请实施例提供的***架构的示意性框图。
图7是本申请实施例提供的绘制指令的示意图。
图8是本申请实施例提供的聊天场景下界面元素区域分布的示意图。
图9是本申请实施例提供的购物场景下界面元素区域分布的示意图。
图10是本申请实施例提供的显示方法的示意性流程图。
图11是本申请实施例提供的装置的示意性结构图。
图12是本申请实施例提供的装置的另一示意性结构图。
图13是本申请实施例提供的电子设备的另一结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述。其中,在本申请实施例的描述中,除非另有说明,“/”表示或的意思,例如,A/B可以表示A或B;本文中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,在本申请实施例的描述中,“复数个”或者“多个”是指两个或多于两个。
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
本申请实施例提供的方法可以应用于手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)等电子设备上,本申请实施例对电子设备的具体类型不作任何限制。
示例性的,图1示出了电子设备100的结构示意图。电子设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户身份识别(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了***的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户身份识别(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现电子设备100的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等***器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现电子设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现电子设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电,也可以用于电子设备100与***设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如AR设备等。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为电子设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,外部存储器,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
电子设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星***(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,电子设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯***(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位***(global positioning system,GPS),全球导航卫星***(global navigation satellite system,GLONASS),北斗卫星导航***(beidounavigation satellite system,BDS),准天顶卫星***(quasi-zenith satellitesystem,QZSS)和/或星基增强***(satellite based augmentation systems,SBAS)。
电子设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,电子设备100可以包括1个或N个显示屏194,N为大于1的正整数。
电子设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展电子设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行电子设备100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作***,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
电子设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中,电子设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。例如:当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时,执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时,执行新建短消息的指令。
陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测电子设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消电子设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,电子设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当电子设备100是翻盖机时,电子设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态,应用于横竖屏切换,计步器等应用。
距离传感器180F,用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,电子设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180G检测用户手持电子设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测电子设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,电子设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,电子设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池142加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称“触控面板”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于电子设备100的表面,与显示屏194所处的位置不同。
骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过***SIM卡接口195,或从SIM卡接口195拔出,实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时***多张卡。所述多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,电子设备100采用嵌入式SIM(embedded-SIM,eSIM)卡,即:嵌入式SIM卡。eSIM卡可以嵌在电子设备100中,不能和电子设备100分离。
应理解,本申请实施例中的电话卡包括但不限于SIM卡、eSIM卡、全球用户识别卡(universal subscriber identity module,USIM)、通用集成电话卡(universalintegrated circuit card,UICC)等等。
电子设备100的软件***可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构。本申请实施例以分层架构的Android***为例,示例性说明电子设备100的软件结构。
图2是本申请实施例的电子设备100的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android***分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(Android runtime)和***库,以及内核层。应用程序层可以包括一系列应用程序包。
如图2所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。
应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示,应用程序框架层可以包括窗口管理器,内容提供器,视图***,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图像,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图***包括可视控件,例如显示文字的控件,显示图片的控件等。视图***可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在***顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,电子设备振动,指示灯闪烁等。
Android Runtime包括核心库和虚拟机。Android runtime负责安卓***的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
***库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(media libraries),三维图形处理库(例如:OpenGL ES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子***进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图像渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
应理解,本申请实施例中的技术方案可以用于Android、IOS、鸿蒙等***中。
图3是本申请实施例提供的一组图形用户界面(graphical user interface,GUI)。
如图3中的(a)所示,手机显示手机的桌面,手机的桌面上包括多个应用程序的图标,该多个应用程序中包括社交应用。笔记本电脑位于手机的附近,笔记本电脑可以显示笔记本电脑的桌面。
当笔记本电脑靠近手机后,手机和笔记本电脑可以通过近场无线连接方式组网。组网方式包括但不限于接入点(access point,AP)组网和点对点(peer-to-peer,P2P)组网。其中,AP组网就是在同一AP(例如,家用Wi-Fi路由器)下的设备,可以通过AP设备互相通信,从而形成多对多组网。示例性的,手机和笔记本电脑可以位于同一家用路由器下,当笔记本电脑靠近手机后,手机可以使用接收信号的强度指示(received signal strengthindication,RSSI)技术,根据接收的信号的强度计算手机和笔记本电脑之间的距离。当该距离小于或者等于预设距离时,手机和笔记本电脑可以进行AP组网。
Wi-Fi直连(Wi-Fi direct):也可以称之为Wi-Fi点对点(Wi-Fi peer to peer,Wi-Fi P2P),是一种点对点连接方式。它可以使得多个Wi-Fi设备在没有接入点(accesspoint,AP)的情况下也能构成一个点对点网络(peer to peer network,P2P network)互相通信。其中一台站点(station,STA)可以充当传统意义上AP的作用,称之为组拥有者(groupowner,GO);另一台STA可以称之为组客户端(group client,GC),GC可以像连接AP一样连接到GO。其中,可以由一个STA可以来扮演GO的角色(即充当AP),而其他STA来扮演GC的角色。本申请实施例中,当一台设备靠近另一台设备时,可以默认位于左侧的设备为GO,位于右侧的设备为GC。例如,手机可以作为GO,笔记本电脑可以作为GC。或者,当一台设备上检测到用户向右滑动的操作时,该设备可以作为GC且该设备可以选择位于其左侧的另一台设备为GO;或者,当一台设备上检测到用户向左滑动的操作时,该设备可以作为GC且该设备可以选择位于其右侧的另一台设备为GO。
若要构建一个P2P网络,首先需要一台电子设备经过P2P协议能扫描到另外一台电子设备,该过程称之为发现阶段;发现之后才能触发P2P连接的建立。当笔记本电脑靠近手机后,手机可以使用RSSI技术,根据RSSI计算手机和笔记本电脑之间的距离。当该距离小于或者等于预设距离时,手机和笔记本电脑可以进行P2P组网。
Wi-Fi P2P技术是上层业务的基础。当前建立在P2P之上的P2P应用主要有Miracast应用、WLAN直连应用等。在Miracast应用场景中,一台支持P2P的电子设备可以通过扫描发现并连接上一台支持P2P的大屏设备,然后将该电子设备的视频、图片等资源直接送显到大屏设备。借助P2P技术,将极大丰富Wi-Fi技术的体验。
当手机检测到用户点击社交应用的图标时,手机和笔记本电脑可以显示如图3中的(b)所示的GUI。
应理解,当手机和笔记本电脑之间的距离小于或者等于预设距离时,手机和笔记本电脑可以进行组网,组网过程可以参考上述实施例中的描述,此处不再赘述。
如图3中的(b)所示,响应于检测到用户点击社交应用的图标的操作,手机可以显示社交应用的首页,其中该社交应用的首页包括多个界面元素,例如,群聊(名称为“家人”)的聊天记录300、与联系人妈妈的聊天记录305、与联系人Sam的聊天记录306以及与联系人Lucy的聊天记录307。以群聊的聊天记录300为例,该聊天记录中包括群聊中联系人的头像信息301、群聊的名称302、群聊中最近的一条聊天记录303、最近的一条聊天记录的发生时间304。
一个实施例中,当手机确定笔记本电脑和手机之间的距离小于或者等于预设距离时,手机可以将当前显示的社交应用的首页上的多个界面元素的信息发送给笔记本电脑。如图3中的(b)所示,响应于接收到手机发送的多个界面元素的信息,笔记本电脑可以显示另一社交应用的首页显示窗口308,其中窗口308中显示区域3081和显示区域3082,其中显示区域3081中从上至下分别显示群聊的聊天记录300、与联系人妈妈的聊天记录305、与联系人Sam的聊天记录306、与联系人Lucy的聊天记录307;显示区域3082可以用于显示用户与某个联系人或者用户所在的某个群聊的聊天界面。
一个实施例中,当手机检测到用户启动社交应用时,如果手机和笔记本电脑已经组网,那么手机可以提示用户是否将社交应用的显示界面发送给笔记本电脑。当手机检测到用户确定将社交应用的显示界面发送给笔记本电脑的操作时,手机可以将当前显示的社交应用的显示界面上的多个界面元素的信息发送给笔记本电脑。
一个实施例中,笔记本电脑的显示界面上可以显示与社交应用相关联的图标。当笔记本电脑检测到用户点击该图标的操作时,笔记本电脑可以向手机发送请求信息,该请求信息用于请求将手机将社交应用的显示界面上的多个界面元素的信息发送给笔记本电脑。应理解,笔记本电脑上显示与该社交应用相关联的图标并不表示笔记本电脑安装了该社交应用,该图标的作用可以是用于触发笔记本电脑向手机发送该请求信息。
一个实施例中,当笔记本电脑检测到用户的第一操作(例如,点击鼠标或者点击键盘上的某个按键)时,笔记本电脑可以向手机发送指示信息,该指示信息用于在指示笔记本电脑检测到用户的第一操作。响应于接收到该指示信息且当前手机正在显示社交应用的显示界面,手机可以向笔记本电脑发送该多个界面元素的信息。
一个实施例中,手机还可以向笔记本电脑发送手机的设备名称(例如,Mate 40)以及用户名称(例如,Lily)。笔记本电脑还可以在该窗口308上提示用户该社交应用的显示界面来自Lily的Mate 40。
一个实施例中,响应于接收到手机发送的多个界面元素的信息,笔记本电脑除了还原手机端显示的社交应用的首页以外,还可以绘制最小化窗口控件309和关闭窗口控件310。当笔记本电脑检测到用户点击控件309的操作时,笔记本电脑可以将窗口308最小化;当笔记本电脑检测到用户点击控件310的操作时,笔记本电脑还可以关闭窗口308。
一个实施例中,当笔记本电脑检测到用户对窗口308的缩小或者扩大的操作时,笔记本电脑还可以调整窗口308的大小。
如图3中的(b)所示,当笔记本电脑检测到用户点击与联系人妈妈的聊天记录时,手机和笔记本电脑可以显示如图3中的(c)所示的GUI。
如图3中的(c)所示,响应于检测到用户点击与联系人妈妈的聊天记录,笔记本电脑可以向手机发送触控事件以及聊天记录305的标签信息。响应于接收到该触控事件以及标签信息,手机可以确定用户在笔记本电脑上点击了与联系人妈妈的聊天记录,从而手机可以显示用户与联系人妈妈的聊天界面,该聊天界面上包括多个界面元素,例如返回控件311、联系人妈妈的名称312、用户与联系人妈妈最近一次聊天记录的时间信息313、联系人妈妈的头像314以及用户与联系人妈妈最近一次聊天记录的内容315。同时,手机还可以向笔记本电脑发送该聊天界面上的多个界面元素的信息。响应于接收到手机发送的多个界面元素的信息,笔记本电脑可以在窗口308中的显示区域3082显示该多个界面元素。
如图3中的(c),笔记本电脑可以在窗口308中的显示区域3082显示联系人妈妈的名称312、用户与联系人妈妈最近一次聊天记录的时间信息313、联系人妈妈的头像314以及用户与联系人妈妈最近一次聊天记录的内容315。响应于接收到该多个界面元素的信息,笔记本电脑还可以在显示区域3082绘制文本输入框316,其中文本输入框316中可以用于文本输入,该文本输入框中还包括语音控件317和发送控件318。
当笔记本电脑检测到用户在文本输入框316中输入了文本内容“妈,有部好看的电影推荐给你”时,笔记本电脑可以向手机发送给文本内容。响应于接收到该文本内容,手机可以在文本输入框319中显示该文本内容。当笔记本电脑检测到用户点击发送控件318的操作时,笔记本电脑可以向手机发送触控事件以及控件318的标签信息。响应于接收到该触控事件以及控件318的标签信息,手机可以确定用户在笔记本电脑上点击了发送控件。从而手机可以将文本输入框中的内容“妈,有部好看的电影推荐给你”发送给联系人妈妈。
如图3中的(d)所示,响应于将该文本内容发送给联系人妈妈,手机可以显示用户与联系人妈妈的另一聊天界面。相比于图3中的(c)中手机显示的聊天界面,该聊天界面中还增加了该文本内容发送的时间信息320、用户的头像321以及用户回复的内容322。响应于完成对该消息的回复,手机还可以向笔记本电脑发送界面更新后新增的界面元素的信息,例如,文本内容发送的时间信息320、用户的头像321以及用户回复的内容322。响应于接收到手机发送的多个界面元素的信息,笔记本电脑可以更新窗口308中显示区域3082的内容。如图3中的(d),笔记本电脑可以在窗口308中显示区域3082增加文本内容发送的时间信息320、用户的头像321以及用户回复的内容322。
当手机完成对文本内容的回复时,该社交应用的首页上聊天记录305中的最近一次聊天的内容3051从“Happy Birthday!”更新为“妈,有部好看的电影推荐给你”,最近一次聊天的时间信息3052从“星期六”更新为“上午08:00”;并且多条聊天记录的顺序会随着最近一次聊天的时间而发生改变(该社交应用的首页中从上至下显示用户与联系人妈妈的聊天记录、群聊的聊天记录、用户与联系人Sam的聊天记录以及与联系人Lucy的聊天记录)。
应理解,手机显示的该社交应用的首页上,界面元素3051和界面元素3052发生的变化对用户是不可见的,此时手机还是显示用户与联系人妈妈的聊天界面。
响应于该社交应用的首页中界面元素的变化,手机可以向笔记本电脑发送更新后的多个界面元素的信息,例如,聊天记录305中最近一次聊天的内容3051、最近一次聊天的时间信息3052以及多个聊天记录的顺序信息。响应于接收到上述信息,手机可以更新窗口308中显示区域3081中的内容。如图3中的(d)所示,显示区域3081中从上至下分别显示用户与联系人妈妈的聊天记录、群聊的聊天记录、用户与联系人Sam的聊天记录以及与联系人Lucy的聊天记录,且显示区域3081中聊天记录305中的最近一次聊天的内容3051更新为“妈,有部好看的电影推荐给你”、最近一次聊天的时间3051更新为“上午08:00”。
如图3中的(e)所示,当手机接收到用户Sam发送的一条消息(例如,消息内容为“上午9点有会议”),该社交应用的首页中用户与联系人Sam的聊天记录306中最近一次聊天的内容3061从“Happy Birthday!”更新为“上午9点有会议”,最近一次聊天的时间信息3062从“星期六”更新为“上午08:01”,并且多条聊天记录的顺序会随着最近一次聊天的时间而发生改变(该社交应用的首页中从上至下显示用户与联系人Sam的聊天记录、用户与联系人妈妈的聊天记录、群聊的聊天记录以及用户与联系人Lucy的聊天记录)。
应理解,手机显示的该社交应用的首页上,界面元素3061和界面元素3062发生的变化对用户是不可见的,此时手机还是显示用户与联系人妈妈的聊天界面。
响应于该社交应用的首页中界面元素的变化,手机可以向笔记本电脑发送更新后的多个界面元素的信息,例如,聊天记录306中最近一次聊天的内容3061、最近一次聊天的时间信息3062以及多个聊天记录的顺序信息。响应于接收到上述信息,手机可以更新窗口308中显示区域3081中的内容。如图3中的(e)所示,显示区域3081中从上至下分别显示用户与联系人Sam的聊天记录、用户与联系人妈妈的聊天记录、群聊的聊天记录以及与联系人Lucy的聊天记录,且显示区域3081中聊天记录306中的最近一次聊天的内容3061更新为“上午9点有会议”、最近一次聊天的时间3062更新为“上午08:01”。
笔记本电脑响应于检测到用户点击聊天记录306的操作,可以向手机发送触控事件以及聊天记录306的标签信息。响应于接收到该触控事件以及标签信息,手机和笔记本电脑可以显示如图3中的(f)所示的GUI。
如图3中的(f)所示,响应于接收到该触控事件以及标签信息,手机可以确定用户在笔记本电脑上点击了与联系人Sam的聊天记录,从而手机可以显示用户与联系人Sam的聊天界面,该聊天界面上包括多个界面元素,例如联系人Sam的名称323、用户与联系人Sam上一次聊天记录的时间信息324、联系人Sam的头像325、用户与联系人Sam上一次聊天记录的内容326、用户与联系人Sam最近一次聊天记录的时间信息327、联系人Sam的头像328以及用户与联系人Sam最近一次聊天记录的内容329。同时,手机还可以向笔记本电脑发送该聊天界面上的多个界面元素的信息。响应于接收到手机发送的多个界面元素的信息,笔记本电脑可以在窗口308中的显示区域3082显示该多个界面元素。如图3中的(f)所示,笔记本电脑可以在显示区域3082中显示联系人Sam的名称323、用户与联系人Sam上一次聊天记录的时间信息324、联系人Sam的头像325、用户与联系人Sam上一次聊天记录的内容326、用户与联系人Sam最近一次聊天记录的时间信息327、联系人Sam的头像328以及用户与联系人Sam最近一次聊天记录的内容329。
当笔记本电脑检测到用户在文本输入框316中输入了文本内容“收到”时,笔记本电脑可以向手机发送该文本内容。响应于接收到该文本内容,手机可以在文本输入框319中显示该文本内容。当笔记本电脑检测到用户点击了发送控件318的操作时,笔记本电脑可以向手机发送触控事件以及发送控件318的标签信息。响应于接收到该触控事件以及发送控件318的标签信息,手机可以确定用户在笔记本电脑上点击了发送控件,从而手机可以将该文本内容回复给用户Sam。
如图3中的(g)所示,当手机完成对该文本内容的回复时,手机可以显示用户与联系人Sam的另一聊天界面。相比于图3中的(f)所示的聊天界面,该聊天界面上新增加了用户的头像信息330以及用户刚刚回复的内容331。响应于该聊天界面的更新,手机可以向笔记本电脑发送新增加的界面元素的信息(用户的头像信息330以及用户刚刚回复的内容331的信息)。
响应于接收到新增加的界面元素的信息,笔记本电脑可以更新显示区域3082中显示的内容。相比于图3中的(f)中显示区域3082中显示的内容,图3中的(g)中显示区域3082中新增加了用户的头像信息330以及用户刚刚回复的内容331。
本申请实施例中,手机可以向笔记本电脑发送社交应用的显示界面上的多个界面元素,从而在笔记本电脑上显示窗口308。窗口308适配笔记本电脑的宽屏,例如窗口308中的文本输入框316相比于手机上的文本输入框319,其区域更大,更方便用户进行文本输入,使得用户的输入不再受手机狭小文本输入框的限制。此外,用户在笔记本电脑上对消息进行回复时,可以调用笔记本电脑的输入法和文本输入框,用户可以使用键盘进行文本输入,从而可以使得用户快速完成消息的回复。在手机的显示界面上仅能显示单屏的内容(例如,社交应用的首页或者用户与某个联系人的聊天界面),并不能显示双屏的内容(例如,同时显示社交应用的首页和用户与某个联系人的聊天界面)。而在笔记本电脑侧可以同时在屏幕上显示社交应用的首页以及用户与某个联系人的聊天界面,这样避免了用户在社交应用的首页以及与某个聊天界面之间来回切换,有助于提升用户的使用体验。
图4是本申请实施例提供的另一组GUI。
如图4中的(a)所示,手机显示手机的桌面,手机的桌面上包括多个应用程序的图标,该多个应用程序中包括购物应用。笔记本电脑位于手机的附近,笔记本电脑可以显示笔记本电脑的桌面。当手机检测到用户点击购物应用的图标的操作,手机和笔记本电脑可以显示如图4中的(b)所示的GUI。
如图4中的(b)所示,响应于手机检测到用户点击购物应用的图标的操作,手机可以显示购物应用的首页(或者,购物应用的一级页面)。该显示界面包括多个界面元素,例如,购物应用的名称401、界面元素402(包括商品1的照片4021、商品1的名称4022以及商品1的价格信息4023)、界面元素403(包括商品2的照片4031、商品2的名称4032以及商品2的价格信息4033)、界面元素404(包括商品3的照片4041、商品3的名称4042以及商品3的价格信息4043)以及界面元素405(包括商品4的照片4051、商品4的名称4052以及商品4的价格信息4053)。
当手机确定手机和笔记本电脑之间的距离小于或者等于预设距离时,手机可以向笔记本电脑发送该购物应用的显示界面中多个界面元素的信息(例如,购物应用的名称401、界面元素402、界面元素403、界面元素404以及界面元素405的信息)。响应于接收到上述信息,笔记本电脑可以显示窗口406并在窗口406的显示区域4061中显示多个商品的信息。该显示窗口406该包括显示区域4062,显示区域4062可以显示某个商品的详情页。
当笔记本电脑检测到用户点击查看商品2的详情页的操作时,笔记本电脑可以向手机发送触控事件以及界面元素403的标签信息。响应于接收到笔记本电脑发送的上述信息,手机可以显示如图4中的(c)所示的GUI。
如图4中的(c)所示,响应于接收到笔记本电脑发送的触控事件以及界面元素403的标签信息,手机可以确定用户在笔记本电脑上检测到用户点击了界面元素403。从而手机可以显示界面元素403对应的商品2的详情页。该商品2的详情页上包括商品2的名称信息407、商品的介绍窗口408、播放控件409、商品2的价格信息410、商品2的简介控件411、分享控件412、快递信息413、月销量信息414、发货地址信息415、商品2的详细介绍控件416、店铺信息417、收藏控件418、加入购物车控件419以及立即购买控件420。同时,手机可以向笔记本电脑发送多个界面元素的信息(例如,商品的介绍窗口408、播放控件409、商品2的价格信息410、商品2的详细介绍控件416、加入购物车控件419以及立即购买控件420的信息)。响应于接收到手机发送的上述信息,笔记本电脑可以在显示区域4062中显示商品的介绍窗口408、播放控件409、商品2的价格信息410、商品2的详细介绍控件416、加入购物车控件419以及立即购买控件420。
本申请实施例中,用户在手机上进行购物时,手机仅能显示单屏的内容(例如,购物应用的首页或者某个商品的详情页),并不能显示双屏的内容(例如,购物应用的首页以及某个商品的详情页)。手机可以将购物应用的首页以及某个商品的详情页中的界面元素的信息发送给笔记本电脑,从而使得笔记本电脑侧可以通过显示屏同时显示购物应用的首页以及与某个商品的聊天详情页,这样避免了用户在购物应用的首页以及商品的聊天详情页之间来回切换,有助于提升用户的使用体验。
图5示出了本申请实施例提供的另一组GUI。
如图5中的(a)所示,手机显示手机的桌面,手机的桌面上包括多个应用程序的图标,该多个应用程序中包括视频应用。智能电视显示频道选择界面(该频道选择界面上包括频道1-频道6)。当手机检测到用户点击视频应用的图标的操作,手机和笔记本电脑可以显示如图5中的(b)所示的GUI。
如图5中的(b)所示,响应于检测到用户点击视频应用的图标的操作,手机可以显示视频应用的播放界面,该视频应用的播放界面包括视频播放窗口501、播放/暂停控件5011、视频播放的进度条5012、当前播放的时间信息5013、视频总的时间信息5014、播放倍速控件5015、视频的标题信息502、选集信息503、视频简介控件504、视频第一集至第九集的选择控件505-513、更多视频选集控件514以及评论区515。
当和手机组网的设备中包括大屏设备(例如,智能电视)时,手机可以向智能电视发送多个界面元素的信息,例如,视频播放窗口501、播放/暂停控件5011、视频播放的进度条5012、当前播放的时间信息5013、视频总的时间信息5014、播放倍速控件5015、视频第一集至第九集的选择控件505-513、更多视频选集控件514以及评论区515的信息。响应于接收到上述信息,智能电视可以显示如图5中的(b)所示的GUI。
如图5中的(c)所示,用户可以通过遥控器来控制智能电视。当智能电视检测到用户长按遥控器上向左的按键时,智能电视可以确定用户希望将该视频内容快进。智能电视可以向手机发送指示信息,该指示信息用于在指示手机对视频播放窗口501中的内容快进。响应于接收到该指示信息,手机可以对窗口501中的播放的视频内容进行快进,并且手机可以将该视频播放界面上更新后的窗口501、视频播放的进度条5012以及当前播放的时间信息5013的信息发送给智能电视。
响应于接收到上述信息,智能电视可以更新窗口501中的视频内容、视频播放的进度条以及当前播放的时间信息。如图5中的(c)所示,智能电视上显示的视频内容从第30秒快进至第50秒。
一个实施例中,对于视频播放进度条、播放/暂停控件,在手机侧为了避免其遮挡视频内容,可以是手机检测到用户在窗口501中的点击操作后显示出来。而在智能电视侧,这些界面元素可以常驻显示,并且智能电视支持用户通过外设(例如,智能电视的遥控器)控制快进、快退或者选集等操作。
本申请实施例中,用户在手机上进行观看视频时,手机可以将视频播放界面上的界面元素的信息发送给智能电视,从而使得智能电视可以显示视频播放窗口、选集控件以及评论区等内容,这样避免了用户在看完一集视频后需要切换至选集界面选择下一集视频内容,有助于提升用户的使用体验。
以上结合图3至图5介绍了本申请实施例中的几组GUI,下面结合附图介绍本申请实施例的技术方案的实现过程。
图6示出了本申请实施例提供的***架构的示意性框图,该***架构中包括源端设备(source端设备)以及客户端设备(sink端设备)。其中,source端设备中包括应用程序层和服务层,其中,应用程序层包括标记视图(tagged view)模块601、内容提取(contentfetcher)模块602、动作调度(action dispatcher)模块603;服务层包括数据传输(datatransfer)模块604、远端动作接收(remote action receiver)模块605。
应理解,标记视图模块601、内容提取模块602以及动作调度模块603所实现的功能可以通过由图2中的应用程序框架层中视图***实现。
sink端设备包括内容解析(view content parser)模块606、动作翻译(actiontranslater)模块607。下面对source端设备和sink端设备中的各个模块进行具体说明。
标记视图模块601用于标记场景以及界面元素。以图3的(b)中手机显示的聊天界面为例,手机可以将整个界面标记为聊天(chat)场景。在聊天场景下,手机可以进一步将界面分为一级页面和二级页面。示例性的,如图3中的(b)中手机所示的GUI,社交应用的首页的显示界面可以为一级页面,该社交应用的首页的显示界面上包括界面元素305,界面元素305关联用户与联系人妈妈的聊天界面。那么用户与联系人妈妈的聊天界面就可以称之为二级页面。
标记视图模块601可以对于该一级页面和二级页面上的多个界面元素也分别进行标记。Source端设备可以将该多个界面元素打上相应的标签,该标签包括界面元素的属性、名称等信息。示例性的,表1和表2分别示出了一级页面和二级页面下界面元素与其相对应的标签的对应关系的示意图。
表1
Figure BDA0003050355670000221
应理解,表1所示的界面元素301-界面元素304都属于界面元素300中的界面元素。Source端设备在将界面元素打上标签时,可以对界面元素300打上标签且对界面元素300中的多个界面元素打上标签;同时,source端设备还可以将界面元素300与界面元素301-304关联起来。
表2
Figure BDA0003050355670000222
Figure BDA0003050355670000231
一个实施例中,对于图3中的(c)中手机所示的GUI,手机还可以对该界面上的键盘、语音控件、文本输入框以及发送控件打上相应的标签。
以图4的(b)中手机显示的购物界面为例,手机可以将整个界面标记为购物场景。在购物场景下,手机可以进一步将界面分为一级页面和二级页面。示例性的,如图4中的(b)中手机所示的GUI,购物应用的首页的显示界面可以为一级页面,该购物应用的首页的显示界面上包括界面元素403,界面元素403关联商品2的详情页的显示界面。那么商品2的详情页的显示界面就可以称之为二级页面。
示例性的,表3和表4分别示出了一级页面和二级页面下界面元素与其相对应的标签的对应关系的示意图。
表3
Figure BDA0003050355670000232
应理解,表3所示的界面元素4021-4023都属于界面元素402中的界面元素。Source端设备在将界面元素打上标签时,可以对界面元素402打上标签且对界面元素402中的多个界面元素打上标签;同时,source端设备还可以将界面元素402与界面元素4021-4023关联起来。
表4
Figure BDA0003050355670000233
Figure BDA0003050355670000241
以图5的(b)中手机显示的视频播放界面为例,手机可以将整个界面标记为视频播放场景。例性的,表5示出了一种界面元素与其相对应的标签的对应关系的示意图。
表5
Figure BDA0003050355670000242
应理解,以上所述的表1至表5仅仅是示意性的,界面元素与其对应的标签信息还可以有其他的对应方式,本申请实施例并不限于此。
内容提取模块602用于提取界面元素并将提取的界面元素发送给服务层的数据传输模块604。以图3中的(b)所示的聊天场景为例,source端设备的内容提取模块602可以提取群聊(名称为“家人”)的聊天记录300、与联系人妈妈的聊天记录305、与联系人Sam的聊天记录306以及与联系人Lucy的聊天记录307。
内容提取模块602提取界面元素的方式包括但不限于以下几种方式:
方式一
从绘制层的指令中提取界面元素。绘制层的指令中包括了每一个界面元素还原的所有信息。图7示出了绘制指令的示意图,绘制指令有40多条,其中有明确内容的是drawText和drawImage两类指令,source端设备可以从这两类指令中提取出界面元素的内容。
方式二
从视图(view)层(或者控件层)提取界面元素。以Android中的控件TextView为例,开发者可以调用TextView的接口setText设置所要显示的文本。本申请实施例中source端设备可以记录下设置的文本,从而完成对属性为TextView的界面元素的提取。同样的,开发者也可以调用ImageView的接口setImage设置所要显示的图像信息,source端设备可以记录下设置的图像信息,从而完成对属性为ImageView的界面元素的提取。
应理解,如图6所示,应用程序层中可以包括绘制层和视图层(或者,控件层),绘制层和视图层可以实现source端的界面显示。视图层可以为开发者提供搭建界面的界面元素,例如TextView或者ImageView,开发者通过TextView提供的接口(例如,setText)可以设置文字样式、文字大小、文字粗细等。内容提取模块602可以直接在视图层完成对界面元素的提取。或者,视图层所提供的界面元素可以在绘制层转化为drawText和drawImage等指令,内容提取模块602也可以在绘制层中通过drawText和drawImage等指令提取出界面元素。
方式三
应用的开发者可以自定义内容,例如开发者可以为界面上包括多个界面元素设置<key,value>这种格式内容,从而source端设备可以对具备这样格式内容的界面元素进行提取。
数据传输模块604可以将source端显示界面的场景名称(例如,music、chat等场景)以及被标记的界面元素的信息(包括界面元素的标签信息以及通过内容提取模块602提取出的界面元素)发送给sink端设备的内容解析模块606。
一个实施例中,source端设备可以向sink端设备发送BLE数据包,该BLE数据包中可以携带界面元素以及界面元素的标签信息。BLE数据包中包括协议数据单元(protocoldata unit,PDU),该界面元素以及界面元素的标签信息可以携带在PDU中的服务数据(service data)字段中,或者,也可以携带在PDU中的厂商特定数据(manufacturerspecific data)字段中。例如,服务数据字段的负荷(payload)中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。source端设备和sink端设备可以约定某个可扩展的比特位的内容。
例如,对于图形类界面元素(ImageView),source端设备可以通过图像编码技术对该图形类界面元素进行图像编码,并将图像编码后的数据携带在第一比特位(第一比特位可以包括一个或者多个比特位)上;同时,source端设备可以对该图形类界面元素的标签信息进行编码。以该图形类界面元素为表1中的界面元素301为例,该界面元素301的标签信息可以为名称“联系人头像”。Source端设备可以通过GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对该标签信息进行编码,并将编码后的数据携带在第二比特位(第二比特位可以包括一个或者多个比特位)上;source端设备可以将第一比特位和第二比特位进行关联。sink端设备在接收到该BLE数据包后,可以通过图像解码技术对第一比特位上的数据进行解码从而获得界面元素301;同时,sink端设备还可以对第二比特位上的信息进行解码从而获得该界面元素301的标签信息“联系人头像”。
又例如,对于文本类界面元素(TextView),source端设备可以通过GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对该文本类界面元素进行编码,并将图像编码后的数据携带在第三比特位(第三比特位可以包括一个或者多个比特位)上;同时,source端设备可以对该文本类界面元素的标签信息进行编码。以该文本类界面元素为表1中的界面元素303为例,该界面元素303的标签信息可以为名称“最近一次的聊天内容”。Source端设备可以通过GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对该标签信息进行编码,并将编码后的数据携带在第四比特位(第四比特位可以包括一个或者多个比特位)上;source端设备可以将第三比特位和第四比特位进行关联。sink端设备在接收到该BLE数据包后,可以通过相应的解码技术对第三比特位上的数据进行解码从而获得界面元素303;同时,sink端设备还可以对第四比特位上的信息进行解码从而获得该界面元素303的标签信息“最近一次的聊天内容”。
应理解,对于视频播放进度条以及开关控件等不属于图形类界面元素且不属于文本类界面元素的界面元素,source端设备可以将这些界面元素以及开关控件转化为字符串,从而source端设备也可以采用GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对这些界面元素以及其标签信息进行编码。
一个实施例中,source端设备除了向sink端设备发送界面元素以及界面元素的标签信息以外,还可以向sink端设备发送界面元素对应的场景信息。示例性的,对于图3所示的GUI,手机还可以向笔记本电脑发送的BLE数据包中携带场景信息“聊天”。Source端在BLE数据包中携带场景信息的实现过程可以参考source端设备在BLE数据包中携带标签信息的过程,此处不再赘述。
一个实施例中,该标签信息可以是名称,也可以是ID。例如,对于界面元素301,source端设备和sink端设备可以约定ID为1的界面元素对应的名称为“联系人头像”,可以约定ID为2的界面元素对应的名称为“联系人名称”等。
一个实施例中,source端设备可以向sink端设备发送用户数据报协议(userdatagram protocol,UDP)数据包,该UDP数据包中可以携带该界面元素以及界面元素的标签信息。UPD数据包中包括IP数据报的数据部分。IP数据报的数据部分可以包括可扩展的比特位。Source端设备和sink端设备可以约定其中可扩展的比特位。从而source端设备可以将界面元素以及界面元素的标签信息携带在可扩展的比特位上。
一个实施例中,source端设备可以向sink端设备发送传输控制协议(transmission control protocol,TCP)数据包,该TCP数据包中可以携带该界面元素以及界面元素的标签信息。TCP数据包包括TCP首部和TCP数据部分,该通知信息可以携带在TCP数据部分。例如,TCP数据部分中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。从而source端设备可以将界面元素以及界面元素的标签信息携带在可扩展的比特位上。具体对于图形类界面元素、文本类界面元素、进度条以及开关控件等界面元素的信息传输过程可以参考上述实施例中的描述,此处不再赘述。
Sink端设备的内容解析(view content parser)模块606用于在接收到source端设备的数据传输模块604发送的数据包后,对接收到的数据包进行解析,从而获得一个或者多个界面元素以及其标签信息。一个实施例中,sink端设备还可以获取当前的场景信息。
Sink端设备中保存有不同场景下界面元素显示区域以及界面元素的标签信息的对应关系。图8和图9分别输出了聊天场景下以及购物场景下界面元素区域分布的示意图。
示例性的,图8示出了一种sink端设备保存的聊天场景的界面元素区域分布的示意图。区域801中可以显示社交应用的名称;区域802中可以显示source端设备的信息;区域803中可以显示最小化控件;区域804可以显示关闭窗口控件;区域805中可以显示第一组聊天记录,其中,区域805中还可以包括多个子区域,例如区域8051中可以显示联系人的头像、区域8052中可以显示联系人的名称、区域8053中可以显示用户与联系人最近的一次聊天内容以及区域8054中可以显示用户与联系人最近的一次聊天的实现信息。以此类推,区域806-808中可以显示第二组聊天记录、第三组聊天记录以及第四组聊天记录。
一个实施例中,图8中sink端设备在一级界面的显示区域中可以显示4条聊天记录,而source端设备显示的社交应用的首页(或者,一级页面)中可以包括更多(例如,6条)的聊天记录。Source端设备在向sink端设备发送一级页面上的界面元素时,可以选择前4条聊天记录的信息。
一个实施例中,source端设备在检测到用户打开社交应用时且还未打开与某个联系人的聊天界面时,除了向sink端设备发送一级页面上的多个界面元素以及其标签信息以外,还可以向sink端设备发送二级页面中多个界面元素以及其标签信息,该二级页面可以是一级页面上某个界面元素(或者,source端设备向sink端设备发送一级页面上的多个界面元素中某个界面元素)相关联的显示界面。示例性的,如图3中的(b)所示,手机除了向笔记本电脑发送社交应用的首页中的多个界面元素以及其标签信息以外,还可以向笔记本电脑发送与用户最近联系的群组(群组名称为“家人”)的聊天界面上的界面元素。笔记本电脑在接收到上述信息后,除了可以在窗口308的显示区域3081显示社交应用的首页中的多条聊天记录,还可以在显示区域3082显示群组的聊天界面。这样笔记本电脑无需在检测到用户点击群组的聊天记录时再向手机请求群组聊天界面上的多个界面元素,当手机打开社交应用时就可以直接向笔记本电脑发送一级页面和二级页面上的多个界面元素以及其标签信息,有助于提升用户体验。
内容解析模块可以根据解析出的一级页面中每一个界面元素以及每一个界面元素对应的标签信息,将界面元素放入一级页面的显示区域中。示例性的,当笔记本电脑解析出界面元素301-304后,可以将界面元素301(标签信息中的名称为联系人头像)放入区域8051;笔记本电脑可以将界面元素302(标签信息中的名称为联系人名称)放入区域8052;笔记本电脑可以将界面元素303(标签信息中的名称为最近一次的聊天内容)放入区域8053;笔记本电脑可以将界面元素304(标签信息中的名称为最近一次的聊天的时间信息)放入区域8054。同样的,笔记本电脑可以根据界面元素305-307中多个界面元素的标签信息以及显示区域与标签信息的对应关系,在区域806-808中显示聊天记录305-307中的多个界面元素。
内容解析模块可以根据解析出的二级页面中每一个界面元素以及每一个界面元素对应的标签信息,将界面元素放入二级页面的显示区域中。示例性的,笔记本电脑接收到二级页面中的多个界面元素以及其标签信息。当笔记本电脑解析出界面元素312-315以及其标签信息后,可以将界面元素312(标签信息中的名称为联系人名称)放入区域809;笔记本电脑将界面元素313(标签信息中的名称为上一次聊天的时间信息)放入区域810;笔记本电脑将界面元素314(标签信息中的名称为联系人的头像信息)放入区域811;笔记本电脑将界面元素315(标签信息中的名称为上一次聊天的内容)放入区域812。同时,笔记本电脑还可以在显示区域813中绘制文本输入框、在区域8131中绘制语音控件以及在区域8132中绘制发送控件。
一个实施例中,sink端设备可以通过界面元素的标签信息来区分属于一级界面上的界面元素以及属于二级界面的界面元素。
一个实施例中,对标签信息相同的界面元素,例如联系人头像、联系人名称、最近一次的聊天内容以及最近一次的聊天的时间信息这些界面元素既出现在一级界面上也出现在二级界面上,sink端设备可以通过其是否包含在一个界面元素中来判断这些界面元素是属于一级界面上的界面元素或者属于二级界面的界面元素。示例性的,对于界面元素301-304,其包含在界面元素300中,则sink端设备可以确定界面元素301-304是属于一级界面的界面元素;对于界面元素312-315,其并未包含在任意一个界面元素中,则sink端设备可以确定界面元素312-315是属于二级界面的界面元素。
示例性的,图9示出了sink端设备保存的购物场景的界面元素区域分布的示意图。区域901中可以显示购物应用的名称;区域902中可以显示source端设备的信息;区域903中可以显示最小化控件;区域904可以显示关闭窗口控件;区域905中可以显示一级页面中第一个商品的信息,其中,区域905中还可以包括多个子区域,例如区域9051中可以显示商品1的图像信息、区域9052中可以显示商品1的名称、区域9053中可以显示商品1的价格信息。以此类推,区域906-908中可以显示一级页面上第二个商品至第四个商品的信息。
内容解析模块可以根据解析出的一级页面中每一个界面元素以及每一个界面元素对应的标签信息,将界面元素放入一级页面的显示区域中。示例性的,当笔记本电脑解析出界面元素4021-4023后,可以将界面元素4021(标签信息中的名称为商品1的图像信息)放入区域9051;笔记本电脑可以将界面元素4022(标签信息中的名称为商品1的名称)放入区域9052;笔记本电脑可以将界面元素4023(标签信息中的名称为商品1的价格信息)放入区域9053。同样的,笔记本电脑可以根据界面元素4031-4053中多个界面元素的标签信息以及显示区域与标签信息的对应关系,在区域906-908中显示界面元素4031-4053。
内容解析模块可以根据解析出的二级页面中每一个界面元素以及每一个界面元素对应的标签信息,将界面元素放入二级页面的显示区域中。示例性的,笔记本电脑接收到二级页面中的多个界面元素以及其标签信息。当笔记本电脑解析出界面元素408-410、416、419-420以及其标签信息后,可以将界面元素408(标签信息中的名称为商品2的图像信息)放入区域909;笔记本电脑将界面元素409(标签信息中的名称为点击播放控件)放入区域910;笔记本电脑将界面元素410(标签信息中的名称为商品2的价格信息)放入区域911;笔记本电脑将界面元素416(标签信息中的名称为商品2的详细介绍控件)放入区域912;笔记本电脑将界面元素419(标签信息中的名称为加入购物车控件)放入区域9131;笔记本电脑将界面元素420(标签信息中的名称为立即购买控件)放入区域9132。
应理解,图8和图9中界面元素显示区域与界面元素的标签信息的对应关系仅仅是示意性的,本申请实施例对此并不作任何限定。
动作翻译模块607用于在sink端设备检测到触控事件(例如,对于某个控件的点击事件)时,向source端设备的远端动作接收模块605发送相应的事件以及该事件对应的界面元素的标签信息。
一个实施例中,当sink端的动作翻译模块607检测到用户对第一界面元素的点击事件后,sink端设备可以向source端设备发送BLE数据包,该BLE数据包中包括事件的类型信息以及第一界面元素的标签信息。BLE数据包中包括协议数据单元,该界面元素以及界面元素的标签信息可以携带在PDU中的服务数据字段中,或者,也可以携带在PDU中的厂商特定数据字段中。例如,服务数据字段的负荷中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。source端设备和sink端设备可以约定某个可扩展的比特位的内容。示例性的,以sink端设备为笔记本电脑为例,当某些可扩展的比特位为00时表示该事件的类型为选中第一界面元素;当某些可扩展的比特位为01时表示该事件的类型为选中第一界面元素后右键点击。又例如,sink端设备可以通过GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对第一界面元素对应的标签信息进行编码并将编码后的数据携带在一个或者多个可扩展的比特位上。Source端设备在对BLE数据包进行解析后就可以获知事件的类型以及对应的界面元素的标签信息,从而获知sink端设备检测到在第一界面元素上的相应事件。
远端动作接收模块605在接收到动作翻译模块607发送的事件后,可以将接收到的信息发送给动作调度模块603。动作调度模块603可以根据界面元素的标签信息查找到相应的界面元素,并通过事件类型确定用户在sink端设备上对该界面元素具体的操作。从而动作调度模块603可以当前的显示界面上的界面元素进行更新。
对示例性的,如图3中的(b)所示,当笔记本电脑检测到用户对界面元素305的输入时,笔记本电脑可以向手机发送事件类型(点击事件)以及界面元素305的标签信息。响应于接收到上述信息,手机可以确定用户在笔记本电脑上针对用户与联系人妈妈的聊天记录进行点击操作,从而手机可以从显示社交应用的首页切换至显示用户与联系人妈妈的聊天界面。同时,手机可以向笔记本电脑发送用户与联系人妈妈的聊天界面上的多个界面元素以及其标签信息。
一个实施例中,若一个或者多个界面元素中包括第二界面元素且第二界面元素的状态是实时更新的,那么第一电子设备在向第二电子设备发送一个或者多个界面元素以及其标签信息后,第一电子设备可以在检测到第二界面元素的状态更新后,可以实时向第二电子设备发送更新后的第二界面元素以及其标签信息。以图5中的(b)所示的界面元素5013为例,当前正在播放到该视频的第30秒。当播放到视频的第31秒时,手机可以向智能电视发送更新后的界面元素5013(“00:13”)以及其标签信息。这样智能电视在接收到更新后的界面元素5013以及其标签信息后,可以对当前正在播放的歌词的内容进行更新。同样的,在该界面上界面元素5012也是实时更新的,当进度条的状态发生更新时,手机可以实时向智能电视发送更新后的界面元素5012以及标签信息,从而使得智能电视可以实时更新进度条的状态。
一个实施例中,对于图3中的(c)所示,当笔记本电脑检测到用户在文本输入框316中检测到用户输入了文本内容“妈,又部好看的电影推荐给你”的操作时,笔记本电脑可以向手机发送该文本内容以及文本输入框的标签信息。示例性的,笔记本电脑可以向手机发送BLE数据包,该文本内容以及文本输入框的标签信息可以携带在PDU中的服务数据字段中。笔记本电脑可以采用GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对文本内容以及文本输入框的标签信息进行编码,并将编码后的数据携带在服务数据字段的可扩展比特位上。手机在接收到该BLE数据包后,可以对可扩展比特位上的数据进行解码从而获得文本内容以及文本输入框的标签信息,从而手机可以将该文本内容放入手机的文本输入框319中显示。
当笔记本电脑检测到用户点击发送控件318的操作时,笔记本电脑可以向手机发送相应的事件类型以及控件318的标签信息。具体的发送过程可以参考上述实施例中的描述,此处不再赘述。手机在接收到事件类型以及控件318的标签信息后,可以确定笔记本电脑检测到用户点击了发送控件。从而手机可以完成对文本输入框319中的内容的发送。
应理解,本申请实施例中,文本输入框316可以是笔记本电脑绘制的。笔记本电脑和手机可以提前约定文本输入框316、语音控件317以及发送控件318的标签信息。这样手机在接收到笔记本电脑发送的内容后就可以获知用户在笔记本电脑上进行的操作。
一个实施例中,如图5中的(c)所示,当智能电视检测到用户在遥控器上点击左键的操作时,智能电视可以确定用户希望对该视频快进。智能电视响应于检测到上述操作,可以向手机发送快进控件的标签信息。响应于收到智能电视发送的快进控件的标签信息,手机可以确定智能电视检测到用户对该视频快进的操作,从而手机可以将窗口501中的视频内容快进。同时,手机可以向智能电视发送更新后的窗口501中的图像信息、更新后的界面元素5012以及5013以及其标签信息。响应于接收到更新后的界面元素以及其标签信息,智能电视可以更新视频内容、视频播放的进度条以及当前播放的时间信息。
应理解,智能电视和遥控器之间的信息传输过程可以参考现有技术的实现过程。本申请实施例中,智能电视和手机之间可以约定一些控件(例如,快进、快退、选择第一集、选择第二集等)的标签信息,那么在智能电视通过遥控器的输入识别出用户的意图时,智能电视就可以向手机发送响应的标签信息,从而手机可以根据这些标签信息来执行相应的操作。进而在手机执行完相应的操作后,若显示界面上某些界面元素发生了更新,手机还可以向智能电视发送更新后的界面元素及其标签信息。从而智能电视可以显示更新后的界面元素。
还应理解,对于手机、笔记本电脑以及笔记本电脑的外设(例如,鼠标和键盘)之间的实现过程可以参考上述手机、智能电视以及智能电视的外设(例如,遥控器)之间的实现过程,此处不再赘述。
图10示出了本申请实施例提供的显示方法1000的示意性流程图,该方法1000可以由第一电子设备和第二电子设备执行,该第一电子设备可以是上述source端设备,该第二电子设备可以是上述sink端设备。该方法1000包括:
S1001,第一电子设备接收第一指示。
一个实施例中,该第一指示可以为第一电子设备检测到用户启动第一应用程序的操作。
一个实施例中,该第一指示可以为第一电子设备接收到第二电子设备发送的指示信息,该指示信息用于指示第一电子设备向第二电子设备发送第一界面上的界面元素。示例性的,第二电子设备可以在检测到用户点击与第一应用程序相关联的图标时,向第一电子设备发送指示信息。
S1002,响应于接收到第一指示,第一电子设备显示第一界面并向第二电子设备发送一个或者多个界面元素以及该一个或者多个界面元素的标签信息,该第一界面上包括一个或者多个界面元素。
示例性的,如图3中的(b)所示,该第一电子设备可以为手机,该第一界面可以为社交应用的显示界面,该社交应用的显示界面上包括界面元素300-界面元素307。
应理解,第一电子设备向第二电子设备发送该一个或者多个界面元素以及该一个或者多个界面元素的标签信息的过程可以参考上述实施例中的描述,此处不再赘述。
一个实施例中,当第一电子设备和第二电子设备之间的距离小于或者等于预设距离时,第一电子设备可以提示用户将第一界面上的一个或者多个界面元素发送给第二电子设备进行显示。响应于用户确定将该第一界面上的界面元素发送给第二电子设备的操作,第一电子设备可以向第二电子设备发送该一个或者多个界面元素以及该一个或者多个界面元素的标签信息。
一个实施例中,当第一电子设备确定和第一电子设备组网的设备中包括支持对一个或者多个界面元素进行显示的电子设备时,第一电子设备可以向第二电子设备发送该一个或者多个界面元素以及该一个或者多个界面元素的标签信息。示例性的,第一电子设备在显示第一界面后,可以向和第一电子设备组网的设备发送查询请求,该查询请求用于查询接收到该查询请求的设备是否支持对一个或者多个界面元素进行显示。若和第一电子设备组网的设备中包括第二电子设备且第二电子设备支持对一个或者多个界面元素进行显示,那么第二电子设备可以向第一电子设备发送响应(ACK),从而使得第一电子设备获知第二电子设备支持对一个或者多个界面元素进行显示。
示例性的,第一电子设备可以向第二电子设备发送BLE数据包,该BLE数据包中可以携带该查询请求。BLE数据包中包括PDU,该查询请求可以携带在PDU中的服务数据字段中,或者,也可以携带在PDU中的厂商特定数据字段中。例如,服务数据字段的负荷中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。第一电子设备和第二电子设备可以约定某个可扩展的比特位的内容。例如,当某个可扩展的比特位为1时,第二电子设备就可以获知第一电子设备请求查询第二电子设备是否支持对一个或者多个界面元素进行显示。
若第二电子设备支持对一个或者多个界面元素进行显示,那么第二电子设备可以向第一电子设备发送BLE数据包。例如,当该BLE数据包中某个可扩展的比特位为1时,第一电子设备就可以获知第二电子设备支持对一个或者多个界面元素进行显示。
一个实施例中,若和第一电子设备组网的多个设备都支持对该一个或者多个界面元素进行显示,那么第一电子设备还可以提示用户将该一个或者多个界面元素发送到哪一个设备上进行显示。示例性的,和第一电子设备组网的设备中第二电子设备、第三电子设备均支持对一个或者多个界面元素进行显示,那么第一电子设备可以提示用户将该一个或者多个界面元素发送给第二电子设备或者第三电子设备进行显示。响应于用户选择第二电子设备的操作,第一电子设备可以向第二电子设备发送该一个或者多个界面元素以及该一个或者多个界面元素的标签信息。
一个实施例中,该第一指示还可以是来自于第二电子设备的请求信息。示例性的,第二电子设备的显示界面上可以包括某个应用的图标。当第二电子设备检测到用户点击图标的操作后,第二电子设备可以向第一电子设备发送请求信息,该请求信息用于请求该应用下的显示界面上的一个或者多个界面元素的信息。
应理解,第二电子设备的显示界面上包括某个应用的图标并不代表第二电子设备安装了该应用。第二电子设备检测到用户点击该图标可以触发第二电子设备向第一电子设备发送请求信息,该请求信息用于请求第一电子设备向第二电子设备发送该应用的显示界面上的一个或者多个应用程序的图标。
示例性的,响应于检测到用户点击第一应用(例如,音乐应用或者聊天应用)的图标的操作,第二电子设备可以向第一电子设备发送BLE数据包。例如,当该BLE数据包中某个可扩展的比特位为1时,第一电子设备就可以获知第二电子设备向第一电子设备请求该第一应用的显示界面上一个或者多个界面元素的信息。
一个实施例中,第一电子设备和第二电子设备组网后,第二电子设备可以向第一电子设备发送查询请求,该查询请求用于请求查询第一电子设备是否安装了第一应用。示例性的,第二电子设备可以向第一电子设备发送BLE数据包,该BLE数据包中可以携带该查询请求。BLE数据包中的服务数据字段的负荷中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。第一电子设备和第二电子设备可以约定某个可扩展的比特位的内容。例如,当某个可扩展的比特位为1时,第一电子设备就可以获知第二电子设备请求查询第一电子设备是否安装了第一应用。若第一电子设备安装了第一应用,那么第一电子设备可以向第二电子设备发送响应(ACK),从而第二电子设备可以获知第一电子设备安装了第一应用。此后,若第二电子设备检测到用户点击了第一应用的图标的操作时,第二电子设备可以向第一电子设备发送该请求信息。
S1003,响应于接收到该第一信息,该第二电子设备根据该第一界面上的一个或者多个界面元素的标签信息,显示第二界面,该第二界面包括第一显示窗口和第二显示窗口,该第一显示窗口显示该第一界面上的一个或者多个界面元素中的至少部分界面元素,该第二显示窗口用于显示与第一界面元素相关联的显示界面,该至少部分界面元素包括该第一界面元素。
一个实施例中,第二电子设备在接收到一个或者多个界面元素以及其标签信息后,可以根据一个或者多个界面元素的标签信息显示第二界面。示例性的,第二电子设备可以从这些标签信息中选择优先级等级较高的标签信息对应的界面元素进行显示。以图3中的(c)所示的GUI为例,手机可以将界面元素311-315、319以及其标签信息发送给第二电子设备,第二电子设备中可以保存有标签信息的优先级信息(例如,该优先级从高至低依次为联系人的名称,上一次聊天的时间信息、联系人的头像信息以及上一次聊天的内容)。那么第二电子设备可以根据优先级信息以及界面元素311-315、319的标签信息,显示界面元素312-315。
一个实施例中,第二电子设备根据第一映射关系以及一个或者多个界面元素的标签信息,显示该一个或者多个界面元素中的至少部分界面元素,该第一映射关系为一个或者多个界面元素的显示区域与一个或者多个界面元素的标签信息的映射关系。
一个实施例中,该第一映射关系可以是保存在第一电子设备中的。第一电子设备在向第二电子设备发送界面元素以及标签信息时,还可以向第二电子设备发送该第一映射关系。
一个实施例中,对于同一场景(例如,聊天场景),第一电子设备可以保存有针对不同设备的不同映射关系。示例性的,以第一电子设备为手机为例,手机中可以保存有第一映射关系和第二映射关系,第一映射关系为笔记本电脑中界面元素的显示区域与界面元素的标签信息的映射关系,第二映射关系为平板电脑中界面元素的显示区域与界面元素的标签信息的映射关系。对于不同的sink端设备,手机可以发送不同的界面元素以及界面元素的标签信息。
一个实施例中,该第一映射关系也可以是保存在第二电子设备中的。当第二电子设备从第一电子设备接收到界面元素以及标签信息时,就可以根据界面元素的标签信息以及第一映射关系,显示第二界面。
一个实施例中,该第二电子设备中可以保存有不同场景下界面元素的显示区域与界面元素的标签信息的映射关系。示例性的,如图8和图9所示,sink端设备可以保存有聊天场景下和购物场景下,不同区域与不同界面元素的标签信息的映射关系。当第二电子设备从第一电子设备接收到一个或者多个界面元素以及其标签信息后,sink端设备可以根据一个或者多个界面元素的标签信息,选择一个或者多个界面元素中的至少部分进行显示。
一个实施例中,第一电子设备可以将第一界面下所有打上标签的界面元素以及其标签信息都发送给第二电子设备。第二电子设备收到所有打上标签的界面元素以及其标签信息后,可以根据第一映射关系,从这些界面元素中选择其中的部分或者全部进行显示。
可选地,该第一界面上的该第一界面元素关联第三界面,该第一电子设备,还用于响应于接收到该第一指示,向该第二电子设备发送第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息;该第二电子设备具体用于:响应于接收到该第一信息和该第二信息,根据该第一界面上的一个或者多个界面元素的标签信息和该第三界面上的一个或者多个界面元素的标签信息,在该第一显示窗口显示该第一界面上的一个或者多个界面元素中的至少部分界面元素并在该第二显示窗口中显示该第三界面上的一个或者多个界面元素中的至少部分界面元素。
示例性的,如图3中的(b)所示,当手机检测到用户启动社交应用的操作时,手机可以将社交应用的首页(包括一条或者多条聊天记录)上的一个或者多个界面元素以及其标签信息、用户与某个联系人(例如,用户与联系人妈妈)的聊天界面上的一个或者多个界面元素发送给第二电子设备。从而可以使得第二电子设备分别在窗口3081和窗口3082中显示社交应用的首页的至少部分界面元素以及用户与该联系人的聊天界面上的至少部分界面元素。这样也就无需在第一电子设备检测到用户点击界面元素305,或者第二电子设备检测到用户点击界面元素305的操作时,才能使得第二电子设备在窗口3082中显示用户与联系人妈妈的聊天界面,减少了用户的操作,有助于提升用户的体验。
本申请实施例中,第一电子设备在接收到第一指示后,就可以向第二电子设备发送第一信息和第二信息,使得第二电子设备可以在第一显示窗口和第二显示窗口中分别显示第一界面上的至少部分界面元素以及第三界面上的至少部分界面元素,用户可以在第二电子设备上同时看到应用的一级页面和二级页面,相比于第一电子设备上单屏显示一级页面或者二级页面,有助于提升用户的体验。
可选地,该第一界面元素可以为该第一界面上的任意一个界面元素怒,或者,该第一界面元素可以为该第一界面上预设方向上的界面元素。
示例性的,该第一界面元素可以为界面元素300、305、306或者307。
可选地,该第一电子设备可以保存有该第三界面上的至少部分界面元素的显示区域以及其标签信息的映射关系。该第一电子设备向第二电子设备发送第二信息时,也可以向第二电子设备发送该映射关系。第二电子设备可以根据该第二信息中的标签信息以及该映射关系,在第二显示窗口中显示第三界面上的至少部分界面元素。
可选地,该第二电子设备中可以保存该第三界面上的至少部分界面元素的显示区域以及其标签信息的映射关系。
可选地,该第一界面上的该第一界面元素关联第三界面,该第二电子设备,还用于响应于检测到用户针对该第一界面元素的输入,向该第一电子设备发送第一指示信息,该第一指示信息用于指示该第二电子设备检测到用户针对该第一界面元素的输入;该第一电子设备,还用于响应于接收到该第一指示信息,向该第二电子设备发送第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息;该第二电子设备,还用于响应于接收到该第二信息,根据该第三界面上的一个或者多个界面元素的标签信息,在该第一显示窗口继续显示该第一界面上的一个或者多个界面元素中的至少部分界面元素并在该第二显示窗口中显示该第三界面上的一个或者多个界面元素中的至少部分界面元素。
示例性的,如图3中的(c)所示,当笔记本电脑检测到用户点击界面元素305的操作时,笔记本电脑可以向手机指示其检测到用户点击了界面元素305,从而使得手机向笔记本电脑发送用户与联系人妈妈的聊天界面上的一个或者多个界面元素以及其标签信息。从而笔记本电脑可以在窗口3082中显示用户与联系人妈妈的聊天界面上的至少部分界面元素。
本申请实施例中,当第二电子设备检测到用户针对第一界面元素的输入时,可以向第一电子设备指示其检测到针对第一界面元素的输入,从而可以触发第一电子设备向第二电子设备发送第二信息。用户可以在第二电子设备上同时看到应用的一级页面和二级页面,相比于第一电子设备上单屏显示一级页面或者二级页面,有助于提升用户的体验。
可选地,还用于响应于接收到该第一指示信息,从显示该第一界面切换至显示该第三界面。
示例性的,如图3中的(c)所示,手机在接收到笔记本电脑的指示(笔记本电脑指示手机其检测到用户点击界面元素305的操作)后,手机可以从显示社交应用的首页切换至显示用户与联系人妈妈的聊天界面。
可选地,响应于接收到该第一指示信息,第一电子设备也可以继续显示该第一界面。
可选地,该第一界面上的该第一界面元素关联第三界面,该第一电子设备,还用于响应于在该第一界面上检测到用户针对该第一界面元素的输入,从显示该第一界面切换至显示该第三界面并向该第二电子设备发送第二信息,该第二信息包括该第三界面上的一个或者多个界面元素以及该第三界面上的一个或者多个界面元素的标签信息;该第二电子设备,还用于响应于接收到该第二信息,根据该第三界面上的一个或者多个界面元素的标签信息,在该第一显示窗口继续显示该第一界面上的一个或者多个界面元素中的至少部分界面元素并在该第二显示窗口中显示该第三界面上的一个或者多个界面元素中的至少部分界面元素。
示例性的,如图3中的(b)所示,手机可以在检测到用户点击界面元素305的操作时,从显示社交应用的首页切换至显示用户与联系人妈妈的聊天界面并向笔记本电脑发送用户与联系人妈妈的聊天界面上的一个或者多个界面元素以及其标签信息。从而笔记本电脑可以在窗口3082中显示用户与联系人妈妈的聊天界面上的至少部分界面元素。
本申请实施例中,当第一电子设备在第一界面上检测到用户针对第一界面元素的输入时,可以从显示第一界面切换至显示第三界面并向第二电子设备发送第二信息。用户可以在第二电子设备上同时看到应用的一级页面和二级页面,相比于第一电子设备上单屏显示一级页面或者二级页面,有助于提升用户的体验。
可选地,该第三界面上的一个或者多个界面元素中的至少部分界面元素包括第二界面元素,该第一电子设备在检测到该第一界面上的该第一界面元素发生更新时,更新该第三界面上的该第二界面元素;该第一电子设备向该第二电子设备发送第三信息,该第三信息包括更新后的该第一界面元素、更新后的该第二界面元素、该第一界面元素的标签信息以及该第二界面元素的标签信息;该第二电子设备响应于接收到该第三信息,根据述第一界面元素的标签信息以及该第二界面元素的标签信息,在该第一显示窗口中显示更新后的该第一界面元素以及在该第二显示窗口中显示更新后的该第二界面元素。
示例性的,如图3中的(c)所示,若手机接收到联系人妈妈发送的一条消息,那么手机可以在用户与联系人妈妈的聊天界面上显示该最近接收到的消息同时手机也可以更新社交应用的首页中的信息(例如,对多条聊天记录重新排列,以及将界面元素305中最近一条聊天内容进行更新),手机可以向笔记本电脑发送社交应用的首页上更新后的界面元素以及其标签信息、用户与联系人妈妈的聊天界面上新增的界面元素以及其标签信息,从而使得笔记本电脑可以在窗口3081中显示更新后的界面元素以及在窗口3082中显示新增加的界面元素。
可选地,该第一电子设备响应于第一界面元素发生更新,可以在第三界面上新增加一些界面元素,并将更新后的第一界面元素、第三界面上新增加的界面元素以及第一界面元素的标签信息,新增加的界面元素的标签信息发送给第二电子设备,从而使得第二电子设备可以及时更新第一显示窗口和第二显示窗口中的内容。
可选地,该第二界面上包括第三界面元素,该第三界面元素关联该第一界面或者该第三界面上的第四界面元素,该第二电子设备,还用于响应于检测到用户针对该第三界面元素的输入,向该第一电子设备发送第二指示信息,该第二指示信息用于指示该第二电子设备检测到用户针对该第三界面元素的输入;该第一电子设备,还用于响应于接收到该第二指示信息,更新该第四界面元素或者执行针对该第四界面元素的操作。
示例性的,如图3中的(c)所示,当笔记本电脑检测到用户在文本输入框316中输入了内容时,笔记本电脑可以向手机发送该内容以及文本输入框的标签信息,从而可以使得手机在文本输入框319中同步显示该内容。
示例性的,如图3中的(d)所示,当笔记本电脑检测到用户点击发送控件318的操作时,笔记本电脑可以向手机指示其检测到用户针对发送控件的输入。手机在接收到该指示后,可以执行对文本输入框中的内容进行发送的操作。
可选地,该第一电子设备的第一界面或者第三界面上不包括该第三界面元素,第一电子设备和第二电子设备可以提前将第三界面元素和第四界面元素关联起来,那么当第二电子设备检测到用户针对第三界面元素的输入时,第二电子设备可以指示第一电子设备更新该第四界面元素。
示例性的,该第三界面元素可以为文本输入框316,该第四界面元素可以为文本输入框319。
示例性的,该第三界面元素可以为发送控件318,该第四界面元素可以为手机上显示的用户与联系人妈妈的聊天界面上的发送控件。
示例性的,当第一电子设备执行了针对第四界面元素的操作时,第一电子设备可以在第一界面和/或第三界面上新增加第五界面元素。第一电子设备可以向第二电子设备发送该第五界面元素以及其标签信息,从而使得第二电子设备在第二界面上显示第五界面元素。
示例性的,当手机执行了对文本输入框319中的内容进行发送的操作后,手机可以在界面上显示新增加的界面元素320-322。手机可以向笔记本电脑发送新增加的界面元素320-322,从而使得笔记本电脑在窗口3082中显示新增加的界面元素320-322。
一个实施例中,第一电子设备中可以保存有某个场景下所需要的界面元素的信息。这样第一电子设备可以向第二电子设备发送第二电子设备需要显示的界面元素以及其标签信息。示例性的,第一电子设备和第二电子设备组网后,第二电子设备可以向第一电子设备发送第一场景下需要的界面元素的信息。第二电子设备可以向第一电子设备发送BLE数据包,该BLE数据包中可以第一场景的信息以及第一场景下所需要的界面元素的信息。BLE数据包中的服务数据字段的负荷中可以包括多个比特位,其中,多个比特位中包括可扩展的比特位。第一电子设备和第二电子设备可以约定某个可扩展的比特位的内容。例如,第二电子设备可以采用GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对第一场景(例如,音乐)的信息进行编码,同时可以采用GBK、ISO8859-1或者Unicode(例如,UTF-8、UTF-16)等编码方式对第一场景下所需要的界面元素的标签信息进行编码,从而将编码后的数据携带在一个或者多个可扩展的比特位上。第一电子设备在接收到该BLE数据包后,可以对其进行解码从而获知第二电子设备在第一场景下需要的界面元素的标签信息。这样当第一电子设备接收到第一指示后,可以向第二电子设备发送第二电子设备所需要的界面元素以及其标签信息。
图11示出了本申请实施例提供的装置1100的示意性框图。该装置1100可以设置于上述图10中的第一电子设备中,该装置1100中包括:接收单元1110,用于接收第一指示;显示单元1120,用于响应于接收到该第一指示,该第一电子设备显示第一界面;发送单元1130,用于向该第二电子设备发送第一信息,该第一信息包括该第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息。
图12示出了本申请实施例提供的装置1200的示意性框图。该装置1200可以设置于上述图10中的第二电子设备中,该装置1200中包括:接收单元1210,用于接收该第一电子设备发送的第一信息,该第一信息包括该第一电子设备显示的第一界面上的一个或者多个界面元素以及该一个或者多个界面元素的标签信息;显示单元1220,用于响应于接收到该第一信息,根据该第一界面上的一个或者多个界面元素的标签信息,显示第二界面,该第二界面包括第一显示窗口和第二显示窗口,该第一显示窗口显示该第一界面上的一个或者多个界面元素中的至少部分界面元素,该第二显示窗口用于显示与第一界面元素相关联的显示界面,该至少部分界面元素包括该第一界面元素。
图13示出了本申请实施例提供的电子设备1300的示意性结构图。如图13所示,该电子设备包括:一个或多个处理器1310,一个或多个存储器1320,该一个或多个存储器存储1320存储有一个或多个计算机程序,该一个或多个计算机程序包括指令。当该指令被所述一个或多个处理器1310运行时,使得第一电子设备或者第二电子设备执行上述实施例中的技术方案。
本申请实施例提供了一种***,包括第一电子设备和第二电子设备,该***用于执行上述实施例中的技术方案。其实现原理和技术效果与上述方法相关实施例类似,此处不再赘述。
本申请实施例提供一种计算机程序产品,当所述计算机程序产品在第一电子设备(或者,上述实施例中的笔记本电脑)运行时,使得第一电子设备执行上述实施例中的技术方案。其实现原理和技术效果与上述方法相关实施例类似,此处不再赘述。
本申请实施例提供一种计算机程序产品,当所述计算机程序产品在第二电子设备(或者,上述实施例中的手机)运行时,使得第二电子设备执行上述实施例中的技术方案。其实现原理和技术效果与上述方法相关实施例类似,此处不再赘述。
本申请实施例提供一种可读存储介质,所述可读存储介质包含指令,当所述指令在第一电子设备(或者,上述实施例中的笔记本电脑)运行时,使得所述第一电子设备执行上述实施例的技术方案。其实现原理和技术效果类似,此处不再赘述。
本申请实施例提供一种可读存储介质,所述可读存储介质包含指令,当所述指令在第二电子设备(或者,上述实施例中的手机)运行时,使得所述第二电子设备执行上述实施例的技术方案。其实现原理和技术效果类似,此处不再赘述。
本申请实施例提供一种芯片,所述芯片用于执行指令,当所述芯片运行时,执行上述实施例中的技术方案。其实现原理和技术效果类似,此处不再赘述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请实施例的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的***、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的***、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请实施例的具体实施方式,但本申请实施例的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请实施例揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请实施例的保护范围之内。因此,本申请实施例的保护范围应以所述权利要求的保护范围为准。

Claims (32)

1.一种***,其特征在于,所述***包括第一电子设备和第二电子设备,所述第一电子设备通过近距离无线连接与所述第二电子设备通信,其中,
所述第一电子设备,用于响应于接收到第一指示,显示第一界面并向所述第二电子设备发送第一信息,所述第一信息包括所述第一界面上的一个或者多个界面元素以及所述第一界面上的一个或者多个界面元素的标签信息;
所述第二电子设备,用于响应于接收到所述第一信息,根据所述第一界面上的一个或者多个界面元素的标签信息,显示第二界面,所述第二界面包括第一显示窗口和第二显示窗口,所述第一显示窗口显示所述第一界面上的一个或者多个界面元素中的至少部分界面元素,所述第二显示窗口用于显示与第一界面元素相关联的显示界面,所述至少部分界面元素包括所述第一界面元素。
2.根据权利要求1所述的***,其特征在于,所述第二电子设备具体用于:根据所述第一界面上的一个或者多个界面元素的标签信息以及第一映射关系,显示所述第一显示窗口,所述第一映射关系包括所述至少部分界面元素的显示区域与所述至少部分界面元素的标签信息的映射关系。
3.根据权利要求1或2所述的***,其特征在于,所述第一界面上的所述第一界面元素关联第三界面,
所述第一电子设备,还用于响应于接收到所述第一指示,向所述第二电子设备发送第二信息,所述第二信息包括所述第三界面上的一个或者多个界面元素以及所述第三界面上的一个或者多个界面元素的标签信息;
所述第二电子设备具体用于:响应于接收到所述第一信息和所述第二信息,根据所述第一界面上的一个或者多个界面元素的标签信息和所述第三界面上的一个或者多个界面元素的标签信息,在所述第一显示窗口显示所述第一界面上的一个或者多个界面元素中的至少部分界面元素并在所述第二显示窗口中显示所述第三界面上的一个或者多个界面元素中的至少部分界面元素。
4.根据权利要求1或2所述的***,其特征在于,所述第一界面上的所述第一界面元素关联第三界面,
所述第二电子设备,还用于响应于检测到用户针对所述第一界面元素的输入,向所述第一电子设备发送第一指示信息,所述第一指示信息用于指示所述第二电子设备检测到用户针对所述第一界面元素的输入;
所述第一电子设备,还用于响应于接收到所述第一指示信息,向所述第二电子设备发送第二信息,所述第二信息包括所述第三界面上的一个或者多个界面元素以及所述第三界面上的一个或者多个界面元素的标签信息;
所述第二电子设备,还用于响应于接收到所述第二信息,根据所述第三界面上的一个或者多个界面元素的标签信息,在所述第一显示窗口继续显示所述第一界面上的一个或者多个界面元素中的至少部分界面元素并在所述第二显示窗口中显示所述第三界面上的一个或者多个界面元素中的至少部分界面元素。
5.根据权利要求4所述的***,其特征在于,所述第一电子设备,还用于响应于接收到所述第一指示信息,从显示所述第一界面切换至显示所述第三界面。
6.根据权利要求1或2所述的***,其特征在于,所述第一界面上的所述第一界面元素关联第三界面,
所述第一电子设备,还用于响应于在所述第一界面上检测到用户针对所述第一界面元素的输入,从显示所述第一界面切换至显示所述第三界面并向所述第二电子设备发送第二信息,所述第二信息包括所述第三界面上的一个或者多个界面元素以及所述第三界面上的一个或者多个界面元素的标签信息;
所述第二电子设备,还用于响应于接收到所述第二信息,根据所述第三界面上的一个或者多个界面元素的标签信息,在所述第一显示窗口继续显示所述第一界面上的一个或者多个界面元素中的至少部分界面元素并在所述第二显示窗口中显示所述第三界面上的一个或者多个界面元素中的至少部分界面元素。
7.根据权利要求3至6中任一项所述的***,其特征在于,所述第三界面上的一个或者多个界面元素中的至少部分界面元素包括第二界面元素,
所述第一电子设备,还用于在检测到所述第一界面上的所述第一界面元素发生更新时,更新所述第三界面上的所述第二界面元素;
所述第一电子设备,还用于向所述第二电子设备发送第三信息,所述第三信息包括更新后的所述第一界面元素、更新后的所述第二界面元素、所述第一界面元素的标签信息以及所述第二界面元素的标签信息;
所述第二电子设备,还用于响应于接收到所述第三信息,根据述第一界面元素的标签信息以及所述第二界面元素的标签信息,在所述第一显示窗口中显示更新后的所述第一界面元素以及在所述第二显示窗口中显示更新后的所述第二界面元素。
8.根据权利要求3至7中任一项所述的***,其特征在于,所述第二界面上包括第三界面元素,所述第三界面元素关联所述第一界面或者所述第三界面上的第四界面元素,
所述第二电子设备,还用于响应于检测到用户针对所述第三界面元素的输入,向所述第一电子设备发送第二指示信息,所述第二指示信息用于指示所述第二电子设备检测到用户针对所述第三界面元素的输入;
所述第一电子设备,还用于响应于接收到所述第二指示信息,更新所述第四界面元素或者执行针对所述第四界面元素的操作。
9.根据权利要求1至8中任一项所述的***,其特征在于,所述第一界面为社交应用的显示界面,所述第一界面包括一条或者多条聊天记录,所述第一界面元素为所述一条或者多条聊天记录中用户与第一联系人的聊天记录,与所述第一界面元素相关联的显示界面为用户与所述第一联系人的聊天界面。
10.根据权利要求1至8中任一项所述的***,其特征在于,所述第一界面为购物应用的显示界面,所述第一界面包括一个或者多个商品的购物信息,所述第一界面元素为所述一个或者多个商品中第一商品的购物信息,与所述第一界面元素相关联的显示界面为所述第一商品的购物详情页。
11.根据权利要求1至10中任一项所述的***,其特征在于,所述第一电子设备,还用于在向所述第二电子设备发送所述第一信息之前,确定所述第一电子设备和所述第二电子设备之间的距离小于或者等于预设距离。
12.一种显示方法,其特征在于,所述方法应用于第一电子设备中,所述第一电子设备通过近距离无线连接与第二电子设备通信,所述方法包括:
所述第一电子设备接收第一指示;
响应于接收到所述第一指示,所述第一电子设备显示第一界面并向所述第二电子设备发送第一信息,所述第一信息包括所述第一界面上的一个或者多个界面元素以及所述一个或者多个界面元素的标签信息。
13.根据权利要求12所述的方法,其特征在于,所述方法还包括:
所述第一电子设备向所述第二电子设备发送第一映射关系的信息,所述第一映射关系为界面元素的显示区域与界面元素的标签信息的映射关系。
14.根据权利要求12或13所述的方法,其特征在于,所述第一界面上的所述第一界面元素关联第三界面,所述方法还包括:
响应于接收到所述第一指示,所述第一电子设备向所述第二电子设备发送第二信息,所述第二信息包括所述第三界面上的一个或者多个界面元素以及所述第三界面上的一个或者多个界面元素的标签信息。
15.根据权利要求12或13所述的方法,其特征在于,所述第一界面上的所述第一界面元素关联第三界面,所述方法还包括:
所述第一电子设备接收所述第二电子设备发送的第一指示信息,所述第一指示信息用于指示所述第二电子设备检测到用户针对所述第一界面元素的输入;
响应于接收到所述第一指示信息,所述第一电子设备向所述第二电子设备发送第二信息,所述第二信息包括所述第三界面上的一个或者多个界面元素以及所述第三界面上的一个或者多个界面元素的标签信息。
16.根据权利要求15所述的方法,其特征在于,所述方法还包括:
响应于接收到所述第一指示信息,所述第一电子设备从显示所述第一界面切换至显示所述第三界面。
17.根据权利要求12或13所述的方法,其特征在于,所述第一界面上的所述第一界面元素关联第三界面,所述方法还包括:
响应于在所述第一界面上检测到用户针对所述第一界面元素的输入,所述第一电子设备从显示所述第一界面切换至显示所述第三界面并向所述第二电子设备发送第二信息,所述第二信息包括所述第三界面上的一个或者多个界面元素以及所述第三界面上的一个或者多个界面元素的标签信息。
18.根据权利要求14至17中任一项所述的方法,其特征在于,所述第三界面上的一个或者多个界面元素中的至少部分界面元素包括第二界面元素,所述方法还包括:
在检测到所述第一界面上的所述第一界面元素发生更新时,所述第一电子设备更新所述第三界面上的所述第二界面元素;
所述第一电子设备向所述第二电子设备发送第三信息,所述第三信息包括更新后的所述第一界面元素、更新后的所述第二界面元素、所述第一界面元素的标签信息以及所述第二界面元素的标签信息。
19.根据权利要求14至18中任一项所述的方法,其特征在于,所述第二界面上包括第三界面元素,所述第三界面元素关联所述第一界面或者所述第三界面上的第四界面元素,
所述第一电子设备接收所述第二电子设备发送的第二指示信息,所述第二指示信息用于指示所述第二电子设备检测到用户针对所述第三界面元素的输入;
响应于接收到所述第二指示信息,所述第一电子设备更新所述第四界面元素或者执行针对所述第四界面元素的操作。
20.根据权利要求12至19中任一项所述的方法,其特征在于,所述第一界面为社交应用的显示界面,所述第一界面包括一条或者多条聊天记录,所述第一界面元素为所述一条或者多条聊天记录中用户与第一联系人的聊天记录,与所述第一界面元素相关联的显示界面为用户与所述第一联系人的聊天界面。
21.根据权利要求12至19中任一项所述的方法,其特征在于,所述第一界面为购物应用的显示界面,所述第一界面包括一个或者多个商品的购物信息,所述第一界面元素为所述一个或者多个商品中第一商品的购物信息,与所述第一界面元素相关联的显示界面为所述第一商品的购物详情页。
22.根据权利要求12至21中任一项所述的方法,其特征在于,所述方法还包括:
在向所述第二电子设备发送所述第一信息之前,所述第一电子设备确定所述第一电子设备和所述第二电子设备之间的距离小于或者等于预设距离。
23.一种显示方法,其特征在于,所述方法应用于第二电子设备,所述第二电子设备通过近距离无线连接与第一电子设备通信,所述方法包括:
所述第二电子设备接收所述第一电子设备发送的第一信息,所述第一信息包括所述第一电子设备显示的第一界面上的一个或者多个界面元素以及所述一个或者多个界面元素的标签信息;
响应于接收到所述第一信息,所述第二电子设备根据所述第一界面上的一个或者多个界面元素的标签信息,显示第二界面,所述第二界面包括第一显示窗口和第二显示窗口,所述第一显示窗口显示所述第一界面上的一个或者多个界面元素中的至少部分界面元素,所述第二显示窗口用于显示与第一界面元素相关联的显示界面,所述至少部分界面元素包括所述第一界面元素。
24.根据权利要求23所述的方法,其特征在于,所述第二电子设备根据所述一个或者多个界面元素的标签信息,显示第二界面,包括:
所述第二电子设备根据所述一个或者多个界面元素的标签信息以及第一映射关系,显示所述第二界面,所述第一映射关系为所述至少部分界面元素的显示区域与所述至少部分界面元素的标签信息的映射关系。
25.根据权利要求23或24所述的方法,其特征在于,所述第一界面上的所述第一界面元素关联第三界面,所述方法还包括:
所述第二电子设备接收所述第一电子设备发送的第二信息,所述第二信息包括所述第三界面上的一个或者多个界面元素以及所述第三界面上的一个或者多个界面元素的标签信息;
其中,所述显示第二界面,包括:
响应于接收到所述第一信息和所述第二信息,所述第二电子设备根据所述第一界面上的一个或者多个界面元素的标签信息和所述第三界面上的一个或者多个界面元素的标签信息,在所述第一显示窗口显示所述第一界面上的一个或者多个界面元素中的至少部分界面元素并在所述第二显示窗口中显示所述第三界面上的一个或者多个界面元素中的至少部分界面元素。
26.根据权利要求23或24所述的方法,其特征在于,所述第一界面上的所述第一界面元素关联第三界面,所述方法还包括:
响应于检测到用户针对所述第一界面元素的输入,所述第二电子设备向所述第一电子设备发送第一指示信息,所述第一指示信息用于指示所述第二电子设备检测到用户针对所述第一界面元素的输入;
所述第二电子设备接收所述第一电子设备发送的第二信息,所述第二信息包括所述第三界面上的一个或者多个界面元素以及所述第三界面上的一个或者多个界面元素的标签信息;
响应于接收到所述第二信息,所述第二电子设备根据所述第三界面上的一个或者多个界面元素的标签信息,在所述第一显示窗口继续显示所述第一界面上的一个或者多个界面元素中的至少部分界面元素并在所述第二显示窗口中显示所述第三界面上的一个或者多个界面元素中的至少部分界面元素。
27.根据权利要求25或26所述的方法,其特征在于,所述第二界面上包括第三界面元素,所述第三界面元素关联所述第一界面或者所述第三界面上的第四界面元素,所述方法还包括:
响应于检测到用户针对所述第三界面元素的输入,所述第二电子设备向所述第一电子设备发送第二指示信息,所述第二指示信息用于指示所述第二电子设备检测到用户针对所述第三界面元素的输入。
28.根据权利要求23至27中任一项所述的方法,其特征在于,所述第一界面为社交应用的显示界面,所述第一界面包括一条或者多条聊天记录,所述第一界面元素为所述一条或者多条聊天记录中用户与第一联系人的聊天记录,与所述第一界面元素相关联的显示界面为用户与所述第一联系人的聊天界面。
29.根据权利要求23至27中任一项所述的方法,其特征在于,所述第一界面为购物应用的显示界面,所述第一界面包括一个或者多个商品的购物信息,所述第一界面元素为所述一个或者多个商品中第一商品的购物信息,与所述第一界面元素相关联的显示界面为所述第一商品的购物详情页。
30.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
一个或多个存储器;
所述一个或多个存储器存储有一个或者多个计算机程序,所述一个或者多个计算机程序包括指令,当所述指令被所述一个或多个处理器执行时,使得所述电子设备执行如权利要求12至22中任一项所述的方法。
31.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
一个或多个存储器;
所述一个或多个存储器存储有一个或者多个计算机程序,所述一个或者多个计算机程序包括指令,当所述指令被所述一个或多个处理器执行时,使得所述电子设备执行如权利要求23至29中任一项所述的方法。
32.一种计算机可读存储介质,其特征在于,包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求12至22中任一项所述的方法;或者,
当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求23至29中任一项所述的方法。
CN202110486127.9A 2021-03-31 2021-04-30 一种显示方法、电子设备和*** Pending CN115145665A (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
PCT/CN2022/083717 WO2022206762A1 (zh) 2021-03-31 2022-03-29 一种显示方法、电子设备和***
US18/551,782 US20240201932A1 (en) 2021-03-31 2022-03-29 Display method, electronic device, and system
EP22778944.3A EP4290375A1 (en) 2021-03-31 2022-03-29 Display method, electronic device and system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN2021103500108 2021-03-31
CN202110350010 2021-03-31

Publications (1)

Publication Number Publication Date
CN115145665A true CN115145665A (zh) 2022-10-04

Family

ID=83405136

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110486127.9A Pending CN115145665A (zh) 2021-03-31 2021-04-30 一种显示方法、电子设备和***

Country Status (4)

Country Link
US (1) US20240201932A1 (zh)
EP (1) EP4290375A1 (zh)
CN (1) CN115145665A (zh)
WO (1) WO2022206762A1 (zh)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10222933B2 (en) * 2015-05-30 2019-03-05 Genesys Telecommunications Laboratories, Inc. System and method for managing multiple interactions
CN106980479B (zh) * 2016-01-15 2020-07-14 阿里巴巴(中国)有限公司 多屏互动的方法、装置和服务器
CN110515576B (zh) * 2019-07-08 2021-06-01 华为技术有限公司 显示控制方法及装置
CN114006625B (zh) * 2019-08-26 2023-03-28 华为技术有限公司 一种分屏显示方法与电子设备
CN112261466A (zh) * 2020-08-18 2021-01-22 北京京东尚科信息技术有限公司 一种投屏方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
WO2022206762A1 (zh) 2022-10-06
EP4290375A1 (en) 2023-12-13
US20240201932A1 (en) 2024-06-20

Similar Documents

Publication Publication Date Title
CN109814766B (zh) 一种应用显示方法及电子设备
WO2021000807A1 (zh) 一种应用程序中等待场景的处理方法和装置
WO2020078299A1 (zh) 一种处理视频文件的方法及电子设备
WO2022257977A1 (zh) 电子设备的投屏方法和电子设备
CN113885759A (zh) 通知消息处理方法、设备、***及计算机可读存储介质
CN114173000B (zh) 一种回复消息的方法、电子设备和***、存储介质
CN113961157B (zh) 显示交互***、显示方法及设备
CN112130788A (zh) 一种内容分享方法及其装置
WO2022206764A1 (zh) 一种显示方法、电子设备和***
CN115756268A (zh) 跨设备交互的方法、装置、投屏***及终端
CN115016697A (zh) 投屏方法、计算机设备、可读存储介质和程序产品
CN112740148A (zh) 一种向输入框中输入信息的方法及电子设备
WO2022206763A1 (zh) 一种显示方法、电子设备和***
WO2022152174A9 (zh) 一种投屏的方法和电子设备
CN115022982B (zh) 多屏协同无感接入方法、电子设备及存储介质
WO2022135273A1 (zh) 一种调用其他设备能力的方法、电子设备和***
WO2022062902A1 (zh) 一种文件传输方法和电子设备
CN114567871A (zh) 文件共享的方法、装置、电子设备以及可读存储介质
CN114664306A (zh) 一种编辑文本的方法、电子设备和***
WO2022206762A1 (zh) 一种显示方法、电子设备和***
CN114489876A (zh) 一种文本输入的方法、电子设备和***
CN114666441B (zh) 一种调用其他设备能力的方法、电子设备、***和存储介质
CN116301510A (zh) 一种控件定位方法及电子设备
CN116541589A (zh) 播放记录显示方法及相关设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination