CN115643359A - 一种增强的视频通话方法和***、电子设备 - Google Patents
一种增强的视频通话方法和***、电子设备 Download PDFInfo
- Publication number
- CN115643359A CN115643359A CN202211040405.9A CN202211040405A CN115643359A CN 115643359 A CN115643359 A CN 115643359A CN 202211040405 A CN202211040405 A CN 202211040405A CN 115643359 A CN115643359 A CN 115643359A
- Authority
- CN
- China
- Prior art keywords
- electronic device
- mobile phone
- screen
- video call
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/147—Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1454—Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/142—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Telephone Function (AREA)
- Information Transfer Between Computers (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本申请实施例公开了一种增强的视频通话方法,包括第一电子设备与第二电子设备建立视频通话;第一电子设备显示第一视频通话界面,第一视频通话界面包括屏幕分享控件;若第一电子设备检测到用户对屏幕分享控件的第一操作,向第二电子设备发送共享第一电子设备的屏幕的第一请求;若第一请求被第二电子设备同意,第一电子设备在第一电子设备的第一显示区域显示第一视频通话界面,在第一电子设备的第二显示区域显示共享界面,且第一电子设备向第二电子设备发送第一电子设备的共享界面的显示数据,即在视频通话应用中增加了屏幕分享功能,丰富了视频通话应用的功能,简化了用户的操作。本申请实施例还公开了一种增强的视频通话***及电子设备。
Description
技术领域
本申请涉及通信领域,特别涉及一种增强的视频通话方法和***、电子设备。
背景技术
智能电子设备诸如手机、平板电脑等功能日益丰富。用户可以使用电子设备上的应用进行视频通话,屏幕分享,远程操作等功能。但是现有技术中,视频通话应用的功能比较单一,如果用户想要在视频通话的过程中使用其他功能(例如屏幕分享),还需要打开另外的应用,并在使用过程中用户可能需要在两个或更多的应用之间进行切换,这样的操作方式繁琐。
发明内容
本申请实施例提供了一种增强的视频通话方法和***、电子设备,在视频通话应用中增加了其他的功能,例如,屏幕分享,远程辅助等功能,丰富了视频通话应用的功能,简化了用户的操作。
为解决上述技术问题,第一方面,本申请实施例的实施方式提供了一种增强的视频通话方法,包括:第一电子设备与第二电子设备建立视频通话;第一电子设备显示第一视频通话界面,第一视频通话界面包括屏幕分享控件;若第一电子设备检测到用户对屏幕分享控件的第一操作,向第二电子设备发送共享第一电子设备的屏幕的第一请求;若第一请求被第二电子设备同意,第一电子设备在第一电子设备的第一显示区域显示第一视频通话界面,在第一电子设备的第二显示区域显示共享界面,且第一电子设备向第二电子设备发送第一电子设备的共享界面的显示数据。即在进行视频通话的时候,第一电子设备的第一视频通话界面显示有屏幕分享控件,因此第一电子设备可以根据用户对屏幕分享控件的操作,向第二电子设备分享共享界面。并且将第一视频通话界面和共享界面分区域显示,还可以方便用户对共享界面的操作。
在上述第一方面的一种可能的实现中,第一视频通话界面还包括远程辅助控件;该方法还包括,若第一电子设备检测到用户对远程辅助控件的第二操作,向第二电子设备发送第二请求,第二请求用于第一电子设备向第二电子设备请求远程辅助;若第二请求被第二电子设备同意,第一电子设备接收第二电子设备发送的远程辅助指令,执行远程辅助指令,并在共享界面显示执行远程辅助指令的界面。在视频通话应用中增加了远程辅助功能,在进行视频通话及屏幕分享时,还可以方便地实现远程辅助,提高了用户的体验。
进一步地,该屏幕分享控件和远程辅助控件可以单独设置为两个控件,也可以设置为一个控件,若设置为一个控件,当控件被用户操作时,第一电子设备向第二电子设备发送第一请求和第二请求,若第二电子设备同意该第一请求和第二请求,则第一电子设备将共享界面分享至第二电子设备进行显示,并且第二电子设备通过该共享界面可以对第一电子设备进行远程辅助。另外,第一请求和第二请求也可以作为一个请求发送。
在上述第一方面的一种可能的实现中,第一电子设备还显示有涂鸦控件;若第一电子设备检测到用户对涂鸦控件的第三操作,在共享界面上显示涂鸦工具控件;第一电子设备检测用户对涂鸦工具控件的第四操作,在共享界面上显示第四操作对应的涂鸦界面,且连同共享界面的显示数据一起,第一电子设备向第二电子设备发送涂鸦数据。在视频应用中增加了涂鸦功能,在完成共享界面的分享后,第一电子设备还可以根据用户对涂鸦控件的操作,接收用户在共享界面上的涂鸦并显示涂鸦,以及将显示有涂鸦的共享界面分享至第二电子设备进行显示。涂鸦工具控件可以包括涂鸦笔、橡皮擦等控件。
在上述第一方面的一种可能的实现中,第一电子设备接收第二电子设备发送的对第一电子设备分享至第二电子设备显示的共享界面进行涂鸦的第三请求,该第二请求为涂鸦请求;若第一电子设备同意第三请求,第一电子设备使得第一电子设备的共享界面不能被用户操作;第一电子设备接收第二电子设备发送的涂鸦数据,根据涂鸦数据在共享界面上显示涂鸦。即若第二电子设备需要对第一电子设备分享的共享界面进行涂鸦,则需要第一电子设备同意该第二电子设备进行涂鸦,并且第一电子设备需要将其自己的共享界面冻结。需要说明的是,第一电子设备冻结其自己的共享界面,即为使得共享界面不能被用户操作,避免第一电子设备的共享界面被用户操作,影响涂鸦的显示。
在上述第一方面的一种可能的实现中,涂鸦在预设时间后从共享界面上自动消失。当然,前述涂鸦工具控件也可以包括橡皮擦工具等,使得涂鸦可以被擦除。
在上述第一方面的一种可能的实现中,还包括:涂鸦从共享界面上消失后,第一电子设备的共享界面能被用户操作。
在上述第一方面的一种可能的实现中,若第一请求被第二电子设备同意,该方法还包括:第一电子设备接收第二电子设备发送的第二电子设备的共享界面的显示数据,并根据显示数据在第一显示区域显示第二电子设备的共享界面。即屏幕分享控件可以是用于发起屏幕双向分享的控件,该第一请求可以是屏幕双向分享请求,因此,当屏幕分享控件被用户操作时,第一电子设备将其自己的共享界面分享至第二电子设备进行显示,并且第二电子设备将其自己的共享界面也分享至第一电子设备进行显示。在视频通话的同时,可以方便地实现第一电子设备和第二电子设备之间的屏幕双向分享,提高了用户的体验。
需要说明的是,第一电子设备在第一显示区域显示第二电子设备的共享界面时,该第一电子设备在第二显示区域显示前述第一视频通话界面和第一电子设备的共享界面。当然,该第一视频通话界面、第一电子设备的共享界面和第二电子设备的共享界面的显示方式可以根据需要选择。
在上述第一方面的一种可能的实现中,第一电子设备还显示有操作映射控件;若第一电子设备检测到用户对操作映射控件的第五操作,向第二电子设备发送用于进行操作映射的第四请求,该第三请求为操作映射请求;若第四请求被第二电子设备同意,第一电子设备接收第二电子设备发送的对应于第二电子设备的共享界面的操作映射信令,并根据操作映射信令在第一电子设备的共享界面上显示操作映射界面。在进行屏幕双向分享时,第二电子设备还可以将对其自己的共享界面的操作通过操作映射显示在第一电子设备的共享界面,以用于引导用户在第一电子设备上进行同样的操作。
在上述第一方面的一种可能的实现中,若第一电子设备检测到用户对操作映射界面的第六操作,向第二电子设备发送用于通知第二电子设备用户已执行第六操作的通知信息。通过该通知信息可以通知第二电子设备第一电子设备关于操作映射的执行情况,例如已经完成执行。
在上述第一方面的一种可能的实现中,若第一电子设备检测到用户对屏幕分享控件的第一操作,第一电子设备自动显示屏幕分隔控件,该屏幕分隔控件显示于第一显示区域和第二显示区域之间。例如可以根据默认的进行上/下分屏,或者左/右分屏,在屏幕的中间位置显示该屏幕分隔控件,屏幕分隔控件例如可以是分隔条。
在上述第一方面的一种可能的实现中,若第一电子设备检测到用户对屏幕分享控件的第一操作,该还包括:第一电子设备显示用于用户选择屏幕分隔控件显示类型的屏幕分隔控件显示类型选择控件;若第一电子设备检测到用户对屏幕分隔控件显示类型选择控件的第七操作,根据用户选择的屏幕分隔控件显示类型显示屏幕分隔控件,将屏幕分隔控件显示于第一显示区域和第二显示区域之间。即例如可以通过弹框的方式显示弹框,通过弹框显示用于选择显示区域划分类型的屏幕分隔控件显示类型选择控件,以用于用户触发选择,比如该屏幕分隔控件显示类型选择控件包括“上/下分屏”和“左/右分屏”,若用户选择“上/下分屏”,则第一电子设备显示“上/下分屏”对应的界面,若用户选择“左/右分屏”,则第一电子设备显示“左/右分屏”对应的界面。
在上述第一方面的一种可能的实现中,若第一电子设备与第三电子设备连接;方法还包括:若第一电子设备检测到用户对屏幕分享控件的第一操作,显示用于用户选择进行屏幕分享的设备的屏幕分享设备选择控件;若用户选择第一电子设备为屏幕分享设备,第一电子设备向第二电子设备发送第一电子设备的共享界面的显示数据;若用户选择第三电子设备为屏幕分享设备,第一电子设备向第二电子设备发送第三电子设备的共享界面的显示数据。即若第一电子设备还与其他电子设备连接,还可以将该其他电子设备的屏幕分享至第二电子设备进行显示。
在上述第一方面的一种可能的实现中,若第一电子设备与第三电子设备连接;方法还包括:若第一电子设备接收到第二电子设备发送的用于进行屏幕分享的第五请求,电子设备显示用于用户选择进行屏幕分享的设备的屏幕分享设备选择控件;若用户选择第一电子设备为屏幕分享设备,第一电子设备接收第二电子设备发送的第二电子设备的共享界面的显示数据,并进行共享界面的显示;若用户选择第三电子设备为屏幕分享设备,第一电子设备接收第二电子设备发送的第二电子设备的共享界面的显示数据,并发送给第三电子设备。即若第一电子设备还与其他电子设备连接,还可以将第二电子设备分享的共享界面发送至该其他电子设备进行显示。
在上述第一方面的一种可能的实现中,若第一请求被第二电子设备同意,第一电子设备与第二电子设备之间建立至少一个独立于视频通话流媒体传输通道的屏幕分享流媒体传输通道以用于共享界面的显示数据的传输;视频通话流媒体传输通道用于第一电子设备和第二电子设备之间的视频通话数据的传输。进一步地,每条屏幕分享流媒体传输通道对应一对分享界面及分享界面显示界面之间的数据传输。需要说明的是,建立独立于视频通话流媒体传输通道的屏幕分享流媒体传输通道以用于共享界面的显示数据的传输,可以使得视频通话和屏幕分享互不干扰,可以提高视频通话和屏幕分享的用户体验。
在上述第一方面的一种可能的实现中,在第二请求被第二电子设备同意后,第一电子设备与第二电子设备之间建立远程辅助操作信令通道,以用于远程辅助信令的传输。
在上述第一方面的一种可能的实现中,在涂鸦控件被用户操作后,第一电子设备和第二电子设备之间建立涂鸦信令通道,以用于前述第三请求的传输。另外,当涂鸦消失后,第二电子设备还可以通过该涂鸦信令通道向第一电子设备发送用于告知涂鸦消失的消息。
在上述第一方面的一种可能的实现中,在第四请求被第二电子设备同意后,第一电子设备与第二电子设备之间建立操作映射信令通道,以用于前述操作映射信令的传输,以及通知信息的传输。
在上述第一方面的一种可能的实现中,操作映射信令包括映射标记码信息、操作域信息、操作对象信息和操作码信息。
在上述第一方面的一种可能的实现中,若第一请求被第二电子设备同意,第一电子设备在屏幕的侧边显示侧边工具条控件,若第一电子设备检测到用户对侧边工具条控件的第八操作,第一电子设备显示与第八操作对应的界面。该第八操作可以是拖动、滑动等操作。侧边工具条可以包括前述屏幕分享控件、涂鸦控件、操作映射控件中的至少一个,还可以包括其他的控件。
第二方面,本申请实施例的实施方式提供了一种增强的视频通话方法,包括第二电子设备与第一电子设备建立视频通话,第二电子设备显示第二视频通话界面;第二电子设备接收第一电子设备发送的共享第一电子设备的屏幕的第一请求,在第二视频通话界面上显示用于用户确认第一请求的第一确认控件;若第二电子设备检测到用户对第一确认控件的第九操作,向第一电子设备发送同意第一请求的第一应答;第二电子设备接收第一电子设备发送的第一电子设备的共享界面的显示数据,且第二电子设备在第二电子设备的第一显示区域显示第二视频通话界面,在第二电子设备的第二显示区域显示显示数据对应的共享界面。与第一电子设备进行视频通话的第二电子设备,接收第一电子设备分享的共享界面并显示,从而实现第一电子设备与第二电子设备之间的屏幕分享。
在上述第一方面的一种可能的实现中,第二电子设备接收第一电子设备发送的第二请求,显示用于用户确认第而请求的第二确认控件;第二请求用于第一电子设备向第二电子设备请求远程辅助;若第二电子设备检测到用户对第二确认控件的第十操作,向第一电子设备发送同意第二请求的第二应答;若第二电子设备检测到用户对共享界面的第十一操作,向第二电子设备发送远程辅助指令。
在上述第一方面的一种可能的实现中,第二电子设备还显示有涂鸦控件;若第二电子设备检测到用户对涂鸦控件的第十二操作,向第一电子设备发送对第一电子设备分享至第二电子设备显示的共享界面进行涂鸦的第三请求;若第三请求被第一电子设备同意,且第二电子设备检测到用户对共享屏幕的第十三操作,在第二电子设备的共享界面上显示第十三操作对应的涂鸦界面,向第一电子设备发送涂鸦数据。
在上述第一方面的一种可能的实现中,若第二电子设备同意第一请求,该方法还包括:第二电子设备接收第一电子设备发送的第一电子设备的共享界面的显示数据,并根据显示数据在第二电子设备的第一显示区域显示第一电子设备的共享界面。
在上述第一方面的一种可能的实现中,第二电子设备接收第一电子设备发送的用于进行操作映射的第四请求,显示与第四请求对应的用于用户确认第四请求的第三确认控件;若第二电子设备检测到用户对第三确认控件的第十四操作,向第一电子设备发送第三应答;若第二电子设备检测到用户对第二电子设备的共享界面的第十五操作,显示与第十五操作对应的界面,且向第一电子设备发送操作映射信令。
在上述第一方面的一种可能的实现中,该方法还包括:第二电子设备接收第一电子设备发送的通知信息,并显示通知信息对应的界面;通知信息用于通知第二电子设备用户已执行第六操作;第六操作为用户对第一电子设备上的操作映射界面的操作。
在上述第一方面的一种可能的实现中,若第二电子设备同意第一请求,则第二电子设备自动显示屏幕分隔控件。
在上述第一方面的一种可能的实现中,若第二电子设备同意第一请求,该方法还包括:第二电子设备显示用于用户选择屏幕分隔控件显示类型的屏幕分隔控件显示类型选择控件;若第二电子设备检测到用户对屏幕分隔控件显示类型选择控件的触发操作,根据用户选择的屏幕分隔控件显示类型显示屏幕分隔控件。
在上述第一方面的一种可能的实现中,若第二电子设备与第四电子设备连接;方法还包括:若第二电子设备同意第一请求,第二电子设备显示用于用户选择进行屏幕分享的设备的屏幕分享设备选择控件;若用户选择第二电子设备为屏幕分享设备,第二电子设备向第一电子设备发送第二电子设备的共享界面的显示数据;若用户选择第四电子设备为屏幕分享设备,第二电子设备向第一电子设备发送第四电子设备的共享界面的显示数据。
在上述第一方面的一种可能的实现中,若第二电子设备与第四电子设备连接;方法还包括:若第二电子设备向第一电子设备发送用于进行屏幕分享的第五请求,第二电子设备显示用于用户选择进行屏幕分享的设备的屏幕分享设备选择控件;若用户选择第二电子设备为屏幕分享设备,第二电子设备接收第一电子设备发送的第一电子设备的共享界面的显示数据,并进行共享界面的显示;若用户选择第四电子设备为屏幕分享设备,第二电子设备接收第一电子设备发送的第一电子设备的共享界面的显示数据,并发送给第四电子设备。
在上述第一方面的一种可能的实现中,若第二电子设备同意第一请求,第二电子设备在屏幕的侧边显示侧边工具条控件;若第二电子设备检测到用户对侧边工具条控件的操作,第一电子设备显示与操作对应的界面。
第三方面,本申请实施例的实施方式提供了一种增强的视频通话***,包括:第一电子设备和第二电子设备;第一电子设备和第二电子设备建立通信连接,且第一电子设备执行上述第一方面和/或第一方面的任意一种可能的实现方式所提供的增强的视频通话方法,第二电子设备执行上述第二方面和/或第二方面的任意一种可能的实现方式所提供的增强的视频通话方法。需要说明的是,前述第一电子设备和第二电子设备皆可以通过相同的应用执行前述增强的视频通话方法,因此,该第一电子设备和第二电子设备没执行该增强的视频通话方法时,具有相同的或者相应的显示界面。
本申请实施例提供的增强的视频通话***,包括用于执行上述第一方面和/或第一方面的任意一种可能的实现方式所提供的增强的视频通话方法的第一电子设备,因此也能实现第三方面提供的增强的视频通话方法所具备的有益效果(或优点)。
第四方面,本申请实施例的实施方式提供了一种电子设备,包括:存储器,用于存储计算机程序,计算机程序包括程序指令;处理器,用于执行程序指令,以使该电子设备执行前述的增强的视频通话方法。
第五方面,本申请实施例的实施方式提供了一种计算机可读取存储介质,计算机可读取存储介质存储有计算机程序,计算机程序包括程序指令,程序指令被电子设备运行以使电子设备执行前述的增强的视频通话方法。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例描述中所使用的附图作简单介绍。
图1为本申请实施例提供的一种手机的结构示意图;
图2为本申请实施例提供的一种通信***的结构框图;
图3为本申请实施例提供的一种手机的软件结构框图;
图4A为本申请实施例提供的一种进行视频通话和远程辅助的方法流程图;
图4B为本申请实施例提供的一种进行涂鸦的方法流程图;
图4C为本申请实施例提供的一种进行屏幕双向分享和操作映射的方法流程图;
图5A-5P为本申请实施例提供的手机M1和M2的一些界面示意图;
图6A-6C为本申请实施例提供的手机M1和M2的另一些界面示意图;
图6D-6F为本申请实施例提供的多电子设备的界面示意图;
图7是本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合附图对本申请实施例的实施方式作进一步地详细描述。
本申请实施例主要涉及应用于电子设备的增强的视频通话方法,该电子设备包括手机、平板电脑、电视、笔记本电脑、超级移动个人计算机(ultra-mobile personalcomputer,UMPC)、手持计算机、上网本、个人数字助理(personal digital assistant,PDA)、可穿戴设备、虚拟现实设备等电子设备。
需要说明的是,本申请实施例中,该电子设备为可以与其他电子设备进行无线通信的电子设备,并且该电子设备具有屏幕,支持分屏和/或选屏功能,以及该电子设备具备视频通话功能。
本申请实施例提供的增强的视频通话方法,可以应用于前述电子设备中。例如,该电子设备可以是手机。
请参见图1,图1是本申请实施例提供的一种手机100的结构示意图。
其中,手机100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A和触摸传感器180K等。
可以理解的是,本发明实施例示意的结构并不构成对手机100的限定。在本申请实施例另一些实施例中,手机100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。处理器110中还可以设置存储器,用于存储指令和数据。处理器110用于使得该手机100执行本申请实施例提供的增强的视频通话方法。
手机100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
移动通信模块150可以提供应用在手机100上的包括2G/3G/4G/5G等无线通信功能。
无线通信模块160可以提供应用在手机100上的包括无线局域网(wireless localarea networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT)等无线通信的解决方案。
在一些实施例中,手机100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得手机100可以通过无线通信技术与网络以及其他设备通信。
应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。
手机100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。在一些实施例中,手机100可以包括1个或N个显示屏194,N为大于1的正整数。
手机100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能,以及实现视频通话功能。在一些实施例中,手机100可以包括1个或N个摄像头193,N为大于1的正整数。进一步地,手机100至少包括一个与显示屏194位于同一侧的摄像头193。
视频编解码器用于对数字视频压缩或解压缩。手机100可以支持一种或多种视频编解码器。这样,手机100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等,另外,手机可以实现音视频数据和录屏数据的封装和播放等。
手机100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如视频通话、音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。手机100可以通过扬声器170A进行视频通话,收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当手机100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。
耳机接口170D用于连接有线耳机。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。当有触摸操作作用于显示屏194,手机100根据压力传感器180A检测所述触摸操作强度。手机100也可以根据压力传感器180A的检测信号计算触摸的位置。
触摸传感器180K,也称“触控器件”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器180K可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于手机100的表面,与显示屏194所处的位置不同。
本申请实施例中,手机100可以根据压力传感器180A、触摸传感器180K检测用户的在显示屏194上的触发操作,还可以根据受话器170B检测用户的语音输入,也可以是根据摄像头193检测用户的手势输入,或者根据其他输入键盘等输入模块检测用户的输入,本实施例对此不做限定。
以下以手机为例对本申请实施例进行说明。
请参见图2,图2是本申请实施例提供的一种通信***的结构框图。
该通信***包括手机M1、Push服务器P1、服务器H,以及Push服务器P2和手机M2,其中,手机M1的使用者为用户N1,手机M2的使用者为用户N2,手机M1与Push服务器P1之间通过通信网络通信,手机M2与Push服务器P2之间通过通信网络通信,且Push服务器P1和Push服务器P2与服务器H之间通过通信网络通信,手机M1和手机M2通过该Push服务器P1、服务器H与Push服务器P2进行通信交互。
需要说明的是,本申请实施例的另一种实现方式中,Push服务器P1和Push服务器P2也可以是其他类型的设备,其只要满足手机M1和手机M2与服务器H之间进行通信的需求即可。进一步地,本申请实施例的另一种实现方式中,手机M1和手机M2与服务器H之间可以直接进行通信,而不需要其他服务器。其皆可以根据需要设置。
在本申请的一些实施例中,手机M1和手机M2上均安装有通信应用,该通信应用具备视频通话功能,可选的,还具有屏幕双向分享,远程辅助、涂鸦、操作映射等至少一个功能。该通信应用可使用用户的账户信息和密码进行登录,登录的具体方式可参考现有技术,本申请实施例对此不做限定。用户N1启动手机M1中的通信应用,并向用户N2发起视频通话的请求,若用户N2操作手机M2接受了该视频通话的请求,二者可进行视频通话。
需要说明的是,本申请中,视频通话指手机M1和手机M2具备使用户N1和用户N2之间进行视频通话的功能;屏幕双向分享指手机M1将其自己的屏幕分享至手机M2进行显示,在这个过程中,手机M2也将其自己的屏幕分享至手机M1进行显示;远程辅助指手机M1将其自己的屏幕分享至手机M2进行显示,并且手机M2可以对手机M1进行远距离的控制和操作;涂鸦指手机M1可以根据用户N1的触发操作,在其自己的屏幕上显示与用户N1的触发操作相关联的线条、图画等涂鸦内容;操作映射指手机M2将用户N2对手机M2的操作,映射至手机M1,使得用户N1可以通过手机M1上的映射显示进行相同的操作。以下结合具体实施例进行说明。
在手机M1和M2进行视频通过的过程中,手机M1和M2显示的视频通话的界面均可提供更多的功能控件,例如屏幕双向分享,远程辅助等。若用户N1通过这些功能控件启动了屏幕双向分享或远程辅助等功能,并且用户N2操作手机M2接受了该功能的请求,则手机M1上在显示视频通话的界面的同时,还可以在另一区域显示该功能对应的界面,相应的,手机M2也可以同时显示视频通话的界面和该功能对应的界面。
以在视频通话的过程中进行远程辅助为例,手机M1作为远程辅助的请求方,手机M2作为远程辅助的辅助方,使用户N2可以通过对手机M2进行操作以远程辅助操作手机M1。需要说明的是,本申请中,进行远程辅助是指手机M1将其屏幕分享至手机M2进行显示,手机M2根据手机M1分享的屏幕可以对手机M1进行远程辅助。详细的,手机M1和手机M2之间通过通信网络通信,手机M1发起远程辅助请求,在手机M2接受请求后,手机M1向手机M2授权操作权限,手机M1通过通信通道传输手机M1的屏幕显示的图像信息至手机M2以使手机M2进行同步显示,从而实现屏幕分享;另外,用户N2通过手机M2进行远程辅助操作,且手机M2将对应于该远程辅助操作的远程辅助操作信令通过信令通道传输至手机M1,以使手机M1根据该远程辅助操作信令执行相应操作,从而实现用户N2通过手机M2对手机M1的远程辅助操作。
手机M1和手机M2可具备分屏功能,则可以在需要进行分屏时,将一个屏幕分屏为至少两个显示区域,用于分别显示不同的内容,或者用于显示相同的内容。或者手机M1和手机M2也可以包括至少两个物理屏幕,该两个屏幕可以分别作为独立的屏幕使用,该至少两个物理屏幕也可以合成为一块屏幕作为整体屏幕使用,本申请实施例中,该手机M1和手机M2可以根据用户需要从多屏幕中选择屏幕用于屏幕分享时显示不同的内容。
请参见图3,图3是本申请实施例的手机的软件结构框图,分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android***分为四层,从上至下分别为应用程序层,应用程序框架层,***库,以及内核层。
其中,应用程序层可以包括一系列应用程序,如包括HiCall APP和VoipService,其中HiCall APP为本申请实施例所提供的支持视频通话和屏幕分享的通信应用,具有可视化的用户界面,VoipService为HiCall APP提供支持,不具有可视化的用户界面。
应用程序层还可以包括相机,图库,日历,通话,地图,导航,蓝牙,音乐,视频,短信息等应用程序。
HiCall APP提供的应用界面上包括一些功能控件,该功能控件以侧边工具条的形式或以屏幕上的其他类型的触控件的形式进行显示,其可以根据应用所处的不同场景进行显示。本申请实施例中,该功能控件可以包括“视频通话”、“远程辅助”、“屏幕双向分享”、“涂鸦”、“操作映射”五个控件中的一个或多个,且该功能控件在屏幕上的显示内容包括图标和文字。
示例性的,该“视频通话”、“远程辅助”、“屏幕双向分享”、“涂鸦”、“操作映射”五个控件的格式可参见图5D中侧边工具条中的格式。可选的,该侧边工具条中也可以只显示五个控件中的部分控件,或者显示很多的其他控件。
例如,若手机M1检测到用户N1对“视频通话”控件的触发操作,则手机M1与手机M2之间建立视频通话。
若手机M1检测到用户N1对“远程辅助”控件的触发操作,则手机M1与手机M2之间建立远程辅助。
若手机M1检测到用户N1对“屏幕双向分享”控件的触发操作,则手机M1将其自己的屏幕分享至手机M2进行显示,同时手机M2将其自己的屏幕分享至手机M1进行显示。
若手机M1检测到用户N1对“涂鸦”控件的触发操作,则手机M1接收用户N1进行涂鸦的操作,并将包括该涂鸦的屏幕分享至手机M2进行显示,或者手机M2接收用户N2进行涂鸦的操作,并将包括该涂鸦的屏幕分享至手机M1进行显示。
若手机M1检测到用户N1对“操作映射”控件的触发操作,则手机M1与手机M2之间进行操作映射。
HiCall APP包括:InCallUI APP和Telecom APP,其中,InCallUI APP负责通信界面的显示及适配,例如InCallUI APP包括前述视频通话、屏幕双向分享、远程辅助、涂鸦、操作映射等业务功能的界面的切换入口,以用于相应界面的显示。
Telecom APP负责通信逻辑控制,例如包括通话的冲突管理等。
VoipService用于负责业务逻辑控制,包括提供音频通话、视频通话、设备发现、消息服务、业务功能切换、涂鸦、操作映射等功能的实现、以及操作映射信令合成及解析等能力,其能力通过封装成服务API给HiCall APP应用使用。
Voip Service包括媒体组件和业务传输组件,其中业务传输组件包括信令通道管理模块,信令通道管理模块负责信令通道管理,包括通信通道的创建、多通道管理等。其中,该通道包括视频通话流媒体传输通道、屏幕分享流媒体传输通道、远程辅助操作信令通道、涂鸦信令通道、操作映射信令通道等。则本申请实施例中,该视频通话流媒体传输通道、屏幕分享流媒体传输通道、远程辅助操作信令通道、涂鸦信令通道、操作映射信令通道等都由业务传输组件构建和进行管理。
媒体组件中包括流媒体信息处理模块,该流媒体信息处理模块负责流媒体信息处理和传输,提供音视频编解码和传输等能力。流媒体信息处理模块用于实现音频通话、视频通话流媒体数据和屏幕分享流媒体数据的处理,包括实时屏幕抓取、编码成视频帧传输给对端设备以实现屏幕分享。
VoipService作为通信平台SDK,可提供给多设备和设备APP集成,满足跨平台诉求。实现基于通信云信令***的交互协议栈(通信平台SDK),实现账户管理、设备和能力发现、NG-RTC音视频(包含p2p)、消息等的信令面交互控制。另外,媒体组件由云核NG-RTC提供(包含音视频编解码和传输等能力,用于实现基于RTN网络的音视频媒体面交互);信令通道管理模块和媒体组件可独立设置也可以合并设置,并且媒体组件可替换。
VoipService可以是HwVoipService。流媒体信息处理模块可以是HME(HuaweiMedia Engine,华为流媒体引擎)。
应用程序框架层(Framework层)为应用程序层的应用程序提供应用编程接口(application programming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
应用程序框架层包括***服务,例如包括活动管理器(Activity ManagerService,AMS),窗口管理器(Window Manager Service,WMS)、视图***(VIEW system)、内容提供器,电话管理器,资源管理器等,另外,还可以包括MSDP(Multicast SourceDiscovery Protocol,组播源发现协议)感知服务和多路径接入服务等,本申请实施例对此不作任何限制。
其中,AMS、WMS和VIEW,为本申请实施例中的涂鸦、操作映射等提供能力支持。AMS提供基础UX交互能力,WMS负责窗口区域计算等能力,提供操作映射信令中的操作域信息;VIEW提供操作对象监听等能力,根据上次应用的响应或回调,捕获用户操作行为,记录操作对象,提供操作映射信令中的操作对象和操作码信息。
进一步地,分屏技术基于Framework的***服务能力。Framework的***服务提供接口给用户可以指定用于进行屏幕分享的屏幕,例如,用于指定分享屏幕和分享屏幕显示屏幕,将指定信息传输给AMS和WMS,WMS计算手机自己的屏幕尺寸、及计算手机自己的进行分屏的位置等信息,***服务根据指定信息及计算结果分配窗口。例如,根据用户习惯,默认左屏为第一屏幕,右屏为第二屏幕;或根据用户习惯,默认上屏为第一屏幕,下屏为第二屏幕。
屏幕分享时,音频通话、视频通话影像界面可通过小窗口显示。用户可以指定分享屏幕、对端分享屏幕的显示屏幕、视频通话显示屏幕等。若手机附近还有其他设备,手机可将用户指定信息通过近场通信信令传递给其他设备。通过信令传输,可识别设备类型,如大屏(TV)设备默认为视频通话设备,负责显示视频通话影像,手机、PAD等设备默认负责屏幕分享与操作。
进一步地,Framework的***服务将捕获的操作映射信令反馈给应用程序层,VoipService根据***服务反馈的操作映射信令生成操作映射信令,再通过信令通道进行信令传输。
MSDP感知服务和多路径接入服务为已有音频通话、视频通话的基础组件,内核层基于已有的音频通话、视频通话,其与现有技术相同,此处不再赘述。
应用程序框架层以下的***库和内核层等可称为底层***,底层***中包括用于提供显示服务的底层显示***,例如,底层显示***包括内核层中的显示驱动以及***库中的表面管理器(surface manager)等。
安卓运行时(Android Runtime)包括核心库和虚拟机。Android runtime负责安卓***的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
***库可以包括多个功能器。例如:表面管理器(surface manager),媒体库(Media Libraries)等。表面管理器用于对显示子***进行管理,并且为多个应用程序提供了2D和3D图层的融合。媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动等,本申请实施例对此不做任何限制。即其主要包括硬编码,以及与前述MSDP感知服务对应的MSDP虚拟化设备等。
以下在图3所示的软件结构示意图的基础上,简述手机***内部的工作流程。
示例性的,本申请实施例中,在需要进行视频通话时,如图5A所示,用户N1启动手机M1中的HiCall APP,并且用户N1开启与用户N2的通信界面,通信界面如图5B所示,包括显示用户N2的名称,以及视频通话、电话、短信控件,该通信界面还可以显示其他诸如通话记录等其他控件,其可以根据需要选择。
然后用户N1触发如图5B所示的“视频通话”控件,HiCall APP根据用户的触发操作,通知业务传输组件建立视频通话流媒体传输通道,由业务传输组件向手机M2中的业务传输组件发送视频通话流媒体传输通道建立请求,手机M2根据用户的输入确认进行视频通话后,手机M1通过该业务传输组件建立与手机M2之间的视频通话流媒体传输通道。手机M1和手机M2中HiCall APP向各自的媒体组件发送视频通话流媒体数据的处理请求,由该媒体组件中的流媒体信息处理模块进行视频通话流媒体数据(包括视频图像数据和音频数据)的封装和解析,以实现视频通话。例如,手机M1中的媒体组件将封装的视频通话流媒体数据发送至该视频通话流媒体传输通道,由该视频通话流媒体传输通道发送至视频通话的对端手机,即手机M2,以及手机M2中的媒体组件将该视频通话流媒体传输通道发送来的手机M1发送的视频通话流媒体数据进行解析,并将解析后的视频通话流媒体数据发送至InCallUIAPP,由该InCallUI APP根据该视频通话流媒体数据实现手机M1的视频通话界面的显示。手机M1实现对手机M2的视频通话界面的显示过程类似,此处不再赘述。
另外,媒体组件封装的手机自己的视频通话流媒体数据,可以是由手机自己的摄像头和麦克风采集的音视频数据,另外该InCallUI APP根据该手机自己的摄像头和麦克风采集的音视频数据实现手机自己的用户的视频通话界面的显示。
本申请实施例中,手机M1和手机M2之间在进行视频通话的基础上进行屏幕分享,在手机M1发起屏幕分享请求并且手机M2接受该请求之后,手机M1和手机M2中的HiCall APP分别向前述的手机M1和手机M2中的业务传输组件发送建立屏幕分享流媒体传输通道的请求,使得该业务传输组件建立屏幕分享流媒体传输通道。HiCall APP向媒体组件发送屏幕流媒体数据的处理请求,由该媒体组件进行屏幕流媒体数据的封装和解析,媒体组件将封装的屏幕流媒体数据发送至该分享屏幕流媒体传输通道,由该屏幕分享流媒体传输通道发送至视频通话的对端手机。该媒体组件接收该屏幕分享流媒体传输通道发送来的对端手机的屏幕流媒体数据,对该屏幕流媒体数据进行解析,并将解析后的屏幕流媒体数据发送至InCallUI APP,由该InCallUI APP根据该屏幕流媒体数据实现对端手机分享屏幕界面的显示。
进一步地,在建立屏幕分享的基础上还可以进行远程协助、涂鸦、操作映射等处理。其中,该业务传输组件还可以用于根据HiCall APP发送的请求建立远程辅助操作信令通道、涂鸦信令通道、操作映射信令通道等。
进一步地,前述***服务还用于捕获用户操作,进行分屏处理和进行多屏选择处理,以及接收用户的操作映射等触发操作。AMS、WMS、VIEW***服务捕获用户的操作,计算操作区域,将操作及操作区域转换成对应的编码。
本申请实施例提供一种用于前述通信***的增强的视频通话方法,以下对该增强的视频通话方法应用的场景进行具体说明。
手机M1和手机M2之间建立视频通话的场景:
如图4A所示,手机M1和手机M2之间建立视频通话,包括:
S101,手机M1检测用户N1发起视频通话的触发操作。
在一些实施例中,手机M1和手机M2都只具备一个物理屏幕,且屏幕上都显示各自的主桌面(如图5A所示),且主桌面上显示有HiCall APP,然后用户N1点击手机M1上的HiCall APP,手机M1启动HiCall APP,然后用户从多个联系人中选择“用户N2”,进入与“用户N2”的通信界面,手机M1上的通信界面如图5B所示,该界面上,显示有用于用户N1和用户N2进行更多通信的功能控件,功能控件包括“视频通话”、“电话”和“短信”控件。进一步地,该界面上,还显示有用户N2的名称“用户N2”。
用户点击“视频通话”控件以发起视频通话。
S102,手机M1与服务器H之间建立第一连接通道。
手机M1检测到用户发起视频通话呼叫的触发操作,根据该触发操作向服务器H发送建立连接通道的请求,该请求中包括手机M1的身份信息,示例性的,该身份信息包括用户ID(手机号)、设备ID(IMEI号等)、设备类型等设备信息。
服务器H接收到请求后,根据该请求对手机M1进行验证,其中服务器H对手机M1进行验证包括服务器H根据服务器H侧记录的设备信息,校验手机M1提供的用户ID、设备ID、设备类型等设备信息。
若验证通过,则服务器H向手机M1发送应答,手机M1接收到应答后,与服务器H完成第一连接通道的建立。该应答中包括服务器H根据手机M1的用户ID、设备ID生成、通信网络信息生成的通信通道唯一识别码token(令牌)ID,以及根据用户ID、设备ID、通信token ID计算生成的设备通信ID(即session(时域)ID),以将鉴权状态及设备通信ID返回给端侧设备。
S103,手机M1向服务器H发送第一视频通话请求。
手机M1通过第一连接通道向服务器H发送第一视频通话请求。该第一视频通话请求中包括手机M2的标识信息,例如手机M2的用户ID(手机号);以及进一步地还包括手机M1所请求的业务标识,如视频通话业务标识等。业务标识将作为数据信息传递给对端手机M2使用。
S104,服务器H接收到第一视频通话请求后,根据该第一视频通话请求对手机M1进行手机M1是否有权限通过该服务器H建立视频通话的鉴权。鉴权通过,执行步骤S105。
服务器H接收到第一视频通话请求后,根据该第一视频通话请求对手机M1进行鉴权以判断是否允许手机M1建立视频通话,包括:服务器H根据第一视频通话请求中的手机M2的设备通信ID对手机M1进行鉴权判断通信ID与服务器H侧记录是否一致,并解析该设备通信ID获得其中的token ID(token ID是由服务器侧生成的通信通道唯一识别码,用于识别对应的通信通道),以找到其对应的通信通道。同时服务器H根据设备M1发送的视频通信请求中的手机M2的标识信息(即手机M2的用户ID(手机号))与服务器H端的已登录设备信息记录作对比,判断手机M2是否为可通信设备。若是,则鉴权通过,否则,鉴权不通过。
S105,服务器H向手机M1反馈鉴权通过的信息。
该鉴权通过的信息可以为服务器H生成的手机M2的token ID。
S106,手机M1向服务器H发送第二视频通话请求。
手机M1通过第一连接通道向服务器H发送第二视频通话请求。该第二视频通话请求中包含Session(时域)信息,该Session信息中包含前述用于识别通信通道的token信息。服务器H通过前述token对该第二视频通话请求进行鉴权,若该token为服务器H生成并发送的token,则鉴权通过,鉴权通过后,执行S107。
S107,服务器H将第二视频通话请求通过PUSH服务器推送至手机M2。推送信息中包含呼叫发起方手机M1的用户ID(手机号)等信息。
S108,手机M2检测用户N2确认进行视频通话的触发操作。
示例性的,服务器H将第二视频通话请求推送至手机M2后,手机M2根据该第二视频通话请求在手机M2的屏幕上显示用于用户选择是否与用户N1进行视频通话的控件,比如“接听”控件和“挂断”控件,用户N2选择“接听”控件。
S109,手机M2根据用户N2的确认视频通话的触发操作,向服务器H发送接收视频通话请求的应答信息。
S110,服务器H接收到该应答信息后,确认需要与手机M2之间建立第二连接通道,则服务器H和手机M2和在该服务器H和手机M2之间建立第二连接通道。
S111,服务器H对手机M2进行鉴权。鉴权通过后,执行S112。
服务器H对手机M2进行鉴权包括服务器H通过手机M1的设备通信ID对手机M2进行鉴权判断通信ID与服务器H侧记录是否一致,并解析该设备通信ID获得其中的token ID(token ID是由服务器侧生成的通信通道唯一识别码,用于识别对应的通信通道),以找到其对应的通信通道。同时服务器H根据手机M2发送的手机M1的标识信息(即设备M1的用户ID(手机号))与服务器H端的已登录设备信息记录作对比,判断手机M1是否为可通信设备。若是,则鉴权通过,否则,鉴权不通过。
S112,服务器H向手机M1发送接受视频通话请求的信息。
服务器H通过第二连接通道向手机M1发送接受视频通话请求的信息。
S113,手机M1和手机M2之间通过服务器H建立视频通话流媒体传输通道。
手机M1接收到服务器H发送的接受视频通话请求的信息后,手机M1和服务器H之间建立视频通话流媒体传输通道,且手机M2和服务器H之间建立视频通话流媒体传输通道。
S114,建立该视频通话流媒体传输通道后,手机M1和手机M2之间通过服务器H进行视频通话。
手机M1和手机M2建立视频通话后的界面可以如图5C所示,其中,手机M1显示用户N2的视频通话图像(例如男生头像所示的视频通话图像),以及显示用户N1的视频通话图像(例如女生头像所示的视频通话图像),并且手机M1显示“远程辅助”、“屏幕双向分享”及“挂断”控件。同样的,手机M2显示用户N1的视频通话图像,及显示用户N2的视频通话图像,并且手机M2同时显示“远程辅助”、“屏幕双向分享”及“挂断”控件。
手机M1和手机M2之间进行远程辅助的场景:
进一步地,在手机M1和手机M2之间进行视频通话的同时,用户可以通过前述图5C所示的界面上的“远程辅助”控件选择进行远程辅助。
请参见图4A,在一种实现方式中,进行远程辅助的过程包括:
S201,手机M1检测到用户N1点击“远程辅助”控件的触发操作。
S202,手机M1通过服务器H向手机M2发送远程辅助请求。
该远程辅助请求通过前述第一连接通道和第二连接通道从手机M1发送至手机M2。
S203,手机M2检测到用户N2确认进行远程辅助的触发操作。
S204,手机M2根据用户N2的确认进行远程辅助的触发操作,生成并向手机M1发送确认进行远程辅助的应答信息。
该应答信息通过前述第一连接通道和第二连接通道从手机M2发送至手机M1。
S205,手机M1接收到应答信息后,与手机M2建立屏幕分享流媒体传输通道。
S206,手机M1显示屏幕分隔条(如图5D中虚线所示),以及显示位于屏幕分隔条两侧的屏幕A1和屏幕A2,其中,屏幕A1显示视频通话界面,屏幕A2默认显示手机M1的主桌面界面;并且手机M1在屏幕A2的右侧显示侧边工具条。手机M2显示屏幕分隔条(如图5D中虚线所示),以及显示位于屏幕分隔条两侧的屏幕B1和屏幕B2,其中屏幕B1显示视频通话界面,屏幕B2默认显示手机M2的主桌面界面;并且手机M2在屏幕B2的右侧显示侧边工具条。
进一步地,用户还可以手动拖动该屏幕分隔条,向左或者向右移动,以调节位于屏幕分隔条两侧的屏幕的大小。
需要说明的是,前述手机M1的主桌面界面为如图5D中A2界面所示的手机M1被开机启动后,用户唤醒手机M1后,初始显示的界面。手机M2的主桌面为手机M2被开机启动后,用户唤醒手机M2后,初始显示的界面。
另外,前述屏幕A2和屏幕B2也可以默认显示该HiCallAPP的用户登录后的初始显示界面,或者其他界面,其可以根据需要选择。
进一步地,在手机M1和手机M2的边侧显示如图5D所示的可隐藏的侧边工具条。该侧边工具条可以根据用户的向右滑动等触发操作处于收起状态隐藏至屏幕侧边,也可以根据用户的向左滑动等触发操作处于展开状态显示在屏幕上。且手机M1上的侧边工具条位于屏幕A2的右侧,手机M2上的侧边工具条位于屏幕B2的右侧。
该侧边工具条处于展开状态时,依次成列显示“视频通话”、“远程辅助”、“屏幕双向分享”、“涂鸦”、“操作映射”五个可触发控件,用于用户选择相应的通信类型。当然,该侧边工具条也可以只显示前述部分控件,或者显示更多的其他控件。另外,侧边工具条中的控件的显示方式,可以是各控件依次成列显示,也可以是各控件依次成行显示,或者也可以是以其他方式显示,本申请对此不做限定。
需要说明的是,本申请实施例中,为便于展示屏幕上的内容,都以屏幕上的侧边工具条处于收起状态为例进行说明,且将侧边工具条的展开状态示例的标注在屏幕外侧,需要理解的是,在通过侧边工具条选择通信类型的实际操作过程中,该侧边工具条在用户的向左滑动下,是以图中展开状态显示在手机屏幕上的。
需要说明的是,侧边工具条的形式可以根据需要设置。
S207,手机M1将屏幕A2的屏幕流媒体数据通过屏幕分享流媒体传输通道分享至手机M2的屏幕B2进行显示。
手机M1对屏幕A2进行录屏,并将录屏后的屏幕A2的屏幕流媒体数据通过屏幕分享流媒体传输通道传输至手机M2,手机M2所述屏幕流媒体数据在屏幕B2上显示与屏幕A1对应的显示画面,以实现将屏幕A1分享至屏幕B2,并使用户N2可以通过屏幕B2实现对手机M1的远程辅助。
手机M1将屏幕A2通过屏幕分享流媒体传输通道分享至手机M2的屏幕B2进行显示后,示例性的,手机M1和手机M2的显示界面可以如图5D所示,其中,屏幕A1上显示用户N1与用户N2的视频通话图像,屏幕B1上显示用户N1与用户N2的视频通话图像,屏幕A2可以在手机M1进行分屏后,显示手机M1的主桌面界面,屏幕B2则对应显示手机M1的屏幕A2的主桌面界面。
另外,需要说明的是,该屏幕A1还可以根据用户N1的触发操作,显示与用户N1的触发操作相对应的界面,比如缩小视频通话图像,并显示主桌面等显示界面,该屏幕A1和屏幕A2的显示是独立的,在一些实施例中,用户对屏幕A1的操作,不会影响屏幕A2的显示;在一些实施例中,用户N1对屏幕A1的操作,也可以影响屏幕A2的显示。另外,屏幕B1同样的可以根据用户N2的触发操作,显示与用户N2的触发操作相对应的界面,比如打开应用等。
进一步地,在手机M1将屏幕A2通过屏幕分享流媒体传输通道分享至手机M2的屏幕B2进行显示后,用户N2通过对屏幕B2进行操作,可以实现对手机M1的远程辅助。需要说明的是,手机M1还响应于用户N2通过手机M2对手机M1进行的远程辅助,在手机M1的屏幕A2上显示对应于该远程辅助操作的界面。
手机M1与手机M2之间还建立有远程辅助信令通道,手机M2通过该远程辅助信令通道将包括对手机M1进行远程辅助的操作信息、***作的控件等远程辅助信令发送至手机M1,使得手机M1根据远程辅助信令进行相应操作,从而实现手机M2对手机M1的远程辅助,例如,进行如图5E所示的应用卸载等远程辅助操作。
另外,手机M1与手机M2之间建立远程辅助信令通道,可以是在手机M1接收到前述应答信息后,建立该远程辅助信令通道。
需要说明的是,手机M1与手机M2之间进行远程辅助,是在手机M1与手机M2之间建立屏幕单向分享的基础上进行的。另外,在手机M2未对手机M1进行远程辅助时,手机M1和手机M2之间执行将屏幕A2分享至手机M2进行显示的操作,在手机M2对手机M1进行远程辅助时,手机M1和手机M2之间停止将屏幕A2分享至手机M2进行显示的操作,执行由手机M2对手机M1进行远程辅助的操作。
在用户N2未对屏幕B2进行操作时,用户N1还可以对屏幕A2进行操作,屏幕A2显示响应于用户N1的操作的界面,且手机M1将屏幕A2进行录屏,并将录屏后的数据通过前述屏幕分享流媒体传输通道分享至手机M2的屏幕B2进行显示。
S208,手机M1检测到用户N1进行终止远程辅助的触发操作。
S209,手机M1根据用户N1终止远程辅助的触发操作,向手机M2发送终止远程辅助信令,手机M2接收到该信息后,终止远程辅助操作。
需要说明的是,用户N1进行终止远程辅助的触发操作可以是再次点击“远程辅助”操作控件,以实现终止远程辅助的操作,或者可以点击“视频通话”操作控件,切换至只进行视频通话,以实现终止远程辅助的操作,还可以点击在侧边工具条中显示的“停止”控件(图中未示出),以实现终止远程辅助的操作,其可以根据需要选择设置。当然,也可以由用户N2触发手机M2上的用于终止远程辅助控件,以结束该“远程辅助”操作。
手机M1和手机M2之间终止远程辅助后,手机M1和手机M2的屏幕可以根据用户的操作进入对应的界面,例如可以是显示图5C所示的界面,或者显示图5D所示的屏幕单向分享界面等,其可以根据需要设置。
本申请实施例提供的增强的视频通话方法,手机M1和手机M2之间可以通过一个应用同时进行视频通话和屏幕分享,其中手机M1和手机M2之间建立视频通话流媒体传输通道以进行视频通话,建立独立于视频通话流媒体传输通道的屏幕分享流媒体传输通道以用于屏幕分享,并且手机M1和手机M2之间通过分屏技术,将屏幕分屏为两个屏幕,使得手机M1和手机M2可以在显示视频通话界面的同时,显示用于进行远程辅助的屏幕,并且手机M2可以对手机M1进行远程辅助。
而在现有技术中,当前手机M1和手机M2之间通过一个应用进行视频通话,并且手机M1和手机M2之间需要通过另一个应用进行屏幕分享,即手机M1和手机M2之间无法通过一个应用同时进行视频通话和屏幕分享。另外,当前的屏幕分享,仅支持单向屏幕分享,即手机M1作为屏幕分享方单方向的将其屏幕分享至手机M2进行显示,且屏幕分享时,手机M1是将整个手机M1的屏幕作为整体一起分享至手机M2进行显示,使得用户N2对手机M2屏幕上显示的手机M1的分享屏幕进行操作时,手机M1的屏幕只能被用户通过手机M2操作或用户N1选择终止远程辅助,用户N1无法同时对手机M1的屏幕进行其他操作。
需要说明的是,本申请实施例中,该手机M1和手机M2之间可以是建立远程通信,以进行前述的远程辅助,该手机M1和手机M2之间也可以是建立近距离通信,以进行近距离辅助,其可以根据需要选择。该近距离通信可以是指Wifi、蓝牙等近距离通信。
手机M1和手机M2之间进行涂鸦的场景:
进一步地,在手机M1和手机M2之间进行远程辅助时,用户还可以在例如如图5E所示的界面上,触发手机M1的屏幕上的“涂鸦”控件,使得手机M1和手机M2之间切换至进行涂鸦。
请参见图4B,在本申请实施例的一种实现方式中,手机M1作为远程辅助的请求方,手机M2作为远程辅助的辅助方,如果涂鸦的发起方为手机M1,则手机M1默认允许用户N1对屏幕A2的涂鸦,且进行涂鸦的过程包括:
S301,手机M1检测用户N1触发手机M1的屏幕上显示的“涂鸦”控件的触发操作。
示例性的,用户N1在图5E所示的界面上,触发手机M1的屏幕上的“涂鸦”控件。
S302,手机M1检测用户N1在屏幕A2的涂鸦操作,并在屏幕A2上显示涂鸦,该涂鸦例如如图5F所示的屏幕A2上显示的圈。
S303,手机M1将关于用户N1的涂鸦操作的录屏数据发送给手机M2。
手机M1通过前述屏幕分享流媒体传输通道将录屏数据发送给手机M2,录屏数据包括涂鸦数据。
S304,手机M2接收该录屏数据,并根据该录屏数据在屏幕B2上实现屏幕分享,以显示涂鸦,该涂鸦例如如图5F所示的屏幕B2上显示的圈。
需要说明的是,本申请实施例中,涂鸦可以是指“涂鸦”控件对应的“画笔”工具根据用户的触发操作,生成的涂画、标记等痕迹,以实现用户的涂画、标记等目的。
示例性的,可以在图5E所示场景下,用户N1选择“涂鸦”控件,然后用户N1在图5F所示的手机M1的屏幕A2上的卸载图标所在位置周围进行涂鸦,该涂鸦例如可以是画圈,然后手机M1将屏幕A2分享至手机M2的屏幕B2进行显示,在该手机M2的屏幕B2的卸载图标所在位置周围形成涂鸦,完成涂鸦屏幕分享后,手机M1和手机M2的显示界面如图5F所示。
S305,预设时间后,涂鸦自动消失。
该预设时间可以是3s,即在用户N1完成涂鸦后,涂鸦在屏幕A2上显示3s,之后,该涂鸦自动消失。该预设时间可以根据需要设置,本申请实施例对其不做限定。
S306,手机M1对屏幕A2进行录屏得到录屏数据。
S307,手机M1将录屏数据发送给手机M2。
S308,手机M2接收该录屏数据,并根据该录屏数据实现屏幕分享,在手机M2的屏幕B2上进行显示,以使屏幕B2上的涂鸦图样消失。
在图5F所示场景下,手机M1的屏幕A2上涂鸦消失,然后手机M1将屏幕A2分享至手机M2的屏幕B2进行显示,使得在该手机M2的屏幕B2涂鸦消失,涂鸦消失后,手机M1和手机M2的显示界面如图5E所示。
需要说明的是,在一些实施方式中,用户点击“涂鸦”控件后,如图5G所示,界面上还弹框显示“涂鸦辅助工具”控件,用户触发该“涂鸦辅助工具”控件还可以进一步显示包括橡皮擦、修改笔等控件,用户使用该橡皮擦、修改笔等控件使得涂鸦还可以被擦除,以及修改等。另外,该“涂鸦辅助工具”还可以包括用于结束涂鸦操作的控件,用于用户触发以结束涂鸦,其可以根据需要设置,本申请对此不做限定。
手机M1和手机M2之间进行涂鸦的另一场景:
进一步地,请参见图4B,在本申请实施例的一种实现方式中,手机M1为远程辅助的请求方,手机M2为远程辅助的辅助方,如果涂鸦操作的发起方为手机M2,则需要手机M2和手机M1进行关于是否允许用户N2对屏幕B2的涂鸦的协商,在确定允许用户N2对屏幕B2的涂鸦时,手机M2接收用户N2对屏幕B2的涂鸦。进行涂鸦的过程包括:
S401,手机M2检测用户N2触发手机M2的屏幕上的侧边工具条中的“涂鸦”控件的触发操作。
S402,手机M2根据用户N2对“涂鸦”控件的触发操作,向手机M1发送涂鸦请求。
S403,手机M1检测到用户N1进行确认接收涂鸦请求的触发操作。
S404,手机M1冻结屏幕A2,使得屏幕A2不能被用户N1所操作。
S405,手机M1向手机M2发送接受涂鸦的应答信息。
S406,手机M2接收到应答信息后,启动对用户N2进行涂鸦的触发操作的检测。
S407,手机M2检测用户N2进行涂鸦的触发操作,手机M2根据用户N2的涂鸦,在屏幕B2的屏幕上显示如图5F所示的B2界面上的涂鸦。
S408,手机M2将录屏数据发送至手机M1。
手机M2将对屏幕B2进行录屏后得到的包括涂鸦数据的录屏数据发送给手机M1,手机M1接收该录屏数据,并根据该录屏数据显示。
示例性的,可以在图5E所示场景下,用户N2选择“涂鸦”控件,然后用户N2在图5F所示的手机M2的屏幕B2上的卸载图标所在位置周围进行涂鸦,然后在手机M1的屏幕A2的卸载图标所在位置周围形成涂鸦,完成涂鸦屏幕分享后,手机M1和手机M2的显示界面如图5F所示。
S409,预设时间后,涂鸦消失。
该预设时间可以是3s,其可以根据需要设置,本申请实施例对其不做限定。
S410,手机M2向手机M1发送涂鸦取消的信息。
手机M2通过与手机M1之间的涂鸦信令通道向手机M1发送涂鸦取消的信息,该涂鸦信令通道可以是在手机M1向手机M2发送接受涂鸦的应答信息后,手机M1与手机M2之间建立的。
S411,手机M1接收到涂鸦取消的信息后,解除对屏幕A2的冻屏处理,使得屏幕A2可以被用户N1所操作。
S412,手机M1开启屏幕录制。
S413,手机M1进行屏幕分享操作。
在图5F所示场景下,手机M2的屏幕B2上涂鸦消失后,手机M1的屏幕A2上显示的涂鸦也消失,涂鸦消失后,手机M1和手机M2的显示界面如图5E所示。
即本申请实施例提供的增强的视频通话方法,在进行远程辅助的同时,还可以实现涂鸦。并且,若是由用户N1是对屏幕A2进行涂鸦,则手机M1可以直接将包括涂鸦的分享屏幕分享至手机M2的屏幕B2进行显示,若是由用户N2是对屏幕B2进行涂鸦,则还需要手机M1和手机M2进行协商,并且手机M1需要将屏幕A2进行冻屏,手机M2在接收到涂鸦后,对该屏幕B2进行录屏,并将涂鸦映射至手机M1的屏幕A2进行显示。
手机M1和手机M2之间进行屏幕双向分享的场景:
进一步地,在手机M1和手机M2之间进行视频通话时,用户还可以在图5C所示的界面上选择“屏幕双向分享”控件,以使得手机M1和手机M2之间进行屏幕双向分享。
请参见图4C,手机M1和手机M2之间进行屏幕双向分享的过程可以包括:
S501,手机M1检测用户N1进行发起屏幕双向分享的触发操作。
S502,手机M1根据用户N1的屏幕双向分享触发操作,通过服务器H向手机M2发送屏幕双向分享请求。
S503,手机M2检测用户N2进行确认屏幕双向分享的触发操作。
S504,手机M2根据用户N2的确认进行屏幕双向分享的触发操作,生成并向手机M1发送确认进行屏幕双向分享的应答信息。
S505,手机M1接收到该应答信息后,与手机M2建立第一屏幕分享流媒体传输通道和第二屏幕分享流媒体传输通道。
S506,手机M1显示屏幕分隔条(如图5H中虚线所示),以及显示位于屏幕分隔条两侧的屏幕A1和屏幕A2,其中,屏幕A1显示视频通话界面(视频通话时的对方影像)和手机M1的可操作界面(如手机M1的主桌面),屏幕A2显示手机M2分享的分享界面(如手机M2的主桌面);并且手机M1在屏幕A2的右侧显示侧边工具条。手机M2显示屏幕分隔条(如图5H中虚线所示),以及显示位于屏幕分隔条两侧的屏幕B1和屏幕B2,其中屏幕B1显示视频通话界面(视频通话时的对方影像)和手机M2的可操作界面(如手机M2的主桌面),屏幕B2显示手机M1分享的分享界面(如手机M1的主桌面);并且手机M2在屏幕B2的右侧显示侧边工具条。
S507,手机M1将屏幕A1分享至手机M2的屏幕B2进行显示,手机M2将屏幕B1分享至手机M1的屏幕A2进行显示。
示例性的,对于图5C所示的场景,手机M1和手机M2处于视频通话状态,用户N1点击“屏幕双向分享”控件,用户N2接收“屏幕双向分享”,则建立“屏幕双向分享”后,手机M1和手机M2的界面如图5H所示。该屏幕A1为手机M1的用于用户进行操作的屏幕,屏幕A1上可以显示手机M1的可操作界面(如桌面)和视频通话时的对方影像。屏幕B1为手机M2的用于用户进行操作的屏幕,屏幕B1上可以显示手机M2的可操作界面(如桌面)和视频通话时的对方影像。
需要说明的是,前述第一屏幕分享流媒体传输通道用于传输与屏幕A1和屏幕B2有关的显示数据和涂鸦数据等,第二屏幕分享流媒体传输通道用于传输与屏幕A2和屏幕B1有关的显示数据和涂鸦数据等。
手机M1和手机M2之间进行屏幕双向分享的另一场景:
进一步地,示例性的,如图5D所示,在手机M1和手机M2之间建立进行远程辅助时,用户还可以根据侧边工具条选择“屏幕双向分享”,以使得手机M1和手机M2之间建立屏幕双向分享。需要说明的是,此时,相比于前述S505中手机M1与手机M2之间需要建立第一屏幕分享流媒体传输通道和第二屏幕分享流媒体传输通道,只需要手机M1与手机M2建立另一屏幕分享流媒体传输通道,即可以完成两条屏幕分享流媒体传输通道的建立,其中,前述步骤S205中建立的屏幕分享流媒体传输通道为第一屏幕分享流媒体传输通道,该另一屏幕分享流媒体传输通道为第二屏幕分享流媒体传输通道。对于其他进行屏幕双向分享的过程与前述步骤S501-S507相同或类似,此处不再赘述。
本申请实施例提供的增强的视频通话方法,可以实现手机M1和手机M2之间的屏幕双向分享,使得手机M1和手机M2分别具备用于用户使用的屏幕,另外同时,还可以将该用于用户使用的屏幕作为分享屏幕分享至对端进行显示,以及显示对端的用于用户使用的屏幕,实现屏幕双向分享,有效地提高了用户的体验感。
进一步地,在手机M1和手机M2之间进行屏幕双向分享时,用户还可以根据如图5H所示的侧边工具条选择进行涂鸦。若手机M1检测到用户N1对涂鸦控件的操作,则如图5I所示,手机M1弹框显示用于用户选择进行涂鸦操作的涂鸦屏幕的控件,若用户选择屏幕A1,则手机M1默认允许用户N1对屏幕A1的涂鸦,手机M1和M2执行如步骤S301-S308所示的涂鸦过程。示例性的,进行涂鸦后的界面如图5J所示。
若用户选择屏幕A2,则需要手机M1和手机M2进行关于是否允许用户N1对屏幕A2的涂鸦的协商,在确定允许用户N1对屏幕A2的涂鸦时,手机M1接收用户N1对屏幕A2的涂鸦。且手机M1和M2执行类似于步骤S401-S413所示的过程。示例性的,进行涂鸦后的界面如图5K所示。
本申请实施例的一种实现方式中,在手机M1和手机M2进行屏幕双向分享时,用户还可以根据工具条选择进一步选择“操作映射”控件,则手机M1和手机M2进行关于操作映射的相关操作。请参见图4C,进行操作映射包括:
S801,手机M1检测用户N1对“操作映射”控件的触发操作。
示例性的,本申请实施例以进行应用卸载的场景为例进行说明,在进行应用卸载时,手机M1和手机M2的显示界面如图5L所示。
S802,手机M1根据用户N1对“操作映射”控件的触发操作,通过服务器H向手机M2发送操作映射请求。
S803,手机M2检测用户N2的确认进行操作映射的触发操作。
S804,手机M2根据用户N2的确认进行操作映射的触发操作,生成并向手机M1发送确认进行操作映射的应答信息。
S805,手机M1与手机M2建立操作映射信令通道。
S806,手机M2接收用户N2对屏幕B1的触发操作。
S807,手机M2根据用户N2对屏幕B1的触发操作生成操作映射信令。并同时执行S809。
手机M2捕获用户N2的触发操作,计算用户N2的操作区域,将操作及操作区域转换成对应的编码,并生成操作映射信令,该操作映射信令包括映射标记码、操作域、操作对象和操作码,其中,映射标记码用于识别信令类型为操作映射,操作域为根据屏幕比例记录的操作区域,操作对象为***作的控件对象识别码,由***自定义,操作码为用于识别点击、下拉、向上滑动、不规则滑动等操作行为。
S808,手机M2将操作映射信令通过操作映射信令通道发给手机M1。
S809,手机M2接收用户N2对屏幕B1的触发操作,并持续进行录屏,得到录屏数据。
如图5M所示,用户N2对屏幕B1的屏幕上的卸载图标进行点击触发操作。
S810,手机M2将第二屏幕B2的录屏数据发送给手机M1。
S811,手机M1接收操作映射信令,进行操作映射信令解析。
S812,手机M1根据解析结果显示操作映射界面。
手机M1接收手机M2输出的操作映射信令,首先手机M1确认收到的信令是操作映射信令,再根据显示的屏幕进行判断是否存在操作映射信令中的用户N2进行操作的操作区域(如用户N2手指触发的卸载控件以及周侧的区域)与用户N2进行操作的操作对象(如卸载控件),且操作对象可进行信令中对应操作码的操作行为,满足上述条件时,手机M1根据该操作区域、控件对象、操作等信息显示操作映射提示,例如,在手机M1的屏幕A1上用框线标记操作提示。
进一步地,进行操作映射后的显示界面如图5N所示。
S813,手机M1检测用户N1根据操作映射进行的触发操作。
如图5O所示,用户N1在屏幕A1上进行触发操作。
S814,手机M1根据用户N1的触发操作显示对应于该触发操作的界面。
手机M1根据屏幕A1上标记的操作提示及屏幕A2上显示的操作标记来获得操作提示,从而实现引导用户N1通过手机M1进行自学习操作的效果。
S815,手机M1生成关于触发操作已完成的应答信息,并通过操作映射信令通道将应答信息发送给手机M2。
S816,手机M2根据应答信息生成提示信息,并在屏幕B1上进行显示。
该提示信息可以是以toast(提示框)信息的方式进行传输。
手机M1根据操作映射提示操作后,手机M1检测用户N1的操作行为,将映射学习结果反馈给手机M2。手机M2通过toast提示用户对端已完成学习,可继续后续操作。
需要说明的是,为便于说明,前述过程中,对手机M1与服务器H之间的各信息的通过Push服务器P1进行传递的过程,以及对手机M2与总服务器H之间的各信息的通过Push服务器P2进行传递的过程,进行了省略,但是本领域技术人员应当理解,其都为通过Push服务器进行推送传输。
进一步地,本申请的一种实现方式中,在进行远程辅助时,对于步骤S206,手机M1和手机M2也可以显示如图5P所示的界面,即手机M1将用户N2的视频通话图像显示在屏幕的右下角,其他区域显示主桌面,手机M2将用户N1的视频通话图像显示在屏幕的右下角,其他区域显示手机M1分享的主桌面。当然,在进行远程辅助时,对于步骤S206,其也可以是其他类型的显示界面。
需要说明的是,前述手机M1和手机M1将各自的屏幕至少划分为两个显示区域,包括:若手机M1和手机M2分别只设置有一个物理屏幕,则手机M1和手机M2在各自的一个屏幕的中间位置显示分隔条以将屏幕划分为两个显示区域。
或者若手机M1和手机M2包括多个物理屏幕,则手机M1和手机M2从多个屏幕中选择至少两个屏幕。该手机M1和手机M2可以是多屏终端,其可以从多个屏幕中进行选择作为分享屏幕和用于显示对端手机的分享屏幕的屏幕。示例性的,如图6A所示,手机M1和手机M2包括左右两个屏幕物理屏幕,则将该两个屏幕分别作为前述的屏幕A1和屏幕A2、及屏幕B1和屏幕B2。进一步地,在前述屏幕分享的场景中,该两个屏幕显示的界面与与分屏后显示的界面相同,此处不再赘述。
另外,请参见图6B,本申请实施例中,手机M1和手机M2的屏幕形状还可以如图6B所示,在进行分屏时,将屏幕分屏为图6C所示的状态。
进一步地,本申请实施例中,手机M1和电子设备C之间通信连接,且手机M1将与手机M2之间进行视频通话的视频通话界面分享至电子设备C进行显示;进一步地,手机M2和电子设备D之间通信连接,且手机M2将与手机M1之间进行视频通话的视频通话界面分享至电子设备D进行显示。示例性的,对应于前述图5H所示场景的显示界面,手机M1和手机M2的显示界面如图6D所示。其他场景下,同样的,是将视频通话界面分享至该电子设备C和电子设备D进行显示,此处不再赘述。
进一步地,本申请中,如图6E所示,手机M1和电子设备C之间通信连接,手机M2和电子设备D之间通信连接,且手机M1和手机M2建立视频通话,进行前述的远程辅助时,还可以进行分享屏幕的设备的选择操作。
如图6E所示,若手机M1检测用户对远程辅助或者屏幕双向分享控件的操作,则手机M1和手机M2显示的界面如图6F所示,其中,手机M1的屏幕上显示用于用户N1进行屏幕分享设备选择的控件,若用户N1选择手机M1,则手机M1将手机M1的屏幕分享至手机M2显示,若用户N1选择电子设备C,则手机M1将电子设备C的屏幕分享至手机M2显示。进一步地,手机M2的屏幕上显示用于用户N2进行接收分享屏幕设备选择的控件,若用户N2选择手机M2,则手机M2显示手机M1分享的屏幕,若用户N2选择电子设备D,则手机M2使电子设备D显示手机M1分享的屏幕。
需要说明的是,本申请实施例中,对屏幕的具体结构、形状不做限定,其可以根据需要设置。
参见图7,图7所示为根据本申请实施例的一实施方式提供的电子设备900的另一结构示意图。电子设备900可以包括耦合到控制器中枢904的一个或多个处理器901。对于至少一个实施例,控制器中枢904经由诸如前端总线(FSB)之类的多分支总线、诸如快速通道互连(QPI)之类的点对点接口、或者类似的连接与处理器901进行通信。处理器901执行控制一般类型的数据处理操作的指令。在一实施例中,控制器中枢904包括,但不局限于,图形存储器控制器中枢(GMCH)(图中未示出)和输入/输出中枢(IOH)(其可以在分开的芯片上)(图中未示出),其中GMCH包括存储器和图形控制器并与IOH耦合。
电子设备900还可包括耦合到控制器中枢904的协处理器906和存储器902。或者,存储器902和GMCH中的一个或两者可以被集成在处理器901内(如本申请实施例中所描述的),存储器902和协处理器906直接耦合到处理器901以及控制器中枢904,控制器中枢904与IOH处于单个芯片中。
在一个实施例中,协处理器906是专用处理器,协处理器906的任选性质用虚线表示在图7中。
在一个实施例中,电子设备900可以进一步包括网络接口(NIC)903。网络接口903可以包括收发器,用于为电子设备900提供无线电接口,进而与任何其他合适的设备(如前端模块,天线等)进行通信。在各种实施例中,网络接口903可以与电子设备900的其他组件集成。网络接口903可以实现上述实施例中的通信单元的功能。
电子设备900可以进一步包括输入/输出(I/O)设备905。
值得注意的是,图7仅是示例性的。即虽然图7中示出了电子设备900包括处理器901、控制器中枢904、存储器902等多个器件,但是,在实际的应用中,使用本申请实施例各方法的设备,可以仅包括电子设备900各器件中的一部分器件,例如,可以仅包含处理器901和NIC903。图7中可选器件的性质用虚线示出。
在该电子设备900的存储器中可以包括用于存储数据和/或指令的一个或多个有形的、非暂时性计算机可读介质。计算机可读存储介质中存储有指令,具体而言,存储有该指令的暂时和永久副本。
本申请实施例中,该电子设备900可以是手机,该电子设备的存储器中存储的指令可以包括:由处理器中的至少一个单元执行时导致手机实施如前述提到的增强的视频通话方法的指令。
本申请实施例公开的机制的各实施例均可以以软件、硬件、固件或这些实现方法的组合等方式实现。本申请实施例的实施例可实现为在可编程***上执行的计算机程序或程序代码,该可编程程序包括至少一个处理器、存储器(或存储***,包括易失性和非易失性存储器和/或存储单元)。
可将程序代码应用于输入指令,以执行文本描述的各功能并生成输出信息。可以按已知方式将输出信息应用于一个或多个输出设备。可以理解,在本申请实施例的实施例中,处理***可以是微处理器、数字信号处理器(DSP)、微控制器、专用集成电路(ASIC)等,和/或其任何组合。根据另一方面,处理器可以是单核处理器、多核处理器等,和/或其任何组合。
程序代码可以用高级程序化语言或面向对象的编程语言来实现,以便与处理器通信。在需要时,也可用汇编语言或机器语言来实现程序代码。事实上,文本中描述的机制不限于任何特定编程语言的范围。在任一情形下,该语言可以是编译语言或解释语言。
在一些情况下,所公开的实施例可以以硬件、固件、软件或其他任何组合来实现。所公开的实施例可以被实现为一个或多个暂时或非暂时性及其可读(例如,计算机可读)存储介质承载或存储在其上的指令,其可以由一个多个处理器读取和执行。例如,指令通过网络或气压计算机可读取介质分发。因此,机器可读取介质可以包括用于机器(例如,计算机)可读的形式存储或传输信息的任何机制,包括但不限于,软盘、光盘、光碟、只读存储器(CD-ROMs)、磁光盘、只读存储器(ROM)、随机存取存储器(RAM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、磁卡或光卡、闪卡、或用于利用因特网以电、光、声或其他形式的传播信号来传输信息(例如,载波、红外信号数字等)的有形的机器可读取存储器。因此,机器可读取介质包括适合于以机器可读的形式存储或传输电子指令或信息的任何类型的机器可读介质。
Claims (25)
1.一种视频通话方法,应用于第一电子设备,其特征在于,所述方法包括:
与第三电子设备建立通信连接,其中所述第三电子设备显示第一用户界面;
与第二电子设备建立视频通话流媒体传输通道,显示第一视频通话界面,并在所述第一视频通话界面上显示第一控件;
检测到用户对所述第一控件的第一操作;
响应于所述第一操作,接收所述第三电子设备发送的第一屏幕流媒体数据,其中所述第一屏幕流媒体数据与所述第一用户界面对应;
将所述第一屏幕流媒体数据发送给所述第二电子设备,使得所述第二电子设备显示所述第一用户界面;
接收所述第二电子设备发送的第一远程辅助信令;
向所述第三电子设备发送所述第一远程辅助信令,使得所述第三电子设备执行所述第一远程辅助信令后显示第二用户界面。
2.根据权利要求1所述的方法,其特征在于,所述第一远程辅助指令是针对第一应用的操作指令。
3.根据权利要求2所述的方法,其特征在于,所述第一应用安装在所述第三电子设备上。
4.根据权利要求2或3所述的方法,其特征在于,所述针对第一应用的操作指令是针对所述第一应用的卸载指令。
5.根据权利要求1-4任一项所述的方法,其特征在于,在所述将所述第一屏幕流媒体数据发送给所述第二电子设备之前,所述方法还包括:
向所述第二电子设备发送第一屏幕共享请求;
接收到所述第二电子设备发送的第一应答信息。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述在所述第一视频通话界面上显示第一控件,包括:
所述第一电子设备接收到用于触发屏幕共享的请求;
响应于所述用于触发屏幕共享的请求,在所述第一视频通话界面上显示所述第一控件。
7.一种视频通话方法,其特征在于,所述方法包括:
与第二电子设备建立视频通话流媒体传输通道,显示第二视频通话界面;
接收所述第二电子设备发送的第二屏幕流媒体数据,其中所述第二屏幕流媒体数据与所述第四电子设备显示的第三用户界面相对应,其中所述第二电子设备与所述第四电子设备建立通信连接;
显示所述第三用户界面;
向所述第二电子设备发送第二远程辅助信令,使得所述第四电子设备执行所述第二远程辅助信令后显示第四用户界面。
8.根据权利要求7所述的方法,其特征在于,所述第二远程辅助指令是针对第二应用的操作指令。
9.根据权利要求8所述的方法,其特征在于,所述第二应用安装在所述第四电子设备上。
10.根据权利要求8或9所述的方法,其特征在于,所述针对第二应用的操作指令是针对所述第二应用的卸载指令。
11.根据权利要求7-10任一项所述的方法,其特征在于,在所述接收所述第二电子设备发送的第二屏幕流媒体数据之前,所述方法还包括:
接收所述第二电子设备发送的第二屏幕共享请求;
向所述第二电子设备发送第二应答信息。
12.一种视频通话方法,应用于第二电子设备,其特征在于,所述方法包括:
与第一电子设备建立视频通话流媒体传输通道,显示第三视频通话界面,其中所述第一电子设备与第三电子设备建立通信连接;
接收所述第一电子设备发送的屏幕共享请求,所述屏幕共享请求用于请求本机加入屏幕共享;
响应于所述屏幕共享请求,显示第二控件;
检测到用户对所述第二控件的第二操作;
响应于所述第二操作,接收所述第一电子设备发送的第三屏幕流媒体数据,在本机上显示第五用户界面,其中所述第五用户界面是所述第三电子设备显示的用户界面,所述第三屏幕流媒体数据与第五用户界面对应;
发送第三远程辅助信令至所述第一电子设备,使得所述第三电子设备执行所述第三远程辅助信令后显示第六用户界面。
13.根据权利要求12所述的方法,所述第三远程辅助指令是针对第三应用的操作指令。
14.根据权利要求13所述的方法,所述第三应用安装在所述第三电子设备上。
15.根据权利要求13或14所述的方法,其特征在于,所述针对第三应用的操作指令是针对所述第三应用的卸载指令。
16.根据权利要求12-15任一项所述的视频通话方法,其特征在于,所述方法还包括:
所述第二电子设备还与第四电子设备建立通信连接;
显示第三控件;
检测到用户对所述第三控件的第三操作;
响应于所述第三操作,向所述第四电子设备发送所述第三屏幕流媒体数据,使得所述第四电子设备显示所述第五用户界面。
17.根据权利要求12-15任一项所述的视频通话方法,其特征在于,所述方法还包括:
所述第二电子设备还与第四电子设备建立通信连接;
显示第三控件;
检测到用户对所述第三控件的第三操作;
响应于所述第三操作,向所述第四电子设备发送所述第二视频通话界面的流媒体数据,使得所述第四电子设备显示所述第二视频通话界面。
18.一种电子设备,其特征在于,所述电子设备包括摄存储器、处理器、显示器,其中所述存储器,用于存储计算机程序,所述计算机程序包括程序指令;所述处理器,用于执行所述程序指令,以使所述电子设备执行如权利要求1-6任一项所述的视频通话方法,或以使所述电子设备执行如权利要求7-11任一项所述的视频通话方法,或以使所述电子设备执行如权利要求12-17任一项所述的视频通话方法。
19.一种***,所述***包括第一电子设备、第二电子设备、第三电子设备,其特征在于,
所述第一电子设备用于与所述第二电子设备建立视频通话流媒体传输通道,显示第四视频通话界面,其中所述第一电子设备与所述第三电子设备建立通信连接,所述第三电子设备显示第七用户界面;
所述第一电子设备用于在所述第四视频通话界面上显示第四控件;
所述第一电子设备用于检测到用户对所述第四控件的第四操作,将所述第三电子设备确定为屏幕分享设备;
所述第三电子设备用于发送第四屏幕流媒体数据给所述第一电子设备,其中所述第四屏幕流媒体数据与所述第七用户界面对应;
所述第一电子设备用于将所述第四屏幕流媒体数据发送给所述第二电子设备;
所述第二电子设备用于接收所述第四屏幕流媒体数据后显示所述第七用户界面;
所述第二电子设备还用于发送第四远程辅助信令至所述第一电子设备,使得所述第三电子设备执行所述显示第八用户界面。
20.根据权利要求19所述的***,其特征在于,所述第四远程辅助指令是针对第四应用的操作指令。
21.根据权利要求20所述的***,所述第四应用安装在所述第三电子设备上。
22.根据权利要求20或21所述的***,其特征在于,所述针对第四应用的操作指令是针对所述第四应用的卸载指令。
23.根据权利要求19-22任一项所述的***,其特征在于,所述***还包括第四电子设备,其中所述第四电子设备用于与所述第二电子设备建立通信连接;
所述第二电子设备还用于显示第五控件;
所述第二电子设备还用于检测到用户对所述第五控件的第五操作;
所述第二电子设备还用于响应于所述第五操作,向所述第四电子设备发送所述第四屏幕流媒体数据,使得所述第四电子设备显示所述第七用户界面。
24.根据权利要求19-22任一项所述的***,其特征在于,所述***还包括第四电子设备,其中所述第四电子设备用于与所述第二电子设备建立通信连接;
所述第二电子设备还用于显示第五控件;
所述第二电子设备还用于检测到用户对所述第五控件的第五操作;
所述第二电子设备还用于响应于所述第四操作,向所述第四电子设备发送所述第四视频通话界面的流媒体数据,使得所述第四电子设备显示所述第四视频通话界面。
25.一种计算机可读取存储介质,其特征在于,所述计算机可读取存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令被电子设备运行以使电子设备执行如权利要求1-6任一项所述的视频通话方法,或以使所述电子设备执行如权利要求7-11任一项所述的视频通话方法,或以使所述电子设备执行如权利要求12-17任一项所述的视频通话方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211040405.9A CN115643359B (zh) | 2020-02-28 | 2020-02-28 | 一种增强的视频通话方法和***、电子设备 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010131423.2A CN113329201B (zh) | 2020-02-28 | 2020-02-28 | 一种增强的视频通话方法和***、电子设备 |
CN202211040405.9A CN115643359B (zh) | 2020-02-28 | 2020-02-28 | 一种增强的视频通话方法和***、电子设备 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010131423.2A Division CN113329201B (zh) | 2020-02-28 | 2020-02-28 | 一种增强的视频通话方法和***、电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115643359A true CN115643359A (zh) | 2023-01-24 |
CN115643359B CN115643359B (zh) | 2023-08-22 |
Family
ID=77412872
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010131423.2A Active CN113329201B (zh) | 2020-02-28 | 2020-02-28 | 一种增强的视频通话方法和***、电子设备 |
CN202211040405.9A Active CN115643359B (zh) | 2020-02-28 | 2020-02-28 | 一种增强的视频通话方法和***、电子设备 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010131423.2A Active CN113329201B (zh) | 2020-02-28 | 2020-02-28 | 一种增强的视频通话方法和***、电子设备 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20230138804A1 (zh) |
EP (1) | EP4099690A4 (zh) |
CN (2) | CN113329201B (zh) |
WO (1) | WO2021169628A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11930105B1 (en) * | 2021-10-21 | 2024-03-12 | Wells Fargo Bank, N.A. | Extensible quantum random number generation |
CN113873193B (zh) * | 2021-11-29 | 2022-04-08 | 见面(天津)网络科技有限公司 | 远程图片展示方法、装置、设备及存储介质 |
CN114500129A (zh) * | 2021-12-20 | 2022-05-13 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
CN114374682B (zh) * | 2022-01-07 | 2023-03-28 | 深圳看到科技有限公司 | 数据分享方法、***及存储介质和终端设备 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104469247A (zh) * | 2013-09-15 | 2015-03-25 | 联想(北京)有限公司 | 一种信息处理方法、信息显示方法及电子设备 |
CN105224269A (zh) * | 2014-06-26 | 2016-01-06 | 联想(北京)有限公司 | 一种显示控制方法及电子设备 |
CN108933965A (zh) * | 2017-05-26 | 2018-12-04 | 腾讯科技(深圳)有限公司 | 屏幕内容共享方法、装置及存储介质 |
CN109495711A (zh) * | 2018-12-29 | 2019-03-19 | 南京维沃软件技术有限公司 | 视频通话处理方法、发送终端、接收终端及电子设备 |
CN109542378A (zh) * | 2018-11-19 | 2019-03-29 | 上海闻泰信息技术有限公司 | 屏幕共享方法、装置、电子设备及可读存储介质 |
CN109862301A (zh) * | 2019-02-25 | 2019-06-07 | 北京云中融信网络科技有限公司 | 屏幕视频共享方法、装置及电子设备 |
US10516851B1 (en) * | 2018-09-19 | 2019-12-24 | Snap Inc. | User interfaces to facilitate multiple modes of electronic communication |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101447998B (zh) * | 2008-12-25 | 2012-07-11 | 广东威创视讯科技股份有限公司 | 桌面共享方法及*** |
CN101893964A (zh) * | 2010-07-21 | 2010-11-24 | 中兴通讯股份有限公司 | 移动终端远程控制方法及移动终端 |
US9235312B2 (en) * | 2010-10-25 | 2016-01-12 | Dedo Interactive, Inc. | Synchronized panel technology |
KR101901919B1 (ko) * | 2012-08-27 | 2018-09-27 | 삼성전자주식회사 | 휴대 단말기 및 메신저 영상 서비스 운용 방법 |
US20150033148A1 (en) * | 2013-07-23 | 2015-01-29 | Salesforce.Com, Inc. | Private screen sharing functionality in an information networking environment |
CN104426939B (zh) * | 2013-08-26 | 2018-02-27 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
US10057305B2 (en) * | 2014-09-10 | 2018-08-21 | Microsoft Technology Licensing, Llc | Real-time sharing during a phone call |
US20160088257A1 (en) * | 2014-09-24 | 2016-03-24 | Lg Cns Co., Ltd. | Medical care provider terminal, patient terminal, and video call method thereof |
US9921796B2 (en) * | 2015-04-24 | 2018-03-20 | Kyocera Corporation | Sharing of input information superimposed on images |
CN104899361B (zh) * | 2015-05-19 | 2018-01-16 | 华为技术有限公司 | 一种远程操控方法及装置 |
CN107835464B (zh) * | 2017-09-28 | 2020-10-16 | 努比亚技术有限公司 | 视频通话窗口画面处理方法、终端和计算机可读存储介质 |
CN107864358B (zh) * | 2017-11-28 | 2020-03-17 | 上海掌门科技有限公司 | 一种视频通话中的共享对象操作方法 |
CN109408168B (zh) * | 2018-09-25 | 2021-11-19 | 维沃移动通信有限公司 | 一种远程交互方法和终端设备 |
CN110798652A (zh) * | 2019-10-17 | 2020-02-14 | 广州国音智能科技有限公司 | 共享屏幕的控制方法、终端、装置及可读存储介质 |
-
2020
- 2020-02-28 CN CN202010131423.2A patent/CN113329201B/zh active Active
- 2020-02-28 CN CN202211040405.9A patent/CN115643359B/zh active Active
-
2021
- 2021-01-08 WO PCT/CN2021/070874 patent/WO2021169628A1/zh unknown
- 2021-01-08 EP EP21761284.5A patent/EP4099690A4/en active Pending
- 2021-01-08 US US17/907,915 patent/US20230138804A1/en active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104469247A (zh) * | 2013-09-15 | 2015-03-25 | 联想(北京)有限公司 | 一种信息处理方法、信息显示方法及电子设备 |
CN105224269A (zh) * | 2014-06-26 | 2016-01-06 | 联想(北京)有限公司 | 一种显示控制方法及电子设备 |
CN108933965A (zh) * | 2017-05-26 | 2018-12-04 | 腾讯科技(深圳)有限公司 | 屏幕内容共享方法、装置及存储介质 |
US10516851B1 (en) * | 2018-09-19 | 2019-12-24 | Snap Inc. | User interfaces to facilitate multiple modes of electronic communication |
CN109542378A (zh) * | 2018-11-19 | 2019-03-29 | 上海闻泰信息技术有限公司 | 屏幕共享方法、装置、电子设备及可读存储介质 |
CN109495711A (zh) * | 2018-12-29 | 2019-03-19 | 南京维沃软件技术有限公司 | 视频通话处理方法、发送终端、接收终端及电子设备 |
CN109862301A (zh) * | 2019-02-25 | 2019-06-07 | 北京云中融信网络科技有限公司 | 屏幕视频共享方法、装置及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN113329201B (zh) | 2022-09-02 |
WO2021169628A1 (zh) | 2021-09-02 |
CN113329201A (zh) | 2021-08-31 |
EP4099690A1 (en) | 2022-12-07 |
US20230138804A1 (en) | 2023-05-04 |
EP4099690A4 (en) | 2023-07-26 |
CN115643359B (zh) | 2023-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113329201B (zh) | 一种增强的视频通话方法和***、电子设备 | |
CN110381197B (zh) | 多对一投屏中音频数据的处理方法、装置及*** | |
US11025686B2 (en) | Network call method and apparatus, terminal, and server | |
EP3110188A1 (en) | Method and device for accessing operator network | |
WO2016192323A1 (zh) | 视频通信方法及装置 | |
CN112398855B (zh) | 应用内容跨设备流转方法与装置、电子设备 | |
EP4109891A1 (en) | Device interaction method and electronic device | |
EP3046352B1 (en) | Method by which portable device displays information through wearable device, and device therefor | |
EP3264774B1 (en) | Live broadcasting method and device for live broadcasting | |
US9807219B2 (en) | Method and terminal for executing user instructions | |
EP3076745B1 (en) | Methods and apparatuses for controlling wireless access point | |
US20190051147A1 (en) | Remote control method, apparatus, terminal device, and computer readable storage medium | |
US9826556B2 (en) | Apparatus and method for data transmission and reception of a mobile terminal | |
EP4246347A1 (en) | Method for authorizing by using another device, electronic devices and system | |
CN111245854B (zh) | 一种媒体传输方法、媒体控制方法及装置 | |
US10123208B2 (en) | Method and device for controlling access | |
CN114647390A (zh) | 一种增强的屏幕共享方法和***、电子设备 | |
EP3128722A1 (en) | File transmission method and apparatus, computer program and recording medium | |
US20220346083A1 (en) | Methods and apparatuses for determining network allocation vector, and storage media | |
WO2023020012A1 (zh) | 设备之间的数据通信方法、设备、存储介质及程序产品 | |
EP3499857B1 (en) | Audio data processing method, terminal device, and storage medium | |
CN110366028B (zh) | 屏幕视频获取方法及装置 | |
JP2018503149A (ja) | 情報入力方法、装置、プログラム及び記録媒体 | |
CN110896567A (zh) | 基于wifi的数据传输方法及设备 | |
CN113407348B (zh) | 应用进程的管理方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |