CN114006971A - 一种投屏窗口音频控制方法、设备及计算机可读存储介质 - Google Patents

一种投屏窗口音频控制方法、设备及计算机可读存储介质 Download PDF

Info

Publication number
CN114006971A
CN114006971A CN202111263096.7A CN202111263096A CN114006971A CN 114006971 A CN114006971 A CN 114006971A CN 202111263096 A CN202111263096 A CN 202111263096A CN 114006971 A CN114006971 A CN 114006971A
Authority
CN
China
Prior art keywords
audio
track
screen projection
game
audio data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111263096.7A
Other languages
English (en)
Other versions
CN114006971B (zh
Inventor
廖松茂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nubia Technology Co Ltd
Original Assignee
Nubia Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nubia Technology Co Ltd filed Critical Nubia Technology Co Ltd
Priority to CN202111263096.7A priority Critical patent/CN114006971B/zh
Publication of CN114006971A publication Critical patent/CN114006971A/zh
Application granted granted Critical
Publication of CN114006971B publication Critical patent/CN114006971B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454—Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/162—Interface to dedicated audio devices, e.g. audio drivers, interface to CODECs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72427—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for supporting games or graphical animations

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Telephone Function (AREA)

Abstract

本发明公开了一种投屏窗口音频控制方法、设备及计算机可读存储介质，其中，该方法包括：在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据；检测所述音频数据的音轨类型；若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放；若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放。实现了一种人性化的投屏窗口音频控制方案，以使得投屏模式下可以得到与画面隔离相统一的音频隔离效果，增强了用户的投屏使用体验。

Description

一种投屏窗口音频控制方法、设备及计算机可读存储介质
技术领域
本发明涉及移动通信领域，尤其涉及一种投屏窗口音频控制方法、设备及计算机可读存储介质。
背景技术
现有技术中，随着智能终端设备的不断发展，基于智能终端设备的投屏应用越来越受到用户的青睐。以手机为例，在现有的小窗口投屏应用过程中，手机自身的画面在投屏过程中不会受到投屏小窗口的影响，也即，完全实现了投屏画面和手机本身使用画面的完美隔离。
但是，即使实现了投屏画面和手机本身使用画面的完美隔离，两个来源的声音却还是混在一起的，即投屏时候发现投屏听到的声音是整个***的所有声音的混合。具体的，当用户投屏玩游戏的同时，又在手机上播放音乐，此时，无论投屏还是手机听到都是同一个声音，也即音乐和游戏的混合声音，并没有进行隔离，由此，导致二者声音上还是无法区隔离。
因此，亟需一种在投屏模式时，基于画面上隔离的基础，进一步实现声音的隔离。
发明内容
为了解决现有技术中的上述技术缺陷，本发明提出了一种投屏窗口音频控制方法，该方法包括：
在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据。
检测所述音频数据的音轨类型。
若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放。
若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放。
可选地，所述在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据，包括：
当所述被投端与所述投屏端建立投屏通信连接时，监测被投端所启动的投屏窗口。
获取所述投屏窗口内的应用程序，并记录与所述应用程序对应的进程，作为所述投屏窗口进程。
可选地，所述在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据，还包括：
所述被投端与所述投屏端建立投屏通信连接时，监测所述被投端的音频写入数据。
当所述音频写入数据中存在与所述投屏窗口进程的音频数据时，拦截所述音频数据。
可选地，所述检测所述音频数据的音轨类型，包括：
获取所述应用程序的程序信息和所述被投端当前的状态信息。
根据所述程序信息和/或所述状态信息预设待检测所述音轨类型。
可选地，所述若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放，包括：
若音频数据为游戏音轨或麦克风音轨的单一音轨类型，则检测所述游戏音轨是否属于同一频率和同一声道数，或者，检测所述麦克风音轨是否属于同一频率和同一声道数。
若所述游戏音轨属于同一频率和同一声道数，或者，所述麦克风音轨属于同一频率和同一声道数，则将所述音频数据传递至与所述被投端对应的投屏端进行播放。
可选地，所述若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放，包括：
若所述游戏音轨不属于同一频率或同一声道数，或者，所述麦克风音轨不属于同一频率和同一声道数，则将所述游戏音轨或所述麦克风音轨按预设的固定频率和声道进行合成。
将处理后的所述音频数据传递至与所述被投端对应的投屏端进行播放。
可选地，若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放，包括：
若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则检测所述游戏音轨和所述麦克风音轨的音轨类型。
确定所述游戏音轨包括不属于同一频率或同一声道数的游戏背景音和游戏主体音，或者所述麦克风音轨包括不属于同一频率或同一声道数的队友语音和自身语音。
可选地，若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放，还包括：
根据所述程序信息和/或所述状态信息预设音频处理参数。
根据所述音频处理参数对所述游戏背景音、所述游戏主体音、所述队友语音以及所述自身语音进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放。
本发明还提出了一种投屏窗口音频控制设备，该设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如上任一项所述的投屏窗口音频控制方法的步骤。
本发明还提出了一种计算机可读存储介质，该计算机可读存储介质上存储有投屏窗口音频控制程序，投屏窗口音频控制程序被处理器执行时实现如上述任一项所述的投屏窗口音频控制方法的步骤。
实施本发明的投屏窗口音频控制方法、设备及计算机可读存储介质，通过在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据；检测所述音频数据的音轨类型；若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放；若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放。实现了一种人性化的投屏窗口音频控制方案，以使得投屏模式下可以得到与画面隔离相统一的音频隔离效果，增强了用户的投屏使用体验。
附图说明
下面将结合附图及实施例对本发明作进一步说明，附图中：
图1是本发明涉及的一种移动终端的硬件结构示意图；
图2是本发明实施例提供的一种通信网络***架构图；
图3是本发明投屏窗口音频控制方法第一实施例的流程图；
图4是本发明投屏窗口音频控制方法第二实施例的流程图；
图5是本发明投屏窗口音频控制方法第三实施例的流程图；
图6是本发明投屏窗口音频控制方法第四实施例的流程图；
图7是本发明投屏窗口音频控制方法第五实施例的流程图；
图8是本发明投屏窗口音频控制方法第六实施例的流程图；
图9是本发明投屏窗口音频控制方法第七实施例的流程图；
图10是本发明投屏窗口音频控制方法第八实施例的流程图。
具体实施方式
应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。
在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身没有特定的意义。因此，“模块”、“部件”或“单元”可以混合地使用。
终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant，PDA)、便捷式媒体播放器(Portable Media Player，PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端，以及诸如数字TV、台式计算机等固定终端。
后续描述中将以移动终端为例进行说明，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。
请参阅图1，其为实现本发明各个实施例的一种移动终端的硬件结构示意图，该移动终端100可以包括：RF(Radio Frequency，射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图1中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
下面结合图1对移动终端的各个部件进行具体的介绍：
射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将基站的下行信息接收后，给处理器110处理；另外，将上行的数据发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于GSM(Global System of Mobile communication，全球移动通讯***)、GPRS(General Packet Radio Service，通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000，码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access，时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution，频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution，分时双工长期演进)等。
WiFi属于短距离无线传输技术，移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102，但是可以理解的是，其并不属于移动终端的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。
音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。
A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
移动终端100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在移动终端100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)，并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，并能接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种，具体此处不做限定。
进一步的，触控面板1071可覆盖显示面板1061，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中，触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能，具体此处不做限定。
接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的数据，执行移动终端的各种功能和处理数据，从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元；优选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作***、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。
移动终端100还可以包括给各个部件供电的电源111(比如电池)，优选的，电源111可以通过电源管理***与处理器110逻辑相连，从而通过电源管理***实现管理充电、放电、以及功耗管理等功能。
尽管图1未示出，移动终端100还可以包括蓝牙模块等，在此不再赘述。
为了便于理解本发明实施例，下面对本发明的移动终端所基于的通信网络***进行描述。
请参阅图2，图2为本发明实施例提供的一种通信网络***架构图，该通信网络***为通用移动通信技术的LTE***，该LTE***包括依次通讯连接的UE(User Equipment，用户设备)201，E-UTRAN(Evolved UMTS Terrestrial Radio Access Network，演进式UMTS陆地无线接入网)202，EPC(Evolved Packet Core，演进式分组核心网)203和运营商的IP业务204。
具体地，UE201可以是上述终端100，此处不再赘述。
E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中，eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接，eNodeB2021连接到EPC203，eNodeB2021可以提供UE201到EPC203的接入。
EPC203可以包括MME(Mobility Management Entity，移动性管理实体)2031，HSS(Home Subscriber Server，归属用户服务器)2032，其它MME2033，SGW(Serving Gate Way，服务网关)2034，PGW(PDN Gate Way，分组数据网络网关)2035和PCRF(Policy andCharging Rules Function，政策和资费功能实体)2036等。其中，MME2031是处理UE201和EPC203之间信令的控制节点，提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能，并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送，PGW2035可以提供UE 201的IP地址分配以及其它功能，PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点，它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。
IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem，IP多媒体子***)或其它IP业务等。
虽然上述以LTE***为例进行了介绍，但本领域技术人员应当知晓，本发明不仅仅适用于LTE***，也可以适用于其他无线通信***，例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络***等，此处不做限定。
基于上述移动终端硬件结构以及通信网络***，提出本发明方法各个实施例。
实施例一
图3是本发明投屏窗口音频控制方法第一实施例的流程图。一种投屏窗口音频控制方法，该方法包括：
S1、在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据。
S2、检测所述音频数据的音轨类型。
S3、若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放。
S4、若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放。
可选地，以运行安卓操作***的手机为例进行说明。具体的，首先，本实施例的实现思路是，将投屏小窗的声音进行剥离，也即，将投屏小窗的声音单独地输出到当前已建立的投屏通道，而不需要输出到当前手机的外放通道。
在本实施例中，在确定上述实现思路后，实时地检测投屏小窗的具体应用，也即，识别出具体应用对应的进程；其中，实现的方式是，在***的音频跟踪(AudioTrack)中，以写入音频的方法(write)进行上述具体应用的进程识别。
在本实施例中，考虑到投屏的具体应用本身要播放的所有声音都是需要通过上述音频跟踪(AudioTrack)的写入音频的方法(write)才可以进行，因此，本实施例将投屏的具体应用作为写入音频的方法(write)拦截依据。
在本实施例中，若检测到投屏的具体应用的进程是小窗进程，则将该进程传入的音频数据进行拦截处理。由此，使得上述进程传入的音频数据不会被传递到后续的音频合成服务(AudioFlinger)中。可以理解的是，若上述进程传入的音频数据被传递到后续的音频合成服务(AudioFlinger)中，则该进程传入的音频数据会输出到手机自身的外放，从而会造成音频干扰。
在本实施例中，将进程传入的音频数据作为音频缓存(buffer)传递到已建立的投屏通道，具体的，可以采用套接字(socket)的方式进行数据传递，以此使得上述进程传入的音频数据能够到达与被投端建立投屏连接的投屏端。
在上述实施例中，实现了对小窗的声音进行了拦截发送到并发送投屏端，可以理解的是，若上述小窗应用只有一个音轨跟踪(AudioTrack)，即一个音轨跟踪(AudioTrack)是固定的频率和声道，此时，直接数据传递到投屏电脑端，即可实现音频播放。但是，考虑到较多的投屏的具体应用，都不仅只有一个音轨，例如，和平精英等相关的游戏程序，一般具有一个游戏背景音轨和一个麦克风说话音轨，且上述两个音轨采用完全不一样的频率和声道数。因此，本实施例将在上述音轨的接受端进行区分，也即，区分音轨进行发送和接收，然后，再将接受到的数据进行音轨合成和重采样，最后，将处理后的数据传递至投屏端进行播放。
可以看出，在本实施例中，巧妙使用了音轨跟踪(AudioTrack)相关的进程，以此区分声音的应用来源，然后，在手机音频的合成阶段对投屏应用声音和非投屏应用声音进行分离合成及分离输出，实现了投屏模式下，与画面隔离相统一的音频隔离效果。
本实施例的有益效果在于，通过在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据；检测所述音频数据的音轨类型；若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放；若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放。实现了一种人性化的投屏窗口音频控制方案，以使得投屏模式下可以得到与画面隔离相统一的音频隔离效果，增强了用户的投屏使用体验。
实施例二
图4是本发明投屏窗口音频控制方法第二实施例的流程图，基于上述实施例，所述在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据，包括：
S11、当所述被投端与所述投屏端建立投屏通信连接时，监测被投端所启动的投屏窗口。
S12、获取所述投屏窗口内的应用程序，并记录与所述应用程序对应的进程，作为所述投屏窗口进程。
可选地，在本实施例中，获取所述投屏窗口内的应用程序，当确定所述投屏窗口同时具备麦克风和扬声器的使用权限时，记录与所述应用程序对应的进程，作为所述投屏窗口进程。
本实施例的有益效果在于，通过当所述被投端与所述投屏端建立投屏通信连接时，监测被投端所启动的投屏窗口；获取所述投屏窗口内的应用程序，并记录与所述应用程序对应的进程，作为所述投屏窗口进程。实现了一种人性化的投屏窗口音频控制方案，以使得投屏模式下可以得到与画面隔离相统一的音频隔离效果，增强了用户的投屏使用体验。
实施例三
图5是本发明投屏窗口音频控制方法第三实施例的流程图，基于上述实施例，所述在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据，还包括：
S13、在所述被投端与所述投屏端建立投屏通信连接时，监测所述被投端的音频写入数据。
S14、当所述音频写入数据中存在与所述投屏窗口进程的音频数据时，拦截所述音频数据。
可选地，在本实施例中，所述被投端的音频写入数据包括被投端自身主窗口的程序音频写入和/或主窗口之上的小窗口的程序音频写入。
可选地，在本实施例中，当小窗口未未处于主窗口之上时，直接禁用所述音频写入数据中存在的与所述投屏窗口进程的音频数据。
本实施例的有益效果在于，通过在所述被投端与所述投屏端建立投屏通信连接时，监测所述被投端的音频写入数据；当所述音频写入数据中存在与所述投屏窗口进程的音频数据时，拦截所述音频数据。实现了一种人性化的投屏窗口音频控制方案，以使得投屏模式下可以得到与画面隔离相统一的音频隔离效果，增强了用户的投屏使用体验。
实施例四
图6是本发明投屏窗口音频控制方法第四实施例的流程图，基于上述实施例，所述检测所述音频数据的音轨类型，包括：
S21、获取所述应用程序的程序信息和所述被投端当前的状态信息。
S22、根据所述程序信息和/或所述状态信息预设待检测所述音轨类型。
可选地，在本实施例中，获取所述应用程序的程序信息和所述被投端当前的状态信息，其中，程序信息包括程序的权限信息，例如，同时包括扬声器权限和麦克风权限，还包括程序的配置信息，例如，同时包括游戏语音设置模块和游戏背景音设置模块，也即，根据上述程序信息即可确定该应用可能输出多重音轨类型的音频数据。
可选地，在本实施例中，上述状态信息包括主窗口的运行状态，也即，判定主窗口是否同时具备麦克风或扬声器的调用需求，以此避免后续可能发生的音频混淆。
本实施例的有益效果在于，通过获取所述应用程序的程序信息和所述被投端当前的状态信息，根据所述程序信息和/或所述状态信息预设待检测所述音轨类型。实现了一种人性化的投屏窗口音频控制方案，以使得投屏模式下可以得到与画面隔离相统一的音频隔离效果，增强了用户的投屏使用体验。
实施例五
图7是本发明投屏窗口音频控制方法第五实施例的流程图，基于上述实施例，所述若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放，包括：
S31、若音频数据为游戏音轨或麦克风音轨的单一音轨类型，则检测所述游戏音轨是否属于同一频率和同一声道数，或者，检测所述麦克风音轨是否属于同一频率和同一声道数。
S32、若所述游戏音轨属于同一频率和同一声道数，或者，所述麦克风音轨属于同一频率和同一声道数，则将所述音频数据传递至与所述被投端对应的投屏端进行播放。
可选地，在本实施例中，若检测到主窗口同时具备麦克风或扬声器的调用需求，则再音频数据为游戏音轨或麦克风音轨的单一音轨类型时，进一步检测所述游戏音轨是否属于同一频率和同一声道数，或者，检测所述麦克风音轨是否属于同一频率和同一声道数。
可选地，在本实施例中，若仅存在游戏音轨，且所述游戏音轨属于同一频率和同一声道数，或者，仅存在麦克风音轨，且所述麦克风音轨属于同一频率和同一声道数，则将所述音频数据传递至与所述被投端对应的投屏端进行播放。
本实施例的有益效果在于，通过在当音频数据为游戏音轨或麦克风音轨的单一音轨类型，则检测所述游戏音轨是否属于同一频率和同一声道数，或者，检测所述麦克风音轨是否属于同一频率和同一声道数；若所述游戏音轨属于同一频率和同一声道数，或者，所述麦克风音轨属于同一频率和同一声道数，则将所述音频数据传递至与所述被投端对应的投屏端进行播放。实现了一种人性化的投屏窗口音频控制方案，以使得投屏模式下可以得到与画面隔离相统一的音频隔离效果，增强了用户的投屏使用体验。
实施例六
图8是本发明投屏窗口音频控制方法第六实施例的流程图，基于上述实施例，所述若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放，还包括：
S33、若所述游戏音轨不属于同一频率或同一声道数，或者，所述麦克风音轨不属于同一频率和同一声道数，则将所述游戏音轨或所述麦克风音轨按预设的固定频率和声道进行合成。
S34、将处理后的所述音频数据传递至与所述被投端对应的投屏端进行播放。
可选地，在本实施例中，若同时存在所述游戏音轨和所述麦克音轨，且所述游戏音轨不属于同一频率或同一声道数，以及，所述麦克风音轨不属于同一频率和同一声道数，则将所述游戏音轨或所述麦克风音轨按预设的固定频率和声道进行合成。
本实施例的有益效果在于，通过在当所述游戏音轨不属于同一频率或同一声道数，或者，所述麦克风音轨不属于同一频率和同一声道数，则将所述游戏音轨或所述麦克风音轨按预设的固定频率和声道进行合成；将处理后的所述音频数据传递至与所述被投端对应的投屏端进行播放。实现了一种人性化的投屏窗口音频控制方案，以使得投屏模式下可以得到与画面隔离相统一的音频隔离效果，增强了用户的投屏使用体验。
实施例七
图9是本发明投屏窗口音频控制方法第七实施例的流程图，基于上述实施例，若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放，包括：
S41、若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则检测所述游戏音轨和所述麦克风音轨的音轨类型。
S42、确定所述游戏音轨包括不属于同一频率或同一声道数的游戏背景音和游戏主体音，或者所述麦克风音轨包括不属于同一频率或同一声道数的队友语音和自身语音。
可选地，在本实施例中，在同一时间内，确定所述游戏音轨包括不属于同一频率或同一声道数的游戏背景音和游戏主体音，或者所述麦克风音轨包括不属于同一频率或同一声道数的队友语音和自身语音，从而当不同时间音频触发时间，可以分别进行接收和发送，以及执行对应的音频数据传输。
本实施例的有益效果在于，通过在当所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则检测所述游戏音轨和所述麦克风音轨的音轨类型；确定所述游戏音轨包括不属于同一频率或同一声道数的游戏背景音和游戏主体音，或者所述麦克风音轨包括不属于同一频率或同一声道数的队友语音和自身语音。实现了一种人性化的投屏窗口音频控制方案，以使得投屏模式下可以得到与画面隔离相统一的音频隔离效果，增强了用户的投屏使用体验。
实施例八
图10是本发明投屏窗口音频控制方法第八实施例的流程图，基于上述实施例，若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放，还包括：
S43、根据所述程序信息和/或所述状态信息预设音频处理参数。
S44、根据所述音频处理参数对所述游戏背景音、所述游戏主体音、所述队友语音以及所述自身语音进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放。
可选地，在本实施例中，根据所述程序信息和/或所述状态信息预设音频处理参数，其中，音频处理参数包括上述所述游戏背景音、所述游戏主体音、所述队友语音以及所述自身语音进行合成和重采样的参数，以此满足不同投屏应用对于自身的数据带宽、传输时延等多项投屏需求。
本实施例的有益效果在于，通过所述程序信息和/或所述状态信息预设音频处理参数；根据所述音频处理参数对所述游戏背景音、所述游戏主体音、所述队友语音以及所述自身语音进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放。实现了一种人性化的投屏窗口音频控制方案，以使得投屏模式下可以得到与画面隔离相统一的音频隔离效果，增强了用户的投屏使用体验。
实施例九
基于上述实施例，本发明还提出了一种投屏窗口音频控制设备，该设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如上任一项所述的投屏窗口音频控制方法的步骤。
需要说明的是，上述设备实施例与方法实施例属于同一构思，其具体实现过程详细见方法实施例，且方法实施例中的技术特征在设备实施例中均对应适用，这里不再赘述。
实施例十
基于上述实施例，本发明还提出了一种计算机可读存储介质，该计算机可读存储介质上存储有投屏窗口音频控制程序，投屏窗口音频控制程序被处理器执行时实现如上述任一项所述的投屏窗口音频控制方法的步骤。
需要说明的是，上述介质实施例与方法实施例属于同一构思，其具体实现过程详细见方法实施例，且方法实施例中的技术特征在介质实施例中均对应适用，这里不再赘述。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。

Claims (10)

1.一种投屏窗口音频控制方法，其特征在于，所述方法包括：
在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据；
检测所述音频数据的音轨类型；
若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放；
若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放。
2.根据权利要求1所述的投屏窗口音频控制方法，其特征在于，所述在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据，包括：
当所述被投端与所述投屏端建立投屏通信连接时，监测被投端所启动的投屏窗口；
获取所述投屏窗口内的应用程序，并记录与所述应用程序对应的进程，作为所述投屏窗口进程。
3.根据权利要求2所述的投屏窗口音频控制方法，其特征在于，所述在被投端的音频写入过程中拦截属于投屏窗口进程的音频数据，还包括：
在所述被投端与所述投屏端建立投屏通信连接时，监测所述被投端的音频写入数据；
当所述音频写入数据中存在与所述投屏窗口进程的音频数据时，拦截所述音频数据。
4.根据权利要求3所述的投屏窗口音频控制方法，其特征在于，所述检测所述音频数据的音轨类型，包括：
获取所述应用程序的程序信息和所述被投端当前的状态信息；
根据所述程序信息和/或所述状态信息预设待检测所述音轨类型。
5.根据权利要求4所述的投屏窗口音频控制方法，其特征在于，所述若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放，包括：
若音频数据为游戏音轨或麦克风音轨的单一音轨类型，则检测所述游戏音轨是否属于同一频率和同一声道数，或者，检测所述麦克风音轨是否属于同一频率和同一声道数；
若所述游戏音轨属于同一频率和同一声道数，或者，所述麦克风音轨属于同一频率和同一声道数，则将所述音频数据传递至与所述被投端对应的投屏端进行播放。
6.根据权利要求5所述的投屏窗口音频控制方法，其特征在于，所述若所述音频数据为游戏音轨或麦克风音轨的单一音轨类型，则将所述音频数据传递至与所述被投端对应的投屏端进行播放，还包括：
若所述游戏音轨不属于同一频率或同一声道数，或者，所述麦克风音轨不属于同一频率和同一声道数，则将所述游戏音轨或所述麦克风音轨按预设的固定频率和声道进行合成；
将处理后的所述音频数据传递至与所述被投端对应的投屏端进行播放。
7.根据权利要求6所述的投屏窗口音频控制方法，其特征在于，若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放，包括：
若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则检测所述游戏音轨和所述麦克风音轨的音轨类型；
确定所述游戏音轨包括不属于同一频率或同一声道数的游戏背景音和游戏主体音，或者所述麦克风音轨包括不属于同一频率或同一声道数的队友语音和自身语音。
8.根据权利要求7所述的投屏窗口音频控制方法，其特征在于，若所述音频数据为所述游戏音轨和所述麦克风音轨的多重音轨类型，则将所述游戏音轨和所述麦克风音轨进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放，还包括：
根据所述程序信息和/或所述状态信息预设音频处理参数；
根据所述音频处理参数对所述游戏背景音、所述游戏主体音、所述队友语音以及所述自身语音进行合成和重采样，并将处理后的音频数据传递至所述投屏端进行播放。
9.一种投屏窗口音频控制设备，其特征在于，所述设备包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至8中任一项所述的投屏窗口音频控制方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有投屏窗口音频控制程序，所述投屏窗口音频控制程序被处理器执行时实现如权利要求1至8中任一项所述的投屏窗口音频控制方法的步骤。
CN202111263096.7A 2021-10-28 2021-10-28 一种投屏窗口音频控制方法、设备及计算机可读存储介质 Active CN114006971B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111263096.7A CN114006971B (zh) 2021-10-28 2021-10-28 一种投屏窗口音频控制方法、设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111263096.7A CN114006971B (zh) 2021-10-28 2021-10-28 一种投屏窗口音频控制方法、设备及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN114006971A true CN114006971A (zh) 2022-02-01
CN114006971B CN114006971B (zh) 2024-03-19

Family

ID=79924542

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111263096.7A Active CN114006971B (zh) 2021-10-28 2021-10-28 一种投屏窗口音频控制方法、设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN114006971B (zh)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107682541A (zh) * 2017-09-27 2018-02-09 努比亚技术有限公司 屏幕投影的音频控制方法、移动终端及存储介质
CN108958684A (zh) * 2018-06-22 2018-12-07 维沃移动通信有限公司 投屏方法及移动终端
CN109889885A (zh) * 2019-02-27 2019-06-14 努比亚技术有限公司 一种投屏控制方法、终端及计算机可读存储介质
CN110083328A (zh) * 2019-03-29 2019-08-02 北京奇艺世纪科技有限公司 一种音频播放方法、装置、电子设备及存储介质
WO2020063675A1 (zh) * 2018-09-27 2020-04-02 深圳市冠旭电子股份有限公司 一种智能音箱及智能音箱使用的方法
CN111984215A (zh) * 2020-08-19 2020-11-24 Oppo广东移动通信有限公司 多媒体数据播放方法、终端及存储介质
CN112423211A (zh) * 2020-10-26 2021-02-26 努比亚技术有限公司 一种多音频传输控制方法、设备及计算机可读存储介质
CN113050916A (zh) * 2021-04-09 2021-06-29 深圳Tcl新技术有限公司 音频播放方法、装置及存储介质
CN113176869A (zh) * 2021-05-28 2021-07-27 努比亚技术有限公司 一种投屏音频时延控制方法、设备及计算机可读存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107682541A (zh) * 2017-09-27 2018-02-09 努比亚技术有限公司 屏幕投影的音频控制方法、移动终端及存储介质
CN108958684A (zh) * 2018-06-22 2018-12-07 维沃移动通信有限公司 投屏方法及移动终端
WO2020063675A1 (zh) * 2018-09-27 2020-04-02 深圳市冠旭电子股份有限公司 一种智能音箱及智能音箱使用的方法
CN109889885A (zh) * 2019-02-27 2019-06-14 努比亚技术有限公司 一种投屏控制方法、终端及计算机可读存储介质
CN110083328A (zh) * 2019-03-29 2019-08-02 北京奇艺世纪科技有限公司 一种音频播放方法、装置、电子设备及存储介质
CN111984215A (zh) * 2020-08-19 2020-11-24 Oppo广东移动通信有限公司 多媒体数据播放方法、终端及存储介质
CN112423211A (zh) * 2020-10-26 2021-02-26 努比亚技术有限公司 一种多音频传输控制方法、设备及计算机可读存储介质
CN113050916A (zh) * 2021-04-09 2021-06-29 深圳Tcl新技术有限公司 音频播放方法、装置及存储介质
CN113176869A (zh) * 2021-05-28 2021-07-27 努比亚技术有限公司 一种投屏音频时延控制方法、设备及计算机可读存储介质

Also Published As

Publication number Publication date
CN114006971B (zh) 2024-03-19

Similar Documents

Publication Publication Date Title
CN108683806B (zh) 一种防打扰的方法、移动终端及计算机可读存储介质
CN112346685B (zh) 一种熄屏投屏控制方法、设备及计算机可读存储介质
CN112394896B (zh) 一种反向投屏帧率控制方法、设备及计算机可读存储介质
CN112689191B (zh) 一种投屏控制方法、终端及计算机可读存储介质
CN109088997B (zh) 一种游戏音频控制方法、终端及计算机可读存储介质
CN112102780B (zh) 一种显示帧率调控方法、设备及计算机可读存储介质
CN112822538A (zh) 投屏显示方法、投屏方法、投屏设备、终端及存储介质
CN110187808B (zh) 动态壁纸设置方法、装置及计算机可读存储介质
CN112631535A (zh) 一种投屏反向控制方法及装置、移动终端、存储介质
CN112423076A (zh) 一种音频投屏同步控制方法、设备及计算机可读存储介质
CN107682541B (zh) 屏幕投影的音频控制方法、移动终端及存储介质
CN109889651B (zh) 一种通知消息处理方法、终端及计算机可读存储介质
CN112437472B (zh) 一种网络切换方法、设备及计算机可读存储介质
CN113176869A (zh) 一种投屏音频时延控制方法、设备及计算机可读存储介质
CN112423211A (zh) 一种多音频传输控制方法、设备及计算机可读存储介质
CN113326012A (zh) 处理方法、移动终端及存储介质
CN109462829B (zh) 一种通话转移方法、设备及计算机可读存储介质
CN112492340A (zh) 直播音频采集方法、移动终端及计算机可读存储介质
CN109561221B (zh) 一种通话控制方法、设备及计算机可读存储介质
CN110955397A (zh) 游戏终端帧率的设置方法、游戏终端及存储介质
CN107678622B (zh) 一种应用图标的显示方法、终端及存储介质
CN112887776B (zh) 一种降低音频延时的方法、设备及计算机可读存储介质
CN112333326B (zh) 一种投屏显示控制方法、设备及计算机可读存储介质
CN114307136A (zh) 一种游戏投屏功耗控制方法、设备及计算机可读存储介质
CN110087013B (zh) 视频聊天方法、移动终端及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant