CN114579075B - 数据处理方法和相关装置 - Google Patents
数据处理方法和相关装置 Download PDFInfo
- Publication number
- CN114579075B CN114579075B CN202210114699.9A CN202210114699A CN114579075B CN 114579075 B CN114579075 B CN 114579075B CN 202210114699 A CN202210114699 A CN 202210114699A CN 114579075 B CN114579075 B CN 114579075B
- Authority
- CN
- China
- Prior art keywords
- frame rate
- vsync
- frame
- application
- thread
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Telephone Function (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请实施例提供数据处理方法和相关装置,应用于终端技术领域。该方法包括:在应用以第一帧率绘制渲染图像时,帧率控制***接收到缓存线程发送的携带第二帧率的消息,第二帧率与第一帧率的比值为大于1的整数;响应于该消息,帧率控制***控制应用以第二帧率绘制渲染图像;在第一时刻,帧率控制***控制合成线程以第二帧率合成绘制渲染后的图像,并控制显示驱动以第二帧率驱动屏幕显示合成后的图像。这样,先对绘制渲染进行切换,再切换合成及显示,使得每帧图像在与其前一帧图像之间的显示间隔与绘制渲染间隔一致,进而减少显示间隔与绘制渲染间隔不一致导致的滑动速度发生跳变,减少卡顿,增加用户体验。
Description
技术领域
本申请涉及终端技术领域,尤其涉及数据处理方法和相关装置。
背景技术
目前,用户可以通过终端设备的显示屏查阅各类内容。当内容较多时,显示屏不能一次显示全部内容,用户可在显示幕里滑动翻阅相关内容。
终端设备的显示屏的界面显示通常需要经过绘制、渲染和合成等过程。示例性的,终端设备的界面绘制过程可以包括背景绘制、子视图的绘制、滚动条的绘制等过程。终端设备的界面合成过程可以包括顶点处理和像素处理等处理过程。
但是,当终端设备在屏幕界面变化的过程中发生屏幕刷新率切换,终端设备可能会出现卡顿现象。
发明内容
本申请实施例提供数据处理方法和相关装置,应用于终端设备。该方法用于解决终端设备在屏幕界面变化的过程中发生屏幕刷新率切换,导致的卡顿现象。
第一方面,本申请实施例提出一种数据处理方法,应用于终端设备,终端设备包括应用、帧率控制***、合成线程、缓存线程和显示驱动。
该方法包括:在应用以第一帧率绘制渲染图像时,帧率控制***接收到缓存线程发送的携带第二帧率的消息,第二帧率与第一帧率的比值为大于1的整数;响应于接收携带第二帧率的消息,帧率控制***控制应用以第二帧率绘制渲染图像;在第一时刻,帧率控制***控制合成线程以第二帧率合成应用绘制渲染后的图像,以及控制显示驱动以第二帧率驱动屏幕显示合成线程合成后的图像;其中,第一时刻在帧率控制***接收到携带第二帧率的消息后的第1+A个Vsync-HW信号到第2+A个Vsync-HW信号之间,A是帧率控制***接收到携带第二帧率的消息时,缓存线程中应用对应的缓存队列中缓存的缓存数量,Vsync-HW信号用于触发屏幕显示合成后的图像。
这样,在终端设备发生屏幕刷新率切换时,先对图像的绘制渲染过程进行切换,再对图像的合成流程和图像的显示流程进行切换,使得每帧图像在与其前一帧图像之间的显示间隔与绘制渲染间隔一致,进而每帧图像的显示节奏与绘制渲染节奏一致,减少显示间隔与绘制渲染间隔不一致导致的滑动速度跳变,减少卡顿,增加用户体验。
可选的,终端设备还包括Vsync线程;响应于接收携带第二帧率的消息,帧率控制***控制应用以第二帧率绘制渲染图像,包括:帧率控制***接收到携带第二帧率的消息之后,帧率控制***向Vsync线程发送第一消息,第一消息用于指示将应用帧率切换为第二帧率;Vsync线程基于第一消息以第二帧率生成Vsync-APP信号并将Vsync-APP信号发送至应用;应用基于Vsync-APP信号绘制渲染图像。
本申请实施例中,以第二帧率生成Vsync-APP信号可以理解为按照第二帧率的Vsync信号周期生成Vsync-APP信号。
这样,通过修改Vsync-APP信号之间的时间间隔,实现对图像的绘制渲染过程从第一帧率切换为第二帧率,方式简便,节省计算资源。
可选的,终端设备还包括:Vsync线程;在第一时刻,帧率控制***控制合成线程以第二帧率合成应用绘制渲染后的图像,以及控制显示驱动以第二帧率驱动屏幕显示合成线程合成后的图像,包括:在第一时刻,帧率控制***向Vsync线程发送第二消息,第二消息用于指示合成帧率和屏幕刷新率均切换为第二帧率;Vsync线程基于第二消息以第二帧率生成Vsync-SF信号并将Vsync-SF信号发送至合成线程;合成线程基于Vsync-SF信号合成绘制渲染后的图像;Vsync线程基于第二消息向显示驱动发送第三消息,第三消息用于指示屏幕刷新率切换为第二帧率;显示驱动基于第三消息控制屏幕以第二帧率生成Vsync-HW信号;显示驱动在接收到Vsync-HW信号后控制屏幕显示合成后的图像。
本申请实施例中,以第二帧率生成Vsync-SF信号可以理解为按照第二帧率的Vsync信号周期生成Vsync-SF信号。以第二帧率生成Vsync-HW信号可以理解为按照第二帧率的Vsync信号周期生成Vsync-HW信号。
这样,通过修改Vsync-SF信号之间的时间间隔以及Vsync-HW信号之间的时间间隔,分别实现对图像的合成过程和显示过程从第一帧率切换为第二帧率,方式简便,节省计算资源。
可选的,第一时刻与在帧率控制***接收到携带第二帧率的消息的时刻之间的差值满足:(缓存数量+1)*第一帧率对应的Vsync周期时长。
这样,可以简化第一时刻的计算,节省计算资源。
可选的,缓存数量为应用对应的缓存队列中绘制渲染后的缓存的数量,以及应用对应的缓存队列中正在绘制渲染的缓存的数量之和。
可选的,在应用以第一帧率绘制渲染图像时,帧率控制***接收到合成线程发送的携带第二帧率的消息之后,还包括:帧率控制***计算第二帧率与第一帧率的比值;当比值为大于1的整数时,帧率控制***从应用对应的缓存队列中获取缓存数量;帧率控制***基于缓存数量确定第一时刻。
可选的,当比值为大于1的整数时,帧率控制***从应用对应的缓存队列中获取缓存数量,包括:帧率控制***从窗口管理器中获取焦点窗口,焦点窗口与应用相对应;帧率控制***基于焦点窗口从应用对应的缓存队列中获取缓存数量。
可选的,在应用以第一帧率绘制渲染图像时,帧率控制***接收到合成线程发送的携带第二帧率的消息之前,方法还包括:在应用以第一帧率绘制渲染图像时,缓存线程接收到绘制渲染后的其他图像,其他图像与焦点窗口对应的其他窗口相对应;缓存线程接收到绘制渲染后的其他图像后,向帧率控制***发送携带第二帧率的消息。
这样,在显示界面显示其他窗口时,提升屏幕刷新率,使得显示流畅细腻,提升用户体验。
可选的,其他图像与终端设备的弹窗提醒相对应,或者其他图像与终端设备的截屏动画相对应。
这样,终端设备在显示弹窗提醒或显示截屏动画时,提升屏幕刷新率,使得显示流畅细腻,提升用户体验。
第二方面,本申请实施例提供了一种终端设备,终端设备也可以称为终端(terminal)、用户设备(user equipment,UE)、移动台(mobile station,MS)、移动终端(mobile terminal,MT)等。终端设备可以是手机(mobile phone)、智能电视、穿戴式设备、平板电脑(Pad)、带无线收发功能的电脑、虚拟现实(virtual reality,VR)终端设备、增强现实(augmented reality,AR)终端设备、工业控制(industrial control)中的无线终端、无人驾驶(self-driving)中的无线终端、远程手术(remote medical surgery)中的无线终端、智能电网(smart grid)中的无线终端、运输安全(transportation safety)中的无线终端、智慧城市(smart city)中的无线终端、智慧家庭(smart home)中的无线终端等等。
该终端设备包括处理器,处理器用于调用存储器中的计算机程序以执行如第一方面的方法。
第三方面,本申请实施例提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,当计算机指令在终端设备上运行时,使得终端设备执行如第一方面的方法。
第四方面,本申请实施例提供了一种计算机程序产品,当计算机程序被运行时,使得终端设备执行如第一方面的方法。
第五方面,本申请实施例提供了一种芯片,芯片包括处理器,处理器用于调用存储器中的计算机程序,以执行如如第一方面的方法。
应当理解的是,本申请的第二方面至第五方面与本申请的第一方面的技术方案相对应,各方面及对应的可行实施方式所取得的有益效果相似,不再赘述。
附图说明
图1为本申请实施例提供的终端设备硬件***结构示意图;
图2为本申请实施例提供的终端设备软件***结构示意图;
图3为可能的实现中一种终端设备界面显示处理流程的示意图;
图4为可能的实现中一种帧率切换对应的界面显示处理流程的示意图;
图5为可能的实现中一种界面显示处理流程的示意图;
图6为可能的实现中一种界面显示示意图;
图7为本申请实施例提供的应用场景示意图;
图8为本申请实施例提供的数据处理方法中各个模块之间交互的过程示意图;
图9为本申请实施例提供的一种终端设备界面显示处理流程示意图;
图10为本申请实施例提供的一种数据处理方法流程示意图;
图11为本申请实施例提供的一种终端设备界面显示处理流程示意图;
图12为本申请实施例提供的一种数据处理装置的结构示意图;
图13为本申请实施例提供的一种数据处理装置的硬件结构示意图。
具体实施方式
为了便于清楚描述本申请实施例的技术方案,在本申请的实施例中,采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分。例如,第一芯片和第二芯片仅仅是为了区分不同的芯片,并不对其先后顺序进行限定。本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定,并且“第一”、“第二”等字样也并不限定一定不同。
需要说明的是,本申请实施例中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其他实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
本申请实施例中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指的这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b,或c中的至少一项(个),可以表示:a,b,c,a-b,a-c,b-c,或a-b-c,其中a,b,c可以是单个,也可以是多个。
本申请实施例提供的是数据处理方法,可以应用在具备显示功能的电子设备中。
电子设备包括终端设备,终端设备也可以称为终端(terminal)、用户设备(userequipment,UE)、移动台(mobile station,MS)、移动终端(mobile terminal,MT)等。终端设备可以是手机(mobile phone)、智能电视、穿戴式设备、平板电脑(Pad)、带无线收发功能的电脑、虚拟现实(virtual reality,VR)终端设备、增强现实(augmented reality,AR)终端设备、工业控制(industrial control)中的无线终端、无人驾驶(self-driving)中的无线终端、远程手术(remote medical surgery)中的无线终端、智能电网(smart grid)中的无线终端、运输安全(transportation safety)中的无线终端、智慧城市(smart city)中的无线终端、智慧家庭(smart home)中的无线终端等等。本申请的实施例对终端设备所采用的具体技术和具体设备形态不做限定。
为了能够更好地理解本申请实施例,下面对本申请实施例的终端设备的结构进行介绍:
图1示出了终端设备100的结构示意图。终端设备100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块150,无线通信模块160,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriberidentification module,SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本申请实施例示意的结构并不构成对终端设备100的具体限定。在本申请另一些实施例中,终端设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从存储器中调用。避免了重复存取,减少了处理器110的等待时间,因而提高了***的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integratedcircuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K,充电器,闪光灯,摄像头193等。例如:处理器110可以通过I2C接口耦合触摸传感器180K,使处理器110与触摸传感器180K通过I2C总线接口通信,实现终端设备100的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向无线通信模块160传递音频信号,实现通过蓝牙耳机接听电话的功能。I2S接口和PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与无线通信模块160。例如:处理器110通过UART接口与无线通信模块160中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块170可以通过UART接口向无线通信模块160传递音频信号,实现通过蓝牙耳机播放音乐的功能。
MIPI接口可以被用于连接处理器110与显示屏194,摄像头193等***器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头193通过CSI接口通信,实现终端设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信,实现终端设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头193,显示屏194,无线通信模块160,音频模块170,传感器模块180等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口130是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口130可以用于连接充电器为终端设备100充电,也可以用于终端设备100与***设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如AR设备等。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,是示意性说明,并不构成对终端设备100的结构限定。在本申请另一些实施例中,终端设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
充电管理模块140用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。在一些有线充电的实施例中,充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中,充电管理模块140可以通过终端设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时,还可以通过电源管理模块141为终端设备供电。
电源管理模块141用于连接电池142,充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入,为处理器110,内部存储器121,显示屏194,摄像头193,和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量,电池循环次数,电池健康状态(漏电,阻抗)等参数。在其他一些实施例中,电源管理模块141也可以设置于处理器110中。在另一些实施例中,电源管理模块141和充电管理模块140也可以设置于同一个器件中。
终端设备100的无线通信功能可以通过天线1,天线2,移动通信模块150,无线通信模块160,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。终端设备100中的天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块150可以提供应用在终端设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块150可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A,受话器170B等)输出声音信号,或通过显示屏194显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块150或其他功能模块设置在同一个器件中。
无线通信模块160可以提供应用在终端设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星***(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,终端设备100的天线1和移动通信模块150耦合,天线2和无线通信模块160耦合,使得终端设备100可以通过无线通信技术与网络以及其他设备通信。无线通信技术可以包括全球移动通讯***(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code divisionmultipleaccess,WCDMA),时分码分多址(time-division code division multipleaccess,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。GNSS可以包括全球卫星定位***(global positioning system,GPS),全球导航卫星***(global navigation satellite system,GLONASS),北斗卫星导航***(beidounavigation satellite system,BDS),准天顶卫星***(quasi-zenithsatellitesystem,QZSS)和/或星基增强***(satellite based augmentation systems,SBAS)。
终端设备100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像、显示视频和接收滑动操作等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organiclight-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diod,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dotlightemitting diodes,QLED)等。在一些实施例中,终端设备100可以包括1个或N个显示屏194,N为大于1的正整数。
终端设备100可以通过ISP,摄像头193,视频编解码器,GPU,显示屏194以及应用处理器等实现拍摄功能。
ISP用于处理摄像头193反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度,肤色进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头193中。
摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,终端设备100可以包括1个或N个摄像头193,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当终端设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。终端设备100可以支持一种或多种视频编解码器。这样,终端设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现终端设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
外部存储器接口120可以用于连接外部存储卡,例如Micro SD卡,实现扩展终端设备100的存储能力。外部存储卡通过外部存储器接口120与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器121可以用于存储计算机可执行程序代码,可执行程序代码包括指令。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作***,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储终端设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器110通过运行存储在内部存储器121的指令,和/或存储在设置于处理器中的存储器的指令,执行终端设备100的各种功能应用以及数据处理。
终端设备100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中,音频模块170可以设置于处理器110中,或将音频模块170的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。终端设备100可以通过扬声器170A收听音乐,或收听免提通话。
受话器170B,也称“听筒”,用于将音频电信号转换成声音信号。当终端设备100接听电话或语音信息时,可以通过将受话器170B靠近人耳接听语音。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。当拨打电话或发送语音信息时,用户可以通过人嘴靠近麦克风170C发声,将声音信号输入到麦克风170C。终端设备100可以设置至少一个麦克风170C。在另一些实施例中,终端设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,终端设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130,也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
压力传感器180A用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A,电极之间的电容改变。终端设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194,终端设备100根据压力传感器180A检测触摸操作强度。终端设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中,作用于相同触摸位置,但不同触摸操作强度的触摸操作,可以对应不同的操作指令。
陀螺仪传感器180B可以用于确定终端设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器180B确定终端设备100围绕三个轴(即,x、y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器180B检测终端设备100抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消终端设备100的抖动,实现防抖。陀螺仪传感器180B还可以用于导航,体感游戏场景。
气压传感器180C用于测量气压。在一些实施例中,终端设备100通过气压传感器180C测得的气压值计算海拔高度,辅助定位和导航。
磁传感器180D包括霍尔传感器。终端设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中,当终端设备100是翻盖机时,终端设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器180E可检测终端设备100在各个方向上(一般为三轴)加速度的大小。当终端设备100静止时可检测出重力的大小及方向。还可以用于识别终端设备姿态,应用于横竖屏切换,计步器等应用程序。
距离传感器180F,用于测量距离。终端设备100可以通过红外或激光测量距离。在一些实施例中,拍摄场景,终端设备100可以利用距离传感器180F测距以实现快速对焦。
接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。终端设备100通过发光二极管向外发射红外光。终端设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定终端设备100附近有物体。当检测到不充分的反射光时,终端设备100可以确定终端设备100附近没有物体。终端设备100可以利用接近光传感器180G检测用户手持终端设备100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。终端设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测终端设备100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。终端设备100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,终端设备100利用温度传感器180J检测的温度,执行温度处理策略。例如,当温度传感器180J上报的温度超过阈值,终端设备100执行降低位于温度传感器180J附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,终端设备100对电池142加热,以避免低温导致终端设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,终端设备100对电池142的输出电压执行升压,以避免低温导致的异常关机。
触摸传感器180K,也称“触控器件”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于终端设备100的表面,与显示屏194所处的位置不同。
骨传导传感器180M可以获取振动信号。在一些实施例中,骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏,接收血压跳动信号。在一些实施例中,骨传导传感器180M也可以设置于耳机中,结合成骨传导耳机。音频模块170可以基于骨传导传感器180M获取的声部振动骨块的振动信号,解析出语音信号,实现语音功能。应用处理器可以基于骨传导传感器180M获取的血压跳动信号解析心率信息,实现心率检测功能。
按键190包括开机键,音量键等。按键190可以是机械按键。也可以是触摸式按键。终端设备100可以接收按键输入,产生与终端设备100的用户设置以及功能控制有关的键信号输入。
马达191可以产生振动提示。马达191可以用于来电振动提示,也可以用于触摸振动反馈。例如,作用于不同应用程序(例如拍照,音频播放等)的触摸操作,可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作,马达191也可对应不同的振动反馈效果。不同的应用场景(例如:时间提醒,接收信息,闹钟,游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。
指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
SIM卡接口195用于连接SIM卡。SIM卡可以通过***SIM卡接口195,或从SIM卡接口195拔出,实现和终端设备100的接触和分离。终端设备100可以支持1个或N个SIM卡接口,N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡,Micro SIM卡,SIM卡等。同一个SIM卡接口195可以同时***多张卡。多张卡的类型可以相同,也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。终端设备100通过SIM卡和网络交互,实现通话以及数据通信等功能。在一些实施例中,终端设备100采用eSIM,即:嵌入式SIM卡。eSIM卡可以嵌在终端设备100中,不能和终端设备100分离。
终端设备100的软件***可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构,等。本申请实施例以分层架构的Android***为例,示例性说明终端设备100的软件结构。
图2是本申请实施例的终端设备的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将Android***分为五层,从上至下分别为应用层,应用程序框架层,安卓运行时(Androidruntime)和***库,硬件抽象层,以及内核层。
应用层可以包括一系列应用程序包。如图2所示,应用程序包可以包括电话、邮箱、日历、相机等应用程序。
应用程序框架层为应用层的应用程序提供应用编程接口(applicationprogramming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图2所示,应用程序框架层可以包括窗口管理器、帧率控制***、图像合成***、视图***、包管理器、输入管理器、活动管理器和资源管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
帧率控制***用于调节屏幕刷新率。
图像合成***用于控制图像合成,以及产生垂直同步(veticalsynchronization,Vsync)信号。
图像合成***包括:合成线程、Vsync线程、缓存(quene buffer)线程。合成线程用于被Vsync信号唤醒进行合成。Vsync线程用于根据Vsync信号请求生成下一个Vsync信号。缓存线程用于存放缓存、产生Vsync信号请求,以及唤醒合成线程等。缓存线程中存在一个或多个缓存队列,分别用于存放不同应用对应的缓存。
视图***包括可视控件,例如显示文字的控件,显示图片的控件等。视图***可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
包管理器用于***内的程序管理,例如:应用程序安装、卸载和升级等。
输入管理器用于管理输入设备的程序。例如,输入***可以确定鼠标点击操作、键盘输入操作和触摸滑动等输入操作。
活动管理器用于管理各个应用程序的生命周期以及导航回退功能。负责Android的主线程创建,各个应用程序的生命周期的维护。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
Android runtime包括核心库和虚拟机。Android runtime负责安卓***的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用层和应用程序框架层运行在虚拟机中。虚拟机将应用层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
***库可以包括多个功能模块。例如:图像渲染库、图像合成库、函数库、媒体库和输入处理库等。
图像渲染库用于二维或三维图像的渲染。图像合成库用于二维或三维图像的合成。
可能的实现方式中,应用通过图像渲染库对图像进行绘制渲染,然后应用将绘制渲染后的图像发送至图像合成***的缓存队列中。每当Vsync信号到来时,图像合成***(例如,surface flinger)从缓存队列中按顺序获取待合成的一帧图像,然后通过图像合成库进行图像合成。
函数库提供C语言中所使用的宏、类型定义、字符串操作函数、数学计算函数以及输入输出函数等。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图像文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4、H.264、MP3、AAC、AMR、JPG和PNG等。
输入处理库用于处理输入设备的库,可以实现鼠标、键盘和触摸输入处理等。
硬件抽象层,可以包含多个库模块,库模块如可以为硬件合成器(hwcomposer,HWC)、摄像头库模块等。Android***可以为设备硬件加载相应的库模块,进而实现应用程序框架层访问设备硬件的目的。设备硬件可以包括如电子设备中的LCD显示屏、摄像头等。
内核层是硬件和软件之间的层。内核层至少包含触控(touch panel,TP)驱动、显示驱动、蓝牙驱动、WIFI驱动、键盘驱动、共用存储器驱动和相机驱动等。
硬件可以是音频设备、蓝牙设备、相机设备、传感器设备等。
下面结合应用程序启动或应用程序中发生界面切换的场景,示例性说明终端设备100软件以及硬件的工作流程。
当触控面板中触摸传感器180K接收到触摸操作时,内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸力度,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。内核层通过输入处理库将原始输入事件上报至应用程序框架层的输入管理器。应用程序框架层的输入管理器解析该原始输入事件的信息(包括:操作类型和报点位置等)和根据当前焦点确定焦点应用,并将解析后的信息发送至焦点应用。焦点可以是触摸操作中触碰点或者鼠标点击操作中点击位置。焦点应用为终端设备前台运行的应用或者触摸操作中触碰位置对应的应用。焦点应用根据解析后的原始输入事件的信息(例如,报点位置)确定该原始输入事件所对应的控件。
以该触摸操作是触摸滑动操作,该触摸滑动操作所对应的控件为微信应用的列表控件为例,微信应用通过应用程序框架层的视图***,调用***库中图像渲染库对图像进行绘制渲染。微信应用将绘制渲染后的图像发送至图像合成***的缓存队列中。通过***库中图像合成库将图像合成***中绘制渲染后的图像合成为微信界面。图像合成***通过内核层的显示驱动,使得屏幕(显示屏)显示微信应用的相应界面。
为了便于理解,示例的给出部分与本申请实施例相关概念的说明以供参考。
1、帧:是指界面显示中最小单位的单幅画面。一帧可以理解为一副静止的画面,快速连续地显示多个相连的帧可以形成物体运动的假象。帧率是指在1秒钟时间里刷新图片的帧数,也可以理解为终端设备中图形处理器每秒钟刷新画面的次数。高的帧率可以得到更流畅和更逼真的动画。每秒钟帧数越多,所显示的动作就会越流畅。
需要说明的是,界面显示帧前通常需要经过绘制、渲染、合成等过程。
2、帧绘制:是指显示界面的图片绘制。显示界面可以由一个或多个视图组成,各个视图可以由视图***的可视控件绘制,各个视图由子视图组成,一个子视图对应视图中的一个小部件,例如,其中的一个子视图对应图片视图中的一个符号。
3、帧渲染:是将绘制后的视图进行着色操作或增加3D效果等。例如:3D效果可以是灯光效果、阴影效果和纹理效果等。
4、帧合成:是将多个上述一个或多个渲染后的视图合成为显示界面的过程。
5、离手滑动:是指在终端设备的界面在触摸滑动结束后,以离手后的初速度继续滑动显示。
示例性的,在设置、头条等应用,界面显示的是列表布局,在滑动界面的手指抬起后,界面可以以离手后的初速度继续滑动一段时间。
可以理解的是,当界面包括列表控件时,界面显示的是列表布局,为列表界面。列表控件可以为listview,也可以为recyleview,本申请实施例对列表控件不做限定。
下面结合软件以及硬件对终端设备100的界面的显示过程进行说明。
需要说明的是,为了提高显示的流畅性,减少出现显示卡顿等现象,终端设备一般基于Vsync信号进行显示,以对图像的绘制、渲染、合成和屏幕刷新显示等流程进行同步。
可以理解的是,Vsync信号为周期性信号,Vsync信号周期可以根据屏幕刷新率进行设置,例如,屏幕刷新率为60Hz时,Vsync信号周期可以为16.6ms,即终端设备每间隔16.6ms生成一个控制信号使Vsync信号周期触发。
需要说明的是,Vsync信号可以分为软件Vsync信号和硬件Vsync信号。软件Vsync信号包括Vsync-APP和Vsync-SF。Vsync-APP用于触发绘制渲染流程。Vsync-SF用于触发合成流程。硬件Vsync信号(Vsync-HW)用于触发屏幕显示刷新流程。
通常情况下,软件Vsync信号和硬件Vsync信号保持周期同步。以60Hz和120Hz变化为例,若Vsync-HW从60Hz切换到120Hz,Vsync-APP、Vsync-SF同步变化,均从60Hz切换到120Hz。
示例性的,图3为可能的实现中一种终端设备界面显示处理流程的示意图。按照时间顺序,终端设备显示的内容依次对应于帧1、帧2、和帧3。
具体的,以帧1的显示为例,终端设备的应用通过应用程序框架层的视图***,对帧1进行绘制渲染。帧1绘制渲染完成后,终端设备的应用将绘制渲染好的帧1图像数据发送至图像合成***(例如,surface flinger)。图像合成***对绘制渲染好的帧1进行合成。帧1完成合成后,终端设备可以通过调用内核层启动显示驱动,在屏幕(显示屏)显示帧1对应的内容。可以理解的是,终端设备的应用将绘制渲染后的图像数据发送至图像合成***。上述绘制渲染好的帧1可以是指绘制渲染好的与帧1相对应的图像数据。
帧2和帧3类似于帧1的过程也进行合成和显示,此处不再赘述。图3中每帧从绘制到显示,滞后2个Vsync信号周期,终端设备的显示具有滞后性。
需要说明的是,终端设备可能在***负载大时,降低屏幕刷新率,以减少卡顿,或者在***负载小时,升高屏幕刷新率,以增加显示的流畅性。
示例性的,图4为可能的实现中一种帧率切换对应的界面显示处理流程的示意图。按照时间顺序,终端设备显示的内容依次对应于帧0、帧1、帧2、帧3、帧4、帧5和帧6。
具体的,以帧2的显示为例,终端设备的应用通过应用程序框架层的视图***,对帧2进行绘制渲染。帧2绘制渲染完成后,终端设备的应用将绘制渲染好的帧2发送至图像合成***(例如,surface flinger)。图像合成***对绘制渲染好的帧2进行合成。帧2完成合成后,终端设备可以通过调用内核层启动显示驱动,显示帧2对应的内容。帧3、帧4、帧5和帧6类似于帧2的过程也进行合成和显示,此处不再赘述。
在帧3绘制渲染时,终端设备的帧率控制***决策切换帧率(例如,从60Hz切换至120Hz),在帧4绘制渲染时,进行帧率切换,帧4绘制渲染对应的Vsync信号周期时长改变,完成帧率切换。
需要说明的是,终端设备通过位移量确定图像的布局等。在一些滑动场景(例如离手滑动)中,图像的位移量与前一帧绘制渲染时对应的帧间隔(前一个Vsync周期时长)相关。具体的,以匀速滑动场景为例,绘制渲染时的当前图像(帧)的位移量是由上一帧帧间隔(当前帧Vsync-App时间戳-上一帧Vsync-App时间戳),乘以当前帧的滑动速度得到的。示例性的,以图4中的帧3为例,帧3的位移量为帧2的帧间隔(Vsync2的时间戳-Vsync1的时间戳)乘以帧3的滑动速度得到的。
而终端设备图像显示的滑动速度是由当前帧位移与前一帧的位移差(当前帧的位移量),除以前一帧显示时对应的帧间隔(前一帧的显示时长)得到。示例性的,以图4中的帧3为例,帧3的滑动速度为帧3的位移量除以帧2显示时对应的帧间隔(Vsync4的时间戳-Vsync3的时间戳)。
因此,当图像绘制渲染时对应的帧间隔与显示时对应的帧间隔一致时,该图像按照预设的滑动速度显示。若图像绘制渲染时对应的帧间隔与显示时对应的帧间隔不一致时,可能会出现显示的滑动速度跳变,进而导致显示画面卡顿、不流畅,用户体验差。
从图4中可以看出,图4中每帧从绘制到显示,滞后2个Vsync信号周期。当屏幕刷新率发生切换时,帧2绘制渲染时对应的帧间隔与帧2显示时对应的帧间隔不一致,同样,帧3绘制渲染时对应的帧间隔与帧3显示时对应的帧间隔不一致。这可能会导致帧3和帧4显示时的滑动速度与预设的滑动速度不符,进而帧3和帧4的显示的滑动速度出现跳变。
下面结合图5和图6对图4中的流程涉及的位移量和滑动速度进行说明。
示例性的,以列表匀速滑动,屏幕刷新率从60Hz切换至120Hz,且滑动速度为每16.6毫秒(ms)移动2像素(pixel)为例。图5为可能的实现中一种界面显示处理流程的示意图。
图5中按照时间顺序,终端设备显示的内容依次对应于帧0、帧1、帧2、帧3、帧4、帧5和帧6。
可以理解的是,位移量为上一帧的帧间隔(当前帧Vsync-App时间戳-上一帧Vsync-App时间戳)与当前帧的滑动速度之积。示例性的,图5中帧3的位移量为(16.6ms-0ms)×2pixel/16.6ms,即2pixel;同理,帧4的位移量为(33.2ms-16.6ms)×2pixel/16.6ms,即2pixel。
如图5所示,终端设备在帧3绘制渲染时,决策帧率切换。在33.2ms帧4开始绘制渲染时,还未完成帧率切换。因此,帧2的位移量、帧3的位移量和帧4位移量均与切换前的屏幕刷新率(或者帧率切换前的Vsync周期时长)相关,为2pixel。在41.5ms时,完成帧率切换。帧5的位移量和帧6的位移量均与切换后的屏幕刷新率(或者帧率切换后的Vsync周期时长)相关,为1pixel。
从图5中可以看出,帧2在绘制渲染时对应的帧间隔为16.6ms-0ms,即16.6ms,帧2在显示时对应的帧间隔为41.5ms-33.2ms,即8.3ms,终端设备的显示节奏加快,切换为帧3显示时的滑动速度增加。同理,切换为帧4显示时的滑动速度增加。帧4在绘制渲染时对应的帧间隔为41.5ms-33.2ms,即8.3ms,帧4在显示时对应的帧间隔为58.1ms-49.8ms,即8.3ms,帧4的显示节奏与绘制渲染节奏相同,切换为帧5的滑动速度不变。在60Hz切换至120Hz时,终端设备显示的滑动速度先增加后下降,导致用户感知到画面卡顿。
为方便理解,下面结合图6对图5的显示速度进行说明。
可以理解的是,用户在画面切换时,感知到速度变化。因此,滑动速度可以用当前帧位移与前一帧的位移之差(当前帧的位移量),除以前一帧的显示时长表示。
示例性的,图6为图5中帧0、帧1、帧2、帧3、帧4、帧5和帧6对应的界面显示图。如图6所示,在列表界面中有一三角形。以显示屏(屏幕)绝对位置为0-18pixel为例。若帧0中三角形位置在0处,帧1的位移量为2pixel,则帧1中,三角形位置在2pixel处。帧2的位移量、帧3的位移量和帧4位移量均为2pixel。帧5的位移量和帧6的位移量均为1pixel。帧2、帧3、帧4、帧5和帧6中,三角形位置分别位于4pixel、6pixel、8pixel、9pixel、10pixel处。
结合图5,在16.6ms时,Vsync信号到来,终端设备的显示界面从帧0变为帧1,三角形的位置从0移至2pixel,移动速度为2pixel/16.6ms,用户感知到的滑动速度为2pixel/(16.6ms-0ms),即2pixel/16.6ms。在33.2ms时,Vsync信号到来,终端设备的显示界面从帧1变为帧2,三角形的移动速度为2pixel/16.6ms,用户感知到的滑动速度为2pixel/(33.2ms-16.6ms),即2pixel/16.6ms。
在41.5ms时,Vsync信号到来,终端设备的显示界面从帧2变为帧3,三角形的移动速度为2pixel/8.3ms,用户感知到的滑动速度为2pixel/(41.5ms-33.2ms),即2pixel/8.3ms。在49.8ms时,Vsync信号到来,终端设备的显示界面从帧3变为帧4,三角形的移动速度为2pixel/8.3ms,用户感知到的滑动速度为2pixel/(49.8ms-41.5ms),即2pixel/8.3ms。在58.1ms时,Vsync信号到来,终端设备的显示界面从帧4变为帧5,三角形的移动速度为1pixel/8.3ms,用户感知到的滑动速度为1pixel/(58.1ms-49.8ms),即1pixel/8.3ms。在66.4ms时,Vsync信号到来,终端设备的显示界面从帧5变为帧6,三角形的移动速度为1pixel/8.3ms,用户感知到的滑动速度为1pixel/(66.4ms-58.1ms),即1pixel/8.3ms。
图5中,滑动速度从2pixel/16.6ms变为2pixel/8.3ms再变为1pixel/8.3ms。滑动速度发生变化,使得用户感觉到卡顿,用户体验差。
综上,在滑动的过程中终端设备的屏幕刷新率改变,图像绘制渲染时对应的帧间隔可能大于或小于图像显示时对应的帧间隔,导致显示时滑动速度发生跳变(上升或下降),导致画面卡顿。
有鉴于此,本申请实施例提供一种数据处理方法,当终端设备发生帧率切换时,先切换应用帧率,延迟切换合成帧率和屏幕刷新率。这样,可以图像显示时对应的帧间隔与该帧图像绘制渲染时对应的帧间隔一致,减少显示时滑动速度的跳变,进而减少卡顿现象,使得画面显示均匀流畅,提升用户体验。
下面结合附图对本申请实施例提供的应用场景进行说明。图7为本申请实施例提供的应用场景示意图。
当终端设备在图7中的a所示的列表界面接收到向上的滑动操作时,进入图7中的b所示的列表界面。相比较于图7中的a所示的列表界面,图7中的b所示的列表界面中列表对应显示的内容发生改变。
终端设备在列表滑动显示的过程中,可能还会显示其他内容,进而终端设备可能会升高屏幕刷新率以提升显示的流畅性。其他内容可以为图7中的c所示的界面中的弹窗提醒701、图7中的d所示的界面中的截屏动画702等。
一种可能的场景中,终端设备在图7中a的列表界面中检测到滑动操作中的up事件后,基于up事件时的初速度继续滑动列表显示。终端设备可能在up事件后的显示中降低屏幕刷新率以降低耗电量;当终端设备在列表界面显示其他内容时,可能会基于本申请实施例的方法切换屏幕刷新率以提升列表界面的流畅性。其他内容包括但不限于:弹窗提醒、截屏动画或充电提醒等。弹窗提醒包括:应用的消息提醒,例如短信消息提醒和微信消息提醒等。
需要说明的是,滑动操作对应的输入事件的类型可以分为按压(down)、移动(move)和抬起(up)。
可以理解的是,本申请实施例的列表界面可以是社交应用的界面、设置相关界面、文档界面,或商品浏览界面。终端设备可以在列表界面接收用户的滑动操作滑动操作可以为向上的滑动操作、也可以为向下的滑动操作,还可以为向左的滑动操作,或者向右的滑动操作。
可以理解的是,本申请实施例提供的数据处理方法还可以应用于其他与速度相关的场景中,此处不做限定。此外,本申请实施例提供的方法可以应用于匀速场景,也可以应用于速度降低的场景,也可以应用于速度增加的场景。本申请实施例对于速度的变化不做限定。
为方便理解,下面结合图8和图9对本申请实施例提供的数据处理方法中涉及的各个模块之间交互的过程进行说明。
示例性的,图8为本申请实施例提供的数据处理方法中各个模块之间交互的过程示意图。
如图8所示,***可以包括:应用、帧率控制***、图像合成***(surfaceflinger)、窗口管理器、硬件合成器和显示驱动。其中,应用包括应用主线程和应用渲染线程。图像合成***包括Vsync线程、缓存线程和合成线程。应用主线程也可以称为逻辑线程,或者称为UI线程。
以离手滑动过程中,终端设备进行弹窗提醒为例,
当触控面板接收到触摸操作时,内核层将触摸操作加工成原始输入事件(包括触摸坐标,触摸力度,触摸操作的时间戳等信息)。原始输入事件被存储在内核层。内核层通过输入处理库将原始输入事件上报至应用程序框架层的输入管理器。应用程序框架层的输入管理器解析该原始输入事件的信息(包括:操作类型和报点位置等)和根据当前焦点确定焦点应用,并将解析后的原始输入事件的信息(例如,down事件、move事件和up事件等)发送至合成线程。
当终端设备以第一帧率显示时接收到滑动操作时,合成线程接受到输入管理器发送的down事件、move事件和up事件。合成线程接受到输入管理器发送的down事件时,向帧率控制***发送用于指示切换屏幕刷新率的消息,消息中携带第二帧率。示例性的,第一帧率为60Hz,第二帧率为120Hz。
合成线程在接受到up事件的预设时长后,向帧率控制***发送用于指示切换屏幕刷新率的消息,该消息中携带第一帧率。
S801、当终端设备进行弹窗提醒时,缓存线程接收到除焦点窗口图层外的其他图层的缓存入队。
需要说明的是,焦点窗口图层可以理解为显示界面中列表对应的图层,与显示界面中的列表相对应。除焦点窗口图层外的其他图层可以理解为弹窗提醒对应的图层,与显示界面的弹窗相对应。
本申请实施例中,焦点窗口图层和其他图层可以对应于同一应用,也可以分别对应于不同应用,此处不做限定。
示例性的,图9为本申请实施例提供的一种显示流程示意图。如图9所示,若第一帧率为60Hz,第二帧率为120Hz。并且,图9中按照时间顺序,终端设备显示的内容依次对应于帧0、帧1、帧2、帧3、帧4、帧5和帧6。
图9中,16.6ms,Vsync-APP信号到来,应用主线程开始绘制渲染帧3。在16.6ms-33.2ms期间,终端设备的缓存线程接收到除焦点窗口图层外的其他图层的缓存入队。
S802、缓存线程向帧率控制***发送用于指示切换屏幕刷新率的消息,该消息中携带有第二帧率。
示例性的,图9所示的流程中,在16.6ms-33.2ms期间,缓存线程接收到除焦点窗口图层外的其他图层的缓存入队(如图9中的弹窗提醒),合成线程向帧率控制***发送用于指示切换屏幕刷新率的消息,该消息中携带有第二帧率,第二帧率为为120Hz。
S803、帧率控制***确认第二帧率与第一帧率的比值为整数。
示例性的,图9所示的流程中,帧率控制***确定第二帧率与第一帧率的比值为2,是整数。
S804、帧率控制***向窗口管理器查询焦点窗口。适应性的,窗口管理器向帧率控制***反馈焦点窗口对应的应用包名和焦点窗口图层。焦点窗口为终端设备前台运行的应用对应的窗口。
示例性的,图9所示的流程中,焦点窗口为输入事件对应的窗口。
可以理解的是,上述S803和S804可以同时执行,也可以不同时执行,本申请实施例对于S803和S804的先后顺序不做限定。
可能的实现方式中,帧率控制***可以根据焦点窗口对应的应用包名确定焦点应用,进而确认焦点应用是否在预先存储的延迟切换应用名单中,若在延迟切换应用名单中执行后续S805-S830。若未在延迟切换应用名单中,应用帧率和屏幕刷新率同步切换。
S805、帧率控制***根据焦点窗口向缓存线程查询焦点窗口对应的缓存队列中缓存数量;适应性的,缓存线程向帧率控制***反馈缓存数量。
需要说明的是,缓存队列中的缓存包括下述一种或多种:已缓存的缓存(queuedbuffer)、正在渲染的缓存(dequeued buffer)、正在合成的缓存(acquired buffer)和未使用的缓存(free buffer)。
已缓存的缓存可以理解为存储有绘制渲染后的图像的缓存。正在渲染的缓存可以理解为用于存储应用正在绘制渲染的图像的缓存。正在合成的缓存可以理解为在合成线程进行合成的缓存。未使用的缓存可以理解为未存储图像的缓存。
示例性的,以缓存队列中全部的缓存的数量是20为例,在图9的17ms时,应用正在绘制渲染帧3,正在渲染的缓存为帧3,数量为1;缓存队列中没有已缓存的缓存,数量为0;合成线程在合成帧2,正在合成的缓存为帧2,数量为1;未使用的缓存的数量为20-1-0-1,即18。
在图9的30ms时,应用未进行绘制渲染,正在渲染的缓存的数量为0;已缓存的缓存为帧3,数量为1;合成线程未进行合成,正在合成的缓存的数量为0;未使用的缓存的数量为20-0-1-0,即19。
本申请实施例中,缓存数量是指已缓存的缓存(queued buffer)的数量和正在渲染的缓存(dequeued buffer)的数量之和。
示例性的,图9所示的流程中,帧3绘制渲染结束,已缓存的缓存数量为1和正在渲染的缓存的数量为0,缓存数量为1,缓存线程向帧率控制***反馈缓存数量为1。
S806、帧率控制***根据缓存数量确定屏幕刷新率切换为第二帧率较应用帧率切换为第二帧率的延迟时长M。M满足以下公式:M=(缓存数量+1)*第一帧率对应的Vsync周期。
当第二帧率与第一帧率的比值为整数时,延迟时长M=(缓存数量+1)*第一帧率对应的Vsync周期。当缓存数量为1时,延迟时长M为2*第一帧率对应的Vsync周期。
示例性的,图9所示的流程中,帧率控制***确定屏幕刷新率切换为第二帧率较应用帧率切换为第二帧率的延迟时长为2*16.6ms,即33.2ms。
S807、帧率控制***向Vsync线程发送第一消息;第一消息用于指示应用帧率切换为第二帧率。
应用帧率是指应用绘制渲染对应的帧率。
可能的实现方式中,第一消息携带有第二帧率。示例性的,第二帧率为120Hz。
S809、Vsync线程在接收到第一消息后,存储第二帧率对应的Vsync信号周期。
可以理解的是,Vsync线程在接收到第一消息后,存储应用帧率对应的Vsync信号周期为第二帧率对应的Vsync周期。后续Vsync-APP信号按照第二帧率对应的节奏生成。
S810、帧率控制***向Vsync线程发送第一消息后休眠。
在终端设备执行上述S802-S809时或者在执行上述S802之前,终端设备可能还执行有S811。
S811、应用主线程向Vsync线程发送Vsync-APP请求。
S812、Vsync线程按照第一帧率对应的Vsync信号周期生成Vsync-APP。
示例性的,图9中在16.6ms-33.2ms时,决策切换应用帧率。Vsync线程按照60Hz对应的Vsync信号周期(16.6ms)生成Vsync-APP。在33.2ms时将该Vsync-APP信号发送至应用主线程。
S813、应用主线程在接收到Vsync-APP时,根据Vsync-APP的时间戳计算帧间隔。
具体的,应用主线程计算此次接收的Vsync-APP信号的时间戳与上一次接收的Vsync-APP信号的时间戳的差值,该差值为前一帧绘制渲染对应的帧间隔。
示例性的,图9中,此次接收的Vsync-APP信号的时间戳为33.2ms,上一次接收的Vsync-APP信号的时间戳为16.6ms。应用主线程计算帧3绘制渲染对应的帧间隔为33.2ms-16.6ms,即16.6ms。
S814、应用主线程计算位移量。
S815、应用主线程将当前帧的位移量发送至应用渲染线程,以唤醒应用渲染线程。
可能的实现方式中,位移量为帧间隔与速度的乘积。需要说明的是,应用主线程可以基于预先存储的速度曲线确定速度。示例性的,以图9中33.2ms的Vsync-APP信号,速度为2pixel/16.6ms为例,当前帧为帧4,帧4的位移量为帧3绘制渲染对应的帧间隔(16.6ms)与2pixel/16.6ms的乘积,即2pixel。应用主线程将当前帧的位移量(2pixel)发送至应用渲染线程。
可能的实现方式中,应用主线程不执行S813-S815。应用主线程将当前帧的速度、当前Vsync-APP时间戳和前一帧Vsync-APP的时间戳发送至应用渲染线程以唤醒应用渲染线程。示例性的,应用主线程将速度(2pixel/16.6ms)、当前帧的Vsync-APP时间戳(33.2ms)和前一帧Vsync-APP的时间戳(16.6ms)发送至应用渲染线程。
S816、应用渲染线程在接收到位移量或者Vsync-APP信号的时间戳后,被唤醒,开始绘制渲染图像。
可能的实现方式中,应用主线程在接收到位移量后,被唤醒,开始绘制渲染图像。
S817、应用渲染线程在被唤醒后,向缓存进程请求缓存,以存储绘制渲染后的图像。
适应性的,缓存线程在接收到应用渲染线程发送的请求缓存命令后,预留出存储绘制渲染后图像的空间,并向应用渲染线程发送用于指示缓存出队的指令。
S818、应用渲染线程接收到用于指示缓存出队的指令后,根据位移量绘制渲染图像。
S819、应用渲染线程将绘制渲染后的图像发送至缓存线程(缓存入队)。
S820、缓存线程在接收到应用渲染线程发送的绘制渲染后的图像后,向Vsync线程请求Vsync-SF信号。
在上述S814后,终端设备在执行S814-S820时,应用主线程还可以执行S821。
可以理解的是,终端设备可以同时执行绘制渲染、合成、显示等流程。示例性的,如图9所示,帧4绘制渲染时,合成帧3和弹窗提醒,显示帧2。
S821、应用主线程向Vsync线程发送Vsync-APP请求。
S822、Vsync线程按照第二帧率对应的Vsync信号周期生成Vsync-APP,并将Vsync-APP发送至应用主线程。
示例性的,图9所示的流程中,应用主线程在33.2ms-41.5ms期间向Vsync线程发送Vsync-APP请求;Vsync线程按照第二帧率对应的Vsync信号周期(8.3ms)生成Vsync-APP,在33.2ms+8.3ms,即41.5ms时将Vsync-APP发送至应用主线程。
可以理解的是,通常情况下,S822的执行时间在S819的执行时间之后。
可以理解的是,应用主线程在接收到S822中的Vsync-APP后,计算位移量,并通过应用渲染线程绘制渲染图像。在图像绘制渲染好后发送至缓存线程的缓存队列,等待合成。缓存线程在接收到应用渲染线程发送的绘制渲染好后的图像后,向Vsync线程请求Vsync-SF信号。
在上述S822后,应用主线主线程计算位移量后,应用主线程还可以执行S823,以继续请求Vsync-APP。
S823、应用主线程向Vsync线程发送Vsync-APP请求。
S824、Vsync线程按照第二帧率对应的Vsync信号周期生成Vsync-APP,并将Vsync-APP发送至应用主线程。此外,Vsync线程按照第一帧率对应的Vsync信号周期生成Vsync-SF,并将Vsync-SF发送至合成线程。
可以理解的是,Vsync线程响应于上述S823中请求的Vsync-APP,在S824中生成Vsync-APP信号。Vsync线程响应于上述S820请求的Vsync-SF,在S824中生成Vsync-SF信号。
示例性的,如图9所示,Vsync线程在49.8ms发送Vsync-APP信号至应用主线程,以及Vsync线程在49.8ms发送Vsync-SF信号至合成线程。S825、合成线程接收到Vsync-SF信号后,合成图像。
可能实现的方式中,合成线程接收到Vsync-SF信号后,还可以向窗口管理器查询焦点应用。合成线程根据焦点应用在缓存线程中查询焦点应用对应的缓存队列,以确认需要合成的图像。
可以理解的是,上述S824中,Vsync-APP信号的生成时间和Vsync-SF信号的生成时间一致。因此,在合成线程合成图像时,应用在绘制渲染图像。具体的,应用主线程在接收到S824中的Vsync-APP后,计算位移量,并通过应用渲染线程绘制渲染图像。在图像绘制渲染好后发送至缓存队列,等待合成。缓存线程在接收到应用渲染线程发送的绘制渲染好后的图像后,向Vsync线程请求Vsync-SF信号。
示例性的,如图9所示,49.8ms时,合成线程在合成帧4,应用主线程在绘制渲染帧6。
S826、合成线程将合成后的图像发送至硬件合成器。硬件合成器将合成后的图像发送至显示驱动以进行显示。
S827、显示驱动在Vsync-HW信号到来后,显示该合成后的图像。
S828、帧率控制***在M时长后,休眠结束。
示例性的,图9所示的流程中,帧率控制***休眠时长为33.2ms,S810后的33.2ms为49.8ms-66.4ms期间。因此在终端设备执行S825(49.8ms-66.4ms)时,即合成帧4时,结束休眠。
S829、帧率控制***向Vsync线程发送第二消息,第二消息用于指示合成帧率和屏幕刷新率均切换为第二帧率。
S830、Vsync线程在接收到第二消息后,存储第二帧率对应的Vsync信号周期。
可以理解的是,Vsync线程在接收到第二消息后,存储合成帧率对应的Vsync信号周期为第二帧率对应的Vsync周期。后续Vsync-SF信号按照第二帧率对应的节奏生成。
示例性的,图9所示的流程中,在66.4ms生成Vsync-SF信号,合成线程合成帧5,(即根据S822中的Vsync信号绘制渲染的图像)。在66.4ms+8.3ms,即74.7ms时生成Vsync-SF信号,合成线程合成帧6。
S831、Vsync线程在接收到第二消息后,向硬件合成器发送第二帧率。
S832、硬件合成器接收到第二帧率后向显示驱动发送第二帧率。
S833、显示驱动驱动屏幕将屏幕刷新率切换为第二帧率。
可以理解的是,屏幕按照第二帧率对应的Vsync周期产生Vsync-HW信号。
示例性的,图9所示的流程中,在66.4ms生成Vsync-HW信号,屏幕显示帧4。在66.4ms+8.3ms,即74.7ms时生成Vsync-HW信号,屏幕显示帧5。
S834、Vsync线程按照第一帧率对应的Vsync信号周期生成Vsync-SF,并将Vsync-SF发送至合成线程。
可以理解的是,终端设备响应于上述S822之后S824之前请求的Vsync-SF信号,并将Vsync-SF发送至合成线程。合成线程接收到Vsync-SF信号后,合成图像。并将合成后的图像发送至显示驱动以进行显示。
示例性的,如图9所示,Vsync线程在66.4ms发送Vsync-SF信号至合成线程,合成线程合成帧5。
S835、Vsync线程按照第二帧率对应的Vsync信号周期生成Vsync-SF,并将Vsync-SF发送至合成线程。
可以理解的是,终端设备响应于上述S824之后请求的Vsync-SF信号,并将Vsync-SF发送至合成线程。合成线程接收到Vsync-SF信号后,合成图像。并将合成后的图像发送至显示驱动以进行显示。
示例性的,如图9所示,Vsync线程在74.7ms发送Vsync-SF信号至合成线程,合成线程合成帧6。
需要说明的是,离手滑动过程中终端设备进行显示截屏动画或充电提醒时,终端设备的实现流程,与上述图8所示的流程类似,此处不再详细赘述。
下面通过具体的实施例对本申请实施例的数据处理方法进行详细说明。下面的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。
图10为本申请实施例提供一种数据处理方法的流程示意图。如图10所示,方法可以包括:
S1001、确定第二帧率为第一帧率的整数倍。
具体的,帧率控制***确定第二帧率为第一帧率的整数倍。
可能的实现方式中,帧率控制***在接收到合成线程发送的携带有第二帧率的消息后,确定第二帧率为第一帧率的整数倍。
本申请实施例中,第一帧率为屏幕刷新率切换前的帧率;第二帧率为屏幕刷新率切换后的帧率。
可以理解的是,第二帧率与第一帧率的比值为整数。示例性的,第一帧率可以为120Hz,第二帧率可以为60Hz;第一帧率可以为120Hz,第二帧率可以为40Hz。此处不做限定。
S1002、查询缓存队列中缓存数量。
具体的,帧率控制***查询缓存队列中缓存数量。缓存数量是指已缓存的缓存(queued buffer)和正在渲染的缓存(dequeued buffer)的数量之和。
可能的实现方式中,查询焦点窗口,基于焦点窗口对应的应用包名查询焦点窗口对应的缓存队列中缓存数量。示例性的,帧率控制***从窗口管理器获取焦点应用。根据焦点应用查询图像合成***中焦点应用对应的缓存队列,进而确认相应缓存队列中的缓存数量。
这样,可以确定每帧图像从绘制渲染至显示相差几个Vsync周期,方便后续确定屏幕刷新率切换的延迟时间。
S1003、基于缓存数量确定屏幕刷新率切换为第二帧率较应用帧率切换为第二帧率的延迟时长。
具体的,帧率控制***基于缓存数量确定屏幕刷新率切换为第二帧率较应用帧率切换为第二帧率的延迟时长。
本申请实施例中,延迟时长可以为第一时长与第二时长之和。第一时长为帧率控制***在接收到合成线程发送的携带有第二帧率的消息后的第一个Vsync-HW时间,与帧率控制***在接收到合成线程发送的携带有第二帧率的消息的时间之差。
第二时长在(缓存数量*第一帧率对应的Vsync周期时长)与(缓存数量+1)*第一帧率对应的Vsync周期时长之间。
可能的实现方式中,延迟时长满足:(缓存数量+1)*第一帧率对应的Vsync周期时长。
可以理解的是,终端设备中每帧图像从绘制渲染至显示该帧图像时相差2个Vsync周期。当缓存队列中每增加一个缓存堆积时,每帧图像从绘制渲染至显示该帧图像时相差的Vsync周期数目增加1。
将屏幕刷新率延后(缓存数量+1)*第一帧率对应的Vsync周期时长切换,可以使得图像在绘制渲染时的节奏与该帧图像在显示时的节奏一致,使得图像显示时速度与预期的速度一致,从而减少跳变现象,减少卡顿。
S1004、将应用帧率切换为第二帧率。
具体的,帧率控制***控制图像合成***将应用帧率切换为第二帧率。
可以理解的是,应用帧率通过Vsync-APP信号控制。通过控制相邻Vsync-APP信号的时间间隔,实现应用帧率切换为第二帧率。相邻的时间间隔变为第二帧率对应的Vsync周期时长。
S1005、延迟时长后,将屏幕刷新率切换为第二帧率。
具体的,帧率控制***在延迟时长后,经图像合成***控制显示驱动将屏幕刷新率切换为第二帧率。
可以理解的是,屏幕刷新率通过Vsync-HW信号控制。通过控制相邻Vsync-HW信号的时间间隔,实现屏幕刷新率切换为第二帧率。相邻的时间间隔变为第二帧率对应的Vsync周期时长。
可能的实现方式中,合成帧率的切换时间与屏幕刷新率的切换时间一致。
可以理解的是,合成帧率通过Vsync-SF信号控制。通过控制相邻Vsync-SF信号的时间间隔,实现合成帧率切换为第二帧率。相邻的时间间隔变为第二帧率对应的Vsync周期时长。
综上,在帧率切换时,先切换应用帧率,再切换屏幕刷新率,使得第M帧和第M-1帧之间的显示间隔与绘制渲染间隔一致,进而图像的显示节奏与绘制渲染节奏一致,进而减少显示间隔与绘制渲染间隔不一致导致的滑动速度发生跳变,减少卡顿,增加用户体验。
下面分别对第二帧率大于第一帧率时的情况进行说明。图9和图11对应于第二帧率大于第一帧率时的显示流程。
示例性的,图9为本申请实施例提供的一种界面显示处理流程的示意图。以列表匀速滑动的场景中,屏幕刷新率从60Hz切换至120Hz,且滑动速度为2pixel/16.6ms为例。图9中按照时间顺序,终端设备显示的内容依次对应于帧0、帧1、帧2、帧3、帧4、帧5和帧6。
如图9所示,终端设备在帧3绘制渲染时,接收到弹窗提醒,决策应用帧率切换。切换后,Vsync-APP信号的间隔变为第二帧率对应的Vsync周期(8.3ms)。在16.6ms-33.2ms期间,决策应用帧率切换时,缓存数量为1。在(1+1)*16.6,即33.2ms后决策屏幕刷新率切换。因此在49.8ms-66.4ms期间,决策屏幕刷新率切换。切换后,Vsync-SF信号的间隔和Vsync-HW信号的间隔均变为第二帧率对应的Vsync周期(8.3ms)。
决策应用帧率切换后的Vsync-APP信号的生成时间(Vsync-APP的时间戳)分别为33.2ms、41.5ms和49.8ms。在33.2ms帧4开始绘制渲染时,由于应用帧率未完成帧率切换。因此,帧2的位移量、帧3的位移量和帧4的位移量均与切换前的应用帧率(第一帧率)相关,为2pixel。在41.5ms时,应用帧率完成帧率切换。帧5的位移量和帧6的位移量均与切换后的应用帧率(第二帧率)相关,为1pixel。
决策屏幕刷新率切换后的Vsync-HW信号的生成时间(Vsync-HW的时间戳)分别为66.4ms、74.7ms和83ms;屏幕刷新率在66.4ms时未完成帧率切换,66.4ms时的滑动速度计算与切换前的屏幕刷新率(第一帧率)相关。屏幕刷新率在74.7ms时完成帧率切换,74.7ms的滑动速度计算与切换后的屏幕刷新率(第二帧率)相关。
图9中,16.6ms时,终端设备的显示界面从帧0变为帧1,滑动速度为2pixel/16.6ms。在33.2ms时,终端设备的显示界面从帧1变为帧2,滑动速度为2pixel/16.6ms。在49.8ms时,终端设备的显示界面从帧2变为帧3,滑动速度为2pixel/16.6ms。在66.4ms时,终端设备的显示界面从帧3变为帧4,滑动速度为2pixel/16.6ms。在74.7ms时,终端设备的显示界面从帧4变为帧5,滑动速度为1pixel/8.3ms。在83ms时,终端设备的显示界面从帧5变为帧6,滑动速度为1pixel/8.3ms。在画面切换时,速度一致,画面显示流畅没有卡顿。
示例性的,图11为本申请实施例提供的一种显示流程示意图。如图11所示,以列表匀速滑动的场景中,屏幕刷新率从60Hz切换至120Hz,且滑动速度为2pixel/16.6ms为例。图11中按照时间顺序,终端设备显示的内容依次对应于帧-1、帧0、帧1、帧2、帧3、帧4、帧5和帧6。
如图11所示,终端设备在帧3绘制渲染时,决策应用帧率切换。切换后,Vsync-APP信号的间隔变为第二帧率对应的Vsync周期(8.3ms)。在16.6ms-33.2ms期间,决策应用帧率切换时,缓存数量为2。在(2+1)*16.6,即49.8ms后决策屏幕刷新率切换。因此在66.4ms-83ms期间,决策屏幕刷新率切换。切换后,Vsync-SF信号的间隔和Vsync-HW信号的间隔均变为第二帧率对应的Vsync周期(8.3ms)。
决策应用帧率切换后的Vsync-APP的生成时间分别为33.2ms、41.5ms和49.8ms;在33.2ms帧4开始绘制渲染时,由于应用帧率未完成帧率切换。因此,帧2的位移量、帧3的位移量和帧4的位移量均与切换前的应用帧率(第一帧率)相关,为2pixel。在41.5ms时,应用帧率完成帧率切换。帧5的位移量和帧6的位移量均与切换后的应用帧率(第二帧率)相关,为1pixel。
决策屏幕刷新率切换后的Vsync-HW的生成时间为83ms、91.3ms和99.6ms;屏幕刷新率在83ms时未完成帧率切换,83ms时的滑动速度计算与切换前的屏幕刷新率(第一帧率)相关。屏幕刷新率在91.3ms时完成帧率切换,91.3ms的滑动速度计算与切换后的屏幕刷新率(第二帧率)相关。
图11中,16.6ms时,终端设备的显示界面从帧-1变为帧0,滑动速度为2pixel/16.6ms。33.2ms时,终端设备的显示界面从帧0变为帧1,滑动速度为2pixel/16.6ms。在49.8ms时,终端设备的显示界面从帧1变为帧2,滑动速度为2pixel/16.6ms。在66.4ms时,终端设备的显示界面从帧2变为帧3,滑动速度为2pixel/16.6ms。在83ms时,终端设备的显示界面从帧3变为帧4,滑动速度为2pixel/16.6ms。在91.3ms时,终端设备的显示界面从帧4变为帧5,滑动速度为1pixel/8.3ms。在99.6ms时,终端设备的显示界面从帧5变为帧6,滑动速度为1pixel/8.3ms。在画面切换时,速度一致,画面显示流畅没有卡顿。
上面已对本申请实施例的数据处理方法进行了说明,下面对本申请实施例提供的执行上述数据处理方法的终端设备进行描述。本领域技术人员可以理解,方法和装置可以相互结合和引用,本申请实施例提供的终端设备可以执行上述数据处理方法中的步骤。
如图12所示,图12示出了本申请实施例提供的一种数据处理装置的结构示意图。该数据处理装置可以是本申请实施例中的终端设备。该数据处理装置包括:显示屏1801,显示屏用于显示图像;一个或多个处理器1802;存储器1803;多个应用程序;以及一个或多个计算机程序,其中一个或多个计算机程序被存储在存储器1803中,一个或多个计算机程序包括指令,当指令被数据处理装置执行时,使得数据处理装置执行上述数据处理方法中的步骤。
图13为本申请实施例提供的一种数据处理装置的硬件结构示意图。请参见图13,该装置包括:存储器1901、处理器1902和接口电路1903。该装置还可以包括显示屏1904,其中,存储器1901、处理器1902、接口电路1903和显示屏1904可以通信;示例性的,存储器1901、处理器1902、接口电路1903和显示屏1904可以通过通信总线通信,存储器1901用于存储计算机执行指令,由处理器1902来控制执行,并由接口电路1903来执行通信,从而实现本申请实施例提供的数据处理方法。
可选的,接口电路1903还可以包括发送器和/或接收器。可选的,上述处理器1902可以包括一个或多个CPU,还可以是其他通用处理器、数字信号处理器(digital signalprocessor,DSP)、专用集成电路(application specific integrated circuit,ASIC)等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
可能的实现方式中,本申请实施例中的计算机执行指令也可以称之为应用程序代码,本申请实施例对此不作具体限定。
本申请实施例提供的数据处理装置,用于执行上述实施例的数据处理方法,技术原理和技术效果相似,此处不再赘述。
本申请实施例提供一种终端设备,结构参见图1。终端设备的存储器可用于存储至少一个程序指令,处理器用于执行至少一个程序指令,以实现上述方法实施例的技术方案。其实现原理和技术效果与上述方法相关实施例类似,此处不再赘述。
本申请实施例提供一种芯片。芯片包括处理器,处理器用于调用存储器中的计算机程序,以执行上述实施例中的技术方案。其实现原理和技术效果与上述相关实施例类似,此处不再赘述。
本申请实施例提供一种计算机程序产品,当计算机程序产品在电子设备运行时,使得终端设备执行上述实施例中的技术方案。其实现原理和技术效果与上述相关实施例类似,此处不再赘述。
本申请实施例提供一种计算机可读存储介质,其上存储有程序指令,程序指令被终端设备执行时,使得终端设备执行上述实施例的技术方案。其实现原理和技术效果与上述相关实施例类似,此处不再赘述。
本申请实施例是参照根据本申请实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理单元以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理单元执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
以上的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的技术方案的基础之上,所做的任何修改、等同替换、改进等,均应包括在本发明的保护范围之内。
Claims (12)
1.一种数据处理方法,其特征在于,应用于终端设备,所述终端设备包括应用、帧率控制***、合成线程、缓存线程和显示驱动,所述方法包括:
在所述应用以第一帧率绘制渲染图像时,所述帧率控制***接收到所述缓存线程发送的携带第二帧率的消息,所述第二帧率与所述第一帧率的比值为大于1的整数;
响应于接收所述携带第二帧率的消息,帧率控制***控制所述应用以所述第二帧率绘制渲染图像;
在第一时刻,所述帧率控制***控制所述合成线程以所述第二帧率合成所述应用绘制渲染后的图像,以及控制所述显示驱动以所述第二帧率驱动屏幕显示所述合成线程合成后的图像;
其中,所述第一时刻在所述帧率控制***接收到所述携带第二帧率的消息后的第1+A个Vsync-HW信号到第2+A个Vsync-HW信号之间,所述A是所述帧率控制***接收到所述携带第二帧率的消息时,所述缓存线程中所述应用对应的缓存队列中缓存的缓存数量,所述Vsync-HW信号用于触发所述屏幕显示合成后的图像。
2.根据权利要求1所述的方法,其特征在于,所述终端设备还包括Vsync线程;
所述响应于接收所述携带第二帧率的消息,所述帧率控制***控制所述应用以所述第二帧率绘制渲染图像,包括:
所述帧率控制***接收到所述携带第二帧率的消息之后,所述帧率控制***向Vsync线程发送第一消息,所述第一消息用于指示将应用帧率切换为所述第二帧率;
所述Vsync线程基于所述第一消息以所述第二帧率生成Vsync-APP信号并将所述Vsync-APP信号发送至所述应用;
所述应用基于所述Vsync-APP信号绘制渲染图像。
3.根据权利要求1或2所述的方法,其特征在于,所述终端设备还包括:Vsync线程;
所述在第一时刻,所述帧率控制***控制所述合成线程以所述第二帧率合成所述应用绘制渲染后的图像,以及控制所述显示驱动以所述第二帧率驱动屏幕显示所述合成线程合成后的图像,包括:
在所述第一时刻,所述帧率控制***向Vsync线程发送第二消息,所述第二消息用于指示合成帧率和屏幕刷新率均切换为所述第二帧率;
所述Vsync线程基于所述第二消息以所述第二帧率生成Vsync-SF信号并将所述Vsync-SF信号发送至所述合成线程;
所述合成线程基于所述Vsync-SF信号合成绘制渲染后的图像;
所述Vsync线程基于所述第二消息向所述显示驱动发送第三消息,所述第三消息用于指示所述屏幕刷新率切换为所述第二帧率;
所述显示驱动基于所述第三消息控制屏幕以所述第二帧率生成Vsync-HW信号;
所述显示驱动在接收到所述Vsync-HW信号后控制所述屏幕显示合成后的图像。
4.根据权利要求1或2所述的方法,其特征在于,所述第一时刻与在所述帧率控制***接收到所述携带第二帧率的消息的时刻之间的差值满足:(所述缓存数量+1)*所述第一帧率对应的Vsync周期时长。
5.根据权利要求1或2所述的方法,其特征在于,所述缓存数量为所述应用对应的缓存队列中绘制渲染后的缓存的数量,以及所述应用对应的缓存队列中正在绘制渲染的缓存的数量之和。
6.根据权利要求1或2所述的方法,其特征在于,所述在所述应用以第一帧率绘制渲染图像时,所述帧率控制***接收到所述合成线程发送的携带第二帧率的消息之后,还包括:
所述帧率控制***确定所述第二帧率与所述第一帧率的比值;
当所述比值为大于1的整数时,所述帧率控制***从所述应用对应的缓存队列中获取所述缓存数量;
所述帧率控制***基于所述缓存数量确定所述第一时刻。
7.根据权利要求6所述的方法,其特征在于,所述当所述比值为大于1的整数时,所述帧率控制***从所述应用对应的缓存队列中获取所述缓存数量,包括:
所述帧率控制***从窗口管理器中获取焦点窗口,所述焦点窗口与所述应用相对应;
所述帧率控制***基于所述焦点窗口从所述应用对应的缓存队列中获取所述缓存数量。
8.根据权利要求7所述的方法,其特征在于,所述在所述应用以第一帧率绘制渲染图像时,所述帧率控制***接收到所述合成线程发送的携带第二帧率的消息之前,所述方法还包括:
在所述应用以所述第一帧率绘制渲染所述图像时,所述缓存线程接收到绘制渲染后的第二图像,所述第二图像与第二窗口相对应,所述第二窗口与所述焦点窗口不同;
所述缓存线程接收到绘制渲染后的其他图像后,向所述帧率控制***发送携带所述第二帧率的消息。
9.根据权利要求8所述的方法,其特征在于,所述其他图像与所述终端设备的弹窗提醒相对应,或者所述其他图像与所述终端设备的截屏动画相对应。
10.一种终端设备,其特征在于,所述终端设备包括处理器,所述处理器用于调用存储器中的计算机程序,以执行如权利要求1-9中任一项所述的方法。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,当所述计算机指令在终端设备上运行时,使得所述终端设备执行如权利要求1-9中任一项所述的方法。
12.一种芯片,其特征在于,所述芯片包括处理器,所述处理器用于调用存储器中的计算机程序,以执行如权利要求1-9中任一项所述的方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211502249.3A CN116521115A (zh) | 2022-01-30 | 2022-01-30 | 数据处理方法和相关装置 |
CN202210114699.9A CN114579075B (zh) | 2022-01-30 | 2022-01-30 | 数据处理方法和相关装置 |
PCT/CN2023/071242 WO2023142995A1 (zh) | 2022-01-30 | 2023-01-09 | 数据处理方法和相关装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210114699.9A CN114579075B (zh) | 2022-01-30 | 2022-01-30 | 数据处理方法和相关装置 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211502249.3A Division CN116521115A (zh) | 2022-01-30 | 2022-01-30 | 数据处理方法和相关装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114579075A CN114579075A (zh) | 2022-06-03 |
CN114579075B true CN114579075B (zh) | 2023-01-17 |
Family
ID=81772479
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211502249.3A Pending CN116521115A (zh) | 2022-01-30 | 2022-01-30 | 数据处理方法和相关装置 |
CN202210114699.9A Active CN114579075B (zh) | 2022-01-30 | 2022-01-30 | 数据处理方法和相关装置 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211502249.3A Pending CN116521115A (zh) | 2022-01-30 | 2022-01-30 | 数据处理方法和相关装置 |
Country Status (2)
Country | Link |
---|---|
CN (2) | CN116521115A (zh) |
WO (1) | WO2023142995A1 (zh) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116521115A (zh) * | 2022-01-30 | 2023-08-01 | 荣耀终端有限公司 | 数据处理方法和相关装置 |
CN117711356A (zh) * | 2022-08-24 | 2024-03-15 | 荣耀终端有限公司 | 一种屏幕刷新率切换方法及电子设备 |
CN116048833B (zh) * | 2022-08-31 | 2023-10-20 | 荣耀终端有限公司 | 一种线程处理方法、终端设备及芯片*** |
CN116700654B (zh) * | 2022-09-15 | 2024-04-09 | 荣耀终端有限公司 | 一种图像显示方法、装置、终端设备及存储介质 |
CN117891422A (zh) * | 2022-10-13 | 2024-04-16 | 荣耀终端有限公司 | 图像处理方法和电子设备 |
CN116664375B (zh) * | 2022-10-17 | 2024-04-12 | 荣耀终端有限公司 | 图像预测方法、装置、设备及存储介质 |
CN117991961A (zh) * | 2022-11-07 | 2024-05-07 | 荣耀终端有限公司 | 数据处理方法、设备及存储介质 |
CN118138872A (zh) * | 2022-12-02 | 2024-06-04 | 荣耀终端有限公司 | 稳定图像帧的方法和装置 |
CN117112086B (zh) * | 2023-01-31 | 2024-07-09 | 荣耀终端有限公司 | 一种数据处理方法及电子设备 |
CN117058291A (zh) * | 2023-07-12 | 2023-11-14 | 荣耀终端有限公司 | 一种显存切换方法和电子设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112052097A (zh) * | 2020-10-15 | 2020-12-08 | 腾讯科技(深圳)有限公司 | 虚拟场景的渲染资源处理方法、装置、设备及存储介质 |
CN113254120A (zh) * | 2021-04-02 | 2021-08-13 | 荣耀终端有限公司 | 数据处理方法和相关装置 |
CN113347466A (zh) * | 2021-05-18 | 2021-09-03 | 深圳市腾讯网络信息技术有限公司 | 一种数据处理方法、装置和存储介质 |
CN113630572A (zh) * | 2021-07-09 | 2021-11-09 | 荣耀终端有限公司 | 帧率切换方法和相关装置 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8797340B2 (en) * | 2012-10-02 | 2014-08-05 | Nvidia Corporation | System, method, and computer program product for modifying a pixel value as a function of a display duration estimate |
CN103593155B (zh) * | 2013-11-06 | 2016-09-07 | 华为终端有限公司 | 显示帧生成方法和终端设备 |
CN105611316B (zh) * | 2014-11-21 | 2019-05-03 | 华为终端(东莞)有限公司 | 一种调整帧率的方法、装置及*** |
KR102545078B1 (ko) * | 2018-10-01 | 2023-06-19 | 삼성전자주식회사 | 디스플레이장치, 그 제어방법 및 시스템 |
GB2578629B (en) * | 2018-11-01 | 2022-02-23 | Samsung Electronics Co Ltd | Device and method for processing rendered frames |
EP3926576A4 (en) * | 2019-03-27 | 2022-03-09 | Huawei Technologies Co., Ltd. | FREQUENCY ADJUSTMENT METHOD AND EQUIPMENT APPLIED TO TERMINAL AND ELECTRONIC DEVICE |
CN110609645B (zh) * | 2019-06-25 | 2021-01-29 | 华为技术有限公司 | 一种基于垂直同步信号的控制方法及电子设备 |
CN113473229B (zh) * | 2021-06-25 | 2022-04-12 | 荣耀终端有限公司 | 一种动态调节丢帧阈值的方法及相关设备 |
CN113741848B (zh) * | 2021-09-15 | 2024-02-23 | Oppo广东移动通信有限公司 | 图像显示方法、ddic、显示屏模组及终端 |
CN113805832A (zh) * | 2021-09-15 | 2021-12-17 | Oppo广东移动通信有限公司 | 图像数据传输方法、装置、终端及介质 |
CN113781949B (zh) * | 2021-09-26 | 2023-10-27 | Oppo广东移动通信有限公司 | 图像显示方法、显示驱动芯片、显示屏模组及终端 |
CN116521115A (zh) * | 2022-01-30 | 2023-08-01 | 荣耀终端有限公司 | 数据处理方法和相关装置 |
-
2022
- 2022-01-30 CN CN202211502249.3A patent/CN116521115A/zh active Pending
- 2022-01-30 CN CN202210114699.9A patent/CN114579075B/zh active Active
-
2023
- 2023-01-09 WO PCT/CN2023/071242 patent/WO2023142995A1/zh unknown
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112052097A (zh) * | 2020-10-15 | 2020-12-08 | 腾讯科技(深圳)有限公司 | 虚拟场景的渲染资源处理方法、装置、设备及存储介质 |
CN113254120A (zh) * | 2021-04-02 | 2021-08-13 | 荣耀终端有限公司 | 数据处理方法和相关装置 |
CN113347466A (zh) * | 2021-05-18 | 2021-09-03 | 深圳市腾讯网络信息技术有限公司 | 一种数据处理方法、装置和存储介质 |
CN113630572A (zh) * | 2021-07-09 | 2021-11-09 | 荣耀终端有限公司 | 帧率切换方法和相关装置 |
Also Published As
Publication number | Publication date |
---|---|
CN116521115A (zh) | 2023-08-01 |
WO2023142995A1 (zh) | 2023-08-03 |
CN114579075A (zh) | 2022-06-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114579075B (zh) | 数据处理方法和相关装置 | |
CN114579076B (zh) | 数据处理方法和相关装置 | |
CN109766066B (zh) | 一种消息处理的方法、相关装置及*** | |
CN113254120B (zh) | 数据处理方法和相关装置 | |
CN113630572B (zh) | 帧率切换方法和相关装置 | |
CN113726950B (zh) | 一种图像处理方法和电子设备 | |
CN114089933B (zh) | 显示参数的调整方法、电子设备、芯片及可读存储介质 | |
CN115048012B (zh) | 数据处理方法和相关装置 | |
WO2023000772A1 (zh) | 模式切换方法、装置、电子设备及芯片*** | |
CN116075808A (zh) | 一种图像处理方法及电子设备 | |
CN112516590A (zh) | 一种帧率识别方法及电子设备 | |
CN115934314A (zh) | 一种应用运行方法以及相关设备 | |
CN114531519A (zh) | 一种基于垂直同步信号的控制方法及电子设备 | |
CN116414337A (zh) | 帧率切换方法及装置 | |
CN115904185A (zh) | 数据处理方法和相关装置 | |
CN115686403A (zh) | 显示参数的调整方法、电子设备、芯片及可读存储介质 | |
CN114740986A (zh) | 手写输入显示方法及相关设备 | |
CN115904184B (zh) | 数据处理方法和相关装置 | |
WO2023124227A9 (zh) | 帧率切换方法及装置 | |
WO2023124225A9 (zh) | 帧率切换方法及装置 | |
CN116069187B (zh) | 一种显示方法及电子设备 | |
WO2024066834A9 (zh) | Vsync信号的控制方法、电子设备、存储介质及芯片 | |
CN116700578B (zh) | 图层合成方法、电子设备以及存储介质 | |
WO2022143094A1 (zh) | 一种窗口页面的交互方法、装置、电子设备以及可读存储介质 | |
CN116414336A (zh) | 帧率切换方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |