CN106792124A - 多媒体资源解码播放方法及装置 - Google Patents

多媒体资源解码播放方法及装置 Download PDF

Info

Publication number
CN106792124A
CN106792124A CN201611261126.XA CN201611261126A CN106792124A CN 106792124 A CN106792124 A CN 106792124A CN 201611261126 A CN201611261126 A CN 201611261126A CN 106792124 A CN106792124 A CN 106792124A
Authority
CN
China
Prior art keywords
decoded
resource data
data
resource
multimedia
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201611261126.XA
Other languages
English (en)
Inventor
马永斌
袁方
李庆燕
彭伟刚
林岳
顾思斌
潘柏宇
王冀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba China Co Ltd
Original Assignee
1Verge Internet Technology Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 1Verge Internet Technology Beijing Co Ltd filed Critical 1Verge Internet Technology Beijing Co Ltd
Priority to CN201611261126.XA priority Critical patent/CN106792124A/zh
Publication of CN106792124A publication Critical patent/CN106792124A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44004Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44012Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving rendering scenes according to scene graphs, e.g. MPEG-4 scene graphs

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本公开涉及一种多媒体资源解码播放方法及装置。该方法包括:利用多媒体资源处理程序对多媒体资源文件解封装和解复用,获取第一资源数据、第二资源数据和解码参数;利用多媒体资源处理程序对第二资源数据解码,获得解码后的第二资源数据;利用硬解码器对第一资源数据解码,获得解码后的第一资源数据;对解码后的第一资源数据与第二资源数据进行同步;播放解码后的第一资源数据及第二资源数据。根据本公开实施例能够利用多媒体资源处理程序对多媒体资源文件进行解封装和解复用,利用硬解码器对第一资源数据进行解码,并在数据同步后进行播放,能够兼容各种封装格式,降低CPU使用率并减少功耗,提升用户体验。

Description

多媒体资源解码播放方法及装置
技术领域
本公开涉及计算机技术领域,尤其涉及一种多媒体资源解码播放方法及装置。
背景技术
随着终端设备的不断普及,对高质量的多媒体资源(例如高清、超清、1080P视频)的播放需求越来越多,多媒体资源的播放体验越来越受到重视。同时,为了减少高质量视频传输带宽,新一代视频压缩标准H.265也会更加普及。因此,终端设备的解码效率将会是决定播放体验的重要因素。
在相关技术中,在终端设备中播放多媒体资源主要有硬解和软解两种方案,例如,在采用安卓***的终端设备中,一种方案是使用安卓***播放器提供的Java层API(应用程序编程接口)进行硬解播放;另一种方案是在本地(Native)层使用开源多媒体库进行软解播放。然而,硬解播放支持的封装格式有限,只支持3GPP、MPEG-4、MPEG-TS等封装格式,可定制程度低;软解播放可以支持多种格式,但是在面对高分辨率视频时,由于使用软件解码,CPU使用率较高,机器容易发烫,耗电量巨大。
发明内容
有鉴于此,本公开提出了一种多媒体资源解码播放方法及装置,在兼容各种格式的同时,降低CPU使用率并减少功耗。
根据本公开的第一方面,提供了一种多媒体资源解码播放方法,包括:利用多媒体资源处理程序,对多媒体资源文件进行解封装和解复用,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数;利用多媒体资源处理程序对所述第二资源数据进行解码,获得解码后的第二资源数据;基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据;对所述解码后的第一资源数据与解码后的第二资源数据进行同步;播放所述解码后的第一资源数据及所述解码后的第二资源数据。
对于上述方法,在一种可能的实现方式中,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数,包括:将所述第一资源数据从Native层复制到Java层的字节缓存空间中。
对于上述方法,在一种可能的实现方式中,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数,包括:获取硬解码器的输入缓存空间,并采用公平锁对所述输入缓存空间加锁;将所述字节缓存空间中的所述第一资源数据存储到已加锁的所述输入缓存空间中。
对于上述方法,在一种可能的实现方式中,基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据,包括:获取硬解码器的输出缓存空间,并采用公平锁对所述输出缓存空间加锁;通过硬解码器对已加锁的所述输入缓存空间中的所述第一资源数据进行解码,获得解码后的第一资源数据;将解码后的第一资源数据存储到已加锁的所述输出缓存空间中。
对于上述方法,在一种可能的实现方式中,所述多媒体资源处理程序包括FFmpeg。
对于上述方法,在一种可能的实现方式中,所述硬解码器包括解码器MediaCodec。
对于上述方法,在一种可能的实现方式中,所述第一资源数据为视频数据,所述第二资源数据为音频数据。
根据本公开的第二方面,提供了一种多媒体资源解码播放装置,包括:
待解码数据获取模块,用于利用多媒体资源处理程序,对多媒体资源文件进行解封装和解复用,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数;
第二资源数据解码模块,用于利用多媒体资源处理程序对所述第二资源数据进行解码,获得解码后的第二资源数据;
第一资源数据解码模块,用于基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据;
数据同步模块,用于对所述解码后的第一资源数据与解码后的第二资源数据进行同步;
播放模块,用于播放所述解码后的第一资源数据及所述解码后的第二资源数据。
对于上述装置,在一种可能的实现方式中,所述待解码数据获取模块包括:
数据复制子模块,用于将所述第一资源数据从Native层复制到Java层的字节缓存空间中。
对于上述装置,在一种可能的实现方式中,所述待解码数据获取模块包括:
输入缓存获取及加锁子模块,用于获取硬解码器的输入缓存空间,并采用公平锁对所述输入缓存空间加锁;
数据输入缓存子模块,用于将所述字节缓存空间中的所述第一资源数据存储到已加锁的所述输入缓存空间中。
对于上述装置,在一种可能的实现方式中,所述第一资源数据解码模块包括:
输出缓存获取及加锁子模块,用于获取硬解码器的输出缓存空间,并采用公平锁对所述输出缓存空间加锁;
硬解码子模块,用于通过硬解码器对已加锁的所述输入缓存空间中的所述第一资源数据进行解码,获得解码后的第一资源数据;
数据输出缓存子模块,用于将解码后的第一资源数据存储到已加锁的所述输出缓存空间中。
对于上述装置,在一种可能的实现方式中,所述多媒体资源处理程序包括FFmpeg。
对于上述装置,在一种可能的实现方式中,所述硬解码器包括解码器MediaCodec。
对于上述装置,在一种可能的实现方式中,所述第一资源数据为视频数据,所述第二资源数据为音频数据。
根据本公开的第三方面,提供了一种多媒体资源解码播放装置,包括:处理器;用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:利用多媒体资源处理程序,对多媒体资源文件进行解封装和解复用,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数;利用多媒体资源处理程序对所述第二资源数据进行解码,获得解码后的第二资源数据;基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据;对所述解码后的第一资源数据与解码后的第二资源数据进行同步;播放所述解码后的第一资源数据及所述解码后的第二资源数据。
根据本公开的第四方面,提供了一种非易失性计算机可读存储介质,当所述存储介质中的指令由终端和/或服务器的处理器执行时,使得终端和/或服务器能够执行一种多媒体资源解码播放方法,所述方法包括:利用多媒体资源处理程序,对多媒体资源文件进行解封装和解复用,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数;利用多媒体资源处理程序对所述第二资源数据进行解码,获得解码后的第二资源数据;基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据;对所述解码后的第一资源数据与解码后的第二资源数据进行同步;播放所述解码后的第一资源数据及所述解码后的第二资源数据。
根据本公开实施例的多媒体资源解码播放方法及装置,能够利用多媒体资源处理程序对多媒体资源文件进行解封装和解复用,利用硬解码器对第一资源数据进行解码,并在数据同步后进行播放,能够兼容各种封装格式,降低CPU使用率并减少功耗,提升用户体验。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。
图1是根据一示例性实施例示出的一种多媒体资源解码播放方法的流程图。
图2是根据一示例性实施例示出的一种多媒体资源解码播放方法的流程图。
图3是根据一示例性实施例示出的一种多媒体资源解码播放方法的流程图。
图4是根据一示例性实施例示出的一种多媒体资源解码播放方法的步骤13的流程图。
图5是根据一示例性实施例示出的一种多媒体资源解码播放装置的框图。
图6是根据一示例性实施例示出的一种多媒体资源解码播放装置的框图。
图7是根据一示例性实施例示出的一种多媒体资源解码播放装置的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
实施例1
图1是根据一示例性实施例示出的一种多媒体资源解码播放方法的流程图。该方法可应用于终端设备(例如智能手机)或服务器中。如图1所示,根据本公开实施例的多媒体资源解码播放方法包括:
步骤S11,利用多媒体资源处理程序,对多媒体资源文件进行解封装和解复用,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数;
步骤S12,利用多媒体资源处理程序对所述第二资源数据进行解码,获得解码后的第二资源数据;
步骤S13,基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据;
步骤S14,对所述解码后的第一资源数据与解码后的第二资源数据进行同步;
步骤S15,播放所述解码后的第一资源数据及所述解码后的第二资源数据。
根据本公开的实施例能够利用多媒体资源处理程序对多媒体资源文件进行解封装和解复用,利用硬解码器对第一资源数据进行解码,并在数据同步后进行播放,能够兼容各种封装格式,降低CPU使用率并减少功耗,提升用户体验。
举例来说,对于多媒体资源文件,可以采用多媒体资源处理程序进行解封装和解复用,该解封装和解复用的过程为软件方式,可以实现各种封装格式的多媒体资源文件的解封装和解复用。经过解封装和解复用,可以获得待解码的第一资源数据、待解码的第二资源数据以及解码参数。对于待解码的第二资源数据,可以采用多媒体资源处理程序进行解码,获得解码后的第二资源数据;对于待解码的第一资源数据,可以采用硬解码器进行解码,获得解码后的第一资源数据。
在一种可能的实现方式中,所述多媒体资源文件可以例如为视频文件,所述多媒体资源处理程序可以例如为FFmpeg,经解封装和解复用后,所获取的待解码的第一资源数据可以为视频数据,待解码的第二资源数据可以为音频数据。
这种方式考虑到视频数据解码运算量较大,采用硬解码器对视频数据进行解码,将CPU的部分解码工作转到了GPU,使CPU使用率大大降低,降低CPU功耗,可使APP使用更加流畅,避免了CPU使用率过高导致的手机发热、掉电过快等问题,同时,这种方式考虑到音频数据解码运算量较小,采用软解码的方式解码音频数据,一方面平衡CPU和硬件码器的处理量,另一方面可以使软、硬解码并行进行,进一步提高处理效率。通过这种方式,提高了终端的解码能力,使得终端能够播放更高清晰度的视频,满足了用户播放高清晰度视频的需求。
在一种可能的实现方式中,在终端设备采用安卓***时,所述硬解码器可以为安卓解码器MediaCodec。其中,所述解码参数可以包括硬解码器进行解码所需要的参数,例如信息参数SPS/PPS、渲染需要的画布Surface、包含时间信息的时间戳等,信息参数SPS/PPS可以通过FFmpeg的外部API结构体AVCodecContext数据结构中的附加信息(extradata)获取。
在一种可能的实现方式中,可以在Java层启动解码器MediaCodec(硬解码器)并开始解码线程。在本地层的解复用(Demux)线程中,可以调用解码器MediaCodec,获取输入缓存空间(InputBuffer),如果获取失败,则需要重新获取。在获取到输入缓存空间后,可以将待解码的第一资源数据复制到该输入缓存空间中。在Java层将该输入缓存空间放入解码器MediaCodec的输入缓存空间队列中,由解码器MediaCodec进行解码。同时,将包含时间信息的时间戳也放入该输入缓存空间,为之后的同步处理做准备。
在一种可能的实现方式中,在Java层的解码线程中,可以获取输出缓存空间(OutputBuffer),如果获取失败,则需要重新获取。在获取到输出缓存空间后,可以将解码器MediaCodec解码后的第一资源数据放入该输出缓存空间中,并且可以释放存储有待解码的第一资源数据的输入缓存空间。其中,在第一资源数据为视频数据时,解码后的第一资源数据可以为视频帧。
在一种可能的实现方式中,可以将解码后的第一资源数据(例如视频帧)的时间戳与解码后的第二资源数据(例如音频数据)的时间戳进行对比,实现解码后的第一资源数据与解码后的第二资源数据之间的同步。并且,可以由本地层决定是否渲染解码后的第一资源数据(例如视频帧),在需要渲染时,对解码后的第一资源数据进行渲染,否则,不进行渲染。然后,播放所述解码后的第一资源数据及所述解码后的第二资源数据,并且可以释放存储有解码后的的第一资源数据的输出缓存空间。
图2是根据一示例性实施例示出的一种多媒体资源解码播放方法的流程图。如图2所示,在一种可能的实现方式中,步骤S11包括:
在步骤S111中,将所述第一资源数据从Native层复制到Java层的字节缓存空间中。
举例来说,在本地层的解复用(Demux)线程中,经解复用后,待解码的第一资源数据存储于本地层中,而获取到的输入缓存空间(InputBuffer)位于Java层,因此,需要将Native层的数据传递到Java层。使用传统的数据传递操作会导致数据多复制一次。在本公开的实施例中,可以直接将Native层的数据(第一资源数据)复制到Java层创建的字节缓存空间(ByteBuffer)中,再将字节缓存空间中的第一资源数据存储到输入缓存空间中。由于ByteBuffer使用了***内存而非JVM中的内存,因而避免了数据在JVM层和Native层传递过程中的复制。
通过这种方式,可以减少第一资源数据传递过程中的复制次数,提高数据传递效率。
图3是根据一示例性实施例示出的一种多媒体资源解码播放方法的流程图。如图3所示,在一种可能的实现方式中,步骤S11包括:
在步骤S112中,获取硬解码器的输入缓存空间,并采用公平锁对所述输入缓存空间加锁;
在步骤S113中,将所述字节缓存空间中的所述第一资源数据存储到已加锁的所述输入缓存空间中。
举例来说,在对解码器Mediacodec内部的缓存空间进行操作时,例如在解复用(Demux)线程获取输入缓存空间的操作、在解码线程获取输出缓存空间的操作,以及在播放器查找(seek)时对Mediacodec进行冲刷(flush)的操作等,需要对解码器内部的缓存空间进行加锁,从而避免缓存空间中的数据不一致所导致的各种错误。在解码过程中获取输入缓存空间和获取输入缓存空间的操作会频繁执行,如果使用传统的非公平锁(例如采用synchronized关键字进行加锁),则获取缓存空间的操作以及冲刷操作都有可能会得不到及时的响应,从而导致冲刷操作滞后或一段时间无法获得缓存空间。
在一种可能的实现方式中,在获取硬解码器的输入缓存空间时,采用公平锁(例如ReentrantLock提供的公平锁)对所述输入缓存空间加锁。公平锁具有队列先进先出的特性,保证了冲刷操作能够及时响应,同时保证了获取输入缓存空间和获取输出缓存空间操作执行频率一致,不会出现因锁竞争而导致某个操作无法及时执行的问题。在对输入缓存空间加锁后,可以将字节缓存空间中的第一资源数据存储到已加锁的所述输入缓存空间中,以进行解码。本公开对公平锁的具体类型不进行限制,可以采用本领域常用的各种公平锁。
通过这种方式,采用公平锁对输入缓存空间加锁,能够避免缓存空间中出现错误,并且保证获取输入缓存空间和获取输出缓存空间操作执行频率一致,提高了解码效率。
图4是根据一示例性实施例示出的一种多媒体资源解码播放方法的步骤13的流程图。如图4所示,在一种可能的实现方式中,步骤S13包括:
在步骤S131中,获取硬解码器的输出缓存空间,并采用公平锁对所述输出缓存空间加锁;
在步骤S132中,通过硬解码器对已加锁的所述输入缓存空间中的所述第一资源数据进行解码,获得解码后的第一资源数据;
在步骤S133中,将解码后的第一资源数据存储到已加锁的所述输出缓存空间中。
举例来说,在解码线程中,可以获取解码器Mediacodec的输出缓存空间,并采用公平锁(例如ReentrantLock提供的公平锁)对所述输出缓存空间加锁。在获取到输出缓存空间后,通过硬解码器对已加锁的输入缓存空间中的第一资源数据进行解码,获得解码后的第一资源数据(例如视频帧),并且将解码后的第一资源数据存储到已加锁的所述输出缓存空间中。
通过这种方式,采用公平锁对输出缓存空间加锁,能够避免缓存空间中出现错误,并且保证获取输入缓存空间和获取输出缓存空间操作执行频率一致,使得获取输入、输出缓存空间的操作能够有序交替进行,不会出现某个操作长时间没有获得锁而无法执行的情况,避免了锁竞争,提高了解码效率。
实施例2
图5是根据一示例性实施例示出的一种多媒体资源解码播放的框图。如图5所示,该多媒体资源解码播放装置包括:待解码数据获取模块51、第二资源数据解码模块52、第一资源数据解码模块53、数据同步模块54以及播放模块55。
待解码数据获取模块51,用于利用多媒体资源处理程序,对多媒体资源文件进行解封装和解复用,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数;
第二资源数据解码模块52,用于利用多媒体资源处理程序对所述第二资源数据进行解码,获得解码后的第二资源数据;
第一资源数据解码模块53,用于基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据;
数据同步模块54,用于对所述解码后的第一资源数据与解码后的第二资源数据进行同步;
播放模块55,用于播放所述解码后的第一资源数据及所述解码后的第二资源数据。
图6是根据一示例性实施例示出的一种多媒体资源解码播放的框图。如图6所示,在一种可能的实现方式中,所述待解码数据获取模块51包括:
数据复制子模块511,用于将所述第一资源数据从Native层复制到Java层的字节缓存空间中。
如图6所示,在一种可能的实现方式中,所述待解码数据获取模块51包括:
输入缓存获取及加锁子模块512,用于获取硬解码器的输入缓存空间,并采用公平锁对所述输入缓存空间加锁;
数据输入缓存子模块513,用于将所述字节缓存空间中的所述第一资源数据存储到已加锁的所述输入缓存空间中。
如图6所示,在一种可能的实现方式中,所述第一资源数据解码模块53包括:
输出缓存获取及加锁子模块531,用于获取硬解码器的输出缓存空间,并采用公平锁对所述输出缓存空间加锁;
硬解码子模块532,用于通过硬解码器对已加锁的所述输入缓存空间中的所述第一资源数据进行解码,获得解码后的第一资源数据;
数据输出缓存子模块533,用于将解码后的第一资源数据存储到已加锁的所述输出缓存空间中。
在一种可能的实现方式中,所述多媒体资源处理程序包括FFmpeg。
在一种可能的实现方式中,所述硬解码器包括解码器MediaCodec。
在一种可能的实现方式中,所述第一资源数据为视频数据,所述第二资源数据为音频数据。
根据本公开的实施例能够利用多媒体资源处理程序对多媒体资源文件进行解封装和解复用,利用硬解码器对第一资源数据进行解码,并在数据同步后进行播放,能够兼容各种封装格式,降低CPU使用率并减少功耗,提升用户体验。
实施例3
图7是根据一示例性实施例示出的一种多媒体资源解码播放装置800的框图。例如,装置800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图7,装置800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制装置800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在装置800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理***,一个或多个电源,及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当装置800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当装置800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为装置800提供各个方面的状态评估。例如,传感器组件814可以检测到装置800的打开/关闭状态,组件的相对定位,例如所述组件为装置800的显示器和小键盘,传感器组件814还可以检测装置800或装置800一个组件的位置改变,用户与装置800接触的存在或不存在,装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非易失性计算机可读存储介质,例如包括指令的存储器804,上述指令可由装置800的处理器820执行以完成上述方法。
本公开可以是***、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(***)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (15)

1.一种多媒体资源解码播放方法,其特征在于,包括:
利用多媒体资源处理程序,对多媒体资源文件进行解封装和解复用,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数;
利用多媒体资源处理程序对所述第二资源数据进行解码,获得解码后的第二资源数据;
基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据;
对所述解码后的第一资源数据与所述解码后的第二资源数据进行同步;
播放所述解码后的第一资源数据及所述解码后的第二资源数据。
2.根据权利要求1所述的方法,其特征在于,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数,包括:
将所述第一资源数据从Native层复制到Java层的字节缓存空间中。
3.根据权利要求2所述的方法,其特征在于,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数,包括:
获取硬解码器的输入缓存空间,并采用公平锁对所述输入缓存空间加锁;
将所述字节缓存空间中的所述第一资源数据存储到已加锁的所述输入缓存空间中。
4.根据权利要求3所述的方法,其特征在于,基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据,包括:
获取硬解码器的输出缓存空间,并采用公平锁对所述输出缓存空间加锁;
通过硬解码器对已加锁的所述输入缓存空间中的所述第一资源数据进行解码,获得解码后的第一资源数据;
将解码后的第一资源数据存储到已加锁的所述输出缓存空间中。
5.根据权利要求1至4中任意一项所述的方法,其特征在于,所述多媒体资源处理程序包括FFmpeg。
6.根据权利要求1至4中任意一项所述的方法,其特征在于,所述硬解码器包括解码器MediaCodec。
7.根据权利要求1至4中任意一项所述的方法,其特征在于,所述第一资源数据为视频数据,所述第二资源数据为音频数据。
8.一种多媒体资源解码播放装置,其特征在于,包括:
待解码数据获取模块,用于利用多媒体资源处理程序,对多媒体资源文件进行解封装和解复用,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数;
第二资源数据解码模块,用于利用多媒体资源处理程序对所述第二资源数据进行解码,获得解码后的第二资源数据;
第一资源数据解码模块,用于基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据;
数据同步模块,用于对所述解码后的第一资源数据与解码后的第二资源数据进行同步;
播放模块,用于播放所述解码后的第一资源数据及所述解码后的第二资源数据。
9.根据权利要求8所述的装置,其特征在于,所述待解码数据获取模块包括:
数据复制子模块,用于将所述第一资源数据从Native层复制到Java层的字节缓存空间中。
10.根据权利要求9所述的装置,其特征在于,所述待解码数据获取模块包括:
输入缓存获取及加锁子模块,用于获取硬解码器的输入缓存空间,并采用公平锁对所述输入缓存空间加锁;
数据输入缓存子模块,用于将所述字节缓存空间中的所述第一资源数据存储到已加锁的所述输入缓存空间中。
11.根据权利要求10所述的装置,其特征在于,所述第一资源数据解码模块包括:
输出缓存获取及加锁子模块,用于获取硬解码器的输出缓存空间,并采用公平锁对所述输出缓存空间加锁;
硬解码子模块,用于通过硬解码器对已加锁的所述输入缓存空间中的所述第一资源数据进行解码,获得解码后的第一资源数据;
数据输出缓存子模块,用于将解码后的第一资源数据存储到已加锁的所述输出缓存空间中。
12.根据权利要求8至11中任意一项所述的装置,其特征在于,所述多媒体资源处理程序包括FFmpeg。
13.根据权利要求8至11中任意一项所述的装置,其特征在于,所述硬解码器包括解码器MediaCodec。
14.根据权利要求8至11中任意一项所述的装置,其特征在于,所述第一资源数据为视频数据,所述第二资源数据为音频数据。
15.一种多媒体资源解码播放装置,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
利用多媒体资源处理程序,对多媒体资源文件进行解封装和解复用,获取待解码的第一资源数据、待解码的第二资源数据、和解码参数;
利用多媒体资源处理程序对所述第二资源数据进行解码,获得解码后的第二资源数据;
基于所述解码参数,利用硬解码器对所述第一资源数据进行解码,获得解码后的第一资源数据;
对所述解码后的第一资源数据与解码后的第二资源数据进行同步;
播放所述解码后的第一资源数据及所述解码后的第二资源数据。
CN201611261126.XA 2016-12-30 2016-12-30 多媒体资源解码播放方法及装置 Pending CN106792124A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611261126.XA CN106792124A (zh) 2016-12-30 2016-12-30 多媒体资源解码播放方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611261126.XA CN106792124A (zh) 2016-12-30 2016-12-30 多媒体资源解码播放方法及装置

Publications (1)

Publication Number Publication Date
CN106792124A true CN106792124A (zh) 2017-05-31

Family

ID=58953929

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611261126.XA Pending CN106792124A (zh) 2016-12-30 2016-12-30 多媒体资源解码播放方法及装置

Country Status (1)

Country Link
CN (1) CN106792124A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107666620A (zh) * 2017-09-26 2018-02-06 上海爱优威软件开发有限公司 一种终端***层解码方法及***
CN110832875A (zh) * 2018-07-23 2020-02-21 深圳市大疆创新科技有限公司 视频处理方法、终端设备、机器可读存储介质
WO2020151398A1 (zh) * 2019-01-23 2020-07-30 上海哔哩哔哩科技有限公司 硬件解码动态分辨率无缝切换方法、装置及存储介质
CN111897603A (zh) * 2020-07-23 2020-11-06 上海瑾盛通信科技有限公司 数据分发方法、装置、电子设备和存储介质
CN113645490A (zh) * 2021-06-23 2021-11-12 天津津航计算技术研究所 一种软硬结合的多通道视频同步解码方法
CN114007077A (zh) * 2021-11-17 2022-02-01 北京百度网讯科技有限公司 多媒体资源的处理方法、装置、电子设备和存储介质
CN114554269A (zh) * 2022-02-25 2022-05-27 深圳Tcl新技术有限公司 数据处理方法、电子设备及计算机可读存储介质
WO2023273772A1 (zh) * 2021-06-28 2023-01-05 中兴通讯股份有限公司 数据处理方法、云服务器、终端及存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102547418A (zh) * 2010-10-27 2012-07-04 东芝三星存储技术韩国株式会社 多媒体***
CN103051946A (zh) * 2012-12-26 2013-04-17 四川九洲电器集团有限责任公司 基于Android***的通用RTSP流播放器
CN103929536A (zh) * 2014-03-31 2014-07-16 广东明创软件科技有限公司 提高图片处理回显速度的方法及其移动终端
CN104185062A (zh) * 2013-05-27 2014-12-03 中兴通讯股份有限公司 一种终端处理视频流的方法及终端
CN104394456A (zh) * 2014-11-20 2015-03-04 福建星网视易信息***有限公司 一种嵌入式环境下音视频解码的方法及装置
CN104780378A (zh) * 2015-04-16 2015-07-15 腾讯科技(北京)有限公司 一种用于解码视频的方法、装置和播放器
CN105681893A (zh) * 2015-12-31 2016-06-15 传线网络科技(上海)有限公司 流媒体视频数据的解码方法和装置
CN105898496A (zh) * 2015-11-18 2016-08-24 乐视网信息技术(北京)股份有限公司 基于Android设备的HLS流硬解码方法及装置
US9449645B2 (en) * 2013-07-03 2016-09-20 Salutations 365 LLC Video compilation greeting system and method

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102547418A (zh) * 2010-10-27 2012-07-04 东芝三星存储技术韩国株式会社 多媒体***
CN103051946A (zh) * 2012-12-26 2013-04-17 四川九洲电器集团有限责任公司 基于Android***的通用RTSP流播放器
CN104185062A (zh) * 2013-05-27 2014-12-03 中兴通讯股份有限公司 一种终端处理视频流的方法及终端
US9449645B2 (en) * 2013-07-03 2016-09-20 Salutations 365 LLC Video compilation greeting system and method
CN103929536A (zh) * 2014-03-31 2014-07-16 广东明创软件科技有限公司 提高图片处理回显速度的方法及其移动终端
CN104394456A (zh) * 2014-11-20 2015-03-04 福建星网视易信息***有限公司 一种嵌入式环境下音视频解码的方法及装置
CN104780378A (zh) * 2015-04-16 2015-07-15 腾讯科技(北京)有限公司 一种用于解码视频的方法、装置和播放器
CN105898496A (zh) * 2015-11-18 2016-08-24 乐视网信息技术(北京)股份有限公司 基于Android设备的HLS流硬解码方法及装置
CN105681893A (zh) * 2015-12-31 2016-06-15 传线网络科技(上海)有限公司 流媒体视频数据的解码方法和装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
(美)PATRICK NIEMEYER,(美)JONATBAN KNUDSEN著: "《Java语言学习手册 第2版》", 31 March 2004, 北京:中国电力出版社 *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107666620A (zh) * 2017-09-26 2018-02-06 上海爱优威软件开发有限公司 一种终端***层解码方法及***
CN110832875A (zh) * 2018-07-23 2020-02-21 深圳市大疆创新科技有限公司 视频处理方法、终端设备、机器可读存储介质
WO2020151398A1 (zh) * 2019-01-23 2020-07-30 上海哔哩哔哩科技有限公司 硬件解码动态分辨率无缝切换方法、装置及存储介质
CN111479164A (zh) * 2019-01-23 2020-07-31 上海哔哩哔哩科技有限公司 硬件解码动态分辨率无缝切换方法、装置及存储介质
CN111897603A (zh) * 2020-07-23 2020-11-06 上海瑾盛通信科技有限公司 数据分发方法、装置、电子设备和存储介质
CN111897603B (zh) * 2020-07-23 2024-02-09 上海瑾盛通信科技有限公司 数据分发方法、装置、电子设备和存储介质
CN113645490A (zh) * 2021-06-23 2021-11-12 天津津航计算技术研究所 一种软硬结合的多通道视频同步解码方法
CN113645490B (zh) * 2021-06-23 2023-05-09 天津津航计算技术研究所 一种软硬结合的多通道视频同步解码方法
WO2023273772A1 (zh) * 2021-06-28 2023-01-05 中兴通讯股份有限公司 数据处理方法、云服务器、终端及存储介质
CN114007077A (zh) * 2021-11-17 2022-02-01 北京百度网讯科技有限公司 多媒体资源的处理方法、装置、电子设备和存储介质
CN114007077B (zh) * 2021-11-17 2023-09-01 北京百度网讯科技有限公司 多媒体资源的处理方法、装置、电子设备和存储介质
CN114554269A (zh) * 2022-02-25 2022-05-27 深圳Tcl新技术有限公司 数据处理方法、电子设备及计算机可读存储介质

Similar Documents

Publication Publication Date Title
CN106792124A (zh) 多媒体资源解码播放方法及装置
CN106792075A (zh) 视频播放方法及装置
CN104484200B (zh) 对固件进行升级的方法及装置
CN107396177A (zh) 视频播放方法、装置及存储介质
CN106792640A (zh) 虚拟sim卡的通信方法、移动终端和服务器
CN107707954A (zh) 视频播放方法及装置
CN106385621A (zh) 智能设备控制方法和装置
CN108833939A (zh) 生成视频的海报的方法及装置
CN107948708A (zh) 弹幕展示方法及装置
CN104020990B (zh) 日期选择控件显示方法及装置
CN105516485B (zh) 录音方法及装置
CN110121106A (zh) 视频播放方法及装置
CN108924644A (zh) 视频片段提取方法及装置
CN109420338A (zh) 模拟镜头移动的虚拟场景显示方法及装置、电子设备
CN108664243A (zh) 用户界面的生成方法及装置
CN106991018A (zh) 界面换肤的方法及装置
CN109407944A (zh) 多媒体资源播放调节方法及装置
CN107943550A (zh) 界面展示方法及装置
CN107895190A (zh) 神经网络模型的权值量化方法及装置
CN107797741A (zh) 界面展示方法及装置
CN108540850A (zh) 弹幕显示方法及装置
WO2017101397A1 (zh) 一种信息显示方法及装置
CN108259974A (zh) 视频匹配方法及装置
CN108833952A (zh) 视频的广告投放方法及装置
CN106873994A (zh) 界面显示方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: 100080 Beijing Haidian District city Haidian street A Sinosteel International Plaza No. 8 block 5 layer A, C

Applicant after: Youku network technology (Beijing) Co.,Ltd.

Address before: 100080 area a and C, 5 / F, block a, Sinosteel International Plaza, No. 8, Haidian Street, Haidian District, Beijing

Applicant before: 1VERGE INTERNET TECHNOLOGY (BEIJING) Co.,Ltd.

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20200710

Address after: 310052 room 508, floor 5, building 4, No. 699, Wangshang Road, Changhe street, Binjiang District, Hangzhou City, Zhejiang Province

Applicant after: Alibaba (China) Co.,Ltd.

Address before: 100080 area a and C, 5 / F, block a, Sinosteel International Plaza, No. 8, Haidian Street, Haidian District, Beijing

Applicant before: Youku network technology (Beijing) Co.,Ltd.

RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20170531