JP6803443B2 - 電力認識型ビデオ復号およびストリーミング - Google Patents

電力認識型ビデオ復号およびストリーミング Download PDF

Info

Publication number
JP6803443B2
JP6803443B2 JP2019195107A JP2019195107A JP6803443B2 JP 6803443 B2 JP6803443 B2 JP 6803443B2 JP 2019195107 A JP2019195107 A JP 2019195107A JP 2019195107 A JP2019195107 A JP 2019195107A JP 6803443 B2 JP6803443 B2 JP 6803443B2
Authority
JP
Japan
Prior art keywords
video
power
complexity
video segment
decoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019195107A
Other languages
English (en)
Other versions
JP2020036344A (ja
Inventor
ユーウェン ホー
ユーウェン ホー
イエン イエ
イエン イエ
ホー ヨン
ホー ヨン
ダブリュ.マクレラン ジョージ
ダブリュ.マクレラン ジョージ
ウン リュウ
ウン リュウ
Original Assignee
ヴィド スケール インコーポレイテッド
ヴィド スケール インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ヴィド スケール インコーポレイテッド, ヴィド スケール インコーポレイテッド filed Critical ヴィド スケール インコーポレイテッド
Publication of JP2020036344A publication Critical patent/JP2020036344A/ja
Application granted granted Critical
Publication of JP6803443B2 publication Critical patent/JP6803443B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234309Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by transcoding between formats or standards, e.g. from MPEG-2 to MPEG-4 or from Quicktime to Realvideo
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3212Monitoring battery levels, e.g. power saving mode being initiated when battery voltage goes below a certain level
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234Power saving characterised by the action undertaken
    • G06F1/329Power saving characterised by the action undertaken by task scheduling
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • H04L65/612Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for unicast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • H04L65/613Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for the control of the source by the destination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/756Media network packet handling adapting media to device capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/127Prioritisation of hardware or computational resources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/156Availability of hardware or computational resources, e.g. encoding based on power-saving criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/23439Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements for generating different versions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41407Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance embedded in a portable device, e.g. video client on a mobile phone, PDA, laptop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/4424Monitoring of the internal components or processes of the client device, e.g. CPU or memory load, processing speed, timer, counter or percentage of the hard disk space used
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/85406Content authoring involving a specific file format, e.g. MP4 format
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Databases & Information Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)
  • Power Sources (AREA)

Description

本発明は、電力認識型ビデオ復号およびストリーミングに関する。
(関連出願の相互参照)
本出願は、その内容の全体が参照により本明細書に組み込まれる、2012年7月9日に出願された米国仮特許出願第61/669581号の利益を主張する。
モバイルデバイスの普及が拡大し続けるにつれて、それらは、より多種多様なアプリケーションのために使用されるようになっている。加えて、スマートフォンなどのモバイルデバイスは、より一層複雑な機能を利用するようになっている。処理のそのような増加は、電力消費を増加させ得、それは、バッテリがデバイスの電源である場合など、電力が制限される状況において、ユーザエクスペリエンスに悪影響を及ぼし得る。
モバイルデバイスが利用可能な電力および/またはエネルギーに基づいてビデオを復号するための方法およびシステムが開示される。例えば、モバイルデバイスは、ビデオストリームについてのメディア記述ファイル(MDF)をビデオサーバから受信し得る。MDFは、複数のビデオセグメントに関連付けられた複雑さ情報を含み得る。複雑さ情報は、モバイルデバイスにおいてセグメントを復号するために利用される処理電力の量に関連し得る。モバイルデバイスは、モバイルデバイスについての少なくとも1つの電力メトリックを決定し得る。例えば、電力メトリックは、バッテリなど現在の電源についての残存するエネルギーの量であり得る。モバイルデバイスは、MDFからの複雑さ情報と電力メトリックとに基づいて、第1のビデオセグメントのために要求される第1の複雑さレベルを決定し得る。モバイルデバイスは、第1の複雑さレベルにある第1のビデオセグメントをビデオサーバに要求し得る。
例えば、MDF内の複雑さ情報は、ビデオセグメント毎に提供され得る。要求する適切な複雑さレベルを決定するために使用され得る電力メトリックの例は、ビデオの残りを復号するために割り当てられるエネルギーの量、先行する復号のために使用されたエネルギーの量、先に復号されたセグメントに関する、モバイルデバイスにおいて収集された統計、復号のために利用される電力の、セグメントの品質に対する比の形式をしたコスト情報、および/または利用される電力の、セグメントの複雑さに対する比の形式をしたコスト情報などを含み得る。モバイルデバイスは、ビデオストリームの残りの持続時間を決定し得、第1のビデオセグメントの持続時間を決定し得る。その後、モバイルデバイスは、ビデオストリームの残りを復号するために割り当てられるエネルギーの量、ビデオストリームの残りの持続時間、および第1のビデオセグメントの持続時間に基づいて、第1のビデオセグメントに割り当てられるエネルギーの量を決定し得る。モバイルデバイスは、ビデオストリーム内に残っている各セグメントは等しい量の復号のためのエネルギーを割り当てられるという仮定に基づいて、決定を行い得る。残存セグメントの各々のために割り当てられるエネルギーの総和は、ビデオの復号を完了するために割り当てられる総電力以下であり得る。
モバイルデバイスは、およそ第1のビデオセグメントに割り当てられるエネルギーの量を使用して、第1のビデオセグメントの復号をもたらす複雑さレベルを決定することによって、MDFからの複雑さ情報と電力メトリックとに基づいて、第1のビデオセグメントのために要求される第1の複雑さレベルを決定し得る。例えば、複雑さレベルは、量子化され得、モバイルデバイスは、所望の電力使用目標を満たすその最も複雑なレベルを選択し得る。モバイルデバイスは、先行セグメントに割り当てられた電力と、先行セグメントを復号するために使用された複雑さレベルと、第1のビデオセグメントを復号するために割り当てられる電力とに基づいて、第1の複雑さレベルを選択することによって、MDFからの複雑さ情報と電力メトリックとに基づいて、第1のビデオセグメントのために要求される第1の複雑さレベルを決定し得る。
モバイルデバイスは、自律的に、またはネットワークと連携して、復号プロセスを調整して、復号エラーの導入を制限しながら、エネルギーを節約し得る。例えば、モバイルデバイスは、第1のビデオセグメントの領域が、高周波数閾値を超える高周波数成分を含むかどうかを決定し得る。モバイルデバイスは、高周波数成分が高周波数閾値を超えるならば、領域についての動き補償中に第1の補間フィルタを適用し得、またはモバイルデバイスは、高周波数成分が高周波数閾値を超えないならば、領域についての動き補償のために第2の補間フィルタを適用し得る。第2の補間フィルタは、第1の補間フィルタよりも短いタップ(例えば、より低いカットオフ周波数)に関連付けられ得、したがって、メモリアクセスを制限し、電力を節約する。モバイルデバイスは、領域が他の領域の基準であるという決定に基づいて、すなわち、エラーを伝搬させる可能性がより高いという決定に基づいて、僅かな高周波数成分しか存在しない場合であっても、より短いタップ(例えば、より低いカットオフ周波数)を有するフィルタを適用しないと決定し得る。モバイルデバイスは、第1のビデオセグメント内の基準ピクチャに対する非ブロック化を実行し得、非基準ピクチャに対する非ブロック化の実行を差し控え得る。
モバイルデバイスまたは他の無線送受信ユニットは、電力条件に基づいてビデオ復号を動的に変更するための1または複数の機能構成要素を含み得る。例えば、モバイルデバイスは、ビデオファイルについてのMDFをビデオサーバに要求し、MDFをビデオサーバから受信するように構成され得る、送受信機を含み得る。MDFは、複数のビデオセグメントについての複雑さ情報を含み得る。モバイルデバイスは、先行セグメント復号についての統計を記憶するように構成され得る、複雑さ統計および制御ユニットを含み得る。例えば、先行セグメント復号についての統計は、少なくとも1つの先行セグメントの復号に関連付けられた電力情報、および少なくとも1つの先行セグメントについての複雑さ情報を含み得る。モバイルデバイスは、現在のエネルギーレベルまたは電力レベル情報を決定するように構成され得る、電力検出器を含み得る。モバイルデバイスは、MDFからの複雑さ情報と、先行セグメント復号についての統計と、現在の電力情報とに基づいて、後続セグメントのために要求する複雑さレベルを決定するように構成され得る、電力認識型適応コントローラを含み得る。モバイルデバイスは、電力認識型適応コントローラによって決定された情報に基づいて、後続セグメントを復号するために適用するパラメータまたは方法を決定するように構成され得る、復号器を含み得る。
例えば、復号器は、与えられた領域内のピクセルのサンプリングの周波数分析に基づいて、与えられた領域の動き補償のために適用する補間フィルタを決定するように構成され得る。復号器は、高周波数成分が指定された閾値を下回る領域についてのより高いレイヤの時間予測のために、第2の補間フィルタよりも短いタップ(例えば、より低いカットオフ周波数)を有する第1の補間フィルタを利用し、より低いレイヤの高周波数成分が閾値を下回る場合であっても、より低いレイヤの時間予測のために、第2の補間フィルタを使用するように構成され得る。復号器は、インターブロックの非因果的な隣接ブロックが1または複数のイントラ符号化ブロックを含むインターブロックを少なくとも除いて、高周波数成分が指定された閾値を下回る領域のために、第2の補間フィルタよりも短いタップ(例えば、より低いカットオフ周波数)を有する第1の補間フィルタを利用するように構成され得る。インターブロックの非因果的な隣接ブロックが1または複数のイントラ符号化ブロックを含むインターブロックを除外することは、イントラ符号化が存在する場合にエラーの伝搬を防止する助けとなり得る。電力認識型適応コントローラは、MDFからの複雑さ情報と、先行セグメント復号についての統計と、現在の電力情報とに基づいて、後続セグメントのために要求する解像度を決定するように構成され得る。解像度は、指定された複雑さレベルにおいて要求され得る。複雑さレベルは、符号化器が符号化を実行した詳細さのレベルに対応し得る。
ビデオ復号中に無線送受信ユニット(WTRU)がビデオサーバと対話して電力を動的に節約するための方法が開示される。例えば、WTRUは、復号のための残存する電力の量に関する決定を動的に更新し、更新された決定に基づいてビデオセグメントのために選択する適切な複雑さレベルを決定し得る。一例として、WTRUは、MDFをビデオサーバに要求し得る。WTRUは、MDFをビデオサーバから受信し得る。MDFは、ビデオストリームの1または複数のセグメントを復号するための複雑さ情報を含み得る。WTRUは、ビデオストリームの残りを復号するために割り当てられる残存エネルギーの量に少なくとも部分的に基づいて、ビデオストリームのビデオセグメントを復号するために割り当てられるエネルギーの量を決定し得る。WTRUは、ビデオストリームのビデオセグメントを復号するために割り当てられるエネルギーの量に基づいて、ビデオストリームの第1のビデオセグメントのために要求する第1の復号複雑さレベルを決定し得る。WTRUは、第1のビデオセグメントについての第1の復号複雑さレベルを要求し得る。WTRUは、ビデオストリームの残りを復号するために割り当てられる残存エネルギーの量を再評価し得、ビデオセグメント当たりの現在のエネルギーレベルでビデオストリームの復号を完了するにはWTRUが十分なエネルギーを欠いていることを決定し得る。
WTRUは、ビデオストリームの残りを復号するために割り当てられる残存エネルギーの新しい量に基づいて、ビデオストリームの残存ビデオセグメントを復号するために割り当てられるエネルギーの新しい量を決定し得る。WTRUは、ビデオストリームの残存ビデオセグメントを復号するために割り当てられるエネルギーの新しい量に基づいて、ビデオストリームの第2のビデオセグメントのために要求する第2の復号複雑さレベルを決定し得る。残存ビデオセグメントの各々は、ビデオストリームの残りを復号するために割り当てられる残存エネルギーの新しい量に基づいて、等しい量のエネルギーを割り当てられ得る。それぞれのビデオセグメントについてのそれぞれの複雑さレベルは、ビデオセグメントを復号するために割り当てられるエネルギーの量、それぞれのビデオセグメントの持続時間、ならびに少なくとも1つの先行セグメントを復号するために利用されるエネルギー、少なくとも1つの先行セグメントについての複雑さレベル、および少なくとも1つの先行セグメントの持続時間に関連する統計に基づいて選択され得る。WTRUは、様々な復号されたセグメントについての電力使用統計をサーバに報告し得、WTRUは、報告に基づいた与えられた複雑さのビデオセグメントを受信し得る。
より詳細な理解は、添付の図面を併用する、例として与えられた、以下の説明から得られ得る。
1または複数の開示される実施形態が実施され得る例示的な通信システムのシステム図である。 図1Aに示される通信システム内で使用され得る例示的な無線送受信ユニット(WTRU)のシステム図である。 図1Aに示される通信システム内で使用され得る例示的な無線アクセスネットワークおよび例示的なコアネットワークのシステム図である。 図1Aに示される通信システム内で使用され得る別の例示的な無線アクセスネットワークおよび例示的なコアネットワークのシステム図である。 図1Aに示される通信システム内で使用され得る別の例示的な無線アクセスネットワークおよび例示的なコアネットワークのシステム図である。 モバイルユーザの増加数の動向を示す図である。 例示的なプッシュモードビデオストリーミングシステムを示す図である。 例示的なHTTPベースのビデオストリーミングシステムを示す図である。 モバイルデバイス上で実施され得るスマートフォンプラットフォームの例示的なアーキテクチャを示している。 ビデオ再生シナリオにおける電力使用の一例を示す図である。 動的電圧および周波数スケーリングを示す図である。 例示的な電力認識型ビデオストリーミングシステムを示す図である。 クライアント側における例示的な可能な切り換え動作ポイントを示す図である。 HEVC復号における例示的なプロセスを示す図である。 輝度MCプロセスのための異なるピクセル位置の例を示す図である。 HM6.1復号器を使用するHEVC、およびランダムアクセス(RA)環境を使用して符号化されるビットストリームについての時間プロファイリングの例を示す図である。 HM6.1復号器を使用するHEVC、およびランダムアクセス(RA)環境を使用して符号化されるビットストリームについての時間プロファイリングの例を示す図である。 周波数成分の相対的に僅かな部分が高周波数範囲内にある領域のために使用され得る例示的な補間フィルタ波形を示す図である。 図12Aの補間フィルタのための例示的な周波数応答を示す図である。 HEVCにおける例示的な階層的符号化構造を示す図である。 HEVCイントラ符号化において使用される例示的な方向を示す図である。
近年、モバイルデバイスは、多種多様なユーザおよびアプリケーションに一般に好まれるコンピューティングプラットフォームになった。例えば、実用的なシステムオンチップ(SoC)集積回路の急速な発展は、モバイルデバイスが、手で持って使うのに実用的なサイズに止まりながら、利用可能な機能を増やすことを可能にした。最近、ICは、例えば、CPU周波数および/または利用可能な処理コアの数の点で、モバイルデバイスの計算能力を大きく高めた。加えて、無線ネットワーク技術(例えば、4G LTE、HSPA+、WiFiなど)の帯域幅および/または全体的データレートの増加は、モバイルデバイスが、従来のブロードバンドインターネットアクセスに匹敵するスピードでメディアを獲得することを可能にした。
そのような進歩は、モバイルデバイスの高い普及率の理由の一端であり、ますます多くのデバイスが配備されるに至っている。図2は、モバイルインターネットユーザの数が時とともにどのように増加し続けているかを示している。例えば、図2に示されるように、モバイルインターネットユーザの数は、デスクトップインターネットユーザの数をまもなく上回るであろうことが推定される。そのような動向は、デスクトップ環境のために最適化されていた先行するコンテンツ配送および処理システムが、モバイルインターネットトラフィックについて性能を最適化するために、再考されるべきであることを示唆し得る。例えば、近年の驚異的な成長に貢献し得たモバイルコンピューティングの1つの特徴は、モバイルデバイスを基本的にいつおよび/またはどこで使用していても、モバイルユーザがサービスおよび/またはコンテンツにアクセス可能なことであり得る。
モバイルデバイスへのメディアコンテンツの配信および/またはモバイルデバイスにおけるメディアコンテンツの表示は、従来のデスクトップデバイスではあまり問題にはなり得ない複雑さをもたらし得、または引き起こし得る。例えば、最近の進歩にもかかわらず、いくつかのモバイルデバイスは、デスクトップ環境と比較すると、複雑な処理をタイムリーに実行するためのリソースを依然として欠いていることがある。加えて、サイズ制約は、いくつかのモバイルデバイスが、従来のデバイスで利用可能であるよりも小さな処理能力および/または僅かなハードウェアモジュールしか有しないようにさせ得る。加えて、多くのタイプのモバイルデバイスは、送電網を介する固定電源とは対照的なバッテリ電源を通常動作中に利用して動作し得るので、電力的に制限され得る。様々な複雑さおよび/または様々な能力のモバイルデバイスにおいてメディアコンテンツの配送および/または表示を容易にするために、モバイルプラットフォーム上でのコンテンツ配信を増強するための技術が開発されている。一例として、ハイパーテキストマークアップ言語5(HTML5)は、部分的にはモバイルデバイスのためにメディアアクセスをより容易にしようとして設計された、ウェブページのためのマークアップ言語である。例えば、HTML5は、モバイルデバイスがメディアコンテンツを取得および再生するのを支援し得る、動的ページレイアウトデザインサポートを使用するように設計された。
モバイルデバイスがインターネットトラフィックの大幅な増加を見た1つの例示的な使用事例は、モバイルビデオコンテンツ生成および配送の中にある。モバイルビデオトラフィックを効果的および効率的に生成し、処理し、配信し、および/または表示するために、モバイルデバイスにおけるビデオ処理を最適化するための技術が規定され得る。例えば、モバイルデバイス上に含まれるハードウェアがより強力になるにつれて、WTRUは、ビデオトラフィックをストリーミングおよび/または復号するために、ますます複雑な処理を実行するように構成され得る。
加えて、モバイルディスプレイの進歩も、ビデオを表示するためのモバイルデバイスの高い普及率に影響を及ぼした。例えば、(例えば、スマートフォンおよびタブレットなどの)モバイルデバイスでは、ビデオコンテンツを表示するために、720pビデオ品質が相対的に広く普及している。いくつかのよりハイエンドのタブレットは、1080p以上のビデオを受信および表示することすら可能であり得る。加えて、LCDの高機能化は、モバイルデバイスが、ビデオを表示するために使用され得るカラーレベルおよび/またはコントラストレベルを高めることを可能にした。他の進歩した表示技術は、モバイルデバイスのための3次元(3d)ディスプレイ(例えば、オートステレオスコピック3D)の導入を含み得る。進歩した無線通信ネットワーク(例えば、4G LTE、WiFi無線ネットワークなど)と併用された場合、モバイルデバイスユーザは、高品質なビデオサービスに相対的に容易にアクセスでき得る。
さらに、モバイルデバイスは、1または複数の機能モジュールを単一のプラットフォーム上に一緒に統合するように構成され得る。例えば、典型的なモバイルデバイスは、タッチスクリーン、デジタルカメラ、全地球測位システム(GPS)、重力センサ、および/または他の特徴もしくは技術のうちの1または複数を含み得る。そのような要素は、モバイル処理リソースを求めて互いに競い合い得、それが、ビデオコンテンツの表示を複雑にし得る。これらの特徴のうちの1または複数を実質的に同時に使用することは、モバイルデバイスにおける電力使用に悪影響を及ぼし得、バッテリ充電当たり表示され得るビデオの量の低下をもたらす。バッテリで利用可能なエネルギーの量には限界があるせいで、それらはしばしば電力的に制限されるので、そのような電力使用は、モバイルデバイスについての重要な検討事項である。
モバイルデバイスは、ビデオストリーミングおよび/または復号のためのより処理集約的な方法を実行するように構成されるので、電力とモバイルリソース使用に関するトレードオフが生じ得る。本明細書で開示される方法およびシステムは、電力的に制限される環境において適切な品質のビデオを表示するために、ビデオ復号および/またはビデオストリーミングプロセス中に、エネルギー使用および/またはエネルギーレベル(例えば、電力使用および/または電力レベル)を考慮する。例えば、それらのリソース的に制限された異種モバイルデバイス上で高品質のモバイルビデオサービスを提供するために、ディスプレイサイズ、処理能力、ネットワーク条件、および/またはバッテリレベルなどのうちの1または複数の要因が、モバイルデバイスにおける、および/または進歩した通信ネットワーク内におけるビデオ符号化および/またはストリーミング処理に影響を与えるように検討および利用され得る。
例えば、ビデオストリーミングは、ビデオサービスを1または複数のモバイルデバイスに通信ネットワークを介して提供するための例示的な方法である。ビデオストリーミングモードの例は、プッシュモードおよび/またはプルモードを含み得る。例えば、ビデオプッシュモードを利用するストリーミングシステムは、リアルタイムトランスポートプロトコル(RTP)を使用してビデオデータを配送し得る。プッシュモードビデオストリーミングは、リアルタイム制御プロトコル(RTCP)機能を適用して、ビデオに関連付けられたサービス品質(QoS)を監視および/または制御し得る。
ビデオ復号の電力効率を改善するためのクライアントおよび/またはサーバベースの技法を提供するための方法およびシステムが開示される。方法およびシステムは、電力認識型ストリーミングおよび/または電力認識型復号の使用を含み得る。例えば、ビデオの復号は、ビデオストリームについての複雑さ情報を示す、メディア記述ファイル(MDF)および/または他のインバンドもしくはアウトオブバンド情報をビデオサーバから受信することを含み得る。複雑さ情報は、与えられたビデオまたはセグメントを復号するために復号器が利用する、処理リソースの相対量および/または処理電力の相対量のこととし得る。例えば、より複雑なセグメントは、あまり複雑ではないビデオまたはビデオセグメントよりも多くの処理リソースおよび/または多くのエネルギーを、復号するために利用し得る。ビデオストリームについての複雑さ情報は、MDFに基づいて決定され得る。一例では、複雑さ情報は、例えば、ビデオビットストリーム内の補助拡張情報(SEI)メッセージングを使用して、および/または他の埋め込みメタデータを使用して、ビデオストリーム内に埋め込まれ得る。例えば、複雑さ情報は、RTP制御プロトコル(RTCP)を使用して伝達され得る。モバイルデバイスは、複雑さ情報を使用してビデオストリームを復号し得る。複雑さ情報は、ビデオセグメント毎に提供され得る。複雑さ情報を使用するビデオストリームの復号は、与えられた電力消費レベル内に止まりながら、複雑さ情報を使用してビデオストリームを復号することを含み得る。
例えば、MDFは、メディアプレゼンテーション記述(MPD)ファイルであり得る。MDFは、品質レベル、ビットレート、および/または複雑さ情報のうちの1または複数を含み得る。複雑さ情報は、複数の複雑さレベルに適用可能であり得る。ビデオストリームの復号は、与えられたセグメントについての与えられた複雑さレベルに応じて、異なるパラメータを使用して復号を実行することを含み得る。方法は、先行する消費電力統計に基づいて、ビデオストリームの将来の復号に対する電力割り当てを決定することを含み得る。ループフィルタリングが、例えば、モバイルデバイスにおいて利用可能な電力に応じて実行され得る。ループフィルタリングは、非ブロック化、サンプルアダプティブオフセット(SAO)の利用、および/または適応ループフィルタリング(ALF)のうちの1または複数を含み得る。
一例では、ショートカット復号が実行され得る。ショートカット復号の実行は、異なる特性領域における異なる補間フィルタの適用、ブロッキングアーチファクトが可視に達しない、もしくはエラー伝搬があまり問題にならない1もしくは複数の領域における非ブロック化動作のスキップ、および/または非ゼロ係数分布に従ったより小さな変換サイズの適用のうちの1または複数を含み得る。ビデオストリーミングおよび/またはビデオ復号中にモバイルデバイスにおける残りの相対エネルギーレベルおよび/または利用可能な電力レベルを考慮することによって、複雑で電力集約的なストリーミングを実行することが可能なデバイスは、高品質で処理集約的なビデオフィードを受信でき得る一方で、電力的に制限されたデバイスは、全体的な電力消費を制限しながら、依然として指定された最小品質でビデオを受信し得る。
図3は、プッシュモードビデオストリーミングシステムについての例示的なアーキテクチャを示している。例えば、図3に示されるように、マネージャサーバ320は、ユーザ要求に基づいて、動作を管理するように構成され得る。ユーザは、WTRU302、WTRU304、および/またはWTRU306の1または複数などのモバイルデバイスを使用して、要求を実行し得る。マネージャサーバ320は、ユーザ要求をストリーミングサーバ(例えば、ストリーミングサーバ310、ストリーミングサーバ312、ストリーミングサーバ314など)の1つに割り当てるように構成され得る。様々な要求は、システム負荷を平衡させるために、1または複数のストリーミングサーバに分配され得る(例えば、アドミッション管理)。一例では、1または複数のストリーミングサーバは、ストリーミングセッションを開始し得る。
ストリーミングビデオセッションを提供するストリーミングサーバは、例えば、ビットレート、解像度、および/またはストリームスイッチングなど、ストリーミングセッションに関連付けられた態様またはパラメータのうちの1または複数を制御し得る。クライアント(例えば、WTRU302、WTRU304、WTRU306など)は、ビデオデータをストリーミングサーバから受信した後、ビデオデータを復号し得る。クライアント(例えば、WTRU302、WTRU304、WTRU306など)は、パケットロスおよび/または遅延などの統計を、ビデオストリームを提供するストリーミングサーバに定期的に報告し得る。
多くのプッシュビデオシステムでは、ビデオストリーミングセッションのための適応ロジック(例えば、現在の条件に基づいて、ビットレート、解像度、ストリームスイッチングなどを指定するために使用される機能)は、サーバ側(例えば、ストリーミングサーバ310、ストリーミングサーバ312、ストリーミングサーバ314など)に配置され得る。例えば、ストリーミングサーバは、クライアント(例えば、WTRU302、WTRU304、WTRU306など)から報告された利用可能な帯域幅に従って、ビットストリーム(および/またはレイヤ)スイッチングを使用して、帯域幅適応を実行するように構成され得る。適応がサーバ側で実行されるそのようなプッシュモードビデオストリーミングは、サーバが決定されたビットレートに従って相対的に継続的かつ均一にデータを送信し得るので、より低い伝送負荷および/またはクライアントにおけるより低い処理負荷を可能にし得、クライアントにおける相対的に小さいバッファサイズの使用を促進する。
一例では、1または複数のクライアントデバイス(例えば、WTRU302、WTRU304、WTRU306など)は、フィードバック報告をサーバに送信し得る。サーバは、クライアントデバイスから受信されたフィードバック報告に基づいて、ビデオパラメータを設定および/または変更し得る。しかしながら、ネットワーク輻輳が増加した期間中は、サーバは、フィードバック報告を受信し得ないことがある。加えて、プッシュベースのビデオ配送のためにしばしば使用されるRTPプロトコルは、伝送制御プロトコル(TCP)ベースの配送システムと併せて実施することが困難であり得、いくつかのファイアウォールは、RTPを利用するトラフィックフローをブロックし得る。指定された品質のビデオを提供するために、プッシュビデオストリーミングシステムは、相対的にユーザに近いストリーミングサーバを配備または利用して、例えば、十分なサービスを提供し得る。そのような配備は、大規模なサービスを提供することをより困難にし得、その名の通りそれらはセッションの進行中に移動し得るので、モバイルデバイスとともに実施することはより困難であり得る。
プルモードストリーミングシステムの一例は、ダウンロードを行いながらの再生であり得る。例えば、WTRUなどのクライアントデバイスは、大規模なメディアファイルを、例えば、ハイパーテキスト転送プロトコル(HTTP)を介してダウンロードし得る。クライアントは、ダウンロード処理を継続しながら、ファイルの一部を復号し得る。しかしながら、サービスまたはビデオプロバイダ(例えば、Netflix、Amazon、Googleなど)の観点からは、適応をユーザ毎に実行することは望ましくないことがあり、代わりに、そのようなコンテンツソースは、既存のインターネットインフラストラクチャを現状のまま使用することを好むことがあり、オーバーザトップ(OTT)でサービスを配備することがあり、それは配備費用および時間を削減し得る。
プルビデオストリーミング技法の一例は、HTTPベースのビデオストリーミングを含み得る。HTTPベースのビデオストリーミング技法の例は、Microsoftのスムーズストリーミング、Adobeの動的HTTPストリーミング、およびAppleのHTTPライブストリーミング(HLS)を含み得る。HTTPストリーミングにおける適応サンプリング方法が利用され得る。国際標準化機構(ISO)/国際電気標準会議(IEC)ムービングピクチャエクスパーツグループ(MPEG)、および/または第3世代パートナーシッププロジェクト(3GPP)国際電気通信連合電気通信標準化部門(ITU−T)などのコンソーシアムは、デバイス間動作可能通信を可能にするための適応サンプリングの様々な態様を標準化する作業を進めている。
例えば、HTTP上の動的適応ストリーミング(DASH)は、HTTPベースのストリーミング方法を利用するビデオストリーミングに対する適応手法であり得る。DASHは、例えば、変化する帯域幅条件に対処し得るという事実のために、大きな注目を集めた。DASHにおいて実施された1つの概念は、メディアファイルまたはストリームを、独立に復号可能なセグメントに分割することであり得る。その後、コンテンツの一部は、異なる品質または解像度で符号化され、等しい長さのセグメントに分割され得る。セグメンテーションのやり方および/もしくはビデオがどのように分割されたかについての他の説明、ならびに/またはセグメントの相対品質に関する情報は、クライアントに提供されるXMLベースのマニフェストファイル(MF)内に含まれ得る。MFファイルの一例は、メディアプレゼンテーション記述(MPD)ファイルを含み得る。MPDは、メディア記述ファイル(MDF)の一例とし得る。MFファイルに基づいて、クライアントは、HTTPを使用してビデオコンテンツにアクセスし得、また与えられた帯域幅および/または解像度要件に最も適したセグメントを選択し得る。
図4は、例示的なHTTPベースのビデオストリーミングシステムを示している。例えば、1または複数のメディア生成デバイス430は、ビデオファイルなどのメディアファイルを生成し得る。メディアコンテンツは、例えば、1もしくは複数のメディア生成デバイス430、および/または1もしくは複数のHTTPオリジナルサーバ(例えば、HTTPオリジナルサーバ420、HTTPオリジナルサーバ422、HTTPオリジナルサーバ424など)において、圧縮され、小さいセグメントに切断され得る。例えば、セグメント期間は、多くのストリーミングシステムでは、2から10秒の間であり得る。セグメントは、1または複数のHTTPオリジナルサーバ(例えば、HTTPオリジナルサーバ420、HTTPオリジナルサーバ422、HTTPオリジナルサーバ424など)内に記憶され得、コンテンツ配送ネットワーク(CDN)を介して配信され得る。
例えば、ストリーミングセッションの開始時に、1または複数のクライアントデバイス(例えば、WTRU402、WTRU404、WTRU406、WTRU408など)は、メディアコンテンツについてのMPDファイルを要求し得、どのセグメントを利用すべきかを決定し得る。どのセグメントを利用すべきかに関する決定は、(例えば、1または複数の解像度および/または利用可能な帯域幅などの)クライアントの能力に基づき得る。1または複数のHTTPオリジナルサーバ(例えば、HTTPオリジナルサーバ420、HTTPオリジナルサーバ422、HTTPオリジナルサーバ424など)は、要求されたセグメントを、1または複数のクライアントデバイス(例えば、WTRU402、WTRU404、WTRU406、WTRU408など)に、要求に従って、例えば、1または複数のHTTPキャッシュ(例えば、HTTPキャッシュ410、HTTPキャッシュ412、HTTPキャッシュ414など)を介して送信し得る。メディアセグメントを記憶および/または配信するための1または複数のHTTPキャッシュサーバを利用することによって、システムが大規模にストリーミングサービスを提供し得るように、ビデオは、配信され、他のユーザによって使用され得る。
プッシュモードのストリーミングシステムと比較して、プルモードのストリーミングシステムは、クライアント側(例えば、WTRU402、WTRU404、WTRU406、WTRU408など)において適切なセグメントを選択するための適応ロジックをしばしば含む。いくつかのシナリオでは、ビデオセグメントの配信のために使用されるキャッシングプロセスは、コンテンツの配信のためにプッシュモードか利用されるか、それともプルモードが利用されるかに応じて異なり得る。例えば、どのモードが利用されるのかに応じて、コンテンツの配信のために異なるトランスポートプロトコルが利用され得るので(例えば、プルモードの場合はHTTP、プッシュモードの場合はRTPなど)、利用されるキャッシングプロセスは、使用されるトランスポートプロトコルのタイプに基づいて変化し得る。例えば、HTTPは、最初、リアルタイムメディアの配送のために設計されておらず、代わりに、HTTPは、ファイルおよび他のデータのベストエフォート配送のために設計されていた。その結果、例えば、キャッシュ、CDN、および/またはプロキシのうちの1または複数を含む、HTTP関連のインフラストラクチャは、そのようなファイル転送を非常に良好にサポートし得るが、リアルタイムビデオコンテンツの配送についてはあまり良く最適化され得ていない。
HTTPに対してネットワークアドレス変換(NAT)および/またはファイアウォール横断が適用されることも、または適用されないこともあるので、既存のHTTPインフラストラクチャを使用して、RTPを実施することは困難であり得る。加えて、HTTPは、RTPと比較して、著しいオーバヘッドをストリーミングセッションに追加し得る。例えば、HTTP送信レートは時間に応じて均一ではあり得ないので、HTTPをストリーミングのために利用するために、クライアント側(例えば、WTRU402、WTRU404、WTRU406、WTRU408など)は、相対的に大きいバッファサイズを利用し得る。例えば、HTTP送信レートは、ネットワークが輻輳している場合、大きく変化し得る。
ストリーミングシステムでは、帯域幅変化および/または様々なディスプレイサイズに適応するために、非スケーラブル符号化が使用されて、異なるビットレートおよび/または異なる解像度のうちの1または複数を有する異なるビットストリームを生成し得る。加えて、送信帯域幅を節約し、ならびに/または送信および/もしくは受信中に利用されるストレージの量を制限するために、スケーラブル符号化技法が利用され得る。例えば、スケーラブルビデオ符号化(SVC)は、1または複数のサブセットビットストリームも含み得る相対的に高い品質のビデオビットストリームを符号化するための技法のこととし得る。1または複数のサブセットビデオストリームが、復号プロセス中にメインビットストリームからのパケットのサブセットを利用することによって決定され得る。より大きなビデオビットストリームからパケットを削除することによって、サブセットビットストリームが、ビデオの受信および表示に関連付けられた帯域幅を削減するために使用され得る。一例では、サブセットビットストリームは、メインビットストリームと比較して、より低い空間解像度(例えば、より小さい画面)、より低い時間解像度(例えば、より低いフレームレート)、および/またはより低い品質のビデオ信号を表し得る。
クライアントデバイス上で動作するアプリケーションは、アプリケーションによって望まれるレートおよび/または表現に基づいて、メインSVCビットストリームのどれが、および/または1もしくは複数のサブセットビットストリームのどれが復号されるべきかを決定し得る。SVCは、非スケーラブルソリューションと比較して、帯域幅およびストレージを節約し得る。国際ビデオ規格のMPEG−2ビデオ、H.263、MPEG4ビジュアル、および/またはH.264は、スケーラビリティの何らかのモードをサポートするツールおよび/またはプロファイルを有し得る。最近、高効率ビデオ符号化(HEVC)のスケーラブル拡張の要件およびユースケースが合意された。現在、HEVCは、ITU−Tビデオ符号化エクスパーツグループ(VCEG)とISO/IECムービングピクチャエクスパーツグループ(MPEG)とによって合同で開発されている。DASHおよび/またはマルチキャスティングの場合、スケーラブルビデオ符号化技術を用いると、帯域幅が節約され得る。DASHシステムでは、HTTPキャッシュサーバは、例えば、異なるビットレートを有するすべてまたは一部のバージョンをキャッシュする代わりに、多くのユーザによって視聴されるビデオのベースレイヤをキャッシュし得る。
モバイルデバイスにおいて実行されるアプリケーションの数の飛躍的な増加などの要因が原因で、モバイルデバイスの電力存続時間および/または電力効率が、モバイルデバイス性能を管理するうえで決定的な重要事項になった。モバイルデバイスのハードウェアおよび電源の設計に関して、電力効率についての様々な工業的研究が実施された。例えば、様々な条件下にある例示的なモバイルプラットフォームについての電力利用が分析され得る。図5は、本明細書で説明される方法の1または複数を実行するために使用され得る、スマートフォンモバイルデバイスの例示的なアーキテクチャを示している。例えば、モバイルデバイス500は、プロセッサ/CPU502、LCD504などの内蔵および/もしくは外付けディスプレイ、メモリ520(例えば、内蔵/外付けメモリ、例は、NANDフラッシュメモリ522および/もしくは同期動的ランダムアクセスメモリ(SDRAM)522)、セルラ無線506(例えば、GSM/3G/4G、LTE、HSPA+、CDMA2000など)、WiFi無線508、(例えば、グラフィックスカードメモリ514および/もしくはセキュアデジタル(SD)カード512を伴う)グラフィックスカード510、(例えば、ユニバーサルシリアルバス(USB)を介する)Bluetooth無線530、内蔵および/もしくは外付けGPS540、Codex550、増幅器560、ならびに/またはビデオストリームの受信/復号および/もしくは無線ネットワークを介する通信のための他の様々なコンポーネントを含み得る。
アプリケーションに応じて、モバイルデバイス500の様々なコンポーネントによって利用される電力消費は変化し得る。例えば、図6は、モバイルデバイスがビデオ再生中のシナリオにおける電力使用の一例を示している。図6から理解され得るように、CPU処理、ディスプレイ関連(例えば、バックライト、グラフィックカードなど)、およびメモリアクセスが、ビデオ再生中の電力消費の支配的な原因であり得る。したがって、ビデオ復号は、例えば、集中的な計算、頻繁なメモリアクセス、および/または相対的に持続的なディスプレイ使用のいずれをも伴い得るので、電力消費が相対的に高いアプリケーションによって特徴付けられ得る。さらに、ビデオ再生アプリケーションは、ディスプレイ出力においてピクチャをかなりの輝度で表示するように構成され得、それが、電力消費の増加をもたらし得る。
ビデオ符号化および/または復号プロセス中、動き補償が適用され得る。例えば、MPEG−1、MPEG−2、H.263、H.264/MPEG−4高度ビデオ符号化(AVC)、および/またはHEVCなどのビデオ符号化規格は、ビデオ情報をデバイスに伝達するために利用されるシグナリングの量を制限するために、動き補償を利用し得る。動き補償は、ピクチャを基準ピクチャに対する変化または差分によって記述する、ビデオ圧縮技法と見なし得る。基準ピクチャは、先行フレーム、および/または時間的に後で利用されるフレームであり得る。画像が先に送信/記憶された画像から正確に合成され得る場合、圧縮効率が改善され得る。
動き補償は、線形フィルタリングプロセスを使用して実施され得る。フィルタサイズが大きいほど、より良好な圧縮効率を達成し得るが、より大きなフィルタは、復号中に利用されるメモリアクセス帯域幅も増加させ得、それが、電力消費を増加させ得る(例えば、ビデオ復号中のメモリアクセス帯域幅の増加は、モバイルデバイスにおける消費電力を増加させ得る)。したがって、電力が相対的により低い復号器チップが、フレームバッファの圧縮によって、例えば、再構成されたピクセルをフレームバッファに記憶する前に、再構成されたピクセルを可逆圧縮で圧縮することによって、メモリアクセス帯域幅を削減するように設計され得る。動き補償のために使用される場合、再構成されたピクセルは、フレームバッファからフェッチされ、動き補償のために伸長され得る。
電力をビデオ復号のために管理するための例示的な方法は、システムステータスを適応的に変更すること、および/またはプロセッサ周波数を適応的に切り換えること(例えば、動的電圧および周波数スケーリング(DVFS))を含み得る。図6Bは、DVFSを行う場合および行わない場合のエネルギー消費を示している。DVFSは、プロセッサの周波数を低下させるために利用され得、それによって、エネルギーを節約し、またはプロセッサの電力消費を低下させる。より低い処理周波数を利用することによって、プロセッサは、より高いプロセッサ周波数で処理が実行されたとしたら使用されたであろうよりも小さい電力を使用してタスクを実行しながら、与えられたタスクを与えられた処理期限までに実行(例えば、フレームをそれが表示される前に復号)でき得る。例えば、モバイルデバイスがアイドルである場合、DVFSは、いくつかのモジュールを動作させ続けながら、低い電力状態に移行するために利用され得る。加えて、プロセッサの周波数が減少した場合、供給される電力に対応する電圧もしかるべく減少し得る。したがって、電力消費が低下され得る。例えば、チップまたはプロセッサによって消費される電力は、
P=CV2f 式(1)
と表現され得、ここで、Cは、キャパシタンス(例えば、クロックサイクル当たり切り換えられるキャパシタンス)であり得、Vは、電圧であり得、fは、スイッチング周波数であり得る。多くのCPU/プロセッサは、CPUが動作し得るいくつかの周波数を提供し得、アプリケーションは、周波数を臨機応変に望むように構成し得る。
復号の複雑さは、ピクチャ毎に異なり得、複雑さのレベルは、プロセッサの周波数を変更するために使用され得る。例えば、ピクチャが相対的に単純である場合、電力を節約するために、周波数が低下され得る。一例では、ピクチャの復号に関連付けられた復号時間を推定するために、ピクチャサイズが使用され得る。ピクチャ復号時間がピクチャ持続時間(例えば、1/f)よりも小さい場合、プロセッサの周波数は、表示に影響を与えずに、減少させ得る。プロセッサおよびメモリ技術の最近の発展に伴って、ダイナミックパワーレンジは、より小さくなり得、アイドル/スリープモードにおける電力使用は、より効率的になり得る。これらの技術変化は、DVFSの効果を制限し得、そのため、DVFSの電力節約は、より旧式のプラットフォームと比較して、新しいモバイルプラットフォームでは顕著でないことがある。
電力使用効率を改善してバッテリ存続時間を引き延ばすことは、モバイルプラットフォーム設計およびモバイルアプリケーション設計のためにますます重要になっている。ソフトウェアおよびハードウェアビデオ復号が、モバイルマルチメディアアプリケーションにおいて広く使用されているが、それは、計算集約的であり得、処理を行うのに高い電力消費を伴う。ビデオ圧縮規格の復号の複雑さも、より優れた圧縮効率を得るために徐々に増加し得る。
DASHなどのストリーミングシステムは、ネットワーク帯域幅変化に重点的に取り組むが、システムの観点からモバイルプラットフォームにおける電力使用に対処することは行い得ない。さらに、適応復号技術が、電力を節約するためにクライアント側から使用され得るが、追加の電力が制限される(例えば、バッテリ電力レベル/エネルギーレベルがゼロに近い)期間中は特に、追加の電力節約が望ましいことがある。加えて、完全再生を保証するように、アプリケーションの異なる部分についての電力消費が平衡され得る。クライアント側の電力節約に重点的に取り組む方法は、制限され得、および/またはユーザエクスペリエンスは、完全再生のための十分な電力がない場合はフレーム削除が適用され得るので、悪化させられ得る。本明細書で開示されるように、電力使用は、電力認識型コンピューティングの概念に基づいて対処および変更され得る。例示的な方法およびシステムは、サーバとクライアントの間の協調を含み得る。例えば、クライアント(例えば、モバイルデバイス)は、現在利用可能な帯域幅および/または電力ステータスに従って、異なる複雑さを有するストリームを要求し得る。
クライアントは、適切なビットレートが現在利用可能な帯域幅に従って決定されると、ビデオを復号および再生するためにベストエフォートを試みるように構成され得る。多くのビデオ復号器では、復号および再生は、リアルタイム処理要件を満たすために、プロセッサリソースのかなりのパーセンテージを占有し得る。純粋なクライアントベースのシステムは、例えば、プロセッサ電力レベルがリアルタイムで復号を行うには不十分であり得るために、再生を滑らかに行えないことがある。プロセッサが再生中にゆとりをもって復号を実行し得ない状況では、フレーム飛ばし、およびオーディオとビデオの非同期が観察され得る。加えて、クライアントベースのシステムは、システム応答速度を低下させ得、それは、マルチタスク指向環境においてユーザエクスペリエンスの品質に影響し得る。例えば、ユーザ入力/出力に対するシステム応答時間は、プロセッサ負荷が目一杯であるために低下し得る。そのようなシナリオでは、タスクスイッチングがより遅くなり得る。
ビデオ復号中の電力を節約するために、電力認識型ストリーミング、電力認識型復号、および/または何らかの形態のショートカット復号が利用され得、より良好なプロセッサ負荷バランスおよび/または電力節約を達成する。例えば、ストリーミングシステムのクライアント側におけるビットストリームスイッチングロジックまたはインテリジェントなロジックは、例えば、ユーザエクスペリエンスの最低品質を保証するために、利用可能なネットワーク帯域幅、現在のプロセッサ負荷、および/または残余電力を一緒に考慮するように構成され得る。ビデオ復号およびストリーミングアプリケーションのための専用ハードウェアアクセラレーションに主として依存するモバイルデバイスの場合、ネットワーク帯域幅および電力ステータスが、監視および最適化すべき重要なファクタであり得るが、一方、モバイルデバイスがビデオ復号およびストリーミングのために主としてソフトウェアに依存する場合、帯域幅使用および電力レベル/エネルギーレベルに加えて、ビデオ復号に起因するプロセッサ負荷および使用も考慮され得る。
本明細書で説明されるように、ビデオストリーミングを利用するWTRUなどのモバイルデバイスのための電力節約を達成するために、電力認識型ストリーミングおよび/または電力認識型復号などの電力認識型技術が利用され得る。例えば、電力認識型ストリーミングおよび/または電力認識型復号のうちの1または複数は、例えば、残余電力および/または先行ピクチャの復号から得た電力消費統計に従って、セグメント毎および/またはピクチャ毎の電力使用を調整するために使用され得る。例えば、モバイルデバイスは、1または複数の電力メトリックを利用して、ビデオストリームの残りおよび/またはビデオストリームの残りの1もしくは複数のセグメントを復号するために割り当てられる電力の量を決定し得る。電力メトリックは、将来の復号プロセスのために使用されるエネルギーリソースをWTRUが推定することを可能にする電力使用、電力割り当て、エネルギー使用、エネルギー割り当て、エネルギー使用毎の複雑さ情報、および/またはビデオ品質毎のエネルギー使用などの任意の測定量とし得る。理解され得るように、本明細書では電力が使用される用語であり得るが、当業者によって理解されるように、エネルギーという用語が、適宜、電力に取って代わり得る。
電力認識型ストリーミング技術は、サーバとクライアントの間の協調を介して実行され得る。電力認識型復号は、クライアント側適応技術として使用され得る。例えば、クライアントは、クライアントにおける電力使用、および/またはクライアントにおける復号のために利用され得る残余のエネルギーレベルに関する決定に基づいて、決定された複雑さレベルにある1または複数のビデオまたはビデオセグメントを要求し得る。一例では、電力認識型復号は、ビデオサーバとの間の協調であり得る。例えば、クライアントは、サーバに、現在の電力使用(例えば、現在の電力レベル、先に復号中に利用された電力レベル、現在の電力レベルがバッテリなどの現在の電源を枯渇させずに持続し得る期間、指定された複雑さのセグメントを復号するために先に利用された電力レベル、復号プロセスの1もしくは複数のサブプロセスもしくは構成要素についての電力統計など)、現在のエネルギーレベル(例えば、バッテリなどの電源に残っているエネルギーの量、先に復号中に利用されたエネルギーの量、指定された複雑さのセグメントを復号するために先に利用されたエネルギーの量、復号プロセスの1もしくは複数のサブプロセスもしくは構成要素についてのエネルギー使用統計など)、および/または帯域幅情報などに関する1または複数のパラメータを提供し得る。サーバは、クライアントによって使用される1もしくは複数のセグメントを選択的に符号化するために、この情報を利用し得、および/またはフィードバック情報に基づいて、適切な複雑さレベルのセグメントを選択し得る。一例では、サーバは、指定された複雑さレベルのセグメントを復号するために利用されるエネルギーの量についてのより正確な推定を導出するために、複数のクライアントからの統計を集計し得る。
電力認識型ストリーミングおよび/または復号技術は、既存のDASHストリーミングシステムおよび/または他のOTTストリーミング方法に統合され得る。復号の複雑さが低い提示は、複雑さ認識型符号化、符号化ツール制限、ビットレート低減、および/または解像度低減によって達成され得る。電力認識型復号は、細かい粒度、適応復号方法を達成するために利用され得る。電力認識型復号は、ソフトウェア復号技法(例えば、汎用もしくは専用CPUおよび/もしくはプロセッサはビデオ復号を実行するように構成される)、ならびに/またはハードウェア復号チップ(例えば、専用ハードウェアモジュールは復号を実行するように構成される)とともに使用され得る。電力認識型ストリーミングは、DVFSなどの電力節約技術と組み合わせて利用され得、例えば、クライアントモバイルデバイスは、複雑さの低いビデオセグメントの場合、周波数をスケールダウンして、電力を節約し得る。
図7は、例示的な電力認識型ビデオストリーミングシステムを示している。例えば、クライアントデバイス(例えば、モバイルデバイスなどのWTRU)へのビデオ配信は、ビデオ準備710、ビデオ配信730、ならびに/またはビデオ消費750(例えば、復号および表示)を含み得る。ビデオ符号化器(例えば、複雑さ認識型符号化器712)は、複数の複雑さレベルを使用して、ビデオファイルまたはストリームを符号化し得る。例えば、低い複雑さレベルは、ビデオ復号器において復号するのにより低い電力集約性を示し得、ビデオファイル内に含まれるピクチャの相対的により歪んだバージョンをもたらし得る。高い複雑さレベルは、復号するのにより高い電力集約性を示し得、オリジナルビデオのより正確な再現をもたらし得る。中間の複雑さレベルは、高い複雑さバージョンよりも電力集約性の低い方法で復号され得るが、低い複雑さバージョンよりも高い電力集約性を示し得る。中間の複雑さレベルに関連付けられた歪みレベルは、高い複雑さレベルと低い複雑さレベルの歪みレベルの間にあり得る。
例えば、ビデオ準備710の間、ソースビデオ(例えば、MP4または他の何らかのメディアファイル(MF)720)が生成され得る。例えば、複雑さ認識型符号化器712は、MF720を生成および符号化し得る。MF720は、圧縮され、相対的に短い持続時間を有する小さいセグメント、例えば、例示的なフラグメント722、724、...、Nなどに分割され得る。例えば、フラグメント722、724、...、Nのうちの1または複数についての複雑さ情報を含む、アドレスおよび属性情報が、複雑さ認識型メディアプレゼンテーション記述(MPD)ファイル728内に記述され得る。MF720は、複数の複雑さレベル(例えば、高い複雑さレベル、中間の複雑さレベル、低い複雑さレベルなど)を使用して符号化され得、各複雑さレベルにおいて、MF720の符号化バージョンについてのフラグメントが生成され得る。複雑さ認識型MPDファイル728は、MF720を符号化するために使用される複雑さレベルの各々についての複雑さ情報を含み得、および/またはMF720を符号化するために使用される複雑さレベル毎に、対応する複雑さ認識型MPDファイル728が存在し得る。
フラグメント722、724、...、Nおよび複雑さ認識型MPDファイル728において配信のための準備が整うと、フラグメント722、724、...、Nおよび複雑さ認識型MPDファイル728は、配信730のための配信サーバに送信され得る。例えば、1または複数のメディアファイル732は、配信のためにHTTPサーバ740に送信され得る。メディアファイル732は、1もしくは複数のフラグメント722、724、...、Nおよび/またはビデオの他の記述を含み得る。メディアファイル732は、1または複数の複雑さレベルを使用するMF720の符号化バージョンを含み得る。MPDファイル738は、HTTPサーバ740に記憶される複雑さ認識型MPDファイル728のコピーであり得る。HTTPサーバ740は、1または複数のHTTPキャッシュ742に、クライアントデバイスへの配信のためのメディアファイル732および/またはMPDファイル738のコピーを提供し得る。
消費750の間、電力認識型クライアント760(例えば、WTRU、モバイルデバイス、および/またはビデオ復号器を含む他のデバイス)は、MPDファイル738を、HTTPサーバ740および/またはHTTPキャッシュ742のうちの1または複数に要求し得る。電力認識型クライアント760は、受信されたMPDファイル738に基づいて、フラグメント722、724、...、Nについての記述情報を決定し得る。電力認識型クライアント760は、MPDファイル738に基づいて、ファイルに対して利用可能な複雑さレベルを決定し得る。電力認識型クライアント760は、利用可能な帯域幅および/または現在の電力ステータスに基づいて、ビデオセグメント(例えば、フラグメント722、724、...、N)のうちの1または複数を求める要求を、相対的に継続して送信し得る。電力認識型クライアント760は、例えば、現在の電力レベルおよび/または電力認識型クライアント760において利用可能な残余エネルギー(例えば、バッテリ内に残っているエネルギーの量、与えられた現在の電力使用の残りの処理時間の長さなど)に基づいて、特定の複雑さレベルにあるセグメントを要求し得る。例えば、バッテリの現在のエネルギーレベルが第1の閾値を上回ることに基づいて、電力認識型クライアント760は、高い複雑さレベルにある第1のセグメントを要求し得る。エネルギーレベルが第1の閾値を下回る(が、例えば、第2の閾値を上回る)場合、電力認識型クライアント760は、中間の複雑さレベルにある後続セグメントを要求し得る。バッテリ内に残っているエネルギーレベルが第2の閾値を下回る場合、電力認識型クライアント760は、低い複雑さレベルにある別の後続セグメントを要求し得る。
例えば、電力認識型クライアント760は、電力検出器762、帯域幅センサ764、送受信機766、復号器768、アプリケーション770、複雑さ統計および制御ユニット772、電力認識型適応コントローラ774、ならびに/またはビデオストリームを受信および処理するための他のコンポーネントのうちの1または複数を含み得る。電力検出器762は、電力認識型クライアント760の現在の電力使用、および/または電力認識型クライアント760の1もしくは複数のコンポーネント(例えば、復号器768、ディスプレイ、CPUなど)の電力使用を決定するように構成され得る。電力検出器762は、電力認識型クライアント760が利用可能な残余電力の量を決定するように構成され得る。例えば、バッテリが電力認識型クライアント760のための電源である場合、電力検出器762は、与えられた時点においてバッテリ内に残っている電力および/またはエネルギーの量を決定するように構成され得る。電力検出器762は、電力認識型クライアント760が、現在の復号条件の下で、バッテリが消耗するまでに動作を継続し得る時間の長さを決定するように構成され得る。電力検出器762は、電力認識型クライアント760が、仮定または選択された復号条件の下で、バッテリが消耗するまでに動作し得る時間の長さを決定するように構成され得る。
帯域幅センサ764は、電力認識型クライアント760とビデオストリームのソース(例えば、HTTPサーバ740および/またはHTTPキャッシュ742)の間の通信リンクに関連する情報を決定するように構成され得る。帯域幅センサ764は、(例えば、送受信機766に関連付けられた1もしくは複数の無線アクセス技術に基づいた)電力認識型クライアント760が利用可能な帯域幅、電力認識型クライアント760とビデオストリームのソース(例えば、HTTPサーバ740および/もしくはHTTPキャッシュ742)の間の通信リンクが利用可能な帯域幅の量、電力認識型クライアント760とビデオストリームのソース(例えば、HTTPサーバ740および/もしくはHTTPキャッシュ742)の間の通信リンクの有効なビットレート、電力認識型クライアント760とビデオストリームのソース(例えば、HTTPサーバ740および/もしくはHTTPキャッシュ742)の間の通信リンクに関連付けられた過去のビットレートもしくは帯域幅に関連する情報、ならびに/または電力認識型クライアント760とビデオストリームのソース(例えば、HTTPサーバ740および/もしくはHTTPキャッシュ742)の間の通信チャネルに関連する他の情報を決定するように構成され得る。
複雑さ統計および制御ユニット772は、帯域幅センサ764および/または電力検出器762によって決定された情報を記憶するように構成され得る。例えば、複雑さ統計および制御ユニット772は、電力使用統計を記憶し、電力使用統計を、電力検出器762によって統計が決定されたときに実行されていた復号のタイプに関連付けるように構成され得る。複雑さ統計および制御ユニット772は、帯域幅センサ764によって観測されたような、電力認識型クライアント760とビデオソース(例えば、HTTPサーバ740および/またはHTTPキャッシュ742)の間の通信リンクに関連付けられた統計を維持するように構成され得る。記憶された統計は、要求される符号化ビデオの適切な複雑さレベルを決定する場合に使用され得る。
電力認識型適応コントローラ774は、復号器768によって実行されている復号プロセスを動的に適応されるために、帯域幅センサ764および/もしくは電力検出器762によって決定された統計、ならびに/または複雑さ統計および制御ユニット772によって記憶された統計を利用するように構成され得る。電力認識型適応コントローラ774は、アプリケーション要件および/またはアプリケーション特性を考慮して、復号プロセスを適応させるために、アプリケーション770とインターフェースを取り得る。電力認識型適応コントローラ774は、現在の電力レベル/エネルギーレベル、現在の帯域幅、ならびに/または電力使用、エネルギー使用、および/もしくは帯域幅に関する過去の統計に基づいて、与えられたファイルまたはファイルのセグメントのために適切な複雑さレベルを選択するように構成され得る。
複雑さ認識型符号化器712は、準備710の間に、ソースビデオを圧縮するように構成され得る。例えば、複雑さ認識型符号化器712は、レート歪み最適化(RDO)を使用して、ビデオを符号化するように構成され得る。RDOは、ビデオ圧縮が行われる場合にビデオ品質を改善する方法のこととし得、歪み(例えば、ビデオ品質の低下、ビデオ情報の喪失)の量は、ビデオを符号化するために利用されるデータビットの量(例えば、レート)と釣り合わされ、またはそれに対して最適化される。複雑さ認識型符号化器712は、復号の複雑さを考慮せず、ビットレート制約が与えられて、最も高い品質の符号化を達成しようと(例えば、最大量の情報を復号のために提供しようと)試み得る。したがって、符号化器は、符号化ロスに起因するビデオソースからの乖離(例えば、歪み)対可能な決定結果についてのビットコストから成るメトリックを最大化しようと試み得る。式(2)は、レート歪み最適化を実行する場合に、与えられた符号化モードについてのコストを評価するために使用される例示的なコストメトリックであり得る。
Costmode=Distmode+λrate×Rmode 式(2)
Costmodeは、符号化モードのコストを表し得る。Distmodeは、符号化モードに関連付けられた歪みレベルを表し得る。Rmodeは、符号化モードに関連付けられた符号化ビットの数を表し得る。λrateは、符号化ビットレートに関連し得る、および/またはほぼ比例し得る、レート歪み曲線の勾配を表し得る。
複雑さ認識型符号化器712は、(例えば、ビットレートおよび複雑さ制約が与えられて)、コストメトリックを最小化するために適切な符号化モードを選択し得る。複雑さ認識型符号化器712は、最低の相対CDOコストを達成する符号化モードを選択し得る。例えば、Cmodeは、CPUサイクルおよび/またはメモリアクセスなどで測定された、モードの複雑さであり得る。λcomplexityは、複雑さ対歪み曲線の勾配であり得る。式(3)は、そのようなパラメータを考慮して、レート歪み最適化におけるモードコストを評価するのに使用され得る。
Costmode=Distmode+λrate×Rmode+λcomplexity×Cmode 式(3)
より大きいλcomplexityは、より低い復号の複雑さに対応し得る。したがって、異なるそれぞれのλcomplexityの値を用いて生成され得る様々な複雑さを有する複数の可能なビットレートが存在し得る。符号化器は、潜在的なクライアントが利用可能な様々な複雑さレベルを有する各々のビットストリームを作成し得る。クライアントは、ローカル電力条件および/またはローカル帯域幅条件に基づいて、適切なビットストリームを選択し得る。
一例では、複雑さ認識型符号化器712は、異なるそれぞれの複雑さレベルのための様々な符号化ツールに提供される符号化情報の量に関する1または複数の制限を順守しながら、ビデオストリームを圧縮するように構成され得る。例えば、表1は、符号化ツール、および符号化ツールが適用され得るレベルが符号化ビットストリームの所望の複雑さレベルにどのように依存するかについての例を示している。各符号化ツールのために選択されるパラメータに基づいて、符号化ビットストリームは、復号の複雑さがより大きく、またはより小さくなり得る。様々な複雑さレベルのビットストリームを生成するために、符号化ツールの各々のためのパラメータは、例えば、表1に示されるように、選択され得る。
複雑さは、ビデオセグメントを符号化/復号するために利用される処理リソースの量のこととし得、MDFでモバイルデバイスに示され得る。複雑さ情報は、(例えば、値を決定するための事前定義された方法に基づいた)特定の複雑さ値として伝達され得、セグメントを復号するために使用される復号器における処理リソースの近似量を示し得る。複雑さ情報は、表1に示される符号化ツールのための1または複数の値など、符号化を実行するために使用される特定のパラメータを含み得る。
符号化ツールの例は、動き情報を符号化するために使用される精度のレベル、動き補償ブロックサイズ、符号化変換サイズ、利用されるインループフィルタのタイプ、および/またはブロックについての係数符号化をスキップするための閾値などを含み得る。表1によって示されるように、1または複数の符号化ツールの符号化パラメータおよび/または適用は、符号化ビットストリームの所望の複雑さレベルに従って制限され得る。

一例では、ビデオ復号のために使用される動き情報の精度および/または動きベクトルの精度は、変化させ得る。動き情報の精度を変化させることによって、復号方式の複雑さを、増加させ得(例えば、非電力制限シナリオ)、および/または減少させ得る(例えば、電力制限シナリオ)。既存の符号化規格(例えば、HEVC、H.264)における動き情報の精度は、動き情報/ベクトルの精度の一例であり得る。動き情報/ベクトルの精度は、(例えば、与えられたピクセルに対して指定された)整数値、半ピクセル値、4分の1ピクセル値、および/またはピクセルの他の何らかの分数であり得る。分数ピクセル精度は、補間フィルタの適用のせいで、ならびに/または(例えば、メモリアクセス帯域幅の増加、および/もしくはメモリアクセス要求の数の増加をもたらす)より多数の使用される基準ピクセルのせいで、整数ピクセル情報よりも複雑であり得る。したがって、複雑さがより小さいビデオストリームを符号化する場合、動き情報の精度は、整数ピクセル位置になるように指定され得、複雑さがより大きいビデオストリームを符号化する場合、動き情報の精度は、分数ピクセル位置になるように指定され得る。一例では、最も高い複雑さレベルの場合、動き情報の精度に制限は存在し得ず、符号化器は、どのレベルが最小の歪みをもたらすかに基づいて、動き情報の精度のレベルを選択し得る。
一例では、ビデオ復号のために使用される動き補償ブロックサイズは、変化させ得る。動き補償ブロックのサイズの変化は、復号されるビデオストリームの複雑さを増加または減少させ得る。動き補償ブロックサイズを変化させることによって、復号方式の複雑さを、増加させ得(例えば、非電力制限シナリオ)、および/または減少させ得る(例えば、電力制限シナリオ)。例えば、動き補償ブロックサイズは、メモリアクセスの効率に影響し得る。例えば、より大きい動き補償ブロックサイズは、メモリアクセスの頻度を減少させ得るが、歪みの増加をもたらし得る。したがって、複雑さがより小さいビデオストリームを符号化する場合、相対的に大きい動き補償ブロックサイズが利用され得、複雑さがより大きいビデオストリームを符号化する場合、動き情報の精度は、分数ピクセル位置になるように指定され得る。一例では、最も高い複雑さレベルの場合、動き補償ブロックサイズに制限は存在し得ず、符号化器は、どのサイズが最小の歪みをもたらすかに基づいて、動き補償ブロックサイズを選択し得る。
一例では、ビデオ復号のために使用される変換ブロックサイズは、所望の複雑さレベルを達成するために、変化させ得る。変換ブロックのサイズの変化は、復号されるビデオストリームの複雑さを増加または減少させ得る。例えば、HEVCは、(例えば、最大で32×32の変換ブロックサイズまでの)異なる変換ブロックサイズを許可し得る。より大きい変換ブロックサイズは、圧縮効率を改善し得るが、復号の複雑さも増加させる。したがって、(例えば、残余エネルギーレベルが与えられた閾値を下回る)制限されるシナリオの期間中、電力認識型クライアントは、より小さい変換ブロックサイズに対応する複雑さレベルを要求し得る。表1は、要求される複雑さレベルに応じた、変換ブロックサイズのために使用され得る例示的な値を識別している。例えば、エネルギーレベルが第1の閾値を上回る場合、高い復号の複雑さが要求され得(例えば、16×16変換ブロックサイズ)、および/または利用される変換ブロックサイズに制限は存在し得ない。エネルギーレベルが第1の閾値を下回るが、第2の閾値を上回る場合、中間の複雑さレベルが要求され得、中間の変換ブロックサイズが利用され得る(例えば、8×8)。エネルギーレベルが第1の閾値および第2の閾値の両方を下回る場合、例えば、相対的に小さい変換ブロックサイズ(例えば、4×4など)を利用することによって、低い復号複雑さレベルが利用され得る。
一例では、ビデオ復号のために使用されるインループフィルタは、ビデオセグメントのための様々な複雑さレベルを達成するために、変化させ得る。使用されるインループフィルタのパラメータおよび/またはタイプを変化させることによって、異なる電力レベルが、ビデオ復号中に実現され得る。例えば、インループフィルタは、非ブロック化フィルタ、サンプルアダプティブオフセット、および/または適応ループフィルタなど、異なる回復ツールを含み得る。非ブロック化フィルタ、サンプルアダプティブオフセット、および/または適応ループフィルタなどは、動き補償ループ内に存在し得る。符号化器は、復号のために使用される電力消費に影響する複雑さレベルを達成するために、それらのインループフィルタを様々な組み合わせで適用し得る。例えば、非ブロック化フィルタ、サンプルアダプティブオフセット、および/または適応ループフィルタなどは、第1のストリームが電力集約性の小さい復号(例えば、より低い複雑さレベル)をもたらし、第2のストリームが電力集約性の大きい復号(例えば、より高い複雑さレベル)をもたらすように、符号化器において適用され得る。
一例として、相対的に複雑さの小さいビデオセグメントを達成するために、予測符号化が、イントラスライス符号化を使用して実行され得る。例えば、イントラスライス符号化は、インタースライス符号化を使用せずに実行され得る。例えば、低い複雑さレベルが望ましい場合、セグメントは、イントラスライス符号化を使用して符号化され得る。(例えば、IスライスまたはIフレームと呼ばれることがある)イントラスライスは、他のフレームを参照せずに復号され得、したがって、他のフレームまたはスライスを参照するフレームまたはスライスよりも低い電力レベルで復号可能であり得る。相対的により高い複雑さが符号化される場合、セグメントは、イントラスライス符号化およびインタースライス符号化を使用して符号化され得る。インタースライス符号化の例は、(例えば、PスライスもしくはPフレームと呼ばれることがある)Pスライス基準フレーム、および/または(例えば、BスライスもしくはBフレームと呼ばれることがある)Bスライス基準フレームの使用を含み得る。Pフレーム基準フレームは、現在のPフレームを伸長および/または復号するために、他の先行フレームからのデータを利用するフレームのこととし得る。Bフレームは、現在のBフレームを伸長または復号するために、先行フレームおよび前方(例えば、将来のフレーム)の両方からのデータを利用するフレームのこととし得る。インタースライス符号化(例えば、P/Bスライス)の使用は、他のフレームを参照するせいで、処理の複雑さを増加させ得、ひいては、復号中の電力使用が増加し得る。したがって、より低い電力レベルが達成される場合、インタースライス符号化のためのPフレームおよび/またはBフレームの使用は、削減または停止され得る。
符号化器は、与えられたブロックについての係数符号化をスキップし得るかどうかを決定するためのコスト閾値を設定し得る。低い複雑さレベルの場合、コスト閾値は、相対的に高い値であり得、一方、より高い複雑さレベルの場合、コスト閾値は、相対的により低い値になるように設定され得る。一例では、最も高い複雑さレベルの場合、クリッピングは実行され得ない(例えば、最も高い複雑さレベルの場合、係数符号化のスキップは実行されない)。
符号化器は、例えば、品質および復号複雑さを考慮することによって、ビデオの各ブロック(例えば、ビデオセグメントまたはフラグメント)についての変換および量子化から受け取られたいくつかまたはすべての非ゼロ係数を符号化するかどうかも決定し得る。ブロックコストは、人間視覚システム(HVS)に基づいて測定され得る。ブロックコストは、例えば、式(4)に示されるような、非ゼロ係数の加重和であり得る。
i,jは、HVS関連の重み行列であり得る。低周波数位置における重みは、高周波数位置におけるものよりも大きくし得る。ブロックコストCostblockが、与えられた複雑さレベルに対応するように設定される閾値よりも低い場合、符号化器は、非ゼロ係数符号化をスキップし得る。係数符号化を符号化器がスキップするかどうかを制御するための閾値は、複雑さレベルが与えられて調整され得る。
などの複雑さ情報、および/または符号化ストリームに関連付けられた複雑さレベルの表示(例えば、低い、中間、高いなど)は、電力認識型クライアントによって要求されるメディア記述内に追加され得る。一例では、クライアントモバイルデバイスは、帯域幅情報および/または電力ステータス情報を考慮して、要求するビットストリーム(例えば、高い複雑さ、中間の複雑さ、低い複雑さなど)を決定し得る。後続ビデオセグメントのために要求する適切な複雑さレベルを決定するために、クライアントモバイルデバイスは、後続セグメントの復号のために割り当てられる推定電力を決定し得る。その後、クライアントモバイルデバイスは、セグメントの先行復号プロセスに対する電力割り当て、先行セグメントについての複雑さレベル、ならびに後続の復号に関連付けられる電力レベルおよび/またはエネルギーレベルに基づいて、要求する適切な複雑さレベルを決定し得る。クライアントモバイルデバイスは、例えば、先行する電力消費統計に基づいて、将来のビデオ復号についての電力割り当て情報を決定し得る。電力が均等に割り当てられる場合、次のセグメントの電力は、例えば、式(5)を使用して決定され得る。
next=(Ts/Dr)×Pr 式(5)
nextは、次のセグメントのために割り当てられる電力であり得、Tsは、次のセグメントの持続時間であり得、Drは、ビデオの残りの持続時間(または例えば、現在もしくは先行セグメントの持続時間)であり得る。Prは、残りのビデオを復号するために割り当てられる総電力(例えば、残りのr個のセグメントを復号するために割り当てられる電力の量)であり得る。後続セグメントに対して割り当てられる電力、先行セグメントを復号するために使用された電力、および/または先行セグメントの復号複雑さに基づいて、モバイルデバイスは、例えば、式(6)を使用して、後続セグメントのために要求する適切な複雑さレベルを決定し得る。
next=(Pnext/Pprev)×Cprev 式(6)
prevは、先行セグメントのために使用される電力であり得、Cnextは、後続セグメントのために要求される複雑さレベルであり得、Cprevは、先行セグメントについての複雑さであり得る。複雑さ情報が離散的な複雑さレベルによって伝達される場合、次のセグメントの複雑さレベルは、例えば、式(7)に従って決定され得る。
Thiは、各複雑さレベルiについての閾値であり得る。推定される複雑さレベルに従って、クライアントは、Cnextに最も近い複雑さレベルを有するセグメントを要求し得る。複雑さレベルの量子化は、複雑さの通知に関連するオーバヘッドを低下させ得、および/または符号化/復号プロセスを単純化し得る。
図8は、電力認識型ストリーミングを実行する場合に、クライアントデバイス(例えば、モバイルデバイス、WTRUなど)によって選択され得る、異なる複雑さレベルおよび解像度の一例を示している。例えば、一般に、品質レベルが増加するにつれて、ビデオセグメントを復号するために利用される電力は増加し得る。クライアントデバイスは、セグメントのための品質情報、セグメントのためのビットレート情報、セグメントのための複雑さ情報、および/またはMPDメタデータファイルからのセグメントの符号化に関する他の情報のうちの1または複数を受信し得る。現在の電力制約に基づいて(例えば、潜在的に、現在の帯域幅に基づいて)クライアントデバイスは、後続セグメントのための適切な解像度および/または複雑さレベルを選択し得る。一例では、クライアントデバイスは、サーバに、現在の電力レベル、現在の電力使用、残余エネルギーの量(例えば、バッテリレベル)、復号を完了するために割り当てられ得る電力/エネルギーの量、現在の帯域幅、先に復号されたセグメントに関する統計(例えば、先行セグメントの複雑さ、およびセグメントを復号するために利用される電力など)、ならびに/または他の情報に関連する情報を提供し得、サーバは、ストリームで送信される適切なセグメントを選択し得る。
例えば、モバイルデバイスは、与えられたビデオのためのMPDファイルを要求し得る。MPDファイルは、ビデオの1または複数のセグメントに適用可能な複雑さ情報を提供し得る。例えば、MPDファイルは、モバイルデバイスによって選択され得る複雑さレベルを示し得、および/またはモバイルデバイスによって選択され得る解像度を示し得る。一例では、セッションの開始時に、モバイルデバイスは、高い複雑さモードを有する高い解像度セグメントに対応し得る、品質レベル802を選択し得る。例えば、モバイルデバイスは、第1の閾値を上回るモバイルデバイスのために残っている電力レベル/エネルギーレベルに基づいて、品質レベル802を選択し得る。一例では、モバイルデバイスは、例えば、後続セグメントの各々も品質レベル802で送信されると仮定した場合に、電力を使い切ることなく品質レベル802でビデオを復号し得るという決定に基づいて、品質レベル802を選択し得る。
モバイルデバイスは、ビデオ復号プロセスの間、復号についての電力統計、および/または残余電力レベル/エネルギーレベルを監視し続け得る。例えば、ある期間の後、モバイルデバイスの残余エネルギーレベルは、第1の閾値を下回り得る(が、例えば、第2の閾値を上回り得る)。閾値を下回ったエネルギーレベルに基づいて、モバイルデバイスは、次のセグメントが品質レベル804を使用して送信されることを要求し得る。品質レベル804は、中間の複雑さモードを有する高い解像度セグメントに対応し得る。中間の複雑さモードに切り換えることによって、セグメント復号中に、電力節約が達成され得る。残余エネルギーレベルが第2の閾値を下回った場合、モバイルデバイスは、低い複雑さモードを有する高い解像度セグメントに対応し得る、品質レベル806に切り換わり得る。残余エネルギーレベルが与えられた閾値を上回った場合、および/またはモバイルデバイスが固定電源に接続された(例えば、充電器もしくは新しい電源が接続された)場合、モバイルデバイスは、より高い品質のセグメント(例えば、品質レベル802)を要求するようにトリガされ得る。
追加の電力節約を達成するために、適切な複雑さモードをモバイルデバイスのエネルギーレベルに基づいて選択するのに加えて、解像度が、エネルギーレベルに基づいて選択され得る。例えば、モバイルデバイスが、品質レベル806を要求したが、追加の電力節約を望む(例えば、現在の電力使用ではビデオ再生中に残余エネルギーが完全に利用され得る)場合、モバイルデバイスは、より低い解像度に変化し得る。例えば、残余電力が第3の閾値を下回ったことに基づいて、モバイルデバイスは、品質レベル812を要求し得、高い複雑さモードを有する中間の解像度セグメントに対応し得る。品質レベル812、814、および/または816の間で選択を行うために、同様の閾値ベースの分析が、中間の解像度セグメントに対して実行され得る。同様に、中間の解像度に切り換わった後、追加の電力節約がまだ望まれる場合、モバイルデバイスは、低い解像度を選択し得、低い解像度で適切な複雑さレベルを(例えば、品質レベル822、824、および/または826の間で)選択するために、閾値電力レベルおよび/またはエネルギーレベル分析を実行し得る。
モバイルデバイスは、残余電力、電力使用に関する先行する統計、および/または他の電力メトリックに基づいて、適切な解像度および/または複雑さレベルを選択し得る。高い、中間、および低い解像度が例として示されているが、多くのそのような解像度レベルが存在し得、解像度および複雑さの様々な組み合わせが、様々なレベルの電力節約をもたらし得る。したがって、モバイルデバイスは、解像度および複雑さの様々な組み合わせについて電力使用を推定し得、復号中に所望のレベルの電力使用を達成するために、適切な組み合わせを選択し得る。一例では、解像度が数個の異なるレベル(例えば、高い、中間、低い)の間で量子化される場合、解像度の間の切り換えは、(例えば、常にそうであるとは限らないが)複雑さレベルを切り換えるよりも大きな電力節約を達成し得る。これらのシナリオでは、モバイルデバイスは、より大きな大きさの電力節約を達成するために、解像度の間での切り換えを行い得、より細かい粒度の電力節約を達成するために、解像度を一定にして、複雑さレベルの間での切り換えを行い得る。
電力認識型復号は、復号プロセス内の1または複数のサブプロセスまたはモジュールを識別することと、許容可能なビデオ品質および/またはユーザエクスペリエンスを維持しながら、電力使用を最小化するために、サブプロセスのうちの1または複数のためのパラメータおよび/または動作モードを最適化すること、または他の方法で変更することとを含み得る。(例えば、開示される技法、方法、およびシステムは、他のビデオ圧縮技法にも適用され得るが)一例として、ビデオ圧縮規格HEVCについて考察する。
図9は、HEVCを使用して電力認識型復号を実行するための例示的なプロセスを示している。例えば、HEVC復号は、エントロピ復号902、逆量子化904、逆変換906、ループフィルタ908、基準ピクチャストア910、空間予測912、および/または時間予測914(例えば、動き補償(MC))などを含み得る。一例では、復号プロセスのコンポーネントのうちの1または複数は、電力使用および/または残余エネルギーレベル情報に基づいて、コンポーネントにおいて利用されるパラメータおよび/または方法を変更し得る。例えば、時間予測914および/またはループフィルタ908は、品質と電力消費の間のトレードオフを達成するために変化させ得る。追加の電力節約が望まれる期間中は、時間予測914および/またはループフィルタ908は、電力を節約するために変更され得る。
例えば、符号化ビットストリーム900は、エントロピ復号ユニット902においてアンパックおよび/またはエントロピ復号され得る。エントロピ復号の複雑さは、圧縮された各ピクチャのサイズに大きく関連し得る。ピクチャを圧縮するために、より多くのビットが使用されるほど、エントロピ復号プロセスは、より多くの電力を使用し得る。電力認識型復号器を含むモバイルデバイスは、エントロピ復号中の電力を節約するために、より僅かなビットを使用して符号化されたビットストリームを要求し得る。符号化モード、予測情報、動き情報、および/またはエントロピ復号ユニット902において決定された他の情報は、空間予測ユニット912(例えば、イントラ符号化の場合)、および/または時間予測ユニット914(例えば、インター符号化の場合)に送られて、予測ブロックを形成する。インター符号化の場合、予測情報は、予測ブロックサイズ、(例えば、動きの方向および量を示し得る)1もしくは複数の動きベクトル、ならびに/または(例えば、どの基準ピクチャから予測信号が獲得されるかを示し得る)1もしくは複数の参照インデックスを含み得る。動き補償予測は、時間予測ユニット914によって適用されて、時間予測ブロックを形成し得る。例えば、時間予測は、フィルタリングのために集中的な外部メモリアクセスを使用し得るので、時間予測(例えば、動き補償)は、復号器の電力使用の比較的大きい部分を占め得る。
残差変換係数は、残差ブロックを再構成するために、逆量子化ユニット904および逆変換ユニット906に送られ得る。予測ブロックおよび残差ブロックは、合算されて、再構成ブロックを形成し得る。再構成ブロックは、基準ピクチャストア910内に記憶される前に、ループフィルタ908に送られ得る。基準ピクチャストア910内の再構成ビデオは、表示デバイスを駆動するために使用され得(例えば、復号ビデオ920)、および/または将来のビデオブロックを予測するために使用され得る。
シングルレイヤビデオ符号化器は、単一のビデオ系列入力を取り、シングルレイヤ復号器に送信される単一の圧縮ビットストリームを生成し得る。ビデオコーデックは、(例えば、衛星、ケーブル、および地上波送信チャネルを介したTV信号の送信などの、しかし、それらに限定されない)デジタルビデオサービスのために設計され得る。ビデオ中心アプリケーションが異機種環境に配備されるのに伴い、マルチレイヤビデオ符号化技術が、様々なアプリケーションを可能にするために、ビデオ符号化規格の拡張として開発され得る。例えば、スケーラブルビデオ符号化技術が、2以上のビデオレイヤを扱うために設計され得、各レイヤは、特定の空間解像度、時間解像度、忠実度、および/またはビューのビデオ信号を再構成するように復号され得る。シングルレイヤ復号器が図9を参照して説明されたが、本明細書で説明される概念は、例えば、マルチレイヤまたはスケーラブル符号化技術のために、マルチレイヤ復号器を利用し得る。
HEVCなどの例示的なビデオコーデックでは、ループフィルタ908において、8タップフィルタが、半ピクセル位置における補間のために使用され得、7つの非ゼロタップフィルタが、1/4および3/4ピクセル位置のために使用され得る。予測ブロックサイズがW×Hである場合(例えば、Wは予測ブロックの幅を表し得、Hは予測ブロックの高さを表し得る)、外部基準ピクチャバッファからフェッチされるピクセルは、垂直および水平方向の両方において、半ピクセル位置については、(W+7)×(H+7)であり得る。図10は、時間予測のために実行され得る輝度動き補償プロセスについての異なるピクセル位置の例を示している。
例えば、ピクセル位置(例えば、分数ピクセル位置)は、図10に影付きで示されるように、複数(例えば、6)のクラスにグループ化され得る。ピクセル位置は、それぞれの(例えば、分数)ピクセル位置における補間フィルタリングのために使用されるピクセルの数に基づいて、クラスにグループ化され得る。例えば、表2は、クラス、クラスに関連付けられたそれぞれのピクセル位置、動き補償中に補間フィルタリングのために異なるクラスに対して利用されるメモリサイズ、およびフィルタ操作が各クラスに対して適用される回数の例を識別している。例えば、(1/2,1/2)位置は、基準フレームを参照するために最大のメモリサイズを利用し得、水平および垂直フィルタ操作両方の適用を含み得るため、最も複雑な値は、(1/2,1/2)位置(例えば、図10における位置10)であり得る。
メモリアドレスが水平に配置される場合(例えば、通常はそうであり得る)、水平補間についてのメモリアクセス効率は、垂直補間よりも高くなり得る。ループフィルタリングは、非ブロック化、サンプルアダプティブオフセット(SAO)の利用、および/または適応ループフィルタリング(ALF)のうちの1または複数を含み得る。非ブロック化は、変換ブロック境界における不連続性を低減するために使用され得、多くの条件付き演算および比較演算を有し得る。SAOは、エッジ点における不連続性を補正するために使用され得る。ALFは、線形フィルタリングプロセスであり得、一部またはすべてのピクセルの外観に重点的に取り組み得る。これらのループフィルタは、きわめて多くのピクセルベースの操作を利用し得るので、電力消費が非常に高くなり得る。

動き補償の複雑さは、分数ピクセル位置の位置に基づいて(例えば、分数ピクセルロケーションのクラスに応じた、メモリアクセスのサイズおよびフィルタ操作の回数に基づいて)変化し得るので、クラスのサブセットの利用は、複雑さのより小さい復号をもたらし得る。例えば、電力節約が望ましい場合、符号化器は、1または複数のクラスの使用を差し控えることによって、複雑さのより小さいビデオセグメント(例えば、相対的に小さいエネルギーを使用して復号され得るセグメント)を符号化し得る。例えば、符号化器は、符号化中にクラスの使用を排除してもレート歪みレベルに著しい影響を与えないクラスの使用を差し控え得る。例えば、2つのクラス(例えば、クラス5および6)の除外が、与えられた閾値よりも小さいレート歪みの変化しかもたらさない場合、符号化器は、除外されたクラスを利用せずに、複雑さのより小さいセグメントを符号化し得る。
復号プロセスのサブプロセスは、プロセッサリソースの異なるパーセンテージを占有し得、および/または完了するのに異なる長さの時間を要し得る。例えば、図11Aおよび図11Bは、HM6.1復号器を使用するHEVC、およびランダムアクセス(RA)環境を使用して符号化されるビットストリームについての時間プロファイリングの例を示している。単一命令複数データを使用しない場合(図11A)、例えば、この例では、ビットレートが相対的に低くなり得るので、動き補償は、復号時間のおよそ61%を占め得、非ブロック化およびSAOは、併せておよそ14%を占有し得(例えば、それぞれおよそ9%および5%)、エントロピ復号は、およそ7%を占め得る。SIMD(単一命令複数データ)は、MCを大幅に、例えば、最大2倍〜3倍加速させ得る。しかしながら、MCは、依然として復号時間の38%を占め得る(例えば、図11B)。
一例では、動き補償および/またはループフィルタ操作は、現在の電力条件および/または過去の電力統計に基づいて、動的に電力消費を低下させるために、変更され得る。例えば、図12Aは、電力を節約するための例示的な補間フィルタ波形を示しており、図12Bは、電力を節約するための例示的な周波数応答を示している。フィルタは、ローパスフィルタであり得る。補間フィルタリングプロセスは、例えば、式(8)を使用して、周波数領域で実施され得、ここで、Xは、入力信号であり得、Fは、フィルタであり得、Yは、周波数領域における出力信号であり得る。
空間領域では、入力xが大きな高周波数信号を有さない場合、フィルタFは、大きな誤差を生じさせることなく、短縮化され得る。したがって、利用される動き補償は、信号周波数分析に基づき得る。例えば、補間される領域が、強いエッジまたは強いコントラストを有さない(例えば、周波数応答が相対的に高い周波数成分を大きな比率で有さない)場合、モバイルデバイス内の電力認識型復号器は、復号プロセス中の時間および/または電力を節約するために、カットオフ周波数がより低いフィルタを適用することを決定し得る。例えば、より短い(例えば、カットオフ周波数がより低い)フィルタは、メモリアクセス帯域幅を低減し得る。復号プロセスに著しい影響を及ぼさずに、より短いフィルタが実行され得るかどうかを決定する(例えば、領域の周波数成分が主としてより低い周波数から成るかどうかを決定する)ための領域特性の分析が、相対的に低い電力を使用して実行され得る。例えば、追加の電力節約が望まれ、領域に関連する周波数成分のうちの与えられたパーセンテージが指定された周波数閾値よりも小さい場合、周波数が相対的に低いフィルタを使用して、フィルタリングが実行され得る。
一例では、周波数がより低いフィルタを適用すべきかどうかに関する決定は、低解像度画像に基づいて実行され得る(例えば、電力を節約するために、サンプリングされたピクセルに対して分析が実行され得る)。例えば、周波数がより低いフィルタを適用すべきかどうかに関する決定は、例えば、画像または画像の一部に関連付けられるすべてのピクセルに基づく代わりに、サンプリングされたピクセルの分析に基づいて実行され得る。例えば、16×16ブロックを分析する場合、位置(4n,4m)にあるピクセルが分析および考察され得、ここで、nおよびmは、整数である(例えば、256ピクセルブロックに対して適用するフィルタを決定するために、16のピクセルに対して分析が実行され得る)。
電力がより低い動き補償プロセスによって引き起こされる問題が2つ存在し得る。第1に、時間予測プロセスにおける誤差に起因する将来のピクチャへの誤差伝搬が生じ得る。例えば、周波数がより低いフィルタの使用が原因で基準ピクチャに誤差が導入される場合、誤差は、時間予測のために基準ピクチャを利用する将来のピクチャに伝搬し得る。誤差伝搬を制限するために、一例では、周波数がより低いフィルタリングは、より高いレイヤのピクチャには適用され得るが、より低いレイヤのピクチャには適用され得ない。例えば、HEVCおよび他のビデオコーデックでは、図13に示されるような階層的符号化構造が使用され得る。例えば、4つのレイヤが存在し得、より低いレイヤのピクチャは、時間予測のためにより高いレイヤのピクチャを使用することを差し控え得る。したがって、一例では、より高い(例えば、最も高い)レイヤ、および/または他のレイヤが時間予測のために依存しないレイヤに対して、周波数がより低いフィルタを利用することによって、誤差伝搬の影響を制限しながら、電力節約が達成され得る。
周波数がより低いフィルタの使用が原因で引き起こされ得る第2の問題は、同じピクチャ内におけるイントラ予測に起因する誤差伝搬であり得る。HEVC、H.264、および/または他のコーデックは、方向性イントラ予測を適用して、イントラ符号化効率を改善し得る。例えば、HEVCは、複数の方向において方向性イントラ予測を利用し得る。図14は、HEVCイントラ符号化において使用される例示的な方向を示している。周波数がより低いフィルタの使用が原因で現在の符号化ブロックにおいて誤差が生じる場合、および現在のブロックに対して隣接ブロックがイントラ符号化される場合、現在のブロック内の誤差は、隣接ブロック内の予測方向沿いのピクセルに伝搬し得る。誤差は、いくつかのイントラブロックが空間的に互いに隣接して存在する場合、伝搬し続け得、アーチファクトは、拡大され得る。したがって、一例では、モバイルデバイスの電力認識型符号化器は、非因果的な隣接ブロック(例えば、右側隣接ブロック、下側隣接ブロック、および/または右下隣接ブロック)の中にイントラ符号化ブロックが存在する場合、周波数がより低いフィルタをインターブロックに対して使用することを差し控え得る。したがって、電力がより低い復号が利用されるべきであるとモバイルデバイスが決定した場合であっても、隣接ブロックが、それぞれの符号化ブロックにおいて符号化された情報に基づいてイントラ符号化される場合に、1または複数のイントラ符号化ブロックが、それぞれの符号化ブロックおよび/または1もしくは複数の他の符号化ブロックに対して非因果的な隣接ブロックであるならば、符号化ブロックのうちの1または複数は、依然として通常の動き補償フィルタを使用して復号され得る。
非ブロック化は、視覚品質に関して、相対的にフラットおよび/または相対的にスムーズな領域の品質を改善するために役立ち得るが、それは、ブロッキングアーチファクトが、人間視覚システムの特性のために、それらの領域において通常は最も顕著であるからである。高テクスチャ領域など、高周波数成分を有する領域では、テクスチャマスキングと呼ばれる現象が、ブロッキングアーチファクトを人間の目に効果的に見えなくし得る。高テクスチャおよび/または残差が小さいインターブロック領域では、非ブロック化のスキップも、ある程度の電力を節約し得る。非ブロック化のスキップによって引き起こされる誤差は、やはり動き補償を介して伝搬し得るが、誤差は、イントラブロック予測によって伝搬され得ない。したがって、一例では、モバイルデバイスの電力認識型復号器が、電力節約が達成されるべきことを決定した場合、非ブロック化が、非基準ピクチャについてはスキップされ得るが、基準ピクチャについては依然として実行され得る。
電力認識型復号および/または電力認識型ストリーミングは、クライアントベースの技法を使用して(例えば、動き補償中により低いカットオフ周波数を有するローパスフィルタを使用するような電力認識型復号)、ならびに/またはジョイントクライアントネットワークベースの技法を使用して(例えば、サーバは、異なる潜在的なストリームの複雑さに関する情報を提供し、クライアントは、電力レベル情報および/もしくはエネルギーレベル情報に基づいて適切なストリームを動的に要求する)電力節約を達成するために、別々にまたは組み合わせて使用され得る。
電力認識型ストリーミングは、サーバとクライアント(例えば、モバイルデバイスなどのWTRU)の間の協調であり得る。例えば、コンテンツは、複数のバージョンを用いて生成され得、各バージョンは、異なる複雑さおよび/または異なる解像度に関連付けられ得る。複雑さ情報は、クライアントによって要求され、コンテンツについてのメディア記述ファイルに収めてサーバから送信され得る。クライアントは、クライアントの電力レベルステータス、クライアントのエネルギーレベルステータス、予想される再生時間、プロセッサの使用ステータス、ユーザプリファレンス、ユーザから受け取った指示、および/または利用可能な帯域幅などの情報に基づいて、適切なメディアセグメントを選択し得る。
例えば、ユーザは、クライアントモバイルデバイスを、高品質モードで動作するように構成する。高品質モードでは、ユーザは、電力低減よりも品質を好み得る。高品質モードで動作する場合、モバイルデバイスは、復号の複雑さレベルを考慮するように、ならびにビデオのフル再生を完了するのに十分な電力がモバイルデバイスに残っていることを保証しながら、品質を最大化する、解像度および/または複雑さレベルを決定するように構成され得る。モバイルデバイスは、先行する電力統計、先行する電力統計に関連付けられた複雑さ情報、および残りのビデオセグメントに関連付けられた複雑さ情報に基づいて、ビデオの残りに対して使用される電力の量を推定し得る。
一例では、ユーザは、クライアントモバイルデバイスを、電力節約モードで動作するように構成し得、その場合、ユーザは、より良い品質よりもより少ない電力消費を好み得る。電力節約モードでは、モバイルデバイスは、電力使用を最小化するために、電力認識型ストリーミングおよび/または電力認識型復号を利用するように構成され得る。1または複数の複雑さレベルに関連付けられた先行ピクチャを復号中に学習された電力消費統計を使用して、クライアントは、残余電力に従って、次のセグメントに電力を割り当て得る。割り当てられる電力、および/または先行セグメントの複雑さに基づいて、クライアントは、現在のセグメントの複雑さを推定し得る。その後、クライアントは、残っている電力の量に基づいて、どの複雑さレベルが後続セグメントのために要求されるべきかを知り得る。
電力認識型復号技術は、復号される1または複数のブロックのコンテンツ分析に基づき得る。電力認識型復号は、復号複雑さ/電力使用と品質との間の許容可能なトレードオフを達成しようと試み得る。電力認識型復号は、ほとんど感知し得ない誤差を導入することによって、電力消費を節約でき得る。電力認識型復号のための方法がいくつか存在し得る。例えば、復号器は、優先順位が低いピクチャに対しては、異なる特性領域に関連付けられた異なる補間フィルタを適用し得る。エッジ、または強いエッジを有するテクスチャなど、多くの高周波数信号を有する領域の場合、復号器は、誤差の導入を回避するために、適合したまたは通常の補間フィルタを使用し得る。より僅かな高周波数成分/信号を有する相対的にフラットな領域の場合、復号器は、メモリアクセス帯域幅を低減させるために、ローパスフィルタのカットオフ周波数を低減させ得る。一例では、電力認識型復号器は、ブロッキングアーチファクトがあまり目に付かない領域、および/または(例えば、非基準ピクチャ内もしくはより高い時間レイヤにおける基準ピクチャ内など)誤差伝搬があまり問題にならない領域において、非ブロック化操作をスキップすることによって、電力消費を節約し得る。一例では、逆変換の場合、例えば、ほとんどの非ゼロ係数は、低周波数領域に対応する左上隅に分布させ得るので、復号器は、非ゼロ係数分布に従って、より小さい変換サイズを適用し得る。
説明的な実施形態についての詳細な説明が、様々な図を参照しながら行われる。この説明は、可能な実施についての詳細な例を提供するが、細部は例示的であることが意図されており、本出願の範囲を限定することは決して意図されていないことに留意されたい。
図1Aは、1または複数の開示される実施形態が実施され得る例示的な通信システム100の図である。通信システム100は、音声、データ、ビデオ、メッセージング、放送などのコンテンツを複数の無線ユーザに提供する、多元接続システムとし得る。通信システム100は、複数の無線ユーザが、無線帯域幅を含むシステムリソースの共用を通して、そのようなコンテンツにアクセスすることを可能にし得る。例えば、通信システム100は、符号分割多元接続(CDMA)、時分割多元接続(TDMA)、周波数分割多元接続(FDMA)、直交FDMA(OFDMA)、およびシングルキャリアFDMA(SC−FDMA)など、1または複数のチャネルアクセス方法を利用し得る。
図1Aに示されるように、通信システム100は、(一般にまたは一括してWTRU102と呼ばれることがある)無線送受信ユニット(WTRU)102a、102b、102c、および/または102d、無線アクセスネットワーク(RAN)103/104/105、コアネットワーク106/107/109、公衆交換電話網(PSTN)108、インターネット110、ならびに他のネットワーク112を含み得るが、開示される実施形態は、任意の数のWTRU、基地局、ネットワーク、および/またはネットワーク要素を企図していることが理解されよう。WTRU102a、102b、102c、102dの各々は、無線環境において動作および/または通信するように構成された任意のタイプのデバイスとし得る。例を挙げると、WTRU102a、102b、102c、102dは、無線信号を送信および/または受信するように構成され得、ユーザ機器(UE)、モバイル局、固定もしくはモバイル加入者ユニット、ページャ、セルラ電話、携帯情報端末(PDA)、スマートフォン、ラップトップ、ネットブック、パーソナルコンピュータ、無線センサ、家電製品などを含み得る。
通信システム100は、基地局114aおよび基地局114bも含み得る。基地局114a、114bの各々は、コアネットワーク106/107/109、インターネット110、および/またはネットワーク112などの1または複数の通信ネットワークへのアクセスを円滑化するために、WTRU102a、102b、102c、102dの少なくとも1つと無線でインターフェースを取るように構成された、任意のタイプのデバイスとし得る。例を挙げると、基地局114a、114bは、基地トランシーバ局(BTS)、ノードB、eノードB、ホームノードB、ホームeノードB、サイトコントローラ、アクセスポイント(AP)、および無線ルータなどとし得る。基地局114a、114bは各々、単一の要素として示されているが、基地局114a、114bは、任意の数の相互接続された基地局および/またはネットワーク要素を含み得ることが理解されよう。
基地局114aは、RAN103/104/105の部分とし得、RAN103/104/105は、他の基地局、および/または基地局コントローラ(BSC)、無線ネットワークコントローラ(RNC)、中継ノードなどのネットワーク要素(図示されず)も含み得る。基地局114aおよび/または基地局114bは、セル(図示されず)と呼ばれることがある特定の地理的領域内で、無線信号を送信および/または受信するように構成され得る。セルは、さらにセルセクタに分割され得る。例えば、基地局114aに関連付けられたセルは、3つのセクタに分割され得る。したがって、一実施形態では、基地局114aは、送受信機を3つ、すなわち、セルのセクタ毎に1つずつ含み得る。別の実施形態では、基地局114aは、多入力多出力(MIMO)技術を利用し得、したがって、セルのセクタ毎に複数の送受信機を利用し得る。
基地局114a、114bは、エアインターフェース115/116/117上で、WTRU102a、102b、102c、102dの1または複数と通信し得、エアインターフェース115/116/117は、任意の適切な無線通信リンク(例えば、無線周波(RF)、マイクロ波、赤外線(IR)、紫外線(UV)、可視光など)とし得る。エアインターフェース115/116/117は、任意の適切な無線アクセス技術(RAT)を使用して確立され得る。
より具体的には、上で言及されたように、通信システム100は、多元接続システムとし得、CDMA、TDMA、FDMA、OFDMA、およびSC−FDMAなどの、1または複数のチャネルアクセス方式を利用し得る。例えば、RAN103/104/105内の基地局114a、およびWTRU102a、102b、102cは、広帯域CDMA(WCDMA(登録商標))を使用してエアインターフェース115/116/117を確立し得る、ユニバーサルモバイル通信システム(UMTS)地上無線アクセス(UTRA)などの無線技術を実施し得る。WCDMAは、高速パケットアクセス(HSPA)および/または進化型HSPA(HSPA+)などの通信プロトコルを含み得る。HSPAは、高速ダウンリンクパケットアクセス(HSDPA)および/または高速アップリンクパケットアクセス(HSUPA)を含み得る。
別の実施形態では、基地局114a、およびWTRU102a、102b、102cは、ロングタームエボリューション(LTE)および/またはLTEアドバンスト(LTE−A)を使用してエアインターフェース115/116/117を確立し得る、進化型UMTS地上無線アクセス(E−UTRA)などの無線技術を実施し得る。
他の実施形態では、基地局114a、およびWTRU102a、102b、102cは、IEEE802.16(すなわち、マイクロ波アクセス用の世界的相互運用性(WiMAX))、CDMA2000、CDMA2000 1X、CDMA2000 EV−DO、暫定標準2000(IS−2000)、暫定標準95(IS−95)、暫定標準856(IS−856)、モバイル通信用グローバルシステム(GSM(登録商標))、GSMエボリューション用の高速データレート(EDGE)、およびGSM EDGE(GERAN)などの無線技術を実施し得る。
図1Aの基地局114bは、例えば、無線ルータ、ホームノードB、ホームeノードB、またはアクセスポイントとし得、職場、家庭、乗物、およびキャンパスなどの局所的エリアにおける無線接続性を円滑化するために、任意の適切なRATを利用し得る。一実施形態では、基地局114b、およびWTRU102c、102dは、IEEE802.11などの無線技術を実施して、無線ローカルエリアネットワーク(WLAN)を確立し得る。別の実施形態では、基地局114b、およびWTRU102c、102dは、IEEE802.15などの無線技術を実施して、無線パーソナルエリアネットワーク(WPAN)を確立し得る。また別の実施形態では、基地局114b、およびWTRU102c、102dは、セルラベースのRAT(例えば、WCDMA、CDMA2000、GSM、LTE、LTE−Aなど)を利用して、ピコセルまたはフェムトセルを確立し得る。図1Aに示されるように、基地局114bは、インターネット110への直接的な接続を有することがある。したがって、基地局114bは、コアネットワーク106/107/109を介して、インターネット110にアクセスする必要がないことがある。
RAN103/104/105は、コアネットワーク106/107/109と通信し得、コアネットワーク106/107/109は、音声、データ、アプリケーション、および/またはボイスオーバインターネットプロトコル(VoIP)サービスをWTRU102a、102b、102c、102dの1または複数に提供するように構成された、任意のタイプのネットワークとし得る。例えば、コアネットワーク106/107/109は、呼制御、請求サービス、モバイルロケーションベースのサービス、プリペイド通話、インターネット接続性、ビデオ配信などを提供し得、および/またはユーザ認証など、高レベルのセキュリティ機能を実行し得る。図1Aには示されていないが、RAN103/104/105および/またはコアネットワーク106/107/109は、RAN103/104/105と同じRATまたは異なるRATを利用する他のRANと直接的または間接的に通信し得ることが理解されよう。例えば、E−UTRA無線技術を利用し得るRAN103/104/105に接続するのに加えて、コアネットワーク106/107/109は、GSM無線技術を利用する別のRAN(図示されず)とも通信し得る。
コアネットワーク106/107/109は、PSTN108、インターネット110、および/または他のネットワーク112にアクセスするための、WTRU102a、102b、102c、102dのためのゲートウェイとしての役割も果たし得る。PSTN108は、基本電話サービス(POTS)を提供する回線交換電話網を含み得る。インターネット110は、TCP/IPインターネットプロトコルスイート内の伝送制御プロトコル(TCP)、ユーザデータグラムプロトコル(UDP)、およびインターネットプロトコル(IP)など、共通の通信プロトコルを使用する、相互接続されたコンピュータネットワークとデバイスとからなるグローバルシステムを含み得る。ネットワーク112は、他のサービスプロバイダによって所有および/または運営される有線または無線通信ネットワークを含み得る。例えば、ネットワーク112は、RAN103/104/105と同じRATまたは異なるRATを利用し得る1または複数のRANに接続された、別のコアネットワークを含み得る。
通信システム100内のWTRU102a、102b、102c、102dのいくつかまたはすべては、マルチモード能力を含み得、すなわち、WTRU102a、102b、102c、102dは、異なる無線リンク上で異なる無線ネットワークと通信するための複数の送受信機を含み得る。例えば、図1Aに示されたWTRU102cは、セルラベースの無線技術を利用し得る基地局114aと通信するように、またIEEE802無線技術を利用し得る基地局114bと通信するように構成され得る。
図1Bは、例示的なWTRU102のシステム図である。図1Bに示されるように、WTRU102は、プロセッサ118と、送受信機120と、送信/受信要素122と、スピーカ/マイクロフォン124と、キーパッド126と、ディスプレイ/タッチパッド128と、着脱不能メモリ130と、着脱可能メモリ132と、電源134と、全地球測位システム(GPS)チップセット136と、他の周辺機器138とを含み得る。WTRU102は、一実施形態との整合性を保ちながら、上記の要素の任意のサブコンビネーションを含み得ることが理解されよう。また、実施形態は、基地局114a、114b、ならびに/またはとりわけ、送受信機局(BTS)、ノードB、サイトコントローラ、アクセスポイント(AP)、ホームノードB、進化型ノードB(eNodeB)、ホーム進化型ノードB(HeNB)、ホーム進化型ノードBゲートウェイ、およびプロキシノードなどの、しかし、それらに限定されない、基地局114a、114bが表し得るノードが、図1Bに示され、本明細書で説明される要素のいくつかまたはすべてを含み得ることを企図している。
プロセッサ118は、汎用プロセッサ、専用プロセッサ、従来型プロセッサ、デジタル信号プロセッサ(DSP)、複数のマイクロプロセッサ、DSPコアと連携する1または複数のマイクロプロセッサ、コントローラ、マイクロコントローラ、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)回路、他の任意のタイプの集積回路(IC)、および状態機械などとし得る。プロセッサ118は、信号符号化、データ処理、電力制御、入出力処理、および/またはWTRU102が無線環境で動作することを可能にする他の任意の機能を実行し得る。プロセッサ118は、送受信機120に結合され得、送受信機120は、送信/受信要素122に結合され得る。図1Bは、プロセッサ118と送受信機120を別々のコンポーネントとして示しているが、プロセッサ118と送受信機120は、電子パッケージまたはチップ内に一緒に統合され得ることが理解されよう。
送信/受信要素122は、エアインターフェース115/116/117上で、基地局(例えば、基地局114a)に信号を送信し、または基地局から信号を受信するように構成され得る。例えば、一実施形態では、送信/受信要素122は、RF信号を送信および/または受信するように構成されたアンテナとし得る。別の実施形態では、送信/受信要素122は、例えば、IR、UV、または可視光信号を送信および/または受信するように構成された放射器/検出器とし得る。また別の実施形態では、送信/受信要素122は、RF信号と光信号の両方を送信および受信するように構成され得る。送信/受信要素122は、無線信号の任意の組み合わせを送信および/または受信するように構成され得ることが理解されよう。
加えて、図1Bでは、送信/受信要素122は単一の要素として示されているが、WTRU102は、任意の数の送信/受信要素122を含み得る。より具体的には、WTRU102は、MIMO技術を利用し得る。したがって、一実施形態では、WTRU102は、エアインターフェース115/116/117上で無線信号を送信および受信するための2つ以上の送信/受信要素122(例えば、複数のアンテナ)を含み得る。
送受信機120は、送信/受信要素122によって送信される信号を変調し、送信/受信要素122によって受信された信号を復調するように構成され得る。上で言及されたように、WTRU102は、マルチモード能力を有し得る。したがって、送受信機120は、WTRU102が、例えば、UTRAおよびIEEE802.11などの複数のRATを介して通信することを可能にするための、複数の送受信機を含み得る。
WTRU102のプロセッサ118は、スピーカ/マイクロフォン124、キーパッド126、および/またはディスプレイ/タッチパッド128(例えば、液晶表示(LCD)ディスプレイユニットもしくは有機発光ダイオード(OLED)ディスプレイユニット)に結合され得、それらからユーザ入力データを受け取り得る。プロセッサ118は、スピーカ/マイクロフォン124、キーパッド126、および/またはディスプレイ/タッチパッド128にユーザデータを出力もし得る。加えて、プロセッサ118は、着脱不能メモリ130および/または着脱可能メモリ132など、任意のタイプの適切なメモリからの情報にアクセスし得、それらにデータを記憶し得る。着脱不能メモリ130は、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、ハードディスク、または他の任意のタイプのメモリ記憶デバイスを含み得る。着脱可能メモリ132は、加入者識別モジュール(SIM)カード、メモリスティック、およびセキュアデジタル(SD)メモリカードなどを含み得る。他の実施形態では、プロセッサ118は、WTRU102上に物理的に配置されたメモリではなく、サーバまたはホームコンピュータ(図示されず)などの上に配置されたメモリからの情報にアクセスし得、それらにデータを記憶し得る。
プロセッサ118は、電源134から電力を受け取り得、WTRU102内の他のコンポーネントへの電力の分配および/または制御を行うように構成され得る。電源134は、WTRU102に給電するための任意の適切なデバイスとし得る。例えば、電源134は、1または複数の乾電池(例えば、ニッケル−カドミウム(NiCd)、ニッケル−亜鉛(NiZn)、ニッケル水素(NiMH)、リチウムイオン(Li−ion)など)、太陽電池、および燃料電池などを含み得る。
プロセッサ118は、GPSチップセット136にも結合され得、GPSチップセット136は、WTRU102の現在位置に関する位置情報(例えば、経度および緯度)を提供するように構成され得る。GPSチップセット136からの情報に加えて、またはその代わりに、WTRU102は、基地局(例えば、基地局114a、114b)からエアインターフェース115/116/117上で位置情報を受け取り得、および/または2つ以上の近くの基地局から受信した信号のタイミングに基づいて、自らの位置を決定し得る。WTRU102は、一実施形態との整合性を保ちながら、任意の適切な位置決定方法を用いて、位置情報を獲得し得ることが理解されよう。
プロセッサ118は、他の周辺機器138にさらに結合され得、他の周辺機器138は、追加の特徴、機能、および/または有線もしくは無線接続性を提供する、1または複数のソフトウェアモジュールおよび/またはハードウェアモジュールを含み得る。例えば、周辺機器138は、加速度計、eコンパス、衛星送受信機、(写真またはビデオ用の)デジタルカメラ、ユニバーサルシリアルバス(USB)ポート、バイブレーションデバイス、テレビ送受信機、ハンズフリーヘッドセット、Bluetooth(登録商標)モジュール、周波数変調(FM)ラジオユニット、デジタル音楽プレーヤ、メディアプレーヤ、ビデオゲームプレーヤモジュール、およびインターネットブラウザなどを含み得る。
図1Cは、一実施形態による、RAN103およびコアネットワーク106のシステム図である。上で言及されたように、RAN103は、UTRA無線技術を利用して、エアインターフェース115上でWTRU102a、102b、102cと通信し得る。RAN103は、コアネットワーク106とも通信し得る。図1Cに示されるように、RAN103は、ノードB140a、140b、140cを含み得、ノードB140a、140b、140cは各々、エアインターフェース115上でWTRU102a、102b、102cと通信するための1または複数の送受信機を含み得る。ノードB140a、140b、140cは各々、RAN103内の特定のセル(図示されず)に関連付けられ得る。RAN103は、RNC142a、142bも含み得る。RAN103は、一実施形態との整合性を保ちながら、任意の数のノードBおよびRNCを含み得ることが理解されよう。
図1Cに示されるように、ノードB140a、140bは、RNC142aと通信し得る。加えて、ノードB140cは、RNC142bと通信し得る。ノードB140a、140b、140cは、Iubインターフェースを介して、それぞれのRNC142a、142bと通信し得る。RNC142a、142bは、Iurインターフェースを介して、互いに通信し得る。RNC142a、142bの各々は、それが接続されたそれぞれのノードB140a、140b、140cを制御するように構成され得る。加えて、RNC142a、142bの各々は、アウタループ電力制御、負荷制御、アドミッション制御、パケットスケジューリング、ハンドオーバ制御、マクロダイバーシティ、セキュリティ機能、およびデータ暗号化など、他の機能を実施またはサポートするように構成され得る。
図1Cに示されるコアネットワーク106は、メディアゲートウェイ(MGW)144、モバイル交換センタ(MSC)146、サービングGPRSサポートノード(SGSN)148、および/またはゲートウェイGPRSサポートノード(GGSN)150を含み得る。上記の要素の各々は、コアネットワーク106の部分として示されているが、これらの要素は、どの1つをとっても、コアネットワークオペレータとは異なる主体によって所有および/または運営され得ることが理解されよう。
RAN103内のRNC142aは、IuCSインターフェースを介して、コアネットワーク106内のMSC146に接続され得る。MSC146は、MGW144に接続され得る。MSC146とMGW144は、PSTN108などの回線交換ネットワークへのアクセスをWTRU102a、102b、102cに提供して、WTRU102a、102b、102cと従来の固定電話通信デバイスの間の通信を円滑化し得る。
RAN103内のRNC142aは、IuPSインターフェースを介して、コアネットワーク106内のSGSN148にも接続され得る。SGSN148は、GGSN150に接続され得る。SGSN148とGGSN150は、インターネット110などのパケット交換ネットワークへのアクセスをWTRU102a、102b、102cに提供して、WTRU102a、102b、102cとIP対応デバイスの間の通信を円滑化し得る。
上で言及されたように、コアネットワーク106は、ネットワーク112にも接続され得、ネットワーク112は、他のサービスプロバイダによって所有および/または運営される他の有線または無線ネットワークを含み得る。
図1Dは、一実施形態による、RAN104およびコアネットワーク107のシステム図である。上で言及されたように、RAN104は、エアインターフェース116上でWTRU102a、102b、102cと通信するために、E−UTRA無線技術を利用し得る。RAN104は、コアネットワーク107とも通信し得る。
RAN104は、eノードB160a、160b、160cを含み得るが、RAN104は、一実施形態との整合性を保ちながら、任意の数のeノードBを含み得ることが理解されよう。eノードB160a、160b、160cは、各々が、エアインターフェース116上でWTRU102a、102b、102cと通信するための1または複数の送受信機を含み得る。一実施形態では、eノードB160a、160b、160cは、MIMO技術を実施し得る。したがって、eノードB160aは、例えば、複数のアンテナを使用して、WTRU102aに無線信号を送信し、WTRU102aから無線信号を受信し得る。
eノードB160a、160b、160cの各々は、特定のセル(図示されず)に関連付けられ得、無線リソース管理決定、ハンドオーバ決定、ならびにアップリンクおよび/またはダウンリンクにおけるユーザのスケジューリングなどを処理するように構成され得る。図1Dに示されるように、eノードB160a、160b、160cは、X2インターフェース上で互いに通信し得る。
図1Dに示されるコアネットワーク107は、モビリティ管理ゲートウェイ(MME)162、サービングゲートウェイ164、およびパケットデータネットワーク(PDN)ゲートウェイ166を含み得る。上記の要素の各々は、コアネットワーク107の部分として示されているが、これらの要素は、どの1つをとっても、コアネットワークオペレータとは異なる主体によって所有および/または運営され得ることが理解されよう。
MME162は、S1インターフェースを介して、RAN104内のeノードB160a、160b、160cの各々に接続され得、制御ノードとしての役割を果たし得る。例えば、MME162は、WTRU102a、102b、102cのユーザの認証、ベアラアクティブ化/非アクティブ化、WTRU102a、102b、102cの初期接続中における特定のサービングゲートウェイの選択などを担い得る。MME162は、RAN104とGSMまたはWCDMAなどの他の無線技術を利用する他のRAN(図示されず)との間の交換のための制御プレーン機能も提供し得る。
サービングゲートウェイ164は、S1インターフェースを介して、RAN104内のeノードB160a、160b、160cの各々に接続され得る。サービングゲートウェイ164は、一般に、ユーザデータパケットのWTRU102a、102b、102cへの/からの経路選択および転送を行い得る。サービングゲートウェイ164は、eノードB間ハンドオーバ中におけるユーザプレーンのアンカリング、ダウンリンクデータがWTRU102a、102b、102cに利用可能な場合に行う一斉呼出のトリガ、ならびにWTRU102a、102b、102cのコンテキストの管理および記憶など、他の機能も実行し得る。
サービングゲートウェイ164は、PDNゲートウェイ166にも接続され得、PDNゲートウェイ166は、インターネット110などのパケット交換ネットワークへのアクセスをWTRU102a、102b、102cに提供して、WTRU102a、102b、102cとIP対応デバイスの間の通信を円滑化し得る。
コアネットワーク107は、他のネットワークとの通信を円滑化し得る。例えば、コアネットワーク107は、PSTN108などの回線交換ネットワークへのアクセスをWTRU102a、102b、102cに提供して、WTRU102a、102b、102cと従来の固定電話通信デバイスの間の通信を円滑化し得る。例えば、コアネットワーク107は、コアネットワーク107とPSTN108の間のインターフェースとしての役割を果たすIPゲートウェイ(例えば、IPマルチメディアサブシステム(IMS)サーバ)を含み得、またはIPゲートウェイと通信し得る。加えて、コアネットワーク107は、ネットワーク112へのアクセスをWTRU102a、102b、102cに提供し得、ネットワーク112は、他のサービスプロバイダによって所有および/または運営される他の有線または無線ネットワークを含み得る。
図1Eは、一実施形態による、RAN105およびコアネットワーク109のシステム図である。RAN105は、IEEE802.16無線技術を利用して、エアインターフェース117上でWTRU102a、102b、102cと通信する、アクセスサービスネットワーク(ASN)とし得る。以下でさらに説明されるように、WTRU102a、102b、102c、RAN105、およびコアネットワーク109の異なる機能エンティティ間の通信リンクは、参照点として定義され得る。
図1Eに示されるように、RAN105は、基地局180a、180b、180cと、ASNゲートウェイ182とを含み得るが、RAN105は、一実施形態との整合性を保ちながら、任意の数の基地局とASNゲートウェイとを含み得ることが理解されよう。基地局180a、180b、180cは、各々が、RAN105内の特定のセル(図示されず)に関連付けられ得、各々が、エアインターフェース117上でWTRU102a、102b、102cと通信するための1または複数の送受信機を含み得る。一実施形態では、基地局180a、180b、180cは、MIMO技術を実施し得る。したがって、基地局180aは、例えば、複数のアンテナを使用して、WTRU102aに無線信号を送信し、WTRU102aから無線信号を受信し得る。基地局180a、180b、180cは、ハンドオフトリガリング、トンネル確立、無線リソース管理、トラフィック分類、およびサービス品質(QoS)ポリシ実施などの、モビリティ管理機能も提供し得る。ASNゲートウェイ182は、トラフィック集約ポイントとしてサービスし得、ページング、加入者プロファイルのキャッシング、およびコアネットワーク109へのルーティングなどとしての役割を果たし得る。
WTRU102a、102b、102cとRAN105の間のエアインターフェース117は、IEEE802.16仕様を実施する、R1参照点として定義され得る。加えて、WTRU102a、102b、102cの各々は、コアネットワーク109との論理インターフェース(図示されず)を確立し得る。WTRU102a、102b、102cとコアネットワーク109の間の論理インターフェースは、R2参照点として定義され得、R2参照点は、認証、認可、IPホスト構成管理、および/またはモビリティ管理のために使用され得る。
基地局180a、180b、180cの各々の間の通信リンクは、WTRUハンドオーバおよび基地局間でのデータの転送を円滑化するためのプロトコルを含む、R8参照点として定義され得る。基地局180a、180b、180cとASNゲートウェイ182の間の通信リンクは、R6参照点として定義され得る。R6参照点は、WTRU102a、102b、102cの各々に関連するモビリティイベントに基づいたモビリティ管理を円滑化するためのプロトコルを含み得る。
図1Eに示されるように、RAN105は、コアネットワーク109に接続され得る。RAN105とコアネットワーク109の間の通信リンクは、例えばデータ転送およびモビリティ管理能力を円滑化するためのプロトコルを含む、R3参照点として定義され得る。コアネットワーク109は、モバイルIPホームエージェント(MIP−HA)184と、認証認可課金(AAA)サーバ186と、ゲートウェイ188とを含み得る。上記の要素の各々は、コアネットワーク109の部分として示されているが、これらの要素は、どの1つをとっても、コアネットワークオペレータとは異なる主体によって所有および/または運営され得ることが理解されよう。
MIP−HAは、IPアドレス管理を担い得、WTRU102a、102b、102cが、異なるASNの間で、および/または異なるコアネットワークの間でローミングを行うことを可能にし得る。MIP−HA184は、インターネット110などのパケット交換ネットワークへのアクセスをWTRU102a、102b、102cに提供して、WTRU102a、102b、102cとIP対応デバイスの間の通信を円滑化し得る。AAAサーバ186は、ユーザ認証、およびユーザサービスのサポートを担い得る。ゲートウェイ188は、他のネットワークとの網間接続を円滑化し得る。例えば、ゲートウェイ188は、PSTN108などの回線交換ネットワークへのアクセスをWTRU102a、102b、102cに提供して、WTRU102a、102b、102cと従来の固定電話通信デバイスの間の通信を円滑化し得る。加えて、ゲートウェイ188は、ネットワーク112へのアクセスをWTRU102a、102b、102cに提供し、ネットワーク112は、他のサービスプロバイダによって所有および/または運営される他の有線または無線ネットワークを含み得る。
図1Eには示されていないが、RAN105は、他のASNに接続され得、コアネットワーク109は、他のコアネットワークに接続され得ることが理解されよう。RAN105と他のASNの間の通信リンクは、R4参照点として定義され得、R4参照点は、RAN105と他のASNの間で、WTRU102a、102b、102cのモビリティを調整するためのプロトコルを含み得る。コアネットワーク109と他のコアネットワークの間の通信リンクは、R5参照点として定義され得、R5参照点は、ホームコアネットワークと在圏コアネットワークの間の網間接続を円滑化するためのプロトコルを含み得る。
上では特徴および要素が特定の組み合わせで説明されたが、各特徴または要素は、単独で使用され得、または他の特徴および要素との任意の組み合わせで使用され得ることを当業者は理解されよう。加えて、本明細書で説明された方法は、コンピュータまたはプロセッサによって実行される、コンピュータ可読媒体内に包含された、コンピュータプログラム、ソフトウェア、またはファームウェアで実施され得る。コンピュータ可読媒体の例は、(有線または無線接続上で送信される)電子信号、およびコンピュータ可読記憶媒体を含む。コンピュータ可読記憶媒体の例は、リードオンリメモリ(ROM)、ランダムアクセスメモリ(RAM)、レジスタ、キャッシュメモリ、半導体メモリデバイス、内蔵ハードディスクおよび着脱可能ディスクなどの磁気媒体、光磁気媒体、ならびにCD−ROMディスクおよびデジタル多用途ディスク(DVD)などの光媒体を含むが、それらに限定されない。ソフトウェアと連携するプロセッサは、WTRU、UE、端末、基地局、RNC、または任意のホストコンピュータへの使用のための無線周波送受信機を実施するために使用され得る。

Claims (20)

  1. 無線送信/受信ユニット(WTRU)がビデオサーバからビデオストリームを要求する方法であって、
    前記ビデオストリームに対するメタデータを受信するステップであって、前記ビデオストリームは複数のビデオセグメントに分割され、前記メタデータは第1のビデオセグメントが要求され得る複数の複雑さレベルに対する相対的なビデオ復号電力消費情報を表示している、ステップと、
    前記WTRU内に残っているエネルギーの量を決定するステップと、
    前記WTRU内に残っているエネルギーの前記量および前記メタデータ内に表示されている前記相対的なビデオ復号電力消費情報に基づいて、前記第1のビデオセグメントに対する電力割り当て情報を決定するステップと、
    前記電力割り当て情報および前記メタデータ内に表示されている前記相対的なビデオ復号電力消費情報に基づいて、前記複数の複雑さレベルの第1の複雑さレベルにおいて前記第1のビデオセグメントを要求すると決定するステップと、
    前記第1の複雑さレベルにおいて前記第1のビデオセグメントを要求するステップと
    を含む、方法。
  2. 前記ビデオ復号電力消費情報は前記メタデータ内のビデオセグメントごとに提供される、請求項1に記載の方法。
  3. 前記電力割り当て情報は、前のビデオセグメントに関連する前記第1のビデオセグメントに対する電力低減比を含む、請求項1に記載の方法。
  4. 前のビデオセグメントは、前記複数の複雑さレベルの第2の複雑さレベルで前記WTRUによって受信され、前記電力割り当て情報は、前記第2の複雑さレベルで前記前のビデオセグメントを復号することまたは表示することのうちの少なくとも1つに関連付けられた電力消費に基づいて決定される、請求項1に記載の方法。
  5. 前記第1のビデオセグメントが要求され得る前記複数の複雑さレベルに対する前記相対的なビデオ復号電力消費情報は、前記複数の複雑さレベルのそれぞれにおいて前記第1のビデオセグメントを復号することに使用されるエネルギーの相対的な量を表示している、請求項1に記載の方法。
  6. 前記WTRU内に残っているエネルギーの前記量に基づいて、前記第1のビデオセグメントを復号することに利用可能な電力を推定するステップをさらに含み、前記複数の複雑さレベルの前記第1の複雑さレベルにおいて前記第1のビデオセグメントを要求すると決定するステップは、前記第1のビデオセグメントを復号することに利用可能な前記推定された電力にさらに基づく、請求項1に記載の方法。
  7. 前記第1の複雑さレベルにおいて前記第1のビデオセグメントを要求すると決定するステップは、前記第1のビデオセグメントを復号した結果、前記第1のビデオセグメントに割り当てられることになる概算のエネルギーの量を使用するように、前記第1の複雑さレベルを決定することを含む、請求項1に記載の方法。
  8. 前記第1の複雑さレベルにおいて前記第1のビデオセグメントを要求すると決定するステップは、前のビデオセグメントを復号する間に消費される電力、前記前のセグメントが要求された複雑さレベル、および前記第1のビデオセグメントを復号することに割り当てられた電力に基づいて、前記第1の複雑さレベルを選択することを含む、請求項1に記載の方法。
  9. 前記第1のビデオセグメントの領域が高周波数閾値を超える高周波数成分を含むかどうかを決定するステップと、
    前記高周波数成分が前記高周波数閾値を超えるという条件で、前記領域に対する動き補償中に第1の補間フィルタを適用するか、または前記高周波数成分が前記高周波数閾値を超えないという条件で、前記領域に対する動き補償のための第2の補間フィルタを適用するステップであって、前記第2の補間フィルタは前記第1の補間フィルタより低いカットオフ周波数に関連付けられている、ステップとをさらに含む、
    請求項1に記載の方法。
  10. 前のビデオセグメントを復号するために前記WTRUによって消費された電力の量を計算するステップをさらに含む、請求項1に記載の方法。
  11. 電力条件に基づいてビデオサーバからビデオストリームを要求する無線送信/受信ユニット(WTRU)であって、
    メモリと、
    前記ビデオストリームに対するメタデータを受信し、前記ビデオストリームは複数のビデオセグメントに分割され、前記メタデータは第1のビデオセグメントが要求され得る複数の複雑さレベルに対する相対的なビデオ復号電力消費情報を表示しており、
    前記WTRU内に残っているエネルギーの量を決定し、
    前記WTRU内に残っているエネルギーの前記量および前記メタデータ内に表示されている前記相対的なビデオ復号電力消費情報に基づいて、前記第1のビデオセグメントに対する電力割り当て情報を決定し、
    前記電力割り当て情報および前記メタデータ内に表示されている前記相対的なビデオ復号電力消費情報に基づいて、前記複数の複雑さレベルの第1の複雑さレベルにおいて前記第1のビデオセグメントを要求すると決定し、
    前記第1の複雑さレベルにおいて前記第1のビデオセグメントを要求する
    ように構成されたプロセッサと
    を備えた、WTRU。
  12. 前記ビデオ復号電力消費情報は前記メタデータ内のビデオセグメントごとに提供される、請求項11に記載のWTRU。
  13. 前記電力割り当て情報は、前のビデオセグメントに関連する前記第1のビデオセグメントに対する電力低減比を含む、請求項11に記載のWTRU。
  14. 前のビデオセグメントは、前記複数の複雑さレベルの第2の複雑さレベルで前記WTRUによって受信され、前記電力割り当て情報は、前記第2の複雑さレベルで前記前のビデオセグメントを復号することまたは表示することのうちの少なくとも1つに関連付けられた電力消費に基づいて決定される、請求項11に記載のWTRU。
  15. 前記第1のビデオセグメントが要求され得る前記複数の複雑さレベルに対する前記相対的なビデオ復号電力消費情報は、前記複数の複雑さレベルのそれぞれにおいて前記第1のビデオセグメントを復号することに使用されるエネルギーの相対的な量を表示している、請求項11に記載のWTRU。
  16. 前記プロセッサは、前記WTRU内に残っているエネルギーの前記量に基づいて、前記第1のビデオセグメントを復号することに利用可能な電力を推定するようにさらに構成され、前記複数の複雑さレベルの前記第1の複雑さレベルにおいて前記第1のビデオセグメントを要求すると決定するように構成されることは、前記第1のビデオセグメントを復号することに利用可能な前記推定された電力にさらに基づく、請求項11に記載のWTRU。
  17. 前記第1の複雑さレベルにおいて前記第1のビデオセグメントを要求すると決定するように構成されることは、前記第1のビデオセグメントを復号した結果、前記第1のビデオセグメントに割り当てられることになる概算のエネルギーの量を使用するように、前記第1の複雑さレベルを決定するように構成されることを含む、請求項11に記載のWTRU。
  18. 前記第1の複雑さレベルにおいて前記第1のビデオセグメントを要求すると決定するように構成されることは、前のビデオセグメントを復号する間に消費される電力、前記前のセグメントが要求された複雑さレベル、および前記第1のビデオセグメントを復号することに割り当てられた電力に基づいて、前記第1の複雑さレベルを選択するように構成されることを含む、請求項11に記載のWTRU。
  19. 前記プロセッサは、
    前記第1のビデオセグメントの領域が高周波数閾値を超える高周波数成分を含むかどうかを決定し、
    前記高周波数成分が前記高周波数閾値を超えるという条件で、前記領域に対する動き補償中に第1の補間フィルタを適用するか、または
    前記高周波数成分が前記高周波数閾値を超えないという条件で、前記領域に対する動き補償のための第2の補間フィルタを適用し、前記第2の補間フィルタは前記第1の補間フィルタより低いカットオフ周波数に関連付けられているようにさらに構成された、
    請求項11に記載のWTRU。
  20. 前記プロセッサは、前のビデオセグメントを復号するために前記WTRUによって消費された電力の量を計算するようにさらに構成された、請求項11に記載のWTRU。
JP2019195107A 2012-07-09 2019-10-28 電力認識型ビデオ復号およびストリーミング Active JP6803443B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201261669581P 2012-07-09 2012-07-09
US61/669,581 2012-07-09

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017139415A Division JP6609598B2 (ja) 2012-07-09 2017-07-18 電力認識型ビデオ復号およびストリーミング

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020198444A Division JP7212025B2 (ja) 2012-07-09 2020-11-30 電力認識型ビデオ復号およびストリーミング

Publications (2)

Publication Number Publication Date
JP2020036344A JP2020036344A (ja) 2020-03-05
JP6803443B2 true JP6803443B2 (ja) 2020-12-23

Family

ID=48833073

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2015521739A Active JP6180524B2 (ja) 2012-07-09 2013-07-09 電力認識型ビデオ復号およびストリーミング
JP2017139415A Active JP6609598B2 (ja) 2012-07-09 2017-07-18 電力認識型ビデオ復号およびストリーミング
JP2019195107A Active JP6803443B2 (ja) 2012-07-09 2019-10-28 電力認識型ビデオ復号およびストリーミング
JP2020198444A Active JP7212025B2 (ja) 2012-07-09 2020-11-30 電力認識型ビデオ復号およびストリーミング

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2015521739A Active JP6180524B2 (ja) 2012-07-09 2013-07-09 電力認識型ビデオ復号およびストリーミング
JP2017139415A Active JP6609598B2 (ja) 2012-07-09 2017-07-18 電力認識型ビデオ復号およびストリーミング

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2020198444A Active JP7212025B2 (ja) 2012-07-09 2020-11-30 電力認識型ビデオ復号およびストリーミング

Country Status (9)

Country Link
US (5) US10154258B2 (ja)
EP (2) EP4250745A3 (ja)
JP (4) JP6180524B2 (ja)
KR (2) KR101836035B1 (ja)
CN (2) CN104604241B (ja)
AU (2) AU2013288859B2 (ja)
MX (1) MX345571B (ja)
TW (2) TWI558183B (ja)
WO (1) WO2014011622A2 (ja)

Families Citing this family (75)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2786812C (en) 2010-01-18 2018-03-20 Telefonaktiebolaget L M Ericsson (Publ) Method and arrangement for supporting playout of content
WO2014011622A2 (en) * 2012-07-09 2014-01-16 Vid Scale, Inc. Power aware video decoding and streaming
WO2014043257A1 (en) * 2012-09-12 2014-03-20 Rigel Pharmaceuticals, Inc. Treatment for vitiligo
US8923880B2 (en) * 2012-09-28 2014-12-30 Intel Corporation Selective joinder of user equipment with wireless cell
EP3528450B1 (en) * 2012-10-18 2021-12-01 Vid Scale, Inc. Decoding complexity for mobile multimedia streaming
FR2999373B1 (fr) * 2012-12-12 2018-04-06 Harmonic Inc. Procede d'adaptation dynamique du codage d'un flux audio et/ou video transmis a un dispositif
US9037682B2 (en) * 2012-12-13 2015-05-19 Google Technology Holdings LLC System and methods for preventing interruptions due to battery drain during streaming media sessions between devices
US9185742B2 (en) 2012-12-13 2015-11-10 Google Technology Holdings LLC System and methods for a cloud based wireless personal area network service enabling context activity handoffs between devices
US9098177B2 (en) 2012-12-13 2015-08-04 Google Technology Holdings LLC Apparatus and methods for facilitating context handoff between devices in a cloud based wireless personal area network
KR101991214B1 (ko) 2013-03-06 2019-06-19 인터디지탈 패튼 홀딩스, 인크 비디오 스트리밍을 위한 전력 인식 적응
US10063921B2 (en) 2013-03-06 2018-08-28 Interdigital Patent Holdings, Inc. Power aware adaptation for video streaming
WO2014138331A2 (en) * 2013-03-06 2014-09-12 Interdigital Patent Holdings, Inc. Power aware adaptation for video streaming
CN109842613B (zh) 2013-07-12 2021-11-19 佳能株式会社 用于提供和接收媒体数据的方法和装置以及存储介质
GB2551674B (en) * 2013-07-12 2018-04-11 Canon Kk Adaptive data streaming method with push messages control
FR3008838B1 (fr) * 2013-07-19 2016-12-16 France Brevets Procede de diffusion adaptative de flux multimedia en utilisant un indice d'energie
CN105409226B (zh) * 2013-07-25 2018-05-04 华为技术有限公司 有效控制自适应流媒体中的客户端行为的***和方法
EP2838268B1 (en) * 2013-07-31 2019-02-20 Axis AB Method, device and system for producing a merged digital video sequence
US20150039680A1 (en) * 2013-08-02 2015-02-05 Avvasi Inc. Methods and systems for video quota management
US20150181208A1 (en) * 2013-12-20 2015-06-25 Qualcomm Incorporated Thermal and power management with video coding
US9483811B2 (en) 2014-01-06 2016-11-01 Microsoft Technology Licensing, Llc Division of processing between systems based on external factors
US20150193275A1 (en) * 2014-01-06 2015-07-09 Microsoft Corporation Building interactive, data driven apps
US9501808B2 (en) 2014-01-06 2016-11-22 Microsoft Technology Licensing, Llc Division of processing between systems based on business constraints
US9608876B2 (en) 2014-01-06 2017-03-28 Microsoft Technology Licensing, Llc Dynamically adjusting brand and platform interface elements
US10129773B2 (en) 2014-03-24 2018-11-13 Google Technology Holdings LLC Methods and apparatus for managing data use
US20150281303A1 (en) * 2014-03-26 2015-10-01 Mohamed Yousef Adaptive media streaming
US10079906B2 (en) * 2014-07-16 2018-09-18 Comcast Cable Communications, Llc Device mode settings to provide an enhanced user experience
US9363673B2 (en) 2014-08-04 2016-06-07 Google Technology Holdings LLC Subscriber identity module control in a portable communication device
CN107005694B (zh) * 2014-09-30 2020-05-19 瑞典爱立信有限公司 在独立处理单元中编码和解码视频帧的方法、装置和计算机可读介质
US10264269B2 (en) 2014-10-13 2019-04-16 Apple Inc. Metadata hints to support best effort decoding for green MPEG applications
FR3027480B1 (fr) * 2014-10-17 2020-10-23 Institut Nat Des Sciences Appliquees De Rennes Decodeur, procede et systeme de decodage de flux multimedia
US10880357B2 (en) * 2014-12-23 2020-12-29 Adobe Inc. Reducing requests for media segments in streaming of multimedia content
US9860294B2 (en) * 2014-12-24 2018-01-02 Intel Corporation Media content streaming
US9900604B2 (en) * 2015-03-11 2018-02-20 Kabushiki Kaisha Toshiba Semiconductor integrated circuit, image transmission apparatus and image transmission system
US10567816B2 (en) 2015-04-30 2020-02-18 Comcast Cable Communications, Llc Delivering content
DE112015006587T5 (de) * 2015-06-04 2018-05-24 Intel Corporation Adaptive Batch-Codierung für Slow-Motion-Videoaufzeichnung
EP3351003B1 (en) * 2015-09-15 2021-07-14 InterDigital Madison Patent Holdings, SAS Method and apparatus for providing power saving media content
CN108028954A (zh) * 2015-09-15 2018-05-11 汤姆逊许可公司 用于回放功率节省媒体内容的方法、***和装置
CN105208440B (zh) * 2015-09-22 2019-03-12 暴风集团股份有限公司 一种mp4格式视频在线播放的方法及***
CN105228001B (zh) * 2015-09-26 2018-11-06 暴风集团股份有限公司 一种flv格式视频在线播放的方法及***
WO2017054138A1 (zh) * 2015-09-29 2017-04-06 华为技术有限公司 一种根据资费标准自动选网的方法、装置、服务器及终端
TWI594607B (zh) 2015-11-27 2017-08-01 鴻海精密工業股份有限公司 動態控制多個視頻下載之系統及方法
WO2017100769A1 (en) * 2015-12-11 2017-06-15 Vid Scale, Inc. Scheduling multiple-layer video segments
US10846142B2 (en) 2016-02-23 2020-11-24 Intel Corporation Graphics processor workload acceleration using a command template for batch usage scenarios
JP6466870B2 (ja) * 2016-02-29 2019-02-06 Kddi株式会社 クライアント装置および方法
US10805643B2 (en) * 2016-03-30 2020-10-13 Advanced Micro Devices, Inc. Adaptive error-controlled dynamic voltage and frequency scaling for low power video codecs
WO2017194134A1 (en) * 2016-05-12 2017-11-16 Telefonaktiebolaget Lm Ericsson (Publ) Control of media transcoding during a media session
JP6752080B2 (ja) * 2016-08-10 2020-09-09 キヤノン株式会社 情報処理装置及びその制御方法、コンピュータプログラム
US10116957B2 (en) * 2016-09-15 2018-10-30 Google Inc. Dual filter type for motion compensated prediction in video coding
US10341659B2 (en) * 2016-10-05 2019-07-02 Qualcomm Incorporated Systems and methods of switching interpolation filters
US10819763B2 (en) 2017-03-31 2020-10-27 At&T Intellectual Property I, L.P. Apparatus and method of video streaming
US10484308B2 (en) 2017-03-31 2019-11-19 At&T Intellectual Property I, L.P. Apparatus and method of managing resources for video services
KR102307447B1 (ko) * 2017-05-02 2021-09-30 삼성전자주식회사 네트워크 환경 모니터링에 기반하는 http 적응적 스트리밍 서버, 방법, 및 클라이언트 단말
CN107256078B (zh) * 2017-05-05 2020-06-23 浙江大华技术股份有限公司 一种动态电压频率调整方法及装置
US11991235B2 (en) * 2017-09-27 2024-05-21 Comcast Cable Communications, Llc Adaptive energy system utilizing quality of service and quality of experience metrics
FR3073112B1 (fr) * 2017-11-02 2021-04-02 Ateme Procede et systeme de traitement d'un contenu multimedia dans un reseau de zone metropolitaine
CN108235096A (zh) * 2018-01-18 2018-06-29 湖南快乐阳光互动娱乐传媒有限公司 移动终端硬解码智能切换软解码播放视频的方法
US11240685B2 (en) * 2018-01-29 2022-02-01 Samsung Electronics Co., Ltd. Devices and methods of selecting signal processing algorithm based on parameters
US11727602B2 (en) * 2018-09-20 2023-08-15 Telefonaktiebolaget Lm Ericsson (Publ) Resolution of a picture
US10917636B2 (en) 2018-12-03 2021-02-09 Tencent America LLC Method and apparatus for video coding
US11044185B2 (en) 2018-12-14 2021-06-22 At&T Intellectual Property I, L.P. Latency prediction and guidance in wireless communication systems
US11381867B2 (en) 2019-01-08 2022-07-05 Qualcomm Incorporated Multiple decoder interface for streamed media data
CN111510790B (zh) * 2019-01-30 2021-10-15 上海哔哩哔哩科技有限公司 视频请求方法、***、计算机设备及计算机可读存储介质
WO2020164632A1 (en) 2019-02-15 2020-08-20 Beijing Bytedance Network Technology Co., Ltd. Non-power-two-partition tree in video compression
CN109862322B (zh) * 2019-02-19 2020-12-08 深圳市研诺达科技有限公司 一种基于uvc数据传输的4g影音采集设备
JP7403115B2 (ja) * 2019-07-10 2023-12-22 株式会社 インターコム 映像送信装置、アプリケーションプログラム及び映像送信方法
KR102195460B1 (ko) * 2019-08-14 2020-12-28 한국과학기술원 엣지 컴퓨팅을 이용하는 모바일 증강 현실 장비 및 그의 에너지 효율적인 해상도 및 송신 파워 제어 방법
GB2603873B (en) * 2019-10-02 2023-12-27 V Nova Int Ltd Use of embedded signalling for backward-compatible scaling improvements and super-resolution signalling
US11438670B2 (en) * 2020-11-20 2022-09-06 At&T Intellectual Property I, L.P. Video complexity detection for network traffic management
JP7494765B2 (ja) 2021-03-12 2024-06-04 トヨタ自動車株式会社 連系インバータおよび連系インバータの製造方法
US11726949B2 (en) 2021-05-28 2023-08-15 Samsung Electronics Co., Ltd. System and method for selectively reprocessing video streams based on system resources and stream status
EP4281926A1 (en) 2021-07-13 2023-11-29 Samsung Electronics Co., Ltd. A system and method for rendering differential video on graphical displays
WO2023076108A1 (en) * 2021-10-26 2023-05-04 Op Solutions, Llc Systems and methods for video coding
CN113766230B (zh) * 2021-11-04 2022-04-01 广州易方信息科技股份有限公司 媒体文件编码方法、装置、计算机设备和存储介质
US11503101B1 (en) 2021-12-15 2022-11-15 Motorola Solutions, Inc. Device and method for assigning video analytics tasks to computing devices
WO2023163635A1 (en) * 2022-02-25 2023-08-31 Telefonaktiebolaget Lm Ericsson (Publ) Computational complexity indicator

Family Cites Families (49)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1996027987A1 (en) * 1995-03-08 1996-09-12 Hitachi, Ltd. Portable terminal for multimedia communication
JP3161599B2 (ja) * 1998-07-10 2001-04-25 日本電気株式会社 移動電話システム
JP4724351B2 (ja) * 2002-07-15 2011-07-13 三菱電機株式会社 画像符号化装置、画像符号化方法、画像復号装置、画像復号方法、および通信装置
US8621542B2 (en) * 2003-08-11 2013-12-31 Warner Bros. Entertainment Inc. Digital media distribution device
US8625680B2 (en) * 2003-09-07 2014-01-07 Microsoft Corporation Bitstream-controlled post-processing filtering
KR100770842B1 (ko) * 2003-12-10 2007-10-26 삼성전자주식회사 이동통신 시스템에서 이동국의 역방향 채널 정보 전송장치 및 방법
GB0400658D0 (en) * 2004-01-13 2004-02-11 Koninkl Philips Electronics Nv Portable device for receiving media content
JP2006197186A (ja) 2005-01-13 2006-07-27 Sharp Corp 画像符号化装置及び電池駆動復号器
JP2007306538A (ja) 2006-04-12 2007-11-22 Matsushita Electric Ind Co Ltd 画像復号装置及び方法
US9209934B2 (en) * 2006-06-09 2015-12-08 Qualcomm Incorporated Enhanced block-request streaming using cooperative parallel HTTP and forward error correction
US7456760B2 (en) * 2006-09-11 2008-11-25 Apple Inc. Complexity-aware encoding
US9883202B2 (en) 2006-10-06 2018-01-30 Nxp Usa, Inc. Scaling video processing complexity based on power savings factor
US9445128B2 (en) * 2006-12-08 2016-09-13 Freescale Semiconductor, Inc. System and method of determining deblocking control flag of scalable video system for indicating presentation of deblocking parameters for multiple layers
US8315466B2 (en) * 2006-12-22 2012-11-20 Qualcomm Incorporated Decoder-side region of interest video processing
US20080216125A1 (en) * 2007-03-01 2008-09-04 Microsoft Corporation Mobile Device Collaboration
US20090017860A1 (en) * 2007-07-09 2009-01-15 Sony Ericsson Mobile Communications Ab Intelligent Power-Aware Downloading for Mobile Communication Devices
KR101459147B1 (ko) * 2008-02-04 2014-11-10 엘지전자 주식회사 무선통신 시스템에서 전송 파워 제어 명령 전송 방법
US8948822B2 (en) * 2008-04-23 2015-02-03 Qualcomm Incorporated Coordinating power management functions in a multi-media device
CN102017600B (zh) 2008-05-02 2014-05-14 汤姆森许可贸易公司 交错播送中省电的方法和设备
US8973057B2 (en) * 2008-06-05 2015-03-03 Telefonaktiebolaget L M Ericsson (Publ) Method and equipment for providing unicast preparation for IPTV
US8392312B2 (en) 2008-09-24 2013-03-05 Netapp, Inc. Adaptive scheduling of storage operations based on utilization of a multiple client and server resources in a distributed network storage system
US20100166060A1 (en) * 2008-12-31 2010-07-01 Texas Instruments Incorporated Video transcoder rate control
US8958485B2 (en) * 2010-06-04 2015-02-17 Broadcom Corporation Method and system for providing selected layered video service via a broadband gateway
CN102450014B (zh) 2009-03-31 2017-07-14 茨特里克斯***公司 用于质量感知视频优化的方法和视频优化器
EP2446625A1 (en) 2009-06-22 2012-05-02 Thomson Licensing Process for matching pursuit based coding of video data for a sequence of images
KR20120046727A (ko) 2009-08-06 2012-05-10 파나소닉 주식회사 부호화 방법, 복호 방법, 부호화 장치 및 복호 장치
US9015564B2 (en) * 2009-08-19 2015-04-21 Qualcomm Incorporated Content delivery system with allocation of source data and repair data among HTTP servers
JP5381571B2 (ja) 2009-09-29 2014-01-08 株式会社Jvcケンウッド 画像符号化装置、画像復号化装置、画像符号化方法、及び画像復号化方法
JP2011078182A (ja) 2009-09-29 2011-04-14 Panasonic Electric Works Co Ltd 電力監視システム
US9124642B2 (en) * 2009-10-16 2015-09-01 Qualcomm Incorporated Adaptively streaming multimedia
US8914835B2 (en) * 2009-10-28 2014-12-16 Qualcomm Incorporated Streaming encoded video data
CN102860008B (zh) 2010-01-06 2016-05-11 杜比实验室特许公司 用于多层视频***的复杂度自适应可伸缩解码及流处理
DK2526671T3 (en) * 2010-01-18 2017-02-27 ERICSSON TELEFON AB L M (publ) METHODS AND DEVICES FOR HTTP MEDIA FLOW DISTRIBUTION
CN102742270B (zh) 2010-02-05 2016-02-03 瑞典爱立信有限公司 用于子像素插值的改进的方法和设备
JP5742117B2 (ja) 2010-06-03 2015-07-01 日産自動車株式会社 車両用の情報提示装置
KR101428618B1 (ko) * 2010-07-08 2014-08-08 마니팔 유니버시티 모바일 네트워크에서의 멀티미디어 서비스의 전달
JP5592730B2 (ja) 2010-08-26 2014-09-17 パナソニック株式会社 電気料金可視化装置
US9043797B2 (en) * 2010-10-26 2015-05-26 Qualcomm Incorporated Using pause on an electronic device to manage resources
US9002826B2 (en) 2010-10-27 2015-04-07 Qualcomm Incorporated Media file caching for an electronic device to conserve resources
WO2012134530A1 (en) * 2011-04-01 2012-10-04 Intel Corporation Cross-layer optimized adaptive http streaming
BR112013030371A2 (pt) * 2011-05-27 2016-12-13 Huawei Tech Co Ltd método, aparelho e sistema de acesso de rede para processamento de sinal de fala
US9374406B2 (en) * 2012-02-27 2016-06-21 Qualcomm Incorporated Dash client and receiver with a download rate estimator
US9386058B2 (en) * 2012-02-27 2016-07-05 Qualcomm Incorporated DASH client and receiver with playback rate selection
US20140136653A1 (en) * 2012-02-27 2014-05-15 Qualcomm Incorporated Dash client and receiver with download rate acceleration
US9246842B2 (en) * 2012-04-27 2016-01-26 Intel Corporation QoE-aware radio access network architecture for http-based video streaming
US9241166B2 (en) * 2012-06-11 2016-01-19 Qualcomm Incorporated Technique for adapting device tasks based on the available device resources
WO2014011622A2 (en) * 2012-07-09 2014-01-16 Vid Scale, Inc. Power aware video decoding and streaming
US9432664B2 (en) * 2012-09-28 2016-08-30 Qualcomm Incorporated Signaling layer identifiers for operation points in video coding
US10063921B2 (en) * 2013-03-06 2018-08-28 Interdigital Patent Holdings, Inc. Power aware adaptation for video streaming

Also Published As

Publication number Publication date
AU2013288859B2 (en) 2016-05-19
JP7212025B2 (ja) 2023-01-24
JP6180524B2 (ja) 2017-08-16
AU2013288859A1 (en) 2015-01-29
TWI558183B (zh) 2016-11-11
US10154258B2 (en) 2018-12-11
WO2014011622A2 (en) 2014-01-16
CN104604241B (zh) 2018-06-01
US11039151B2 (en) 2021-06-15
KR101836035B1 (ko) 2018-03-07
CN108614633B (zh) 2022-11-01
CN104604241A (zh) 2015-05-06
MX345571B (es) 2017-02-03
MX2015000266A (es) 2015-08-14
AU2016216674B2 (en) 2018-08-30
JP2017212744A (ja) 2017-11-30
CN108614633A (zh) 2018-10-02
US20190158855A1 (en) 2019-05-23
EP4250745A3 (en) 2023-11-15
KR101692516B1 (ko) 2017-01-03
US20140010282A1 (en) 2014-01-09
JP6609598B2 (ja) 2019-11-20
KR20170005147A (ko) 2017-01-11
WO2014011622A3 (en) 2014-03-13
US20200099943A1 (en) 2020-03-26
AU2016216674A1 (en) 2016-09-08
KR20150029026A (ko) 2015-03-17
EP4250745A2 (en) 2023-09-27
US20230086192A1 (en) 2023-03-23
US10536707B2 (en) 2020-01-14
JP2020036344A (ja) 2020-03-05
EP2870770A2 (en) 2015-05-13
US11516485B2 (en) 2022-11-29
TW201414287A (zh) 2014-04-01
TW201717650A (zh) 2017-05-16
JP2021040343A (ja) 2021-03-11
US20210274199A1 (en) 2021-09-02
JP2015532024A (ja) 2015-11-05

Similar Documents

Publication Publication Date Title
JP6803443B2 (ja) 電力認識型ビデオ復号およびストリーミング
US11695991B2 (en) Power aware adaptation for video streaming
US10063921B2 (en) Power aware adaptation for video streaming
TW201444342A (zh) 功率感知視訊串流複雜性感知視訊編碼
HAIYANG The Effective Transmission and Processing of Mobile Multimedia

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200929

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20201029

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201130

R150 Certificate of patent or registration of utility model

Ref document number: 6803443

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250