JP5307086B2 - ディジタルビデオデータを処理するための繰り返し使用可能なフロントエンドを有するモジュラアーキテクチャ - Google Patents

ディジタルビデオデータを処理するための繰り返し使用可能なフロントエンドを有するモジュラアーキテクチャ Download PDF

Info

Publication number
JP5307086B2
JP5307086B2 JP2010172419A JP2010172419A JP5307086B2 JP 5307086 B2 JP5307086 B2 JP 5307086B2 JP 2010172419 A JP2010172419 A JP 2010172419A JP 2010172419 A JP2010172419 A JP 2010172419A JP 5307086 B2 JP5307086 B2 JP 5307086B2
Authority
JP
Japan
Prior art keywords
video
data
vfe
processing
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010172419A
Other languages
English (en)
Other versions
JP2011010331A (ja
Inventor
チェンチュン・チャン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2011010331A publication Critical patent/JP2011010331A/ja
Application granted granted Critical
Publication of JP5307086B2 publication Critical patent/JP5307086B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/426Internal components of the client ; Characteristics thereof
    • H04N21/42607Internal components of the client ; Characteristics thereof for processing the incoming bitstream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N11/00Colour television systems
    • H04N11/04Colour television systems using pulse code modulation
    • H04N11/042Codec means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41407Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance embedded in a portable device, e.g. video client on a mobile phone, PDA, laptop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本開示は、ディジタルビデオデータを処理するための技術に関する。
計算機処理能力および余力の最近の増加に伴い、フルモーションディジタルビデオデバイスがより広く利用可能になって来ている。とくに、ディジタルビデオ能力は、ディジタルテレビジョン、ディジタル直接放送システム(digital direct broadcast systems)、無線通信デバイス、可搬形ディジタルアシスタント(PDA:portable digital assistant)、ラップトップ計算機、およびデスクトップ計算機を含む広範囲のデバイスに組み込まれて来ている。これらのデバイスは従来のアナログビデオシステムに勝ってフルモーションビデオシーケンスを作成し、修正し、送信し、記憶し、そして再生するにあたって、意味を持った改善を与えることが可能である。
ディジタルビデオ能力を統合するために、これらのデバイスはしばしば種々のカムコーダ(camcorder)あるいはカメラ応用をサポートする。たとえば、これらのデバイスは典型的には、ディジタルビューファインダあるいは他のディスプレー、ビデオデータ取得(capture)のための画像センサ、および種々のビデオ圧縮標準あるいは処理の一つあるいはそれ以上に従って、ディジタルビデオデータを圧縮しそして圧縮解除(decompression)すると同様に、特化された画像処理操作を実行するための画像処理機能を含む。これらのディジタルビデオ能力を与えることはしばしば、特化されたハードウエア、ソフトウエア、あるいは両者の意味のある量を必要とする。
一般的に、本開示は、ディジタルビデオデータを符号化しあるいは復号する等の、ディジタルビデオデータの処理に対する技術を記述する。符号化器、復号器、あるいは符号化器/復号器(CODEC;コーデック)等のデバイスは、その中で機能がビデオフロントエンド(VFE)およびビデオバックエンド(VBE)間に分配(パーティション)される革新的なアーキテクチャを含む。VFEは、種々の応用をサポートするために機能および画像操作を集約し、そして、それによって外部の主デバイスがこれらの操作を容易に制御することが可能な柔軟性のある処理装置間インタフェース(inter-rocessor interface)を与える。
この分配(パーティショニング)はVBEを、カメラインタフェースハードウエアと直接にインタフェースし、色変換およびビューファインダを駆動するために必要な他の画像処理機能を実行する等の、種々の実行に固有の機能あるいは操作から隔離する。したがって、この中に記述される技術は、ディジタルビデオの能力を新しいデバイスの中に統合することを容易にする分散されたビデオシステムを与えることを可能とする。VFEは、ビデオデータ能力を新しい製品あるいはデバイスの中に容易に統合するために、任意の必要とされる画像センサ、ディスプレー、およびバックエンドソフトウエアあるいはファームウエア、あるいはそれらの組み合わせを有する異なった応用に容易に繰り返し使用されることが可能である。
一つの実施例においては、システムは命令を受信するためにプログラム可能なインタフェースを有するビデオフロントエンド(VFE)を含み、ここでVFEは命令に従ってビデオ出力データを生成するためにビデオ入力データを取得し、そしてそのビデオ入力データを前処理する。システムはさらにVFEのビデオ出力データからビデオデータに関する符号化されたシーケンスを発生するためのビデオバックエンド、およびビデオ入力データに関する望ましい前処理を制御するためにインタフェースを経由してVFEに命令を与えるための制御器を含む。
他の実施例においては、デバイスはデバイスによって与えられた動作環境の中で実行するビデオフロントエンド(VFE)を含み、そして外部デバイスから命令を受信するためのプログラム可能なインタフェースを含む。VFEは、ビデオバックエンドによる符号化のためのビデオ出力データおよび、表示デバイスによる表示のためのビデオ表示データを生成するために、命令に従ってビデオ入力データを取得しそして、ビデオ入力データを前処理する。
他の実施例においては、デバイスは、主デバイスからプログラム的に命令を受信するための手段、およびその命令に従ってビデオ出力データおよびビデオ表示データを生成するためにビデオ入力データを取得しそして前処理をするための手段を含む。デバイスはさらにビデオ出力データからビデオデータの符号化されたシーケンスを発生するための手段を含む。
他の実施例においては、方法は、主デバイスから処理装置間インタフェースを経由して命令をプログラム的に受信し、そして第1の画像フォーマット内にビデオ出力データを、そして第2の画像フォーマット内にビデオ表示データを生成するために、その命令に従って従属デバイスを経由してビデオ入力データを取得しそして前処理することを含む。方法はさらに、ビデオデータの符号化されたシーケンスを発生するためにビデオ出力データを符号化器に通信し、そして表示のためにビデオ表示データを出力デバイスに通信することを含む。
1個あるいはそれ以上の実施例に関する詳細は、添付されている図面および以下の記述の中に示される。他の特徴、目的および利点は記述および図面から、そして請求項から明白となろう。
図1は、ビデオフロントエンド(VFE)およびビデオバックエンド(VBE)間に分配されたビデオ符号化器/復号器(コーデック)と合体している例となるディジタルビデオデバイスを示すブロック線図である。 図2は、図1のVFEの例となる実施例をさらに詳細に示すブロック線図である。 図3は、例となるVFEの動作をさらに詳細に示す状態線図である。 図4は、ディジタルビデオデバイスの例となる動作を示すフローチャートである。
詳細な説明
図1は、ビデオフロントエンド(VFE)14およびビデオバックエンド(VBE)16の間に分配されているビデオ符号化器/復号器(コーデック)12と合体している、例となるディジタルビデオデバイス10を示すブロック線図である。デバイス10はビデオデータの符号化されたシーケンスを受信デバイス(図示せず)に対して送信するソースデバイスとして動作することが可能である。同様に、デバイス10は、ビデオデータを受信しそして復号することが可能な受信デバイスとして動作することが可能である。例となるデバイスは、計算機ネットワーク上に置かれたサーバ、ワークステーションあるいは他のデスクトップ計算デバイス、およびラップトップ計算機、パーソナルディジタルアシスタント(PDA)、無線通信デバイス等の移動計算デバイスを含む。他の例は、ディジタルテレビジョン放送衛星、ディジタルテレビジョン、ディジタルビデオカメラあるいは他の記録デバイス、ディジタルビデオ電話、無線ビデオデバイス等を含む。
例示の目的のために、ディジタルビデオデバイス10はセルラ電話等の無線デバイスとして示される。しかしながらこの中に記述された技術は無線デバイスに限定されず、そして他のディジタルビデオデバイスに容易に適用することが可能である。さらに、コーデックに関連して示されたが、この開示はそのように限定はされず、そして容易に符号化器および復号器に適用することが可能である。
制御器24は、VFE14を含むコーデック12のコンポーネント上に基本的な制御を与え、そしてディジタルビデオデバイス10の他のコンポーネントとの通信を調整する。制御器24は、コーデック12にディジタルビデオシーケンスを符号化しそして復号するために必要とされる計算的に強力な作業の多くを実行することを命令する。コーデック12は、ディジタル信号処理装置(DSP)の形態をとることが可能であり、そして指令およびデータを記憶するための専用化されたメモリ41を有することが可能である。代わりに、あるいはさらにコーデック12は、専用化されたハードウエア、ソフトウエア、ファームウエア、あるいはそれらの組み合わせを含むことが可能である。同様に、制御器24は、組み込まれたマイクロ処理装置、専用化されたハードウエア、ソフトウエア、たとえば制御ソフトウエアモジュールあるいはそれらの組み合わせの形態をとることが可能である。さらに、コーデック12および制御器24は、デバイス10の他のコンポーネントと同様に、1個あるいはそれ以上の特定用途向け集積回路(ASIC)の中に、複数の個別コンポーネント、あるいはそれらの組み合わせとして実現されることが可能である。
ディジタルビデオデバイス10はまた、ディスプレーあるいはビューファインダ17および画像センサ23等のいくつかの異なった周辺を含む。制御器24の指示の下に、コーデック12は画像センサ23からビデオ入力データ30(VID)を取得し、そしてそのビデオ入力データをVFE14に通信する。カメラインタフェース22は、画像センサ23のインタフェース詳細を要約する任務を有する。たとえば、VFE14からの制御および構成データ27に応じてカメラインタフェース22は、画像センサ23から受信されたデータ内の水平および垂直基準信号を同期させる。カメラインタフェース22はまた、ピクセルをマスキングすることによる等のビデオデータを処理するための限定された機能を含むことが可能である。
一般的に、コーデック12のVFE14は、種々のカメラあるいはカムコーダ応用をサポートするために、機能および前処理操作を集約し、そしてこれらの操作を制御するための柔軟性を有する処理装置間インタフェースを含む。VFE14の基本的な作業は、到来するビデオ入力データ30をリアルタイムで処理することである。VFE14は、ビデオ入力データ30を受信し、そして制御器24から受信した命令および構成パラメータ25に基づいてVBE16に対して受け入れ可能なフォーマットにビデオ出力データ(VOD)35を生成するためにデータを処理する。さらにVFE14は、ビデオ表示データ(VDD)37をVDDを表示するための任意の出力デバイスたとえば、カムコーダあるいは移動電話スクリーンのための液晶ディスプレー(LCD)を含むことが可能なビューファインダ17によって表示するのに対して適切な形態で生成するために、ビデオ入力データ30をフォーマットする。VFE14は、ビデオメモリ15の中にVBE16および制御器24それぞれによるアクセスのために、ビデオ出力データ35およびビデオ表示データ37を記憶する。VFE14は、懸案になっている(pending)命令の状態を表示するために処理装置間インタフェースを経由して状態情報26を与える。
VFE14は、ビデオ入力データ30上で、カラービデオフレームを黒白フォーマット(black-and-white format)に変換し、データのコントラストあるいは輝度特性を変更し、取得されたデータに対する照明条件(lighting condition)をディジタル的に高めあるいは変更し、ディジタルズーム操作、画像センサ処理および補償、たとえば白色バランス、自動利得調整、およびガンマ補正を実行し、そしてハロー(halo)、日没、スター濾波(star filter)、あるいは他の濾波効果をシミュレートするために取得されたビデオデータを変更する等の複雑な画像処理操作を実行することが可能である。さらに、VFE14は、取得されたビデオ入力データ30のフレーム率あるいは画像サイズを減少することが可能である。
以下にさらに詳細に記述されるように、VFE14は、制御器24がVFE14を容易に制御しそして再構成することを可能とする処理装置間アプリケーションプログラミングインタフェース(API:application-programming interface)を与える。APIは、VFE14が制御器24に従属して動作することを可能とする処理装置間インタフェースを与える。
VBE16は、ビデオデータを符号化し、あるいは復号する任意のソフトウエア応用、ハードウエアユニット等を含むことが可能である。より特定的には、VBE16は、ビデオシーケンスの符号化されたビットストリームを発生するためにビデオ出力データ35を利用することが可能である。符号化器として動作する場合にはVBE16はビデオ出力データ35を符号化し、そして符号化されたビットストリームをビデオメモリ15内にたとえば、送信機/受信機18およびアンテナ19を経由しての無線伝送に対してバッファすることが可能である。たとえば、VBE16は、ディジタルカメラに対するJPEG静止画像符号化器、ディジタルカムコーダに対するMPEGビデオ符号化器等を含むことが可能である。VBEはその結果専用の符号化器、復号器であることが可能であり、あるいは、動画像符号化専門家会合(MPEG)による、MPEG−1、MPEG−2、あるいはMPEG−4、Apple Computer of Cupertino CaliforniaによるQuickTimeTM、 Microsoft Corporation of Redmond、Washingtonによって開発されたVideo for Windows(登録商標)、Intel Corporationによって開発されたIndeo(登録商標)、Seattle WashingtonのRealNetworks、IncからのRealVideo(登録商標)、およびSuperMac Incにより開発されたCinepak(登録商標)、H.263、H.264、JPEG2000等の種々のデータ圧縮標準の一つあるいはそれ以上に従ってビデオ出力データ35を処理することが可能である。
代わりに、あるいはさらに、VBE16は復号器として動作することが可能である。より特定的には、VBE16は、受信機/送信機18からの符号化されたビデオシーケンスのビットストリームを受信し、そしてそのビットストリームをVFE14による処理および表示のために復号されたビデオシーケンスを生成するために処理することが可能である。VFE14およびVBE16は、ビデオ処理操作を起こすために制御信号28を交換することが可能である。たとえば、制御器24あるいはVFE14は、VBE16によって符号化操作を起こすことが可能である。復号器として動作する場合には、制御器24あるいはVBE16はVFE14によって操作を起こすことが可能である。VFE14およびVBE16は、単独型ハードウエア、あるいはたとえばDSPによる実行のためのソフトウエアモジュール等のソフトウエアモジュールあるいはそれらの組み合わせとして与えられることが可能である。
メモリ21、41は、それぞれ制御器24およびコーデック12による使用のための指令およびデータを記憶する。分離したメモリとして示されたが、メモリ21、41は共通のメモリデバイスであることが可能である。メモリ21、41は読み出し専用メモリ(ROM)、同期ダイナミックランダムアクセスメモリ(SDRAM)、非揮発性スタティックランダムアクセスメモリ(SRAM)、フラッシュメモリ、電気的に消去可能なプログラム可能な読み出し専用メモリ(EEPROM)等を含むことが可能である。ビデオメモリ24は、ビデオダイナミックメモリアクセス(VDMA:Video Dynamic Memory Access)の形態をとることが可能である。示されたように、メモリ15、21はコーデック12の外にあり、そして制御器24に結合されることが可能である。
記述されたようにコーデック12の機能をVFE14およびVBE16に分配することは、VBE16が、カメラインタフェースハードウエア22と直接にインタフェースし、色変換およびビューファインダ17を駆動するために必要な他の画像処理機能、あるいは他の実装固有の(implementation-specific)操作を実行する等の、種々の実装固有の機能を実行しなければならないことから隔離する。したがって、VFE14は、実装固有の画像処理機能を実行するとして見られることが可能であり、一方VBE16は実装独立の(implementation-independent)画像処理機能を実行することが可能である。
さらに、分配することは、新しいデバイス内におけるディジタルビデオ能力の統合を容易にするために増加された柔軟性を与える。たとえば、VFE14、およびVBE16間の機能的分配は、分散されたビデオシステムをもたらし、そして設計者が、ビデオデータ能力を新しい製品あるいはデバイスに統合するために、VFE14を任意のバックエンドソフトウエア、あるいはファームウエア、あるいはそれらの組み合わせとともに容易に繰り返し使用することを可能とする。このように新しいビデオ圧縮標準はVFE14を新しいVBE16と結合することによって容易にサポートされることが可能である。換言すれば、設計者は、VFE14を共通モジュールとして、任意の必要とされる異なったVBEあるいは他のアプリケーションソフトウエア、あるいはファームウエアとともに、たとえ専用のVBEでさえも、新しいデバイスの中にディジタルビデオ能力を統合するために、繰り返し使用することが可能である。さらに、VFE14の柔軟性および構成可能性は、VFEが異なった画像センサおよび表示デバイスとともに容易に使用されることを可能とする。したがって、VFE14は、複数のデバイスの中に僅かの変化あるいは変化なしに容易に繰り返し使用されそして組み込まれることが可能であり、そしてJPEGをもとにした静止ディジタルカメラ、あるいはMPEGを基にしたビデオキャプチャおよび通信とを統合したセルラ電話等の、新しいデバイスの設計および生産を容易にすることが可能である。
図2は、VFE14(図1)のさらに詳細な例となる実施例を示すブロック線図である。示されたように、VFE14は、いくつかの機能モジュール30A〜30F、および、それによって制御器24がプログラム的にモジュールを構成する共通のアプリケーションプログラミングインタフェース(API)32を含むことが可能である。モジュール30の多く、すなわちモジュール30B〜30Fは、ともにVBE16による符号化のためにビデオデータを前処理するために、そしてVBE16によって生成された復号されたビデオシーケンスを後処理するために使用されることが可能である。このようにして、モジュール30は、種々のアプリケーション内において使用されることが可能である。モジュール30は、ソフトウエアモジュールとしてコーデック12によって、たとえばDSP上に与えられる動作環境における実行のために実現される。しかしながら、モジュール30はハードウエア、ファームウエア、ソフトウエア、あるいはそれらの組み合わせの中に実現されることが可能である。
カメラドライバ30Aは、カメラインタフェースハードウエア22と直接にインタフェースし、そして画像センサ32からの1個あるいはそれ以上のビデオフレームを取得するためにハードウエアをプログラムする。とくに、カメラドライバ30Aは、命令27を発行し、そして対応してビデオ入力データ30を受信する。
たとえば、カメラドライバ30Aは、ビデオ取得を開始しそして停止するためにカメラインタフェースハードウエア22をプログラム的に構成する。さらに、カメラドライバ30Aは、画像フレームディメンションをたとえば、フレームあたりのライン、およびラインあたりのピクセルを、そしてデータ収集のための画像ウインドウ、データフォーマットたとえば小さいあるいは大きいエンディアン(Endian)を定義する。さらに、カメラドライバ30Aは、画像サイズおよびフレーム率を減少するために、カメラインタフェースハードウエア22が空間領域および時間領域に沿った初期サブサンプリングを実行することを指示するための命令27を発行する。
カメラドライバ30Aは、ビデオ入力データ30を処理し、そして処理されたデータをVBE16によるバックエンド処理のために標準形式でビデオメモリ15(図1)に記憶する。カメラドライバ30Aは、たとえば、画像をYCbCr(輝度-色差)4:2:2フォーマットで記憶する。そしてそれは、画像データに対する色差値は水平方向においてのみサブサンプルされることを意味する。たとえば、カメラドライバ30は、サイズ352×288ピクセルのカラー画像あるいはフレームを、輝度データは352×288に留まりしかし色差値は、176×288ピクセルのサイズにサブサンプルされる、フレームを生成するために処理することが可能である。
フレーム率制御モジュール30Bは、画像センサ23によって取得されそしてカメラインタフェース22によって生成されたビデオデータの、すなわちビデオ入力データ30のシーケンスを望ましいフレーム率にダウンサンプルあるいはアップサンプルするための機能を与える。フレーム率制御モジュール30Bは、VFE14に広範囲の応用における使用に対する柔軟性を与えて、たとえば、ビデオ入力データ30の到来ビデオフレームを分数あるいは整数の割合だけ、ダウンサンプルあるいはアップサンプルすることが可能である。
画像処理モジュール30Cは、制御器24が到来ビデオ入力データ30に対してフレームごとに画像処理を行う機能をプログラム的に選択し、そして適用することを可能とする。たとえば、制御器24は、カラービデオフレームを黒白フォーマットへの変換、データのコントラストあるいは輝度特性の変更、取得されたデータに対する照明条件をディジタル的に高めあるいは変更すること、ディジタルズーム動作、画像センサ処理および補償たとえば白色バランス、自動利得制御、およびガンマ補正の実行、そして取得されたビデオデータの、ハロー、日没、スター濾波あるいは他の濾波効果をシミュレートするための変更、等の機能を選択するためにAPI32を経由して命令を発行することが可能である。画像処理モジュール30Cは、これらの機能をVBE16による符号化のために、ビデオ入力データ30を前処理するために、あるいはVBE16により生成された復号されたビデオシーケンスを後処理するために、適用することが可能である。たとえば、画像処理モジュール30Cはこれらの機能を、受信されたビデオビットストリームからVBE16によって生成された復号されたビデオシーケンスを高めるために適用することが可能である。
画像サイズ制御モジュール30Eは、画像サイズを望ましい画像サイズにダウンサンプルあるいはアップサンプルする機能を与える。さらに、画像サイズ制御モジュール30Eは、画像サイズをダウンサンプルしそしてアスペクト比を維持し、あるいは異なった望ましいアスペクト比を得ることが可能である。たとえば、640×480の解像度を有するVGE画像は、解像度352×288を有するCIFフォーマットにサブサンプルされることが可能である。画像サイズ制御モジュール30Eは、たとえば、VFE14に広範囲の応用における使用のための柔軟性を与えて、ビデオ入力データ30の画像サイズを分数のあるいは整数の割合だけダウンサンプルすることが可能である。
ビューファインダドライバ30Dは、ビューファインダ17をビデオ表示データ35で駆動するための機能を与える。ビューファインダ17は、ビデオ表示データ35をビデオ入力データ30あるいはビデオ出力データ35のフォーマットから、意味を持って異なるフォーマットで要求することが可能である。たとえば、ビューファインダ17は、ビデオ表示データ35を異なったフレーム率あるいは画像サイズで要求することが可能である。ビューファインダドライバ30Dは、ビデオ入力データ30を処理し、そしてビューファインダ17による表示に対して適切な形態でビデオ表示データ35を生成するために、フレーム率制御モジュール30Cおよび画像サイズ制御モジュール30Eを使用することが可能である。
色変換モジュール30Fはビデオ入力データ30を異なった色空間(color space)たとえば、色画像データを与えるための異なったフォーマットに変換するための機能を与える。たとえば、色変換モジュール30Fは、VBE16による使用に対するYCbCr(輝度-色差)4:2:2フォーマットのビデオ出力データ35を生成するためにビデオ入力データ30を処理することが可能である。さらに色変換モジュールはまた、ビデオ入力データ30をビューファインダ17による表示に対するRGBフォーマットで、ビデオ表示データ35を生成するために処理することが可能である。さらに色変換モジュールは、生成されたフォーマットの色深さ(color depth)をたとえば16ビット、18ビット、および24ビット深さに制御することが可能である。
制御器24は、API32に従って命令を発行することによってVFE14のモジュール30をプログラム的に構成しそして相互に影響しあう。一つの実施例においては、API32は、つぎの命令をサポートする。
CONFIG−CONFIG命令はVFE14をプログラムするために使用され、そして制御器24がモジュール30の機能を制御するための広範囲のパラメータを定義することを可能とする。
CAPTURE−CAPTURE命令は、取得およびVFE14を経由してビデオ入力データ30の処理を開始する。
IDLE−IDLE命令は、VFE30にビデオ入力データ30の取得を停止することを指示する。
上の命令を発行するために、制御器24は記憶のためにコーデック12の中に命令を書き込むことが可能である。より特定的には、コーデック12は、懸案になっている命令を保持するための命令(CMD)レジスタ37、および命令と組み合わせられた任意のパラメータを保持するための命令(CMD)バッファ36を含むことが可能である。命令および組み合わせられたパラメータを命令レジスタ37および命令バッファ36に書き込む場合は、丁寧に制御器24は、命令が懸案になっていることを示すためにVFE14に割り込み(interrupt)を発行する。一つの例となる実施例においては、命令レジスタ37は、発行されている特定の命令に対する命令ヘッダを記憶するための1個の32ビットバッファを含む。命令バッファ36は、23個の32ビット語を記憶することが可能なサイズを有するバッファを含む。
VFE12は、たとえば、命令は完了されているか否か、あるいは違法の命令が見出されていないか否か等の、懸案になっている命令に関する状態を示すために、メッセージ(MSG)レジスタ38を利用する。VFE12は、メッセージレジスタ38内の新しい状態情報の利用可能性を示すために、制御器24に割り込みを発行する。制御器24は、次の命令を発行するに先立って前の命令が完全に処理されているかを確認するためにメッセージレジスタ38にアクセスする。
一つの実施例においては、メッセージレジスタ38は次のように8個の32ビット語の中に状態メッセージを記憶する。
Figure 0005307086
一つの実施例においては、CONFIG命令は、制御器24がデバイス10によって必要とされるビデオ能力をサポートするために必要であるとして、VFE14を容易にプログラム的に構成することを可能とする広範なパラメータリストを含む。より特定的には、制御器24は、次の表に示されるように命令バッファ36に23語のパラメータリストを書き込む。
Figure 0005307086
Figure 0005307086
図3は、VFE14の例となる動作をさらに詳細に示す状態線図である。この例においては、ステートマシン60は3個の状態すなわち、INIT(初期)状態62、IDLE(休止)状態64、およびCAPTURE(取得)状態66を含む。
最初の電源投入(power-up)あるいはハードウエアリセットの場合は、VFE14はINIT状態62に入る。この状態を出るためにVFE14に対しては、制御器24は、上に記述されたようにプログラム的にVFE14を構成するためにCONFIG命令を発行しなければならない。CONFIG命令を受信する場合は、VFE14はIDLE状態64に移行する。
IDLE状態64の中で、VFE14は、誤りの発生なしに制御器24からすべての3個の可能な命令、すなわちCONFIG命令、CAPTURE命令、およびIDLE命令を受領する。制御器24は、たとえばVFE14を再プログラムするためにCONFIG命令を発行することが可能である。CONFIG命令を受信しそして処理する場合は、VFE14はIDLE状態64に復帰する。IDLE命令は、VFE14がすでにIDLE状態64の中で操作しているとして本質的に無視される。
CAPTURE命令を受信する場合は、VFE14はCAPTURE状態66に移行し、そして最も最近のCONFIG命令によってプログラムされたパラメータを実行する。CAPTURE状態66にいる期間中にVFE14はカメラインタフェースハードウエア22を起動し、そしてビデオ入力データ30の受信および処理を開始する。
最初に、VFE14はスナップショットモードが可能にされているか否かを決定するためにCAPTURE命令と組み合わせられたパラメータを調査する。もしもスナップショットモードが可能にされている場合は、VFE14はビデオ入力データ30の1個のビデオフレームを取得し、そしてフレームを取得すると直ちにIDLE状態64に復帰する。もしもスナップショットモードが可能にされていない場合は、VFE14は、CAPTURE状態64に留まり、そしてビデオフレームを連続的に受信しそして処理する。
より特定的には、VFE14はビデオ入力データ30を受信し、そしてデータをビデオ出力データ35を生成するために、制御器24から受信された命令および構成パラメータ23に基づいてVBE16に対して受け入れ可能なフォーマットに処理する。さらに、VFE14は、ビデオ表示データ35を、ビデオ入力データ30をビューファインダ17による表示に対して適切な形態で生成するためにフォーマットし、そしてビデオ出力データ35を、VBE16あるいは制御器24によるアクセスのために、ビデオメモリ15の中に記憶する。
取得モード66で動作する期間中、VFE14は制御器24によって与えられたプログラム可能なパラメータに基づいて機能的モジュール30A〜30Fを頼りに(invoke)する。たとえば、上に記述されたようにカメラドライバ30Aはビデオ取得を開始および停止するためにカメラインタフェースハードウエア22をプログラム可能であるように構成する。フレーム率制御モジュール30Bは、画像センサ23によって取得されそしてカメラインタフェース22によって生成されたビデオ入力データ30を望ましいフレーム率に処理する。
画像処理モジュール30Cは、CONFIG命令により制御器24によって与えられたパラメータに基づいてビデオ入力データ30上で複雑な画像処理操作を実行することが可能である。ビューファインダドライバ30Dは、ビデオメモリ15からのビデオ入力データ30をビューファインダ17による表示に対して適切な形態でビデオ表示データ35を生成するために処理する。
画像サイズ制御モジュール30Eは、画像サイズを望ましい画像サイズにダウンサンプルするための機能を与える。色変換モジュール30Fはビデオ入力データ30を異なった色空間たとえば、VBE16あるいはビューファインダ17により必要とされるかも知れないとして色画像データを与えるための異なったフォーマットに変換するための機能を与える。
VFE14は制御器66からIDLE命令を受信する場合は、画像取得を終了しそしてIDLE状態64に復帰する。
図4は、ディジタルビデオデバイス10の例となる操作を示すフローチャートである。最初に、制御器24は、VFE14(70)の処理装置間インタフェースを経由しての命令25によりコーデック12をプログラム的に構成する。このように、制御器24は主デバイスとして、そしてコーデック12は従属デバイスとして見られることが可能である。
コーデック12が符号化器として動作する場合には、VFE14は、第1の画像フォーマット内にビデオ出力データ35を、そして第2の画像フォーマット(72)内にビデオ表示データを生成するために命令に従ってビデオ入力データ30を取得し、そして前処理をする。この処理期間中、VFE14はプログラム可能なフォーマット、たとえばプログラム可能なフレーム率、画像サイズ、および色空間に従ってビデオ出力データおよびビデオ表示データを発生する。VFE14は、ビデオデータの符号化されたシーケンス(74)の発生のためにVBE16にビデオ出力データを通信し、そしてビューファインダ17上の表示のために制御器24にビデオ表示データを通信する(76)。同様な様式で、VFE14はVBE16から復号されたビデオシーケンスを受信し、そして制御器24によって与えられた命令25に従って復号されたビデオシーケンスを処理し、そして表示することが可能である。
例となるビデオ符号化器/復号器(コーデック)がビデオフロントエンド(VFE)およびビデオバックエンド(VBE)間に分配された種々の実施例が記述されて来ている。この開示の中に記述されたように、種々のカメラあるいはカムコーダ応用をサポートするためにVFEは機能および前処理操作を集約し、そしてそれによって外部の主デバイスがそれらの操作を容易に制御することが可能な柔軟性を有する中間処理装置(inter-processor)を与える。この分配はVBEを、カメラインタフェースハードウエアと直接にインタフェースし、色変換およびビューファインダを駆動するために必要な他の画像処理機能あるいは他の実装固有の操作を実行する等の、種々の実装固有の機能から分離した分散されたビデオシステムをもたらす。したがって、この中に記述された技術は、ディジタルビデオ能力を新しいデバイスの中に統合することを容易にする、増加された柔軟性を与えることが可能である。たとえば、設計者はビデオデータ能力を新しい製品あるいはデバイスの中に統合するために、VFEを任意の望ましいバックエンドソフトウエアあるいはファームウエア、あるいはそれらの組み合わせとともに容易に繰り返し使用することが可能である。これらのおよび他の実施例は請求項の範囲内にある。

Claims (35)

  1. 少なくとも1つのデータ圧縮標準に従ってビデオ出力データを符号化し、ネットワークデバイスからのビデオデータシーケンスを復号するビデオバックエンド(VBE)と、
    画像センサからビデオ入力データを受信し、前記画像センサから受信されたビデオ入力データを前処理して前記ビデオ出力データを生成し、前記復号されたビデオデータシーケンスを後処理するビデオフロントエンド(VFE)であって、前記前処理時に前記ビデオ入力データについておよび前記後処理時に前記復号されたビデオデータシーケンス上で1または複数の画像操作処理を実行する画像処理モジュールを備えたビデオフロントエンド(VFE)と、
    処理装置間インタフェースを経由して前記VFEによる前処理および後処理を構成するための命令を与えるように構成された制御器と、
    を備え、
    前記VFEは、
    前記画像センサからすでに受信された前記ビデオ入力データを、前記命令に基づいてプログラム可能なフォーマットで前処理して前記VBEによる処理のためのフォーマットで前記ビデオ出力データを生成し、そして、
    前記与えられた命令の状態を示す状態情報を前記処理装置間インタフェースを経由して前記制御器に与えるように構成されるシステム。
  2. 前記VFEはさらに、前記命令に従って前記ビデオ入力データを前処理してディスプレーまたはビューファインダに対するビデオ表示データを生成する請求項1記載のシステム。
  3. 前記VFEは、前記制御器によってセットされるセット可能なパラメータに基づいて、前記ビデオ入力データを前処理して前記ディスプレーまたはビューファインダに対するビデオ表示データを生成するようにさらに構成される請求項2記載のシステム。
  4. 前記VEFは、前記制御器によって構成可能な複数の機能モジュールを含み、前記複数の機能モジュールは、
    前記ビデオ表示データを与えるためのビューファインダドライバと、
    プログラム可能なフレーム率で前記ビデオ出力データおよび前記ビデオ表示データを生成するためのフレーム率制御モジュールと、
    プログラム可能な画像サイズで前記ビデオ出力データおよび前記ビデオ表示データを生成するための画像サイズ制御モジュールと、
    (i)前記VBEによる処理のための第1の色空間に従って前記ビデオ出力データを、そして(ii)前記ビューファインダドラバによる表示のための第2の色空間に従って前記ビデオ表示データを生成するための色変換モジュールと、
    を含む請求項2記載のシステム。
  5. 前記制御器は、前記ビデオ出力データまたは前記ビデオ表示データのための前記ビデオ入力データおよび出力画像フォーマットのうちの入力画像フォーマットを前記VFEにおいてプログラム的にセットするようにさらに構成される請求項2記載のシステム。
  6. 前記制御器は、前記画像フォーマットのそれぞれに対するフレーム行幅、行あたりのピクセルの数、フレーム列高さ、またはフレームあたりの行の数を前記VFEにおいてプログラム的にセットするようにさらに構成される請求項5記載のシステム。
  7. 前記制御器は、第1の処理装置の動作環境で実行し、そして前記VFEおよびVBEは第2の処理装置の動作システム内で実行する請求項5記載のシステム。
  8. 前記VFEおよびVBEは、ビデオコーデックに統合される請求項1記載のシステム。
  9. コンピュータに
    ビデオフロントエンド(VFE)において、前記VFE内に複数のセット可能なパラメータをセットするためにディジタルビデオ装置の制御器から送信されるCONFIG命令を受信させる、
    画像センサから前記VFEにおいてビデオ入力データを受信させる、
    前記複数のセット可能なパラメータに基づいて複数の画像フォーマットでビデオ出力データを生成するために前記画像センサからすでに受信された前記ビデオ入力データを前処理させる、ここにおいて、前記画像フォーマットのうち少なくとも1つはビデオバックエンド(VBE)による処理のためのフォーマットでありかつ前記セット可能なパラメータに基づいて生成され、前記VFEによる前処理は前記VFEの画像処理モジュールによる前記ビデオ入力データ上の1つまたはそれ以上の画像操作を実行することを含む、
    ネットワークデバイスからの復号されたビデオデータを前記VFEにおいて後処理させる、ここにおいて、前記VFEにおける後処理は前記VFEの前記画像処理モジュールによる前記復号されたビデオデータ上の1または複数の画像操作を実行することを含む、
    前記受信された命令の状態を示す状態情報を処理装置間インタフェースを経由して前記VFEから前記制御器に与えさせる
    ための指令を有するコンピュータ可読記憶媒体。
  10. 前記ビデオ入力データを前処理するための指令は、プログラム可能なフレーム率でまたはプログラム可能な画像サイズで前記ビデオ出力データを生成するための指令を含む請求項9記載のコンピュータ可読記憶媒体。
  11. 前記ビデオ入力データを前処理するための指令は、前記VBEによる処理のための色空間に従って前記ビデオ出力データを生成するための命令を含む請求項9記載のコンピュータ可読記憶媒体。
  12. 前記命令を受信するための指令は、前記制御器および前記VFEによりアクセス可能なプログラム可能レジスタを経由して前記命令または前記命令に関連した前記複数のセット可能なパラメータを受信するための指令を含む請求項9記載のコンピュータ可読記憶媒体。
  13. デバイスのための分散されたビデオシステムであって、
    ディジタルビデオ能力を第1のパーティションおよび第2のパーティションにおいてパーティションしかつ統合するための手段と、
    複数のセット可能なパラメータと一緒にCONFIG命令を受信するための手段と、
    前記第1のパーティションにより画像センサからビデオデータを受信するための手段と、
    前記複数のセット可能なパラメータに基づいて前記第1のパーティションにより、前記画像センサからすでに受信された前記ビデオデータを前処理しかつフォーマットするための手段と、ここにおいて、前記ビデオデータは、前記セット可能なパラメータに従って前記第2のパーティションにより処理するためのフォーマットでビデオ出力データを生成するために前記複数のセット可能なパラメータに基づいて前処理される、
    前記第2のパーティションにおいて、ビデオシーケンスデータ、ネットワークデバイスからのビデオシーケンスデータを復号するための手段と、
    前記第1のパーティションにおいて、前記複数のセット可能なパラメータに基づいて前記復号されたビデオシーケンスデータ、前記第2のパーティションからの前記復号されたビデオシーケンスデータを後処理するための手段と、
    前記前処理時に前記ビデオデータ上でおよび前記第1のパーティションによる前記後処理時に前記復号されたビデオシーケンスデータ上で1つまたはそれより多い画像操作処理を実行するための手段と、
    前記受信された命令の状態を示す状態情報を与えるための手段と、
    を備えた分散されたビデオシステム。
  14. 前記前処理およびフォーマット手段は、前記ビデオデータを処理して少なくとも1つのデバイス周辺装置による表示のための共通フォーマットを有するビデオ表示データ(VDD)とすることを含む請求項13記載のシステム。
  15. 前記少なくとも1つのデバイス周辺装置はデバイスディスプレーおよび前記画像センサを含む請求項14記載のシステム。
  16. 前記デバイスディスプレーはセルラ電話ディスプレーを含む請求項15記載のシステム。
  17. 前記第1のパーティションは、
    前記複数のセット可能なパラメータに従ってビデオ表示データを駆動しそしてビューファインダに与えるための手段と、
    前記複数のセット可能なパラメータに従ってプログラム可能なフレーム率で前記前処理されたビデオデータおよび前記ビデオ表示データから前記ビデオ出力データを生成するためにフレーム率を制御するための手段と、
    前記複数のセット可能なパラメータに従ってプログラム可能な画像サイズで前記ビデオ出力データおよび前記ビデオ表示データを生成するために画像サイズを制御するための手段と、
    前記第2のパーティションによる処理のための第1の色空間に従って前記ビデオ出力データを、そして前記ビューファインダドライバによる表示のための第2の色空間に従って前記ビデオ表示データを生成するために、前記複数のセット可能なパラメータに基づいて、色を変換するための手段と、
    を含む請求項13記載のシステム。
  18. 前記CONFIG命令を受信するための手段は、前記画像フォーマットのそれぞれに対してフレーム行幅、行あたりのピクセルの数、フレーム列高さ、フレームあたりの行の数をセットするために制御器パラメータからプログラム的に受信するための手段を含む請求項17記載のシステム。
  19. 前記CONFIG命令を受信するための手段は、前記ビデオデータから落とすべきフレームを選択するための指定された第1のビットパターンと前記ビデオ出力データを生成するために前記ビデオデータの各フレームから落とすべきXおよびYピクセルを選択するための第2のビットパターンを前記制御器からプログラム的に受信するための手段を含む請求項17記載のシステム。
  20. 前記CONFIG命令を受信するための手段は、前記第1のパーティションによる前記ビデオデータの取得をプログラム的に開始するためのCAPTURE命令を前記制御器から受信するための手段と、前記ビデオデータの取得を終了するためのIDLE命令を受信するための手段と、前記ビデオデータの取得および前処理のためのパラメータをプログラム的にセットするためのIDLE命令を受信するための手段と、を含む請求項17記載のシステム。
  21. 分散されたビデオ画像処理のための方法であって、
    ディジタルビデオ能力を第1のパーティションおよび第2のパーティションにおいて分配しかつ統合することと、
    処理装置間インタフェースを経由して複数のセット可能なパラメータを有するCONFIG命令を受信することと、
    前記第1のパーティションにより画像センサからのビデオデータを受信することと、
    前記セット可能なパラメータに従って前記第2のパーティションによる処理のためのフォーマットでビデオ出力データを生成するために前記複数のセット可能なパラメータに基づいて前記第1のパーティションにより、前記画像センサからすでに受信されたビデオデータを前処理しかつフォーマットすることと、ここにおいて、前記第1のパーティションによる前処理は、前記第1のパーティションの画像処理モジュールにより前記ビデオデータ上で1または複数の画像操作を実行することを含む、
    前記第2のパーティションにおいてビデオシーケンスデータ、ネットワークデバイスからのビデオシーケンスデータを復号することと、
    前記複数のセット可能なパラメータに基づいて前記第1のパーティションにおいて復号されたビデオシーケンスデータ、前記第2のパーティションからの復号されたビデオシーケンスデータを後処理することと、ここにおいて、前記第1のパーティションにおける後処理は、前記第1のパーティションの前記画像処理モジュールにより前記復号されたビデオシーケンスデータ上で1または複数の画像操作を実行することを含む、
    前記処理装置間インタフェースを経由して前記受信された命令の状態を示す状態情報を与えることと、
    含む方法。
  22. 前記前処理しかつフォーマットすることは、前記ビデオデータを処理してデバイスディスプレーによる表示のための共通フォーマットを有するビデオ表示データとすることを含む請求項21記載の方法。
  23. 前記デバイスディスプレーはセルラ電話ディスプレーを含む請求項22記載の方法。
  24. 前記第1のパーティションにより、
    前記複数のセット可能なパラメータに従ってビデオ表示データを駆動しかつビューファインダに与えることと、
    前記複数のセット可能なパラメータに従ってプログラム可能なフレーム率で前記前処理されたビデオデータおよび前記ビデオ表示データから前記ビデオ出力データを生成するためにフレーム率を制御することと、
    前記複数のセット可能なパラメータに従ってプログラム可能な画像サイズで前記ビデオ出力データおよび前記ビデオ表示データを生成するために画像サイズを制御することと、
    前記第2のパーティションによる処理のための第1の色空間に従って前記ビデオ出力データを、そして前記ビューファインダドライバによる表示のための第2の色空間に従って前記ビデオ表示データを生成するために、前記複数のセット可能なパラメータに基づいて、色を変換することと
    をさらに含む請求項21記載の方法。
  25. 前記画像フォーマットのそれぞれに対してフレーム行幅、行あたりのピクセルの数、フレーム列高さ、フレームあたりの行の数をセットするためのパラメータを制御器から受信することをさらに含む請求項24記載の方法。
  26. 前記ビデオデータから落とすべきフレームを選択するための指定された第1のビットパターンと前記ビデオ出力データを生成するために前記ビデオデータの各フレームから落とすべきXおよびYピクセルを選択するための第2のビットパターンを前記制御器から受信することをさらに含む請求項24記載の方法。
  27. 前記第1のパーテイションによる前記ビデオデータの取得をプログラム的に開始するためのCAPTURE命令を前記制御器から受信すること、前記ビデオデータの取得をプログラム的に終了するためのIDLE命令を受信すること、および前記ビデオデータの取得および前処理をプログラム的に制御するためのCONFIG命令を受信すること、をさらに含む請求項24記載の方法。
  28. デバイスであって、
    前記デバイスによって与えられる動作環境内で実行しかつ主制御器によって構成可能なビデオフロントエンドを(VFE)を備え、前記VFEは処理装置間インタフェースを経由して前記主制御器から複数のセット可能なパラメータを有するCONFIG命令を受信するように構成され、ここにおいて、前記セット可能なパラメータは、ビデオバックエンド(VBE)によりビデオデータを処理するためのフォーマットを含み、また前記VFEは、前記セット可能なパラメータに基づいて、(i)ビデオ入力データ(VID)を取得する、(ii)前記VIDがデバイスの周辺装置に送信されるかあるいは前記VBEに送信されるかに応じて、前記複数のセット可能なパラメータに基づいて複数の異なるフォーマットのうちの1つに画像センサからすでに受信された前記VIDを前処理する、そして(iii)前記処理装置間インタフェースを経由して前記受信された命令の状態を示す状態情報を前記主制御器に与えるように構成され、ここにおいて、前記VBEはネットワークデバイスからのビデオシーケンスを復号し、さらに、前記複数の異なるフォーマットは第1の画像フォーマットおよび第2の画像フォーマットを備え、前記VFEはさらに、前記VIDが符号化を必要とする場合に前記第1の画像フォーマットに従ってビデオ出力データ(VOD)を生成しかつ前記VIDが前記デバイスのディスプレー上で表示される場合に前記第2の画像フォーマットに従ってビデオ表示データ(VDD)を生成し、さらに前記VFEは、前記VODを生成するために前記VID上で1または複数の画像操作処理を選択的に実行しかつ前記複数のセット可能なパラメータに従って前記VDD上で1または複数の画像操作を選択的に実行するための画像処理モジュールを備えるデバイス。
  29. 前記複数のセット可能なパラメータに従ってプログラム可能なフレーム率で前記VODおよび前記VDDを生成するためのフレーム率制御モジュールと、
    前記複数のセット可能なパラメータに従ってプログラム可能な画像サイズで前記VODおよび前記VDDを生成するための画像サイズ制御モジュールと、
    前記複数のセット可能なパラメータに基づいて、前記VBEによる処理のための第1の色空間に従って前記VODを生成し、かつビューファインダドライバによる表示のための第2の色空間に従って前記VDDを生成する色変換モジュールと、をさらに備える請求項28記載のデバイス。
  30. 前記VFEは、前記複数のセット可能なパラメータに従って前記VDDを与えるためのビューファインダドライバをさらに備え、前記ビューファインダドライバは、前記複数のセット可能なパラメータにしたがって前記ビューファインダに対するフレーム率または画像サイズで前記VDDを生成するために前記フレーム率制御モジュールおよび前記画像サイズ制御モジュールを起動する請求項29記載のデバイス。
  31. 前記VFEは、前記VID、VOD,およびVDDのそれぞれに対するフレーム行幅、行あたりのピクセルの数、フレーム列高さ、フレームあたの行の数、および入力画像フォーマットを前記主制御器によりプログラム的にセットするように構成される請求項29記載のデバイス。
  32. 前記VFEは前記VODおよびVDDに対する色空間を前記主制御器によりプログラム的にセットするように構成される請求項29記載のデバイス。
  33. 前記VFEは、前記VODを生成するために、前記VIDから落とすべきフレームを選択するための指定された第1のビットパターンおよび前記IDの各フレームから落とすべきXおよびYピクセルを選択するための第2のビットパターンを前記主制御器からプログラム的に受信するように構成される請求項29記載のデバイス。
  34. 前記VFEは、(i)前記VFEによる前記VIDの取得をプログラム的に開始するためのCAPTURE命令、(ii)前記VFEによる前記VIDの取得をプログラム的に終了するためのIDLE命令、および(iii)取得、前処理、後処理および前記VFEによる前記デバイスの複数の周辺装置とのインタフェースをプログラム的に構成するためのCONFIG命令を前記主制御器から受信するように構成される請求項29記載のデバイス。
  35. 前記デバイスはデオコーデック(CODEC)を備え、前記コーデックは前記VFEおよび前記VBEを含み、前記VFEは前記VBEからパーティションされる請求項28記載のデバイス。
JP2010172419A 2003-01-30 2010-07-30 ディジタルビデオデータを処理するための繰り返し使用可能なフロントエンドを有するモジュラアーキテクチャ Expired - Fee Related JP5307086B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/355,814 US8159548B2 (en) 2003-01-30 2003-01-30 Modular architecture having reusable front end for processing digital video data
US10/355,814 2003-01-30

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2006503202A Division JP2006516868A (ja) 2003-01-30 2004-01-30 ディジタルビデオデータを処理するための繰り返し使用可能なフロントエンドを有するモジュラアーキテクチャ

Publications (2)

Publication Number Publication Date
JP2011010331A JP2011010331A (ja) 2011-01-13
JP5307086B2 true JP5307086B2 (ja) 2013-10-02

Family

ID=32770633

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2006503202A Withdrawn JP2006516868A (ja) 2003-01-30 2004-01-30 ディジタルビデオデータを処理するための繰り返し使用可能なフロントエンドを有するモジュラアーキテクチャ
JP2010172419A Expired - Fee Related JP5307086B2 (ja) 2003-01-30 2010-07-30 ディジタルビデオデータを処理するための繰り返し使用可能なフロントエンドを有するモジュラアーキテクチャ

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2006503202A Withdrawn JP2006516868A (ja) 2003-01-30 2004-01-30 ディジタルビデオデータを処理するための繰り返し使用可能なフロントエンドを有するモジュラアーキテクチャ

Country Status (6)

Country Link
US (2) US8159548B2 (ja)
EP (1) EP1588553A1 (ja)
JP (2) JP2006516868A (ja)
KR (1) KR20050098287A (ja)
CN (1) CN100421454C (ja)
WO (1) WO2004068849A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10060761B2 (en) 2015-11-25 2018-08-28 Pilz Gmbh & Co. Kg Safety mat for safeguarding a technical installation

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8159548B2 (en) 2003-01-30 2012-04-17 Qualcomm Incorporated Modular architecture having reusable front end for processing digital video data
US7577636B2 (en) * 2003-05-28 2009-08-18 Fernandez Dennis S Network-extensible reconfigurable media appliance
KR101022470B1 (ko) * 2004-01-13 2011-03-15 삼성전자주식회사 영상신호를 기록 및 재생할 수 있는 디지털 카메라
US20060002475A1 (en) * 2004-07-02 2006-01-05 Fuchs Robert J Caching data for video edge filtering
US8155703B2 (en) * 2004-10-01 2012-04-10 Broadcom Corporation Wireless device having a configurable camera interface to support digital image processing
US8009729B2 (en) * 2005-11-30 2011-08-30 Qualcomm Incorporated Scaler architecture for image and video processing
JP4944465B2 (ja) * 2006-03-22 2012-05-30 キヤノン株式会社 通信システム及び方法
KR100842573B1 (ko) * 2006-11-21 2008-07-01 삼성전자주식회사 휴대단말기의 카메라부 제어장치 및 방법
US8139632B2 (en) * 2007-03-23 2012-03-20 Advanced Micro Devices, Inc. Video decoder with adaptive outputs
US8479253B2 (en) * 2007-12-17 2013-07-02 Ati Technologies Ulc Method, apparatus and machine-readable medium for video processing capability communication between a video source device and a video sink device
KR20120067199A (ko) * 2010-12-15 2012-06-25 한국전자통신연구원 비디오 인코딩 장치 및 그 제어 방법
EP2856754A4 (en) * 2012-05-31 2016-01-20 Intel Corp VIDEO POST-PROCESSING ON NON-INTERFACE PLATFORMS TO PROCESS VIDEO POST-PROCESSING REQUEST FROM A VIDEO PLAYER
US9432614B2 (en) * 2013-03-13 2016-08-30 Qualcomm Incorporated Integrated downscale in video core
CN105282600B (zh) * 2014-12-31 2021-11-19 郭磊 高清晰低码率数字视频压缩器
BE1024519B1 (fr) * 2016-04-12 2018-03-28 Evs Broadcast Equipment Sa Serveur de production vidéo à base de logiciel modulaire, procédé de fonctionnement du serveur de production vidéo et système de production vidéo distribué

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01316881A (ja) * 1988-06-17 1989-12-21 Mitsubishi Electric Corp 画像処理装置
JP3103151B2 (ja) * 1990-09-03 2000-10-23 富士写真フイルム株式会社 電子スチル・カメラおよびその動作制御方法
DE69127950T2 (de) 1990-10-31 1998-05-28 Hitachi Ltd Digitale Farbsignal-Verarbeitung mit Taktsignalsteuerung für eine Videokamera
JPH06125411A (ja) * 1992-10-09 1994-05-06 Ricoh Co Ltd 画像処理装置
JPH07226911A (ja) * 1994-02-15 1995-08-22 Eastman Kodak Japan Kk 電子スチルカメラ
JP3461194B2 (ja) * 1994-02-28 2003-10-27 キヤノン株式会社 撮像装置及びデータ処理方法
JP3893480B2 (ja) * 1994-09-28 2007-03-14 株式会社リコー デジタル電子カメラ
US6509927B1 (en) 1994-12-16 2003-01-21 Hyundai Electronics America Inc. Programmably addressable image sensor
TW339418B (en) * 1995-11-30 1998-09-01 Sanyo Electric Co Method for controlling a video camera
US6005613A (en) * 1996-09-12 1999-12-21 Eastman Kodak Company Multi-mode digital camera with computer interface using data packets combining image and mode data
US6657668B1 (en) 1997-11-19 2003-12-02 Ricoh Company, Ltd. Method, system, and computer readable medium for controlling automatic focusing of a digital camera
JPH11215426A (ja) 1997-11-19 1999-08-06 Ricoh Co Ltd オートフォーカス装置
US6535243B1 (en) * 1998-01-06 2003-03-18 Hewlett- Packard Company Wireless hand-held digital camera
US20020176009A1 (en) * 1998-05-08 2002-11-28 Johnson Sandra Marie Image processor circuits, systems, and methods
US6593963B1 (en) * 1998-05-29 2003-07-15 Agilent Technologies, Inc. Programmable control of operational signals in a digital camera
US6577336B2 (en) 1998-05-29 2003-06-10 Agilent Technologies, Inc. Authentication stamping in a digital camera
JP4253881B2 (ja) * 1998-07-17 2009-04-15 ソニー株式会社 撮像装置
JP2000115688A (ja) * 1998-09-30 2000-04-21 Canon Inc 印刷機能付きデジタルカメラシステムおよび画像処理方法並びに画像処理用制御プログラムを記録した記録媒体
JP3033575B1 (ja) * 1999-02-17 2000-04-17 日本電気株式会社 画像処理装置
JP2002010277A (ja) * 1999-12-20 2002-01-11 Texas Instr Inc <Ti> デジタルスチルカメラシステムおよび方法
JP2002189993A (ja) 2000-12-21 2002-07-05 Olympus Optical Co Ltd 携帯型情報記録再生装置
JP2002320208A (ja) * 2001-04-20 2002-10-31 Nobuyuki Suzuki 画像伝送システム
US7184080B2 (en) * 2001-06-25 2007-02-27 Texas Instruments Incorporated Automatic white balancing via illuminant scoring
US8159548B2 (en) 2003-01-30 2012-04-17 Qualcomm Incorporated Modular architecture having reusable front end for processing digital video data
KR100486736B1 (ko) 2003-03-31 2005-05-03 삼성전자주식회사 두개의 센서를 이용한 목적원별 신호 분리방법 및 장치
US7454010B1 (en) 2004-11-03 2008-11-18 Acoustic Technologies, Inc. Noise reduction and comfort noise gain control using bark band weiner filter and linear attenuation

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10060761B2 (en) 2015-11-25 2018-08-28 Pilz Gmbh & Co. Kg Safety mat for safeguarding a technical installation

Also Published As

Publication number Publication date
US8804000B2 (en) 2014-08-12
JP2006516868A (ja) 2006-07-06
US20120167156A1 (en) 2012-06-28
US8159548B2 (en) 2012-04-17
WO2004068849A1 (en) 2004-08-12
CN100421454C (zh) 2008-09-24
EP1588553A1 (en) 2005-10-26
JP2011010331A (ja) 2011-01-13
CN1757226A (zh) 2006-04-05
WO2004068849A8 (en) 2005-10-06
US20040151242A1 (en) 2004-08-05
KR20050098287A (ko) 2005-10-11

Similar Documents

Publication Publication Date Title
JP5307086B2 (ja) ディジタルビデオデータを処理するための繰り返し使用可能なフロントエンドを有するモジュラアーキテクチャ
US10965868B2 (en) Apparatus and methods for image encoding using spatially weighted encoding quality parameters
US6263396B1 (en) Programmable interrupt controller with interrupt set/reset register and dynamically alterable interrupt mask for a single interrupt processor
US20140244858A1 (en) Communication system and relaying device
CN100375070C (zh) 采用照相手机作为计算机摄像头获取视频数据的方法
US20190364205A1 (en) Adaptive panoramic video streaming using overlapping partitioned sections
US20200275031A1 (en) Apparatus and method for processing image
WO2019226370A1 (en) Adaptive panoramic video streaming using composite pictures
US20200278602A1 (en) Audio signal processing device and method based on camera operation
JP2010286811A (ja) 組立式表示設備およびその画面制御方法とシステム
US8798386B2 (en) Method and system for processing image data on a per tile basis in an image sensor pipeline
Harrand et al. A single chip videophone video encoder/decoder
CN111741343B (zh) 视频处理方法及装置、电子设备
US9609215B2 (en) Moving-image recording/reproduction apparatus
Talla et al. Using DaVinci technology for digital video devices
US11284094B2 (en) Image capturing device, distribution system, distribution method, and recording medium
EP1422659A1 (en) Image processing device
US20070008325A1 (en) Method and apparatus providing for high efficiency data capture for compression encoding
CN115543649B (zh) 一种数据获取方法及电子设备
US20110254995A1 (en) Method and system for mitigating seesawing effect during autofocus
KR101298645B1 (ko) 애플리케이션 그래픽을 이용한 방송 영상의 출력 장치
CN101950246A (zh) 组合式显示设备及其画面控制方法与***

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121204

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130304

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130403

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130528

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130626

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees