JP5473903B2 - 画像を処理する方法およびシステム - Google Patents

画像を処理する方法およびシステム Download PDF

Info

Publication number
JP5473903B2
JP5473903B2 JP2010508927A JP2010508927A JP5473903B2 JP 5473903 B2 JP5473903 B2 JP 5473903B2 JP 2010508927 A JP2010508927 A JP 2010508927A JP 2010508927 A JP2010508927 A JP 2010508927A JP 5473903 B2 JP5473903 B2 JP 5473903B2
Authority
JP
Japan
Prior art keywords
image
resolution format
pattern
format
patterns
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010508927A
Other languages
English (en)
Other versions
JP2010528516A5 (ja
JP2010528516A (ja
Inventor
ステファン ジーン ルイス ヤコブ,
Original Assignee
ドゥー テクノロジーズ エフゼットシーオー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ドゥー テクノロジーズ エフゼットシーオー filed Critical ドゥー テクノロジーズ エフゼットシーオー
Publication of JP2010528516A publication Critical patent/JP2010528516A/ja
Publication of JP2010528516A5 publication Critical patent/JP2010528516A5/ja
Application granted granted Critical
Publication of JP5473903B2 publication Critical patent/JP5473903B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4092Image resolution transcoding, e.g. by using client-server architectures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/88Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving rearrangement of data among different coding units, e.g. shuffling, interleaving, scrambling or permutation of pixel data or permutation of transform coefficient data among different blocks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/32Image data format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/015High-definition television systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Electrical Discharge Machining, Electrochemical Machining, And Combined Machining (AREA)
  • Purification Treatments By Anaerobic Or Anaerobic And Aerobic Bacteria Or Animals (AREA)

Description

(発明の分野)
本発明は、画像処理に関し、特に種々の画像フォーマットを用いて画像を処理することに関する。
(発明の背景)
近年、メディア産業において潜在的用途を有する多くの技術的進歩があった。例えば、デジタル画像捕獲技術が開発されてきており、今も開発され続けている。メディア産業がそのような新しく革新的な技術を提供し、その結果、多くの新しいまたは改良された用途となることが望ましい。
1つのそのような開発領域は、インタラクティブビデオの領域である。インタクティブビデオは、概してユーザがビデオの表示領域を制御することを可能にし、ユーザは画像をズームすることが可能であり得る。インタラクティブビデオの例は没入型(immersive)ビデオであり、没入型ビデオはインタラクティブパノラマ写真をデジタルビデオに結合する。
インタラクティブパノラマ写真は、写真ハードウェアを特定のコンピュータソフトウェアに結合し、写真として以前に捕獲された実際の環境を仮想的に表示することを可能にする。
没入型ビデオは、静止(360°)のパノラマ画像からパノラマビデオへの切り替えに関連する技術的な問題に対処し始めた。
現在の技術は、マウス、仮想ヘッドセット、ジョイスティックまたは没入型パノラマ画面または他の入力デバイスなどの周辺装置を介してユーザが対話するコンピュータを用いて、没入型3Dモードでビデオシーケンスが見られることを可能にする。
用いられる技術はまた、数台の標準のカメラを一台の没入型カメラに置き換えることを可能にする。これは、超広視野画像を捕獲することによってなされ得る。このことは、従ってパン機能、チルト機能およびズーム機能を仮想的に用い得、数台の仮想カメラをパラメータで表し得るシステムのユーザにとって望ましい。このことは、仮想環境に、より多く関与することになり得るユーザをより現実的な経験に導き、様々な用途に導く。
超広視野画像は、例えば魚眼レンズを用いて捕獲され得る。魚眼レンズは、広角視野を有する。多くの変種が存在する。典型的な魚眼レンズは、全円の180度の半球から画像を形成し得る。画像は典型的には、高精細度(High Definition)(HD)解像度で、捕獲され、移送され、そして見られる。
HD解像度ビデオは、そのワイドフォーマット(概して16:9のアスペクト比)およびその高画像精細(720×576ピクセルサイズが通常のフレームサイズである標準ビデオ鮮明度(SD)フォーマットと比較して、1920×1080ピクセルが通常のフレームサイズである)によって特徴づけられる。
超高精細度(XHD)フォーマットで超広視野画像を捕獲することが望ましい。これは、レンズ(例えば、魚眼レンズ)が適切なカメラに取り付けられた場合、達成され得る。超高精細(XHD)フォーマットは、高精細度(HD)フォーマットビデオより大きいサイズの画像を達成する。疑念を避けるために、超高精細度はHDより高い任意の鮮明度を包含することがここで注意される。多くのビデオの用途においてユーザがズームを正しく行うために、XHDフォーマットは、望ましく、ある場合には必要である。例えば、100万ピクセル超〜800万ピクセルまでおよびそれ以上のピクセルの(画像をとるために魚眼レンズを用いる)新興の(emerging)カメラが作動し始めている。XHDビデオを用いることは、HDビデオと比較してズーム能力を大幅に増加させ、高ズームにおいてもユーザが高解像の画像を見るようにさせ、それによって、イメージングカメラのズーム範囲および従って多くの用途においてカメラの有効性を大幅に増加させる。
現在、例えば魚眼レンズ付きカメラから得られるXHD解像度のビデオの圧縮、移送および格納は、巨大なファイルサイズおよび帯域幅を作成するMPEG圧縮を用いて実行され、このことは移送および格納の問題を引き起こす。従って、強力な専用のプロセッサおよび超高速ネットワークが、用途のためにリアルタイムで利用可能であるほど十分に迅速にデータを圧縮、移送および格納することが必要とされる。これらのプロセッサおよびネットワークは、現在広く利用可能ではなく、金銭的に利益があがることでもない。従って、これらのプロセッサおよびネットワークが、改良され、広く利用可能になり、金銭的に利益があがるようになるまで、魚眼XHDビデオは、広く市場には提供され得ない。それまで多くの用途は実現され得ない。本発明は、概してこの問題に対処する。
(発明の概要)
本発明に従って、第2のフォーマットに従う後の処理のために第1のフォーマットで獲得された画像を処理する方法であって、第1のフォーマットの画像の少なくとも一部を複数のパターンに分割することであって、各パターンは、複数の画像ピクセルを備えている、ことと、第2の画像フォーマットに適合するように複数のパターンを再編成することであって、再編成することは、制御に従って、第1の画像フォーマットにおける各パターンの位置から第2の画像フォーマットにおける位置に各パターンをマッピングすることを包含する、ことと、第2のフォーマットで画像を処理することと、制御に従って、再編成するステップに適用されたパターンのマッピングを反転することによって、第1のフォーマットに戻るように画像を変換することとを包含する、方法が提供される。
本発明はまた、第2のフォーマットに従う後の処理のために第1のフォーマットで獲得された画像を処理するシステムであって、第1のフォーマットの画像の少なくとも一部を複数のパターンに分割する手段であって、各パターンは、複数の画像ピクセルを備えている、手段と、第2の画像フォーマットに適合するように複数のパターンを再編成する手段であって、再編成することは、制御に従って、第1の画像フォーマットにおける各パターンの位置から第2の画像フォーマットにおける位置に各パターンをマッピングすることを包含する、手段と、第2のフォーマットで画像を処理するプロセッサと、制御に従って、再編成するステップに適用されたパターンのマッピングを反転することによって、第1のフォーマットに戻るように画像を変換する手段とを備えている、システムを提供する。
本発明はさらに、第1の画像フォーマットの画像を第2のフォーマットにコード化するエンコーダであって、第1のフォーマットの画像の少なくとも一部を複数のパターンに分割する手段であって、各パターンは、複数の画像ピクセルを備えている、手段と、第2のフォーマットに適合するように複数のパターンを再編成する手段であって、再編成することは、制御に従って、第1の画像フォーマットにおける各パターンの位置から第2の画像フォーマットにおける位置に各パターンをマッピングすることを包含する、手段とを備えている、エンコーダを提供する。
上記のシステムと共に使用するデコーダであって、制御に従って、再編成するステップに適用されたパターンのマッピングを反転することによって、第1のフォーマットに戻るように第2のフォーマットにおいてコード化された画像を変換する手段を備えている、デコーダ。
本発明者は、上記の問題が超高精細度(XHD)ビデオを一般的に用いられているフォーマットに変換することによって回避され得ることを理解した。HDフォーマットは、放送ビデオ部門(テレビ、DVDなど)におけるイメージングの一般的に用いられているフォーマットであり、ビデオを用いるほとんどの企業体内において一層普及し始めている。好ましい実施形態は、一般的に用いられているフォーマットとしてHDを用いる。より大量のデータを有する画像は、HDフォーマットに再配列され得、別のコーデックを開発する必要なく移送および処理され得る。さらにデータは、現在あるコーデックの例えばH264またはDIVXを用いて格納され得る。好ましい実施形態において、魚眼レンズから獲得されるXHD解像度ビデオデータは、HDフォーマットにコード化され得、特別注文の技術を開発する必要なく広範囲のユーザが魚眼XHDビデオにアクセスすることを可能にし得る。
本発明の実施形態は、XHD超広視野画像の取り扱いに有利であるが、本発明の実施形態はまた、画像が獲得されたフォーマット以外のフォーマットに従って画像を処理することが望ましい広範囲の用途においても用いられ得る。
パターンの使用は、解像度の損失が全くなく再フォーマットされることを可能にする。第2のフォーマットへのパターンの再編成を制御するために暗号化キーを用いることによって、ビデオデータはより安全にされ得る。あるいはルックアップテーブルが、再編成を制御するために用いられ得る。
好ましくは、第1および第2のフォーマットのパターンは、同じ数のピクセルを有する。このことは、フォーマット間の変換の処理において解像度が失われないという利点を有する。好ましくは、画像内のすべてのパターンは、同じ数のピクセルを有する。
好ましくは、画像の一部分は、パターンへの分割のために選択される。このことは、画像が魚眼レンズから得られるなどの円形の画像である場合、有利である。活性ピクセルデータを含む画像の部分のみが、パターンに分割される必要がある。
好ましくは、画像をパターンに分割時に、各パターンは、位置基準が割り当てられ、それによって、第1のフォーマットと第2のフォーマット間のパターンの再編成を容易にする。
一実施形態において、パターンは、第2のフォーマットの2つ以上の画像に再編成される。このことは、第1のフォーマットが第2のフォーマットよりもはるかに高い解像度である場合でも、解像度が維持されることを可能にする。
好ましくは、第2のフォーマットの画像は、暗号化キーを含むデータファイルに形成され、第1のフォーマットの画像がアセンブリされることを可能にする。
本発明の実施形態は、例としてのみであるが、添付の図面を参照してここで説明される。
例えば、本発明は以下の項目を提供する。
(項目1)
第2のフォーマットに従う後の処理のために第1のフォーマットで獲得された画像を処理する方法であって、
該第1のフォーマットの画像の少なくとも一部を複数のパターンに分割することであって、各パターンは、複数の画像ピクセルを備えている、ことと、
該第2の画像フォーマットに適合するように該複数のパターンを再編成することであって、該再編成することは、制御に従って、該第1の画像フォーマットにおける各パターンの位置から該第2の画像フォーマットにおける位置に各パターンをマッピングすることを包含する、ことと、
該第2のフォーマットで画像を処理することと、
該制御に従って、該再編成するステップに適用された該パターンの該マッピングを反転することによって、該第1のフォーマットに戻るように画像を変換することと
を包含する、方法。
(項目2)
上記制御は、暗号化キーである、項目1に記載の方法。
(項目3)
上記制御は、ルックアップテーブルである、項目1に記載の方法。
(項目4)
上記第1のフォーマットおよび上記第2のフォーマットの上記パターンは、同じ数のピクセルを有する、項目1、2または3に記載の方法。
(項目5)
上記第1のフォーマット画像のすべてのパターンは、同じ数のピクセルを有する、項目1〜4のいずれかに記載の方法。
(項目6)
上記画像を複数のパターンに分割する上記ステップは、パターンに分割される画像領域の一部分を選択することを包含する、項目1〜5のいずれかに記載の方法。
(項目7)
上記画像源は超広視野レンズであり、上記選択された画像の一部分は活性ピクチャ領域に対応する、項目6に記載の方法。
(項目8)
上記画像を分割するステップは、各パターンに位置基準を割り当てることを包含する、項目1〜7のいずれかに記載の方法。
(項目9)
上記パターン再編成することは、上記第2のフォーマット画像における新しい位置に該パターンの上記位置基準をマッピングすることを包含する、項目8に記載の方法。
(項目10)
上記第1のフォーマットは、高精細度(HD)より高い解像度である、項目1〜9のいずれかに記載の方法。
(項目11)
上記第2のフォーマットは、高精細度(HD)である、項目1〜10のいずれかに記載の方法。
(項目12)
上記第1のフォーマットは、上記第2のフォーマットより高い解像度である、項目1〜11のいずれかに記載の方法。
(項目13)
上記パターンは、上記第2のフォーマットにおいて2つ以上の画像に再編成される、項目1〜12のいずれかに記載の方法。
(項目14)
上記第2のフォーマットの上記パターンは、上記暗号化キーを含むデータファイルとして処理され、上記画像は上記第1のフォーマットに戻るように変換されることが可能である、項目2に記載の方法。
(項目15)
上記画像は、ビデオ画像である、項目1〜14のいずれかに記載の方法。
(項目16)
第2のフォーマットに従う後の処理のために第1のフォーマットで獲得された画像を処理するシステムであって、
該第1のフォーマットの画像の少なくとも一部を複数のパターンに分割する手段であって、各パターンは、複数の画像ピクセルを備えている、手段と、
該第2の画像フォーマットに適合するように該複数のパターンを再編成する手段であって、該再編成することは、制御に従って、該第1の画像フォーマットにおける各パターンの位置から該第2の画像フォーマットにおける位置に各パターンをマッピングすることを包含する、手段と、
該第2のフォーマットで画像を処理するプロセッサと、
該制御に従って、該再編成するステップに適用された該パターンの該マッピングを反転することによって、該第1のフォーマットに戻るように画像を変換する手段と
を備えている、システム。
(項目17)
上記制御は、暗号化キーである、項目16に記載のシステム。
(項目18)
上記制御は、ルックアップテーブルである、項目16に記載のシステム。
(項目19)
上記第1のフォーマットおよび上記第2のフォーマットの上記パターンは、同じ数のピクセルを有する、項目16、17または18に記載のシステム。
(項目20)
上記第1のフォーマット画像のすべてのパターンは、同じ数のピクセルを有する、項目16〜19のいずれかに記載のシステム。
(項目21)
上記画像を複数のパターンに分割する手段は、パターンに分割される画像領域の一部分を選択する手段を備えている、項目16〜20のいずれかに記載のシステム。
(項目22)
上記画像源は超広視野レンズであり、上記選択された画像の一部分は活性ピクチャ領域に対応する、項目21に記載のシステム。
(項目23)
上記画像を分割する手段は、各パターンに位置基準を割り当てる手段を備えている、項目16〜22のいずれかに記載のシステム。
(項目24)
上記パターンを再編成する手段は、上記第2のフォーマット画像における新しい位置に該パターンの上記位置基準をマッピングする手段を備えている、項目23に記載のシステム。
(項目25)
上記第1のフォーマットは、高精細度(HD)より高い解像度である、項目16〜24のいずれかに記載のシステム。
(項目26)
上記第2のフォーマットは、高精細度(HD)である、項目16〜25のいずれかに記載のシステム。
(項目27)
上記第1のフォーマットは、上記第2のフォーマットより高い解像度である、項目16〜26のいずれかに記載のシステム。
(項目28)
上記パターンは、上記第2のフォーマットにおいて2つ以上の画像に再編成される、項目16〜27のいずれかに記載のシステム。
(項目29)
上記プロセッサは、上記第2のフォーマットのパターンを上記暗号化キーを含むデータファイルとして処理し、上記画像は上記第1のフォーマットに戻るように変換されることが可能である、項目17に記載のシステム。
(項目30)
上記画像は、ビデオ画像である、項目16〜29のいずれかに記載のシステム。
(項目31)
第1の画像フォーマットの画像を第2のフォーマットにコード化するエンコーダであって、
該第1のフォーマットの画像の少なくとも一部を複数のパターンに分割する手段であって、各パターンは、複数の画像ピクセルを備えている、手段と、
該第2のフォーマットの画像フォーマットに適合するように該複数のパターンを再編成する手段であって、該再編成することは、制御に従って、該第1のフォーマット画像における各パターンの位置から該第2のフォーマット画像における位置に各パターンをマッピングすることを包含する、手段と
を備えている、エンコーダ。
(項目32)
項目16〜30のいずれかに記載のシステムと共に使用するデコーダであって、
上記制御に従って、上記再編成するステップに適用された上記パターンの上記マッピングを反転することによって、上記第1のフォーマットに戻るように上記第2のフォーマットにおいてコード化された画像を変換する手段を備えている、デコーダ。
図1は、360×180視野カメラからの生のデジタル魚眼画像の例示である。 図2は、本発明の実施形態の概略の全体図である。 図3a〜図3fは、図2に示されるステップをより詳細に例示する。 図3a〜図3fは、図2に示されるステップをより詳細に例示する。
本発明は、第1のフォーマットで獲得される画像が再フォーマットされ、第2のフォーマットで処理され、次いで第1のフォーマットに戻るように変換されることを可能にする。以下の例において、第1のフォーマットは、第2のフォーマットより高い鮮明度であるが、これは、この事例において必要ではない。第2のフォーマットが、例えば高精細度または標準鮮明度(Standard Definition)などの標準フォーマットであることが好ましい。第1のフォーマットは、標準フォーマットまたは非標準フォーマットであり得る。
説明される実施形態は、超高精細度(XHD)ビデオ源を用い、該超高精細度ビデオ源は、魚眼レンズなどの広角レンズを用いて撮られ得る。実施形態がXHD画像に限定されないこと、およびビデオ源がその中で処理されるチャネルよりも高い鮮明度である任意の環境において、説明される技術が用いられ得ることは理解されるべきである。さらに、実施形態は、魚眼または他の超広視野レンズから獲得された画像に特に有用であるが、そのような画像に限定されない。
ビデオは、リアルタイムまたはファイルシーケンスであり得る。この例において、ビデオは、1600×1600ピクセルの画像を生成するカメライメージャを用いて撮られる。このカメライメージャは、360×180カメラであり得、該360×180カメラは、180°半球視界の円形画像を獲得する。XHDビデオを生成するカメラは、多くの用途を有し得る。広視界XHD画像は特に望ましい。なぜなら、獲得された高解像度の画像は、高ズーム時においてもユーザが鮮明な画像を見ることを可能にするからである。このように、高解像度の画像は、見られ得る環境の詳細を改善し、ズーム能力を大幅に増加させ、従って多くの場合、カメラの効果を大幅に増加させる。
図1は、XHDデジタルカメラおよび魚眼レンズを用いて獲得されたXHD画像を示す。画像は、1600×1600ピクセルである。画像において、中心の近くの部分は、ユーザがズームインするために選択された。画像品質がデジタルズーミング中、維持されることが重要である。
図2は、画像収集および本発明の実施を処理することを伴うステップの全体図を示す。この図は、一部のステップをより詳細に例示する図3aおよび図3fも参照して、ここで説明される。
図2は、XHD魚眼ビデオ源を獲得し、それを一般的に用いられる解像度フォーマットにコード化することを伴うステップを示す。コード化される画像を構成するピクセルは、ブロックまたはパターンに分割される。パターンは次いで、説明されるように、HD解像度フォーマットに再編成される。この実施形態において、HDフォーマットはサイズ1920×1080ピクセルである。HDフォーマットにおいて、XHD魚眼ビデオデータは次いで、例えば、移送および/または格納のために圧縮され得る。
パターンは、好ましくは所定の数のピクセルから構成される。好ましくは、すべてのパターンは同じ数のピクセルから構成される。パターンを規定することは、パターンフォーマットが現存の一般的に用いられているコード化標準に準拠し得るという利点を有する。従って、コード化プロセスは、単純化され、より金銭的に利益があがり得る。図3に示されるように、各パターンが正方形のサイズ16ピクセル×16ピクセルであることが現在好ましい。
好ましくは、コード化される所望の画像のみがパターンに規定される。この例において、魚眼画像は、円形画像であり、黒い外側が正方形の画像を構成する。出願人は、円が正方形の辺の各々に一度接触するとき規定されるサイズとして、この実施形態のために正方形のサイズ1600ピクセル×1600ピクセルを規定する。円の外側の黒い領域は、画像データを有しなく、従ってパターンに規定されない。このことは、格納スペースを節約し、コード化されたビデオデータを移送または格納したいとき全移送時間を増加させる。画像領域の縁において、部分的に画像のピクセルで有りかつ部分的に非画像のピクセルである一部のパターンが含まれる。
所定のパターンのすべての辺は、コード化される活性画像の縁におけるパターンの辺を除き、別のパターンの辺に隣接する。最初の正方形の画像サイズ1600×1600ピクセルに対して、画像は、各々が16×16ピクセルである100×100パターンによって規定され得る。画像が、示される例の場合のように、円形レンズを介して獲得される場合、画像は、画像の活性領域のみがパターンに規定される、より少ないパターンによって規定される。この実施形態の場合のように、画像が円形で、規定された正方形の画像サイズの縁に接する場合、規定されたパターンの面積は、7854パターンであると計算される。これは図3cおよび3dに例示される。
各パターンは、パターンの行列においてパターン番号およびx,y座標位置が割り当てられる。この座標情報は、格納され、図3dに例示される。MPEG1、MPEG2およびMPEG4規格におけるコード化規格(フレームP)などの一般的に用いられているコード化規格は、パターンにピクセルを規定するために用いられる。Pフレームは前のフレームを参照してコード化されるフレームである。エンコーダは、ブロックごとに所定の画像と前の画像との差を探索する。これらのブロックはマクロブロックと呼ばれ、マクロブロックは前の画像に重ね合わされる。本実施形態は、マクロブロック構造にパターンをマッピングする。
MPEG規格内において、アルゴリズムは、ブロックごとに2つの画像を比較し、特定の差の閾値を超えると、アルゴリズムは、前の画像のブロックが現在の画像ブロックとは異なると考え、現在の画像のブロックにJPEG圧縮を適用する。
下記に説明されるように、実施形態は、MPEG高精細画像のマクロブロックに図3cの画像のパターンをマッピングし、そして各パターンがマッピングされる位置を規定し、さらなる処理の後に画像を再アセンブルするために用いられ得るキーを生成する。図2に戻り参照すると、画像は100においてカメラによって獲得され、画像は、102において切り取られ、円形画像外の黒い部分を除去する。104において、画像は図3bに示される一式のパターンに変換され、106において各パターンの相対位置が記録される。暗号化アルゴリズム108は、暗号化キーを生成するために用いられる。
図2における112に示されるように、暗号化キーは、パターンを再編成し、一般的に用いられる解像度フォーマットに適合させるために用いられる。この実施形態において、HD解像度フォーマットは1920×1080ピクセルである。このフォーマットは、1600×1600ピクセルの画像から規定される16ピクセルパターンの120パターン×67パターンに適合し得る。従って、最初の魚眼XHD画像のすべての規定されたパターンは、HDフォーマットに適合され得る。この方法の利点は、パターンに規定されるビデオ源が、HDフォーマットにコード化されるとき劣化されないことである。すなわち、パターンが一般的に用いられるフォーマットに再編成されるとき、パターンに規定される画像の領域に各ピクセルが存在する。ビデオデータ=1ピクセルにおけるパターンに規定される1ピクセルは、一般的に用いられるフォーマット解像度におけるパターンにおいて規定される。これは、すべての情報が重要で、ユーザが画像をズームインし、パンおよびチルトすることを望み得る多数の用途において望ましい。XHD画像が7854パターンに分割されて、一方HDフォーマットが最大120×67=8040パターンを収容し得ることは図3から理解される。従って、XHD画像のパターンは、単一のHDフレーム内に快適に適合し得る。単一のHDフレームよりもXHD画像においてより多くのパターンがあるように、XHD画像の解像度がより高い場合、XHD画像は、2つ以上のHD画像フレームの上に広がり得る。
図3dから見られ得るように、各パターンの最初の位置は、次いで格納される行列位置が割り当てられる。位置は、HDフォーマットにマッピングされる。確率関数は、暗号化キーを用いて各パターンに新しい位置を属性とする。このキーは、ビデオデータと共に送られ得、ビデオデータを復号化することを容易にし得る。これは、図3eに例示される。代替案において、パターン位置情報は、エンコーダおよびデコーダにおいて暗号化され、それによって、一旦データが転送されると、最初の画像を再構成することを可能にする。
図2に戻ると、114において生の1920×1080ピクセルHD画像が、生成され、HDエンコーダ116に送られる。この画像データは、ビデオデータと暗号化キーコードとを含むビデオファイルとして図3fに示される。
HD画像は、118に示されるようにMPEGまたはJPEGアルゴリズムなどの従来の技術を用いて圧縮され得、120に示されるようにその圧縮されたフォーマットにおいて、格納されるか、移送されるか、操作されるかまたは処理され得る。操作に続いて、122において、圧縮されたデータは、各フレームに対して生の1920×1080ピクセルファイル126を抽出する従来のHDデコーダ124に送られる。128において、暗号化キーが受信され、最初のXHD画像は、各パターンの開始画像における暗号化キーおよび既知の座標に基づき、再アセンブリされ得る。従って、128において、パターンは、キーを用いてXHDフォーマットに再編成され、130において最初のパターン位置を与える。132においてパターンは画像データピクセルに戻るように変換され、134において生の切り取られた画像が生成される。136に示されるように、画像は必要に応じここで与えられ得る。
ピクセル1920×1080のHD生ファイルとしてのコード化されたビデオデータは、サードパーティを用いて、例えばH264またはDIVXなどの現在あるエンコーダを用いて、コード化され得る。当業者は、開発中のエンコーダまたは目的を達成するHDエンコーダでまだ考え出されていないHDエンコーダを含む多くの他のHDエンコーダが用いられ得ることを理解する。従って、従来のHDエンコーダは、HDフォーマットのXHD魚眼ビデオを圧縮するために用いられ得る。この圧縮された形式において、ビデオは、例えばインターネット記憶装置を用いて、移送および/または格納され得る。HDビデオをコード化することおよびHDビデオを移送しそして格納することの詳細、ならびに機能を実行するエンコーダは、当該分野において周知である。同様に従来のHDデコーダは、次いで、圧縮されたHDフォーマットのXHD広角視野ビデオを復号化し、解凍するために用いられ得る。HDデコーダはまた、当該分野において周知である。
説明される実施形態は、非標準の供給源が圧縮されそして解凍され、従って一般的に用いられるフォーマットで移送そして格納され得るという利点を有する。これは、ユーザにとって非常に有利であり、XHD魚眼ビデオデータなどの供給源が、一般的に用いられているエンコーダおよびデコーダ、この実施形態においてHDエンコーダおよびHDデコーダを用いて圧縮および解凍されることを可能にする。このことは、新しいXHDビデオデータコーデックが開発されることを必要としないで、XHDビデオデータが移送および格納されることを可能にする。広く利用可能ではなく現在金銭的に利益があがらない強力な専用プロセッサおよび超高速ネットワークもまた、必要としない。従って、本実施形態は、多数の用途においてXHD広角視野ビデオ源を使用することを可能にする。
本発明の好ましい用途において、ビデオデータは、データの移送および格納中、それぞれに暗号化される。これは、ビデオデータをより安全にし得る。
本発明の使用例が例示のためのみであることおよび本発明が多くの他の方法で利用され得ることは当業者によって理解される。ビデオ画像サイズが開示された例から変化し得ることおよび画像ピクセルが一般的に用いられている解像度フォーマットに適合するように適切なパターンサイズの適切な数のパターンに適合し得ることもまた理解される。これは、HDまたは一部の他の標準鮮明度(SD)などの一部の他のフォーマットであり得る。必要に応じ、供給源画像のパターンは、より低い解像度で2つ以上の画像にマッピングされ得る。
当業者はまた、各パターンにおけるピクセルの数が一般的に用いられている解像度フォーマットまたはコード化技術の要件に従って変化し得ることを理解する。
説明される実施形態に対する様々な他の修正は可能であり、以下の特許請求の範囲によって規定される本発明の範囲から逸脱することなく、当業者が思いつく。

Claims (13)

  1. 第2の解像度フォーマットに従う後の処理のために第1の解像度フォーマットで獲得された画像を処理するシステムであって、
    該第1の解像度フォーマットの画像の少なくとも一部を複数のパターンに分割する手段であって、各パターンは、複数のピクセルを備えている、手段と、
    該第2の解像度フォーマットの1つ以上の画像に該複数のパターンを再編成する手段であって、該第2の解像度フォーマットの画像は、複数のパターンを含み、該第1の解像度フォーマットおよび該第2の解像度フォーマットにおける該パターンは、同じ数の画像ピクセルを有し、該再編成することは、暗号化キーに基づいて、該第1の解像度フォーマット内の各パターンの位置から該第2の解像度フォーマット内の位置に各パターンをマッピングすることを包含する、手段と、
    該第2の解像度フォーマットで画像を処理するプロセッサと、
    暗号化キーに基づいて、該再編成するステップにおいて適用された該パターンの該マッピングを反転することによって、該第1の解像度フォーマットに戻るように該第2の解像度フォーマットの画像を変換する手段と
    を備えている、システム。
  2. 前記第1の解像度フォーマットの画像のすべてのパターンは、同じ数のピクセルを有する、請求項に記載のシステム。
  3. 前記画像を複数のパターンに分割する手段は、複数のパターンに分割される画像領域の一部分を選択する手段を備えている、請求項1または2に記載のシステム。
  4. 前記画像の供給源は超広視野レンズであり、前記選択された画像の一部分は活性ピクチャ領域に対応する、請求項に記載のシステム。
  5. 前記画像を分割する手段は、各パターンに位置基準を割り当てる手段を備えている、請求項1〜のいずれかに記載のシステム。
  6. 前記パターンを再編成する手段は、前記第2の解像度フォーマットにおける新しい位置に該パターンの前記位置基準をマッピングする手段を備えている、請求項に記載のシステム。
  7. 前記第1の解像度フォーマットは、前記第2の解像度フォーマットより高い解像度フォーマットである、請求項1〜のいずれかに記載のシステム。
  8. 前記パターンは、前記第2の解像度フォーマットにおいて2つ以上の画像に再編成される、請求項1〜のいずれかに記載のシステム。
  9. 前記プロセッサは、前記第2の解像度フォーマットのパターンを前記暗号化キーを含むデータファイルとして処理することにより、前記画像は前記第1の解像度フォーマットに戻るように変換されることが可能である、請求項に記載のシステム。
  10. 前記画像は、ビデオ画像である、請求項1〜のいずれかに記載のシステム。
  11. 第1の解像度フォーマットの画像を第2の解像度フォーマットにコード化するエンコーダであって、
    該第1の解像度フォーマットの画像の少なくとも一部を複数のパターンに分割する手段であって、各パターンは、複数の画像ピクセルを備えている、手段と、
    該第2の解像度フォーマットの1つ以上の画像に該複数のパターンを再編成する手段であって、該第2の解像度フォーマットの画像は、複数のパターンを含み、該第1の解像度フォーマットおよび該第2の解像度フォーマットにおける該パターンは、同じ数のピクセルを有し、該再編成することは、暗号化キーに基づいて、該第1の解像度フォーマットにおける各パターンの位置から該第2の解像度フォーマットにおける位置に各パターンをマッピングすることを包含する、手段と
    を備えている、エンコーダ。
  12. 請求項11に記載のエンコーダと共に使用するデコーダであって、
    前記暗号化キーに基づいて、前記再編成するステップにおいて適用された前記パターンの前記マッピングを反転することによって、前記第1の解像度フォーマットに戻るように前記第2の解像度フォーマットにおいてコード化された画像を変換する手段を備えている、デコーダ。
  13. 第2の解像度フォーマットに従う後の処理のために第1の解像度フォーマットで獲得された画像を処理する方法であって、
    該第1の解像度フォーマットの画像の少なくとも一部を複数のパターンに分割することであって、各パターンは、複数の画像ピクセルを備えている、ことと、
    該第2の解像度フォーマットの1つ以上の画像に該複数のパターンを再編成することであって、該第2の解像度フォーマットの画像は、複数のパターンを含み、該第1の解像度フォーマットおよび該第2の解像度フォーマットにおける該パターンは、同じ数の画像ピクセルを有し、該再編成することは、暗号化キーに基づいて、該第1の解像度フォーマットにおける各パターンの位置から該第2の解像度フォーマットにおける位置に各パターンをマッピングすることを包含する、ことと、
    該第2の解像度フォーマットで画像を処理することと、
    暗号化キーに基づいて、該再編成するステップにおいて適用された該パターンの該マッピングを反転することによって、該第1の解像度フォーマットに戻るように該第2の解像度フォーマットの画像を変換することと
    を包含する、方法。
JP2010508927A 2007-05-21 2008-01-22 画像を処理する方法およびシステム Expired - Fee Related JP5473903B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
GB0709711.6 2007-05-21
GB0709711.6A GB2449631B (en) 2007-05-21 2007-05-21 Method and system for processing of images
PCT/IB2008/001376 WO2008142561A2 (en) 2007-05-21 2008-01-22 Method and system for processing of images

Publications (3)

Publication Number Publication Date
JP2010528516A JP2010528516A (ja) 2010-08-19
JP2010528516A5 JP2010528516A5 (ja) 2010-09-30
JP5473903B2 true JP5473903B2 (ja) 2014-04-16

Family

ID=38234800

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010508927A Expired - Fee Related JP5473903B2 (ja) 2007-05-21 2008-01-22 画像を処理する方法およびシステム

Country Status (11)

Country Link
US (1) US9478011B2 (ja)
EP (1) EP2171682B1 (ja)
JP (1) JP5473903B2 (ja)
CN (1) CN101755287B (ja)
AT (1) ATE547773T1 (ja)
CA (1) CA2687874C (ja)
ES (1) ES2383470T3 (ja)
GB (1) GB2449631B (ja)
HK (1) HK1123913A1 (ja)
PL (1) PL2171682T3 (ja)
WO (1) WO2008142561A2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102340688B (zh) * 2010-07-16 2017-02-15 于培宁 一种图像序列的加密、解密方法
US9151914B2 (en) * 2013-02-08 2015-10-06 Avago Technologies General Ip (Singapore) Pte. Ltd. Optical communication systems and methods for minimizing reflective feedback
CN103248486B (zh) * 2013-04-27 2016-12-28 天地融科技股份有限公司 转换装置和显示***
US9799376B2 (en) * 2014-09-17 2017-10-24 Xiaomi Inc. Method and device for video browsing based on keyframe
US11184599B2 (en) 2017-03-15 2021-11-23 Pcms Holdings, Inc. Enabling motion parallax with multilayer 360-degree video

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2812773B2 (ja) * 1990-02-19 1998-10-22 日立電子株式会社 画像データ分割符号化方法及びその装置
JP3278881B2 (ja) * 1991-12-13 2002-04-30 ソニー株式会社 画像信号生成装置
US5241382A (en) * 1992-04-25 1993-08-31 General Instrument Corporation Digital HDTV data packet format and receiver therefor
JPH06153151A (ja) * 1992-10-31 1994-05-31 Sony Corp ディジタルビデオ信号記録装置
JPH0730855A (ja) 1993-07-08 1995-01-31 Sony Corp ビデオデータの記録方法
US5430486A (en) * 1993-08-17 1995-07-04 Rgb Technology High resolution video image transmission and storage
US6870886B2 (en) * 1993-12-15 2005-03-22 Koninklijke Philips Electronics N.V. Method and apparatus for transcoding a digitally compressed high definition television bitstream to a standard definition television bitstream
US5960126A (en) * 1996-05-22 1999-09-28 Sun Microsystems, Inc. Method and system for providing relevance-enhanced image reduction in computer systems
JP2993455B2 (ja) * 1997-03-10 1999-12-20 日本電気株式会社 画像と音声の再生装置
US6535687B1 (en) * 1999-07-23 2003-03-18 Sarnoff Corporation Method and system for deterring electronic video piracy through image rearrangement
JP2003141562A (ja) * 2001-10-29 2003-05-16 Sony Corp 非平面画像の画像処理装置及び画像処理方法、記憶媒体、並びにコンピュータ・プログラム
JP2003224838A (ja) * 2002-01-28 2003-08-08 Sony Corp 視点自由形画像表示装置及び方法、課金装置及び課金方法、記憶媒体、並びにコンピュータ・プログラム
JP4331492B2 (ja) * 2003-03-11 2009-09-16 アイベックステクノロジー株式会社 画像処理装置、画像提供サーバ装置、画像処理方法および画像処理プログラム
JP4281950B2 (ja) * 2003-07-10 2009-06-17 Kddi株式会社 動画像配信装置
GB0320701D0 (en) * 2003-09-04 2003-10-01 Koninkl Philips Electronics Nv Method and apparatus for storing digital images
US7463816B2 (en) * 2003-09-18 2008-12-09 Cyberlink Corp. Method of encoding and decoding pictured data for enhancing image resolution
JP2005339313A (ja) * 2004-05-28 2005-12-08 Toshiba Corp 画像提示方法及び装置
EP1631089A1 (en) * 2004-08-30 2006-03-01 Matsushita Electric Industrial Co., Ltd. Video coding apparatus and decoding apparatus
EP1910894B1 (en) * 2005-07-19 2012-12-26 Clint Clemens Methods for creating spherical imagery
EP1764736A1 (en) * 2005-09-19 2007-03-21 Thomson Licensing Method and device for image cropping
US9077960B2 (en) * 2005-08-12 2015-07-07 Microsoft Corporation Non-zero coefficient block pattern coding
JP2007318597A (ja) * 2006-05-29 2007-12-06 Opt Kk 広角レンズによる撮像データの圧縮方法、圧縮装置、広角カメラ装置およびモニタシステム
EP2086667B1 (de) 2006-11-10 2012-06-27 innostarter AG Aufschäumen flüssiger lebensmittel

Also Published As

Publication number Publication date
ES2383470T3 (es) 2012-06-21
CN101755287A (zh) 2010-06-23
GB2449631B (en) 2012-02-15
CN101755287B (zh) 2012-10-10
ATE547773T1 (de) 2012-03-15
CA2687874C (en) 2013-09-17
GB2449631A (en) 2008-12-03
WO2008142561A2 (en) 2008-11-27
JP2010528516A (ja) 2010-08-19
CA2687874A1 (en) 2008-11-27
PL2171682T3 (pl) 2012-09-28
GB0709711D0 (en) 2007-06-27
WO2008142561A3 (en) 2009-01-22
HK1123913A1 (en) 2009-06-26
EP2171682A2 (en) 2010-04-07
EP2171682B1 (en) 2012-02-29
US20100189252A1 (en) 2010-07-29
US9478011B2 (en) 2016-10-25

Similar Documents

Publication Publication Date Title
CN112204993B (zh) 使用重叠的被分区的分段的自适应全景视频流式传输
CN109983500B (zh) 重新投影全景视频图片的平板投影以通过应用进行渲染
US11483475B2 (en) Adaptive panoramic video streaming using composite pictures
US20180152663A1 (en) View-dependent operations during playback of panoramic video
CN110546960B (zh) 多层视频流传输***和方法
JP7177034B2 (ja) レガシー及び没入型レンダリングデバイスのために没入型ビデオをフォーマットする方法、装置、及びストリーム
JP5473903B2 (ja) 画像を処理する方法およびシステム
CN112970256A (zh) 基于经全局运动补偿的运动矢量的视频编码
TW201811057A (zh) 影像訊框處理方法
WO2019009760A1 (en) APPARATUS AND METHOD FOR DECODING AND ENCODING PANORAMIC VIDEO
WO2020175908A1 (ko) 시그널링된 정보에 기반한 픽처 파티셔닝 방법 및 장치
JP2004234476A (ja) 画像データ符号化方式、画像データ復号化方式、および画像データ復号化装置
JP2004007266A (ja) 画像符号化装置及び方法、画像復号装置及び方法、並びにプログラム及び記録媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100716

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110704

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120709

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20121005

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20121015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130430

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130730

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130806

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130830

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20130906

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20130927

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20131004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131031

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140204

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees