JP2012500549A - 二次元/三次元再生モード決定方法及び装置 - Google Patents

二次元/三次元再生モード決定方法及び装置 Download PDF

Info

Publication number
JP2012500549A
JP2012500549A JP2011523729A JP2011523729A JP2012500549A JP 2012500549 A JP2012500549 A JP 2012500549A JP 2011523729 A JP2011523729 A JP 2011523729A JP 2011523729 A JP2011523729 A JP 2011523729A JP 2012500549 A JP2012500549 A JP 2012500549A
Authority
JP
Japan
Prior art keywords
video
dimensional
image
change
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011523729A
Other languages
English (en)
Other versions
JP5529870B2 (ja
Inventor
キム,ヨン−テ
パク,サン−ム
キム,デ−シク
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2012500549A publication Critical patent/JP2012500549A/ja
Application granted granted Critical
Publication of JP5529870B2 publication Critical patent/JP5529870B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/356Image reproducers having separate monoscopic and stereoscopic modes
    • H04N13/359Switching between monoscopic and stereoscopic modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/007Aspects relating to detection of stereoscopic image format, e.g. for adaptation to the display format

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

映像シーケンスが入力され、映像シーケンスのうち現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別し、映像シーケンスの再生モードを二次元再生モード及び三次元再生モードのうち判別結果に対応する一つに決定する二次元/三次元再生モード方法である。

Description

本発明は、二次元(2D)映像及び三次元(3D)映像の再生に関する。
二次元映像シーケンスは、1つの視点から撮影された映像によって構成されているが、三次元映像シーケンスは、2以上の視点から撮影された映像によって構成されている。特に、左右視点の映像によって構成された三次元映像シーケンスは、ユーザの左目及び右目に像を結ばせる三次元再生機器を介して三次元で再生されうる。
現在、三次元再生機器は、入力された三次元映像フォーマットを三次元で再生できるが、二次元映像シーケンスを入力されるときには、二次元再生も可能である。所定の三次元再生機器は、入力される映像シーケンスから、二次元または三次元で再生されるかを示すパラメータまたはフラグ(flag)を抽出して再生方式を決定できる。
本発明は、映像シーケンスの二次元/三次元再生モードを決定するためのものある。
本発明の一実施形態による二次元/三次元再生モード決定方法は、映像シーケンスが入力される段階と、前記映像シーケンスのうち、現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別する段階と、前記判別結果に基づいて、前記現在映像の再生モードを二次元再生モード及び三次元再生モードのうちいずれか一つに決定する段階と、を含む。
一実施形態による二次元/三次元映像の判別段階は、前記映像シーケンスのうち現在映像の周囲映像を利用し、前記現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別する段階を含むことができる。
一実施形態による二次元/三次元映像の判別段階は、前記現在映像の周囲映像と、前記現在映像の特性変数とを決定する段階と、前記周囲映像及び前記現在映像のうち2つの映像の特性変数間の変化度を計算する段階と、前記変化度の比率を利用し、前記現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別する段階と、を含むことができる。
一実施形態による前記二次元/三次元映像の判別段階は、前記決定された特性変数を保存する段階をさらに含み、前記変化度の決定段階は、前記2つの映像の特性変数間の変化度を計算するために、前記保存された特性変数を呼び出す段階を含むことができる。
一実施形態による前記特性変数の決定段階は、前記前記現在映像の以前映像の第1統計値、前記現在映像の第2統計値、及び前記現在映像の次の映像の第三統計値を決定する段階を含み、前記変化度の決定段階は、前記第1統計値及び前記第2統計値の差の絶対値である第1変化度、前記第2統計値及び前記第3統計値の差の絶対値である第2変化度、及び前記第1統計値及び前記第3統計値の差の絶対値である第3変化度を計算する段階を含み、前記現在映像の二次元/三次元映像の判別段階は、前記第3変化度に対する前記第1変化度と前記第2変化度との和の比率を計算する段階を含むことができる。
一実施形態による前記統計値決定段階は、前記統計値として、それぞれの映像の所定領域に係わる平均、分散及び標準偏差のうち一つを利用できる。
一実施形態による前記特性変数の決定段階は、それぞれの映像の所定領域に対する変移(disparity)を利用し、前記所定映像の所定領域に対する変移は、前記所定映像の以前映像の所定領域に係わる前記所定映像の所定領域の変移を示すとき、前記現在映像の以前映像の第1変移ベクトル、前記現在映像の第2変移ベクトル、前記現在映像の次の映像の第3変移ベクトルを決定する段階と、前記特性変数として、前記第1変移ベクトルを利用した第1変移数値、前記第2変移ベクトルを利用した第2変移数値、前記第3変移ベクトルを利用した第3変移数値を決定する段階と、を含み、前記変化度の決定段階は、前記第1変移数値及び前記第2変移数値の差の絶対値である第1変化度、前記第2変移数値及び前記第3変移数値の差の絶対値である第2変化度、前記第1変移数値及び前記第3変移数値の差の絶対値である第3変化度を計算する段階を含み、前記現在映像の二次元/三次元映像の判別段階は、前記第3変化度に対する前記第1変化度と前記第2変化度との和の比率を計算する段階を含むことができる。
一実施形態による前記変移数値の決定段階は、前記以前映像の第1変移ベクトルのうち正の第1変移ベクトルを有するブロックの個数に対する負の第1変移ベクトルを有するブロックの個数の比率を示す第1変移数値、前記現在映像の第2変移ベクトルのうち正の第2変移ベクトルを有するブロックの個数に対する負の第2変移ベクトルを有するブロックの個数の比率を示す第2変移数値、前記次の映像の第3変移ベクトルのうち正の第3変移ベクトルを有するブロックの個数に対する負の第3変移ベクトルを有するブロックの個数の比率を示す第3変移数値を決定する段階を含むことができる。
一実施形態による前記現在映像の二次元/三次元映像の判別段階は、前記変化度の比率が所定臨界値より大きいか、あるいはそれと同じであるならば、前記現在映像を三次元映像と決定し、前記特性変数の比率が所定臨界値より小さければ、前記現在映像を二次元映像と決定できる。
一実施形態による前記二次元/三次元再生モード決定段階は、前記二次元映像及び三次元映像のうちいずれか一つと判別された映像シーケンスのうち、前記現在映像の判別結果が、所定個数の周囲映像の判別結果と異なる場合、前記現在映像の再生モードを、前記周囲映像の再生モードと同じ再生モードに変換する段階をさらに含むことができる。
一実施形態による前記二次元/三次元再生モード決定方法は、前記現在映像が二次元再生モードと決定された場合、前記現在映像を二次元映像フォーマットで出力する段階をさらに含むことができる。
一実施形態による前記二次元/三次元再生モード決定方法は、前記映像シーケンスが三次元再生モードと決定された場合、サイドバイサイド・フォーマット(side-by-side format)、トップボトム・フォーマット(top-bottom format)、垂直ラインインターリーブド・フォーマット(vertical line-interleaved format)、水平ラインインターリーブド・フォーマット(horizontal line-interleaved format)、フレームシーケンシャル・フォーマット(frame sequential format)及びフィールドシーケンシャル・フォーマット(field sequential format)のうち少なくともいずれか一つによって、互いに対応する左視点映像及び右視点映像を1つのフレームで構成して出力する段階をより含むことができる。
本発明の一実施形態による二次元/三次元再生モード決定装置は、映像シーケンスが入力される映像入力部と、前記映像シーケンスのうち現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別する二次元/三次元映像判別部と、前記判別結果に基づいて、前記現在映像の再生モードを二次元再生モード及び三次元再生モードのうちいずれか一つに決定する二次元/三次元再生モード決定部と、を含む。
一実施形態による前記二次元/三次元映像判別部は、前記映像シーケンスのうち現在映像の周囲映像を利用し、前記現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別することができる。
一実施形態による前記二次元/三次元映像判別部は、前記現在映像の周囲映像と、前記現在映像の特性変数とを決定する特性変数決定部と、前記周囲映像及び前記現在映像のうち2つの映像の特性変数間の変化度を計算する変化度計算部と、前記変化度の比率を利用し、前記現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別する変化度比率判別部と、を含むことができる。
一実施形態による前記二次元/三次元再生モード決定装置は、前記決定された特性変数を保存する保存部をさらに含み、前記変化度計算部は、前記保存部から入力された前記周囲映像及び前記現在映像の特性変数を利用し、前記周囲映像及び前記現在映像のうち2つの映像の特性変数間の変化度を計算することができる。
また本発明は、本発明の実施形態による二次元/三次元再生モードを決定する方法を具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体を含む。
本発明の実施形態による二次元/三次元再生モード決定方法及び装置により、三次元映像のためのパラメータまたはフラグを支援したり認識したりすることができない三次元再生機器でも、映像シーケンスの画素値情報だけを利用し、二次元映像シーケンスであるか三次元映像シーケンスであるかを判別し、正確な形式で再生することができる。
また、伝送端では、映像シーケンスが二次元/三次元映像であるかを示すフラグなどを伝送する必要がなく、受信端では、二次元/三次元映像フラグを別途に抽出する必要がない。従って、既存のグラフィック・カードとディスプレイシステムの伝送ケーブルなどのハードウェアをそのまま利用しても、二次元/三次元映像を再生することができる。
本発明の一実施形態による二次元/三次元再生モード決定装置のブロック図である。 三次元再生のための入力映像フォーマット及び出力映像フォーマットを図示する図である。 本発明の一実施形態による、映像シーケンスの二次元/三次元再生モードを決定する方法のフローチャートである。 本発明の一実施形態による二次元/三次元再生装置を図示する図である。 二次元映像シーケンスのフレーム別の平均分布を図示するグラフである。 三次元映像シーケンスのフレーム別の平均分布を図示するグラフである。 本発明の一実施形態による二次元/三次元映像鑑別のために利用されるフレーム別平均の関係を図示する図である。 三次元映像シーケンスのフレーム別変移ベクトル方向の分布を図示するグラフである。 本発明の一実施形態による二次元/三次元映像鑑別のために利用されるフレーム別変移ベクトルの関係を図示する図である。 本発明の一実施形態による、映像シーケンスの二次元/三次元再生モードを決定する方式を図示する図である。 本発明の他の実施形態による二次元/三次元再生モード決定方法のフローチャートである。 本発明の本発明の一実施形態による二次元/三次元再生モード決定装置の細部ブロック図である。
本発明の一実施形態による二次元(2D)/三次元(3D)の再生モード決定方法は、映像シーケンスが入力される段階と、前記映像シーケンスのうち現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別する段階と、前記判別結果に基づいて、前記現在映像の再生モードを二次元再生モード及び三次元再生モードのうちいずれか一つに決定する段階と、を含む。
以下、本発明の実施形態に係わる技術的特徴について、添付された図面を参照しつつ詳細に説明を行う。
図1は、本発明の一実施形態による二次元/三次元再生モード決定装置のブロック図である。一実施形態による二次元/三次元再生モード決定装置100は、映像入力部110、二次元/三次元映像判別部120及び二次元/三次元再生モード決定部130を含む。
映像入力部110は、映像シーケンスを入力される。映像シーケンスは、一連の二次元映像であって、一連の三次元映像でもありうる。このとき、三次元映像シーケンスは、互いに対応する左視点フレーム及び右視点フレームが交互に入力されるフレームシーケンシャル形式でありうる。
二次元/三次元映像判別部120は、映像入力部110に入力された映像シーケンスのうち、現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別する。二次元/三次元映像判別部120は、現在映像を含んだ現在映像シーケンスが、二次元映像シーケンスまたは三次元映像シーケンスであるかを判別することもできる。
一実施形態による二次元/三次元映像判別部は、映像シーケンスのうち、現在映像の以前映像と次の映像とを含む周囲映像を利用し、現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別することができる。
図11に図示されているように、一実施形態による二次元/三次元映像判別部は、現在映像の周囲映像及び現在映像の特性変数を決定する特性変数決定部140、周囲映像及び現在映像のうち2つの映像の特性変数間の変化度を計算する変化度計算部150、及び変化度の比率を利用し、現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別する変化度比率判別部160を含むことができる。
特性変数間の変化度(variation)は、特性変数間の差、増加率、減少率などでありうる。以下、図6及び図8で、特性変数間の変化度として、特性変数間の差が利用される。
本発明の一実施形態による二次元/三次元再生モード決定装置100は、映像シーケンスの二次元/三次元再生モードを決定するために使われるそれぞれの映像の特性変数を保存する保存部162をさらに含むことができる。本実施形態の特性変数決定部140は、現在映像及び周囲映像の特性変数を決定し、保存部162に出力できる。本実施形態の変化度計算部150は、保存部162から映像の特性変数を入力され、周囲映像及び現在映像のうち、2つの映像の特性変数間の変化度を計算することができる。
一実施形態の特性変数決定部140は、所定映像に係わる特性変数として、所定映像内画素の統計値、またはその以前映像に係わる所定映像の変移ベクトル関連数値を利用できる。統計価格は画素の平均、分散値、標準偏差などを利用できる。変移ベクトル関連数値は、所定映像の変移ベクトルのうち、変移ベクトル方向が正(+)であるブロックの個数に対する変移ベクトル方向が負(−)であるブロックの個数の比率が利用されうる。
一実施形態の特性変数決定部140は、特性変数として、現在映像の以前映像の第1特性変数、現在映像の第2特性変数、及び現在映像の次の映像の第3特性変数を決定する。
一実施形態の変化度計算部150は、第1特性変数及び第2特性変数の差の絶対値である第1変化度、第2特性変数及び第3特性変数の差の絶対値である第2変化度、及び第1特性変数及び第3特性変数の差の絶対値である第3変化度を計算する。
一実施形態の変化度比率判別部160は、第3変化度に対する第1変化度と第2変化度との和の比率の変化度を計算する変化度比率計算部170を含むことができる。
前記変化度比率判別部160は、第1変化度、第2変化度及び第3変化度の比率を所定臨界値と比較し、現在映像が二次元または三次元映像であるかを決定する変化度比率比較部180を含むことができる。
変化度比率判別部160は、変化度比率計算部170で計算された変化度の比率が、所定臨界値より大きいか、あるいはそれと同じであるならば、現在映像を三次元映像と決定する。一方、変化度比率判別部160は、変化度比率計算部170で計算された変化度の比率が、所定臨界値より小さければ、現在映像を二次元映像と決定できる。
二次元/三次元映像判別部120で、特性変数、変化度、変化度の比率などを利用する具体的な実施形態は、以下の図5Aないし図8を参考にしつつ詳述する。
二次元/三次元再生モード決定部130は、二次元/三次元映像判別部120での判別結果に基づいて、現在映像シーケンスの再生モードを、二次元再生モード及び三次元再生モードのうちいずれか一つに決定する。二次元/三次元映像判別部120で、一連の映像が三次元映像であると判別されたとすれば、二次元/三次元再生モード決定部130は、現在映像シーケンスの再生モードを、三次元再生モードと決定できる。同様に、一連の映像が二次元映像であると判別されたとすれば、二次元/三次元再生モード決定部130は、現在映像シーケンスの再生モードを、二次元再生モードと決定できる。
また、二次元/三次元再生モード決定部130は、フレーム単位で再生モードを決定し、フレームを含む映像シーケンス単位で再生モードを決定することもできる。
一実施形態の二次元/三次元再生モード決定部130は、二次元/三次元映像判別部120での現在映像の判別結果が、現在映像の周囲映像の判別結果と異なる場合、現在映像の再生モードを、周囲映像の再生モードと同じ再生モードに変換する再生モード変換部(図示せず)をさらに含むことができる。
一般的に、リアルタイム・システムでは、未来の映像に係わる情報はないので、過去の一定フレームの再生モード結果を介して、現在フレームの再生モード決定に反映する。再生モードで現在映像と比較される周囲映像は、入力された映像シーケンスのうち、現在映像を含む所定区間の一連の映像である。再生モード変換部を利用する一実施形態は、以下の図9を参考にしつつ詳述する。
一実施形態による二次元/三次元再生モード決定装置100は、二次元/三次元再生モード決定部130で、三次元再生モードと決定された映像に対し、互いに対応する左視点映像情報及び右視点映像情報を含む三次元映像フォーマットに変換し、三次元映像フォーマットの映像シーケンスが出力装置185上で再生されるように出力する三次元映像フォーマット出力部184をさらに含むことができる。
また、一実施形態による二次元/三次元再生モード決定装置100は、二次元/三次元再生モード決定部130で、二次元再生モードと決定された映像を、出力装置185上で再生されるための二次元映像フォーマットで出力する二次元映像フォーマット出力部186をさらに含むことができる。
三次元映像フォーマットの例として、サイドバイサイド・フォーマット(side-by-side format)、トップボトム・フォーマット(Top-bottom format)、垂直ラインインターリーブド・フォーマット(vertical line-interleaved format)、水平ラインインターリーブド・フォーマット(horizontal line-interleaved format)、フレームシーケンシャル・フォーマット(frame sequential format)及びフィールドシーケンシャル・フォーマット(field sequential format)を含むページフリップ・フォーマット(page-flip format)などがある。三次元映像フォーマットは、以下の図2で詳述する。
図2は、三次元再生のための入力映像フォーマット及び出力映像フォーマットを図示している。三次元映像シーケンスが入力される場合、三次元映像フォーマット200として、サイドバイサイド・フォーマット210、トップボトム・フォーマット220、ラインインターリーブド・フォーマット230、フレームシーケンシャル・フォーマット240、及びフィールドシーケンシャル・フォーマット250を含むページフリップ・フォーマット238などがある。
サイドバイサイド・フォーマット210は、左視点映像及び右視点映像の横に半分に縮小させ、解像度を半分に低下させ、解像度が低下された左視点映像情報214及び右視点映像情報216を横に並べて配列し、1つの映像を構成する三次元映像フォーマットである。
トップボトム・フォーマット220は、左視点映像及び右視点映像の縦に半分に縮小させ、解像度を半分に低減させ、解像度が低下した左視点映像情報222及び右視点映像情報224を縦に並べて配列し、1つの映像を構成する三次元映像フォーマットである。
ラインインターリーブド・フォーマット230は、左視点映像及び右視点映像をライン別に交互に配列し、1つの映像を構成する三次元映像フォーマットである。左視点映像の横ライン252及び右視点映像の横ライン254を交互に配列した場合、水平ラインインターリーブド・フォーマットの三次元映像が構成され、左視点映像及び右視点映像の縦ラインを交互に配列した垂直ラインインターリーブド・フォーマットが構成されうる。
ページフリップ・フォーマット238は、正常な1枚の左視点映像及び右視点映像を、時系列に交互に配列する三次元映像フォーマットである。フレームシーケンシャル・フォーマット240は、互いに対応する左視点映像情報255及び右視点映像情報256が、時系列にフレーム単位で交互に配列され、フィールドシーケンシャル・フォーマット250は、左視点映像フィールド257及び右視点映像フィールド258を時系列に交互に配列することによって、三次元映像フォーマットを構成する。
ページフリップ・フォーマット238は、空間的に解像度が低下していない左視点映像情報及び右視点映像情報を利用できる代わりに、時間的に左視点映像及び右視点映像のそれぞれの周波数が半分に低下する。
三次元再生方式260としては、DLP(digital light processing)再生機器271、PDP(plasma display panel)272、LCD(liquid crystal display)273、偏光シート(sheet)を利用した空間分割方式ディスプレイ274などで利用される再生方式270;偏光式プロジェクタで利用されるディスプレイ方式280;を含むことができる。
ディスプレイ装置275で利用される再生方式270によれば、DLP再生機器271、PDP 272、LCD 273、偏光シートを利用した空間分割方式ディスプレイ274は、ページフリップ・フォーマット(フレームシーケンシャル・フォーマット240、フィールドシーケンシャル・フォーマット250)を利用できる。また、偏光シートを利用した空間分割方式ディスプレイ274は、垂直または水平のラインインターリーブド・フォーマット230を利用できる。それ以外にも、偏光式プロジェクタ280は、2つのチャネル282を介して受信された三次元映像を、第1プロジェクタ284及び第2プロジェクタ286を利用して再生する方式で三次元再生を具現できる。
図3は、本発明の一実施形態によって、映像シーケンスの二次元/三次元再生モードを決定する方法のフローチャートを図示している。
映像シーケンスが入力されれば(段階310)、入力された映像シーケンスが、三次元映像シーケンスであるか否かが分析される(段階320)。分析結果に基づいて、三次元映像シーケンスであるか否かを判断し(段階330)、入力された映像シーケンスが、三次元映像シーケンスであると判断されれば、シーケンスの映像を三次元映像フォーマットに変換する(段階340)。三次元映像フォーマットの映像は、三次元再生が可能な再生機器を介して、三次元で再生される(段階350)。三次元再生機器を介した三次元映像フォーマットの再生によって、ユーザは、立体感を感じることができる。
段階320の分析結果に基づいて、入力された映像シーケンスが二次元映像シーケンスであると判断されれば(段階330)、入力された映像シーケンスは、二次元映像フォーマットに変換され(段階360)、再生機器を介して、二次元で再生される(段階370)。本発明の一実施形態によって、入力映像シーケンスの映像情報だけを利用し、入力映像シーケンスが、二次元映像シーケンスまたは三次元映像シーケンスであるかを決定する方法及び装置について、以下の図4ないし図10を参考にしつつ開示する。
図4は、本発明の一実施形態による二次元/三次元再生装置を図示している。
本発明の一実施形態による二次元/三次元再生モード決定方式を採用する三次元再生機器430には、グラフィック・カード410からの二次元映像シーケンス415、またはDVD再生機器またはBD(blu-ray disk)再生機器からのフレームシーケンシャル・フォーマットの三次元映像シーケンス425が入力されうる。
一実施形態による三次元再生機器430は、三次元映像分析部440、三次元映像フォーマット変換部450及び再生部460を含む。図4のそれぞれの構成要素は、BDプレイヤ(BD player)のような映像再生装置に含まれ、三次元TVまたは三次元モニタのような三次元映像ディスプレイ装置に含まれもする。
三次元映像分析部440は、入力された映像シーケンス415,425の映像情報を利用し、映像シーケンス415,425の映像が三次元映像であるか否かが分析されて判別される。三次元映像分析部440で、三次元映像であると判別された映像シーケンスは、三次元映像フォーマット変換部450に出力され、二次元映像であると判別された映像シーケンスは、再生部460に直ちに出力される。
三次元映像フォーマット変換部450は、三次元映像であると判別された映像に対して、三次元映像フォーマットを変換して再生部460に出力する。三次元映像フォーマット変換部450は、再生部の三次元再生方式によって、映像を、サイドバイサイド・フォーマット、トップボトム・フォーマット、垂直/水平ラインインターリーブド・フォーマット、フレームシーケンシャル・フォーマット及びフィールドシーケンシャル・フォーマットに変換できる。
再生部460は、映像フォーマットによって、二次元映像フォーマットの映像シーケンスは、二次元で、三次元映像フォーマットの映像シーケンスは、三次元で再生することができる。
一実施形態による三次元再生機器430、及び一実施形態による二次元/三次元再生モード決定装置100を対応させてみれば、三次元映像分析部440が、二次元/三次元映像判別部120の機能を含むことができ、三次元映像フォーマット変換部450が、二次元/三次元再生モード決定部130の機能を含むことができる。
本発明の実施形態による二次元/三次元再生モード決定方法及び装置によって、三次元映像のためのパラメータまたはフラグ(flag)を支援または認識できない三次元再生機器でも、映像シーケンスの画素値情報だけを利用して、二次元映像シーケンスであるか三次元映像シーケンスであるかを判別し、正確な形式で再生することができる。
また、伝送端では、映像シーケンスが二次元/三次元映像であるかを示すフラグなどを伝送する必要がなく、受信端では、二次元/三次元映像フラグを別途に抽出する必要がない。従って、既存のグラフィック・カードやディスプレイ・システムの伝送ケーブルのようなハードウェアをそのまま利用しても、二次元/三次元映像を再生することができる。
図5Aは、二次元映像シーケンスのフレーム別の平均分布を図示し、図5Bは、三次元映像シーケンスのフレーム別の平均分布を図示している。
図5Aに図示された二次元映像シーケンスは、1つの視点から撮影された映像が、フレーム単位で、時系列に羅列された形式である。図5Bに図示された三次元映像シーケンスは、左右視点から撮影された映像が、交互にフレーム単位で時系列に羅列された形式である。
図5Aに図示された二次元映像シーケンスのグラフを参考にすれば、時系列の隣接フレームの画素値の平均間の変化幅が大きくない。一方、図5Bに図示された三次元映像シーケンスのグラフを参考にすれば、隣接フレームの画素値の平均がかなり変更されている。
三次元映像シーケンスで、交互に羅列された左視点フレームと右視点フレームは、互いに異なる特性の画素値を有するために、図5Bに図示されたグラフは、左視点フレームの画素値の平均510と、直前(直後)順序の右視点フレームの画素値の平均520との変化幅が大きい。
図5A及び図5Bは、フレームの画素値の平均を利用して、二次元/三次元映像シーケンスのフレーム特性間の差を示したが、平均だけではなく、画素値の分散、標準偏差などを利用しても、フレーム特性間の差は確認されうる。
一実施形態の二次元/三次元映像判別部120は、図5A及び図5Bのフレームの画素の平均分布特性を利用し、入力映像シーケンスが二次元/三次元映像シーケンスであるかを判別することができる。以下、図6を参考にしつつ、一実施形態の二次元/三次元映像判別部120が、それぞれのフレームの特性変数として、フレームの画素値の平均を利用する方法について詳述する。
図6は、本発明の一実施形態による二次元/三次元映像鑑別のために利用されるフレーム別平均の関係を図示している。
現在フレーム(t)620を基準に、以前フレーム(t−1)610は左視点映像L1、現在フレーム620は右視点映像R、次のフレーム(t+1)630はまた、左視点映像L2である。フレーム610,620,630別に左右視点映像が交互に羅列されるので、三次元映像シーケンス632のうち一部フレームである場合である。
フレーム別特性変数としてフレームの画素値の統計値が利用されるとき、一実施形態の二次元/三次元映像判別部120の特性変数決定部140は、それぞれのフレームの画素値の統計値を決定する統計値決定部634を含み、変化度計算部150は、隣接フレームの統計値の変化度を計算する統計値変化度計算部636を含むことができる。また、一実施形態の二次元/三次元映像判別部120の変化度比率判別部160は、フレーム間変化度の比率を計算する統計値変化度比率計算部638を含むことができる。
図6には、それぞれのフレーム610,620,630に、左右視点映像であることが図示されているが、一実施形態の二次元/三次元再生モード決定装置100は、入力映像シーケンス上に、左右視点映像情報が交互に入力されたという情報なしにも、それぞれのフレーム610,620,630の画素値の統計値を利用し、二次元/三次元映像シーケンスであるか否かを判別することができる。図6では、統計値中の平均が利用されている。
一実施形態の統計値決定部634は、以前フレーム610の第1統計値、現在フレーム620の第2統計値、次のフレーム630の第3統計値を決定する。
図6に図示された実施形態を参考にして、統計値決定部634は、以前フレーム610の画素の平均Mean(t−1)640、現在フレーム620の画素の平均Mean(t)650、及び次のフレーム630の画素の平均Mean(t+1)660を決定できる。
一実施形態の統計値変化度計算部636は、以前フレーム610及び現在フレーム620の統計値間の第1変化度、現在フレーム620及び次のフレーム630の統計値間の第2変化度、以前フレーム610及び次のフレーム630の統計値間の第3変化度を計算する。
一実施形態の統計値変化度計算部636は、フレームの統計値間の差の絶対値を利用して変化度を計算する。統計値間の差の絶対値を利用する理由は、差の方向(+,−)によって、変化度の和が相殺される場合を防止するためである。
図6に図示された実施形態を参考にして、統計値変化度計算部636は、以前フレーム平均Mean(t−1)640及び現在フレーム平均Mean(t)650間の差の絶対値である第1変化度diff1を決定できる。同様に、統計値変化度計算部636は、現在フレーム平均Mean(t)650及び次のフレーム平均Mean(t+1)660間の差の絶対値である第2変化度diff2、及び以前フレーム平均Mean(t−1)640及び次のフレーム平均Mean(t+1)660間の差の絶対値である第3変化度diff3を決定できる。
一実施形態の統計値変化度比率計算部638は、第3変化度に対する第1変化度と第2変化度との和の比率を計算する。統計値変化度比率Dは、第1変化度diff1と第2変化度diff2との和を、第3変化度diff3と定数cとの和で割った値である。
=(diff1+diff2)/(diff3+c) (1)
ここで、定数cは、分母が0になる場合を防止するためである。
変化度比率比較部180は、現在映像が、二次元/三次元映像であるかを判別するために、変化度比率Dを所定臨界値と比較する。例えば、臨界値を1と仮定すれば、すぐ隣接したフレームとの変化度の和が、1フレーム飛び越えたフレームとの変化度に比べて大きいならば(すなわち、D>>1)、隣接フレーム間の統計値が大きく変わる場合であるから、変化度比率判別部160は、以前フレーム610、現在フレーム620及び次のフレーム630を、三次元映像シーケンスの映像であると判別することができる。
一方、すぐ隣接したフレームとの変化度の和が、1フレーム飛び越えたフレームとの変化度に比べて小さいならば(すなわち、D<<1)、隣接フレーム間の統計値が大きく変わらない場合であるから、変化度比率判別部160は、以前フレーム610、現在フレーム620及び次のフレーム630を、二次元映像シーケンスの映像であると判別することができる。
図7は、三次元映像シーケンスのフレーム別変移ベクトル方向の分布を図示している。
三次元映像シーケンスは、フレーム順序によって、左右視点映像情報が交互に羅列される。現在フレームが左視点フレームであるならば、以前フレーム及び次のフレームは、右視点フレームである。所定フレームの変移ベクトルは、以前フレームに対比される所定フレームの変移推定によって決定されうる。映像シーケンスの変移ベクトルに係わるパラメータが与えられるならば、変移ベクトルに係わるパラメータを利用し、それぞれのフレームの変移ベクトルが決定されもする。
所定フレームの変移ベクトルが、方向が負(−)であるブロックの個数820、及び正(+)であるブロックの個数820の比率を利用し、左右視点映像が交互に羅列されているか否かを判別することができる。図7に図示された変移ベクトルの方向によるブロック個数の分布を参考にすれば、左視点フレーム(奇数番目のフレーム)に対比される右視点フレーム(偶数番号目のフレーム)の変移ベクトル方向によるブロック個数の比率と、右視点フレームに対比される左視点フレームの変移ベクトル方向によるブロック個数の比率は、差が大きい。
一実施形態の二次元/三次元映像判別部120は、図7のフレームの変移ベクトル方向特性に基づいて、所定フレームの変移ベクトル方向が、(+)方向/(−)方向であるブロック個数比率を、周囲フレームの比率と比較することによって、入力映像シーケンスが、二次元/三次元映像シーケンスであるかを判別することができる。以下、図8を参考にしつつ、一実施形態の二次元/三次元映像判別部120が、それぞれのフレームの特性変数として、フレームの変移ベクトルを利用する方法について詳述する。
図8は、本発明の一実施形態による二次元/三次元映像鑑別のために利用されるフレーム別変移ベクトルの関係を図示している。
図8に図示された映像シーケンス902は、現在フレーム(t)930を基準に、第1右視点フレーム(t−2)910、第1左視点フレーム(t−1)920、第2右視点フレーム(t)930、第2左視点映像(t+1)940が交互に羅列される三次元映像シーケンスである。第2右視点フレーム(t)930が現在映像である。
一実施形態の二次元/三次元再生モード決定装置100は、入力映像シーケンス上に、左右視点映像情報が交互に入力されたという情報なしにも、それぞれのフレーム910,920,930,940の変移ベクトルの方向を利用し、二次元/三次元映像シーケンスであるか判別することができる。一実施形態の特性変数決定部140は、フレーム別特性変数として、フレームの変移ベクトルの方向によるブロック個数の比率を利用できる。
フレーム別特性変数として、フレームの画素値の統計値が利用されるとき、一実施形態の二次元/三次元映像判別部120の特性変数決定部140は、それぞれのフレームの変移ベクトルを決定する変移ベクトル決定部950、及びそれぞれのフレームの変移ベクトルを利用する変移数値を決定する変移数値決定部960を含むことができる。一実施形態の二次元/三次元映像判別部120の変化度計算部150は、隣接フレームの変移数値の変化度を計算する変移数値変化度計算部970を含むことができる。一実施形態の二次元/三次元映像判別部120の変化度比率判別部160は、変移数値の差値の比率を計算する変移値変化度比率計算部980を含むことができる。
一実施形態の変移ベクトル決定部950は、所定フレームの以前フレームの所定領域に対比させて、所定フレームの所定領域の変移を推定することによって、所定フレームの変移ベクトルを決定できる。従って、変移ベクトル決定部950は、フレーム全体領域に対する変移だけではなく、一部領域に対する変移を利用することもできる。フレームの変移ベクトルに係わるパラメータが入力された場合、変移ベクトル決定部950は、パラメータから変移ベクトル値を抽出できる。
一実施形態の変移ベクトル決定部950は、以前フレーム920の変移ベクトル第1変移ベクトル、現在フレーム930の第2変移ベクトル、次のフレーム940の第3変移ベクトルを決定できる。図8に図示された実施形態を参考にして、変移ベクトル決定部950は、以前フレーム920の変移ベクトルDVt−1、現在フレーム930の変移ベクトルDV、次のフレーム940の変移ベクトルDVt+1を決定できる。
一実施形態の変移数値決定部960は、以前フレーム920の第1変移ベクトルの方向によるブロックの個数比率を示す第1変移数値、現在フレーム930の第2変移ベクトルの方向によるブロックの個数比率を示す第2変移数値、次のフレーム940の第3変移ベクトルの方向によるブロックの個数比率を示す第3変移数値を決定する。
図8に図示された実施形態を参考にして、変移数値決定部960は、以前フレーム920の第1変移ベクトルDVt−1の方向によるブロック個数比率の変移数値RDV(t−1)を決定し、現在フレーム930の第2変移ベクトルDVの方向によるブロック個数比率の変移数値RDV(t)、次のフレーム940の第3変移ベクトルDVt+1の方向によるブロック個数比率の変移数値RDV(t+1)を決定できる。
一実施形態の変移数値決定部960は、n番目のフレームの変移ベクトルの方向が(−)であるブロック個数を、変移ベクトルの方向が(+)であるブロック個数と1との和で割ることにより、変移数値RDV(n)を決定する。
DV(n)=(# of blocks with negative disparity vectors)/(# of blocks with positive disparity vectors+1) (2)
ここで、分母に1を加える理由は、分母が0になる場合を防止するためである。
一実施形態の変移数値変化度計算部970は、以前フレーム920及び現在フレーム930の変移数値間の第1変化度、現在フレーム930及び次のフレーム940の変移数値間の第2変化度、以前フレーム920及び次のフレーム940の変移数値間の第3変化度を計算する。
図8に図示された実施形態を参考にして、変移数値変化度計算部970は、以前フレーム920の変移数値RDV(t−1)と、在フレーム930の変移数値RDV(t)937との変化度diffDV1、現在フレーム930の変移数値RDV(t)と、次のフレーム940の変移数値RDV(t+1)との変化度diffDV2、及び以前フレーム920の変移数値RDV(t−1)と、次のフレーム940の変移数値RDV(t+1)との変化度diffDV3を決定する。
一実施形態の変移値変化度比率計算部980は、第3変化度に対する第1変化度と第2変化度との和の比率を計算する。変移数値変化度比率Dは、第1変化度diffDV1と第2変化度diffDV2との和を、第3変化度diffDV3と定数cとの和で割った値である。
=(diffDV1+diffDV2)/(diffDV3+c) (3)
ここで、定数cは、分母が0になる場合を防止するためである。
前述の通り、変化度比率判別部180は、現在映像が二次元/三次元映像であるかを判別するために、一実施形態の変移値変化度比率計算部980によって獲得された変化度比率Dを所定臨界値と比較できる。
図9は、本発明の一実施形態によって、映像シーケンスの二次元/三次元再生モードを決定する方式を図示している。
二次元/三次元映像判別部120により、映像シーケンス1100のフレームが、二次元/三次元映像であるかを判別された結果1110で、特定フレーム1120だけが二次元(三次元)映像であると判別され、他のフレームは、いずれも三次元(二次元)映像であると判別された場合、一実施形態の二次元/三次元再生モード決定部130は、映像シーケンス1100のフレーム全部の再生モードを三次元(二次元)再生モードと決定できる。これは、映像シーケンス1100の再生モードの統一性を確保したり、あるいは二次元/三次元映像判別部120の判別結果の信頼性を高めるためである。
一実施形態の二次元/三次元再生モード決定部130は、システムのメモリなどの環境を考慮し、二次元/三次元映像判別部120の比較対象になる周囲フレームの範囲を調節できる。
二次元/三次元再生モード決定部130によって、現在映像または映像シーケンスが三次元再生モードと決定されれば、三次元で再生することができる映像再生機器の再生方式に適した映像フォーマットを変換して出力されねばならない場合がある。従って、他の実施形態による二次元/三次元再生モード決定装置100の出力部は、三次元映像シーケンスを適切な三次元映像フォーマットに変換して出力できる。
例えば、フレームシーケンシャル・フォーマットによる再生方式による再生機器に、映像シーケンスを出力する場合、一実施形態の二次元/三次元再生モード決定装置100は、現在映像に対応する左視点映像及び右視点映像を、1つのフレームずつ交互に、フレームシーケンシャル・フォーマットを構成して出力する三次元フレームシーケンシャル・フォーマット出力部をさらに含むことができる。
また、一実施形態の二次元/三次元再生モード決定装置100は、再生方式によって、左視点映像及び右視点映像を、横軸方向に解像度を半分に縮小し、解像度が半分に縮小された左視点映像及び右視点映像の縦ラインが交互に配列される垂直ラインインターリーブド・フォーマットで構成して出力する三次元垂直ラインインターリーブド・フォーマット出力部をさらに含むことができる。
図10は、本発明の他の実施形態による二次元/三次元再生モード決定方法のフローチャートを図示している。
段階1210で、映像シーケンスが入力される。本実施形態による二次元/三次元再生モード決定方法は、入力された映像シーケンスが二次元映像シーケンスであるか三次元映像シーケンスであるかを示す情報が別途に入力されない場合に、映像シーケンスだけを利用して判別することができる。
段階1220で、映像シーケンスのうち現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別される。フレーム単位で、二次元/三次元映像であるかが判別されたり、映像シーケンス単位で、二次元/三次元映像シーケンスであるかを判別することができる。時間的に隣接した映像または周囲フレーム間の特性変数の変化度を利用し、二次元/三次元映像(シーケンス)であるかを判別することができる。特性変数は、フレーム別画素の平均、分散、標準偏差などの統計値、またはフレーム別変移ベクトル関連情報などが利用されうる。
段階1230で、段階1220の判別結果に基づいて、現在映像の再生モードが二次元再生モード及び三次元再生モードのうちいずれか一つに決定される。段階1220で、二次元映像であると判別されれば、二次元再生モードに、三次元映像であると判別されれば、三次元再生モードと決定される。
ただし、所定区間の映像シーケンス内の映像のうち、所定映像のみが、その判別結果が多数の他の映像の判別結果と異なる場合、映像シーケンスの再生モードは、多数映像の再生モードと統一されて決定されうる。リアルタイム・システムの場合、過去一定映像の結果に基づいて、現在映像の再生モードが決定される。
段階1240で、段階1230の再生モード決定結果に基づいて、映像シーケンスが二次元または三次元映像のフォーマットで出力される。映像シーケンスが、三次元再生モードであると決定されても、再生機器が支援する三次元再生方式に基づいて、垂直ラインインターリーブド・フォーマット、フレームシーケンシャル・フォーマットなどの三次元映像フォーマットが決定されて変換されうる。
一方、前述の本発明の実施形態は、コンピュータで実行できるプログラムに作成可能であり、コンピュータで読み取り可能な記録媒体を利用し、前記プログラムを動作させる汎用デジタル・コンピュータで具現されうる。前記コンピュータで読み取り可能な記録媒体は、マグネチック記録媒体(例を上げれば、ROM(read-only memory)、フロッピー(登録商標)ディスク、ハードディスクなど)、光学的判読媒体(例えば、CD−ROM、DVDなど)のような記録媒体を含む。
本発明の実施形態はまた、伝送媒体上に記録されたコンピュータで読み取り可能なコードまたは命令語で具現されうる。例えば、伝送媒体は、キャリアウェーブや、インターネットを介したデータの送受信可能なデータ送受信装置を含むことができる。
以上、本発明についてその望ましい実施形態を中心に述べた。本発明が属する技術分野で当業者であるならば、本発明が本発明の本質的な特性からはずれない範囲で変形された形態で具現できることを理解することができるであろう。従って、開示された実施形態は、限定的な観点ではなく、説明的な観点から考慮されねばならない。本発明の範囲は、前述の説明ではなく、特許請求の範囲に示されており、それと同等な範囲内にあるあらゆる差異点は、本発明に含まれたものであると解釈されねばならない。

Claims (25)

  1. 二次元または三次元再生モードを決定する方法において、
    現在映像を含む映像シーケンスが入力される段階と、
    前記現在映像が二次元映像または三次元映像であるかを判別する段階と、
    前記現在映像が二次元及び三次元映像であるかを判別した結果に基づいて、前記映像シーケンスの再生モードを、二次元再生モードまたは三次元再生モードと決定する段階と、を含むことを特徴とする二次元/三次元再生モード決定方法。
  2. 前記二次元/三次元映像の判別段階は、
    前記映像シーケンスのうち現在映像の周囲映像を基に、前記現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別する段階を含むことを特徴とする請求項1に記載の二次元/三次元再生モード決定方法。
  3. 前記二次元/三次元映像の判別段階は、
    前記映像シーケンスのうち現在映像の周囲映像及び前記現在映像の特性変数を決定する段階と、
    前記周囲映像及び前記現在映像のうち2つの映像の特性変数間の変化度を計算する段階と、
    前記変化度の比率を基に、前記現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別する段階と、をさらに含むことを特徴とする請求項2に記載の二次元/三次元再生モード決定方法。
  4. 前記二次元/三次元再生モード決定方法は、
    前記決定された特性変数を保存する段階と、
    前記2つの映像の特性変数間の変化度を計算するために、前記保存された特性変数を抽出する段階と、をさらに含むことを特徴とする請求項3に記載の二次元/三次元再生モード決定方法。
  5. 前記周囲映像は、前記現在映像の以前映像と次の映像とを含み、
    前記二次元/三次元再生モード決定方法は、
    前記特性変数として、前記以前映像の第1統計値、前記現在映像の第2統計値、及び前記次の映像の第3統計値を決定する段階と、
    前記第1統計値及び前記第2統計値の差の絶対値として第1変化度、前記第2統計値及び前記第3統計値の差の絶対値として第2変化度、及び前記第1統計値及び前記第3統計値の差の絶対値として第3変化度を計算する段階と、
    前記第3変化度に対する前記第1変化度と前記第2変化度との和の比率を計算する段階と、を含むことを特徴とする請求項3に記載の二次元/三次元再生モード決定方法。
  6. 前記統計値決定段階は、
    前記統計値として、前記映像シーケンスのそれぞれの映像の所定領域に係わる平均、分散及び標準偏差のうち一つを利用することを特徴とする請求項5に記載の二次元/三次元再生モード決定方法。
  7. 前記周囲映像は、前記現在映像の以前映像と次の映像とを含み、
    前記二次元/三次元再生モード決定方法は、
    それぞれの映像の現在領域に対する変移を基に、前記現在映像の変移は、前記以前映像の所定領域に係わる前記現在映像の所定領域の変移を示すとき、前記以前映像の第1変移ベクトル、前記現在映像の第2変移ベクトル、前記次の映像の第3変移ベクトルを決定する段階と、
    前記特性変数として、前記第1変移ベクトルを利用した第1変移数値、前記第2変移ベクトルを利用した第2変移数値、前記第3変移ベクトルを利用した第3変移数値を決定する段階と、
    前記第1変移数値及び前記第2変移数値の差の絶対値である第1変化度、前記第2変移数値及び前記第3変移数値の差の絶対値である第2変化度、前記第1変移数値及び前記第3変移数値の差の絶対値である第3変化度を計算する段階と、
    前記第3変化度に対する前記第1変化度と前記第2変化度との和の比率を計算する段階と、を含むことを特徴とする請求項3に記載の二次元/三次元再生モード決定方法。
  8. 前記変移数値の決定段階は、
    前記以前映像の第1変移ベクトルのうち正の第1変移ベクトルを有するブロックの個数に対する負の第1変移ベクトルを有するブロックの個数の比率を示す第1変移数値、前記現在映像の第2変移ベクトルのうち正の第2変移ベクトルを有するブロックの個数に対する負の第2変移ベクトルを有するブロックの個数の比率を示す第2変移数値、前記次の映像の第3変移ベクトルのうち正の第3変移ベクトルを有するブロックの個数に対する負の第3変移ベクトルを有するブロックの個数の比率を示す第3変移数値を決定する段階を含むことを特徴とする請求項7に記載の二次元/三次元再生モード決定方法。
  9. 前記現在映像の二次元/三次元映像の判別段階は、
    前記変化度の比率が所定臨界値より大きいか、あるいはそれと同じであるならば、前記現在映像を三次元映像と決定し、前記特性変数の比率が所定臨界値より小さければ、前記現在映像を二次元映像と決定する段階をさらに含むことを特徴とする請求項3に記載の二次元/三次元再生モード決定方法。
  10. 前記二次元/三次元再生モード決定段階は、
    前記二次元映像及び三次元映像のうちいずれか一つと判別された映像シーケンスのうち、前記現在映像の判別結果が、所定個数の周囲映像の判別結果と異なる場合、前記現在映像の再生モードを、前記周囲映像の再生モードと同じ再生モードに変換する段階を含むことを特徴とする請求項2に記載の二次元/三次元再生モード決定方法。
  11. 前記二次元/三次元再生モード決定方法は、
    前記現在映像が二次元再生モードと決定された場合、前記映像シーケンスを、二次元映像フォーマットで構成して出力する段階をさらに含むことを特徴とする請求項1に記載の二次元/三次元再生モード決定方法。
  12. 前記二次元/三次元再生モード決定方法は、
    前記映像シーケンスが三次元再生モードと決定された場合、サイドバイサイド・フォーマット、トップボトム・フォーマット、垂直ラインインターリーブド・フォーマット、水平ラインインターリーブド・フォーマット、フレームシーケンシャル・フォーマット及びフィールドシーケンシャル・フォーマットのうち少なくともいずれか一つによって、互いに対応する左視点映像及び右視点映像を1つのフレームで構成する段階と、
    前記構成されたフレームを出力する段階と、をさらに含むことを特徴とする請求項1に記載の二次元/三次元再生モード決定方法。
  13. 二次元または三次元再生モードを決定する装置は、
    現在映像を含む映像シーケンスが入力される映像入力部と、
    前記映像が二次元映像または三次元映像であるかを判別する二次元/三次元映像判別部と、
    前記映像が二次元映像または三次元映像であるかを判別した結果に基づいて、前記映像シーケンスの再生モードを二次元または三次元再生モードと決定する二次元/三次元再生モード決定部と、を含むことを特徴とする二次元/三次元再生モード決定装置。
  14. 前記二次元/三次元映像判別部は、
    前記映像シーケンスのうち現在映像の周囲映像を基に、前記現在映像が二次元映像及び三次元映像のうちいずれか一つであるかを判別することを特徴とする請求項13に記載の二次元/三次元再生モード決定装置。
  15. 前記二次元/三次元映像判別部は、
    前記映像シーケンスのうち現在映像の周囲映像及び前記現在映像の特性変数を決定する特性変数決定部と、
    前記周囲映像及び前記現在映像のうち2つの映像の特性変数間の変化度を計算する変化度計算部と、
    前記変化度の比率を基に、前記現在映像を二次元映像または三次元映像であるかを判別する変化度比率判別部と、を含むことを特徴とする請求項14に記載の二次元/三次元再生モード決定装置。
  16. 前記二次元/三次元再生モード決定装置は、
    前記決定された特性変数を保存する保存部をさらに含むことを特徴とする請求項15に記載の二次元/三次元再生モード決定装置。
  17. 前記周囲映像は、前記現在映像の以前映像と次の映像とを含み、
    前記二次元/三次元再生モード決定装置は、
    前記特性変数として、前記以前映像の第1統計値、前記現在映像の第2統計値、及び前記次の映像の第3統計値を決定する統計値決定部と、
    前記変化度計算部は、前記第1統計値及び前記第2統計値の差の絶対値である第1変化度、前記第2統計値及び前記第3統計値の差の絶対値である第2変化度、及び前記第1統計値及び前記第3統計値の差の絶対値である第3変化度を計算する統計値変化度計算部と、
    前記変化度比率判別部は、前記第3変化度に対する前記第1変化度と前記第2変化度との和の比率を計算する統計値変化度比率計算部と、を含むことを特徴とする請求項15に記載の二次元/三次元再生モード決定装置。
  18. 前記統計値決定部は、
    前記統計値として、それぞれの映像の所定領域に係わる平均、分散及び標準偏差のうち一つを利用することを特徴とする請求項17に記載の二次元/三次元再生モード決定装置。
  19. 前記周囲映像は、前記現在映像の以前映像と次の映像とを含み、
    前記二次元/三次元再生モード決定装置は、
    それぞれの映像の所定領域に対する変移を基に、前記映像の変移は、前記現在映像の以前映像の所定領域に係わる前記現在映像の所定領域の変移を示すとき、前記現在映像の以前映像の第1変移ベクトル、前記現在映像の第2変移ベクトル、前記現在映像の次の映像の第3変移ベクトルを決定する変移ベクトル決定部と、
    前記特性変数として、前記第1変移ベクトルを利用した第1変移数値、前記第2変移ベクトルを利用した第2変移数値、前記第3変移ベクトルを利用した第3変移数値を決定する変移数値決定部と、
    前記第1変移数値及び前記第2変移数値の差の絶対値である第1変化度、前記第2変移数値及び前記第3変移数値の差の絶対値である第2変化度、前記第1変移数値及び前記第3変移数値の差の絶対値である第3変化度を計算する変移数値変化度計算部と、
    前記第3変化度に対する前記第1変化度と前記第2変化度との和の比率を計算する変移数値変化度比率計算部と、を含むことを特徴とする請求項15に記載の二次元/三次元再生モード決定装置。
  20. 前記変移数値決定部は、
    前記以前映像の第1変移ベクトルのうち正の第1変移ベクトルを有するブロックの個数に対する負の第1変移ベクトルを有するブロックの個数の比率を示す第1変移数値と、
    前記現在映像の第2変移ベクトルのうち正の第2変移ベクトルを有するブロックの個数に対する負の第2変移ベクトルを有するブロックの個数の比率を示す第2変移数値と、
    前記次の映像の第3変移ベクトルのうち正の第3変移ベクトルを有するブロックの個数に対する負の第3変移ベクトルを有するブロックの個数の比率を示す第3変移数値と、を決定するブロック個数比率計算部を含むことを特徴とする請求項19に記載の二次元/三次元再生モード決定装置。
  21. 前記変化度比率判別部は、
    前記変化度の比率が所定臨界値より大きいか、あるいはそれと同じであるならば、前記現在映像を三次元映像と決定し、前記特性変数の比率が所定臨界値より小さければ、前記現在映像を二次元映像と決定する変化度比率比較部を含むことを特徴とする請求項15に記載の二次元/三次元再生モード決定装置。
  22. 前記二次元/三次元再生モード決定部は、
    前記二次元映像及び三次元映像のうちいずれか一つと判別された映像シーケンスのうち、前記現在映像の判別結果が、所定個数の周囲映像の判別結果と異なる場合、前記現在映像の再生モードを、前記周囲映像の再生モードと同じ再生モードに変換する再生モード変換部をさらに含むことを特徴とする請求項14に記載の二次元/三次元再生モード決定装置。
  23. 前記二次元/三次元再生モード決定装置は、
    前記映像シーケンスが二次元再生モードと決定された場合、前記映像シーケンスを二次元映像フォーマットで構成して出力する二次元再生モード出力部をさらに含むことを特徴とする請求項13に記載の二次元/三次元再生モード決定装置。
  24. 前記二次元/三次元再生モード決定装置は、
    前記映像シーケンスが三次元再生モードと決定された場合、サイドバイサイド・フォーマット、トップボトム・フォーマット、垂直ラインインターリーブド・フォーマット、水平ラインインターリーブド・フォーマット、フレームシーケンシャル・フォーマット及びフィールドシーケンシャル・フォーマットのうち少なくともいずれか一つによって、互いに対応する左視点映像及び右視点映像を1つのフレームで構成して出力する三次元フォーマット出力部をさらに含むことを特徴とする請求項13に記載の二次元/三次元再生モード決定装置。
  25. 映像の再生モードを決定する方法を具現するために、コンピュータで実行可能なプログラムが記録されたコンピュータで読み取り可能な記録媒体において、前記映像再生モード決定方法は、
    現在映像を含む映像シーケンスが入力される段階と、
    前記現在映像が二次元または三次元映像であるかを判別する段階と、
    前記現在映像が二次元または三次元映像であるかを判別した結果に基づいて、前記映像シーケンスの再生モードを二次元または三次元再生モードと決定する段階と、を含むことを特徴とする記録媒体。
JP2011523729A 2008-08-18 2009-05-19 二次元/三次元再生モード決定方法、二次元/三次元再生モード決定装置及び記憶媒体 Expired - Fee Related JP5529870B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR10-2008-0080565 2008-08-18
KR1020080080565A KR101520620B1 (ko) 2008-08-18 2008-08-18 2차원/3차원 재생 모드 결정 방법 및 장치
PCT/KR2009/002603 WO2010021450A1 (en) 2008-08-18 2009-05-19 Method and apparatus for determining two- or three-dimensional display mode of image sequence

Publications (2)

Publication Number Publication Date
JP2012500549A true JP2012500549A (ja) 2012-01-05
JP5529870B2 JP5529870B2 (ja) 2014-06-25

Family

ID=41681038

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011523729A Expired - Fee Related JP5529870B2 (ja) 2008-08-18 2009-05-19 二次元/三次元再生モード決定方法、二次元/三次元再生モード決定装置及び記憶媒体

Country Status (7)

Country Link
US (1) US8553029B2 (ja)
EP (1) EP2314075A4 (ja)
JP (1) JP5529870B2 (ja)
KR (1) KR101520620B1 (ja)
CN (1) CN102187680B (ja)
MX (1) MX2011001629A (ja)
WO (1) WO2010021450A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012070032A (ja) * 2010-09-21 2012-04-05 Seiko Epson Corp 表示装置、及び、表示方法

Families Citing this family (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8701005B2 (en) 2006-04-26 2014-04-15 At&T Intellectual Property I, Lp Methods, systems, and computer program products for managing video information
JP5338166B2 (ja) * 2008-07-16 2013-11-13 ソニー株式会社 送信装置、立体画像データ送信方法、受信装置および立体画像データ受信方法
WO2010014973A1 (en) * 2008-08-01 2010-02-04 Real D Method and apparatus to mark and identify stereoscopic video frames
WO2010134665A1 (ko) * 2009-05-18 2010-11-25 (주)엘지전자 입체영상에 대한 3d 모드 선택이 가능한 입체영상 재생 장치 및 방법
JP5185202B2 (ja) * 2009-06-03 2013-04-17 キヤノン株式会社 画像処理装置及び画像処理装置の制御方法
JP5257248B2 (ja) * 2009-06-03 2013-08-07 ソニー株式会社 画像処理装置および方法、ならびに画像表示装置
CN102804789B (zh) * 2009-06-23 2015-04-29 Lg电子株式会社 接收***和提供3d图像的方法
CN102474641B (zh) * 2009-07-07 2015-05-13 Lg电子株式会社 用于显示三维用户界面的方法
US9479766B2 (en) * 2009-07-10 2016-10-25 Dolby Laboratories Licensing Corporation Modifying images for a 3-dimensional display mode
KR101370925B1 (ko) * 2009-10-16 2014-03-07 엘지전자 주식회사 3d 컨텐츠 표시 방법 및 신호 처리 장치
US9445072B2 (en) 2009-11-11 2016-09-13 Disney Enterprises, Inc. Synthesizing views based on image domain warping
US10095953B2 (en) 2009-11-11 2018-10-09 Disney Enterprises, Inc. Depth modification for display applications
US8711204B2 (en) * 2009-11-11 2014-04-29 Disney Enterprises, Inc. Stereoscopic editing for video production, post-production and display adaptation
US9491432B2 (en) * 2010-01-27 2016-11-08 Mediatek Inc. Video processing apparatus for generating video output satisfying display capability of display device according to video input and related method thereof
US20110199456A1 (en) * 2010-02-12 2011-08-18 Qisda Corporation Apparatus for image reproduction and method therefor
KR101752809B1 (ko) * 2010-03-25 2017-07-03 삼성디스플레이 주식회사 입체 영상 표시 장치 및 그 구동 방법
WO2011148556A1 (ja) * 2010-05-25 2011-12-01 パナソニック株式会社 画像符号化装置、画像符号化方法、プログラムおよび集積回路
US9030536B2 (en) 2010-06-04 2015-05-12 At&T Intellectual Property I, Lp Apparatus and method for presenting media content
JP5655393B2 (ja) * 2010-06-23 2015-01-21 ソニー株式会社 画像データ送信装置、画像データ送信装置の制御方法、画像データ送信方法および画像データ受信装置
US8640182B2 (en) 2010-06-30 2014-01-28 At&T Intellectual Property I, L.P. Method for detecting a viewing apparatus
US8593574B2 (en) 2010-06-30 2013-11-26 At&T Intellectual Property I, L.P. Apparatus and method for providing dimensional media content based on detected display capability
US9787974B2 (en) 2010-06-30 2017-10-10 At&T Intellectual Property I, L.P. Method and apparatus for delivering media content
US8918831B2 (en) 2010-07-06 2014-12-23 At&T Intellectual Property I, Lp Method and apparatus for managing a presentation of media content
US9049426B2 (en) * 2010-07-07 2015-06-02 At&T Intellectual Property I, Lp Apparatus and method for distributing three dimensional media content
US9560406B2 (en) 2010-07-20 2017-01-31 At&T Intellectual Property I, L.P. Method and apparatus for adapting a presentation of media content
US9232274B2 (en) 2010-07-20 2016-01-05 At&T Intellectual Property I, L.P. Apparatus for adapting a presentation of media content to a requesting device
US9032470B2 (en) 2010-07-20 2015-05-12 At&T Intellectual Property I, Lp Apparatus for adapting a presentation of media content according to a position of a viewing apparatus
US8994716B2 (en) 2010-08-02 2015-03-31 At&T Intellectual Property I, Lp Apparatus and method for providing media content
US8438502B2 (en) 2010-08-25 2013-05-07 At&T Intellectual Property I, L.P. Apparatus for controlling three-dimensional images
EP2426931A1 (en) * 2010-09-06 2012-03-07 Advanced Digital Broadcast S.A. A method and a system for determining a video frame type
US8947511B2 (en) 2010-10-01 2015-02-03 At&T Intellectual Property I, L.P. Apparatus and method for presenting three-dimensional media content
JP2012100181A (ja) * 2010-11-05 2012-05-24 Hitachi Consumer Electronics Co Ltd 映像出力装置、映像出力方法、受信装置および受信方法
KR101876848B1 (ko) 2010-12-14 2018-07-11 삼성디스플레이 주식회사 2차원 및 3차원 겸용 영상 표시장치, 및 2차원 및 3차원 영상 표시 방법
KR101748765B1 (ko) * 2010-12-17 2017-06-19 한국전자통신연구원 영상 모드에 따라 영상의 밝기를 자동으로 조정하는 디스플레이 장치 및 방법
CN102595154A (zh) * 2011-01-14 2012-07-18 奇景光电股份有限公司 图像显示***与方法
JP5366996B2 (ja) * 2011-03-09 2013-12-11 株式会社ソニー・コンピュータエンタテインメント 情報処理装置および情報処理方法
JP2012204859A (ja) * 2011-03-23 2012-10-22 Toshiba Corp 画像処理装置及びカメラモジュール
JP5058354B1 (ja) * 2011-04-19 2012-10-24 株式会社東芝 電子機器、表示制御方法及びプログラム
US9445046B2 (en) 2011-06-24 2016-09-13 At&T Intellectual Property I, L.P. Apparatus and method for presenting media content with telepresence
US8947497B2 (en) 2011-06-24 2015-02-03 At&T Intellectual Property I, Lp Apparatus and method for managing telepresence sessions
US9602766B2 (en) 2011-06-24 2017-03-21 At&T Intellectual Property I, L.P. Apparatus and method for presenting three dimensional objects with telepresence
US9030522B2 (en) 2011-06-24 2015-05-12 At&T Intellectual Property I, Lp Apparatus and method for providing media content
JP2013016116A (ja) * 2011-07-06 2013-01-24 Sony Corp 情報処理装置、画像表示装置、および情報処理方法
US8587635B2 (en) 2011-07-15 2013-11-19 At&T Intellectual Property I, L.P. Apparatus and method for providing media services with telepresence
CN103093716B (zh) * 2011-10-31 2016-06-15 群康科技(深圳)有限公司 时序控制装置、时序控制装置的方法以及显示***
US10275924B2 (en) 2011-12-26 2019-04-30 Intel Corporation Techniques for managing three-dimensional graphics display modes
CN103260038A (zh) * 2012-02-20 2013-08-21 山东沃飞电子科技有限公司 三维内容发送和接收的方法、装置和***
US9031316B2 (en) 2012-04-05 2015-05-12 Mediatek Singapore Pte. Ltd. Method for identifying view order of image frames of stereo image pair according to image characteristics and related machine readable medium thereof
CN103379357B (zh) * 2012-04-26 2015-12-16 联咏科技股份有限公司 图像处理装置
JP5817639B2 (ja) 2012-05-15 2015-11-18 ソニー株式会社 映像フォーマット判別装置及び映像フォーマット判別方法、並びに映像表示装置
CN102769766A (zh) * 2012-07-16 2012-11-07 上海大学 一种3d左右格式视频自动检测方法
CN102905157B (zh) * 2012-09-29 2015-02-18 四川长虹电器股份有限公司 电视机3d信号格式自动识别方法
CN103873842A (zh) * 2012-12-15 2014-06-18 联想(北京)有限公司 一种显示方法和装置
US9571812B2 (en) 2013-04-12 2017-02-14 Disney Enterprises, Inc. Signaling warp maps using a high efficiency video coding (HEVC) extension for 3D video coding
US20150054914A1 (en) * 2013-08-26 2015-02-26 Amlogic Co. Ltd. 3D Content Detection
CN106470338A (zh) * 2015-08-21 2017-03-01 深圳市天易联科技有限公司 基于智能电视的3d游戏转换方法及装置
CN105791799B (zh) * 2016-03-10 2018-04-10 新港海岸(北京)科技有限公司 一种电视机工作模式的转换方法和装置
US20210297746A1 (en) * 2016-10-06 2021-09-23 Sony Corporation Reproduction device, reproducing method, and program
KR102620195B1 (ko) * 2016-10-13 2024-01-03 삼성전자주식회사 콘텐츠 출력 방법 및 이를 지원하는 전자 장치

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1169384A (ja) * 1997-08-08 1999-03-09 Olympus Optical Co Ltd 映像信号種類判別処理装置
JP2006332985A (ja) * 2005-05-25 2006-12-07 Sharp Corp 立体画像フォーマット判定装置
JP2007065067A (ja) * 2005-08-29 2007-03-15 Seijiro Tomita 立体映像表示装置
JP2010034704A (ja) * 2008-07-25 2010-02-12 Sony Corp 再生装置及び再生方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03295393A (ja) 1990-04-13 1991-12-26 Hitachi Ltd 立体画像自動判別装置
US5315539A (en) * 1992-09-24 1994-05-24 Xerox Corporation Method and apparatus for debouncing signals
JP3096612B2 (ja) 1995-05-29 2000-10-10 三洋電機株式会社 時分割方式立体映像信号検出方法、時分割方式立体映像信号検出装置および立体映像表示装置
DE69739179D1 (de) * 1996-07-18 2009-02-05 Sanyo Electric Co Eidimensionale bilder
KR20000075982A (ko) 1997-03-07 2000-12-26 다카노 야스아키 디지탈 방송 수신기 및 디스플레이 장치
US6809745B1 (en) * 2001-10-01 2004-10-26 Adobe Systems Incorporated Compositing two-dimensional and 3-dimensional images
CA2380105A1 (en) * 2002-04-09 2003-10-09 Nicholas Routhier Process and system for encoding and playback of stereoscopic video sequences
JP4362105B2 (ja) 2002-07-16 2009-11-11 韓國電子通信研究院 2次元および3次元立体ビデオ信号の適応変換装置およびその方法
KR100586029B1 (ko) * 2003-11-22 2006-06-01 한국전자통신연구원 입체 영상 디스플레이 장치 및 그 방법
KR100579890B1 (ko) * 2004-12-30 2006-05-15 삼성전자주식회사 움직임 적응적 영상처리 장치 및 그 방법
GB0500420D0 (en) * 2005-01-10 2005-02-16 Ocuity Ltd Display apparatus
KR100636785B1 (ko) * 2005-05-31 2006-10-20 삼성전자주식회사 다시점 입체 영상 시스템 및 이에 적용되는 압축 및 복원방법
KR100828358B1 (ko) 2005-06-14 2008-05-08 삼성전자주식회사 영상 디스플레이 모드 전환 방법, 장치, 및 그 방법을 실행하기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체
KR100676898B1 (ko) * 2005-07-08 2007-02-01 주식회사 피앤조이 3차원 영상 및 2차원 영상의 자동 변환 표시방법
KR100893616B1 (ko) * 2006-04-17 2009-04-20 삼성모바일디스플레이주식회사 전자 영상 기기, 2d/3d 영상 표시 장치 및 그 구동방법
KR100842244B1 (ko) 2006-10-30 2008-06-30 삼성전기주식회사 3차원 영상 표시 장치 및 그 방법
US8103487B2 (en) * 2007-10-31 2012-01-24 Siemens Medical Solutions Usa, Inc. Controlling the number of iterations in image reconstruction

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1169384A (ja) * 1997-08-08 1999-03-09 Olympus Optical Co Ltd 映像信号種類判別処理装置
JP2006332985A (ja) * 2005-05-25 2006-12-07 Sharp Corp 立体画像フォーマット判定装置
JP2007065067A (ja) * 2005-08-29 2007-03-15 Seijiro Tomita 立体映像表示装置
JP2010034704A (ja) * 2008-07-25 2010-02-12 Sony Corp 再生装置及び再生方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012070032A (ja) * 2010-09-21 2012-04-05 Seiko Epson Corp 表示装置、及び、表示方法

Also Published As

Publication number Publication date
CN102187680A (zh) 2011-09-14
US8553029B2 (en) 2013-10-08
EP2314075A4 (en) 2012-10-03
CN102187680B (zh) 2014-05-28
KR101520620B1 (ko) 2015-05-18
JP5529870B2 (ja) 2014-06-25
KR20100021905A (ko) 2010-02-26
WO2010021450A1 (en) 2010-02-25
EP2314075A1 (en) 2011-04-27
MX2011001629A (es) 2011-03-28
US20100039428A1 (en) 2010-02-18

Similar Documents

Publication Publication Date Title
JP5529870B2 (ja) 二次元/三次元再生モード決定方法、二次元/三次元再生モード決定装置及び記憶媒体
JP5575891B2 (ja) 自動三次元ビデオフォーマット変換方法及びその装置
JP5221227B2 (ja) ステレオスコピック映像の部分データ区間の再生のためのステレオスコピック映像データストリーム生成方法及び装置、ステレオスコピック映像の部分データ区間の再生方法及び装置
US8488869B2 (en) Image processing method and apparatus
JP5584292B2 (ja) 相対的奥行きを持たせた立体画像への3dオブジェクトの組み入れ
US9094657B2 (en) Electronic apparatus and method
KR101545008B1 (ko) 3d 비디오 신호를 인코딩하기 위한 방법 및 시스템, 동봉된 3d 비디오 신호, 3d 비디오 신호용 디코더에 대한 방법 및 시스템
TWI536801B (zh) 三維視訊格式偵測
KR101396332B1 (ko) 3차원 영상 시청시 발생하는 피로도 감소 방법 및 장치, 그리고 저피로도 3차원 영상 데이터 스트림 생성 방법 및 장치
JP2012054877A (ja) 立体動画像再生装置及びその制御方法
US20150365645A1 (en) System for generating intermediate view images
US20120098930A1 (en) Image processing device, image processing method, and program
US8976171B2 (en) Depth estimation data generating apparatus, depth estimation data generating method, and depth estimation data generating program, and pseudo three-dimensional image generating apparatus, pseudo three-dimensional image generating method, and pseudo three-dimensional image generating program
JP2013090272A (ja) 映像処理装置、映像処理方法および映像表示装置
JP5337282B1 (ja) 3次元画像生成装置および3次元画像生成方法
US20110285819A1 (en) Video signal processing apparatus and video signal processing method
JP5780214B2 (ja) 奥行き情報生成装置、奥行き情報生成方法、奥行き情報生成プログラム、擬似立体画像生成装置
JP5786807B2 (ja) 奥行き情報生成装置、奥行き情報生成方法、奥行き情報生成プログラム、擬似立体画像生成装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130827

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140318

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140417

R150 Certificate of patent or registration of utility model

Ref document number: 5529870

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees