JP5356429B2 - 3次元映像表示装置および3次元映像表示方法 - Google Patents

3次元映像表示装置および3次元映像表示方法 Download PDF

Info

Publication number
JP5356429B2
JP5356429B2 JP2011023197A JP2011023197A JP5356429B2 JP 5356429 B2 JP5356429 B2 JP 5356429B2 JP 2011023197 A JP2011023197 A JP 2011023197A JP 2011023197 A JP2011023197 A JP 2011023197A JP 5356429 B2 JP5356429 B2 JP 5356429B2
Authority
JP
Japan
Prior art keywords
pixel
integer
video
period
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011023197A
Other languages
English (en)
Other versions
JP2012163709A (ja
JP2012163709A5 (ja
Inventor
首 達 夫 最
山 雄 三 平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2011023197A priority Critical patent/JP5356429B2/ja
Priority to TW100129056A priority patent/TWI446007B/zh
Priority to CN201110249334.9A priority patent/CN102630022B/zh
Priority to US13/231,336 priority patent/US8964006B2/en
Priority to KR1020110098804A priority patent/KR101283201B1/ko
Publication of JP2012163709A publication Critical patent/JP2012163709A/ja
Publication of JP2012163709A5 publication Critical patent/JP2012163709A5/ja
Application granted granted Critical
Publication of JP5356429B2 publication Critical patent/JP5356429B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/30Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving parallax barriers
    • G02B30/31Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving parallax barriers involving active parallax barriers
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/27Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/27Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays
    • G02B30/28Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays involving active lenticular arrays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/317Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using slanted parallax optics

Landscapes

  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Liquid Crystal (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Description

本発明の実施形態は、3次元映像表示装置および3次元映像表示方法に関する。
動画表示が可能な3次元映像表示装置、所謂3次元ディスプレイには、種々の方式が知られている。近年、特にフラットパネルタイプで、且つ専用の眼鏡等を必要としない方式の要望が高くなっている。このタイプの3次元映像表示装置には、直視型或いは投影型の液晶表示装置やプラズマ表示装置などのような画素位置が固定されている表示パネル(以下、表示装置ともいう)の直前に表示パネルからの光線を制御して観察者に向ける光線制御素子を設置する方式が知られている。
光線制御素子は、光線制御素子上の同一位置でも角度により異なる画像が見えるように光線を制御している。具体的には、左右視差(水平視差)のみを与える場合には、スリットアレイ或いはレンチキュラーシート(シリンドリカルレンズアレイ)が用いられ、上下視差(垂直視差)も含める場合には、ピンホールアレイ或いはフライアイレンズアレイが用いられる。光線制御素子を用いる方式は、さらに、2眼式、多眼式、超多眼式(多眼式の超多眼条件)、インテグラルイメージングに分類される。これらの基本的な原理は、100年程度前に発明され立体写真に用いられてきたものと実質上同一である。
このうちインテグラルイメージング方式は、視点位置の自由度が高く、楽に立体視できるという特徴があり、水平視差のみで垂直視差のないタイプでは、解像度の高い表示装置の実現も比較的容易である。これに対し、2眼方式や多眼方式では、立体視できる視点位置の範囲、すなわち視域が狭く、見にくいという問題があるが、3次元映像表示装置としての構成としては最も単純であり、表示画像も簡単に作成できる。
このようなスリットアレイやレンチキュラーシートを用いた直視型裸眼3次元映像表示装置においては、光線制御素子の開口部の周期構造と平面表示装置の画素の周期構造が干渉することによるモアレや色モアレが発生しやすい。その対策として、光線制御素子の開口部の延びる方向を斜めに傾ける方法が知られている。しかし、光線制御素子の開口部に傾きを与えるだけでは、モアレは完全に解消できないことから、拡散成分を追加してモアレを解消する方法も提案されている。しかし、この方法は、視差情報(見る角度によって見え方が変わる画像情報)の分離を悪くすることから、画質の低下が避けられない。光線制御素子の開口部を斜めにした場合、光線制御素子と画素の位置関係の周期性が高ければ、モアレが発生しやすく、周期性が低ければモアレは発生しにくい。周期性が低い場合、3次元映像表示のために映像データを並び替えて配置する処理が複雑となり、回路規模や必要なメモリが大きくなる問題がある。また、メモリを削減する並び替えのマッピングが知られている。
上述したように、光線制御素子を斜めに設置した従来の3次元映像表示装置にあっては、モアレの解消と画像処理の効率化の両立に問題がある。
特表2001−501073号公報 特開2005−86414号公報 特許第4476905号公報
SID04 Digest 1438 (2004)
本発明の一実施形態が解決しようとする課題は、光線制御素子を斜めに設置した3次元映像表示装置において、モアレの解消と画像処理の効率化の両立が可能な3次元映像表示装置およびその表示方法を提供することである。
本実施形態の3次元映像表示装置は、第1の方向とこの第1の方向に直交する第2の方向とに沿って画素がマトリクス状に配列された表示部と、前記表示部に対向して設置され、前記第2の方向に略直線状に延び、前記第1の方向に配列されている多数の光学的開口部を備えた光線制御素子と、を備え、Mを1以上の整数とすると、前記画素は第1の方向に並ぶM色成分を持つM個のサブ画素に分割されており、前記光学的開口部の第1の方向の周期をP、前記光学的開口部の第2の方向の周期をQ、前記画素の第1の方向の周期をA、前記画素の第2の方向の周期をBとすると、Q/Bは整数Nであり、M×P/Aは非整数であり、(Q/B)/(P/A)は非整数であることを特徴とする。
一実施形態による3次元映像表示装置を概略的に示す斜視図。 図2(a)、2(b)は一実施形態にかかる光線制御素子を概略的に示す斜視図。 図3(a)乃至3(c)は一実施形態による3次元映像表示装置における要素画像ピッチPeと光線制御素子の光学的開口部ピッチPsと光線制御素子ギャップdと視距離Lと視域幅Wの関係を示す模式図。 図4(a)乃至4(c)は一実施形態による平行光線の組を持つ条件の1次元インテグラルイメージング方式、および多眼方式の視差画像と立体画像の構成方法を示す図。 第1実施形態において用いられる、画素と光線制御素子の位置関係を示す図。 第2実施形態による3次元映像表示装置において用いられる、画素と光線制御素子の位置関係の一例を示す図。 第3実施形態において用いられる、画素と光線制御素子の位置関係の一例を示す図。 第4実施形態において用いられる、画素と光線制御素子の位置関係の一例を示す図。 比較例において用いられる、画素と光線制御素子の位置関係を示す図。 第5実施形態において用いられる、画素と光線制御素子の位置関係の一例を示す図。 一実施形態において用いられる、画素と光線制御素子の位置関係、角度、周期の組み合わせの例と、それぞれの場合のマップサイズ(必要列数)およびモアレシミュレーション結果を示す図。 比較例において用いられる、画素と光線制御素子の位置関係、角度、周期の組み合わせの例と、それぞれの場合のマップサイズ(必要列数)およびモアレシミュレーション結果を示す図。 一実施形態において用いられる、画素と光線制御素子の位置関係および各サブ画素に割り当てられる視差番号の一例を示す図。 一実施形態において用いられる、画素と光線制御素子の位置関係および各サブ画素に割り当てられる視差番号の別の例を示す図。 図15(a)、15(b)は、一実施形態における多視点映像から出力映像への並べ替え処理のマッピングの例を示す図。
以下、図面を参照して、一実施形態による3次元映像表示装置を詳細に説明する。
各実施形態による3次元映像表示装置の概要について図1乃至図4(c)を参照して説明する。インテグラルイメージング方式においても、また、多眼方式においても、通常は、視距離が有限であるため、その視距離における透視投影画像が実際に見えるように表示画像が作成される。
図1は、各実施形態の3次元映像表示装置の全体を概略的に示す斜視図である。図1に示す3次元映像を表示する表示装置は、平面映像としての視差合成画像を表示する平面映像表示部331を備えている。この平面映像表示部331の前面には、この表示部331からの光線を制御する光線制御素子332が設けられている。この光線制御素子332としては図2(a)に示すレンチキュラーシート334、図2(b)に示すスリットアレイ板333、または電気的にレンズ効果やスリットをオンまたはオフできるスイッチャブル型(アクティブ型)の光線制御素子がある。ここで、光線制御素子332は、光学的開口を備え、光線制御素子がレンチキュラーシート334であれば、光学的開口は、各シリンドリカルレンズに相当し、光線制御素子がスリットアレイ板333であれば、光学的開口は、スリットアレイ板333に設けられた各スリットに相当する。この光線制御素子332の光学的開口は、3次元映像が表示される視域に向けられる表示部331からの光線を実質的に制限し、表示部331上に表示される2次元的な映像を構成する各要素画像に対応して設けられている。従って、表示部331上に表示される出力映像は、光線制御素子332の光学的開口の数に対応した数の要素画像から構成されている。その結果、要素画像が夫々光線制御素子332の光学的開口を介して視域内の空間に向けて投影されることによって3次元映像が3次元映像表示装置の前面或いは背面に表示される。また、以下の実施形態においては、この光学的開口は、開口(レンズまたはスリット)の延在する方向が平面映像表示装置の縦方向の画素列に対して傾いて配置される。なお、図2(a)、2(b)において、Psは光学的開口部の水平ピッチを示し、図2(b)において、Ppはスリットの幅を示す。また、スイッチャブル型の光線制御素子は、例えば、液晶層を一対の基板で挟み、一対の基板のうちの一方の基板に周期的に配列された電極と、他方の基板上に形成された電極との間に電圧を印加することにより、液晶層に電界分布を生成して液晶層の配向を変化させ、レンズとして作用する屈折率分布を生成するものや、液晶などで構成された複屈折レンズに入力する偏光を別の液晶セルで切り替えるものなどがある。
図3(a)乃至3(c)は、3次元映像表示装置の全体を概略的に示す斜視図である。必要に応じ、スペーサ(ガラス基板、樹脂基板、フィルム、拡散シート等あるいはその組み合わせ)が平面画像表示部331と光線制御素子332の間に設けられる。図3(a)は3次元映像表示装置の前面と、駆動部310、多視点画像記憶/入力部312、および画像処理部314からなる制御部とを示す正面図である。図3(b)は3次元映像表示装置の画像配置を示す平面図であり、図3(c)は3次元映像表示装置の側面図である。図1乃至図2(b)に示すように、3次元映像表示装置は、液晶表示素子などの平面映像表示部331および光学的開口を有する光線制御素子332を備えている。
この3次元映像表示装置においては、水平方向の視角341及び垂直方向の視角342の範囲内において、眼の位置から光線制御素子332を介して表示装置331を観察して平面映像表示部331の前面及び背面に立体像を観察することができる。ここでは、平面映像表示部331の画素数は、正方形となる最小単位の画素群で数えた場合の個数である。一例として横方向(水平方向)が3840画素であり、縦方向(垂直方向)が2160画素であり、各最小単位の画素群は、赤(R)、緑(G)、青(B)のサブ画素を含んでいるものとする。
図3(b)において、光線制御素子332と視距離面343との間の視距離L、光線制御素子の光学的開口部の水平方向のピッチPs、光線制御素子と平面映像表示部とのギャップdが定められれば、要素画像のピッチPeが視距離面343上の視点から光学的開口中心を表示面上に投影した間隔により決定される。符号346は、視点位置と各光学的開口中心とを結ぶ線を示し、視域幅Wは表示装置の表示面上で要素画像同士が重なり合わないという条件から決定される。既に説明したように、要素画像とは、光線制御素子332の、ある光学的開口を通過して光線制御素子332と視距離面343との間の視域に向けられる光線束を発生するサブ画素の集合によって表示される2次元的な合成画像(最終的な出力映像である視差合成画像の一部)に相当する。複数の要素画像が表示部331に表示されてこれが投影されることによって3次元映像が表示される。
この視差合成画像は、駆動回路310からの表示信号で平面映像表示部331が駆動されて平面映像表示部331に表示される。この駆動回路310は、多視点映像群あるいはそれから構成される連結画像などを圧縮して立体画像データとして記憶するまたは入力される多視点画像記憶/入力部312をその周辺装置として具備している。また、駆動回路310は、この多視点画像記憶/入力部312からの映像データを視差合成画像に変換し、画素データを抽出する画像処理部314をその周辺装置として具備している。
光学的開口の水平ピッチPsあるいはその整数倍がサブ画素ピッチPpの整数倍に定められている平行光線1次元インテグラルイメージング方式においては、各光学的開口に対応して定められる立体画像の表示に寄与する要素画像の平均ピッチPeあるいはその整数倍は、サブ画素ピッチPpの整数倍とはならず、整数よりわずかに大きくなるような端数を伴う。光学的開口の水平ピッチPsあるいはその整数倍がサブ画素ピッチPpの整数倍に定められていない(平行光線群を形成しない)広義の1次元インテグラルイメージング方式にあっても、一般的に要素画像の平均ピッチPeあるいはその整数倍は、同様にサブ画素ピッチPpの整数倍からずれた端数を伴う。これに対して、多眼方式では、要素画像の平均ピッチPeあるいはその整数倍は、サブ画素ピッチPpの整数倍に定められる。光線制御素子の光学的開口が画素列に対してtan−1(1/S)の角度に斜めに設置される1次元インテグラルイメージング方式において、光学的開口の水平ピッチPsをサブ画素水平ピッチPpで除した値とSの積を、さらに色成分数(通常は3)で除した値(整数)を「視差数」と呼ぶことにする。例えばtan−1(1/4)の角度で、Ps/Pp=12であれば、視差数は12×4/3=16であり、tan−1(1/6)の角度で、Ps/Pp=4.5であれば、視差数は4.5×6/3=9である。
図4(a)乃至4(c)は、平行光線の組を持つ条件の1次元インテグラルイメージング方式、および多眼方式の視差画像と立体画像の構成方法を示している。表示される物体(被写体)421は、実際に3次元映像表示装置の光線制御素子が置かれる面と同じ位置にある投影面422に投影される。このとき、図4(a)に示すように、1次元インテグラルイメージング方式においては垂直方向透視投影、水平方向平行投影になるように、投影面と平行で正面(上下方向の中央)にありかつ視距離面内にある投影中心線423に向かう投影線425に沿って投影される。投影線は、水平方向は互いに交わらないが、垂直方向は投影中心線において交わる。各投影方向は視差番号に対応するが、各方向は等角度ではなく、視距離面(投影中心線)上で等間隔になるようにする。すなわちカメラを投影中心線上で等間隔に平行移動(向きは一定)して撮影することに相当する。多眼の場合の投影法では、投影中心点について透視投影される。なお、1次元インテグラルイメージング方式であっても、多眼の場合と同様に通常の透視投影であっても、立体像にわずかにひずみが生じる点以外に実質的に問題はない。このように投影された各視差成分画像426は、画素列ごとに分割され、必要に応じ補間処理を行い、図4(c)に示すように光線制御素子の水平ピッチPsに対応する間隔を置いて、互いに分離して視差合成画像427上に配置される。各光学的開口は斜め方向であるため、視差成分画像426上の同一列は、視差合成画像上でおおむね垂直方向に配置されるが、各部分において光学的開口にあうように斜めに配置される。各視差成分画像は、視差合成画像上でインターリーブ状に配置され、要素画像アレイを形成する。
(第1実施形態)
第1実施形態による3次元映像表示装置において用いられる、画素と光線制御素子の位置関係の一例を図5に示す。斜線が光線制御素子の光学的開口の中間線、すなわち光線制御素子がレンズアレイの場合はレンズ境界、スリットアレイの場合はスリットの中間線を表す。光線制御素子の傾斜角度は、画素列に対してtan−1(9/1.6)(=tan−1(1/5.625))である。各画素は横方向に並ぶ3色成分(R、G、B)を持つ3個のサブ画素に分割されており、光学的開口部の横周期P、すなわち図5に示す斜線の横方向の間隔は画素の横方向のピッチ(横周期)Aに対して整数倍ではなく1.6倍であり、光学的開口部の縦周期Q、すなわち図5に示す斜線の縦方向の間隔は画素の縦方向のピッチ(縦周期)Bに対して整数倍、すなわち9倍である(N=(Q/B)=9)。また、(N/(P/A))、すなわち9/1.6(=5.625)は整数でなく、すなわち非整数であり、2×9/1.6も整数でなく、すなわち非整数である。このように、光学的開口部の縦周期を画素の縦周期の整数倍(9倍)にすることにより、入力された多視点映像を平面映像表示部に出力する映像に並べ替えるマッピングが、多視点映像の視点番号と座標に関し、出力する映像において9画素行分の周期となり、マッピングに必要なメモリが9行分で済む。なお、マッピングについては、後で詳細に説明する。
また、本実施形態においては、光学的開口部の横周期Psは、画素の横周期Ppの整数倍でないため、光線制御素子と画素の位置関係の周期性が、モアレが解消する程度に低い。更に、光学的開口部は、光学的開口部の横周期Pの5倍が、画素の横周期Aの8倍と一致する。すなわち、P/Aを整数倍したとき整数になる最小の値は8である。この値は、9/2(=N/2)以上、9×10(=N×10)以下という条件を満たしている。
このように、光学的開口部の横周期の整数倍が画素の横周期の整数倍と一致する周期を小さすぎず大きすぎない、画素の整数列分にするとともに、光学的開口部の縦周期を画素の整数行分にすることにより、周期性が、モアレが解消する程度に低く、画像並べ替え処理のマッピングに必要なメモリが画素の整数(9)行×整数(8)列分で済むという利点がある。
以上のような構成を採用することより、モアレ解消と画像処理の効率化の両立が可能となる。Mを1以上の整数とし、画素が水平方向(横方向)にM色成分を持つM個のサブ画素を有しているとする。この第1実施形態および後述する第2乃至第5実施形態においては、Mは3となる。すると、横方向に光学的開口部の1横周期、縦方向に(N/(P/A))画素行の範囲には、N×Mすなわち9×3=27個のサブ画素が存在する。このため、1視点分に3色成分を割り当てると、9視点分の割り当てが可能であり、9視点の画像の各1画素分(3色成分を持つ)の情報をこの範囲にマッピングすることが適切である。2視点分の入力画像しかない場合は、2視点の画像を適切に9視点分に変換処理し、9視点の場合と同様にマッピングすればよい。
なお、第1実施形態においては、平面映像表示装置に設けられるカラーフィルタは図5からわかるように縦ストライプ配列となっており、このことは、以下の第2乃至第4実施形態においても同様である。
(第2実施形態)
第2実施形態による3次元映像表示装置において用いられる、画素と光線制御素子の位置関係を図6に示す。この第2実施形態においては、第1実施形態の場合と同様、光線制御素子の光学的開口部は縦方向が画素9行分の周期であるが、第1実施形態とは、光学的開口部の傾斜角度が異なっているとともに横周期が異なる。光線制御素子の傾斜角度は、画素列に対してtan−1(9/1.56522)(=tan−1(1/5.75))である。画素は横方向に並ぶ3色成分(R、G、B)を持つ3個のサブ画素に分割されており、光学的開口部の横周期P、すなわち図6に示す斜線の横方向の間隔は画素の横周期Aに対して整数倍ではなく1.56522倍であり、光学的開口部の縦周期Q、すなわち図6に示す斜線の縦方向の間隔は画素の縦周期Bに対して整数倍、すなわち9倍である(N=(Q/B)=9)。また、N/(P/A)、すなわち9/1.56522(=5.75)は整数でなく、その2倍である2×9/1.56522も整数でない。また、光学的開口部は、光学的開口部の横周期Pの23倍が、画素の横周期Aの36倍と一致する。すなわち、P/Aを整数倍したとき整数になる最小の値は36である。この値は、9/2(=N/2)以上、9×10(=N×10)以下という条件を満たしている。
このように、光学的開口部の横周期の整数倍が画素の横周期の整数倍と一致する周期を小さすぎず大きすぎない、画素の整数列分にするとともに、光学的開口部の縦周期を画素の縦周期の整数倍にすることにより、周期性が、モアレが解消する程度に低く、画像並べ替え処理のマッピングに必要なメモリが画素の整数(9)行×整数(36)列分で済むという利点がある。
以上のような構成を採用することより、モアレ解消と画像処理の効率化の両立が可能となる。横方向に光学的開口部の1横周期、縦方向に(N/(P/A))画素行の範囲には、N×Mすなわち9×3=27個のサブ画素が存在する。このため、1視点分に3色成分を割り当てると、9視点分の割り当てが可能であり、9視点の画像の各1画素分(3色成分を持つ)の情報をこの範囲にマッピングすることが適切である。2視点分の入力画像しかない場合は、2視点の画像を適切に9視点分に変換処理し、9視点の場合と同様にマッピングすればよい。
(第3実施形態)
第3実施形態による3次元映像表示装置において用いられる、画素と光線制御素子の位置関係を図7に示す。この第3実施形態においては、第1および第2実施形態の場合と同様に、光線制御素子の光学的開口部は縦方向が画素9行分の周期であるが、第1および第2実施形態とは、光学的開口部の傾斜角度が異なっているとともに横周期が異なる。光線制御素子の傾斜角度は、画素列に対してtan−1(9/1.55172)(=tan−1(1/5.8))である。画素は横方向に並ぶ3色成分(R、G、B)を持つ3個のサブ画素に分割されており、光学的開口部の横周期P、すなわち図7に示す斜線の横方向の間隔は画素の横周期Aに対して整数倍ではなく1.55172倍であり、光学的開口部の縦周期Q、すなわち図7に示す斜線の縦方向の間隔は画素の縦周期Bに対して整数倍、すなわち9倍である(N=(Q/B)=9)。また、N/(P/A)、すなわち9/1.55172(=5.8)は整数でなく、その2倍も整数でない。また、光学的開口部は、光学的開口部の横周期の29倍が、画素の横周期の45倍と一致する。すなわち、P/Aを整数倍したとき整数になる最小の値は45である。この値は、9/2(=N/2)以上、9×10(=N×10)以下という条件を満たしている。
このように、光学的開口部の横周期の整数倍が画素の横周期の整数倍と一致する周期を小さすぎず大きすぎない、画素の整数列分にするとともに、光学的開口部の縦周期を画素の縦周期の整数倍にすることにより、周期性が、モアレが解消する程度に低く、画像並べ替え処理のマッピングに必要なメモリが画素の整数(9)行×整数(45)列分で済むという利点がある。
以上のような構成を採用することより、モアレ解消と画像処理の効率化の両立が可能となる。横方向に光学的開口部の1横周期、縦方向に(N/(P/A))画素行の範囲には、N×Mすなわち9×3=27個のサブ画素が存在する。このため、1視点分に3色成分を割り当てると、9視点分の割り当てが可能であり、9視点の画像の各1画素分(3色成分を持つ)の情報をこの範囲にマッピングすることが適切である。2視点分の入力画像しかない場合は、2視点の画像を適切に9視点分に変換処理し、9視点の場合と同様にマッピングすればよい。
(第4実施形態)
第4実施形態による3次元映像表示装置において用いられる、画素と光線制御素子の位置関係を図8に示す。この第4実施形態においては、第1乃至第3実施形態の場合と同様、光線制御素子の光学的開口部は縦方向が画素9行分の周期を有しているが、第1乃至第3実施形態の場合とは、光学的開口部の傾斜角度が異なっているとともに横周期が異なる。光学的開口部の傾斜角度は、画素列に対してtan−1(9/1.54286)(=tan−1(1/5.833))である。画素は横方向に並ぶ3色成分(R、G、B)を持つ3個のサブ画素に分割されており、光学的開口部の横周期P、すなわち図8に示す斜線の横方向の間隔は画素の横周期Aに対して整数倍ではなく1.54286倍であり、光学的開口部の縦周期Q、すなわち図8に示す斜線の縦方向の間隔は画素の縦周期Bに対して整数倍、すなわち9倍である(N=(Q/B)=9)。また、N/(P/A)、すなわち9/1.54286(=5.833)は整数でなく、その2倍も整数でない。また、光学的開口部は、光学的開口部の横周期の35倍が、画素の横周期の54倍と一致する。すなわち、P/Aを整数倍したとき整数になる最小の値は54である。この値は、9/2(=N/2)以上、9×10(=N×10)以下という条件を満たしている。
このように、光学的開口部の横周期の整数倍が画素の横周期の整数倍と一致する周期を小さすぎず大きすぎない、画素の整数列分にするとともに、光学的開口部の縦周期を画素の縦周期の整数倍にすることにより、周期性が、モアレが解消する程度に低く、画像並べ替え処理のマッピングに必要なメモリが画素の整数(9)行×整数(54)列分で済むという利点がある。
以上のような構成を採用することより、モアレ解消と画像処理の効率化の両立が可能となる。横方向に光学的開口部の1横周期、縦方向に(N/(P/A))画素行の範囲には、N×Mすなわち9×3=27個のサブ画素が存在する。このため、1視点分に3色成分を割り当てると、9視点分の割り当てが可能であり、9視点の画像の各1画素分(3色成分を持つ)の情報をこの範囲にマッピングすることが適切である。2視点分の入力画像しかない場合は、2視点の画像を適切に9視点分に変換処理し、9視点の場合と同様にマッピングすればよい。
(比較例)
比較例による3次元映像表示装置において用いられる、画素と光線制御素子の位置関係を図9に示す。この比較例においては、第1乃至第4実施形態の場合と同様、光線制御素子の光学的開口部は縦方向が画素の9行分の周期を有しているが、第1乃至第4実施形態の場合とは、光学的開口部の傾斜角度が異なっているとともに横周期が異なる。光線制御素子の傾斜角度は、画素列に対してtan−1(9/1.5)(=tan−1(1/6))である。画素は横方向に並ぶ3色成分(R、G、B)を持つ3個のサブ画素に分割されており、光学的開口部の横周期P、すなわち図9に示す斜線の横方向の間隔は画素の横周期Aに対して整数倍でなく1.5倍であり、光学的開口部の縦周期Q、すなわち図9に示す斜線の縦方向の間隔は画素の縦周期Bに対して整数、すなわち9倍である(N=(Q/B)=9)。しかし、N/(P/A)、すなわち9/1.5(=6)は整数であり、その2倍も整数である。また、光学的開口部は、光学的開口部の横周期の2倍が画素の横周期の3倍と一致する。すなわち、P/Aを整数倍したとき整数になる最小の値は3である。この値は、9/2(=N/2)以上、9×10(=N×10)以下という条件を満たしていない。このように周期性が高すぎるとモアレが発生するため好ましくない。
(第5実施形態)
第5実施形態による3次元映像表示装置において用いられる、画素と光線制御素子の位置関係を図10に示す。この第5実施形態においては、第1乃至第4実施形態の場合と異なり、光線制御素子の光学的開口部は縦方向が画素の4行分の周期を有している。光学的開口部の傾斜角度は、画素列に対してtan−1(4/0.70588)(=tan−1(1/5.667))である。画素は横方向に並ぶ3色成分(R、G、B)を持つ3個のサブ画素に分割されており、光学的開口部の横周期P、すなわち図10に示す斜線の横方向の間隔は画素の横周期Aに対して整数倍ではなく0.70588倍であり、光学的開口部の縦周期Q、すなわち図10に示す斜線の縦方向の間隔は画素の縦周期Bに対して整数倍、すなわち4倍である(N=(Q/B)=4)。また、N/(P/A)、すなわち4/0.70588(=5.667)は整数でなく、その2倍も整数でない。また、光学的開口部は、光学的開口部の横周期の3倍が画素の横周期の3倍と一致する。すなわち、P/Aを整数倍したとき整数になる最小の値は3である。この値は、4/2(=N/2)以上、4×10(=N×10)以下という条件を満たしている。
このように、光学的開口部の横周期の整数倍が画素の横周期の整数倍と一致する周期を小さすぎず大きすぎない、画素の整数列分にするとともに、光学的開口部の縦周期を画素の縦周期の整数倍にすることにより、周期性が、モアレが解消する程度に低く、画像並べ替え処理のマッピングに必要なメモリが画素の整数(4)行×整数(3)列分で済むという利点がある。
以上のような構成を採用することより、モアレ解消と画像処理の効率化の両立が可能となる。横方向に光学的開口部の1横周期、縦方向に(N/(P/A))画素行の範囲には、N×Mすなわち4×3=12個のサブ画素が存在する。このため、1視点分に3色成分を割り当てると、4視点分の割り当てが可能であり、4視点の画像の各1画素分(3色成分を持つ)の情報をこの範囲にマッピングすることが適切である。2視点分の入力画像しかない場合は、2視点の画像を適切に4視点分に変換処理し、4視点の場合と同様にマッピングすればよい。
(シミュレーション結果)
一実施形態による3次元映像表示装置において用いられる、画素と光線制御素子の周期、位置関係、角度(傾斜角度)の組み合わせの例と、それぞれの場合のマップサイズ(必要列数)およびモアレシミュレーション結果を図11に示す。このうちLCM(P,A)の列が、P/Aを整数倍したとき整数になる最小の値を表しており、モアレの発生を抑制するためにはN/2以上が望ましく、マッピングに必要なメモリ容量を節約するためには、10×N以下のものが特に好ましい。マップサイズが小さく特に好ましいものは、[map size]の列に2重丸で示したが、メモリサイズに特に制約がない場合は丸で示したものも問題ない。右端の「moire」の列に、モアレの抑制効果が特に高いものを2重丸で示し、モアレが2重丸の場合よりは残るが許容範囲以下になるものを丸で示した。モアレが特に抑制される構成は、(Q/B)/(P/A)の値が、視差数×(0.55〜0.8)の範囲、あるいは視差数×(1.25〜1.45)前後の範囲である。特に好ましくは視差数×(0.6〜0.65)の範囲、あるいは視差数×(1.4〜1.45)の範囲である。視差数が大きい値の場合、視差数を適当な整数で除した値について、上記の範囲が好ましい範囲となる。
図12は、比較例による3次元映像表示装置において用いられる、画素と光線制御素子の周期、位置関係、角度(傾斜角度)の組み合わせの例と、それぞれの場合のマップサイズ(必要列数)およびモアレシミュレーション結果である。これらは(P/A)/(Q/B)あるいは2×(P/A)/(Q/B)が整数であるため周期性が高すぎてモアレが発生し易く、好ましくない。右端の「moire」の列に、モアレが特に発生しやすいものを「×」で示し、モアレが発生しやすいものを「△」で示した。モアレが特に発生しやすい構成は、(Q/B)/(P/A)の値が、視差数×(0.8〜1.2)前後の範囲である。視差数が大きい値の場合、視差数を適当な整数で除した値について、上記の範囲が好ましくない範囲となる。
図13および図14は、一実施形態による3次元映像表示装置において用いられる、画素と光線制御素子の位置関係および各サブ画素に割り当てられる視差番号(視点番号)の例を示す図である。図13および図14に示す光線制御素子の傾斜角度やピッチはそれぞれ図7および図5と同じである。矢印で示した点は、光線制御素子の各光学的開口部の中間線が、縦方向に隣接して並ぶ2つの緑色のサブ画素の実質的な中点に位置する箇所である。この2つの緑色のサブ画素には、9視差の0から8までの視差番号のうち両端の0と8が割り当てられている。サブ画素に割り当てられる視差番号が整数の場合は、多視点映像のうち単独の視点の映像からのみ画素がマッピングされ割り当てられる。他の多くのサブ画素には、整数でない視差番号が割り当てられているが、整数でない場合は、多視点映像のうち2つの隣接する視点の映像から画素が、視差番号の数字の割合に応じて平均化され割り当てられる。2つの視点からの画素を平均化することは、視差画像間の補間処理にあたり、映像がわずかに劣化するため、補間処理を行わない、すなわち整数の視差番号が割り当てられているサブ画素が多いことが望ましい。ただし整数の視差番号が割り当てられているサブ画素が多すぎる場合は、周期性が高くなりすぎ、モアレが発生しやすくなる。モアレを抑制するために周期性をある程度落とした構成では、整数の視差番号が割り当てられているサブ画素は限られた割合となる。図14に示す例では、整数の視差番号が割り当てられているサブ画素は、RGB各色で均等に現れるが、図13に示す例では、RGBのうち1色だけしか整数の視差番号とならない。このような場合は、整数の視差番号が割り当てられるサブ画素の色が、RGBのうち視認性の高く重要な色成分である緑色(G)になるように構成することが、画質の向上につながる。図13、14に示す場合はともに、少なくとも一部の緑色のサブ画素は単独の視点の映像の画素からのみマッピングされる構成である。
図15(a)、15(b)は、一実施形態による3次元映像表示装置において用いられる多視点映像から出力映像への並べ替え処理のマッピングを示す概略図である。基本的なマッピング方法は、特許第4476905号公報のものと類似している。図15(a)に示すN=9の例では、左側に示した9視点の多視点映像のそれぞれ斜線を施した3行の領域が、右側に示した出力映像の9行の領域にマッピングされる。出力画像の各サブ画素にマッピングされる、多視点映像の視点番号と座標は、9行周期の配置となっている。マッピングが9行周期であることから、マッピングに必要なメモリが9行分で済む。さらに、図11に示したように、マッピングの列周期LCM(P、A)が小さいものは、9行×LCM(P、A)列分のマッピングを周期的に用いることにより、さらに必要なメモリを削減することができる。なお、9視点の多視点画像は、入力された2視点以上の多視点映像から変換処理されて生成されたものであってもよい。
図15(b)に示すN=4の例では、左側に示した4視点の多視点映像のそれぞれ斜線を施した2行の領域が、右側に示した出力映像の4行の領域にマッピングされる。出力画像の各サブ画素にマッピングされる、多視点映像の視点番号と座標は、4行周期の配置となっている。マッピングが4行周期であることから、マッピングに必要なメモリが4行分で済む。なお、4視点の多視点画像は、入力された2視点以上の多視点映像から変換処理されて生成されたものであってもよい。
以上の方法により、光線制御素子を斜めに設置した3次元映像表示装置において、光線制御素子と画素の位置関係の周期性が、モアレが解消する程度に低く、画像並べ替え処理のマッピングに必要なメモリがN行分で済む程度に高いため、モアレ解消と画像処理の効率化の両立が可能となる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これらの実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これらの実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
331 平面画像表示部
332 光線制御素子
333 スリットアレイ板
334 レンチキュラーシート
335 画素
341 水平方向の視角
342 垂直方向の視角
343 視距離面
346 視点と光学的開口中心を結ぶ線
421 表示される物体(被写体)
422 投影面
423 投影中心線
424 投影面上に投影された被写体
425 投影線
429 カメラ(視点)

Claims (6)

  1. 第1の方向と前記第1の方向に直交する第2の方向とに沿って画素がマトリクス状に配列された表示部と、
    前記表示部に対向して設置され、前記第1の方向および前記第2の方向と交差する第3の方向に直線状に延び、前記第3の方向と直交する方向に配列する複数の光学的開口部として機能する光線制御素子と、
    を備え、
    Mを1以上の整数とすると、前記画素は第1の方向に並ぶM色成分を持つM個のサブ画素に分割されており、前記光学的開口部の第1の方向の周期をP、前記光学的開口部の第2の方向の周期をQ、前記画素の第1の方向の周期をA、前記画素の第2の方向の周期をBとすると、Q/Bは整数Nであり、M×P/Aは非整数であり、(Q/B)/(P/A)は非整数であることを特徴とする3次元映像表示装置。
  2. 2×(Q/B)/(P/A)は非整数であることを特徴とする請求項1記載の3次元映像表示装置。
  3. P/Aを整数倍したとき整数になる最小の値が、N/2以上、N×10以下であることを特徴とする請求項1または2記載の3次元映像表示装置。
  4. 前記表示部の、前記画素はRサブ画素、Gサブ画素、Bサブ画素からなり、
    Gサブ画素に割り当てられる視差番号が整数となるように前記光学的開口部が機能することを特徴とする請求項2または3記載の3次元映像表示装置。
  5. 請求項1乃至4のいずれかに記載の3次元映像表示装置を用いて3次元映像を表示する3次元映像表示方法であって、
    視点数が2以上の多視点映像を前記表示部に出力する映像に並べ替えるマッピングを行うステップを備え、前記マッピングは、多視点映像の視差番号と前記第1の方向における座標とに関し、出力する映像においてN画素行分の周期であるように行うことを特徴とする3次元映像表示方法。
  6. 請求項1乃至4のいずれかに記載の3次元映像表示装置を用いて3次元映像を表示する3次元映像表示方法であって、
    視点数Nの多視点映像を前記表示部に出力する映像に並べ替えるマッピングを行うステップを備え、前記マッピングは、多視点映像の視差番号と前記第1の方向における座標とに関し、前記マッピングの周期が出力する映像においてN画素行分の周期であるように行うことを特徴とする3次元映像表示方法。
JP2011023197A 2011-02-04 2011-02-04 3次元映像表示装置および3次元映像表示方法 Expired - Fee Related JP5356429B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2011023197A JP5356429B2 (ja) 2011-02-04 2011-02-04 3次元映像表示装置および3次元映像表示方法
TW100129056A TWI446007B (zh) 2011-02-04 2011-08-15 Three - dimensional image display device and three - dimensional image display method
CN201110249334.9A CN102630022B (zh) 2011-02-04 2011-08-29 三维影像显示装置及三维影像显示方法
US13/231,336 US8964006B2 (en) 2011-02-04 2011-09-13 Three-dimensional display apparatus and three-dimensional video display method
KR1020110098804A KR101283201B1 (ko) 2011-02-04 2011-09-29 3차원 영상 표시 장치 및 3차원 영상 표시 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011023197A JP5356429B2 (ja) 2011-02-04 2011-02-04 3次元映像表示装置および3次元映像表示方法

Publications (3)

Publication Number Publication Date
JP2012163709A JP2012163709A (ja) 2012-08-30
JP2012163709A5 JP2012163709A5 (ja) 2013-01-17
JP5356429B2 true JP5356429B2 (ja) 2013-12-04

Family

ID=46588167

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011023197A Expired - Fee Related JP5356429B2 (ja) 2011-02-04 2011-02-04 3次元映像表示装置および3次元映像表示方法

Country Status (5)

Country Link
US (1) US8964006B2 (ja)
JP (1) JP5356429B2 (ja)
KR (1) KR101283201B1 (ja)
CN (1) CN102630022B (ja)
TW (1) TWI446007B (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5978695B2 (ja) * 2011-05-27 2016-08-24 株式会社Jvcケンウッド 裸眼立体ディスプレイ装置及び視点調整方法
JP5320488B1 (ja) * 2012-05-29 2013-10-23 株式会社東芝 3次元映像表示装置および3次元映像表示方法
JP6099892B2 (ja) * 2012-07-09 2017-03-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 映像表示装置
WO2014048512A1 (de) * 2012-09-26 2014-04-03 Fraunhofer-Gesellschaft Zur Förderung Der Angewandten Forschung E .V. Verfahren zum wiedergeben von bildinformationen und autostereoskopischer bildschirm
JP2015001614A (ja) 2013-06-14 2015-01-05 株式会社ジャパンディスプレイ 表示装置
CN103424874B (zh) * 2013-08-19 2015-11-25 京东方科技集团股份有限公司 3d显示驱动方法
KR102134595B1 (ko) * 2013-09-16 2020-07-17 삼성디스플레이 주식회사 입체영상 표시장치
JP2015084079A (ja) 2013-09-20 2015-04-30 パナソニックIpマネジメント株式会社 画像表示装置
CN103728729B (zh) * 2013-12-24 2015-10-07 北京邮电大学 一种裸眼三维显示器
JP2016029426A (ja) 2014-07-25 2016-03-03 株式会社東芝 光学装置
CN104200757A (zh) * 2014-09-24 2014-12-10 郑州中原显示技术有限公司 多视点3d显示led灯珠及立体电子大屏幕
WO2016152217A1 (ja) * 2015-03-23 2016-09-29 ソニー株式会社 表示装置、表示装置の駆動方法、及び、電子機器
CN104820293B (zh) * 2015-05-20 2017-12-22 深圳超多维光电子有限公司 立体显示装置及立体显示方法
CN104933670B (zh) * 2015-07-02 2018-06-15 北京电子工程总体研究所 一种图像像素数据的存储方法及***
KR101732267B1 (ko) * 2015-09-22 2017-05-02 건양대학교산학협력단 접촉식 다 시점 3차원 디스플레이의 모아레 저감 구조
CN110501837B (zh) * 2018-05-18 2022-06-10 株式会社日本显示器 显示装置
CN111323935A (zh) * 2020-03-06 2020-06-23 京东方科技集团股份有限公司 N视点三维显示装置及其驱动方法
CN115047645B (zh) * 2022-05-20 2024-04-19 北京芯海视界三维科技有限公司 显示屏及显示装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3797503B2 (ja) * 1996-01-22 2006-07-19 出光興産株式会社 ガソリンエンジン用燃料油
US6064424A (en) 1996-02-23 2000-05-16 U.S. Philips Corporation Autostereoscopic display apparatus
GB9715397D0 (en) * 1997-07-23 1997-09-24 Philips Electronics Nv Lenticular screen adaptor
KR100416549B1 (ko) 2001-10-10 2004-02-05 삼성전자주식회사 다안식 3차원 영상 표시장치
JP4015090B2 (ja) 2003-09-08 2007-11-28 株式会社東芝 立体表示装置および画像表示方法
JP4271155B2 (ja) 2004-02-10 2009-06-03 株式会社東芝 三次元画像表示装置
JP2006174258A (ja) 2004-12-17 2006-06-29 Namco Bandai Games Inc プログラム,立体視画像生成装置及び立体視画像表示装置
JP4327758B2 (ja) 2005-03-24 2009-09-09 株式会社東芝 立体画像表示装置
JP4476905B2 (ja) * 2005-08-31 2010-06-09 株式会社東芝 立体表示画像データの構造、立体表示画像データの記録方法、表示再生方法、記録プログラム、および表示再生プログラム
KR100781278B1 (ko) 2006-05-04 2007-11-30 엘지전자 주식회사 입체영상 표시장치
JP4714116B2 (ja) 2006-09-07 2011-06-29 株式会社東芝 立体映像表示装置および立体映像表示方法
KR100841321B1 (ko) 2006-09-29 2008-06-26 엘지전자 주식회사 입체영상 표시장치
JP2008228199A (ja) 2007-03-15 2008-09-25 Toshiba Corp 立体画像表示装置及び立体画像表示方法並びに立体画像用データの構造

Also Published As

Publication number Publication date
US20120200677A1 (en) 2012-08-09
TW201234046A (en) 2012-08-16
US8964006B2 (en) 2015-02-24
JP2012163709A (ja) 2012-08-30
CN102630022A (zh) 2012-08-08
KR101283201B1 (ko) 2013-07-05
CN102630022B (zh) 2015-03-25
TWI446007B (zh) 2014-07-21
KR20120090744A (ko) 2012-08-17

Similar Documents

Publication Publication Date Title
JP5356429B2 (ja) 3次元映像表示装置および3次元映像表示方法
JP4327758B2 (ja) 立体画像表示装置
JP3966830B2 (ja) 立体表示装置
US8384772B2 (en) Three-dimensional image display device and three-dimensional image display method
JP4968943B2 (ja) マルチビューディスプレイ
US20080225113A1 (en) Three-dimensional image display device, method for displaying three-dimensional image, and structure of three-dimensional image data
US8427528B2 (en) Three-dimensional image display device and three-dimensional image display method
US20100046069A1 (en) Method and arrangement for three-dimensional representation
EP2243300A1 (en) Autostereoscopic image output device
KR101329962B1 (ko) 입체영상 표시장치
JP5320488B1 (ja) 3次元映像表示装置および3次元映像表示方法
JP2012093503A (ja) 立体画像表示装置
JP2012212079A (ja) 表示装置
KR102153605B1 (ko) 입체 영상 표시 장치
JP5810011B2 (ja) 表示装置および電子機器
JP4393496B2 (ja) 立体映像表示装置
JP5115840B2 (ja) 立体表示装置
JP2009048134A (ja) 立体表示装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121128

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130828

R151 Written notification of patent or utility model registration

Ref document number: 5356429

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313121

Free format text: JAPANESE INTERMEDIATE CODE: R313115

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees