JP5868045B2 - 撮像装置、画像処理装置、撮像装置の制御方法及び画像処理装置の制御方法 - Google Patents

撮像装置、画像処理装置、撮像装置の制御方法及び画像処理装置の制御方法 Download PDF

Info

Publication number
JP5868045B2
JP5868045B2 JP2011154031A JP2011154031A JP5868045B2 JP 5868045 B2 JP5868045 B2 JP 5868045B2 JP 2011154031 A JP2011154031 A JP 2011154031A JP 2011154031 A JP2011154031 A JP 2011154031A JP 5868045 B2 JP5868045 B2 JP 5868045B2
Authority
JP
Japan
Prior art keywords
display
unit
output
response
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011154031A
Other languages
English (en)
Other versions
JP2013021550A (ja
JP2013021550A5 (ja
Inventor
片山 達嗣
達嗣 片山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011154031A priority Critical patent/JP5868045B2/ja
Priority to US13/544,633 priority patent/US9392250B2/en
Publication of JP2013021550A publication Critical patent/JP2013021550A/ja
Publication of JP2013021550A5 publication Critical patent/JP2013021550A5/ja
Application granted granted Critical
Publication of JP5868045B2 publication Critical patent/JP5868045B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/356Image reproducers having separate monoscopic and stereoscopic modes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は撮像装置、画像処理装置、撮像装置の制御方法、画像処理装置の制御方法、プログラム及び記憶媒体に関し、特に、3D映像を表示するために用いて好適な技術に関する。
近年、立体(以降、3Dと表記)映像を用いた映画等が増えてきており、それに伴い家庭用のテレビも3D映像の立体表示に対応するものが開発されている。そこで、立体表示に対応した家庭用のテレビにカムコーダ等の記録再生装置を接続するような場合に、カムコーダのGUIを3D化して表示するような用途が一般的になると想定される。
3D映像の表示は、ステレオ視の原理を利用しており、左眼用及び右眼用の映像を準備し、各々の映像を水平方向に相対的にシフトさせ、相対位置の異なる左眼用の映像及び右眼用の映像が表示される。画面からの飛び出し量(立体感)は、前記相対位置の差によって制御され、この相対位置の差を両眼視差とする。このようにユーザーは左眼用の映像と右眼用の映像との視差を知覚し、視差量に応じた立体感のある映像を見ることができる。
従来、立体表示を用いたGUIとして、オブジェクトが有する属性(使用頻度、重要度、ユーザの嗜好等)を抽出して、抽出した属性に応じて立体表示の飛び出し量(立体感)、立体表示期間等を決定してデータを変換する装置が提案されている(特許文献1参照)。また、ユーザーが任意に視差量を調整できるようにし、立体効果を個々の観察者に適合したものとできるように、リモコンインターフェースからの制御信号に基づいて、視差情報を調整する装置が提案されている(特許文献2参照)。
特開2005−49668号公報 特開平11−155155号公報
しかしながら、特許文献1に記載の装置では、オブジェクトの立体表示形態は属性情報に基づいて決定されるので、ユーザーが任意に立体感を変更することができない。立体表示では立体感はユーザーによってばらつきがあるので、予め決められた視差量では、ユーザーによっては所望の立体感が得られない場合がある。また、特許文献2に記載の装置では、ユーザーが任意に視差量を調整できるが、視差量の調整をどのような操作で行えば直感的な操作となるかについては考慮されていない。
本発明は前述の問題点に鑑み、直感的な操作感によって3D映像の視差量を調整できるようにすることを目的としている。
本発明の撮像装置は、撮像手段と、ユーザーからの操作を受け付ける受付手段と、前記撮像手段での撮像時に、前記受付手段で第1の操作を受け付けたことに応じて前記撮像手段での撮像に用いるズームレンズを望遠側に光学ズームするように駆動し、前記受付手段で第2の操作を受け付けたことに応じて前記ズームレンズを広角側に駆動するように制御する光学ズーム手段と、3D表示用のGUI部品を含む映像を表示手段に出力可能な出力手段と、前記出力手段から3D表示用のGUI部品を含む映像を出力している際に、前記受付手段で前記第1の操作を受け付けたことに応じて前記3D表示用のGUI部品の飛び出し量が大きくなるように前記出力手段から出力される前記3D表示用のGUI部品の視差量を調整し、前記受付手段で前記第2の操作を受け付けたことに応じて前記3D表示用のGUI部品の飛び出し量が小さくなるように前記出力手段から出力される前記3D表示用のGUI部品の視差量を調整する視差量調整手段とを有することを特徴とする。
本発明によれば、GUIの立体感をズーム操作部材により直感的かつ簡便に調整することができる。
本発明の実施形態に係る撮像装置の構成例を示すブロック図である。 インデックス画面の一例を示す図である。 実施形態に係る立体表示装置の接続例及び内部構成例を示す図である。 実施形態における条件情報の一例を示す図である。 ライン・バイ・ライン方式による立体表示の概略を示す図である。 フレームシーケンシャル方式による立体表示の概略を示す図である。 多眼式立体表示方式の概略を示す図である。 第1の実施形態において、撮像装置から立体表示装置にGUIを表示させる処理手順の一例を示すフローチャートである。 立体表示装置に2Dまたは3D画面を表示させたときに撮像装置の表示パネルに表示される画面の一例を示す図である。 3D表示の概要を説明する図である。 選択領域が拡大された表示画面の一例を示す図である。 ズームレバーが操作されたときの左目用画像及び右目用画像の一例を示す図である。 第2の実施形態において、撮像装置から立体表示装置にGUIを表示させる処理手順の一例を示すフローチャートである。 3D表示されたインデックス画面の一例を示す図である。 3D表示されたインデックス画面の飛び出し量が変化した場合の一例を示す図である。 変化プロファイルの一例を示す図である。
(第1の実施形態)
以下、図面を参照しながら本発明の第1の実施形態について説明する。
図1は、本実施形態に係る撮像装置10の構成例を示すブロック図である。
図1において、撮像部100は、レンズ等の光学系、撮像素子、AD変換器等から構成されている。信号処理部101は、撮像して生成された信号に対して所定の処理を施し、符号化処理部102は、映像信号の圧縮/復号を行う。メモリ103は、符号化された映像信号を一時的に格納するものであり、記録ドライブ104は、SDカード、ハードディスク、DVD等の記録媒体111に映像信号を記録する。
グラフィック処理部105は、文字やアイコン等のOSD情報を生成し、表示画面を生成するものである。ビデオ信号処理部106は、各種ビデオ信号への変換を行うものであり、表示制御手段として機能する場合は、OSD情報を撮影時の映像信号に重畳して表示パネル107に出力する。表示パネル107はLCD等の表示部である。外部接続IF108は、外部機器と接続してビデオ信号処理部106から出力される信号に所定の処理を施して外部機器に送信するためのインターフェースである。CPU109は撮像装置10全体を制御するものであり、操作部110はボタン、ズームレバー、タッチパネル等の操作部材であり、ボタンの押し下げや、ズームレバーの位置、十字キーの位置等を検出する。
次に、本実施形態に係る撮像装置10による記録時の動作について説明する。撮像部100は、入力した被写体像を光電変換して信号処理部101に送信する。信号処理部101は、光電変換された映像信号を、輝度信号及び色差信号に変換するとともに、AGC(自動ゲイン制御)、ガンマ補正等の各種の信号処理を施す。符号化処理部102は、信号処理部101より送信される映像信号を圧縮してメモリ103に保持する。記録ドライブ104は、メモリ103に保持されている圧縮映像信号を所定のタイミングで記録媒体111に記録する。
次に、再生時の動作について説明する。ユーザーにより操作部110が操作されて再生モードに切り替わると、図2に示すように、撮影済みの映像の代表画像を表示するインデックス画面200がGUIとして表示パネル107に表示される。ここで、インデックス画面200を表示されるまでの動作を以下に示す。
CPU109が操作部110の操作状態を検知し、再生モードに移行したことを判別すると、CPU109が記録ドライブ104を制御し、記録媒体111に記録されている映像データを読み出す。符号化処理部102は、読み出された映像データの先頭フレームを代表画像データとして復号処理し、メモリ103に格納する。このように、図2に示すインデックス画面200に表示する代表画像の分だけ映像データを記録媒体111から逐次読み出して、上記の処理を繰り返す。
次に、グラフィック処理部105は、メモリ103に保持された代表画像データを用いて各代表画像のサイズを必要に応じて拡大または縮小して配置するためのインデックス画面を生成する。さらに、撮影日時を示す文字やアイコン等のOSD画像を生成する。ビデオ信号処理部106は、メモリ103に保持された代表画像データ、インデックス画面及びOSD画像のデータを入力して、所定の信号に変換処理して表示パネル107に出力する。以上のような一連の動作により、図2のインデックス画面200が表示される。インデックス画面200では、操作部110の十字キー等の操作に応じて代表画像の選択枠201を移動させることができる。
次に、本実施形態に係る撮像装置10の外観と外部機器である立体表示装置との接続について説明する。図3(a)は、本実施形態に係る撮像装置10と立体表示機能を有する立体表示装置350とが接続された状態を示す概略図である。
図3(a)において、十字キー310は、液晶パネル311に表示されるメニューや代表画像の選択等に用いられるキーである。録画開始ボタン312は、録画の開始及び停止を指示する時に操作されるボタンである。ズームレバー313は、撮影時に左側に倒すことによりズームレンズを広角側に移動させ、右側に倒すことにより望遠側に移動させることができる。また、ズームレバー313は、再生時の拡大縮小(電子ズーム)にも使用することができ、左側に倒すことにより画像を縮小し、右側に倒すことにより画像を拡大することができる。さらに、本実施形態に係る撮像装置10では、立体表示装置350にGUIを立体表示する際に、立体表示装置350の奥行き方向の移動手段としてズームレバー313が用いられる。接続端子314は、立体表示装置350と撮像装置10とを接続ケーブル315により接続し、映像情報や制御情報などの送受信を行う。
図3(b)は、本実施形態に係る立体表示装置350の内部構成例を示すブロック図である。本実施形態に係る撮像装置10は、外部接続IF108を介してモニタ等の外部機器と接続して映像データを送受信することができる。外部接続IF108としては、例えばHDMI(High Definition Multimedia Interface)規格等を用いることができる。
図3(b)に示すように、立体表示装置350は、本実施形態の撮像装置10と接続して通信するための外部接続IF351と、3D表示を行う液晶等の表示部352と、立体表示装置350の全体を制御する制御部353とを備えている。
図4は、撮像装置10が立体表示装置350の表示能力を検出するために、立体表示装置350から取得する条件情報の一例を示す図である。立体表示装置350から取得する情報としては、モニタを特定するための機器情報として、モニタの製造者、製品コード、シリアル番号がある。また、表示条件情報として、対応する解像度、対応可能なアスペクト比、画像表示形式、フレームレート等がある。さらに、音声条件情報としては、ドルビー対応、DTS対応等の情報がある。本実施形態においては、表示条件情報として3D対応の有無、3D表示形式の情報が付加されている。
撮像装置10及び立体表示装置350は、互いに各々の外部接続IFを介して所定のプロトコルで接続及び通信を行う。撮像装置10は、図4に示すような情報を立体表示装置350より取得して、取得した条件に従ってGUIの表示処理を切り替える。ここで、図7を参照しながら3D表示方式について説明する。3D表示用の方式は公知の技術を用いることで対応する。以下、3つの方式について説明する。
図5は、ライン・バイ・ライン方式による立体表示の概略を示す図である。ライン・バイ・ライン方式では、モニタ500の走査線に左眼用画像と右眼用画像とを交互に表示する。立体視する際には、モニタ500にケーブル501を介して液晶シャッタメガネ502を接続する。そして、モニタ500がインターレース走査によりフィールド単位で左眼用ラインL1、L2、・・・と右眼用ラインR1、R2、・・・を表示するのに同期して、液晶シャッタメガネ502を制御する。これにより、フィールド毎に左眼と右眼とに視差に応じて異なる映像を表示することにより立体視するものである。
図6は、フレームシーケンシャル方式による立体表示の概略を示す図である。この方式では、プログレッシブ走査により表示を行うものとし、1/60秒単位でフレームを切り換える60p表示と、1/120秒単位でフレームを切り換える120p表示とについて説明する。
60p表示では、左眼用画像と右眼用画像とを1/60秒単位で交互に切り換えながら表示する。図6に示す左1画像、右1画像、左2画像、右2画像はそれぞれ、各々フレーム毎の左眼用画像及び右眼用画像である。120p表示では、左眼用画像と右眼用画像とを1/120秒単位で交互に切り換えながら表示する。立体視の際には、図5に示す液晶シャッタメガネ502をフレーム切り替え信号に同期して制御する。
図7は、多眼式立体表示方式の概略を示す図であり、2分割の多眼式表示と4分割の多眼式表示の一例を示している。
図7において、2分割の多眼式による立体表示では、LCD712を左眼用の画素Lと右眼用の画素Rとに割り当てる。そして、パネル前面のフィルタ710に装着された視差バリア711において、画素L及び画素Rが各々左眼及び右眼のみに投影されるように光路を遮断する。これにより、左眼と右眼とに各々異なる画像が投影されることにより立体視することができる。図7に示すように、画素の分割数を4分割にすると、立体視が可能な視点の数を増やすことができる。
図8は、本実施形態に係る撮像装置10から立体表示装置350にGUIを表示させる処理手順の一例を示すフローチャートである。以下、図8に従い3DのGUIを表示させる際の動作について説明する。なお、図8に示す各処理は、CPU109の制御により行われる。また、図8の説明では、図3(a)に示すように、撮像装置10と立体表示装置350とが接続ケーブル315により接続されていることを前提とする。そして、立体表示装置350は、映像信号を受信すると、制御部353は、映像をそのまま表示部352に表示する制御を行うものとする。
まず、S801において、立体表示装置216と外部接続IF108を介して通信を開始する。次に、S802において、立体表示装置350から図4に示すような条件情報を、外部接続IF108を介して取得し、立体表示装置350の3D表示能力の有無を検知する。なお、本実施形態では、立体表示装置350は3D表示能力を有しているものとする。仮に3D表示能力を有していない場合は、グラフィック処理部105によりその旨を告知するGUIを生成する。そして、ビデオ信号処理部106により外部接続IF108を経由して立体表示装置350にそのデータを送信し、立体表示装置350の画面に表示させる。
3D表示能力を有していることを検知すると、前記条件情報から3D表示形式の情報を取得する。そして、取得した3D表示形式に従って、グラフィック処理部105により立体画像の変換処理方式を設定する。3D表示形式としては、図5〜図7に示したように、ライン・バイ・ライン方式、フレームシーケンシャル方式、または多眼式立体表示方式に対応し、各方式に応じて立体画像に変換する。なお、図5〜図7に示した3D表示方式以外の方式を用いてもよい。そして、GUIの最初の画面のデータを、ビデオ信号処理部106により外部接続IF108を介して送信し、立体表示装置350でGUIの最初の画面を表示させる。
また、本実施形態では、撮像装置10側で3D表示方式に応じた立体画像に変換するが、他の方式として3D表示形式にかかわらず、撮像装置10側から左眼用画像と右眼用画像とを所定のフレームレートで立体表示装置350に出力してもよい。この場合には、立体表示装置350側で、受け取った左右の画像を所定の3D表示形式に応じて変換することにより3D表示を行うことになる。
次に、S803において、次に表示させる画面の種別判定を行う。ここでの種別判定は2D対象画面か3D対象画面かを判定する。2D対象画面の場合は、撮影画面や、メニュー画面などを表示する場合であり、3D対象画面の場合は、録画した画像の代表画像を縮小表示するインデックス画面などを表示する場合である。撮影した動画または静止画を全画面表示するような場合は、操作部110のボタンより2D表示と3D表示とを切り換えることができる。このとき、どの画面を3D対象とするかを任意に選択できるようにしてもよい。画面の種別判定は、CPU109により行われ、遷移する画面毎に種別を表す情報を割り振ることにより判定することができる。
次に、S804において、次画面の種別が3D対象画面であるか否かを判定する。この判定の結果、2D対象画面の場合には、S806に移行して、グラフィック処理部105により2D用の画面データを生成し、ビデオ信号処理部106により外部接続IF108を介してそのデータを送信し、立体表示装置350で2D画面を表示させる。このとき、撮像装置10の表示パネル107には、図9(a)に示すように、画面950に外部装置で2D表示している旨を表示する。
一方、S804の判定の結果、3D対象画面である場合は、S805に移行し、グラフィック処理部105により設定された立体画像の変換処理方式に従って3D用の画面を生成する。そして、ビデオ信号処理部106により外部接続IF108を介してそのデータを送信し、立体表示装置350で3D画面を表示させる。このとき、撮像装置10の表示パネル107には、図9(b)に示すように、画面960に外部装置で3D表示している旨を表示する。
ここで、S805における3D表示動作について説明する。図10は、GUIの3D変換の概要を説明する図である。GUIの3D変換処理はグラフィック処理部105により行われる。図10(a)は、立体視の際の飛び出し量と投影面上の位置との関係を説明する図である。また、図10(b)は、図10(a)に示す位置P2に立体像を生成させる場合の左眼用及び右眼用の画面の一例を示す図であり、図10(c)は、図10(a)に示す位置P1に立体像を生成させる場合の画面の一例を示す図である。
図10に示すように、左眼と右眼とに視差を与えた画像を投影することにより立体視を実現させる。飛び出し量は、画面1001上の部品1002の描画位置を各々の画面の中心ライン1003、1004から所定量シフトさせることにより調整する。
位置P2に立体像を生成させる場合には、図10(b)に示すように、左側用の画像には中心ライン1003からx1_L右側へシフトした位置に部品1002を描画する。そして、右側用の画像には中心ライン1004からx1_R左側へシフトした位置に部品1002を描画する。また、位置P1に立体像を生成する場合には、図10(c)に示すように、左側の画像には中心ライン1003からx2_L右側へシフトした位置に部品1002を描画する。そして、右側用の画像には中心ライン1004からx2_R左側へシフトした位置に部品1002を描画する。このようにグラフィック処理部105では、左眼用及び右眼用に、視差に合わせて部品の表示位置をシフトしたGUIを生成して、そのデータをメモリ103に格納する。
そしてビデオ信号処理部106は、3D表示方式に従ってメモリ103に保持されている左眼用及び右眼用のGUIのデータを所定のビデオ信号に変換する。例えば、図6に示したフレームシーケンシャルの立体表示の場合には、左眼用の画像と右眼用の画像とを指定されたフレーム駆動周期で交互に読み出して、所定のビデオ信号に変換し、外部接続IF108を介して立体表示装置350に出力する。これにより、立体表示装置350で3D化されたGUIを表示することができる。他の3D表示方式の場合でも、表示方式に応じたビデオ信号に変換することにより立体表示装置350で立体表示することが可能である。
また、撮像装置10で対応できない3D表示方式の場合には、グラフィック処理部105で通常の2Dの表示画面を1画面だけ生成する。ビデオ信号処理部106ではこの表示画面のデータを変換処理して、左眼用及び右眼用に同一のビデオ信号を出力する。この場合は、左眼と右眼とで視差のない同一の画像が投影されるので、結果的に2DのGUI画面として表示される。
さらに、立体表示装置350と通信する際に、立体表示装置350から3D表示しているか否かの情報を取得するようにしてもよい。これにより、接続したときに3D表示しているときのみGUIを3Dに変換し、2Dで表示しているときはGUIを2Dで表示するように適応的に動作するようにしてもよい。
図8の説明に戻り、立体表示装置350に2D画面または3D画面が表示され、S807において、操作部110からユーザーによる操作を検出するまで待機する。ユーザーによる操作を検出した場合には、S808に移行する。そして、S808において、ユーザーによる操作が、図3(a)に示す十字キー310に対するものであるか否かを判定する。この判定の結果、十字キー310に対する操作である場合には、S809に移行して、操作部110からキー情報を取得する。
次に、S810において、CPU109は取得したキー情報を解析し、画面遷移が発生するか否かを判定する。画面遷移は、2D画像の全画面表示からメニュー画面に切り替わる場合や、メニュー画面からインデックス画面に切り替わる場合など画面表示モードが変更されるときに発生する。S810の判定の結果、画面遷移が発生する場合は、S803に移行して、遷移後の次画面の種別判定を行う。S803以降は、前述と同様の動作となる。一方、S810の判定の結果、画面遷移が発生しない場合は、S811において、キー操作に応じて画面内容を更新させる。そしてS807に移行し、ユーザーによる操作待ち状態となる。
一方、S808の判定の結果、ユーザーによる操作が十字キー310に対する操作でない場合は、S812に移行する。そして、S812において、ユーザーによる操作が、図3(a)に示すズームレバー313に対する操作であるか否かを判定する。この判定の結果、ズームレバー313に対する操作でない場合は、S813において、操作に応じた処理を行う。一方、ズームレバー313に対する操作である場合は、次に、S814において、立体表示装置350が3D画面表示中であるか否かを判定する。この判定は、立体表示装置350から3D表示しているか否かの情報を取得することにより判定する。この判定の結果、3D画面表示中でない場合は、S815に移行して画面内のズーム(操作方向に応じた電子ズームによる拡大または縮小)を行う。
図11は、画面内ズームの概略を説明する図である。ズーム前の表示画面1101が立体表示装置350に表示されている時に、ズームレバー313が望遠側に倒されると、画面の一部が拡大表示される。表示画面1102は、ズームレバー313が操作された後に、ズーム領域1103が拡大された画面を示している。画面の一部として表示画面1101のズーム領域1103を選択しているときには、S815において、ズームレバー313の操作により画面内のズーム処理が施される。すなわち、グラフィック処理部105によりズーム処理が施された拡大率の異なる画面を生成する。そして、ビデオ信号処理部106により外部接続IF108を介してそのデータを送信し、立体表示装置350でズーム処理された画面を表示させる。なお、選択領域は、操作部110からの指示により設定することができる。
一方、ステップS814の判定の結果、3D画面表示中である場合には、S816において、選択領域が設定されているか否かを判定する。この判定の結果、選択領域が設定されている場合は、S818に移行して前述した手順と同様にズームレバー313の操作に応じて選択した領域を拡大または縮小表示させる。一方、S816の判定の結果、選択領域が設定されていない場合は、S816に移行する。そして、S816において、ズームレバー313の操作に連動して飛び出し量を変更してグラフィック処理部105により立体画像の変換処理を行い、S817において、画面内容を更新する。
ここで、図12を参照しながら、ズームレバー313の操作による飛び出し量の変更について説明する。図12は、グラフィック処理部105が生成する左眼用画像1201及び右眼用画像1202の概略を示す図である。図12(a)及び図12(b)には、ズームレバー313の位置とGUIの部品1203、1204の描画位置との関係を示している。また、左眼用画像1201の部品1203及び右眼用画像1202の部品1204は、撮影画像の代表的な被写体の1つを表している。
図10で説明したように、立体表示は、同一の表示部品を飛び出し量に応じた視差量を設定して配置することにより実現している。図12(a)は、左眼用画像1201の中心ライン1205からx1_L右側にシフトした位置に部品1203の位置を変更し、右眼用画像1202の中心ライン1206からx1_R左側にシフトした位置に部品912の位置を変更した画像を示している。この場合、飛び出し量は、図10(a)に示す位置P2となる。また、図12(b)では、左眼用画像1201及び右眼用画像1202でそれぞれ、視差をx2_L、x2_Rに変更することにより、飛び出し量を図10(b)に示す位置P1となるように調整している。
本実施形態では、上記の視差の調整を、ズームレバー313を操作することにより実現している。即ち、図12(a)に示すように、ズームレバー313をどちらかの方向に倒すことにより、グラフィック処理部105は、部品1203、1204の描画位置を調整した左眼用画像及び右眼用画像を生成する。このように、立体表示の際にズームレバー313を望遠方向に倒すと、GUIの部品はより手前に飛び出してくるようにユーザーに知覚され、ズームレバー313を広角方向に倒すと、GUIの部品はより奥に移動していくようにユーザーに知覚される。
以上のように本実施形態によれば、立体表示装置と通信して取得した情報により、GUI画面を3Dに変換して出力し、その際にズームレバーによって立体表示の飛び出し量を調整する。望遠側へのズーム操作によって光学ズームあるいは電子ズームで拡大(ズームアップ)を行うと、被写体を近くに寄せるという印象をユーザーに与える。また、広角側へのズーム操作によって光学ズームあるいは電子ズームで縮小(ズームダウン)を行うと、被写体を遠くにするという印象をユーザーに与える。これは3D表示における立体感の調整、すなわち飛び出し量、奥行き量を変化させるという感覚に近い。従って本実施形態のように、光学ズームや電子ズームを行う操作と同じ操作で3D表示の立体感の調整(視差調整)を行うことで、ユーザーにとって直感的な操作でGUIの立体感を変更することができる。より詳しくは、被写体を近くに寄せるという感覚が一致するよう、光学ズームあるいは電子ズームで拡大する操作方法であるズーム操作部材の望遠側への操作で、3D表示した表示アイテム(GUI部品)がより手前に飛び出してくるように視差を調整する。逆に、被写体を遠くにするという感覚が一致するよう、光学ズームあるいは電子ズームで縮小する操作方法であるズーム操作部材の広角側への操作で、3D表示した表示アイテム(GUI部品)がより奥に移動していくように視差を調整する。これによって、ユーザーにとって直感的な操作でGUIの立体感を変更することができる。
(第2の実施形態)
以下、本発明の第2の実施形態について説明する。本実施形態では、ズームレバーが操作された時の立体表示の制御方法が第1の実施形態と異なっている。以下、図面を参照しながら本実施形態における動作について説明する。なお、本実施形態に係る撮像装置及び立体表示装置の構成については、それぞれ図1及び図3に示した構成と同様であるため、説明は省略する。
図13は、本実施形態に係る撮像装置10から立体表示装置350にGUIを表示させる処理手順の一例を示すフローチャートである。なお、図13に示す各処理は、CPU109の制御により行われる。また、図13の説明でも同様に、図3(a)に示すように、撮像装置10と立体表示装置350とが接続ケーブル315により接続されていることを前提に説明する。本実施形態においては、S1301からS1304の処理が第1の実施形態と異なり、その他の処理は第1の実施形態と同様であるため説明は省略する。
S814の判定の結果、3D画面表示中である場合は、S1301において、画面がインデックス画面であり、かつその中で任意の画像を選択しているか否かを判定する。
ここで、画像の選択について図14を参照しながら説明する。図14は、立体表示装置350の表示パネル1401に表示されるインデックス画面1402の一例を示す図である。本実施形態では、表示パネル1401はタッチパネル対応であり、矩形領域は各々の代表画像を表している。
ユーザーによる指の操作により代表画像を選択することができ、その情報が接続ケーブル315を介して撮像装置10に送信される。図14に示す例では、選択された代表画像が選択枠1403で強調表示されている。なお、撮像装置10の十字キー310等のキー操作によっても画像を選択することができる。
S1301の判定の結果、条件に合致する場合は、S1302に移行し、操作されたズームレバー313の方向に従い、選択されている画像の飛び出し量を調整する。そして、S1304において、画面内容を更新する。また、S1301の判定の結果、条件に合致しない場合は、S1303に移行し、操作されたズームレバー313の方向に従い、全画像(画面全体)の飛び出し量を調整する。そして、S1304において、画面内容を更新する。なお、飛び出し量を調整した画像を生成して表示する方法については第1の実施形態と同様である。
図15(a)は、S1303の処理により飛び出し量が調整されたインデックス画面の概要を示す図である。ズームレバー313が望遠側に倒されると、図15(a)に示すように各画像が矢印が示す手前に移動して見えるようになる。これにより、元々最前列に位置していた画像は点線で示す位置に飛び出すように観察される。また、ズームレバー313が広角側に倒されると、各画像は奥の方に移動して見えるようになる。
図15(b)は、S1302の処理により飛び出し量が調整されたインデックス画面の概要を示す図である。この場合、ズームレバー313が望遠側に倒されると、選択されている画像1501のみが手前に飛び出すように観察される。
さらに本実施形態では、立体感をズームレバー313で調整する際に、ズームレバー313の位置に応じて立体感(視差の変更量)を切り換えることができる。例えば、図16に示すように、変化プロファイルAは、ズームレバー313の位置に依存しないで常に同じ速度で視差を変化させる場合である。
これに対して変化プロファイルBは、ズームレバー313が初期位置の近傍付近では、予め設定されている基準速度で変換する。ところが、近傍付近を超える場合には、ズームレバー313が広角側に移動するのに従ってズームレバー313の操作に対する視差の変化速度を基準速度より速くし、望遠側に移動するのに従い視差の変化速度を基準速度より遅くする。この場合、3D表示を観察しているユーザーにとって、画像が奥の方に移動していくのに従い移動速度が速くなり、手前に飛び出してくるのに従い移動速度が遅くなるように観察される。また、変化プロファイルCのように変化速度が曲線になるように設定してもよい。
以上のように本実施形態によれば、ズームレバー313の位置に応じて立体感が変化する速度を変更することができる。これにより、画像が近くにあるときはゆっくりした速度で微妙な調整が可能となり、遠くに移動させるときは素早く移動できるので操作性が向上する。また、一般のユーザーが取り扱いに慣れたズームレバーを用いて立体感を調整するため、より直感的な操作感で簡単に調整することができる。
(その他の実施形態)
前述した第1及び第2の実施形態では、立体表示装置350に3D表示させる例について説明したが、撮像装置10の表示パネル107へ同様に3D表示させるようにしてもよい。この場合、外部装置と通信を行わないため、図3(a)に示すように外部装置と接続ケーブルで接続されている必要はなく、S801の処理は不要となる。また、撮像装置10が図4に示すような自身の条件情報を予め保持しているため、S802で条件情報を取得する処理は不要となる。さらに、S805及びS806では、ビデオ信号処理部106から表示パネル107に2Dまたは3Dの画像が出力されるため、図9に示すような表示は行われないものとする。
なお、CPU109の制御は1つのハードウェアが行ってもよいし、複数のハードウェアが処理を分担することにより、装置全体の制御を行ってもよい。また、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
また、上述した実施形態においては、本発明を撮像装置に適用した場合を例にして説明したが、これはこの例に限定されず、光学ズームあるいは電子ズームを指示するズーム操作部材を有する装置であれば適用可能である。すなわち、本発明はカメラ付き携帯電話端末やカメラ付き音楽プレーヤー、カメラ付きゲーム機、カメラ付き電子ブックリーダーなどに適用可能である。
本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶したコンピュータ読み取り可能な記憶媒体は本発明を構成することになる。
100 撮像部
105 グラフィック処理部
106 ビデオ信号処理部
109 CPU
110 操作部

Claims (24)

  1. 撮像手段と、
    ユーザーからの操作を受け付ける受付手段と、
    前記撮像手段での撮像時に、前記受付手段で第1の操作を受け付けたことに応じて前記撮像手段での撮像に用いるズームレンズを望遠側に光学ズームするように駆動し、前記受付手段で第2の操作を受け付けたことに応じて前記ズームレンズを広角側に駆動するように制御する光学ズーム手段と、
    3D表示用のGUI部品を含む映像を表示手段に出力可能な出力手段と、
    前記出力手段から3D表示用のGUI部品を含む映像を出力している際に、前記受付手段で前記第1の操作を受け付けたことに応じて前記3D表示用のGUI部品の飛び出し量が大きくなるように前記出力手段から出力される前記3D表示用のGUI部品の視差量を調整し、前記受付手段で前記第2の操作を受け付けたことに応じて前記3D表示用のGUI部品の飛び出し量が小さくなるように前記出力手段から出力される前記3D表示用のGUI部品の視差量を調整する視差量調整手段と
    を有することを特徴とする撮像装置。
  2. 前記3D表示用のGUI部品を含む映像は左目用画像と右目用画像とを含み、
    前記視差量調整手段は、前記第1の操作を受け付けたことに応じて前記左目用画像を右に、前記右目用画像を左にシフトさせ、前記第2の操作を受け付けたことに応じて前記左目用画像を左に、前記右目用画像を右にシフトさせることを特徴とする請求項に記載の撮像装置。
  3. 前記受付手段で前記第1の操作または前記第2の操作を受け付けたことに応じて、前記出力手段から出力される映像の電子ズーム処理を行う電子ズーム処理手段を更に有することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記電子ズーム処理手段は、前記第1の操作を受け付けたことに応じて電子ズームでの拡大処理を行い、前記第2の操作を受け付けたことに応じて電子ズームでの縮小処理を行うことを特徴とする請求項に記載の撮像装置。
  5. 前記出力手段は、2D表示用の映像も出力可能であり、
    前記電子ズーム処理手段は、前記出力手段から前記2D表示用の映像を出力している際に前記第1の操作または前記第2の操作を受け付けたことに応じて、前記出力手段から出力される2D表示用の映像の電子ズーム処理を行うことを特徴とする請求項3または4に記載の撮像装置。
  6. 前記出力手段から出力される3D表示用のGUI部品を含む映像の一部領域を選択する選択手段と、
    前記選択手段で3D表示用のGUI部品を含む映像の一部領域が選択されている場合に前記第1の操作または前記第2の操作を受け付けたことに応じて、前記電子ズーム処理手段が前記選択手段で選択されている前記一部領域の電子ズーム処理を行うように制御し、
    前記選択手段で3D表示用のGUI部品を含む映像の一部領域が選択されていない場合に前記第1の操作または前記第2の操作を受け付けたことに応じて、前記視差量調整手段が前記出力手段から出力される3D表示用のGUI部品の視差量を調整するように制御する制御手段と
    を更に有することを特徴とする請求項3乃至5の何れか1項に記載の撮像装置。
  7. 前記受付手段は、前記第1の操作及び前記第2の操作が可能な単一のズーム操作手段に対する操作を受け付けることを特徴とする請求項1乃至の何れか1項に記載の撮像装置。
  8. 前記ズーム操作手段は、複数の位置に操作することが可能であり、
    前記視差量調整手段は、前記ズーム操作手段が前記複数の位置のいずれに操作されているかに応じて異なる変化速度で段階的に視差量を変化させることを特徴とする請求項に記載の撮像装置。
  9. 前記表示手段を有する外部機器と接続する接続手段を更に有し、
    前記出力手段は、3D表示用のGUI部品を含む映像を前記接続手段を介して前記表示手段に出力することを特徴とする請求項1乃至の何れか1項に記載の撮像装置。
  10. 前記表示手段を更に有することを特徴とする請求項1乃至9の何れか1項に記載の撮像装置。
  11. ユーザーからの操作を受け付ける受付手段と、
    3D表示用のGUI部品を含む映像を表示手段に出力可能な出力手段と、
    前記受付手段で第1の操作を受け付けたことに応じて、前記出力手段から出力される映像の電子ズームでの拡大処理を行い、前記受付手段で第2の操作を受け付けたことに応じて前記出力手段から出力される映像の電子ズームでの縮小処理を行う電子ズーム処理手段と、
    前記出力手段から3D表示用のGUI部品を含む映像を出力している際に、前記受付手段で前記第1の操作を受け付けたことに応じて前記3D表示用のGUI部品の飛び出し量が大きくなるように視差量を調整し、前記受付手段で前記第2の操作を受け付けたことに応じて前記3D表示用のGUI部品の飛び出し量が小さくなるように視差量を調整する視差量調整手段と
    を有することを特徴とする画像処理装置。
  12. 前記3D表示用のGUI部品を含む映像は左目用画像と右目用画像とを含み、
    前記視差量調整手段は、前記第1の操作を受け付けたことに応じて前記左目用画像を右に、前記右目用画像を左にシフトさせ、前記第2の操作を受け付けたことに応じて前記左目用画像を左に、前記右目用画像を右にシフトさせることを特徴とする請求項11に記載の画像処理装置。
  13. 前記出力手段は、2D表示用の映像も出力可能であり、
    前記電子ズーム処理手段は、前記出力手段から前記2D表示用の映像を出力している際に前記第1の操作または前記第2の操作を受け付けたことに応じて、前記出力手段から出力される2D表示用の映像の電子ズーム処理を行うことを特徴とする請求項11または12に記載の画像処理装置。
  14. 前記出力手段から出力される3D表示用のGUI部品を含む映像の一部領域を選択する選択手段と、
    前記選択手段で3D表示用のGUI部品を含む映像の一部領域が選択されている場合に前記第1の操作または前記第2の操作を受け付けたことに応じて、前記電子ズーム処理手段が前記選択手段で選択されている前記一部領域の電子ズーム処理を行うように制御し、
    前記選択手段で3D表示用のGUI部品を含む映像の一部領域が選択されていない場合に前記第1の操作または前記第2の操作を受け付けたことに応じて、前記視差量調整手段が前記出力手段から出力される3D表示用のGUI部品の視差量を調整するように制御する制御手段と
    を更に有することを特徴とする請求項11乃至13の何れか1項に記載の画像処理装置。
  15. 前記受付手段は、前記第1の操作及び前記第2の操作が可能な単一のズーム操作手段に対する操作を受け付けることを特徴とする請求項11乃至14の何れか1項に記載の画像処理装置。
  16. 前記ズーム操作手段は、複数の位置に操作することが可能であり、
    前記視差量調整手段は、前記ズーム操作手段が前記複数の位置のいずれに操作されているかに応じて異なる変化速度で段階的に視差量を変化させることを特徴とする請求項15に記載の画像処理装置。
  17. 前記表示手段を有する外部機器と接続する接続手段を更に有し、
    前記出力手段は、3D表示用のGUI部品を含む映像を前記接続手段を介して前記表示手段に出力することを特徴とする請求項11乃至16の何れか1項に記載の画像処理装置。
  18. 前記表示手段を更に有することを特徴とする請求項11乃至17の何れか1項に記載の画像処理装置。
  19. 撮像手段と、ユーザーからの操作を受け付ける受付手段と、3D表示用のGUI部品を含む映像を表示手段に出力可能な出力手段とを有する撮像装置の制御方法であって、
    前記撮像手段での撮像時に、前記受付手段で第1の操作を受け付けたことに応じて前記撮像手段での撮像に用いるズームレンズを望遠側に光学ズームするように駆動し、前記受付手段で第2の操作を受け付けたことに応じて前記ズームレンズを広角側に駆動するように制御する光学ズームステップと、
    前記出力手段から3D表示用のGUI部品を含む映像を出力している際に、前記受付手段で前記第1の操作を受け付けたことに応じて前記3D表示用のGUI部品の飛び出し量が大きくなるように前記出力手段から出力される前記3D表示用のGUI部品の視差量を調整し、前記受付手段で前記第2の操作を受け付けたことに応じて前記3D表示用のGUI部品の飛び出し量が小さくなるように前記出力手段から出力される前記3D表示用のGUI部品の視差量を調整する視差量調整ステップと
    を有することを特徴とする撮像装置の制御方法。
  20. ユーザーからの操作を受け付ける受付手段と、3D表示用のGUI部品を含む映像を表示手段に出力可能な出力手段とを有する画像処理装置の制御方法であって、
    前記受付手段で第1の操作を受け付けたことに応じて、前記出力手段から出力される映像の電子ズームでの拡大処理を行い、前記受付手段で第2の操作を受け付けたことに応じて前記出力手段から出力される映像の電子ズームでの縮小処理を行う電子ズーム処理ステップと、
    前記出力手段から3D表示用のGUI部品を含む映像を出力している際に、前記受付手段で前記第1の操作を受け付けたことに応じて前記3D表示用のGUI部品の飛び出し量が大きくなるように視差量を調整し、前記受付手段で前記第2の操作を受け付けたことに応じて前記3D表示用のGUI部品の飛び出し量が小さくなるように視差量を調整する視差量調整ステップと
    を有することを特徴とする画像処理装置の制御方法。
  21. コンピュータを、請求項1乃至10の何れか1項に記載された撮像装置の各手段として機能させるためのプログラム。
  22. コンピュータを、請求項1乃至10の何れか1項に記載された撮像装置の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記憶媒体。
  23. コンピュータを、請求項11乃至18の何れか1項に記載された画像処理装置の各手段として機能させるためのプログラム。
  24. コンピュータを、請求項11乃至18の何れか1項に記載された画像処理装置の各手段として機能させるためのプログラムを格納したコンピュータが読み取り可能な記憶媒体。
JP2011154031A 2011-07-12 2011-07-12 撮像装置、画像処理装置、撮像装置の制御方法及び画像処理装置の制御方法 Expired - Fee Related JP5868045B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011154031A JP5868045B2 (ja) 2011-07-12 2011-07-12 撮像装置、画像処理装置、撮像装置の制御方法及び画像処理装置の制御方法
US13/544,633 US9392250B2 (en) 2011-07-12 2012-07-09 Imaging apparatus and control method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011154031A JP5868045B2 (ja) 2011-07-12 2011-07-12 撮像装置、画像処理装置、撮像装置の制御方法及び画像処理装置の制御方法

Publications (3)

Publication Number Publication Date
JP2013021550A JP2013021550A (ja) 2013-01-31
JP2013021550A5 JP2013021550A5 (ja) 2014-08-28
JP5868045B2 true JP5868045B2 (ja) 2016-02-24

Family

ID=47518717

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011154031A Expired - Fee Related JP5868045B2 (ja) 2011-07-12 2011-07-12 撮像装置、画像処理装置、撮像装置の制御方法及び画像処理装置の制御方法

Country Status (2)

Country Link
US (1) US9392250B2 (ja)
JP (1) JP5868045B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014003465A (ja) * 2012-06-19 2014-01-09 Seiko Epson Corp 画像表示装置及びその制御方法
US10230932B2 (en) * 2014-02-13 2019-03-12 Autodesk, Inc. Techniques for animating transitions between non-stereoscopic and stereoscopic imaging
CN104216214A (zh) * 2014-09-23 2014-12-17 长春理工大学 一种新的特种电影
KR101928934B1 (ko) 2016-02-23 2018-12-13 주식회사 엘지화학 헤테로고리 화합물 및 이를 포함하는 유기 발광 소자

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3303255B2 (ja) * 1995-12-28 2002-07-15 富士写真光機株式会社 ズームレンズの駆動装置
JPH11155155A (ja) 1997-11-19 1999-06-08 Toshiba Corp 立体映像処理装置
JP2005049668A (ja) 2003-07-30 2005-02-24 Sharp Corp データ変換装置、表示装置、データ変換方法、プログラム及び記録媒体
JP2008096584A (ja) * 2006-10-10 2008-04-24 Nikon Corp カメラ
JP4995854B2 (ja) * 2009-03-11 2012-08-08 富士フイルム株式会社 撮像装置、画像補正方法および画像補正プログラム
JP5491786B2 (ja) * 2009-07-21 2014-05-14 富士フイルム株式会社 画像再生装置及び方法
JP2011205374A (ja) * 2010-03-25 2011-10-13 Fujifilm Corp 表示装置
JP5641200B2 (ja) * 2010-05-28 2014-12-17 ソニー株式会社 画像処理装置、画像処理方法および画像処理プログラムならびに記録媒体
JP2012085030A (ja) * 2010-10-08 2012-04-26 Panasonic Corp 立体撮像装置および立体撮像方法

Also Published As

Publication number Publication date
JP2013021550A (ja) 2013-01-31
US20130016191A1 (en) 2013-01-17
US9392250B2 (en) 2016-07-12

Similar Documents

Publication Publication Date Title
WO2012011341A1 (ja) 撮像装置、その制御方法およびプログラム
EP2410753B1 (en) Image-processing method for a display device which outputs three-dimensional content, and display device adopting the method
US20130169765A1 (en) Display apparatus, image processing system, display method and imaging processing thereof
WO2011136191A1 (ja) 立体画像再生装置及び方法、立体撮像装置、立体ディスプレイ装置
US20110063422A1 (en) Video processing system and video processing method
WO2011136190A1 (ja) 立体画像再生装置及び方法、立体撮像装置、立体ディスプレイ装置
JP2001326947A (ja) 立体画像表示装置
JP2011114868A (ja) Gui提供方法及びこれを用いたディスプレイ装置と3d映像提供システム
WO2012158446A1 (en) Stereoscopic camera using anaglyphic display for guiding the image capture
KR20110116525A (ko) 3d 오브젝트를 제공하는 영상표시장치, 그 시스템 및 그 동작 제어방법
WO2014155670A1 (ja) 立体視映像処理装置、立体視映像処理方法及び立体視映像処理用プログラム
JP5868045B2 (ja) 撮像装置、画像処理装置、撮像装置の制御方法及び画像処理装置の制御方法
WO2012105121A1 (ja) 立体動画再生装置、立体動画再生プログラムならびにその記録媒体、立体ディスプレイ装置、立体撮像装置及び立体動画再生方法
WO2011136137A1 (ja) 立体撮像装置及びその制御方法
KR101228916B1 (ko) 멀티 비젼의 3차원 영상 표시 장치 및 방법
JP2001320734A (ja) 立体画像表示装置
EP2574068A2 (en) Image display apparatus and method for operating the same
JP2014207492A (ja) 立体映像表示装置
KR20130070592A (ko) 데이터 전송 시스템
JP2011250322A (ja) 表示装置、警告表示方法、プログラムおよび記録媒体
JP2012028934A (ja) 3次元ディスプレイ装置、表示方法、プログラム、及び、記録媒体
JP2012114825A (ja) 撮像装置、撮像システム及び撮像方法
JP5222718B2 (ja) 立体画像再生装置、立体画像再生プログラム、撮像装置
JP5496803B2 (ja) 画像表示装置、画像表示方法、プログラムおよび記録媒体
JP6680273B2 (ja) 画像再生装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140711

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140711

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150421

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150619

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160105

R151 Written notification of patent or utility model registration

Ref document number: 5868045

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees