JP2013541300A - 三次元ステレオ・アプリケーションにおける二次元エレメントの提示 - Google Patents

三次元ステレオ・アプリケーションにおける二次元エレメントの提示 Download PDF

Info

Publication number
JP2013541300A
JP2013541300A JP2013533862A JP2013533862A JP2013541300A JP 2013541300 A JP2013541300 A JP 2013541300A JP 2013533862 A JP2013533862 A JP 2013533862A JP 2013533862 A JP2013533862 A JP 2013533862A JP 2013541300 A JP2013541300 A JP 2013541300A
Authority
JP
Japan
Prior art keywords
dimensional
viewer
eye
media content
modified
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013533862A
Other languages
English (en)
Other versions
JP5977749B2 (ja
JP2013541300A5 (ja
Inventor
ショーバン,ジョゼフ・ウェイン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2013541300A publication Critical patent/JP2013541300A/ja
Publication of JP2013541300A5 publication Critical patent/JP2013541300A5/ja
Application granted granted Critical
Publication of JP5977749B2 publication Critical patent/JP5977749B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/371Image reproducers using viewer tracking for tracking viewers with different interocular distances; for tracking rotational head movements around the vertical axis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/158Switching image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/373Image reproducers using viewer tracking for tracking forward-backward translational head movements, i.e. longitudinal movements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

コンピューター読み取り可能媒体、コンピューター・システム、および計算機は、二次元エレメントのメディア・コンテンツに対する三次元効果を得るために、二次元エレメントのメディア・コンテンツ上への提示を支援する。実施形態では、二次元エレメントの位置および/またはサイズを示すエレメント属性を参照する。このようなエレメント属性を、眼間距離および視覚深度と共に用いて、二次元エレメントの修正位置および/または修正サイズを計算する。二次元物体の修正位置および/または修正サイズにしたがって、二次元エレメントをメディア・コンテンツに応じて重ね合わせる。
【選択図】図3B

Description

[0001] 三次元ステレオ技術は、増々普及しつつある。例えば、映画や生のテレビジョン・スポーツ放送は、三次元ステレオ技術を増々頻繁に利用しつつある。三次元ステレオ・コンテンツを生成するために用いられる一般的な技法では、物体が表示画面よりも前に現れて、視聴者がその行為に一層近づくように感じられるようにする。
[0002] 多くの場合、テキスト、メニュー、または画像のような二次元エレメントは、例えば、コンピューターまたはセット・トップ環境を通じて、三次元コンテンツの上に描かれる。背景メディア・コンテンツが三次元である場合、この三次元コンテンツの前に描かれる二次元エレメントは、実際には、背景メディア・コンテンツの少なくとも一部の後ろにあるように見える場合もある。これに関して、深度認知の観点から、二次元オーバーレイ・エレメントは、三次元コンテンツの一部または全部よりも後ろに見えることもある。二次元エレメントを三次元フォーマットに変換すれば、オーバーレイ・エレメントが背景メディア・コンテンツの前に現れるようにすることもできる場合もあるが、このような変換のために、二次元エレメントを三次元フォーマットに書き直すことになり、費用がかかるおよび/または精度が落ちる(即ち、各目の視野(vision)を精度高く分離できない)といった結果になる場合もある。
[0003] この摘要は、詳細な説明の章において以下で更に説明する概念から選択したものを簡略化された形式で紹介するために、設けられている。この摘要は、特許請求する主題の主要な特徴や必須の特徴を特定することを意図するのではなく、特許請求する主題の範囲を判断する際に補助として別々に使用されることを意図するのでもない。
[0004] 本発明の実施形態によれば、二次元エレメントをメディア・コンテンツの上に位置付けるとき等に、その二次元エレメントまたはその属性を変換して、三次元効果を得る。これに関して、サイズおよび位置を修正した二次元エレメントをメディア・コンテンツの上にレンダリングして、オーバーレイ・エレメントのメディア・コンテンツに対する三次元配景(perspective)を規定する。二次元エレメントの属性(例えば、幅、高さ、水平位置、垂直位置、および/または深さ位置)を、視聴者の視覚と関連のある属性(例えば、視聴者の左目および右目の間における眼間距離(eye distance)、視聴者と表示画面との間の視聴者距離、表示域の幅、および/または目の位置)と共に利用して、二次元エレメントに適用する修正を特定する。場合によっては、特定した修正を二次元エレメントに適用し、その後、三次元メディア・コンテンツと合成することもある。一例としてあげるに過ぎないが、修正を二次元エレメントに適用して、二次元エレメントの左目バージョンおよび右目バージョンを生成することもでき、これらを、それぞれ、三次元ステレオ・メディア・コンテンツの左フレームおよび右フレームと合成することもできる。あるいは、このような修正を、最新のウィンドウ・グラフィカル・ユーザー・インターフェース(windowed graphical user interface)に適用して、このようなウィンドウ(1つまたは複数)がメディアを含むか否かには関係なく、三次元ステレオ対応二次元アプリケーションを作成することもできる。
[0005] 添付図面を参照しながら、本発明の実施形態について以下に詳細に説明する。
図1は、本発明の実施形態を実現するのに適した計算機例のブロック図である。 図2は、本発明の実施形態を実現する際の使用に適したネットワーク環境例のブロック図である。 図3Aは、本発明の実施形態にしたがって、視聴者の左目と関連のある強調属性(enhanced attribute)、および視聴者の右目と関連のある強調属性を決定するのに役立つ図の例を示す。 図3Bは、本発明の実施形態にしたがって、視聴者の左目と関連のある強調属性、および視聴者の右目と関連のある強調属性を決定するのに役立つ図の例を示す。 図3Cは、本発明の実施形態にしたがって、視聴者の左目と関連のある強調属性、および視聴者の右目と関連のある強調属性を決定するのに役立つ図の例を示す。 図3Dは、本発明の実施形態にしたがって、視聴者の左目と関連のある強調属性、および視聴者の右目と関連のある強調属性を決定するのに役立つ図の例を示す。 図4は、本発明の実施形態にしたがって、メディア・コンテンツの上にレンダリングされた二次元オーバーレイ・エレメントの表示画面例を示す模式図である。 図5は、本発明の実施形態にしたがって、二次元オーバーレイ・エレメントの提示を支援する方法例を示す流れ図である。 図6は、本発明の実施形態にしたがって、二次元オーバーレイ・エレメントの提示を支援する他の方法例を示す流れ図である。 図7は、本発明の実施形態にしたがって、二次元オーバーレイ・エレメントの提示を支援する他の方法例を示す流れ図である。
[0013] 本明細書に開示する発明の実施形態の主題について、法的要件を満たすために具体性をもって説明する。しかしながら、説明自体は、本特許の範囲を限定することは意図していない。むしろ、本発明者は、特許請求する主題は、本文書において記載するステップとは異なるステップまたは同様のステップの組み合わせを含むように、他の現在または今後の技術と関連付けて、別の方法で具体化してもよいことを想定している。更に、「ステップ」および/または「ブロック」という用語は、本明細書においては、採用された方法の異なるエレメントを言外に意味するために用いることもできるが、個々のステップの順序が明示的に記載されている場合でなければ、そしてその場合を除いて(unless and except)、本明細書において開示される種々のステップ間において、いかなる特定の順序をも暗示するようにこれらの用語を解釈してはならない。
[0014] 本明細書において記載する発明の実施形態は、メディア・コンテンツに対する二次元エレメントの三次元効果を得るために、二次元エレメントのメディア・コンテンツ上への提示を支援する方法を実行するためのコンピューター実行可能命令を有するコンピューター読み取り可能媒体を含む。この方法の実施形態は、二次元エレメントの位置、サイズ、またはその組み合わせを示す1つ以上のエレメント属性を参照するステップを含む。1つ以上のエレメント属性、視聴者の左目と右目との間の距離を示す眼間距離、および表示画面と視聴者との間の距離を示す視覚的深度を利用して、二次元エレメントの修正位置、および/または二次元エレメントの修正サイズを決定する。二次元エレメントの修正位置、および/または二次元物体の修正サイズにしたがって、二次元エレメントをメディア・コンテンツに応じて重ね合わせて、強調複合メディア(enhanced composite media)を生成する。
[0015] 第2の実施形態例では、コンピューター実行可能命令が、計算機に、二次元エレメントのメディア・コンテンツに対する三次元効果を得るために二次元エレメントのメディア・コンテンツ上への提示を支援する方法を実行させる。実施形態では、この方法は、二次元エレメントの位置および/またはサイズを示す1つ以上のエレメント属性を参照するステップを含む。1つ以上のエレメント属性は、二次元エレメントが表示画面に対して三次元ステレオで現れることが望まれる深度位置を含むことができる。視聴者の視覚的認知を示す1つ以上の視覚属性を参照する。1つ以上のエレメント属性および1つ以上の視覚属性を利用して、視聴者の左目と関連のある強調二次元エレメント、および視聴者の右目と関連のある強調二次元エレメントを生成する。
[0016] 第3の実施形態例では、二次元エレメントのメディア・コンテンツに対する三次元効果を得るために二次元エレメントのメディア・コンテンツ上への提示を支援するコンピューター化方法を提供する。実施形態では、この方法は、左境界、右境界、および二次元エレメントと関連のある深度位置を含む1組のエレメント属性を参照するステップを含む。また、1組の視覚属性も参照する。このような視覚属性は、視聴者の表示画面からの深さを示す視覚的深度、視聴者の左目の位置を示す左眼位、および視聴者の右目の位置を示す右眼位を含むことができる。これら1組のエレメント属性および1組の視覚属性を利用して、左目視界(view)と関連付けて第1修正左境界および第1修正右境界を決定し、更に右目視界と関連付けて第2修正左境界および第2修正右境界を決定する。左目視界に合わせて、修正左境界および修正右境界にしたがって、第1修正二次元エレメントをメディア・コンテンツと合成する。同様に右目視界に合わせて、修正左境界および修正右境界にしたがって、第2修正二次元エレメントをメディア・コンテンツと合成する。
[0017] 本発明の実施形態の種々の態様は、コンピューター、あるいはパーソナル・データー・アシスタントまたはその他のハンドヘルド・デバイスというような他の装置によって実行される、プログラム・モジュールのようなコンピューター実行可能命令を含む、コンピューター・コードまたは機械使用可能命令を含むコンピューター・プログラム生産物という一般的なコンテキスト説明することができる。一般に、ルーチン、プログラム、オブジェクト、コンポーネント、データー構造等を含むプログラム・モジュールは、特定のタスクを実行するコード、または特定の絶対データー・タイプを実装するコードを指す。本発明の実施形態は、専用サーバー、汎用コンピューター、ラップトップ、更に特殊な計算機、セット・トップ・ボックス(STB)、メディア・サーバー等を含む、種々のシステム構成において実用することができる。また、本発明の実施形態は分散型計算環境においても実用することができ、この環境では、通信ネットワークを通じてリンクされているリモート処理デバイスによってタスクを実行する。
[0018] コンピューター読み取り可能媒体は、揮発性および不揮発性双方のリムーバブルおよび非リムーバブル媒体を含み、データーベース、プロセッサー、および種々のネットワーク接続されている計算機によって読み取り可能な媒体が考えられる。一例として、そして限定ではなく、コンピューター読み取り可能媒体は、情報を格納するためのあらゆる方法または技術において実施される媒体を含む。格納される情報の例には、コンピューター実行可能命令、データー構造、プログラム・モジュール、およびその他のデーター表現が含まれる。媒体の例には、限定ではないが、RAM、ROM、EEPROM、フラッシュ・メモリーおよびその他のメモリー技術、CD−ROM、ディジタル・バーサタイル・ディスク(DVD)、ホログラフ媒体およびその他の光ディスク・ストレージ、磁気カセット、磁気テープ、磁気ディスク・ストレージ、ならびにその他の磁気記憶デバイスが含まれる。これらの技術は、データーを瞬時的、一時的、または永続的に格納することができる。
[0019] 本発明の種々の態様を実現することができる動作環境例について、本発明の種々の態様について一般的なコンテキストを規定するために、以下に説明する。最初に図1を参照すると、本発明の実施形態を実現する動作環境例が示されており、全体的に計算機100で示されている。計算機100は、適した計算環境の一例に過ぎず、本発明の使用範囲や機能に関して何ら限定を示唆することは意図していない。また、計算機100が、図示したコンポーネントのいずれの1つまたはその組み合わせに関しても、何らかの依存性や必要性を有するように解釈してはならない。
[0020] 計算機100は、以下のデバイスを直接的または間接的に結合するバス110を含む。そのデバイスとは、メモリー112、1つ以上のプロセッサー114、1つ以上のプレゼンテーション・コンポーネント116、入出力(I/O)ポート118、I/Oコンポーネント120、および例示的な電源122である。バス110は、1系統以上のバス(アドレス・バス、データー・バス、またはその組み合わせ等)であることもあるものを代表する。図1の種々のブロックは、明確化のために線で示すが、実際には種々のモジュールの区分けはそれほど明確でなく、比喩的には、これらの線をもっと正確に示すとすれば、灰色で曖昧となるであろう。例えば、ディスプレイ・デバイスのようなプレゼンテーション・コンポーネントをI/Oコンポーネントであると考えることもできる。また、多くのプロセッサーはメモリーを有する。本発明の発明者はこのようなことは技術の本質であると認識しており、図1の線図は、本発明の1つ以上の実施形態と合わせて用いることができる計算機の一例を例示するに過ぎないことを繰り返しておく。「ワークステーション」、「サーバー」、「ラップトップ」、「ハンドヘルド・デバイス」等というようなカテゴリー間では区別を行わない。これは、全てが図1の範囲に該当すると考えられ、「計算機」を指すからである。
[0021] メモリー112は、揮発性および/または不揮発性メモリーに格納されたコンピューター実行可能命令(図示せず)を含む。このメモリーは、リムーバブル、非リムーバブル、またはその組み合わせであってもよい。ハードウェア・デバイスの例には、ソリッド・ステート・メモリー、ハード・ドライブ、光ディスク・ドライブ等が含まれる。計算機100は、システム・バス110と結合されている1つ以上のプロセッサー114を含む。これらのプロセッサー114は、メモリー112またはI/Oコンポーネント120のような種々のエンティティからデーターを読み取る。一実施形態では、1つ以上のプロセッサー114は、コンピューター実行可能命令を実行して、コンピューター実行可能命令によって定義される種々のタスクおよび方法を実行する。プレゼンテーション・コンポーネント(1つまたは複数)116は、システム・バス110に結合されており、データー指示をユーザーまたは他のデバイスに提示する。プレゼンテーション・コンポーネント116の例には、ディスプレイ・デバイス、スピーカー、印刷コンポーネント等が含まれる。
[0022] I/Oポート118は、計算機100を、I/Oコンポーネント120を含む他のデバイスに論理的に結合させる。I/Oコンポーネント120の一部は、内蔵されていてもよい。コンポーネントの例には、マイクロフォン、ジョイスティック、ゲーム・パッド、衛星ディッシュ、スキャナー、プリンター、ワイヤレス・デバイス、キーボード、ペン、音声入力デバイス、接触入力デバイス、タッチ・スクリーン・デバイス、インタラクティブ・ディスプレイ・デバイス、またはマウスが含まれる。また、I/Oコンポーネント120には、通信接続も含むことができる。通信接続は、例えば、他の計算機、サーバー、ルーター等のようなリモート・デバイスに計算機100を通信状態で接続しやすくすることができる。
[0023] 三次元効果は、増々普及しつつある。場合によっては、二次元オーバーレイ・エレメントが、メディア・コンテンツに対する二次元オーバーレイ・エレメントの三次元効果を得る取り組み(effort)において、メディア・コンテンツへのオーバーレイとして設けられることもある。本明細書において用いる場合、二次元オーバーレイ・エレメントまたは二次元エレメントは、二次元であって、メディア・コンテンツに重ね合わせることができる、またはメディア・コンテンツと合成することができるあらゆるエレメントを指す。二次元エレメントは、テキスト、画像(1つまたは複数)、写真(1つまたは複数)、ウィンドウ・ビュー(1つまたは複数)、メニュー(1つまたは複数)、その組み合わせ等であってもよい。
[0024] 本明細書において用いる場合、メディア・コンテンツとは、1つ以上の二次元エレメントと合成すること、またはこれらによって重ね合わされることができるあらゆるタイプの視覚的媒体を指す。メディア・コンテンツは、ビデオ、画像、写真、グラフィック、ウィンドウ・ビュー、デスクトップ・ビュー等であってもよい。一実施形態では、メディア・コンテンツは二次元形態となる。あるいは、他の実施形態では、メディア・コンテンツは三次元形態(例えば、三次元ステレオ)となる。
[0025] 本発明の実施形態では、強調二次元エレメント(即ち、修正二次元エレメント)が、三次元メディア・コンテンツのような、メディア・コンテンツに重なり合って、メディア・コンテンツに対する強調二次元エレメントの三次元効果を得る。これに関して、強調二次元エレメントは、メディア・コンテンツの前における特定の深度に位置付けられているように見えるか、またはメディア・コンテンツの少なくとも一部よりも視聴者に近くに見える。メディア・コンテンツが三次元フォーマットで供給されるときであっても、本発明の実施形態は強調二次元エレメントのメディア・コンテンツに対する三次元効果を可能とし、強調二次元エレメントが、三次元メディア・コンテンツの少なくとも一部の前に現れ、または全体の前にでも現れる。
[0026] これより図2に移ると、本発明の実施形態を実現する際の使用に適したネットワーク環境例200のブロック図が示されている。ネットワーク環境200は、メディア・コンテンツ・プロバイダー210、二次元エレメント・プロバイダー212、グラフィクス・エンジン214、および視聴者デバイス216を含む。視聴者デバイス216は、ネットワーク218を通じて、グラフィクス・エンジン214と通信する。ネットワーク218は、例えば、ローカル・エリア・ネットワーク(LAN)、ワイド・エリア・ネットワーク(WAN)、インターネット、セルラー・ネットワーク、ピア・ツー・ピア(P2P)ネットワーク、移動体ネットワーク、またはネットワークの組み合わせというような、いずれの数のネットワークでも含むことができる。図2に示すネットワーク環境200は、1つの適したネットワーク環境の例であり、本文書全体を通じて開示される発明の実施形態の使用範囲や機能に関して、何の限定も示唆する意図はない。また、ネットワーク環境例200が、図2に示すいずれの1つのコンポーネント、またはコンポーネントの組み合わせに対しても、何らかの依存性または必要性を有するように解釈してはならない。例えば、多数の視聴者デバイスがグラフィクス・エンジン214と通信状態にあってもよい。更に、視聴者デバイス216が、例えば、DVI(ディジタル・ビジュアル・インターフェース)、HDMI(登録商標)(高品位マルチメディア・インターフェース)、VGA(ビデオ・グラフィクス・アレイ)、DisplayPort等を通じて、グラフィクス・エンジン214と直接通信するのであってもよい。
[0027] メディア・コンテンツ・プロバイダー210は、メディア・コンテンツをグラフィクス・エンジン214に供給する。メディア・コンテンツ・プロバイダー210は、例えば、グラフィクス・エンジン214からの要求に応答して、または視聴者の要求に基づいて視聴者デバイス216からの要求に応答して、メディア・コンテンツを供給することができる。例えば、視聴者デバイス216の視聴者は、選択を行うか、それ以外では、特定のメディア・コンテンツ、例えば、特定の三次元メディア・コンテンツを視聴する要望を示すことができる。このようなメディア・コンテンツは、環境の中に格納するとよく、例えば、データーベース、コンピューター等にというように、格納することができる。メディア・コンテンツ・プロバイダー210は、格納されているメディア・コンテンツを参照し、その後メディア・コンテンツをグラフィクス・エンジン214に伝達する。メディア・コンテンツ・プロバイダー210は、実施形態によれば、サーバー・システム、プログラム・モジュール、仮想機械、1つまたは複数のサーバーのコンポーネント、ネットワーク等として実現することができる。
[0028] 本明細書では、全体的に、実施形態がメディア・コンテンツおよび/またはメディア・コンテンツ・プロバイダーを含むように論じているが、二次元エレメントが重ね合わされる背景は、その背景がメディアを含むか否かには関係なく、いずれの背景でもよいことは認めることができよう。これに関して、三次元ディスプレイが入手しやすくなり、一般的になりつつあるので、ユーザーが三次元ステレオ・メディアを消費していなくても、三次元ステレオ効果を有することが望ましい場合もある。したがって、二次元オーバーレイ・エレメントは、標準的な重複ウィンドウのような、メディア以外のアプリケーション(non-media application)においても、ウィンドウ間に視覚的な深度の分離が得られるように用いることができる。
[0029] 二次元エレメント・プロバイダー212は、二次元エレメントをグラフィクス・エンジン214に供給する。前述のように、二次元エレメントは、メディア・コンテンツに重ね合わせることができる、またはそれと合成することができるいずれの二次元エレメントでもよい。例えば、二次元エレメントは、テキスト、画像、写真、ウィンドウ・ビュー、メニュー等であってもよい。このような二次元エレメントを環境内に格納するとよく、例えば、データーベース、コンピューター等にというように、エレメントを格納することができる。二次元エレメント・プロバイダー212は、格納されているエレメントを参照して、その後二次元エレメントをグラフィクス・エンジン214に伝達することができる。二次元エレメント・プロバイダー212は、実施形態によれば、サーバー・システム、プログラム・モジュール、仮想機械、1つまたは複数のサーバーのコンポーネント、ネットワーク等として実現することができる。
[0030] また、二次元エレメント・プロバイダー212は、二次元エレメント属性も供給することができる。1つ以上の二次元エレメント属性を、対応する二次元エレメントと共に(例えば、メタデーターとして)、またはこれとは別個に伝達することができる。二次元エレメント属性、またはエレメント属性とは、二次元エレメントの位置および/またはサイズを記述する、示す、または特徴付けるあらゆる属性を指す。これに関して、二次元エレメント属性は、二次元エレメントを修正してメディア・コンテンツに対して三次元効果が得られる前における二次元エレメントを記述する、または特徴付ける。
[0031] 二次元エレメント属性は、二次元エレメントの水平位置、垂直位置、深度位置、幅、高さ、左境界、右境界等とすることができる。水平位置とは、二次元エレメントの1点の表示画面またはメディア・コンテンツに対する水平位置または所望の水平位置(例えば、x軸に沿った)を指す。例えば、水平位置は、二次元エレメントの左下角のx軸値(例えば、画素値によって示す)によって示すのでもよい。垂直位置とは、二次元エレメントの1点の表示画面またはメディア・コンテンツに対する垂直位置または所望の垂直位置(例えば、y軸に沿った)を指す。例えば、垂直位置は、二次元エレメントの左下角のy軸値(例えば、画素値によって示す)によって示すのでもよい。深度位置とは、二次元エレメントの表示画面またはメディア・コンテンツに対する深度位置または所望の深度位置を指す。深度位置は、二次元エレメントが表示画面に対して現れることが望まれる距離(例えば、z軸に沿った画素値によって示す)によって示すのでもよい。
[0032] 幅は、二次元エレメントの幅または所望の幅を指し、高さは、二次元エレメントの高さまたは所望の高さを指す。認めることができるであろうが、幅および/または高さは、画素値、インチ、センチメートル等を含む、いずれの測定値を用いても特定することができる。左境界は、二次元エレメントの表示画面またはメディア・コンテンツに対する左側または左境界の位置あるいは所望の位置(例えば、x軸に沿った)を指す。右境界は、二次元エレメントの表示画面またはメディア・コンテンツに対する右側または右境界の位置あるいは所望の位置(例えば、x軸に沿った)を指す。これに関して、左境界および右境界は、二次元エレメントの外側の境界となる。このような際側境界(side boundary)は、表示画面またはメディア・コンテンツのx軸に沿った画素値によって示すとよい。したがって、実施形態では、x軸に沿った画素値によって示される水平位置は、x軸に沿った画素値によって示される左境界と同じである。
[0033] 認めることができるであろうが、このようなエレメント属性は、いずれの方法を用いても指定することができる。実施形態の中には、画素を利用して、二次元エレメントのサイズおよび/または位置を指定することもある。画素のような共通の測定値を使用すると、三次元効果を生成するための計算を簡素にすることができる。これについては、以下で更に詳しく説明する。他の実施形態では、他の測定値を利用してもよい(例えば、インチ、センチメートル、ミリメートル等)。
[0034] 二次元エレメント属性は、対応する二次元エレメント、複合メディア(即ち、メディア・コンテンツに対してオーバーレイとして位置付けられる二次元エレメントの複合体または集合体)等に基づいて特定することができる。これに関して、二次元エレメントを分析して、水平位置、垂直位置、深度位置、幅、高さ、左境界、右境界等の内1つ以上を特定してもよい。例えば、幅および高さは、二次元エレメントの分析のときに判定してもよい。あるいは、二次元エレメントがオーバーレイとなるメディア・コンテンツと関連付けてこの二次元エレメントを分析して、水平位置、垂直位置、深度位置、幅、高さ、左境界、右境界等の内1つ以上を特定してもよい。例えば、水平位置および垂直位置は、複合メディア(即ち、メディア・コンテンツと合成された二次元エレメント)の分析のときに特定してもよい。実施形態の中には、例えば、視聴者、プログラム・コーディネーター、プログラム開発者、システム管理者等によって供給されるユーザー入力に基づいて、更に多くのエレメント属性の内1つを特定するのであってもよい場合もある。例えば、システム管理者が、特定の二次元エレメントに対して所望の深度位置を示す入力を供給してもよい。
[0035] 認めることができるであろうが、メディア・コンテンツ・プロバイダー210および二次元エレメント・プロバイダー212を組み合わせて1つのコンポーネントにすること、またはあらゆる数のコンポーネントに分離することもできる。例えば、実施形態の中には、組み合わせたコンポーネントが、二次元エレメント(1つまたは複数)が重ね合わされたメディア・コンテンツ、および1つ以上のエレメント属性を含む、複合メディアを伝達するように機能することもできる。
[0036] グラフィクス・エンジン214は、二次元エレメントを変換または修正して、強化二次元エレメント(あるいは、本明細書では強化エレメントとも呼ぶ)にするように構成されている。強化エレメント(enhanced element)とは、表示画面またはメディア・コンテンツに対してサイズおよび/または配置が修正された二次元エレメントを指し、この強化エレメントをメディア・コンテンツ上に重ね合わせることによって、三次元効果が得られる。三次元効果を得るためには、グラフィクス・エンジン214は、左目視界と対応するように強化二次元エレメントをメディア・コンテンツ上に重ね合わせ、更に右目視界と対応するように強化二次元エレメントをメディア・コンテンツ上に重ね合わせる。
[0037] 実施形態の中には、グラフィクス・エンジン214が、エレメント参照コンポーネント220、視覚参照コンポーネント222、強化属性計算コンポーネント224、合成コンポーネント226、通信コンポーネント228、およびデーター・ストア230を含む場合もある。本発明の実施形態によれば、グラフィクス・エンジン214は、図示されていない他のコンポーネントをいずれの数でも含むことができる。実施形態の中には、図示したコンポーネント220、222、224、226、228、および230の内1つ以上を1つのコンポーネントに統合することができ、またはある数の異なるコンポーネントに分割することができる場合もある。コンポーネント220、222、224、226、228、および230は、いずれの数の機械にでも実装することができ、所望通りに、いずれの数の他の機能またはサービスとも統合することができる。
[0038] エレメント参照コンポーネント220は、1つ以上の二次元エレメント属性を参照するように構成されている。エレメント参照コンポーネント220は、このようなエレメント属性を受け取る、取得する、アクセスする、引き出す、決定する、特定する、認識することによって、またはこれらの組み合わせ等によって、二次元エレメント属性を参照することができる。先に論じたように、1つ以上のエレメント属性をグラフィクス・エンジン214によって、例えば、二次元エレメント・プロバイダー212から受け取るのでもよい。これに関して、グラフィクス・エンジン214は、受け取った二次元エレメント属性(1つまたは複数)を参照する。
[0039] また、1つ以上の二次元エレメント属性を視聴者(例えば、視聴者デバイス216を通じて)、システム管理者、システム・プログラマー、システム開発者等から受け取るのでもよい。システム管理者、システム・プログラマー、システム開発者、または視聴者は、いずれの計算機を通じてでも、エレメント属性を供給することができる。一例として、そして限定ではなく、システム開発者は、メディア・コンテンツを視聴して、特定の二次元エレメントを重ね合わせるべき特定の位置を決定するのでもよい。このために、開発者はグラフィクス・エンジン214に、二次元エレメントを表示しようとする水平位置および垂直位置を供給するとよい。このような場合、グラフィクス・エンジン214は、次に、これらの水平および垂直位置を利用して、二次元エレメントと関連付けられている左境界および/または右境界を決定すればよい。他の例として、プログラム開発者または視聴者が、表示画面またはメディア・コンテンツに対して二次元エレメントが現れるべき深度位置を供給するのでもよい。
[0040] エレメント参照コンポーネント220、または他のコンポーネントが、1つ以上の二次元エレメント属性を決定または特定するのでもよい。このため、二次元エレメント(1つまたは複数)または複合メディア(即ち、二次元エレメントを含む)を分析して、例えば、幅、高さ、水平位置、垂直位置、左境界、右境界等のような、エレメント属性を特定するのでもよい。例えば、元の二次元エレメントをメディア・コンテンツと合成し、その後分析して、幅、高さ、水平位置、垂直位置、左境界、および/または右境界を決定するのでもよい。
[0041] あるいはまたは加えて、1つ以上のエレメント属性を、データー・ストア230(例えば、データーベース)のようなデーター・ストアから引用してもよい。例えば、深度位置をデーター・ストア230に格納しておき、そこから引用するのでもよい。このような場合、1つの深度位置をデーターベース230の中に格納するのでもよく、または深度位置を特定の二次元エレメント(1つまたは複数)と関連付けてもよい。データー・ストア230のようなデーター・ストアに格納されたこのような情報を、計算機によって自動的に判定するとよく(例えば、アルゴリズムによって、および/または二次元エレメントまたは複合メディアの分析によって)、またはユーザー(例えば、プログラマー、開発者、管理者、視聴者等)によって入力するのでもよい。
[0042] 視覚参照コンポーネント222は、1つ以上の視覚的属性を参照するように構成されている。視覚参照コンポーネント220は、このような視覚的属性を、受け取る、取得する、アクセスする、引き出す、決定する、特定する、認識することによって、またはその組み合わせ等によって、視覚的属性を参照することができる。視覚的属性は、視聴者の視覚(visual perception)を記述する、特徴付ける、または示す。視聴者とは、メディア・コンテンツを視聴している、または視聴することにしている個人を指す。視覚的属性は、例えば、眼間距離、視覚深度(visual depth)、表示域幅、目の位置などとすることができる。眼間距離とは、視聴者の左目と右目との間の距離を指す。眼間距離は、両目の内側間、両目の中心間、両目の外側間、または両目の他のいずれの部分間の距離でも記述することができる。実施形態の中には、視聴者と対応する眼間距離は、その視聴者にとって独特で相応しい体験を提供するために、視聴者によって供給されるとよい場合もある。このような場合、視聴者は、ユーザー・インターフェースを通じて、例えば、視聴者デバイス216と関連付けて、しかるべき眼間距離を入力または選択するとよい。代替実施形態では、眼間距離は、視聴者に一般的に適している標準的なまたはデフォルトの眼間距離とするとよい。例えば、平均眼間距離を判定し、その後眼間距離として利用するのでもよい。
[0043] 視覚深度とは、表示画面と視聴者(例えば、視聴者の目)との間の深度または距離を指す。眼間距離と同様、実施形態の中には、視聴者にとって独特で相応しい体験を提供するために、その視聴者によって(例えば、一般的に、または各視聴の場合と関連付けて)供給されるとよい場合もある。したがって、視聴者は、例えば、視聴者デバイス216に付随するユーザー・インターフェースを用いて、表示画面に対してユーザーが位置付けられることを予期するまたは意図する、しかるべき視覚深度を入力または選択するとよい。あるいは、視覚深度は、視聴者に一般的に適している標準的な、またはデフォルトの視覚深度としてもよい。場合によっては、視覚深度が、視聴者デバイス216のような視聴者デバイスに付随する表示画面のタイプまたは表示画面のサイズに左右されることもある。例えば、移動体ハンドヘルド・デバイスの視覚深度(例えば、12インチ)は、デスクトップ・コンピューター(例えば、24インチ)よりも小さいと考えられるが、デスクトップ・コンピューターの視覚深度は、テレビジョン(例えば、8フィート)よりも小さい場合もある。
[0044] 表示域幅は、表示画面、または表示画面の視聴可能部分の幅を指す。表示域幅も、視聴者のようなユーザーによって入力するのでもよく、あるいはユーザーまたはデバイス自体によって示されるように、視聴者デバイスに基づくのでもよい。認めることができるであろうが、実施形態の中には、眼間距離、視覚深度、および/または表示域幅のような視覚的属性は、例えば、グラフィクス・エンジンまたは他のコンポーネントによって決定することもできる。例えば、視聴者デバイスに付随するビデオ・カメラが、視聴者を含むビデオを取り込むのでもよい。このようなビデオは、処理のためにグラフィクス・エンジンに供給され、特定の視聴者の眼間距離、および/または特定の視聴者についての視覚距離を動的に判定するようにしてもよい。
[0045] 眼位(eye position)は、左目の眼位または右目の眼位を指す。実施形態の中には、このような眼位が、x軸に沿った位置または距離にしたがって示される場合がある。以下で更に論ずるが、眼位の計算を利用して、左目および右目に対する位置を判定するまたは近似することができる。
[0046] あるいはまたは加えて、1つ以上の視覚的属性を、データー・ストア(例えば、データーベース)のようなデーター・ストア230から引用するのでもよい。例えば、眼間距離、視覚深度、表示域幅、眼位等をデーター・ストア230に格納し、そこから引用するのでもよい。データー・ストア230のようなデーター・ストアの中に格納されるこのような情報は、計算機によって自動的に(例えば、アルゴリズムによって)決定するのでもよく、またはユーザー(例えば、プログラマー、開発者、管理者、視聴者等)が入力するのでもよい。認めることができるであろうが、実施形態の中には、視覚深度のような多数の視覚的属性をデーター・ストアの中に格納するとよい場合がある。例えば、特定の視覚深度をハンドヘルド・デバイスと関連付けることができ、他の視覚深度をデスクトップ・デバイスと関連付けることができ、更に他の視覚深度をテレビジョンと関連付けることができる。このような実施形態では、アルゴリムまたは調査システム(lookup system)によって、しかるべき視覚的属性を引用するとよい。
[0047] 強調属性計算コンポーネント224は、1つ以上の強調属性を計算または決定するように構成されている。強調属性とは、修正した二次元エレメント属性を指し、その結果、表示画面またはメディア・コンテンツに対する二次元エレメントのサイズの修正および/または配置の修正が生じ、このような強調属性にしたがってサイズが決められたおよび/または配置された二次元エレメントのオーバーレイによって、メディア・コンテンツに対して三次元効果が得られることになる。
[0048] 実施形態では、1つ以上のエレメント属性および1つ以上の視覚的属性は、1つ以上の強調属性を計算するために利用される。左目視界と関連付けて1つ以上の強調属性を計算することができ、右目視界と関連付けて1つ以上の強調属性を計算することができる。左目視界と関連のあるこのような強調属性、および右目視界と関連のある強調属性は、1つ以上の強調エレメント(即ち、強調属性にしたがって修正された二次元エレメント)および/または1つ以上の強調複合メディア(メディア・コンテンツと合成された強調エレメント)を生成するために用いることができる。
[0049] 単なる一例として、そして図3Aから図3Dを参照すると、視聴者の左目と関連付けて強調属性を決定し、視聴者の右目と関連付けて強調属性を決定するのに役立つ図示例が示されている。既に述べたように、強調属性とは、元の二次元エレメントの修正のことを言い、その結果二次元エレメントのサイズおよび/または配置が修正されて、メディア・コンテンツに対して三次元効果が得られる。
[0050] 最初に、図3Aは、表示画面304A上に提示された初期二次元エレメント302Aの上面図を示す。図示のように、視聴者の左目306A(左眼位)および視聴者の右目308A(右眼位)が、互いに特定の距離310A(眼間距離)だけ離れて位置付けられている。このような二次元エレメント302Aの元のオーバーレイに基づいて、左境界312A(sA)および右境界314A(sB)を認識することができる。
[0051] 図3Bは、初期の二次元エレメント302Bを表示画面304Bから特定の距離320B(即ち、深度位置またはZオフセット)だけ移動させた(remove)場合の上面図を示す。この場合も、視聴者の左目306B(eye_X_left)および視聴者の右目308B(eye_X_right)は、互いに特定の距離310B(眼間距離)だけ離れて位置付けられている。視覚深度322Bは、視聴者の目の表示画面304Bからの距離(eye_Z)を特定する。図3Bに示すように、表示画面304Bから離れるように二次元エレメント302Bを位置付けし直すと、左目306Bおよび右目308Bからの視覚的配景(visual perspective)が新しくなる。二次元エレメント302Bが表示画面304Bから深度位置320Bだけ離れるように放射する三次元効果が望ましいので、そして二次元エレメント302Bを空間にレンダリングすることができないので、図3Bは、二次元エレメント302Bが深度位置320Bに位置付けられていることに基づいて、表示画面304Bまで延ばした視聴者の左目の見通し線、および表示画面304Bまで延ばした視聴者の右目の見通し線の投射を示す。実際に、左目および右目に対して、このような投射によって、二次元エレメント302Bの左境界および右境界が修正される。この例では、ユーザー・インターフェース・エレメント312Bの左境界(sA)が、左目に対して点324B(sA'(L))に投射され、ユーザー・インターフェース・エレメント314Bの右境界(sB)が、左目に対して点326B(sB'(L))に投射されている。同様に、ユーザー・インターフェース・エレメント312B(sA)の左境界が、右目に対して点328B(sA'(R))に投射され、ユーザー・インターフェース・エレメント314B(sB)の右境界が、右目に対して点330B(sB'(R))に投射されている。
[0052] 図3Cは、左目306Cの配景からの修正された左境界324C(sA'(L))および修正された右境界326C(sB'(L))にしたがって修正された、強調二次元エレメント302Cの投射の上面図を示す。図3Dは、右目308Dの配景からの修正された左境界328D(sA'(R))および修正された右境界330D(sB'(R))にしたがった、強調二次元エレメント302Dの投射の上面図を示す。
[0053] 実施形態の中には、1組の計算を用いて、二次元エレメントの強調または修正左境界および/または右境界(即ち、強調属性)を特定することができる場合もある。単なる一例として、視聴者の左目と視聴者の右目との間の眼間距離(眼間距離)が200画素であり、視覚深度(即ち、表示画面と視聴者の目との間の距離、eye_Z)が1000画素であり、表示域幅が720画素であると仮定する。更に、初期二次元画像の水平位置(例えば、左下角)が160画素(左目および右目双方に対して)である、またはそうしようとしており、初期二次元画像の垂直位置(例えば、左下角)が200画素(左目および右目双方に対して)である、またはそうしようとしており、初期二次元画像の幅が240画素であり、初期二次元画像の高さが240画素であることが特定されたと仮定する。意図する深度位置は30画素である。これに関して、二次元画像は、左目および右目双方に対して、表示画面よりも30画素前に現れることを意図している。以下の計算を利用して、左目の位置および右目の位置(例えば、x軸に沿った)を判定する。
[0054] 左目の位置=1/2表示域幅−1/2眼間位置 式1
[0055] 右目の位置=1/2表示域幅−1/2眼間距離 式2
[0056] このような計算によれば、左目の位置は260画素に等しく(即ち、360−100)、右目の位置は460に等しくなる(即ち、360+100)。水平位置は160画素であるので、左境界(即ち、sA)も左目および右目双方に対して160画素である。更に、二次元エレメントの幅は240画素であるので、右境界(即ち、sB)は、左目および右目双方に対して400画素である(即ち、160+240)。
[0057] 特定の目の視界と関連付けて修正左境界を決定するために、以下の式を用いて、特定の目と関連付けて、強調二次元エレメントに対して修正左境界(即ち、sA')を決定することができる。
[0058]
Figure 2013541300
[0059] ここで、Eyexは、特定の目の眼位であり、sAは元の二次元エレメントの左境界であり、Eye_Zは、表示画面と視聴者との間の視覚深度であり、Z_Offsetは、深度位置(即ち、二次元エレメントが表示画面に対して現れることが望まれる距離)である。
[0060] 引き続き上の例を参照すると、左目と関連付けた強調三次元エレメント対して、左目の眼位(即ち、Eyex)は260画素に等しく、初期二次元エレメントの左境界(即ち、sA)は160画素に等しく、視覚深度(即ち、Eye_Z)は1000画素に等しく、深度位置(即ち、Z_Offset)は30画素に等しい。これらを利用して、左目と関連付けて強調二次元エレメントの修正左境界(即ち、sA')を決定する。したがって、左目と関連付けた修正左境界sA'は、約156.9画素に等しくなる。
[0061] 同様に、以下の式を用いて、特定の目と関連付けて強調二次元エレメントの右境界(即ち、sB')を決定することができる。
[0062]
Figure 2013541300
[0063] ここで、Eyexは、特定の目の眼位であり、sBは元の二次元エレメントの右境界であり、Eye_Zは、表示画面と視聴者との間の視覚深度であり、Z_Offsetは深度位置(即ち、二次元エレメントが表示画面に対して現れることが望まれる距離)である。
[0064] 引き続き上の例を参照すると、左目と関連付けた強調二次元エレメントに対して、左目の眼位(即ち、Eyex)は260画素に等しく、初期二次元エレメントの右協会(即ち、sB)は400画素に等しく、視覚深度(即ち、Eye_Z)は1000画素に等しく、深度位置(即ち、Z_Offset)は30画素に等しい。これらを利用して、左目と関連付けて強調二次元エレメントの修正右境界(即ち、sB')を決定する。したがって、左目と関連付けた修正右境界sB'は、約404.3画素に等しくなる。
[0065] 同様に、右目と関連付けた修正左および右境界も、同じ式を用いて計算することができる。このような場合、右目の眼位(即ち、Eyexは460画素に等しい)を利用し、約150.7画素の左境界sA'、および約398.1画素の右境界sB'が、右目に対して得られる。
[0066] 前述の式3および4は、以下の式を用いて導き出すことができる。
[0067]
Figure 2013541300
[0068]
Figure 2013541300
[0069]
Figure 2013541300
[0070]
Figure 2013541300
[0071] 合成コンポーネント226は、強調または修正二次元エレメントをメディア・コンテンツに合成する、重ね合わせる、集成する、または組み合わせて、強調複合メディアを生成するように構成されている。既に述べたように、強調複合メディアとは、強調エレメントをメディア・コンテンツの上に重ね合わせることによって三次元効果が得られるように、メディア・コンテンツに重ね合わせる強調二次元エレメントを指す。一例として、そして図4を参照すると、図4は、メディア・コンテンツ404に重ね合わせた強調二次元エレメント402を示す。実施形態の中には、このような強調複合メディア400を特定の目の視界(例えば、左目視界)と関連付けるとよく、一方他の同様の強調複合メディア(図示せず)を他の目の視界(例えば、右目視界)と関連付けるとよい場合がある。三次元効果を得るために、実施形態の中には、グラフィクス・エンジン214が左目視界と関連付けた強調エレメントと、右目視界と関連付けた強調エレメントとを含む強調複合メディアを生成する場合がある。これに関して、左目視界と関連付けた強調エレメント、および右目視界と関連付けた強調エレメントを、メディア・コンテンツの特定のフレームのような、メディア・コンテンツの同じ部分に含ませる。あるいは、グラフィクス・エンジン214が、左目視界と関連付けた強調エレメントを含む強調複合メディアを生成し、更に右目視界と関連付けた強調エレメントを含む別個の強調複合メディアを生成する。このような場合、左目視界と関連付けた強調複合視界、および右目視界と関連付けた強調複合メディアは、メディア・コンテンツの同じ部分(即ち、2つの異なる強調複合メディアにおいて繰り返されるメディア・コンテンツの同じフレーム)を含むとよい。
[0072] これに関して、合成コンポーネント226は、1つ以上の強調属性にしたがって、1つ以上の強調二次元エレメントをメディア・コンテンツの上に合成する、組み合わせる、集成する、または重ね合わせる。単なる一例として、合成コンポーネント226は、1つ以上の強調属性によって示されるサイズおよび/または位置にしたがって、メディア・コンテンツに対して強調二次元エレメントを供給する。場合によっては、アフィン伸張(affine stretch)または変換を適用して、二次元エレメントを修正するのでもよい。更に具体的には、二次元エレメントの水平方向における単純な線形伸張を、1つ以上の強調属性(例えば、修正した境界)に基づいて適用し、例えば、左および右画像に対して、強調二次元エレメントを生成することもできる。
[0073] 一実施形態では、左目と関連付けた強調エレメント、および右目と関連付けた強調エレメントを双方共、1つのメディア・コンテンツ・フレームのようなメディア・コンテンツと合成する。他の実施形態では、左目と関連付けた強調エレメントをあるメディア・コンテンツ・フレームと合成し、一方右目と関連付けた強調エレメントを他のメディア・コンテンツ・フレームと合成する。2つの別個のメディア・コンテンツ・フレームを利用するのでもよいが、このようなフレームのメディア・コンテンツは同じであってもよい。例えば、ビデオでは、左目および右目の双方に、同じフレームを用いることができる。二次元左構成要素(left component)を1つのフレームの上に合成して、左フレームを生成し、二次元右構成要素(right component)を同じフレームの他のバージョンの上に合成して、右フレームを生成する。
[0074] 認めることができるであろうが、実施形態の中には、合成コンポーネント226が、強調複合メディアを生成する前に、強調二次元エレメントを生成するのでもよい場合がある。このような実施形態では、強調属性にしたがって強調エレメントを生成し、その後、強調エレメントをメディア・コンテンツと合成して、強調複合メディアを生成する。単なる一例として、強調エレメントは、修正した高さおよび/または修正した幅にしたがって、元の二次元エレメントから生成することもできる。その後、修正した水平位置および/または修正した垂直位置にしたがって、強調エレメントをメディア・コンテンツの上に配置するとよい。本明細書ではグラフィクス・エンジン214において強調複合メディアを生成するというように記載したが、実施形態の中には、強調複合メディアを他のコンポーネント、例えば、メディアを要求した視聴者デバイスにおいて生成するのでもよい場合もある。
[0075] 他の実施形態では、合成コンポーネント226が、1つ以上の強調属性にしたがって二次元エレメントをレンダリングして、強調二次元エレメントを生成することもできる。これに関して、強調複合メディアを生成することと合わせて(例えば、同時に)強調二次元エレメントを生成する。認めることができるであろうが、場合によっては、初期ユーザー・インターフェースのレンダリング・パス(rendering path)を修正して二次元エレメントの三次元処理に対処するのではなく、本発明の実施形態は、以前に生成または計算した二次元エレメントを利用して、このような二次元エレメントに対する新たな右および左位置の生成を可能にする。したがって、本発明の実施形態を既存のアーキテクチャーに(例えば、最終レンダリング段階において)組み込むことができ、こうして、既存の技術が、ユーザー・インターフェースを変更することなく、キャプショニング(captioning)および/または伝達制御等を促進する(pull forward)ことを可能にする。
[0076] 通信コンポーネント230は、強調複合メディア(1つまたは複数)を1つ以上の視聴者デバイスに伝達するように構成されている。したがって、強調複合メディア(1つまたは複数)を、そのメディアを見ることを要求した1つ以上の視聴者デバイスに送信することができる。他の実施形態では、特定の時点に(例えば、メディアを提示する所定の時刻)、強調複合メディアを生成したとき等に、強調複合メディアを1つ以上の視聴者デバイスに送信することもできる。強調複合メディアが他のコンポーネント、例えば、視聴者デバイスにおいて生成される実施形態では、通信コンポーネントが、メディア・コンテンツ、二次元エレメント、および/または1つ以上の強調属性を送信するのでもよい。このような実施形態では、他のコンポーネントが強調属性(1つまたは複数)を利用して、1つ以上の強調属性にしたがって、強調二次元エレメントを重ね合わせることができる。
[0077] 視聴者デバイス216は、視聴者が強調複合メディアを見ることを可能にすることができるのであれば、いずれの種類の計算機でも可能である。したがって、視聴者デバイス216は、強調複合メディアを視聴するための表示画面を含む。例えば、一実施形態では、視聴者デバイス216は、図1を参照して先に説明したような、計算機100のような計算機とすることができる。実施形態では、視聴者デバイス216は、パーソナル・コンピューター(PC)、ラップトップ・コンピューター、ワークステーション、移動体計算機、PDA、セル・フォン、テレビジョン、セット・トップ・ボックス等とすることができる。
[0078] 視聴者デバイス216は、三次元ステレオ・コンテンツを表示することができるとよい。このような視聴者デバイス216は、あらゆる三次元表示技術を利用することができる。三次元表示技術の例には、限定ではなく、能動および受動偏光および/またはシャッター・ガラスを用いたテレビジョン、アクティブ・シャッター・ガラスを有するコンピューター・ディスプレイ、余色(anaglyphic)(赤−青または他の色の組み合わせ)、ステレオ・ペア・ビューアー(stereo pair viewer)、めがね不要の自動立体視技術(auto-stereoscopic glass free technology)、網膜投射技術、ホログラフィック、または他のあらゆる三次元表示技術が含まれる。
[0079] 実施形態では、視聴者デバイス216は強調複合メディアを利用して、三次元効果を視聴者に与える。例えば、視聴者デバイス216は、左目視界と関連付けた強調複合メディアおよび右目視界と関連付けた強調複合メディアというような、2つの異なる表面(surface)を受け取り、視聴者デバイス216は、これら2つの異なる表面を利用して、強調エレメントのメディア・コンテンツに対する三次元効果を得る。あるいは、視聴者デバイス216は左目と関連付けた強調エレメントおよび右目と関連付けた強調エレメントを含む強調複合メディアのような、1つの表面を受け取り、この1つの表面を利用して、強調エレメントのメディア・コンテンツに対する三次元効果を得ることができる。
[0080] 要約すると、本発明の実施形態は、二次元エレメントをメディア・コンテンツの上に重ね合わせて二次元エレメントのメディア・コンテンツに対する三次元効果を得るシステム、機械、媒体、方法、技法、プロセス、および選択肢を含む。図5に移ると、本発明の実施形態にしたがって、二次元エレメントのメディア・コンテンツに対する三次元効果を得るために、二次元エレメントのメディア・コンテンツ上での提示を支援する方法例500を示す流れ図が例示されている。実施形態の中には、例示の方法500の実施形態の態様を、コンピューター読み取り可能媒体上にコンピューター実行可能命令として格納できる場合もある。このコンピューター実行可能命令を計算機におけるプロセッサーによって実行することにより、その計算機に方法500の態様を実現させる。勿論、これは、図6および図7にそれぞれ図示されている例示の方法600および700、あるいは他のあらゆる実施形態、変形、またはこれらの方法の組み合わせにも該当する。
[0081] 最初に、ブロック510において、1つ以上のエレメント属性を参照する。このようなエレメント属性は、二次元エレメントの位置および/またはサイズを示す。ブロック512において、エレメント属性(1つまたは複数)、ならびに視聴者の左目と右目との間の距離を示す眼間距離、および表示画面と視聴者との間の距離を示す視覚深度を利用して、二次元エレメントの修正位置、および/または二次元エレメントの修正サイズを決定する。このような二次元エレメントの修正位置および/またはサイズは、目の視界毎に(即ち、左目視界および右目視界)決定するのでもよい。ブロック514に示すように、二次元エレメントの修正位置および/または二次元物体(object)の修正サイズにしたがって、二次元エレメントをメディア・コンテンツに応じて重ね合わせる。このようにして、対応する左および右メディア・ステレオ対エレメントの上における修正位置および/またはサイズにしたがって、左目および右目に対する二次元エレメントを、メディア・コンテンツに応じて重ね合わせることができる。このような重ね合わせによって、メディア・コンテンツと合成した修正または強調二次元エレメントを含む強調複合メディアを生成する。
[0082] これより図6に移ると、別のフロー・チャートが、二次元エレメントのメディア・コンテンツに対する三次元効果を得るために、二次元エレメントのメディア・コンテンツ上での提示を支援する方法例600を示す。最初に、ブロック610において、二次元エレメントの位置および/またはサイズを示す1つ以上のエレメント属性を参照する。1つ以上のエレメント属性は、とりわけ、二次元エレメントが表示画面に対して現れることが望まれる深度位置を含むとよい。ブロック612において、視聴者の視覚を示す1つ以上の視覚的属性を参照する。このような視覚的属性は、例えば、眼間距離、目の位置、視覚深度、表示域幅等を含むとよい。ブロック614に示すように、1つ以上のエレメント属性および1つ以上の視覚的属性を利用して、視聴者の左目と関連付けて強調二次元エレメントを生成する。また、1つ以上のエレメント属性および1つ以上の視覚的属性を利用して、視聴者の右目と関連付けて強調二次元エレメントも生成する。これをブロック616に示す。
[0083] これより図7に移ると、フロー・チャートは、二次元エレメントのメディア・コンテンツに対する三次元効果を得るために、二次元エレメントのメディア・コンテンツ上での提示を支援する方法例700を示す。最初にブロック710を参照すると、1組のエレメント属性を参照する。このようなエレメント属性は、左境界、右境界、および二次元エレメントと関連付けた深度位置を含むとよい。実施形態では、このようなエレメント属性は、(例えば、二次元エレメント・プロバイダーによって)受け取る、決定する(例えば、二次元エレメントまたは複合メディアを分析する)、またはアクセスする(例えば、データー・ストアを用いる)のでもよい。ブロック712において、1組の視覚的属性を参照する。このような視覚的属性は、視聴者の表示画面からの深度を示す視覚深度、視聴者の左目の位置を示す左眼位、視聴者の右目の位置を示す右眼位を含むとよい。視覚的属性は、受け取る、決定する、アクセスする等とするとよい。ブロック714において、視覚的属性(1つまたは複数)およびエレメント属性(1つまたは複数)を用いて、第1修正左境界、および第1修正右境界を左目視界に対して決定する。同様に、ブロック716において、視覚的属性(1つまたは複数)およびエレメント属性(1つまたは複数)を用いて、第2修正左境界および第2修正右境界を右目視界に対して決定する。
[0084] ブロック718に示すように、第1修正左境界および第1修正右境界にしたがって、第1修正二次元エレメントを生成する。第2修正左境界および第2修正右境界にしたがって、第2修正二次元エレメントを生成する。これをブロック720に示す。続いて、ブロック722において、第1修正二次元エレメントをメディア・コンテンツと合成する。例えば、第1修正二次元エレメントをメディア・コンテンツの左目フレームと合成しつつ、その二次元エレメントのアフィン伸張を実行して、新たな寸法に一致させる。場合によっては、二次元エレメントの水平方向における線形伸張を実行するのでもよい。ブロック724において、第2修正二次元エレメントをメディア・コンテンツと合成する。例えば、この第2修正二次元エレメントのアフィン伸張を実行して新たな寸法に一致させることによって、第2修正二次元エレメントをメディア・コンテンツの右目フレームと合成する。場合によっては、二次元エレメントの水平方向における線形伸張を実行するのでもよい。ブロック726に示すように、メディア・コンテンツの第1および第2修正二次元エレメントとの集成体(aggregation)を、視聴者デバイスに伝達する。二次元エレメントのメディア・コンテンツに対する三次元効果が視聴者(1人または複数)にレンダリングされるように、このようなコンテンツを視聴者デバイスによって表示することができる。実施形態の中には、グラフィカル・ユーザー・インターフェース・ウィンドウのような修正二次元エレメントを用いて、ウィンドウに対する三次元効果を得ることができる場合もある。
[0085] 本発明の種々の実施形態は、限定的ではなく例示的であるように記載した。本発明の実施形態の範囲から逸脱することなく、代替実施形態が適宜明白となるであろう。尚、ある種の特徴およびサブコンビネーションは有益であり、他の特徴およびサブコンビネーションを参照しなくても採用できることは言うまでもない。これは、請求項の範囲によって想定されていることであり、その範囲に含まれることとする。

Claims (15)

  1. コンピューター実行可能命令が具体化されている1つ以上のコンピューター読み取り可能媒体であって、計算機におけるプロセッサーによって前記コンピューター実行可能命令を実行すると、二次元エレメントのメディア・コンテンツに対する三次元効果を得るために、前記二次元エレメントの前記メディア・コンテンツ上における提示を支援する方法を、前記計算機に実行させ、前記方法が、
    二次元エレメントの位置、サイズ、またはその組み合わせを示す1つ以上のエレメント属性を参照するステップと、
    前記二次元エレメントの修正位置、前記二次元エレメントの修正サイズ、またはその組み合わせを決定するために、前記1つ以上のエレメント属性、視聴者の左目と右目との間の距離を示す眼間距離、および表示画面と前記視聴者との間の距離を示す視覚深度を利用するステップと、
    強調複合メディアを生成するために、前記二次元エレメントの修正位置、前記二次元エレメントの修正サイズ、またはその組み合わせにしたがって、前記二次元エレメントを前記メディア・コンテンツに応じて重ね合わせるステップと、
    を備えている、1つ以上のコンピューター読み取り可能媒体。
  2. 請求項1記載の媒体であって、更に、前記強調複合メディアを表示するステップを備えている、媒体。
  3. 請求項1記載の媒体において、前記メディア・コンテンツが三次元メディア・コンテンツを含む、媒体。
  4. 請求項1記載の媒体において、前記強調複合メディアが、前記重ね合わされた二次元エレメントの前記メディア・コンテンツに対する三次元効果を与える、媒体。
  5. 請求項1記載の媒体において、前記二次元エレメントの修正サイズ、前記二次元エレメントの修正位置、またはその組み合わせが、左目視界からの視覚的配景(visual perspective)と関連付けられている、媒体。
  6. 請求項5記載の媒体において、前記二次元エレメントを特定の深度位置に位置付け、前記左目の見通し線において前記二次元エレメントの左境界および右境界を取り込み前記見通し線を前記表示画面まで延長して、前記左目視界に対して、前記二次元エレメントの修正左境界および修正右境界を決定することによって、前記左目視界からの視覚的配景を生成する、媒体。
  7. 請求項5記載の媒体において、前記二次元エレメントの修正位置を生成するステップが、
    Figure 2013541300
    を用いて、左目視界に対する修正左境界を計算するステップを含み、前記式において、
    sA'は修正左境界であり、
    Eyexは左目の眼位であり、
    sAは元の二次元エレメントの左境界であり、
    Z_Offsetは、二次元エレメントが表示画面からオフセットされる深度位置であり、
    Eye_Zは、視聴者と表示画面との間の視覚深度である、媒体。
  8. コンピューター実行可能命令が具体化されている1つ以上のコンピューター読み取り可能媒体であって、計算機におけるプロセッサーによって前記コンピューター実行可能命令を実行すると、二次元エレメントのメディア・コンテンツに対する三次元効果を得るために、前記二次元エレメントの前記メディア・コンテンツ上での提示を支援する方法を、前記計算機に実行させ、前記方法が、
    二次元エレメントの位置、サイズ、またはその組み合わせを示す1つ以上のエレメント属性を参照するステップであって、前記1つ以上のエレメント属性が、前記二次元エレメントが表示画面に対して現れることが望まれる深度位置を含む、ステップと、
    視聴者の視覚を示す1つ以上の視覚的属性を参照するステップと、
    前記視聴者の左目と関連付けた強調二次元エレメントと前記視聴者の右目と関連付けた強調二次元エレメントとを生成するために、前記1つ以上のエレメント属性および前記1つ以上の視覚的属性を利用するステップと、
    を備えている、1つ以上のコンピューター読み取り可能媒体。
  9. 請求項8記載の媒体において、前記1つ以上の視覚的属性が、前記視聴者と当該視聴者が見ている表示画面との間の距離である視覚深度、前記表示画面またはその一部の幅の測定値である表示域幅、前記視聴者の左目と前記視聴者の右目との間の距離の測定値である眼間距離、前記視聴者の左目の位置を示す左眼位、および前記視聴者の右目の位置を示す右眼位の内1つ以上を含む、媒体。
  10. 請求項9記載の媒体において、前記1つ以上のエレメント属性が、更に、前記二次元エレメントの幅、前記二次元エレメントの高さ、前記二次元エレメントの水平位置、前記二次元エレメントの垂直位置、前記二次元エレメントの左境界、および前記二次元エレメントの右境界の内1つ以上を含む、媒体。
  11. 請求項8記載の媒体であって、更に、1つ以上の強調複合メディアを生成するために、三次元メディア・コンテンツの上に、前記視聴者の左目と関連付けて前記強調二次元エレメントを、更に前記視聴者の右目と関連付けて前記強調二次元エレメントを重ね合わせるステップを備えている、媒体。
  12. 請求項8記載の媒体において、前記視聴者の左目と関連付けて前記強調二次元エレメントを生成するステップが、前記二次元エレメントのサイズを修正し、前記強調二次元エレメントが重ね合わせられるメディア・コンテンツに対する前記二次元エレメントの位置を修正するステップを含む、媒体。
  13. 請求項12記載の媒体において、前記二次元エレメントの修正位置が、前記左目の眼位、前記視聴者と表示画面との間の視覚距離、前記深度位置、および前記二次元エレメントの元の左境界または元の右境界を用いて計算される、媒体。
  14. 二次元エレメントのメディア・コンテンツに対する三次元効果を得るために、前記二次元エレメントの前記メディア・コンテンツ上における提示を支援するコンピューター化方法であって、
    二次元エレメントと関連のある左境界、右境界、および深度位置を含む1組のエレメント属性を参照するステップと、
    視聴者の表示画面からの深度を示す視覚深度、前記視聴者の左目の位置を示す左眼位、および前記視聴者の右目の位置を示す右眼位を含む1組の視覚的属性を参照するステップと、
    左目視界と関連付けて第1修正左境界および第1修正右境界を決定し、更に右目視界と関連付けて第2修正左境界および第2修正右境界を決定するために、前記1組のエレメント属性および前記1組の視覚的属性を利用するステップと、
    前記左目視界に合わせて、前記修正左境界および前記修正右境界にしたがって、第1修正二次元エレメントをメディア・コンテンツと合成するステップと、
    前記右目視界に合わせて、前記修正左境界および前記修正右境界にしたがって、第2修正二次元エレメントを前記メディア・コンテンツと合成するステップと、
    を備えている、コンピューター化方法。
  15. 請求項14記載の媒体において、表示画面の幅である表示域幅と、前記視聴者の左目と前記視聴者の右目との間の距離である眼間距離とを用いて、前記左眼位および前記右眼位を計算する、媒体。
JP2013533862A 2010-10-14 2011-09-18 三次元ステレオ・アプリケーションにおける二次元エレメントの提示 Expired - Fee Related JP5977749B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/904,548 2010-10-14
US12/904,548 US20120092364A1 (en) 2010-10-14 2010-10-14 Presenting two-dimensional elements in three-dimensional stereo applications
PCT/US2011/052063 WO2012050737A1 (en) 2010-10-14 2011-09-18 Presenting two-dimensional elements in three-dimensional stereo applications

Publications (3)

Publication Number Publication Date
JP2013541300A true JP2013541300A (ja) 2013-11-07
JP2013541300A5 JP2013541300A5 (ja) 2014-10-23
JP5977749B2 JP5977749B2 (ja) 2016-08-24

Family

ID=45933772

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013533862A Expired - Fee Related JP5977749B2 (ja) 2010-10-14 2011-09-18 三次元ステレオ・アプリケーションにおける二次元エレメントの提示

Country Status (8)

Country Link
US (1) US20120092364A1 (ja)
EP (1) EP2628302A4 (ja)
JP (1) JP5977749B2 (ja)
KR (1) KR20130117773A (ja)
CN (1) CN102419707B (ja)
AU (1) AU2011314243B2 (ja)
CA (1) CA2813866A1 (ja)
WO (1) WO2012050737A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012174237A (ja) * 2011-02-24 2012-09-10 Nintendo Co Ltd 表示制御プログラム、表示制御装置、表示制御システム、及び表示制御方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09172654A (ja) * 1995-10-19 1997-06-30 Sony Corp 立体画像編集装置
JP2004180069A (ja) * 2002-11-28 2004-06-24 Seijiro Tomita 立体映像信号生成回路及び立体映像表示装置
JP2004356789A (ja) * 2003-05-28 2004-12-16 Sanyo Electric Co Ltd 立体映像表示装置及びプログラム
US20070097208A1 (en) * 2003-05-28 2007-05-03 Satoshi Takemoto Stereoscopic image display apparatus, text data processing apparatus, program, and storing medium

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1085769B1 (en) * 1999-09-15 2012-02-01 Sharp Kabushiki Kaisha Stereoscopic image pickup apparatus
GB2354389A (en) * 1999-09-15 2001-03-21 Sharp Kk Stereo images with comfortable perceived depth
US6618054B2 (en) * 2000-05-16 2003-09-09 Sun Microsystems, Inc. Dynamic depth-of-field emulation based on eye-tracking
JP4104054B2 (ja) * 2001-08-27 2008-06-18 富士フイルム株式会社 画像の位置合わせ装置および画像処理装置
US7197165B2 (en) * 2002-02-04 2007-03-27 Canon Kabushiki Kaisha Eye tracking using image data
US8300043B2 (en) * 2004-06-24 2012-10-30 Sony Ericsson Mobile Communications AG Proximity assisted 3D rendering
JP4463215B2 (ja) * 2006-01-30 2010-05-19 日本電気株式会社 立体化処理装置及び立体情報端末
KR101362647B1 (ko) * 2007-09-07 2014-02-12 삼성전자주식회사 2d 영상을 포함하는 3d 입체영상 파일을 생성 및재생하기 위한 시스템 및 방법
CN102016877B (zh) * 2008-02-27 2014-12-10 索尼计算机娱乐美国有限责任公司 用于捕获场景的深度数据并且应用计算机动作的方法
CN101266546A (zh) * 2008-05-12 2008-09-17 深圳华为通信技术有限公司 一种实现操作***三维显示的方法和一种三维操作***
WO2010010499A1 (en) * 2008-07-25 2010-01-28 Koninklijke Philips Electronics N.V. 3d display handling of subtitles
RU2546546C2 (ru) * 2008-12-01 2015-04-10 Аймакс Корпорейшн Способы и системы для представления трехмерных изображений движения с адаптивной к содержимому информацией
JP2012516069A (ja) * 2009-01-20 2012-07-12 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 3dビデオ及び3dオーバレイをビデオインタフェース上で送信し、合成する方法及びシステム
EP2228678A1 (en) * 2009-01-22 2010-09-15 Koninklijke Philips Electronics N.V. Display device with displaced frame perception
TW201119353A (en) * 2009-06-24 2011-06-01 Dolby Lab Licensing Corp Perceptual depth placement for 3D objects
JP2011029849A (ja) * 2009-07-23 2011-02-10 Sony Corp 受信装置、通信システム、立体画像への字幕合成方法、プログラム、及びデータ構造
KR101329065B1 (ko) * 2010-03-31 2013-11-14 한국전자통신연구원 영상 시스템에서 영상 데이터 제공 장치 및 방법
US8605136B2 (en) * 2010-08-10 2013-12-10 Sony Corporation 2D to 3D user interface content data conversion

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09172654A (ja) * 1995-10-19 1997-06-30 Sony Corp 立体画像編集装置
JP2004180069A (ja) * 2002-11-28 2004-06-24 Seijiro Tomita 立体映像信号生成回路及び立体映像表示装置
JP2004356789A (ja) * 2003-05-28 2004-12-16 Sanyo Electric Co Ltd 立体映像表示装置及びプログラム
US20070097208A1 (en) * 2003-05-28 2007-05-03 Satoshi Takemoto Stereoscopic image display apparatus, text data processing apparatus, program, and storing medium

Also Published As

Publication number Publication date
KR20130117773A (ko) 2013-10-28
US20120092364A1 (en) 2012-04-19
CA2813866A1 (en) 2012-04-19
EP2628302A4 (en) 2014-12-24
JP5977749B2 (ja) 2016-08-24
AU2011314243A1 (en) 2013-05-02
AU2011314243B2 (en) 2014-07-24
CN102419707B (zh) 2017-03-01
EP2628302A1 (en) 2013-08-21
CN102419707A (zh) 2012-04-18
WO2012050737A1 (en) 2012-04-19

Similar Documents

Publication Publication Date Title
US8605136B2 (en) 2D to 3D user interface content data conversion
KR101829345B1 (ko) 입체 컨텐츠의 3-차원적인 효과들을 요구에 맞추기 위한 방법 및 장치
US9398289B2 (en) Method and apparatus for converting an overlay area into a 3D image
US9710955B2 (en) Image processing device, image processing method, and program for correcting depth image based on positional information
US8606043B2 (en) Method and apparatus for generating 3D image data
US9729845B2 (en) Stereoscopic view synthesis method and apparatus using the same
WO2012086120A1 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
US20100182409A1 (en) Signal processing device, image display device, signal processing method, and computer program
US20140333739A1 (en) 3d image display device and method
JP5387905B2 (ja) 画像処理装置および方法、並びにプログラム
US20150022631A1 (en) Content-aware display adaptation methods and editing interfaces and methods for stereoscopic images
US20120327077A1 (en) Apparatus for rendering 3d images
US20130293533A1 (en) Image processing apparatus and image processing method
US20130321409A1 (en) Method and system for rendering a stereoscopic view
TW201320716A (zh) 動態景深調整裝置及其方法
TW201445977A (zh) 影像處理方法及影像處理系統
US8976171B2 (en) Depth estimation data generating apparatus, depth estimation data generating method, and depth estimation data generating program, and pseudo three-dimensional image generating apparatus, pseudo three-dimensional image generating method, and pseudo three-dimensional image generating program
US20130187907A1 (en) Image processing apparatus, image processing method, and program
JP5977749B2 (ja) 三次元ステレオ・アプリケーションにおける二次元エレメントの提示
TW201327470A (zh) 調整立體影像之景深的方法以及顯示立體影像的方法與相關裝置
US9888222B2 (en) Method and device for generating stereoscopic video pair
US9269177B2 (en) Method for processing image and apparatus for processing image
CN102111630A (zh) 图像处理设备、图像处理方法和程序
JP2012169822A (ja) 画像処理方法及び画像処理装置
Lin Controlling depth perception of stereoscopic images under given constraints

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140903

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140903

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20150519

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150917

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150924

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160624

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160722

R150 Certificate of patent or registration of utility model

Ref document number: 5977749

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees