JP5791809B2 - ビデオコンテンツのアノテーションおよび/または推奨の方法および装置 - Google Patents

ビデオコンテンツのアノテーションおよび/または推奨の方法および装置 Download PDF

Info

Publication number
JP5791809B2
JP5791809B2 JP2014528819A JP2014528819A JP5791809B2 JP 5791809 B2 JP5791809 B2 JP 5791809B2 JP 2014528819 A JP2014528819 A JP 2014528819A JP 2014528819 A JP2014528819 A JP 2014528819A JP 5791809 B2 JP5791809 B2 JP 5791809B2
Authority
JP
Japan
Prior art keywords
personal device
user
instructions
input
svd
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014528819A
Other languages
English (en)
Other versions
JP2014531638A (ja
Inventor
リ、ウェンロン
ドゥ、ヤンチョウ
トーン、シァオフェン
ジャン、イミン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of JP2014531638A publication Critical patent/JP2014531638A/ja
Application granted granted Critical
Publication of JP5791809B2 publication Critical patent/JP5791809B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Library & Information Science (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本願は、データ処理の技術分野に関し、より詳細には、共有デバイスおよびパーソナルデバイスを使用したビデオコンテンツのアノテーションおよび推奨の方法および装置に関する。
[関連出願]
本願は、(1)"Personalized Video Content Consumption Using Shared Video Device and Personal Device("共有ビデオデバイスおよびパーソナルデバイスを使用したパーソナライズされたビデオコンテンツ消費")、代理人整理番号110466-182902、および、(2)"Cooperative Provision of Personalized User Functions Using Shared and Personal Devices(共有デバイスおよびパーソナルデバイスを使用したパーソナライズされたユーザ機能の連携提供)"、代理人整理番号110466-182901に関連し、これら文献は、本願と同時期に出願された。
本開示の背景を、一般的に示すことを目的として、背景技術を説明する。そうでないと示されていない限り、本章に記載される内容は、本願の特許請求の範囲に対して従来技術ではなく、また、本章に含めることによって、その内容が従来技術であると認めたわけではない。
集積回路、コンピュータ、ネットワークおよびその他の技術の進歩に伴い、一のユーザによる使用のために構成されたパーソナルデバイス、例えば、スマートフォン、タブレットコンピュータ等が、普及してきた。それと同時に、複数のユーザが使用するように構成された共有ビデオデバイス、例えば、テレビまたはテレビに結合されたセットトップボックスも依然として一般的であり、その理由の1つとして、高解像度ビデオ、サラウンド音響等、機能の拡張がなされていることが挙げられる。現在、パーソナルデバイスを、共有ビデオデバイスに対する従来のリモート制御として使用することを除いて、パーソナルデバイスと共有ビデオデバイスとの間の統合または連携がほとんど行われていない。
本発明の実施形態を、限定ではなく、実施形態の例として、添付の図面を参照して記載する。同様な要素には、同様な参照番号が付与されている。
共有デバイスおよびパーソナルデバイスの使用配置の一例を示したブロック図である。 共有ビデオデバイスおよびパーソナルデバイスの一例をより詳細に示した図である。 共有デバイスおよびパーソナルデバイスによるユーザ機能の連携提供の方法の一例を示した図である。 共有デバイスおよびパーソナルデバイスの間の登録および/または関連付けの方法の様々な例を示した図である。 共有デバイスおよびパーソナルデバイスの連携によるパーソナライズされたユーザ機能の提供の例のユーザビューを示した図である。 共有デバイスおよびパーソナルデバイスの連携によって提供されるパーソナライズされたユーザ機能の選択されたもののユーザビューを示した図である。 共有デバイスおよびパーソナルデバイスの連携によるパーソナライズされた推奨の方法の一例を示した図である。 図3および図4の方法の側面の全てまたは選択された側面を実施するように構成された命令を有する非一時的コンピュータ可読記憶媒体の一例を示した図である。 共有デバイスまたはパーソナルデバイスとして使用するのに適したコンピュータ環境の一例を示しており、本開示の実施形態に従って全て配置されている。
共有デバイスおよびパーソナルデバイスを使用したビデオコンテンツのアノテーションおよび推奨に関する方法、装置および記憶媒体について開示される。様々な実施形態において、複数の命令を備える非一時的コンピュータ可読記憶媒体であって、一のユーザのパーソナルデバイス(PD)によって命令が実行されると、パーソナルデバイスが、複数のユーザによって使用されるように構成された共有ビデオデバイスにレンダリングされるビデオストリームと関連付けられたユーザ機能の実行を選択するユーザ入力を受信する、および、ユーザ入力の時点に近接した時点において、共有ビデオデバイスにレンダリングされるビデオストリームのイメージフレームをレンダリングすることを可能とするように構成される。更に、命令は実行されると、パーソナルデバイスが、ユーザ機能の実行を容易にすることを可能としてもよい。共有ビデオデバイスにレンダリングされるビデオストリームと関連付けられるユーザ機能としては、これに限定されないが、ビデオストリームのイメージフレームまたはイメージフレーム内のオブジェクトのアノテーションを付すこと、イメージフレームをソーシャルネットワークまたはクラウドコンピューティングサーバにアップロードすること、イメージフレームまたはイメージフレーム内のオブジェクトに少なくとも一部基づいて検索を投稿すること、または、イメージフレームに少なくとも一部基づいた結果のeコマースサイトでeコマーストランザクションを実行することが含まれてもよい。
様々な実施形態において、パーソナルデバイスは、一のユーザによる使用のために構成された任意のデバイスであってよく、例えば、スマートフォンまたはタブレットコンピュータである。共有ビデオデバイスは、複数のユーザによる使用のために構成された任意のビデオデバイスであってよく、例えば、テレビまたはテレビに結合されたセットトップボックスである。ビデオストリームは、テレビのピクチャインピクチャにレンダリングされるビデオストリームであってもよい。
様々な実施形態において、命令が実行されると更に、パーソナルデバイスが、ユーザ入力に応答して、共有ビデオデバイスから、イメージフレームをリクエストする、および、リクエストの後に、共有ビデオデバイスから、イメージフレームを受信することを可能としてもよい。命令は更に、実行されると、パーソナルデバイスが、ビデオストリーム、イメージフレーム、または、イメージフレーム内のオブジェクトと関連付けられるアノテーションの入力を容易にすることを可能としてもよい。命令は更に、実行されると、パーソナルデバイスが、イメージフレーム内のオブジェクトの選択を容易にすることを含む、オブジェクトと関連付けられるアノテーションの入力を容易にすることを可能としてもよい。命令は更に、実行されると、パーソナルデバイスが、レンダリングされたイメージフレームに対するオブジェクトを選択するためのユーザのジェスチャの認識を容易にすることを可能としてもよい。
命令は更に、実行されると、パーソナルデバイスが、テキストのアノテーションの入力を容易にする、または、好む推奨または好まない推奨の入力を容易にすることを可能としてもよい。命令は更に、実行されると、パーソナルデバイスが、好む推奨または好まない推奨の入力を容易にするべく、親指を立てるユーザのジェスチャまたは親指を下げるユーザのジェスチャをそれぞれ認識する、ことを可能としてもよい。命令は更に、実行されると、パーソナルデバイスが、共有ビデオデバイスまたはクラウドコンピューティングサーバに、入力されたアノテーションを格納する、または、入力されたアノテーションを投稿することを可能としてもよい。命令は更に、実行されると、パーソナルデバイスが、前に入力されたアノテーションを読み出し、読み出されたアノテーションの編集を容易にすることを可能としてもよい。
命令は更に、実行されると、パーソナルデバイスが、一定期間に入力されたユーザ入力またはアノテーションを分析し、分析の結果に少なくとも一部基づいて、共有ビデオデバイスにレンダリングされるビデオストリームに対する推奨を生成することを可能してもよい。
様々な実施形態において、パーソナル装置は、1以上のプロセッサと、1以上のプロセッサと結合され、複数のユーザにより使用されるように構成された共有ビデオデバイスにレンダリングされるビデオストリームと関連付けられるユーザ機能の実行を選択するべく、ユーザ入力を受信する入力するように構成された入力メカニズムとを備えてもよい。パーソナル装置は、一のユーザによって使用されるように構成される。更に、パーソナル装置は、1以上のプロセッサと結合され、ユーザ入力の時点に近接した時点に、共有ビデオデバイスにレンダリングされるビデオストリームのイメージフレームをレンダリングするように構成された、ビデオ/イメージコンポーネントと、1以上のプロセッサにより操作され、入力メカニズムおよびビデオ/イメージコンポーネントに結合されて、ユーザ機能の実行を容易にするように構成された共有ビデオデバイス連携機能とを備えてもよい。更に、共有ビデオデバイス連携機能は、上記に記載したコンピュータ可読記憶媒体の命令によって達成されてもよい。
更に、パーソナルデバイス(PD)の方法は、実行された場合に、上記のコンピュータ可読記憶媒体の命令によって実行されるオペレーションの全てまたは選択されたものを含んでもよい。
例示される実施形態の様々な側面が、同技術分野における他の当業者に発明の実質的な内容を伝達するべく、当業者間で共通に使用される用語を用いて説明される。しかしながら、当業者であれば、記載される側面の一部のみを使用して、別の実施形態を実施可能であることは明らかである。説明を目的として、例示した実施形態の完全な理解を提供するべく、具体的な数字、材料および構成が記載される。しかしながら、当業者であれば、詳細事項がなくとも、別の実施形態を実施可能であることは明らかである。また、例示の実施形態を曖昧にしないために、周知の特徴は、省略されているまたは簡略化されている。
更に、様々なオペレーションが、別個の複数のオペレーションとして記載される、つまり、例示する実施形態の理解を最も助けるような態様で記載されるが、記載される順番により、これらオペレーションが必ずしも順番に依存することを示唆すると解釈されるべきではない。より詳細には、これらオペレーションは、提示された順番で実行される必要はない。
特許請求の範囲を含む本明細書で使用される"スマートフォン"という言葉は、単なる携帯電話による通信を超えた、例えば、パーソナルデジタルアシスタント(PDA)、メディアプレーヤ、カメラ、タッチスクリーン、ウェブブラウザ、グローバル・ポジショニング・システム(GPS)ナビゲーション、WiFi、携帯ブロードバンド等を備えた多機能な携帯電話を意味する。"携帯電話"という言葉またはこれらの派生語は、特許請求の範囲を含む本明細書において、多くの公共セルによって適用される広い地理的エリアにわたって携帯電話による通話を行うのに使用される携帯電子機器を意味する。
"一実施形態において"または"ある実施形態において"というフレーズが繰り返し使用される。このフレーズは、通常、同じ実施形態を意味するとして使用されていないが、場合によっては、そのように使用している。"備える(comprising)"、"有する(having)"、および、"含む(including)"という言葉は、コンテキストにおいて、そうでないと明記されない限り、同義語として使用される。"A/B"というフレーズは、"AまたはB"を意味する。"Aおよび/またはB"というフレーズは、"(A)、(B)または(AおよびB)"を意味する。"A、BおよびCの少なくとも1つ"というフレーズは、"(A)、(B)、(C)、(AおよびB)、(AおよびC)、(BおよびC)または(A、BおよびC)を意味する。本明細書で使用されている"AまたはBのうちの選択された1つ"というフレーズは、"A"または"B"を指し、"選択"オペレーションを実行する必要があるまたは実行を示唆するものではない。
図1は、様々な実施形態に係る共有デバイスおよびパーソナルデバイスの使用配置の一例を示したブロック図である。図に示すように、配置100は、複数のユーザによる使用のために、オーディオ/ビジュアル(A/V)コンテンツ134を受信およびレンダリングするように構成された共有ビデオデバイス(shared video device:SVD)102と、一人のユーザによる使用のために、携帯電話による通信などの様々な機能を提供するように構成されたパーソナルデバイス(PD)112とを含んでもよい。更に、SVD102およびPD112は、PD112を採用してSVD102にレンダリングされたビデオストリームに関連するビデオオブジェクトをアノテーションすることを可能にする、および/または、SVD102で消費するビデオコンテンツについての推奨を生成する、PD連携機能152およびSVD連携機能162をそれぞれ有するように構成されてもよい。本開示の実施形態に係るPD連携機能152およびSVD連携機能162を除いて、SVD102の例は、テレビ106およびセットトップボックス104の複数のデバイス結合の組み合わせ、または、テレビ106およびセットトップボックス104が統合された組み合わせによる1つのデバイスを含んでもよく、PD112の例として、スマートフォンまたはタブレットコンピュータが含まれてもよい。様々な実施形態において、テレビ106は、1以上のピクチャインピクチャ(PIP)108を有するPIP機能を含んでもよく、セットトップボックス104は、カメラのようなデジタル撮像デバイス154を含んでもよい。同様に、PD112も、カメラのようなデジタル撮像デバイス164を含んでもよい。
図に示すように、SVD102は、1以上のA/Vコンテンツソース(図示せず)に結合されて、選択的にA/Vコンテンツ134を受信するように構成されてもよく、PD112は、無線広域ネットワーク(WWAN)120を介して、無線148で、移動体通信サービス136に結合するように構成されてもよい。A/Vコンテンツソースの例としては、これに限定されないが、テレビ番組放送局、ケーブル運営局、衛星テレビ番組配信元、デジタルビデオレコーダ(DVR)、コンパクトディスク(CD)もしくはデジタルビデオディスク(DVD)プレーヤ、または、ビデオカセットレコーダ(VCR)が挙げられる。移動体通信サービス136としては、符号分割多元接続(CDMA)サービス、拡張GPRS(EDGE)サービス、3Gまたは4Gサービス(汎用パケット無線サービス:GPRS)が含まれ得る。
再び図1を参照して、様々な実施形態において、SVD102およびPD112は、アクセスポイント110介して、互いに無線142および144で、結合されてもよい。アクセスポイント110は更に、SVD102およびPD112を、例えば、インターネット122を含む1以上のプライベートネットワークまたは公共ネットワークを介して、リモートクラウドコンピュータ/ウェブサーバ132に結合してもよい。すなわち、SVD102、PD112およびアクセスポイント110は、ホームネットワークのようなローカルエリアネットワークを形成してもよい。リモートクラウドコンピュータ/ウェブサーバ132は、Google(登録商標)もしくはBing(登録商標)のような検索サービス、または、Amazon(登録商標)のようなeコマースサイト、または、Facebook(登録商標)もしくはMySpace(登録商標)のようなソーシャルネットワークサイトを含んでもよい。更に、様々な実施形態において、SVD102およびPD112はそれぞれ、パーソナル通信プロトコルおよび/または近距離無線通信プロトコルを使用して、デバイスを無線146で結合可能なように構成されてもよい。様々な実施形態において、無線結合142および144は、WiFi接続を含んでもよく、無線結合146は、Bluetooth(登録商標)接続を含んでもよい。
様々な実施形態において、SVD102およびPD112はそれぞれ、関連付けされたIDを有してもよい。SVD102が、PIP108を伴うテレビ106を含む実施形態の場合、SVD102は更に、メインピクチャおよびPIP108をそれぞれ特定する論理IDを含んでもよい。更に、 様々な実施形態において、IDは少なくとも、SVD102およびPD112によって送信される発見通信に含まれてもよく、例えば、PD112およびSVD102である通信の受信機が、通信の送信元を区別可能にする。
図2には、様々な実施形態に係る、SVD102およびPD112の一例について、更に詳細に示した図である。先に説明したように、SVD102は、SVD機能151およびPD連携機能152を有してもよく、PD112は、PD機能161およびSVD連携機能162を有してもよい。
様々な実施形態において、SVD機能151は、それぞれが送受信機を含む1以上の通信インターフェース202、および、1以上のA/Vデコーダを有するメディアプレーヤ204を含んでもよい。それぞれが送受信機を備える通信インターフェース202は、これに限定されないが、テレビ番組放送局、ケーブル運営局または衛星番組配給局からのA/Vコンテンツを受信するように構成された通信インターフェース、DVR、CD/DVD/ブルーレイプレーヤまたはVCRからのA/Vコンテンツを受信するように構成された通信インターフェース、アクセスポイント110と通信を行うように構成された通信インターフェース、および/または、PD112と直接通信を行うように構成された通信インターフェースを含み得る。1以上のA/Vデコーダを備えるメディアプレーヤ204は、様々なA/Vコンテンツストリームをデコードおよびレンダリングするように構成されてもよい。様々なA/Vデコーダは、様々な形式および/またはエンコード方式のA/Vコンテンツストリームをデコードするように構成されてもよい。
様々な実施形態において、PD連携機能152は、PD登録/関連付け機能212、PDビデオ/イメージ/データサービス214、および、PD機能216による制御を含んでもよい。更に、PD連携機能は152、顔/ジェスチャ認識機能218および推奨機能220を含んでもよい。
PD登録/関連付け機能212は、SVD102をPD112に登録する、または、PD112をSVD102に関連付けるように構成されてもよい。様々な実施形態において、登録/関連付け機能212は、IDおよび/または設定を有するメッセージを交換することにより、SVD102を、PD112に登録/関連付けするように構成されてもよい。別の実施形態では、登録/関連付け機能212は、顔認識サービスを使用して、顔/ジェスチャ認識サービス218と連携して、SVD102をPD112と登録/関連付けするように構成されてもよい。様々な実施形態において、登録/関連付け機能212は、SVD102が登録されるおよび/または関連付けられるPD112のマップを保持するように構成されてもよい。テレビ106が、1以上のPIP108を有するPIP機能を備える、テレビ106およびセットトップボックス104の様々な実施形態について、PD登録/関連付け機能212は、PIP粒度レベルで、SVD102をPD112に登録するように構成されてもよい、または、SVD102をPD112と関連付けして、メインピクチャにレンダリングされたビデオストリームおよびPIP108を、論理的に異なるPD112と関連付けることを可能としてもよい。更に、PD登録/関連付け機能212は、PIP粒度レベルで、上記で説明したSVD102のPD112に対するマップを保持するように構成されてもよい。様々な実施形態において、PD登録/関連付け機能212は更に、例えば、ユーザがSVD102の複数の現在のユーザのうちの1人であるか等の、PD112のユーザの現在のステータスを含めるべく、マップを保持するように構成されていてもよい。PD登録/関連付け機能212は、ユーザが、SVD102の現在のユーザ(または、SVD102の複数の現在のユーザのうちの1人)になった場合、または、SVD102の現在のユーザを辞めた場合に、ステータスを更新するように構成されてもよい。
PDビデオ/イメージ/データサービス214は、ビデオ、イメージおよび/またはデータをPD112に供給可能なように構成されてもよい。より詳細には、PDビデオ/イメージ/データサービス214は、SVD102にレンダリングされるビデオストリームからイメージまたはビデオクリップを取得してもよい、または、SVD102のカメラからイメージを撮像するように構成されてもよい。撮像されたイメージまたはビデオクリップは、PD112に格納および/または供給されてもよい。更に、PDビデオ/イメージ/データサービス214は、ビデオストリームから取得されたイメージまたはビデオクリップを、クラウドコンピューティングサーバに供給して、ビデオストリーム特定する、および/または、ビデオストリームと関連付けられたメタデータを取得するように構成されてもよい。メタデータは、ビデオストリーム作成者/所有者、配信者または関連する広告者によって提供されてもよい。ビデオストリームに関連付けられたメタデータはまた、PD112に格納または供給されてもよい。更に、閲覧の履歴が、SVD102に格納されてもよい。
PDビデオ/イメージ/データサービス214はまた、PD112から、ビデオ、イメージおよび/またはデータを受け付けるように構成されてもよい。例えば、PDビデオ/イメージ/データサービス214は、SVD102によって供給されたイメージに対して、PD112のユーザが入力したアノテーションを受け付けるように構成されていてもよい。PDビデオ/イメージ/データサービス214はまた、PD112からeコマーストランザクション関係の情報を受け付けるように構成されてもよく、例えば、洋服関連の候補のeコマーストランザクションを容易にするべく、SVD102を使用して仮想的な着こなし等のために情報を受け付けてもよい。同様に、PD112から受信したビデオ、イメージおよび/またはデータを、SVD102に格納してもよい。
PD機能216による制御は、PD112から制御を受け付け、それに応答して、SVD102を制御するように構成されてもよく、これに限定されないが、SVD102にレンダリングされるビデオストリームからのイメージの取得を制御すること、または、ビデオストリームの停止、一時停止、早送りまたは巻き戻しのように、SVD102上でのビデオストリームのレンダリングを制御することを含んでもよい。PD機能216による制御はまた、PD112から制御を受け付けて、3DTVビデオストリームのレンダリングを調整して、その品質を制御するように構成されてもよい。
顔/ジェスチャ認識サービス218は、複数の顔認識および/またはジェスチャ認識サービスを提供するように構成されてもよい。顔認識サービスは、年齢、性別、民族を含む、画像における顔の認識を含んでもよい。顔認識サービスは更に、例えば、賛成している、反対している、興味を持っている、興味を持っていない、満足している、悲しい、怒っているまたは心穏やかである等の表情の認識を含んでもよい。顔認識は、1以上の顔特徴またはバイオメトリック特徴に基づいてもよい。ジェスチャ認識サービスは、複数の手のジェスチャを認識することを含んでもよく、これに限定されないが、"好む"ことを意味する親指を立てた手のジェスチャ、"好まない"ことを意味する親指を下げた手のジェスチャ、"拡大する"ことを意味する2本の指を互いに離す手のジェスチャ、"縮小する"ことを意味する2本の指を互いに近づける手のジェスチャ、または、"交換する"ことを意味する2つの手または2つの指を互いに交差させるジェスチャを含んでもよい。
推奨機能220は、単独でまたは推奨機能242との組み合わせで、SVD102を使用したPD112とのやり取り/連携に基づいて、および/または、SVD連携機能162とPD機能161との間のやり取り/連携に基づいて、パーソナライズされた推奨をPD112のユーザに提供するように構成されてもよい。パーソナライズされた推奨は、PD112のユーザが興味を持つ可能性のある、例えば、他のコンテンツ、他のウェブサイト、他の広告、他のグッズ等であってもよい。
様々な実施形態において、PD登録/関連付け機能212は、顔/ジェスチャ認識機能218と連携して、SVD102またはSVD102の論理ユニット(例えば、SVD102がPIP108を伴うテレビ106を含む場合には、PIP108)を、様々なPD112に登録する、または、様々なPD112と関連付けることを達成するように構成されてもよい。
本明細書で使用される"関連付け(association)"という言葉は、2つのエンティティ、例えば、SVD102およびPD112の間の関係を指す。本明細書で使用される"登録(registration)"という言葉は、一のエンティティの別のエンティティに対するアクションを指し、例えば、エンティティ間の"関連付け"を形成する目的の"アクション"を指す。言い換えると、本開示は、SVD102とPD112の間の"関連付け"が、一方的にまたは双方向に形成されることを見込んでいる。例えば、IDのような、特定のPD112の知識により、SVD102は、自身を特定のPD112に登録することなく、または、特定のPD112を自身に登録することを要求することなく、特定のPD112を一方的にSVD102に関連付けられていると見なしてもよい。他方では、SVD102および/またはPD112は、関連付けを形成するべく、互いに自身を明示的に特定("登録")してもよい。
続けて図2を参照し、様々な実施形態において、PD機能161は、それぞれ送受信機を有する1以上の通信インターフェース222、1以上のA/Vデコーダを有するメディアプレーヤ224、入力デバイス226、および、ブラウザ228を含んでもよい。通信インターフェース222は、移動体通信サービスと通信を行うように構成された通信インターフェース、アクセスポイント110と通信を行うように構成された通信インターフェース、および/または、SVD102と直接通信を行うように構成された通信インターフェースを含んでもよい。1以上のA/Vデコーダを有するメディアプレーヤ224は、様々なA/Vコンテンツストリームをデコードおよびレンダリングするように構成されてもよい。様々なA/Vデコーダは、様々な形式および/または様々なエンコード方式のA/Vコンテンツストリームをデコードするように構成されてもよい。
入力デバイス226は、PD112のユーザが、様々なユーザ入力を提供可能とするように構成されていてもよい。入力デバイス226は、ユーザに、テキスト入力を提供することを可能にする(リアルまたはバーチャル)キーボード、および/または、タッチパッド、トラックボール等のカーソル制御デバイスを含んでもよい。様々な実施形態において、入力デバイス226は、ビデオ画面および/またはタッチセンサー式の画面を有して、ユーザが、ジェスチャ入力するのを可能としてもよい。ジェスチャ入力は、顔/ジェスチャ認識サービス218に関して上記で説明したのと同じまたは異なる手のジェスチャを含んでもよい。
ブラウザ228は、PD112のユーザが、インターネット上のリモート検索サービス、eコマースサイトまたはソーシャルネットワークにアクセス可能とするように構成されていてもよい。検索サービスの例としては、Google(登録商標)、Bing(登録商標)等が挙げられる。eコマースサイトには、Amazon、Best Buy(登録商標)等が含まれてもよい。ソーシャルネットワークには、Facebook(登録商標)、MySpace(登録商標)等が含まれてもよい。ブラウザ228はまた、PD112のユーザが、SVD102上にレンダリングされたビデオストリームのプログラムに関連付けられたスペシャルインタレストグループ(SIG)に参加することを可能とするように構成されてもよい。このようなSIGは、予め形成されてもよいし、コンテンツプロバイダによって配信される現在のコンテンツに基づいて、動的に形成されてもよい。このようなSIGは、地理的にまたはPDデバイスの種類によって、分類されてもよい。
様々な実施形態において、SVD連携機能162は、SVD登録機能232、SVDビデオ/データサービス234、SVD制御機能236、アノテーション機能238、および、ログ機能240を含んでもよい。SVD連携機能162は更に、推奨機能242、および、顔/ジェスチャ認識サービス244を含んでもよい。
SVD102のPD登録/関連付け機能212と同様に、SVD登録/関連付け機能232は、PD112を、SVD102に登録する、または、SVD102をPD112に関連付けるように構成されてもよい。テレビ106がPIP機能を含む様々なセットトップボックス104およびテレビ106の実施形態の場合、SVD登録機能232は、PIP粒度レベルで、PD112をSVD102に登録する、または、SVD102をPD112と関連付けることにより、メインピクチャおよびPIP108にレンダリングされるビデオストリームが、独立して、同じまたは異なるPD112に関連付けられることを可能にするように構成されてもよい。
SVD102のPDビデオ/イメージ/データサービス214と同様に、SVDビデオ/イメージ/データサービス234は、ビデオ、イメージおよび/またはデータを、SVD102に供給するまたはSVD102から受け付けるように構成されてもよく、特に、SVD102にレンダリングされるビデオストリームから得られるビデオセグメント、ビデオストリームから取得されたまたはSVD102のカメラによって撮像されたピクチャフレーム、または、PD112のカメラによって撮像された画像を共有または受け付けてもよい。SVDビデオ/イメージ/データサービス234は、ビデオ、イメージおよび/またはデータを、クラウドコンピューティングサーバから受け付けるまたは当該サーバに送信するように構成されてもよい。SVDビデオ/イメージ/データサービス234は、ブラウザ228と連携して、ビデオ、イメージおよび/またはデータを、クラウドコンピューティングサーバから/への送受信を達成するように構成されてもよい。
SVD制御236は、SVD102に制御を提供して、SVD102を制御するように構成されてもよい。PD216によるSVD102の制御に関して先に説明したように、制御としては、これに限定されないが、PIP108の拡大または縮小、メインピクチャとPIP108との間でのビデオストリームの交換、ビデオストリームの停止、一時停止、早送りまたは巻き戻しを含んでもよい。SVD制御236はまた、ビデオストリームの品質を制御するために、SVD102を制御して3DTVビデオストリームのレンダリングを調整する制御をSVD102に提供するように構成されてもよい。更に、SVD制御236は、コマーシャルの間の自動ビデオストリーム切り替え、および、コマーシャルが終了した時の自動切り替え復帰を提供するように構成されてもよい。
アノテーション機能238は、PD112のユーザが、SVD102から取得したイメージまたはイメージのオブジェクトのようなオブジェクトについてアノテーションすることを可能とするように構成されていてもよい。アノテーション機能238は、例えば、キーボードデバイス、または、カット&ペースト機能を使用して、テキストとして入力されるようにアノテーションを容易にするように構成されていてもよい。アノテーション機能238は、アノテーションを、例えば、"好む"または"好まない"を意味する手のジェスチャのような、手のジェスチャを使用して入力されるようにして、容易にするように構成されていてもよい。
ログ機能240は、SVD102とPD112間の、および/または、PD機能161とSVD連携機能162との間のやり取りまたは連携のログをつけてもよく、例えば、様々なオブジェクトについて入力されたアノテーションを記録するように構成されてもよい。ログ機能240は、例えば、ローカルにPD112に、SVD102に、または、クラウドコンピューティングサーバに格納するように構成される、オブジェクトについて入力されたアノテーションを含む、やり取りおよび/または連携の履歴を格納するように構成されてもよい。ログ機能240は、SVDビデオ/イメージ/データサービス234と連携して、やり取りおよび/または連携の履歴を、SVD102にまたはクラウドコンピューティングサーバに格納することを達成するように構成されてもよい。
SVD102の推奨機能220と同様に、推奨機能242は、単独でまたは推奨機能220との組み合わせで、PD112を使用したSVD102とのやり取り/連携に基づいて、および/または、PD機能161とSVD連携機能162との間のやり取り/連携に基づいて、パーソナライズされた推奨をPD112のユーザに提供するように構成されてもよい。推奨機能242は更に、例えば、PD112に搭載されたGPSによって記録された訪れた位置等のトレースデータのように、PD112において利用可能なその他のデータを採用するように構成されてもよい。
更に説明する前に、SVD102およびPD112の実施形態が図2を参照して、両デバイスがそれぞれ、推奨機能220および242、ならびに、顔/ジェスチャ認識サービス218および244を有するとして説明されたが、別の実施形態では、SVD102およびPD112の一方のみが推奨機能または顔/ジェスチャ認識サービスを有してもよいし、全く有さなくてもよい。同様に、理解を容易にするために、ビデオ/イメージ/データサービス214および234、ならびに、顔/ジェスチャ認識サービス218および244が、組み合わせられたサービスとして説明されたが、別の実施形態では、これらサービスのうちの一方または両方が、別個の複数のサービスに分割されてもよく、例えば、ビデオ/イメージ/データサービスは、個別のビデオサービス、イメージサービスおよびデータサービスへと、顔/ジェスチャ認識サービスは、個別の顔認識サービスおよびジェスチャ認識サービスへと分割されることで、本開示が実施されてもよい。
上記したように、登録または関連付けでは、PD連携機能152およびSVD連携機能162は、連携して、PD112のユーザに対してパーソナライズされた様々なユーザ機能を提供してもよい。例えば、ビデオ/イメージ/データサービス214および234は、連携して、SVD102にレンダリングされるビデオストリームからのイメージフレーム(例えば、テレビのメインピクチャまたはPIP108)を、SVD102からPD112へと供給することを可能としてもよい。イメージフレームは、PD112のユーザによる連携ユーザ機能に対するリクエストに応答して、供給されてもよい。イメージフレームは、PD112においてリクエストが実質的になされた時点に、SVD102にレンダリングされていたイメージフレームであってもよい。リクエストの時点は、サービス234によってサービス214へと伝達される。
イメージフレームを受信すると、PD112のユーザは、アノテーション機能238を使用して、イメージフレームにアノテーションを付してもよい。アノテーション機能238は、それ自身で、または、顔/ジェスチャ認識サービス244と連携して、PD112のユーザが、イメージフレーム内の人またはアイテムのようなオブジェクトを特定することを可能とし、特定のオブジェクトに(イメージ全体ではなく)アノテーションを付してもよい。顔/ジェスチャ認識サービス244は、イメージフレームに対して示されたユーザのジェスチャ、例えば、オブジェクトを丸で囲むまたはオブジェクトを指し示すジェスチャの認識を介して、イメージフレーム内のオブジェクトが特定されることを可能としてもよい。ログ機能240は、アノテーションが付されたイメージフレームおよび/またはイメージフレーム内のオブジェクトを、ビデオ/イメージ/データサービス214および234を使用して、PD112に格納するまたはSVD102に戻すことを可能としてもよい。これに代えて、ビデオ/イメージ/データサービス214は、それ自身で、または、ブラウザ228と連携して、アノテーションが付されたイメージフレームおよび/またはイメージフレーム内のオブジェクトを、ソーシャルネットワークまたはクラウドコンピューティングサーバにアップロードすることを可能としてもよい。
更なる例として、SVD102にレンダリングされたビデオストリームに興味を有するセグメントまたは文字を見つけたPD112のユーザは、そのビデオストリームのイメージフレームをリクエストしてもよい。リクエストに応答して、サービス214および234は、連携して、実質的にリクエストがなされた時点にレンダリングされていたイメージフレームをPD112に供給してもよい。イメージフレームを受信すると、ユーザは、アノテーション機能を238使用して、イメージフレーム、イメージフレームにおけるアイテムまたは文字に対してアノテーションを付した後、アノテーションを付したイメージフレームまたはイメージフレーム内のアイテム/文字を、PD112、SVD102、ソーシャルネットワークまたはクラウドコンピューティングサーバ132に格納してもよい。イメージフレーム内の文字またはアイテムにアノテーションを付す場合には、ユーザは、認識/ジェスチャ認識サービス244を使用して、例えば、イメージフレーム内の文字またはアイテムを丸で囲むまたは指し示すといったユーザのジェスチャで示してもよい。
別の例として、ビデオ/イメージ/データサービス234は、ブラウザ228と連携して、受信したイメージフレームに少なくとも一部基づいて検索を実行するべく、受信したイメージフレームを検索サービスに供給することを可能としてもよい。同様に、ビデオ/イメージ/データサービス234は、ブラウザ228と連携して、PD112のユーザが、eコマースサイトでeコマーストランザクションを実行可能としてもよく、このeコマーストランザクションは、受信したイメージフレームの結果に少なくとも一部基づく。より詳細には、ユーザが、SVD102にレンダリングされたビデオストリームに、興味のあるアイテムを発見した場合には、PD112のユーザは、イメージフレームをリクエストして、先に説明したように、サービス214および234を使用して、当該アイテムを有するイメージフレームをPD112に供給するようにしてもよい。そしてイメージフレームが受信され、興味のあるアイテムがハイライトされた後に、ユーザは更に、ブラウザ228を使用して、アイテムの検索を実行してもよい。eコマースサイトにおいて売り出しになっているアイテムを特定した場合には、ユーザは、そのeコマースサイトでeコマーストランザクションを実行して、当該アイテムを購入してもよい。
別の例として、PD機能216による制御およびSVD制御機能236を連携させて、PD112のユーザが、SVD102のオペレーションを制御することを可能としてもよい。具体的には、ユーザの特定のジェスチャを認識する顔/ジェスチャ認識サービスを使用して、PD機能216による制御およびSVD制御機能236が連携して応答して、SVD102にレンダリングされるビデオストリームのあるセグメントを、PD112上で再生させることを可能としてもよい。更に、ユーザの別のジェスチャ入力の認識に応答して、PD機能216による制御およびSVD制御機能236が連携して、SVD102にレンダリングされるビデオストリームを、停止、一時停止、早送りまたは巻き戻しすることを可能としてもよい。同様に、別のジェスチャの認識に応答して、PD機能216による制御およびSVD制御機能236が連携して、SVD102のPIP108を拡大または縮小すること、または、メインピクチャおよびPIP108にレンダリングされる2つのビデオストリームを交換することを可能としてもよい。
更なる別の例として、ログ機能240は、SVD102およびPD112の間、および/または、PD機能161とSVD連携機能162との間のやり取りまたは連携を、ユーザ制御/選択可能なベースで、一定期間、ログにつけるように構成されてもよい。先に説明したように、ログにつけられた情報は、ローカルにPD112に、SVD102に、または、クラウドコンピューティングサーバに格納されてもよい。したがって、推奨機能220および/または242は、単独でまたは組み合わせて採用されて、ログに記録されたやり取りまたは連携を分析して、様々な推奨を行ってもよく、例えば、SVD102で視聴するべき他のビデオコンテンツ、PD112上で訪れるべき/閲覧するべき他のウェブサイトまたはコンテンツ、および/または、購入すべきその他のアイテム等の推奨を行ってもよい。
図3には、様々な実施形態に係る共有デバイスおよびパーソナルデバイスの連携によりパーソナライズされたユーザ機能を提供する方法の一例が示されている。図に示すように、方法300は、以下に、図4を参照してより詳細に説明する、SVD102および/またはPD112が互いに登録または関連付けされるブロック302および/または304で開始してもよい。様々な実施形態において、方法300は、PD112が自身をSVD102に登録すること、または、自身をSVD102に関連付けすることによって、実施されてもよい。別の実施形態では、方法300は、SVD102が自身をPD112に登録すること、または、自身をPD112に関連付けすることによって、実施されてもよい。更なる別の実施形態では、方法300は、SVD102およびPD112が、互いに自身を登録または関連付けすることにより、実施されてもよい。
様々な実施形態において、SVD102およびPD112は、次に行う通信を容易にするために、登録プロセスの一部として、設定情報を交換してもよい。例えば、SVD102およびPD112は、それぞれの機能の情報、例えば、処理能力、サポートしているエンコード/デコード方式、サポートしているメッセージングプロトコル等を交換してもよい。様々な実施形態において、SVD102および/またはPD112はまた、登録プロセスの一部として、それぞれのデバイスに、必要なソフトウェアおよび/更新を、取り込むおよび/またはインストールするように構成されてもよい。
登録または関連付けが終わると、方法300は、ブロック306に進み、PD112は、PD112のユーザから、SVD102およびPD112を連携させて、パーソナライズされたユーザ機能を提供するという指示または選択を受信してもよい。方法300は、ブロック306からブロック308へと進み、PD112は、SVD102と連携して、パーソナライズされたユーザ機能のユーザへの連携提供を容易にしてもよい。
方法300は、ブロック308からブロック310へと進み、次いでブロック312へと進んで、再びブロック310に戻り、SVD102にレンダリングされるビデオストリームのイメージフレームが、リクエストされ、PD112に供給およびレンダリングされてもよい。先に説明したように、様々な実施形態において、イメージフレームは、PD112においてリクエストが実質的に生成された時点に、SVD102にレンダリングされていたイメージフレームであってもよい。方法300は、ブロック310からブロック308へと戻り、ユーザは、イメージフレームまたはイメージフレーム内のオブジェクトにアノテーションを付してもよい。
その後で、別のユーザ入力に応答して、方法300は、ブロック308からブロック314へと進み、そして、ブロック316へと進んで、アノテーションが付されたイメージまたはイメージフレーム内のオブジェクトを、PD112またはSVD102に格納してもよい。方法300は、ブロック316から、ブロック314を経由して、ブロック308へと戻ってもよい。これに代えて、ブロック308において、イメージまたはイメージ内のオブジェクトにアノテーションを付したか付さないにかかわらず、および、アノテーションの前後において、方法300は、ブロック308にとどまり、イメージフレームまたはイメージフレーム内のオブジェクトに少なくとも一部基づいて検索を実行してもよい、または、イメージフレームまたはイメージフレーム内のオブジェクトに少なくとも一部基づいた結果のeコマースサイトでのeコマーストランザクションを実行するように構成されてもよい。
その後で、または、上記のオペレーションに代えて、ブロック308において、SVD102の制御が受信されてもよい。上記で説明したように、制御は、PD112のユーザのジェスチャにより入力されてもよい。上記で説明したように、制御は、これに限定されないが、SVD102にレンダリングされるビデオストリームのあるセグメントを、PD112上で再生させることをリクエストすること、SVD102にレンダリングされるビデオストリームを、停止、一時停止、早送りまたは巻き戻しすることをSVD102にリクエストすること、PIP108を拡大または縮小することをリクエストすること、および/または、メインピクチャとPIP108とを交換することをリクエストすることを含んでもよい。制御を受信すると、方法300は、ブロック308からブロック318へと進み、次いでブロック320へと進んで、PD112からSVD102へと制御を送信して、制御がSVD102で処理されて、SVD102が応答するようにしてもよい。制御が、PD112におけるビデオセグメントの再生である場合には、方法300は、ブロック320からブロック312および310を経てブロック308へと戻ってもよい、または、方法300は、ブロック318を経てブロック308へと戻ってもよい。
その後で、または、上記のオペレーションに代えて、方法300は、ブロック308において、ブロック322へと進み、SVD102とPD112との間のやり取り/連携の履歴の分析を実行してもよく、その他のコンテンツ消費またはユーザアクションについてのパーソナライズされた推奨を、PD112のユーザに提示してもよい。
その後で、様々なユーザ入力に応答して、上記のオペレーションを繰り返してもよい。最終的には、方法300は、ブロック308からブロック324へと進み、ユーザ機能の連携提供を終了するユーザ入力が受信されてもよい。このような入力が受信されると、方法300が終了する。
図4には、様々な実施形態に係る共有デバイスとパーソナルデバイスとの間の登録および/または関連付けの方法に基づいた、顔認識の様々な例が示されている。図に示すように、方法400は、例えば、ブロック402において、ユーザの画像を(カメラ等の撮像デバイスを備える)SVD102が取得することから開始してもよい。様々な実施形態において、SVD102は、SVDの102の正面の空間の画像を撮像することによって、ユーザの画像を取得して、ユーザの顔について(例えば、顔/ジェスチャ認識サービス218を使用して)画像を分析してもよい。新規のユーザの顔を特定すると、SVD102は(例えば、登録/関連付け機能212を使用して)、新規のユーザの画像を生成してもよい。SVD102は、周期的に上記の取得および生成オペレーションを実行してもよく、すなわち、例えば、電源投入時点等の時間ベースで、または、例えば、イベント起動ベースで、レンダリングされるビデオストリームの変更またはレンダリングされるビデオストリームのジャンルの変更等のイベント起動ベースで、周期的に実行されてもよい。
方法400は、ブロック402からブロック404へと進み、PD112を検出したことまたはPD112からのコンタクトに応答して、SVD102は、SVD102のユーザの画像を、PD112へと送信してもよい。方法400は、ブロック404からブロック406へと進み、ある"手動"の実施形態の場合には、PD112は、受信した画像を表示して、PD112のユーザが、受信した画像のうちの1つが、PD112のユーザの画像であるかを確認してもよい。これに代えて、ある"自動化された"の実施形態の場合には、例えば、顔/ジェスチャ認識サービス244を使用して、PD112は、受信した画像と、PD112のユーザのリファレンス画像とを比較してもよい。PD112のユーザのリファレンス画像は、予めPD112に提供されていてもよいし、(カメラのような撮像デバイスを備える実施形態の場合)PD112によって撮像されてもよい。
方法400は、ブロック406からブロック408へと進み、"手動"の実施形態の場合、PD112は、SVD102のユーザの選択された画像がPD112のユーザに一致していることを示すべく、PD112のユーザから、受信した画像のうちの1つを選択したことを受信してもよい。"自動化された"実施形態の場合には、PD112は、受信した画像のうち、リファレンス画像の実質的に一致する1つを選択してもよい。
方法400は、ブロック408からブロック410へと進み、PD112は、自身を、SVD102と関連付けしてもよい。自身をSVD102と関連付けする際には、PD112は、(ユーザによって提供されたまたは比較オペレーションによって提供された)選択情報を、SVD102に送信して、自身をSVD102(または、SVD102のテレビ106のPIP108のような、SVD102の論理ユニット)に登録してもよい。
方法400は、ブロック410からブロック412へと進み、SVD102は、供給された選択に応答して、自身をPD112に関連付けしてもよく、選択された画像のユーザとPD112とを関連付けすることを含む。PD112が、関連付けられている様々なSVD102(例えば、通常の住居に設置しているSVD102、ビーチハウスに設置しているSVD102等)のマップを保持する様々な実施形態において、応答して、SVD102は、自身をPD112に登録してもよい。
別の実施形態では、方法400は、ブロック404からブロック422へと進み、ブロック422では、SVD102は、外部ソース、例えば、クラウドコンピューティングサーバにコンタクトして、取得した/生成したユーザの画像を使用して、PD112のIDおよび/または設定情報を取得してもよい。方法400は、ブロック422からブロック412へと進み、SVD102は、ユーザの画像に基づいて、ID情報を取得可能である場合に、ユーザの画像とPD112とをそれぞれ関連付けることを含めて、SVD102は、自身を、少なくともID情報を取得可能であった全てのPD112と関連付けてもよい。
別の実施形態では、方法400は、ブロック432で開始して、PD112は、例えば、クラウドコンピューティングサーバである外部ソースにコンタクトして、SVD102のIDおよび/または設定情報を取得してもよい。取得に成功した場合には、PD112は、ブロック432からブロック410へと進み、PD112は、SVD102を自身と関連付ける。ブロック410において、PD112は、自身をSVD102に登録してもよい。そして、方法400は、上記したように、ブロック410からブロック412へと進む。
図5には、本開示の様々な実施形態に係る、共有デバイスおよびパーソナルデバイスの連携による、パーソナライズされたユーザ機能の提供のユーザビューを示している。図に示すように、最初に、PD112のユーザに、例えば、PD112に表示されるアイコンを使用して、SVD連携機能162を起動するオプションを提示する(SVD102と連携したユーザ機能の容易化のため)。オプションの選択に応答して、PD112のユーザに、SVD登録/関連付け機能232、SVDビデオ/イメージ/データサービス234、または、SVD制御サービス236を選択するオプションが提示されてもよい。
SVDビデオ/イメージ/データサービス234が選択されると、PD112のユーザに、SVD102にレンダリングされるビデオストリームのビデオセグメントをリクエストする502オプション、または、SVD102にレンダリングされるビデオストリームのイメージフレームをリクエストする504オプションが提示されてもよい。SVD102にレンダリングされるビデオストリームのビデオセグメントをリクエスト502するオプションが選択されると、それに応答して、PD112は、リクエストを行った後(例えば、メディアプレーヤ224を使用して)のビデオセグメントを受信し、PD112のユーザに、そのビデオセグメントを再生/レンダリングする506オプションが提示されてもよい。
SVD102にレンダリングされるビデオストリームのイメージフレームをリクエスト504するオプションが選択されると、それに応答して、リクエストを行った後に、イメージフレームが受信され、PD112のユーザに、アノテーション機能238(イメージまたはイメージ内のオブジェクトにアノテーションを付す)を使用するオプション、ログ機能240(イメージまたはイメージ内のオブジェクトを、アノテーションと共にまたはアノテーションなしで格納する)オプション、または、ブラウザ228(オンライン検索サービスへと検索を投稿し、eコマースサイトでeコマーストランザクションを実行するために、SIGに参加するために)のオプションが提示されてもよい。
SVD制御機能236の選択に応答して、PD112のユーザに、SVD102を制御するためのジェスチャを受け付けるおよび受信するためのジェスチャ認識機能516が提供されてもよく、それにより、例えば、PIP108を拡大または縮小する、メインピクチャとPIP108との間の2つのビデオストリームを交換する、または、SVD102にレンダリングされるビデオストリームの停止、一時停止、早送りまたは巻き戻しを行ってもよい。
図6は、本開示の様々な実施形態に係る、共有デバイスおよびパーソナルデバイスによる連携して提供される選択されたパーソナライズされたユーザ機能の別のユーザビューである。図6に示すように、PD112には、イメージ612が示されている。イメージ612は、SVD102から受信される。更に、イメージ612は、PD112のリクエストに応答して、SVD102によって提供されてもよい。図に示すように、イメージ612は、人、アイテム、建物、ランドマーク、植物等の複数のオブジェクト614が含まれてもよい。複数のオブジェクト614のうちの1以上が、図の点線で囲む矩形616で示されたように選択されてもよい。先に説明したように、選択は、ユーザの手のジェスチャによって行われてもよい。
図に示すように、1以上のオブジェクトが選択されると、ユーザのリクエストに応答して、アノテーションを入力し、入力したアノテーションが表示されるポップアップ領域618が、ユーザに提供されてもよい。先に説明したように、アノテーションは、例えば、キーボード、カット&ペースト機能等を使用して、テキストで入力されてもよい。更に、これに代えて、アノテーションを、"好む"ことを意味する親指を立てたジェスチャ、"好まない"ことを意味する親指を下げたジェスチャ等の手のジェスチャの認識を使用して入力してもよい。
アノテーションが付与されている、いないにかかわらず、ユーザリクエストに応答して、ポップアップメニュー620が提示されて、PD112のユーザに、機能のリストの選択が与えられてもよく、例えば、イメージまたは選択されたオブジェクトに基づいて検索を投稿する、イメージまたは選択されたオブジェクトを、ソーシャルネットワークまたはクラウドコンピューティングサーバにアップロードする、または、eコマースサイトでeコマーストランザクションを実行する機能のリストの選択が与えられてもよい。
図7には、本開示の様々な実施形態に係る共有デバイスおよびパーソナルデバイスの連携によるパーソナライズされた推奨の一例が示されている。図に示すように、方法700は、ブロック702で開始されてもよく、PD112が、自身によりまたはSVD102と連携して、PD112とSVD102との間のやり取りおよび連携をロギング(logging)してもよい。先に説明したように、ログにつけられた情報は、ローカルにPD112に、SVD102に、または、クラウドコンピューティングサーバに格納されてもよい。ブロック702のオペレーションが、続いてもよい。
方法700は、ブロック702から周期的にブロック704へと進んでもよく、ブロック704では、SVD102および/またはPD112は、単独でまたは組み合わせて、ログにつけられた/格納されたやり取りまたは連携情報を分析してもよい。方法700は、ブロック704からブロック706へと進み、SVD102またはPD112は、分析の結果の少なくとも一部に基づいて、PD112のユーザに対してパーソナライズされた推奨を生成してもよい。上記で説明したように、パーソナライズされた推奨は、ビデオストリーム、ウェブサイト等のパーソナライズされた推奨を含んでもよい。
方法700は、ブロック706からブロック702へと戻り、その後で、上記したように進んでもよい。
図8には、本開示の様々な実施形態に係る非一時的コンピュータ可読記憶媒体が例示されている。図に示すように、非一時的コンピュータ可読記憶媒体802は、複数のプログラミング命令804を含んでもよい。プログラミング命令804は、SVD102またはPD112によるプログラミング命令の対応する実行に応答して、SVD102またはPD112が、図3および図4を参照して説明した方法300−400のSVDまたはPDの部分のオペレーションを実行可能とするように構成されてもよい。別の実施形態では、プログラミング命令804は、複数の非一時的コンピュータ可読記憶媒体802に配置されてもよい。
図9には、本開示の様々な実施形態に係る、SVDまたはPDとして使用するのに好適なコンピュータシステムの例が示されている。図に示すように、コンピュータシステム900は、複数のプロセッサまたはプロセッサコア902、および、システムメモリ904を備える。特許請求の範囲を含む本願の目的のため、"プロセッサ"および"プロセッサコア"という言葉は、コンテキストにおいて明確にそうでないことを必要とされない限り、同義語であると見なされる。更に、コンピュータシステム900は、マスストレージデバイス906(例えば、ディスケット、ハードドライブ、コンパクトディスクリードオンリーメモリ(CD−ROM)等)、入出力デバイス908(ディスプレイ、キーボード、カーソル制御、タッチパッド、カメラ等)、および、通信インターフェース910(WiFi(登録商標)、Bluetooth(登録商標)、3G/4Gネットワークインターフェースカード、モデム等)を備える。これら要素は、1以上のバスとして表されているシステムバス912を使用して、互いに結合される。複数のバスが存在する場合、1以上のバスブリッジ(図示せず)によってブリッジされる。
これら要素はそれぞれ、当技術分野で周知の従来の機能を実行する。より詳細には、システムメモリ904およびマスストレージ906を採用して、上記で図3および図4を参照して説明した方法300−400のSVDの部分またはPDの部分、すなわち、ここでは計算ロジック922と総称される、PD連携機能152またはSVD連携機能162またはこれらの一部を実装するプログラミング命令のワーキングコピーおよびパーマネントコピーを格納してもよい。計算ロジック922は更に、SVD機能151またはPD機能161またはこれらの一部分を実施またはサポートするプログラミング命令を含んでもよい。様々な構成要素を、プロセッサ902がサポートするアセンブラ命令、または、例えば、このような命令にコンパイル可能なC言語のような高級言語によって実装してもよい。
プログラミング命令のパーマネントコピーは、工場でまたはフィールドで、例えば、コンパクトディスク(CD)のような配布媒体(図示せず)を介して、または、(配信サーバ(図示せず)から)通信インターフェース910を介して、マスストレージ906内に配置されてもよい。すなわち、計算ロジック922の実装を有する1以上の配布媒体を採用して、計算ロジック922を配布し、様々なコンピュータデバイスをプログラムしてもよい。
これら要素902−912の構成は、周知であり、本明細書では説明しない。
特定の実施形態が本明細書に示されたが、当業者であれば、様々な別のおよび/または等価な実装が、本開示の実施形態の範囲内において、特定の実施形態に適していることが理解できる。本願は、本明細書に記載された実施形態のあらゆる適用例および変形例についても範囲に含めることを意図している。したがって、本開示の実施形態は、特許請求の範囲およびその均等物によってのみ限定されることを明確に意図している。

Claims (20)

  1. 複数の命令を備える少なくとも1つの非一時的コンピュータ可読記憶媒体を備え、
    パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、
    複数のユーザによって使用されるように構成された共有ビデオデバイスにレンダリングされるビデオストリームと関連付けられたユーザ機能の実行を選択するユーザ入力を受信する、
    前記ユーザ入力の時点に近接した時点において、前記共有ビデオデバイスにレンダリングされる前記ビデオストリームのイメージフレームを、前記パーソナルデバイスにレンダリングする、および、
    前記ユーザ機能の実行を容易にする、ことを可能とするように構成され、
    前記ユーザ入力は、ユーザのジェスチャに基づき、
    前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、好む推奨または好まない推奨のそれぞれの入力を容易にするべく、親指を立てるユーザのジェスチャまたは親指を下げるユーザのジェスチャそれぞれの認識を利用して、前記好む推奨または前記好まない推奨の入力を容易にする、ことを可能とするように構成された、
    パーソナルデバイス。
  2. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、
    前記ユーザ入力に応答して、前記共有ビデオデバイスから、前記イメージフレームをリクエストする、および、
    前記リクエストの後に、前記共有ビデオデバイスから、前記イメージフレームを受信する、ことを可能とするように構成された、請求項1に記載のパーソナルデバイス。
  3. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、
    前記ビデオストリーム、前記イメージフレーム、または、前記イメージフレーム内のオブジェクトと関連付けられるアノテーションの入力を容易にする、ことを可能とするように構成された、請求項1に記載のパーソナルデバイス。
  4. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、
    前記オブジェクトを選択するべくレンダリングされた前記イメージフレームに対してなされたユーザのジェスチャの認識を使用して、前記イメージフレーム内のオブジェクトの選択を容易にすることで、前記オブジェクトと関連付けられるアノテーションの入力を容易にする、ことを可能とするように構成された、請求項3に記載のパーソナルデバイス。
  5. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、テキストのアノテーションの入力を容易にする、ことを可能とするように構成された、請求項3に記載のパーソナルデバイス。
  6. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、前記共有ビデオデバイスまたはクラウドコンピューティングサーバに、入力されたアノテーションを格納する、または、入力されたアノテーションを投稿する、ことを可能とするように構成された、請求項3に記載のパーソナルデバイス。
  7. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、前に入力されたアノテーションを読み出し、読み出された前記アノテーションの編集を容易にする、ことを可能とするように構成された、請求項3に記載のパーソナルデバイス。
  8. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、一定期間に入力されたユーザ入力またはアノテーションを分析し、前記分析の結果に少なくとも一部基づいて、前記共有ビデオデバイスにレンダリングされるビデオストリームに対する推奨を生成する、ことを可能とするように構成された、請求項3に記載のパーソナルデバイス。
  9. 前記パーソナルデバイスは、スマートフォンまたはタブレットコンピュータを含む、
    前記共有ビデオデバイスは、テレビもしくは前記テレビに結合されるセットトップボックスを含む、または、
    前記ビデオストリームは、前記テレビのピクチャインピクチャにレンダリングされる、請求項1からの何れか一項に記載のパーソナルデバイス。
  10. 複数の命令を備える少なくとも1つの非一時的コンピュータ可読記憶媒体を備え、
    パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、
    複数のユーザによって使用されるように構成された共有ビデオデバイスにレンダリングされるビデオストリームのイメージフレーム内のオブジェクトの選択を容易にする、および、
    前記オブジェクトに関するアノテーションの入力を容易にする、ことを可能とするように構成され、
    前記入力は、ユーザのジェスチャに基づ
    前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、好む推奨または好まない推奨の入力を容易にするべく、親指を立てるユーザのジェスチャまたは親指を下げるユーザのジェスチャそれぞれの認識を利用して、前記好む推奨または前記好まない推奨の入力を容易にする、ことを可能とするように構成された、
    パーソナルデバイス。
  11. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、前記オブジェクトを選択するべくレンダリングされた前記イメージフレームに対してなされたユーザのジェスチャの認識を容易にする、ことを可能とするように構成された、請求項1に記載のパーソナルデバイス。
  12. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、テキストのアノテーションの入力を容易にする、ことを可能とするように構成された、請求項1に記載のパーソナルデバイス。
  13. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、前記共有ビデオデバイスまたはクラウドコンピューティングサーバに、入力されたアノテーションを格納する、または、入力されたアノテーションを投稿する、ことを可能とするように構成された、請求項1に記載のパーソナルデバイス。
  14. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、前に入力されたアノテーションを読み出し、読み出された前記アノテーションの編集を容易にする、ことを可能とするように構成された、請求項1に記載のパーソナルデバイス。
  15. 前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、一定期間に入力されたユーザ入力またはアノテーションを分析し、前記共有ビデオデバイスにレンダリングされるビデオストリームに対する推奨を生成する、ことを可能とするように構成された、請求項1から1の何れか一項に記載のパーソナルデバイス。
  16. 複数の命令を備える少なくとも1つの非一時的コンピュータ可読記憶媒体を備え、
    パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、
    複数のユーザにより使用されるように構成された共有ビデオデバイスにレンダリングされる複数のビデオストリームに関連付けられる複数のイメージに関して、一定期間に入力されたユーザ入力またはアノテーションを分析する、および、
    前記分析の結果に少なくとも一部基づいて、前記共有ビデオデバイスにレンダリングされるビデオストリームに対する推奨を生成する、ことを可能とするように構成され、
    前記ユーザ入力は、ユーザのジェスチャに基づ
    前記複数の命令は更に、前記パーソナルデバイスによって前記複数の命令が実行されると、前記パーソナルデバイスが、好む推奨または好まない推奨の入力を容易にするべく、親指を立てるユーザのジェスチャまたは親指を下げるユーザのジェスチャそれぞれの認識を利用して、前記好む推奨または前記好まない推奨の入力を容易にする、ことを可能とするように構成された、
    パーソナルデバイス。
  17. 複数のユーザにより使用されるように構成された共有ビデオデバイスにレンダリングされるビデオストリームと関連付けられたユーザ機能の実行を選択するユーザ入力を、一のユーザのパーソナルデバイスにより受信する段階と、
    前記ユーザ入力の時点に近接した時点において、前記共有ビデオデバイスにレンダリングされる前記ビデオストリームのイメージフレームを、前記パーソナルデバイスによりレンダリングする段階と、
    前記パーソナルデバイスにより、前記ユーザ機能の実行を容易にする段階と、を備え、
    前記ユーザ入力は、ユーザのジェスチャに基づ
    前記容易にする段階は、前記パーソナルデバイスにより、親指を立てるユーザのジェスチャまたは親指を下げるユーザのジェスチャそれぞれを認識することを利用して、好む推奨または好まない推奨の入力を容易にすることを含む、
    方法。
  18. 前記容易にする段階は、前記パーソナルデバイスにより、記ビデオストリーム、前記イメージフレーム、または、前記イメージフレーム内のオブジェクトと関連付けられるアノテーションの入力を容易にする段階を有し、
    前記イメージフレーム内のオブジェクトと関連付けられるアノテーションの入力を容易にする段階は、レンダリングされた前記イメージフレームに対してなされるユーザのジェスチャを前記パーソナルデバイスにより認識することを利用して、前記オブジェクトの選択を容易にすることを含む、請求項17に記載の方法。
  19. 一のユーザによって使用されるように構成されたパーソナル装置であって、
    1以上のプロセッサと、
    前記1以上のプロセッサと結合され、複数のユーザにより使用されるように構成された共有ビデオデバイスにレンダリングされるビデオストリームと関連付けられるユーザ機能の実行を選択するべく、ユーザ入力を受信するように構成された入力メカニズムと、
    前記1以上のプロセッサと結合され、前記ユーザ入力の時点に近接した時点に、前記共有ビデオデバイスにレンダリングされる前記ビデオストリームのイメージフレームをレンダリングするように構成されたビデオ/イメージコンポーネントと、
    前記1以上のプロセッサにより操作され、前記入力メカニズムおよび前記ビデオ/イメージコンポーネントに結合されて、前記ユーザ機能の実行を容易にするように構成された共有ビデオデバイス連携機能と、を備え、
    前記ユーザ入力は、ユーザのジェスチャに基づ
    前記共有ビデオデバイス連携機能は更に、好む推奨または好まない推奨の入力を容易にするべく、親指を立てるユーザのジェスチャまたは親指を下げるユーザのジェスチャそれぞれの認識を利用して、前記好む推奨または前記好まない推奨の入力を容易にすることを含む、
    パーソナル装置。
  20. 前記共有ビデオデバイス連携機能は更に、記ビデオストリーム、前記イメージフレーム、または、前記イメージフレーム内のオブジェクトと関連付けられるアノテーションの入力を容易にするように構成され、
    前記イメージフレーム内のオブジェクトと関連付けられるアノテーションの入力を容易にすることは、レンダリングされた前記イメージフレームに対してなされるユーザのジェスチャの認識を利用して、前記オブジェクトの選択を容易にすることを含む、請求項19に記載のパーソナル装置。
JP2014528819A 2011-09-12 2011-09-12 ビデオコンテンツのアノテーションおよび/または推奨の方法および装置 Expired - Fee Related JP5791809B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2011/001546 WO2013037080A1 (en) 2011-09-12 2011-09-12 Annotation and/or recommendation of video content method and apparatus

Publications (2)

Publication Number Publication Date
JP2014531638A JP2014531638A (ja) 2014-11-27
JP5791809B2 true JP5791809B2 (ja) 2015-10-07

Family

ID=47882504

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014528819A Expired - Fee Related JP5791809B2 (ja) 2011-09-12 2011-09-12 ビデオコンテンツのアノテーションおよび/または推奨の方法および装置

Country Status (6)

Country Link
US (1) US20130332834A1 (ja)
EP (1) EP2756427A4 (ja)
JP (1) JP5791809B2 (ja)
KR (1) KR101500913B1 (ja)
CN (1) CN103765417B (ja)
WO (1) WO2013037080A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10057535B2 (en) 2010-12-09 2018-08-21 Comcast Cable Communications, Llc Data segment service
US10015557B2 (en) 2011-12-31 2018-07-03 Intel Corporation Content-based control system
US20140075335A1 (en) * 2012-09-11 2014-03-13 Lucid Software, Inc. Image editing and sharing
CN104813679A (zh) 2012-10-08 2015-07-29 英特尔公司 屏幕截图抓取和共享的方法、设备和***
US10489501B2 (en) * 2013-04-11 2019-11-26 Google Llc Systems and methods for displaying annotated video content by mobile computing devices
KR102264050B1 (ko) * 2014-11-28 2021-06-11 삼성전자주식회사 전자 장치들 간에 기능을 공유하는 방법 및 장치
CN104618741A (zh) * 2015-03-02 2015-05-13 浪潮软件集团有限公司 一种基于视频内容的信息推送***及方法
US10565258B2 (en) 2015-12-10 2020-02-18 Comcast Cable Communications, Llc Selecting and sharing content
KR101658002B1 (ko) 2015-12-11 2016-09-21 서강대학교산학협력단 동영상 주석 시스템 및 주석 방법
US10382372B1 (en) 2017-04-27 2019-08-13 Snap Inc. Processing media content based on original context
CN108848412A (zh) * 2018-06-08 2018-11-20 江苏中威科技软件***有限公司 一种针对视频进行签批及播放的方法
CN108932103A (zh) * 2018-06-29 2018-12-04 北京微播视界科技有限公司 标识用户兴趣的方法、装置、终端设备及存储介质
US10638206B1 (en) 2019-01-28 2020-04-28 International Business Machines Corporation Video annotation based on social media trends

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3697317B2 (ja) * 1996-05-28 2005-09-21 株式会社東芝 通信装置
US6675174B1 (en) * 2000-02-02 2004-01-06 International Business Machines Corp. System and method for measuring similarity between a set of known temporal media segments and a one or more temporal media streams
JP2002044193A (ja) * 2000-07-25 2002-02-08 Sony Corp テレビジョン放送の画面情報ダウンロードシステム及びダウンロード方法
US7165224B2 (en) * 2002-10-03 2007-01-16 Nokia Corporation Image browsing and downloading in mobile networks
KR20040093208A (ko) * 2003-04-22 2004-11-05 삼성전자주식회사 이동통신 단말기에서 수신된 텔레비전 신호를 전송하는장치 및방법
JP4037790B2 (ja) * 2003-05-02 2008-01-23 アルパイン株式会社 ナビゲーション装置
US20070033616A1 (en) * 2003-05-30 2007-02-08 Srinivas Gutta Ascertaining show priority for recording of tv shows depending upon their viewed status
JP2005150831A (ja) * 2003-11-11 2005-06-09 Nec Access Technica Ltd Tv受信及びリモコン機能付き携帯電話機
JP2006203399A (ja) * 2005-01-19 2006-08-03 Sharp Corp 情報処理装置、テレビジョン装置
JP2007181153A (ja) * 2005-12-28 2007-07-12 Sharp Corp 携帯端末及び照射範囲指示方法
US20100169786A1 (en) * 2006-03-29 2010-07-01 O'brien Christopher J system, method, and apparatus for visual browsing, deep tagging, and synchronized commenting
JP2008079190A (ja) * 2006-09-25 2008-04-03 Olympus Corp テレビジョン画像キャプチャシステム
US8532384B2 (en) * 2006-11-21 2013-09-10 Cameron Telfer Howie Method of retrieving information from a digital image
US7559017B2 (en) * 2006-12-22 2009-07-07 Google Inc. Annotation framework for video
US20090228919A1 (en) * 2007-11-16 2009-09-10 Zott Joseph A Media playlist management and viewing remote control
US8438214B2 (en) * 2007-02-23 2013-05-07 Nokia Corporation Method, electronic device, computer program product, system and apparatus for sharing a media object
US9772689B2 (en) * 2008-03-04 2017-09-26 Qualcomm Incorporated Enhanced gesture-based image manipulation
JP2009229605A (ja) * 2008-03-19 2009-10-08 National Institute Of Advanced Industrial & Technology 活動プロセスリフレクション支援システム
US20120030553A1 (en) * 2008-06-13 2012-02-02 Scrible, Inc. Methods and systems for annotating web pages and managing annotations and annotated web pages
US8644688B2 (en) * 2008-08-26 2014-02-04 Opentv, Inc. Community-based recommendation engine
JP2010141545A (ja) * 2008-12-11 2010-06-24 Sharp Corp 広告表示装置、広告配信システム及びプログラム
US8458053B1 (en) * 2008-12-17 2013-06-04 Google Inc. Click-to buy overlays
US20110040707A1 (en) * 2009-08-12 2011-02-17 Ford Global Technologies, Llc Intelligent music selection in vehicles
JP5468858B2 (ja) * 2009-09-28 2014-04-09 Kddi株式会社 リモコン装置、コンテンツ視聴システム、リモコン装置の制御方法、リモコン装置の制御プログラム
WO2011066456A2 (en) * 2009-11-24 2011-06-03 Scrible, Inc. Methods and systems for content recommendation based on electronic document annotation
CN102860027A (zh) * 2010-02-19 2013-01-02 汤姆森许可贸易公司 机顶盒上自动剪辑产生
US20110252340A1 (en) * 2010-04-12 2011-10-13 Kenneth Thomas System and Method For Virtual Online Dating Services
US20120036051A1 (en) * 2010-08-09 2012-02-09 Thomas Irving Sachson Application activity system
WO2013029263A1 (en) * 2011-09-01 2013-03-07 Technicolor (China) Technology Co., Ltd. Method for capturing video related content

Also Published As

Publication number Publication date
CN103765417B (zh) 2018-09-11
EP2756427A4 (en) 2015-07-29
EP2756427A1 (en) 2014-07-23
KR101500913B1 (ko) 2015-03-09
JP2014531638A (ja) 2014-11-27
US20130332834A1 (en) 2013-12-12
CN103765417A (zh) 2014-04-30
WO2013037080A1 (en) 2013-03-21
KR20140051412A (ko) 2014-04-30

Similar Documents

Publication Publication Date Title
JP5791809B2 (ja) ビデオコンテンツのアノテーションおよび/または推奨の方法および装置
JP5818994B2 (ja) 共有デバイスおよびパーソナルデバイスを使用したパーソナライズされたユーザ機能の連携提供
JP5838487B2 (ja) 共有ビデオデバイスおよびパーソナルデバイスを使用したパーソナライズされたビデオコンテンツ消費
TWI517683B (zh) 內容導向控制系統

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141105

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150205

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150420

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150804

R150 Certificate of patent or registration of utility model

Ref document number: 5791809

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees