JP2014016882A - 情報提供装置、情報提供方法および情報提供プログラム - Google Patents

情報提供装置、情報提供方法および情報提供プログラム Download PDF

Info

Publication number
JP2014016882A
JP2014016882A JP2012154732A JP2012154732A JP2014016882A JP 2014016882 A JP2014016882 A JP 2014016882A JP 2012154732 A JP2012154732 A JP 2012154732A JP 2012154732 A JP2012154732 A JP 2012154732A JP 2014016882 A JP2014016882 A JP 2014016882A
Authority
JP
Japan
Prior art keywords
image
information
search
specific object
terminal device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012154732A
Other languages
English (en)
Other versions
JP5593352B2 (ja
Inventor
Riyuuki Sakamoto
竜基 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yahoo Japan Corp
Original Assignee
Yahoo Japan Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yahoo Japan Corp filed Critical Yahoo Japan Corp
Priority to JP2012154732A priority Critical patent/JP5593352B2/ja
Priority to US13/934,903 priority patent/US9495592B2/en
Publication of JP2014016882A publication Critical patent/JP2014016882A/ja
Application granted granted Critical
Publication of JP5593352B2 publication Critical patent/JP5593352B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • G06F16/432Query formulation
    • G06F16/434Query formulation using image data, e.g. images, photos, pictures taken by a user

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Information Transfer Between Computers (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】動画コンテンツの画像に応じた適切なレコメンド情報をユーザに提示することができる情報提供装置、情報提供方法および情報提供プログラムを提供すること。
【解決手段】実施形態に係る情報提供装置は、物体認識手段と、検索手段と、取得手段と、送信手段とを備える。物体認識手段は、端末装置へ配信される動画コンテンツの画像に出現する特定物体の画像を抽出する。検索手段は、物体認識手段によって抽出された特定物体の画像を検索キーとして検索装置に対して類似画像の検索要求を行い、検索装置から検索結果を取得する。取得手段は、検索手段によって取得された検索結果に基づき、動画コンテンツの画像に出現する特定物体の画像に関連するレコメンド情報を取得する。送信手段は、取得手段によって取得されたレコメンド情報を端末装置へ送信する。
【選択図】図1A

Description

本発明は、情報提供装置、情報提供方法および情報提供プログラムに関する。
従来、ADSLや光ファイバなど高速かつ大容量のインターネット接続環境すなわちブロードバンドの普及に伴い、パーソナルコンピュータに代表される端末装置にドラマや映画などの動画コンテンツを配信する動画配信サービスが展開されている。
かかる動画配信サービスにおいて、動画コンテンツの再生画像に関連するキーワードをその再生時間に関連付け、動画コンテンツを再生中の端末装置において再生時間に対応するキーワードに基づいて広告を表示する技術が知られている(例えば、特許文献1参照)。
特開2011−034481号公報
ところで、上記従来の動画配信サービスでは、動画コンテンツの再生時間にキーワードを関連付ける必要がある。かかる作業を人手で行うことはコスト的な問題も生じるため、容易ではない。そこで、物体認識技術によって動画コンテンツ中の物体を認識することで再生時間に対応するキーワードを抽出することが考えられる。
しかしながら、かかる物体認識技術は、「車」や「人」などのような抽象的な情報を把握できるものの、物体の具体的な「車種」や「人物名」などのような詳細な情報まで把握することは難しい。そのため、物体認識技術により物体の情報を抽出した場合であっても、動画コンテンツの再生時間に応じた適切なレコメンド情報をユーザに提示することが難しい。
実施形態の一態様は、上記に鑑みてなされたものであって、動画コンテンツの画像に応じた適切なレコメンド情報をユーザに提示することができる情報提供装置、情報提供方法および情報提供プログラムを提供することを目的とする。
実施形態の一態様に係る情報提供装置は、端末装置へ配信される動画コンテンツの画像に出現する特定物体の画像を抽出する物体認識手段と、前記物体認識手段によって抽出された前記特定物体の画像を検索キーとして検索装置に対して類似画像の検索要求を行い、前記検索装置から検索結果を取得する検索手段と、前記検索手段によって取得された検索結果に基づき、前記特定物体の画像に関連するレコメンド情報を取得する取得手段と、前記取得手段によって取得された前記レコメンド情報を前記端末装置へ送信する送信手段と、を備える。
実施形態の一態様によれば、動画コンテンツの画像に応じた適切なレコメンド情報をユーザに提示することができる情報提供装置、情報提供方法および情報提供プログラムを提供することができる。
図1Aは、実施形態に係る情報提供処理の流れを示す図である。 図1Bは、実施形態に係る情報提供装置から提供される動画ページの一例を示す図である。 図1Cは、実施形態に係る情報提供装置による情報処理の一例を説明するための図である。 図2は、実施形態に係る情報提供装置の構成例を示す図である。 図3は、端末装置の再生タイミングと物体認識部の処理タイミングとの関係を示す図である。 図4は、特定オブジェクトの抽出処理の流れを示す図である。 図5は、選択情報を含む動画ページの一例を示す図である。 図6は、端末装置の再生タイミングと物体認識部の処理タイミングとの関係を示す図である。 図7は、実施形態に係る情報提供装置による情報処理のフローチャートである。 図8は、特定オブジェクトテーブルの一例を示す図である。
以下に、本願に係る情報提供装置、情報提供方法および情報提供プログラムを実施するための形態(以下、「実施形態」と呼ぶ)について図面を参照しつつ詳細に説明する。なお、かかる実施形態により本願に係る情報提供装置、情報提供方法および情報提供プログラムが限定されるものではない。
〔1.情報提供処理〕
実施形態に係る情報提供処理について説明する。図1Aは、情報提供処理の流れを示す図、図1Bは、情報提供装置から提供される動画ページの一例を示す図である。また、図1Cは、情報提供装置による情報処理の一例を説明するための図である。
図1Aに示すように、実施形態に係る情報提供システム1は、情報提供装置2と、類似画像検索装置3とを備え、端末装置4に対して動画コンテンツやレコメンド情報を含む動画ページを配信する。なお、情報提供装置2、類似画像検索装置3および端末装置4は、通信ネットワークを介して互いに接続される。
また、図1Bに示すように、情報提供システム1から配信される動画ページ30には、動画コンテンツを表示するコンテンツ表示枠31と、レコメンド情報を表示する情報表示枠32a、32bとが配置される。以下においては、情報表示枠32a、32bを総称して情報表示枠32と記載する場合がある。なお、情報表示枠32の位置、数、大きさなどは適宜変更が可能である。
動画コンテンツは、例えば、ドラマ、映画、プロモーションビデオなどの動画のコンテンツであり、ストリーミング形式で配信される。また、レコメンド情報は、例えば、商品やサービスに関する情報や広告情報であり、ユーザにレコメンド(提案)する情報である。
情報表示枠32に割り当てられるレコメンド情報は、端末装置4で再生される動画コンテンツの画像に応じたレコメンド情報であり、次のように、端末装置4に送信される。なお、かかるレコメンド情報は、例えば、バナー広告やアニメーション広告などの広告情報、おすすめの商品・サービスの情報など種々の情報を含むことができ、これらの情報は、例えば、静止像、動画、テキストなどで表現される。
図1Aに示すように、まず、端末装置4は、情報提供装置2に対して動画コンテンツ要求を行う(ステップS1)。情報提供装置2は、端末装置4から動画コンテンツ要求を取得すると、要求に応じた動画コンテンツを含む動画ページ30を要求元の端末装置4へ送信する(ステップS2)。
端末装置4は、情報提供装置2から動画ページ30を取得すると、かかる動画ページ30を表示部に表示して、動画コンテンツの再生を開始する。また、情報表示枠32には、例えば、動画コンテンツの内容(例えば、タイトル、あらすじ、役者、監督、スタッフ、制作会社、協賛会社など)に基づいたレコメンド情報が最初に設定される。
情報提供装置2は、動画ページ30の配信を開始すると、端末装置4に配信中の動画コンテンツの画像に出現するオブジェクトのうち特定オブジェクト(特定物体の一例に相当)の画像認識処理を行う。そして、情報提供装置2は、特定オブジェクトの画像を認識できた場合、この特定オブジェクトの画像を動画コンテンツの画像から抽出する(ステップS3)。
次に、情報提供装置2は、抽出した特定オブジェクトの画像を検索キーとして類似画像検索装置3に対して類似画像の検索要求を行う(ステップS4)。ここでは、図1Cに示すように、端末装置4で再生されている動画コンテンツの画像(以下、再生中画像と記載する)には、特定オブジェクト34a、34bの画像33a、33bが含まれているものとする。この場合、情報提供装置2は、特定オブジェクトの画像33a、33bをそれぞれ抽出し、特定オブジェクトの画像33a、33bをそれぞれ検索キーとして類似画像検索装置3に対して類似画像の検索要求を行う。
類似画像検索装置3は、情報提供装置2から特定オブジェクトの画像33a、33bをそれぞれ検索キーとした類似画像の検索要求があると、特定オブジェクトの画像33a、33bにそれぞれ類似する画像を検索し(ステップS5)、検索結果を情報提供装置2へ送信する(ステップS6)。情報提供装置2は、類似画像検索装置3から検索結果を取得すると、かかる検索結果に基づき、特定オブジェクトの画像33a、33bにそれぞれ関連するレコメンド情報を取得する。
類似画像検索装置3の検索結果には、例えば、類似画像のアドレスと、この類似画像が掲載されているウェブページのアドレスとを関連付けた情報の一覧が含まれている。情報提供装置2は、類似画像が掲載されているウェブページの情報を通信ネットワーク経由で収集する。そして、情報提供装置2は、収集したウェブページの情報で共通する内容を解析し(ステップS7)、かかる解析結果に対応するレコメンド情報を、特定オブジェクトの画像33a、33bに関連するレコメンド情報として取得する(ステップS8)。
例えば、特定オブジェクト34a、34bの類似画像を掲載しているウェブページに共通する情報がそれぞれ「A社製の製品番号A11の帽子」、「D社の型式D11のスマートフォン」であるとする。この場合、情報提供装置2は、「A社製の製品番号A11の帽子」、「D社の型式D11のスマートフォン」に対応するレコメンド情報(例えば、対応するメーカのウェブページにリンクするバナー広告、対応するショッピングサイトの商品ページの一部)をそれぞれ取得する。
次に、情報提供装置2は、取得したレコメンド情報を端末装置4へ送信する(ステップS9)。レコメンド情報を受信した端末装置4は、かかるレコメンド情報を情報表示枠32に表示する。これにより、動画コンテンツの画像に応じた適切なレコメンド情報をユーザに提示することができる。以下、本実施形態に係る情報提供システム1について、さらに具体的に説明する。
〔2.情報提供装置の構成〕
次に、情報提供装置2の構成について具体的に説明する。図2は、実施形態に係る情報提供装置2の構成例を示す図である。図2に示すように、情報提供装置2は、通信部10と、コンテンツデータベース11と、レコメンド情報データベース12と、ユーザ情報データベース13と、制御部14とを備える。以下、データベースをDBと記載する。
通信部10は、通信ネットワーク5に接続され、通信ネットワーク5を介して類似画像検索装置3や端末装置4との間で情報の送受信を行う。かかる通信部10は、通信ネットワーク5との接続を有線または無線で行う。
コンテンツDB11、レコメンド情報DB12およびユーザ情報DB13は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置である。コンテンツDB11は、複数の動画コンテンツなどを記憶し、レコメンド情報DB12は、複数のレコメンド情報などを記憶する。また、ユーザ情報DB13は、ユーザの属性情報などを記憶する。
制御部14は、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現される。また、制御部14は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、内部の記憶装置に記憶されているプログラムがRAMを作業領域として実行されることにより実現される。
かかる制御部14は、要求取得部21と、コンテンツ取得部22と、情報配信部23と、物体認識部24と、類似画像検索部25と、レコメンド情報取得部26とを備え、以下に説明する情報処理の機能や作用を実現または実行する。制御部14の内部構成は、かかる構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
なお、情報配信部23は、「送信手段」の一例に相当し、物体認識部24は、「物体認識手段」の一例に相当する。また、類似画像検索部25は、「検索手段」の一例に相当し、レコメンド情報取得部26は、「取得手段」、「選択情報送信手段」、「選択結果取得手段」、「レコメンド情報取得手段」の一例に相当する。
(要求取得部について)
要求取得部21は、端末装置4から送信される動画コンテンツ要求を通信部10経由で取得する。かかる動画コンテンツ要求は、例えば、動画選択ページ(図示せず)に対するユーザの操作部43への操作によって端末装置4の制御部42から通信部41を介して送信される。なお、動画選択ページは、例えば、端末装置4が情報提供装置2にアクセスした際に、情報配信部23から送信されるウェブページであり、端末装置4の表示部44に表示される。
(コンテンツ取得部について)
コンテンツ取得部22は、要求取得部21によって取得された動画コンテンツ要求に基づいてコンテンツDB11から動画コンテンツを取得して情報配信部23へ出力する。動画コンテンツ要求には、動画コンテンツの識別情報が含まれており、かかる識別情報に基づいてコンテンツ取得部22による動画コンテンツの取得が行われる。
(情報配信部について)
情報配信部23は、動画コンテンツ要求に対応する動画コンテンツを含む動画ページ30(図1B参照)を生成し、通信部10を介して要求元の端末装置4へ送信する。動画コンテンツは、動画ページ30のコンテンツ表示枠31に割り当てられ、ストリーミング形式で端末装置4へ配信される。
また、動画ページ30の情報表示枠32には、例えば、コンテンツ表示枠31に表示される動画コンテンツの内容に基づいたレコメンド情報が設定される。コンテンツDB11に記憶される動画コンテンツには、動画データのほか、動画コンテンツの内容を示す情報(以下、コンテンツ内容情報と記載する)が関連付けられている。なお、コンテンツ内容情報としては、例えば、タイトル、あらすじ、役者、監督、スタッフ、制作会社、協賛会社などの情報がある。
情報配信部23は、レコメンド情報取得部26に対してコンテンツ内容情報に応じたレコメンド情報の取得を要求する。そして、情報配信部23は、レコメンド情報取得部26から出力されたレコメンド情報を各情報表示枠32に割り当てて動画ページ30を生成する。
レコメンド情報取得部26は、コンテンツ内容情報に応じたレコメンド情報として、例えば、協賛会社が提供する商品やサービスの情報を含むウェブページをリンク先とする広告バナーの情報をレコメンド情報DB12から取得する。また、例えば、あらすじに関連する情報(例えば、サッカーに関する動画コンテンツであれば、サッカーウェアやサッカーシューズの広告)をレコメンド情報DB12から取得することもできる。
また、情報配信部23は、端末装置4における動画コンテンツの再生に同期して、動画コンテンツの画像データを物体認識部24へ出力する。この場合、図3に示すように、情報配信部23は、例えば、動画コンテンツの画像データのうち所定時間Ta後に端末装置4で再生される画像データを物体認識部24へ順次出力する。図3は、端末装置4の再生タイミングと物体認識部24の処理タイミングとの関係を示す図である。
図3において、「再生フレーム」は、端末装置4で再生されるフレームの順番を示し、「認識処理フレーム」は、物体認識部24で処理されるフレームの順番を示す。また、各シーンは、所定数のフレームから構成される。なお、図3の例では、「シーン5」のフレームで特定オブジェクトが出現していることを示している。
所定時間Ta後に端末装置4で再生される画像データを情報配信部23から物体認識部24へ出力するのは、レコメンド情報を端末装置4へ送信するまでに要する処理時間などを考慮したためである。これにより、図3に示すように、端末装置4で再生中の画像に特定オブジェクトの画像が現れたタイミングで、対応するレコメンド情報を端末装置4で表示可能となる。
(物体認識部について)
物体認識部24は、情報配信部23から出力される画像データから、端末装置4で再生される動画コンテンツの画像に出現する特定オブジェクトの画像を抽出する。特定オブジェクトは、動画コンテンツに含まれるオブジェクトのうち、端末装置4のユーザの興味を示すようなオブジェクトであり、物体認識部24において予め設定されている。
例えば、動画コンテンツに含まれるオブジェクトのうち、商品やサービスなどに関するオブジェクトが特定オブジェクトとして規定される。商品やサービスなどに関するオブジェクトとしては、例えば、商品自体を示すオブジェクト(例えば、靴、服、カバン、時計、アクセサリー、車など)、サービスを提供する建物を示すオブジェクト(例えば、飲食店や美容院の店舗など)などがある。
図4は、特定オブジェクトの抽出処理の流れを示す図である。図4に示すように、特定オブジェクトの画像を抽出する際、物体認識部24は、まず、動画コンテンツの画像に出現するオブジェクトのうち人物を識別する。物体認識部24が識別する人物の画像には、当該人物が所持するオブジェクトの画像が含まれる。物体認識部24は、識別した人物の画像から特定オブジェクトの画像を抽出する。
このように人物の画像を抽出した後に特定オブジェクトの画像を抽出することで、特定オブジェクトを容易に抽出することができる。また、ドラマや映画などで登場人物が所持しているアイテムは、視聴者である端末装置4のユーザにとって興味のあるアイテムである場合が多く、かかるアイテムを特定オブジェクトとすることで、効果的なレコメンド情報を端末装置4のユーザに提示することが可能となる。なお、物体認識部24は、人物の画像を抽出することなく、特定オブジェクトの画像を直接抽出することもできる。
ここで、物体認識部24における処理について具体的に説明する。物体認識部24は、人物の特徴ベクトルの情報が設定された第1辞書データ、および、靴、服、カバン、車などの各特定オブジェクトの名称と特徴ベクトルの情報とを対にした第2辞書データを記憶している。特徴ベクトルとしては、例えば、輪郭や使用されている色の数などがある。
物体認識部24は、第1辞書データに基づき、情報配信部23から入力される画像データ(以下、入力画像と記載する)の中から人物の画像を含む領域を判定する。かかる処理において、物体認識部24は、入力画像をスキャンし、第1辞書データに設定されている人物の特徴ベクトルとの距離が所定値以下の特徴ベクトルを有する画像が存在するか否かを判定する。人物の画像が入力画像に存在すると判定した場合、物体認識部24は、入力画像から人物の画像(以下、人物領域画像と記載する)を抽出する。
さらに、物体認識部24は、第2辞書データに基づき、人物領域画像の中から特定オブジェクトの画像を判定する。かかる処理において、物体認識部24は、人物領域画像をスキャンし、第2辞書データに設定されている各特定オブジェクトの特徴ベクトルとの距離が所定値以下の特徴ベクトルを有する画像が存在するか否かを判定する。特定オブジェクトの画像が人物領域画像に存在すると判定した場合、物体認識部24は、人物領域画像から特定オブジェクトの画像を抽出し、類似画像検索部25へ出力する。
物体認識部24は、入力画像のフレーム毎または数フレーム毎に特定オブジェクトの抽出処理を行うこともできるが、フレーム間での入力画像の変化量が所定値以上あると判定した場合に、特定オブジェクトの抽出処理を行うこともできる。このようにすることで処理負荷を低減することができる。
なお、物体認識部24は、端末装置4のユーザの属性情報(例えば、性別、年齢、住所、嗜好など)に応じて、識別対象とする特定オブジェクトを、第2辞書データに設定されている一部の特定オブジェクトに限定することもできる。ユーザ情報DB13は、ユーザID、クッキーIDおよびユーザの属性情報を関連付けて記憶しており、情報配信部23は、端末装置4から送信されるユーザIDまたはクッキーIDに基づいて、ユーザ情報DB13からユーザの属性情報を取得し、物体認識部24へ出力する。
そして、物体認識部24は、特定オブジェクトと属性情報とを関連付けて記憶しており、物体認識部24から出力される属性情報に応じて識別対象の特定オブジェクトを限定する。例えば、ユーザが「男性」である場合、化粧品や髪飾りなどの女性専用のオブジェクトを除く特定オブジェクトを識別対象とする。
このように、端末装置4のユーザの属性情報に応じて識別対象の特定オブジェクトを限定することで、オブジェクトを識別するための処理負荷を低減でき、しかも、端末装置4のユーザの興味が低い特定オブジェクトの抽出を抑制できる。
(類似画像検索部について)
類似画像検索部25は、物体認識部24によって抽出された特定オブジェクトの画像を検索キーとし、類似画像検索装置3に対して類似画像の検索要求を行って、類似画像検索装置3から検索結果を取得する。
具体的には、類似画像検索部25は、物体認識部24によって所定期間連続して抽出された特定オブジェクトの画像を検索キーとし、類似画像検索装置3に対して類似画像の検索要求を行う。なお、動画コンテンツの画像に1フレームだけ出現した特定オブジェクトの画像を検索キーとすることもできる。
類似画像検索装置3は、情報提供装置2から類似画像の検索要求を取得すると、検索要求に含まれる特定オブジェクトの画像を検索キーとして類似画像の検索を実行する。類似画像検索装置3は、通信ネットワーク5上のウェブページに掲載されている画像の情報と掲載元ウェブページのアドレス(例えば、IPアドレスやURL)とを関連付けて内部のDBに記憶しており、かかるDBから類似画像を検索する。
類似画像の検索は、例えば、画像の特徴ベクトル同士を比較し、特徴ベクトル間の距離が所定値以下のものを類似と判定することによって行われる。なお、画像の特徴ベクトルとしては、例えば、輪郭や色の数などがある。
類似画像検索装置3は、検索要求に含まれる特定オブジェクトの画像と類似する画像と掲載元ウェブページのアドレスとを含む情報(以下、類似画像情報と記載する)を内部のDBから抽出する。抽出する類似画像情報の数は、類似画像検索装置3で予め設定された数、または、検索要求で指定される数であり、画像の類似度が高いものから順に選択される。なお、類似画像検索装置3は、抽出する類似画像情報として、特徴ベクトル間の距離が所定値以下のものをすべて抽出することもできる。
類似画像検索装置3は、このように抽出した類似画像情報を検索結果として情報提供装置2へ送信する。情報提供装置2の類似画像検索部25は、類似画像検索装置3から送信される類似画像情報を取得し、レコメンド情報取得部26へ出力する。
レコメンド情報取得部26は、類似画像検索部25によって取得された類似画像の検索結果に基づき、端末装置4で再生中の動画コンテンツの画像に出現する特定オブジェクトの画像に関連するレコメンド情報を取得する。
具体的には、レコメンド情報取得部26は、類似画像情報に含まれるアドレスに基づき、通信部10を介して各類似画像の掲載元ウェブページを収集する。そして、レコメンド情報取得部26は、収集したウェブページの情報で共通する商品またはサービスを判定し、共通する掲載元ウェブページの数が多い順に所定数(例えば、5つ)の商品またはサービスの名称をレコメンド候補の情報として抽出する。
レコメンド情報取得部26は、抽出したレコメンド候補の情報を情報配信部23へ出力する。情報配信部23は、レコメンド候補の情報を取得すると、選択情報を生成し、端末装置4へ送信する。端末装置4は、受信した選択情報を表示部44に表示する。
選択情報は、レコメンド候補の中からユーザに所望するものを選択させるための情報である。例えば、「A社製の製品番号A11の帽子」、「A社製の製品番号A12の帽子」、「B社製の製品番号B11の帽子」、「B社製の製品番号B12の帽子」、「C社製の製品番号C11の帽子」がレコメンド候補として抽出されたとする。
この場合、例えば、図5に示すような選択情報35を含む動画ページ30Aが端末装置4の表示部44に表示される。図5は、選択情報35を含む動画ページ30Aの一例を示す図である。図5に示すように、選択情報35として、チェックボックス形式で、レコメンド候補の情報が表示される。かかる動画ページ30Aでは、情報表示枠32に代えて選択情報35が表示される。
端末装置4のユーザは、操作部43への操作によってレコメンド候補の選択を行うと、制御部42は、かかる選択結果を情報提供装置2へ送信する。例えば、図5に示すように選択情報35が表示部44に表示されている場合に、ユーザが、「A社製の帽子A11」のチェックボックスを選択すると、選択結果として「A社製の製品番号A11の帽子」の識別情報が端末装置4から情報提供装置2へ送信される。
情報提供装置2のレコメンド情報取得部26は、端末装置4から選択結果を取得すると、かかる選択結果に対応するレコメンド情報をレコメンド情報DB12から取得する。なお、レコメンド情報は、例えば、図示しないサーバから取得するようにしてもよい。
ここで、選択結果として「A社製の製品番号A11の帽子」の識別情報が端末装置4から情報提供装置2へ送信されたとする。この場合、レコメンド情報取得部26は、例えば、「A社製の製品番号A11の帽子」を販売するショッピングサイトのウェブページをリンク先とするバナー広告をレコメンド情報DB12から取得する。
また、レコメンド情報取得部26は、例えば、「A社製の製品番号A11の帽子」を製造するメーカのウェブページをリンク先とするバナー広告をレコメンド情報DB12から取得することもできる。
また、レコメンド情報取得部26は、例えば、「A社製の製品番号A11の帽子」を検索キーとして図示しない検索装置へアクセスし、かかる検索結果に基づいてレコメンド情報を生成することもできる。この場合、レコメンド情報取得部26は、例えば、ショッピングサイトのウェブページから「A社製の製品番号A11の帽子」の価格や画像を抽出し、抽出した情報をレコメンド情報とする。
レコメンド情報取得部26は、レコメンド情報を取得すると、かかるレコメンド情報を情報配信部23へ出力する。情報配信部23は、レコメンド情報取得部26から取得したレコメンド情報を端末装置4へ送信する。端末装置4の制御部42は、情報提供装置2からレコメンド情報を受信すると、かかるレコメンド情報を選択情報35に代えて動画ページ30の情報表示枠32(図1B参照)に表示する。
なお、情報配信部23は、例えば、物体認識部24によって特定オブジェクトの画像の抽出が開始されるタイミングまたはその直前のタイミングを物体認識部24から取得し、かかるタイミングレコメンド情報を端末装置4へ送信する。これにより、端末装置4では、動画コンテンツの再生中画像に特定オブジェクトの画像が現れたタイミングで、この特定オブジェクトの画像に関連するレコメンド情報が情報表示枠32に表示される。ただし、表示タイミングはかかるタイミングに限られず、種々の変更が可能である。
例えば、図6に示すように、動画コンテンツの再生中画像に出現していた特定オブジェクトの画像が消えたタイミングでこの特定オブジェクトの画像に関連するレコメンド情報が情報表示枠32に表示されるようにしてもよい。図6は、図3と同様に、端末装置4の再生タイミングと物体認識部24の処理タイミングとの関係を示す図である。
この場合、情報配信部23は、例えば、物体認識部24によって特定オブジェクトの画像が抽出されなくなったタイミングまたはその直前のタイミングを物体認識部24から取得し、かかるタイミングでレコメンド情報を端末装置4へ送信する。
また、上述の例では、選択情報35を生成して端末装置4へ送信するようにしたが、選択情報35を生成することなく、レコメンド情報を端末装置4へ送信することもできる。この場合、レコメンド情報取得部26は、類似画像情報に含まれるアドレスに基づき、通信部10を介して各類似画像の掲載元ウェブページを収集する。そして、レコメンド情報取得部26は、収集したウェブページの情報で共通する商品またはサービスを判定し、共通する掲載元ウェブページの数が最も多い商品またはサービスの名称を抽出し、かかる商品またはサービスに対応するレコメンド情報をレコメンド情報DB12から取得する。
〔3.情報提供装置の処理フロー〕
次に、実施形態に係る情報提供装置2の情報処理について、図7を参照して説明する。図7は、実施形態に係る情報提供装置2における情報処理のフローチャートである。
図7に示すように、情報提供装置2の制御部14は、動画コンテンツ要求を端末装置4から通信部10を介して取得したか否かを判定する(ステップS11)。動画コンテンツ要求を取得したと判定した場合(ステップS11;Yes)、制御部14は、動画コンテンツを含む動画ページ30(図1B参照)を生成して端末装置4へ送信し、動画コンテンツのストリーミング配信を開始する(ステップS12)。
端末装置4の制御部42は、情報提供装置2から動画ページ30を取得すると、かかる動画ページ30のコンテンツ表示枠31で動画コンテンツを再生することで、表示部44に動画コンテンツを表示する。
情報提供装置2の制御部14は、端末装置4へ配信している動画コンテンツのフレームのうち、端末装置4で再生中のフレームよりも所定時間前のフレームの画像を順次解析して、動画コンテンツの画像に特定オブジェクトが出現したか否かを判定する(ステップS13)。
特定オブジェクトが出現したと判定すると(ステップS13;Yes)、制御部14は、出現した特定オブジェクトの画像を検索キーとして類似画像検索装置3に対して類似画像の検索要求を行い、類似画像検索装置3から検索結果を取得する(ステップS14)。そして、制御部14は、検索結果に基づいてレコメンド候補の選択情報35(図5参照)を端末装置4へ送信する(ステップS15)。
その後、制御部14は、端末装置4から選択情報35に対する選択結果を取得したか否かを判定する(ステップS16)。かかる処理において、選択情報35に対する選択結果を取得したと判定すると(ステップS16;Yes)、制御部14は、選択結果に対応するレコメンド情報をレコメンド情報DB12から取得し、端末装置4へ送信する(ステップS17)。
端末装置4の制御部42は、情報提供装置2からレコメンド情報を取得すると、かかるレコメンド情報を動画ページ30の情報表示枠32に表示することで、表示部44にレコメンド情報を表示する。
〔4.変形例〕
上述の実施形態では、情報提供装置2から端末装置4に対してプッシュ方式でレコメンド情報を送信するものであるが、端末装置4が情報提供装置2からプル方式でレコメンド情報を取得するようにしてもよい。例えば、動画ページ30がウェブページである場合、かかるウェブページにおいて情報表示枠32に表示するレコメンド情報を繰り返し情報提供装置2に要求するスクリプトを設定する。これにより、端末装置4からレコメンド情報の要求が繰り返し行われ、情報提供装置2は、レコメンド情報を取得した場合に、かかるレコメンド情報を端末装置4から要求があったタイミングで送信する。
また、情報提供装置2の制御部14は、動画コンテンツの配信を開始する前に、動画コンテンツの画像に含まれる特定オブジェクトの画像を取得し、かかる特定オブジェクトの画像と再生位置とを関連付けた特定オブジェクトテーブルをコンテンツDB11に記憶することもできる。
具体的には、コンテンツ取得部22は、特定オブジェクトテーブルが設定されていない動画コンテンツをコンテンツDB11から取得する。コンテンツ取得部22は、取得した動画コンテンツを再生して、かかる動画コンテンツの画像を再生時間の情報と共に物体認識部24へ順次出力する。物体認識部24は、動画コンテンツの画像に出現する特定オブジェクトの画像を順次抽出し、対応する再生時間の情報と共にコンテンツDB11の特定オブジェクトテーブルに設定する。
図8に示す特定オブジェクトテーブルでは、動画コンテンツの識別情報であるコンテンツIDに、再生位置と特定オブジェクト情報とが関連付けられる。例えば、コンテンツID「10001」の動画コンテンツでは、再生開始後の2分03秒から2分21秒までの間に出現する特定コンテンツの名称が「靴」で、その画像が「/10001/image1/」のフォルダに格納されていることを示す。また、再生開始後の3分19秒から3分54秒までの間に出現する特定コンテンツの名称が「時計」で、その画像が「/10001/image2/」のフォルダに格納されていることを示す。
このように特定オブジェクトテーブルが設定された後、要求取得部21が動画コンテンツ要求を取得した場合、コンテンツ取得部22は、動画コンテンツ要求に応じた動画コンテンツをコンテンツDB11から取得する。また、情報配信部23は、取得した動画コンテンツのコンテンツIDに対応する情報をコンテンツDB11の特定オブジェクトテーブルから取得する。情報配信部23は、特定オブジェクトテーブルから取得した情報に基づいたスクリプトを生成してウェブページに設定することで動画ページ30を生成する。かかるスクリプトは、各特定オブジェクトが現れたタイミングまたはその直前(または、各特定オブジェクトが消えたタイミングまたはその直前)に端末装置4からレコメンド情報の取得要求(以下、レコメンド要求と記載する)を情報提供装置2へ送信させるプログラムである。
例えば、要求取得部21が端末装置4からコンテンツID「10001」に対応する動画コンテンツ要求を取得した場合、端末装置4で動画コンテンツの再生開始後、2分03秒後、3分19秒後などにそれぞれ「2分03秒」、「3分19秒」などの情報とコンテンツID「10001」とを含むレコメンド要求を端末装置4から情報提供装置2へ送信するように記述したスクリプトを動画ページ30に設定する。
なお、レコメンド要求に含まれる情報として、再生位置に代えて、再生位置を識別する情報(例えば、出現する順番を示すなど)を用いるようにしてもよい。また、端末装置4で再生している動画コンテンツが把握できる場合には、レコメンド要求にコンテンツIDを含めなくてもよい。
このようにスクリプトが設定された動画ページ30を取得すると、端末装置4の制御部42は、スクリプトにしたがって、情報提供装置2に対してレコメンド要求を行う。要求取得部21がレコメンド要求を取得すると、コンテンツ取得部22は、要求取得部21が取得したレコメンド要求に含まれるコンテンツIDと再生位置の情報とに基づき、コンテンツDB11からレコメンド要求に対応する特定オブジェクトの画像を取得する。
そして、コンテンツ取得部22は、取得した特定オブジェクトの画像を類似画像検索部25へ出力する。類似画像検索部25は、コンテンツ取得部22から取得した特定オブジェクトの画像を検索キーとし、類似画像検索装置3に対して類似画像の検索要求を行い、類似画像検索装置3から検索結果を取得する。
レコメンド情報取得部26は、類似画像検索装置3からの検索結果に基づき、端末装置4で再生中の動画コンテンツの画像に出現する特定オブジェクトの画像に関連するレコメンド情報をレコメンド情報DB12から取得する。かかるレコメンド情報は、情報配信部23へ出力され、情報配信部23によって端末装置4へ送信される。
なお、レコメンド情報取得部26は、上述したように選択情報35を生成して端末装置4へ送信し、選択結果に応じたレコメンド情報を端末装置4へ送信することもできる。
また、端末装置4に対してプッシュ方式でレコメンド情報を送信する場合であっても、特定オブジェクトテーブルを設定することができる。このようにすることで、動画コンテンツを配信するたびに物体認識部24で特定オブジェクトの識別処理を行う必要がなくなり、処理負荷を軽減することができる。この場合、類似画像検索部25は、特定オブジェクトテーブルに基づき、配信中の動画コンテンツの再生位置に応じた特定オブジェクトの画像を検索キーとして類似画像検索装置3に対して類似画像の検索要求を行う。
また、上述の実施形態において、制御部14は、連続して出現している特定オブジェクトの画像のうちの一つの画像を検索キーとし、類似画像検索装置3に対して類似画像の検索要求を行うが、かかる検索方法に限定されるものではない。
例えば、連続して出現する特定オブジェクトの画像のうち複数の画像のそれぞれを検索キーとし、類似画像検索装置3に対して類似画像の検索要求を行うこともできる。この場合、類似画像検索部25は、コンテンツ取得部22から取得した特定オブジェクトの画像の中から複数の特定オブジェクトの画像を選択し、選択した画像をそれぞれ検索キーとして類似画像検索装置3に対して類似画像の検索要求を行う。
そして、レコメンド情報取得部26は、類似画像検索装置3による各検索結果を収集してこれらの検索結果を統合した後、最も多いまたは上位の数個の商品またはサービスの名称を抽出し、かかる商品またはサービスに対応するレコメンド情報をレコメンド情報DB12から取得する。これにより、より適切なレコメンド情報を取得することができる。
なお、連続して出現する特定オブジェクトの画像のうち、最初に出現した際の特定オブジェクトの画像と、消える前の特定オブジェクトの画像とをそれぞれ検索キーとするようにしてもよい。これにより、検索数を減らしつつ、適切なレコメンド情報を取得することができる。
また、上述の実施形態では、動画ページ30の情報表示枠32にレコメンド情報を表示するようにしたが、レコメンド情報の表示先は情報表示枠32に限定されるものではない。例えば、情報配信部23がレコメンド情報取得部26からのレコメンド情報を所定時間の間蓄積しておき、蓄積したレコメンド情報を動画コンテンツ中にコマーシャルとして挿入することもできる。この場合、レコメンド情報取得部26がコンテンツDB11から取得して情報配信部23へ出力するレコメンド情報は、商品やサービスに関する動画情報とすることができる。
また、上述の実施形態では、制御部14は、再生位置に応じてレコメンド情報を端末装置4に表示するようにしたが、再生位置に関わらず、特定オブジェクトの画像に関連するレコメンド情報を端末装置4に表示することもできる。例えば、制御部14は、動画コンテンツに出現する特定オブジェクトのうち出現回数が所定数以上のものをランダムまたは所定の規則にしたがって端末装置4に表示させることもできる。
また、上述した実施形態において、抽出する人物の画像を特定人物の画像のみとすることができる。この場合、物体認識部24は、例えば、特定オブジェクトの抽出対象となる動画コンテンツに登場する特定人物(例えば、主役)の情報をコンテンツDB11から取得し、通信ネットワーク5を介して図示しないウェブサイトから特定人物の画像を取得して第1辞書データに設定する。
そして、物体認識部24は、第1辞書データに基づき、人物の画像が特定人物の画像である場合に限り、この特定人物の画像から特定オブジェクトの画像を取得するようにする。これにより、特定人物が身に付けているアイテムに関する情報を効率的にレコメンド情報として端末装置4のユーザへ提示することができる。なお、端末装置4のユーザの属性情報からユーザの好きな人物が把握できる場合には、ユーザの好きな人物を特定人物とすることで、より効果的にレコメンド情報をユーザに提示することができる。
また、制御部14は、情報表示枠32の数よりも多い特定オブジェクトが同時期に動画コンテンツの画像に出現した場合、未だに出現していない特定オブジェクトの画像に関連するレコメンド情報を情報表示枠32に設定することもできる。
また、上述した実施形態では、情報提供装置2と類似画像検索装置3とを別構成としたが、類似画像検索装置3の構成を情報提供装置2に含めるようにしてもよい。
また、類似画像検索装置3は、ショッピングサイトで提供されるウェブページを類似画像の掲載元ウェブページとして、類似画像の検索を行うことができる。ショッピングサイトで提供されるウェブページには、商品やサービスの画像が含まれている。そのため、特定オブジェクトの画像から、精度よく特定オブジェクトに関連する商品やサービスの情報を取得することが可能となる。
また、上述の実施形態では、動画コンテンツをストリーミング配信するものとして説明したが、ダウンロード形式で動画コンテンツを配信することもできる。この場合、制御部14は、例えば、特定オブジェクトが出現するタイミングまたはその直前で端末装置4からレコメンド要求を送信させるための情報(例えば、再生時間に対応する情報)を動画コンテンツに付加して端末装置4へ送信することができる。
また、上述の実施形態では、画像の抽出や類似画像の検索を特徴ベクトルに基づいて行う例について説明したが、画像の類似判定はかかる方法に限定されるものではなく、各種の方法を採用することができる。
また、上述の実施形態では、情報提供装置2が動画コンテンツを送信するようにしたが、動画コンテンツは情報提供装置2とは別のコンテンツサーバから送信するようにしてもよい。
また、上述の実施形態において、制御部14は、レコメンド情報が動画コンテンツに関連する情報である旨が明示されるように、かかる情報を動画ページ30に設定することもできる。また、制御部14は、特定人物の画像から抽出した特定オブジェクトの画像に関連するレコメンド情報である場合、レコメンド情報が特定人物が身に付けている商品の情報である旨が明示されるように、かかる情報を動画ページ30に設定することもできる。
〔5.効果〕
上述してきたように、実施形態に係る情報提供装置2は、物体認識部24(物体認識手段の一例に相当)が、端末装置4へ配信される動画コンテンツの画像に出現する特定オブジェクト(特定物体の一例に相当)の画像を抽出し、類似画像検索部25(検索手段の一例に相当)が、物体認識部24によって抽出された特定オブジェクトの画像を検索キーとして類似画像検索装置3(検索装置の一例に相当)に対して類似画像の検索要求を行い、類似画像検索装置3から検索結果を取得し、レコメンド情報取得部26(取得手段の一例に相当)が、類似画像検索部25によって取得された検索結果に基づき、動画コンテンツの画像に出現する特定オブジェクトの画像に関連するレコメンド情報を取得し、情報配信部23(送信手段の一例に相当)が、レコメンド情報取得部26によって取得されたレコメンド情報を端末装置4へ送信する。
このように、実施形態に係る情報提供装置2では、特定オブジェクトの画像を検索キーとして類似画像の検索を行い、かかる検索結果に基づいて端末装置4で再生中の動画コンテンツの画像に出現する特定オブジェクトの画像に関連するレコメンド情報を取得する。これにより、動画コンテンツの画像に応じた適切なレコメンド情報をユーザに提示することができる。すなわち、実施形態に係る情報提供装置2では、物体認識処理だけでは取得するのが難しい特定オブジェクトの具体的な情報を取得することができ、したがって、特定オブジェクトに応じた適切なレコメンド情報を端末装置4に表示することができる。
また、実施形態に係る情報提供装置2は、物体認識部24が、動画コンテンツの画像に出現する人物の画像を抽出した後、当該人物の画像から特定オブジェクトの画像を抽出する。
これにより、実施形態に係る情報提供装置2では、動画コンテンツの画像に出現する人物に関連する特定オブジェクトを容易に抽出することができ、また、端末装置4のユーザが注視しやすい人物に関する商品等が抽出できるため、端末装置4のユーザに対してより適切なレコメンド情報を提供することができる。また、端末装置4のユーザの属性情報からユーザの好きな人物が把握できる場合には、ユーザの好きな人物を抽出対象の人物とすることで、ユーザに対し、より効果的にレコメンド情報を提示することができる。
また、実施形態に係る情報提供装置2は、情報配信部23が、端末装置4における動画コンテンツの再生中画像に特定オブジェクトの画像が現れたタイミングまたは再生中画像から特定オブジェクトの画像が消えたタイミングで端末装置4に表示されるように特定オブジェクトの画像に関連するレコメンド情報を端末装置4へ送信する。
これにより、実施形態に係る情報提供装置2では、特定オブジェクトの画像の出現タイミングと同期した適切なタイミングでレコメンド情報を端末装置4に表示することができ、レコメンド情報に対するユーザの関心をより高めることができる。
また、実施形態に係る情報提供装置2は、レコメンド情報取得部26(選択情報送信手段、選択結果取得手段およびレコメンド情報取得手段の一例)が、類似画像検索部25による検索結果に基づいたレコメンド候補の選択情報35を端末装置4へ送信し、その後、端末装置4から選択情報35に対する選択結果を取得し、かかる選択結果に対応するレコメンド情報を取得する。
これにより、実施形態に係る情報提供装置2では、特定オブジェクトの画像とより関連性が高いレコメンド情報を端末装置4で表示することができ、レコメンド情報に対するユーザの関心をより高めることができる。
また、実施形態に係る情報提供装置2は、情報配信部23が、動画コンテンツを端末装置4へストリーミング方式によって配信し、物体認識部24が、端末装置4へ配信中の動画コンテンツの画像から特定オブジェクトを抽出する。
これにより、実施形態に係る情報提供装置2では、ストリーミング配信と同期して特定オブジェクト画像を抽出することができるので、例えば、動画コンテンツが投稿コンテンツなどの場合であっても適切なレコメンド情報を端末装置4へ送信することができる。
また、実施形態に係る情報提供装置2は、コンテンツDB11(記憶手段の一例に相当)が、物体認識部24によって抽出された特定オブジェクトの画像と、当該特定オブジェクトを抽出した動画コンテンツの再生位置とを関連付けた特定オブジェクトテーブルを記憶し、物体認識部24が、動画コンテンツの再生位置に応じた特定オブジェクトの画像をコンテンツDB11の特定オブジェクトテーブルから取得し、当該取得した特定オブジェクトの画像を検索キーとして類似画像の検索を行う。
これにより、実施形態に係る情報提供装置2では、同一の動画コンテンツであれば、一度特定オブジェクト画像を抽出した後は、特定オブジェクト画像の抽出処理を行う必要がないため、制御部14による処理負荷を軽減することができる。また、特定オブジェクトの画像を記憶し、必要に応じて類似画像の検索を行うことから、特定オブジェクトに関連する最新の情報を取得することができる。
また、実施形態に係る情報提供装置2では、特定オブジェクトテーブルに基づき、特定オブジェクトが現れたタイミングまたはその直前に端末装置4からレコメンド要求を送信させるスクリプトを動画ページ30に設定することで、端末装置4からの要求に基づき適切なタイミングでレコメンド情報を端末装置4へ提供することができる。
さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲およびその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。
1 情報提供システム
2 情報提供装置
3 類似画像検索装置
4 端末装置
5 通信ネットワーク
10 通信部
11 コンテンツDB
12 レコメンド情報DB
13 ユーザ情報DB
14 制御部
21 要求取得部
22 コンテンツ取得部
23 情報配信部
24 物体認識部
25 類似画像検索部
26 レコメンド情報取得部

Claims (8)

  1. 端末装置へ配信される動画コンテンツの画像に出現する特定物体の画像を抽出する物体認識手段と、
    前記物体認識手段によって抽出された前記特定物体の画像を検索キーとして検索装置に対して類似画像の検索要求を行い、前記検索装置から検索結果を取得する検索手段と、
    前記検索手段によって取得された検索結果に基づき、前記特定物体の画像に関連するレコメンド情報を取得する取得手段と、
    前記取得手段によって取得された前記レコメンド情報を前記端末装置へ送信する送信手段と、を備える情報提供装置。
  2. 前記物体認識手段は、
    前記動画コンテンツの画像に出現する人物の画像を抽出した後、前記人物の画像から前記特定物体の画像を抽出する
    ことを特徴とする請求項1に記載の情報提供装置。
  3. 前記送信手段は、
    前記端末装置における前記動画コンテンツの再生中画像に前記特定物体の画像が現れたタイミングまたは前記再生中画像から前記特定物体の画像が消えたタイミングで前記端末装置に表示されるように前記特定物体の画像に関連する前記レコメンド情報を前記端末装置へ送信する
    ことを特徴とする請求項1または2に記載の情報提供装置。
  4. 前記取得手段は、
    前記検索手段による検索結果に基づいたレコメンド候補の選択情報を前記端末装置へ送信する選択情報送信手段と、
    前記端末装置から前記選択情報に対する選択結果を取得する選択結果取得手段と、
    前記選択結果取得手段によって取得された選択結果に対応する前記レコメンド情報を取得するレコメンド情報取得手段と、を備える
    ことを特徴とする請求項1〜3のいずれか1項に記載の情報提供装置。
  5. 前記送信手段は、
    前記動画コンテンツを前記端末装置へストリーミング方式によって配信し、
    前記物体認識手段は、
    前記端末装置へ配信中の前記動画コンテンツの画像から前記特定物体を抽出する
    ことを特徴とする請求項1〜4のいずれか1項に記載の情報提供装置。
  6. 前記物体認識手段によって抽出された前記特定物体の画像と、当該特定物体の画像を抽出した前記動画コンテンツの再生位置とを関連付けて記憶する記憶手段を備え、
    前記検索手段は、
    前記動画コンテンツの再生位置に応じた前記特定物体の画像を前記記憶手段から取得し、当該取得した前記特定物体の画像を検索キーとして類似画像の検索を行う
    ことを特徴とする請求項1〜4のいずれか1項に記載の情報提供装置。
  7. コンピュータが実行する情報提供方法であって、
    端末装置へ配信される動画コンテンツの画像に出現する特定物体の画像を抽出する物体認識ステップと、
    前記抽出された前記特定物体の画像を検索キーとして検索装置に対して類似画像の検索要求を行い、前記検索装置から検索結果を取得する検索ステップと、
    前記取得された検索結果に基づき、前記特定物体の画像に関連するレコメンド情報を取得する取得ステップと、
    前記取得された前記レコメンド情報を前記端末装置へ送信する送信ステップと、
    を含む情報提供方法。
  8. 端末装置へ配信される動画コンテンツの画像に出現する特定物体の画像を抽出する物体認識手順と、
    前記抽出された前記特定物体の画像を検索キーとして検索装置に対して類似画像の検索要求を行い、前記検索装置から検索結果を取得する検索手順と、
    前記取得された検索結果に基づき、前記特定物体の画像に関連するレコメンド情報を取得する取得手順と、
    前記取得された前記レコメンド情報を前記端末装置へ送信する情報送信手順と、
    をコンピュータに実行させることを特徴とする情報提供プログラム。
JP2012154732A 2012-07-10 2012-07-10 情報提供装置、情報提供方法および情報提供プログラム Active JP5593352B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012154732A JP5593352B2 (ja) 2012-07-10 2012-07-10 情報提供装置、情報提供方法および情報提供プログラム
US13/934,903 US9495592B2 (en) 2012-07-10 2013-07-03 Image-based information providing device and method using object recognition

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012154732A JP5593352B2 (ja) 2012-07-10 2012-07-10 情報提供装置、情報提供方法および情報提供プログラム

Publications (2)

Publication Number Publication Date
JP2014016882A true JP2014016882A (ja) 2014-01-30
JP5593352B2 JP5593352B2 (ja) 2014-09-24

Family

ID=49914024

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012154732A Active JP5593352B2 (ja) 2012-07-10 2012-07-10 情報提供装置、情報提供方法および情報提供プログラム

Country Status (2)

Country Link
US (1) US9495592B2 (ja)
JP (1) JP5593352B2 (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015154195A (ja) * 2014-02-13 2015-08-24 Necパーソナルコンピュータ株式会社 情報処理装置、情報処理方法、及びプログラム
JP2015153140A (ja) * 2014-02-14 2015-08-24 Necパーソナルコンピュータ株式会社 情報処理装置、情報処理方法、及びプログラム
JP5789734B1 (ja) * 2015-02-25 2015-10-07 楽天株式会社 情報処理方法、プログラム、記憶媒体、情報処理装置
WO2016152483A1 (ja) * 2015-03-24 2016-09-29 国立大学法人京都大学 ユーザ関心推定システムおよび情報配信システム
WO2017110503A1 (ja) * 2015-12-25 2017-06-29 株式会社電通 情報提供管理方法及び情報提供管理装置
JP2017531273A (ja) * 2014-09-12 2017-10-19 ピーアイアイピー・ホールディングス・ピーティーワイ・リミテッド クリエイティブ制作物の契約上の権利を確立して取引するためのコンピュータ化されたシステム及び方法
JP2019532403A (ja) * 2016-08-29 2019-11-07 オ−ディーディー コンセプツ インク. 映像検索情報提供方法、装置およびコンピュータプログラム
JP2019537400A (ja) * 2017-03-24 2019-12-19 朴 洙 範PARK, Su Bum リアルタイム放送中ショッピング情報提供方法
JP2020156001A (ja) * 2019-03-22 2020-09-24 株式会社三井住友銀行 Aiを活用した広告推奨方法、プログラム、およびコンピュータ
JPWO2020194925A1 (ja) * 2019-03-27 2020-10-01
JP2020187398A (ja) * 2019-05-10 2020-11-19 株式会社プロフィールド 情報処理装置、情報処理方法及びプログラム
JP2021170391A (ja) * 2020-11-23 2021-10-28 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド 商品案内方法、装置、デバイス、記憶媒体、及びプログラム

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016095787A (ja) 2014-11-17 2016-05-26 株式会社リコー 情報処理装置、情報処理システム、情報処理方法および情報処理プログラム
CN104954820A (zh) * 2015-06-15 2015-09-30 小米科技有限责任公司 节目的推荐方法及装置
TWI626610B (zh) * 2015-12-21 2018-06-11 財團法人工業技術研究院 訊息推播方法與訊息推播裝置
KR102488954B1 (ko) * 2016-05-16 2023-01-16 엘지전자 주식회사 영상 처리 장치 및 그의 영상 처리 방법
CN106067992B (zh) * 2016-08-18 2019-07-26 北京奇虎科技有限公司 一种基于用户行为的信息推荐方法及装置
CN106604051A (zh) * 2016-12-20 2017-04-26 广州华多网络科技有限公司 直播频道推荐方法及装置
CN108287857B (zh) 2017-02-13 2021-02-26 腾讯科技(深圳)有限公司 表情图片推荐方法及装置
US11507780B2 (en) * 2018-03-05 2022-11-22 Nec Corporation Image analysis device, image analysis method, and image analysis program
CN110196748A (zh) * 2019-06-11 2019-09-03 北京金山安全软件有限公司 一种推荐信息显示方法和装置
CN112019886B (zh) * 2020-08-07 2022-09-06 青岛海尔科技有限公司 用于播放视频的方法及装置、设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000090107A (ja) * 1998-09-10 2000-03-31 Toshiba Corp 動画関連情報検索システム
JP2010086392A (ja) * 2008-10-01 2010-04-15 Fujifilm Corp 広告表示方法及び装置、並びに広告表示プログラム
WO2011078174A1 (ja) * 2009-12-24 2011-06-30 株式会社ニコン 検索支援システム、検索支援方法及び検索支援プログラム
JP2012048324A (ja) * 2010-08-24 2012-03-08 Canon Inc 情報処理装置、その処理方法及びプログラム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100592788C (zh) * 2000-04-14 2010-02-24 日本电信电话株式会社 与广播信息相关的信息取得方法、***和装置
US10032192B2 (en) * 2003-12-23 2018-07-24 Roku, Inc. Automatic localization of advertisements
US7600243B2 (en) * 2005-04-06 2009-10-06 Open Box Technologies, Inc. User interface methods and systems for device-independent media transactions
US20060242681A1 (en) * 2005-04-06 2006-10-26 Brain Cameron W Method and system for device-independent media transactions
US20060230123A1 (en) * 2005-04-07 2006-10-12 Simmons Bonnie J Online Shopping and Item Selection System and Method
US20080177640A1 (en) * 2005-05-09 2008-07-24 Salih Burak Gokturk System and method for using image analysis and search in e-commerce
US8413182B2 (en) * 2006-08-04 2013-04-02 Aol Inc. Mechanism for rendering advertising objects into featured content
CN101711392A (zh) * 2007-04-13 2010-05-19 艾法罗媒体有限责任公司 视频检测***和方法
KR101330637B1 (ko) * 2007-05-15 2013-11-18 삼성전자주식회사 영상 및 영상 정보 검색 장치 및 방법, 그리고 그 시스템
US20090006208A1 (en) * 2007-06-26 2009-01-01 Ranjit Singh Grewal Display of Video with Tagged Advertising
US8433611B2 (en) * 2007-06-27 2013-04-30 Google Inc. Selection of advertisements for placement with content
KR100827849B1 (ko) * 2007-08-08 2008-06-10 (주)올라웍스 화상 데이터에 나타난 인물에 부착된 상품 정보를 획득하기위한 방법 및 장치
US7991715B2 (en) * 2007-12-27 2011-08-02 Arbor Labs, Inc. System and method for image classification
US8374914B2 (en) * 2008-08-06 2013-02-12 Obschestvo S Ogranichennoi Otvetstvennostiu “Kuznetch” Advertising using image comparison
US8385971B2 (en) * 2008-08-19 2013-02-26 Digimarc Corporation Methods and systems for content processing
KR101550886B1 (ko) * 2009-03-27 2015-09-08 삼성전자 주식회사 동영상 콘텐츠에 대한 부가 정보 생성 장치 및 방법
JP4969617B2 (ja) 2009-08-05 2012-07-04 ヤフー株式会社 広告を配信するサーバ装置、及び方法
US20120239469A1 (en) * 2011-03-15 2012-09-20 Videodeals.com S.A. System and method for marketing
US9762967B2 (en) * 2011-06-14 2017-09-12 Comcast Cable Communications, Llc System and method for presenting content with time based metadata
US9032447B1 (en) * 2014-08-29 2015-05-12 Allon Caidar Method and apparatus for interfacing buyers with products depicted in a video

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000090107A (ja) * 1998-09-10 2000-03-31 Toshiba Corp 動画関連情報検索システム
JP2010086392A (ja) * 2008-10-01 2010-04-15 Fujifilm Corp 広告表示方法及び装置、並びに広告表示プログラム
WO2011078174A1 (ja) * 2009-12-24 2011-06-30 株式会社ニコン 検索支援システム、検索支援方法及び検索支援プログラム
JP2012048324A (ja) * 2010-08-24 2012-03-08 Canon Inc 情報処理装置、その処理方法及びプログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG200700087009; 宮森 恒: '放送番組とウェブコンテンツの融合による新しいコンテンツ視聴方式' 映像情報メディア学会技術報告 Vol.29 No.49, 20050908, 89-94ページ, (社)映像情報メディア学会 The Institute of Image *
JPN6014007216; 宮森 恒: '放送番組とウェブコンテンツの融合による新しいコンテンツ視聴方式' 映像情報メディア学会技術報告 Vol.29 No.49, 20050908, 89-94ページ, (社)映像情報メディア学会 The Institute of Image *

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015154195A (ja) * 2014-02-13 2015-08-24 Necパーソナルコンピュータ株式会社 情報処理装置、情報処理方法、及びプログラム
JP2015153140A (ja) * 2014-02-14 2015-08-24 Necパーソナルコンピュータ株式会社 情報処理装置、情報処理方法、及びプログラム
JP2017531273A (ja) * 2014-09-12 2017-10-19 ピーアイアイピー・ホールディングス・ピーティーワイ・リミテッド クリエイティブ制作物の契約上の権利を確立して取引するためのコンピュータ化されたシステム及び方法
JP5789734B1 (ja) * 2015-02-25 2015-10-07 楽天株式会社 情報処理方法、プログラム、記憶媒体、情報処理装置
WO2016135885A1 (ja) * 2015-02-25 2016-09-01 楽天株式会社 情報処理方法、プログラム、記憶媒体、情報処理装置
TWI562086B (ja) * 2015-02-25 2016-12-11 Rakuten Inc
WO2016152483A1 (ja) * 2015-03-24 2016-09-29 国立大学法人京都大学 ユーザ関心推定システムおよび情報配信システム
JP2016181076A (ja) * 2015-03-24 2016-10-13 国立大学法人京都大学 ユーザ関心推定システムおよび情報配信システム
WO2017110503A1 (ja) * 2015-12-25 2017-06-29 株式会社電通 情報提供管理方法及び情報提供管理装置
JP2017117264A (ja) * 2015-12-25 2017-06-29 株式会社電通 情報提供管理方法及び情報提供管理装置
JP2019532403A (ja) * 2016-08-29 2019-11-07 オ−ディーディー コンセプツ インク. 映像検索情報提供方法、装置およびコンピュータプログラム
US11049163B2 (en) 2016-08-29 2021-06-29 Odd Concepts Inc. Method, device and computer program for providing image search information
JP2021108162A (ja) * 2016-08-29 2021-07-29 オ−ディーディー コンセプツ インク. 映像検索情報提供方法、装置およびコンピュータプログラム
JP2019537400A (ja) * 2017-03-24 2019-12-19 朴 洙 範PARK, Su Bum リアルタイム放送中ショッピング情報提供方法
JP2020156001A (ja) * 2019-03-22 2020-09-24 株式会社三井住友銀行 Aiを活用した広告推奨方法、プログラム、およびコンピュータ
JPWO2020194925A1 (ja) * 2019-03-27 2020-10-01
WO2020194925A1 (ja) * 2019-03-27 2020-10-01 株式会社Nttドコモ 情報処理装置、サーバ装置、ユーザ装置及び情報処理システム
US11800198B2 (en) 2019-03-27 2023-10-24 Ntt Docomo, Inc. Information processing apparatus, server, user apparatus, and information processing system
JP2020187398A (ja) * 2019-05-10 2020-11-19 株式会社プロフィールド 情報処理装置、情報処理方法及びプログラム
JP7333027B2 (ja) 2019-05-10 2023-08-24 株式会社プロフィールド 情報処理装置、情報処理方法及びプログラム
JP2021170391A (ja) * 2020-11-23 2021-10-28 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド 商品案内方法、装置、デバイス、記憶媒体、及びプログラム
JP7168837B2 (ja) 2020-11-23 2022-11-10 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド 商品案内方法、装置、デバイス、記憶媒体、及びプログラム

Also Published As

Publication number Publication date
US9495592B2 (en) 2016-11-15
US20140016822A1 (en) 2014-01-16
JP5593352B2 (ja) 2014-09-24

Similar Documents

Publication Publication Date Title
JP5593352B2 (ja) 情報提供装置、情報提供方法および情報提供プログラム
US11443511B2 (en) Systems and methods for presenting supplemental content in augmented reality
US10643264B2 (en) Method and computer readable medium for presentation of content items synchronized with media display
JP6482172B2 (ja) レコメンド装置、レコメンド方法、およびプログラム
WO2016091044A1 (zh) 一种热词推荐方法、装置、***、设备和计算机存储介质
US9100701B2 (en) Enhanced video systems and methods
JP2019531547A (ja) 視覚検索クエリによるオブジェクト検出
US10699315B2 (en) Method and computer program for displaying search information
US20110238503A1 (en) System and method for personalized dynamic web content based on photographic data
CN113760158A (zh) 目标对象展示方法、对象关联方法、装置、介质及设备
TW201319981A (zh) 電視廣告產品資訊顯示系統、方法及其記錄媒體
JP2019164617A (ja) 情報配信システム、情報配信方法、およびプログラム
US20190325497A1 (en) Server apparatus, terminal apparatus, and information processing method
CN105827690A (zh) 根据用户喜好进行信息推送的方法及服务器
US20220415360A1 (en) Method and apparatus for generating synopsis video and server
KR20160027486A (ko) 광고 제공 장치, 광고 표시 장치, 광고 제공 방법, 및 광고 표시 방법
US20130132996A1 (en) System and method for displaying product information about advertisement on digital television, and recording medium thereof
TWI535279B (zh) 電視節目導購系統及其方法
JP6799655B1 (ja) ユーザインタフェース方法、端末プログラム、端末装置、及び広告システム
JP2014146242A (ja) 情報配信装置、情報表示システムおよびプログラム
US20220383382A1 (en) Product information processing system, product information processing method, and recording medium
KR20160080603A (ko) 협찬 상품 정보 제공 방법, 서버 및 시스템
KR102052068B1 (ko) 콘텐츠 추천 시스템 및 방법
JP2018055270A (ja) プレゼンテーション資料生成装置、プレゼンテーション資料生成システム、コンピュータプログラム及びプレゼンテーション資料生成方法
JP6228568B2 (ja) カメラ検索サーバ、カメラ検索方法及びカメラ検索サーバ用プログラム

Legal Events

Date Code Title Description
A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20131118

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20140128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140410

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140708

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140804

R150 Certificate of patent or registration of utility model

Ref document number: 5593352

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250