JP2007058532A - 情報処理システム、情報処理装置および方法、プログラム、並びに、記録媒体 - Google Patents

情報処理システム、情報処理装置および方法、プログラム、並びに、記録媒体 Download PDF

Info

Publication number
JP2007058532A
JP2007058532A JP2005242721A JP2005242721A JP2007058532A JP 2007058532 A JP2007058532 A JP 2007058532A JP 2005242721 A JP2005242721 A JP 2005242721A JP 2005242721 A JP2005242721 A JP 2005242721A JP 2007058532 A JP2007058532 A JP 2007058532A
Authority
JP
Japan
Prior art keywords
image
information
dictionary
index
registered
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2005242721A
Other languages
English (en)
Inventor
Akira Nakamura
章 中村
Kenichiro Ueki
建一郎 上木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005242721A priority Critical patent/JP2007058532A/ja
Publication of JP2007058532A publication Critical patent/JP2007058532A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Analysis (AREA)

Abstract

【課題】簡単かつ迅速に所望の情報を取得する。
【解決手段】 端末11は、インデックスサーバ12から受信したインデックスリストに登録されている画像認識エンジンとモデル辞書の中からユーザにより指定された画像認識エンジンとモデル辞書を有する情報提供サーバ13に、関連する情報を取得した検索オブジェクトの画像を含むオブジェクト画像を送信する。情報提供サーバ13は、指定されたモデル辞書および画像認識エンジンを用いて、オブジェクト画像内の検索オブジェクトを認識し、検索オブジェクトに関連するモデル情報をモデル辞書格納部42から取得し、端末11に送信する。本発明は、画像検索を行う情報処理システムに適用できる。
【選択図】図1

Description

本発明は、情報処理システム、情報処理装置および方法、プログラム、並びに、記録媒体に関し、特に、画像を用いて情報を検索する情報処理システム、情報処理装置および方法、プログラム、並びに、記録媒体に関する。
従来、携帯端末のデジタルカメラにより撮影した画像を画像認識用サーバに送信し、サーバにおいて、画像中に存在する物体の部類を識別し、識別された物体の部類に関する情報をデータベースから検索し、検索結果を携帯端末に送信することが提案されている(例えば、特許文献1参照)。
また、入力される画像から予め記憶されているモデルを精度よく抽出する方法が提案されている(例えば、特許文献2参照)。例えば、特許得文献2に記載の方法を特許文献1に記載の発明に適用することにより、画像中の物体の部類を識別する精度を向上させることができる。
特開2004−145416号公報 特開2004−326693号公報
しかしながら、特許文献1および2に記載の発明では、画像の登録数の増大に伴い、入力された画像と一致する画像を検索する時間が長くなったり、画像の認識率が低下したりする。従って、所望の情報を取得するために要する時間が長くなってしまう。
本発明は、このような状況に鑑みてなされたものであり、簡単かつ迅速に所望の情報を取得することができるようにするものである。
本発明の第1の側面の情報処理システムは、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている第1の辞書を複数用いて情報を検索する情報処理システムであって、第1の入力画像を取得する画像取得手段と、前記第1の入力画像内のオブジェクトに関連する前記関連情報の検索に用いる前記第1の辞書である使用辞書を決定する辞書決定手段と、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記第1の入力画像内の前記オブジェクトを認識するオブジェクト認識手段と、前記オブジェクト認識手段により認識された前記オブジェクトに関連する前記関連情報を前記使用辞書から取得する関連情報取得手段とを含む。
前記辞書決定手段には、ユーザにより指定された前記第1の辞書を前記使用辞書に決定させるようにすることができる。
前記画像取得手段には、さらに、前記第1の入力画像内の前記オブジェクトに関連する前記関連情報が登録されている前記第1の辞書である登録辞書を示すインデックス画像を取得させ、前記インデックス画像に示される前記登録辞書を検出する検出手段をさらに設け、前記辞書決定手段には、前記登録辞書を前記使用辞書に決定させるようにすることができる。
前記画像取得手段には、さらに、前記第1の入力画像が属する所定のグループを識別するための第2の入力画像を取得させ、前記グループを識別するための識別画像に関する識別画像情報と、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する前記関連情報が登録されている前記第1の辞書を示すインデックス情報とが関連づけられて登録されている第2の辞書に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像を特定する識別画像特定手段と、前記識別画像特定手段により特定された前記識別画像に関連づけられている前記インデックス情報を前記第2の辞書から取得するインデックス情報取得手段とをさらに設け、前記辞書決定手段には、前記インデックス情報取得手段により取得された前記インデックス情報に示される前記第1の辞書を前記使用辞書に決定させるようにすることができる。
本発明の第1の側面の情報処理方法またはプログラムは、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書を複数用いて情報を検索する情報処理方法、または、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書を複数用いて情報を検索する情報処理をコンピュータに実行させるプログラムであって、入力画像の取得を制御し、前記入力画像内のオブジェクトに関連する前記関連情報の検索に用いる前記辞書である使用辞書を決定し、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内の前記オブジェクトを認識し、認識された前記オブジェクトに関連する前記関連情報の前記使用辞書からの取得を制御するステップを含む。
本発明の第2の側面の情報処理装置は、第1の入力画像を取得する画像取得手段と、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている第1の辞書であって、前記第1の入力画像内のオブジェクトに関連する前記関連情報の検索に用いる第1の辞書である使用辞書を決定する辞書決定手段と、前記使用辞書を有する第1の装置である辞書保有装置に、前記第1の入力画像および前記使用辞書を示す情報を送信する第1の送信手段と、前記辞書保有装置から送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて認識された前記第1の入力画像内の前記オブジェクトに関連する前記関連情報を受信する第1の受信手段とを含む。
前記第1の辞書、および、前記第1の辞書を有する前記第1の装置を示すインデックス情報のリストであるインデックスリストを取得するインデックスリスト取得手段をさらに設け、前記辞書決定手段には、前記インデックスリスト内の前記インデックス情報に示される前記第1の辞書の中からユーザにより指定された前記第1の辞書を前記使用辞書に決定させるようにすることができる。
前記インデックス情報は、さらに、前記第1の辞書を用いて画像認識を行うハードウェアまたはソフトウェアである画像認識エンジンを示し、前記第1の送信手段には、さらに、前記インデックスリスト内の前記インデックス情報に示される前記画像認識エンジンの中からユーザにより指定された前記画像認識エンジンであるユーザ指定画像認識エンジンを示す情報を前記辞書保有装置に送信させ、前記第1の受信手段には、前記辞書保有装置から送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて前記ユーザ指定画像認識エンジンを用いて認識された前記第1の入力画像内の前記オブジェクトに関連する前記関連情報を受信させるようにすることができる。
前記画像取得手段には、さらに、前記第1の入力画像内の前記オブジェクトに関連する前記関連情報が登録されている前記第1の辞書である登録辞書と前記登録辞書を有する前記第1の装置とを示すインデックス画像を取得させ、前記インデックス画像に示される前記登録辞書、および、前記登録辞書を有する前記第1の装置を検出する検出手段をさらに設け、前記辞書決定手段には、前記登録辞書を前記使用辞書に決定させ、前記第1の送信手段には、前記登録辞書を有する前記第1の装置である前記辞書保有装置に、前記第1の入力画像および前記使用辞書を示す情報を送信させるようにすることができる。
前記インデックス画像は、前記入力画像にウォーターマークとして埋め込まれているようにすることができる。
前記インデックス画像は、識別コードの画像であるようにすることができる。
前記インデックス画像は、さらに、前記登録辞書を用いて画像認識を行うハードウェアまたはソフトウェアである画像認識エンジンを示し、前記第1の送信手段には、さらに、前記画像認識エンジンを示す情報を前記辞書保有装置に送信させ、前記第1の受信手段には、前記辞書保有装置により送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記画像認識エンジンを用いて認識された前記第1の入力画像内の前記オブジェクトに関連する前記関連情報を受信させるようにすることができる。
前記画像取得手段には、さらに、前記第1の入力画像が属する所定のグループを識別するための第2の入力画像を取得させ、前記第2の入力画像を第2の装置に送信する第2の送信手段と、前記第2の装置から送信されてくる、前記第2の入力画像に基づいて識別された前記グループに属する画像内のオブジェクトに関連する前記関連情報が登録されている前記第1の辞書である登録辞書、および、前記登録辞書を有する前記第1の装置を示すインデックス情報を受信する第2の受信手段とをさらに設け、前記辞書決定手段には、前記登録辞書を前記使用辞書に決定させ、前記第1の送信手段には、前記登録辞書を有する前記第1の装置である前記辞書保有装置に、前記第1の入力画像および前記使用辞書を示す情報を送信させるようにすることができる。
前記インデックス情報は、さらに、前記登録辞書を用いて画像認識を行うハードウェアまたはソフトウェアである画像認識エンジンを示し、前記第1の送信手段には、さらに、前記画像認識エンジンを示す情報を前記辞書保有装置に送信させ、前記第1の受信手段には、前記辞書保有装置により送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記画像認識エンジンを用いて認識された前記第1の入力画像内の前記オブジェクトに関連する前記関連情報を受信させるようにすることができる。
本発明の第2の側面の情報処理方法またはプログラムは、入力画像の取得を制御し、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書であって、前記入力画像内のオブジェクトに関連する前記関連情報の検索に用いる辞書である使用辞書を決定し、前記使用辞書を有する装置である辞書保有装置への、前記入力画像および前記使用辞書を示す情報の送信を制御し、前記辞書保有装置から送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて認識された前記入力画像内の前記オブジェクトに関連する前記関連情報の受信を制御するステップを含む。
本発明の第3の側面の情報処理装置は、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書を複数用いて情報を検索する情報処理装置であって、他の装置から送信されてくる、入力画像および使用する前記辞書を指定する情報を受信する受信手段と、指定された前記辞書である指定辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内のオブジェクトを認識するオブジェクト認識手段と、前記オブジェクト認識手段により認識された前記オブジェクトに関連する前記関連情報を前記指定辞書から取得する関連情報取得手段と、前記関連情報取得手段により取得された前記関連情報を前記他の装置に送信する送信手段とを含む。
前記受信手段には、さらに、前記指定辞書を用いて画像認識を行うハードウェアまたはソフトウェアである画像認識エンジンを示す情報を受信させ、前記オブジェクト認識手段には、前記指定辞書に登録されている前記オブジェクト画像情報に基づいて、前記画像認識エンジンを用いて前記入力画像内のオブジェクトを認識させるようにすることができる。
本発明の第3の側面の情報処理方法またはプログラムは、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書を複数用いて情報を検索する情報処理方法、または、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書を複数用いて情報を検索する情報処理をコンピュータに実行させるプログラムであって、他の装置から送信されてくる、入力画像および使用する前記辞書を指定する情報の受信を制御し、指定された前記辞書である指定辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内のオブジェクトを認識し、認識された前記オブジェクトに関連する前記関連情報の前記指定辞書からの取得を制御し、取得された前記関連情報の前記他の装置への送信を制御するステップを含む。
本発明の第4の側面の情報処理装置は、第1の装置から送信されてくる、第1の入力画像が属する所定のグループを識別するための第2の入力画像を受信する受信手段と、グループを識別するための識別画像に関する識別画像情報と、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている第1の辞書であって、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する関連情報が登録されている前記第1の辞書、および、前記第1の辞書を有する第2の装置を示すインデックス情報とが関連づけられて登録されている第2の辞書に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像を特定する識別画像特定手段と、前記識別画像特定手段により特定された前記識別画像に関連づけられている前記インデックス情報を前記第2の辞書から取得する取得手段とを含む
前記取得手段により取得された前記インデックス情報を、前記第1の装置に送信する送信手段をさらに設けるようにすることができる。
前記受信手段には、さらに、前記第1の装置から送信されてくる、前記第1の入力画像を受信させ、前記取得手段により取得された前記インデックス情報に示される前記第2の装置に、前記第1の入力画像、および、前記インデックス情報に示される前記第1の辞書を示す情報を送信する送信手段をさらに設けるようにすることができる。
本発明の第4の側面の情報処理方法またはプログラムは、第1の装置から送信されてくる、第1の入力画像が属する所定のグループを識別するための第2の入力画像の受信を制御し、グループを識別するための識別画像に関する識別画像情報と、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている第1の辞書であって、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する関連情報が登録されている前記第1の辞書、および、前記第1の辞書を有する第2の装置を示すインデックス情報とが関連づけられて登録されている第2の辞書に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像を特定し、特定された前記識別画像に関連づけられている前記インデックス情報の前記第2の辞書からの取得を制御するステップを含む。
本発明の第1の側面においては、入力画像が取得され、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書であって、前記入力画像内のオブジェクトに関連する前記関連情報の検索に用いる辞書である使用辞書が決定され、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内の前記オブジェクトが認識され、認識された前記オブジェクトに関連する前記関連情報が前記使用辞書から取得される。
本発明の第2の側面においては、入力画像が取得され、
オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書であって、前記入力画像内のオブジェクトに関連する前記関連情報の検索に用いる辞書である使用辞書が決定され、前記使用辞書を有する装置である辞書保有装置に、前記入力画像および前記使用辞書を示す情報が送信され、前記辞書保有装置から送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて認識された前記入力画像内の前記オブジェクトに関連する前記関連情報が受信される。
本発明の第3の側面においては、他の装置から送信されてくる、入力画像、および、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書であって、使用する辞書を指定する情報が受信され、指定された前記辞書である指定辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内のオブジェクトが認識され、前記オブジェクト認識手段により認識された前記オブジェクトに関連する前記関連情報が前記指定辞書から取得され、前記関連情報取得手段により取得された前記関連情報が前記他の装置に送信される。
本発明の第4の側面においては、第1の装置から送信されてくる、第1の入力画像が属する所定のグループを識別するための第2の入力画像が受信され、グループを識別するための識別画像に関する識別画像情報と、オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている第1の辞書であって、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する関連情報が登録されている前記第1の辞書、および、前記第1の辞書を有する第2の装置を示すインデックス情報とが関連づけられて登録されている第2の辞書に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像が特定され、前記識別画像特定手段により特定された前記識別画像に関連づけられている前記インデックス情報が前記第2の辞書から取得される。
以上のように、本発明の第1の側面乃至第4の側面によれば、入力された画像に基づいて、情報を検索することができる。また、本発明の第1の側面乃至第4の側面によれば、簡単かつ迅速に所望の情報を取得することができる。
以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
本発明の第1の側面の情報処理システム(例えば、図1の情報処理システム1または図14の情報処理システム201)は、オブジェクトの画像に関するオブジェクト画像情報(例えば、モデル画像情報)と前記オブジェクトに関連する関連情報(例えば、モデル情報)とが登録されている第1の辞書(例えば、モデル辞書)を複数用いて情報を検索する情報処理システムであって、第1の入力画像を取得する画像取得手段(例えば、図4の画像取得部72または図15の画像取得部272)と、前記第1の入力画像内のオブジェクトに関連する前記関連情報の検索に用いる前記第1の辞書である使用辞書を決定する辞書決定手段(例えば、図4の送信サーバ決定部74または図15の送信サーバ決定部274)と、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記第1の入力画像内の前記オブジェクトを認識するオブジェクト認識手段(例えば、図5の画像認識部103)と、前記オブジェクト認識手段により認識された前記オブジェクトに関連する前記関連情報を前記使用辞書から取得する関連情報取得手段(例えば、図5のモデル情報取得部104)とを含む。
本発明の第1の側面の情報処理システム(例えば、図1の情報処理システム1)においては、前記画像取得手段は、さらに、前記第1の入力画像内の前記オブジェクトに関連する前記関連情報が登録されている前記第1の辞書である登録辞書を示すインデックス画像を取得し、前記インデックス画像に示される前記登録辞書を検出する検出手段(例えば、図4のインデックス情報検出部73)をさらに含み、前記辞書決定手段は、前記登録辞書を前記使用辞書に決定するようにすることができる。
本発明の第1の側面の情報処理システム(例えば、図14の情報処理システム201)においては、前記画像取得手段は、さらに、前記第1の入力画像が属する所定のグループを識別するための第2の入力画像を取得し、前記グループを識別するための識別画像に関する識別画像情報と、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する前記関連情報が登録されている前記第1の辞書を示すインデックス情報とが関連づけられて登録されている第2の辞書(例えば、インデックス辞書)に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像を特定する識別画像特定手段(例えば、図16の画像認識部302)と、前記識別画像特定手段により特定された前記識別画像に関連づけられている前記インデックス情報を前記第2の辞書から取得するインデックス情報取得手段(例えば、図16のインデックス情報取得部303)とをさらに含み、前記辞書決定手段は、前記インデックス情報取得手段により取得された前記インデックス情報に示される前記第1の辞書を前記使用辞書に決定するようにすることができる。
本発明の第1の側面の情報処理方法またはプログラムは、オブジェクトの画像に関するオブジェクト画像情報(例えば、モデル画像情報)と前記オブジェクトに関連する関連情報(例えば、モデル情報)とが登録されている辞書(例えば、モデル辞書)を複数用いて情報を検索する情報処理方法、または、オブジェクトの画像に関するオブジェクト画像情報(例えば、モデル画像情報)と前記オブジェクトに関連する関連情報(例えば、モデル情報)とが登録されている辞書(例えば、モデル辞書)を複数用いて情報を検索する情報処理をコンピュータに実行させプログラムにおいて、入力画像の取得を制御し(例えば、図6のステップS4、図12のステップS62または図17のステップS102)、前記入力画像内のオブジェクトに関連する前記関連情報の検索に用いる前記辞書である使用辞書を決定し(例えば、図6のステップS7、図12のステップS66または図17のステップS107)、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内の前記オブジェクトを認識し(例えば、図9のステップS43または図22のステップS243)、認識された前記オブジェクトに関連する前記関連情報の前記使用辞書からの取得を制御する(例えば、図9のステップS44または図22のステップS244)とを含む。
本発明の第2の側面の情報処理装置(例えば、図4のサービス処理部64または図15のサービス処理部264)は、第1の入力画像を取得する画像取得手段(例えば、図4の画像取得部72または図15の画像取得部272)と、オブジェクトの画像に関するオブジェクト画像情報(例えば、モデル画像情報)と前記オブジェクトに関連する関連情報(例えば、モデル情報)とが登録されている第1の辞書(例えば、モデル辞書)であって、前記第1の入力画像内のオブジェクトに関連する前記関連情報の検索に用いる第1の辞書である使用辞書を決定する辞書決定手段(例えば、図4の送信サーバ決定部74または図15の送信サーバ決定部274)と、前記使用辞書を有する第1の装置(例えば、図1の情報提供サーバ13)である辞書保有装置に、前記第1の入力画像および前記使用辞書を示す情報を送信する第1の送信手段(例えば、図4のモデル情報要求部75または図15のモデル情報要求部275)と、前記辞書保有装置から送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて認識された前記第1の入力画像内の前記オブジェクトに関連する前記関連情報を受信する第1の受信手段(例えば、図4のモデル情報受信部76または図15のモデル情報受信部276)とを含む。
本発明の第2の側面の情報処理装置(例えば、図4のサービス処理部64)においては、前記第1の辞書、および、前記第1の辞書を有する前記第1の装置を示すインデックス情報のリストであるインデックスリストを取得するインデックスリスト取得手段(例えば、図4のインデックスリスト取得部71)をさらに含み、前記辞書決定手段は、前記インデックスリスト内の前記インデックス情報に示される前記第1の辞書の中からユーザにより指定された前記第1の辞書を前記使用辞書に決定するようにすることができる。
本発明の第2の側面の情報処理装置(例えば、図4のサービス処理部64)においては、前記画像取得手段は、さらに、前記第1の入力画像内の前記オブジェクトに関連する前記関連情報が登録されている前記第1の辞書である登録辞書と前記登録辞書を有する前記第1の装置とを示すインデックス画像を取得し、前記インデックス画像に示される前記登録辞書、および、前記登録辞書を有する前記第1の装置を検出する検出手段(例えば、図4のインデックス情報検出部73)をさらに含み、前記辞書決定手段は、前記登録辞書を前記使用辞書に決定し、前記第1の送信手段は、前記登録辞書を有する前記第1の装置である前記辞書保有装置に、前記第1の入力画像および前記使用辞書を示す情報を送信するようにすることができる。
本発明の第2の側面の情報処理装置(例えば、図15のサービス処理部264)においては、前記画像取得手段は、さらに、前記第1の入力画像が属する所定のグループを識別するための第2の入力画像を取得し、前記第2の入力画像を第2の装置に送信する第2の送信手段(例えば、図15のインデックス情報要求部281)と、前記第2の装置から送信されてくる、前記第2の入力画像に基づいて識別された前記グループに属する画像内のオブジェクトに関連する前記関連情報が登録されている前記第1の辞書である登録辞書、および、前記登録辞書を有する前記第1の装置を示すインデックス情報を受信する第2の受信手段(例えば、図15のインデックス情報受信部272)とをさらに含み、前記辞書決定手段は、前記登録辞書を前記使用辞書に決定し、前記第1の送信手段は、前記登録辞書を有する前記第1の装置である前記辞書保有装置に、前記第1の入力画像および前記使用辞書を示す情報を送信するようにすることができる。
本発明の第2の側面の情報処理方法またはプログラムは、入力画像の取得を制御し(例えば、図6のステップS4、図12のステップS62または図17のステップS102)、オブジェクトの画像に関するオブジェクト画像情報(例えば、モデル画像情報)と前記オブジェクトに関連する関連情報(例えば、モデル情報)とが登録されている辞書(例えば、モデル辞書)であって、前記入力画像内のオブジェクトに関連する前記関連情報の検索に用いる辞書である使用辞書を決定し(例えば、図6のステップS7、図12のステップS66または図17のステップS107)、前記使用辞書を有する装置である辞書保有装置への、前記入力画像および前記使用辞書を示す情報の送信を制御し(例えば、図6のステップS8、図12のステップS67または図17のステップS108)、前記辞書保有装置から送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて認識された前記入力画像内の前記オブジェクトに関連する前記関連情報の受信を制御する(例えば、図6のステップS9、図12のステップS68または図17のステップS109)ステップを含む。
本発明の第3の側面の情報処理装置(例えば、図5のモデル情報提供部41)は、オブジェクトの画像に関するオブジェクト画像情報(例えば、モデル画像情報)と前記オブジェクトに関連する関連情報(例えば、モデル情報)とが登録されている辞書(例えば、モデル辞書)を複数用いて情報を検索する情報処理装置であって、他の装置(例えば、図1の端末11)から送信されてくる、入力画像および使用する前記辞書を指定する情報を受信する受信手段(例えば、図5のモデル情報要求受信部101)と、指定された前記辞書である指定辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内のオブジェクトを認識するオブジェクト認識手段(例えば、図5の画像認識部103)と、前記オブジェクト認識手段により認識された前記オブジェクトに関連する前記関連情報を前記指定辞書から取得する関連情報取得手段(例えば、図5のモデル情報取得部104)と、前記関連情報取得手段により取得された前記関連情報を前記他の装置に送信する送信手段(例えば、図5のモデル情報送信部105)とを含む。
本発明の第3の側面の情報処理方法またはプログラムは、オブジェクトの画像に関するオブジェクト画像情報(例えば、モデル画像情報)と前記オブジェクトに関連する関連情報(例えば、モデル情報)とが登録されている辞書(例えば、モデル辞書)を複数用いて情報を検索する情報処理方法、または、オブジェクトの画像に関するオブジェクト画像情報(例えば、モデル画像情報)と前記オブジェクトに関連する関連情報(例えば、モデル情報)とが登録されている辞書(例えば、モデル辞書)を複数用いて情報を検索する情報処理をコンピュータに実行させるプログラムであって、他の装置(例えば、図1の端末11)から送信されてくる、入力画像および使用する前記辞書を指定する情報の受信を制御し(例えば、図9のステップS41または図22のステップS241)、指定された前記辞書である指定辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内のオブジェクトを認識し(例えば、図9のステップS43または図22のステップS243)、認識された前記オブジェクトに関連する前記関連情報の前記指定辞書からの取得を制御し(例えば、図9のステップS44または図22のステップS244)、取得された前記関連情報の前記他の装置への送信を制御する(例えば、図9のステップS45または図22のステップS245)ステップを含む。
本発明の第4の側面の情報処理装置(例えば、図16のインデックス情報提供部231)は、第1の装置(例えば、図14の端末211)から送信されてくる、第1の入力画像が属する所定のグループを識別するための第2の入力画像を受信する受信手段(例えば、図16の受信部301)と、グループを識別するための識別画像に関する識別画像情報(例えば、グループ識別画像情報)と、オブジェクトの画像に関するオブジェクト画像情報(例えば、モデル画像情報)と前記オブジェクトに関連する関連情報(例えば、モデル情報)とが登録されている第1の辞書(例えば、モデル辞書)であって、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する関連情報が登録されている前記第1の辞書、および、前記第1の辞書を有する第2の装置(例えば、図14の情報提供サーバ13)を示すインデックス情報とが関連づけられて登録されている第2の辞書(例えば、インデックス辞書)に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像を特定する識別画像特定手段(例えば、図16の画像認識部302)と、前記識別画像特定手段により特定された前記識別画像に関連づけられている前記インデックス情報を前記第2の辞書から取得する取得手段(例えば、図16のインデックス情報取得部303)とを含む。
本発明の第4の側面の情報処理装置は、前記取得手段により取得された前記インデックス情報を、前記第1の装置に送信する送信手段(例えば、図16のインデックス情報送信部304)をさらに含むようにすることができる。
本発明の第4の側面の情報処理装置は、前記受信手段は、さらに、前記第1の装置から送信されてくる、前記第1の入力画像を受信し、前記取得手段により取得された前記インデックス情報に示される前記第2の装置に、前記第1の入力画像、および、前記インデックス情報に示される前記第1の辞書を示す情報を送信する送信手段(例えば、図16のモデル情報要求転送部305)をさらに含むようにすることができる。
本発明の第4の側面の情報処理方法またはプログラムは、第1の装置(例えば、図14の端末211)から送信されてくる、第1の入力画像が属する所定のグループを識別するための第2の入力画像の受信を制御し(例えば、図19のステップS121または図21のステップS221)、グループを識別するための識別画像に関する識別画像情報(例えば、グループ識別画像情報)と、オブジェクトの画像に関するオブジェクト画像情報(例えば、モデル画像情報)と前記オブジェクトに関連する関連情報とが登録されている第1の辞書(例えば、モデル辞書)であって、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する関連情報(例えば、モデル情報)が登録されている前記第1の辞書、および、前記第1の辞書を有する第2の装置を示すインデックス情報とが関連づけられて登録されている第2の辞書(例えば、インデックス辞書)に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像を特定し(例えば、図19のステップS122または図21のステップS222)、特定された前記識別画像に関連づけられている前記インデックス情報の前記第2の辞書からの取得を制御する(例えば、図19のステップS123または図21のステップS223)ステップを含む。
以下、図を参照して、本発明の実施の形態について説明する。
図1は、本発明を適用した情報処理システムの一実施の形態を示すブロック図である。情報処理システム1は、端末11−1乃至11−x、インデックスサーバ12、および、情報提供サーバ13−1乃至13−yを含むように構成される。さらに、情報提供サーバ13−1乃至13−yは、モデル情報提供部41−1乃至41−yおよびモデル辞書格納部42−1乃至42−yをそれぞれ含むように構成される。また、端末11−1乃至11−x、インデックスリスト提供部31、および、モデル情報提供部41−1乃至41−yは、ネットワーク21を介して相互に接続されている。
なお、以下、端末11−1乃至11−xを個々に区別する必要がない場合、単に端末11と称し、情報提供サーバ13−1乃至13−yを個々に区別する必要がない場合、単に情報提供サーバ13と称する。また、以下、モデル情報提供部41−1乃至41−yを個々に区別する必要がない場合、単にモデル情報提供部41と称し、モデル辞書格納部42−1乃至42−yを個々に区別する必要がない場合、単にモデル辞書格納部42と称する。
端末11は、例えば、携帯電話機、パーソナルコンピュータ、PDA(Personal Digital Assistant)などにより構成される。ユーザは、端末11に所定のアプリケーションプログラムを実行させることにより、情報処理システム1により実現される所定のサービス(以下、画像検索サービスと称する)を利用することができる。画像検索サービスは、端末11を利用して、関連する情報を取得したいオブジェクト(以下、検索オブジェクトとも称する)の画像を含む画像を(以下、オブジェクト画像と称する)を情報提供サーバ13に送信し、情報提供サーバ13により検索オブジェクトに関連する情報が検索され、検索された情報が端末11に送信されるサービスである。検索オブジェクトは、視覚的なオブジェクトであり、例えば、人、物体などの有体物、または、風景などの無体物である。
端末11は、ユーザが画像検索サービスの利用を開始したとき、必要に応じて、インデックスサーバ12のインデックスリスト提供部31に、インデックスリストの送信を要求する情報(以下、インデックスリスト要求情報と称する)をネットワーク21を介して送信する。インデックスリスト提供部31は、インデックスリスト格納部32に格納されているインデックスリストを、要求元の端末11にネットワーク21を介して送信する。
インデックスリストは、インデックス情報のリストであり、例えば、図2に示されるデータ構造を有する。図2に示される例において、インデックス情報は、情報提供サーバ位置情報、画像認識エンジン識別番号、画像認識エンジン用テキスト、モデル辞書識別番号、および、モデル辞書用テキストにより構成される。
情報提供サーバ位置情報(以下、単に位置情報とも称する)には、同じインデックス情報内の画像認識エンジン識別番号およびモデル辞書識別番号により識別される画像認識エンジンおよびモデル辞書を有し、その画像認識エンジンおよびモデル辞書を用いて情報を検索する情報提供サーバ13のネットワーク21上の位置を示す情報(例えば、IPアドレス、ドメイン名など)が設定される。
画像認識エンジン識別番号には、同じインデックス情報内のモデル辞書識別番号により識別されるモデル辞書を用いて、画像認識を行うハードウェアまたはソフトウェアである画像認識エンジンを識別するための番号が設定される。
画像認識エンジン用テキストは、画像認識エンジン識別番号に対応づけられている文字列であり、例えば、画像認識エンジン識別番号により識別される画像認識エンジンの属性(例えば、名前、機能、性能など)や説明などを示す文字列が設定される。
モデル辞書識別番号には、後述するモデル辞書を識別するための番号が設定される。
モデル辞書用テキストは、モデル辞書識別番号に対応づけられている文字列であり、例えば、モデル辞書識別番号により識別されるモデル辞書の属性(例えば、名前、ジャンルなど)や説明などを示す文字列が設定される。
すなわち、インデックス情報を参照することにより、各画像認識エンジンおよびモデル辞書を有する情報提供サーバ13の位置を特定することができ、逆に言えば、各情報提供サーバ13が有する画像認識エンジンおよびモデル辞書を特定することができる。
端末11は、検索オブジェクトに関連する情報の送信を要求する場合、オブジェクト画像、並びに、検索に使用する画像認識エンジンおよびモデル辞書の画像認識エンジン識別番号およびモデル辞書識別番号を含み、検索オブジェクトに関連する情報の送信を要求する情報(以下、モデル情報要求情報と称する)を、検索に使用する画像認識エンジンおよびモデル辞書を有する情報提供サーバ13のモデル情報提供部41に、ネットワーク21を介して送信する。
モデル情報要求情報を受信した情報提供サーバ13のモデル情報提供部41は、モデル情報要求情報に基づいて、ユーザにより指定された画像認識エンジンおよびモデル辞書を用いて、検索オブジェクトに関連する情報を検索する。
具体的には、各モデル辞書格納部42には、1種類以上のモデル辞書が格納されている。モデル辞書とは、各種のオブジェクト(以下、モデルと称する)の画像(以下、モデル画像と称する)に関するモデル画像情報、および、各モデルに関連する情報(以下、モデル情報と称する)が登録されている。モデルは、検索オブジェクトと同様に、視覚的なオブジェクトであり、例えば、人、物体などの有体物、または、風景などの無体物である。モデル画像情報は、例えば、モデル画像そのもの、または、モデル画像から抽出されたモデルの特徴量を示す情報を含む。モデル情報は、例えば、モデルの属性(例えば、価格、大きさ、説明文など)を示す情報、モデルに関連する情報を取得することができるウェブサイトのURL(Uniform Resource Locator)、モデルの画像などを含む。また、各モデルには、各モデルを識別するためのモデル番号が設定されている。
1つのモデル辞書には、同様の特徴を有するモデルのモデル画像情報およびモデル情報が登録されている。また、各モデル辞書には、モデル辞書に登録されているモデル画像情報に基づいて画像認識を行うように特化された画像認識エンジンが1つ以上準備されている。なお、1つの画像認識エンジンが複数のモデル辞書に対応する場合もある。
図3は、モデル辞書格納部42に格納されているモデル辞書の具体例を示す図である。例えば、モデル辞書格納部42Aは、雑誌Aに掲載されている写真(画像)内のオブジェクトであるモデルに関するモデル画像情報とモデル情報が登録されているモデル辞書42A−1乃至42A−3を格納する。モデル辞書42A−1乃至42A−3は、雑誌Aの各号により分類されており、モデル辞書42A−1は、雑誌Aの5月号に対応する(雑誌Aの5月号に掲載されている写真(画像)内のオブジェクトに関するモデル画像情報とモデル情報が登録されている)モデル辞書であり、モデル辞書42A−2は、雑誌Aの6月号に対応するモデル辞書であり、モデル辞書42A−3は、雑誌Aの7月号に対応するモデル辞書である。
また、例えば、モデル辞書格納部42Bは、カタログBに掲載されている写真(画像)内のオブジェクト(例えば、商品など)であるモデルに関するモデル画像情報とモデル情報が登録されているモデル辞書42B−1乃至42B−3を格納する。モデル辞書42B−1乃至42B−3は、カタログBに掲載されている商品のジャンル(例えば、食品、衣類、電化製品など)により分類されており、モデル辞書42B−1は、カテゴリAに対応する(カテゴリAに属するオブジェクトに関するモデル画像情報とモデル情報が登録されている)モデル辞書であり、モデル辞書42B−2は、カテゴリBに対応するモデル辞書であり、モデル辞書42B−3は、カテゴリCに対応するモデル辞書である。
さらに、例えば、モデル辞書格納部42Cは、所定のサービスC(例えば、お酒の宅配サービス)が提供するオブジェクト(例えば、お酒)であるモデルに関するモデル画像情報とモデル情報が登録されているモデル辞書42C−1乃至42C−3を格納する。モデル辞書42C−1乃至42C−3は、サービスCにより提供されるサービスまたは商品などのジャンル(例えば、ワイン、日本酒、ビールなど)により分類されており、モデル辞書42C−1は、カテゴリDに対応する(カテゴリDに属するオブジェクトに関するモデル画像情報とモデル情報が登録されている)モデル辞書であり、モデル辞書42C−2は、カテゴリEに対応するモデル辞書であり、モデル辞書42C−3は、カテゴリFに対応するモデル辞書である。
図1に戻り、モデル情報提供部41は、モデル辞書格納部42に格納されているモデル辞書であって、モデル情報要求情報に含まれるモデル辞書識別番号により識別されるモデル辞書に登録されているモデル画像情報に基づいて、モデル情報要求情報に含まれる画像認識エンジン識別番号により識別される画像認識エンジンを用いて、モデル情報要求情報に含まれるオブジェクト画像内の検索オブジェクトを認識する。換言すれば、モデル情報提供部41は、モデル情報要求情報により指定されたモデル辞書にモデル画像情報およびモデル情報が登録されているモデルのうち、オブジェクト画像内の検索オブジェクトに最も近いモデルを特定する。モデル情報提供部41は、特定したモデルに関連するモデル情報およびモデル番号を、要求元の端末11に、ネットワーク21を介して送信する。
図4は、図1の端末11の機能の構成の例を示すブロック図である。端末11は、画像入力部61、操作部63、表示部62、および、サービス処理部64を含むように構成される。サービス処理部64は、インデックスリスト取得部71、画像取得部72、インデックス情報検出部73、送信サーバ決定部74、モデル情報要求部75、モデル情報受信部76、および、表示制御部77を含むように構成される。
画像入力部61は、例えば、デジタルカメラ、スキャナー、各種の画像再生装置または画像記録再生装置(例えば、DVD(Digital Versatile Disc)プレイヤー、ハードディディスクレコーダなど)、画像を記録する各種の記録装置(例えば、ハードディスクドライブ、半導体メモリなど)など画像を処理する画像処理装置により構成される。画像入力部61は、検索オブジェクトの画像を含むオブジェクト画像を画像取得部72に供給する。なお、以下、画像入力部61が、デジタルカメラ(例えば、端末11が携帯電話機である場合、携帯電話機に設けられているデジタルカメラ)である場合の例を説明する。
表示部62は、例えば、LCD(Liquid Crystal Display)、CRT(Cathode-ray Tube)などのディスプレイにより構成され、表示制御部77の制御の基に、各種の情報をテキストあるいはイメージなどで表示する。
操作部63は、端末11に対する操作をユーザが行うための機器であって、例えば、キーボード、マウス、リモコン、タッチパネル、マイク等で構成される。操作部63を利用してユーザが入力した操作内容、正確には、その操作内容を示す情報は、送信サーバ決定部74および表示制御部77に供給される。
サービス処理部64は、例えば、端末11の図示せぬCPU(Central Processing Unit)が画像検索サービスを利用するためのアプリケーションプログラムを実行することにより実現され、画像検索サービスを利用するための各種の機能を提供する。
インデックスリスト取得部71は、ネットワーク21を介して、インデックスリスト要求情報をインデックスサーバ12に送信し、インデックスリストをインデックスサーバ12から受信する。インデックスリスト取得部71は、受信したインデックスリストを送信サーバ決定部74および表示制御部77に供給する。
画像取得部72は、画像入力部61から入力される各種の画像を、必要に応じて、インデックス情報検出部73、送信サーバ決定部74、または、表示制御部77に供給する。例えば、画像取得部72は、画像入力部61から入力されるオブジェクト画像を、送信サーバ決定部74および表示制御部77に供給する。また、例えば、画像取得部72は、画像入力部61から入力されるインデックス情報を示す画像(以下、インデックス画像と称する)をインデックス情報検出部73および表示制御部77に供給する。
インデックス情報検出部73は、インデックス画像を解析することにより、インデックス画像により示されるインデックス情報を検出する。インデックス情報検出部73は、検出したインデックス情報を送信サーバ決定部74および表示制御部77に供給する。
送信サーバ決定部74は、ユーザによる画像認識エンジンおよびモデル辞書の選択結果を示す情報を操作部63から取得する。送信サーバ決定部74は、インデックス情報検出部73により検出されたインデックス情報に示される画像認識エンジンおよびモデル辞書、または、ユーザにより指定された画像認識エンジンおよびモデル辞書を有する情報提供サーバ13の位置情報を、インデックスリストの中から検索する。送信サーバ決定部74は、インデックスリストの中から検索した情報提供サーバ13の位置情報、オブジェクト画像、並びに、インデックス情報検出部73により検出されたインデックス情報に示される画像認識エンジン識別番号およびモデル辞書識別番号、または、ユーザにより指定された画像認識エンジンおよびモデル辞書の画像認識エンジン識別番号およびモデル辞書識別番号をモデル情報要求部75に供給する。
モデル情報要求部75は、送信サーバ決定部74から供給されたオブジェクト画像、画像認識エンジン識別番号、および、モデル辞書識別番号を含み、オブジェクト画像内の検索オブジェクトに関連するモデル情報の送信を要求するモデル情報要求情報を、送信サーバ決定部74から供給された位置情報に示される位置にある情報提供サーバ13に、ネットワーク21を介して送信する。
モデル情報受信部76は、モデル情報の送信を要求した情報提供サーバ13から、ネットワーク21を介して、モデル情報を受信する。モデル情報受信部76は、受信したモデル情報を表示制御部77に供給する。
表示制御部77は、表示部62を制御して、各種の画像を表示させる。
図5は、図1の情報提供サーバ13のモデル情報提供部41の機能の構成の例を示すブロック図である。モデル情報提供部41は、モデル情報要求受信部101、モデル辞書決定部102、画像認識部103、モデル情報取得部104、および、モデル情報送信部105を含むように構成される。
モデル情報要求受信部101は、ネットワーク21を介して、端末11からモデル情報要求情報を受信し、受信したモデル情報要求情報をモデル情報決定部102に供給する。
モデル辞書決定部102は、モデル情報要求情報に含まれる画像認識エンジン識別番号およびモデル辞書識別番号により識別されるモデル辞書および画像認識エンジンの使用を指示する情報、並びに、オブジェクト画像を画像認識部103に供給する。
画像認識部103は、モデル辞書格納部42に格納されているモデル辞書であって、使用が指示されたモデル辞書に登録されているモデル画像情報に基づいて、使用が指示された画像認識エンジンを用いて、オブジェクト画像内の検索オブジェクトを認識する。換言すれば、画像認識部103は、指示されたモデル辞書にモデル画像情報およびモデル情報が登録されているモデルのうち、オブジェクト画像内の検索オブジェクトに最も近いモデルを特定する。画像認識部103は、特定したモデルのモデル番号、および、使用したモデル辞書を示す情報をモデル情報取得部104に供給する。
モデル情報取得部104は、画像認識部103により特定されたモデルに関連するモデル情報を、画像認識部103が使用したモデル辞書から取得する。モデル情報取得部104は、取得したモデル情報およびモデル番号をモデル情報送信部105に供給する。
モデル情報送信部105は、検索オブジェクトに関連する情報として、取得したモデル情報およびモデル番号を、モデルネットワーク21を介して、モデル情報の要求元の端末11に送信する。
次に、図6乃至図9を参照して、情報処理システム1により実行される処理を説明する。
まず、図6のフローチャートを参照して、端末11により実行されるモデル情報取得処理を説明する。なお、この処理は、例えば、ユーザが操作部63を操作して、画像検索サービスを利用するためのアプリケーションプログラムを端末11に実行させたとき開始される。
ステップS1において、インデックスリスト取得部71は、インデックスリストの送信を要求する。具体的には、インデックスリスト取得部71は、予めアプリケーションプログラムに位置情報(例えば、IPアドレス、URLなど)が記録されているインデックスサーバ12に、ネットワーク21を介して、インデックスリスト要求情報を送信する。
インデックスサーバ12は、後述する図8のステップS21において、インデックスリスト要求情報を受信し、ステップS22において、インデックスリスト要求情報に対応して、インデックスリストを要求元の端末11に送信する。
ステップS2において、インデックスリスト取得部71は、インデックスリストを受信する。具体的には、インデックスリスト取得部71は、インデックスサーバ12から、ネットワーク21を介して、インデックスリストを受信する。インデックスリスト取得部71は、受信したインデックスリストを、送信サーバ決定部74および表示制御部77に供給する。
ステップS3において、表示部62は、オブジェクト画像の入力ガイダンスを表示する。具体的には、表示部62は、表示制御部77の制御の基に、関連する情報を取得したい検索オブジェクトの画像を含むオブジェクト画像の入力を促すガイダンス(例えば、検索オブジェクトの撮影を促すガイダンス)を表示する。
ステップS4において、画像取得部72は、オブジェクト画像を取得する。具体的には、例えば、ユーザは、オブジェクト画像の入力ガイダンスに従って、デジタルカメラである画像入力部61により、検索オブジェクトを撮影する。画像入力部61は、検索オブジェクトの画像を含むオブジェクト画像を画像取得部72に供給する。画像取得部72は、取得したオブジェクト画像を送信サーバ決定部74および表示制御部77に供給する。
例えば、ユーザは、雑誌Aの5月号に掲載されている商品(検索オブジェクト)に関する情報を取得したい場合、その写真を画像入力部61により撮影する。画像入力部61は、ユーザにより撮影された画像(オブジェクト画像)を画像取得部72に供給する。
なお、デジタルカメラにより検索オブジェクトを撮影してオブジェクト画像を取得する以外にも、例えば、検索オブジェクトが写っている写真をスキャナーにより読み込んだり、検索オブジェクトの画像を含む画像を、記録媒体に記録されていたり、他の情報処理装置が提供する各種のコンテンツ(例えば、電子書籍、映像コンテンツ、画像ファイルなど)から取得することも可能である。
ステップS5において、表示部62は、画像認識エンジンおよびモデル辞書の選択メニューを表示する。具体的には、表示制御部77は、インデックスリストおよびオブジェクト画像に基づいて、選択メニューを表示させるための画像を生成する。表示制御部77は、生成した画像を表示部62に供給し、表示部62に選択メニューを表示させる。
図7は、表示部62に表示される選択メニューの例を示す図である。図7に示される例において、選択メニューには、オブジェクト画像131、画像認識エンジン選択リスト132、モデル辞書選択リスト133、および、検索ボタン134が表示されている。オブジェクト画像131は、ステップS4において取得されたオブジェクト画像であり、検索オブジェクト131Aの画像を含んでいる。
画像認識エンジン選択リスト132は、ユーザが利用することができる画像認識エンジンを一覧にして表示したものである。具体的には、画像認識エンジン選択リスト132には、ステップS2において取得したインデックスリストに含まれるインデックス情報に示される画像認識エンジン用テキストが一覧にして表示される。図7の例において、ユーザは、雑誌Aに掲載されている写真(画像)内のオブジェクトの認識に特化された画像認識エンジン、カタログBに掲載されている写真(画像)内のオブジェクトに認識に特化された画像認識エンジン、所定のサービスC(例えば、お酒の宅配サービス)で提供される商品の認識に特化された画像認識エンジン、および、会社Dの製品の認識に特化された画像認識エンジンの4種類の中から画像認識エンジンを選択することができる。
モデル辞書選択リスト133は、ユーザが利用することができるモデル辞書であって、画像認識エンジン選択リスト132の中からユーザが選択した画像認識エンジンに対応するモデル辞書を一覧にして表示したものである。具体的には、モデル辞書選択リスト133には、ステップS2において取得したインデックスリストに含まれるインデックス情報に示されるモデル辞書用テキストのうち、画像認識エンジン選択リスト132の中から選択された画像認識エンジンに対応するモデル辞書のモデル辞書用テキスト、または、それらの組み合わせが一覧にして表示される。図7は、画像認識エンジン選択リスト132の中から雑誌Aに掲載されている写真(画像)内のオブジェクトの認識に特化された画像認識エンジンが選択された例を示しており、ユーザは、モデル情報を検索するモデル辞書を、雑誌Aの5月号に対応するモデル辞書、6月号に対応するモデル辞書、7月号に対応するモデル辞書、および、5月号から7月号までの全てのモデル辞書のうちいずれかを指定することができる。
ステップS6において、送信サーバ決定部74は、画像認識エンジンおよびモデル辞書の選択結果を取得する。具体的には、ユーザが、操作部63を操作することにより、選択メニューの中から、利用する画像認識エンジンおよびモデル辞書を選択した後、検索ボタン134を押下した場合、操作部63は、画像認識エンジンおよびモデル辞書の選択結果を示す情報を送信サーバ決定部74に供給する。
例えば、ユーザは、雑誌Aの5月号に掲載されている写真を画像入力部61により撮影したオブジェクト画像を画像取得部72に入力した場合、操作部63を操作することにより、画像認識エンジン選択リスト132の中から雑誌Aを選択し、モデル辞書選択リスト133の中から5月号を選択した後、検索ボタン134を押下する。操作部63は、画像認識エンジンおよびモデル辞書の選択結果を示す情報、具体的には、ユーザにより選択された画像認識エンジン用テキスト「雑誌A」およびモデル辞書用テキスト「5月号」を示す情報を送信サーバ決定部74に供給する。
ステップS7において、送信サーバ決定部74は、モデル情報の要求先を決定する。送信サーバ決定部74は、取得した選択結果に示される(ユーザにより指定された)画像認識エンジンおよびモデル辞書を、モデル情報の検索に用いる画像認識エンジンおよびモデル辞書に決定する。また、送信サーバ決定部74は、ユーザにより指定された画像認識エンジンおよびモデル辞書を有する情報提供サーバ13の位置情報を、インデックスリストの中から検索し、検索した位置情報に示される位置にある情報提供サーバ13をモデル情報の要求先に決定する。送信サーバ決定部74は、オブジェクト画像、ユーザにより指定された画像認識エンジンおよびモデル辞書の画像認識エンジン識別番号およびモデル辞書識別番号、並びに、インデックスリストから検索した情報提供サーバ13の位置情報をモデル情報要求部75に供給する。
ステップS8において、モデル情報要求部75は、モデル情報の送信を要求する。具体的には、モデル情報要求部75は、送信サーバ決定部74から供給された画像認識エンジン識別番号およびモデル辞書識別番号、並びに、オブジェクト画像を含み、オブジェクト画像内の検索オブジェクトに関連するモデル情報の送信を要求するモデル情報要求情報を、送信サーバ決定部74から供給された位置情報に示される位置にある情報提供サーバ13、すなわち、ユーザにより指定された画像認識エンジンおよびモデル辞書を有する情報提供サーバ13に、ネットワーク21を介して送信する。
モデル情報の要求先の情報提供サーバ13は、後述する図9のステップS41において、モデル情報要求情報を受信し、ステップS45において、モデル情報要求情報に対応して、検索オブジェクトに関連するモデル情報およびモデル番号を、モデル情報の要求元の端末11に送信する。
ステップS9において、モデル情報受信部76は、モデル情報を受信する。具体的には、モデル情報受信部76は、モデル情報の送信を要求した情報提供サーバ13から、ネットワーク21を介して、検索オブジェクトに関連するモデル情報およびモデル番号を受信する。モデル情報受信部76は、受信したモデル情報およびモデル番号を表示制御部77に供給する。
ステップS10において、表示部62は、モデル情報を表示し、モデル情報取得処理は終了する。具体的には、表示部62は、表示制御部77の制御の基に、取得したモデル情報を表示する。例えば、検索オブジェクトの属性、検索オブジェクトに関連する情報を取得することができるウェブサイト、検索オブジェクトのの画像などが表示部62に表示される。
次に、図8のフローチャートを参照して、端末11による図6のモデル情報取得処理に対応して、インデックスリストの送信が要求されたインデックスサーバ12により実行されるインデックスリスト提供処理を説明する。
ステップS21において、インデックスリスト提供部31は、インデックスリスト要求情報を受信する。具体的には、インデックスリスト提供部31は、上述した図6のステップS1において端末11により送信されたインデックスリスト要求情報を、ネットワーク21を介して受信する。
ステップS22において、インデックスリスト提供部31は、インデックスリストを送信して、インデックスリスト提供処理は終了する。具体的には、インデックスリスト提供部31は、インデックスリスト格納部32に格納されているインデックスリストを、インデックスリストの要求元の端末11に、ネットワーク21を介して送信する。
次に、図9のフローチャートを参照して、端末11による図6のモデル情報取得処理に対応して、モデル情報の送信が要求された情報提供サーバ13により実行されるモデル情報提供処理を説明する。
ステップS41において、モデル情報要求受信部101は、モデル情報要求情報を受信する。具体的には、モデル情報要求受信部101は、上述した図6のステップS8において端末11により送信されたモデル情報要求情報を、ネットワーク21を介して受信する。モデル情報要求受信部101は、受信したモデル情報要求情報をモデル辞書決定部102に供給する。
ステップS42において、モデル辞書決定部102は、使用するモデル辞書を決定する。具体的には、モデル辞書決定部102は、モデル情報要求情報に含まれる(ユーザにより指定された)モデル情報識別番号および画像認識エンジン識別番号に基づいて、モデル情報の検索に用いるモデル辞書および画像認識エンジンを決定する。モデル辞書決定部102は、決定した画像認識エンジンおよびモデル辞書を用いてモデル情報を検索するように指示する情報、並びに、オブジェクト画像を画像認識部103に供給する。
ステップS43において、画像認識部103は、検索オブジェクトを認識する。具体的には、画像認識部103は、ユーザにより指定されたモデル辞書に登録されているモデル画像情報に基づいて、ユーザにより指定された画像認識エンジンを用いて、オブジェクト画像内の検索オブジェクトを認識する。これにより、ユーザにより指定されたモデル辞書にモデル画像情報およびモデル情報が登録されているモデルのうち、検索オブジェクトに最も近いモデルが特定される。画像認識部103は、特定したモデルのモデル番号、および、使用したモデル辞書を示す情報をモデル情報取得部104に供給する。なお、このとき用いられる画像認識の手法は、特定の手法に限定されるものではなく、検索オブジェクトをより高速かつ正確に認識することができる手法を用いるようにするのが望ましい。
ステップS44において、モデル情報取得部104は、モデル情報を取得する。具体的には、モデル情報取得部104は、検索オブジェクトに特定されたモデルに関連するモデル情報を、画像認識部103が使用したモデル辞書から取得する。モデル情報取得部104は、取得したモデル情報およびモデル番号をモデル情報送信部105に供給する。
ステップS45において、モデル情報送信部105は、モデル情報を送信して、モデル情報提供処理は終了する。具体的には、モデル情報送信部105は、検索オブジェクトに関連する情報として、取得したモデル情報およびモデル番号を、ネットワーク21を介して、モデル情報の要求元の端末11に送信する。
以上のように、ユーザは、モデル情報の検索に用いる画像認識エンジンおよびモデル辞書を指定して、検索オブジェクトの画像を含むオブジェクト画像を情報提供サーバ13に送信するだけで、簡単に検索オブジェクトに関連するモデル情報を取得することができる。また、モデル情報を検索するモデル辞書が限定され、かつ、各モデル辞書に特化された画像認識エンジンが用いられるので、モデル情報の検索がより正確かつ高速になる。従って、ユーザは、より迅速に所望の情報を取得することができる。また、インデックスリストを適宜更新するようにすることにより、最新の情報を取得できるモデル辞書が選択され、最新の情報を取得することができるようになる。
なお、各モデル辞書を使用する画像認識エンジンが、各モデル辞書に対してそれぞれ1種類に限定される場合、モデル辞書が決まれば、画像認識エンジンも決定されるので、画像認識エンジンに関する情報をインデックス情報に必ずしも含める必要はない。
また、例えば、上述した図6のステップS5において表示される選択メニューを、図10に示されるようにしてもよい。図10に示される選択メニューは、図7に示される選択メニューと比較して、オブジェクト画像131および検索ボタン134が表示される点が共通し、画像認識エンジン選択リスト132およびモデル辞書選択リスト133の代わりに、リンク先リスト141が表示されている点が異なる。リンク先リスト141の各項目には、モデル情報の検索に用いる画像認識エンジンおよびモデル辞書を示すテキストが表示され、各テキストには、テキストに示される画像認識エンジンおよびモデル辞書を有する情報提供サーバ13の位置情報を示すハイパーリンクが埋め込まれている。ユーザは、操作部63を用いて、リンク先リスト141の中の所望の項目を選択することにより、モデル情報の検索に用いる情報提供サーバ13、画像認識エンジン、および、モデル辞書を指定することができる。
図11は、図10の選択メニューを表示させる場合のインデックス情報のデータ構造の例を示す図である。図11に示されるインデックス情報は、図2に示されるインデックス情報と比較して、情報提供サーバ位置情報、画像認識エンジン識別番号、および、モデル辞書識別番号を含む点が共通し、リンク文字列を含み、画像認識エンジン用テキストおよびモデル辞書用テキストを含まない点が異なる。なお、リンク文字列には、図10の選択メニューのリンク先リスト141の各項目に表示されるテキストが設定される。
なお、例えば、雑誌やカタログなどの表紙に、その雑誌やカタログなどに掲載されている画像内のオブジェクトに関連するモデル情報の取得先を示す、例えば図2に示されるデータ構造を有するインデックス情報を示すインデックス画像を印刷しておき、インデックス画像からインデックス情報を検出するようにしてもよい。図12のフローチャートを参照して、インデックス情報をインデックス画像から取得するようにした場合に、端末11により実行されるモデル情報取得処理を説明する。なお、この処理は、例えば、ユーザが操作部63を操作して、画像検索サービスを利用するためのアプリケーションプログラムを端末11に実行させたとき開始される。
ステップS61において、上述した図6のステップS3の処理と同様に、表示部62にオブジェクト画像の入力ガイダンスが表示される。
ステップS62において、上述した図6のステップS4の処理と同様に、画像取得部72は、画像入力部61よりオブジェクト画像を取得する。画像取得部72は、取得したオブジェクト画像を送信サーバ決定部74および表示制御部77に供給する。
ステップS63において、表示部62は、インデックス画像の入力ガイダンスを表示する。具体的には、表示部62は、表示制御部77の制御の基に、例えば、ステップS62においてオブジェクト画像が撮影されたページを含む雑誌またはカタログなどの表紙や裏表紙などに印刷されているインデックス画像(例えば、バーコード、2次元コードなどの識別コード)の入力を促すガイダンスを表示する。
ステップS64において、画像取得部72は、インデックス画像を取得する。具体的には、例えば、ユーザは、デジタルカメラである画像入力部61により、インデックス画像を撮影する。画像入力部61は、撮影したインデックス画像をインデックス情報検出部73および表示制御部77に供給する。
ステップS65において、インデックス情報検出部73は、インデックス情報を検出する。具体的には、インデックス情報73は、インデックス画像を解析することにより、インデックス画像に示されるインデックス情報を検出する。例えば、インデックス情報が図2に示されるデータ構造を有する場合、情報提供サーバ位置情報、画像認識エンジン識別番号、画像認識エンジン用テキスト、モデル辞書識別番号、および、モデル辞書用テキストが検出される。インデックス情報検出部73は、検出したインデックス情報を送信サーバ決定部74および表示制御部77に供給する。
表示部62は、表示制御部77の制御の基に、例えば、図13に示される検索画面を表示する。図13の検索画面には、オブジェクト画像151、インデックス画像152、インデックス画像から検出されたインデックス情報に示される画像認識エンジン用テキストおよびモデル辞書用テキストからなる文字列153、並びに、検索ボタン154が表示される。
ステップS66において、送信サーバ決定部74は、モデル情報の要求先を決定する。具体的には、ユーザが、操作部63を操作することにより、図13の検索画面の検索ボタン154を押下した場合、操作部63は、検索ボタン154が押下されたことを示す情報を、送信サーバ決定部74に供給する。送信サーバ決定部74は、ステップS65において取得したインデックス情報に示される画像認識エンジンおよびモデル辞書を、モデル情報の検索に用いる画像認識エンジンおよびモデル辞書に決定する。また、送信サーバ決定部74は、インデックス情報内の位置情報に示される位置にある情報提供サーバ13をモデル情報の要求先に決定する。送信サーバ決定部74は、オブジェクト画像、並びに、インデックス情報に示される画像認識エンジン識別番号、モデル辞書識別番号、および、情報提供サーバ13の位置情報をモデル情報要求部75に供給する。
ステップS67乃至S69の処理は、上述した図6のステップS8乃至S10の処理と同様であり、その説明は、繰り返しになるので省略する。
なお、端末11による図12のモデル情報取得処理に対応して実行される、情報提供サーバ13によるモデル情報提供処理は、上述した図9のモデル情報提供処理と同様であり、その説明は繰り返しになるので省略する。
これにより、ユーザが検索に用いる画像認識エンジンおよびモデル辞書を指定しなくても、検索オブジェクトに関連するモデル情報を簡単に取得することができるようになる。例えば、あるカタログの任意のページと、カタログの表紙に印刷されているインデックス画像を撮影して、検索ボタン154を押下するだけで、カタログの任意のページ内のオブジェクトに関連する情報を取得することができる。
なお、インデックス画像は上述した識別コードに限定されず、インデックス情報を示すことができる画像であれば、特にその方式は限定されない。また、インデックス情報を示すテキストの画像を用いて、テキストの内容を文字認識することによりインデックス情報を検出するようにしてもよい。
また、例えば、雑誌やカタログなどの各ページにインデックス画像をウォーターマークとして埋め込んでおき、埋め込まれたウォーターマークからインデックス情報を検出するようにしてもよい。この場合、オブジェクト画像にインデックス画像が含まれるようになり、画像を取り込む回数を削減することができ、より簡単に検索オブジェクトに関連するモデル情報を取得することができるようになる。
さらに、インデックス画像を、例えば、インデックスサーバ12などの他の装置に送信して、他の装置でインデックス情報の検出を行うようにしてもよい。
また、インデックス画像を、例えば、バーコードリーダーなど専用の装置により取り込み、解析するようにしてもよい。
次に、図14乃至図21を参照して、本発明の他の実施の形態について説明する。
図14は、本発明を適用した情報処理システムの一実施の形態を示すブロック図である。なお、図中、図1と対応する部分については同じ符号または下2桁が同じ符号を付してあり、処理が同じ部分に関しては、その説明は繰り返しになるので省略する。
情報処理システム201は、図1の情報処理システム1と比較して、情報提供サーバ13−1乃至13−yを含む点が共通し、端末11−1乃至11−xおよびインデックスサーバ12の代わりに、端末211−1乃至211−xおよびインデックスサーバ212を含む点が異なる。また、インデックスサーバ212は、インデックス情報提供部231およびインデックス辞書格納部232を含むように構成される。さらに、端末211−1乃至211−x、インデックス情報提供部231、および、モデル情報提供部41−1乃至41−yは、ネットワーク21を介して相互に接続されている。
なお、以下、端末211−1乃至211−xを個々に区別する必要がない場合、単に端末211と称する。
端末211は、例えば、携帯電話機、パーソナルコンピュータ、PDA(Personal Digital Assistant)などにより構成される。ユーザは、端末211に所定のアプリケーションプログラムを実行させることにより、情報処理システム201により実現される画像検索サービスを利用することができる。
端末211は、オブジェクト画像(より厳密に言えば、オブジェクト画像内の画像)が属するグループ(以下、画像グループとする)を識別するための画像(以下、グループ識別画像と称する)を含み、グループ識別画像により識別される画像グループに属する画像内のオブジェクトに関連するモデル情報の取得先を示す、例えば図2に示されるデータ構造を有するインデックス情報の送信を要求するインデックス情報要求情報を、ネットワーク21を介して、インデックスサーバ212のインデックス情報提供部231に送信する。
画像グループは、例えば、画像の出所(例えば、各種書籍、電子書籍、映像コンテンツ、カタログ、画像ファイルの種類など)などにより分類される。例えば、雑誌Aの5月号に掲載されている画像の画像グループ、ジャンルBのカタログCに掲載されている画像の画像グループ、映像コンテンツのタイトルDに含まれる画像の画像グループというように画像グループ分類される。また、同じ画像グループに属する画像内のオブジェクトに関連するモデル情報は、全て同じモデル辞書に登録される。例えば、雑誌Aの5月号の画像グループに属する画像(雑誌Aの5月号に掲載されている画像)内のオブジェクトに関連するモデル情報は、同じモデル辞書(例えば、図3のモデル辞書42A−1)に登録される。
なお、1つのモデル辞書に複数の画像グループに属する画像内のオブジェクトに関連するモデル情報を登録するようにしてもよい。例えば、1つのモデル辞書に、雑誌Aの5月号の画像グループに属する画像内のオブジェクトに関連するモデル情報、および、雑誌Aの6月号の画像グループに属する画像内のオブジェクトに関連するモデル情報を登録するようにしてもよい。
また、グループ識別画像は、例えば、そのグループ識別画像により識別される画像グループを代表する画像であり、例えば、雑誌やカタログなどの書物や書類の表紙の画像とされる。
インデックス情報提供部231は、図19を参照して後述するように、インデックス辞書格納部232に格納されているインデックス辞書に登録されているインデックス情報の中から、グループ識別画像に対応するインデックス情報を検索する。インデックス情報提供部231は、検索したインデックス情報を、要求元の端末211にネットワーク21を介して送信する。
インデックス辞書は、各種の画像グループのグループ識別画像に関するグループ識別画像情報と、グループ識別画像により識別される画像グループに属する画像内のオブジェクトに関連するモデル情報の取得先を示す、例えば図2に示されるデータ構造を有するインデックス情報とが関連づけられて登録されている辞書である。グループ識別画像情報は、例えば、グループ識別画像そのもの、または、グループ識別画像から抽出された特徴量を示す情報を含む。
すなわち、インデックス辞書を参照することにより、グループ識別画像により識別される画像グループに属する画像内のオブジェクトに関連するモデル情報が登録されているモデル辞書、そのモデル辞書を使用する画像認識エンジン、および、そのモデル辞書および画像認識エンジンを有する情報提供サーバを特定することができる。
また、端末211は、オブジェクト画像およびグループ識別画像を含み、オブジェクト画像内の検索オブジェクトに関するモデル情報の送信を要求するモデル情報要求情報を、インデックスサーバ212のインデックス情報提供部231に、ネットワーク21を介して送信する。
インデックス情報提供部231は、図21を参照して後述するように、インデックス辞書格納部232に格納されているインデックス辞書に登録されているインデックス情報の中から、グループ識別画像に対応するインデックス情報を検索する。インデックス情報提供部231は、検索したインデックス情報に示される画像認識エンジン識別番号およびモデル辞書識別番号をモデル情報要求情報に追加するとともに、モデル情報要求情報からグループ識別画像を削除する。インデックス情報提供部231は、検索したインデックス情報内の位置情報に示される位置にある情報提供サーバ13のモデル情報提供部41に、内容を変更したモデル情報要求情報を、ネットワーク21を介して送信する。
図15は、図14の端末211の機能の構成の例を示すブロック図である。なお、図中、図4と対応する部分については同じ符号または下2桁が同じ符号を付してあり、処理が同じ部分に関しては、その説明は繰り返しになるので省略する。
端末211は、図4の端末11と比較して、画像入力部61、表示部62、および、操作部63が設けられている点が共通し、サービス処理部64の代わりにサービス処理部264が設けられている点が異なる。また、サービス処理部264は、画像取得部272、送信サーバ決定部274、モデル情報要求部275、モデル情報受信部276、表示制御部277、インデックス情報要求部281、および、インデックス情報受信部282を含むように構成される。
操作部63を利用してユーザが入力した操作内容、正確には、その操作内容を示す情報は、表示制御部277またはインデックス情報要求部281に供給される。
画像取得部272は、画像入力部61から入力される各種の画像を、必要に応じて、インデックス情報検出部73、送信サーバ決定部74、モデル情報要求部275、または、表示制御部77に供給する。例えば、画像取得部272は、画像入力部61から入力されるオブジェクト画像を、送信サーバ決定部274、モデル情報要求部275、または、表示制御部277に供給する。また、例えば、画像取得部272は、画像入力部61から入力されるグループ識別画像を、モデル情報要求部275またはインデックス情報要求部281に供給する。
送信サーバ決定部274は、インデックス情報受信部282からインデックス情報を取得した場合、オブジェクト画像、インデックス情報に示される画像認識エンジン識別番号、モデル辞書識別番号、および、情報提供サーバ13の位置情報をモデル情報要求部275に供給する。
モデル情報要求部275は、オブジェクト画像、画像認識エンジン識別番号、モデル辞書識別番号、および、情報提供サーバ13の位置情報を送信サーバ決定部274から取得した場合、取得したオブジェクト画像、画像認識エンジン識別番号、および、モデル辞書識別番号を含み、オブジェクト画像内の検索オブジェクトに関連するモデル情報の送信を要求するモデル情報要求情報を、取得した位置情報に示される位置にある情報提供サーバ13に、ネットワーク21を介して送信する。
また、モデル情報要求部275は、オブジェクト画像およびグループ識別画像を画像取得部272から取得した場合、オブジェクト画像およびグループ識別画像を含み、オブジェクト画像内の検索オブジェクトに関するモデル情報の送信を要求するモデル情報要求情報を、インデックスサーバ212に、ネットワーク21を介して送信する。
インデックス情報要求部281は、グループ識別画像を含み、グループ識別画像により識別されるグループに属する画像内のオブジェクトに関連するモデル情報の取得先を示すインデックス情報の送信を要求するインデックス情報要求情報を、ネットワーク21を介して、インデックスサーバ212に送信する。
インデックス情報受信部282は、ネットワーク21を介して、インデックスサーバ212からインデックス情報を受信する。インデックス情報受信部282は、受信したインデックス情報を送信サーバ決定部274に供給する。
図16は、図14のインデックス情報提供部231の詳細を示すブロック図である。インデックス情報提供部231は、受信部301、画像認識部302、インデックス情報取得部303、インデックス情報送信部304、および、モデル情報要求転送部305を含むように構成される。
受信部301は、ネットワーク21を介して、端末211からインデックス情報要求情報またはモデル情報要求情報を受信し、受信したインデックス情報要求情報またはモデル情報要求情報を画像認識部302に供給する。
画像認識部302は、受信部301からインデックス情報要求情報を取得した場合、図19を参照して後述するように、インデックス辞書格納部232に格納されているインデックス辞書に登録されているグループ識別画像情報に基づいて、インデックス情報要求情報に含まれるグループ識別画像を認識する。換言すれば、画像認識部302は、インデックス辞書にグループ識別画像情報が登録されているグループ識別画像のうち、端末211から送信されてきたグループ識別画像に相当するグループ識別画像を特定する。画像認識部302は、インデックス情報要求情報、および、特定されたグループ識別画像を示す情報をインデックス情報取得部303に供給する。
また、画像認識部302は、受信部301からモデル情報要求情報を受信した場合、図21を参照して後述するように、インデックス辞書にグループ識別画像情報が登録されているグループ識別画像のうち、モデル情報要求情報に含まれるグループ識別画像に相当するグループ識別画像を特定する。画像認識部302は、モデル情報要求情報、および、グループ識別画像に相当すると特定されたグループ識別画像を示す情報をインデックス情報取得部303に供給する。
インデックス情報取得部303は、特定されたグループ識別画像に関連づけられているインデックス情報をインデックス辞書格納部232に格納されているインデックス辞書から取得する。インデックス情報取得部303は、取得したインデックス情報を、インデックス情報送信部304またはモデル情報要求転送部305に供給する。また、インデックス情報取得部303は、画像認識部302からモデル情報要求情報を取得した場合、モデル情報要求情報をモデル情報要求転送部305に供給する。
インデックス情報送信部304は、取得したインデックス情報を、ネットワーク21を介して、インデックス情報の要求元の端末211に送信する。
モデル情報要求転送部305は、取得したモデル情報要求情報に、取得したインデックス情報に示される画像認識エンジン識別番号およびモデル辞書識別番号をモデル情報要求情報に追加するとともに、モデル情報要求情報からグループ識別画像を削除する。モデル情報要求転送部305は、取得したインデックス情報内の位置情報に示される位置にある情報提供サーバ13に、内容を変更したモデル情報要求情報を、ネットワーク21を介して送信する。
次に、図17乃至図19を参照して、情報処理システム201により実行される処理を説明する。
まず、図17のフローチャートを参照して、端末211により実行されるモデル情報取得処理を説明する。なお、この処理は、例えば、ユーザが操作部63を操作して、画像検索サービスを利用するためのアプリケーションプログラムを端末211に実行させたとき開始される。
ステップS101において、上述した図6のステップS3の処理と同様に、表示部62にオブジェクト画像の入力ガイダンスが表示される。
ステップS102において、上述した図6のステップS4の処理と同様に、画像取得部272は、画像入力部61よりオブジェクト画像を取得する。画像取得部272は、取得したオブジェクト画像を送信サーバ決定部274および表示制御部277に供給する。
ステップS103において、表示部62は、グループ識別画像の入力ガイダンスを表示する。具体的には、表示部62は、表示制御部277の制御の基に、例えば、ステップS102において取得されたオブジェクト画像の出所である雑誌またはカタログなどの表紙の画像であるグループ識別画像の入力を促すガイダンスを表示する。
ステップS104において、画像取得部272は、グループ識別画像を取得する。具体的には、例えば、ユーザは、デジタルカメラである画像入力部61により、入力ガイダンスにより指定された雑誌またはカタログなどの表紙を撮影する。画像入力部61は、撮影した画像(グループ識別画像)を画像取得部272に供給する。画像取得部272は、取得したグループ識別画像をインデックス情報要求部281および表示制御部277に供給する。
表示部62は、表示制御部277の制御の基に、例えば、図18に示される検索画面を表示する。図18の検索画面には、オブジェクト画像351、グループ識別画像352、および、検索ボタン354が表示される。
ステップS105において、インデックス情報要求部281は、インデックス情報の送信を要求する。具体的には、ユーザが、操作部63を操作することにより、図18の検索画面の検索ボタン353を押下した場合、操作部63は、検索ボタン353が押下されたことを示す情報を、インデックス情報要求部281に供給する。インデックス情報要求部281は、取得したグループ識別画像を含むインデックス情報要求情報を生成し、インデックス情報要求情報を、ネットワーク21を介して、インデックスサーバ212に送信する。
インデックスサーバ212は、後述する図19のステップS121において、インデックス情報要求情報を受信し、ステップS124において、インデックス情報要求情報に含まれるグループ識別画像に基づいて検索したインデックス情報を要求元の端末211に送信する。
ステップS106において、インデックス情報受信部282は、インデックス情報を受信する。具体的には、インデックス情報受信部282は、インデックスサーバ212から、ネットワーク21を介してインデックス情報を受信する。インデックス情報受信部282は、受信したインデックス情報を送信サーバ決定部274に供給する。
ステップS107において、送信サーバ決定部274は、モデル情報の要求先を決定する。具体的には、送信サーバ決定部274は、取得したインデックス情報に示される画像認識エンジンおよびモデル辞書を、モデル情報の検索に用いる画像認識エンジンおよびモデル辞書に決定する。また、送信サーバ決定部274は、インデックス情報内の位置情報に示される位置にある情報提供サーバ13、すなわち、グループ識別画像により識別される画像グループに属する画像内のオブジェクトに関連するモデル情報が登録されているモデル辞書を有する情報提供サーバ13をモデル情報の要求先に決定する。送信サーバ決定部274は、オブジェクト画像、並びに、インデックス情報に示される画像認識エンジン識別番号、モデル辞書識別番号、および、情報提供サーバ13の位置情報をモデル情報要求部275に供給する。
ステップS108乃至S110の処理は、上述した端末11による図6のステップS8乃至S10の処理と同様であり、その説明は、繰り返しになるので省略する。なお、ステップS108乃至S110の処理により、検索オブジェクトに関連するモデル情報およびモデル番号が端末211により取得される。
次に、図19のフローチャートを参照して、端末211による図17のモデル情報取得処理に対応して、インデックスサーバ212により実行されるインデックス情報提供処理を説明する。
ステップS121において、受信部301は、インデックス情報要求情報を受信する。具体的には、受信部301は、上述した図17のステップS105において端末211により送信されたインデックス情報要求情報を、ネットワーク21を介して受信する。受信部301は、受信したインデックス情報要求情報を画像認識部302に供給する。
ステップS122において、画像認識部302は、グループ識別画像を特定する。具体的には、画像認識部302は、インデックス辞書格納部232に格納されているインデックス辞書に登録されているグループ識別画像情報に基づいて、インデックス辞書にグループ識別画像情報が登録されているグループ識別画像のうち、インデックス情報要求情報に含まれるグループ識別画像に相当するグループ識別画像を特定する。これにより、インデックス情報要求情報に含まれるグループ識別画像により識別される画像グループが特定される。画像認識部302は、インデックス情報要求情報、および、特定されたグループ識別画像を示す情報をインデックス情報取得部303に供給する。なお、このとき用いられる画像認識の手法は、特定の手法に限定されるものではなく、グループ識別画像をより高速かつ正確に認識することができる手法を用いるようにするのが望ましい。
ステップS123において、インデックス情報取得部303は、インデックス情報を取得する。具体的には、インデックス情報取得部303は、ステップS122において特定されたグループ識別画像に関連づけられているインデックス情報をインデックス辞書格納部232に格納されているインデックス辞書から取得する。インデックス情報取得部303は、取得したインデックス情報を、インデックス情報送信部304に供給する。
ステップS124において、インデックス情報送信部304は、インデックス情報を送信して、インデックス情報提供処理は終了する。具体的には、インデックス情報送信部304は、取得したインデックス情報を、ネットワーク21を介して、要求元の端末211に送信する。
なお、端末211による図72のモデル情報取得処理に対応して実行される、情報提供サーバ13によるモデル情報提供処理は、上述した図9のモデル情報提供処理と同様であり、その説明は繰り返しになるので省略する。
以上のように、端末211において、インデックス情報の検索または検出を行わずに、検索オブジェクトに関連するモデル情報を取得することができる。また、例えば、上述したように、例えば、雑誌やカタログなどの任意のページを撮影したオブジェクト画像、および、その雑誌の表紙を撮影したインデックス情報検出画像を送信するだけで、オブジェクト画像内の検索オブジェクトに関連するモデル情報を取得することができるため、ユーザにとって分かりやすく、操作が簡単なサービスを提供することができる。
なお、例えば、各画像にグループ識別画像をウォーターマークとして埋め込むようにしてもよい。この場合、オブジェクト画像にグループ識別画像が含まれるようになり、画像を取り込む回数を削減することができ、より簡単に検索オブジェクトに関連するモデル情報を取得することができるようになる。
また、インデックスサーバ212に、オブジェクト画像およびグループ識別画像を送信して、グループ識別画像に基づいて検索されたインデックス情報内の位置情報に示される位置にある情報提供サーバ13、すなわち、グループ識別画像により識別される画像グループに属する画像内のオブジェクトに関連するモデル情報が登録されているモデル辞書を有する情報提供サーバ13に、インデックスサーバ212からオブジェクト画像を転送して、検索オブジェクトに関連するモデル情報を検索するようにしてもよい。図20乃至図22を参照して、この場合の処理の例を説明する。
まず、図20のフローチャートを参照して、端末211により実行されるモデル情報取得処理を説明する。なお、この処理は、例えば、ユーザが操作部63を操作して、画像検索サービスを利用するためのアプリケーションプログラムを端末211に実行させたとき開始される。
ステップS201において、上述した図17のステップS101の処理と同様に、表示部62にオブジェクト画像の入力ガイダンスが表示される。
ステップS202において、上述した図17のステップS102の処理と同様に、画像取得部272は、画像入力部61よりオブジェクト画像を取得する。画像取得部272は、取得したオブジェクト画像をモデル情報要求部275および表示制御部277に供給する。
ステップS203において、上述した図17のステップS103の処理と同様に、表示部62にグループ識別画像の入力ガイダンスが表示される。
ステップS204において、上述した図17のステップS104と同様の処理により、画像取得部272は、グループ識別画像を取得する。画像取得部272は、取得したグループ識別画像をモデル情報要求部275および表示制御部277に供給する。また、表示部62に上述した図18に示される検索画面が表示される。
ステップS205において、モデル情報要求部275は、モデル情報の送信を要求する。具体的には、モデル情報要求部275は、オブジェクト画像およびグループ識別画像を含み、オブジェクト画像内の検索オブジェクトに関連するモデル情報の送信を要求するモデル情報要求情報を、インデックスサーバ212に、ネットワーク21を介して送信する。
インデックスサーバ212は、後述する図21のステップS221において、モデル情報要求情報を受信し、ステップS224において、実際にモデル情報を有する情報提供サーバ13に、モデル情報要求情報を転送する。モデル情報要求情報が転送された情報提供サーバ13は、後述する図22のステップS245において、要求されたモデル情報を要求元の端末211に送信する。
ステップS206において、モデル情報受信部276は、モデル情報を受信する。具体的には、モデル情報受信部276は、情報提供サーバ13から、ネットワーク21を介して、モデル情報を受信する。モデル情報受信部276は、受信したモデル情報を表示制御部277に供給する。
ステップS207において、上述した図6のステップS10の処理と同様に、表示部62にモデル情報が表示され、モデル情報取得処理は終了する。
次に、図21のフローチャートを参照して、端末211による図20のモデル情報取得処理に対応して、インデックスサーバ212により実行されるモデル情報要求情報転送処理を説明する。
ステップS221において、受信部301は、モデル情報要求情報を受信する。具体的には、受信部301は、上述した図20のステップS205において端末211により送信されたモデル情報要求情報を、ネットワーク21を介して受信する。受信部301は、受信したモデル情報要求情報を画像認識部302に供給する。
ステップS222において、上述した図19のステップS122の処理と同様に、グループ識別画像が特定される。画像認識部302は、モデル情報要求情報、および、特定されたグループ識別画像を示す情報をインデックス情報取得部303に供給する。
ステップS223において、上述した図19のステップS123の処理と同様に、インデックス情報が取得される。インデックス情報取得部303は、モデル情報要求情報、および、取得したインデックス情報を、モデル情報要求転送部305に供給する。
ステップS224において、モデル情報要求転送部305は、、モデル情報要求情報を転送し、モデル情報要求情報転送処理は終了する。具体的には、モデル情報要求転送部305は、取得したモデル情報要求情報に、取得したインデックス情報に示される画像認識エンジン識別番号およびモデル辞書識別番号をモデル情報要求情報に追加するとともに、モデル情報要求情報からグループ識別画像を削除する。モデル情報要求転送部305は、取得したインデックス情報内の位置情報に示される位置にある情報提供サーバ13に、内容を変更したモデル情報要求情報を、ネットワーク21を介して送信する。
次に、図22のフローチャートを参照して、インデックスサーバ212による図21のモデル情報要求情報転送処理に対応して、モデル情報要求情報が転送された情報提供サーバ13により実行されるモデル情報提供処理を説明する。
ステップS241において、モデル情報要求受信部101は、モデル情報要求情報を受信する。具体的には、モデル情報要求受信部101は、上述した図21のステップS224においてインデックスサーバ212により転送されたモデル情報要求情報を、ネットワーク21を介して受信する。モデル情報要求受信部101は、受信したモデル情報要求情報をモデル辞書決定部102に供給する。
ステップS242およびS245の処理は、上述した図9のステップS42乃至S45の処理と同様であり、その説明は、繰り返しになるので省略する。
このように、端末211において、インデックス情報に関する処理を行う必要がなくなり、端末211の処理が軽減される。
なお、図1に示される情報処理システム1および図14に示される情報処理システム201の処理をそれぞれ1台の装置により実現するようにしてもよい。図23は、図1の情報処理システム1を1台の装置により実現するようにした場合の情報処理装置の一実施の形態を示すブロック図であり、図24は、図14の情報処理システム201を1台の装置により実現するようにした場合の情報処理装置の一実施の形態を示すブロック図である。
図23の情報処理装置401は、端末11の画像入力部61、表示部62、操作部63、および、サービス処理部64、インデックスサーバ12のインデックスリスト提供部31およびインデックスリスト格納部32、並びに、情報提供サーバ13−1乃至13−zのモデル情報提供部41−1乃至41−yおよびモデル辞書格納部42−1乃至42−yを含むように構成される。サービス処理部64、インデックスリスト提供部31、および、モデル情報提供部41−1乃至41−yは、バス411を介して相互に接続される。
図24の情報処理装置421は、端末211の画像入力部61、表示部62、操作部63、および、サービス処理部264、インデックスサーバ212のインデックス情報提供部231およびインデックス辞書格納部232、並びに、情報提供サーバ13−1乃至13−zのモデル情報提供部41−1乃至41−yおよびモデル辞書格納部42−1乃至42−yを含むように構成される。サービス処理部264、インデックス情報提供部231、および、モデル情報提供部41−1乃至41−yは、バス431を介して相互に接続される。
また、以上の説明では、インデックスサーバ12またはインデックスサーバ212を1台のみ設ける例を示したが、それぞれ複数台設けるようにしてもよい。
さらに、以上の説明では、インデックスリストをインデックスサーバ12から端末11に配布する例を示したが、別の方法により、インデックスリストを配布することも可能である。例えば、インデックスリストを記録した記録媒体を配布して、その記録媒体を介して、インデックスリストを端末11に入力することも可能である。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
図25は、汎用のパーソナルコンピュータ900の内部の構成例を示す図である。CPU(Central Processing Unit)901は、ROM(Read Only Memory)902に記憶されているプログラム、または記録部908からRAM(Random Access Memory)903にロードされたプログラムに従って各種の処理を実行する。RAM903にはまた、CPU901が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU901、ROM902、およびRAM903は、バス904を介して相互に接続されている。このバス904にはまた、入出力インタフェース905も接続されている。
入出力インタフェース905には、ボタン、スイッチ、キーボードあるいはマウスなどで構成される入力部906、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などのディスプレイ、並びにスピーカなどで構成される出力部907、ハードディスクなどで構成される記録部908、およびモデムやターミナルアダプタなどで構成される通信部909が接続されている。通信部909は、インターネットを含むネットワークを介して通信処理を行う。
入出力インタフェース905にはまた、必要に応じてドライブ910が接続され、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどよりなるリムーバブルメディア911が適宜装着され、そこから読み出されたコンピュータプログラムが、記録部908にインストールされる。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録する記録媒体は、図25に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)(登録商標)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア911により構成されるだけでなく、装置本体にあらかじめ組み込まれた状態でユーザに提供される、プログラムが記録されているROM903または記録部908に含まれるハードディスクなどで構成される。
なお、本明細書において、プログラム記録媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
さらに、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
本発明を適用した情報処理システムの一実施の形態を示すブロック図である。 インデックス情報のデータ構造の例を示す図である。 モデル辞書の例を示す図である。 図1の端末の機能の構成の例を示すブロック図である。 図1のモデル情報提供部の機能の構成の例を示すブロック図である。 図1の端末により実行されるモデル情報取得処理を説明するためのフローチャートである。 選択メニューの例を示す図である。 図1のインデックスサーバにより実行されるインデックスリスト提供処理を説明するためのフローチャートである。 図1の情報提供サーバにより実行されるモデル情報提供処理を説明するためのフローチャートである。 選択メニューの他の例を示す図である。 インデックス情報のデータ構造の他の例を示す図である。 図1の端末により実行されるモデル情報取得処理の他の例を説明するためのフローチャートである。 検索画面の例を示す図である。 本発明を適用した情報処理装置の他の実施の形態を示すブロック図である。 図14の端末の機能の構成の例を示すブロック図である。 図14のインデックス情報提供部の機能の構成の例を示すブロック図である。 図14の端末により実行されるモデル情報取得処理を説明するためのフローチャートである。 検索画面に他の例を示す図である。 図14のインデックスサーバにより実行されるインデックス情報提供処理を説明するためのフローチャートである。 図14の端末により実行されるモデル情報取得処理の他の例を説明するためのフローチャートである。 図14のインデックスサーバにより実行されるモデル情報要求情報転送処理を説明するためのフローチャートである。 図14の情報提供サーバにより実行されるモデル情報提供処理を説明するためのフローチャートである。 本発明を適用した情報処理装置の一実施の形態を示すブロック図である。 本発明を適用した情報処理装置の他の実施の形態を示すブロック図である。 パーソナルコンピュータの構成の例を示すブロック図である。
符号の説明
1 情報処理システム, 11 端末, 12 インデックスサーバ, 13 情報提供サーバ, 21 ネットワーク, 31 インデックスリスト提供部, 32 インデックスリスト格納部, 41 モデル情報提供部, 42 モデル辞書格納部, 61 画像入力部, 62 表示部, 63 操作部, 64 サービス処理部, 71 インデックスリスト取得部, 72 画像取得部, 73 インデックス情報検出部, 74 送信サーバ決定部, 75 モデル情報要求部, 76 モデル情報受信部, 77 表示制御部, 101 モデル情報要求受信部, 102 モデル辞書決定部, 103 画像認識部, 104 モデル情報取得部, 105 モデル情報送信部, 201 情報処理システム, 211 端末, 212 インデックスサーバ, 231 インデックス情報提供部, 232 インデックス辞書格納部, 264 サービス処理部, 272 画像取得部, 274 送信サーバ決定部, 275 モデル情報要求部, 276 モデル情報受信部, 277 表示制御部, 281 インデックス情報要求部, 282 インデックス情報受信部, 301 受信部, 302 画像認識部, 303 インデックス情報取得部, 304 インデックス情報送信部, 305 モデル情報要求転送部

Claims (27)

  1. オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている第1の辞書を複数用いて情報を検索する情報処理システムにおいて、
    第1の入力画像を取得する画像取得手段と、
    前記第1の入力画像内のオブジェクトに関連する前記関連情報の検索に用いる前記第1の辞書である使用辞書を決定する辞書決定手段と、
    前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記第1の入力画像内の前記オブジェクトを認識するオブジェクト認識手段と、
    前記オブジェクト認識手段により認識された前記オブジェクトに関連する前記関連情報を前記使用辞書から取得する関連情報取得手段と
    を含む情報処理システム。
  2. 前記辞書決定手段は、ユーザにより指定された前記第1の辞書を前記使用辞書に決定する
    請求項1に記載の情報処理システム。
  3. 前記画像取得手段は、さらに、前記第1の入力画像内の前記オブジェクトに関連する前記関連情報が登録されている前記第1の辞書である登録辞書を示すインデックス画像を取得し、
    前記インデックス画像に示される前記登録辞書を検出する検出手段を
    さらに含み、
    前記辞書決定手段は、前記登録辞書を前記使用辞書に決定する
    請求項1に記載の情報処理システム。
  4. 前記画像取得手段は、さらに、前記第1の入力画像が属する所定のグループを識別するための第2の入力画像を取得し、
    前記グループを識別するための識別画像に関する識別画像情報と、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する前記関連情報が登録されている前記第1の辞書を示すインデックス情報とが関連づけられて登録されている第2の辞書に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像を特定する識別画像特定手段と、
    前記識別画像特定手段により特定された前記識別画像に関連づけられている前記インデックス情報を前記第2の辞書から取得するインデックス情報取得手段と
    をさらに含み、
    前記辞書決定手段は、前記インデックス情報取得手段により取得された前記インデックス情報に示される前記第1の辞書を前記使用辞書に決定する
    請求項1に記載の情報処理システム。
  5. オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書を複数用いて情報を検索する情報処理方法において、
    入力画像の取得を制御し、
    前記入力画像内のオブジェクトに関連する前記関連情報の検索に用いる前記辞書である使用辞書を決定し、
    前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内の前記オブジェクトを認識し、
    認識された前記オブジェクトに関連する前記関連情報の前記使用辞書からの取得を制御する
    ステップを含む情報処理方法。
  6. オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書を複数用いて情報を検索する情報処理であって、
    入力画像の取得を制御する画像取得制御ステップと、
    前記入力画像内のオブジェクトに関連する前記関連情報の検索に用いる前記辞書である使用辞書を決定する辞書決定ステップと、
    前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内の前記オブジェクトを認識しオブジェクト認識ステップと、
    認識された前記オブジェクトに関連する前記関連情報の前記使用辞書からの取得を制御する関連情報取得制御ステップと
    を含む情報処理をコンピュータに実行させるプログラム。
  7. 第1の入力画像を取得する画像取得手段と、
    オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている第1の辞書であって、前記第1の入力画像内のオブジェクトに関連する前記関連情報の検索に用いる第1の辞書である使用辞書を決定する辞書決定手段と、
    前記使用辞書を有する第1の装置である辞書保有装置に、前記第1の入力画像および前記使用辞書を示す情報を送信する第1の送信手段と、
    前記辞書保有装置から送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて認識された前記第1の入力画像内の前記オブジェクトに関連する前記関連情報を受信する第1の受信手段と
    を含む情報処理装置。
  8. 前記第1の辞書、および、前記第1の辞書を有する前記第1の装置を示すインデックス情報のリストであるインデックスリストを取得するインデックスリスト取得手段を
    さらに含み、
    前記辞書決定手段は、前記インデックスリスト内の前記インデックス情報に示される前記第1の辞書の中からユーザにより指定された前記第1の辞書を前記使用辞書に決定する
    請求項7に記載の情報処理装置。
  9. 前記インデックス情報は、さらに、前記第1の辞書を用いて画像認識を行うハードウェアまたはソフトウェアである画像認識エンジンを示し、
    前記第1の送信手段は、さらに、前記インデックスリスト内の前記インデックス情報に示される前記画像認識エンジンの中からユーザにより指定された前記画像認識エンジンであるユーザ指定画像認識エンジンを示す情報を前記辞書保有装置に送信し、
    前記第1の受信手段は、前記辞書保有装置から送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて前記ユーザ指定画像認識エンジンを用いて認識された前記第1の入力画像内の前記オブジェクトに関連する前記関連情報を受信する
    請求項8に記載の情報処理装置。
  10. 前記画像取得手段は、さらに、前記第1の入力画像内の前記オブジェクトに関連する前記関連情報が登録されている前記第1の辞書である登録辞書と前記登録辞書を有する前記第1の装置とを示すインデックス画像を取得し、
    前記インデックス画像に示される前記登録辞書、および、前記登録辞書を有する前記第1の装置を検出する検出手段を
    さらに含み、
    前記辞書決定手段は、前記登録辞書を前記使用辞書に決定し、
    前記第1の送信手段は、前記登録辞書を有する前記第1の装置である前記辞書保有装置に、前記第1の入力画像および前記使用辞書を示す情報を送信する
    請求項7に記載の情報処理装置。
  11. 前記インデックス画像は、前記第1の入力画像にウォーターマークとして埋め込まれている
    請求項10に記載の情報処理装置。
  12. 前記インデックス画像は、識別コードの画像である
    請求項10に記載の情報処理装置。
  13. 前記インデックス画像は、さらに、前記登録辞書を用いて画像認識を行うハードウェアまたはソフトウェアである画像認識エンジンを示し、
    前記第1の送信手段は、さらに、前記画像認識エンジンを示す情報を前記辞書保有装置に送信し、
    前記第1の受信手段は、前記辞書保有装置により送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記画像認識エンジンを用いて認識された前記第1の入力画像内の前記オブジェクトに関連する前記関連情報を受信する
    請求項10に記載の情報処理装置。
  14. 前記画像取得手段は、さらに、前記第1の入力画像が属する所定のグループを識別するための第2の入力画像を取得し、
    前記第2の入力画像を第2の装置に送信する第2の送信手段と、
    前記第2の装置から送信されてくる、前記第2の入力画像に基づいて識別された前記グループに属する画像内のオブジェクトに関連する前記関連情報が登録されている前記第1の辞書である登録辞書、および、前記登録辞書を有する前記第1の装置を示すインデックス情報を受信する第2の受信手段と
    をさらに含み、
    前記辞書決定手段は、前記登録辞書を前記使用辞書に決定し、
    前記第1の送信手段は、前記登録辞書を有する前記第1の装置である前記辞書保有装置に、前記第1の入力画像および前記使用辞書を示す情報を送信する
    請求項7に記載の情報処理装置。
  15. 前記インデックス情報は、さらに、前記登録辞書を用いて画像認識を行うハードウェアまたはソフトウェアである画像認識エンジンを示し、
    前記第1の送信手段は、さらに、前記画像認識エンジンを示す情報を前記辞書保有装置に送信し、
    前記第1の受信手段は、前記辞書保有装置により送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて、前記画像認識エンジンを用いて認識された前記第1の入力画像内の前記オブジェクトに関連する前記関連情報を受信する
    請求項14に記載の情報処理装置。
  16. 入力画像の取得を制御し、
    オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書であって、前記入力画像内のオブジェクトに関連する前記関連情報の検索に用いる辞書である使用辞書を決定し、
    前記使用辞書を有する装置である辞書保有装置への、前記入力画像および前記使用辞書を示す情報の送信を制御し、
    前記辞書保有装置から送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて認識された前記入力画像内の前記オブジェクトに関連する前記関連情報の受信を制御する
    ステップを含む情報処理方法。
  17. 入力画像の取得を制御する画像取得制御ステップと、
    オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書であって、前記入力画像内のオブジェクトに関連する前記関連情報の検索に用いる辞書である使用辞書を決定する辞書決定ステップと、
    前記使用辞書を有する装置である辞書保有装置への、前記入力画像および前記使用辞書を示す情報の送信を制御する送信制御ステップと、
    前記辞書保有装置から送信されてくる、前記使用辞書に登録されている前記オブジェクト画像情報に基づいて認識された前記入力画像内の前記オブジェクトに関連する前記関連情報の受信を制御する受信制御ステップと
    を含む処理をコンピュータに実行させるプログラム。
  18. オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書を複数用いて情報を検索する情報処理装置において、
    他の装置から送信されてくる、入力画像および使用する前記辞書を指定する情報を受信する受信手段と、
    指定された前記辞書である指定辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内のオブジェクトを認識するオブジェクト認識手段と、
    前記オブジェクト認識手段により認識された前記オブジェクトに関連する前記関連情報を前記指定辞書から取得する関連情報取得手段と、
    前記関連情報取得手段により取得された前記関連情報を前記他の装置に送信する送信手段と
    を含む情報処理装置。
  19. 前記受信手段は、さらに、前記指定辞書を用いて画像認識を行うハードウェアまたはソフトウェアである画像認識エンジンを示す情報を受信し、
    前記オブジェクト認識手段は、前記指定辞書に登録されている前記オブジェクト画像情報に基づいて、前記画像認識エンジンを用いて前記入力画像内のオブジェクトを認識する
    請求項18に記載の情報処理装置。
  20. オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書を複数用いて情報を検索する情報処理方法において、
    他の装置から送信されてくる、入力画像および使用する前記辞書を指定する情報の受信を制御し、
    指定された前記辞書である指定辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内のオブジェクトを認識し、
    認識された前記オブジェクトに関連する前記関連情報の前記指定辞書からの取得を制御し、
    取得された前記関連情報の前記他の装置への送信を制御する
    ステップを含む情報処理方法。
  21. オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている辞書を複数用いて情報を検索する情報処理であって、
    他の装置から送信されてくる、入力画像および使用する前記辞書を指定する情報の受信を制御する受信制御ステップと、
    指定された前記辞書である指定辞書に登録されている前記オブジェクト画像情報に基づいて、前記入力画像内のオブジェクトを認識するオブジェクト認識ステップと、
    認識された前記オブジェクトに関連する前記関連情報の前記指定辞書からの取得を制御する関連情報取得制御ステップと、
    取得された前記関連情報の前記他の装置への送信を制御する送信制御ステップと
    を含む情報処理をコンピュータに実行させるプログラム。
  22. 第1の装置から送信されてくる、第1の入力画像が属する所定のグループを識別するための第2の入力画像を受信する受信手段と、
    グループを識別するための識別画像に関する識別画像情報と、
    オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている第1の辞書であって、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する関連情報が登録されている前記第1の辞書、および、前記第1の辞書を有する第2の装置を示すインデックス情報と
    が関連づけられて登録されている第2の辞書に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像を特定する識別画像特定手段と、
    前記識別画像特定手段により特定された前記識別画像に関連づけられている前記インデックス情報を前記第2の辞書から取得する取得手段と
    を含む情報処理装置。
  23. 前記取得手段により取得された前記インデックス情報を、前記第1の装置に送信する送信手段を
    さらに含む請求項22に記載の情報処理装置。
  24. 前記受信手段は、さらに、前記第1の装置から送信されてくる、前記第1の入力画像を受信し、
    前記取得手段により取得された前記インデックス情報に示される前記第2の装置に、前記第1の入力画像、および、前記インデックス情報に示される前記第1の辞書を示す情報を送信する送信手段を
    さらに含む請求項22に記載の情報処理装置。
  25. 第1の装置から送信されてくる、第1の入力画像が属する所定のグループを識別するための第2の入力画像の受信を制御し、
    グループを識別するための識別画像に関する識別画像情報と、
    オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている第1の辞書であって、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する関連情報が登録されている前記第1の辞書、および、前記第1の辞書を有する第2の装置を示すインデックス情報と
    が関連づけられて登録されている第2の辞書に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像を特定し、
    特定された前記識別画像に関連づけられている前記インデックス情報の前記第2の辞書からの取得を制御する
    ステップを含む情報処理方法。
  26. 第1の装置から送信されてくる、第1の入力画像が属する所定のグループを識別するための第2の入力画像の受信を制御する受信制御ステップと、
    グループを識別するための識別画像に関する識別画像情報と、
    オブジェクトの画像に関するオブジェクト画像情報と前記オブジェクトに関連する関連情報とが登録されている第1の辞書であって、前記識別画像により識別される前記グループに属する画像内のオブジェクトに関連する関連情報が登録されている前記第1の辞書、および、前記第1の辞書を有する第2の装置を示すインデックス情報と
    が関連づけられて登録されている第2の辞書に登録されている前記識別画像情報に基づいて、前記第2の入力画像に相当する前記識別画像を特定する識別画像特定ステップと、
    特定された前記識別画像に関連づけられている前記インデックス情報の前記第2の辞書からの取得を制御する取得制御ステップと
    を含む処理をコンピュータに実行させるプログラム。
  27. 請求項6、17、21、または26のうちいずれかに記載のプログラムが記録されている記録媒体。
JP2005242721A 2005-08-24 2005-08-24 情報処理システム、情報処理装置および方法、プログラム、並びに、記録媒体 Pending JP2007058532A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005242721A JP2007058532A (ja) 2005-08-24 2005-08-24 情報処理システム、情報処理装置および方法、プログラム、並びに、記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005242721A JP2007058532A (ja) 2005-08-24 2005-08-24 情報処理システム、情報処理装置および方法、プログラム、並びに、記録媒体

Publications (1)

Publication Number Publication Date
JP2007058532A true JP2007058532A (ja) 2007-03-08

Family

ID=37921988

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005242721A Pending JP2007058532A (ja) 2005-08-24 2005-08-24 情報処理システム、情報処理装置および方法、プログラム、並びに、記録媒体

Country Status (1)

Country Link
JP (1) JP2007058532A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011090410A (ja) * 2009-10-20 2011-05-06 Canon Inc 画像処理装置、画像処理システムおよび画像処理装置の制御方法
CN102959551A (zh) * 2011-04-25 2013-03-06 松下电器产业株式会社 图像处理装置
JP2015018405A (ja) * 2013-07-10 2015-01-29 株式会社リコー 端末装置、情報処理プログラム、情報処理方法および情報処理システム
JP2016521390A (ja) * 2013-03-14 2016-07-21 グーグル インコーポレイテッド メディアコンテンツに対応する携帯型コンテンツを提供するための方法、システム、および記録媒体
JP2017504861A (ja) * 2013-11-12 2017-02-09 ピンタレスト,インコーポレイテッド 画像ベース検索
JP2017068627A (ja) * 2015-09-30 2017-04-06 株式会社東芝 画像処理端末及び画像処理サーバ
US10678828B2 (en) 2016-01-03 2020-06-09 Gracenote, Inc. Model-based media classification service using sensed media noise characteristics
WO2022255151A1 (ja) * 2021-05-31 2022-12-08 株式会社日立製作所 データ管理システム、データ管理方法、及び非一時的記録媒体

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1091634A (ja) * 1996-08-15 1998-04-10 Hewlett Packard Co <Hp> 写真画像検索システム
JP2002140341A (ja) * 2000-11-02 2002-05-17 Sekisui House Ltd 画像検索方法、その装置及びデーターベース構造
JP2002202994A (ja) * 2000-12-28 2002-07-19 Canon Inc 画像検索システム、サーバ、画像検索方法及び記録媒体
JP2005018407A (ja) * 2003-06-26 2005-01-20 Ricoh Co Ltd 画像検索装置
JP2005157931A (ja) * 2003-11-28 2005-06-16 Ricoh Co Ltd 画像検索装置、画像検索方法、プログラム及び記憶媒体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1091634A (ja) * 1996-08-15 1998-04-10 Hewlett Packard Co <Hp> 写真画像検索システム
JP2002140341A (ja) * 2000-11-02 2002-05-17 Sekisui House Ltd 画像検索方法、その装置及びデーターベース構造
JP2002202994A (ja) * 2000-12-28 2002-07-19 Canon Inc 画像検索システム、サーバ、画像検索方法及び記録媒体
JP2005018407A (ja) * 2003-06-26 2005-01-20 Ricoh Co Ltd 画像検索装置
JP2005157931A (ja) * 2003-11-28 2005-06-16 Ricoh Co Ltd 画像検索装置、画像検索方法、プログラム及び記憶媒体

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011090410A (ja) * 2009-10-20 2011-05-06 Canon Inc 画像処理装置、画像処理システムおよび画像処理装置の制御方法
US8526673B2 (en) 2009-10-20 2013-09-03 Canon Kabushiki Kaisha Apparatus, system and method for recognizing objects in images using transmitted dictionary data
CN102959551A (zh) * 2011-04-25 2013-03-06 松下电器产业株式会社 图像处理装置
US9008438B2 (en) 2011-04-25 2015-04-14 Panasonic Intellectual Property Corporation Of America Image processing device that associates photographed images that contain a specified object with the specified object
JP2016521390A (ja) * 2013-03-14 2016-07-21 グーグル インコーポレイテッド メディアコンテンツに対応する携帯型コンテンツを提供するための方法、システム、および記録媒体
JP2015018405A (ja) * 2013-07-10 2015-01-29 株式会社リコー 端末装置、情報処理プログラム、情報処理方法および情報処理システム
JP2017504861A (ja) * 2013-11-12 2017-02-09 ピンタレスト,インコーポレイテッド 画像ベース検索
US10515110B2 (en) 2013-11-12 2019-12-24 Pinterest, Inc. Image based search
US11436272B2 (en) 2013-11-12 2022-09-06 Pinterest, Inc. Object based image based search
JP2017068627A (ja) * 2015-09-30 2017-04-06 株式会社東芝 画像処理端末及び画像処理サーバ
US10678828B2 (en) 2016-01-03 2020-06-09 Gracenote, Inc. Model-based media classification service using sensed media noise characteristics
US10902043B2 (en) 2016-01-03 2021-01-26 Gracenote, Inc. Responding to remote media classification queries using classifier models and context parameters
WO2022255151A1 (ja) * 2021-05-31 2022-12-08 株式会社日立製作所 データ管理システム、データ管理方法、及び非一時的記録媒体

Similar Documents

Publication Publication Date Title
US10372748B2 (en) Methods and apparatuses for presenting content
US20170132225A1 (en) Storing and retrieving associated information with a digital image
US9361135B2 (en) System and method for outputting and selecting processed content information
JP2007058532A (ja) 情報処理システム、情報処理装置および方法、プログラム、並びに、記録媒体
JPH11250071A (ja) 画像データベースの構築方法および画像データベース装置並びに画像情報記憶媒体
US20120246184A1 (en) Storing and retrieving information associated with a digital image
US20060055965A1 (en) Image processing apparatus, program and recording medium
US7233990B1 (en) File processing using mapping between web presences
US11709881B2 (en) Visual menu
US20190034455A1 (en) Dynamic Glyph-Based Search
JP5627332B2 (ja) データ検索装置及びその制御方法、コンピュータプログラム
EP2028588A2 (en) Method and apparatus for forwarding media objects to a cellular telephone user
JP2005275488A (ja) 入力支援方法およびプログラム
US20110016378A1 (en) System and method of automatically identifying and marking hyperimages when displayed
KR101153534B1 (ko) 웹 데이터 및 로컬 데이터에 대한 데이터 자동 태깅 방법및 데이터 자동 태깅 시스템
JP5900204B2 (ja) 文書処理装置及びプログラム
KR100845355B1 (ko) 이미지 선호도 측정 어플리케이션, 시스템 및 그 동작 방법
JP2002236682A (ja) データベース・システム
KR20150135042A (ko) 검색을 수행하는 방법 및 장치
JP2006004062A (ja) 画像データベース作成装置および画像検索方法
JP2008257458A (ja) コンテンツ管理システム
JP2002132825A (ja) 画像検索システム、画像検索方法、画像検索プログラム、画像検索プログラムを記録したコンピュータ読み取り可能な記憶媒体、および画像検索装置
JP2004139210A (ja) 画像検索装置
JP2006171891A (ja) 画像管理装置、画像管理方法、および画像管理プログラム
JP2009134675A (ja) コンテンツ交換装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080704

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101125

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110315