JPWO2011001587A1 - コンテンツ分類装置、コンテンツ分類方法及びコンテンツ分類プログラム - Google Patents

コンテンツ分類装置、コンテンツ分類方法及びコンテンツ分類プログラム Download PDF

Info

Publication number
JPWO2011001587A1
JPWO2011001587A1 JP2011520748A JP2011520748A JPWO2011001587A1 JP WO2011001587 A1 JPWO2011001587 A1 JP WO2011001587A1 JP 2011520748 A JP2011520748 A JP 2011520748A JP 2011520748 A JP2011520748 A JP 2011520748A JP WO2011001587 A1 JPWO2011001587 A1 JP WO2011001587A1
Authority
JP
Japan
Prior art keywords
event
information
content
shooting
event occurrence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2011520748A
Other languages
English (en)
Inventor
亮太 間瀬
亮太 間瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2011001587A1 publication Critical patent/JPWO2011001587A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/587Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using geographical or spatial information, e.g. location
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Library & Information Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)

Abstract

イベント生起情報記憶手段は、コンテンツが分類されるイベントと、コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とを対応付けた情報であるイベント生起情報を記憶する。イベント生起情報修正手段は、複数年度にわたる撮影日時情報と基準年度とをもとに、イベント生起情報を修正する。イベント判定手段は、分類されるコンテンツの撮影日時情報が、イベント生起情報修正手段が修正したイベント生起情報の日付に対応することを条件に、そのイベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する。

Description

本発明は、コンテンツをイベント別に分類するコンテンツ分類装置、コンテンツ分類方法及びコンテンツ分類プログラムに関する。
近年、デジタルカメラやカメラ付き携帯電話機の普及に加え、内蔵メモリやメディアの大容量化や低価格化が進み、莫大な写真や動画がパーソナルコンピュータ等に蓄えられるようになってきている。こうした状況に対し、撮影された複数のコンテンツをグループ単位に自動で分類する技術が提案されている。
特許文献1には、高画質な画像が再生されたプリントを安定して出力できる画像処理方法および画像処理装置が記載されている。特許文献1に記載された画像処理方法では、供給された画像の画像特徴量を算出し、その画像特徴量を用いて、人物、花、静物などのシーン情報ごとに画像を分類する。また、特許文献1に記載された画像処理方法では、カメラで撮影された全コマの画像を1枚のプリントに再生した「インデックスプリント」を編集する手段として、シーン情報以外にも、撮影日や撮影時間、撮影倍率、ストロボ発光の有無などの情報を利用して画像をグループ化する。
特許文献2には、複数の写真画像から自動的にユーザが気に入った画像を選択できる写真画像選別装置が記載されている。特許文献2に記載された写真画像選別装置は、写真画像の色、被写体の形など、シーンの特徴を解析することによってシーンの特徴が類似した画像を同じ類似写真画像群に分類する。また、特許文献2に記載された写真画像選別装置は、画像の付属情報として付された撮影日時、場所、カメラの向きなどの撮影条件に基づいても画像を類似写真画像群に分類する。
特許文献3には、膨大な画像データの中からスライドショーに適する画像データを抽出できる画像表示装置及び画像表示方法が記載されている。特許文献3に記載された画像表示方法では、画像データが有するメタデータ及びその画像データが示す画像に含まれる人物の属性情報に応じて、画像データをグループに分類する。
特許文献4には、コンテンツを効率よく分類してユーザに提示できるコンテンツ分類方法及び装置が記載されている。特許文献4に記載されたコンテンツ分類方法では、コンテンツを撮影した時間、場所、方位、コンテンツの撮影者の個人情報などの属性と、代表コンテンツとの類似度とをもとに、分類規則データベースに格納された分類規則にしたがって、入力されたコンテンツを分類する。
特許文献5には、画像コンテンツの内容を、容易に、かつ確実に分類することが可能な画像処理装置が記載されている。特許文献5に記載された画像処理装置は、関連情報解析部が、撮影画像データの分類に用いることが可能な情報を抽出して解析を行う。また、関連情報解析部が、その画像データが撮影された状況に関する関連情報(場所、日時、条件など)を解析する。そして、分類推定部が、予め定められた推定ルール及び解析結果をもとに、ルールに対する適合度を確率的に付与する等して、画像データをイベント(例えば、運動会、誕生日など)に分類する。
特開2008−146657号公報(段落0009,0038,0058) 特許第3984175号公報(段落0009,0013) 特開2008−131330号公報(段落0005,0008) 特開2004−280254号公報(段落0018,0022) 特開2008−165700号公報(段落0043,0061,0069〜0073)
特許文献1に記載された画像処理装置や、特許文献2に記載された写真画像選別装置では、写真や動画を分類する際、同一のシーン(イベントと記すこともある。)におけるコンテンツは画像的に類似するという性質を利用する。例えば、特許文献1に記載された画像処理装置では、入力される画像から画像特徴量を抽出し、その画像特徴量の類似度により、分類先のシーンを分類する。
しかし、この場合、画像的には類似するが、シーンとしては異なる画像を判断できないという課題がある。例えば、特許文献1に記載された画像処理装置では、シーンとしては異なるが、画像特徴量に大きな差異がない画像(例えば「卒業式」と「入学式」の画像など)が存在する場合、それぞれのシーンに画像を分類することはできない。
また、特許文献3に記載された画像表示方法や、特許文献4に記載されたコンテンツ分類方法では、写真や動画を分類する際、同じシーンを表すコンテンツは、時間、場所など、撮影条件が近い(類似する)という性質を利用する。
この場合、時間や場所、撮影条件といった画像データ(コンテンツ)が有するメタデータ(属性)ごとにグルーピングし、グループ名を付与することは可能である。しかし、この方法では、各画像データが、どういったイベント(クリスマス、ハロウィン、雛祭り、入学式、運動会など)の時に撮影された物なのか判断できず、それぞれの画像データをイベントごとに分類することができないという課題がある。
特許文献5に記載された画像処理装置では、イベントと撮影日時とを対応付けたルールをもとに、画像データのイベントを分類する。しかし、イベントを特定の撮影日時に対応付けた場合、その日時以外に撮影された画像データは正しく分類することが出来ない。そのため、例えば、毎年行われる開催日が変化するイベントの情報を設定しようとする場合、その都度ルールを設定しなければならず、設定負荷が高いという課題がある。また、特許文献5には、ルールに対して適合度を確率的に付与する方式も開示されているが、この方式では、まず、ルールを設定してから、各ルールに対して確率を付与する形態になっているため、この場合も同様に、ルールの設定負荷が高いという課題がある。一方で、一定の期間(例えば、月単位)をもたせた撮影日時にイベントを対応付けた場合、同一ルールに適合する画像データの候補は増えてしまう。この場合、結果として、画像データを適切に分類することが出来なくなってしまうという課題がある。
そこで、本発明は、異なるイベントを表すコンテンツの画像が類似していても、それらのコンテンツを適切なイベントに分類できるとともに、イベントを分類するための情報の設定負荷を低減できるコンテンツ分類装置、コンテンツ分類方法及びコンテンツ分類プログラムを提供することを目的とする。
本発明によるコンテンツ分類装置は、コンテンツが分類されるイベントと、コンテンツのメタデータであって、コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とを対応付けた情報であるイベント生起情報を記憶するイベント生起情報記憶手段と、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定手段と、複数年度にわたる撮影日時情報と、撮影日時情報を比較する際に基準とする年度である基準年度とをもとに、イベント生起情報を修正するイベント生起情報修正手段とを備え、イベント判定手段が、分類されるコンテンツの撮影日時情報が、イベント生起情報修正手段が修正したイベント生起情報の日付に対応することを条件に、そのイベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定することを特徴とする。
本発明による他の態様のコンテンツ分類装置は、コンテンツが分類されるイベントと、撮影されたコンテンツのメタデータである撮影取得情報とを対応付けた情報であるイベント生起情報を記憶するイベント生起情報記憶手段と、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定手段とを備え、イベント生起情報記憶手段が、イベントに関連する複数のコンテンツの撮影取得情報をもとに算出される値であって、その撮影取得情報によって特定されるイベントの尤もらしさの程度を示す値である尤度又はその尤度を算出するための関数を記憶し、イベント判定手段が、分類されるコンテンツの撮影取得情報に対応する尤度が高いイベントほど尤もらしいと判断することを特徴とする。
本発明によるコンテンツ分類方法は、コンテンツが分類されるイベントと、コンテンツのメタデータであって、コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とを対応付けた情報であるイベント生起情報を、複数年度にわたる撮影日時情報と、撮影日時情報を比較する際に基準とする年度である基準年度とをもとに修正し、分類されるコンテンツの撮影日時情報が、修正されたイベント生起情報の日付に対応することを条件に、そのイベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定することを特徴とする。
本発明による他の態様のコンテンツ分類方法は、コンテンツが分類されるイベントと、撮影されたコンテンツのメタデータである撮影取得情報とを対応付けた情報であるイベント生起情報が、分類されるコンテンツの撮影取得情報と対応することを条件に、その撮影取得情報に対応するイベント生起情報のイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定し、コンテンツの分類先イベントを判定するときに、イベントに関連する複数のコンテンツの撮影取得情報をもとに算出される値であって、その撮影取得情報によって特定されるイベントの尤もらしさの程度を示す値である尤度に基づき、分類されるコンテンツの撮影取得情報に対応する尤度が高いイベントほど尤もらしいと判断することを特徴とする。
本発明によるコンテンツ分類プログラムは、コンテンツが分類されるイベントと、コンテンツのメタデータであって、コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とを対応付けた情報であるイベント生起情報を記憶するイベント生起情報記憶手段を備えたコンピュータに搭載されるコンテンツ分類プログラムであって、コンピュータに、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定処理、および、複数年度にわたる撮影日時情報と、撮影日時情報を比較する際に基準とする年度である基準年度とをもとに、イベント生起情報を修正するイベント生起情報修正処理を実行させ、イベント判定処理で、分類されるコンテンツの撮影日時情報が、イベント生起情報修正手段が修正したイベント生起情報の日付に対応することを条件に、そのイベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定させることを特徴とする。
本発明による他の態様のコンテンツ分類プログラムは、コンテンツが分類されるイベントと、撮影されたコンテンツのメタデータである撮影取得情報とを対応付けた情報であるイベント生起情報、及び、イベントに関連する複数のコンテンツの撮影取得情報をもとに算出される値であって、その撮影取得情報によって特定されるイベントの尤もらしさの程度を示す値である尤度又は当該尤度を算出するための関数を記憶するイベント生起情報記憶手段を備えたコンピュータに搭載されるコンテンツ分類プログラムであって、コンピュータに、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定処理を実行させ、イベント判定処理で、分類されるコンテンツの撮影取得情報に対応する尤度が高いイベントほど尤もらしいと判断させることを特徴とする。
本発明によれば、異なるイベントを表すコンテンツの画像が類似していても、それらのコンテンツを適切なイベントに分類できるとともに、イベントを分類するための情報の設定負荷を低減できる。
第1の実施形態におけるコンテンツ分類装置の例を示すブロック図である。 イベント判定手段12の例を示すブロック図である。 イベント生起情報管理手段203の例を示すブロック図である。 イベント生起情報推定手段2301の例を示すブロック図である。 コンテンツ分類装置が行う処理の例を示すフローチャートである。 第2の実施形態におけるコンテンツ分類装置の例を示すブロック図である。 イベント判定手段16の例を示すブロック図である。 分類先イベント特定手段602の例を示すブロック図である。 コンテンツ分類装置が行う処理の例を示すフローチャートである。 分類先イベント特定手段602の例を示すブロック図である。 分類先イベント特定手段602の例を示すブロック図である。 第3の変形例におけるイベント判定手段16の例を示すブロック図である。 第3の実施形態におけるコンテンツ分類装置の例を示すブロック図である。 イベント判定手段12’の例を示すブロック図である。 イベント生起情報管理手段201の例を示すブロック図である。 コンテンツ分類装置が行う処理の例を示すフローチャートである。 第4の実施形態におけるコンテンツ分類装置の例を示すブロック図である。 イベント判定手段17の例を示すブロック図である。 コンテンツ分類装置が行う処理の例を示すフローチャートである。 本発明の最小構成を示すブロック図である。 本発明の他の最小構成を示すブロック図である。
以下、本発明の実施形態を図面を参照して説明する。
実施形態1.
図1は、本発明の第1の実施形態におけるコンテンツ分類装置の例を示すブロック図である。本実施形態におけるコンテンツ分類装置は、撮影取得情報入力手段11と、イベント判定手段12と、分類結果出力手段13とを備えている。撮影取得情報入力手段11は、分類処理対象となるコンテンツの撮影取得情報が入力されると、その情報をイベント判定手段12に通知する。コンテンツの例としては、例えば、写真、動画(ショートクリップを含む)、音響、音声等が挙げられる。また、撮影取得情報とは、コンテンツのメタデータであり、そのメタデータには、撮影機器によって撮影された写真や動画に関する日時や場所、撮影環境、状態を表す情報のほか、撮影機器、録音機器等によって記録された音響、音声に関する日時や場所等を表す情報が含まれる。なお、本実施形態では、撮影取得情報の中に撮影日時情報を必ず含んでいるものとする。
撮影取得情報は、例えば、画像ファイルの規格であるEXIF(Exchangeable Image File Format)に基づく情報であってもよい。また、撮影取得情報には、例えば、撮影日時、GPS(Global Positioning System )情報、画素数、ISO(International Organization for Standardization)感度、色空間などといった情報が含まれていてもよい。
撮影取得情報入力手段11は、例えば、ユーザが、コンテンツ分類装置が備える入力部(図示せず)を介して撮影取得情報を入力したときに、その情報をイベント判定手段12に通知してもよい。もしくは、コンテンツ分類装置が、コンテンツから撮影取得情報を抽出する撮影取得情報抽出手段(図示せず)を備えている場合であれば、撮影取得情報入力手段11は、その撮影取得情報抽出手段から撮影取得情報を受け取り、その情報をイベント判定手段12に通知してもよい。
イベント判定手段12は、撮影取得情報入力手段11から受け取った撮影取得情報に基づいて、予め設定しておいた分類先のイベント(以下、分類先イベントと記す。)の候補から、入力コンテンツがどのイベントに属するのか判定する。そして、イベント判定手段12は、その判定結果を分類結果出力手段13へ通知する。ここで、イベントとは、コンテンツを分類するための情報であり、コンテンツそのものの属性(すわなち、撮影取得情報)とは異なる情報である。
図2は、イベント判定手段12の例を示すブロック図である。イベント判定手段12は、イベント生起情報管理手段203と、イベント生起情報修正手段204と、分類先イベント特定手段202とを備えている。また、図3は、イベント生起情報管理手段203の例を示すブロック図である。イベント生起情報管理手段203は、撮影取得情報記憶手段2101とイベント生起情報推定手段2301とを備えている。
撮影取得情報記憶手段2101は、コンテンツ分類装置が備える磁気ディスク装置等によって実現され、様々な態様の撮影取得情報を分類先イベントと対応付けて記憶する。撮影取得情報記憶手段2101が記憶する撮影取得情報は、例えば、コンテンツ分類装置が備える入力部(図示せず)を介してユーザが手動で入力した撮影取得情報でもよい。もしくは、コンテンツ分類装置が、コンテンツから撮影取得情報を抽出する撮影取得情報抽出手段(図示せず)を備えている場合であれば、撮影取得情報記憶手段2101は、撮影取得情報抽出手段が抽出した撮影取得情報を記憶してもよい。なお、撮影取得情報抽出手段(図示せず)は、例えば、写真の内容を表す情報の中に撮影日時及びイベント名が含まれている場合、撮影日時とイベント名を抽出し、これらの情報を対応付けて撮影取得情報記憶手段2101に記憶させてもよい。
撮影取得情報記憶手段2101が撮影取得情報と対応付けて記憶する分類先イベントは、各コンテンツが属すべき(各コンテンツと結び付くべき)イベントであり、このイベントのことを正解イベントと記すこともある。すなわち、正解イベントとは、そのコンテンツが属するであろうと予測されるイベントのことであると言える。
撮影取得情報記憶手段2101は、写真の撮影取得情報から抽出した撮影日時情報を、予め設定しておいた分類先イベントと対応付けて記憶してもよい。また、分類先イベントが初めから特定の日付と対応付けられている場合、撮影取得情報記憶手段2101は、その日付と分類先イベントとを対応付けて記憶してもよい。
また、撮影取得情報記憶手段2101は、一定期間の日付とイベントとを対応付けて記憶してもよい。例えば、入学式のように、学校によっては多少ばらつきがあるものの、各学校の入学式の日付をあらかじめ調査することで、そのイベントの期間が分かる場合がある。撮影取得情報記憶手段2101は、上記調査結果に基づくイベント(入学式)の期間とイベントとを対応付けて記憶してもよい。
上記説明では、撮影取得情報に撮影日時情報を含む場合について説明したが、撮影取得情報に含まれる情報は、撮影日時情報である場合に限られない。撮影取得情報記憶手段2101は、撮影取得情報として撮影場所情報を記憶してもよい。この場合、撮影取得情報記憶手段2101は、写真の撮影取得情報から抽出された撮影場所情報をイベントと対応付けて記憶してもよい。
また、撮影取得情報記憶手段2101は、撮影日時情報又は撮影場所情報の一方だけでなく、複数の情報を組み合わせた情報(例えば、撮影場所情報及び撮影日時情報)とイベントとを対応付けて記憶してもよい。
他にも、撮影取得情報記憶手段2101は、あるイベントに関連する多数の写真から抽出した撮影日時情報を各撮影日時(○月△日といった情報)ごとに集計した情報(以下、生起頻度情報と記す。)を記憶してもよい。すなわち、生起頻度情報は、あるイベントで撮影された写真が、撮影日時ごとにどれだけ存在したかを表す情報であると言える。なお、生起頻度情報は、例えば、多数取得した撮影日時情報のうち同一日付になる情報を集計し、さらに、各日付における写真が何枚存在したかをイベントごとに集計する方法により算出される。なお、以下の説明では、撮影取得情報のうち撮影日時情報を集計した情報を生起頻度情報として使用する場合について説明するが、集計する撮影取得情報は撮影日時情報に限られない。例えば、撮影場所情報を集計し、各撮影場所の写真がどれだけ存在したかを表す情報を生起頻度情報として使用してもよい。
以下、生起頻度情報について詳述する。例えば、撮影取得情報の撮影日時情報に着目した場合、生起頻度情報とは、個々のイベントに関連する多数の写真から抽出された撮影日時情報を撮影日時(○月△日といった情報)ごとに集計し、各撮影日時における写真が何枚存在したかをイベントごとに集計した情報である。このとき、生起頻度情報の集計単位は、撮影日付単位であってもよく、撮影日付に一定期間の幅をもたせた単位であってもよい。前者(すなわち、集計単位が撮影日付ごと)の場合、生起頻度情報は、一日単位に算出される情報であり、後者(すなわち、集計単位が一定期間の幅をもたせたもの)の場合、生起頻度情報は、一定期間ごとに算出される情報になる。
上記説明では、撮影取得情報のうち撮影日時情報に着目した場合について説明した。ただし、生起頻度情報として集計される撮影取得情報は、撮影日時情報に限られず、他の情報であってもよい。例えば、生起頻度情報は、撮影取得情報のうち撮影場所情報を集計した情報であってもよい。撮影取得情報記憶手段2101は、この生起頻度情報を撮影取得情報及び分類先イベントと対応付けて記憶してもよい。
生起頻度情報とは、このような性質から、予め設定しておいた分類先のイベント(分類先イベント)に関して、個々のイベントごとに、関連する写真を多数学習させた情報とも言える。また、ある撮影取得情報に対応し得るイベントが複数存在する場合、生起頻度情報が示す頻度が高いイベントほど、その撮影取得情報に対応する蓋然性が高い(尤もらしい)イベントということができる。
また、撮影取得情報記憶手段2101は、各イベントの生起頻度情報を確率として表現した情報(以下、生起確率情報と記す。)を記憶してもよい。なお、生起確率情報は、生起頻度情報に対して線形補間やParzen Window法による密度推定並びに正規化処理等を施すことにより算出される。このように、生起確率情報は、各イベントに属するコンテンツが、撮影された月日又は撮影された場所単位で考えたときに、どの程度の確率で生起するか表わす確率であると言える。さらに、撮影取得情報記憶手段2101は、生起頻度情報や生起確率情報を関数でモデル化し、その関数の情報及び最もフィッティングする際のモデルパラメータを記憶してもよい。
以下、生起確率情報について詳述する。生起確率情報は、撮影取得情報に対してイベントが生起する確率を表す情報である。生起確率情報は、複数のコンテンツの撮影取得情報をイベントごとに集計した値をもとに算出される。すなわち、生起確率情報は、生起頻度情報をもとに、イベントに属するコンテンツが撮影された月日又は撮影された場所単位で考えたときに、各イベントがどの程度の確率で生起するかを表す情報といえる。
以下、生起確率情報の算出方法について説明する。生起確率情報は、生起頻度情報から密度を推定し、正規化処理等を施す事によって算出される。例えば、撮影日単位の生起頻度情報に対しParzen Window法による密度推定を行う場合、数日分程度の窓幅を持つ窓関数(例えば、三角形の窓関数やガウシアン形状の窓関数)を定め、各日付の位置に窓関数の原点が来るようにイベントごとの生起頻度情報を配置する。そして、配置した生起頻度情報を重畳する事により、イベントごとに周辺の値(生起頻度情報)を推定していく。こうして得られたイベントごとの各日付の推定値(生起頻度情報)を確率として表現するため、1月1日から12月31日までの合計値が1となるようにイベントごとに正規化を行う。撮影取得情報記憶手段2101は、この生起確率情報を撮影取得情報及び分類先イベントと対応付けて記憶する。
なお、上記説明では、生起確率情報が撮影日単位の生起頻度情報をもとに算出される場合について説明した。ただし、生起確率情報は、撮影日単位の生起頻度情報をもとに算出される場合に限られない。生起確率情報は、一定期間ごとの生起頻度情報をもとに算出されてもよい。これは、同一日付の写真を集計した生起頻度情報からは、一日単位の生起確率情報が算出され、一定期間内に属する写真を集計した生起頻度情報からは、一定期間毎の生起確率情報が算出されることを意味する。また、ある撮影取得情報に対応し得るイベントが複数存在する場合、生起確率情報が示す確率が高いイベントほど、その撮影取得情報に対応する蓋然性が高い(尤もらしい)イベントということができる。
次に、モデルパラメータについて詳述する。モデルパラメータとは、各イベントにおける生起頻度情報や生起確率情報が示す分布との誤差が最小になる関数(以下、近似関数と記す。)を決定するために用いられるパラメータである。以下、生起頻度情報や生起確率情報を複合ガウス関数でモデル化(GMM:Gaussian Mixture Model)する場合を例に説明する。
まず、生起頻度情報や生起確率情報の分布が示す形状に基づき、その分布が示すピーク数などから、単一のガウス関数を使用するか、あるいは複数のガウス関数を複合的に使用するかが決定される。また、もとの生起頻度情報や生起確率情報分布が示す形状に近似関数が最も近く(誤差が最も少なく)なるように、各ガウス関数の形状を決定するための平均及び標準偏差の値が決定される。
このように、撮影取得情報記憶手段2101は、近似関数を決定するために用いた関数(ここでは、ガウス関数)や、組み合わせる関数の個数、関数の形状を決定するための平均及び標準偏差の値などをモデルパラメータとして記憶してもよい。なお、モデルパラメータによって関数を一意に定めることができるため、撮影取得情報記憶手段2101がモデルパラメータを記憶することと、撮影取得情報記憶手段2101が関数を記憶することとは同義であるといえる。
イベント生起情報推定手段2301は、後述の分類先イベント修正手段204の要求に応じ、撮影取得情報記憶手段2101から撮影取得情報(撮影日時情報)とその撮影取得情報に対応するイベント(すなわち、正解イベント)に関する情報を読み取り、それらをもとに推定されるイベントの情報(以下、イベント生起情報と記す。)、及び、複数の年度の情報を集約する際の基準にする年度の情報(以下、基準年度情報と記す。)を出力する。そして出力したイベント生起情報及び基準年度情報をイベント生起情報修正手段204に通知する。イベント生起情報は、例えば、イベントと撮影取得情報とを対応付けた情報である。
図4は、本実施形態におけるイベント生起情報推定手段2301の例を示すブロック図である。本実施形態におけるイベント生起情報推定手段2301は、撮影年度単位イベント生起頻度実測手段23011と、曜日依存性要素分離手段23012と、曜日依存性要素修正手段23013とを備えている。
撮影年度単位イベント生起頻度実測手段23011は、撮影取得情報記憶手段2101からコンテンツに関する撮影日時情報及び正解イベントに関する情報を読み取り、各イベントに対応するコンテンツ数を撮影日時情報で特定される日付ごとに集計する。撮影年度単位イベント生起頻度実測手段23011が集計したコンテンツ数は、イベントが月日ごとにどの程度生起するかを表す情報であるため、このコンテンツ数をイベント生起頻度情報と言うことができる。この撮影年度単位イベント生起頻度実測手段23011は、撮影日時情報で特定される年度(以下、撮影年度と記す。)に基づき、イベント生起頻度情報を撮影年度単位で集計する。
なお、撮影年度単位イベント生起頻度実測手段23011は、上述した生起頻度情報を集計する方法を用いて、各イベントに対応するコンテンツ数を撮影日時情報で特定される日付ごとに集計してもよい。
曜日依存性要素分離手段23012は、撮影年度単位イベント生起頻度実測手段23011が集計した撮影年度ごとのイベント生起頻度情報を受け取る。そして、「各イベントは、特定の日付(月日)あるいは曜日のいずれかに依存して生起する」という仮定を設け、曜日依存性要素分離手段23012は、この仮定に基づき、受け取ったイベント生起頻度情報を2種類のイベント生起頻度情報(以下、要素と記す。)に分離する。
1種類目の要素は、イベント生起頻度情報におけるコンテンツ数のピークの出現があらかじめ特定可能な日に依存するイベント生起頻度情報中の要素(以下、日付依存性要素と記す。)である。この要素は毎年同一日付に依存し、生起頻度が最大となる可能性の高い日付が、年度によって変化しない要素と言える。2種類目の要素は、日付依存性要素の影響が全くない場合におけるイベント生起頻度情報の曜日に依存する要素(以下、曜日依存性要素と記す。)である。この要素は、同一日付における曜日は年ごとに変化する事から、生起頻度が大きくなる可能性の高い日付が年度によってイベント生起頻度情報中の曜日依存性要素も年ごとに変化する要素と言える。
曜日依存性要素分離手段23012は、イベント生起頻度情報の特定日における値のうち、曜日依存性要素をその特定日前後と同等とみなし、特定日における曜日依存性要素を特定日前後の日におけるイベント生起頻度情報の平均値として算出する。このとき、日付依存性要素は、イベント生起頻度情報から曜日依存性要素を引いて算出される値と考える事が出来る。以下、このように算出する方法を、分離方式例1と記す。
以下、分離方式例1の場合について説明する。あるイベントに関して、年度kにおけるイベント生起頻度情報fk(d)のうち、日付依存性要素gk(d)及び曜日依存性要素hk(d)は、それぞれ以下の式(1)、式(2)によって算出される。
Figure 2011001587
Figure 2011001587
ここで、dは1月1日から12月31日まで順にラベル付けした1から366の数値、δ(d)は、 d=0のときに1 、d≠0のときに0となるクロネッカーのデルタ関数、dbはイベント生起頻度情報のピークが出現すると考えられる特定日bに対応したラベル値をそれぞれ意味している。
以下の説明では、曜日依存性要素分離手段23012が、分離方式例1に従って分離させた日付依存性要素gk(d)及び曜日依存性要素hk(d)を用いて処理を行う場合について説明する。なお、日付依存性要素gk(d)及び曜日依存性要素hk(d)を分離する方法は、分離方式例1に限定されない。例えば、曜日依存性要素分離手段23012は、特定日の前日又は後日におけるイベント生起頻度情報の値を曜日依存性要素の値としてそのまま使用してもよい。もしくは、曜日依存性要素分離手段23012は、関数のモデルを仮定し、独立成分分析のような手法によって、日付依存性要素gk(d)及び曜日依存性要素hk(d)とを分離してもよい。
曜日依存性要素修正手段23013は、曜日依存性要素分離手段23012が分離した曜日依存性要素の修正を行い、修正後のイベント生起情報と基準年度情報とを出力する。
曜日依存性要素の修正方法について説明する。曜日依存性要素分離手段23012が分離したイベント生起頻度情報である日付依存性要素gk(d)及び曜日依存性要素hk(d)は、共に、撮影年度ごとの情報である。そのため、曜日依存性要素修正手段23013は、これらの要素を複数年度でまとめた情報を作成する。まず、曜日依存性要素修正手段23013は、基準年度を設定する。曜日依存性要素修正手段23013は、撮影年度ごとに集計した日付依存性要素gk(d)及び曜日依存性要素hk(d)を、基準年度にマッピング(集約)させ、これらを重ねあわせ、撮影年度に関して一般的な日付依存性要素F1(d)及び曜日依存性要素F2(d)を算出する。前述した通り、イベント生起頻度情報中の曜日依存性要素は年ごとに変化するため、年ごとの差分を考慮して、曜日依存性要素修正手段23013は、は、F1(d)及びF2(d)をそれぞれ以下の式(3)、式(4)によって算出する。
Figure 2011001587
Figure 2011001587
ここで、mは使用する撮影年度単位のイベント生起頻度情報の総数、Nkはイベント生起頻度情報の実測に用いた撮影年度がkであるコンテンツの総数とする。また、D0をあらかじめ設定した基準年度の基準日における曜日(日曜日を0、月曜日を1、火曜日を2、・・・、土曜日を6とする)、Dkを年度kにおける基準日の曜日とする。ここで、ΔdkをDk−D0で算出される値とした場合、d’はd−Δdkを意味する。
曜日依存性要素修正手段23013は、式(3)及び式(4)で算出される日付依存性要素F1(d)及び曜日依存性要素F2(d)を、撮影年度に関する一般的なイベント生起情報として出力する。また、曜日依存性要素修正手段23013は、設定した基準年度を基準年度情報として出力する。なお、曜日依存性要素修正手段23013が出力するイベント生起情報は、日付依存性要素F1(d)及び曜日依存性要素F2(d)に限定されない。
例えば、曜日依存性要素修正手段23013は、この2つの要素の各々に対し、線形補間やParzen Window法による密度推定を行い、イベント生起確率分布として日付依存性要素p1(d)及び曜日依存性要素p2(d)を算出してもよい。このとき、曜日依存性要素修正手段23013は、算出したイベント生起確率分布をイベント生起情報として出力してもよい。
このとき、曜日依存性要素修正手段23013は、上述した生起確率情報を算出する方法やモデルパラメータによって定められる関数を用いて、イベント生起確率分布を算出してもよい。
ここで、曜日依存性要素修正手段23013が行う処理について、具体例を用いて説明する。例えば、多数の写真や動画、音声データの撮影取得情報から、2000年度におけるイベント生起頻度情報(例えば、撮影日時が○月△日であった写真が何枚あったかを示す情報)、2001年度におけるイベント生起頻度情報、2002年度におけるイベント生起頻度情報、・・・、が抽出されているとする。この場合、各年度における同一日付(○月△日といった日付)の曜日がずれる事を考慮し、曜日依存性要素修正手段23013は、全年度のイベント生起頻度情報を重ね合わせるにあたって、ある年度におけるイベント生起頻度情報だけを固定する。そして、曜日依存性要素修正手段23013は、他の年度におけるイベント生起頻度情報を曜日のずれにあわせた大きさで日付をシフトさせながら、固定した年度のイベント生起頻度情報に対して重ね合わせを行う。ここで、固定させた年度が「基準年度」である。以上のことから、曜日依存性要素修正手段23013が設定する「基準年度」とは、撮影年度単位で集計されるイベント生起頻度情報をマッピングして重ね合わせる際の、マッピングする先の撮影年度と言うことができる。
以上に述べたように、入力されたコンテンツの撮影日付が同一日付であっても、撮影年度と基準年度とが異なる場合には曜日にずれが生じることがある。このように、基準年度を定めてイベント生起頻度情報を重ね合わせることで、その曜日のずれによる影響をなくすことができる。
イベント生起情報修正手段204は、イベント生起情報管理手段203からイベント生起情報及び基準年度情報を、撮影取得情報入力手段11から撮影日時情報を含む撮影取得情報をそれぞれ受け取り、イベント生起情報を修正して出力する。イベント生起情報修正手段204は、受け取った撮影日時情報中の撮影年度に関する情報と基準年度情報とを比較し、同一日付(同じ月日)における曜日のずれの大きさを算出して、基準年度の日付と曜日の対応に合わせる事によりイベント生起情報の修正を行う。
例えば、イベント生起情報管理手段203が、イベント生起確率分布(p1(d),p2(d)など)を含む情報をイベント生起情報として出力した場合、イベント生起情報修正手段204は、曜日依存性要素に関するシフトを行い、p1(d)+p2(d+Δdk) という計算式を用いてイベント生起情報を修正してもよい。
分類先イベント特定手段202は、撮影取得情報入力手段11に入力された撮影取得情報と修正されたイベント生起情報とをもとに、撮影取得情報が示すコンテンツがどのイベントに属するのかを判定し、その判定結果を出力する。すなわち、分類先イベント特定手段202は、イベント生起情報の撮影取得情報に対応するイベントの中で、尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する。例えば、撮影取得情報入力手段11に入力された撮影取得情報に含まれる撮影日時情報とイベント生起情報に含まれる日時が一致したときに、分類先イベント特定手段202は、撮影取得情報が示すコンテンツがその撮影取得情報に対応するイベント生起情報のイベントの中で尤もらしいと判断されるイベントに属すると判定してもよい。
なお、撮影取得情報が示すコンテンツがその撮影取得情報に対応するイベント生起情報のイベントの中で尤もらしいと判断されるイベントに属すると判定されるのは、撮影取得情報入力手段11に入力された撮影取得情報とイベント生起情報に含まれる撮影取得情報が一致した場合に限られない。例えば、比較する撮影取得情報が、予め定められた範囲内において一致する場合に、分類先イベント特定手段202は、撮影取得情報が示すコンテンツがその撮影取得情報に対応するイベント生起情報のイベントの中で尤もらしいと判断されるイベントに属すると判定してもよい。
分類先イベント特定手段202は、判定の結果、コンテンツが属するとされたイベント名や、各イベントに対応する番号等を分類結果出力手段13に通知する。分類先イベント特定手段202が通知するイベントの候補は1つであってもよく、複数であってもよい。
分類結果出力手段13は、イベント判定手段12から受け取った判定結果を出力する。例えば、判定結果を利用する他の手段(図示せず)にメモリを介して情報を通知する場合、分類結果出力手段13は、判定結果をメモリに記憶させてもよい。また、分類結果出力手段13は、コンテンツ分類装置が備えるディスプレイなどの出力装置(図示せず)に判定結果を出力してもよい。
撮影取得情報入力手段11と、イベント判定手段12(より具体的には、イベント生起情報推定手段2301と、分類先イベント特定手段202と、イベント生起情報修正手段204)と、分類結果出力手段13とは、プログラム(コンテンツ分類プログラム)に従って動作するコンピュータのCPUによって実現される。また、撮影取得情報入力手段11と、イベント判定手段12(より具体的には、イベント生起情報推定手段2301と、分類先イベント特定手段202と、イベント生起情報修正手段204)と、分類結果出力手段13とは、それぞれが専用のハードウェアで実現されていてもよい。
次に、動作について説明する。図5は、本実施形態におけるコンテンツ分類装置が行う処理の例を示すフローチャートである。例えば、ユーザが、コンテンツ分類装置が備える入力部(図示せず)を介して撮影取得情報を入力すると、撮影取得情報入力手段11は、その情報をイベント判定手段12に通知する(ステップS41)。イベント判定手段12が撮影取得情報を受け取ると、分類先イベント修正手段204は、イベント生起情報管理手段203にイベント生起情報を要求する(ステップS42)。イベント生起情報管理手段203が要求を受け取ると、イベント生起情報推定手段2301は、撮影取得情報及び正解イベントを撮影取得情報記憶手段2101から読み取り、それらをもとにイベント生起情報を推定し、併せて、基準年度情報を決定する(ステップS43)。そして、イベント生起情報推定手段2301は、推定したイベント生起情報及び基準年度情報を分類先イベント修正手段204に通知する(ステップS44)。
イベント生起情報修正手段204は、撮影取得情報入力手段11から受け取った撮影日時情報を含む撮影取得情報と、イベント生起情報管理手段203から受け取ったイベント生起情報及び基準年度情報をもとに、イベント生起情報を修正する(ステップS45)。そして、イベント生起情報修正手段204は、修正したイベント生起情報を分類先イベント特定手段202に通知する(ステップS46)。分類先イベント特定手段202は、入力された撮影取得情報と、イベント生起情報修正手段204から受け取ったイベント生起情報とをもとに、撮影取得情報が示すコンテンツがどのイベントに属するのか(すなわち、尤もらしいと判断されるイベント)を判定する(ステップS47)。そして、分類先イベント特定手段202は、その判定結果を分類結果出力手段13に通知し(ステップS48)、分類結果出力手段13は、その判定結果を出力する(ステップS49)。
以上のように、本実施形態によれば、コンテンツが分類されるイベントと撮影日時情報とを対応付けたイベント生起情報を、イベント生起情報修正手段204が、複数年度にわたる撮影日時情報と基準年度情報とをもとに修正する。そして、分類されるコンテンツの撮影日時情報が、修正されたイベント生起情報の日付に対応することを条件に、分類先イベント特定手段202が、そのイベント生起情報の日付に対応するイベントをコンテンツの分類先イベントであると判定する。
よって、異なるイベントを表すコンテンツの画像が類似していても、それらのコンテンツを適切なイベントに分類できるとともに、イベントを分類するための情報の設定負荷を低減できる。すなわち、本実施形態におけるコンテンツ分類方法では、入力されるコンテンツの画像に基づく差異ではなく、イベントごとに異なる発生日時や発生場所といった撮影取得情報を利用してコンテンツの分類を行う。そのため、画像差異に着目したイベント分類が困難な場合であっても、撮影取得情報の差異を利用してイベントの特定が可能になるため、分類精度が向上する。さらに、イベントの実施日が年度ごとに異なる場合であっても、その都度ルールを設定しなくてもよいため、そのイベントの内容を表すコンテンツを適切に分類できるとともに、設定負荷を低減できる。
また、本実施形態によれば、撮影年度単位イベント生起頻度実測手段23011が、撮影日時情報を含む撮影取得情報とイベントとを対応付けたイベント生起情報をもとに、各イベントに対応するコンテンツ数を撮影日時情報で特定される日付ごとに集計した情報であるイベント生起頻度情報を撮影年度ごとに算出する。次に、曜日依存性要素分離手段23012は、イベント生起頻度情報の中から、曜日に依存する要素である曜日依存性要素を抽出する。そして、曜日依存性要素修正手段23013が、基準年度情報との差分に応じて集約した各年度の曜日依存性要素をもとに、イベントとそのイベントが発生する日付とを対応付けたイベント生起情報を推定する。イベント生起情報修正手段204は、推定されたイベント生起情報を基準年度及び撮影日時情報をもとに修正する。最後に、分類先イベント特定手段202は、修正されたイベント生起情報の日付において、尤もらしいと判断される(例えば、イベント生起情報が最大となる)イベントをコンテンツの分類先イベントであると判定する。
そのため、イベントの実施日が年度ごとに異なる場合であっても、そのイベントの内容を表すコンテンツを適切に分類できる。
実施形態2.
図6は、本発明の第2の実施形態におけるコンテンツ分類装置の例を示すブロック図である。なお、第1の実施形態と同様の構成については、図1と同一の符号を付し、説明を省略する。本実施形態におけるコンテンツ分類装置は、撮影取得情報だけでなくコンテンツ特徴量も使用してイベント判定を行う点で、第1の実施形態と異なる。
ここでは、コンテンツ特徴量とは、写真や動画、音声データといったコンテンツから抽出されるコンテンツの特徴量を意味する。すなわち、コンテンツ特徴量とは、コンテンツの特性を数値化した情報であると言える。例えば、コンテンツが写真や動画の場合、コンテンツ特徴量として、画像のエッジ、画像中の色配置、色ヒストグラム、各方向のエッジパターンのヒストグラム、MPEG7における視覚特徴量などが挙げられる。また、コンテンツが音響データの場合、コンテンツ特徴量として、MFCC(Mel-Frequency Cepstrum Coefficient)、音響のパワー、MPEG7の音響特徴量などが挙げられる。
本実施形態におけるコンテンツ分類装置は、撮影取得情報入力手段11と、分類結果出力手段13と、コンテンツ入力手段14と、コンテンツ特徴抽出手段15と、イベント判定手段16とを備えている。なお、撮影取得情報入力手段11及び分類結果出力手段13については、第1の実施形態と同様のため、説明を省略する。ただし、撮影取得情報入力手段11に入力される撮影取得情報は、コンテンツ入力手段14に入力されるコンテンツを表すために用いられる撮影取得情報である。
コンテンツ入力手段14は、デジタルカメラ、デジタルビデオカメラ、携帯電話機等の撮像機器で撮影された画像や、スキャナー等を介して取り込まれた画像がコンテンツとして入力されると、コンテンツ特徴抽出手段15にそのコンテンツを通知する。
入力されるコンテンツは、JPEG等のように圧縮された画像であってもよく、TIFF(Tagged Image File Format)、PSD(PhotoShop(登録商標) Data)、RAW(ロー)等のように圧縮されていない画像であってもよい。また、入力されるコンテンツは、圧縮された動画あるいはそれを復号した動画でもよい。この場合、コンテンツ入力手段14は、入力された動画を、フレーム画像ごとに受け取ればよい。入力された動画が、圧縮された動画である場合、その圧縮形式は、MPEG、MOTION JPEGや、「WINDOWS Media Video」(WINDOWS Mediaは登録商標。)等、復号可能なものであればよい。また、入力されるコンテンツは、画像や動画に限られず、音声データや音響データであってもよい。
コンテンツ特徴抽出手段15は、コンテンツ入力手段14から入力コンテンツを受け取り、その入力コンテンツからコンテンツ特徴量を抽出する。例えば、入力コンテンツが画像であった場合、コンテンツ特徴抽出手段15は、2次元のラプラシアンフィルタやCannyフィルタ等のエッジ検出フィルタを適用してコンテンツ特徴量を抽出してもよい。もしくは、コンテンツ特徴抽出手段15は、入力された画像中の色配置、色ヒストグラム、各方向のエッジパターンのヒストグラム、MPEG7における視覚特徴量等の特徴量をコンテンツ特徴量として抽出してもよい。また、入力コンテンツが音響データであった場合、コンテンツ特徴抽出手段15は、MFCC、音響のパワー、MPEG7の音響特徴量等をコンテンツ特徴量として抽出してもよい。コンテンツ特徴抽出手段15は、抽出したコンテンツ特徴量を、イベント判定手段16に通知する。
イベント判定手段16は、撮影取得情報及びコンテンツ特徴量をもとに、分類先イベントの中からコンテンツの分類先を判定する。具体的には、イベント判定手段16は、撮影取得情報入力手段11から撮影取得情報を、コンテンツ特徴抽出手段15からコンテンツ特徴量をそれぞれ受け取り、入力コンテンツがどのイベントに属するのかを分類先イベントの候補から判定する。そして、イベント判定手段16は、その判定結果を分類結果出力手段13へ通知する。
図7は、イベント判定手段16の例を示すブロック図である。図7に示すイベント判定手段16は、分類先イベント特定手段602と、コンテンツ特徴イベント生起情報算出手段603と、コンテンツ特徴モデルデータ記憶手段604と、撮影取得情報イベント生起情報管理手段605と、撮影取得情報イベント生起情報修正手段606とを備えている。撮影取得情報イベント生起情報管理手段605は、第1の実施形態におけるイベント生起情報管理手段203と同様であり、撮影取得情報イベント生起情報修正手段606は、第1の実施形態におけるイベント生起情報修正手段204と同様であるため、詳細な説明は省略する。なお、以下の説明では、撮影取得情報イベント生起情報管理手段605が算出したイベント生起情報を、撮影取得情報イベント生起情報と記す。
コンテンツ特徴モデルデータ記憶手段604は、コンテンツの属するイベントを特定するのに利用するモデルに関する情報(以下、コンテンツ特徴モデルデータと記す。)を記憶する。例えば、複数のコンテンツから抽出したコンテンツ特徴量の分布をモデル化した場合、そのモデルを記述した情報をコンテンツ特徴モデルデータとしてもよい。また、例えば、特徴空間上で各イベントとして判定される領域を示す情報がガウシアンモデルで記述されると仮定した場合、ガウシアンモデルを記述する際に必要となる特徴空間上の平均及び分散をコンテンツ特徴モデルデータとしてもよい。また、コンテンツ特徴モデルデータ記憶手段604は、生起確率パラメータや、SVM(Support Vector Machine)のサポートベクトル、線形判別により求まる射影軸のパラメータ等を記憶してもよい。
コンテンツ特徴イベント生起情報算出手段603は、コンテンツ特徴モデルデータ記憶手段604から読み取ったコンテンツ特徴モデルデータと、コンテンツ特徴抽出手段15から受け取ったコンテンツ特徴量をもとにコンテンツ特徴イベント生起情報を算出する。ここで、コンテンツ特徴イベント生起情報とは、コンテンツが各イベントに分類される度合いを表す情報であり、各イベントの尤もらしさを示す値と言うことができる。以下の説明では、この値のことを、スコア値と記す。
例えば、コンテンツ特徴モデルデータが、特徴空間における各イベントクラスの重心に関する情報である場合、コンテンツ特徴イベント生起情報算出手段603は、コンテンツ特徴抽出手段15から受け取ったコンテンツ特徴量で示される特徴空間上の一点から上記イベントクラスの重心までの距離を算出する。コンテンツ特徴イベント生起情報算出手段603は、このように算出した距離に応じたイベントごとの比率を、コンテンツ特徴イベント生起情報としてもよい。
なお、コンテンツ特徴イベント生起情報の内容は、上記内容に限定されない。例えば、コンテンツ特徴イベント生起情報算出手段603が、コンテンツ特徴モデルデータ記憶手段604から読み取るコンテンツ特徴モデルデータとして、多数のコンテンツ特徴量に対し線形判別分析を用いて求まる射影軸を利用し、入力されるコンテンツ特徴量が各イベントに分類される度合いを表す指標をコンテンツ特徴イベント生起情報としてもよい。他にも、コンテンツ特徴イベント生起情報算出手段603がSVMのサポートベクトルを利用して、入力されるコンテンツ特徴量が各イベントに分類される度合いを表す指標をコンテンツ特徴イベント生起情報としてもよい。
図8は、本実施形態における分類先イベント特定手段602の例を示すブロック図である。本実施形態における分類先イベント特定手段602は、イベント候補選択手段6201と、最尤イベント判定手段6202とを備えている。イベント候補選択手段6201は、撮影取得情報イベント生起情報修正手段606から撮影取得情報イベント生起情報を、撮影取得情報入力手段11から撮影取得情報をそれぞれ受け取り、コンテンツ入力手段14に入力されたコンテンツが属するイベントの候補を出力する。なお、撮影取得情報イベント生起情報修正手段606から受け取る撮影取得情報イベント生起情報の形式は、第1の実施形態でイベント生起情報修正手段204が出力するイベント生起情報の形式と同様である。
例えば、撮影取得情報イベント生起情報の形式が、コンテンツの分類先イベントと、それらが生起する月日とを単に対応付けた情報である場合、イベント候補選択手段6201は、撮影取得情報入力手段11から入力される撮影取得情報中の撮影日時から時間的に近い上位の数イベントをイベント候補として出力してもよい。また、例えば、撮影取得情報イベント生起情報修正手段606から受け取る撮影取得情報イベント生起情報が、撮影した月日や場所単位でイベントが生起する程度を表す情報(すなわち、イベント生起頻度情報)であってもよい。この場合、イベント候補選択手段6201は、撮影取得情報入力手段11に入力される撮影取得情報中の撮影日時もしくは撮影場所の条件下において、イベント生起頻度情報が示す値が上位の数イベントをイベント候補として出力してもよい。
また、撮影取得情報イベント生起情報は、イベント生起頻度情報に対して密度推定や正規化処理等を施し確率として表現した情報(以下、イベント生起確率情報と記す。)であってもよい。この場合、イベント候補選択手段6201は、撮影取得情報入力手段11に入力される撮影取得情報中の撮影日時あるいは撮影場所の条件下において、イベント生起確率情報が示す値が上位の数イベントをイベント候補として出力してもよい。なお、イベント候補の出力方法は、単にイベント名や各イベントに対応する番号だけを出力する方法でもよいし、これらの情報に、候補になったイベントのイベント生起頻度情報の値やイベント生起確率情報の値を併せて出力する方法であってもよい。
最尤イベント判定手段6202は、イベント候補選択手段6201からイベント候補を、コンテンツ特徴イベント生起情報算出手段603からコンテンツ特徴イベント生起情報をそれぞれ受け取り、イベント判定結果を出力する。例えば、コンテンツ特徴イベント生起情報として最尤イベント判定手段6202が受け取った情報が各イベントの尤もらしさを示す値(例えば、スコア値)であるとする。また、イベント候補選択手段6201から受け取ったイベント候補が、単にイベント名や各イベントに対応する番号だけであるとする。この場合、最尤イベント判定手段6202は、イベント候補に対応するコンテンツ特徴イベント生起情報のスコア値が1位のイベント、もしくは、上位の数イベントをイベント判定結果として出力してもよい。
また、最尤イベント判定手段6202が、上記情報に加え、イベント候補選択手段6201からイベント候補のイベント生起頻度情報値やイベント生起確率情報値を受け取るとする。この場合、最尤イベント判定手段6202は、イベント候補のイベント生起頻度情報値やイベント生起確率情報値と、スコア値を掛け合わせた値を算出し、その値が1位のイベント、もしくは、上位の数イベントをイベント判定結果として出力してもよい。
このように、分類先イベント特定手段602は、撮影取得情報イベント生起情報修正手段606から撮影取得情報イベント生起情報を、撮影取得情報入力手段11から撮影取得情報を、コンテンツ特徴イベント生起情報算出手段603からコンテンツ特徴イベント生起情報をそれぞれ受け取り、コンテンツ入力手段14に入力されたコンテンツが属するイベントの候補を判定し、イベント判定結果を出力する。
撮影取得情報入力手段11と、分類結果出力手段13と、コンテンツ入力手段14と、コンテンツ特徴抽出手段15と、イベント判定手段16(より具体的には、分類先イベント特定手段602と、コンテンツ特徴イベント生起情報算出手段603と、撮影取得情報イベント生起情報管理手段605と、撮影取得情報イベント生起情報修正手段606)とは、プログラム(コンテンツ分類プログラム)に従って動作するコンピュータのCPUによって実現される。また、撮影取得情報入力手段11と、分類結果出力手段13と、コンテンツ入力手段14と、コンテンツ特徴抽出手段15と、イベント判定手段16(より具体的には、分類先イベント特定手段602と、コンテンツ特徴イベント生起情報算出手段603と、撮影取得情報イベント生起情報管理手段605と、撮影取得情報イベント生起情報修正手段606)とは、それぞれが専用のハードウェアで実現されていてもよい。
次に、動作について説明する。図9は、本実施形態におけるコンテンツ分類装置が行う処理の例を示すフローチャートである。コンテンツ分類装置に撮影取得情報が入力され、分類先イベント特定手段602に、撮影取得情報イベント生起情報が通知されるまでの処理は、図5におけるステップS41〜S46と同様である。
一方、例えば、撮影機器等で撮影された画像がコンテンツとしてコンテンツ分類装置に入力されると、コンテンツ入力手段14は、そのコンテンツをコンテンツ特徴抽出手段15に通知する(ステップS61)。コンテンツ特徴抽出手段15は、コンテンツ入力手段14から受け取ったコンテンツからコンテンツ特徴量を抽出し(ステップS62)、抽出したコンテンツ特徴量をイベント判定手段16に通知する(ステップS63)。
イベント判定手段16が、コンテンツ特徴抽出手段15からコンテンツ特徴量を受け取ると、コンテンツ特徴イベント生起情報算出手段603は、受け取ったコンテンツ特徴量と、コンテンツ特徴モデルデータ記憶手段604から読み取ったコンテンツ特徴モデルデータをもとにコンテンツ特徴イベント生起情報を算出する(ステップS64)。そして、コンテンツ特徴イベント生起情報算出手段603は、算出したコンテンツ特徴イベント生起情報を分類先イベント特定手段602に通知する(ステップS65)。
分類先イベント特定手段602は、撮影取得情報イベント生起情報修正手段606から撮影取得情報イベント生起情報を、撮影取得情報入力手段11から撮影取得情報を、コンテンツ特徴イベント生起情報算出手段603からコンテンツ特徴イベント生起情報をそれぞれ受け取り、コンテンツ入力手段14に入力されたコンテンツが属するイベントの候補を判定する(ステップS66)。最尤イベント判定手段6202は、判定結果を分類結果出力手段13に通知し(ステップS67)、分類結果出力手段13は、その判定結果を出力する(ステップS68)。
ステップS66において、分類先イベント特定手段602が、コンテンツが属するイベントの候補を判定する動作について説明する。まず、イベント候補選択手段6201が、撮影取得情報イベント生起情報修正手段606から撮影取得情報イベント生起情報を、撮影取得情報入力手段11から撮影取得情報をそれぞれ受け取り、コンテンツが属するイベント候補を選択する。次に、最尤イベント判定手段6202が、イベント候補選択手段6201が選択したイベント候補と、コンテンツ特徴イベント生起情報算出手段603から受け取ったコンテンツ特徴イベント生起情報とをもとにイベントを判定する。
以上のように、本実施形態によれば、コンテンツ特徴抽出手段15が、コンテンツ特徴量を抽出する。そして、イベント判定手段16が、コンテンツ特徴量に基づいて、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する。このように、撮影取得情報に加え、コンテンツ特徴量でもイベントを判定するため、第1の実施形態の効果に加え、分類精度がさらに向上する。
具体的には、コンテンツ特徴イベント生起情報算出手段603が、コンテンツ特徴モデルデータと、コンテンツ特徴量をもとに、コンテンツ特徴イベント生起情報を算出する。また、イベント候補選択手段6201は、分類するコンテンツの撮影取得情報が撮影取得情報イベント生起情報に対応するイベントの中で尤もらしいと判断されるイベントをそのコンテンツの分類先イベントの候補として出力する。最尤イベント判定手段6202は、出力された候補の中から、そのコンテンツの分類先イベントをコンテンツ特徴イベント生起情報が示す度合い(例えば、スコア値)に基づいて判定する。そのため、第1の実施形態の効果に加え、分類精度がさらに向上する。
次に、第2の実施形態における第1の変形例について説明する。第1の変形例では、分類先イベント特定手段602が、イベント候補選択手段6203と、最尤イベント判定手段6204とを備えている点において。第2の実施形態と異なる。それ以外の構成は、図6及び図7に示す構成と同一である。第2の実施形態と同様の構成については、説明を省略する。
図10は、分類先イベント特定手段602の例を示すブロック図である。図10に示す分類先イベント特定手段602は、イベント候補選択手段6203と、最尤イベント判定手段6204とを備えている。
図10に例示する分類先イベント特定手段602は、図8に例示する分類先イベント特定手段602と構成が比較的類似しているが、以下の点で異なる。第2の実施形態では、まず、図8に例示するイベント候補選択手段6201が、受け取った撮影取得情報をもとにイベント候補を選択する。その後、最尤イベント判定手段6202がコンテンツ特徴イベント生起情報をもとに、更にイベント候補を選択する。一方、第1の変形例では、まず、図10に例示するイベント候補選択手段6203がコンテンツ特徴イベント生起情報を利用してイベントを選択する。その後、最尤イベント判定手段6204が、受け取った撮影取得情報をもとに、更にイベント候補を選択する。
具体的には、イベント候補選択手段6203は、コンテンツ特徴イベント生起情報算出手段603からコンテンツ特徴イベント生起情報を受け取り、コンテンツ入力手段14に入力されたコンテンツが属するイベントの候補を出力する。イベント候補選択手段6203は、第2の実施形態における最尤イベント判定手段6202と類似しているが、撮影取得情報を利用したイベント候補の選択を事前に行っていない点で第2の実施形態と異なる。
また、最尤イベント判定手段6204は、イベント候補選択手段6203からイベント候補を、撮影取得情報入力手段11から撮影取得情報を、撮影取得情報イベント生起情報修正手段606から撮影取得情報イベント生起情報をそれぞれ受け取る。そして、最尤イベント判定手段6204は、イベント候補の中から、撮影取得情報が撮影取得情報イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをイベント判定結果として判定する。最尤イベント判定手段6204は、第2の実施形態におけるイベント候補選択手段6201と類似しているが、コンテンツ特徴を利用したイベント候補の選択が既に行われている点で第2の実施形態と異なる。それ以外については、第2の実施形態と同様である。
次に、動作について説明する。本変形例におけるコンテンツ分類装置が行う処理の例は、図9のフローチャートに例示する処理と同様であるが、ステップS66における処理が第2の実施形態と異なる。以下、ステップS66において、分類先イベント特定手段602が、コンテンツが属するイベントの候補を判定する動作について説明する。
まず、イベント候補選択手段6203は、コンテンツ特徴イベント生起情報算出手段603からコンテンツ特徴イベント生起情報を受け取り、コンテンツが属するイベントの候補を選択する。次に、最尤イベント判定手段6204が、イベント候補選択手段6203が選択したイベント候補と、撮影取得情報イベント生起情報修正手段606から受け取った撮影取得情報イベント生起情報と、撮影取得情報入力手段11から受け取った撮影取得情報とをもとにイベントを判定する。
以上のように、本変形例によれば、イベント候補選択手段6203が、コンテンツ特徴イベント生起情報が示す度合いに基づいて、分類されるコンテンツの分類先イベントの候補を選択する。そして、最尤イベント判定手段6204は、選択された候補のイベントの中から、撮影取得情報イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する。このように、撮影取得情報に加え、コンテンツ特徴量でもイベントを判定するため、第1の実施形態の効果に加え、分類精度がさらに向上する。
すなわち、第2の実施形態では、撮影取得情報をもとにコンテンツを絞り込んだあとで、コンテンツ特徴量によるイベントの判定を行っている。一方、コンテンツ特徴量に特徴のあるコンテンツは、コンテンツ特徴量をもとにイベントを絞り込んだ方が、最初の絞り込みの段階でイベント候補から外される蓋然性が低くなる。このような場合、本変形例の方法に示すように、コンテンツ特徴量をもとにイベントを絞り込んだ後で、撮影取得情報によるイベントの判定を行うことで、イベント判定結果の精度をさらに高めることができる。特に、第2の実施形態におけるイベント候補選択手段6201及び本変形例におけるイベント候補選択手段6203が、十分に絞り込みを行う場合、その効果は顕著である。
次に、第2の実施形態における第2の変形例について説明する。第2の変形例では、分類先イベント特定手段602が、イベント生起情報統合手段6205と、最尤イベント判定手段6206とを備えている点において、第2の実施形態と異なる。それ以外の構成は、図6及び図7に示す構成と同一である。第2の実施形態と同様の構成については、説明を省略する。
図11は、分類先イベント特定手段602の例を示すブロック図である。図11に例示す分類先イベント特定手段602は、イベント生起情報統合手段6205と、最尤イベント判定手段6206とを備えている。
図11に例示する分類先イベント特定手段602は、図8に例示する分類先イベント特定手段602及び図10に例示する分類先イベント特定手段602と構成が比較的類似しているが、以下の点で異なる。第2の実施形態では、まず、図8に例示するイベント候補選択手段6201が、受け取った撮影取得情報をもとにイベント候補を選択する。その後、最尤イベント判定手段6202がコンテンツ特徴イベント生起情報をもとに、更にイベント候補を選択する。また、第1の変形例では、まず、図10に例示するイベント候補選択手段6203がコンテンツ特徴イベント生起情報を利用してイベントを選択する。その後、最尤イベント判定手段6204が、受け取った撮影取得情報をもとに、更にイベント候補を選択する。一方、第2の変形例では、図11に例示するイベント生起情報統合手段6205が、受け取った撮影取得情報をもとにイベント候補を選択する処理と、コンテンツ特徴イベント生起情報をもとにイベント候補を選択する処理を同時に行う点で、第2の実施形態及び第1の変形例と異なる。
イベント生起情報統合手段6205は、撮影取得情報イベント生起情報修正手段606から撮影取得情報イベント生起情報を、撮影取得情報入力手段11から撮影取得情報を、コンテンツ特徴イベント生起情報算出手段603からコンテンツ特徴イベント生起情報をそれぞれ受け取り、撮影取得情報イベント生起情報とコンテンツ特徴イベント生起情報とを統合させたイベント生起情報(以下、統合イベント生起情報と記す。)を出力する。
例えば、撮影取得情報イベント生起情報が、撮影した月日や場所単位でイベントがどの程度生起するかを表す情報(すなわち、イベント生起頻度情報)や、イベント生起頻度情報に対して密度推定や正規化処理等を施し確率として表現した情報(すなわち、イベント生起確率情報)であるとする。また、コンテンツ特徴イベント生起情報として入力される情報が、各イベントの尤もらしさを示すスコア値であるとする。この場合、イベント生起情報統合手段6205は、イベントごとに、撮影取得情報をもとに算出したイベント生起頻度情報値又はイベント生起確率情報値と、コンテンツ特徴を利用して算出したスコア値を掛け合わせた値(以下、イベント調整スコア値と記す。)を算出し、算出したイベント調整スコア値を統合イベント生起情報として出力してもよい。
最尤イベント判定手段6206は、イベント生起情報統合手段6205から統合イベント生起情報を受け取り、イベント判定結果を出力する。例えば、イベント生起情報統合手段6205がイベント調整スコア値を統合イベント生起情報として出力した場合、最尤イベント判定手段6206は、イベント調整スコア値が1位のイベント、あるいは上位の数イベントをイベント判定結果として出力してもよい。
次に、動作について説明する。本変形例におけるコンテンツ分類装置が行う処理の例は、図9のフローチャートで例示する処理と同様であるが、ステップS66における処理が第2の実施形態と異なる。以下、ステップS66において、分類先イベント特定手段602が、コンテンツが属するイベントの候補を判定する動作について説明する。
まず、イベント生起情報統合手段6205は、撮影取得情報イベント生起情報修正手段606から受け取った撮影取得情報と、撮影取得情報入力手段11から受け取った撮影取得情報と、コンテンツ特徴イベント生起情報算出手段603から受け取ったコンテンツ特徴イベント生起情報とをもとに、統合イベント生起情報を生成する。そして、最尤イベント判定手段6206は、イベント生起情報統合手段6205から受け取った統合イベント生起情報をもとにイベントを判定する。
以上のように、本変形例によれば、イベント生起情報統合手段6205が、撮影取得情報イベント生起情報と、分類されるコンテンツの撮影取得情報と、コンテンツ特徴イベント生起情報が示す度合とに基づいて統合イベント生起情報を出力する。そして、最尤イベント判定手段6206が、イベント生起情報の中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する。このように、撮影取得情報に加え、コンテンツ特徴量でもイベントを判定するため、第1の実施形態の効果に加え、分類精度がさらに向上する。
すなわち、本変形例によれば、撮影取得情報とコンテンツ特徴量を同時に使用し、これらの2つの観点で共に尤もらしいイベントを判定するため、イベント判定結果の精度をさらに高めることができる。
次に、第2の実施形態における第3の変形例について説明する。図12は、第3の変形例におけるイベント判定手段16の例を示すブロック図である。第3の変形例では、イベント判定手段16が、撮影取得情報イベント生起情報管理手段601と、分類先イベント特定手段602と、コンテンツ特徴イベント生起情報算出手段603と、コンテンツ特徴モデルデータ記憶手段604とを備えている点において、第2の実施形態と異なる。それ以外の構成は、図6に示す構成と同一である。第2の実施形態と同様の構成については、図6及び図7と同一の符号を付し、説明を省略する。分類先イベント特定手段602、コンテンツ特徴イベント生起情報算出手段603及びコンテンツ特徴モデルデータ記憶手段604の構成は図7と同様であるため、詳細な説明は省略する。
また、撮影取得情報イベント生起情報管理手段601は、第1の実施形態におけるイベント生起情報管理手段203と比較し、基準年度情報を出力しない点において異なる。すなわち、撮影取得情報イベント生起情報管理手段601は、撮影取得情報記憶手段(図示せず)に記憶された撮影取得情報及び正解イベントをもとにイベント生起情報を出力する。なお、撮影取得情報及び正解イベントをもとにイベント生起情報を出力する方法は、後述のイベント生起情報推定手段2102がイベント生起情報を推定して出力する方法と同様である。
このように、撮影取得情報及び正解イベントをもとに生成されたイベント生起情報と、撮影取得情報と、コンテンツ特徴量によってもイベントの判定は可能である。ただし、第2の実施形態では、撮影取得情報イベント生起情報修正手段606が、イベント生起情報を修正するため、イベントの実施日が年度ごとに異なる場合であっても、そのイベントの内容を表すコンテンツを適切に分類でき、分類の精度をさらに高めることができるため、より好ましい。
実施形態3.
図13は、本発明の第3の実施形態におけるコンテンツ分類装置の例を示すブロック図である。本実施形態におけるコンテンツ分類装置は、撮影取得情報入力手段11と、イベント判定手段12’と、分類結果出力手段13とを備えている。
イベント判定手段12’は、撮影取得情報入力手段11から受け取った撮影取得情報に基づいて、予め設定しておいた分類先イベントの候補から、入力コンテンツがどのイベントに属するのかを判定する。そして、イベント判定手段12’は、その判定結果を分類結果出力手段13へ通知する。撮影取得情報入力手段11及び分類結果出力手段13の動作については、第1の実施形態と同様のため、説明を省略する。
図14は、イベント判定手段12’の例を示すブロック図である。イベント判定手段12’は、イベント生起情報管理手段201と、分類先イベント特定手段202とを備えている。また、図15は、イベント生起情報管理手段201の例を示すブロック図である。イベント生起情報管理手段201は、撮影取得情報記憶手段2101とイベント生起情報推定手段2102とを備えている。
撮影取得情報記憶手段2101は、第1の実施形態における撮影取得情報記憶手段2101と同様に、コンテンツ分類装置が備える磁気ディスク装置等によって実現され、様々な態様の撮影取得情報を分類先イベントと対応付けて記憶する。
イベント生起情報推定手段2102は、撮影取得情報記憶手段2101から撮影取得情報とその撮影取得情報に対応する正解イベントに関する情報を読み取り、それらをもとに推定されるイベント生起情報を出力する。そして出力したイベント生起情報を分類先イベント特定手段202に通知する。
イベント生起情報推定手段2102は、撮影取得情報記憶手段2101から読み取った情報をイベント生起情報として出力してもよい。例えば、撮影取得情報記憶手段2101が、撮影日時情報と分類先イベントとを対応付けて記憶している場合、イベント生起情報推定手段2102は、その日付とイベントを対応付けた形式でイベント生起情報を出力してもよい。また、例えば、撮影取得情報記憶手段2101が、イベントを初めから特定の日付(特定日と記すこともある。)と対応付けて記憶している場合、イベント生起情報推定手段2102は、その特定日と分類先イベントとを対応付けた形式でイベント生起情報を出力してもよい。
イベント生起情報の撮影取得情報は、コンテンツ中から抽出した撮影取得情報だけでなく、例えば、ユーザによって指定された日付情報などであってもよい。この場合、イベント生起情報推定手段2102は、コンテンツの分類先イベントとユーザによって指定された日付情報とを単に対応付けた形式でイベント生起情報を出力してもよい。例えば、イベント生起情報推定手段2102は、「雛祭り」という分類先イベントと「3月3日」という日付とを対応付けたイベント生起情報、「七夕」というイベントと「7月7日」という日付とを対応付けたイベント生起情報、「ハロウィン」というイベントと「10月31日」という日付とを対応付けたイベント生起情報をそれぞれ出力してもよい。なお、イベント生起情報として分類先イベントに対応付ける情報は、特定日だけでなく、その特定日を含む前後一週間など、イベント生起の可能性がある月日に幅を持たせた情報であってもよい。
また、例えば、撮影取得情報記憶手段2101が、一定期間の日付とイベントとを対応付けて記憶している場合、イベント生起情報推定手段2102は、ある一定期間の日付とイベントとを対応付けた形式でイベント生起情報を出力してもよい。
他にも、例えば、撮影取得情報記憶手段2101が、撮影取得情報として撮影場所情報を記憶している場合、イベント生起情報推定手段2102は、撮影場所とイベントを対応付けた形式でイベント生起情報を出力してもよい。また、例えば、撮影取得情報記憶手段2101が、撮影場所情報及び撮影日時情報など、複数の情報を組み合わせた情報とイベントとを対応付けて記憶している場合、イベント生起情報推定手段2102は、撮影場所情報及び撮影日時情報を組み合わせた情報とイベントとを対応付けた形式でイベント生起情報を出力してもよい。
さらに、撮影取得情報記憶手段2101が、各イベントの生起頻度情報や生起確率情報を記憶している場合、イベント生起情報推定手段2102は、それらの生起頻度情報や生起確率情報をイベント生起情報として出力してもよい。また、イベント生起情報推定手段2102は、撮影取得情報記憶手段2101に記憶された情報をもとに、生起頻度情報や生起確率情報を算出し、それらをイベント生起情報としてもよい。
さらに、イベント生起情報推定手段2102は、生起頻度情報や生起確率情報を正規分布等の関数でモデル化し、その関数の情報及び最も適合する場合のモデルパラメータをイベント生起情報としてもよい。
以上のように、イベント生起情報管理手段201(より具体的には、撮影取得情報記憶手段2101及びイベント生起情報推定手段2102)は、全体として、イベント生起情報を出力する。すなわち、イベント生起情報管理手段201は、イベント生起情報を様々な形式で出力することから、複数の撮影取得情報を利用して統計的な処理を行い、その処理結果を出力する機能を有していると言える。
分類先イベント特定手段202は、撮影取得情報入力手段11に入力された撮影取得情報と、イベント生起情報管理手段201に要求したイベント生起情報とをもとに、撮影取得情報が示すコンテンツがどのイベントに属するのかを判定し、その判定結果を出力する。なお、分類先イベント特定手段202がイベントを判定する方法については、第1の実施形態に記載した方法と同様であるため、詳細な説明は省略する。
撮影取得情報入力手段11と、イベント判定手段12’(より具体的には、イベント生起情報推定手段2102と、分類先イベント特定手段202)と、分類結果出力手段13とは、プログラム(コンテンツ分類プログラム)に従って動作するコンピュータのCPUによって実現される。例えば、プログラムは、コンテンツ分類装置の記憶部(図示せず)に記憶され、CPUは、そのプログラムを読み込み、プログラムに従って、撮影取得情報入力手段11、イベント判定手段12’(より具体的には、イベント生起情報推定手段2102と分類先イベント特定手段202)及び分類結果出力手段13として動作してもよい。また、撮影取得情報入力手段11と、イベント判定手段12’(より具体的には、イベント生起情報推定手段2102と分類先イベント特定手段202)と、分類結果出力手段13とは、それぞれが専用のハードウェアで実現されていてもよい。
次に、動作について説明する。図16は、本実施形態におけるコンテンツ分類装置が行う処理の例を示すフローチャートである。コンテンツ分類装置に撮影取得情報が入力され、イベント生起情報管理手段201にイベント生起情報が要求されるまでの処理は、図5におけるステップS41〜42の処理と同様である。イベント生起情報管理手段201が要求を受け取ると、イベント生起情報推定手段2102は、撮影取得情報及び正解イベントを撮影取得情報記憶手段2101から読み取り、それらをもとにイベント生起情報を推定する(ステップS53)。そして、イベント生起情報推定手段2102は、推定したイベント生起情報を分類先イベント特定手段202に通知する(ステップS54)。
分類先イベント特定手段202が、撮影取得情報が示すコンテンツがどのイベントに属するのかを判定し、分類結果出力手段13が、その判定結果を出力するまでの処理は、図5におけるステップS47〜S49の処理と同様である。
以上のように、本実施形態によれば、分類先イベント特定手段202は、撮影取得情報入力手段11に入力された撮影取得情報が、イベント生起情報推定手段2102が出力したイベント生起情報の撮影取得情報に対応することを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する。そのため、異なるイベントを表すコンテンツの画像が類似していても、それらのコンテンツを適切なイベントに分類できる。
このように、本実施形態においても、画像差異に着目したイベント分類が困難な場合に、撮影取得情報の差異を利用してイベントの特定が可能になるため、分類精度が向上する。ただし、第1の実施形態では、本実施形態に加え、イベント生起情報修正手段204が、撮影日時情報、イベント生起情報及び基準年度情報をもとにイベント生起情報を修正する。そのため、第1の実施形態は、本実施形態における効果に加え、イベントを分類するための情報の設定負荷を低減できるため、より好ましい。
実施形態4.
図17は、本発明の第4の実施形態におけるコンテンツ分類装置の例を示すブロック図である。本実施形態におけるコンテンツ分類装置は、撮影取得情報入力手段11と、イベント判定手段17と、分類結果出力手段13とを備えている。
イベント判定手段17は、撮影取得情報入力手段11から受け取った撮影取得情報に基づいて、予め設定しておいた分類先イベントの候補から、入力コンテンツがどのイベントに属するのかを判定する。そして、イベント判定手段17は、その判定結果を分類結果出力手段13へ通知する。撮影取得情報入力手段11及び分類結果出力手段13の動作については、第1の実施形態と同様のため、説明を省略する。
図18は、イベント判定手段17の例を示すブロック図である。イベント判定手段17は、イベント生起情報管理手段201と、分類先イベント特定手段207とを備えている。また、イベント生起情報管理手段201は、撮影取得情報記憶手段2101とイベント生起情報推定手段2102とを備えている。
撮影取得情報記憶手段2101は、第1の実施形態における撮影取得情報記憶手段2101と同様に、コンテンツ分類装置が備える磁気ディスク装置等によって実現され、様々な態様の撮影取得情報を分類先イベントと対応付けて記憶する。また、本実施形態では、撮影取得情報記憶手段2101は、第1の実施形態に記載した生起頻度情報、生起確率情報、モデルパラメータのうちの少なくとも1つの情報を記憶しているものとする。
イベント生起情報推定手段2102は、撮影取得情報とその撮影取得情報に対応する正解イベントとして、生起頻度情報、生起確率情報、モデルパラメータのうちの少なくとも1つの情報を撮影取得情報記憶手段2101から読み取り、それらをもとに推定されるイベント生起情報を出力する。なお、生起頻度情報、生起確率情報及びモデルパラメータのいずれもイベントを推定するために利用できる情報であり、これらの情報もイベント生起情報といえる。そのため、イベント生起情報推定手段2102は、撮影取得情報記憶手段2101に記憶された生起頻度情報や生起確率情報、モデルパラメータをそのままイベント生起情報として出力してもよい。そして、イベント生起情報推定手段2102は、出力したイベント生起情報を分類先イベント特定手段207に通知する。それ以外の内容については、第3の実施形態におけるイベント生起情報推定手段2102の内容と同様のため、詳細な説明を省略する。
分類先イベント特定手段207は、撮影取得情報入力手段11に入力された撮影取得情報と、イベント生起情報管理手段201に要求したイベント生起情報とをもとに、撮影取得情報が示すコンテンツがどのイベントに属するのかを判定し、その判定結果を出力する。このとき、分類先イベント特定手段207は、生起頻度情報が示す生起頻度や生起確率情報が示す生起確率が高いイベントほど、そのイベントを尤もらしいと判断する。そして、分類先イベント特定手段207は、判定の結果、コンテンツが属するとされたイベント名や、各イベントに対応する番号等を分類結果出力手段13に通知する。分類先イベント特定手段207が通知するイベントの候補は1つであってもよく、複数であってもよい。
例えば、分類先イベント特定手段207は、イベント生起情報管理手段201から受け取った生起頻度情報から、撮影取得情報入力手段11に入力された撮影取得情報に対応する生起頻度を抽出する。すなわち、分類先イベント特定手段207は、撮影取得情報入力手段11に入力された撮影取得情報中の撮影日時情報を利用して、その条件下(すなわち、入力された撮影日時情報)での各イベントの生起頻度を、イベント生起情報管理手段201から受け取った生起頻度情報から抽出する。
そして、分類先イベント特定手段207は、分類されるコンテンツの撮影取得情報に対応する生起頻度が高いイベントほど、そのイベントを尤もらしいと判断する。例えば、分類先イベント特定手段207は、生起頻度が最も大きいイベントを尤もらしいイベントと判断する。また、分類先イベント特定手段207は、生起頻度が一定値以上(閾値以上)であるイベント全てを尤もらしいイベントと判断してもよい。例えば、撮影取得情報入力手段11に入力された撮影取得情報中の撮影日時情報が12月25日であった場合、分類先イベント特定手段207は、12月25日の各イベントの生起する頻度を生起頻度情報から抽出する。そして、分類先イベント特定手段207は、生起する頻度が最も大きいイベントを分類先イベントであると判定してもよい。
生起頻度情報は、日付ごとや一定期間ごとの単純な集計で算出することが可能である。また、集計に使用する写真の枚数を十分多くして生起頻度情報を算出することで、イベントの実施日に比較的変動がある場合でも、各コンテンツをイベントに分類する精度を高めることが可能になる。したがって、分類先イベント特定手段207が、生起頻度情報を用いて分類先イベントを判定することにより、分類するためのルールの設定負荷を軽減できると共に、コンテンツの分類精度を高めることができる。
分類先イベント特定手段207がイベント生起情報管理手段201から受け取る情報が、生起確率情報である場合も同様である。すなわち、分類先イベント特定手段207は、イベント生起情報管理手段201から受け取った生起確率情報から、撮影取得情報入力手段11に入力された撮影取得情報に対応する生起確率を抽出する。そして、分類先イベント特定手段207は、生起確率が最も大きいイベントをコンテンツの分類先イベントであると判定する。ここで、分類先イベント特定手段207は、生起確率が一定値以上(閾値以上)であるイベントの全てを分類先イベントであると判定してもよい。
以上のように、学習(集計)に使用する写真群をもとに生起確率情報を算出することで、抽出された撮影日時に対する生起確率情報だけでなく、その撮影日時の周辺の日時についても生起確率情報を補間することができる。したがって、分類先イベント特定手段207が、生起確率情報を用いて分類先イベントを判定することにより、イベントの実施日に比較的変動がある場合でも、分類するためのルールの設定負荷を軽減できる。また、生起頻度情報のみを用いる以上にコンテンツの分類精度を高めることができる。
また、分類先イベント特定手段207は、モデルパラメータが表す関数(すなわち、近似関数)により算出された尤度が高いイベントほど、そのイベントを尤もらしいと判断してもよい。具体的には、分類先イベント特定手段207は、イベント生起情報管理手段201から受け取ったモデルパラメータによって特定される関数をもとに尤度を算出する。そして、分類先イベント特定手段207は、尤度が高いイベントほどそのイベントを尤もらしいと判断してもよい。なお、近似関数の決定方法は、第1の実施形態に記載した方法(例えば、生起頻度情報や生起確率情報をガウス関数でモデル化する方法)と同様であるため、説明を省略する。
例えば、分類先イベント特定手段207は、近似関数をもとに、撮影取得情報に対応する各イベントの値(尤度)を算出する。そして、分類先イベント特定手段207は、値が最も大きいイベントを分類先イベントとして判定する。ここで、分類先イベント特定手段207は、値が一定値以上(閾値以上)であるイベントの全てを分類先イベントであると判定してもよい。
例えば、撮影取得情報入力手段11に入力された撮影取得情報中の撮影日時情報が12月25日であった場合、分類先イベント特定手段207は、モデル化された関数(すなわち、近似関数)を利用して、12月25日の各イベントの値を算出する。そして、値が最も大きいイベントを分類先イベントとして判定する。また、分類先イベント特定手段207は、値が一定値以上(閾値以上)であるイベント全てを分類先イベントであると判定してもよい。
イベント生起情報をモデルパラメータで表すことができる場合、撮影取得情報記憶手段2101には、関数の情報及びパラメータ値だけを記憶しておけばよい。言い換えると、撮影取得情報記憶手段2101には、一日単位の生起頻度や生起確率情報等を記憶しておく必要がない。したがって、分類先イベント特定手段207が、モデルパラメータを用いて分類先イベントを判定する場合、分類するためのルールの設定負荷を軽減できる。なお、生起頻度情報や生起確率情報を用いた方が、コンテンツの分類精度をより高めることができるが、分類するための関数が決定すれば、あとは関数が示す対応関係をもとにイベントの分類先を決定することができるため、分類処理を簡易にすることができる。
以上のように、分類先イベント特定手段207は、イベントごとの撮影取得情報の生起頻度や生起確率が高いイベントほど、そのイベントを尤もらしいと判断できる。すなわち、これらの値は、撮影取得情報によって特定されるイベントの尤もらしさの程度を示すと言えるため、これらの値のことを尤度と言うことができる。また、モデルパラメータは、各イベントの尤度の分布を表すことから、このモデルパラメータは、各イベントの尤度の分布を表す関数と同義であるといえる。
撮影取得情報入力手段11と、イベント判定手段17(より具体的には、イベント生起情報推定手段2102と、分類先イベント特定手段207)と、分類結果出力手段13とは、プログラム(コンテンツ分類プログラム)に従って動作するコンピュータのCPUによって実現される。また、撮影取得情報入力手段11と、イベント判定手段17(より具体的には、イベント生起情報推定手段2102と、分類先イベント特定手段207)と、分類結果出力手段13とは、それぞれが専用のハードウェアで実現されていてもよい。
次に、動作について説明する。図19は、本実施形態におけるコンテンツ分類装置が行う処理の例を示すフローチャートである。コンテンツ分類装置に撮影取得情報が入力され、イベント生起情報管理手段201にイベント生起情報が要求されるまでの処理は、図16におけるステップS41〜42の処理と同様である。
イベント生起情報管理手段201が要求を受け取ると、イベント生起情報推定手段2102は、生起頻度情報、生起確率情報、モデルパラメータのうちの少なくとも1つの情報を撮影取得情報記憶手段2101から読み取り、それらをもとにイベント生起情報を推定する(ステップS71)。そして、イベント生起情報推定手段2102は、推定したイベント生起情報を分類先イベント特定手段207に通知する(ステップS72)。
分類先イベント特定手段207は、撮影取得情報入力手段11に入力された撮影取得情報と、受信したイベント生起情報とをもとに、撮影取得情報が示すコンテンツがどのイベントに属するのかを判定する。具体的には、分類先イベント特定手段207は、生起頻度情報が示す生起頻度や生起確率情報が示す生起確率が高いイベントほど、そのイベントを尤もらしいと判断する。もしくは、分類先イベント特定手段207は、近似関数をもとに算出された値が大きいイベントほど、そのイベントを尤もらしいと判断し、そのイベントをコンテンツの分類先イベントであると判定する(ステップS73)。以降、分類先イベント特定手段207が判定結果を分類結果出力手段13に通知し、分類結果出力手段13がその判定結果を出力するまでの処理は、図16におけるステップS48〜S49の処理と同様である。
以上のように、本実施形態によれば、生起頻度情報や生起確率情報、モデルパラメータなどによって推定されるイベント生起情報が、分類されるコンテンツの撮影取得情報と対応すること(例えば、撮影日時が一致する、撮影日時の一定期間内に撮影取得情報が含まれる、など)を条件に、分類先イベント特定手段207が、その撮影取得情報に対応するイベント生起情報のイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する。具体的には、分類先イベント特定手段207が、尤度(例えば、生起頻度情報や生起確率情報、近似関数によって算出される値)に基づいて、分類されるコンテンツの撮影取得情報に対応する尤度が高いイベントほど尤もらしいと判断する。そのため、異なるイベントを表すコンテンツの画像が類似していても、それらのコンテンツを適切なイベントに分類できるとともに、イベントを分類するための情報の設定負荷を低減できる。
すなわち、分類先イベント特定手段207が、画像そのものではなく撮影取得情報をもとにイベントを判断しているため、コンテンツの画像が類似していても、それらのコンテンツを適切なイベントに分類できる。また、分類先イベント特定手段207が、コンテンツの撮影取得情報をもとに算出された尤度に基づいて判断を行うため、イベントを分類するための情報の設定負荷を低減できる。さらに、分類先イベント特定手段207が、イベント生起情報として生起頻度情報や生起確率情報、モデルパラメータなどを用いてコンテンツを分類するため、分類するための精度を高くすることができる。
次に、本発明の最小構成を説明する。図20は、本発明の最小構成を示すブロック図である。本発明によるコンテンツ分類装置は、コンテンツ(例えば、写真、動画(ショートクリップを含む)、音響、音声等)が分類されるイベント(例えば、クリスマス、ハロウィン、雛祭り、入学式、運動会など)と、コンテンツのメタデータ(例えば、撮影機器によって撮影された写真や動画に関する日時や場所、撮影環境、状態を表す情報のほか、撮影機器、録音機器等によって記録された音響、音声に関する日時や場所等を表す情報)であって、コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とを対応付けた情報であるイベント生起情報を記憶するイベント生起情報記憶手段81(例えば、撮影取得情報記憶手段2101)と、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応する(例えば、一致する、予め定められた範囲内において一致する)ことを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定手段82(例えば、分類先イベント特定手段202)と、複数年度にわたる撮影日時情報と、撮影日時情報を比較する際に基準とする年度である基準年度(例えば、基準年度情報)とをもとに、イベント生起情報を修正するイベント生起情報修正手段83(例えば、イベント生起情報修正手段204)とを備えている。
イベント判定手段82は、分類されるコンテンツの撮影日時情報が、イベント生起情報修正手段83が修正したイベント生起情報の日付に対応することを条件に、そのイベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する。
そのような構成により、異なるイベントを表すコンテンツの画像が類似していても、それらのコンテンツを適切なイベントに分類できるとともに、イベントを分類するための情報の設定負荷を低減できる。
次に、本発明の他の最小構成を説明する。図21は、本発明の他の最小構成を示すブロック図である。本発明によるコンテンツ分類装置は、コンテンツ(例えば、写真、動画(ショートクリップを含む)、音響、音声等)が分類されるイベント(例えば、クリスマス、ハロウィン、雛祭り、入学式、運動会など)と、撮影されたコンテンツのメタデータ(例えば、撮影機器によって撮影された写真や動画に関する日時や場所、撮影環境、状態を表す情報のほか、撮影機器、録音機器等によって記録された音響、音声に関する日時や場所等を表す情報)である撮影取得情報とを対応付けた情報であるイベント生起情報を記憶するイベント生起情報記憶手段91(例えば、撮影取得情報記憶手段2101)と、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応する(例えば、一致する、予め定められた範囲内において一致する)ことを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定手段92(例えば、分類先イベント特定手段207)とを備えている。
イベント生起情報記憶手段91は、イベントに関連する複数のコンテンツの撮影取得情報をもとに算出される値であって、その撮影取得情報によって特定されるイベントの尤もらしさの程度を示す値である尤度(例えば、生起頻度情報、生起確率情報)又はその尤度を算出するための関数(例えば、モデルパラメータ)を記憶し、イベント判定手段92は、分類されるコンテンツの撮影取得情報に対応する尤度が高いイベントほど尤もらしいと判断する。
そのような構成により、異なるイベントを表すコンテンツの画像が類似していても、それらのコンテンツを適切なイベントに分類できるとともに、イベントを分類するための情報の設定負荷を低減できる。
また、例えば、携帯電話機やパーソナルコンピュータ等に本発明を適用することにより、これらの機器に記憶されたコンテンツを、イベントごとのフォルダに自動分類できる。
なお、少なくとも以下に示すようなコンテンツ分類装置も、上記に示すいずれかの実施形態に記載されていると言える。
(1)コンテンツ(例えば、写真、動画(ショートクリップを含む)、音響、音声等)が分類されるイベント(例えば、クリスマス、ハロウィン、雛祭り、入学式、運動会など)と、コンテンツのメタデータ(例えば、撮影機器によって撮影された写真や動画に関する日時や場所、撮影環境、状態を表す情報のほか、撮影機器、録音機器等によって記録された音響、音声に関する日時や場所等を表す情報)であって、コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とを対応付けた情報であるイベント生起情報を記憶するイベント生起情報記憶手段(例えば、撮影取得情報記憶手段2101)と、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応する(例えば、一致する、予め定められた範囲内において一致する)ことを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定手段(例えば、分類先イベント特定手段202)と、複数年度にわたる撮影日時情報と、撮影日時情報を比較する際に基準とする年度である基準年度(例えば、基準年度情報)とをもとに、イベント生起情報を修正するイベント生起情報修正手段(例えば、イベント生起情報修正手段204)とを備え、イベント判定手段が、分類されるコンテンツの撮影日時情報がイベント生起情報修正手段が修正したイベント生起情報の日付に対応することを条件に、そのイベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するコンテンツ分類装置。
(2)コンテンツの特性を数値化した情報であるコンテンツ特徴量を抽出するコンテンツ特徴量抽出手段(例えば、コンテンツ特徴抽出手段15)を備え、イベント判定手段が、コンテンツ特徴量に基づいて、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するコンテンツ分類装置。
(3)コンテンツの属するイベントを特定するのに利用するモデルに関する情報であるコンテンツ特徴モデルデータ(例えば、ガウシアンモデルを記述する際に必要となる特徴空間上の平均及び分散)と、コンテンツの特性を数値化した情報であるコンテンツ特徴量(例えば、画像中の色配置、色ヒストグラム、各方向のエッジパターンのヒストグラム、MPEG7における視覚特徴量等の特徴量)をもとに、コンテンツが各イベントに分類される度合いを表す情報であるコンテンツ特徴イベント生起情報を算出するコンテンツ特徴イベント生起情報算出手段(例えば、コンテンツ特徴イベント生起情報算出手段603)を備え、イベント判定手段(例えば、分類先イベント特定手段602)が、コンテンツ特徴イベント生起情報が示す度合い(例えば、スコア値)に基づいて、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、イベント生起情報修正手段(例えば、撮影取得情報イベント生起情報修正手段606)が修正したイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するコンテンツ分類装置。
(4)イベント判定手段(例えば、イベント候補選択手段6201及び最尤イベント判定手段6202)が、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応する場合に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをそのコンテンツの分類先イベントの候補として抽出し、抽出された候補の中から、そのコンテンツの分類先イベントをコンテンツ特徴イベント生起情報が示す度合いに基づいて判定するコンテンツ分類装置。
(5)イベント判定手段(例えば、イベント候補選択手段6203及び最尤イベント判定手段6204)が、コンテンツ特徴イベント生起情報が示す度合いに基づいて、分類されるコンテンツの分類先イベントの候補を抽出し、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、候補のイベントの中から、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するコンテンツ分類装置。
(6)イベント判定手段(例えば、イベント生起情報統合手段6205及び最尤イベント判定手段6206)が、イベント生起情報(例えば、撮影取得情報イベント生起情報)と、分類されるコンテンツの撮影取得情報と、コンテンツ特徴イベント生起情報が示す度合とに基づいてイベント生起情報(例えば、統合イベント生起情報)を生成し、そのイベント生起情報の中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するコンテンツ分類装置。
(7)イベント生起情報記憶手段が、コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とイベントとを対応付けたイベント生起情報を複数年度にわたって記憶し、イベント生起情報をもとに、各イベントに対応するコンテンツ数を撮影日時情報で特定される日付ごとに集計した情報であるイベント生起頻度情報を撮影年度ごとに算出するイベント生起頻度情報算出手段(例えば、撮影年度単位イベント生起頻度実測手段23011)と、イベント生起頻度情報の中から、曜日に依存してイベントが生起する頻度を示す曜日依存性要素を抽出する曜日依存性要素抽出手段(例えば、曜日依存性要素分離手段23012)と、基準年度(例えば、基準年度情報)との差分に応じて集約した各年度の曜日依存性要素をもとに、イベントとそのイベントが発生する日付とを対応付けたイベント生起情報(例えば、日付依存性要素F1(d)及び曜日依存性要素F2(d))を推定するイベント生起情報推定手段(例えば、曜日依存性要素修正手段23013)とを備え、イベント生起情報修正手段が、基準年度及び撮影日時情報をもとに推定されたイベント生起情報を修正し、イベント判定手段(例えば、分類先イベント特定手段202)が、修正されたイベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するコンテンツ分類装置。
(8)コンテンツのメタデータから抽出した撮影取得情報をイベントと対応付けてイベント生起情報記憶手段に記憶させる撮影取得情報抽出手段(実施形態1において図示せず)を備えたコンテンツ分類装置。
(9)イベント生起情報記憶手段が、コンテンツが撮影された場所を示す撮影場所情報又は撮影日時情報を含む撮影取得情報のうちの少なくとも1つの情報を含む撮影取得情報とイベントとを対応付けたイベント生起情報を記憶し、イベント判定手段が、分類されるコンテンツの撮影日時情報又は撮影場所情報がイベント生起情報の撮影取得情報に対応することを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するコンテンツ分類装置。
(10)コンテンツ(例えば、写真、動画(ショートクリップを含む)、音響、音声等)が分類されるイベント(例えば、クリスマス、ハロウィン、雛祭り、入学式、運動会など)と、撮影されたコンテンツのメタデータ(例えば、撮影機器によって撮影された写真や動画に関する日時や場所、撮影環境、状態を表す情報のほか、撮影機器、録音機器等によって記録された音響、音声に関する日時や場所等を表す情報)である撮影取得情報とを対応付けた情報であるイベント生起情報を記憶するイベント生起情報記憶手段(例えば、撮影取得情報記憶手段2101)と、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応する(例えば、一致する、予め定められた範囲内において一致する)ことを条件に、そのイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定手段(例えば、分類先イベント特定手段207)とを備え、イベント生起情報記憶手段が、イベントに関連する複数のコンテンツの撮影取得情報をもとに算出される値であって、その撮影取得情報によって特定されるイベントの尤もらしさの程度を示す値である尤度(例えば、生起頻度情報、生起確率情報)又はその尤度を算出するための関数(例えば、モデルパラメータ)を記憶し、イベント判定手段が、分類されるコンテンツの撮影取得情報に対応する尤度が高いイベントほど尤もらしいと判断するコンテンツ分類装置。
(11)イベント生起情報記憶手段が、イベントに関連する複数のコンテンツの撮影取得情報をイベントごとに集計した値である生起頻度(例えば、生起頻度情報)を尤度として記憶し、イベント判定手段が、分類されるコンテンツの撮影取得情報に対応する生起頻度が高いイベントほど尤もらしいと判断するコンテンツ分類装置。
(12)イベント生起情報記憶手段が、複数のコンテンツの撮影取得情報をイベントごとに集計(例えば、生起頻度情報を算出)し、その集計値をもとに算出された撮影取得情報に対するイベントの生起確率(例えば、生起確率情報)を尤度として記憶し、イベント判定手段が、分類されるコンテンツの撮影取得情報に対応する生起確率が高いイベントほど尤もらしいと判断するコンテンツ分類装置。
(13)イベント生起情報記憶手段が、各イベントにおける尤度の分布との誤差が最小になる関数(例えば、近似関数、モデルパラメータ)を記憶し、イベント判定手段が、その関数によって算出される尤度が高いイベントほど尤もらしいと判断するコンテンツ分類装置。
以上、実施形態及び実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2009年7月1日に出願された日本特許出願2009−156674、及び、2009年8月18日に出願された日本特許出願2009−189459を基礎とする優先権を主張し、その開示の全てをここに取り込む。
本発明は、コンテンツをイベント別に分類するコンテンツ分類装置に好適に適用される。
11 撮影取得情報入力手段
12,12’ イベント判定手段
13 分類結果出力手段
14 コンテンツ入力手段
15 コンテンツ特徴抽出手段
16,17 イベント判定手段
201,203 イベント生起情報管理手段
202,207 分類先イベント特定手段
204 イベント生起情報修正手段
2101 撮影取得情報記憶手段
2102,2301 イベント生起情報推定手段
23011 撮影年度単位イベント生起頻度実測手段
23012 曜日依存性要素分離手段
23013 曜日依存性要素修正手段
601 撮影取得情報イベント生起情報管理手段
602 分類先イベント特定手段
603 コンテンツ特徴イベント生起情報算出手段
604 コンテンツ特徴モデルデータ記憶手段
605 撮影取得情報イベント生起情報管理手段
606 撮影取得情報イベント生起情報修正手段
6201,6203 イベント候補選択手段
6202,6204,6206 最尤イベント判定手段
6205 イベント生起情報統合手段

Claims (31)

  1. コンテンツが分類されるイベントと、コンテンツのメタデータであって、コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とを対応付けた情報であるイベント生起情報を記憶するイベント生起情報記憶手段と、
    分類されるコンテンツの撮影取得情報が前記イベント生起情報の撮影取得情報に対応することを条件に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定手段と、
    複数年度にわたる前記撮影日時情報と、前記撮影日時情報を比較する際に基準とする年度である基準年度とをもとに、イベント生起情報を修正するイベント生起情報修正手段とを備え、
    イベント判定手段は、分類されるコンテンツの撮影日時情報が、前記イベント生起情報修正手段が修正したイベント生起情報の日付に対応することを条件に、当該イベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    ことを特徴とするコンテンツ分類装置。
  2. コンテンツの特性を数値化した情報であるコンテンツ特徴量を抽出するコンテンツ特徴量抽出手段を備え、
    イベント判定手段は、前記コンテンツ特徴量に基づいて、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項1記載のコンテンツ分類装置。
  3. コンテンツの属するイベントを特定するのに利用するモデルに関する情報であるコンテンツ特徴モデルデータと、コンテンツの特性を数値化した情報であるコンテンツ特徴量とをもとに、コンテンツが各イベントに分類される度合いを表す情報であるコンテンツ特徴イベント生起情報を算出するコンテンツ特徴イベント生起情報算出手段を備え、
    イベント判定手段は、前記コンテンツ特徴イベント生起情報が示す度合いに基づいて、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、イベント生起情報修正手段が修正したイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項1または請求項2記載のコンテンツ分類装置。
  4. イベント判定手段は、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応する場合に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントを当該コンテンツの分類先イベントの候補として抽出し、抽出された候補の中から、当該コンテンツの分類先イベントをコンテンツ特徴イベント生起情報が示す度合いに基づいて判定する
    請求項3記載のコンテンツ分類装置。
  5. イベント判定手段は、コンテンツ特徴イベント生起情報が示す度合いに基づいて、分類されるコンテンツの分類先イベントの候補を抽出し、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、前記候補のイベントの中から、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項3記載のコンテンツ分類装置。
  6. イベント判定手段は、イベント生起情報と、分類されるコンテンツの撮影取得情報と、コンテンツ特徴イベント生起情報が示す度合とに基づいてイベント生起情報を生成し、当該イベント生起情報の中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項3記載のコンテンツ分類装置。
  7. イベント生起情報記憶手段は、撮影日時情報を含む撮影取得情報とイベントとを対応付けたイベント生起情報を複数年度にわたって記憶し、
    前記イベント生起情報をもとに、各イベントに対応するコンテンツ数を撮影日時情報で特定される日付ごとに集計した情報であるイベント生起頻度情報を撮影年度ごとに算出するイベント生起頻度情報算出手段と、
    前記イベント生起頻度情報の中から、曜日に依存してイベントが生起する頻度を示す曜日依存性要素を抽出する曜日依存性要素抽出手段と、
    基準年度との差分に応じて集約した各年度の曜日依存性要素をもとに、イベントと当該イベントが発生する日付とを対応付けたイベント生起情報を推定するイベント生起情報推定手段とを備え、
    イベント生起情報修正手段は、基準年度及び撮影日時情報をもとに推定されたイベント生起情報を修正し、
    イベント判定手段は、修正されたイベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項1から請求項6のうちのいずれか1項に記載のコンテンツ分類装置。
  8. コンテンツのメタデータから抽出した撮影取得情報をイベントと対応付けてイベント生起情報記憶手段に記憶させる撮影取得情報抽出手段を備えた
    請求項1から請求項7のうちのいずれか1項に記載のコンテンツ分類装置。
  9. イベント生起情報記憶手段は、コンテンツが撮影された場所を示す撮影場所情報又は撮影日時情報を含む撮影取得情報のうちの少なくとも1つの情報を含む撮影取得情報とイベントとを対応付けたイベント生起情報を記憶し、
    イベント判定手段は、分類されるコンテンツの撮影日時情報又は撮影場所情報が前記イベント生起情報の撮影取得情報に対応することを条件に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項1から請求項8のうちのいずれか1項に記載のコンテンツ分類装置。
  10. コンテンツが分類されるイベントと、撮影されたコンテンツのメタデータである撮影取得情報とを対応付けた情報であるイベント生起情報を記憶するイベント生起情報記憶手段と、
    分類されるコンテンツの撮影取得情報が前記イベント生起情報の撮影取得情報に対応することを条件に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定手段とを備え、
    前記イベント生起情報記憶手段は、イベントに関連する複数のコンテンツの撮影取得情報をもとに算出される値であって、当該撮影取得情報によって特定されるイベントの尤もらしさの程度を示す値である尤度又は当該尤度を算出するための関数を記憶し、
    前記イベント判定手段は、分類されるコンテンツの撮影取得情報に対応する尤度が高いイベントほど尤もらしいと判断する
    ことを特徴とするコンテンツ分類装置。
  11. イベント生起情報記憶手段は、イベントに関連する複数のコンテンツの撮影取得情報をイベントごとに集計した値である生起頻度を尤度として記憶し、
    イベント判定手段は、分類されるコンテンツの撮影取得情報に対応する前記生起頻度が高いイベントほど尤もらしいと判断する
    請求項10記載のコンテンツ分類装置。
  12. イベント生起情報記憶手段は、複数のコンテンツの撮影取得情報をイベントごとに集計し、当該集計値をもとに算出された撮影取得情報に対するイベントの生起確率を尤度として記憶し、
    イベント判定手段は、分類されるコンテンツの撮影取得情報に対応する前記生起確率が高いイベントほど尤もらしいと判断する
    請求項10記載のコンテンツ分類装置。
  13. イベント生起情報記憶手段は、各イベントにおける尤度の分布との誤差が最小になる関数を記憶し、
    イベント判定手段は、前記関数によって算出される尤度が高いイベントほど尤もらしいと判断する
    請求項10記載のコンテンツ分類装置。
  14. コンテンツが分類されるイベントと、コンテンツのメタデータであって、コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とを対応付けた情報であるイベント生起情報を、複数年度にわたる前記撮影日時情報と、前記撮影日時情報を比較する際に基準とする年度である基準年度とをもとに修正し、
    分類されるコンテンツの撮影日時情報が、修正されたイベント生起情報の日付に対応することを条件に、当該イベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    ことを特徴とするコンテンツ分類方法。
  15. コンテンツの特性を数値化した情報であるコンテンツ特徴量を抽出し、
    コンテンツ特徴量に基づいて、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項14記載のコンテンツ分類方法。
  16. コンテンツの属するイベントを特定するのに利用するモデルに関する情報であるコンテンツ特徴モデルデータと、コンテンツの特性を数値化した情報であるコンテンツ特徴量とをもとに、コンテンツが各イベントに分類される度合いを表す情報であるコンテンツ特徴イベント生起情報を算出し、
    イベント判定手段は、前記コンテンツ特徴イベント生起情報が示す度合いに基づいて、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、修正されたイベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項14または請求項15記載のコンテンツ分類方法。
  17. 分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応する場合に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントを当該コンテンツの分類先イベントの候補として抽出し、抽出された候補の中から、当該コンテンツの分類先イベントをコンテンツ特徴イベント生起情報が示す度合いに基づいて判定する
    請求項16に記載のコンテンツ分類方法。
  18. コンテンツ特徴イベント生起情報が示す度合いに基づいて、分類されるコンテンツの分類先イベントの候補を抽出し、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、前記候補のイベントの中から、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項16記載のコンテンツ分類方法。
  19. イベント生起情報と、分類されるコンテンツの撮影取得情報と、コンテンツ特徴イベント生起情報が示す度合とに基づいてイベント生起情報を生成し、当該イベント生起情報の中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項16記載のコンテンツ分類方法。
  20. コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とイベントとを対応付けたイベント生起情報をもとに、各イベントに対応するコンテンツ数を撮影日時情報で特定される日付ごとに集計した情報であるイベント生起頻度情報を撮影年度ごとに算出し、
    イベント生起頻度情報の中から、曜日に依存してイベントが生起する頻度を示す曜日依存性要素を抽出し、
    複数年度の曜日依存性要素を集約する際の基準にする年度との差分に応じて集約した各年度の曜日依存性要素をもとに、イベントと当該イベントが発生する日付とを対応付けたイベント生起情報を推定し、
    基準年度及び撮影日時情報をもとに推定されたイベント生起情報を修正し、
    修正されたイベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項14から請求項19のうちのいずれか1項に記載のコンテンツ分類方法。
  21. イベント生起情報の撮影取得情報であって、コンテンツが撮影された場所を示す撮影場所情報又は撮影日時情報を含む撮影取得情報のうちの少なくとも1つの情報を含む撮影取得情報に対し、分類されるコンテンツの撮影日時情報又は撮影場所情報が対応することを条件に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定する
    請求項14から請求項20のうちのいずれか1項に記載のコンテンツ分類方法。
  22. コンテンツが分類されるイベントと、撮影されたコンテンツのメタデータである撮影取得情報とを対応付けた情報であるイベント生起情報が、分類されるコンテンツの撮影取得情報と対応することを条件に、当該撮影取得情報に対応する前記イベント生起情報のイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定し、
    コンテンツの分類先イベントを判定するときに、イベントに関連する複数のコンテンツの撮影取得情報をもとに算出される値であって、当該撮影取得情報によって特定されるイベントの尤もらしさの程度を示す値である尤度に基づき、分類されるコンテンツの撮影取得情報に対応する前記尤度が高いイベントほど尤もらしいと判断する
    ことを特徴とするコンテンツ分類方法。
  23. コンテンツの分類先イベントを判定するときに、イベントに関連する複数のコンテンツの撮影取得情報をイベントごとに集計した値である生起頻度に基づき、分類されるコンテンツの撮影取得情報に対応する前記生起頻度が高いイベントほど尤もらしいと判断する
    請求項22記載のコンテンツ分類方法。
  24. コンテンツの分類先イベントを判定するときに、複数のコンテンツの撮影取得情報をイベントごとに集計し、当該集計値をもとに算出された撮影取得情報に対するイベントの生起確率に基づき、分類されるコンテンツの撮影取得情報に対応する前記生起確率が高いイベントほど尤もらしいと判断する
    請求項22記載のコンテンツ分類方法。
  25. コンテンツの分類先イベントを判定するときに、各イベントにおける尤度の分布との誤差が最小になる関数によって算出される尤度に基づき、分類されるコンテンツの撮影取得情報に対応する前記尤度が高いイベントほど尤もらしいと判断する
    請求項22記載のコンテンツ分類方法。
  26. コンテンツが分類されるイベントと、コンテンツのメタデータであって、コンテンツが撮影された日時を示す撮影日時情報を含む撮影取得情報とを対応付けた情報であるイベント生起情報を記憶するイベント生起情報記憶手段を備えたコンピュータに搭載されるコンテンツ分類プログラムであって、
    前記コンピュータに、
    分類されるコンテンツの撮影取得情報が前記イベント生起情報の撮影取得情報に対応することを条件に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定処理、および、
    複数年度にわたる前記撮影日時情報と、前記撮影日時情報を比較する際に基準とする年度である基準年度とをもとに、イベント生起情報を修正するイベント生起情報修正処理を実行させ、
    イベント判定処理で、分類されるコンテンツの撮影日時情報が、前記イベント生起情報修正手段が修正したイベント生起情報の日付に対応することを条件に、当該イベント生起情報の日付に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定させる
    ためのコンテンツ分類プログラム。
  27. コンピュータに、
    コンテンツの特性を数値化した情報であるコンテンツ特徴量を抽出するコンテンツ特徴量抽出処理を実行させ、
    イベント判定処理で、前記コンテンツ特徴量に基づいて、分類されるコンテンツの撮影取得情報がイベント生起情報の撮影取得情報に対応することを条件に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定させる
    請求項26記載のコンテンツ分類プログラム。
  28. コンテンツが分類されるイベントと、撮影されたコンテンツのメタデータである撮影取得情報とを対応付けた情報であるイベント生起情報、及び、イベントに関連する複数のコンテンツの撮影取得情報をもとに算出される値であって、当該撮影取得情報によって特定されるイベントの尤もらしさの程度を示す値である尤度又は当該尤度を算出するための関数を記憶するイベント生起情報記憶手段を備えたコンピュータに搭載されるコンテンツ分類プログラムであって、
    前記コンピュータに、
    分類されるコンテンツの撮影取得情報が前記イベント生起情報の撮影取得情報に対応することを条件に、当該イベント生起情報の撮影取得情報に対応するイベントの中で尤もらしいと判断されるイベントをコンテンツの分類先イベントであると判定するイベント判定処理を実行させ、
    前記イベント判定処理で、分類されるコンテンツの撮影取得情報に対応する尤度が高いイベントほど尤もらしいと判断させる
    ことを特徴とするコンテンツ分類プログラム。
  29. イベントに関連する複数のコンテンツの撮影取得情報をイベントごとに集計した値である生起頻度を尤度として記憶するイベント生起情報記憶手段を備えたコンピュータに搭載されるコンテンツ分類プログラムであって、
    前記コンピュータに、
    イベント判定処理で、分類されるコンテンツの撮影取得情報に対応する前記生起頻度が高いイベントほど尤もらしいと判断させる
    請求項28記載のコンテンツ分類プログラム。
  30. 複数のコンテンツの撮影取得情報をイベントごとに集計し、当該集計値をもとに算出された撮影取得情報に対するイベントの生起確率を尤度として記憶するイベント生起情報記憶手段を備えたコンピュータに搭載されるコンテンツ分類プログラムであって、
    前記コンピュータに、
    イベント判定処理で、分類されるコンテンツの撮影取得情報に対応する前記生起確率が高いイベントほど尤もらしいと判断させる
    請求項28記載のコンテンツ分類プログラム。
  31. 各イベントにおける尤度の分布との誤差が最小になる関数を記憶するイベント生起情報記憶手段を備えたコンピュータに搭載されるコンテンツ分類プログラムであって、
    前記コンピュータに、
    イベント判定処理で、前記関数によって算出される尤度が高いイベントほど尤もらしいと判断させる
    請求項28記載のコンテンツ分類プログラム。
JP2011520748A 2009-07-01 2010-05-14 コンテンツ分類装置、コンテンツ分類方法及びコンテンツ分類プログラム Pending JPWO2011001587A1 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2009156674 2009-07-01
JP2009156674 2009-07-01
JP2009189459 2009-08-18
JP2009189459 2009-08-18
PCT/JP2010/003265 WO2011001587A1 (ja) 2009-07-01 2010-05-14 コンテンツ分類装置、コンテンツ分類方法及びコンテンツ分類プログラム

Publications (1)

Publication Number Publication Date
JPWO2011001587A1 true JPWO2011001587A1 (ja) 2012-12-10

Family

ID=43410680

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011520748A Pending JPWO2011001587A1 (ja) 2009-07-01 2010-05-14 コンテンツ分類装置、コンテンツ分類方法及びコンテンツ分類プログラム

Country Status (3)

Country Link
US (1) US20120109901A1 (ja)
JP (1) JPWO2011001587A1 (ja)
WO (1) WO2011001587A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8923607B1 (en) * 2010-12-08 2014-12-30 Google Inc. Learning sports highlights using event detection
US20120213404A1 (en) * 2011-02-18 2012-08-23 Google Inc. Automatic event recognition and cross-user photo clustering
CN102959551B (zh) * 2011-04-25 2017-02-08 松下电器(美国)知识产权公司 图像处理装置
TWI522821B (zh) * 2011-12-09 2016-02-21 致伸科技股份有限公司 相片管理系統
WO2013115202A1 (ja) * 2012-01-30 2013-08-08 日本電気株式会社 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム、通信端末およびその制御方法と制御プログラム
US9391792B2 (en) 2012-06-27 2016-07-12 Google Inc. System and method for event content stream
US9418370B2 (en) 2012-10-23 2016-08-16 Google Inc. Obtaining event reviews
US9830360B1 (en) * 2013-03-12 2017-11-28 Google Llc Determining content classifications using feature frequency
KR102203810B1 (ko) 2013-10-01 2021-01-15 삼성전자주식회사 사용자 입력에 대응되는 이벤트를 이용한 유저 인터페이싱 장치 및 방법
JP6369108B2 (ja) * 2014-04-18 2018-08-08 富士通株式会社 イベント発生場所推定方法、イベント発生場所推定プログラムおよびイベント発生場所推定装置
TWI638569B (zh) * 2014-11-05 2018-10-11 晶睿通訊股份有限公司 監控系統與監控方法
EP3274878A1 (en) 2015-09-28 2018-01-31 Google LLC Sharing images and image albums over a communication network
CN110770717B (zh) 2017-05-17 2024-04-16 谷歌有限责任公司 通过通信网络与指定用户的自动图像共享
CN108769955B (zh) * 2018-05-16 2021-10-08 深圳市路上智驾科技有限公司 智能手账笔记本***、装置及装置控制方法
JP6900946B2 (ja) * 2018-12-25 2021-07-14 横河電機株式会社 エンジニアリング支援システム及びエンジニアリング支援方法
WO2021171652A1 (ja) * 2020-02-27 2021-09-02 パナソニックIpマネジメント株式会社 画像処理装置及び画像処理方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5781650A (en) * 1994-02-18 1998-07-14 University Of Central Florida Automatic feature detection and age classification of human faces in digital images
US6606411B1 (en) * 1998-09-30 2003-08-12 Eastman Kodak Company Method for automatically classifying images into events
US6351556B1 (en) * 1998-11-20 2002-02-26 Eastman Kodak Company Method for automatically comparing content of images for classification into events
US6504951B1 (en) * 1999-11-29 2003-01-07 Eastman Kodak Company Method for detecting sky in images
JP2002358306A (ja) * 2001-06-01 2002-12-13 Canon Inc 画像情報検索方法、画像情報検索装置、記憶媒体及びプログラム
JP2003298991A (ja) * 2002-03-29 2003-10-17 Fuji Photo Film Co Ltd 画像整理方法および装置並びにプログラム
US7555165B2 (en) * 2003-11-13 2009-06-30 Eastman Kodak Company Method for semantic scene classification using camera metadata and content-based cues
JP2007317077A (ja) * 2006-05-29 2007-12-06 Fujifilm Corp 画像分類装置および方法ならびにプログラム
JP2008250855A (ja) * 2007-03-30 2008-10-16 Sony Corp 情報処理装置および方法、並びにプログラム
US8611677B2 (en) * 2008-11-19 2013-12-17 Intellectual Ventures Fund 83 Llc Method for event-based semantic classification

Also Published As

Publication number Publication date
US20120109901A1 (en) 2012-05-03
WO2011001587A1 (ja) 2011-01-06

Similar Documents

Publication Publication Date Title
WO2011001587A1 (ja) コンテンツ分類装置、コンテンツ分類方法及びコンテンツ分類プログラム
US8594440B2 (en) Automatic creation of a scalable relevance ordered representation of an image collection
US10523894B2 (en) Automated selection of keeper images from a burst photo captured set
US8538961B2 (en) Information processing apparatus and method, and program
KR100601997B1 (ko) 인물기반 디지털 사진 클러스터링 방법 및 장치와 이를이용한 인물기반 디지털 사진 앨버밍 방법 및 장치
US8330830B2 (en) Camera user input based image value index
US11562516B2 (en) Apparatus, method and storage medium
US8878960B2 (en) Image processing apparatus and image management method
US7813560B2 (en) Classifying complete and incomplete date-time information
JP2007041964A (ja) 画像処理装置
US10089532B2 (en) Method for output creation based on video content characteristics
JP2020140577A (ja) 装置、方法、及びプログラム
KR20070079331A (ko) 화상 처리 시스템, 화상 처리 장치 및 방법, 프로그램, 및기록 매체
US9400942B2 (en) System and method for estimating/determining the date of a photo
US8320609B2 (en) Device and method for attaching additional information
JP2007094990A (ja) 画像分類装置および方法並びにプログラム
US20100262605A1 (en) Image management apparatus, control method thereof and storage medium storing program
US20060294096A1 (en) Additive clustering of images into events using capture date-time information
US20130002903A1 (en) Camera user input based image value index
JP4490214B2 (ja) 電子アルバム表示システム、電子アルバム表示方法、及び電子アルバム表示プログラム
TWI528197B (zh) 相片分群系統及相片分群方法與電腦可讀取記錄媒體
JP2008090698A (ja) 画像分類装置および方法ならびにプログラム
US8682834B2 (en) Information processing apparatus and information processing method
JP2005275847A (ja) 画像保管方法および画像保管装置
Gong et al. Segmenting photo streams in events based on optical metadata