JP4621909B2 - マルチメディア情報検索システム及びプログラム - Google Patents
マルチメディア情報検索システム及びプログラム Download PDFInfo
- Publication number
- JP4621909B2 JP4621909B2 JP2004342304A JP2004342304A JP4621909B2 JP 4621909 B2 JP4621909 B2 JP 4621909B2 JP 2004342304 A JP2004342304 A JP 2004342304A JP 2004342304 A JP2004342304 A JP 2004342304A JP 4621909 B2 JP4621909 B2 JP 4621909B2
- Authority
- JP
- Japan
- Prior art keywords
- sound
- image
- feature amount
- data
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
Description
次に、画像コントラストモデルと音の協和音・不協和音との間での調和・不調和の関係を検証するために、次のような心理実験1を実施した。つまり、明るい色調の画像には協和音が調和すると感じるか、不協和音が調和すると感じるか、また逆に暗い色調の画像には協和音が調和すると感じるか、不協和音が調和すると感じるかをテストした。
まず、音データベース4、画像データベース5に対するデータ蓄積処理は、次による。記録メディアあるいはネットワークを通じて多種類の音データを順次、入出力処理部1を通じて入力し、音分析部2によって(14)式に基づいて協和度・不協和度を演算し、識別子、音データ、演算結果を音データベース4に順次登録しておく。同様に、記録メディアあるいはネットワークを通じて多種類の画像データを順次、入出力処理部1を通じて入力し、画像分析部3によって(3)、(4)式に基づいて彩度を演算し、識別子、画像データ、演算結果を画像データベース5に順次登録しておく。
入力される音データをキーにして調和する画像を検索して抽出する処理を、図10のフローチャートを用いて説明する。入力される音データに対して、その協和度、不協和度を(14)式によって分析する(ステップS1,S2)。協和音とする基準は、0.6<Cf≦1.0、逆に不協和音とする基準は、0≦Cf<0.3、そして0.3≦Cf≦0.6はそのどちらでもないとする。
入力される画像データをキーにして調和する音を検索して抽出する処理を、図11のフローチャートを用いて説明する。入力される画像データに対して、その彩度を(3)、(4)式によって分析する(ステップS11,S12)。
次に、画像明度と音の協和音・不協和音との間での調和・不調和の関係を検証するために、次のような心理実験2を実施した。つまり、明るい画像には協和音が調和すると感じるか、不協和音が調和すると感じるか、また逆に暗い画像には協和音が調和すると感じるか、不協和音が調和すると感じるかをテストした。
2 音分析部
3 画像分析部
4 音データベース
5 画像データベース
6 マッチング処理部
7 制御部
10 表示装置
11 キーボード
Claims (12)
- 表示出力、印字出力、ネットワークに対する情報入出力、入力手段からの情報入力を処理する入出力処理部と、
画像識別子と画像データと画像特徴量とを対応させた画像レコードを多種類登録している画像データベースと、
前記入出力処理部に入力された音データを周波数分析し、音特徴量を生成する音分析部と、
前記音分析部の生成した音特徴量にマッチングする画像特徴量を決定する音・画像マッチング処理部と、
前記音・画像マッチング処理部の決定した画像特徴量をキーにして前記画像データベースを検索し、該当する画像特徴量を持つ画像データを抽出する画像データベース検索部とを備え、
前記画像データベースは、画像識別子と、画像データと、当該画像データに対して、
前記音分析部は、入力された音データに対して、
前記音・画像マッチング処理部は、音特徴量Cfとこれにマッチングする画像特徴量Crg,Cybとの対応データを保持していて、前記音分析部の求めた音特徴量Cfに対して当該対応データを参照して当該音特徴量にマッチングする画像特徴量Crg,Cygを決定することを特徴とするマルチメディア情報検索システム。 - 表示出力、印字出力、ネットワークに対する情報入出力、入力手段からの情報入力を処理する入出力処理部と、
画像識別子と画像データと画像特徴量とを対応させた画像レコードを多種類登録している画像データベースと、
前記入出力処理部に入力された音データを周波数分析し、音特徴量を生成する音分析部と、
前記音分析部の生成した音特徴量にマッチングする画像特徴量を決定する音・画像マッチング処理部と、
前記音・画像マッチング処理部の決定した画像特徴量をキーにして前記画像データベースを検索し、該当する画像特徴量を持つ画像データを抽出する画像データベース検索部とを備え、
前記画像データベースは、画像識別子と、画像データと、当該画像データに対して、
前記音分析部は、入力された音データに対して、
前記音・画像マッチング処理部は、音特徴量Cfとこれにマッチングする画像彩度Cs1又はCs2との対応データを保持していて、前記音分析部の求めた音特徴量Cfに対して当該対応データを参照して当該音特徴量にマッチングする画像彩度Cs1又はCs2を決定することを特徴とするマルチメディア情報検索システム。 - 表示出力、印字出力、ネットワークに対する情報入出力、入力手段からの情報入力を処理する入出力処理部と、
画像識別子と画像データと画像特徴量とを対応させた画像レコードを多種類登録している画像データベースと、
前記入出力処理部に入力された音データを周波数分析し、音特徴量を生成する音分析部と、
前記音分析部の生成した音特徴量にマッチングする画像特徴量を決定する音・画像マッチング処理部と、
前記音・画像マッチング処理部の決定した画像特徴量をキーにして前記画像データベースを検索し、該当する画像特徴量を持つ画像データを抽出する画像データベース検索部とを備え、
前記画像データベースは、画像識別子と、画像データと、当該画像データに対して、
前記音分析部は、入力された音データに対して、
前記音・画像マッチング処理部は、音特徴量Cfとこれにマッチングする画像明度Cbrとの対応データを保持していて、前記音分析部の求めた音特徴量Cfに対して当該対応データを参照して当該音特徴量にマッチングする画像明度Cbrを決定することを特徴とするマルチメディア情報検索システム。 - 表示出力、印字出力、ネットワークに対する情報入出力、入力手段からの情報入力を処理する入出力処理部と、
音識別子と音データと音特徴量とを対応させた音レコードを多種類登録している音データベースと、
前記入出力処理部に入力された画像データに所定の画像特徴量算出式を適用して画像特徴量を生成する画像分析部と、
前記画像分析部の生成した画像特徴量にマッチングする音特徴量を決定する画像・音マッチング処理部と、
前記画像・音マッチング処理部の決定した音特徴量をキーにして前記音データベースを検索し、該当する音特徴量を持つ音データを抽出する音データベース検索部とを備え、
前記音データベースは、音識別子と、音データと、当該音データに対して、
前記画像分析部は、入力された画像データに対して、
前記画像・音マッチング処理部は、画像特徴量Crg,Cybとこれにマッチングする音特徴量Cfとの対応データを保持していて、前記画像分析部の求めた画像特徴量Crg,Cybに対して当該対応データを参照して当該画像特徴量にマッチングする音特徴量Cfを決定することを特徴とするマルチメディア情報検索システム。 - 表示出力、印字出力、ネットワークに対する情報入出力、入力手段からの情報入力を処理する入出力処理部と、
音識別子と音データと音特徴量とを対応させた音レコードを多種類登録している音データベースと、
前記入出力処理部に入力された画像データに所定の画像特徴量算出式を適用して画像特徴量を生成する画像分析部と、
前記画像分析部の生成した画像特徴量にマッチングする音特徴量を決定する画像・音マッチング処理部と、
前記画像・音マッチング処理部の決定した音特徴量をキーにして前記音データベースを検索し、該当する音特徴量を持つ音データを抽出する音データベース検索部とを備え、
前記音データベースは、音識別子と、音データと、当該音データに対して、
前記画像分析部は、入力された画像データに対して、
前記画像・音マッチング処理部は、画像特徴量Cs1又はCs2とこれにマッチングする音特徴量Cfとの対応データを保持していて、前記画像分析部の求めた画像彩度Cs1又はCs2に対して当該対応データを参照して当該画像彩度にマッチングする音特徴量Cfを決定することを特徴とするマルチメディア情報検索システム。 - 表示出力、印字出力、ネットワークに対する情報入出力、入力手段からの情報入力を処理する入出力処理部と、
音識別子と音データと音特徴量とを対応させた音レコードを多種類登録している音データベースと、
前記入出力処理部に入力された画像データに所定の画像特徴量算出式を適用して画像特徴量を生成する画像分析部と、
前記画像分析部の生成した画像特徴量にマッチングする音特徴量を決定する画像・音マッチング処理部と、
前記画像・音マッチング処理部の決定した音特徴量をキーにして前記音データベースを検索し、該当する音特徴量を持つ音データを抽出する音データベース検索部とを備え、
前記音データベースは、音識別子と、音データと、当該音データに対して、
前記画像分析部は、入力された画像データに対して、
前記画像・音マッチング処理部は、画像明度Cbrとこれにマッチングする音特徴量Cfとの対応データを保持していて、前記画像分析部の求めた画像明度Cbrに対して当該対応データを参照して当該画像明度にマッチングする音特徴量Cfを決定することを特徴とするマルチメディア情報検索システム。 - 入力された音データを周波数分析し、音特徴量を生成する音分析ステップと、
前記音分析ステップで生成した音特徴量にマッチングする画像特徴量を決定する音・画像マッチング処理ステップと、
前記音・画像マッチング処理ステップで決定した画像特徴量をキーにして、画像識別子と画像データと画像特徴量とを対応させた画像レコードを多数保持している画像データベースを検索し、該当する画像特徴量を持つ画像データを抽出する画像データベース検索ステップとをコンピュータに実行させるマルチメディア情報検索プログラムであって、
前記画像データベースは、画像識別子と、画像データと、当該画像データに対して、
前記音分析ステップでは、入力された音データに対して、
前記音・画像マッチング処理ステップでは、音特徴量Cfとこれにマッチングする画像特徴量Crg,Cybとの対応データを保持していて、前記音分析ステップで求めた音特徴量Cfに対して当該対応データを参照して当該音特徴量にマッチングする画像特徴量Crg,Cygを決定することを特徴とするマルチメディア情報検索プログラム。 - 入力された音データを周波数分析し、音特徴量を生成する音分析ステップと、
前記音分析ステップで生成した音特徴量にマッチングする画像特徴量を決定する音・画像マッチング処理ステップと、
前記音・画像マッチング処理ステップで決定した画像特徴量をキーにして、画像識別子と画像データと画像特徴量とを対応させた画像レコードを多数保持している画像データベースを検索し、該当する画像特徴量を持つ画像データを抽出する画像データベース検索ステップとをコンピュータに実行させるマルチメディア情報検索プログラムであって、
前記画像データベースは、画像識別子と、画像データと、当該画像データに対して、
前記音分析ステップでは、入力された音データに対して、
前記音・画像マッチング処理ステップでは、音特徴量Cfとこれにマッチングする画像彩度Cs1又はCs2との対応データを保持していて、前記音分析ステップで求めた音特徴量Cfに対して当該対応データを参照して当該音特徴量にマッチングする画像彩度Cs1又はCs2を決定することを特徴とするマルチメディア情報検索プログラム。 - 入力された音データを周波数分析し、音特徴量を生成する音分析ステップと、
前記音分析ステップで生成した音特徴量にマッチングする画像特徴量を決定する音・画像マッチング処理ステップと、
前記音・画像マッチング処理ステップで決定した画像特徴量をキーにして、画像識別子と画像データと画像特徴量とを対応させた画像レコードを多数保持している画像データベースを検索し、該当する画像特徴量を持つ画像データを抽出する画像データベース検索ステップとをコンピュータに実行させるマルチメディア情報検索プログラムであって、
前記画像データベースは、画像識別子と、画像データと、当該画像データに対して、
前記音分析ステップでは、入力された音データに対して、
前記音・画像マッチング処理ステップでは、音特徴量Cfとこれにマッチングする画像明度Cbrとの対応データを保持していて、前記音分析ステップで求めた音特徴量Cfに対して当該対応データを参照して当該音特徴量にマッチングする画像明度Cbrを決定することを特徴とするマルチメディア情報検索プログラム。 - 入力された画像データに所定の画像特徴量算出式を適用して画像特徴量を生成する画像分析ステップと、
前記画像分析ステップで生成した画像特徴量にマッチングする音特徴量を決定する画像・音マッチング処理ステップと、
前記画像・音マッチング処理ステップで決定した音特徴量をキーにして、音識別子と音データと音特徴量とを対応させた音レコードを多種類登録している音データベースを検索し、該当する音特徴量を持つ音データを抽出する音データベース検索ステップとをコンピュータに実行させるマルチメディア情報検索プログラムであって、
前記音データベースは、音識別子と、音データと、当該音データに対して、
前記画像分析ステップでは、入力された画像データに対して、
前記画像・音マッチング処理ステップでは、画像特徴量Crg,Cybとこれにマッチングする音特徴量Cfとの対応データを保持していて、前記画像分析ステップで求めた画像特徴量Crg,Cybに対して当該対応データを参照して当該画像特徴量にマッチングする音特徴量Cfを決定することを特徴とするマルチメディア情報検索プログラム。 - 入力された画像データに所定の画像特徴量算出式を適用して画像特徴量を生成する画像分析ステップと、
前記画像分析ステップで生成した画像特徴量にマッチングする音特徴量を決定する画像・音マッチング処理ステップと、
前記画像・音マッチング処理ステップで決定した音特徴量をキーにして、音識別子と音データと音特徴量とを対応させた音レコードを多種類登録している音データベースを検索し、該当する音特徴量を持つ音データを抽出する音データベース検索ステップとをコンピュータに実行させるマルチメディア情報検索プログラムであって、
前記音データベースは、音識別子と、音データと、当該音データに対して、
前記画像分析ステップでは、入力された画像データに対して、
前記画像・音マッチング処理ステップでは、画像特徴量Cs1又はCs2とこれにマッチングする音特徴量Cfとの対応データを保持していて、前記画像分析ステップで求めた画像彩度Cs1又はCs2に対して当該対応データを参照して当該画像彩度にマッチングする音特徴量Cfを決定することを特徴とするマルチメディア情報検索プログラム。 - 入力された画像データに所定の画像特徴量算出式を適用して画像特徴量を生成する画像分析ステップと、
前記画像分析ステップで生成した画像特徴量にマッチングする音特徴量を決定する画像・音マッチング処理ステップと、
前記画像・音マッチング処理ステップで決定した音特徴量をキーにして、音識別子と音データと音特徴量とを対応させた音レコードを多種類登録している音データベースを検索し、該当する音特徴量を持つ音データを抽出する音データベース検索ステップとをコンピュータに実行させるマルチメディア情報検索プログラムであって、
前記音データベースは、音識別子と、音データと、当該音データに対して、
前記画像分析ステップでは、入力された画像データに対して、
前記画像・音マッチング処理ステップでは、画像明度Cbrとこれにマッチングする音特徴量Cfとの対応データを保持していて、前記画像分析ステップで求めた画像明度Cbrに対して当該対応データを参照して当該画像明度にマッチングする音特徴量Cfを決定することを特徴とするマルチメディア情報検索プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004342304A JP4621909B2 (ja) | 2004-11-26 | 2004-11-26 | マルチメディア情報検索システム及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004342304A JP4621909B2 (ja) | 2004-11-26 | 2004-11-26 | マルチメディア情報検索システム及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006155042A JP2006155042A (ja) | 2006-06-15 |
JP4621909B2 true JP4621909B2 (ja) | 2011-02-02 |
Family
ID=36633298
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004342304A Expired - Fee Related JP4621909B2 (ja) | 2004-11-26 | 2004-11-26 | マルチメディア情報検索システム及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4621909B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009266005A (ja) * | 2008-04-25 | 2009-11-12 | Clarion Co Ltd | 画像検索方法、画像検索プログラム、楽曲再生装置、および楽曲検索用物品 |
JP2012015809A (ja) * | 2010-06-30 | 2012-01-19 | Kddi Corp | 楽曲選択装置、楽曲選択方法および楽曲選択プログラム |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11308513A (ja) * | 1998-04-17 | 1999-11-05 | Casio Comput Co Ltd | 画像再生装置及び画像再生方法 |
JP2001184357A (ja) * | 1999-12-24 | 2001-07-06 | Victor Co Of Japan Ltd | マルチメディア素材検索装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7120626B2 (en) * | 2002-11-15 | 2006-10-10 | Koninklijke Philips Electronics N.V. | Content retrieval based on semantic association |
-
2004
- 2004-11-26 JP JP2004342304A patent/JP4621909B2/ja not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11308513A (ja) * | 1998-04-17 | 1999-11-05 | Casio Comput Co Ltd | 画像再生装置及び画像再生方法 |
JP2001184357A (ja) * | 1999-12-24 | 2001-07-06 | Victor Co Of Japan Ltd | マルチメディア素材検索装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2006155042A (ja) | 2006-06-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4340907B2 (ja) | オーディオビジュアルサマリ作成方法および装置 | |
CN103793446B (zh) | 音乐视频的生成方法和*** | |
US7777121B2 (en) | Information processing apparatus, information processing method, and computer program | |
EP1542139B1 (en) | Information search apparatus, information search method, and information recording medium on which information search program is computer-readably recorded | |
US20240046644A1 (en) | Video classification method, device and system | |
JP4548495B2 (ja) | 情報処理置および方法、並びにプログラム | |
CN100458788C (zh) | 一种互联网音频文件的聚类方法、搜索方法及*** | |
JP2009157442A (ja) | データ検索装置および方法 | |
JPWO2006137271A1 (ja) | 楽曲検索装置、楽曲検索方法および楽曲検索プログラム | |
CN110781835A (zh) | 一种数据处理方法、装置、电子设备和存储介质 | |
CN111667805A (zh) | 一种伴奏音乐的提取方法、装置、设备和介质 | |
JP4621909B2 (ja) | マルチメディア情報検索システム及びプログラム | |
US11410706B2 (en) | Content pushing method for display device, pushing device and display device | |
Bocko et al. | Automatic music production system employing probabilistic expert systems | |
Gomez-Marin et al. | Drum rhythm spaces: From polyphonic similarity to generative maps | |
Fernández-Martınez et al. | Combining audio-visual features for viewers’ perception classification of Youtube car commercials | |
WO2020055173A1 (en) | Method and system for audio content-based recommendations | |
JP4459269B2 (ja) | 曲検索装置、曲検索方法及び曲検索用プログラム並びに情報記録媒体 | |
Grenier et al. | Unsupervised classification techniques for multipitch estimation | |
Lukasik | Towards timbre-driven semantic retrieval of violins | |
Kosta | Computational modelling and quantitative analysis of dynamics in performed music | |
CN113270081B (zh) | 调整歌伴奏音的方法及调整歌伴奏音的电子装置 | |
EP4195196A1 (en) | System and method for increasing energy level of songs | |
Anh | Visualization of Musical Emotions by Colors of Images | |
Vatolkin | Generalisation performance of western instrument recognition models in polyphonic mixtures with ethnic samples |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20071113 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100526 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100601 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100715 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100928 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101007 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131112 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131112 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |