JP6998449B2 - 音源のハイライト区間を決定する方法、その装置及び該コンピュータプログラム - Google Patents
音源のハイライト区間を決定する方法、その装置及び該コンピュータプログラム Download PDFInfo
- Publication number
- JP6998449B2 JP6998449B2 JP2020503683A JP2020503683A JP6998449B2 JP 6998449 B2 JP6998449 B2 JP 6998449B2 JP 2020503683 A JP2020503683 A JP 2020503683A JP 2020503683 A JP2020503683 A JP 2020503683A JP 6998449 B2 JP6998449 B2 JP 6998449B2
- Authority
- JP
- Japan
- Prior art keywords
- sound source
- section
- highlight
- neural network
- classification information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 34
- 238000004590 computer program Methods 0.000 title claims description 9
- 238000013528 artificial neural network Methods 0.000 claims description 93
- 230000006870 function Effects 0.000 claims description 53
- 238000012545 processing Methods 0.000 claims description 40
- 230000008569 process Effects 0.000 description 6
- 230000000306 recurrent effect Effects 0.000 description 6
- 238000013527 convolutional neural network Methods 0.000 description 5
- 238000012549 training Methods 0.000 description 4
- 239000011435 rock Substances 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000036651 mood Effects 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000000946 synaptic effect Effects 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B27/00—Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
- G11B27/02—Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/16—Speech classification or search using artificial neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B20/00—Signal processing not specific to the method of recording or reproducing; Circuits therefor
- G11B20/10—Digital recording or reproducing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Multimedia (AREA)
- Acoustics & Sound (AREA)
- Human Computer Interaction (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
一方、図3に図示された本発明の一実施形態によるコンテンツ管理方法は、コンピュータで実行されるプログラムに作成可能であり、コンピュータで読み取り可能な記録媒体を利用し、前記プログラムを動作させる汎用デジタルコンピュータによっても具現される。該媒体は、コンピュータで実行可能なプログラムを保存する装置でもある。また、該媒体は、単一、または数個のハードウェアが結合された形態の多様な記録手段または保存手段でもあるが、あるコンピュータシステムに直接接続される媒体に限定されるものではなく、ネットワーク上にも分散存在する。該媒体の例示としては、ハードディスク、フロッピィーディスク及び磁気テープのような磁気媒体;CD-ROM(compact disc read only memory)及びDVD(digital versatile disc)のような光記録媒体;フロプティカルディスク(floptical disk)のような磁気・光媒体(magneto-optical medium);及びROM(read-only memory)、RAM(random access memory)、フラッシュメモリなどを含み、プログラム命令語が保存されるように構成されたものでもある。また、他の媒体の例示として、アプリケーションを流通するアプリストアや、その他多様なソフトウェアを供給したり流通させたりするサイト、サーバなどで管理する記録媒体ないし記録媒体も挙げることができる。
Claims (8)
- プロセッサを利用し、音源のハイライト区間を決定する方法において、前記方法は、
音源、及び前記音源に係わる分類情報を獲得する獲得段階と、
前記音源及び前記分類情報を利用し、前記音源を時間軸に分割した複数の区間それぞれの特徴値に対応するノードを含む入力レイヤ、前記分類情報に対応するノードを含む出力レイヤ、前記入力レイヤと前記出力レイヤとの間にある隠れレイヤ、前記入力レイヤと前記隠れレイヤとの間の関係を表す第1関数、及び前記隠れレイヤと前記出力レイヤとの間の関係を表す第2関数に基づいて決定されるニューラルネットワークを学習する学習段階であって、前記第1関数は、前記各区間の特徴値の加重値和を計算するアテンションモデルを含む学習段階と、
前記学習された第1関数に含まれた前記各区間の特徴値ノードの加重値情報に基づいて、前記音源のハイライト区間を決定する決定段階と、
を含む音源のハイライト区間決定方法。 - 前記隠れレイヤは、前記第1関数により、前記各区間の特徴値から獲得される前記音源に係わる統合特徴値に対応するノードを含むことを特徴とする請求項1に記載の音源のハイライト区間決定方法。
- 前記獲得段階の後に、
時間軸に係わる音データを含む前記音源を、時間軸に係わるエネルギーデータを含むように変換する段階をさらに含み、
前記複数の区間は、前記変換された音源を時間軸に分割したことを特徴とする請求項1に記載の音源のハイライト区間決定方法。 - 前記決定段階は、前記各区間の特徴値ノードの加重値情報、及び前記各区間のエネルギーデータに基づいて、前記ハイライト区間を決定することを特徴とする請求項3に記載の音源のハイライト区間決定方法。
- 前記決定段階は、前記各区間の特徴値ノードの加重値情報に基づいて重要区間を決定し、前記重要区間の前後に前もって設定された範囲区間内のエネルギーデータを参照し、前記音源の全体区間において、前記ハイライト区間を決定することを特徴とする請求項1に記載の音源のハイライト区間決定方法。
- 前記決定段階は、前記設定された範囲区間内において、前記エネルギーデータのモメンタムが最大である時点に対応し、前記ハイライト区間を決定することを特徴とする請求項5に記載の音源のハイライト区間決定方法。
- 請求項1ないし6のうちいずれか1項に記載のハイライト区間決定方法をコンピュータに実行させるコンピュータプログラム。
- 音源、及び前記音源に係わる分類情報を獲得する音源獲得手段と、
前記音源及び前記分類情報を利用し、前記音源を時間軸に分割した複数の区間それぞれの特徴値に対応するノードを含む入力レイヤ、前記分類情報に対応するノードを含む出力レイヤ、前記入力レイヤと前記出力レイヤとの間にある隠れレイヤ、前記入力レイヤと前記隠れレイヤとの間の関係を表す第1関数、及び前記隠れレイヤと前記出力レイヤとの間の関係を表す第2関数に基づいて決定されるニューラルネットワークを学習するニューラルネットワーク処理手段であって、前記第1関数は、前記各区間の特徴値の加重値和を計算するアテンションモデルを含むニューラルネットワーク処理手段と、
前記学習された第1関数に含まれた前記各区間の特徴値ノードの加重値情報に基づいて、前記音源のハイライト区間を決定するハイライト決定手段と、を含む音源のハイライト区間決定装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2017-0045391 | 2017-04-07 | ||
KR1020170045391A KR101891778B1 (ko) | 2017-04-07 | 2017-04-07 | 음원의 하이라이트 구간을 결정하는 방법, 장치 및 컴퓨터 프로그램 |
PCT/KR2018/004061 WO2018186708A1 (ko) | 2017-04-07 | 2018-04-06 | 음원의 하이라이트 구간을 결정하는 방법, 장치 및 컴퓨터 프로그램 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020516004A JP2020516004A (ja) | 2020-05-28 |
JP6998449B2 true JP6998449B2 (ja) | 2022-01-18 |
Family
ID=63454529
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020503683A Active JP6998449B2 (ja) | 2017-04-07 | 2018-04-06 | 音源のハイライト区間を決定する方法、その装置及び該コンピュータプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11462210B2 (ja) |
JP (1) | JP6998449B2 (ja) |
KR (1) | KR101891778B1 (ja) |
WO (1) | WO2018186708A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102153211B1 (ko) * | 2019-01-11 | 2020-09-07 | 서울과학기술대학교 산학협력단 | 채팅 데이터와 오디오 데이터를 이용한 하이라이트 영상 생성 장치 및 방법 |
KR102025652B1 (ko) * | 2019-01-21 | 2019-09-27 | 휴멜로 주식회사 | 사운드 이벤트 탐지 모델 학습 방법 |
KR102397563B1 (ko) * | 2019-09-20 | 2022-05-13 | 휴멜로 주식회사 | 사운드 이벤트 탐지 모델 학습 방법 |
JP7120468B2 (ja) * | 2019-09-27 | 2022-08-17 | ヤマハ株式会社 | 音響解析方法、音響解析装置およびプログラム |
JP2022033579A (ja) * | 2020-08-17 | 2022-03-02 | ヤマハ株式会社 | 楽曲構造解析装置 |
CN113297490B (zh) * | 2021-06-04 | 2022-08-02 | 西南大学 | 基于图卷积神经网络的双向推荐方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002062892A (ja) | 2000-08-11 | 2002-02-28 | Nippon Hoso Kyokai <Nhk> | 音響分類装置 |
JP2004191780A (ja) | 2002-12-12 | 2004-07-08 | Sony Corp | 音響信号処理装置及び方法、信号記録装置及び方法、並びにプログラム |
JP2011090290A (ja) | 2009-09-28 | 2011-05-06 | Sanyo Electric Co Ltd | 楽曲抽出装置および楽曲録音装置 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1091194A (ja) * | 1996-09-18 | 1998-04-10 | Sony Corp | 音声復号化方法及び装置 |
ATE331417T1 (de) * | 2000-04-04 | 2006-07-15 | Gn Resound As | Eine hörprothese mit automatischer hörumgebungsklassifizierung |
KR101796580B1 (ko) | 2011-11-28 | 2017-11-14 | 한국전자통신연구원 | 음악 하이라이트 구간 추출 장치 및 방법 |
KR102058025B1 (ko) * | 2013-03-13 | 2020-01-22 | 삼성전자주식회사 | 음원의 하이라이트 구간을 추출하는 전자 장치 및 그 동작 방법 |
KR102239714B1 (ko) * | 2014-07-24 | 2021-04-13 | 삼성전자주식회사 | 신경망 학습 방법 및 장치, 데이터 처리 장치 |
KR102449837B1 (ko) | 2015-02-23 | 2022-09-30 | 삼성전자주식회사 | 신경망 학습 방법 및 장치, 및 인식 방법 및 장치 |
KR102413692B1 (ko) * | 2015-07-24 | 2022-06-27 | 삼성전자주식회사 | 음성 인식을 위한 음향 점수 계산 장치 및 방법, 음성 인식 장치 및 방법, 전자 장치 |
-
2017
- 2017-04-07 KR KR1020170045391A patent/KR101891778B1/ko active IP Right Grant
-
2018
- 2018-04-06 WO PCT/KR2018/004061 patent/WO2018186708A1/ko active Application Filing
- 2018-04-06 JP JP2020503683A patent/JP6998449B2/ja active Active
-
2019
- 2019-10-04 US US16/593,488 patent/US11462210B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002062892A (ja) | 2000-08-11 | 2002-02-28 | Nippon Hoso Kyokai <Nhk> | 音響分類装置 |
JP2004191780A (ja) | 2002-12-12 | 2004-07-08 | Sony Corp | 音響信号処理装置及び方法、信号記録装置及び方法、並びにプログラム |
JP2011090290A (ja) | 2009-09-28 | 2011-05-06 | Sanyo Electric Co Ltd | 楽曲抽出装置および楽曲録音装置 |
Non-Patent Citations (2)
Title |
---|
CHAN, William ほか,Listen, Attend and Spell,arXiv[online],arXiv,2015年08月20日,pp.1-16,[retrieved on 2020.10.23],Retrieved from the Internet: <URL: https://arxiv.org/pdf/1508.01211v2.pdf> |
LUONG, Minh-Thang,Effective Approaches to Attention-based Neural Machine Translation,arXiv[online],arXiv,2015年09月20日,[retrieved on 2020.10.23], Retrieved from the Internet: <URL: https://arxiv.org/pdf/1508.04025v5.pdf> |
Also Published As
Publication number | Publication date |
---|---|
US20200035225A1 (en) | 2020-01-30 |
WO2018186708A1 (ko) | 2018-10-11 |
KR101891778B1 (ko) | 2018-08-24 |
JP2020516004A (ja) | 2020-05-28 |
US11462210B2 (en) | 2022-10-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6998449B2 (ja) | 音源のハイライト区間を決定する方法、その装置及び該コンピュータプログラム | |
CN111444967B (zh) | 生成对抗网络的训练方法、生成方法、装置、设备及介质 | |
TW202101431A (zh) | 訓練神經網路反映情緒感知之方法、用於分類與找尋關聯內容之相關系統及方法及內嵌有多維屬性向量之相關數位媒體檔案 | |
US11544565B2 (en) | Processing system for generating a playlist from candidate files and method for generating a playlist | |
Turnbull et al. | Fast recognition of musical genres using RBF networks | |
CN111309965B (zh) | 音频匹配方法、装置、计算机设备及存储介质 | |
JP6904483B2 (ja) | パターン認識装置、パターン認識方法、及びパターン認識プログラム | |
US11869467B2 (en) | Information processing method, information processing apparatus, and information processing program | |
Yang et al. | Music Genre Classification Using Duplicated Convolutional Layers in Neural Networks. | |
KR20080030922A (ko) | 정보처리 장치 및 방법, 프로그램, 및 기록 매체 | |
Wu et al. | Reducing model complexity for DNN based large-scale audio classification | |
CN110019779B (zh) | 一种文本分类方法、模型训练方法及装置 | |
WO2016189307A1 (en) | Audio identification method | |
CN111444379B (zh) | 音频的特征向量生成方法及音频片段表示模型的训练方法 | |
Phan et al. | Multi-view audio and music classification | |
KR20190108027A (ko) | 영상과 어울리는 음악을 생성하는 방법, 시스템 및 비일시성의 컴퓨터 판독 가능 기록 매체 | |
JP2024514656A (ja) | ノード情報を使用してニューラルネットワークパラメーターを更新するデコーダー、エンコーダー、コントローラー、方法及びコンピュータープログラム | |
Kumar et al. | Designing neural speaker embeddings with meta learning | |
GB2583696A (en) | System for categoring and finding associated content and embedded vector therefor | |
CN111010595B (zh) | 一种新节目推荐的方法及装置 | |
Kruspe et al. | Automatic speech/music discrimination for broadcast signals | |
Virtanen et al. | Proceedings of the Detection and Classification of Acoustic Scenes and Events 2017 Workshop (DCASE2017) | |
da Silva et al. | Audio plugin recommendation systems for music production | |
TWI780382B (zh) | 微控制器更新系統和方法 | |
Sha et al. | Flor: a federated learning-based music recommendation engine |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191001 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201014 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201104 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201215 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20210414 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20210412 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20210713 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211013 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20211013 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20211026 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20211102 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211124 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211220 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6998449 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313115 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |