KR101969504B1 - Sound event detection method using deep neural network and device using the method - Google Patents
Sound event detection method using deep neural network and device using the method Download PDFInfo
- Publication number
- KR101969504B1 KR101969504B1 KR1020170056345A KR20170056345A KR101969504B1 KR 101969504 B1 KR101969504 B1 KR 101969504B1 KR 1020170056345 A KR1020170056345 A KR 1020170056345A KR 20170056345 A KR20170056345 A KR 20170056345A KR 101969504 B1 KR101969504 B1 KR 101969504B1
- Authority
- KR
- South Korea
- Prior art keywords
- data
- audio signal
- neural network
- noises
- event
- Prior art date
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 86
- 238000013528 artificial neural network Methods 0.000 title claims description 71
- 238000000034 method Methods 0.000 title claims description 39
- 230000005236 sound signal Effects 0.000 claims abstract description 98
- 238000012549 training Methods 0.000 claims abstract description 63
- 238000012360 testing method Methods 0.000 claims abstract description 44
- 238000012805 post-processing Methods 0.000 claims abstract description 15
- 239000013598 vector Substances 0.000 claims description 36
- 230000003595 spectral effect Effects 0.000 claims description 31
- 238000000605 extraction Methods 0.000 claims description 13
- 238000013500 data storage Methods 0.000 claims description 9
- 238000003064 k means clustering Methods 0.000 claims description 5
- 230000002159 abnormal effect Effects 0.000 description 6
- 239000000284 extract Substances 0.000 description 6
- 206010039203 Road traffic accident Diseases 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 238000012544 monitoring process Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000002238 attenuated effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/18—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being spectral information of each sub-band
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
Abstract
본 발명은 사운드 이벤트 검출 방법 및 사운드 이벤트 검출 장치에 관한 것이다. 상기 사운드 이벤트 검출 방법은, (a) 학습 단계 및 (b) 이벤트 검출 단계 를 구비하고, 상기 (a) 학습 단계는, 각 훈련 데이터들로부터 특징(feature) 데이터들 및 예제 노이즈들(Noise Exemplars)을 추출하고, 상기 예제 노이즈들을 부가 입력으로 하여 사다리 네트워크를 학습하는 것을 특징으로 하며,
상기 (b) 이벤트 검출 단계는, 입력된 테스트용 오디오 신호로부터 특징 데이터를 추출하고, 상기 학습된 사다리 네트워크 및 예제 노이즈들을 이용하여, 상기 테스트용 오디오 신호에 대한 이벤트 종류를 검출하고, 검출 결과에 대하여 메디안 필터(Median Filter)를 이용하여 후처리하여 이벤트 종류를 최종적으로 분류하는 것을 특징으로 한다. The present invention relates to a sound event detection method and a sound event detection apparatus. (A) a learning step, and (b) an event detection step, wherein the learning step (a) includes the steps of: extracting feature data and sample noises from each training data; And learns the ladder network by using the example noises as additional inputs.
In the event detection step (b), the feature data is extracted from the inputted test audio signal, the event type for the test audio signal is detected using the learned ladder network and the example noises, And finally sorting the event types by post-processing using a median filter.
Description
본 발명은 심층 신경망을 기반으로 한 사운드 이벤트 검출 방법 및 사운드 이벤트 검출 장치에 관한 것으로서, 더욱 구체적으로는 훈련 데이터들로부터 예제 노이즈들을 추출하고, 추출된 예제 노이즈들을 부가 입력으로 하여 심층 신경망을 학습시킨 후, 테스트용 오디오 신호와 예제 노이즈들을 입력 데이터로 하여 상기 학습된 심층 신경망을 이용하여 보다 정확하게 사운드 이벤트 종류를 검출하는 방법 및 장치에 관한 것이다. The present invention relates to a sound event detection method and a sound event detection apparatus based on a deep neural network, and more particularly, to a sound event detection method and a sound event detection apparatus which extracts example noises from training data and learns a depth neural network And more particularly, to a method and apparatus for detecting a sound event type more accurately using the learned neural network using test audio signals and example noises as input data.
CCTV 등과 같은 보안 감시 시스템은 많은 분야에서 사용되고 있으며, 최근 그 적용 분야 및 활용 범위도 크게 증대되고 있다. 특히, 도로 교통 모니터링을 위한 감시 시스템은 매우 중요한 과제로 대두되고 있는 실정이다. 도로 교통 모니터링을 위한 감시 시스템은 차량 충돌(car crashing)이나 타이어 스키딩(tire skidding)과 같은 비정상적이거나 위험한 교통 상황이나 교통 사고가 발생되는 경우 추가적인 사고가 발생되는 것을 방지하고 신속한 처리를 위하여, 이러한 비정상적이거나 위험한 교통 상황이나 교통 사고가 발생되는 것을 신속하게 자동으로 판단하는 기능이 요구되고 있다. CCTV, etc. have been used in many fields, and their application field and application range have been greatly increased recently. Especially, surveillance system for monitoring of road traffic is becoming a very important task. The surveillance system for road traffic monitoring is designed to prevent abnormal accidents such as car crashing and tire skidding in the event of an unusual or dangerous traffic situation or traffic accident, And the ability to quickly and automatically determine whether a traffic accident or a dangerous traffic situation occurs.
이에 따라, 영상 정보들을 이용하여 전술한 교통 사고나 비정상적이거나 위험한 교통 상황이 발생된 것을 확인할 수도 있지만, 교통사고시에 주로 발생되는 차량 충돌이나 타이어 스키딩 현상은 독특한 소리를 수반하게 되므로 이러한 독특한 사운드에 대한 음향 분석을 통해 특정 이벤트들을 신속하게 자동으로 판별해 내는 것이 더욱 효과적일 수 있다. Accordingly, although it is possible to confirm that the above-described traffic accident or abnormal or dangerous traffic situation has occurred by using the image information, a vehicle collision or tire skidding, which occurs mainly in a traffic accident, is accompanied by a unique sound, Acoustic analysis can be more effective in quickly and automatically identifying specific events.
이러한 이유로, 종래에는 사운드 이벤트 검출(Sound Event Detection; 'SED')이 다양하게 제안되었다. 제안된 방법들 중 하나인, 종래의 패턴 인식 기술(Pattern recognition technique)은 학습에 의해 일련의 특징들을 추출하고, 추출된 특징들(features)을 이용하여 이벤트 종류를 검출하는 방법이다. For this reason, various sound event detection (" SED ") have been conventionally proposed. The conventional pattern recognition technique, which is one of the proposed methods, is a method of extracting a series of features by learning and detecting an event type using the extracted features.
하지만, 차량 충돌이나 타이어 스키딩과 같은 교통 사고 또는 비정상적인 교통 상황을 나타내는 사운드 신호는 백색 잡음 뿐만 아니라 도로의 일반적인 사운드 신호와 함께 캡쳐됨에 따라, 종래의 음향 분석 기술들로는 정확하게 전술한 이벤트 종류를 검출하기가 용이하지 않다. However, since the sound signal indicating a traffic accident such as a vehicle collision, a tire skidding, or an abnormal traffic situation is captured along with the general sound signal of the road as well as the white noise, conventional sound analysis techniques accurately detect the above- It is not easy.
따라서, 본 발명은 도로 교통 감시 시스템 등에서 차량 충돌이나 타이어 스키딩과 같은 비정상적이거나 위험한 교통 상황을 보다 신속하고 정확하게 감지하기 위하여 사용될 수 있는 사운드 이벤트 검출 방법 및 장치를 제안하고자 한다. Accordingly, the present invention proposes a sound event detection method and apparatus that can be used to more quickly and accurately detect an abnormal or dangerous traffic situation such as a vehicle collision or tire skidding in a road traffic monitoring system or the like.
전술한 문제점을 해결하기 위한 본 발명의 목적은 심층 신경망을 이용하여 차량 충돌이나 타이어 스키딩과 같은 비정상적이거나 위험한 교통 상황을 보다 신속하고 정확하게 감지하기 위하여 사용될 수 있는 사운드 이벤트 검출 방법 및 장치를 제공하는 것이다. SUMMARY OF THE INVENTION An object of the present invention is to provide a method and apparatus for detecting a sound event that can be used to more quickly and accurately detect an abnormal or dangerous traffic situation such as a vehicle collision or a tire skidding by using a deep- .
본 발명의 다른 목적은 오디오 신호로부터 추출된 특징 데이터와 예제 노이즈들을 결합하여 입력 데이터로 하여 심층 신경망을 이용하여 차량 충돌이나 타이어 스키딩과 같은 비정상적이거나 위험한 교통 상황을 보다 신속하고 정확하게 감지하기 위하여 사용될 수 있는 사운드 이벤트 검출 방법 및 장치를 제공하는 것이다. Another object of the present invention is to provide a method and apparatus for detecting abnormal or dangerous traffic situations such as vehicle collision or tire skidding more quickly and accurately by using deep neural networks by combining feature data extracted from an audio signal and example noises as input data And to provide a method and an apparatus for detecting a sound event.
전술한 기술적 과제를 달성하기 위한 본 발명의 제1 특징에 따른 사운드 이벤트 검출 방법은, (a) 오디오 신호와 이에 대응되는 이벤트 종류를 포함하는 훈련 데이터들을 이용하여 심층 신경망(Deep neural-Network)을 학습하는 단계; 및 (b) 테스트하기 위하여 입력된 테스트용 오디오 신호에 대하여 상기 학습된 심층 신경망을 이용하여 이벤트 종류를 검출하는 단계; 를 구비하고, According to a first aspect of the present invention, there is provided a method for detecting a sound event, the method comprising: (a) generating a Deep Neural-Network using training data including an audio signal and a corresponding event type; Learning step; And (b) detecting an event type using the learned neural network for a test audio signal input for testing; And,
상기 (a) 학습 단계는, (a1) 각 훈련 데이터를 구성하는 오디오 신호들에 대한 특징(feature) 데이터들을 추출하는 단계; (a2) 상기 추출된 특징 데이터들로부터 예제 노이즈들(Noise Exemplars)을 추출하는 단계; (a3) 각 오디오 신호에 대한 특징 데이터를 포함하는 스펙트럴 벡터(spectral vector)와 상기 예제 노이즈들을 결합하여, 훈련용 결합 데이터들을 생성하는 단계; 및 (a4) 상기 훈련용 결합 데이터들을 이용하여 심층 신경망을 학습하는 단계;를 구비하고, The learning step (a) includes the steps of: (a1) extracting feature data of audio signals constituting each training data; (a2) extracting example noises (Noise Exemplars) from the extracted feature data; (a3) combining the sample noises with a spectral vector including characteristic data for each audio signal to generate training combination data; And (a4) learning the neural network using the training combination data,
상기 (b) 이벤트 검출 단계는, (b1) 테스트용 오디오 신호를 입력받는 단계; (b2) 상기 입력된 테스트용 오디오 신호로부터 특징 데이터를 추출하는 단계; (b3) 상기 추출된 특징 데이터와 상기 예제 노이즈들을 결합하여 테스트용 결합 데이터를 생성하는 단계; (b4) 상기 테스트용 결합 데이터를 상기 학습된 신경망에 입력하여 이벤트 종류를 검출하는 단계; 및 (b5) 상기 (b4) 단계의 검출 결과에 대하여 메디안 필터(Median Filter)를 이용하여 후처리하여, 이벤트 종류를 최종적으로 분류하는 단계;를 구비하여, 예제 노이즈들을 부가 입력으로 하여 학습된 심층 신경망을 이용하여 테스트용 오디오 신호로부터 이벤트 종류를 검출한다. The (b) event detection step may include: (b1) receiving a test audio signal; (b2) extracting feature data from the input test audio signal; (b3) combining the extracted feature data with the exemplary noises to generate test binding data; (b4) inputting the test combination data to the learned neural network to detect an event type; And (b5) post-processing the detection result of the step (b4) using a median filter to finally sort the event types, The neural network is used to detect the event type from the test audio signal.
전술한 제1 특징에 따른 상기 사운드 이벤트 검출 방법에 있어서, 상기 (b5) 단계의 메디안 필터는 (b4) 단계에서의 검출 결과에 대하여 서로 인접한 두 개의 세그먼트들의 일부를 중첩시키는(half overlapping) 것이 바람직하다. In the sound event detection method according to the first aspect, it is preferable that the median filter of the step (b5) partially overlap two segments adjacent to each other with respect to the detection result of the step (b4) Do.
전술한 제1 특징에 따른 상기 사운드 이벤트 검출 방법에 있어서, 상기 심층 신경망은 사다리 네트워크(Ladder Network)이며, In the sound event detection method according to the first aspect, the depth neural network is a ladder network,
상기 사다리 네트워크는 적층된 디노이징 오토인코더(Denoising autoencoder;DAE)의 비지도 재구성 성분(unsupervised reconstruction component)를 피드포워드 심층 신경망(feedforward Deep-neural network;FFNN)의 지도 학습(supervised learning)에 추가하는 것이 바람직하다. The ladder network may be implemented by adding an unsupervised reconstruction component of a denoising autoencoder (DAE) to a supervised learning of a feedforward Deep-Neural Network (FFNN) .
전술한 제1 특징에 따른 상기 사운드 이벤트 검출 방법에 있어서, 상기 오디오 신호로부터 추출하는 특징 데이터는 로그-파워 스펙트럴 계수들(Logarithmic linear-frequency power spectral coefficients)인 것이 바람직하다. In the sound event detection method according to the first aspect, the feature data extracted from the audio signal is preferably logarithmic linear-frequency power spectral coefficients.
전술한 제1 특징에 따른 상기 사운드 이벤트 검출 방법에 있어서, 상기 예제 노이즈들은 예제 노이즈 후보들로부터 무작위로 선택되거나 k-means clustering algorithm을 적용하여 선택되며, In the sound event detection method according to the first aspect, the exemplary noises are randomly selected from exemplary noise candidates or selected by applying a k-means clustering algorithm,
상기 예제 노이즈 후보들은 훈련 데이터를 구성하는 오디오 신호들에 대한 특징 데이터들로부터 얻는 스펙트럴 벡터들(spectral vectors) 중 사전 설정된 하위 범위에 해당하는 L1 노름(norm)을 갖는 벡터들로 선택된 것이 바람직하다. The exemplary noise candidates are preferably selected as vectors having a L1 norm corresponding to a predetermined lower range of spectral vectors obtained from the feature data of the audio signals constituting the training data .
전술한 제1 특징에 따른 상기 사운드 이벤트 검출 방법에 있어서, 상기 이벤트는 차량 충격(car crashing) 또는 타이어 스키딩(tire skidding)인 것이 바람직하다. In the sound event detection method according to the first aspect, it is preferable that the event is car crashing or tire skidding.
본 발명의 제2 특징에 따른 심층 신경망을 이용하여 오디오 신호로부터 이벤트 종류를 검출하여 제공하는 사운드 이벤트 검출 장치는, 오디오 신호와 이에 대응되는 이벤트 종류를 포함하는 훈련 데이터를 이용하여 심층 신경망을 학습하는 학습 모듈; 및 입력된 오디오 신호에 대하여 상기 학습된 심층 신경망과 예제 노이즈들을 이용하여 이벤트 종류를 검출하는 이벤트 검출 모듈; 을 구비하고, A sound event detecting apparatus for detecting and providing an event type from an audio signal using a depth neural network according to a second aspect of the present invention includes a processor for learning a depth neural network using an audio signal and training data including an event type corresponding thereto Learning module; And an event detection module for detecting an event type of the input audio signal using the learned neural network and example noises. And,
상기 학습 모듈은, 오디오 신호 및 오디오 신호에 대응되는 이벤트 종류를 포함하는 다수 개의 훈련 데이터들을 저장한 데이터 저장부; 데이터 저장부에 저장된 각 훈련 데이터들을 구성하는 오디오 신호들에 대한 특징 데이터들을 추출하는 제1 특징 추출부; 상기 특징 추출부에 의해 추출된 특징 데이터들로부터 예제 노이즈들(Noise Exemplars)을 추출하는 예제 노이즈 추출부; 훈련 데이터를 구성하는 각 오디오 신호에 대한 특징 데이터를 포함하는 스펙트럴 벡터들과 상기 예제 노이즈들을 결합하여, 훈련용 결합 데이터들을 생성하는 제1 데이터 결합부; 및 제1 데이터 결합부에 의해 생성된 상기 훈련용 결합 데이터들을 이용하여 심층 신경망을 학습하는 신경망 학습부;를 구비하고, The learning module includes: a data storage unit storing a plurality of training data including an event type corresponding to an audio signal and an audio signal; A first feature extraction unit for extracting feature data of audio signals constituting each training data stored in a data storage unit; An example noise extracting unit for extracting example noises from feature data extracted by the feature extracting unit; A first data combining unit for combining the spectral vectors including the feature data for each audio signal constituting the training data with the exemplary noises to generate training combination data; And a neural network learning unit that learns a depth neural network using the training combination data generated by the first data combining unit,
상기 이벤트 검출 모듈은, 외부로부터 테스트용 오디오 신호를 입력받는 오디오 신호 입력부; 상기 입력된 테스트용 오디오 신호로부터 특징 데이터를 추출하는 제2 특징 추출부; 상기 학습 모듈로부터 예제 노이즈들을 제공받고, 상기 제2 특징 추출부에 의해 추출된 특징 데이터를 포함하는 스펙트럴 벡터와 상기 예제 노이즈들을 결합하여 테스트용 결합 데이터를 생성하는 제2 데이터 결합부; 상기 테스트용 결합 데이터를 상기 학습된 신경망에 입력하여 이벤트 종류를 검출하는 이벤트 검출부; 및 상기 이벤트 검출부의 검출 결과에 대하여 메디안 필터(Median Filter)를 이용하여 후처리하여, 이벤트 종류를 최종적으로 분류하는 후처리부;를 구비하여, 학습된 신경망과 예제 노이즈들을 이용하여 오디오 신호로부터 이벤트 종류를 검출한다. Wherein the event detection module comprises: an audio signal input unit for receiving a test audio signal from the outside; A second feature extracting unit for extracting feature data from the input test audio signal; A second data combining unit for receiving sample noises from the learning module and combining the spectral vectors including the feature data extracted by the second feature extracting unit and the exemplary noises to generate test combining data; An event detector for inputting the test combination data to the learned neural network to detect an event type; And a post-processing unit for post-processing the detection result of the event detection unit using a median filter to finally classify the event types, and generates an event type from the audio signal using the learned neural network and example noises, .
전술한 제2 특징에 따른 사운드 이벤트 검출 장치에 있어서, 상기 심층 신경망은 사다리 네트워크(Ladder Network)이며, In the sound event detection apparatus according to the second aspect, the depth neural network is a ladder network,
상기 사다리 네트워크는 적층된 디노이징 오토인코더(Denoising autoencoder;DAE)의 비지도 재구성 성분(unsupervised reconstruction component)를 피드포워드 심층 신경망(feedforward Deep-neural network;FFNN)의 지도 학습(supervised learning)에 추가하는 것이 바람직하다. The ladder network may be implemented by adding an unsupervised reconstruction component of a denoising autoencoder (DAE) to a supervised learning of a feedforward Deep-Neural Network (FFNN) .
전술한 제2 특징에 따른 사운드 이벤트 검출 장치에 있어서, 상기 오디오 신호로부터 추출하는 특징 데이터는 로그-파워 스펙트럴 계수(Logarithmic linear-frequency power spectral coefficients)인 것이 바람직하다. In the sound event detection device according to the second aspect, the feature data extracted from the audio signal is preferably logarithmic linear-frequency power spectral coefficients.
전술한 제2 특징에 따른 사운드 이벤트 검출 장치에 있어서, 상기 예제 노이즈들은 예제 노이즈 후보들로부터 무작위로 선택되거나 k-means clustering algorithm을 적용하여 선택되며, In the sound event detecting apparatus according to the second aspect, the example noises are randomly selected from exemplary noise candidates or selected by applying a k-means clustering algorithm,
상기 예제 노이즈 후보들은 훈련 데이터를 구성하는 오디오 신호들에 대한 특징 데이터들로부터 얻는 스펙트럴 벡터들(spectral vectors) 중 사전 설정된 하위 범위에 해당하는 L1 노름(norm)을 갖는 벡터들로 선택된 것이 바람직하다. The exemplary noise candidates are preferably selected as vectors having a L1 norm corresponding to a predetermined lower range of spectral vectors obtained from the feature data of the audio signals constituting the training data .
본 발명에 따른 사운드 이벤트 검출 방법 및 장치는 분류기로서 Ladder Network(LN)을 사용함으로써, 훈련 데이터들의 개수가 작더라도 분류 성능을 향상시킬 수 있게 된다. The method and apparatus for detecting a sound event according to the present invention can improve classification performance even if the number of training data is small by using a ladder network (LN) as a classifier.
또한, 본 발명에 따른 사운드 이벤트 검출 방법 및 장치는 훈련 데이터들을 구성하는 오디오 신호로부터 추출된 특징 벡터들로부터 예제 노이즈들을 추출하고, 예제 노이즈들을 LN의 부가 입력으로 사용함으로써, 노이즈 강인함(Noise Robustness)을 구현할 수 있게 된다. In addition, the method and apparatus for detecting a sound event according to the present invention extracts example noises from feature vectors extracted from an audio signal constituting training data, and uses noise as an additional input of the LN, thereby obtaining noise robustness. . ≪ / RTI >
또한, 본 발명에 따른 사운드 이벤트 검출 방법 및 장치는 LN에 의한 분류이후에 메디안 필터를 이용한 후처리를 함으로써, 분류 성능을 보다 향상시킬 수 있게 된다. In addition, the method and apparatus for detecting a sound event according to the present invention can further improve classification performance by performing post-processing using a median filter after classification by LN.
본 발명에 따른 사운드 이벤트 검출 방법의 성능을 입증하기 위하여, http://mivia.unisa.it 에 공개된 데이터세트를 이용하여 종래 기술들과 대비하여 사운드 이벤트 검출을 수행하였다. 상기 데이터세트는 도로 감시 응용을 위하여 400개의 비정상적이거나 위험한 도로 이벤트들의 2개 클래스들, 즉 200개의 차량 충돌 및 200개의 타이어 스키딩 이벤트들을 포함한다. 이벤트 발생을 시뮬레이션하기 위하여, 매우 조용한 배경부터 매우 시끄러운 잡음이 많은 교통 상황과 고속도로까지 모두 포함하는 다양한 환경에서 일련의 이벤트들이 배경 사운드에 중첩되어 있다. In order to verify the performance of the sound event detection method according to the present invention, sound event detection was performed in comparison with the prior art using a data set disclosed at http://mivia.unisa.it. The data set includes two classes of 400 unusual or dangerous road events for road surveillance applications: 200 vehicle collisions and 200 tire skidding events. To simulate an event, a series of events are superimposed on the background sound in a variety of environments, from very quiet backgrounds to very noisy noisy traffic conditions and highways.
표 1은 종래의 다양한 방법에 따른 검출 결과와 본 발명에 따른 검출 결과를 나타낸 표이다. Table 1 shows detection results according to various conventional methods and detection results according to the present invention.
표 1 및 표 2에 있어서, 방법 1은 비디오 스트림 프로세싱을 통한 검출 방법이며, 방법 2는 종래의 Feedforward DNN(FFNN)만을 적용한 검출 방법이며, 방법 3은 Ladder Network(LN) 만을 적용한 검출 방법이며, 방법 4는 Ladder Network을 적용하면서 매칭된 예제 노이즈를 직접 감쇄시키는 방법(Noise Reduction)을 적용한 검출 방법이며, 방법 5는 Ladder Network를 적용하면서 예제 노이즈들을 부가 입력으로 사용한 검출 방법이며, 방법 6은 본 발명에 따라 Ladder Network를 적용하면서 예제 노이즈를 부가 입력으로 사용하고 후처리하여 최종적으로 검출하는 검출 방법이다. In Table 1 and Table 2, Method 1 is a detection method using video stream processing, Method 2 is a detection method using only conventional feedforward DNN (FFNN), Method 3 is a detection method using only Ladder Network (LN) Method 4 is a detection method applying a noise reduction method that directly matches a matched sample noise while applying a ladder network, Method 5 is a detection method using sample noise as an additional input while applying a ladder network, According to the invention, a ladder network is applied, and an example noise is used as an additional input, and post-processing is finally performed.
표 1에서, F-score 는 모든 테스트에 대해 수학식 2와 같이 구할 수 있으며, 여기서 P 및 R은 각각 정확성(precision)과 리콜(recall)로서 수학식 3과 4로 나타낼 수 있다. In Table 1, the F-score can be found as in Equation 2 for all tests, where P and R can be expressed as equations (3) and (4) as the precision and recall, respectively.
여기서, TP는 true-positive-detection counts로서, 이벤트가 있는 세그먼트가 올바르게 분류될때마다 카운트되는 횟수이며, FP는 false-positive-detection counts로서, 이벤트없는 세그먼트가 잘못 분류되었을 때 마다 카운트되는 횟수이며, FN은 false-negative-detection counts로서 이벤트가 있는 세그먼트가 이벤트 없는 세그먼트로 분류될 때마다 카운드되는 횟수이다. Where TP is true-positive-detection counts, the number of times a segment with an event is counted each time it is classified correctly, and FP is the number of false-positive-detection counts, FN is false-negative-detection counts, the number of times that a segment with an event is counted each time it is classified as an event-free segment.
에러율(error rate)은 수학식 5에 의해 얻을 수 있으며, 여기서 S, D, I, N은 각각 substituted, deleted, inserted errors, 이벤트를 갖는 세그먼트의 개수를 나타낸다. substitution error 는 차량 충돌이 있는 세그먼트가 타이어 스키딩으로 잘못 분류되는 케이스를 말하며, deletion error 또는 insertion error는 각각 non-substitution error 세그먼트에 대하여 false negative 검출 또는 false positive 검출에 대응된다. The error rate can be obtained by Equation 5, where S, D, I, and N represent the number of segments having substituted, deleted, inserted errors, and events, respectively. Substitution error refers to a case where a segment with a vehicle crash is misclassified as a tire skipping, and a deletion error or an insertion error corresponds to a false negative detection or a false positive detection for a non-substitution error segment, respectively.
표 1 및 표 2를 통해, 본 발명에 따른 검출 방법은 재구성률(Rec.rate) 및 F-score가 가장 우수하며 Miss rate, FPR 및 Error rate가 가장 낮음을 파악할 수 있으며, 이로부터 본 발명에 따른 검출 방법이 가장 분류 성능이 우수함을 쉽게 파악할 수 있다. Table 1 and Table 2 show that the detection method according to the present invention has the highest Recru rate and F-score, and the lowest Miss rate, FPR and Error rate. From this, It can be easily understood that the classification method according to the present invention has the best classification performance.
도 1은 본 발명의 바람직한 실시예에 따른 사운드 이벤트 검출 방법을 전체적으로 도시한 흐름도이다.
도 2는 본 발명의 바람직한 실시예에 따른 사운드 이벤트 검출 방법을 구현한 사운드 이벤트 검출 장치를 개략적으로 도시한 블록도이다. 1 is a flowchart illustrating a sound event detection method according to a preferred embodiment of the present invention.
2 is a block diagram schematically showing a sound event detection apparatus implementing a sound event detection method according to a preferred embodiment of the present invention.
본 발명에 따른 사운드 이벤트 검출 방법 및 장치는, 훈련 데이터들의 오디오 신호들로부터 추출된 특징 데이터들을 포함한 스펙트럴 벡터들과 예제 노이즈들을 결합하여 생성된 훈련용 결합 데이터들을 이용하여 사다리 네트워크를 학습하고, 학습된 사다리 네트워크 및 예제 노이즈들을 이용하여 테스트용 오디오 신호로부터 이벤트 종류를 검출하는 것을 특징으로 한다. The method and apparatus for detecting a sound event according to the present invention learns a ladder network using training combination data generated by combining sample vectors and spectral vectors including feature data extracted from audio signals of training data, And the type of event is detected from the test audio signal using the learned ladder network and the example noises.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예에 따른 사운드 이벤트 검출 방법 및 장치에 대하여 구체적으로 설명한다. Hereinafter, a method and apparatus for detecting a sound event according to a preferred embodiment of the present invention will be described in detail with reference to the accompanying drawings.
< 사운드 이벤트 검출 방법 > <Sound event detection method>
도 1을 참조하여 본 발명의 제1 실시예에 따른 사운드 이벤트 검출 방법에 대하여 구체적으로 설명한다. 도 1은 본 발명의 바람직한 제1 실시예에 따른 사운드 이벤트 검출 방법을 순차적으로 도시한 흐름도이다. A sound event detecting method according to a first embodiment of the present invention will be described in detail with reference to FIG. 1 is a flowchart sequentially illustrating a sound event detection method according to a first preferred embodiment of the present invention.
도 1을 참조하면, 본 발명의 제1 실시예에 따른 사운드 이벤트 검출 방법은, 크게 학습 단계와 이벤트 검출 단계로 이루어진다. Referring to FIG. 1, the sound event detecting method according to the first embodiment of the present invention largely comprises a learning step and an event detecting step.
상기 학습 단계는 사전 준비된 훈련 데이터를 이용하여 심층 신경망(Deep Neral-Network)을 학습하는 단계이며, 상기 이벤트 검출 단계는 상기 학습 단계에 의해 학습된 심층 신경망을 이용하여 오디오 신호로부터 사전 설정된 이벤트 종류를 검출하는 단계이다. Wherein the learning step is a step of learning a Deep Neral-Network using pre-prepared training data, and the event detecting step is a step of learning a predefined event type from the audio signal using the neural network learned by the learning step .
먼저, 학습 단계(Training phase)에 대하여 보다 구체적으로 설명한다. First, the training phase will be described in more detail.
상기 학습 단계는, 먼저 오디오 신호들 및 이들에 대응되는 사전 설정된 이벤트 종류를 포함하는 훈련 데이터(training data)를 준비한다(단계 10).The learning step first prepares training data including the audio signals and a predetermined event kind corresponding to them (step 10).
각 훈련 데이터들을 구성하는 오디오 신호들에 대한 특징(Feature) 데이터들을 추출한다(단계 100). 상기 오디오 신호로부터 추출하는 특징 데이터는 로그-파워 스펙트럴 계수(Logarithmic linear-frequency power spectral coefficients)인 것이 바람직하다. 일반적으로, 음성 인식(Speech Recognition)을 위한 음향 모델들의 DNN(Deep Neural-Network) 기반의 학습과 마찬가지로, 본 발명에서도 오디오 신호로부터 주파수 분석된 입력신호들(frequency-analyzed inputs)을 추출하고 심층 신경망 분류기(DNN classifier)로 제공한다. 고정된 길이를 갖는 입력 오디오 스트림은 해밍 윈도우(Hamming window)에 의해 프레임되고, 그 프레임에 short-time Fourier transform(STFT)를 적용하여 이에 대한 스펙트럼을 얻게 된다. 프레임 사이즈보다 작은 일정한 타입 갭(constant time gap)을 갖는 인접한 스펙트럴 벡터들(spectral vectors)을 얻게 된다. magnitude-squared STFT outputs의 logrithm에 의해 a vector of logarithmic linear-frequency power spectral coefficients 이 계산되어지며, 일련의 상기 벡터들이 DNN 분류기의 입력으로 사용된다. 그 결과 DNN은 동시에 시간축과 주파수축을 따라 음향 정보를 획득할 수 있게 된다. Feature data for the audio signals constituting each training data are extracted (step 100). The feature data extracted from the audio signal is preferably logarithmic linear-frequency power spectral coefficients. Generally, as in the case of DNN (Deep Neural-Network) based learning of acoustic models for speech recognition, the present invention also extracts frequency-analyzed input signals from audio signals, It is provided as a classifier (DNN classifier). An input audio stream having a fixed length is framed by a Hamming window and a spectrum is obtained by applying a short-time Fourier transform (STFT) to the frame. Adjacent spectral vectors with a constant time gap smaller than the frame size are obtained. A vector of logarithmic linear-frequency power spectral coefficients is calculated by the logrithm of the magnitude-squared STFT outputs, and a series of these vectors are used as input to the DNN classifier. As a result, DNN can simultaneously acquire acoustic information along the time and frequency axes.
다음, 상기 추출된 특징 데이터들로부터 예제 노이즈들(Noise Exemplars)을 추출한다(단계 110). 본 발명에 따른 사운드 이벤트 검출 방법은, 상기 추출된 예제 노이즈들을 사다리 네트워크의 부가적인 입력 신호로서 사용하여 사다리 네트워크를 학습함으로써, 노이즈 강인함을 갖게 된다. 이하, 예제 노이즈들에 대하여 보다 구체적으로 설명한다. Next, example noises (Noise Exemplars) are extracted from the extracted feature data (step 110). The sound event detection method according to the present invention has noise robustness by learning the ladder network using the extracted example noise as an additional input signal of the ladder network. Hereinafter, exemplary noises will be described in more detail.
일반적으로, DNN을 기반으로 한 분류기들이 분류 성능이 우수할지라도, 훈련 조건들과 매칭되지 않는 노이즈들에 의해 입력 데이터들이 왜곡되는 보이지않는 노이즈 환경에서는 그 성능이 감소될 수 밖에 없다. 따라서, 훈련용 데이터 세트에 다양한 종류의 노이즈 형태들을 포함시키게 된다. 더 나은 노이즈 강인함(noise robustness)을 얻기 위하여, 종래의 노이즈 인지 훈련(Noise-Aware Training; NAT)은 DNN 입력에 추정된 노이즈 정보를 포함하며, 종래의 노이즈 감쇄(Noise reduction)에 근거한 방법은 입력된 스펙트럴 벡터들에서 매칭된 예제 노이즈를 직접 제거한다. In general, even though DNN-based classifiers have excellent classification performance, their performance is inevitably reduced in an invisible noise environment where input data is distorted by noise that does not match training conditions. Thus, various types of noise shapes are included in the training data set. In order to obtain better noise robustness, conventional Noise-Aware Training (NAT) includes estimated noise information at the DNN input, and a conventional noise reduction based method And directly removes the matched sample noise in the filtered spectral vectors.
한편, 본 발명에서는, 예제 노이즈들(Noise Exemplars)을 설정하기 위하여, 먼저 예제 노이즈들의 후보들을 모든 프레임에서 얻는 입력 벡터들 중 하위 30%에 해당하는 L1 norm을 갖는 벡터들로 선택한다. 다음, 이렇게 선택된 예제 노이즈들의 후보들로부터, 예제 노이즈들은 무작위로 선택되거나 k-means clustering algorithm에 의해 선택될 수 있다. In the present invention, in order to set example noises (Noise Exemplars), candidates of exemplary noises are firstly selected as vectors having L1 norm corresponding to the lower 30% of the input vectors obtained in all the frames. Next, from the candidates of the selected example noise, the example noises may be randomly selected or selected by the k-means clustering algorithm.
입력 벡터에 대하여, 매칭된 예제 노이즈가 선택되어 감쇄시킴으로써, 수학식 1에 의해 정의되는 노이즈 추정 에러(Noise estimation error)를 최소화시키게 된다. For the input vector, the matched example noise is selected and attenuated to minimize the noise estimation error defined by Equation (1).
여기서, X t , N k 및 α는 각각 프레임 t 에서의 입력 벡터, k 번째 예제 노이즈, 및 under-estimation error 와 over-estimation error의 비율을 결정하는 상수이다. Where X t , N k, and α are constants that determine the input vector at frame t , the k th example noise, and the ratio of under-estimation error and over-estimation error, respectively.
NAT 방법에서는 노이즈가 묵음 구간(non-speech period)로부터 추정되지만, 사운드 이벤트 검출에서는 노이즈 추정을 위한 LN 분류 이전에 이벤트가 없는 세그먼트를 검출하기가 어렵다. 반면에, 매칭된 예제 노이즈가 왜곡과는 많이 상이한 경우, 노이즈 감쇄 방법은 입력 스펙트럴 벡터의 왜곡을 제거하는 것이 효율적이지 못하다. 이 경우, 오히려 직접적인 감쇄는 일부 스펙트럴 성분이 왜곡을 증가시키게 된다. 따라서, 본 발명에서는 예제 노이즈들을 분류기의 부가적인 입력으로 사용하는 것을 특징으로 한다. 특히, 본 발명에서는 매칭되는 예제 노이즈를 선택하지 않고 모든 예제 노이즈들을 부가 입력으로 추가함으로써, LN이 예제 노이즈들로 이루어진 "noise dictionary"를 인지할 수 있는 입력의 강인한 분류를 학습할 수 있게 된다. LN의 일련의 입력 벡터들은 효율적인 학습을 위하여 정규화된다. In the NAT method, the noise is estimated from the non-speech period. However, in the sound event detection, it is difficult to detect the segment without the event before the LN classification for the noise estimation. On the other hand, if the matched example noise is much different from the distortion, the noise attenuation method is not effective to eliminate the distortion of the input spectral vector. In this case, rather direct attenuation increases the distortion of some spectral components. Therefore, the present invention is characterized in that the example noises are used as additional inputs of the classifier. Particularly, in the present invention, by adding all the example noises as additional inputs without selecting the matching exemplary noise, it is possible to learn a robust classification of the input in which the LN recognizes the " noise dictionary " The set of input vectors of the LN is normalized for efficient learning.
다음, 훈련 데이터들을 구성하는 각 오디오 신호들에 대한 특징 데이터들을 포함하는 스펙트럴 벡터들과 상기 예제 노이즈들을 결합하여, 훈련용 결합 데이터들을 생성한다(단계 112). Next, the exemplary noise is combined with the spectral vectors including the feature data of the respective audio signals constituting the training data, thereby generating combined data for training (step 112).
다음, 상기 훈련용 결합 데이터들을 이용하여 심층 신경망을 학습한다(단계 114). 본 발명에 따른 사운드 이벤트 검출 방법에서 분류기(Classifier)로 사용되는 상기 심층 신경망은 사다리 네트워크(Ladder Network; LN)인 것이 바람직하다. 이하, 분류기로 사용되는 사다리 네트워크(Ladder Network)에 대하여 보다 구체적으로 설명한다. Next, a depth-based neural network is learned using the training combination data (step 114). In the method for detecting a sound event according to the present invention, the depth neural network used as a classifier is preferably a ladder network (LN). Hereinafter, a ladder network used as a classifier will be described in more detail.
사다리 네트워크는 적층된 디노이징 오토인코더(denoising autoencoder; DAE)의 비지도 재구성 성분(unsupervised reconstruction component)을 종래의 피드포워드 심층 신경망(Feedforward Deep-Neural Network;FFNN)의 지도 학습에 더함으로써, 한정된 fully-labelled data의 분류 성능을 향상시킬 수 있도록 한 것을 특징으로 한다. The ladder network can be defined by adding an unsupervised reconstruction component of a denoising autoencoder (DAE) to the learning of a conventional Feedforward Deep-Neural Network (FFNN) thereby improving the classification performance of the labeled data.
사다리 네트워크는 3개의 경로로 이루어지는데, 첫번째 및 두번째 경로는 각각 stacked DAE에서의 인코더와 디코더에 대응되며, 세번째 경로는 테스트를 위해 사용된다. 상기 사다리 네트워크의 목적 함수는 첫번째 경로의 출력을 위한 지도 교차 엔트로피 비용(the supervised cross-entropy cost)과 두번째 및 세번째 경로의 모든 층에서의 출력들간의 squared errors를 최소화시키는 비지도 재구성 비용(the unsupervised reconstruction cost)의 가중된 합계(a weighted sum)이다. The ladder network consists of three paths: the first and second paths correspond to the encoders and decoders in the stacked DAE respectively, and the third path is used for testing. The objective function of the ladder network is a function of the supervised cross-entropy cost for the output of the first path and the unsupervised < RTI ID = 0.0 > the weighted sum of the reconstruction cost.
상기 사다리 네트워크는 A. Rasmus, H. Valpola, M. Honkala, M. Berglund, and T. Raiko, "Semi-supervised learning with ladder networks," in Advances in Neural Information Processing Systems, Dec. 2015, pp. 3546-3554. 및 M. Pezeshki, L. Fan, P. Brakel, A. Courville, and Y. Bengio, "Deconstructing the ladder network architecture," in Proc . International Conference on Machine Learning, Jun. 2016, pp. 2368-2376. 에 게재된 공지 기술로서, 본 명세서에서는 이에 대한 자세한 설명은 생략한다. The ladder network is described in A. Rasmus, H. Valpola, M. Honkala, M. Berglund, and T. Raiko, "Semi-supervised learning with ladder networks," in Advances in Neural Information Processing Systems , Dec. 2015, pp. 3546-3554. And M. Pezeshki, L. Fan, P. Brakel, A. Courville, and Y. Bengio, " Deconstructing the ladder network architecture, " in Proc . International Conference on Machine Learning , Jun. 2016, pp. 2368-2376. As a known technology, detailed description thereof will be omitted in this specification.
이하, 테스트 단계(Test phase)인 이벤트 검출 단계를 구체적으로 설명한다. Hereinafter, the event detection step as a test phase will be described in detail.
전술한 바와 같이, 학습 단계(Training phase)를 통해 예제 노이즈들을 추출하고, 예제 노이즈들을 부가 입력으로 하여 사다리 네트워크(Ladder Network;LN)를 학습시키게 되며, 학습 단계의 결과들을 이용하여 이벤트 검출 과정을 통해 테스트용 오디오 신호로부터 이벤트 종류를 검출하게 된다. 이하, 이벤트 검출 단계에 대하여 구체적으로 설명한다. As described above, the sample noise is extracted through the training phase, and the ladder network (LN) is learned by using the sample noise as an additional input, and the event detection process is performed using the results of the learning stage The event type is detected from the test audio signal. Hereinafter, the event detection step will be described in detail.
상기 이벤트 검출 단계는, 먼저 마이크로폰 등을 통해 외부로부터 테스트할 오디오 신호를 입력받는다(단계 120).The event detection step first receives an audio signal to be tested from the outside through a microphone or the like (step 120).
다음, 상기 입력된 테스트용 오디오 신호로부터 특징(Feature) 데이터를 추출한다(단계 122). 상기 오디오 신호로부터 추출하는 특징 데이터는 로그-파워 스펙트럴 계수(Logarithmic linear-frequency power spectral coefficients)인 것이 바람직하다. Next, feature data is extracted from the inputted test audio signal (step 122). The feature data extracted from the audio signal is preferably logarithmic linear-frequency power spectral coefficients.
다음, 상기 추출된 특징 데이터를 포함하는 스펙트럴 벡터와 상기 예제 노이즈들(Noise Exemplars)을 결합하여 테스트용 결합 데이터를 생성한다(단계 124). 상기 예제 노이즈들은 학습 단계에서, 훈련 데이터들을 구성하는 오디오 신호들에 대한 특징 데이터들로부터 추출된 예제 노이즈들이다. Next, test vector data is generated by combining the spectral vector including the extracted feature data with the example noises (Noise Exemplars) (step 124). The example noises are exemplary noises extracted from the feature data of the audio signals constituting the training data in the learning step.
다음, 상기 테스트용 결합 데이터를 상기 학습된 심층 신경망에 입력하여 이벤트 종류를 검출한다(단계 126). 상기 심층 신경망은 전술한 사다리 네트워크를 사용한다. Next, the test binding data is input to the learned neural network to detect an event type (step 126). The in-depth neural network uses the ladder network described above.
다음, 신경망을 이용한 검출 결과에 대하여 메디안 필터(Median Filter)를 이용하여 후처리하여, 이벤트를 최종적으로 분류한다(단계 128). 이벤트는 보통 짧은 시간동안 유지되므로, 세그먼트에서의 일시적인 분류 변화는 잘못 분류될 수 있다. 그러므로, 분류의 신뢰성을 향상시키기 위하여, 최종 분류는 3개의 연속되는 세그먼트들에서의 LN 분류의 결과에 대해 메디안 필터를 적용시킬 수 있다. 그런데, 차량 충돌 등과 같은 이벤트는 순간적이면서 예외적인 이벤트로서, 이들은 한 개의 세그먼트보다 더 많이 경과되지 않게 된다. 이 경우, 연속되는 세그먼트들이 중첩되지 않는다면, 후처리는 올바른 검출 결과를 내지 못하게 될 것이다. 따라서, 본 발명에 따른 메디안 필터는 두개의 인접한 세그먼트들의 절반을 중첩(half overlap)시키는 것을 특징으로 하며, 이러한 메디안 필터를 사용한 후처리를 함으로써, 전술한 문제점들을 완화시키도록 하는 것이 더욱 바람직하다. Next, the detection result using the neural network is subjected to post-processing using a median filter to finally classify the event (step 128). Since events are usually kept for a short period of time, temporal classification changes in segments can be misclassified. Therefore, in order to improve the reliability of the classification, the final classification can apply the median filter to the result of the LN classification in three successive segments. However, events such as a vehicle collision are instantaneous and exceptional events, and they do not pass more than one segment. In this case, if successive segments are not overlapped, the post-processing will not yield the correct detection result. Accordingly, the median filter according to the present invention is characterized by half overlapping two adjacent segments, and it is more preferable to mitigate the above-mentioned problems by performing post-processing using such a median filter.
상기 이벤트는 차량 충격(car crashing) 또는 타이어 스키딩(tire skidding)이며, 본 발명에 따른 사운드 이벤트 검출 방법은 도로 감시 시스템 등에서 도로 등에서 발생되는 이벤트를 자동으로 검출하기 위하여 사용될 수 있다. . The event may be car crashing or tire skidding, and the sound event detecting method according to the present invention may be used for automatically detecting an event occurring on a road or the like in a road surveillance system or the like. .
< 사운드 이벤트 검출 장치 > <Sound event detection device>
도 2를 참조하여 본 발명의 제2 실시예에 따른 사운드 이벤트 검출 장치에 대하여 구체적으로 설명한다. 도 2는 본 발명의 제2 실시예에 따른 사운드 이벤트 검출 장치를 도시한 블록도이다. A sound event detecting apparatus according to a second embodiment of the present invention will be described in detail with reference to FIG. 2 is a block diagram illustrating a sound event detection apparatus according to a second embodiment of the present invention.
도 2를 참조하면, 신경망을 이용하여 오디오 신호로부터 이벤트 종류를 검출하여 제공하는 사운드 이벤트 검출 장치(2)는 학습 모듈(20) 및 이벤트 검출 모듈(30)을 구비한다. 상기 학습 모듈(20)은 오디오 신호와 이에 대응되는 이벤트 종류를 포함하는 훈련 데이터들을 이용하여 신경망을 학습하는 모듈이며, 상기 이벤트 검출 모듈(30)은 마이크로폰 등을 통해 외부로부터 입력된 테스트용 오디오 신호에 대하여 상기 학습된 신경망과 예제 노이즈들을 이용하여 이벤트 종류를 검출하는 모듈이다. Referring to FIG. 2, a sound event detecting apparatus 2 for detecting and providing an event type from an audio signal using a neural network includes a
상기 학습 모듈(20)은, 데이터 저장부(200), 제1 특징 추출부(210), 예제 노이즈 추출부(220), 제1 데이터 결합부(230) 및 신경망 학습부(240)를 구비하며, 상기 학습 모듈은 신호 처리 및 데이터 처리가 가능한 컴퓨터 등으로 구성될 수 있다. The
상기 데이터 저장부(205)는 다수 개의 훈련 데이터들을 저장 및 관리하며, 상기 훈련 데이터는 학습을 위하여 사전 준비된 데이터로서, 오디오 신호 및 상기 오디오 신호에 대응되는 이벤트 종류를 포함한다. The
상기 제1 특징 추출부(210)는 각 훈련 데이터들을 구성하는 오디오 신호들에 대한 특징 데이터들을 추출한다. The first
상기 예제 노이즈 추출부(220)는 상기 제1 특징 추출부에 의해 추출된 훈련 데이터들의 오디오 신호들에 대한 특징 데이터들로부터 예제 노이즈들(Noise Exemplars)을 추출한다. 상기 특징 데이터 및 예제 노이즈에 대한 구체적인 설명은 제1 실시예의 그것들과 동일하므로, 중복되는 설명은 생략한다. The example
상기 제1 데이터 결합부(230)는 훈련 데이터를 구성하는 각 오디오 신호에 대한 특징 데이터들을 포함하는 스펙트럴 벡터들(spectral vectors)과 상기 예제 노이즈들을 결합하여, 훈련용 결합 데이터들을 생성하여 제공한다. The first
상기 신경망 학습부(240)는 제1 데이터 결합부에 의해 생성되어 제공된 상기 훈련용 결합 데이터들을 이용하여 신경망을 학습한다. The neural
상기 이벤트 검출 모듈(30)은, 오디오 신호 입력부(300), 제2 특징 추출부(310), 제2 데이터 결합부(320), 이벤트 검출부(330) 및 후처리부(340)를 구비하며, 상기 이벤트 검출 모듈은 신호 처리 및 데이터 처리가 가능한 컴퓨터 등으로 구성될 수 있다. The
상기 오디오 신호 입력부(300)는 마이크로폰 등을 통해 외부로부터 테스트할 테스트용 오디오 신호를 입력받는다. 상기 제2 특징 추출부(310)는 상기 오디오 신호 입력부로부터 제공된 오디오 신호로부터 특징 데이터를 추출한다. 상기 제2 데이터 결합부(320)는 상기 학습 모듈로부터 예제 노이즈들을 제공받고, 상기 제2 특징 추출부에 의해 추출된 특징 데이터를 포함하는 스펙트럴 벡터와 상기 예제 노이즈들을 결합하여 테스트용 결합 데이터를 생성하여 제공한다. The audio
상기 이벤트 검출부(330)는 상기 테스트용 결합 데이터를 상기 학습된 신경망에 입력하여 이벤트 종류를 검출한다. 상기 후처리부(340)는 상기 이벤트 검출부의 검출 결과에 대하여 메디안 필터(Median Filter)를 이용하여 후처리(postprocessing)하여, 이벤트를 최종적으로 분류한다. The
상기 신경망은 사다리 네트워크(Ladder Network)인 것이 바람직하다. 상기 오디오 신호로부터 추출하는 특징 데이터는 로그-파워 스펙트럴 계수(Logarithmic linear-frequency power spectral coefficients)인 것이 바람직하다. 상기 이벤트는 차량 충격(car crashing) 또는 타이어 스키딩(tire skidding)으로서, 본 발명에 따른 사운드 이벤트 검출 장치는 도로 감시 시스템 등에서 도로의 상태를 자동으로 파악하기 위하여 사용될 수 있다.The neural network is preferably a ladder network. The feature data extracted from the audio signal is preferably logarithmic linear-frequency power spectral coefficients. The event may be car crashing or tire skidding, and the sound event detecting apparatus according to the present invention may be used to automatically grasp the state of a road in a road surveillance system or the like.
이상에서 본 발명에 대하여 그 바람직한 실시예를 중심으로 설명하였으나, 이는 단지 예시일 뿐 본 발명을 한정하는 것이 아니며, 본 발명이 속하는 분야의 통상의 지식을 가진 자라면 본 발명의 본질적인 특성을 벗어나지 않는 범위에서 이상에 예시되지 않은 여러 가지의 변형과 응용이 가능함을 알 수 있을 것이다. 그리고, 이러한 변형과 응용에 관계된 차이점들은 첨부된 청구 범위에서 규정하는 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다. While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, but, on the contrary, It will be understood that various changes and modifications may be made without departing from the spirit and scope of the invention. It is to be understood that the present invention may be embodied in many other specific forms without departing from the spirit or essential characteristics thereof.
2 : 사운드 이벤트 검출 장치
20 : 학습 모듈
200 : 데이터 저장부
210 : 제1 특징 추출부
220 : 예제 노이즈 추출부
230 : 제1 데이터 결합부
240 : 신경망 학습부
30 : 이벤트 검출 모듈
300 : 오디오 신호 입력부
310 : 제2 특징 추출부
320 : 제2 데이터 결합부
330 : 이벤트 검출부
340 : 후처리부2: Sound event detection device
20: Learning module
200: Data storage unit
210: First feature extracting unit
220: Example noise extraction unit
230: first data combining unit
240: Neural network learning unit
30: Event detection module
300: Audio signal input
310: second feature extracting unit
320: second data combining unit
330: Event detection unit
340: Post-
Claims (16)
(b) 테스트하기 위하여 입력된 테스트용 오디오 신호에 대하여 상기 학습된 심층 신경망을 이용하여 이벤트 종류를 검출하는 단계; 를 구비하고,
상기 (a) 학습 단계는,
(a1) 각 훈련 데이터를 구성하는 오디오 신호들에 대한 특징(feature) 데이터들을 추출하는 단계;
(a2) 상기 추출된 특징 데이터들로부터 예제 노이즈들(Noise Exemplars)을 추출하는 단계;
(a3) 각 오디오 신호에 대한 특징 데이터를 포함하는 스펙트럴 벡터(spectral vector)와 상기 예제 노이즈들을 결합하여, 훈련용 결합 데이터들을 생성하는 단계; 및
(a4) 상기 훈련용 결합 데이터들을 이용하여 심층 신경망을 학습하는 단계;를 구비하고,
상기 (b) 단계는
(b1) 테스트용 오디오 신호를 입력받는 단계;
(b2) 상기 입력된 테스트용 오디오 신호로부터 특징 데이터를 추출하는 단계;
(b3) 상기 추출된 특징 데이터와 상기 예제 노이즈들을 결합하여 테스트용 결합 데이터를 생성하는 단계; 및
(b4) 상기 테스트용 결합 데이터를 상기 학습된 신경망에 입력하여 이벤트 종류를 검출하는 단계;
를 구비하여, 예제 노이즈들을 부가 입력으로 하여 학습된 심층 신경망을 이용하여 테스트용 오디오 신호로부터 이벤트 종류를 검출하는 것을 특징으로 하며,
상기 심층 신경망은 피드포워드 형태의 심층 신경망(feedforward Deep-neural network;FFNN)의 지도 학습(supervised learning)에 적층된 디노이징 오토인코더(Denoising autoencoder;DAE) 형태의 비지도 재구성 성분(unsupervised reconstruction component)이 추가된 것을 특징으로 하는 사운드 이벤트 검출 방법.(a) learning a deep neural network using training data including an audio signal and a corresponding event type; And
(b) detecting an event type for the test audio signal input for testing using the learned neural network; And,
The learning step (a)
(a1) extracting feature data of audio signals constituting each training data;
(a2) extracting example noises (Noise Exemplars) from the extracted feature data;
(a3) combining the sample noises with a spectral vector including characteristic data for each audio signal to generate training combination data; And
(a4) learning the deep-layer neural network using the training combination data,
The step (b)
(b1) receiving a test audio signal;
(b2) extracting feature data from the input test audio signal;
(b3) combining the extracted feature data with the exemplary noises to generate test binding data; And
(b4) inputting the test combination data to the learned neural network to detect an event type;
And the event type is detected from the test audio signal using the learned neural network with the example noises as additional inputs.
The neural network is an unsupervised reconstruction component in the form of a denoising autoencoder (DAE) stacked in supervised learning of a feedforward deep-neural network (FFNN) Is added to the sound event detection method.
(a2) 각 훈련 데이터를 구성하는 오디오 신호들에 대한 특징 데이터들을 추출하는 단계;
(a3) 상기 추출된 특징 데이터들로부터 예제 노이즈들(Noise Exemplars)을 추출하는 단계;
(a4) 훈련 데이터들을 구성하는 각 오디오 신호에 대한 특징 데이터를 포함하는 스펙트럴 벡터와 상기 예제 노이즈들을 결합하여, 훈련용 결합 데이터들을 생성하는 단계; 및
(a5) 상기 훈련용 결합 데이터들을 이용하여 심층 신경망을 학습하는 단계;
를 구비하여, 예제 노이즈들을 부가 입력으로 하여, 오디오 신호로부터 이벤트 종류를 검출하기 위한 심층 신경망을 학습하는 것을 특징으로 하며,
상기 심층 신경망은 피드포워드 형태의 심층 신경망(feedforward Deep-neural network;FFNN)의 지도 학습(supervised learning)에 적층된 디노이징 오토인코더(Denoising autoencoder;DAE) 형태의 비지도 재구성 성분(unsupervised reconstruction component)이 추가된 것을 특징으로 하는 사운드 이벤트 검출 방법.(a1) receiving a plurality of training data including an audio signal and an event type corresponding to each audio signal;
(a2) extracting characteristic data of audio signals constituting each training data;
(a3) extracting example noises (Noise Exemplars) from the extracted feature data;
(a4) combining the spectral vectors including the feature data for each audio signal constituting the training data with the exemplary noises to generate training combination data; And
(a5) learning a neural network using the training combination data;
And a depth neural network for detecting an event kind from the audio signal is learned by using the example noises as additional inputs.
The neural network is an unsupervised reconstruction component in the form of a denoising autoencoder (DAE) stacked in supervised learning of a feedforward deep-neural network (FFNN) Is added to the sound event detection method.
(b2) 상기 입력된 테스트용 오디오 신호로부터 특징 데이터를 추출하는 단계;
(b3) 훈련 데이터들을 이용하여 사전 학습된 심층 신경망과 상기 훈련 데이터들로부터 추출된 예제 노이즈들(Noise Exemplars)을 입력받는 단계;
(b4) 상기 추출된 특징 데이터를 포함하는 스펙트럴 벡터와 상기 입력된 예제 노이즈들을 결합하여 테스트용 결합 데이터를 생성하는 단계; 및
(b5) 상기 테스트용 결합 데이터를 상기 학습된 심층 신경망에 입력하여 이벤트 종류를 검출하는 단계;
를 구비하여, 사전 학습된 심층 신경망 및 예제 노이즈들을 이용하여 오디오 신호로부터 이벤트 종류를 검출하는 것을 특징으로 하며,
상기 심층 신경망은 피드포워드 형태의 심층 신경망(feedforward Deep-neural network;FFNN)의 지도 학습(supervised learning)에 적층된 디노이징 오토인코더(Denoising autoencoder;DAE) 형태의 비지도 재구성 성분(unsupervised reconstruction component)이 추가된 것을 특징으로 하는 사운드 이벤트 검출 방법.(b1) receiving a test audio signal for detecting an event type;
(b2) extracting feature data from the input test audio signal;
(b3) receiving noise neighbors pre-learned using training data and noise noises extracted from the training data;
(b4) generating combined data for testing by combining the spectral vector including the extracted feature data with the input example noises; And
(b5) inputting the test binding data to the learned neural network to detect an event type;
Characterized in that an event type is detected from an audio signal using a pre-learned depth network and example noises,
The neural network is an unsupervised reconstruction component in the form of a denoising autoencoder (DAE) stacked in supervised learning of a feedforward deep-neural network (FFNN) Is added to the sound event detection method.
상기 예제 노이즈 후보들은 훈련 데이터를 구성하는 오디오 신호들에 대한 특징 데이터들로부터 얻는 스펙트럴 벡터들(spectral vectors) 중 사전 설정된 하위 범위에 해당하는 L1 노름(norm)을 갖는 벡터들로 선택된 것을 특징으로 하는 사운드 이벤트 검출 방법.4. The method of any one of claims 1 to 3, wherein the exemplary noises are randomly selected from exemplary noise candidates or selected by applying a k-means clustering algorithm,
The exemplary noise candidates are selected as vectors having a L1 norm corresponding to a predetermined lower range of spectral vectors obtained from the feature data of the audio signals constituting the training data. The sound event detection method comprising:
오디오 신호와 이에 대응되는 이벤트 종류를 포함하는 훈련 데이터를 이용하여 심층 신경망을 학습하는 학습 모듈; 및
입력된 오디오 신호에 대하여 상기 학습된 심층 신경망과 예제 노이즈들을 이용하여 이벤트 종류를 검출하는 이벤트 검출 모듈; 을 구비하고,
상기 학습 모듈은,
오디오 신호 및 오디오 신호에 대응되는 이벤트 종류를 포함하는 다수 개의 훈련 데이터들을 저장한 데이터 저장부;
데이터 저장부에 저장된 각 훈련 데이터들을 구성하는 오디오 신호들에 대한 특징 데이터들을 추출하는 제1 특징 추출부;
상기 특징 추출부에 의해 추출된 특징 데이터들로부터 예제 노이즈들(Noise Exemplars)을 추출하는 예제 노이즈 추출부;
훈련 데이터를 구성하는 각 오디오 신호에 대한 특징 데이터를 포함하는 스펙트럴 벡터들과 상기 예제 노이즈들을 결합하여, 훈련용 결합 데이터들을 생성하는 제1 데이터 결합부; 및
제1 데이터 결합부에 의해 생성된 상기 훈련용 결합 데이터들을 이용하여 심층 신경망을 학습하는 신경망 학습부;를 구비하고,
상기 이벤트 검출 모듈은,
외부로부터 테스트용 오디오 신호를 입력받는 오디오 신호 입력부;
상기 입력된 테스트용 오디오 신호로부터 특징 데이터를 추출하는 제2 특징 추출부;
상기 학습 모듈로부터 예제 노이즈들을 제공받고, 상기 제2 특징 추출부에 의해 추출된 특징 데이터를 포함하는 스펙트럴 벡터와 상기 예제 노이즈들을 결합하여 테스트용 결합 데이터를 생성하는 제2 데이터 결합부; 및
상기 테스트용 결합 데이터를 상기 학습된 신경망에 입력하여 이벤트 종류를 검출하는 이벤트 검출부;
를 구비하여, 학습된 신경망과 예제 노이즈들을 이용하여 오디오 신호로부터 이벤트 종류를 검출하는 것을 특징으로 하며,
상기 심층 신경망은 피드포워드 형태의 심층 신경망(feedforward Deep-neural network;FFNN)의 지도 학습(supervised learning)에 적층된 디노이징 오토인코더(Denoising autoencoder;DAE) 형태의 비지도 재구성 성분(unsupervised reconstruction component)이 추가된 것을 특징으로 하는 사운드 이벤트 검출 장치.A sound event detecting apparatus for detecting and providing an event type from an audio signal using a deep-layer neural network,
A learning module for learning a depth neural network using training data including an audio signal and a corresponding event type; And
An event detection module for detecting an event type of the input audio signal using the learned neural network and example noises; And,
Wherein the learning module comprises:
A data storage unit storing a plurality of training data including an event type corresponding to an audio signal and an audio signal;
A first feature extraction unit for extracting feature data of audio signals constituting each training data stored in a data storage unit;
An example noise extracting unit for extracting example noises from feature data extracted by the feature extracting unit;
A first data combining unit for combining the spectral vectors including the feature data for each audio signal constituting the training data with the exemplary noises to generate training combination data; And
And a neural network learning unit for learning a depth neural network using the training combination data generated by the first data combining unit,
Wherein the event detection module comprises:
An audio signal input unit for receiving a test audio signal from the outside;
A second feature extracting unit for extracting feature data from the input test audio signal;
A second data combining unit for receiving sample noises from the learning module and combining the spectral vectors including the feature data extracted by the second feature extracting unit and the exemplary noises to generate test combining data; And
An event detector for inputting the test combination data to the learned neural network to detect an event type;
And detects an event type from the audio signal using the learned neural network and the example noises.
The neural network is an unsupervised reconstruction component in the form of a denoising autoencoder (DAE) stacked in supervised learning of a feedforward deep-neural network (FFNN) Is added to the sound event detection device.
오디오 신호와 이에 대응되는 이벤트 종류를 포함하는 다수 개의 훈련 데이터들이 저장된 데이터 저장부;
상기 데이터 저장부에 저장된 각 훈련 데이터들을 구성하는 오디오 신호들에 대한 특징 데이터들을 추출하는 제1 특징 추출부;
상기 제1 특징 추출부에 의해 추출된 특징 데이터들로부터 예제 노이즈들(Noise Exemplars)을 추출하는 예제 노이즈 추출부;
상기 훈련 데이터들을 구성하는 각 오디오 신호에 대한 특징 데이터들을 포함하는 스펙트럴 벡터들과 상기 예제 노이즈들을 결합하여, 훈련용 결합 데이터들을 생성하는 제1 데이터 결합부; 및
제1 데이터 결합부에 의해 생성된 상기 훈련용 결합 데이터들을 이용하여 신경망을 학습하는 신경망 학습부;
를 구비하여, 훈련 데이터들로부터 추출된 예제 노이즈들을 부가 입력으로 하여, 오디오 신호로부터 이벤트 종류를 검출하기 위한 심층 신경망을 학습하는 것을 특징으로 하며,
상기 심층 신경망은 피드포워드 형태의 심층 신경망(feedforward Deep-neural network;FFNN)의 지도 학습(supervised learning)에 적층된 디노이징 오토인코더(Denoising autoencoder;DAE) 형태의 비지도 재구성 성분(unsupervised reconstruction component)이 추가된 것을 특징으로 하는 사운드 이벤트 검출 장치.The learning module includes a learning module and an event detection module to detect and provide an event type from an audio signal. The learning module includes a learning module for learning a depth-
A data storage unit for storing a plurality of training data including an audio signal and a corresponding event type;
A first feature extraction unit for extracting feature data of audio signals constituting each training data stored in the data storage unit;
An example noise extraction unit for extracting example noises from feature data extracted by the first feature extraction unit;
A first data combining unit for combining the spectral vectors including feature data for each audio signal constituting the training data with the exemplary noises to generate training combination data; And
A neural network learning unit that learns a neural network using the training combination data generated by the first data combining unit;
And a depth neural network for detecting an event type from the audio signal is learned by using the example noises extracted from the training data as an additional input.
The neural network is an unsupervised reconstruction component in the form of a denoising autoencoder (DAE) stacked in supervised learning of a feedforward deep-neural network (FFNN) Is added to the sound event detection device.
외부로부터 테스트용 오디오 신호를 입력받는 오디오 신호 입력부;
상기 입력된 테스트용 오디오 신호로부터 특징 데이터를 추출하는 제2 특징 추출부;
상기 학습 모듈로부터 예제 노이즈들을 제공받고, 상기 제2 특징 추출부에 의해 추출된 특징 데이터를 포함하는 스펙트럴 벡터와 상기 예제 노이즈들을 결합하여 테스트용 결합 데이터를 생성하는 제2 데이터 결합부; 및
상기 테스트용 결합 데이터를 상기 학습 모듈에 의해 사전 학습된 심층 신경망에 입력하여 이벤트 종류를 검출하는 이벤트 검출부;
를 구비하여, 학습된 심층 신경망 및 예제 노이즈들을 이용하여 오디오 신호로부터 이벤트 종류를 검출하는 것을 특징으로 하며,
상기 심층 신경망은 피드포워드 형태의 심층 신경망(feedforward Deep-neural network;FFNN)의 지도 학습(supervised learning)에 적층된 디노이징 오토인코더(Denoising autoencoder;DAE) 형태의 비지도 재구성 성분(unsupervised reconstruction component)이 추가된 것을 특징으로 하는 사운드 이벤트 검출 장치.And an event detection module for detecting an event type from the audio signal using the learned neural network and the example noises, the event detection module comprising: a learning module and an event detection module,
An audio signal input unit for receiving a test audio signal from the outside;
A second feature extracting unit for extracting feature data from the input test audio signal;
A second data combining unit for receiving sample noises from the learning module and combining the spectral vectors including the feature data extracted by the second feature extracting unit and the exemplary noises to generate test combining data; And
An event detector for inputting the test combination data to the depth learning network pre-learned by the learning module and detecting an event type;
And detects an event type from the audio signal using the learned neural network and the example noises,
The neural network is an unsupervised reconstruction component in the form of a denoising autoencoder (DAE) stacked in supervised learning of a feedforward deep-neural network (FFNN) Is added to the sound event detection device.
상기 이벤트 검출부의 검출 결과에 대하여 메디안 필터(Median Filter)를 이용하여 후처리하여, 이벤트 종류를 최종적으로 분류하는 후처리부;를 더 구비하는 것을 특징으로 하는 사운드 이벤트 검출 장치.13. The method according to any one of claims 10 and 12,
Further comprising: a post-processing unit for post-processing the detection result of the event detection unit using a median filter and finally classifying the event type.
상기 예제 노이즈 후보들은 훈련 데이터를 구성하는 오디오 신호들에 대한 특징 데이터들로부터 얻는 스펙트럴 벡터들(spectral vectors) 중 사전 설정된 하위 범위에 해당하는 L1 노름(norm)을 갖는 벡터들로 선택된 것을 특징으로 하는 사운드 이벤트 검출 장치.
13. The method of any one of claims 10 to 12, wherein the exemplary noises are randomly selected from exemplary noise candidates or selected by applying a k-means clustering algorithm,
The exemplary noise candidates are selected as vectors having a L1 norm corresponding to a predetermined lower range of spectral vectors obtained from the feature data of the audio signals constituting the training data. The sound event detection device comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170056345A KR101969504B1 (en) | 2017-05-02 | 2017-05-02 | Sound event detection method using deep neural network and device using the method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170056345A KR101969504B1 (en) | 2017-05-02 | 2017-05-02 | Sound event detection method using deep neural network and device using the method |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20180122171A KR20180122171A (en) | 2018-11-12 |
KR101969504B1 true KR101969504B1 (en) | 2019-04-16 |
Family
ID=64397958
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170056345A KR101969504B1 (en) | 2017-05-02 | 2017-05-02 | Sound event detection method using deep neural network and device using the method |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101969504B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220135736A (en) | 2021-03-31 | 2022-10-07 | 주식회사 케이티 | Server, method and computer program for detecting anomality based on sound data |
KR20220170144A (en) | 2021-06-22 | 2022-12-29 | 주식회사 케이티 | Server, method and computer program for detecting abnormality |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110120230B (en) * | 2019-01-08 | 2021-06-01 | 国家计算机网络与信息安全管理中心 | Acoustic event detection method and device |
KR102025652B1 (en) * | 2019-01-21 | 2019-09-27 | 휴멜로 주식회사 | Method and apparatus for training sound event detection model |
CN111524536B (en) * | 2019-02-01 | 2023-09-08 | 富士通株式会社 | Signal processing method and information processing apparatus |
KR102635469B1 (en) | 2019-03-18 | 2024-02-13 | 한국전자통신연구원 | Method and apparatus for recognition of sound events based on convolutional neural network |
KR102062034B1 (en) * | 2019-03-22 | 2020-01-03 | 안태업 | Mobile terminal for shipment of automobile component and the system having the same |
KR102444411B1 (en) * | 2019-03-29 | 2022-09-20 | 한국전자통신연구원 | Method and apparatus for detecting sound event considering the characteristics of each sound event |
EP4004917A1 (en) | 2019-07-30 | 2022-06-01 | Aselsan Elektronik Sanayi ve Ticaret Anonim Sirketi | Multi-channel acoustic event detection and classification method |
CN112349298A (en) * | 2019-08-09 | 2021-02-09 | 阿里巴巴集团控股有限公司 | Sound event recognition method, device, equipment and storage medium |
KR102397563B1 (en) * | 2019-09-20 | 2022-05-13 | 휴멜로 주식회사 | Method and apparatus for training sound event detection model |
KR102172475B1 (en) * | 2019-09-20 | 2020-10-30 | 휴멜로 주식회사 | Method and apparatus for training sound event detection model |
CN111161715B (en) * | 2019-12-25 | 2022-06-14 | 福州大学 | Specific sound event retrieval and positioning method based on sequence classification |
KR102346133B1 (en) * | 2020-02-28 | 2022-01-03 | 광주과학기술원 | Direction-of-arrival estimation method based on deep neural networks |
KR20220120052A (en) * | 2021-02-22 | 2022-08-30 | 삼성전자주식회사 | Electronic device and operating method for generating a data |
CN115273819B (en) * | 2022-09-28 | 2022-12-06 | 深圳比特微电子科技有限公司 | Sound event detection model establishing method and device and readable storage medium |
CN117690451B (en) * | 2024-01-29 | 2024-04-16 | 杭州爱华仪器有限公司 | Neural network noise source classification method and device based on ensemble learning |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110025886A (en) | 2009-08-25 | 2011-03-14 | 엑시움 테크놀러지스, 아이엔씨 | Method and system for combined audio-visual surveillance |
KR101544671B1 (en) | 2014-04-09 | 2015-08-18 | 재단법인 다차원 스마트 아이티 융합시스템 연구단 | Method and Apparatus for Detecting of Leaflet Event based on Sound |
-
2017
- 2017-05-02 KR KR1020170056345A patent/KR101969504B1/en active IP Right Grant
Non-Patent Citations (2)
Title |
---|
Inkyu Choi et al., ‘DNN-based sound event detection with exemplar-based approach for noise reduction’, Detection and Classification of Acoustic Scenes and Events, September 2016.* |
Michael L. Seltzer et al., ‘An investigation od deep neural networks for noise robust speech recognition’, ICASSP2013, pp.7398~7402, 2013.* |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20220135736A (en) | 2021-03-31 | 2022-10-07 | 주식회사 케이티 | Server, method and computer program for detecting anomality based on sound data |
KR20220170144A (en) | 2021-06-22 | 2022-12-29 | 주식회사 케이티 | Server, method and computer program for detecting abnormality |
Also Published As
Publication number | Publication date |
---|---|
KR20180122171A (en) | 2018-11-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101969504B1 (en) | Sound event detection method using deep neural network and device using the method | |
Gomez-Alanis et al. | A gated recurrent convolutional neural network for robust spoofing detection | |
Bigun et al. | Multimodal biometric authentication using quality signals in mobile communications | |
Conte et al. | An ensemble of rejecting classifiers for anomaly detection of audio events | |
CN111429935A (en) | Voice speaker separation method and device | |
Lip et al. | Comparative study on feature, score and decision level fusion schemes for robust multibiometric systems | |
EP2817800A1 (en) | Modified mel filter bank structure using spectral characteristics for sound analysis | |
CN110751955B (en) | Sound event classification method and system based on time-frequency matrix dynamic selection | |
Foggia et al. | Car crashes detection by audio analysis in crowded roads | |
Foggia et al. | Cascade classifiers trained on gammatonegrams for reliably detecting audio events | |
Saggese et al. | Time-frequency analysis for audio event detection in real scenarios | |
Colangelo et al. | Enhancing audio surveillance with hierarchical recurrent neural networks | |
KR102066718B1 (en) | Acoustic Tunnel Accident Detection System | |
Perez-Castanos et al. | Anomalous sound detection using unsupervised and semi-supervised autoencoders and gammatone audio representation | |
Rahman et al. | Hybrid system for automatic detection of gunshots in indoor environment | |
Soares-Filho et al. | Principal component analysis for classifying passive sonar signals | |
US11776532B2 (en) | Audio processing apparatus and method for audio scene classification | |
CN115641856A (en) | Method and device for detecting repeated voice frequency of voice and storage medium | |
Dadula et al. | Neural network classification for detecting abnormal events in a public transport vehicle | |
Dedeoglu et al. | Surveillance using both video and audio | |
Ghezaiel et al. | Nonlinear multi-scale decomposition by EMD for Co-Channel speaker identification | |
Kovalenko et al. | Analysis of the sound event detection methods and systems | |
Koerich et al. | Cross-representation transferability of adversarial perturbations: From spectrograms to audio waveforms | |
Girish et al. | Cosine similarity based dictionary learning and source recovery for classification of diverse audio sources | |
JP3322491B2 (en) | Voice recognition device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |