KR102520240B1 - 비음수 행렬 인수분해를 이용하는 데이터 증강 방법 및 장치 - Google Patents

비음수 행렬 인수분해를 이용하는 데이터 증강 방법 및 장치 Download PDF

Info

Publication number
KR102520240B1
KR102520240B1 KR1020190030350A KR20190030350A KR102520240B1 KR 102520240 B1 KR102520240 B1 KR 102520240B1 KR 1020190030350 A KR1020190030350 A KR 1020190030350A KR 20190030350 A KR20190030350 A KR 20190030350A KR 102520240 B1 KR102520240 B1 KR 102520240B1
Authority
KR
South Korea
Prior art keywords
sound source
source data
vector
basis vector
basis
Prior art date
Application number
KR1020190030350A
Other languages
English (en)
Other versions
KR20200110881A (ko
Inventor
정영호
서상원
임우택
박성욱
문현기
박영철
전신혁
Original Assignee
한국전자통신연구원
강릉원주대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원, 강릉원주대학교산학협력단 filed Critical 한국전자통신연구원
Priority to KR1020190030350A priority Critical patent/KR102520240B1/ko
Priority to US16/657,605 priority patent/US20200302917A1/en
Publication of KR20200110881A publication Critical patent/KR20200110881A/ko
Application granted granted Critical
Publication of KR102520240B1 publication Critical patent/KR102520240B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/16—Speech classification or search using artificial neural networks
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/18—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being spectral information of each sub-band
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60—Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G10L13/043—
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
    • G10L19/032—Quantisation or dequantisation of spectral components
    • G10L19/038—Vector quantisation, e.g. TwinVQ audio
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Acoustics & Sound (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Signal Processing (AREA)
  • Computational Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Algebra (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

타겟 클래스로 사전에 분류된 음원 데이터에 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여, 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출하는 단계; 상기 추출된 기저 벡터를 이용하여 새로운 기저 벡터를 생성하는 단계; 및 상기 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성하는 단계를 포함하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법일 수 있다. 따라서, 데이터 개수가 적고 높은 불균형도가 있는 경우에도, 데이터 증강을 통해 신경망 기반의 음향 인식 시스템의 성능이 향상될 수 있다.

Description

비음수 행렬 인수분해를 이용하는 데이터 증강 방법 및 장치{APPARATUS AND METHOD FOR DATA AUGMENTATION USING NON-NEGATIVE MATRIX FACTORIZATION}
아래 설명들은 비음수 행렬 인수분해를 이용하는 데이터 증강 방법 및 장치에 관한 것으로, 구체적으로 신경망 기반의 음향 인식 시스템에 적용 가능한 데이터 증강 방법에 관한 것이다.
신경망 기반의 음향 인식 시스템의 학습을 위해서는 많은 음원 데이터들이 필수적이다. 신경망을 이용한 음향 인식 시스템은 수많은 음원 데이터들을 이용하여 신경망을 학습하는 과정이 필요하며, 이 과정을 통해 전체 시스템의 성능이 결정될 수 있다. 따라서, 학습에 이용되는 음원 데이터들은 다양한 종류의 음원 데이터가 필요하다.
다만, 실제 환경에서 수집된 음원 데이터는 다양한 종류의 음원 데이터를 포함하지 못하며 동일한 발생 확률을 가지고 있지 않기 때문에 데이터 간의 불균형도가 높아, 음향 인식 시스템의 성능이 낮아질 수 있다. 따라서, 데이터 개수가 적고 높은 불균형도를 가지고 있는 경우, 데이터 증강을 통해 신경망 기반의 음향 인식 시스템의 성능을 향상시키는 기술이 필요하다.
일 실시예에 따르면, 비음수 행렬 인수분해에 기초하여 음원 데이터로부터 추출된 기저 벡터와 계수 벡터를 이용하여 새로운 기저 벡터를 생성하고, 생성된 기저 벡터와 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성하여 데이터 증강할 수 있다.
일 실시예에 따르면, 신경망의 학습에 이용되는 데이터의 개수가 적고 데이터 불균형도가 높을 경우, 데이터 증강을 통해 음향 인식 시스템의 성능이 향상될 수 있다.
일 실시예에 따르면, 타겟 클래스로 사전에 분류된 음원 데이터에 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여, 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출하는 단계; 상기 추출된 기저 벡터를 이용하여 새로운 기저 벡터를 생성하는 단계; 및 상기 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성하는 단계를 포함하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법일 수 있다.
상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출하는 단계는, 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터 중에서, 상기 음원 데이터 V와 상기 기저 벡터 W*상기 계수 벡터 H 사이의 차이가 최소가 되는 주요 기저 벡터와 주요 계수 벡터를 추출하는 단계를 포함하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법일 수 있다.
상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출하는 단계는, 상기 타겟 클래스로 분류된 상기 음원 데이터를 주파수 변환하고, 상기 주파수 변환된 음원 데이터로부터 적어도 하나의 기저 벡터와 계수 벡터를 추출하는 단계를 포함하고, 상기 기저 벡터는 상기 음원 데이터의 주파수 특징을 나타내고, 상기 계수 벡터는 시간 축 프레임에서 상기 음원 데이터에 대응하는 상기 기저 벡터의 성분이 존재하는 정도를 나타내는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법일 수 있다.
상기 타겟 클래스에 속하는 다른 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출하는 단계를 더 포함하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법일 수 있다.
상기 추출된 기저 벡터를 이용하여 새로운 기저 벡터를 생성하는 단계는, 유클리디안 거리(Euclidean distance) 또는 마할라노비스 거리(Mahalanobis distance)를 이용하여 상기 추출된 기저 벡터들의 유사성을 측정하는 단계; 상기 측정된 유사성에 기초하여 상기 추출된 기저 벡터들의 혼합을 통해 상기 새로운 기저 벡터를 생성하는 단계를 포함하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법일 수 있다.
상기 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성하는 단계는, 상기 생성된 기저 벡터, 상기 추출된 계수 벡터 및 상기 타겟 클래스로 분류된 상기 음원 데이터로부터 추출된 위상 정보에 기초하여 상기 새로운 음원 데이터를 생성하는 단계를 포함하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법일 수 있다.
일 실시예에 따르면, 주파수 변환된 타겟 클래스로 사전에 분류된 제1 음원 데이터에 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여, 상기 제1 음원 데이터에 대응하는 기저 벡터와 계수 벡터를 추출하는 단계; 상기 타겟 클래스에 속하는 제2 음원 데이터에 대응하는 기저 벡터와 계수 벡터를 추출하는 단계; 상기 제1 음원 데이터에 대응하는 기저 벡터와 상기 제2 음원 데이터에 대응하는 기저 벡터 간의 유사성에 기초하여 새로운 기저 벡터를 생성하는 단계; 및 상기 생성된 새로운 기저 벡터와 상기 주파수 변환할 때 추출된 위상 정보에 기초하여, 새로운 음원 데이터를 생성하는 단계를 포함하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법일 수 있다.
일 실시예에 따르면, 타겟 클래스로 분류된 음원 데이터와 상기 음원 데이터에 기초하여 생성된 새로운 음원 데이터를 이용하여 신경망을 학습시키는 단계를 포함하고, 상기 새로운 음원 데이터는, 상기 타겟 클래스로 사전에 분류된 상기 음원 데이터에 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출하고, 상기 추출된 기저 벡터를 이용하여 새로운 기저 벡터를 생성하고, 상기 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 생성되는, 음향 인식 시스템에 적용되는 신경망의 학습 방법일 수 있다.
상기 추출된 적어도 하나의 기저 벡터와 계수 벡터는, 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터 중에서, 상기 음원 데이터 V와 상기 기저 벡터 W*상기 계수 벡터 H 사이의 차이가 최소가 되는 주요 기저 벡터와 주요 계수 벡터인, 음향 인식 시스템에 적용되는 신경망의 학습 방법일 수 있다.
상기 기저 벡터는 상기 음원 데이터의 주파수 특징을 나타내고, 상기 계수 벡터는 시간 축 프레임에서 상기 음원 데이터에 대응하는 상기 기저 벡터의 성분이 존재하는 정도를 나타내는, 음향 인식 시스템에 적용되는 신경망의 학습 방법일 수 있다.
일 실시예에 따르면, 프로세서 및 컴퓨터에서 읽을 수 있는 명령어를 포함하는 메모리를 포함하고, 상기 명령어가 상기 프로세서에서 실행되면, 상기 프로세서는, 타겟 클래스로 사전에 분류된 음원 데이터에 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출하고, 상기 추출된 기저 벡터를 이용하여 새로운 기저 벡터를 생성하고, 상기 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치일 수 있다.
상기 프로세서는, 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출할 때, 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터 중에서 상기 음원 데이터 V와 상기 기저 벡터 W*상기 계수 벡터 H 사이의 차이가 최소가 되는 주요 기저 벡터와 주요 계수 벡터를 추출하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치일 수 있다.
상기 프로세서는, 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출할 때, 상기 타겟 클래스로 분류된 상기 음원 데이터를 주파수 변환하고 상기 주파수 변환된 음원 데이터로부터 적어도 하나의 기저 벡터와 계수 벡터를 추출하고, 상기 기저 벡터는 상기 음원 데이터의 주파수 특징을 나타내고, 상기 계수 벡터는 시간 축 프레임에서 상기 음원 데이터에 대응하는 상기 기저 벡터의 성분이 존재하는 정도를 나타내는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치일 수 있다.
상기 프로세서는, 상기 타겟 클래스에 속하는 다른 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치일 수 있다.
상기 프로세서는, 상기 추출된 기저 벡터를 이용하여 새로운 기저 벡터를 생성할 때, 유클리디안 거리(Euclidean distance) 또는 마할라노비스 거리(Mahalanobis distance)를 이용하여 상기 추출된 기저 벡터들의 유사성을 측정하고, 상기 측정된 유사성에 기초하여 상기 추출된 기저 벡터들의 혼합을 통해 상기 새로운 기저 벡터를 생성하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치일 수 있다.
상기 프로세서는, 상기 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성할 때, 상기 생성된 기저 벡터, 상기 추출된 계수 벡터 및 상기 타겟 클래스로 분류된 상기 음원 데이터로부터 추출된 위상 정보에 기초하여 상기 새로운 음원 데이터를 생성하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치일 수 있다.
일 실시예에 따르면, 프로세서 및 컴퓨터에서 읽을 수 있는 명령어를 포함하는 메모리를 포함하고, 상기 명령어가 상기 프로세서에서 실행되면, 상기 프로세서는, 주파수 변환된 타겟 클래스로 사전에 분류된 제1 음원 데이터에 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여 상기 제1 음원 데이터에 대응하는 기저 벡터와 계수 벡터를 추출하고, 상기 타겟 클래스에 속하는 제2 음원 데이터에 대응하는 기저 벡터와 계수 벡터를 추출하고, 상기 제1 음원 데이터에 대응하는 기저 벡터와 상기 제2 음원 데이터에 대응하는 기저 벡터 간의 유사성에 기초하여 새로운 기저 벡터를 생성하고, 상기 생성된 새로운 기저 벡터와 상기 주파수 변환할 때 추출된 위상 정보에 기초하여 새로운 음원 데이터를 생성하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치일 수 있다.
일 실시예에 따르면, 프로세서 및 컴퓨터에서 읽을 수 있는 명령어를 포함하는 메모리를 포함하고, 상기 명령어가 상기 프로세서에서 실행되면, 상기 프로세서는, 타겟 클래스로 분류된 음원 데이터와 상기 음원 데이터에 기초하여 생성된 새로운 음원 데이터를 이용하여 신경망을 학습시키고, 상기 새로운 음원 데이터는, 상기 타겟 클래스로 사전에 분류된 상기 음원 데이터에 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출하고, 상기 추출된 기저 벡터를 이용하여 새로운 기저 벡터를 생성하고, 상기 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 생성되는, 음향 인식 시스템에 적용되는 신경망의 학습 장치일 수 있다.
상기 추출된 적어도 하나의 기저 벡터와 계수 벡터는, 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터 중에서, 상기 음원 데이터 V와 상기 기저 벡터 W*상기 계수 벡터 H 사이의 차이가 최소가 되는 주요 기저 벡터와 주요 계수 벡터인, 음향 인식 시스템에 적용되는 신경망의 학습 장치일 수 있다.
상기 기저 벡터는 상기 음원 데이터의 주파수 특징을 나타내고, 상기 계수 벡터는 시간 축 프레임에서 상기 음원 데이터에 대응하는 상기 기저 벡터의 성분이 존재하는 정도를 나타내는, 음향 인식 시스템에 적용되는 신경망의 학습 장치일 수 있다.
본 발명의 일 실시예에 따르면, 비음수 행렬 인수분해를 이용하는 데이터 증강 방법은 비음수 행렬 인수분해에 기초하여 음원 데이터로부터 추출된 기저 벡터와 계수 벡터를 이용하여 새로운 기저 벡터를 생성하고, 생성된 기저 벡터와 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성하여 데이터 증강할 수 있다.
본 발명의 일 실시예에 따르면, 비음수 행렬 인수분해를 이용하는 데이터 증강 방법은 신경망의 학습에 이용되는 데이터의 개수가 적고 데이터 불균형도가 높을 경우, 데이터 증강을 통해 음향 인식 시스템의 성능을 향상시킬 수 있다.
도 1은 일 실시예에 따른, 비음수 행렬 인수분해를 이용하는 데이터 증강 방법을 나타낸 도면이다.
도 2는 일 실시예에 따른, 타겟 클래스로 분류된 음원 데이터로부터 기저 벡터 및 계수 벡터를 추출하는 과정을 나타낸 도면이다.
도 3은 일 실시예에 따른, 추출된 기저 벡터를 이용하여 새로운 기저 벡터를 생성하는 과정을 나타낸 도면이다.
도 4는 일 실시예에 따른, 도 3을 통해 생성된 기저 벡터에 기반하여 혼합 음원 데이터를 생성하는 과정을 나타낸다.
도 5는 일 실시예에 따른, 음원 데이터가 주파수 변환된 음원 스펙트럼 행렬에 대응하는 기저 벡터 행렬과 계수 벡터 행렬 간의 관계를 나타낸다.
도 6은 일 실시예에 따른, 새로운 기저 벡터를 생성하는 과정을 나타낸다.
도 7은 일 실시예에 따른, 데이터 증강 방법을 수행하는 데이터 증강 장치를 나타낸다.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 특허출원의 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
아래 설명하는 실시예들에는 다양한 변경이 가해질 수 있다. 아래 설명하는 실시예들은 실시 형태에 대해 한정하려는 것이 아니며, 이들에 대한 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1 또는 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 이해되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
실시예에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 실시예를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수 개의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.
도 1은 일 실시예에 따른, 비음수 행렬 인수분해를 이용하는 데이터 증강 방법을 나타낸 도면이다.
일 실시예에 따르면, 신경망 기반의 음향 인식 시스템은 스마트 자동차, 자율 회전형 CCTV, 인공지능 스피커에 적용될 수 있다. 이때, 음향 인식 시스템이 효율적으로 작동하기 위해서는, 적용되는 신경망이 실제 환경에서 수집된 다량의 음원 데이터를 통해 학습될 필요가 있다. 그러나, 신경망을 학습시키기 위해서는, 학습 전에 각각의 음원 데이터가 속한 클래스의 분류(어노테이션)가 수행되어야 한다. 또한, 실제 환경에서 수집된 음원 데이터는 동일한 발생 확률을 가지고 있지 않기 때문에, 음원 데이터 간의 불균형도가 높을 수 있다. 불균형도가 높을 경우, 음향 인식 시스템의 성능이 저하될 우려가 있다. 그러므로, 신경망의 학습에 필요한 음원 데이터가 상대적으로 적고 높은 불균형도를 갖고 있을 경우, 비음수 행렬 인수분해를 이용하는 데이터 증강(data augmentation)을 통해 신경망 기반의 음향 인식 시스템의 성능은 향상될 수 있다.
단계(100)에서, 데이터 증강 장치는 타겟 클래스로 사전에 분류된 음원 데이터에 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여, 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출할 수 있다.
음향 인식 시스템에 적용되는 신경망이 학습되기 전에, 음원 데이터가 속한 클래스의 분류가 수행될 수 있다. 적어도 하나의 클래스가 존재할 수 있으며, 각각의 클래스는 음원 데이터를 포함할 수 있다. 예를 들면, 클래스 1~클래스 N으로 분류될 수 있으며, 각각의 클래스 1~클래스 N은 서로 다른 음원 데이터를 포함할 수 있다. 이때, 추출될 기저 벡터와 계수 벡터에 대응하는 음원 데이터를 포함하는 클래스가 적어도 하나의 클래스 중에서 타겟 클래스일 수 있다. 여기서, 추출될 기저 벡터와 계수 벡터에 대응하는 음원 데이터는 신경망의 학습 전에 타겟 클래스로 분류될 수 있다.
타겟 클래스에 속하는 음원 데이터에 대해 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여, 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출할 수 있다. 이때, 모든 성분이 비음수인 비음수 행렬 인수분해는 기저 벡터들의 선형 결합으로 근사하여 음원 데이터를 분해할 수 있다. 여기서, 기저 벡터는 음원 데이터의 주파수 특징을 나타내고, 계수 벡터는 시간 축 프레임에서 음원 데이터에 대응하는 기저 벡터의 성분이 존재하는 정도를 나타낼 수 있다.
타겟 클래스에 속하는 음원 데이터는 주파수 변환될 수 있고, 행렬 V는 비음수 행렬 인수분해의 적용으로 인해 아래의 수학식 1과 같이 기저 벡터와 계수 벡터의 조합으로 표현될 수 있다.
Figure 112019027252619-pat00001
여기서,
Figure 112019027252619-pat00002
는 타겟 클래스에 속하는 음원 데이터가 주파수 변환된 음원 스펙트럼을 나타내는 행렬로서 요소
Figure 112019027252619-pat00003
로 구성될 수 있고, 이는 j 시간 색인과 i번째 주파수 변환 값을 나타낼 수 있다. 또한,
Figure 112019027252619-pat00004
는 기저 벡터를 나타내는 행렬로서, r개의 기저 벡터
Figure 112019027252619-pat00005
로 구성될 수 있다. 또한,
Figure 112019027252619-pat00006
는 계수 벡터를 나타내는 행렬로서, 기저 벡터의 수 r개에 대응하는, 즉 j 시간 색인에 따른 계수 벡터
Figure 112019027252619-pat00007
로 구성될 수 있다. 이때, T는 전치 행렬(transposed matrix)를 나타낼 수 있다.
이때, 수학식 1을 만족하는 기저 벡터를 나타내는 행렬과 계수 벡터를 나타내는 행렬을 계산하기 위해 아래의 수학식 2가 수행될 수 있다.
Figure 112019027252619-pat00008
수학식 2에서
Figure 112019027252619-pat00009
는 내적(inner product)를 나타내며, n은 후술할 도면 2에서의 반복 횟수를 나타낸다. 반복 횟수 n은 아래의 수학식 3이 최소가 될 때까지 수행되며, 수학식 2의 기저 벡터와 계수 벡터의 업데이트는 동시에 수행될 수 있다.
Figure 112019027252619-pat00010
수학식 3이 최소일 때, r개의 기저 벡터
Figure 112019027252619-pat00011
와 r개의 계수 벡터
Figure 112019027252619-pat00012
는 타겟 클래스에 속하는 음원 데이터에 대응하는 음원 스펙트럼을 나타내는 행렬
Figure 112019027252619-pat00013
에 대응하는 주요 기저 벡터와 주요 기저 벡터에 대응하는 주요 계수 벡터일 수 있다. 여기서, 수학식 3을 이용해 구한 기저 벡터의 수 r은 (n+m)*r<n*m 을 이용하여 선정될 수 있고, 선정된 r을 기준으로 구한 기저 벡터가 주요 기저 벡터를 나타낼 수 있다.
일 실시예에 따르면, 데이터 증강 장치는 타겟 클래스로 사전에 분류된 다른 음원 데이터에 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여, 전술한 바와 마찬가지로 다른 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출할 수 있다. 여기서, 주파수 변환된 타겟 클래스로 사전에 분류된 음원 데이터는 제1 음원 데이터일 수 있고, 타겟 클래스로 사전에 분류된 다른 음원 데이터는 제2 음원 데이터일 수 있다. 즉, 제1 음원 데이터와 제2 음원 데이터 각각에 대응하는 기저 벡터와 계수 벡터가 추출될 수 있다.
단계(200)에서, 데이터 증강 장치는 추출된 기저 벡터를 이용하여 새로운 기저 벡터를 생성할 수 있다.
여기서, 데이터 증강 장치는 추출된 적어도 하나의 기저 벡터들 간의 유사성을 측정할 수 있다. 이때, 유클리디안 거리(Euclidean distance), 마할라노비스 거리(Mahalanobis distance)를 이용하여 추출된 기저 벡터들의 유사성이 측정될 수 있다. 예를 들면, 제1 음원 데이터와 제2 음원 데이터 각각에 대해 NMF를 적용할 경우 각각 서로 다른 복수의 기저 벡터와 계수 벡터를 획득할 수 있고, 획득된 제1 음원 데이터에 대응하는 기저 벡터와 획득된 제2 음원 데이터에 대응하는 기저 벡터 간의 유사성이 분석될 수 있다. 도 6은 일 실시예에 따른, 새로운 기저 벡터를 생성하는 과정을 나타낸다. 도 6에 나타난 바와 같이 유사한 기저 벡터들 간의 혼합을 통해 새로운 기저 벡터가 생성될 수 있고, 신경망의 학습에 이용되는 학습 데이터로부터 추출될 수 없는 다양한 기저 벡터가 생성될 수 있다.
예를 들면, 제1 음원 데이터로부터 기저 벡터와 제2 음원 데이터로부터 기저 벡터를 추출할 수 있다. 이때, 유클리디안 거리 또는 마할라노비스 거리를 기반으로 기저 벡터 간 유사성을 측정하여 최소 거리값을 갖는 벡터가 가장 높은 유사성을 가질 수 있다. 즉, 제1 음원 데이터에 대한 r개의 기저 벡터들(A_1~A_r) 중에서 기저 벡터 A_1에 대해 r개의 기저 벡터들(B_1~B_r) 간의 유사성이 측정될 수 있다. 이때, A_1과 최소 거리값을 갖는 기저 벡터가 B_3인 경우 A_1과 가장 유사한 기저 벡터는 B_3일 수 있다. 따라서, A_1과 B_1을 이용하여 새로운 기저 벡터를 생성하는 것이 아니라, A_1과 B_3을 이용하여 새로운 기저 벡터 AB_1(예를 들면, AB_1=(A_1+B_3)/2)이 생성될 수 있다.
이때, 유사성을 이용하여 생성된 새로운 기저 벡터는 타겟 클래스로 분류된 음원 데이터에 대응하는 주요 기저 벡터에 대한 특성을 가질 수 있다.
단계(300)에서, 데이터 증강 장치는 새로운 기저 벡터와 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성할 수 있다.
데이터 증강 장치는 단계(200)에서 생성된 새로운 기저 벡터와 단계(100)에서 추출된 계수 벡터를 이용하여 음원 스펙트럼을 생성할 수 있다. 이때, 생성된 음원 스펙트럼
Figure 112019027252619-pat00014
는 요소
Figure 112019027252619-pat00015
로 구성될 수 있으며, 아래의 수학식 4와 같이 표현될 수 있다. 여기서,
Figure 112019027252619-pat00016
는 단계(200)에서 생성된 새로운 기저 벡터를 나타내며, 계수 벡터
Figure 112019027252619-pat00017
는 단계(100)에서 추출된 기저 벡터를 나타낼 수 있다.
Figure 112019027252619-pat00018
단계(100)에서, 데이터 증강 장치는 타겟 클래스에 속하는 음원 데이터를 주파수 변환할 때 위상 정보를 추출할 수 있다. 데이터 증강 장치는 생성된 음원 스펙트럼과 단계(100)에서 추출된 위상 정보를 혼합하여 새로운 음원 데이터를 생성할 수 있다. 예를 들면, 시간 영역 신호에 STFT 적용하면 크기와 위상이 도출될 수 있다. 생성된 V'은 주파수 영역에서의 스펙트럼 성분으로서, 시간 영역 신호(ISTFT)로 역변환하기 위해 단계(100)에서 추출된 위상 정보를 이용하여 시간 영역 신호가 생성될 수 있다.
일 실시예에 따르면, 데이터 증강 장치는 적은 수의 학습 데이터(예를 들면, 타겟 클래스로 분류된 음원 데이터)로부터 다수의 혼합된 음원 데이터를 생성할 수 있다. 또한, 새로운 기저 벡터
Figure 112019027252619-pat00019
는 어노테이션된(즉, 사전에 타겟 클래스로 분류된) 음원 데이터로부터 생성되었으므로 추가적인 어노테이션 과정을 필요로 하지 않을 수 있다. 따라서, 어노테이션 과정에서 요구되는 비용 및 시간이 절감될 수 있다.
다른 일 실시예에 따르면, 데이터 증강 장치는 특정한 타겟 클래스의 음원 데이터의 생성을 효율적으로 수행할 수 있기 때문에, 실제 환경에서 동일한 발생 확률을 가지고 있지 않기 때문에 발생하는 데이터 간 불균형도 문제를 해결할 수 있다.
도 2는 일 실시예에 따른, 타겟 클래스로 분류된 음원 데이터로부터 기저 벡터 및 계수 벡터를 추출하는 과정을 나타낸 도면이다. 즉, 도 2는 도 1의 단계(100)을 구체화한 과정을 나타낸다.
단계(110)에서, 데이터 증강 장치는 타겟 클래스로 분류된 적어도 하나의 음원 데이터를 주파수 변환할 수 있다.
적어도 하나의 음원 데이터가 복수의 클래스 중에서 특정한 타겟 클래스로 분류될 수 있다. 예를 들면, 제1 음원 데이터와 제2 음원 데이터 ~ 제N 음원 데이터는 복수의 클래스 중에서 특정한 타겟 클래스로 사전에 분류될 수 있다. 데이터 증강 장치는 특정한 타겟 클래스로 분류된 제1 음원 데이터와 제2 음원 데이터 ~ 제N 음원 데이터에 대해 주파수 변환할 수 있다.
단계(120)에서, 데이터 증강 장치는 주파수 변환된 음원 데이터로부터 기저 벡터와 계수 벡터를 추출할 수 있다.
데이터 증강 장치는 주파수 변환되어 전술한 수학식 1을 만족하는 제1 음원 데이터에 대해 전술한 수학식 2와 수학식 3을 만족하는 주요 기저 벡터와 이에 대응하는 계수 벡터를 추출할 수 있다. 또한, 데이터 증강 장치는 주파수 변환되어 전술한 수학식 1을 만족하는 제2 음원 데이터에 대해 전술한 수학식 2와 수학식 3을 만족하는 주요 기저 벡터와 이에 대응하는 계수 벡터를 추출할 수 있다. ~ 또한, 데이터 증강 장치는 주파수 변환되어 전술한 수학식 1을 만족하는 제N 음원 데이터에 대해 전술한 수학식 2와 수학식 3을 만족하는 주요 기저 벡터와 이에 대응하는 계수 벡터를 추출할 수 있다.
이때, 데이터 증강 장치는 수학식 3이 최소가 될 때까지 반복하여 기저 벡터와 계수 벡터를 갱신하여, 주요 기저 벡터와 이에 대응하는 계수 벡터를 결정할 수 있다. 도 5는 일 실시예에 따른, 음원 데이터가 주파수 변환된 음원 스펙트럼 행렬에 대응하는 기저 벡터 행렬과 계수 벡터 행렬 간의 관계를 나타낸다.
도 3은 일 실시예에 따른, 추출된 기저 벡터를 이용하여 새로운 기저 벡터를 생성하는 과정을 나타낸 도면이다. 즉, 도 3은 도 1의 단계(200)을 구체화한 과정을 나타낸다.
단계(210)에서, 데이터 증강 장치는 추출된 기저 벡터들의 유사성을 측정할 수 있다. 이때, 유클리디안 거리(Euclidean distance), 마할라노비스 거리(Mahalanobis distance)를 이용하여, 데이터 증강 장치는 추출된 기저 벡터들의 유사성을 측정할 수 있다. 예를 들면, 데이터 증강 장치는 제1 음원 데이터로부터 추출된 주요 기저 벡터와 제2 음원 데이터 ~제N 음원 데이터로부터 추출된 주요 기저 벡터와의 유사성을 측정할 수 있다.
단계(220)에서, 데이터 증강 장치는 추출된 기저 벡터들의 혼합을 통해 새로운 기저 벡터를 생성할 수 있다.
예를 들면, 데이터 증강 장치는 제1 음원 데이터로부터 추출된 주요 기저 벡터와 가장 유사한 제2 음원 데이터로부터 추출된 주요 기저 벡터와 혼합을 통해 새로운 기저 벡터를 생성할 수 있다.
다른 예를 들면, 제1 음원 데이터로부터 추출된 주요 기저 벡터와 유사한 상위 3개의 주요 기저 벡터는 제2 음원 데이터로부터 추출된 주요 기저 벡터, 제 5 음원 데이터로부터 추출된 주요 기저 벡터, 제7 음원 데이터로부터 추출된 주요 기저 벡터일 수 있다. 따라서, 데이터 증강 장치는 제1 음원 데이터로부터 추출된 주요 기저 벡터와 제2 음원 데이터로부터 추출된 주요 기저 벡터, 제 5 음원 데이터로부터 추출된 주요 기저 벡터, 제7 음원 데이터로부터 추출된 주요 기저 벡터 간의 혼합을 통해 새로운 기저 벡터를 생성할 수 있다.
이때, 생성된 새로운 기저 벡터는 타겟 클래스로 분류된 음원 데이터들의 주요 기저 벡터들의 특성을 반영할 수 있다. 또한, 신경망의 학습에 필요한 학습 데이터(타겟 클래스로 분류된 적은 수의 음원 데이터)로부터 추출될 수 없는 다양한 기저 벡터가 도 3의 과정을 통해 생성될 수 있다.
도 4는 일 실시예에 따른, 도 3을 통해 생성된 기저 벡터에 기반하여 혼합 음원 데이터를 생성하는 과정을 나타낸다. 즉, 도 4는 도 1의 단계(300)을 구체화한 과정을 나타낸다.
단계(310)에서, 데이터 증강 장치는 추출된 계수 벡터와 생성된 기저 벡터를 이용하여 새로운 음원 스펙트럼을 생성할 수 있다.
여기서, 추출된 계수 벡터는 도 2의 단계(120)에서 추출된 계수 벡터를 나타낼 수 있고, 생성된 기저 벡터는 도 3의 단계(220)에서 생성된 기저 벡터를 나타낼 수 있다.
구체적으로, 데이터 증강 장치는 비음수 행렬 인수분해를 적용하여 도 2의 단계(120)에서 제1 음원 데이터에 대응하는 기저 벡터와 계수 벡터를 추출할 수 있고, 또한 제2 음원 데이터에 대응하는 기저 벡터와 계수 벡터를 추출할 수 있다. 이때, 제1 음원 데이터에 대응하는 기저 벡터와 제2 음원 데이터에 대응하는 기저 벡터 간의 유사성에 기초하여, 새로운 기저 벡터가 생성될 수 있다. 따라서, 데이터 증강 장치는 생성된 새로운 기저 벡터와 제1 음원 데이터 및/또는 제2 음원 데이터로부터 추출된 계수 벡터에 기초하여, 새로운 음원 스펙트럼을 생성할 수 있다.
단계(320)에서, 데이터 증강 장치는 생성된 음원 스펙트럼과 위상 정보를 이용하여 새로운 음원 데이터를 생성할 수 있다. 이때, 위상 정보는 주파수 변환할 때 생성된 타겟 클래스에 속하는 음원 데이터를 주파수 변환할 때 추출될 수 있다.
일 실시예에 따르면, 데이터 증강 장치는 적은 수의 학습 데이터(예를 들면, 타겟 클래스로 분류된 음원 데이터)로부터 다수의 혼합된 음원 데이터를 생성할 수 있다. 또한, 새로운 기저 벡터
Figure 112019027252619-pat00020
는 어노테이션된(즉, 사전에 타겟 클래스로 분류된) 음원 데이터로부터 생성되었으므로 추가적인 어노테이션 과정을 필요로 하지 않을 수 있다. 따라서, 어노테이션 과정에서 요구되는 비용 및 시간이 절감될 수 있다. 뿐만 아니라, 데이터 증강 장치는 특정한 타겟 클래스의 음원 데이터의 생성을 효율적으로 수행할 수 있기 때문에, 실제 환경에서 동일한 발생 확률을 가지고 있지 않기 때문에 발생하는 데이터 간 불균형도 문제를 해결할 수 있다.
도 7은 일 실시예에 따른, 데이터 증강 방법을 수행하는 데이터 증강 장치를 나타낸다. 데이터 증강 장치(700)는 프로세서(710) 및 메모리(720)을 포함할 수 있고, 메모리는 컴퓨터에서 읽을 수 있는 명령어를 포함할 수 있다. 프로세서(710)가 메모리에 포함된 명령어를 읽을 경우, 도 1~도 5에서 전술한 과정을 통해 사전에 타겟 클래스로 분류된 음원 데이터로부터 다수의 혼합된 음원 데이터가 생성될 수 있다.
이때, 데이터 증강 장치(700)는 신경망의 학습 장치에 포함될 수 있고, 신경망의 학습 장치는 데이터 증강 장치(700)을 통해 증강된 데이터를 학습에 이용할 수 있다. 따라서, 데이터 개수가 적고 높은 불균형도를 가지고 있는 경우에도, 전술한 과정을 통해 증강된 데이터를 학습한 신경망에 의해 음향 인식 시스템의 성능이 향상될 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

Claims (20)

  1. 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여, 제1 타겟 클래스로 분류된 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출하는 단계;
    상기 비음수 행렬 인수분해를 적용하여, 제2 타겟 클래스로 분류된 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출하는 단계;
    유클리디안 거리(Euclidean distance) 또는 마할라노비스 거리(Mahalanobis distance)를 이용하여 상기 추출된 기저 벡터들의 유사성을 측정하는 단계;
    상기 측정된 유사성에 기초하여 상기 추출된 기저 벡터들의 혼합을 통해 새로운 기저 벡터를 생성하는 단계; 및
    상기 생성된 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성하는 단계
    를 포함하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법.
  2. 제1항에 있어서,
    상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출하는 단계는,
    상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터 중에서, 상기 음원 데이터 V와 상기 기저 벡터 W*상기 계수 벡터 H 사이의 차이가 최소가 되는 주요 기저 벡터와 주요 계수 벡터를 추출하는 단계
    를 포함하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법.
  3. 제1항에 있어서,
    상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출하는 단계는,
    타겟 클래스로 분류된 상기 음원 데이터를 주파수 변환하고, 상기 주파수 변환된 음원 데이터로부터 적어도 하나의 기저 벡터와 계수 벡터를 추출하는 단계
    를 포함하고,
    상기 기저 벡터는 상기 음원 데이터의 주파수 특징을 나타내고, 상기 계수 벡터는 시간 축 프레임에서 상기 음원 데이터에 대응하는 상기 기저 벡터의 성분이 존재하는 정도를 나타내는,
    비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법.
  4. 삭제
  5. 삭제
  6. 제1항에 있어서,
    상기 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성하는 단계는,
    상기 생성된 새로운 기저 벡터, 상기 추출된 계수 벡터 및 타겟 클래스로 분류된 상기 음원 데이터로부터 추출된 위상 정보에 기초하여, 상기 새로운 음원 데이터를 생성하는 단계를 포함하는, 비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 방법.
  7. 삭제
  8. 타겟 클래스로 분류된 음원 데이터를 식별하는 단계;
    상기 식별된 음원 데이터에 기초하여 생성된 새로운 음원 데이터를 생성하는 단계; 및
    상기 생성된 새로운 음원 데이터를 이용하여 신경망을 학습시키는 단계
    를 포함하고,
    상기 새로운 음원 데이터를 생성하는 단계는,
    비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여, 제1 타겟 클래스로 분류된 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출하고, 상기 비음수 행렬 인수분해를 적용하여, 제2 타겟 클래스로 분류된 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출하며, 유클리디안 거리(Euclidean distance) 또는 마할라노비스 거리(Mahalanobis distance)를 이용하여 상기 추출된 기저 벡터들의 유사성을 측정하고, 상기 측정된 유사성에 기초하여 상기 추출된 기저 벡터들의 혼합을 통해 새로운 기저 벡터를 생성하며, 상기 생성된 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 상기 새로운 음원 데이터를 생성하는,
    음향 인식 시스템에 적용되는 신경망의 학습 방법.
  9. 제8항에 있어서,
    상기 추출된 적어도 하나의 기저 벡터와 계수 벡터는,
    상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터 중에서, 상기 음원 데이터 V와 상기 기저 벡터 W*상기 계수 벡터 H 사이의 차이가 최소가 되는 주요 기저 벡터와 주요 계수 벡터인,
    음향 인식 시스템에 적용되는 신경망의 학습 방법.
  10. 제8항에 있어서,
    상기 기저 벡터는 상기 음원 데이터의 주파수 특징을 나타내고, 상기 계수 벡터는 시간 축 프레임에서 상기 음원 데이터에 대응하는 상기 기저 벡터의 성분이 존재하는 정도를 나타내는,
    음향 인식 시스템에 적용되는 신경망의 학습 방법.
  11. 프로세서 및 컴퓨터에서 읽을 수 있는 명령어를 포함하는 메모리를 포함하고,
    상기 명령어가 상기 프로세서에서 실행되면, 상기 프로세서는,
    비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여, 제1 타겟 클래스로 분류된 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출하고, 상기 비음수 행렬 인수분해를 적용하여, 제2 타겟 클래스로 분류된 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출하며, 유클리디안 거리(Euclidean distance) 또는 마할라노비스 거리(Mahalanobis distance)를 이용하여 상기 추출된 기저 벡터들의 유사성을 측정하고, 상기 측정된 유사성에 기초하여 상기 추출된 기저 벡터들의 혼합을 통해 새로운 기저 벡터를 생성하며, 상기 생성된 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성하는,
    비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치.
  12. 제11항에 있어서,
    상기 프로세서는,
    상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출할 때, 상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터 중에서 상기 음원 데이터 V와 상기 기저 벡터 W*상기 계수 벡터 H 사이의 차이가 최소가 되는 주요 기저 벡터와 주요 계수 벡터를 추출하는,
    비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치.
  13. 제11항에 있어서,
    상기 프로세서는,
    상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출할 때, 타겟 클래스로 분류된 상기 음원 데이터를 주파수 변환하고 상기 주파수 변환된 음원 데이터로부터 적어도 하나의 기저 벡터와 계수 벡터를 추출하고,
    상기 기저 벡터는 상기 음원 데이터의 주파수 특징을 나타내고, 상기 계수 벡터는 시간 축 프레임에서 상기 음원 데이터에 대응하는 상기 기저 벡터의 성분이 존재하는 정도를 나타내는,
    비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치.
  14. 삭제
  15. 삭제
  16. 제11항에 있어서,
    상기 프로세서는,
    상기 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용하여 새로운 음원 데이터를 생성할 때, 상기 생성된 새로운 기저 벡터, 상기 추출된 계수 벡터 및 타겟 클래스로 분류된 상기 음원 데이터로부터 추출된 위상 정보에 기초하여, 상기 새로운 음원 데이터를 생성하는,
    비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 이용하는 데이터 증강 장치.
  17. 삭제
  18. 프로세서 및 컴퓨터에서 읽을 수 있는 명령어를 포함하는 메모리를 포함하고,
    상기 명령어가 상기 프로세서에서 실행되면, 상기 프로세서는,
    타겟 클래스로 분류된 음원 데이터를 식별하고, 상기 식별된 음원 데이터에 기초하여 생성된 새로운 음원 데이터를 생성하며, 상기 생성된 새로운 음원 데이터를 이용하여 신경망을 학습시키고,
    상기 새로운 음원 데이터는,
    비음수 행렬 인수분해(Non-negative matrix factorization, NMF)를 적용하여, 제1 타겟 클래스로 분류된 음원 데이터에 대응하는 적어도 하나의 기저 벡터(basis vector)와 계수 벡터를 추출하고, 상기 비음수 행렬 인수분해를 적용하여, 제2 타겟 클래스로 분류된 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터를 추출하며, 유클리디안 거리(Euclidean distance) 또는 마할라노비스 거리(Mahalanobis distance)를 이용하여 상기 추출된 기저 벡터들의 유사성을 측정하고, 상기 측정된 유사성에 기초하여 상기 추출된 기저 벡터들의 혼합을 통해 새로운 기저 벡터를 생성하며, 상기 생성된 새로운 기저 벡터와 상기 추출된 계수 벡터를 이용함으로써 생성되는,
    음향 인식 시스템에 적용되는 신경망의 학습 장치.
  19. 제18항에 있어서,
    상기 추출된 적어도 하나의 기저 벡터와 계수 벡터는,
    상기 음원 데이터에 대응하는 적어도 하나의 기저 벡터와 계수 벡터 중에서, 상기 음원 데이터 V와 상기 기저 벡터 W*상기 계수 벡터 H 사이의 차이가 최소가 되는 주요 기저 벡터와 주요 계수 벡터인,
    음향 인식 시스템에 적용되는 신경망의 학습 장치.
  20. 제18항에 있어서,
    상기 기저 벡터는 상기 음원 데이터의 주파수 특징을 나타내고, 상기 계수 벡터는 시간 축 프레임에서 상기 음원 데이터에 대응하는 상기 기저 벡터의 성분이 존재하는 정도를 나타내는,
    음향 인식 시스템에 적용되는 신경망의 학습 장치.
KR1020190030350A 2019-03-18 2019-03-18 비음수 행렬 인수분해를 이용하는 데이터 증강 방법 및 장치 KR102520240B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020190030350A KR102520240B1 (ko) 2019-03-18 2019-03-18 비음수 행렬 인수분해를 이용하는 데이터 증강 방법 및 장치
US16/657,605 US20200302917A1 (en) 2019-03-18 2019-10-18 Method and apparatus for data augmentation using non-negative matrix factorization

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190030350A KR102520240B1 (ko) 2019-03-18 2019-03-18 비음수 행렬 인수분해를 이용하는 데이터 증강 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20200110881A KR20200110881A (ko) 2020-09-28
KR102520240B1 true KR102520240B1 (ko) 2023-04-11

Family

ID=72514516

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190030350A KR102520240B1 (ko) 2019-03-18 2019-03-18 비음수 행렬 인수분해를 이용하는 데이터 증강 방법 및 장치

Country Status (2)

Country Link
US (1) US20200302917A1 (ko)
KR (1) KR102520240B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210073168A (ko) * 2019-12-10 2021-06-18 한국전자통신연구원 노치 필터를 이용한 학습 데이터 증강 장치 및 방법

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130010968A1 (en) * 2011-07-07 2013-01-10 Yamaha Corporation Sound Processing Apparatus
WO2017046904A1 (ja) * 2015-09-16 2017-03-23 株式会社東芝 音声処理装置、音声処理方法及び音声処理プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130010968A1 (en) * 2011-07-07 2013-01-10 Yamaha Corporation Sound Processing Apparatus
WO2017046904A1 (ja) * 2015-09-16 2017-03-23 株式会社東芝 音声処理装置、音声処理方法及び音声処理プログラム

Also Published As

Publication number Publication date
KR20200110881A (ko) 2020-09-28
US20200302917A1 (en) 2020-09-24

Similar Documents

Publication Publication Date Title
US10581888B1 (en) Classifying software scripts utilizing deep learning networks
CN106683663B (zh) 神经网络训练设备和方法以及语音识别设备和方法
EP3340129B1 (en) Artificial neural network class-based pruning
US11048718B2 (en) Methods and systems for feature engineering
US11334671B2 (en) Adding adversarial robustness to trained machine learning models
KR101837262B1 (ko) 단어 자질 가중치를 적용한 딥 러닝 기반 개체 유형 분류 방법
KR20200075615A (ko) 기계 번역 방법 및 장치
KR102249818B1 (ko) 학습 데이터의 분포 특성에 기초하여 학습 데이터를 생성하는 방법 및 장치
WO2021075063A1 (en) Neural network-based signal processing apparatus, neural network-based signal processing method, and computer-readable storage medium
KR20220122455A (ko) 영상 데이터에 포함된 객체 분할 방법 및 이를 수행하는 장치
US10108513B2 (en) Transferring failure samples using conditional models for machine condition monitoring
JP6230987B2 (ja) 言語モデル作成装置、言語モデル作成方法、プログラム、および記録媒体
US20230169176A1 (en) Graph exploration framework for adversarial example generation
KR102520240B1 (ko) 비음수 행렬 인수분해를 이용하는 데이터 증강 방법 및 장치
KR101869026B1 (ko) 소프트웨어 클러스터링 방법 및 장치
US20210012156A1 (en) Explanation guided learning
KR102213177B1 (ko) 로봇에서의 음성인식 장치 및 방법
KR102371292B1 (ko) 컨텍스트 스타일 변환기를 이용한 영상 처리 기법
KR20210044003A (ko) 단어 임베딩 방법 및 장치와 단어 검색 방법
KR101628602B1 (ko) 프로그램의 유사도를 판단하기 위한 유사도 판단 방법 및 유사도 판단 장치
US20200372368A1 (en) Apparatus and method for semi-supervised learning
KR20220151256A (ko) 순환 생성 적대 네트워크 조건부 생성 적대 네트워크
KR20160036995A (ko) 음성 신호 전처리 방법 및 장치
US20240144053A1 (en) Inference analysis apparatus, inference apparatus, inference analysis method, and computer-readable recording medium
KR102387895B1 (ko) 2d 마스크 콘볼루션을 사용한 병렬 이미지 캡션 시스템 및 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant