JP2017067950A - Voice processing device, program, and method - Google Patents
Voice processing device, program, and method Download PDFInfo
- Publication number
- JP2017067950A JP2017067950A JP2015191934A JP2015191934A JP2017067950A JP 2017067950 A JP2017067950 A JP 2017067950A JP 2015191934 A JP2015191934 A JP 2015191934A JP 2015191934 A JP2015191934 A JP 2015191934A JP 2017067950 A JP2017067950 A JP 2017067950A
- Authority
- JP
- Japan
- Prior art keywords
- suppression
- signal
- coherence
- voice
- speech
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
- Circuit For Audible Band Transducer (AREA)
Abstract
Description
この発明は、音声処理装置、プログラム及び方法に関し、例えば、電話やテレビ会議などにおける音声処理や、音声認識処理に際して、目的音以外の非目的音(例えば、妨害音声)の抑圧処理(抑圧処理)に適用し得る。 The present invention relates to an audio processing apparatus, program, and method, and, for example, suppress processing (suppression processing) of non-target sound (for example, disturbing sound) other than target sound at the time of audio processing in telephone, video conference, etc. Applicable to.
近年、スマートフォンやカーナビゲーションなどの音声通話機能や音声認識機能などの様々な音声処理機能に対応する装置(以下、これらの装置を総称して「音声処理装置」と呼ぶものとする)が普及している。しかし、これらの音声処理装置が普及したことで、混雑した街中や走行中の車内など、以前よりも過酷な雑音環境下で音声処理装置が用いられるようになってきている。そのため、雑音環境下でも通話音質や音声認識性能を維持できるような、音声処理装置の需要が高まっている。 In recent years, devices that support various voice processing functions such as voice call functions and voice recognition functions such as smartphones and car navigation systems (hereinafter, these devices are collectively referred to as “voice processing devices”) have become widespread. ing. However, with the widespread use of these voice processing devices, the voice processing devices have come to be used in harsher noise environments than before, such as in crowded streets and in running cars. For this reason, there is an increasing demand for speech processing devices that can maintain call quality and speech recognition performance even in noisy environments.
従来の音声処理装置において、目的音を抽出して取得する際には、目的音以外の非目的音を抑圧する処理が行われる。従来の非目的音を抑圧する音声処理装置としては、例えば、特許文献1に記載された技術がある。
When a target sound is extracted and acquired in a conventional speech processing apparatus, a process for suppressing non-target sounds other than the target sound is performed. As a conventional speech processing apparatus for suppressing non-target sounds, for example, there is a technique described in
特許文献1に記載された装置では、入力音声信号に遅延減算処理を施して、第1、第2の所定方位に死角を有する第1、第2の指向性信号を形成し、これら2つの指向性信号のコヒーレンスを取得する。そして、特許文献1に記載された装置ではでは、取得したコヒーレンスと判定閾値とを比較して、入力音声信号が、目的方位から到来している目的音声の区間か、それ以外の非目的音声区間かを判定し、この判定結果に応じてゲインを設定し、ゲインを入力音声信号に乗算して非目的音声を減衰する。
In the device described in
ところで、通常非目的音に含まれる成分としては、例えば、背景雑音(例えば、街中での雑踏や、自動車の走行雑音など)と、妨害音声(例えば、当該音声処理装置の使用者以外の人の話し声)に大別できる。従来、背景雑音は周波数特性やパワーが定常であることを前提に、様々な有効な抑圧方法が提案されている。一方で、妨害音声は信号パワーや周波数特性が非定常であるうえに、目的音声(音声処理機能使用者の声)と同様に人間の声である。したがって、従来の音声処理装置において、妨害音声を検出しようとする場合、背景雑音のように目的音声との挙動の差異に基づいて存在の有無を判定することが困難である。このため、従来の音声処理装置で、妨害音を抑圧しようとすると、妨害音の有無によらず、過度に抑圧処理を施して音質の歪が顕著になったり、抑圧不足で妨害音の残留成分によって通話音質や音声認識性能が所定の水準に達しない、といった問題が生じる。 By the way, the components included in the normal non-target sound include, for example, background noise (for example, crowds in the city, driving noise of automobiles, etc.) and disturbing sound (for example, people other than the user of the sound processing device). (Speaking voice). Conventionally, various effective suppression methods have been proposed on the assumption that the background noise has constant frequency characteristics and power. On the other hand, the disturbing voice is a human voice as well as the target voice (voice of the voice processing function user) in addition to non-stationary signal power and frequency characteristics. Therefore, in the conventional speech processing device, when detecting the disturbing speech, it is difficult to determine the presence / absence based on the difference in behavior from the target speech such as background noise. For this reason, when trying to suppress the interfering sound with a conventional sound processing device, the sound quality distortion becomes significant due to excessive suppression processing regardless of the presence or absence of the interfering sound, or the residual component of the interfering sound due to insufficient suppression Therefore, there arises a problem that the voice quality and voice recognition performance do not reach predetermined levels.
以上のような問題に鑑みて、過不足なく妨害音声を抑圧する音声処理装置、プログラム及び方法が望まれている。 In view of the above problems, a voice processing apparatus, program, and method that suppress disturbing voice without excess or deficiency are desired.
第1の本発明の音声処理装置は、(1)複数のマイクから得られた入力信号を時間領域から周波数領域に変換された周波数領域入力信号を取得し、取得した前記マイクごとの周波数領域入力信号の差に基づいて、正面に死角を有する正面抑圧信号を生成する正面抑圧信号生成部と、(2)前記複数のマイクから得られた入力信号からコヒーレンスを計算するコヒーレンス計算部と、(3)前記正面抑圧信号と、前記コヒーレンスとの関係性を表す特徴量を算出し、前記特徴量に基づいて、前記入力信号の妨害音声を抑圧して、抑圧後信号を取得する妨害音声抑圧処理部とを有することを特徴とする。 The speech processing apparatus according to the first aspect of the present invention acquires (1) a frequency domain input signal obtained by converting input signals obtained from a plurality of microphones from a time domain to a frequency domain, and the obtained frequency domain input for each microphone. A front suppression signal generation unit that generates a frontal suppression signal having a blind spot in front based on the signal difference; (2) a coherence calculation unit that calculates coherence from input signals obtained from the plurality of microphones; ) A disturbing speech suppression processing unit that calculates a feature amount representing a relationship between the front suppression signal and the coherence, suppresses the disturbing speech of the input signal based on the feature amount, and obtains a post-suppression signal. It is characterized by having.
第2の本発明の音声処理プログラムは、コンピュータを、(1)複数のマイクから得られた入力信号を時間領域から周波数領域に変換された周波数領域入力信号を取得し、取得した前記マイクごとの周波数領域入力信号の差に基づいて、正面に死角を有する正面抑圧信号を生成する正面抑圧信号生成部と、(2)前記複数のマイクから得られた入力信号からコヒーレンスを計算するコヒーレンス計算部と、(3)前記正面抑圧信号と、前記コヒーレンスとの関係性を表す特徴量を算出し、前記特徴量に基づいて、前記入力信号の妨害音声を抑圧して、抑圧後信号を取得する妨害音声抑圧処理部として機能させることを特徴とする。 The audio processing program according to the second aspect of the present invention acquires a frequency domain input signal obtained by converting a computer from (1) an input signal obtained from a plurality of microphones from a time domain to a frequency domain. A front suppression signal generation unit that generates a frontal suppression signal having a blind spot in front based on a difference between frequency domain input signals; and (2) a coherence calculation unit that calculates coherence from input signals obtained from the plurality of microphones. (3) A disturbing voice that calculates a feature amount representing the relationship between the front suppression signal and the coherence, suppresses the disturbing speech of the input signal based on the feature amount, and obtains a post-suppression signal. It functions as a suppression processing unit.
第3の本発明は、複数のマイクから得られた入力信号から妨害音声を抑圧する音声処理方法において、(1)正面抑圧信号生成部、コヒーレンス計算部、及び妨害音声抑圧処理部を備え、(2)前記正面抑圧信号生成部は、前記複数のマイクから得られた前記入力信号を時間領域から周波数領域に変換された周波数領域入力信号を取得し、取得した前記マイクごとの周波数領域入力信号の差に基づいて、正面に死角を有する正面抑圧信号を生成し、(3)前記コヒーレンス計算部は、前記複数のマイクから得られた入力信号からコヒーレンスを計算し、(4)前記妨害音声抑圧処理部は、前記正面抑圧信号と、前記コヒーレンスとの関係性を表す特徴量を算出し、前記特徴量に基づいて、前記入力信号の妨害音声を抑圧して、抑圧後信号を取得することを特徴とする。 According to a third aspect of the present invention, there is provided a speech processing method for suppressing disturbing speech from input signals obtained from a plurality of microphones, comprising: (1) a front suppression signal generation unit, a coherence calculation unit, and a disturbing speech suppression processing unit; 2) The front suppression signal generation unit acquires a frequency domain input signal obtained by converting the input signals obtained from the plurality of microphones from a time domain to a frequency domain, and obtains the frequency domain input signal for each acquired microphone. Based on the difference, a front suppression signal having a blind spot in front is generated, (3) the coherence calculation unit calculates coherence from input signals obtained from the plurality of microphones, and (4) the disturbing speech suppression processing The unit calculates a feature amount representing a relationship between the front suppression signal and the coherence, and suppresses the interfering voice of the input signal based on the feature amount, and acquires a post-suppression signal. Characterized in that it.
本発明によれば、過不足なく妨害音声を抑圧する音声処理装置を提供することができる。 ADVANTAGE OF THE INVENTION According to this invention, the audio processing apparatus which suppresses disturbance sound without excess and deficiency can be provided.
(A)主たる実施形態
以下、本発明による音声処理装置、プログラム及び方法の一実施形態を、図面を参照しながら詳述する。
(A) Main Embodiment Hereinafter, an embodiment of a sound processing apparatus, a program, and a method according to the present invention will be described in detail with reference to the drawings.
(A−1)実施形態の構成
図1は、この実施形態の音声処理装置1の全体構成を示すブロック図である。
(A-1) Configuration of Embodiment FIG. 1 is a block diagram showing the overall configuration of the
音声処理装置1は、一対のマイクm_1、m_2のそれぞれから、図示しないAD変換器を介して入力信号s1(n)、s2(n)を取得する。なお、nはサンプルの入力順を表すインデックスであり、正の整数で表現される。本文中では、nが小さいほど古い入力サンプルであり、大きいほど新しい入力サンプルであるものとする。
The
音声処理装置1は、マイクm_1、m_2で補足される入力信号に含まれる非目的音(例えば、妨害音声)を抑圧する処理を行うものである。音声処理装置1が出力する音声信号の出力形式については限定されないものであり、任意の形式のディジタル音声データとして出力するようにしてもよいし、アナログ音声信号として出力するようにしてもよい。この実施形態では、音声処理装置1は、例えば、PCM(Pulse−code modulation)形式等のディジタル音声データをフレーム単位で出力するものとして説明する。音声処理装置1は、例えば、テレビ会議システムや携帯電話端末などの通信装置や音声認識機能で用いられる音声信号の前処理(例えば、妨害音声の抑圧処理等)に利用される。
The
図2は、マイクm_1、m_2の配置の例について示した説明図である。 FIG. 2 is an explanatory diagram showing an example of the arrangement of the microphones m_1 and m_2.
図2に示すように、この実施形態では、マイクm_1、m_2は、2つのマイクm_1、m_2を含む面が目的音の到来する方向(目的音の音源の方向)に対して垂直となるように配置されているものとする。また、以下では、図2に示すように、2つのマイクm_1、m_2の間の位置から見て、目的音の到来方向を前方向又は正面方向と呼ぶものとする。また、以下では、図2に示すように、右方向、左方向、後方向と呼ぶ場合は、2つのマイクm_1、m_2の間の位置から目的音の到来方向を見た場合の各方向を示すものとして説明する。なお、この実施形態では、目的音がマイクm_1、m_2の正面方向から到来し、妨害音声を含む非目的音が左右方向(横方向)から到来するものとして説明する。 As shown in FIG. 2, in this embodiment, the microphones m_1 and m_2 are such that the plane including the two microphones m_1 and m_2 is perpendicular to the direction in which the target sound arrives (the direction of the target sound source). It is assumed that it is arranged. In the following, as shown in FIG. 2, the arrival direction of the target sound is referred to as the front direction or the front direction when viewed from the position between the two microphones m_1 and m_2. In the following, as shown in FIG. 2, when referring to the right direction, the left direction, and the rear direction, each direction when the arrival direction of the target sound is viewed from the position between the two microphones m_1 and m_2 is shown. It will be explained as a thing. In this embodiment, it is assumed that the target sound comes from the front direction of the microphones m_1 and m_2, and the non-target sound including the disturbing sound comes from the left-right direction (lateral direction).
音声処理装置1は、FFT部10、正面抑圧信号生成部20、コヒーレンス計算部30、妨害音声抑圧処理部40、及びIFFT部50を有している。
The
音声処理装置1は、プロセッサやメモリ等を有するコンピュータにプログラム(実施形態に係る音声判定プログラムを含むプログラム)をインストールして実現するようにしてもよいが、この場合でも、音声処理装置1は機能的には図1を用いて示すことができる。なお、音声処理装置1については一部又は全部をハードウェア的に実現するようにしてもよい。
The
FFT部10は、マイクm1及びマイクm2から入力信号系列s1及びs2を受け取り、その入力信号s1及びs2に高速フーリエ変換(あるいは離散フーリエ変換)を行うものである。これにより、入力信号s1及びs2が周波数領域で表現されることになる。なお、FFT部10は、高速フーリエ変換を実施するにあたり、入力信号s1(n)及びs2(n)から所定のN個(Nは任意の整数)のサンプルから成る、分析フレームFRAME1(K)及びFRAME2(K)を構成するものとする。入力信号s1からFRAME1を構成する例を以下の(1)式に示す。なお、以下の(1)式において、Kはフレームの順番を表すインデックスであり、正の整数で表現される。以下では、Kの値が小さいほど古い分析フレームであり、Kの値が大きいほど新しい分析フレームであるものとする。また、以降の動作説明において、特に但し書きが無い限りは、分析対象となる最新の分析フレームを表すインデックスはKであるとする。
FRAME1(1)={s1(1)、s1(2)・・、s1(i)、・・s1(n)}
FRAME1(K)={s1(N×K+1)、s1(N×K+2)・・、s1(N×K+i)、・・s1(N×K+N)} …(1)
The
FRAME1 (1) = {s1 (1), s1 (2)... S1 (i),.
FRAME1 (K) = {s1 (N × K + 1), s1 (N × K + 2).., S1 (N × K + i),... S1 (N × K + N)} (1)
FFT部10は、分析フレームごとに高速フーリエ変換処理を施すことで、入力信号s1から構成した分析フレームFRAME1(K)にフーリエ変換して得た周波数領域信号X1(f,K)と、入力信号s2から構成した分析フレームFRAME2(K)をフーリエ変換して得た周波数領域信号X2(f,K)とを取得する。なおfは周波数を表すインデックスである。またX1(f,K)、X2(f,K)は単一の値ではなく、以下の(2)式のように、複数の周波数f1〜fmのm個(mは任意の整数)の成分(スペクトル成分)から構成されるものであるものとする。
The
FFT部10は、周波数領域信号X1(f,K)、X2(f,K)を、正面抑圧信号生成部20及びコヒーレンス計算部30に供給する。
The
なお、X1(f,K)は複素数であり、実部と虚部で構成される。これは、X2(f,K)及び、後述する正面抑圧信号生成部20で説明するN(f,K)等についても同様である。
X1(f,K)={X1(f1,K)、X1(f2,K)、・・X1(fi,K)・・、X1(fm,K)} …(2)
X1 (f, K) is a complex number and is composed of a real part and an imaginary part. The same applies to X2 (f, K) and N (f, K) described in the front suppression
X1 (f, K) = {X1 (f1, K), X1 (f2, K),... X1 (fi, K) .., X1 (fm, K)} (2)
次に、正面抑圧信号生成部20について説明する。
Next, the front suppression
正面抑圧信号生成部20は、FFT部10から供給された信号について、周波数成分ごとに正面方向の信号成分を抑圧する処理を行う。言い換えると、正面抑圧信号生成部20は、正面方向の成分を抑圧する指向性フィルタとして機能する。
The front suppression
例えば、正面抑圧信号生成部20は、図3に示すように、正面方向に死角を有する8の字型の双指向性のフィルタを用いて、FFT部10から供給された信号から正面方向の成分を抑圧する指向性フィルタを形成する。
For example, as shown in FIG. 3, the front suppression
具体的には、正面抑圧信号生成部20は、FFT部10から供給された信号「X1(f,K)」、「X2(f,K)」に基づいて以下の(3)式のような計算を行って、周波数成分ごとの正面抑圧信号N(f,K)を生成する。以下の(3)式の計算は、上述の図3のような、正面方向に死角を有する8の字型の双指向性のフィルタを形成する処理に相当する。
N(f,K)=X1(f,K)−X2(f,K) …(3)
Specifically, the front suppression
N (f, K) = X1 (f, K) -X2 (f, K) (3)
以上のように、正面抑圧信号生成部20は、周波数f1〜fmの各周波数成分(各周波数帯の1フレーム分のパワーの変化を表した信号)を取得する。
As described above, the front suppression
次に、コヒーレンス計算部30の処理について説明する。
Next, the process of the
コヒーレンス計算部30は、周波数領域信号X1(f,K)、X2(f,K)について、左方向(第1の方向)に強い指向性(例えば、図4(a)に示すような単一指向性)のフィルタで処理された信号(以下、「指向性信号B1(f)」と呼ぶ)と、右方向(第2の方向)に強い指向性(例えば、図4(b)に示すような単一指向性)のフィルタで処理された信号(以下、「指向性信号B2(f)」と呼ぶ)とに基づくコヒーレンス(コヒーレンス係数)coef(f,K)を取得するものとする。
The
coef(f,K)は、インデックスが任意のインデックス値Kのフレーム(分析フレームFRAME1(K)及びFRAME2(K))を構成する任意の周波数f(周波数f1〜fmのいずれかの周波数)の成分におけるコヒーレンス(すなわち、指向性信号B1(f)と、指向性信号B2(f)とのコヒーレンス)を表しているものとする。 coef (f, K) is a component of an arbitrary frequency f (any one of frequencies f1 to fm) constituting a frame (analysis frame FRAME1 (K) and FRAME2 (K)) having an index value K of an arbitrary index. (Ie, the coherence between the directivity signal B1 (f) and the directivity signal B2 (f)).
なお、coef(f,K)を求める際に指向性信号B1(f)及び指向性信号B2(f)に係る指向性の方向は正面方向以外の任意の方向(ただし、B1(f)とB2(f)とで異なる方向とする必要がある)とするようにしてもよい。 When obtaining coef (f, K), the directionality of the directivity signal B1 (f) and the directivity signal B2 (f) is an arbitrary direction other than the front direction (however, B1 (f) and B2). (F) need to be in a different direction).
コヒーレンスcoef(f,K)を算出する具体的な算出処理(例えば、計算式)については限定されないものであるが、例えば、特許文献1と同様の処理(例えば、特許文献1に記載された(3)式〜(6)式の計算処理)を適用することができるため、詳細については省略する。 A specific calculation process (for example, a calculation formula) for calculating the coherence coef (f, K) is not limited, but for example, a process similar to that of Patent Document 1 (for example, described in Patent Document 1 ( Since the calculation processing of the formulas (3) to (6) can be applied, details are omitted.
以上のように、コヒーレンス計算部30は、各フレームの各周波数成分(周波数f1〜fmの成分)について、コヒーレンスcoef(f,K)を求めて、妨害音声抑圧処理部40に供給する。
As described above, the
次に、妨害音声抑圧処理部40の処理について説明する。
Next, the process of the disturbing voice
妨害音声抑圧処理部40は、正面以外に指向性を有する正面抑圧信号N(f,K)と、コヒーレンスcoef(f,K)を用いて、非目的音としての妨害音声(例えば、妨害音声の有無や妨害音声の大きさ)を判定し、その判定結果を利用して、入力された音声信号(例えば、X1(f,K)及び又はX2(f,K))に対して妨害音声の成分を抑圧した妨害音声抑圧信号O(f,K)を生成して出力する。
The interfering voice
図1に示すように、この実施形態の妨害音声抑圧処理部40は、X1(f,K)に対して妨害音声の成分を抑圧した音声信号を生成するものとして説明する。したがって、この実施形態では、妨害音声抑圧信号O(f,K)は、X1(f,K)に対して、妨害音声抑圧処理を行った信号となる。
As shown in FIG. 1, the disturbing sound
なお、妨害音声抑圧処理部40は、X1(f,K)及びX2(f,K)の両方について妨害音声の成分を抑圧する処理を行うようにしてもよい。また、妨害音声抑圧処理部40は、X1(f,K)とX2(f,K)とを合成した信号(例えば、複数の信号の平均値)を取得して、取得した信号について妨害音声の成分を抑圧する処理を行うようにしてもよい。妨害音声抑圧処理部40が雑音抑圧する具体的処理内容については後述する。
The interfering speech
以上のように、妨害音声抑圧処理部40は、各フレームの各周波数成分(周波数f1〜fmの成分)について、妨害音声抑圧信号O(f,K)を求めて、IFFT部50に供給する。
As described above, the interfering speech
次に、IFFT部50の処理について説明する。
Next, processing of the
IFFT部50は、供給されたO(f,K)を周波数領域から時間領域の信号に変換して、妨害音声抑圧信号o(n)を生成する処理を行う。IFFT部50は、FFT部10で行った変換処理に対する逆変換処理を行う。この実施形態では、FFT部10はFFT(高速フーリエ変換)を行っているため、IFFT部50は、IFFT(逆フーリエ変換)を行う。
The
次に、妨害音声抑圧処理部40が行う妨害音声抑圧処理の詳細について説明する。
Next, details of the disturbing speech suppression processing performed by the disturbing speech
ここでは、目的音がマイクm_1、m_2の正面方向から到来し、妨害音声を含む非目的音が左右方向(横方向)から到来するものとして説明する。例えば、マイクm_1、m_2を電話端末(例えば、携帯電話端末等)の受話器のマイク部分に適用した場合には、目的音としての話者(ユーザ)の音声はマイクm_1、m_2の正面方向から到来し、当該電話端末の話者以外の音声は、左右方向(横方向)から到来することになる。 Here, description will be made assuming that the target sound comes from the front direction of the microphones m_1 and m_2, and the non-target sound including the disturbing sound comes from the left-right direction (lateral direction). For example, when the microphones m_1 and m_2 are applied to the microphone portion of the handset of a telephone terminal (for example, a mobile phone terminal), the voice of the speaker (user) as the target sound comes from the front direction of the microphones m_1 and m_2. However, the voice other than the speaker of the telephone terminal comes from the left-right direction (lateral direction).
したがって、例えば、「妨害音声が存在せず」かつ「目的音が存在する」場合は、正面抑圧信号N(f,K)は、目的音成分の大きさに比例した値となる。図2に示すように、正面抑圧信号N(f,K)生成時の指向性特性には、「妨害音声が存在せず」かつ「目的音が存在する」場合でも、正面方向から到来する信号成分も含まれることになるためである。ただし、図2に示すように、正面抑圧信号N(f,K)生成時の指向性特性には、正面方向から到来する信号成分も含まれるが、横方向のゲインと比較すると非常に小さい。また、「妨害音声が存在せず」かつ「目的音が存在する」場合の正面抑圧信号N(f,K)のゲインは、妨害音声が存在する場合よりも小さくなる。 Therefore, for example, when “no disturbing voice is present” and “the target sound is present”, the front suppression signal N (f, K) is a value proportional to the magnitude of the target sound component. As shown in FIG. 2, the directivity characteristics at the time of generating the front suppression signal N (f, K) are signals that come from the front direction even when “no disturbing sound exists” and “the target sound exists”. This is because components are also included. However, as shown in FIG. 2, the directivity characteristic when generating the front suppression signal N (f, K) includes a signal component coming from the front direction, but is very small compared to the gain in the horizontal direction. In addition, the gain of the front suppression signal N (f, K) when “no disturbing sound exists” and “the target sound exists” is smaller than when the disturbing sound exists.
また、コヒーレンスcoef(f,K)は、簡単に述べれば、第1の方向(右方向)から到来する信号と第2の方向(左方向)から到来する信号の相関(特徴量)と言える。従って、コヒーレンスcoef(f,K)が小さい場合とは、2つの指向性信号B1(f)、B2(f)の相関が小さい場合であり、反対にコヒーレンスcoef(f,K)が大きい場合とは相関が大きい場合と言い換えることができる。そして、相関が小さい場合は、目的音の到来方向が右又は左のどちらかに大きく偏った場合か、偏りがなくても雑音のような明確な規則性の少ない信号の場合である。また、例えば、マイクm_1、m_2を電話端末(例えば、携帯電話端末等)の受話器のマイク部分に適用した場合には、話者の音声(目的音声)は正面から到来し、妨害音声は正面以外から到来する傾向が強い。以上のようにコヒーレンスcoef(f,K)は、入力信号の到来方向と深い関係を持つ特徴量となる。したがって、「妨害音声が存在せず」かつ「目的音が存在する」場合には、コヒーレンスcoef(f,K)の値は大きくなる傾向となり、「妨害音声が存在する」場合には、コヒーレンスcoef(f,K)の値は小さくなる傾向となる。 The coherence coef (f, K) can be simply described as a correlation (feature amount) between a signal arriving from the first direction (right direction) and a signal arriving from the second direction (left direction). Therefore, the case where the coherence coef (f, K) is small is a case where the correlation between the two directivity signals B1 (f) and B2 (f) is small, and conversely, the case where the coherence coef (f, K) is large. In other words, it can be said that the correlation is large. The case where the correlation is small is when the arrival direction of the target sound is greatly deviated to the right or left, or a signal having a clear and regularity such as noise even if there is no deviation. For example, when the microphones m_1 and m_2 are applied to the microphone part of a telephone terminal (for example, a cellular phone terminal), the speaker's voice (target voice) comes from the front and the disturbing voice is other than the front. The tendency to come from is strong. As described above, the coherence coef (f, K) is a feature amount having a deep relationship with the arrival direction of the input signal. Accordingly, the value of coherence coef (f, K) tends to increase when “no disturbing speech exists” and “target sound exists”, and when “jamming speech exists”, the coherence coef The value of (f, K) tends to be small.
以上の各値の挙動を妨害音声の有無に着目して整理すると以下のような条件で、妨害音声の有無を判断することができる。以下では、「妨害音声が存在せず」かつ「目的音が存在する」という条件(以下、「第1の条件」と呼ぶ)と、「妨害音声が存在する」という条件(以下、「第2の条件」と呼ぶ)に場合分けして、妨害音声の有無の判定方法について説明する。 If the behavior of each of the above values is organized by paying attention to the presence or absence of interfering speech, the presence or absence of interfering speech can be determined under the following conditions. In the following, the condition that “no disturbing sound exists” and “the target sound exists” (hereinafter referred to as “first condition”) and the condition that “the disturbing sound exists” (hereinafter referred to as “second sound”). The method for determining the presence / absence of interfering speech will be described for each case.
第1の条件の場合(「妨害音声が存在せず」かつ「目的音が存在する」場合)には、コヒーレンスcoef(f,K)が比較的大きな値となり、正面抑圧信号N(f,K)は、目的音成分の大きさに比例した値となる。 In the case of the first condition (when “no disturbing sound exists” and “target sound exists”), the coherence coef (f, K) becomes a relatively large value, and the front suppression signal N (f, K) ) Is a value proportional to the magnitude of the target sound component.
一方、第2の条件の場合(「妨害音声が存在する」場合)には、コヒーレンスcoef(f,K)の値は小さい値となり、正面抑圧信号N(f,K)は大きな値となる傾向にある。 On the other hand, in the case of the second condition (when “disturbing speech is present”), the value of coherence coef (f, K) tends to be a small value, and the front suppression signal N (f, K) tends to be a large value. It is in.
そこで、妨害音声抑圧処理部40では、非目的音としての妨害音を抑圧する処理に、正面抑圧信号N(f,K)とコヒーレンスcoef(f,K)の相関係数cor(f,K)を導入するものとする。なお、相関係数cor(f,K)は、任意のインデックス値Kの任意の周波数f(周波数f1〜fmのいずれかの周波数)の成分における、正面抑圧信号N(f,K)とコヒーレンスcoef(f,K)との相関係数を示している。すなわち、妨害音声抑圧処理部40は、周波数f1〜fmの周波数成分ごとに、相関係数cor(f,K)を求めるものとする。
Therefore, the interfering voice
そして、相関係数cor(f,K)と妨害音声の有無との関係は以下のような関係となる。妨害音声が存在しない場合は、相関係数cor(f,K)は正の値(相関性が高いことを示す所定値以上の値)となる傾向となる。一方、妨害音声が存在する場合には、相関係数cor(f,K)は負の値(相関性が低いことを示す所定値未満の値)となる傾向となる。 The relationship between the correlation coefficient cor (f, K) and the presence / absence of disturbing speech is as follows. When no disturbing voice exists, the correlation coefficient cor (f, K) tends to be a positive value (a value equal to or higher than a predetermined value indicating high correlation). On the other hand, when disturbing speech is present, the correlation coefficient cor (f, K) tends to be a negative value (a value less than a predetermined value indicating that the correlation is low).
すなわち、正面抑圧信号N(f,K)とコヒーレンスcoef(f,K)との相関係数cor(f,K)を導入することにより、例えば、相関係数cor(f,K)の正負判断というシンプルな処理で、周波数成分ごとの妨害音声(妨害音声の度合や大きさ)を判定することができる。 That is, by introducing the correlation coefficient cor (f, K) between the front suppression signal N (f, K) and the coherence coef (f, K), for example, whether the correlation coefficient cor (f, K) is positive or negative is determined. With this simple processing, it is possible to determine the disturbing sound (degree and magnitude of the disturbing sound) for each frequency component.
そこで、この実施形態の妨害音声抑圧処理部40は、まず、周波数成分ごとに相関係数cor(f,K)を求め、周波数成分ごとに相関係数cor(f,K)に基づいて妨害音声を抑圧する処理を行うものとする。すなわち、妨害音声抑圧処理部40は、周波数成分ごとに求めた相関係数cor(f,K)を、妨害音声を抑圧するための抑圧係数(フィルタ係数)として用いるものとする。これにより、この実施形態の妨害音声抑圧処理部40では、妨害音が存在しない周波数では抑圧係数が大きい値となるので、過度な抑圧はされない。また、この実施形態の妨害音声抑圧処理部40では、妨害音が存在する周波数では抑圧係数が小さい値となるので妨害音成分が抑圧されることになる。
Therefore, the disturbing speech
妨害音声抑圧処理部40が、周波数成分ごとに相関係数cor(f,K)を求める際の算出方法については限定されないものであるが、例えば、参考文献1(平岡 和幸、堀 玄著、「プログラミングのための確率統計」、オーム社、2009/10/20発行)に記載された計算方法を適用することができる。具体的には、妨害音声抑圧処理部40は、例えば、以下の(5)式を用いて、周波数成分ごとに相関係数cor(f,K)を求めるようにしてもよい。なお、以下の(5)式において、Cov[N(f,K),coef(f,K)]は、正面抑圧信号N(f,K)とコヒーレンスcoef(f,K)の共分散を示している。また、以下の(5)式において、σN(f,K)は、正面抑圧信号N(f,K)の標準偏差を示している。さらに、以下の(5)式において、σcoef(f,K)は、コヒーレンスcoef(f,K)の標準偏差を示している。
ところで、相関係数cor(f,K)は−1.0〜1.0の値をとるが、音声信号の周波数主成分は正の値しかとらないので、負の値の係数を乗算することはできない。そこで、妨害音声抑圧処理部40は、相関係数cor(f,K)を求める際に、なんらかの関数演算を施すといった手段で正の値に変換するようにしてもよい。具体的には、この実施形態の妨害音声抑圧処理部40は、相関係数cor(f,K)を求める際に、定数を加算する処理(いわゆるフロアリング処理)を施すものとする。
By the way, the correlation coefficient cor (f, K) takes a value of −1.0 to 1.0. However, since the frequency principal component of the audio signal takes only a positive value, the coefficient of the negative value is multiplied. I can't. Therefore, the interfering voice
以下では、相関係数cor(f,K)に基づいてフロアリング処理等を施して生成したものを抑圧係数r(f,K)と表すものとする。なお、抑圧係数r(f,K)は、任意のインデックス値に係る任意の周波数成分(周波数f1〜fmのいずれかの周波数の成分)の妨害音声抑圧処理を行うための抑圧係数を示している。 In the following, it is assumed that what is generated by performing flooring processing or the like based on the correlation coefficient cor (f, K) is represented as a suppression coefficient r (f, K). Note that the suppression coefficient r (f, K) indicates a suppression coefficient for performing a disturbing voice suppression process for an arbitrary frequency component (a component of any one of frequencies f1 to fm) related to an arbitrary index value. .
妨害音声抑圧処理部40が行うフロアリング処理の具体的方法については限定されないものであるが、例えば、参考文献2(特開2015−26956号公報)に記載された方式等を適用することができる。具体的には、妨害音声抑圧処理部40は、例えば、以下の(6)式のように、相関係数cor(f,K)として負の値が算出された場合に、当該値に0以上の任意の正の定数α(α>0)を加算する処理を適用するようにしてもよい。
r(f,K)=cor(f,K)+α …(6)
Although the specific method of the flooring process performed by the disturbing voice
r (f, K) = cor (f, K) + α (6)
以下では、相関係数cor(f,K)に基づいてフロアリング処理等を施して生成したものを抑圧係数r(f,K)と表すものとする。なお、抑圧係数r(f,K)は、任意のインデックス値に係る任意の周波数成分(周波数f1〜fmのいずれかの周波数の成分)の妨害音声抑圧処理を行うための抑圧係数を示している。 In the following, it is assumed that what is generated by performing flooring processing or the like based on the correlation coefficient cor (f, K) is represented as a suppression coefficient r (f, K). Note that the suppression coefficient r (f, K) indicates a suppression coefficient for performing a disturbing voice suppression process for an arbitrary frequency component (a component of any one of frequencies f1 to fm) related to an arbitrary index value. .
以上のように、この実施形態の妨害音声抑圧処理部40は、周波数成分ごとに、相関係数cor(f,K)を算出し、算出した相関係数cor(f,K)について必要に応じてフロアリング処理を施して抑圧係数r(f,K)を取得するものとする。
As described above, the disturbing speech
そして、妨害音声抑圧処理部40は、周波数成分ごとに、抑圧係数r(f,K)を用いて、入力信号(この実施形態ではX1(f,K))に含まれる妨害音(妨害音成分)を抑圧して、妨害音声抑圧信号O(f,K)を生成する。この実施形態の例では、妨害音声抑圧処理部40は、は、以下の(7)式のように、周波数成分ごとに、入力信号X1(f,K)に抑圧係数r(f,K)を乗じることで、妨害音声抑圧信号O(f,K)を求めるものとする。
妨害音声抑圧信号O(f,K)
= 入力信号X1(f,K) × 抑圧係数r(f,K) …(7)
Then, the interfering sound
Interfering voice suppression signal O (f, K)
= Input signal X1 (f, K) x suppression coefficient r (f, K) (7)
(A−2)実施形態の動作
次に、以上のような構成を有するこの実施形態の音声処理装置1の動作(実施形態の判定方法)を説明する。
(A-2) Operation of Embodiment Next, the operation (determination method of the embodiment) of the
まず、音声処理装置1の全体の動作について図1を用いて説明する。
First, the overall operation of the
マイクm_1、m_2のそれぞれから図示しないAD変換器を介して、1フレーム分(1つの処理単位分)の入力信号s1(n)及びs2(n)がFFT部10に供給されたものとする。そして、FFT部10は、1フレーム分の入力信号s1(n)及びs2(n)に基づく分析フレームFRAME1(K)、FRAME2(K)についてフーリエ変換し、周波数領域で示される信号X1(f,K)、X2(f,K)を取得する。そして、FFT部10で生成された信号X1(f,K)、X2(f,K)が、正面抑圧信号生成部20及びコヒーレンス計算部30に供給される。また、FFT部10で生成された信号X1(f,K)が妨害音声抑圧処理部40に供給される。
Assume that input signals s1 (n) and s2 (n) for one frame (for one processing unit) are supplied to the
正面抑圧信号生成部20は、供給されたX1(f,K)、X2(f,K)に基づいて、正面抑圧信号N(f,K)を算出する。そして、正面抑圧信号生成部20は、正面抑圧信号N(f,K)に基づいて正面抑圧信号N(f,K)を算出し、妨害音声抑圧処理部40に供給する。
The front
一方、コヒーレンス計算部30は、供給されたX1(f,K)、X2(f,K)に基づいて、コヒーレンスcoef(f,K)を生成し、妨害音声抑圧処理部40に供給する。
On the other hand, the
妨害音声抑圧処理部40は、周波数成分ごとに、相関係数cor(f,K)を算出し、算出した相関係数cor(f,K)について必要に応じてフロアリング処理を施して抑圧係数r(f,K)を取得する。そして、妨害音声抑圧処理部40は、周波数成分ごとに、抑圧係数r(f,K)を用いて、入力信号X1(f,K)の妨害音声(妨害音声成分)を抑圧して、妨害音声抑圧信号O(f,K)を生成しIFFT部50に供給する。
The interfering voice
IFFT部50は、供給された妨害音声抑圧信号O(f,K)に逆フーリエ変換(IFFT)の処理を行って時間領域の妨害音声抑圧信号o(n)に変換して出力する。
The
次に、妨害音声抑圧処理部40の動作詳細について図5のフローチャートを用いて説明する。
Next, details of the operation of the disturbing voice
図5は、妨害音声抑圧処理部40の処理について示したフローチャートである。妨害音声抑圧処理部40は、正面抑圧信号N(f,K)、コヒーレンスcoef(f,K)、及び入力信号X1(f,K)が供給されるごとに、図5のフローチャートの処理を行い、妨害音声抑圧信号O(f,K)を出力するものとする。
FIG. 5 is a flowchart showing the processing of the disturbing voice
まず、妨害音声抑圧処理部40に、正面抑圧信号N(f,K)、コヒーレンスcoef(f,K)、及び入力信号X1(f,K)が供給されたものとする(S101)。
First, it is assumed that the interfering speech
次に、妨害音声抑圧処理部40は、N(f,K)とcoef(f,K)とに基づいて相関係数cor(f,K)を算出する(S102)。具体的には、妨害音声抑圧処理部40は、上記の(5)式を用いて相関係数cor(f,K)を求めることができる。
Next, the disturbing voice
次に、妨害音声抑圧処理部40は、算出した相関係数cor(f,K)に対して必要に応じてフロアリング処理を行い、抑圧係数r(f,K)を取得する(S103)。この実施形態の例では、妨害音声抑圧処理部40は、上記の(6)式のように、相関係数cor(f,K)として負の値が算出された場合に、当該値に定数α(α>0)を加算するフロアリング処理を行うものとする。なお、妨害音声抑圧処理部40は、フロアリング処理に替えて、相関係数cor(f,K)として負の値が算出された場合に、各相関係数cor(f,K)の大小関係を維持した状態で正の値に変換する種々の処理を行うようにしてもよい。
Next, the interfering voice
次に、妨害音声抑圧処理部40は、抑圧係数r(f,K)を用いて、入力信号X1(f,K)の妨害音成分を抑圧する処理を行って、妨害音声抑圧信号o(n)を生成する(S104)。具体的には、妨害音声抑圧処理部40は、は、上記の(7)式のように、周波数成分ごとに、入力信号X1(f,K)に抑圧係数r(f,K)を乗じる(乗算する)ことで、妨害音声抑圧信号O(f,K)を求める。
Next, the interfering voice
次に、妨害音声抑圧処理部40は、求めた妨害音声抑圧信号O(f,K)を出力(IFFT部50に送信)する(S105)。
Next, the disturbing voice
(A−3)実施形態の効果
この実施形態によれば、以下のような効果を奏することができる。
(A-3) Effects of Embodiment According to this embodiment, the following effects can be achieved.
この実施形態の音声処理装置1では、妨害音声が存在する場合は小さい値で、妨害音声が存在しない場合には大きい値をとるという相関係数cor(f,K)のの特徴的な挙動を利用して、入力信号の妨害音声(非目的音)を抑圧している。これにより、この実施形態の音声処理装置1では、入力信号に対して過不足なく妨害音成分を抑圧することができる。すなわち、音声処理装置1の音声処理(例えば、テレビ会議システムや携帯電話などの通信装置や音声認識機能の前処理)では、性能向上(例えば、妨害音声等の非目的音の抑圧性能の向上)が期待できる。
In the
(B)他の実施形態
本発明は、上記の実施形態に限定されるものではなく、以下に例示するような変形実施形態も挙げることができる。
(B) Other Embodiments The present invention is not limited to the above-described embodiments, and may include modified embodiments as exemplified below.
(B−1)上記の実施形態の音声処理装置1は、2つのマイクから供給される入力信号に基づいた処理を行う例について説明したが、音声処理装置1では3つ以上のマイクから供給される入力信号に基づいて判定処理を行うようにしてもよい。例えば、音声処理装置1において、3つ以上のマイクから供給される入力信号に基づき、正面方向に死角を有する正面抑圧信号N(f,K)や、正面以外の所定の方向に指向性を有する指向性信号B1(f)、B2(f)を取得して上記の実施形態と同様の処理を行うようにしてもよい。すなわち、音声処理装置1において、正面抑圧信号N(f,K)や、指向性信号B1(f)、B2(f)を取得するためのマイクの構成等は限定されないものである。
(B-1) The
(B−2)上記の実施形態の妨害音声抑圧処理部40では、正面抑圧信号N(f,K)とコヒーレンスcoef(f,K)との関係性を表す特徴量として、正面抑圧信号N(f,K)とコヒーレンスcoef(f,K)との相関係数cor(f,K)を適用しているが、他の種類の値を特徴量として適用するようにしてもよい。例えば、妨害音声抑圧処理部40では、正面抑圧信号N(f,K)とコヒーレンスcoef(f,K)との関係性を表す特徴量として、正面抑圧信号N(f,K)とコヒーレンスcoef(f,K)との共分散を適用するようにしてもよい。
(B-2) In the disturbing speech
1…音声処理装置、10…FFT部、20…正面抑圧信号生成部、30…コヒーレンス計算部、40…妨害音声抑圧処理部、50…IFFT部、m_1、m_2…マイク。
DESCRIPTION OF
Claims (6)
前記複数のマイクから得られた入力信号からコヒーレンスを計算するコヒーレンス計算部と、
前記正面抑圧信号と、前記コヒーレンスとの関係性を表す特徴量を算出し、前記特徴量に基づいて、前記入力信号の妨害音声を抑圧して、抑圧後信号を取得する妨害音声抑圧処理部と
を有することを特徴とする音声処理装置。 Obtaining a frequency domain input signal obtained by converting input signals obtained from a plurality of microphones from a time domain to a frequency domain, and based on the obtained difference of the frequency domain input signals for each microphone, frontal suppression having a blind spot in front A front suppression signal generator for generating a signal;
A coherence calculator for calculating coherence from input signals obtained from the plurality of microphones;
A disturbing speech suppression processing unit that calculates a feature amount representing a relationship between the front suppression signal and the coherence, suppresses the disturbing speech of the input signal based on the feature amount, and obtains a post-suppression signal; A speech processing apparatus comprising:
複数のマイクから得られた入力信号を時間領域から周波数領域に変換された周波数領域入力信号を取得し、取得した前記マイクごとの周波数領域入力信号の差に基づいて、正面に死角を有する正面抑圧信号を生成する正面抑圧信号生成部と、
前記複数のマイクから得られた入力信号からコヒーレンスを計算するコヒーレンス計算部と、
前記正面抑圧信号と、前記コヒーレンスとの関係性を表す特徴量を算出し、前記特徴量に基づいて、前記入力信号の妨害音声を抑圧して、抑圧後信号を取得する妨害音声抑圧処理部と
して機能させることを特徴とする音声処理プログラム。 Computer
Obtaining a frequency domain input signal obtained by converting input signals obtained from a plurality of microphones from a time domain to a frequency domain, and based on the obtained difference of the frequency domain input signals for each microphone, frontal suppression having a blind spot in front A front suppression signal generator for generating a signal;
A coherence calculator for calculating coherence from input signals obtained from the plurality of microphones;
A disturbing speech suppression processing unit that calculates a feature amount representing a relationship between the front suppression signal and the coherence, suppresses the disturbing speech of the input signal based on the feature amount, and obtains a post-suppression signal; A voice processing program characterized by being made to function.
正面抑圧信号生成部、コヒーレンス計算部、及び妨害音声抑圧処理部を備え、
前記正面抑圧信号生成部は、前記複数のマイクから得られた前記入力信号を時間領域から周波数領域に変換された周波数領域入力信号を取得し、取得した前記マイクごとの周波数領域入力信号の差に基づいて、正面に死角を有する正面抑圧信号を生成し、
前記コヒーレンス計算部は、前記複数のマイクから得られた入力信号からコヒーレンスを計算し、
前記妨害音声抑圧処理部は、前記正面抑圧信号と、前記コヒーレンスとの関係性を表す特徴量を算出し、前記特徴量に基づいて、前記入力信号の妨害音声を抑圧して、抑圧後信号を取得する
ことを特徴とする音声処理方法。 In a speech processing method for suppressing interfering speech from input signals obtained from a plurality of microphones,
A front suppression signal generation unit, a coherence calculation unit, and a disturbing voice suppression processing unit,
The front suppression signal generation unit acquires a frequency domain input signal obtained by converting the input signals obtained from the plurality of microphones from a time domain to a frequency domain, and determines the difference between the acquired frequency domain input signals for the microphones. Based on this, a front suppression signal having a blind spot in front is generated,
The coherence calculating unit calculates coherence from input signals obtained from the plurality of microphones;
The interfering speech suppression processing unit calculates a feature amount representing a relationship between the front suppression signal and the coherence, suppresses the interfering speech of the input signal based on the feature amount, and outputs a post-suppression signal. An audio processing method characterized by acquiring the sound.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015191934A JP6544182B2 (en) | 2015-09-29 | 2015-09-29 | Voice processing apparatus, program and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015191934A JP6544182B2 (en) | 2015-09-29 | 2015-09-29 | Voice processing apparatus, program and method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017067950A true JP2017067950A (en) | 2017-04-06 |
JP6544182B2 JP6544182B2 (en) | 2019-07-17 |
Family
ID=58494682
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015191934A Active JP6544182B2 (en) | 2015-09-29 | 2015-09-29 | Voice processing apparatus, program and method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6544182B2 (en) |
-
2015
- 2015-09-29 JP JP2015191934A patent/JP6544182B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP6544182B2 (en) | 2019-07-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5762956B2 (en) | System and method for providing noise suppression utilizing nulling denoising | |
JP6703525B2 (en) | Method and device for enhancing sound source | |
JP5573517B2 (en) | Noise removing apparatus and noise removing method | |
WO2016027680A1 (en) | Voice processing device, voice processing method, and program | |
JP6686895B2 (en) | Audio processing device, audio processing method, and program | |
US10192566B1 (en) | Noise reduction in an audio system | |
JP6638248B2 (en) | Audio determination device, method and program, and audio signal processing device | |
JP6840302B2 (en) | Information processing equipment, programs and information processing methods | |
JP6314475B2 (en) | Audio signal processing apparatus and program | |
JP6763319B2 (en) | Non-purpose sound determination device, program and method | |
JP6544182B2 (en) | Voice processing apparatus, program and method | |
JP6631127B2 (en) | Voice determination device, method and program, and voice processing device | |
JP6221258B2 (en) | Signal processing apparatus, method and program | |
JP2019035915A (en) | Talk state-determining device, method, and program | |
JP2017067990A (en) | Voice processing device, program, and method | |
JP2019036917A (en) | Parameter control equipment, method and program | |
JP6361360B2 (en) | Reverberation judgment device and program | |
JP6263890B2 (en) | Audio signal processing apparatus and program | |
EP3029671A1 (en) | Method and apparatus for enhancing sound sources | |
WO2022141364A1 (en) | Audio generation method and system | |
JP6903947B2 (en) | Non-purpose sound suppressors, methods and programs | |
JP6221463B2 (en) | Audio signal processing apparatus and program | |
JP2016039399A (en) | Sudden sound suppressor, method and program | |
The et al. | A Method for Extracting Target Speaker in Dual–Microphone System | |
JP2015126279A (en) | Audio signal processing apparatus and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180515 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190514 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190521 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190603 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6544182 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |