JP5919647B2 - 風雑音抑圧装置、半導体集積回路及び風雑音抑圧方法 - Google Patents

風雑音抑圧装置、半導体集積回路及び風雑音抑圧方法 Download PDF

Info

Publication number
JP5919647B2
JP5919647B2 JP2011106394A JP2011106394A JP5919647B2 JP 5919647 B2 JP5919647 B2 JP 5919647B2 JP 2011106394 A JP2011106394 A JP 2011106394A JP 2011106394 A JP2011106394 A JP 2011106394A JP 5919647 B2 JP5919647 B2 JP 5919647B2
Authority
JP
Japan
Prior art keywords
wind noise
input sound
frequency band
probability
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011106394A
Other languages
English (en)
Other versions
JP2012239017A (ja
Inventor
睦巳 齋藤
睦巳 齋藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2011106394A priority Critical patent/JP5919647B2/ja
Priority to US13/458,313 priority patent/US9124962B2/en
Priority to KR1020120047382A priority patent/KR101354308B1/ko
Priority to CN201210150149.9A priority patent/CN102780948B/zh
Publication of JP2012239017A publication Critical patent/JP2012239017A/ja
Application granted granted Critical
Publication of JP5919647B2 publication Critical patent/JP5919647B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/04Circuits for transducers, loudspeakers or microphones for correcting frequency response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2410/00Microphones
    • H04R2410/07Mechanical or electrical reduction of wind noise generated by wind passing a microphone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups
    • H04R2430/03Synergistic effects of band splitting and sub-band processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Circuit For Audible Band Transducer (AREA)
  • Soundproofing, Sound Blocking, And Sound Damping (AREA)

Description

本発明は、風雑音抑圧装置、半導体集積回路及び風雑音抑圧方法に関する。
近年のデジタルカメラでは、動画撮影も可能となっているが、高画質化が実現される一方で、動画撮影時の音声には風雑音が混入しやすい。外部マイクを搭載できるビデオカメラなどでは、風防用のスポンジなどを取り付けることができるが、多くのデジタルカメラは内部マイクで音声を録音している。そのため、従来、信号処理により風雑音を抑圧する手法が用いられている。
風雑音は、低い周波数帯域に集中する傾向があるので、その領域をハイパスフィルタにより抑圧する手法が知られている。
また、入力信号を帯域分割し、それらの帯域間の相互相関から風雑音を検出する手法が知られている。この手法では、風雑音が支配的な低い周波数帯域側の入力信号を、高い周波数帯域側のものよりも大きく低減することで、高い周波数帯域側に多く混入している音声信号が損なわれないようにしていた。
また、2つのマイクで収録された2チャンネルの信号において、風雑音がチャンネル間で相互相関がないことを利用して、2チャンネルの信号の差分や相関値から風雑音成分を検出する手法があった。
特開2001−352594号公報 特許第3186892号公報 特開2009−55583号公報
風雑音が含まれる低い周波数帯域側にも、雑音ではない音声信号が含まれることがあるため、音声の自然さを損なうことなく風雑音を抑圧することは困難であった。
発明の一観点によれば、入力音に対して、風雑音が含まれる可能性のある第1の周波数帯域と、前記第1の周波数帯域よりも周波数が高い第2の周波数帯域とを分割する分割部と、前記第1の周波数帯域の入力音の特徴パラメータから、前記入力音が風雑音である確率を算出する算出部と、算出された前記確率に応じた強度で、前記第1の周波数帯域の入力音に含まれる風雑音を抑圧する抑圧部と、前記分割部にて分割された前記第2の周波数帯域の入力音と、前記抑圧部にて風雑音が抑圧された前記第1の周波数帯域の入力音とを合成して出力する加算部と、を備えた風雑音抑圧装置が提供される。
開示の風雑音抑圧装置、半導体集積回路及び風雑音抑圧方法によれば、より自然な音声が得られるように風雑音を抑圧できる。
第1の実施の形態の風雑音抑圧装置の一例を示す図である。 分割部が有するフィルタの例を示す図である。 算出部の例を示す図である。 算出部への入力音、入力音の強度、強度変動量、強度変動の周期及び1次の自己相関係数の例を示す図である。 抑圧部の一例を示す図である。 ハイパスフィルタの一例を示す図である。 第1の実施の形態の風雑音抑圧装置による風雑音抑圧処理の流れを示すフローチャートである。 第2の実施の形態の風雑音抑圧装置の一例を示す図である。 減衰量の算出例を示す図である。 非線形振幅圧縮処理前と処理後の信号波形の例を示す図である。 第2の実施の形態の風雑音抑圧装置による風雑音抑圧処理の流れを示すフローチャートである。 第3の実施の形態の風雑音抑圧装置の一例を示す図である。 補償部での処理の一例の様子を示す図である。 第3の実施の形態の風雑音抑圧装置による風雑音抑圧処理の流れを示すフローチャートである。 補償処理前後の信号の周波数成分の様子を示す図である。 第4の実施の形態の風雑音抑圧装置の一例を示す図である。 補償量調整の一例を示す図である。 第5の実施の形態の風雑音抑圧装置の一例を示す図である。 動画像処理用の半導体集積回路の一例を示す図である。
以下、本発明の実施の形態を、図面を参照しつつ説明する。
(第1の実施の形態)
図1は、第1の実施の形態の風雑音抑圧装置の一例を示す図である。
風雑音抑圧装置1は、たとえば、動画像処理用のLSI(Large Scale Integrated circuit)に搭載されるものであり、分割部2、算出部3、抑圧部4、加算部5を有している。
分割部2は、マイクMCで収音され、A/D(Analog/Digital)変換部7でデジタル信号に変換されたモノラルの入力音に対して、風雑音が含まれる可能性のある周波数帯域と、その周波数帯域よりも周波数が高い周波数帯域とを分割する。以下の説明では、分割部2によって分割された低い側の周波数帯域を低域、高い側の周波数帯域を高域という。
風雑音は、500Hz以下の周波数帯域(特に200〜300Hzを中心とする帯域)に集中する傾向がある。そのため、分割部2は、たとえば、1000Hz程度を目安として、風雑音が含まれる可能性のある低域と、風雑音が含まれる可能性が少ない高域とを分割する。
算出部3は、低域の入力音の特徴パラメータから、入力音が風雑音である確率(以下風雑音確率という)を算出する。特徴パラメータとしては、入力音の大きさ(以下強度という場合もある)の変動量、入力音の大きさの変動周期(変動速さ)、1次の自己相関係数などがある。風雑音確率の求め方については後述する。
抑圧部4は、算出部3で算出された風雑音確率に応じた強度で、低域の入力音の大きさを抑圧する。
加算部5は、抑圧された低域の入力音と、分割部2で分割された高域の入力音とを合成し、出力する。
このような風雑音抑圧装置1によれば、低域の入力音の特徴パラメータから、入力音が風雑音である確率が算出され、風雑音確率に応じた強度で、低域に含まれる風雑音が抑制される。たとえば、風雑音確率が大きい入力音に対しては、大きく抑制が行われ、風雑音確率が小さい入力音に対しては、小さく抑制が行われる。これにより、低域に存在する音声信号が、風雑音と同様に大きく抑制されてしまうことを防止することができ、より自然で、品質のよい音声信号になるように風雑音を抑圧できる。
以下、風雑音抑圧装置1の各部の例をより詳細に説明する。
図2は、分割部が有するフィルタの例を示す図である。横軸は周波数であり、縦軸は強度である。
分割部2は、図2に示すような周波数特性を示す、ローパスフィルタと、ハイパスフィルタを有する。ローパスフィルタとハイパスフィルタの特性の交点の周波数は、たとえば、1000Hz程度である。ローパスフィルタの出力は、算出部3及び抑圧部4に入力され、ハイパスフィルタの出力は加算部5に入力される。
なお、図2に示す例では、ローパスフィルタとハイパスフィルタの周波数特性は重なっているので、分割される低域と高域とは重なりがあるが、各フィルタを調整して重複なく分割するようにしてもよい。
図3は、算出部の例を示す図である。
算出部3は、強度算出部31、強度変動量算出部32、強度変動周期算出部33、自己相関係数算出部34、確率算出部35を有している。
図4は、算出部への入力音、入力音の強度、強度変動量、強度変動の周期及び1次の自己相関係数の例を示す図である。
図4の各グラフにおいて、横軸は時間を示している。縦軸は、入力音のグラフでは振幅を示し、入力音の強度のグラフでは強度[dB]、強度変動量のグラフでは強度変動量[dB]、強度変動の周期のグラフでは変動周期、1次の自己相関係数のグラフでは相関値を示している。また、点線間の時間は、処理が行われる単位となる時間フレーム(以下単にフレームという)を示している。
強度算出部31は、フレーム単位で、入力音の振幅の2乗平均をもとに、低域の入力音の強度を算出する。あるフレームの入力音をx(i)(0≦i<T)(Tはフレーム周期)とすると、そのフレームの強度fp(dB)は、たとえば、以下の式(1)で算出される。
Figure 0005919647
これにより、図4の上から2段目に示されているような入力音の強度が得られる。
強度変動量算出部32は、あるフレームの入力音の強度と、前フレームの入力音の強度との差分を、強度変動量として算出する。強度変動量dfpは、あるフレーム番号tのフレームの入力音の強度をfp(t)、前フレームの入力音の強度をfp(t−1)とすると、以下の式(2)で算出される。
Figure 0005919647
これにより、図4の上から3段目に示されているような強度変動量が得られる。
強度変動周期算出部33は、強度変動の周期を算出する。強度変動の周期として、たとえば、フレームの強度の自己相関係数が最大となる周期が用いられる。あるフレーム番号tのフレームの強度をfp(t)とすると、強度変動の周期pfpは、たとえば、以下の式(3),(4)で算出される。
Figure 0005919647
Figure 0005919647
式(3)のautocorr(τ)は、τフレームシフトさせた強度変動との自己相関を示す係数である。Kは、強度変動の周期を求める区間のフレーム数である。また、式(4)のargmax(autocorr(τ))は、autocorr(τ)が最大となるτを求める関数である。
このような式(3),(4)により、図4の下から2段目に示されているような強度変動の周期が得られる。
自己相関係数算出部34は、低域の入力音の周波数スペクトルの概形(傾き)を示す1次の自己相関係数を算出する。あるフレームの入力音をx(i)(0≦i<T)(Tはフレーム周期)とすると、1次の自己相関係数ac1は、たとえば、以下の式(5)で算出される。
Figure 0005919647
これにより、図4の最下段に示されているような1次の自己相関係数(相関値)が得られる。
確率算出部35は、算出された強度変動量、強度変動の周期、1次の自己相関係数から、それぞれ風雑音である確率を求めて、統合する。
以下では強度変動量、強度変動の周期、1次の自己相関係数、それぞれによる風雑音確率の算出方法の例を説明する。なお、以下の説明では、確率算出部35は、風雑音確率を0から1.0までの確率値で求めるものとする。
(強度変動量による風雑音確率算出方法)
風雑音は強度変動量が非常に大きいという特徴を持つため、確率算出部35は、強度変動量がある程度以上の場合に、風雑音確率の確率値が0を超え、さらにある程度の値を超えた場合は、確実に風雑音であると判定して確率値1.0を算出する。
風雑音確率を0より大きいと判定する強度変動量dfpの閾値をThdfp1、確実に風雑音であると判定する強度変動量dfpの閾値をThdfp2とすると、強度変動量による風雑音確率の確率値p1は、たとえば、以下の式(6)で求められる。
Figure 0005919647
(強度変動の周期による風雑音確率算出方法)
風雑音は特定の変動周期(変動の速さ)を持つ。そこで、確率算出部35は、算出された強度変動の周期と、風雑音の変動周期の代表値との差分から風雑音確率の確率値を求める。
風雑音の変動周期の代表値をTW、風雑音確率を0より大きいと判定する上記差分値の閾値をThTWとすると、強度変動の周期pfpによる風雑音確率の確率値p2は、たとえば、以下の式(7)で求められる。
Figure 0005919647
(1次の自己相関係数による風雑音確率算出方法)
風雑音は非常に低い周波数成分を持つため、風雑音区間では、1次の自己相関係数が大きな値となる。1次の自己相関係数は、高域と比較した低域の大きさを表す値と見なすことができる。
風雑音確率を0より大きいと判定する1次の自己相関係数の閾値をThac1とすると、1次の自己相関係数ac1による風雑音確率の確率値p3は、たとえば、以下の式(8)で求められる。
Figure 0005919647
(統合方法)
確率算出部35は、上記の式(6)〜(8)で算出した確率値p1,p2,p3に対してそれぞれ重み値wp1,wp2,wp3を付加して、これらを以下の式(9)のように統合し、最終的な風雑音確率の確率値pを出力する。なお、0≦wp1≦1.0,0≦wp2≦1.0,0≦wp3≦1.0とする。
Figure 0005919647
なお、確率値p1〜p3の全てを用いずに、1つまたは2つの値から風雑音確率の確率値pを算出するようにしてもよい。
次に、図1に示した抑圧部4の例を示す。
図5は、抑圧部の一例を示す図である。
抑圧部4は、ハイパスフィルタ41、可変利得アンプ42,43、加算部44を有している。
ハイパスフィルタ41は、分割部2で分割された低域の入力音に対して、たとえば、風雑音が含まれる可能性の高い周波数帯域を抑圧する。
図6は、ハイパスフィルタの一例を示す図である。横軸は周波数であり、縦軸は強度である。
ハイパスフィルタ41は、風雑音が発生している場合、風雑音が含まれる可能性の高い、たとえば、500Hz程度以下の周波数帯域の信号を抑圧するような周波数特性を有する。
図5に示した可変利得アンプ42には、ハイパスフィルタ41の出力が入力され、確率算出部35で算出された風雑音確率の確率値pに基づいた増幅が行われる。可変利得アンプ43には、分割部2で分割された低域の入力音(抑圧部4への入力信号)が入力され、1から確率値pを減じた値に基づいた増幅が行われる。
ある時刻の抑圧部4の入力信号をx、風雑音確率の確率値をp(0≦p≦1.0)、ハイパスフィルタ41の出力をXhpとすると、抑圧部4の出力信号yは以下の式(10)のように表される。
Figure 0005919647
これにより、確率算出部35で算出された風雑音確率の確率値に応じた強度で、低域の入力音の大きさが抑圧される。
以下、第1の実施の形態の風雑音抑圧装置の動作をまとめる。
図7は、第1の実施の形態の風雑音抑圧装置による風雑音抑圧処理の流れを示すフローチャートである。
ステップS1:分割部2は、マイクMCで収音され、A/D変換部7でデジタル信号に変換された入力音に対して、風雑音が含まれる可能性のある低域と、高域とを分割する。
ステップS2:算出部3は、分割された低域の入力音の特徴パラメータから、たとえば、式(1)〜(9)で示したようにして、風雑音確率を算出する。
ステップS3:抑圧部4は、算出部3で算出された風雑音確率に応じた強度で、低域に含まれる風雑音を抑圧する。たとえば、前述したように、算出部3の確率算出部35で算出された風雑音確率の確率値pに基づいて、式(10)に示したように低域に含まれる風雑音を抑圧する。
ステップS4:加算部5は、抑圧部4により風雑音が抑圧された低域の入力音と、分割部2で分割された高域の入力音とを合成し、出力する。
上記のような風雑音抑圧処理によれば、低域の入力音の特徴パラメータから、入力音が風雑音である確率が算出され、その確率に応じた強度で、低域に含まれる風雑音が抑制される。これにより、低域に存在する音声信号が、風雑音と同様に大きく抑制されてしまうことを防止することができ、より自然で、品質のよい音声信号になるように風雑音を抑圧できる。
また、入力音の複数の特徴パラメータをもとに風雑音確率を算出することで、精度よく風雑音確率を求めることが可能になり、その風雑音確率を用いて低域の入力音の大きさを抑圧することで、さらにより自然で、品質のよい音声信号が得られる。
(第2の実施の形態)
図8は、第2の実施の形態の風雑音抑圧装置の一例を示す図である。
図1に示した風雑音抑圧装置1と同様の要素については同一符号を付し、説明を省略する。
第2の実施の形態の風雑音抑圧装置1aは、前述した抑圧部4とは別の抑圧部6を更に有している。抑圧部6は、ある閾値以上の強度をもつ入力信号(分割部2からの低域の入力音)を圧縮(減衰)し、強度の小さな入力信号についてはそのままにする、という非線形振幅圧縮処理を行う。抑圧部6は、強度算出部61、減衰量算出部62、可変利得アンプ63、乗算部64を有している。
強度算出部61は、入力信号の振幅の2乗平均をもとに、入力信号の強度を算出する。強度は、たとえば、前述の式(1)により算出される。
減衰量算出部62は、入力信号の強度に応じた減衰量を算出する。
可変利得アンプ63は、減衰量算出部62で算出された減衰量を、算出部3で算出された風雑音確率の確率値p(0≦p≦1)に基づいて増幅する。
乗算部64は、入力信号に対して、可変利得アンプ63で調整された減衰量を乗じ、その結果を抑圧部4に出力する。
図9は、減衰量の算出例を示す図である。横軸は抑圧部6の入力信号の強度[dB]であり、縦軸は風雑音確率の確率値p=1の場合の、抑圧部6の出力信号の強度[dB]であり、図示していないが各軸の値は対数となっている。
減衰量算出部62は、入力信号の強度を検出し、強度が閾値Th Lin より小さい場合には、減衰量a=0とする。このとき出力信号の強度=入力信号の強度となる。
入力信号の強度が閾値Th Lin 以上の場合、減衰量算出部62は、所定の傾きを設定し、入力信号の強度に基づいた減衰量aを算出する。入力信号の強度をLin、出力信号の強度をLout、傾きをdとした場合、減衰量aは、たとえば、以下の式(11)で算出される。
Figure 0005919647
つまり、入力信号の強度が閾値ThLin以上の場合には、出力信号の強度≦入力信号の強度となり、入力信号の強度が大きくなるほど、減衰量aが大きくなる。
図9に示すような入力信号及び出力信号の強度に応じて求まる減衰量aは、線形の値に変換され、可変利得アンプ63に入力される。
ある時刻における抑圧部6への入力信号をx、減衰量算出部62が算出した減衰量をa(0≦a≦1.0)、風雑音確率の確率値をp(0≦p≦1.0)とした場合、出力信号yは、以下の式(12)で算出される。
Figure 0005919647
図10は、非線形振幅圧縮処理前と処理後の信号波形の例を示す図である。横軸は時間、縦軸は振幅である。
図10の上側の図が、抑圧部6の入力信号である非線形振幅圧縮処理前の信号波形を示し、下側の図が、抑圧部6の出力信号である非線形振幅圧縮処理後の信号波形を示している。
非線形振幅圧縮処理前の信号波形において、点線で示されている閾値以上の信号が、上記の処理により振幅が圧縮(減衰)され、図10の下側に示すような信号波形が得られる。
抑圧部6で処理された入力音は、さらに、抑圧部4に入力され、第1の実施の形態の風雑音抑圧装置1と同様の処理が行われる。
図11は、第2の実施の形態の風雑音抑圧装置による風雑音抑圧処理の流れを示すフローチャートである。
ステップS10,S11の処理は、図7に示したステップS1,S2の処理と同じである。
ステップS12:抑圧部6は、分割部2で分割された低域の入力音に対して、上記の非線形振幅圧縮処理を行う。すなわち、所定の大きさ以上の入力音に対して、減衰量と風雑音確率とに応じた強度で、入力音の大きさを抑圧する。
ステップS13:抑圧部4は、算出部3で算出された風雑音確率に応じた強度で、抑圧部6の出力信号の大きさを抑圧する。たとえば、前述したように、算出部3の確率算出部35で算出された風雑音確率の確率値pに基づいて、式(10)に示したようにして抑圧部6の出力信号の大きさを抑圧する。
ステップS14:加算部5は、抑圧部4の出力信号(抑圧された低域の入力音)と、分割部2で分割された高域の入力音とを合成し、出力する。
第2の実施の形態の風雑音抑圧装置1aによれば、前述の第1の実施の形態の風雑音抑圧装置1と同様の効果を有するとともに、以下のような効果もある。
風雑音区間は大きく振幅が変動しているため、抑圧部6にて上記のような非線形振幅圧縮処理を行うことで、より効率的に風雑音を抑圧できる。また、抑圧する強度を、風雑音確率に応じて変更することで、より自然で、品質のよい音声信号になるように風雑音を抑圧できる。
なお、抑圧部6と抑圧部4の位置を入れ替えて、抑圧部4で抑圧された入力音に対して、抑圧部6が、上記の非線形振幅圧縮処理を行うようにしてもよい。
(第3の実施の形態)
図12は、第3の実施の形態の風雑音抑圧装置の一例を示す図である。
図1に示した風雑音抑圧装置1と同様の要素については同一符号を付し、説明を省略する。
第3の実施の形態の風雑音抑圧装置1bは、補償部8を更に有している。補償部8は、抑圧部4で風雑音が抑圧された低域の入力音から、低域のうちの低周波数成分(抑圧部4のハイパスフィルタ41により抑制または除去された周波数帯域)の信号を疑似的に生成する。そして、補償部8は、風雑音確率に応じた強度で、抑圧部4で風雑音が抑圧された低域の入力音に、その低周波数成分の信号を加えることで、補償を行う。
補償部8は、絶対値処理部81、バンドパスフィルタ82、可変利得アンプ83、加算部84を有している。
絶対値処理部81は、抑圧部4で風雑音が抑圧された低域の入力音の時間波形を、絶対値の波形に変換して出力する。
バンドパスフィルタ82は、ハイパスフィルタとローパスフィルタの機能を有しており、絶対値処理部81の出力信号から、ハイパスフィルタにより直流成分を除去し、ローパスフィルタにより、出力信号の周波数帯域のうち、低周波数成分を通過させる。ローパスフィルタの周波数特性は、抑圧部4のハイパスフィルタ41の周波数特性に応じて設定されている。たとえば、抑圧部4のハイパスフィルタ41が、300〜500Hz程度以下の周波数帯域の信号を抑圧または除去する周波数特性をもつ場合、ローパスフィルタでは、その周波数帯域の信号を通過させるように周波数特性が設定される。
可変利得アンプ83は、バンドパスフィルタ82の出力信号を、算出部3で算出された風雑音確率の確率値p(0≦p≦1)に基づいて増幅する。たとえば、可変利得アンプ83は、バンドパスフィルタ82の出力信号に対して、確率値pを乗じた信号を出力する。
加算部84は、補償部8の入力信号に、可変利得アンプ83の出力信号を加算する。
図13は、補償部での処理の一例の様子を示す図である。
図13の左側のグラフは、上から補償部8の入力信号(すなわち抑圧部4で抑圧された低域の入力音)の時間波形、絶対値処理後の時間波形、バンドパスフィルタ処理後の時間波形を示しており、横軸は時間、縦軸は振幅を示している。各時間波形の右側には、それぞれの周波数成分の例が示されている。周波数成分のグラフにおいて、横軸は周波数、縦軸は強度を示している。
補償部8の入力信号は、抑圧部4における処理により、低周波数成分が抑圧または除去されている。絶対値処理部81が、このような入力信号の時間波形を、たとえば、図13の中段左図の絶対値の波形にすることで、中段右図のように、元の周波数成分の2倍の周波数成分とともに、元の周波数成分の1/2の周波数成分が現れる。
さらに、バンドパスフィルタ82により、絶対値処理部81の出力信号から直流成分を除去し、元の周波数成分の1/2の周波数成分を残し高い方の周波数成分を除去することで、図13下段左図のような時間波形と、下段右図のような周波数成分が生成される。
図13下段右図のような低周波数成分を有するバンドパスフィルタ82の出力信号に対して、可変利得アンプ83にて、確率値pが乗じられた信号が出力されると、その信号は加算部84にて、補償部8の入力信号に加算される。
図14は、第3の実施の形態の風雑音抑圧装置による風雑音抑圧処理の流れを示すフローチャートである。
ステップS20〜S22の処理は、図7に示したステップS1〜S3の処理と同じである。
ステップS23:補償部8は、抑圧部4で風雑音が抑圧された低域の入力音に対して、上記の補償処理を行う。すなわち、補償部8は、補償部8の入力信号から低周波数成分の信号を疑似的に生成して、風雑音確率に応じた大きさで、入力信号に加算する。
ステップS24:加算部5は、補償部8の出力信号と、分割部2で分割された高域の入力音とを合成し、出力する。
第3の実施の形態の風雑音抑圧装置1bによれば、前述の第1の実施の形態の風雑音抑圧装置1と同様の効果を有するとともに、以下のような効果もある。
図15は、補償処理前後の信号の周波数成分の様子を示す図である。
図15上図のように、補償処理前では、抑圧部4により低い周波数成分(点線で図示)が、除去されていた場合であっても、上記の補償処理を行うことによって、図15下図のように低い周波数成分が生成され、周波数成分が拡張される。これにより、風雑音抑圧後の音声をより自然な音にすることができる。
また、抑圧部4では風雑音確率の確率値pに応じて低域の入力音が抑圧されているので、可変利得アンプ83では、同様の確率値pを用いることで、低域の入力音の抑圧分に応じた補償ができる。これにより、風雑音抑圧後の音声をさらに自然な音にすることができる。
なお、風雑音抑圧装置1bにおいて、図8に示したような抑圧部6を設けてもよい。これによって、より自然で品質のよい音声信号になるように風雑音を抑圧できるようになる。
(第4の実施の形態)
図16は、第4の実施の形態の風雑音抑圧装置の一例を示す図である。
図12に示した風雑音抑圧装置1bと同様の要素については同一符号を付し、説明を省略する。
第4の実施の形態の風雑音抑圧装置1cは、前述した補償部8での処理によって、加算される低周波数成分の信号が小さすぎたり、大きすぎたりすることを抑制する機能を有する。風雑音抑圧装置1cは、第3の実施の形態の風雑音抑圧装置1bの各要素の他に、強度算出部9,10、強度情報記憶部11、調整部12を更に有している。
強度算出部9は、補償部8の出力信号の強度を算出する。強度は、補償部8の出力信号の振幅の2乗平均により算出される。
強度算出部10は、たとえば、式(1)により、分割部2で分割された低域の入力音の強度を算出する。
強度情報記憶部11は、強度算出部10で算出されたフレームごとの低域の入力音の強度の値を記憶する。
調整部12は、算出部3で算出される風雑音確率を、強度算出部9で算出された補償部8の出力信号の強度と、強度情報記憶部11に格納されている低域の入力音の強度に応じて調整することで、補償部8での補償量を調整する。
補償量の調整にあたって、調整部12は、たとえば、まず、強度情報記憶部11に格納されている過去の強度の値を、複数フレームに渡って平均化し、過去の平均強度を求める。各フレームの強度をfp(t)、平均化を行うフレーム数をTBとすると、過去TBフレームの平均強度fpaveは、たとえば、以下の式(13)で求められる。
Figure 0005919647
調整部12は、算出した平均強度と、補償部8の出力信号の強度とを比較して、両者の差分が大きい場合(差分が閾値を超えた場合)に、風雑音確率を調整する。補償部8の出力信号の強度をfex、閾値をThex、風雑音確率の確率値をpとした場合、たとえば、以下の式(14)のように確率値pが調整される。
Figure 0005919647
確率値pが調整されることによって、図12に示した補償部8の可変利得アンプ83での増幅率が変化して、抑圧部4の出力信号に加算される前述の低い周波数帯域の信号の大きさが変化し、補償部8の出力信号の強度が、平均強度fpaveに近づく側に変化する。
図17は、補償量調整の一例を示す図である。上から、分割部2で分割された低域の入力音の時間波形、抑圧部4の出力信号及び補償部8からの出力信号の様子が示されている。
強度算出部10は、分割部2で分割された低域の入力音において、たとえば、風雑音が発生していない区間の複数フレームにおける強度を算出し、強度情報記憶部11は、その区間の各フレームにおける強度値を記憶する。
図17の中段の波形のように、風雑音が発生している区間において、抑圧部4により強度を低下させすぎた場合、補償部8により低い周波数帯域の信号の加算を行うことで、図17の下段の実線の波形のように、強度を引き上げることができる。ただし、図17の下段の例では、風雑音が発生していない区間の強度と比べて、風雑音区間の強度は引き上げられすぎている。このときの強度が強度値記憶区間の強度の平均値と閾値との加算値よりも大きい場合、上記の調整部12による調整によって、強度が、たとえば、図17の下段の点線のレベルまで引き下げられる。これによって、風雑音区間の強度を、強度値記憶区間の強度の平均値に近づけることができ、補償部8での補償量の不足または過剰による不自然さを抑え、より自然な音声を得ることができる。
なお、風雑音抑圧装置1cにおいて、図8に示したような抑圧部6を設けてもよい。これによって、より自然で品質のよい音声信号になるように風雑音を抑圧できるようになる。
(第5の実施の形態)
図18は、第5の実施の形態の風雑音抑圧装置の一例を示す図である。
風雑音抑圧装置1dは、ステレオ2チャンネルの入力音の風雑音を抑圧するものであり、チャンネルごとに、マイクMCa,MCb、A/D変換部7a,7b、分割部2a,2b、抑圧部4a,4b、加算部5a,5bを有している。また、風雑音抑圧装置1dは、分割部2a,2bで分割された2チャンネルの低域の入力音の差分信号を生成する加算部14と、差分信号をもとに、風雑音確率を算出する算出部13を有している。
分割部2a,2bは、前述した分割部2と同様に、A/D変換後の入力音に対して、たとえば、1000Hz程度を目安として、風雑音が含まれる可能性がある低域と、風雑音が含まれる可能性が少ない高域とを分割する。
加算部14は、各チャンネルで分割された低域の入力音の差分信号を生成する。なお、図18の例では、加算部14は、分割部2bで分割された低域の入力音を負信号として、分割部2aで分割された低域の入力音と加算することで差分信号を生成する。
算出部13は、差分信号の特徴パラメータから、たとえば、前述と同様の手法により風雑音確率の確率値pを算出する。
抑圧部4a,4bは、算出された確率値pに応じた強度で、各チャンネルの低域の入力音の大きさを抑圧する。
加算部5a,5bは、抑圧された低域の入力音と、分割部2a,2bで分割された高域の入力音とを合成し、出力する。
風雑音は、音声信号とは異なりチャンネル間での相関性が低いので、差分信号を生成することで、風雑音成分を際立たせることができる。これにより、算出部13で算出される風雑音確率は、より精度のよいものとなり、この風雑音確率に応じた強度で、低域の入力音の大きさが抑制されるので、より自然で、品質のよい音声信号になるように風雑音を抑圧できる。
なお、チャンネル数は、3チャンネル以上としてもよい。その場合、算出部13は、複数チャンネルのうち、何れか2つのチャンネルの低域の入力音の差分信号の特徴パラメータから風雑音確率の確率値pを算出し、チャンネルごとに設けられた抑圧部に、確率値pを供給するようにすればよい。
また、風雑音抑圧装置1dにおいて、図8に示したような抑圧部6を、それぞれのチャンネルごとに設けてもよい。
また、風雑音抑圧装置1dにおいて、第3及び第4の実施の形態の風雑音抑圧装置1b,1cの補償部8、調整部12,強度算出部9,10、強度情報記憶部11を、それぞれのチャンネルごとに設けてもよい。
以上説明した第1乃至第5の実施の形態の風雑音抑圧装置1,1a,1b,1c,1dは、たとえば、以下のような動画像処理用の半導体集積回路に搭載される。
図19は、動画像処理用の半導体集積回路の一例を示す図である。
半導体集積回路100は、音声を処理する音声処理部110と、画像データを処理する画像処理部120を有している。
音声処理部110は、風雑音抑圧部111と、音声符号化部112とを有している。
風雑音抑圧部111は、前述した第1乃至第5の実施の形態の風雑音抑圧装置1,1a,1b,1c,1dの何れかの各要素を有しており、図示しないマイクで収音され、A/D変換された入力音を入力し、風雑音を抑圧する。風雑音が抑圧された入力音は、音声符号化部112に入力され、符号化処理が行われる。
このような半導体集積回路100によれば、前述の風雑音抑圧装置1,1a,1b,1c,1dの何れかの機能を有した風雑音抑圧部111を用いることによって、風雑音を抑圧しても、より自然で、品質のよい音声信号が得られる。
以上、実施の形態に基づき、本発明の風雑音抑圧装置、半導体集積回路及び風雑音抑圧方法の一観点について説明してきたが、これらは一例にすぎず、上記の記載に限定されるものではない。
1 風雑音抑圧装置
2 分割部
3 算出部
4 抑圧部
5 加算部
7 A/D変換部
MC マイク

Claims (9)

  1. 入力音に対して、風雑音が含まれる可能性のある第1の周波数帯域と、前記第1の周波数帯域よりも周波数が高い第2の周波数帯域とを分割する分割部と、
    前記第1の周波数帯域の入力音の、大きさの変動量、変動周期または、1次の自己相関係数のうち、少なくとも1つである特徴パラメータから、前記入力音が風雑音である確率を算出する算出部と、
    算出された前記確率に応じた強度で、前記第1の周波数帯域の入力音に含まれる風雑音を抑圧した第1の入力音を生成する抑圧部と、
    前記分割部にて分割された前記第2の周波数帯域の入力音と、前記第1の入力音とを合成して出力する加算部と、
    を有することを特徴とする風雑音抑圧装置。
  2. 前記抑圧部は、前記第1の周波数帯域のうち、風雑音が含まれる可能性が他の周波数帯域に比べて高い第3の周波数帯域の信号の大きさを、前記確率に応じた強度で抑圧した第1の信号を生成し
    前記第1の入力音を用いて前記第1の信号から風雑音を除去した第2の信号を推定して生成し、前記第1の入力音に、前記確率に応じた強度で、前記第2の信号を加える補償部を、さらに有することを特徴とする請求項1に記載の風雑音抑圧装置。
  3. 前記第1の周波数帯域の入力音の大きさの平均値と、前記補償部の出力信号の大きさに応じて前記確率を調整し、調整した前記確率を前記補償部に供給する調整部を有することを特徴とする請求項2に記載の風雑音抑圧装置。
  4. 前記第1の周波数帯域の入力音の大きさが所定の大きさ以上の場合に、前記第1の周波数帯域の入力音の大きさに応じた減衰量と前記確率とに応じた強度で、前記第1の周波数帯域の入力音の大きさを抑圧する他の抑圧部を更に有することを特徴とする請求項1乃至3の何れか一項に記載の風雑音抑圧装置。
  5. 前記算出部は、複数の特徴パラメータをもとに、前記確率を算出することを特徴とする請求項1乃至4の何れか一項に記載の風雑音抑圧装置。
  6. 入力音に対して、風雑音が含まれる可能性のある第1の周波数帯域と、前記第1の周波数帯域よりも周波数が高い第2の周波数帯域とを分割し、前記第1の周波数帯域の入力音の、大きさの変動量、変動周期または、1次の自己相関係数のうち、少なくとも1つである特徴パラメータから、前記入力音が風雑音である確率を算出し、算出された前記確率に応じた強度で、前記第1の周波数帯域の入力音に含まれる風雑音を抑圧した第1の入力音を生成し、前記第2の周波数帯域の入力音と、前記第1の入力音とを合成して出力する風雑音抑圧部、
    を有することを特徴とする半導体集積回路。
  7. 入力音に対して、風雑音が含まれる可能性のある第1の周波数帯域と、前記第1の周波数帯域よりも周波数が高い第2の周波数帯域とを分割し、
    前記第1の周波数帯域の入力音の、大きさの変動量、変動周期または、1次の自己相関係数のうち、少なくとも1つである特徴パラメータから、前記入力音が風雑音である確率を算出し、
    算出された前記確率に応じた強度で、前記第1の周波数帯域の入力音に含まれる風雑音を抑圧した第1の入力音を生成し、
    前記第2の周波数帯域の入力音と、前記第1の入力音とを合成して出力することを特徴とする風雑音抑圧方法。
  8. 前記風雑音抑圧部は、前記第1の周波数帯域のうち、風雑音が含まれる可能性が他の周波数帯域に比べて高い第3の周波数帯域の信号の大きさを、前記確率に応じた強度で抑圧した第1の信号を生成し、前記第1の入力音を用いて、前記第1の信号から風雑音を除去した第2の信号を推定して生成し、前記第1の入力音に、前記確率に応じた強度で、前記第2の信号を加えることを特徴とする請求項6に記載の半導体集積回路。
  9. 前記第1の周波数帯域のうち、風雑音が含まれる可能性が他の周波数帯域に比べて高い第3の周波数帯域の信号の大きさを、前記確率に応じた強度で抑圧した第1の信号を生成し、前記第1の入力音を用いて、前記第1の信号から風雑音を除去した第2の信号を推定して生成し、前記第1の入力音に、前記確率に応じた強度で、前記第2の信号を加えることを特徴とする請求項7に記載の風雑音抑圧方法。
JP2011106394A 2011-05-11 2011-05-11 風雑音抑圧装置、半導体集積回路及び風雑音抑圧方法 Expired - Fee Related JP5919647B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2011106394A JP5919647B2 (ja) 2011-05-11 2011-05-11 風雑音抑圧装置、半導体集積回路及び風雑音抑圧方法
US13/458,313 US9124962B2 (en) 2011-05-11 2012-04-27 Wind noise suppressor, semiconductor integrated circuit, and wind noise suppression method
KR1020120047382A KR101354308B1 (ko) 2011-05-11 2012-05-04 풍잡음 억압 장치, 반도체 집적 회로 및 풍잡음 억압 방법
CN201210150149.9A CN102780948B (zh) 2011-05-11 2012-05-09 风噪声抑制器、半导体集成电路和风噪声抑制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011106394A JP5919647B2 (ja) 2011-05-11 2011-05-11 風雑音抑圧装置、半導体集積回路及び風雑音抑圧方法

Publications (2)

Publication Number Publication Date
JP2012239017A JP2012239017A (ja) 2012-12-06
JP5919647B2 true JP5919647B2 (ja) 2016-05-18

Family

ID=47125683

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011106394A Expired - Fee Related JP5919647B2 (ja) 2011-05-11 2011-05-11 風雑音抑圧装置、半導体集積回路及び風雑音抑圧方法

Country Status (4)

Country Link
US (1) US9124962B2 (ja)
JP (1) JP5919647B2 (ja)
KR (1) KR101354308B1 (ja)
CN (1) CN102780948B (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103780738B (zh) * 2012-10-17 2017-08-29 腾讯科技(深圳)有限公司 移动终端图像处理方法及移动终端
JP6544234B2 (ja) 2013-04-11 2019-07-17 日本電気株式会社 信号処理装置、信号処理方法および信号処理プログラム
CN104575515A (zh) * 2013-10-23 2015-04-29 中兴通讯股份有限公司 一种提高语音质量的方法及装置
US9721584B2 (en) * 2014-07-14 2017-08-01 Intel IP Corporation Wind noise reduction for audio reception
CN104539819A (zh) * 2014-12-26 2015-04-22 贵州万臻时代通讯技术有限公司 一种抑制移动通信终端风噪声的方法
EP3751451A1 (en) * 2015-08-28 2020-12-16 Sony Corporation Information processing apparatus, information processing method, and program
US9838737B2 (en) * 2016-05-05 2017-12-05 Google Inc. Filtering wind noises in video content
RU170068U1 (ru) * 2016-05-31 2017-04-12 Федеральное государственное бюджетное образовательное учреждение высшего образования "Рязанский государственный радиотехнический университет" Адаптивное устройство для подавления помех
US10483931B2 (en) * 2017-03-23 2019-11-19 Yamaha Corporation Audio device, speaker device, and audio signal processing method
CN110786022A (zh) * 2018-11-14 2020-02-11 深圳市大疆创新科技有限公司 基于多麦克风的风噪处理方法、装置、***及存储介质
EP3683794B1 (en) * 2019-01-15 2021-07-28 Nokia Technologies Oy Audio processing
US11197090B2 (en) * 2019-09-16 2021-12-07 Gopro, Inc. Dynamic wind noise compression tuning
CN112700787B (zh) * 2021-03-24 2021-06-25 深圳市中科蓝讯科技股份有限公司 一种降噪方法、非易失性可读存储介质及电子设备
CN112700789B (zh) * 2021-03-24 2021-06-25 深圳市中科蓝讯科技股份有限公司 一种噪声检测方法、非易失性可读存储介质及电子设备
CN113613112B (zh) 2021-09-23 2024-03-29 三星半导体(中国)研究开发有限公司 抑制麦克风的风噪的方法和电子装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2942034B2 (ja) * 1991-01-07 1999-08-30 キヤノン株式会社 音声処理装置
JP3155760B2 (ja) * 1991-01-07 2001-04-16 キヤノン株式会社 音声処理装置
JP3186892B2 (ja) 1993-03-16 2001-07-11 ソニー株式会社 風雑音低減装置
US5568559A (en) * 1993-12-17 1996-10-22 Canon Kabushiki Kaisha Sound processing apparatus
JPH10327494A (ja) * 1997-05-22 1998-12-08 Matsushita Electric Ind Co Ltd マイクロホン装置
JP2001352594A (ja) * 2000-06-07 2001-12-21 Sony Corp 風音低減方法及び装置
JP4196162B2 (ja) 2002-08-20 2008-12-17 ソニー株式会社 自動風音低減回路および自動風音低減方法
JP4767166B2 (ja) 2004-06-16 2011-09-07 パナソニック株式会社 ハウリング抑圧装置、プログラム、集積回路、およびハウリング抑圧方法
KR101118217B1 (ko) * 2005-04-19 2012-03-16 삼성전자주식회사 오디오 데이터 처리 장치 및 방법
ATE487337T1 (de) * 2005-08-02 2010-11-15 Gn Resound As Hörhilfegerät mit windgeräuschunterdrückung
KR100667852B1 (ko) 2006-01-13 2007-01-11 삼성전자주식회사 휴대용 레코더 기기의 잡음 제거 장치 및 그 방법
JP2008085556A (ja) * 2006-09-27 2008-04-10 Sanyo Electric Co Ltd 低音補正装置および録音装置
JP2008263483A (ja) * 2007-04-13 2008-10-30 Sanyo Electric Co Ltd 風雑音低減装置、音響信号録音装置及び撮像装置
US8428275B2 (en) * 2007-06-22 2013-04-23 Sanyo Electric Co., Ltd. Wind noise reduction device
JP5219499B2 (ja) * 2007-08-01 2013-06-26 三洋電機株式会社 風雑音低減装置
WO2009078105A1 (ja) 2007-12-19 2009-06-25 Fujitsu Limited 雑音抑圧装置、雑音抑圧制御装置、雑音抑圧方法及び雑音抑圧プログラム
US8391524B2 (en) 2009-06-02 2013-03-05 Panasonic Corporation Hearing aid, hearing aid system, walking detection method, and hearing aid method
US8983833B2 (en) * 2011-01-24 2015-03-17 Continental Automotive Systems, Inc. Method and apparatus for masking wind noise

Also Published As

Publication number Publication date
US20120288116A1 (en) 2012-11-15
JP2012239017A (ja) 2012-12-06
CN102780948A (zh) 2012-11-14
CN102780948B (zh) 2014-12-10
KR101354308B1 (ko) 2014-01-23
KR20120127234A (ko) 2012-11-21
US9124962B2 (en) 2015-09-01

Similar Documents

Publication Publication Date Title
JP5919647B2 (ja) 風雑音抑圧装置、半導体集積回路及び風雑音抑圧方法
JP4827675B2 (ja) 低周波帯域音声復元装置、音声信号処理装置および録音機器
JP3457293B2 (ja) 雑音抑圧装置及び雑音抑圧方法
US20190090061A1 (en) Subband Spatial and Crosstalk Cancellation for Audio Reproduction
EP1100077A2 (en) Noise suppression apparatus
CA3011628C (en) Subband spatial and crosstalk cancellation for audio reproduction
US9454956B2 (en) Sound processing device
CN106941006B (zh) 用于音频信号的分离和低音增强的方法、装置和***
JP2008263483A (ja) 風雑音低減装置、音響信号録音装置及び撮像装置
JP4493690B2 (ja) 目的音抽出装置,目的音抽出プログラム,目的音抽出方法
JP5998483B2 (ja) 音声信号処理装置、音声信号処理方法、プログラム及び記録媒体
CN114141268A (zh) 语音处理方法、***、存储介质及终端语音设备
JP2008129107A (ja) オートゲインコントロール装置、音声記録装置、映像・音声記録装置および通話装置
JP4568193B2 (ja) 収音装置とその方法とそのプログラムとその記録媒体
US20230360662A1 (en) Method and device for processing a binaural recording
CN109429167B (zh) 音频强化装置及方法
CN109791773B (zh) 音频输出产生***、音频通道输出方法和计算机可读介质
US10390168B2 (en) Audio enhancement device and method
JP2018066963A (ja) 音声処理装置
JP4209348B2 (ja) エコー抑圧方法、この方法を実施する装置、プログラムおよび記録媒体
JP2018010207A (ja) 音声信号処理装置及び音声信号処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141003

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141021

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150602

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160328

R150 Certificate of patent or registration of utility model

Ref document number: 5919647

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees