JP2008228155A - 音像定位処理装置、方法及びプログラム - Google Patents

音像定位処理装置、方法及びプログラム Download PDF

Info

Publication number
JP2008228155A
JP2008228155A JP2007066563A JP2007066563A JP2008228155A JP 2008228155 A JP2008228155 A JP 2008228155A JP 2007066563 A JP2007066563 A JP 2007066563A JP 2007066563 A JP2007066563 A JP 2007066563A JP 2008228155 A JP2008228155 A JP 2008228155A
Authority
JP
Japan
Prior art keywords
distance
head
related transfer
transfer function
sound
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007066563A
Other languages
English (en)
Other versions
JP5114981B2 (ja
Inventor
Hiromi Aoyanagi
弘美 青柳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2007066563A priority Critical patent/JP5114981B2/ja
Priority to US12/312,253 priority patent/US8204262B2/en
Priority to PCT/JP2008/052619 priority patent/WO2008111362A1/ja
Publication of JP2008228155A publication Critical patent/JP2008228155A/ja
Application granted granted Critical
Publication of JP5114981B2 publication Critical patent/JP5114981B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S1/00Two-channel systems
    • H04S1/002Non-adaptive circuits, e.g. manually adjustable or static, for enhancing the sound image or the spatial distribution
    • H04S1/005For headphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2420/00Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/01Enhancing the perception of the sound image or of the spatial distribution using head related transfer functions [HRTF's] or equivalents thereof, e.g. interaural time difference [ITD] or interaural level difference [ILD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/302Electronic adaptation of stereophonic sound system to listener position or orientation

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Stereophonic System (AREA)
  • Circuit For Audible Band Transducer (AREA)

Abstract

【課題】 小規模な構成で、精度の高い距離感を付与させることができる音像定位処理装置を提供する。
【解決手段】 本発明の音像定位処理装置は、聴取者にとって聴取用音信号に基づく音が擬似的に擬似音源位置から聞こえるように聴取用音信号に方向感及び距離感を付与する音像定位処理装置であって、仮想聴取者からの基準となる位置における標準頭部伝達関数を記憶する手段と、擬似音源位置の情報が与えられたとき右耳用及び左耳用の頭部伝達関数として記憶されている標準頭部伝達関数の中から1つを選択し、又は、複数を選択して補間された頭部伝達関数を形成する手段と、求められた頭部伝達関数を用いて上記聴取用音信号に方向・距離感を付与する手段と、方向・距離感が付与された聴取用音信号、又は、聴取用音信号に対し求められた頭部伝達関数に係る距離と擬似音源位置との距離感の修正を行う手段とを有することを特徴とする。
【選択図】 図1

Description

本発明は、音像定位処理装置、方法及びプログラムに関し、例えば、音出力装置における音像定位処理に適用し得る。
人間は、左右の耳で聞く音の違いから、音源の方向・距離を認知する。左右の耳で聴く音の違いは、音源から左右の耳までの距離の違い、すなわち、音が空間を伝播する際に与えられる特性(周波数特性、位相特性、音量など)の違いに起因する。ある音源信号に対してこの特性の違いを意図的に付与することにより、任意の方向・距離に認識させることができる。音源が耳まで到達する際に付与される特性を表すものとして、頭部伝達関数(HRTF:Head Related Trancefer Function)と呼ばれるものが良く知られている。予め音源から耳までのHRTFを測定し、これを音源に付与することにより、測定点から音が聞こえるように認識させることができる。原理的には、全ての空間点のHRTFが得られれば、音源位置を任意に配置することが可能だが、ハードウェア量などの、構成の規模の制約から現実的でない。このような課題に対して、非特許文献1に記載の「仮想音源制御サーバ」においては、少数のHRTFを補間して多数のHRTFを得ていた。
安田泰代・大矢智之,「リアリティ音声音響通信技術」NTT技術ジャーナル2003Vol15No9,社団法人電気通信協会,2003年9月出版
しかしながら、非特許文献1に記載の仮想音源制御サーバでは、方向に関してはHRTFを補間することが可能であるが、距離に関しては単に音量を調節するにとどまっている。音量の調節のみでは距離感の制御としては十分ではない。
そこで、小規模な構成で、精度の高い距離感を付与させることができる音像定位処理装置、方法及びプログラムが望まれている。
第1の本発明の音像定位処理装置は、(0)聴取者に聴取させるための聴取用音信号と、上記聴取者の位置を基準とした擬似音源位置の情報とが与えられると、上記聴取者にとって上記聴取用音信号に基づく音が、擬似的に上記擬似音源位置から聞こえるように、上記聴取用音信号に方向感及び距離感を付与する音像定位処理装置であって、(1)仮想聴取者からの一又は複数の方向について基準となる位置における標準頭部伝達関数を記憶する標準頭部伝達関数記憶手段と、(2)上記擬似音源位置の情報が与えられたとき、上記擬似音源位置における右耳用及び左耳用の頭部伝達関数として、記憶されている上記標準頭部伝達関数の中から1つを選択し、又は、複数を選択して補間された頭部伝達関数を形成する頭部伝達関数選択手段と、(3)上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数を用いて、上記聴取用音信号に方向・距離感を付与する方向・距離感付与手段と、(4)上記方向・距離感付与手段から出力された右耳用及び左耳用の上記聴取用音信号、又は、上記方向・距離感付与手段へ入力される、同一信号でなる右耳用及び左耳用の上記聴取用音信号に対し、上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数に係る距離と、右耳又は左耳の位置と上記擬似音源位置との距離感の修正を行う距離感修正手段とを有することを特徴とする。
第2の本発明の音像定位処理プログラムは、(0)聴取者に聴取させるための聴取用音信号と、任意の位置である擬似音源位置の情報とが与えられると、上記聴取者にとって上記聴取用音信号に基づく音が、擬似的に上記擬似音源位置から聞こえるように、上記聴取用音信号に方向感及び距離感を付与する音像定位処理プログラムであって、音出力装置に搭載されたコンピュータを、(1)仮想聴取者からの一又は複数の方向について基準となる位置における標準頭部伝達関数を記憶する標準頭部伝達関数記憶手段と、(2)上記擬似音源位置の情報が与えられたとき、上記擬似音源位置における右耳用及び左耳用の頭部伝達関数として、記憶されている上記標準頭部伝達関数の中から1つを選択し、又は、記憶されている上記標準頭部伝達関数の中から複数を選択して補間された頭部伝達関数を形成する頭部伝達関数選択手段と、(3)上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数を用いて、上記聴取用音信号に方向・距離感を付与する方向・距離感付与手段と、(4)上記方向・距離感付与手段から出力された右耳用及び左耳用の上記聴取用音信号、又は、上記方向・距離感付与手段へ入力される、同一信号でなる右耳用及び左耳用の上記聴取用音信号に対し、上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数に係る距離と、右耳又は左耳の位置と上記擬似音源位置との距離感の修正を行う距離感修正手段として機能させることを特徴とする。
第3の本発明の音像定位処理方法は、(0)聴取者に聴取させるための聴取用音信号と、上記聴取者の位置を基準とした擬似音源位置の情報とが与えられると、上記聴取者にとって上記聴取用音信号に基づく音が、擬似的に上記擬似音源位置から聞こえるように、上記聴取用音信号に方向感及び距離感を付与する音像定位処理方法であって、標準頭部伝達関数記憶手段と、頭部伝達関数選択手段と、方向・距離感付与手段と、距離感修正手段とを有し、(1)上記標準頭部伝達関数記憶手段は、仮想聴取者からの一又は複数の方向について基準となる位置における標準頭部伝達関数を記憶し、(2)上記頭部伝達関数選択手段は、上記擬似音源位置の情報が与えられたとき、上記擬似音源位置における右耳用及び左耳用の頭部伝達関数として、記憶されている上記標準頭部伝達関数の中から1つを選択し、又は、記憶されている上記標準頭部伝達関数の中から複数を選択して補間された頭部伝達関数を形成し、(3)上記方向・距離感付与手段は、上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数を用いて、上記聴取用音信号に方向・距離感を付与し、(4)上記距離感修正手段は、上記方向・距離感付与手段から出力された右耳用及び左耳用の上記聴取用音信号、又は、上記方向・距離感付与手段へ入力される、同一信号でなる右耳用及び左耳用の上記聴取用音信号に対し、上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数に係る距離と、右耳又は左耳の位置と上記擬似音源位置との距離感の修正を行うことを特徴とする。
本発明によれば、小規模な構成で、精度の高い距離感を付与させることができる音像定位処理装置を提供することができる。
(A)第1の実施形態
以下、本発明による音像定位処理装置、方法及びプログラムの第1の実施形態を、図面を参照しながら詳述する。
(A−1)第1の実施形態の構成
図1は、第1の実施形態の音像定位処理装置の全体構成を示すブロック図である。
音像定位処理装置100は、方向感・距離感の付与対象となる音源信号(以下「S(n)」と表す)、付与したい「方向」の情報(以下「DIR」と表す)及び、付与したい「距離」の情報(以下「DIST」と表す)が与えられると、仮想的に方向DIR及び距離DISTで表される位置から、S(n)の信号による音が聴取者に聞こえるようにS(n)に方向感及び距離感を付与して、例えば、ヘッドフォンなどの、聴取者に音を出力する手段に与えるものである。音像定位処理装置100は、S(n)に方向・距離感を付与して、左耳受聴用信号(以下「sL(n)」と表す)と、右耳受聴用信号(以下「sR(n)」と表す)を生成し、更に、sL(n)及びsR(n)について距離感の調節を行い、左耳調節済受聴用信号(以下「sL’(n)」と表す)、及び、右耳調節済受聴用信号(以下「sR’(n)」と表す)を生成する。又、例えば、音像定位処理装置100において、音を出力する手段がヘッドフォンであれば、sL’(n)は左耳用のスピーカに与えられ、sR’(n)は右耳用のスピーカに与えられる。
音像定位処理装置100は、ソフトフォンとして構築されたパソコンなどの情報処理端末に実施形態の音像定位プログラムをインストールして構築しても良いし、携帯電話端末やIP電話端末などの、プログラムの実行構成を有する他の電話端末にインストールして構築しても良い。又、音像定位処理装置100は、例えば、携帯電話端末やIP電話端末などに内蔵して、通話の状況や通話者の操作に応じて、方向DIR及び距離DISTが与えられると、通話音声に方向感・距離感の付与を行う構成としても良い。又、音像定位処理装置100は、例えば、テレビ電話端末に内蔵して、通話相手の表示位置などの状況に応じて、テレビ電話端末から方向DIR及び距離DISTが与えられると、通話音声信号に方向感・距離感の付与を行う構成としても良い。
音像定位処理装置100は、HRTF選択部101、左耳用信号生成部102、右耳用信号生成部103、左耳用信号調節部104、右耳用信号調節部105を有している。
HRTF選択部101は、DIST及びDIRが与えられると、sR(n)作成のためのHRTF(以下「hR(k)」と表す)を求めて、右耳用信号生成部103に与え、sL(n)作成のためのHRTF(以下「hL(k)」と表す)も求めて、左耳用信号生成部102に与える。
次に、HRTF選択部101における、hR(k)及びhL(k)を求める構成について説明する。
HRTF選択部101は、標準HRTF記憶部101aを有している。標準HRTF記憶部101aは、例えば図2に示すような任意の距離(以下「標準距離」と表す)における標準HRTF群201の各HRTFを記憶する記憶手段である。標準HRTF記憶部101aにおける、標準HRTF群201の格納形式は、例えば、インパルス応答としても良いし、IIRフィルタ係数や、周波数振幅特性・位相特性としても良い。
図2は、HRTF選択部101において、距離DISTが、標準距離と一致する場合のHRTFの選択について示した説明図である。
HRTF選択部101に与えられた距離DISTが標準距離と一致する場合には、標準HRTF群201の中から該当するHRTFを選択又は算出し、hL(k)、hR(k)として、それぞれ左耳用信号生成部102、右耳用信号生成部103に与える。例えば、方向DIRが、聴取者に対して正面方向で、距離DISTが標準距離と一致する場合には、標準HRTF群201のうち、聴取者の正面にあるHRTF202が、hL(k)、hR(k)として選択される。このとき、方向DIR及び距離DISTで表される位置のHRTFが、標準HRTF記憶部101aに存在しない場合には、当該位置に最も近い位置のHRTFを選択して適用しても良いし、近傍に存在する1つ又は複数のHRTFに基づいて、当該位置のHRTFを算出しても良い。
図3は、HRTF選択部101において、距離DISTが、標準距離よりも遠い場合のHRTFの選択について示した説明図である。
例えば、HRTF選択部101において、与えられた方向DIR、距離DISTで表される位置が、音源点301のように、聴取者に対して標準距離よりも遠い位置である場合を想定する。このとき、HRTF選択部101は、音源点301と、聴取者の左耳とを結ぶ直線と、標準距離円の交点に位置するHRTF203を、hL(k)として左耳用信号生成部102に与える。同様に、HRTF選択部101は、音源点301と、聴取者の右耳とを結ぶ直線と、標準距離円の交点に位置するHRTF204を、hR(k)として右耳用信号生成部103に与える。このとき、交点上に、標準HRTF群201のHRTFが存在しない場合は、交点に最も近いHRTFを選択して適用しても良いし、交点の近傍に存在する1つ又は複数のHRTFから交点のHRTFを算出しても良い。
図4は、HRTF選択部101において、距離DISTが、標準距離よりも近い場合のHRTFの選択について示した説明図である。
例えば、HRTF選択部101において、与えられた方向DIR、距離DISTで表される位置が、音源点401のように、聴取者に対して標準距離よりも近い位置である場合を想定する。このとき、HRTF選択部101は、音源点401と左耳とを結ぶ直線の延長と、標準距離円との交点に位置するHRTF205を、hL(k)として左耳用信号生成部102に与える。同様に、HRTF選択部101は、音源点401と右耳とを結ぶ直線の延長と、標準距離円との交点に位置するHRTF206を、hR(k)として右耳用信号生成部103に与える。このとき、交点上に、標準HRTF群201のHRTFが存在しない場合は、交点に最も近いHRTFを選択して適用しても良いし、交点の近傍に存在する1つ又は複数のHRTFから交点のHRTFを算出しても良い。
又、HRTF選択部101は、左耳用信号調節部104及び右耳用信号調節部105に、例えば、聴取者の耳の位置から音源点までの距離などの信号調節に必要な情報を与える。
左耳用信号生成部102は、S(n)及びhL(k)が与えられると、左耳受聴用信号sL(n)を生成して左耳用信号調節部104に与えるものである。このとき、HRTF選択部101から与えられたhL(k)の形式が、インパルス応答であった場合には、S(n)とhL(k)の畳み込み処理によりsL(n)を生成しても良い。又、hL(k)の形式がIIRフィルタ係数であった場合には、IIRフィルタ演算によりsL(n)を生成しても良い。又、HRTF選択部101から与えられたhL(k)の形式が、周波数振幅特性・位相特性であった場合には、S(n)にFFT処理を施して周波数成分毎のパワー情報を得て、hL(k)に基づいて振幅・位相特性を操作し、逆FFT処理により時間軸上の信号に戻してsL(n)を生成しても良い。
右耳用信号生成部103も同様に、S(n)及びhR(k)が与えられると、右耳受聴用信号sR(n)を生成して右耳用信号調節部105に与えるものである。右耳用信号生成部103が、右耳受聴用信号sR(n)を生成する構成は、左耳用信号生成部102と同様であるので詳しい説明を省略する。
左耳用信号調節部104は、左耳用信号生成部102により生成されたsL(n)の信号を調節して、更に距離感を付与し、sL’(n)を生成して、音を出力する手段に与えるものであり、ゲイン調節部104aを有している。
ゲイン調節部104aは、HRTF選択部101から信号調節に用いる情報が与えられ、左耳用信号調節部104からsL(n)が与えられると、HRTF選択部101から与えられた情報に応じて、sL(n)のゲイン調節を行い、sL’(n)を生成する。ゲイン調節部104aにおけるゲイン調節は、例えば、聴取者の左耳の位置から音源点までの距離と、聴取者の左耳の位置からHRTF選択部101により選択されたHRTFの位置までの距離とを比較し、その比率や差分などに応じて調節を行っても良い。右耳用信号調節部105も、HRTF選択部101から与えられた情報に応じて、右耳用信号生成部103により生成されたhR(k)の信号を調節して、更に距離感を付与し、sR’(n)を生成して、音を出力する手段に与えるものであり、ゲイン調節部105aを有している。ゲイン調節部105aの構成は、ゲイン調節部104aと同様であるので詳しい説明は省略する。
(A−2)第1の実施形態の動作
次に、以上のような構成を有する第1の実施形態の音像定位処理装置100における方向感・距離感の付与の動作について説明する。
例えば、音像定位処理装置100が、携帯電話端末に内蔵されていた場合を想定すると、携帯電話端末から、HRTF選択部101に、所望の擬似的な音源点に関して聴取者からの方向DIR、距離DISTの情報が与えられる。又、この場合携帯電話端末における通話信号が、S(n)として、左耳用信号生成部102及び、右耳用信号生成部103に与えられる。
方向DIR、距離DISTの情報が与えられると、HRTF選択部101において、標準HRTF記憶部101aに記憶された標準HRTF群201に基づいてhL(k)、hR(k)が算出され、それぞれ左耳用信号生成部102、右耳用信号生成部103に与えられる。
hL(k)が与えられると、左耳用信号生成部102において、hL(k)に基づいて、携帯電話端末から与えられたS(n)に距離感が付与された信号としてsL(n)が生成され、左耳用信号調節部104に与えられる。同様に、右耳用信号生成部103においても、与えられたhR(k)とS(n)に基づいてsR(n)が生成され、右耳用信号調節部105に与えられる。
左耳用信号生成部102からsL(n)が与えられ、HRTF選択部101から信号調節に必要な情報が与えられると、左耳用信号調節部104において、sL(n)についてHRTF選択部101から与えられた情報に応じたゲイン調節が行われて、sL’(n)が生成され、ヘッドフォンなどの、聴取者に音を出力する手段に与えられる。同様に、右耳用信号調節部105においても、与えられたsR(n)について、ゲイン調節が行われて、sR’(n)が生成され、音を出力する手段に与えられる。
(A−3)第1の実施形態の効果
第1の実施形態によれば以下のような効果を奏することが可能となる。
第1の実施形態の音像定位処理装置100における、HRTF選択部101には、聴取者から見た、方向DIR、距離DISTで表される音源点が、標準距離上でない場合でも、標準距離上の標準HRTF群201のみを用いて、聴取者の右耳、左耳それぞれについて、当該音源点に相当するHRTFを求めることができる。これにより、聴取者の周辺の全ての空間上のHRTFを記憶しなくても、聴取者からの任意の位置に相当するHRTFを求めることができるので、小規模な構成で、精度の高い距離感を付与させることができる音像定位処理装置の提供が可能となる。
又、第1の実施形態の音像定位処理装置100では、左耳用信号調節部104及び右耳用信号調節部105を設けて、sL(n)及びsR(n)について、聴取者の耳の位置から音源点までの距離などに応じたゲイン調節を行うことにより、更に精度の高い距離感を付与させることが可能となる。
(B)第2の実施形態
以下、本発明による音像定位処理装置、方法及びプログラムの第2の実施形態を、図面を参照しながら詳述する。
(B−1)第2の実施形態の構成
図5は、第2の実施形態の音像定位処理装置の全体構成を示すブロック図であり、上述した図1との同一、対応部分には同一、対応符号を付して示している。
第2の実施形態の音像定位処理装置100Aは、第1の実施形態の音像定位処理装置100の左耳用信号調節部104、右耳用信号調節部105にそれぞれ、周波数成分調節部104b、周波数成分調節部105bを付加したものと同様の構成である。以下、音像定位処理装置100Aについて、第1の実施形態の音像定位処理装置100との差異を説明する。
現実空間上を伝搬する音は、周波数が高くなるほど距離による減衰率が高くなるという特性がある。そこで、第2の実施形態の音像定位処理装置100Aでは、ゲイン調節部104a、105aによりゲイン調節されたsL(n)、sR(n)について、更に、高域成分のパワー調節を行うことができる周波数成分調節部104b、105bを設けることとした。
周波数成分調節部104bは、ゲイン調節部104aから与えられたゲイン調節済のsL(n)について、HRTF選択部101から与えられた情報に応じた高域成分のパワー調節を行い、sL’(n)として音を出力する手段に与えるものである。
周波数成分調節部105bも同様に、ゲイン調節済のsR(n)について、HRTF選択部101から与えられた情報に応じた高域成分のパワー調節を行い、調節済右耳受聴用信号sR’(n)として音を出力する手段に与えるものであり、周波数成分調節部104bと同様の構成を有している。
図6は、ゲイン調節部104a、105aの内部構成を示すブロック図である。
ゲイン調節部104bは、FFT処理部104c、周波数成分パワー調節部104d、逆FFT処理部104e、調節パターン選択部104fを有している。又、周波数成分調節部105bは、FFT処理部105c、周波数成分パワー調節部105d、逆FFT処理部105e、調節パターン選択部105fを有している。
FFT処理部104cは、ゲイン調節部104aから与えられたゲイン調節済のsL(n)についてFFT処理を行い周波数成分毎のパワー情報を得て、周波数成分パワー調節部104dに与えるものである。
周波数成分パワー調節部104dは、調節パターン選択部104fから与えられた距離感調節パターンに従って、FFT処理部104cから与えられた周波数成分毎のパワー情報を調節するものである。なお、周波数成分パワー調節部104dは、有音/無音判定部を内蔵して有音の場合にのみ調節を行うようにしても良く、また、有音、無音期間を問わず調節を行うようにしても良い。
調節パターン選択部104fから、周波数成分パワー調節部104dに与えられる距離感調節パターンは、図7(A)〜(C)に示すような、高域に対するカットオフ周波数fcを切り替えたものであっても良く、図8(A)〜(C)に示すような高域になるに従って減衰率を高めたものであっても良い。なお、図7(A)の距離感調節パターンより、図7(C)の距離感調節パターンの方が、距離が遠い状態に変換させるものであり、図8(A)の距離感調節パターンより、図8(C)の距離感調節パターンの方が、距離が遠い状態に変換させるものである。調節パターン選択部104fは、上述のような距離感調節パターンを内蔵しており、HRTF選択部101から与えられた情報に応じた距離感調節パターン(のデータ)を選択して取り出し、周波数成分パワー調節部104dに与えるものである。調節パターン選択部104fにおける、距離感調節パターンの選択は、例えば、聴取者の左耳の位置から音源点までの距離と、聴取者の左耳の位置からHRTF選択部101により選択されたHRTFの位置までの距離とを比較し、その比率や差分などに応じて選択を行っても良い。
逆FFT処理部104eは、周波数成分パワー調節部104dから与えられた距離感が、調節された周波数成分毎のパワー情報に対し、逆FFT処理を行い、時間軸上の信号に戻して、sL’(n)として音を出力する手段に与えるものである。
周波数成分調節部105bの、FFT処理部105c、周波数成分パワー調節部105d、逆FFT処理部105eは、それぞれ、周波数成分調節部104bの、FFT処理部104c、周波数成分パワー調節部104d、逆FFT処理部104e、調節パターン選択部104fと同様の構成であるので説明を省略する。
(B−2)第2の実施形態の動作
次に、以上のような構成を有する第2の実施形態の音像定位処理装置100Aにおける、周波数成分調節部104bの受聴用信号調節の動作を説明する。尚、周波数成分調節部105bの動作は、周波数成分調節部104bとほぼ同様であるので説明を省略する。
ゲイン調節済のsL(n)の信号が、ゲイン調節部104aから与えられると、FFT処理部104cにおいて、ゲイン調節済のsL(n)についてFFT処理が行われ、FFT処理によって得られた周波数成分毎のパワー情報が、周波数成分パワー調節部104dに与えられる。
HRTF選択部101から距離感調節に必要な情報が、調節パターン選択部104fに与えられると、調節パターン選択部104fにおいて、与えられた情報に応じて距離感調節パターンが選択され、周波数成分パワー調節部104dに与えられる。
FFT処理部104cから、ゲイン調節済のsL(n)の周波数成分毎のパワー情報が与えられ、調節パターン選択部104fから、選択された距離感調節パターンが与えられると、周波数成分パワー調節部104dにおいて、与えられた距離感調節パターンに従って、与えられた周波数成分毎のパワー情報が調節され、調節済の周波数成分毎のパワー情報が、周波数成分パワー調節部104dから逆FFT処理部104eに与えられる。
周波数成分パワー調節部104dから、距離感が調節された周波数成分毎のパワー情報が与えられると、逆FFT処理部104eにおいて、周波数成分パワー調節部104dから与えられた周波数成分毎のパワー情報に対し、逆FFT処理が行われ、sL’(n)として音を出力する手段に与えられる。
(B−3)第2の実施形態の効果
第2の実施形態によれば以下のような効果を奏することが可能となる。
上述の通り、現実空間上を伝搬する音は、周波数が高くなるほど距離による減衰率が高くなるという特性があるため、周波数成分調節部104b、105bにより、ゲイン調節済のsL(n)、sR(n)について高域成分のパワー調節を行うことにより、現実空間における上記の特性を擬似的に再現することができ、第1の実施形態と比較して、更に高精度な距離感を付与することが可能となる。
(C)他の実施形態
本発明は、上記の各実施形態に限定されるものではなく、以下に例示するような変形実施形態も挙げることができる。
(C―1)第1の実施形態のゲイン調節部104a及びゲイン調節部105aにおいては、与えられた距離DISTが同じでも、sL(n)とsR(n)で異なるゲイン調節を行っても良い。例えば、聴取者の左右の耳の聴力が異なる場合、聴力の弱い方の耳に伝達する聴用信号のゲインを、他方の耳のものよりも大きくしても良い。
(C−2)第1の実施形態において、HRTF選択部101の標準HRTF記憶部101aには、1つの標準HRTF群201が記憶されていたが、2つ以上の標準HRTF群を記憶して、方向DIR、距離DISTに応じて、標準HRTF群を選択して適用しても良い。例えば、それぞれ標準距離の異なる標準HRTF群を複数用意しておき、距離DISTに、より近い標準距離の標準HRTFを適用しても良い。又、例えば、複数聴取者の体格や聴力などに応じて作成されたHRTF群を、聴取者ごとに用意しておき、聴取者が、適用する標準HRTFを選択できる手段を有して、選択されたHRTF群を適用するようにしても良い。
(C−3)第1の実施形態においては、HRTF選択部101の標準HRTF記憶部101aに記憶された標準HRTF群201は、聴取者にから見て水平方向における平面上のHRTFしか有していなかったが、聴取者を中心とした標準距離を半径とする球面上のHRTFとしても良い。又、この場合、HRTF選択部101には、音源点を示す情報として、方向DIRに、聴取者からの仰角・俯角を示す情報も加えて与え、それらの情報に基づいてHRTFの選択をしても良い。又、標準HRTF群201におけるHRTFは、完全な球の面上だけでなく、楕円球など他の形状の面上に配置されたものであっても良い。
(C−4)上記の各実施形態においては、HRTF選択部101の標準HRTF記憶部101aに記憶されたHRTF群は、左右共用のものであったが、右耳用と左耳用を個別に用意しても良い。その際、片方の耳用のHRTF群のみを、標準HRTF記憶部101aに記憶しておき、記憶した片方の耳用のHRTF群に基づいて、他方の耳用のHRTFを算出して適用しても良い。他方の耳用のHRTFを算出する方法としては、例えば、右耳用のHRTFのみを記憶しておき、左右の対称関係に基づいて、左耳用のHRTFを求めることが挙げられる。
(C−5)上記の各実施形態の音像定位処理装置において、聴取者の対象は人間に限られるものではなく、犬や猫など音像定位能を有する他の生物に用いても良い。
(C−6)上記の各実施形態の音像定位処理装置は、電話端末に適用したものを示したが、電話端末に限られるものではなく、例えば、携帯音楽プレイヤーなど、音信号に基づいて聴取者に音を出力する手段を有する他の音出力装置に適用しても良い。又、例えば、DVDプレイヤーなどの、画像と共に音出力をする装置に適用しても良い。
(C−7)上記の各実施形態において、左耳用信号調節部104は、左耳用信号生成部102に対して後置されているが、前置して、調整済のs(n)を、左耳用信号生成部102に与える構成としても良い。又、及び右耳用信号調節部105も同様に、右耳用信号生成部103に対して前置しても良い。
第1の実施形態の音像定位処理装置の全体構成を示すブロック図である。 第1の実施形態の音源点が標準距離と一致する場合の、HRTFの求め方について示した説明図である。 第1の実施形態の音源点が標準距離よりも遠い場合の、HRTFの求め方について示した説明図である。 第1の実施形態の音源点が標準距離よりも近い場合の、HRTFの求め方について示した説明図である。 第2の実施形態の音像定位処理装置の全体構成を示すブロック図である。 第2の実施形態の左耳受聴用信号調節部及び、右耳受聴用信号調節部の内部構成を示すブロック図である。 第2の実施形態の距離感調節パターンの第1の例を示す説明図である。 第2の実施形態の距離感調節パターンの第2の例を示す説明図である。
符号の説明
100…音像定位処理装置、101…HRTF選択部、101a…標準HRTF記憶部、102…左耳用信号生成部、103…右耳用信号生成部、104…左耳用信号調節部、104a…ゲイン調節部、105…右耳用信号調節部、105a…ゲイン調節部。

Claims (7)

  1. 聴取者に聴取させるための聴取用音信号と、上記聴取者の位置を基準とした擬似音源位置の情報とが与えられると、上記聴取者にとって上記聴取用音信号に基づく音が、擬似的に上記擬似音源位置から聞こえるように、上記聴取用音信号に方向感及び距離感を付与する音像定位処理装置であって、
    仮想聴取者からの一又は複数の方向について基準となる位置における標準頭部伝達関数を記憶する標準頭部伝達関数記憶手段と、
    上記擬似音源位置の情報が与えられたとき、上記擬似音源位置における右耳用及び左耳用の頭部伝達関数として、記憶されている上記標準頭部伝達関数の中から1つを選択し、又は、記憶されている上記標準頭部伝達関数の中から複数を選択して補間された頭部伝達関数を形成する頭部伝達関数選択手段と、
    上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数を用いて、上記聴取用音信号に方向・距離感を付与する方向・距離感付与手段と、
    上記方向・距離感付与手段から出力された右耳用及び左耳用の上記聴取用音信号、又は、上記方向・距離感付与手段へ入力される、同一信号でなる右耳用及び左耳用の上記聴取用音信号に対し、上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数に係る距離と、右耳又は左耳の位置と上記擬似音源位置との距離感の修正を行う距離感修正手段と
    を有することを特徴とする音像定位処理装置。
  2. 上記標準頭部伝達関数はそれぞれ、仮想聴取者から所定距離の球面上にある基準位置についてのものであることを特徴とする請求項1に記載の音像定位処理装置。
  3. 上記頭部伝達関数選択手段は、上記聴取者の各耳の位置と上記擬似音源位置とを通る直線と、全ての標準頭部伝達関数に係る基準位置を有する面との交点、又は、その近傍位置について、記憶されている上記標準頭部伝達関数の中から1つ選択し、又は、記憶されている上記標準頭部伝達関数の中から複数選択して補間した標準頭部伝達関数を形成すること特徴とする請求項1又は2に記載の音像定位処理装置。
  4. 上記距離感修正手段は、上記聴取用音信号のゲインの調節を行って距離感を修正することを特徴とする請求項1〜3のいずれかに記載の音像定位処理装置。
  5. 上記距離感修正手段は、上記聴取用音信号における高域成分のパワー調節を行って距離感を修正することを特徴とする請求項4に記載の音像定位処理装置。
  6. 聴取者に聴取させるための聴取用音信号と、任意の位置である擬似音源位置の情報とが与えられると、上記聴取者にとって上記聴取用音信号に基づく音が、擬似的に上記擬似音源位置から聞こえるように、上記聴取用音信号に方向感及び距離感を付与する音像定位処理プログラムであって、
    音出力装置に搭載されたコンピュータを、
    仮想聴取者からの一又は複数の方向について基準となる位置における標準頭部伝達関数を記憶する標準頭部伝達関数記憶手段と、
    上記擬似音源位置の情報が与えられたとき、上記擬似音源位置における右耳用及び左耳用の頭部伝達関数として、記憶されている上記標準頭部伝達関数の中から1つを選択し、又は、記憶されている上記標準頭部伝達関数の中から複数を選択して補間された頭部伝達関数を形成する頭部伝達関数選択手段と、
    上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数を用いて、上記聴取用音信号に方向・距離感を付与する方向・距離感付与手段と、
    上記方向・距離感付与手段から出力された右耳用及び左耳用の上記聴取用音信号、又は、上記方向・距離感付与手段へ入力される、同一信号でなる右耳用及び左耳用の上記聴取用音信号に対し、上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数に係る距離と、右耳又は左耳の位置と上記擬似音源位置との距離感の修正を行う距離感修正手段と
    して機能させることを特徴とする音像定位処理プログラム。
  7. 聴取者に聴取させるための聴取用音信号と、上記聴取者の位置を基準とした擬似音源位置の情報とが与えられると、上記聴取者にとって上記聴取用音信号に基づく音が、擬似的に上記擬似音源位置から聞こえるように、上記聴取用音信号に方向感及び距離感を付与する音像定位処理方法であって、
    標準頭部伝達関数記憶手段と、頭部伝達関数選択手段と、方向・距離感付与手段と、距離感修正手段とを有し、
    上記標準頭部伝達関数記憶手段は、仮想聴取者からの一又は複数の方向について基準となる位置における標準頭部伝達関数を記憶し、
    上記頭部伝達関数選択手段は、上記擬似音源位置の情報が与えられたとき、上記擬似音源位置における右耳用及び左耳用の頭部伝達関数として、記憶されている上記標準頭部伝達関数の中から1つを選択し、又は、記憶されている上記標準頭部伝達関数の中から複数を選択して補間された頭部伝達関数を形成し、
    上記方向・距離感付与手段は、上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数を用いて、上記聴取用音信号に方向・距離感を付与し、
    上記距離感修正手段は、上記方向・距離感付与手段から出力された右耳用及び左耳用の上記聴取用音信号、又は、上記方向・距離感付与手段へ入力される、同一信号でなる右耳用及び左耳用の上記聴取用音信号に対し、上記頭部伝達関数選択手段により求められた右耳用及び左耳用の頭部伝達関数に係る距離と、右耳又は左耳の位置と上記擬似音源位置との距離感の修正を行う
    ことを特徴とする音像定位処理方法。
JP2007066563A 2007-03-15 2007-03-15 音像定位処理装置、方法及びプログラム Active JP5114981B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007066563A JP5114981B2 (ja) 2007-03-15 2007-03-15 音像定位処理装置、方法及びプログラム
US12/312,253 US8204262B2 (en) 2007-03-15 2008-02-18 Sound image localization processor, method, and program
PCT/JP2008/052619 WO2008111362A1 (ja) 2007-03-15 2008-02-18 音像定位処理装置、方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007066563A JP5114981B2 (ja) 2007-03-15 2007-03-15 音像定位処理装置、方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2008228155A true JP2008228155A (ja) 2008-09-25
JP5114981B2 JP5114981B2 (ja) 2013-01-09

Family

ID=39759305

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007066563A Active JP5114981B2 (ja) 2007-03-15 2007-03-15 音像定位処理装置、方法及びプログラム

Country Status (3)

Country Link
US (1) US8204262B2 (ja)
JP (1) JP5114981B2 (ja)
WO (1) WO2008111362A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011244292A (ja) * 2010-05-20 2011-12-01 Shimizu Corp バイノーラル再生システム
JP2019134475A (ja) * 2013-03-29 2019-08-08 サムスン エレクトロニクス カンパニー リミテッド レンダリング方法、レンダリング装置及び記録媒体
JP2022504283A (ja) * 2018-10-05 2022-01-13 マジック リープ, インコーポレイテッド 近接場オーディオレンダリング

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5672741B2 (ja) * 2010-03-31 2015-02-18 ソニー株式会社 信号処理装置および方法、並びにプログラム
US8767968B2 (en) 2010-10-13 2014-07-01 Microsoft Corporation System and method for high-precision 3-dimensional audio for augmented reality
CN103563401B (zh) * 2011-06-09 2016-05-25 索尼爱立信移动通讯有限公司 减少头部相关传递函数数据量
FR2976759B1 (fr) * 2011-06-16 2013-08-09 Jean Luc Haurais Procede de traitement d'un signal audio pour une restitution amelioree.
US9622006B2 (en) * 2012-03-23 2017-04-11 Dolby Laboratories Licensing Corporation Method and system for head-related transfer function generation by linear mixing of head-related transfer functions
JP2014064093A (ja) * 2012-09-20 2014-04-10 Sony Corp 信号処理装置およびプログラム
CN103037301B (zh) * 2012-12-19 2014-11-05 武汉大学 一种声像距离信息恢复便携调整方法
CN103052018B (zh) * 2012-12-19 2014-10-22 武汉大学 一种声像距离信息恢复方法
EP2974384B1 (en) 2013-03-12 2017-08-30 Dolby Laboratories Licensing Corporation Method of rendering one or more captured audio soundfields to a listener
CN105144751A (zh) * 2013-04-15 2015-12-09 英迪股份有限公司 用于产生虚拟对象的音频信号处理方法
KR102356246B1 (ko) * 2014-01-16 2022-02-08 소니그룹주식회사 음성 처리 장치 및 방법, 그리고 프로그램
KR20160000345A (ko) * 2014-06-24 2016-01-04 엘지전자 주식회사 이동 단말기 및 그 제어 방법
JP6522105B2 (ja) * 2015-03-04 2019-05-29 シャープ株式会社 音声信号再生装置、音声信号再生方法、プログラム、および記録媒体
JP6642989B2 (ja) * 2015-07-06 2020-02-12 キヤノン株式会社 制御装置、制御方法及びプログラム
US9591427B1 (en) * 2016-02-20 2017-03-07 Philip Scott Lyren Capturing audio impulse responses of a person with a smartphone
JP6786834B2 (ja) * 2016-03-23 2020-11-18 ヤマハ株式会社 音響処理装置、プログラムおよび音響処理方法
CN105959877B (zh) * 2016-07-08 2020-09-01 北京时代拓灵科技有限公司 一种虚拟现实设备中声场的处理方法及装置
US9980077B2 (en) * 2016-08-11 2018-05-22 Lg Electronics Inc. Method of interpolating HRTF and audio output apparatus using same
CN114466279A (zh) * 2016-11-25 2022-05-10 索尼公司 再现方法、装置及介质、信息处理方法及装置
US9992602B1 (en) * 2017-01-12 2018-06-05 Google Llc Decoupled binaural rendering
JP6926640B2 (ja) * 2017-04-27 2021-08-25 ティアック株式会社 目標位置設定装置及び音像定位装置
CN107172566B (zh) * 2017-05-11 2019-01-01 广州酷狗计算机科技有限公司 音频处理方法及装置
WO2019055572A1 (en) * 2017-09-12 2019-03-21 The Regents Of The University Of California DEVICES AND METHODS FOR BINAURAL SPATIAL PROCESSING AND AUDIO SIGNAL PROJECTION
TWI690221B (zh) * 2017-10-18 2020-04-01 宏達國際電子股份有限公司 聲音播放裝置、方法及非暫態儲存媒體
JP7252965B2 (ja) 2018-02-15 2023-04-05 マジック リープ, インコーポレイテッド 複合現実のための二重聴取者位置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06315200A (ja) * 1993-04-28 1994-11-08 Victor Co Of Japan Ltd 音像定位処理における距離感制御方法
JPH0879900A (ja) * 1994-09-07 1996-03-22 Nippon Telegr & Teleph Corp <Ntt> ステレオ音響再生装置
JP2001511995A (ja) * 1997-12-13 2001-08-14 セントラル リサーチ ラボラトリーズ リミティド オーディオ信号処理方法
JP2002005675A (ja) * 2000-06-16 2002-01-09 Matsushita Electric Ind Co Ltd 音響ナビゲーション装置
JP2002262400A (ja) * 2001-02-28 2002-09-13 Sony Corp 仮想音像定位処理装置及び処理方法並びに記録媒体
JP2004235872A (ja) * 2003-01-29 2004-08-19 Nippon Hoso Kyokai <Nhk> 音声調整回路
JP2006128870A (ja) * 2004-10-27 2006-05-18 Victor Co Of Japan Ltd 音響シミュレーション装置、音響シミュレーション方法、および音響シミュレーションプログラム
JP2007028134A (ja) * 2005-07-15 2007-02-01 Fujitsu Ltd 携帯電話機
JP2007028053A (ja) * 2005-07-14 2007-02-01 Matsushita Electric Ind Co Ltd 音像定位装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2725444B2 (ja) 1990-06-29 1998-03-11 ヤマハ株式会社 音響効果装置
US5598478A (en) 1992-12-18 1997-01-28 Victor Company Of Japan, Ltd. Sound image localization control apparatus
JPH06245300A (ja) * 1992-12-21 1994-09-02 Victor Co Of Japan Ltd 音像定位制御装置
JP3266020B2 (ja) 1996-12-12 2002-03-18 ヤマハ株式会社 音像定位方法及び装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06315200A (ja) * 1993-04-28 1994-11-08 Victor Co Of Japan Ltd 音像定位処理における距離感制御方法
JPH0879900A (ja) * 1994-09-07 1996-03-22 Nippon Telegr & Teleph Corp <Ntt> ステレオ音響再生装置
JP2001511995A (ja) * 1997-12-13 2001-08-14 セントラル リサーチ ラボラトリーズ リミティド オーディオ信号処理方法
JP2002005675A (ja) * 2000-06-16 2002-01-09 Matsushita Electric Ind Co Ltd 音響ナビゲーション装置
JP2002262400A (ja) * 2001-02-28 2002-09-13 Sony Corp 仮想音像定位処理装置及び処理方法並びに記録媒体
JP2004235872A (ja) * 2003-01-29 2004-08-19 Nippon Hoso Kyokai <Nhk> 音声調整回路
JP2006128870A (ja) * 2004-10-27 2006-05-18 Victor Co Of Japan Ltd 音響シミュレーション装置、音響シミュレーション方法、および音響シミュレーションプログラム
JP2007028053A (ja) * 2005-07-14 2007-02-01 Matsushita Electric Ind Co Ltd 音像定位装置
JP2007028134A (ja) * 2005-07-15 2007-02-01 Fujitsu Ltd 携帯電話機

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011244292A (ja) * 2010-05-20 2011-12-01 Shimizu Corp バイノーラル再生システム
JP2019134475A (ja) * 2013-03-29 2019-08-08 サムスン エレクトロニクス カンパニー リミテッド レンダリング方法、レンダリング装置及び記録媒体
JP2022504283A (ja) * 2018-10-05 2022-01-13 マジック リープ, インコーポレイテッド 近接場オーディオレンダリング
JP7194271B2 (ja) 2018-10-05 2022-12-21 マジック リープ, インコーポレイテッド 近接場オーディオレンダリング
JP7416901B2 (ja) 2018-10-05 2024-01-17 マジック リープ, インコーポレイテッド 近接場オーディオレンダリング
JP7455173B2 (ja) 2018-10-05 2024-03-25 マジック リープ, インコーポレイテッド 近接場オーディオレンダリング

Also Published As

Publication number Publication date
JP5114981B2 (ja) 2013-01-09
WO2008111362A1 (ja) 2008-09-18
US20100080396A1 (en) 2010-04-01
US8204262B2 (en) 2012-06-19

Similar Documents

Publication Publication Date Title
JP5114981B2 (ja) 音像定位処理装置、方法及びプログラム
JP7367785B2 (ja) 音声処理装置および方法、並びにプログラム
CN107852563B (zh) 双耳音频再现
US10349197B2 (en) Method and device for generating and playing back audio signal
JP5611463B2 (ja) 携帯用通信装置および有向音声出力を使用する通信の円滑化
CN108781341B (zh) 音响处理方法及音响处理装置
US20150189455A1 (en) Transformation of multiple sound fields to generate a transformed reproduced sound field including modified reproductions of the multiple sound fields
JP2001511995A (ja) オーディオ信号処理方法
US20170251324A1 (en) Reproducing audio signals in a motor vehicle
US20170345409A1 (en) Sound effect producing apparatus, method of producing sound effect and program therefor
JP2007081710A (ja) 信号処理装置
JP2002374599A (ja) 音響再生装置及び立体音響再生装置
KR20210151792A (ko) 정보 처리 장치 및 방법, 재생 장치 및 방법, 그리고 프로그램
De Sena Analysis, design and implementation of multichannel audio systems
US20230007421A1 (en) Live data distribution method, live data distribution system, and live data distribution apparatus
US20230005464A1 (en) Live data distribution method, live data distribution system, and live data distribution apparatus
WO2023210699A1 (ja) 音声生成装置、音声再生装置、音声生成方法、及び音声信号処理プログラム
JP2023164284A (ja) 音声生成装置、音声再生装置、音声生成方法、及び音声信号処理プログラム
JP2007028053A (ja) 音像定位装置
Bai et al. An integrated analysis-synthesis array system for spatial sound fields
CN116982322A (zh) 信息处理装置、信息处理方法和程序
KR20240096705A (ko) 분산 또는 공분산 데이터를 사용하여 공간 확장형 음원을 합성하는 장치, 방법 또는 컴퓨터 프로그램
KR20240096683A (ko) 잠재적 수정 객체에 대한 수정 데이터를 사용하여 공간 확장형 음원을 합성하는 장치, 방법 또는 컴퓨터 프로그램
KR20240091274A (ko) 기본 공간 섹터를 사용하여 공간 확장형 음원을 합성하는 장치, 방법 및 컴퓨터 프로그램
GB2598960A (en) Parametric spatial audio rendering with near-field effect

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110920

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120403

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120601

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120918

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121001

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5114981

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151026

Year of fee payment: 3