JP2012141412A - 符号器、符号化方法および符号化プログラム - Google Patents

符号器、符号化方法および符号化プログラム Download PDF

Info

Publication number
JP2012141412A
JP2012141412A JP2010293284A JP2010293284A JP2012141412A JP 2012141412 A JP2012141412 A JP 2012141412A JP 2010293284 A JP2010293284 A JP 2010293284A JP 2010293284 A JP2010293284 A JP 2010293284A JP 2012141412 A JP2012141412 A JP 2012141412A
Authority
JP
Japan
Prior art keywords
importance
unit
signal
signals
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010293284A
Other languages
English (en)
Other versions
JP5582027B2 (ja
Inventor
Yohei Kishi
洋平 岸
Masanao Suzuki
政直 鈴木
Miyuki Shirakawa
美由紀 白川
Yoshiteru Tsuchinaga
義照 土永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2010293284A priority Critical patent/JP5582027B2/ja
Priority to US13/311,682 priority patent/US20120163608A1/en
Publication of JP2012141412A publication Critical patent/JP2012141412A/ja
Application granted granted Critical
Publication of JP5582027B2 publication Critical patent/JP5582027B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S3/00Systems employing more than two channels, e.g. quadraphonic
    • H04S3/008Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/008Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S1/00Two-channel systems
    • H04S1/007Two-channel systems in which the audio signals are in digital form
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/03Aspects of down-mixing multi-channel audio to configurations with lower numbers of playback channels, e.g. 7.1 -> 5.1

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Stereophonic System (AREA)

Abstract

【課題】音質の劣化を防ぐこと。
【解決手段】MPS符号器100は、ダウンミックスされる前の入力信号に含まれる各信号の重要度を算出する。そして、MPS符号器100は、各重要度をダウンミックスすることで、ダウンミックス後の入力信号と同数の重要度に変換し、各重要度に対応するダウンミックス後の入力信号を量子化する場合のビット配分を判定する。MPS符号器100は、判定されたビット配分に基づいて、ダウンミックス後の入力信号を量子化する。
【選択図】図1

Description

本発明は、符号器等に関する。
MPS(MPEG SURROUND)符号化は、ISO(International Organization for Standardization)/IEC(International Electrotechnical Commission)で規格化された符号化技術である。MPS符号化は、従来のステレオ、モノラル復号器と再生互換性をもちながら、5.1チャンネルサラウンドを実現する。
MPS符号化を行う従来のMPS符号器について説明する。図16は、従来のMPS符号器の構成を示す図(1)である。図16に示すように、MPS符号器10は、R−OTT(Reverse one to two)部11a〜11c、R−TTT(Reverse two to three)部12を有する。また、MPS符号器10は、ビット配分決定部13、量子化部14a〜14d、多重化部15を有する。
ここでは、5.1チャンネルのマルチチャネル信号を符号化する場合について説明する。マルチチャネル信号は、FL信号、SL信号、FR信号、SR信号、C信号、LFE信号を含む。
FL信号は、フロント左のスピーカから出力される音に対応する。SL信号は、リア左のスピーカから出力される音に対応する。FR信号は、フロント右のスピーカから出力される音に対応する。SR信号は、リア右のスピーカから出力される音に対応する。C信号はセンターのスピーカから出力される音に対応する。LFE信号は、サブウーファー等の低音域専用のスピーカから出力される音に対応する。
R−OTT部11a〜11cは、マルチチャネル信号をダウンミックス(Down Mix)する処理部である。このうち、R−OTT部11aは、FL信号とSL信号とをダウンミックスし、ダウンミックスした信号をR−TTT部12に出力する。また、R−OTT部11aは、残差信号を量子化部14aに出力し、空間情報を多重化部15に出力する。ここで、残差信号は、ダウンミックスにより失われる情報と、元の情報との差分に対応する信号である。空間情報は、ダウンミックスする各信号のエネルギー比や各信号の相関に対応する信号である。
R−OTT部11bは、C信号とLFE信号とをダウンミックスし、ダウンミックスした信号をR−TTT部12に出力する。また、R−OTT部11bは、空間情報を多重化部15に出力する。
R−OTT部11cは、FR信号とSR信号とをダウンミックスし、ダウンミックスした信号をR−TTT部12に出力する。また、R−OTT部11cは、残差信号を量子化部14dに出力し、空間情報を多重化部15に出力する。
R−TTT部12は、R−OTT部11a〜11cによりダウンミックスされた信号を更にダウンミックスする処理部である。R−TTT部12は、ダウンミックスした信号を量子化部14bに出力し、残差信号を量子化部14cに出力する。なお、R−TTT部12は、R−OTT部11a〜11cからの信号をダウンミックスすることで、2種類の信号を生成する。すなわち、R−TTT部12は、3種類の信号をダウンミックスすることで、2種類の信号を生成し、この2種類の信号を量子化部14bに出力する。
ビット配分決定部13は、量子化部14a〜14dのビット配分を決定する処理部である。量子化部14a〜14dのビット配分は予め設定されており、ビット配分決定部13は、設定されたビット配分に基づいて、量子化部14a〜14dのビット配分を制御する。
量子化部14a〜14dは、ビット配分決定部13により制御されるビット配分で、信号を量子化する処理部である。例えば、ビット配分がnビットの場合には、信号をnビットの信号に量子化する。
量子化部14aは、R−OTT部11aから取得する残差信号を量子化し、量子化した情報を多重化部15に出力する。量子化部14bは、R−TTT部12から取得する2つの信号をそれぞれ量子化し、量子化した情報を多重化部15に出力する。量子化部14cは、R−TTT部12から取得する残差信号を量子化し、量子化した情報を多重化部15に出力する。量子化部14dは、R−OTT部11cから取得する残差信号を量子化し、量子化した情報を多重化部15に出力する。
多重化部15は、量子化部14a〜14dから取得する情報を多重化し、多重化した情報を出力する処理部である。上記の図16の構成は、ISO/IEC 23003-1:2007にて規格にて規定された構成要素である。
上記のように、MPS符号化器10は、量子化部14a〜14dのビット配分を予め固定しておき、マルチチャネル信号を量子化する。しかし、量子化に多くのビット数を要する信号を受信した場合には、ビット数が足りなくなる場合があった。
ここで、量子化に必要なビット数と固定配分されたビット数との関係の一例について説明する。図17は、量子化に必要なビット数と固定配分されたビット数との関係を示す図である。図17の縦軸は、ビット数を示す。また、図17の1a、1b、1c、1dは、それぞれ、量子化部14a〜14dに固定配分されたビット数に対応する。また、2a、2b、2c、2dは、それぞれ、ある信号を量子化部14a〜14dが量子化する場合に必要となるビット数である。
図17に示す例では、量子化部14a、14b、14dは、量子化に必要なビット数が固定配分されたビット数を超えないため、信号を量子化したとしても、量子化後により信号劣化することはない。これに対して、量子化部14cは、量子化に必要なビット数よりも固定配分されるビット数が少ないため、信号を量子化すると、必要な情報が固定配分されるビット数に収まりきらず、量子化により信号が劣化してしまう。
図17に示した問題を解消するべく、量子化部に設定するビット数を信号の重要度に応じて動的に変化させるという技術が存在する。このように、ビット数を動的に変化させることで、量子化に必要なビット数よりも、量子化部に設定されたビット数が小さくなることをなくし、信号が劣化することを防止する。
図18は、従来のMPS符号器の構成を示す図(2)である。図18に示すように、MPS符号器20は、R−OTT部21a〜21c、R−TTT部22、重要度算出部23、ビット配分決定部24、量子化部25a〜25d、多重化部26を有する。
R−OTT部21a〜21cの説明は、図16に示したR−OTT部11a〜11cの説明と同様である。R−TTT部22の説明は、図16に示したR−TTT部12の説明と同様である。多重化部26は、図16に示した多重化部15の説明と同様である。
重量度算出部23は、R−OTT部21a〜21c、R−TTT部22から残差信号、ダウンミックス信号を取得し、各信号の重要度を算出する処理部である。具体的に、重要度算出部23は、R−OTT部21aから出力される残差信号、R−OTT21cから出力される残差信号、R−TTT部22から出力される2種類の信号および残差信号の重要度をそれぞれ算出する。例えば、重要度算出部23は、知覚複雑度(Perceptual Entropy)を用いて重要度を算出する。重要度算出部23は、各信号の重要度をビット配列決定部24に出力する。
ビット配分決定部24は、重要度に応じて量子化部25a〜25dのビット配分を決定する処理部である。ビット配分決定部24は、重要度の高い信号を量子化する量子化部のビット配分を大きくし、その他の量子化部のビット配分を小さくする。ビット配分決定部24は、決定したビット配分に基づいて、量子化部25a〜25dのビット配分を制御する。
量子化部25a〜25dは、ビット配分決定部24により制御されるビット配分で、信号を量子化する処理部である。なお、量子化部25a〜25dが量子化する信号は、図16に示した量子化部14a〜14dと同様である。
上記のように、図18に示したMPS符号器20によれば、ビット配分決定部24が重要度に応じてビット配分を調整し、量子化部25a〜25dのビット配分が動的に変化する。このため、量子化に必要なビット数よりも、量子化部25a〜25dに設定されたビット数が小さくなることをなくし、量子化により信号が劣化することを防止することができる。
特開平7−175499号公報 特表2007−531915号公報
しかしながら、上述した従来技術では、マルチチャネル信号に含まれる各信号の重要度を正しく算出しておらず、音質が劣化するという問題があった。
図19は、従来技術の問題点を説明するための図である。図19では、MPS符号器20から出力された情報を、MPS復号器30が復号する場合を示している。MPS符号器20は、マルチチャネル信号に含まれる6chの信号をダウンミックして5chの信号を生成し、5chの信号を量子化する。MPS符号器20は、ダウンミックスされた5chの信号の重要度をそれぞれ計算し、重要度に合わせたビット数により、各信号を量子化する。
MPS復号器30は、MPS符号器20から情報を取得し、取得した情報を逆量子化する。そして、MPS復号器30は、逆ダウンミックスして、5chの信号を6chの信号に変換する。
ここで、MPS符号器20が算出する重要度は、ダウンミックス後の5chの信号に基づく重要度である。しかし、MPS復号器30から出力される最終的な信号は6chである。このため、MPS符号器20が計算する各信号の重要度が、MPS復号器30から出力される信号に対応していない場合があり、重要度を正しく計算できていない場合がある。
開示の技術は、上記に鑑みてなされたものであって、音質の劣化を防ぐことができる符号器、符号化方法および符号化プログラムを提供することを目的とする。
本願の開示する符号器は、重要度算出部、信号変換部、重要度変換部、ビット数判定部、量子化部を有する。重要度算出部は、入力信号に含まれる第1の数の信号の重要度をそれぞれ算出する。信号変換部は、入力信号に含まれる第1の数の信号を第2の数の信号に変換する。重要度変換部は、重要度算出部が算出した第1の数の重要度を第2の数の重要度に変換する。ビット数判定部は、重要度変換部により変換された第2の数の重要度に基づいて、信号変換部により変換された第2の数の信号の量子化後のビット数をそれぞれ判定する。量子化部は、ビット数判定部の判定結果に基づいて、第2の数の信号を量子化する。
本願の開示する符号器の一つの態様によれば、音質の劣化を防ぐことができるという効果を奏する。
図1は、本実施例にかかるMPS符号器の構成を示す図である。 図2は、FL(k、n)の構成を示す図である。 図3は、信号変換部の構成を示す図である。 図4は、量子化テーブルのデータ構造を示す図である。 図5は、重要度算出部の処理を説明するための図である。 図6は、重要度変換部の構成を示す図である。 図7は、R−OTT−P部の構成を示す図である。 図8は、R−TTT−P部の構成を示す図である。 図9は、ビット配分と重要度との関係を示す図である。 図10は、CLD量子化テーブルのデータ構造を示す図である。 図11は、ICC量子化テーブルのデータ構造を示す図である。 図12は、CPC量子化テーブルのデータ構造を示す図である。 図13は、MPEG−2 ADTSのフォーマット例を示す図である。 図14は、本実施例にかかるMPS符号器の処理手順を示すフローチャートである。 図15は、実施例にかかるMPS符号器を構成するコンピュータのハードウェア構成を示す図である。 図16は、従来のMPS符号器の構成を示す図(1)である。 図17は、量子化に必要なビット数と固定配分されたビット数との関係を示す図である。 図18は、従来のMPS符号器の構成を示す図(2)である。 図19は、従来技術の問題点を説明するための図である。
以下に、本願の開示する符号器、符号化方法および符号化プログラムの実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。
本実施例にかかるMPS符号器の構成の一例について説明する。このMPS符号器は、符号器の一例である。図1は、本実施例にかかるMPS符号器の構成を示す図である。図1に示すように、このMPS符号器100は、時間周波数変換部110、信号変換部120、重要度算出部130、重要度変換部140を有する。また、MPS符号器100は、ビット数判定部150、コア符号化部160、残差符号化部170、空間情報符号化部180、多重化部190を有する。
時間周波数変換部110は、時間領域の入力信号を取得し、この入力信号を周波数領域の周波数信号に変換する処理部である。時間周波数変換部110に入力される入力信号は、マルチチャネル信号である。5.1チャンネルのサラウンドシステムでは、マルチチャネル信号は、FL信号、SL信号、FR信号、SR信号、C信号、LFE信号を含む。
時間周波数変換部110は、例えば、式(1)に示すQMF(Quadrature Mirror Filter)フィルタバンクを用いて、入力信号を周波数信号に変換する。式(1)のQMF指数関数表示において、jは虚数単位であり、nは時間帯域に対応する自然数であり、kは周波数帯域に対応する自然数である。なお、nの値域を0以上128未満とする。kの値域を0以上64未満とする。
Figure 2012141412
入力信号に含まれるFL信号、SL信号、FR信号、SR信号、C信号、LFE信号をそれぞれ、FL(n)、SL(n)、FR(n)、SR(n)、C(n)、LFE(n)とする。
時間周波数変換部110は、式(1)を利用して、時間領域のFL(n)、SL(n)、FR(n)をそれぞれ、周波数領域のFL(k、n)、SL(k、n)、FR(k、n)に変換する。同様に、時間周波数変換部110は、時間領域のSR(n)、C(n)、LFE(n)をそれぞれ、周波数領域のSR(k、n)、C(k、n)、LFE(k、n)に変換する。
一例として、FL(k、n)の構成について説明する。図2は、FL(k、n)の構成を示す図である。図2の縦軸は周波数を示し、横軸は時間を示す。図2に示すように、FL(k、n)は、時間nを0〜127に区分し、周波数kを0〜63に区分した128×64個のデータを含む。他の周波数信号SL(k、n)、FR(k、n)、SR(k、n)、C(k、n)、LFE(k、n)の構成は、図2に示したものと同様である。
時間周波数変換部110は、周波数信号FL(k、n)、SL(k、n)、FR(k、n)、SR(k、n)、C(k、n)、LFE(k、n)を、信号変換部120、重要度算出部130に出力する。
信号変換部120は、複数の信号を含む周波数信号をダウンミックスする処理部である。信号変換部120は、周波数信号をダウンミックスすることで、ダウンミックス信号と、残差信号と、空間情報とを生成する。このうち、ダウンミックス信号は、周波数信号に含まれる各信号をまとめた信号に対応する。残差信号は、ダウンミックスにより失われる情報と、元の情報との差分に対応する信号である。空間情報は、ダウンミックスする各信号のエネルギー比や相関等に対応する信号である。
信号変換部120は、ダウンミックス信号をコア符号化部160に出力する。信号変換部120は、残差信号を残差符号化部170に出力する。信号変換部120は、空間情報を重要度変換部140および空間情報符号化部180に出力する。
ここで、信号変換部120の構成の一例について説明する。図3は、信号変換部の構成を示す図である。図3に示すように、信号変換部120は、R−OTT部121a〜121c、R−TTT部122を有する。
R−OTT部121a〜121cは、二つのチャネルの信号を一つの信号にダウンミックする処理部である。
まず、R−OTT部121aについて説明する。R−OTT部121aは、FL(k、n)、SL(k、n)を基にして、ダウンミックス信号、残差信号、空間情報を生成する。R−OTT部121aは、ダウンミックス信号をR−TTT部122に出力する。R−OTT部121aは、残差信号を残差符号化部170に出力する。R−OTT部121aは、空間情報を重要度変換部140、空間情報符号化部180に出力する。
具体的に、R−OTT部121aは、FL(k、n)、SL(k、n)をダウンミックスすることで、ダウンミックス信号L’(k、n)を生成する。また、R−OTT部121aは、ダウンミックス信号L’(k、n)と、FL(k、n)およびSL(k、n)との差分に対応する信号を残差信号として抽出する。R−OTT部121aが抽出する残差信号を、残差信号resOTT1(k、n)と表記する。
R−OTT部121aが生成する空間情報は、CLD(Channel Level Difference)およびICC(Inter Channel Correlation)を含む。ここで、R−OTT部121aが、CLDおよびICCを算出する処理について順に説明する。
まず、R−OTT部121aがCLDを算出する処理について説明する。R−OTT部121aは、FL(k、n)の自己相関と、SL(k、n)の自己相関を求め、各自己相関に基づいて、CLDを求める。
R−OTT部121aは、FL(k、n)の自己相関eFLを式(2)によって求める。R−OTT部121aは、SL(k、n)の自己相関eSLを式(3)によって求める。R−OTT部121aは、自己相関eFLおよび自己相関eSLを求めた後に、式(4)によってCLDを求める。
Figure 2012141412
Figure 2012141412
Figure 2012141412
次に、R−OTT部121aがICCを算出する処理について説明する。R−OTT部121aは、FL(k、n)とSL(k、n)との相互相関を求め、求めた相互相関に基づいて、ICCを算出する。
R−OTT部121aは、FL(k、n)とSL(k、n)との相互相関eFLSLを式(5)によって求める。R−OTT部121aは、相互相関を求めた後に、式(6)によってICCを求める。なお、式(6)に含まれるeFL(k)、eSL(k)は、それぞれ、式(2)、式(3)から求められる自己相関である。また、Re{*}は、複素数*の実部を表す。
Figure 2012141412
Figure 2012141412
なお、R−OTT部121aが算出したCLDおよびICCを、CLDおよびICCと表記する。
次に、R−OTT部121bについて説明する。R−OTT部121bは、C(k、n)、LFE(k、n)を基にして、ダウンミックス信号、空間情報を生成する。R−OTT部121bは、ダウンミックス信号をR−TTT部122に出力する。R−OTT部121bは、空間情報を重要度変換部140、空間情報符号化部180に出力する。
具体的に、R−OTT部121bは、C(k、n)とLFE(k、n)とをダウンミックスすることで、ダウンミックス信号C’(k、n)を生成する。
R−OTT部121bが生成する空間情報は、CLDおよびICCを含む。ここで、R−OTT部121bが、CLDおよびICCを算出する処理は、上述したR−OTT部121aにおいて説明した処理と同様である。ただし、R−OTT部121bは、C(k、n)、LFE(k、n)に基づいて、CLDおよびICCを算出する。R−OTT部121bが算出したCLDおよびICCを、CLDおよびICCと表記する。
次に、R−OTT部121cについて説明する。R−OTT部121cは、FR(k、n)、SR(k、n)を基にして、ダウンミックス信号、残差信号、空間情報を生成する。R−OTT部121は、ダウンミックス信号をR−TTT部122に出力する。R−OTT部121cは、残差信号を残差符号化部170に出力する。R−OTT部121cは、空間情報を重要度変換部140、空間情報符号化部180に出力する。
具体的に、R−OTT部121cは、FR(k、n)とSR(k、n)とをダウンミックスすることで、ダウンミックス信号R’(k、n)を生成する。また、R−OTT部121cは、ダウンミックス信号R’(k、n)と、FR(k、n)およびSR(k、n)との差分に対応する信号を残差信号として抽出する。R−OTT部121cが抽出する残差信号を残差信号resOTT2(k、n)と表記する。
R−OTT部121cが生成する空間情報は、CLDおよびICCを含む。ここで、R−OTT部121cが、CLDおよびICCを算出する処理は、上述したR−OTT部121aにおいて説明した処理と同様である。ただし、R−OTT部121cは、FR(k、n)、SR(k、n)に基づいて、CLDおよびICCを算出する。R−OTT部121cが算出したCLDおよびICCを、CLDおよびICCと表記する。
次に、図3に示したR−TTT部122について説明する。R−TTT部122は、R−OTT部121a〜121cから入力されるダウンミックス信号L’(k、n)、R’(k、n)、C’(k、n)をダウンミックスする処理部である。また、R−TTT部122は、ダウンミックス信号L’(k、n)、R’(k、n)、C’(k、n)に基づいて、残差信号および空間情報を生成する。
R−TTT部122は、ダウンミックス信号L’(k、n)、R’(k、n)、C’(k、n)をダウンミックスしたダウンミックス信号を、コア符号化部160に出力する。R−TTT部122は、残差信号を残差符号化部170に出力する。R−TTT部122は、空間情報を空間情報符号化部180に出力する。
具体的に、R−TTT部122は、ダウンミックス信号L’(k、n)、R’(k、n)、C’(k、n)をダウンミックスすることで、二つのダウンミックス信号を生成する。R−TTT部122が生成するダウンミックス信号を、ダウンミックス信号L’’(k、n)、R’’(k、n)とする。R−TTT部122は、ダウンミックス信号L’’(k、n)、R’’(k、n)と、ダウンミックス信号L’(k、n)、R’(k、n)、C’(k、n)との差分を残差信号として抽出する。R−TTT部122が生成する残差信号を、残差信号resTTT(k、n)と表記する。
R−TTT部122が生成する空間情報は、CPC(Channel Prediction Coefficient)1、CPC2、ICCを含む。ここで、R−TTT部122が、CPC1、CPC2、ICCを算出する処理について順に説明する。
CPC1、CPC2を算出する場合には、まず、R−TTT部122は、ダウンミックス信号L’(k、n)、R’(k、n)、C’(k、n)を式(7)に代入し、信号L’’(k、n)、R’’(k、n)、C’’(k、n)を算出する。
Figure 2012141412
R−TTT部122は、L’’(k、n)およびR’’(k、n)を式(8)に代入し、C’’(k、n)を式(9)に代入する。そして、式(9)のError(k)の値が最小となるCPC1(k)、CPC2(k)の組を求める。Error(k)の値が最小となるCPC1(k)、CPC2(k)の組が、求めるべきCPC1、CPC2となる。
Figure 2012141412
Figure 2012141412
R−TTT部122は、量子化テーブルを利用して、式(8)にCPC1(k)、CPC2(k)の値を代入し、Error(k)の値が最小となる組み合わせを算出しても良い。図4は、量子化テーブルのデータ構造を示す図である。図4に示すように、この量子化テーブルは、idx(index)と、CPC[idx]とを対応付けて保持する。ここで、idxは、式(8)のkに対応する数値である。
図4に示す量子化テーブルを用いる場合には、R−TTT部122は、51×51通りの中から、Error(k)の値が最小となる組み合わせを算出することで、CPC1、CPC2を求める。
図4の1段目に示すように、CPC[−20]の値は−2.0であり、CPC[−19]の値は−1.9であり、CPC[−18]の値は−1.8であり、CPC[−17]の値は−1.7である。また、CPC[−16]の値は−1.6であり、CPC[−15]の値は−1.5であり、CPC[−14]の値は−1.4であり、CPC[−13]の値は−1.3である。また、CPC[−12]の値は−1.2であり、CPC[−11]の値は−1.1であり、CPC[−10]の値は−1.0である。
図4の2段目に示すように、CPC[−9]の値は−0.9であり、CPC[−8]の値は−0.8であり、CPC[−7]の値は−0.7であり、CPC[−6]の値は−0.6である。また、CPC[−5]の値は−0.5であり、CPC[−4]の値は−0.4であり、CPC[−3]の値は−0.3であり、CPC[−2]の値は−0.2である。また、CPC[−1]の値は−0.1であり、CPC[0]の値は−0.0であり、CPC[1]の値は−0.1である。
図4の3段目に示すように、CPC[2]の値は0.2であり、CPC[3]の値は0.3であり、CPC[4]の値は0.4であり、CPC[5]の値は0.5であり、CPC[6]の値は0.6であり、CPC[7]の値0.7はである。また、CPC[8]の値は0.8であり、CPC[9]の値は0.9であり、CPC[10]の値は1.0であり、CPC[11]の値は1.1であり、CPC[12]の値は1.2である。
図4の4段目に示すように、CPC[13]の値は1.3であり、CPC[14]の値は1.4であり、CPC[15]の値は1.5であり、CPC[16]の値は1.6であり、CPC[17]の値は1.7である。また、CPC[18]の値は1.8であり、CPC[19]の値は1.9であり、CPC[20]の値は2.0であり、CPC[21]の値は2.1であり、CPC[22]の値は2.2であり、CPC[23]の値は2.3である。
図4の5段目に示すように、CPC[24]の値は2.4であり、CPC[25]の値は2.5であり、CPC[26]の値は2.6であり、CPC[27]の値は2.7である。CPC[28]の値は2.8であり、CPC[29]の値は2.9であり、CPC[30]の値は3.0である。
次に、R−TTT部122が、ICCを算出する処理について説明する。例えば、R−TTT部122は、式(10)に基づいて、ICCを算出する。
Figure 2012141412
式(10)において、eL’(k)は、L’(k、n)の自己相関である。R−TTT部122は、式(11)によってeL’(k)を算出する。
Figure 2012141412
式(10)において、eR’(k)は、R’(k、n)の自己相関である。R−TTT部122は、式(12)によってeR’(k)を算出する。
Figure 2012141412
式(10)において、eC’(k)は、C’(k、n)の自己相関である。R−TTT部122は、式(13)によってeC’(k)を算出する。
Figure 2012141412
式(10)において、e(k)は、l(k、n)の自己相関である。R−TTT部122は、式(14)によってe(k)を算出する。式(14)において、l(k、n)は、L’チャネルの推定復号信号である。R−TTT部122は、式(15)によって、l(k、n)を算出する。
Figure 2012141412
Figure 2012141412
式(10)において、e(k)は、r(k、n)の自己相関である。R−TTT部122は、式(16)によってe(k)を算出する。式(16)において、r(k、n)は、R’チャンネルの推定復号信号である。R−TTT部122は、式(17)によって、r(k、n)を算出する。
Figure 2012141412
Figure 2012141412
式(10)において、e(k)は、c(k、n)の自己相関である。R−TTT部122は、式(18)によってe(k)を算出する。式(18)において、c(k、n)は、C’チャンネルの推定復号信号である。R−TTT部122は、式(19)によって、c(k、n)を算出する。
Figure 2012141412
Figure 2012141412
すなわち、R−TTT部122は、式(11)〜(19)に基づいて、eL’(k)、eR’(k)、eC’(k)、e(k)、e(k)、e(k)を算出する。そして、R−TTT部122は、式(10)に基づいて、ICCを算出する。
図1の説明に戻る。重要度算出部130は、周波数信号に含まれる各信号の重要度をそれぞれ算出する処理部である。この周波数信号には、上記のようにFL(k、n)、SL(k、n)、FR(k、n)、SR(k、n)、C(k、n)、LFE(k、n)が含まれる。以下の説明において、FL(k、n)、SL(k、n)、FR(k、n)、SR(k、n)、C(k、n)、LFE(k、n)の重要度をそれぞれ、P(FL)、P(SL)、P(FR)、P(SR)、P(C)、P(LFE)と表記する。重要度算出部130は、算出した各重要度を重要度変換部140に出力する。
まず、重要度算出部130が算出する重要度の概要について説明する。重要度算出部130は、知覚複雑度を重要度として算出する。図5は、重要度算出部の処理を説明するための図である。図5の横軸は周波数を示し、縦軸は周波数信号の電力に対応する。図5に示す10aは、周波数信号に含まれる各信号のうち何れかの信号の波形である。10bは、マスキングパワーの波形を示す。このマスキングパワーは、量子化により発生する誤差のうち、許容する範囲を示すものである。このため、マスキングパワー10b以下の領域に存在する信号誤差は無視できる。これに対して、マスキングパワー10bよりも上の領域に存在する信号誤差は無視できないものであり、この領域が大きいほど重要度は高くなる。重要度算出部130は、信号10aとマスキングパワー10bの間の領域10cを、信号10aの重要度として算出する。例えば、信号10aが、信号FL(k、n)の場合には、領域10cの面積がP(FL)となる。
次に、重要度算出部130が、重要度を算出する場合の処理について説明する。ここでは、一例として、重要度算出部130が、FL(k、n)の重要度P(FL)を算出する場合について説明する。重要度算出部130は、式(20)によって、重要度P(FL)を算出する。
Figure 2012141412
式(20)において、nb(FL、n、k)は、FLチャンネルに対応するマスキングパワーに対応する。また、e(FL、n、k)は、式(21)によって求められるスペクトルパワーである。なお、重要度算出部130は、マスキングパワーの情報を記憶しているものとする。
Figure 2012141412
なお、マスキングパワーは、簡易的には各周波数帯域の最小可聴域のパワーなどを用いても良い。または、重要度算出部130は<「New Implementation Techniques of an Efficient MPEG Advanced Audio Coder]E.Kurniawati,C.T.Lau,B.Premkumar,J.Absar,S.George>に記載された方法を用いても良い。
重要度算出部130は、FL(k、n)の場合と同様にして、SL(k、n)、FR(k、n)、SR(k、n)、C(k、n)、LFE(k、n)の重要度を算出する。重要度算出部130は、重要度P(FL)、P(SL)、P(FR)、P(SR)、P(C)、P(LFE)を重要度変換部140に出力する。
次に、重要度変換部140の処理について説明する。重要度変換部140は、複数の重要度をダウンミックスする処理部である。重要度変換部140がダウンミックスすることにより、6chの重要度が5chの重要度に変換される。重要度変換部140から出力される信号のチャネルの数は、信号変換部120から出力されるチャネルの数と等しい。
重要度変換部140の構成の一例について説明する。図6は、重要度変換部の構成を示す図である。図6に示すように、重要度変換部140は、R−OTT−P部141a〜141c、R−TTT−P部142を有する。
R−OTT−P部141aについて説明する。R−OTT−P部141aは、重要度P(FL)、P(SL)、空間情報20aを取得し、ダウンミックス信号重要度P(L’)と、残差信号重要度P(resOTT1)とを生成する。なお、空間情報20aは、図3のR−OTT部121aが生成した空間情報に対応するものである。R−OTT−P部141aは、ダウンミックス信号重要度P(L’)をR−TTT−P部142に出力する。R−OTT−P部141aは、残差信号重要度P(resOTT1)をビット数判定部150に出力する。
R−OTT−P部141bについて説明する。R−OTT−P部141bは、重要度P(C)、P(LFE)、空間情報20bを取得し、ダウンミックス信号重要度P(C’)を生成する。なお、空間情報20bは、R−OTT部121bが生成した空間情報に対応するものである。R−OTT−P部141bは、ダウンミックス信号重要度P(C’)をR−TTT−P部142に出力する。
R−OTT−P部141cについて説明する。R−OTT−P部141cは、重要度P(FR)、P(SR)、空間情報20cを取得し、ダウンミックス信号重要度P(R’)と、残差信号重要度P(resOTT2)とを生成する。なお、空間情報20cは、R−OTT部121cが生成した空間情報に対応するものである。R−OTT−P部141cは、ダウンミックス信号重要度P(R’)をR−TTT−P部142に出力する。R−OTT−P部141cは、残差信号重要度P(resOTT2)をビット数判定部150に出力する。
R−TTT−P部142について説明する。R−TTT−P部142は、ダウンミックス信号重要度P(L’)、P(C’)、P(R’)および空間情報20dを取得し、ダウンミックス信号重要度P(L’’)、P(R’’)を生成する。また、R−TTT−P部142は、ダウンミックス信号重要度P(L’)、P(C’)、P(R’)および空間情報20dに基づいて、残差信号重要度P(resTTT)を生成する。なお、空間情報20dは、図3のR−TTT部122が生成した空間情報に対応するものである。R−TTT−P部142は、ダウンミックス信号重要度P(L’’)、P(R’’)、残差信号重要度P(resTTT)をビット数判定部150に出力する。
このように、重要度変換部140は、重要度P(FL)、P(SL)、P(FR)、P(SR)、P(C)、P(LFE)を、ダウンミックス信号重要度P(L’’)、P(R’’)および残差信号重要度P(resOTT1)、P(resOTT2)、P(resTTT)に変換する。
次に、図6に示したR−OTT−P部141aの構成について説明する。図7は、R−OTT部の構成を示す図である。図7に示すように、R−OTT−P部141aは、重要度分配部30a、30b、加算部40a、40bを有する。
重要度分配部30aは、重要度P(FL)と空間情報20aとを受け付け、2種類の計算を実行する処理部である。具体的に、重要度分配部30aは、式(22)、式(23)に示す計算を実行する。式(22)および式(23)に含まれるH1は、空間情報に対応する。例えば、H1の値は、CLDおよびICCから式(39)〜(43)により得られる値である。
Figure 2012141412
Figure 2012141412
Figure 2012141412
Figure 2012141412
Figure 2012141412
Figure 2012141412
Figure 2012141412
Figure 2012141412
重要度分配部30aは、式(22)による計算結果を加算部40aに出力する。また、重要度分配部30aは、式(23)による計算結果を加算部40bに出力する。
重要度分配部30bは、重要度P(SL)と空間情報とを受け付け、2種類の計算を実行する処理部である。具体的に、重要度分配部30bは、式(24)、式(25)に示す計算を実行する。式(24)および式(25)に含まれるH2は、空間情報に対応する。例えば、H2の値は、CLDおよびICCから式(44)および式(40)〜式(43)により得られる値である。
Figure 2012141412
Figure 2012141412
重要度分配部30bは、式(24)による計算結果を加算部40aに出力する。また、重要度分配部30bは、式(25)による計算結果を加算部40bに出力する。
加算部40aは、重要度分配部30a、30bから出力される計算結果を加算する処理部である。加算部40aの加算結果P(M)は、式(26)によって表すことができる。
Figure 2012141412
式(26)によって算出される値P(M)は、上記のダウンミックス信号重要度P(L’)に対応するものである。加算部40aは、加算結果P(M)を、R−TTT−P部142に出力する。
加算部40bは、重要度分配部30a、30bから出力される計算結果を加算する処理部である。加算部40bの加算結果P(resOTT)は、式(27)によって表すことができる。
Figure 2012141412
式(27)によって算出される値P(resOTT)は、上記の残差信号重要度P(resOTT1)に対応する。加算部40bは、加算結果P(resOTT)を、ビット数判定部150に出力する。
R−OTT−P部141bの構成について説明する。R−OTT−P部141bの構成は、R−OTT−P部141aの構成と同様である。ただし、R−OTT−P部141bは、重要度P(C)、重要度P(LFE)、空間情報20bを基にして、P(M)を算出する。このP(M)は、ダウンミックス信号重要度P(C’)に対応する。R−OTT−P部141bは、P(M)をR−TTT−P部142に出力する。
R−OTT−P部141cの構成について説明する。R−OTT−P部141cの構成は、R−OTT−P部141aの構成と同様である。ただし、R−OTT−P部141cは、重要度P(FR)、重要度P(SR)、空間情報20cを基にして、P(M)およびP(resOTT)を算出する。このP(M)は、ダウンミックス信号重要度P(R’)に対応する。P(resOTT)は、上記の残差信号重要度P(resOTT2)に対応する。R−OTT−P部141cは、P(M)をR−TTT−P部142に出力する。また、R−OTT−P部141cは、P(resOTT)を、ビット数判定部150に出力する。
次に、図6に示したR−TTT−P部142の構成について説明する。図8は、R−TTT−P部142の構成を示す図である。図8に示すように、R−TTT−P部142は、重要度分配部50a、50b、50c、加算部60a、60b、60cを有する。
重要度分配部50aは、ダウンミックス信号重要度P(L’)と空間情報20dとを受け付け、2種類の計算を実行する処理部である。具体的に、重要度分配部50aは、式(28)、式(29)に示す計算を実行し、P(L1)、P(L2)を求める。式(28)および式(29)に含まれるc1は、空間情報20dに対応する。例えば、c1はCPC1に対応し、c2はCPC2に対応する。
Figure 2012141412
Figure 2012141412
重要度分配部50aは、P(L1)を加算部60aに出力する。重要度分配部50aは、P(L2)を加算部60bに出力する。
重要度分配部50bは、ダウンミックス信号重要度P(C’)と空間情報20dとを受け付け、3種類の計算を実行する処理部である。具体的に、重要度分配部50bは、式(30)、式(31)、式(32)に示す計算を実行し、P(C1)、P(C2)、P(C3)を求める。式(30)、式(31)、式(32)に含まれるc1、c2は、空間情報に対応する。
Figure 2012141412
Figure 2012141412
Figure 2012141412
重要度分配部50bは、P(C1)を加算部60aに出力する。重要度分配部50bは、P(C2)を加算部60bに出力する。重要度分配部50bは、P(C3)を加算部60cに出力する。
重要度分配部50cは、ダウンミックス信号重要度P(R’)と空間情報とを受け付け、2種類の計算を実行する処理部である。具体的に、重要度分配部50cは、式(33)、式(34)に示す計算を実行し、P(R1)、P(R2)を求める。式(33)、式(34)に含まれるc2は、空間情報に対応する。重要度分配部50cは、P(R1)を加算部60bに出力し、P(R2)を加算部60cに出力する。
Figure 2012141412
Figure 2012141412
加算部60aは、P(L1)とP(C1)とを加算する処理部である。加算部60aの加算結果P(L’’)は、式(35)によって表すことができる。
Figure 2012141412
式(35)によって算出されるP(L’’)は、上記のダウンミックス信号L’’(k、n)に対応する。加算部60aは、加算結果P(L’’)を、ビット数判定部150に出力する。
加算部60bは、P(L2)とP(C2)とP(R1)とを加算する処理部である。加算部60bの加算結果P(resTTT)は、式(36)によって表すことができる。
Figure 2012141412
式(36)によって算出されるP(resTTT)は、上記の残差信号resTTT(k、n)に対応する。加算部60bは、加算結果P(resTTT)を、ビット数判定部150に出力する。
加算部60cは、P(C3)とP(R2)とを加算する処理部である。加算部60cの加算結果P(R’’)は、式(37)によって表すことができる。
Figure 2012141412
式(37)によって算出されるP(R’’)は、上記のダウンミックス信号R’’(k、n)に対応する。加算部60cは、加算結果P(R’’)を、ビット数判定部150に出力する。
図1の説明に戻る。ビット数判定部150は、重要度変換部140から取得する5チャネルの信号に基づいて、コア符号化部160および残差符号化部170のビット配分を算出する処理部である。ビット数判定部150が、重要度変換部140から取得する5チャネルの信号は、P(L’’)、P(R’’)、P(resTTT)、P(resOTT1)、P(resOTT2)を含む。
ビット数判定部150は、P(L’’)を基にして、ダウンミックス信号L’’(k、n)を量子化する場合のビット配分を算出する。ビット数判定部150は、P(R’’)を基にして、ダウンミックス信号R’’(k、n)を量子化する場合のビット配分を算出する。
ビット数判定部150は、P(resOTT1)を基にして、残差信号resOTT1(k、n)を量子化する場合のビット配分を算出する。ビット数判定部150は、P(resOTT2)を基にして、残差信号resOTT2(k、n)のビット配分を算出する。ビット数判定部150は、P(resTTT)を基にして、TTT残差信号を量子化する場合のビット配分を算出する。
具体的に、ビット数判定部150がビット配分を算出する処理について説明する。ここでは一例として、P(L’’)を例にして説明する。ビット数判定部150は、P(L’’)に含まれる周波数毎の重要度を全て加算することで、重要度Ps(L’’、n)を算出する。例えば、ビット数判定部150は、式(38)を利用して、Ps(L’’、n)を算出する。なお、式(38)の右辺P(L’’、k、n)はP(L’’)に対応する。
Figure 2012141412
例えば、ビット数判定部150は、ビット配分と重要度との関係を示すグラフと、Ps(L’’、n)とを比較して、ビット配分を求める。図9は、ビット配分と重要度との関係を示す図である。図9の横軸は、重要度を示す。縦軸はビット配分を示す。横軸のThP1の値は、例えば4000であり、ThP2の値は、例えば7000である。縦軸のThb1の値は、例えば500であり、Thb2の値は、例えば5000である。
ビット数判定部150は、点1Aと点1Bとを結ぶ直線と、Ps(L’’、n)とを比較して、Ps(L’’、n)に対応するビット配分を算出する。図9に示す例では、Ps(L’’、n)に対応するビット配分はbとなる。
ビット数判定部150は、残りの、P(R’’)、P(resTTT)、P(resOTT1)、P(resOTT2)に対しても、P(L’’)と同様にして、ビット配分を算出する。ビット数判定部150は、P(L’’)から求めたビット配分、P(R’’)から求めたビット配分をコア符号化部160に出力する。また、ビット数判定部150は、P(resTTT)、P(resOTT1)、P(resOTT2)からそれぞれ求めたビット配分を残差符号化部170に出力する。
図1の説明に戻る。コア符号化部160は、ビット数判定部150により算出されたP(L’’)のビット配分に収まるように、ダウンミックス信号L’’(k、n)を量子化する。また、コア符号化部160は、ビット数判定部150により算出されたP(R’’)のビット配分に収まるように、ダウンミックス信号R’’(k、n)を量子化する。
コア符号化部160が、ダウンミックス信号L’’(k、n)、R’’(k、n)を量子化する場合には、任意の符号化方式を用いる。例えば、コア符号化部160は、AAC(Advanced Audio Coding)符号化及びSBR(Spectral Band Replication)符号化を利用して、ダウンミックス信号L’’(k、n)、R’’(k、n)を量子化する。コア符号化部160は、ダウンミックス信号L’’(k、n)、R’’(k、n)の低域成分をAAC方式で量子化し、高域成分をSBR方式で量子化する。コア符号化部160は、AAC符号化を行う場合には、例えば、特開2007−183528号公報に開示された技術を利用する。コア符号化部160は、SBR方式で符号化を行う場合には、例えば、特開2008−224902号公報に開示された技術を利用する。
コア符号化部160は、図3のR−TTT部122から出力されるダウンミックス信号L’’(k、n)、R’’(k、n)を量子化する処理部である。コア符号化部160は、量子化後のビット数がP(L’’)のビット配分に収まるように、ダウンミックス信号L’’(k、n)に対して、AAC符号化およびSBR符号化を行う。また、コア符号化部160は、量子化後のビット数がP(R’’)のビット配分に収まるように、ダウンミックス信号R’’(k、n)に対して、AAC符号化およびSBR符号化を行う。コア符号化部160は、量子化後のダウンミックス信号L’’(k、n)、R’’(k、n)を多重化部190に出力する。
残差符号化部170は、R−TTT部122、R−OTT部121a、R−OTT部121cからそれぞれ出力される残差信号resTTT(k、n)、resOTT1(k、n)、resOTT2(k、n)を量子化する処理部である。残差符号化部170は、P(resTTT)のビット配分に収まるように、resTTT(k、n)を量子化する。また、残差符号化部170は、P(resOTT1)のビット配分に収まるように、resOTT1(k、n)を量子化する。また、残差符号化部170は、P(resOTT1)のビット配分に収まるように、resOTT2(k、n)を量子化する。
残差符号化部170が、resTTT(k、n)、resOTT1(k、n)、resOTT2(k、n)を量子化する場合には、任意の符号化方式を用いる。例えば、残差符号化部170は、AAC符号化を利用して、TTT残差信号、第1の残差信号、第2の残差信号をそれぞれ量子化する。残差符号化部170は、量子化後のresTTT(k、n)、resOTT1(k、n)、resOTT2(k、n)を多重化部190に出力する。
空間情報符号化部180は、R−OTT部121a〜121c、R−TTT部122から出力される空間情報を量子化する処理部である。空間情報は、上記に示したように、CLD、ICC、CPCを含む。以下において、空間情報符号化部180がCLD、ICC、CPCに対して行う量子化について説明する。
空間情報符号化部180がCLDを量子化する処理について説明する。空間情報符号化部180は、CLD量子化テーブルと、CLDの値とを比較して、CLDを量子化する。図10は、CLD量子化テーブルのデータ構造を示す図である。図10に示すように、このCLD量子化テーブルは、idx(index)と、CPC[idx]とを対応付けて保持する。
図10の1段目に示すように、CLD[−15]の値は、−150であり、CLD[−14]の値は、−45であり、CLD[−13]の値は、−40であり、CLD[−12]の値は、−35である。また、CLD[−11]の値は、−30であり、CLD[−10]の値は、−25であり、CLD[−9]の値は、−22であり、CLD[−8]の値は、−19である。また、CLD[−7]の値は、−16であり、CLD[−6]の値は、−13であり、CLD[−5]の値は、−10である。
図10の2段目に示すように、CLD[−4]の値は、−8であり、CLD[−3]の値は、−6であり、CLD[−2]の値は、−4であり、CLD[−1]の値は、−2である。CLD[0]の値は、0であり、CLD[1]の値は、2であり、CLD[2]の値は、4であり、CLD[3]の値は、6であり、CLD[4]の値は、8であり、CLD[5]の値は、10であり、CLD[6]の値は、13である。
図10の3段目に示すように、CLD[7]の値は、16であり、CLD[8]の値は、19であり、CLD[9]の値は、22であり、CLD[10]の値は、25であり、CLD[11]の値は、30である。CLD[12]の値は、35であり、CLD[13]の値は、40であり、CLD[14]の値は、45であり、CLD[15]の値は、150である。
空間情報符号化部180は、CLD量子化テーブルのCLD[idx]の値のうち、最もCLDの値に近いCLD[idx]を検出する。そして、空間情報符号化部は、検出したCLD[idx]に対応するidxの値を、量子化後のCLDの値とする。例えば、CLDの値が「10.8dB」の場合には、この値に最も近いCLD[idx]の値は、CLD[5]の10となる。このため、空間情報符号化部180がCLDの値「10.8dB」に対して量子化を行うと、量子化後の値は「5」となる。
次に、空間情報符号化部180がICCを量子化する処理について説明する。空間情報符号化部180は、ICC量子化テーブルと、ICCの値とを比較して、ICCを量子化する。図11は、ICC量子化テーブルのデータ構造を示す図である。図11に示すように、ICC量子化テーブルは、idx(index)と、ICC[idx]とを対応付けて保持する。
図11に示すように、ICC[0]の値は1であり、ICC[1]の値は0.937であり、ICC[2]の値は0.84118であり、ICC[3]の値は0.60092である。また、ICC[4]の値は0.36764であり、ICC[5]の値は0であり、ICC[6]の値は−0.589であり、ICC[7]の値は−0.99である。
空間情報符号化部180は、ICC量子化テーブルのICC[idx]の値のうち、最もICCの値に近いICC[idx]を検出する。そして、空間情報符号化部180は、検出したICCに対応するidxの値を、量子化後のICCの値とする。例えば、ICCの値が「0.6」の場合には、この値に最も近いICC[idx]の値は、ICC[3]の0.60092となる。このため、空間情報符号化部180がICCの値「0.6」に対して量子化を行うと、量子化後の値は「3」となる。
次に、空間情報符号化部180がCPCを量子化する処理について説明する。空間情報符号化部180が量子化するCPCは、上記のCPC1、CPC2に対応する。空間情報符号化部180は、CPC量子化テーブルと、CPCの値とを比較して、CPCを量子化する。図12は、CPC量子化テーブルのデータ構造を示す図である。図12に示すように、CPC量子化テーブルは、idx(index)と、CPC[idx]とを対応付けて保持する。
図12の1段目に示すように、CPC[−20]の値は−2.0であり、CPC[−19]の値は−1.9であり、CPC[−18]の値は−1.8であり、CPC[−17]の値は−1.7である。CPC[−16]の値は−1.6である。また、CPC[−15]の値は−1.5であり、CPC[−14]の値は−1.4であり、CPC[−13]の値は−1.3である。CPC[−12]の値は−1.2であり、CPC[−11]の値は−1.1であり、CPC[−10]の値は−1.0である。
図12の2段目に示すように、CPC[−9]の値は−0.9であり、CPC[−8]の値は−0.8であり、CPC[−7]の値は−0.7であり、CPC[−6]の値は−0.6であり、CPC[−5]の値は−0.5である。また、CPC[−4]の値は−0.4であり、CPC[−3]の値は−0.3であり、CPC[−2]の値は−0.2であり、CPC[−1]の値は−0.1であり、CPC[0]の値は0.0であり、CPC[1]の値は0.1である。
図12の3段目に示すように、CPC[2]の値は0.2であり、CPC[3]の値は0.3であり、CPC[4]の値は0.4であり、CPC[5]の値は0.5であり、CPC[6]の値は0.6である。また、CPC[7]の値は0.7であり、CPC[8]の値は0.8であり、CPC[9]の値は0.9であり、CPC[10]の値は1.0であり、CPC[11]の値は1.1であり、CPC[12]の値は1.2である。
図12の4段目に示すように、CPC[13]の値は1.3であり、CPC[14]の値は1.4であり、CPC[15]の値は1.5である。また、CPC[16]の値は1.6であり、CPC[17]の値は1.7であり、CPC[18]の値は1.8であり、CPC[19]の値は1.9である。また、CPC[20]の値は2.0であり、CPC[21]の値は2.1であり、CPC[22]の値は2.2であり、CPC[23]の値は2.3である。
図12の5段目に示すように、CPC[24]の値は2.4であり、CPC[25]の値は2.5であり、CPC[26]の値は2.6であり、CPC[27]の値は2.7である。また、CPC[28]の値は2.8であり、CPC[29]の値は2.9であり、CPC[30]の値は3.0である。
空間情報符号化部180は、CPC量子化テーブルのCPC[idx]の値のうち、最もCPCの値に近いCPC[idx]を検出する。そして、空間情報符号化部180は、検出したCPCに対応するidxの値を、量子化後のCPCの値とする。例えば、CPCの値が「1.21」の場合には、この値に最も近いCPC[idx]の値は、CPC[12]の1.2となる。このため、空間情報符号化部180がCPCの値「1.21」に対して量子化を行うと、量子化後の値は「12」となる。
空間情報符号化部180は、符号化した空間情報を多重化部190に出力する。
図1の説明に戻る。多重化部190は、コア符号化部160、残差符号化部170、空間情報符号化部から符号化された各データを取得し、取得した各データを多重化する処理部である。具体的に、多重化部190は、量子化されたダウンミックス信号L’’(k、n)、R’’(k、n)、量子化された残差信号resTTT(k、n)、残差信号resOTT1(k、n)、残差信号resOTT2(k、n)、量子化された空間情報を多重化する。
例えば、多重化部190の出力データの形式をMPEG−2 ADTS(Audio Data Transport Stream)形式とする。図13は、MPEG−2 ADTSのフォーマット例を示す図である。図13に示すように、出力データは、ADTSヘッダのフィールド1a、AACデータのフィールド1b、FILエレメントのフィールド1cを含む。
AACデータには、AAC方式で量子化されたダウンミックス信号L’’(k、n)、R’’(k、n)が格納される。FILエレメントは、SBRデータのフィールド1dとMPSデータのフィールド1eとを含む。SBRデータには、SBR方式で量子化されたダウンミックス信号L’’(k、n)、R’’(k、n)が格納される。MPSデータ1eには、量子化された残差信号と空間情報が格納される。多重化部190は、多重化したデータを外部装置に出力する。
次に、本実施例にかかるMPS符号器の処理手順について説明する。図14は、本実施例にかかるMPS符号器の処理手順を示すフローチャートである。図14に示す処理は、例えば、MPS符号器100が、入力信号を取得したことを契機として実行される。なお、図14に示すフロ−チャートにおいて、ステップS103〜ステップS104の処理と、ステップS105〜ステップS107の処理は平行して行われるものとする。なお、ステップS103〜ステップS104の処理を実行した後に、ステップS105〜ステップS107の処理を実行しても構わない。
図14に示すように、MPS符号器100の時間周波数変換部110は、入力信号を取得し(ステップS101)、入力信号を周波数信号に変換する(ステップS102)。信号変換部120は、周波数信号をダウンミックスし(ステップS103)、空間情報を重要度変換部140に通知する(ステップS104)。
一方、MPS符号器100の重要度算出部130は、各周波数信号の重要度を算出する(ステップS105)。重要度変換部140は、信号変換部120から取得する空間情報を利用して、各重要度をダウンミックスし(ステップS106)、ビット数判定部150は、重要度に基づいてビット配分を判定する(ステップS107)。
コア符号化部160および残差符号化部170は、ビット数判定部150から取得したビット配分に応じて信号を量子化し、空間情報符号化部180は、空間情報を量子化する(ステップS108)。そして、多重化部190は、量子化された各信号を多重化する(ステップS109)。
次に、本実施例にかかるMPS符号器100の効果について説明する。MPS符号器100は、ダウンミックスされる前の入力信号に含まれる各信号の重要度を算出する。そして、MPS符号器100は、各重要度をダウンミックスすることで、ダウンミックス後の入力信号と同数の重要度に変換し、各重要度に対応するダウンミックス後の入力信号を量子化する場合のビット配分を判定する。ダウンミックス前の重要度と入力信号とは一対一に対応しており、ダウンミックス後の入力信号と重要度ともそれぞれ対応しているため、入力信号に含まれる各信号のビット配分を正確に算出することができ、音質が劣化するという問題を解消することができる。
また、MPS符号器100は、R−OTT部121a〜121c、R−TTT部122を介して、6チャネルの周波数信号を5チャネルの信号にダウンミックスする。同様に、MPS符号器100は、R−OTT部121a〜121c、R−TTT部122を介して、6つの重要度を5つの重要度に変換する。このように、入力信号のダウンミックスと同様に、重要度をダウンミックスするので、ダウンミックス後の各信号の重要度をより適切に求めることができ、各信号に適したビット配分を求めることができる。
また、MPS符号器100は、周波数毎にマスキングパワーと周波数信号との差分を算出し、算出した差分の値を合計することで、各周波数信号の重要度を算出する。このため、各周波数信号の重要度を精度良く算出することができる。
なお、上記の各処理部110〜190は、例えば、ASIC(Application Specific Integrated Circuit)や、FPGA(Field Programmable Gate Array)などの集積装置に対応する。また、上記処理部110〜190は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等の電子回路に対応する。
ところで、図1に示したMPS符号器100の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、MPS符号器100の分散、統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、図1の重要度算出部130、重要度変換部140、ビット数判定部150の処理をまとめて実行する処理部をMPS符号器100に設けても良い。
また、MPS符号器100は、既知のパーソナルコンピュータ、ワークステーション、移動体通信端末またはPDAなどの情報処理装置に、MPS符号器100の各機能を搭載することによって実現することもできる。
図15は、実施例にかかるMPS符号器を構成するコンピュータのハードウェア構成を示す図である。図15に示すように、このコンピュータ200は、各種演算処理を実行するCPU(Central Processing Unit)210と、ユーザからのデータの入力を受け付ける入力装置220と、モニタ230を有する。また、コンピュータ200は、記憶媒体からプログラム等を読取る媒体読み取り装置240と、ネットワークを介して他のコンピュータとの間でデータの授受を行うネットワークインターフェース装置250を有する。また、コンピュータ200は、各種情報を一時記憶するRAM(Random Access Memory)260と、ハードディスク装置270を有する。各装置210〜270は、バス280に接続される。
ハードディスク装置270は、重要度算出プログラム271、信号変換プログラム272、重要度変換プログラム273、ビット数判定プログラム274、量子化プログラム275を記憶する。
CPU210は、ハードディスク装置270に記憶された各プログラム271〜275を読み出して、RAM260に展開する。これにより、重要度算出プログラム271は、重要度算出プロセス261として機能する。信号変換プログラム272は、信号変換プロセス262として機能する。重要度変換プログラム273は、重要度変換プロセス263として機能する。ビット数判定プログラム274は、ビット数判定プロセス264として機能する。量子化プログラム275は、量子化プロセス265として機能する。
重要度算出プロセス261は、図1の重要度算出部130に対応する。信号変換プロセス262は、図1の信号変換部120に対応する。重要度変換プロセス263は、図1の重要度変換部140に対応する。ビット数判定プロセス264は、図1のビット数判定部150に対応する。量子化プロセス265は、図1のコア符号化部160、残差符号化部170、空間情報符号化部180に対応する。RAM260の各プロセス261〜265が処理を実行することにより、入力信号を量子化する。
なお、上記のプログラム271〜275は、必ずしもハードディスク装置270に格納されている必要はない。例えば、CD−ROM等の記憶媒体に記憶されたプログラム271〜275を、コンピュータ200が読み出して実行するようにしてもよい。また、公衆回線、インターネット、LAN(Local Area Network)、WAN(Wide Area Network)等に接続された記憶装置に、各プログラム271〜275を記憶させておいてもよい。この場合、コンピュータ200がこれらから各プログラム271〜275を読み出して実行するようにしてもよい。
以上の各実施例を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)入力信号に含まれる第1の数の信号の重要度をそれぞれ算出する重要度算出部と、
前記入力信号に含まれる第1の数の信号を第2の数の信号に変換する信号変換部と、
前記重要度算出部が算出した第1の数の重要度を第2の数の重要度に変換する重要度変換部と、
前記重要度変換部により変換された第2の数の重要度に基づいて、前記信号変換部により変換された第2の数の信号の量子化後のビット数をそれぞれ判定するビット数判定部と、
前記ビット数判定部の判定結果に基づいて、第2の数の信号を量子化する量子化部と、
を有することを特徴とする符号器。
(付記2)前記重要度変換部は、前記信号変換部で得られた空間情報に基づいて、第1の数の重要度を第2の数の重要度に変換することを特徴とする付記1に記載の符号器。
(付記3)前記信号変換部は、第1の数の信号を所定の数の信号に変換し、所定の数の信号を第2の数の信号に変換し、前記重要度変換部は、第1の数の重要度を所定の数の重要度に変換し、所定の数の重要度を第2の数の重要度に変換することを特徴とする付記1に記載の符号器。
(付記4)前記重要度算出部は、周波数毎にマスキングパワーと入力信号との差分を算出し、算出した差分の値を合計することで、入力信号の重要度を算出することを特徴とする付記1、2または3に記載の符号器。
(付記5)コンピュータが実行する符号化方法であって、
入力信号に含まれる第1の数の信号の重要度をそれぞれ算出し、
算出した第1の数の重要度を第2の数の重要度に変更し、
前記入力信号に含まれる第1の数の信号を第2の数の信号に変更し、
前記第2の数の重要度に基づいて、前記第2の数の信号の量子化後のビット数をそれぞれ判定し、
判定結果に基づいて、前記第2の数の信号を量子化することを特徴とする符号化方法。
(付記6)前記第1の数の信号を所定の数の信号に変換した後に、所定の数の信号を第2の数の信号に変換し、第1の数の重要度を所定の数の重要度に変換した後に、所定の数の重要度を第2の数の重要度に変換することを特徴とする付記5に記載の符号化方法。
(付記7)周波数毎にマスキングパワーと入力信号との差分を算出し、算出した差分の値を合計することで、入力信号の重要度を算出することを特徴とする付記5または6に記載の符号化方法。
(付記8)コンピュータに、
入力信号に含まれる第1の数の信号の重要度をそれぞれ算出し、
算出した第1の数の重要度を第2の数の重要度に変更し、
前記入力信号に含まれる第1の数の信号を第2の数の信号に変更し、
第2の数の重要度に基づいて、第2の数の信号の量子化後のビット数をそれぞれ判定し、
判定結果に基づいて、前記第2の数の信号を量子化する処理を実行させる符号化プログラム。
(付記9)前記第1の数の信号を所定の数の信号に変換した後に、所定の数の信号を第2の数の信号に変換し、第1の数の重要度を所定の数の重要度に変換した後に、所定の数の重要度を第2の数の重要度に変換することを特徴とする付記8に記載の符号化プログラム。
(付記10)周波数毎にマスキングパワーと入力信号との差分を算出し、算出した差分の値を合計することで、入力信号の重要度を算出することを特徴とする付記8または9に記載の符号化プログラム。
100 MPS符号器
110 時間周波数変換部
120 信号変換部
130 重要度算出部
140 重要度変換部
150 ビット数判定部
160 コア符号化部
170 残差符号化部
180 空間情報符号化部
190 多重化部

Claims (6)

  1. 入力信号に含まれる第1の数の信号の重要度をそれぞれ算出する重要度算出部と、
    前記入力信号に含まれる第1の数の信号を第2の数の信号に変換する信号変換部と、
    前記重要度算出部が算出した第1の数の重要度を第2の数の重要度に変換する重要度変換部と、
    前記重要度変換部により変換された第2の数の重要度に基づいて、前記信号変換部により変換された第2の数の信号の量子化後のビット数をそれぞれ判定するビット数判定部と、
    前記ビット数判定部の判定結果に基づいて、第2の数の信号を量子化する量子化部と、
    を有することを特徴とする符号器。
  2. 前記重要度変換部は、前記信号変換部で得られた空間情報に基づいて、第1の数の重要度を第2の数の重要度に変換することを特徴とする請求項1に記載の符号器。
  3. 前記信号変換部は、第1の数の信号を所定の数の信号に変換し、所定の数の信号を第2の数の信号に変換し、前記重要度変換部は、第1の数の重要度を所定の数の重要度に変換し、所定の数の重要度を第2の数の重要度に変換することを特徴とする請求項1に記載の符号器。
  4. 前記重要度算出部は、周波数毎にマスキングパワーと入力信号との差分を算出し、算出した差分の値を合計することで、入力信号の重要度を算出することを特徴とする請求項1、2または3に記載の符号器。
  5. コンピュータが実行する符号化方法であって、
    入力信号に含まれる第1の数の信号の重要度をそれぞれ算出し、
    算出した第1の数の重要度を第2の数の重要度に変更し、
    前記入力信号に含まれる第1の数の信号を第2の数の信号に変更し、
    前記第2の数の重要度に基づいて、前記第2の数の信号の量子化後のビット数をそれぞれ判定し、
    判定結果に基づいて、前記第2の数の信号を量子化することを特徴とする符号化方法。
  6. コンピュータに、
    入力信号に含まれる第1の数の信号の重要度をそれぞれ算出し、
    算出した第1の数の重要度を第2の数の重要度に変更し、
    前記入力信号に含まれる第1の数の信号を第2の数の信号に変更し、
    第2の数の重要度に基づいて、第2の数の信号の量子化後のビット数をそれぞれ判定し、
    判定結果に基づいて、前記第2の数の信号を量子化する処理を実行させる符号化プログラム。
JP2010293284A 2010-12-28 2010-12-28 符号器、符号化方法および符号化プログラム Expired - Fee Related JP5582027B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010293284A JP5582027B2 (ja) 2010-12-28 2010-12-28 符号器、符号化方法および符号化プログラム
US13/311,682 US20120163608A1 (en) 2010-12-28 2011-12-06 Encoder, encoding method, and computer-readable recording medium storing encoding program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010293284A JP5582027B2 (ja) 2010-12-28 2010-12-28 符号器、符号化方法および符号化プログラム

Publications (2)

Publication Number Publication Date
JP2012141412A true JP2012141412A (ja) 2012-07-26
JP5582027B2 JP5582027B2 (ja) 2014-09-03

Family

ID=46316835

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010293284A Expired - Fee Related JP5582027B2 (ja) 2010-12-28 2010-12-28 符号器、符号化方法および符号化プログラム

Country Status (2)

Country Link
US (1) US20120163608A1 (ja)
JP (1) JP5582027B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013050658A (ja) * 2011-08-31 2013-03-14 Nippon Hoso Kyokai <Nhk> 多チャネル音響符号化装置およびそのプログラム
JP2016522909A (ja) * 2013-04-30 2016-08-04 ドルビー ラボラトリーズ ライセンシング コーポレイション マルチチャネル・オーディオのハイブリッド・エンコード

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101871234B1 (ko) * 2012-01-02 2018-08-02 삼성전자주식회사 사운드 파노라마 생성 장치 및 방법
EP2757559A1 (en) 2013-01-22 2014-07-23 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for spatial audio object coding employing hidden objects for signal mixture manipulation
EP2830053A1 (en) 2013-07-22 2015-01-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Multi-channel audio decoder, multi-channel audio encoder, methods and computer program using a residual-signal-based adjustment of a contribution of a decorrelated signal
JP6288100B2 (ja) 2013-10-17 2018-03-07 株式会社ソシオネクスト オーディオエンコード装置及びオーディオデコード装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0816195A (ja) * 1994-06-30 1996-01-19 Samsung Electron Co Ltd ディジタルオーディオ符号化方法及び装置
JP2002175098A (ja) * 2000-09-21 2002-06-21 Matsushita Electric Ind Co Ltd 符号化装置、符号化方法、プログラムおよびプログラム記録媒体
JP2007183528A (ja) * 2005-12-06 2007-07-19 Fujitsu Ltd 符号化装置、符号化方法、および符号化プログラム
JP2008529056A (ja) * 2005-02-23 2008-07-31 テレフオンアクチーボラゲット エル エム エリクソン(パブル) マルチチャネル音声符号化における適応ビット割り当て
WO2010003575A1 (en) * 2008-07-11 2010-01-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Efficient use of phase information in audio encoding and decoding
JP2010540985A (ja) * 2007-09-19 2010-12-24 テレフオンアクチーボラゲット エル エム エリクソン(パブル) マルチチャネル・オーディオのジョイント強化

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5632005A (en) * 1991-01-08 1997-05-20 Ray Milton Dolby Encoder/decoder for multidimensional sound fields
US7116787B2 (en) * 2001-05-04 2006-10-03 Agere Systems Inc. Perceptual synthesis of auditory scenes

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0816195A (ja) * 1994-06-30 1996-01-19 Samsung Electron Co Ltd ディジタルオーディオ符号化方法及び装置
JP2002175098A (ja) * 2000-09-21 2002-06-21 Matsushita Electric Ind Co Ltd 符号化装置、符号化方法、プログラムおよびプログラム記録媒体
JP2008529056A (ja) * 2005-02-23 2008-07-31 テレフオンアクチーボラゲット エル エム エリクソン(パブル) マルチチャネル音声符号化における適応ビット割り当て
JP2007183528A (ja) * 2005-12-06 2007-07-19 Fujitsu Ltd 符号化装置、符号化方法、および符号化プログラム
JP2010540985A (ja) * 2007-09-19 2010-12-24 テレフオンアクチーボラゲット エル エム エリクソン(パブル) マルチチャネル・オーディオのジョイント強化
WO2010003575A1 (en) * 2008-07-11 2010-01-14 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Efficient use of phase information in audio encoding and decoding

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013050658A (ja) * 2011-08-31 2013-03-14 Nippon Hoso Kyokai <Nhk> 多チャネル音響符号化装置およびそのプログラム
JP2016522909A (ja) * 2013-04-30 2016-08-04 ドルビー ラボラトリーズ ライセンシング コーポレイション マルチチャネル・オーディオのハイブリッド・エンコード

Also Published As

Publication number Publication date
JP5582027B2 (ja) 2014-09-03
US20120163608A1 (en) 2012-06-28

Similar Documents

Publication Publication Date Title
KR101491890B1 (ko) 다운믹스 신호 및 공간 파라메트릭 정보로부터 다이렉트/앰비언스 신호를 추출하기 위한 장치 및 방법
US8433583B2 (en) Audio decoding
KR101056325B1 (ko) 복수의 파라미터적으로 코딩된 오디오 소스들을 결합하는 장치 및 방법
EP2483887B1 (en) Mpeg-saoc audio signal decoder, method for providing an upmix signal representation using mpeg-saoc decoding and computer program using a time/frequency-dependent common inter-object-correlation parameter value
KR101613975B1 (ko) 멀티 채널 오디오 신호의 부호화 방법 및 장치, 그 복호화 방법 및 장치
KR101662681B1 (ko) 멀티채널 오디오 인코더 및 멀티채널 오디오 신호 인코딩 방법
JP4794448B2 (ja) オーディオエンコーダ
JP5582027B2 (ja) 符号器、符号化方法および符号化プログラム
US9280976B2 (en) Audio signal encoder
CA2887228C (en) Encoder, decoder and methods for backward compatible multi-resolution spatial-audio-object-coding
US20110206223A1 (en) Apparatus for Binaural Audio Coding
KR20120084278A (ko) 스케일러블 채널 복호화 방법 및 장치
JP2014063202A (ja) マルチチャネルの符号化及び復号化方法並びに装置
NO340450B1 (no) Forbedret koding og parameterfremstilling av flerkanals nedblandet objektkoding
MX2012005414A (es) Codificacion y decodificacion parametricas.
US20110206209A1 (en) Apparatus
US20120121091A1 (en) Ambience coding and decoding for audio applications
EP4213147A1 (en) Directional loudness map based audio processing
JP2015518578A (ja) パラメトリック空間オーディオ符号化および復号化のための方法、パラメトリック空間オーディオ符号器およびパラメトリック空間オーディオ復号器
US20130279702A1 (en) Device and method for postprocessing a decoded multi-channel audio signal or a decoded stereo signal
KR102033985B1 (ko) 공간적 오디오 객체 코딩에 오디오 정보를 적응시키기 위한 장치 및 방법
JP2006113294A (ja) 音響信号符号化装置及び音響信号復号装置
US8271291B2 (en) Method and an apparatus for identifying frame type
EP4404197A2 (en) Time-domain stereo parameter encoding method and related product
KR20140037118A (ko) 오디오 신호 처리방법, 오디오 부호화장치, 오디오 복호화장치, 및 이를 채용하는 단말기

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131007

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140522

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140617

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140630

R150 Certificate of patent or registration of utility model

Ref document number: 5582027

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees