JP7199930B2 - 音声処理プログラム、情報処理装置、音声処理方法、および情報処理システム - Google Patents

音声処理プログラム、情報処理装置、音声処理方法、および情報処理システム Download PDF

Info

Publication number
JP7199930B2
JP7199930B2 JP2018218377A JP2018218377A JP7199930B2 JP 7199930 B2 JP7199930 B2 JP 7199930B2 JP 2018218377 A JP2018218377 A JP 2018218377A JP 2018218377 A JP2018218377 A JP 2018218377A JP 7199930 B2 JP7199930 B2 JP 7199930B2
Authority
JP
Japan
Prior art keywords
virtual
sound
parameter
volume
sound source
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018218377A
Other languages
English (en)
Other versions
JP2020088527A (ja
Inventor
拓朗 安田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nintendo Co Ltd
Original Assignee
Nintendo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nintendo Co Ltd filed Critical Nintendo Co Ltd
Priority to JP2018218377A priority Critical patent/JP7199930B2/ja
Priority to US16/592,987 priority patent/US11115772B2/en
Publication of JP2020088527A publication Critical patent/JP2020088527A/ja
Application granted granted Critical
Publication of JP7199930B2 publication Critical patent/JP7199930B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/302Electronic adaptation of stereophonic sound system to listener position or orientation
    • H04S7/303Tracking of listener position or orientation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/11Positioning of individual sound objects, e.g. moving airplane, within a sound field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S2400/00Details of stereophonic systems covered by H04S but not provided for in its groups
    • H04S2400/13Aspects of volume control, not necessarily automatic, in stereophonic sound systems

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Stereophonic System (AREA)

Description

本発明は、音声制御処理に関する。
従来から、仮想的な音源と仮想マイクとの距離に基づいて、音量を制御する技術が知られている。
特開2014-94160号公報
しかし、上記の技術においては、音質に関しては何も触れられていなかった。
それ故に、本発明の目的は、仮想音源からの距離に基づいた音声制御において音量と音質とを別々に制御する、今までにない新たな音声処理が可能な音声処理プログラム、情報処理装置、音声処理方法、情報処理システムを提供することである。
上記目的を達成するために、例えば以下のような構成例が挙げられる。
構成例の一例は、音声処理プログラムであって、情報処理装置のコンピュータに、仮想空間内に少なくとも1つの仮想的な音源を配置させ、仮想空間内の第1の基準から仮想的な音源までの距離に基づいて音量に関するパラメータを算出させ、第1の基準とは異なる仮想空間内の第2の基準から仮想的な音源までの距離に基づいて音質に関するパラメータを算出させ、音量に関するパラメータに基づいた音量と音質に関するパラメータに基づいた音質とで、仮想的な音源に関連付けられた音声を出力させる。
上記構成例によれば、音量にかかる処理で用いる基準と音質に係る処理で用いる基準とで異なる基準を用いるため、音量とは別で、演出としてどこに注目させたいかを考慮した音声表現が可能となる。
他の構成例として、第1の基準は、仮想空間内に定義される線分であって、第2の基準は、仮想空間内に定義される点であってもよい。
上記構成例によれば、3人称視点で画像を表示するゲーム処理等において、特にプレイヤオブジェクトの位置から手前側に存在する音源の音量について、プレイヤに与える違和感を少なくすることができる。
他の構成例として、第2の基準は、線分の一方端に位置していてもよい。
他の構成例として、第1の基準は、仮想空間内に設定される第1の点であって、第2の基準は、仮想空間内の第1の点とは異なる位置に設定される第2の点であってもよい。
上記構成例によれば、第1の点と第2の点とで異なる位置を設定するため、音量とは別で音質を制御でき、演出としてどこに注目させたいかを考慮した音声表現が可能となる。
他の構成例として、音声処理プログラムは、コンピュータに、さらに、仮想空間内において仮想カメラを制御させ、第1の基準および第2の基準の位置をそれぞれ仮想カメラの移動に応じて移動させてもよい。
上記構成例によれば、仮想カメラの移動に伴って第1の基準および第2の基準を移動するため、プレイヤオブジェクトの位置に応じた適切な音声演出が可能となる。
他の構成例として、第2の基準は、仮想カメラの注視点となる位置に設定されてもよい。
上記構成例によれば、画像において注目させたい位置と音声において注目させたい位置とを一致させることができる。
他の構成例として、音量に関するパラメータは、第1の基準と仮想的な音源との距離が近いと音量が大きく、当該距離が遠いと音量が小さくなるように算出されてもよい。
上記構成例によれば、音量に関する表現として、違和感の少ない表現が可能となる。
他の構成例として、音質に関するパラメータは、周波数特性の変化の度合いを示すパラメータであってもよい。
上記構成例によれば、第2の基準と仮想的な音源との距離に基づいて、当該音源に係る音声の周波数特性を変化させることができる。
他の構成例として、周波数特性の変化の度合いを示すパラメータは、特定の周波数成分を減少させるためのパラメータであり、第2の基準と仮想的な音源との距離が近いと減少度合いが小さく、第2の基準と仮想的な音源との距離が遠くなるほど減少度合いが大きくなるように算出されてもよい。
上記構成例によれば、特定周波数成分のみ変化させることで、より効率的に音質を変化させ、音質の制御によってプレイヤの注目度を変えることができる。
他の構成例として、音質に関するパラメータは、残響効果に関するパラメータであってもよい。
上記構成例によれば、第2の基準と仮想的な音源との距離に基づいて、当該音源にかかる音声の残響効果を変化させることができる。
他の構成例として、残響効果に関するパラメータは、第2基準から音源までの距離が近いほど直接音と間接音との時間差を大きく、当該距離が遠くなるほど当該時間差を小さくするように算出されるようにしてもよい。
上記構成例によれば、違和感の少ない残響効果を表現しつつ、プレイヤの注目度を音質の制御によって変えることができる。
本実施形態によれば、音量にかかる処理で用いる基準と音質に係る処理で用いる基準とで異なる基準を用いるため、音量とは別に、プレイヤの音に対する注目度を変化させることができる。
本体装置2に左コントローラ3および右コントローラ4を装着した状態の一例を示す図 本体装置2の内部構成の一例を示すブロック図 本実施形態に係るゲーム画面の一例 図3の状態を俯瞰した模式図 音量に関する基準を説明するための図 音量に関する基準を説明するための図 音質に関する基準を説明するための図 周波数特性の変化について説明するための図 周波数特性の変化について説明するための図 近距離残響を説明するための図 遠距離残響を説明するための図 残響効果について説明するための図 残響効果にかかる処理概要を説明するための図 近距離残響パラメータ、遠距離残響パラメータの音量と音質距離との関係を示す図 本体装置2の記憶部84に記憶される各種データの一例を示すメモリマップ 音源オブジェクトデータ305のデータ構成の一例 本ゲーム処理の詳細を示すフローチャート 音源オブジェクトのパラメータ設定処理の詳細を示すフローチャート 音質パラメータ算出処理の詳細を示すフローチャート 第2の実施形態における音量に関する基準を説明するための図
以下、本発明の実施形態について説明する。
まず、本実施形態にかかる情報処理を実行するための情報処理システムについて説明する。本実施形態では、情報処理システムの一例として、ゲームシステムを例として説明する。このゲームシステムはどのようなものでもよいが、図1に、一例として本例で用いるゲームシステムの外観図を示す。図1で示すゲームシステム1は、本体装置(情報処理装置;本実施形態ではゲーム装置本体として機能する)2と左コントローラ3および右コントローラ4とを含む。本体装置2は、左コントローラ3および右コントローラ4がそれぞれ着脱可能である。つまり、ゲームシステム1は、左コントローラ3および右コントローラ4をそれぞれ本体装置2に装着して一体化された装置として利用できる。また、ゲームシステム1は、本体装置2と左コントローラ3および右コントローラ4とを別体として利用することもできる。なお、図1は、本体装置2に左コントローラ3および右コントローラ4を装着した状態の一例を示す図である。図1に示すように、左コントローラ3および右コントローラ4は、それぞれ本体装置2に装着されて一体化されている。本体装置2は、ゲームシステム1における各種の処理(例えば、ゲーム処理)を実行する装置である。本体装置2は、ディスプレイ12を備える。左コントローラ3および右コントローラ4は、プレイヤが入力を行うための操作部を備える装置である。
図2は、本体装置2の内部構成の一例を示すブロック図である。本体装置2は、プロセッサ81を備える。プロセッサ81は、本体装置2において実行される各種の情報処理を実行する情報処理部であって、例えば、CPU(Central Processing Unit)のみから構成されてもよいし、CPU機能、GPU(Graphics Processing Unit)機能等の複数の機能を含むSoC(System-on-a-chip)から構成されてもよい。プロセッサ81は、記憶部84に記憶される情報処理プログラム(例えば、ゲームプログラム)を実行することによって、各種の情報処理を実行する。なお、記憶部84は、例えば、フラッシュメモリやDRAM(Dynamic Random Access Memory)等の内部記憶媒体であってもよいし、図示しないスロットに装着される外部記憶媒体等を利用する構成でもよい。
本体装置2は、コントローラ通信部83を備える。コントローラ通信部83は、プロセッサ81に接続される。コントローラ通信部83は、本体装置2と左コントローラ3および右コントローラ4とを別体として利用する場合において、左コントローラ3および/または右コントローラ4と無線通信を行う。本体装置2と左コントローラ3および右コントローラ4との通信方式は任意であるが、本実施形態においては、コントローラ通信部83は、左コントローラ3との間および右コントローラ4との間で、Bluetooth(登録商標)の規格に従った通信を行う。
また、本体装置2は、本体装置2が左コントローラ3と有線通信を行うための端子である左側端子17と、本体装置2が右コントローラ4と有線通信を行うための右側端子21を備える。
また、ディスプレイ12は、プロセッサ81に接続される。プロセッサ81は、(例えば、上記の情報処理の実行によって)生成した画像および/または外部から取得した画像をディスプレイ12に表示する。
本体装置2は、コーデック回路87およびスピーカ(具体的には、左スピーカおよび右スピーカ)88を備える。コーデック回路87は、スピーカ88および音声入出力端子25に接続されるとともに、プロセッサ81に接続される。コーデック回路87は、スピーカ88および音声入出力端子25に対する音声データの入出力を制御する回路である。
なお、図示は省略するが、本体装置2で生成された画像や音声については、所定の出力端子を介して、外部モニタ/外部スピーカに出力することも可能である。
[コントローラについて]
また、図示は省略するが、左コントローラ3、右コントローラ4は、それぞれ、本体装置2との間で通信を行う通信制御部を備えている。本体装置2に左コントローラ3および右コントローラ4を装着した状態では、上記左側端子17および右側端子21を介した有線通信が可能である。また、本体装置2と左コントローラ3および右コントローラ4とを別体として利用する場合は、上記端子を介さない無線通信で本体装置2と通信を行うことが可能である。通信制御部は、コントローラの各入力部から、入力に関する情報(具体的には、操作に関する情報を取得する。そして、通信制御部は、取得した情報(または取得した情報に所定の加工を行った情報)を含む操作データを本体装置2へ送信する。なお、操作データは、所定時間に1回の割合で繰り返し送信される。なお、入力に関する情報が本体装置2へ送信される間隔は、各入力部について同じであってもよいし、同じでなくてもよい。
[第1の実施形態における音声制御処理の概要]
次に、第1の実施形態にかかるゲームシステムで実行される処理の動作概要を説明する。本実施形態で想定する処理は、主に音声制御に関する処理である。具体的には、音の注目度を制御する処理を行う。
図3に、第1の実施形態におけるゲーム画面の一例を示す。本実施形態では、仮想3次元空間(以下、単に仮想空間と呼ぶ)の様子を仮想カメラで撮像したものをゲーム画像として表示している。本実施形態では、3人称視点でゲーム画像を表示する場合を例とする。図3では、画面の略中央にプレイヤオブジェクト101が表示されている。本実施形態では、仮想カメラの注視点はプレイヤオブジェクト101の位置に設定されるものとする。また、プレイヤオブジェクト101が仮想空間内で移動すれば、仮想カメラについても、プレイヤオブジェクトが画面の略中央に表示され続けるように、その位置を移動させる。また、図3のゲーム画像では、音源オブジェクト102A、102B、102Cも表示されている。当該図3の状態における仮想カメラ、プレイヤオブジェクト101、各音源オブジェクト102の位置関係をわかりやすくするため、当該仮想空間を俯瞰した場合の模式図を図4として示す。図4において、仮想カメラから見てプレイヤオブジェクト101の手前側で右側の位置に、音源オブジェクト102Aが存在している。また、プレイヤオブジェクト101から奥行き側であって左側の位置に音源オブジェクト102Bが存在している。また、プレイヤオブジェクト101から更に奥行き側で右側の位置に、音源オブジェクト102Cも表示されている。これらの音源オブジェクト102は、仮想空間内において、所定の音声を発するオブジェクトである。本例では、音源オブジェクト102のそれぞれが異なる内容の音声を発するものとする。以下の説明では、このような位置関係であることを前提として、音声制御処理の説明を行う。
本実施形態の音声制御処理では、後述する「基準」と各音源オブジェクト102との間の距離に基づき、音量に関する処理と音質に関する処理とが行われる。ここで、本実施形態において、音量とは、音の大きさを示す。また、音質とは、その音声の明瞭さ(聞き取りやすさ)を示す。そして、本実施形態では、音量に関する処理と音質に関する処理について、それぞれ異なる基準を用いるものである。以下、この2つの異なる基準を用いる理由および本実施形態に係る処理の原理に関して説明する。
まず、プレイヤの音に対する注目度を変化させるには、音量を変化させることが考えられる、すなわち、音量を上げるとその音の注目度が高くなることが考えられる。また、同じく音の注目度を変化させるため、音質を変化させることも有効と考えられる。例えば、音質が高い音声(クリアな音声)のほうが音質の低い音声(不明瞭な音声)よりも注目度が高くなると考えられる。ここで、音量と音質の変化度合いを計算する際に、両者の変化度合いを、例えば仮想カメラの位置から音源オブジェクトまでの距離に応じて計算すると、結果的に、音の注目度は音量の大きさと一致してしまう。つまり、音量、音質共に、「仮想カメラの位置」を基準として計算する場合である。例えば、距離が近い音源のほうが、音量が大きく、かつ、音質も高くなり、距離が遠い音源のほうが、音量が小さく、音質も低くなる。その結果、単純に音量が大きい音源のほうが、その注目度が高いものとなる。換言すれば、音量の注目点と音質の注目点とが一致している状態といえる。
上記のように、音量の注目点と音質の注目点とが一致する状態では、結果的に音の注目度が音量の大きさに一致してしまうことになる。そこで、本実施形態の処理では、音量の変化度合いの計算に用いる基準と音質の変化度合いの計算に用いる基準とで別々の基準を用いて処理を行う。これにより、音量は大きいが音質は低く、音の注目度としては低い、あるいは、音量は小さいが音質は高く、音の注目度は高い、という表現を可能とする。一例を挙げると、仮想カメラの近くに大きく写っているが、ゲーム演出的には重要度が低い音については、その音質を下げることで、ピントがずれたような音の表現が可能となる。そして、仮想カメラからは遠いが、プレイヤオブジェクト101のすぐ側にあり、プレイヤに注目させたい音源の音について、相対的に音質を高めることで、その注目度を高める、という表現が可能となる。換言すれば、音量とは別で、演出としてどこにプレイヤを注目させたいのか、という点を考慮した表現が可能となる。
次に、本実施形態の処理の原理について図5~図7を用いてより具体的に説明する。
[音量の基準について]
まず、図5および図6を用いて、音量に関する基準について説明する。一般に、音量の大きさは、受音点(音声を聴取する位置)となる所定の基準位置、例えば、仮想カメラ(仮想マイク)の位置から音源までの距離に比例すると考えられる。この点、本実施形態では、音源オブジェクトまでの距離の算出の基準として、図5に示すような線分106を用いている。以下、この線分のことを、「音量基準線」と呼ぶ。本実施形態では、音量基準線106は、仮想カメラと注視点(プレイヤオブジェクト101の位置)とを結ぶ線分として定義される。そして、本実施形態では、各音源オブジェクト102と当該音量基準線106とを最短距離で結ぶ直線距離に基づいて、各音源オブジェクトにかかる音量に関するパラメータ(以下、音量パラメータと呼ぶ)を算出する。図5の例では、各音源オブジェクト102と音量基準線106との最短距離となる直線距離(以下ではこの距離のことを音量距離と呼ぶ)を比較すると、音源オブジェクト102Aにかかる音量距離が一番短く、次に音源オブジェクト102B、最後に音源オブジェクト102C、という順で音量距離が長くなっている。そのため、音量パラメータとして、音源オブジェクト102Aにかかる音量が一番大きくなるようなパラメータが算出される。例えば音量を1~10の10段階(値が小さいものほど音量も小さい)で表した場合は、音源オブジェクト102Aの音量は2、音源オブジェクト102Bの音量は3、音源オブジェクト102Cの音量は8、となるように音量パラメータが算出される。
なお、音量基準線106からの最短距離に基づいて音量パラメータを算出するため、この最短距離が同じであれば、仮想カメラからの距離にかかわらず同じ音量を示す音量パラメータが算出され得る。例えば図6に示すように、音源オブジェクト102Dが存在しているとする。この音源オブジェクト102Dの位置は、音源オブジェクト102Aと、そのx、y座標は同一であり、z座標のみが仮想カメラ側に近い位置である。すなわち、仮想カメラからの距離で考えると、音源オブジェクト102Dのほうが音源オブジェクト102Aよりも仮想カメラに近い位置にある。しかし、音量基準線106からの最短距離で見た場合、両者共に同じ音量距離となる。そのため、この場合は、音源オブジェクト102Aと102Dとは、同じ音量として算出されることになる。
このように、線分を用いて音量を算出することで、上記図3で示したようなプレイヤオブジェクトが表示される3人称視点でゲーム画像を表示する場合において、プレイヤに違和感の少ない音声表現ができる。例えば、仮想カメラの位置~プレイヤオブジェクト間に存在する複数の音源オブジェクトについては、これらの音量は同じ程度にしたほうが、プレイヤに与える違和感は少ないものとなる。
[音質の基準について]
次に、音質に関する基準について説明する。図7は、音質に関する基準について説明するための図である。本実施形態では、音量については、上記「音量基準線」という線分を用いているのに対して、音質に関しては、図7に示すような音質基準点108という基準を利用する。つまり、概念的には、音量に関する処理における受音点と音質に関する処理における受音点を異ならせて処理を行うものといえる。当該音質基準点108は、仮想空間内に定義されるものである。本実施形態では、当該音質基準点108は、注視点と同じ位置に設定される(結果的に、本例ではプレイヤオブジェクト101の位置と重なることになる)。そのため、結果的には音質基準点108は音量基準線106の一端と同じ位置に設定されることになる。
本実施形態では、上記音質基準点と各音源オブジェクトとの最短距離となる直線距離に基づいて、各音源オブジェクトにかかる音質に関するパラメータ(以下、音質パラメータ)を算出する。図7の例では、各音源オブジェクト102と音質基準点108との最短距離となる直線距離(以下ではこの距離のことを音質距離と呼ぶ)を比較すると、音源オブジェクト102Bに係る音質距離が最短となっている。つまり、上記音量距離で考えた場合は音源オブジェクトAが最短距離に存在する音源オブジェクトであるが、音質距離で考えた場合は、音源オブジェクトBが最短距離に存在する音源オブジェクトということになる。この場合、本実施形態では、音源オブジェクト102Aよりも音源オブジェクト102Bの音の注目度が高くなるように、各音源オブジェクト102の音質パラメータを算出する。具体的には、音源オブジェクト102Aの音質が音源オブジェクト102Bの音質よりも低くなるように音質パラメータを算出する。これにより、相対的に音質が高くなる音源オブジェクト102Bに対するプレイヤの注目度を上げることが可能となる。
ここで、本実施形態における具体的な音質パラメータの内容に関して説明する。本実施形態では、音質を変化させる処理の例として、「周波数特性の変化させる処理」と「残響を変化させる処理」を行う。
[周波数特性の変化について]
まず、周波数特性を変化させる処理の概念について説明する。図8はある音声の(本来の)周波数スペクトラムを示す図である。図8において、縦軸は音量、横軸は周波数を示す。また、図9は、同じ音声について周波数特性を変化させた後の周波数スペクトラムを示す図である。図9において点線で囲んで示しているように、300hzの周波数成分、および、2khzの周波数成分(より正確には、これらの周波数成分を中心とした周波数帯の成分)の音量を図8のものより減少させる処理を行うことで、当該音声に係る周波数特性を変化させている。そして、本実施形態では、この減少させる量(変化させる量)を上記音質距離に基づいて算出する。具体的には、上記音質距離が長いほど、当該減少させる量も大きくなるように算出する。以下の説明では、この減少させる量を示す値のことを「周波数特性パラメータ」と呼ぶ。
なお、図8および図9の例では、300hz、および、2khzの周波数成分について減少させる例を示しているが、これは一例であって、減少させる具体的な周波数成分はこれに限るものではない。上記の例は、図8で例示する音声についてはこれらの周波数成分を減少させることで、より効果的にその音声の明瞭性を調整できる、というものの一例である。なお、本実施形態の処理では、全ての音源オブジェクトについて一律に300hz、および、2khzの周波数成分の音量を変化させるものとする。但し、他の実施形態では、例えば音源オブジェクト毎に、減少させる周波数成分を異ならせてもよい。つまり、その音源オブジェクトが発する音声内容に応じて、音質の変化がより効果的に現れるような周波数成分を変化させるようにしてもよい。
また、本実施形態では、周波数特性の変化として、その音源から発せられる本来の音声をデフォルトとして、周波数成分を「減少」だけさせる場合を例としている。すなわち、周波数成分をデフォルトの値から増加はさせないような処理としている。この点についても、他の実施形態では、周波数成分を減少させる他、増加させるような処理を行ってもよい。
[残響の変化について]
次に、残響を変化させる処理の概念について説明する。本実施形態では、直接音と間接音(反射音とも呼ばれる)との時間差の大きさを変化させることで、その音に対するプレイヤの注目度を変えようとするものである。この時間差は、例えば受音点と音源との距離に応じて変化するものである。例えば、受音点が音源に近い場合の残響と受音点が音源から遠い場合の残響とでは、直接音と間接音との時間差も異なってくる。以下の説明では、前者の残響のことを「近距離残響」と呼び、後者の残響のことを「遠距離残響」と呼ぶ。
ここで、この「近距離残響」および「遠距離残響」の概念について図を用いて補足説明する。図10は、本実施形態における近距離残響の概念を示す模式図である。図10では、四方が壁に囲まれている空間を俯瞰した状態を示しており、この空間内には音源121と、受音点122が存在している例を示す。図10においては、図の左端近くに音源121が存在し、そのすぐ右側に受音点122が存在している。このような位置関係の場合、音源から発せられた直接音については直接受音点に到達する。一方、間接音については、図10の例では、一旦、図の右端の壁まで到達した後反射して、受音点122に到達することになる。そのため、直接音が受音点122に到達する時間と、間接音が受音点122に到達する時間の差は大きいと考えられる。一方、図11は、本実施形態における遠距離残響の概念を示す模式図である。この図では、上記図10に対して、受音点122の位置が図の右端の壁付近に存在している。つまり、音源121と受音点122との距離は、図10の場合よりも長くなっている。このような場合、直接音が受音点122に到達する時間と、右端壁で反射した間接音が受音点122に到達する時間との差は、上記図10の場合よりも小さなものになると考えられる。これらのことから、本実施形態では、近距離残響における直接音と間接音との時間差が遠距離残響における時間差よりも大きくなるようにする。図12に、近距離残響の場合の時間差と遠距離残響の場合の時間差との一例を示す。図12において、左のグラフは近距離残響の一例を示し、右のグラフは遠距離残響の一例を示す。また、グラフの縦軸は音の強度を示し、横軸は時間を示している。図12で示されるように、近距離残響の場合の直接音と間接音との時間差は、遠距離残響の場合よりも大きなものとなっている。
そして、本実施形態の処理では、上記近距離残響を想定した間接音(以下、近距離残響音)と、遠距離残響を想定した間接音(以下、遠距離残響音)とを生成し、これらを直接音と合成することで、出力する音声を生成するという処理を行う。このような間接音の生成に際して、近距離残響に係る音量と遠距離残響にかかる音量を上記音質距離に応じて変化させる。例えば、音質距離が短い場合は、近距離残響にかかる音量のほうが遠距離残響に係る音量よりも大きくなるようにする。より具体的には、近距離残響に係る処理で用いる音量と遠距離残響に係る処理で用いる音量との振り分け比率を算出し、振り分けられた音量で近距離残響音と遠距離残響音とがそれぞれ生成される。
ここで、図13を用いて、本実施形態における残響に関する処理について補足説明する。図13は、ある音源から発せられた音声の音量について、直接音と間接音とにどのように振り分けて処理されるかを示す処理ブロック図である。図13において、ある音源から、音量100の音声が発せられたとする。これに対して、まず、上記音量距離に基づいて出力すべき音声の音量を決定する処理が行われる。ここでは、音量が50に決定されたとする。したがって、音量50の直接音が出力されることになる。さらに、当該決定された50の音量を用いて、間接音を生成する処理が実行される。つまり、当該音量50の直接音の残響を生成する処理が実行される。上記のように、本実施形態では近距離残響の間接音と遠距離残響の間接音を生成する処理が実行される。この処理に先立って、各処理に振り分ける音量の比率が決定される。以下の説明では、近距離残響にかかる処理に振り分ける音量を示す値を「近距離残響パラメータ」と呼ぶ。また、遠距離残響にかかる処理に振り分ける音量を示す値を「遠距離残響パラメータ」と呼ぶ。また、両者を総称して「残響パラメータ」と称することもある。この残響パラメータは、音質距離に応じて決められる。例えば、図14で示すグラフのような関係となるように残響パラメータが算出される。図14は、近距離残響パラメータ、遠距離残響パラメータのそれぞれの音量と音質距離との関係を示すグラフである。図14に示すように、音質距離が0~距離Aまでは、処理に用いる音量の近距離残響パラメータの比率が100%となり、距離A~距離Bにかけて、近距離残響パラメータの比率が徐々に下がっていくと共に遠距離残響パラメータの比率が徐々に上がっていく。そして。距離B以降になると、遠距離残響パラメータの比率が100%となっている。一例ではあるが、本実施形態では、このグラフで示される関係となるように残響パラメータが音質距離に応じて算出される。
図13に戻り、上記残響パラメータの算出の結果、例えば、近距離残響効果の処理に対して音量40、遠距離残響効果の処理に対して音量10として音量が振り分けられたとする。その結果、音量が40の近距離残響音と、音量が10の遠距離残響音とが出力され、上記音量50の直接音と合成されて、出力されるべき音声信号が生成されることになる。
なお、近距離残響を想定した間接音の生成の際には、時間差を設定することの他、近距離における残響らしく聞こえるように、適切な音響効果を付する処理が適宜行われてもよい。遠距離残響を想定した間接音の生成の場合も同様に、適切な音響効果を付する処理が適宜行われてもよい。
このように、本実施形態では、音量にかかる処理で用いる基準と音質に係る処理で用いる基準とで異なる基準を用いている。これにより、従来の表現に加えて、「音量とは別で演出としてどこに注目させたいか」を考慮した今までに無い音声表現・音声演出が可能となる。
[本実施形態のゲーム処理の詳細]
次に、図15~図19を参照して、本実施形態におけるゲーム処理についてより詳細に説明する。
[使用データについて]
まず、本ゲーム処理にて用いられる各種データに関して説明する。図15は、本体装置2の記憶部84に記憶される各種データの一例を示すメモリマップである。本体装置2の記憶部84には、ゲームプログラム301、操作データ302、仮想カメラパラメータ303、プレイヤオブジェクトデータ304、音源オブジェクトデータ305、音量基準線データ306、および、音質基準点データ307等が記憶されている。
ゲームプログラム301は、本実施形態にかかるゲーム処理を実行するためのプログラムである。
操作データ302は、上記左コントローラ3および右コントローラ4から得られるデータであり、プレイヤの操作内容を示すデータである。当該操作データ302には、各コントローラが有する各種ボタンの押下状態を示すデータやアナログスティックに対する操作内容を示すためのデータ等が含まれている。
仮想カメラパラメータ303は、仮想空間内における仮想カメラの位置、向き(撮像方向)、画角、注視点等の仮想カメラ制御に用いるための各種パラメータである。
プレイヤオブジェクトデータ304は、上記プレイヤオブジェクト101に関するデータであり、その外観を示すデータや、当該プレイヤオブジェクトの仮想空間内における現在位置を示すデータ等が含まれている。
音源オブジェクトデータ305は、上記音源オブジェクト102に関するデータであり、それぞれの音源オブジェクトに対応した複数の音源オブジェクトデータ305が記憶される。図15では、音源オブジェクトデータ#n(nは1から始まる整数とする)と示している。各音源オブジェクトデータ305には、図16で示されるようなデータが含まれる。図16は、各音源オブジェクトデータ305のデータ構成の一例である。音源オブジェクトデータ305には、音源オブジェクトID310、原音声データ311、音量パラメータ312、音質パラメータ313、等が含まれる。音源オブジェクトID310は、各音源オブジェクトを一意に識別するためのIDである。原音声データ311は、その音源オブジェクトが発する音声を定義したデータである。例えば、音源オブジェクトが「洗濯機」であれば、洗濯機が発する動作音等をサンプリングした音声データである。換言すれば、当該音源オブジェクトに関連づけられた音声とも言える。音量パラメータ312は、上述した音量距離に基づいて算出されるパラメータであり、その音源オブジェクトが発する音声の音量を示すパラメータでもある。音質パラメータ313は、上記音質距離に基づいて算出されるパラメータである。音質パラメータ313には、上述したような周波数特性パラメータ314、近距離残響パラメータ315、遠距離残響パラメータ316が含まれる。その他、図示は省略するが、その音源オブジェクトの外観を示すデータ等も音源オブジェクトデータ305に含まれている。
図15に戻り、音量基準線データ306は、上述した音量基準線106を示すためのデータである。また、音質基準点データ307は、上述した音質基準点108を示すためのデータである。
[プロセッサ81が実行する処理の詳細]
次に、図17~図19のフローチャートを参照して、第1の実施形態にかかるゲーム処理の詳細を説明する。以下の説明では、主に音源オブジェクトに関する制御を中心として説明し、その他のゲーム処理についての詳細な説明は割愛する。
図17は、本ゲーム処理の詳細を示すフローチャートである。まず、ステップS1で、ゲームを開始するための各種の準備処理が実行される。具体的には、プロセッサ81は、記憶部84に記憶されているデータに基づいて仮想空間を構築し、プレイヤオブジェクト101、各音源オブジェクト102等の各種オブジェクトと仮想カメラとを、初期位置として設定されている仮想空間内の位置に配置する処理を実行する。そして、仮想カメラで仮想空間を撮像してゲーム画像を生成し、ディスプレイ12に出力する。また、当該初期配置状態における各種の音声(BGM、各種効果音等)の出力も開始する。
次に、ステップS2で、プレイヤオブジェクト101を含む各種オブジェクトにかかる動作処理が実行される。プレイヤオブジェクト101については、操作データ302で示される操作内容に基づいて、プレイヤオブジェクトを移動させたり、所定の動作を行わせたりする処理が実行される。また、その他のオブジェクトに関しては、例えば自律的に移動するよう設定されているオブジェクトについては、適宜移動させる処理が実行される。
次に、ステップS3で、仮想カメラのパラメータを設定する処理が実行される。具体的には、上記ステップS2の処理が反映されたプレイヤオブジェクトの位置に基づいて、仮想カメラの位置、向き、画角、注視点等のパラメータが設定され、仮想カメラパラメータ303として記憶部84に記憶される。なお、本実施形態では、仮想カメラについては、一例として、プレイヤオブジェクトから一定の距離を保つようにして、プレイヤオブジェクトに追従移動するものとする。このことは、プレイヤオブジェクト101の移動に伴って仮想カメラが移動し、その結果、上記音量基準線106および音質基準点108の位置も変化し得ることを意味する。
次に、ステップS4で、各音源オブジェクトに関するパラメータを設定するための処理が実行される。すなわち、各音源オブジェクトについて、その音量および音質に関するパラメータを設定する処理が実行される。図18は、当該音源オブジェクトのパラメータを設定するための処理の詳細を示すフローチャートである。図18において、まず、ステップS11で、上記音量基準線106を算出する処理が実行される。具体的には、プロセッサ81は、現在の仮想カメラの位置と注視点(本例ではプレイヤオブジェクト101の位置)とを結ぶ線分を算出し、当該線分を示すデータを音量基準線データ306として記憶部84に記憶する。
次に、ステップS12で、上記音質基準点108を算出する処理が実行される、本実施形態では、注視点の位置を音質基準点108として算出し、その位置を示す音質基準点データ307として記憶部84に記憶する。
次に、ステップS13で、仮想空間内に存在する音源オブジェクト102を検出する処理が実行される。例えば、プレイヤオブジェクト101あるいは仮想カメラから所定範囲内に存在する音源オブジェクト102を検出する処理が実行される。次に、ステップS14で、上記検出した音源オブジェクト102の中から、以下に説明するステップS15~S16の処理対象とする音源オブジェクト102を一つ選択する処理が実行される。すなわち、ステップS15~S16の処理がまだ実行されていない音源オブジェクト102の中から1つを選択する処理が実行される。以下、ここで選択された音源オブジェクト102のことを、処理対象オブジェクトと呼ぶ。
次に、ステップS15で、処理対象オブジェクトに係る音量を示す音量パラメータを算出する処理が実行される。具体的には、まず、処理対象オブジェクトと上記音量基準線106との最短距離である上記音量距離が算出される。次に、当該算出した音量距離に基づいて、処理対象オブジェクトにかかる音量が算出される。そして、当該算出した音量を示す値が音量パラメータ312として記憶部84に格納される。
次に、ステップS16で、音質パラメータ算出処理が実行される。この処理では、上記音質距離に基づき上記周波数特性パラメータおよび残響パラメータを算出する処理が実行される。図19は、当該音質関連処理の詳細を示すフローチャートである。図19において、まずステップS21で、上記音質基準点108と処理対象オブジェクトとの間の上記音質距離が算出される。
次に、ステップS22で、上記算出された音質距離に応じた周波数特性パラメータが算出される。すなわち、上記図8および図9を用いて説明したような、所定の周波数成分にかかる音量の減少度合いが算出される。本実施形態では、音質距離が長いほど(つまり、音源から遠いほど)減少度合いが大きくなり、音質距離が短いほど(つまり、音源に近いほど)減少度合いも小さくなるように算出される。例えば、このような算出が可能な所定の関数を用いてもよいし、このような関係を定義したテーブルデータ等を用いてもよい。そして、当該算出された減少度合いを示す値が周波数特性パラメータ314として記憶部84に格納される。
次に、ステップS24で、音質距離に基づいて、近距離残響パラメータ315および遠距離残響パラメータ316を算出する処理が実行される。例えば、上述の図14のグラフで示される結果が導出されるような関数(あるいは当該グラフの内容を定義したテーブルデータでもよい)が用いられ、音質距離に基づき近距離残響パラメータ315および遠距離残響パラメータ316が算出されて、記憶部84に記憶される。以上で、音質パラメータ算出処理は終了する。
図18に戻り、次に、ステップS17で、検出された全ての音源オブジェクトに対して上記ステップS15~S16の処理が行われたか否かが判定され、未処理の音源オブジェクトが残っている場合は(ステップS17でNO)、上記ステップS14に戻り、処理が繰り返される。全ての音源オブジェクトが処理済みであれば(ステップS17でYES)、音源オブジェクトのパラメータ設定処理は終了する。
図17に戻り、次に、ステップS5で、上記ステップS4で算出された各種パラメータに基づき、各音源オブジェクトにかかる音声を生成する処理が実行される。
次に、ステップS6で、上記各音源オブジェクトにかかる音声を合成して、出力用のゲーム音声を生成する処理が実行される。
次に、ステップS7で、出力用ゲーム画像を生成する処理が実行される。具体的には、上記仮想カメラで仮想空間を撮像することで、出力用のゲーム画像が生成される。
なお、当該ステップS7のゲーム画像の生成処理において、ゲーム内容に応じて、被写界深度を設定する処理を併用してもよい。例えば、ゲーム画像上で、注視点から所定距離以上離れている位置の画像をぼやかして表示するための画像処理を行ってもよい。これにより、ゲーム画像上における注目点(プレイヤに注目させたい点)をわかりやすく表現することができる。
次に、ステップS8で、上記生成された出力用ゲーム音声および出力用ゲーム画像を出力する処理が実行される。その後、ステップS9で、ゲームを終了する条件が満たされたか否かが判定される。例えばプレイヤによるゲーム終了操作が行われたか否か、等が判定される。その結果、ゲーム終了条件が満たされていない場合は(ステップS9でNO)、上記ステップS2に戻り、処理が繰り返される。ゲーム終了条件が満たされていた場合は(ステップS9でYES)、本実施形態にかかるゲーム処理が終了する。
このように、本実施形態では、音量に関するパラメータの算出に用いる基準と、音質に関するパラメータの算出に用いる基準とで、異なる基準を用いてそれぞれのパラメータを算出している。これにより、「音量とは別で演出としてどこに注目させたいか」を考慮した今までに無い音声表現・音声演出が可能となる。例えば、仮想カメラの近くに大きく写っているが、ゲームの内容的には重要度が低い音声については、ピントがずれたような音声の表現が可能となる。また、プレイヤに注目させたい音、すなわち、重要度の高い音声について、相対的にクリアな音声で表現して、プレイヤの注目度を高めることも可能となる。
また、例えば、ゲーム画像の処理において被写界深度を設定し、画像上で注目させたいオブジェクトにピントを合わせた映像表現を行った場合を想定する。このような場合に、音声の観点からもこのオブジェクトにピントを合わせたような表現ができ、映像における演出意図と音声における演出意図とを一致させることが可能となる。
[第2の実施形態]
次に、第2の実施形態について説明する。上記第1の実施形態では、音量距離の算出の基準として、音量基準線106という「線分」を用いる例を示した。第2の実施形態では、このような線分ではなく、音量距離算出の基準として「点」を用いるものである。このような音量距離算出の基準以外の構成については、上記第1の実施形態と同様である。
図20は、第2の実施形態における音量距離の算出基準について説明するための図である。図20では、仮想カメラの位置に音量基準点109を定義している。第2の実施形態では、この音量基準点109と各音源オブジェクトとの最短となる直線距離を上記音量距離として用いるものである。このように「点」の位置を用いる場合は、例えば仮想カメラとプレイヤオブジェクトの位置(つまり視点)が同じとなる1人称視点のゲームにおいて、音量に関してプレイヤに与える違和感を軽減できる。
一方、音質基準点108については、第1の実施形態同様に注視点の位置としている。そのため、音量距離の算出基準を「点」の位置にしても、その位置は音質基準点108とは異なる位置、すなわち、異なる基準となっているため、上記第1の実施形態と同様に、音質を変化させて音の注目度を変えることができ、第2の実施形態でも、「音量とは別で演出としてどこに注目させたいか」を考慮した音声表現が可能となる。
なお、具体的な処理に関しては、上記第1の実施形態における音量基準線データ306の代わりに、上記音量基準点を示すデータを用いるようにすればよい。
このように、第2の実施形態では、音量距離算出の基準として、「点」となる位置を用いている。これにより、特に1人称視点のゲームにおいて、音量についての違和感を軽減させつつ、第1の実施形態の場合と同様に、音質の変化によるプレイヤの音の注目度を変えることができ、今までに無い新たな音声表現が可能となる。
[その他の変形例]
なお、上記第1の実施形態では、音量基準線106については音量基準線データ306として一時的に記憶部に保持する構成であったが、他の実施形態では、音量基準線データ306を用いない構成であってもよい。例えば、上記図18におけるステップS15の処理において、処理対象オブジェクトの位置と仮想カメラの位置および注視点の位置に基づいて、その都度音量距離を算出するような構成としてもよい。この場合、ステップS11の処理は不要となる。
また、音質基準点108について、上記実施形態では、注視点の位置に設定する例を示した。この音質基準点108について、ゲーム処理中にその位置を移動させるようにしてもよい。例えば、ゲーム開始当初は注視点と音質基準点108とを一致させた状態であるが、その後のゲーム展開等に応じて、音質基準点108だけ仮想空間内の他の位置に移動させてもよい。上記図7の例で言うと、音質基準点108の位置を図の右上方向、すなわち音源オブジェクト102Cに近づけるようにしてもよい。また、その他、画面外(画角の範囲外)に音質基準点108を移動させるようにしてもよい。これにより、音質の注目点を変化させることによるプレイヤの視線誘導が可能となる。特に、VR(バーチャルリアリティ)コンテンツにおいて、プレイヤの没入感を損なわずに視線誘導を行わせることも可能となる。
また、残響効果の処理に関して、上記実施形態では、近距離残響用の処理と遠距離残響用の処理と2つの残響効果を用意し、これらで用いる音量の振り分け比率を上記残響パラメータとして算出していた。他の実施形態では、上記のような振り分け比率は用いずに、音質距離に基づいて近距離残響から遠距離残響、あるいは遠距離残響から近距離残響に徐々に切り替えていくような処理を行ってもよい。つまり、近距離残響音と遠距離残響音とを生成して合成する処理ではなく、音質距離に応じた単体の残響音を生成して出力するような処理でもよい。
また、例えば、ゲーム処理中に1人称視点と3人称視点とを切り替え可能なゲームにおいては、音量距離算出の基準について、上記第1の実施形態にかかる音量基準線106と第2の実施形態に係る音量基準点109とを切り替えるような構成としてもよい。これにより、視点の変化に応じて違和感の少ない音声表現が可能となる。
また、上記実施形態では、ゲームシステムにおけるゲーム処理に適用する場合を例に挙げたが、ゲーム処理に限るものではなく、仮想3次元空間における音声制御を行う情報処理全般について、上記のような処理は適用可能である。例えば、ゲーム的な要素のないVRコンテンツ等にも適用可能である。
また、上記実施形態においては、ゲーム処理にかかる一連の処理が単一の装置において実行される場合を説明したが、他の実施形態においては、上記一連の処理が複数の情報処理装置からなる情報処理システムにおいて実行されてもよい。例えば、端末側装置と、当該端末側装置とネットワークを介して通信可能なサーバ側装置とを含む情報処理システムにおいて、上記一連の処理のうちの一部の処理がサーバ側装置によって実行されてもよい。更には、端末側装置と、当該端末側装置とネットワークを介して通信可能なサーバ側装置とを含む情報処理システムにおいて、上記一連の処理のうちの主要な処理がサーバ側装置によって実行され、当該端末側装置では一部の処理が実行されてもよい。また、上記情報処理システムにおいて、サーバ側のシステムは、複数の情報処理装置によって構成され、サーバ側で実行するべき処理を複数の情報処理装置が分担して実行してもよい。
1 ゲームシステム
2 本体装置
3 左コントローラ
4 右コントローラ
12 ディスプレイ
81 プロセッサ
84 記憶部

Claims (28)

  1. 情報処理装置のコンピュータに、
    仮想空間内に少なくとも1つの仮想的な音源を配置させ、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出させ、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出させ、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力させ
    前記第1の基準は、前記仮想空間内に定義される線分であって、
    前記第2の基準は、前記仮想空間内に定義される点である、音声処理プログラム。
  2. 前記第2の基準は、前記線分の一方端に位置する、請求項記載の音声処理プログラム。
  3. 前記第1の基準は、前記仮想空間内に設定される第1の点であって、
    前記第2の基準は、前記仮想空間内の前記第1の点とは異なる位置に設定される第2の点である、請求項1記載の音声処理プログラム。
  4. 前記音声処理プログラムは、前記コンピュータに、さらに、
    前記仮想空間内において仮想カメラを制御させ、
    前記第1の基準および前記第2の基準の位置をそれぞれ前記仮想カメラの移動に応じて移動させる、請求項1乃至のいずれかに記載の音声処理プログラム。
  5. 前記第2の基準は、前記仮想カメラの注視点となる位置に設定される、請求項に記載の音声処理プログラム。
  6. 前記音量に関するパラメータは、前記第1の基準と前記仮想的な音源との距離が近いと音量が大きく、当該距離が遠いと音量が小さくなるように算出される、請求項1乃至のいずれかに記載の音声処理プログラム。
  7. 前記音質に関するパラメータは、周波数特性の変化の度合いを示すパラメータである、請求項1乃至のいずれかに記載の音声処理プログラム。
  8. 前記周波数特性の変化の度合いを示すパラメータは、特定の周波数成分を減少させるためのパラメータであり、前記第2の基準と前記仮想的な音源との距離が近いと減少度合いが小さく、前記第2の基準と前記仮想的な音源との距離が遠くなるほど減少度合いが大きくなるように算出される、請求項に記載の音声処理プログラム。
  9. 前記音質に関するパラメータは、残響効果に関するパラメータである、請求項1乃至7のいずれかに記載の音声処理プログラム。
  10. 情報処理装置のコンピュータに、
    仮想空間内に少なくとも1つの仮想的な音源を配置させ、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出させ、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出させ、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力させ、
    前記仮想空間内において仮想カメラを制御させ、
    前記第1の基準および前記第2の基準の位置をそれぞれ前記仮想カメラの移動に応じて移動させ、
    前記第2の基準は、前記仮想カメラの注視点となる位置に設定される、音声処理プログラム。
  11. 情報処理装置のコンピュータに、
    仮想空間内に少なくとも1つの仮想的な音源を配置させ、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出させ、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出させ、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力させ、
    前記音質に関するパラメータは、残響効果に関するパラメータであり、当該残響効果に関するパラメータは、第2基準から音源までの距離が近いほど直接音と間接音との時間差を大きく、当該距離が遠くなるほど当該時間差を小さくするように算出される、音声処理プログラム。
  12. 音声処理を実行する情報処理装置であって、
    仮想空間内に少なくとも1つの仮想的な音源を配置し、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出し、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出し、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力し、
    前記第1の基準は、前記仮想空間内に定義される線分であって、
    前記第2の基準は、前記仮想空間内に定義される点である、情報処理装置。
  13. 前記第2の基準は、前記線分の一方端に位置する、請求項12に記載の情報処理装置。
  14. 前記第1の基準は、前記仮想空間内に設定される第1の点であって、
    前記第2の基準は、前記仮想空間内の前記第1の点とは異なる位置に設定される第2の点である、請求項12に記載の情報処理装置。
  15. 前記情報処理装置は、さらに、
    前記仮想空間内において仮想カメラを制御し、
    前記第1の基準および前記第2の基準の位置をそれぞれ前記仮想カメラの移動に応じて移動する、請求項12乃至14のいずれかに記載の情報処理装置。
  16. 前記第2の基準は、前記仮想カメラの注視点となる位置に設定される、請求項15に記載の情報処理装置。
  17. 前記音量に関するパラメータは、前記第1の基準と前記仮想的な音源との距離が近いと音量が大きく、当該距離が遠いと音量が小さくなるように算出される、請求項12乃至15のいずれかに記載の情報処理装置。
  18. 前記音質に関するパラメータは、周波数特性の変化の度合いを示すパラメータである、請求項12乃至17のいずれかに記載の情報処理装置。
  19. 前記周波数特性の変化の度合いを示すパラメータは、特定の周波数成分を減少させるためのパラメータであり、前記第2の基準と前記仮想的な音源との距離が近いと減少度合いが小さく、前記第2の基準と前記仮想的な音源との距離が遠くなるほど減少度合いが大きくなるように算出される、請求項18に記載の情報処理装置。
  20. 前記音質に関するパラメータは、残響効果に関するパラメータである、請求項12乃至19のいずれかに記載の情報処理装置。
  21. 音声処理を実行する情報処理装置であって、
    仮想空間内に少なくとも1つの仮想的な音源を配置し、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出し、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出し、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力し、
    前記仮想空間内において仮想カメラを制御し、
    前記第1の基準および前記第2の基準の位置をそれぞれ前記仮想カメラの移動に応じて移動し、
    前記第2の基準は、前記仮想カメラの注視点となる位置に設定される、情報処理装置。
  22. 音声処理を実行する情報処理装置であって、
    仮想空間内に少なくとも1つの仮想的な音源を配置し、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出し、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出し、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力し、
    前記音質に関するパラメータは、残響効果に関するパラメータであり、当該残響効果に関するパラメータは、第2基準から音源までの距離が近いほど直接音と間接音との時間差を大きく、当該距離が遠くなるほど当該時間差を小さくするように算出される、情報処理装置。
  23. 情報処理装置を制御するコンピュータに実行させる音声処理方法であって、
    前記コンピュータに、
    仮想空間内に少なくとも1つの仮想的な音源を配置させ、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出させ、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出させ、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力させ
    前記第1の基準は、前記仮想空間内に定義される線分であって、
    前記第2の基準は、前記仮想空間内に定義される点である、音声処理方法。
  24. 情報処理装置を制御するコンピュータに実行させる音声処理方法であって、
    前記コンピュータに、
    仮想空間内に少なくとも1つの仮想的な音源を配置させ、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出させ、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出させ、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力させ、
    前記仮想空間内において仮想カメラを制御させ、
    前記第1の基準および前記第2の基準の位置をそれぞれ前記仮想カメラの移動に応じて移動させ、
    前記第2の基準は、前記仮想カメラの注視点となる位置に設定される、音声処理方法。
  25. 情報処理装置を制御するコンピュータに実行させる音声処理方法であって、
    前記コンピュータに、
    仮想空間内に少なくとも1つの仮想的な音源を配置させ、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出させ、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出させ、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力させ、
    前記音質に関するパラメータは、残響効果に関するパラメータであり、当該残響効果に関するパラメータは、第2基準から音源までの距離が近いほど直接音と間接音との時間差を大きく、当該距離が遠くなるほど当該時間差を小さくするように算出される、音声処理方法
  26. 音声処理を実行する情報処理システムであって、
    仮想空間内に少なくとも1つの仮想的な音源を配置し、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出し、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出し、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力し、
    前記第1の基準は、前記仮想空間内に定義される線分であって、
    前記第2の基準は、前記仮想空間内に定義される点である、情報処理システム
  27. 音声処理を実行する情報処理システムであって、
    仮想空間内に少なくとも1つの仮想的な音源を配置し、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出し、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出し、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力し、
    前記仮想空間内において仮想カメラを制御し、
    前記第1の基準および前記第2の基準の位置をそれぞれ前記仮想カメラの移動に応じて移動し、
    前記第2の基準は、前記仮想カメラの注視点となる位置に設定される、情報処理システム。
  28. 音声処理を実行する情報処理システムであって、
    仮想空間内に少なくとも1つの仮想的な音源を配置し、
    前記仮想空間内の第1の基準から前記仮想的な音源までの距離に基づいて音量に関するパラメータを算出し、
    前記第1の基準とは異なる前記仮想空間内の第2の基準から前記仮想的な音源までの距離に基づいて音質に関するパラメータを算出し、
    前記音量に関するパラメータに基づいた音量と、前記音質に関するパラメータに基づいた音質で、前記仮想的な音源に関連付けられた音声を出力し、
    前記音質に関するパラメータは、残響効果に関するパラメータであり、当該残響効果に関するパラメータは、第2基準から音源までの距離が近いほど直接音と間接音との時間差を大きく、当該距離が遠くなるほど当該時間差を小さくするように算出する、情報処理システム。
JP2018218377A 2018-11-21 2018-11-21 音声処理プログラム、情報処理装置、音声処理方法、および情報処理システム Active JP7199930B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018218377A JP7199930B2 (ja) 2018-11-21 2018-11-21 音声処理プログラム、情報処理装置、音声処理方法、および情報処理システム
US16/592,987 US11115772B2 (en) 2018-11-21 2019-10-04 Computer-readable non-transitory storage medium having stored therein sound processing program, information processing apparatus, sound processing method, and information processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018218377A JP7199930B2 (ja) 2018-11-21 2018-11-21 音声処理プログラム、情報処理装置、音声処理方法、および情報処理システム

Publications (2)

Publication Number Publication Date
JP2020088527A JP2020088527A (ja) 2020-06-04
JP7199930B2 true JP7199930B2 (ja) 2023-01-06

Family

ID=70726921

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018218377A Active JP7199930B2 (ja) 2018-11-21 2018-11-21 音声処理プログラム、情報処理装置、音声処理方法、および情報処理システム

Country Status (2)

Country Link
US (1) US11115772B2 (ja)
JP (1) JP7199930B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7487158B2 (ja) * 2021-10-08 2024-05-20 任天堂株式会社 ゲームプログラム、ゲーム装置、ゲームシステム、およびゲーム処理方法
JP7462017B2 (ja) 2022-12-01 2024-04-04 任天堂株式会社 音声処理プログラム、情報処理システム、情報処理装置、および音声処理方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000210471A (ja) 1999-01-21 2000-08-02 Namco Ltd ゲ―ム機用音声装置および情報記録媒体
JP2013102843A (ja) 2011-11-11 2013-05-30 Nintendo Co Ltd 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09160549A (ja) * 1995-12-04 1997-06-20 Hitachi Ltd 三次元音響提示方法および装置
US8559646B2 (en) * 2006-12-14 2013-10-15 William G. Gardner Spatial audio teleconferencing
JP6055657B2 (ja) 2012-11-09 2016-12-27 任天堂株式会社 ゲームシステム、ゲーム処理制御方法、ゲーム装置、および、ゲームプログラム
WO2014077374A1 (ja) * 2012-11-16 2014-05-22 ヤマハ株式会社 オーディオ信号処理装置、位置情報取得装置、およびオーディオ信号処理システム
EP3018918A1 (en) * 2014-11-07 2016-05-11 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Apparatus and method for generating output signals based on an audio source signal, sound reproduction system and loudspeaker signal

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000210471A (ja) 1999-01-21 2000-08-02 Namco Ltd ゲ―ム機用音声装置および情報記録媒体
JP2013102843A (ja) 2011-11-11 2013-05-30 Nintendo Co Ltd 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法

Also Published As

Publication number Publication date
JP2020088527A (ja) 2020-06-04
US20200162832A1 (en) 2020-05-21
US11115772B2 (en) 2021-09-07

Similar Documents

Publication Publication Date Title
US9724608B2 (en) Computer-readable storage medium storing information processing program, information processing device, information processing system, and information processing method
EP3684083A1 (en) Processing audio signals
US10126823B2 (en) In-vehicle gesture interactive spatial audio system
JP6243595B2 (ja) 情報処理システム、情報処理プログラム、情報処理制御方法、および情報処理装置
US20090262946A1 (en) Augmented reality enhanced audio
CN107168518B (zh) 一种用于头戴显示器的同步方法、装置及头戴显示器
JP7199930B2 (ja) 音声処理プログラム、情報処理装置、音声処理方法、および情報処理システム
JP4099434B2 (ja) 画像生成プログラム及びゲーム装置
JP2013102842A (ja) 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法
EP3065423A1 (en) Techniques for controlling devices based on user proximity
WO2010016189A1 (ja) ゲームプログラムおよびゲーム装置
JP4512652B2 (ja) ゲーム装置、ゲーム制御方法、及びゲーム制御プログラム
JP2020031303A (ja) 仮想空間における音声生成プログラム、および音声生成装置
JP2018023601A (ja) 音声処理プログラム、情報処理プログラム、音声処理方法、音声処理装置、及びゲームプログラム
JP5875219B2 (ja) ビデオゲーム処理装置、およびビデオゲーム処理プログラム
JP6187131B2 (ja) 音像定位装置
JP2014222306A (ja) ビデオゲーム処理装置、及びビデオゲーム処理プログラム
WO2016157678A1 (ja) 情報処理装置、情報処理方法及びプログラム
US11871206B2 (en) Computer-readable non-transitory storage medium having information processing program stored therein, information processing apparatus, information processing system, and information processing method
US10841702B2 (en) Computer-readable non-transitory storage medium having sound processing program stored therein, sound processing system, sound processing apparatus, and sound processing method
CN110428828B (zh) 一种语音识别方法、装置和用于语音识别的装置
US20240181344A1 (en) Computer-readable non-transitory storage medium having sound processing program stored therein, information processing system, information processing apparatus, and sound processing method
US20190379997A1 (en) Low-frequency interchannel coherence control
US11641459B2 (en) Viewing system, distribution apparatus, viewing apparatus, and recording medium
JP2024041378A (ja) ゲームプログラムおよびゲーム装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220201

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221025

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20221025

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20221108

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20221115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221221

R150 Certificate of patent or registration of utility model

Ref document number: 7199930

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150