JP2018019294A - 情報処理システム及びその制御方法、コンピュータプログラム - Google Patents
情報処理システム及びその制御方法、コンピュータプログラム Download PDFInfo
- Publication number
- JP2018019294A JP2018019294A JP2016148995A JP2016148995A JP2018019294A JP 2018019294 A JP2018019294 A JP 2018019294A JP 2016148995 A JP2016148995 A JP 2016148995A JP 2016148995 A JP2016148995 A JP 2016148995A JP 2018019294 A JP2018019294 A JP 2018019294A
- Authority
- JP
- Japan
- Prior art keywords
- sound
- listening
- viewpoint
- sound collection
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 18
- 238000000034 method Methods 0.000 title claims description 157
- 238000004590 computer program Methods 0.000 title claims description 5
- 230000005236 sound signal Effects 0.000 claims abstract description 47
- 238000003384 imaging method Methods 0.000 claims abstract description 7
- 230000008569 process Effects 0.000 claims description 136
- 238000001514 detection method Methods 0.000 claims description 18
- 238000005516 engineering process Methods 0.000 abstract description 2
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 28
- 230000008859 change Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 5
- 238000009826 distribution Methods 0.000 description 5
- 238000004091 panning Methods 0.000 description 5
- 240000004050 Pentaglottis sempervirens Species 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000003321 amplification Effects 0.000 description 3
- 238000003199 nucleic acid amplification method Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 3
- 210000005069 ears Anatomy 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
Images
Landscapes
- Television Receiver Circuits (AREA)
- Stereophonic System (AREA)
Abstract
Description
複数の撮影装置により撮影された複数の画像信号と、複数の収音点において収音された複数の収音信号とに基づいて、任意の視点に対応する画像及び音響を処理する情報処理システムであって、
視点位置と、撮影対象に対する視線の方向とを取得する取得手段と、
前記視点位置及び視線の方向に応じた画像であって、前記複数の画像信号に基づく画像に対応する音響信号を生成する基準となる聴取点を前記視点位置及び視線の方向に応じて決定する決定手段と、
前記複数の収音信号に基づいて、前記聴取点に応じた音響信号を生成する音響生成手段と
を備える。
(任意視点映像生成システム)
本発明の一実施形態に係る任意視点映像生成システムについて、図1を参照して説明する。図1は本実施形態に係る任意視点映像生成システムの一構成例を示すブロック図である。本実施形態に係る任意視点映像生成システムは、複数の撮影装置により撮影された複数の画像信号と、複数の収音点において収音された複数の収音信号とに基づいて、任意の視点に対応する画像及び音響を出力する情報処理システムとして動作する。
図1に示す本実施形態の構成において、視点情報に応じて聴取範囲、聴取点、聴取方向を決定し、それに基づいて音場生成を行う処理をフローチャートを参照して以下に説明する。図3は、本実施形態のメイン処理の処理手順を示すフローチャートである。以下の各ステップは、CPUの制御に基づき実行される。
図5は、本実施形態におけるS103の聴取範囲決定処理の詳細な処理手順を示すフローチャートである。なお、本フローチャートにおける処理は全て聴取範囲決定部2において行われる。
図7は、本実施形態におけるS108の被写体検知処理の詳細な処理手順を示すフローチャートである。なお、本フローチャートにおける処理は全て被写***置検知部9によって実行される。
図8は、本実施形態におけるS104の収音点選択処理の詳細な処理手順を示すフローチャートである。なお、本フローチャートにおける処理は全て収音点選択部3によって実行される。
図9は、本実施形態におけるS411の聴取範囲内収音点選択処理の詳細な処理手順を示すフローチャートである。なお、本フローチャートにおける処理も全て収音点選択部3によって実行される。
図10は、本実施形態におけるS105の再生信号生成処理の詳細な処理手順を示すフローチャートである。再生信号生成処理では、複数の収音信号に基づいて、聴取点及び聴取範囲に応じた音響信号を生成する。なお、本フローチャートにおける処理は全て音響信号生成部4によって実行される。
図11は、本実施形態におけるS603のステレオ再生信号生成処理の詳細な処理手順を示すフローチャートである。なお、本フローチャートにおける処理も全て音響信号生成部4によって実行される。
wL=(sin30°−sin(θ*30/90))/2sin30°=1/2−sin(θ/3)
wR=(sin30°+sin(θ*30/90))/2sin30°=1/2+sin(θ/3) (1)
ただし、wLは左チャンネルに対する振幅分配率、wRは右チャンネルに対する振幅分配率である。
図12は、本実施形態におけるS604のサラウンド再生信号生成処理の詳細な処理手順を示すフローチャートである。なお、本フローチャートにおける処理も全て音響信号生成部4によって実行される。
wR=(sin45°−sin(−25°))/2sin45°≒0.649
wSR=(sin45°+sin(−25°))/2sin45°≒0.351 (2)
次に、S805では、S804で分配した各チャンネルの信号を、チャンネル毎に出力バッファに加算する。一方、S806では、S802で判定された方向が同じチャンネルの出力バッファに、収音信号をそのまま加算する。
図13は、本実施形態におけるS605のヘッドフォン再生信号生成処理の詳細な処理手順を示すフローチャートである。なお、本フローチャートにおける処理も全て4の音響信号生成部によって実行される。
実施形態1では、聴取範囲内の収音点による収音信号を全て用いて再生信号を生成しているが、聴取範囲内の収音信号のうち重要な収音信号を選択して用いることもできる。ここでは、重要な収音信号の一例として、人の声(以下、「音声」という)を含む収音信号を選択する例を説明する。以下、この場合の実施形態について説明する。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (10)
- 複数の撮影装置により撮影された複数の画像信号と、複数の収音点において収音された複数の収音信号とに基づいて、任意の視点に対応する画像及び音響を処理する情報処理システムであって、
視点位置と、撮影対象に対する視線の方向とを取得する取得手段と、
前記視点位置及び視線の方向に応じた画像であって、前記複数の画像信号に基づく画像に対応する音響信号を生成する基準となる聴取点を前記視点位置及び視線の方向に応じて決定する決定手段と、
前記複数の収音信号に基づいて、前記聴取点に応じた音響信号を生成する音響生成手段と
を備えることを特徴とする情報処理システム。 - 前記決定手段は、前記音響信号を生成するために用いる収音信号の収音点を選択するための基準となる場所的範囲である聴取範囲をさらに決定し、
前記音響生成手段は、前記複数の収音信号に基づいて、前記聴取点及び聴取範囲に応じた音響信号を生成する
ことを特徴とする請求項1に記載の情報処理システム。 - 前記視線の仰角が予め定められた負の値を下回るか否かを判定する判定手段をさらに備え、
前記決定手段は、前記判定手段の判定結果に応じて、前記聴取範囲を決定する
ことを特徴とする請求項2に記載の情報処理システム。 - 前記取得手段は、前記視点から観察される画角をさらに取得し、
前記決定手段は、前記判定手段により前記視線の仰角が予め定められた負の値を下回ると判定されたときは、前記視点から見た前記画角に対応する前記撮影対象における範囲を前記聴取範囲として決定する
ことを特徴とする請求項3に記載の情報処理システム。 - 前記撮影対象における被写体の位置を検出する検出手段をさらに備え、
前記決定手段は、前記判定手段により前記視線の仰角が予め定められた負の値を下回らないと判定されたときは、前記撮影対象における前記被写体の位置を包含する範囲を前記聴取範囲として決定する
ことを特徴とする請求項3又は4に記載の情報処理システム。 - 前記検出手段は、前記複数の画像信号に基づく画像を解析して、当該画像に写り込んでいる被写体の位置を検出することを特徴とする請求項5に記載の情報処理システム。
- 前記決定手段は、前記聴取範囲の中心点を前記聴取点として決定することを特徴とする請求項2から6のいずれか1項に記載の情報処理システム。
- 前記決定手段は、前記視線の方向に基づいて、前記聴取点における聴取の方向を示す聴取方向をさらに決定し、
前記音響生成手段は、前記複数の収音信号に基づいて、前記聴取方向に応じた音響信号を生成する
ことを特徴とする請求項1から7のいずれか1項に記載の情報処理システム。 - 複数の撮影装置により撮影された複数の画像信号と、複数の収音点において収音された複数の収音信号とに基づいて、任意の視点に対応する画像及び音響を処理する情報処理システムの制御方法であって、
取得手段が、視点位置と、撮影対象に対する視線の方向とを取得する取得工程と、
決定手段が、前記視点位置及び視線の方向に応じた画像であって、前記複数の画像信号に基づく画像に対応する音響を生成する基準となる聴取点を前記視点位置及び視線の方向に応じて決定する決定工程と、
音響生成手段が、前記複数の収音信号に基づいて、前記聴取点に応じた音響信号を生成する音響生成工程と
を備えることを特徴とする情報処理システムの制御方法。 - コンピュータを請求項1から8のいずれか1項に記載の情報処理システムが備える各手段として機能させるためのコンピュータプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016148995A JP6410769B2 (ja) | 2016-07-28 | 2016-07-28 | 情報処理システム及びその制御方法、コンピュータプログラム |
US15/643,798 US10235010B2 (en) | 2016-07-28 | 2017-07-07 | Information processing apparatus configured to generate an audio signal corresponding to a virtual viewpoint image, information processing system, information processing method, and non-transitory computer-readable storage medium |
EP17183371.8A EP3276982B1 (en) | 2016-07-28 | 2017-07-26 | Information processing apparatus, information processing method, and program |
US16/257,520 US10664128B2 (en) | 2016-07-28 | 2019-01-25 | Information processing apparatus, configured to generate an audio signal corresponding to a virtual viewpoint image, information processing system, information processing method, and non-transitory computer-readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016148995A JP6410769B2 (ja) | 2016-07-28 | 2016-07-28 | 情報処理システム及びその制御方法、コンピュータプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018176120A Division JP6664456B2 (ja) | 2018-09-20 | 2018-09-20 | 情報処理システム及びその制御方法、コンピュータプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018019294A true JP2018019294A (ja) | 2018-02-01 |
JP2018019294A5 JP2018019294A5 (ja) | 2018-07-12 |
JP6410769B2 JP6410769B2 (ja) | 2018-10-24 |
Family
ID=61081764
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016148995A Active JP6410769B2 (ja) | 2016-07-28 | 2016-07-28 | 情報処理システム及びその制御方法、コンピュータプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6410769B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019216002A1 (ja) * | 2018-05-11 | 2019-11-14 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
JPWO2021020150A1 (ja) * | 2019-07-26 | 2021-02-04 | ||
WO2021166808A1 (ja) * | 2020-02-18 | 2021-08-26 | Kddi株式会社 | 複数のマイクロフォンの収音信号をミキシングする装置、方法及びコンピュータ可読記憶媒体 |
JPWO2020059447A1 (ja) * | 2018-09-18 | 2021-08-30 | 富士フイルム株式会社 | 音声信号処理装置、音声信号処理方法、音声信号処理プログラム、音声信号処理システム及び撮影装置 |
JP2022163173A (ja) * | 2016-12-05 | 2022-10-25 | マジック リープ, インコーポレイテッド | 仮想現実(vr)、拡張現実(ar)、および複合現実(mr)システムのための分散型オーディオ捕捉技法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1996021321A1 (en) * | 1995-01-06 | 1996-07-11 | Anderson David P | Virtual reality television system |
JP2005223771A (ja) * | 2004-02-09 | 2005-08-18 | Nippon Hoso Kyokai <Nhk> | サラウンド音声ミキシング装置およびサラウンド音声ミキシングプログラム |
JP2013034107A (ja) * | 2011-08-02 | 2013-02-14 | Copcom Co Ltd | 音源定位制御プログラムおよび音源定位制御装置 |
-
2016
- 2016-07-28 JP JP2016148995A patent/JP6410769B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1996021321A1 (en) * | 1995-01-06 | 1996-07-11 | Anderson David P | Virtual reality television system |
JP2005223771A (ja) * | 2004-02-09 | 2005-08-18 | Nippon Hoso Kyokai <Nhk> | サラウンド音声ミキシング装置およびサラウンド音声ミキシングプログラム |
JP2013034107A (ja) * | 2011-08-02 | 2013-02-14 | Copcom Co Ltd | 音源定位制御プログラムおよび音源定位制御装置 |
Non-Patent Citations (4)
Title |
---|
堀内俊治 他3名: "自由視聴点技術に基づくスマートフォン向けミュージックビデオアプリケーション", 2012年映像情報メディア学会年次大会講演予稿集, JPN6018024993, August 2012 (2012-08-01) * |
小宮山摂 他4名: "VR技術による3次元音響再生システム Interactive 3D Sound Reproduction System by Virtual Acoustics", 映像情報メディア学会技術報告, vol. 24, no. 71, JPN6018024995, November 2000 (2000-11-01), JP, pages 51 - 56 * |
福嶋慶繁 他6名: "多視点・多聴点データ取得システムを用いた自由視聴点映像生成", 電子情報通信学会論文誌, vol. Vol.J91-D No.8, JPN6018024994, 2008, pages 2039 - 2041 * |
馬渡隆行 他3名: "A-16-37 拡張現実感における音声注釈情報取得のための仮想マイクロフォンの提案", 2004年電子情報通信学会総合大会講演論文集 基礎・境界, JPN6018024996, 8 March 2004 (2004-03-08), pages 3 - 6 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022163173A (ja) * | 2016-12-05 | 2022-10-25 | マジック リープ, インコーポレイテッド | 仮想現実(vr)、拡張現実(ar)、および複合現実(mr)システムのための分散型オーディオ捕捉技法 |
WO2019216002A1 (ja) * | 2018-05-11 | 2019-11-14 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
JPWO2020059447A1 (ja) * | 2018-09-18 | 2021-08-30 | 富士フイルム株式会社 | 音声信号処理装置、音声信号処理方法、音声信号処理プログラム、音声信号処理システム及び撮影装置 |
JP2022010300A (ja) * | 2018-09-18 | 2022-01-14 | 富士フイルム株式会社 | 映像音声信号処理装置、映像音声信号処理方法及び映像音声信号処理システム |
JP7303862B2 (ja) | 2018-09-18 | 2023-07-05 | 富士フイルム株式会社 | 映像音声信号処理装置、映像音声信号処理方法及び映像音声信号処理システム |
JPWO2021020150A1 (ja) * | 2019-07-26 | 2021-02-04 | ||
WO2021020150A1 (ja) * | 2019-07-26 | 2021-02-04 | 富士フイルム株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP7317119B2 (ja) | 2019-07-26 | 2023-07-28 | 富士フイルム株式会社 | 情報処理装置、情報処理方法、及びプログラム |
WO2021166808A1 (ja) * | 2020-02-18 | 2021-08-26 | Kddi株式会社 | 複数のマイクロフォンの収音信号をミキシングする装置、方法及びコンピュータ可読記憶媒体 |
JP2021132261A (ja) * | 2020-02-18 | 2021-09-09 | Kddi株式会社 | 複数のマイクロフォンの収音信号をミキシングする装置、プログラム及び方法 |
JP7217716B2 (ja) | 2020-02-18 | 2023-02-03 | Kddi株式会社 | 複数のマイクロフォンの収音信号をミキシングする装置、プログラム及び方法 |
US12022267B2 (en) | 2020-02-18 | 2024-06-25 | Kddi Corporation | Apparatus, method and computer-readable storage medium for mixing collected sound signals of microphones |
Also Published As
Publication number | Publication date |
---|---|
JP6410769B2 (ja) | 2018-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6410769B2 (ja) | 情報処理システム及びその制御方法、コンピュータプログラム | |
US10664128B2 (en) | Information processing apparatus, configured to generate an audio signal corresponding to a virtual viewpoint image, information processing system, information processing method, and non-transitory computer-readable storage medium | |
US11528576B2 (en) | Distributed audio capturing techniques for virtual reality (VR), augmented reality (AR), and mixed reality (MR) systems | |
JP5992210B2 (ja) | 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法 | |
JP6017854B2 (ja) | 情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム | |
KR101844511B1 (ko) | 입체 음향 재생 방법 및 장치 | |
KR20220155396A (ko) | 영상 음향 처리 장치 및 방법, 및 프로그램이 저장된 컴퓨터 판독 가능한 기록 매체 | |
JP2019083402A (ja) | 画像処理装置、画像処理システム、画像処理方法、及びプログラム | |
WO2021249157A1 (zh) | 发声装置、显示装置、发声控制方法及装置 | |
JP2018019295A (ja) | 情報処理システム及びその制御方法、コンピュータプログラム | |
US20170215005A1 (en) | Audio refocusing methods and electronic devices utilizing the same | |
US10979806B1 (en) | Audio system having audio and ranging components | |
JP2001169309A (ja) | 情報記録装置および情報再生装置 | |
JP6664456B2 (ja) | 情報処理システム及びその制御方法、コンピュータプログラム | |
JP2013254338A (ja) | 映像生成システム、映像生成装置、映像生成方法及びコンピュータプログラム | |
JPWO2011108377A1 (ja) | 連携動作機器、連携動作方法、連携動作制御プログラム及び機器連携システム | |
JP2018191127A (ja) | 信号生成装置、信号生成方法およびプログラム | |
CN116095254B (zh) | 音频处理方法和装置 | |
JP2005295181A (ja) | 音声情報生成装置 | |
KR101747800B1 (ko) | 입체음향 생성 장치 및 이를 이용한 입체 컨텐츠 생성 시스템 | |
JP7321736B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP6431225B1 (ja) | 音響処理装置、映像音響処理装置、映像音響配信サーバおよびそれらのプログラム | |
JP6274244B2 (ja) | 収音再生装置、収音再生プログラム、収音装置及び再生装置 | |
JP3734805B2 (ja) | 情報記録装置 | |
JP2019102940A (ja) | 仮想視点コンテンツ生成システム、音声処理装置、仮想視点コンテンツ生成システムの制御方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180411 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180411 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180529 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180702 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180806 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180827 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180925 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6410769 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |