JP2019101795A - 生成装置、生成方法及びプログラム - Google Patents
生成装置、生成方法及びプログラム Download PDFInfo
- Publication number
- JP2019101795A JP2019101795A JP2017232480A JP2017232480A JP2019101795A JP 2019101795 A JP2019101795 A JP 2019101795A JP 2017232480 A JP2017232480 A JP 2017232480A JP 2017232480 A JP2017232480 A JP 2017232480A JP 2019101795 A JP2019101795 A JP 2019101795A
- Authority
- JP
- Japan
- Prior art keywords
- image
- virtual viewpoint
- camera
- information
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/282—Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
- G06T15/205—Image-based rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/08—Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computing Systems (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Processing Or Creating Images (AREA)
- Studio Devices (AREA)
- Image Generation (AREA)
Abstract
Description
カメラは、原点が画面の中央にくるようにして原点に向けて設置されている。
本発明の第1の実施形態について説明する。
図1は、第1の実施形態における画像処理システム100の構成例を示す図である。本実施形態における画像処理システム100は、競技場(スタジアム)やコンサートホール等の施設に複数のカメラ(撮像装置)及びマイク(集音装置)を設置して撮影及び集音を行う画像処理システムである。
画像処理システム100は、ユーザからの指示等に応じた制御を行うために、制御ステーション310及び仮想カメラ操作UI(ユーザインターフェース)330を有する。制御ステーション310は、画像処理システム100が有するそれぞれの機能部(ブロック)に対してネットワークを通じて動作状態の管理及びパラメータの設定・制御等を行う。30台のセンサシステム2L01〜2L30により得られる画像及び音声を、センサシステム2L30からスイッチングハブ180を介して、サーバフロントエンド230へ送信する動作について説明する。ここで、センサシステム2L01〜2L30は、ネットワーク180a、171、180bを介して、デイジーチェーンにより接続される。
また、本実施形態では仮想視点画像の生成に3次元モデルを構築するModel Based Rendering(以下、MBRと略す)の手法を用いて説明するが、これに限定されない。
ステップS703にて、3次元モデル選択部620、前景画像選択部630、及びレンダリング部640に、仮想カメラ操作UI330により決定された仮想カメラ情報と仮想視点画像を生成するフレームのフレーム番号とが端子601を介して入力される。ステップS704にて、3次元モデル選択部620は、入力されたフレーム番号のオブジェクト位置情報リストをデータベース250に端子602を介して要求し、これを受領する。ステップS705にて、3次元モデル選択部620は、ステップS704において取得したオブジェクト位置情報リストの位置情報と撮影範囲とを比較し、撮影範囲に含まれているオブジェクトを決定して、その3次元モデル識別子を決定する。
次に、本発明の第2の実施形態について説明する。
図13は、第2の実施形態における画像処理システム100の構成例を示す図である。図13において、図1に示した構成要素と同一の機能を有する構成要素には同一の符号を付し、重複する説明は省略する。サーバフロントエンド1330、1331、1332は、センサシステムから取得したデータの処理を行う。サーバフロントエンド1330〜1332は、第1の実施形態におけるサーバフロントエンド230〜232とは、制御ステーション1310から各注視点の位置情報を取得し、それぞれのデータに競技場原点からの位置情報を付与することが異なる。
なお、第1の実施形態と同様に仮想視点映像生成の方法はこれに限定されない。
次に、本発明の第3の実施形態について説明する。
図19は、第3の実施形態における画像処理システム100の構成例を示す図である。図19において、図1に示した構成要素と同一の機能を有する構成要素には同一の符号を付し、重複する説明は省略する。センサ350、351、352は、競技場の気象条件を感知する。気象条件の例としては、湿度、温度、天候等がある。バックエンドサーバ301は、仮想視点画像生成部270、271、272に加え、仮想視点画像補正部276、277、278を有する。競技場に関しては、第1の実施形態と同様として説明する。
次に、本発明の第4の実施形態について説明する。
第2の実施形態では、各オブジェクトの位置や点群の点座標を競技場の原点からの注視点座標、外接立方体の注視点からの座標で表したが、これに限定されない。図20は、第4の実施形態における画像処理システム100の構成例を示す図である。図20において、図1及び図13に示した構成要素と同一の機能を有する構成要素には同一の符号を付し、重複する説明は省略する。
本発明は、前述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
コンピュータ機能2200は、図22に示すように、CPU2201と、ROM2202と、RAM2203とを備える。また、操作部(CONS)2209のコントローラ(CONSC)2205と、CRTやLCD等の表示部としてのディスプレイ(DISP)2210のディスプレイコントローラ(DISPC)2206とを備える。さらに、ハードディスク(HD)2211、及びフレキシブルディスク等の記憶デバイス(STD)2212のコントローラ(DCONT)2207と、ネットワークインタフェースカード(NIC)2208とを備える。それら機能部2201、2202、2203、2205、2206、2207、2208は、システムバス2204を介して互いに通信可能に接続された構成としている。
Claims (11)
- 複数の注視点を設け、複数の撮像手段で撮影した画像から仮想視点画像を生成する画像処理システムであって、
それぞれの前記注視点を撮影する前記複数の撮像手段と、
前記仮想視点画像を生成する仮想視点の情報を設定する情報設定手段と、
前記仮想視点の情報に基づいて、前記仮想視点の画角に含まれる前記注視点毎に、該注視点を撮影する前記撮像手段で撮影した画像から第1の仮想視点画像を生成する画像生成手段と、
前記画像生成手段により生成された前記第1の仮想視点画像を合成して前記仮想視点の情報に基づく第2の仮想視点画像を生成する合成手段とを有することを特徴とする画像処理システム。 - 前記仮想視点の情報に基づいて、前記仮想視点の画角に含まれる前記注視点を抽出する抽出手段を有することを特徴とする請求項1記載の画像処理システム。
- 前記合成手段は、前記画像生成手段により生成された前記注視点毎の前記第1の仮想視点画像を、前記注視点の前記仮想視点からの距離に応じて合成することを特徴とする請求項1又は2記載の画像処理システム。
- 前記合成手段は、前記画像生成手段により生成された前記注視点毎の前記第1の仮想視点画像を、前記仮想視点に対して遠方の前記注視点の前記第1の仮想視点画像から順に合成を行うことを特徴とする請求項3記載の画像処理システム。
- 複数の注視点の位置を原点からの差分で示す注視点の位置情報を生成し、前記注視点の位置情報に基づいて前記仮想視点の画角に含まれる前記注視点を抽出することを特徴とする請求項1〜4の何れか1項に記載の画像処理システム。
- 前記画像生成手段は、前記撮像手段で撮影した画像から、オブジェクトの3次元モデルデータを生成することを特徴とする請求項1〜5の何れか1項に記載の画像処理システム。
- 前記画像生成手段は、生成した3次元モデルデータの位置を前記注視点からの座標で管理することを特徴とする請求項6記載の画像処理システム。
- 前記画像生成手段により生成された前記第1の仮想視点画像に補正処理を施す補正手段を有し、
前記合成手段は、前記補正手段による補正処理が施された前記第1の仮想視点画像を合成して前記第2の仮想視点画像を生成することを特徴とする請求項1〜7の何れか1項に記載の画像処理システム。 - 前記複数の撮像手段による撮影時の環境条件を測定するセンサを有し、
前記補正手段は、前記センサにより測定された環境条件に応じた補正処理を、前記第1の仮想視点画像に施すことを特徴とする請求項8記載の画像処理システム。 - 複数の注視点を設け、複数の撮像手段で撮影した画像から仮想視点画像を生成する画像処理方法であって、
それぞれの前記注視点を前記複数の撮像手段で撮影する撮影工程と、
前記仮想視点画像を生成する仮想視点の情報を設定する情報設定工程と、
前記仮想視点の情報に基づいて、前記仮想視点の画角に含まれる前記注視点毎に、該注視点を撮影する前記撮像手段で撮影した画像から第1の仮想視点画像を生成する画像生成工程と、
前記画像生成工程で生成された前記第1の仮想視点画像を合成して前記仮想視点の情報に基づく第2の仮想視点画像を生成する合成工程とを有することを特徴とする画像処理方法。 - コンピュータを、請求項1〜9の何れか1項に記載の画像処理システムの各手段として機能させるためのプログラム。
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017232480A JP6415675B1 (ja) | 2017-12-04 | 2017-12-04 | 生成装置、生成方法及びプログラム |
PCT/JP2018/044202 WO2019111817A1 (ja) | 2017-12-04 | 2018-11-30 | 生成装置、生成方法及びプログラム |
KR1020197031243A KR102125293B1 (ko) | 2017-12-04 | 2018-11-30 | 생성 장치, 생성 방법, 및 기억 매체 |
EP18886601.6A EP3605470A4 (en) | 2017-12-04 | 2018-11-30 | GENERATION DEVICE, GENERATION METHOD AND PROGRAM |
CN201880028801.5A CN110574076B (zh) | 2017-12-04 | 2018-11-30 | 图像生成设备、图像生成方法和计算可读存储介质 |
US16/667,659 US11012679B2 (en) | 2017-12-04 | 2019-10-29 | Generating apparatus, generating method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017232480A JP6415675B1 (ja) | 2017-12-04 | 2017-12-04 | 生成装置、生成方法及びプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018189226A Division JP2019103126A (ja) | 2018-10-04 | 2018-10-04 | カメラシステム、カメラ制御装置、カメラ制御方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6415675B1 JP6415675B1 (ja) | 2018-10-31 |
JP2019101795A true JP2019101795A (ja) | 2019-06-24 |
Family
ID=64017199
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017232480A Active JP6415675B1 (ja) | 2017-12-04 | 2017-12-04 | 生成装置、生成方法及びプログラム |
Country Status (6)
Country | Link |
---|---|
US (1) | US11012679B2 (ja) |
EP (1) | EP3605470A4 (ja) |
JP (1) | JP6415675B1 (ja) |
KR (1) | KR102125293B1 (ja) |
CN (1) | CN110574076B (ja) |
WO (1) | WO2019111817A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021068330A (ja) * | 2019-10-25 | 2021-04-30 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9332285B1 (en) * | 2014-05-28 | 2016-05-03 | Lucasfilm Entertainment Company Ltd. | Switching modes of a media content item |
US10715714B2 (en) * | 2018-10-17 | 2020-07-14 | Verizon Patent And Licensing, Inc. | Machine learning-based device placement and configuration service |
WO2020181065A1 (en) | 2019-03-07 | 2020-09-10 | Alibaba Group Holding Limited | Method, apparatus, medium, terminal, and device for processing multi-angle free-perspective data |
CN111669603B (zh) * | 2019-03-07 | 2023-03-21 | 阿里巴巴集团控股有限公司 | 多角度自由视角数据处理方法及装置、介质、终端、设备 |
US11295309B2 (en) * | 2019-09-13 | 2022-04-05 | International Business Machines Corporation | Eye contact based financial transaction |
US11010962B1 (en) * | 2019-10-24 | 2021-05-18 | Morson R. Livingston | Systems and methods for facilitating generation of 3D digital objects from 2D images |
US20230005213A1 (en) * | 2020-01-23 | 2023-01-05 | Sony Group Corporation | Imaging apparatus, imaging method, and program |
KR102368825B1 (ko) * | 2020-06-10 | 2022-02-28 | 주식회사 엘지유플러스 | 부가 오브젝트를 포함하는 영상 출력 방법 및 장치 |
JP2022057784A (ja) * | 2020-09-30 | 2022-04-11 | キヤノン株式会社 | 撮像装置、撮像システムおよび撮像方法 |
EP4016464A1 (en) * | 2020-11-26 | 2022-06-22 | Ricoh Company, Ltd. | Apparatus, system, method, and carrier means |
JP2022158487A (ja) * | 2021-04-02 | 2022-10-17 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008187564A (ja) * | 2007-01-31 | 2008-08-14 | Sanyo Electric Co Ltd | カメラ校正装置及び方法並びに車両 |
JP2014215828A (ja) * | 2013-04-25 | 2014-11-17 | シャープ株式会社 | 画像データ再生装置、および視点情報生成装置 |
WO2016088437A1 (ja) * | 2014-12-04 | 2016-06-09 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
JP2017212593A (ja) * | 2016-05-25 | 2017-11-30 | キヤノン株式会社 | 情報処理装置、画像処理システム、情報処理方法、及び、プログラム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101610421B (zh) * | 2008-06-17 | 2011-12-21 | 华为终端有限公司 | 视频通讯方法、装置及*** |
CN102598652B (zh) * | 2009-10-30 | 2015-08-12 | 佳能株式会社 | 信息处理设备和方法 |
JP5614211B2 (ja) * | 2010-09-30 | 2014-10-29 | 株式会社セガ | 画像処理プログラム及びコンピュータ読み取り可能な記録媒体 |
JP2013038602A (ja) * | 2011-08-08 | 2013-02-21 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP6672075B2 (ja) * | 2016-05-25 | 2020-03-25 | キヤノン株式会社 | 制御装置、制御方法、及び、プログラム |
-
2017
- 2017-12-04 JP JP2017232480A patent/JP6415675B1/ja active Active
-
2018
- 2018-11-30 CN CN201880028801.5A patent/CN110574076B/zh active Active
- 2018-11-30 KR KR1020197031243A patent/KR102125293B1/ko active IP Right Grant
- 2018-11-30 EP EP18886601.6A patent/EP3605470A4/en active Pending
- 2018-11-30 WO PCT/JP2018/044202 patent/WO2019111817A1/ja unknown
-
2019
- 2019-10-29 US US16/667,659 patent/US11012679B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008187564A (ja) * | 2007-01-31 | 2008-08-14 | Sanyo Electric Co Ltd | カメラ校正装置及び方法並びに車両 |
JP2014215828A (ja) * | 2013-04-25 | 2014-11-17 | シャープ株式会社 | 画像データ再生装置、および視点情報生成装置 |
WO2016088437A1 (ja) * | 2014-12-04 | 2016-06-09 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
JP2017212593A (ja) * | 2016-05-25 | 2017-11-30 | キヤノン株式会社 | 情報処理装置、画像処理システム、情報処理方法、及び、プログラム |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021068330A (ja) * | 2019-10-25 | 2021-04-30 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP7423251B2 (ja) | 2019-10-25 | 2024-01-29 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
EP3605470A1 (en) | 2020-02-05 |
US11012679B2 (en) | 2021-05-18 |
KR20190126919A (ko) | 2019-11-12 |
CN110574076A (zh) | 2019-12-13 |
EP3605470A4 (en) | 2022-06-01 |
JP6415675B1 (ja) | 2018-10-31 |
WO2019111817A1 (ja) | 2019-06-13 |
KR102125293B1 (ko) | 2020-06-23 |
CN110574076B (zh) | 2020-11-06 |
US20200068188A1 (en) | 2020-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6415675B1 (ja) | 生成装置、生成方法及びプログラム | |
US11379948B2 (en) | Mixed reality system with virtual content warping and method of generating virtual content using same | |
JP6425780B1 (ja) | 画像処理システム、画像処理装置、画像処理方法及びプログラム | |
US10582191B1 (en) | Dynamic angle viewing system | |
JP6513169B1 (ja) | 仮想視点画像を生成するシステム、方法及びプログラム | |
JP4804256B2 (ja) | 情報処理方法 | |
CA3055219A1 (en) | Technique for recording augmented reality data | |
JP2019022151A (ja) | 情報処理装置、画像処理システム、制御方法、及び、プログラム | |
JP2019103126A (ja) | カメラシステム、カメラ制御装置、カメラ制御方法及びプログラム | |
JP2019036791A (ja) | 画像処理装置、画像処理システム、制御方法、及び、プログラム | |
JP2019128641A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2017103613A (ja) | 情報取得装置、情報取得方法及び情報取得プログラム | |
JP7233881B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JPWO2018173207A1 (ja) | 情報処理装置 | |
JP6450305B2 (ja) | 情報取得装置、情報取得方法及び情報取得プログラム | |
JP6759375B2 (ja) | 仮想視点画像を生成するシステム、方法及びプログラム | |
CN108985275A (zh) | 增强现实设备及电子设备的显示追踪方法和装置 | |
US11605207B2 (en) | Information processing device, information processing method, and program | |
WO2023032085A1 (ja) | 映像送信システム、端末装置および映像送信方法 | |
US20230291883A1 (en) | Image processing system, image processing method, and storage medium | |
WO2022176719A1 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2011048545A (ja) | 画像合成装置及びプログラム | |
JP2023026244A (ja) | 画像生成装置および画像生成方法、プログラム | |
JP2021018570A (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
JP2023111640A (ja) | 情報処理装置、情報処理方法、データ構造及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180410 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180601 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180626 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180821 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180904 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181002 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6415675 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |