JP2005050037A - 画像処理方法および装置 - Google Patents
画像処理方法および装置 Download PDFInfo
- Publication number
- JP2005050037A JP2005050037A JP2003204673A JP2003204673A JP2005050037A JP 2005050037 A JP2005050037 A JP 2005050037A JP 2003204673 A JP2003204673 A JP 2003204673A JP 2003204673 A JP2003204673 A JP 2003204673A JP 2005050037 A JP2005050037 A JP 2005050037A
- Authority
- JP
- Japan
- Prior art keywords
- information
- image
- viewpoint position
- effective pixel
- direction information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Geometry (AREA)
- Computer Graphics (AREA)
- General Physics & Mathematics (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Processing Or Creating Images (AREA)
Abstract
【解決手段】異なる視点位置で撮影した複数の画像から、実際には撮影していない視点位置での新規な画像を再構成する画像処理方法において、視点位置・方向情報を設定する設定工程と、前記設定された視点位置・方向情報を複数の撮影装置に送信する送信工程と、前記複数の撮影装置の夫々から前記視点位置・方向情報に応じた画像の有効画素情報を受信する受信工程と、前記受信した有効画素情報から前記新規な画像を再構成する再構成工程とを有し、前記撮影装置は、前記視点位置・方向情報に基づき撮影画像内から有効画素を抽出することを特徴とする。
【選択図】 図1
Description
【発明の属する技術分野】
本発明は、多数のカメラが撮影した画像を元に、設定された視点位置・方向からの画像を生成するものに関する。
【0002】
【従来の技術】
従来のデジタルカメラは、カメラを構えた位置からみた画像を撮影するのみであり、撮影位置とは異なる位置で見える画像を生成することはできなかった。CG分野では、多数の画像から任意視点の画像を生成するイメージベーストレンダリングと呼ばれる技術が研究されている。
【0003】
イメージベーストレンダリングによって多数の画像から任意視点の画像を生成する方法を説明する。説明のために、カメラを図9のようにモデル化する。カメラ位置(視点位置)を中心として破線にはさまれた範囲が画角となり、画像構成面と被写体からの光線との交点に位置する画素が、その光線に対応する色となる。その画素の集まりがカメラの撮影画像となる。このモデルに基づいて既存のイメージベーストレンダリング技術を説明したものが図10である。(A)(B)(C)(D)は実際のカメラの撮影位置であり、(X)は、実際にはカメラで撮影していない、仮想的なカメラの視点位置である。仮想カメラ(X)の視点位置とカメラ(B)の視点位置を結ぶ光線上の画素は同じ色である(光の減衰などがない)と仮定すると、画素x2は画素b2と同じ色になるはずなので、画素b2から画素x2を推定できる。同様にして、カメラ(C)の画素c1から画素x1を推定できる。同様にして、さまざまな視点位置からの撮影画像中の画素情報を集めることによって、実際には撮影していない位置(X)における画像が推定できる。また、カメラ(A)や(D)のような視点位置・方向のものの場合、仮想カメラ(X)の視点位置と自身の視点位置を結ぶ光線が、仮想カメラ(X)の画角範囲からはずれるため、仮想カメラ(X)の画像生成に使える画素を含まない。従って、カメラ(B)(C)のような範囲に属する視点位置・方向からの画像を多数撮影する必要がある。
【0004】
【発明が解決しようとする課題】
従来技術では、このように多数撮影した画像をすべて記憶装置に確保したのちに処理を行うため、膨大な容量を持つ記憶装置が必要であった。また、1台のカメラを用いる場合、多数の画像を撮影するのに、1台のカメラで視点位置・方向を変えながら撮影する必要があるため、時間がかかり、また、動画の生成はできないという問題があった。この問題に対しては、多数台のカメラをネットワーク上に配置して、同時に撮影し、サーバコンピュータでその撮影された多数を処理するという方法が考えられる。しかし、この場合、サーバコンピュータに多数の画像を送信する必要があるため、ネットワークの負荷が膨大になるという問題がある。
【0005】
【課題を解決するための手段】
上記問題点を解決するために、本発明は以下の構成を有することを特徴とする。
【0006】
本願請求項1記載の画像処理方法は、異なる視点位置で撮影した複数の画像から、実際には撮影していない視点位置での新規な画像を再構成する画像処理方法において、視点位置・方向情報を設定する設定工程と、前記設定された視点位置・方向情報を複数の撮影装置に送信する送信工程と、前記複数の撮影装置の夫々から前記視点位置・方向情報に応じた画像の有効画素情報を受信する受信工程と、前記受信した有効画素情報から前記新規な画像を再構成する再構成工程とを有し、前記撮影装置は、前記視点位置・方向情報に基づき撮影画像内から有効画素を抽出することを特徴とする。
【0007】
本願請求項4記載の画像処理方法は、異なる視点位置で撮影した複数の画像から、実際には撮影していない視点位置での新規な画像を再構成する画像処理方法において、視点位置・方向情報を設定する設定工程と、ネットワーク接続された複数のカメラそれぞれの位置および方向の情報を保持し、前記設定された視点位置・方向情報に基づき、前記新規な画像を生成するために必要な有効画素を有するカメラを選択する選択工程と、前記選択されたカメラに、該選択カメラの有効画素位置情報を送信する送信工程と、前記複数の撮影装置の夫々から前記視点位置・方向情報に応じた画像の有効画素情報を受信する受信工程と、前記受信した有効画素情報から前記新規な画像を再構成する再構成工程とを有することを特徴とする。
【0008】
【発明の実施の形態】
(第一の実施形態)
以下、図面を参照して本発明の第一の実施形態を詳細に説明する。
【0009】
本実施形態では、図1に示すように、(たとえばスポーツ競技場のような場所に)ネットワーク接続されたカメラを多数配備し、ユーザがクライアントコンピュータを用いて、自分が見たい視点位置・方向の情報をサーバコンピュータに送信し、サーバコンピュータが多数のカメラと所定のインタラクションを行うことにより、その望みの視点位置・方向情報から見た静止画像を作り出してクライアントコンピュータに送り返す例を想定する。
【0010】
図1において、101は、サーバコンピュータである。102は、通信機能を持ったデジタルカメラである。103は、クライアントコンピュータである。104は、多数のカメラとサーバコンピュータ102をつなぐLANである。105は、インターネットである。
【0011】
図2は、本実施形態に係るサーバコンピュータ101のブロック図である。同図において、201は、画像生成部であり、設定された視点位置・方向の画像を構成する。202は、視点位置・方向受信部であり、クライアントコンピュータ103からインターネット105を通じてユーザの望みの視点位置・方向情報を受け取る。203は、視点位置・方向送信部であり、視点位置・方向受信部で受け取った視点位置・方向情報を、LAN104を通じてデジタルカメラ102を含む多数のデジタルカメラに同時に送信する。204は、画素情報受信部であり、デジタルカメラ102を含む多数のデジタルカメラからそれぞれさまざまな画素位置の画素情報をLAN104を通じて受け取る。205は、生成画像送信部であり、画像生成部201で生成された画像情報をインターネット105を通じてクライアントコンピュータ103に送信する。
【0012】
図3は、本実施形態に係るサーバコンピュータ101のハードウエア構成を示す構成図である。同図において、301はCPUであり、後述する手順を実現するプログラムに従って動作する。302はRAMであり、上記プログラムの動作に必要な記憶領域を提供する。303はROMであり、後述する手順を実現するプログラムを保持する。304は通信デバイスであり、LAN104やインターネット105に接続して、クライアントコンピュータ103やデジタルカメラ102などとの通信を行う。305はバスである。
【0013】
図4は、本実施形態に係るデジタルカメラ102のブロック図である。同図において、401は、撮像部である。402は、画像保持部であり、撮影した画像データを保持する。403は、有効画素取得部であり、サーバが設定された視点位置・方向の画像を生成するのに有効な画素情報を、撮像部401が撮像した画像情報から抽出する。404は、有効画素保持判定部であり、撮像部401が撮像した画像情報がサーバが設定された視点位置・方向の画像を生成するのに有効な画素情報を含むかどうかを判定する。405は、カメラ位置・方向保持部であり、自身の位置や方向の情報を保持する。406は、有効画素情報送信部であり、有効画素取得部403が取得した画素情報をLAN104を通じてサーバコンピュータ101に送信する。407は、視点位置・方向受信部であり、サーバコンピュータ101から設定された視点位置・方向情報をLAN104を通じて取得する。
【0014】
図5は、本実施形態に係るデジタルカメラ102のハードウエア構成を示す構成図である。同図において、501はCPUであり、後述する手順を実現するプログラムに従って動作する。 502はRAMであり、上記プログラムの動作に必要な記憶領域を提供する。さらに、画像保持部402はこのRAM上に撮影した画像データを保持する。503はROMであり、後述する手順を実現するプログラムを保持する。504は通信デバイスであり、LAN104に接続して、サーバコンピュータ101との通信を行う。505はCCDであり、外部の画像を撮像する。506はバスである。
【0015】
図6は、本実施形態に係るクライアントコンピュータ103のブロック図である。同図において、601は、視点位置・方向入力部であり、ユーザが望みの視点位置・方向を入力する。602は、視点位置・方向送信部であり、入力された視点位置・方向情報をインターネット105を通じてサーバコンピュータ101に送信する。603は、生成画像受信部であり、サーバコンピュータ101が生成した生成画像の情報を、インターネット105を通じて受信する。604は、表示部であり、生成画像受信部603で受信した生成画像を表示装置に表示する。
【0016】
図7は、本実施形態に係るクライアントコンピュータ103のハードウエア構成を示す構成図である。同図において、701はCPUであり、プログラムに従って動作する。702はRAMであり、プログラムの動作に必要な記憶領域を提供する。703はROMであり、プログラムを保持する。704は通信デバイスであり、インターネット105に接続して、サーバコンピュータ101との通信を行う。705はディスプレイであり、生成画像を表示する。706はバスである。
【0017】
図8のフローチャートをもとに、本実施形態におけるサーバコンピュータ101およびデジタルカメラ102の動作を説明する。サーバコンピュータ101は、クライアントコンピュータ103から、生成したい画像の視点位置・方向情報を取得する(S801)。視点位置・方向は、視点の3次元位置(x、y、z)とそこからの方向(θ、φ)からなる。視点位置・方向は、ユーザが自分の見たい視点位置・方向をクライアントコンピュータ103上で指定したものである。サーバコンピュータ101は、この視点位置・方向情報(x、y、z、θ、φ)を、デジタルカメラ102(を含む多数のカメラ)に送信する(S802)。
【0018】
デジタルカメラ102は、視点位置・方向受信部407からサーバコンピュータ101から視点位置・方向情報(x、y、z、θ、φ)を受信すると(S808)、有効画素保持判定部404は、この視点位置・方向からの画像を生成するのに有効な画素情報が自身の撮影画像に含まれるか否かを判定する。
【0019】
デジタルカメラ102のカメラ位置・方向保持部404には、事前にこのデジタルカメラの視点位置・方向情報(x1、y1、z1、θ1、φ1)が記憶されている。有効画素保持判定部404は、デジタルカメラの視点位置・方向情報(x1、y1、z1、θ1、φ1)と視点位置・方向受信部407が受信した生成画像の視点位置・方向情報(x、y、z、θ、φ)とから、図10の原理に基づいてこの判定を行う。
【0020】
すなわち、(x、y、z)と(x1、y1、z1)を結ぶ直線が、設定された視点位置・方向で示される仮想的なカメラ(X)の画角と、デジタルカメラ102自身の画角の両方に含まれていれば有効な画素情報を含むと判定する。
【0021】
有効画素情報を含まない場合は、S808に戻る。有効画素情報を含む場合は、撮影部401によって撮影された画像が保持されている画像保持部402から、有効画素取得部403が有効画素情報(色情報)を取得し(S810)、有効画素情報送信部406を用いてサーバコンピュータ101に送信する。
【0022】
本実施形態では、デジタルカメラ102の撮影画像全体ではなく、必要な画素情報だけを送信するため、通信量が少なくて済む。
【0023】
サーバコンピュータ101は、画素情報受信部204がデジタルカメラ102(を含む多数のカメラ)からの画素情報を受信したら(S803)、画像再構成部201を用いて生成画像の対応する画素に反映する(S804)。例えば、図10で、カメラ(B)から画素情報b2を受信したら、自身の画素x2にその値をコピーする。画像生成の終了条件を判定し(S805)、終了条件を満たしたら、後処理を行い(S806)、出来上がった生成画像をクライアントコンピュータ103に送信する。ここで、終了条件とは、画像を生成するのに十分な画素情報デジタルカメラ102を含む多数のカメラから集まったか否かの判定であり、単純には、すべての画素位置に対する画素情報が取得できたか否かで判定する。あるいは、すべての画素位置に対する画素情報が集まらなくても何らかの補間処理によってすべての画素位置に対する画素情報が推定可能と判断できた場合も、この判定条件を満たすことになる。補間処理を前提とした場合は、後処理S806でその補間処理を行う。
【0024】
生成された再構成画像は、再構成画像送信部205を用いてクライアントコンピュータに送信する。
【0025】
(第二の実施形態)
上記実施形態では、ユーザの望みの視点位置・方向情報から見た静止画像を作り出してクライアントコンピュータに送り返す例を説明した。本実施形態では、ユーザの望みの視点位置・方向情報から見た動画像を作り出す方法を説明する。
【0026】
この場合、デジタルカメラ102として、動画を撮影可能なビデオカメラを用い、その撮影動画データは、任意の時刻Tにおける静止画の集合として記録される。そして、図8のフローチャートのステップS811において、デジタルカメラ102は、時刻Tにおける有効画素情報として、画素位置(X、Y)、色情報(R、G、B)、とそのときの時刻情報(T)を合わせた(X、Y、R、G、B、T)をサーバコンピュータ101に送信する。これを任意の時刻Tに対して行う。サーバコンピュータ101はステップS804において、受信した有効画素情報(X、Y、R、G、B、T)のうち、時刻情報(T)が同じものを一つの画像に集めて、時刻Tにおける静止画を生成する。
【0027】
時刻情報(T)を持つ画素情報を収集したものがステップS805の終了条件を満たしたら、必要な補間などの後処理を施して(S806)、これを時刻Tでの画像としてクライアントコンピュータ103に送信する。これを任意の時刻Tに対して時々刻々行うことで、設定された視点位置・方向から見た動画像を生成される。
【0028】
(第三の実施形態)
上記第一、第二の実施形態では、一つのクライアントコンピュータ、すなわち一人のユーザから望みの視点位置・方向からの画像生成が要求されることを想定していた。しかし、これは複数ユーザに拡張可能である。
【0029】
サーバコンピュータ101は、ユーザAから設定された視点位置・方向情報をデジタルカメラ102に送信する際、視点位置・方向情報にユーザ識別子Aを加えた(x、y、z、θ、φ、A)を送信する。これを受信したデジタルカメラ102は、返信する有効画素情報にユーザ識別子Aを加えたものをサーバコンピュータ101に送信する。サーバコンピュータ101は、同じユーザ識別子Aを含む有効画素情報を集めて画像を生成し、生成した画像をユーザAのクライアントコンピュータに送信する。
【0030】
(第四の実施形態)
上記実施形態では、サーバコンピュータ101が、設定された視点位置・方向を多数のデジタルカメラにブロードキャストし、各カメラが自身が有効画素を含むか否かを判定し、有効画素情報をサーバコンピュータ101に送信するようにしていたが、有効画素を含むカメラをサーバコンピュータ101で事前に選別するようにしても構わない。
【0031】
図11は、第三の実施形態におけるサーバコンピュータ101のブロック図である。同図において、1101は、画像生成部であり、設定された視点位置・方向の画像を構成する。1102は、視点位置・方向受信部であり、クライアントコンピュータ103からインターネット105を通じてユーザの望みの視点位置・方向情報を受け取る。1103は、有効カメラ選別部であり、多数のカメラから、設定された視点位置・方向に対する有効画素を含むカメラを選別する。1104は、カメラ位置・方向保持部であり、多数のカメラそれぞれの位置・方向の情報を保持する。1105は、必要画素位置情報送信部であり、有効カメラ選別部1103で選別された各カメラに対し、設定された視点位置・方向に対する有効画素の位置情報を送信する。1106は、画素情報受信部であり、デジタルカメラ102を含む多数のデジタルカメラからそれぞれさまざまな画素位置の画素情報をLAN104を通じて受け取る。1107は、生成画像送信部であり、画像生成部1101で生成された画像情報をインターネット105を通じてクライアントコンピュータ103に送信する。
【0032】
図12は、この第三の実施形態における、多数のカメラの一つであるデジタルカメラ102のブロック図である。同図において、1201は、撮像部である。
1202は、画像保持部であり、撮影した画像データを保持する。1203は、有効画素取得部であり、サーバコンピュータ101から送信される必要画素位置情報に対応する画素情報を画像保持部1202が保持する画像データから取得する。1204は、有効画素情報送信部であり、有効画素取得部1203が取得した画素情報をLAN104を通じてサーバコンピュータ101に送信する。1205は、必要画素位置情報受信部であり、サーバコンピュータ101から設定された必要画素位置情報をLAN104を通じて取得する。
【0033】
クライアントコンピュータ103のブロック図やハードウエア構成図は、第一の実施形態と同じである。
【0034】
図13のフローチャートをもとに、本実施形態におけるサーバコンピュータ101およびデジタルカメラ102の動作を説明する。サーバコンピュータ101は、クライアントコンピュータ103から、生成したい画像の視点位置・方向情報を取得する(S1301)。サーバコンピュータ101は、カメラ位置・方向保持部1104において、デジタルカメラ102を含む多数のカメラそれぞれの位置・方向の情報を保持している。これと、設定された生成したい画像の視点位置・方向情報から、図10の原理に基づいて、各カメラがこの視点位置・方向からの画像を生成するのに有効な画素情報を含むか否かを判定する(S1302)。続いて、有効な画素情報を含むと判定した各カメラに対して、それぞれが含む有効画素の位置情報をやはり図10の原理に基づいて算出する。例えば、図10のカメラ(B)の場合は画素b2が、カメラ(C)の場合は画素c1が有効画素であることを算出する。そして、それぞれのカメラに対し、算出した有効画素の位置情報(X、Y)を必要画素位置情報として送信する(S1303)。
【0035】
デジタルカメラ102は、有効カメラと判定された場合、サーバコンピュータ101から、必要画素位置情報(X、Y)を取得することになる(S1309)。これを受けて、撮影を行い、その中から必要画素位置情報(X、Y)に対応する画素情報を取得し(S1310)、これをサーバコンピュータ101に送信する(S1311)。デジタルカメラ102の撮影画像全体ではなく、必要な画素情報だけを送信するため、通信量が少なくて済む。
【0036】
サーバコンピュータ101は、デジタルカメラ102(を含む多数のカメラ)からの画素情報を受信したら(S1304)、図8のステップS803〜S807と同様の処理S1304〜S1308を実行することで、設定された視点位置・方向の画像を生成する。
【0037】
(第五の実施形態)
上記第四の実施形態では、ユーザの望みの視点位置・方向情報から見た静止画像を作り出す例を説明した。これに対し、前記第二の実施形態のような方法を第三の実施形態に適用することで、動画像の生成が可能になることは言うまでもない。
【0038】
(第六の実施形態)
上記第四、第五の実施形態では、一つのクライアントコンピュータ、すなわち一人のユーザから望みの視点位置・方向からの画像生成が要求されることを想定していた。しかし、これは複数ユーザに拡張可能である。サーバコンピュータ101は、ユーザAから設定された視点位置・方向情報から導き出される必要画素位置情報(X、Y)を選別されたデジタルカメラ102に送信する際、必要画素位置情報にユーザ識別子Aを加えた(X、Y、A)を送信する。これを受信したデジタルカメラ102は、返信する有効画素情報にユーザ識別子Aを加えたものをサーバコンピュータ101に送信する。サーバコンピュータ101は、同じユーザ識別子Aを含む有効画素情報を集めて画像を生成し、生成した画像をユーザAのクライアントコンピュータに送信する。
【0039】
(他の実施形態)
上記実施形態では、デジタルカメラ102において、撮像にCCDを用いていたが、CMOSを用いてもよい。この場合、デジタルカメラ102のハードウエア構成図は図14のようになる。CMOSを用いた場合、撮影画像全体をRAM上に記録することなく、有効画素位置の画素情報だけを取得することができるので、RAM使用量を削減できるという効果がある。
【0040】
また、上記実施形態では、望みの視点位置・方向を設定するようにし、画角はあらかじめ決められた固定値であるという前提であった。しかし、画角を設定できるようにしてもよい。図10の原理からすると、生成したい画像の画角を変えると、有効画素を含むデジタルカメラを含む範囲が変わるだけで、設定された画角で画像の再構成は可能である。
【0041】
また、上記実施形態では、望みの視点位置・方向を設定するようにし、解像度はあらかじめ決められた固定値であるという前提であった。しかし、解像度を設定できるようにしてもよい。図10の原理からすると、仮想カメラ(X)の画素xを推定するには、xの位置と仮想カメラ(X)の視点位置を結ぶ直線上に実際のカメラが存在すればよい。要求解像度が高くなると、より多数のカメラが必要になる。実際には設置可能なカメラの台数には限界があるので、実際のカメラの撮影画像の画素から直接推定できない仮想カメラ(X)の画素が存在し、要求解像度が高くなるとその確率が高くなる。実際のカメラの撮影画像の画素から直接推定できない画素に関しては、近傍の画素の値を用いたなんらかの補間処理によって推定できる。
【0042】
上記実施形態においては、プログラムをROMに保持する場合について説明したが、これに限定されるものではなく、任意の記憶媒体を用いて実現してもよい。また、同様の動作をする回路で実現してもよい。
【0043】
また、本発明は、複数の機器から構成されるシステムに適用しても、1つの機器からなる装置に適用してもよい。前述した実施形態の機能を実現するソフトウエアのプログラムコードを記録した記録媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
【0044】
プログラムコードを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CDーROM、CDーR、磁気テープ、不揮発性のメモリカード、ROMなどを用いることができる。
【0045】
また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているOSなどが実際の処理の一部または全部を行ない、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0046】
更に、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0047】
【発明の効果】
以上説明したように、本発明によれば、通信容量を増やすことなく、設定された視点位置・方向から見た画像を生成することができる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係るシステムの構成図である。
【図2】本発明の一実施形態に係るサーバコンピュータ101のブロック図である。
【図3】本発明の一実施形態に係るサーバコンピュータ101のハードウエア構成を示す構成図である。
【図4】本発明の一実施形態に係るデジタルカメラ102のブロック図である。
【図5】本発明の一実施形態に係るデジタルカメラ102のハードウエア構成を示す構成図である。
【図6】本発明の一実施形態に係るクライアントコンピュータ103のブロック図である。
【図7】本発明の一実施形態に係るクライアントコンピュータ103のハードウエア構成を示す構成図である。
【図8】本発明の一実施形態に係るサーバコンピュータ101およびデジタルカメラ102の動作示すフローチャートである。
【図9】本発明の一実施形態に係るカメラのモデルを説明する図である。
【図10】本発明の一実施形態に係る複数のカメラから設定された視点位置・方向の画像を生成する原理を説明する図である。
【図11】本発明の第四の実施形態に係るサーバコンピュータ101のブロック図である。
【図12】本発明の第四の実施形態に係るデジタルカメラ102のブロック図である。
【図13】本発明の第四の実施形態に係るサーバコンピュータ101およびデジタルカメラ102の動作示すフローチャートである。
【図14】本発明の第七の実施形態に係るデジタルカメラ102のハードウエア構成を示す構成図である。
Claims (9)
- 異なる視点位置で撮影した複数の画像から、実際には撮影していない視点位置での新規な画像を再構成する画像処理方法において、
視点位置・方向情報を設定する設定工程と、
前記設定された視点位置・方向情報を複数の撮影装置に送信する送信工程と、
前記複数の撮影装置の夫々から前記視点位置・方向情報に応じた画像の有効画素情報を受信する受信工程と、
前記受信した有効画素情報から前記新規な画像を再構成する再構成工程とを有し、
前記撮影装置は、前記視点位置・方向情報に基づき撮影画像内から有効画素を抽出することを特徴とする画像処理方法。 - 前記受信工程は、前記有効画素情報とともに撮影タイミング情報を受信し、
前記再構成工程は、前記撮影タイミング情報が略同一の有効画素情報を用いて、前記新規な画像を再構成することを特徴とする請求項1記載の画像処理方法。 - 前記再構成工程は、動画を生成することを特徴とする請求項2記載の画像処理方法。
- 異なる視点位置で撮影した複数の画像から、実際には撮影していない視点位置での新規な画像を再構成する画像処理方法において、
視点位置・方向情報を設定する設定工程と、
ネットワーク接続された複数のカメラそれぞれの位置および方向の情報を保持し、
前記設定された視点位置・方向情報に基づき、前記新規な画像を生成するために必要な有効画素を有するカメラを選択する選択工程と、
前記選択されたカメラに、該選択カメラの有効画素位置情報を送信する送信工程と、
前記複数の撮影装置の夫々から前記視点位置・方向情報に応じた画像の有効画素情報を受信する受信工程と、
前記受信した有効画素情報から前記新規な画像を再構成する再構成工程とを有することを特徴とする画像処理方法。 - 前記受信工程は、前記有効画素情報とともに撮影タイミング情報を受信し、
前記再構成工程は、前記撮影タイミング情報が略同一の有効画素情報を用いて、前記新規な画像を再構成することを特徴とする請求項1記載の画像処理方法。 - 前記再構成工程は、動画を生成することを特徴とする請求項2記載の画像処理方法。
- 請求項1乃至6のいずれかに記載の画像処理方法を、コンピュータを用いて実現するためのプログラム。
- 異なる視点位置で撮影した複数の画像から、実際には撮影していない視点位置での新規な画像を再構成する画像処理装置において、
視点位置・方向情報を設定する設定手段と、
前記設定された視点位置・方向情報を複数の撮影装置に送信する送信手段と、
前記複数の撮影装置の夫々から前記視点位置・方向情報に応じた画像の有効画素情報を受信する受信手段と、
前記受信した有効画素情報から前記新規な画像を再構成する再構成手段とを有し、
前記撮影装置は、前記視点位置・方向情報に基づき撮影画像内から有効画素を抽出することを特徴とする画像処理装置。 - 異なる視点位置で撮影した複数の画像から、実際には撮影していない視点位置での新規な画像を再構成する画像処理装置において、
視点位置・方向情報を設定する設定手段と、
ネットワーク接続された複数のカメラそれぞれの位置および方向の情報を保持する保持手段と、
前記設定された視点位置・方向情報に基づき、前記新規な画像を生成するために必要な有効画素を有するカメラを選択する選択工程と、
前記選択されたカメラに、該選択カメラの有効画素位置情報を送信する送信手段と、
前記複数の撮影装置の夫々から前記視点位置・方向情報に応じた画像の有効画素情報を受信する受信手段と、
前記受信した有効画素情報から前記新規な画像を再構成する再構成手段とを有することを特徴とする画像処理装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003204673A JP2005050037A (ja) | 2003-07-31 | 2003-07-31 | 画像処理方法および装置 |
US10/900,191 US7620236B2 (en) | 2003-07-31 | 2004-07-28 | Image processing method and apparatus |
CNB2004100546939A CN1320829C (zh) | 2003-07-31 | 2004-07-30 | 图像处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003204673A JP2005050037A (ja) | 2003-07-31 | 2003-07-31 | 画像処理方法および装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005050037A true JP2005050037A (ja) | 2005-02-24 |
Family
ID=34100673
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003204673A Pending JP2005050037A (ja) | 2003-07-31 | 2003-07-31 | 画像処理方法および装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7620236B2 (ja) |
JP (1) | JP2005050037A (ja) |
CN (1) | CN1320829C (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013239061A (ja) * | 2012-05-16 | 2013-11-28 | Canon Inc | 画像推定方法、プログラム、記録媒体、画像推定装置、ネットワーク機器および画像データの取得方法 |
JP6425780B1 (ja) * | 2017-09-22 | 2018-11-21 | キヤノン株式会社 | 画像処理システム、画像処理装置、画像処理方法及びプログラム |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7031034B2 (en) * | 2000-10-02 | 2006-04-18 | Eastman Kodak Company | Articulating camera for digital image acquisition |
JP2007028555A (ja) * | 2005-07-21 | 2007-02-01 | Sony Corp | カメラシステム,情報処理装置,情報処理方法,およびコンピュータプログラム |
WO2009013744A2 (en) * | 2007-07-23 | 2009-01-29 | Humaneyes Technologies Ltd. | Multi view displays and methods for producing the same |
JP5645618B2 (ja) * | 2009-12-24 | 2014-12-24 | キヤノン株式会社 | 情報処理装置、情報処理方法、およびプログラム |
US20120087596A1 (en) * | 2010-10-06 | 2012-04-12 | Kamat Pawankumar Jagannath | Methods and systems for pipelined image processing |
CN103369229B (zh) * | 2012-03-28 | 2016-07-06 | 宏碁股份有限公司 | 多装置的同步摄影方法及*** |
US10818077B2 (en) | 2018-12-14 | 2020-10-27 | Canon Kabushiki Kaisha | Method, system and apparatus for controlling a virtual camera |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69529548T2 (de) * | 1994-04-22 | 2003-11-27 | Canon Kk | Bilderzeugungsverfahren und -gerät |
JPH08147497A (ja) * | 1994-11-25 | 1996-06-07 | Canon Inc | 画像処理方法及びその装置 |
JPH08116556A (ja) * | 1994-10-14 | 1996-05-07 | Canon Inc | 画像処理方法および装置 |
JPH09245192A (ja) | 1996-03-08 | 1997-09-19 | Canon Inc | 仮想環境生成実現方法およびその装置 |
US6268862B1 (en) | 1996-03-08 | 2001-07-31 | Canon Kabushiki Kaisha | Three dimensional virtual space generation by fusing images |
US6445807B1 (en) * | 1996-03-22 | 2002-09-03 | Canon Kabushiki Kaisha | Image processing method and apparatus |
JPH09261537A (ja) | 1996-03-22 | 1997-10-03 | Canon Inc | 画像処理装置及び画像処理方法 |
JPH1027264A (ja) | 1996-07-09 | 1998-01-27 | Canon Inc | 画像処理装置及び画像処理方法 |
ATE353460T1 (de) | 1999-09-02 | 2007-02-15 | Canon Kk | Progressive anzeige von zielobjekten |
JP4469471B2 (ja) * | 2000-07-13 | 2010-05-26 | 亮介 柴崎 | 移動体用広視野角多方向画像取得装置及び移動体用広視野角多方向画像取得システム |
US7085409B2 (en) * | 2000-10-18 | 2006-08-01 | Sarnoff Corporation | Method and apparatus for synthesizing new video and/or still imagery from a collection of real video and/or still imagery |
US6573912B1 (en) * | 2000-11-07 | 2003-06-03 | Zaxel Systems, Inc. | Internet system for virtual telepresence |
JP3352454B2 (ja) | 2000-11-21 | 2002-12-03 | キヤノン株式会社 | 画像処理装置及びその方法並びに記憶媒体 |
JP2004537082A (ja) * | 2001-01-26 | 2004-12-09 | ザクセル システムズ インコーポレイテッド | 仮想現実環境における実時間バーチャル・ビューポイント |
US20040104935A1 (en) * | 2001-01-26 | 2004-06-03 | Todd Williamson | Virtual reality immersion system |
WO2002065763A2 (en) * | 2001-02-12 | 2002-08-22 | Carnegie Mellon University | System and method for manipulating the point of interest in a sequence of images |
JP3432212B2 (ja) | 2001-03-07 | 2003-08-04 | キヤノン株式会社 | 画像処理装置及び方法 |
JP4035978B2 (ja) * | 2001-10-05 | 2008-01-23 | コニカミノルタホールディングス株式会社 | 3次元形状モデルの評価方法および生成方法並びに装置 |
JP4148671B2 (ja) | 2001-11-06 | 2008-09-10 | ソニー株式会社 | 表示画像制御処理装置、動画像情報送受信システム、および表示画像制御処理方法、動画像情報送受信方法、並びにコンピュータ・プログラム |
JP2003179800A (ja) * | 2001-12-13 | 2003-06-27 | Sony Corp | 多視点画像生成装置、画像処理装置、および方法、並びにコンピュータ・プログラム |
GB0208909D0 (en) * | 2002-04-18 | 2002-05-29 | Canon Europa Nv | Three-dimensional computer modelling |
JP4096622B2 (ja) * | 2002-05-21 | 2008-06-04 | 株式会社セガ | 画像処理方法及び装置、並びにプログラム及び記録媒体 |
-
2003
- 2003-07-31 JP JP2003204673A patent/JP2005050037A/ja active Pending
-
2004
- 2004-07-28 US US10/900,191 patent/US7620236B2/en not_active Expired - Fee Related
- 2004-07-30 CN CNB2004100546939A patent/CN1320829C/zh not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013239061A (ja) * | 2012-05-16 | 2013-11-28 | Canon Inc | 画像推定方法、プログラム、記録媒体、画像推定装置、ネットワーク機器および画像データの取得方法 |
JP6425780B1 (ja) * | 2017-09-22 | 2018-11-21 | キヤノン株式会社 | 画像処理システム、画像処理装置、画像処理方法及びプログラム |
JP2019057248A (ja) * | 2017-09-22 | 2019-04-11 | キヤノン株式会社 | 画像処理システム、画像処理装置、画像処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
CN1581228A (zh) | 2005-02-16 |
CN1320829C (zh) | 2007-06-06 |
US20050024496A1 (en) | 2005-02-03 |
US7620236B2 (en) | 2009-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5319415B2 (ja) | 画像処理装置、画像処理方法 | |
US7796155B1 (en) | Method and apparatus for real-time group interactive augmented-reality area monitoring, suitable for enhancing the enjoyment of entertainment events | |
JP6672075B2 (ja) | 制御装置、制御方法、及び、プログラム | |
CN101689292B (zh) | Banana多媒体数字信号编解码器 | |
JP5629642B2 (ja) | 動画像撮影装置、情報処理システム、情報処理装置、および画像データ処理方法 | |
JP3962676B2 (ja) | 画像処理方法及び装置 | |
CN102348061B (zh) | 相机设备、相机***、控制设备和程序 | |
KR102461037B1 (ko) | 영상 배신 장치, 영상 배신 시스템, 영상 배신 방법 및 영상 배신 프로그램 | |
JP2018063500A (ja) | 画像処理システム、画像処理装置、制御方法、及び、プログラム | |
JP2018026064A (ja) | 画像処理装置、画像処理方法、システム | |
JP2005050037A (ja) | 画像処理方法および装置 | |
JP2018191254A (ja) | 画像処理装置、画像処理方法、情報処理装置、撮像装置および画像処理システム | |
JP2010016826A (ja) | 画像処理オペレーションを効率的に実行するためのシステム及び方法 | |
WO2021033293A1 (ja) | 画像処理方法、画像処理装置及びプログラム | |
JP2004088483A (ja) | 映像情報配信システムと映像情報配信方法とそのためのサーバ | |
JP7195791B2 (ja) | 画像処理装置、情報処理方法及びプログラム | |
JP6632703B2 (ja) | 制御装置、制御方法、及び、プログラム | |
JP7099693B2 (ja) | 映像監視方法およびサーバならびに映像監視システム | |
JP7321716B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP3981454B2 (ja) | 不均一解像度画像データ生成装置及び方法及び不均一解像度画像データを用いる画像処理装置 | |
JP2002094867A (ja) | 撮像制御装置、撮像制御装置の制御方法、記憶媒体、リモート撮像システム | |
JP2010147691A (ja) | 画像生成装置、方法及びプログラム | |
CN110914871A (zh) | 获取三维场景的方法与装置 | |
JP6735566B2 (ja) | 画像管理装置、画像再生装置及びそれらの制御方法、プログラム並びに記憶媒体 | |
CN113837979B (zh) | 直播图像合成方法、装置、终端设备以及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060727 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090525 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090602 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090803 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090924 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091119 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20100201 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20100302 |