JP2022541670A - 体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出 - Google Patents

体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出 Download PDF

Info

Publication number
JP2022541670A
JP2022541670A JP2022505466A JP2022505466A JP2022541670A JP 2022541670 A JP2022541670 A JP 2022541670A JP 2022505466 A JP2022505466 A JP 2022505466A JP 2022505466 A JP2022505466 A JP 2022505466A JP 2022541670 A JP2022541670 A JP 2022541670A
Authority
JP
Japan
Prior art keywords
image
intensity
camera
data
sample features
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022505466A
Other languages
English (en)
Inventor
トビアス アンダーバーグ
スコット メッツガー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JP2022541670A publication Critical patent/JP2022541670A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/205Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
    • H04N5/208Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Processing (AREA)
  • Spectrometry And Color Measurement (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

体積画像を位置合わせして着色することが、少なくとも1つのスキャナを使用して強度データを取り込むことと、強度データを使用して、シーン内のサンプル特徴を含む少なくとも1つの特徴を含む強度画像を生成することと、少なくとも1つのカメラを使用して、色情報を含む画像データを取り込むことと、画像データを使用して、サンプル特徴を含むカメラ画像を生成することと、強度画像内のサンプル特徴をカメラ画像内のサンプル特徴とマッチングして強度画像とカメラ画像とを位置合わせすることと、位置合わせされた強度画像に色情報を適用することによってカラー画像を生成することと、を含む。【選択図】 図1A

Description

〔関連出願との相互参照〕
本出願は、2019年12月13日に出願された「体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出(Trans-Spectral Feature Detection for Volumetric Image Alignment and Colorization)」という名称の同時係属中である米国仮特許出願第62/947,747号の米国特許法第119条に基づく優先権の利益を主張するものである。上記出願の開示は引用により本明細書に組み入れられる。
本開示は、画像の位置合わせ及びカラー化に関し、具体的には、体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出に関する。
ビデオ制作、スタジオ環境又はバーチャルプロダクションにおいて使用されるビデオシステムは、レーザースキャナとカラー撮影との組み合わせを使用してシーンを再現することができる。この再現動作は、画像位置合わせプログラムを手動で使用して、カラー写真とレーザースキャンから生成された強度画像との間で点をマッチングすることを含むことができる。しかしながら、2つの画像内の対応する点を定めてマッチングする手動操作は、処理が煩雑で長い時間が掛かる。
本開示は、体積画像の位置合わせ及びカラー化を可能にする。
1つの実装では、画像の位置合わせ及びカラー化のための方法を開示する。この方法は、少なくとも1つのスキャナを使用して強度データを取り込むステップと、強度データを使用して、シーン内のサンプル特徴を含む少なくとも1つの特徴を含む強度画像を生成するステップと、少なくとも1つのカメラを使用して、色情報を含む画像データを取り込むステップと、画像データを使用して、サンプル特徴を含むカメラ画像を生成するステップと、強度画像内のサンプル特徴をカメラ画像内のサンプル特徴とマッチングして強度画像とカメラ画像とを位置合わせするステップと、位置合わせされた強度画像に色情報を適用することによってカラー画像を生成するステップとを含む。
1つの実装では、少なくとも1つのスキャナが少なくとも1つのLIDARスキャナを含む。1つの実装では、少なくとも1つのLIDARスキャナによって取り込まれる強度データが3-D強度画像である。1つの実装では、方法が、3-D強度画像に色情報を適用するステップをさらに含む。1つの実装では、方法が、3-D強度画像から2-D強度画像を生成するステップをさらに含む。1つの実装では、少なくとも1つのカメラが少なくとも1つのHDRカメラを含む。1つの実装では、少なくとも1つのHDRカメラによって取り込まれるカメラデータが2-Dカラー写真である。1つの実装では、画像データを使用してカメラ画像を生成するステップが、画像データに対して露光スタッキング及び色補正を行ってカメラ画像を生成するステップを含む。1つの実装では、方法が、強度画像内に1又は2以上の制御点を生成するステップと、強度画像とカメラ画像との位置合わせの調整を受け取るステップとをさらに含む。1つの実装では、方法が、カメラ画像内のいずれかのレンズ歪みの補正を実行するステップと、強度画像とカメラ画像との位置合わせの調整を受け取るステップとをさらに含む。
別の実装では、体積画像を位置合わせしてカラー化するシステムを開示する。このシステムは、強度データを取り込む少なくとも1つのスキャナと、色情報を含む画像データを取り込む少なくとも1つのカメラと、取り込まれた強度データを使用して、シーン内のサンプル特徴を含む少なくとも1つの特徴を含む強度画像を生成し、画像データを使用して、サンプル特徴を含む。カメラ画像を生成し、強度画像内のサンプル特徴をカメラ画像内のサンプル特徴とマッチングして強度画像とカメラ画像とを位置合わせし、位置合わせされた強度画像に色情報を適用することによってカラー画像を生成する、プロセッサとを含む。
1つの実装では、少なくとも1つのスキャナが少なくとも1つのLIDARスキャナを含む。1つの実装では、少なくとも1つのLIDARスキャナによって取り込まれる強度データが3-D強度画像である。1つの実装では、少なくとも1つのカメラが少なくとも1つのHDRカメラを含む。1つの実装では、システムが、プロセッサから強度画像及びカメラ画像を受け取り、マッチング及び位置合わせを実行してプロセッサに結果を返送するクラウドクラスタをさらに含む。
別の実装では、体積画像を位置合わせしてカラー化するコンピュータプログラムを記憶した非一時的コンピュータ可読記憶媒体を開示する。コンピュータプログラムは、強度データを取得し、強度データを使用して、シーン内のサンプル特徴を含む少なくとも1つの特徴を含む強度画像を生成し、色情報を含む画像データを取り込み、画像データを使用して、サンプル特徴を含むカメラ画像を生成し、強度画像内のサンプル特徴をカメラ画像内のサンプル特徴とマッチングして強度画像とカメラ画像とを位置合わせし、位置合わせされた強度画像に色情報を適用することによってカラー画像を生成する、ことをコンピュータに行わせる実行可能命令を含む。
1つの実装では、取り込まれる強度データが3-D強度画像である。1つの実装では、コンピュータ可読記憶媒体が、3-D強度画像から2-D強度画像を生成することをコンピュータに行わせる実行可能命令を含む。1つの実装では、画像データを使用してカメラ画像を生成することをコンピュータに行わせる実行可能命令が、画像データに対して露光スタッキング及び色補正を実行してカメラ画像を生成することをコンピュータに行わせる実行可能命令を含む。1つの実装では、コンピュータ可読記憶媒体が、強度画像内に1又は2以上の制御点を生成し、強度画像とカメラ画像との位置合わせの調整を受け取る、ことをコンピュータに行わせる実行可能命令をさらに含む。
本開示の態様を一例として示す本明細書からは、他の特徴及び利点も明らかになるはずである。
同じ部分を同じ参照数字によって示す添付図面を検討することにより、本開示の詳細をその構造及び動作の両方に関して部分的に入手することができる。
本開示の1つの実装による体積画像の位置合わせ及びカラー化のための方法のフロー図である。 本開示の別の実装による体積画像の位置合わせ及びカラー化のための方法のフロー図である。 図1Bで説明するステップのプロセス図である。 本開示の1つの実装による体積画像の位置合わせ及びカラー化のためのシステムのブロック図である。 本開示の1つの実装によるコンピュータシステム及びユーザの表現である。 本開示の1つの実装による、位置合わせ及びカラー化アプリケーションをホストするコンピュータシステムを示す機能ブロック図である。
上述したように、ビデオ制作、スタジオ環境又はバーチャルプロダクションにおいて使用されるビデオシステムは、レーザースキャナとカラー撮影との組み合わせを使用してシーンを再現することができ、この動作は、画像位置合わせプログラムを手動で使用して、カラー写真とレーザースキャンから生成された強度画像との間で点をマッチングすることを伴うことができる。しかしながら、2つの画像内の対応する点を定めてマッチングする手動操作は、処理が煩雑で長い時間が掛かる。
本開示のいくつかの実装は、ビデオデータ処理技術を実装するシステム及び方法を提供する。1つの実装では、ビデオシステムが、被写体及び環境のビデオデータを取り込み、点を色付けした体積データセットを作成する。1つの実装では、システムが、点に対する色の割り当てを自動化する。
以下の説明を読んだ後には、様々な実装及び用途における本開示の実装方法が明らかになるであろう。本明細書では本開示の様々な実装について説明するが、これらの実装はほんの一例として提示するものであり、限定ではないと理解されたい。従って、様々な実装の詳細な説明は、本開示の範囲又は外延を限定するものとして解釈すべきではない。
新たなシステムの1つの実装では、光検知及び測距(LIDAR)スキャナ(例えば、レーザースキャナ)を使用して、色を含まない強度データによって表される体積点群(3-D)を生成する。一方で、LIDARスキャナでスキャンした現実世界の環境を再現するために、環境の高ダイナミックレンジ(HDR)写真(カラー画像)を撮影して、LIDARスキャンした強度データの2-D画像表現にマッピングする。
1つの実装では、新たなシステムが、1又は2以上のLIDARスキャナで強度情報を取り込み、1又は2以上のカメラで画像及びカラー情報を取り込む。新たなシステムは、カラー撮影及び強度画像の両方において画像特徴検出を使用して、2つのトランススペクトル画像(例えば、強度画像及びカラー画像)を共にマッピングし、位置合わせし、及び/又はマッチングすることができる(まとめて「位置合わせ」と呼ぶ)。システムは、位置合わせを改善するために検出点の微調整を可能にすることもできる。
1つの実装では、画像特徴検出法が、カラー写真内の特徴を自動的に検出し、現実世界のLIDARスキャンからの強度画像内の特徴とマッチングして位置合わせするステップを含む。画像特徴検出法は、位置合わせプロセス中にレンズ歪みを補正するステップも含む。方法は、手動微調整、位置合わせの調整、並びにグラフィックスプロセッシングユニット(GPU)の非同期コンピュートシェーダ(asynchronous compute shaders)を利用して計算及びカラー化を行うことをさらに含む。
図1Aは、本開示の1つの実装による体積画像の位置合わせ及びカラー化のための方法100のフロー図である。1つの実装では、方法が、LIDARスキャナ及びHDR撮影を使用してシーンを再現することを含む。従って、このシーンの再現は、(シーンの3-D強度データを生成するために)複数の場所からLIDARスキャナで環境をスキャンし、(シーンの2-Dカラー画像データを生成するために)HDRカメラを使用して複数の場所から多重露光でシーンを撮影することを含む。
1つの実装では、シーンの3-D強度データから2-D強度画像が生成される。2-Dカラー画像データに対して露光スタッキング及び色補正を実行して、LIDARスキャナによってスキャンされたシーンの特定のビューの強度画像に対応するHDR画像を生成する。次に、HDR画像の特徴を2-Dの強度画像の特徴とマッチングする。特徴検出法は、数ある中でもとりわけ、ヒストグラム特徴検出、エッジベースの特徴検出、スペクトル特徴検出及び共起特徴検出(co-occurrence feature detection)を含む。
図1Aの例示的な実装では、ステップ110において、スキャナを使用して取り込まれた強度データから強度画像を生成する。1つの実装では、強度画像がシーン内の少なくとも1つの特徴を含み、少なくとも1つの特徴がサンプル特徴を含む。ステップ112において、HDRカメラを使用して、色情報を含む画像データを取り込む。ステップ114において、画像データを使用して、シーンのサンプル特徴を含むカメラ画像を生成する。ステップ116において、強度画像のサンプル特徴とカメラ画像のサンプル特徴とをマッチングし、強度画像とカメラ画像とを位置合わせする。ステップ118において、位置合わせされた強度画像に色情報を適用することによってカラー強度画像を生成する。
さらなる実装では、位置合わせプロセス中及びその完了後にいずれかのレンズ歪みを補正し、GPUを使用して、位置合わせを微調整するために使用できる制御点を提示する。別の実装では、LIDAR3-D強度データに直接色が適用される。
体積画像の位置合わせ及びカラー化のための方法の別の実装では、マッチング及び位置合わせ動作が、ユーザが2-D LIDAR強度画像をHDR写真と共にアップロードできる高出力クラウドクラスタ上で「オフライン」で行われる。その後、クラウドクラスタが上記プロセスを実行してユーザに最終結果を提示する。
図1Bは、本開示の別の実装による体積画像の位置合わせ及びカラー化のための方法120のフロー図である。図1Cには、図1Bで説明するステップのプロセス図を示す。
図1B及び図1Cの例示的な実装では、ステップ130において、2-Dカラー画像160及び2-D強度画像162という2つの画像を受け取る。次に、ステップ132において、2-Dカラー画像160を2-Dグレースケール画像164に変換する(図1Cのプロセス170を参照)。ステップ134において、2-Dグレースケール画像164及び2-D強度画像162の両方に対して初回通過形状検出(first pass shape detection)を実行する(図1Cのプロセス172を参照)。ステップ136において、検出された形状を使用して初回通過特徴検出を実行して、両画像のマッチする「形状点」を発見する。図1Cの例では、カラー画像が強度画像と直接「マッチ」していない(すなわち、カラー画像(P座標)が強度画像(Q座標)に対してわずかに回転している)。従って、次にステップ138において、画像間の位相相関を計算していずれかのオフセットを得る(図1Cのプロセス174を参照)。ステップ140において、位相相関データを使用して画像変換を計算し、ステップ142において、画像変換を使用して、変換後の2-Dカラー画像166が2-D強度画像と同じ向きを有するように2-Dカラー画像を変換する。
1つの実装では、方法120が、ステップ144において初期画像位置合わせを実行し、ステップ146においてさらに細かな特徴検出を実行することをさらに含む。例えば、初期画像位置合わせは、エッジの前処理を含むことができ、さらに細かな特徴検出は、前処理の結果をハフアルゴリズム(Hough Algorithms)又はその他の線/特徴検出に供給することを含むことができる。ステップ148において、「シャープコーナーマッチ(sharp corner match)」又はその他の特徴マッチングなどの何らかの発見的特徴(heuristic characteristics)に基づいて、重なり合うマッチした特徴からマッチする特徴点を抽出する。ステップ150において、ステップ136で発見された形状点、ステップ148で抽出された特徴点、及びステップ138で計算された位相相関を使用して、最終画像変換を計算する。最後に、ステップ152において、最終画像変換を使用して2-Dカラー画像(ソース画像)を2-D強度画像(ターゲット画像)に位置合わせする(図1Cのプロセス176を参照)。
図2は、本開示の1つの実装による、体積画像の位置合わせ及びカラー化のためのシステム200のブロック図である。図2の例示的な実装では、システム200が、ビデオ制作、スタジオ環境又はバーチャルプロダクションにおいてシーンを再現するために使用され、画像取り込みのためのカメラ210と、スキャナ及び/又はセンサ220と、カメラ及びセンサデータを処理するプロセッサ230とを含む。1つの実装では、カメラ210がHDRカメラを含み、スキャナ/センサ220がLIDARスキャナを含む。従って、1つの特定の実装では、このシーンの再現が、シーンの3-D強度データを生成するためにLIDARスキャナ220でシーンをスキャンし、シーンの2-Dカラー画像データを生成するためにHDRカメラを使用してシーンを撮影することを含む。図示の実装では1つのカメラ及び1つのスキャナしか示していないが、1又は2以上のさらなるカメラ及び/又は1又は2以上のさらなるスキャナを使用することもできる。
1つの実装では、プロセッサ230が、LIDARスキャナ220によって取り込まれた強度データを受け取って強度画像を生成する。1つの実装では、強度画像がシーンの(サンプル特徴を含む)特徴を含む。プロセッサ230は、HDRカメラ210によって取り込まれた(色情報を含む)画像データを受け取って(サンプル特徴を含む)カメラ画像も生成する。プロセッサ230は、強度画像内のサンプル特徴とカメラ画像内のサンプル特徴とをマッチングして強度画像とカメラ画像とを位置合わせする。プロセッサ230は、位置合わせされた強度画像に色情報を適用してカラー強度画像を生成する。
さらなる実装では、プロセッサ230が、いずれかのレンズ歪みの補正も実行し、位置合わせを微調整するために使用できる点を制御する。1つの実装では、プロセッサ230がGPUとして構成される。別の実装では、プロセッサ230が、2-D LIDAR強度画像をHDR写真と共に高出力クラウドクラスタにアップロードすることによってマッチング及び位置合わせ動作を外部委託する。その後、クラウドクラスタは、上記のプロセスを実行してプロセッサ230に最終結果を返送する。
図3Aは、本開示の1つの実装によるコンピュータシステム300及びユーザ302の表現である。ユーザ302は、コンピュータシステム300を使用して、図1A及び図1Bの方法100、120及び図2のシステム200に関して図示し説明したような体積画像の位置合わせ及びカラー化のための位置合わせ及びカラー化アプリケーション390を実行する。
コンピュータシステム300は、図3Bの位置合わせ及びカラー化アプリケーション390を記憶して実行する。また、コンピュータシステム300は、ソフトウェアプログラム304と通信することもできる。ソフトウェアプログラム304は、位置合わせ及びカラー化アプリケーション390のためのソフトウェアコードを含むことができる。以下でさらに説明するように、ソフトウェアプログラム304は、CD、DVD又はストレージドライブなどの外部媒体にロードすることができる。
さらに、コンピュータシステム300は、ネットワーク380に接続することもできる。ネットワーク380は、例えばクライアント-サーバアーキテクチャ、ピアツーピアネットワークアーキテクチャ又は他のタイプのアーキテクチャなどの様々な異なるアーキテクチャで接続することができる。例えば、ネットワーク380は、位置合わせ及びカラー化アプリケーション390内で使用されるエンジンとデータとを協調させるサーバ385と通信することができる。また、ネットワークは、異なるタイプのネットワークとすることもできる。例えば、ネットワーク380は、インターネット、ローカルエリアネットワーク又はローカルエリアネットワークのいずれかの変形形態、ワイドエリアネットワーク、メトロポリタンエリアネットワーク、イントラネット又はエクストラネット、或いは無線ネットワークとすることができる。
図3Bは、本開示の実装による、位置合わせ及びカラー化アプリケーション390をホストするコンピュータシステム300を示す機能ブロック図である。コントローラ310はプログラマブルプロセッサであり、コンピュータシステム300及びそのコンポーネントの動作を制御する。コントローラ310は、メモリ320又は埋め込みコントローラメモリ(図示せず)から(例えば、コンピュータプログラムの形態の)命令をロードし、これらの命令を実行して、例えばデータ処理を行って深度を確立し、データをレンダリングして視覚化を提示するようにシステムを制御する。コントローラ310は、その実行において、位置合わせ及びカラー化アプリケーション390に、タスク待ち行列を使用して装置群の作成と装置設定データの送信とを同時に可能にするようなソフトウェアシステムを提供する。或いは、このサービスは、コントローラ310又はコンピュータシステム300内の別のハードウェアコンポーネントとして実装することもできる。
メモリ320は、コンピュータシステム300の他のコンポーネントによって使用されるデータを一時的に記憶する。1つの実装では、メモリ320がRAMとして実装される。1つの実装では、メモリ320が、フラッシュメモリ及び/又はROMなどの長期又は固定メモリも含む。
ストレージ330は、コンピュータシステム300の他のコンポーネントによって使用されるデータを一時的に又は長期にわたって記憶する。例えば、ストレージ330は、位置合わせ及びカラー化アプリケーション390によって使用されるデータを記憶する。1つの実装では、ストレージ330がハードディスクドライブである。
媒体装置340は、取り外し可能媒体を受け取り、挿入された媒体に対してデータの読み取り及び/又は書き込みを行う。1つの実装では、例えば、媒体装置340が光ディスクドライブである。
ユーザインターフェイス350は、コンピュータシステム300のユーザからのユーザ入力を受け入れてユーザ302に情報を提示するコンポーネントを含む。1つの実装では、ユーザインターフェイス350が、キーボード、マウス、オーディオスピーカ及びディスプレイを含む。コントローラ310は、ユーザ302からの入力を使用してコンピュータシステム300の動作を調整する。
I/Oインターフェイス360は、外部記憶装置又は補助装置(例えば、プリンタ又はPDA)などの対応するI/O装置に接続するための1又は2以上のI/Oポートを含む。1つの実装では、I/Oインターフェイス360のポートが、USBポート、PCMCIAポート、シリアルポート及び/又はパラレルポートなどのポートを含む。別の実装では、I/Oインターフェイス360が、外部装置と無線で通信するための無線インターフェイスを含む。
ネットワークインターフェイス370は、イーサネット接続をサポートするRJ-45又は(限定するわけではないが802.11を含む)「Wi-Fi」インターフェイスなどの有線及び/又は無線ネットワーク接続を含む。
コンピュータシステム300は、コンピュータシステムに特有のさらなるハードウェア及びソフトウェア(例えば、電源、冷却、オペレーティングシステム)を含むが、これらのコンポーネントは、単純にするために図3Bには具体的に示していない。他の実装では、コンピュータシステムの異なる構成(例えば、異なるバス又はストレージ構成、又はマルチプロセッサ構成)を使用することもできる。
本明細書に開示した実装の説明は、本発明をいずれかの当業者が実施又は利用できるように行ったものである。当業者には、これらの実装の数多くの修正が容易に明らかになると思われ、また本明細書で定める原理は、本発明の趣旨又は範囲から逸脱することなく他の実装にも適用することができる。例えば、システム及び方法の実装は、映画又はテレビのためのビデオ制作に加えて、バーチャルプロダクション(例えば、仮想現実環境)又はその他のLIDAR又は3-D点空間カラー化用途などの他の用途に適用して適合させることもできる。従って、本開示は、本明細書に示す実装に限定されることを意図するものではなく、本明細書に開示する原理及び新規の特徴と一致する最も広い範囲を許容すべきものである。
本開示の特定の実装では、必ずしも上述した各実施例の全ての特徴が必要なわけではない。さらに、本明細書に示す説明及び図面は、本発明によって幅広く検討される主題を表すものであると理解されたい。さらに、本開示の範囲は、当業者に明らかになると考えられる他の実装を完全に含み、従って添付の特許請求の範囲以外のものによって限定されるものではないと理解されたい。
110 スキャナを使用して取り込まれた強度データから強度画像を生成
112 HDRカメラを使用して画像データを取り込む
114 画像データを使用して、シーンのサンプル特徴を含むカメラ画像を生成
116 強度画像のサンプル特徴とカメラ画像のサンプル特徴とをマッチング
118 位置合わせされた強度画像に色情報を適用することによってカラー強度画像を生成

Claims (20)

  1. 画像位置合わせ及びカラー化のための方法であって、
    少なくとも1つのスキャナを使用して強度データを取り込むステップと、
    前記強度データを使用して、シーン内のサンプル特徴を含む少なくとも1つの特徴を含む強度画像を生成するステップと、
    少なくとも1つのカメラを使用して、色情報を含む画像データを取り込むステップと、
    前記画像データを使用して、前記サンプル特徴を含むカメラ画像を生成するステップと、
    前記強度画像内の前記サンプル特徴を前記カメラ画像内の前記サンプル特徴とマッチングして前記強度画像と前記カメラ画像とを位置合わせするステップと、
    前記位置合わせされた強度画像に前記色情報を適用することによってカラー画像を生成するステップと、
    を含むことを特徴とする方法。
  2. 前記少なくとも1つのスキャナは、少なくとも1つのLIDARスキャナを含む、
    請求項1に記載の方法。
  3. 前記少なくとも1つのLIDARスキャナによって取り込まれる強度データは3-D強度画像である、
    請求項2に記載の方法。
  4. 前記3-D強度画像に前記色情報を適用するステップをさらに含む、
    請求項3に記載の方法。
  5. 前記3-D強度画像から2-D強度画像を生成するステップをさらに含む、
    請求項3に記載の方法。
  6. 前記少なくとも1つのカメラは少なくとも1つのHDRカメラを含む、
    請求項1に記載の方法。
  7. 前記少なくとも1つのHDRカメラによって取り込まれる前記カメラデータは2-Dカラー写真である、
    請求項6に記載の方法。
  8. 前記画像データを使用して前記カメラ画像を生成するステップは、前記画像データに対して露光スタッキング及び色補正を行って前記カメラ画像を生成するステップを含む、
    請求項1に記載の方法。
  9. 前記強度画像内に1又は2以上の制御点を生成するステップと、
    前記強度画像と前記カメラ画像との前記位置合わせの調整を受け取るステップと、
    をさらに含む、請求項1に記載の方法。
  10. 前記カメラ画像内のいずれかのレンズ歪みの補正を実行するステップと、
    前記強度画像と前記カメラ画像との前記位置合わせの調整を受け取るステップと、
    をさらに含む、請求項1に記載の方法。
  11. 体積画像を位置合わせしてカラー化するシステムであって、
    強度データを取り込む少なくとも1つのスキャナと、
    色情報を含む画像データを取り込む少なくとも1つのカメラと、
    前記取り込まれた強度データを使用して、シーン内のサンプル特徴を含む少なくとも1つの特徴を含む強度画像を生成し、
    前記画像データを使用して、前記サンプル特徴を含む。カメラ画像を生成し、
    前記強度画像内の前記サンプル特徴を前記カメラ画像内の前記サンプル特徴とマッチングして前記強度画像と前記カメラ画像とを位置合わせし、
    前記位置合わせされた強度画像に前記色情報を適用することによってカラー画像を生成する、
    プロセッサと、
    を備えることを特徴とするシステム。
  12. 前記少なくとも1つのスキャナは、少なくとも1つのLIDARスキャナを含む、
    請求項11に記載のシステム。
  13. 前記少なくとも1つのLIDARスキャナによって取り込まれる強度データは3-D強度画像である、
    請求項12に記載のシステム。
  14. 前記少なくとも1つのカメラは少なくとも1つのHDRカメラを含む、
    請求項11に記載のシステム。
  15. 前記プロセッサから前記強度画像及び前記カメラ画像を受け取り、前記マッチング及び前記位置合わせを実行して前記プロセッサに結果を返送するクラウドクラスタをさらに備える、
    請求項11に記載のシステム。
  16. 体積画像を位置合わせしてカラー化するコンピュータプログラムを記憶した非一時的コンピュータ可読記憶媒体であって、前記コンピュータプログラムは、
    強度データを取得し、
    前記強度データを使用して、シーン内のサンプル特徴を含む少なくとも1つの特徴を含む強度画像を生成し、
    色情報を含む画像データを取り込み、
    前記画像データを使用して、前記サンプル特徴を含むカメラ画像を生成し、
    前記強度画像内の前記サンプル特徴を前記カメラ画像内の前記サンプル特徴とマッチングして前記強度画像と前記カメラ画像とを位置合わせし、
    前記位置合わせされた強度画像に前記色情報を適用することによってカラー画像を生成する、
    ことをコンピュータに行わせる実行可能命令を含む、ことを特徴とする非一時的コンピュータ可読記憶媒体。
  17. 前記取り込まれる強度データは3-D強度画像である、
    請求項16に記載の非一時的コンピュータ可読記憶媒体。
  18. 前記3-D強度画像から2-D強度画像を生成することを前記コンピュータに行わせる実行可能命令を含む、
    請求項17に記載の非一時的コンピュータ可読記憶媒体。
  19. 前記画像データを使用して前記カメラ画像を生成することを前記コンピュータに行わせる前記実行可能命令は、前記画像データに対して露光スタッキング及び色補正を実行して前記カメラ画像を生成することを前記コンピュータに行わせる実行可能命令を含む、
    請求項16に記載の非一時的コンピュータ可読記憶媒体。
  20. 前記強度画像内に1又は2以上の制御点を生成し、
    前記強度画像と前記カメラ画像との前記位置合わせの調整を受け取る、
    ことを前記コンピュータに行わせる実行可能命令をさらに含む、請求項1に記載の非一時的コンピュータ可読記憶媒体。
JP2022505466A 2019-12-13 2020-12-10 体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出 Pending JP2022541670A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962947747P 2019-12-13 2019-12-13
US62/947,747 2019-12-13
US16/883,523 US20210185214A1 (en) 2019-12-13 2020-05-26 Trans-spectral feature detection for volumetric image alignment and colorization
US16/883,523 2020-05-26
PCT/US2020/064268 WO2021119283A1 (en) 2019-12-13 2020-12-10 Trans-spectral feature detection for volumetric image alignment and colorization

Publications (1)

Publication Number Publication Date
JP2022541670A true JP2022541670A (ja) 2022-09-26

Family

ID=76320618

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022505466A Pending JP2022541670A (ja) 2019-12-13 2020-12-10 体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出

Country Status (7)

Country Link
US (1) US20210185214A1 (ja)
EP (1) EP4055563A4 (ja)
JP (1) JP2022541670A (ja)
KR (1) KR20220043194A (ja)
CN (1) CN114127786A (ja)
CA (1) CA3160247A1 (ja)
WO (1) WO2021119283A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010514041A (ja) * 2006-12-20 2010-04-30 ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ 複数画像レジストレーション装置及び方法
JP2018503325A (ja) * 2014-11-06 2018-02-01 デューライト・リミテッド・ライアビリティ・カンパニーDuelight Llc 画素データに対して演算を実行するためのシステムおよび方法
JP2018203250A (ja) * 2017-06-06 2018-12-27 トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド 交通に応じた動的車両制御のためのシステムおよび方法
JP2019095876A (ja) * 2017-11-20 2019-06-20 三菱電機株式会社 3次元点群表示装置、3次元点群表示システム、3次元点群表示方法および3次元点群表示プログラム、記録媒体

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100157280A1 (en) * 2008-12-19 2010-06-24 Ambercore Software Inc. Method and system for aligning a line scan camera with a lidar scanner for real time data fusion in three dimensions
US8792559B2 (en) * 2010-10-26 2014-07-29 Sony Corporation Method to improve accuracy and reliability of motion estimated with phase correlation
US8494285B2 (en) * 2010-12-09 2013-07-23 The Hong Kong University Of Science And Technology Joint semantic segmentation of images and scan data
US9489706B2 (en) * 2012-07-02 2016-11-08 Qualcomm Technologies, Inc. Device and algorithm for capturing high dynamic range (HDR) video
US10809380B2 (en) * 2017-05-15 2020-10-20 Ouster, Inc. Augmenting panoramic LIDAR results with color
EP3438776B1 (en) * 2017-08-04 2022-09-07 Bayerische Motoren Werke Aktiengesellschaft Method, apparatus and computer program for a vehicle
US10846818B2 (en) * 2018-11-15 2020-11-24 Toyota Research Institute, Inc. Systems and methods for registering 3D data with 2D image data

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010514041A (ja) * 2006-12-20 2010-04-30 ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ 複数画像レジストレーション装置及び方法
JP2018503325A (ja) * 2014-11-06 2018-02-01 デューライト・リミテッド・ライアビリティ・カンパニーDuelight Llc 画素データに対して演算を実行するためのシステムおよび方法
JP2018203250A (ja) * 2017-06-06 2018-12-27 トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド 交通に応じた動的車両制御のためのシステムおよび方法
JP2019095876A (ja) * 2017-11-20 2019-06-20 三菱電機株式会社 3次元点群表示装置、3次元点群表示システム、3次元点群表示方法および3次元点群表示プログラム、記録媒体

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JUAN LI, ET AL.: "2D LiDAR and camera fusion in 3D modeling of indoor environment", 2015 NATIONAL AEROSPACE AND ELECTRONICS CONFERENCE (NAECON), JPN7023000295, 2015, ISSN: 0005075261 *

Also Published As

Publication number Publication date
CN114127786A (zh) 2022-03-01
WO2021119283A1 (en) 2021-06-17
CA3160247A1 (en) 2021-06-17
EP4055563A1 (en) 2022-09-14
KR20220043194A (ko) 2022-04-05
US20210185214A1 (en) 2021-06-17
EP4055563A4 (en) 2023-01-11

Similar Documents

Publication Publication Date Title
US10897609B2 (en) Systems and methods for multiscopic noise reduction and high-dynamic range
US10540806B2 (en) Systems and methods for depth-assisted perspective distortion correction
US10205896B2 (en) Automatic lens flare detection and correction for light-field images
US9444991B2 (en) Robust layered light-field rendering
US20170256036A1 (en) Automatic microlens array artifact correction for light-field images
US9635332B2 (en) Saturated pixel recovery in light-field images
US8737736B2 (en) Tone mapping of very large aerial image mosaic
US20170059305A1 (en) Active illumination for enhanced depth map generation
US10692262B2 (en) Apparatus and method for processing information of multiple cameras
KR102222290B1 (ko) 혼합현실 환경의 동적인 3차원 현실데이터 구동을 위한 실사기반의 전방위 3d 모델 비디오 시퀀스 획득 방법
WO2018001252A1 (zh) 一种投射单元及包括该单元的拍摄装置、处理器、成像设备
JP5775414B2 (ja) 投影輝度調整方法、投影輝度調整装置、コンピュータプログラム及び記録媒体
JP6867645B2 (ja) 画像処理装置、方法、及びプログラム
KR20170128739A (ko) 몰입형 콘텐츠 제작 지원용 영상 제공 장치 및 방법
JP2022541670A (ja) 体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出
JP5592834B2 (ja) 光学投影制御装置、光学投影制御方法、及びプログラム
KR102430726B1 (ko) 멀티 카메라의 정보 처리 장치 및 방법
JP2018010498A (ja) 画像処理装置及び方法並びに制御プログラム
US20190058869A1 (en) Stereoscopic image-capturing apparatus
JP2019153173A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2005216191A (ja) ステレオ画像処理装置およびステレオ画像処理方法
CN110730297A (zh) 一种照片数据处理方法、***、装置和存储介质
TW201301201A (zh) 影像處理系統及方法
JP2022541669A (ja) 2-d画像のリアルタイム体積視覚化
CN117218000A (zh) 全景图像拼接方法、装置、设备和存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230605

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231106

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20231218