JP2022541670A - 体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出 - Google Patents
体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出 Download PDFInfo
- Publication number
- JP2022541670A JP2022541670A JP2022505466A JP2022505466A JP2022541670A JP 2022541670 A JP2022541670 A JP 2022541670A JP 2022505466 A JP2022505466 A JP 2022505466A JP 2022505466 A JP2022505466 A JP 2022505466A JP 2022541670 A JP2022541670 A JP 2022541670A
- Authority
- JP
- Japan
- Prior art keywords
- image
- intensity
- camera
- data
- sample features
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title description 18
- 238000000034 method Methods 0.000 claims description 40
- 238000012937 correction Methods 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 5
- 230000008676 import Effects 0.000 claims 1
- 238000004040 coloring Methods 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 10
- 238000004519 manufacturing process Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 230000007774 longterm Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000001816 cooling Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 229920001690 polydopamine Polymers 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/20—Circuitry for controlling amplitude response
- H04N5/205—Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
- H04N5/208—Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10144—Varying exposure
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Image Processing (AREA)
- Spectrometry And Color Measurement (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
Description
本出願は、2019年12月13日に出願された「体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出(Trans-Spectral Feature Detection for Volumetric Image Alignment and Colorization)」という名称の同時係属中である米国仮特許出願第62/947,747号の米国特許法第119条に基づく優先権の利益を主張するものである。上記出願の開示は引用により本明細書に組み入れられる。
112 HDRカメラを使用して画像データを取り込む
114 画像データを使用して、シーンのサンプル特徴を含むカメラ画像を生成
116 強度画像のサンプル特徴とカメラ画像のサンプル特徴とをマッチング
118 位置合わせされた強度画像に色情報を適用することによってカラー強度画像を生成
Claims (20)
- 画像位置合わせ及びカラー化のための方法であって、
少なくとも1つのスキャナを使用して強度データを取り込むステップと、
前記強度データを使用して、シーン内のサンプル特徴を含む少なくとも1つの特徴を含む強度画像を生成するステップと、
少なくとも1つのカメラを使用して、色情報を含む画像データを取り込むステップと、
前記画像データを使用して、前記サンプル特徴を含むカメラ画像を生成するステップと、
前記強度画像内の前記サンプル特徴を前記カメラ画像内の前記サンプル特徴とマッチングして前記強度画像と前記カメラ画像とを位置合わせするステップと、
前記位置合わせされた強度画像に前記色情報を適用することによってカラー画像を生成するステップと、
を含むことを特徴とする方法。 - 前記少なくとも1つのスキャナは、少なくとも1つのLIDARスキャナを含む、
請求項1に記載の方法。 - 前記少なくとも1つのLIDARスキャナによって取り込まれる強度データは3-D強度画像である、
請求項2に記載の方法。 - 前記3-D強度画像に前記色情報を適用するステップをさらに含む、
請求項3に記載の方法。 - 前記3-D強度画像から2-D強度画像を生成するステップをさらに含む、
請求項3に記載の方法。 - 前記少なくとも1つのカメラは少なくとも1つのHDRカメラを含む、
請求項1に記載の方法。 - 前記少なくとも1つのHDRカメラによって取り込まれる前記カメラデータは2-Dカラー写真である、
請求項6に記載の方法。 - 前記画像データを使用して前記カメラ画像を生成するステップは、前記画像データに対して露光スタッキング及び色補正を行って前記カメラ画像を生成するステップを含む、
請求項1に記載の方法。 - 前記強度画像内に1又は2以上の制御点を生成するステップと、
前記強度画像と前記カメラ画像との前記位置合わせの調整を受け取るステップと、
をさらに含む、請求項1に記載の方法。 - 前記カメラ画像内のいずれかのレンズ歪みの補正を実行するステップと、
前記強度画像と前記カメラ画像との前記位置合わせの調整を受け取るステップと、
をさらに含む、請求項1に記載の方法。 - 体積画像を位置合わせしてカラー化するシステムであって、
強度データを取り込む少なくとも1つのスキャナと、
色情報を含む画像データを取り込む少なくとも1つのカメラと、
前記取り込まれた強度データを使用して、シーン内のサンプル特徴を含む少なくとも1つの特徴を含む強度画像を生成し、
前記画像データを使用して、前記サンプル特徴を含む。カメラ画像を生成し、
前記強度画像内の前記サンプル特徴を前記カメラ画像内の前記サンプル特徴とマッチングして前記強度画像と前記カメラ画像とを位置合わせし、
前記位置合わせされた強度画像に前記色情報を適用することによってカラー画像を生成する、
プロセッサと、
を備えることを特徴とするシステム。 - 前記少なくとも1つのスキャナは、少なくとも1つのLIDARスキャナを含む、
請求項11に記載のシステム。 - 前記少なくとも1つのLIDARスキャナによって取り込まれる強度データは3-D強度画像である、
請求項12に記載のシステム。 - 前記少なくとも1つのカメラは少なくとも1つのHDRカメラを含む、
請求項11に記載のシステム。 - 前記プロセッサから前記強度画像及び前記カメラ画像を受け取り、前記マッチング及び前記位置合わせを実行して前記プロセッサに結果を返送するクラウドクラスタをさらに備える、
請求項11に記載のシステム。 - 体積画像を位置合わせしてカラー化するコンピュータプログラムを記憶した非一時的コンピュータ可読記憶媒体であって、前記コンピュータプログラムは、
強度データを取得し、
前記強度データを使用して、シーン内のサンプル特徴を含む少なくとも1つの特徴を含む強度画像を生成し、
色情報を含む画像データを取り込み、
前記画像データを使用して、前記サンプル特徴を含むカメラ画像を生成し、
前記強度画像内の前記サンプル特徴を前記カメラ画像内の前記サンプル特徴とマッチングして前記強度画像と前記カメラ画像とを位置合わせし、
前記位置合わせされた強度画像に前記色情報を適用することによってカラー画像を生成する、
ことをコンピュータに行わせる実行可能命令を含む、ことを特徴とする非一時的コンピュータ可読記憶媒体。 - 前記取り込まれる強度データは3-D強度画像である、
請求項16に記載の非一時的コンピュータ可読記憶媒体。 - 前記3-D強度画像から2-D強度画像を生成することを前記コンピュータに行わせる実行可能命令を含む、
請求項17に記載の非一時的コンピュータ可読記憶媒体。 - 前記画像データを使用して前記カメラ画像を生成することを前記コンピュータに行わせる前記実行可能命令は、前記画像データに対して露光スタッキング及び色補正を実行して前記カメラ画像を生成することを前記コンピュータに行わせる実行可能命令を含む、
請求項16に記載の非一時的コンピュータ可読記憶媒体。 - 前記強度画像内に1又は2以上の制御点を生成し、
前記強度画像と前記カメラ画像との前記位置合わせの調整を受け取る、
ことを前記コンピュータに行わせる実行可能命令をさらに含む、請求項1に記載の非一時的コンピュータ可読記憶媒体。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962947747P | 2019-12-13 | 2019-12-13 | |
US62/947,747 | 2019-12-13 | ||
US16/883,523 US20210185214A1 (en) | 2019-12-13 | 2020-05-26 | Trans-spectral feature detection for volumetric image alignment and colorization |
US16/883,523 | 2020-05-26 | ||
PCT/US2020/064268 WO2021119283A1 (en) | 2019-12-13 | 2020-12-10 | Trans-spectral feature detection for volumetric image alignment and colorization |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022541670A true JP2022541670A (ja) | 2022-09-26 |
Family
ID=76320618
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022505466A Pending JP2022541670A (ja) | 2019-12-13 | 2020-12-10 | 体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出 |
Country Status (7)
Country | Link |
---|---|
US (1) | US20210185214A1 (ja) |
EP (1) | EP4055563A4 (ja) |
JP (1) | JP2022541670A (ja) |
KR (1) | KR20220043194A (ja) |
CN (1) | CN114127786A (ja) |
CA (1) | CA3160247A1 (ja) |
WO (1) | WO2021119283A1 (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010514041A (ja) * | 2006-12-20 | 2010-04-30 | ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ | 複数画像レジストレーション装置及び方法 |
JP2018503325A (ja) * | 2014-11-06 | 2018-02-01 | デューライト・リミテッド・ライアビリティ・カンパニーDuelight Llc | 画素データに対して演算を実行するためのシステムおよび方法 |
JP2018203250A (ja) * | 2017-06-06 | 2018-12-27 | トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド | 交通に応じた動的車両制御のためのシステムおよび方法 |
JP2019095876A (ja) * | 2017-11-20 | 2019-06-20 | 三菱電機株式会社 | 3次元点群表示装置、3次元点群表示システム、3次元点群表示方法および3次元点群表示プログラム、記録媒体 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100157280A1 (en) * | 2008-12-19 | 2010-06-24 | Ambercore Software Inc. | Method and system for aligning a line scan camera with a lidar scanner for real time data fusion in three dimensions |
US8792559B2 (en) * | 2010-10-26 | 2014-07-29 | Sony Corporation | Method to improve accuracy and reliability of motion estimated with phase correlation |
US8494285B2 (en) * | 2010-12-09 | 2013-07-23 | The Hong Kong University Of Science And Technology | Joint semantic segmentation of images and scan data |
US9489706B2 (en) * | 2012-07-02 | 2016-11-08 | Qualcomm Technologies, Inc. | Device and algorithm for capturing high dynamic range (HDR) video |
US10809380B2 (en) * | 2017-05-15 | 2020-10-20 | Ouster, Inc. | Augmenting panoramic LIDAR results with color |
EP3438776B1 (en) * | 2017-08-04 | 2022-09-07 | Bayerische Motoren Werke Aktiengesellschaft | Method, apparatus and computer program for a vehicle |
US10846818B2 (en) * | 2018-11-15 | 2020-11-24 | Toyota Research Institute, Inc. | Systems and methods for registering 3D data with 2D image data |
-
2020
- 2020-05-26 US US16/883,523 patent/US20210185214A1/en active Pending
- 2020-12-10 CN CN202080051155.1A patent/CN114127786A/zh active Pending
- 2020-12-10 CA CA3160247A patent/CA3160247A1/en active Pending
- 2020-12-10 KR KR1020227007315A patent/KR20220043194A/ko active Search and Examination
- 2020-12-10 EP EP20898310.6A patent/EP4055563A4/en active Pending
- 2020-12-10 WO PCT/US2020/064268 patent/WO2021119283A1/en unknown
- 2020-12-10 JP JP2022505466A patent/JP2022541670A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010514041A (ja) * | 2006-12-20 | 2010-04-30 | ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ | 複数画像レジストレーション装置及び方法 |
JP2018503325A (ja) * | 2014-11-06 | 2018-02-01 | デューライト・リミテッド・ライアビリティ・カンパニーDuelight Llc | 画素データに対して演算を実行するためのシステムおよび方法 |
JP2018203250A (ja) * | 2017-06-06 | 2018-12-27 | トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド | 交通に応じた動的車両制御のためのシステムおよび方法 |
JP2019095876A (ja) * | 2017-11-20 | 2019-06-20 | 三菱電機株式会社 | 3次元点群表示装置、3次元点群表示システム、3次元点群表示方法および3次元点群表示プログラム、記録媒体 |
Non-Patent Citations (1)
Title |
---|
JUAN LI, ET AL.: "2D LiDAR and camera fusion in 3D modeling of indoor environment", 2015 NATIONAL AEROSPACE AND ELECTRONICS CONFERENCE (NAECON), JPN7023000295, 2015, ISSN: 0005075261 * |
Also Published As
Publication number | Publication date |
---|---|
CN114127786A (zh) | 2022-03-01 |
WO2021119283A1 (en) | 2021-06-17 |
CA3160247A1 (en) | 2021-06-17 |
EP4055563A1 (en) | 2022-09-14 |
KR20220043194A (ko) | 2022-04-05 |
US20210185214A1 (en) | 2021-06-17 |
EP4055563A4 (en) | 2023-01-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10897609B2 (en) | Systems and methods for multiscopic noise reduction and high-dynamic range | |
US10540806B2 (en) | Systems and methods for depth-assisted perspective distortion correction | |
US10205896B2 (en) | Automatic lens flare detection and correction for light-field images | |
US9444991B2 (en) | Robust layered light-field rendering | |
US20170256036A1 (en) | Automatic microlens array artifact correction for light-field images | |
US9635332B2 (en) | Saturated pixel recovery in light-field images | |
US8737736B2 (en) | Tone mapping of very large aerial image mosaic | |
US20170059305A1 (en) | Active illumination for enhanced depth map generation | |
US10692262B2 (en) | Apparatus and method for processing information of multiple cameras | |
KR102222290B1 (ko) | 혼합현실 환경의 동적인 3차원 현실데이터 구동을 위한 실사기반의 전방위 3d 모델 비디오 시퀀스 획득 방법 | |
WO2018001252A1 (zh) | 一种投射单元及包括该单元的拍摄装置、处理器、成像设备 | |
JP5775414B2 (ja) | 投影輝度調整方法、投影輝度調整装置、コンピュータプログラム及び記録媒体 | |
JP6867645B2 (ja) | 画像処理装置、方法、及びプログラム | |
KR20170128739A (ko) | 몰입형 콘텐츠 제작 지원용 영상 제공 장치 및 방법 | |
JP2022541670A (ja) | 体積画像の位置合わせ及びカラー化のためのトランススペクトル特徴検出 | |
JP5592834B2 (ja) | 光学投影制御装置、光学投影制御方法、及びプログラム | |
KR102430726B1 (ko) | 멀티 카메라의 정보 처리 장치 및 방법 | |
JP2018010498A (ja) | 画像処理装置及び方法並びに制御プログラム | |
US20190058869A1 (en) | Stereoscopic image-capturing apparatus | |
JP2019153173A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2005216191A (ja) | ステレオ画像処理装置およびステレオ画像処理方法 | |
CN110730297A (zh) | 一种照片数据处理方法、***、装置和存储介质 | |
TW201301201A (zh) | 影像處理系統及方法 | |
JP2022541669A (ja) | 2-d画像のリアルタイム体積視覚化 | |
CN117218000A (zh) | 全景图像拼接方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220126 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230116 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230201 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230501 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230605 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20230905 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231106 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20231218 |