JP2022123679A - 濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラム - Google Patents

濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラム Download PDF

Info

Publication number
JP2022123679A
JP2022123679A JP2021021134A JP2021021134A JP2022123679A JP 2022123679 A JP2022123679 A JP 2022123679A JP 2021021134 A JP2021021134 A JP 2021021134A JP 2021021134 A JP2021021134 A JP 2021021134A JP 2022123679 A JP2022123679 A JP 2022123679A
Authority
JP
Japan
Prior art keywords
grayscale
information
distance
information acquisition
distance information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021021134A
Other languages
English (en)
Inventor
秀樹 中條
Hideki Nakajo
崇 垣内
Takashi Kakiuchi
宏行 田中
Hiroyuki Tanaka
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2021021134A priority Critical patent/JP2022123679A/ja
Priority to CN202280013700.7A priority patent/CN116848372A/zh
Priority to PCT/JP2022/001258 priority patent/WO2022172690A1/ja
Priority to DE112022001051.7T priority patent/DE112022001051T5/de
Publication of JP2022123679A publication Critical patent/JP2022123679A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)

Abstract

【課題】対象物までの距離に応じて生成される濃淡画像において、遠距離にある対象物を明確に表示させることが可能な濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラムを提供する。【解決手段】濃淡画像生成装置30は、距離情報取得部11、濃淡情報取得部12、補正部13、画像生成部14を備えている。距離情報取得部11は、照明装置21から照射された光の反射量に応じて対象物40までの距離情報を取得する。濃淡情報取得部12は、照明装置21から照射された光の反射量に応じて濃淡情報を取得する。補正部13は、濃淡情報取得部12によって得られた濃淡情報を、距離情報取得部11で得られた距離情報に基づいて補正する。画像生成部14は、補正部13によって補正された濃淡情報に基づいて対象物40までの距離情報を含む濃淡画像を生成する。【選択図】図3

Description

新規性喪失の例外適用申請有り
本発明は、例えば、TOFセンサ等によって測定された対象物までの距離に基づいて生成される濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラムに関する。
近年、例えば、光源としてLED(Light emitting diode)から測定対象物に向かって照射された光の反射光を受光して、測定対象物までの距離を測定するTOF(Time-of-Flight)センサが使用されている。
このようなTOFセンサのうち、例えば、インダイレクト型TOFセンサでは、所定の周波数で変調された光をLEDから測定対象物に向かって照射し、測定対象物に反射して戻ってきた反射光を受信するまでの光の飛行時間を測定することで、測定対象物までの距離を測定する。
例えば、特許文献1には、ToF方式に応じて輝度が調整された画像を副次的に利用する際の利便性を向上させるために、位相ごとの受光により受光部が出力した位相ごとの受光信号に基づいて算出された距離情報に応じて、位相ごとの受光信号のレベルを制御するとともに、距離情報の算出に応じて制御した位相毎の受光信号に基づいて、画像信号のレベルを調整する調整値を生成する測距装置について開示されている。
特開2020-148510号公報
しかしながら、上記従来の測距装置では、以下に示すような問題点を有している。
通常、測距装置では、十分な光量の光が照射されるため、測定される距離、濃淡画像を高精度で得ることができる。しかし、遠距離の対象物については、反射光が検出できれば正確な距離の測定が可能である一方で、検出される反射光の光量は距離の二乗に反比例する関係にあるため、反射光の光量に応じた濃淡情報を含む濃淡画像では暗く示されてしまう。
このような濃淡画像における遠距離にある対象物が暗く示される課題は、上記測距装置において考慮されておらず、一般的なHDR(High-Dynamic Range)補正やコントラスト補正では解消することが困難であった。
本発明の課題は、対象物までの距離に応じて生成される濃淡画像において、遠距離にある対象物を明確に表示させることが可能な濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラムを提供することにある。
第1の発明に係る濃淡画像生成装置は、距離情報取得部と、濃淡情報取得部と、補正部と、画像生成部と、を備えている。距離情報取得部は、照明装置から照射された電磁波の反射量に応じて対象物までの距離情報を取得する。濃淡情報取得部は、照明装置から照射された電磁波の反射量に応じて濃淡情報を取得する。補正部は、濃淡情報取得部によって得られた濃淡情報を、距離情報取得部で得られた距離に基づいて補正する。画像生成部は、補正部によって補正された濃淡情報に基づいて、対象物までの距離情報を含む濃淡画像を生成する。
ここでは、例えば、赤外線画像等の濃淡画像において、検出される電磁波の反射量が距離の二乗に反比例する関係にあるために暗く示される遠距離の対象物を明確に表示させるために、距離情報に基づいて反射量が増加する方向に補正された濃淡情報を用いて濃淡画像を生成する。
ここで、照明装置から照射される電磁波は、例えば、広義の光(紫外光・可視光・赤外光)、光よりも波長の短いγ(ガンマ)線、X線、光より波長の長いマイクロ波や放送用の電波(短波、中波、長波)、超音波、弾性波、量子波等を含み、その反射が距離の二乗で減衰するものであればよい。
距離情報取得部は、例えば、TOF(Time-of Flight)センサ、LiDAR(Light Detection And Ranging)、またはSC(Structural Camera)である。
濃淡情報取得部は、例えば、赤外線カメラまたはRGBカメラである。
なお、距離情報取得部および濃淡情報取得部は、電磁波の反射を検出して距離情報および濃淡情報を算出する構成であってもよいし、例えば、外部装置として設けられた距離センサおよび赤外線カメラ等から、それぞれ距離情報および濃淡情報を取得する構成であってもよい。
これにより、濃淡画像を生成する際に、距離の二乗に反比例する関係にある反射量に応じた濃淡情報によって遠距離にある対象物を表示するのではなく、対象物までの距離に応じて反射量が増加する方向に補正された濃淡情報に基づいて遠距離にある対象物を表示することができる。
この結果、対象物までの距離に応じて生成される濃淡画像において、遠距離にある対象物を明確に表示させることができる。
第2の発明に係る濃淡画像生成装置は、第1の発明に係る濃淡画像生成装置であって、補正部は、濃淡情報取得部によって得られた濃淡情報に距離情報取得部によって得られた距離の二乗を乗じて、濃淡情報を補正する。
これにより、距離の二乗に反比例する関係にある対象物に対して照射された電磁波の反射量に応じて変化する濃淡情報を、距離の二乗を乗じて補正することで、遠距離にある対象物の輪郭等が明確に示された濃淡画像を得ることができる。
第3の発明に係る濃淡画像生成装置は、第1または第2の発明に係る濃淡画像生成装置であって、距離情報取得部は、濃淡画像生成部において生成される濃淡画像に含まれる画素ごとに、距離情報を取得する。
これにより、濃淡画像に含まれる各画素ごとに、距離情報が取得されるため、各画素ごとに濃淡情報を補正することができる。
第4の発明に係る濃淡画像生成装置は、第1から第3の発明のいずれか1つに係る濃淡画像生成装置であって、濃淡情報取得部は、濃淡画像生成部において生成される濃淡画像に含まれる画素ごとに、濃淡情報を取得する。
これにより、濃淡画像に含まれる各画素ごとに、濃淡情報が取得されるため、各画素ごとに取得された距離情報に基づいて濃淡情報を補正することができる。
第5の発明に係る濃淡画像生成装置は、第1から第4の発明のいずれか1つに係る濃淡画像生成装置であって、補正部は、濃淡画像生成部において生成される濃淡画像に含まれる画素ごとに、距離情報取得部において取得された距離情報を用いて、濃淡情報取得部において取得された濃淡情報を補正する。
これにより、濃淡画像に含まれる各画素ごとに取得された距離情報に基づいて、濃淡情報が補正されるため、遠距離にある対象物が明確に表示された濃淡画像を得ることができる。
第6の発明に係る濃淡画像生成装置は、第1から第5の発明のいずれか1つに係る濃淡画像生成装置であって、距離情報取得部と照明装置との中心位置と濃淡情報取得部と照明装置との中心位置とが、互いに離間した位置に設置されている場合には、補正部は、濃淡情報取得部から見た距離に、距離情報取得部と濃淡情報取得部との位置関係に応じた座標変換を行い、距離情報の補正を行う。
これにより、距離情報取得部と濃淡情報取得部との相対位置に応じて行われる座標変換により、距離情報が補正されることで、より高精度な濃淡画像を得ることができる。
第7の発明に係る濃淡画像生成装置は、第1から第6の発明のいずれか1つに係る濃淡画像生成装置であって、距離情報取得部および濃淡情報取得部は、一体化して設けられている。
これにより、距離情報取得部と濃淡情報取得部とが一体化して設けられていることで、上述した座標変換等を行うことなく、高精度な濃淡画像を得ることができる。
第8の発明に係る濃淡画像生成装置は、第1から第7の発明のいずれか1つに係る濃淡画像生成装置であって、対象物に対して電磁波を照射するように照明装置を制御する照明制御部を、さらに備えている。
これにより、対象物までの距離、形状、色等の各種条件に応じて、最適な照射条件で電磁波を照射することができる。
第9の発明に係る濃淡画像生成装置は、第1から第8の発明のいずれか1つに係る濃淡画像生成装置であって、距離情報取得部は、TOF(Time-of-Flight)センサ、LiDAR(Light Detection And Ranging)、またはSC(Structural Camera)において測定された距離情報を取得する。
これにより、TOF(Time-of-Flight)センサ、LiDAR(Light Detection And Ranging)、またはSC(Structural Camera)を用いて、対象物までの距離情報を取得することができる。
第10の発明に係る濃淡画像生成装置は、第1から第9の発明のいずれか1つに係る濃淡画像生成装置であって、濃淡情報取得部は、赤外線カメラまたはRGBカメラにおいて測定された濃淡情報を取得する。
これにより、濃淡情報取得部として、赤外線カメラまたはRGBカメラを用いて、濃淡画像に含まれる濃淡情報を取得することができる。
第11の発明に係る濃淡画像補正方法は、距離情報取得ステップと、濃淡情報取得ステップと、補正ステップと、画像生成ステップと、を備えている。距離情報取得ステップでは、照明装置から対象物に対して照射された電磁波の反射量に応じて対象物までの距離情報を取得する。濃淡情報取得ステップでは、照明装置から対象物に対して照射された電磁波の反射量に応じて濃淡情報を取得する。補正ステップでは、濃淡情報取得ステップにおいて得られた濃淡情報を、距離情報取得ステップにおいて得られた距離に基づいて補正する。画像生成ステップでは、補正ステップにおいて補正された濃淡情報に基づいて、濃淡画像を生成する。
ここでは、例えば、赤外線画像等の濃淡画像において、検出される電磁波の反射量が距離の二乗に反比例する関係にあるために暗く示される遠距離の対象物を明確に表示させるために、距離情報に基づいて反射量が増加する方向に補正された濃淡情報を用いて濃淡画像を生成する。
ここで、照明装置から照射される電磁波は、例えば、広義の光(紫外光・可視光・赤外光)、光よりも波長の短いγ(ガンマ)線、X線、光より波長の長いマイクロ波や放送用の電波(短波、中波、長波)、超音波、弾性波、量子波等を含み、その反射が距離の二乗で減衰するものであればよい。
距離情報取得ステップは、例えば、TOF(Time-of Flight)センサ、LiDAR(Light Detection And Ranging)、またはSC(Structural Camera)を用いて実施される。
濃淡情報取得ステップは、例えば、赤外線カメラまたはRGBカメラを用いて実施される。
なお、距離情報の取得および濃淡情報の取得は、電磁波の反射を検出して距離情報および濃淡情報を算出してもよいし、例えば、外部装置として設けられた距離センサおよび赤外線カメラ等から、それぞれ距離情報および濃淡情報を取得してもよい。
これにより、濃淡画像を生成する際に、距離の二乗に反比例する関係にある反射量に応じた濃淡情報によって遠距離にある対象物を表示するのではなく、対象物までの距離に応じて反射量が増加する方向に補正された濃淡情報に基づいて遠距離にある対象物を表示することができる。
この結果、対象物までの距離に応じて生成される濃淡画像において、遠距離にある対象物を明確に表示させることができる。
第12の発明に係る濃淡画像補正プログラムは、距離情報取得ステップと、濃淡情報取得ステップと、補正ステップと、画像生成ステップと、を備えている濃淡画像補正方法をコンピュータに実行させる。距離情報取得ステップでは、照明装置から対象物に対して照射された電磁波の反射量に応じて対象物までの距離情報を取得する。濃淡情報取得ステップでは、照明装置から対象物に対して照射された電磁波の反射量に応じて濃淡情報を取得する。補正ステップでは、濃淡情報取得ステップにおいて得られた濃淡情報を、距離情報取得ステップにおいて得られた距離に基づいて補正する。画像生成ステップでは、補正ステップにおいて補正された濃淡情報に基づいて、濃淡画像を生成する。
ここでは、例えば、赤外線画像等の濃淡画像において、検出される電磁波の反射量が距離の二乗に反比例する関係にあるために暗く示される遠距離の対象物を明確に表示させるために、距離情報に基づいて反射量が増加する方向に補正された濃淡情報を用いて濃淡画像を生成する。
ここで、照明装置から照射される電磁波は、例えば、広義の光(紫外光・可視光・赤外光)、光よりも波長の短いγ(ガンマ)線、X線、光より波長の長いマイクロ波や放送用の電波(短波、中波、長波)、超音波、弾性波、量子波等を含み、その反射が距離の二乗で減衰するものであればよい。
距離情報取得ステップは、例えば、TOF(Time-of Flight)センサ、LiDAR(Light Detection And Ranging)、またはSC(Structural Camera)を用いて実施される。
濃淡情報取得ステップは、例えば、赤外線カメラまたはRGBカメラを用いて実施される。
なお、距離情報の取得および濃淡情報の取得は、電磁波の反射を検出して距離情報および濃淡情報を算出してもよいし、例えば、外部装置として設けられた距離センサおよび赤外線カメラ等から、それぞれ距離情報および濃淡情報を取得してもよい。
これにより、濃淡画像を生成する際に、距離の二乗に反比例する関係にある反射量に応じた濃淡情報によって遠距離にある対象物を表示するのではなく、対象物までの距離に応じて反射量が増加する方向に補正された濃淡情報に基づいて遠距離にある対象物を表示することができる。
この結果、対象物までの距離に応じて生成される濃淡画像において、遠距離にある対象物を明確に表示させることができる。
本発明に係る濃淡画像生成装置によれば、対象物までの距離に応じて生成される濃淡画像において、遠距離にある対象物を明確に表示させることができる。
本発明の一実施形態に係る濃淡画像生成装置の外観構成を示す斜視図。 図1の濃淡画像生成装置の制御ブロック図。 図2の濃淡画像生成装置の濃淡画像生成部内に形成される制御ブロック図。 図2の濃淡画像生成装置に含まれるTOFセンサによる対象物までの距離を算出する原理を説明する図。 (a)は、比較例として、図1の濃淡画像生成装置による補正前の濃淡画像を示す図。(b)は、図1の濃淡画像生成装置による補正後の濃淡画像を示す図。 (a)は、比較例として、図1の濃淡画像生成装置による補正前の濃淡画像を示す図。(b)は、図1の濃淡画像生成装置による補正後の濃淡画像を示す図。 図1の濃淡画像生成装置による濃淡画像補正方法の処理の流れを示すフローチャート。 本発明の他の実施形態に係る濃淡画像生成装置の構成を示す模式図。
(実施形態1)
本発明の一実施形態に係るTOFセンサ20を含む濃淡画像生成装置30について、図1~図7を用いて説明すれば以下の通りである。
(1)濃淡画像生成装置30の構成
本実施形態に係る濃淡画像生成装置30は、図1に示すように、本体部30aの表面に設けられた照明装置21から対象物40に向かって照射された光L1(電磁波の一例)の反射光を、受光レンズ22を介して撮像素子23において受光して、光L1が照射されてから受光されるまでの光の飛行時間(Time-of-flight)に応じた距離情報および濃淡情報を含む濃淡画像を生成する。
そして、濃淡画像生成装置30は、図2に示すように、内部に、濃淡画像生成部10と、TOFセンサ20と、を備えている。
濃淡画像生成部10は、図2に示すように、TOFセンサ20の制御部24と接続されており、TOFセンサ20において測定された対象物までの距離情報、濃淡情報を取得して、濃淡画像(例えば、赤外線画像)を生成する。なお、濃淡画像生成部10の構成については、後段にて詳述する。
TOFセンサ20は、図2に示すように、照明装置21と、受光レンズ22と、撮像素子23と、制御部(照明制御部)24と、記憶部25とを備えている。
照明装置21は、例えば、LEDを有しており、対象物40に対して所望の波長を有する光を照射する。なお、照明装置21には、LEDから照射された光を集光して対象物40の方向へ導く投光レンズ(図示せず)が設けられている。
受光レンズ22は、照明装置21から対象物40に対して照射され、対象物40において反射した反射光を受光して、撮像素子23へと導くために設けられている。
撮像素子23は、複数の画素を有しており、受光レンズ22において受光された反射光を、複数の画素のそれぞれにおいて受光して、光電変換した電気信号を制御部24へと送信する。また、撮像素子23において検出される反射光の受光量に対応する電気信号は、制御部24において距離情報および濃淡情報の算出に用いられる。
制御部24は、図2に示すように、照明装置21、撮像素子23および記憶部25と接続されている。そして、制御部24は、記憶部25に保存された照明制御プログラムを読み込んで、対象物40に対して光を照射する照明装置21を制御する。より詳細には、制御部24は、光を照射する対象物40までの距離、形状、色等の対象物の性質等に応じて最適な光を照射するように、照明装置21を制御する。また、制御部24は、撮像素子23から受信した各画素に対応する電気信号に基づいて、各画素ごとに、対象物までの距離情報および濃淡情報(例えば、輝度情報)を算出する。
なお、TOFセンサ20による対象物40までの距離測定原理については、後段にて詳述する。
記憶部25は、図2に示すように、制御部24と接続されており、照明装置21および撮像素子23を制御するための制御プログラム、撮像素子23において検出された反射光の光量、受光タイミング、反射光の光量に基づいて算出された距離情報および濃淡情報等のデータを保存する。また、記憶部25は、図2に示すように、濃淡画像生成部10と接続されており、濃淡画像生成部10において生成された濃淡画像、補正後の濃淡画像のデータを保存する。
(2)濃淡画像生成部10の構成
濃淡画像生成部10は、図3に示すように、距離情報取得部11と、濃淡情報取得部12と、補正部13と、画像生成部14と、を備えている。
距離情報取得部11は、TOFセンサ20の制御部24から、撮像素子23において撮影された濃淡画像の各画素に対応する対象物40までの距離情報を取得する。
濃淡情報取得部12は、TOFセンサ20の制御部24から、撮像素子23において撮影された対象物40を含む濃淡画像を構成する各画素に対応する濃淡情報(輝度情報)を取得する。
補正部13は、距離情報取得部11において取得された距離情報に基づいて、濃淡情報取得部12において取得された濃淡画像を構成する各画素ごとの濃淡情報を補正する。
画像生成部14は、補正部13によって補正された濃淡情報を用いて、濃淡画像を生成する。
<TOFセンサ20による距離測定原理>
本実施形態のTOFセンサ20による対象物までの距離測定の原理について、図4を用いて説明すれば以下の通りである。
すなわち、本実施形態では、TOFセンサ20の制御部24が、照明装置21から照射された光の投光波と、撮像素子23において受光した光の受光波との位相差Φ(図4参照)に基づいて、対象物40までの距離を算出する。
ここで、位相差Φは、以下の関係式(1)によって示される。
Φ=atan(y/x) ・・・・・(1)
(x=a2-a0,y=a3-a1、a0~a3は、受光波を90度間隔で4回サンプリングしたポイントにおける振幅)
そして、位相差Φから距離Dへの変換式は、以下の関係式(2)によって示される。
D=(c/(2×fLED))×(Φ/2π)+DOFFSET ・・・・・(2)
(cは、光速(≒3×10m/s)、fLEDは、LEDの投光波の周波数、DOFFSETは、距離オフセット。)
これにより、照明装置21から照射された光の反射光を受光して、その位相差を比較することで、光速cを用いて、対象物40までの距離を容易に算出することができる。
<濃淡画像の補正>
ここで、各画素に対応する距離情報に基づいて補正された濃淡画像を生成する画像生成部14は、補正部13によって濃淡情報が補正されることで、図5(b)に示す濃淡画像を生成する。
なお、図5(a)および図5(b)は、手摺が設置された階段を撮影した画像を示している。
図5(b)に示す濃淡画像は、例えば、比較例としての図5(a)に示される補正なしの濃淡画像と比較して、特に、濃淡画像生成装置30から見て、遠距離にある階段の部分や手摺、壁面等がはっきりと示されている。
これにより、対象物までの距離が遠くなると距離の二乗に反比例して反射光の光量が減衰するために、遠距離にある対象物の輪郭等が不鮮明に示されることを防止して、遠距離にある対象物まで明確に示すことが可能な濃淡画像を得ることができる。
なお、画像生成部14において生成された補正後の濃淡画像は、例えば、TOFセンサ20において測定された距離情報を用いて生成される距離画像と組み合わせて、人体の検出、人の顔検出等の判定に使用される。
また、画像生成部14において生成された補正後の濃淡画像は、各種判定等に使用されるために、濃淡画像として外部へ出力されてもよい。
さらに、画像生成部14において生成される濃淡画像は、図6(a)および図6(b)に示すように、図5(a)および図5(b)に示す白黒反転させた赤外線画像であってもよい。
<濃淡画像補正方法>
本実施形態の濃淡画像生成装置30は、以下のような補正処理によって、濃淡画像における濃淡情報(輝度)を補正した濃淡画像を生成する。
すなわち、図7のフローチャートに示すように、ステップS11では、TOFセンサ20の制御部24が、対象物40に対して所定の光を照射するように、照明装置21を制御する。
次に、ステップS12では、撮像素子23によって撮影された濃淡画像に含まれる各画素ごとに、全ての画素について処理が完了するまで、ステップS13~ステップS15までの処理が繰り返し実行される。
次に、ステップS13では、上述したTOFセンサ20による測定原理によって、対応する画素ごとの対象物までの距離情報が測定され、濃淡画像生成部10の距離情報取得部11がこれを取得する。
次に、ステップS14では、撮像素子23によって撮影された画像における対応する画素ごとの対象物の濃淡情報(輝度情報)が測定され、濃淡画像生成部10の濃淡情報取得部12がこれを取得する。
次に、ステップS15では、ステップS14において取得された濃淡情報(輝度)に、ステップS13において取得された距離情報の二乗を乗じて、補正後の濃淡情報(輝度)を算出する。
このようなステップS12~ステップS15までの処理を、全ての画素に対して実施して、処理を終了する。
ここで、濃淡画像の補正方法について、より詳細に説明すれば以下の通りである。
すなわち、本実施形態の濃淡画像生成装置30では、TOFセンサ20の撮像素子23によって、XYZの3軸で表される点群情報と、QVGA(Quarter VGA)の濃淡画像(赤外線グレー画像)とが取得される。
点群情報は、QVGAの各点に対応している。このため、補正部13は、点群情報を用いて赤外線グレー画像の濃淡情報(輝度値)を補正する。
ここで、各点のXYZ座標をそれぞれx(n),y(n),z(n)、標準化する距離をdist、補正前の輝度値をLorg(n)とすると、補正後の輝度値Lcorrect(n)は、以下の関係式(3)によって算出される。
Figure 2022123679000002
例えば、メートル単位で計算し1mの距離に補正する場合、上記の関係式(3)は、単純化されて以下の関係式(4)として示される。
Figure 2022123679000003
距離情報がXYZの3軸の点群情報で表される場合には、上記通りであるが、直接、極座標系の距離情報(Depth情報)が得られる場合には、1mの距離への補正の場合には、上記関係式(3)は、さらに単純化され、以下の関係式(5)として示される。
Figure 2022123679000004
照明装置21から照射された光は、対象物40によって反射され、センサから対象物までの距離(反射光の距離も考慮するならその倍の距離)の二乗に反比例して減衰した反射光として検出される。
このため、本実施形態では、濃淡情報取得部12において取得された濃淡情報に、距離情報取得部11において取得された対象物40までの距離の二乗を乗じることで、このような反射光の減衰による影響を抑制した濃淡画像が得られるように補正する。
これにより、距離の二乗に反比例して減衰する反射光の光量に応じた濃淡情報(輝度)に、距離の二乗を乗じて補正することで、図5(b)または図6(b)に示すように、遠距離にある対象物まではっきりと示される濃淡画像を生成することができる。
(実施形態2)
本発明の他の実施形態に係る濃淡画像生成装置130について、図8を用いて説明すれば以下の通りである。
本実施形態の濃淡画像生成装置130は、図8に示すように、距離情報および濃淡情報を取得するために、対象物40に対して光を照射する照明装置121a,121bが、それぞれ別々に設けられているとともに、その反射光を検出する受光部123a,123bがそれぞれ別々に設けられている点で、距離情報および濃淡情報を取得するために単一の照明装置21および撮像素子23を用いる上記実施形態1とは異なっている。
つまり、本実施形態では、距離情報を取得するための照明装置121aおよび受光部123aと、濃淡情報を取得するための照明装置121bおよび受光部123bとが、それぞれ別々に設けられている。
ここで、距離情報を取得する装置と濃淡情報を取得する装置とが互いに独立した装置として離間した位置に配置されている場合には、距離情報を取得する装置から特定の対象物までの距離情報は、濃淡情報を取得する装置から当該対象物までの距離情報とズレがあり一致しない。
このため、厳密な補正を行うためには、濃淡情報を取得する装置から当該対象物までの距離情報を使用する必要がある。
本実施形態の濃淡画像生成装置130では、距離情報を取得する装置と濃淡情報を取得する装置との設置位置のずれは、設計によって既知であることから、設置位置の位置ずれ量に応じて距離情報を補正する。
例えば、図8に示すように、距離情報を取得する装置の中心位置C1からX軸方向に-10cmだけ離れた位置に、互いの光軸が略平行となった状態で、濃淡情報を取得する装置の中心位置C2が設置されているとする。
中心位置C1は、距離情報を取得する装置(照明装置121aおよび受光部123a)の中心位置として設定される。中心位置C2は、濃淡情報を取得する装置(照明装置121bおよび受光部123b)の中心位置として設定される。
この場合には、上述した関係式(3)および(4)は、距離情報を取得する装置の中心位置C1と濃淡情報を取得する装置の中心位置C2とに基づく座標変換により、それぞれ、以下の関係式(3’)および(4’)として示される。
Figure 2022123679000005
Figure 2022123679000006
これにより、距離情報を取得する装置の中心位置C1と濃淡情報を取得する装置の中心位置C2とが離間した位置に配置されている場合でも、互いの装置の位置ずれを座標変換によって補正することで、上記実施形態と同様の効果を得ることができる。
なお、図8に示す例では、一般的なセンサ構成を想定しているが、距離情報および濃淡情報を取得するための両照明装置として、単一の照明装置が併用されている構成であってもよい。あるいは、照明装置は別々に設けられており反射光の光量を受光するセンサが単一のセンサによって共用されていてもよい。
この場合には、座標変換の基準となる装置の中心位置は、共用される照明装置あるいは受光部と、それぞれの受光部あるいは照明装置との間の中心に設定されていればよい。
以上のように、距離情報および濃淡情報を取得する装置がそれぞれ離間した位置に設けられている場合でも、互いの位置ずれ量が既知であれば、上記実施形態1で説明した補正方法に、装置間の位置ずれに応じた座標変換を加えることで、距離情報に応じて補正された高精度な濃淡画像を得ることができる。
[他の実施形態]
以上、本発明の一実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、発明の要旨を逸脱しない範囲で種々の変更が可能である。
(A)
上記実施形態では、濃淡画像生成装置および濃淡画像補正方法として、本発明を実現した例を挙げて説明した。しかし、本発明はこれに限定されるものではない。
例えば、上述した濃淡画像生成装置による濃淡画像補正方法をコンピュータに実行させる濃淡画像補正プログラムとして本発明を実現してもよい。
この濃淡画像補正プログラムは、濃淡画像生成装置に搭載されたメモリ(記憶部)に保存されており、CPUがメモリに保存された濃淡画像補正プログラムを読み込んで、ハードウェアに各ステップを実行させる。
より具体的には、CPUが濃淡画像補正プログラムを読み込んで、上述した距離情報取得ステップと、濃淡情報取得ステップと、補正ステップと、画像生成ステップとを実行することで、上記と同様の効果を得ることができる。
また、本発明は、濃淡画像補正プログラムを保存した記録媒体として実現されてもよい。
(B)
上記実施形態では、濃淡画像を構成する各画素ごとに対応する距離情報を、TOFセンサ20を用いて測定する例を挙げて説明した。しかし、本発明はこれに限定されるものではない。
例えば、LiDAR(Light Detection And Ranging)やSC(Structural Camera)等の他の手段を用いて測定された距離情報を、濃淡画像生成部へ送信する構成であってもよい。
(C)
上記実施形態では、濃淡画像を構成する各画素ごとに対応する距離情報および濃淡情報を、撮像素子23を用いて測定する例を挙げて説明した。しかし、本発明はこれに限定されるものではない。
例えば、赤外線カメラやRGBカメラ等を用いて測定された濃淡情報を、濃淡画像生成部へ送信する構成であってもよい。
(D)
上記実施形態では、濃淡画像生成装置30に含まれるTOFセンサ20の撮像素子23において測定された距離情報および濃淡情報を用いて、濃淡画像を生成する例を挙げて説明した。しかし、本発明はこれに限定されるものではない。
例えば、外部に設けられたTOFセンサ等の距離センサ、赤外線カメラ等の濃淡画像センサから、それぞれ距離情報および濃淡情報を受信して、距離情報に応じて補正された濃淡画像を生成する濃淡画像生成装置であってもよい。
(E)
上記実施形態では、照明装置21から対象物に対して照射された光の反射光を検出して、対象物までの距離を測定する例を挙げて説明した。しかし、本発明はこれに限定されるものではない。
例えば、照明装置から対象物に対して、広義の光(紫外光・可視光・赤外光)以外に、光よりも波長の短いγ(ガンマ)線、X線、光より波長の長いマイクロ波や放送用の電波(短波、中波、長波)等の電磁波を照射して、その反射を検出することで対象物までの距離を測定する構成であってもよい。
すなわち、対象物に対して照射される光は、その反射量が距離の二乗に反比例して減衰する性質を有する他の電磁波であってもよい。
(F)
上記実施形態2では、図8に示すように、図中のX軸方向に位置ずれするように距離情報および濃淡情報を取得する装置が配置された例を挙げて説明した。しかし、本発明はこれに限定されるものではない。
例えば、実施形態2で説明した座標変換による補正は、X軸方向における位置ずれに限定されるものではなく、Y方向、Z方向における位置ずれであってもよいし、XYZ軸の3方向に位置ずれした場合でもあっても、上述した関係式(4’)を用いることで、同様に実施することができる。
さらには、平行移動による位置ずれだけでなく、回転、すなわち距離情報と濃淡情報の取得手段の測定方向(光軸等)自体がずれて配置された構成であっても、距離情報取得手段によって測定された空間内での位置情報を回転変換し、濃淡情報取得手段から見た距離情報を求めることで、本発明を適用することが可能である。
(G)
上記実施形態2では、図8に示すように、距離情報および濃淡情報を取得する2つの装置が同一の筐体に配置された例を挙げて説明した。しかし、本発明はこれに限定されるものではない。
例えば、距離情報および濃淡情報を取得する2つの装置が別々の筐体に独立して設けられた構成であってもよい。
この場合でも、互いの装置の位置ずれ量が既知であれば、上記実施形態2と同様に、座標変換を加えた補正処理によって、上記実施形態2と同様の効果を得ることができる。
本発明の濃淡画像生成装置は、対象物までの距離に応じて生成される濃淡画像において、遠距離にある対象物を明確に表示させることができるという効果を奏することから、濃淡画像を用いる各種センサに対して広く適用可能である。
10 濃淡画像生成部
11 距離情報取得部
12 濃淡情報取得部
13 補正部
14 画像生成部
20 TOFセンサ
21 照明装置
22 受光レンズ
23 撮像素子
24 制御部(照明制御部)
25 記憶部
30 濃淡画像生成装置
30a 本体部
40 対象物
121a,121b 照明装置
123a,123b 受光部
130 濃淡画像生成装置
C1,C2 中心位置
D 距離
L1 照明光

Claims (12)

  1. 照明装置から対象物に対して照射された電磁波の反射量に応じて前記対象物までの距離情報を取得する距離情報取得部と、
    前記照明装置から照射された前記電磁波の反射量に応じて濃淡情報を取得する濃淡情報取得部と、
    前記濃淡情報取得部によって得られた濃淡情報を、前記距離情報取得部で得られた距離に基づいて補正する補正部と、
    前記補正部によって補正された濃淡情報に基づいて、前記対象物までの距離情報を含む濃淡画像を生成する画像生成部と、
    を備えている濃淡画像生成装置。
  2. 前記補正部は、前記濃淡情報取得部によって得られた濃淡情報に前記距離情報取得部によって得られた距離の二乗を乗じて、前記濃淡情報を補正する、
    請求項1に記載の濃淡画像生成装置。
  3. 前記距離情報取得部は、前記画像生成部において生成される前記濃淡画像に含まれる画素ごとに、前記距離情報を取得する、
    請求項1または2に記載の濃淡画像生成装置。
  4. 前記濃淡情報取得部は、前記画像生成部において生成される前記濃淡画像に含まれる画素ごとに、前記濃淡情報を取得する、
    請求項1から3のいずれか1項に記載の濃淡画像生成装置。
  5. 前記補正部は、前記画像生成部において生成される前記濃淡画像に含まれる画素ごとに、前記距離情報取得部において取得された前記距離情報を用いて、前記濃淡情報取得部において取得された前記濃淡情報を補正する、
    請求項1から4のいずれか1項に記載の濃淡画像生成装置。
  6. 前記距離情報取得部と前記照明装置との中心位置と前記濃淡情報取得部と前記照明装置との中心位置とが、互いに離間した位置に設置されている場合には、
    前記補正部は、前記濃淡情報取得部から見た距離に、前記距離情報取得部と前記濃淡情報取得部との位置関係に応じた座標変換を行い、前記距離情報の補正を行う、
    請求項1から5のいずれか1項に記載の濃淡画像生成装置。
  7. 前記距離情報取得部および前記濃淡情報取得部は、一体化して設けられている、
    請求項1から6のいずれか1項に記載の濃淡画像生成装置。
  8. 前記対象物に対して前記電磁波を照射するように前記照明装置を制御する照明制御部を、さらに備えている、
    請求項1から7のいずれか1項に記載の濃淡画像生成装置。
  9. 前記距離情報取得部は、TOF(Time-of-Flight)センサ、LiDAR(Light Detection And Ranging)、またはSC(Structural Camera)において測定された前記距離情報を取得する、
    請求項1から8のいずれか1項に記載の濃淡画像生成装置。
  10. 前記濃淡情報取得部は、赤外線カメラまたはRGBカメラにおいて測定された前記濃淡情報を取得する、
    請求項1から9のいずれか1項に記載の濃淡画像生成装置。
  11. 照明装置から対象物に対して照射された電磁波の反射量に応じて前記対象物までの距離情報を取得する距離情報取得ステップと、
    前記照明装置から前記対象物に対して照射された前記電磁波の反射量に応じて濃淡情報を取得する濃淡情報取得ステップと、
    前記濃淡情報取得ステップにおいて得られた濃淡情報を、前記距離情報取得ステップにおいて得られた距離に基づいて補正する補正ステップと、
    前記補正ステップにおいて補正された濃淡情報に基づいて、濃淡画像を生成する画像生成ステップと、
    を備えている濃淡画像補正方法。
  12. 照明装置から対象物に対して照射された電磁波の反射量に応じて前記対象物までの距離情報を取得する距離情報取得ステップと、
    前記照明装置から前記対象物に対して照射された前記電磁波の反射量に応じて濃淡情報を取得する濃淡情報取得ステップと、
    前記濃淡情報取得ステップにおいて得られた濃淡情報を、前記距離情報取得ステップにおいて得られた距離に基づいて補正する補正ステップと、
    前記補正ステップにおいて補正された濃淡情報に基づいて、濃淡画像を生成する画像生成ステップと、
    を備えている濃淡画像補正方法をコンピュータに実行させる濃淡画像補正プログラム。
JP2021021134A 2021-02-12 2021-02-12 濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラム Pending JP2022123679A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2021021134A JP2022123679A (ja) 2021-02-12 2021-02-12 濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラム
CN202280013700.7A CN116848372A (zh) 2021-02-12 2022-01-17 浓淡图像生成装置及浓淡图像修正方法、浓淡图像修正程序
PCT/JP2022/001258 WO2022172690A1 (ja) 2021-02-12 2022-01-17 濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラム
DE112022001051.7T DE112022001051T5 (de) 2021-02-12 2022-01-17 Graustufenbildgenerierungsvorrichtung, Graustufenbildkorrekturverfahren und Graustufenbildkorrekturprogramm

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021021134A JP2022123679A (ja) 2021-02-12 2021-02-12 濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラム

Publications (1)

Publication Number Publication Date
JP2022123679A true JP2022123679A (ja) 2022-08-24

Family

ID=82837784

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021021134A Pending JP2022123679A (ja) 2021-02-12 2021-02-12 濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラム

Country Status (4)

Country Link
JP (1) JP2022123679A (ja)
CN (1) CN116848372A (ja)
DE (1) DE112022001051T5 (ja)
WO (1) WO2022172690A1 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101690243B (zh) * 2008-05-14 2012-08-22 松下电器产业株式会社 摄像装置以及摄像方法
FR3036187B1 (fr) * 2015-05-12 2019-09-13 Commissariat A L'energie Atomique Et Aux Energies Alternatives Procede de correction d’une image de fluorescence
JP2020148510A (ja) * 2019-03-11 2020-09-17 ソニーセミコンダクタソリューションズ株式会社 測距装置

Also Published As

Publication number Publication date
DE112022001051T5 (de) 2024-02-22
WO2022172690A1 (ja) 2022-08-18
CN116848372A (zh) 2023-10-03

Similar Documents

Publication Publication Date Title
Dorrington et al. Separating true range measurements from multi-path and scattering interference in commercial range cameras
US10901090B2 (en) TOF camera system and a method for measuring a distance with the system
US11625845B2 (en) Depth measurement assembly with a structured light source and a time of flight camera
EP3715907B1 (en) Methods and apparatuses for compensating light reflections from a cover of a time-of-flight camera
JP6120611B2 (ja) ビーム走査型表示装置
WO2014097539A1 (ja) 3次元測定装置および3次元測定方法
WO2021189794A1 (zh) 飞行时间测距***及其测距方法
CN110609299B (zh) 一种基于tof的三维成像***
CN102567986A (zh) 3d飞行时间相机和方法
CN111352120B (zh) 飞行时间测距***及其测距方法
CN110007289B (zh) 一种基于飞行时间深度相机的运动伪差减小方法
CN112034485A (zh) 利用飞行时间相机的反射率感测
CN111366943B (zh) 飞行时间测距***及其测距方法
CN113962875A (zh) 使用机器学习增强图像的方法和***
CN114200466A (zh) 畸变确定装置和确定畸变的方法
US11483539B2 (en) Apparatus and method for generating three-dimensional image using optical system directing light in a dot pattern
WO2022172690A1 (ja) 濃淡画像生成装置および濃淡画像補正方法、濃淡画像補正プログラム
Dorrington et al. An evaluation of time-of-flight range cameras for close range metrology applications
CN112379389A (zh) 一种结合结构光相机和tof深度相机的深度信息获取装置和方法
US20220244392A1 (en) High resolution lidar scanning
US20220364849A1 (en) Multi-sensor depth mapping
JP6567199B2 (ja) 距離計測装置、距離計測方法、及び距離計測プログラム
WO2015145599A1 (ja) 映像投影装置
JP7275941B2 (ja) 3次元情報取得装置及び3次元情報取得方法
WO2020218283A1 (ja) ToFカメラ、車両用灯具、自動車

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20210308

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240109

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20240308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240423