JP7274603B2 - イメージ処理方法 - Google Patents

イメージ処理方法 Download PDF

Info

Publication number
JP7274603B2
JP7274603B2 JP2021560013A JP2021560013A JP7274603B2 JP 7274603 B2 JP7274603 B2 JP 7274603B2 JP 2021560013 A JP2021560013 A JP 2021560013A JP 2021560013 A JP2021560013 A JP 2021560013A JP 7274603 B2 JP7274603 B2 JP 7274603B2
Authority
JP
Japan
Prior art keywords
image
pixels
pixel
heating element
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021560013A
Other languages
English (en)
Other versions
JP2022527605A (ja
Inventor
マイケル、バックリー
トレバー、デンプシー
トニー、ライリー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Connaught Electronics Ltd
Original Assignee
Connaught Electronics Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Connaught Electronics Ltd filed Critical Connaught Electronics Ltd
Publication of JP2022527605A publication Critical patent/JP2022527605A/ja
Application granted granted Critical
Publication of JP7274603B2 publication Critical patent/JP7274603B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/28Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with an adjustable field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05BELECTRIC HEATING; ELECTRIC LIGHT SOURCES NOT OTHERWISE PROVIDED FOR; CIRCUIT ARRANGEMENTS FOR ELECTRIC LIGHT SOURCES, IN GENERAL
    • H05B3/00Ohmic-resistance heating
    • H05B3/84Heating arrangements specially adapted for transparent or reflecting areas, e.g. for demisting or de-icing windows, mirrors or vehicle windshields
    • H05B3/86Heating arrangements specially adapted for transparent or reflecting areas, e.g. for demisting or de-icing windows, mirrors or vehicle windshields the heating conductors being embedded in the transparent or reflecting material
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/307Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本願発明は、イメージ処理方法に関する。
現在、車両は、イメージ取得システムの使用に依存するドライバ支援システムを備えている。このようなイメージ取得システムは、取得されたイメージをドライバディスプレイに表示することができるプロセッサに結合された、一つ以上のカメラを備えることができる。プロセッサはまた、このようなイメージを使用して、車両の周囲環境の一部における舗装道路標識又は三次元物体を認識し、車両の自律的又は半自律的な制御を支援することができる。
カメラは、車両の周囲環境の一部を撮像するために、車両内に配置されてもよい。発熱素子は、カメラの視野(FOV:Field Of View)と交差するウインドスクリーン(又はウインドウ)の一部に配置されて、曇りを低減するか、又はウインドスクリーンの除氷をすることができる。これは、ウインドスクリーンの一部を通る視界を実質的に向上することができるが、このような発熱素子はカメラによって撮像され、それらは対応するラインとして撮像されたイメージに現れる。イメージが表示又は処理されるとき、これらのラインが、イメージの明瞭性を望ましくなく低下させることがある。
米国特許出願公開第2016/0091714号明細書は、発熱素子が、カメラのFOVの外側に位置する強磁性材料の誘導型発熱素子である解決策を提供する。この発熱素子は、カメラのFOVと交差するウインドウの一部に向けて熱を向けるように構成されている。このアプローチは、発熱素子のタイプ及び発熱素子とカメラとの間の特定の配置に変更を必要とし、これは、車両のイメージ取得システムの全体的なコスト及び複雑さに影響を与える。
第1の観点によれば、本出願は、請求項1に記載の補正されたイメージを提供するために、イメージ取得システムにおいて動作可能な方法を提供する。
第2の観点においては、請求項1に記載の方法を実行するように構成されたイメージ取得システムが提供される。
さらに別の観点においては、コンピューティングデバイス上で実行された場合に、請求項1に記載の方法を実行するように構成されたコンピュータプログラム製品が提供される。
有益な実施形態は従属請求項に記載されている。
以下、添付図面を参照して、本発明の実施形態の例について説明する。
図1は、本発明の実施形態に係るイメージの品質を向上させるイメージ取得システムを備えた車両を示している。 図2は、図1の車両の周囲環境の一部のイメージを示している。 図3は、本発明の実施形態に係るイメージの品質を向上させる方法を示すブロック図である。
図面の詳細な説明
図1は、本発明の実施形態に係るイメージの品質を向上するためのイメージ取得システム100を含む車両102を示している。イメージ取得システム100は、カメラ110と、カメラ110によって撮像されたイメージを処理するプロセッサ120と、を備える。カメラ110は、如何なる種類の撮像装置でもよい。例えば、カメラは、相補型金属酸化膜半導体(CMOS:complementary metal-oxide-semiconductor)カメラ、電荷結合素子(CCD:charged coupled device)カメラなどのような、デジタルカメラと一般に呼ばれるタイプのものでもよい。カメラ110は、可視及び/又は例えば赤外スペクトルのような非可視スペクトルのイメージを撮像し、これらをプロセッサ120に提供することができる。プロセッサ120は、カメラ110によって提供される色又は強度のイメージ平面情報の任意の組み合わせを用いてイメージを処理する。
本実施形態においては、カメラ110は、車両102のバックミラー(図示せず)の前方に面する表面に取り付けられた前面カメラである。カメラ110は、車両102の前方に向かって、車両102のフロントウインドスクリーン104を通して、下向きの地面の平面図を撮像するように構成される。カメラ110のFOV112は、発熱素子130-1、・・・、130-nを備える車両102のフロントウインドスクリーン104の一部と交差する。カメラ110は、車両102から車両102のフロントウインドスクリーン104を通して概略前方のイメージを撮像するために、車両内の任意の所望の位置に取り付けられ得ることを理解されたい。例えば、カメラ110は、車両102の車室内のオーバーヘッドコンソール(図示せず)内に配置することもできる。
あるいは、車両102の後方に向かって下向きの地面の平面図を撮像するために、又は、車両102からバックウインドスクリーン106を通して概略後方のイメージを取得するために、カメラは、車両102内の任意の所望の位置に取り付けられてもよい。例えば、カメラは、車両102の車室内に、好ましくはバックウインドスクリーン106上に取り付けることもできる。よって、カメラのFOVは、フロントウインドスクリーン104上の素子130と同様の発熱素子を有する車両102のバックウインドスクリーン106の一部と交差する。
本実施形態においては、カメラ110のFOV112と交差するフロントウインドスクリーン104の一部は、フロントウインドスクリーン104のガラスに埋め込まれた発熱素子130を備える。あるいは、発熱素子130は、所望の機能を提供するために、ウインドスクリーンの表面に固定又は形成されてもよい。発熱素子は、誘導型及び/又は抵抗型でもよい。
発熱素子130は、カメラ110のスペクトル内で視認可能な1つ以上の線状の発熱素子130-1、130-2、130-nを備える。本実施形態においては、発熱素子は視認可能であり、カメラ110は可視スペクトル内でイメージを撮像する。あるいは、又はさらに、発熱素子は非可視スペクトルにおいてのみ視認可能であってもよく、例えば、発熱素子が加熱され、カメラが赤外イメージを撮像するように構成され得る場合にのみ、認識可能であってもよい。
本実施形態においては、発熱素子130-1、130-2、130-nは、フロントウインドスクリーン104の水平方向軸に平行な線に沿って延び、且つ、実質的にフロントウインドスクリーン全長に沿って延びる実線である。他の実施形態においては、以下に説明するように、発熱素子130-1、130-2、130-nは、異なる特性を有してもよい。例えば、発熱素子130-1、130-2、130-nは、ウインドスクリーンの軸に沿って完全に又は部分的に延びていてもよく、その軸に関して任意の向きを有していてもよい。発熱素子130-1、130-2、130-nは、ジグザグ線、曲線、直線又はそれらの任意の組み合わせなどの何らかの所定の形状、色、色強度、及び厚さの変化などのパターン、又はそれらの組み合わせを、有してもよい。
図2に示すように、カメラ110のFOV112と交差する発熱素子130-1、130-2、130-nは、カメラ110の撮像スペクトル内で視認可能であり、これにより、カメラ110によって、対応するイメージのライン230-1、230-2、230-nが撮像される。具体的には、発熱素子130-1、130-2、130-nは、フロントウインドスクリーン104に対するカメラ110の向き及び角度位置に応じて、イメージ平面に投影する。本実施形態においては、カメラ110は、対応する画像化されたヒータライン230-1、230-2、230-nが、イメージ200の水平方向X軸に平行なイメージの各線に沿って延び、且つ、イメージ200全長に沿って延びているように、フロントウインドスクリーン104に位置合わせされると仮定される。
別の選択肢においては、バックウインドスクリーン106は、バックウインドスクリーンの一部の曇り又は霜を減らすために、バックウインドスクリーン106のガラスに埋め込まれ得る、ガラス上に形成され得る、又は固定され得る一つ以上のヒータラインとして発熱素子を備えてもよい。この場合、カメラは、車両102からバックウインドスクリーン106の一部を通して、概略後方を向きながらイメージを撮像する。ここでも、カメラのスペクトル内で視認可能であり、かつカメラのFOVと交差する発熱素子は、対応する画像化されたヒータラインとしてカメライメージ内に現れる。
さらに別の変形例においては、それを通してカメラがイメージを取得する車両のウインドウは、サイドウインドウ又は専用ウインドウのいずれでもよい。ウインドウは、周囲環境のイメージがウインドウを通して撮像されることを可能にする、透明材料、半透明材料又はそれらの組み合わせで作られてもよい。
いずれの場合においても、ドライバディスプレイ(図示せず)に表示されたとき、発熱素子に対応するイメージラインは、イメージの質を劣化させ得ることを理解されたい。
また別に、取得されたイメージ内のこのようなアーチファクトは、このようなイメージの解析に基づくドライバ支援システムの問題を引き起こし得る。
図2は、車両102の周囲環境の一部のイメージ200である。車両102の周囲環境の一部は、車両102が通り抜け可能な舗道を区切るエッジライン220のようなレーンマークを備え、駐車ライン240も同様である。イメージライン230-1、230-2、230-nは、イメージ200の潜在的特徴として処理されてもよい。例えば、システムは、イメージライン230-1、230-2、230-nの一つ以上のピクセルを駐車ライン240として扱ってもよい。
本イメージ取得システム100においては、プロセッサ120は、補正されたイメージをドライバディスプレイに表示する前に、画像化されたヒータライン230-1、230-2、230-nの検出及び除去を行う役割を負う。さらに、プロセッサ120は、駐車支援機能及び/又は、アクティブクルーズコントロール又は実際に他の車両機能のような自動又は半自動運転を実行してもよい。あるいは、プロセッサ120は、画像化されたヒータライン230-1、230-2、230-nを検出し除去するための専用プロセッサを備えてもよく、又は、実際にプロセッサ120は、車両制御システム内のマルチプロセッサコアの如何なるプロセッサを備えてもよく、取得されたイメージを向上するために必要に応じて利用可能である。
いずれの場合においても、プロセッサ120は、カメラ110によって撮像されたイメージを表すデジタルイメージデータを処理して、画像化されたヒータライン230-1、230-2、230-nに対応するイメージ内の欠陥ピクセルを検出し、イメージ内の欠陥ピクセルを補正するようにプログラムされている。
ここで図3を参照すると、本発明の実施形態に係る取得されたイメージを向上するためのイメージ処理方法を示すブロック図が示されている。
ステップ1において、カメラ110からのイメージ200は、イメージ取得システム100のプロセッサ120に送られる。イメージ200は、それぞれの発熱素子130-1、130-2、130-nに対応する一つ以上の画像化されたヒータライン230-1、230-2、230-nを備える。(実際には、イメージ200は、カメラ110のFOV112内から選択された関心領域(ROI:Region Of Interest)に対応し、シーンの平坦化された矩形イメージに変換されていることに留意されたい。)
ステップ2において、画像化されたヒータラインの所定の特性に対応する特性を有するイメージの水平ライン(行)内の隣接するピクセルの任意の配列を検出するために、イメージを走査することによって、プロセッサ120は、発熱素子130-1、130-2、130-nに対応するイメージ200内のピクセルを検出する。本実施形態においては、プロセッサ120は、ピクセル配列内の各ピクセルが所与の閾値内の色及び所与の閾値以下の強度を有するかどうかを特定する。本実施形態においては、色閾値は、画像化されたヒータラインの所定の色度(Chromaticity)、例えば、黒(最低色度値)に対応し、強度は低い。それにもかかわらず、他のヒータラインはオレンジ色相のような強い非黒色の色度成分を有してもよく、ピクセルがこの色を有するかを特定するための適切な閾値が設定され得ることを理解されたい。
それゆえ、YUV又はLAB空間のような強度/色度フォーマットでイメージ情報がプロセッサ120に供給されることは有益な可能性があり、これにより、強度閾値を満たすピクセルの場合にのみ、色度をチェックする前に、最初に強度をスカラー値に対してチェックさせることができる、ことを理解されたい。
したがって、イメージライン内の所与のピクセル(ピクセル[x])及び連続したピクセル(ピクセル[x+n](n≧1))が所与の色及び暗さの場合、最初の連続するピクセルは基準を満たす。これに応答して、カウンタは一単位インクリメントされる。このプロセスは、最小閾値に達するまでイメージライン内の複数の連続するピクセルに対して繰り返される。最小閾値は、イメージ200のイメージライン内のピクセルの総数よりも低い所定の閾値である。例えば、本実施形態においては、イメージ幅は1024ピクセルであり、最小閾値の最大値は1023(イメージ幅-1)である。カウンタが、基準を満たすピクセルの最小閾値に到達した場合、ピクセル配列が画像化されたヒータライン230に対応すると特定される。このプロセスは、色/強度基準を満たす最後の隣接するピクセルが検出されるまで、イメージラインに沿って継続する。そして、画像化されたヒータラインに沿った全てのピクセルが、その後の補正のためにマークされる。
例えば、図2において、プロセッサ120は、イメージライン230-1の第1のピクセルが黒であり、その強度が所定の強度閾値内にあると特定する。したがって、第1のピクセルは、発熱素子130-1に対応するイメージライン230-1の潜在的ピクセルとして分類される。プロセッサは、イメージライン上の連続するピクセルを選択し、連続するピクセルが黒であり、その強度が所定の強度閾値内にあると特定する。したがって、連続するピクセルは、イメージライン230-1の別の潜在的ピクセルとして分類され、プロセッサはカウンタ値を増加させる。一度カウンタが最小閾値に達すると、ピクセル配列(及びそのライン上の任意の更なる隣接するヒータラインピクセル)が、対応する発熱素子130-1を表す画像化されたヒータライン230-1に対応すると特定される。
対照的に、イメージライン230-1の潜在的ピクセルとして分類される第1のピクセルが駐車ライン240のピクセルである場合、カウンタがその最小閾値に達するまでに、ライン内の少なくとも1つの後続のピクセルは、対応する閾値内に色及び強度を有することはないであろう。その結果、ピクセル配列は、画像化されたヒータラインを表すものとして分類されないであろう。したがって、ライン内のピクセルの残りの数が、画像化されたヒータラインに必要な閾値ピクセル数よりも大きい限り、このプロセスは、後続のピクセルから開始される。
同様に、イメージライン230-1の潜在的ピクセルとして分類される第1のピクセルがトラック250のリアバンパー252の場合、カウンタが最小閾値に達する前に、少なくとも1つの連続するピクセルは、対応する閾値内に色及び強度を有することはないであろう。したがって、ピクセル配列は、画像化されたヒータラインを表すものとして分類されないであろう。ここでも、したがって、ライン内のピクセルの残りの数が、画像化されたヒータラインに必要な閾値ピクセル数よりも大きい限り、このプロセスは、後続のピクセルから開始される。(そのため、閾値が高い場合には、任意の所与のイメージ内のピクセルの端数のみが、それらが画像化されたヒータラインに属するかどうかを特定するためにテストされる必要があることを理解されたい。)
ステップ3においては、ステップ2において画像化されたヒータライン230-1、230-2、230-nに対応すると分類されたイメージ200内の1つ以上のピクセル配列が補正される。具体的には、本実施形態においては、プロセッサ120は、画像化されたヒータライン230-1、230-2、230-nに対応するピクセルを補正するために、画像化されたヒータライン230-1、230-2、230-nに対応すると分類されたピクセルの近隣のピクセルからの情報を用いる。
簡易な実施においては、これは、対応する画像化されたヒータラインに属さない、撮像された各ヒータライン230-1、230-2、230-nの各ピクセルに最も近いピクセルを探すこと、及び、最も近いピクセル値を画像化されたヒータラインのピクセル値に割り当てることによって実行されてもよい。
あるいは、補正は、複数の隣接するピクセルの、平均化、線形又は多項式の外挿、又は、画像化されたヒータラインに属するピクセルを囲むピクセルの補間を用いて実行されてもよい。
そのため、画像化されたヒータラインの所与のピクセルが、画像化されたヒータラインの他のピクセルに隣接する場合、所与のピクセルの片側に配置された非ヒータラインピクセルからのイメージ情報を外挿することが望ましい場合がある。
一方、画像化されたヒータラインが所与のイメージの1つ又は最小限の数の行のみに沿って通っている場合、画像化されたヒータラインに対応するイメージ行の上方及び下方のピクセルからのイメージ情報を補間又は平均化する方がより適切な場合がある。
そのため、画像化されたヒータラインが、イメージの1つより多い隣接する行を占有している場合でも、所与のヒータラインピクセルからのその距離にしたがって、補間されるピクセル情報を重み付けすることにより、画像化されたヒータラインの両側からイメージ情報を補間することが可能である。
これらの各実施は、所与のイメージの、一般的に線形のタイプの補正を備えるが、しかし、適切に学習させた分類器を用いると、所与のイメージ内のピクセルは欠陥ピクセルの非線形なタイプの補正をするために利用することができ、そのため、イメージの、潜在的により高度な補正を可能にすることを理解されたい。
一度完了すると、ステップ3にしたがって補正されたイメージは、ドライバディスプレイ上に表示するために提供されてもよいし、且つ、ドライバ支援システムにおいて使用するために他のアプリケーション又は処理モジュールに提供されてもよい。
さらに、このプロセスは、必要に応じて、イメージのストリーム内の連続するイメージに対して繰り返されてもよい。
上記の実施形態のさらに別の変形が可能であることを理解されたい。
例えば、上記の実施形態は、画像化されたヒータラインの隣接するピクセルがイメージの同一行上にあると予測されるのみで、取得された任意のイメージ内の画像化されたヒータラインの位置についての仮定を行わない。これは、環境状況の変化に応答して起こりうる、画像化されたヒータラインの位置が変化することを可能にする。
別の実施形態においては、システムは、例えばホワイトカードのブランクイメージを最初に撮像することによって、車両にインストールされたときに、一度キャリブレーションされるようにしてもかまわない。さらに、取得されたキャリブレーションイメージにおいて白であると分類されない任意のピクセルは、画像化されたヒータラインを備えるものとしてマークされ得る。このことは、ステップ2に関して上述したように、それぞれの取得されたイメージを走査する必要性を回避する。
さらに、プロセッサ120は、キャリブレーション時に、画像化されたヒータラインに対応すると分類されたそのようなピクセルの位置に基づいて、車両の動作中に取得された後続のイメージ内のピクセルを補正するだけでよい。
このようなピクセルを分類するためのより洗練されたアプローチは、色度及び強度が画像化されたヒータラインに対応するように実質的に時間不変である、取得されたイメージ内のピクセルの行を分類する分類器に、連続的に取得されたイメージを送ることを含み得る。このような分類器は、ニューラルネットワークに基づく分類器を備える任意の適切な分類器を備えることができる。
実際に、このような分類器は、画像化されたヒータラインに対応するピクセルの非バイナリマップを提供することができ、いくつかのピクセルは他のピクセルよりも画像化されたヒータラインピクセルである可能性が高く、そのため様々な程度の補正が、画像化されたヒータラインの異なるピクセルに適用される可能性があることを示す。
上記の実施形態は、イメージ自体の中からの情報に基づいてイメージを補正することに関して説明されてきたが、1つ以上の直前に取得されたイメージから、又は、可能であれば後続の取得されたイメージからでさえ(前もって取得された所与のイメージの表示前に利用可能である場合)、イメージ情報を抽出することも可能であり、且つ、車両のオドメトリを使用して、そのようなイメージからイメージ情報を特定することも可能であり、それは、所与のイメージ内の発熱素子130によって遮蔽されるが、所与のイメージ内のピクセルを補正するための、他の取得されたイメージにおいては遮蔽されないことを理解されたい。
最後に、上記の実施形態は、発熱素子が、取得された各イメージ内で線形及び水平であるという仮定に基づいて説明されている。一方、このような素子がより複雑な形状を有する場合には、イメージを通して画像化されたヒータラインに沿って隣接するピクセルを分類する走査経路は、単にイメージの行に沿って進行するよりも複雑である場合がある。このような画像化されたヒータラインの形状、パターン及び/又は向きは、プロセッサ120にアクセス可能なメモリに記憶され、画像化されたヒータラインの1つ以上の隣接するピクセルを発見した場合、プロセッサが、画像化されたヒータラインの隣の予想されるピクセルがどこに位置すべきかを特定することを可能にする。
また、いくつかの実施においては、発熱素子は連続的である必要はなく、またこのことはプロセッサ120によって考慮されることも理解されたい。

Claims (15)

  1. 車両102のイメージ取得システム100で動作可能なイメージ処理の方法であって、
    前記イメージ取得システム100は、前記車両102の周囲環境の一部の視野(FOV:Field Of View)112の連続したイメージ200を撮像するように構成されたカメラ110を備え、前記FOV112は、前記カメラ110の前記FOV112内に見える一つ以上の発熱素子(130-1、130-2、130-n)を備える前記車両102のウインドウと交差し、
    前記方法は、
    イメージ200を取得すること(1)と、
    前記イメージ200内において、一つ以上のピクセル配列が、各発熱素子のイメージに対応しているかどうかを特定すること(2)であって、前記又は各ピクセル配列内の各ピクセルは、それぞれの閾値内の色及び強度を有することと、
    前記イメージ200内において、前記又は各ピクセル配列のピクセル値を、発熱素子に対応しないピクセルから導出したピクセル値に置き換えることで、それぞれの発熱素子に対応する前記又は各ピクセル配列を補正すること(3)と、
    前記補正されたイメージを表示することと、
    を備える方法。
  2. 前記イメージ及び前記補正されたイメージの一つ又は双方を、ドライバ支援システムに提供することをさらに備える、請求項1に記載の方法。
  3. 前記イメージ200内の、一つ以上のピクセル配列が、各発熱素子のイメージに対応しているかどうかを特定すること(2)は、
    前記又は各発熱素子の形状を特定することと、
    前記形状に対応する走査経路に沿って、前記イメージ200内の前記又は各ピクセル配列の走査を行うことと、
    を備える、請求項1又は2に記載の方法。
  4. 前記又は各発熱素子は線形の形状である、請求項1に記載の方法。
  5. 前記又は各発熱素子のイメージは、前記イメージ200の水平方向X軸に平行な前記イメージの線に沿って延び、且つ、前記イメージ200全長に沿って延びている、請求項4に記載の方法。
  6. 前記形状に対応する走査経路に沿って、前記イメージ200内の前記又は各ピクセル配列の走査を行うことは、
    a)走査経路に沿った、前記又は各ピクセル配列の所与のピクセル[i]及び連続したピクセル[i+n](n≧1)が、前記それぞれの閾値内の色及び強度を有することを特定することに応答して、カウンタを一単位インクリメントすることと、
    b)走査経路に沿った複数の連続したピクセルについて、特定するステップ(a)を繰り返すことと、
    c)カウンタの最小閾値に達したとき、イメージ200内の一つ以上のピクセル配列が、それぞれの発熱素子のイメージに対応することを特定することと、
    を備える、請求項3に記載の方法。
  7. d)走査経路に沿った前記又は各ピクセル配列の最後のピクセルが、前記それぞれの閾値内の色及び強度を有するようになるまで、ステップ(b)を繰り返すことと、
    e)後続の補正のために前記又は各ピクセル配列の各ピクセルにマーキングを行うことと、
    をさらに備える、請求項6に記載の方法。
  8. 前記イメージ200は、カメラ110のFOV112内から選択された関心領域(ROI:Region Of Interest)に対応し、シーンの平坦化された矩形イメージに変換されている、請求項1に記載の方法。
  9. 前記又は各発熱素子の形状を特定することは、
    (i)一定の色を有するシーンのイメージを撮像することと、
    (ii)前記一定の色であると認識されていないピクセルを、前記又は各発熱素子のピクセルとしてマーキングすることと、
    (iii)前記又は各発熱素子のピクセルの分布に対応して、前記形状を特定することと、
    (iv)前記形状をメモリに保存すること、
    により、イメージ取得システム100のキャリブレーションを行うことと、
    及び/又は、
    前記メモリからそれぞれの発熱素子の形状を検索することと、
    を備える、請求項3に記載の方法。
  10. 前記発熱素子に対応しないピクセルは、それぞれの発熱素子のイメージに対応するイメージ200内のピクセルに隣接するピクセルである、請求項1に記載の方法。
  11. 前記又は各ピクセル配列のピクセル値を、発熱素子に対応しないピクセルから導出したピクセル値に置き換えることは、
    それぞれの発熱素子のイメージの両側に位置するピクセルからピクセル値を補間することとであって、補間することは、それぞれの発熱素子の所与のピクセルからの距離にしたがって、補間されるピクセル値に重み付けすること、又は、
    それぞれの発熱素子のイメージの両側にあるピクセルからのピクセル値を平均化すること、又は、
    それぞれの発熱素子のイメージの片側に位置するピクセルからピクセル値を外挿すること
    を備える、請求項1に記載の方法。
  12. 請求項1に記載の方法を実行するように構成されたイメージ取得システム。
  13. カメラ110が、可視及び/又は非可視スペクトルでイメージ200を撮像する、請求項12に記載のイメージ取得システム。
  14. 請求項12に記載のイメージ取得システムと、カメラ110のFOV112内に見える一つ以上の発熱素子(130-1、130-2、130-n)とを備えるウインドウと、
    を備える車両。
  15. コンピューティングデバイス上で実行された場合に、請求項1に記載の方法を実行するように構成された、非一時的コンピュータプログラム製品。
JP2021560013A 2019-04-12 2020-03-31 イメージ処理方法 Active JP7274603B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
DE102019109748.7 2019-04-12
DE102019109748.7A DE102019109748A1 (de) 2019-04-12 2019-04-12 Bildverarbeitungsverfahren
PCT/EP2020/059030 WO2020207850A1 (en) 2019-04-12 2020-03-31 Image processing method

Publications (2)

Publication Number Publication Date
JP2022527605A JP2022527605A (ja) 2022-06-02
JP7274603B2 true JP7274603B2 (ja) 2023-05-16

Family

ID=70165997

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021560013A Active JP7274603B2 (ja) 2019-04-12 2020-03-31 イメージ処理方法

Country Status (7)

Country Link
US (1) US20220169179A1 (ja)
EP (1) EP3953895A1 (ja)
JP (1) JP7274603B2 (ja)
KR (1) KR102564134B1 (ja)
CN (1) CN113874908A (ja)
DE (1) DE102019109748A1 (ja)
WO (1) WO2020207850A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005106538A (ja) 2003-09-29 2005-04-21 Nissan Motor Co Ltd 車両用赤外線カメラシステム
JP2010028203A (ja) 2008-07-15 2010-02-04 Mitsubishi Electric Corp 赤外線カメラ
JP2017139654A (ja) 2016-02-04 2017-08-10 パナソニックIpマネジメント株式会社 キャリブレーション装置及び車載カメラシステム
JP2017213981A (ja) 2016-05-31 2017-12-07 トヨタ自動車株式会社 ウィンドウガラス加熱装置
US20180061008A1 (en) 2016-08-31 2018-03-01 Autoliv Asp, Inc. Imaging system and method

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102006010672A1 (de) * 2006-03-08 2007-09-13 Leopold Kostal Gmbh & Co. Kg Kameraanordnung für ein Kraftfahrzeug
EP2138352B1 (de) * 2008-06-24 2010-04-07 SMR PATENTS S.à.r.l. Optisches System und Verfahren zur Erkennung von optischer Verschleierung in einem Fahrzeug
US9395538B2 (en) 2014-09-26 2016-07-19 Delphi Technologies, Inc. Vehicle imager assembly with localized window defogging
JP2017092752A (ja) * 2015-11-12 2017-05-25 トヨタ自動車株式会社 撮像システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005106538A (ja) 2003-09-29 2005-04-21 Nissan Motor Co Ltd 車両用赤外線カメラシステム
JP2010028203A (ja) 2008-07-15 2010-02-04 Mitsubishi Electric Corp 赤外線カメラ
JP2017139654A (ja) 2016-02-04 2017-08-10 パナソニックIpマネジメント株式会社 キャリブレーション装置及び車載カメラシステム
JP2017213981A (ja) 2016-05-31 2017-12-07 トヨタ自動車株式会社 ウィンドウガラス加熱装置
US20180061008A1 (en) 2016-08-31 2018-03-01 Autoliv Asp, Inc. Imaging system and method

Also Published As

Publication number Publication date
DE102019109748A1 (de) 2020-10-15
WO2020207850A1 (en) 2020-10-15
KR102564134B1 (ko) 2023-08-04
EP3953895A1 (en) 2022-02-16
KR20210137534A (ko) 2021-11-17
CN113874908A (zh) 2021-12-31
US20220169179A1 (en) 2022-06-02
JP2022527605A (ja) 2022-06-02

Similar Documents

Publication Publication Date Title
US11756230B2 (en) Vehicular trailer hitching assist system with determination of location of hitch
US11836989B2 (en) Vehicular vision system that determines distance to an object
US10692173B2 (en) Bowl-shaped imaging system
US10504241B2 (en) Vehicle camera calibration system
US20180308282A1 (en) Shape measuring apparatus and method
JP4937030B2 (ja) 車両用画像処理装置
US20170017848A1 (en) Vehicle parking assist system with vision-based parking space detection
US20240153232A1 (en) Vehicular trailering assist system
US20180281698A1 (en) Vehicular camera calibration system
WO2018226437A1 (en) Shutterless far infrared (fir) camera for automotive safety and driving systems
JP6289681B2 (ja) 撮像装置及び方法、並びにプログラム及び記録媒体
US20160311374A1 (en) Vehicle vision system with overlay calibration
KR20120008519A (ko) 감시장치
CN113002531B (zh) 车辆全景环视方法、***、设备和计算机可读存储介质
CN111462250A (zh) 校正***及校正方法
JP7274603B2 (ja) イメージ処理方法
US11323633B2 (en) Automated creation of a freeform mask for automotive cameras
US10957023B2 (en) Vehicular vision system with reduced windshield blackout opening
US11182626B2 (en) Attached object detection apparatus
JP3378476B2 (ja) 車両認識方法
JP2023134013A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220913

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230331

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230501

R150 Certificate of patent or registration of utility model

Ref document number: 7274603

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150