JP6564421B2 - 画像処理装置、撮像装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、撮像装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP6564421B2 JP6564421B2 JP2017098410A JP2017098410A JP6564421B2 JP 6564421 B2 JP6564421 B2 JP 6564421B2 JP 2017098410 A JP2017098410 A JP 2017098410A JP 2017098410 A JP2017098410 A JP 2017098410A JP 6564421 B2 JP6564421 B2 JP 6564421B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- visible light
- light image
- luminance
- infrared light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 45
- 238000012545 processing Methods 0.000 title claims description 38
- 238000003672 processing method Methods 0.000 title claims description 4
- 238000009499 grossing Methods 0.000 claims description 23
- 238000001514 detection method Methods 0.000 claims description 8
- 230000008859 change Effects 0.000 description 23
- 238000012937 correction Methods 0.000 description 22
- 238000000034 method Methods 0.000 description 20
- 239000000203 mixture Substances 0.000 description 13
- 230000008569 process Effects 0.000 description 13
- 230000015572 biosynthetic process Effects 0.000 description 8
- 238000003786 synthesis reaction Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 239000002131 composite material Substances 0.000 description 6
- 230000009467 reduction Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000035945 sensitivity Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000001444 catalytic combustion detection Methods 0.000 description 3
- 238000011946 reduction process Methods 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000002146 bilateral effect Effects 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 229910000530 Gallium indium arsenide Inorganic materials 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000004313 glare Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000003331 infrared imaging Methods 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/71—Circuitry for evaluating the brightness variation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/63—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/30—Transforming light or analogous information into electric information
- H04N5/33—Transforming infrared radiation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
近年、デジタルカメラ、携帯電話等に用いられるCCDやCMOSなどの撮像素子は、小型化・多画素化が進み、1つ1つの画素が小さくなることに伴って、暗電流ノイズ、ランダム成分ノイズが増加する傾向にある。また、画素が小さくなることによる感度低下に伴って、所望の信号レベルを得るために信号処理での増幅度が大きくなり、撮影画像のノイズが目立ちやすくなる傾向がある。第1の実施形態では、ノイズ低減のために赤外光画像(不可視光画像)を利用する構成について説明する。なお、赤外光は不可視光の一例に過ぎず、不可視光は赤外光に限定されない。不可視光として、例えば近赤外光を用いてもよい。
図2は、画像処理装置の一例である撮像装置200の概略構成を示すブロック図である。光軸21上に、対物レンズ1、フォーカスレンズ2、撮影レンズ3が順に配置されており、その後方に、波長分離のためのダイクロイックミラー4が配置されている。ダイクロイックミラー4は、可視光を透過し赤外光を反射するように構成されている。透過した可視光成分は、ダイクロイックミラー4の後方に配置された可視光絞り5を通り、可視光撮像素子6により光電変換される。これにより、可視光画像が得られる。一方、ダイクロイックミラー4で反射された赤外光成分は、光軸22上に配置された赤外光絞り7を通り、赤外光撮像素子8により光電変換される。これにより、赤外光画像が得られる。
次に、図3及び図4を参照して、可視光画像及び赤外光画像から差分画像を作成(生成)する処理について説明する。図3は、差分画像作成処理に関する機能ブロック図である。可視光露出検出部301、可視光露出調整部302、赤外光露出検出部303、赤外光露出調整部304、及び差分画像作成部305の機能は、制御部10がROM(不図示)に格納された制御プログラムを実行して画像処理部9を制御することにより実現する。制御部10は、露出調整を行う。ここでは、動画像における露出調整を行う画像処理例について説明する。
Y1=0.257R+0.504G+0.098B ・・・ (1)
という式に従って求められる。また、可視光露出検出部301は、輝度積分値に加え、可視光信号R,G,Bも、可視光露出調整部302へ出力する。
Y2=IR ・・・ (2)
という式に従って求められる。また、赤外光露出検出部303は、輝度積分値に加え、赤外光信号IRも、赤外光露出調整部304へ出力する。
VM=(IH-IS)/(VH-VS)×(V−VS)+IS ・・・ (3)
という式に従って補正され、補正輝度VMとなる。この補正処理の結果、可視光画像と赤外光画像との間で、ハイライトポイントとシャドーポイントとが揃う。補正された可視光画像のヒストグラムを図11(C)に示す。図11(C)において、実線は補正された可視光画像のヒストグラムを示し、破線は補正前の可視光画像のヒストグラムを示す。図11(C)に示すように、補正後の可視光画像のハイライトポイントVH’とシャドーポイントVS’は、それぞれ赤外光画像のハイライトポイントIHとシャドーポイントISに近い値となる。
次に、図5及び図6を参照して、可視光画像のノイズを低減する処理について説明する。図5のフローチャートの各ステップの処理は、特に断らない限り、制御部10がROM(不図示)に格納された制御プログラムを実行して画像処理部9を制御することにより実現される。
・・・ (4)
赤外光画像の輝度変化に応じてフィルタ強度が変わるため、赤外光で変化がない領域には強い平滑化が掛かり、赤外光で変化のある領域には弱い平滑化が掛かることとなる。図6の例では、赤外光の輝度変化が少ないため、差分画像は強く平滑化されることになる。
第2の実施形態では、可視光画像と赤外光画像とを合成することによりノイズを低減する処理について説明する。第2の実施形態において、撮像装置200の基本的な構成は第1の実施形態と同様である。以下、主に第1の実施形態と異なる点について説明する。
YC=αY2+(1−α)Y1 ・・・ (5)
という式に従って求められる。合成比率は、可視光画像と赤外光画像の差分に応じて画素単位で決定されるため、可視光と赤外光に大きな特性差がある被写体領域では、可視光画像の輝度が優先される。そのため、合成により大きな輝度変化が発生する可能性を低減することができる。
(輝度差分値)=|Y1−CC|−|YC−CC| ・・・ (6)
という式に従って、可視光画像の輝度Y1及び合成輝度YCそれぞれと彩度補正中心CCとの差分の絶対値を求め、2つの差分絶対値の差分(輝度差分値)を求める。そして、制御部10は、求められた輝度差分値に基づき、彩度補正量Hを決定する。この決定は、例えば、図9に示すグラフに従って行われる。
上述の実施形態においては、赤外波長と可視波長とを光路分岐して赤外光画像と可視光画像を生成する構成を用いた。しかしながら、図10に示すようなフィルタを用いて、撮像素子により、R、G、Bの可視光信号に加えて赤外光信号を生成するように撮像装置200を構成してもよい。図10の例では、撮像素子面上に、可視光用と非可視光用のフィルタを配置している。即ち、図10のフィルタは、レッド光に主な感度を持つ画素のフィルタR、グリーン光に主な感度を持つ画素のフィルタG、ブルー光に主な感度を持つ画素のフィルタB、及び近赤外光に主な感度を持つ画素のフィルタIRを含む。これらのフィルタを撮像素子面上に繰り返し配置することで、R、G、B画素による可視光画像とIR画素による赤外光画像とを取得することが可能になる。
Claims (8)
- 被写体を可視光で撮影することにより生成された可視光画像と、前記被写体を不可視光で撮影することにより生成された不可視光画像と、を取得する取得手段と、
前記可視光画像と前記不可視光画像との輝度の差分を示す差分画像を生成する生成手段と、
前記不可視光画像から輝度のばらつきが第1の範囲内である第1の領域を検出し、前記差分画像から輝度のばらつきが第2の範囲内である第2の領域を検出する検出手段と、
前記可視光画像のうち、前記第1の領域及び前記第2の領域の両方に含まれる領域について、輝度を平滑化する平滑化手段と、
を備えることを特徴とする画像処理装置。 - 前記平滑化手段は、前記可視光画像の撮影環境の照度が閾値以下の場合に、前記平滑化を実行する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記生成手段は、前記可視光画像の輝度レンジと前記不可視光画像の輝度レンジとを揃えるように前記可視光画像及び前記不可視光画像の少なくとも一方の輝度を補正した後に、前記差分画像を生成する
ことを特徴とする請求項1又は2に記載の画像処理装置。 - 前記不可視光は、近赤外光である
ことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。 - 請求項1乃至4のいずれか1項に記載の画像処理装置と、
前記可視光画像及び前記不可視光画像を撮像する撮像手段と、
を備えることを特徴とする撮像装置。 - 前記不可視光画像を撮像するための絞りを、前記可視光画像を撮像するための絞りよりも小さくなるように制御する制御手段を更に備える
ことを特徴とする請求項5に記載の撮像装置。 - 画像処理装置が実行する画像処理方法であって、
被写体を可視光で撮影することにより生成された可視光画像と、前記被写体を不可視光で撮影することにより生成された不可視光画像と、を取得する取得工程と、
前記可視光画像と前記不可視光画像との輝度の差分を示す差分画像を生成する生成工程と、
前記不可視光画像から輝度のばらつきが第1の範囲内である第1の領域を検出し、前記差分画像から輝度のばらつきが第2の範囲内である第2の領域を検出する検出工程と、
前記可視光画像のうち、前記第1の領域及び前記第2の領域の両方に含まれる領域について、輝度を平滑化する平滑化工程と、
を備えることを特徴とする画像処理方法。 - コンピュータを、請求項1乃至4のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017098410A JP6564421B2 (ja) | 2017-05-17 | 2017-05-17 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
US15/975,251 US20180336664A1 (en) | 2017-05-17 | 2018-05-09 | Image processing apparatus, image processing method, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017098410A JP6564421B2 (ja) | 2017-05-17 | 2017-05-17 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018195085A JP2018195085A (ja) | 2018-12-06 |
JP6564421B2 true JP6564421B2 (ja) | 2019-08-21 |
Family
ID=64271908
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017098410A Active JP6564421B2 (ja) | 2017-05-17 | 2017-05-17 | 画像処理装置、撮像装置、画像処理方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20180336664A1 (ja) |
JP (1) | JP6564421B2 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IT201800005817A1 (it) * | 2018-05-29 | 2019-11-29 | Dispositivo e metodo per misurazioni di visibilita' | |
US11776313B2 (en) * | 2018-12-10 | 2023-10-03 | Gentex Corporation | Scanning apparatus for reducing field of view search space |
JP7465076B2 (ja) * | 2018-12-20 | 2024-04-10 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP7316809B2 (ja) * | 2019-03-11 | 2023-07-28 | キヤノン株式会社 | 画像処理装置、画像処理装置の制御方法、システム、及び、プログラム |
JP7403242B2 (ja) * | 2019-06-10 | 2023-12-22 | キヤノン株式会社 | 画像処理システム、画像処理方法、及びプログラム |
JP2022007359A (ja) * | 2020-06-26 | 2022-01-13 | キヤノン株式会社 | 画像処理装置、撮像システム、移動体、画像処理方法及びプログラム |
WO2022024612A1 (ja) * | 2020-07-29 | 2022-02-03 | 富士フイルム株式会社 | 撮像制御装置、撮像制御装置の作動方法、プログラム、並びに撮像装置 |
JP7318619B2 (ja) * | 2020-09-25 | 2023-08-01 | トヨタ自動車株式会社 | 情報処理装置、情報処理方法、及び情報処理プログラム |
KR102596414B1 (ko) * | 2021-03-09 | 2023-10-31 | 엘아이지넥스원 주식회사 | 다중 대역 영상 기반 불량 화소 검출 장치 및 방법 |
CN113112495B (zh) * | 2021-04-30 | 2024-02-23 | 浙江华感科技有限公司 | 一种异常图像处理方法、装置、热成像设备及存储介质 |
CN113808135B (zh) * | 2021-11-19 | 2022-03-25 | 北京的卢深视科技有限公司 | 图像亮度异常检测方法、电子设备及存储介质 |
CN116962886A (zh) * | 2022-04-07 | 2023-10-27 | 安霸国际有限合伙企业 | 用于rgb-ir传感器的智能自动曝光控制 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4442413B2 (ja) * | 2004-12-22 | 2010-03-31 | ソニー株式会社 | 画像処理装置、画像処理方法、プログラム、及び記録媒体 |
JP2010200179A (ja) * | 2009-02-26 | 2010-09-09 | Olympus Corp | 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが格納されたプログラム記憶媒体 |
JP5708036B2 (ja) * | 2011-03-01 | 2015-04-30 | 日本電気株式会社 | 撮像装置 |
JP6055681B2 (ja) * | 2013-01-10 | 2016-12-27 | 株式会社 日立産業制御ソリューションズ | 撮像装置 |
JP2017011633A (ja) * | 2015-06-26 | 2017-01-12 | キヤノン株式会社 | 撮像装置 |
-
2017
- 2017-05-17 JP JP2017098410A patent/JP6564421B2/ja active Active
-
2018
- 2018-05-09 US US15/975,251 patent/US20180336664A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US20180336664A1 (en) | 2018-11-22 |
JP2018195085A (ja) | 2018-12-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6564421B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP5460173B2 (ja) | 画像処理方法、画像処理装置、画像処理プログラム、撮像装置 | |
JP6046966B2 (ja) | 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体 | |
EP2833618B1 (en) | Method for activating and deactivating an image correction function, camera system and motor vehicle | |
US9338371B2 (en) | Imaging device | |
RU2531632C2 (ru) | Устройство захвата изображения, способ управления для устройства захвата изображения и носитель информации | |
JP2017011634A (ja) | 撮像装置およびその制御方法、並びにプログラム | |
JP2013258444A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5861924B2 (ja) | 撮像装置 | |
JP5149055B2 (ja) | 撮像装置 | |
JP2019029833A (ja) | 撮像装置 | |
JP5569617B2 (ja) | 画像処理装置、及び、プログラム | |
JP6466809B2 (ja) | 撮像装置および撮像方法 | |
JP6904838B2 (ja) | 画像処理装置、その制御方法およびプログラム | |
JP2010056796A (ja) | 画像処理装置、及び、プログラム | |
JP2015070451A (ja) | 撮像装置 | |
JP6029464B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2022086311A (ja) | 撮像装置、撮像装置の制御方法、およびプログラム | |
JP2017005539A (ja) | 撮影装置 | |
JP6900577B2 (ja) | 画像処理装置及びプログラム | |
WO2015156045A1 (ja) | 画像処理装置、撮像装置および撮像方法 | |
JP2017163297A (ja) | 撮像装置 | |
JP2017192027A (ja) | 画像処理装置、画像処理方法、プログラム | |
JP2022159983A (ja) | 照明制御装置、撮像装置及びコンピュータプログラム | |
JP5208799B2 (ja) | 撮像システム、映像信号処理プログラム、および撮像方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190314 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190423 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190618 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190628 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190726 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6564421 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |