JP2018201158A - 信号処理装置、信号処理方法及びコンピュータプログラム - Google Patents
信号処理装置、信号処理方法及びコンピュータプログラム Download PDFInfo
- Publication number
- JP2018201158A JP2018201158A JP2017105680A JP2017105680A JP2018201158A JP 2018201158 A JP2018201158 A JP 2018201158A JP 2017105680 A JP2017105680 A JP 2017105680A JP 2017105680 A JP2017105680 A JP 2017105680A JP 2018201158 A JP2018201158 A JP 2018201158A
- Authority
- JP
- Japan
- Prior art keywords
- motion
- synthesis
- images
- signal processing
- processing unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 218
- 238000004590 computer program Methods 0.000 title claims description 9
- 238000003672 processing method Methods 0.000 title claims description 7
- 230000033001 locomotion Effects 0.000 claims abstract description 163
- 230000006978 adaptation Effects 0.000 claims abstract description 87
- 230000015572 biosynthetic process Effects 0.000 claims abstract description 59
- 238000003786 synthesis reaction Methods 0.000 claims abstract description 59
- 238000000034 method Methods 0.000 claims description 111
- 230000008569 process Effects 0.000 claims description 91
- 238000001514 detection method Methods 0.000 claims description 55
- 239000000203 mixture Substances 0.000 claims description 39
- 230000003044 adaptive effect Effects 0.000 abstract description 7
- 230000002194 synthesizing effect Effects 0.000 abstract description 5
- 230000000593 degrading effect Effects 0.000 abstract 1
- 238000004904 shortening Methods 0.000 abstract 1
- 238000003384 imaging method Methods 0.000 description 40
- 238000009825 accumulation Methods 0.000 description 33
- 238000005516 engineering process Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 13
- 238000003860 storage Methods 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 7
- 238000012432 intermediate storage Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 3
- 239000002131 composite material Substances 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000006866 deterioration Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000001151 other effect Effects 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000002485 combustion reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000009931 harmful effect Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000000116 mitigating effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000006257 total synthesis reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B17/00—Details of cameras or camera bodies; Accessories therefor
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B7/00—Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
- G03B7/28—Circuitry to measure or to take account of the object contrast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
- Exposure Control For Cameras (AREA)
- Details Of Cameras Including Film Mechanisms (AREA)
- Image Processing (AREA)
Abstract
【課題】HDR画像を得る際に、ダイナミックレンジの性能は落とさず処理時間を短縮させたり、画質と処理時間とのトレードオフを柔軟に調整したりすることが可能な信号処理装置を提供する。【解決手段】露光時間がそれぞれ異なるN個のフレームの画像に対して少なくともN−1回の合成処理を行う合成処理部と、前記合成処理部で前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行う動き適応処理部とを備え、前記合成処理部が前記N−1回の合成処理を行う際の前記動き適応処理部での動き適応処理の回数をN—2回以下とする、信号処理装置が提供される。【選択図】図1
Description
本開示は、信号処理装置、信号処理方法及びコンピュータプログラムに関する。
近年、HDR(High Dynamic Range:ハイダイナミックレンジ)画像を撮像するための技術として、複数種類の露光で撮像された画像信号を合成する撮像手法が利用されている。
合成処理を行うプラットフォームとしては、近年はスマートフォンが最も多くなっており、その際にはAP(アプリケーションプロセッサ)上でのソフトウェアによって処理が行われる。APの演算性能が十分でない環境において、動きに対して一定の画質を保ちながら広いダイナミックレンジをリーズナブルな処理時間で得ることが要求され、HDR画像を得るための時間を短縮させることを目的とした技術が開示されている(特許文献1、2参照)。
しかし、既存技術では、HDR画像を得るための処理時間は短縮するが画質が劣化したり、HDR画像の画質の劣化は抑えられるが処理時間を短縮させることが困難であったりした。また既存技術では、HDR画像を得る際に、画質と処理時間とのトレードオフを柔軟に調整することが行われていない。
そこで本開示では、HDR画像を得る際に、ダイナミックレンジの性能は落とさず処理時間を短縮させたり、画質と処理時間とのトレードオフを柔軟に調整したりすることが可能な、新規かつ改良された信号処理装置、信号処理方法及びコンピュータプログラムを提案する。
本開示によれば、露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行う合成処理部と、前記合成処理部で前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行う動き適応処理部と、を備え、前記合成処理部が前記N−1回の合成処理を行う際の前記動き適応処理部での動き適応処理の回数をN―2回以下とする、信号処理装置が提供される。
また本開示によれば、プロセッサが、露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行うことと、前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行うことと、を含み、前記N−1回の合成処理を行う際の動き適応処理の回数をN―2回以下とする、信号処理方法が提供される。
また本開示によれば、コンピュータに、露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行うことと、前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行うことと、を実行させ、前記N−1回の合成処理を行う際の動き適応処理の回数をN―2回以下とする、コンピュータプログラムが提供される。
以上説明したように本開示によれば、HDR画像を得る際に、ダイナミックレンジの性能は落とさず処理時間を短縮させたり、画質と処理時間とのトレードオフを柔軟に調整したりすることが可能な、新規かつ改良された信号処理装置、信号処理方法及びコンピュータプログラムを提供することが出来る。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.本開示の実施の形態
1.1.経緯
1.2.構成例
1.3.動作例
2.移動体への応用例
3.まとめ
1.本開示の実施の形態
1.1.経緯
1.2.構成例
1.3.動作例
2.移動体への応用例
3.まとめ
<1.本開示の実施の形態>
[1.1.経緯]
まず、本開示の実施の形態について詳細に説明する前に、本開示の実施の形態に至った経緯について説明する。
[1.1.経緯]
まず、本開示の実施の形態について詳細に説明する前に、本開示の実施の形態に至った経緯について説明する。
上述したように、近年、HDR(ハイダイナミックレンジ)画像を撮像するための技術として、複数種類の露光で撮像された画像信号を合成する撮像手法が利用されている。撮像素子のサイズが小さいとダイナミックレンジが小さくなり、撮像した画像には、いわゆる白飛びや黒潰れが起きやすくなる。白飛びや黒潰れが起きた画像は肉眼での見え方とは異なる。そこで、ダイナミックレンジを拡大するHDR技術は、小さいサイズのイメージセンサのダイナミックレンジを拡大する技術として有用である。
HDR画像は、露光が異なる複数の画像を合成することにより得られる。HDR画像の生成に際しては、動いている物体が被写体に含まれている場合を考慮する必要がある。動きへの対応としては、露光時間が長い画像(長蓄画像)で発生する動物体のブラーを低減する、またはフレーム合成タイプであれば動物体の位置ずれや二重像を低減することを目的として、動き領域を検出して、露光時間が短い画像(短蓄画像)のブレンド率を高めたり、動きベクトルを検出してオブジェクトの位置合わせを行ったりする動き適応処理が行われることもある。また近年では、露光数を増やしてより広いダイナミックレンジを得ようとする傾向がある。
合成処理を行うプラットフォームとしては、近年はスマートフォンが最も多くなっており、その際にはAP(アプリケーションプロセッサ)上でのソフトウェアによって処理が行われる。しかし、スマートフォン向けのAPの演算性能はまだ十分ではなく、特にミドルクラス以下のモデルに搭載されるAPの演算性能は比較的低い。このような環境において、HDR画像を得るために露光数を増やした上で複雑な演算処理を行わせれば、長い処理時間がかかる。ユーザーがHDR機能を有効にして撮影した後にHDR合成画像が出力されるまでに長い間待機させられることになる。演算性能が十分でない環境において、動きに対して一定の画質を保ちながら広いダイナミックレンジをリーズナブルな処理時間で得ることは容易ではない。
APの演算性能が十分でない環境において、動きに対して一定の画質を保ちながら広いダイナミックレンジをリーズナブルな処理時間で得ることが要求され、HDR画像を得るための時間を短縮させることを目的とした技術が開示されている。
しかし、既存技術では、HDR画像を得るための処理時間は短縮するが画質が劣化したり、HDR画像の画質の劣化は抑えられるが処理時間を短縮させることが困難であったりした。また既存技術では、HDR画像を得る際に、画質と処理時間とのトレードオフを柔軟に調整することが行われていない。
そこで本件開示者は、上述した点に鑑みて、HDR画像を得る際に、ダイナミックレンジの性能は落とさず処理時間を短縮させたり、画質と処理時間とのトレードオフを柔軟に調整したりすることが可能な技術について鋭意検討を行った。その結果、本件開示者は、以下で説明するように、HDR画像を得る際に、ダイナミックレンジの性能は落とさず処理時間を短縮させたり、画質と処理時間とのトレードオフを柔軟に調整したりすることが可能な技術を考案するに至った。
以上、本開示の実施の形態に至った経緯について説明した。続いて、本開示の実施の形態について詳細に説明する。
[1.2.構成例]
本実施形態では、露光が異なる複数の画像フレームを入力し、その複数の画像フレームを用いてHDR画像を生成する信号処理装置を想定する。図1は、本実施形態における信号処理装置が前提とするHDR画像の生成の様子を示す説明図である。図1では、4つの画像フレームを用いてHDR画像を生成している様子が示されている。4つの画像フレームを、露光時間が長い順から長蓄、中蓄、短蓄、超短蓄とする。一例を挙げれば、長蓄の画像は露光時間が1/30秒、中蓄の画像は露光時間が1/120秒、短蓄の画像は露光時間が1/480秒、超短蓄の画像は露光時間が1/1920秒である。もちろんそれぞれの画像の露光時間は係る例に限定されるものでは無い。また図1では、露光時間が異なる4つの画像を用いてHDR画像を生成する様子が示されているが、HDR画像の元となる画像の数は4つに限定されるものでは無く、2つ以上であればよい。また図1には、露光時間が長いものから合成する様子が示されているが、HDR画像の生成に際しては露光時間が短いものから合成してもよい。
本実施形態では、露光が異なる複数の画像フレームを入力し、その複数の画像フレームを用いてHDR画像を生成する信号処理装置を想定する。図1は、本実施形態における信号処理装置が前提とするHDR画像の生成の様子を示す説明図である。図1では、4つの画像フレームを用いてHDR画像を生成している様子が示されている。4つの画像フレームを、露光時間が長い順から長蓄、中蓄、短蓄、超短蓄とする。一例を挙げれば、長蓄の画像は露光時間が1/30秒、中蓄の画像は露光時間が1/120秒、短蓄の画像は露光時間が1/480秒、超短蓄の画像は露光時間が1/1920秒である。もちろんそれぞれの画像の露光時間は係る例に限定されるものでは無い。また図1では、露光時間が異なる4つの画像を用いてHDR画像を生成する様子が示されているが、HDR画像の元となる画像の数は4つに限定されるものでは無く、2つ以上であればよい。また図1には、露光時間が長いものから合成する様子が示されているが、HDR画像の生成に際しては露光時間が短いものから合成してもよい。
4つの画像が合成されて得られる画像はダイナミックレンジが拡張されているので、通常のダイナミックレンジに収めるために階調圧縮処理を施す。階調圧縮処理を施した後はHDRを行わない時にも使用するカメラ信号処理系に接続される。カメラ信号処理はホワイトバランス、デモザイク、カラーマトリックス、エッジエンハンス、ノイズリダクションなどが含まれる。
なお、露光の異なる複数の画像を得る方式としては、上述したように露光時間を変えながら時間順次で撮像してもよいし、イメージセンサに異露光画素を二次元的に配置して、1回の撮影で各露光プレーンを得てもよい。またはこれらの方式を組み合わせてもよい。図2は、異露光画素を二次元的に配置したイメージセンサの例を示す説明図である。図2に示したイメージセンサ10は、長蓄画素11、中蓄画素12、短蓄画素13、及び超短蓄画素14がマトリクス状に配置された構成を有する。
また、露光の異なる複数の画像を得る方式として、シャッタータイムは変えずに感度を変化させる方式であってもよい。シャッタータイムを短くするとフリッカーへの対応が求められるため、シャッタータイムは変えずに感度を変化させることでフリッカーへの対応を省略することが出来る。
次に、本開示の実施の形態に係る信号処理装置の機能構成例について説明する。図3は、本開示の実施の形態に係る信号処理装置100の機能構成例を示す説明図である。図3に示したのは、HDR画像を生成する処理を実行する信号処理装置100の機能構成例である。以下、図1を用いて本開示の実施の形態に係る信号処理装置100の機能構成例について説明する。
図3に示したように、本実施形態に係る信号処理装置100は、飽和検出部102と、動き検出部104と、黒潰れ検出部106と、ブレンド率決定部108と、合成部110と、を含んで構成される。
飽和検出部102は、信号処理装置100に入力される、露光時間が異なる2つの画像のうち、露光時間が長い方の画像の飽和の度合いを検出する。画像の飽和の度合いとは、ある閾値以下は0、閾値を超えた画素値に対して多値で定義される情報である。飽和検出部102は、検出した飽和の度合いの情報をブレンド率決定部108に送る。飽和の度合いの情報は、ブレンド率決定部108における、2つの画像のブレンド率(合成比率)の決定に用いられる。
動き検出部104は、信号処理装置100に入力される2つの画像を用いて画像間の動きを検出する。動き検出部104は、動きを検出する処理として、例えば、事前に短蓄フレームに露光比ゲインをかけて明るさを正規化した上で、長蓄フレームと短蓄フレームとの画素値の差分を取る。動き検出部104は、この差分値が所定の閾値より大きければ画像間に動きがあると判定する。また動き検出部104は、動きを検出する処理として、ある一定の範囲の平均値を算出してその差分を取ってもよい。また動き検出部104は、動きを検出する処理として、より正確に動きを検出するために周波数や勾配に注目してその変化を検出してもよい。また動き検出部104は、複数のフレーム間で対応する位置の変化を検出しても良いし、移動ベクトルを検出してその値を使用する方法で動きを検出しても良い。動き検出部104は、動きとして検出した領域の情報をブレンド率決定部108に送る。ブレンド率決定部108は、動きとして検出された領域では、ブラーや位置ずれの低減を目的として露光時間が短い方の画像のブレンド率を高める。
黒潰れ検出部106は、露光時間が異なる2つの画像のうち、露光時間が短い方の画像の黒潰れの度合いを検出する。画像の黒潰れの度合いとは、ある閾値以上は0、閾値を下回る画素値に対して多値で定義される情報である。黒潰れ検出部106は、検出した黒潰れの度合いの情報をブレンド率決定部108に送る。黒潰れの度合いの情報は、ブレンド率決定部108における、2つの画像のブレンド率の決定に用いられる。
ブレンド率決定部108は、信号処理装置100に入力される2つの画像のブレンド率を決定する。ブレンド率決定部108は、2つの画像のブレンド率を決定するにあたり、飽和検出部102が検出した画像の飽和の度合い、黒潰れ検出部106が検出した画像の黒潰れの度合い、動き検出部104が検出した動きの有無の情報を用いる。例えば、飽和検出部102が検出した画像の飽和の度合いが所定の閾値以上であれば、ブレンド率決定部108は、露光時間が短い方の画像のブレンド率を高める。また例えば、黒潰れ検出部106が検出した画像の黒潰れの度合いが所定の閾値以上であれば、ブレンド率決定部108は、露光時間が長い方の画像のブレンド率を高める。また例えば、動き検出部104が動きとして検出した領域では、ブレンド率決定部108は、ブラーや位置ずれの低減を目的として露光時間が短い方の画像のブレンド率を高める。ブレンド率決定部108は、これらの要素から最終的なブレンド率を決定し、決定したブレンド率の情報を合成部110に送る。
合成部110は、ブレンド率決定部108が決定したブレンド率に基づき、信号処理装置100に入力される2つの画像を合成する処理を行う。合成部110により合成された画像は、さらに別の、HDR画像の生成対象になる画像と合成される。
信号処理装置100は、全てのHDR画像の生成対象になる画像に対して一連の処理を行うことでHDR画像の生成を行う。
信号処理装置100におけるHDR画像の生成処理の中では、アルゴリズムにもよるが画像間での被写体の動き検出を含む動き適応処理の演算量が比較的大きい。もし動き適応処理を全く行わないならば、演算量は小さく、合成処理は比較的短時間で終了するが、代わりに動物体のブラーが目立ったり、多重輪郭が発生するアーティファクトが見えたりする。
本実施形態では、このトレードオフに注目して、HDR画像の画質と、HDR画像の生成に掛かる処理時間の関係を柔軟に制御することを目的としている。
図4は、本実施形態に係る信号処理装置100によるHDR画像の生成処理について説明する説明図である。図4に示したのは、露光時間が異なる4つの画像からHDR画像を生成する例である。図4には、各フレームのシャッタータイムが、長蓄側から1/30秒、1/120秒、1/480秒、1/1920秒であり、露光比間隔は4倍ずつ増えていき、全体として64倍のケースが示されている。なお、露光比の間隔は最大でも16倍程度とすることが望ましい。また、各フレームのシャッタータイムは、被写体や、撮像時の環境(明るさ等)に応じて変化しうる。
通常であれば、4つの画像からHDR画像を生成する際には動き適応処理を計3回実行するところ、図4に示した例では、長蓄側の1回だけとしている。シャッタータイムが最も長い長蓄フレームで発生する顕著なブラーを救済するが、さらに短蓄側への置き換えは行わない。激しいブラーが見られるのは長蓄画像のみで、長蓄画像を除けばブラー量は許容範囲に収まるケースが多いため、長蓄側の1回だけ動き適応処理を行えば十分な品質の合成画像を生成し得る。また動き検出を行って短蓄側への置換を進める場合でも、シャッタータイムが短くになるに従って短蓄側の動体のS/Nは低下していくため、短蓄画像を合成に使用したとしても画質の観点で使用に耐えないこともある。このような観点から、本実施形態に係る信号処理装置100は、動き適応処理を長蓄側の1回だけとしている。動き適応処理を長蓄側の1回だけとすることで、動体の致命的なブラーや著しいS/N低下といった弊害を排除した上で、動き適応処理にかかる演算量を減らすことができる。
図4では、動き適応処理を1回だけ行うとして説明したが、動き適応処理の回数は係る例に限定されるもので無い。本実施形態に係る信号処理装置100の特徴は、動き適応処理の回数を、本来必要な回数よりも少ない回数で固定する点にある。
動き適応処理の回数を減らすと言っても、回数を固定にするのでは、ある程度の品質を担保したHDR画像の生成には十分とは言えないケースがある。各フレームに含まれるブラー量というのは多くの要因で決まる。動体の移動速度が大きければ当然ブラー量は大きくなる。またカメラと動被写体との距離が遠かったり、レンズ画角が広かったりすれば移動速度は相対的に遅くなりブラー量は小さくなる。またブラー量に対する許容限も主観的なものであって、画像の評価者(例えば撮像者)によって異なる。加えて、実際の各フレームのシャッタータイムは、撮影対象シーンが明るいか暗いか、フレーム間の露光比を何倍に設定するか、全体の露光比つまりダイナミックレンジをどれくらい広く取るか、AE(Auto Exposure;自動露出)制御の方法やポリシーなど、さまざまな要素によって決まる。さらに、先に述べたようにシャッタータイムが短くなっていくに従って動体のS/Nは低下するので、ブラー低減を取るか動体のS/N確保を取るかのトレードオフとなるが、ブラー低減と動体のS/N確保とのバランスも主観的なものであって、やはり評価者によって異なる。以上のような要素を考慮すれば、適切な動き適応処理の回数というのは容易に決められるものではなく、状況に応じて柔軟に制御した方がよいと言える。
そこで、本実施形態に係る信号処理装置100は、HDR画像の生成の基になる画像のシャッタータイムが所定の閾値以上であるかどうかを判断する。シャッタータイムが所定の閾値以上であれば、信号処理装置100は、その画像には動物体のブラーが目立っている可能性があるので、動き適応処理を実施して画像の合成処理を行う。なお、本実施形態では、合成処理とは、ブレンド率決定部108における2つの画像の合成比率の決定処理のこと、または、合成部110による、2つの画像の合成比率に基づいて画像を合成する処理のこと、のいずれかを言うものとする。また本実施形態では、HDR画像の生成の際に、露光時間が短い画像から順に画像を合成するとして説明するが、本開示は係る例に限定されるものでは無く、露光時間が長い画像から順に画像を合成しても良い。
[1.3.動作例]
図5は、本開示の実施の形態に係る信号処理装置100の動作例を示す流れ図である。図5に示したのは、HDR画像の生成処理を行う際の信号処理装置100の動作例である。図5に示した流れ図において、Nは合成フレーム数、TNはN番目のフレームのシャッタータイム、THShutはブラーやS/Nを考慮して予め定義するシャッタータイムの閾値を表している。ここでは、Nが小さい方が長蓄側であり、大きい方が短蓄側であるとする。以下、図5を用いて本開示の実施の形態に係る信号処理装置100の動作例を説明する。
図5は、本開示の実施の形態に係る信号処理装置100の動作例を示す流れ図である。図5に示したのは、HDR画像の生成処理を行う際の信号処理装置100の動作例である。図5に示した流れ図において、Nは合成フレーム数、TNはN番目のフレームのシャッタータイム、THShutはブラーやS/Nを考慮して予め定義するシャッタータイムの閾値を表している。ここでは、Nが小さい方が長蓄側であり、大きい方が短蓄側であるとする。以下、図5を用いて本開示の実施の形態に係る信号処理装置100の動作例を説明する。
信号処理装置100は、まずNの値を1に初期化し(ステップS101)、続いて、TNがTHShut以上であるかどうか判断する(ステップS102)。このステップS102の判断は、例えば動き検出部104が実行する。
ステップS102の判断の結果、TNがTHShut以上であれば(ステップS102、Yes)、信号処理装置100は、入力された2つの画像(N番目及びN+1番目のフレーム)を用いて動き適応処理を行う(ステップS103)。ステップS103の処理は、例えば動き検出部104が行う。
一方、ステップS102の判断の結果、TNがTHShut以上でなければ(ステップS102、No)、信号処理装置100は、ステップS103の動き適応処理をスキップする。
続いて、信号処理装置100は、入力された2つの画像の合成処理を行う(ステップS104)。画像の合成処理は、合成部110が実行する。信号処理装置100は、2つの画像の合成処理の際には、上述したように、飽和の度合いの情報や黒潰れの度合いの情報、2つの画像間の動きの情報等を用いる。
続いて、信号処理装置100は、Nの値が合成対象のフレーム数より1少ない値と等しいかどうか判断する(ステップS105)。Nの値が合成対象のフレーム数より1少ない値と等しければ(ステップS105、Yes)、信号処理装置100は、合成対象のフレームについて全て処理が完了したとして一連の処理を終了する。一方、Nの値が合成対象のフレーム数より1少ない値と等しくなければ(ステップS105、No)、信号処理装置100は、Nの値を1つインクリメントし(ステップS106)、ステップS102の処理に戻る。
図6は、本開示の実施の形態に係る信号処理装置100の動作の具体例を示す説明図である。図6では、THShutが1/60秒であるとしている。
長蓄フレームのシャッタータイム(1/30秒)は、閾値THShutよりも長いので、長蓄フレームのブラー発生リスクは大きい。そして中蓄フレームのS/Nは十分であるとして、信号処理装置100は、長蓄フレームと中蓄フレームとの間で動き適応処理を実行する。
次に、中蓄フレームのシャッタータイム(1/120秒)は閾値THShutよりも短いので、中蓄フレームのブラー発生リスクは小さい。また、中蓄フレームのS/Nが不足しているとして、信号処理装置100は、中蓄フレームと短蓄フレームとの間で動き適応処理は実行しない。
さらにシャッタータイムが短くなる短蓄フレームと超短蓄フレームの間の動き適応処理も、信号処理装置100は実行しない。本実施形態に係る信号処理装置100は、このようにして、ブラーやS/Nを考慮しながら動き適応処理の回数を減らすことができる。図6に示した例では、閾値THShutを考慮しなければ動き適応処理を3回実行するところを1回に減らしている。本実施形態に係る信号処理装置100は、ブラーやS/Nといった、合成後のHDR画像の画質を反映する要素としてシャッタータイムの閾値THShutを定義して、最終的に設定されたシャッタータイムとの関係から動き適応処理の実行回数を調整するものである。
本実施形態に係る信号処理装置100は、動き適応処理の実行回数を予め求めたうえでHDR合成処理を実行してもよい。その実行回数の計算式を数式(1)、(2)に示す。
HDR処理全体の処理時間をTSUMとすると、1回のHDR合成にかかる時間THDRと1回の動き適応処理にかかる時間TMOVEの和を、合成フレーム数N倍したものがTSUMになる(数式(1)参照)。この関係から、全体の処理時間TSUMを一定以下に収めたい場合の動き適応処理の回数Mが数式(2)で表される。本実施形態に係る信号処理装置100は、数式(2)で求めた回数Mだけ動き適応処理を行うことで、一定の処理時間を超えない範囲で動物体の画質を向上させることができる。
信号処理装置100は、シャッタータイムの閾値に基づいて動き適応処理の実行可否を判断する手法と、動き適応処理の実行回数を予め求める手法とを併用することも可能である。この場合、信号処理装置100は、ブラーやS/Nを考慮した動き適応処理の回数の上限と、上述のように求めた回数Mのうち小さい回数の方を使用すればよい。
本実施形態に係る信号処理装置100は、画像間の動きの量の情報に基づいて動き適応処理の実行可否を判断しても良い。図7は、本開示の実施の形態に係る信号処理装置100の動作の具体例を示す説明図である。
信号処理装置100は、まず長蓄フレームと中蓄フレームとで動き検出を行い、画像間の動きの大きさMotion12を検出する。検出された動きが大きければ動物体の移動速度がシャッタータイムに対して速いということであり、ブラーや二重像発生のリスクが高いということになる。動きの大きさとシャッタータイムは基本的には比例すると仮定してよく、ここで、信号処理装置100は、Motion12からより短蓄側の動き量Motion23、Motion34も算出することができる。
そして、ブラーや二重像が目立たない動き量の大きさTHMotionを定義しておいた上で、信号処理装置100は、動き量がTHMotion以上のフレーム間に対してのみ動き適応処理を行う。図7に示した例では、長蓄フレームと中蓄フレームとの間で動き適応処理を実行し、それ以外のフレームの間では動き適応処理を行っていない。
このように動き量の大きさに基づいて動き適応処理の実行可否を判断することで、信号処理装置100は、フレーム間の動き量がゼロまた十分小さければ、動き適応処理を実行しなくても画質の低下がなく、また、以降のフレームに対する動き適応処理を自動的にオフにできる。つまり、本開示の実施の形態に係る信号処理装置100は、撮影シーンにおける動き量に応じて処理時間を短縮することができるという効果を有する。
信号処理装置100は、シャッタータイムの閾値に基づいて動き適応処理の実行可否を判断する手法と、画像間の動きの量の情報に基づいて動き適応処理の実行可否を判断する手法とを併用することも可能である。この場合、信号処理装置100は、ブラーやS/Nを考慮した動き適応処理の回数の上限と、画像間の動きの量の情報を考慮した動き適応処理の回数の上限回数の方のうち、小さい回数の方を使用すればよい。
また信号処理装置100は、画像間の動きの量の情報に基づいて動き適応処理の実行可否を判断する手法と、動き適応処理の実行回数を予め求める手法とを併用することも可能である。この場合、信号処理装置100は、画像間の動きの量の情報を考慮した動き適応処理の回数の上限と、上述のように求めた回数Mのうち小さい回数の方を使用すればよい。
また信号処理装置100は、シャッタータイムの閾値に基づいて動き適応処理の実行可否を判断する手法と、画像間の動きの量の情報に基づいて動き適応処理の実行可否を判断する手法と、画像間の動きの量の情報に基づいて動き適応処理の実行可否を判断する手法と、を併用することも可能である。この場合、信号処理装置100は、ブラーやS/Nを考慮した動き適応処理の回数の上限と、画像間の動きの量の情報を考慮した動き適応処理の回数の上限回数の方のうち、上述のように求めた回数Mのうち、小さい回数の方を使用すればよい。
動き量に基づいて動き適応処理の実行可否を判断する場合、各フレームの画像全体で動き量を判断しても良いが、主要被写体は画像の中心部分に存在することが多い。よって信号処理装置100は、画像全体ではなく、一部分、例えば中心部分の所定の範囲における動き量に基づいて動き適応処理の実行可否を判断してもよい。
<2.移動体への応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図8は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図8に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図8の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図9は、撮像部12031の設置位置の例を示す図である。
図9では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図9には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、マイクロコンピュータ12051に適用され得る。具体的には、信号処理装置100は、マイクロコンピュータ12051に適用することができる。マイクロコンピュータ12051に本開示に係る技術を適用することにより、HDR画像を得る際に、ダイナミックレンジの性能は落とさず処理時間を短縮させたり、画質と処理時間とのトレードオフを柔軟に調整したりすることが可能となる。
<3.まとめ>
以上説明したように本開示の実施の形態によれば、動き検出回数を全て実行するよりも少ない回数にすることで、HDR画像において致命的なブラーや動体の著しいS/N低下といった弊害を避けながら、HDR画像の生成時の演算量を削減することができる信号処理装置100が提供される。
以上説明したように本開示の実施の形態によれば、動き検出回数を全て実行するよりも少ない回数にすることで、HDR画像において致命的なブラーや動体の著しいS/N低下といった弊害を避けながら、HDR画像の生成時の演算量を削減することができる信号処理装置100が提供される。
また本開示の実施の形態によれば、最終的に決定された各フレームのシャッタータイムから動き適応処理の実行回数を制御することが可能であり、HDR画像の画質を保ちながら処理時間を短縮することができる信号処理装置100が提供される。
また本開示の実施の形態によれば、合成処理全体の時間が既定値を超えない範囲で動き適応処理の実行回数を制御することが可能であり、既定の処理時間を守ったうえで動物体を含んだHDR画像の画質が自動的に調整される信号処理装置100が提供される。
また本開示の実施の形態によれば、動き検出の結果から動き適応処理の実行回数を制御することが可能であり、動物体を含んだHDR画像の画質を保ちながら処理時間を短縮することができる信号処理装置100が提供される。
本明細書の各装置が実行する処理における各ステップは、必ずしもシーケンス図またはフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、各装置が実行する処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
また、各装置に内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上述した各装置の構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供されることが可能である。また、機能ブロック図で示したそれぞれの機能ブロックをハードウェアで構成することで、一連の処理をハードウェアで実現することもできる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行う合成処理部と、
前記合成処理部で前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行う動き適応処理部と、
を備え、
前記合成処理部が前記N−1回の合成処理を行う際の前記動き適応処理部での動き適応処理の回数をN―2回以下とする、信号処理装置。
(2)
前記動き適応処理部は、前記合成処理部での合成処理の対象となる前記画像の露光時間が所定の閾値以上の画像に対してのみ動き適応処理を行う、前記(1)に記載の信号処理装置。
(3)
前記動き適応処理部は、前記合成処理部での合成処理の実行時間が所定の閾値を超えない最大の回数で動き適応処理を行う、前記(1)に記載の信号処理装置。
(4)
前記合成処理部で合成される2つの画像に対して動き検出処理を実行する動き検出処理部をさらに備え、
前記動き適応処理部は、前記動き検出処理により検出された前記2つの画像の間の動きの大きさに応じて該2つの画像に対する動き適応処理を行うかを判断する、前記(1)〜(3)のいずれかに記載の信号処理装置。
(5)
前記合成処理部は、前記合成処理として、合成される2つの前記画像の合成比率を生成する処理を行う、前記(1)〜(4)のいずれかに記載の信号処理装置。
(6)
前記合成処理部は、前記合成処理として、合成される2つの前記画像の合成比率に基づいて2つの前記画像の合成を行う、前記(1)〜(4)のいずれか1に記載の信号処理装置。
(7)
前記合成処理部は、前記露光時間が長い画像から順に少なくともN−1回の合成処理を行う、前記(1)〜(6)のいずれかに記載の信号処理装置。
(8)
プロセッサが、
露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行うことと、
前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行うことと、
を含み、
前記N−1回の合成処理を行う際の動き適応処理の回数をN―2回以下とする、信号処理方法。
(9)
コンピュータに、
露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行うことと、
前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行うことと、
を実行させ、
前記N−1回の合成処理を行う際の動き適応処理の回数をN―2回以下とする、コンピュータプログラム。
(1)
露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行う合成処理部と、
前記合成処理部で前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行う動き適応処理部と、
を備え、
前記合成処理部が前記N−1回の合成処理を行う際の前記動き適応処理部での動き適応処理の回数をN―2回以下とする、信号処理装置。
(2)
前記動き適応処理部は、前記合成処理部での合成処理の対象となる前記画像の露光時間が所定の閾値以上の画像に対してのみ動き適応処理を行う、前記(1)に記載の信号処理装置。
(3)
前記動き適応処理部は、前記合成処理部での合成処理の実行時間が所定の閾値を超えない最大の回数で動き適応処理を行う、前記(1)に記載の信号処理装置。
(4)
前記合成処理部で合成される2つの画像に対して動き検出処理を実行する動き検出処理部をさらに備え、
前記動き適応処理部は、前記動き検出処理により検出された前記2つの画像の間の動きの大きさに応じて該2つの画像に対する動き適応処理を行うかを判断する、前記(1)〜(3)のいずれかに記載の信号処理装置。
(5)
前記合成処理部は、前記合成処理として、合成される2つの前記画像の合成比率を生成する処理を行う、前記(1)〜(4)のいずれかに記載の信号処理装置。
(6)
前記合成処理部は、前記合成処理として、合成される2つの前記画像の合成比率に基づいて2つの前記画像の合成を行う、前記(1)〜(4)のいずれか1に記載の信号処理装置。
(7)
前記合成処理部は、前記露光時間が長い画像から順に少なくともN−1回の合成処理を行う、前記(1)〜(6)のいずれかに記載の信号処理装置。
(8)
プロセッサが、
露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行うことと、
前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行うことと、
を含み、
前記N−1回の合成処理を行う際の動き適応処理の回数をN―2回以下とする、信号処理方法。
(9)
コンピュータに、
露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行うことと、
前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行うことと、
を実行させ、
前記N−1回の合成処理を行う際の動き適応処理の回数をN―2回以下とする、コンピュータプログラム。
10 :イメージセンサ
11 :長蓄画素
12 :中蓄画素
13 :短蓄画素
14 :超短蓄画素
100 :信号処理装置
11 :長蓄画素
12 :中蓄画素
13 :短蓄画素
14 :超短蓄画素
100 :信号処理装置
Claims (9)
- 露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行う合成処理部と、
前記合成処理部で前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行う動き適応処理部と、
を備え、
前記合成処理部が前記N−1回の合成処理を行う際の前記動き適応処理部での動き適応処理の回数をN―2回以下とする、信号処理装置。 - 前記動き適応処理部は、前記合成処理部での合成処理の対象となる前記画像の露光時間が所定の閾値以上の画像に対してのみ動き適応処理を行う、請求項1に記載の信号処理装置。
- 前記動き適応処理部は、前記合成処理部での合成処理の実行時間が所定の閾値を超えない最大の回数で動き適応処理を行う、請求項1に記載の信号処理装置。
- 前記合成処理部で合成される2つの画像に対して動き検出処理を実行する動き検出処理部をさらに備え、
前記動き適応処理部は、前記動き検出処理により検出された前記2つの画像の間の動きの大きさに応じて該2つの画像に対する動き適応処理を行うかを判断する、請求項1に記載の信号処理装置。 - 前記合成処理部は、前記合成処理として、合成される2つの前記画像の合成比率を生成する処理を行う、請求項1に記載の信号処理装置。
- 前記合成処理部は、前記合成処理として、合成される2つの前記画像の合成比率に基づいて2つの前記画像の合成を行う、請求項1に記載の信号処理装置。
- 前記合成処理部は、前記露光時間が長い画像から順に少なくともN−1回の合成処理を行う、請求項1に記載の信号処理装置。
- プロセッサが、
露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行うことと、
前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行うことと、
を含み、
前記N−1回の合成処理を行う際の動き適応処理の回数をN―2回以下とする、信号処理方法。 - コンピュータに、
露光時間がそれぞれ異なるN個(Nは3以上の整数)のフレームの画像に対して少なくともN−1回の合成処理を行うことと、
前記画像の群のうち2つを使用する1回の合成の際に動き適応処理を行うことと、
を実行させ、
前記N−1回の合成処理を行う際の動き適応処理の回数をN―2回以下とする、コンピュータプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017105680A JP2018201158A (ja) | 2017-05-29 | 2017-05-29 | 信号処理装置、信号処理方法及びコンピュータプログラム |
PCT/JP2018/014210 WO2018220993A1 (ja) | 2017-05-29 | 2018-04-03 | 信号処理装置、信号処理方法及びコンピュータプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017105680A JP2018201158A (ja) | 2017-05-29 | 2017-05-29 | 信号処理装置、信号処理方法及びコンピュータプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018201158A true JP2018201158A (ja) | 2018-12-20 |
Family
ID=64454728
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017105680A Pending JP2018201158A (ja) | 2017-05-29 | 2017-05-29 | 信号処理装置、信号処理方法及びコンピュータプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2018201158A (ja) |
WO (1) | WO2018220993A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110636227B (zh) * | 2019-09-24 | 2021-09-10 | 合肥富煌君达高科信息技术有限公司 | 高动态范围hdr图像合成方法及集成该方法的高速相机 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000050151A (ja) * | 1998-07-28 | 2000-02-18 | Olympus Optical Co Ltd | 撮像装置 |
JP2001333420A (ja) * | 2000-05-22 | 2001-11-30 | Hitachi Ltd | 画像監視方法および装置 |
JP5085243B2 (ja) * | 2007-09-11 | 2012-11-28 | 三菱電機株式会社 | 画像処理装置及び画像処理方法 |
JP5257375B2 (ja) * | 2009-03-13 | 2013-08-07 | オムロン株式会社 | 画像処理装置および画像処理方法 |
JP2015142342A (ja) * | 2014-01-30 | 2015-08-03 | オリンパス株式会社 | 撮像装置、画像生成方法及び画像生成プログラム |
-
2017
- 2017-05-29 JP JP2017105680A patent/JP2018201158A/ja active Pending
-
2018
- 2018-04-03 WO PCT/JP2018/014210 patent/WO2018220993A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2018220993A1 (ja) | 2018-12-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10432847B2 (en) | Signal processing apparatus and imaging apparatus | |
US11082626B2 (en) | Image processing device, imaging device, and image processing method | |
WO2017175492A1 (ja) | 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 | |
WO2020230660A1 (ja) | 画像認識装置、固体撮像装置、および画像認識方法 | |
US11553117B2 (en) | Image pickup control apparatus, image pickup apparatus, control method for image pickup control apparatus, and non-transitory computer readable medium | |
US20220161654A1 (en) | State detection device, state detection system, and state detection method | |
WO2017195459A1 (ja) | 撮像装置、および撮像方法 | |
WO2018008426A1 (ja) | 信号処理装置および方法、並びに撮像装置 | |
WO2017169233A1 (ja) | 撮像処理装置、撮像処理方法、コンピュータプログラム及び電子機器 | |
US11025828B2 (en) | Imaging control apparatus, imaging control method, and electronic device | |
WO2021065494A1 (ja) | 測距センサ、信号処理方法、および、測距モジュール | |
WO2021065495A1 (ja) | 測距センサ、信号処理方法、および、測距モジュール | |
WO2017149964A1 (ja) | 画像処理装置、画像処理方法、コンピュータプログラム及び電子機器 | |
US20220155459A1 (en) | Distance measuring sensor, signal processing method, and distance measuring module | |
WO2018220993A1 (ja) | 信号処理装置、信号処理方法及びコンピュータプログラム | |
US20200402206A1 (en) | Image processing device, image processing method, and program | |
WO2021065500A1 (ja) | 測距センサ、信号処理方法、および、測距モジュール | |
US20210217146A1 (en) | Image processing apparatus and image processing method | |
WO2018142969A1 (ja) | 表示制御装置および方法、並びにプログラム | |
WO2022249562A1 (ja) | 信号処理装置および方法、並びにプログラム | |
WO2022219874A1 (ja) | 信号処理装置および方法、並びにプログラム | |
US20230007146A1 (en) | Image processing device, image processing method, and program | |
WO2020137503A1 (ja) | 画像処理装置 | |
WO2023210197A1 (ja) | 撮像装置および信号処理方法 |