JP7171969B1 - 画像の動き補償を実行するためのシステム - Google Patents
画像の動き補償を実行するためのシステム Download PDFInfo
- Publication number
- JP7171969B1 JP7171969B1 JP2022525819A JP2022525819A JP7171969B1 JP 7171969 B1 JP7171969 B1 JP 7171969B1 JP 2022525819 A JP2022525819 A JP 2022525819A JP 2022525819 A JP2022525819 A JP 2022525819A JP 7171969 B1 JP7171969 B1 JP 7171969B1
- Authority
- JP
- Japan
- Prior art keywords
- image
- color channel
- motion
- illumination
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000033001 locomotion Effects 0.000 title claims abstract description 134
- 238000005286 illumination Methods 0.000 claims abstract description 79
- 238000003384 imaging method Methods 0.000 claims abstract description 22
- 238000000034 method Methods 0.000 claims description 33
- 238000012937 correction Methods 0.000 claims description 29
- 238000006073 displacement reaction Methods 0.000 claims description 12
- 238000005096 rolling process Methods 0.000 claims description 10
- 230000015654 memory Effects 0.000 description 10
- 238000005259 measurement Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/72—Combination of two or more compensation controls
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/689—Motion occurring during a rolling shutter mode
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/533—Control of the integration time by using differing integration times for different sensor regions
- H04N25/534—Control of the integration time by using differing integration times for different sensor regions depending on the spectral component
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
- Circuit Arrangement For Electric Light Sources In General (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
Description
Claims (15)
- 画像の動き補償を実行するためのシステムであって、前記システムは、
複数のカラーチャネルで物体に多重化された照明を提供する光源であって、前記多重化された照明は、一度に、前記複数のカラーチャネルのうちの少なくとも1つのカラーチャネルが使用されるように提供される、光源と、
前記複数のカラーチャネルで前記物体の第1の画像及び第2の画像を捕捉するイメージングユニットであって、前記第1の画像は、前記照明が少なくとも第1のカラーチャネルで提供される第1の時点で捕捉され、前記第2の画像は、前記照明が少なくとも前記第1のカラーチャネルで提供される第2の時点で捕捉される、イメージングユニットと、
前記第1のカラーチャネルでの前記第1の画像と前記第2の画像との間の推定されるピクセルの動きを決定し、
前記第1の画像と前記第2の画像との間の推定される前記ピクセルの動きを、前記複数のカラーチャネルのうちの少なくとも別の1つのカラーチャネルに外挿することによって、第1の動き補償された画像を生成する、制御ユニットと、
を含む、システム。 - 前記第1の時点では、前記照明は、前記第1のカラーチャネル及び第2のカラーチャネルで提供され、
前記第2の時点では、前記照明は、前記第2のカラーチャネルでは提供されず、
前記制御ユニットは、
前記第1のカラーチャネルでの前記第1の画像と前記第2の画像との間の前記ピクセルの推定される動きを、前記第2のカラーチャネルに外挿することによって、前記第1の動き補償された画像を生成し、
前記第2のカラーチャネルでの前記第1の画像と前記第1の動き補償された画像との差に基づいて、周囲光補正を実行する、請求項1に記載のシステム。 - 前記第2の時点では、前記照明は、第3のカラーチャネルで提供され、
前記イメージングユニットはさらに、前記照明が前記第3のカラーチャネルで提供されるが前記第1のカラーチャネルでは提供されない第3の時点で、第3の画像を捕捉し、
前記制御ユニットはさらに、
前記第3のカラーチャネルでの前記第2の画像と前記第3の画像との間の推定されるピクセルの動きを決定し、
前記第3のカラーチャネルでの前記第2の画像と前記第3の画像との間の推定される前記ピクセルの動きを前記第1のカラーチャネルに外挿することによって、第2の動き補償された画像を生成し、
前記第1のカラーチャネルでの前記第2の画像と前記第3の画像との差に基づいて、周囲光補正を実行する、請求項2に記載のシステム。 - 前記イメージングユニットは、ローリングシャッターカメラであり、前記制御ユニットは、前記第1の画像の第1のセクションと前記第2の画像の対応する第2のセクションとに基づいて、前記第1のカラーチャネルでの前記第1の画像と前記第2の画像との間の推定されるピクセルの動きを決定し、前記第1のセクション及び前記第2のセクションは、前記第1のカラーチャネルでの照明のオーバーラップに対応する、請求項1に記載のシステム。
- 前記制御ユニットはさらに、前記第1の画像の第3のセクションと、第2のカラーチャネルでの前記第1の動き補償された画像の対応する第4のセクションとにおける周囲光補正を、前記第3のセクションと前記第4のセクションとの差に基づいて実行し、前記第3のセクション及び前記第4のセクションは、前記第2のカラーチャネルでの照明がオーバーラップしない領域に対応する、請求項4に記載のシステム。
- 前記制御ユニットは、前記第1のカラーチャネルでの前記第1の画像に対する前記第2の画像の1つ以上のピクセルの変位を示す動きマップを生成することによって、前記第1のカラーチャネルでの前記第1の画像と前記第2の画像との間の推定されるピクセルの動きを決定し、かつ前記複数のカラーチャネルのうちの前記少なくとも1つでの前記第2の画像の対応する1つ以上のピクセルに前記動きマップを外挿することによって、前記第1の動き補償された画像を生成する、請求項1から5のいずれか一項に記載のシステム。
- 前記動きマップの生成は、動き推定アルゴリズムを使用して、前記第1の画像と前記第2の画像との間の1つ以上のピクセルの変位を追跡すること含む、請求項6に記載のシステム。
- 前記複数のカラーチャネルのうちの各々に関連付けられた帯域幅は、それぞれの所定の範囲内にある、請求項1から7のいずれか一項に記載のシステム。
- 前記光源は、RGBの多重化された照明を提供し、前記イメージングユニットは、RGBセンサである、請求項1から8のいずれか一項に記載のシステム。
- 画像の動き補償を実行するための方法であって、前記方法は、
複数のカラーチャネルで物体に多重化された照明を提供するステップであって、前記多重化された照明は、一度に、前記複数のカラーチャネルのうちの少なくとも1つのカラーチャネルが使用されるように提供される、提供するステップと、
前記複数のカラーチャネルで前記物体の第1の画像及び第2の画像を捕捉するステップであって、前記第1の画像は、前記照明が少なくとも第1のカラーチャネルで提供される第1の時点で捕捉され、前記第2の画像は、前記照明が少なくとも前記第1のカラーチャネルで提供される第2の時点で捕捉される、捕捉するステップと、
前記第1のカラーチャネルでの前記第1の画像と前記第2の画像との間の推定されるピクセルの動きを決定するステップと、
前記第1の画像と前記第2の画像との間の推定される前記ピクセルの動きを、前記複数のカラーチャネルのうちの少なくとも別の1つに外挿することによって、第1の動き補償された画像を生成するステップと、
を含む、方法。 - 前記第1の時点では、前記照明は、前記第1のカラーチャネル及び第2のカラーチャネルで提供され、
前記第2の時点では、前記照明は、前記第2のカラーチャネルでは提供されず、
前記第1の動き補償された画像を生成するステップは、前記第1のカラーチャネルでの前記第1の画像と前記第2の画像との間の推定される前記ピクセルの動きを、前記第2のカラーチャネルに外挿するステップを含み、
前記方法はさらに、
前記第2のカラーチャネルでの前記第1の画像と前記第1の動き補償された画像との差に基づいて、周囲光補正を実行するステップを含む、請求項10に記載の方法。 - 前記第2の時点では、前記照明は、第3のカラーチャネルで提供され、
前記方法はさらに、
前記照明が前記第3のカラーチャネルで提供されるが、前記第1のカラーチャネルでは提供されない第3の時点で、第3の画像を捕捉するステップと、
前記第3のカラーチャネルでの前記第2の画像と前記第3の画像との間の推定されるピクセルの動きを決定するステップと、
前記第3のカラーチャネルでの前記第2の画像と前記第3の画像との間の推定される前記ピクセルの動きを前記第1のカラーチャネルに外挿することによって、第2の動き補償された画像を生成するステップと、
前記第1のカラーチャネルでの前記第2の画像と前記第3の画像との差に基づいて、周囲光補正を実行するステップと、
を含む、請求項11に記載の方法。 - 前記第1のカラーチャネルでの前記第1の画像と前記第2の画像との間の推定されるピクセルの動きを決定するステップは、前記第1の画像の第1のセクションと前記第2の画像の対応する第2のセクションとに基づいており、前記第1のセクション及び前記第2のセクションは、前記第1のカラーチャネルでの照明のオーバーラップに対応する、請求項10に記載の方法。
- 前記第1の画像の第3のセクションと、第2のカラーチャネルでの前記第1の動き補償された画像の対応する第4のセクションとにおける周囲光補正を、前記第3のセクションと前記第4のセクションとの差に基づいて実行するステップをさらに含み、
前記第3のセクション及び前記第4のセクションは、前記第2のカラーチャネルでの照明がオーバーラップしない領域に対応する、請求項13に記載の方法。 - 前記第1のカラーチャネルでの前記第1の画像と前記第2の画像との間の推定されるピクセルの動きを決定するステップは、前記第1のカラーチャネルでの前記第1の画像に対する前記第2の画像の1つ以上のピクセルの変位を示す動きマップを生成するステップを含み、
前記第1の動き補償された画像を生成するステップは、前記複数のカラーチャネルのうちの前記少なくとも1つのカラーチャネルでの前記第2の画像の対応する1つ以上のピクセルに前記動きマップを外挿するステップを含む、請求項10から14のいずれか一項に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP19207436.7A EP3820133A1 (en) | 2019-11-06 | 2019-11-06 | A system for performing image motion compensation |
EP19207436.7 | 2019-11-06 | ||
PCT/EP2020/080213 WO2021089372A1 (en) | 2019-11-06 | 2020-10-28 | A system for performing image motion compensation |
Publications (2)
Publication Number | Publication Date |
---|---|
JP7171969B1 true JP7171969B1 (ja) | 2022-11-15 |
JP2022549383A JP2022549383A (ja) | 2022-11-24 |
Family
ID=68470370
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022525819A Active JP7171969B1 (ja) | 2019-11-06 | 2020-10-28 | 画像の動き補償を実行するためのシステム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11910097B2 (ja) |
EP (2) | EP3820133A1 (ja) |
JP (1) | JP7171969B1 (ja) |
CN (1) | CN114731360B (ja) |
WO (1) | WO2021089372A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP4210324A1 (en) * | 2022-01-11 | 2023-07-12 | Koninklijke Philips N.V. | Method and apparatus for aligning images in a sequence of image frames |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007521775A (ja) * | 2004-01-05 | 2007-08-02 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | ビデオ内容のサブサンプリングによって導出され、未レンダリング色空間を経由してマッピングされる環境光 |
KR20110054145A (ko) * | 2009-11-17 | 2011-05-25 | 연세대학교 산학협력단 | 영상 컬러 보정 장치와 그 방법, 및 상기 방법을 구현하는 프로그램이 기록된 기록매체 |
JP2012508479A (ja) * | 2008-11-07 | 2012-04-05 | オムニヴィジョン テクノロジーズ インコーポレイテッド | カラーおよび全色性チャネルcfa画像の修正 |
US20150029312A1 (en) * | 2012-02-21 | 2015-01-29 | Chung-Ang University Industry-Academy Cooperation Foundation | Apparatus and method for detecting object automatically and estimating depth information of image captured by imaging device having multiple color-filter aperture |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5523786A (en) | 1993-12-22 | 1996-06-04 | Eastman Kodak Company | Color sequential camera in which chrominance components are captured at a lower temporal rate than luminance components |
DE602004010464T2 (de) * | 2003-07-16 | 2008-11-20 | British Broadcasting Corp. | Videoverarbeitung |
JP3838243B2 (ja) * | 2003-09-04 | 2006-10-25 | ソニー株式会社 | 画像処理方法、および画像処理装置、並びにコンピュータ・プログラム |
WO2005124660A2 (en) * | 2004-06-12 | 2005-12-29 | University Of Southern California | Performance relighting and reflectance transformation with time-multiplexed illumination |
KR20070051263A (ko) | 2004-08-13 | 2007-05-17 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 컬러 순차 디스플레이 시스템에서 복잡도를 감소시키기위한 시스템 및 방법 |
JP5124583B2 (ja) * | 2006-10-18 | 2013-01-23 | トムソン ライセンシング | 明示的な信号伝達なしでの局所的な輝度および色の補償のための方法および装置 |
JP4683132B2 (ja) * | 2009-01-30 | 2011-05-11 | ブラザー工業株式会社 | 画像処理装置、画像処理プログラム及び画像処理方法 |
US9071764B2 (en) * | 2013-11-13 | 2015-06-30 | Arecont Vision, Llc. | System and method for color imaging under low light |
US10154201B2 (en) | 2015-08-05 | 2018-12-11 | Three In One Ent Co., Ltd | Method for adjusting photographic images to higher resolution |
US9883167B2 (en) * | 2015-09-25 | 2018-01-30 | Disney Enterprises, Inc. | Photometric three-dimensional facial capture and relighting |
WO2017181044A1 (en) * | 2016-04-15 | 2017-10-19 | The Regents Of The University Of California | Optical phase retrieval systems using color-multiplexed illumination |
US10143058B2 (en) | 2016-06-03 | 2018-11-27 | Litegear Inc. | Artificial light compensation system and process |
US11229372B2 (en) | 2016-09-21 | 2022-01-25 | Arizona Board of Regents on Behalf of Arizona State of University | Systems and methods for computer monitoring of remote photoplethysmography based on chromaticity in a converted color space |
CN109599069B (zh) * | 2017-09-30 | 2022-05-17 | 北京小米移动软件有限公司 | 一种图像显示的方法和装置 |
JP2019103029A (ja) * | 2017-12-05 | 2019-06-24 | キヤノン株式会社 | 情報処理装置、色補正方法、及びコンピュータプログラム |
-
2019
- 2019-11-06 EP EP19207436.7A patent/EP3820133A1/en not_active Withdrawn
-
2020
- 2020-10-28 EP EP20793722.8A patent/EP4055811B1/en active Active
- 2020-10-28 CN CN202080077119.2A patent/CN114731360B/zh active Active
- 2020-10-28 US US17/771,511 patent/US11910097B2/en active Active
- 2020-10-28 WO PCT/EP2020/080213 patent/WO2021089372A1/en unknown
- 2020-10-28 JP JP2022525819A patent/JP7171969B1/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007521775A (ja) * | 2004-01-05 | 2007-08-02 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | ビデオ内容のサブサンプリングによって導出され、未レンダリング色空間を経由してマッピングされる環境光 |
JP2012508479A (ja) * | 2008-11-07 | 2012-04-05 | オムニヴィジョン テクノロジーズ インコーポレイテッド | カラーおよび全色性チャネルcfa画像の修正 |
KR20110054145A (ko) * | 2009-11-17 | 2011-05-25 | 연세대학교 산학협력단 | 영상 컬러 보정 장치와 그 방법, 및 상기 방법을 구현하는 프로그램이 기록된 기록매체 |
US20150029312A1 (en) * | 2012-02-21 | 2015-01-29 | Chung-Ang University Industry-Academy Cooperation Foundation | Apparatus and method for detecting object automatically and estimating depth information of image captured by imaging device having multiple color-filter aperture |
Also Published As
Publication number | Publication date |
---|---|
US20220385799A1 (en) | 2022-12-01 |
EP3820133A1 (en) | 2021-05-12 |
WO2021089372A1 (en) | 2021-05-14 |
CN114731360B (zh) | 2023-12-01 |
JP2022549383A (ja) | 2022-11-24 |
US11910097B2 (en) | 2024-02-20 |
EP4055811A1 (en) | 2022-09-14 |
CN114731360A (zh) | 2022-07-08 |
EP4055811B1 (en) | 2023-05-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106713755B (zh) | 全景图像的处理方法及装置 | |
US11700462B2 (en) | System for performing ambient light image correction | |
US10477167B2 (en) | Image processing apparatus and image processing method | |
CN105205787A (zh) | 用于对ldr视频序列进行动态范围扩展的方法和设备 | |
TWI592903B (zh) | Image processing device, image processing method and program | |
JP7171969B1 (ja) | 画像の動き補償を実行するためのシステム | |
US20150326841A1 (en) | White balancing device and method of driving the same | |
JP2017138927A (ja) | 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム | |
KR20160030350A (ko) | 화상 처리 장치 및 화상 처리 방법 | |
JP2020005084A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US20220385933A1 (en) | A system for performing image motion compensation | |
Sá et al. | Range-enhanced active foreground extraction | |
CN111034185B (zh) | 影像处理装置、影像处理方法、程序和远程通信*** | |
JP4677924B2 (ja) | 撮影システム、動画像処理方法および動画像処理装置 | |
KR102283494B1 (ko) | 이미지에 왜곡 효과를 적용하기 위한 전자 장치 및 그의 동작 방법 | |
JP2018074326A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP6946055B2 (ja) | 画像処理装置および画像処理方法、プログラム | |
JP2015138108A (ja) | 表示装置及び画質調整装置 | |
JP2019022024A (ja) | 画像処理装置、画像処理方法及び画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220502 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20220502 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221007 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221102 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7171969 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |