JP6702323B2 - カメラモジュール、固体撮像素子、電子機器、および撮像方法 - Google Patents
カメラモジュール、固体撮像素子、電子機器、および撮像方法 Download PDFInfo
- Publication number
- JP6702323B2 JP6702323B2 JP2017529549A JP2017529549A JP6702323B2 JP 6702323 B2 JP6702323 B2 JP 6702323B2 JP 2017529549 A JP2017529549 A JP 2017529549A JP 2017529549 A JP2017529549 A JP 2017529549A JP 6702323 B2 JP6702323 B2 JP 6702323B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- motion
- output
- processing unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 86
- 238000012545 processing Methods 0.000 claims description 236
- 238000012937 correction Methods 0.000 claims description 184
- 238000000034 method Methods 0.000 claims description 149
- 238000006243 chemical reaction Methods 0.000 claims description 106
- 230000003287 optical effect Effects 0.000 claims description 75
- 238000001514 detection method Methods 0.000 claims description 47
- 230000008569 process Effects 0.000 claims description 47
- 230000009466 transformation Effects 0.000 claims description 44
- 230000001360 synchronised effect Effects 0.000 claims description 20
- 230000006870 function Effects 0.000 description 22
- 230000006641 stabilisation Effects 0.000 description 19
- 238000011105 stabilization Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 16
- 239000011159 matrix material Substances 0.000 description 13
- 230000001133 acceleration Effects 0.000 description 12
- 238000005070 sampling Methods 0.000 description 11
- 238000000926 separation method Methods 0.000 description 10
- 230000003044 adaptive effect Effects 0.000 description 9
- 230000007246 mechanism Effects 0.000 description 9
- 230000000694 effects Effects 0.000 description 7
- 239000000758 substrate Substances 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000013461 design Methods 0.000 description 4
- 238000003672 processing method Methods 0.000 description 4
- 238000012952 Resampling Methods 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000005096 rolling process Methods 0.000 description 3
- 230000001131 transforming effect Effects 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000003702 image correction Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000003796 beauty Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- CNQCVBJFEGMYDW-UHFFFAOYSA-N lawrencium atom Chemical compound [Lr] CNQCVBJFEGMYDW-UHFFFAOYSA-N 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 210000004761 scalp Anatomy 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000003381 stabilizer Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B5/00—Adjustment of optical system relative to image or object surface other than for focusing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/75—Circuitry for providing, modifying or processing image signals from the pixel array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B2205/00—Adjustment of optical system relative to image or object surface other than for focusing
- G03B2205/0007—Movement of one or more optical elements for control of motion blur
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B2217/00—Details of cameras or camera bodies; Accessories therefor
- G03B2217/005—Blur detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Geometry (AREA)
- Adjustment Of Camera Lenses (AREA)
- Image Processing (AREA)
Description
<撮像方法について>
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
(1)
光学系を介して入射する被写体からの光を受光して、前記被写体を撮像する撮像部と、
前記撮像部において少なくとも1フレーム分の画像が撮像される間の前記撮像部の動きを検出する動き検出部と、
前記動き検出部により検出された前記撮像部の動き、および、前記光学系の歪みを補正する補正係数に基づいて、前記撮像部により撮像された前記画像上の座標を、前記撮像部の振れおよび前記光学系の歪みの両方が前記画像に与える影響を抑制するように一括で変換する座標変換処理を行う座標変換処理部と
を備えるカメラモジュール。
(2)
前記撮像部により撮像された1フレーム分の前記画像をライン単位で、前記動き検出部により検出された前記撮像部の動きと同期させる同期処理部
をさらに備える上記(1)に記載のカメラモジュール。
(3)
前記同期処理部は、前記撮像部により撮像された1フレーム分の前記画像のラインごとに出力されるタイミング、および、前記動き検出部により前記撮像部の動きが検出されたタイミングのいずれか一方を基準として、他方が取得されたタイミングを紐付けることにより同期を取る
上記(2)に記載のカメラモジュール。
(4)
前記同期処理部は、前記撮像部により前記画像の撮像が行われる所定のタイミング、および、前記動き検出部により前記撮像部の動きが検出されたタイミングのそれぞれを特定するタイムスタンプを利用して同期を取る
上記(2)に記載のカメラモジュール。
(5)
前記同期処理部は、前記撮像部において1フレーム分の前記画像が撮像される前または後の所定期間において前記動き検出部により検出された前記撮像部の動きを、その1フレーム分に含めて出力する
上記(2)から(4)までのいずれかに記載のカメラモジュール。
(6)
前記動き検出部が前記撮像部の動きを検出して出力する出力信号に対する信号処理を行って、前記撮像部の動きを表す動き情報に変換するモーション信号処理部
をさらに備える上記(1)から(5)までのいずれかに記載のカメラモジュール。
(7)
前記モーション信号処理部は、前記動き検出部の出力信号を変換する際に発生する誤差を補正して、前記撮像部の動き情報を求める
上記(6)に記載のカメラモジュール。
(8)
前記座標変換部による変換済みの座標に基づいて、前記撮像部により撮像された前記画像を変形する画像変形処理部
をさらに備える上記(1)から(7)までのいずれかに記載のカメラモジュール。
(9)
前記座標変換部は、前記画像を構成する全画素のうちの、特定の制御画素に対して座標変換処理を行い、
前記画像変形処理部は、前記制御画素に対する変換済みの座標に基づいて画像変形処理を行うとともに、前記制御画素以外の画素については、前記制御画素に対する画像変形処理の結果を利用して補間する補間処理を行う
上記(8)に記載のカメラモジュール。
(10)
前記制御画素は、前記画像に対して格子状または三角形状に配置される
上記(8)または(9)に記載のカメラモジュール。
(11)
前記制御画素は、前記画像中に非均等に配置される
上記(8)から(10)までのいずれかに記載のカメラモジュール。
(12)
前記座標変換部は、前記画像の面内の位置に応じた前記撮像部の振れの影響の違いと、前記画像の面内の位置に応じた前記光学系の歪みの影響の違いとに対応して、前記画像を補正する座標変換処理を行う
上記(1)から(11)までのいずれかに記載のカメラモジュール。
(13)
前記座標変換部は、前記座標変換処理を行って出力する出力座標について、歪みのない前記光学系を用いた場合における座標に変換し、前記動き検出部により検出された前記撮像部の動きと前記画像の面内の座標位置に応じた補正量を算出した後、歪みのある前記光学系を用いた場合における像での座標を算出する
上記(12)に記載のカメラモジュール。
(14)
前記座標変換部は、前記座標変換処理を行って出力する出力座標について、前記動き検出部により検出された前記撮像部の動きと前記画像の面内の座標位置に応じた補正量を算出し、歪みのある前記光学系を用いた場合における像での座標を算出する
上記(12)に記載のカメラモジュール。
(15)
前記画像を構成する画素の座標をパラメータとする前記光学系の歪みモデル式の補正係数が事前に測定されており、
前記座標変換部は、前記光学系の歪みモデル式の補正係数を用いて、前記画像の面内の位置に応じて影響の異なる前記光学系の歪みに対応する補正を行う
上記(12)から(14)までのいずれかに記載のカメラモジュール。
(16)
前記画像の面内の位置および前記撮像部の振れ方向に応じて変化する前記光学系の焦点距離が事前に測定されており、
前記座標変換部は、前記画像の面内の位置および前記撮像部の振れ方向に応じて異なる前記焦点距離を用いて、前記撮像部の振れを補正する
上記(12)から(14)までのいずれかに記載のカメラモジュール。
(17)
前記撮像部により撮像された前記画像と、前記座標変換処理による変換済みの座標とを後段に出力する
上記(1)から(16)までのいずれかに記載のカメラモジュール。
(18)
光学系を介して入射する被写体からの光を受光して、前記被写体を撮像する撮像部と、
前記撮像部において少なくとも1フレーム分の前記画像が撮像される間の前記撮像部の動きを検出する動き検出部により検出された前記撮像部の動き、および、前記光学系の歪みを補正する補正係数に基づいて、前記撮像部により撮像された前記画像上の座標を、前記撮像部の振れおよび前記光学系の歪みの両方が前記画像に与える影響を抑制するように一括で変換する座標変換処理を行う座標変換処理部と
を備える固体撮像素子。
(19)
光学系を介して入射する被写体からの光を受光して、前記被写体を撮像する撮像部と、
前記撮像部において少なくとも1フレーム分の前記画像が撮像される間の前記撮像部の動きを検出する動き検出部と、
前記動き検出部により検出された前記撮像部の動き、および、前記光学系の歪みを補正する補正係数に基づいて、前記撮像部により撮像された前記画像上の座標を、前記撮像部の振れおよび前記光学系の歪みの両方が前記画像に与える影響を抑制するように一括で変換する座標変換処理を行う座標変換処理部と
を備える電子機器。
(20)
光学系を介して入射する被写体からの光を受光する撮像部により前記被写体を撮像し、
前記撮像部において少なくとも1フレーム分の前記画像が撮像される間の前記撮像部の動きを検出し、
検出された前記撮像部の動き、および、前記光学系の歪みを補正する補正係数に基づいて、前記撮像部により撮像された前記画像上の座標を、前記撮像部の振れおよび前記光学系の歪みの両方が前記画像に与える影響を抑制するように一括で変換する座標変換処理を行う
撮像方法。
Claims (20)
- 光学系を介して入射する被写体からの光を受光して、前記被写体を撮像する撮像部と、
前記撮像部において少なくとも1フレーム分の画像が撮像される間の前記撮像部の動きを検出する動き検出部と、
前記動き検出部により検出された前記撮像部の動き、および、前記光学系の歪みを補正する補正係数に基づいて、前記撮像部により撮像された前記画像上の座標を、前記撮像部の振れおよび前記光学系の歪みの両方が前記画像に与える影響を抑制するように一括で変換する座標変換処理を行う座標変換処理部と、
前記撮像部により撮像された1フレーム分の前記画像をライン単位で、前記動き検出部により検出された前記撮像部の動きと同期させる同期処理部と、
前記撮像部および前記同期処理部を内蔵する構成の固体撮像素子と
を備え、
前記固体撮像素子に前記動き検出部の出力が取り込まれて、前記同期処理部によって前記動き検出部の出力が同期するように前記撮像部により撮像された画像に付加された動き出力付き画像が前記固体撮像素子から出力される
カメラモジュール。 - 前記同期処理部は、前記撮像部により撮像された1フレーム分の前記画像のラインごとに出力されるタイミング、および、前記動き検出部により前記撮像部の動きが検出されたタイミングのいずれか一方を基準として、他方が取得されたタイミングを紐付けることにより同期を取る
請求項1に記載のカメラモジュール。 - 前記同期処理部は、前記撮像部により前記画像の撮像が行われる所定のタイミング、および、前記動き検出部により前記撮像部の動きが検出されたタイミングのそれぞれを特定するタイムスタンプを利用して同期を取る
請求項1に記載のカメラモジュール。 - 前記同期処理部は、前記撮像部において1フレーム分の前記画像が撮像される前または後の所定期間において前記動き検出部により検出された前記撮像部の動きを、その1フレーム分に含めて出力する
請求項1に記載のカメラモジュール。 - 前記固体撮像素子から出力される1フレーム分の前記画像には、その1フレーム分の前記画像の露光中の動き情報の全てが含まれている
請求項4に記載のカメラモジュール。 - 前記動き検出部が前記撮像部の動きを検出して出力する出力信号に対する信号処理を行って、前記撮像部の動きを表す動き情報に変換するモーション信号処理部
をさらに備える請求項1に記載のカメラモジュール。 - 前記モーション信号処理部は、前記動き検出部の出力信号を変換する際に発生する誤差を補正して、前記撮像部の動き情報を求める
請求項6に記載のカメラモジュール。 - 前記座標変換処理部による変換済みの座標に基づいて、前記撮像部により撮像された前記画像を変形する画像変形処理部
をさらに備える請求項1に記載のカメラモジュール。 - 前記座標変換処理部は、前記画像を構成する全画素のうちの、特定の制御画素に対して座標変換処理を行い、
前記画像変形処理部は、前記制御画素に対する変換済みの座標に基づいて画像変形処理を行うとともに、前記制御画素以外の画素については、前記制御画素に対する画像変形処理の結果を利用して補間する補間処理を行う
請求項8に記載のカメラモジュール。 - 前記制御画素は、前記画像に対して格子状または三角形状に配置される
請求項9に記載のカメラモジュール。 - 前記制御画素は、前記画像中に非均等に配置される
請求項9に記載のカメラモジュール。 - 前記座標変換処理部は、前記画像の面内の位置に応じた前記撮像部の振れの影響の違いと、前記画像の面内の位置に応じた前記光学系の歪みの影響の違いとに対応して、前記画像を補正する座標変換処理を行う
請求項1に記載のカメラモジュール。 - 前記座標変換処理部は、前記座標変換処理を行って出力する出力座標について、歪みのない前記光学系を用いた場合における座標に変換し、前記動き検出部により検出された前記撮像部の動きと前記画像の面内の座標位置に応じた補正量を算出した後、歪みのある前記光学系を用いた場合における像での座標を算出する
請求項12に記載のカメラモジュール。 - 前記座標変換処理部は、前記座標変換処理を行って出力する出力座標について、前記動き検出部により検出された前記撮像部の動きと前記画像の面内の座標位置に応じた補正量を算出し、歪みのある前記光学系を用いた場合における像での座標を算出する
請求項12に記載のカメラモジュール。 - 前記画像を構成する画素の座標をパラメータとする前記光学系の歪みモデル式の補正係数が事前に測定されており、
前記座標変換処理部は、前記光学系の歪みモデル式の補正係数を用いて、前記画像の面内の位置に応じて影響の異なる前記光学系の歪みに対応する補正を行う
請求項12に記載のカメラモジュール。 - 前記画像の面内の位置および前記撮像部の振れ方向に応じて変化する前記光学系の焦点距離が事前に測定されており、
前記座標変換処理部は、前記画像の面内の位置および前記撮像部の振れ方向に応じて異なる前記焦点距離を用いて、前記撮像部の振れを補正する
請求項12に記載のカメラモジュール。 - 前記撮像部により撮像された前記画像と、前記座標変換処理による変換済みの座標とを後段に出力する
請求項1に記載のカメラモジュール。 - 光学系を介して入射する被写体からの光を受光して、前記被写体を撮像する撮像部と、
前記撮像部において少なくとも1フレーム分の画像が撮像される間の前記撮像部の動きを検出する動き検出部により検出された前記撮像部の動き、および、前記光学系の歪みを補正する補正係数に基づいて、前記撮像部により撮像された前記画像上の座標を、前記撮像部の振れおよび前記光学系の歪みの両方が前記画像に与える影響を抑制するように一括で変換する座標変換処理を行う座標変換処理部と、
前記撮像部により撮像された1フレーム分の前記画像をライン単位で、前記動き検出部により検出された前記撮像部の動きと同期させる同期処理部と
を備え、
前記撮像部および前記同期処理部を内蔵する構成となっていて、
前記動き検出部の出力を取り込み、前記同期処理部によって前記動き検出部の出力が同期するように前記撮像部により撮像された画像に付加された動き出力付き画像を出力する
固体撮像素子。 - 光学系を介して入射する被写体からの光を受光して、前記被写体を撮像する撮像部と、
前記撮像部において少なくとも1フレーム分の画像が撮像される間の前記撮像部の動きを検出する動き検出部と、
前記動き検出部により検出された前記撮像部の動き、および、前記光学系の歪みを補正する補正係数に基づいて、前記撮像部により撮像された前記画像上の座標を、前記撮像部の振れおよび前記光学系の歪みの両方が前記画像に与える影響を抑制するように一括で変換する座標変換処理を行う座標変換処理部と、
前記撮像部により撮像された1フレーム分の前記画像をライン単位で、前記動き検出部により検出された前記撮像部の動きと同期させる同期処理部と、
前記撮像部および前記同期処理部を内蔵する構成の固体撮像素子と
を備え、
前記固体撮像素子に前記動き検出部の出力が取り込まれて、前記同期処理部によって前記動き検出部の出力が同期するように前記撮像部により撮像された画像に付加された動き出力付き画像が前記固体撮像素子から出力される
電子機器 - 光学系を介して入射する被写体からの光を受光する撮像部により前記被写体を撮像し、
前記撮像部において少なくとも1フレーム分の画像が撮像される間の前記撮像部の動きを動き検出部により検出し、
前記動き検出部により検出された前記撮像部の動き、および、前記光学系の歪みを補正する補正係数に基づいて、前記撮像部により撮像された前記画像上の座標を、前記撮像部の振れおよび前記光学系の歪みの両方が前記画像に与える影響を抑制するように一括で変換する座標変換処理を行い、
前記撮像部により撮像された1フレーム分の前記画像をライン単位で、前記動き検出部により検出された前記撮像部の動きと同期処理部により同期させ、
前記撮像部および前記同期処理部を内蔵する構成の固体撮像素子に前記動き検出部の出力が取り込まれて、前記同期処理部によって前記動き検出部の出力が同期するように前記撮像部により撮像された画像に付加された動き出力付き画像が前記固体撮像素子から出力される
撮像方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015145335 | 2015-07-22 | ||
JP2015145335 | 2015-07-22 | ||
PCT/JP2016/070261 WO2017014071A1 (ja) | 2015-07-22 | 2016-07-08 | カメラモジュール、固体撮像素子、電子機器、および撮像方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2017014071A1 JPWO2017014071A1 (ja) | 2018-06-07 |
JP6702323B2 true JP6702323B2 (ja) | 2020-06-03 |
Family
ID=57834110
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017529549A Active JP6702323B2 (ja) | 2015-07-22 | 2016-07-08 | カメラモジュール、固体撮像素子、電子機器、および撮像方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10498962B2 (ja) |
JP (1) | JP6702323B2 (ja) |
KR (1) | KR102526794B1 (ja) |
CN (1) | CN107852462B (ja) |
WO (1) | WO2017014071A1 (ja) |
Families Citing this family (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6677098B2 (ja) * | 2015-07-01 | 2020-04-08 | 株式会社リコー | 全天球動画の撮影システム、及びプログラム |
US10922559B2 (en) * | 2016-03-25 | 2021-02-16 | Bendix Commercial Vehicle Systems Llc | Automatic surround view homography matrix adjustment, and system and method for calibration thereof |
CN108886573A (zh) * | 2016-05-20 | 2018-11-23 | 深圳市大疆灵眸科技有限公司 | 用于数字视频增稳的***和方法 |
JP6674701B2 (ja) * | 2016-09-28 | 2020-04-01 | ルネサスエレクトロニクス株式会社 | 画像処理モジュール、および半導体システム |
CN106780758B (zh) * | 2016-12-07 | 2019-12-13 | 歌尔科技有限公司 | 用于虚拟现实设备的成像方法、装置及虚拟现实设备 |
JP6936034B2 (ja) * | 2017-03-31 | 2021-09-15 | パナソニックi−PROセンシングソリューションズ株式会社 | カメラ装置及び揺れ補正方法 |
JP2018205678A (ja) * | 2017-06-06 | 2018-12-27 | 米田 正人 | Gyroデバイスを用いた手振れ補正システムおよびGyroセンサデバイスおよびイメージセンサデバイス |
JP7030442B2 (ja) * | 2017-08-07 | 2022-03-07 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
CN107561723B (zh) * | 2017-10-13 | 2020-05-05 | 京东方科技集团股份有限公司 | 显示面板和显示装置 |
CN109754425B (zh) * | 2017-11-01 | 2023-07-28 | 浙江舜宇智能光学技术有限公司 | Tof摄像模组的标定设备及其标定方法 |
US10911675B2 (en) * | 2017-12-28 | 2021-02-02 | Samsung Electronics Co., Ltd. | Method for providing shake correction, signal processing device performing the method, and imaging device including the signal processing device |
CN108680196B (zh) * | 2018-04-28 | 2021-01-19 | 远形时空科技(北京)有限公司 | 一种时延校正方法、***及计算机可读介质 |
EP3564917B1 (en) * | 2018-05-04 | 2020-07-01 | Axis AB | A method for detecting motion in a video sequence |
CN108737735B (zh) * | 2018-06-15 | 2019-09-17 | Oppo广东移动通信有限公司 | 图像校正方法、电子设备及计算机可读存储介质 |
JP2020031264A (ja) * | 2018-08-20 | 2020-02-27 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、撮像装置、信号処理方法 |
US11963658B2 (en) * | 2018-08-22 | 2024-04-23 | Intuitive Surgical Operations, Inc. | Distortion correction of endoscopic images in computer-assisted tele-operated surgery |
CN109040525B (zh) * | 2018-08-31 | 2021-10-22 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机可读介质及电子设备 |
CN109348125B (zh) * | 2018-10-31 | 2020-02-04 | Oppo广东移动通信有限公司 | 视频校正方法、装置、电子设备和计算机可读存储介质 |
US11741584B2 (en) | 2018-11-13 | 2023-08-29 | Genesys Logic, Inc. | Method for correcting an image and device thereof |
JP7197785B2 (ja) * | 2019-01-28 | 2022-12-28 | 日本電信電話株式会社 | 映像処理装置、映像処理方法、及び映像処理プログラム |
US10380724B1 (en) * | 2019-01-28 | 2019-08-13 | StradVision, Inc. | Learning method and learning device for reducing distortion occurred in warped image generated in process of stabilizing jittered image by using GAN to enhance fault tolerance and fluctuation robustness in extreme situations |
CN110049239B (zh) * | 2019-03-26 | 2021-03-23 | Oppo广东移动通信有限公司 | 图像处理方法和装置、电子设备、计算机可读存储介质 |
CN110072049B (zh) * | 2019-03-26 | 2021-11-09 | Oppo广东移动通信有限公司 | 图像处理方法和装置、电子设备、计算机可读存储介质 |
CN112129317B (zh) * | 2019-06-24 | 2022-09-02 | 南京地平线机器人技术有限公司 | 信息采集时间差确定方法、装置以及电子设备、存储介质 |
KR20210092012A (ko) * | 2020-01-15 | 2021-07-23 | 삼성전자주식회사 | 이미지 보정을 수행하는 전자 장치 및 이미지를 보정하는 방법 |
KR102267696B1 (ko) * | 2020-06-16 | 2021-06-21 | 남서울대학교 산학협력단 | 사진측량과 컴퓨터비전 간의 카메라 렌즈왜곡 변환 시스템 및 그 방법 |
JPWO2022168501A1 (ja) * | 2021-02-04 | 2022-08-11 | ||
CN115134505B (zh) * | 2021-03-25 | 2024-06-21 | 北京小米移动软件有限公司 | 预览画面生成方法及装置、电子设备、存储介质 |
JP2022189113A (ja) * | 2021-06-10 | 2022-12-22 | ウーブン・プラネット・ホールディングス株式会社 | 遠隔支援システム及び遠隔支援方法 |
EP4135311A4 (en) | 2021-06-29 | 2023-05-03 | Samsung Electronics Co., Ltd. | METHOD OF IMAGE STABILIZATION AND ELECTRONIC DEVICE THEREFOR |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06197261A (ja) * | 1992-12-24 | 1994-07-15 | Canon Inc | 撮像装置 |
JP4310645B2 (ja) | 2004-12-28 | 2009-08-12 | ソニー株式会社 | 撮像画像信号の歪み補正方法および撮像画像信号の歪み補正装置 |
JP5181603B2 (ja) * | 2007-09-28 | 2013-04-10 | カシオ計算機株式会社 | 撮像装置及びプログラム |
JP5487722B2 (ja) * | 2009-05-25 | 2014-05-07 | ソニー株式会社 | 撮像装置と振れ補正方法 |
WO2011053678A1 (en) | 2009-10-28 | 2011-05-05 | The Trustees Of Columbia University In The City Of New York | Methods and systems for coded rolling shutter |
JP2011160067A (ja) * | 2010-01-29 | 2011-08-18 | Fujifilm Corp | 手振れ補正装置及び方法、並びにカメラモジュール、携帯電話機 |
JP5742179B2 (ja) * | 2010-11-05 | 2015-07-01 | ソニー株式会社 | 撮像装置、画像処理装置、および画像処理方法、並びにプログラム |
US20140192235A1 (en) | 2011-02-25 | 2014-07-10 | Sony Corporation | Systems, methods, and media for reconstructing a space-time volume from a coded image |
JP5734082B2 (ja) * | 2011-05-11 | 2015-06-10 | キヤノン株式会社 | 撮像装置及びその制御方法、並びにプログラム |
JP2013050537A (ja) | 2011-08-30 | 2013-03-14 | Sony Corp | 表示装置および電子機器 |
JP2013050538A (ja) | 2011-08-30 | 2013-03-14 | Sony Corp | 表示装置および電子機器 |
JP5984574B2 (ja) * | 2012-08-14 | 2016-09-06 | キヤノン株式会社 | 撮像システム及びその制御方法、撮像装置 |
CN103200392A (zh) * | 2013-03-29 | 2013-07-10 | 天津大学 | 一种基于视角变换的车载视频稳像方法 |
JP6327245B2 (ja) | 2013-03-29 | 2018-05-23 | ソニー株式会社 | 撮像装置、固体撮像素子、カメラモジュール、電子機器、および撮像方法 |
JP2014203400A (ja) * | 2013-04-09 | 2014-10-27 | 株式会社デンソー | 車外画像保存装置、及び撮像機能付き携帯端末 |
JP6198567B2 (ja) * | 2013-10-21 | 2017-09-20 | ソニーセミコンダクタソリューションズ株式会社 | イメージセンサおよびその動作方法、並びに電子機器 |
JP5641127B2 (ja) * | 2013-12-26 | 2014-12-17 | ソニー株式会社 | 撮像装置と振れ補正方法 |
WO2015160967A1 (en) | 2014-04-15 | 2015-10-22 | The Trustees Of Columbia University In The City Of New York | Systems, methods, and media for extracting information and a display image from two captured images |
-
2016
- 2016-07-08 JP JP2017529549A patent/JP6702323B2/ja active Active
- 2016-07-08 WO PCT/JP2016/070261 patent/WO2017014071A1/ja active Application Filing
- 2016-07-08 CN CN201680042401.0A patent/CN107852462B/zh active Active
- 2016-07-08 US US15/743,740 patent/US10498962B2/en active Active
- 2016-07-08 KR KR1020177035454A patent/KR102526794B1/ko active IP Right Grant
Also Published As
Publication number | Publication date |
---|---|
WO2017014071A1 (ja) | 2017-01-26 |
CN107852462A (zh) | 2018-03-27 |
JPWO2017014071A1 (ja) | 2018-06-07 |
KR102526794B1 (ko) | 2023-04-28 |
US20180213153A1 (en) | 2018-07-26 |
US10498962B2 (en) | 2019-12-03 |
CN107852462B (zh) | 2020-12-18 |
KR20180032529A (ko) | 2018-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6702323B2 (ja) | カメラモジュール、固体撮像素子、電子機器、および撮像方法 | |
JP6170395B2 (ja) | 撮像装置およびその制御方法 | |
JP5163409B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP4770924B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP4413261B2 (ja) | 撮像装置及び光軸制御方法 | |
JP4962460B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP4618370B2 (ja) | 撮像装置、撮像方法、およびプログラム | |
JP6209002B2 (ja) | 撮像装置およびその制御方法 | |
JP2010136302A (ja) | 撮像装置、撮像方法、およびプログラム | |
JP6253280B2 (ja) | 撮像装置およびその制御方法 | |
TWI501193B (zh) | Computer graphics using AR technology. Image processing systems and methods | |
US11196929B2 (en) | Signal processing device, imaging device, and signal processing method | |
JP7387713B2 (ja) | 撮像装置、固体撮像素子、カメラモジュール、駆動制御部、および撮像方法 | |
JP5393877B2 (ja) | 撮像装置および集積回路 | |
JP6257289B2 (ja) | 画像処理装置およびそれを備えた撮像装置、画像処理方法 | |
JP2011055084A (ja) | 撮像装置及び電子機器 | |
WO2018084051A1 (ja) | 情報処理装置、ヘッドマウントディスプレイ、情報処理システム、および情報処理方法 | |
JP5047912B2 (ja) | 車載用画像処理装置及びその画像処理方法 | |
WO2009088068A1 (ja) | 撮像装置及び光軸制御方法 | |
WO2022168501A1 (ja) | カメラモジュール、撮影方法、及び、電子機器 | |
JP2012124939A (ja) | 撮像装置及び撮像装置の制御方法 | |
JP6355421B2 (ja) | 画像処理装置および撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190520 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200114 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200304 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200407 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200420 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6702323 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |