JP2017040642A5 - - Google Patents

Download PDF

Info

Publication number
JP2017040642A5
JP2017040642A5 JP2016097910A JP2016097910A JP2017040642A5 JP 2017040642 A5 JP2017040642 A5 JP 2017040642A5 JP 2016097910 A JP2016097910 A JP 2016097910A JP 2016097910 A JP2016097910 A JP 2016097910A JP 2017040642 A5 JP2017040642 A5 JP 2017040642A5
Authority
JP
Japan
Prior art keywords
image
blur
distance
sensor
cost volume
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016097910A
Other languages
English (en)
Other versions
JP2017040642A (ja
JP6608763B2 (ja
Filing date
Publication date
Application filed filed Critical
Priority to US15/237,744 priority Critical patent/US10382684B2/en
Priority to CN201610687134.4A priority patent/CN106469431B/zh
Publication of JP2017040642A publication Critical patent/JP2017040642A/ja
Publication of JP2017040642A5 publication Critical patent/JP2017040642A5/ja
Priority to US16/459,817 priority patent/US10785412B2/en
Application granted granted Critical
Publication of JP6608763B2 publication Critical patent/JP6608763B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Claims (13)

  1. ぼけ関数が非点対称に表された対象画像と、ぼけ関数が点対称に表された基準画像とを取得するセンサ制御部と、
    けを付加した前記対象画像と、前記基準画像との相関に応じて、画像に写る被写体までの距離を算出する距離算出部と
    を有する画像処理装置。
  2. 前記距離算出部は、前記対象画像に異なるぼけを付加する複数のぼけ補正カーネルのうち、異なるぼけを付加した前記対象画像と、前記基準画像との相関がより高くなる前記ぼけ補正カーネルを求めることで、前記被写体までの距離を算出する
    請求項1に記載の画像処理装置。
  3. 前記ぼけ補正カーネルは、前記対象画像のぼけを前記基準画像のぼけに補正するための畳み込み関数であって、
    前記距離算出部は、前記対象画像のぼけ関数と、前記基準画像のぼけ関数とから、任意の距離の前記被写体のぼけを補正する複数のぼけ補正カーネルを求める
    請求項2に記載の画像処理装置。
  4. 前記距離算出部は、前記対象画像にぼけを付加した補正画像と、センサ画像にぼけを付加することでぼけを補正した前記基準画像である第2の基準画像との相関に応じて、前記被写体までの距離を算出する
    請求項1に記載の画像処理装置。
  5. 前記距離算出部は、
    一方向の位置、前記一方向と異なる他方向の位置、および、前記対象画像にぼけを付加した補正画像と前記基準画像との差に基づくコスト、の3次元の情報をそれぞれ含み、前記3次元のうち少なくとも1次元方向の解像度を上位階層になるほど小さくした階層数n(nは2以上の整数)のコストボリュームを生成する生成部と、
    k階層(kは1≦k≦n−1を満たす整数)のコストボリュームを、(k+1)階層のコストボリュームから求められる第1の距離と前記k階層のコストボリュームから求められる第2の距離との差に基づく正則化項を含む修正コストボリュームに修正する正則化部と、を備え、
    前記修正コストボリュームに基づき、前記被写体までの距離を算出する
    請求項1に記載の画像処理装置。
  6. 前記正則化部は、k階層(kは1≦k≦n−1を満たす整数)のコストボリュームを、前記第1の距離と前記k階層より上位の1以上の階層のコストボリュームから求められる1以上の第3の距離との差に基づく正則化項をさらに含む修正コストボリュームに修正する、
    請求項5に記載の画像処理装置。
  7. 前記生成部は、前記一方向の位置および前記他方向の位置の少なくとも一方の次元の解像度を段階的に小さくした階層数nのコストボリュームを生成し、
    前記距離算出部は、取得された画像から、前記コストボリュームと同じ次元の解像度を段階的に小さくした階層数nの画像群を生成し、前記修正コストボリュームに対して、前記画像群のうち対応する階層の画像をガイドとしたフィルタリング処理を適用することにより、k階層での前記被写体までの距離を算出する、
    請求項5に記載の画像処理装置。
  8. 請求項1〜7の何れか一つに記載の画像処理装置と、
    少なくとも一種類以上のセンサ画像のぼけ関数を非点対称に変更するフィルタ領域を通過した光を受光し、前記フィルタ領域によりぼけ関数が非点対称に変更されたセンサ画像である前記対象画像と、該対象画像とは異なるセンサ画像である前記基準画像とを生成するイメージセンサと
    を有する撮影装置。
  9. 前記対象画像のぼけ関数は、開口部の光学中心を点対称の中心として非点対称に変更される
    請求項8に記載の撮影装置。
  10. 前記イメージセンサは、赤色の光を受光するセンサと、緑色の光を受光するセンサと、青色の光を受光するセンサとのうち、二以上のセンサを含み、二以上のセンサに含まれる第1のセンサが前記対象画像を生成し、二以上のセンサに含まれる前記第1のセンサ以外の第2のセンサが前記基準画像を生成する
    請求項8に記載の撮影装置。
  11. 前記フィルタ領域は、任意波長帯域の透過率を変更するフィルタである原色フィルタ、補色フィルタ、色補正フィルタ、赤外線カットフィルタ、紫外線カットフィルタ、NDフィルタ、又は、遮蔽板である
    請求項8〜10の何れか一つに記載の撮影装置。
  12. 前記フィルタ領域は、任意方向の偏光した光を通過する偏光板、または、任意波長帯域の集光パワーを変更するマイクロレンズである
    請求項8〜10の何れか一つに記載の撮影装置。
  13. 前記距離算出部は、前記センサ画像の各画素で算出された距離を表す距離画像を生成し、ぼけを付加した前記対象画像と前記基準画像とから、該対象画像のぼけ形状を補正した補正画像を生成し、
    前記距離画像の距離情報に基づいて、前記補正画像のぼけを除去、又は、ぼけを付加した出力画像を生成する画像生成部をさらに有する
    請求項8〜12の何れか一つに記載の撮影装置。
JP2016097910A 2015-08-20 2016-05-16 画像処理装置及び撮影装置 Active JP6608763B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US15/237,744 US10382684B2 (en) 2015-08-20 2016-08-16 Image processing apparatus and image capturing apparatus
CN201610687134.4A CN106469431B (zh) 2015-08-20 2016-08-18 图像处理装置
US16/459,817 US10785412B2 (en) 2015-08-20 2019-07-02 Image processing apparatus and image capturing apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015162888 2015-08-20
JP2015162888 2015-08-20

Publications (3)

Publication Number Publication Date
JP2017040642A JP2017040642A (ja) 2017-02-23
JP2017040642A5 true JP2017040642A5 (ja) 2018-10-18
JP6608763B2 JP6608763B2 (ja) 2019-11-20

Family

ID=58203756

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016097910A Active JP6608763B2 (ja) 2015-08-20 2016-05-16 画像処理装置及び撮影装置

Country Status (3)

Country Link
US (1) US10785412B2 (ja)
JP (1) JP6608763B2 (ja)
CN (1) CN106469431B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7292979B2 (ja) 2019-05-31 2023-06-19 株式会社東芝 画像処理装置及び画像処理方法

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6585006B2 (ja) 2016-06-07 2019-10-02 株式会社東芝 撮影装置および車両
JP6699897B2 (ja) 2016-11-11 2020-05-27 株式会社東芝 撮像装置、自動制御システム及びシステム
JP2018156617A (ja) * 2017-03-15 2018-10-04 株式会社東芝 処理装置および処理システム
JP6860433B2 (ja) * 2017-06-19 2021-04-14 株式会社東芝 処理装置、処理システム、方法及びプログラム
JP2019007826A (ja) * 2017-06-23 2019-01-17 ミツミ電機株式会社 測距カメラおよび測距方法
JP7242822B2 (ja) * 2017-06-29 2023-03-20 株式会社東芝 推定システムおよび自動車
JP2019011971A (ja) * 2017-06-29 2019-01-24 株式会社東芝 推定システムおよび自動車
JP2019015575A (ja) * 2017-07-05 2019-01-31 株式会社東芝 画像処理装置、測距装置および処理システム
JP6878219B2 (ja) 2017-09-08 2021-05-26 株式会社東芝 画像処理装置および測距装置
JP6974599B2 (ja) 2018-04-17 2021-12-01 富士フイルム株式会社 撮像装置並びに距離計測方法、距離計測プログラム及び記録媒体
WO2019202983A1 (ja) * 2018-04-17 2019-10-24 富士フイルム株式会社 撮像装置並びに距離計測方法、距離計測プログラム及び記録媒体
JP6847891B2 (ja) * 2018-05-30 2021-03-24 株式会社東芝 画像処理装置、撮像装置及び方法
JP6971933B2 (ja) * 2018-08-07 2021-11-24 株式会社東芝 画像処理装置及び撮像装置
JP6971934B2 (ja) 2018-08-10 2021-11-24 株式会社東芝 画像処理装置
JP6989466B2 (ja) 2018-09-13 2022-01-05 株式会社東芝 光学フィルタ、撮像装置および測距装置
JP7204586B2 (ja) 2019-06-17 2023-01-16 株式会社東芝 学習方法、プログラム及び画像処理装置
US11575865B2 (en) 2019-07-26 2023-02-07 Samsung Electronics Co., Ltd. Processing images captured by a camera behind a display
JP7290510B2 (ja) * 2019-08-22 2023-06-13 Automagi株式会社 劣化状態検出装置及び劣化状態検出方法
KR20210121508A (ko) * 2020-03-30 2021-10-08 삼성전자주식회사 이미지 신호 처리부의 동작 방법 및 이미지 신호 처리부를 포함하는 이미지 시스템
US11721001B2 (en) 2021-02-16 2023-08-08 Samsung Electronics Co., Ltd. Multiple point spread function based image reconstruction for a camera behind a display
US11722796B2 (en) 2021-02-26 2023-08-08 Samsung Electronics Co., Ltd. Self-regularizing inverse filter for image deblurring

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070279618A1 (en) 2004-10-15 2007-12-06 Matsushita Electric Industrial Co., Ltd. Imaging Apparatus And Image Improving Method
JP4413844B2 (ja) * 2005-10-17 2010-02-10 富士通株式会社 画像表示制御装置
US8406564B2 (en) * 2008-09-24 2013-03-26 Microsoft Corporation Removing blur from an image
JP5675157B2 (ja) 2009-05-12 2015-02-25 キヤノン株式会社 焦点検出装置
JP2012003233A (ja) 2010-05-17 2012-01-05 Sony Corp 画像処理装置、画像処理方法およびプログラム
US9208570B2 (en) 2012-03-28 2015-12-08 Sony Corporation System and method for performing depth estimation by utilizing an adaptive kernel
JP5934929B2 (ja) * 2011-05-27 2016-06-15 パナソニックIpマネジメント株式会社 画像処理装置および画像処理方法
WO2013080552A1 (ja) 2011-11-30 2013-06-06 パナソニック株式会社 撮像装置及び撮像システム
JP5358039B1 (ja) * 2011-11-30 2013-12-04 パナソニック株式会社 撮像装置
JP2014026051A (ja) 2012-07-25 2014-02-06 Olympus Corp 撮像装置、画像処理装置
JP2014096062A (ja) 2012-11-09 2014-05-22 Yamaguchi Univ 画像処理方法及び画像処理装置
AU2012258467A1 (en) * 2012-12-03 2014-06-19 Canon Kabushiki Kaisha Bokeh amplification
JP6210333B2 (ja) * 2013-04-15 2017-10-11 パナソニックIpマネジメント株式会社 距離測定装置、及び、距離測定方法
US9390508B2 (en) 2014-03-03 2016-07-12 Nokia Technologies Oy Method, apparatus and computer program product for disparity map estimation of stereo images
JP2016102733A (ja) 2014-11-28 2016-06-02 株式会社東芝 レンズ及び撮影装置
US20160255323A1 (en) 2015-02-26 2016-09-01 Dual Aperture International Co. Ltd. Multi-Aperture Depth Map Using Blur Kernels and Down-Sampling
US9723197B2 (en) 2015-03-31 2017-08-01 Sony Corporation Depth estimation from image defocus using multiple resolution Gaussian difference
JP6185213B2 (ja) * 2015-03-31 2017-08-23 富士フイルム株式会社 撮像装置及び撮像装置の画像処理方法及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7292979B2 (ja) 2019-05-31 2023-06-19 株式会社東芝 画像処理装置及び画像処理方法

Similar Documents

Publication Publication Date Title
JP2017040642A5 (ja)
WO2018200309A3 (en) Stereoscopic visualization camera and platform
JP6818015B2 (ja) マルチスコピック雑音削減およびハイ・ダイナミック・レンジのためのシステムおよび方法
JP6173156B2 (ja) 画像処理装置、撮像装置及び画像処理方法
JP2012235444A5 (ja)
JP2013186201A5 (ja)
JP2013084247A5 (ja)
JP2012142918A5 (ja)
US9083879B2 (en) Focus detection apparatus, control method thereof, and image pickup apparatus
JP2015144416A5 (ja)
JP2012215785A5 (ja)
JP2014236411A5 (ja)
US20160044230A1 (en) Focus detection apparatus, control method for the same, and image capture apparatus
JP2017017445A5 (ja)
JP2012023532A5 (ja)
JP2014006388A (ja) 撮像装置およびその制御方法ならびにプログラム
JP2014126802A5 (ja)
JP2017129788A5 (ja)
JP2015226299A (ja) 画像入力装置
JP2010074244A5 (ja)
WO2018150925A1 (ja) 焦点検出装置、焦点検出方法、および焦点検出プログラム
JP2014026062A5 (ja)
WO2016111175A1 (ja) 画像処理装置、画像処理方法、及び、プログラム
TWI588584B (zh) 用於確定圖像感測器與被照射體之間的距離的方法及裝置
JP2017076033A5 (ja)