JP2018081424A - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP2018081424A
JP2018081424A JP2016222325A JP2016222325A JP2018081424A JP 2018081424 A JP2018081424 A JP 2018081424A JP 2016222325 A JP2016222325 A JP 2016222325A JP 2016222325 A JP2016222325 A JP 2016222325A JP 2018081424 A JP2018081424 A JP 2018081424A
Authority
JP
Japan
Prior art keywords
image
pixel
image processing
function
distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016222325A
Other languages
English (en)
Other versions
JP6777507B2 (ja
Inventor
鈴木 雅弘
Masahiro Suzuki
雅弘 鈴木
上田 智章
Tomoaki Ueda
智章 上田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2016222325A priority Critical patent/JP6777507B2/ja
Priority to PCT/JP2017/034625 priority patent/WO2018092422A1/ja
Publication of JP2018081424A publication Critical patent/JP2018081424A/ja
Priority to US16/393,206 priority patent/US11264416B2/en
Application granted granted Critical
Publication of JP6777507B2 publication Critical patent/JP6777507B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14603Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • H01L27/14605Structural or functional details relating to the position of the pixel elements, e.g. smaller pixel elements in the center of the imager compared to pixel elements at the periphery
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30003Arrangements for executing specific machine instructions
    • G06F9/3004Arrangements for executing specific machine instructions to perform operations on memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Power Engineering (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Image Processing (AREA)
  • Collating Specific Patterns (AREA)

Abstract


【課題】画像処理において、撮像の際に発生するノイズや圧縮/伸張により発生するノイズの影響を低減する。
【解決手段】画像処理装置は、ひとつの画像から注目画素を基準とする領域を選択する手段と、選択された領域の画素値の分布について曲面を表す関数で近似する手段と、近似の結果得られる関数のパラメータから画素値の分布に関するベクトルを算出する手段と、を備える。
【選択図】図1

Description

本発明は、画像処理装置および画像処理方法に関する。
スマートフォンなど、携帯端末の性能向上と多機能化に伴い、高度なセキュリティ管理を行う必要があるアプリケーションも登場してきている。例えば、インターネットバンキングの機能を提供するアプリケーションや証券取引を可能にするアプリケーションなどが利用可能となっている。このようなアプリケーションは通常、セキュリティ管理を行うためにユーザ認証を要求する。ユーザ認証は通常、ユーザIDおよびパスワードにより行われるが、近年、より強固なセキュリティを実現可能な指紋・掌紋認証が使われ始めている。ただし、現状では、指紋・掌紋認証を可能とするためにはスマートフォンに専用の指紋センサを搭載し、あるいは掌紋検出の機能を何らかの手段で別途実装する必要があり、コスト及びデバイス搭載スペースの観点で課題がある。
特許文献1には、デジタルカメラなどの簡易な測定装置を用いた画像情報から、よりリアルな三次元画像を得る技術が開示されている。
特開2009−244229号公報
スマートフォンなどの携帯端末に実装されているデジタルカメラでは、基本的にJPEG方式により圧縮された画像しか記録されないため、例えば特許文献1に記載されるような従来の画像処理により細かな指紋や掌紋を抽出することは困難である。理由としてJPEGデータは、元々RGB各8ビットしかないカラー画像データをさらに圧縮したデータであり、それを元画像の大きさまで伸張し、更に凹凸抽出の為の微分演算処理(差分演算)を行うとノイズが更に強調されてしまうためである。
高級一眼レフカメラの撮像素子に内蔵されたA/Dコンバータには12ビット精度のものもあるが、大抵の携帯端末の撮像素子はRGB各8ビット程度の精度しかない。さらに、基本的にはJPEG方式で圧縮した画像しか記録保存できないため、伸張された画像は比較的大きな量子化ノイズを有し、そのノイズが微小な凹凸を得るための微分演算の妨げとなっている。また、ISO感度を上げていくと撮像装置(センサ)自体にノイズが発生することも知られており、圧縮ノイズ以外にも撮像センサには多数のノイズがあり、これらのノイズも、微小な凹凸を得るための微分演算の妨げとなりうる。
本発明はこうした課題に鑑みてなされたものであり、その目的は、撮像の際に発生するノイズや圧縮/伸張により発生するノイズの影響を低減可能な画像処理技術の提供にある。
本発明のある態様は、画像処理装置に関する。この画像処理装置は、ひとつの画像から注目画素を基準とする領域を選択する手段と、選択された領域の画素値の分布について曲面を表す関数で近似する手段と、近似の結果得られる関数のパラメータから画素値の分布に関するベクトルを算出する手段と、を備える。
なお、以上の構成要素の任意の組み合わせや、本発明の構成要素や表現を装置、方法、システム、コンピュータプログラム、コンピュータプログラムを格納した記録媒体などの間で相互に置換したものもまた、本発明の態様として有効である。
本発明によれば、画像処理において、撮像の際に発生するノイズや圧縮/伸張により発生するノイズの影響を低減できる。
実施の形態に係る携帯端末の模式図である。 図1の携帯端末のハードウエア構成図である。 図1の携帯端末の機能および構成を示すブロック図である。 矩形小領域の一例を示す模式図である。 矩形小領域の各画素の座標を示す模式図である。 図3のベクトル保持部の一例を示すデータ構造図である。 図1の携帯端末における一連の処理の流れを示すフローチャートである。 図8(a)〜(c)は、注目画素の選択に関する説明図である。 実施の形態に係る画像処理方法により得られた指の凹凸画像を示す図である。 図9の凹凸画像に含まれる指紋の一部の拡大図である。 実施の形態に係る画像処理方法により得られた指の別の凹凸画像を示す図である。 実施の形態に係る画像処理方法により得られた段ボールの表面の凹凸画像を示す図である。 近似後の放物面を表す関数O(x、y)を示すグラフである。
以下、各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、各図面において説明上重要ではない部材の一部は省略して表示する。
実施の形態では、専用のセンサもしくはアタッチメントを用いずに、スマートフォン等の携帯端末に通常実装されているカメラ機能で取得可能な画像から凹凸情報が抽出される。本発明者は、携帯端末により撮像される画像、特に8Mピクセルを超える高解像度のカラー画像のなかの小領域について、照明光の明るさおよびカメラからの距離(光束の距離減衰)が矩形小領域と比較し極めて大きいため、矩形小領域内の全ての画素にわたってほぼ同じであり、物体色または吸光度もほぼ同じであるとする近似が成立しうることに着目した。すなわち矩形小領域内の全ての画素データを用いた最小二乗法による放物面近似処理により、各画素のノイズを抑制できることを見出した。該近似のもと、実施の形態では、JPEGデータなどの非可逆的に圧縮されているデータの特定画素だけでなく周囲画素も含めた矩形の小領域に対し、輝度分布を最小二乗法により放物面で近似し、近似の結果得られる放物面のパラメータに基づいて法線ベクトルを抽出する。これにより、ノイズを抑制しながら高精度に凹凸情報を抽出することが可能である。
(実施の形態)
図1は、実施の形態に係る携帯端末12の模式図である。携帯端末12はディスプレイ124とカメラなどの撮像部(図1では不図示)とを備える。携帯端末12のユーザは自己または他人の指14を撮像部で撮像する。撮像部は撮像により得られた指14の画像をJPEGなどの非可逆圧縮方式で圧縮し、メモリ(図1では不図示)に登録する。携帯端末12は、圧縮された指14の画像をメモリから読み出して伸張する。携帯端末12は、伸張の結果得られる指14の伸張画像を処理して指14の凹凸画像を生成し、ディスプレイ124に表示させる。あるいはまた、携帯端末12は凹凸画像と元の伸張画像とを合成してもよいし、凹凸画像を別の視点から指14を撮像して得られる別の凹凸画像と比較してもよいし、予め取得しておいた指14の指紋情報と凹凸画像から得られる指紋情報とを比較してもよい。
携帯端末12はスマートフォンやタブレットや携帯電話やラップトップコンピュータであってもよい。携帯端末12は画像処理機能を有する画像処理装置である。携帯端末12は画像処理機能を実現するためのアプリケーションプログラムを保持する。アプリケーションプログラムは携帯端末12にプリインストールされていてもよいし、ネットワークを介して携帯端末12にダウンロードされてもよい。
本実施の形態では携帯端末12を例として説明するが、デジタルカメラやビデオカメラやサーバやデスクトップコンピュータなどの任意の画像処理装置に、本実施の形態に係る技術的思想を適用可能なことは、本明細書に触れた当業者には明らかである。
図2は、図1の携帯端末12のハードウエア構成図である。携帯端末12は、メモリ121と、プロセッサ122と、通信インタフェース123と、ディスプレイ124と、入力インタフェース125と、撮像部127と、を含む。これらの要素はそれぞれバス126に接続され、バス126を介して互いに通信する。
メモリ121は、データやプログラムを記憶するための記憶領域である。データやプログラムは、メモリ121に恒久的に記憶されてもよいし、一時的に記憶されてもよい。特にメモリ121はアプリケーションプログラムを記憶する。プロセッサ122は、メモリ121に記憶されているアプリケーションプログラムを実行することにより、携帯端末12における各種機能を実現する。通信インタフェース123は、携帯端末12と外部との間でデータの送受信を行うためのインタフェースである。例えば、通信インタフェース123は、携帯電話の無線通信網にアクセスするためのインタフェースや、無線LAN(Local Area Network)にアクセスするためのインタフェース等を含む。また、通信インタフェース123は、例えば、USB(Universal Serial Bus)等の有線ネットワークのインタフェースを含んでもよい。ディスプレイ124は、各種情報を表示するためのデバイスであり、例えば、液晶ディスプレイや有機EL(Electroluminescence)ディスプレイなどである。入力インタフェース125は、ユーザからの入力を受け付けるためのデバイスである。入力インタフェース125は、例えば、ディスプレイ124上に設けられたタッチパネルや、各種入力キー等を含む。撮像部127は、例えばレンズとCCDやCMOS等の撮像素子と圧縮処理のための回路とを含む。
図3は、図1の携帯端末12の機能および構成を示すブロック図である。ここに示す各ブロックは、ハードウエア的には、コンピュータのCPUをはじめとする素子や機械装置で実現でき、ソフトウエア的にはコンピュータプログラム等によって実現されるが、ここでは、それらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックはハードウエア、ソフトウエアの組合せによっていろいろなかたちで実現可能なことは、本明細書に触れた当業者には理解されるところである。
携帯端末12は、撮像部127と、伸張部102と、領域選択部104と、輝度値変換部106と、近似部108と、ベクトル算出部110と、凹凸画像生成部112と、表示制御部114と、画像保持部116と、ベクトル保持部118と、ディスプレイ124と、を備える。画像保持部116およびベクトル保持部118はそれぞれメモリ121のなかに定義された記憶領域であってもよい。
撮像部127は、例えば入力インタフェース125を介して受け付けられたユーザの指示に従い、指などの撮像対象の撮像を行う。撮像部127は、撮像対象の画像を生成し、生成された画像をJPEG方式で圧縮し、画像保持部116に登録する。
伸張部102は、例えば入力インタフェース125を介して受け付けられたユーザの指示に従い、画像保持部116からJPEG方式で圧縮された画像を取得する。伸張部102は、取得された画像を伸張することにより伸張画像を生成する。
領域選択部104は、伸張部102によって生成されたひとつの伸張画像から注目画素を基準とする領域を選択する。特に領域選択部104は、伸張画像の画素のなかから注目画素を選択し、選択された注目画素を中心とするn×n画素(nは3以上の奇数)の矩形の領域(以下、「矩形小領域」という)を選択する。なお、nは偶数でもよい。
図4は、矩形小領域400の一例を示す模式図である。この例では、矩形小領域400は、注目画素402を中心とする5×5画素の矩形の領域である。矩形小領域400には合計で25個の画素が含まれる。この矩形小領域400について演算を行う場合、xy座標の整数座標原点を中央の注目画素402の中心とする。
以下では5×5画素の矩形小領域400を用いる場合を説明する。しかしながら、例えば3×3画素、7×7画素、9×9画素、11×11画素、3×5画素、7×3画素など任意の大きさの矩形小領域を用いてもよいことは、本明細書に触れた当業者には明らかである。あるいはまた、矩形小領域のnの値について、求める処理結果を得るために最適な数値を選んでもよい。すなわち、指のサイズや画素数についても実際の様態は様々であるため、望む結果に最適なnを自動で選んでもよい。
図3に戻り、輝度値変換部106は、伸張部102によって生成されたひとつの伸張画像の各画素のRGB値を輝度値Yに変換する。例えば、この変換には以下の式1が用いられる。
Y=0.299×R+0.587×G+0.114×B
…(式1)
輝度値変換部106による変換により、矩形小領域400における輝度値の二次元分布が得られる。
近似部108は、領域選択部104によって選択された矩形小領域400の輝度値の二次元分布を、最小二乗法を用いて放物面(楕円放物面)を表す関数O(x、y)で近似する。放物面を表す関数O(x、y)は、以下の式2で与えられる。
O(x、y)=ax+bx+cy+dy+e
…(式2)
ここでa、b、c、d、eはそれぞれ未知数である。矩形小領域400内のj番目の画素(座標(x、y))の輝度値をS(x、y)と表記する。最小二乗法における誤差評価関数Eは以下の式3で与えられる(5×5の場合、n=25、以下同様)。
…(式3)
最小二乗法の必要条件は、
であるから、未知数a、b、c、d、eに関して5つの連立方程式が得られる。これらを行列式で整理すると、
が得られる。
矩形小領域400のxy座標は中央すなわち注目画素402が原点となるようにとられている。図5は、矩形小領域400の各画素の座標を示す模式図である。上記行列式の左辺の5×5行列を計算すると、
となる。これを未知数bおよびdについて解くと
が得られる。図13は、近似後の放物面を表す関数O(x、y)を示す。
図3に戻り、ベクトル算出部110は、輝度値の分布を近似する関数O(x、y)の、注目画素402における法線ベクトルを算出する。法線ベクトルは、近似部108における近似の結果得られる関数のパラメータすなわち未知数b、dから算出される。ベクトル算出部110は、伸張画像全体に対する注目画素402の座標と、算出された法線ベクトルと、を対応付けてベクトル保持部118に登録する。
矩形小領域400の原点(0、0)すなわち注目画素402における接線ベクトルは(1、0、b)および(0、1、d)となる。注目画素402における法線ベクトルは、これら2つの接線ベクトルの外積により求められる。
ベクトル算出部110は、これを正規化することで法線ベクトルを算出する。矩形小領域400の25個の画素の輝度値を用いて、放物面で近似した後に算出される法線ベクトルでは、JPEG方式のノイズによる影響が抑制される。
図6は、ベクトル保持部118の一例を示すデータ構造図である。ベクトル保持部118は、伸張画像の画素の座標と、その画素について算出された法線ベクトルと、を対応付けて保持する。
図3に戻り、凹凸画像生成部112は、ベクトル算出部110によって算出された法線ベクトルと仮想光源とに基づく新たな画像である凹凸画像を生成する。凹凸画像生成部112は、仮想的な点光源を携帯端末12の撮像部127の周辺に配置する。物体色は輝度値に応じて定められる。明るさは、法線ベクトルと光源ベクトル(カメラベクトル)とに基づいて算出される拡散反射光の強さに応じて定められる。特に、明るさは法線ベクトルと光源ベクトルとがなす角に応じて、より具体的には法線ベクトルと光源ベクトルとの内積値に応じて定められる。
算出された法線ベクトルと仮想光源とを元に拡散反射光を演算する光源計算を行っているので、凹凸画像の立体感が高められる。法線ベクトルだけでは、単なる濃淡となり二次元的な画像となる。上記のように演算される拡散反射光は撮像対象の表面の実際の凹凸からの反射光に近いので、凹凸画像により実際の凹凸を可視化可能である。
表示制御部114は、凹凸画像生成部112によって生成された凹凸画像をディスプレイ124に表示させる。
以上の構成による携帯端末12の動作を説明する。
図7は、携帯端末12における一連の処理の流れを示すフローチャートである。携帯端末12は、画像保持部116からJPEG方式で圧縮されたデータを読み出し、伸張する(S702)。携帯端末12は、伸張された画像に含まれる全ての画素のRGB値を輝度値へ変換する(S708)。携帯端末12は、輝度値へ変換された伸張画像の画素のなかから注目画素を選択する(S704)。携帯端末12は、選択された注目画素を中心とする矩形小領域を選択する(S706)。携帯端末12は、最小二乗法により、矩形小領域の輝度値の分布を、放物面を表す関数で近似する(S710)。携帯端末12は、近似の結果を用いて、矩形小領域の注目画素における放物面の法線ベクトルを算出する(S712)。携帯端末12は、算出された法線ベクトルと注目画素の座標とを対応付けてベクトル保持部118に登録する(S714)。
携帯端末12は、伸張画像中の必要な全ての画素について法線ベクトルを算出したか否かを判定する(S716)。法線ベクトルが算出されていない画素がある場合(S716のNO)、処理はステップS704に戻る。ステップS704では、携帯端末12は、次の注目画素を選択する。全ての画素について法線ベクトルが算出された場合(S716のYES)、携帯端末12は算出された法線ベクトルに基づいて凹凸画像を生成する(S718)。
図8(a)〜(c)は、注目画素の選択に関する説明図である。図8(a)では、注目画素802に対して矩形小領域804が選択されている。上述の処理により携帯端末12は注目画素802の法線ベクトル806を算出する(図8(b))。携帯端末12は、次の注目画素として隣の画素808を選択し、新たな注目画素808に対して矩形小領域810を設定する(図8(c))。
なお、伸張画像の境界付近の画素については、5×5画素の矩形小領域を設定できない場合も生じうる。その場合、例えば5×5画素の矩形小領域を設定できない画素については法線ベクトルを算出しないこととしてもよい。あるいはまた、伸張画像の境界付近の画素を注目画素とする場合は、注目画素を矩形小領域の中心としなくてもよい。例えば、伸張画像の左上の角の画素を注目画素とする場合、該画素を左上の角とする5×5の矩形小領域を設定してもよい。
上述の実施の形態において、保持部の例は、ハードディスクや半導体メモリである。また、本明細書の記載に基づき、各部を、図示しないCPUや、インストールされたアプリケーションプログラムのモジュールや、システムプログラムのモジュールや、ハードディスクから読み出したデータの内容を一時的に記憶する半導体メモリなどにより実現可能なことは本明細書に触れた当業者には理解される。
本実施の形態に係る携帯端末12によると、注目画素を中心とする矩形小領域の輝度値の分布を最小二乗法を用いて放物面で近似し、近似の結果から注目画素における法線ベクトルを算出する。したがって、A/D変換やJPEG圧縮に伴う量子化ノイズ、撮像/測定時に混入したノイズ等が、算出される法線ベクトルの精度に及ぼす影響を低減することが可能である。
また、本実施の形態では、算出された法線ベクトルを用いて、撮像対象の表面の凹凸を示す凹凸画像が生成される。上述の通り、算出された法線ベクトルの精度は高い為、撮像対象の表面をより鮮明に再現する凹凸画像を生成することが可能である。
図9は、本実施の形態に係る画像処理方法により得られた指の凹凸画像を示す図である。図9に示される凹凸画像には指紋が鮮明に現れており、500μm台の凹凸までも明瞭に可視化できている。また、伸張画像(不図示)の段階では指の右側にある背景はほぼ黒で何があるか不明であるが、画像処理後の凹凸画像では背景にキーボードがあることを読み取ることが可能である。これもまた、本実施の形態に係る画像処理方法によりもたらされる効果である。
図10は、図9の凹凸画像に含まれる指紋の一部の拡大図である。図10に示されるように、本実施の形態に係る携帯端末12は指紋を十分な解像度で抽出することが可能である。この例では指紋の皺の凹凸は30画素以上の周期で取得されている。したがって、放物面による近似において例えば17×17画素程度の大きさの矩形小領域を用いて演算してもよい。この場合、5×5画素の矩形小領域を用いる場合と比べて、より多くの情報から物体面の凹凸形状を引き出すことが可能である。
図11は、本実施の形態に係る画像処理方法により得られた指の別の凹凸画像を示す図である。図12は、本実施の形態に係る画像処理方法により得られた段ボールの表面の凹凸画像を示す図である。図12の凹凸画像では皺や表面の凹凸が捉えられていることがわかる。
撮像対象の表面が平面であっても、色が違うとその境界で伸張画像の輝度値が変動する。すると、平面であるにもかかわらず色の境界付近では法線ベクトルが変動する可能性がある。したがって、撮像対象の色が比較的均一であり、撮像対象を実際に照らす光源が平行光源または単一光源である場合、凹凸画像は撮像対象の表面の凹凸をより正確に再現することが可能である。
特に、携帯端末12の撮像部127の解像度が高い(例えば8Mピクセル)場合、5×5画素の矩形小領域に写る撮像対象の表面の大きさは、その表面と撮像部127との距離と比べて非常に小さい。したがって、余程細かな色模様を持った物体でない限り、5×5画素の矩形小領域に写る撮像対象の表面の物体色はほぼ同一と見なすことが可能である。したがって、高解像度の撮像部127を用いて得られる凹凸画像は撮像対象の表面の凹凸をより正確に再現することが可能である。
また、本実施の形態では、指紋や掌紋を検出するための専用のセンサを設けなくても、携帯端末に通常備わっているカメラ機能を用いて取得した画像から、指紋認証や掌紋認証に利用可能な凹凸画像を得ることが可能である。
(応用例)
実施の形態では、法線ベクトルを用いて凹凸画像を生成する場合を説明したが、法線ベクトルは他にも様々な画像処理に適用可能である。例えば、携帯端末12は、ある視点から指14を撮像して得られる画像(以下、「第1画像」という)について算出された法線ベクトルを、別の視点から指14を撮像して得られる画像(以下、「第2画像」という)について算出された対応する法線ベクトルとマッチングするマッチング部(不図示)を備えてもよい。
マッチング部は第1画像と第2画像とを重ね合わせて三次元点群データを生成する。法線ベクトルは撮像対象である指14の表面の凹凸または輪郭を示すため、第1画像と第2画像との重ね合わせは法線ベクトル同士の演算処理により行われる。マッチング部は、
(1)特徴点を基に2つの視点の三次元座標を求め、
(2)第1画像および第2画像の法線ベクトルに対して、グローバル空間に一致するように座標回転を行う。
第1画像の法線ベクトルの向きと第2画像の法線ベクトルの向きとが一致する場合、それらの法線ベクトルの内積は1となる。したがって、マッチング部は、法線ベクトル同士の内積が1になるよう(または1に近づくように)シフトして、マッチング処理を行うことで、第1画像と第2画像とを重ね合わせる。内積の演算は比較的単純なので、従来のパターンマッチング法より高速かつ正確にマッチングを行うことが可能である。
また、従来のステレオ・マッチング法による3次元距離情報の抽出では特徴点や境界線を基にしたマッチングしか行えないため距離情報の解像度は低い。しかし、本応用例では2つの画像のマッチングにおいて法線ベクトル同士の内積を用いることでマッチングを画素単位にとることが可能となる。したがって、2つの画像のマッチングをより緻密に行うことが可能となる。
なお、3枚以上の画像を重ね合わせてもよい。
他の応用例として、積分処理を行うことにより法線ベクトルからデプス画像を生成することや、指の凹凸画像から得られる指紋を指紋認証に利用することや、凹凸画像と元の伸張画像とを重ね合わせることで伸張画像から撮像対象を抽出することや、画像をつなぎ合わせてパノラマ画像を生成すること、がある。また、監視カメラや車載カメラから得られる画像に対して、実施の形態に係る画像処理方法を適用してもよい。
以上、実施の形態に係る携帯端末12の構成と動作について説明した。この実施の形態は例示であり、各構成要素や各処理の組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解される。
実施の形態では、JPEG方式で圧縮された画像を伸張する場合について説明したが、これに限られず、他の非可逆圧縮方式や可逆圧縮方式で圧縮された画像を伸張して得られる画像を用いてもよいし、圧縮−伸張を経ない画像を用いてもよい。
実施の形態では、注目画素を中心とする5×5画素の矩形小領域を選択する場合について説明したが、これに限られない。例えば、小領域の形状は正方形、長方形、三角形、六角形、菱形、円形であってもよい。また、注目画素は小領域のなかの任意の位置にある画素であってもよく、例えば小領域の角にあってもよい。
実施の形態では、伸張画像の全ての画素のRGB値を輝度値に変換し、その後矩形小領域を選択する場合を説明したが、これに限らず、選択された矩形小領域の画素のRGB値を毎回輝度値に変換してもよい。
実施の形態では、矩形小領域における輝度値の分布を近似する場合について説明したが、これに限られず、例えば矩形小領域の画素の画素値の分布を近似してもよい。この場合、画素値はRGB値のうちのR値のみ、G値のみ、B値のみ、あるいはその組み合わせであってもよく、または画素を特徴付ける他の値であってもよい。あるいはまた、紫外線画像や赤外線画像の処理に本実施の形態に係る技術的思想を適用してもよい。
実施の形態では、最小二乗法を用いて輝度値の分布を放物面を表す関数で近似する場合について説明したが、これに限られず、例えば輝度値の分布は曲面を表す関数で近似されてもよい。曲面は、楕円面や放物面などの二次曲面であってもよい。また、近似の方法として、最小二乗法以外の方法が用いられてもよい。
実施の形態では、近似の結果得られる関数のパラメータから法線ベクトルを算出する場合について説明したが、これに限られず、例えば接線ベクトルなどの他のベクトルが算出されてもよい。
12 携帯端末、 104 領域選択部、 108 近似部、 110 ベクトル算出部。

Claims (11)

  1. ひとつの画像から注目画素を基準とする領域を選択する手段と、
    選択された領域の画素値の分布について曲面を表す関数で近似する手段と、
    近似の結果得られる関数のパラメータから画素値の分布に関するベクトルを算出する手段と、を備える画像処理装置。
  2. 前記算出する手段は、画素値の分布を近似する関数の法線ベクトルを算出する請求項1に記載の画像処理装置。
  3. 前記近似する手段は、選択された領域の画素値の分布を、最小二乗法を用いて二次曲面を表す関数で近似する請求項1または2に記載の画像処理装置。
  4. 二次曲面は放物面である請求項3に記載の画像処理装置。
  5. 画素値は画素の輝度値を含む請求項1から4のいずれか1項に記載の画像処理装置。
  6. 前記選択する手段によって選択される領域は、注目画素を中心とする矩形の領域である請求項1から5のいずれか1項に記載の画像処理装置。
  7. 算出されたベクトルと仮想的な光源とに基づく新たな画像を生成する手段をさらに備える請求項1から6のいずれか1項に記載の画像処理装置。
  8. ひとつの画像について算出されたベクトルを、他の画像について算出された対応するベクトルとマッチングする手段をさらに備える請求項1から7のいずれか1項に記載の画像処理装置。
  9. ひとつの画像は、非可逆圧縮された画像を伸張することにより得られた画像である請求項1から8のいずれか1項に記載の画像処理装置。
  10. ひとつの画像から注目画素を基準とする領域を選択することと、
    選択された領域の画素値の分布について曲面を表す関数で近似することと、
    近似の結果得られる関数のパラメータから画素値の分布に関するベクトルを算出することと、を含む画像処理方法。
  11. ひとつの画像から注目画素を基準とする領域を選択する機能と、
    選択された領域の画素値の分布について曲面を表す関数で近似する機能と、
    近似の結果得られる関数のパラメータから画素値の分布に関するベクトルを算出する機能と、をコンピュータに実現させるためのコンピュータプログラム。
JP2016222325A 2016-11-15 2016-11-15 画像処理装置および画像処理方法 Active JP6777507B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016222325A JP6777507B2 (ja) 2016-11-15 2016-11-15 画像処理装置および画像処理方法
PCT/JP2017/034625 WO2018092422A1 (ja) 2016-11-15 2017-09-26 画像処理装置および画像処理方法
US16/393,206 US11264416B2 (en) 2016-11-15 2019-04-24 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016222325A JP6777507B2 (ja) 2016-11-15 2016-11-15 画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2018081424A true JP2018081424A (ja) 2018-05-24
JP6777507B2 JP6777507B2 (ja) 2020-10-28

Family

ID=62146519

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016222325A Active JP6777507B2 (ja) 2016-11-15 2016-11-15 画像処理装置および画像処理方法

Country Status (3)

Country Link
US (1) US11264416B2 (ja)
JP (1) JP6777507B2 (ja)
WO (1) WO2018092422A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021058361A (ja) * 2019-10-04 2021-04-15 株式会社日立製作所 生体情報取得装置およびプログラム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6777507B2 (ja) 2016-11-15 2020-10-28 Kddi株式会社 画像処理装置および画像処理方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4103056B2 (ja) * 1998-03-27 2008-06-18 リコーソフトウエア株式会社 画像識別のための特徴量の利用方法およびそのプログラムを格納した記録媒体
JP2009244229A (ja) 2008-03-31 2009-10-22 Osaka Prefecture Univ 三次元画像処理方法、三次元画像処理装置および三次元画像処理プログラム
US20100054606A1 (en) * 2008-08-29 2010-03-04 Kabushiki Kaisha Toshiba Image processing apparatus, image processing method, and computer program product
JP2011166327A (ja) * 2010-02-05 2011-08-25 Sony Corp 画像処理装置および方法
JP5658963B2 (ja) * 2010-09-29 2015-01-28 オリンパス株式会社 画像処理装置、画像処理方法、および画像処理プログラム
JP5984439B2 (ja) * 2012-03-12 2016-09-06 キヤノン株式会社 画像表示装置、画像表示方法
JP6381404B2 (ja) * 2014-10-23 2018-08-29 キヤノン株式会社 画像処理装置及び方法、及び撮像装置
JP6777507B2 (ja) 2016-11-15 2020-10-28 Kddi株式会社 画像処理装置および画像処理方法
JP7140491B2 (ja) * 2017-11-28 2022-09-21 Kddi株式会社 画像処理装置、画像処理方法、及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021058361A (ja) * 2019-10-04 2021-04-15 株式会社日立製作所 生体情報取得装置およびプログラム

Also Published As

Publication number Publication date
WO2018092422A1 (ja) 2018-05-24
US11264416B2 (en) 2022-03-01
US20190252431A1 (en) 2019-08-15
JP6777507B2 (ja) 2020-10-28

Similar Documents

Publication Publication Date Title
JP6330987B2 (ja) 画像処理装置、画像処理方法、及び記憶媒体
CN112040337B (zh) 视频的水印添加和提取方法、装置、设备及存储介质
US20180014003A1 (en) Measuring Accuracy of Image Based Depth Sensing Systems
KR101903619B1 (ko) 구조화된 스테레오
JP2017520050A (ja) 局所的適応ヒストグラム平坦化
JP6216516B2 (ja) 電子透かし埋め込み方法および電子透かし検出方法
JP2014131257A (ja) 画像補正システム、画像補正方法及びプログラム
US20120162220A1 (en) Three-dimensional model creation system
US10122912B2 (en) Device and method for detecting regions in an image
JP2015197745A (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
KR102423295B1 (ko) 심도 맵을 이용하여 객체를 합성하기 위한 장치 및 그에 관한 방법
US10764563B2 (en) 3D enhanced image correction
CN114298902A (zh) 一种图像对齐方法、装置、电子设备和存储介质
JP2017130794A (ja) 情報処理装置、評価用チャート、評価システム、および性能評価方法
US11238563B2 (en) Noise processing method and apparatus
JP6564136B2 (ja) 画像処理装置、画像処理方法、および、プログラム
CN109816628B (zh) 人脸评价方法及相关产品
TW201630415A (zh) 影像投影技術
JP6777507B2 (ja) 画像処理装置および画像処理方法
KR101010904B1 (ko) 마커를 사용하지 않는 증강공간 제공 장치
JP2015156540A (ja) 画像処理装置、画像処理方法および画像処理プログラム
US9524553B2 (en) Image processing apparatus, image processing method, and recording medium
JP2018092507A (ja) 画像処理装置、画像処理方法及びプログラム
CN112615993A (zh) 深度信息获取方法、双目摄像模组、存储介质及电子设备
KR20200015001A (ko) 영상 처리 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200914

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201008

R150 Certificate of patent or registration of utility model

Ref document number: 6777507

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150