JP6840860B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP6840860B2 JP6840860B2 JP2019549682A JP2019549682A JP6840860B2 JP 6840860 B2 JP6840860 B2 JP 6840860B2 JP 2019549682 A JP2019549682 A JP 2019549682A JP 2019549682 A JP2019549682 A JP 2019549682A JP 6840860 B2 JP6840860 B2 JP 6840860B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- value
- image
- basic
- final
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000000034 method Methods 0.000 claims description 70
- 239000003086 colorant Substances 0.000 claims description 28
- 230000006870 function Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 5
- 230000006978 adaptation Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
Description
本発明は、画像処理装置、画像処理方法及びプログラムに関する。
各画素に異なるカラーフィルタが設けられることで画素毎にRGB等の複数の色のうちのいずれかの色の信号が取得される撮像素子を備え、当該信号に基づくベイヤ配列の画像を生成するカメラが存在する。ベイヤ配列の画像は、例えば赤色であるR画素、緑色であるGr画素及びGb画素、青色であるB画素といった、4種類の画素から構成されている。
このようにして生成されるベイヤ配列の画像は、デモザイク処理と呼ばれる処理により、RGB等の複数色の画素値が各画素に設定されたカラー画像に変換される。特許文献1には、公知のクラス分類適応処理を用いてデモザイク処理を実行することが記載されている。ここでクラス分類適応処理とは、処理後の画像の注目している画素である注目画素を所定のクラスに分類し、そのクラスに対応する学習により求められた係数と、注目画素に対応する処理前の画像の画素値との線形結合により注目画素の画素値を予測する処理である。
また、1つの命令を複数のデータに適用するコンピュータの並列化技術であるSIMD(Single Instruction Multiple Data)型の演算を、例えばマルチコアプロセッサやGPUで実行することによって、高効率な情報処理を可能にする技術が存在する。
デモザイク処理においては、ベイヤ配列の画像に含まれる、カラー画像に変換される画素に隣接する画素を含む周辺の画素について、当該画素の色とは異なる色の画素の画素値を決定する処理が行われる。例えば図9Aの例では、注目するR画素である注目基礎R画素46a(R)を中心とした複数の画素について、当該画素の色とは異なる色の画素の画素値が決定される。また図9Bの例では、注目するGr画素である注目基礎Gr画素46a(Gr)を中心とした複数の画素について、当該画素の色とは異なる色の画素の画素値が決定される。また図9Cの例では、注目するGb画素である注目基礎Gb画素46a(Gb)を中心とした複数の画素について、当該画素の色とは異なる色の画素の画素値が決定される。また図9Dの例では、注目するB画素である注目基礎B画素46a(B)を中心とした複数の画素について、当該画素の色とは異なる色の画素の画素値が決定される。
ここで図9A〜図9Dに示すように、ベイヤ配列の画像に含まれる画素の種類によって、当該画素を基準とした際の周辺の画素の種類のパターンが異なる。そのため上述の処理の実行にあたっては、ベイヤ配列の画像に含まれる画素の種類に応じて異なるアルゴリズムを実行する必要があった。そしてこのことによって、ベイヤ配列の画像に含まれる特定の画素の特定の色の画素値が何度も決定されることとなり処理の無駄が生じていた。
また上述の処理の実行では、ベイヤ配列の画像に含まれる画素の色に応じて異なるアルゴリズムを実行する必要があるため、SIMD化による処理の効率化が困難であった。
なお以上のことは、ベイヤ配列の画像からカラー画像を生成する状況には限定されない。例えば単色の画素が所定の色のパターンで複数配置された画素セットを複数含み、当該画素セットが縦横に並んで配置されている画像に基づいて、カラー画像を生成する状況においては、以上のことは一般的にあてはまる。
本発明は上記実情に鑑みてなされたものであって、その目的の一つは、単色の画素が所定の色のパターンで複数配置された画素セットを複数含み、当該画素セットが縦横に並んで配置されている画像に基づくカラー画像の生成処理を高効率で実行できる画像処理装置、画像処理方法及びプログラムを提供することにある。
上記課題を解決するために、本発明に係る画像処理装置は、単色の基礎画素が所定の色のパターンで複数配置された画素セットを複数含み、前記画素セットが縦横に並んで配置されている基礎画像に基づいて、それぞれ少なくとも1の前記基礎画素に対応づけられる複数色の最終画素を複数含む、カラー画像である最終画像を生成する画像処理装置であって、前記基礎画像に基づいて、前記画素セットに含まれる複数の前記基礎画素の画素値が当該画素セットに対応付けられる1の中間画素の中間画素データの値として設定された中間画像を生成する中間画像生成部と、前記中間画像に含まれるいずれかの前記中間画素である注目中間画素の前記中間画素データの値、及び、当該注目中間画素に隣接する前記中間画素の前記中間画素データの値、に基づいて、当該注目中間画素に対応付けられる少なくとも1の前記最終画素の複数色の画素値を決定する画素値決定部と、複数の前記最終画素についての複数色の画素値に基づいて、前記最終画像を生成する最終画像生成部と、を含む。
本発明の一態様では、前記注目中間画素又は当該注目中間画素に隣接する前記中間画素に対応付けられる前記画素セットに含まれる前記基礎画素についての、当該基礎画素の色とは異なる色の画素値を決定する補間処理実行部、をさらに含み、前記画素値決定部は、前記補間処理実行部で決定される画素値に応じた係数、前記注目中間画素の前記中間画素データの値、及び、当該注目中間画素に隣接する前記中間画素の前記中間画素データの値、に基づいて、当該注目中間画素に対応付けられる少なくとも1の前記最終画素の複数色の画素値を決定する。
この態様では、前記補間処理実行部は、1の前記基礎画素については、当該基礎画素の色とは異なる色の画素値を1度だけ決定してもよい。
また、本発明の一態様では、前記基礎画像は、ベイヤ配列の画像である。
また、本発明の一態様では、前記画素セットは、R画素、G画素、及び、B画素が所定の色のパターンで配置されたものである。
また、本発明の一態様では、第1の値、第2の値、第3の値、及び、第4の値が、大きい方から順に、第1最終値、第2最終値、第3最終値、及び、第4最終値となるようソートするソート部、をさらに含み、前記ソート部は、前記第1の値と前記第4の値のうちの大きな値を第1中間値として決定し、前記第2の値と前記第3の値のうちの大きな値を第2中間値として決定し、前記第2の値と前記第3の値のうちの小さな値を第3中間値として決定し、前記第1の値と前記第4の値のうちの小さな値を第4中間値として決定し、前記第1中間値と前記第2中間値のうちの大きな値を前記第1最終値として決定し、前記第1中間値と前記第2中間値のうちの小さな値を前記第2最終値として決定し、前記第3中間値と前記第4中間値のうちの大きな値を前記第3最終値として決定し、前記第3中間値と前記第4中間値のうちの小さな値を前記第4最終値として決定する。
また、本発明に係る画像処理方法は、単色の基礎画素が所定の色のパターンで複数配置された画素セットを複数含み、前記画素セットが縦横に並んで配置されている基礎画像に基づいて、それぞれ少なくとも1の前記基礎画素に対応づけられる複数色の最終画素を複数含む、カラー画像である最終画像を生成する画像処理方法であって、前記基礎画像に基づいて、前記画素セットに含まれる複数の前記基礎画素の画素値が当該画素セットに対応付けられる1の中間画素の中間画素データの値として設定された中間画像を生成するステップと、前記中間画像に含まれるいずれかの前記中間画素である注目中間画素の前記中間画素データの値、及び、当該注目中間画素に隣接する前記中間画素の前記中間画素データの値、に基づいて、当該注目中間画素に対応付けられる少なくとも1の前記最終画素の複数色の画素値を決定するステップと、複数の前記最終画素についての複数色の画素値に基づいて、前記最終画像を生成するステップと、を含む。
また、本発明に係るプログラムは、単色の基礎画素が所定の色のパターンで複数配置された画素セットを複数含み、前記画素セットが縦横に並んで配置されている基礎画像に基づいて、それぞれ少なくとも1の前記基礎画素に対応づけられる複数色の最終画素を複数含む、カラー画像である最終画像を生成するコンピュータに、前記基礎画像に基づいて、前記画素セットに含まれる複数の前記基礎画素の画素値が当該画素セットに対応付けられる1の中間画素の中間画素データの値として設定された中間画像を生成する手順、前記中間画像に含まれるいずれかの前記中間画素である注目中間画素の前記中間画素データの値、及び、当該注目中間画素に隣接する前記中間画素の前記中間画素データの値、に基づいて、当該注目中間画素に対応付けられる少なくとも1の前記最終画素の複数色の画素値を決定する手順、複数の前記最終画素についての複数色の画素値に基づいて、前記最終画像を生成する手順、を実行させる。
以下、本発明の一実施形態について図面に基づき詳細に説明する。
図1は、本実施形態の一実施形態に係る画像処理装置10の構成の一例を示す図である。本実施形態に係る画像処理装置10は、例えば、ゲームコンソールやパーソナルコンピュータ等のコンピュータであって、図1に示すように、プロセッサ20、記憶部22、通信部24、入出力部26、操作部28、表示部30を含んでいる。
プロセッサ20は、例えば画像処理装置10にインストールされるプログラムに従って動作するプログラム制御デバイスである。図1に示すように、本実施形態に係るプロセッサ20には、CPU20aと、CPU20aから供給されるグラフィックスコマンドやデータに基づいてフレームバッファに画像を描画するGPU(Graphics Processing Unit)20bと、が含まれている。
また本実施形態に係るGPU20bは、画像の描画だけでなく、一般的な情報処理も実行できるようになっている。GPU20bは、CPU20aより同時に実行可能な処理単位(スレッド)の数が多いため、並列処理に適している。また同時に実行される処理単位(スレッド)は、互いに同じ内容の処理であることが要請される。同時に実行されるひとまとめとなった処理単位(スレッド)の群は、例えばウェーブフロントやワープなどと呼ばれる。
記憶部22は、例えばROMやRAM等の記憶素子やハードディスクドライブなどである。記憶部22には、プロセッサ20によって実行されるプログラムなどが記憶される。また、本実施形態に係る記憶部22には、GPU20bにより画像が描画されるフレームバッファの領域が確保されている。また本実施形態に係る記憶部22には、ウェーブフロントやワープに属するすべてのスレッド間で共有できる、アクセス速度が速い共有メモリが含まれている。この共有メモリは、例えばLDSと呼ばれるものである。
通信部24は、例えばイーサネット(登録商標)モジュールや無線LANモジュールなどの通信インタフェースなどである。
入出力部26は、例えばHDMI(登録商標)(High-Definition Multimedia Interface)ポートやUSBポートなどの入出力ポートである。
操作部28は、キーボードやマウス、ゲームコンソールのコントローラ等であって、ユーザの操作入力を受け付けて、その内容を示す信号をプロセッサ20に出力する。
表示部30は、液晶ディスプレイ、有機ELディスプレイ等の表示デバイスであって、プロセッサ20の指示に従って、各種の画像を表示する。
なお、画像処理装置10は、DVD−ROMやBlu−ray(登録商標)ディスクなどの光ディスクを読み取る光ディスクドライブなどをさらに含んでいてもよい。
本実施形態に係る画像処理装置10では、図2に例示する基礎画像40に基づいて、図3に例示する中間画像42が生成される。そして図3に例示する中間画像42に基づいて、図4に例示する最終画像44が生成される。なお、図2〜図4においては、右方向がX軸正方向であり、下方向がY軸正方向であることとする。
基礎画像40は、例えばベイヤ配列の画像などといった、単色の基礎画素46が所定の色のパターンで複数配置された画素セット48を複数含み、画素セット48が縦横に並んで配置されている画像である。ここで基礎画素46とは、基礎画像40に含まれる画素を指すこととする。基礎画像40は、例えば、各基礎画素46に異なるカラーフィルタが設けられることで基礎画素46毎にRGB等の複数の色のうちのいずれかの色の信号が取得される撮像素子を備えるカメラによって生成されるものであってもよい。
図2では、単色の基礎画素46が実線の四角形で示されている。また図2において文字Rが示されている基礎画素46は赤色のR画素である。また文字Gb、Grが示されている基礎画素46は緑色のG画素である。ここで文字Grが示されている基礎画素46はGr画素であり、文字Gbが示されている基礎画素46はGb画素である。また、文字Bが示されている基礎画素46は、青色のB画素である。このように図2に例示する基礎画像40に含まれる画素セット48は、R画素、G画素、及び、B画素が所定の色のパターンで配置されたものであるといえる。
そして図2の例では、左上にR画素が、右上にGr画素が、左下にGb画素が、右下にB画素が配置された画素セット48が二点鎖線で示されている。そして図2の例では画素セット48が縦横に並んで配置されている。
そして本実施形態では上述のように図2に例示する基礎画像40に基づいて、図3に例示する中間画像42が生成される。図3に示す中間画像42に含まれる中間画素50は、図2に示す基礎画像40に含まれる画素セット48に対応付けられる。ここで中間画素50とは、中間画像42に含まれる画素を指すこととする。そして中間画素50には、当該中間画素50に対応付けられる画素セット48に含まれる4個の基礎画素46の画素値のそれぞれを要素として含むベクトルが、中間画素データの値として設定される。例えば、基礎画素46の画素値が32ビットで表現される場合は、中間画素50の中間画素データの値は128ビットで表現されることとなる。
ここで4個の基礎画素46の画素値に相当する中間画素50の中間画素データの値が4要素のベクトル変数の値として実装されてもよい。そして基礎画素46の画素値へのアクセスは、例えば、このベクトル変数の要素へのアクセスとして実装されてもよい。またGPU20bのSIMD命令による当該ベクトル変数の要素に対する並列なアクセスが実装されてもよい。また中間画素50の中間画素データの値が、ウェーブフロントやワープに属するすべてのスレッド間で共有できる共有メモリに格納されてもよい。またCPU20aがマルチコアプロセッサである場合に、CPU20aのSIMD命令による当該ベクトル変数の要素に対する並列なアクセスが実装されてもよい。
本実施形態では例えば、右下の基礎画素46の座標値が(p,q)(p、qは偶数)である画素セット48に属する4個の基礎画素46の画素値が、中間画像42に含まれる、座標値が(p/2,q/2)である中間画素50の中間画素データの値として設定される。すなわち、座標値が(p−1,q−1)、(p,q−1)、(p−1,q)、(p,q)である基礎画素46の画素値が、中間画像42に含まれる、座標値が(p/2,q/2)である中間画素50の中間画素データの値として設定されることとなる。例えば基礎画像40に含まれる、座標値が(5,5)、(6,5)、(5,6)、(6,6)である基礎画素46の画素値が、中間画像42に含まれる、座標値が(3,3)である中間画素50の中間画素データの値として設定されることとなる。
なお本実施形態では基礎画像40の画素数は縦横それぞれn(nは偶数)であることとする。そのため中間画像42の画素数は縦横それぞれ(n/2)であることとなる。
図5は、図2に示す基礎画像40における基礎画素46に割り当てられるアドレス空間の一例を示す図である。図6は、図3に示す中間画像42における中間画素50に割り当てられるアドレス空間の一例を示す図である。
図5に示すように、基礎画像40においては、Y座標値が1である1行目の基礎画素46に対してシリアルにアドレス空間が割り当てられる。そして、1行目の基礎画素46に対して割り当てられたアドレス空間に連続してY座標値が2である2行目の基礎画素46に対してアドレス空間が割り当てられる。以下、2行目の基礎画素46に対して割り当てられたアドレス空間に連続して、Y座標値が3である3行目の基礎画素46、Y座標値が4である4行目の基礎画素46、・・・に対してアドレス空間が割り当てられる。
そのため図5に示す基礎画像40では、画素セット48に含まれるR画素及びGr画素の画素値が配置される領域と、当該画素セット48に含まれるGb画素及びB画素の画素値が配置される領域と、が離れることとなる。例えば座標値が(p−1,q−1)、(p,q−1)である基礎画素46の画素値が配置される領域と、座標値が(p−1,q)、(p,q)である基礎画素46の画素値が配置される領域と、が離れることとなる。図5の例では、座標値が(1,1)、(2,1)である基礎画素46の画素値が配置される領域と、座標値が(1,2)、(2,2)である基礎画素46の画素値が配置される領域と、が離れることとなる。
そして図6に示すように、中間画像42においては、Y座標値が1である1行目の中間画素50に対してシリアルにアドレス空間が割り当てられる。そして1行目の中間画素50に対して割り当てられたアドレス空間に連続してY座標値が2である2行目の中間画素50に対してアドレス空間が割り当てられる。以下、2行目の中間画素50に対して割り当てられたアドレス空間に連続して、Y座標値が3である3行目の中間画素50、Y座標値が4である4行目の中間画素50、・・・に対してアドレス空間が割り当てられる。
ここで中間画像42における1の中間画素50は、基礎画像40における1の画素セット48に属する4個の基礎画素46に相当する。そのため中間画像42における1の中間画素50の中間画素データの値が配置される領域に、基礎画像40における1の画素セット48に属する4個の基礎画素46の画素値が配置されることとなる。例えば座標値が(p/2,q/2)である中間画素50の中間画素データの値が配置される領域に、座標値が(p−1,q−1)、(p,q−1)、(p−1,q)、(p,q)である基礎画素46の画素値が配置される。よって図6に示すアドレス空間の配置では、1の画素セット48に含まれるR画素及びGr画素の画素値が配置される領域と、当該画素セット48に含まれるGb画素及びB画素の画素値が配置される領域と、が連続することとなる。
そのため、図6に示すアドレス空間の割り当ての方が、図5に示すアドレス空間の割り当てよりも、1の画素セット48に属するすべての基礎画素46の画素値の取得におけるメモリのアクセス速度が速くなる。またある画素セット48に隣接する画素セット48に属する基礎画素46の画素値の取得に関しても、図6に示すアドレス空間の割り当ての方が、図5に示すアドレス空間の割り当てよりも速くなる。
そして本実施形態では上述のように図3に例示する中間画像42に基づいて、図4に例示する最終画像44が生成される。最終画像44は本実施形態では例えば、基礎画像40と同じサイズ(画素数)のカラー画像であり、最終画像44の最終画素52の画素値としては、複数色の画素値(ここでは例えばRGB画素値)が設定される。ここで最終画素52とは、最終画像44に含まれる画素を指すこととする。また本実施形態における基礎画像40に基づく最終画像44の生成処理は、デモザイク処理に相当する処理であることとなる。なお最終画像44が基礎画像40と同じサイズ(画素数)である必要はない。最終画像44のサイズは基礎画像40のサイズより大きくてもよい。また、最終画像44のサイズは基礎画像40のサイズより小さくてもよい。
以下、図4に示されている4個の注目最終画素52aのRGB画素値の決定処理を題材として、図7を参照しながら最終画素52のRGB画素値の決定処理の一例について説明する。ここで4個の注目最終画素52aの座標値はそれぞれ(5,5)、(6,5)、(5,6)、(6,6)であることとする。
ここで図3に示すように、4個の注目最終画素52aに相当する中間画像42の中間画素50を注目中間画素50aと呼ぶこととする。注目中間画素50aの座標値は(3,3)であることとなる。
また図2に示すように、基礎画像40に含まれる、4個の注目最終画素52aに相当する4個の基礎画素46を注目基礎画素46aと呼ぶこととする。そして注目基礎画素46aのうちのR画素、Gr画素、Gb画素、B画素、をそれぞれ、注目基礎R画素46a(R)、注目基礎Gr画素46a(Gr)、注目基礎Gb画素46a(Gb)、注目基礎B画素46a(B)と呼ぶこととする。
また図4に示すように、注目基礎R画素46a(R)に対応する注目最終画素52aを注目最終R画素52a(R)と呼ぶこととする。また、注目基礎Gr画素46a(Gr)に対応する注目最終画素52aを注目最終Gr画素52a(Gr)と呼ぶこととする。また、注目基礎Gb画素46a(Gb)に対応する注目最終画素52aを注目最終Gb画素52a(Gb)と呼ぶこととする。また、注目基礎B画素46a(B)に対応する注目最終画素52aを注目最終B画素52a(B)と呼ぶこととする。
図7に示すように、注目中間画素50aに相当する4個の注目最終画素52aのRGB画素値の決定にあたっては、注目中間画素50aを中心とする9個の中間画素50の中間画素データの値が参照される。これら9個の中間画素50は、基礎画像40に含まれる36個の基礎画素46に相当する。以下、これらの36個の基礎画素46が属する画素群を参照画素群54と呼ぶこととする。
図7に示すように、参照画素群54には、X座標値が3〜8のいずれかでありY座標値が3〜8のいずれかである基礎画素46が属する。
そして参照画素群54に属する単色の基礎画素46について、当該基礎画素46の色とは異なる色の画素値を決定する補間処理が実行される。ここで実行される補間処理では、例えばサイン関数による補間や三角波フィルタによる補間等を用いることができる。
例えば参照画素群54に属するR画素については、G画素値とB画素値が決定される。また例えば参照画素群54に属するGr画素、Gb画素については、R画素値とB画素値が決定される。また例えば参照画素群54に属するB画素については、R画素値とG画素値が決定される。
そして本実施形態では例えば、参照画素群54に属する基礎画素46について、GInter値が決定される。GInter値は、G画素値の決定に用いられる値であり、輝度値に似たものである。ここでは例えば、基礎画素46のR画素値、G画素値、及び、B画素値に基づいて、当該基礎画素46のGInter値が決定される。
そして本実施形態では、公知のクラス分類適応処理により、このようにして決定されるR画素値、G画素値、B画素値、及び、GInter値に基づいて、4個の注目基礎画素46aのそれぞれについて、当該注目基礎画素46aが属するクラスが決定される。上述のようにこのクラスは、学習により求められる係数に対応付けられるものである。
そして本実施形態では例えば、注目基礎R画素46a(R)を中心とする25個の基礎画素46の画素値と、注目基礎R画素46a(R)が属するクラスに対応付けられる係数と、に基づいて、注目最終R画素52a(R)のRGB画素値が決定される。ここで注目基礎R画素46a(R)を中心とする25個の基礎画素46が占める領域が図7では領域R1として示されている。領域R1は、基礎画像40におけるX座標値が3〜7のいずれかでありY座標値が3〜7のいずれかである基礎画素46によって占められる領域である。
ここで領域R1内のR画素のR画素値と、注目基礎R画素46a(R)が属するクラスに対応付けられる係数と、に基づいて、注目最終R画素52a(R)のR画素値が決定されてもよい。また領域R1内のGr画素及びGb画素のG画素値と、注目基礎R画素46a(R)が属するクラスに対応付けられる係数と、に基づいて、注目最終R画素52a(R)のG画素値が決定されてもよい。また領域R1内のB画素のB画素値と、注目基礎R画素46a(R)が属するクラスに対応付けられる係数と、に基づいて、注目最終R画素52a(R)のB画素値が決定されてもよい。
そして本実施形態では例えば、注目基礎Gr画素46a(Gr)を中心とする25個の基礎画素46の画素値と、注目基礎Gr画素46a(Gr)が属するクラスに対応付けられる係数と、に基づいて、注目最終Gr画素52a(Gr)のRGB画素値が決定される。ここで注目基礎Gr画素46a(Gr)を中心とする25個の基礎画素46が占める領域が図7では領域R2として示されている。領域R2は、基礎画像40におけるX座標値が4〜8のいずれかでありY座標値が3〜7のいずれかである基礎画素46によって占められる領域である。
ここで領域R2内のR画素のR画素値と、注目基礎Gr画素46a(Gr)が属するクラスに対応付けられる係数と、に基づいて、注目最終Gr画素52a(Gr)のR画素値が決定されてもよい。また領域R2内のGr画素及びGb画素のG画素値と、注目基礎Gr画素46a(Gr)が属するクラスに対応付けられる係数と、に基づいて、注目最終Gr画素52a(Gr)のG画素値が決定されてもよい。また領域R2内のB画素のB画素値と、注目基礎Gr画素46a(Gr)が属するクラスに対応付けられる係数と、に基づいて、注目最終Gr画素52a(Gr)のB画素値が決定されてもよい。
そして本実施形態では例えば、注目基礎Gb画素46a(Gb)を中心とする25個の基礎画素46の画素値と、注目基礎Gb画素46a(Gb)が属するクラスに対応付けられる係数と、に基づいて、注目最終Gb画素52a(Gb)のRGB画素値が決定される。ここで注目基礎Gb画素46a(Gb)を中心とする25個の基礎画素46が占める領域が図7では領域R3として示されている。領域R3は、基礎画像40におけるX座標値が3〜7のいずれかでありY座標値が4〜8のいずれかである基礎画素46によって占められる領域である。
ここで領域R3内のR画素のR画素値と、注目基礎Gb画素46a(Gb)が属するクラスに対応付けられる係数と、に基づいて、注目最終Gb画素52a(Gb)のR画素値が決定されてもよい。また領域R3内のGr画素及びGb画素のG画素値と、注目基礎Gb画素46a(Gb)が属するクラスに対応付けられる係数と、に基づいて、注目最終Gb画素52a(Gb)のG画素値が決定されてもよい。また領域R3内のB画素のB画素値と、注目基礎Gb画素46a(Gb)が属するクラスに対応付けられる係数と、に基づいて、注目最終Gb画素52a(Gb)のB画素値が決定されてもよい。
そして本実施形態では例えば、注目基礎B画素46a(B)を中心とする25個の基礎画素46の画素値と、注目基礎B画素46a(B)が属するクラスに対応付けられる係数と、に基づいて、注目最終B画素52a(B)のRGB画素値が決定される。ここで注目基礎B画素46a(B)を中心とする25個の基礎画素46が占める領域が図7では領域R4として示されている。領域R4は、基礎画像40におけるX座標値が4〜8のいずれかでありY座標値が4〜8のいずれかである基礎画素46によって占められる領域である。
ここで領域R4内のR画素のR画素値と、注目基礎B画素46a(B)が属するクラスに対応付けられる係数と、に基づいて、注目最終B画素52a(B)のR画素値が決定されてもよい。また領域R4内のGr画素及びGb画素のG画素値と、注目基礎B画素46a(B)が属するクラスに対応付けられる係数と、に基づいて、注目最終B画素52a(B)のG画素値が決定されてもよい。また領域R4内のB画素のB画素値と、注目基礎B画素46a(B)が属するクラスに対応付けられる係数と、に基づいて、注目最終B画素52a(B)のB画素値が決定されてもよい。
なお注目最終画素52aのRGB画素値の決定方法は上述のものには限定されない。
また本実施形態では、図8に示すように、中間画像42の周囲にも画素が存在するものとして補間処理や最終画素52の画素値の決定処理が実行される。ここで例えば、中間画像42内の中間画素50の中間画素データの値が、中間画像42の辺や頂点に対して対称の位置に存在すると仮定される画素の中間画素データの値として設定されるようにしてもよい。図8には、中間画像42内の中間画素50の中間画素データの値と中間画像42の周囲において存在が仮定される画素の中間画素データの値との対応関係の一例が示されている。図8には、存在が仮定される画素が二点鎖線で示されている。また図8では、中間画像42内の中間画素50の中間画素データの値が、中間画像42の周囲において存在が仮定される3個の画素の中間画素データの値として設定されることが矢印によって模式的に示されている。
図9Aには、図7の領域R1内の画素群に相当する、注目基礎R画素46a(R)を中心とする画素群が示されている。図9Bには、図7の領域R2内の画素群に相当する、注目基礎Gr画素46a(Gr)を中心とする画素群が示されている。図9Cには、図7の領域R3内の画素群に相当する、注目基礎Gb画素46a(Gb)を中心とする画素群が示されている。図9Dには、図7の領域R4内の画素群に相当する、注目基礎B画素46a(B)を中心とする画素群が示されている。
図9A〜図9Dに示すように、基礎画素46の種類によって、当該基礎画素46を中心とした際の周辺の画素の種類のパターンが異なる。そのため従来のデモザイク処理における補間処理は、図9Aに示す画素群、図9Bに示す画素群、図9Cに示す画素群、及び、図9Dに示す画素群に対して、異なるアルゴリズムによって実行される必要があった。例えば当該アルゴリズムがGPU20bにより実装される場合には、基礎画像40に含まれる基礎画素46の種類に対応付けられるシェーダプログラムを実行する必要があった。
また基礎画像40の周囲に存在すると仮定される基礎画素46については当該基礎画素46の種類を考慮してアルゴリズムを実行する必要があった。
このように従来のデモザイク処理では、基礎画素46の種類や基礎画素46の位置に応じた様々な分岐処理を実装する必要があった。そのため従来のデモザイク処理は、分岐処理の実行効率が悪いGPU20bでの実行には不向きであった。
本実施形態に係る中間画像42の中間画素50は基礎画像40の基礎画素46とは異なり、各中間画素50に、R画素、Gr画素、Gb画素、及び、B画素のそれぞれの画素値に相当する中間画素データの値が設定されている。そしてすべての中間画素50には同じ種類の中間画素データの値が設定される。そのため中間画素50の種類に応じた補間処理を実行する必要がない。また中間画像42の周囲に存在すると仮定される中間画素50について当該中間画素50の種類を考慮する必要がない。そのため本実施形態では分岐処理を実装する必要性が低い。そのため本実施形態に係るデモザイク処理は、GPU20bでの実装に適している。
また本実施形態では、中間画像42に含まれるすべての中間画素50に、R画素、Gr画素、Gb画素、及び、B画素のそれぞれの画素値に相当する中間画素データの値が設定されている。そのため本実施形態に係る画像処理装置10で実行される処理は、SIMD化が容易である。
また従来のデモザイク処理では、特定の基礎画素46の特定の画素値を何度も決定する必要があった。例えば図9A〜図9Dの例では、座標値が(4,4)のB画素である基礎画素46のR画素値やG画素値について4度決定される必要があった。そのため処理の無駄が生じていた。
一方、本実施形態に係る画像処理装置10における補間処理では、図7の例では、注目最終画素52aのRGB画素値の算出に際して、参照画素群54に属する基礎画素46に対して補間処理が1度だけ実行される。そのため本実施形態に係る画像処理装置10によれば上述した処理の無駄が生じず高効率な処理の実行が可能となる。
なお本実施形態に係るデモザイク処理はCPU20aで実行されてもGPU20bで実行されてもよい。また上述したようにGPU20bによるSIMD化によって本実施形態に係るデモザイク処理はさらなる効率化が可能となる。またCPU20aがマルチコアプロセッサである場合にCPU20aによるSIMD化を行うことによっても、本実施形態に係るデモザイク処理はさらなる効率化が可能となる。
以下、本実施形態に係る画像処理装置10の機能、及び、画像処理装置10で実行される処理についてさらに説明する。
図10は、本実施形態に係る画像処理装置10で実装される機能の一例を示す機能ブロック図である。なお、本実施形態に係る画像処理装置10で、図10に示す機能のすべてが実装される必要はなく、また、図10に示す機能以外の機能が実装されていても構わない。
図10に示すように、画像処理装置10は、機能的には例えば、基礎画像記憶部60、基礎画像取得部62、中間画像生成部64、中間画像記憶部66、補間処理実行部68、画素値決定部70、最終画像生成部72、最終画像記憶部74、ソート部76、を含んでいる。基礎画像記憶部60、中間画像記憶部66、最終画像記憶部74は、記憶部22を主として実装される。基礎画像取得部62、中間画像生成部64、補間処理実行部68、画素値決定部70、最終画像生成部72、ソート部76は、プロセッサ20を主として実装される。
以上の機能は、コンピュータである画像処理装置10にインストールされた、以上の機能に対応する指令を含むプログラムをプロセッサ20で実行することにより実装されてもよい。このプログラムは、例えば、光ディスク、磁気ディスク、磁気テープ、光磁気ディスク、フラッシュメモリ等のコンピュータ読み取り可能な情報記憶媒体を介して、あるいは、インターネットなどを介して画像処理装置10に供給されてもよい。
基礎画像記憶部60は、本実施形態では例えば、単色の基礎画素46が所定の色のパターンで複数配置された画素セット48を複数含み、画素セット48が縦横に並んで配置されている基礎画像40を記憶する。
基礎画像取得部62は、本実施形態では例えば、基礎画像記憶部60に記憶されている基礎画像40を取得する。
中間画像生成部64は、本実施形態では例えば、基礎画像40に基づいて、画素セット48に含まれる複数の基礎画素46の画素値が当該画素セット48に対応付けられる1の中間画素50の中間画素データの値として設定された中間画像42を生成する。ここで中間画像生成部64が、基礎画像取得部62が取得する基礎画像40に基づいて、中間画像42を生成してもよい。また中間画像生成部64は、生成する中間画像42を、中間画像記憶部66に記憶させてもよい。
中間画像記憶部66は、本実施形態では例えば、中間画像生成部64が生成する中間画像42を記憶する。上述のように中間画像記憶部66は、ウェーブフロントやワープに属するすべてのスレッド間で共有できる共有メモリによって実装されてもよい。
補間処理実行部68は、本実施形態では例えば、注目中間画素50a又は注目中間画素50aに隣接する中間画素50に対応付けられる画素セット48に含まれる基礎画素46についての、当該基礎画素46の色とは異なる色の画素値を決定する。ここで例えば、参照画素群54に属する基礎画素46の画素値に基づいて、参照画素群54に属する各基礎画素46について、当該基礎画素46の色とは異なる色の画素値が決定されてもよい。
ここで上述のように、補間処理実行部68が、1の基礎画素46については、当該基礎画素46の色とは異なる色の画素値を1度だけ決定するようにしてもよい。
画素値決定部70は、本実施形態では例えば、注目中間画素50aに対応付けられる少なくとも1の最終画素52の複数色の画素値を決定する。ここで例えば、注目中間画素50aの中間画素データの値、及び、注目中間画素50aに隣接する中間画素50の中間画素データの値、に基づいて、注目中間画素50aに対応付けられる少なくとも1の最終画素52の複数色の画素値が決定されてもよい。また例えば、補間処理実行部68で決定される画素値に応じた係数と、注目中間画素50a及び注目中間画素50aに隣接する中間画素50の中間画素データの値と、に基づいて、注目中間画素50aに対応付けられる少なくとも1の最終画素52の複数色の画素値が決定されてもよい。なお係数を示すデータや、補間処理実行部68で決定される画素値と係数との対応関係を示すデータは、画素値決定部70により保持されていてもよい。
最終画像生成部72は、本実施形態では例えば、複数の最終画素52についての複数色の画素値に基づいて、カラー画像である最終画像44を生成する。最終画像生成部72は、生成した最終画像44を表示部30に表示させてもよい。また最終画像生成部72は、生成した最終画像44を最終画像記憶部74に記憶させてもよい。
最終画像記憶部74は、本実施形態では例えば、最終画像生成部72が生成する最終画像44を記憶する。ここでユーザによる操作部28の操作に応じて、最終画像記憶部74に記憶されている最終画像44が表示部30に表示されてもよい。
ソート部76は、本実施形態では例えば、ベクトル変数の要素の値などといった、4つの値をソートして、2番目に大きな値と2番目に小さな値を特定する。例えば本実施形態におけるデモザイク処理において、ベクトル変数の要素の値などといった、4つの値をソートして、2番目に大きな値と2番目に小さな値を特定する必要がある場合に、ソート部76による処理が実行される。
ここで、本実施形態に係る画像処理装置10で行われる最終画像44の生成処理の流れの一例を、図11に例示するフロー図を参照しながら説明する。
まず、基礎画像取得部62が、基礎画像記憶部60に記憶されている基礎画像40を取得する(S101)。
そして中間画像生成部64が、S101に示す処理で取得された基礎画像40に基づいて、中間画像42を生成する(S102)。
そして補間処理実行部68が、S102に示す処理で生成された中間画像42に含まれる、S104〜S113に示す処理が実行されていない中間画素50を、注目中間画素50aとして選択する(S103)。
そして補間処理実行部68が、S103に示す処理で選択された注目中間画素50aに基づいて、参照画素群54を特定する(S104)。
そして補間処理実行部68が、S104に示す処理で特定された参照画素群54に属する基礎画素46のそれぞれについて、当該基礎画素46のR画素値を決定する(S105)。
そして補間処理実行部68が、S104に示す処理で特定された参照画素群54に属する基礎画素46のそれぞれについて、当該基礎画素46のG画素値を決定する(S106)。
そして補間処理実行部68が、S104に示す処理で特定された参照画素群54に属する基礎画素46のそれぞれについて、当該基礎画素46のB画素値を決定する(S107)。
そして補間処理実行部68が、S104に示す処理で特定された参照画素群54に属する基礎画素46のそれぞれについて、S105〜S107に示す処理で決定された画素値に基づいて、GInter値を決定する(S108)。
そして画素値決定部70が、S103に示す処理で選択された注目中間画素50aに対応付けられる注目基礎画素46aのそれぞれについて、S105〜S108に示す処理で決定された値に対応付けられる係数を取得する(S109)。
そして画素値決定部70が、S105〜S108に示す処理で決定された値、及び、S109に示す処理で取得された係数に基づいて、注目最終R画素52a(R)のRGB画素値を決定する(S110)。ここで例えば、注目最終R画素52a(R)を中心とする所定の大きさの領域内に存在する基礎画素46についてS105〜S108に示す処理で決定された値に基づいて、注目最終R画素52a(R)のRGB画素値が決定されてもよい。
そして画素値決定部70が、S105〜S108に示す処理で決定された値、及び、S109に示す処理で取得された係数に基づいて、注目最終Gr画素52a(Gr)のRGB画素値を決定する(S111)。ここで例えば、注目最終Gr画素52a(Gr)を中心とする所定の大きさの領域内に存在する基礎画素46についてS105〜S108に示す処理で決定された値に基づいて、注目最終Gr画素52a(Gr)のRGB画素値が決定されてもよい。
そして画素値決定部70が、S105〜S108に示す処理で決定された値、及び、S109に示す処理で取得された係数に基づいて、注目最終Gb画素52a(Gb)のRGB画素値を決定する(S112)。ここで例えば、注目最終Gb画素52a(Gb)を中心とする所定の大きさの領域内に存在する基礎画素46についてS105〜S108に示す処理で決定された値に基づいて、注目最終Gb画素52a(Gb)のRGB画素値が決定されてもよい。
そして画素値決定部70が、S105〜S108に示す処理で決定された値、及び、S109に示す処理で取得された係数に基づいて、注目最終B画素52a(B)のRGB画素値を決定する(S113)。ここで例えば、注目最終B画素52a(B)を中心とする所定の大きさの領域内に存在する基礎画素46についてS105〜S108に示す処理で決定された値に基づいて、注目最終B画素52a(B)のRGB画素値が決定されてもよい。
そして画素値決定部70は、S103に示す処理ですべての中間画素50が注目中間画素50aとして選択されたか否かを確認する(S114)。
ここですべての中間画素50が注目中間画素50aとして選択されていないことが確認された場合は(S114:N)、S103に示す処理に戻る。
一方、すべての中間画素50が注目中間画素50aとして選択されたことが確認されたとする(S114:Y)。この場合は、最終画像生成部72が、S110〜S113に示す処理で決定されたRGB画素値に基づいて最終画像44を生成して、最終画像記憶部74に記憶させる(S115)。そして本処理例に示す処理は終了される。
次に本実施形態に係る画像処理装置10で行われる、4つの値のソート処理の流れの一例を、図12に例示するフロー図を参照しながら説明する。なお本処理例ではソートされる4つの値のそれぞれを、第1の値A1、第2の値A2、第3の値A3、及び、第4の値A4とする。
まずソート部76は、第1の値A1と第4の値A4のうちの最大値を第1中間値B1として決定する(S201)。
そしてソート部76は、第2の値A2と第3の値A3のうちの最大値を第2中間値B2として決定する(S202)。
そしてソート部76は、第1の値A1と第4の値A4のうちの最小値を第4中間値B4として決定する(S203)。
そしてソート部76は、第2の値A2と第3の値A3のうちの最小値を第3中間値B3として決定する(S204)。
そしてソート部76は、第1中間値B1と第2中間値B2のうちの最大値を第1最終値C1として決定する(S205)。
そしてソート部76は、第3中間値B3と第4中間値B4のうちの最大値を第3最終値C3として決定する(S206)。
そしてソート部76は、第1中間値B1と第2中間値B2のうちの最小値を第2最終値C2として決定する(S207)。
そしてソート部76は、第3中間値B3と第4中間値B4のうちの最小値を第4最終値C4として決定する(S208)。
以上の処理によって、第1最終値C1、第2最終値C2、第3最終値C3、第4最終値C4は、大きい値から順にソートされたこととなる。そのため2番目に大きな値は第2最終値C2であり、2番目に小さな値は第3最終値C3であることが特定できる。
図12に示すソート処理では、最大値又は最小値を算出する算術演算のみで、分岐処理を実行することなく、所定数のステップ数によって4つの値をソートできることとなる。
以上で説明したソート部76によるソート処理は、CPU20aで実行されてもGPU20bで実行されてもよい。またGPU20bによるSIMD化によって4組の4つの値について並列でソート処理が実行されてもよい。またCPU20aがマルチコアプロセッサである場合にCPU20aによるSIMD化によって4組の4つの値について並列でソート処理が実行されてもよい。
なお上述の処理は、5つの値のうちから、2番目に大きな値と2番目に小さな値を特定する処理に応用できる。ここで例えば、第1の値A1、第2の値A2、第3の値A3、第4の値A4に加え、第5の値A5が存在することとする。
この場合例えば、S208に示す処理の実行後、「第1最終値C1と第2最終値C2のうちの最大値」と、「第2最終値C2と第5の値A5のうちの最大値」とのうちの最小値を特定すればよい。この場合、このようにして特定される値が、第1の値A1〜第5の値A5のうちの2番目に大きな値であることとなる。
また例えば、S208に示す処理の実行後、「第3最終値C3と第4最終値C4のうちの最大値」と、「第4最終値C4と第5の値A5のうちの最大値」とのうちの最小値を特定すればよい。この場合、このようにして特定される値が、第1の値A1〜第5の値A5のうちの2番目に小さな値であることとなる。
なお、本発明は上述の実施形態に限定されるものではない。
例えば、画像処理装置10で実装される機能が、基礎画像40を生成するカメラで実装されてもよい。
またベイヤ配列の画像でなくても、単色の基礎画素46が所定の色のパターンで複数配置された画素セット48を複数含み、画素セット48が縦横に並んで配置されている画像であれば、本発明は適用可能である。
また、上記の具体的な文字列や数値及び図面中の具体的な文字列や数値は例示であり、これらの文字列や数値には限定されない。
Claims (8)
- 単色の基礎画素が所定の色のパターンで複数配置された画素セットを複数含み、前記画素セットが縦横に並んで配置されている基礎画像に基づいて、それぞれ少なくとも1の前記基礎画素に対応づけられる複数色の最終画素を複数含む、カラー画像である最終画像を生成する画像処理装置であって、
前記基礎画像に基づいて、前記画素セットに含まれる複数の前記基礎画素の画素値が当該画素セットに対応付けられる1の中間画素の中間画素データの値として設定された中間画像を生成する中間画像生成部と、
前記中間画像に含まれるいずれかの前記中間画素である注目中間画素の前記中間画素データの値、及び、当該注目中間画素に隣接する前記中間画素の前記中間画素データの値、に基づいて、当該注目中間画素に対応付けられる少なくとも1の前記最終画素の複数色の画素値を決定する画素値決定部と、
複数の前記最終画素についての複数色の画素値に基づいて、前記最終画像を生成する最終画像生成部と、
を含むことを特徴とする画像処理装置。 - 前記注目中間画素又は当該注目中間画素に隣接する前記中間画素に対応付けられる前記画素セットに含まれる前記基礎画素についての、当該基礎画素の色とは異なる色の画素値を決定する補間処理実行部、をさらに含み、
前記画素値決定部は、前記補間処理実行部で決定される画素値に応じた係数、前記注目中間画素の前記中間画素データの値、及び、当該注目中間画素に隣接する前記中間画素の前記中間画素データの値、に基づいて、当該注目中間画素に対応付けられる少なくとも1の前記最終画素の複数色の画素値を決定する、
ことを特徴とする請求項1に記載の画像処理装置。 - 前記補間処理実行部は、1の前記基礎画素については、当該基礎画素の色とは異なる色の画素値を1度だけ決定する、
ことを特徴とする請求項2に記載の画像処理装置。 - 前記基礎画像は、ベイヤ配列の画像である、
ことを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。 - 前記画素セットは、R画素、G画素、及び、B画素が所定の色のパターンで配置されたものである、
ことを特徴とする請求項1から4のいずれか一項に記載の画像処理装置。 - 第1の値、第2の値、第3の値、及び、第4の値が、大きい方から順に、第1最終値、第2最終値、第3最終値、及び、第4最終値となるようソートするソート部、をさらに含み、
前記ソート部は、
前記第1の値と前記第4の値のうちの大きな値を第1中間値として決定し、
前記第2の値と前記第3の値のうちの大きな値を第2中間値として決定し、
前記第2の値と前記第3の値のうちの小さな値を第3中間値として決定し、
前記第1の値と前記第4の値のうちの小さな値を第4中間値として決定し、
前記第1中間値と前記第2中間値のうちの大きな値を前記第1最終値として決定し、
前記第1中間値と前記第2中間値のうちの小さな値を前記第2最終値として決定し、
前記第3中間値と前記第4中間値のうちの大きな値を前記第3最終値として決定し、
前記第3中間値と前記第4中間値のうちの小さな値を前記第4最終値として決定する、
ことを特徴とする請求項1から5のいずれか一項に記載の画像処理装置。 - 単色の基礎画素が所定の色のパターンで複数配置された画素セットを複数含み、前記画素セットが縦横に並んで配置されている基礎画像に基づいて、それぞれ少なくとも1の前記基礎画素に対応づけられる複数色の最終画素を複数含む、カラー画像である最終画像を生成する画像処理方法であって、
前記基礎画像に基づいて、前記画素セットに含まれる複数の前記基礎画素の画素値が当該画素セットに対応付けられる1の中間画素の中間画素データの値として設定された中間画像を生成するステップと、
前記中間画像に含まれるいずれかの前記中間画素である注目中間画素の前記中間画素データの値、及び、当該注目中間画素に隣接する前記中間画素の前記中間画素データの値、に基づいて、当該注目中間画素に対応付けられる少なくとも1の前記最終画素の複数色の画素値を決定するステップと、
複数の前記最終画素についての複数色の画素値に基づいて、前記最終画像を生成するステップと、
を含むことを特徴とする画像処理方法。 - 単色の基礎画素が所定の色のパターンで複数配置された画素セットを複数含み、前記画素セットが縦横に並んで配置されている基礎画像に基づいて、それぞれ少なくとも1の前記基礎画素に対応づけられる複数色の最終画素を複数含む、カラー画像である最終画像を生成するコンピュータに、
前記基礎画像に基づいて、前記画素セットに含まれる複数の前記基礎画素の画素値が当該画素セットに対応付けられる1の中間画素の中間画素データの値として設定された中間画像を生成する手順、
前記中間画像に含まれるいずれかの前記中間画素である注目中間画素の前記中間画素データの値、及び、当該注目中間画素に隣接する前記中間画素の前記中間画素データの値、に基づいて、当該注目中間画素に対応付けられる少なくとも1の前記最終画素の複数色の画素値を決定する手順、
複数の前記最終画素についての複数色の画素値に基づいて、前記最終画像を生成する手順、
を実行させることを特徴とするプログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/038140 WO2019082232A1 (ja) | 2017-10-23 | 2017-10-23 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2019082232A1 JPWO2019082232A1 (ja) | 2020-06-11 |
JP6840860B2 true JP6840860B2 (ja) | 2021-03-10 |
Family
ID=66246281
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019549682A Active JP6840860B2 (ja) | 2017-10-23 | 2017-10-23 | 画像処理装置、画像処理方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11282168B2 (ja) |
JP (1) | JP6840860B2 (ja) |
WO (1) | WO2019082232A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11429855B2 (en) * | 2018-02-06 | 2022-08-30 | Nec Corporation | Acceleration of neural networks using depth-first processing |
Family Cites Families (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003087810A (ja) * | 2001-09-11 | 2003-03-20 | Acutelogic Corp | 画像処理装置及び画像処理方法 |
JP4730106B2 (ja) * | 2006-01-20 | 2011-07-20 | ソニー株式会社 | 画像処理装置および方法、学習装置および方法、並びにプログラム |
EP1874034A3 (en) * | 2006-06-26 | 2011-12-21 | Samsung Electro-Mechanics Co., Ltd. | Apparatus and method of recovering high pixel image |
JP4914303B2 (ja) * | 2007-07-13 | 2012-04-11 | シリコン ヒフェ ベー.フェー. | 画像処理装置及び撮像装置、画像処理方法及び撮像方法、画像処理プログラム |
JP2013009293A (ja) | 2011-05-20 | 2013-01-10 | Sony Corp | 画像処理装置、画像処理方法、プログラム、および記録媒体、並びに学習装置 |
JP2013126123A (ja) * | 2011-12-15 | 2013-06-24 | Olympus Corp | 画像処理装置、撮像装置及び画像処理方法 |
JP2014200008A (ja) * | 2013-03-29 | 2014-10-23 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
CN105230010B (zh) * | 2013-05-23 | 2017-02-08 | 富士胶片株式会社 | 像素混合装置及其动作控制方法 |
US10210599B2 (en) * | 2013-08-09 | 2019-02-19 | Intuitive Surgical Operations, Inc. | Efficient image demosaicing and local contrast enhancement |
US9967527B2 (en) * | 2013-11-25 | 2018-05-08 | JVC Kenwood Corporation | Imaging device, image processing device, image processing method, and image processing program |
US20150363922A1 (en) * | 2014-06-12 | 2015-12-17 | Samsung Electronics Co., Ltd. | Super-resolution from handheld camera |
US9219870B1 (en) * | 2014-07-31 | 2015-12-22 | Apple Inc. | Sensor data rescaler for image signal processing |
JP2016163331A (ja) * | 2015-03-05 | 2016-09-05 | 株式会社東芝 | 画像処理装置 |
US10109037B1 (en) * | 2015-06-02 | 2018-10-23 | Marvell International Ltd. | Systems and methods for Bayer image scaling based on edge detection |
CN111953901B (zh) * | 2015-09-30 | 2022-06-17 | 株式会社尼康 | 摄像装置 |
US10366471B2 (en) * | 2015-12-02 | 2019-07-30 | Texas Instruments Incorporated | Universal and adaptive de-mosaicing (CFA) system |
CN106357967B (zh) * | 2016-11-29 | 2018-01-19 | 广东欧珀移动通信有限公司 | 控制方法、控制装置和电子装置 |
CN106488203B (zh) * | 2016-11-29 | 2018-03-30 | 广东欧珀移动通信有限公司 | 图像处理方法、图像处理装置、成像装置及电子装置 |
JPWO2018105089A1 (ja) * | 2016-12-08 | 2019-10-24 | オリンパス株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP7182907B2 (ja) * | 2017-06-15 | 2022-12-05 | ブラックマジック デザイン ピーティーワイ リミテッド | カメラの画像データ処理方法およびカメラ |
US10951866B2 (en) * | 2017-07-17 | 2021-03-16 | Taiwan Semiconductor Manufacturing Company Ltd. | Image sensor device having color filter arrays and image processing method thereof |
JP7022544B2 (ja) * | 2017-09-13 | 2022-02-18 | キヤノン株式会社 | 画像処理装置及び方法、及び撮像装置 |
GB2568039B (en) * | 2017-10-30 | 2020-10-28 | Imagination Tech Ltd | Systems and methods for processing a stream of data values |
GB2567882B (en) * | 2017-10-30 | 2020-09-16 | Imagination Tech Ltd | Systems and methods for processing a stream of data values |
US11922639B2 (en) * | 2018-06-07 | 2024-03-05 | Dolby Laboratories Licensing Corporation | HDR image generation from single-shot HDR color image sensors |
JP2020043435A (ja) * | 2018-09-07 | 2020-03-19 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
US10853913B2 (en) * | 2019-03-11 | 2020-12-01 | Qualcomm Incorporated | Color filter array pattern conversion |
US10984504B2 (en) * | 2019-06-26 | 2021-04-20 | Intel Corporation | Advanced demosaicing with angle compensation and defective pixel correction |
JP7027023B2 (ja) * | 2020-03-16 | 2022-03-01 | 任天堂株式会社 | 画像処理装置、画像処理プログラム、画像処理方法および画像処理システム |
-
2017
- 2017-10-23 WO PCT/JP2017/038140 patent/WO2019082232A1/ja active Application Filing
- 2017-10-23 US US16/651,047 patent/US11282168B2/en active Active
- 2017-10-23 JP JP2019549682A patent/JP6840860B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
WO2019082232A1 (ja) | 2019-05-02 |
US11282168B2 (en) | 2022-03-22 |
JPWO2019082232A1 (ja) | 2020-06-11 |
US20200258194A1 (en) | 2020-08-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9875420B2 (en) | Performing object detection in an image | |
JP6213745B2 (ja) | 画像処理方法及び装置 | |
CN1012302B (zh) | 彩色图像显示*** | |
US20170061678A1 (en) | Graphics processing systems | |
CN113989167A (zh) | 基于种子点自生长的轮廓提取方法、装置、设备及介质 | |
JP5006479B1 (ja) | 動き画像領域判定装置またはその方法 | |
US20150271363A1 (en) | Image processing apparatus, image processing method, and non-transitory computer readable medium | |
JP6840860B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
EP3306570A1 (en) | Method and apparatus for processing image data | |
US8355580B2 (en) | Method and system for generating boundary in the process of rasterizing vector graphic as well as method for producing the system | |
CN105184785B (zh) | 图像的轮廓提取方法和轮廓提取装置 | |
CN1311405C (zh) | 图像处理装置 | |
JP7106144B2 (ja) | 画像解析装置 | |
JP7302410B2 (ja) | 画像認識装置、画像認識システム、画像認識方法及びプログラム | |
Happ et al. | Towards distributed region growing image segmentation based on MapReduce | |
JP5757463B2 (ja) | 2次元カラーグラデーション表示装置 | |
US6882444B1 (en) | Image drawing apparatus, image drawing method, and computer-readable recording medium recorded with program for making computer execute image drawing method | |
JP5968497B2 (ja) | 制御方法、システム及びプログラム | |
CN105554487B (zh) | 一种数字图像格式转换的方法及装置 | |
KR101666131B1 (ko) | 서브 픽셀의 패턴을 고려한 벡터 글꼴의 렌더링 방법 | |
CN108776987A (zh) | 一种基于屏幕空间的模型轮廓绘制方法 | |
CN107563973A (zh) | 一种图像处理方法及装置 | |
JP5708303B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
CN108629350A (zh) | 一种识别图片之间相似关系的方法及装置 | |
JP2014052613A (ja) | 表示装置、および、コンピュータプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191225 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210209 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210217 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6840860 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |