JP7020075B2 - 画像処理装置及びプログラム - Google Patents

画像処理装置及びプログラム Download PDF

Info

Publication number
JP7020075B2
JP7020075B2 JP2017224720A JP2017224720A JP7020075B2 JP 7020075 B2 JP7020075 B2 JP 7020075B2 JP 2017224720 A JP2017224720 A JP 2017224720A JP 2017224720 A JP2017224720 A JP 2017224720A JP 7020075 B2 JP7020075 B2 JP 7020075B2
Authority
JP
Japan
Prior art keywords
image
reflection
reflection characteristic
strong reflection
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017224720A
Other languages
English (en)
Other versions
JP2019096044A (ja
Inventor
翔太 鳴海
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2017224720A priority Critical patent/JP7020075B2/ja
Publication of JP2019096044A publication Critical patent/JP2019096044A/ja
Application granted granted Critical
Publication of JP7020075B2 publication Critical patent/JP7020075B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置及びプログラムに関する。
従来から、コンピュータグラフィックス(CG)により物理ベースレンダリングによって現実世界を再現する技術が開発されている。ここで、物理ベースレンダリングとは、光の散乱や反射、吸収等の光学現象を計測してモデル化することをいう。
非特許文献1には、物理ベースレンダリングの一例が記載されている。
E.A.Khan et al. "Image-Based Material Editing" ,インターネット(http://citeseerx.ist.psu.edu/viewdoc/download?rep=rep1&type=pdf&doi=10.1.1.87.1905)
物理ベースレンダリングでは、アルベド(入射光に対する反射光の比:反射能)、反射率、ラフネス、マイクロファセット(法線分布)等の複雑なパラメータを用いて計算する必要があるところ、この技術をそのまま2次元画像に適用することは困難である。
一般に、2次元画像の質感を再現する方法には、
(1)反射特性を考慮せずに、ヒストグラムの歪度等の統計的な計算を用いる
(2)反射特性を考慮するが、CGほど厳密に反射特性を用いない
の2つのパターンがある。ここで、反射特性は、具体的には反射率分布関数(BRDF:(Bidirectional Reflectance Distribution Function))であり、反射表面上のある地点に対して、ある方向から素材に光が入射したとき、それぞれの方向へどれだけの光が素材から反射されるかを表す関数である。これら2つのパターンのうち、(2)では、例えば
Figure 0007020075000001
により光沢を再現する。ここで、
Matusik:反射特性
Li’:入射光強度
d・n:法線方向
である。これにより、3次元物体のCGに比べて計算量が削減されるが、反射特性fMatusikは実測のデータを用いる等しているため、十分な改善に至っていない。
本発明の目的は、反射特性を考慮しつつも、実測して得られる反射特性を用いる場合に比べてより簡易に質感を表現し得る技術を提供することにある。
請求項1に記載の発明は、原画像を構成する画素毎の画素値の傾きを算出する傾き算出部と、前記傾き毎の反射特性を規定する反射特性マップを用いて、算出された前記傾きに応じた反射強度を算出することで相対的に強反射領域を有する強反射画像を生成する強反射画像生成部と、前記原画像と前記強反射画像を合成して質感再現画像を生成する合成画像生成部と、前記質感再現画像を表示する表示部と、前記原画像の画素値をガンマ補正する補正部と、を備え、前記合成画像生成部は、ガンマ補正された前記原画像と前記強反射画像を合成する画像処理装置である。
請求項2に記載の発明は、前記傾き算出部は、前記傾きとして法線ベクトルを算出し、前記法線ベクトルの成分をRGB値に変換することで前記原画像から法線画像を生成し、前記強反射画像生成部は、前記法線画像と前記反射特性マップを用いて前記強反射画像を生成する請求項1に記載の画像処理装置である。
請求項3に記載の発明は、前記反射特性マップは、利用者が調整可能である請求項1,2のいずれかに記載の画像処理装置である。
請求項4に記載の発明は、前記反射特性マップは、利用者が複数の反射特性マップの中から選択可能である請求項1,2のいずれかに記載の画像処理装置である。
請求項5に記載の発明は、前記反射特性マップは、利用者が複数の反射特性マップを組合せて構成可能である請求項1,2のいずれかに記載の画像処理装置である。
請求項6に記載の発明は、前記反射特性マップは、少なくとも1つ以上のガウシアン分布である請求項1,2のいずれかに記載の画像処理装置である。
請求項7に記載の発明は、前記ガウシアン分布の平均値と分散の少なくともいずれかは利用者が調整可能である請求項に記載の画像処理装置である。
請求項8に記載の発明は、前記強反射画像をフィルタ処理するフィルタ処理部をさらに備え、前記合成画像生成部は、前記原画像とフィルタ処理された前記強反射画像を合成する請求項1,2のいずれかに記載の画像処理装置である。
請求項9に記載の発明は、前記フィルタ処理は、前記強反射領域の強調処理である請求項8に記載の画像処理装置である。
請求項10に記載の発明は、前記フィルタ処理は、前記強反射領域のぼかし処理である請求項8に記載の画像処理装置である。
請求項11に記載の発明は、前記ガンマ補正のガンマ値は利用者が調整可能である請求項に記載の画像処理装置である。
請求項12に記載の発明は、前記ガンマ補正のガンマ値は、前記強反射領域の面積に応じて設定される請求項に記載の画像処理装置である。
請求項13に記載の発明は、前記ガンマ補正のガンマ値は、前記強反射領域の面積が大なるほど前記原画像が暗くなるように設定される請求項12に記載の画像処理装置である。
請求項14に記載の発明は、前記強反射画像生成部は、異なる前記反射特性マップを用いて異なる前記強反射画像を生成し、前記合成画像生成部は、異なる前記強反射画像を用いて異なる質感再現画像を生成し、前記表示部は、異なる前記質感再現画像を表示する請求項1,2のいずれかに記載の画像処理装置である。
請求項15に記載の発明は、コンピュータに、原画像を入力するステップと、前記原画像を構成する画素毎の画素値の傾きを算出するステップと、前記傾き毎の反射特性を規定する反射特性マップを用いて算出された前記傾きに応じた反射強度を算出することで相対的に強反射領域を有する強反射画像を生成するステップと、前記原画像の画素値をガンマ補正するステップと、ガンマ補正された前記原画像と前記強反射画像を合成して質感再現画像を生成するステップと、前記質感再現画像を表示部に表示するステップとを実行させるプログラムである。
請求項1,2,15に記載の発明によれば、反射特性を考慮しつつも、実測して得られる反射特性を用いる場合に比べてより簡易に原画像の質感を表現し得る。
請求項3-5に記載の発明によれば、さらに、利用者の操作により多様な質感を表現し得る。
請求項6に記載の発明によれば、さらに、簡易に反射特性マップを規定し得る。
請求項7に記載の発明によれば、さらに、平均値と分散の少なくともいずれかにより多様な質感を表現し得る。
請求項8-10に記載の発明によれば、さらに、フィルタ処理により多様な質感を表現し得る。
請求項11,12に記載の発明によれば、さらに、ガンマ補正により多様な質感を表現し得る。
請求項13に記載の発明によれば、さらに、コントラストを高めた質感を表現し得る。
請求項14に記載の発明によれば、さらに、異なる質感を表現してこれらを表示し得る。
実施形態の機能ブロック図である。 実施形態の構成ブロック図である。 画素傾き方向算出の模式図である。 反射特性マップの一例を示す説明図である。 強反射画像生成の模式図である。 質感再現画像生成の模式図である。 反射特性マップの他の例を示す説明図である。 反射特性マップのさらに他の例を示す説明図である。 反射特性マップのさらに他の例を示す説明図である。 他の実施形態の機能ブロック図である。 さらに他の実施形態の機能ブロック図である。 さらに他の実施形態の機能ブロック図である。 さらに他の実施形態の処理フローチャートである。
以下、図面に基づき本発明の実施形態について説明する。
<実施形態1>
1.構成
図1は、実施形態における画像処理装置の機能ブロック図を示す。実施形態の画像処理装置は、原画像の質感を表現する質感表現装置として機能する。質感表現装置は、画素傾き方向算出部12と、反射特性生成部14と、強反射画像生成部16と、質感再現部18と、表示部20を備える。
画素傾き方向算出部12は、原画像10を入力し、原画像の画素毎に傾き方向を算出することで原画像10の法線画像を生成する。画素傾き方向算出部12は、生成した法線画像を強反射画像生成部16に出力する。
反射特性生成部14は、反射特性マップを生成して強反射画像生成部16に出力する。反射特性生成部14は、予め記憶された反射特性マップを読み出して出力してもよく、あるいは操作者からの操作指示に応じて反射特性マップを生成して出力してもよい。
強反射画像生成部16は、法線画像と反射特性マップを用いて相対的に強反射領域を有する強反射画像を生成する。強反射画像生成部16は、生成した強反射画像を質感再現部18に出力する。
質感再現部18は、合成画像生成部として機能し、原画像10と強反射画像を合成することで原画像10の質感を再現した質感再現画像を生成して表示部20に出力する。表示部20は、生成された質感再現画像を表示する。
図1に示す機能ブロックは、具体的にはコンピュータで実現され得る。
図2は、質感表現装置の具体的な構成を示す。質感表現装置は、プロセッサ30a、ROM30b、RAM30c、入出力インターフェイス(I/F)30d、通信I/F30e、記憶装置30f及びディスプレイ30gを備える。
1又は複数のプロセッサ30aは、ROM30bやHDD、SSD等に記憶された処理プログラムを読み出して実行し、RAM30cをワーキングメモリとして用いることで図1の各部の機能、具体的には画素傾き方向算出部12、反射特性生成部14、強反射画像生成部16、及び質感再現部18を実現する。プロセッサ30aは、CPU又はGPUで構成され得る。プロセッサ30aにおける処理を列挙すると、以下の通りである。
(1)原画像10を取得(入力)する。
(2)原画像10を構成する画素毎に、その画素値の傾き方向を法線ベクトルとして算出する。
(3)算出した法線ベクトルを用いて原画像10から法線画像を生成する。
(4)反射特性マップを生成する。
(5)生成された反射特性マップを法線画像に適用して強反射画像を生成する。
(6)原画像10と強反射画像を合成して質感再現画像を生成する。
(7)生成された質感画像をディスプレイ30gに表示する。
なお、(2)の処理は、さらに、原画像10の直交する2方向をx、y方向として、
(2-1)画素値のx方向の傾きベクトルを算出する
(2-2)画素値のy方向の傾きベクトルを算出する
(2-3)x方向の傾きベクトルとy方向の傾きベクトルの外積を演算することで法線ベクトルを算出する
の処理を含む。
また、(4)~(7)の処理は、利用者からの操作指示に応じて繰り返し実行される。すなわち、利用者からの操作指示に応じて反射特性マップを再生成し、再生成された反射特性マップを法線画像に適用して強反射画像を再生成し、原画像10と再生成された強反射画像を合成して質感再現画像を再生成し、再生成された質感画像をディスプレイ30gに再表示する。
入出力I/F30dは、原画像10を入力してプロセッサ30aに出力する。
通信I/F30eは、ネットワークを介して外部のサーバとデータを送受信する。プロセッサ30aは、外部のサーバにアクセスして原画像10を取得してもよい。
記憶装置30fは、HDDやSSD等で構成され、1又は複数の反射特性マップを記憶する。
ディスプレイ30gは、質感再現画像を表示する。なお、利用者からの操作指示に応じて反射特性マップを再生成して質感再現画像を再生成した場合、再生成された複数の質感再現画像を並列表示してもよい。また、反射特性マップと組にして質感再現画像を表示してもよい。例えば、第1の反射特性マップを用いて第1の質感再現画像が生成され、第2の反射特性マップを用いて第2の質感再現画像が生成された場合、第1の反射特性マップに関連付けて第1の質感再現画像を表示するとともに、第2の反射特性マップに関連付けて第2の質感再現画像を表示する等である。ディスプレイ30gは、原画像10と法線画像と反射特性マップと強反射画像と質感再現画像を互いに関連付けて表示してもよい。
2.法線画像
図3は、画素傾き方向算出部12で生成される画素傾き方向の生成処理、すなわち法線画像の生成処理を模式的に示す。
図3において、原画像10の互いに直交する2つの方向をx方向及びy方向とし、各画素の画素値をx方向及びy方向に直交するz方向の高さで表現する。言い換えれば、黒が低く、白が高くなるような高低を表すハイトマップ(Heigh Map)で表現する。
そして、図3(a)に示すように、ある画素100に注目した場合に、その画素100におけるx方向の画素値の傾きを算出するとともに、図3(b)に示すように、画素100におけるy方向の画素値の傾きを算出する。
いま、注目する画素100の画素値をP(x、y)とし、x方向に隣接する画素の画素値をP(x+1,y)、y方向に隣接する画素の画素値をP(x,y+1)とすると、x方向の傾きは、
Δx(x,y)=P(x+1,y)-P(x,y)
であり、y方向の傾きは、
Δy(x,y)=P(x、y+1)-P(x,y)
である。
次に、x方向の傾きΔxを成分とするx方向傾きベクトル102xと、y方向の傾きΔyを成分とするy方向傾きベクトル102yの外積を算出することで、注目する画素100の法線ベクトル102が算出される。図3(c)は、注目する画素100の法線ベクトル102を例示する。
以上の処理を原画像10を構成する全ての画素について実行し、全ての画素についてその法線ベクトルを算出する。
画素毎に法線ベクトルを算出した後、画素傾き方向算出部12は、画素毎の法線ベクトルの成分をRGB座標系に変換して法線画像を生成する(法線マッピング)。法線マッピングは公知であり、3次元CGにおけるバンプマッピング的技法の一種であり、追加のポリゴンを使わずに詳細な見た目を実現する方法であり、より詳細なオブジェクトの法線ベクトルのx、y、z座標に対応したRGB画像を意味する。
例えば、法線ベクトル(x、y、z)のx成分を-1≦x≦1、y成分を-1≦y≦1、z成分を0≦z≦1とし、赤成分Rの0~255(8ビット)の値を法線ベクトルのx成分の-1.0~1.0に対応させ、緑色成分Gの0~255の値を法線ベクトルのy分の-1.0~1.0に対応させ、青色成分Bの0~255の値を、法線ベクトルのz成分の0~1.0に対応させて変換する。これにより、原画像10のうち、注目画素100が黒で、その周囲の画素も黒の場合、法線ベクトルは(0,0,1)となり、これをRBGに変換すると(R,G,B)=(128,128,255)となる。これは青紫色に相当する。法線マッピングを行うと、原画像10における色の変化量が多いほど凹凸が深くなり、また、変化する距離が近いほど凹凸が細かくなる。
3.反射特性マップ
図4は、反射特性生成部14で生成される反射特性マップ200の一例を示す。反射分布は、物体の材質(表面凹凸等)で異なるが、物体表面で反射した光は拡散光と正反射光で簡易的に表現し得る。反射特性生成部14は、例えば1又は複数のガウシアン分布を用いた反射特性マップを生成する。
図において、反射特性マップ200は2次元マップとして表現される。横方向はx方向の角度0°~180°、縦方向はy方向の角度0°~180°を示し、(x方向角度、y方向角度)毎の反射強度を色分けして示す。図において、x方向の角度が90°に近づくほど、及びy方向の角度が90°に近づくほど反射強度が高くなることを示す。法線画像の法線ベクトルのx方向、y方向の角度から、図4に示す反射特性マップ200を参照することで、法線ベクトルに対応した画素値が得られる。反射特性マップ200は、実測して得られたものではなく、任意に設定可能である。
記憶装置30fには、予め1又は複数の反射特性マップ200が記憶されており、利用者はこれらの反射特性マップ200を任意に選択し得る。例えば、プロセッサ30aは、記憶装置30fに記憶された1又は複数の反射特性マップ200をディスプレイ30gに表示して利用者の選択に供する。プロセッサ30aは、利用者が操作指示することにより所望の反射特性マップを選択すると、選択された反射特性マップ200を用いて法線ベクトルを対応する画素値に変換する。
4.強反射画像
強反射画像生成部16は、法線画像と反射特性マップ200から強反射画像を生成する。具体的には、既述したように、プロセッサ30aは、法線画像の法線ベクトルのx方向、y方向の角度から、図4に示す反射特性マップ200を参照することで、法線ベクトルに対応した画素値を生成する。
図5は、法線画像から図4に示す反射特性マップ200を用いて生成される強反射画像の一例を示す。図5(a)は法線画像であり、図5(b)は反射特性マップ200を適用して変換した画像である。反射特性マップ200により、特定の法線ベクトルについて相対的に強い反射強度が与えられ、別の法線ベクトルについて相対的に弱い反射強度が与えられる。その結果、法線画像のうち、特定の法線ベクトル部分について反射強度が強くなる。図5(b)において、一部の強反射部分を領域40,42が実線で示されている。
5.質感再現
質感再現部18は、原画像10と強反射画像とを合成することで質感再現画像を生成する。具体的には、プロセッサ30aは、原画像10をRAM30cに格納し、生成した強反射画像をRAM30cに格納し、これらの画像をRAM30cから読み出して合成することで質感再現画像を生成する。
図6は、質感再現画像の一例を示す。図6(a)が原画像10であり、図6(b)は強反射画像である。質感再現部18は、原画像10と強反射画像を合成することで、図6(c)に示す質感再現画像を生成する。すなわち、質感再現部18は、原画像10に対し、反射特性マップ200により生成された強反射領域を付加することで原画像10の質感を再現する。
実施形態において、強反射画像は、原画像10の法線画像と反射特性マップ200から生成される点に留意すべきである。法線画像により色の変化が凹凸として表現され、当該凹凸から反射特性マップ200を用いて強反射領域を抽出することで、2次元の原画像10に質感が付与される。
また、2次元の原画像10との合成をせずに、強反射画像をそのまま再現画像として表示部で表示してもよい。原画像10と強反射画像を合成して表示するか、強反射画像をそのまま表示するかを利用者が選択可能に構成してもよい。
強反射領域は、原画像10の法線画像から反射特性マップ200を用いて生成されるから、反射特性マップ200を変化させることで強反射領域も変化し、結果として質感再現画像の質感も変化し得る。
図7は、複数の反射特性マップ202,204,206の例を示す。反射特性マップ202,204,206は、図4に示すように基本的にはx、y方向の角度の二次元マップであるが、ここでは簡易的にx方向の角度の一次元マップとして示す。一次元マップから二次元マップは容易に生成し得る。
図7(a)は、相対的にx方向の角度に対して平坦なガウシアン分布の反射特性マップ202を示す。図において、横軸は仰角0°~180°、縦軸は反射率である。反射特性は相対的に平坦であるため、これに応じて強反射領域も緩慢になる。
図7(b)は、相対的に急峻なガウシアン分布の反射特性マップ204を示す。反射特性は相対的に急峻であるため、これに応じて特定の強反射領域が強調される。
図7(c)は、図7(a)に示す反射特性マップ202と、図7(b)に示す反射特性マップ204を合わせた反射特性マップ206を示す。従って、x方向の角度が0°あるいは180°の近傍では反射特性マップ202に示す反射率で強反射領域が原画像10に付加され、x方向の角度が90°近傍では反射特性マップ204に示す反射率で強反射領域が原画像10に付加される。
利用者は、図7(a)、(b)、(c)に示される複数の反射特性マップ202,204,206から任意の反射特性マップを選択して質感再現画像を生成し得る。ガウシアン分布は、平均値μ及び分散σで規定されるから、利用者は、平均値μ、分散σの少なくともいずれかを変化させることで反射特性マップを変化させ、所望の質感再現画像を生成し得る。
例えば、利用者は、分散σをσ →σ →σ (但し、σ >σ >σ )と順次変化させることで反射特性マップを順次変化させ、質感再現画像を順次変化させる。利用者は、質感再現画像を順次変化させ、所望の質感再現画像が得られた場合に当該質感再現画像を操作指示により選択する。プロセッサ30aは、利用者により選択された質感再現画像をそのときの反射特性マップとともに記憶装置30fに記憶する。
なお、プロセッサ30aは、利用者により選択された反射特性マップ、あるいは利用者により選択された反射特性マップと質感再現画像、あるいは原画像10と反射特性マップと質感再現画像を通信I/F30e及びネットワークを介して外部サーバに送信してもよく、外部サーバは質感再現装置から送信された反射特性マップや質感再現画像、あるいは原画像を格納してもよい。
このように、実施形態では、実測して得られる反射特性を用いるのではなく、例えばガウシアン分布等の所定の反射特性マップを用い、この反射特性マップを適宜変化させて所望の質感を表現するので、より簡易に原画像10の質感を表現し得る。
<実施形態2>
図8は、本実施形態における質感表現装置の機能ブロック図を示す。図1と異なる点は、強反射領域強調部22が付加されている点である。強反射領域強調部22は、1又は複数のプロセッサ30aが処理プログラムを実行することで実現されるが、ハードウェア回路から構成してもよい。
強反射画像生成部16は、実施形態1と同様に、法線画像と反射特性マップから強反射画像を生成する。強反射画像生成部16は、生成した強反射画像を強反射領域強調部22に出力する。
強反射領域強調部22は、強反射画像をフィルタ処理して強反射領域のエッジを強調する。あるいは、強反射領域強調部22は、強反射画像をフィルタ処理して強反射領域をぼかしてもよい。強反射領域強調部22は、フィルタ処理した強反射画像を質感再現部18に出力する。
本実施形態によれば、強反射領域のエッジを強調し、あるいはぼかすことで、さらに異なる質感(例えば、つるっとした質感)を表現し得る。
<実施形態3>
図9は、本実施形態における質感表現装置の機能ブロック図を示す。図1と異なる点は、画素値補正部24が付加されている点である。画素値補正部24は、1又は複数のプロセッサ30aが処理プログラムを実行することで実現されるが、ハードウェア回路から構成してもよい。
画素値補正部24は、原画像10をフィルタ処理して質感再現部18に出力する。例えば、画素値補正部24は、原画像10の画素値をガンマ補正により暗くする。画素値補正部24は、フィルタ処理した原画像10を質感再現部18に出力する。
質感再現部18は、フィルタ処理された原画像10と強反射画像を合成して質感画像を生成する。原画像10の画素値を暗くすることで、強反射領域とのコントラストが高まり、さらに異なる質感(質感がより強まる)を表現し得る。
画素値補正部24は、強反射画像生成部16で生成された強反射画像を取得し、強反射画像の面積に応じて原画像10の暗くする量を変化させてもよい。例えば、強反射画像の面積が大なるほど原画像10をより暗くする等である。具体的には、画素値補正部24における入力値INと補正値OUTを、
OUT=INγ
とし、γの値を強反射画像の面積が大なるほど大きくなるように設定する。これにより、強反射領域とのコントラストがさらに高まり、質感がより強まる。
<実施形態4>
実施形態1、実施形態2、及び実施形態3を組み合わせてもよい。
図10は、本実施形態における質感再現装置の機能ブロック図を示す。図1に示される機能ブロック図に対し、実施形態2における強反射領域強調部22、及び実施形態3における画素値補正部24が付加される。利用者は、反射特性マップ、強反射領域強調部22におえるフィルタ処理、画素値補正部24におけるフィルタ処理の少なくともいずれかを調整することで、多様な質感再現画像を生成し得る。
図11は、図10の構成における処理フローチャートを示す。
まず、画素傾き方向算出部12は、原画像10を取得する(S101)。
次に、画素傾き方向算出部12は、原画像の画素毎に法線ベクトルを算出する(S102)。具体的には、x方向の傾きベクトルとy方向の傾きベクトルを算出し、これらの外積を演算することで法線ベクトルを算出する。
次に、画素傾き方向算出部12は、法線ベクトルから法線画像を生成する(S103)。すなわち、画素毎の法線ベクトルの成分(x、y、z)をRGB値に変換する。なお、画素傾き方向算出部12は、生成された法線画像を表示部20に表示してもよい。
次に、反射特性生成部14は、反射特性マップを生成する(S104)。反射特性マップは、予め記憶装置30fに記憶されている反射特性マップをそのまま用いてもよく、利用者からの操作指示により予め記憶されている反射特性マップを変化させて生成してもよい。反射特性マップの変化の一例は、図7Cに示すような複数の反射特性マップの組合せである。また、他の例は、利用者によるガウシアン分布の平均値μと分散σの少なくともいずれかの調整である。外部サーバに複数の反射特性マップの候補が格納されており、質感再現装置は外部サーバにアクセスしてこれらの反射特性マップ候補を外部サーバからダウンロードして表示部20に表示し、利用者が所望の反射特性マップを選択することによって反射特性マップを生成してもよい。
次に、強反射画像生成部16は、法線画像と反射特性マップから強反射画像を生成する(S105)。強反射画像生成部16は、生成した強反射画像を表示部20に表示してもよい。
次に、強反射領域強調部22は、強反射領域に対してフィルタ処理を施して強反射領域を所望の態様で強調する(S106)。利用者は、どのようなフィルタ処理を施すかを選択し得る。強反射領域強調部22は、表示部20に各種フィルタを表示して利用者が所望のフィルタ処理を選択できるように構成してもよい。
次に、画素値補正部24は、原画像の画素値をガンマ補正する(S107)。利用者は、ガンマ補正時のガンマ(γ)の値を選択し得る。また、画素値補正部24は、強反射画像における強反射領域の面積に応じてガンマ値を設定してもよい。画素値補正部24は、画素値を補正した原画像10を表示部20に表示してもよい。
次に、質感再現部18は、画素値補正された原画像10と、強反射領域が強調された強反射画像とを合成して質感再現画像を生成する(S108)。質感再現部18は、生成した質感再現画像を表示部20に表示する(S109)。
次に、質感再現装置は、生成された質感再現画像が要求を満たすか否かを判定する(S110)。具体的には、プロセッサ30aが利用者からの入力に応じて要求を満たすか否かを判定する。表示部20に表示された質感再現画像に満足する場合には利用者はその旨、例えばYESを入力する。他方、利用者が質感再現画像に満足しない場合には利用者はその旨、例えばNOを入力する。要求を満たさない場合、S104以降の処理を繰り返し、反射特性マップ、強反射領域のフィルタ処理、原画像の画素値補正の少なくともいずれかを変化させて質感再現画像を再生成して表示部20に表示する。
図11の処理フローチャートにおいて、S106及びS107の処理をスキップする場合は実施形態1に相当し、S107の処理をスキップする場合は実施形態2に相当し、S106の処理をスキップする場合は実施形態3に相当する。
以上、本発明の実施形態について説明したが、本発明はこれらの実施形態に限定されず、種々の変形が可能である。
例えば、実施形態では、反射特性マップとしてガウシアン分布を例示したが、これに限定されるものではなく、任意の関数あるいはテーブルを用いて反射特性マップを生成し得る。
また、実施形態では、図3に示す注目画素100のx方向の傾きベクトル102x及びy方向の方向きベクトル102yを、
Δx=P(x+1,y)-P(x,y)
Δy=P(x,y+1)-P(x,y)
として算出しているが、x方向の傾きとしてy方向に隣接する画素のx方向の傾きの平均
Δx={Δx(x,y-1)+Δx(x,y)+Δx(x,y+1)}/3
として算出してもよく、y方向の傾きとしてx方向に隣接する画素のy方向の傾きの平均
Δy={Δy(x-1,y)+Δy(x,y)+Δy(x+1,y)}/3
として算出してもよい。ここで、
Δx(x,y-1):注目画素(x,y)に隣接する画素(x,y-1)のx方向傾き
Δx(x,y):注目画素(x,y)のx方向傾き(平均算出前)
Δx(x,y+1):注目画素(x,y)に隣接する画素(x,y+1)のx方向傾き
Δy(x-1,y):注目画素(x,y)に隣接する画素(x-1,y)のy方向傾き
Δy(x,y):注目画素(x,y)のy方向傾き(平均算出前)
Δy(x+1,y):注目画素(x,y)に隣接する画素(x+1,y)のy方向傾き
である。
さらに、実施形態では、反射特性マップとして図4に示す反射特性マップ200、あるいは図7A,図7B,図7Cに示す反射特性マップ202,204,206を示したが、反射特性マップは画素毎の画素値の傾き、すなわち法線ベクトルの向きと反射強度との関係を規定すればよく、関数形式であってもテーブル形式であってもよい。
10 原画像、12 画素傾き方向算出部、14 反射特性生成部、16 強反射画像生成部、18 質感再現部、20 表示部、102 法線ベクトル、200,202,204,206 反射特性マップ。

Claims (15)

  1. 原画像を構成する画素毎の画素値の傾きを算出する傾き算出部と、
    前記傾き毎の反射特性を規定する反射特性マップを用いて、算出された前記傾きに応じた反射強度を算出することで相対的に強反射領域を有する強反射画像を生成する強反射画像生成部と、
    前記原画像と前記強反射画像を合成して質感再現画像を生成する合成画像生成部と、
    前記質感再現画像を表示する表示部と
    前記原画像の画素値をガンマ補正する補正部と、
    を備え、前記合成画像生成部は、ガンマ補正された前記原画像と前記強反射画像を合成する
    画像処理装置。
  2. 前記傾き算出部は、前記傾きとして法線ベクトルを算出し、前記法線ベクトルの成分をRGB値に変換することで前記原画像から法線画像を生成し、
    前記強反射画像生成部は、前記法線画像と前記反射特性マップを用いて前記強反射画像を生成する
    請求項1に記載の画像処理装置。
  3. 前記反射特性マップは、利用者が調整可能である
    請求項1,2のいずれかに記載の画像処理装置。
  4. 前記反射特性マップは、利用者が複数の反射特性マップの中から選択可能である
    請求項1,2のいずれかに記載の画像処理装置。
  5. 前記反射特性マップは、利用者が複数の反射特性マップを組合せて構成可能である
    請求項1,2のいずれかに記載の画像処理装置。
  6. 前記反射特性マップは、少なくとも1つ以上のガウシアン分布である
    請求項1,2のいずれかに記載の画像処理装置。
  7. 前記ガウシアン分布の平均値と分散の少なくともいずれかは利用者が調整可能である
    請求項に記載の画像処理装置。
  8. 前記強反射画像をフィルタ処理するフィルタ処理部をさらに備え、
    前記合成画像生成部は、前記原画像とフィルタ処理された前記強反射画像を合成する
    請求項1,2のいずれかに記載の画像処理装置。
  9. 前記フィルタ処理は、前記強反射領域の強調処理である
    請求項8に記載の画像処理装置。
  10. 前記フィルタ処理は、前記強反射領域のぼかし処理である
    請求項8に記載の画像処理装置。
  11. 前記ガンマ補正のガンマ値は利用者が調整可能である
    請求項に記載の画像処理装置。
  12. 前記ガンマ補正のガンマ値は、前記強反射領域の面積に応じて設定される
    請求項に記載の画像処理装置。
  13. 前記ガンマ補正のガンマ値は、前記強反射領域の面積が大なるほど前記原画像が暗くなるように設定される
    請求項12に記載の画像処理装置。
  14. 前記強反射画像生成部は、異なる前記反射特性マップを用いて異なる前記強反射画像を生成し、
    前記合成画像生成部は、異なる前記強反射画像を用いて異なる質感再現画像を生成し、
    前記表示部は、異なる前記質感再現画像を表示する
    請求項1,2のいずれかに記載の画像処理装置。
  15. コンピュータに、
    原画像を入力するステップと、
    前記原画像を構成する画素毎の画素値の傾きを算出するステップと、
    前記傾き毎の反射特性を規定する反射特性マップを用いて算出された前記傾きに応じた反射強度を算出することで相対的に強反射領域を有する強反射画像を生成するステップと、
    前記原画像の画素値をガンマ補正するステップと、
    ガンマ補正された前記原画像と前記強反射画像を合成して質感再現画像を生成するステップと、
    前記質感再現画像を表示部に表示するステップと、
    を実行させるプログラム。
JP2017224720A 2017-11-22 2017-11-22 画像処理装置及びプログラム Active JP7020075B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017224720A JP7020075B2 (ja) 2017-11-22 2017-11-22 画像処理装置及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017224720A JP7020075B2 (ja) 2017-11-22 2017-11-22 画像処理装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2019096044A JP2019096044A (ja) 2019-06-20
JP7020075B2 true JP7020075B2 (ja) 2022-02-16

Family

ID=66971769

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017224720A Active JP7020075B2 (ja) 2017-11-22 2017-11-22 画像処理装置及びプログラム

Country Status (1)

Country Link
JP (1) JP7020075B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009098925A (ja) 2007-10-17 2009-05-07 Sony Corp 画像処理装置、画像処理方法、および、プログラム
JP2009147754A (ja) 2007-12-14 2009-07-02 Canon Inc 画像処理装置およびその方法
JP2013131499A (ja) 2011-12-20 2013-07-04 Lg Innotek Co Ltd ライトユニット及びそれを用いた照明システム
JP2014006658A (ja) 2012-06-22 2014-01-16 Nippon Telegr & Teleph Corp <Ntt> 陰影情報導出装置、陰影情報導出方法及びプログラム
WO2014102878A1 (ja) 2012-12-27 2014-07-03 パナソニック株式会社 画像処理装置及び画像処理方法
JP2017204673A (ja) 2016-05-09 2017-11-16 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009098925A (ja) 2007-10-17 2009-05-07 Sony Corp 画像処理装置、画像処理方法、および、プログラム
JP2009147754A (ja) 2007-12-14 2009-07-02 Canon Inc 画像処理装置およびその方法
JP2013131499A (ja) 2011-12-20 2013-07-04 Lg Innotek Co Ltd ライトユニット及びそれを用いた照明システム
JP2014006658A (ja) 2012-06-22 2014-01-16 Nippon Telegr & Teleph Corp <Ntt> 陰影情報導出装置、陰影情報導出方法及びプログラム
WO2014102878A1 (ja) 2012-12-27 2014-07-03 パナソニック株式会社 画像処理装置及び画像処理方法
JP2017204673A (ja) 2016-05-09 2017-11-16 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
JP2019096044A (ja) 2019-06-20

Similar Documents

Publication Publication Date Title
JP4945642B2 (ja) 3d画像の色補正の方法及びそのシステム
US10424112B2 (en) Mesh boundary smoothing
US20170084068A1 (en) Apparatus and method for adjusting brightness of image
KR101671185B1 (ko) 렌더링을 위한 빛 및 질감 추출 장치 및 방법, 그리고, 빛 및 질감을 이용한 렌더링 장치
US8665258B2 (en) Generating a depth map based on a single image
US8281281B1 (en) Setting level of detail transition points
US6573889B1 (en) Analytic warping
JP2002183761A (ja) 画像生成の方法および装置
CN107967707B (zh) 用于处理图像的设备和方法
Hincapié-Ramos et al. SmartColor: Real-time color correction and contrast for optical see-through head-mounted displays
JP2006215756A (ja) 画像処理装置および画像処理方法ならびにそのプログラム
JP2007264722A (ja) 画像処理装置
US8854392B2 (en) Circular scratch shader
US11657478B1 (en) Systems and methods for dynamically rendering three-dimensional images with varying detail to emulate human vision
US20190156561A1 (en) Image processing device and method therefor
JP7020075B2 (ja) 画像処理装置及びプログラム
US10096153B2 (en) Image processing apparatus, image processing system, image processing method, and non-transitory computer readable medium
JP2016071733A (ja) 画像処理装置および画像処理方法
US8086060B1 (en) Systems and methods for three-dimensional enhancement of two-dimensional images
US9858654B2 (en) Image manipulation
US11941782B2 (en) GPU-based lens blur rendering using depth maps
KR101189687B1 (ko) 3차원 캐릭터의 생성 방법
JP2015087811A (ja) 画像処理装置、画像処理方法、プログラム、及び、記録媒体
WO2023181904A1 (ja) 情報処理装置、情報処理方法および記録媒体
JP7116767B2 (ja) 画像処理装置およびその方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211026

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220117

R150 Certificate of patent or registration of utility model

Ref document number: 7020075

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150