JP6039527B2 - 動画生成装置、動画生成方法及び動画生成プログラム - Google Patents

動画生成装置、動画生成方法及び動画生成プログラム Download PDF

Info

Publication number
JP6039527B2
JP6039527B2 JP2013217364A JP2013217364A JP6039527B2 JP 6039527 B2 JP6039527 B2 JP 6039527B2 JP 2013217364 A JP2013217364 A JP 2013217364A JP 2013217364 A JP2013217364 A JP 2013217364A JP 6039527 B2 JP6039527 B2 JP 6039527B2
Authority
JP
Japan
Prior art keywords
image
control point
area
processing target
vibration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013217364A
Other languages
English (en)
Other versions
JP2015079426A (ja
Inventor
翔平 崎山
翔平 崎山
誠 岡部
誠 岡部
理紀夫 尾内
理紀夫 尾内
廣美 平野
廣美 平野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rakuten Group Inc
Original Assignee
Rakuten Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Rakuten Inc filed Critical Rakuten Inc
Priority to JP2013217364A priority Critical patent/JP6039527B2/ja
Priority to US14/517,314 priority patent/US9692974B2/en
Publication of JP2015079426A publication Critical patent/JP2015079426A/ja
Application granted granted Critical
Publication of JP6039527B2 publication Critical patent/JP6039527B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/24Fluid dynamics

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、動画生成装置、動画生成方法及び動画生成プログラムに関する。
料理を撮影した料理画像をユーザに美味しそうに見せるために、料理画像を加工する技術が知られている(例えば、非特許文献1参照)。この技術では、料理画像の色相が変換される。
SnapDish Food Camera、[online]、[2013年10月8日検索]、インターネット<URL: https://itunes.apple.com/us/app/snapdish-food-camera-cook/id439571223>
葉野菜、肉等の具材及び汁が入っている鍋等が表された料理の画像を美味しそうに見えるように撮影したいといった要請がある。しかしながら、具材は、加熱されることにより鍋の中等で揺れていると美味しく見える。具材の周りの汁等の液体が沸騰していれば具材が揺れている状態となるが、具材は、加熱されるに従い色や形状が変化してしまうので、具材の色及び形状といった観点では、高温の加熱される前や加熱中の短い時間の方が美味しく見える。さらに、料理中の動画を撮影するために、加熱中の様子を動画により撮影すると、その撮影に用いた具材を用いて再び撮影することはできない。このため、具材及び汁や油等の液体の両方が美味しく見える料理画像を撮影するのは困難である。
そこで本発明は、料理に含まれる具材及び液体の両方が美味しく見えるタイミングで撮影できなかった場合であっても、両方が美味しそうに見える料理画像を容易に得ることを目的とする。
上記課題を解決するために、本発明の一形態に係る動画生成装置は、加工対象の画像である加工対象画像を取得する画像取得手段と、加工対象画像内における処理対象のオブジェクトが表されたオブジェクト領域を特定する領域情報を取得する領域情報取得手段と、オブジェクトの形状と、該オブジェクトが振動される際に位置が固定される部分を示す固定制御点、該固定制御点に対して振動される部分を示す振動制御点及び該振動制御点が振動される方向を示す振動方向とを対応付けて記憶している記憶手段を参照して、領域情報により特定されるオブジェクト領域の形状に基づき、オブジェクトにおける固定制御点、振動制御点及び振動方向を設定する設定手段と、設定手段により設定された固定制御点、振動制御点及び振動方向に応じて、オブジェクトが振動しているように表示される動画を生成する生成手段と、を備える。
本発明の一形態に係る動画生成方法は、コンピュータにより実行される動画生成方法であって、加工対象の画像である加工対象画像を取得する画像取得ステップと、加工対象画像内における処理対象のオブジェクトが表されたオブジェクト領域を特定する領域情報を取得する領域情報取得ステップと、オブジェクトの形状と、該オブジェクトが振動される際に位置が固定される部分を示す固定制御点、該固定制御点に対して振動される部分を示す振動制御点及び該振動制御点が振動される方向を示す振動方向とを対応付けて記憶している記憶手段を参照して、領域情報により特定されるオブジェクト領域の形状に基づき、オブジェクトにおける固定制御点、振動制御点及び振動方向を設定する設定ステップと、設定ステップにおいて設定された固定制御点、振動制御点及び振動方向に応じて、オブジェクトが振動しているように表示される動画を生成する生成ステップと、を有する。
本発明の一形態に係る動画生成プログラムは、コンピュータに、加工対象の画像である加工対象画像を取得する画像取得機能と、加工対象画像内における処理対象のオブジェクトが表されたオブジェクト領域を特定する領域情報を取得する領域情報取得機能と、オブジェクトの形状と、該オブジェクトが振動される際に位置が固定される部分を示す固定制御点、該固定制御点に対して振動される部分を示す振動制御点及び該振動制御点が振動される方向を示す振動方向とを対応付けて記憶している記憶手段を参照して、領域情報により特定されるオブジェクト領域の形状に基づき、オブジェクトにおける固定制御点、振動制御点及び振動方向を設定する設定機能と、設定機能により設定された固定制御点、振動制御点及び振動方向に応じて、オブジェクトが振動しているように表示される動画を生成する生成機能と、を実現させる。
上記形態によれば、加工対象画像内においてオブジェクト領域を特定する領域情報が取得され、オブジェクト領域において設定された固定制御点、振動制御点及び振動方向に応じてオブジェクトが振動しているように表示される動画が生成される。その動画が加工対象画像に合成されることにより、例えば、加熱状態ではない料理の静止画像における具材をオブジェクトとして振動させるように表示させることができる。従って、加熱状態ではないために色及び形状といった観点で美味しそうに見える状態にある具材が表された領域に対して、加熱状態のような動きを付加することができるので、具材及び液体の両方が美味しく見える料理画像を得ることが可能となる。また、具材が表された領域をオブジェクト領域として指定するといった容易な入力のみに基づき、具材が表されたオブジェクト領域が振動するように表されるので、具材及び液体の両方が美味しそうに見える料理画像を容易に得ることができる。
別の形態に係る動画生成装置では、記憶手段において、オブジェクトの形状を表す矩形状の領域に対して、固定制御点、振動制御点及び振動方向が対応付けられて記憶されており、設定手段は、所定の画像処理により求められたオブジェクト領域の長手方向及び該長手方向に直交する短手方向のそれぞれに平行な辺を有しオブジェクト領域が内接する矩形領域を設定し、記憶手段を参照して、該矩形領域に対して固定制御点、振動制御点及び振動方向を設定することとしてもよい。
この形態によれば、オブジェクト領域が加工対象画像においていかなる向きに配置されていたとしても、固定制御点、振動制御点及び振動方向が適切に設定できる。
さらに別の形態に係る動画生成装置では、設定手段は、オブジェクトについての変形及び非変形のいずれかの属性の指定をユーザから受け付け、変形の属性を受け付けた場合に、オブジェクト領域に対して固定制御点、振動制御点及び振動方向を設定し、生成手段は、設定手段において変形の属性を受け付けた場合に、設定手段により設定された固定制御点、振動制御点及び振動方向に応じて、オブジェクトが振動しているように表示される動画を生成し、設定手段において非変形の属性を受け付けた場合に、オブジェクト領域の形状を保ちながらオブジェクトが振動しているように表示される動画を生成することとしてもよい。
この形態によれば、料理画像において指定されたオブジェクト領域に表された具材の種類に応じた振動の動きを表現することが可能となる。
さらに別の形態に係る動画生成装置では、生成手段は、オブジェクト領域の大きさに応じて、オブジェクトの振動の大きさを制御することとしてもよい。
この形態によれば、オブジェクト領域に表された具材の大きさに応じた大きさの振動を表現することが可能となるので、より現実感のある画像が得られる。
さらに別の形態に係る動画生成装置では、領域情報取得手段は、加工対象画像内における、オブジェクト領域以外の領域であって動きを伴う液体が表された動画である合成用画像を合成する処理対象領域を取得し、当該動画生成装置は、領域情報取得手段により取得された処理対象領域の特徴を示すパラメータに基づき、合成用画像を取得する合成用画像取得手段と、合成用画像取得手段により取得された合成用画像を処理対象領域に合成する合成手段と、を更に備え、生成手段は、オブジェクト領域から所定距離以内の近傍位置の処理対象領域に合成された合成用画像の属性に応じて、オブジェクトの振動の大きさを設定することとしてもよい。
この形態によれば、例えば、料理画像における液体が表された領域に合成された合成用画像の動きの特徴を表す属性に応じて、オブジェクトの振動の大きさが設定されるので、具材近傍の液体の動きに応じた具材の振動を表現した画像が得られる。
本発明の一側面によれば、料理を撮影した静止画像に基づき、料理に含まれる具材及び液体の両方が美味しそうに見える料理画像を容易に得ることが可能となる。
画像生成装置の機能構成を示すブロック図である。 画像生成装置のハードウェア構成を示す図である。 取得部により取得される加工対象画像の例を示す図である。 表示された加工対象画像に対してユーザからの処理対象領域の指定を受け付ける例を示す図である。 領域情報取得部により指定された処理対象領域に基づき生成されたマスクの例を模式的に示す図である。 合成用画像取得部により抽出された各処理対象領域のパラメータを示す図である。 合成用画像の属性の取得に用いられるテーブルの例を示す図である。 処理対象領域に対する合成用画像の配置の仕方を説明する図である。 矩形領域の端部に配置された矩形状の合成用画像の辺が矩形領域の端部の辺に一致しない場合に、矩形領域に配置された全ての合成用画像サイズを拡大又は縮小させて合成する例を説明する図である。 処理対象領域に対する合成用画像の明度成分の合成を概念的に説明する図である。 処理対象領域に合成用画像が合成された加工対象画像の一部を示す図である。 画像生成装置における画像生成方法の処理内容の例を示すフローチャートである。 画像生成プログラムの構成を示す図である。 第2実施形態における画像生成装置の機能構成を示すブロック図である。 形状分類テーブル記憶部の構成及び記憶されているデータの例を示す図である。 領域情報取得部により受け付けられたオブジェクト領域及びその形状の例を示す図である。 オブジェクト領域ごとに指定された変形又は非変形の属性及び形状タイプを記憶するテーブル示す図である。 オブジェクト領域に固定制御点、振動制御点及び振動方向を設定するための矩形領域の設定の例を示す図である。 領域情報取得部により受け付けられたオブジェクト領域ごとの振動の様子を模式的に示す図である。 第2実施形態における画像生成方法の処理内容の例を示すフローチャートである。
以下、添付図面を参照しながら本発明の実施形態を詳細に説明する。なお、図面の説明において同一又は同等の要素には同一の符号を付し、重複する説明を省略する。
(第1実施形態)
図1は、本実施形態に係る画像生成装置1の機能的構成を示すブロック図である。画像生成装置1は、料理を表した静止画像を加工対象画像として、加工対象画像における主として液体が表された処理対象領域に、動きを伴う液体が表された動画である合成用画像を合成して出力する装置である。本実施形態では、加熱された液体に泡が発生している様子を表す動画を合成用画像とし、野菜や肉等の具材及び汁が表された料理画像のうちの汁が表された部分を処理対象領域として、料理画像の汁が表された領域に泡が発生している様子を示す動画が合成される例を説明する。
本実施形態の画像生成装置1は、図1に示すように、機能的には、取得部11(取得手段)、領域情報取得部12(領域情報取得手段)、合成用画像取得部13(特徴取得手段、合成用画像取得手段)、合成部14(合成手段)及び出力部15(出力手段)を含む。また、画像生成装置1の各機能部11〜15は、合成用画像記憶部21といった記憶手段にアクセス可能である。なお、画像生成装置1は、ユーザ端末とネットワークを介して通信可能なサーバに構成されることができる。また、画像生成装置1が、スマートフォン及びパーソナルコンピュータといった装置に構成されることとしてもよい。
図2は、画像生成装置1のハードウェア構成図である。画像生成装置1は、物理的には、図2に示すように、CPU101、RAM及びROMといったメモリにより構成される主記憶装置102、ハードディスク等で構成される補助記憶装置103、ネットワークカード等で構成される通信制御装置104、入力デバイスであるキーボード、マウス等の入力装置105、ディスプレイ等の出力装置106などを含むコンピュータシステムとして構成されている。なお、画像生成装置1がサーバに構成される場合には、画像生成装置1は、入力装置105,出力装置106を含まなくてもよい。
図1に示した各機能部は、図2に示すCPU101、主記憶装置102等のハードウェア上に所定のコンピュータソフトウェア(画像生成プログラム)を読み込ませることにより、CPU101の制御のもとで通信制御装置104、入力装置105、出力装置106を動作させるとともに、主記憶装置102や補助記憶装置103におけるデータの読み出し及び書き込みを行うことで実現される。処理に必要なデータやデータベースは主記憶装置102や補助記憶装置103内に格納される。
まず、画像生成装置1の機能部の説明に先立って、合成用画像記憶部21を説明する。合成用画像記憶部21は、動きを伴う液体が表された動画である合成用画像を記憶している記憶手段である。本実施形態では、合成用画像記憶部21は、加熱された液体に泡が発生する様子を表した動画を合成用画像として複数記憶している。
合成用画像記憶部21に記憶されている合成用画像は、液体の種類、サイズ、再生速度を異ならせた種々のバリエーションを含む。液体の種類としては、例えば、水、醤油、ソース等のバリエーションが含まれ、これらのバリエーションの違いにより、液体の粘度の違いが表現される。また、合成用画像のサイズの違いにより、泡の大きさの違いが表現される。合成用画像の再生速度の違いにより、泡の発生から消滅までの時間が表現される。泡の大きさ及び発生から消滅までの時間は、その料理が加熱されているときの火力の強さに依存する。また、合成用画像は、加熱された液体に発生している泡を異なる角度から撮影した画像を複数含んでもよい。撮影角度の差異により、発生する泡の高さの差異が表現される。
続いて、画像生成装置1の機能部を説明する。取得部11は、加工対象の画像である加工対象画像を取得する部分である。図3は、取得部11により取得される加工対象画像の例を示す図である。図3に示すように、本実施形態では、野菜及び肉等の具材及び汁を含む鍋料理を表す料理画像が加工対象画像として取得される。本実施形態の加工対象画像は静止画像である。
領域情報取得部12は、加工対象画像内における処理対象領域の指定を受け付ける部分である。図4は、表示された加工対象画像に対してユーザからの処理対象領域の指定を受け付ける例を示す図である。図4に示すように、例えば、ユーザは、処理対象とする汁が表された領域に、線を入力することにより、処理対象領域を指定することができる。図4では、ユーザにより入力された線は、実線により示されている。領域情報取得部12は、入力された線に基づき、例えば領域分割器といった周知の画像処理技術により処理対象領域を特定できる。領域情報取得部12は、例えば、線が入力された部分との色の差異の程度が所定値以下の隣接する画素を同領域として認識し、色の差異が所定値を超える画素との境界を領域の境界とすることができる。図4に示すように、領域情報取得部12は、実線で示される線の入力に基づき、処理対象領域Lを取得する。
ここで取得される処理対象領域は、動いている液体を撮影した静止画ではない。即ち、加工対象画像における汁等の液体が表された画像は、加熱されて動きを伴う状態の液体を撮影したものではない。
また、領域情報取得部12は、基準位置Fの指定をユーザからの入力により受け付けることができる。基準位置Fは、料理画像に表された料理が加熱される場合の火元の位置を表すことができる。
また、処理対象領域とは別に、領域情報取得部12は、具材が表された領域であるオブジェクト領域の指定を受け付けることができる。即ち、領域情報取得部12は、具材が表された部分に対するユーザによる線の入力に基づき、具材が表されたオブジェクト領域Sの指定を受け付ける。図4では、オブジェクト領域Sを指定するための線は、1点破線により示されている。具材が表されたオブジェクト領域Sに対する処理については、第2実施形態として後述する。
合成用画像取得部13は、領域情報取得部12により指定を受け付けられた処理対象領域Lの特徴を示すパラメータ(特徴パラメータ)を取得し、取得したパラメータに基づき、処理対象領域に合成する合成用画像を取得する部分である。具体的には、まず、合成用画像取得部13は、加工対象画像における処理対象領域Lを示すマスクを生成する。図5は、領域情報取得部12により指定された処理対象領域L(図4参照)を示すマスクの例を模式的に示す図である。図5に示されるように、11の処理対象領域Lが抽出されている。
続いて、合成用画像取得部13は、抽出された各処理対象領域Lの基準位置Fからの距離及び大きさを算出及び正規化し、各処理対象領域Lのパラメータとして取得する。ここで取得されるパラメータは、液体の動きに影響を与えるものである。基準位置Fから処理対象領域Lまでの距離は、例えば、処理対象領域Lの重心位置を求め、基準位置Fから重心位置までの距離を算出することにより得られる。また、処理対象領域Lの大きさは、例えば、当該処理対象領域Lのピクセル数に基づき求められる。
基準位置Fからの距離のパラメータとしては、「遠い」、「中」、「近い」のいずれかが与えられ、大きさのパラメータとしては、「大」、「中」、「小」のいずれかが与えられる。図6は、合成用画像取得部13により抽出された各処理対象領域Lのパラメータを示す図である。図6に示されるように、処理対象領域L(図5参照)は、領域ID「1」として表され、基準位置Fからの距離「遠い」及び大きさ「大」といったパラメータが対応付けられている。
これらのパラメータは、処理対象領域Lの特徴を示すものであって、処理対象領域Lに表された物の特徴を示すものではない。本実施形態では、処理対象領域Lの特徴を示すパラメータに基づき合成用画像が取得されるので、処理対象領域Lに表された物は、動きを伴う液体であることを要さない。
次に、合成用画像取得部13は、抽出した各処理対象領域Lのパラメータに応じて、その処理対象領域Lに合成する合成用画像の属性(合成用画像情報)を取得する。図7は、合成用画像の属性の取得に用いられるテーブルの例を示す図である。このテーブルは、例えば、合成用画像取得部13が予め有していてもよいし、合成用画像記憶部21等の記憶手段に記憶されていることとしてもよい。合成用画像記憶部21は、例えば、処理対象領域Lの基準位置Fからの距離「遠い」及び大きさ「中」といったパラメータに基づき、図7のテーブルを参照して、サイズ「100%」、再生時素材長「150%」といった合成用画像の属性を取得する。サイズは、基準となる所定の大きさの合成用画像に対する大きさの割合を示し、再生時素材長は、基準となる所定の長さの時間の動画に対する再生時間の割合を示す。即ち再生時素材長の値が大きいほど、遅い再生速度を表す。
なお、本実施形態では、合成用画像取得部13は、処理対象領域Lのパラメータに基づき予め設定されたテーブルを参照して合成用画像の属性を得ることとしたが、数式により得ることとしてもよい。即ち、処理対象領域の大きさをa(i)、基準位置からの距離をd(i)とすると、合成用画像のサイズS(i)及び再生速度V(i)はそれぞれ、式(1)及び式(2)により表される。
Figure 0006039527

Figure 0006039527

合成用画像取得部13がこれらの式を有することにより、図7に示したようなテーブルを予め設定することが不要となる。
なお、後述する合成用画像の処理対象領域Lに対する合成において、合成用画像を処理対象領域に重畳合成するオーバーレイ合成処理(第2の合成処理)が実施される場合には、合成用画像取得部13は、オーバーレイ処理における重畳回数を示す、合成処理における属性である重畳数(合成用画像情報)も取得する。処理対象領域Lに対する合成処理のために、合成用画像取得部13は、重畳数「2」といったパラメータを取得する。
ここで、合成用画像取得部13は、合成用画像の特徴を示すパラメータ(特徴パラメータ)のユーザによる指定をさらに受け付けることとしてもよい。合成用画像の特徴を示すパラメータは、例えば、水、醤油、ソース等の液体の種類を示すものであってもよい。合成用画像記憶部21には、これらの液体それぞれが加熱されて泡が発生している状態を示す動画が、サイズ及び再生時素材長の複数のバリエーションを含んで合成用画像として記憶されている。これらの液体の種類の指定により、液体の粘度の違いが表現される。なお、本実施形態における合成用画像は、液体が加熱されて泡が発生している様子を表す動画であるが、液体の動きが表現された静止画であってもよい。
そして、合成用画像取得部13は、合成用画像記憶部21から、取得した合成用画像の属性に該当する合成用画像を取得する。例えば、合成用画像取得部13は、処理対象領域Lに合成するための合成用画像として、サイズ「100%」、再生時素材長「150%」の属性を有する合成用画像を取得する。また、合成用画像の特徴を示すパラメータがユーザにより指定されている場合には、合成用画像取得部13は、その指定に該当すると共にサイズ「100%」、再生時素材長「150%」の属性を有する合成用画像を取得する。
なお、本実施形態では、合成用画像記憶部21にサイズ及び再生速度を異ならせた合成用画像のバリエーションが記憶されており、それらのバリエーションが有する属性が、合成用画像の属性(合成用画像情報)として合成用画像取得部13により取得されることとしている。これに対して、合成用画像記憶部21にサイズ及び再生速度のバリエーションが記憶されていない場合には、例えば、液体の種類ごとに1つの合成用画像が合成用画像記憶部21に記憶されており、図7に示すテーブルを参照して取得された合成用画像の属性(合成用画像情報)に応じたサイズ及び再生速度の画像が合成用画像取得部13により生成されることとしてもよい。
合成部14は、合成用画像取得部13により取得された合成用画像を処理対象領域に合成する部分である。まず、この合成処理における、処理対象領域Lに対する合成用画像の配置の仕方を、図8を参照して説明する。
合成部14は、図8(a)に示すように、処理対象領域Lが内接する矩形領域Rを設定する。次に、合成部14は、図8(b)に示すように、矩形領域Rに合成用画像Cをグリッド状に配列する。そして、合成部14は、図8(c)に示すように、矩形領域R内における処理対象領域L以外の領域に、合成用画像Cが表示されないようにするためのマスクMをかけて、配列された合成用画像Cを処理対象領域Lに合成する。
また、合成部14は、矩形領域Rの1辺の長さが合成用画像Cの1辺の長さの整数倍に該当しないことに起因して、矩形領域Rの端部に配置された矩形状の合成用画像の辺が矩形領域Rの端部の辺に一致しない場合に、矩形領域Rに配置された全ての合成用画像Cのサイズを拡大又は縮小させて合成する。
具体的には、図9(a)に示すように、矩形領域Rの端部に配列された合成用画像Cの辺が矩形領域Rの端部の辺に一致せず、合成用画像Cの半分以上の領域がRの内部に収まらない場合には、合成部14は、配列された全ての合成用画像Cを拡大して合成用画像Cを得て、配列された合成用画像の辺が矩形領域の辺に一致するように合成する。
また、図9(b)に示すように、矩形領域Rの端部に配列された合成用画像Cの辺が矩形領域Rの端部の辺に一致せず、合成用画像Cの半分以上の領域がRの内部に収まる場合には、合成部14は、配列された全ての合成用画像Cを縮小して合成用画像Cを得て、配列された合成用画像の辺が矩形領域の辺に一致するように合成する。
なお、以上説明した例では、合成用画像Cが配列されて処理対象領域Lに合成されることとしているが、合成部14は、処理対象領域Lが内接する矩形領域Rに合成用画像Cをランダムに配置することとしてもよい。その場合には、処理対象領域L内に合成用画像Cが合成されない領域が生じないように、合成部14は、合成用画像Cが互いに重なる部分を有するように配置してもよい。
次に、合成用画像を処理対象領域に合成する合成処理における色成分の合成について説明する。合成部14は、合成用画像の色成分の合成処理の一つとして、合成用画像取得部13により取得された合成用画像Cの明度成分を処理対象領域Lに付加する合成処理(第1の合成処理)を実施できる。
合成用画像Cは、時間の概念を有する動画であって、時間の経過に伴い画素値が変動する。そして、動画における液体の動きは、明度成分の変動により好適に表現される。即ち、泡の発生及び消滅を表す動画である合成用画像Cの明度成分を処理対象領域Lに合成することにより、その処理対象領域Lに泡が発生及び消滅しているような動画像が得られる。具体的には、合成部14は、合成用画像Cにおける時間に伴う画素ごとの明度の変化を、処理対象領域Lの対応する画素に合成する。図10は、処理対象領域に対する合成用画像の明度成分の合成を概念的に説明する図である。図10(a)には、合成用画像Cの一の画素における明度成分VC1、明度成分VC1の時間平均値VAV及び静止画像である処理対象領域Lにおける対応する画素の明度値Vが示されている。合成部14は、図10(b)に示すように、時間平均値VAVが明度値Vに一致するように、明度成分VC1を明度成分VC2にオフセットさせて、動画である合成用画像Cを処理対象領域Lに合成する。
また、合成部14は、合成用画像の色成分の合成処理の一つとして、処理対象領域Lのパラメータに応じた重畳回数に従って、合成用画像Cを処理対象領域Lに重畳合成する合成処理(第2の合成処理)を実施できる。重畳合成処理のための重畳回数は、例えば、合成用画像取得部13により処理対象領域Lのパラメータに応じて図7に示すテーブルを参照して取得される。泡の発生及び消滅が表された動画である合成用画像Cを処理対象領域Lに重畳合成するに際して、重畳回数を増やすことにより、液体の動きがより明瞭に表される。従って、処理対象領域Lのパラメータに応じた重畳回数により合成用画像Cの重畳合成を行うことにより、処理対象領域Lの属性に適した液体の動きの特徴が表現することが可能となる。
また、合成部14は、合成用画像取得部13により取得された合成用画像Cの色と処理対象領域Lの色との色空間における距離に基づき、合成用画像Cの明度成分を処理対象領域Lに付加する合成処理及び合成用画像Cを処理対象領域Lに重畳合成する合成処理のいずれか一方を実施することとしてもよい。
具体的には、例えば、合成部14は、合成用画像取得部13により取得された合成用画像Cの色を示す画素値の平均値と、処理対象領域Lにおける当該合成用画像Cが重畳される領域に色を示す画素値の平均値との色空間における距離を求める。そして、合成部14は、求められた距離が所定値以下である場合には、合成用画像Cの明度成分を処理対象領域Lに付加する合成処理を実施する。一方、合成部14は、求められた距離が所定値を超える場合には、合成用画像Cを処理対象領域Lに重畳合成する合成処理を実施する。これにより、処理対象領域Lにおける液体の動きをより好適に表すために、より適切な合成処理の選択が可能となる。
なお、合成部14は、処理対象領域Lに合成用画像Cを合成する前に、処理対象領域Lに対して、ぼかし加工をすることとしてもよい。具体的には、合成部14は、処理対象領域Lの画像に対して、いわゆるブラー処理を行うこととしてもよい。また、合成部14は、処理対象領域Lの画像の各画素の色を表す画素値の平均を算出して、算出された平均値を処理対象領域Lの画像の各画素の画素値としてもよい。これらの処理により、より自然な合成画像が得られる。
再び図1を参照して、出力部15は、合成部14により合成用画像Cが合成された加工対象画像を出力する部分である。図11は、処理対象領域Lに合成用画像Cが合成された加工対象画像の一部を示す図である。図11に示すように、出力部15は、図3に示した加工対象画像における処理対象領域Lに、泡が発生している様子を表す合成用画像Cが合成された画像を出力する。このように、静止画像である加工対象画像の一部に動きを伴う液体の動画を合成できるので、基となる加工対象画像に表された料理画像は、加熱されている状態の料理を表したものであることを要さない。従って、加熱状態ではないため美味しそうに見える状態にある具材と、動きを伴うため美味しそうに見える状態にある汁等の液体と、が表された料理画像を出力することが可能となる。
図8及び図9を参照して説明した例では、一の処理対象領域Lに同一の合成用画像Cが1以上配置されて合成される。本実施形態の画像生成装置1では、一の処理対象領域Lに合成用画像を合成するに際して、合成される位置に応じた合成用画像が選択されて合成される例外処理が実施されることとしてもよい。以下に、その具体例を説明する。
処理対象領域Lの大きさが加工対象画像の大きさに対して所定以上の大きさである場合に、合成用画像取得部13は、合成用画像の取得に際して、基準位置Fから処理対象領域Lにおける当該合成用画像が配置される位置までの距離に応じた再生速度及び/又はサイズが設定された合成用画像を取得することとしてもよい。
処理対象領域Lの大きさが加工対象画像の大きさに対して所定以上の大きさを有する場合に、同一の合成用画像Cを処理対象領域Lの全面にわたって配列して合成すると、同一の態様の泡が処理対象領域Lの全面に一様に発生しているような不自然な画像が出力されることとなる。このような不自然さを防止するために、合成部14による合成用画像Cの処理対象領域Lに対する仮の配置を実施した後に、合成用画像取得部13は、基準位置Fから一の合成用画像Cの配置位置までの距離に応じた合成用画像の属性を、基準位置からの距離と合成用画像の属性とを対応付けたテーブル(図7参照)を参照して取得する。そして、取得された属性に該当する合成用画像を合成用画像取得部13が取得し、合成部14は、再取得された合成用画像を当該配置位置に合成する。
また、処理対象領域Lの大きさが加工対象画像の大きさに対して所定以上の大きさである場合に、合成部14は、加工対象画像における基準位置Fから処理対象領域Lにおける当該合成用画像が配置される位置までの距離に応じた重畳回数に従って、当該合成用画像を処理対象領域に重畳合成することとしてもよい。
即ち、合成部14による合成用画像Cの処理対象領域Lに対する仮の配置を実施した後に、合成部14は、基準位置Fから一の合成用画像Cの配置位置までの距離に応じた重畳回数を、基準位置からの距離とオーバーレイ処理における重畳回数とを対応付けたテーブル(図7参照)を参照して取得する。そして、合成部14は、取得された重畳回数に従って、合成用画像を当該配置位置に合成する。
このように、処理対象領域Lの大きさが加工対象画像の大きさに対して所定以上の大きさである場合であっても、料理画像における火元位置に想定される基準位置Fからの距離に応じた合成用画像の選択及び合成を実施することにより、泡の発生といった液体の動きが不自然でない好適な合成用画像が得られる。
また、具材と汁を含む料理が加熱されているときには、汁の具材近傍部分では、具材から一定以上離れている部分より泡の生成が遅いことに鑑みて、処理対象領域Lにおける具材近傍の領域に合成される合成用画像に対して所定の重み付けをすることができる。具体的には、合成部14による合成用画像Cの処理対象領域Lに対する仮の配置を実施した後に、合成用画像取得部13は、処理対象領域Lにおける当該合成用画像が配置される位置が処理対象領域の縁部から所定の距離以内である場合に、当該合成用画像における再生速度及び/又はサイズに対して所定の重み付けが加えられた合成用画像を取得する。例えば、合成用画像取得部13は、仮配置されていた合成用画像よりも、再生時素材長が大きい合成用画像を合成用画像記憶部21から取得する。そして、合成部14は、再取得された合成用画像を当該配置位置に合成する。
また、合成部14は、当該合成用画像を合成する際の重畳回数に対して所定の重み付けを加えることとしてもよい。具体的には、合成部14による合成用画像Cの処理対象領域Lに対する仮の配置を実施した後に、合成部14は、処理対象領域Lの縁部から所定の距離以内に配置された合成用画像に対して、所定量の重みを付加したオーバーレイ合成における重畳回数を設定し、設定した重畳回数に従って当該合成用画像の合成を実施する。このように、処理対象領域Lの具材近傍の領域に適切な重みが付されて合成用画像が合成されるので、処理対象領域の縁部における液体の動きが適切に表された画像が得られる。
次に、図12を参照して、本実施形態の画像生成方法について説明する。図12は、図1に示した画像生成装置1における画像生成方法の処理内容の例を示すフローチャートである。
まず、取得部11は、加工対象の静止画像である加工対象画像を取得する(S1)。次に、領域情報取得部12は、ユーザからの画像の合成モードの選択を受け付ける(S2)。即ち、明度付与アルゴリズム(第1の合成処理)及びオーバーレイ合成(第2の合成処理)のいずれの処理方法により合成するかの選択が受け付けられる。なお、図12に示すフローチャートでは、ユーザから合成モードの選択を明示的に受け付けることとしているが、合成部14により自動的に合成モードが選択されることとしてもよい。
続いて、領域情報取得部12は、加工対象画像内における処理対象領域の指定を受け付ける(S3)。次に、合成用画像取得部13は、加工対象画像における処理対象領域Lを示すマスクを生成する(S4)。そして、合成用画像取得部13は、抽出された各処理対象領域Lの基準位置Fからの距離及び大きさといったパラメータを算出及び取得する(S5)。ここで、合成用画像取得部13は、合成用画像の特徴を示すパラメータのユーザによる指定をさらに受け付けることとしてもよい(S6)。次に、合成用画像取得部13は、処理対象領域をパラメータに基づき分類し、パラメータに応じた合成用画像を仮決定して、合成用画像記憶部21から取得する(S7)。なお、合成モードとしてオーバーレイ合成が選択されている場合には、合成用画像取得部13は、処理対象領域のパラメータに応じた重畳回数も取得する。
合成モードとしてオーバーレイ合成が選択されている場合には、処理手順はステップS8に進められる。一方、合成モードとして明度付与アルゴリズムによる合成が選択されている場合には、処理手順はステップS12に進められる。
ステップS8において、合成部14は、ステップS7において取得された合成用画像を処理対象領域に合成するために仮配置する(S8)。また、合成部14は、ステップS7において取得した重畳回数も仮決定する。ここで、例外処理を実施すべき領域があるか否かが判定される(S9)。例外処理の一つは、加工対象画像の大きさに対して所定以上の大きさを有する処理対象領域が存在する場合に、加工対象画像における基準位置Fからの距離に応じた再生速度及びサイズを有する合成用画像を合成する処理である。また、その他の例外処理は、処理対象領域の縁部に合成される合成用画像に所定に重み付けを施す処理である。例外処理を実施すべき領域があると判定された場合には、合成用画像取得部13及び合成部14は、例外処理を実施する(S10)。そして、合成部14は、ステップS10における例外処理を含めて、処理対象領域に対して合成用画像をオーバーレイ合成する合成処理を実施する(S11)。
一方、ステップS12において、合成部14は、ステップS7において取得された合成用画像を処理対象領域に合成するために仮配置する(S12)。ここで、ステップS9と同様に例外処理を実施すべき領域があるか否かが判定される(S13)。例外処理を実施すべき領域があると判定された場合には、合成用画像取得部13及び合成部14は、例外処理を実施する(S14)。そして、合成部14は、ステップS14における例外処理を含めて、明度付与アルゴリズムによる、処理対象領域に対する合成用画像の合成処理を実施する(S15)。
ステップS16において、ユーザからの指示に基づき、又はシステムにより自動的に、合成処理により得られた画像に対して色調等の調整処理が行われることとしてもよい(S16)。また、ステップS16において、画像に対して音声が付加される処理を実施できる。そして、出力部15は、合成部14により合成用画像が合成された加工対象画像を出力する(S17)。
次に、図13を参照して、コンピュータを画像生成装置1として機能させるための画像生成プログラムを説明する。画像生成プログラムP1は、メインモジュールm10、取得モジュールm11、領域情報取得モジュールm12、合成用画像取得モジュールm13、合成モジュールm14及び出力モジュールm15を備える。
メインモジュールm10は、画像生成処理を統括的に制御する部分である。取得モジュールm11、領域情報取得モジュールm12、合成用画像取得モジュールm13、合成モジュールm14及び出力モジュールm15を実行することにより実現される機能はそれぞれ、図1に示される画像生成装置1の取得部11、領域情報取得部12、合成用画像取得部13、合成部14及び出力部15の機能と同様である。
画像生成プログラムP1は、例えば、CD−ROMやDVD、ROM等の記憶媒体1Dまたは半導体メモリによって提供される。また、画像生成プログラム1Pは、搬送波に重畳されたコンピュータデータ信号として通信ネットワークを介して提供されてもよい。
以上説明した本実施形態の画像生成装置1、画像生成方法及び画像生成プログラムP1によれば、加工対象画像内において処理対象領域Lが受け付けられ、処理対象領域Lの特徴を示すパラメータに関連付けられた合成用画像の属性に基づき取得された合成用画像が処理対象領域Lに合成される。これにより、静止画像である場合を含む加工対象画像の一部である処理対象領域に、動きを伴う液体が表された合成用画像Cが合成されるので、例えば、加熱状態ではない料理の静止画像における静止状態の液体が表された領域に、動きを伴う液体の画像を合成できる。従って、加熱状態ではないため美味しそうに見える状態にある具材と、動きを伴うため美味しそうに見える状態にある液体と、が表された料理画像を得ること可能となる。また、液体の動きに影響を与える特徴パラメータに基づき合成用画像が取得されるので、処理対象領域Lに液体の動きの特徴が表されていることは必ずしも要されない。また、処理対象領域Lの指定といった容易な入力のみに基づき、処理対象領域Lの特徴に基づく適切な合成用画像Cがコンピュータにより取得されるので、具材及び液体の両方が美味しそうに見える料理画像を容易に得ることができる。
(第2実施形態)
図14は、第2実施形態に係る画像生成装置1A(動画生成装置)の機能的構成を示すブロック図である。画像生成装置1Aは、料理を表した画像を加工対象画像として、加工対象画像におけるオブジェクトが表されたオブジェクト領域を特定する領域情報を取得して、オブジェクトが振動しているように表示される動画を生成する装置である。本実施形態では、野菜や肉等の具材及び汁が表された料理画像のうちの具材が表された領域をオブジェクト領域として、加熱により具材が振動されている様子を示す動画が生成される例を説明する。なお、本実施形態では、料理を表した静止画像を加工対象画像としているが、動きが少ない具材の動画像を含む料理画像を加工対象画像としてもよい。
画像生成装置1Aは、機能的には、画像生成装置1が有している取得部11(画像取得手段)、領域情報取得部12A(領域情報取得手段)、合成用画像取得部13、合成部14、出力部15(出力手段)、設定部16(設定手段)及び生成部17(生成手段)を備える。また、設定部16は、形状分類テーブル記憶部22といった記憶手段にアクセス可能である。
取得部11は、加工対象の画像である加工対象画像を取得する部分である。第1実施形態において示したように、取得部11は、図3に示したような、野菜及び肉等の具材及び汁を含む鍋料理を表した料理画像が加工対象画像として取得する。
領域情報取得部12Aは、加工対象画像内における処理対象のオブジェクトが表されたオブジェクト領域を特定する領域情報を取得する部分である。本実施形態では、領域情報取得部12Aは、ユーザによるオブジェクト領域の指定を領域情報として受け付ける。オブジェクト領域の指定の受け付けについて、図4を参照して説明する。第1実施形態において説明したように、領域情報取得部12Aは、処理対象領域を受け付け可能であると共に、具材が表された領域であるオブジェクト領域の指定を受け付けることができる。例えば、領域情報取得部12Aは、具材が表された部分に対するユーザによる線の入力に基づき、具材が表されたオブジェクト領域Sの指定を受け付ける。図4では、オブジェクト領域Sを指定するための線は、1点破線により示されている。なお、領域情報取得部12Aは、例えば、画像の色情報を用いた領域分割といった周知の画像処理技術により特定されたオブジェクト領域を領域情報として取得することとしてもよい。
設定部16は、領域情報取得部12Aにより受け付けられたオブジェクト領域Sの形状に基づき、オブジェクトにおける固定制御点、振動制御点及び振動方向を設定する部分である。オブジェクト領域Sの形状は、ユーザによる指定又は周知の画像処理により得られる。固定制御点及び振動制御点はそれぞれ、オブジェクトが振動しているように表示される動画を生成する際に、位置が固定される部分及び固定制御点に対して振動される部分を示す。振動方向は、振動制御点が固定制御点に対して振動される方向を示す。設定部16は、形状分類テーブル記憶部22を参照して、これらの設定を行う。
また、設定部16は、オブジェクトについての変形及び非変形のいずれかの属性の指定をユーザから受け付け、変形の属性を受け付けた場合に、オブジェクト領域に対して固定制御点、振動制御点及び振動方向を設定する。
形状分類テーブル記憶部22は、オブジェクトの形状と、固定制御点、振動制御点及び振動方向とを対応付けて記憶している記憶手段である。図15は、形状分類テーブル記憶部22の構成及び記憶されているデータの例を示す図である。図15に示すように、形状分類テーブル記憶部22は、形状タイプIDごとに、各種のオブジェクトの形状、固定制御点、振動制御点及び振動方向を対応付けて記憶している。図15のテーブルにおいて、
固定制御点は×印、振動制御点は丸印、振動方向は矢印で示されている。
図16は、領域情報取得部12Aにより受け付けられたオブジェクト領域S及びその形状Rの例を示す図である。本実施形態では、変形又は非変形といったオブジェクトの属性、及びオブジェクト領域Sの形状は、ユーザにより指定されることとする。図17は、オブジェクト領域Sごとに指定された変形又は非変形の属性及び形状タイプを記憶するテーブル示す図である。
図16(a)に示す例では、領域情報取得部12Aは、春菊といった葉野菜をオブジェクトとして、オブジェクト領域Sの指定を受け付ける。そして、設定部16は、葉野菜は加熱時に形状が変形するオブジェクトであるので、「変形」の属性指定をユーザから受け付けると共に、オブジェクト領域Sの形状Rに基づき、形状テーブル(図15)に記憶されている形状タイプのうちの形状タイプID「1」の指定を受け付ける。ユーザからの指定の受け付けに応じて、設定部16は、図17に示すテーブルに、オブジェクト領域Sの領域ID「1」に対応付けて、属性「変形」及び形状タイプ「1」を記憶させる。そして、設定部16は、形状分類テーブルにおいて形状タイプID「1」の形状に対応付けられている固定制御点、振動制御点及び振動方向に従って、オブジェクト領域Sに対して固定制御点、振動制御点及び振動方向を設定する。
図16(b)に示す例では、領域情報取得部12Aは、しいたけをオブジェクトとして、オブジェクト領域Sの指定を受け付ける。そして、設定部16は、しいたけは加熱時に形状が変形しないオブジェクトであるので、「非変形」の属性指定をユーザから受け付ける。設定部16は、図17に示すテーブルに、オブジェクト領域Sの領域ID「2」に対応付けて、属性「非変形」を記憶させる。そして、設定部16は、オブジェクト領域Sの属性が非変形であるので、固定制御点、振動制御点及び振動方向の設定を行わない。
図16(c)に示す例では、領域情報取得部12Aは、長ネギといった野菜をオブジェクトとして、オブジェクト領域Sの指定を受け付ける。そして、設定部16は、長ネギは加熱時に形状が変形するオブジェクトであるので、「変形」の属性指定をユーザから受け付けると共に、オブジェクト領域Sの形状Rに基づき、形状テーブル(図15)に記憶されている形状タイプのうちの形状タイプID「3」の指定を受け付ける。ユーザからの指定の受け付けに応じて、設定部16は、図17に示すテーブルに、オブジェクト領域Sの領域ID「3」に対応付けて、属性「変形」及び形状タイプ「3」を記憶させる。そして、設定部16は、形状分類テーブルにおいて形状タイプID「3」の形状に対応付けられている固定制御点、振動制御点及び振動方向に従って、オブジェクト領域Sに対して固定制御点、振動制御点及び振動方向を設定する。
図18は、オブジェクト領域Sに固定制御点、振動制御点及び振動方向を設定するための矩形領域の設定の例を示す図である。図18(a)は、領域情報取得部12Aにより受け付けられたオブジェクト領域Sを示す図である。設定部16は、オブジェクト領域Sに固定制御点等の設定を行うために、例えば主成分分析といった手法によりオブジェクト領域Sの長手方向を算出し、長手方向に直交する短手方向を算出する。図18(b)は、オブジェクト領域Sに対して算出された長手方向(X軸方向)及び短手方向(Y軸方向)を示す図である。そして、設定部16は、図18(c)に示すように、長手方向及び短手方向のそれぞれに平行な辺を有しオブジェクト領域Sが内接する矩形領域Rを設定する。設定部16は、形状分類テーブル(図15参照)を参照して、選択された形状タイプに応じた固定制御点等を、矩形領域Rに対して設定する。
再び図14を参照して、生成部17は、設定部16により設定された固定制御点、振動制御点及び振動方向に応じて、オブジェクトが振動しているように表示される動画を生成する部分である。図19は、領域情報取得部12Aにより受け付けられたオブジェクト領域S(図16参照)ごとの振動の様子を模式的に示す図である。
図19(a)に示すように、生成部17は、図16(a)に示した葉野菜のオブジェクト領域Sに対して、×印で示される固定制御点が固定された状態で、丸印で示される振動制御点が矢印で示される方向に振動するように表示される動画を生成する。
また、図19(b)に示すように、生成部17は、図16(b)に示したしいたけのオブジェクト領域Sに対して、オブジェクトの形状を保ったまま、矢印で示すように上下左右に振動するように表示される動画を生成する。
また、図19(c)に示すように、生成部17は、図16(c)に示した長ネギのオブジェクト領域Sに対して、×印で示される固定制御点が固定された状態で、丸印で示される振動制御点が矢印で示されるように上下方向に振動するように表示される動画を生成する。
なお、生成部17は、振動制御点の振動の大きさを、例えば、オブジェクト領域の大きさに応じて設定する。具体的には、オブジェクト領域Sの大きさを振動の大きさの対応付けを予め設定されていることとすると、生成部17は、オブジェクト領域Sの大きさを、例えば画素数に基づき取得し、取得した画素数に応じた振動の大きさを当該オブジェクト領域Sに対して設定することができる。例えば、オブジェクト領域の大きさが大きいほど、振動の大きさが小さくなるように設定されることとしてもよい。
また、第1実施形態において説明したように、汁等の液体が表された領域を処理対象領域とする指定を受け付けて、処理対象領域の特徴を示すパラメータに基づき、泡の発生等の動きを伴う液体の動画である合成用画像を取得し、取得された合成用画像が処理対象領域に合成される場合に、生成部17は、オブジェクト領域Sから所定距離以内の近傍位置の処理対象領域に合成された合成用画像の属性に応じて、オブジェクトの振動の大きさを制御することとしてもよい。例えば、生成部17は、オブジェクト領域Sの近傍位置に合成される合成用画像のサイズが大きいほど、又は再生速度が速いほど、当該オブジェクト領域Sの振動の大きさが大きくなるような動画を生成することとしてもよい。
出力部15は、生成部17により生成された、オブジェクト領域S振動しているように表示された動画が合成された加工対象画像を出力する。具体的には、出力部15は、図4において指定したオブジェクト領域Sの各々が、図19を参照して説明したように振動しているように表示された動画が合成された加工対象画像を出力する。
次に、図20を参照して、第2実施形態の画像生成方法について説明する。図20は、図14に示した画像生成装置1における画像生成方法の処理内容の例を示すフローチャートである。
まず、取得部11は、加工対象の静止画像である加工対象画像を取得する(S31)。次に、領域情報取得部12Aは、例えば、料理画像における具材が表されたオブジェクト領域Sの指定を受け付ける(S32)。ここで、領域情報取得部12Aは、オブジェクト領域Sごとに、変形又は非変形といった属性、及び形状のタイプの指定を受け付ける。そして、加工対象画像におけるオブジェクト領域Sを示すマスクが生成される(S33)。
オブジェクト領域Sの属性として「変形」が設定された場合には、処理手順はステップS35に進められる。一方、オブジェクト領域Sの属性として「非変形」が設定された場合には、処理手順はステップS34に進められる。
ステップS34において、設定部16は、オブジェクト領域Sの大きさ及び当該オブジェクト領域Sの周辺に合成される泡画像(合成用画像)の属性に基づき振動の大きさを設定する(S34)。
一方、ステップS35において、設定部16は、オブジェクト領域Sの形状のタイプに基づき、固定制御点、振動制御点及び振動方向を設定する(S35)。さらに、設定部16は、オブジェクト領域Sの大きさ及び当該オブジェクト領域Sの周辺に合成される泡画像(合成用画像)の属性に基づき振動の大きさを設定する(S36)。
次に、生成部17は、オブジェクト領域Sが振動しているように表示される動画を生成し、その動画を加工対象画像に合成する(S37)。そして、出力部15は、振動しているように表示されたオブジェクト領域Sが合成された合成画像を出力する(S38)。
なお、図13に示された画像生成プログラムP1に含まれる各モジュールに加えて、設定部16の機能を実現させる設定モジュール、生成部17の機能を実現させる生成モジュールを画像生成プログラムP1が備えることにより、コンピュータを画像生成装置1A(図14参照)として機能させるための画像生成プログラムが構成される。
以上説明した第2実施形態の画像生成装置1A、画像生成方法及び画像生成プログラムによれば、加工対象画像内においてオブジェクト領域Sを特定する領域情報が取得され、オブジェクト領域Sにおいて設定された固定制御点、振動制御点及び振動方向に応じてオブジェクトが振動しているように表示される動画が生成される。その動画が加工対象画像に合成されることにより、例えば、加熱状態ではない料理の静止画像における具材をオブジェクトとして振動させるように表示させることができる。従って、加熱状態ではないために色及び形状といった観点で美味しそうに見える状態にある具材が表された領域に対して、加熱状態のような動きを付加することができるので、具材及び液体の両方が美味しく見える料理画像を得ることが可能となる。また、具材が表された領域をオブジェクト領域として指定するといった容易な入力のみに基づき、具材が表されたオブジェクト領域が振動するように表されるので、具材及び液体の両方が美味しそうに見える料理画像を容易に得ることができる。
以上、本発明をその実施形態に基づいて詳細に説明した。しかし、本発明は上記実施形態に限定されるものではない。本発明は、その要旨を逸脱しない範囲で様々な変形が可能である。
また、本発明は、冷めたハンバーグの写真に対して、ハンバーグ周囲の油が表された領域に、泡が発生している様子を表す合成用画像を合成することにより、ハンバーグが焼かれている途中又は焼いた直後の様子を表現することに適用できる。また、本発明は、冷えた焼き魚の写真に対して、魚の表面の領域に泡が発生している様子を表す合成用画像を合成することにより、焼かれた直後の状態を表現することに適用できる。なお、処理対象領域は、ユーザが指定した領域であればいかなる領域でもよく、液体が表された領域に限定されない。
1,1A…画像生成装置、11…取得部、12,12A…領域情報取得部、13…合成用画像取得部、14…合成部、15…出力部、16…設定部、17…生成部、21…合成用画像記憶部、22…形状分類テーブル記憶部、C…合成用画像、F…基準位置、L…処理対象領域、1D…記憶媒体、1P…画像生成プログラム、m10…メインモジュール、m11…取得モジュール、m12…領域指定受付モジュール、m13…合成用画像取得モジュール、m14…合成モジュール、m15…出力モジュール、P1…画像生成プログラム、S…オブジェクト領域。

Claims (7)

  1. 加工対象の画像である加工対象画像を取得する画像取得手段と、
    前記加工対象画像内における処理対象のオブジェクトが表されたオブジェクト領域を特定する領域情報を取得する領域情報取得手段と、
    オブジェクトの形状と、該オブジェクトが振動される際に位置が固定される部分を示す固定制御点、該固定制御点に対して振動される部分を示す振動制御点及び該振動制御点が振動される方向を示す振動方向とを対応付けて記憶している記憶手段を参照して、前記領域情報により特定されるオブジェクト領域の形状に基づき、前記オブジェクトにおける固定制御点、振動制御点及び振動方向を設定する設定手段と、
    前記設定手段により設定された固定制御点、振動制御点及び振動方向に応じて、前記オブジェクトが振動しているように表示される動画を生成する生成手段と、
    を備える動画生成装置。
  2. 前記記憶手段において、オブジェクトの形状を表す矩形状の領域に対して、前記固定制御点、前記振動制御点及び前記振動方向が対応付けられて記憶されており、
    前記設定手段は、所定の画像処理により求められた前記オブジェクト領域の長手方向及び該長手方向に直交する短手方向のそれぞれに平行な辺を有し前記オブジェクト領域が内接する矩形領域を設定し、前記記憶手段を参照して、該矩形領域に対して前記固定制御点、前記振動制御点及び前記振動方向を設定する、
    請求項1に記載の動画生成装置。
  3. 前記設定手段は、前記オブジェクトについての変形及び非変形のいずれかの属性の指定をユーザから受け付け、前記変形の属性を受け付けた場合に、前記オブジェクト領域に対して前記固定制御点、前記振動制御点及び前記振動方向を設定し、
    前記生成手段は、
    前記設定手段において前記変形の属性を受け付けた場合に、前記設定手段により設定された固定制御点、振動制御点及び振動方向に応じて、前記オブジェクトが振動しているように表示される動画を生成し、
    前記設定手段において前記非変形の属性を受け付けた場合に、前記オブジェクト領域の形状を保ちながら前記オブジェクトが振動しているように表示される動画を生成する、
    請求項1または2に記載の動画生成装置。
  4. 前記生成手段は、前記オブジェクト領域の大きさに応じて、前記オブジェクトの振動の大きさを制御する、
    請求項1〜3のいずれか一項に記載の動画生成装置。
  5. 前記領域情報取得手段は、前記加工対象画像内における、前記オブジェクト領域以外の領域であって動きを伴う液体が表された動画である合成用画像を合成する処理対象領域を取得し、
    当該動画生成装置は、
    前記領域情報取得手段により取得された処理対象領域の特徴を示すパラメータに基づき、前記合成用画像を取得する合成用画像取得手段と、
    前記合成用画像取得手段により取得された合成用画像を前記処理対象領域に合成する合成手段と、を更に備え、
    前記生成手段は、前記オブジェクト領域から所定距離以内の近傍位置の前記処理対象領域に合成された前記合成用画像の属性に応じて、前記オブジェクトの振動の大きさを設定する、
    請求項1〜4のいずれか一項に記載の動画生成装置。
  6. コンピュータにより実行される動画生成方法であって、
    加工対象の画像である加工対象画像を取得する画像取得ステップと、
    前記加工対象画像内における処理対象のオブジェクトが表されたオブジェクト領域を特定する領域情報を取得する領域情報取得ステップと、
    オブジェクトの形状と、該オブジェクトが振動される際に位置が固定される部分を示す固定制御点、該固定制御点に対して振動される部分を示す振動制御点及び該振動制御点が振動される方向を示す振動方向とを対応付けて記憶している記憶手段を参照して、前記領域情報により特定されるオブジェクト領域の形状に基づき、前記オブジェクトにおける固定制御点、振動制御点及び振動方向を設定する設定ステップと、
    前記設定ステップにおいて設定された固定制御点、振動制御点及び振動方向に応じて、前記オブジェクトが振動しているように表示される動画を生成する生成ステップと、
    を有する動画生成方法。
  7. コンピュータに、
    加工対象の画像である加工対象画像を取得する画像取得機能と、
    前記加工対象画像内における処理対象のオブジェクトが表されたオブジェクト領域を特定する領域情報を取得する領域情報取得機能と、
    オブジェクトの形状と、該オブジェクトが振動される際に位置が固定される部分を示す固定制御点、該固定制御点に対して振動される部分を示す振動制御点及び該振動制御点が振動される方向を示す振動方向とを対応付けて記憶している記憶手段を参照して、前記領域情報により特定されるオブジェクト領域の形状に基づき、前記オブジェクトにおける固定制御点、振動制御点及び振動方向を設定する設定機能と、
    前記設定機能により設定された固定制御点、振動制御点及び振動方向に応じて、前記オブジェクトが振動しているように表示される動画を生成する生成機能と、
    を実現させる動画生成プログラム。
JP2013217364A 2013-10-18 2013-10-18 動画生成装置、動画生成方法及び動画生成プログラム Active JP6039527B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013217364A JP6039527B2 (ja) 2013-10-18 2013-10-18 動画生成装置、動画生成方法及び動画生成プログラム
US14/517,314 US9692974B2 (en) 2013-10-18 2014-10-17 Apparatus and methods for generating video based on motion simulation of an object

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013217364A JP6039527B2 (ja) 2013-10-18 2013-10-18 動画生成装置、動画生成方法及び動画生成プログラム

Publications (2)

Publication Number Publication Date
JP2015079426A JP2015079426A (ja) 2015-04-23
JP6039527B2 true JP6039527B2 (ja) 2016-12-07

Family

ID=52825859

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013217364A Active JP6039527B2 (ja) 2013-10-18 2013-10-18 動画生成装置、動画生成方法及び動画生成プログラム

Country Status (2)

Country Link
US (1) US9692974B2 (ja)
JP (1) JP6039527B2 (ja)

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03119480A (ja) * 1989-10-03 1991-05-21 Matsushita Electric Ind Co Ltd アニメーション装置
US9064344B2 (en) * 2009-03-01 2015-06-23 Facecake Technologies, Inc. Image transformation systems and methods
US7412360B2 (en) * 2000-09-19 2008-08-12 Technion Research & Development Foundation Ltd. Method and apparatus for shape deformation and placement
US7430500B2 (en) * 2002-12-27 2008-09-30 Riken Method and device for numerical analysis of flow field of incompressible viscous fluid, directly using V-CAD data
US7548837B2 (en) * 2004-01-14 2009-06-16 Apple Inc. Simulation of string vibration
US7835892B2 (en) * 2004-09-28 2010-11-16 Immersion Medical, Inc. Ultrasound simulation apparatus and method
EP2005342B1 (en) * 2006-04-08 2019-06-05 Allan Millman Method and system for interactive simulation of materials
JP4354510B1 (ja) * 2008-05-01 2009-10-28 株式会社コナミデジタルエンタテインメント 画像処理装置、画像処理方法、ならびに、プログラム
JP4702811B2 (ja) * 2008-06-09 2011-06-15 日本電信電話株式会社 格子点モデル変形・移動方法、装置およびプログラム
US20140081612A1 (en) * 2012-09-17 2014-03-20 Daniel Jonathan Ignatoff Adaptive Physics Engine for Rendering Rigid Body and or Soft Body Physics for Virtual Objects in Contact with Voxelized Fluid
US20150077345A1 (en) * 2013-09-16 2015-03-19 Microsoft Corporation Simultaneous Hover and Touch Interface

Also Published As

Publication number Publication date
JP2015079426A (ja) 2015-04-23
US20150109466A1 (en) 2015-04-23
US9692974B2 (en) 2017-06-27

Similar Documents

Publication Publication Date Title
WO2014169653A1 (zh) 一种图像合成的优化方法及装置
CN109416831A (zh) 用于扩展图像的色彩的低成本色彩扩展模块
JP4801009B2 (ja) 画像処理装置、画像処理方法、ならびに、プログラム
JP6262758B2 (ja) 画像生成装置、画像生成方法及び画像生成プログラム
US20130050273A1 (en) Display device, display system, displaying method, and program
JPS62139081A (ja) 合成画像形成方法
CN107123096B (zh) Vr设备中的图像显示方法和装置以及vr设备
JPH07288768A (ja) 映像信号処理方法および映像信号処理装置
JP6039527B2 (ja) 動画生成装置、動画生成方法及び動画生成プログラム
JP6715217B2 (ja) 映像処理装置、映像処理方法および映像処理プログラム
WO2021084571A1 (ja) 時間的に変化する風味を時間的に変化する視覚的要素として表示するための方法、プログラム及び情報処理装置
CN103514593B (zh) 图像处理方法及装置
CN105955581A (zh) 基于终端屏幕的壁纸分屏展示方法及设备
CN109923853A (zh) 图像处理装置、图像处理方法以及程序
JP4007238B2 (ja) 特殊効果装置、アドレス信号生成装置、アドレス信号生成方法及びアドレス信号生成プログラム
JP4116325B2 (ja) 画像表示制御装置
EP1147471A1 (en) Digital image improvement through genetic image evolution
Lee et al. Stitching of heterogeneous images using depth information
JP2020202503A5 (ja)
JP2004309736A (ja) 特殊効果装置、アドレス信号生成装置、アドレス信号生成方法及びアドレス信号生成プログラム
JP5752011B2 (ja) 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
KR102144556B1 (ko) 체험형 콘텐츠 생성 방법, 장치 및 시스템
JP4515698B2 (ja) 動画像合成方法および装置並びにプログラム
JP4893833B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JPS60232787A (ja) 画像合成装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161021

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161104

R150 Certificate of patent or registration of utility model

Ref document number: 6039527

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250