JP2006277729A - Image output apparatus, image output method, image output program, image trimming apparatus, image trimming method, and image trimming program - Google Patents

Image output apparatus, image output method, image output program, image trimming apparatus, image trimming method, and image trimming program Download PDF

Info

Publication number
JP2006277729A
JP2006277729A JP2006049323A JP2006049323A JP2006277729A JP 2006277729 A JP2006277729 A JP 2006277729A JP 2006049323 A JP2006049323 A JP 2006049323A JP 2006049323 A JP2006049323 A JP 2006049323A JP 2006277729 A JP2006277729 A JP 2006277729A
Authority
JP
Japan
Prior art keywords
image
moving
unit
constituent
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006049323A
Other languages
Japanese (ja)
Other versions
JP4781844B2 (en
Inventor
Fumito Takemoto
文人 竹本
Akira Yoda
章 依田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP2006049323A priority Critical patent/JP4781844B2/en
Publication of JP2006277729A publication Critical patent/JP2006277729A/en
Application granted granted Critical
Publication of JP4781844B2 publication Critical patent/JP4781844B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Analysis (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To automatically lay out a animation constituting image extracted from a picked-up moving image, so as to be composed to give no sense of incongruity to an appreciating person. <P>SOLUTION: The image output apparatus in a first form comprises an animation constituting image extracting section that extracts the animation constituting image from the moving image having a plurality of animation constituting images; a moving direction specifying section that specifies a moving direction, in the moving image, of an object included in the animation constituting image extracted by the moving image constituting image extracting section based on the change of position of the object in the plurality of continued animation constituting images; an image layout section that lays out the animation constituting image extracted by the animation constituting image extracting section in an output area based on the moving direction of the object specified by the moving direction specifying section; and an image outputting section that outputs the animation constituting image laid out by the image layout section in the output area. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、画像出力装置、画像出力方法、および画像出力プログラム、並びに画像トリミング装置、画像トリミング方法、および画像トリミングプログラムに関する。特に、本発明は、動画から動画構成画像を抽出してレイアウトする画像出力装置、画像出力方法、および画像出力プログラム、並びに画像トリミング装置、画像トリミング方法、および画像トリミングプログラムに関する。   The present invention relates to an image output device, an image output method, an image output program, an image trimming device, an image trimming method, and an image trimming program. In particular, the present invention relates to an image output device, an image output method, and an image output program that extract and lay out a moving image constituent image from a moving image, and an image trimming device, an image trimming method, and an image trimming program.

撮影状況の変化および被写体の動きの変化等に基づいて、撮像された動画から、特徴的なフレーム画像を抽出して、動画の代表画像として記録する技術が提案されている(例えば、特許文献1参照)。また、撮像された動画から鑑賞者が注目する被写体を自動的に抽出して、当該被写体を画像処理により、鑑賞者が見やすい大きさに拡大して表示する技術が提案されている(例えば、特許文献2参照)。
特開2000−187477号公報 特開2004−178368号公報
A technique has been proposed in which a characteristic frame image is extracted from a captured moving image and recorded as a representative image of the moving image based on a change in shooting conditions, a change in subject movement, and the like (for example, Patent Document 1). reference). In addition, a technique has been proposed in which a subject that is viewed by the viewer is automatically extracted from the captured video, and the subject is enlarged and displayed in a size that is easy for the viewer to view by image processing (for example, patents). Reference 2).
JP 2000-187477 A JP 2004-178368 A

しかしながら、動画から抽出したフレーム画像を用いてアルバムを作成する場合に、鑑賞者にとって見栄えが良いレイアウトにする場合には、抽出された全フレーム画像を確認してレイアウトする必要がある。また、動画からフレーム画像が抽出されて、フレーム画像が自動的にレイアウトされた場合には、鑑賞者が違和感を覚えるレイアウトになる場合があるという問題があった。   However, when creating an album using frame images extracted from a moving image, it is necessary to confirm and lay out all the extracted frame images in order to make the layout look good for the viewer. In addition, when a frame image is extracted from a moving image and the frame image is automatically laid out, there is a problem that the viewer may feel uncomfortable.

そこで本発明は、上記課題を解決することができる画像出力装置、画像出力方法、および画像出力プログラム、並びに画像トリミング装置、画像トリミング方法、および画像トリミングプログラムを提供することを目的とする。この目的は特許請求の範囲における独立項に記載の特徴の組み合わせにより達成される。また従属項は本発明の更なる有利な具体例を規定する。   Therefore, an object of the present invention is to provide an image output device, an image output method, an image output program, an image trimming device, an image trimming method, and an image trimming program that can solve the above-described problems. This object is achieved by a combination of features described in the independent claims. The dependent claims define further advantageous specific examples of the present invention.

上記課題を解決するために、本発明の第1の形態においては、画像を出力する画像出力装置であって、複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出部と、動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの、動画における移動方向を、連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて特定する移動方向特定部と、移動方向特定部が特定したオブジェクトの移動方向に基づいて、動画構成画像抽出部が抽出した動画構成画像を出力領域内にレイアウトする画像レイアウト部と、画像レイアウト部によって出力領域内にレイアウトされた動画構成画像を出力する画像出力部とを備える。   In order to solve the above-described problem, in the first embodiment of the present invention, an image output device that outputs an image, and a moving image constituent image extracting unit that extracts a moving image constituent image from a moving image having a plurality of moving image constituent images; A moving direction specifying unit for specifying a moving direction in a moving image of an object included in the moving image forming image extracted by the moving image forming image extracting unit based on a change in the position of the object in a plurality of continuous moving image forming images; An image layout unit that lays out the moving image constituent image extracted by the moving image constituent image extracting unit in the output area based on the moving direction of the object specified by the specifying unit, and the moving picture constituent image laid out in the output region by the image layout unit And an image output unit for outputting.

また、画像レイアウト部は、移動方向特定部が特定したオブジェクトの移動方向が、出力領域の中心方向を向くように、動画構成画像抽出部が抽出した動画構成画像をレイアウトしてもよい。また、動画構成画像抽出部は、動画から連続する複数の動画構成画像を抽出し、画像レイアウト部は、動画構成画像抽出部が抽出した複数の動画構成画像を、移動方向特定部が特定した移動方向に沿って時系列にレイアウトしてもよい。   Further, the image layout unit may lay out the moving image configuration image extracted by the moving image configuration image extraction unit so that the moving direction of the object specified by the moving direction specification unit faces the center direction of the output area. The moving image constituent image extraction unit extracts a plurality of continuous moving image constituent images from the moving image, and the image layout unit moves the plurality of moving image constituent images extracted by the moving image constituent image extraction unit by the movement direction specifying unit. You may lay out in time series along a direction.

更に、動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの動画における移動速度を、動画構成画像抽出部が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて算出する移動速度算出部と、動画構成画像抽出部が抽出した動画構成画像から、移動速度算出部が算出した移動速度が予め定められた基準速度より大きい移動速度のオブジェクトを含む部分画像をトリミングするトリミング部とをさらに備え、画像レイアウト部は、移動方向特定部が特定したオブジェクトの移動方向に基づいて、トリミング部がトリミングした部分画像を出力領域内にレイアウトしてもよい。   Further, the moving speed of the object included in the moving image constituent image extracted by the moving image constituent image extracting unit is changed to the change in the position of the object in a plurality of moving image constituent images continuous to the moving image constituent image extracted by the moving image constituent image extracting unit. A partial image including an object whose moving speed is higher than a predetermined reference speed by the moving speed calculating unit calculated from the moving speed calculating unit calculated based on the moving image calculating image extracted by the moving image constituent image extracting unit. The image layout unit may further lay out the partial image trimmed by the trimming unit in the output area based on the moving direction of the object specified by the moving direction specifying unit.

また、トリミング部は、動画構成画像抽出部が抽出した動画構成画像から、移動速度算出部が算出した移動速度が最も大きいオブジェクトを含む部分画像をトリミングしてもよい。そして、トリミング部は、動画構成画像抽出部が抽出した動画構成画像から、移動速度算出部が算出した移動速度が予め定められた基準速度より大きい移動速度のオブジェクトのうち、動画構成画像における面積が最も大きいオブジェクトを含む部分画像をトリミングしてもよい。更に画像出力部は、画像レイアウト部にレイアウトされた動画構成画像を表示する表示部を有し、画像レイアウト部は、移動方向特定部が特定したオブジェクトの移動方向に基づいて、表示部の表示画面の出力領域内に動画構成画像をレイアウトしてもよい。   In addition, the trimming unit may trim a partial image including an object having the highest moving speed calculated by the moving speed calculating unit from the moving picture constituent image extracted by the moving picture constituent image extracting unit. Then, the trimming unit has an area in the moving image constituent image out of the moving speed calculated by the moving speed calculating unit from the moving image constituent image extracted by the moving image constituent image extracting unit, which is larger than a predetermined reference speed. A partial image including the largest object may be cropped. Furthermore, the image output unit has a display unit that displays the moving image constituent images laid out in the image layout unit, and the image layout unit displays the display screen of the display unit based on the moving direction of the object specified by the moving direction specifying unit. A moving image composing image may be laid out in the output area.

また、画像出力部は、画像レイアウト部にレイアウトされた動画構成画像を印刷する印刷部を有し、画像レイアウト部は、移動方向特定部が特定したオブジェクトの移動方向に基づいて、印刷部の印刷媒体の出力領域内に動画構成画像をレイアウトしてもよい。   The image output unit includes a printing unit that prints the moving image configuration image laid out in the image layout unit, and the image layout unit prints the printing unit based on the moving direction of the object specified by the moving direction specifying unit. You may lay out a moving image structure image in the output area of a medium.

また、画像配置位置と当該画像配置位置に配置されるべき動画構成画像に含まれるオブジェクトの移動方向とが予め定められた出力領域のテンプレートを格納しているテンプレート格納部と、テンプレート格納部が格納しているテンプレートが含む画像配置位置に対応づけられているオブジェクトの移動方向と、移動方向特定部が特定したオブジェクトの移動方向とが一致する動画構成画像を動画構成画像抽出部が抽出した動画構成画像から選択する画像選択部とを更に備え、画像レイアウト部は、画像選択部が選択した動画構成画像をテンプレートの画像配置位置にレイアウトしてもよい。   Further, a template storage unit that stores a template of an output area in which an image arrangement position and a moving direction of an object included in a moving image constituent image to be arranged at the image arrangement position are predetermined, and a template storage unit store The moving image composition image extraction unit extracts a moving image composition image in which the moving direction of the object associated with the image layout position included in the template being matched matches the moving direction of the object specified by the movement direction identification unit An image selecting unit that selects from images may be further provided, and the image layout unit may lay out the moving image constituent image selected by the image selecting unit at the image arrangement position of the template.

更に、画像選択部は、移動方向特定部が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、移動方向特定部が特定した方向とは反対の方向に存在する動画構成画像内の領域の面積より大きい動画構成画像を連続する複数の動画構成画像から選択してもよい。また、移動方向特定部が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、移動方向特定部が特定したオブジェクトの移動方向とは反対の方向に存在する動画構成画像内の領域の面積よりも大きくなるように、画像選択部が選択した動画構成画像に含まれるオブジェクトをトリミングしてトリミング画像を生成するトリミング画像生成部を更に備え、画像レイアウト部は、トリミング画像生成部が生成したトリミング画像をテンプレートの画像配置位置にレイアウトしてもよい。   Further, the image selection unit has a moving image composition image in which the area of the moving image composition image existing in the moving direction of the object specified by the moving direction specifying unit is in a direction opposite to the direction specified by the moving direction specifying unit. You may select the moving image structure image larger than the area of the area | region from the several continuous moving image structure image. In addition, the area of the moving image configuration image existing in the moving direction of the object specified by the moving direction specifying unit is within the moving image forming image existing in the direction opposite to the moving direction of the object specified by the moving direction specifying unit. A trimming image generation unit that generates a trimming image by trimming an object included in the moving image constituent image selected by the image selection unit so as to be larger than the area of the region. The image layout unit includes the trimming image generation unit. The generated trimmed image may be laid out at the image arrangement position of the template.

また、移動方向特定部が特定したオブジェクトの移動方向と、テンプレート格納部が格納しているテンプレートが含む画像配置位置に対応づけられているオブジェクトの移動方向とが一致する動画構成画像が存在しない場合に、移動方向特定部が特定したオブジェクトの移動方向とテンプレート格納部が格納しているテンプレートの画像配置位置に対応づけられているオブジェクトの移動方向とが一致するように、動画構成画像に対して幾何学的な変換を施した画像を生成する変換画像生成部を更に備え、画像レイアウト部は、変換画像生成部が生成した画像を画像配置位置にレイアウトしてもよい。そして、変換画像生成部が生成した画像を、画像配置位置の画像配置枠の形状にトリミングするトリミング部を更に備え、画像レイアウト部は、トリミング部がトリミングした画像を画像配置位置にレイアウトしてよい。   In addition, when there is no moving image composition image in which the moving direction of the object specified by the moving direction specifying unit matches the moving direction of the object associated with the image arrangement position included in the template stored in the template storage unit In addition, the moving direction of the object specified by the moving direction specifying unit and the moving direction of the object associated with the image arrangement position of the template stored in the template storage unit match the moving image composition image. A conversion image generation unit that generates an image subjected to geometric conversion may be further provided, and the image layout unit may lay out the image generated by the conversion image generation unit at an image arrangement position. The image generation unit may further include a trimming unit that trims the image generated by the converted image generation unit into the shape of the image arrangement frame at the image arrangement position, and the image layout unit may lay out the image trimmed by the trimming unit at the image arrangement position. .

更に、移動方向特定部が特定したオブジェクトの移動方向と、テンプレート格納部が格納しているテンプレートが含む画像配置位置に対応づけられている移動方向とが一致する動画構成画像が存在しない場合に、移動方向特定部が特定したオブジェクトの移動方向とテンプレート格納部が格納しているテンプレートの画像配置位置に対応づけられている移動方向とが一致するように、動画構成画像を動画構成画像の面の水平方向に沿って回転させる画像回転処理部を更に備え、画像レイアウト部は、画像回転処理部が回転させた動画構成画像をテンプレートの画像配置位置にレイアウトしてもよい。そして、画像回転処理部が回転させた動画構成画像を、画像配置位置の画像配置枠の形状にトリミングするトリミング部を更に備え、画像レイアウト部は、トリミング部がトリミングした画像を画像配置位置にレイアウトしてもよい。   Furthermore, when there is no moving image composition image in which the moving direction of the object specified by the moving direction specifying unit matches the moving direction associated with the image arrangement position included in the template stored in the template storage unit, The moving image composing image is displayed on the surface of the moving image composing image so that the moving direction of the object specified by the moving direction specifying unit matches the moving direction associated with the image arrangement position of the template stored in the template storage unit. An image rotation processing unit that rotates along the horizontal direction may be further provided, and the image layout unit may lay out the moving image constituent image rotated by the image rotation processing unit at the image arrangement position of the template. The image rotation processing unit further includes a trimming unit that trims the moving image constituent image rotated by the image rotation processing unit into the shape of the image arrangement frame at the image arrangement position, and the image layout unit lays out the image trimmed by the trimming unit at the image arrangement position. May be.

また、動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの動画における移動速度を、動画構成画像抽出部が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて算出する移動速度算出部と、画像選択部は、移動速度算出部が算出したオブジェクトの移動速度がより大きい場合に、移動方向特定部が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積がより大きい動画構成画像を選択してもよい。そして、移動速度算出部が算出したオブジェクトの移動速度がより大きい場合に、移動方向特定部が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、移動方向特定部が特定したオブジェクトの移動方向とは反対の方向に存在する動画構成画像内の領域の面積よりも大きくなるように、画像選択部が選択した動画構成画像に含まれるオブジェクトをトリミングしてトリミング画像を生成するトリミング画像生成部を更に備え、画像レイアウト部は、トリミング画像生成部が生成したトリミング画像をテンプレートの画像配置位置にレイアウトしてもよい。   Further, the moving speed of the object included in the moving image constituent image extracted by the moving image constituent image extracting unit is changed to the change in the position of the object in a plurality of moving image constituent images continuous to the moving image constituent image extracted by the moving image constituent image extracting unit. The moving speed calculation unit and the image selection unit that are calculated based on the moving image calculation image included in the moving direction of the object specified by the moving direction specifying unit when the moving speed of the object calculated by the moving speed calculation unit is larger. A moving image composing image having a larger area may be selected. Then, when the moving speed of the object calculated by the moving speed calculation unit is larger, the area of the moving image composition image existing in the moving direction of the object specified by the moving direction specifying unit is specified by the moving direction specifying unit. Trimming that generates a trimmed image by trimming an object included in the moving image constituent image selected by the image selection unit so that it is larger than the area of the moving image constituent image existing in the direction opposite to the moving direction of the object An image generation unit may be further provided, and the image layout unit may lay out the trimming image generated by the trimming image generation unit at the image arrangement position of the template.

そして、第一の動画構成画像が配置されるべき第一の画像配置位置、および第二の動画構成画像が配置されるべき第二の画像配置位置が予め定められた出力領域のテンプレートを格納するテンプレート格納部と、第一の画像配置位置に配置されるべき第一の動画構成画像を選択する第一画像選択部と、第一画像選択部が選択した第一の動画構成画像に含まれるオブジェクトの移動方向に応じて、第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を決定する移動方向決定部と、移動方向決定部が決定した移動方向のオブジェクトを含む第二の動画構成画像を選択する第二画像選択部とをさらに備え、画像レイアウト部は、第一画像選択部が選択した第一の動画構成画像を第一の画像配置位置にレイアウトし、第二画像選択部が選択した第二の動画構成画像を第二の画像配置位置にレイアウトしてもよい。   Then, a template of an output area in which a first image arrangement position where the first moving image constituent image is to be arranged and a second image arrangement position where the second moving image constituent image is to be arranged is predetermined is stored. A template storage unit, a first image selection unit for selecting a first moving image constituting image to be arranged at the first image arrangement position, and an object included in the first moving image constituting image selected by the first image selecting unit A moving direction determining unit that determines a moving direction of an object included in the second moving image constituent image to be arranged at the second image arrangement position in accordance with the moving direction of the moving direction determined by the moving direction determining unit A second image selection unit that selects a second moving image composition image including the object, and the image layout unit arranges the first moving image composition image selected by the first image selection unit at the first image arrangement position. Collected by the second moving image constituent images the second image selecting section has selected may be laid out in the second image arrangement position of the.

更に、テンプレート格納部は、第二の画像配置位置と、第一の動画構成画像に含まれるオブジェクトの移動方向に対する相対的なオブジェクトの移動方向とが予め定められた出力領域のテンプレートを格納し、移動方向決定部は、第一画像選択部が選択した第一の動画構成画像に含まれるオブジェクトの移動方向、およびテンプレート格納部が格納しているオブジェクトの相対的な移動方向に基づいて、第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を決定してもよい。   Further, the template storage unit stores a template of an output area in which the second image arrangement position and the moving direction of the object relative to the moving direction of the object included in the first moving image constituent image are predetermined, The movement direction determination unit is configured to select the second movement direction based on the movement direction of the object included in the first moving image configuration image selected by the first image selection unit and the relative movement direction of the object stored in the template storage unit. The moving direction of the object included in the second moving image constituent image to be placed at the image placement position may be determined.

また、本発明の第2の形態においては、画像を出力する画像出力方法であって、複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出段階と、動画構成画像抽出段階において抽出された動画構成画像に含まれるオブジェクトの、動画における移動方向を、連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて特定する移動方向特定段階と、移動方向特定段階において特定されたオブジェクトの移動方向に基づいて、動画構成画像抽出段階において抽出された動画構成画像を出力領域内にレイアウトする画像レイアウト段階と、画像レイアウト段階によって出力領域内にレイアウトされた動画構成画像を出力する画像出力段階とを備える。   Further, in the second embodiment of the present invention, there is provided an image output method for outputting an image, a moving image constituent image extracting step for extracting a moving image constituent image from a moving image having a plurality of moving image constituent images, and a moving image constituent image extracting step. In the moving direction specifying stage for specifying the moving direction in the moving picture of the object included in the moving picture constituent image extracted based on the change in the position of the object in the plurality of continuous moving picture constituent images and the moving direction specifying stage. Based on the moving direction of the object, an image layout stage for laying out the moving picture constituent image extracted in the moving picture constituent picture extraction stage in the output area, and a moving picture constituent image laid out in the output area by the image layout stage are output. An image output stage.

また、本発明の第3の形態においては、画像を出力する画像出力装置用の画像出力プログラムであって、画像出力装置を、複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出部と、動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの、動画における移動方向を、連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて特定する移動方向特定部と、移動方向特定部が特定したオブジェクトの移動方向に基づいて、動画構成画像抽出部が抽出した動画構成画像を出力領域内にレイアウトする画像レイアウト部と、画像レイアウト部によって出力領域内にレイアウトされた動画構成画像を出力する画像出力部として機能させる。   According to a third aspect of the present invention, there is provided an image output program for an image output device that outputs an image, wherein the image output device extracts a moving image constituent image from a moving image having a plurality of moving image constituent images. An image extracting unit and a moving direction specifying unit for specifying a moving direction in a moving image of an object included in the moving image forming image extracted by the moving image forming image extracting unit based on a change in the position of the object in a plurality of continuous moving image forming images And an image layout unit that lays out the moving image constituent image extracted by the moving image constituent image extraction unit in the output region based on the moving direction of the object specified by the moving direction specifying unit, and the image layout unit lays out the output region in the output region. It functions as an image output unit that outputs the moving image composition image.

また、本発明の第4の形態においては、画像から部分画像をトリミングする画像トリミング装置であって、複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出部と、動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの動画における移動速度を、動画構成画像抽出部が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて算出する移動速度算出部と、動画構成画像抽出部が抽出した動画構成画像から、移動速度算出部が算出した移動速度が予め定められた基準速度より大きい移動速度のオブジェクトを含む部分画像をトリミングするトリミング部とを備える。   According to a fourth aspect of the present invention, there is provided an image trimming apparatus for trimming a partial image from an image, a moving image configuration image extracting unit that extracts a moving image configuration image from a moving image having a plurality of moving image configuration images, and a moving image configuration The moving speed of the object included in the movie composition image extracted by the image extraction unit in the movie is calculated based on a change in the position of the object in a plurality of movie composition images continuous to the movie composition image extracted by the movie composition image extraction unit. A moving speed calculation unit and a trimming unit that trims a partial image including an object whose moving speed is higher than a predetermined reference speed by a moving speed calculated by the moving speed calculating unit from the moving image constituent image extracted by the moving image constituent image extracting unit With.

また、トリミング部がトリミングした部分画像を出力領域内にレイアウトする画像レイアウト部と、画像レイアウト部によって出力領域内にレイアウトされた部分画像を出力する画像出力部とを備えてもよい。   An image layout unit that lays out the partial image trimmed by the trimming unit in the output area, and an image output unit that outputs the partial image laid out in the output area by the image layout unit may be provided.

また、本発明の第5の形態においては、画像から部分画像をトリミングする画像トリミング方法であって、複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出段階と、動画構成画像抽出段階が抽出した動画構成画像に含まれるオブジェクトの動画における移動速度を、動画構成画像抽出段階が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて算出する移動速度算出段階と、動画構成画像抽出段階において抽出された動画構成画像から、移動速度算出段階において算出された移動速度が最も大きいオブジェクトを含む部分画像をトリミングするトリミング段階とを備える。   According to a fifth aspect of the present invention, there is provided an image trimming method for trimming a partial image from an image, the moving image constituent image extracting step for extracting a moving image constituent image from a moving image having a plurality of moving image constituent images; The moving speed of the object included in the moving image constituent image extracted in the moving image constituent image extracted in the moving image constituent image is calculated based on the change in the position of the object in a plurality of moving image constituent images continuous to the moving image constituent image extracted in the moving image constituent image A moving speed calculating step, and a trimming step of trimming a partial image including an object having the highest moving speed calculated in the moving speed calculating step from the moving image constituent image extracted in the moving image constituent image extracting step.

また、本発明の第6の形態においては、画像をトリミングする画像トリミング装置用の画像トリミングプログラムであって、画像トリミング装置を、複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出部と、動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの動画における移動速度を、動画構成画像抽出部が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて算出する移動速度算出部と、動画構成画像抽出部が抽出した動画構成画像から、移動速度算出部が算出した移動速度が最も大きいオブジェクトを含む部分画像をトリミングするトリミング部として機能させる。   According to a sixth aspect of the present invention, there is provided an image trimming program for an image trimming apparatus for trimming an image, wherein the image trimming apparatus extracts a moving picture constituent image from a moving picture having a plurality of moving picture constituent images. The position of the object in a plurality of moving image constituent images that are continuous with the moving image constituent image extracted by the moving image constituent image extracting unit, the moving speed of the object included in the moving image constituent image extracted by the image extracting unit and the moving picture constituent image extracting unit Function as a trimming unit that trims a partial image including an object having the highest moving speed calculated by the moving speed calculation unit from the moving image calculation image extracted by the moving image calculation image extraction unit Let

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではなく、これらの特徴群のサブコンビネーションもまた、発明となりうる。   The above summary of the invention does not enumerate all the necessary features of the present invention, and sub-combinations of these feature groups can also be the invention.

本発明によれば、動画から抽出した動画構成画像に含まれるオブジェクトの移動方向に基づいて、鑑賞者に違和感のない構図となるように、動画構成画像を自動的にレイアウト又はトリミングして出力できる。   According to the present invention, based on the moving direction of an object included in a moving image constituent image extracted from a moving image, the moving image constituent image can be automatically laid out or trimmed and output so that the composition does not feel uncomfortable for the viewer. .

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではなく、また実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。   Hereinafter, the present invention will be described through embodiments of the invention. However, the following embodiments do not limit the invention according to the scope of claims, and all combinations of features described in the embodiments are included. It is not necessarily essential for the solution of the invention.

図1は、本発明の一実施形態に係る画像出力装置10の概念図を示す。なお、画像出力装置10は、本発明に係る画像トリミング装置の一例である。画像出力装置10は、撮像装置110が撮像した動画から動画構成画像を抽出して、動画構成画像に含まれるオブジェクトの移動方向に基づいて、出力領域内にレイアウトする。ここで、出力領域とは、動画構成画像を表示する表示領域、又は、動画構成画像を印刷する印刷領域のことをいう。そして、画像出力装置10は、出力領域内にレイアウトされた動画構成画像を出力する。なお、動画構成画像は、フレーム画像、フィールド画像、およびその他の動画を構成する様々な形式の画像のいずれであってもよい。   FIG. 1 is a conceptual diagram of an image output apparatus 10 according to an embodiment of the present invention. The image output apparatus 10 is an example of an image trimming apparatus according to the present invention. The image output device 10 extracts a moving image constituent image from the moving image captured by the imaging device 110, and lays out the output region based on the moving direction of the object included in the moving image constituent image. Here, the output area refers to a display area for displaying a moving picture constituent image or a printing area for printing a moving picture constituent image. Then, the image output apparatus 10 outputs a moving image constituent image laid out in the output area. Note that the moving image constituent image may be a frame image, a field image, or other types of images constituting the moving image.

例えば、画像出力装置10は、パーソナルコンピュータのモニターの表示領域に、動画構成画像をレイアウトして、表示してよい。また、画像出力装置10は、携帯電話およびPDA等の携帯情報端末等であってもよい。また、画像出力装置10は、動画構成画像を印刷物の印刷領域内にレイアウトして、プリンター等により印刷してもよい。更に、画像出力装置10は、ネットワーク120を介して動画構成画像を受信して、受信した動画構成画像をテレビ受像機およびフォトスタンド等に表示する表示装置であってもよい。   For example, the image output apparatus 10 may lay out and display the moving image constituent image in the display area of the monitor of the personal computer. Further, the image output device 10 may be a mobile information terminal such as a mobile phone and a PDA. Further, the image output apparatus 10 may lay out the moving image composition image in the print area of the printed material and print it with a printer or the like. Furthermore, the image output device 10 may be a display device that receives a moving image constituent image via the network 120 and displays the received moving image constituent image on a television receiver, a photo stand, or the like.

ネットワーク120は、例えば、インターネットであってよく、LAN等であってもよい。なお、画像出力装置10は、撮像した動画の動画構成画像を、ネットワーク120を介して送受信するだけではなく、例えば、撮像装置110に設けた磁気記録媒体および半導体記録媒体等を用いた記憶装置を介して、動画構成画像を画像出力装置10に入力してもよい。更には、無線通信および光通信等により、動画構成画像を画像出力装置10に入力してもよい。   For example, the network 120 may be the Internet or a LAN. The image output device 10 not only transmits / receives moving image constituent images of the captured moving image via the network 120, but also includes a storage device using a magnetic recording medium, a semiconductor recording medium, or the like provided in the imaging device 110, for example. The moving image composing image may be input to the image output device 10 via this. Furthermore, the moving image composition image may be input to the image output device 10 by wireless communication, optical communication, or the like.

本実施形態に係る画像出力装置10は、撮像された動画から抽出された動画構成画像を、動画構成画像に含まれるオブジェクトの移動方向に基づいて、鑑賞者に違和感のない構図となるように自動的にレイアウトすることを目的とする。   The image output apparatus 10 according to the present embodiment automatically converts a moving image constituent image extracted from a captured moving image to a composition that does not give the viewer a sense of incongruity based on the moving direction of an object included in the moving image constituent image. It aims at laying out.

図2は、本実施形態に係る画像出力装置10の機能構成の一例を示す。画像出力装置10は、画像格納部20、動画構成画像抽出部30、移動方向特定部40、画像レイアウト部50、移動速度算出部60、トリミング部70、および画像出力部80を備える。画像出力部80は、表示部90と印刷部100とを有する。画像格納部20は、撮像された動画を格納する。画像格納部20は、撮像された動画を動画構成画像抽出部30へ供給する。動画構成画像抽出部30は、画像格納部20から動画を受け取る。そして、動画構成画像抽出部30は、動画構成画像を有する動画から動画構成画像を抽出する。   FIG. 2 shows an example of a functional configuration of the image output apparatus 10 according to the present embodiment. The image output device 10 includes an image storage unit 20, a moving image constituent image extraction unit 30, a movement direction specification unit 40, an image layout unit 50, a movement speed calculation unit 60, a trimming unit 70, and an image output unit 80. The image output unit 80 includes a display unit 90 and a printing unit 100. The image storage unit 20 stores the captured moving image. The image storage unit 20 supplies the captured moving image to the moving image configuration image extraction unit 30. The moving image constituent image extraction unit 30 receives a moving image from the image storage unit 20. Then, the moving image configuration image extraction unit 30 extracts the moving image configuration image from the moving image having the moving image configuration image.

動画構成画像抽出部30は、抽出した動画構成画像を、移動方向特定部40および移動速度算出部60へ供給する。移動方向特定部40は、動画構成画像抽出部30から動画構成画像を受け取る。移動方向特定部40は、抽出された動画構成画像に含まれるオブジェクトの、動画における移動方向を、連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて特定する。移動方向の特定は、例えば、ブロックマッチング法および勾配法等を用いてよい。移動方向特定部40は、特定したオブジェクトの移動方向を、画像レイアウト部50へ供給する。   The moving image composition image extraction unit 30 supplies the extracted moving image composition image to the movement direction identification unit 40 and the movement speed calculation unit 60. The moving direction specifying unit 40 receives the moving image constituent image from the moving image constituent image extracting unit 30. The moving direction specifying unit 40 specifies the moving direction of the object included in the extracted moving image composition image in the moving image based on the change in the position of the object in the plurality of continuous moving image composition images. For example, a block matching method and a gradient method may be used to specify the moving direction. The moving direction specifying unit 40 supplies the moving direction of the specified object to the image layout unit 50.

移動速度算出部60は、動画構成画像抽出部30から動画構成画像を受け取る。移動速度算出部60は、抽出された動画構成画像に含まれるオブジェクトの動画における移動速度を、動画構成画像抽出部30が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化とフレーム周期とに基づいて算出する。移動速度算出部60は、算出されたオブジェクトの移動速度を、トリミング部70へ供給する。   The moving speed calculation unit 60 receives the moving image composition image from the moving image composition image extraction unit 30. The moving speed calculation unit 60 changes the position of the object in a plurality of moving image constituent images that are continuous with the moving image constituent image extracted by the moving image constituent image extracting unit 30 based on the moving speed of the object included in the extracted moving image constituent image. And the frame period. The movement speed calculation unit 60 supplies the calculated movement speed of the object to the trimming unit 70.

トリミング部70は、移動速度算出部60から算出されたオブジェクトの移動速度を受け取る。そして、トリミング部70は、算出された移動速度が、予め定められた基準速度より大きい移動速度を有するオブジェクトを含む部分画像をトリミングする。なお、基準速度は、撮像者等が自由に設定してよい。トリミング部70は、トリミングされた部分画像を画像レイアウト部50へ供給する。   The trimming unit 70 receives the movement speed of the object calculated from the movement speed calculation unit 60. Then, the trimming unit 70 trims a partial image including an object whose calculated moving speed is higher than a predetermined reference speed. The reference speed may be freely set by the photographer or the like. The trimming unit 70 supplies the trimmed partial image to the image layout unit 50.

画像レイアウト部50は、移動方向特定部40から、移動方向特定部40において特定されたオブジェクトの移動方向を受け取る。また、画像レイアウト部50は、トリミング部70においてトリミングされた部分画像を受け取ってもよい。画像レイアウト部50は、移動方向特定部40において特定されたオブジェクトの移動方向に基づいて、抽出された動画構成画像を出力領域内にレイアウトする。画像レイアウト部50は、レイアウトされた動画構成画像を画像出力部80へ供給する。   The image layout unit 50 receives the moving direction of the object specified by the moving direction specifying unit 40 from the moving direction specifying unit 40. Further, the image layout unit 50 may receive the partial image trimmed by the trimming unit 70. The image layout unit 50 lays out the extracted moving image composition image in the output area based on the moving direction of the object specified by the moving direction specifying unit 40. The image layout unit 50 supplies the laid out moving image composition image to the image output unit 80.

画像出力部80は、画像レイアウト部50からレイアウトされた動画構成画像を受け取る。そして、画像出力部80は、出力領域内にレイアウトされた動画構成画像を出力する。また、表示部90は、レイアウトされた動画構成画像を表示する。更に、印刷部100は、出力領域内にレイアウトされた動画構成画像を印刷する。   The image output unit 80 receives a moving image constituent image laid out from the image layout unit 50. Then, the image output unit 80 outputs a moving image constituent image laid out in the output area. Further, the display unit 90 displays the laid out moving image composition image. Further, the printing unit 100 prints the moving image composition image laid out in the output area.

本実施形態に係る画像出力装置10によれば、動画から動画構成画像を抽出して、動画構成画像に含まれるオブジェクトの移動方向に基づいて動画構成画像を自動的にレイアウトすることができる。これにより、鑑賞者に特別な操作を必要とせずに、鑑賞者とって見栄えがよく、動画構成画像の構図に違和感を覚えないレイアウトの動画構成画像を出力できる。   According to the image output apparatus 10 according to the present embodiment, a moving image composing image can be extracted from a moving image, and the moving image composing image can be automatically laid out based on the moving direction of an object included in the moving image composing image. Accordingly, it is possible to output a moving image constituent image having a layout that does not require a special operation for the viewer and that is good for the viewer and that does not give a sense of incongruity to the composition of the moving image constituent image.

図3は、移動速度算出部60における移動速度算出方法の一例を示す。移動速度算出部60は、動画構成画像抽出部30が抽出した動画構成画像に連続する複数の動画構成画像を、ずらし量を変化させながら重ね合わせてマッチングする。そして、移動速度算出部60は、所定のずらし量毎に、動画構成画像同士の一致度を算出する。ここで、ずらし量とは、動画構成画像同士が重なり合っている量を示す。そして、ずらし量は鑑賞者等が自由に設定してよい。また、一致度とは、動画構成画像が重なり合っている面積において、動画構成画像に対して背景およびオブジェクトがマッチングしている部分の面積比を示す。   FIG. 3 shows an example of a moving speed calculation method in the moving speed calculator 60. The moving speed calculation unit 60 superimposes and matches a plurality of moving image configuration images that are continuous with the moving image configuration image extracted by the moving image configuration image extraction unit 30 while changing the shift amount. Then, the moving speed calculation unit 60 calculates the degree of coincidence between the moving image constituent images for each predetermined shift amount. Here, the shift amount indicates the amount by which the moving image constituent images overlap. The shift amount may be freely set by a viewer or the like. Further, the degree of coincidence indicates an area ratio of a portion where the background and the object match the moving image constituent image in the area where the moving image constituent images overlap.

そして、移動速度算出部60は、動画構成画像210の端部から動画構成画像220の長手方向にずらしながら、重ね合わせてマッチングする。そして、移動速度算出部60は、グラフ230において、一致度が最大であるピーク234を、動画構成画像210と動画構成画像220との背景が一致している点と判断する。これは、動画構成画像に対して背景が占める面積の比は、通常最大であり、背景が一致した場合には、動画構成画像同士の一致度も最大としてよいからである。   Then, the moving speed calculation unit 60 performs superposition matching while shifting from the end of the moving image composition image 210 in the longitudinal direction of the moving image composition image 220. Then, the moving speed calculation unit 60 determines that the peak 234 having the maximum coincidence in the graph 230 is a point where the backgrounds of the moving image constituent image 210 and the moving image constituent image 220 match. This is because the ratio of the area occupied by the background to the moving image constituent image is normally the maximum, and when the background matches, the degree of matching between the moving image constituent images may be the maximum.

また、移動速度算出部60は、一致度が最大となるピークを除く、他のピークを、動画構成画像210と動画構成画像220に含まれるオブジェクトが一致している点を示すピークと判断する。動画構成画像に含まれるオブジェクトの動画構成画像に対する面積比は、背景の動画構成画像に対する面積比より、通常は小さい値を示すので、一致度が最大となるピークを除いた、その他のピークを、オブジェクトが一致している点を示すピークと判断する。   In addition, the moving speed calculation unit 60 determines other peaks, except for the peak having the highest degree of coincidence, as peaks indicating points at which the objects included in the moving image configuration image 210 and the moving image configuration image 220 match. Since the area ratio of the object included in the video composition image to the video composition image is usually smaller than the area ratio of the background video composition image, the other peaks excluding the peak where the degree of coincidence is maximum, Judged as a peak indicating a point where objects match.

そして、移動速度算出部60が判断した、背景が一致している点の位置とオブジェクトが一致している点の位置の差を、オブジェクトの背景に対する移動量236とする。これにより、フレーム周期および算出されたオブジェクトの背景に対する移動量236に基づいて、オブジェクトの移動速度を算出できる。   Then, the difference between the position of the point where the background matches and the position of the point where the object matches, which is determined by the moving speed calculation unit 60, is set as a movement amount 236 of the object with respect to the background. Thereby, the moving speed of the object can be calculated based on the frame period and the calculated movement amount 236 of the object with respect to the background.

なお、動画構成画像をずらしながらマッチングする方向は、上記説明の場合に限られない。移動速度算出部60は、例えば、動画構成画像の縦方向又は横方向に沿って、所定のずらし量毎に動画構成画像をずらしてマッチングしてもよい。また、移動速度算出部60は、縦方向および横方向の双方の所定のずらし量を同時に各々変化させて、動画構成画像をずらしてマッチングしてもよい。   Note that the matching direction while shifting the moving image constituent image is not limited to the case described above. For example, the moving speed calculation unit 60 may perform matching by shifting the moving image constituent image by a predetermined shift amount along the vertical direction or the horizontal direction of the moving image constituent image. In addition, the moving speed calculation unit 60 may perform matching by shifting the moving image constituent images by simultaneously changing the predetermined shift amounts in both the vertical and horizontal directions.

また、他の例においては、移動速度算出部60は、抽出された動画構成画像に連続する複数の動画構成画像を重ね合わせて、マッチングしてよい。移動速度算出部60は、マッチングによりマッチングしなかった領域を、移動しているオブジェクトとして抽出してよい。そして、移動速度算出部60は、抽出されたオブジェクトについて、フレーム周期とオブジェクトの移動距離とに基づいて、オブジェクトの移動速度を算出してもよい。   In another example, the moving speed calculation unit 60 may superimpose a plurality of continuous moving image constituent images on the extracted moving image constituent images and perform matching. The moving speed calculation unit 60 may extract a region that has not been matched by matching as a moving object. Then, the moving speed calculation unit 60 may calculate the moving speed of the object based on the frame period and the moving distance of the object for the extracted object.

図4は、本実施形態に係る出力領域における画像のレイアウトの一例を示す。画像レイアウト部50は、移動方向特定部40が特定したオブジェクトの移動方向が、出力領域の中心方向を向くように、動画構成画像を出力領域内にレイアウトする。例えば、画像レイアウト部50は、動画構成画像310および動画構成画像320に含まれる人物の移動方向がアルバム300の見開きページの中心に向くように、動画構成画像をレイアウトしてよい。   FIG. 4 shows an example of an image layout in the output area according to the present embodiment. The image layout unit 50 lays out the moving image composing image in the output area so that the moving direction of the object specified by the moving direction specifying unit 40 faces the center direction of the output area. For example, the image layout unit 50 may lay out the moving image composition image so that the moving direction of the person included in the moving image composition image 310 and the moving image composition image 320 faces the center of the spread page of the album 300.

図5は、本実施形態に係る出力領域における画像のレイアウトの一例を示す。画像レイアウト部50は、動画構成画像410および動画構成画像420に含まれているオブジェクトの移動方向が紙面400の中心を向くように、動画構成画像をレイアウトしてもよい。   FIG. 5 shows an example of an image layout in the output area according to the present embodiment. The image layout unit 50 may lay out the moving image configuration image so that the moving direction of the objects included in the moving image configuration image 410 and the moving image configuration image 420 faces the center of the paper surface 400.

図6は、本実施形態に係る出力領域における画像のレイアウトの一例を示す。画像レイアウト部50は、動画構成画像510、動画構成画像520、動画構成画像530および動画構成画像540に含まれているオブジェクトの移動方向が、アルバム500のページの中心に向くように、動画構成画像をレイアウトしてもよい。   FIG. 6 shows an example of an image layout in the output area according to the present embodiment. The image layout unit 50 displays the moving image composition image 510, the moving image composition image 520, the moving image composition image 530, and the moving image composition image 540 so that the moving direction of the objects is directed to the center of the page of the album 500. May be laid out.

図7は、本実施形態に係る出力領域における画像のレイアウトの一例を示す。画像レイアウト部50は、動画構成画像610および動画構成画像620に含まれるオブジェクトの移動方向が、アルバム600の次頁に向くように、動画構成画像をレイアウトしてもよい。   FIG. 7 shows an example of an image layout in the output area according to the present embodiment. The image layout unit 50 may lay out the moving image composition image so that the moving direction of the objects included in the moving image composition image 610 and the moving image composition image 620 is directed to the next page of the album 600.

図8は、本実施形態に係る出力領域における画像のレイアウトの一例を示す。画像レイアウト部50は、動画構成画像抽出部30が抽出した複数の動画構成画像を、オブジェクトの移動方向に沿って時系列にレイアウトしてよい。例えば、抽出された動画構成画像710から動画構成画像740の順番に、撮像された時間がより後の時間になる場合には、出力領域700に、動画構成画像710、動画構成画像720、動画構成画像730、および動画構成画像740の順にレイアウトしてもよい。また、動画構成画像をアルバムなどにレイアウトする場合には、アルバムの次頁に向くように、動画構成画像をレイアウトしてもよい。   FIG. 8 shows an example of an image layout in the output area according to the present embodiment. The image layout unit 50 may lay out a plurality of moving image constituent images extracted by the moving image constituent image extracting unit 30 in time series along the moving direction of the object. For example, in the order of the extracted moving picture composition image 710 to the moving picture composition image 740, when the captured time is later, the moving picture composition image 710, the moving picture composition image 720, and the moving picture composition are displayed in the output area 700. You may lay out in order of the image 730 and the moving image structure image 740. FIG. Further, when laying out moving image constituent images on an album or the like, the moving image constituent images may be laid out so as to be directed to the next page of the album.

図9は、本実施形態に係るトリミング部70におけるトリミングの方法および画像レイアウト部50における画像のレイアウトの一例を示す。トリミング部70は、動画構成画像抽出部30が抽出した動画構成画像から、移動速度算出部60が算出した移動速度が最も大きいオブジェクトを含む部分画像をトリミングしてよい。例えば、動画構成画像800において、移動速度算出部60が算出した移動速度が最も大きいオブジェクトが、被写体820である場合には、トリミング部70は、被写体820を含む部分画像810をトリミングしてよい。   FIG. 9 shows an example of a trimming method in the trimming unit 70 and an image layout in the image layout unit 50 according to the present embodiment. The trimming unit 70 may trim a partial image including an object having the highest moving speed calculated by the moving speed calculating unit 60 from the moving picture constituent image extracted by the moving picture constituent image extracting unit 30. For example, when the object having the highest moving speed calculated by the moving speed calculation unit 60 in the moving image composition image 800 is the subject 820, the trimming unit 70 may trim the partial image 810 including the subject 820.

また、トリミング部70は、抽出された動画構成画像から、算出された移動速度が、予め定められた基準速度より大きい移動速度を有するオブジェクトのうち、動画構成画像における面積が最も大きいオブジェクトを含む部分画像をトリミングしてもよい。例えば、動画構成画像802において、移動速度が予め定められた基準速度より大きい移動速度を有するオブジェクトが、被写体820と被写体840であった場合には、トリミング部70は、動画構成画像802における、面積が最も大きい被写体820を含む部分画像812をトリミングしてよい。   In addition, the trimming unit 70 includes a part including an object having the largest area in the moving image constituent image among objects having a moving speed larger than a predetermined reference speed calculated from the extracted moving image constituent image. The image may be cropped. For example, in the moving image composing image 802, when the objects having moving speeds higher than a predetermined reference speed are the subject 820 and the subject 840, the trimming unit 70 displays the area in the moving image composing image 802. The partial image 812 including the subject 820 having the largest may be trimmed.

そして、トリミング部70は、トリミングされた部分画像を画像レイアウト部50へ供給する。画像レイアウト部50は、トリミングされた部分画像を受け取る。そして、画像レイアウト部50は、画像レイアウト部50から受け取ったトリミングされた部分画像を、部分画像に含まれているオブジェクトの移動方向に基づいて、出力領域内にレイアウトしてよい。例えば、画像レイアウト部50は、出力領域850に、部分画像810aから部分画像816aを、部分画像に含まれるオブジェクトの移動方向に基づいてレイアウトしてよい。   Then, the trimming unit 70 supplies the trimmed partial image to the image layout unit 50. The image layout unit 50 receives the trimmed partial image. Then, the image layout unit 50 may lay out the trimmed partial image received from the image layout unit 50 in the output area based on the moving direction of the object included in the partial image. For example, the image layout unit 50 may lay out the partial image 810a to the partial image 816a in the output area 850 based on the moving direction of the object included in the partial image.

本実施形態に係る画像出力装置10によれば、動画構成画像に含まれるオブジェクトの移動方向に基づいて、抽出された動画構成画像をレイアウトできる。また、動画構成画像から、動画構成画像に含まれるオブジェクトの移動速度に基づいて、動画構成画像から部分画像をトリミングして、レイアウトできる。これにより、鑑賞者に特別な操作を必要とせずに、鑑賞者が違和感を覚えることのない構図になるように、自動的に動画構成画像および部分画像をレイアウトした画像を出力することができる。   According to the image output apparatus 10 according to the present embodiment, it is possible to lay out the extracted moving image configuration image based on the moving direction of the object included in the moving image configuration image. In addition, a partial image can be trimmed from the moving image constituent image and laid out based on the moving speed of the object included in the moving image constituent image. Accordingly, it is possible to automatically output an image in which a moving image constituent image and a partial image are laid out so that the viewer does not need a special operation and the viewer does not feel uncomfortable.

図10は、本発明の他の実施形態に係る画像出力装置10の機能構成の一例を示す。画像出力装置10は、テンプレート格納部25、動画構成画像抽出部30、画像選択部32、第一画像選択部34、第二画像選択部36、移動方向決定部45、画像回転処理部72、変換画像生成部74、およびトリミング画像生成部76を備える。なお、本実施形態に係る画像出力装置10は、図1から図9での上記説明で説明した画像出力装置10の構成、および機能の一部または全部を更に備えてよい。   FIG. 10 shows an example of a functional configuration of an image output apparatus 10 according to another embodiment of the present invention. The image output device 10 includes a template storage unit 25, a moving image composition image extraction unit 30, an image selection unit 32, a first image selection unit 34, a second image selection unit 36, a moving direction determination unit 45, an image rotation processing unit 72, a conversion An image generation unit 74 and a trimmed image generation unit 76 are provided. The image output apparatus 10 according to the present embodiment may further include a part or all of the configuration and functions of the image output apparatus 10 described in the above description with reference to FIGS.

テンプレート格納部25は、動画構成画像を配置する位置である画像配置位置と当該画像配置位置に配置されるべき動画構成画像に含まれるオブジェクトの移動方向とが予め定められた出力領域のテンプレートを格納している。テンプレート格納部25が格納しているテンプレートには、少なくとも一つの画像配置位置が定められていてよく、画像配置位置には動画構成画像を配置する枠である画像配置枠が対応づけられていてよい。また、テンプレート格納部25は、第一の動画構成画像が配置されるべき第一の画像配置位置、および第二の動画構成画像が配置されるべき第二の画像配置位置が予め定められた出力領域のテンプレートを格納してもよい。そして、テンプレート格納部25は、第二の画像配置位置と、第一の動画構成画像に含まれるオブジェクトの移動方向に対する相対的なオブジェクトの移動方向とが予め定められた出力領域のテンプレートを格納していてもよい。   The template storage unit 25 stores a template of an output area in which an image arrangement position, which is a position at which a moving image constituent image is arranged, and a moving direction of an object included in the moving image constituent image to be arranged at the image arrangement position are predetermined. is doing. The template stored in the template storage unit 25 may have at least one image arrangement position, and the image arrangement position may be associated with an image arrangement frame that is a frame in which a moving image constituent image is arranged. . In addition, the template storage unit 25 outputs a predetermined first image arrangement position where the first moving image constituent image is to be arranged and a second image arrangement position where the second moving image constituent image is to be arranged. An area template may be stored. The template storage unit 25 stores a template of an output area in which the second image arrangement position and the movement direction of the object relative to the movement direction of the object included in the first moving image constituent image are predetermined. It may be.

ここで、テンプレート格納部25が格納しているテンプレートに含まれる画像配置位置には、合成情報が対応づけられていてよい。合成情報は、画像配置位置に配置されるべき動画構成画像の特徴を示す情報であってよい。例えば、合成情報は、動画構成画像に含まれるオブジェクトの名前、動画構成画像に含まれるオブジェクトの移動速度、および動画構成画像が含む主要なオブジェクトの動画構成画像内における位置等であってよく、動画構成画像に含まれるオブジェクトの移動方向は合成情報の一例である。テンプレート格納部25は、テンプレートが含む画像配置位置に対応づけられている合成情報を、画像選択部32の制御に基づいて、画像選択部32に供給する。また、テンプレート格納部25は、画像レイアウト部50の制御に基づいて、テンプレートを画像レイアウト部50に供給する。   Here, the composition information may be associated with the image arrangement position included in the template stored in the template storage unit 25. The combination information may be information indicating the characteristics of the moving image constituting image to be arranged at the image arrangement position. For example, the composite information may be the name of the object included in the moving image composition image, the moving speed of the object included in the moving image composition image, the position of the main object included in the moving image composition image, etc. The moving direction of the object included in the configuration image is an example of the synthesis information. The template storage unit 25 supplies the combination information associated with the image arrangement position included in the template to the image selection unit 32 based on the control of the image selection unit 32. Further, the template storage unit 25 supplies the template to the image layout unit 50 based on the control of the image layout unit 50.

動画構成画像抽出部30は、画像格納部20から受け取った動画から動画構成画像を抽出する。また、動画構成画像抽出部30は、抽出した動画構成画像に合成情報を対応づけて、画像格納部20に格納させてもよい。動画構成画像抽出部30は、画像選択部32の制御に基づいて、動画構成画像を画像選択部32に供給する。移動方向特定部40は、動画構成画像に含まれるオブジェクトの動画構成画像における移動方向を特定して、特定したオブジェクトの移動方向を動画構成画像に対応づけて画像格納部20に格納する。移動方向特定部40は、特定したオブジェクトの移動方向を動画構成画像に対応づけて、動画構成画像抽出部30を介して画像格納部20に格納してもよい。移動方向特定部40は、特定したオブジェクトの移動方向を画像選択部32に供給する。また、移動速度算出部60は、算出したオブジェクトの移動速度を画像選択部32に供給する。   The moving image composition image extraction unit 30 extracts a moving image composition image from the moving image received from the image storage unit 20. Further, the moving image composition image extraction unit 30 may associate the combined information with the extracted moving image composition image and store it in the image storage unit 20. The moving image composition image extraction unit 30 supplies the moving image composition image to the image selection unit 32 based on the control of the image selection unit 32. The moving direction specifying unit 40 specifies the moving direction of the object included in the moving image constituent image in the moving image constituent image, and stores the specified moving direction of the object in the image storage unit 20 in association with the moving image constituent image. The moving direction specifying unit 40 may associate the moving direction of the specified object with the moving image constituent image and store the moving direction in the image storage unit 20 via the moving image constituent image extracting unit 30. The movement direction identification unit 40 supplies the movement direction of the identified object to the image selection unit 32. The moving speed calculation unit 60 supplies the calculated moving speed of the object to the image selection unit 32.

画像選択部32は、テンプレート格納部25が格納しているテンプレートが含む画像配置位置に対応づけられている合成情報と一致する合成情報が対応づけられている動画構成画像を、動画構成画像抽出部30が抽出した動画構成画像から選択する。具体的には、画像選択部32は、テンプレート格納部25から、テンプレートが含む画像配置位置に対応づけられている合成情報を受け取る。より具体的には、画像選択部32は、テンプレート格納部25から、合成情報に含まれるオブジェクトの移動方向を受け取る。そして、画像選択部32は、テンプレート格納部25から受け取ったオブジェクトの移動方向と移動方向特定部40が特定したオブジェクトの移動方向とが一致する動画構成画像を動画構成画像抽出部30が抽出した動画構成画像の中から選択する。また、画像選択部32は、移動方向特定部40が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、移動方向特定部40が特定した移動方向とは反対の方向に存在する動画構成画像内の領域の面積より大きい動画構成画像を、連続する複数の動画構成画像から選択してもよい。また、画像選択部32は、移動速度算出部60が算出したオブジェクトの移動速度がより大きい場合に、移動方向特定部40が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積がより大きい動画構成画像を選択してもよい。   The image selection unit 32 generates a moving image configuration image extraction unit that extracts a moving image configuration image that is associated with synthesis information that matches the synthesis information that is associated with the image arrangement position included in the template stored in the template storage unit 25. 30 selects from the extracted moving picture composition images. Specifically, the image selection unit 32 receives, from the template storage unit 25, synthesis information associated with the image arrangement position included in the template. More specifically, the image selection unit 32 receives the moving direction of the object included in the synthesis information from the template storage unit 25. Then, the image selecting unit 32 extracts the moving image constituent image in which the moving image constituent image extracted by the moving image constituent image extracting unit 30 matches the moving direction of the object received from the template storage unit 25 and the moving direction of the object specified by the moving direction specifying unit 40. Select from the constituent images. In addition, the image selection unit 32 has an area of a region in the moving image composition image that exists in the moving direction of the object specified by the moving direction specifying unit 40 in a direction opposite to the moving direction specified by the moving direction specifying unit 40. A moving image constituent image larger than the area of the region in the moving image constituent image to be selected may be selected from a plurality of continuous moving image constituent images. In addition, when the moving speed of the object calculated by the moving speed calculation unit 60 is higher, the image selection unit 32 determines the area of the region in the moving image composition image that exists in the moving direction of the object specified by the moving direction specifying unit 40. A larger video composition image may be selected.

更に、画像選択部32は、第一画像選択部34および第二画像選択部36を有していてよい。第一画像選択部34は、第一の画像配置位置に配置されるべき第一の動画構成画像を選択する。第一の動画構成画像の一例としては主画像が挙げられる。主画像とは、閲覧者に対してアルバム等のページにおいて最も強く印象づけることが意図されている動画構成画像をいう。例えば主画像とは、アルバム等における主人公が含まれている動画構成画像であってよい。また、主画像は、ページに配置された複数の動画構成画像のうち、最も強調された動画構成画像であってよい。具体的には、主画像とは、他の動画構成画像に比べて前面に配置される動画構成画像および最も中央寄りに配置される動画構成画像であってよい。他にも主画像とは、周囲を枠で強調された動画構成画像、被写体にエフェクト等の視覚効果が施された動画構成画像等であってもよい。また、本実施形態でいう第二の動画構成画像とは従画像であってよい。ここで、従画像とは、アルバム等における主人公を除く被写体が含まれる動画構成画像であってよい。また、従画像とは、主画像よりも小さく、アルバム等のページの中央より外に配置される動画構成画像であってよい。そして、第二画像選択部36は、後述する移動方向決定部45が決定した移動方向に移動するオブジェクトを含む第二の動画構成画像を選択する。具体的には、第二画像選択部36は、移動方向決定部45が決定した移動方向に移動するオブジェクトを含む動画構成画像を、動画構成画像抽出部30が抽出した動画構成画像から選択する。画像選択部32、第一画像選択部34、および第二画像選択部36は選択した動画構成画像をトリミング画像生成部76、画像回転処理部72、または変換画像生成部74に供給する。   Further, the image selection unit 32 may include a first image selection unit 34 and a second image selection unit 36. The first image selection unit 34 selects the first moving image constituent image to be arranged at the first image arrangement position. An example of the first moving image constituent image is a main image. The main image is a moving image constituent image that is intended to give the viewer the strongest impression on a page such as an album. For example, the main image may be a moving image constituent image including the main character in an album or the like. Further, the main image may be the most emphasized moving image constituent image among the plurality of moving image constituent images arranged on the page. Specifically, the main image may be a moving image constituent image arranged in front of the other moving picture constituent images and a moving image constituent image arranged closest to the center. In addition, the main image may be a moving image composition image in which the periphery is emphasized by a frame, a moving image composition image in which a visual effect such as an effect is applied to the subject, or the like. Further, the second moving image constituent image referred to in the present embodiment may be a sub image. Here, the sub image may be a moving image composing image including a subject other than the main character in an album or the like. The sub image may be a moving image constituent image that is smaller than the main image and arranged outside the center of a page such as an album. And the 2nd image selection part 36 selects the 2nd moving image structure image containing the object which moves to the moving direction determined by the moving direction determination part 45 mentioned later. Specifically, the second image selection unit 36 selects a moving image configuration image including an object moving in the movement direction determined by the movement direction determination unit 45 from the moving image configuration image extracted by the moving image configuration image extraction unit 30. The image selection unit 32, the first image selection unit 34, and the second image selection unit 36 supply the selected moving image constituent image to the trimming image generation unit 76, the image rotation processing unit 72, or the converted image generation unit 74.

移動方向決定部45は、第一画像選択部34が選択した第一の動画構成画像に含まれるオブジェクトの移動方向に応じて、第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を決定する。具体的には、移動方向特定部40は、第一画像選択部34が選択した第一の動画構成画像に含まれるオブジェクトの移動方向、およびテンプレート格納部25が格納しているテンプレートの画像配置位置の合成情報に含まれるオブジェクトの相対的な移動方向に基づいて、第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を決定する。例えば、第一の動画構成画像に含まれるオブジェクトの移動方向と同一方向に移動するオブジェクトが含まれる動画構成画像を第二の画像配置位置に配置することを目的として、移動方向決定部45は、第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を、第一の動画構成画像に含まれるオブジェクトの移動方向と同一方向に決定してよい。また、移動方向決定部45は、第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を、第一の動画構成画像に含まれるオブジェクトの移動方向とは異なる方向に決定してもよい。更に、移動方向決定部45は、テンプレートが複数の画像配置位置を含む場合には、各画像配置位置のそれぞれについて独立に移動方向を決定してもよい。移動方向決定部45は、決定した移動方向を第二画像選択部36に供給する。   The moving direction determination unit 45 is a second moving image constituent image to be arranged at the second image arrangement position in accordance with the moving direction of the object included in the first moving image constituent image selected by the first image selecting unit 34. Determines the direction of movement of the objects contained in. Specifically, the moving direction specifying unit 40 moves the object included in the first moving image constituent image selected by the first image selecting unit 34 and the image arrangement position of the template stored in the template storage unit 25. The moving direction of the object included in the second moving image constituent image to be arranged at the second image arrangement position is determined based on the relative moving direction of the object included in the combination information. For example, for the purpose of arranging the moving image composition image including the object moving in the same direction as the moving direction of the object included in the first moving image composition image at the second image arrangement position, the movement direction determination unit 45 You may determine the moving direction of the object contained in the 2nd moving image structure image which should be arrange | positioned in a 2nd image arrangement position to the same direction as the moving direction of the object contained in a 1st moving image composition image. In addition, the movement direction determination unit 45 determines the movement direction of the object included in the second moving image constituent image to be arranged at the second image arrangement position as the moving direction of the object included in the first moving image constituent image. It may be determined in a different direction. Furthermore, when the template includes a plurality of image arrangement positions, the movement direction determination unit 45 may determine the movement direction independently for each image arrangement position. The movement direction determination unit 45 supplies the determined movement direction to the second image selection unit 36.

トリミング画像生成部76は、移動方向特定部40が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、移動方向特定部40が特定したオブジェクトの移動方向とは反対の方向に存在する動画構成画像内の領域の面積よりも大きくなるように、画像選択部32から受け取った動画構成画像に含まれるオブジェクトをトリミングしてトリミング画像を生成する。また、トリミング画像生成部76は、移動速度算出部60が算出したオブジェクトの移動速度がより大きい場合に、移動方向特定部40が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、移動方向特定部40が特定した移動方向とは反対の方向に存在する動画構成画像内の領域の面積よりも大きくなるように、動画構成画像に含まれるオブジェクトをトリミングしてトリミング画像を生成してもよい。トリミング画像生成部76は、生成したトリミング画像を画像レイアウト部50に供給する。   The trimming image generation unit 76 has the area of the moving image composition image existing in the moving direction of the object specified by the moving direction specifying unit 40 in a direction opposite to the moving direction of the object specified by the moving direction specifying unit 40. A trimmed image is generated by trimming the object included in the moving image constituent image received from the image selection unit 32 so as to be larger than the area of the region in the existing moving image constituent image. In addition, the trimming image generation unit 76, when the movement speed of the object calculated by the movement speed calculation unit 60 is larger, the area of the region in the moving image composition image that exists in the movement direction of the object specified by the movement direction specification unit 40 However, the trimming image is generated by trimming the object included in the moving image constituent image so that the area is larger than the area of the moving image constituent image existing in the direction opposite to the moving direction specified by the moving direction specifying unit 40. May be. The trimmed image generation unit 76 supplies the generated trimmed image to the image layout unit 50.

画像回転処理部72は、移動方向特定部40が特定したオブジェクトの移動方向と、テンプレート格納部25が格納しているテンプレートが含む画像配置位置に対応づけられている移動方向とが一致する動画構成画像が存在しないと画像選択部32が判断した場合に、画像選択部32からオブジェクトの移動方向、および動画構成画像抽出部30が抽出した動画構成画像を画像選択部32から受け取る。そして、画像回転処理部72は、画像選択部32から受け取った移動方向とテンプレート格納部25が格納しているテンプレートの画像配置位置に対応づけられている移動方向とが一致するように、受け取った動画構成画像を当該動画構成画像の面の水平方向に沿って回転させる。画像回転処理部72は、回転した動画構成画像をトリミング部70に供給する。   The image rotation processing unit 72 has a moving image configuration in which the moving direction of the object specified by the moving direction specifying unit 40 matches the moving direction associated with the image arrangement position included in the template stored in the template storage unit 25. When the image selecting unit 32 determines that no image exists, the moving direction of the object from the image selecting unit 32 and the moving image constituent image extracted by the moving image constituent image extracting unit 30 are received from the image selecting unit 32. The image rotation processing unit 72 receives the movement direction received from the image selection unit 32 so that the movement direction associated with the image arrangement position of the template stored in the template storage unit 25 matches. The moving image constituent image is rotated along the horizontal direction of the surface of the moving image constituent image. The image rotation processing unit 72 supplies the rotated moving image composition image to the trimming unit 70.

変換画像生成部74は、移動方向特定部40が特定したオブジェクトの移動方向と、テンプレート格納部25が格納しているテンプレートが含む画像配置位置に対応づけられているオブジェクトの移動方向とが一致する動画構成画像が存在しないと画像選択部32が判断した場合に、当該オブジェクトの移動方向および動画構成画像抽出部30が抽出した動画構成画像を、画像選択部32から受け取る。そして、変換画像生成部74は、画像選択部32から受け取ったオブジェクトの移動方向とテンプレート格納部25が格納しているテンプレートの画像配置位置に対応づけられているオブジェクトの移動方向とが一致するように、動画構成画像に対して幾何学的な変換を施した画像を生成する。例えば、変換画像生成部74は受け取った動画構成画像を平行四辺形等に変換して、テンプレートの画像配置位置に対応づけられているオブジェクトの移動方向と移動方向特定部40が特定したオブジェクトの移動方向とを一致させてよい。変換画像生成部74は、動画構成画像を変換した画像をトリミング部70に供給する。   The converted image generation unit 74 matches the movement direction of the object specified by the movement direction specification unit 40 with the movement direction of the object associated with the image arrangement position included in the template stored in the template storage unit 25. When the image selecting unit 32 determines that no moving image constituent image exists, the moving direction of the object and the moving image constituent image extracted by the moving image constituent image extracting unit 30 are received from the image selecting unit 32. The converted image generation unit 74 then matches the movement direction of the object received from the image selection unit 32 with the movement direction of the object associated with the template image arrangement position stored in the template storage unit 25. In addition, an image obtained by performing geometric transformation on the moving image constituent image is generated. For example, the converted image generation unit 74 converts the received moving image composition image into a parallelogram and the like, and the movement direction of the object associated with the image arrangement position of the template and the movement of the object specified by the movement direction specifying unit 40 The direction may be matched. The converted image generation unit 74 supplies an image obtained by converting the moving image constituent image to the trimming unit 70.

トリミング部70は、変換画像生成部74および画像回転処理部72から受け取った画像を、画像配置位置の画像配置枠の形状にトリミングする。トリミング部70は、トリミングした画像を画像レイアウト部50に供給する。画像レイアウト部50は、テンプレート格納部25からテンプレートを受け取る。そして、画像レイアウト部50は、トリミング画像生成部76から受け取ったトリミング画像、およびトリミング部70から受け取ったトリミングされた画像を、テンプレートの画像配置位置にレイアウトする。また、画像レイアウト部50は、変換画像生成部74が生成した画像をトリミング部70を介して受け取り、テンプレートの画像配置位置にレイアウトしてもよい。   The trimming unit 70 trims the image received from the converted image generation unit 74 and the image rotation processing unit 72 into the shape of the image arrangement frame at the image arrangement position. The trimming unit 70 supplies the trimmed image to the image layout unit 50. The image layout unit 50 receives a template from the template storage unit 25. Then, the image layout unit 50 lays out the trimmed image received from the trimmed image generation unit 76 and the trimmed image received from the trimming unit 70 at the image arrangement position of the template. Further, the image layout unit 50 may receive the image generated by the converted image generation unit 74 via the trimming unit 70 and lay it out at the image arrangement position of the template.

また、画像レイアウト部50は、第一画像選択部34が選択した第一の動画構成画像を第一の画像配置位置にレイアウトする。続いて、画像レイアウト部50は、第一の画像配置位置に第一の動画構成画像をレイアウトした場合に、第一の動画構成画像に含まれるオブジェクトの移動方向を移動方向決定部45に供給する。移動方向決定部45は、画像レイアウト部50から受け取った第一の動画構成画像に含まれるオブジェクトの移動方向に応じて、第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を決定してよい。そして、画像レイアウト部50は、第二画像選択部36が選択した第二の動画構成画像を第二の画像配置位置にレイアウトする。画像レイアウト部50は、レイアウトされた動画構成画像を画像出力部80に供給する。画像出力部80は、レイアウトされた動画構成画像を印刷部100において紙媒体に印刷して、アルバムとして出力してよい。また、画像出力部80は、DVD等の記録媒体にレイアウトされた動画構成画像を記録してもよい。   The image layout unit 50 lays out the first moving image constituent image selected by the first image selection unit 34 at the first image arrangement position. Subsequently, the image layout unit 50 supplies the movement direction determination unit 45 with the moving direction of the object included in the first moving image constituent image when the first moving image constituent image is laid out at the first image arrangement position. . The moving direction determination unit 45 is included in the second moving image configuration image to be arranged at the second image arrangement position in accordance with the moving direction of the object included in the first moving image configuration image received from the image layout unit 50. The moving direction of the object to be moved may be determined. Then, the image layout unit 50 lays out the second moving image constituent image selected by the second image selection unit 36 at the second image arrangement position. The image layout unit 50 supplies the laid out moving image composition image to the image output unit 80. The image output unit 80 may print the laid out moving image composition image on a paper medium in the printing unit 100 and output it as an album. The image output unit 80 may record a moving image constituent image laid out on a recording medium such as a DVD.

本実施形態に係る画像出力装置10によれば、テンプレートに含まれる画像配置位置には予め合成情報が対応づけられているので、合成情報と一致する動画構成画像を自動的に選択して、選択された動画構成画像を画像配置位置にレイアウトできる。これにより、ユーザが多数の動画構成画像から画像配置位置に適した動画構成画像を選択してレイアウトする時間および手間を省くことができる。   According to the image output apparatus 10 according to the present embodiment, since the composite information is associated with the image arrangement position included in the template in advance, a moving image constituent image that matches the composite information is automatically selected and selected. The moving image composition image can be laid out at the image arrangement position. Thereby, it is possible to save time and labor for the user to select and lay out a moving image constituent image suitable for the image arrangement position from a large number of moving image constituent images.

図11は、本実施形態に係るテンプレート格納部25が格納しているテンプレート1100の一例を示す。テンプレート格納部25は、画像配置位置と当該画像配置位置に配置されるべき動画構成画像の合成情報とが予め定められた出力領域のテンプレートを格納している。なお、画像配置位置には動画構成画像を配置すべき画像配置枠が対応づけられていてよく、一つの出力領域に複数の画像配置位置が含まれていてよい。また、画像配置位置に対応づけられている画像配置枠は略円形、略多角形、および動画構成画像に含まれるオブジェクトの形状等の形状であってよい。更に、テンプレート格納部25は、第一の動画構成画像が配置されるべき第一の画像配置位置、および第二の動画構成画像が配置されるべき第二の画像配置位置が予め定められた出力領域のテンプレートを格納していてよく、また、第二の画像配置位置と、第一の動画構成画像に含まれるオブジェクトの移動方向に対する相対的なオブジェクトの移動方向とが予め定められた出力領域のテンプレートを格納していてもよい。   FIG. 11 shows an example of a template 1100 stored in the template storage unit 25 according to this embodiment. The template storage unit 25 stores a template of an output area in which an image arrangement position and synthesis information of moving image constituent images to be arranged at the image arrangement position are predetermined. The image arrangement position may be associated with an image arrangement frame in which a moving image constituent image is to be arranged, and a plurality of image arrangement positions may be included in one output area. Further, the image arrangement frame associated with the image arrangement position may be a shape such as a substantially circular shape, a substantially polygonal shape, and a shape of an object included in the moving image constituting image. Further, the template storage unit 25 outputs in advance a first image arrangement position where the first moving image constituent image is to be arranged and a second image arrangement position where the second moving image constituent image is to be arranged. A template of the area may be stored, and the second image arrangement position and the movement direction of the object relative to the movement direction of the object included in the first moving image constituent image are predetermined output areas. A template may be stored.

ここで、合成情報は、動画構成画像に含まれるオブジェクト名、人物名、当該人物の配役(アルバムの種類に応じた、当該アルバムにおける主人公である旨の情報等)、主人公の動画構成画像内での位置を示す情報、オブジェクトの移動方向、オブジェクトの移動速度、オブジェクトの加速度、動画構成画像に含まれる人物の誕生日、動画構成画像を撮像したときの撮像日時、および撮像場所等の撮像情報等の、画像配置位置に配置されるべき動画構成画像の特徴を示す情報であってよい。また、テンプレートは、アルバムのページのテンプレートであってよい。そして、アルバムのページは、表紙、見開きページ、および見開きページの一ページ等であってよい。   Here, the composite information includes the object name, person name, cast of the person (information indicating that the person is the main character in the album according to the type of album), and the main person's moving picture composition image. Information indicating the position of the object, the moving direction of the object, the moving speed of the object, the acceleration of the object, the birthday of the person included in the video composition image, the imaging date and time when the video composition image was captured, and the imaging information such as the imaging location, etc. This may be information indicating the characteristics of the moving image constituting image to be arranged at the image arrangement position. The template may be an album page template. The album page may be a cover page, a spread page, a spread page, or the like.

例えば、テンプレート1100には画像配置枠1110および画像配置枠1120が含まれている。そして、画像配置枠1110には合成情報1112が対応づけられており、画像配置枠1120には合成情報1122が対応づけられている。係る場合において、画像選択部32は、例えば、画像配置枠1120に対応づけられている合成情報1122を抽出して、合成情報1122と一致する情報に対応づけられている動画構成画像を、動画構成画像抽出部30が抽出した動画構成画像から選択する。例えば、合成情報1122にオブジェクトの移動方向に関する情報が対応づけられていた場合には、画像選択部32は、当該移動方向に関する情報と一致する情報が対応づけられている動画構成画像を、動画構成画像抽出部30が抽出した動画構成画像から選択する。そして、画像選択部32が選択した動画構成画像を、画像レイアウト部50が画像配置枠1120にレイアウトする。   For example, the template 1100 includes an image arrangement frame 1110 and an image arrangement frame 1120. The image arrangement frame 1110 is associated with the synthesis information 1112, and the image arrangement frame 1120 is associated with the synthesis information 1122. In such a case, for example, the image selection unit 32 extracts the composite information 1122 associated with the image arrangement frame 1120 and converts the moving image composition image associated with the information matching the composite information 1122 to the moving image composition. The image extraction unit 30 selects from the moving image constituent images extracted. For example, when the information related to the moving direction of the object is associated with the composite information 1122, the image selecting unit 32 converts the moving image composition image associated with the information corresponding to the information related to the moving direction to the moving image configuration. The image extraction unit 30 selects from the moving image constituent images extracted. Then, the image layout unit 50 lays out the moving image constituent image selected by the image selection unit 32 in the image arrangement frame 1120.

図12は、本実施形態に係る画像選択部32およびトリミング画像生成部76の処理の一例を示す。画像選択部32は、移動方向特定部40が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、移動方向特定部40が特定した移動方向とは反対の方向に存在する動画構成画像内の領域の面積よりも大きい動画構成画像を選択する。なお、画像選択部32は、移動方向を特定したオブジェクトが含まれる動画構成画像に連続する複数の動画構成画像から、オブジェクトの移動方向に存在する動画構成画像内の領域の面積が大きい動画構成画像を選択してよい。例えば、人物1206が含まれる動画構成画像1200および人物1216が含まれる動画構成画像1210を考える。係る場合において、人物1206の移動方向は矢印1204で示す方向であり、人物1216の移動方向は矢印1214である旨が、移動方向特定部40において特定される。   FIG. 12 shows an example of processing of the image selection unit 32 and the trimmed image generation unit 76 according to the present embodiment. The image selection unit 32 has a moving image in which the area of the region in the moving image composition image existing in the moving direction of the object specified by the moving direction specifying unit 40 is in the direction opposite to the moving direction specified by the moving direction specifying unit 40. A moving image constituent image larger than the area of the region in the constituent image is selected. Note that the image selection unit 32 selects a moving image composition image having a large area in the moving image composition image existing in the moving direction of the object from a plurality of moving image composition images included in the moving image composition image including the object whose movement direction is specified. May be selected. For example, consider a moving picture composition image 1200 including a person 1206 and a moving picture composition image 1210 including a person 1216. In such a case, the movement direction specifying unit 40 specifies that the moving direction of the person 1206 is the direction indicated by the arrow 1204 and the moving direction of the person 1216 is the arrow 1214.

係る場合において、画像選択部32は、人物の移動方向の領域の面積が、人物の移動方向とは反対の方向の領域の面積よりも大きい動画構成画像を選択する。すなわち、動画構成画像1200において人物1206の移動方向の領域1202の面積は、人物1206の移動方向とは反対の方向の領域の面積よりも小さい。一方、動画構成画像1210において人物1216の移動方向の領域1212の面積は、人物1216の移動方向とは反対の方向の領域の動画構成面積よりも大きい。したがって、係る場合においては、画像選択部32は動画構成画像1210を選択して、画像レイアウト部50に供給する。   In such a case, the image selection unit 32 selects a moving image constituent image in which the area of the person in the moving direction is larger than the area of the area in the direction opposite to the moving direction of the person. That is, the area 1202 of the moving image 1200 in the moving direction of the person 1206 is smaller than the area of the area in the direction opposite to the moving direction of the person 1206. On the other hand, the area of the region 1212 in the moving direction of the person 1216 in the moving image constituent image 1210 is larger than the moving image constituent area of the region in the direction opposite to the moving direction of the person 1216. Therefore, in such a case, the image selection unit 32 selects the moving image constituent image 1210 and supplies it to the image layout unit 50.

また、トリミング画像生成部76は、移動方向特定部40が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、移動方向特定部40が特定したオブジェクトの移動方向とは反対の方向に存在する領域の面積よりも大きくなるように、画像選択部32から受け取った動画構成画像に含まれるオブジェクトをトリミングしてよい。例えば、トリミング画像生成部76が画像選択部32から受け取った動画構成画像が、動画構成画像1200であった場合を考える。係る場合において、動画構成画像1200に含まれる人物1206の移動方向は矢印1204の方向であり、当該移動方向に存在する動画構成画像1200内の領域の面積は、当該移動方向とは反対の方向に存在する動画構成画像1200内の領域の面積よりも小さい。したがって、係る場合においては、トリミング画像生成部76は、人物1206の移動方向の動画構成画像1200内の領域の面積が当該移動方向の反対の動画構成画像1200内の領域の面積よりも大きくなるように人物1206をトリミングする。例えば、動画構成画像1210に示す配置となるように人物1206をトリミングしてよい。   In addition, the trimming image generation unit 76 has the area of the region in the moving image composition image that exists in the movement direction of the object specified by the movement direction specification unit 40 opposite to the movement direction of the object specified by the movement direction specification unit 40. You may trim the object contained in the moving image structure image received from the image selection part 32 so that it may become larger than the area of the area | region which exists in a direction. For example, consider a case where the moving image constituent image received by the trimming image generation unit 76 from the image selecting unit 32 is the moving image constituent image 1200. In such a case, the moving direction of the person 1206 included in the moving image composing image 1200 is the direction of the arrow 1204, and the area of the region in the moving image composing image 1200 existing in the moving direction is opposite to the moving direction. It is smaller than the area of the region in the moving image composition image 1200 that exists. Accordingly, in such a case, the trimming image generation unit 76 causes the area of the moving image constituent image 1200 in the moving direction of the person 1206 to be larger than the area of the region in the moving image forming image 1200 opposite to the moving direction. The person 1206 is trimmed. For example, the person 1206 may be trimmed so that the arrangement shown in the moving image composition image 1210 is obtained.

更に、トリミング画像生成部76は、移動速度算出部60が算出したオブジェクトの移動速度がより大きい場合に、移動方向特定部40が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、移動方向特定部40が特定した移動方向とは反対の方向に存在する動画構成画像内の領域の面積よりも大きくなるように、動画構成画像に含まれるオブジェクトをトリミングしてトリミング画像を生成してもよい。例えば、動画構成画像1200に含まれる人物1206の移動速度が、動画構成画像1210に含まれる人物1216の移動速度よりも大きい場合には、トリミング画像生成部76は、人物1206の矢印1204で示す移動方向に存在する動画構成画像1200内の領域1202の面積が、人物1206の矢印1204で示す移動方向とは反対方向に存在する動画構成画像1200内の領域の面積よりも大きくなるように、人物1206をトリミングしてよい。   Furthermore, when the moving speed of the object calculated by the moving speed calculation unit 60 is larger, the trimming image generation unit 76 is the area of the region in the moving image constituent image that exists in the moving direction of the object specified by the moving direction specifying unit 40. However, the trimming image is generated by trimming the object included in the moving image constituent image so that the area is larger than the area of the moving image constituent image existing in the direction opposite to the moving direction specified by the moving direction specifying unit 40. May be. For example, when the moving speed of the person 1206 included in the moving image composition image 1200 is higher than the moving speed of the person 1216 included in the moving image composition image 1210, the trimming image generation unit 76 moves as indicated by the arrow 1204 of the person 1206. The person 1206 is such that the area of the region 1202 in the moving image composition image 1200 existing in the direction is larger than the area of the region in the moving image composition image 1200 existing in the direction opposite to the moving direction indicated by the arrow 1204 of the person 1206. May be trimmed.

本実施形態に係る画像出力装置10によれば、画像選択部32において、オブジェクトの移動方向に存在する動画構成画像内の領域の面積がオブジェクトの移動方向とは反対に存在する動画構成画像内の領域の面積よりも大きい動画構成画像を自動的に選択できる。また、画像選択部32が係る動画構成画像を選択できなかった場合においては、トリミング画像生成部76がオブジェクトの移動方向に存在する動画構成画像内の領域の面積がオブジェクトの移動方向とは反対に存在する動画構成画像内の領域の面積よりも大きい動画構成画像を自動的に生成できる。これにより、オブジェクトの移動方向には広い空間を配置できるので、鑑賞者は、違和感を抱くことなく当該動画構成画像がレイアウトされたアルバム等を観賞できる。   According to the image output apparatus 10 according to the present embodiment, in the image selection unit 32, the area of the region in the moving image constituent image existing in the moving direction of the object is within the moving image constituent image existing in the opposite direction to the moving direction of the object. A moving image composing image larger than the area can be automatically selected. Further, when the moving image composing image cannot be selected by the image selection unit 32, the area of the region in the moving image composing image that exists in the moving direction of the object is opposite to the moving direction of the object. A moving image composing image larger than the area of a region in the existing moving image composing image can be automatically generated. Accordingly, since a wide space can be arranged in the moving direction of the object, the viewer can appreciate an album or the like on which the moving image composition image is laid out without feeling uncomfortable.

図13は、本実施形態に係る画像回転処理部72およびトリミング部70の処理の一例を示す。テンプレート1350に含まれる画像配置位置に対応する画像配置枠1354に配置されるべき動画構成画像の合成情報として、動画構成画像に含まれる人物の移動方向が対応づけられている場合を考える。すなわち、方向1352に、人物の移動方向が向いている動画構成画像が配置されるように、画像配置枠1354に人物の移動方向に関する合成情報が対応づけられている場合を考える。   FIG. 13 shows an example of processing of the image rotation processing unit 72 and the trimming unit 70 according to the present embodiment. Consider a case in which the moving direction of a person included in a moving image constituent image is associated with the composition information of the moving image constituent image to be placed in the image placement frame 1354 corresponding to the image placement position included in the template 1350. That is, a case is considered in which composite information relating to the movement direction of the person is associated with the image arrangement frame 1354 so that the moving image constituent image in which the movement direction of the person faces is arranged in the direction 1352.

ここで動画構成画像抽出部30が、方向1302に移動している人物が含まれる動画構成画像1300しか抽出できなかった場合には、画像回転処理部72は、テンプレート1350の画像配置枠1354に対応づけられている移動方向を示す情報、すなわち方向1352と動画構成画像1300に含まれる人物の移動方向1302とが一致するように、動画構成画像1300を動画構成画像1300の面の水平方向に沿って回転させる。続いて、トリミング部70は、画像回転処理部72が回転した動画構成画像1310から、画像配置枠1354の形状の画像1314をトリミングする。そしてトリミング部70は、トリミングした画像1314を画像レイアウト部50に供給して、画像レイアウト部50は、画像1314を画像配置枠1354にレイアウトする。   If the moving image composition image extraction unit 30 can extract only the moving image composition image 1300 including the person moving in the direction 1302, the image rotation processing unit 72 corresponds to the image arrangement frame 1354 of the template 1350. The moving image composition image 1300 is aligned along the horizontal direction of the surface of the moving image composition image 1300 so that the information indicating the attached moving direction, that is, the direction 1352 coincides with the moving direction 1302 of the person included in the moving image composition image 1300. Rotate. Subsequently, the trimming unit 70 trims the image 1314 having the shape of the image arrangement frame 1354 from the moving image constituent image 1310 rotated by the image rotation processing unit 72. The trimming unit 70 supplies the trimmed image 1314 to the image layout unit 50, and the image layout unit 50 lays out the image 1314 in the image arrangement frame 1354.

本実施形態に係る画像出力装置10によれば、テンプレートが含む画像配置位置に対応づけられている合成情報と一致する動画構成画像がない場合においても、自動的に動画構成画像を回転させて合成情報と一致させることができる。これにより、ユーザが合成情報と一致する動画構成画像を含む動画を撮像し直したり、ユーザが手作業で合成情報と一致する動画構成画像となるように動画構成画像に対して画像処理をすることがなくなるので、作業の手間を大幅に軽減できる。   According to the image output apparatus 10 according to the present embodiment, even when there is no moving image constituent image that matches the combining information associated with the image arrangement position included in the template, the moving image constituent image is automatically rotated and combined. Can be matched with information. This allows the user to re-capture a moving image including a moving image composition image that matches the composite information, or to perform image processing on the moving image composition image so that the user manually forms a moving image composition image that matches the composite information. This eliminates the problem and can greatly reduce the work.

図14は、本実施形態に係る変換画像生成部74およびトリミング部70の処理の一例を示す。テンプレート1450に含まれる画像配置位置に対応する画像配置枠1454に配置されるべき動画構成画像の合成情報として、オブジェクトの移動方向が対応づけられている場合を考える。すなわち、画像配置枠1454に合成情報として方向1452が対応づけられている場合を考える。   FIG. 14 shows an example of processing of the converted image generation unit 74 and the trimming unit 70 according to the present embodiment. Consider a case in which the moving direction of an object is associated as synthesis information of a moving image constituent image to be arranged in the image arrangement frame 1454 corresponding to the image arrangement position included in the template 1450. That is, a case is considered where the direction 1452 is associated with the image arrangement frame 1454 as composite information.

ここで動画構成画像抽出部30が、移動方向1402を有する人物が含まれる動画構成画像1400しか抽出できなかった場合を考える。係る場合において、変換画像生成部74は、テンプレート1450の画像配置枠1454に対応づけられている方向1452と動画構成画像1400に含まれる人物の移動方向1402とが一致するように、動画構成画像1400に対して幾何学的な変換を施した画像1410を生成する。すなわち、変換画像生成部74は、移動方向1402が方向1412と一致するように、動画構成画像1400に対して幾何学的な変換を施す。幾何学的な変換は、例えば、アフィン変換であってよい。そして、トリミング部70は、変換画像生成部74が変形した画像1410を、画像配置枠1454の形状にトリミングする。続いて、トリミング部70がトリミングした画像1414を、画像レイアウト部50が画像配置枠1454にレイアウトする。   Here, a case is considered where the moving image composition image extraction unit 30 can extract only the moving image composition image 1400 including the person having the moving direction 1402. In such a case, the converted image generation unit 74 causes the moving image constituent image 1400 so that the direction 1452 associated with the image arrangement frame 1454 of the template 1450 matches the moving direction 1402 of the person included in the moving image constituent image 1400. An image 1410 is generated by performing geometric transformation on. That is, the converted image generation unit 74 performs geometric conversion on the moving image constituent image 1400 so that the moving direction 1402 matches the direction 1412. The geometric transformation may be an affine transformation, for example. Then, the trimming unit 70 trims the image 1410 deformed by the converted image generation unit 74 into the shape of the image arrangement frame 1454. Subsequently, the image layout unit 50 lays out the image 1414 trimmed by the trimming unit 70 in the image arrangement frame 1454.

本実施形態に係る画像出力装置10によれば、テンプレートの画像配置位置に対応づけられている合成情報と一致する動画構成画像が存在しない場合に、動画構成画像に対して幾何学的な変換を施した画像を生成して画像配置位置にレイアウトできるので、画像配置位置に配置すべき動画構成画像の合成情報に対応する動画構成画像を動画構成画像抽出部30が抽出できなかった場合でも、ユーザが改めて所望の動画構成画像を取得するために動画の撮像および画像の作成をすることなく、自動的にテンプレートの画像配置位置に予め対応づけられている合成情報と一致する情報を有する画像をレイアウトできる。   According to the image output apparatus 10 according to the present embodiment, when there is no moving image constituent image that matches the composite information associated with the image arrangement position of the template, geometric conversion is performed on the moving image constituent image. Since the applied image can be generated and laid out at the image arrangement position, even when the moving picture constituent image extraction unit 30 cannot extract the moving picture constituent image corresponding to the synthesis information of the moving picture constituent image to be arranged at the image placement position, Automatically lays out an image having information that matches the combined information pre-associated with the image layout position of the template without capturing and creating a moving image in order to obtain a desired moving image composition image again. it can.

図15は、本実施形態に係る移動方向決定部45の処理の一例を示す。まず、テンプレート格納部25は、動画構成画像が配置されるべき少なくとも一つの画像配置位置が予め定められた出力領域のテンプレートを格納している。具体的には、テンプレート格納部25は、第一の動画構成画像が配置されるべき第一の画像配置位置、および第二の動画構成画像が配置されるべき第二の画像配置位置が予め定められた出力領域のテンプレートを格納していてよい。そして、第一画像選択部34は、第一の画像配置位置に配置されるべき第一の動画構成画像を選択する。続いて、移動方向決定部45は、第一画像選択部34が選択した第一の動画構成画像に含まれるオブジェクトの移動方向に応じて、第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を決定する。また、移動方向決定部45は、第一画像選択部34が選択した第一の動画構成画像に含まれるオブジェクトの移動方向、およびテンプレート格納部25が格納しているオブジェクトの相対的な移動方向に基づいて、第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を決定してもよい。   FIG. 15 shows an example of processing of the movement direction determination unit 45 according to the present embodiment. First, the template storage unit 25 stores a template of an output area in which at least one image arrangement position where a moving image constituent image is to be arranged is predetermined. Specifically, the template storage unit 25 determines in advance a first image arrangement position where the first moving image constituent image is to be arranged and a second image arrangement position where the second moving image constituent image is to be arranged. The output area template may be stored. And the 1st image selection part 34 selects the 1st moving image structure image which should be arrange | positioned in a 1st image arrangement position. Subsequently, the movement direction determination unit 45 selects the second image to be arranged at the second image arrangement position according to the movement direction of the object included in the first moving image constituent image selected by the first image selection unit 34. The moving direction of the object included in the moving image constituent image is determined. Further, the moving direction determination unit 45 sets the moving direction of the object included in the first moving image constituent image selected by the first image selecting unit 34 and the relative moving direction of the object stored in the template storage unit 25. Based on this, the moving direction of the object included in the second moving image constituent image to be arranged at the second image arrangement position may be determined.

例えば、テンプレート1800において、画像配置位置1802に第一画像選択部34が選択した動画構成画像がレイアウトされ、当該動画構成画像に含まれるオブジェクトの移動方向が方向1810である場合を考える。係る場合において、移動方向決定部45は、方向1810とは反対方向を向く動画構成画像が画像配置位置1804等に配置されるように、画像配置位置1804等に方向1812等を対応づけてよい。また、テンプレート1850において、画像配置位置1852に第一画像選択部34が選択した動画構成画像がレイアウトされ、当該動画構成画像に含まれるオブジェクトの移動方向が方向1860である場合を考える。係る場合において、移動方向決定部45は、方向1860と同一方向を向く動画構成画像が画像配置位置1854等に配置されるように、画像配置位置1854等に方向1862等を対応づけてよい。なお、移動方向決定部45は、テンプレートに複数の画像配置位置が含まれる場合には、画像配置位置ごとに異なる移動方向をそれぞれ対応づけてもよい。そして、第二画像選択部36は、移動方向決定部45が決定した移動方向に移動するオブジェクトを含む第二の動画構成画像を動画構成画像抽出部30が抽出した動画構成画像の中から選択する。そして、画像レイアウト部50は、第二画像選択部36が選択した動画構成画像を、画像配置位置にそれぞれレイアウトする。   For example, in the template 1800, a case is considered where the moving image constituent image selected by the first image selection unit 34 is laid out at the image arrangement position 1802 and the moving direction of the object included in the moving image constituent image is the direction 1810. In such a case, the moving direction determination unit 45 may associate the direction 1812 and the like with the image arrangement position 1804 and the like so that the moving image constituent image facing the direction opposite to the direction 1810 is arranged at the image arrangement position 1804 and the like. Also, consider a case where the moving image constituent image selected by the first image selection unit 34 is laid out at the image arrangement position 1852 in the template 1850 and the moving direction of the object included in the moving image constituent image is the direction 1860. In such a case, the moving direction determination unit 45 may associate the direction 1862 and the like with the image arrangement position 1854 and the like so that the moving image constituent image facing the same direction as the direction 1860 is arranged at the image arrangement position 1854 and the like. The movement direction determination unit 45 may associate different movement directions for each image arrangement position when the template includes a plurality of image arrangement positions. Then, the second image selection unit 36 selects, from the moving image configuration images extracted by the moving image configuration image extraction unit 30, the second moving image configuration image including the object moving in the movement direction determined by the movement direction determination unit 45. . Then, the image layout unit 50 lays out the moving image constituent images selected by the second image selection unit 36 at the image arrangement positions.

本実施形態に係る画像出力装置10によれば、第一の画像配置枠に配置された動画構成画像に含まれるオブジェクトの移動方向に応じて、第二の画像配置枠に配置すべき動画構成画像に含まれるオブジェクトの移動方向を決定できるので、ユーザ自身が第二の動画構成画像を選択することなく、自動的に適切な動画構成画像がレイアウトされた画像を出力できる。   According to the image output apparatus 10 according to the present embodiment, the moving image constituent image to be arranged in the second image arrangement frame according to the moving direction of the object included in the moving picture composition image arranged in the first image arrangement frame. Since the moving direction of the object included in the image can be determined, the user can automatically output an image in which an appropriate moving image constituent image is laid out without selecting the second moving image constituent image.

図16は、本実施形態に係る画像出力装置10のハードウェア構成の一例を示す。本実施形態に係る画像出力装置10は、ホスト・コントローラ1582により相互に接続されるCPU1505、RAM1520、グラフィック・コントローラ1575、および表示装置1580を有するCPU周辺部と、入出力コントローラ1584によりホスト・コントローラ1582に接続される通信インターフェイス1530、ハードディスクドライブ1540、およびCD−ROMドライブ1560を有する入出力部と、入出力コントローラ1584に接続されるROM1510、フレキシブルディスク・ドライブ1550、および入出力チップ1570を有するレガシー入出力部とを備える。   FIG. 16 shows an example of a hardware configuration of the image output apparatus 10 according to the present embodiment. The image output apparatus 10 according to this embodiment includes a CPU peripheral unit including a CPU 1505, a RAM 1520, a graphic controller 1575, and a display device 1580 that are connected to each other by a host controller 1582, and a host controller 1582 by an input / output controller 1584. I / O unit having a communication interface 1530, a hard disk drive 1540, and a CD-ROM drive 1560 connected to the I / O controller, and a legacy input having a ROM 1510, a flexible disk drive 1550, and an I / O chip 1570 connected to the I / O controller 1584. And an output unit.

ホスト・コントローラ1582は、RAM1520と、高い転送レートでRAM1520をアクセスするCPU1505およびグラフィック・コントローラ1575とを接続する。CPU1505は、ROM1510およびRAM1520に格納されたプログラムに基づいて動作して、各部を制御する。グラフィック・コントローラ1575は、CPU1505等がRAM1520内に設けたフレーム・バッファ上に生成する画像データを取得して、表示装置1580上に表示させる。これに代えて、グラフィック・コントローラ1575は、CPU1505等が生成する画像データを格納するフレーム・バッファを、内部に含んでもよい。   The host controller 1582 connects the RAM 1520 to the CPU 1505 and the graphic controller 1575 that access the RAM 1520 at a high transfer rate. The CPU 1505 operates based on programs stored in the ROM 1510 and the RAM 1520 to control each unit. The graphic controller 1575 acquires image data generated by the CPU 1505 or the like on a frame buffer provided in the RAM 1520 and displays the image data on the display device 1580. Alternatively, the graphic controller 1575 may include a frame buffer that stores image data generated by the CPU 1505 or the like.

入出力コントローラ1584は、ホスト・コントローラ1582と、比較的高速な入出力装置である通信インターフェイス1530、ハードディスクドライブ1540、CD−ROMドライブ1560を接続する。通信インターフェイス1530は、ネットワーク120を介して他の装置と通信する。ハードディスクドライブ1540は、画像出力装置10内のCPU1505が使用するプログラムおよびデータを格納する。CD−ROMドライブ1560は、CD−ROM1595からプログラム又はデータを読み取り、RAM1520を介してハードディスクドライブ1540に提供する。   The input / output controller 1584 connects the host controller 1582 to the communication interface 1530, the hard disk drive 1540, and the CD-ROM drive 1560, which are relatively high-speed input / output devices. The communication interface 1530 communicates with other devices via the network 120. The hard disk drive 1540 stores programs and data used by the CPU 1505 in the image output apparatus 10. The CD-ROM drive 1560 reads a program or data from the CD-ROM 1595 and provides it to the hard disk drive 1540 via the RAM 1520.

また、入出力コントローラ1584には、ROM1510と、フレキシブルディスク・ドライブ1550、および入出力チップ1570の比較的低速な入出力装置とが接続される。ROM1510は、画像出力装置10が起動時に実行するブート・プログラム、画像出力装置10のハードウェアに依存するプログラム等を格納する。フレキシブルディスク・ドライブ1550は、フレキシブルディスク1590からプログラム又はデータを読み取り、RAM1520を介してハードディスクドライブ1540に提供する。入出力チップ1570は、フレキシブルディスク・ドライブ1550、例えばパラレル・ポート、シリアル・ポート、キーボード・ポート、マウス・ポート等を介して各種の入出力装置を接続する。   The input / output controller 1584 is connected to the ROM 1510, the flexible disk drive 1550, and the relatively low-speed input / output device of the input / output chip 1570. The ROM 1510 stores a boot program executed when the image output apparatus 10 is started, a program depending on the hardware of the image output apparatus 10, and the like. The flexible disk drive 1550 reads a program or data from the flexible disk 1590 and provides it to the hard disk drive 1540 via the RAM 1520. The input / output chip 1570 connects various input / output devices via a flexible disk drive 1550 such as a parallel port, a serial port, a keyboard port, and a mouse port.

RAM1520を介してハードディスクドライブ1540に提供される画像出力プログラムは、フレキシブルディスク1590、CD−ROM1595、又はICカード等の記録媒体に格納されて利用者によって提供される。画像出力プログラムは、記録媒体から読み出され、RAM1520を介して画像出力装置10内のハードディスクドライブ1540にインストールされ、CPU1505において実行される。   The image output program provided to the hard disk drive 1540 via the RAM 1520 is stored in a recording medium such as the flexible disk 1590, the CD-ROM 1595, or an IC card and provided by the user. The image output program is read from the recording medium, installed in the hard disk drive 1540 in the image output apparatus 10 via the RAM 1520, and executed by the CPU 1505.

画像出力装置10にインストールされて実行される画像出力プログラムは、CPU1505等に働きかけて、画像出力装置10を、図1から図15にかけて説明した画像格納部20、テンプレート格納部25、動画構成画像抽出部30、画像選択部32、第一画像選択部34、第二画像選択部36、移動方向特定部40、移動方向決定部45、画像レイアウト部50、移動速度算出部60、トリミング部70、画像回転処理部72、変換画像生成部74、トリミング画像生成部76、画像出力部80、表示部90、および印刷部100として機能させる。   The image output program installed and executed in the image output apparatus 10 works on the CPU 1505 or the like to cause the image output apparatus 10 to perform the image storage unit 20, the template storage unit 25, and the moving image constituent image extraction described with reference to FIGS. Section 30, image selection section 32, first image selection section 34, second image selection section 36, movement direction specifying section 40, movement direction determination section 45, image layout section 50, movement speed calculation section 60, trimming section 70, image It functions as a rotation processing unit 72, a converted image generation unit 74, a trimming image generation unit 76, an image output unit 80, a display unit 90, and a printing unit 100.

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加え得ることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。   As mentioned above, although this invention was demonstrated using embodiment, the technical scope of this invention is not limited to the range as described in the said embodiment. It will be apparent to those skilled in the art that various modifications or improvements can be added to the above-described embodiment. It is apparent from the scope of the claims that the embodiments added with such changes or improvements can be included in the technical scope of the present invention.

画像出力装置10の概念図である。1 is a conceptual diagram of an image output device 10. FIG. 画像出力装置10の機能構成を示すブロック図である。3 is a block diagram illustrating a functional configuration of the image output apparatus 10. FIG. 移動速度算出部60における移動速度算出方法を示す図である。It is a figure which shows the moving speed calculation method in the moving speed calculation part. 画像レイアウト部50における画像のレイアウトを示す図である。3 is a diagram illustrating an image layout in an image layout unit 50. FIG. 画像レイアウト部50における画像のレイアウトを示す図である。3 is a diagram illustrating an image layout in an image layout unit 50. FIG. 画像レイアウト部50における画像のレイアウトを示す図である。3 is a diagram illustrating an image layout in an image layout unit 50. FIG. 画像レイアウト部50における画像のレイアウトを示す図である。3 is a diagram illustrating an image layout in an image layout unit 50. FIG. 画像レイアウト部50における画像のレイアウトを示す図である。3 is a diagram illustrating an image layout in an image layout unit 50. FIG. トリミング部70および画像レイアウト部50の処理を示す図である。It is a figure which shows the process of the trimming part 70 and the image layout part 50. FIG. 画像出力装置10の機能構成を示すブロック図である。3 is a block diagram illustrating a functional configuration of the image output apparatus 10. FIG. テンプレート1100を示す図である。It is a figure which shows the template 1100. FIG. 画像選択部32およびトリミング画像生成部76の処理を示す図である。It is a figure which shows the process of the image selection part 32 and the trimming image generation part. 画像回転処理部72およびトリミング部70の処理を示す図である。It is a figure which shows the process of the image rotation process part 72 and the trimming part. 変換画像生成部74およびトリミング部70の処理を示す図である。It is a figure which shows the process of the conversion image production | generation part 74 and the trimming part 70. FIG. 移動方向決定部45の処理を示す図である。It is a figure which shows the process of the moving direction determination part. 画像出力装置10のハードウェア構成を示すブロック図である。2 is a block diagram illustrating a hardware configuration of the image output apparatus 10. FIG.

符号の説明Explanation of symbols

10 画像出力装置
20 画像格納部
25 テンプレート格納部
30 動画構成画像抽出部
32 画像選択部
34 第一画像選択部
36 第二画像選択部
40 移動方向特定部
45 移動方向決定部
50 画像レイアウト部
60 移動速度算出部
70 トリミング部
72 画像回転処理部
74 変換画像生成部
76 トリミング画像生成部
80 画像出力部
90 表示部
100 印刷部
110 撮像装置
120 ネットワーク
210、220、310、320 動画構成画像
212 被写体
214 背景
230 グラフ
232、234 ピーク
236 背景に対する移動量
300、500、600 アルバム
400 紙面
410、420 動画構成画像
510、520、530、540 動画構成画像
610、620 動画構成画像
700、850 出力領域
710、720、730、740 動画構成画像
800、802、804、806 動画構成画像
810、812 部分画像
820、840 被写体
1100 テンプレート
1110、1120、1354、1454 画像配置枠
1112、1122 合成情報
1200、1210、1300、1310 動画構成画像
1202、1212 領域
1204、1214 矢印
1206、1216 人物
1302、1312 移動方向
1314、1410、1414 画像
1350、1450 テンプレート
1352、1412、1452 方向
1400 動画構成画像
1402 移動方向
1505 CPU
1510 ROM
1520 RAM
1530 通信インターフェイス
1540 ハードディスクドライブ
1550 フレキシブルディスク・ドライブ
1560 CD−ROMドライブ
1570 入出力チップ
1575 グラフィック・コントローラ
1580 表示装置
1582 ホスト・コントローラ
1584 入出力コントローラ
1590 フレキシブルディスク
1595 CD−ROM
1800、1850 テンプレート
1802、1852、1804、1806 画像配置位置
1810、1860、1812、1814 方向
1808、1854、1856、1858 画像配置位置
1816、1862、1864、1866 方向
DESCRIPTION OF SYMBOLS 10 Image output device 20 Image storage part 25 Template storage part 30 Movie structure image extraction part 32 Image selection part 34 First image selection part 36 Second image selection part 40 Movement direction specific part 45 Movement direction determination part 50 Image layout part 60 Movement Speed calculation unit 70 Trimming unit 72 Image rotation processing unit 74 Converted image generation unit 76 Trimmed image generation unit 80 Image output unit 90 Display unit 100 Printing unit 110 Imaging device 120 Network 210, 220, 310, 320 Movie component image 212 Subject 214 Background 230 Graph 232, 234 Peak 236 Movement amount relative to background 300, 500, 600 Album 400 Paper surface 410, 420 Movie component image 510, 520, 530, 540 Movie component image 610, 620 Movie component image 700, 850 Output area 710 , 720, 730, 740 Movie composition image 800, 802, 804, 806 Movie composition image 810, 812 Partial image 820, 840 Subject 1100 Template 1110, 1120, 1354, 1454 Image layout frame 1112, 1122 Composite information 1200, 1210, 1300 , 1310 Movie composition image 1202, 1212 Region 1204, 1214 Arrow 1206, 1216 Person 1302, 1312 Movement direction 1314, 1410, 1414 Image 1350, 1450 Template 1352, 1412, 1452 Direction 1400 Movie composition image 1402 Movement direction 1505 CPU
1510 ROM
1520 RAM
1530 Communication interface 1540 Hard disk drive 1550 Flexible disk drive 1560 CD-ROM drive 1570 Input / output chip 1575 Graphic controller 1580 Display device 1582 Host controller 1584 Input / output controller 1590 Flexible disk 1595 CD-ROM
1800, 1850 Templates 1802, 1852, 1804, 1806 Image placement positions 1810, 1860, 1812, 1814 directions 1808, 1854, 1856, 1858 Image placement positions 1816, 1862, 1864, 1866 directions

Claims (25)

複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出部と、
前記動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの、動画における移動方向を、連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて特定する移動方向特定部と、
前記移動方向特定部が特定したオブジェクトの移動方向に基づいて、前記動画構成画像抽出部が抽出した動画構成画像を出力領域内にレイアウトする画像レイアウト部と、
前記画像レイアウト部によって出力領域内にレイアウトされた動画構成画像を出力する画像出力部と
を備える画像出力装置。
A moving image constituent image extracting unit that extracts a moving image constituent image from a moving image having a plurality of moving image constituent images;
A moving direction specifying unit for specifying a moving direction in a moving image of an object included in the moving image forming image extracted by the moving image forming image extracting unit based on a change in the position of the object in a plurality of continuous moving image forming images;
An image layout unit that lays out the moving image constituent image extracted by the moving image constituent image extraction unit in an output area based on the moving direction of the object specified by the moving direction specifying unit;
An image output apparatus comprising: an image output unit that outputs a moving image constituent image laid out in an output area by the image layout unit.
前記画像レイアウト部は、前記移動方向特定部が特定したオブジェクトの移動方向が、出力領域の中心方向を向くように、前記動画構成画像抽出部が抽出した動画構成画像をレイアウトする
請求項1に記載の画像出力装置。
The said image layout part lays out the moving image structure image which the said moving image structure image extraction part extracted so that the moving direction of the object which the said moving direction specific | specification part specified may face the center direction of an output area. Image output device.
前記動画構成画像抽出部は、動画から連続する複数の動画構成画像を抽出し、
前記画像レイアウト部は、前記動画構成画像抽出部が抽出した複数の動画構成画像を、前記移動方向特定部が特定した移動方向に沿って時系列にレイアウトする
請求項1に記載の画像出力装置。
The moving image constituent image extraction unit extracts a plurality of continuous moving image constituent images from the moving image,
The image output device according to claim 1, wherein the image layout unit lays out a plurality of moving image constituent images extracted by the moving image constituent image extracting unit in time series along a moving direction specified by the moving direction specifying unit.
前記動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの動画における移動速度を、前記動画構成画像抽出部が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて算出する移動速度算出部と、
前記動画構成画像抽出部が抽出した動画構成画像から、前記移動速度算出部が算出した移動速度が予め定められた基準速度より大きい移動速度のオブジェクトを含む部分画像をトリミングするトリミング部と
をさらに備え、
前記画像レイアウト部は、前記移動方向特定部が特定したオブジェクトの移動方向に基づいて、前記トリミング部がトリミングした部分画像を出力領域内にレイアウトする
請求項1に記載の画像出力装置。
The moving speed of the object included in the moving image constituent image extracted by the moving image constituent image extracting unit is changed to the change in the position of the object in a plurality of moving image constituent images continuous to the moving image constituent image extracted by the moving image constituent image extracting unit. A moving speed calculation unit to calculate based on
A trimming unit for trimming a partial image including an object whose moving speed is higher than a predetermined reference speed from the moving image constituent image extracted by the moving image constituent image extracting unit; ,
The image output device according to claim 1, wherein the image layout unit lays out the partial image trimmed by the trimming unit in an output area based on the moving direction of the object specified by the moving direction specifying unit.
前記トリミング部は、前記動画構成画像抽出部が抽出した動画構成画像から、前記移動速度算出部が算出した移動速度が最も大きいオブジェクトを含む部分画像をトリミングする
請求項4に記載の画像出力装置。
The image output device according to claim 4, wherein the trimming unit trims a partial image including an object having the highest moving speed calculated by the moving speed calculating unit from the moving image constituent image extracted by the moving image constituent image extracting unit.
前記トリミング部は、前記動画構成画像抽出部が抽出した動画構成画像から、前記移動速度算出部が算出した移動速度が予め定められた基準速度より大きい移動速度のオブジェクトのうち、動画構成画像における面積が最も大きいオブジェクトを含む部分画像をトリミングする
請求項4に記載の画像出力装置。
The trimming unit is an area of the moving image constituent image among objects having a moving speed that is higher than a predetermined reference speed by the moving speed calculating unit calculated from the moving image constituent image extracted by the moving image constituent image extracting unit. The image output apparatus according to claim 4, wherein a partial image including an object having the largest is trimmed.
前記画像出力部は、前記画像レイアウト部にレイアウトされた動画構成画像を表示する表示部を有し、
前記画像レイアウト部は、前記移動方向特定部が特定したオブジェクトの移動方向に基づいて、前記表示部の表示画面の出力領域内に動画構成画像をレイアウトする
請求項1に記載の画像出力装置。
The image output unit includes a display unit that displays a moving image constituent image laid out in the image layout unit,
The image output device according to claim 1, wherein the image layout unit lays out a moving image constituent image in an output area of a display screen of the display unit based on a moving direction of the object specified by the moving direction specifying unit.
前記画像出力部は、前記画像レイアウト部にレイアウトされた動画構成画像を印刷する印刷部を有し、
前記画像レイアウト部は、前記移動方向特定部が特定したオブジェクトの移動方向に基づいて、前記印刷部の印刷媒体の出力領域内に動画構成画像をレイアウトする
請求項1に記載の画像出力装置。
The image output unit includes a printing unit that prints a moving image constituent image laid out in the image layout unit,
The image output apparatus according to claim 1, wherein the image layout unit lays out a moving image composing image in an output area of a print medium of the printing unit based on the moving direction of the object specified by the moving direction specifying unit.
画像配置位置と当該画像配置位置に配置されるべき動画構成画像に含まれるオブジェクトの移動方向とが予め定められた出力領域のテンプレートを格納しているテンプレート格納部と、
前記テンプレート格納部が格納しているテンプレートが含む画像配置位置に対応づけられているオブジェクトの移動方向と、前記移動方向特定部が特定したオブジェクトの移動方向とが一致する動画構成画像を前記動画構成画像抽出部が抽出した動画構成画像から選択する画像選択部と
を更に備え、
前記画像レイアウト部は、前記画像選択部が選択した動画構成画像をテンプレートの画像配置位置にレイアウトする
請求項1に記載の画像出力装置。
A template storage unit that stores a template of an output area in which an image arrangement position and a moving direction of an object included in a moving image constituent image to be arranged at the image arrangement position are predetermined;
The moving image composition image in which the moving direction of the object associated with the image arrangement position included in the template stored in the template storage unit matches the moving direction of the object specified by the moving direction specifying unit is the moving image configuration An image selection unit that selects from the moving image constituent images extracted by the image extraction unit;
The image output apparatus according to claim 1, wherein the image layout unit lays out the moving image constituent image selected by the image selection unit at an image arrangement position of a template.
前記画像選択部は、前記移動方向特定部が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、前記移動方向特定部が特定した方向とは反対の方向に存在する動画構成画像内の領域の面積より大きい動画構成画像を連続する複数の動画構成画像から選択する
請求項9に記載の画像出力装置。
The image selection unit includes a moving image configuration in which an area of a moving image configuration image existing in the moving direction of the object specified by the moving direction specifying unit is in a direction opposite to the direction specified by the moving direction specifying unit. The image output device according to claim 9, wherein a moving image constituent image larger than an area of an area in the image is selected from a plurality of continuous moving image constituent images.
前記移動方向特定部が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、前記移動方向特定部が特定したオブジェクトの移動方向とは反対の方向に存在する動画構成画像内の領域の面積よりも大きくなるように、前記画像選択部が選択した動画構成画像に含まれるオブジェクトをトリミングしてトリミング画像を生成するトリミング画像生成部を更に備え、
前記画像レイアウト部は、前記トリミング画像生成部が生成したトリミング画像をテンプレートの画像配置位置にレイアウトする
請求項9に記載の画像出力装置。
The area of the moving image composition image existing in the moving direction of the object specified by the moving direction specifying unit is within the moving image forming image existing in the direction opposite to the moving direction of the object specified by the moving direction specifying unit. A trimming image generation unit that generates a trimming image by trimming an object included in the moving image constituent image selected by the image selection unit so as to be larger than the area of the region;
The image output device according to claim 9, wherein the image layout unit lays out the trimmed image generated by the trimmed image generation unit at an image arrangement position of a template.
前記移動方向特定部が特定したオブジェクトの移動方向と、前記テンプレート格納部が格納しているテンプレートが含む画像配置位置に対応づけられているオブジェクトの移動方向とが一致する動画構成画像が存在しない場合に、前記移動方向特定部が特定したオブジェクトの移動方向と前記テンプレート格納部が格納しているテンプレートの画像配置位置に対応づけられているオブジェクトの移動方向とが一致するように、動画構成画像に対して幾何学的な変換を施した画像を生成する変換画像生成部を更に備え、
前記画像レイアウト部は、前記変換画像生成部が生成した画像を画像配置位置にレイアウトする
請求項9に記載の画像出力装置。
When there is no moving image constituent image in which the moving direction of the object specified by the moving direction specifying unit matches the moving direction of the object associated with the image arrangement position included in the template stored in the template storage unit In addition, the moving direction of the object specified by the moving direction specifying unit and the moving direction of the object associated with the image arrangement position of the template stored in the template storage unit match the moving image composition image. A converted image generation unit that generates an image subjected to geometric conversion with respect to the image;
The image output device according to claim 9, wherein the image layout unit lays out the image generated by the converted image generation unit at an image arrangement position.
前記変換画像生成部が生成した画像を、画像配置位置の画像配置枠の形状にトリミングするトリミング部を更に備え、
前記画像レイアウト部は、前記トリミング部がトリミングした画像を画像配置位置にレイアウトする
請求項12に記載の画像出力装置。
A trimming unit for trimming the image generated by the converted image generation unit into the shape of the image arrangement frame at the image arrangement position;
The image output device according to claim 12, wherein the image layout unit lays out the image trimmed by the trimming unit at an image arrangement position.
前記移動方向特定部が特定したオブジェクトの移動方向と、前記テンプレート格納部が格納しているテンプレートが含む画像配置位置に対応づけられている移動方向とが一致する動画構成画像が存在しない場合に、前記移動方向特定部が特定したオブジェクトの移動方向と前記テンプレート格納部が格納しているテンプレートの画像配置位置に対応づけられている移動方向とが一致するように、動画構成画像を動画構成画像の面の水平方向に沿って回転させる画像回転処理部を更に備え、
前記画像レイアウト部は、前記画像回転処理部が回転させた動画構成画像をテンプレートの画像配置位置にレイアウトする
請求項9に記載の画像出力装置。
When there is no moving image constituent image in which the moving direction of the object specified by the moving direction specifying unit matches the moving direction associated with the image arrangement position included in the template stored in the template storage unit, The moving image composing image is stored in the moving image composing image so that the moving direction of the object specified by the moving direction specifying unit matches the moving direction associated with the image arrangement position of the template stored in the template storage unit. An image rotation processing unit that rotates along the horizontal direction of the surface;
The image output device according to claim 9, wherein the image layout unit lays out the moving image constituent image rotated by the image rotation processing unit at an image arrangement position of a template.
前記画像回転処理部が回転させた動画構成画像を、画像配置位置の画像配置枠の形状にトリミングするトリミング部を更に備え、
前記画像レイアウト部は、前記トリミング部がトリミングした画像を画像配置位置にレイアウトする
請求項14に記載の画像出力装置。
A trimming unit for trimming the moving image constituent image rotated by the image rotation processing unit into the shape of the image arrangement frame at the image arrangement position;
The image output device according to claim 14, wherein the image layout unit lays out the image trimmed by the trimming unit at an image arrangement position.
前記動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの動画における移動速度を、前記動画構成画像抽出部が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて算出する移動速度算出部と、
前記画像選択部は、前記移動速度算出部が算出したオブジェクトの移動速度がより大きい場合に、前記移動方向特定部が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積がより大きい動画構成画像を選択する
請求項9に記載の画像出力装置。
The moving speed of the object included in the moving image constituent image extracted by the moving image constituent image extracting unit is changed to the change in the position of the object in a plurality of moving image constituent images continuous to the moving image constituent image extracted by the moving image constituent image extracting unit. A moving speed calculation unit to calculate based on
When the movement speed of the object calculated by the movement speed calculation unit is larger, the image selection unit has a larger area in the moving image composition image existing in the movement direction of the object specified by the movement direction specification unit. The image output device according to claim 9, wherein a moving image constituent image is selected.
前記移動速度算出部が算出したオブジェクトの移動速度がより大きい場合に、前記移動方向特定部が特定したオブジェクトの移動方向に存在する動画構成画像内の領域の面積が、前記移動方向特定部が特定したオブジェクトの移動方向とは反対の方向に存在する動画構成画像内の領域の面積よりも大きくなるように、前記画像選択部が選択した動画構成画像に含まれるオブジェクトをトリミングしてトリミング画像を生成するトリミング画像生成部を更に備え、
前記画像レイアウト部は、前記トリミング画像生成部が生成したトリミング画像をテンプレートの画像配置位置にレイアウトする
請求項16に記載の画像出力装置。
When the moving speed of the object calculated by the moving speed calculating unit is larger, the moving direction specifying unit specifies the area of the region in the moving image composition image existing in the moving direction of the object specified by the moving direction specifying unit. The trimming image is generated by trimming the object included in the moving image constituent image selected by the image selection unit so that the area of the moving image constituent image is larger than the area of the moving image constituent image existing in the direction opposite to the moving direction of the object. A trimming image generation unit for
The image output device according to claim 16, wherein the image layout unit lays out the trimmed image generated by the trimmed image generation unit at an image arrangement position of a template.
第一の動画構成画像が配置されるべき第一の画像配置位置、および第二の動画構成画像が配置されるべき第二の画像配置位置が予め定められた出力領域のテンプレートを格納するテンプレート格納部と、
前記第一の画像配置位置に配置されるべき第一の動画構成画像を選択する第一画像選択部と、
前記第一画像選択部が選択した第一の動画構成画像に含まれるオブジェクトの移動方向に応じて、前記第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を決定する移動方向決定部と、
前記移動方向決定部が決定した移動方向のオブジェクトを含む第二の動画構成画像を選択する第二画像選択部と
をさらに備え、
前記画像レイアウト部は、前記第一画像選択部が選択した第一の動画構成画像を前記第一の画像配置位置にレイアウトし、前記第二画像選択部が選択した第二の動画構成画像を前記第二の画像配置位置にレイアウトする
請求項1に記載の画像出力装置。
Template storage for storing a template of an output area in which a first image arrangement position where the first moving image constituent image is to be arranged and a second image arrangement position where the second moving image constituent image is to be arranged are predetermined And
A first image selection unit for selecting a first moving image constituting image to be arranged at the first image arrangement position;
The movement of the object included in the second moving image composition image to be arranged at the second image arrangement position according to the moving direction of the object included in the first moving image composition image selected by the first image selection unit A moving direction determining unit for determining a direction;
A second image selection unit that selects a second moving image constituent image including an object in the movement direction determined by the movement direction determination unit;
The image layout unit lays out the first moving image configuration image selected by the first image selection unit at the first image arrangement position, and the second moving image configuration image selected by the second image selection unit is The image output device according to claim 1, wherein the image output device is laid out at a second image arrangement position.
前記テンプレート格納部は、前記第二の画像配置位置と、前記第一の動画構成画像に含まれるオブジェクトの移動方向に対する相対的なオブジェクトの移動方向とが予め定められた出力領域のテンプレートを格納し、
前記移動方向決定部は、前記第一画像選択部が選択した第一の動画構成画像に含まれるオブジェクトの移動方向、および前記テンプレート格納部が格納しているオブジェクトの相対的な移動方向に基づいて、前記第二の画像配置位置に配置されるべき第二の動画構成画像に含まれるオブジェクトの移動方向を決定する
請求項18に記載の画像出力装置。
The template storage unit stores a template of an output area in which the second image arrangement position and the moving direction of the object relative to the moving direction of the object included in the first moving image constituent image are predetermined. ,
The movement direction determination unit is based on a movement direction of an object included in the first moving image constituent image selected by the first image selection unit and a relative movement direction of the object stored in the template storage unit. The image output device according to claim 18, wherein a moving direction of an object included in the second moving image constituent image to be arranged at the second image arrangement position is determined.
複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出段階と、
前記動画構成画像抽出段階において抽出された動画構成画像に含まれるオブジェクトの、動画における移動方向を、連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて特定する移動方向特定段階と、
前記移動方向特定段階において特定されたオブジェクトの移動方向に基づいて、前記動画構成画像抽出段階において抽出された動画構成画像を出力領域内にレイアウトする画像レイアウト段階と、
前記画像レイアウト段階によって出力領域内にレイアウトされた動画構成画像を出力する画像出力段階と
を備える画像出力方法。
A moving image constituent image extraction stage for extracting a moving image constituent image from a moving image having a plurality of moving image constituent images;
A moving direction specifying step for specifying a moving direction in a moving image of an object included in the moving image forming image extracted in the moving image forming image extraction step based on a change in the position of the object in a plurality of continuous moving image forming images;
An image layout step of laying out the moving image constituent image extracted in the moving image constituent image extraction step in an output area based on the moving direction of the object specified in the moving direction specifying step;
An image output method comprising: an image output step of outputting a moving image constituent image laid out in an output area by the image layout step.
画像を出力する画像出力装置用の画像出力プログラムであって、前記画像出力装置を、
複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出部と、
前記動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの、動画における移動方向を、連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて特定する移動方向特定部と、
前記移動方向特定部が特定したオブジェクトの移動方向に基づいて、前記動画構成画像抽出部が抽出した動画構成画像を出力領域内にレイアウトする画像レイアウト部と、
前記画像レイアウト部によって出力領域内にレイアウトされた動画構成画像を出力する画像出力部
として機能させる画像出力プログラム。
An image output program for an image output device for outputting an image, the image output device comprising:
A moving image constituent image extracting unit that extracts a moving image constituent image from a moving image having a plurality of moving image constituent images;
A moving direction specifying unit for specifying a moving direction in a moving image of an object included in the moving image forming image extracted by the moving image forming image extracting unit based on a change in the position of the object in a plurality of continuous moving image forming images;
An image layout unit that lays out the moving image constituent image extracted by the moving image constituent image extraction unit in an output area based on the moving direction of the object specified by the moving direction specifying unit;
An image output program that functions as an image output unit that outputs a moving image constituent image laid out in an output area by the image layout unit.
複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出部と、
前記動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの動画における移動速度を、前記動画構成画像抽出部が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて算出する移動速度算出部と、
前記動画構成画像抽出部が抽出した動画構成画像から、前記移動速度算出部が算出した移動速度が予め定められた基準速度より大きい移動速度のオブジェクトを含む部分画像をトリミングするトリミング部と
を備える画像トリミング装置。
A moving image constituent image extracting unit that extracts a moving image constituent image from a moving image having a plurality of moving image constituent images;
The moving speed of the object included in the moving image constituent image extracted by the moving image constituent image extracting unit is changed to the change in the position of the object in a plurality of moving image constituent images continuous to the moving image constituent image extracted by the moving image constituent image extracting unit. A moving speed calculation unit to calculate based on
An image comprising: a trimming unit for trimming a partial image including an object having a moving speed larger than a predetermined reference speed, calculated by the moving speed calculating unit, from the moving image constituent image extracted by the moving image constituent image extracting unit. Trimming device.
前記トリミング部がトリミングした部分画像を出力領域内にレイアウトする画像レイアウト部と、
前記画像レイアウト部によって出力領域内にレイアウトされた部分画像を出力する画像出力部と
を備える請求項22に記載の画像トリミング装置。
An image layout unit that lays out the partial image trimmed by the trimming unit in an output region;
The image trimming apparatus according to claim 22, further comprising: an image output unit that outputs a partial image laid out in an output area by the image layout unit.
複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出段階と、
前記動画構成画像抽出段階が抽出した動画構成画像に含まれるオブジェクトの動画における移動速度を、前記動画構成画像抽出段階が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて算出する移動速度算出段階と、
前記動画構成画像抽出段階において抽出された動画構成画像から、前記移動速度算出段階において算出された移動速度が最も大きいオブジェクトを含む部分画像をトリミングするトリミング段階と
を備える画像トリミング方法。
A moving image constituent image extraction stage for extracting a moving image constituent image from a moving image having a plurality of moving image constituent images;
The moving speed of the object included in the moving image composition image extracted in the moving image composition image extraction step is changed to the change in the position of the object in a plurality of moving image composition images continuous to the moving image composition image extracted in the moving image composition image extraction step. A moving speed calculation stage to calculate based on,
An image trimming method comprising: a trimming step of trimming a partial image including an object having the highest moving speed calculated in the moving speed calculating step from the moving image constituent image extracted in the moving image constituent image extracting step.
画像をトリミングする画像トリミング装置用の画像トリミングプログラムであって、前記画像トリミング装置を、
複数の動画構成画像を有する動画から動画構成画像を抽出する動画構成画像抽出部と、
前記動画構成画像抽出部が抽出した動画構成画像に含まれるオブジェクトの動画における移動速度を、前記動画構成画像抽出部が抽出した動画構成画像に連続する複数の動画構成画像におけるオブジェクトの位置の変化に基づいて算出する移動速度算出部と、
前記動画構成画像抽出部が抽出した動画構成画像から、前記移動速度算出部が算出した移動速度が最も大きいオブジェクトを含む部分画像をトリミングするトリミング部
として機能させる画像トリミングプログラム。
An image trimming program for an image trimming apparatus for trimming an image, the image trimming apparatus comprising:
A moving image constituent image extracting unit that extracts a moving image constituent image from a moving image having a plurality of moving image constituent images;
The moving speed of the object included in the moving image constituent image extracted by the moving image constituent image extracting unit is changed to the change in the position of the object in a plurality of moving image constituent images continuous to the moving image constituent image extracted by the moving image constituent image extracting unit. A moving speed calculation unit to calculate based on
An image trimming program that functions as a trimming unit that trims a partial image including an object having the highest moving speed calculated by the moving speed calculating unit from the moving image constituent image extracted by the moving image constituent image extracting unit.
JP2006049323A 2005-03-01 2006-02-24 Image output apparatus, image output method, and image output program Active JP4781844B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006049323A JP4781844B2 (en) 2005-03-01 2006-02-24 Image output apparatus, image output method, and image output program

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2005056201 2005-03-01
JP2005056201 2005-03-01
JP2006049323A JP4781844B2 (en) 2005-03-01 2006-02-24 Image output apparatus, image output method, and image output program

Publications (2)

Publication Number Publication Date
JP2006277729A true JP2006277729A (en) 2006-10-12
JP4781844B2 JP4781844B2 (en) 2011-09-28

Family

ID=37212369

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006049323A Active JP4781844B2 (en) 2005-03-01 2006-02-24 Image output apparatus, image output method, and image output program

Country Status (1)

Country Link
JP (1) JP4781844B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011217125A (en) * 2010-03-31 2011-10-27 Fujifilm Corp Image processor, image processing method, and program
JP2012044646A (en) * 2010-07-22 2012-03-01 Fujifilm Corp Image processing device, image processing method and program
US8289434B2 (en) 2008-09-25 2012-10-16 Canon Kabushiki Kaisha Image processing apparatus, control method, and storage medium for editing layout positions of image data
JP5886479B2 (en) * 2013-11-18 2016-03-16 オリンパス株式会社 IMAGING DEVICE, IMAGING ASSIST METHOD, AND RECORDING MEDIUM CONTAINING IMAGING ASSIST PROGRAM
JP2016066177A (en) * 2014-09-24 2016-04-28 富士フイルム株式会社 Area detection device, area detection method, image processing apparatus, image processing method, program and recording medium
JP2020149086A (en) * 2019-03-11 2020-09-17 オムロン株式会社 Training data generation apparatus, training data generation method, and training data generation program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06337938A (en) * 1993-03-31 1994-12-06 Fujitsu Ltd Picture processor and distance measuring device
JP2004015288A (en) * 2002-06-05 2004-01-15 Canon Inc System and method for creating screen saver
JP2005190140A (en) * 2003-12-25 2005-07-14 Seiko Epson Corp Image layout apparatus, image layout method and image layout program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06337938A (en) * 1993-03-31 1994-12-06 Fujitsu Ltd Picture processor and distance measuring device
JP2004015288A (en) * 2002-06-05 2004-01-15 Canon Inc System and method for creating screen saver
JP2005190140A (en) * 2003-12-25 2005-07-14 Seiko Epson Corp Image layout apparatus, image layout method and image layout program

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8289434B2 (en) 2008-09-25 2012-10-16 Canon Kabushiki Kaisha Image processing apparatus, control method, and storage medium for editing layout positions of image data
US8681257B2 (en) 2008-09-25 2014-03-25 Canon Kabushiki Kaisha Image processing apparatus, control method, and storage medium for editing layout positions of image data
JP2011217125A (en) * 2010-03-31 2011-10-27 Fujifilm Corp Image processor, image processing method, and program
US8861889B2 (en) 2010-03-31 2014-10-14 Fujifilm Corporation Image processing device, method and program for extracting still image data from moving image data
JP2012044646A (en) * 2010-07-22 2012-03-01 Fujifilm Corp Image processing device, image processing method and program
US9020328B2 (en) 2010-07-22 2015-04-28 Fujifilm Corporation Image processing device, image processing method, and program
US9311961B2 (en) 2010-07-22 2016-04-12 Fujifilm Corporation Image extracting device, image extracting method, and recording medium
JP5886479B2 (en) * 2013-11-18 2016-03-16 オリンパス株式会社 IMAGING DEVICE, IMAGING ASSIST METHOD, AND RECORDING MEDIUM CONTAINING IMAGING ASSIST PROGRAM
JPWO2015072166A1 (en) * 2013-11-18 2017-03-16 オリンパス株式会社 IMAGING DEVICE, IMAGING ASSIST METHOD, AND RECORDING MEDIUM CONTAINING IMAGING ASSIST PROGRAM
US9628700B2 (en) 2013-11-18 2017-04-18 Olympus Corporation Imaging apparatus, imaging assist method, and non-transitory recoding medium storing an imaging assist program
JP2016066177A (en) * 2014-09-24 2016-04-28 富士フイルム株式会社 Area detection device, area detection method, image processing apparatus, image processing method, program and recording medium
JP2020149086A (en) * 2019-03-11 2020-09-17 オムロン株式会社 Training data generation apparatus, training data generation method, and training data generation program

Also Published As

Publication number Publication date
JP4781844B2 (en) 2011-09-28

Similar Documents

Publication Publication Date Title
JP5686673B2 (en) Image processing apparatus, image processing method, and program
JP4235541B2 (en) Digital camera and digital camera control method and program
JP5389724B2 (en) Image processing apparatus, image processing method, and program
JP4642695B2 (en) Album creating system, album creating method, program, and album creating apparatus
US8806332B2 (en) Template opening modification for image layout method
US20120206771A1 (en) Imaging product layout method
JP2006331393A (en) Album creating apparatus, album creating method and program
JP2009237702A (en) Album creating method, program and apparatus
JP2006287917A (en) Image output apparatus, image output method and image output program
JP5436367B2 (en) Graphic arrangement determining method, program thereof, and information processing apparatus
JP4781844B2 (en) Image output apparatus, image output method, and image output program
US10567601B2 (en) Display device, display method, and recording medium for displaying template
JP2006279939A (en) Image extraction device, image extraction method, and image extraction program
US20120179995A1 (en) Image layout adjustment method
JP2006304265A (en) Image output apparatus, image output method, and image output program
US8031226B2 (en) Image output apparatus, image output method, image output program, image trimming apparatus, image trimming method, and image trimming program
US20120206496A1 (en) System for imaging product layout
US8169652B2 (en) Album creating system, album creating method and creating program with image layout characteristics
JP2007312097A (en) Image processing apparatus, image processing method and program
US20120179960A1 (en) Image layout adjustment aparatus
JP5336759B2 (en) Image output apparatus and image output method
JP2009151698A (en) Image converter, image providing system, photographing editing device, image conversion method, image conversion program, and recording medium recorded with program
JP2010068212A (en) Image processor, image processing method, and program
JP2002158922A (en) Image display control device and method therefor
JP2005252739A (en) Static image generating device and method thereof

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061211

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080716

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110203

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110405

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110506

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20110524

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110614

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110706

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140715

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4781844

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250