JP6702698B2 - Imaging device and information processing method - Google Patents

Imaging device and information processing method Download PDF

Info

Publication number
JP6702698B2
JP6702698B2 JP2015230017A JP2015230017A JP6702698B2 JP 6702698 B2 JP6702698 B2 JP 6702698B2 JP 2015230017 A JP2015230017 A JP 2015230017A JP 2015230017 A JP2015230017 A JP 2015230017A JP 6702698 B2 JP6702698 B2 JP 6702698B2
Authority
JP
Japan
Prior art keywords
image
control unit
display
combined
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015230017A
Other languages
Japanese (ja)
Other versions
JP2017098788A (en
JP2017098788A5 (en
Inventor
松本 哲
哲 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015230017A priority Critical patent/JP6702698B2/en
Publication of JP2017098788A publication Critical patent/JP2017098788A/en
Publication of JP2017098788A5 publication Critical patent/JP2017098788A5/ja
Application granted granted Critical
Publication of JP6702698B2 publication Critical patent/JP6702698B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)

Description

本発明は、撮像装置及び情報処理方法に関する。 The present invention relates to an imaging apparatus and an information processing how.

近年、被写体を撮影するメインの撮像系(レンズ、撮像素子等)だけでなく、複数の撮像系を備える撮像装置が知られている。例えば、被写体方向とは逆向きのサブの撮像系を備え、2つの撮像系で同時に撮影し、重畳(合成)することで、撮影者の表情も同時に記録することができるカメラや携帯電話がある。特許文献1には、第1の撮像手段によって得られた画像に対する第2の撮像手段によって得られた画像の配置位置を調整可能とする撮像装置が開示されている。 2. Description of the Related Art In recent years, an image pickup apparatus including a plurality of image pickup systems as well as a main image pickup system (lens, image pickup device, etc.) for photographing a subject is known. For example, there are cameras and mobile phones that have a sub-imaging system in the direction opposite to the subject direction and can simultaneously capture the facial expressions of the photographer by simultaneously capturing and superimposing (combining) images with the two imaging systems. .. Patent Document 1 discloses an image pickup apparatus that can adjust an arrangement position of an image obtained by the second image pickup unit with respect to an image obtained by the first image pickup unit.

特開2011−217121号公報JP, 2011-217121, A

メイン・サブの2つの画像が重畳された、複数の重畳画像を連続して再生表示する場合がある。この場合には、複数の重畳画像において、重畳された画像の位置や大きさが異なっていると、ユーザにとって見難く、また見栄えが良くないという問題があった。 In some cases, a plurality of superimposed images in which two main and sub images are superimposed are continuously reproduced and displayed. In this case, if the positions and sizes of the superimposed images are different in the plurality of superimposed images, it is difficult for the user to see and the appearance is not good.

本発明はこのような問題点に鑑みなされたもので、複数の重畳画像を連続して表示する場合に、ユーザにとって見易く、また見栄えがよくなるような重畳画像を生成することを目的とする。 The present invention has been made in view of such problems, and an object of the present invention is to generate a superimposed image that is easy for a user to see and looks good when a plurality of superimposed images are continuously displayed.

そこで、本発明は、第1の撮像手段と、第2の撮像手段と、を有する撮像装置であって、撮影モードを設定する撮影モード設定手段と、前記撮影モード設定手段により設定された撮影モードに応じて、前記第1の撮像手段により撮影された第1の画像に対する前記第2の撮像手段により撮影された第2の画像の合成位置及び合成サイズを決定する決定手段と、前記第1の画像に、前記第2の画像を合成する合成手段と、記録指示に応じて、前記合成手段により合成された画像を記録媒体に記録するように制御する記録制御手段と、前記記録媒体に記録されている複数の画像を、所定の表示領域において連続的に再生表示するための連続再生手段と、を有し、前記合成手段は、第1の撮影モードにおいて前記第1の撮像手段により撮影された第1の静止画に、前記第1の撮影モードにおいて前記第2の撮像手段により撮影された第2の静止画を合成して第1の合成静止画を生成し、第2の撮影モードにおいて前記第1の撮像手段により撮影された第1の動画に、前記第2の撮影モードにおいて前記第2の撮像手段により撮影された第2の動画を合成して第2の合成動画を生成し、前記連続再生手段は、前記第1の撮影モードで記録した前記第1の合成静止画と前記第2の撮影モードで記録した前記第2の合成動画とを異なるサイズで再生表示し、前記決定手段は、前記第1の合成静止画に合成されている前記第2の静止画と、前記第2の合成動画に合成されている前記第2の動画とが、前記連続再生手段によって複数の画像を再生表示する場合に同じ表示位置及び表示サイズで再生表示されるように、前記合成位置及び前記合成サイズを決定する、ことを特徴とする。 Therefore, the present invention is an image pickup apparatus having a first image pickup means and a second image pickup means, and a photographing mode setting means for setting a photographing mode, and a photographing mode set by the photographing mode setting means. In accordance with the first image capturing means, the determining means for determining a composite position and a composite size of the second image captured by the second image capturing means with respect to the first image captured by the first image capturing means; A synthesizing unit that synthesizes the second image on the image, a recording control unit that controls the image synthesized by the synthesizing unit to be recorded on a recording medium according to a recording instruction, and a recording control unit that records the image on the recording medium. Continuous reproduction means for continuously reproducing and displaying a plurality of images in a predetermined display area, and the synthesizing means is photographed by the first imaging means in a first photographing mode. The first still image is combined with the second still image photographed by the second image pickup means in the first photographing mode to generate a first combined still image. In the second photographing mode, The first moving image shot by the first image pickup unit is combined with the second moving image shot by the second image pickup unit in the second shooting mode to generate a second combined moving image. The continuous reproduction means reproduces and displays the first combined still image recorded in the first shooting mode and the second combined moving image recorded in the second shooting mode in different sizes, and the determination means , The second still image combined with the first combined still image and the second moving image combined with the second combined moving image reproduce a plurality of images by the continuous reproduction means. It is characterized in that the composite position and the composite size are determined so that the same display position and display size are reproduced and displayed .

本発明によれば、複数の重畳画像を連続して表示する場合に、ユーザにとって見易く、また見栄えがよくなるような重畳画像を生成することができる。 According to the present invention, when a plurality of superimposed images are continuously displayed, it is possible to generate a superimposed image that is easy for the user to see and looks good.

デジタルカメラの背面図である。It is a rear view of a digital camera. デジタルカメラのハードウェア構成を示す図である。It is a figure which shows the hardware constitutions of a digital camera. 静止画動画同時記録モードにおける処理を示すフローチャートである。It is a flowchart which shows the process in a still image moving image simultaneous recording mode. 静止画動画同時記録モードにおける処理を示すフローチャートである。It is a flowchart which shows the process in a still image moving image simultaneous recording mode. 静止画動画同時記録モードにおける処理を示すフローチャートである。It is a flowchart which shows the process in a still image moving image simultaneous recording mode. 画像表示例を示す図である。It is a figure which shows the example of an image display. 静止画の構成例を示す図である。It is a figure which shows the structural example of a still image. 静止画動画同時記録モードにおける処理の説明図である。It is explanatory drawing of the process in a still image moving image simultaneous recording mode. インカメラ画像同時記録モードにおける処理を示すフローチャートである。7 is a flowchart showing a process in an in-camera image simultaneous recording mode. 各撮影モードの処理の説明図である。It is explanatory drawing of the process of each photography mode. 再生処理を示すフローチャートである。It is a flow chart which shows reproduction processing. チャプタ検索処理を示すフローチャートである。It is a flow chart which shows chapter search processing. チャプタ状態を表すデータ構造の概念図である。It is a conceptual diagram of the data structure showing a chapter state. 画像選抜再生処理を示すフローチャートである。It is a flowchart which shows an image selection reproduction process.

以下、本発明の実施形態について図面に基づいて説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1は、撮像装置の一例としてのデジタルカメラ100の背面図である。表示部23は、画像や各種情報を表示する表示部である。シャッターボタン60は、静止画撮影指示を行うための操作部である。動画撮影ボタン70は、動画撮影指示を行うための操作部材である。操作部62は、ユーザからの各種操作を受け付ける各種スイッチ、ボタン等の操作部材より成る操作部である。操作部62は、デジタルカメラ100の電源ON、OFFを切り替える電源スイッチ、デジタルカメラ100の動作モードを切り替えるモード切り替えスイッチを有している。操作部62はまた、デジタルカメラ100のメニュー設定を行うメニューボタン、メニューや設定を指示する十字キーボタン等を有している。記録媒体91は、メモリカードやハードディスク等の記録媒体である。蓋92は、記録媒体91を収納するための蓋である。101は、デジタルカメラ100を使用している撮影者側を撮影可能なレンズ、撮像素子からなるカメラモジュールである。 FIG. 1 is a rear view of a digital camera 100 as an example of an imaging device. The display unit 23 is a display unit that displays images and various information. The shutter button 60 is an operation unit for issuing a still image shooting instruction. The moving image shooting button 70 is an operation member for issuing a moving image shooting instruction. The operation unit 62 is an operation unit including operation members such as various switches and buttons that receive various operations from the user. The operation unit 62 has a power switch that switches the power of the digital camera 100 on and off, and a mode switch that switches the operation mode of the digital camera 100. The operation unit 62 also has a menu button for setting menus of the digital camera 100, a cross key button for instructing menus and settings, and the like. The recording medium 91 is a recording medium such as a memory card or a hard disk. The lid 92 is a lid for housing the recording medium 91. Reference numeral 101 denotes a camera module including a lens and an image pickup element capable of taking a photographer side using the digital camera 100.

図2は、デジタルカメラ100のハードウェア構成を示す図である。11は、撮影レンズである。12は、絞り機能を備えるシャッターである。13は、光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子である。15は、撮像素子13のアナログ信号出力をディジタル信号に変換するA/D変換器である。撮影レンズ11、シャッター12及び撮像素子13は、被写体側をメイン画像として撮影するアウトカメラ110を構成する。10は、撮影レンズ11を含む撮像部を覆う事により、撮像部の汚れや破損を防止するバリアである保護手段である。同様に101の撮影レンズは、撮影レンズ11とは別にデジタルカメラ100を使用している撮影者を撮影可能な方向に設置されているズームレンズ、フォーカスレンズを含むレンズ群である。102は、絞り機能を備えるシャッターである。103は、撮影者側の光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子である。撮影レンズ101、シャッター102及び撮像素子103は、撮影者側をサブ画像として撮影するインカメラ120を構成する。 FIG. 2 is a diagram showing a hardware configuration of the digital camera 100. Reference numeral 11 is a taking lens. A shutter 12 has a diaphragm function. Reference numeral 13 is an image pickup device composed of a CCD, a CMOS device or the like for converting an optical image into an electric signal. Reference numeral 15 is an A/D converter that converts the analog signal output of the image pickup device 13 into a digital signal. The taking lens 11, the shutter 12, and the image sensor 13 constitute an out-camera 110 that takes a subject side as a main image. Reference numeral 10 is a protection unit that is a barrier that covers the image pickup unit including the taking lens 11 to prevent the image pickup unit from being soiled or damaged. Similarly, the taking lens 101 is a lens group including a zoom lens and a focus lens, which are installed separately from the taking lens 11 in a direction in which a photographer using the digital camera 100 can be taken. A shutter 102 has a diaphragm function. Reference numeral 103 is an image pickup device including a CCD, a CMOS device, or the like that converts an optical image on the photographer side into an electric signal. The taking lens 101, the shutter 102, and the image sensor 103 configure an in-camera 120 that takes a photographer side as a sub-image.

14は撮像素子13,103、A/D変換器15、D/A変換器21にクロック信号や制御信号を供給するタイミング発生回路であり、メモリ制御回路22及び制御部50により制御される。20は、画像処理回路であり、A/D変換器15からのデータ又はメモリ制御回路22からのデータに対して所定の画素補間処理や色変換処理を行う。また、画像処理回路20は、撮像した画像データを用いて所定の演算処理を行い、得られた演算結果を制御部50に出力する。制御部50は、例えばCPUであり、デジタルカメラ100全体を制御する。制御部50は、演算結果に基づいて、露出制御部40、測距制御部41に対して制御を行い、AF(オートフォーカス)処理、AE(自動露出)処理、EF(フラッシュプリ発光)処理を行う。画像処理回路20は、撮像により得られた画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてAWB(オートホワイトバランス)処理も行う。画像処理回路20はさらに、メモリ25に格納された画像を読み込んで、JPEG方式やMPEG−4 AVC/H.264方式での圧縮処理又は伸長処理を行い、処理を終えたデータをメモリ25に書き込む。 A timing generation circuit 14 supplies a clock signal and a control signal to the image pickup devices 13 and 103, the A/D converter 15 and the D/A converter 21, and is controlled by the memory control circuit 22 and the control unit 50. An image processing circuit 20 performs predetermined pixel interpolation processing and color conversion processing on the data from the A/D converter 15 or the data from the memory control circuit 22. Further, the image processing circuit 20 performs predetermined arithmetic processing using the captured image data and outputs the obtained arithmetic result to the control unit 50. The control unit 50 is, for example, a CPU and controls the entire digital camera 100. The control unit 50 controls the exposure control unit 40 and the distance measurement control unit 41 based on the calculation result, and performs AF (auto focus) processing, AE (auto exposure) processing, and EF (flash pre-flash) processing. To do. The image processing circuit 20 performs predetermined arithmetic processing using the image data obtained by imaging, and also performs AWB (auto white balance) processing based on the obtained arithmetic result. The image processing circuit 20 further reads the image stored in the memory 25, and uses the JPEG method or the MPEG-4 AVC/H. Compression processing or decompression processing by the H.264 system is performed, and the processed data is written in the memory 25.

22はメモリ制御回路であり、A/D変換器15、タイミング発生器14、画像処理回路20、画像表示メモリ24、D/A変換器21、メモリ25を制御する。A/D変換器15のデータが画像処理回路20、メモリ制御回路22を介して、又はA/D変換器15のデータが直接メモリ制御回路22を介して、画像表示メモリ24又はメモリ25に書き込まれる。24は、画像表示メモリである。21は、D/A変換器である。23は、TFT LCD等から成る表示部である。画像表示メモリ24に書き込まれた表示用の画像データは、D/A変換器21を介して表示部23に表示される。表示部23を用いて撮像した画像データを逐次表示することにより、ライブ映像を表示する電子ファインダ機能を実現することができる。25は、撮影した静止画像や動画像を格納するためのメモリであり、所定枚数の静止画像や所定時間の動画像を格納するのに十分な記憶量を備えている。また、メモリ25は、制御部50の作業領域としても使用することが可能である。 A memory control circuit 22 controls the A/D converter 15, the timing generator 14, the image processing circuit 20, the image display memory 24, the D/A converter 21, and the memory 25. The data of the A/D converter 15 is written in the image display memory 24 or the memory 25 through the image processing circuit 20 and the memory control circuit 22, or the data of the A/D converter 15 is directly passed through the memory control circuit 22. Be done. Reference numeral 24 is an image display memory. 21 is a D/A converter. Reference numeral 23 is a display unit including a TFT LCD or the like. The image data for display written in the image display memory 24 is displayed on the display unit 23 via the D/A converter 21. By sequentially displaying the captured image data using the display unit 23, it is possible to realize an electronic viewfinder function of displaying a live image. Reference numeral 25 denotes a memory for storing captured still images and moving images, and has a storage capacity sufficient to store a predetermined number of still images and moving images for a predetermined time. The memory 25 can also be used as a work area of the control unit 50.

40は、絞り機能を備えるシャッター12、102を個別に制御する露光制御部である。41は、撮影レンズ11、101のフォーカシングを個別に制御する測距制御部である。42は、撮影レンズ11、101のズーミングを個別に制御するズーム制御部である。43は、バリアである保護部10の動作を制御するバリア制御部である。51は、電気的に消去・記録可能な不揮発性メモリであり、例えばEEPROM等が用いられる。51には、プログラムだけでなく、地図情報等も記録されている。なお、後述するデジタルカメラ100の機能や情報処理は、制御部50が不揮発性メモリ51に格納されているプログラムを読み出し、このプログラムを実行することにより実現されるものである。 Reference numeral 40 denotes an exposure control unit that individually controls the shutters 12 and 102 having a diaphragm function. Reference numeral 41 denotes a distance measurement control unit that individually controls the focusing of the taking lenses 11 and 101. A zoom control unit 42 individually controls zooming of the taking lenses 11 and 101. A barrier control unit 43 controls the operation of the protection unit 10 that is a barrier. Reference numeral 51 is a non-volatile memory that can be electrically erased and recorded, and for example, an EEPROM or the like is used. In 51, not only the program but also map information and the like are recorded. The functions and information processing of the digital camera 100, which will be described later, are realized by the control unit 50 reading a program stored in the non-volatile memory 51 and executing the program.

60、61及び62は、制御部50の各種の動作指示を入力するための操作手段である。操作手段60〜62は、電源スイッチ、モード切り替えスイッチ、メニューボタン、十字キー、タッチパネル、視線検知によるポインティング、音声認識装置等の単数又は複数の組み合わせで構成される。60は、シャッタースイッチSW1で、不図示のシャッターボタンの操作途中でONとなる。シャッタースイッチSW1は、AF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理、EF(フラッシュプリ発光)処理等の動作開始を指示する。 Reference numerals 60, 61, and 62 are operation means for inputting various operation instructions of the control unit 50. The operation means 60 to 62 are composed of a single or a plurality of combinations of a power switch, a mode changeover switch, a menu button, a cross key, a touch panel, pointing by visual axis detection, a voice recognition device, and the like. A shutter switch SW1 60 is turned on during operation of a shutter button (not shown). The shutter switch SW1 instructs the start of operations such as AF (auto focus) processing, AE (automatic exposure) processing, AWB (auto white balance) processing, and EF (flash pre-flash) processing.

61は、シャッタースイッチSW2で、不図示のシャッターボタンの操作完了でONとなる。シャッタースイッチSW2は、露光処理、現像処理、記録処理という一連の処理の動作開始を指示する。ここで、露光処理は、撮像素子13から読み出した信号をA/D変換器15、メモリ制御回路22を介してメモリ25に画像データを書き込む処理である。現像処理は、画像処理回路20やメモリ制御回路22での演算を用いる処理である。記録処理は、メモリ25から画像データを読み出し、画像処理回路20により圧縮を行い、メモリ25に格納した後にカードコントローラ90を介して、外部記録媒体91に画像データを書き込む処理である。 A shutter switch SW2 61 is turned on when the operation of a shutter button (not shown) is completed. The shutter switch SW2 gives an instruction to start the operation of a series of processes including an exposure process, a development process, and a recording process. Here, the exposure process is a process of writing the image data to the memory 25 via the A/D converter 15 and the memory control circuit 22 from the signal read from the image sensor 13. The developing process is a process that uses calculation in the image processing circuit 20 and the memory control circuit 22. The recording process is a process of reading image data from the memory 25, compressing the image data by the image processing circuit 20, storing the image data in the memory 25, and then writing the image data to the external recording medium 91 via the card controller 90.

62は、各種ボタンやタッチパネル等からなる操作部である。操作部62は、電源ボタン、メニューボタン、撮影モード/再生モード/その他特殊撮影モードの切替えを行うモード切替スイッチ、十字キー、セットボタン、マクロボタン、マルチ画面再生改ページボタン等である。操作部62はまた、フラッシュ設定ボタン、単写/連写/セルフタイマー切り替えボタン、メニュー移動+(プラス)ボタン、メニュー移動−(マイナス)ボタン、再生画像移動+(プラス)ボタン、再生画像−(マイナス)ボタンである。操作部62はまた、撮影画質選択ボタン、露出補正ボタン、日付/時間設定ボタン等である。 Reference numeral 62 is an operation unit including various buttons and a touch panel. The operation unit 62 includes a power button, a menu button, a mode switch for switching shooting mode/playback mode/other special shooting modes, a cross key, a set button, a macro button, a multi-screen playback page break button, and the like. The operation unit 62 also includes a flash setting button, a single shooting/continuous shooting/self-timer switching button, a menu move + (plus) button, a menu move-(minus) button, a replay image move+(plus) button, a replay image-( Minus) button. The operation unit 62 also includes a shooting image quality selection button, an exposure correction button, a date/time setting button, and the like.

81は、電源制御部である。80は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Li電池等の二次電池、ACアダプター等からなる電源である。90は、メモリカード等の外部記録媒体とデータの送受信を行うカードコントローラである。91は、メモリカード等の外部記録媒体である。 81 is a power supply control unit. Reference numeral 80 denotes a power source including a primary battery such as an alkaline battery and a lithium battery, a secondary battery such as a NiCd battery, a NiMH battery, and a Li battery, an AC adapter, and the like. A card controller 90 transmits and receives data to and from an external recording medium such as a memory card. Reference numeral 91 is an external recording medium such as a memory card.

図3〜図5は、デジタルカメラ100による、静止画動画同時記録モードにおける処理を示すフローチャートである。本実施形態に係るデジタルカメラ100は、ユーザにより操作部62に含まれるモード切り替えスイッチが切り替えられると、動作モードを、静止画動画同時記録モードに設定することができる(撮影モード設定処理)。ここで、静止画動画同時記録モードとは、一回のレリーズで静止画と、そのレリーズ以前の動画と、レリーズ後の動画と、を同時に記録するモ動作モードである。なお、以下、アウトカメラ110により撮影された動画及び静止画をそれぞれメイン動画及びメイン静止画と称することとする。また、適宜、メイン動画及びメイン静止画をメイン画像と総称する。また、インカメラ120により撮影された動画及び静止画をそれぞれサブ動画及びサブ静止画と称することとする。また、適宜、サブ動画及びサブ静止画をサブ画像と総称する。 3 to 5 are flowcharts showing the process in the still image/moving image simultaneous recording mode by the digital camera 100. The digital camera 100 according to the present embodiment can set the operation mode to the still image moving image simultaneous recording mode when the mode switching switch included in the operation unit 62 is switched by the user (shooting mode setting process). Here, the still image moving image simultaneous recording mode is a motion mode in which a still image, a moving image before the release and a moving image after the release are simultaneously recorded in one release. In addition, hereinafter, the moving image and the still image captured by the out-camera 110 will be referred to as a main moving image and a main still image, respectively. In addition, the main moving image and the main still image are collectively referred to as a main image as appropriate. In addition, a moving image and a still image captured by the in-camera 120 will be referred to as a sub moving image and a sub still image, respectively. Further, the sub moving image and the sub still image are collectively referred to as a sub image as appropriate.

デジタルカメラ100において、静止画動画同時記録モードに設定されると、ステップS300において、制御部50は、検出情報を取得する。検出情報は、カメラ状態を含む。カメラ状態は、例えばデジタルカメラ100の101の光軸を中心とした回転姿勢角度(0度、90度、180度、270度)であり、90度、180度とはいわゆる縦撮り撮影にあたる。検出情報はまた、デジタルカメラ100のズーム制御状態、オートフォーカス制御状態等を含む。制御部50はまた、被写体情報として例えば被写体輝度情報、被写体距離情報等を取得する。 When the still image/moving image simultaneous recording mode is set in the digital camera 100, the control unit 50 acquires the detection information in step S300. The detection information includes the camera status. The camera state is, for example, a rotation posture angle (0 degree, 90 degrees, 180 degrees, 270 degrees) about the optical axis of the digital camera 100, and 90 degrees and 180 degrees correspond to so-called vertical shooting. The detection information also includes the zoom control state, the autofocus control state, etc. of the digital camera 100. The control unit 50 also acquires subject information such as subject brightness information and subject distance information.

これらの情報は後述の画像生成処理(ステップS301)における画質調整のためのパラメータとして使用される他、図13で後述するチャプタ状態情報として画像ファイルに記録され再生処理において利用される。なお、後述するように本処理で撮影される静止画と動画の追記単位(チャプタ)は関連付けがなされるので、この情報の記録先は動画ファイルのヘッダ情報であっても、対応する静止画ファイルのヘッダ情報であってもよい。 These pieces of information are used as parameters for image quality adjustment in the image generation processing (step S301) described later, and are also recorded in the image file as chapter state information described later in FIG. 13 and used in the reproduction processing. As will be described later, since the still image and the additional recording unit (chapter) of the moving image captured in this process are associated, even if the recording destination of this information is the header information of the moving image file, the corresponding still image file Header information may be used.

ステップS301において、制御部50は、露出制御部40によって制御された適正露出の撮像素子13の出力を基に、アウトカメラ110により撮影された画像を生成する。ステップS301において生成された画像は、ライブビュー表示に用いられるライブ画像である。以下、ステップS301において、アウトカメラ110により撮影された画像を表示用メイン画像と称する。次に、ステップS302において、制御部50は、ステップS301と同様に撮像素子13の出力を基に、アウトカメラ110により撮影された画像(動画)を生成する。以下、ステップS302において、アウトカメラ110により撮影された、記録用の画像を、記録用メイン動画と称する。 In step S301, the control unit 50 generates an image captured by the out-camera 110 based on the output of the image sensor 13 with the proper exposure controlled by the exposure control unit 40. The image generated in step S301 is a live image used for live view display. Hereinafter, in step S301, the image captured by the out-camera 110 is referred to as a display main image. Next, in step S302, the control unit 50 generates an image (moving image) captured by the out-camera 110 based on the output of the image sensor 13 as in step S301. Hereinafter, the image for recording captured by the out-camera 110 in step S302 will be referred to as a recording main moving image.

次に、ステップS303において、制御部50は、デジタルカメラ100に設定されているインカメラ撮影機能の有効無効の設定を確認する。インカメラ撮影機能の有効無効は、予めユーザにより設定されているものとする。制御部50は、インカメラ撮影機能が有効と設定されている場合には(ステップS303でYes)、処理をステップS304へ進める。制御部50は、インカメラ撮影機能が無効と設定されている場合には(ステップS303でNo)、処理をステップS310へ進める。 Next, in step S303, the control unit 50 confirms the valid/invalid setting of the in-camera photographing function set in the digital camera 100. Whether the in-camera shooting function is enabled or disabled is set in advance by the user. When the in-camera photographing function is set to be valid (Yes in step S303), the control unit 50 advances the process to step S304. When the in-camera photographing function is set to be invalid (No in step S303), the control unit 50 advances the process to step S310.

ステップS304において、制御部50は、インカメラ120により撮影された画像をアウトカメラ110により撮影された画像上に重畳する際のインカメラ120により撮影された画像の合成位置及び合成サイズを確認する。なお、インカメラ120により撮影された画像の合成位置及び合成サイズは予め定められており例えばデジタルカメラ100の不揮発性メモリ51等に記録されている。なお、インカメラ120により撮影された画像の合成位置及び合成サイズは、撮影モードに応じて決定されるものである。本実施形態においては、静止画、動画同時記録モードに対して設定されている合成位置及び合成サイズを第1の合成位置及び第1の合成サイズと称することとする。合成位置及び合成サイズについては、図10を参照しつつ、後に詳述する。 In step S304, the control unit 50 confirms the composite position and composite size of the image captured by the in-camera 120 when the image captured by the in-camera 120 is superimposed on the image captured by the out-camera 110. It should be noted that the composition position and composition size of the image captured by the in-camera 120 are predetermined and are recorded in, for example, the non-volatile memory 51 of the digital camera 100. The composite position and the composite size of the image captured by the in-camera 120 are determined according to the capture mode. In the present embodiment, the combination position and the combination size set for the still image/moving image simultaneous recording mode will be referred to as a first combination position and a first combination size. The combination position and combination size will be described later in detail with reference to FIG.

次に、ステップS305において、制御部50は、露出制御部40によって制御された適正露出の撮像素子103の出力を基に、インカメラ120により撮影された画像を生成する。ここで、制御部50は、第1の合成サイズの画像を生成する。ステップS305において生成された画像は、ライブビュー表示に用いられるライブ画像である。以下、S305において生成された画像を表示用サブ画像と称する。 Next, in step S305, the control unit 50 generates an image captured by the in-camera 120 based on the output of the image sensor 103 with the proper exposure controlled by the exposure control unit 40. Here, the control unit 50 generates an image of the first combined size. The image generated in step S305 is a live image used for live view display. Hereinafter, the image generated in S305 will be referred to as a display sub-image.

次に、ステップS306において、制御部50は、ステップS301で生成した表示用メイン画像と、ステップS305で生成した表示用サブ画像と、を合成して、表示用合成画像を生成する。具体的には、制御部50は、表示用サブ画像を表示用メイン画像の第1の合成位置に重畳することにより、表示用合成画像を生成する。次に、ステップS307において、制御部50は、露出制御部40によって制御された適正露出の撮像素子103の出力を基に、第1の合成サイズの記録用サブ動画を生成する。次に、ステップS308において、制御部50は、ステップS302で生成した記録用メイン動画と、ステップS307で生成した記録用サブ動画と、を合成して、記録用合成動画を生成する。具体的には、制御部50は、ステップS306と同様に記録用サブ動画を記録用メイン動画の第1の合成位置に重畳することにより、記録用合成動画を生成する。 Next, in step S306, the control unit 50 synthesizes the display main image generated in step S301 and the display sub-image generated in step S305 to generate a display synthesized image. Specifically, the control unit 50 generates the display combined image by superimposing the display sub image on the first combining position of the display main image. Next, in step S307, the control unit 50 generates a recording sub moving image of the first composite size based on the output of the image sensor 103 with the proper exposure controlled by the exposure control unit 40. Next, in step S308, the control unit 50 combines the recording main moving image generated in step S302 and the recording sub moving image generated in step S307 to generate a recording combined moving image. Specifically, the control unit 50 generates the recording composite moving image by superimposing the recording sub moving image on the first combining position of the recording main moving image as in step S306.

次に、ステップS309において、制御部50は、ステップS306において生成した表示用合成画像を表示部23に表示するよう制御する(表示制御処理)。その後、制御部50は、処理をステップS311へ進める。図6(a)は、表示用合成画像の表示例を示す図である。表示用合成画像600は、表示用メイン画像601の所定の位置に、表示用サブ画像602が重畳されたものである。表示部23への画像の表示では、新しく撮影された画像で逐次更新される。すなわち、メサブ画像であるアウトカメラ110のライブ画像に、サブ画像となるインカメラ120のライブ画像が合成された画像がライブビュー表示として表示部23に表示される。 Next, in step S309, the control unit 50 controls to display the display combined image generated in step S306 on the display unit 23 (display control process). After that, the control unit 50 advances the process to step S311. FIG. 6A is a diagram showing a display example of the display combined image. The display combined image 600 is a display sub-image 602 superposed on a predetermined position of the display main image 601. When the image is displayed on the display unit 23, it is sequentially updated with a newly captured image. That is, an image in which the live image of the out-camera 110 that is the sub image and the live image of the in-camera 120 that is the sub image are combined is displayed on the display unit 23 as a live view display.

一方、ステップS310において、制御部50は、ステップS302において生成した表示用メイン画像をライブ画像として表示部23に表示するよう制御する。その後、制御部50は、処理をステップS311へ進める。図6(b)は、表示用メイン画像610の表示例を示す図である。このように、インカメラ撮影機能が有効に設定されている場合には、表示用メイン画像に表示用サブ画像が合成された表示用合成画像がライブビュー表示として表示される。一方で、インカメラ撮影機能が無効に設定されている場合には、表示用メイン画像がライブビュー表示として表示される。 On the other hand, in step S310, the control unit 50 controls so that the display main image generated in step S302 is displayed on the display unit 23 as a live image. After that, the control unit 50 advances the process to step S311. FIG. 6B is a diagram showing a display example of the display main image 610. As described above, when the in-camera photographing function is set to be effective, the display combined image in which the display sub image is combined with the display main image is displayed as the live view display. On the other hand, when the in-camera shooting function is disabled, the display main image is displayed as a live view display.

ステップS311において、制御部50は、記録用合成動画を画像処理回路20に含まれる動画圧縮処理を用いて、動画データへと圧縮し、メモリ25に格納する。制御部50はまた、動画データの圧縮とともに不図示のスピーカー等で入力された音声データについても音声圧縮処理を用いて圧縮し、メモリ25に格納する。次に、ステップS312において、制御部50は、静止画、動画同時記録モードからのモード変更が行われたか確認する。モード切り替えスイッチによる撮影モードの変更や再生モードへの移行、メニューボタンによる設定メニューへの移行、電源スイッチによる電源OFFなどがモード変更に含まれる。 In step S311, the control unit 50 compresses the recording combined moving image into moving image data using the moving image compression processing included in the image processing circuit 20, and stores the compressed moving image data in the memory 25. The control unit 50 also compresses the moving image data and the audio data input through a speaker (not shown) using the audio compression process, and stores the compressed data in the memory 25. Next, in step S312, the control unit 50 confirms whether the mode change from the still image/moving image simultaneous recording mode has been performed. The mode change includes the change of the photographing mode by the mode changeover switch, the shift to the reproduction mode, the shift to the setting menu by the menu button, and the power OFF by the power switch.

制御部50は、モード変更が行われなかった場合には(ステップS312でYes)、処理を図4に示すステップS400へ進める。制御部50は、モード変更が行われた場合には(ステップS312でNo)、動画圧縮処理を終了し、メモリ25に格納していた動画データ及び音声データを破棄して、静止画、動画同時記録モードを終了する。 When the mode has not been changed (Yes in step S312), the control unit 50 advances the process to step S400 shown in FIG. When the mode has been changed (No in step S312), the control unit 50 ends the moving image compression process, discards the moving image data and the audio data stored in the memory 25, and simultaneously acquires the still image and the moving image. End the recording mode.

ステップS400において、制御部50は、メニューボタンによる設定メニュー以外の操作部62を介してユーザから撮影設定の変更指示が行われたか確認する。設定項目としては、ホワイトバランス、露出補正値、MF・マクロ撮影等のフォーカス方法の切り替え、静止画の画像サイズや圧縮率など撮影時に被写体や状況に応じて、即座に切り替えが必要となる撮影条件が含まれる。これらの設定は、操作部62に含まれる割り当てられた撮影設定変更ボタンや表示部23に併設されたタッチパネルへの動作に応じて、表示中の画面にGUI画面を一時的に重畳してユーザが設定を変更できるように提供する。 In step S400, the control unit 50 confirms whether or not the user has instructed to change the shooting setting via the operation unit 62 other than the setting menu using the menu button. Setting items include white balance, exposure compensation value, switching of focus method such as MF/macro shooting, and image capturing conditions such as image size and compression rate of still images that need to be switched immediately depending on the subject and the situation at the time of shooting. Is included. These settings are performed by the user by temporarily superimposing the GUI screen on the screen currently displayed according to the operation of the assigned shooting setting change button included in the operation unit 62 or the touch panel provided in the display unit 23. Provide it so that the settings can be changed.

制御部50は、ユーザにより撮影設定変更が指示された場合には(ステップS400でYes)、処理をステップS401へ進める。制御部50は、ユーザによる撮影設定変更が指示されなかった場合には(ステップS400でNo)、処理をステップS402へ進める。ステップS401において、制御部50は、ユーザによる撮影設定変更の指示に応じて撮影設定を変更する。次にステップS402において、制御部50は、インカメラ表示の設定変更が行われたか否かを確認する。インカメラ表示に関しても撮影設定と同様に設定メニューを使用せず設定可能としている。設定可能な項目としては、表示位置、インカメラの表示の有効・無効がある。表示位置に関しては、右上、右下、左上、左下の4種類の中で設定可能である。 When the user gives an instruction to change the shooting setting (Yes in step S400), the control unit 50 advances the process to step S401. When the user has not instructed to change the shooting settings (No in step S400), the control unit 50 advances the process to step S402. In step S401, the control unit 50 changes the shooting setting according to the user's instruction to change the shooting setting. Next, in step S402, the control unit 50 confirms whether or not the setting of the in-camera display has been changed. The in-camera display can also be set without using the setting menu as in the shooting setting. Items that can be set include display position and in-camera display valid/invalid. The display position can be set among the four types of upper right, lower right, upper left, and lower left.

制御部50は、インカメラ表示の設定変更がされた場合には(ステップS402でYes)、処理をステップS403へ進める。制御部50は、インカメラ表示の設定変更がなかった場合には(ステップS402でYes)、処理をステップS407へ進める。ステップS403において、制御部50は、動画圧縮処理を停止し、メモリ25に格納していた動画データ、音声データを破棄する。これは、インカメラ表示の設定を変更するとそれまでに記録された動画データとこれから撮影される動画データでインカメラ表示の切り替わりが記録され、動画データの品位が低下することを防ぐ目的がある。 When the setting of the in-camera display has been changed (Yes in step S402), the control unit 50 advances the process to step S403. When the setting of the in-camera display has not been changed (Yes in step S402), the control unit 50 advances the process to step S407. In step S403, the control unit 50 stops the moving image compression process and discards the moving image data and audio data stored in the memory 25. The purpose of this is to prevent deterioration of the quality of the moving image data by recording the switching of the in-camera display between the moving image data recorded up to that point and the moving image data to be captured, when the setting of the in-camera display is changed.

次に、ステップS404において、制御部50は、インカメラ表示の有効・無効設定が変更されたか否かを確認する。制御部50は、インカメラ表示設定の有効・無効が切り替えられた場合には(ステップS404でYes)、処理をステップS405へ進める。ステップS405において、制御部50は、インカメラ設定の有効・無効をユーザの指示に従って設定する。制御部50は、その後処理をステップS300へ進める。制御部50は、インカメラ表示の位置及びサイズのうち少なくとも一方が変更された場合には(ステップS404でNo)、処理をステップS406へ進める。ステップS406において、制御部50は、変更内容を更新する。その後、処理をステップS300へ進める。なお、ステップS300へ進んだ場合には、制御部50は、新たな設定に応じて、再び表示部23への表示や動画データの作成を行う。 Next, in step S404, the control unit 50 confirms whether the valid/invalid setting of the in-camera display has been changed. When the valid/invalid of the in-camera display setting is switched (Yes in step S404), the control unit 50 advances the process to step S405. In step S405, the control unit 50 sets validity/invalidity of the in-camera setting according to a user's instruction. The control unit 50 then advances the process to step S300. When at least one of the position and the size of the in-camera display is changed (No in step S404), the control unit 50 advances the process to step S406. In step S406, the control unit 50 updates the changed content. Then, the process proceeds to step S300. When the process proceeds to step S300, the control unit 50 performs display on the display unit 23 and creation of moving image data again according to the new setting.

ステップS407において、制御部50は、シャッタースイッチSW1(60)が押下されたか否かを確認する。制御部50は、シャッタースイッチSW1が押下された場合には(ステップS407でYes)、処理をステップS408へ進める。制御部50は、シャッタースイッチSW1が押下されなかった場合には(ステップS407でNo)、処理をステップS300へ進める。ステップS408において、制御部50は、デジタルカメラ100に設定されているフォーカスモードや露出モードに応じた合焦・露出処理を行う。なお、図示しないがステップS408においても、ステップS300における処理と同様に、検出情報の取得が行われる。 In step S407, the control unit 50 confirms whether or not the shutter switch SW1 (60) has been pressed. When the shutter switch SW1 is pressed (Yes in step S407), the control unit 50 advances the process to step S408. When the shutter switch SW1 has not been pressed (No in step S407), the control unit 50 advances the process to step S300. In step S408, the control unit 50 performs focusing/exposure processing according to the focus mode and exposure mode set in the digital camera 100. Although not shown, in step S408, the detection information is acquired as in the process in step S300.

次に、ステップS409において、制御部50は、シャッタースイッチSW2(61)が押下されたか否かを確認する。制御部50は、シャッタースイッチSW2が押下された場合には(ステップS409でYes)、処理をステップS410へ進める。制御部50は、シャッタースイッチSW2が押下されなかった場合には(ステップS409でNo)、処理をステップS407へ進める。ステップ410において、制御部50は、表示部23による画像表示を停止すると共に、動画圧縮処理を一時停止させる。ここでは、メモリ25に格納された動画データ、音声データは保持しておく。 Next, in step S409, the control unit 50 confirms whether or not the shutter switch SW2 (61) has been pressed. When the shutter switch SW2 is pressed (Yes in step S409), the control unit 50 advances the process to step S410. When the shutter switch SW2 has not been pressed (No in step S409), the control unit 50 advances the process to step S407. In step 410, the control unit 50 stops the image display by the display unit 23 and temporarily stops the moving image compression process. Here, the moving image data and audio data stored in the memory 25 are retained.

次に、ステップS411において、制御部50は、撮像素子13の出力を基に記録用の静止画データを撮影する。以下、ステップS411により得られた静止画を記録用メイン静止画と称する。次に、ステップS412において、制御部50は、記録用メイン静止画から撮影後の画像確認用のレビュー画像を生成する。次に、ステップS413において、制御部50は、ステップS411において画像処理回路20に含まれる静止画圧縮処理等を用いて記録用のJPEGデータを生成し、メモリ25に格納する。 Next, in step S411, the control unit 50 captures still image data for recording based on the output of the image sensor 13. Hereinafter, the still image obtained in step S411 is referred to as a recording main still image. Next, in step S412, the control unit 50 generates a review image for image confirmation after shooting from the main recording still image. Next, in step S 413, the control unit 50 generates JPEG data for recording using the still image compression processing included in the image processing circuit 20 in step S 411 and stores it in the memory 25.

制御部50は、その後、図5に示す撮影後処理を行う。すなわち、制御部50は、ステップS413の処理の後、処理を図5に示すステップS500へ進める。ステップS500において、制御部50は、ステップS413においてメモリ25に格納されたJPEGデータを外部記録媒体91に記録するよう制御する(記録制御処理)。次に、ステップS501において、制御部50は、メモリ25に格納した動画データが所定の記録時間t0より長いか否かの判定を行う。制御部50は、記録時間t0より長いと判定した場合は(ステップS501でYes)、処理をステップS502へ進める。制御部50は、記録時間t0以下と判定した場合は(ステップS501でYes)、処理をステップS503へ進める。 The control unit 50 then performs post-imaging processing shown in FIG. That is, the control unit 50 advances the process to step S500 shown in FIG. 5 after the process of step S413. In step S500, the control unit 50 controls the JPEG data stored in the memory 25 in step S413 to be recorded in the external recording medium 91 (recording control process). Next, in step S501, the control unit 50 determines whether the moving image data stored in the memory 25 is longer than a predetermined recording time t0. When determining that the recording time is longer than the recording time t0 (Yes in step S501), the control unit 50 advances the process to step S502. When determining that the recording time is t0 or less (Yes in step S501), the control unit 50 advances the process to step S503.

ステップS502において、制御部50は、メモリ25に格納していた動画データ及び音声データを外部記録媒体91に記録し、その後処理をステップS504へ進める。ステップS503において、制御部50は、メモリ25に格納していた動画データ及び音声データを破棄し、その後処理をステップS504へ進める。ステップS504において、制御部50は、ステップS412で作成したレビュー用画像を、表示部23に表示するよう制御する。次に、ステップS505において、制御部50は、インカメラ設定が有効か無効かの判定を行う。制御部50は、インカメラ設定が有効の場合は(ステップS505でYes)、処理をステップS506へ進める。制御部50は、インカメラ設定が無効の場合は(ステップS505でNo)、処理をステップS517へ進める。 In step S502, the control unit 50 records the moving image data and the audio data stored in the memory 25 on the external recording medium 91, and then advances the process to step S504. In step S503, the control unit 50 discards the moving image data and audio data stored in the memory 25, and then the process proceeds to step S504. In step S504, the control unit 50 controls the display unit 23 to display the review image created in step S412. Next, in step S505, the control unit 50 determines whether the in-camera setting is valid or invalid. When the in-camera setting is valid (Yes in step S505), the control unit 50 advances the process to step S506. When the in-camera setting is invalid (No in step S505), the control unit 50 advances the process to step S517.

ステップS506において、ステップS411で撮影された記録用メイン静止画から動画記録用のストップモーション画像を生成する。ここで、静止画と動画のアスペクトが異なる場合は、制御部50は、静止画がすべて表示されるようにリサイズ処理を行い、静止画の表示領域以外は黒塗りする。例えば、静止画のアスペクトが4:3で動画のアスペクトが16:9の場合、制御部50は、左右の領域を黒塗りしたストップモーション画像を生成する。以下、ステップS507からステップS512の処理は、ステップS305からステップS309、ステップS311の処理と同様である。 In step S506, a stop-motion image for moving image recording is generated from the recording main still image captured in step S411. Here, when the aspect of the still image is different from that of the moving image, the control unit 50 performs the resizing process so that the entire still image is displayed, and the area other than the display area of the still image is painted black. For example, when the aspect ratio of a still image is 4:3 and the aspect ratio of a moving image is 16:9, the control unit 50 generates a stop motion image in which the left and right areas are painted black. Hereinafter, the processing of steps S507 to S512 is the same as the processing of steps S305 to S309 and step S311.

ステップS512の処理の後、制御部50は、処理をステップS513へ進める。ステップS513において、制御部50は、ステップS512にて圧縮した動画データが所定の記録時間t1より長いか否かの判定を行う。制御部50は、記録時間t1よりも長いと判定した場合は(ステップS513でYes)、処理をステップS519へ進める。制御部50は、記録時間t1以下と判定した場合は(ステップS513でNo)、処理をステップS508へ進める。 After the processing of step S512, the control unit 50 advances the processing to step S513. In step S513, the control unit 50 determines whether the moving image data compressed in step S512 is longer than the predetermined recording time t1. When the control unit 50 determines that the recording time is longer than the recording time t1 (Yes in step S513), the process proceeds to step S519. When the control unit 50 determines that the recording time is t1 or less (No in step S513), the process proceeds to step S508.

一方、ステップS514において、制御部50は、ステップS503の動画データのキャンセル処理が行われたか否かの判定を行う。制御部50は、キャンセル処理が行われたと判定した場合は(ステップS514でYes)、撮影後処理を終了する。制御部50は、キャンセル処理が行われなかったと判定した場合(ステップS514でNo)、処理をステップS515へ進める。テップS515において、制御部50は、ストップモーション設定が入か切かの判定を行う。制御部50は、ストップモーション設定が入の場合は(ステップS515でYes)、処理をステップS516へ進める。制御部50は、ストップモーション設定が切の場合は(ステップS515でNo)、撮影後処理を終了する。 On the other hand, in step S514, the control unit 50 determines whether or not the moving image data cancel processing of step S503 has been performed. When the control unit 50 determines that the cancel process has been performed (Yes in step S514), the control unit 50 ends the post-imaging process. When the control unit 50 determines that the cancellation process has not been performed (No in step S514), the process proceeds to step S515. In step S515, the control unit 50 determines whether the stop motion setting is ON or OFF. When the stop motion setting is ON (Yes in step S515), the control unit 50 advances the process to step S516. When the stop motion setting is OFF (No in step S515), the control unit 50 ends the post-imaging processing.

ステップS516の処理は、ステップS506の処理と同様である。制御部50は、ステップS516の処理の後、処理をステップS517へ進める。ステップS517の処理は、ステップS512の処理と同様である。ただし、ここで圧縮する音声データは不揮発性メモリ51に予め記憶してあるシャッター音データ及び無音データである。制御部50は、S517の処理の後、処理をステップS518へ進める。ステップS518において、制御部50は、ステップS517においてエンコードした動画データが所定の記録時間t2より長いか否かの判定を行う。制御部50は、記録時間t2よりも長いと判定した場合は(ステップS518でYes)、処理をステップS519へ進める。制御部50は、記録時間t2以下と判定した場合には(ステップS518でNo)、処理をステップS517へ進める。 The process of step S516 is the same as the process of step S506. After the process of step S516, the control unit 50 advances the process to step S517. The process of step S517 is similar to the process of step S512. However, the audio data to be compressed here is shutter sound data and silent data stored in advance in the non-volatile memory 51. After the processing of S517, the control unit 50 advances the processing to step S518. In step S518, the control unit 50 determines whether the moving image data encoded in step S517 is longer than the predetermined recording time t2. When the control unit 50 determines that it is longer than the recording time t2 (Yes in step S518), the process proceeds to step S519. When the control unit 50 determines that the recording time is t2 or less (No in step S518), the process proceeds to step S517.

ステップS519の処理は、ステップS504の処理と同様である。次に、ステップS520において、制御部50は、ステップS512またはステップS517にて圧縮した動画データを外部記録媒体91に記録する。ステップS502で撮影前の動画データを記録している場合には、制御部50は、その動画データと同じファイルに追記して記録することとする。次に、ステップS521において、制御部50は、ステップS520における動画データの記録が完了したか否かの判定を行う。制御部50は、動画データの記録が完了するまで待機し、動画データの記録が完了したと判定すると(ステップS521でYes)、撮影後処理を終了する。 The process of step S519 is similar to the process of step S504. Next, in step S520, the control unit 50 records the moving image data compressed in step S512 or step S517 on the external recording medium 91. When the moving image data before shooting is recorded in step S502, the control unit 50 additionally records the same in the same file as the moving image data. Next, in step S521, the control unit 50 determines whether or not the recording of the moving image data in step S520 is completed. The control unit 50 waits until the recording of the moving image data is completed, and if it is determined that the recording of the moving image data is completed (Yes in step S521), the post-imaging processing is ended.

図7は、デジタルカメラ100が扱う静止画の構成例である。701は画像の属性情報を記載するヘッダ部である。702は画像を記録した撮像装置のメーカー名、703はこの画像を記録した撮像装置のモデル名、704はこの画像の撮影日時、705は被写体輝度であり、撮影画像の白飛び、黒つぶれ等を判断できる。706は合焦度で、オートフォーカスによる焦点合わせ動作結果の精度を表し、ボケ画像等の判断ができる。707はお気に入り度であり、ユーザ指示により画像の優先度を付与することができ、一般的には−1〜5の数値が使用され、−1は気に入らない除外画像、0は優先度なしの画像、1〜5は数値に比例して優先される(気に入ったとされる)。708はその他の設定、たとえばサムネイル画像、使用者情報等である。709は静止画像データ本体である。 FIG. 7 is a configuration example of a still image handled by the digital camera 100. Reference numeral 701 is a header section that describes attribute information of the image. Reference numeral 702 is the manufacturer of the image pickup apparatus that has recorded the image, 703 is the model name of the image pickup apparatus that has recorded this image, 704 is the shooting date and time of this image, and 705 is the subject brightness. I can judge. Reference numeral 706 denotes a focus degree, which represents the accuracy of the focusing operation result by autofocus, and can determine a blurred image or the like. Reference numeral 707 denotes a favorite degree, which can be given a priority of an image by a user's instruction. Generally, a numerical value of -1 to 5 is used, -1 is an excluded image that is not liked, and 0 is an image without priority. , 1 to 5 are prioritized in proportion to the numerical value (favorable). Reference numeral 708 denotes other settings, such as thumbnail images and user information. Reference numeral 709 is a still image data body.

図8(a)は、静止画及び関連する動画の撮影の時系列を示す図である。図8(b)は、撮影された静止画及び動画の保存形態を示す模式図である。図8(c)は、チャプタ参照情報の構成例を示す図である。まず、図8(a)を用いて撮影指示及び撮影画像の時系列を説明する。前述したように静止画・動画撮影同時記録モードではユーザが操作部62のSW2 61を操作することにより静止画の直前動画及びストップモーション画像のうち少なくとも一方が撮影される。P1はレリーズ1の撮影指示に応じて撮影される静止画であり、M1は静止画P1に関連した動画である。同様にレリーズ2〜レリーズ3に応じて撮影される静止画P2〜P3に関連した動画はそれぞれ、M2〜M3となる。 FIG. 8A is a diagram showing a time series of shooting a still image and related moving images. FIG. 8B is a schematic diagram showing a storage mode of the captured still image and moving image. FIG. 8C is a diagram showing a configuration example of chapter reference information. First, the time series of the shooting instruction and the shot image will be described with reference to FIG. As described above, in the still image/moving image simultaneous recording mode, the user operates the SW2 61 of the operation unit 62 to capture at least one of the immediately preceding moving image and the stop motion image of the still image. P1 is a still image shot according to the shooting instruction of the release 1, and M1 is a moving image related to the still image P1. Similarly, the moving images associated with the still images P2 to P3 captured according to Release 2 to Release 3 are M2 to M3, respectively.

次に、図8(b)を用いて図8(a)で説明した撮影操作に従って撮影された静止画P1〜P3及び動画M1〜M3の記録媒体91上での保存順を説明する。レリーズ1により撮影された動画M1はDCF規則に則り記録媒体91内の撮影日を表すディレクトリ「100_1010」(821)に動画ファイル「MDG_0001.MOV」(822)として保存される。以降のファイル名決定もDCF規則に従うこととする。一方、同時に撮影された静止画P1は静止画ファイル「IMG_0002.JPG」(827)として同ディレクトリに保存される。ここで、M1は、第一のチャプタ(824)として、撮影時間情報文字列とともに動画ストリームとして記録される。 Next, the order in which the still images P1 to P3 and the moving images M1 to M3 shot according to the shooting operation described in FIG. 8A on the recording medium 91 will be described with reference to FIG. 8B. The moving image M1 shot by the release 1 is saved as a moving image file “MDG_0001.MOV” (822) in the directory “100 — 1010” (821) representing the shooting date in the recording medium 91 according to the DCF rule. Subsequent file name determination will also follow the DCF rule. On the other hand, the still image P1 taken at the same time is saved in the same directory as a still image file "IMG_0002.JPG" (827). Here, M1 is recorded as a moving image stream together with the shooting time information character string as the first chapter (824).

次にレリーズ2により撮影された動画M2は、動画ファイル「MDG_0001.MOV」に追記される。一方、同時に撮影された静止画P2は、静止画ファイル「IMG_0003.JPG」(829)として同ディレクトリに保存される。ここで、M2は、静止画・動画撮影同時記録モードにおける第二のチャプタ記録形態として例えばP2のストップモーションとともに記録される(825)。 Next, the moving image M2 shot by the release 2 is added to the moving image file "MDG_0001.MOV". On the other hand, the still image P2 captured at the same time is saved in the same directory as a still image file "IMG_0003.JPG" (829). Here, M2 is recorded together with the stop motion of P2 as a second chapter recording mode in the still image/moving image simultaneous recording mode (825).

次にレリーズ3により撮影された動画M3は、静止画・動画撮影同時記録モードにおける第三のチャプタ記録形態として例えばM3を使用せずに、P3のストップモーションのみの記録とする(826)。これは例えばM3の撮影時間が十分でなくチャプタに採用するには不適切な時などである。一方、同時に撮影された静止画P3は、静止画ファイル「IMG_0004.JPG」(829)として同ディレクトリに保存される。一方、動画ファイル「MDG_0001.MOV」への前記チャプタ追記の毎にチャプタ参照情報がヘッダ部に記載される(823)。 Next, the moving image M3 captured by the release 3 is recorded as only the stop motion of P3 without using, for example, M3 as the third chapter recording mode in the still image/moving image simultaneous recording mode (826). This is the case, for example, when the shooting time of M3 is not enough and it is inappropriate to adopt it for a chapter. On the other hand, the still image P3 captured at the same time is saved in the same directory as a still image file "IMG_0004.JPG" (829). On the other hand, chapter reference information is written in the header section every time the chapter is added to the moving image file "MDG_0001.MOV" (823).

図8(c)を用いてチャプタ参照情報(823)の詳細について説明する。831は、画ファイルサイズであり、チャプタ追記の度にファイルエントリに記載の動画ファイルサイズの値に更新される。832は、動画総フレーム数であり、同様にチャプタ追記の度に合計のフレーム数で更新される。833は、チャプタ番号であり、チャプタ毎に後述する各チャプタ情報がチャプタ追記毎に追加されていく。834は、チャプタの撮影日時であり、本実施形態においては、関連する静止画の撮影日時と同じものが設定される。 Details of the chapter reference information (823) will be described with reference to FIG. Reference numeral 831 denotes an image file size, which is updated to the value of the moving image file size described in the file entry every time the chapter is additionally written. Reference numeral 832 denotes the total number of moving image frames, which is similarly updated with the total number of frames each time a chapter is additionally recorded. Reference numeral 833 is a chapter number, and chapter information to be described later is added for each chapter for each chapter additional recording. Reference numeral 834 denotes the shooting date and time of the chapter, and in this embodiment, the same shooting date and time as the related still image is set.

835は、チャプタの開始フレームであり、この情報をもとに各チャプタの直接再生が可能となる。836は、各チャプタのフレーム数であり、この情報をもとにチャプタの再生フレーム数を決定可能となる。837は、インカメラ画像の有無、合成位置及び合成サイズであり、この情報をもとにインカメラ画像の有無に応じた再生制御、一例としてインカメラ画像のあるチャプタのみの連続再生等が行える。またサブ画像の合成位置及び合成サイズを記録することにより、サブ画像のみのトリミング切り出し再生も可能になる。 Reference numeral 835 is a chapter start frame, and it is possible to directly reproduce each chapter based on this information. 836 is the number of frames of each chapter, and the number of chapter reproduction frames can be determined based on this information. Reference numeral 837 denotes the presence/absence of an in-camera image, a composite position, and a composite size. Based on this information, reproduction control depending on the presence/absence of the in-camera image, for example, continuous reproduction of only chapters having the in-camera image can be performed. Further, by recording the composite position and composite size of the sub-images, trimming cut-out reproduction of only the sub-images becomes possible.

838は、ストップモーションの有無及びフレーム範囲を示す。ここではチャプタ内の相対フレーム情報として表現されている。チャプタ1に対する情報は0−0であり、これはストップモーションが無いことを明示的に表すこととする。チャプタ2に対する情報90−179はチャプタ内先頭から90フレームより179フレームがストップモーションであることを表す。ここでチャプタ2はフレーム数が180フレームであることから、後半半分がストップモーションとなる。チャプタ3に対する情報は0−179であり、チャプタ3のフレームカウントが180であることからチャプタ3はすべてがストップモーションであることを表す。この情報により、各チャプタと各対応する静止画の重複関係、すなわちストップモーションの有無及びフレーム位置の判定が可能となる。したがって、チャプタ群及び対応する静止画群を選抜して再生する場合、再生フレームまたは静止画の制御を行うことにより、重複の無い再生を行うことが可能となる。 Reference numeral 838 indicates the presence/absence of stop motion and the frame range. Here, it is expressed as relative frame information in the chapter. The information for chapter 1 is 0-0, which explicitly indicates that there is no stop motion. Information 90-179 for the chapter 2 indicates that 179 frames from the first 90 frames in the chapter are stop motions. Here, since the number of frames of the chapter 2 is 180 frames, the latter half half is the stop motion. The information for chapter 3 is 0 to 179, and since the frame count of chapter 3 is 180, all of chapter 3 are in stop motion. With this information, it is possible to determine the overlapping relationship between each chapter and each corresponding still image, that is, the presence/absence of stop motion and the frame position. Therefore, when selecting a chapter group and a corresponding still image group for reproduction, it is possible to perform reproduction without duplication by controlling the reproduction frame or the still image.

ここで述べたチャプタ参照情報は動画の部分削除等の編集の度にも動画ストリームと整合性を保つためにメンテナンスする必要があり、デジタルカメラ100は、631〜638の情報を編集内容に応じて適切にメンテナンスを行う。一方、このチャプタ参照情報を解釈できない編集機器がこの動画を編集した場合チャプタ参集情報と動画ストリームの整合が崩れ不適格なフレームを指示することになる。このため、デジタルカメラ100は、チャプタ参照情報を使用する際、同時に記載されているファイルサイズ(831)がファイルエントリに記載されているファイルサイズと一致するかの判定を行う。デジタルカメラ100は、不一致が起これば、チャプタン参照情報の整合が取れないと判断し、チャプタ参書情報を使用しない。また、他の例としては、デジタルカメラ100は、不一致を検出した場合、ストリーム中のチャプタ情報等からチャプタ参照情報を作り直してもよい。 The chapter reference information described here needs to be maintained in order to maintain consistency with the moving picture stream every time the editing such as partial deletion of the moving picture is performed, and the digital camera 100 updates the information 631 to 638 according to the editing content. Perform proper maintenance. On the other hand, when an editing device that cannot interpret this chapter reference information edits this moving image, the matching between the chapter gathering information and the moving image stream is broken, and an ineligible frame is indicated. Therefore, when using the chapter reference information, the digital camera 100 determines whether the file size (831) described at the same time matches the file size described in the file entry. If a mismatch occurs, the digital camera 100 determines that the chapter reference information cannot be matched, and does not use the chapter reference information. Further, as another example, when the digital camera 100 detects a mismatch, the digital camera 100 may recreate the chapter reference information from the chapter information or the like in the stream.

図9は、デジタルカメラ100による、インカメラ画像同時記録モードにおける処理を示すフローチャートである。インカメラ画像同時記録モードは、デジタルカメラ100の操作部62に含まれるモード切り替えスイッチで選択することが可能な、メイン静止画及びメイン動画の撮影を行うとサブ画像も同時に記録し撮影したメイン画像にサブ画像を合成するモードである。ここでは例としてメイン静止画の撮影を行うとサブ静止画も同時に記録し、メイン静止画にサブ静止画を合成する処理について説明する。 FIG. 9 is a flowchart showing a process in the in-camera image simultaneous recording mode by the digital camera 100. The in-camera image simultaneous recording mode can be selected by a mode switch included in the operation unit 62 of the digital camera 100. When a main still image and a main moving image are captured, a sub image is also recorded and the main image captured at the same time. In this mode, sub-images are combined. As an example, a process of recording a main still image, recording a sub still image at the same time, and combining the main still image with the sub still image will be described.

デジタルカメラ100において、インカメラ画像同時記録モードが選択されると、ステップS900において、制御部50は、検出情報を取得する。ステップS900の処理は、図3を参照しつつ説明したステップS300の処理と同様である。なお、検出情報は、後述のステップS901における画質調整のためのパラメータに使用されるほか、図10を参照しつつ後述するチャプタ状態情報として画像ファイルに記録され再生処理において利用される。次に、ステップS901において、制御部50は、露出制御部40によって制御された適正露出の撮像素子13の出力を基に、表示用メイン画像を生成する。 When the in-camera image simultaneous recording mode is selected in the digital camera 100, the control unit 50 acquires the detection information in step S900. The process of step S900 is the same as the process of step S300 described with reference to FIG. The detection information is used as a parameter for image quality adjustment in step S901 described later, and is also recorded in an image file as chapter state information described later with reference to FIG. 10 and used in a reproduction process. Next, in step S901, the control unit 50 generates a display main image based on the output of the image sensor 13 with the proper exposure controlled by the exposure control unit 40.

次に、ステップS902において、制御部50は、インカメラ120により撮影された画像をアウトカメラ110により撮影された画像上に重畳する際のインカメラ120により撮影された画像の合成位置及び合成サイズを確認する。なお、インカメラ120により撮影された画像の合成位置及び合成サイズは予め定められており例えばデジタルカメラ100の不揮発性メモリ51等に記録されている。本実施形態においては、インカメラ画像同時記録モードに対して設定されている合成位置及び合成サイズを第2の合成位置及び第2の合成サイズと称することとする。合成位置及び合成サイズについては、図10を参照しつつ、後に詳述する。 Next, in step S902, the control unit 50 determines the composite position and composite size of the image captured by the in-camera 120 when the image captured by the in-camera 120 is superimposed on the image captured by the out-camera 110. Check. It should be noted that the composition position and composition size of the image captured by the in-camera 120 are predetermined and are recorded in, for example, the non-volatile memory 51 of the digital camera 100. In the present embodiment, the combination position and the combination size set for the in-camera image simultaneous recording mode will be referred to as the second combination position and the second combination size. The combination position and combination size will be described later in detail with reference to FIG.

次に、ステップS903において、制御部50は、露出制御部40によって制御された適正露出の撮像素子103の出力を基に、表示用サブ画像を生成する。ここで、制御部50は、第2の合成サイズの表示用サブ画像を生成する。次に、ステップS904において、制御部50は、ステップS901で作成した表示用メイン画像と、ステップS903で生成した表示用サブ画像と、を合成して、表示用合成画像を生成する。具体的には、制御部50は、表示用サブ画像を表示用メイン画像の第2の合成位置に重畳することにより、表示用合成画像を生成する。 Next, in step S903, the control unit 50 generates a display sub-image based on the output of the image sensor 103 with the proper exposure controlled by the exposure control unit 40. Here, the control unit 50 generates a display sub-image of the second composite size. Next, in step S904, the control unit 50 combines the display main image created in step S901 and the display sub-image created in step S903 to create a display combined image. Specifically, the control unit 50 generates the display combined image by superimposing the display sub image on the second combination position of the display main image.

次に、ステップ905において、制御部50は、表示用合成画像を表示部23に表示する。このとき表示される画像は、例えば、図6(a)に示すように、サブ画像がメイン画像に重畳されたものとなる。次に、ステップS906において、制御部50は、インカメラ画像同時記録モードからのモード変更が行われたか否かを確認する。本処理は、図3を参照しつつ説明したステップS312の処理と同様である。制御部50は、モード変更が行われた場合は(ステップS906でYes)、インカメラ画像同時記録モードを終了する。制御部50は、モード変更が行われなかった場合には(ステップS906でNo)、処理をステップS907へ進める。 Next, in step 905, the control unit 50 displays the display combined image on the display unit 23. The image displayed at this time is, for example, as shown in FIG. 6A, a sub image superimposed on the main image. Next, in step S906, the control unit 50 confirms whether or not the mode change from the in-camera image simultaneous recording mode has been performed. This process is the same as the process of step S312 described with reference to FIG. When the mode is changed (Yes in step S906), the control unit 50 ends the in-camera image simultaneous recording mode. When the mode has not been changed (No in step S906), the control unit 50 advances the process to step S907.

ステップS907において、制御部50は、メニューボタンによる設定メニュー以外の設定手段で撮影設定の変更が行われたか確認する。本処理は、図4を参照しつつ説明したステップS400の処理と同様である。制御部50は、ユーザにより撮影設定変更が指示された場合には(ステップS907でYes)、処理をステップS908へ進める。制御部50は、ユーザによる撮影設定変更が指示されなかった場合には(ステップS907でNo)、処理をステップS709へ進める。ステップS908において、制御部50は、ユーザによる撮影設定変更の指示に応じて撮影設定を変更する。次にステップS909において、制御部50は、インカメラ表示の設定変更が行われたか否かを確認する。 In step S907, the control unit 50 confirms whether the shooting setting has been changed by a setting means other than the setting menu using the menu button. This process is the same as the process of step S400 described with reference to FIG. When the user instructs to change the shooting setting (Yes in step S907), the control unit 50 advances the process to step S908. When the user has not instructed to change the shooting settings (No in step S907), the control unit 50 advances the process to step S709. In step S908, the control unit 50 changes the shooting setting according to the user's instruction to change the shooting setting. Next, in step S909, the control unit 50 confirms whether or not the setting change of the in-camera display has been performed.

制御部50は、インカメラ表示の設定変更がされた場合には(ステップS909でYes)、処理をステップS910へ進める。制御部50は、インカメラ表示の設定変更がなかった場合には(ステップS909でNo)、処理をステップS911へ進める。ステップ910において、制御部50は、変更内容をそれぞれ変更する。制御部50は、その後、処理をステップS900へ進め、新たに設定された内容に応じて再度、表示部23への表示データの作成を行う。 When the setting of the in-camera display has been changed (Yes in step S909), the control unit 50 advances the process to step S910. When the setting of the in-camera display has not been changed (No in step S909), the control unit 50 advances the process to step S911. In step 910, the control unit 50 changes each change content. After that, the control unit 50 advances the process to step S900, and creates the display data on the display unit 23 again according to the newly set contents.

ステップS911において、制御部50は、シャッタースイッチSW1(60)が押下されたか否かを確認する。制御部50は、シャッタースイッチSW1が押下された場合には(ステップS911でYes)、処理をステップS912へ進める。制御部50は、シャッタースイッチSW1が押下されなかった場合には(ステップS911でNo)、処理をステップS900へ進める。ステップS912において、制御部50は、デジタルカメラ100に設定されているフォーカスモードや露出モードに応じた合焦・露出処理を行う。なお、図示しないがステップS912においても、ステップS300における処理と同様に、検出情報の取得が行われる。 In step S911, the control unit 50 confirms whether or not the shutter switch SW1 (60) has been pressed. When the shutter switch SW1 is pressed (Yes in step S911), the control unit 50 advances the process to step S912. When the shutter switch SW1 has not been pressed (No in step S911), the control unit 50 advances the process to step S900. In step S912, the control unit 50 performs focusing/exposure processing according to the focus mode and exposure mode set in the digital camera 100. Although not shown, in step S912, the detection information is acquired as in the process in step S300.

次に、ステップS913において、制御部50は、シャッタースイッチSW2(61)が押下されたか否かを確認する。制御部50は、シャッタースイッチSW2が押下された場合には(ステップS913でYes)、処理をステップS914へ進める。制御部50は、シャッタースイッチSW2が押下されなかった場合には(ステップS913でNo)、処理をステップS911へ進める。ステップS914において、制御部50は、撮像素子13の出力を基に記録用の静止画データを撮影する。以下、ステップS914において得られた静止画を記録用メイン静止画と称する。次に、ステップS915において、制御部50は、撮像素子103の出力を基に記録用の静止画データを撮影する。以下、ステップS915において得られた静止画を記録用サブ静止画と称する。 Next, in step S913, the control unit 50 confirms whether or not the shutter switch SW2 (61) has been pressed. When the shutter switch SW2 is pressed (Yes in step S913), the control unit 50 advances the process to step S914. When the shutter switch SW2 has not been pressed (No in step S913), the control unit 50 advances the process to step S911. In step S914, the control unit 50 captures still image data for recording based on the output of the image sensor 13. Hereinafter, the still image obtained in step S914 will be referred to as the main recording still image. Next, in step S915, the control unit 50 captures still image data for recording based on the output of the image sensor 103. Hereinafter, the still image obtained in step S915 is referred to as a recording sub still image.

次に、ステップS916において、制御部50は、ステップS914で撮影した記録用メイン静止画と、ステップS915で撮影した記録用サブ静止画と、を合成して、記録用合成静止画を生成する。具体的には、制御部50は、第2の合成サイズの記録用サブ静止画を記録用メイン静止画の第2の合成位置に重畳することにより、記録用合成静止画を生成する。次に、ステップS917において、制御部50は、記録用合成静止画から撮影後の画像確認用のレビュー画像を生成する。次に、ステップS918において、制御部50は、ステップS411において画像処理回路20に含まれる静止画圧縮処理等を用いて記録用のJPEGデータを生成し、メモリ25に格納する。次に、ステップS919において、制御部50は、ステップS918においてメモリ25に格納されたJPEGデータを外部記録媒体91に記録し、処理をステップS900へ進める。 Next, in step S916, the control unit 50 combines the recording main still image captured in step S914 and the recording sub still image captured in step S915 to generate a recording composite still image. Specifically, the control unit 50 creates a recording composite still image by superimposing the recording sub still image of the second composite size on the second combining position of the recording main still image. Next, in step S917, the control unit 50 generates a review image for image confirmation after shooting from the recording combined still image. Next, in step S 918, the control unit 50 generates JPEG data for recording using the still image compression processing included in the image processing circuit 20 in step S 411 and stores the JPEG data in the memory 25. Next, in step S919, the control unit 50 records the JPEG data stored in the memory 25 in step S918 on the external recording medium 91, and advances the processing to step S900.

図10は、静止画・動画同時記録モード及びインカメラ画像同時記録モードそれぞれにおける、ライブビュー表示時のインカメラ画像の表示位置及び表示サイズと、記録時のインカメラ画像の合成位置及び合成サイズを示す図である。さらに、図10には、後述する画像再生処理における画像再生時の画像の表示状態を示している。図10には、サブ画像を右下に配置するように設定されている場合を示している。なお、本実施形態の表示部23は、アスペクト比が4:3の表示領域を有しており、この表示領域に画像が表示される。 FIG. 10 shows the display position and display size of the in-camera image during live view display and the composite position and composite size of the in-camera image during recording in the still image/video simultaneous recording mode and the in-camera image simultaneous recording mode, respectively. FIG. Further, FIG. 10 shows a display state of an image at the time of image reproduction in the image reproduction processing described later. FIG. 10 shows a case where the sub image is set to be arranged at the lower right. The display unit 23 of the present embodiment has a display area with an aspect ratio of 4:3, and an image is displayed in this display area.

(a−1)は、インカメラ画像同時記録モードにおいて、表示部23に表示されるライブビュー表示を示している。表示部23には、アウトカメラ110で撮影されたメインのライブ画像1001の上に、インカメラ120で撮影されたサブのライブ画像が合成されたライブ画像1000が表示される。インカメラ画像同時記録モードにおいては、アスペクト比4:3の静止画が記録されるので、アスペクト比4:3のメインのライブ画像1001が表示部23の表示領域全体に表示される。(a−2)は、インカメラ画像同時記録モードにおいて記録媒体91に記録される画像(静止画)1010を示している。インカメラ画像同時記録モードでは、アスペクト比4:3の静止画が記録されるので、アスペクト比4:3のメイン画像1011上に、サブ画像1012が合成されて記録される。 (A-1) shows live view display displayed on the display unit 23 in the in-camera image simultaneous recording mode. On the display unit 23, a live image 1000 in which a sub live image captured by the in camera 120 is combined with a main live image 1001 captured by the out camera 110 is displayed. In the in-camera image simultaneous recording mode, since a still image with an aspect ratio of 4:3 is recorded, the main live image 1001 with an aspect ratio of 4:3 is displayed in the entire display area of the display unit 23. (A-2) shows an image (still image) 1010 recorded on the recording medium 91 in the in-camera image simultaneous recording mode. In the in-camera image simultaneous recording mode, since a still image with an aspect ratio of 4:3 is recorded, the sub image 1012 is combined and recorded on the main image 1011 with an aspect ratio of 4:3.

(b−1)には、静止画・動画同時記録モードにおいて、表示部23に表示されるライブビュー表示を示している。表示部23には、アウトカメラ110で撮影されたメインのライブ画像1021の上に、インカメラ120で撮影されたサブのライブ画像1022が合成されたライブ画像1020が表示される。 (B-1) shows a live view display displayed on the display unit 23 in the still image/moving image simultaneous recording mode. On the display unit 23, a live image 1020 in which a sub live image 1022 captured by the in camera 120 is combined with a main live image 1021 captured by the out camera 110 is displayed.

(b−21)は、静止画・動画同時記録モードにおいて記録媒体91に記録される動画を示している。(b−22)には、静止画・動画同時記録モードにおいて記録媒体91に記録される静止画を示している。静止画・動画同時記録モードでは、静止画については、インカメラ120で撮影された画像を合成せずに、アウトカメラ110で撮影された画像のみが記録される。また、静止画・動画同時記録モードにおいて、画はアスペクト比が16:9となるサイズで記録されるのに対し、静止画はアスペクト比が4:3のサイズで記録される。このため、静止画が記録される撮影領域の上下を切り取った領域が、動画として記録される。そして、インカメラ120で撮影されたライブ画像1032は、ライブ画像1031のうち、領域1023a,1023bと重ならない領域に合成されて記録される。これに対応し、(b−1)に示すライブ画像1020においても、サブのライブ画像1022の表示位置及び表示サイズは、領域1023a,1023bと重ならない位置及びサイズとなっている。なお、図8(b−1)の点線は説明のために記したものであって、ライブビュー表示には表示されない。なお、図10の右側に示す画像選抜再生については、画像選抜再生処理の説明後に説明することとする。 (B-21) shows a moving image recorded on the recording medium 91 in the still image/moving image simultaneous recording mode. (B-22) shows a still image recorded on the recording medium 91 in the still image/moving image simultaneous recording mode. In the still image/moving image simultaneous recording mode, as for a still image, only the image captured by the out camera 110 is recorded without combining the images captured by the in camera 120. Further, in the still image and video simultaneous recording mode, moving image has an aspect ratio of 16: 9 and while being recorded in a size comprising, still image aspect ratio of 4: recorded by 3 sizes. Therefore, an area obtained by cutting the top and bottom of the shooting area where a still image is recorded is recorded as a moving image. Then, the live image 1032 captured by the in-camera 120 is combined and recorded in a region of the live image 1031 that does not overlap the regions 1023a and 1023b. Corresponding to this, also in the live image 1020 shown in (b-1), the display position and display size of the sub live image 1022 are positions and sizes that do not overlap the regions 1023a and 1023b. It should be noted that the dotted line in FIG. 8B-1 is shown for the sake of explanation, and is not displayed in the live view display. The image selection reproduction shown on the right side of FIG. 10 will be described after the description of the image selection reproduction processing.

操作部62からの指示信号により再生モードが確定すると、制御部50は、再生処理を開始する。図11は、再生処理を示すフローチャートである。再生モードに移行すると、ステップS1101において、制御部50は、初期画像を設定する。これは、例えば、DCF規格のDCFディレクトリ番号が最大のディレクトリ内のDCFファイル番号が最大の画像である。すなわち、撮影毎にDCFファイル番号をインクリメントしファイル名を決定し、新規ディレクトリに撮影する際はDCFディレクトリ番号をインクリメントしディレクトリ名を決定するような場合、最後に撮影した画像となる。 When the reproduction mode is determined by the instruction signal from the operation unit 62, the control unit 50 starts the reproduction process. FIG. 11 is a flowchart showing the reproduction process. When shifting to the reproduction mode, the control unit 50 sets an initial image in step S1101. This is, for example, an image with the largest DCF file number in the directory with the largest DCF directory number in the DCF standard. That is, when the DCF file number is incremented and the file name is determined for each shooting, and when the DCF directory number is incremented and the directory name is determined when shooting a new directory, the last shot image is obtained.

次に、ステップS1102において、制御部50は、画像再生処理を行い表示部23に画像を表示するよう制御する。次に、ステップS1103、S1104、S1109、S1111、S1113にてユーザの操作部62を介した指示要求を処理する。ステップS1103において、制御部50は、再生モード終了の指示と判断した場合には(ステップS1103でYes)、再生処理を終了する。ステップS1104において、制御部50は、次又は前の画像再生指示があると判断した場合には(ステップS1104でYes)、処理をステップS1105へ進める。制御部50は、次又は前の画像再生指示がないと判断した場合には(ステップS1104でNo)、処理をステップS1106へ進める。ステップS1105において、制御部50は、DCF番号順で次又は前の画像を再生画像として決定し、その後処理をステップS1102へ進める。 Next, in step S1102, the control unit 50 controls to display an image on the display unit 23 by performing image reproduction processing. Next, in steps S1103, S1104, S1109, S1111, and S1113, the instruction request via the operation unit 62 of the user is processed. In step S1103, when the control unit 50 determines that the instruction to end the reproduction mode has been made (Yes in step S1103), the reproduction processing ends. If the control unit 50 determines in step S1104 that there is a next or previous image reproduction instruction (Yes in step S1104), the process proceeds to step S1105. When the control unit 50 determines that there is no next or previous image reproduction instruction (No in step S1104), the process proceeds to step S1106. In step S1105, the control unit 50 determines the next or previous image in the order of DCF numbers as the reproduced image, and then advances the process to step S1102.

ステップS1106において、制御部50は、チャプタ検索処理を行う。ここでチャプタ検索とは現在再生されている静止画撮影時に撮影された動画追記単位(チャプタ)を特定する処理である。チャプタ検索処理(ステップS1106)については、図12を参照しつつ後に詳述する。次に、ステップS1107において、制御部50は、ステップS1106の結果、対応チャプタがあると判断した場合には(ステップS1107でYes)、処理をステップS1108へ進める。制御部50は、ステップS1106の結果対応チャプタがないと判断した場合には(ステップS1107でNo)、処理をステップS1111へ進める。 In step S1106, the control unit 50 performs chapter search processing. Here, the chapter search is a process of specifying a moving image additional recording unit (chapter) captured at the time of capturing a still image that is currently being reproduced. The chapter search process (step S1106) will be described later in detail with reference to FIG. Next, in step S1107, when the control unit 50 determines that there is a corresponding chapter as a result of step S1106 (Yes in step S1107), the process proceeds to step S1108. When the control unit 50 determines that there is no corresponding chapter as a result of step S1106 (No in step S1107), the process proceeds to step S1111.

ステップS1108において、制御部50は、対応チャプタ有り表示を行う。次に、ステップS1109において、制御部50は、チャプタ再生の指示がなされたと判断した場合には(ステップS1109でYes)、処理をステップS1110へ進める。制御部50は、チャプタ再生の指示がなされていないと判断した場合には(ステップS1109でNo)、処理をステップS1111へ進める。ステップS1110において、制御部50は、チャプタ再生を行う。これは現在再生中の静止画に対応するステップS1106のチャプタ検索処理にて特定された対応動画ファイル内の対応開始フレームから対応フレーム数の再生である。制御部50は、ステップS1110にて対応チャプタの再生を行うと、その後処理をステップS1102へ進め、処理時点における静止画再生を行う。 In step S1108, the control unit 50 displays that there is a corresponding chapter. Next, in step S1109, when the control unit 50 determines that the chapter reproduction instruction has been issued (Yes in step S1109), the process proceeds to step S1110. When the control unit 50 determines that the chapter reproduction instruction has not been given (No in step S1109), the process proceeds to step S1111. In step S1110, the control unit 50 performs chapter reproduction. This is the reproduction of the number of corresponding frames from the corresponding start frame in the corresponding moving image file specified in the chapter search process of step S1106 corresponding to the still image currently being reproduced. After reproducing the corresponding chapter in step S1110, the control unit 50 advances the process to step S1102 and reproduces a still image at the time of processing.

ステップS1111において、制御部50は、画像選抜再生の指示があったと判断した場合には(ステップS1111でYes)、処理をステップS1112へ進める。制御部50は、画像選抜再生の指示がなかったと判断した場合には(ステップS1111でNo)、処理をステップS1113へ進める。ステップS1112において、制御部50は、画像選抜再生処理を行う。画像選抜再生処理とは、選抜された画像(静止画及び動画の少なくとも一方を含む)を連続的に再生表示する処理である。画像選抜再生処理(ステップS1112)については、図14を参照しつつ後に詳述する。 In step S1111, when the control unit 50 determines that the image selective reproduction instruction has been given (Yes in step S1111), the process proceeds to step S1112. When the control unit 50 determines that there is no instruction for image selective reproduction (No in step S1111), the process proceeds to step S1113. In step S1112, the control unit 50 performs an image selection reproduction process. The image selection reproduction process is a process of continuously reproducing and displaying the selected images (including at least one of a still image and a moving image). The image selection reproduction process (step S1112) will be described later in detail with reference to FIG.

ステップS1113において、制御部50は、その他の処理指示がないか判定する。その他の処理とは例えば画像消去、画像編集、画像送信等である。制御部50は、その他の処理指示を検出した場合には(ステップS1113でYes)、処理をステップS1114へ進める。制御部50は、その他の処理指示を検出しなかった場合には(ステップS1113でNo)、処理をステップS1103へ進める。ステップS1114においては、制御部50は、指示に応じた処理を行い、その後処理をステップS1113へ進める。 In step S1113, the control unit 50 determines whether or not there is another processing instruction. The other processing is, for example, image deletion, image editing, image transmission, or the like. When detecting another processing instruction (Yes in step S1113), the control unit 50 advances the processing to step S1114. When no other processing instruction is detected (No in step S1113), the control unit 50 advances the processing to step S1103. In step S1114, control unit 50 performs a process according to the instruction, and then advances the process to step S1113.

図12は、チャプタ検索処理(ステップS1106)における詳細な処理を示すフローチャートである。ステップS1201において、制御部50は、起点静止画を特定する。これは前段の処理にて指定されている静止画であり、図11の再生処理においては、処理時点において再生表示されている静止画の存在するDCFディレクトリ名及びDCFファイル名の決定になる。次に、ステップS1202において、制御部50は、ステップS1201で特定された静止画に対応する動画ファイルを特定する。本実施形態においては、図8で示したように静止画に関連する動画はDCF番号順において静止画より小さい番号に決定される事としている。したがって、制御部50は、DCF順に起点静止画より番号が小さい番号順で近い動画ファイルを特定すればよい。 FIG. 12 is a flowchart showing detailed processing in the chapter search processing (step S1106). In step S1201, the control unit 50 identifies the starting still image. This is the still image specified in the preceding process, and in the reproduction process of FIG. 11, the DCF directory name and the DCF file name in which the still image reproduced and displayed at the time of processing is determined. Next, in step S1202, the control unit 50 identifies the moving image file corresponding to the still image identified in step S1201. In the present embodiment, as shown in FIG. 8, the moving image related to the still image is determined to have a smaller number than the still image in the DCF number order. Therefore, the control unit 50 may specify the moving image files that are closer in the order of the numbers smaller than the starting still image in the order of DCF.

次に、ステップS1203において、制御部50は、起点静止画像検索キー取得を行う。本実施形態では、静止画と対応チャプタを関連付ける情報を撮影日時とする。ここでは、制御部50は、図7の704に示したように、静止画ファイルに属性情報として記録されている撮影日時情報を取得するものとする。次に、ステップS1204において、制御部50は、対応チャプタを特定する。これは図8(c)のチャプタ参照情報テーブルに置いて同一の撮影日時(834)を持つチャプタを検索することである。チャプタ情報は一般的に動画ファイルのストリーム中に存在するためステップS1204のように対応する情報を検索する場合は動画ファイルのストリームを読み出す必要があり処理に時間がかかる。しかし、本実施形態においては、図8に示すようにチャプタ情報をテーブル化し動画のヘッダ部に記録するようにしているので少ないファイル読み込み量により高速に検索が可能となっている。 Next, in step S1203, the control unit 50 acquires a starting still image search key. In the present embodiment, the information that associates a still image with the corresponding chapter is the shooting date and time. Here, it is assumed that the control unit 50 acquires the shooting date/time information recorded as attribute information in the still image file, as indicated by 704 in FIG. 7. Next, in step S1204, the control unit 50 identifies the corresponding chapter. This is to search for a chapter having the same shooting date and time (834) in the chapter reference information table of FIG. 8C. Since the chapter information is generally present in the stream of the moving image file, it is necessary to read the stream of the moving image file when searching for the corresponding information as in step S1204, which takes time to process. However, in the present embodiment, as shown in FIG. 8, the chapter information is made into a table and recorded in the header part of the moving image, so that the search can be performed at high speed with a small file reading amount.

ステップS1204により同一の撮影日時をもつチャプタが特定されると、次に、ステップS1205において、制御部50は、チャプタに該当するフレームを確定する。これは図8(c)において、特定されたチャプタに対応する開始フレーム(835)とフレーム数(836)を特定することである。 When the chapters having the same shooting date and time are specified in step S1204, next, in step S1205, the control unit 50 determines the frame corresponding to the chapter. This is to specify the start frame (835) and the number of frames (836) corresponding to the specified chapter in FIG. 8C.

図13は、チャプタ状態を表すデータ構造の概念図である。撮影処理における検出情報取得によって取得された情報は例えば図13(a)のような形式で記録される。検出情報取得は動画撮影中に定期的に実行されているため、時系列の遷移データとして表せる。ここでは静止画撮影時点を0とし、−3秒、−2秒、−1秒時点での各検出情報としてオートフォーカス(AF)動作、ズーム制御状態、回転姿勢を表している。ここでは、静止画撮影前の状態を表しているが、静止画撮影後のストップモーション時の状態も加えて記録してもよい。 FIG. 13 is a conceptual diagram of a data structure representing a chapter state. The information acquired by the detection information acquisition in the imaging process is recorded in the format as shown in FIG. Since the detection information acquisition is regularly executed during the moving image shooting, it can be represented as time-series transition data. Here, the still image capturing time is set to 0, and the autofocus (AF) operation, the zoom control state, and the rotation posture are represented as the respective detection information at the time of -3 seconds, -2 seconds, and -1 second. Although the state before the still image shooting is shown here, the state at the time of stop motion after the still image shooting may be additionally recorded.

図14は、図11において説明した画像選抜再生処理(ステップS1112)における詳細な処理を示すフローチャートである。ステップS1401において、制御部50は、操作部62から起点画像日の選抜再生が指示されたと判断した場合に(ステップS1401でYes)、処理をステップS1402へ進める。制御部50は、操作部62から起点画像日の選抜再生が指示されていないと判断した場合に(ステップS1401でNo)、処理をステップS1403へ進める。ステップS1402において、制御部50は、検索条件を起点画像の撮影日時を持つ記録媒体91内の静止画及び動画チャプタとし、その後処理をステップS1404へ進める。 FIG. 14 is a flowchart showing detailed processing in the image selection reproduction processing (step S1112) described in FIG. In step S1401, when the control unit 50 determines that the selection reproduction of the starting image date is instructed from the operation unit 62 (Yes in step S1401), the process proceeds to step S1402. When the control unit 50 determines that the selective reproduction of the starting image date is not instructed from the operation unit 62 (No in step S1401), the process proceeds to step S1403. In step S1402, the control unit 50 sets the search condition to the still image and the moving image chapter in the recording medium 91 having the shooting date and time of the starting image, and then advances the process to step S1404.

ステップS1403において、制御部50は、その他の検索条件を設定し、その後処理をステップS1404へ進める。これは例えば指定撮影日、指定撮影日期間、指定人物等である。ステップS1404において、制御部50は、検索条件に合致する静止画及び動画チャプタ情報をメモリ25にリストとして列挙する。この列挙動作は、検索条件に合致する静止画のヘッダ情報(図7の704〜707等)、検索条件に合致するチャプタの状態情報(図13(a)等)及びチャプタ参照情報(図8(c)等)の列挙である。 In step S1403, the control unit 50 sets other search conditions and then advances the process to step S1404. This is, for example, a designated shooting date, a designated shooting date period, a designated person, or the like. In step S1404, the control unit 50 lists still image and moving image chapter information that matches the search condition in the memory 25 as a list. This enumeration operation is performed by the still image header information (704 to 707 and the like in FIG. 7) that matches the search condition, the chapter status information (FIG. 13A and the like) that matches the search condition, and the chapter reference information (FIG. 8 ( c) and the like).

次に、ステップS1405において、制御部50は、失敗画像を除外する。これは静止画においてはステップS1404で列挙した静止画のヘッダ情報のうち、被写体輝度(705)が極端に高いか低い画像、合焦度(706)の低い画像、お気に入り度(707)が−1の画像等をリストから削除することである。また、動画チャプタにおいては、図13(b)に示すように撮影期間中にオートフォーカスが動き続けて焦点が定まっていないチャプタをリストから除外することである。除外対象は、これ以外に、図13(c)に示すように撮影期間中にズーム動作を行い続け画角が安定しないチャプタが挙げられる。また、図13(d)に示すように撮影期間中にカメラの姿勢が変化し、再生時において被写体の角度が安定しないであろうチャプタ等が挙げられる。 Next, in step S1405, the control unit 50 excludes the failure image. In the still image, among the header information of the still images listed in step S1404, the image with extremely high or low subject brightness (705), the image with low focus degree (706), and the favorite degree (707) are -1. Is to delete the image, etc. from the list. Further, in the moving image chapter, as shown in FIG. 13B, the automatic focus continues to move during the shooting period, and the chapter whose focus is not fixed is excluded from the list. In addition to this, as the exclusion target, there is a chapter in which the zoom operation is continued during the shooting period and the angle of view is not stable as shown in FIG. 13C. Further, as shown in FIG. 13D, there is a chapter or the like in which the posture of the camera changes during the shooting period and the angle of the subject may not be stable during reproduction.

次に、ステップS1406において、制御部50は、優良画像を選抜再生対象として仮決定する。これは例えば静止画においてはお気に入り度(707)が1以上の画像を再生対象として仮指定することである。また、動画チャプタにおいては、図13(e)に示すように撮影期間中に被写体の笑顔が検出されたチャプタを再生対象として仮指定することである。次に、ステップS1407において、制御部50は、重複除外を行う。先述したように、デジタルカメラ100の静止画・動画撮影同時記録モードにおいては、動画にストップモーションが挿入されることがある。このためS1404〜S1406において静止画と対応するチャプタがともにリストに残った場合、両者を再生するとシーンの重複する冗長な再生となってしまう。そこで、図8(c)の838に示すストップモーション情報を用いて重複シーンの検出及び除外を行う。 Next, in step S1406, the control unit 50 provisionally determines an excellent image as a selection reproduction target. This means that, for example, in a still image, an image having a favorite degree (707) of 1 or more is temporarily designated as a reproduction target. Further, in the moving image chapter, as shown in FIG. 13E, the chapter in which the smiling face of the subject is detected during the shooting period is temporarily designated as a reproduction target. Next, in step S1407, the control unit 50 performs deduplication. As described above, in the still image/moving image capturing simultaneous recording mode of the digital camera 100, a stop motion may be inserted in the moving image. For this reason, when the chapters corresponding to the still image are both left in the list in S1404 to S1406, if both are reproduced, the scenes are redundantly reproduced. Therefore, the overlapping scenes are detected and excluded using the stop motion information indicated by 838 in FIG.

具体的には、例えば図8(b)の828に示す「IMG_0003.JPG」と対応する図8(b)の825に示すチャプタ2が選抜された場合、図8(c)から重複フレームが90−179であることが判る。したがって、チャプタ2の再生範囲としてフレーム90−179を除く、または、「IMG_0003.JPG」を再生しない等の除外制御となる。もう一例としては、例えば図8(b)829に示す「IMG_0004.JPG」と対応する図8(b)826に示すチャプタ3が選抜された場合、図8(c)から重複フレームが0−179であることが判る。したがって、チャプタ3、又は「IMG_0004.JPG」のいずれかを再生しない等の除外制御となる。 Specifically, for example, when the chapter 2 shown in 825 of FIG. 8B corresponding to “IMG — 0003.JPG” shown in 828 of FIG. 8B is selected, 90 overlapping frames are obtained from FIG. 8C. It turns out to be -179. Therefore, exclusion control is performed such that frames 90-179 are excluded from the reproduction range of chapter 2 or "IMG_0003.JPG" is not reproduced. As another example, for example, when the chapter 3 shown in FIG. 8(b) 826 corresponding to “IMG — 0004.JPG” shown in FIG. 8(b) 829 is selected, the overlapping frames 0 to 179 from FIG. 8C are selected. It turns out that Therefore, the exclusion control is performed such that either the chapter 3 or "IMG_0004.JPG" is not reproduced.

また、例えば図8(b)の827に示す「IMG_0002.JPG」と対応する図8(b)の824に示すチャプタ1が選抜された場合、図8(c)から重複フレームがないことが判る。したがって、チャプタ1及び「IMG_0002.JPG」はいずれも再生対象となる。制御部50は、以上の処理にて選抜された静止画及び動画チャプタのアスペクトをステップS1408にて判定し、アスペクトが4:3の場合は(ステップS1408でYes)、処理をステップS1409へ進める。アスペクト比が4:3でない場合、すなわちアスペクト比が16:9の場合は(ステップS1408でNo)、処理をステップS1411へ進める。 Further, for example, when the chapter 1 shown in 824 of FIG. 8B corresponding to “IMG — 0002.JPG” shown in 827 of FIG. 8B is selected, it can be seen from FIG. 8C that there is no overlapping frame. .. Therefore, both chapter 1 and “IMG — 0002.JPG” are reproduction targets. The control unit 50 determines the aspect of the still image and the moving image chapter selected in the above process in step S1408. If the aspect is 4:3 (Yes in step S1408), the process proceeds to step S1409. If the aspect ratio is not 4:3, that is, if the aspect ratio is 16:9 (No in step S1408), the process proceeds to step S1411.

ステップS1409において、制御部50は、リサイズ処理を行う。本実施形態においては、画像選抜再生時にアスペクト比を16:9に統一して表示するため、アスペクト比が4:3の画像がアスペクト比16:9の領域にすべて表示されるようにリサイズ処理を行う。次に、ステップS1410において、制御部50は、リサイズ処理後のアスペクト比4:3の画像の左右の領域を黒塗りして、全体としてアスペクト比16:9の画像にする。次に、ステップS1411において、制御部50は、連続再生表示を行うよう制御する。このように、失敗画像の除外、優良画像の選抜、重複シーンの除外を行い最適な選抜再生を行うことができる。 In step S1409, the control unit 50 performs resizing processing. In the present embodiment, since the aspect ratio is unified and displayed at 16:9 during the image selective reproduction, the resizing process is performed so that all the images having the aspect ratio of 4:3 are displayed in the area having the aspect ratio of 16:9. To do. Next, in step S1410, the control unit 50 black-paints the left and right regions of the image having the aspect ratio of 4:3 after the resizing processing so that the entire image has the aspect ratio of 16:9. Next, in step S1411, the control unit 50 controls to perform continuous reproduction display. In this way, it is possible to exclude the failed images, select the excellent images, and exclude the overlapping scenes to perform the optimum selection reproduction.

さらに、連続再生の後、ステップS1412おいて、制御部50は、ユーザから、連続再生した画像の記録指示があった場合は(ステップS1412でYes)、処理をステップS1413へ進める。制御部50は、記録指示がなかった場合は(ステップS1412でNo)、画像選抜再生処理を終了する。ステップS1413において、制御部50は、連続再生した複数の画像をつなげた動画を生成して記録媒体91に記録する。制御部50は、再生対象の画像が静止画の場合は、静止画から所定時間の動画を生成して記録するようにする。以上で、画像選抜再生処理が終了する。 Further, after the continuous reproduction, in step S1412, the control unit 50 advances the process to step S1413 when the user gives an instruction to record the continuously reproduced image (Yes in step S1412). When there is no recording instruction (No in step S1412), the control unit 50 ends the image selection reproduction process. In step S1413, the control unit 50 generates a moving image in which a plurality of continuously reproduced images are connected and records the moving image in the recording medium 91. When the image to be reproduced is a still image, the control unit 50 generates and records a moving image of a predetermined time from the still image. This is the end of the image selection reproduction process.

次に、図10を参照しつつ、画像選抜再生処理について具体的に説明する。図10の(a−3)は、インカメラ画像同時記録モードにおいて記録された画像が選抜画像再生処理において再生される際の状態を示している。(b−31)は、静止画・動画同時記録モードにおいて記録された動画が選抜画像再生処理において再生される際の状態を示している。(b−32)は、静止画・動画同時記録モードにおいて記録された静止画が選抜画像再生処理において再生される際の状態を示している。 Next, the image selection reproduction processing will be specifically described with reference to FIG. Part (a-3) of FIG. 10 illustrates a state in which an image recorded in the in-camera image simultaneous recording mode is reproduced in the selected image reproducing process. (B-31) shows a state in which a moving image recorded in the still image/moving image simultaneous recording mode is reproduced in the selected image reproducing process. (B-32) shows a state when a still image recorded in the still image/moving image simultaneous recording mode is reproduced in the selected image reproducing process.

画像選抜再生においては、アスペクト比が16:9となるように、複数の画像(動画、静止画を含む)を連続再生して表示する。画像選抜再生においては、同じ画像の再生を、後で又は他の装置で可能とするために、連続再生した画像から動画を作成して記録する。このとき作成して記録する動画がアスペクト比16:9のサイズであるため、表示する際にも画像は、16:9の領域内に収まるように表示する。すなわち、制御部50は、(a−3)、(b−31)、(b−32)に示すように、表示部23のうちアスペクト比16:9の表示領域に内接するように画像を再生表示するよう制御する。すなわち、制御部50は、の表示部23の上下の領域1051a,1051b,1061a,1061b,1071a,1071bには、画像を表示しないこととする。 In the image selective reproduction, a plurality of images (including moving images and still images) are continuously reproduced and displayed so that the aspect ratio becomes 16:9. In the image selective reproduction, a moving image is created and recorded from the continuously reproduced images so that the same image can be reproduced later or by another device. Since the moving image created and recorded at this time has a size of the aspect ratio of 16:9, the image is displayed so as to fit within the area of 16:9 when displayed. That is, the control unit 50 reproduces the image so as to be inscribed in the display area of the display unit 23 having the aspect ratio of 16:9, as shown in (a-3), (b-31), and (b-32). Control to display. That is, the control unit 50 does not display an image in the upper and lower regions 1051a, 1051b, 1061a, 1061b, 1071a, 1071b of the display unit 23.

静止画・動画同時記録モードで撮影された動画は、アスペクト比が16:9であるため、ライブビュー表示の時と同じサイズで、アスペクト比16:9の表示領域内に表示する。なお、この場合も、制御部50は、記録画像からのリサイズ処理は行う。インカメラ画像同時記録モードで記録した静止画及び静止画・動画同時記録モードで記録した静止画は、アスペクト比4:3で記録されている。このため、制御部50は、ライブビュー表示で表示されていた時のサイズよりも縮小して表示するよう制御する。つまり、制御部50は、(a−3)、(b−32)に示すように、アスペクト比16:9の表示領域に画像が収まるようにリサイズし、かつ、左右の領域1052a,1052b,1072a,1072bに黒画像を付加して表示するよう制御する。制御部50は、リサイズする際には、画像がアスペクト比16:9の表示領域に内接するように表示するよう制御する。 Since the aspect ratio of a moving image shot in the still image/moving image simultaneous recording mode is 16:9, the moving image is displayed in the display area having the same aspect ratio of 16:9 as in live view display. In this case as well, the control unit 50 performs the resizing process from the recorded image. A still image recorded in the in-camera image simultaneous recording mode and a still image recorded in the still image/moving image simultaneous recording mode are recorded with an aspect ratio of 4:3. For this reason, the control unit 50 controls to display the image in a size smaller than the size when the live view display is performed. That is, as shown in (a-3) and (b-32), the control unit 50 resizes the image so that the image fits in the display area having the aspect ratio of 16:9, and the left and right areas 1052a, 1052b, and 1072a. , 1072b are controlled so that a black image is added and displayed. When performing resizing, the control unit 50 performs control so that the image is displayed so as to be inscribed in the display area having the aspect ratio of 16:9.

インカメラ画像同時記録モードで記録した静止画及び静止画・動画同時記録モードで記録した静止画を画像選抜再生で表示部23に表示する際には、表示対象の画像と表示部23のアスペクト比は同じである。しかしながら、上述の処理の結果、図10に示すように、画像の周囲全体に、黒画像領域(画像を表示しない領域)が形成されることになる。ここで、上下の領域及び左右の領域は、所定の領域の一例である。 When the still image recorded in the in-camera image simultaneous recording mode and the still image recorded in the still image/moving image simultaneous recording mode are displayed on the display unit 23 in the image selective reproduction, the image to be displayed and the aspect ratio of the display unit 23 are displayed. Are the same. However, as a result of the above-described processing, as shown in FIG. 10, a black image area (area where no image is displayed) is formed around the entire image. Here, the upper and lower areas and the left and right areas are examples of predetermined areas.

このように、画像選抜再生時に、静止画・動画同時記録モードで撮影された静止画は、ライブビュービュー表示の時よりも縮小されて表示される。そのため、インカメラ画像同時記録モードと静止画・動画同時記録モードとで、サブ画像を同じサイズでライブビュー表示し、同サイズで記録した場合に、画像選抜再生時に、撮影モードによりサブ画像のサイズが異なってしまう。 As described above, during the image selective reproduction, the still image captured in the still image/moving image simultaneous recording mode is displayed in a smaller size than that in the live view view display. Therefore, in the in-camera image simultaneous recording mode and the still image/moving image simultaneous recording mode, if the sub-images are displayed in live view at the same size and recorded at the same size, the size of the sub-image depending on the shooting mode will be used during image selective playback. Will be different.

そこで、画像選抜再生時に、インカメラ画像同時記録モードで記録した静止画と、静止画・動画同時記録モードで記録した動画とでサブ画像の表示サイズが同じとなるように、画像を記録する際のサブ画像の合成サイズを決定している。また、ライブビュー表示時のサブ画像の表示サイズは、画像を記録する際のサブ画像の合成サイズと同じものとしている。また、画像選抜再生時に、インカメラ画像同時記録モードで記録した静止画と、静止画・動画同時記録モードで記録した動画とでサブ画像の表示位置が同じとなるように、画像を記録する際のサブ画像の合成位置を決定している。また、ライブビュー表示時のサブ画像の表示位置は、画像を記録する際のサブ画像の合成位置と同じものとしている。すなわち、ライブビュー表示時の合成画像(ライブ画像)中のサブ画像(ライブ画像)の表示位置及び表示サイズは、撮影モード毎に異なるものとなる。 Therefore, during image selective playback, when recording images so that the sub-image display size is the same for a still image recorded in the in-camera image simultaneous recording mode and a moving image recorded in the still image/moving image simultaneous recording mode. Determines the composite size of the sub-image. Also, the display size of the sub-images during live view display is the same as the combined size of the sub-images when recording the image. Also, during image selective playback, when recording images so that the still image recorded in the in-camera image simultaneous recording mode and the moving image recorded in the still image/moving image simultaneous recording mode have the same sub-image display position. The composite position of the sub image of is determined. In addition, the display position of the sub-image during live view display is the same as the sub-image combining position when recording the image. That is, the display position and the display size of the sub image (live image) in the combined image (live image) during live view display differ depending on the shooting mode.

以上のように、本実施形態のデジタルカメラ100は、複数の重畳画像を連続して表示する場合に、ユーザにとって見易く、また見栄えがよくなるような重畳画像を生成することができる。 As described above, the digital camera 100 according to the present embodiment can generate a superimposed image that is easy for a user to see and looks good when a plurality of superimposed images are continuously displayed.

<その他の実施形態>
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行する処理である。
<Other embodiments>
The present invention is also realized by executing the following processing. That is, the software (program) that implements the functions of the above-described embodiments is supplied to the system or device via the network or various storage media. Then, the computer (or CPU, MPU, etc.) of the system or apparatus reads and executes the program.

以上、本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。 Although the preferred embodiments of the present invention have been described in detail above, the present invention is not limited to the specific embodiments, and various modifications are possible within the scope of the gist of the present invention described in the claims. -Can be changed.

50 制御部
100 デジタルカメラ
110 アウトカメラ
120 インカメラ
50 Control unit 100 Digital camera 110 Out camera 120 In camera

Claims (7)

第1の撮像手段と、第2の撮像手段と、を有する撮像装置であって、
撮影モードを設定する撮影モード設定手段と、
前記撮影モード設定手段により設定された撮影モードに応じて、前記第1の撮像手段により撮影された第1の画像に対する前記第2の撮像手段により撮影された第2の画像の合成位置及び合成サイズを決定する決定手段と、
前記第1の画像に、前記第2の画像を合成する合成手段と、
記録指示に応じて、前記合成手段により合成された画像を記録媒体に記録するように制御する記録制御手段と、
前記記録媒体に記録されている複数の画像を、所定の表示領域において連続的に再生表示するための連続再生手段と、を有し、
前記合成手段は、第1の撮影モードにおいて前記第1の撮像手段により撮影された第1の静止画に、前記第1の撮影モードにおいて前記第2の撮像手段により撮影された第2の静止画を合成して第1の合成静止画を生成し、第2の撮影モードにおいて前記第1の撮像手段により撮影された第1の動画に、前記第2の撮影モードにおいて前記第2の撮像手段により撮影された第2の動画を合成して第2の合成動画を生成し、
前記連続再生手段は、前記第1の撮影モードで記録した前記第1の合成静止画と前記第2の撮影モードで記録した前記第2の合成動画とを異なるサイズで再生表示し、
前記決定手段は、前記第1の合成静止画に合成されている前記第2の静止画と、前記第2の合成動画に合成されている前記第2の動画とが、前記連続再生手段によって複数の画像を再生表示する場合に同じ表示位置及び表示サイズで再生表示されるように、前記合成位置及び前記合成サイズを決定する、
ことを特徴とする撮像装置。
An image pickup apparatus having a first image pickup means and a second image pickup means,
Shooting mode setting means for setting the shooting mode,
The composite position and composite size of the second image captured by the second image capturing unit with respect to the first image captured by the first image capturing unit according to the image capturing mode set by the image capturing mode setting unit. Determining means for determining
Synthesizing means for synthesizing the second image with the first image,
Recording control means for controlling to record the image combined by the combining means on a recording medium in response to a recording instruction;
A plurality of images recorded on the recording medium, continuous reproduction means for continuously reproducing and displaying in a predetermined display area,
The synthesizing unit adds a second still image captured by the second image capturing unit in the first image capturing mode to the first still image captured by the first image capturing unit in the first image capturing mode. To generate a first combined still image, and the first moving image captured by the first image capturing unit in the second image capturing mode is added to the first moving image captured by the second image capturing unit in the second image capturing mode. Generate a second composite video by synthesizing the second video shot
The continuous reproduction means reproduces and displays the first combined still image recorded in the first shooting mode and the second combined moving image recorded in the second shooting mode in different sizes,
The deciding means includes a plurality of the second still images combined with the first combined still image and the second moving image combined with the second combined moving image, by the continuous reproduction means. The composite position and the composite size are determined so that the image is reproduced and displayed at the same display position and display size.
An imaging device characterized by the above.
前記第1の撮像手段により撮影された第1のライブ画像に、前記第2の撮像手段により撮影された第2のライブ画像を重畳して、表示手段に表示するように制御する表示制御手段をさらに有し、
前記表示制御手段は、前記第1のライブ画像を前記第1の撮影モードと前記第2の撮影モードとで同じ表示位置及び表示サイズで表示させ、前記第2のライブ画像を前記第1の撮影モードと前記第2の撮影モードとで異なる表示位置及び表示サイズで表示させることを特徴とする請求項1に記載の撮像装置。
Display control means for controlling to superimpose the second live image captured by the second image capturing means on the first live image captured by the first image capturing means and display it on the display means. Have more,
The display control unit displays the first live image at the same display position and display size in the first shooting mode and the second shooting mode, and the second live image is displayed in the first shooting mode. The image pickup apparatus according to claim 1, wherein the image pickup apparatus is displayed at different display positions and display sizes depending on the mode and the second shooting mode.
前記記録制御手段は、前記第2の撮影モードでは、前記第2の合成動画を、前記第1の合成静止画と異なるアスペクト比で記録することを特徴とする請求項1または2に記載の撮像装置。 3. The imaging according to claim 1, wherein the recording control unit records the second composite moving image in an aspect ratio different from that of the first composite still image in the second shooting mode. apparatus. 前記連続再生手段は、静止画については、前記所定の表示領域内において、画像の周囲に所定の領域が形成されるように静止画を縮小して再生することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。 4. The continuous reproduction means reduces and reproduces a still image so that a predetermined area is formed around the image in the predetermined display area in the predetermined display area. The imaging device according to any one of 1. 前記連続再生手段は、画については、当該動画が、前記所定の表示領域に内接するように再生することを特徴とする請求項4に記載の撮像装置。 The continuous reproduction unit, for moving picture, the moving picture imaging apparatus according to claim 4, characterized in that the play to be inscribed in the predetermined display area. 前記表示制御手段は、前記記録媒体に記録される前記第1の合成静止画又は前記第2の合成動画に対応する合成位置及び合成サイズで、前記第2の撮像手段により撮影された前記第2のライブ画像を合成して表示することを特徴とする請求項2に記載の撮像装置。 The display control means is the second imaged by the second imaging means at a composite position and a composite size corresponding to the first composite still image or the second composite moving image recorded on the recording medium. The image pickup apparatus according to claim 2, wherein the live image of the image is combined and displayed. 第1の撮像手段と、第2の撮像手段と、を有する撮像装置が実行する情報処理方法であって、
撮影モードを設定する撮影モード設定ステップと、
前記撮影モード設定ステップにおいて設定された撮影モードに応じて、前記第1の撮像手段により撮影された第1の画像に対する前記第2の撮像手段により撮影された第2の画像の合成位置及び合成サイズを決定する決定ステップと、
前記第1の画像に、前記第2の画像を合成する合成ステップと、
記録指示に応じて、前記合成ステップにおいて合成された画像を記録媒体に記録するように制御する記録制御ステップと、
前記記録媒体に記録されている複数の画像を、所定の表示領域において連続的に再生表示するための連続再生ステップと、を含み、
前記合成ステップにおいては、第1の撮影モードにおいて前記第1の撮像手段により撮影された第1の静止画に、前記第1の撮影モードにおいて前記第2の撮像手段により撮影された第2の静止画を合成して第1の合成静止画を生成し、第2の撮影モードにおいて前記第1の撮像手段により撮影された第1の動画に、前記第2の撮影モードにおいて前記第2の撮像手段により撮影された第2の動画を合成して第2の合成動画を生成し、前記連続再生ステップにおいては、前記第1の撮影モードで記録した前記第1の合成静止画と前記第2の撮影モードで記録した前記第2の合成動画とを異なるサイズで再生表示し、
前記決定ステップにおいては、前記第1の合成静止画に合成されている前記第2の静止画と、前記第2の合成動画に合成されている前記第2の動画とが、前記連続再生ステップにおいて複数の画像を再生表示する場合に同じ表示位置及び表示サイズで再生表示されるように、前記合成位置及び前記合成サイズを決定する、
ことを特徴とする情報処理方法。
An information processing method executed by an image pickup apparatus having a first image pickup means and a second image pickup means,
A shooting mode setting step to set the shooting mode,
The composite position and composite size of the second image captured by the second image capturing unit with respect to the first image captured by the first image capturing unit according to the image capturing mode set in the image capturing mode setting step. A decision step to determine
A synthesizing step of synthesizing the second image with the first image;
A recording control step of controlling the image combined in the combining step to be recorded on a recording medium in response to a recording instruction;
A plurality of images recorded on the recording medium, a continuous reproduction step for continuously reproducing and displaying in a predetermined display area,
In the synthesizing step, the first still image captured by the first image capturing unit in the first image capturing mode and the second still image captured by the second image capturing unit in the first image capturing mode are used. Images are combined to generate a first combined still image, and the first moving image captured by the first image capturing unit in the second image capturing mode is added to the second image capturing unit in the second image capturing mode. The second composite moving image captured by is combined to generate a second composite moving image, and in the continuous reproduction step, the first combined still image and the second captured image recorded in the first shooting mode are recorded. Playback and display the second composite video recorded in the mode in a different size,
In the determining step, the second still image combined with the first combined still image and the second moving image combined with the second combined moving image are combined in the continuous reproduction step. When reproducing and displaying a plurality of images, the composite position and the composite size are determined so that they are reproduced and displayed at the same display position and display size.
An information processing method characterized by the above.
JP2015230017A 2015-11-25 2015-11-25 Imaging device and information processing method Expired - Fee Related JP6702698B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015230017A JP6702698B2 (en) 2015-11-25 2015-11-25 Imaging device and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015230017A JP6702698B2 (en) 2015-11-25 2015-11-25 Imaging device and information processing method

Publications (3)

Publication Number Publication Date
JP2017098788A JP2017098788A (en) 2017-06-01
JP2017098788A5 JP2017098788A5 (en) 2018-12-20
JP6702698B2 true JP6702698B2 (en) 2020-06-03

Family

ID=58817460

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015230017A Expired - Fee Related JP6702698B2 (en) 2015-11-25 2015-11-25 Imaging device and information processing method

Country Status (1)

Country Link
JP (1) JP6702698B2 (en)

Also Published As

Publication number Publication date
JP2017098788A (en) 2017-06-01

Similar Documents

Publication Publication Date Title
JP6324063B2 (en) Image reproducing apparatus and control method thereof
JP4720785B2 (en) Imaging apparatus, image reproducing apparatus, imaging method, and program
JP5806623B2 (en) Imaging apparatus, imaging method, and program
JP2006345254A (en) Photographing apparatus, its control method, program, and storage medium
JP2007081732A (en) Imaging apparatus
JP4725854B2 (en) Image display device and image display method
JP6460783B2 (en) Image processing apparatus and control method thereof
JP5361780B2 (en) Image processing apparatus and image processing program
JP2012160950A (en) Image processing device, imaging device, and display device
JP6702698B2 (en) Imaging device and information processing method
JP2015126242A (en) Image pickup device, image pickup device control method, program and storage medium
JP2007036587A (en) Imaging apparatus and its control method
JP7337526B2 (en) Image processing device, imaging device, image processing method, and program
JP2011103555A (en) Image sensing device
JP5195317B2 (en) Camera device, photographing method, and photographing control program
JP2006287588A (en) Image processing apparatus and method, data file structure, computer program, and storage medium
JP7213657B2 (en) IMAGING DEVICE, CONTROL METHOD AND PROGRAM THEREOF
JP6351260B2 (en) Imaging apparatus and control method thereof
JP5207930B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM
JP2018152699A (en) Digital camera
JP2016082276A (en) Imaging apparatus
JP6983692B2 (en) Image pickup device, its display control method, and program
JP2023174104A (en) Image processing apparatus, method for controlling image processing apparatus, and program
JP2015171115A (en) Imaging apparatus
JP6238735B2 (en) Imaging apparatus and control method thereof

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181107

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200507

R151 Written notification of patent or utility model registration

Ref document number: 6702698

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees