WO2019130908A1 - 撮像装置及びその制御方法及び記録媒体 - Google Patents

撮像装置及びその制御方法及び記録媒体 Download PDF

Info

Publication number
WO2019130908A1
WO2019130908A1 PCT/JP2018/042695 JP2018042695W WO2019130908A1 WO 2019130908 A1 WO2019130908 A1 WO 2019130908A1 JP 2018042695 W JP2018042695 W JP 2018042695W WO 2019130908 A1 WO2019130908 A1 WO 2019130908A1
Authority
WO
WIPO (PCT)
Prior art keywords
imaging
sound
detection
detected
angle
Prior art date
Application number
PCT/JP2018/042695
Other languages
English (en)
French (fr)
Inventor
祐介 鳥海
規久夫 風間
佐藤 龍介
悠貴 辻本
Original Assignee
キヤノン株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2018207634A external-priority patent/JP2019117375A/ja
Application filed by キヤノン株式会社 filed Critical キヤノン株式会社
Priority to CN201880083608.1A priority Critical patent/CN111527739A/zh
Publication of WO2019130908A1 publication Critical patent/WO2019130908A1/ja
Priority to US16/910,622 priority patent/US20200329202A1/en

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/56Accessories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Definitions

  • the present invention relates to an imaging device, a control method thereof, and a recording medium.
  • an imaging device such as a camera
  • Such an imaging apparatus is provided with a function of detecting a user's operation error and notifying the user, or detecting an external environment and notifying the user when it is not suitable for photographing.
  • the present invention has been made in view of the above problems, and an object of the present invention is to provide a technique for capturing an image of an intended composition at a timing intended by a user without performing a special operation.
  • the imaging device of the first aspect of the present invention has the following configuration. That is, An imaging apparatus having an imaging means, wherein Driving means for driving the imaging means; First detection means for detecting the direction of the user; Second detection means for detecting the movement of the imaging device; A plurality of sound collection means for collecting sound; Third detection means for detecting the direction of the sound source of the voice using the plurality of sound collection means; Control means, and The control means performs the two or more sound collection means based on the direction in which the user is detected by the first detection means and the movement of the imaging device detected by the second detection means.
  • the third detection means detects the direction of the sound source of the voice using the determined two or more sound collection means.
  • the control means causes the third detection means to detect the direction of the sound source detected by the third detection means.
  • the driving means is controlled to turn the imaging direction of the imaging means.
  • the first object is to provide a technique for capturing an image of an intended composition at a timing intended by a user without performing any special operation.
  • the number of microphones used for detecting the direction is changed according to the use form, thereby achieving power saving and wearing on the user's body. It becomes possible to prevent the detection of the sound direction due to the rubbing noise with the clothes in the case of
  • the operation toward the subject in the imaging direction of the imaging means becomes more efficient depending on the elapsed time since the start of use.
  • the accuracy of the direction of the sound source depends on the magnification of the imaging means, and it is not necessary to always increase the accuracy of detecting the direction of the sound source Can reduce power consumption.
  • FIG. 1 is a block diagram of an imaging device according to an embodiment.
  • FIG. 2 is a detailed block diagram of an audio input unit and an audio signal processing unit according to the embodiment.
  • the upper surface and front view of the imaging device which concerns on embodiment.
  • FIG. 5 is a diagram showing pan operation and tilt operation of the imaging device according to the embodiment.
  • FIG. 6 is a flowchart showing the processing procedure of the central control unit in the embodiment.
  • 6 is a flowchart showing the processing procedure of the central control unit in the embodiment.
  • the flowchart which shows the detail of the voice command processing in FIG. 5B.
  • voice command. 7 is a timing chart from start up to operation shooting start command in the embodiment.
  • the figure for demonstrating the sound direction detection method which concerns on embodiment.
  • the figure for demonstrating the sound direction detection method which concerns on embodiment.
  • the figure for demonstrating the sound direction detection method which concerns on embodiment.
  • the figure for demonstrating the sound direction detection method which concerns on embodiment.
  • the figure for demonstrating the detection method which concerns on embodiment.
  • the figure for demonstrating the detection method in case the sound source exists right above an imaging device.
  • the figure for demonstrating the detection method in case the sound source exists right above an imaging device.
  • FIG. 6 is a flowchart showing detection processing of the installation position in the first embodiment.
  • FIG. 6 is a view showing a detection principle of a sound source direction according to installation positions in the first embodiment.
  • FIG. 6 is a view showing a detection principle of a sound source direction according to installation positions in the first embodiment.
  • FIG. 6 is a view showing a detection principle of a sound source direction according to installation positions in the first embodiment.
  • FIG. 6 is a view showing a detection range of a sound source according to installation positions in the first embodiment.
  • FIG. 6 is a view showing a detection range of a sound source according to installation positions in the first embodiment.
  • FIG. 6 is a view showing a detection range of a sound source according to installation positions in the first embodiment.
  • FIG. 4 It is a figure which shows the relationship between the imaging
  • the flowchart which shows the processing procedure of central control section when the voice command of zoom magnification in 4th execution form is received.
  • FIG. 1 is a block diagram of an imaging device 1 according to the first embodiment.
  • the imaging apparatus 1 includes an optical lens unit, a movable imaging unit 100 that can change the imaging direction (optical axis direction) to be imaged, and drive control of the movable imaging unit 100 and a central control unit (CPU And the support portion 200 including the
  • the support unit 200 is provided such that the plurality of vibrators 11 to 13 including the piezoelectric element are in contact with the surface of the movable imaging unit 100.
  • the movable imaging unit 100 By controlling the vibration of the vibrators 11 to 13, the movable imaging unit 100 performs pan and tilt operations.
  • the pan and tilt operations may be realized by a servomotor or the like.
  • the movable imaging unit 100 includes a lens unit 101, an imaging unit 102, a lens actuator control unit 103, and an audio input unit 104.
  • the lens unit 101 is configured of a photographing optical system such as a zoom lens, an aperture / shutter, and a focuser lens.
  • the imaging unit 102 includes an imaging element such as a CMOS sensor or a CCD sensor, photoelectrically converts an optical image formed by the lens unit 101, and outputs an electric signal.
  • the lens actuator control unit 103 includes a motor driver IC, and drives various actuators such as the zoom lens, the aperture / shutter, and the focus lens of the lens unit 101. The various actuators are driven based on actuator drive instruction data received from the central control unit 201 in the support unit 200 described later.
  • the voice input unit 104 is a voice input unit including a microphone (hereinafter referred to as a microphone) and is constituted by a plurality of microphones (four in the present embodiment), and converts an audio signal into an electrical signal and further converts it into a digital signal (audio data). Output.
  • a microphone hereinafter referred to as a microphone
  • the voice input unit 104 is a voice input unit including a microphone (hereinafter referred to as a microphone) and is constituted by a plurality of microphones (four in the present embodiment), and converts an audio signal into an electrical signal and further converts it into a digital signal (audio data). Output.
  • the support unit 200 has a central control unit 201 for controlling the entire imaging device 1.
  • the central control unit 201 includes a CPU, a ROM storing a program executed by the CPU, and a RAM used as a work area of the CPU.
  • the support unit 200 includes an imaging signal processing unit 202, a video signal processing unit 203, an audio signal processing unit 204, an operation unit 205, a storage unit 206, and a display unit 207.
  • the support unit 200 includes the input / output terminal unit 208, the audio reproduction unit 209, the power supply unit 210, the power supply control unit 211, the position detection unit 212, the rotation control unit 213, the wireless communication unit 214, and the vibration described above. It has bodies 11-13.
  • the imaging signal processing unit 202 converts the electrical signal output from the imaging unit 102 of the movable imaging unit 100 into a video signal.
  • the video signal processing unit 203 processes the video signal output from the imaging signal processing unit 202 according to the application.
  • the processing of the video signal includes image cutout, electronic vibration reduction operation by rotational processing, and subject detection processing for detecting a subject (face).
  • the audio signal processing unit 204 performs audio processing on the digital signal from the audio input unit 104. If the audio input unit 104 is an electrical analog output, the audio signal processing unit 204 may include a configuration for converting the electrical analog signal into a digital signal. The details of the audio signal processing unit 204 including the audio input unit 104 will be described later with reference to FIG.
  • the operation unit 205 functions as a user interface between the imaging apparatus 1 and the user, and includes various switches, buttons, and the like.
  • the storage unit 206 stores various data such as video information obtained by shooting.
  • the display unit 207 includes a display such as an LCD, and displays an image as needed based on the signal output from the video signal processing unit 203. Further, the display unit 207 functions as a part of the user interface by displaying various menus and the like.
  • An external input / output terminal unit 208 inputs and outputs communication signals and video signals to and from an external device.
  • the sound reproduction unit 209 includes a speaker, converts sound data into an electric signal, and reproduces sound.
  • the power supply unit 210 is a power supply source necessary for driving the entire imaging device (each element), and in this embodiment, is a rechargeable battery.
  • the power supply control unit 211 controls supply / shutoff of power from the power supply unit 210 to the above-described components in accordance with the state of the imaging device 1. Depending on the state of the imaging device 1, there are unused elements. Under the control of the central control unit 201, the power supply control unit 211 performs a function of suppressing power consumption by interrupting the power to the unused elements according to the state of the imaging device 1. The power supply / cutoff will be clarified from the description to be described later.
  • the position detection unit 212 detects the movement of the imaging device 1 such as a gyro, an acceleration sensor, or a GPS.
  • the position detection unit 212 is to cope with the case where the imaging device 1 wears on the user.
  • the rotation control unit 213 generates and outputs a signal for driving the vibrators 11 to 13 in accordance with an instruction from the central control unit 201.
  • the vibrators 11 to 13 are formed of piezoelectric elements, and vibrate in accordance with the drive signal applied from the rotation control unit 213.
  • the vibrators 11 to 13 constitute a rotational drive unit (pan and tilt drive unit). As a result, the movable imaging unit 100 pans and tilts in the direction instructed by the central control unit 201.
  • the wireless unit 214 transmits data such as picture data according to a wireless standard such as Wifi or BLE (Bluetooth Low Energy).
  • a wireless standard such as Wifi or BLE (Bluetooth Low Energy).
  • FIG. 1 shows the configuration of the audio input unit 104 and the audio signal processing unit 204, and the connection relationship of the audio signal processing 204, the central control unit 201 and the power control unit 211.
  • the voice input unit 104 is configured of four nondirectional microphones (a microphone 104a, a microphone 104b, a microphone 104c, and a microphone 104d). Each microphone has a built-in A / D converter, samples audio at a preset sampling rate (command detection, direction detection processing: 16 kHz, moving image recording: 48 kHz), and audio sampled by the built-in A / D converter Output the signal as digital audio data.
  • the voice input unit 104 is configured by four digital microphones in the present embodiment, it may be configured by an analog output microphone. In the case of an analog microphone, a corresponding A / D converter may be provided in the audio signal processing unit 204. Further, although the number of microphones in this embodiment is four, it may be three or more.
  • the microphone 104 a When the power of the imaging device 1 is ON, the microphone 104 a is unconditionally supplied with power, and can be in a sound collecting enabled state.
  • the other microphones 104b, 104c, and 104d are targets of power supply / shutdown by the power control unit 211 under the control of the central control unit 201, and the power of the imaging apparatus 1 is initially turned on. In the state, the power is cut off.
  • the audio signal processing unit 204 includes a sound pressure level detection unit 2041, an audio memory 2042, an audio command recognition unit 2043, an audio direction detection unit 2044, a moving image audio processing unit 2045, and a command memory 2046.
  • the sound pressure level detection unit 2041 supplies a signal representing sound detection to the power control unit 211 and the sound memory 2042 when the output level represented by the sound data from the microphone 104 a exceeds a preset threshold.
  • the power control unit 211 When the power control unit 211 receives a signal representing voice detection from the sound pressure level detection unit 2041, the power control unit 211 supplies power to the voice command recognition unit 2043.
  • the voice memory 2042 is one of the targets of power supply / cutoff by the power control unit 211 under the control of the central control unit 201. Further, the voice memory 2042 is a buffer memory for temporarily storing voice data from the microphone 104a.
  • the voice memory 2042 has a capacity capable of storing at least all sampling data when the longest voice command is uttered relatively slowly. If the sampling rate by the microphone 104a is 16 kHz, and 2 bytes (16 bits) of audio data are output per sampling, and the longest audio command is 5 seconds, the audio memory 2042 measures approximately 160 K bytes ( ⁇ It has a capacity of 5 ⁇ 16 ⁇ 1000 ⁇ 2). Also, when the voice memory 2042 is filled with voice data from the microphone 104a, old voice data is overwritten with new voice data.
  • the voice memory 2042 holds voice data of the latest predetermined period (about 5 seconds in the above example). Further, the voice memory 2042 stores voice data from the microphone 104a in the sampling data area, triggered by the reception of the signal indicating voice detection from the sound pressure level detection unit 2041.
  • the command memory 2046 is configured by a non-volatile memory, and stores (registers) information related to a voice command recognized by the imaging device in advance. Although the details will be described later, the types of voice commands stored in the command memory 2046 are as shown in FIG. 8, for example, and information of a plurality of types of commands including the “start command” is stored in the command memory 2046 .
  • the voice command recognition unit 2043 is one of the targets of power supply / cutoff by the power control unit 211 under the control of the central control unit 201. Since speech recognition itself is well known, the description here is omitted.
  • the voice command recognition unit 2043 refers to the command memory 2046 and performs recognition processing of voice data stored in the voice memory 2042. Then, the voice command recognition unit 2043 determines whether the voice data collected by the microphone 104a is a voice command and which registered voice command matches. When the voice command recognition unit 2043 detects voice data that matches any voice command stored in the command memory 2046, information indicating which command it is, and information in the voice memory 2042, The central control unit 201 is supplied with the address (or timing) of the first and the last voice data that has determined the voice command.
  • the sound direction detection unit 2044 is one of the targets of the power supply / cutoff by the power control unit 211 under the control of the central control unit 201. Further, the sound direction detection unit 2044 periodically detects the direction in which the sound source is present, based on the audio data from the four microphones 104a to 104d.
  • the sound direction detection unit 2044 has a buffer memory 2044a inside, and stores information representing the detected sound source direction in the buffer memory 2044a.
  • the period (for example, 16 kHz) at which the sound direction detection processing by the sound direction detection unit 2044 is performed may be sufficiently long with respect to the sampling period of the microphone 104a.
  • the buffer memory 2044 a has a capacity for storing sound direction information for the same period as that of audio data that can be stored in the audio memory 2042.
  • the moving image audio processing unit 2045 is one of the targets of power supply / cutoff by the power control unit 211 under the control of the central control unit 201.
  • the moving image audio processing unit 2045 inputs two audio data of the microphone 103a and the microphone 104b among the four microphones as stereo audio data, and performs various filter processing, window cut, stereo feeling enhancement, drive sound removal, ALC (Auto Performs audio processing for video and audio such as Level Control) and compression processing.
  • ALC Auto Performs audio processing for video and audio such as Level Control
  • the microphone 104a functions as an L channel microphone of a stereo microphone
  • the microphone 104b functions as an R channel microphone.
  • each microphone of the audio input unit 104 and each block included in the audio signal processing unit 204 is represented by the necessary minimum of four microphones in consideration of power consumption and a circuit configuration. However, as long as the power and the circuit configuration allow, a plurality of microphones may be shared and used in each block included in the audio signal processing unit 204. Further, in the present embodiment, the microphone 104a is connected as a reference microphone, but any microphone may be used as a reference.
  • FIG. 3A shows a top view and a front view of the appearance of the imaging device 1 according to the present embodiment.
  • the movable imaging unit 100 of the imaging device 1 is substantially hemispherical, and has a notch window in the range of -20 degrees to 90 degrees indicating the vertical direction when the horizontal angle is 0 degrees, in the horizontal plane indicated by the illustrated arrow A.
  • a first housing 150 which can rotate through 360 degrees.
  • the movable imaging unit 100 is configured such that the second casing 151 is rotatable along with the lens unit 101 and the imaging unit 102 within a range from horizontal to vertical indicated by the arrow B shown along the notch window. Have.
  • the turning operation of the arrow A of the first casing 150 corresponds to the pan operation
  • the turning operation of the arrow B of the second casing 151 corresponds to the tilting operation, and these are driven by the driving of the vibrators 11 to 13. It has been realized.
  • the tiltable range of the imaging device in the present embodiment is a range of -20 degrees to +90 degrees.
  • the microphones 104 a and 104 b are disposed at front side positions sandwiching the cutout window of the first housing 150.
  • the microphones 104 c and 104 d are provided on the rear side of the first housing 150.
  • the microphone for the lens unit 101 and the imaging unit 102 The relative positions of 104a and 104b do not change. That is, the microphone 104a is always positioned on the left side with respect to the imaging direction of the imaging unit 102, and the microphone 104b is always positioned on the right side. Therefore, the space represented by the image obtained by imaging by the imaging unit 102 and the sound field acquired by the microphones 104a and 104b can maintain a constant relationship.
  • the four microphones 104a, 104b, 104c, and 103d in the present embodiment are disposed at the positions of the vertices of a rectangle as shown in FIG. 3A as viewed from the top surface of the imaging device 1. Moreover, although these four microphones shall be located on one horizontal surface in FIG. 3A, there may be some deviations.
  • the distance between the microphones 104a and 104b is larger than the distance between the microphones 104a and 104c.
  • the distance between adjacent microphones is preferably about 10 mm to 30 mm.
  • the number of microphones is four, but the number of microphones may be three or more as long as the condition that they are not aligned on a straight line is satisfied.
  • the arrangement positions of the microphones 104a to 104d in FIG. 3A are one example, and the arrangement method of these may be appropriately changed according to mechanical restriction or design restriction.
  • FIG. 3B to 3E show usage modes of the imaging device 1 in the present embodiment.
  • FIG. 3B shows a case where the subject is placed on the imaging apparatus 1 on a desk or the like, and for the purpose of shooting a photographer himself or a subject around it.
  • FIG. 3C is an example in which the imaging apparatus 1 is hung on the neck of the photographer, and is mainly intended to capture the front of the photographer's action.
  • FIG. 3D is a usage example in which the imaging device 1 is fixed to the shoulder of the photographer, and in the case of the drawing, the purpose is to capture the front, rear, and the right of the photographer's surroundings.
  • FIG. 3B shows a case where the subject is placed on the imaging apparatus 1 on a desk or the like, and for the purpose of shooting a photographer himself or a subject around it.
  • FIG. 3C is an example in which the imaging apparatus 1 is hung on the neck of the photographer, and is mainly intended to capture the front of the photographer's action.
  • FIG. 3D is
  • 3E is a usage example which fixes the imaging device 1 to the end of the rod which a user holds, and moves the imaging device 1 to the desired imaging
  • photography position position which height and the hand can not reach
  • the purpose is to take a picture.
  • pan and tilt operations of the imaging device 1 of the present embodiment will be described in more detail with reference to FIG.
  • FIG. 3B although it is described as a premise in the use example deferred as shown in FIG. 3B, the same applies to other use examples.
  • 4a of FIG. 4 shows a state in which the lens unit 101 is directed horizontally.
  • the first housing 150 is pan-operated 90 degrees counterclockwise as viewed from above, it becomes as shown by 4b of FIG.
  • the 90 ° tilt operation of the second housing 151 is performed from the initial state of 4a of FIG. 4, it becomes as shown by 4c of FIG.
  • the pivoting of the first housing 150 and the second housing 151 is realized by the vibration of the vibrators 11 to 13 driven by the pivot control unit 213 as described above.
  • the process according to the figure shows the process of the central control unit 201 when the main power supply of the imaging apparatus 1 is turned on or reset.
  • the central control unit 201 performs initialization processing of the imaging device 1 in step S101. In this initialization process, the central control unit 201 determines the directional component in the horizontal plane in the imaging direction of the imaging unit 102 of the movable imaging unit 100 as the reference angle (0 degree) of the pan operation.
  • the component of the horizontal plane in the imaging direction after the panning operation of the movable imaging unit 100 is represented by a relative angle from this reference angle. Further, the component of the horizontal surface in the sound source direction detected by the sound direction detection unit 2044 is also represented by an angle relative to the reference angle. Further, although the details will be described later, the sound direction detection unit 2044 also determines whether or not there is a sound source in the direction directly above the imaging device 1 (the axial direction of the rotation axis of pan operation).
  • the power to the audio memory 2042, the sound direction detection unit 2044, the moving image audio processing unit 2045, and the microphones 104b to 104d is shut off.
  • the central control unit 201 controls the power supply control unit 211 in step S102 to start the supply of power to the sound pressure level detection unit 2041 and the microphone 104a.
  • the sound pressure level detection unit 2041 executes sound pressure detection processing based on the sound data sampled by the microphone 104a, and detects sound data of a sound pressure level that exceeds a preset threshold. It will notify the central control unit.
  • the threshold is, for example, 60 dB SPL (Sound Pressure Level), but may be changed according to the environment or the like by the imaging device 1 or may be narrowed to only a necessary frequency band.
  • step S103 the central control unit 201 waits for detection of audio data representing sound pressure exceeding the threshold value by the sound pressure level detection unit 2041.
  • step S104 the voice memory 2042 starts receiving and storing voice data from the microphone 104a.
  • step S105 the central control unit 201 controls the power supply control unit 211 to start power supply to the voice command recognition unit 2043.
  • the voice command recognition unit 2043 starts recognition processing of voice data stored in the voice memory 2042 with reference to the command memory 2046.
  • the voice command recognition unit 2043 performs recognition processing of voice data stored in the voice memory 2042, and when it recognizes a voice command as coincident with any voice command in the command memory 2046, the recognized voice
  • the central control unit 201 is notified of information including information specifying the command and address (or timing) information of the first and last voice data in the voice memory 2042 for which the recognized voice command is determined.
  • step S106 central control unit 201 determines whether or not the information indicating that the voice command has been recognized is received from voice command recognition unit 2043. If not, the central control unit 201 advances the process to step S108, and determines whether an elapsed time from activating the voice command recognition unit 2043 exceeds a preset threshold. Then, as long as the elapsed time is within the threshold, the central control unit 201 waits for the voice command recognition unit 2043 to recognize the voice command. Then, if the voice command recognition unit 2043 does not recognize the voice command even after the time indicated by the threshold has elapsed, the central control unit 201 advances the process to step S109. In step S109, the central control unit 201 controls the power supply control unit 211 to cut off the power to the voice command recognition unit 2043. Then, the central control unit 201 returns the process to step S103.
  • step S107 the central control unit 201 determines whether the recognized voice command corresponds to the start command shown in FIG. Then, if it is determined that the recognized voice command is a command other than the start command, the central control unit 201 advances the process to step S108. If the recognized voice command is a start command, the central control unit 201 advances the process from step S107 to step S110.
  • step S110 central control unit 201 controls power supply control unit 211, and starts power supply to sound direction detection unit 2044 and microphones 104b to 104d.
  • the sound direction detection unit 2044 starts the process of detecting the sound source direction based on the audio data at the same time from the four microphones 104 a to 104 d.
  • the detection process of the direction of the sound source is performed at a predetermined cycle.
  • the sound direction detection unit 2044 stores the sound direction information indicating the detected sound direction in the internal buffer memory 2044 a.
  • the sound direction detection unit 2044 causes the buffer memory 2044 a to correspond to which timing of the audio data stored in the audio memory 2042 the timing of the audio data using the sound direction information is determined. Store.
  • what is stored in the buffer memory 2044 a may be the sound direction and the address of the audio data in the audio memory 2042.
  • the sound direction information is an angle representing the difference between the sound source direction and the reference angle described above in the horizontal plane.
  • step S111 the central control unit 201 controls the power supply control unit 211, and starts power supply to the imaging unit 102 and the lens actuator control unit 103.
  • the movable imaging unit 100 starts to function as an imaging device.
  • step S151 the central control unit 201 determines whether or not information indicating that a new voice command has been recognized has been received from the voice command recognition unit 2043. If not, the central control unit 201 advances the process to step S152, and determines whether or not there is a currently executing job according to the instruction from the user. Details will be apparent from the description of the flowchart in FIG. 6, but moving image shooting and recording, tracking processing, and the like correspond to jobs. Here, the explanation will be continued assuming that there is no such running job.
  • step S153 it is determined whether an elapsed time after recognition of the previous voice command exceeds a preset threshold. If not, the central control unit 201 returns the process to step S151 and waits for recognition of the voice command. Then, if there is no job being executed and no further voice command is recognized even if a time exceeding the threshold has passed since recognition of the previous voice command, the central control unit 201 advances the process to step S154. .
  • step S154 the central control unit 201 controls the power supply control unit 211 to cut off the power to the imaging unit 102 and the lens actuator control unit 103. Then, in step S155, the central control unit 201 controls the power supply control unit 211, cuts off the power to the sound direction detection unit 2044, and returns the process to step S106.
  • the central control unit 201 receives, from the voice command recognition unit 2043, information indicating that a new voice command has been recognized.
  • the voice command recognition unit 2043 advances the process from step S151 to step S156.
  • the central control unit 201 in the present embodiment performs processing for putting the person who has generated the voice command into the angle of view of the imaging unit 102 of the movable imaging unit 100 prior to executing the job according to the recognized voice command. . Then, in a state in which a person is in the angle of view of the imaging unit 102, the job based on the recognized voice command is executed.
  • the central control unit 201 acquires sound direction information synchronized with the voice command recognized by the voice command recognition unit 2043 from the buffer memory 2044a of the sound direction detection unit 2044.
  • the voice command recognition unit 2043 recognizes the voice command
  • the voice command recognition unit 2043 notifies the central control unit 201 of two addresses indicating the head and the end indicating the voice command in the voice memory 2042. Therefore, the central control unit 201 acquires, from the buffer memory 2044a, the sound direction information detected in the period indicated by the two addresses.
  • a plurality of sound direction information may exist within a period indicated by two addresses. In that case, the central control unit 201 acquires the temporally last sound direction information therein from the buffer memory 2044a. This is because the sound direction information later in time is more likely to indicate the current position of the person who issued the voice command.
  • step S157 the central control unit 201 determines whether or not the direction of the sound source represented by the acquired sound information is the direction directly above the imaging device. The details of the determination as to whether or not the sound direction is directly above the imaging device will be described later.
  • step S158 the central control unit 201 controls the rotation control unit 213, and the movable imaging unit 100 causes the imaging direction of the lens unit 101 and the imaging unit 102 to be directly above shown by 4c in FIG.
  • the second housing 151 is rotated.
  • the central control unit 201 receives the captured image from the video signal processing unit 203 in step S159, and an object (person It is determined whether or not there is a face). If not, the central control unit 201 returns the process to step S151.
  • step S164 the central control unit 201 advances the process to step S164, and executes a job corresponding to the voice command already recognized. The details of step S164 will be described later with reference to FIG.
  • step S157 If it is determined at step S157 that central control unit 201 indicates that the direction indicated by the sound information is a direction other than just above, the process proceeds to step S160.
  • step S160 the central control unit 201 controls the rotation control unit 213 to pan the movable imaging unit 100, and the horizontal plane angle indicated by the sound information indicates the current horizontal plane angle of the imaging unit 102.
  • step S161 the central control unit 201 receives the captured image from the video signal processing unit 203, and determines whether or not there is an object (face) as an audio generation source in the captured image.
  • the central control unit 201 advances the process to step S162, and controls the rotation control unit 213 to perform the tilt operation of the movable imaging unit 100 by a preset angle toward the target tilt angle. Then, in step S163, the central control unit 201 determines whether the tilt angle in the imaging direction of the imaging unit 102 has reached the upper limit of the tilt operation (90 degrees with respect to the horizontal direction in the present embodiment). . If not, the central control unit 201 returns the process to step S161. Thus, while performing the tilt operation, the central control unit 201 determines whether or not there is an object (face) as a sound generation source in the captured image from the image signal processing unit 203.
  • the central control unit 201 returns the process from step S163 to step S151.
  • the central control unit 201 advances the process to step S164, and executes a job corresponding to the voice command already recognized.
  • step S164 the details of the process of step S164 will be described based on the flowchart of FIG. 6 and the voice command table shown in FIG.
  • Voice pattern data corresponding to voice commands such as “Hi, Camera” shown in the voice command table of FIG. 7 is stored in the command memory 2046.
  • FIG. 7 illustrates a representative number of voice commands, the number is not particularly limited. Further, it should be noted that the voice command in the following description is a voice command detected at the timing of step S151 of FIG. 5B.
  • step S201 the central control unit 201 determines whether the voice command is a start command.
  • the start command is a voice command that causes the imaging device 1 to transition to a state capable of imaging.
  • the start command is a command determined in step S107 of FIG. 5A and is not a job related to imaging. Therefore, when the recognized voice command is a start command, the central control unit 201 ignores the command and returns the process to step S151.
  • central control unit 201 determines whether the voice command is a stop command.
  • the stop command is a command for transitioning from a series of imaging enabled states to a state of waiting for input of the start command. Therefore, when the recognized voice command is the stop command, the central control unit 201 causes the process to proceed to step S211.
  • the central control unit 201 controls the power supply control unit 211, and the imaging unit 102, the sound direction detection unit 2044, the voice command recognition unit 2043, the moving image voice processing unit 2045, the microphone 104b, Shut off the power to 104d and so on and stop them. Then, the central control unit 201 returns the process to step S103 at the time of activation.
  • step S203 the central control unit 201 determines whether the voice command is a still image shooting command.
  • the still image shooting command is a command for requesting the imaging apparatus 1 to execute a shooting / recording job of one still image. Therefore, when the central control unit 201 determines that the voice command is a still image shooting command, the process proceeds to step S212.
  • step S212 the central control unit 201 stores one still image data captured by the imaging unit 102 in the storage unit 206 as, for example, a JPEG file. Since the job of the still image shooting command is completed by one still image shooting and recording, it is not a job to be determined in step S152 of FIG. 5B described above.
  • step S204 the central control unit 201 determines whether the voice command is a moving image shooting command.
  • the moving image shooting command is a command for requesting the imaging device 1 to capture and record a moving image. If the central control unit 201 determines that the voice command is a moving image shooting command, the process proceeds to step S213. In step S213, the central control unit 201 starts shooting and recording of a moving image by the imaging unit 102, and returns the process to step S151.
  • the captured moving image is stored in the storage unit 206, but may be transmitted to the file server on the network via the external input / output terminal unit 208. Since the moving image shooting command is a command to continue shooting and recording of a moving image, a job according to this command is a job to be determined in step S152 described above.
  • step S205 the central control unit 201 determines whether the voice command is a moving image shooting end command.
  • the central control unit 201 ends the recording (job) when the voice command is a moving image shooting end command and the moving image is currently being captured / recorded. Then, the central control unit 201 returns the process to step S151.
  • step S206 the central control unit 201 determines whether the voice command is a tracking command.
  • the tracking command is a command that requests the imaging device 1 to position the user continuously in the imaging direction of the imaging unit 102. If the central control unit 201 determines that the voice command is a tracking command, the process proceeds to step S214. Then, in step S214, the central control unit 201 starts control of the rotation control unit 213 so that the object continues to be positioned at the center position of the video obtained by the video signal processing unit 203. Then, the central control unit 201 returns the process to step S151. As a result, the movable imaging unit 100 performs a pan operation or a tilt operation to track the moving user. However, although the user is tracked, the captured image is not recorded.
  • the job is a target to be determined in step S152 of FIG. 5B described above. Then, after receiving the tracking end command, the central control unit 201 ends shooting and recording of this moving image. Note that, during tracking, for example, a job of a still image shooting command or a moving image shooting command may be executed.
  • step S207 the central control unit 201 determines whether the voice command is a tracking end command.
  • the central control unit 201 ends the recording (job) when the voice command is the tracking end command and the tracking is currently in progress. Then, the central control unit 201 returns the process to step S151.
  • step S208 the central control unit 201 determines whether the voice command is an automatic moving image shooting command. If the central control unit 201 determines that the voice command is an automatic moving image shooting command, the process proceeds to step S217. In step S217, the central control unit 201 starts shooting and recording of a moving image by the imaging unit 102, and returns the process to step S151.
  • the difference between this automatic moving image shooting command and the moving image shooting command described above is that when the job of this automatic moving image shooting command is started, the lens in the direction of the sound source of that utterance every time there is an utterance thereafter This is a point at which a moving image is taken and recorded while directing the imaging direction of the unit 101.
  • a moving image is recorded while performing a pan operation and a tilt operation in order to put the speaker within the angle of view of the lens unit 101 each time there is an utterance.
  • the central control unit 201 causes the voice command recognition unit 2043 to stop.
  • the central control unit 201 refers to the sound direction information detected by the sound direction detection unit 2044 at the timing when the sound pressure level detection unit 2041 detects a sound pressure level exceeding the threshold value. Pan and tilt operations will be performed.
  • the central control unit 201 controls the lens actuator control unit 103 to increase the current magnification by a preset value. If the recognized voice command is a magnification command, the central control unit 201 controls the lens actuator control unit 103 to reduce the current magnification by a preset value.
  • the central control unit 201 performs the audio command. Ignore
  • voice commands other than those described above are executed after step S207, but the description thereof is omitted here.
  • the sound pressure level detection unit 2041 starts the process of detecting the sound pressure level of audio data from the microphone 1014a.
  • the sound pressure level detection unit 2041 detects the sound pressure exceeding the threshold. Then, this becomes a trigger, and at timing T602, the voice memory 2042 starts storing voice data from the microphone 104a, and the voice command recognition unit 2043 starts voice command recognition.
  • the voice command recognition unit 2043 recognizes the voice command, and specifies that the recognized voice command is the start command.
  • the central control unit 201 starts power supply to the sound direction detection unit 2044 at timing T603 using the recognition of the start command as a trigger.
  • the central control unit 201 also starts supplying power to the imaging unit 102 at timing T604.
  • the voice command recognition unit 2043 recognizes the voice data as a voice command representing "Movie start”.
  • the voice command recognition unit 2043 notifies the central control unit 201 of the head and tail addresses of voice data representing “Movie start” in the voice memory 2042 and the recognition result.
  • the central control unit 201 determines the range represented by the received first and last addresses as the valid range.
  • the central control unit 201 extracts the latest sound direction information from the effective range in the buffer 2044 a of the sound direction detection unit 2044, and at timing T 609, based on the extracted information, the drive control unit 213. Are controlled to start the panning operation and the tilting operation of the movable imaging unit 100.
  • the central control unit 201 stops the pan operation and the tilt operation (timing T613).
  • the central control unit 201 supplies power to the moving image audio processing unit 2045 so that the microphones 104a and 104b can collect stereo audio.
  • the central control unit 201 starts capturing and recording a voice-added moving image.
  • FIG. 9A First, simple sound direction detection using two microphones, the microphone 104a and the microphone 104b, will be described using FIG. 9A.
  • the microphone 104a and the microphone 104b are disposed on a plane (on an imaginary plane).
  • the distance between the microphones 104a and 104b is represented by d [ab]. It is assumed that the distance between the imaging device 1 and the sound source is sufficiently large for the distance d [ab]. In this case, by comparing the voices of the microphone 104a and the microphone 104b, the delay time of the voice between the two can be identified.
  • the distance I [ab] can be specified by multiplying the arrival delay time by the sound velocity (340 m / s in air).
  • the sound directions determined by the two microphones can not be distinguished between the determined sound source direction and ⁇ [a ⁇ b] ′. In other words, it is impossible to specify which one of the two directions.
  • the method of detecting the direction of the sound source in the present embodiment will be described below with reference to FIGS. 9B and 9C. Specifically, since there are two sound source directions that can be estimated by two microphones, these two directions are treated as temporary directions. Then, the directions of the sound source are determined by two more microphones, and two tentative directions are determined. Then, the direction common to these is determined as the direction of the sound source to be obtained. Note that the upward direction in FIGS. 9B and 9C is taken as the imaging direction of the movable imaging unit 100. The imaging direction of the movable imaging unit 100 is also rephrased as the optical axis direction (principal axis direction) of the lens unit 101.
  • FIG. 9B shows a method performed by three microphones. A description will be given using the microphone 104a, the microphone 104b, and the microphone 104c.
  • the direction orthogonal to the direction in which the microphones 104 a and the microphones 104 b are arranged is the imaging direction of the lens unit 101.
  • the distance d [a-b] is known from the microphones 104a and 104b, and if the distance I [a-b] can be specified from the audio data, ⁇ [a-b] Can be identified. Furthermore, since the distance d [a-c] between the microphones 104a and 104c is also known, the distance I [a-c] can also be specified from the audio data, and ⁇ [a-c] can be specified. If ⁇ [ab] and ⁇ [ac] can be calculated, the direction common to them on the same two-dimensional plane (virtual plane) as the arrangement of the microphones 104a, 104b and 104c is the correct voice generation direction It can be determined as
  • a method of determining the sound source direction with four microphones will be described with reference to FIG. 9C. Due to the arrangement of the microphones 104a, 104b, 104c, and 104d shown in FIG. 3A, the direction orthogonal to the direction in which the microphones 104a and 104b are arranged is the imaging direction (optical axis direction) of the lens unit 101. When four microphones are used, the sound source direction can be accurately calculated by using two pairs of the microphones 104a and 104d located on the diagonal and the pair of the microphone 10b and the microphone 104c.
  • the distance I [ad] can be specified from the audio data, so that ⁇ [ad] can also be specified.
  • the distance I [bc] can be specified from the audio data, so that ⁇ [bc] can be specified.
  • the microphones 104a, 104b, the microphones 104c, and the microphones 104d are disposed at four corners of a rectangle as shown in FIG. 3A. Even if the number of microphones is three, it is not necessary to be four if they do not line up on a straight line.
  • FIG. 10A shows a method performed by three microphones. A description will be given using the microphone 104a, the microphone 104b, and the microphone 104c.
  • the direction orthogonal to the direction in which the microphones 104a and the microphones 104b are arranged is the imaging direction (optical axis direction) of the lens unit 101.
  • the arrangement direction of the microphones 104a and the microphones 104b is a direction of a straight line connecting the center point of the microphones 104a and the center point of the microphones 104b.
  • the microphone 104a and the microphone 104b can be considered to be equidistant from the sound source. That is, there is no time difference in the sound reaching the two microphones 104a and 104b from the sound source. Therefore, it is recognized that the sound source is present in the direction perpendicular to the straight line connecting the microphones 104a and 104b.
  • the microphones 104a and 104c can also be considered to be equidistant from the sound source, there is no time difference between the sound sources reaching the two microphones 104a and 104c. Therefore, it is recognized that the sound source is present in the direction perpendicular to the straight line connecting the microphones 104a and 104c.
  • the absolute value of the time difference between sounds detected by the microphone 104a and the microphone 104b is ⁇ T1
  • the absolute value of the time difference between the sounds detected by the microphone 104a and the microphone 104c is ⁇ T2
  • the relationship with a sufficiently small threshold ⁇ set in advance it can be determined that the sound source is located directly above the imaging device 1.
  • FIG. 10B a method of detecting a sound source located directly above the imaging device 1 using four microphones 104a, 104b, 104c, and 104d will be described. As shown in FIG. 3A, the pair of the microphone 104a and the microphone 104d, and the pair of the microphone 104b and the microphone 10c will be considered.
  • the microphone 104a and the microphone 104d are equidistant from the sound source, so the absolute value ⁇ T3 of the time difference between sounds detected by the microphone 104a and the microphone 104d is zero or not It becomes a small value. That is, it is recognized that the sound source is in the direction perpendicular to the straight line connecting the microphones 104a and 104d.
  • the absolute value ⁇ T4 of the time difference between sounds detected by the microphones 104b and 104c is also zero or very small. That is, it is recognized that the sound source is in the direction perpendicular to the straight line connecting the microphones 104b and 104c. Therefore, when the following condition is satisfied, it can be determined that the sound source is located directly above the imaging device 1. Condition: ⁇ T3 ⁇ and ⁇ T4 ⁇
  • the absolute value of the arrival time difference of sound is determined, and the direction of the sound source is present when both of the two absolute values become smaller than the threshold value. Can be determined to be directly above. In addition, when determining two pairs, any combination may be used as long as the directions of the two pairs are determined to be non-parallel to each other.
  • the first embodiment has been described above. According to the above embodiment, of the sound direction information detected by the sound direction detection unit 2044 in order, the period indicated by the head and the end of the voice data as the source of the voice command recognized by the voice command recognition unit 2043. It is determined that there is a subject that has issued a voice command in the direction indicated by the sound direction information. As a result, it can be suppressed that a person other than the person who has uttered the voice command (a face of the person) is mistakenly taken as a subject. In addition, it becomes possible to execute a job intended by the person who issued the voice command.
  • the elements constituting the microphones 104a to 104d and the audio signal processing unit 204 are supplied with power under the control of the central control unit 201 only when they are actually used. As a result, power consumption can be reduced compared to when all the components are in a movable state.
  • FIGS. 3A to 3E there are various usage modes of the imaging device 1 in the present embodiment.
  • the imaging direction (optical axis direction) of the lens unit 101 is directed to the direction of the user's body. Therefore, it is desirable that the imaging direction (optical axis direction) of the lens unit 101 always be forward for the user.
  • the microphones 104c and 194d are likely to touch the user's body. That is, there is a high possibility that the microphones 104c and 1094d collect noise from the user's clothes, which causes trouble in the sound direction detection by the sound direction detection unit 2044 of the four microphones.
  • the central control unit 201 cuts off the power to the microphones 104c and 104d, and transmits the sound direction detection unit 2044 to the microphone 104a. It is instructed to perform sound direction detection using only two of the two 104b. In this case, there is no problem that two sound source directions are detected if the sound source directions are determined with only two microphones described with reference to FIG. 9A. This is because the sound source direction may be considered to be at least within the range in front of the user.
  • the sound direction detection unit 2044 detects two sound directions in calculation because only two microphones 104 a and 104 b are used, but detects a sound source direction in front of the user as a valid sound source direction.
  • the detection of the direction in which the user is in the body is performed, for example, by performing a pan operation of 360 degrees (one round) after determining that it is hung on the neck, and the direction in which the distance measured becomes shortest (the user A range of an appropriate angle (for example, 180 degrees in FIG. 3C) centered on the chest direction may be determined as the user's present direction.
  • the central control unit 201 stores the determined direction in the storage unit 206 as a reference direction.
  • any one of the four microphones is positioned close to the user's head, which increases the possibility of touching the user's head or clothes. Therefore, in this case, one of the four microphones close to the user's head is not used (turned off) when detecting the sound direction, and the remaining three detect the sound source direction.
  • the central control unit 201 stores this direction in the storage unit 206 as the direction of the head of the user.
  • the central control unit 201 does not use one microphone on the side closer to the head of the user for direction detection based on the stored direction and the imaging direction (optical axis direction) of the lens unit 101 among the four microphones (power And the sound direction detection unit 2044 is set to perform direction detection using the remaining three microphones.
  • the detection of the direction in which the user's head is in, for example, a 360-degree panning operation after determining that the user is worn on the shoulder, an appropriate angle centered on the shortest direction of the distance (for example, The range of 90 degrees) may be determined as the direction in which the user is present.
  • the central control unit 201 stores, in the storage unit 206, a direction (direction of the head of the user) which is the shortest of the distance measured as a reference direction.
  • the sound direction detection unit 2044 may perform sound direction detection using four microphones.
  • the user sets which one of the use forms of FIGS. 3B to 3E from the operation unit 205 of the support unit 200.
  • the central control unit 201 performs automatic detection of the usage pattern. The process of automatic detection of the central control unit 201 when the automatic detection mode is set will be described below.
  • the position detection unit 212 has a configuration for detecting the movement of the imaging device 1 such as a gyro sensor, an acceleration sensor, or a GPS sensor. Therefore, after the main power supply of the imaging device 1 is turned on and the initialization processing in step S101 of FIG. 5A is performed, basically the state of FIG. 3B, that is, assuming that the imaging device 1 is in a fixed state. Performs sound direction detection.
  • the sensor such as the acceleration sensor or the gyro of the position detection unit 212 naturally changes larger than the threshold Will be detected.
  • the timing at which the user performs this operation is the timing at which the main power supply of the imaging device 1 is turned on.
  • the position detection unit 212 estimates that the user performs the installation operation of the imaging device 1 when a change larger than the threshold is detected even in one of the sensors within a preset period after the initialization process. And sends an interrupt signal to the central control unit 201.
  • FIG. 11 illustrates this interrupt processing (processing for detecting the installation position of the imaging device 1).
  • the processing of the central control unit 201 will be described below with reference to this figure.
  • central control unit 201 stores data output from each sensor included in position detection unit 212 in storage unit 206 for a preset period.
  • the storage period is preferably a sufficient time (for example, one minute) for the user to complete the operation according to the usage form.
  • the central control unit 201 determines the installation position of the imaging device 1 based on the stored data, and determines the sound direction detection method by the sound direction detection unit 2044.
  • the plane represented by the x and y axes represents a plane perpendicular to the rotation axis of the panning operation of the imaging device 1
  • the z axis represents the axial direction of the rotation axis of the panning operation of the imaging device 1. It explains as a thing.
  • step S1102 the central control unit 201 determines whether any of the stored accelerations of the x, y, and z axes exceeds a preset threshold. If there is an angular velocity exceeding the threshold value, the central control unit 201 estimates that the imaging device 1 is worn on the shoulder of the user, and in step S 1103, the remaining three microphones are removed except for one microphone close to the user's head.
  • the sound direction detection unit 2044 is set to detect the sound source direction according to the sound direction detection method (or rule) by the two microphones, and the process ends.
  • step S1102 If the acceleration in any of the x, y, and z axes is less than or equal to the threshold in step S1102, the central control unit 201 advances the process to step S1104.
  • step S1104 the central control unit 201 performs detection of the angular velocity along the x, y, and z axes and threshold comparison. Specifically, the angular velocity (yaw) with respect to the z-axis is equal to or less than a preset threshold, and the angular velocity (roll, pitch) with respect to the x-axis or y-axis is different from the preset threshold (above) Because it is a threshold of, please do not make the article the.
  • the central control unit 201 estimates that the imaging device 1 is hung on the neck of the user. Then, of the four microphones, only the two microphones 104a and 104b are used, and sound source direction detection according to the sound direction detection method in which the reverse direction to the microphones 104c and 104d is regarded as the sound source location ("Use only the microphone” relates to "to perform sound source direction detection”.) The central control unit 201 sets the sound direction detection unit 2044 and ends this processing.
  • step S1104 when it is determined in step S1104 that the angular velocity in the yaw direction is greater than the threshold and the angular velocity of the roll or pitch is less than or equal to the threshold, the central control unit 201 performs the imaging device 1 in step S1106. It is regarded as being fixed at an appropriate position by hand. Therefore, in step S1106, the central control unit 201 sets the sound direction detection unit 2044 to detect the sound source direction according to the sound direction detection method using four microphones, and ends this processing.
  • FIG. 12A is a diagram showing a sound direction detection method when the imaging device 1 is hung on the neck of the user
  • FIG. 12B is a diagram showing a sound direction detection method when the imaging device 1 is fixed to the user's shoulder It is
  • FIG. 12C is a figure which shows the sound direction detection method when the imaging device 1 is fixed.
  • FIGS. 12A to 12C are diagrams showing the directivity of the microphone obtained by the method of each of FIGS. 12A to 12C.
  • the method of determining the sound source direction according to FIGS. 12A to 12C is the same as that of FIGS.
  • FIG. 12A shows a method of detecting the sound direction when it is determined in the process of FIG. 11 that the imaging apparatus 1 is placed on the neck of the user.
  • the direction derivation principle of the sound source itself is the same as FIG. 9A.
  • the distance d [ab] between the microphones 104a and 104b is one side, and ⁇ [ab] is obtained.
  • There are two candidates for the direction of the sound source the angle ⁇ [a ⁇ b] and the angle ⁇ [a ⁇ b] ′, but the angle ⁇ [a ⁇ b] ′ in the direction of the user's body may be ignored.
  • the power to the microphones 104c, 104d may be shut off.
  • the broken line range indicated by reference numeral 1101 shown in FIG. 13A indicates the detection range of the sound source direction according to this detection method. As shown, the detection range of the sound direction with respect to the front is wider than the back, but there is no problem because the back is the user's body.
  • FIG. 12B shows a method of detecting the sound direction when it is determined in the process of FIG. 11 that the imaging apparatus 1 is worn on the shoulder of the user.
  • the direction of the head of the user is assumed to be the lower left direction in the drawing.
  • the distance d [a ⁇ b] between the microphones 104 a and 104 b is one side, and ⁇ [a ⁇ b] is obtained.
  • ⁇ [c ⁇ b] one side of which is the distance d [c ⁇ b] between the microphones 104b and 104c, is determined, and the angle with the sound source position is determined by correlating with ⁇ [a ⁇ b].
  • the range indicated by reference numeral 1102 in FIG. 13B indicates the detection range of the sound source direction by this detection method. As shown in the drawing, the detection range of the sound direction narrows in the lower left direction, but there is no particular problem since the user's head is present in this direction.
  • FIG. 12C shows a method of detecting the sound direction in the case where the imaging apparatus 1 is not attached to a moving object such as a user but fixed, in the process of FIG. In this case, power is supplied to all four microphones, and sound directions are performed using these four microphones.
  • the range indicated by reference numeral 1103 in FIG. 13C indicates the detection range of the sound source direction according to this detection method. As illustrated, the sound source direction can be detected without any deviation in the detection range of the sound direction in all directions.
  • the directivity of the microphone suitable for the mounting site is secured at the time of sound direction detection, and detection accuracy is improved. It becomes possible.
  • Second Embodiment A second embodiment will be described.
  • the apparatus configuration is assumed to be the same as that of the first embodiment, and the description thereof is omitted, and different points will be described.
  • the imaging device 1 is fixed to a corner of a room in order to photograph a person in the room.
  • the sound direction detection unit 2044 erroneously detects that there is a sound source in the direction of the wall near the installation position due to some cause, according to the above embodiment, the imaging direction of the lens unit 101 (optical axis direction) Will panic meaninglessly in the direction of the wall.
  • the central control unit 201 sets an effective range (or an invalid range) of the sound direction in the sound direction detection unit 2044. Then, an example will be described in which the sound direction detection unit 2044 stores sound information indicating the direction in an internal buffer only when the detected sound direction is within the effective range in the sound direction detection process. In other words, when the detected sound direction is within the ineffective range in the sound direction detection processing, the sound direction detection unit 2044 does not store the information indicating the detected sound direction in the internal buffer in 2044 a. An example of ignoring (masking) will be described.
  • 14A to 14F are diagrams showing the relationship between the usage pattern of the imaging device 1 assumed in the second embodiment and the corresponding mask area.
  • FIG. 14A is an example in which the imaging device 1 is lowered from the neck of the user.
  • FIG. 14B is a perspective view of the imaging device 1 viewed from the bottom when the illustrated arrow A is defined as the front of the user.
  • the microphones 104 a and the microphones 104 b are areas in which the imaging device 1 can capture an image.
  • the central control unit 201 sets a predetermined range (a range of 180 degrees in the drawing) centered on the direction of the user's body to the sound direction detection unit 2044 as a mask area for sound direction detection.
  • the sound direction detection unit 2044 does not store sound direction information representing the sound direction in the buffer memory 2044a.
  • the sound direction detection unit 2044 stores the sound direction information in the buffer memory 2044a only when the detected sound direction is outside the set mask area.
  • the central control unit 201 does not perform a panning operation in which the imaging direction (optical axis direction) of the lens unit 101 is directed to the mask region.
  • FIG. 14C is an example in which the imaging device 1 is placed on the corner wall of a room.
  • an appropriate angular range for example, 200 degrees
  • an appropriate angular range for example, 200 degrees
  • FIG. 14E is an example in which the imaging device 1 is worn on the shoulder of the user.
  • FIG. 14F shows the mask area as viewed from above the user. As illustrated, a region indicating the direction in which the user's head is present is taken as a mask region.
  • FIG. 15A shows the main processing including mask area setting by the central control unit 201. Also, in the following description, it is assumed that the job of automatic moving image shooting and recording in step S217 of FIG. 6 is being executed.
  • the central control unit 201 checks in step S1502 from the outputs of the imaging unit 102 and the imaging signal processing unit 202 whether or not the current view angle range is a region requiring imaging. As a determination method, it is determined whether the obtained image has a luminance equal to or higher than a predetermined value, the object is at a position where the lens actuator control unit 103 is in focus, or the object is too close.
  • the distance to the subject may be determined by using a distance measuring sensor, a distance map, or the like.
  • the central control unit 201 stores the angle in the storage unit 206 as a sound direction detection mask area in step S1503.
  • step S1504 the central control unit 201 controls the rotation control unit 213 to pan the movable imaging unit 100 by a preset unit angle. Then, the central control unit 201 repeats the processing of step S1502 and subsequent steps until it is determined in step S1505 that this panning operation has been performed 360 degrees (one round). As a result, since the storage unit 206 stores a plurality of angles to be masked, the central control unit 201 determines a range including a plurality of angles sandwiched by the both ends of the plurality of angles as the mask area. Do. Up to this point, the initial sound direction detection mask area determination operation is completed.
  • step S1506 it is assumed that the sound direction detection unit 2044 detects the direction of the sound source.
  • step S1507 the sound direction detection unit 2044 determines whether the direction of the sound source is within the previously determined mask area. When the detected sound source direction is within the mask area, the sound direction detection unit 2044 ignores the sound source direction. That is, the sound direction detection unit does not store the sound direction information in the internal buffer memory 2044a, and returns the process to step S1506.
  • the sound direction detection unit 2044 stores the detected direction in the internal buffer 2044a.
  • the central control unit 201 since it is known that the central control unit 201 detects the sound direction detected by the sound direction detection unit 2044, the central control unit 201 controls the rotation control unit 213 in step S1508 to direct the movable imaging unit 100 toward the sound source. Pan to work.
  • step S1509 if the central control unit 201 can not detect the subject in the image acquired through the video signal processing unit 203 in step S1509, the process returns to step S1506 and the sound direction detection standby state is continued. Do.
  • the central control unit 201 executes jobs such as face recognition, tracking, still image shooting, and moving image shooting in step S1510.
  • the movement detection of the imaging device 1 is performed using the gyro or the acceleration sensor of the position detection unit 212.
  • the central control unit 201 determines that the imaging device 1 is carried. Then, the central control unit 201 returns the process to step S1502 and performs setting processing of the sound direction detection mask area again.
  • FIG. 15A performs the mask area setting process by the preprocess which is normally used by the imaging apparatus 1, the process of updating the sound direction detection mask area will be described as needed with reference to the flowchart of FIG. 15B. It should be noted that the following description also shows the main processing including setting of the mask area by the central control unit 201. That is, in FIG. 15B, power control such as the start command described in the first embodiment is omitted, and setting of the mask area and only the main part of the process based on the sound command from the sound direction detection are shown.
  • central control unit 201 waits for sound direction detection by sound direction detection unit 2044.
  • the central control unit 201 determines whether the detected sound source direction is in the sound detection mask area in step S1523, and if the sound source direction is in the mask area, The sound direction is ignored, and the process returns to step S1522.
  • the central control unit 201 proceeds to step S1524 and controls the rotation control unit 213 to start the panning operation to move the movable imaging unit 100 toward the sound source.
  • the central control unit 201 confirms from the output of the video signal processing unit 203 whether or not the view angle range is a necessary area for shooting.
  • the determination method it is determined whether the obtained image has a luminance equal to or higher than a predetermined value, the object is at a position where the lens actuator control unit 103 is in focus, or the object is too close to be in focus.
  • the distance to the subject may be determined and determined using a distance measurement sensor, a distance map, or the like.
  • the central control unit 201 cancels and stores the sound direction detection mask area in the direction (angle) in step S1526. Conversely, if it is determined that shooting is not necessary partially or entirely in the angle of view, the central control unit 201 saves the direction (angle) as a sound direction detection mask area in step S1527.
  • step S1528 central control unit 201 determines whether or not the direction of the sound source detected in the previous step S1522 has been reached. If not, the central control unit 201 performs a pan operation for a predetermined time in step S1529. Then, the central control unit 201 returns the process to step S1525.
  • step S1530 central control unit 201 detects a subject (face) in the image obtained through video signal processing unit 203. If it can not be detected, the central control unit 201 returns the process to step S1522, and returns to the sound direction detection standby state. On the other hand, when the subject can be detected in the image obtained by the video signal processing unit 203, the central control unit 201 proceeds with the process to step S1531, and performs tracking, still image shooting or moving image shooting according to the recognized voice command. Perform a predetermined operation.
  • the result of the sound direction detection unit 2044 in only the optimum direction can be obtained.
  • FIG. 16 is a schematic diagram in which the imaging device 1 is fixed on the platform 1605 and (the faces of) the subjects 1603 and 1604 are at different heights (one person stands up and the other is seated) It is easy to understand if you think
  • the imaging device 1 is photographing the subject 1603 (reference numeral 1601 is the angle of view at that time), the subject 1604 then makes a voice.
  • the imaging device 1 can detect the horizontal angle (pan angle) of the subject 160, it can not detect the vertical angle (tilt angle) of the subject 1604 (see reference numeral 1602 in the drawing). Angle of view when the pan operation is completed with the tilt angle not determined). Therefore, after the panning operation, it is necessary to gradually perform the tilting operation to detect the subject.
  • a pan angle and a tilt angle representing an imaging direction (optical axis direction) of the lens unit 101 at that time are learned (stored). Then, when the sound direction detected by the sound direction detection unit 2044 is within an allowable range equal to or less than a preset threshold with respect to the learned direction (when the two directions substantially match), the learned direction is completed.
  • the pan operation and the tilt operation are simultaneously performed in the direction of, and the imaging direction (optical axis direction) of the lens unit 101 is made to coincide with the learned direction, thereby shortening the time of the pan operation and the tilt operation.
  • the reference angle described in the first embodiment that is, the horizontal direction (pan 0 degree) of the lens unit 101 when the imaging device 1 is activated, and the horizontal direction of the tilt range
  • the difference is stored in the storage unit 206 as (tilt 0 degree).
  • FIG. 17 is a flowchart showing the processing procedure of the automatic moving image recording job (step S217 in FIG. 6) of the central control unit 201 in the third embodiment. It is assumed that, at the start of this processing, moving image shooting and recording with sound have already been started.
  • step S1701 the central control unit 201 waits for detection of the direction of the sound source by the sound direction detection unit 2044. If the direction of the sound source has been detected, the central control unit 201 advances the process to step S1702, and determines the pan direction from the current imaging direction (optical axis direction) of the lens unit 101 and the detected sound source direction. Determine the angle. Then, in step S 1703, central control unit 201 determines whether subject information that matches the detected sound source direction this time is already registered in storage unit 206. In the imaging device 1 of the present embodiment, the subject information in the past can be stored in the storage unit 206. Information on the time of subject detection, horizontal angle (pan angle), vertical angle (tilt angle) is stored as subject information in the past, so that subject search can be performed for new shooting It can be an effective clue.
  • step S1703 determines in step S1703 that there is past subject information that matches the sound source direction detected this time. If the central control unit 201 determines in step S1703 that there is no subject information that matches the detected sound source direction, the process advances to step S1706.
  • step S1704 the central control unit 201 determines the direction and angle of the tilt operation from the tilt angle represented by the subject information determined to match the currently detected sound source direction and the current tilt angle. Then, in step S1705, the central control unit 201 uses the lens unit 101 based on the direction and angle of the panning operation determined in the previous step S1702, and the direction and angle of the tilting operation determined in step S1704. The pan operation and the tilt operation are performed in parallel so that the image pickup direction (optical axis direction) of the light beam travels toward the target direction with the shortest distance.
  • step S1706 the central control unit 201 causes a panning operation to be performed, and directs the imaging direction (optical axis direction) of the lens unit 101 to the detected sound source in the imaging direction (optical axis direction). Then, central control unit 201 advances the process to step S1707.
  • step S1707 the central control unit 201 performs subject detection from the current captured image obtained from the video signal processing unit 203. If a subject is detected, the process proceeds to step S1708, and shooting of the subject is performed.
  • the central control unit 201 sets the pan angle and tilt angle of the subject information to the current lens unit 101. Update according to your eyes. Further, when there is no subject information of a difference within the allowable range with respect to the current pan angle in the storage unit 206, the central control unit 201 pans indicating the imaging direction (optical axis direction) of the current lens unit 101. The angle and tilt angle are registered in the storage unit 206 as new subject information.
  • step S1709 the central control unit 201 moves (tilts) the imaging direction (optical axis direction) of the lens unit 101 in the vertical direction, and searches for an object. Then, in step S1710, central control unit 201 determines whether or not a subject is detected. If a subject is detected, the process advances to step S1708. When the process proceeds to step S1708, new subject information is registered in the storage unit 206.
  • step S1710 when the subject is not detected, the central control unit 201 proceeds with the process to step S1711, and performs an error process.
  • This error processing may be, for example, processing for continuing shooting and recording at that position, but for example, the imaging direction of the lens unit 101 (optical axis direction) when it is determined in step S1701 that the sound source direction is detected. It may be processing to return to.
  • subject information which is a pan angle within the allowable range with respect to the current pan angle of the horizontal surface of the lens unit 101 is deleted from the storage unit 206.
  • FIG. 18 is a view schematically showing control of the imaging device of the third embodiment. It is assumed that the imaging device 1 can detect the subject 1604 by performing pan operation and tilt operation due to the subject 1604 uttering. In this case, when the subject 1604 utters next time, the imaging apparatus 1 of this embodiment controls the pan operation and the tilt operation to be the shortest distance so that the angle of view of the lens unit 101 is immediately 1801. Will be able to
  • FIG. 19 is a flowchart showing a processing procedure during a job of automatic moving image recording by the central control unit 201 in the present modification. It is assumed that, at the start of this processing, moving image shooting and recording with sound have already been started.
  • steps S1901 and S1902 are added.
  • step S1701 the central control unit 201 waits for the sound direction detection unit 2044 to detect the direction of the sound source.
  • the central control unit 201 determines the direction and angle of the pan operation based on the current imaging direction (optical axis direction) of the lens unit 101 and the detected sound source direction. Do.
  • step S1901 the central control unit 201 determines whether the storage unit 206 has a plurality of pieces of subject information within a preset range centered on the target direction. If it is determined that there is a plurality of pieces of subject information in the sound source direction detected this time, the central control unit 201 shifts the processing to step S1902. If only one or no subject information exists, the central control unit 201 advances the process to step S1703.
  • step S 1902 central control unit 201 determines a target tilt angle at which a plurality of subjects enter within the angle of view of lens unit 101. Then, central control unit 201 advances the process to step S1705.
  • step S1703 and subsequent steps are the same as FIG. 17, the description thereof is omitted.
  • the central control unit 201 operates so that the pan operation and the tilt operation of the movable imaging unit 100 become the shortest distance so as to be 2001, so that natural moving image shooting and recording can be performed.
  • the subject once uttered is recognized within the angle of view of the lens unit 101
  • the subject relative to the reference direction which is the direction of the subject
  • the pan angle and the tilt angle are stored (learned) as subject information.
  • the pan angle in the sound direction detected by the sound direction detection unit 2044 substantially matches the pan angle in the stored subject information after the second time
  • the pan angle and tilt angle indicated by the stored subject information The pan operation and the tilt operation are simultaneously performed to move the movable imaging unit 100 so that As a result, natural switching of the subject is performed, and moving image recording with less discomfort can be performed.
  • the fourth embodiment describes an example in which the detection accuracy of the sound direction detected by the sound direction detection unit 2044 is variable.
  • the principle of detection of the sound direction by the sound direction detection unit 2044 has already been described, but in order to increase the detection accuracy of the sound direction, the number of times of detection per unit time is increased to obtain the average value.
  • increasing the number of times of detection of the unit time value increases the load on the sound direction detection unit 2044, that is, increases the mobility, and the power consumption of the imaging device 1 increases.
  • the sound direction detection accuracy of the sound direction detection unit 2044 is made variable and the accuracy is lowered or increased as necessary.
  • FIGS. 21A, 21B, and 22A to 22C are diagrams showing the relationship between the imaging angle of view in the horizontal direction of the imaging device 1 and the detection resolution in the horizontal direction at the time of sound direction detection in a certain imaging example.
  • the coordinate right direction is 0 ° of the reference direction
  • the counterclockwise rotation direction is a positive direction.
  • an angle indicated by an alternate long and short dash line is taken as an imaging angle of view ⁇ of the lens unit 101 of the imaging device 1.
  • the resolution of the angle in the horizontal direction of the sound direction detection unit 2044 is referred to as sound direction detection resolution ⁇ .
  • the position of the sound source detected by the sound direction detection unit 2044 is indicated by a black circle in the figure.
  • the sound direction detection resolution ⁇ of 90 ° is synonymous with dividing the sound direction detection range into four.
  • the sound direction detection result output from the sound direction detection unit 2044 is one of four directions of 0 to 90 °, 90 to 180 °, 180 to 270 °, and 270 ° to 360 ° (0 °).
  • FIG. 22A shows the initial state of the imaging device 1, and the imaging direction is 90 °. Further, a subject that emits a sound is present at a position indicated by a point in the range of coordinates 270 ° to 360 ° (0 °).
  • shooting is performed by pan driving to change the shooting direction so that the shooting angle of view ⁇ covers the range where the sound direction is detected. It is possible to fit the subject within the angle of view ⁇ .
  • FIG. 22A to 22C show an example of shooting in the case of shooting angle of view ⁇ ⁇ sound direction detection resolution ⁇ .
  • the shooting angle of view ⁇ is 40 °
  • the sound direction detection resolution ⁇ is 90 °.
  • FIG. 22A shows the initial state of the imaging device 1, and the imaging direction is 90 °. Further, a subject that emits a sound is present at a position indicated by a point in the range of coordinates 270 ° to 360 ° (0 °).
  • FIG. 22B or 22C pan drive to change the shooting direction so that the shooting angle of view ⁇ falls within the range where the sound direction is detected as shown in FIG. 22B or 22C. become.
  • the subject can be contained within the shooting angle of view ⁇ , but as shown in FIG. 22B, the subject can not be contained within the changed shooting angle of view ⁇ . In this case, it is necessary to repeat the pan drive to put the subject within the shooting angle of view ⁇ and change the shooting direction as shown in FIG. 22C.
  • the voice detection direction is contained within the shooting angle of view by one pan drive. And subject detection can be performed.
  • shooting angle of view ⁇ ⁇ sound direction detection resolution ⁇ there is a possibility that the voice detection direction can not be contained within the shooting angle of view by one pan drive, and as a result, repeated pan drive adds to the subject detection. It can be understood that there is a problem that it takes a lot of operating time and power consumption.
  • FIG. 23 is a diagram showing the relationship between the sound direction detection resolution ⁇ and the processing amount of the audio signal processing unit 2045.
  • the processing amount per unit time of the audio signal processing unit 2045 increases as the sound direction detection resolution ⁇ decreases, and the processing amount per unit time of the audio signal processing unit 2045 decreases as the sound direction detection resolution ⁇ increases. .
  • the processing amount of the audio signal processing unit 2045 increases, which may affect other processing.
  • the relationship between the shooting angle of view ⁇ and the sound direction detection resolution ⁇ satisfy the condition of shooting angle of view ⁇ > sound direction detection resolution ⁇ and the sound direction detection resolution ⁇ be as large as possible.
  • FIGS. 24A to 24B are diagrams showing the relationship between the shooting angle of view in the horizontal direction of the imaging device 1 and the detection resolution in the horizontal direction at the time of sound direction detection in the fourth embodiment.
  • FIG. 25 is a flowchart showing processing of the central control unit 201 when the voice command recognition unit 2043 recognizes the enlargement command or the reduction command.
  • the flowchart of FIG. 25 is a part of the process of step S164 of FIG. 5B in the first embodiment. That is, the process is performed when it is determined that the voice command is the enlargement or reduction command after step S208 which is omitted in FIG.
  • step S2501 the central control unit 201 determines whether the recognized voice command is an enlargement command or a reduction command. If it is the enlargement command, the central control unit 201 advances the process to step S2502. In step S2502, the central control unit 201 acquires the current position of the zoom lens from the lens actuator control unit 103, and determines whether the position is at the tele end. If the current zoom lens position is at the tele end position, no further enlargement is possible. Therefore, the central control unit 201 ignores the recognized enlargement command, and returns the process to step S151 in FIG. 5B.
  • step S2503 the central control unit 201 controls the lens actuator control unit 103 to increase the zoom magnification by a predetermined magnification. Then, the central control unit 201 returns the process to step S151 of FIG. 5B.
  • step S2501 when it is determined in step S2501 that the recognized voice command is a reduction command, the central control unit 201 advances the process to step S2504.
  • step S2504 the central control unit 201 acquires the current position of the zoom lens from the lens actuator control unit 103, and determines whether the position is at the wide end. If the current zoom lens position is at the wide end, further reduction is not possible. Therefore, the central control unit 201 ignores the recognized reduction command, and returns the process to step S151 in FIG. 5B.
  • step S2505 central control unit 201 controls lens actuator control unit 103 to reduce the zoom magnification by a predetermined magnification. Then, the central control unit 201 returns the process to step S151 of FIG. 5B.
  • the imaging angle of view is 110
  • the lens unit 101 faces 90 degrees to the reference direction
  • the sound direction detection resolution ⁇ is 90 degrees. It shall be.
  • the person indicated by the black circle located at coordinates 270 degrees to 360 degrees utters the enlargement command.
  • the angle of view of the lens unit 101 as a result of the panning operation is as shown in FIG. 26B. That is, it is possible to put the uttered object into the angle of view of the lens unit 101.
  • this command is executed, the angle of view of the lens unit 101 is narrowed. As a result, as shown in FIG.
  • the subject may be out of the angle of view of the lens unit 101 after the update.
  • the panning operation is performed in the state (the sound direction detection resolution ⁇ is 30 degrees) in which the sound direction detection resolution ⁇ having a higher resolution than the previous time is set.
  • the subject can be placed within the angle of view of the lens unit 101. That is, when the person of the subject continuously calls the enlargement command, the imaging direction (the optical axis direction) of the lens unit 101 is directed to the subject with higher accuracy, and is gradually expanded.
  • the voice detection resolution ⁇ is changed even when the shooting angle of view is changed by the zoom drive.
  • the sound direction detection in accordance with the changed voice detection resolution ⁇ , it is possible to efficiently fit the object present outside the angle of view within the angle of view while suppressing the time and power consumption for processing.
  • a person as a subject utters an enlargement command and then utters a moving image photographing command, for example, moving image photographing and storage in the enlarged state of the person are performed.
  • the resolution of the sound direction is changed according to the voice command related to the zoom by the user.
  • the resolution of the sound direction may be increased to specify the speaker regardless of the zoom factor. .
  • the present invention supplies a program that implements one or more functions of the above-described embodiments to a system or apparatus via a network or storage medium, and one or more processors in a computer of the system or apparatus read and execute the program. Can also be realized. It can also be implemented by a circuit (eg, an ASIC) that implements one or more functions.
  • a circuit eg, an ASIC

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

本発明は、特別な操作を行わずとも、ユーザの意図したタイミングで意図した構図の画像を撮像する。このため、撮像部を有する撮像装置であって、撮像部を駆動する駆動部と、ユーザのいる方向を検出する第一の検出部と、撮像装置の動きを検出する第二の検出部と、音声を集音するための複数の集音部と、複数の集音部を用いて音声の音源の方向を検出する第三の検出部と、制御部とを有する。制御部は、第一の検出部によって検出したユーザのいる方向と、および、第二の検出部によって検出した撮像装置の動きとに基づいて、2つ以上の集音部を複数の集音部から決定する。第三の検出部は、決定された2つ以上の集音部を用いて音声の音源の方向を検出する。第三の検出部が決定された2つ以上の集音部を用いて音声の音源の方向を検出した場合、制御部は第三の検出部が検出した音源の方向に、撮像部の撮像方向を向けるよう駆動部を制御する。

Description

撮像装置及びその制御方法及び記録媒体
 本発明は、撮像装置及びその制御方法及び記録媒体に関するものである。
 カメラ等の撮像装置による静止画・動画撮影においては、ユーザがファインダー等を通して撮影対象を決定し、撮影状況を自ら確認して撮影画像のフレーミングを調整することによって、画像を撮影するのが通常である。このような撮像装置では、ユーザの操作ミスを検知してユーザに通知したり、外部環境の検知を行い、撮影に適していない場合にユーザに通知したりする機能が備えられている。また、撮影に適した状態になるようにカメラを制御する仕組みが従来から存在している。
 このようなユーザの操作により撮影を実行する撮像装置に対し、ユーザが撮影指示を与えることなく断続的および継続的に撮影を行うライフログカメラが存在する(特許文献1)。
特表2016-536868号公報
 しかしながら、ユーザの身に着けるタイプの、これまでのライフログカメラでは、定期的に自動撮影を行うものであるので、撮像して得られる画像はユーザの意図しないものとなる場合があった。
 本発明は上記問題に鑑みなされたものであり、特別な操作を行わずとも、ユーザの意図したタイミングで意図した構図の画像を撮像する技術を提供しようとするものである。
 この課題を解決するため、例えば第1の本発明の撮像装置は以下の構成を備える。すなわち、
 撮像手段を有する撮像装置であって、
 前記撮像手段を駆動する駆動手段と、
 ユーザのいる方向を検出する第一の検出手段と、
 前記撮像装置の動きを検出する第二の検出手段と、
 音声を集音するための複数の集音手段と、
 前記複数の集音手段を用いて前記音声の音源の方向を検出する第三の検出手段と、
 制御手段と、を有し、
 前記制御手段は、前記第一の検出手段によって検出したユーザのいる方向と、および、前記第二の検出手段によって検出した前記撮像装置の動きとに基づいて、2つ以上の集音手段を前記複数の集音手段から決定し、
 前記第三の検出手段は、前記決定された2つ以上の集音手段を用いて音声の音源の方向を検出し、
 前記第三の検出手段が前記決定された2つ以上の集音手段を用いて音声の音源の方向を検出した場合、前記制御手段は前記第三の検出手段が検出した音源の方向に、前記撮像手段の撮像方向を向けるよう前記駆動手段を制御することを特徴とする。
 本発明によると、第1には、特別な操作を行わずとも、ユーザの意図したタイミングで意図した構図の画像を撮像する技術を提供しようとするものである。
 また、他の発明によれば、上記第1の効果に加えて、利用形態に合わせて方向検出に利用するマイクの数を変動させることで、省電力化を図り、且つ、ユーザの身に装着した場合等での衣類とのこすれ音による音方向のご検出を防ぐことが可能になる。
 また、他の発明によれば、上記第1の効果に加えて、無意味となる撮像方向への変更が無くすことができる。
 また、他の発明によれば、上記第1の効果に加えて、利用開始からの経過時間によって撮像手段の撮像方向の被写体に向かう動作が効率良くなっていく。
 また、他の発明によれば、上記第1の効果に加えて、音源の方向の精度が、撮像手段の倍率に依存することになり、音源の方向を検出する精度を常に高くする必要がなくなり、消費電力を削減できる。
 本発明のその他の特徴及び利点は、添付図面を参照とした以下の説明により明らかになるであろう。なお、添付図面においては、同じ若しくは同様の構成には、同じ参照番号を付す。
 添付図面は明細書に含まれ、その一部を構成し、本発明の実施の形態を示し、その記述と共に本発明の原理を説明するために用いられる。
実施形態に係る撮像装置のブロック図。 実施形態に係る音声入力部と音声信号処理部の詳細ブロック図。 実施形態に係る撮像装置の上面及び正面図。 実施形態における撮像装置の使用例を示す図。 実施形態における撮像装置の使用例を示す図。 実施形態における撮像装置の使用例を示す図。 実施形態における撮像装置の使用例を示す図。 実施形態に係る撮像装置のパン動作とチルト動作を示す図。 実施形態における中央制御部の処理手順を示すフローチャート。 実施形態における中央制御部の処理手順を示すフローチャート。 図5Bにおける音声コマンド処理の詳細を示すフローチャート。 実施形態における音声コマンドの意味と音声コマンドとの関係を示す図。 実施形態における起動時から動作撮影開始コマンドに至るまでのタイミングチャート。 実施形態に係る音方向検知法を説明するための図。 実施形態に係る音方向検知法を説明するための図。 実施形態に係る音方向検知法を説明するための図。 撮像装置の真上に音源が存在する場合の検出法を説明するための図。 撮像装置の真上に音源が存在する場合の検出法を説明するための図。 第1の実施形態における設置位置の検出処理を示すフローチャート。 第1の実施形態における設置位置別の音源方向の検出原理を示す図。 第1の実施形態における設置位置別の音源方向の検出原理を示す図。 第1の実施形態における設置位置別の音源方向の検出原理を示す図。 第1の実施形態における設置位置別の音源の検出範囲を示す図。 第1の実施形態における設置位置別の音源の検出範囲を示す図。 第1の実施形態における設置位置別の音源の検出範囲を示す図。 第2の実施形態における撮像装置1の利用形態を示す図。 は図14Aの利用形態におけるマスク領域を示す図。 第2の実施形態における撮像装置1の利用形態を示す図。 は図14Cの利用形態におけるマスク領域を示す図。 第2の実施形態における撮像装置1の利用形態を示す図。 は図14Eの利用形態におけるマスク領域を示す図。 第2の実施形態における中央制御部の処理手順を示すフローチャート。 第2の実施形態における中央制御部の処理手順を示すフローチャート。 第3の実施形態における問題点を説明するための図。 第3の実施形態における中央制御部の処理手順を示すフローチャート。 第3の実施形態における改善された動作を説明するための図。 第3の実施形態の変形例における中央制御部の処理手順を示すフローチャート。 第3の実施形態の変形例における改善された動作を説明するための図。 第4の実施形態における音方向の感度と画角との関係を示す図。 第4の実施形態における音方向の感度と画角との関係を示す図。 第4の実施形態におけるズーム倍率を上げた場合お音方向の感度と画角との関係を示す図。 第4の実施形態におけるズーム倍率を上げた場合お音方向の感度と画角との関係を示す図。 第4の実施形態におけるズーム倍率を上げた場合お音方向の感度と画角との関係を示す図。 音方向の検出の分解能と処理の負担との関係を示す図。 第4の実施形態における水平方向の撮影画角と音方向検出時の水平方向の検出分解能の関係を示す図である。 第4の実施形態における水平方向の撮影画角と音方向検出時の水平方向の検出分解能の関係を示す図である。 第4の実施形態における水平方向の撮影画角と音方向検出時の水平方向の検出分解能の関係を示す図である。 第4の実施形態におけるズーム倍率の音声コマンド受信時の中央制御部の処理手順を示すフローチャート。 第4の実施形態における撮像装置の動作内容を説明するための図。 第4の実施形態における撮像装置の動作内容を説明するための図。 第4の実施形態における撮像装置の動作内容を説明するための図。 第4の実施形態における撮像装置の動作内容を説明するための図。
 以下図面に従って本発明に係る実施形態を詳細に説明する。
 [第1の実施形態]
 図1は、第1の実施形態に係る撮像装置1のブロック構成図である。撮像装置1は、光学レンズユニットを含み、撮像する撮像方向(光軸方向)が可変の可動撮像部100、及び、可動撮像部100の駆動制御および、撮像装置全体を制御する中央制御部(CPU)を含む支持部200で構成される。
 なお、支持部200は、圧電素子を含む複数の振動体11~13が可動撮像部100の面に対し接触するように設けられている。これらの振動体11~13の振動の制御により、可動撮像部100がパン、チルト動作を行うことになる。なお、パン、チルト動作はサーボモータ等で実現しても構わない。
 可動撮像部100は、レンズ部101、撮像部102、レンズアクチュエータ制御部103、及び、音声入力部104を有する。
 レンズ部101は、ズームレンズ、絞り・シャッタ、および、フォーカレンズなどの撮影光学系で構成される。撮像部102は、CMOSセンサやCCDセンサなどの撮像素子を含み、レンズ部101により結像された光学像を光電変換して電気信号を出力する。レンズアクチュエータ制御部103は、モータドライバICを含み、レンズ部101のズームレンズ、絞り・シャッタ、および、フォーカスレンズ等の各種アクチュエータを駆動する。各種アクチュエータは、後述する支持部200内の中央制御部201より受信した、アクチュエータ駆動指示データに基づいて駆動される。音声入力部104はマイクロフォン(以降マイク)を含む音声入力部であり複数のマイク(本実施形態では4つ)で構成されており、音声信号を電気信号にさらにデジタル信号(音声データ)に変換して出力する。
 一方、支持部200は、撮像装置1の全体の制御を行うための中央制御部201を有する。この中央制御部201は、CPUと、CPUが実行するプログラムを格納したROM、及び、CPUのワークエリアとして使用されるRAMで構成される。また、支持部200は、撮像信号処理部202、映像信号処理部203、音声信号処理部204、操作部205、記憶部206、表示部207を有する。更に、支持部200は、入出力端子部208、音声再生部209、電源部210、電源制御部211、位置検出部212、回動制御部213、無線通信部214、並びに、先に説明した振動体11~13を有する。
 撮像信号処理部202は、可動撮像部100の撮像部102から出力された電気信号を映像信号へ変換する。映像信号処理部203は、撮像信号処理部202から出力された映像信号を用途に応じて加工する。映像信号の加工は画像切り出し、及び、回転加工による電子防振動作や、被写体(顔)を検出する被写体検出処理も含まれる。
 音声信号処理部204は、音声入力部104からのデジタル信号に対して音声処理を行う。音声入力部104が電気アナログ出力であれば、音声信号処理部204において、電気アナログ信号からデジタル信号に変換する構成が含まれても構わない。なお、音声入力部104を含めた音声信号処理部204の詳細については図2を用いて後述する。
 操作部205は、撮像装置1とユーザとの間のユーザインターフェースとして機能するものであり、各種スイッチ、ボタン等で構成される。記憶部206は、撮影により得られた映像情報などの種々のデータを記憶する。表示部207は、LCDなどのディスプレイを備え、映像信号処理部203から出力された信号に基づいて、必要に応じて画像表示を行う。また、この表示部207は、各種メニュー等を表示することで、ユーザインターフェースの一部として機能する。外部入出力端子部208は、外部装置との間で通信信号および映像信号を入出力する。音声再生部209はスピーカーを含み、音声データを電気信号に変換し、音声を再生する。電源部210は、撮像装置の全体(各要素)の駆動に必要な電力供給源であり、本実施形態では充電可能なバッテリであるものとする。
 電源制御部211は、撮像装置1の状態に応じて、上記の各構成要素への電源部210からの電力の供給/遮断を制御するものである。撮像装置1の状態によっては、不使用の要素が存在する。電源制御部211は、中央制御部201の制御下で、撮像装置1の状態によって不使用な要素への電力を遮断して、電力消費量を抑制する機能を果たす。なお、電力供給/遮断については、後述する説明から明らかにする。
 位置検出部212はジャイロ、加速度センサ、GPSといった撮像装置1の動きを検出する。この位置検出部212は、撮像装置1がユーザに身に着ける場合にも対処するためである。回動制御部213は、中央制御部201からの指示に従って振動体11~13を駆動する信号を生成し、出力する。振動体11~13は圧電素子で構成され、回動制御部213から印加される駆動信号に応じて振動する。振動体11~13は、回動駆動部(パン・チルト駆動部)を構成する。この結果、可動撮像部100は、中央制御部201が指示した方向に、パン動作、チルト動作することになる。
 無線部214はWifiやBLE(Bluetooth Low Energy)などの無線規格に準拠して画僧データ等のデータ送信を行う。
 次に、本実施形態における音声入力部104および音声信号処理部204の構成と、音方向検出処理を図2を参照して説明する。同図は、音声入力部104および音声信号処理部204の構成と、音声信号処理204、中央制御部201及び電源制御部211の接続関係を示している。
 音声入力部104は、4つの無指向性のマイク(マイク104a、マイク104b、マイク104c、マイク104d)で構成される。各マイクはA/Dコンバータを内蔵しており、予め設定されたサンプリングレート(コマンド検出、方向検出処理:16kHz、動画録音:48kHz)で音声をサンプリングし、内蔵のA/Dコンバータによりサンプリングした音声信号をデジタルの音声データとして出力する。なお、本実施形態では音声入力部104は4つのデジタルマイクで構成されるものとしているが、アナログ出力のマイクで構成されても構わない。アナログマイクの場合、音声信号処理部204内に、対応するA/Dコンバータが設ければよい。また、本実施形態におけるマイクの数は4つとするが、3つ以上であればよい。
 マイク104aは、撮像装置1の電源がONの場合には無条件に電力が供給され、集音可能状態となる。一方、他のマイク104b、マイク104c、マイク104dは、中央制御部201の制御下での電源制御部211による電力供給/遮断の対象となっており、撮像装置1の電源がONとなった初期状態では、電力は遮断されている。
 音声信号処理部204は、音圧レベル検出部2041、音声用メモリ2042、音声コマンド認識部2043、音方向検出部2044、動画用音声処理部2045、及び、コマンドメモリ2046で構成される。
 音圧レベル検出部2041は、マイク104aからの音声データが表す出力レベルが予め設定された閾値を超えたとき、音声検出を表す信号を電源制御部211及び音声用メモリ2042に供給する。
 電源制御部211は、音圧レベル検出部2041から音声検出を表す信号を受信した場合、音声コマンド認識部2043への電力供給を行う。
 音声用メモリ2042は、中央制御部201の制御下での電源制御部211による電力供給/遮断の対象の1つである。また、この音声用メモリ2042は、マイク104aからの音声データを一時的に記憶するバッファメモリである。この音声用メモリ2042は、少なくとも、最長の音声コマンドを比較的ゆっくり発声した場合の全サンプリングデータを記憶可能な容量を有する。マイク104aによるサンプリングレートが16kHzであり、1サンプリングにつき2バイト(16ビット)の音声データを出力し、最長の音声コマンドが仮に5秒であった場合、音声用メモリ2042は、約160Kバイト(≒5×16×1000×2)の容量を有する。また、音声用メモリ2042は、マイク104aからの音声データで満たされた場合、古い音声データが新たな音声データで上書きされる。この結果、音声用メモリ2042は、直近の所定期間(上記例では約5秒)の音声データが保持されることになる。また、音声用メモリ2042は、音圧レベル検出部2041から音声検出を示す信号を受信したことをトリガにして、マイク104aからの音声データをサンプリングデータ領域に格納していく。
 コマンドメモリ2046は不揮発性のメモリで構成され、本撮像装置が認識する音声コマンドに係る情報を予め記憶(登録)している。詳細は後述するが、コマンドメモリ2046に格納される音声コマンドの種類は例えば図8に示す通りであり、「起動コマンド」をはじめとして、複数種類のコマンドの情報がコマンドメモリ2046に格納されている。
 音声コマンド認識部2043は、中央制御部201の制御下での電源制御部211による電力供給/遮断の対象の1つである。なお、音声認識そのものは周知であるので、ここでの説明は省略する。この音声コマンド認識部2043は、コマンドメモリ2046を参照し、音声用メモリ2042に格納された音声データの認識処理を行う。そして、音声コマンド認識部2043は、マイク104aにより集音した音声データが、音声コマンドであるか否か、並びに、いずれの登録音声コマンドに一致するのかの判定を行う。そして、音声コマンド認識部2043は、コマンドメモリ2046に記憶されたいずれかの音声コマンドに一致する音声データを検出したとき、いずれのコマンドであるかを示す情報、並びに、音声用メモリ2042内の、その音声コマンドを決定づけた最初と最後の音声データのアドレス(或いはタイミング)を中央制御部201に供給する。
 音方向検出部2044は、中央制御部201の制御下での電源制御部211による電力供給/遮断の対象の1つである。また、音方向検出部2044は、4つのマイク104a乃至104dからの音声データに基づき、周期的に音源の存在する方向の検出処理を行う。音方向検出部2044は、内部にバッファメモリ2044aを有し、検出した音源方向を表す情報をバッファメモリ2044aに格納する。なお、音方向検出部2044による音方向検出処理を行う周期(例えば16kHz)は、マイク104aのサンプリング周期に対して十分に長くて構わない。ただし、このバッファメモリ2044aは、音声用メモリ2042に格納可能な音声データの期間と同じ期間分の音方向情報を記憶するための容量を有するものとする。
 動画用音声処理部2045は、中央制御部201の制御下での電源制御部211による電力供給/遮断の対象の1つである。動画用音声処理部2045は、4つのマイクのうち、マイク103aとマイク104bの2つの音声データをステレオ音声データとして入力し、各種フィルタ処理、ウィンドカット、ステレオ感強調、駆動音除去、ALC(Auto Level Control)、圧縮処理といった動画音声用の音声処理を行う。詳細は後述する説明から明らかになるが、本実施形態ではマイク104aはステレオマイクのLチャネル用マイク、マイク104bはRチャネル用マイクとして機能する。
 なお、図2では、音声入力部104の各マイクと音声信号処理部204に含まれる各ブロックとの接続は消費電力や回路構成を考慮し、4つのマイクにおける必要最低限で表している。しかし、電力および回路構成の許す限り、複数のマイクを音声信号処理部204に含まれる各ブロックで共有して使用しても構わない。また、本実施形態ではマイク104aを基準のマイクとして接続しているが、どのマイクを基準としも構わない。
 図3A~3Eを参照して、撮像装置1の外観図および使用例を説明する。図3Aは、本実施形態に係る撮像装置1の外観の上面及び正面図を示している。撮像装置1の可動撮像部100は、略半球体形であり、水平を0度したとき、-20度から垂直方向を示す90度の範囲の切欠き窓を有し、図示矢印Aが示す水平面にて360度に亘って回動可能な第1の筐体150を有する。また、可動撮像部100は、この切欠き窓に沿って図示の矢印Bが示す水平から垂直の範囲内で、レンズ部101及び撮像部102と一緒に回動可能な第2の筐体151を有する。ここで、第1の筐体150の矢印Aの回動動作はパン動作、第2の筐体151の矢印Bの回動動作はチルト動作に対応し、これらは振動体11~13の駆動によって実現している。なお、本実施形態における撮像装置のチルト可能な範囲は、上記の通り、-20度から+90度の範囲であるものとする。
 マイク104a、104bは、第1の筐体150の切欠き窓を挟む前面側の位置に配置されている。また、マイク104c、104dは、第1の筐体150の後方側に設けられている。図示からもわかるように、第2筐体152を固定にした状態で、第1筐体150を矢印Aに沿ってどの方向にパン動作させたとしても、レンズ部101及び撮像部102に対する、マイク104a、104bの相対的な位置は変わらない。つまり、撮像部102の撮像方向に対して左側にマイク104aが常に位置し、右側にマイク104bが常に位置することになる。それ故、撮像部102による撮像して得た画像が表す空間と、マイク104a,104bによる取得した音場は一定の関係を維持できることになる。
 なお、本実施形態における4つのマイク104a、104b、104c、103dは、撮像装置1の上面から見て、図3Aに示すように長方形の各頂点の位置に配置されている。また、これら4つのマイクは、図3Aにおける1つの水平面上に位置するものとするが、多少のずれがあっても構わない。
 マイク104aとマイク104bとの距離は、マイク104aとマイク104cとの距離よりも大きい。なお、隣合うマイク間の距離は、10mm~30mm程度が望ましい。また、本実施形態ではマイクの数を4としているが、直線上に並ばないという条件を満たせば、マイクの数は3以上であれば構わない。また、図3Aのマイク104a乃至104dの配置位置は一例であって、これらの配置方法は、メカ的制約やデザイン制約によって適宜変更しても構わない。
 図3B~3Eは、本実施形態における撮像装置1の利用形態を示している。図3Bは、机などに撮像装置1に載置される場合で、撮影者自身やその周囲の被写体の撮影を目的とするものである。図3Cは、撮像装置1を、撮影者の首にぶら下げる例であり、主に、撮影者の行動の前方の撮影を目的とするものである。図3Dは、撮像装置1を撮影者の肩に固定した使用例であり、図示の場合は、撮影者の周囲の前後、及び、右側の撮影を目的とするものである。そして、図3Eは、撮像装置1をユーザが持つ棒の端に固定する使用例であり、ユーザが望む所望の撮影位置(高所や手が届かない位置)に撮像装置1を移動させることで、撮影を行うことを目的とするものである。
 図4を参照して、本実施形態の撮像装置1のパン、チルトの動作を更に詳しく説明する。ここでは図3Bのように据え置いた使用例で前提として記載するが、そのほかの使用例においても同様である。
 図4の4aはレンズ部101が水平を向いている状態を示している。図4の4aを初期状態とし、第1筐体150を、上方向から見て反時計回りに90度パン動作させると、図4の4bのようになる。一方、図4の4aの初期状態から、第2筐体151の90度チルト動作をおこなうと、図4の4cの様になる。第1筐体150、第2筐体151の回動は、先に説明したように、回動制御部213により駆動される振動体11~13による振動にて実現している。
 次に、本実施形態における撮像装置1の中央制御部201の処理手順を図5A,5Bのフローチャートに従って説明する。同図に係る処理は、撮像装置1のメイン電源がON、もしくはリセットされた場合の中央制御部201の処理を示している。
 中央制御部201は、ステップS101にて、撮像装置1の初期化処理を行う。この初期化処理にて、中央制御部201は、現在の可動撮像部100の撮像部102の撮像方向における、水平面内の方向成分をパン動作の基準角度(0度)として決定する。
 これ以降、可動撮像部100のパン動作を行った後の撮像方向のうち水平面の成分は、この基準角度からの相対的な角度で表されるものとする。また、音方向検出部2044が検出する音源方向のうちの水平面の成分も、上記基準角度に対する相対的な角度で表されるものとする。また、詳細は後述するが、音方向検出部2044は、撮像装置1の真上の方向(パン動作の回転軸の軸方向)に音源があるか否かの判定も行う。
 なお、この段階で、音声用メモリ2042、音方向検出部2044、動画用音声処理部2045、並び、マイク104b乃至104dへの電力は遮断されている。
 初期化処理を終えると中央制御部201は、ステップS102にて、電源制御部211を制御して、音圧レベル検出部2041、マイク104aへの電力の供給を開始する。この結果、音圧レベル検出部2041は、マイク104aでサンプリングされた音声データに基づく音圧検出処理を実行し、予め設定された閾値を超える音圧レベルの音声データを検出したときにその旨を中央制御部に通知することになる。なお、この閾値は、例えば60dB SPL(Sound Pressure Level)とするが、撮像装置1が環境等に応じて変更してもよいし、必要な周波数帯域だけに絞るようにしてもよい。
 中央制御部201は、ステップS103にて、音圧レベル検出部2041による閾値を超える音圧を表す音声データが検出されるのを待つ。閾値を超える音圧の音声データが検出されると、ステップS104にて、音声メモリ2042はマイク104aからの音声データの受信、格納処理を開始する。
 また、ステップS105にて、中央制御部201は、電源制御部211を制御し、音声コマンド認識部2043への電力供給を開始する。この結果、音声コマンド認識部2043は、コマンドメモリ2046を参照した音声用メモリ2042に格納されていく音声データの認識処理を開始する。そして、音声コマンド認識部2043は、音声用メモリ2042に格納された音声データの認識処理を行い、コマンドメモリ2046内のいずれかの音声コマンドと一致すると音声コマンドを認識した場合、その認識された音声コマンドを特定する情報と、音声用メモリ2042内の、認識した音声コマンドを決定づけた最初と最後の音声データのアドレス(或いはタイミング)情報とを含む情報を中央制御部201に通知することになる。
 ステップS106にて、中央制御部201は、音声コマンド認識部2043から、音声コマンドが認識されたことを示す情報を受信したか否かを判定する。否の場合、中央制御部201は、処理をステップS108に進め、音声コマンド認識部2043を起動させてからの経過時間が、予め設定された閾値を超えたか否かを判定する。そして、経過時間が閾値以内である限り、中央制御部201は、音声コマンド認識部2043による音声コマンドが認識されるのを待つ。そして、閾値が示す時間が経過しても、音声コマンド認識部2043が音声コマンドを認識しなかった場合、中央制御部201は処理をステップS109に進める。このステップS109にて、中央制御部201は、電源制御部211を制御して音声コマンド認識部2043への電力を遮断する。そして、中央制御部201は、処理をステップS103に戻す。
 一方、中央制御部201が、音声コマンド認識部2043から、音声コマンドが認識されたことを示す情報を受信した場合、処理をステップS107に進める。このステップS107にて、中央制御部201は、認識された音声コマンドが、図8に示される起動コマンドに対応するか否かを判定する。そして、認識された音声コマンドが起動コマンド以外のコマンドであると判定した場合、中央制御部201は処理をステップS108に進める。また、認識された音声コマンドが起動コマンドであった場合、中央制御部201は処理をステップS107からステップS110に進める。
 ステップS110にて、中央制御部201は、電源制御部211を制御し、音方向検出部2044、マイク104b乃至104dへの電力供給を開始する。この結果、音方向検出部2044は、4つのマイク104a乃至104dからの同時刻の音声データに基づく、音源方向の検出処理を開始することになる。音源の方向の検出処理は、所定周期で行われる。そして、音方向検出部2044は、検出した音方向を示す音方向情報を、内部のバッファメモリ2044aに格納していく。このとき、音方向検出部2044は、音方向情報を決定に利用した音声データのタイミングが、音声メモリ2042に格納された音声データのどのタイミングであったのかを対応付くように、バッファメモリ2044aに格納する。典型的には、バッファメモリ2044aに格納するのは、音方向と、音声メモリ2042内の音声データのアドレスとすればよい。なお、音方向情報には、水平面における、先に説明した基準角度に対する音源の方向との差を表す角度とする。また、詳細は後述するが、音源が撮像装置1の真上に位置する場合には、真上方向にあることを示す情報が音方向情報にセットされるものとする。
 ステップS111にて、中央制御部201は、電源制御部211を制御し、撮像部102、及び、レンズアクチュエータ制御部103への電力供給を開始する。この結果、可動撮像部100は、撮像装置としての機能し始めることになる。
 次に、ステップS151にて、中央制御部201は、音声コマンド認識部2043から、新たな音声コマンドが認識されたことを示す情報を受信したか否かを判定する。否の場合、中央制御部201は、処理をステップS152に進め、現在、ユーザからの指示に従った実行中のジョブがあるか否かを判定する。詳細は図6のフローチャートの説明から明らかになるが、動画撮影記録や追尾処理等がジョブに相当する。ここでは、そのような実行中のジョブは存在しないものとして説明を続ける。
 ステップS153にて、前回の音声コマンドを認識してからの経過時間が、予め設定された閾値を超えるか否かを判定する。否の場合、中央制御部201は処理をステップS151に戻し、音声コマンドの認識を待つ。そして、実行中のジョブが無く、且つ、前回の音声コマンドを認識してから閾値を超える時間が経過しても、更なる音声コマンドが認識されない場合、中央制御部201は処理をステップS154に進める。このステップS154にて、中央制御部201は、電源制御部211を制御し、撮像部102、レンズアクチュエータ制御部103への電力を遮断する。そして、中央制御部201は、ステップS155にて、電源制御部211を制御し、音方向検出部2044への電力も遮断し、処理をステップS106に戻す。
 さて、中央制御部201が音声コマンド認識部2043から新たな音声コマンドが認識されたことを示す情報を受信したとする。この場合、音声コマンド認識部2043は、処理をステップS151からステップS156に進める。
 本実施形態における中央制御部201は、認識した音声コマンドに応じたジョブを実行するに先立って、音声コマンドの発生した人物を、可動撮像部100の撮像部102の画角内に入れる処理を行う。そして、撮像部102の画角内に人物が入っている状態で、認識した音声コマンドに基づくジョブを実行する。
 上記を実現するため、中央制御部201は、ステップS156にて、音声コマンド認識部2043で認識された音声コマンドに同期する音方向情報を、音方向検出部2044のバッファメモリ2044aから取得する。音声コマンド認識部2043は、先に説明した方に、音声コマンドを認識したとき、音声用メモリ2042内の音声コマンドを表す先頭と終端を表す2つのアドレスを中央制御部201に通知する。そこで、中央制御部201は、この2つのアドレスが示す期間内で検出した音方向情報をバッファメモリ2044aから取得する。2つのアドレスが示す期間内に複数の音方向情報が存在することもある。その場合、中央制御部201はその中の時間的に最も後の音方向情報をバッファメモリ2044aから取得する。時間的に後の音方向情報の方が、その音声コマンドを発した人物の現在の位置を表している蓋然性が高いからである。
 ステップS157にて、中央制御部201は、取得した音情報が表す音源の方向が、撮像装置の真上の方向であるか否かを判定する。なお、音方向が撮像装置の真上であるか否かの判定についての詳細は項後述する。
 音源が撮像装置1の真上の方向にある場合、中央制御部201は処理をステップS158に進める。このステップS158にて、中央制御部201は、回動制御部213を制御し、レンズ部101及び撮像部102の撮像方向を図4の4cに示す真上方向になるように、可動撮像部100の第2筐体151を回動させる。撮像部102の撮像方向が真上方向になった場合、中央制御部201は、ステップS159にて、映像信号処理部203から撮像画像を受信し、撮像画像内に音声発生原となるオブジェクト(人物の顔)が存在するか否かを判定する。否の場合、中央制御部201は処理をステップS151に戻す。一方、撮像画像内にオブジェクトが存在する場合、中央制御部201は処理をステップS164に進め、既に認識した音声コマンドに対応するジョブを実行する。なお、このステップS164の詳細は図6を用いて後述する。
 ステップS157にて、中央制御部201が、音情報が示す方向が真上以外の方向であると判定した場合、処理をステップS160に進める。このステップS160にて、中央制御部201は、回動制御部213を制御して、可動撮像部100のパン動作を行い、現在の撮像部102の水平面の角度を、音情報が示す水平面の角度に一致させる。そして、ステップS161にて、中央制御部201は、映像信号処理部203から撮像画像を受信し、撮像画像内に音声発生原となるオブジェクト(顔)が存在するか否かを判定する。否の場合、中央制御部201は処理をステップS162に進め、回動制御部213を制御して、目標とするチルト角に向かって予め設定された角度だけ可動撮像部100のチルト動作を行う。そして、ステップS163にて、中央制御部201は、撮像部102の撮像方向のチルト角が、チルト動作の上限(本実施形態では水平方向に対して90度)に到達したか否かを判定する。否の場合には、中央制御部201は処理をステップS161に戻す。こうして、中央制御部201は、チルト動作を行いながら、像信号処理部203からの撮像画像内に音声発生原となるオブジェクト(顔)が存在するか否かを判定していく。そして、撮像部102の撮像方向のチルト角がチルトの上限に到達してもオブジェクトが検出されない場合、中央制御部201は処理をステップS163からステップS151に戻す。一方、撮像画像内にオブジェクトが存在した場合、中央制御部201は処理をステップS164に進め、既に認識した音声コマンドに対応するジョブを実行する。
 次に、図6のフローチャート、並びに、図7に示す音声コマンドテーブルに基づいて、ステップS164の処理の詳細を説明する。図7の音声コマンドテーブルに示される“Hi, Camera"等の音声コマンドに対応する音声パターンデータはコマンドメモリ2046に格納されるものである。なお、図7には音声コマンドとして代表的な数例示しているが、この数に特に制限はない。また、以下の説明における音声コマンドは、図5BのステップS151のタイミングで検出された音声コマンドである点に注意されたい。
 まず、ステップS201にて、中央制御部201は、音声コマンドが、起動コマンドであるか否かを判定する。
 この起動コマンドは、撮像装置1に対し、撮像可能な状態に遷移させる音声コマンドである。この起動コマンドは、図5AのステップS107で判定されるコマンドであり、撮像に係るジョブではない。よって、中央制御部201は、認識した音声コマンドが起動コマンドである場合には、そのコマンドについては無視し、処理をステップS151に戻す。
 ステップS202にて、中央制御部201は、音声コマンドが、停止コマンドであるか否かを判定する。この停止コマンドは、一連の撮像可の状態から、起動コマンドの入力を待つ状態に遷移させるコマンドである。よって、中央制御部201は、認識した音声コマンドが停止コマンドである場合には、処理をステップS211に進める。ステップS211にて、中央制御部201は、電源制御部211を制御し、既に起動している撮像部102、音方向検出部2044、音声コマンド認識部2043、動画用音声処理部2045、マイク104b乃至104d等への電力を遮断し、これらを停止する。そして、中央制御部201は、処理を起動時のステップS103に戻す。
 ステップS203にて、中央制御部201は、音声コマンドが静止画撮影コマンドであるか否かを判定する。この静止画撮影コマンドは、撮像装置1に対して1枚の静止画の撮影・記録ジョブの実行の要求を行うコマンドである。よって、中央制御部201は、音声コマンドが静止画撮影コマンドであると判定した場合、処理をステップS212に進める。ステップS212にて、中央制御部201は、撮像部102で撮像した1枚の静止画像データを例えばJPEGファイルとして、記憶部206に格納する。なお、この静止画撮影コマンドのジョブが、1枚の静止画撮影記録により完結するので、先に説明した図5BのステップS152で判定する対象のジョブとはならない。
 ステップS204にて、中央制御部201は、音声コマンドが動画撮影コマンドであるか否かを判定する。動画撮影コマンドは、撮像装置1に対して動画像の撮像と記録を要求するコマンドである。中央制御部201は、音声コマンドが動画撮影コマンドであると判定した場合、処理をステップS213に進める。このステップS213にて、中央制御部201は、撮像部102による動画像の撮影と記録を開始し、処理をステップS151に戻す。本実施形態では、撮像した動画像は記憶部206に格納されるものとするが、外部入出力端子部208を介してネットワーク上のファイルサーバに送信しても構わない。動画撮影コマンドは、動画像の撮像、記録を継続させるコマンドであるので、このコマンドによるジョブは、先に説明したステップS152で判定する対象のジョブとなる。
 ステップS205にて、中央制御部201は、音声コマンドが動画撮影終了コマンドであるか否かを判定する。中央制御部201は、音声コマンドが動画撮影終了コマンドであり、尚且つ、現に動画像の撮像・記録中である場合には、その記録(ジョブ)を終了する。そして、中央制御部201は処理をステップS151に戻す。
 ステップS206にて、中央制御部201は、音声コマンドが追尾コマンドであるか否かを判定する。追尾コマンドは、撮像装置1に対して、撮像部102の撮像方向に、ユーザを継続して位置させることを要求するコマンドである。中央制御部201は、音声コマンドが追尾コマンドであると判定した場合、処理をステップS214に進める。そして、ステップS214にて、中央制御部201は、映像信号処理部203で得られた映像の中心位置にオブジェクトが位置し続けるように、回動制御部213の制御を開始する。そして、中央制御部201は処理をステップS151に戻す。この結果、可動撮像部100がパン動作、或いはチルト動作を行い、移動するユーザを追尾することになる。ただし、ユーザを追尾するものの、撮像した画像の記録は行わない。また、追尾している間は、先に説明した図5BのステップS152で判定する対象のジョブとなる。そして、追尾終了コマンドを受信して初めて、中央制御部201はこの動画像の撮影記録を終了する。なお、追尾中に、例えば静止画撮影コマンドや動画撮影コマンドのジョブを実行しても構わない。
 ステップS207にて、中央制御部201は、音声コマンドが追尾終了コマンドであるか否かを判定する。中央制御部201は、音声コマンドが追尾終了コマンドであり、尚且つ、現に追尾中である場合には、その記録(ジョブ)を終了する。そして、中央制御部201は処理をステップS151に戻す。
 ステップS208にて、中央制御部201は、音声コマンドが自動動画撮影コマンドであるか否かを判定する。中央制御部201は、音声コマンドが自動動画撮影コマンドであると判定した場合、処理をステップS217に進める。このステップS217にて、中央制御部201は、撮像部102による動画像の撮影と記録を開始し、処理をステップS151に戻す。この自動動画撮影コマンドと、先に説明した動画撮影コマンドとの違いは、この自動動画撮影コマンドのジョブが開始された場合、これ以降は、発声がある度に、その発声の音源の方向にレンズ部101の撮像方向を向けつつ動画像を撮影、記録を行う点である。例えば、複数の話者が存在するミーティングの環境下で、発言があるたびにその発言者をレンズ部101の画角内に収めるために、パン動作、チルト動作を行いながら、動画像を記録する。なお、この場合、自由な発言が許すことになるので、一旦、この自動動画撮影コマンドのジョブを終了させる音声コマンドはない。このジョブの終了は、操作部205に設けられた所定のスイッチ操作によって終了するものとする。また、このジョブを実行中、中央制御部201は、音声コマンド認識部2043は停止させる。そして、中央制御部201は、音圧レベル検出部2041により、閾値を超える音圧レベルを検出したタイミングでの、音方向検出部2044が検出した音方向情報を参照して、可動撮像部104のパン動作、チルト動作を行うことになる。
 なお、図6には示していないが、認識した音声コマンドが拡大コマンドである場合、中央制御部201はレンズアクチュエータ制御部103を制御し、予め設定された値だけ、現在の倍率を増加させる。また、認識した音声コマンドが拡大コマンドである場合、中央制御部201はレンズアクチュエータ制御部103を制御し、予め設定された値だけ、現在の倍率を減少させる。なお、レンズ部101が既にテレ端、或いは、ワイド端にあるとき、それを超えた拡大率、縮小率は設定できないので、このような音声コマンドがあった場合、中央制御部201はその音声コマンドを無視する。
 以上であるが、上記以外の音声コマンドについては、ステップS207以降で実行されるが、ここでの説明は省略する。
 ここで、本実施形態における撮像装置1におけるメイン電源ONからの処理のシーケンスの一例を図8に示すタイミングチャートに従って説明する。
 撮像装置1のメイン電源がONになると、音圧レベル検出部2041はマイク1014aからの音声データの音圧レベルの検出処理を開始する。タイミングT601にて、ユーザは、起動コマンド“Hi,Camera”の発声を開始したとする。この結果、音圧レベル検出部2041が閾値を超える音圧を検出する。そして、これがトリガになって、タイミングT602にて、音声用メモリ2042がマイク104aからの音声データの格納を開始し、音声コマンド認識部2043が音声コマンドの認識を開始する。ユーザが起動コマンド“Hi,Camera”の発声を終えると、タイミングT603にて、音声コマンド認識部2043がその音声コマンドを認識し、且つ、認識した音声コマンドが起動コマンドであることを特定する。
 中央制御部201は、この起動コマンドが認識されたことをトリガにして、タイミングT603にて音方向検出部2044に電力供給を開始する。また、中央制御部201は、タイミングT604にて撮像部102への電力供給も開始する。
 ユーザは、タイミングT606にて、例えば“Movie start”の発声を開始したとする。この場合、発生の開始のタイミングの音声データは、タイミングT607から順に音声用メモリ2042に格納されていく。そして、タイミングT608にて、音声コマンド認識部2043が、音声データを“Movie start”を表す音声コマンドとして認識する。音声コマンド認識部2043は、音声用メモリ2042内の“Movie start”を表す音声データの先頭と終端のアドレスと、認識結果を中央制御部201に通知する。中央制御部201は、受信した先頭と終端のアドレスが表す範囲を有効範囲として決定する。そして、中央制御部201は、音方向検出部2044のバッファ2044a内の、有効範囲内から、最新の音方向情報を抽出し、タイミングT609にて、その抽出した情報に基づいて、駆動制御部213を制御して、可動撮像部100のパン動作、チルト動作を開始する。
 可動撮像部100のパン動作、チルト動作中に、タイミングT612にて、撮像部102で撮像画像に被写体(オブジェクト;顔)を検出したとする。中央制御部201はパン動作、チルト動作を停止する(タイミングT613)。また、タイミングT614にて、中央制御部201は、動画用音声処理部2045に電力を供給して、マイク104a、及び、104bによるステレオ音声の収音状態にする。そして、中央制御部201は、タイミングT615にて、音声付動画像の撮像と記録を開始する。
 次に、本実施形態における音方向検出部2044による音源方向の検出処理を説明する。この処理は、図5AのステップS110以降、周期的に、且つ、継続的に行われるものである。
 まず、図9Aを用いて、マイク104aとマイク104bの2つのマイクを用いた簡易の音方向検知を説明する。同図は、マイク104aとマイク104bが平面上(仮想平面上)に配置されているとする。マイク104aとマイク104bの距離をd[a‐b]と表す。距離d[a‐b]に対して、撮像装置1と音源間の距離は十分に大きいと仮定する。この場合、マイク104aとマイク104bの音声を比較することによって、両者間の音声の遅延時間を特定することができる。
 到達遅延時間に音速(空気中は340m/s)を乗じることで、距離I[a‐b]を特定することができる。その結果、次式で音源方向角度θ[a‐b]を特定することができる。
θ[a‐b]=acos(I[a‐b]/d[a‐b])
 しかしながら、2つのマイクで求めた音方向は、求めた音源方向とθ[a‐b]’との区別ができない。つまり、2つの方向のいずれであるのかまでは特定できないことになる。
 そこで、本実施形態における音源の方向の検出方法を以下、図9B、9Cを用いて説明する。具体的には、2つのマイクで推定できる音源方向は2つあるので、それら2つの方向を仮方向として扱う。そして、更なる2つのマイクで音源の方向を求め、仮方向を2つ求める。そして、これらに共通している方向が、求める音源の方向として決定する。なお、図9B、9Cの上方向を可動撮像部100の撮像方向とする。可動撮像部100の撮像方向は、レンズ部101の光軸方向(主軸方向)とも言い換えられる。
 図9Bは3つのマイクで行う方式である。マイク104a、マイク104b、マイク104cを用いて説明する。図3Aで示したような配置図であると、マイク104a、マイク104bの並ぶ方向に直交する方向がレンズ部101の撮像方向となる。
 図9Aで説明したように、マイク104a、マイク104bより、距離d[a‐b]は既知であり、音声データより距離I[a‐b]を特定することができれば、θ[a‐b]を特定できる。さらにマイク104a、マイク104c間の距離d[a‐c]も既知であるので、音声データより距離I[a‐c]も特定することができ、θ[a‐c]を特定できる。θ[a‐b]及びθ[a‐c]が算出できれば、マイク104a,104b、104cの配置と同一2次元平面上(仮想平面上)における、それらに共通な方角が、正確な音声発生方向として決定できる。
 図9Cを用いて、4つのマイクで音源方向を決定する方法を説明する。図3Aに示すマイク104a、マイク104b、マイク104c、マイク104dの配置により、マイク104a、マイク104bの並ぶ方向に直交する方向がレンズ部101の撮像方向(光軸方向)となる。マイク4つを利用する場合、対角線上に位置するマイク104aと104dのペアと、マイク10bとマイク104cのペアの2つのペアを用いると精度よく音源方向を算出できる。
 マイク104a、マイク104d間の距離d[a‐d]は既知であるので、音声データから距離I[a‐d]を特定できるので、θ[a‐d]も特定できる。
 更にマイク104b、マイク104c間の距離d[b‐c]も既知であるので、音声データより距離I[b‐c]を特定できるので、θ[b‐c]を特定できる。
 よって、θ[a‐d]及びθ[b‐c]がわかれば、マイクの配置と同一2次元平面上では正確な音声発生方向を検知することが可能である。
 さらに、θ[a‐b]、θ[c‐d]と検知角度を増やしていけば、方向検知の角度の精度を高めることも可能である。
 以上のよう処理を行うため、マイク104aとマイク104bとマイク104cおよびマイク104dは図3Aのように長方形の4つの頂点に配置した。なお、マイクの数が3つであっても、それらが直線上に並ばないのであれば、必ずしも4つである必要はない。
 上記の方法のデメリットとして、同一2次元平面上の音方向しか検知しかできない。そのため、音源が撮像装置1の真上に位置する場合には、その方向を検出できず、不定となってしまう。そこで、次に、音方向検出部2044における、音源の存在する方向として真上であるか否かの判定原理を図10A,10Bを参照して説明する。
 図10Aは3つのマイクで行う方式である。マイク104a、マイク104b、マイク104cを用いて説明する。図3Aで示したような配置図であると、マイク104a、マイク104bの並び方向に直交する方向がレンズ部101の撮像方向(光軸方向)である。マイク104a、マイク104bの並び方向とは、マイク104aの中心点とマイク104bの中心点とを結ぶ直線の方向である。
 音声入力部104の配置されている平面に対して、垂直に交わる直線上、すなわち上方向から音声が入ってきたときについて記載する。
 ここで、撮像装置1の真上に音源が位置する場合、その音源からマイク104aとマイク104bは等距離にあると見なせる。つまり、音源からこれら2つのマイク104aと104bに到達する音の時間差は無い。そのため、マイク104aとマイク104bを結ぶ直線に対して、垂直に交わる方向に音源があると認識される。
 さらに、マイク104aとマイク104cも同様に音源からは等距離にあると見なせるので、やはり音源からこれら2つのマイク104aと104cに到達する音の時間差は無い。そのため、マイク104aとマイク104cを結ぶ直線に対して、垂直に交わる方向に音源があると認識される。
 つまり、マイク104aとマイク104bで検出した音の時間差の絶対値をΔT1とし、マイク104aとマイク104cで検出した音の時間差の絶対値をΔT2とし、予め設定された十分に小さい閾値εとの関係が次の条件を満たす場合、音源が撮像装置1の真上に位置すると判定できる。
条件:ΔT1<ε かつ ΔT2<ε
 図10Bを参照し、4つのマイク104a、マイク104b、マイク104c、マイク104dを用いた、撮像装置1の真上に位置する音源の検出法を説明する。図3Aに示すように、マイク104a、マイク104dのペアと、マイク104bとマイク10cのペアについて考察する。
 撮像装置1の真上に音源が存在する場合、その音源からマイク104aとマイク104dは等距離になるので、これらマイク104aとマイク104dで検出する音の時間差の絶対値ΔT3はゼロか、非常に小さい値となる。つまり、マイク104aとマイク104dを結ぶ直線に対して、垂直に交わる方向に音源があると認識となる。
 さらに、マイク104bとマイク104cも、音源からは等距離になるため、これらマイク104bとマイク104cで検出する音の時間差の絶対値ΔT4もゼロか、非常に小さい値となる。つまり、マイク104bとマイク104cを結ぶ直線に対して、垂直に交わる方向に音源があると認識となる。故に、次の条件を満たす場合、音源が撮像装置1の真上に位置すると判定できる。
条件:ΔT3<ε 且つ ΔT4<ε
 以上のように、3つ以上のマイクのうちの2つのペアについて、音の到達時間差の絶対値を求め、それら2つの絶対値が共に十分に小さい閾値以下となった場合に、音源の存在方向を真上であると決定できる。なお、2つのペアを決めるとき、それら2つのペアの向きが互いに非平行となるように決定すれば、どのような組み合わせでもよい。
 以上、第1の実施形態を説明した。上記実施形態によれば、音方向検出部2044が順に検出しつつある音方向情報のうち、音声コマンド認識部2043が認識した音声コマンドの元になった音声データの先頭と終端で示される期間の音方向情報が示す方向に音声コマンドを発した被写体が存在するとして判定する。この結果、音声コマンドを発声した人物(の顔)以外を誤って被写体とすることを抑制できる。また、音声コマンドを発した人物の意図したジョブを実行することも可能になる。
 更に、上記実施形態で説明したように、マイク104a乃至104d、音声信号処理部204を構成する各要素は、実際にそれらが利用する段階でなって初めて中央制御部201の制御の下で電力供給が行われるので、全構成要素が可動状態にある場合と比較して、電力消費量を抑制できる。
 次に、上記実施形態の説明を踏まえ、具体的な利用形態を説明する。図3A~3Eに示すように、本実施形態における撮像装置1の利用形態は様々である。
 ここで、例えば、図3Cの様に、ユーザの首にぶら下げる場合について考察する。この場合、レンズ部101の撮像方向(光軸方向)がユーザの体の方向に向くと、不要な画像を撮像してしまうのは容易に理解できよう。それ故、レンズ部101の撮像方向(光軸方向)は、ユーザにとって常に前方に向かうことが望ましい。この場合、図3Aに示すように、4つのマイクのうち、マイク104c、194dがユーザの体に触れる可能性が高い。つまり、このマイク104c、1094dが、ユーザの衣類とのこすれ音を集音する可能性が高くなり、4つのマイクでの音方向検出部2044による音方向検出の際の支障を来す。そこで、本実施形態では、撮像装置1をユーザの首にぶら下げる利用形態の場合、中央制御部201は、マイク104c、104dへの電力を遮断すると共に、音方向検出部2044に対し、マイク104a、104bの2つのみを用いた音方向検出を行うよう指示する。この場合、図9Aを参照して説明した、2つのマイクのみでの音源方向を求めると音源方向が2つ検出されてしまうという問題は無い。なぜなら、音源方向は、少なくともユーザの前方の範囲内にあると見なしてよいからである。つまり、音方向検出部2044は、マイク104a、104bの2つのみを用いるため計算上は2つの音方向を検出するものの、ユーザの前方にある音源方向を有効な音源方向として検出する。なお、ユーザの体の有る方向の検出は、例えば首にぶら下げられていると判定した後、360度(一周)のパン動作を行い、測距した距離の最短となる方向(図3Cのユーザの胸部の方向)を中心とする適当な角度(例えば図3Cでは180度)の範囲をユーザの存在する方向として決定すればよい。また、中央制御部201は、決定した方向を記憶部206に基準方向として保存する。
 次に、図3Dの様に、ユーザの肩に装着する場合についても考察する。この場合、4つのマイクのうち、いずれか1つがユーザの頭に近い位置になり、ユーザの頭、或いは衣類に接する可能性が高くなる。そこで、この場合には、4つのマイクのうち、ユーザの頭に近い1つを音方向検出の際に不使用(電源OFF)とし、残り3つで音源方向を検出する。一旦、ユーザの肩に撮像装置1を装着(固定)した場合、ユーザの動きとは無関係に、撮像装置1とってのユーザの頭の相対方向は変化しない。そこで、中央制御部201は、この方向をユーザの頭の方向として記憶部206に記憶する。そして、中央制御部201は、4つのマイクのうち、記憶した方向とレンズ部101の撮像方向(光軸方向)に基づき、ユーザの頭に近い側の1つのマイクを方向検出に不使用(電力を遮断)とし、且つ、音方向検出部2044には残りの3つマイクを用いて方向検出を行うように設定する。なお、ユーザの頭の有る方向の検出は、例えば肩に装着されていると判定した後、360度のパン動作を行い、測距した距離の最短となる方向を中心とする適当な角度(例えば90度)の範囲をユーザの存在する方向として決定すればよい。また、中央制御部201は、測距した距離の最短となる方向(ユーザの頭の方向)は記憶部206に基準方向として保存する。
 そして、図3B,3Eの利用形態の場合、音方向検出部2044は4つのマイクを用いた音方向検出を行えばよい。
 ここで、図3B乃至3Eのいずれの利用形態とするかは、ユーザが支持部200の操作部205から設定する。ただし、ユーザが操作部205により、オート検出モードを設定した場合、中央制御部201による利用形態の自動検出を行う。以下、オート検出モードが設定されている場合の中央制御部201の自動検出の処理を説明する。
 本実施形態における、位置検出部212はジャイロセンサ、加速度センサ、GPSセンサといった撮像装置1の動きを検出する構成を有することは既に説明した。そこで、撮像装置1のメイン電源がONになり、図5AのステップS101の初期化処理後は、基本的に図3Bの状態、すなわち、撮像装置1は固定状態にあるとして、音方向検出部2044が音方向検出を行う。
 一方、図5AのステップS101の初期化処理後に、ユーザが撮像装置1を持ってその利用形態を決める操作を行うと、当然、位置検出部212の加速度センサやジャイロ等のセンサにより閾値より大きい変化を検出することになる。また、ユーザがこの操作を行うタイミングは、撮像装置1のメイン電源の投入したタイミングとする。例えば、位置検出部212は、初期化処理後の予め設定された期間内にセンサのうちの1つでも閾値より大きい変化を検出した場合、ユーザによる撮像装置1の設置操作を行っていると推定し、中央制御部201に割り込み信号を発する。
 図11に示すフローチャートは、この割り込み処理(撮像装置1の設置位置の検出処理)を示している。以下、同図を参照して、中央制御部201の処理を説明する。
 まず、ステップS1101にて、中央制御部201は、位置検出部212が有する各センサが出力してくるデータを、予め設定された期間分、記憶部206に保存を行う。この保存する期間は、ユーザが利用形態に係る操作を完了するまでに十分な時間が望ましい(例えば1分)。
 この保存期間を終えると以下に説明するように、中央制御部201は、保存したデータに基づく、撮像装置1の設置位置判定を行い、音方向検出部2044による音方向検出法を決定する。なお、以下の説明にて、x、y軸が表す平面は、撮像装置1のパン動作の回転軸に垂直な面を表し、z軸は撮像装置1のパン動作の回転軸の軸方向を表すものとして説明する。
 ユーザは、撮像装置1を肩に装着する(図3Dの)場合、x,y,z軸のいずれかの方向への移動量が図3B,3C,3Eの場合と比較し、かなり大きくなる傾向がある。それ故、中央制御部201は、ステップS1102にて、保存されたx、y、z軸それぞれの加速度のいずれかが予め設定された閾値を超えるか否かを判定する。閾値を超える角速度があった場合、中央制御部201は、撮像装置1がユーザの肩に装着されたものと推定し、ステップS1103にて、ユーザの頭部に近い1つのマイクを除く、残り3つのマイクによる音方向検出法(又はルール)に従って音源方向の検出を行うよう、音方向検出部2044に設定し、本処理を終える。
 ステップS1102にて、x、y、z軸のいずれの方向の加速度も閾値以下であった場合、中央制御部201は処理をステップS1104に進める。
 首にぶら下げる場合、肩載せに比べ、x、y、z、方向への移動量が小さくなる傾向がある。且つ、撮像装置1を首にかける為には、図3Cに示す通り、上下をひっくり返す動作が必要になる。このため、首にかける動作を行う場合は、ある特定軸の角速度が大きくなる傾向がある。また、z軸回りの回転は少ない。
 そこで、ステップS1104にて、中央制御部201は、x、y、z軸に沿った角速度の検出と閾値比較を行う。具体的には、z軸に対する角速度(ヨー)が予め設定された閾値以下であり、且つ、x軸、或いはy軸に対する角速度(ロール、ピッチ)が予め設定された閾値(上の閾値とは別の閾値ですので、冠詞はtheにしないでください。)より大きいか判定を行う。
 この条件を満たす場合、中央制御部201は、撮像装置1はユーザの首にぶら下げられているものと推定する。そして、4つのマイクのうち、マイク104a,104bの2つのマイクのみを用い、且つ、マイク104c,104dとは逆方向が音源の存在位置であるものと見なす音方向検出法にしたがった音源方向検出を行うよう、(「マイクのみを用い」は「音源方向検出を行う」に係るようにしてください。)中央制御部201は音方向検出部2044に設定し、本処理を終える。
 一方、ステップS1104にて、ヨー方向の角速度が閾値より大きい、且つ、ロールまたはピッチの角速度が閾値以下であると判定された場合、中央制御部201がステップ1106にて、撮像装置1が、ユーザの手で適当な位置に固定されたものと見なす。それ故、中央制御部201は、ステップS1106にて、4つのマイクを用いた音方向検出法に従って音源方向の検出を行うよう、音方向検出部2044に設定し、本処理を終える。
 図12Aは、撮像装置1がユーザの首にぶら下げた場合の音方向検出方法を示す図であり、図12Bは、撮像装置1がユーザの肩に固定された場合の音方向検出方法を示す図である。そして、図12Cは、撮像装置1が固定された場合の音方向検出方法を示す図である。
 図13A乃至13Cは、図12A乃至12Cそれぞれの方法で得られるマイクの指向性を示した図である。なお、図12A乃至12Cによる音源方向の決定法が、図9A乃至9Cと同じため詳細な説明を省略し、以下、簡単に説明する。
 図12Aは、図11の処理にて、撮像装置1がユーザの首にかけられたと判断された場合の音方向の検出法を示している。音源の方向導出原理そのものは、図9Aと同じである。マイク104a、マイク104b間の距離d[a-b]を一辺とし、θ[a-b]を求める。音源の方向は角度θ[a-b]および角度θ[a-b]’の2つの候補があるが、ユーザの体の方向の角度θ[a-b]’は、無視すればよい。また、先に説明したように、マイク104c、104dへの電力は遮断してよい。なお、図13Aに示す参照符号1101が示す破線範囲が、この検出法による音源方向の検出範囲を示している。図示のように、前方に対する音方向の検出範囲が後方よりも広くなるが、後方はユーザの体になるので問題はない。
 図12Bは、図11の処理にて、撮像装置1がユーザの肩に装着されたと判断された場合の音方向の検出法を示している。ユーザの頭の方向は、図示の左下方向であるものとしている。撮像装置1はユーザの肩に装着された場合、マイク104a、マイク104b間の距離d[a-b]を一辺とし、θ[a-b]を求める。その後、マイク104b、マイク104c間の距離d[c-b]を一辺とした、θ[c-b]を求め、θ[a-b]との相関をとることで音源位置の角度を求める。電源がOFFとなるのは、4つのマイクのうち1つであり、残り3つは、音方向検出部2044が可動中である限り、電源が供給される。図13Bの参照符号1102が示す範囲は、この検出法による音源方向の検出範囲を示している。図示のように、音方向の検出範囲が左下方向が狭くなるが、この方向にユーザの頭が存在することになるので、特に問題はない。
 図12Cは、図11の処理にて、撮像装置1がユーザ等の移動体に装着されるのではなく、固定される場合の音方向の検出法を示している。この場合、4つのマイクの全てへの電源が供給され、これら4つのマイクを用いた音方向が行われる。図13Cの参照符号1103が示す範囲が、この検出法による音源方向の検出範囲を示している。図示のように、音方向の検出範囲が全方向に対して偏りなく音源方向が検出できる。
 以上、撮像装置の取り付け位置を検出し、該検出情報に応じた音方向検知方法を選択することで、音方向検知時に、取り付け部位に適したマイクの指向性を確保し、検知精度を向上することが可能となる。
 [第2の実施形態]
 第2の実施形態を説明する。装置構成は、上記第1の実施形態と同じであるとし、その説明は省略し、異なる点について説明する。
 撮像装置1を、室内の人員を撮影するため、部屋の隅に固定する場合を考察する。しかし、何等かの原因により、音方向検出部2044が設置位置の近くの壁の方向に音源があると誤検出した場合、上記実施形態によれば、レンズ部101の撮像方向(光軸方向)は一旦、その壁の方向への無意味なパン動作をしてしまう。
 そこで、本第2の実施形態では、中央制御部201は、音方向検出部2044に対して、音方向の有効範囲(或いは無効範囲)を設定する。そして、音方向検出部2044は、音方向検出処理にて、検出した音方向が有効範囲内にある場合のみ、その方向を示す音情報を、内部のバッファに2044aに格納する例を説明する。換言すれば、音方向検出部2044は、音方向検出処理にて、検出した音方向が無効範囲内にある場合には、その検出した音方向を示す情報を内部のバッファに2044aに格納せず、無視(マスク)する例を説明する。
 図14A乃至14Fは、本第2の実施形態にて想定した撮像装置1の利用形態と、対応のマスク領域との関係を示す図である。
 図14Aは撮像装置1をユーザの首から下げた例である。図示の矢印Aをユーザの前方と定義したとき、図14Bは、撮像装置1を底面から見た透視図である。図示の様に、マイク104a及びマイク104b側が撮像装置1の撮影できる領域である。逆にマイク104c及び、マイク104dが配置されている側は撮影する必要のない領域であることがわかる。そこで、中央制御部201は、音方向検出部2044に対し、ユーザの体の方向を中心とする所定の範囲(図示では180度の範囲)を、音方向検出のマスク領域として設定する。この設定を受け、音方向検出部2044は、検出した音方向が、設定されたマスク領域内にある場合には、その音方向を表す音方向情報をバッファメモリ2044aに格納しない。換言すれば、音方向検出部2044は、検出した音方向が、設定されたマスク領域外にある場合のみ、音方向情報をバッファメモリ2044aに格納する。この結果、中央制御部201は、レンズ部101の撮像方向(光軸方向)を、マスク領域に向かうようなパン動作を行わないようになる。
 図14Cは撮像装置1を部屋の隅の壁際においた例である。この時、図14Dが表すように、撮像装置1を上面から見たとき、四隅に向かう方向を中心とする適当な角度範囲(例えば200度)をマスク領域とする。
 図14Eは撮像装置1をユーザの肩に装着した例である。図14Fは、ユーザの上方から見た場合のマスク領域を示している。図示の如く、ユーザの頭部が存在する方向を示す領域をマスク領域とする。
 次に、第2の実施形態における、中央制御部201による処理を図15Aのフローチャートを参照して説明する。図15Aは、中央制御部201によるマスク領域設定を含む、主要な処理を示している点に注意されたい。また、以下では、図6のステップS217の自動動画撮影記録のジョブが実行されているものとして説明する。
 中央制御部201は、自動動画撮影モードに移行すると、ステップS1502にて、撮像部102、撮像信号処理部202の出力より、現在の画角範囲が撮影の必要な領域かどうかか確認する。判断方法としては、得られた画像が所定値以上の輝度があるか、レンズアクチュエータ制御部103によってフォーカスが合う位置に被写体がいるか、もしくは被写体が近すぎないかを判断する。測距センサや、距離マップなどを用いて被写体までの距離を求めて判断してもよい。
 現在の画角の一部もしくは全体が、撮影不要と判断された場合、中央制御部201は、ステップS1503にて、その角度を音方向検知マスク領域として、記憶部206に保存する。
 中央制御部201は、ステップS1504にて、回動制御部213を制御し、予め設定された単位角度だけ、可動撮像部100をパン動作させる。そして、中央制御部201は、ステップS1505にて、このパン動作が360度(一周)したと判定するまで、ステップS1502以降の処理を繰り返す。この結果、記憶部206には、マスクする複数の角度が格納されているので、中央制御部201は、複数の角度のうちの両端の角度で挟まれる複数の角度を含む範囲をマスク領域として決定する。ここまで、初期の音方向検知マスク領域判定動作を完了とする。
 この後、ステップS1506にて、音方向検出部2044が音源の方向を検出したとする。この場合、ステップS1507にて、音方向検出部2044は、その音源の方向が先に決定したマスク領域内にあるか否かを判定する。検出した音源方向がマスク領域内にあるとき、音方向検出部2044はその音源方向を無視する。つまり、音方向検出部は、音方向情報を、内部のバッファメモリ2044aに格納せず、処理をステップS1506に戻す。
 一方、検出した音方向がマスク領域外であった場合、音方向検出部2044は、検出した方向を内部バッファ2044aに格納する。この結果、中央制御部201は、音方向検出部2044による音方向検出があったことがわかるので、ステップS1508にて、回動制御部213を制御し、可動撮像部100を音源方向に向かうようにパン動作させる。
 そして、ステップS1509にて、中央制御部201が、映像信号処理部203を介して取得した画像内に被写体を検出できなかった場合は、処理をステップS1506に戻し、音方向検知の待機状態を継続する。
 一方、撮像画像内に被写体が含まれている場合、中央制御部201は、ステップS1510にて、顔認識、追尾、静止画撮影や動画撮影といったジョブを実行する。ここで、ステップS1511にて、位置検出部212のジャイロや加速度センサをもちいて撮像装置1の移動の検出が行われる。ここで位置検出部212によって撮像装置1の移動が検出された場合、中央制御部201は撮像装置1が持ち運ばれていると判断する。そして、中央制御部201は、ステップS1502に戻し、再度の音方向検知マスク領域の設定処理を行う。
 図15Aは、マスク領域設定処理を、撮像装置1の通常利用する事前処理で行うものであったが、随時、音方向検知マスク領域を更新する処理を図15Bのフローチャートを参照して説明する。なお、以下の説明でも、中央制御部201によるマスク領域設定を含む、主要な処理を示している点に注意されたい。つまり、図15Bでは、第1の実施形態で説明した起動コマンド等の電源制御については省略し、マスク領域の設定と、音方向検出から音声コマンドに基づく処理の主要部のみを示している。
 中央制御部201は、ステップS1522にて、音方向検出部2044による音方向検出を待つ。音方向検出があると、中央制御部201は、ステップS1523にて、検出した音源の方向が音検出のマスク領域内にあるか否かを判定し、音源の方向がマスク領域内であれば、その音方向は無視し、ステップS1522に処理を戻す。なお、初期状態では、音方向検出のマスク領域が設定されていない。それ故、中央制御部201は、ステップS1524に処理を進め、回動制御部213を制御し、可動撮像部100を音源方向に向かうようにパン動作を開始させる。
 所定の時間のパン動作後、ステップS1525にて、中央制御部201は、映像信号処理部203の出力より、画角範囲が撮影の必要な領域かどうかか確認する。判断方法としては、得られた画像が所定値以上の輝度があるか、レンズアクチュエータ制御部103によってフォーカスが合う位置に被写体がいるか、もしくは被写体が近すぎて合焦不可となるかを判断する。測距センサや、距離マップなどを用いて被写体までの距離を求めて判断しても構わない。
 現在の画角の一部もしくは全体が、撮影の必要な領域と判断された場合、中央制御部201は、ステップS1526にて、その方向(角度)は音方向検知マスク領域を解除して保存する。逆に、画角の一部もしくは全体が撮影不要と判断された場合、中央制御部201は、ステップS1527にて、その方向(角度)を音方向検知マスク領域として保存する。
 そして、中央制御部201は、ステップS1528にて、先のステップS1522にて検出した音源の方向に到達したか否かを判定する。否の場合、中央制御部201はステップS1529にて、所定の時間パン動作を行う。そして、中央制御部201は、処理をステップS1525に戻す。
 ステップS1528にて、中央制御部201が、音方向検出部2044の方向へのパン動作を行ったと判断した場合、処理をステップS1530に進める。このステップS1530にて、中央制御部201は、映像信号処理部203を介して得た画像内に被写体(顔)を検出する。検出できなかった場合、中央制御部201は、処理をステップS1522に戻し、音方向検知の待機状態に戻す。一方、映像信号処理部203で得た画像中に被写体を検出できた場合、中央制御部201は、処理をステップS1531に進め、認識した音声コマンドに応じた、追尾、静止画撮影や動画撮影といった所定動作を行う。
 以上のようにして、音方向検知マスク領域を拡大、縮小していくことによって、最適な方向のみの音方向検出部2044の結果を得ることができる。
 以上のようにして、音方向検知マスク領域を拡大、縮小の更新処理を行うことによって、最適な方向のみの音方向検出部2044の結果を得ることができる。
 [第3の実施形態]
 本第3の実施形態は、図6のステップS217の自動動画記録のジョブに適用した例を説明する。図16は、撮像装置1が演壇1605上に固定されており、被写体(の顔)1603、1604が異なる高さとなっている模式図である(一方の人物が起立しており、他方が着席していると考えるとわかりやすい)。
 図16において、撮像装置1が被写体1603を撮影している最中に(参照符号1601がその時の画角)、その後、被写体1604が声を発したとする。この場合、撮像装置1は被写体160の水平方向の角度(パン角)を検知することができるが、被写体1604の垂直方向の角度(チルト角)は検知することができない(図示の参照符号1602はチルト角未定でパン動作が完了した際の画角)。このため、パン動作後に、チルト動作を徐々に行っては被写体を検出する必要がある。
 しかしながら、被写体1603と被写体1604の撮影が交互に繰り返される場合、パン動作するたびに、画角のチルト動作を行って被写体を探索する必要が出てきてしまい、被写体の検出までに、より多くの時間がかかる。また、動画を記録している場合には、違和感のある画角移動をする動画が記録されてしまうといった問題が発生してしまう。
 そこで、本第3の実施形態では、一度、被写体を認識した場合、その際のレンズ部101の撮像方向(光軸方向)を表すパン角、チルト角を学習(記憶)する。そして、音方向検出部2044が検出した音方向が、学習済みの方向に対して、予め設定された閾値以下の許容範囲内にある場合(2つの方向がほぼ一致する場合)は、その学習済みの方向に向けてパン動作とチルト動作を同時に実行し、レンズ部101の撮像方向(光軸方向)を学習済みの方向に一致させ、パン動作、チルト動作の時間の短縮を図る。なお、パン角、チルト角の学習では、第1の実施形態で説明した基準角、すなわち、撮像装置1の起動時のレンズ部101の水平面の方向(パン0度)、及ぶチルト範囲の水平方向(チルト0度)として、その差分を記憶部206に記憶するものとする。
 図17は、本第3の実施形態における、中央制御部201の自動動画記録ジョブ(図6のステップS217)の処理手順を示すフローチャートである。なお、本処理を開始する際に、既に、音声付きの動画像撮影、記録が開始されているものとする。
 まず、ステップS1701において、中央制御部201は、音方向検出部2044による音源の方向の検出を待つ。音源の方向の検出が行われた場合、中央制御部201は、処理をステップS1702に進め、現在のレンズ部101の撮像方向(光軸方向)と検出した音源の方向から、パン動作の方向と角度を決定する。そして、ステップS1703にて、中央制御部201は、今回検出した音源方向に一致する、被写体情報が記憶部206に既に登録されているか否かを判断する。本実施形態の撮像装置1においては、過去の被写体情報を記憶部206に保存しておくことができる。過去の被写体情報として、被写体検出を行った時間、水平方向の角度(パン角)、垂直方向の角度(チルト角)の情報を蓄積しておくことで、新たな撮影を行う時の被写体検索の有効な手がかりとすることができる。
 ステップS1703において、中央制御部201が、今回検出した音源方向に一致する過去の被写体情報があると判断した場合、処理をステップS1704に移行する。また、ステップS1703において、中央制御部201が、今回検出した音源方向に一致する、被写体情報が無いと判断した場合、処理をステップS1706に進める。
 ステップS1704において、中央制御部201は、今回検出した音源方向に一致すると判定された被写体情報が表すチルト角と、現在のチルト角とから、チルト動作の方向と角度を決定する。そして、ステップS1705にて、中央制御部201は、先のステップS1702において決定されたパン動作の方向と角度と、ステップS1704において決定されたチルト動作の方向と角度の情報を元に、レンズ部101の撮像方向(光軸方向)が最短距離で目標方向に向かうべく、パン動作とチルト動作を並行して実行する。このようにすることで、過去の被写体情報を検出した時点から撮像装置1と被写体の位置関係が変化していない場合、一度の画角移動で被写体の検出を行うことができ、被写体の検出までの時間を最小化できる。そのため、撮像装置1を用いて動画を記録している場合にも、ユーザにとって違和感の無い画角移動をする動画を記録することができる。
 ステップS1706にて、中央制御部201は、パン動作を行わせ、レンズ部101の撮像方向(光軸方向)を、検出した音源に撮像方向(光軸方向)に向ける。そして、中央制御部201は、処理をステップS1707に進める。
 ステップS1707にて、中央制御部201が、映像信号処理部203より得た現在の撮像画像から、被写体検出を行う。被写体が検出された場合、ステップS1708に移行し、その被写体の撮影を実施する。このとき、中央制御部201は、記憶部206内に、現在のパン角に対して許容範囲内の差の被写体情報が存在した場合、その被写体情報のパン角、チルト角を現在のレンズ部101の視線に合わせて更新する。また、中央制御部201は、記憶部206内に、現在のパン角に対して許容範囲内の差の被写体情報が存在しない場合、現在のレンズ部101の撮像方向(光軸方向)を示すパン角、チルト角を、新規な被写体情報として、記憶部206に登録する。
 一方、ステップS1707にて、画角移動後に被写体が検出されなかった場合、中央制御部201は、ステップS1709に処理を進める。このステップS1709にて、中央制御部201は、レンズ部101の撮像方向(光軸方向)を垂直方向に移動(チルト動作)させ、被写体の探索を行なう。そして、ステップS1710にて、中央制御部201は、被写体が検出されたか否かを判定する。被写体が検出された場合には、処理をステップS1708に進める。ステップS1708に処理が進んだ場合、新規な被写体情報が記憶部206に登録される。
 また、ステップS1710において、被写体が検出されなかった場合、中央制御部201は、処理をステップS1711に進め、エラー処理を行う。このエラー処理は、例えば、その位置のまま撮影、記録を継続する処理でもよいが、例えばステップS1701にて音源方向を検出したと判定された時点でのレンズ部101の撮像方向(光軸方向)に戻す処理でもよい。また、被写体が移動している可能性があるので、現在のレンズ部101の水平面のパン角に対し許容範囲内のパン角となっている、被写体情報を記憶部206から削除する処理である。
 図18は本第3の実施形態の撮像装置の制御を模式的に示す図である。被写体1604が発声したことに起因して、撮像装置1がパン動作、チルト動作を行って被写体1604を検出できたとする。この場合、本実施形態の撮像装置1は、次回、被写体1604が発声した場合、直ちに、レンズ部101の画角を1801となるように、パン動作とチルト動作を最短距離となるように制御することができるようになる。
 次に、第3の実施形態の変形例を説明する。以下でも、図6のステップS217の自動動画記録のジョブに適用した例を説明する。
 図19は、本変形例における中央制御部201による、自動動画記録のジョブ中の処理手順を示すフローチャートである。なお、本処理を開始する際に、既に、音声付きの動画像撮影、記録が開始されているものとする。
 図17の処理との違いは、ステップS1901、ステップS1902が追加された点である。
 まず、中央制御部201は、ステップS1701において、音方向検出部2044により音源の方向の検出を待つ。音源方向の検出が行われると、ステップS1702にて、中央制御部201は、現在のレンズ部101の撮像方向(光軸方向)と検出した音源の方向に基づき、パン動作の方向と角度を決定する。
 次に、ステップS1901にて、中央制御部201は、記憶部206に目標方向を中心とする、予め設定された範囲内に複数の被写体情報があるかどうかの判断を行う。今回検出した音源方向に複数の被写体情報があると判断した場合、中央制御部201は処理をステップS1902に移行する。また、被写体情報が1つのみ、或いは存在しない場合、中央制御部201は処理をステップS1703に進める。
 ステップS1902にて、中央制御部201は、複数の被写体がレンズ部101の画角内に入る目標チルト角を決定する。そして、中央制御部201は処理をステップS1705に進める。
 ステップS1703以降は、図17と同じであるので、その説明は省略する。
 上記の処理の結果、複数の被写体がほぼ同じ場所に位置し、その中の一人が発声した場合には、実際に発声した被写体を含む複数の被写体を画角にして撮影することになり、違和感のない動画像を記録することができる。
 例えば、図20に示すように、被写体1604、1610が近い位置にあり、いずれの被写体情報も記憶部206に登録されている状況下で、仮に被写体1604が発声した場合には、図示の画角2001となるように中央制御部201が可動撮像部100のパン動作及びチルト動作を最短距離となるように動作することなり、自然な動画撮影記録が行えるようになる。
 以上説明したように、本第3の実施形態並びにその変形例によれば、一旦発声した被写体をレンズ部101の画角内に入れて認識されると、その被写体の方向である、基準方向に対するパン角、チルト角を被写体情報として記憶(学習)する。そして、2回目以降、音方向検出部2044が検出した音方向のパン角が、記憶した被写体情報におけるパン角と実質的に一致した場合には、記憶された被写体情報が示すパン角、チルト角になるよう、パン動作とチルト動作を同時に実行して、可動撮像部100を移動させる。この結果、自然な被写体の切り替わりが行われ、違和感の少ない動画像記録を行うことが可能になる。
 [第4の実施形態]
 第4の実施形態を説明する。本第4の実施形態は、音方向検出部2044が検出する音方向の検出精度を可変にする例を説明する。音方向検出部2044による音方向の検出原理については既に説明したが、音方向の検出精度を高くするためには、単位時間当たりの検出回数を上げて、その平均値を求めることである。しかし、単位時間値の検出回数を増やすことは、音方向検出部2044の負担の増加、すなわち、可動率を上げることになり、撮像装置1の消費電力の増大になる。
 そこで、本第4の実施形態では、音方向検出部2044の音方向検出精度を可変にし、必要に応じて精度を低くしたり、高める例を説明する。
 図21A,21B、及び、図22A乃至22Cは、ある撮影例における撮像装置1の水平方向の撮影画角と、音方向検出時の水平方向の検出分解能の関係を示す図である。図21A,21B、及び、図22A乃至22Cにおいて、座標右方向を基準方向の0°とし、反時計回りの回転方向を正方向とする。また、一点鎖線で示される角度が、撮像装置1のレンズ部101の撮影画角θとする。図21A,21Bではθ=110度、図22A乃至22Cではθ=40度の例である。なお、撮影画角θが小さいほどズーム倍率が高いことを示し、逆に撮影画角θが大きいということはズーム倍率が低いことを示す。ここで、音方向検出部2044の水平方向の角度の分解能を音方向検出分解能φとする。そして、音方向検出部2044が検出した音源の位置を示すのが図示の黒丸部分とする。
 図21A,21Bは、撮影画角θ>音方向検出分解能φの場合の撮影例を示している。上記の通り、撮影画角θは110°、音方向検出分解能φは90°である。音方向検出分解能φが90°とは、音方向検出範囲を4分割しているのと同義である。この場合、音方向検出部2044が出力する音方向検出結果は、0~90°、90~180°、180~270°、270°~360°(0°)の4方向のうちいずれかとなる。
 図22Aは撮像装置1の初期状態を示しており、撮影方向は90°である。また、音声を発する被写体は座標270°~360°(0°)の範囲の点で示した位置に存在する。図21Aの撮影例において、音方向検出を行った後、図21Bに示すように、音方向検出された範囲を撮影画角θがカバーするようにパン駆動し撮影方向を変更することで、撮影画角θ内に被写体を収めることができる。
 図22A乃至22Cは、撮影画角θ<音方向検出分解能φの場合の撮影例を示している。同図では、撮影画角θは40°、音方向検出分解能φは90°である。図22Aは撮像装置1の初期状態を示しており、撮影方向は90°である。また、音声を発する被写体は座標270°~360°(0°)の範囲の点で示した位置に存在する。図22Aで示す撮影例において、音方向検出を行った後、図22B、もしくは図22Cに示すように音方向検出された範囲に撮影画角θが収まるようにパン駆動し撮影方向を変更することになる。撮影方向を図22Cに示すように変更した場合、撮影画角θ内に被写体を収めることができるが、図22Bに示すように変更後の撮影画角θ内に被写体を収めることができない。この場合、被写体を撮影画角θ内に収めるために繰り返しパン駆動を行い、図22Cに示すような撮影方向に変更する必要がある。
 以上、図21A,21B、及び、図22A乃至22Cを用いて説明したように、撮影画角θ>音方向検出分解能φの場合は、音声検出方向を一度のパン駆動で撮影画角内に収めることができ、被写体検出を行える。しかし、撮影画角θ<音方向検出分解能φの場合は、音声検出方向を一度のパン駆動で撮影画角内に収めることができない可能性があり、結果、繰り返しのパン駆動により被写体検出に余計な動作時間と消費電力がかかってしまう問題があるのは理解できよう。
 図23は、音方向検出分解能φと音声信号処理部2045の処理量の関係を示した図である。音方向検出分解能φが小さくなるほど音声信号処理部2045の単位時間当たりの処理量は増加し、音方向検出分解能φが大きくなるほど音声信号処理部2045の単位時間当たりの処理量は減少する関係がある。つまり、音方向検出分解能φを必要以上に小さくしてしまうと、音声信号処理部2045の処理量が増大し、他の処理へ影響を与えてしまう問題がある。
 以上から、撮影画角θと音方向検出分解能φの関係は、撮影画角θ>音方向検出分解能φの条件を満たしつつ、音方向検出分解能φは可能な限り大きくすることが望ましい。
 図24A乃至24Bは、本第4の実施形態における撮像装置1の水平方向の撮影画角と、音方向検出時の水平方向の検出分解能の関係を示す図である。図25は、音声コマンド認識部2043が拡大コマンド又は縮小コマンドを認識した際の中央制御部201の処理を表すフローチャートである。図25のフローチャートは、第1の実施形態における図5BのステップS164の処理の一部である。すなわち、図6において省略したステップS208以降に音声コマンドが拡大、もしくは縮小コマンドであると判定された場合の処理である。
 ステップS2501にて、中央制御部201は、認識された音声コマンドが拡大コマンド、縮小コマンドのいずれであるかを判定する。拡大コマンドである場合、中央制御部201は処理をステップS2502に進める。このステップS2502にて、中央制御部201は、レンズアクチュエータ制御部103から、現在のズームレンズの位置を取得し、その位置がテレ端になっているか否かを判定する。現在のズームレンズの位置がテレ端の位置になっている場合、これ以上の拡大はできない。そこで、中央制御部201は、認識された拡大コマンドは無視し、処理を図5BのステップS151に処理を戻す。
 また、現在のズームレンズの位置がテレ端に至っていないと判断した場合、中央制御部201は、処理をステップS2503に進める。このステップS2503にて、中央制御部201は、レンズアクチュエータ制御部103を制御し、所定倍率だけズーム倍率を増加させる。そして、中央制御部201は、処理を図5BのステップS151に処理を戻す。
 一方、ステップS2501にて、認識された音声コマンドが縮小コマンドのであると判定した場合、中央制御部201は処理をステップS2504に進める。このステップS2504にて、中央制御部201は、レンズアクチュエータ制御部103から、現在のズームレンズの位置を取得し、その位置がワイド端になっているか否かを判定する。現在のズームレンズの位置がワイド端の位置になっている場合、これ以上の縮小はできない。そこで、中央制御部201は、認識された縮小コマンドは無視し、処理を図5BのステップS151に処理を戻す。
 また、現在のズームレンズの位置がワイド端に至っていないと判断した場合、中央制御部201は、処理をステップS2505に進める。このステップS2505にて、中央制御部201は、レンズアクチュエータ制御部103を制御し、所定倍率だけズーム倍率を減少させる。そして、中央制御部201は、処理を図5BのステップS151に処理を戻す。
 以上の結果、例えば、今、図26Aに示すように、撮影画角が110で、レンズ部101が基準方向に対して90度を向いており、且つ、音方向検出分解能φが90度であるものとする。そして、このとき、座標270度乃至360度に位置する黒丸が示す人物が拡大コマンドを発声したとする。この場合、音方向検出分解能φは90度であるので、パン動作の結果のレンズ部101の画角は図26Bのようになる。つまり、発声した被写体をレンズ部101の画角内に入れることは可能になる。しかし、このコマンドを実行することになるので、レンズ部101の画角が狭くなる。結果、図26Cに示すように、被写体(黒丸)が更新後のレンズ部101の画角外になることが起こり得る。しかし、同一人物が拡大コマンドを発声すると、前回よりも高い分解能である音方向検出分解能φが設定された状態(音方向検出分解能φが30度)で、パン動作することになるので、図26Dに示すように、レンズ部101の画角内に被写体を入れることができる。つまり、被写体の人物が拡大コマンドを連呼すれば、レンズ部101の撮像方向(光軸方向)はより高い精度で被写体に向けうようになり、且つ、どんどん拡大していくことになる。
 以上、説明したように本第4の実施形態によれば、ズーム駆動により撮影画角が変更となった場合にも音声検出分解能φを変更する。この結果、変更後の音声検出分解能φに従って音方向検出を行うことで、それに処理にかける時間や消費電力を抑えつつ画角外に存在する被写体を効率よく画角内に収めることができる。また、被写体となる人物が拡大コマンドを発声した後、例えば、動画像撮影コマンドを発声した場合、その人物の拡大した状態での動画像撮影と記憶が行われることになる。
 上記例では、ユーザによるズームに関する音声コマンドに応じて、音方向の分解能を変更するものであった。しかし、音声コマンドに応じてパン動作した際、撮像画像中に複数の被写体が存在する場合、ズーム倍率とは無関係に、発声者を特定するために音方向の分解能を高くするようにしてもよい。
 (その他の実施例)
 本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
 本発明は上記実施の形態に制限されるものではなく、本発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、本発明の範囲を公にするために、以下の請求項を添付する。
 本願は、2017年12月26日提出の日本国特許出願特願2017-250108、および、2018年11月2日提出の日本国特許出願特願2018-207634を基礎として優先権を主張するものであり、その記載内容の全てを、ここに援用する。

Claims (23)

  1.  撮像手段を有する撮像装置であって、
     前記撮像手段を駆動する駆動手段と、
     ユーザのいる方向を検出する第一の検出手段と、
     前記撮像装置の動きを検出する第二の検出手段と、
     音声を集音するための複数の集音手段と、
     前記複数の集音手段を用いて前記音声の音源の方向を検出する第三の検出手段と、
     制御手段と、を有し、
     前記制御手段は、前記第一の検出手段によって検出したユーザのいる方向と、および、前記第二の検出手段によって検出した前記撮像装置の動きとに基づいて、2つ以上の集音手段を前記複数の集音手段から決定し、
     前記第三の検出手段は、前記決定された2つ以上の集音手段を用いて音声の音源の方向を検出し、
     前記第三の検出手段が前記決定された2つ以上の集音手段を用いて音声の音源の方向を検出した場合、前記制御手段は前記第三の検出手段が検出した音源の方向に、前記撮像手段の撮像方向を向けるよう前記駆動手段を制御する
     ことを特徴とする撮像装置。
  2.  前記第三の検出手段によって検出した音声の音源の方向に複数の候補があった場合、前記第一の検出手段によって検出したユーザのいる方向ではない方向に前記撮像手段の撮像方向を向けるよう前記制御手段は前記駆動手段を制御する
     ことを特徴とする請求項1に記載の撮像装置。
  3.  前記第二の検出手段は前記撮像装置の動きを、前記撮像装置の加速度および角速度に基づいて検出することを特徴とする請求項1または2に記載の撮像装置。
  4.  前記複数の集音手段は、すべての前記集音手段が直線上に並ばないように配置されることを特徴とする請求項1から3のいずれか1項に記載の撮像装置。
  5.  撮像手段と、
     前記撮像手段を駆動する駆動手段と、
     音声を集音するための複数の集音手段と、
     前記複数の集音手段を用いて前記音声の音源の方向を検出する検出手段と、を有する撮像装置の制御方法であって、
     ユーザのいる方向を検出する第一の検出ステップと、
     前記撮像装置の動きを検出する第二の検出ステップと、
     前記第一の検出ステップで検出したユーザのいる方向と、および、前記第二の検出ステップで検出した前記撮像装置の動きとに基づいて、2つ以上の集音手段を前記複数の集音手段から決定する決定ステップと、
     前記決定ステップで決定された2つ以上の集音手段を用いて音声の音源の方向を前記検出手段によって検出する検出ステップと、
     前記検出ステップで音声の音源の方向を検出した場合、前記検出ステップで検出した音源の方向に、前記撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップと、を有する
     ことを特徴とする制御方法。
  6.  撮像手段と、
     前記撮像手段を駆動する駆動手段と、
     音声を集音するための複数の集音手段と、
     前記複数の集音手段を用いて前記音声の音源の方向を検出する検出手段と、を有する撮像装置に制御方法を実行させるためのプログラムが記録された記録媒体、ここで前記制御方法は以下を含む:
     ユーザのいる方向を検出する第一の検出ステップと、
     前記撮像装置の動きを検出する第二の検出ステップと、
     前記第一の検出ステップで検出したユーザのいる方向と、および、前記第二の検出ステップで検出した前記撮像装置の動きとに基づいて、2つ以上の集音手段を前記複数の集音手段から決定する決定ステップと、
     前記決定ステップで決定された2つ以上の集音手段を用いて音声の音源の方向を前記検出手段によって検出する検出ステップと、
     前記検出ステップで音声の音源の方向を検出した場合、前記検出ステップで検出した音源の方向に、前記撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップ。
  7.  撮像手段と、
     前記撮像手段を駆動する駆動手段と、
     音声を集音するための複数の集音手段と、
     前記複数の集音手段を用いて集音した音声の音源の方向を検出する検出手段と、
     制御手段と、を有し、
     前記制御手段は前記撮像手段によって撮像した画像データに基づいて、撮影の必要のない領域を設定し、
     前記検出手段によって検出した音声の音源の方向が、前記撮影の必要のない領域にない場合、前記撮像手段の撮像方向が前記検出手段によって検出した音声の音源の方向に向くよう前記制御手段は前記駆動手段を制御する
     ことを特徴とする撮像装置。
  8.  前記制御手段は、前記撮像手段によって撮像した画像データの輝度が所定の閾値よりも暗い場合、または画像データに映る被写体と前記撮像装置との距離が所定の閾値より小さい場合、その撮像方向を撮影の必要のない領域として設定することを特徴とする請求項7に記載の撮像装置。
  9.  前記撮像装置が持ち運ばれていると判断した場合、前記制御手段は前記撮影の必要のない領域を再度設定する
     ことを特徴とする請求項7または8に記載の撮像装置。
  10.  前記駆動手段を所定の時間駆動するよう制御した後、前記制御手段はさらに前記撮像手段によって撮像した画像データに基づいて、現在の撮像手段の撮像方向が撮影の必要な領域かどうかを判断し、その判断にしたがって撮影の必要のない領域を再度設定する
     ことを特徴とする請求項7または8に記載の撮像装置。
  11.  撮像手段と、
     音声を集音するための複数の集音手段と、を有する撮像装置の制御方法であって、
     前記複数の集音手段を用いて集音した音声の音源の方向を検出する検出ステップと、
     前記撮像手段によって撮像した画像データに基づいて、撮影の必要のない領域を設定する設定ステップと、
     前記検出ステップによって検出した音声の音源の方向が、前記設定ステップで設定した前記撮影の必要のない領域にない場合、前記撮像手段の撮像方向が前記検出ステップによって検出した音声の音源の方向に向くよう駆動する駆動ステップと、を有する
     ことを特徴とする制御方法。
  12.  撮像手段と、
     音声を集音するための複数の集音手段と、を有する撮像装置に制御方法を実行させるためのプログラムが記録された記録媒体、ここで前記制御方法は以下を含む:
     前記複数の集音手段を用いて集音した音声の音源の方向を検出する検出ステップと、
     前記撮像手段によって撮像した画像データに基づいて、撮影の必要のない領域を設定する設定ステップと、
     前記検出ステップによって検出した音声の音源の方向が、前記設定ステップで設定した前記撮影の必要のない領域にない場合、前記撮像手段の撮像方向が前記検出ステップによって検出した音声の音源の方向に向くよう駆動する駆動ステップ。
  13.  撮像手段と、
     前記撮像手段をパン動作およびチルト動作によって駆動する駆動手段と、
     音声を集音するための複数の集音手段と、
     前記複数の集音手段を用いて前記音声の音源の方向のパン角を検出する検出手段と、
     制御手段と、を有し、
     前記制御手段は前記撮像手段によって被写体を撮像した場合、前記被写体の方向を向いた前記撮像手段の撮像方向のパン角およびチルト角を被写体情報として記録し、
     前記検出手段によって検出したパン角と前記被写体情報に含まれるパン角と比較しその2つの角度の差が閾値以下だった場合、前記制御手段は前記検出手段によって検出したパン角および前記被写体情報に含まれるチルト角に撮像手段の撮像方向を向けるよう前記駆動手段を制御し、
     前記検出手段によって検出したパン角と前記被写体情報に含まれるパン角と比較しその2つの角度の差が閾値を超える場合、前記制御手段は、前記検出手段によって検出したパン角にいる被写体に前記撮像手段の撮像方向を向けるよう前記駆動手段を制御する
     ことを特徴とする撮像装置。
  14.  前記制御手段は前記検出手段によって検出したパン角および前記被写体情報に含まれるチルト角に撮像手段の撮像方向を向けるよう前記駆動手段を制御し、
     前記制御手段は前記検出手段によって検出したパン角および前記被写体情報に含まれるチルト角の方向に被写体を検出した場合、前記制御手段は前記被写体情報を現在の撮像手段の撮像方向のパン角およびチルト角になるよう更新し、
     ことを特徴とする請求項13に記載の撮像装置。
  15.  前記制御手段は前記検出手段によって検出したパン角および前記被写体情報に含まれるチルト角に撮像手段の撮像方向を向けるよう前記駆動手段を制御し、
     前記検出手段によって検出したパン角および前記被写体情報に含まれるチルト角の方向に被写体を検出しない場合、前記制御手段は前記被写体情報を削除する
     ことを特徴とする請求項13または14に記載の撮像装置。
  16.  前記検出手段によって検出したパン角との差が閾値以下になる被写体情報が複数ある場合、
     前記制御手段は前記複数の被写体情報のそれぞれのチルト角が所定の範囲内に入るようチルト角を決定し、
     前記制御手段は、前記検出手段によって検出したパン角および前記決定したチルト角の方向に前記撮像手段の撮像方向を向けるよう前記駆動手段を制御する
     ことを特徴とする請求項13から15のいずれか1項に記載の撮像装置。
  17.  撮像手段と、
     前記撮像手段をパン動作およびチルト動作によって駆動する駆動手段と、
     音声を集音するための複数の集音手段と、を有する撮像装置の制御方法であって、
     前記撮像手段によって被写体を撮像した場合、前記被写体の方向を向いた前記撮像手段の撮像方向のパン角およびチルト角を被写体情報として記録する記録ステップと、
     前記複数の集音手段を用いて前記音声の音源の方向のパン角を検出する検出ステップと、
     前記検出ステップで検出したパン角と前記記録ステップで記録した前記被写体情報に含まれるパン角と比較しその2つの角度の差が閾値以下だった場合、前記検出ステップで検出したパン角および前記記録ステップで記録した前記被写体情報に含まれるチルト角に撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップと、
     前記検出ステップで検出したパン角と前記記録ステップで記録した前記被写体情報に含まれるパン角と比較しその2つの角度の差が閾値を超える場合、前記検出ステップで検出したパン角にいる被写体に前記撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップと、を有する
     ことを特徴とする制御方法。
  18.  撮像手段と、
     前記撮像手段をパン動作およびチルト動作によって駆動する駆動手段と、
     音声を集音するための複数の集音手段と、を有する撮像装置に制御方法を実行させるためのプログラムが記録された記録媒体、ここで前記制御方法は以下を含む:
     前記撮像手段によって被写体を撮像した場合、前記被写体の方向を向いた前記撮像手段の撮像方向のパン角およびチルト角を被写体情報として記録する記録ステップと、
     前記複数の集音手段を用いて前記音声の音源の方向のパン角を検出する検出ステップと、
     前記検出ステップで検出したパン角と前記記録ステップで記録した前記被写体情報に含まれるパン角と比較しその2つの角度の差が閾値以下だった場合、前記検出ステップで検出したパン角および前記記録ステップで記録した前記被写体情報に含まれるチルト角に撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップと、
     前記検出ステップで検出したパン角と前記記録ステップで記録した前記被写体情報に含まれるパン角と比較しその2つの角度の差が閾値を超える場合、前記検出ステップで検出したパン角にいる被写体に前記撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップ。
  19.  撮像手段と、
     前記撮像手段を駆動する駆動手段と、
     音声を集音するための複数の集音手段と、
     前記複数の集音手段を用いて前記音声の音源の方向を所定の角度の分解能で検出する検出手段と、
     制御手段と、
     前記制御手段は、前記所定の角度を前記撮像手段の画角より小さくなるように設定し、
     前記集音手段によって音声を集音した場合、前記検出手段によって前記所定の角度の分解能で検出した音声の音源の方向に前記撮像手段の撮像方向を向けるよう前記駆動手段を前記制御手段は制御する
     ことを特徴とする撮像装置。
  20.  前記制御手段は、前記撮像手段のズーム倍率を増加させた場合、前記撮像手段の画角より小さくなるように前記所定の角度を大きくするよう設定し、
     前記制御手段は、前記撮像手段のズーム倍率を減少させた場合、前記撮像手段の画角より小さくなるように前記所定の角度を小さくするよう設定する
     ことを特徴とする請求項19に記載の撮像装置。
  21.  さらに音声による指示を認識する認識手段を有し、
     前記認識手段が前記撮像手段のズーム倍率を変更する指示を認識した場合、前記制御手段は、前記撮像手段のズーム倍率を前記指示に従って変更する
     ことを特徴とする請求項19または20に記載の撮像装置。
  22.  撮像手段と、
     前記撮像手段を駆動する駆動手段と、
     音声を集音するための複数の集音手段と、を有する撮像装置の制御方法であって、
     前記複数の集音手段を用いて前記音声の音源の方向を所定の角度の分解能で検出する検出ステップと、
     前記所定の角度を前記撮像手段の画角より小さくなるように設定する設定ステップと、
     前記集音手段によって音声を集音した場合、前記検出ステップで前記所定の角度の分解能で検出した音声の音源の方向に前記撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップと、を有する
     ことを特徴とする制御方法。
  23.  撮像手段と、
     前記撮像手段を駆動する駆動手段と、
     音声を集音するための複数の集音手段と、を有する撮像装置に制御方法を実行させるためのプログラムが記録された記録媒体、ここで前記制御方法は以下を含む:
     前記複数の集音手段を用いて前記音声の音源の方向を所定の角度の分解能で検出する検出ステップと、
     前記所定の角度を前記撮像手段の画角より小さくなるように設定する設定ステップと、
     前記集音手段によって音声を集音した場合、前記検出ステップで前記所定の角度の分解能で検出した音声の音源の方向に前記撮像手段の撮像方向を向けるよう前記駆動手段を制御するステップ。
PCT/JP2018/042695 2017-12-26 2018-11-19 撮像装置及びその制御方法及び記録媒体 WO2019130908A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201880083608.1A CN111527739A (zh) 2017-12-26 2018-11-19 摄像设备及其控制方法和记录介质
US16/910,622 US20200329202A1 (en) 2017-12-26 2020-06-24 Image capturing apparatus, control method, and recording medium

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2017250108 2017-12-26
JP2017-250108 2017-12-26
JP2018-207634 2018-11-02
JP2018207634A JP2019117375A (ja) 2017-12-26 2018-11-02 撮像装置及びその制御方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US16/910,622 Continuation US20200329202A1 (en) 2017-12-26 2020-06-24 Image capturing apparatus, control method, and recording medium

Publications (1)

Publication Number Publication Date
WO2019130908A1 true WO2019130908A1 (ja) 2019-07-04

Family

ID=67067059

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/042695 WO2019130908A1 (ja) 2017-12-26 2018-11-19 撮像装置及びその制御方法及び記録媒体

Country Status (1)

Country Link
WO (1) WO2019130908A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021143656A1 (zh) * 2020-01-16 2021-07-22 华为技术有限公司 立体声拾音方法、装置、终端设备和计算机可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09289609A (ja) * 1996-04-24 1997-11-04 Aiphone Co Ltd カメラ監視装置
JPH10304329A (ja) * 1997-04-30 1998-11-13 Matsushita Electric Works Ltd 会議撮像装置
JP2000165718A (ja) * 1998-11-30 2000-06-16 Matsushita Electric Ind Co Ltd 電子撮像装置
JP2003274358A (ja) * 2002-03-14 2003-09-26 Sony Corp 撮像装置、撮像方法、撮像管理装置、撮像管理システム
WO2007099908A1 (ja) * 2006-02-27 2007-09-07 Matsushita Electric Industrial Co., Ltd. ウェアラブル端末、および、携帯撮像収音装置、およびそれらを実現する装置、方法、プログラム
JP2010004303A (ja) * 2008-06-20 2010-01-07 Casio Comput Co Ltd 撮像装置
WO2016151925A1 (ja) * 2015-03-26 2016-09-29 富士フイルム株式会社 追尾制御装置、追尾制御方法、追尾制御プログラム、及び、自動追尾撮影システム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09289609A (ja) * 1996-04-24 1997-11-04 Aiphone Co Ltd カメラ監視装置
JPH10304329A (ja) * 1997-04-30 1998-11-13 Matsushita Electric Works Ltd 会議撮像装置
JP2000165718A (ja) * 1998-11-30 2000-06-16 Matsushita Electric Ind Co Ltd 電子撮像装置
JP2003274358A (ja) * 2002-03-14 2003-09-26 Sony Corp 撮像装置、撮像方法、撮像管理装置、撮像管理システム
WO2007099908A1 (ja) * 2006-02-27 2007-09-07 Matsushita Electric Industrial Co., Ltd. ウェアラブル端末、および、携帯撮像収音装置、およびそれらを実現する装置、方法、プログラム
JP2010004303A (ja) * 2008-06-20 2010-01-07 Casio Comput Co Ltd 撮像装置
WO2016151925A1 (ja) * 2015-03-26 2016-09-29 富士フイルム株式会社 追尾制御装置、追尾制御方法、追尾制御プログラム、及び、自動追尾撮影システム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021143656A1 (zh) * 2020-01-16 2021-07-22 华为技术有限公司 立体声拾音方法、装置、终端设备和计算机可读存储介质
CN114846816A (zh) * 2020-01-16 2022-08-02 华为技术有限公司 立体声拾音方法、装置、终端设备和计算机可读存储介质
CN114846816B (zh) * 2020-01-16 2023-10-20 华为技术有限公司 立体声拾音方法、装置、终端设备和计算机可读存储介质

Similar Documents

Publication Publication Date Title
JP2019117375A (ja) 撮像装置及びその制御方法及びプログラム
US11265477B2 (en) Image capturing apparatus and non-transitory recording medium
JP5456832B2 (ja) 入力された発話の関連性を判定するための装置および方法
JP7292853B2 (ja) 撮像装置及びその制御方法及びプログラム
KR20140090318A (ko) 햅틱 기반 카메라 운용 지원 방법 및 이를 지원하는 단말기
US8823814B2 (en) Imaging apparatus
JP2011237716A (ja) デジタルカメラ及びその制御方法
JP2011130180A (ja) 撮像装置
WO2022135260A1 (zh) 拍摄方法、装置、电子设备及可读存储介质
JP2010109477A (ja) 撮像装置、その制御方法及びプログラム
WO2019130908A1 (ja) 撮像装置及びその制御方法及び記録媒体
JP2024050643A (ja) ヘッドマウント情報処理装置およびヘッドマウント情報処理装置の制御方法
JP7451235B2 (ja) 撮像装置、制御方法、およびプログラム
WO2019130909A1 (ja) 撮像装置及びその制御方法及び記録媒体
JP7118746B2 (ja) 撮像装置及びその制御方法及びプログラム
WO2019179413A1 (zh) 景深图像生成方法及移动终端
US11490001B2 (en) Imaging apparatus
WO2021218926A1 (zh) 图像显示方法、装置和计算机设备
US11245830B2 (en) Image capture apparatus and control method for same, and storage medium
CN107613194B (zh) 一种对焦方法、移动终端及计算机可读存储介质
CN114500790A (zh) 摄像设备及其控制方法以及存储介质
JP2021111960A (ja) 撮像装置、撮像装置の制御方法、プログラム
JP2004219847A (ja) 小型携帯端末
CN114902820A (zh) 颈挂型装置
JP2022030416A (ja) 撮像装置、撮像装置の制御方法、およびプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18896662

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18896662

Country of ref document: EP

Kind code of ref document: A1