JP2010177775A - Mobile electronic device, and voice adjustment method - Google Patents

Mobile electronic device, and voice adjustment method Download PDF

Info

Publication number
JP2010177775A
JP2010177775A JP2009015521A JP2009015521A JP2010177775A JP 2010177775 A JP2010177775 A JP 2010177775A JP 2009015521 A JP2009015521 A JP 2009015521A JP 2009015521 A JP2009015521 A JP 2009015521A JP 2010177775 A JP2010177775 A JP 2010177775A
Authority
JP
Japan
Prior art keywords
electronic device
image
portable electronic
camera
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009015521A
Other languages
Japanese (ja)
Other versions
JP5221404B2 (en
Inventor
Koichi Kawaguchi
恒一 川口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2009015521A priority Critical patent/JP5221404B2/en
Publication of JP2010177775A publication Critical patent/JP2010177775A/en
Application granted granted Critical
Publication of JP5221404B2 publication Critical patent/JP5221404B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Telephone Function (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To improve a convenience upon adjusting a voice output during communication. <P>SOLUTION: A camera 4C is attached to a cabinet of a mobile electronic device, and a portion acquiring images is exposed to the outside of the cabinet. A receiver 6 is controlled by a voice processor 14 and outputs a voice. When a volume of the receiver 6 is adjusted, the camera 4C is covered by fingers of a user of a mobile electronic device 1. A main processor 11 of a control device 10 adjusts the volume of the voice outputted from the receiver 6 based on an image of the fingers of the user covering an input light portion of the camera 4C, the image being taken by the camera 4C. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

本発明は、画像を撮影する撮像手段と音声を発する出力手段とを備える携帯電子機器及び音声調整方法に関する。   The present invention relates to a portable electronic device and an audio adjustment method including an imaging unit that captures an image and an output unit that emits sound.

携帯電話機は、通話時に音声を出力するレシーバを備える。例えば、特許文献1には、レシーバから出力される受話音量の調節手段として、キー操作によりボリューム調節を実施することが開示されている。   The mobile phone includes a receiver that outputs sound during a call. For example, Patent Document 1 discloses that volume adjustment is performed by key operation as a means for adjusting the reception volume output from the receiver.

特開2008−5025号公報[0003]JP 2008-5025 A [0003]

しかし、特許文献1に開示された技術は、通話中にレシーバの音量調整をする場合、キーを操作する必要があり、操作が煩わしいという問題があった。本発明は、上記に鑑みてなされたものであって、通話中に音声出力を調整する際の利便性を向上させることを目的とする。   However, the technique disclosed in Patent Document 1 has a problem that it is necessary to operate a key when adjusting the volume of the receiver during a call, and the operation is troublesome. The present invention has been made in view of the above, and an object of the present invention is to improve convenience when adjusting audio output during a call.

上述した課題を解決し、目的を達成するために、本発明に係る携帯電子機器は、筐体に取り付けられて、入光部が前記筐体の外部に露出している撮像手段と、音声を出力する出力手段と、前記撮像手段が撮像した、前記撮像手段の入光部と対向する位置の被写体の画像に基づき、前記出力手段の音声出力を調整することを特徴とする。   In order to solve the above-described problems and achieve the object, a portable electronic device according to the present invention is provided with an imaging means attached to a casing and having a light incident portion exposed to the outside of the casing, and a sound. The audio output of the output means is adjusted based on the output means for outputting and the image of the subject at the position facing the light incident portion of the image pickup means, which is picked up by the image pickup means.

本発明の望ましい態様としては、前記携帯電子機器において、前記制御手段は、前記撮像手段が撮像した画像中において前記被写体が占める程度に応じて前記音声出力を調整することが好ましい。   As a desirable aspect of the present invention, in the portable electronic device, it is preferable that the control unit adjusts the audio output according to a degree occupied by the subject in an image captured by the imaging unit.

本発明の望ましい態様としては、前記携帯電子機器において、前記制御手段は、前記被写体の移動方向に応じて前記音声出力を調整することが好ましい。   As a desirable mode of the present invention, in the portable electronic device, it is preferable that the control unit adjusts the audio output according to a moving direction of the subject.

本発明の望ましい態様としては、前記携帯電子機器において、前記制御手段は、前記撮像手段が前記被写体の画像を撮像した時間が、予め定めた所定の時間継続した場合に、前記被写体の画像に基づいて、前記出力手段の音声出力を調整することが好ましい。   As a desirable aspect of the present invention, in the portable electronic device, the control unit is configured to base the image on the subject when the time when the imaging unit has captured the image of the subject continues for a predetermined time. It is preferable to adjust the audio output of the output means.

本発明の望ましい態様としては、前記携帯電子機器において、音声を取得する音声取得手段と、当該音声取得手段が取得した音声を外部の機器に送出する通話手段とを有し、前記制御手段は、前記撮像手段が撮像した被写体の画像に基づき、前記通話手段による音声の送出を調整することが好ましい。   As a desirable aspect of the present invention, in the portable electronic device, the mobile electronic device includes a sound acquisition unit that acquires sound, and a call unit that transmits the sound acquired by the sound acquisition unit to an external device. It is preferable to adjust transmission of sound by the calling unit based on an image of a subject captured by the imaging unit.

本発明の望ましい態様としては、前記携帯電子機器において、前記制御手段は、前記撮像手段が前記被写体を撮像しない場合には、送話をミュートすることが好ましい。   As a desirable mode of the present invention, in the portable electronic device, it is preferable that the control means mute transmission when the imaging means does not image the subject.

本発明の望ましい態様としては、前記携帯電子機器において、前記音声取得手段は前記筐体に設けられるとともに、前記撮像手段は、前記筐体において前記音声取得手段とは反対側に設けられることが好ましい。   As a desirable mode of the present invention, in the portable electronic device, it is preferable that the voice acquisition unit is provided in the casing, and the imaging unit is provided on the opposite side of the casing from the voice acquisition unit. .

本発明の望ましい態様としては、前記携帯電子機器において、前記携帯電子機器は、前記撮像手段の周囲の明るさを検出する明るさ検出手段を備え、前記制御手段は、前記撮像手段の周囲が所定の明るさ以上の場合に、前記撮像手段が取得した被写体の画像に基づいて、前記出力手段の音声出力を調整することが好ましい。   As a desirable aspect of the present invention, in the portable electronic device, the portable electronic device includes brightness detection means for detecting brightness around the imaging means, and the control means has a predetermined periphery around the imaging means. It is preferable that the audio output of the output unit is adjusted based on the image of the subject acquired by the imaging unit.

上述した課題を解決し、目的を達成するために、本発明に係る音声調整方法は、筐体に取り付けられて、画像を取得する部分が前記筐体の外部に露出している撮像手段と、音声を出力する出力手段とを有する携帯電子機器において前記出力手段の音声出力を調整するにあたり、前記撮像手段から前記撮像手段の入光部と対向する位置の被写体の画像を取得する手順と、取得された前記画像に基づき、前記出力手段の音声出力を調整する手順と、を含むことを特徴とする。   In order to solve the above-described problems and achieve the object, an audio adjustment method according to the present invention includes an imaging unit that is attached to a housing and a portion for acquiring an image is exposed to the outside of the housing; In adjusting the audio output of the output means in a portable electronic device having an output means for outputting sound, a procedure for acquiring an image of a subject at a position facing the light incident portion of the image pickup means from the image pickup means, and acquisition And a procedure for adjusting an audio output of the output means based on the processed image.

本発明の望ましい態様としては、前記音声調整方法において、取得された前記画像に基づき、前記出力手段の音声出力を調整する手順において、前記撮像手段が前記被写体を撮像しない場合には、前記携帯電子機器からの送話をミュートすることが好ましい。   In a preferred aspect of the present invention, in the audio adjustment method, in the procedure of adjusting the audio output of the output unit based on the acquired image, the portable electronic device is used when the imaging unit does not image the subject. It is preferable to mute the transmission from the device.

本発明は、通話中に音声出力を調整する際の利便性を向上させることができる。   The present invention can improve the convenience when adjusting the audio output during a call.

図1は、本実施形態に係る携帯電子機器の正面図である。FIG. 1 is a front view of the portable electronic device according to the present embodiment. 図2は、本実施形態に係る携帯電子機器の側面図である。FIG. 2 is a side view of the portable electronic device according to the present embodiment. 図3は、本実施形態に係る携帯電子機器の背面図である。FIG. 3 is a rear view of the portable electronic device according to the present embodiment. 図4は、本実施形態に係る携帯電子機器の機能を説明するためのブロック図である。FIG. 4 is a block diagram for explaining functions of the portable electronic device according to the present embodiment. 図5は、本実施形態に係る音声調整方法の手順を示すフローチャートである。FIG. 5 is a flowchart showing the procedure of the audio adjustment method according to the present embodiment. 図6は、メニュー画面の一例を示す図である。FIG. 6 is a diagram illustrating an example of a menu screen. 図7は、カメラによって撮像された画像の画像情報を構成する画素と、それぞれの画素の色情報との関係を示す図である。FIG. 7 is a diagram illustrating a relationship between pixels constituting image information of an image captured by the camera and color information of each pixel. 図8は、カメラによって撮像され、画像処理された画像情報を示す模式図である。FIG. 8 is a schematic diagram showing image information imaged and processed by the camera. 図9は、画像情報とこの画像情報に含まれる単色画像の面積率と音量との関係を示す模式図である。FIG. 9 is a schematic diagram showing the relationship between the image information and the area ratio and volume of the monochrome image included in the image information. 図10は、画像情報とこの画像情報に含まれる単色画像の面積率と音量との関係を示す模式図である。FIG. 10 is a schematic diagram showing the relationship between the image information and the area ratio and volume of the monochrome image included in the image information. 図11は、連続する単色画像の変化の方向によって音量を変更する例を説明する図である。FIG. 11 is a diagram illustrating an example in which the sound volume is changed according to the direction of change of continuous monochrome images. 図12は、連続する単色画像の変化の方向によって音量及び音声の速度を変更する例を説明する図である。FIG. 12 is a diagram illustrating an example in which the volume and the speed of sound are changed according to the direction of change of continuous monochromatic images.

以下、この発明につき図面を参照しつつ詳細に説明する。なお、この発明を実施するための形態(以下実施形態という)により本発明が限定されるものではない。また、下記実施形態における構成要素には、当業者が容易に想定できるものあるいは実質的に同一のもの、いわゆる均等の範囲内のものが含まれる。以下においては、携帯電話機を携帯電子機器の一例として取り上げるが、本発明の適用対象は携帯電話機に限定されるものではなく、画像を撮影する撮像手段及び音声を出力する出力手段を有していれば、例えば、PHS(Personal Handy phone System)、PDA(Personal Data Assistant)、ポータブルナビゲーション装置、ノートパソコン、ゲーム機等に対しても本発明は適用できる。   Hereinafter, the present invention will be described in detail with reference to the drawings. The present invention is not limited by the mode for carrying out the invention (hereinafter referred to as an embodiment). In addition, constituent elements in the following embodiments include those that can be easily assumed by those skilled in the art or that are substantially the same, that is, those that are within a so-called equivalent range. In the following, a cellular phone is taken as an example of a portable electronic device, but the application target of the present invention is not limited to a cellular phone, and may include an imaging unit that captures an image and an output unit that outputs sound. For example, the present invention can be applied to, for example, a personal handy phone system (PHS), a personal data assistant (PDA), a portable navigation device, a notebook computer, and a game machine.

図1は、本実施形態に係る携帯電子機器の正面図である。図2は、本実施形態に係る携帯電子機器の側面図である。図3は、本実施形態に係る携帯電子機器の背面図である。本実施形態は、画像を撮影する撮像手段と、音声を出力する出力手段とを有する携帯電子機器において、撮像手段が撮像した、撮像手段の入光部と対向する位置の被写体の画像(被写体の撮像状態)に基づき、出力手段が出力する音声出力(音量、速度、周波数等)を調整する点に特徴がある。以下においては、撮像手段の入光部と対向する位置の被写体の画像として、撮像手段の入光部を覆う被写体の画像を用いる例を説明する。被写体は、撮像手段の入光部に接した状態で前記入光部を覆ってもよく、前記入光部に対向する(すなわち、互いに向き合う)とともに、前記入光部から離れた位置で撮像手段に撮像されるものであってもよい。本実施形態では、撮像手段が撮像した被写体の画像を用いて音声出力を調整するので、撮像手段の入光部と被写体との距離は、本実施形態に係る音声出力の調整を実現できる範囲となる。   FIG. 1 is a front view of the portable electronic device according to the present embodiment. FIG. 2 is a side view of the portable electronic device according to the present embodiment. FIG. 3 is a rear view of the portable electronic device according to the present embodiment. In this embodiment, in a portable electronic device having an imaging unit that captures an image and an output unit that outputs sound, an image of a subject (position of the subject) that is captured by the imaging unit and that is opposed to a light incident portion of the imaging unit. It is characterized in that the audio output (volume, speed, frequency, etc.) output by the output means is adjusted based on the imaging state. In the following, an example in which an image of a subject covering the light incident portion of the imaging means is used as the subject image at a position facing the light incident portion of the imaging means will be described. The subject may cover the light incident portion in a state of being in contact with the light incident portion of the imaging means, face the light incident portion (that is, face each other), and at a position away from the light incident portion. It may be one that is imaged. In the present embodiment, since the audio output is adjusted using the image of the subject imaged by the imaging unit, the distance between the light incident part of the imaging unit and the subject is within a range in which the adjustment of the audio output according to the present embodiment can be realized. Become.

本実施形態において、図1〜図3に示す携帯電子機器1は、無線通信機能と、出力手段と、音声取得手段と、撮像手段とを有する携帯電話機である。携帯電子機器1は、筐体1Cが複数の筐体で構成される。具体的には、筐体1Cは、第1筐体1CAと第2筐体1CBとで開閉可能に構成される。すなわち、携帯電子機器1は、折り畳み式の筐体を有する。なお、携帯電子機器1の筐体は、このような構造に限定されるものではない。例えば、携帯電子機器1の筐体は、両方の筐体を重ね合わせた状態から一方の筐体と他方の筐体とを互いにスライドできるようにしたスライド式の筐体であってもよいし、重ね合わせ方向に沿う軸線を中心に、一方の筐体を回転させるようにした回転式や、2軸ヒンジを介して両方の筐体を連結したものでもよい。   In the present embodiment, the mobile electronic device 1 shown in FIGS. 1 to 3 is a mobile phone having a wireless communication function, an output unit, a voice acquisition unit, and an imaging unit. In the portable electronic device 1, the housing 1C is composed of a plurality of housings. Specifically, the housing 1C is configured to be openable and closable by a first housing 1CA and a second housing 1CB. That is, the portable electronic device 1 has a foldable housing. In addition, the housing | casing of the portable electronic device 1 is not limited to such a structure. For example, the casing of the portable electronic device 1 may be a sliding casing that allows one casing and the other casing to slide from each other in a state where both casings are overlapped, It may be a rotary type in which one casing is rotated around an axis along the overlapping direction, or both casings are connected via a biaxial hinge.

第1筐体1CAと第2筐体1CBとは、連結部であるヒンジ機構8で連結されている。ヒンジ機構8は、第1筐体1CA側の第1ヒンジ部8Aと第2筐体1CB側の第2ヒンジ部8Bとで構成される。ヒンジ機構8で第1筐体1CAと第2筐体1CBとを連結することにより、第1筐体1CA及び第2筐体1CBは、ヒンジ機構8を中心としてともに回動して、互いに遠ざかる方向及び互いに接近する方向(図2の矢印Rで示す方向)に回動できるように構成される。第1筐体1CAと第2筐体1CBとが互いに遠ざかる方向に回動すると携帯電子機器1が開き、第1筐体1CAと第2筐体1CBとが互いに接近する方向に回動すると携帯電子機器1が閉じて、折り畳まれた状態となる(図2の点線で示す状態)。   1st housing | casing 1CA and 2nd housing | casing 1CB are connected by the hinge mechanism 8 which is a connection part. The hinge mechanism 8 includes a first hinge portion 8A on the first housing 1CA side and a second hinge portion 8B on the second housing 1CB side. By connecting the first casing 1CA and the second casing 1CB with the hinge mechanism 8, the first casing 1CA and the second casing 1CB rotate together around the hinge mechanism 8 and move away from each other. And it is comprised so that it can rotate in the direction (direction shown by arrow R of FIG. 2) which mutually approaches. When the first casing 1CA and the second casing 1CB rotate in a direction away from each other, the portable electronic device 1 opens, and when the first casing 1CA and the second casing 1CB rotate in a direction approaching each other, the portable electronic device 1 opens. The device 1 is closed and folded (a state indicated by a dotted line in FIG. 2).

第1筐体1CAには、表示部として、図1に示すディスプレイ2が設けられる。ディスプレイ2は、携帯電子機器1が受信を待機している状態のときに待ち受け画像を表示したり、携帯電子機器1の操作を補助するために用いられるメニュー画像を表示したりする。また、第1筐体1CAには、携帯電子機器1の通話時に音声を出力する出力手段であるレシーバ6が設けられる。   The first housing 1CA is provided with a display 2 shown in FIG. 1 as a display unit. The display 2 displays a standby image when the portable electronic device 1 is waiting for reception, or displays a menu image used for assisting the operation of the portable electronic device 1. In addition, the first housing 1CA is provided with a receiver 6 that is an output unit that outputs sound when the mobile electronic device 1 is in a call.

第2筐体1CBには、通話相手の電話番号や、メール作成時等に文字を入力するための操作キー3Aが複数設けられ、また、ディスプレイ2に表示されるメニューの選択及び決定や画面のスクロール等を容易に実行するための方向及び決定キー3Bが設けられる。操作キー3A及び方向及び決定キー3Bは、携帯電子機器1の操作部3を構成する。また、第2筐体1CBには、携帯電子機器1の通話時に音声を受け取る音声取得手段であるマイク5が設けられる。操作部3は、図2に示す、第2筐体1CBの操作面1PCに設けられる。操作面1PCとは反対側の面が、携帯電子機器1の背面1PBである。   The second casing 1CB is provided with a plurality of operation keys 3A for inputting a telephone number of the other party and characters when creating an e-mail, etc. Further, selection and determination of a menu displayed on the display 2 and a screen A direction and a determination key 3B for easily executing scrolling and the like are provided. The operation key 3 </ b> A and the direction / decision key 3 </ b> B constitute the operation unit 3 of the mobile electronic device 1. In addition, the second casing 1CB is provided with a microphone 5 that is a voice acquisition unit that receives voice during a call of the portable electronic device 1. The operation unit 3 is provided on the operation surface 1PC of the second housing 1CB shown in FIG. The surface opposite to the operation surface 1PC is the back surface 1PB of the portable electronic device 1.

第2筐体1CBの内部には、アンテナ7が設けられている。アンテナ7は、無線通信に用いる送受信アンテナであり、携帯電子機器1と基地局との間で通話や電子メール等に係る電波(電磁波)の送受信に用いられる。アンテナ7は、第2筐体1CBの第2ヒンジ部8Bとは反対側に配置される。また、第2筐体1CBには、マイク5が設けられる。マイク5は、図2に示す、携帯電子機器1の操作面1PC側に配置される。   An antenna 7 is provided inside the second housing 1CB. The antenna 7 is a transmission / reception antenna used for wireless communication, and is used for transmission / reception of radio waves (electromagnetic waves) related to telephone calls, e-mails, and the like between the mobile electronic device 1 and a base station. The antenna 7 is disposed on the opposite side of the second casing 1CB from the second hinge portion 8B. The second housing 1CB is provided with a microphone 5. The microphone 5 is arranged on the operation surface 1PC side of the portable electronic device 1 shown in FIG.

図2、図3に示すように、携帯電子機器1の背面1PBには、撮像手段であるカメラ4Cが設けられる。すなわち、カメラ4Cは、マイク5とは反対側に設けられる。カメラ4Cは、入光部(画像を撮像素子に取り入れる部分)が第2筐体1CBの外部に露出している。後述するように、本実施形態では、レシーバ6が出力する音声の音量や速度等を調整する場合、携帯電子機器1の使用者の指等でカメラ4Cの入光部が覆われるが、カメラ4Cを、マイク5が設けられる操作面1PCとは反対側に設けることにより、使用者の指でカメラ4Cを覆いやすくなる。これによって、音量や音声の速度を調整する際の利便性が向上する。   As shown in FIGS. 2 and 3, the back surface 1 </ b> PB of the portable electronic device 1 is provided with a camera 4 </ b> C that is an imaging unit. That is, the camera 4 </ b> C is provided on the side opposite to the microphone 5. In the camera 4 </ b> C, a light incident portion (a portion where an image is taken into the imaging device) is exposed to the outside of the second housing 1 </ b> CB. As will be described later, in this embodiment, when adjusting the volume and speed of the sound output from the receiver 6, the light incident portion of the camera 4C is covered with the finger of the user of the portable electronic device 1, but the camera 4C Is provided on the side opposite to the operation surface 1PC on which the microphone 5 is provided, thereby making it easier to cover the camera 4C with the user's finger. This improves the convenience when adjusting the volume and the speed of the voice.

本実施形態において、カメラ4Cには、例えば、CCD(Charge Coupled Device Image Sensor)のような撮像素子が用いられる。カメラ4Cは、撮像素子の制御回路とともにカメラモジュール4に組み込まれる。ここで、カメラ4Cの入光部は、カメラ4Cの最も被写体側に設けられて、撮像素子が撮像する画像が最初に入射する部分である。本実施形態において、第2筐体1CBの背面1PBには、カメラ4Cの周囲の明るさを検出する明るさ検出手段として、明度センサ9が設けられる。明度センサ9は、例えば、フォトダイオードが用いられる。   In the present embodiment, an image sensor such as a CCD (Charge Coupled Device Image Sensor) is used for the camera 4C, for example. The camera 4C is incorporated in the camera module 4 together with a control circuit for the image sensor. Here, the light incident portion of the camera 4C is a portion that is provided on the most object side of the camera 4C and first receives an image picked up by the image pickup device. In the present embodiment, a brightness sensor 9 is provided on the back surface 1PB of the second housing 1CB as brightness detection means for detecting the brightness around the camera 4C. As the brightness sensor 9, for example, a photodiode is used.

図4は、本実施形態に係る携帯電子機器の機能を説明するためのブロック図である。携帯電子機器1の動作は、制御装置10により制御される。制御装置10は制御手段であり、主処理部11と、記憶部12と、画像処理部13と、音声処理部14と、通信処理部15とを有する。主処理部11は、記憶部12、画像処理部13、音声処理部14、通信処理部15、ディスプレイ2、操作部3、明度センサ9が接続される。そして、主処理部11は、携帯電子機器1の全体的な動作を統括的に制御する。すなわち、主処理部11は、携帯電子機器1の各種の処理が、操作部3の操作や携帯電子機器1の記憶部12に保存されるソフトウェアに応じて適切な手順で実行されるように、通信処理部15や音声処理部14、あるいは画像処理部13等の動作を制御する。   FIG. 4 is a block diagram for explaining functions of the portable electronic device according to the present embodiment. The operation of the portable electronic device 1 is controlled by the control device 10. The control device 10 is a control unit, and includes a main processing unit 11, a storage unit 12, an image processing unit 13, an audio processing unit 14, and a communication processing unit 15. The main processing unit 11 is connected to a storage unit 12, an image processing unit 13, an audio processing unit 14, a communication processing unit 15, a display 2, an operation unit 3, and a brightness sensor 9. The main processing unit 11 comprehensively controls the overall operation of the mobile electronic device 1. That is, the main processing unit 11 performs various processes of the portable electronic device 1 in an appropriate procedure according to the operation of the operation unit 3 and the software stored in the storage unit 12 of the portable electronic device 1. It controls operations of the communication processing unit 15, the audio processing unit 14, the image processing unit 13, and the like.

携帯電子機器1の各種の処理としては、例えば、回線交換網を介して行われる音声通話、電子メールの作成及び送受信等がある。また、通信処理部15や音声処理部14等の動作としては、例えば、通信処理部15における信号の送受信、音声処理部14における音声の制御や入出力、カメラ4Cが撮像した画像の画像処理部13による処理等がある。   Various processes of the portable electronic device 1 include, for example, a voice call performed via a circuit switching network, creation and transmission / reception of an electronic mail, and the like. Examples of the operations of the communication processing unit 15 and the audio processing unit 14 include transmission / reception of signals in the communication processing unit 15, control and input / output of audio in the audio processing unit 14, and an image processing unit of an image captured by the camera 4C. 13 or the like.

主処理部11は、記憶部12に保存されているプログラム(例えば、オペレーティングシステムプログラム、アプリケーションプログラム等)に基づいて処理を実行する。主処理部11は、例えば、マイクロプロセッサユニット(MPU:Micro Processor Unit)で構成され、前記ソフトウェアで指示された手順に従って上述した携帯電子機器1の各種の処理を実行する。すなわち、主処理部11は、記憶部12に保存されるオペレーティングシステムプログラムやアプリケーションプログラム等から命令コードを順次読み込んで処理を実行する。   The main processing unit 11 executes processing based on a program (for example, an operating system program, application program, etc.) stored in the storage unit 12. The main processing unit 11 is constituted by, for example, a microprocessor unit (MPU: Micro Processor Unit), and executes various processes of the portable electronic device 1 described above in accordance with procedures instructed by the software. That is, the main processing unit 11 sequentially reads instruction codes from an operating system program, application program, or the like stored in the storage unit 12 and executes processing.

また、主処理部11は、音声処理部14に出力する音声データのレベル(音量)や速度等を調整する。これによって、音声処理部14に接続されるレシーバ6から出力される音声の音量や速度等が変更される。また、主処理部11は、マイク5が取得し、音声処理部14から入力される音声データを通信処理部15に出力しない処理も可能である。これによって、携帯電子機器1からの送話をミュートすることができる。   The main processing unit 11 also adjusts the level (volume), speed, etc. of the audio data output to the audio processing unit 14. As a result, the volume and speed of the sound output from the receiver 6 connected to the sound processing unit 14 are changed. In addition, the main processing unit 11 can perform processing in which the microphone 5 acquires and the audio data input from the audio processing unit 14 is not output to the communication processing unit 15. Thereby, the transmission from the portable electronic device 1 can be muted.

記憶部12は、主処理部11での処理に利用されるソフトウェアやデータを保存する。例えば、記憶部12は、ダウンロードされた画像データや音声データ、あるいは主処理部11が記憶部12に対する制御に用いるソフトウェア、通信相手の電話番号やメールアドレス等を保存し管理するアドレス帳、発信音や着信音等の音声ファイル、ソフトウェアの処理過程で用いられる一時的なデータ等を保存する。記憶部12は、例えば、不揮発性の記憶デバイス(ROM:Read Only Memory等の不揮発性半導体メモリ、ハードディスク装置等)や、読み書き可能な記憶デバイス(例えば、SRAM:Static Random Access Memory、DRAM:Dynamic Random Access Memory)等で構成される。   The storage unit 12 stores software and data used for processing in the main processing unit 11. For example, the storage unit 12 stores downloaded image data and voice data, software used by the main processing unit 11 for controlling the storage unit 12, an address book that stores and manages a communication partner's telephone number, mail address, and the like. And voice files such as ringtones, temporary data used in software processing. The storage unit 12 includes, for example, a nonvolatile storage device (nonvolatile semiconductor memory such as ROM: Read Only Memory, a hard disk device, etc.), a readable / writable storage device (for example, SRAM: Static Random Access Memory, DRAM: Dynamic Random Access Memory).

本実施形態において、画像処理部13、音声処理部14、通信処理部15は、それぞれの機能を実現するための専用のIC(Integral Circuit:集積回路)で構成される。画像処理部13は、画像処理手段である。画像処理部13は、カメラモジュール4が接続されており、これに組み込まれるカメラ4Cが撮像し、カメラモジュール4から送られる被写体の画像信号を取得する。そして、画像処理部13は、取得した画像信号に対して各種の処理を施して画像情報を生成し、主処理部11へ出力する。各種の処理としては、例えば、AD変換(Analog Digital変換)処理や、さらに符号化等の処理がある。   In the present embodiment, the image processing unit 13, the audio processing unit 14, and the communication processing unit 15 are configured by dedicated ICs (Integral Circuits) for realizing the respective functions. The image processing unit 13 is an image processing unit. The image processing unit 13 is connected to the camera module 4, and the camera 4 </ b> C incorporated therein captures an image and acquires an image signal of a subject sent from the camera module 4. Then, the image processing unit 13 performs various processes on the acquired image signal to generate image information, and outputs the image information to the main processing unit 11. Examples of the various processes include an AD conversion (Analog Digital conversion) process and a process such as encoding.

音声処理部14は、音声制御手段であり、マイク(MIC)5、レシーバ(RCV)6、スピーカ17が接続される。音声処理部14は、レシーバ6から出力される音声やマイク5に入力される音声の信号処理を実行する。すなわち、音声処理部14は、マイク5から入力される音声を増幅し、AD変換(Analog Digital変換)を実行した後さらに符号化等の信号処理を施して、ディジタルの音声データに変換して主処理部11へ出力する。また、音声処理部14は、主処理部11から送られる音声データに対して復号化、DA変換(Digital Analog変換)、増幅等の処理を施してアナログの音声信号に変換してから、レシーバ6へ出力する。さらに、音声処理部14は、着信音や電子メールの送信音等をスピーカ17から出力させる。   The audio processing unit 14 is an audio control unit, and is connected to a microphone (MIC) 5, a receiver (RCV) 6, and a speaker 17. The audio processing unit 14 performs signal processing of audio output from the receiver 6 and audio input to the microphone 5. That is, the audio processing unit 14 amplifies the audio input from the microphone 5, performs AD conversion (Analog Digital conversion), and then performs signal processing such as encoding to convert the digital audio data into main audio data. Output to the processing unit 11. The audio processing unit 14 performs processing such as decoding, DA conversion (Digital Analog conversion) and amplification on the audio data sent from the main processing unit 11 to convert it into an analog audio signal, and then receives the receiver 6. Output to. Furthermore, the voice processing unit 14 causes the speaker 17 to output a ringtone, an e-mail transmission sound, and the like.

通信手段である通信処理部15は、アンテナ7が接続されており、基地局のいずれかによって割り当てられるチャンネルを介して、前記基地局との間で無線通信を行う。この無線通信において、通信処理部15は、前記基地局を介して取得した通信対象の携帯電子機器の音声データを主処理部11へ出力する。また、前記無線通信において、通信処理部15は、携帯電子機器1のマイク5が取得し、音声処理部14によって信号処理された音声データを、前記基地局を介して通信対象の携帯電子機器へ出力する。   The communication processing unit 15 serving as a communication unit is connected to the antenna 7 and performs wireless communication with the base station via a channel assigned by any of the base stations. In this wireless communication, the communication processing unit 15 outputs the voice data of the mobile electronic device to be communicated acquired through the base station to the main processing unit 11. In the wireless communication, the communication processing unit 15 acquires the audio data acquired by the microphone 5 of the portable electronic device 1 and subjected to signal processing by the audio processing unit 14 to the portable electronic device to be communicated via the base station. Output.

携帯電子機器1が他の携帯電子機器と通信(基地局を介した無線通信)している場合、通信相手からの音声はレシーバ6から出力されるが、その音量や速度を調整したい場合がある。また、携帯電子機器1からの送話をミュートする、すなわち、携帯電子機器1のマイク5が取得した音声を通信相手には送信しないことが必要になる場合もある。なお、送話のミュート時には、通信相手からの音声はレシーバ6から出力される。このような場合、携帯電子機器1は、カメラ4Cを利用して、音量や音声の速度を調整する際の利便性を向上させる。次に、この手法を説明する。   When the portable electronic device 1 communicates with another portable electronic device (wireless communication via a base station), the sound from the communication partner is output from the receiver 6, but there is a case where it is desired to adjust the volume and speed. . Further, it may be necessary to mute the transmission from the portable electronic device 1, that is, not to transmit the voice acquired by the microphone 5 of the portable electronic device 1 to the communication partner. Note that the voice from the communication partner is output from the receiver 6 when the transmission is muted. In such a case, the portable electronic device 1 uses the camera 4C to improve convenience when adjusting the volume and the speed of sound. Next, this method will be described.

図5は、本実施形態に係る音声調整方法の手順を示すフローチャートである。本実施形態に係る音声調整方法は、携帯電子機器1によって実行され、より具体的には携帯電子機器1の制御装置10が実行する。本実施形態に係る音声調整方法は、携帯電子機器1の通話中に実行される。ステップS101において、図4に示す制御装置10の主処理部11は、携帯電子機器1が通話中であるか否かを判定する。ステップS101でNoと判定された場合、すなわち、主処理部11が携帯電子機器1は通話中でないと判定した場合、STARTに戻り、主処理部11は、携帯電子機器1の状態の監視を継続する。   FIG. 5 is a flowchart showing the procedure of the audio adjustment method according to the present embodiment. The audio adjustment method according to the present embodiment is executed by the mobile electronic device 1, and more specifically, executed by the control device 10 of the mobile electronic device 1. The audio adjustment method according to the present embodiment is executed during a call of the mobile electronic device 1. In step S101, the main processing unit 11 of the control device 10 shown in FIG. 4 determines whether or not the mobile electronic device 1 is busy. When it is determined No in step S101, that is, when the main processing unit 11 determines that the mobile electronic device 1 is not in a call, the process returns to START, and the main processing unit 11 continues to monitor the state of the mobile electronic device 1. To do.

ステップS101でYesと判定された場合、ステップS102へ進む。ステップS102において、主処理部11は、カメラ4Cによる音声調整機能が有効であるか否かを判定する。カメラ4Cによる音声調整機能(以下、カメラ音声調整機能という)とは、携帯電子機器1の通話中にカメラ4Cを使用者の指等で覆い、カメラ4Cが覆われる程度(面積)を変更することで、レシーバ6からの音声の音量を調整したり、レシーバ6からの音声の速度を調整したりする機能である。カメラ音声調整機能は、携帯電子機器1の使用者によって使用するか否か、何を調整するのか等を設定できる。   When it determines with Yes by step S101, it progresses to step S102. In step S102, the main processing unit 11 determines whether or not the sound adjustment function by the camera 4C is valid. The sound adjustment function by the camera 4C (hereinafter referred to as camera sound adjustment function) means that the camera 4C is covered with a user's finger or the like during a call of the portable electronic device 1, and the extent (area) that the camera 4C is covered is changed. Thus, the sound volume from the receiver 6 is adjusted and the speed of the sound from the receiver 6 is adjusted. The camera sound adjustment function can set whether or not to use the portable electronic device 1 by the user and what to adjust.

図6は、メニュー画面の一例を示す図である。例えば、カメラ音声調整機能は、ディスプレイ2に表示されるメニュー画面によって設定できる。携帯電子機器1の使用者は、操作キー3Aや方向及び決定キー3Bを用いて図6に示すメニュー画面を読み出し、カメラ音量調整機能を設定する。この例では、カメラ4Cを利用して、レシーバ6から出力される音声の音量及び速度を調整できるように設定できる。例えば、図6のメニュー画面の音量をONにすると、カメラ4Cの入光部を覆う面積を変更することによりレシーバ6から出力される音声の音量を調整できる。また、図6のメニュー画面の速度をONにすると、カメラ4Cの入光部を覆う面積を変更することによりレシーバ6から出力される音声の速度を調整できる。それぞれの項目をOFFにすると、音声の音量及び速度はカメラ4Cによっては変更できず、通常の音声調整機能で音声の音量や速度が調整されることになる。ここで、通常の音声調整機能とは、操作キー3Aや方向及び決定キー3Bを操作することによりレシーバ6から出力される音声を調整する機能である。   FIG. 6 is a diagram illustrating an example of a menu screen. For example, the camera sound adjustment function can be set by a menu screen displayed on the display 2. The user of the portable electronic device 1 reads out the menu screen shown in FIG. 6 using the operation keys 3A, the direction and determination keys 3B, and sets the camera volume adjustment function. In this example, it can be set so that the volume and speed of the sound output from the receiver 6 can be adjusted using the camera 4C. For example, when the volume of the menu screen in FIG. 6 is turned on, the volume of the sound output from the receiver 6 can be adjusted by changing the area covering the light incident portion of the camera 4C. When the speed of the menu screen in FIG. 6 is turned on, the speed of the sound output from the receiver 6 can be adjusted by changing the area covering the light incident part of the camera 4C. When each item is turned OFF, the sound volume and speed cannot be changed by the camera 4C, and the sound volume and speed are adjusted by a normal sound adjustment function. Here, the normal voice adjustment function is a function for adjusting the voice output from the receiver 6 by operating the operation key 3A, the direction and the determination key 3B.

ステップS102でNoと判定された場合、すなわち、主処理部11が、カメラ音声調整機能は有効でないと判定した場合、ステップS103へ進み、上述した通常の音声調整により、レシーバ6から出力される音声の音量や速度が調整される。ステップS102でYesと判定された場合、すなわち、主処理部11が、カメラ音声調整機能は有効であると判定した場合、ステップS104へ進む。ステップS104で、主処理部11は、携帯電子機器1のカメラ4Cが起動中であるか否かを判定する。   When it is determined No in step S102, that is, when the main processing unit 11 determines that the camera sound adjustment function is not effective, the process proceeds to step S103, and the sound output from the receiver 6 by the normal sound adjustment described above. The volume and speed of the are adjusted. When it is determined Yes in step S102, that is, when the main processing unit 11 determines that the camera sound adjustment function is effective, the process proceeds to step S104. In step S104, the main processing unit 11 determines whether the camera 4C of the mobile electronic device 1 is being activated.

ステップS104でNoと判定された場合、すなわち、主処理部11は、携帯電子機器1のカメラ4Cが起動していないと判定した場合、ステップS105に進み、主処理部11は、携帯電子機器1のカメラ4Cを起動する。カメラ音声調整機能は、携帯電子機器1の通話中にカメラ4Cを用いるため、カメラ4Cが起動していないとカメラ音声調整機能は実行できないからである。ステップS105でカメラを起動した後、あるいはステップS104でYesと判定された場合(主処理部11が携帯電子機器1のカメラ4Cは起動中であると判定した場合)、ステップS106へ進む。   When it determines with No by step S104, ie, when the main process part 11 determines with the camera 4C of the portable electronic device 1 not starting, it progresses to step S105 and the main process part 11 is the portable electronic device 1. The camera 4C is activated. This is because the camera sound adjustment function uses the camera 4C during a call of the mobile electronic device 1, and therefore cannot execute the camera sound adjustment function unless the camera 4C is activated. After the camera is activated in step S105 or when it is determined Yes in step S104 (when the main processing unit 11 determines that the camera 4C of the mobile electronic device 1 is activated), the process proceeds to step S106.

ステップS106において、主処理部11は、携帯電子機器1の使用環境、より具体的にはカメラ4Cの使用環境の明るさが所定値以上であるか否かを判定する。本実施形態では、カメラ4Cを使用者の指等で覆い、カメラ4Cが覆われる程度(面積)に応じてレシーバ6の音声出力を調整する。このため、カメラ4Cは、被写体である使用者の指等を認識できることが必要である。したがって、本実施形態に係る音声調整方法では、カメラ4Cの使用環境はカメラ4Cが被写体を認識できる程度の明るさが必要となる。このため、ステップS106で、カメラ4Cの使用環境の明るさが所定値以上であるか否かが判定される。   In step S106, the main processing unit 11 determines whether the brightness of the usage environment of the mobile electronic device 1, more specifically, the brightness of the usage environment of the camera 4C is equal to or higher than a predetermined value. In the present embodiment, the camera 4C is covered with a user's finger or the like, and the audio output of the receiver 6 is adjusted according to the extent (area) the camera 4C is covered. Therefore, the camera 4C needs to be able to recognize the user's finger or the like that is the subject. Therefore, in the audio adjustment method according to the present embodiment, the use environment of the camera 4C needs to be bright enough to allow the camera 4C to recognize the subject. Therefore, in step S106, it is determined whether the brightness of the usage environment of the camera 4C is equal to or higher than a predetermined value.

本実施形態では、カメラ4Cの使用環境の明るさを、図3、図4に示す明度センサ9で検出する。ステップS106での明るさの所定値、すなわち、ステップS106の判断における明るさの閾値は、カメラ4Cの仕様等から予め定めておき、記憶部12へ格納しておく。ステップS106において主処理部11は、明度センサ9からカメラ4Cの使用環境における実際の明るさと記憶部12へ格納された明るさの閾値とを取得し、両者を比較する。その結果、カメラ4Cの使用環境における実際の明るさが明るさの閾値よりも小さい場合(ステップS106:No)、カメラ4Cの使用環境の明るさではカメラ4Cが被写体を認識できないと判断できる。この場合、ステップS103へ進み、上述した通常の音声調整により、レシーバ6から出力される音声の音量や速度が調整される。   In the present embodiment, the brightness of the environment in which the camera 4C is used is detected by the brightness sensor 9 shown in FIGS. The predetermined brightness value in step S106, that is, the brightness threshold value in the determination in step S106, is determined in advance from the specifications of the camera 4C and the like, and is stored in the storage unit 12. In step S <b> 106, the main processing unit 11 acquires the actual brightness in the usage environment of the camera 4 </ b> C and the brightness threshold stored in the storage unit 12 from the brightness sensor 9, and compares the two. As a result, when the actual brightness in the usage environment of the camera 4C is smaller than the brightness threshold (step S106: No), it can be determined that the camera 4C cannot recognize the subject with the brightness of the usage environment of the camera 4C. In this case, the process proceeds to step S103, and the volume and speed of the sound output from the receiver 6 are adjusted by the normal sound adjustment described above.

ここで、ステップS106の判断において、主処理部11は、制御装置10に内蔵された時計を用いて、現在の時刻から、カメラ4Cの使用環境は、カメラ4Cが被写体を認識できる程度の明るさであるか否かを判定してもよい。このようにすれば、明度センサ9は不要なので、携帯電子機器1の装置構成を簡単にできるとともに、製造コストを低減できる。しかし、季節によっては同じ時刻であってもカメラ4Cの使用環境の明るさは異なることや、照明の有無によってもカメラ4Cの使用環境の明るさは異なる。したがって、時刻による判定は明度センサ9による判定の精度を高めるための補助として用いることが好ましい。   Here, in the determination in step S106, the main processing unit 11 uses the clock built in the control device 10 and the usage environment of the camera 4C is bright enough to recognize the subject from the current time. It may be determined whether or not. In this way, since the brightness sensor 9 is unnecessary, the device configuration of the portable electronic device 1 can be simplified and the manufacturing cost can be reduced. However, the brightness of the usage environment of the camera 4C is different even at the same time depending on the season, and the brightness of the usage environment of the camera 4C is different depending on the presence or absence of illumination. Therefore, the determination based on the time is preferably used as an auxiliary for increasing the accuracy of the determination by the lightness sensor 9.

カメラ4Cの使用環境における実際の明るさが明るさの閾値以上である場合(ステップS106:Yes)、カメラ4Cの使用環境の明るさは、カメラ4Cが被写体を認識できる程度である判断できる。この場合、ステップS107へ進む。ステップS107で、主処理部11は、カメラ4Cからの画像情報を取得する。カメラ4Cからの画像情報は、カメラ4Cが撮像した画像信号に画像処理部13が所定の画像処理を施すことにより生成される。主処理部11は、画像処理部13を介して、カメラ4Cからの画像情報を取得する。次にステップS108へ進み、主処理部11は、カメラ4Cが撮像し、画像処理部13で画像処理された画像情報から、単色画像(画素)を連続して検出したか否かを判定する。   When the actual brightness in the usage environment of the camera 4C is equal to or greater than the brightness threshold (step S106: Yes), the brightness of the usage environment of the camera 4C can be determined to the extent that the camera 4C can recognize the subject. In this case, the process proceeds to step S107. In step S107, the main processing unit 11 acquires image information from the camera 4C. Image information from the camera 4C is generated when the image processing unit 13 performs predetermined image processing on an image signal captured by the camera 4C. The main processing unit 11 acquires image information from the camera 4C via the image processing unit 13. In step S108, the main processing unit 11 determines whether or not a single color image (pixel) is continuously detected from the image information captured by the camera 4C and processed by the image processing unit 13.

図7は、カメラによって撮像された画像の画像情報を構成する画素と、それぞれの画素の色情報との関係を示す図である。図8は、カメラによって撮像され、画像処理された画像情報を示す模式図である。図8は、カメラ4Cによって撮像され、画像処理部13で画像処理されることにより生成された画像情報20であり、複数の画素P0、P1、P2・・・Pnから構成される(nは画素の識別番号)。画像情報20は、XY座標上に表され、Y軸は携帯電子機器1の長手方向(レシーバ6からマイク5に向かう方向)と平行な軸であり、X軸はY軸と直交する軸である。   FIG. 7 is a diagram illustrating a relationship between pixels constituting image information of an image captured by the camera and color information of each pixel. FIG. 8 is a schematic diagram showing image information imaged and processed by the camera. FIG. 8 shows image information 20 captured by the camera 4C and generated by image processing by the image processing unit 13, and includes a plurality of pixels P0, P1, P2,... Pn (n is a pixel) Identification number). The image information 20 is represented on XY coordinates, the Y axis is an axis parallel to the longitudinal direction of the portable electronic device 1 (the direction from the receiver 6 to the microphone 5), and the X axis is an axis orthogonal to the Y axis. .

例えば、携帯電子機器1の使用者がレシーバ6の音量を調整するためにカメラ4Cを指で覆った場合、カメラ4Cは、その指を被写体として撮像する。すると、撮像された被写体の部分は、例えば、図8に示す画像情報20に単色となって現れる。したがって、主処理部11が、カメラ4Cによって撮像され、画像処理部13で画像処理された画像情報20から連続する単色画像を検出した場合には、携帯電子機器1の使用者の指でカメラ4Cの一部又は全部が覆われていると判断できる。図7に示す例では、画素P1〜Pn−1までの色情報は連続していないが、画素Pn以降の色情報はすべて00(16進)で連続している。このような画素を有する画像情報は、連続する単色画像が検出されることになる。   For example, when the user of the mobile electronic device 1 covers the camera 4C with a finger in order to adjust the volume of the receiver 6, the camera 4C images the finger as a subject. Then, the imaged portion of the subject appears as a single color in the image information 20 shown in FIG. 8, for example. Therefore, when the main processing unit 11 detects a continuous monochromatic image from the image information 20 captured by the camera 4C and image-processed by the image processing unit 13, the camera 4C is detected with the finger of the user of the portable electronic device 1. It can be judged that a part or all of is covered. In the example shown in FIG. 7, the color information from the pixels P1 to Pn-1 is not continuous, but the color information after the pixel Pn is all continuous in 00 (hexadecimal). For the image information having such pixels, a continuous monochrome image is detected.

なお、指の色は必ずしも単色で検出されるとは限らないので、予め携帯電子機器1の使用者の指をカメラ4Cで撮像し、その色をカメラ音声調整機能に用いる判定色として設定し、記憶部12へ格納してもよい。この場合、ステップS108では、単色画像の代わりに設定した判定色を用いる。このようにすれば、カメラ音声調整機能を実行するためにカメラ4Cの入光部を覆う被写体を精度よく、より確実に検出できる。   Since the finger color is not always detected as a single color, the user's finger of the portable electronic device 1 is imaged in advance with the camera 4C, and the color is set as a determination color used for the camera sound adjustment function. You may store in the memory | storage part 12. FIG. In this case, in step S108, the set determination color is used instead of the single color image. In this way, it is possible to accurately and more reliably detect the subject that covers the light incident portion of the camera 4C in order to execute the camera sound adjustment function.

ステップS108で連続する単色画像が検出されない場合(ステップS108:No)、STARTに戻り、主処理部11は、携帯電子機器1の状態の監視を継続する。ステップS108で連続する単色画像が検出されたら(ステップS108:Yes)、ステップS109へ進む。ステップS109において、主処理部11は、携帯電子機器1の使用者の指等でカメラ4Cが覆われた時間(カメラ4Cが使用者の指等を撮像した時間)が、予め定めた所定の時間Tw継続したか否かを判定する。これは、連続する単色画像が検出された状態が所定の待機時間Tw継続したか否かで判定される。   If no continuous monochrome image is detected in step S108 (step S108: No), the process returns to START, and the main processing unit 11 continues to monitor the state of the portable electronic device 1. If a continuous monochrome image is detected in step S108 (step S108: Yes), the process proceeds to step S109. In step S109, the main processing unit 11 determines that the time when the camera 4C is covered with the user's finger or the like of the portable electronic device 1 (the time when the camera 4C images the user's finger or the like) is a predetermined time. It is determined whether Tw has continued. This is determined based on whether or not a state in which continuous monochrome images are detected continues for a predetermined waiting time Tw.

ステップS109でNoと判定された場合、すなわち、主処理部11が、連続する単色画像の検出された状態が所定の待機時間Tw継続しなかったと判定した場合、STARTに戻り、主処理部11は、携帯電子機器1の状態の監視を継続する。ステップS109でYesと判定された場合、すなわち、主処理部11が、連続する単色画像が検出された状態が所定の待機時間Tw継続したと判定した場合、ステップS110に進む。このように、カメラ4Cが覆われた時間が、予め定めた所定の時間Tw継続してから、本実施形態に係る音声調整方法の次のステップへ移行することにより、カメラ音声調整機能を利用して音声を調整しようとする携帯電子機器1の使用者の意思を確認できる。これによって、前記使用者の意思を反映させた制御が可能になる。ステップS109でYesと判定されたらステップS110へ進み、主処理部11は、基準値を設定する。   When it is determined No in step S109, that is, when the main processing unit 11 determines that the state where the continuous monochrome image is detected does not continue for the predetermined waiting time Tw, the process returns to START, and the main processing unit 11 The monitoring of the state of the portable electronic device 1 is continued. When it is determined Yes in step S109, that is, when the main processing unit 11 determines that the state where the continuous monochrome image is detected continues for the predetermined standby time Tw, the process proceeds to step S110. Thus, after the time when the camera 4C is covered continues for a predetermined time Tw, the camera audio adjustment function is used by moving to the next step of the audio adjustment method according to the present embodiment. Thus, the intention of the user of the portable electronic device 1 who wants to adjust the voice can be confirmed. As a result, control reflecting the user's intention is enabled. If it determines with Yes by step S109, it will progress to step S110 and the main process part 11 will set a reference value.

図9、図10は、画像情報とこの画像情報に含まれる単色画像の面積率と音量との関係を示す模式図である。図9、図10のX、Yは、図8のX軸、Y軸に対応する(以下同様)。また、面積率ρは、画像情報中に存在する連続する単色画像の割合であり、より具体的には、画像情報の全画素数に占める連続する単色画像の画素数の割合である。本実施形態では、カメラ音声調整機能を実行するためにカメラ4Cが指等の被写体で覆われたときにカメラ4Cが撮像した画像の画像情報のときの音声出力(例えば音量)を、調整する対象の基準値とする。そして、例えば、指等の被写体によってカメラ4Cの覆われる程度(面積)が変化した場合には、カメラ4Cによって得られた画像情報における単色画像の面積率が変化するので、これに応じて前記基準値から音声出力を変更する。   FIG. 9 and FIG. 10 are schematic diagrams showing the relationship between the image information and the area ratio and volume of the monochrome image included in the image information. 9 and 10 correspond to the X and Y axes in FIG. 8 (the same applies hereinafter). The area ratio ρ is a ratio of continuous monochrome images existing in the image information, and more specifically, a ratio of the number of pixels of the continuous monochrome image in the total number of pixels of the image information. In this embodiment, in order to execute the camera sound adjustment function, the audio output (for example, volume) for adjusting the image information of the image captured by the camera 4C when the camera 4C is covered with a subject such as a finger is adjusted. This is the standard value. For example, when the extent (area) of the camera 4C covered by a subject such as a finger changes, the area ratio of the monochromatic image in the image information obtained by the camera 4C changes. Change the audio output from the value.

図9に示す例では、主処理部11は、携帯電子機器1の使用者の指がカメラ4Cを完全に覆ったとき、すなわち、カメラ4Cが撮像した画像の画像情報に含まれる連続する単色画像の面積率が100%であるときの音量を基準値Vdとして設定し、記憶部12へ格納する。また、図10に示す例では、主処理部11は、携帯電子機器1の使用者の指がカメラ4Cを7割程度覆ったとき、すなわち、カメラ4Cが撮像した画像の画像情報に含まれる連続する単色画像の面積率が70%程度であるときの音量を基準値Vdとして設定し、記憶部12へ格納する。   In the example illustrated in FIG. 9, the main processing unit 11 includes a continuous monochromatic image included in the image information of an image captured by the camera 4C when the user's finger of the mobile electronic device 1 completely covers the camera 4C. Is set as the reference value Vd and stored in the storage unit 12. In the example illustrated in FIG. 10, the main processing unit 11 includes the continuous information included in the image information of the image captured by the camera 4 </ b> C when the user's finger of the portable electronic device 1 covers the camera 4 </ b> C by about 70%. The volume when the area ratio of the monochrome image to be performed is about 70% is set as the reference value Vd and stored in the storage unit 12.

図9に示す例では、連続する単色画像の面積率ρに応じて音量を設定する。例えば、面積率ρが100%のときは基準値Vdであり、面積率ρが75%のときの音量は0.75×Vdである。また、本実施形態では、面積率ρが0%のとき、すなわち、カメラ4Cが覆われない状態では、後述するように送話をミュートする関係から、面積率ρが0%のときでもレシーバ6から音声が出力されるようにしてある。本実施形態では、送話のミュート時における音量は、基準値Vdに0.1を乗じた値としてあるが、これに限定されるものではない。また、図9に示す例では、説明の便宜上、面積率ρを断続的に表しているが、図9にない面積率ρに対する音量は、図9に存在する面積率ρに対応する音量から補間して求める(以下の例でも同様)。なお、面積率ρと音量との関係は、記憶部12に保存されている。   In the example shown in FIG. 9, the volume is set according to the area ratio ρ of continuous monochrome images. For example, when the area ratio ρ is 100%, the reference value is Vd, and when the area ratio ρ is 75%, the volume is 0.75 × Vd. In the present embodiment, when the area ratio ρ is 0%, that is, in a state where the camera 4C is not covered, the receiver 6 is muted even when the area ratio ρ is 0% because the transmission is muted as described later. The sound is output from. In the present embodiment, the volume when the transmission is muted is a value obtained by multiplying the reference value Vd by 0.1. However, the present invention is not limited to this. In the example shown in FIG. 9, the area ratio ρ is intermittently expressed for convenience of explanation, but the volume for the area ratio ρ that is not shown in FIG. 9 is interpolated from the volume corresponding to the area ratio ρ that exists in FIG. 9. (The same applies to the following examples). Note that the relationship between the area ratio ρ and the sound volume is stored in the storage unit 12.

ステップS110で基準値が設定されたらステップS111へ進む。ステップS111において、主処理部11は、画像処理部13から出力されるカメラ4Cからの画像情報に含まれる連続する単色画像の変化を検出したか否かを判断する。例えば、主処理部11は、異なる時間T1、T2において画像情報に含まれる連続する単色画像の画線率ρ1とρ2との差の絶対値|ρ1−ρ2|を求め、この値が所定の閾値ρc以上であれば、連続する単色画像の変化を検出したと判断する。ここで、連続する単色画像の変化は、例えば、図9に示す例において、連続する単色画像の面積率ρが100%から50%に変化した場合や、75%から50%に変化した場合等である。連続する単色画像の変化は、携帯電子機器1の使用者の指等を動かして、使用者の指等がカメラ4Cの入光部を覆う面積が変化することにより、カメラ4Cが撮像した画像に含まれる前記指等に相当する部分の面積が変化して発生する。   When the reference value is set in step S110, the process proceeds to step S111. In step S <b> 111, the main processing unit 11 determines whether or not a change in continuous monochrome images included in the image information from the camera 4 </ b> C output from the image processing unit 13 is detected. For example, the main processing unit 11 obtains the absolute value | ρ1−ρ2 | of the difference between the streak rates ρ1 and ρ2 of continuous monochrome images included in the image information at different times T1 and T2, and this value is a predetermined threshold value. If it is equal to or greater than ρc, it is determined that a change in continuous monochromatic image has been detected. Here, the change of the continuous monochrome image is, for example, in the example shown in FIG. 9, when the area ratio ρ of the continuous monochrome image is changed from 100% to 50%, or from 75% to 50%. It is. The change of the continuous monochromatic image is caused by moving the user's finger or the like of the portable electronic device 1 and changing the area where the user's finger or the like covers the light incident portion of the camera 4C, thereby changing the image captured by the camera 4C. It is generated by changing the area of the portion corresponding to the included finger or the like.

ステップS111でNoと判定された場合、すなわち、主処理部11が、連続する単色画像の変化を検出していない場合、カメラ4Cを覆った指の位置は変化していないと判断できる。この場合、STARTに戻り、主処理部11は、携帯電子機器1の状態の監視を継続する。ステップS111でYesと判定された場合、すなわち、主処理部11が、画像処理部13から出力されるカメラ4Cからの画像情報中に含まれる連続する単色画像の変化を検出した場合、カメラ4Cを覆った指の位置は変化していると判断できる。この場合、携帯電子機器1の使用者は、レシーバ6からの音声出力(この例では音量)を変更する意思があると判断できる。   When it is determined No in step S111, that is, when the main processing unit 11 has not detected a change in continuous monochrome images, it can be determined that the position of the finger covering the camera 4C has not changed. In this case, returning to START, the main processing unit 11 continues to monitor the state of the portable electronic device 1. When it is determined Yes in step S111, that is, when the main processing unit 11 detects a change in continuous monochromatic images included in the image information from the camera 4C output from the image processing unit 13, the camera 4C is selected. It can be determined that the position of the covered finger has changed. In this case, it can be determined that the user of the portable electronic device 1 has an intention to change the sound output (volume in this example) from the receiver 6.

この場合、ステップS112に進み、主処理部11は、カメラ4Cが被写体(この例では、携帯電子機器1の使用者の指)に覆われる程度に応じて、より具体的には検出された連続する単色画像の面積率ρに応じて、レシーバ6から出力される音声の音量を調整する。例えば、主処理部11は、連続する単色画像が変化した後における連続する単色画像の面積率ρに対応する音量とする。この場合、主処理部11は、カメラ4Cが撮像し画像処理部13によって画像処理された画像情報から連続する単色画像の面積率ρを求め、記憶部12に格納される面積率ρと音量との関係から、求めた面積率ρに対応する音量を設定する。そして、主処理部11は、設定した音量となるように音声信号を生成し、音声処理部14へ出力する。音声処理部14は、主処理部11から出力された音声信号に基づき、レシーバ6の駆動信号を生成してレシーバ6を駆動する。これによって、携帯電子機器1の通話中にレシーバ6から出力される音声を変更できる。   In this case, the process proceeds to step S112, and the main processing unit 11 more specifically detects the continuation detected according to the degree to which the camera 4C is covered by the subject (in this example, the finger of the user of the portable electronic device 1). The volume of the sound output from the receiver 6 is adjusted according to the area ratio ρ of the monochrome image to be performed. For example, the main processing unit 11 sets the volume corresponding to the area ratio ρ of the continuous monochrome image after the continuous monochrome image changes. In this case, the main processing unit 11 obtains an area ratio ρ of continuous monochromatic images from image information captured by the camera 4C and image-processed by the image processing unit 13, and the area ratio ρ and sound volume stored in the storage unit 12 are obtained. From the relationship, a volume corresponding to the obtained area ratio ρ is set. Then, the main processing unit 11 generates an audio signal so as to achieve the set volume and outputs it to the audio processing unit 14. The audio processing unit 14 generates a driving signal for the receiver 6 based on the audio signal output from the main processing unit 11 and drives the receiver 6. Thereby, the sound output from the receiver 6 during a call of the portable electronic device 1 can be changed.

このように、本実施形態では、カメラ4Cが撮像したカメラ4Cの入光部を覆う被写体(本実施形態では、携帯電子機器1の使用者の指等)の画像に基づき、レシーバ6の音声出力(音量、速度等)を調整する。すなわち、カメラ4Cの入光部と対向する被写体、より具体的にはカメラ4Cの入光部を覆う被写体の状態に基づき、レシーバ6から出力される音声出力を調整する。これによって、携帯電子機器1の通話中にレシーバ6から出力される音声出力を調整する場合には、簡単な操作で調整できるので、通話中に音声出力を調整する際の利便性が向上する。   As described above, in the present embodiment, the audio output of the receiver 6 is based on the image of the subject (in this embodiment, the finger of the user of the mobile electronic device 1) covering the light incident portion of the camera 4 </ b> C captured by the camera 4 </ b> C. Adjust (volume, speed, etc.). That is, the audio output output from the receiver 6 is adjusted based on the state of the subject facing the light incident part of the camera 4C, more specifically, the subject covering the light incident part of the camera 4C. As a result, when adjusting the audio output output from the receiver 6 during a call of the portable electronic device 1, the adjustment can be performed with a simple operation, so that the convenience in adjusting the audio output during the call is improved.

また、本実施形態では、カメラ4Cが撮像した画像中において被写体が占める程度、すなわち、カメラ4Cの入光部が被写体に覆われる程度(面積)に応じて音声出力が調整される。そして、本実施形態では、音量を調整する場合、被写体にカメラ4Cが覆われる程度(面積)が小さくなるにしたがって、音量が小さくなる。これによって、音量の大きさを変更しやすくなる。   In the present embodiment, the sound output is adjusted according to the degree to which the subject occupies the image captured by the camera 4C, that is, the degree (area) where the light incident portion of the camera 4C is covered by the subject. In the present embodiment, when the volume is adjusted, the volume decreases as the degree (area) of the camera 4C covered by the subject decreases. This makes it easier to change the volume level.

図9に示す例では、カメラ4Cの入光部を覆う使用者の指をY軸のマイナス(−)方向、すなわち、レシーバ6からマイク5に向かって動かすことにより、レシーバ6から出力される音声の音量を小さくできる。携帯電子機器1の通話中、レシーバ6は使用者の耳の付近に位置し、マイク5は使用者の口の付近に位置する。一般に、人間は頭が上で足が下という認識がある。そして、一般には、上方向が音量や速度の増加、下方向が音量や速度の減少という認識がある。   In the example shown in FIG. 9, the sound output from the receiver 6 by moving the user's finger covering the light incident part of the camera 4 </ b> C in the negative (−) direction of the Y axis, that is, from the receiver 6 toward the microphone 5. Can reduce the volume. During a call of the portable electronic device 1, the receiver 6 is located near the user's ear, and the microphone 5 is located near the user's mouth. In general, humans recognize that their heads are up and their feet are down. In general, there is a recognition that the upward direction is an increase in volume and speed, and the downward direction is a decrease in volume and speed.

したがって、本実施形態のように、レシーバ6(頭側、すなわち上側)からマイク5(足側、すなわち下側)に向かって使用者の指を動かした場合に、レシーバ6から出力される音声の音量が小さくなるようにすると、操作の方向と操作結果(音量の変化等)とが人間の認識と一致する。その結果、操作の間違いを低減できるので好ましい。なお、カメラ4Cの入光部を覆う指等を動かす方向(移動方向)と操作結果との対応は、上述した関係に限定されるものではない。   Therefore, when the user's finger is moved from the receiver 6 (the head side, ie, the upper side) toward the microphone 5 (the foot side, ie, the lower side) as in this embodiment, the sound output from the receiver 6 is When the volume is reduced, the direction of operation and the operation result (change in volume, etc.) coincide with human recognition. As a result, operational errors can be reduced, which is preferable. Note that the correspondence between the direction in which the finger or the like covering the light incident portion of the camera 4C is moved (movement direction) and the operation result is not limited to the above-described relationship.

ステップS112で音量が変更されたら、ステップS113へ進む。ステップS113において、主処理部11は、カメラ4Cが撮像し画像処理部13によって画像処理された画像情報から連続する単色情報が検出されるか否かを判定する。ステップS113でNoと判定された場合、すなわち、主処理部11が、カメラ4Cからの画像に基づいて得られる画像情報から連続する単色情報を検出した場合、STARTに戻り、主処理部11は、携帯電子機器1の状態の監視を継続する。   If the volume is changed in step S112, the process proceeds to step S113. In step S113, the main processing unit 11 determines whether continuous monochromatic information is detected from the image information captured by the camera 4C and image-processed by the image processing unit 13. When it is determined No in step S113, that is, when the main processing unit 11 detects continuous monochromatic information from image information obtained based on the image from the camera 4C, the process returns to START, and the main processing unit 11 Monitoring of the state of the portable electronic device 1 is continued.

ステップS113でYesと判定された場合、すなわち、主処理部11が、カメラ4Cからの画像に基づいて得られる画像情報から連続する単色情報を検出しない場合、ステップS114へ進む。この場合、携帯電子機器1の使用者の指はカメラ4Cから外されて、カメラ4Cの入光部を覆うものは何も存在しない状態であり、カメラ4Cは被写体(前記指等)を撮像しない状態である。すなわち、カメラ4Cからの画像に基づいて得られる画像情報に含まれる、連続する単色画像の面積率ρは0%である。このような状態になった場合、本実施形態では、送話をミュートする。すなわち、携帯電子機器1のマイク5が取得した音声を通信相手には送信しない。このため、主処理部11は、マイク5が取得し、音声処理部14から入力される音声データを通信処理部15に出力しない処理を実行する。これによって、携帯電子機器1からの送話はミュートされるが、上述したように、レシーバ6からは音声が出力される。すなわち、ミュート時には、携帯電子機器1から通話相手への送話はされないが、通話相手から携帯電子機器1への送話は可能であり、送話された音声は、携帯電子機器1のレシーバ6から出力される。このように、本実施形態では、カメラ4Cが撮像した被写体の画像に基づき、制御装置10を構成する通信処理部14による音声の送出が調整され、ミュート時には、通信処理部14による音声の送出は実行されない。   When it is determined Yes in step S113, that is, when the main processing unit 11 does not detect continuous monochromatic information from the image information obtained based on the image from the camera 4C, the process proceeds to step S114. In this case, the finger of the user of the portable electronic device 1 is removed from the camera 4C, and there is nothing that covers the light incident part of the camera 4C, and the camera 4C does not image the subject (such as the finger). State. That is, the area ratio ρ of continuous monochrome images included in the image information obtained based on the image from the camera 4C is 0%. In such a state, the transmission is muted in this embodiment. That is, the voice acquired by the microphone 5 of the portable electronic device 1 is not transmitted to the communication partner. For this reason, the main processing unit 11 executes a process that the microphone 5 acquires and does not output the audio data input from the audio processing unit 14 to the communication processing unit 15. As a result, the transmission from the portable electronic device 1 is muted, but the audio is output from the receiver 6 as described above. That is, at the time of mute, the mobile electronic device 1 does not transmit the call to the other party, but the call partner can transmit to the portable electronic device 1, and the transmitted voice is received by the receiver 6 of the portable electronic device 1. Is output from. As described above, in this embodiment, the transmission of sound by the communication processing unit 14 constituting the control device 10 is adjusted based on the subject image captured by the camera 4C. Not executed.

このように、本実施形態では、携帯電子機器1の通話中にレシーバ6から音声出力を調整する場合、指等でカメラ4Cを覆い、カメラ4C上でその指等を動かすだけでよい。これによって、操作部3のキー操作やディスプレイ2を確認しながらのキー操作が不要になるので、携帯電子機器1の通話中における音声出力の調整が簡易かつ容易に実現できる。また、通話中にレシーバ6から耳を離さずに音声出力を調整でき、さらに、カメラ4Cから指等を離すだけの簡単な操作で通話中における送話のミュートも実現できる。このように、本実施形態によれば、通話中に音声出力を調整する際の利便性を向上させることができる。さらに、携帯電子機器1にカメラ4Cが搭載されている場合、これを利用してソフトウェアを変更するのみで本実施形態に係る音声調整方法を実現できるので、新たなスイッチ等を設ける必要はない。これによって、携帯電子機器1の製造コストの上昇を抑制できる。   Thus, in this embodiment, when adjusting the audio output from the receiver 6 during a call of the portable electronic device 1, it is only necessary to cover the camera 4C with a finger or the like and move the finger or the like on the camera 4C. As a result, the key operation of the operation unit 3 and the key operation while confirming the display 2 are not required, so that the adjustment of the audio output during the call of the portable electronic device 1 can be realized easily and easily. Further, it is possible to adjust the audio output without taking off the ear from the receiver 6 during the call, and further, it is possible to realize the mute of the transmission during the call by a simple operation by simply removing the finger or the like from the camera 4C. Thus, according to the present embodiment, it is possible to improve convenience when adjusting the audio output during a call. Furthermore, when the camera 4C is mounted on the portable electronic device 1, the audio adjustment method according to the present embodiment can be realized only by changing the software using the camera 4C, so that it is not necessary to provide a new switch or the like. Thereby, an increase in the manufacturing cost of the portable electronic device 1 can be suppressed.

図10に示す例は、上述したように、ステップS109で設定する基準値Vdを、カメラ4Cが撮像した画像の画像情報に含まれる連続する単色画像の面積率が70%程度であるときの音量とする。この場合、携帯電子機器1の使用者の指等がカメラ4Cの入光部を覆う面積は、基準値Vdにおける面積に対して増減させることができる。したがって、この場合、主処理部11は、前記面積が基準値Vdにおける面積よりも減少した場合にはレシーバ6から出力される音声の音量を小さくし、前記面積が基準値Vdにおける面積よりも増加した場合にはレシーバ6から出力される音声の音量を増加させる。   In the example illustrated in FIG. 10, as described above, the reference value Vd set in step S <b> 109 is the volume when the area ratio of continuous monochrome images included in the image information of the image captured by the camera 4 </ b> C is about 70%. And In this case, the area where the finger of the user of the portable electronic device 1 covers the light incident portion of the camera 4C can be increased or decreased with respect to the area at the reference value Vd. Accordingly, in this case, the main processing unit 11 reduces the volume of the sound output from the receiver 6 when the area is smaller than the area at the reference value Vd, and increases the area above the area at the reference value Vd. If so, the volume of the sound output from the receiver 6 is increased.

例えば、カメラ4Cからの画像に基づき得られる画像情報に含まれる、連続する単色画像の面積率ρが90%の場合、音量は1.2×Vdに設定し、面積率が100%(完全に指等でカメラ4Cを覆ったとき)の場合、音量は1.5×Vd(最大音量)に設定する。また、面積率ρが70%よりも減少すると、音量はそれに応じて減少するように設定される。このように、携帯電子機器1の使用者の指等がカメラ4Cを完全に覆わない状態においてカメラ4Cが取得した画像の画像情報を用いて音量等の基準値を設定すると、音量等の増加、減少の両方を実現できる。   For example, when the area ratio ρ of continuous monochrome images included in the image information obtained based on the image from the camera 4C is 90%, the volume is set to 1.2 × Vd and the area ratio is 100% (completely When the camera 4C is covered with a finger or the like), the volume is set to 1.5 × Vd (maximum volume). Further, when the area ratio ρ decreases from 70%, the sound volume is set to decrease accordingly. As described above, when the reference value such as the volume is set using the image information of the image acquired by the camera 4C in a state where the user's finger or the like of the portable electronic device 1 does not completely cover the camera 4C, the volume increases. Both reductions can be realized.

図11は、連続する単色画像の変化の方向によって音量を変更する例を説明する図である。図11に示す例では、携帯電子機器1の使用者の指等がカメラ4Cを完全に覆った状態(面積率ρ=100%)から、指等をY軸のマイナス(−)方向に向かって動かすと、レシーバ6から出力される音声の音量は減少する。また、携帯電子機器1の使用者の指等がカメラ4Cを完全に覆った状態(面積率ρ=100%)から、指等をX軸のマイナス(−)方向に向かって動かすと、レシーバ6から出力される音声の音量は増加する。そして、指等をX軸のマイナス(−)方向に向かって動かした結果、カメラ4Cが指等に覆われなくなった状態(面積率ρ=0%)で音量は最大値の2×Vdとなる。   FIG. 11 is a diagram illustrating an example in which the sound volume is changed according to the direction of change of continuous monochrome images. In the example shown in FIG. 11, from the state where the user's finger or the like of the portable electronic device 1 completely covers the camera 4C (area ratio ρ = 100%), the finger or the like is directed in the negative (−) direction of the Y axis. When moved, the volume of the sound output from the receiver 6 decreases. Further, when the finger or the like of the user of the portable electronic device 1 completely covers the camera 4C (area ratio ρ = 100%) and moves the finger or the like toward the minus (−) direction of the X axis, the receiver 6 The volume of the sound output from increases. Then, as a result of moving the finger or the like toward the minus (−) direction of the X axis, the sound volume becomes the maximum value of 2 × Vd when the camera 4C is not covered by the finger or the like (area ratio ρ = 0%). .

図8に示すように、画像情報20には、それぞれの画素の座標(P1(X1、Y1)、P2(X2、Y2)等)も含まれるので、主処理部11は、連続する単色画像を構成するそれぞれの画素の座標を特定できる。したがって、画像情報20を構成する画素の色情報及び座標から、連続する単色画像の変化の方向も判別できる。これによって、連続する単色画像の異なる変化の方向を用いて、音量の増加、減少の両方を調整できる。なお、図11に示す例において、音量を増加させる際には、変化の方向をX軸のプラス(+)方向としてもよい。   As shown in FIG. 8, since the image information 20 includes coordinates of each pixel (P1 (X1, Y1), P2 (X2, Y2), etc.), the main processing unit 11 can display a continuous monochromatic image. It is possible to specify the coordinates of each of the constituent pixels. Therefore, the direction of change of continuous monochromatic images can also be determined from the color information and coordinates of the pixels constituting the image information 20. Thereby, it is possible to adjust both the increase and decrease of the sound volume by using different change directions of the continuous monochrome images. In the example shown in FIG. 11, when the volume is increased, the direction of change may be the plus (+) direction of the X axis.

図12は、連続する単色画像の変化の方向によって音量及び音声の速度を変更する例を説明する図である。図12に示す例では、携帯電子機器1の使用者の指等がカメラ4Cを完全に覆った状態(面積率ρ=100%)から、指等をY軸のマイナス(−)方向に向かって動かすと、レシーバ6から出力される音声の速度はSdで一定のまま、音量は減少する。また、携帯電子機器1の使用者の指等がカメラ4Cを完全に覆った状態(面積率ρ=100%)から、指等をX軸のマイナス(−)方向に向かって動かすと、レシーバ6から出力される音声の音量はVdで一定のまま速度は減少する。指等をX軸のマイナス(−)方向に向かって動かした結果、カメラ4Cが指等に覆われなくなった状態(面積率ρ=0%)で、音声の速度は最小値の0.5×Vdとなる。このように、連続する単色画像の異なる変化の方向を用いて、複数の音声出力(この例では音量及び速度)を調整することができる。   FIG. 12 is a diagram illustrating an example in which the volume and the speed of sound are changed according to the direction of change of continuous monochromatic images. In the example shown in FIG. 12, from the state where the user's finger or the like of the portable electronic device 1 completely covers the camera 4C (area ratio ρ = 100%), the finger or the like is directed in the negative (−) direction of the Y axis. When moved, the speed of the sound output from the receiver 6 remains constant at Sd, and the volume decreases. Further, when the finger or the like of the user of the portable electronic device 1 completely covers the camera 4C (area ratio ρ = 100%) and moves the finger or the like toward the minus (−) direction of the X axis, the receiver 6 The volume of the sound output from is reduced at a constant speed Vd. As a result of moving the finger etc. in the minus (−) direction of the X axis, the camera 4C is not covered with the finger etc. (area ratio ρ = 0%), and the voice speed is 0.5 × which is the minimum value. Vd. In this way, it is possible to adjust a plurality of audio outputs (volume and speed in this example) using different directions of change of continuous monochrome images.

このように、カメラ4Cが被写体に覆われる程度及びカメラ4Cの入光部を覆う被写体の動作方向に応じて音声出力を調整することによって、音声出力を2方向(例えば、音量であれば増加方向及び減少方向)に調整できる。さらに、カメラ4Cが被写体に覆われる程度及びカメラ4Cの入光部を覆う被写体の動作方向に応じて音声出力を調整することによって、2種類の音声出力(例えば、音量及び速度)を調整できる。なお、本実施形態では、カメラ4Cの入光部と対向する位置の被写体の画像に基づきレシーバ6の音声出力を調整する例を説明したが、カメラ4Cの入光部と対向する位置の被写体の画像に基づきスピーカ17の音声出力を調整してもよい。   In this way, by adjusting the audio output according to the extent to which the camera 4C is covered by the subject and the operation direction of the subject that covers the light incident portion of the camera 4C, the audio output can be increased in two directions (for example, in the increasing direction if the sound volume And a decreasing direction). Further, by adjusting the audio output according to the extent to which the camera 4C is covered by the subject and the operation direction of the subject covering the light incident portion of the camera 4C, two types of audio outputs (for example, volume and speed) can be adjusted. In this embodiment, the example in which the audio output of the receiver 6 is adjusted based on the image of the subject at a position facing the light incident portion of the camera 4C has been described. However, the subject at the position facing the light incident portion of the camera 4C is described. The sound output of the speaker 17 may be adjusted based on the image.

以上のように、本発明に係る携帯電子機器及び音声調整方法は、通話中に通話相手の音声の音量や速度等を調整したり、送信側の音量等を調整したりすることに有用である。   As described above, the portable electronic device and the audio adjustment method according to the present invention are useful for adjusting the volume and speed of the other party's voice during a call, and adjusting the volume and the like on the transmission side. .

1 携帯電子機器
1C 筐体
1CA 第1筐体
1CB 第2筐体
1PB 背面
1PC 操作面
2 ディスプレイ
3 操作部
3A 操作キー
3B 方向及び決定キー
4 カメラモジュール
4C カメラ
5 マイク
6 レシーバ
7 アンテナ
8 ヒンジ機構
8A ヒンジ部
8B ヒンジ部
9 明度センサ
10 制御装置
11 主処理部
12 記憶部
13 画像処理部
14 音声処理部
15 通信処理部
20 画像情報
DESCRIPTION OF SYMBOLS 1 Portable electronic device 1C housing | casing 1CA 1st housing | casing 1CB 2nd housing | casing 1PB back surface 1PC operation surface 2 Display 3 Operation part 3A Operation key 3B Direction and determination key 4 Camera module 4C Camera 5 Microphone 6 Receiver 7 Antenna 8 Hinge mechanism 8A Hinge unit 8B Hinge unit 9 Lightness sensor 10 Control device 11 Main processing unit 12 Storage unit 13 Image processing unit 14 Audio processing unit 15 Communication processing unit 20 Image information

Claims (10)

筐体に取り付けられて、入光部が前記筐体の外部に露出している撮像手段と、
音声を出力する出力手段と、
前記撮像手段が撮像した、前記撮像手段の入光部と対向する位置の被写体の画像に基づき、前記出力手段の音声出力を調整する制御手段と、
を備えることを特徴とする携帯電子機器。
An imaging means attached to the housing and having a light incident portion exposed to the outside of the housing;
An output means for outputting sound;
Control means for adjusting the audio output of the output means based on the image of the subject at a position facing the light incident portion of the imaging means, which is imaged by the imaging means;
A portable electronic device comprising:
前記制御手段は、前記撮像手段が撮像した画像中において前記被写体が占める程度に応じて前記音声出力を調整する請求項1に記載の携帯電子機器。   The portable electronic device according to claim 1, wherein the control unit adjusts the audio output according to a degree occupied by the subject in an image captured by the imaging unit. 前記制御手段は、前記被写体の移動方向に応じて前記音声出力を調整する請求項2に記載の携帯電子機器。   The portable electronic device according to claim 2, wherein the control unit adjusts the audio output according to a moving direction of the subject. 前記制御手段は、前記撮像手段が前記被写体の画像を撮像した時間が、予め定めた所定の時間継続した場合に、前記被写体の画像に基づいて、前記出力手段の音声出力を調整する請求項1から3のいずれか1項に記載の携帯電子機器。   The control unit adjusts the audio output of the output unit based on the image of the subject when the time when the image of the subject is captured by the imaging unit continues for a predetermined time. 4. The portable electronic device according to any one of items 1 to 3. 前記携帯電子機器は、音声を取得する音声取得手段と、当該音声取得手段が取得した音声を外部の機器に送出する通信手段とを有し、
前記制御手段は、前記撮像手段が撮像した被写体の画像に基づき、前記通信手段による音声の送出を調整する請求項1から4のいずれか1項に記載の携帯電子機器。
The portable electronic device includes a sound acquisition unit that acquires sound, and a communication unit that transmits the sound acquired by the sound acquisition unit to an external device,
5. The portable electronic device according to claim 1, wherein the control unit adjusts sound transmission by the communication unit based on an image of a subject imaged by the imaging unit. 6.
前記制御手段は、前記撮像手段が前記被写体を撮像しない場合には、送話をミュートする請求項5に記載の携帯電子機器。   The portable electronic device according to claim 5, wherein the control unit mutes transmission when the imaging unit does not capture the subject. 前記音声取得手段は前記筐体に設けられるとともに、前記撮像手段は、前記筐体において前記音声取得手段とは反対側に設けられる請求項5又は6に記載の携帯電子機器。   The portable electronic device according to claim 5, wherein the voice acquisition unit is provided in the casing, and the imaging unit is provided on the opposite side of the casing from the voice acquisition unit. 前記携帯電子機器は、前記撮像手段の周囲の明るさを検出する明るさ検出手段を備え、
前記制御手段は、前記撮像手段の周囲が所定の明るさ以上の場合に、前記撮像手段が取得した被写体の画像に基づいて、前記出力手段の音声出力を調整する請求項1から7のいずれか1項に記載の携帯電子機器。
The portable electronic device includes brightness detection means for detecting brightness around the imaging means,
8. The control unit according to claim 1, wherein the control unit adjusts an audio output of the output unit based on a subject image acquired by the imaging unit when the surroundings of the imaging unit are equal to or higher than a predetermined brightness. Item 1. A portable electronic device according to item 1.
筐体に取り付けられて、画像を取得する部分が前記筐体の外部に露出している撮像手段と、音声を出力する出力手段とを有する携帯電子機器において前記出力手段の音声出力を調整するにあたり、
前記撮像手段から前記撮像手段の入光部と対向する位置の被写体の画像を取得する手順と、
取得された前記画像に基づき、前記出力手段の音声出力を調整する手順と、
を含むことを特徴とする音声調整方法。
When adjusting the audio output of the output means in a portable electronic device having an imaging means attached to the casing and an image acquisition portion exposed to the outside of the casing and an output means for outputting sound ,
A procedure for acquiring an image of a subject at a position facing the light incident portion of the imaging means from the imaging means;
A procedure for adjusting the audio output of the output means based on the acquired image;
An audio adjustment method comprising:
取得された前記画像に基づき、前記出力手段の音声出力を調整する手順において、
前記撮像手段が前記被写体を撮像しない場合には、前記携帯電子機器からの送話をミュートする請求項9に記載の音声調整方法。
In the procedure for adjusting the audio output of the output means based on the acquired image,
The audio adjustment method according to claim 9, wherein the transmission from the portable electronic device is muted when the imaging unit does not image the subject.
JP2009015521A 2009-01-27 2009-01-27 Portable electronic device and sound adjustment method Expired - Fee Related JP5221404B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009015521A JP5221404B2 (en) 2009-01-27 2009-01-27 Portable electronic device and sound adjustment method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009015521A JP5221404B2 (en) 2009-01-27 2009-01-27 Portable electronic device and sound adjustment method

Publications (2)

Publication Number Publication Date
JP2010177775A true JP2010177775A (en) 2010-08-12
JP5221404B2 JP5221404B2 (en) 2013-06-26

Family

ID=42708332

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009015521A Expired - Fee Related JP5221404B2 (en) 2009-01-27 2009-01-27 Portable electronic device and sound adjustment method

Country Status (1)

Country Link
JP (1) JP5221404B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013065253A (en) * 2011-09-20 2013-04-11 Nippon Telegr & Teleph Corp <Ntt> Instruction signal transmitter and method for operating the same
CN103634526A (en) * 2013-12-05 2014-03-12 Tcl通讯(宁波)有限公司 Mobile terminal and method for adjusting configuration thereof by aid of camera
WO2018198499A1 (en) * 2017-04-27 2018-11-01 ソニー株式会社 Information processing device, information processing method, and recording medium
CN109739354A (en) * 2018-12-28 2019-05-10 广州励丰文化科技股份有限公司 A kind of multimedia interaction method and device based on sound

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000332865A (en) * 1999-05-14 2000-11-30 Nec Corp Mobile phone with camera
JP2001306236A (en) * 2000-04-21 2001-11-02 Sony Corp Information processor, operation recognition processing method and program storage medium
JP2007042020A (en) * 2005-08-05 2007-02-15 Nec Corp Portable terminal and program
JP2008005025A (en) * 2006-06-20 2008-01-10 Nec Saitama Ltd Mobile wireless terminal
JP2008113107A (en) * 2006-10-30 2008-05-15 Nec Saitama Ltd Input method using camera function, and information communication terminal using input method

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000332865A (en) * 1999-05-14 2000-11-30 Nec Corp Mobile phone with camera
JP2001306236A (en) * 2000-04-21 2001-11-02 Sony Corp Information processor, operation recognition processing method and program storage medium
JP2007042020A (en) * 2005-08-05 2007-02-15 Nec Corp Portable terminal and program
JP2008005025A (en) * 2006-06-20 2008-01-10 Nec Saitama Ltd Mobile wireless terminal
JP2008113107A (en) * 2006-10-30 2008-05-15 Nec Saitama Ltd Input method using camera function, and information communication terminal using input method

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013065253A (en) * 2011-09-20 2013-04-11 Nippon Telegr & Teleph Corp <Ntt> Instruction signal transmitter and method for operating the same
CN103634526A (en) * 2013-12-05 2014-03-12 Tcl通讯(宁波)有限公司 Mobile terminal and method for adjusting configuration thereof by aid of camera
CN103634526B (en) * 2013-12-05 2017-01-11 Tcl通讯(宁波)有限公司 Mobile terminal and method for adjusting configuration thereof by aid of camera
WO2018198499A1 (en) * 2017-04-27 2018-11-01 ソニー株式会社 Information processing device, information processing method, and recording medium
EP3617851A4 (en) * 2017-04-27 2020-05-13 Sony Corporation Information processing device, information processing method, and recording medium
CN109739354A (en) * 2018-12-28 2019-05-10 广州励丰文化科技股份有限公司 A kind of multimedia interaction method and device based on sound
CN109739354B (en) * 2018-12-28 2022-08-05 广州励丰文化科技股份有限公司 Voice-based multimedia interaction method and device

Also Published As

Publication number Publication date
JP5221404B2 (en) 2013-06-26

Similar Documents

Publication Publication Date Title
JP4262712B2 (en) Portable terminal device, mouse application program, and method of using portable terminal device as wireless mouse device
JP5226074B2 (en) Communication equipment
KR102072542B1 (en) Image processing method and electronic device thereof
KR101613953B1 (en) Portable terminal
JP2023518895A (en) Imaging methods and electronics
CN110290262A (en) A kind of call method and terminal device
JP2011135551A (en) Portable electronic apparatus
JP5221404B2 (en) Portable electronic device and sound adjustment method
JP2023516053A (en) Exposure data acquisition method, electronic device and computer readable storage medium
JP2009218950A (en) Portable terminal device with camera
JP2012231331A (en) Portable communication device
JP2007081785A (en) Portable terminal and program
JP2005072734A (en) Camera attached mobile terminal, and image display method and display control program used for the mobile terminal
US10110765B2 (en) Image forming apparatus, image forming system, non-transitory computer readable recording medium on which program is recorded and image forming method
JP2014187663A (en) Mobile electronic apparatus and control method therefor
JP4002565B2 (en) Portable terminal device and ambient environment detection method using portable terminal device
JP2006014074A (en) Portable telephone set
KR20140082403A (en) Method and apparatus for mode changing in an electronic device
JP3972165B2 (en) camera
JP2003348211A (en) Portable terminal and its notification method
CN110083429B (en) Wearable device, input method panel display control method thereof and storage medium
JP4336893B2 (en) Mobile communication terminal, communication control method, and communication control program
JP4493375B2 (en) Mobile terminal device
KR100678027B1 (en) Mobile terminal having camera function and its image processing method
JP2010258753A (en) Portable terminal and projection program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120925

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130307

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160315

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5221404

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees