JP6361204B2 - Image processing apparatus, image processing method, and program - Google Patents
Image processing apparatus, image processing method, and program Download PDFInfo
- Publication number
- JP6361204B2 JP6361204B2 JP2014058969A JP2014058969A JP6361204B2 JP 6361204 B2 JP6361204 B2 JP 6361204B2 JP 2014058969 A JP2014058969 A JP 2014058969A JP 2014058969 A JP2014058969 A JP 2014058969A JP 6361204 B2 JP6361204 B2 JP 6361204B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- area
- unit
- region
- luminance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Exposure Control For Cameras (AREA)
- Indication In Cameras, And Counting Of Exposures (AREA)
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Description
本発明は、画質の調整を行う画像処理装置、画像処理方法及びプログラムに関する。 The present invention relates to an image processing apparatus, an image processing method, and a program for adjusting image quality.
従来、撮影対象に対してズーム倍率を変更することにより相異なる範囲の複数の画像データを記録させる技術が知られている。 2. Description of the Related Art Conventionally, a technique for recording a plurality of image data in different ranges by changing a zoom magnification with respect to an imaging target is known.
しかしながら、特許文献1に記載された技術においては、当該相異なる範囲の画像データの画質については何ら考慮されていなかった。 However, in the technique described in Patent Document 1, no consideration is given to the image quality of the image data in the different ranges.
本発明は、このような状況に鑑みてなされたものであり、撮像された画像中の相異なる範囲の画像の画質を向上させることを目的とする。 The present invention has been made in view of such a situation, and an object thereof is to improve the image quality of images in different ranges in a captured image.
上記目的を達成するため、本発明の一態様の画像処理装置は、
撮像手段によって撮像された画像から、第1の領域中の画像を取得する第1画像取得手段と、
前記撮像手段によって撮像された画像から、前記第1の領域とは異なる第2の領域中の画像を取得する第2画像取得手段と、
前記第1の領域中の画像及び前記第2の領域中の画像の輝度値を各々評価する状態評価手段と、
前記状態評価手段における前記輝度値の評価結果が大きい方の画像を対象として、前記撮像手段における絞り及び電子シャッター速度の何れかによる露出制御による前記第1の画質調整を行い、前記輝度値の評価結果が小さい方の画像を対象として、ISO感度の調整による前記第2の画質調整を行う調整手段と、
前記調整手段により画質が調整された前記第1の領域中の画像及び前記第2の領域中の画像を記録手段に記録させる記録制御手段と、
を備えることを特徴とする。
In order to achieve the above object, an image processing apparatus according to an aspect of the present invention includes:
First image acquisition means for acquiring an image in the first area from an image captured by the imaging means;
Second image acquisition means for acquiring an image in a second area different from the first area from an image captured by the imaging means;
State evaluation means for evaluating luminance values of the image in the first region and the image in the second region, respectively.
For the image with the larger evaluation result of the luminance value in the state evaluation unit, the first image quality adjustment is performed by exposure control according to either the aperture or the electronic shutter speed in the imaging unit, and the luminance value is evaluated. An adjustment means for performing the second image quality adjustment by adjusting the ISO sensitivity for an image having a smaller result ;
Recording control means for causing the recording means to record the image in the first area and the image in the second area, the image quality of which has been adjusted by the adjusting means;
It is characterized by providing.
本発明によれば、撮像された画像中の相異なる範囲の画像の画質を向上させることができる。 According to the present invention, it is possible to improve the image quality of images in different ranges in a captured image.
以下、本発明の実施形態について、図面を用いて説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.
図1は、本発明の一実施形態に係る撮像装置1のハードウェアの構成を示すブロック図である。
撮像装置1は、本発明に係る画像処理装置の一実施形態であり、例えばデジタルカメラとして構成される。
FIG. 1 is a block diagram showing a hardware configuration of an imaging apparatus 1 according to an embodiment of the present invention.
The imaging device 1 is an embodiment of an image processing device according to the present invention, and is configured as a digital camera, for example.
撮像装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、撮像部16と、入力部17と、出力部18と、記憶部19と、通信部20と、ドライブ21と、を備えている。
The imaging apparatus 1 includes a CPU (Central Processing Unit) 11, a ROM (Read Only Memory) 12, a RAM (Random Access Memory) 13, a
CPU11は、ROM12に記録されているプログラム、または、記憶部19からRAM13にロードされたプログラムに従って各種の処理を実行する。例えば、CPU11は、後述する記録制御処理のためのプログラムに従って記録制御処理を実行する。
The
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
The
CPU11、ROM12及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インターフェース15も接続されている。入出力インターフェース15には、撮像部16、入力部17、出力部18、記憶部19、通信部20及びドライブ21が接続されている。
The
撮像部16は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
Although not shown, the
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
The optical lens unit is configured by a lens that collects light, for example, a focus lens or a zoom lens, in order to photograph a subject.
The focus lens is a lens that forms a subject image on the light receiving surface of the image sensor. The zoom lens is a lens that freely changes the focal length within a certain range.
The optical lens unit is also provided with a peripheral circuit for adjusting setting parameters such as focus, exposure, and white balance as necessary.
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、デジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号を、以下、「撮像画像のデータ」と呼ぶ。撮像画像のデータは、CPU11に適宜供給される。
The image sensor includes a photoelectric conversion element, AFE (Analog Front End), and the like.
The photoelectric conversion element is composed of, for example, a CMOS (Complementary Metal Oxide Semiconductor) type photoelectric conversion element or the like. A subject image is incident on the photoelectric conversion element from the optical lens unit. Therefore, the photoelectric conversion element photoelectrically converts (captures) the subject image, accumulates the image signal for a predetermined time, and sequentially supplies the accumulated image signal as an analog signal to the AFE.
The AFE performs various signal processing such as A / D (Analog / Digital) conversion processing on the analog image signal. Through various signal processing, a digital signal is generated and output as an output signal of the
Hereinafter, the output signal of the
入力部17は、各種釦等で構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部18は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部19は、ハードディスクあるいはDRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部20は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
The
The
The
The
ドライブ21には、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリ等よりなる、リムーバブルメディア31が適宜装着される。ドライブ21によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部19にインストールされる。また、リムーバブルメディア31は、記憶部19に記憶されている画像のデータ等の各種データも、記憶部19と同様に記憶することができる。
A
図2は、このような撮像装置1の機能的構成のうち、記録制御処理を実行するための機能的構成を示す機能ブロック図である。
記録制御処理とは、撮像部16によって撮像された動画像において異なる範囲の領域をそれぞれ切り出し、切り出されたそれぞれの領域に対し、撮像装置1の機構的な絞りや電子シャッター速度の調整及びISO感度を増減する調整を行うことにより、それぞれの領域の画像における明るさを調整して、撮像範囲の異なる2つの動画像を生成する一連の処理をいう。
FIG. 2 is a functional block diagram illustrating a functional configuration for executing the recording control process among the functional configurations of the imaging apparatus 1 as described above.
In the recording control process, regions in different ranges are cut out in the moving image picked up by the
記録制御処理を実行する場合には、図2に示すように、CPU11において、撮像制御部51と、第1動画像切出部52と、第2動画像切出部53と、第1輝度測定部54と、第2輝度測定部55と、輝度評価部56と、露出制御部57と、利得調整部58と、が機能する。
また、記憶部19の一領域には、第1動画像記憶部71と、第2動画像記憶部72と、が設定される。
第1動画像記憶部71には、第1動画像切出部52によって切り出された動画像(後述する第1動画像領域における動画像)のデータが記憶される。
第2動画像記憶部72には、第2動画像切出部53によって切り出された動画像(後述する第2動画像領域における動画像)のデータが記憶される。
When executing the recording control process, as shown in FIG. 2, in the
A first moving
The first moving
The second moving
撮像制御部51は、入力部17からの撮像開始操作を受けて撮像を開始するように撮像部16を制御する。
The
第1動画像切出部52は、撮像部16から出力される動画像において、ユーザによって指定される2つの領域のうちの一方(以下、「第1動画像領域」と呼ぶ。)の動画像を切り出す。第1動画像切出部52は、切り出した第1動画像領域の動画を第1動画像記憶部71に記憶させる。また、第1動画像切出部52は、切り出した第1動画像領域の動画を第1輝度測定部54に出力する。
第2動画像切出部53は、撮像部16から出力される動画像において、ユーザによって指定される2つの領域のうちの他方(以下、「第2動画像領域」と呼ぶ。)の動画像を切り出す。第2動画像切出部53は、切り出した第2動画像領域の動画を第2動画像記憶部72に記憶させる。また、第2動画像切出部53は、切り出した第2動画像領域の動画を第2輝度測定部55に出力する。
The first moving
The second moving
図3は、第1動画像領域及び第2動画像領域の概念を示す模式図である。
図3において、第1動画像領域及び第2動画像領域は、それぞれユーザによって指定され、図3の例では、第1動画像領域が撮像範囲全体に設定され、第2動画像領域が第1動画像領域の内部に設定されている。
例えば、第1動画像領域として背景を含む撮像範囲全体を設定し、第2動画像領域として当該撮像範囲全体から主要な被写体である人物の顔を検出し、当該検出された顔を中心とした領域を設定すること等が可能である。即ち、第1動画像切出部52及び第2動画像切出部53は、主要な被写体(例えば、人物の顔等)のモデルデータ等を用いて、主要な被写体を検出する機能を有し、ユーザは、検出された主要な被写体を中心とした領域を指定することが可能となっている。
ただし、第1動画像領域と第2動画像領域とを分離された小領域に設定すること等も可能である。
FIG. 3 is a schematic diagram showing the concept of the first moving image area and the second moving image area.
In FIG. 3, the first moving image region and the second moving image region are designated by the user, respectively. In the example of FIG. 3, the first moving image region is set to the entire imaging range, and the second moving image region is the first moving image region. It is set inside the moving image area.
For example, the entire imaging range including the background is set as the first moving image area, the face of the person who is the main subject is detected from the entire imaging range as the second moving image area, and the detected face is the center. An area can be set. That is, the first moving
However, it is also possible to set the first moving image region and the second moving image region as separated small regions.
図2に戻り、第1輝度測定部54は、第1動画像領域の動画におけるフレームの画素の平均輝度(以下、「第1平均輝度」と呼ぶ。)を算出する。
第2輝度測定部55は、第2動画像領域の動画におけるフレームの画素の平均輝度(以下、「第2平均輝度」と呼ぶ。)を算出する。
Returning to FIG. 2, the first
The second
輝度評価部56は、第1輝度測定部54によって算出された第1動画像領域の平均輝度(第1平均輝度)及び第2輝度測定部55によって算出された第2動画像領域の平均輝度(第2平均輝度)を評価する。
具体的には、輝度評価部56は、第1平均輝度と第2平均輝度の大きさを比較し、平均輝度が大きい方の領域の動画像をメイン動画像、平均輝度が小さい方の領域の動画像をサブ動画像に設定する。
また、輝度評価部56は、画像の明るさを表す第1平均輝度及び第2平均輝度が適正範囲内にあるか否かを判定し、判定結果を露出制御部57及び利得調整部58に出力する。ここで、輝度評価部56によって、メイン動画像の平均輝度及びサブ動画像の平均輝度が適正範囲内にあるか否かを判定する際の基準値は同一とすることや、メイン動画像及びサブ動画像それぞれに応じて異なるものとすることができる。
適正範囲の基準値を同一とする場合、初期の露出制御に対して、例えば、メイン動画像の平均輝度を適正範囲まで抑制するように機構的な絞りや電子シャッター速度を調整する一方で、サブ動画像の平均輝度を適正範囲まで上げるようにISO感度を増加させる調整をすることが考えられる。
また、適正範囲の基準値を異ならせる場合、例えば、メイン動画像及びサブ動画像それぞれについてシーンを判定し、シーンに応じた基準値を用いること等ができる。
The
Specifically, the
Further, the
When the reference value of the appropriate range is the same, for example, the mechanical aperture and electronic shutter speed are adjusted so as to suppress the average luminance of the main moving image to the appropriate range for the initial exposure control. It can be considered to adjust the ISO sensitivity so that the average luminance of the moving image is increased to an appropriate range.
When the reference value of the appropriate range is made different, for example, a scene can be determined for each of the main moving image and the sub moving image, and a reference value corresponding to the scene can be used.
露出制御部57は、輝度評価部56から入力される第1平均輝度及び第2平均輝度の判定結果に基づいて、撮像部16における露出を制御する。このとき、露出制御部57は、機構的な絞り及び電子シャッター速度を制御することにより、撮像部16における露光を調整する。
具体的には、露出制御部57は、メイン動画像に設定された領域の動画像を対象として、当該メイン動画像の平均輝度が適正範囲内となるよう制御する。
The
Specifically, the
利得調整部58は、輝度評価部56から入力される第1平均輝度及び第2平均輝度の判定結果に基づいて、サブ動画像のISO感度を調整することにより当該サブ動画像の明るさを制御する。
具体的には、利得調整部58は、サブ動画像のデジタル信号またはアナログ信号の増幅の利得を調整することにより、サブ動画像の平均輝度が適正範囲内となるよう制御する。
The
Specifically, the
次に、動作を説明する。
図4は、図2の機能的構成を有する図1の撮像装置1が実行する記録制御処理の流れを説明するフローチャートである。
記録制御処理は、入力部17を介して、記録制御処理の開始を指示する操作が行われることに対応して開始される。
Next, the operation will be described.
FIG. 4 is a flowchart for explaining the flow of recording control processing executed by the imaging apparatus 1 of FIG. 1 having the functional configuration of FIG.
The recording control process is started in response to an operation for instructing the start of the recording control process being performed via the
ステップS11において、第1輝度測定部54は、第1動画像記憶部71に記憶された第1動画像領域の動画におけるフレームの画素の平均輝度(第1平均輝度)を算出する。
In step S <b> 11, the first
ステップS12において、第2輝度測定部55は、第2動画像記憶部72に記憶された第2動画像領域の動画におけるフレームの画素の平均輝度(第2平均輝度)を算出する。
In step S <b> 12, the second
ステップS13において、輝度評価部56は、第1平均輝度が第2平均輝度より大きいか否かの判定を行う。
第1平均輝度が第2平均輝度より大きい場合、ステップS13においてYESと判定されて、処理はステップS14に進む。
第1平均輝度が第2平均輝度より大きくない場合には、ステップS13においてNOと判定されて、処理はステップS15に進む。
In step S13, the
When the first average luminance is higher than the second average luminance, it is determined as YES in Step S13, and the process proceeds to Step S14.
If the first average brightness is not greater than the second average brightness, NO is determined in step S13, and the process proceeds to step S15.
ステップS14において、輝度評価部56は、第1動画像領域の動画像をメイン動画像、第2動画像領域の動画像をサブ動画像に設定する。
ステップS15において、輝度評価部56は、第2動画像領域の動画像をメイン動画像、第1動画像領域の動画像をサブ動画像に設定する。
In step S14, the
In step S15, the
ステップS16において、輝度評価部56は、適正範囲に対するメイン動画像の平均輝度の評価を行う。
ステップS17において、露出制御部57は、メイン動画像の平均輝度に基づいて、機構的な絞り及び電子シャッター速度の調整を行う。
ステップS18において、露出制御部57は、メイン動画像を記憶部19(第1動画像記憶部71あるいは第2動画像記憶部72)に記憶する。
In step S16, the
In step S17, the
In step S18, the
ステップS19において、輝度評価部56は、適正範囲に対するサブ動画像の平均輝度の評価を行う。
ステップS20において、利得調整部58は、サブ動画像の平均輝度に基づいて、ISO感度の調整を行う。
In step S19, the
In step S20, the
ステップS21において、利得調整部58は、サブ動画像を記憶部19(第1動画像記憶部71あるいは第2動画像記憶部72)に記憶する。
In step S21, the
以上のように構成される撮像装置1は、第1動画像切出部52と、第2動画像切出部53と、露出制御部57と、利得調整部58と、を備える。
第1動画像切出部52は、撮像手段によって撮像された画像から、第1の領域中の画像を取得する。
撮像手段によって撮像された画像から、第1の領域とは異なる第2の領域中の画像を取得する。
露出制御部57及び利得調整部58は、第1の領域中の画像と第2の領域中の画像の各々の画質を調整する。
露出制御部57及び利得調整部58は、画質が調整された第1の領域中の画像及び第2の領域中の画像をリムーバブルメディア31等の記録手段に記録させる。
これにより、撮像装置1においては、1つの撮像画像から取得される異なる画像それぞれの画質を調整することができる。
したがって、1つの撮像画像から異なる画像を取得する場合の画質を向上させることができる。
The imaging apparatus 1 configured as described above includes a first moving
The first moving
An image in a second area different from the first area is acquired from the image captured by the imaging means.
The
The
Thereby, in the imaging device 1, the image quality of each different image acquired from one captured image can be adjusted.
Therefore, it is possible to improve the image quality when different images are acquired from one captured image.
また、露出制御部57及び利得調整部58は、第1の領域中の画像及び第2の領域中の画像の何れかの露出を制御する。
これにより、第1の領域中の画像及び第2の領域中の画像の明るさを適切に調整できる。
Further, the
Thereby, the brightness of the image in a 1st area | region and the image in a 2nd area | region can be adjusted appropriately.
また、露出制御部57及び利得調整部58は、第1の領域中の画像及び第2の領域中の画像の何れか一方に撮像手段における絞り及び電子シャッター速度の何れかによる露出制御を行う。
これにより、第1の領域中の画像及び第2の領域中の画像の一方を基準として、露出制御を行うことができる。
In addition, the
Thereby, exposure control can be performed on the basis of one of the image in the first region and the image in the second region.
また、露出制御部57及び利得調整部58は、第1の領域中の画像及び第2の領域中の画像の何れか一方にISO感度の調整を行う。
これにより、第1の領域中の画像及び第2の領域中の画像の一方に対して、増幅による輝度の調整を行うことができる。
The
Thereby, the brightness can be adjusted by amplification for one of the image in the first area and the image in the second area.
また、第1の領域中の画像及び第2の領域中の画像の一方については露出の制御し、第1の領域中の画像及び第2の領域中の画像の他方についてはISO感度を調整する。
これにより、第1の領域中の画像及び第2の領域中の画像の一方を基準として、露出制御を行い、第1の領域中の画像及び第2の領域中の画像の他方は増幅による輝度の調整によって画質を調整することができる。
Further, exposure control is performed for one of the image in the first region and the image in the second region, and the ISO sensitivity is adjusted for the other of the image in the first region and the image in the second region. .
Thus, exposure control is performed with one of the image in the first area and the image in the second area as a reference, and the other of the image in the first area and the image in the second area is a luminance due to amplification. The image quality can be adjusted by adjusting.
また、撮像装置1は、輝度評価部56を備える。
輝度評価部56は、第1の領域中の画像及び第2の領域中の画像の状態を評価する。
露出制御部57及び利得調整部58は、輝度評価部56における評価結果に基づいて、第1の領域中の画像及び第2の領域中の画像の各々の画質を適切に調整する。
これにより、第1の領域中の画像及び第2の領域中の画像の評価結果に応じて、各々の画質を適切に調整することができる。
In addition, the imaging apparatus 1 includes a
The
The
Thereby, according to the evaluation result of the image in a 1st area | region and the image in a 2nd area | region, each image quality can be adjusted appropriately.
また、輝度評価部56は、第1輝度測定部54及び第2輝度測定部55を備える。
第1輝度測定部54及び第2輝度測定部55は、第1の領域中の画像及び第2の領域中の画像の輝度値を算出する。
輝度評価部56は、第1輝度測定部54及び第2輝度測定部55により算出された第1の領域中の画像及び第2の領域中の画像の輝度値の大きさを比較する。
露出制御部57及び利得調整部58は、輝度値が大きい方の画像を対象として、撮像手段における機構的な絞り及び電子シャッター速度の少なくとも何れかによる露出制御を行い、輝度値が小さい方の画像を対象として、ISO感度の調整を行う。
これにより、輝度値が大きい画像を基準として露出制御を行い、輝度値が小さい画像を増幅によって輝度値を調整することができるため、各画像の輝度を適切に調整することができる。
In addition, the
The first
The
The
Thus, exposure control is performed with reference to an image having a large luminance value, and the luminance value can be adjusted by amplifying an image having a small luminance value, so that the luminance of each image can be adjusted appropriately.
また、第1の領域及び第2の領域の何れかは、予め設定された特定の被写体が含まれる画像の領域である。
これにより、特定の被写体が含まれる領域を確実に適切な画質とすることができる。
One of the first area and the second area is an area of an image including a predetermined specific subject.
As a result, it is possible to ensure that the area including the specific subject has an appropriate image quality.
第1輝度測定部54及び第2輝度測定部55は、第1の領域及び第2の領域の少なくとも一方に撮像手段における絞り及び電子シャッター速度の何れかによる露出制御を行った後、ISO感度の調整を行う。
これにより、露出制御と併せてISO感度の調整を行うことができるため、より適切に画質を調整することができる。
The first
Thereby, since ISO sensitivity can be adjusted together with exposure control, image quality can be adjusted more appropriately.
また、第1の領域及び第2の領域の一方が、他方を包含する。
これにより、第1の領域あるいは第2の領域及びその一部の領域を共に適切な画質とすることができる。
One of the first region and the second region includes the other.
As a result, both the first region or the second region and a part of the region can have appropriate image quality.
また、第1の領域中の画像及び第2の領域中の画像は、静止画像である。
これにより、静止画像を対象として、1つの撮像画像から取得される異なる画像それぞれに、画像状態についての異なる調整を行うことができる。
したがって、1つの撮像画像から異なる静止画像を取得する場合の画質を向上させることができる。
The image in the first area and the image in the second area are still images.
Thereby, it is possible to perform different adjustments on the image state for each different image acquired from one captured image, with the still image as a target.
Therefore, it is possible to improve the image quality when different still images are acquired from one captured image.
また、第1の領域中の画像及び前記第2の領域中の画像は、動画像である。
これにより、動画像を対象として、1つの撮像画像から取得される異なる画像それぞれに、画像状態についての異なる調整を行うことができる。
したがって、1つの撮像画像から異なる動画像を取得する場合の画質を向上させることができる。
The image in the first area and the image in the second area are moving images.
Thereby, it is possible to perform different adjustments on the image state for each of the different images acquired from one captured image for the moving image.
Therefore, it is possible to improve the image quality when different moving images are acquired from one captured image.
また、露出制御部57及び利得調整部58は、画質として、色味、ホワイトバランス及び周辺減光の少なくとも何れかの調整を行う。
これにより、画質を決定する種々のパラメータを調整することが可能となる。
Further, the
This makes it possible to adjust various parameters that determine the image quality.
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。 In addition, this invention is not limited to the above-mentioned embodiment, The deformation | transformation in the range which can achieve the objective of this invention, improvement, etc. are included in this invention.
上述の実施形態では、露出制御部57が機構的な絞り及び電子シャッター速度を制御することにより、メイン動画像の露出制御を行うこととして説明したが、これに限られない。
例えば、機構的な絞り及び電子シャッター速度によるメイン動画像及びサブ動画像の露出制御を適正範囲より一定量だけ露出アンダーの状態とし、メイン動画像及びサブ動画像に対してISO感度の調整をすることで、メイン動画像及びサブ動画像の平均輝度を適正範囲に制御することとしてもよい。
In the embodiment described above, the
For example, the exposure control of the main moving image and the sub moving image with the mechanical aperture and the electronic shutter speed is underexposed by a certain amount from the appropriate range, and the ISO sensitivity is adjusted for the main moving image and the sub moving image. Thus, the average luminance of the main moving image and the sub moving image may be controlled within an appropriate range.
また、上述の実施形態では、メイン動画像及びサブ動画像において調整対象とする画質として、画像の明るさを例に挙げて説明したが、これに限られない。
例えば、色味(RGBバランスあるいは肌色調整等)、ホワイトバランス、あるいは周辺減光等の各種パラメータをそれぞれ調整することが可能である。
また、上述の実施形態では、メイン動画像及びサブ動画像が動画像である場合を例に挙げて説明したが、これに限られない。即ち、単写あるいは高速連写等において静止画像を撮像する際に、メインの静止画像及びサブの静止画像を切り出し、それぞれの画質を調整することが可能である。
In the above-described embodiment, the brightness of the image has been described as an example of the image quality to be adjusted in the main moving image and the sub moving image, but is not limited thereto.
For example, it is possible to adjust various parameters such as color (RGB balance or skin color adjustment), white balance, or peripheral light reduction.
In the above-described embodiment, the case where the main moving image and the sub moving image are moving images has been described as an example, but the present invention is not limited thereto. That is, when capturing a still image in single shooting or high-speed continuous shooting, it is possible to cut out the main still image and the sub still image and adjust the image quality of each.
また、上述の実施形態では、本発明が適用される撮像装置1は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、記録制御機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、スマートフォン、ポータブルゲーム機等に適用可能である。
In the above-described embodiment, the imaging apparatus 1 to which the present invention is applied has been described using a digital camera as an example, but is not particularly limited thereto.
For example, the present invention can be applied to general electronic devices having a recording control function. Specifically, for example, the present invention can be applied to a notebook personal computer, a television receiver, a video camera, a portable navigation device, a mobile phone, a smartphone, a portable game machine, and the like.
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図2の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図2の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
The series of processes described above can be executed by hardware or can be executed by software.
In other words, the functional configuration of FIG. 2 is merely an example and is not particularly limited. That is, it is sufficient that the imaging apparatus 1 has a function capable of executing the above-described series of processing as a whole, and what functional blocks are used to realize this function is not particularly limited to the example of FIG.
In addition, one functional block may be constituted by hardware alone, software alone, or a combination thereof.
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
When a series of processing is executed by software, a program constituting the software is installed on a computer or the like from a network or a recording medium.
The computer may be a computer incorporated in dedicated hardware. The computer may be a computer capable of executing various functions by installing various programs, for example, a general-purpose personal computer.
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図1のリムーバブルメディア31により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア31は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、または光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk),Blu−ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図1のROM12や、図1の記憶部19に含まれるハードディスク等で構成される。
The recording medium including such a program is not only constituted by the
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。 In the present specification, the step of describing the program recorded on the recording medium is not limited to the processing performed in chronological order according to the order, but is not necessarily performed in chronological order, either in parallel or individually. The process to be executed is also included.
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 As mentioned above, although several embodiment of this invention was described, these embodiment is only an illustration and does not limit the technical scope of this invention. The present invention can take other various embodiments, and various modifications such as omission and replacement can be made without departing from the gist of the present invention. These embodiments and modifications thereof are included in the scope and gist of the invention described in this specification and the like, and are included in the invention described in the claims and the equivalent scope thereof.
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
撮像手段によって撮像された画像から、第1の領域中の画像を取得する第1画像取得手段と、
前記撮像手段によって撮像された画像から、前記第1の領域とは異なる第2の領域中の画像を取得する第2画像取得手段と、
前記第1の領域中の画像及び前記第2の領域中の画像の各々の画質を調整する状態調整手段と、
前記状態調整手段により画質が調整された前記第1の領域中の画像及び前記第2の領域中の画像を記録手段に記録させる記録制御手段と、
を備えることを特徴とする画像処理装置。
[付記2]
前記状態調整手段は、前記第1の領域中の画像及び前記第2の領域中の画像の何れかの露出を制御することを特徴とする付記1に記載の画像処理装置。
[付記3]
前記状態調整手段は、前記第1の領域中の画像及び前記第2の領域中の画像の何れか一方に前記撮像手段における絞り及び電子シャッター速度の何れかによる露出制御を行うことを特徴とする付記1又は2に記載の画像処理装置。
[付記4]
前記状態調整手段は、前記第1の領域中の画像及び前記第2の領域中の画像の何れか一方にISO感度の調整を行うことを特徴とする付記1から3の何れか1つに記載の画像処理装置。
[付記5]
前記状態調整手段は、前記第1の領域中の画像及び前記第2の領域中の画像の一方については露出の制御を行い、前記第1の領域中の画像及び前記第2の領域中の画像の他方についてはISO感度を調整することを特徴とする付記1から4の何れか1つに記載の画像処理装置。
[付記6]
前記第1の領域中の画像及び前記第2の領域中の画像の状態を評価する状態評価手段を更に備え、
前記状態調整手段は、前記状態評価手段における評価結果に基づいて、前記第1の領域中の画像及び前記第2の領域中の画像の各々の画質を適切に調整することを特徴とする付記1から5の何れか1つに記載の画像処理装置。
[付記7]
前記状態評価手段は、
前記画像の状態として前記第1の領域中の画像及び前記第2の領域中の画像の輝度値を算出する算出手段と、
前記算出手段により算出された前記第1の領域中の画像及び前記第2の領域中の画像の輝度値の大きさを比較する比較手段とを有し、
前記状態調整手段は、前記輝度値が大きい方の画像を対象として、前記撮像手段における絞り及び電子シャッター速度の何れかによる露出制御を行い、前記輝度値が小さい方の画像を対象として、ISO感度の調整を行うことを特徴とする付記6に記載の画像処理装置。
[付記8]
前記第1の領域及び前記第2の領域の何れかは、予め設定された特定の被写体が含まれる画像の領域であることを特徴とする付記1から7の何れか1つに記載の画像処理装置。
[付記9]
前記状態調整手段は、前記第1の領域及び前記第2の領域の少なくとも一方に撮像手段における絞り及び電子シャッター速度の何れかによる露出制御を行った後、ISO感度の調整を行うことを特徴とする付記1に記載の画像処理装置。
[付記10]
前記第1の領域及び前記第2の領域の一方が、他方を包含することを特徴とする付記1から9の何れか1つに記載の画像処理装置。
[付記11]
前記第1の領域中の画像及び前記第2の領域中の画像は、静止画像であることを特徴とする付記1から10の何れか1つに記載の画像処理装置。
[付記12]
前記第1の領域中の画像及び前記第2の領域中の画像は、動画像であることを特徴とする付記1から11の何れか1つに記載の画像処理装置。
[付記13]
前記状態調整手段は、前記画質として、色味、ホワイトバランス及び周辺減光の少なくとも何れかの調整を行うことを特徴とする付記1,10,11,12の何れか1つに記載の画像処理装置。
[付記14]
撮像手段によって撮像された画像から、第1の領域中の画像を取得する第1画像取得ステップと、
前記撮像手段によって撮像された画像から、前記第1の領域とは異なる第2の領域中の画像を取得する第2画像取得ステップと、
前記第1の領域中の画像及び前記第2の領域中の画像の各々の画質を調整する状態調整ステップと、
前記状態調整ステップにより画質が調整された前記第1の領域中の画像及び前記第2の領域中の画像を記録手段に記録させる記録制御ステップと、
を含むことを特徴とする画像処理方法。
[付記15]
コンピュータに、
撮像手段によって撮像された画像から、第1の領域中の画像を取得する第1画像取得機能と、
前記撮像手段によって撮像された画像から、前記第1の領域とは異なる第2の領域中の画像を取得する第2画像取得機能と、
前記第1の領域中の画像と前記第2の領域中の画像の各々の画質を調整する状態調整機能と、
前記状態調整手段により画質が調整された前記第1の領域中の画像及び前記第2の領域中の画像を記録手段に記録させる記録制御手段と、
を実現させることを特徴とするプログラム。
The invention described in the scope of claims at the beginning of the filing of the present application will be appended.
[Appendix 1]
First image acquisition means for acquiring an image in the first area from an image captured by the imaging means;
Second image acquisition means for acquiring an image in a second area different from the first area from an image captured by the imaging means;
State adjusting means for adjusting the image quality of each of the image in the first region and the image in the second region;
Recording control means for causing the recording means to record the image in the first area and the image in the second area, the image quality of which has been adjusted by the state adjusting means;
An image processing apparatus comprising:
[Appendix 2]
The image processing apparatus according to appendix 1, wherein the state adjustment unit controls exposure of an image in the first area and an image in the second area.
[Appendix 3]
The state adjusting means performs exposure control on either one of the image in the first area and the image in the second area by either the aperture or the electronic shutter speed in the imaging means. The image processing apparatus according to appendix 1 or 2.
[Appendix 4]
The state adjustment means adjusts the ISO sensitivity to any one of the image in the first area and the image in the second area. Image processing apparatus.
[Appendix 5]
The state adjusting means controls exposure of one of the image in the first area and the image in the second area, and the image in the first area and the image in the second area. The image processing apparatus according to any one of appendices 1 to 4, wherein the ISO sensitivity is adjusted for the other of the above.
[Appendix 6]
A state evaluation means for evaluating the state of the image in the first region and the image in the second region;
The state adjustment unit appropriately adjusts the image quality of each of the image in the first region and the image in the second region based on the evaluation result in the state evaluation unit. The image processing device according to any one of 1 to 5.
[Appendix 7]
The state evaluation means includes
Calculating means for calculating luminance values of the image in the first area and the image in the second area as the state of the image;
Comparing means for comparing the magnitudes of the luminance values of the image in the first area and the image in the second area calculated by the calculating means;
The state adjusting unit performs exposure control by using either the aperture or the electronic shutter speed in the imaging unit for an image having a larger luminance value, and ISO sensitivity for an image having a smaller luminance value. The image processing apparatus according to appendix 6, wherein the adjustment is performed.
[Appendix 8]
Any one of the first area and the second area is an image area including a preset specific subject, The image processing according to any one of appendices 1 to 7, apparatus.
[Appendix 9]
The state adjustment means adjusts the ISO sensitivity after performing exposure control on at least one of the first area and the second area by either an aperture or an electronic shutter speed in the imaging means. The image processing apparatus according to appendix 1.
[Appendix 10]
The image processing apparatus according to any one of appendices 1 to 9, wherein one of the first area and the second area includes the other.
[Appendix 11]
The image processing apparatus according to any one of appendices 1 to 10, wherein the image in the first area and the image in the second area are still images.
[Appendix 12]
The image processing apparatus according to any one of appendices 1 to 11, wherein the image in the first area and the image in the second area are moving images.
[Appendix 13]
The image processing according to any one of
[Appendix 14]
A first image acquisition step of acquiring an image in the first region from an image captured by the imaging means;
A second image acquisition step of acquiring an image in a second area different from the first area from the image captured by the imaging means;
A state adjustment step of adjusting the image quality of each of the image in the first region and the image in the second region;
A recording control step for causing the recording means to record the image in the first area and the image in the second area, the image quality of which has been adjusted by the state adjustment step;
An image processing method comprising:
[Appendix 15]
On the computer,
A first image acquisition function for acquiring an image in the first area from an image captured by the imaging means;
A second image acquisition function for acquiring an image in a second area different from the first area from an image captured by the imaging means;
A state adjustment function for adjusting the image quality of each of the image in the first region and the image in the second region;
Recording control means for causing the recording means to record the image in the first area and the image in the second area, the image quality of which has been adjusted by the state adjusting means;
A program characterized by realizing.
1・・・撮像装置,11・・・CPU,12・・・ROM,13・・・RAM,14・・・バス,15・・・入出力インターフェース,16・・・撮像部,17・・・入力部,18・・・出力部,19・・・記憶部,20・・・通信部,21・・・ドライブ,31・・・リムーバブルメディア,51・・・撮像制御部,52・・・第1動画像切出部,53・・・第2動画像切出部,54・・・第1輝度測定部,55・・・第2輝度測定部,56・・・輝度評価部,57・・・露出制御部,58・・・利得調整部,71・・・第1動画像記憶部,72・・・第2動画像記憶部
DESCRIPTION OF SYMBOLS 1 ... Imaging device, 11 ... CPU, 12 ... ROM, 13 ... RAM, 14 ... Bus, 15 ... Input-output interface, 16 ... Imaging part, 17 ...
Claims (9)
前記撮像手段によって撮像された画像から、前記第1の領域とは異なる第2の領域中の画像を取得する第2画像取得手段と、
前記第1の領域中の画像及び前記第2の領域中の画像の輝度値を各々評価する状態評価手段と、
前記状態評価手段における前記輝度値の評価結果が大きい方の画像を対象として、前記撮像手段における絞り及び電子シャッター速度の何れかによる露出制御による第1の画質調整を行い、前記輝度値の評価結果が小さい方の画像を対象として、ISO感度の調整による第2の画質調整を行う調整手段と、
前記調整手段により画質が調整された前記第1の領域中の画像及び前記第2の領域中の画像を記録手段に記録させる記録制御手段と、
を備えることを特徴とする画像処理装置。 First image acquisition means for acquiring an image in the first area from an image captured by the imaging means;
Second image acquisition means for acquiring an image in a second area different from the first area from an image captured by the imaging means;
State evaluation means for evaluating luminance values of the image in the first region and the image in the second region, respectively.
For the image with the larger evaluation result of the luminance value in the state evaluation unit, the first image quality adjustment is performed by exposure control by either the aperture or the electronic shutter speed in the imaging unit, and the evaluation result of the luminance value An adjustment means for performing second image quality adjustment by adjusting ISO sensitivity for an image having a smaller image quality ;
Recording control means for causing the recording means to record the image in the first area and the image in the second area, the image quality of which has been adjusted by the adjusting means;
An image processing apparatus comprising:
前記調整手段は、前記算出手段により算出された輝度値の平均輝度に基づいて露出制御を行うことを特徴とする請求項1または2に記載の画像処理装置。The image processing apparatus according to claim 1, wherein the adjusting unit performs exposure control based on an average luminance of the luminance value calculated by the calculating unit.
前記撮像手段によって撮像された画像から、前記第1の領域とは異なる第2の領域中の画像を取得する第2画像取得ステップと、A second image acquisition step of acquiring an image in a second area different from the first area from the image captured by the imaging means;
前記第1の領域中の画像及び前記第2の領域中の画像の輝度値を各々評価する状態評価ステップと、A state evaluation step for evaluating the luminance values of the image in the first region and the image in the second region, respectively;
前記状態評価ステップにおける前記輝度値の評価結果が大きい方の画像を対象として、前記撮像手段における絞り及び電子シャッター速度の何れかによる露出制御による第1の画質調整を行い、前記輝度値の評価結果が小さい方の画像を対象として、ISO感度の調整による第2の画質調整を行う調整ステップと、For the image with the larger evaluation result of the luminance value in the state evaluation step, the first image quality adjustment is performed by exposure control by either the aperture or the electronic shutter speed in the imaging unit, and the evaluation result of the luminance value An adjustment step for performing a second image quality adjustment by adjusting the ISO sensitivity for an image having a smaller image quality;
前記調整ステップにより画質が調整された前記第1の領域中の画像及び前記第2の領域中の画像を記録手段に記録させる記録制御ステップと、A recording control step for causing the recording means to record the image in the first area and the image in the second area, the image quality of which has been adjusted by the adjustment step;
を含むことを特徴とする画像処理方法。An image processing method comprising:
撮像手段によって撮像された画像から、第1の領域中の画像を取得する第1画像取得機能と、A first image acquisition function for acquiring an image in the first area from an image captured by the imaging means;
前記撮像手段によって撮像された画像から、前記第1の領域とは異なる第2の領域中の画像を取得する第2画像取得機能と、A second image acquisition function for acquiring an image in a second area different from the first area from an image captured by the imaging means;
前記第1の領域中の画像及び前記第2の領域中の画像の輝度値を各々評価する状態評価機能と、A state evaluation function for evaluating the luminance values of the image in the first region and the image in the second region;
前記状態評価機能における前記輝度値の評価結果が大きい方の画像を対象として、前記撮像手段における絞り及び電子シャッター速度の何れかによる露出制御による第1の画質調整を行い、前記輝度値の評価結果が小さい方の画像を対象として、ISO感度の調整による第2の画質調整を行う調整機能と、For the image with the larger evaluation result of the luminance value in the state evaluation function, the first image quality adjustment is performed by exposure control by either the aperture or the electronic shutter speed in the imaging unit, and the evaluation result of the luminance value An adjustment function for performing second image quality adjustment by adjusting ISO sensitivity for an image having a smaller image quality;
前記調整機能により画質が調整された前記第1の領域中の画像及び前記第2の領域中の画像を記録手段に記録させる記録制御機能と、A recording control function for causing the recording means to record an image in the first area and an image in the second area, the image quality of which has been adjusted by the adjustment function;
を実現させることを特徴とするプログラム。A program characterized by realizing.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014058969A JP6361204B2 (en) | 2014-03-20 | 2014-03-20 | Image processing apparatus, image processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014058969A JP6361204B2 (en) | 2014-03-20 | 2014-03-20 | Image processing apparatus, image processing method, and program |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2015185935A JP2015185935A (en) | 2015-10-22 |
JP2015185935A5 JP2015185935A5 (en) | 2017-04-27 |
JP6361204B2 true JP6361204B2 (en) | 2018-07-25 |
Family
ID=54352069
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014058969A Active JP6361204B2 (en) | 2014-03-20 | 2014-03-20 | Image processing apparatus, image processing method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6361204B2 (en) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5094607B2 (en) * | 2008-07-16 | 2012-12-12 | キヤノン株式会社 | Imaging apparatus, control method thereof, and program |
JP2011009937A (en) * | 2009-06-24 | 2011-01-13 | Nikon Corp | Image processing apparatus and program |
JP6346398B2 (en) * | 2012-03-07 | 2018-06-20 | オリンパス株式会社 | Imaging apparatus and imaging method |
-
2014
- 2014-03-20 JP JP2014058969A patent/JP6361204B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015185935A (en) | 2015-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6267502B2 (en) | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM | |
JP6720881B2 (en) | Image processing apparatus and image processing method | |
JP5804138B1 (en) | Detection apparatus, detection method, and program | |
US9071766B2 (en) | Image capturing apparatus and control method thereof | |
JP6149854B2 (en) | Imaging apparatus, imaging control method, and program | |
US9674437B2 (en) | Imaging apparatus, imaging method and computer readable recording medium having program for performing interval shooting | |
US9191573B2 (en) | Image capturing apparatus for determining an exposure condition by calculating aphotmetric value for each object region and method of controlling the same | |
US10271029B2 (en) | Image pickup apparatus and method of controlling an image pickup apparatus | |
JP6677222B2 (en) | Detection device, image processing device, detection method, and image processing method | |
JP2017011451A (en) | Detection device, detection method and program | |
JP6569263B2 (en) | Image processing apparatus, image processing method, and program | |
JP2010183460A (en) | Image capturing apparatus and method of controlling the same | |
JP2019029833A (en) | Imaging apparatus | |
JP2014122978A (en) | Imaging device, voice recognition method, and program | |
JP6498175B2 (en) | Imaging apparatus and control method thereof | |
JP6361204B2 (en) | Image processing apparatus, image processing method, and program | |
JP2015080157A (en) | Image processing device, image processing method and program | |
JP6003133B2 (en) | Imaging apparatus, imaging control method, and program | |
JP2010183461A (en) | Image capturing apparatus and method of controlling the same | |
JP6519280B2 (en) | Imaging apparatus, imaging setting method and program | |
JP2018142831A (en) | Photographing apparatus, photographing control method, and program | |
US20240048822A1 (en) | Image capture apparatus and control method for same | |
JP2015094852A (en) | Imaging apparatus, imaging method, and program | |
JP5789330B2 (en) | Imaging apparatus and control method thereof | |
JP6271985B2 (en) | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170317 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170317 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20171214 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20171219 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180219 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180320 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180514 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180529 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180611 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6361204 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |