JP2005148916A - Face selection method for density correction and apparatus for implementing the method - Google Patents

Face selection method for density correction and apparatus for implementing the method Download PDF

Info

Publication number
JP2005148916A
JP2005148916A JP2003382522A JP2003382522A JP2005148916A JP 2005148916 A JP2005148916 A JP 2005148916A JP 2003382522 A JP2003382522 A JP 2003382522A JP 2003382522 A JP2003382522 A JP 2003382522A JP 2005148916 A JP2005148916 A JP 2005148916A
Authority
JP
Japan
Prior art keywords
face
detection information
ideal
density
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003382522A
Other languages
Japanese (ja)
Other versions
JP4441853B2 (en
Inventor
Satoshi Yanai
聡 柳井
Noriyuki Nishi
規之 西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Noritsu Koki Co Ltd
Original Assignee
Noritsu Koki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Noritsu Koki Co Ltd filed Critical Noritsu Koki Co Ltd
Priority to JP2003382522A priority Critical patent/JP4441853B2/en
Publication of JP2005148916A publication Critical patent/JP2005148916A/en
Application granted granted Critical
Publication of JP4441853B2 publication Critical patent/JP4441853B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Control Of Exposure In Printing And Copying (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Analysis (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a technology to select an ideal face as a significant object for determining a density characteristic curve to be used for density correction from among a plurality of detected faces regardless of manual face detection processing by an operator or automatic face detection processing using a face detection algorithm and an image processing technology adopting the technology. <P>SOLUTION: An image processor is disclosed which is composed of a face detection information storing part 40 which stores face detection information related with a face detected from photographic image data, a reference face detecting part 64 which determines the optimal ideal face obtained based on the face position and face size included in the face detection information as reference face, a selecting part 65 which selects the face existing in a predetermined image characteristic separation degree from the reference face as a further ideal face from the faces to be specified based on the face detection information and a density correcting part 70 which corrects the density of the photographic image data adjusted based on the image information of the ideal face selected by the selecting part. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

本発明は、濃度補正に用いられる濃度特性曲線を決定するために重要な被写体としての理想顔を、入力された撮影画像データから検出された複数の顔の顔検出情報に基づいて選別する顔選別方法、顔選別プログラム、及びこの方法を採用して撮影画像データを濃度補正する画像処理装置に関する。   The present invention selects the ideal face as an important subject for determining a density characteristic curve used for density correction based on face detection information of a plurality of faces detected from input captured image data. The present invention relates to a method, a face selection program, and an image processing apparatus that employs this method to correct the density of captured image data.

現在、写真プリント業界では、写真フィルムに形成された撮影画像をフィルムスキャナを用いてデジタル化して得られた撮影画像データや、デジタルカメラなどのデジタル撮影機器によって直接撮影画像をデジタル化して得られた撮影画像データに濃度補正や色補正などの画像処理を施した後これをプリントデータに変換し、プリント露光ユニットを駆動して、撮影画像を感光材料(印画紙)に焼き付ける技術が、主流である。   At present, in the photographic printing industry, it has been obtained by digitizing a photographed image data obtained by digitizing a photographed image formed on a photographic film using a film scanner or a digital photographing device such as a digital camera. The mainstream technique is to perform image processing such as density correction and color correction on the photographic image data, convert this into print data, drive the print exposure unit, and print the photographic image onto a photosensitive material (photographic paper). .

このようなデジタル式の写真プリント装置では、画像入力機器と画像出力機器との間に異なる機器特性(ガンマ特性など)が存在するので、優れた画質の写真プリント出力は画像データを適切に補正することで可能となる。このため、入力された撮影画像データに対して、濃度補正、階調調整、カラーバランス調整、シャープネス(鮮鋭化)処理等を最適に行う画像処理技術が重要となる。   In such a digital photographic printing apparatus, there are different device characteristics (gamma characteristics, etc.) between the image input device and the image output device, so that the photographic print output with excellent image quality corrects the image data appropriately. This is possible. For this reason, an image processing technique that optimally performs density correction, gradation adjustment, color balance adjustment, sharpness (sharpening) processing, etc., on input captured image data is important.

もちろん、そのような画像処理技術はフィルム画像を印画紙に直接投影して露光するいわゆるアナログ式の写真プリント装置においても採用されており、人物の顔、人物、動物、花などの一つの被写体を原画中の主要部として指定し、この主要部をイメージセンサ等により測光してこの測光値を用いて、この測光値単独であるいは原画全体の平均透過濃度と組み合わせて露光制御することが知られている。例えば、ネガフィルムなどの原画フィルムの画像情報を画素に分割して検出する検出装置と、ネガフィルムの主要部を指定し、さらに絵柄情報を入力することにより、検出装置によって検出された画像情報から得られた基本再現画像濃度に対する再現画像濃度補正量を求める補正装置と、検出装置によって検出された画素測光値から大面積平均透過濃度を演算処理し、次いで、この大面積平均透過濃度に基づいて前記基本再現画像濃度を求めるとともに、補正装置からの再現画像濃度補正量を受けて主要部や絵柄情報を考慮した適正露光条件を設定しかつ露光制御する露光条件制御部と、この露光条件制御部によって設定された適正露光条件に基づいて色および濃度のマニュアル補正を指示することのできる操作部とを有する写真プリント装置が知られている(特許文献1参照。)。ここでは、主要部としての顔領域はマウスなどのポインティングデバイスによってCRTの画面に表示された原画像の主要部の対角線上の2点を指定することにより主要部の位置と大きさが入力される。   Of course, such image processing technology is also used in so-called analog type photo printing apparatuses that directly project and expose a film image on photographic paper, and a single subject such as a person's face, person, animal, flower, etc. It is known that the main part is designated as the main part of the original image, and this main part is photometrically measured by an image sensor or the like, and this photometric value is used to perform exposure control alone or in combination with the average transmission density of the entire original picture Yes. For example, a detection device that detects image information of an original film such as a negative film by dividing it into pixels, and designates the main part of the negative film, and further inputs picture information from the image information detected by the detection device. A correction device for obtaining a reproduction image density correction amount for the obtained basic reproduction image density, and a large area average transmission density is calculated from the pixel photometric value detected by the detection device, and then based on the large area average transmission density An exposure condition control unit that obtains the basic reproduction image density and receives a reproduction image density correction amount from the correction device, sets an appropriate exposure condition considering the main part and pattern information, and controls exposure, and the exposure condition control unit A photo printing apparatus having an operation unit capable of instructing manual correction of color and density based on the appropriate exposure condition set by It is known (see Patent Document 1.). Here, the face area as the main part is inputted with the position and size of the main part by designating two diagonal points of the main part of the original image displayed on the CRT screen by a pointing device such as a mouse. .

また、画像データ供給源から供給された画像データを解析してこの画像データの画像処理条件を設定する条件設定部と、前記条件設定部が設定した画像処理条件に応じて画像データに画像処理を施す画像処理部と、作業目的に応じた複数の動作モード、つまり不適性プリントを低減する動作モード、画質を重視する動作モード、1件のバラツキを低減する動作モード、生産速度を重視する動作モードが備えられ、その際前記不適性プリントを低減する動作モードでは人物の顔領域に基づいた濃度制御あるいはさらに階調の軟調化が行われ、前記画質を重視する動作モードでは撮影シーンやフィルム露出およびフィルム種の少なくとも1つに応じたグレー/色階調コントロールが行われ、前記1件のバラツキを低減する動作モードでは1件分の画像データを全て用いて画像処理条件が設定され、前記生産速度を重視する動作モードでは、グレーバランス補正および濃度補正される画像処理装置も提案されている(特許文献2参照。)。この装置は、プレスキャンデータを用いて、画像の濃度ヒストグラムの作成、および、最低濃度や最高濃度、平均濃度などの画像特徴量の算出、主要被写体(顔領域)の抽出を行うセットアップ部、及び顔抽出結果に応じて人物の顔を適正な肌色に仕上げるように顔領域の濃度を調整する顔領域濃度補正部を備えているが、セットアップ部における顔抽出の仕組みは開示されていないが、セットアップ部で抽出された主要被写体(顔領域)はそのまま利用されるので、誤検出や後の濃度補正処理に適しない顔も抽出されるといった可能性が高く、そのような場合では濃度補正はかえって不自然なものとなる。   Also, a condition setting unit that analyzes image data supplied from an image data supply source and sets image processing conditions for the image data, and performs image processing on the image data according to the image processing conditions set by the condition setting unit. Image processing unit to be applied and a plurality of operation modes according to the work purpose, that is, an operation mode for reducing improper printing, an operation mode for emphasizing image quality, an operation mode for reducing variation of one item, and an operation mode for emphasizing production speed In the operation mode for reducing the inappropriate printing, density control based on a human face area or gradation softening is performed, and in the operation mode in which the image quality is emphasized, a shooting scene and film exposure and Gray / color gradation control is performed according to at least one of the film types, and in the operation mode that reduces the variation of one case, it corresponds to one case. Image processing conditions are set using all of the image data, the operation mode that emphasizes the production rate, also the image processing apparatus to be gray balance correction and density correction is proposed (see Patent Document 2.). The apparatus uses a pre-scan data to create a density histogram of an image, calculate an image feature amount such as a minimum density, a maximum density, and an average density, and extract a main subject (face area); and Although it has a face area density correction unit that adjusts the density of the face area so that the face of the person is finished to an appropriate skin color according to the face extraction result, the face extraction mechanism in the setup part is not disclosed, but the setup Since the main subject (face area) extracted by this part is used as it is, there is a high possibility that a face that is not suitable for erroneous detection or subsequent density correction processing will be extracted. In such a case, density correction is not possible. It will be natural.

特開平6−59353 号公報(段落番号0024、0048、第3図)JP-A-6-59353 (paragraph numbers 0024 and 0048, FIG. 3) 特開2001−218047 号公報(段落番号0009−0010、0024−0028、第2図)JP 2001-218047 A (paragraph numbers 0009-0010, 0024-0028, FIG. 2)

重要な被写体部として顔領域を抽出し、顔領域の色合いを良好にするような画像処理を撮影画像データに施すことは高品質の写真プリントを出力するためには重要であるが、現状の顔検出アルゴリズムは写真プリントのために最適化されているわけではなく、そのまま採用すると誤認識や不適正な顔の検出のためかえって望ましくない画像処理が施されたり、誤認識を避けるためにその信頼度を上げようとすると全く顔が検出されなかったり、異常に処理速度が遅くなったりといった別な問題が生じてしまう。   Extracting the face area as an important subject area and applying image processing that improves the hue of the face area to the shot image data is important for outputting high-quality photographic prints. The detection algorithm is not optimized for photographic prints.If it is adopted as it is, it will be subject to undesired image processing for false recognition and inappropriate face detection, and its reliability to avoid false recognition. Trying to increase the speed will cause other problems such as no face being detected or abnormally slow processing speed.

上記実状に鑑み、本発明の課題は、オペレータによる手動の顔検出処理又は顔検出アルゴリズムを用いた自動顔検出処理にかかわらず、濃度補正に用いられる濃度特性曲線を決定するために重要な被写体としての理想顔を検出された複数の顔から選別する技術、及びこの技術を採用した画像処理技術を提供することである。   In view of the above situation, the subject of the present invention is an important subject for determining a density characteristic curve used for density correction regardless of manual face detection processing by an operator or automatic face detection processing using a face detection algorithm. It is to provide a technique for selecting the ideal face from a plurality of detected faces, and an image processing technique employing this technique.

上記課題を解決するため、濃度補正に用いられる濃度特性曲線を決定するために重要な被写体としての理想顔を、入力された撮影画像データから検出された複数の顔の顔検出情報に基づいて選別する、本発明による顔選別方法は、前記顔検出情報に含まれている顔位置と顔サイズに基づいて求められた最適な理想顔を基準顔として決定し、前記基準顔から所定の画像特性乖離度内に存在する顔をさらなる理想顔として前記顔検出情報で規定される顔から選別する。   In order to solve the above problem, an ideal face as an important subject for determining a density characteristic curve used for density correction is selected based on face detection information of a plurality of faces detected from input captured image data. In the face selection method according to the present invention, an optimal ideal face obtained based on a face position and a face size included in the face detection information is determined as a reference face, and a predetermined image characteristic deviation from the reference face is determined. Faces existing within the range are selected from the faces defined by the face detection information as further ideal faces.

これにより、基本的には撮影画像データに含まれている目や口は肌からなる顔という概念をもつ領域を顔として検出されたとしても、本発明では、濃度補正技術の観点から重要とみなされる顔位置と顔サイズを有する基準顔が決定されるとともに、この基準顔を基準として所定の画像特性乖離度内に収まる顔も選別されることにより、濃度補正処理に利用されるにふさわしい理想顔だけが得られることになる。   As a result, even if an area having the concept of a face composed of skin is basically detected as a face, the eyes and mouth included in the captured image data are regarded as important from the viewpoint of density correction technology in the present invention. A reference face having a face position and a face size to be determined is determined, and faces that fall within a predetermined image characteristic divergence degree are selected based on the reference face, so that an ideal face suitable for use in density correction processing is selected. Only you will get.

ここでいう画像特性乖離度とは、基準顔に比べて濃度補正に用いられる濃度特性曲線を決定するための重要な被写体としての価値をある程度もっていることを表すのであるが、例えば、基準顔から離れすぎた顔は人間である確率が低く、基準顔に比べて小さすぎる顔や大きすぎる顔は人間の顔と判断するには危険があり、基準顔に比べて大きく異なる濃度を示す顔も濃度補正目的にはふさわしいものではないといった観点から決定されるべきものである。従って、本発明の好適な実施形態では、前記画像特性乖離度は、前記基準顔と処理対象顔との間の顔位置と顔サイズと濃度の差分値をパラメータとして統計的に求められた式によって算出される。これにより、検出された各顔の画像特性乖離度が簡単に算出され、良否判定に用いることができる。   The image characteristic divergence here means that it has a certain value as an important subject for determining a density characteristic curve used for density correction compared to the reference face. A face that is too far away has a low probability of being a human, and a face that is too small or too large compared to the reference face is dangerous to judge as a human face. It should be determined from the viewpoint that it is not suitable for the purpose of correction. Therefore, in a preferred embodiment of the present invention, the image characteristic divergence degree is calculated by an equation statistically obtained by using a difference value between a face position, a face size, and a density between the reference face and the processing target face as parameters. Calculated. Thereby, the detected image characteristic divergence degree of each face can be easily calculated and used for the quality determination.

撮影画像における人物の顔は画像特性的に千差万別であり、特に自動検出の場合検出された顔には通常信頼度が付与される。手動検出であっても、検出された顔が濃度補正などの目的に適しているかどうかという点では信頼度(自信度)を付けざるをえない。それゆえ、本発明の好適な実施形態の1つとして、前記顔検出情報に信頼度が含まれていることを前提とし、前記基準顔の決定の際には顔位置と顔サイズに加えて前記信頼度も考慮され、かつ前記信頼度は前記画像特性乖離度を求める式のパラメータにも加えられるならば、その選別結果はさらに精度の良いものとすることが可能である。   The face of the person in the photographed image has various image characteristics, and the reliability is usually given to the detected face particularly in the case of automatic detection. Even in the case of manual detection, reliability (confidence) must be given in terms of whether or not the detected face is suitable for purposes such as density correction. Therefore, as one preferred embodiment of the present invention, on the premise that the face detection information includes reliability, the determination of the reference face is performed in addition to the face position and the face size. If the reliability is taken into consideration and the reliability is also added to the parameters of the equation for obtaining the image characteristic divergence, the selection result can be made more accurate.

本発明の好適な実施形態の1つとして、前記顔検出情報を参照して算出される顔画素の数に対する前記肌色画素の数の割合である肌割合に基づいて前選別され、前選別された顔から前記基準顔が決定されるものがある。検出された顔の領域における肌色画素数の割合である肌色割合を判定条件として前選別処理を行うことで、撮影画像処理上重要な肌色を表している顔以外を選別の対象から除外することができ、基準色決定処理の負担を減らすことができる。さらに、肌割合で前選別することは、最終的に、顔の肌色を美しく表現する濃度補正が実現する可能性を高くすることにもつながる。   As one preferred embodiment of the present invention, prescreening is performed based on a skin ratio, which is a ratio of the number of the skin color pixels to the number of face pixels calculated with reference to the face detection information. In some cases, the reference face is determined from the face. By performing the pre-selection process using the skin color ratio, which is the ratio of the number of skin color pixels in the detected face area, as a determination condition, it is possible to exclude faces other than the face representing the skin color important in the captured image processing from the selection target This can reduce the burden of the reference color determination process. Furthermore, pre-selection based on the skin ratio ultimately increases the possibility of realizing density correction that beautifully expresses the skin color of the face.

また、本発明は、上述した顔選別方法をコンピュータに実行させるプログラムやそのプログラムを記録した媒体も権利の対象とするものである。   The present invention also covers a program for causing a computer to execute the face selection method described above and a medium on which the program is recorded.

本発明では、さらに、上述した顔選別方法を採用した画像処理装置も権利の対象としており、入力された撮影画像データにおける顔を重要な被写体として濃度補正を行う、本発明による画像処理装置は、前記撮影画像データから検出された顔に関する顔検出情報を記憶する顔検出情報記憶部と、前記顔検出情報に含まれている顔位置と顔サイズに基づいて求められた最適な理想顔を基準顔として決定する基準顔決定部と、前記基準顔から所定の画像特性乖離度内に存在する顔をさらなる理想顔として前記顔検出情報で規定される顔から選別する選別部と、前記選別部で選別された理想顔の画像情報に基づいて調整されるとともに前記撮影画像データを濃度補正する濃度補正部とを備えている。当然ながら、このような画像処理装置も上述した顔選別方法におけるすべての作用効果を得ることができるとともに、選別された理想顔の画像情報を利用した濃度補正により、顔を肌色が美しく表現された写真プリントを出力するための撮影画像データを生成することが期待できる。   In the present invention, the image processing apparatus adopting the above-described face selection method is also a subject of rights, and the image processing apparatus according to the present invention, which performs density correction using the face in the input captured image data as an important subject, A face detection information storage unit that stores face detection information related to a face detected from the captured image data, and an optimal ideal face obtained based on the face position and face size included in the face detection information A selection unit that determines a face existing within a predetermined degree of image characteristic deviation from the reference face as a further ideal face from a face defined by the face detection information, and a selection unit that performs selection by the selection unit A density correction unit that is adjusted based on the image information of the ideal face and that corrects the density of the captured image data. Naturally, such an image processing apparatus can also obtain all the effects of the face selection method described above, and the skin color is beautifully expressed by density correction using image information of the selected ideal face. It can be expected to generate photographed image data for outputting a photographic print.

基準顔決定処理やその後の選別処理が迅速に行われるように、本発明による好適な実施形態として、前記基準顔決定部が、前記顔検出情報から読み出された顔位置:pとサイズ:sと信頼度:rをパラメータとして統計的に求められた評価式:Γ(p,s,r)を用いて得られた評価値に基づいて前記基準顔を決定するように構成されることや、前記選別部が、前記顔検出情報から読み出された平均濃度:d、方向:v、顔位置:pに関する前記基準顔と処理対象顔との差分値Δd,Δv,Δpをパラメータとして統計的に求められた画像特性乖離決定式:G(Δd,Δv,Δp)を用いて理想顔を選別するように構成されることが提案される。   As a preferred embodiment according to the present invention, the reference face determination unit reads the face position: p and size: s read from the face detection information so that the reference face determination process and the subsequent selection process are performed quickly. And reliability: the reference face is configured to be determined based on an evaluation value obtained using an evaluation formula: Γ (p, s, r) statistically obtained using r as a parameter; The selecting unit statistically uses the difference values Δd, Δv, Δp between the reference face and the processing target face regarding the average density: d, direction: v, and face position: p read from the face detection information as parameters. It is proposed that an ideal face is selected by using the obtained image characteristic deviation determination formula: G (Δd, Δv, Δp).

適正顔判別処理の負担を減らすために、処理対象となる撮影画像データの容量は結果に悪影響を与えない限りにおいて少ないことが望ましい。そのため、入力される前記撮影画像データは高解像度データと低解像度データに分けておき、前記理想顔の選別には低解像度データが用いられ、この低解像度データに基づいて変更された前記補正パラメータを用いて前記濃度補正部は高解像度データを濃度補正すると好都合である。撮影画像が写真フィルムに形成されている場合は、フィルムスキャニング処理を高解像度の本スキャンと低解像度のプレスキャンに分ける方式で行えばよいし、デジタルカメラ等による撮影画像データでは、サムネイル画像データと本画像データにそれらの役割を与えるとよい。
本発明によるその他の特徴及び利点は、以下図面を用いた実施形態の説明により明らかになるだろう。
In order to reduce the burden of proper face discrimination processing, it is desirable that the capacity of the captured image data to be processed is small as long as the result is not adversely affected. Therefore, the captured image data to be input is divided into high resolution data and low resolution data, and low resolution data is used for the selection of the ideal face, and the correction parameter changed based on the low resolution data is used. It is convenient that the density correction unit corrects the density of the high resolution data. If the captured image is formed on a photographic film, the film scanning process may be performed by dividing it into a high-resolution main scan and a low-resolution pre-scan. It is preferable to give these roles to the main image data.
Other features and advantages of the present invention will become apparent from the following description of embodiments using the drawings.

〔第1実施形態〕
本発明の第1の実施形態について、図面に基づいて説明する。
図1は本発明による顔選別方法を採用した画像処理技術を組み込んでいる写真プリント装置を示す外観図であり、この写真プリント装置は、印画紙Pに対して露光処理と現像処理とを行う写真プリンタとしてのプリントステーション1Bと、現像済み写真フィルム2aやデジタルカメラ用メモリカード2bなどの画像入力メディアから取り込んだ撮影画像を処理してプリントステーション1Bで使用されるプリントデータの生成・転送などを行う操作ステーション1Aとから構成されている。
[First Embodiment]
A first embodiment of the present invention will be described with reference to the drawings.
FIG. 1 is an external view showing a photographic printing apparatus incorporating an image processing technique employing a face selection method according to the present invention. This photographic printing apparatus is a photograph for performing exposure processing and development processing on photographic paper P. Print image 1 used as a printer is processed and image data taken from image input media such as developed photographic film 2a and digital camera memory card 2b is processed to generate and transfer print data used in print station 1B. It comprises an operation station 1A.

この写真プリント装置はデジタルミニラボとも称せられるものであり、図2からよく理解できるように、プリントステーション1Bは2つの印画紙マガジン11に納めたロール状の印画紙Pを引き出してシートカッター12でプリントサイズに切断すると共に、このように切断された印画紙Pに対し、バックプリント部13で色補正情報やコマ番号などのプリント処理情報を印画紙Pの裏面に印字するとともに、プリント露光部14で印画紙Pの表面に撮影画像の露光を行い、この露光後の印画紙Pを複数の現像処理槽を有した処理槽ユニット15に送り込んで現像処理する。乾燥の後に装置上部の横送りコンベア16からソータ17に送られた印画紙P、つまり写真プリントPは、このソータ17の複数のトレイにオーダ単位で仕分けられた状態で集積される(図1参照)。   This photo printing apparatus is also called a digital minilab. As can be understood from FIG. 2, the printing station 1B pulls out the roll-shaped printing paper P stored in the two printing paper magazines 11 and prints it with the sheet cutter 12. The back print unit 13 prints print processing information such as color correction information and frame number on the back side of the photographic paper P, and the print exposure unit 14 cuts the print paper P into the size. A photographed image is exposed on the surface of the photographic paper P, and the exposed photographic paper P is sent to a processing tank unit 15 having a plurality of development processing tanks for development processing. After drying, the photographic paper P, that is, the photographic prints P, sent to the sorter 17 from the transverse feed conveyor 16 at the upper part of the apparatus is collected in a plurality of trays of the sorter 17 in a state of being sorted in order units (see FIG. 1). ).

上述した印画紙Pに対する各種処理に合わせた搬送速度で印画紙Pを搬送するために印画紙搬送機構18が敷設されている。印画紙搬送機構18は、印画紙搬送方向に関してプリント露光部14の前後に配置されたチャッカー式印画紙搬送ユニット18aを含む複数の挟持搬送ローラ対から構成されている。   A photographic paper transport mechanism 18 is laid to transport the photographic paper P at a transport speed in accordance with various processes for the photographic paper P described above. The photographic paper transport mechanism 18 is composed of a plurality of nipping and transporting roller pairs including a chucker type photographic paper transport unit 18a disposed before and after the print exposure unit 14 in the photographic paper transport direction.

プリント露光部14には、副走査方向に搬送される印画紙Pに対して、主走査方向に沿って操作ステーション1Aからのプリントデータに基づいてR(赤)、G(緑)、B(青)の3原色のレーザ光線の照射を行うライン露光ヘッドが設けられている。処理槽ユニット15は、発色現像処理液を貯留する発色現像槽15aと、漂白定着処理液を貯留する漂白定着槽15bと、安定処理液を貯留する安定槽15cを備えている。   The print exposure unit 14 applies R (red), G (green), and B (blue) to the printing paper P conveyed in the sub-scanning direction based on print data from the operation station 1A along the main scanning direction. A line exposure head for irradiating laser beams of the three primary colors (1) is provided. The processing tank unit 15 includes a color developing tank 15a for storing a color developing processing liquid, a bleach-fixing tank 15b for storing a bleach-fixing processing liquid, and a stabilizing tank 15c for storing a stable processing liquid.

前記操作ステーション1Aのデスク状コンソールの上部位置には、写真フィルム2aの撮影画像コマから撮影画像データ(以下単に画像データと略称する)を取得するフィルムスキャナ20が配置されており、デジタルカメラ等に装着される撮影画像記録媒体2bとして用いられている各種半導体メモリやCD−Rなどから画像データを取得するメディアリーダ21は、この写真プリント装置のコントローラ3として機能する汎用パソコンに組み込まれている。この汎用パソコンには、さらに各種情報を表示するモニタ23、各種設定や調整を行う際に用いる操作入力部として利用されるポインティングデバイスとしてのキーボード24やマウス25も接続されている。   A film scanner 20 for obtaining photographed image data (hereinafter simply referred to as image data) from a photographed image frame of the photographic film 2a is disposed at the upper position of the desk-like console of the operation station 1A. A media reader 21 that acquires image data from various semiconductor memories, CD-Rs, and the like used as the photographed image recording medium 2b to be mounted is incorporated in a general-purpose personal computer that functions as the controller 3 of the photographic printing apparatus. The general-purpose personal computer is also connected with a monitor 23 for displaying various types of information, and a keyboard 24 and a mouse 25 as pointing devices used as operation input units used for various settings and adjustments.

この写真プリント装置のコントローラ3は、CPUを中核部材として、写真プリント装置の種々の動作を行うための機能部をハードウエア又はソフトウエアあるいはその両方で構築しているが、図3に示されているように、本発明に特に関係する機能部としては、スキャナ20やメディアリーダ21によって読み取られた画像データを取り込んで次の処理のために必要な前処理を行う画像入力部31と、各種ウインドウや各種操作ボタンなどを含むグラフィック操作画面の作成やそのようなグラフィック操作画面を通じてのユーザ操作入力(キーボード24やマウス25などによる)から制御コマンドを生成するグラフィックユーザインターフェース(以下GUIと略称する)を構築するGUI部33と、GUI部33から送られてきた制御コマンドや直接キーボード24等から入力された操作命令に基づいて所望のプリントデータを生成するために画像入力部31からメモリ30に転送された画像データに対する画像処理等を行う画像管理部32と、色補正等のプレジャッジプリント作業時にプリントソース画像や予想仕上がりプリント画像としてのシミュレート画像さらにはGUI部33から送られてきたグラフィックデータをモニタ23に表示させるためのビデオ信号を生成するビデオ制御部35と、画像処理が完了した処理済み画像データに基づいてプリントステーション1Bに装備されているプリント露光部14に適したプリントデータを生成するプリントデータ生成部36と、顧客の要望に応じて生の画像データや画像処理が完了した処理済み画像データなどをCD−Rに書き込むための形式にフォーマットするフォーマッタ部37などが挙げられる。   The controller 3 of this photographic printing apparatus uses a CPU as a core member and constructs a functional unit for performing various operations of the photographic printing apparatus by hardware and / or software, as shown in FIG. As described above, the functional unit particularly related to the present invention includes an image input unit 31 that takes in image data read by the scanner 20 and the media reader 21 and performs preprocessing necessary for the next processing, and various windows. And a graphic user interface (hereinafter abbreviated as GUI) for generating a control command from a user operation input (via the keyboard 24, mouse 25, etc.) through the graphic operation screen. The GUI unit 33 to be constructed and the control sent from the GUI unit 33 An image management unit 32 that performs image processing on the image data transferred from the image input unit 31 to the memory 30 in order to generate desired print data based on an operation command input from a command or a direct keyboard 24; A video control unit 35 that generates a video signal for causing the monitor 23 to display graphic data sent from the GUI unit 33, or a simulated image as a print source image, an expected finished print image, or the like during pre-judge printing work such as correction. A print data generation unit 36 that generates print data suitable for the print exposure unit 14 installed in the print station 1B based on the processed image data for which image processing has been completed, and a raw image according to customer requirements. Data and processed image data that have been processed Etc. formatter 37 for formatting into a form for writing in and the like.

画像入力部31は、撮影画像記録媒体がフィルム2aの場合プレスキャンモードと本スキャンモードとのスキャンデータを別々にメモリ30に送り込み、それぞれの目的に合わせた前処理を行う。また、撮影画像記録媒体がメモリカード2bの場合取り込んだ画像データにサムネイル画像データ(低解像度データ)が含まれている場合はこのデータをモニタ23での一覧表示などの目的で使用するため撮影画像の本データ(高解像度データ)とは別にメモリ30に送り込むが、もしサムネイル画像データが含まれていない場合は本データから縮小画像を作り出して低解像度画像データとしてメモリ30に送り込む。   When the photographic image recording medium is the film 2a, the image input unit 31 separately sends the scan data for the pre-scan mode and the main scan mode to the memory 30, and performs preprocessing according to each purpose. When the captured image recording medium is the memory card 2b, when the captured image data includes thumbnail image data (low resolution data), the captured image is used for the purpose of displaying a list on the monitor 23. The thumbnail image data is sent to the memory 30 separately from the main data (high resolution data). If thumbnail image data is not included, a reduced image is created from the main data and sent to the memory 30 as low resolution image data.

画像管理部32は、メモリ30に展開された低解像度の画像データから顔検出アルゴリズムを用いて顔検出領域データを含む顔検出情報を出力する顔検出ユニット40と、入力された画像データに対して濃度補正や色補正やフィルタリング(ぼかしやシャープネスなど)などの画像処理を施す画像処理ユニット50を備えている。   The image management unit 32 outputs face detection information including face detection area data from the low resolution image data developed in the memory 30 using a face detection algorithm, and the input image data. An image processing unit 50 that performs image processing such as density correction, color correction, and filtering (such as blurring and sharpness) is provided.

顔検出ユニット40は汎用的なものを使用することが可能であるが、ここでは、写真撮影画像に限定されたものではなく、顔検出アルゴリズムに基づいて画像データ中の顔と見なされる領域を検出し、その顔位置とサイズ(顔位置を基点とした矩形画素領域の縦横サイズ)からなる顔検出領域データ、顔の正立・倒立関係を規定している顔の向き、顔検出時に算定された信頼度)が顔検出情報として出力するものが使われている。画像データから顔を検出する顔検出アルゴリズムは数多く知られているが、例えば、特開平11−339084号公報、特開2000−99722号公報、特開2000−22929号公報が参照される。   A general-purpose face detection unit 40 can be used, but here, the face detection unit 40 is not limited to a photographed image, and an area regarded as a face in image data is detected based on a face detection algorithm. The face detection area data consisting of the face position and size (vertical and horizontal size of the rectangular pixel area with the face position as the base point), the face orientation that defines the face upright / inverted relation, and the face detection (Reliability) is output as face detection information. Many face detection algorithms for detecting a face from image data are known. For example, JP-A-11-339084, JP-A-2000-99722, and JP-A-2000-22929 are referred to.

画像処理ユニット50には、本発明による技術を採用した顔検出情報評価手段60と、この顔検出情報評価手段60によって選別された顔検出情報に基づいて決定される画像データの顔領域や画像データ全体の濃度特性に基づいて濃度補正用パラメータを設定し、この濃度補正用パラメータによって修正された濃度特性曲線を用いて高解像度の画像データを濃度補正する濃度補正部70が含まれている。   The image processing unit 50 includes a face detection information evaluation unit 60 that employs the technique according to the present invention, and a face area and image data of image data determined based on the face detection information selected by the face detection information evaluation unit 60. A density correction unit 70 that sets density correction parameters based on the overall density characteristics and corrects the density of high-resolution image data using a density characteristic curve corrected by the density correction parameters is included.

顔検出情報評価手段60は、複数の検出された顔から理想的な顔だけを選別する理想顔選別部60Bと、その前選別部として機能する適正顔判別部60Aを備えている。前選別部としての適正顔判別部60Aは、顔検出ユニット40から出力された顔検出情報によって規定される顔領域から濃度補正用パラメータの調整(濃度特性曲線の修正)に利用することが好ましい適正な顔(顔検出情報)を判別する機能を持つ。もしこの適正顔判別部60Aが単一の適正顔しか選別しなかった場合にはその顔の濃度特性が濃度補正部70における濃度補正用パラメータの調整に利用することになる。   The face detection information evaluation unit 60 includes an ideal face selection unit 60B that selects only an ideal face from a plurality of detected faces, and an appropriate face determination unit 60A that functions as a pre-selection unit. The appropriate face discriminating unit 60A as the pre-selecting unit is preferably used for adjustment of the density correction parameter (correction of the density characteristic curve) from the face area defined by the face detection information output from the face detection unit 40. It has a function to discriminate a correct face (face detection information) If the proper face discriminating unit 60A selects only a single proper face, the density characteristic of the face is used for adjustment of the density correction parameter in the density correction unit 70.

適正顔判別部60Aは、図4に示すように、顔検出ユニット40から出力されてきた顔検出情報に含まれている顔検出領域データを参照しながらメモリ30に展開されている低解像度の画像データから顔検出領域毎に含まれている肌色画素を検出する肌色画素検出部61と、前記顔検出領域を構成する顔画素の数に対する前記肌色画素の数の割合を肌割合として算出する肌割合算出部62と、この算出された肌割合と顔検出情報に含まれている信頼度が所定の適正顔の判定条件を満たしているかどうかチェックして判定条件を満たすものだけを適正顔として以後の処理に採用する判別部63とから構成されている。   As shown in FIG. 4, the appropriate face discrimination unit 60A refers to the low-resolution image developed in the memory 30 while referring to the face detection area data included in the face detection information output from the face detection unit 40. A skin color pixel detecting unit 61 that detects skin color pixels included in each face detection area from the data, and a skin ratio that calculates a ratio of the number of the skin color pixels to the number of face pixels constituting the face detection area as a skin ratio The calculation unit 62 checks whether or not the calculated skin ratio and the reliability included in the face detection information satisfy a predetermined appropriate face determination condition, and only those that satisfy the determination condition are regarded as appropriate faces thereafter. It is comprised from the discrimination | determination part 63 employ | adopted for a process.

肌色画素検出部61に用いられる肌色検出条件は、写真処理技術において種々のものが知られているが、ここでは以下の肌色検出条件が用いられているが本発明はこの肌色検出条件に限定されるわけではない。この肌色検出条件は、注目画素のR・G・B濃度値をそれぞれR、G、Bとし、かつ(R+G+B)/3=Iとすると、
[fs_gb_lo<G-B<fs_gb_hi]、かつ
[fs_rg_lo<R-G<fs_rg_hi]、かつ
[fs_br_lo<B-R<fs_br_hi]、かつ
[I>fs_I]、
で表されている。この4つの条件からなる肌色判定条件を満たしている注目画素が肌色とみなされる。ここで、R・G・B濃度値が8ビットカラーデータ(0〜255)である場合、上記各定数は以下の通りに設定することができる(以下R・G・B濃度値は8ビットカラーデータとする);
fs_gb_lo=-24、fs_gb_hi=16、fs_rg_lo=-16、fs_rg_hi=64、
fs_br_lo=-88、fs_br_hi=8、fs_I=104。
肌色画素検出部61は、処理対象となる顔検出領域毎に、注目画素の画素値であるR・G・B濃度値を取り込み、上記肌色判定条件を満たすかどうかをチェックし、この肌色判定条件を満たした注目画素を肌色画素としてカウントしていく。これにより、全ての顔検出領域における肌色画素の数が算出される。
Various skin color detection conditions used in the skin color pixel detection unit 61 are known in the photographic processing technology. Here, the following skin color detection conditions are used, but the present invention is limited to the skin color detection conditions. I don't mean. The skin color detection conditions are as follows: R, G, B density values of the target pixel are R, G, B, and (R + G + B) / 3 = I.
[Fs_gb_lo <GB <fs_gb_hi], [fs_rg_lo <RG <fs_rg_hi], [fs_br_lo <BR <fs_br_hi], and [I> fs_I],
It is represented by A pixel of interest that satisfies the skin color determination condition consisting of these four conditions is regarded as the skin color. Here, when the R, G, and B density values are 8-bit color data (0 to 255), the above constants can be set as follows (hereinafter, the R, G, and B density values are 8-bit color data). Data)
fs_gb_lo = -24, fs_gb_hi = 16, fs_rg_lo = -16, fs_rg_hi = 64,
fs_br_lo = -88, fs_br_hi = 8, fs_I = 104.
The skin color pixel detection unit 61 takes in the R, G, B density values, which are the pixel values of the target pixel, for each face detection area to be processed, and checks whether the skin color determination condition is satisfied. The pixel of interest that satisfies the above is counted as a skin color pixel. Thereby, the number of skin color pixels in all face detection areas is calculated.

肌割合算出部62は、顔検出情報に含まれているその顔位置とその顔位置を基点とした矩形画素領域の縦横サイズから規定される顔検出領域の画素数を顔画素数として算出し、肌色画素検出部61で算出された肌色画素数を顔画素数で割ることにより肌割合を算出する。   The skin ratio calculation unit 62 calculates the number of pixels in the face detection area defined by the face position included in the face detection information and the vertical and horizontal size of the rectangular pixel area based on the face position as the face pixel number, The skin ratio is calculated by dividing the number of skin color pixels calculated by the skin color pixel detection unit 61 by the number of face pixels.

判別部63は、この実施形態では、肌割合に加えて顔検出情報に含まれている各検出顔の信頼度(0から1の値をとり、1が最大信頼度である)も適正顔の判別条件要素としている。つまり、ここで用いられている適正顔判別条件は、前記肌割合が0.5以上でかつ前記信頼度が0.3以上であるが本発明はこの条件に限定されるわけではなく、顔検出アルゴリズムの信頼度により重きをおく場合は信頼度を0.5以上としてもよい。いずれにしても、この判別条件は実験的かつ統計学的に決定されるとよい。この判別条件を満たした顔が適正顔として次の処理に利用される。   In this embodiment, the discriminating unit 63 determines the reliability of each detected face included in the face detection information in addition to the skin ratio (a value from 0 to 1 is 1 is the maximum reliability). It is a discrimination condition element. In other words, the proper face discrimination condition used here is that the skin ratio is 0.5 or more and the reliability is 0.3 or more. However, the present invention is not limited to this condition. If more importance is attached to the reliability of the algorithm, the reliability may be 0.5 or more. In any case, this discrimination condition may be determined experimentally and statistically. A face that satisfies this determination condition is used as the appropriate face for the next process.

上述した方法で適正顔判別部60Aが選別した適正顔が複数存在する場合さらにその中からより適正な理想顔(複数でもよい)を選別する理想顔選別部60Bは、各適正顔の属性値、つまり顔検出情報に含まれている位置、サイズ、信頼度、向きなどのデータに基づいて最も理想的な顔を基準顔として決定する基準顔決定部64と、適正顔判別部60Aが選別した適正顔から前記基準顔に対して所定範囲の画像特性的乖離度内に留まる適正顔をも理想顔として選別する選別部65を備えている。   When there are a plurality of appropriate faces selected by the appropriate face discriminating unit 60A by the above-described method, the ideal face selecting unit 60B for selecting a more appropriate ideal face (or a plurality of appropriate faces) from the plurality of appropriate faces is selected. That is, the reference face determination unit 64 that determines the most ideal face as the reference face based on data such as position, size, reliability, and orientation included in the face detection information, and the appropriateness selected by the appropriate face determination unit 60A A selection unit 65 that selects an appropriate face that remains within a predetermined range of image characteristic divergence from a face to the reference face as an ideal face is provided.

基準顔決定部64において基準顔を決定するために、この実施形態では、顔位置:pとサイズ:sと信頼度:rが採用されており、できるだけ画像中心に顔位置が位置するのが好ましく、そのサイズは大きいほど好ましく、当然信頼度が高いことが好ましいという観点から、前もって行われたテストを通じて統計的に求められた評価値決定式:Γ(p,s,r)が用いられる。この評価値決定式:Γ(p,s,r)で求められた評価値の最大をもつものが基準顔とみなされる。   In this embodiment, in order to determine the reference face in the reference face determination unit 64, the face position: p, size: s, and reliability: r are adopted, and it is preferable that the face position is located at the center of the image as much as possible. From the viewpoint that the size is preferably as large as possible, and naturally high reliability is preferable, the evaluation value determination formula: Γ (p, s, r) statistically obtained through a test performed in advance is used. The one having the maximum evaluation value obtained by this evaluation value determination formula: Γ (p, s, r) is regarded as a reference face.

選別部65で定義されている基準顔に対する画像特性的乖離度は、基準顔に対するその他の適正顔に属する平均濃度:d、方向:v、顔位置:pの差から決定することができる。例えば、平均濃度差分値Δdが小さいほど基準顔と同様な配慮をもって撮影された集合写真のもう1つの顔とみなすことができるし、顔が倒立方向・正立方向・横方向:であるかどうかを規定している方向vの差分値Δvは基準値の一致していないかぎり、つまり差分値が0でない限り、選別すべき顔と判定する必要がないし、顔位置差分値Δpが小さいほど基準顔の近くに位置する集合写真のもう1つの顔とみなすことができるからである。このような乖離度を求める式:G(Δd,Δv,Δp)もやはり前もって行われたテストを通じて統計的に求めることができるが、乖離度を求める式のパラメータとしては平均濃度差分値Δdと方向差分値Δvと顔位置差分値Δpに限定されるわけではない。   The degree of image characteristic divergence with respect to the reference face defined by the selection unit 65 can be determined from the difference in average density: d, direction: v, face position: p belonging to other appropriate faces with respect to the reference face. For example, as the average density difference value Δd is smaller, it can be regarded as another face of the group photo taken with the same consideration as the reference face, and whether the face is upside down, upright, or lateral: As long as the difference value Δv in the direction v defining the reference value does not match the reference value, that is, the difference value is not 0, it is not necessary to determine the face to be selected, and the smaller the face position difference value Δp is, the smaller the reference face is. This is because it can be regarded as another face of the group photo located near. The equation for obtaining the degree of divergence: G (Δd, Δv, Δp) can also be obtained statistically through tests performed in advance, but the parameters of the equation for obtaining the degree of divergence are the average density difference value Δd and direction. It is not necessarily limited to the difference value Δv and the face position difference value Δp.

このように構成された顔検出情報評価手段60による顔検出情報評価周辺の処理手順を以下に説明する。全体的な流れは図5に示されたフローチャートに示されているが、まずメモリ30に展開されている低解像度画像データに対して顔検出ユニット40による顔検出処理が行われ、検出顔情報が出力される(#10)。もし顔検出ユニット40で顔が検出されなかった場合(#20No分岐)、このフローは中断され、濃度補正部70において顔領域の濃度特性を用いた濃度補正用パラメータの調整、つまり濃度特性曲線の修正はされずに、一般的な画像全体の濃度特性を用いた濃度特性曲線の調整が行われる。もし顔検出ユニット40で1つ以上の顔が検出された場合(#20Yes分岐)、後述する適正顔判別部60Aによる前選別ルーチンに入る(#30)。この前選別ルーチンにおいて適正と判別された顔が1つのみであった場合(#50No分岐)このフローは中断されるが、その際適正と判別された顔が1つの場合唯一の適正顔の画像情報が濃度補正部70に渡され、この顔領域の濃度特性を用いた濃度補正用パラメータの調整(濃度特性曲線の修正)が濃度補正部70で行われ、適正と判別された顔がなかった場合顔領域の濃度特性を用いた濃度補正用パラメータの調整はされずに、一般的な画像全体の濃度特性を用いた濃度補正用パラメータの調整が濃度補正部70で行われる。前選別ルーチンにおいて適正と判別された顔が複数であった場合(#50Yes分岐)、後述する理想顔選別部60Bによる理想顔選別ルーチンに入って、複数の適正顔からさらに濃度補正用パラメータの調整に適した理想顔が選別されて、その理想顔の画像情報が濃度補正部70に渡される(#60)。   The processing procedure around the face detection information evaluation by the face detection information evaluation means 60 configured as described above will be described below. The overall flow is shown in the flowchart shown in FIG. 5. First, face detection processing by the face detection unit 40 is performed on the low-resolution image data developed in the memory 30, and the detected face information is displayed. Is output (# 10). If the face is not detected by the face detection unit 40 (# 20 No branch), this flow is interrupted, and the density correction parameter is adjusted by the density correction unit 70 using the density characteristic of the face region, that is, the density characteristic curve is adjusted. The density characteristic curve is adjusted using the density characteristic of the entire general image without correction. If one or more faces are detected by the face detection unit 40 (# 20 Yes branch), the pre-selection routine by the appropriate face discrimination unit 60A described later is entered (# 30). If there is only one face determined to be appropriate in this pre-sorting routine (# 50 No branch), this flow is interrupted, but if there is only one face determined to be appropriate at that time, the image of the only appropriate face The information is transferred to the density correction unit 70, and the density correction parameter adjustment (correction of the density characteristic curve) using the density characteristics of the face region is performed by the density correction unit 70, and there is no face determined to be appropriate. In this case, density correction parameters are adjusted by the density correction unit 70 using density characteristics of a general image without adjusting density correction parameters using density characteristics of the face area. If there are a plurality of faces determined to be appropriate in the pre-selection routine (# 50 Yes branch), an ideal face selection routine by an ideal face selection unit 60B described later is entered, and density correction parameters are further adjusted from the plurality of appropriate faces. An ideal face suitable for the image is selected, and image information of the ideal face is transferred to the density correction unit 70 (# 60).

適正顔判別部60Aによる前選別ルーチンは、図6に示されているように、まず顔検出情報に含まれている検出顔の1つを処理対象顔として指定し(#31)、その指定された検出顔の領域データを参照して、肌色画素検出部61がその顔領域内の肌色画素数を算出する(#32)。続いて、肌割合算出部62が顔領域の画素数(顔画素数)を算出するとともに(#33)、顔画素数に対する肌画素数の割合である肌割合を算出する(#34)。算出された肌割合と顔検出情報に含まれている処理対象顔の信頼度を前述した適正顔判定条件にかけて、処理対象顔が適正顔とみなされた場合だけ(#35Yes分岐)、この処理対象顔の情報を適正顔マップに書き込んでおく(#36)。次に処理すべき検出顔が残っているかどうかチェックされ(#37)、処理対象顔が残っている限りステップ#31から#37の処理が繰り返され、適正と判定された検出顔が適正顔マップに書き込まれていく。従って、後の処理においてはこの適正顔マップを読み込むことで、適正顔のリストが得られることになる。   As shown in FIG. 6, the pre-selection routine by the appropriate face discrimination unit 60A first designates one of the detected faces included in the face detection information as a processing target face (# 31), The skin color pixel detecting unit 61 refers to the detected face area data and calculates the number of skin color pixels in the face area (# 32). Subsequently, the skin ratio calculation unit 62 calculates the number of pixels in the face area (the number of face pixels) (# 33), and calculates the skin ratio that is the ratio of the number of skin pixels to the number of face pixels (# 34). This processing target is only applied when the processing target face is regarded as an appropriate face by subjecting the calculated skin ratio and the reliability of the processing target face included in the face detection information to the appropriate face determination conditions described above (# 35 Yes branch). The face information is written in the appropriate face map (# 36). It is checked whether or not there is a detected face to be processed next (# 37), and as long as the processing target face remains, the processes of steps # 31 to # 37 are repeated, and the detected face determined to be appropriate is the appropriate face map. Will continue to be written. Therefore, in the subsequent processing, a list of appropriate faces can be obtained by reading this appropriate face map.

理想顔選別部60Bによる理想顔選別ルーチンは、図7に示されているように、まず適正顔マップを読み込んで、適正顔のリストから処理対象顔を指定し(#61)、その指定された処理対象顔に属する情報、顔位置:pとサイズ:sと信頼度:rを取り込んで、前設定された評価値決定式:Γ(p,s,r)を用いて評価値を算出し(#62)、その評価値を評価値マップに書き込む(#63)。次に処理すべき適正顔が適正顔マップに残っているかどうかチェックしながら(#64)、適正顔マップにリストされた全ての適正顔の評価値を評価値マップに書き込む。全ての適正顔の評価値が算出されると、基準値決定部64が評価値マップを参照して最大の評価値をもつ適正顔を基準顔と決定し、理想顔マップに書き込む(#65)。   In the ideal face selection routine by the ideal face selection unit 60B, as shown in FIG. 7, first, an appropriate face map is read and a processing target face is specified from the list of appropriate faces (# 61). Information that belongs to the processing target face, face position: p, size: s, and reliability: r are taken in, and an evaluation value is calculated using a preset evaluation value determination formula: Γ (p, s, r) ( # 62) The evaluation value is written in the evaluation value map (# 63). While checking whether or not the appropriate face to be processed remains in the appropriate face map (# 64), the evaluation values of all the appropriate faces listed in the appropriate face map are written into the evaluation value map. When the evaluation values of all appropriate faces are calculated, the reference value determination unit 64 refers to the evaluation value map, determines the appropriate face having the maximum evaluation value as the reference face, and writes it in the ideal face map (# 65). .

決定された基準顔に対して所定の範囲の画像特性的乖離度をもつ適正顔をも理想顔として選別する処理が続いて選別部65によって行われる。適正顔マップを参照して適正顔のリストから理想顔となる次候補としての処理対象顔を指定し(#66)、その指定された処理対象顔に属する情報、平均濃度:d、方向:v、顔位置:pを取り込んで、基準顔との差分値である平均濃度差分値Δdと方向差分値Δvと顔位置差分値Δpを求め、前設定された乖離度決定式:G(Δd,Δv,Δp)を用いてその乖離度を算出する(#67)。算出された乖離度を所定の閾値にかけて、処理対象顔が基準顔に相当する理想顔とみなされた場合だけ(#68Yes分岐)、この処理対象顔の情報を理想顔マップに書き込んでおく(#69)。次に処理すべき検出顔が残っているかどうかチェックされ(#70)、処理対象顔が残っている限りステップ#66から#70の処理が繰り返され、理想顔と判定された適正顔が順次理想顔マップに書き込まれていく。従って、後の処理においてはこの理想顔マップを読み込むことで、顔検出ユニット40よって検出された検出顔に中から顔検出情報評価手段60によって選別された検出顔だけのリストが得られることになる。   A process of selecting an appropriate face having an image characteristic divergence within a predetermined range with respect to the determined reference face is subsequently performed by the selecting unit 65. With reference to the appropriate face map, the processing target face as the next candidate to be an ideal face is specified from the list of appropriate faces (# 66), information belonging to the specified processing target face, average density: d, direction: v , The face position: p is taken, and the average density difference value Δd, the direction difference value Δv, and the face position difference value Δp, which are the difference values from the reference face, are obtained, and the previously determined deviation degree determination formula: G (Δd, Δv , Δp) to calculate the degree of divergence (# 67). Only when the calculated degree of divergence is applied to a predetermined threshold and the processing target face is regarded as an ideal face corresponding to the reference face (Yes in # 68 branch), information on this processing target face is written in the ideal face map (#). 69). It is checked whether or not there is a detected face to be processed next (# 70), and as long as the face to be processed remains, the processes of steps # 66 to # 70 are repeated, and the appropriate faces determined as ideal faces are sequentially idealized. It is written in the face map. Therefore, in the subsequent processing, by reading this ideal face map, a list of only detected faces selected by the face detection information evaluation means 60 from among the detected faces detected by the face detection unit 40 can be obtained. .

〔第2実施形態〕
本発明の第2の実施形態について説明する。この第2の実施形態は、顔検出情報評価手段60は、複数の検出された顔から理想的な顔だけを選別する理想顔選別部60Bだけを備えており、その前選別部として機能する適正顔判別部60Aが省略されていることで、前述した第1の実施形態と異なっている。つまり、ここでは、顔検出ユニット40から出力された顔検出情報によって規定される顔が全て、理想顔の選別対象として理想顔選別部60Bに入力される。顔検出ユニット40から出力された顔検出情報に検出顔を1つしかなかった場合は、そのままその検出顔の濃度特性が濃度補正部70における濃度補正用パラメータの調整に利用することになるが、場合によっては理想顔選別部60Bで用いられている基準顔検定式の値に閾値を設け、これを満足しない限りは、顔の濃度特性を利用した濃度補正の調整をあきらめるように構成してもよい。
[Second Embodiment]
A second embodiment of the present invention will be described. In the second embodiment, the face detection information evaluation unit 60 includes only an ideal face selection unit 60B that selects only an ideal face from a plurality of detected faces, and the proper function that functions as a pre-selection unit is provided. The face discriminating unit 60A is omitted, which is different from the first embodiment described above. That is, here, all the faces defined by the face detection information output from the face detection unit 40 are input to the ideal face selection unit 60B as ideal face selection targets. When there is only one detected face in the face detection information output from the face detection unit 40, the density characteristic of the detected face is used as it is for adjusting the density correction parameter in the density correction unit 70. In some cases, a threshold value may be provided for the value of the reference face test formula used in the ideal face selection unit 60B, and unless it is satisfied, adjustment of density correction using the face density characteristic may be given up. Good.

この第2の実施形態における顔検出情報評価手段60による顔検出情報評価周辺の処理手順を以下に説明する。全体的な流れは図8に示されたフローチャートに示されているが、まずメモリ30に展開されている低解像度画像データに対して顔検出ユニット40による顔検出処理が行われ、検出顔情報が出力される(#10)。もし顔検出ユニット40で顔が2つ以上検出されなかった場合(#20aNo分岐)、さらに検出された顔の数が1つか又は検出なしかがチェックされ(#50a)、検出なしの場合(#50aNo分岐)、このフローは中断され、濃度補正部70において顔領域の濃度特性を用いた濃度補正用パラメータの調整はされずに、一般的な画像全体の濃度特性を用いた濃度補正用パラメータの調整が行われる。検出顔が1つである場合(#50aYes分岐)もこのルーチンは中断されるが、唯一の検出顔の画像情報が濃度補正部70に渡され、この顔領域の濃度特性を用いた濃度補正用パラメータの調整が濃度補正部70で行われる。
前選別ルーチンにおいて適正と判別された顔が複数であった場合(#50Yes分岐)、後述する理想顔選別部60Bによる理想顔選別ルーチンに入って、複数の適正顔からさらに濃度補正用パラメータの調整に適した理想顔が選別されて、その理想顔の画像情報が濃度補正部70に渡される。もし検出された顔が2つ以上の場合(#20aYes分岐)、これらの検出顔の顔検出情報が理想顔選別部60Bに渡され、第1の実施形態で説明された顔選別ルーチンが実行される(#60)。
The processing procedure around the face detection information evaluation by the face detection information evaluation means 60 in the second embodiment will be described below. The overall flow is shown in the flowchart shown in FIG. 8, but first, face detection processing by the face detection unit 40 is performed on the low resolution image data developed in the memory 30, and the detected face information is displayed. Is output (# 10). If two or more faces are not detected by the face detection unit 40 (# 20a No branch), it is further checked whether the number of detected faces is one or not detected (# 50a), and if no detection is detected (# 50aNo branch), this flow is interrupted, and the density correction parameter 70 is not adjusted using the density characteristic of the face area in the density correction unit 70, but the density correction parameter using the density characteristic of the entire general image is adjusted. Adjustments are made. This routine is also interrupted when the number of detected faces is one (# 50a Yes branch), but the image information of the only detected face is transferred to the density correction unit 70 for density correction using the density characteristics of this face area. The parameter adjustment is performed by the density correction unit 70.
If there are a plurality of faces determined to be appropriate in the pre-selection routine (# 50 Yes branch), an ideal face selection routine by an ideal face selection unit 60B described later is entered to further adjust density correction parameters from the plurality of appropriate faces. An ideal face suitable for the image is selected, and image information of the ideal face is passed to the density correction unit 70. If there are two or more detected faces (# 20a Yes branch), the face detection information of these detected faces is passed to the ideal face selection unit 60B, and the face selection routine described in the first embodiment is executed. (# 60).

〔第3実施形態〕
本発明の第3の実施形態について説明する。この第3の実施形態は、顔検出を上述したような顔検出ユニット40を用いて自動的に行うのではなく、マウス25などのポインティングデバイスを用いて手動で行うことで、前述した第2の実施形態と異なっている。このため、ここでは、顔検出ユニット40は、前述した特許文献1(特開平6−59353号公報)で開示されているように、手動で検出された顔の位置や大きさなどのデータを含む顔検出情報を記憶する顔検出情報記憶部としてのみ機能する。顔検出情報記憶部から読み出された顔検出情報に基づいて、図8で示されたフローチャートのステップ#20a以下の処理ステップが実行される。
[Third Embodiment]
A third embodiment of the present invention will be described. In the third embodiment, the face detection is not automatically performed using the face detection unit 40 as described above, but manually performed using a pointing device such as the mouse 25, so that the second embodiment described above is performed. It is different from the embodiment. Therefore, here, the face detection unit 40 includes data such as the position and size of the manually detected face as disclosed in the above-mentioned Patent Document 1 (Japanese Patent Laid-Open No. 6-59353). It functions only as a face detection information storage unit that stores face detection information. Based on the face detection information read from the face detection information storage unit, the processing steps after step # 20a in the flowchart shown in FIG. 8 are executed.

上述した実施の形態では、プリントステーション1Bは、印画紙Pに対し、露光エンジンを備えたプリント露光部14で撮影画像の露光を行い、この露光後の印画紙Pを複数の現像処理する、いわゆる銀塩写真プリント方式を採用していたが、もちろん、本発明におけるプリントステーション1Bは、このような方式に限定されるわけではなく、例えば、フィルムや紙にインクを吐出して画像を形成するインクジェットプリント方式や感熱転写シートを用いた熱転写方式など、種々の写真プリント方式を採用することができる。   In the above-described embodiment, the print station 1B exposes a photographed image to the photographic paper P by the print exposure unit 14 having an exposure engine, and performs a plurality of development processes on the photographic paper P after the exposure. Although the silver salt photographic printing method was adopted, of course, the printing station 1B according to the present invention is not limited to such a method. For example, an ink jet that ejects ink onto a film or paper to form an image. Various photographic printing methods such as a printing method and a thermal transfer method using a thermal transfer sheet can be employed.

本発明は、撮影画像データから検出された顔から写真画像的に適したものだけをさらに選別する技術、特に撮影画像データから写真プリントを作成する写真プリント装置への顔領域濃度による濃度補正調整用組み込みモジュールとして広く利用することができる。   The present invention relates to a technique for further selecting only those suitable for photographic images from faces detected from photographed image data, and in particular for density correction adjustment by face region density to a photographic printing apparatus for creating a photographic print from photographed image data. It can be widely used as an embedded module.

本発明による顔選別技術を採用した写真プリント装置の外観図External view of photographic printing apparatus adopting face selection technology according to the present invention 写真プリント装置のプリントステーションの構成を模式的に示す模式図Schematic diagram schematically showing the configuration of the print station of the photo printing device 写真プリント装置のコントローラ内に構築される機能要素を説明する機能ブロック図Functional block diagram explaining the functional elements built in the controller of the photo printing device 顔検出情報評価手段の機能構成を示す機能ブロック図Functional block diagram showing the functional configuration of the face detection information evaluation means 顔検出情報評価の全体の流れを示すフローチャートFlow chart showing the overall flow of face detection information evaluation 前選別ルーチンを示すフローチャートFlow chart showing pre-sorting routine 理想顔選別ルーチンを示すフローチャートFlow chart showing ideal face selection routine 第2の実施形態における顔検出情報評価の全体の流れを示すフローチャートThe flowchart which shows the whole flow of face detection information evaluation in 2nd Embodiment.

符号の説明Explanation of symbols

30:メモリ
40:顔検出ユニット(顔検出情報記憶部)
50:画像処理ユニット
60:顔検出情報評価手段
60A:適正顔判別部
60B:理想顔選別部
61:肌色画素検出部
62:肌割合算出部
63:判別部
64:基準顔決定部
65:選別部
70:濃度補正部
30: Memory 40: Face detection unit (face detection information storage unit)
50: Image processing unit 60: Face detection information evaluation means 60A: Appropriate face discrimination unit 60B: Ideal face selection unit 61: Skin color pixel detection unit 62: Skin ratio calculation unit 63: Discrimination unit 64: Reference face determination unit 65: Selection unit 70: Density correction unit

Claims (11)

濃度補正に用いられる濃度特性曲線を決定するために重要な被写体としての理想顔を、入力された撮影画像データから検出された複数の顔の顔検出情報に基づいて選別する顔選別方法において、
前記顔検出情報に含まれている顔位置と顔サイズに基づいて求められた最適な理想顔を基準顔として決定し、前記基準顔から所定の画像特性乖離度内に存在する顔をさらなる理想顔として前記顔検出情報で規定される顔から選別することを特徴とする顔選別方法。
In a face selection method of selecting an ideal face as an important subject for determining a density characteristic curve used for density correction based on face detection information of a plurality of faces detected from input captured image data,
An optimum ideal face obtained based on the face position and face size included in the face detection information is determined as a reference face, and a face existing within a predetermined image characteristic deviation degree from the reference face is further determined as an ideal face A face selection method comprising: selecting a face defined by the face detection information.
前記画像特性乖離度は、前記基準顔と処理対象顔との間の顔位置と顔サイズと濃度の差分値をパラメータとして統計的に求められた式によって算出されることを特徴とする請求項1に記載の顔選別方法。   2. The image characteristic divergence degree is calculated by an equation that is statistically obtained using a difference value between a face position, a face size, and a density between the reference face and a processing target face as parameters. The face selection method described in 1. 前記顔検出情報には検出された顔に対する信頼度が含まれており、前記基準顔の決定の際には顔位置と顔サイズに加えて前記信頼度も考慮され、かつ前記信頼度は前記画像特性乖離度を求める式のパラメータにも加えられることを特徴とする請求項2に記載の顔選別方法。   The face detection information includes the reliability of the detected face, the reliability is taken into account in addition to the face position and the face size when determining the reference face, and the reliability is the image The face selection method according to claim 2, wherein the face selection method is also added to a parameter of an expression for obtaining a characteristic deviation degree. 前記入力撮影画像データからの顔検出は所定の顔検出アルゴリズムを用いて自動的に行われることを特徴とする請求項1〜3のいずれかに記載の顔選別方法。   The face selection method according to claim 1, wherein face detection from the input photographed image data is automatically performed using a predetermined face detection algorithm. 前記入力撮影画像データからの顔検出はモニタに入力撮影画像を見ながらオペレータによって行われることを特徴とする請求項1〜3のいずれかに記載の顔選別方法。   The face selection method according to claim 1, wherein face detection from the input photographed image data is performed by an operator while viewing the input photographed image on a monitor. 前記顔検出情報を参照して算出される顔画素の数に対する前記肌色画素の数の割合である肌割合に基づいて前選別され、前選別された顔から前記基準顔が決定されることを特徴とする請求項4又は5に記載の顔選別方法。   Pre-screening is performed based on a skin ratio that is a ratio of the number of skin color pixels to the number of face pixels calculated with reference to the face detection information, and the reference face is determined from the pre-selected face. The face selection method according to claim 4 or 5. 濃度補正に用いられる濃度特性曲線を決定するために重要な被写体としての理想顔を、入力された撮影画像データから検出された複数の顔の顔検出情報に基づいて選別するために、
前記顔検出情報に含まれている顔位置と顔サイズに基づいて求められた最適な理想顔を基準顔として決定する機能と、前記基準顔から所定の画像特性乖離度内に存在する顔をさらなる理想顔として前記顔検出情報で規定される顔から選別する機能とをコンピュータに実行させるプログラム。
In order to select an ideal face as an important subject for determining a density characteristic curve used for density correction based on face detection information of a plurality of faces detected from input captured image data,
A function of determining an ideal ideal face obtained based on the face position and face size included in the face detection information as a reference face, and a face existing within a predetermined image characteristic deviation from the reference face A program for causing a computer to execute a function of selecting a face specified by the face detection information as an ideal face.
入力された撮影画像データにおける顔を重要な被写体として濃度補正を行う画像処理装置において、
前記撮影画像データから検出された顔に関する顔検出情報を記憶する顔検出情報記憶部と、
前記顔検出情報に含まれている顔位置と顔サイズに基づいて求められた最適な理想顔を基準顔として決定する基準顔決定部と、
前記基準顔から所定の画像特性乖離度内に存在する顔をさらなる理想顔として前記顔検出情報で規定される顔から選別する選別部と、
前記選別部で選別された理想顔の画像情報に基づいて調整されるとともに前記撮影画像データを濃度補正する濃度補正部と、
から構成されることを特徴とする画像処理装置。
In an image processing apparatus that performs density correction using the face in the input captured image data as an important subject,
A face detection information storage unit for storing face detection information related to the face detected from the captured image data;
A reference face determination unit that determines an optimal ideal face obtained based on a face position and a face size included in the face detection information as a reference face;
A selection unit that selects a face existing within a predetermined image characteristic divergence from the reference face as a further ideal face from the face defined by the face detection information;
A density correction unit that is adjusted based on image information of the ideal face selected by the selection unit and corrects the density of the captured image data;
An image processing apparatus comprising:
前記基準顔決定部は、前記顔検出情報から読み出された顔位置:pとサイズ:sと信頼度:rをパラメータとして統計的に求められた評価式:Γ(p,s,r)を用いて得られた評価値に基づいて前記基準顔を決定することを特徴とする請求項8に記載の画像処理装置。   The reference face determination unit calculates an evaluation formula: Γ (p, s, r) statistically obtained using the face position: p, size: s, and reliability: r read from the face detection information as parameters. The image processing apparatus according to claim 8, wherein the reference face is determined based on an evaluation value obtained by using the image processing apparatus. 前記選別部は、前記顔検出情報から読み出された平均濃度:d、方向:v、顔位置:pに関する前記基準顔と処理対象顔との差分値Δd,Δv,Δpをパラメータとして統計的に求められた画像特性乖離決定式:G(Δd,Δv,Δp)を用いて理想顔を選別することを特徴とする請求項8に記載の画像処理装置。   The selecting unit statistically uses the difference values Δd, Δv, Δp between the reference face and the processing target face regarding the average density: d, direction: v, face position: p read from the face detection information as parameters. 9. The image processing apparatus according to claim 8, wherein the ideal face is selected using the obtained image characteristic deviation determination formula: G (Δd, Δv, Δp). 前記撮影画像データは高解像度データと低解像度データからなり、前記適正顔の判別には低解像度データが用いられ、この低解像度データに基づいて変更された前記補正パラメータを用いて前記濃度補正部は高解像度データを濃度補正することを特徴とする請求項8に記載の画像処理装置。   The captured image data is composed of high resolution data and low resolution data, and low resolution data is used to determine the appropriate face, and the density correction unit uses the correction parameter changed based on the low resolution data. The image processing apparatus according to claim 8, wherein the density of high-resolution data is corrected.
JP2003382522A 2003-11-12 2003-11-12 Face selection method for density correction and apparatus for carrying out this method Expired - Fee Related JP4441853B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003382522A JP4441853B2 (en) 2003-11-12 2003-11-12 Face selection method for density correction and apparatus for carrying out this method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003382522A JP4441853B2 (en) 2003-11-12 2003-11-12 Face selection method for density correction and apparatus for carrying out this method

Publications (2)

Publication Number Publication Date
JP2005148916A true JP2005148916A (en) 2005-06-09
JP4441853B2 JP4441853B2 (en) 2010-03-31

Family

ID=34691571

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003382522A Expired - Fee Related JP4441853B2 (en) 2003-11-12 2003-11-12 Face selection method for density correction and apparatus for carrying out this method

Country Status (1)

Country Link
JP (1) JP4441853B2 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101013504A (en) * 2006-01-11 2007-08-08 富士胶片株式会社 Image evaluation device, method and program
JP2007213559A (en) * 2006-01-11 2007-08-23 Fujifilm Corp Image evaluation device and method, and program
JP2008084047A (en) * 2006-09-28 2008-04-10 Fujifilm Corp Image evaluation device and method, and program
JP2008099038A (en) * 2006-10-12 2008-04-24 Nikon Corp Digital camera
JP2008234509A (en) * 2007-03-23 2008-10-02 Fujifilm Corp Image evaluation device, method and program
JP2015087949A (en) * 2013-10-30 2015-05-07 キヤノン株式会社 Image processor and control method thereof, program, and storage medium

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101013504A (en) * 2006-01-11 2007-08-08 富士胶片株式会社 Image evaluation device, method and program
JP2007213559A (en) * 2006-01-11 2007-08-23 Fujifilm Corp Image evaluation device and method, and program
JP2008084047A (en) * 2006-09-28 2008-04-10 Fujifilm Corp Image evaluation device and method, and program
JP4680161B2 (en) * 2006-09-28 2011-05-11 富士フイルム株式会社 Image evaluation apparatus and method, and program
US8090158B2 (en) 2006-09-28 2012-01-03 Fujifilm Corporation Image evaluation apparatus, method, and program
JP2008099038A (en) * 2006-10-12 2008-04-24 Nikon Corp Digital camera
JP2008234509A (en) * 2007-03-23 2008-10-02 Fujifilm Corp Image evaluation device, method and program
US8457365B2 (en) 2007-03-23 2013-06-04 Fujifilm Corporation Device, method and computer readable recording medium containing program for evaluating image
JP2015087949A (en) * 2013-10-30 2015-05-07 キヤノン株式会社 Image processor and control method thereof, program, and storage medium

Also Published As

Publication number Publication date
JP4441853B2 (en) 2010-03-31

Similar Documents

Publication Publication Date Title
US7298380B2 (en) Image processing method and apparatus for white eye correction
US7460707B2 (en) Image processing method and apparatus for red eye correction
JP4431949B2 (en) Red-eye correction method and apparatus for carrying out this method
US20050286793A1 (en) Photographic image processing method and equipment
JP4655210B2 (en) Density correction curve generation method and density correction curve generation module
JP2005148915A (en) Proper face discrimination method and apparatus for implementing the method
JP4441876B2 (en) Photographed image processing method, photographed image processing program, and photographed image processing apparatus
JP4441853B2 (en) Face selection method for density correction and apparatus for carrying out this method
JP2006107329A (en) Photographed image processor
JP4798446B2 (en) Photographed image correction method and photographed image correction module
JP2007249802A (en) Image processor and image processing method
JP2005159387A (en) Method of determining density characteristic curve and density correction management apparatus for executing this method
JP4793648B2 (en) Image correction unit and image correction program
JP4284604B2 (en) Contrast adjustment method and contrast adjustment apparatus for implementing the method
JP4731202B2 (en) Color correction processing method and color correction processing apparatus using the same
JP2006072743A (en) Catch light composition method and device
JP4655211B2 (en) Generation method, generation program and generation module of correction characteristics used for contrast correction
JP2006059162A (en) Tooth image correction method and device
JP2006074742A (en) Photographing scene correcting method, program, and photographing scene correction processing system implementing the method
JP2006146646A (en) Method and apparatus for processing photographic image
JP2008160704A (en) Density correction curve generation method and density correction curve generation module
JP2006072742A (en) Catch light composition method and device
JP2008153756A (en) Method and module for generating density correction curve
JP2006301675A (en) Image processor and image processing method
JP4831413B2 (en) Red-eye correction device and red-eye correction program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090723

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090917

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091217

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091230

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130122

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130122

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees