JP2006113751A - Geometric conversion circuit - Google Patents
Geometric conversion circuit Download PDFInfo
- Publication number
- JP2006113751A JP2006113751A JP2004299308A JP2004299308A JP2006113751A JP 2006113751 A JP2006113751 A JP 2006113751A JP 2004299308 A JP2004299308 A JP 2004299308A JP 2004299308 A JP2004299308 A JP 2004299308A JP 2006113751 A JP2006113751 A JP 2006113751A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- data
- pixel
- pixel data
- error
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000006243 chemical reaction Methods 0.000 title claims abstract description 72
- 238000003384 imaging method Methods 0.000 claims abstract description 37
- 230000009466 transformation Effects 0.000 claims description 45
- 230000007547 defect Effects 0.000 claims description 27
- 230000001131 transforming effect Effects 0.000 claims description 5
- 238000000034 method Methods 0.000 description 25
- 238000001514 detection method Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 230000008707 rearrangement Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000003705 background correction Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
Images
Landscapes
- Studio Devices (AREA)
- Image Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
Description
本発明は、カメラ等の撮像手段により取得された画像データを幾何変換する幾何変換回路に関する。 The present invention relates to a geometric transformation circuit that geometrically transforms image data acquired by an imaging unit such as a camera.
従来、CPU(Central Processing Unit;中央処理装置)の処理能力が限られた条件下でリアルタイムの(高速の)画像処理を行う方法として、画像処理機能の一部をCPUと別体の回路に持たせ、カメラ等の撮像手段が取得した画像データを該回路に入力し、該回路にて所定の画像処理を行った後でCPUに出力することにより、CPUのデータ処理の負担を軽減する技術が知られている。このような「CPUと別体の回路」の代表的な例としては、撮像手段により取得された画像データを幾何変換するための幾何変換回路が挙げられる。例えば、特許文献1や特許文献2に記載の如くである。
幾何変換は幾何補正とも呼ばれ、一般的にはカメラ等の撮像手段により取得された画像データが内包する幾何学的な歪みを補正する画像処理を指す。
ここで、画像データが内包する幾何学的な歪みとしては、(1)撮像手段に起因する内部歪みと、(2)プラットフォーム(撮像手段を保持する部分)や撮像の対象物に起因する外部歪み、が含まれる。内部歪みの代表的な例としては、撮像手段たるカメラのレンズ周縁部にて撮像された画像の歪みが挙げられる。
Geometric transformation is also called geometric correction, and generally refers to image processing for correcting geometric distortion included in image data acquired by an imaging means such as a camera.
Here, the geometric distortion included in the image data includes (1) internal distortion caused by the imaging means, and (2) external distortion caused by the platform (portion holding the imaging means) and the object to be imaged. , Is included. As a typical example of the internal distortion, there is distortion of an image picked up at the lens periphery of a camera as an image pickup means.
近年、カメラ等の撮像手段により取得した路面の画像データに基づいて走行車線や路上の障害物を認識し、該認識結果に基づいて自動車の自動運転や運転支援を行う技術が検討されている。
このような自動車の自動運転や運転支援に係る画像処理においては、部品点数の削減等の観点から、従来から自動車に搭載されているECU(Electric Control Unit)の中央処理装置(CPU)に画像処理機能を付加するという実施形態が一般的である。
しかし、当該画像処理をリアルタイムで行うためにはCPUに大きな処理能力が求められるにも関わらず、当該画像処理のために割くことができる処理能力が限られるという問題がある。
そこで、ECUに上記の如きCPUと別体の幾何変換回路を具備することが検討されている。
In recent years, a technique for recognizing a traveling lane or an obstacle on the road based on road surface image data acquired by an imaging unit such as a camera, and performing automatic driving or driving assistance based on the recognition result has been studied.
In such image processing related to automatic driving and driving assistance of an automobile, image processing is performed by a central processing unit (CPU) of an ECU (Electric Control Unit) conventionally mounted on the automobile from the viewpoint of reducing the number of parts. An embodiment in which a function is added is common.
However, in order to perform the image processing in real time, there is a problem that the processing capability that can be allocated for the image processing is limited, although the CPU is required to have a large processing capability.
Therefore, it has been studied to provide the ECU with a geometric conversion circuit that is separate from the CPU as described above.
通常、CCDカメラやCMOSカメラは、固体撮像素子が取得したアナログ信号のノイズ成分の除去、利得制御、ニー補正、プリガンマ補正等の種々の処理を施すアナログ信号処理部と、該アナログ信号処理部により補正が施されたアナログ信号をデジタル信号に変換するアナログ/デジタル変換回路と、該変換されたデジタル信号にガンマ補正、白/黒レベルバランス処理、シェーディング補正、画素欠陥補正等の種々の処理を施すデジタル信号処理部と、を具備している。
従って、幾何変換回路が撮像手段たるCCDカメラやCMOSカメラから取得する画像データは、通常は、上記アナログ信号処理部、アナログ/デジタル変換回路、デジタル信号処理部により種々の処理が施された後の各画素に係るデジタル信号の集合体を指す。
In general, a CCD camera or a CMOS camera includes an analog signal processing unit that performs various processes such as noise component removal, gain control, knee correction, and pre-gamma correction of an analog signal acquired by a solid-state imaging device, and the analog signal processing unit. An analog / digital conversion circuit that converts the corrected analog signal into a digital signal, and performs various processes such as gamma correction, white / black level balance processing, shading correction, and pixel defect correction on the converted digital signal. And a digital signal processing unit.
Therefore, the image data acquired from the CCD camera or CMOS camera, which is the imaging means by the geometric conversion circuit, is usually subjected to various processing by the analog signal processing unit, analog / digital conversion circuit, and digital signal processing unit. A collection of digital signals related to each pixel.
上記デジタル信号処理部にて施される処理のうち、画素欠陥補正は、画素欠陥に対応する画素の画素データを補正する処理である。画素欠陥補正の具体例としては、画素欠陥に対応する画素に隣接する複数の画素に係る画素データに基づいて画素欠陥に対応する画素の画素データ(色の濃淡等)を決定する方法が挙げられる。
ここで、画素欠陥とは、CCDカメラやCMOSカメラの固体撮像素子に起因する画素単位の欠陥を指し、画素欠陥の例としては白欠陥、黒欠陥等が挙げられる。
Among the processes performed by the digital signal processing unit, pixel defect correction is a process of correcting pixel data of pixels corresponding to pixel defects. As a specific example of pixel defect correction, there is a method of determining pixel data (color shading or the like) of a pixel corresponding to a pixel defect based on pixel data relating to a plurality of pixels adjacent to the pixel corresponding to the pixel defect. .
Here, the pixel defect means a pixel unit defect caused by a solid-state imaging device of a CCD camera or a CMOS camera, and examples of the pixel defect include a white defect and a black defect.
このような画素欠陥補正は、画像データを表示画面に画像として表示した際の美観という観点からは必要不可欠なものであるが、当該補正後の画像データに基づいて自動車の自動運転や運転支援を行う場合には問題がある。
すなわち、「画素欠陥補正により補正された画素データ」は、厳密に言えば固体撮像素子により取得された「真の」画素データではないため、これに基づいて自動車の自動運転や運転支援に係る判断を行うことは場合によっては不適切と考えられる。
従って、自動車の自動運転や運転支援に係る判断を行う場合には、該画像データを構成する各画素データのうち、「画素欠陥補正により補正された画素データ」を除いた残りの画素データに基づいて判断することが、画像処理後のデータに基づく判断の信頼性の向上という観点から見て望ましい。
同様に、カメラ等の撮像手段と幾何変換回路との間の接続配線等に何らかのトラブル(ノイズ、配線不良等)が生じ、幾何変換回路が画素データの一部を適正に取得することができなかった場合にも、当該適正に画素データが取得できなかった部分を除いた残りの画素データに基づいて判断することが、画像処理後のデータに基づく判断の信頼性の向上という観点から見て望ましい。
Such pixel defect correction is indispensable from the viewpoint of aesthetics when image data is displayed as an image on a display screen. However, automatic driving and driving assistance of a vehicle are performed based on the corrected image data. There is a problem if you do.
In other words, “pixel data corrected by pixel defect correction” is not strictly “true” pixel data acquired by a solid-state imaging device, and therefore, determinations relating to automatic driving and driving assistance of a car are based on this. It is considered inappropriate in some cases.
Therefore, when making a determination relating to automatic driving or driving assistance of a car, based on the remaining pixel data excluding “pixel data corrected by pixel defect correction” among the pixel data constituting the image data. This determination is desirable from the viewpoint of improving the reliability of the determination based on the data after image processing.
Similarly, some trouble (noise, poor wiring, etc.) occurs in the connection wiring between the imaging means such as a camera and the geometric conversion circuit, and the geometric conversion circuit cannot properly acquire part of the pixel data. In this case, it is desirable from the viewpoint of improving the reliability of the determination based on the data after the image processing to determine based on the remaining pixel data excluding the portion where the pixel data could not be properly acquired. .
しかし、従来の幾何変換回路から出力された画像データには、該画像データを構成する各画素データについて、「画素欠陥補正により補正された画素データであるか否か」あるいは、「適正に取得された画素データであるか否か」という情報は付加されておらず、そのままでは、画像処理部(CPU)にて「画素欠陥補正により補正された画素データ」および「適正に取得されなかった画素データ」を除いた残りの画素データに基づいて判断することが不可能である。 However, the image data output from the conventional geometric transformation circuit includes “whether or not the pixel data is corrected by pixel defect correction” or “appropriately acquired” for each pixel data constituting the image data. The information “whether or not it is pixel data” is not added, and as it is, “pixel data corrected by pixel defect correction” and “pixel data not properly acquired” by the image processing unit (CPU). It is impossible to make a determination based on the remaining pixel data excluding “”.
また、撮像手段から各画素データについて、画素欠陥補正により補正された画素データであるか否かという情報、および、撮像手段から適正に取得された画素データであるか否かという情報、を取得する方法も考えられるが、画像処理部(CPU)が取得する画像データは幾何変換回路により幾何変換された後の画像データであるため、幾何変換後の画像データを構成する各画素データと、画素欠陥補正により補正された画素データであるか否かという情報および撮像手段から適正に取得された画素データであるか否かという情報と、を対応させる処理を行う必要が新たに生じ、画像処理部(CPU)の処理の負担を軽減するという本来の目的に反する結果となる。 Further, information about whether or not each pixel data is pixel data corrected by pixel defect correction and information about whether or not the pixel data is properly acquired from the imaging unit is acquired from the imaging unit. Although a method is also conceivable, since the image data acquired by the image processing unit (CPU) is image data after geometric transformation by the geometric transformation circuit, each pixel data constituting the image data after geometric transformation, and pixel defects It is necessary to newly perform processing for associating the information on whether or not the pixel data is corrected by the correction with the information on whether or not the pixel data is properly acquired from the imaging unit, and the image processing unit ( The result is contrary to the original purpose of reducing the processing load on the CPU.
本発明は以上の如き状況に鑑み、幾何変換後の画像データを構成する各画素データを、(1)画素欠陥に係る画素データであるか否か、および、撮像手段から適正に取得された画素データであるか否か、を容易に識別可能な可能な状態、または、(2)画素欠陥に係る画素データおよび不適正に取得された画素データが含まれる画像データのラインまたは列を容易に識別可能な状態、で画像処理部に出力し、画像処理部の負担を軽減しつつ、画像処理後のデータに基づく判断の信頼性を向上させることを可能とする幾何変換回路を提供するものである。 In view of the circumstances as described above, the present invention considers whether each pixel data constituting the image data after geometric transformation is (1) pixel data relating to a pixel defect, and a pixel appropriately acquired from the imaging means A state in which it is possible to easily identify whether or not it is data, or (2) a line or column of image data including pixel data relating to a pixel defect and improperly acquired pixel data is easily identified Provided is a geometric transformation circuit that can output to an image processing unit in a possible state and improve the reliability of judgment based on data after image processing while reducing the burden on the image processing unit. .
本発明の解決しようとする課題は以上の如くであり、次にこの課題を解決するための手段を説明する。 The problem to be solved by the present invention is as described above. Next, means for solving the problem will be described.
即ち、請求項1においては、
撮像手段から入力された画像データを幾何変換し、幾何変換後の画像データを画像処理部に出力する幾何変換回路において、
画像データを構成する複数の画素データと、各画素データに対応するエラー情報と、を合わせて格納する第一格納手段と、
画像データを幾何変換し、変換画像データを生成する幾何変換手段と、
各変換画素データに対応する各画素データのエラー情報をもとに、各変換画素データのエラーの有無を判定するエラー判定手段と、
変換画像データと、各変換画素データに対応するエラー判定結果と、を合わせて格納する第二格納手段と、
を具備するものである。
That is, in
In the geometric transformation circuit that geometrically transforms the image data input from the imaging means and outputs the image data after geometric transformation to the image processing unit,
First storage means for storing a plurality of pixel data constituting image data and error information corresponding to each pixel data;
Geometric transformation means for geometrically transforming image data and generating transformed image data;
Based on error information of each pixel data corresponding to each conversion pixel data, an error determination means for determining the presence or absence of an error in each conversion pixel data;
Second storage means for storing the converted image data and the error determination result corresponding to each converted pixel data;
It comprises.
請求項2においては、
撮像手段から入力された画像データを幾何変換し、幾何変換後の画像データを画像処理部に出力する幾何変換回路において、
画像データを構成する複数の画素データと、各画素データに対応するエラー情報と、を合わせて格納する第一格納手段と、
画像データを幾何変換し、変換画像データを生成する幾何変換手段と、
各変換画素データに対応する各画素データのエラー情報をもとに、各変換画素データのエラーの有無を判定するエラー判定手段と、
エラー判定手段によりエラーが有ると判定された変換画素データを含む変換画像データのラインまたは列のいずれか一方または両方を識別するためのエラー判定データを格納する第二格納手段と、
を具備するものである。
In
In the geometric transformation circuit that geometrically transforms the image data input from the imaging means and outputs the image data after geometric transformation to the image processing unit,
First storage means for storing a plurality of pixel data constituting image data and error information corresponding to each pixel data;
Geometric transformation means for geometrically transforming image data and generating transformed image data;
Based on error information of each pixel data corresponding to each conversion pixel data, an error determination means for determining the presence or absence of an error in each conversion pixel data;
Second storage means for storing error determination data for identifying either or both of a line or a column of converted image data including converted pixel data determined to have an error by the error determination means;
It comprises.
請求項3においては、画素欠陥の発生の有無、撮像手段から幾何変換回路への不適正な画像データの出力、スミアの発生の有無、のうち少なくとも一つが前記エラー情報に含まれるものである。 According to a third aspect of the present invention, at least one of presence / absence of occurrence of a pixel defect, output of inappropriate image data from the imaging means to the geometric conversion circuit, and presence / absence of smear is included in the error information.
本発明の効果として、以下に示すような効果を奏する。 As effects of the present invention, the following effects can be obtained.
請求項1においては、画像処理部の画像処理の負担を軽減しつつ、画像処理後のデータに基づく判断の信頼性を向上させることが可能である。 According to the first aspect, it is possible to improve the reliability of the determination based on the data after the image processing while reducing the image processing load of the image processing unit.
請求項2においては、画像処理部の画像処理の負担を軽減しつつ、画像処理後のデータに基づく判断の信頼性を向上させることが可能である。 According to the second aspect, it is possible to improve the reliability of the determination based on the data after the image processing while reducing the image processing load of the image processing unit.
請求項3においては、画像処理部の画像処理の負担を軽減しつつ、画像処理後のデータに基づく判断の信頼性を向上させることが可能である。 According to the third aspect, it is possible to improve the reliability of the determination based on the data after the image processing while reducing the image processing load of the image processing unit.
以下では、図1を用いて本発明の幾何変換回路の実施の一形態である幾何変換回路1を説明する。
幾何変換回路1は、撮像手段100から入力された画像データを幾何変換し、幾何変換後の画像データを画像処理部200に出力するものである。
Below, the
The
撮像手段100は、画像データを幾何変換回路1に出力するものであり、本実施例ではCCDカメラからなる。該画像データを構成する複数の画素データは、それぞれ8ビットのデジタル信号であり、当該画素の輝度値を示すものである。
ここで、「画像データ」は、撮像手段100が具備する複数の固体撮像素子により取得されたアナログ信号に種々の処理を施して生成したデジタル信号たる画素データの集合体である。
なお、撮像手段100が幾何変換手段1に出力する画像データを構成する複数の画素データは、8ビットのデジタル信号に限定されず、16ビットのデジタル信号や他のデジタル信号でも良い。
The imaging means 100 outputs image data to the
Here, “image data” is a collection of pixel data as digital signals generated by performing various processes on analog signals acquired by a plurality of solid-state imaging elements included in the
The plurality of pixel data constituting the image data output from the
撮像手段100は、幾何変換回路1に複数の画素データからなる画像データに加えて、該画像データを構成する各画素データに対応するエラー情報も出力する。
ここで、「エラー情報」とは、各画素データの信頼性(画像処理部200が行う判断に供することの妥当性)に関する情報であり、本実施例の場合、(A)画素欠陥の発生の有無(各画素データが画素欠陥に係るものであるか否か)に関する情報、(B)適正に取得された画素データであるか否かに関する情報、(C)スミアの発生の有無(各画素データがスミアに係るものであるか否か)に関する情報、が含まれる。
ここで、「スミア」とは、CCDカメラにおいて、逆光等で高輝度のスポット光が入った場合に、画像の縦(列)方向に生じる白い帯状のノイズ(ゴースト)を指す。
以後、(A)および(B)に係る情報を合わせて「画素エラー情報」、(C)に係る情報を「スミアエラー情報」という。
In addition to image data composed of a plurality of pixel data, the imaging means 100 also outputs error information corresponding to each pixel data constituting the image data to the
Here, the “error information” is information relating to the reliability of each pixel data (relevance to be used for the determination performed by the image processing unit 200). In the case of this embodiment, (A) occurrence of a pixel defect. Information on presence / absence (whether each pixel data is related to a pixel defect), (B) Information on whether the pixel data is properly acquired, (C) Presence / absence of smear (each pixel data Information regarding whether or not the smear is related to smear.
Here, “smear” refers to white band-like noise (ghost) that occurs in the vertical (column) direction of an image when a high-brightness spotlight enters due to backlight or the like in a CCD camera.
Hereinafter, the information related to (A) and (B) is collectively referred to as “pixel error information”, and the information related to (C) is referred to as “smear error information”.
撮像手段100は本実施例の如くCCDカメラに限定されるものではなく、画像を取得可能であれば他の実施形態でも良い。撮像手段100の他の実施形態の例としてはCMOSカメラやその他のカメラが挙げられる。
The imaging means 100 is not limited to a CCD camera as in this embodiment, and may be another embodiment as long as an image can be acquired. Examples of other embodiments of the
画像処理部200は、幾何変換回路1から変換画像データを取得し、該変換画像データに種々の画像処理を施し、場合によっては該画像処理が施された変換画像データに基づいて種々の判断を行うものである。画像処理部200の実施形態の例としてはCPUが挙げられる。本実施例の場合、画像処理部200は自動車のECUのCPUであり、幾何変換回路1から取得した変換画像データに基づいて路面の車線や障害物を認識し、その検出結果情報を車両制御ECUへ伝達する。
The
図2に示す如く、幾何変換回路1は、主に画素エラー検出手段2、第一格納手段3、幾何変換手段4、エラー判定手段5、第二格納手段6等で構成される。
As shown in FIG. 2, the
画素エラー検出手段2は、撮像手段100から入力されるエラー情報のうち、画素エラー情報を取得し、該情報に基づいて画素エラー信号(当該画素に画素エラーが発生していることを示す信号)を出力するものである。
なお、撮像手段100から画素エラー信号を直接出力可能な場合には、画素エラー検出手段2を省略することも可能である。
The pixel
If the pixel error signal can be directly output from the
第一格納手段3は、撮像手段100から入力された画像データを構成する複数の画素データと、各画素データに対応するエラー情報(画素エラー検出手段2から取得される画素エラー信号および撮像手段100から取得されるスミア信号(スミアが発生していることを示す信号))と、を合わせて格納するものである。
ここで「合わせて格納する」とは、画素データと、各画素データに対応するエラー情報との1対1の対応関係を保持しつつ、一時的に記憶することを意味する。
本実施例における第一格納手段3に格納される画素データとエラー情報の実施形態は、図2に示す如く、8ビットの画素データと、2ビットのエラー情報とを順に配列したものである。2ビットのエラー情報の内訳は、画素エラー情報で1ビット、スミアエラー情報で1ビットである。
第一格納手段3に格納された画素データおよび各画素データに対応するエラー情報は、後述の幾何変換手段4に出力された後、順次消去される。従って、第一格納手段3の記憶容量を極端に大きくせずとも良く、製造コストを抑えることが可能である。
The first storage unit 3 includes a plurality of pixel data constituting the image data input from the
Here, “store together” means that the pixel data is temporarily stored while maintaining a one-to-one correspondence between the pixel data and error information corresponding to each pixel data.
In the embodiment of the pixel data and error information stored in the first storage means 3 in this embodiment, as shown in FIG. 2, 8-bit pixel data and 2-bit error information are arranged in order. The breakdown of 2-bit error information is 1 bit for pixel error information and 1 bit for smear error information.
The pixel data stored in the first storage means 3 and the error information corresponding to each pixel data are output to the geometric conversion means 4 described later, and then are sequentially deleted. Therefore, the storage capacity of the first storage means 3 does not need to be extremely increased, and the manufacturing cost can be reduced.
本実施例は、第一格納手段3としてFIFOメモリを用いている。これは、FIFOメモリに入力される順序をアドレス(画素データの画像データ上の位置)と対応させることにより、第一格納手段3の記憶容量を必要最小限に抑えることが可能であるためである。
なお、FIFOメモリよりも相対的に記憶容量を要するが、第一格納手段3として、DRAMやFRAM等のメモリやその他の記憶媒体等を用いることも可能である。
In this embodiment, a FIFO memory is used as the first storage means 3. This is because the storage capacity of the first storage means 3 can be minimized by associating the order of input to the FIFO memory with addresses (positions of pixel data on the image data). .
Although the storage capacity is relatively larger than that of the FIFO memory, a memory such as a DRAM or FRAM, other storage media, or the like can be used as the first storage unit 3.
幾何変換手段4は第一格納手段3から取得した画像データを幾何変換し、変換画像データを生成するものである。
より具体的には、幾何変換手段4は第一格納手段3から取得した画像データを構成する複数の画素データを幾何変換し、変換画像データを構成する複数の変換画素データを生成する。
ここで、「幾何変換」とは、幾何補正とも呼ばれ、一般的にはカメラ等の撮像手段により取得された画像データが内包する幾何学的な歪みを補正する画像処理を指す。
幾何変換(補正)は、より具体的には、(a)幾何補正関数の未知係数の決定、(b)画素の再配列、という過程を経て行われる。
The
More specifically, the geometric transformation means 4 geometrically transforms a plurality of pixel data constituting the image data acquired from the first storage means 3, and generates a plurality of transformed pixel data constituting the transformed image data.
Here, “geometric transformation” is also called geometric correction, and generally refers to image processing for correcting geometric distortion included in image data acquired by an imaging means such as a camera.
More specifically, the geometric transformation (correction) is performed through a process of (a) determination of an unknown coefficient of a geometric correction function and (b) rearrangement of pixels.
幾何補正関数の具体例としては高次多項式変換に代表される非系統的補正等が挙げられるが、幾何変換回路1の用途に応じて適宜選択することが望ましい。
Specific examples of the geometric correction function include non-systematic correction typified by high-order polynomial transformation, and it is desirable to select appropriately according to the application of the
また、画素の再配列方法としては、最近隣(Nearest Neighbor)法、共一次(Bi−Linear)法、三次畳み込み(Cubic Convolution)法、等が挙げられる。
最近隣法は、近傍の4点の格子点のうち、最もEuclid距離が短い(最も近い)格子点の画素の輝度値(画素データ)で置き換える方法である。
共一次法は、近傍の4点の格子点の画素の輝度値から比例計算により非格子点画素の輝度値を推定する方法である。
三次畳み込み法は近傍の16点の格子点の画素の輝度値から、畳み込みにより非格子点画素の輝度値を推定する方法である。
本実施例は共一次法により幾何変換後の画素データたる変換画素データを生成しているが、幾何変換回路1の用途に応じて画素の再配列方法を適宜選択することが望ましい。
Examples of the pixel rearrangement method include a nearest neighbor method, a bi-linear method, a cubic convolution method, and the like.
The nearest neighbor method is a method of replacing the luminance value (pixel data) of the pixel of the grid point with the shortest (closest) Euclid distance among the four neighboring grid points.
The bilinear method is a method for estimating the luminance value of a non-grid pixel by proportional calculation from the luminance values of pixels at four neighboring grid points.
The cubic convolution method is a method of estimating luminance values of non-grid pixels by convolution from luminance values of pixels at 16 neighboring grid points.
In this embodiment, converted pixel data, which is pixel data after geometric transformation, is generated by a bilinear method, but it is desirable to appropriately select a pixel rearrangement method according to the application of the
エラー判定手段5は、第一格納手段3から取得した各変換画素データに対応する各画素データのエラー情報をもとに、各変換画素データのエラーの有無を判定するものである。
ここで、「変換画素データのエラー」は、幾何変換後の各画素について、当該画素に対応する変換画素データを画像処理部200が行う判断に供することの妥当性を示すものであり、ちょうど、幾何変換前の各画素の画素データに対応するエラー情報に相当するものである。
The
Here, “error of converted pixel data” indicates the validity of the
本実施例における幾何変換後の各画素の輝度値たる変換画素データは、前述の如く共一次法により再配列されて生成されるため、当該変換画素データの変換画素データのエラーの有無についても近傍の4点の格子点に対応する幾何変換前の画素データに対応するエラー情報に基づいて判定される。 Since the converted pixel data, which is the luminance value of each pixel after the geometric conversion in this embodiment, is generated by being rearranged by the bilinear method as described above, whether there is an error in the converted pixel data of the converted pixel data is also close. It is determined based on error information corresponding to pixel data before geometric transformation corresponding to the four grid points.
すなわち、本実施例のエラー判定手段5は、近傍の4点の格子点に対応する幾何変換前の画素データに対応するエラー情報のうち、画素欠陥の発生が2点以上で起こっている場合には、当該画素に対応する変換画素データのエラーが有ると判定する。
また、エラー判定手段5は、近傍の4点の格子点に対応する幾何変換前の画素データに対応するエラー情報のうち、スミアの発生が2点以上で起こっている場合には、当該画素に対応する変換画素データのエラーが有ると判定する。
さらに、エラー判定手段5は、近傍の4点の格子点に対応する幾何変換前の画素データに対応するエラー情報のうち、画素欠陥の発生が1点で起こっている場合でも、スミアの発生が1点で起こっていれば、当該画素に対応する変換画素データのエラーが有ると判定する。
That is, the error determination means 5 of the present embodiment performs the case where pixel defects occur at two or more points out of error information corresponding to pixel data before geometric transformation corresponding to four neighboring grid points. Determines that there is an error in the converted pixel data corresponding to the pixel.
In addition, the
Further, the
第二格納手段6は、エラー判定手段5から取得した変換画像データと、該変換画像データを構成する各変換画素データに対応する判定結果と、を合わせて格納するものである。
ここで、「各変換画素データに対応する判定結果」とは、エラー判定手段5により判定された各変換画素データのエラーの有無に関する情報を指す。
また、「合わせて格納する」とは、変換画素データと、各変換画素データに対応する判定結果との1対1の対応関係を保持しつつ、一時的に記憶することを意味する。
第二格納手段6に格納された変換画素データおよび各変換画素データに対応する判定結果は、画像処理部200に出力された後、順次消去される。従って、第一格納手段3の記憶容量を極端に大きくせずとも良く、製造コストを抑えることが可能である。
The
Here, the “determination result corresponding to each conversion pixel data” refers to information regarding the presence or absence of an error in each conversion pixel data determined by the error determination means 5.
Further, “store together” means that the converted pixel data is temporarily stored while maintaining a one-to-one correspondence between the converted pixel data and the determination result corresponding to each converted pixel data.
The converted pixel data stored in the second storage means 6 and the determination result corresponding to each converted pixel data are output to the
本実施例では、第二格納手段6から画像処理部200に変換画像データおよびエラー判定結果またはエラー判定データを出力するメインの配線の他に、予備の配線(図1中の点線で示す)が設けられている。該予備の配線は、変換画像データにエラーが有る場合に、第二格納手段6が変換画像データおよびエラー判定結果またはエラー判定データを格納した時点で第二格納手段6から画像処理部200に信号を出力する。
このように構成することにより、画像処理部200は、第二格納手段6から出力されて来る変換画像データについて、予めエラーの有無を認識することが可能である。
In this embodiment, in addition to the main wiring for outputting the converted image data and the error determination result or the error determination data from the
With this configuration, the
なお、本実施例では、第二変換手段6が変換画像データをエラー判定手段5から取得する構成としたが、第二変換手段6が変換画像データを幾何変換手段4から取得する構成としても良い。
また、本実施例では幾何変換手段4、エラー判定手段5および第二格納手段6と略同様の機能を同一の半導体チップ(例えば、小型のCPU)上に形成する構成としたが、別体の半導体チップ上に形成しても良い。
In the present embodiment, the
In the present embodiment, the same function as that of the
以上の如く、本発明の幾何変換回路の実施の一形態である幾何変換回路1は、
撮像手段100から入力された画像データを幾何変換し、幾何変換後の画像データを画像処理部に出力する幾何変換回路であって、
画像データを構成する複数の画素データと、各画素データに対応するエラー情報と、を合わせて格納する第一格納手段3と、
画像データを幾何変換し、変換画像データを生成する幾何変換手段4と、
各変換画素データに対応する各画素データのエラー情報をもとに、各変換画素データのエラーの有無を判定するエラー判定手段5と、
変換画像データと、各変換画素データに対応する判定結果と、を合わせて格納する第二格納手段6と、
を具備するものである。
As described above, the
A geometric transformation circuit that geometrically transforms image data input from the
First storage means 3 for storing together a plurality of pixel data constituting image data and error information corresponding to each pixel data;
Geometric transformation means 4 for geometrically transforming image data and generating transformed image data;
Based on error information of each pixel data corresponding to each conversion pixel data, error determination means 5 for determining the presence or absence of an error in each conversion pixel data;
Second storage means 6 for storing the converted image data and the determination result corresponding to each converted pixel data together;
It comprises.
このように構成することにより、幾何変換後の画像データたる変換画像データと、該変換画像データを構成する各変換画素データに対応する判定結果(画像処理部200が行う判断に供することの妥当性)に係る情報と、を合わせた状態で画像処理部に出力することが可能であり、画像処理部200の画像処理の負担を軽減しつつ、画像処理後のデータに基づく判断の信頼性を向上させることが可能である。
また、画像処理部200は変換画像データと各変換画素データに対応する判定結果とを合わせたものを幾何変換回路1から直接取得するため、リアルタイム性が確保される。
With this configuration, the converted image data that is the image data after the geometric conversion and the determination result corresponding to each converted pixel data that constitutes the converted image data (the validity of the determination performed by the image processing unit 200) ) Can be output to the image processing unit in a combined state, and the reliability of the determination based on the data after the image processing is improved while reducing the image processing load of the
In addition, since the
以下では、本発明に係る幾何変換回路の別実施例たる幾何変換回路21について説明する。
図11に示す如く、幾何変換回路21は、主に画素エラー検出手段22、第一格納手段23、幾何変換手段24、エラー判定手段25、第二格納手段26等で構成される。
このうち、画素エラー検出手段22、第一格納手段23、幾何変換手段24、エラー判定手段25については、前述の幾何変換回路1における画素エラー検出手段2、第一格納手段3、幾何変換手段4、エラー判定手段5と略同じ構成である。
Hereinafter, a
As shown in FIG. 11, the
Among these, the pixel
幾何変換回路21が幾何変換回路1と異なる点は、第二格納手段26の構成である。すなわち、第二格納手段26は、エラー判定手段25によりエラーが有ると判定された変換画素データを含む変換画像データの行または列のいずれか一方または両方を識別するためのエラー判定データを格納するものである。
図3に示す如く、本実施例のエラー判定データは、行エラー判定データ31と、列エラー判定データ32の二つからなる。
行エラー判定データ31は、変換画像データに基づいて生成された画像において、エラー判定手段25によりエラーが有ると判定された変換画素データを含む行を識別するものである。図4に示す如く、行エラー判定データ31は、変換画像データに基づいて生成された画像の一行を構成する画素数と同数のビット数(本実施例の場合、640ビット)からなるデジタル情報として、変換画像データとともに画像処理部200に出力される。
列エラー判定データ32は、変換画像データに基づいて生成された画像において、エラー判定手段25によりエラーが有ると判定された変換画素データを含む列を識別するものである。図4に示す如く、列エラー判定データ32は、変換画像データに基づいて生成された画像の一列を構成する画素数と同数のビット数(本実施例の場合、240ビット)からなるデジタル情報として、変換画像データとともに画像処理部200に出力される。
The difference between the
As shown in FIG. 3, the error determination data of the present embodiment is composed of two, row
The row
The column
このように構成することは、以下の如き利点を有する。 Such a configuration has the following advantages.
すなわち、変換画素データに基づいて生成された画像における画素エラー(画素欠陥または不適正な画素データの取得)の発生箇所は、変換画像データに基づいて生成された画像の行に沿って帯状に発生し易い傾向がある。
そして、ある画素に係る変換画素データに画素エラーが発生している旨の画素エラー情報が付加されている場合には、幾何変換回路1における画像処理部200は、当該画素と同じ行に含まれる画素の変換画素データを全て除外した上で画像処理を行い、該画像処理後の画像データに基づいて自動運転や運転支援に係る判断を行う。
従って、幾何変換回路21(より厳密には、第二格納手段26)から画像処理部200に出力される変換画像データに、当該変換画像データに基づいて生成される画像の行のいずれかの画素に画素エラーが発生していることを示す情報、すなわち行エラー判定データ31を付加することにより、画像処理部200は該行エラー判定データ31に基づいて、画素エラーが発生している旨の画素エラー情報が付加されている画素と同じ行に含まれる画素の変換画素データを全て除外するという画像処理を容易に行うことが可能である。
しかも、各変換画素データにエラー判定結果を付加する場合よりも、幾何変換回路21(より厳密には、第二格納手段26)から画像処理部200に出力されるデータの容量を更に小さくすることができ、画像処理部200の画像処理の負担を軽減しつつ、画像処理後のデータに基づく判断の信頼性を向上させることが可能である。
That is, the occurrence of pixel errors (acquisition of pixel defects or inappropriate pixel data) in the image generated based on the converted pixel data occurs in a band shape along the rows of the image generated based on the converted image data. It tends to be easy to do.
When pixel error information indicating that a pixel error has occurred is added to the converted pixel data relating to a certain pixel, the
Therefore, any pixel in the row of the image generated based on the converted image data is converted into the converted image data output from the geometric conversion circuit 21 (more precisely, the second storage unit 26) to the
In addition, the capacity of data output from the geometric conversion circuit 21 (more precisely, the second storage unit 26) to the
同様に、変換画素データに基づいて生成された画像におけるスミアの発生箇所は、変換画像データに基づいて生成された画像の列に沿って帯状に発生する傾向がある。
そして、ある画素に係る変換画素データにスミアが発生している旨のスミアエラー情報が付加されている場合には、幾何変換回路1における画像処理部200は、当該画素と同じ列に含まれる画素の変換画素データを全て除外した上で画像処理を行い、該画像処理後の画像データに基づいて自動運転や運転支援に係る情報を車両制御ECUへ伝達する。
従って、幾何変換回路21(より厳密には、第二格納手段26)から画像処理部200に出力される変換画像データに、当該変換画像データに基づいて生成される画像の列のいずれかの画素にスミアエラーが発生していることを示す情報、すなわち列エラー判定データ32を付加することにより、画像処理部200は該列エラー判定データ32に基づいて、スミアが発生している旨のスミアエラー情報が付加されている画素と同じ列に含まれる画素の変換画素データを全て除外するという画像処理を容易に行うことが可能である。
しかも、各変換画素データにエラー判定結果を付加する場合よりも、幾何変換回路21(より厳密には、第二格納手段26)から画像処理部200に出力されるデータの容量を更に小さくすることができ、画像処理部200の画像処理の負担を軽減しつつ、画像処理後のデータに基づく判断の信頼性を向上させることが可能である。
Similarly, smear occurrence portions in an image generated based on the converted pixel data tend to occur in a band shape along the row of images generated based on the converted image data.
When smear error information indicating that smear has occurred is added to the converted pixel data relating to a pixel, the
Therefore, any pixel in a column of an image generated based on the converted image data is added to the converted image data output from the geometric conversion circuit 21 (more precisely, the second storage unit 26) to the
In addition, the capacity of data output from the geometric conversion circuit 21 (more precisely, the second storage unit 26) to the
また、画像処理部200は変換画像データとエラー判定データとを合わせたものを幾何変換回路21から直接取得するため、リアルタイム性が確保される。
In addition, since the
1 幾何変換回路
3 第一格納手段
4 幾何変換手段
5 エラー判定手段
6 第二格納手段
DESCRIPTION OF
Claims (3)
画像データを構成する複数の画素データと、各画素データに対応するエラー情報と、を合わせて格納する第一格納手段と、
画像データを幾何変換し、変換画像データを生成する幾何変換手段と、
各変換画素データに対応する各画素データのエラー情報をもとに、各変換画素データのエラーの有無を判定するエラー判定手段と、
変換画像データと、各変換画素データに対応するエラー判定結果と、を合わせて格納する第二格納手段と、
を具備することを特徴とする幾何変換回路。 In the geometric transformation circuit that geometrically transforms the image data input from the imaging means and outputs the image data after geometric transformation to the image processing unit,
First storage means for storing a plurality of pixel data constituting image data and error information corresponding to each pixel data;
Geometric transformation means for geometrically transforming image data and generating transformed image data;
Based on error information of each pixel data corresponding to each conversion pixel data, an error determination means for determining the presence or absence of an error in each conversion pixel data;
Second storage means for storing the converted image data and the error determination result corresponding to each converted pixel data;
A geometric conversion circuit comprising:
画像データを構成する複数の画素データと、各画素データに対応するエラー情報と、を合わせて格納する第一格納手段と、
画像データを幾何変換し、変換画像データを生成する幾何変換手段と、
各変換画素データに対応する各画素データのエラー情報をもとに、各変換画素データのエラーの有無を判定するエラー判定手段と、
エラー判定手段によりエラーが有ると判定された変換画素データを含む変換画像データのラインまたは列のいずれか一方または両方を識別するためのエラー判定データを格納する第二格納手段と、
を具備することを特徴とする幾何変換回路。 In the geometric transformation circuit that geometrically transforms the image data input from the imaging means and outputs the image data after geometric transformation to the image processing unit,
First storage means for storing a plurality of pixel data constituting image data and error information corresponding to each pixel data;
Geometric transformation means for geometrically transforming image data and generating transformed image data;
Based on error information of each pixel data corresponding to each conversion pixel data, an error determination means for determining the presence or absence of an error in each conversion pixel data;
Second storage means for storing error determination data for identifying either or both of a line or a column of converted image data including converted pixel data determined to have an error by the error determination means;
A geometric conversion circuit comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004299308A JP4490230B2 (en) | 2004-10-13 | 2004-10-13 | Geometric transformation circuit |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004299308A JP4490230B2 (en) | 2004-10-13 | 2004-10-13 | Geometric transformation circuit |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006113751A true JP2006113751A (en) | 2006-04-27 |
JP4490230B2 JP4490230B2 (en) | 2010-06-23 |
Family
ID=36382232
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004299308A Active JP4490230B2 (en) | 2004-10-13 | 2004-10-13 | Geometric transformation circuit |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4490230B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020074502A (en) * | 2018-08-24 | 2020-05-14 | バイドゥ・ユーエスエイ・リミテッド・ライアビリティ・カンパニーBaidu USA LLC | Image data acquisition logic of autonomous driving vehicle for capturing image data using camera |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS635666A (en) * | 1986-06-26 | 1988-01-11 | Fuji Photo Film Co Ltd | Defect correcting device for solid-state image pickup device |
JPH03205978A (en) * | 1990-01-08 | 1991-09-09 | Hitachi Ltd | Solid-state image pickup element |
JPH0918790A (en) * | 1995-06-29 | 1997-01-17 | Sharp Corp | Camera equipment |
JPH09247540A (en) * | 1996-03-01 | 1997-09-19 | Olympus Optical Co Ltd | Picture element defect correcting device |
JPH10283495A (en) * | 1997-04-04 | 1998-10-23 | Sega Enterp Ltd | Image processor |
JPH10307925A (en) * | 1997-05-07 | 1998-11-17 | Sega Enterp Ltd | Image processing device and method |
JP2000287134A (en) * | 1999-03-30 | 2000-10-13 | Fuji Film Microdevices Co Ltd | Image processor and image processing method |
JP2001186417A (en) * | 1999-12-22 | 2001-07-06 | Mitsubishi Electric Corp | Defective pixel detector |
JP2002016842A (en) * | 2000-06-30 | 2002-01-18 | Mitsubishi Electric Corp | Defect-pixel sensing device and recording medium with recorded defect-pixel sensing program |
JP2002526993A (en) * | 1998-09-30 | 2002-08-20 | インフィネオン テクノロジース アクチエンゲゼルシャフト | Method and apparatus for correcting defective pixels of an image sensor |
JP2003259221A (en) * | 2002-03-04 | 2003-09-12 | Olympus Optical Co Ltd | Circuit for detecting and correcting defective pixel |
JP2003319232A (en) * | 2002-04-09 | 2003-11-07 | Neucore Technol Inc | Electronic image pickup device and lens system |
-
2004
- 2004-10-13 JP JP2004299308A patent/JP4490230B2/en active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS635666A (en) * | 1986-06-26 | 1988-01-11 | Fuji Photo Film Co Ltd | Defect correcting device for solid-state image pickup device |
JPH03205978A (en) * | 1990-01-08 | 1991-09-09 | Hitachi Ltd | Solid-state image pickup element |
JPH0918790A (en) * | 1995-06-29 | 1997-01-17 | Sharp Corp | Camera equipment |
JPH09247540A (en) * | 1996-03-01 | 1997-09-19 | Olympus Optical Co Ltd | Picture element defect correcting device |
JPH10283495A (en) * | 1997-04-04 | 1998-10-23 | Sega Enterp Ltd | Image processor |
JPH10307925A (en) * | 1997-05-07 | 1998-11-17 | Sega Enterp Ltd | Image processing device and method |
JP2002526993A (en) * | 1998-09-30 | 2002-08-20 | インフィネオン テクノロジース アクチエンゲゼルシャフト | Method and apparatus for correcting defective pixels of an image sensor |
JP2000287134A (en) * | 1999-03-30 | 2000-10-13 | Fuji Film Microdevices Co Ltd | Image processor and image processing method |
JP2001186417A (en) * | 1999-12-22 | 2001-07-06 | Mitsubishi Electric Corp | Defective pixel detector |
JP2002016842A (en) * | 2000-06-30 | 2002-01-18 | Mitsubishi Electric Corp | Defect-pixel sensing device and recording medium with recorded defect-pixel sensing program |
JP2003259221A (en) * | 2002-03-04 | 2003-09-12 | Olympus Optical Co Ltd | Circuit for detecting and correcting defective pixel |
JP2003319232A (en) * | 2002-04-09 | 2003-11-07 | Neucore Technol Inc | Electronic image pickup device and lens system |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020074502A (en) * | 2018-08-24 | 2020-05-14 | バイドゥ・ユーエスエイ・リミテッド・ライアビリティ・カンパニーBaidu USA LLC | Image data acquisition logic of autonomous driving vehicle for capturing image data using camera |
JP6998342B2 (en) | 2018-08-24 | 2022-01-18 | バイドゥ・ユーエスエイ・リミテッド・ライアビリティ・カンパニー | Image data acquisition logic for autonomous vehicles for image data acquisition using cameras |
Also Published As
Publication number | Publication date |
---|---|
JP4490230B2 (en) | 2010-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8253828B2 (en) | Image capture device including edge direction determination unit, and image processing method for the same | |
US7777791B2 (en) | Defective pixel correction device | |
TWI462577B (en) | Image processing apparatus and on-vehicle camera apparatus | |
US20080278609A1 (en) | Imaging apparatus, defective pixel correcting apparatus, processing method in the apparatuses, and program | |
JP5060535B2 (en) | Image processing device | |
JP2009177703A (en) | Method and apparatus for processing image, and imaging apparatus | |
JP2007201530A (en) | Pixel defect correction apparatus | |
JPWO2007023817A1 (en) | Image processing system and image processing program | |
US20130208974A1 (en) | Image processing device and image processing method | |
US20080273102A1 (en) | Detection device for defective pixel in photographic device | |
JP2019106576A (en) | Imaging apparatus and imaging system | |
EP2103979B1 (en) | Method for correcting chromatic aberration | |
JP2010021858A (en) | Pixel defect correction device | |
JP2020108061A (en) | Imaging device and imaging system | |
US11159754B2 (en) | Imaging device and signal processing device | |
JP4490230B2 (en) | Geometric transformation circuit | |
JP2010068329A (en) | Imaging apparatus | |
JP3696069B2 (en) | Method and apparatus for detecting defective pixels of solid-state image sensor | |
JP2010010760A (en) | Image capturing apparatus and method | |
CN114902659B (en) | Image processing apparatus and image processing method | |
JP3805421B2 (en) | Pixel defect correction device | |
JP4807075B2 (en) | Imaging device and defective pixel correction method thereof | |
JP2009290653A (en) | Defective image correcting apparatus, imaging apparatus, defective pixel correcting method, and program | |
JP2005175909A (en) | Signal processing method and image acquiring device | |
US20220408036A1 (en) | Photoelectric conversion apparatus, photoelectric conversion system, transport apparatus, and signal processing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070515 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091215 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100204 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100323 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100401 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130409 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130409 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313532 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130409 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130409 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140409 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |