JPH11258654A - カメラのシャッタ速度制御装置 - Google Patents

カメラのシャッタ速度制御装置

Info

Publication number
JPH11258654A
JPH11258654A JP10061573A JP6157398A JPH11258654A JP H11258654 A JPH11258654 A JP H11258654A JP 10061573 A JP10061573 A JP 10061573A JP 6157398 A JP6157398 A JP 6157398A JP H11258654 A JPH11258654 A JP H11258654A
Authority
JP
Japan
Prior art keywords
index value
value
camera
image
shutter speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP10061573A
Other languages
English (en)
Inventor
Keiji Saneyoshi
敬二 実吉
Hideaki Tsuchiya
英明 土屋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Heavy Industries Ltd filed Critical Fuji Heavy Industries Ltd
Priority to JP10061573A priority Critical patent/JPH11258654A/ja
Publication of JPH11258654A publication Critical patent/JPH11258654A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Exposure Control For Cameras (AREA)
  • Studio Devices (AREA)

Abstract

(57)【要約】 【課題】 撮像画像の輝度分布に影響されることなく、
常に適正な露光を確保する。 【解決手段】 サンプル画像中の輝度をi=0〜nで区
間分けして輝度分布のヒストグラムを作成し、度数h
[i]を輝度の低い側から積算したヒストグラムの和Hdar
kが第1の設定値を超えたときの区間指標値D、度数h
[i]を輝度の高い側から積算したヒストグラムの和Hbri
ghtが第2の設定値を超えたときの区間指標値Bを求
め、輝度の低い側での区間指標値Dまでの区間長さと、
輝度の高い側での区間指標値Bまでの区間長さとが等し
くなるようシャッタ速度を制御することで、カメラのダ
イナミックレンジに包含されてしまうような均一輝度の
画像や極端に輝度差のある画像に対しても適正にシャッ
タ速度を制御する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、撮像画像の輝度分
布に影響されることなく適正露光を得ることのできるカ
メラのシャッタ速度制御装置に関する。
【0002】
【従来の技術】近年、自動車や小型ヘリコプタ等の移動
体においては、カメラを搭載して撮像画像を処理し、周
囲環境認識や自己位置認識処理を行なう技術が積極的に
採用されている。
【0003】この撮像画像を用いて認識処理を行なう技
術では、処理結果に大きな影響を与える要因としてカメ
ラのシャッタ速度(露光時間)があり、従来、このシャ
ッタ速度を制御する手法としては、図4に示すように、
画像の平均輝度を求めてシャッタ速度を制御する手法
や、図5に示すように、画像の輝度の低い側の分布(A
の度数)と輝度の高い側の分布(A’の度数)とが等し
くなるように画像中の明暗差によってシャッタ速度を制
御する手法が知られている。
【0004】
【発明が解決しようとする課題】しかしながら、画像の
平均輝度を用いてシャッタ速度を制御する手法では、画
面中に極端に輝度差のある物体が写っている場合、明暗
のどちらも適正露光にならない場合があり、また、明暗
両端の差を用いてシャッタ速度を制御する手法では、ダ
イナミックレンジの広い画像には有効に作用するが、輝
度が均一な物体を撮像すると、不感帯に入って適正露光
にならない場合がある。
【0005】本発明は上記事情に鑑みてなされたもの
で、撮像画像の輝度分布に影響されることなく、常に適
正な露光を確保することのできるカメラのシャッタ速度
制御装置を提供することを目的としている。
【0006】
【課題を解決するための手段】請求項1記載の発明は、
カメラの撮像画像をサンプルし、撮像画像中の輝度分布
を区間分けして輝度のヒストグラムを作成する手段と、
上記ヒストグラムの度数を輝度の低い側で順に加算した
積算値が第1の設定値を超えたときの区間指標値を第1
の指標値として求める手段と、上記ヒストグラムの度数
を輝度の高い側で順に加算した積算値が第2の設定値を
超えたときの区間指標値を第2の指標値として求める手
段と、上記第1の指標値までの輝度の低い側での区間長
さと上記第2の指標値までの輝度の高い側での区間長さ
とが等しくなるよう、上記カメラのシャッタ速度を制御
する手段とを備えたことを特徴とする。
【0007】請求項2記載の発明は、請求項1記載の発
明において、上記第1の指標値までの輝度の低い側での
区間長さと上記第2の指標値までの輝度の高い側での区
間長さとの差を求め、この差に制御ゲインを乗算した値
を現在のシャッタ速度制御値に加算して次回の撮像タイ
ミングのシャッタ速度制御値を求めることを特徴とす
る。
【0008】すなわち、本発明によるカメラのシャッタ
速度制御装置では、サンプルした撮像画像の輝度分布を
指標値で区間分けしてヒストグラムを作成し、このヒス
トグラムの度数を輝度の低い側で順に加算した積算値が
第1の設定値を超えたときの区間指標値を第1の指標値
として求め、また、ヒストグラムの度数を輝度の高い側
で順に加算した積算値が第2の設定値を超えたときの区
間指標値を第2の指標値として求める。そして、第1の
指標値までの輝度の低い側での区間長さと第2の指標値
までの輝度の高い側での区間長さとが等しくなるよう、
カメラのシャッタ速度を制御する。この場合のシャッタ
速度制御値は、第1の指標値までの輝度の低い側での区
間長さと第2の指標値までの輝度の高い側での区間長さ
との差に制御ゲインを乗算した値を、現在のシャッタ速
度制御値に加算することで求めることができる。
【0009】
【発明の実施の形態】以下、図面を参照して本発明の実
施の形態を説明する。図1〜図3は本発明の実施の一形
態に係わり、図1はステレオ画像処理システムのブロッ
ク図、図2は輝度の低い側のヒストグラムを示す説明
図、図3は輝度の高い側のヒストグラムを示す説明図で
ある。
【0010】図1は、互いに同期が取れ、例えば電荷結
合素子(CCD)等のイメージセンサを内蔵したシャッ
タ速度可変の2台のカメラからなるステレオカメラ1で
撮像した画像を処理するステレオ画像処理システムの構
成を示し、例えば、自動車やヘリコプタ等の移動体に搭
載され、周囲環境や自己位置を認識するシステムの一部
として使用される。
【0011】上記ステレオカメラ1は、一方のカメラを
ステレオ処理の際の基準画像を撮像するメインカメラ、
他方のカメラをステレオ処理の際の比較画像を撮像する
サブカメラとして、図示しないカメラステイに所定の基
線長をもって配設される。ステレオカメラ1で撮像した
2枚の画像は、ゲインコントロールアンプ(GCA)2
aを有するアナログI/F(インターフェース)2を介
してA/Dコンバータ3に入力され、所定の輝度階調の
デジタル画像に変換される。さらに、このA/Dコンバ
ータ3でデジタル変換された画像は、画像の補正・変換
やカメラ制御等のデジタル処理のための各種機能を有す
る画像処理部10へ入力される。
【0012】上記画像処理部10におけるデジタル信号
処理のための各種機能は、例えばFPGAによるゲート
の論理設計によって実現することができる。この画像処
理部10の各機能としては、上記GCA2a及び上記A
/Dコンバータ3への制御電圧を発生するためのD/A
コンバータ4を制御するD/Aコントローラ11、ステ
レオカメラ1を構成する2台のカメラのイメージセンサ
の出力特性の相違等に起因する相互の画像信号のバラツ
キを補正するために画像信号のゲインやオフセット量を
変更するためのルックアップテーブル(LUT;ROM
で構成される)12、このLUT12で補正された画像
データと、画素毎の輝度の歪みを補正するためのシェー
ディング補正データをストアするROM及びRAMから
なるシェーディング補正用メモリ5からのシェーディン
グ補正データとを乗算する乗算器13、画像の明暗部を
対数変換して感度調整を行うためのログ(Log)変換
テーブル(ROMで構成される)14、アドレスコント
ローラ15、シェーディング補正用メモリ5から乗算器
13へのシェーディング補正データの転送を制御するシ
ェーディングコントローラ16、ステレオカメラ1のシ
ャッタ速度(CCDに対する電子シャッタの露光時間)
制御等を行うカメラコントローラ17、FPGA内部の
各種パラメータを外部から書き換え、また、外部から読
み出すための外部I/F18等がある。
【0013】上記画像処理部10で補正・変換された画
像は、メイン画像及びサブ画像をストアする画像メモリ
20、カメラシャッタ制御用に画像データをストアする
シャッタ制御用元画像メモリ21にストアされ、ステレ
オマッチング回路22でメイン画像とサブ画像とのステ
レオマッチングによって距離画像が生成され、距離画像
メモリ23にストアされる。
【0014】上記シャッタ制御用元画像メモリ21や距
離画像メモリ23にストアされた画像データは、各種認
識処理を行う認識処理部30に読み込まれる。この認識
処理部30は、例えば複数個のRISCプロセッサを並
列動作させるマルチプロセッサ構成として高速処理を実
現するようになっており、ステレオカメラ1のシャッタ
速度制御を行なうとともに、距離画像から三次元情報に
基づいて、例えば自動車やヘリコプタ等の移動体の周囲
環境や自己位置を認識する処理を行なう。
【0015】以上のステレオ処理システムでは、電源投
入によるシステム起動時、ハードウエア各部が初期化さ
れるとともに、ステレオカメラ1の仕様定数値や各種処
理変数値等の変数値が初期化される。同時に、シェーデ
ィングコントローラ16によってシェーディング補正用
メモリ7のシェーディング補正データがROMからRA
Mに転送される。
【0016】次に、システムクロックに基づく水平同期
信号及び垂直同期信号がステレオカメラ1の各カメラに
外部同期信号として供給され、認識処理部30から外部
I/F18を介してカメラコントローラ17に書き込ま
れたシャッタ速度制御値でステレオカメラ1の各カメラ
にシャッタトリガ信号が出力される。
【0017】ステレオカメラ1で撮像された画像は、ア
ナログI/F2に入力され、このアナログI/F2で、
D/Aコンバータ4からのコントロール電圧に応じてG
CA2aで画像信号のゲインが調整され、2台のカメラ
のゲインのバラツキが調整されてA/Dコンバータ3に
出力される。
【0018】A/Dコンバータ3では、D/Aコントロ
ーラ4からのリファレンス電圧によって2台のカメラの
画像信号のオフセット差を調整し、アナログ画像を所定
の輝度階調(例えば256階調のグレースケール)のデ
ジタル画像に変換する。尚、上記GCA2aのゲインコ
ントロール電圧、A/Dコンバータ4のリファレンス電
圧は、認識処理部30から外部I/F18を介してD/
Aコントローラ11に書き込まれる電圧値である。
【0019】上記アナログI/F2からA/Dコンバー
タ3を経て各カメラ毎にゲイン・オフセットの整合が取
られたデジタル画像データは、画像処理部10内部のL
UT12へアドレスデータとして与えられ、LUT12
からのデータとシェーディングコントローラ16からの
指示で転送されるシェーディング補正用メモリ7からの
シェーディング補正データとが乗算器14で乗算され
る。これにより、各カメラ毎に更に厳密にゲイン及びオ
フセットが整合されるとともに、各カメラの光学系に発
生するシェーディング現象による輝度低下が補正され
る。
【0020】次に、乗算器13から出力される画像デー
タがログ変換テーブル14によって対数変換されて明る
さに比例するノイズ成分の影響が除去され、画像メモリ
20にメイン画像及びサブ画像のデータがストアされ
る。この画像メモリ20にストアされる画像データは、
例えば水平ラインの4ライン毎のデータであり、同時
に、水平4ラインに1ライン分の画像データがシャッタ
制御用元画像メモリ21にストアされる。
【0021】画像メモリ20にストアされた元画像デー
タは、ステレオマッチング回路22に転送される。ステ
レオマッチング回路22では、メイン画像とサブ画像と
の所定の小領域(例えば4×4画素の領域)毎にシティ
ブロック距離を計算して互いの相関を求めることで対応
する領域を特定し、対象物までの距離に応じて生じる画
素のズレ(=視差)を求める。そして、このズレ量から
得られる対象物までの遠近情報を数値化した3次元画像
情報(距離画像)を生成し、距離画像メモリ23に書き
込む。尚、ステレオカメラの撮像画像から距離画像を生
成する処理については、本出願人による特開平5−11
4099号公報に詳述されている。
【0022】認識処理部30では、距離画像メモリ23
からの距離画像データを読み込んで各種認識処理を行な
うとともに、シャッタ制御用元画像メモリ21の元画像
データをサンプル画像として読み込み、サンプル画像中
の輝度のヒストグラムを作成してステレオマッチング及
び認識処理に最適な画像を得ることのできるシャッタ速
度制御値を決定する。
【0023】尚、輝度のヒストグラムは上記認識処理部
30におけるソフトウエア処理で作成することができる
が、専用の回路で作成しても良く、例えば、本出願人が
先に提出した特願平9−247320号におけるヒスト
グラム処理回路(自己加算型階調・度数モジュールを複
数個並列接続した処理回路)を採用することで、大幅に
処理速度を向上することができる。
【0024】このシャッタ制御のためのヒストグラム
は、サンプル画像中の輝度分布を所定の輝度階調毎に区
間分けして各区間毎にi=0〜nの指標値を割り付け、
この指標値を横軸、各指標値毎の度数を縦軸として作成
する。例えば、アナログ撮像画像を256階調の輝度階
調でデジタル変換した場合、16階調毎に区間分けして
ヒストグラムを作成し、図2に示すような暗い側でのヒ
ストグラムの分布と、図3に示すような明るい側でのヒ
ストグラムの分布とに基づいてシャッタ速度を制御す
る。
【0025】具体的には、以下の(1)式に示すように、
度数h[i]を輝度の低い側から積算した積算値(ヒスト
グラムの和)Hdarkが第1の設定値を超えたときの横軸
の区間指標値(第1の指標値)Dを求め、また、以下の
(2)式で示すように、度数h[i]を輝度の高い側から積算
したヒストグラムの和Hbrightが第2の設定値を超えた
ときの横軸の区間指標値(第2の指標値)Bを求める。
但し、(1)式はi=0〜Dまでの総和、(2)式はi=n〜
Bまでの総和であり、D≦n、0≦Bである。
【0026】Hdark =Σ h[i] …(1) Hbright =Σ h[i] …(2) そして、ヒストグラムの輝度の低い側での区間指標値D
までの区間長さD’(D’=D;図2の矢印で示すベク
トルの大きさ)と、輝度の高い側での区間指標値Bまで
の区間長さB’(B’=n−B;図3の矢印で示すベク
トルの大きさ)とを用い、現在のシャッタ速度制御値を
t0、制御ゲインをKとして、シャッタ速度制御値tを
以下の(3)式によって求め、区間長さD’と区間長さ
B’とが等しくなるようにシャッタ速度を制御する。
【0027】t=t0+K・(D’−B’) …(3) この場合、第1の設定値と第2の設定値とは、通常、同
じ値で良いが、ステレオマッチングや認識処理結果に応
じて互いの比率を可変することができる。すなわち、第
1の設定値と第2の設定値とを同じ値として暗い側での
ヒストグラムの面積と明るい側でのヒストグラムの面積
とが同じになるようにシャッタ速度を制御することによ
り、画像中に暗い部分と明るい部分が少なく処理対象と
する被写体の輝度が暗い部分と明るい部分とに分布する
ような均一輝度の画像の場合にも、従来の明暗差による
シャッタ速度制御のように不感帯に入って不適切なシャ
ッタ速度(露光)となることがなく、平均測光的に被写
体の輝度に応じた適切なシャッタ速度とすることがで
き、ステレオマッチングのミスマッチングや認識処理に
おける誤認識を防止することができる。
【0028】一方、暗い被写体あるいは明るい被写体の
場合には、、従来の平均測光によるシャッタ速度制御で
は、画像全体が中間的な輝度となるようシャッタ速度が
制御されてしまい、被写体に対するステレオマッチング
が不適切となって正確な距離情報が得られず誤認識を生
じる等の問題があったが、暗い被写体の場合には第1の
設定値を第2の設定値よりも大きくし、明るい被写体の
場合には第1の設定値よりも第2の設定値の方を大きく
することにより、重み付きで平均測光することになり、
被写体の輝度に応じた適切なシャッタ速度(露光)とし
て適正なステレオマッチングによる正確な距離情報を得
ることができるとともに、認識処理の信頼性を向上する
ことができる。
【0029】
【発明の効果】以上説明したように本発明によれば、サ
ンプルした撮像画像の輝度分布を区間分けしてヒストグ
ラムを作成し、このヒストグラムの度数を輝度の低い側
で順に加算した積算値が第1の設定値を超えたときの区
間指標値を第1の指標値として求め、また、ヒストグラ
ムの度数を輝度の高い側で順に加算した積算値が第2の
設定値を超えたときの区間指標値を第2の指標値として
求め、第1の指標値までの輝度の低い側での区間長さと
第2の指標値までの輝度の高い側での区間長さとが等し
くなるようカメラのシャッタ速度を制御するため、撮像
画像の輝度分布に影響されることなく処理対象とする被
写体の輝度に応じた適正な露光を確保することができ、
画像処理における精度を向上することができる等優れた
効果が得られる。
【図面の簡単な説明】
【図1】ステレオ画像処理システムの説明図
【図2】輝度の低い側のヒストグラムを示す説明図
【図3】輝度の高い側のヒストグラムを示す説明図
【図4】画像の輝度平均による従来のシャッタ速度制御
の説明図
【図5】画像の明暗差による従来のシャッタ速度制御の
説明図
【符号の説明】 2,3…カメラ 10 …画像処理部 17 …カメラコントローラ 30 …認識処理部 Hdark,Hbright…ヒストグラムの和(積算値) D …第1の指標値 B …第2の指標値

Claims (2)

    【特許請求の範囲】
  1. 【請求項1】 カメラの撮像画像をサンプルし、撮像画
    像中の輝度分布を区間分けして輝度のヒストグラムを作
    成する手段と、 上記ヒストグラムの度数を輝度の低い側で順に加算した
    積算値が第1の設定値を超えたときの区間指標値を第1
    の指標値として求める手段と、 上記ヒストグラムの度数を輝度の高い側で順に加算した
    積算値が第2の設定値を超えたときの区間指標値を第2
    の指標値として求める手段と、 上記第1の指標値までの輝度の低い側での区間長さと上
    記第2の指標値までの輝度の高い側での区間長さとが等
    しくなるよう、上記カメラのシャッタ速度を制御する手
    段とを備えたことを特徴とするカメラのシャッタ速度制
    御装置。
  2. 【請求項2】 上記第1の指標値までの輝度の低い側で
    の区間長さと上記第2の指標値までの輝度の高い側での
    区間長さとの差を求め、この差に制御ゲインを乗算した
    値を現在のシャッタ速度制御値に加算して次回の撮像タ
    イミングのシャッタ速度制御値を求めることを特徴とす
    る請求項1記載のカメラのシャッタ速度制御装置。
JP10061573A 1998-03-12 1998-03-12 カメラのシャッタ速度制御装置 Pending JPH11258654A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10061573A JPH11258654A (ja) 1998-03-12 1998-03-12 カメラのシャッタ速度制御装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10061573A JPH11258654A (ja) 1998-03-12 1998-03-12 カメラのシャッタ速度制御装置

Publications (1)

Publication Number Publication Date
JPH11258654A true JPH11258654A (ja) 1999-09-24

Family

ID=13175011

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10061573A Pending JPH11258654A (ja) 1998-03-12 1998-03-12 カメラのシャッタ速度制御装置

Country Status (1)

Country Link
JP (1) JPH11258654A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006123754A1 (ja) 2005-05-20 2006-11-23 Toyota Jidosha Kabushiki Kaisha 車両用画像処理装置
CN102745134A (zh) * 2011-04-19 2012-10-24 株式会社本田艾莱希斯 检测装置以及检测方法
WO2014103094A1 (ja) * 2012-12-27 2014-07-03 株式会社ソニー・コンピュータエンタテインメント 情報処理装置、情報処理システム、および情報処理方法
EP2950521A3 (en) * 2014-05-29 2015-12-09 LG Electronics Inc. Camera capable of reducing motion blur in a low luminance environment and vehicle including the same

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006123754A1 (ja) 2005-05-20 2006-11-23 Toyota Jidosha Kabushiki Kaisha 車両用画像処理装置
EP2109061A2 (en) 2005-05-20 2009-10-14 Toyota Jidosha Kabushiki Kaisha Image processing apparatus for vehicle
CN102745134A (zh) * 2011-04-19 2012-10-24 株式会社本田艾莱希斯 检测装置以及检测方法
WO2014103094A1 (ja) * 2012-12-27 2014-07-03 株式会社ソニー・コンピュータエンタテインメント 情報処理装置、情報処理システム、および情報処理方法
JP2014127151A (ja) * 2012-12-27 2014-07-07 Sony Computer Entertainment Inc 情報処理装置、情報処理システム、および情報処理方法
US9619868B2 (en) 2012-12-27 2017-04-11 Sony Corporation Information processing device, information processing system, and information processing method
EP2950521A3 (en) * 2014-05-29 2015-12-09 LG Electronics Inc. Camera capable of reducing motion blur in a low luminance environment and vehicle including the same
CN105313778A (zh) * 2014-05-29 2016-02-10 Lg电子株式会社 摄像头及具有该摄像头的车辆
US9736364B2 (en) 2014-05-29 2017-08-15 Lg Electronics Inc. Camera capable of reducing motion blur in a low luminance environment and vehicle including the same
CN105313778B (zh) * 2014-05-29 2018-05-11 Lg电子株式会社 摄像头及具有该摄像头的车辆

Similar Documents

Publication Publication Date Title
JP2951909B2 (ja) 撮像装置の階調補正装置及び階調補正方法
KR20030097687A (ko) 화상 처리 장치, 카메라 장치, 및 그 자동 노광 제어 방법
JP2007067907A (ja) 撮像装置、撮像方法および撮像プログラム、ならびに、画像処理装置、画像処理方法および画像処理プログラム
WO1990001845A1 (en) Wide dynamic range camera
JP2019047169A (ja) ハイダイナミックレンジ画像を作成する装置、方法、及びプログラム
US20010002216A1 (en) Imaging method and apparatus for generating a combined output image having image components taken at different focusing distances
JPH07284012A (ja) フイルムスキャナの露出制御装置並びに画像信号処理方 法及びガンマ補正方法
JP2006080942A (ja) 画像処理装置、画像処理プログラム、画像処理方法及び撮像装置
JPH0775026A (ja) 撮像装置
JP2009200743A (ja) 画像処理装置および画像処理方法および画像処理プログラムおよび撮像装置
JP2000197070A (ja) ホワイトバランス調整装置
JPH11258654A (ja) カメラのシャッタ速度制御装置
JP2002288650A (ja) 画像処理装置及びデジタルカメラ、画像処理方法、記録媒体
KR20010037684A (ko) 디지털 스틸 카메라의 자동 노출 보정 장치 및 방법
KR101923162B1 (ko) 액정 패널을 이용한 hdri 영상 획득 장치 및 방법
JP3294089B2 (ja) 撮像装置
US6295138B1 (en) Electronic image sensing apparatus
JPH11155108A (ja) 映像信号処理装置と処理方法、それを用いたビデオカメラ
JPH05316413A (ja) 撮像装置
JP6554009B2 (ja) 画像処理装置、その制御方法、プログラム及び記録媒体
JP3384916B2 (ja) 撮像装置
JP2004222160A (ja) デジタルカメラ
JP2001054017A (ja) 固体撮像装置及び固体撮像装置の信号処理方法
JP2005109579A (ja) 固体撮像素子を用いた撮像装置
JP2002300468A (ja) 撮像装置及びその制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050303

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070925

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080722

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090317