JP2002247604A - 視差量測定装置 - Google Patents
視差量測定装置Info
- Publication number
- JP2002247604A JP2002247604A JP2001046048A JP2001046048A JP2002247604A JP 2002247604 A JP2002247604 A JP 2002247604A JP 2001046048 A JP2001046048 A JP 2001046048A JP 2001046048 A JP2001046048 A JP 2001046048A JP 2002247604 A JP2002247604 A JP 2002247604A
- Authority
- JP
- Japan
- Prior art keywords
- parallax
- block
- image
- matching
- sub
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Measurement Of Optical Distance (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Analysis (AREA)
Abstract
いマッチングとを明確に切り分けて検出でき、視差の統
計量などを計算する際に、エラーマッチングの影響を減
らすことができる視差量測定装置を提供する。 【解決手段】 ステレオ画像の第1の画像1上に所定の
測定ブロックを設定する測定ブロック設定手段3と、第
2の画像2上で測定ブロックと対応する領域とのマッチ
ングを行って測定ブロックの視差量を測定する上層マッ
チング手段9Aと、測定ブロックを複数のサブブロック
に分割し、第2の画像上で各サブブロックと対応する領
域とのマッチングを行って各サブブロックの視差量を測
定する下層マッチング手段9Bと、各サブブロックの視
差量と測定ブロックの視差量とを比較する視差量比較手
段916と、その比較結果に基づいて上層マッチング手
段9Aでのマッチングがエラーか否かを判定するエラー
判定手段917と、を有する。
Description
差量を測定する視差量測定装置に関するものである。
する技術は様々な応用分野がある。例えば、特開平7−
120255号公報に記載されているように、複数のカ
メラで前方視野を撮影し、その視差量から奥行き情報を
得るステレオ距離計測が古くから知られている。このス
テレオ距離計測では、特定場所の奥行きを測定する場合
もあれば、視差全体を細かく分割し、その各々について
奥行きを測定する場合もある。
示の分野では、測定した視差情報を片方の映像に付加し
て伝送することで伝送量を減らすという使い方もある。
さらに、例えば特開平9−322199号公報や特開平
4−360394号公報に記載されているように、映像
の視差量を監視しておいて、それが観察者にとって良好
な視差になるように映像やカメラ設定を補正したり、特
開平11−355808号公報に記載されているように
表示条件を切り替えたりする使い方もある。このような
使い方の場合、画面内の詳細な視差分布を測定すること
もあるが、特定箇所の視差量や、視差の最頻値や最大値
などの統計量を用いることもある。
来からブロックマッチング方法がよく利用されている。
この方法では、例えば左右(LR)の2枚の画像の視差
を測定する場合には、例えば図15に示すようにL画像
の画面をM×N画素のいくつかの測定ブロックに分割、
またはL画像の画面上で何箇所かの測定ブロックを指定
して、各測定ブロックに対してR画像の画面上から対応
する場所すなわち最も類似した場所を探し出し、その両
者の位置ずれ量に基づいて視差量を測定している。
ては、例えば図16に示すように、L画像上の測定ブロ
ックの座標を(XL,YL)として、まずR画像上にL
画像と同じ座標でM×N画素のブロックBを設定し、ブ
ロックAとブロックBとの間で下記の式に従って画素同
士の輝度差(絶対値)の総和(以後、差分絶対値和と呼
ぶ)を演算する。
は、ブロックBがブロックAに対応する場所で最小とな
るので、ブロックBをずらしながら、つまりΔX,ΔY
の値を適度な範囲内で変えながら差分絶対値和Sを演算
して、それが最小となる場所を探し出す。このようにし
て、差分絶対値和Sが最小となるブロックBの場所を探
したら、そのブロックBの場所とブロックAの場所との
ずれ量ΔX,ΔYをブロックAに対応する視差量として
演算する。
ックマッチング方法では、例えばブロック内に明確な輝
度変化が十分にない場合には、至る所に類似箇所が存在
して、わずかなノイズや画像の違いで正しくマッチング
できなくなる場合がある。また、画像にノイズが多い場
合や、オクルージョンや視差の大きく異なるオブジェク
トがブロック内に含まれている場合には、ブロックの一
部にしか対応場所が存在しなかったり、逆に対応する場
所が複数存在したり、といった現象が起こってマッチン
グエラーとなり易い。このようなマッチングエラーが発
生すると、測定結果に異常値が含まれることになり、前
述の距離測定に大きな誤差がでたり、表示条件の補正や
変更が不適切なものになる。
めに、異常な情報を除外したり何らかの補間処理を施し
て、悪影響を及ぼさないようにする方法も知られてい
る。例えば、ブロック内に明確な輝度変化が十分にない
場合の対策として、例えば特開平7−120255号公
報には、エッジの有無つまり明確な輝度変化の有無をチ
ェックしてエラーマッチングの可能性が高いか否かを判
定し、可能性が高い場所を予め除外することが開示され
ている。
ルージョンや視差の大きく異なるオブジェクトがブロッ
ク内に含まれている場合には、エラーマッチングを検出
するのは困難である。例えば、特開平7−120255
号公報や特開平4−203908号公報には、マッチン
グ結果の差分絶対値和を利用してエラーマッチングを検
出する方法が開示されているが、差分絶対値和は、輝
度、コントラスト、エッジの多少、ノイズなど画像の性
質に左右されるうえ、正しくても最小値が十分小さくな
らないことも多く、エラーマッチングと正しいマッチン
グとの切り分けを必ずしも明確にできない。
背景オブジェクトとがある場合には、一般には前景と背
景との画像情報が邪魔しあって差分絶対値和の最小値は
大きくなるが、前景か背景のどちらかが優位になって正
しくマッチングすることもある。逆に、エラーマッチン
グであっても差分絶対値和の最小値がさほど大きくなら
ないこともある。
く、例えば閾値を低くすればエラーマッチングの検出精
度は上がるが、測定データの多くが無駄になったり、再
測定の手間が増えたりする。特に、視差の統計量や全体
の傾向を短時間に得たいような用途では、測定データは
有効に利用して、再測定は避けたい。そのためには、エ
ラーマッチングと正しいマッチングとを明確に切り分け
る必要がある。
明の目的は、視差測定に際してのエラーマッチングと正
しいマッチングとを明確に切り分けて検出でき、視差の
統計量などを計算する際に、エラーマッチングの影響を
減らすことができる視差量測定装置を提供することにあ
る。
項1に係る視差量測定装置の発明は、第1の画像および
第2の画像からなるステレオ画像の上記第1の画像上に
所定の測定ブロックを設定する測定ブロック設定手段
と、上記第2の画像上で上記測定ブロックと対応する領
域とのマッチングを行って、両画像の座標の違いから上
記測定ブロックの視差量を測定する上層マッチング手段
と、上記測定ブロックを複数のサブブロックに分割し、
上記第2の画像上で上記各サブブロックと対応する領域
とのマッチングを行って、両画像の座標の違いから上記
各サブブロックの視差量を測定する下層マッチング手段
と、該下層マッチング手段で得られた上記各サブブロッ
クの視差量と上記上層マッチング手段で得られた上記測
定ブロックの視差量とを比較する視差量比較手段と、該
視差量比較手段での比較結果に基づいて上記上層マッチ
ング手段でのマッチングがエラーか否かを判定するエラ
ー判定手段と、を有することを特徴とするものである。
下層マッチング手段で得られた各サブブロックの視差量
と上層マッチング手段で得られた測定ブロックの視差量
とを比較して、上層マッチング手段でのマッチングがエ
ラーか否かを判定するようにしたので、視差の統計量な
どを計算する際に、エラーマッチングの測定ブロックを
除外することができ、エラーマッチングの影響を減らす
ことができる。
第2の画像からなるステレオ画像の上記第1の画像上に
所定の測定ブロックを設定する測定ブロック設定手段
と、上記第2の画像上で上記測定ブロックと対応する領
域とのマッチングを行って、両画像の座標の違いから上
記測定ブロックの視差量を測定する上層マッチング手段
と、上記測定ブロックを複数のサブブロックに分割し、
上記第2の画像上で上記各サブブロックと対応する領域
とのマッチングを行って、両画像の座標の違いから上記
各サブブロックの視差量を測定する下層マッチング手段
と、該下層マッチング手段で得られた上記各サブブロッ
クの視差量と上記上層マッチング手段で得られた上記測
定ブロックの視差量とを比較する視差量比較手段と、該
視差量比較手段での比較結果に基づいて上記下層マッチ
ング手段での各サブブロックのマッチングがエラーか否
かを判定するエラー判定手段と、を有することを特徴と
するものである。
下層マッチング手段で得られた視差量と上層マッチング
手段で得られた視差量とを比較して、下層マッチング手
段での各サブブロックのマッチングがエラーか否かを判
定するようにしたので、結果的に上層マッチング手段で
の測定ブロックのマッチングに信頼性に応じた重み付け
を行うことができ、視差の統計量などを計算する際にエ
ラーマッチングの影響を減らすことができる。
に記載の視差量測定装置において、上記下層マッチング
手段は、上記第1の画像上のサブブロックと対応する上
記第2の画像上の領域との類似性を演算するサブブロッ
ク類似性演算手段と、上記第1の画像上の各サブブロッ
クについて、上記サブブロック類似性演算手段での演算
結果に基づいて類似性がもっとも高くなる上記第2の画
像上の領域の位置および類似性を示す値を検出する手段
とを含み、上記上層マッチング手段は、上記サブブロッ
ク類似性演算手段での各サブブロックの類似性の演算結
果を加算する加算手段と、該加算手段での加算結果に基
づいて上記測定ブロックと対応する上記第2の画像上の
領域との類似性がもっとも高くなる上記第2の画像上の
領域の位置および類似性を示す値を検出する手段とを含
むことを特徴とするものである。
サブブロック類似性演算手段での各サブブロックの類似
性の演算結果を加算手段で加算して、第2の画像上で測
定ブロックと対応する領域の類似性を示す値を求めるよ
うにしたので、上層マッチング手段の回路規模を縮小で
き、処理時間も短縮することが可能となる。
置の実施の形態について、図1〜図13を参照して説明
する。
の形態を示すもので、図1は全体の要部の回路構成を示
すブロック図、図2は図1に示す視差測定部の要部の回
路構成を示すブロック図、図3(a)および(b)はエ
ラーマッチング判定の原理を説明するための図、図4は
視差量測定動作の概要を示すフローチャート、図5
(a)および(b)はマッチング演算処理の変形例を説
明するための図である。
示すように、ステレオ画像を構成する左右(LR)の画
像1,2の一方、ここではL画像1を測定ブロック設定
部3に、他方のR画像2を探索範囲/参照ブロック設定
部4にそれぞれ供給する。測定ブロック設定部3では、
予め設定した座標に基づいてL画像1上に所定数の測定
ブロックを設定し、各測定ブロックの画像データをメモ
リに読み込むなどして基準データ5として順次出力す
る。また、探索範囲/参照ブロック設定部4では、R画
像2上に測定ブロックと同じ座標(X,Y)を中心とす
る探索範囲と、その探索範囲内で測定ブロックと同じ大
きさの参照ブロックとを設定し、各参照ブロック内の画
像データをメモリに読み込むなどして参照データ6とし
て順次出力する。
測定部9にそれぞれ供給し、ここでマッチング演算処理
を行って各測定ブロックの視差量7を測定して出力する
と共に、その視差量7を測定した際のマッチングがエラ
ーマッチングであったか否かを判定して、その判定結果
を表わすエラーコード8を出力する。
マッチング部9A、下層マッチング部9B、階層間比較
回路916、およびエラー判定回路917を有してい
る。
定ブロックのマッチング演算処理を行うもので、第1差
分絶対値和演算回路901と第1最小値検出回路902
とを有しており、第1差分絶対値和演算回路901にお
いて従来のブロックマッチングと同様に基準データ5と
参照データ6との差分絶対値和を演算して最小値検出回
路902に供給し、最小値検出回路902において差分
絶対値和の演算結果をそれまでの最小値と比較して、大
きければその値を捨て、小さければ最小値を入れ替え
て、視差量ΔX1,ΔY1に現在のシフト量(参照デー
タを切り出した座標X+ΔX,Y+ΔYと、探索範囲の
中心座標X,Yとの差)を代入する。
ックをn個(本実施の形態では、n=4)に分割したサ
ブブロックを設定し、その各々のサブブロックについて
マッチング演算処理を行うもので、第1〜第4サブブロ
ックの各々に対応する第2−1〜2−4差分絶対値和演
算回路903〜906と、第2−1〜2−4最小値検出
回路907〜910とを有しており、各サブブロックに
ついて対応する第2−n差分絶対値和演算回路および第
2−n最小値検出回路により、上述した上層マッチング
部9Aでのマッチング演算処理と同様のマッチング演算
処理を行って視差量を測定する。
業を参照ブロックのシフト量、つまり参照データを切り
出す位置を変えて繰り返すことで、当該測定ブロックお
よびその各サブブロックに対応する領域を探索して、測
定ブロックに対する第1視差量911(ΔX1,ΔY
1)、第1サブブロックに対する第2−1視差量912
(ΔX21,ΔY21)、第2サブブロックに対する第
2−2視差量913(ΔX22,ΔY22)、第3サブ
ブロックに対する第2−3視差量914(ΔX23,Δ
Y23)、および第4サブブロックに対する第2−4視
差量915(ΔX24,ΔY24)を決定し、第1視差
量911を測定ブロックの視差量7(DisX,Dis
Y)として出力すると共に、階層間比較回路916に供
給し、第2−1〜2−4視差量912〜915を階層間
比較回路916に供給する。
(上層マッチング部9A)に対する第1視差量911と
第1〜第4サブブロック(下層マッチング部9B)に対
する第2−1〜2−4視差量912〜915とをそれぞ
れ比較して、それらの比較結果をエラー判定回路917
に供給する。
路916での比較結果に基づいて、第2−1〜2−4視
差量912〜915の少なくとも一つが、第1視差量9
11とほぼ等しい(差が規定値以内)ときは、OKを意
味するエラーコード8を出力し、第2−1〜2−4視差
量912〜915のいずれもが第1視差量911と大き
く異なるときは、NGを意味するエラーコード8を出力
する。これにより、エラーコード8がNGのときは、当
該測定ブロックの視差量を無効として使用しないように
する。
エラー判定の原理について説明する。図3(a)は、測
定ブロックMB内に異なる視差を持つ二つのオブジェク
トOB1,OB2が在る様子を示している。このような
場合、オブジェクトOB1に対応する領域とオブジェク
トOB2に対応する領域は異なるため、うまく対応場所
を見つけられずにマッチングエラーとなることもある
が、どちらかのオブジェクトの情報が優位に働いてマッ
チングに成功することもある。
ックMBを縦横各々2分してなる第1〜第4サブブロッ
クSB1〜SB4を考えると、サブブロックSB1とS
B3にはオブジェクトOB1の情報が多く含まれ、サブ
ブロックSB2とSB4にはオブジェクトOB2の情報
が多く含まれることになる。もし、サブブロックSB1
のマッチング結果と測定ブロックMBのマッチング結果
とが等しければ、オブジェクトOB1に対応する正しい
マッチング結果を示していると考えられる。
量測定動作の概要を示すフローチャートである。先ず、
ステレオ画像の一方の画像に対して測定ブロックを設定
して(ステップS1)、他方の画像の探索範囲で測定ブ
ロックのマッチング演算を行って第1視差量ΔX1,Δ
Y1を測定する(ステップS2)と共に、その測定ブロ
ックに対して4個のサブブロックを設定して(ステップ
S3)、同様のマッチング演算を行って各サブブロック
に対する第2−n視差量ΔX2n,ΔY2n(n=1〜
4)を測定する(ステップS4)。
サブブロックに対する視差量とをそれぞれ比較する階層
間比較を行って、|ΔX2n−ΔX1|≦axおよび|
ΔY2n−ΔY1|≦ay(ax,ayは規定値)であ
るか否かを判定する(ステップS5)。ここで、判定結
果がYESの場合には上層すなわち測定ブロックの第1
視差量ΔX1,ΔY1についてOKと判定し(ステップ
S6)、NOの場合には第1視差量ΔX1,ΔY1につ
いてNGと判定して(ステップS7)、第1視差量ΔX
1,ΔY1とエラーの判定結果とを出力する(ステップ
S8)。
ング部9Aでの第1差分絶対値和の演算処理は、測定ブ
ロックMBの全ての画素を対象とすることもできるが、
例えば図5(a)に示すように、基準データや参照デー
タを1画素ずつ間引いて行い、下層マッチング部9Bで
の第2差分絶対値和の演算処理では、図5(b)に示す
ように間引かないようにすることもできる。このように
すれば、第1および第2差分絶対値和演算回路での計算
量を等しくできるので、回路規模を同じにすることがで
きる。
ず、2つ以上の任意の数とすることができる。さらに、
測定ブロックのサイズ(画素数)は、例えば図5では1
2×12の偶数としたが、奇数とすることもできる。な
お、測定ブロックサイズを奇数とする場合には、サブブ
ロックは隣接するサブブロック同士が1ラインずつ重な
るように設定すればよい。さらに、マッチング演算処理
では、対応領域を1画素または複数画素ずつ飛び越して
探索することもできる。このようにすれば、視差測定の
分解能は落ちるが、回路規模の縮小や計算時間の短縮を
図ることができる。また、入力する画像に対して解像度
(画素数)削減やスムージングなどの前処理を行って、
測定時間や回路規模を縮小したり、ノイズの影響を減ら
したりすることもできる。さらに、下層マッチング部9
Bを一対の差分絶対値和演算回路と最小値検出回路とで
構成し、これを各サブブロックで順次使用してそれぞれ
の視差量を演算したり、あるいは上層マッチング部9A
の一対の差分絶対値和演算回路と最小値検出回路とを共
用して、各サブブロックの視差量を演算するよう構成す
ることもできる。さらにまた、マッチングは、差分絶対
値和に限らず、左右ブロックの類似性を示すものであれ
ば、例えば相互相関のような他の演算量を用いることも
できる。上記の各変形例は、後述の実施の形態にも適宜
適用することができる。
実施の形態を示すもので、図6は視差測定部の要部の回
路構成を示すブロック図、図7は視差量測定動作の概要
を示すフローチャートである。本実施の形態は、視差測
定部9の構成が第1実施の形態と異なるものである。す
なわち、第1実施の形態では上層マッチング部9Aに第
1差分絶対値和演算回路901を設けて測定ブロックの
差分絶対値和を演算するようにしたが、本実施の形態で
は、図6に示すように第1差分絶対値和演算回路901
に代えて加算回路920を設け、この加算回路920に
おいて下層マッチング部9Bの第2−1〜2−4差分絶
対値和演算回路903〜906の出力を加算して、測定
ブロックの差分絶対値和を演算するようにしたものであ
る。
は、第1実施の形態と同様に、第2−1〜2−4差分絶
対値和演算回路903〜906でサブブロックの差分絶
対値和を演算し、それらを対応する第2−1〜2−4最
小値検出回路907〜910に供給してそれまでの最小
値と比較し、小さければ最小値と視差量ΔX2n,ΔY
2nとを更新する。本実施の形態では、第2−1〜2−
4差分絶対値和演算回路903〜906でそれぞれ演算
される差分絶対値和を上層マッチング部9Aの加算回路
920にも供給する。
値和の和を演算し、これを測定ブロックに対する第1差
分絶対値和とする。この第1差分絶対値和は、第1実施
の形態と同様に第1最小値検出回路902に供給して、
それまでの最小値と比較し、小さければ最小値と視差量
ΔX1,ΔY1とを更新する。
業を参照データを切り出す位置を変えて繰り返し、当該
測定ブロックおよびその各サブブロックに対するマッチ
ング演算処理が終了したら、第1実施の形態と同様に、
上層マッチング部9Aでの第1視差量911(ΔX1,
ΔY1)を測定ブロックの視差量7(DisX,Dis
Y)として出力すると共に、階層間比較回路916にお
いて、測定ブロック(上層マッチング部9A)に対する
第1視差量911と第1〜第4サブブロック(下層マッ
チング部9B)に対する第2−1〜2−4視差量912
〜915とをそれぞれ比較して、第2−1〜2−4視差
量912〜915の少なくとも一つが、第1視差量91
1とほぼ等しい(差が規定値以内)ときは、エラー判定
回路917からOKを意味するエラーコード8を出力
し、第2−1〜2−4視差量912〜915のいずれも
が第1視差量911と大きく異なるときは、エラー判定
回路917からNGを意味するエラーコード8を出力す
る。
動作の概要を示すフローチャートである。先ず、ステレ
オ画像の一方の画像に対する測定ブロックの設定(ステ
ップS11)およびサブブロックの設定(ステップS1
2)が終了したら、サブブロックに対する参照データを
設定して(ステップS13)、サブブロックのマッチン
グ演算処理を行い、各サブブロックの差分絶対値和を算
出する(ステップS14)と共に、その最小値を検出し
て各サブブロックに対する第2−n視差量ΔX2n,Δ
Y2n(n=1〜4)を更新する(ステップS15)。
クの差分絶対値和は、加算することで測定ブロックの差
分絶対値和を算出し(ステップS16)、その差分絶対
値和の最小値を検出して測定ブロックに対する第1視差
量ΔX1,ΔY1を更新する(ステップS17)。
までの処理は、ステップS18においてサブブロックの
マッチング演算が終了するまで繰り返し、マッチング演
算が終了したら、測定ブロックに対する第1視差量ΔX
1,ΔY1と各サブブロックに対する第2−n視差量Δ
X2n,ΔY2nとをそれぞれ比較する階層間比較を行
って、|ΔX2n−ΔX1|≦axおよび|ΔY2n−
ΔY1|≦ay(ax,ayは規定値)であるか否かを
判定する(ステップS19)。ここで、判定結果がYE
Sの場合には上層すなわち測定ブロックの第1視差量Δ
X1,ΔY1についてOKと判定し(ステップS2
0)、NOの場合には第1視差量ΔX1,ΔY1につい
てNGと判定して(ステップS21)、第1視差量ΔX
1,ΔY1とエラーの判定結果とを出力する(ステップ
S22)。
演算回路を用いることなく、第2−1〜2−4差分絶対
値和演算回路903〜906から出力される各サブブロ
ックの差分絶対値和を加算回路920で加算して測定ブ
ロックに対する第1差分絶対値和を得るようにしたの
で、第1実施の形態に比べ回路規模を縮小できると共
に、処理時間も短くできる。
の画素や探索範囲を間引く場合には、上層および下層の
間引きが等しくなる。
施の形態を示すもので、図8は全体の要部の回路構成を
示すブロック図、図9は図8に示す視差測定部の要部の
回路構成を示すブロック図、図10は視差量測定動作の
概要を示すフローチャートである。
示すように、測定ブロック設定部3からの基準データ5
および探索範囲/参照ブロック設定部4からの参照デー
タ6に基づいて、視差測定部9から4つのサブブロック
の視差量701〜704と、その各々のエラーコード8
01〜804とを出力するようにしたものである。
マッチング部9A、下層マッチング部9B、および第2
−1〜2−4階層間比較/エラー判定回路921〜92
4を有している。
および下層マッチング部9Bを第2実施の形態と同様に
構成して、上層マッチング部9Aで測定ブロックに対す
る第1視差量911を演算し、下層マッチング部9Bで
各サブブロックに対する第2−1〜2−4視差量912
〜915を演算する。第1視差量911は第2−1〜2
−4階層間比較/エラー判定回路921〜924に供給
し、第2−1〜2−4視差量912〜915は視差量7
01〜704として出力すると共に、対応する第2−1
〜2−4階層間比較/エラー判定回路921〜924に
供給する。
回路921〜924では、第2−1〜2−4視差量91
2〜915(下層マッチング部9Aの結果)と第1視差
量911(上層マッチング部9Bの結果)とをそれぞれ
比較し、両者の差が規定範囲内であればOKを、両者の
差が規定範囲外であればNGを意味するエラーコード8
01〜804を出力する。
定動作の概要を示すフローチャートである。本実施の形
態では、ステップS11〜S18で図7で説明したと同
様の処理を行って、測定ブロックに対する第1視差量Δ
X1,ΔY1と各サブブロックに対する第2−n視差量
ΔX2n,ΔY2n(n=1〜4)とを求めたら、第1
視差量ΔX1,ΔY1と第2−n視差量ΔX2n,ΔY
2n(n=1〜4)とをそれぞれ階層間比較して、|Δ
X2n−ΔX1|≦axおよび|ΔY2n−ΔY1|≦
ay(ax,ayは規定値)であるか否かを判定する
(ステップS23)。ここで、判定結果がYESの第2
−n視差量ΔX2n,ΔY2nについては対応するエラ
ーコードの内容をOKとし(ステップS24)、NOの
第2−n視差量ΔX2n,ΔY2nについては対応する
エラーコードの内容をNGとして(ステップS25)、
4つのサブブロックの視差量701〜704と、その各
々のエラーコード801〜804とを出力する(ステッ
プS26)。
視差の統計量を求める場合、各測定ブロックが全体に及
ぼす影響の大きさを第1,第2実施の形態の場合よりも
小さくできる。すなわち、第1,第2実施の形態の場合
には、各測定ブロックの影響度は1か0となるが、本実
施の形態では4,3,2,1,0の影響度を取り得るこ
とになる。したがって、例えば4個のサブブロックが同
じ視差を持っている場合には測定ブロックの影響度は4
になるが、前景と背景との境界上にあるような測定ブロ
ックでは、どちらにマッチングしても影響度は小さくな
る。このような境界上の測定ブロックの視差測定結果
は、測定ブロック内の一部に対しては正解だが、他の部
分に対してはエラーである。
のエラーマッチングであっても、一つのサブブロックの
結果が測定ブロックの視差結果とたまたま一致してしま
うと、測定ブロック全体のマッチングがOKと判定され
てエラーを検出し損ね、影響度が大きくなることが懸念
されるが、本実施の形態では一致したサブブロックのみ
がマッチングOKと判定されるので、測定ブロックの影
響度は低くなる。このように、本実施の形態では、サブ
ブロックの信頼性によって各測定ブロックを重み付けす
ることができるので、一カ所のエラーが全体に及ぼす影
響を軽減することができる。
部9Aを第2実施の形態と同様に加算回路920を用い
て構成したが、第1実施の形態と同様に第1差分絶対値
和演算回路を用いて構成することもできる。
第4実施の形態を示すもので、図11は視差測定部の要
部の回路構成を示すブロック図、図12は図11に示す
特徴チェック部の構成を示すブロック図である。
第1実施の形態において、視差測定部9の上層マッチン
グ部9Aに測定ブロック内の特徴(明確な輝度変化)の
有無をチェックする特徴チェック部10を設けると共
に、下層マッチング部9Bにも各サブブロックに対応し
て当該サブブロック内の特徴の有無をチャックする特徴
チェック部10を設ける。
うに、エッジ抽出フィルタ1001、二値化回路100
2、合計回路1003および比較判定回路1004を有
し、基準データ5をエッジ抽出フィルタ1001にかけ
てエッジを抽出し、その出力を二値化回路1002で適
正な閾値で二値化して、合計回路1003で対応するブ
ロックにおける二値化画像のエッジの画素数を合計し、
その合計値を比較判定回路1004において規定値と比
較して、合計値が規定値よりも小さいときは当該ブロッ
ク内に特徴がないとしてNGを意味するエラーコードを
出力し、合計値が規定値よりも大きいときは当該ブロッ
ク内に特徴があるとしてOKを意味するエラーコードを
出力するように構成する。
0から出力される第1エラーコードおよび下層マッチン
グ部9Bの各サブブロックに対応する特徴チェック部1
0から出力される第2−1〜2−4エラーコードは階層
間比較回路916に供給し、ここで例えば第2−1〜2
−4エラーコードがNGのときは、当該NGのサブブロ
ックに対応する視差量と測定ブロックに対する第1視差
量との比較を省略あるいはその比較結果を無視し、第1
エラーコードがNGのときは、第2−1〜2−4エラー
コードに拘わらず、エラー判定回路917でNGと判定
される比較結果をエラー判定回路917に出力する。
する第1視差量と、各サブブロックに対する第2−1〜
2−4視差量との階層間比較に基づいてエラーマッチン
グを判定する場合に比べて、より確実にエラーマッチン
グを減らすことができる。
第2実施の形態や第3実施の形態、あるいは後述する第
5実施の形態において、マッチングを行って所定ブロッ
クの視差量を求めるマッチング演算処理部にも有効に適
用することができる。
対応するマッチング演算処理部に対して並列的に設けた
が、マッチング処理の前に特徴チェックを行い、その結
果がNGのときは対応するマッチング処理を省略するよ
うに構成することもできる。このように構成すれば、特
徴の少ない画像を扱う場合に、演算時間を短縮すること
ができる。
形態における視差測定部の要部の回路構成を示すブロッ
ク図である。本実施の形態は、第2実施の形態の4つの
サブブロックから成る一つの測定ブロックを第3実施の
形態のサブブロックの一つとする3層構成として、第2
層の4ブロックの視差量をそれぞれ測定し、その各視差
量に対応するブロックでのマッチングエラーを、当該ブ
ロックの視差量とその上下層のブロックの視差量との階
層間比較に基づいて判定するようにしたものである。
層マッチング部9Cと、第1層ブロックの4個の第2層
ブロックのうちの1個に対応する第2層マッチング部9
D−1と、16個の第3層ブロックのうちの1個の第2
層ブロックに対応する4個の第3層ブロックからなる第
3層マッチング部9E−1と、第2層マッチング部9D
−1に対応する第2−1上位階層間比較/エラー判定回
路930と、第3層マッチング部9E−1に対応する第
2−1下位階層間比較回路931と、第2−1下位階層
間比較回路931に対応するエラー判定回路932と、
第2−1上位階層間比較/エラー判定回路930および
エラー判定回路932に対応する最終エラー判定回路9
33とを図示している。
3層ブロックの各々に対応する第3−1−1〜3−1−
4差分絶対値和演算回路935〜938と、その各々の
最小値を検出する第3−1−1〜3−1−4最小値検出
回路939〜942とを有している。第2層マッチング
部9D−1は、対応する第3層マッチング部9E−1の
第3−1−1〜3−1−4差分絶対値和演算回路935
〜938からの出力を加算する第2−1加算回路944
と、その最小値を検出する第2−1最小値検出回路94
5とを有している。第1層マッチング部9Cは、第2層
マッチング部9D−1を含む4個の第2層マッチング部
の第2−1〜2−4加算回路からの出力を加算する第1
加算回路946と、その最小値を検出する第1最小値検
出回路947とを有している。
と同様に、第3−1−1〜3−1−4差分絶対値和演算
回路935〜938で第3層の対応する各ブロックの差
分絶対値和を演算し、第3−1−1〜3−1−4最小値
検出回路939〜942で差分絶対値和の演算結果をそ
れまでの最小値とそれぞれ比較して、小さければ対応す
る最小値と第3−1−1〜3−1−4視差量951〜9
54(ΔX311,ΔY311〜ΔX314,ΔY31
4)とを更新する。
−1〜3−1−4差分絶対値和演算回路935〜938
の出力を加算して第2層の1個のブロックの差分絶対値
和を得、第2−1最小値検出回路945でそれまでの最
小値と比較して、小さければ最小値と第2−1視差量9
55(ΔX21,ΔY21)とを更新し、この第2−1
最小値検出回路945での第2−1視差量955を第2
層の当該ブロックにおける視差量701(DisX1,
DisY1)として出力する。
算回路944の出力、図示しない第2−2〜2−4加算
回路の出力とを加算して第1層ブロックの差分絶対値和
を得、第1最小値検出回路931でそれまでの最小値と
比較して、小さければ最小値と第1視差量956(ΔX
1,ΔY1)とを更新する。
第2層の第2−1視差量955と第3層の第3−1−1
〜3−1−4視差量951〜954とをそれぞれ比較
し、第3−1−1〜3−1−4視差量951〜954の
いずれか一つが第2−1視差量955とほぼ等しい(差
が規定値以内)ときは、エラー判定回路932からOK
を意味するエラーコード811を出力する。これに対
し、第3−1−1〜3−1−4視差量951〜954の
いずれもが第2−1視差量955と大きく異なるとき
は、エラー判定回路932からNGを意味するエラーコ
ード811を出力する。
定回路930では、第2層の第2−1視差量955と第
1層の第1視差量956とを比較して、両者がほぼ等し
い(差が規定値以内)のときは、OKを意味するエラー
コード812を出力する。これに対し、両者が大きく異
なるときは、NGを意味するエラーコード812を出力
する。最終エラー判定回路933では、エラーコード8
11およびエラーコード812のどちらかがOKのとき
は、OKを意味するエラーコード801を出力する。
造として、下位の第2層と第3層との階層間比較に基づ
いてエラーマッチングを判定すると共に、上位の第1層
と第2層との階層間比較に基づてエラーマッチングを判
定して、いずれかがOKならOKと判定するようにした
ので、画像の特徴が少ないときや下位のブロックサイズ
をかなり小さくした場合に、下層のブロックでは特徴チ
ェックでエラーと判定されたり、上位との比較がうまく
いかない場合があっても、上位の層との比較によってエ
ラー判定を確実に行うことができる。したがって、視差
が複雑であったり、種々の空間周波数が存在する場合に
も、エラーマッチングを確実に判定することができる。
層としたが、さらに多くの階層を設定することもでき
る。
応用例を示すもので、頭部装着型表示装置(HMD)に
適用した場合を示している。このHMDは、映像表示コ
ントローラ13、HMDユニット14、前処理部15、
評価量演算部16、評価部17、および制御信号出力部
18と、上記実施の形態で説明した測定ブロック設定部
3、探索範囲/参照ブロック設定部4および視差測定部
9からなる視差量測定装置とを有している。
表示コントローラ13に入力し、該映像表示コントロー
ラ13による制御のもとにHMDユニット14に表示す
る。ここで、ステレオ映像信号は、例えばゲーム機やビ
デオあるいはコンピュータなどの映像信号で、左右映像
がフィールド毎に交互に伝送されるものであっても良い
し、左右映像が1フィールド内に含まれているものであ
ってもよい。
目に対応する2つの表示部を含み、左目用の表示部には
左映像を、右目用の表示部には右映像をそれぞれ表示す
ることにより、ユーザーは立体的なステレオ映像を見る
ことができるようになっている。また、映像表示コント
ローラ13により左右どちらかの映像のみを左右両方の
表示部に表示するように制御することにより、ユーザー
は通常の2D映像を見ることができるようになってい
る。なお、入力映像がステレオ映像でなく通常の2D映
像の場合には、入力映像信号をそのまま左右両方の表示
部に表示することにより、ユーザーは通常の2D映像を
見ることができるようになっている。このような表示の
切替は、映像表示コントローラ13に切替スイッチを設
けてユーザーが手動で切り替える場合もあれば、自動的
に映像信号の種類を検出して切り替える場合もある。
し、ここで特定のタイミングで左右画像を各々のメモリ
に格納して、解像度変換、スムージングなど視差測定の
ための前処理を施す。その後、上記実施の形態で説明し
たと同様に、左画像上に複数の測定ブロックを設定し、
各ブロックに対して右画像上から対応する部分を探索し
て視差測定部9で画像の視差を測定する。
びエラーコード8は評価量演算部16に入力し、ここで
1画面分の測定ブロックに対する視差測定の結果を統合
して、評価量を算出する。例えば、画面内の視差量の統
計量(最大値や最頻値、あるいは平均値など)を演算し
た後、所定の規則に従って当該画像に対する評価値を与
え、その評価値をそれまでの評価値に加算する。ここ
で、画像の評価値は、例えば視差の最大値に係数をかけ
て二乗したり、統計量に応じたランク付けを行う表を参
照する等の所定の規則に従って求める。なお、統計量を
演算する際には、エラーコード8を参照して、NGを示
すコードであればそのときの視差量は無視する。
評価部17で規定値と比較し、規定値を超えた場合に
は、制御信号出力部18から映像表示コントローラ13
へ表示切替の指示信号を送出して、映像表示コントロー
ラ13において強制的に画像表示をステレオ映像表示か
ら2D映像表示に切り替える。
て説明する。一般に、ステレオ映像は、視差量が大きす
ぎると見づらくなったり、立体感が損なわれたりするの
で、表示装置にあった適切な視差で見ることが望ましい
が、特定の表示装置に最適化して作られた映像の視差
は、別の表示装置では不適切になることがある。また、
近年2D映像やゲーム映像をステレオ映像に変換する装
置がいくつかあるが、設定が不適切だと大きな視差量の
映像が連続して表示される場合もある。そこで、映像に
含まれる視差量を監視し、大きな視差量が続く場合に
は、映像の設定が不適切である可能性が高いため、例え
ばステレオ表示を2D表示に切り替えることにより、ユ
ーザーが気づかないまま不適切に表示された映像を見続
けるのを避けることができる。
値が規定値を超えた場合に、制御信号出力部18から映
像表示コントローラ13へ表示切替の指示信号を送出す
るようにしたが、表示の切替指示に換えて視差設定を確
認するようユーザーに促すメッセージを表示させる信号
を出力することもできる。また、例えば視差量の最頻値
が適度な値になるように映像表示を制御することもでき
る。この場合には、映像信号の読み出し位置を左右でず
らし、左右の映像表示を互いに逆方向にシフトさせれば
よい。また、評価量演算の際、エラー箇所の視差は無視
するようにしたが、エラー箇所が多数の場合には評価量
に特定の値を充てるようにすることもできる。
画像に設定した測定ブロックを複数のサブブロックに分
割し、測定ブロックおよび各サブブロックの各々につい
て第2の画像上でマッチングを行ってそれぞれ視差量を
求め、測定ブロックの視差量と各サブブロックの視差量
との比較に基づいて、測定ブロックのマッチングがエラ
ーか否か、あるいは各サブブロックのマッチングがエラ
ーか否かを判定するようにしたので、視差測定に際して
のエラーマッチングと正しいマッチングとを明確に切り
分けて検出でき、視差の統計量などを計算する際に、エ
ラーマッチングの影響を減らすことができる。
態の全体の要部の回路構成を示すブロック図である。
すブロック図である。
の原理を説明するための図である。
を示すフローチャートである。
の変形例を説明するための図である。
態における視差測定部の要部の回路構成を示すブロック
図である。
を示すフローチャートである。
態の全体の要部の回路構成を示すブロック図である。
すブロック図である。
要を示すフローチャートである。
形態における視差測定部の要部の回路構成を示すブロッ
ク図である。
ブロック図である。
形態における視差測定部の要部の回路構成を示すブロッ
ク図である。
表示装置に適用した例を示すブロック図である。
を説明するための図である。
測定方法を説明するための図である。
和演算回路 902,907〜910,939〜942,945,9
47 最小値検出回路 916 階層間比較回路 917 エラー判定回路 920,944,946 加算回路 921〜924 階層間比較/エラー判定回路 930 上位階層間比較/エラー判定回路 931 下位階層間比較回路 932 エラー判定回路 933 最終エラー判定回路
Claims (3)
- 【請求項1】 第1の画像および第2の画像からなるス
テレオ画像の上記第1の画像上に所定の測定ブロックを
設定する測定ブロック設定手段と、 上記第2の画像上で上記測定ブロックと対応する領域と
のマッチングを行って、両画像の座標の違いから上記測
定ブロックの視差量を測定する上層マッチング手段と、 上記測定ブロックを複数のサブブロックに分割し、上記
第2の画像上で上記各サブブロックと対応する領域との
マッチングを行って、両画像の座標の違いから上記各サ
ブブロックの視差量を測定する下層マッチング手段と、 該下層マッチング手段で得られた上記各サブブロックの
視差量と上記上層マッチング手段で得られた上記測定ブ
ロックの視差量とを比較する視差量比較手段と、 該視差量比較手段での比較結果に基づいて上記上層マッ
チング手段でのマッチングがエラーか否かを判定するエ
ラー判定手段と、 を有することを特徴とする視差量測定装置。 - 【請求項2】 第1の画像および第2の画像からなるス
テレオ画像の上記第1の画像上に所定の測定ブロックを
設定する測定ブロック設定手段と、 上記第2の画像上で上記測定ブロックと対応する領域と
のマッチングを行って、両画像の座標の違いから上記測
定ブロックの視差量を測定する上層マッチング手段と、 上記測定ブロックを複数のサブブロックに分割し、上記
第2の画像上で上記各サブブロックと対応する領域との
マッチングを行って、両画像の座標の違いから上記各サ
ブブロックの視差量を測定する下層マッチング手段と、 該下層マッチング手段で得られた上記各サブブロックの
視差量と上記上層マッチング手段で得られた上記測定ブ
ロックの視差量とを比較する視差量比較手段と、 該視差量比較手段での比較結果に基づいて上記下層マッ
チング手段での各サブブロックのマッチングがエラーか
否かを判定するエラー判定手段と、 を有することを特徴とする視差量測定装置。 - 【請求項3】 請求項1または2に記載の視差量測定装
置において、 上記下層マッチング手段は、上記第1の画像上のサブブ
ロックと対応する上記第2の画像上の領域との類似性を
演算するサブブロック類似性演算手段と、上記第1の画
像上の各サブブロックについて、上記サブブロック類似
性演算手段での演算結果に基づいて類似性がもっとも高
くなる上記第2の画像上の領域の位置および類似性を示
す値を検出する手段とを含み、 上記上層マッチング手段は、上記サブブロック類似性演
算手段での各サブブロックの類似性の演算結果を加算す
る加算手段と、該加算手段での加算結果に基づいて上記
測定ブロックと対応する上記第2の画像上の領域との類
似性がもっとも高くなる上記第2の画像上の領域の位置
および類似性を示す値を検出する手段とを含むことを特
徴とする視差量測定装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001046048A JP4537597B2 (ja) | 2001-02-22 | 2001-02-22 | 視差量測定装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001046048A JP4537597B2 (ja) | 2001-02-22 | 2001-02-22 | 視差量測定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002247604A true JP2002247604A (ja) | 2002-08-30 |
JP4537597B2 JP4537597B2 (ja) | 2010-09-01 |
Family
ID=18907743
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001046048A Expired - Fee Related JP4537597B2 (ja) | 2001-02-22 | 2001-02-22 | 視差量測定装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4537597B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008190868A (ja) * | 2007-01-31 | 2008-08-21 | Fuji Heavy Ind Ltd | ステレオ画像処理装置 |
JP2009146034A (ja) * | 2007-12-12 | 2009-07-02 | National Institute Of Information & Communication Technology | 多視点画像奥行値抽出装置、その方法およびそのプログラム |
JP2012019365A (ja) * | 2010-07-07 | 2012-01-26 | Sony Computer Entertainment Inc | 画像処理装置および画像処理方法 |
WO2012029615A1 (ja) * | 2010-09-03 | 2012-03-08 | ソニー株式会社 | 画像処理装置および画像処理方法 |
WO2014069196A1 (ja) * | 2012-10-29 | 2014-05-08 | 日立オートモティブシステムズ株式会社 | ステレオ画像処理装置及びステレオ画像処理方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6645682B2 (ja) | 2015-03-17 | 2020-02-14 | キヤノン株式会社 | 距離取得装置、距離画像信号補正装置、撮像装置、距離画像量子化装置、および方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04203908A (ja) * | 1990-11-29 | 1992-07-24 | Matsushita Electric Ind Co Ltd | 3次元データ獲得方法及び3次元データ獲得装置 |
JP2001043496A (ja) * | 1999-07-30 | 2001-02-16 | Fuji Heavy Ind Ltd | フェールセーフ機能を有する車外監視装置 |
-
2001
- 2001-02-22 JP JP2001046048A patent/JP4537597B2/ja not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04203908A (ja) * | 1990-11-29 | 1992-07-24 | Matsushita Electric Ind Co Ltd | 3次元データ獲得方法及び3次元データ獲得装置 |
JP2001043496A (ja) * | 1999-07-30 | 2001-02-16 | Fuji Heavy Ind Ltd | フェールセーフ機能を有する車外監視装置 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008190868A (ja) * | 2007-01-31 | 2008-08-21 | Fuji Heavy Ind Ltd | ステレオ画像処理装置 |
JP2009146034A (ja) * | 2007-12-12 | 2009-07-02 | National Institute Of Information & Communication Technology | 多視点画像奥行値抽出装置、その方法およびそのプログラム |
JP2012019365A (ja) * | 2010-07-07 | 2012-01-26 | Sony Computer Entertainment Inc | 画像処理装置および画像処理方法 |
US8878915B2 (en) | 2010-07-07 | 2014-11-04 | Sony Corporation | Image processing device and image processing method |
WO2012029615A1 (ja) * | 2010-09-03 | 2012-03-08 | ソニー株式会社 | 画像処理装置および画像処理方法 |
US8842972B2 (en) | 2010-09-03 | 2014-09-23 | Sony Corporation | Image processing device and image processing method |
WO2014069196A1 (ja) * | 2012-10-29 | 2014-05-08 | 日立オートモティブシステムズ株式会社 | ステレオ画像処理装置及びステレオ画像処理方法 |
JP2014089498A (ja) * | 2012-10-29 | 2014-05-15 | Hitachi Automotive Systems Ltd | ステレオ画像処理装置及びステレオ画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP4537597B2 (ja) | 2010-09-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7372987B2 (en) | Three-dimensional image evaluation unit and display device using the unit | |
EP2064675B1 (en) | Method for determining a depth map from images, device for determining a depth map | |
JP6158929B2 (ja) | 画像処理装置、方法及びコンピュータプログラム | |
EP3654286A2 (en) | Image capturing apparatus, monitoring system, image processing apparatus, image capturing method, and non-transitory computer readable recording medium | |
EP2509326A2 (en) | Analysis of 3D video | |
EP3582488A1 (en) | Autofocus for stereoscopic camera | |
JP5164351B2 (ja) | 物体検出装置および物体検出方法 | |
WO2003036992A1 (en) | Method and apparatus for image matching | |
US20160300517A1 (en) | Method for visualizing three-dimensional images on a 3d display device and 3d display device | |
US9406140B2 (en) | Method and apparatus for generating depth information | |
US8243124B2 (en) | Face detection apparatus and distance measurement method using the same | |
US8687000B2 (en) | Image generating apparatus and computer program | |
CN108257165A (zh) | 图像立体匹配方法、双目视觉设备 | |
US20120257816A1 (en) | Analysis of 3d video | |
CN104243970A (zh) | 基于立体视觉注意力机制和结构相似度的3d绘制图像的客观质量评价方法 | |
US6181815B1 (en) | Subject image extraction device | |
JP2002247604A (ja) | 視差量測定装置 | |
JP2003150940A (ja) | ステレオ画像処理装置 | |
JP2002271818A (ja) | 視差量測定装置 | |
EP2866446A1 (en) | Method and multi-camera portable device for producing stereo images | |
CN114387324A (zh) | 深度成像方法、装置、电子设备和计算机可读存储介质 | |
CN113936316A (zh) | Doe脱落检测方法、电子设备和计算机可读存储介质 | |
TWI826033B (zh) | 影像顯示方法與3d顯示系統 | |
JP2019201324A (ja) | 撮像装置、情報処理装置、それらの制御方法、および、プログラム | |
TWI784330B (zh) | 物件追蹤方法及其處理裝置與系統 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080213 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100519 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100525 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100618 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130625 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |