JP4365699B2 - 状態解析装置 - Google Patents

状態解析装置 Download PDF

Info

Publication number
JP4365699B2
JP4365699B2 JP2004064737A JP2004064737A JP4365699B2 JP 4365699 B2 JP4365699 B2 JP 4365699B2 JP 2004064737 A JP2004064737 A JP 2004064737A JP 2004064737 A JP2004064737 A JP 2004064737A JP 4365699 B2 JP4365699 B2 JP 4365699B2
Authority
JP
Japan
Prior art keywords
movement
coordinates
center
unweighted
measured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004064737A
Other languages
English (en)
Other versions
JP2005245974A (ja
Inventor
一弘 味村
安弘 竹村
真人 中島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Osaka Cement Co Ltd
Keio University
Original Assignee
Sumitomo Osaka Cement Co Ltd
Keio University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Osaka Cement Co Ltd, Keio University filed Critical Sumitomo Osaka Cement Co Ltd
Priority to JP2004064737A priority Critical patent/JP4365699B2/ja
Publication of JP2005245974A publication Critical patent/JP2005245974A/ja
Application granted granted Critical
Publication of JP4365699B2 publication Critical patent/JP4365699B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Alarm Systems (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Emergency Alarm Devices (AREA)

Description

本発明は、状態解析装置に関し、特に対象物の状態の異常を正確に把握できる状態解析装置に関するものである。
空間内、例えば風呂場やトイレ等での対象物、例えば人物の動きを検出する動き検出装置として、従来から、動き検出センサが提案されている。代表的な例としては、ベッド上の就寝者にパターンを投影し、投影されたパターンを連続的に撮像した画像からパターンの移動量を算出することで、就寝者の呼吸を監視する監視装置があった(例えば、特許文献1参照。)。
特開2002−175582号公報 (第5−9頁、第1−13図)
しかしながら以上のような従来の装置によれば、対象物の各部位の状態、例えば動きのある部位の動きの方向、動きの状態を正確に把握しづらかった。さらに言えば、例えば上体の平均的な動きの大きさに現れない異常は検出しづらかった。
そこで本発明は、対象物の状態の異常を正確に把握できる状態解析装置を提供することを目的としている。
上記目的を達成するために、請求項1に係る発明による状態解析装置1は、例えば図1、図4に示すように、対象領域に存在する対象物2の高さ方向の動きを複数の測定点で測定する三次元センサ10と;前記測定された複数の動きに基づいて、対象物2の状態を示す情報を演算する演算手段20とを備え;演算手段20は、前記複数の測定点のうち前記動きのあった測定点が形成する領域における位置座標の重み付け無し代表座標を計算する重み付け無し代表位置演算手段22と、前記動きのあった測定点のそれぞれの位置座標について当該測定点における前記動きの量に関する量で重み付けを行った値に基づいて、前記動きのあった測定点が形成する領域の重み付け重心座標を計算する重み付け重心位置演算手段23と、前記重み付け無し代表座標と前記重み付け重心座標との差が閾値より大きくなる場合には、警告データを出力するデータ出力手段24とを有する。なお、重み付け無し代表位置演算手段22が、前記動きのあった測定点のすべての位置座標の平均値を前記重み付け無し代表座標とする計算を行うこととしてもよい。
このように構成すると、対象領域に存在する対象物2の高さ方向の動きを複数の測定点で測定する三次元センサ10と、前記測定された複数の動きに基づいて、対象物2の状態を示す情報を演算する演算手段20とを備えているので、演算手段20が三次元センサ10により測定された複数の動きに基づいて、対象物2の状態を示す情報を演算できる。さらに演算手段20は、重み付け無し代表位置演算手段22と、重み付け重心位置演算手段23と、データ出力手段24とを有しているので、前記複数の測定点の位置座標の重み付け無し代表座標と、前記複数の測定点の動きの量に関する量で重み付けを行った値に基づいて、前記動きのある測定点が形成する領域の重み付け重心座標とを計算でき、前記重み付け無し代表座標と前記重み付け重心座標との差が閾値より大きくなる場合には、警告データを出力するので、対象物の状態の異常を正確に把握できる状態解析装置1を提供できる。
また請求項2に記載のように、請求項1に記載の状態解析装置1では、重み付け無し代表位置演算手段22及び重み付け重心位置演算手段23は、前記複数の測定点の一次元方向の座標のみを用いて重み付け無し代表座標及び重み付け重心座標の計算を行うことを特徴とするとよい。
また請求項3に記載のように、請求項1又は請求項2に記載の状態解析装置1では、例えば図2に示すように、三次元センサ10は、対象領域にパターン光を投影する投影装置11と;前記パターン光が投影された対象領域を撮像する撮像装置12と;前記撮像された像上のパターンの移動を測定する測定手段14とを有し;前記測定されたパターンの移動に基づいて、対象物2の高さ方向の動きを複数の点で測定することを特徴とするとよい。
このように構成すると、投影装置11と、撮像装置12と、測定手段14とを有しており、パターン光が投影された対象領域を撮像し、前記撮像された像上のパターンの移動を測定して、さらに、前記測定されたパターンの移動に基づいて、対象物2の高さ方向の動きを複数の点で測定するので、単純な構成でありながら、正確に対象物2の高さ方向の動きを複数の点で測定できる。
また請求項4に記載のように、請求項1乃至請求項3のいずれか1項に記載の状態解析装置1では、三次元センサ10で測定された動きの量が閾値以下である測定点は、演算手段20による演算に使用しないことを特徴とするとよい。
また請求項5に記載のように、請求項1乃至請求項4のいずれか1項に記載の状態解析装置1では、三次元センサ10で測定された動きの周波数が閾値以上である測定点は、演算手段20による演算に使用しないことを特徴としてもよい。
以上のように、本発明によれば、対象領域に存在する対象物の高さ方向の動きを複数の測定点で測定する三次元センサと、前記測定された複数の動きに基づいて、前記対象物の状態を示す情報を演算する演算手段とを備え、前記演算手段は、前記複数の測定点の位置座標の重み付け無し代表座標を計算する重み付け無し代表位置演算手段と、前記複数の測定点の動きの量に関する量で重み付けを行った値に基づいて、前記動きのある測定点が形成する領域の重み付け重心座標を計算する重み付け重心位置演算手段と、前記重み付け無し代表座標と前記重み付け重心座標との差が閾値より大きくなる場合には、警告データを出力するデータ出力手段とを有するので、対象物の状態の異常を正確に把握できる状態解析装置を提供できる。
以下、本発明の実施の形態について、図面を参照して説明する。なお、各図において互いに同一あるいは相当する部材には同一符号を付し、重複した説明は省略する。
図1は、本発明による実施の形態である状態解析装置としての監視装置1の模式的外観図である。監視装置1は、対象領域に存在する対象物の高さ方向の動きを複数の測定点で測定する三次元センサ10と、三次元センサ10により測定された複数の動きに基づいて、対象物の状態を示す情報を演算する演算手段としての演算装置20とを含んで構成される。演算装置20は、監視装置1を制御するものでもある。また監視装置1は、対象領域を監視するように構成されている。本実施の形態では、対象物は、呼吸をするものである。即ち対象物は、例えば人物や動物である。本実施の形態では、対象物は人物2として説明する。また対象物の高さ方向の動きは、呼吸による動きである。即ち高さ方向の動きは人物2の呼吸による動きである。また本実施の形態では、対象領域はベッド3上である。さらに言えば、対象領域はベッド3上で後述の撮像装置12(図2参照)で撮像された領域である。また、三次元センサ10は、対象領域内の各測定点での高さも測定できるものでもある。
また、図中ベッド3上に、人物2が横たわって存在している。また、人物2の上には、さらに寝具4がかけられており、人物2の一部と、ベッド3の一部とを覆っている。この場合には、三次元センサ10は、寝具4の上面の高さ方向の動きを測定している。また寝具4を使用しない場合には、三次元センサ10は、人物2そのものの高さ方向の動きを測定する。
また、ベッド3の上部には、三次元センサ10が配置されている。三次元センサ10については後で詳述する。なお、図示では、三次元センサ10と演算装置20とは別体として示してあるが、一体に構成してもよい。このようにすると、監視装置1を小型化することができる。演算装置20は、典型的にはパソコン等のコンピュータである。
図2の模式的外観図を参照して、三次元センサ10について説明する。本実施の形態では、三次元センサ10は三角測量法を用いて人物2の高さ方向の動きを測定するものである。ここではFGセンサを用いる場合で説明する。なおFGセンサについては後で詳述する。以下、三次元センサ10をFGセンサ10として説明する。FGセンサ10は、対象領域即ちベッド3上にパターン光を投影する投影装置11と、パターン光が投影されたベッド3上を撮像する撮像装置12と、撮像装置12で撮像された像上のパターンの移動を測定する測定手段としての測定装置14とを含んで構成される。さらに測定装置14は、測定されたパターンの移動に基づいて、人物2の高さ方向の動きを複数の点で測定するように構成される。また、投影装置11と、撮像装置12は、測定装置14に電気的に接続され、測定装置14に制御されている。撮像装置12は、典型的にはCCDカメラである。なお、本実施の形態では、測定装置14は、演算装置20と一体に構成される。
またここでは、投影されるパターン光は、複数の輝点である。そして、ベッド3上に投影された複数の輝点は、ベッド3上の複数の測定点にそれぞれ対応する。即ち複数の測定点はベッド3上に存在する人物2に投影された各輝点に対応する。さらに言えば、複数の測定点は人物2に投影された各輝点のうち撮像装置12で撮像された像の画角内に存在する輝点に対応する。また、複数の点で測定された人物2の高さ方向の動きは、図6で後述する輝点の移動に対応する(なお動きの量は輝点の移動量に対応)。以下、各構成について説明する。
図3の模式的斜視図を参照して、監視装置1に適した投影装置11について説明する。なおここでは、説明のために、対象領域を平面102とし、後述のレーザ光束L1を平面102に対して垂直に投射する場合で説明する。投影装置11は、可干渉性の光束を発生する光束発生手段としての光束発生部105と、ファイバーグレーティング120(以下、単にグレーティング120という)とを備えている。光束発生部105により投射される可干渉性の光束は、典型的には赤外光レーザである。光束発生部105は、平行光束を発生するように構成されている。光束発生部105は、典型的には不図示のコリメータレンズを含んで構成される半導体レーザ装置であり、発生される平行光束は、レーザ光束L1である。そしてレーザ光束L1は、断面が略円形状の光束である。ここで平行光束とは、実質的に平行であればよく、平行に近い光束も含む。
またここでは、グレーティング120は、平面102に平行に(Z軸に直角に)配置される。グレーティング120に、レーザ光L1を、Z軸方向に入射させる。するとレーザ光L1は、個々の光ファイバー121により、そのレンズ効果を持つ面内で集光したのち、発散波となって広がって行き、干渉して、投影面である平面102に複数の輝点アレイであるパターン11aが投影される。なお、グレーティング120を平面102に平行に配置するとは、例えば、グレーティング120を構成するFG素子122の各光ファイバー121の軸線を含む平面と、平面102とが平行になるように配置することである。
また、グレーティング120は、2つのFG素子122を含んで構成される。本実施の形態では、各FG素子122の平面は、互いに平行である。以下、各FG素子122の平面を素子平面という。また、本実施の形態では、2つのFG素子122の光ファイバー121の軸線は、互いにほぼ直交している。
FG素子122は、例えば、直径が数10ミクロン、長さ10mm程度の光ファイバー121を数10〜数100本程度、平行にシート状に並べて構成したものである。また、2つのFG素子122は、接触して配置してもよいし、それぞれの素子平面の法線方向に距離を空けて配置してもよい。この場合には、2つのFG素子122の互いの距離は、パターン11aの投影に差支えない程度とする。レーザ光束L1は、典型的には、グレーティング122の素子平面に対して垂直に入射させる。なお、ここではFG素子122を用いたグレーティング120で説明するが、これに限られずグレーティング120の代わりとして、例えば回折格子やマイクロレンズアレイを用いたグレーティングであってもよい。
このように、投影装置11は、2つのFG素子122を含んで構成されたグレーティング120が光学系となるので、複雑な光学系を必要とすることなく、光学筐体を小型化できる。さらに投影装置11は、グレーティング120を用いることで、単純な構成で、複数の輝点11bをパターン11aとして対象領域に投影できる。なお、パターン11aは、典型的には正方格子状に配列された複数の輝点11bである。また、輝点の形状は楕円形を含む略円形である。
図2に戻って説明する。撮像装置12は、結像光学系12a(図5参照)と撮像素子15(図5参照)を有するものである。撮像素子15は、典型的にはCCD撮像素子である。また、撮像素子15として、CCDの他にCMOS構造の素子が最近盛んに発表されており、それらも当然使用可能である。特にこれらの中には、素子自体にフレーム間差算や二値化の機能を備えたものがあり、これらの素子の使用は好適である。
撮像装置12は、前述の光束発生部105(図3参照)により発生されるレーザ光束L1の波長の周辺部以外の波長の光を減光するフィルタ12b(図5参照)を備えるとよい。フィルタ12bは、典型的には干渉フィルタ等の光学フィルタであり、結像光学系12aの光軸上に配置するとよい。このようにすると、撮像装置12は、撮像素子15に受光する光のうち、投影装置11より投影されたパターン11aの光の強度が相対的にあがるので、外乱光による影響を軽減できる。また、光束発生部105により発生されるレーザ光束L1は、典型的には赤外光レーザの光束である。また、レーザ光L1は、継続的に照射してもよいし、断続的に照射してもよい。断続的に照射する場合には、撮像装置12による撮像を、照射のタイミングに同期させて行うようにする。
ここで、FGセンサ10の設置例について説明する。投影装置11と、撮像装置12は、ベッド3の上方に配置されている。図示では、人物2のおよそ頭部上方に撮像装置12が、ベッド3のおよそ中央部上方に投影装置11が配置されている。投影装置11は、ベッド3上にパターン11aを投影している。また、撮像装置12の画角は、およそベッド3の中央部分を撮像できるように設定されている。さらに言えば、ベッド3上に存在する人物2の主に胸部と腹部を撮像できるような画角に設定されている。即ち撮像装置12は主に人物2の胸部と腹部に投影された輝点を撮像している。このように、呼吸の動きが反映されやすい胸部と腹部に投影された輝点を撮像することで、呼吸を精度良く測定しやすくなる。またFGセンサ10は、投影装置11と撮像装置12とを結ぶ直線の方向即ち三角測量法の基線方向がベッド3の長手方向の中心線と平行になるように設置されている。さらに言えば、FGセンサ10は、FGセンサ10の基線方向とベッド3の長手方向の中心線が平行であり、且つ投影装置11と撮像装置12とを結ぶ基線がベッド3の長手方向の中心線のおよそ鉛直上方に位置するように配置されている。なおここでは基線方向は、ベッド3の長手方向の中心線と平行である場合で説明するが、例えばベッド3の長手方向の中心線と直交する方向としてもよい。この場合であっても人物2の動きの測定には支障ない。
投影装置11は、ここでは、その光軸(レーザ光束L1の投射方向)を、図示のように、ベッド3の上面の垂直方向対して、およそ平行方向に設置する。なおここでは、上記のように、投影装置11は、その光軸をベッド3の上面の垂直方向に対しておよそ平行方向に設置するが、前記垂直方向に対して、傾けて設置してもよい。
またここでは、撮像装置12は、その光軸をベッド3の上面の垂直方向に対して、傾けて設置する。このようにすることで、例えば撮像装置12と投影装置11との距離を離して設置することが容易に行える。言い換えれば、三角測量法の基線長を長く取ることが容易に行える。なおここでは、上記のように、撮像装置12は、その光軸をベッド3の上面の垂直方向に対して傾けて設置するが、投影装置11と同様に、その光軸をベッド3の上面の垂直方向に対し、およそ平行方向に設置してもよい。さらに、投影装置11と撮像装置12は、それぞれの光軸を、互いに平行方向に向けて設置してもよい。
また、投影装置11と撮像装置12とは、ある程度距離を離して設置するとよい。このようにすることで、図5で後述する距離d(基線長d)が長くなるので、変化を敏感に検出できるようになる。なお、基線長は長く取ることが好ましいが、短くてもよい。但しこの場合には、呼吸等の小さな動きを検出しにくくなるが、後述のように、輝点の重心位置を検出するようにすれば、小さな動き(呼吸)の検出も可能である。
図4のブロック図を参照して、監視装置1の構成例について説明する。前述のように、演算装置20は、測定装置14と一体に構成されている。さらに言えば、測定装置14は、後述の制御部21に一体に構成される。そして投影装置11と、撮像装置12は、前述のように、測定装置14に電気的に接続されており、制御されている。本実施の形態では、演算装置20は、投影装置11と、撮像装置12に対し遠隔的に配置されている。具体的には、例えば、ベッド3の脇や、ベッド3が設置されている部屋とは別の部屋、例えばナースステーション等に設置される。
まず測定装置14について説明する。測定装置14は、前述のように、撮像装置12で撮像された像上のパターンの移動を測定するものであり、さらに測定されたパターンの移動に基づいて、人物2の高さ方向の動きを複数の点で測定するものである。測定装置14は、撮像装置12で撮像した像を取得できるように構成されている。さらに測定装置14は、撮像装置12により撮像された像上の各輝点の移動を測定するように構成されている。なおここでは、投影された輝点も撮像された像上の輝点の像も、便宜上単に輝点という。またここでは、輝点の移動を測定するとは、輝点の移動の量(以下移動量という)を測定することをいう。
ここで、測定装置14による輝点の移動の測定について詳述する。測定装置14は、撮像装置12から取得した異なる2時点の像に基づいて、輝点の移動を測定するように構成されている。
ここで、異なる2時点の像に基づく、輝点の移動の測定について説明する。異なる2時点の像は、任意の時点とそのわずかに前の時点とするとよい。わずかに前とは、人物2の動きを検出するのに十分な時間間隔だけ前であればよい。この場合、人物2のわずかな動きも検出したいときは短く、例えば人物2の動きが大きくなり過ぎず、実質的にはほぼ動き無しとみなせる程度の時間、例えば0.1秒程度とすればよい。あるいはテレビ周期の1〜10周期(1/30〜1/3)とするとよい。また、人物2の大まかな動きを検出したいときは長く、例えば10秒程度としてもよい。但し、本実施の形態のように、人物2の呼吸も検出する場合では長くし過ぎると、正確な呼吸の検出が行えなくなるので、例えば1分などにするのは適切でない。以下、任意の時点(現在)で取得した像を取得像、取得像よりわずかに前(過去)に取得した像を参照像として説明する。なお、参照像は、記憶部31内に保存される。本実施の形態では、異なる2時点の像は、取得像(Nフレーム)と、取得像の1つ前に取得した像(N−1フレーム)とする。即ち参照像は、取得像の1つ前に取得した像である。また、像の取得間隔は、例えば装置の処理速度や、上述のように検出したい動きの内容により適宜決めるとよいが、例えば0.1〜3秒、好ましくは0.1〜0.5秒程度とするとよい。また、より短い時間間隔で像を取得し、平均化またはフィルタリングの処理を行うことで、例えばランダムノイズの影響を低減できるので有効である。
なお、任意の時点とそのわずかに前の時点の異なる2時点の像に基づく、輝点の移動の測定で得られる波形(例えば輝点の移動量の総和など)は、距離の微分波形、即ち速度変化を表す波形になる。また例えば、高さ変化を表すような波形を得たいときは、前記波形を積分すれば距離の波形、即ち高さ変化を示す波形になる。
ここで、取得像と参照像は、例えば撮像装置12により撮像された像であるが、それぞれの像上での、輝点の位置情報も含む概念である。即ち、取得像と参照像は、各々の時点で、投影装置11の投影により形成されたパターン11aの像である。なお、本実施の形態では、参照像は、例えば、いわゆる像としてではなく、各輝点の位置に関する、座標等の位置情報の形で、記憶部31に保存される。なお、ここでの座標は例えば撮像装置12で撮像された画像内で設定されるものである。このようにすると、後述する輝点の移動量を測定する際に、例えば輝点の座標や方向を比較するだけで済むので処理が単純になる。さらに、ここでは、輝点の位置は、輝点の重心位置とする。このようにすることで、僅かな輝点の移動も測定することができる。
また、輝点の移動量は、前述のように、記憶部31に保存された参照像上の各輝点の位置情報と、取得像上の各輝点の位置情報とを比較することで、輝点の移動量を測定する。なお、それぞれの移動量は、例えば、輝点の位置が移動した画素数(何画素移動したか)を計数することで求められる。測定される輝点の移動量は、輝点の移動方向を含む概念である。即ち、測定される輝点の移動量には、移動した方向の情報も含まれる。このようにすると、後述のように、差分像を生成しないで済むので処理を単純化できる。
なお上記では、輝点の位置情報を比較する場合で説明したが、参照像と取得像との差分像を作成してもよい。この場合、この差分像から対応する輝点の位置に基づいて、輝点の移動量を測定する。このようにすると、移動した輝点のみが差分像上に残るので、処理量を減らすことができる。
さらに、測定装置14により測定された輝点の移動量は、過去一定回数測定された、または過去一定期間内に測定された輝点の移動量の移動平均値、または期間平均値としてもよい。このようにすることで、ランダムノイズや窓から差し込む日光のちらつきなどによる突発的なノイズが軽減でき、測定した輝点の移動量の信頼性が向上する。
測定装置14は、以上のような、輝点の移動の測定を、パターン11aを形成する各輝点毎に行うように構成される。即ち複数の輝点の位置が複数の測定点となる。測定装置14は、パターン11aを形成する各輝点毎に測定した輝点の移動、即ち測定した輝点の移動量を測定結果として制御部21へ出力する。即ち、測定結果は、異なる2時点の像に基づいて測定した輝点の移動量である。この測定結果は図5で後述するように、各輝点(測定点)での対象物ここでは人物2の高さ方向の動きに対応している。以下、この測定結果を動き情報と呼ぶ。測定装置14は、各測定点での前記測定結果を動き情報として出力する。なお、人物2の高さ方向の動きは、例えば人物2の呼吸に伴う動きである。
ここで、図5の概念的斜視図を参照して、輝点の移動の概念について説明する。ここでは、判りやすく、対象領域を平面102、対象物を物体103として説明する。さらにここでは、説明のために、参照像は、物体103が平面102に存在しないときのパターン11aの像であり、取得像は、物体103が平面102に存在しているときのパターン11aとして説明する。
図中物体103が、平面102上に載置されている。またXY軸を平面102内に置くように、直交座標系XYZがとられており、物体103はXY座標系の第1象限に置かれている。一方、図中Z軸上で平面102の上方には、投影装置11と、撮像装置12とが配置されている。撮像装置12は、投影装置11によりパターン11aが投影された平面102を撮像する。即ち平面102上に載置された物体103を撮像する。
撮像装置12の結像光学系としての結像レンズ12aは、ここでは、その光軸がZ軸に一致するように配置されている。そして、結像レンズ12aは、平面102あるいは物体103上のパターン11aの像を、撮像装置12の撮像素子15の結像面15’(イメージプレーン)に結像する。結像面15’は、典型的にはZ軸に直交する面である。さらに、結像面15’内にxy直交座標系をとり、Z軸が、xy座標系の原点を通るようにする。平面102から結像レンズ12aと等距離で、結像レンズ12aからY軸の負の方向に距離d(基線長d)だけ離れたところに、投影装置11が配置されている。物体103と平面102には、投影装置11により複数の輝点11bが形成するパターン11aが投影される。なお、y軸方向は、三角測量法の基線方向でもある。
投影装置11により平面102に投影されたパターン11aは、物体103が存在する部分では、物体103に遮られ平面102には到達しない。ここで物体103が存在していれば、平面102上の点102aに投射されるべき輝点11bは、物体103上の点103aに投射される。輝点11bが点102aから点103aに移動したことにより、また結像レンズ12aと投影装置11とが距離d(基線長d)だけ離れているところから、結像面15’上では、点102a’(x,y)に結像すべきところが点103a’(x,y+δ)に結像する。即ち、物体103が存在しない時点と物体103が存在する時点とは、輝点11bの像がy軸方向に距離δだけ移動することになる。
これは、例えば図6に示すように、撮像素子15の結像面15’に結像した輝点は、高さのある物体103により、δだけy軸方向に移動することになる。
このように、この輝点の移動量δを測定することにより、物体103上の点103aの位置が三次元的に特定できる。即ち、例えば点103aの高さがわかる。このように、ある点が、物体103が存在しなければ結像面15’上に結像すべき点と、結像面15’上の実際の結像位置との差を測定することにより、物体103の高さの分布、言い換えれば三次元形状が測定できる。あるいは物体103の三次元座標が測定できる。また、輝点11bの対応関係が不明にならない程度に、パターン11aのピッチ、即ち輝点11bのピッチを細かくすれば、物体103の高さの分布はそれだけ詳細に測定できることになる。
以上のような概念に基づいて、測定装置14は、輝点の移動量を測定することで対象物の高さが測定できる。但しここでは、取得像と、取得像の1つ前に取得した像即ち参照像に基づいて、高さ方向の動きを測定するので、輝点の移動の変化量を見ることになる。このため、例えば人物2の絶対的な高さは測定できなくなるが、人物2の高さ方向の動きを検出することが目的であるので問題は無い。
さらに監視装置1は、FGセンサ10で測定された動きの量が閾値以下である測定点は、演算装置20による演算に使用しないように構成されている。本実施の形態では、測定装置14で測定された動きの量が閾値以下である測定点のデータを演算装置20へ出力しないように構成されている。閾値は典型的には人物2の呼吸の動きより小さく設定する。具体的には、人物2の呼吸より小さな動き、さらに言えばこの小さな動きに対応する輝点の移動量より小さく設定する。これにより、呼吸より小さな動きが測定された測定点を無視することができる。このようにすることで、例えばノイズによる影響を効果的に排除することができる。なお呼吸の動きより小さい動きとは、呼吸による高さ方向の動きの範囲より小さい動きのことをいう。上述のように、ここでは輝点の移動量は輝点の移動の変化量、言い換えれば動きの速度を示しているので、呼吸より小さな動きとは、例えば呼吸による高さ方向の動きの速度の範囲が2〜40mm/s程度である場合に2mm/s以下の速度の動きのことをいう。即ちこの場合閾値は2mm/sに設定するとよい。さらに言えば動きの速度の2mm/sに対応する輝点の移動量に設定する。例えば毎秒4回の画像取得を行っている場合には、輝点の移動量の閾値は、人物2の動きの量0.5mm(2mm/s÷4)に対応する輝点の移動量に設定する。
また監視装置1は、FGセンサ10で測定された動きの周波数が閾値以上である測定点は、前記演算手段による演算に使用しないように構成するとよい。本実施の形態では、測定装置14で測定された動きの周波数が閾値以上である測定点のデータを演算装置20へ出力しないように構成されている。周波数の閾値は、例えば人物の呼吸の周波数より高い周波数、例えば毎分60サイクル程度に設定するとよい。ところで、大人の呼吸数は、毎分5〜30サイクル程度の範囲にあるが、幼児の場合にはさらに呼吸数が多くなる傾向があるので、これを考慮して周波数の閾値を設定するとよい。これにより、呼吸の周波数より高い周波数の動きが測定された測定点を無視することができる。このようにすることで、呼吸の動きに関係ない動き例えばノイズによる影響を効果的に排除することができる。
図4に戻って、演算装置20について説明する。演算装置20は、監視装置1を制御する制御部21を備えている。さらに制御部21には、記憶部31が接続されている。記憶部31は、撮像装置12から取得した像を時系列的に記憶するようにするとよい。また記憶部31には算出された情報等のデータが記憶できる。
制御部21には、人物2の状態を示す情報を出力する情報出力手段としてのディスプレイ40が接続されている。ディスプレイ40は典型的にはLCDである。ディスプレイ40は、例えば後述の警告データ出力部24により出力される警告データ即ち人物2の呼吸に異常があることを示すデータを表示することにより出力する。また、本実施の形態のように、後述の波形データ出力部25を備えている場合には、ディスプレイ40は波形データ出力部25により出力される人物2の呼吸の波形パターンを表示することにより出力するように構成されている。ディスプレイ40は、典型的には呼吸の波形パターンをリアルタイム表示する。リアルタイム表示するとは、例えば後述の波形データ出力部25により即時的に出力される人物2の呼吸の波形パターンを即時的に表示することである。
また制御部21には、監視装置1を操作するための情報を入力する入力装置35が接続されている。入力装置35は例えばタッチパネル、キーボードあるいはマウスである。本図では、入力装置35は、演算装置20に外付けするものとして図示されているが、内蔵されていてもよい。
さらに、制御部21内には、FGセンサ10の複数の測定点の位置座標の重み付け無し代表座標を計算する重み付け無し代表位置演算手段としての中心座標演算部22と、複数の測定点の動きの量に関する量で重み付けを行った値に基づいて、動きのある測定点が形成する領域の重み付け重心座標を計算する重み付け重心位置演算手段としての重心座標演算部23と、重み付け無し代表座標と重み付け重心座標との差が閾値より大きくなる場合には、警告データを出力するデータ出力手段としての警告データ出力部24とが備えられている。言い換えれば、演算装置20は中心座標演算部22と、重心座標演算部23と、警告データ出力部24とを有している。また、前記複数の測定点の動きの量に関する量とは、言い換えれば、前記重み付け無し代表座標の計算の対象となった複数の測定点のそれぞれの動きの量に関する量のことである。
なおここでは、FGセンサ10で測定される複数の測定点の内、動きの無かった測定点、即ち輝点の移動が無かった測定点は無視して(除外して)上記計算(例えば中心座標、重心座標の計算)を行う。言い換えれば、ここで用いられる測定点は動きがあった測定点のことである。
ここでは中心座標演算部22により計算される重み付け無し代表座標は、複数の測定点全て即ち動きのあった測定点全ての位置座標の平均値とする。以下この平均値を中心座標という。中心座標は次式で表される。

中心座標Xcenter={Σ(Xi)}÷n ・・・(1)

ここでnは全ての測定点を形成する測定点の数である。Xiは各測定点の座標値である。2次元で計算するときには、例えばXiをx軸方向の座標値、Yiをy軸方向の座標値としてそれぞれ中心座標Xcenter、Ycenterを計算する。また、人物2の動きの上方向下方向別言い換えれば輝点の移動方向別(図6(画像上)では左右方向別)に、例えば中心座標Xcenter-up、Xcenter-downを計算してもよい。
またここでは、重心座標演算部23により計算される重み付け重心座標は、動きのある測定点が形成する領域内の各測定点の座標に、動きの量に関する量で重み付けを行った値の平均値とする。以下この平均値を重心座標という。なお動きの量に関する量は、典型的には各測定点での輝点の移動量である。さらに重みは符号無し(移動の方向の符号)である。即ち重心座標は、各測定点の座標に、輝点の移動量で重み付けを行った値の平均値である。重心座標は次式で表される。

重心座標Xcenter’={Σ(Xi×|ΔZi|)}÷Σ|ΔZi| ・・・(2)

ここでΔZiは各測定点での重み即ち輝点の移動量である。また|ΔZi|は各測定点での符号無し重み即ち輝点の移動量の絶対値である。なお前記中心座標Xcenterと同様に、2次元で計算するときには、例えばXiをx軸方向の座標値、Yiをy軸方向の座標値としてそれぞれ重心座標Xcenter’、Ycenter’を計算する。
また重心座標は、中心座標と同様に、人物2の動きの上方向下方向別言い換えれば輝点の移動方向別(図6(画像上)では左右方向別)に、例えば重心座標Xcenter-up’、Xcenter-down’を計算してもよい。この場合には、全体の中心座標と比較する重心座標を、例えば動きの上下方向別の輝点の移動量の総和|Zi|(|Zi_up|、|Zi_down|等)の大きい方を用いて、後述の中心座標と重心座標の差を評価するようにしてもよい。またさらに、中心座標、重心座標共に動きの上下方向別(輝点の移動方向別)に計算した場合は、例えば上下方向別の輝点の移動量の総和|Zi|の大きい方を用いて、後述の中心座標と重心座標の差を評価するようにしてもよい。
警告データ出力部24は、中心座標と重心座標との差が閾値より大きくなる場合に警告データを出力するものである。ここで閾値は、例えば中心座標と重心座標との差を対象領域の大きさ言い換えれば撮像装置12の画角で除した値を%で表した値で表した場合に、5〜20%程度とするとよい。この場合は人物2の呼吸の動きが明らかに偏った動きであるものと見ることができる。なお、中心座標と重心座標との差が大きい場合には、動きのある部分(領域)の中心部で動きが最大(振幅最大)ではなく、偏った位置で最大になっている可能性がある。この場合には例えば慢性閉塞性肺疾患(COPD:chronic obstructive pulmonary disease)である可能性もある。ところで慢性閉塞性肺疾患とは、慢性気管支炎、肺気腫、びまん性汎細気管支炎等に代表される気道の障害や機能不全によって、主に閉塞性の換気障害をきたす症候群のことである。警告データは人物2の呼吸に異常があることを示すデータである。警告データ出力部24は、典型的には警告データをリアルタイムに出力する。リアルタイムに出力するとは、例えば中心座標と重心座標との差が閾値より大きくなる場合に即時的に警告データを出力することである。また出力される警告データは例えばディスプレイ40へ出力され、表示される。なおここでは閾値は、中心座標と重心座標との差を対象領域の大きさ即ち撮像装置12の画角で除した値の場合で説明したが、例えば中心座標と重心座標との差を対象領域の幅言い換えれば撮像装置12で撮像された画像の幅(例えばx軸方向の幅言い換えれば基線方向に垂直な方向の長さ)で除した値としてもよい。
また中心座標と重心座標を動きの方向別言い換えれば2次元で計算した場合には、式(2)で上述した各測定点での符号無し重み|ΔZi|の大きい方で中心座標と重心座標との差を見るようにする。例えばy軸方向の方で|ΔZi|が大きいときには、中心座標Ycenterと重心座標Ycenter’との差を見るようにする。
ここで図7を参照して、中心座標と重心座標との差についてさらに具体的に説明する。図示では、説明のために、撮像された像と画角とその画角内での測定点の位置(動きのあった測定点のみ)、さらに人物2(図中破線で表示)を示しているが、実際には座標の数値だけで計算する。まず、中心座標演算部22により中心座標が、重心座標演算部23により重心座標がそれぞれ計算される。(a)の例に示すように、人物2の呼吸の状態が正常である場合には、中心座標は、動きのある測定点の平均値であるので、動きのある測定点が存在する領域の中心部となる。また重心座標も、動きの量が領域の中心部で大きく、偏りも無いので、動きのある測定点が存在する領域の中心部となる。即ち中心座標と重心座標との差が小さい。なお図示では、人物2の腹部と胸部に対応する領域に動きのある測定点が存在する場合を示している。即ちこの場合中心座標、重心座標は腹部と胸部のおよそ中心部となる。
また(b)の例に示すように、例えば人物2の呼吸の状態が異常である場合には、中心座標は、動きのある測定点の平均値であるので、動きのある測定点が存在する領域の中心部となる。また重心座標は、動きの量に偏りがあるので、動きのある測定点が存在する領域の中心部ではなく偏った位置となる。即ち中心座標と重心座標との差が大きくなる。警告データ出力部24は、例えばこのような場合に警告データを出力する。
さらに中心座標演算部22及び重心座標演算部23は、複数の測定点の一次元方向の座標のみを用いて重み付け無し代表座標としての中心座標及び重み付け重心座標としての重心座標の計算を行うようにしてもよい。一次元方向は、例えばFGセンサ10の基線方向や人物2の背骨方向言い換えれば胸部の中心と腹部の中心を結ぶ直線方向、又は左右の肺の中心を結ぶ直線に垂直な方向である。なお例えば本実施の形態のように、人物2の背骨方向と基線方向がおよそ一致している場合には(図2参照)、一次元方向は基線方向とする。中心座標演算部22及び重心座標演算部23は、基線方向即ちy軸の座標(図6参照)のみを用いて中心座標及び重心座標を計算する。このようにすると、演算装置20による演算量を軽くできるので処理の高速化が図れる。
さらに制御部21内には、複数の測定点で測定された人物2の高さ方向の動きのデータを統合して、人物2の状態を示す情報としての波形データを出力する波形データ出力部25が備えられるようにするとよい。複数の測定点で測定された動きのデータを統合するとは、例えば測定点での輝点の移動量の総和を演算することであり、また出力される動きの波形データは前記総和を時間方向に並べて形成される波形パターンである。このように形成された波形パターンは人物2の呼吸の動きを示す。即ち出力される波形パターンは人物2の呼吸の波形パターンである。このようにすると、人物2の呼吸の波形パターンを出力できるので、より正確に人物2の状態の異常を把握することができる。また、波形データ出力部25は、典型的には人物2の呼吸の波形パターンをリアルタイム出力するように構成されている。リアルタイムに出力するとは、例えば撮像装置12により撮像された像毎に測定される輝点の移動量の総和を即時的に出力することである。さらに言えばこの場合には、この総和をリアルタイムに出力することで、波形データ出力部25は、時間方向に並べて形成される人物2の呼吸の波形パターンを出力することになる。出力された呼吸の波形パターンはディスプレイ40により表示される。
なおここでは、波形データ出力部25は波形パターンをディスプレイ40にリアルタイム出力する場合で説明したが、リアルタイムでなくてもよい。例えば波形データ出力部25より出力される人物2の呼吸の波形パターンが記憶部31等の記憶装置(ハードディスク等)に保存されるように構成してもよい。この場合には、警告データ出力部24により出力される警告データも記憶部31に保存するようにする。このようにすることで例えば、保存された波形パターンと警告データを後で詳細に観察することができる。
以上のように監視装置1は、対象領域に存在する対象物2の高さ方向の動きを複数の測定点で測定するFGセンサ10と、FGセンサ10で測定された複数の動きに基づいて、対象物2の状態を示す情報を演算する演算装置20とを備えているので、例えば人物2の状態を示す情報を演算結果を参照することで把握できる。さらに演算装置20は、複数の測定点の位置座標の中心重心座標を計算する中心座標演算部22と、複数の測定点の動きの量に関する量で重み付けを行った値に基づいて、動きのある測定点が形成する領域の重心座標を計算する重心座標演算部23と、中心座標と重心座標との差が閾値より大きくなる場合には、警告データを出力する警告データ出力部24とを有していることにより、例えば中心座標と重心座標との差が大きい場合には、人物2の呼吸による動きが偏った動きであることが判り、さらにこの場合には警告データを出力するので、人物2の状態の異常を正確に把握できる。
さらに、FGセンサ10は、対象領域にパターン光を投影する投影装置11と、パターン光が投影された対象領域を撮像する撮像装置12と、撮像装置12で撮像された像上のパターンの移動を測定する測定装置14とを含んで構成される。さらに測定装置14は、測定されたパターンの移動に基づいて、人物2の高さ方向の動きを複数の点で測定するように構成されることにより、測定を非接触で行えるので、測定される人物2への負担が少ない。またパターンを形成する各輝点の移動を測定することにより、例えば人物2の小さな動きであっても正確に測定できるので、人物2の呼吸による高さ方向の動きを正確に測定できる。
また、監視装置1は、ディスプレイ40により、警告データ出力部24により出力される警告データを表示するので、例えば人物2の呼吸による動きが偏ったものであることを容易に把握できる。即ち異常な状態を把握できる。これは例えば、医師による慢性肺疾患の診断に役立つ。またディスプレイ40により、波形データ出力部25で出力される人物2の呼吸の波形パターンをリアルタイムに表示するので、例えば人物2の呼吸による動きの状態が容易に把握できる。これは例えば医師の診断の参考になる。
なお以上では、ベッド3上に投影するパターンを複数の輝点とした場合で説明したが、図8に示すように、輝線としてもよい。即ち光切断法を用いて人物2の高さ方向の動きを測定するようにしてもよい。この場合には、投影手段には、ベッド3上にパターン光としての輝線を投影するように構成された投影装置111を用いる。投影する輝線の数は、典型的には複数であるが、1本であってもよい。以下、輝線は複数の場合で説明する。複数の輝線111bは、等間隔に複数本投影される。複数本の輝線111bは、パターン111aを形成する。また、輝線111bの方向と三角法の基線方向は、ほぼ垂直である。言い換えれば、輝線111bの方向はベッド3の長手方向の中心線と垂直方向である。
なお輝線の場合には、例えば図9に示すように、図6で説明した輝点の場合と同様に、撮像素子15の結像面15’に結像した輝線の像は、高さのある物体により、δだけy軸方向に移動することになる。さらに同様に、このδを測定することにより、物体上の点の位置が三次元的に特定できる。なお、δの測定は、輝線の像の中心線の位置で測定するようにする。さらに輝線の場合には、測定点が、輝線の像の位置にある撮像素子15の画素1つに対応する。
以上のように、パターン光を複数本の輝線とし、輝線の移動を測定することで、パターン光を複数の輝点とした場合に比べて、輝線上の任意の点の移動を測定でき、輝線方向の連続的形状が認識できる。言い換えれば、輝線方向の測定の分解能を向上することができる。
本発明の実施の形態である監視装置の概略を示す模式的外観図である。 本発明の実施の形態である三次元センサにFGセンサを用いた場合の監視装置の概略を示す模式的外観図である。 本発明の実施の形態である投影装置を説明する模式的斜視図である。 本発明の実施の形態である監視装置の構成例を示すブロック図である。 本発明の実施の形態での輝点の移動の概念について説明する概念的斜視図である。 図5の場合での結像面に結像した輝点について説明する模式図である。 本発明の実施の形態に係る中心座標と重心座標との差について説明する模式的平面図である。 本発明の実施の形態である投影装置により投影するパターン光に複数の輝線を用いた場合の監視装置の概略を示す模式的外観図である。 図8の場合での結像面に結像した輝線について説明する模式図である。
符号の説明
1 監視装置
2 人物
3 ベッド
4 寝具
10 FGセンサ(三次元センサ)
11 投影装置
11a パターン
11b 輝点
12 撮像装置
14 測定装置
20 演算装置
21 制御部
22 中心座標演算部
23 重心座標演算部
24 警告データ出力部
25 波形データ出力部
40 ディスプレイ
102 平面
103 物体
105 光束発生部
120 グレーティング
121 光ファイバー
122 FG素子

Claims (6)

  1. 対象領域に存在する対象物の高さ方向の動きを複数の測定点で測定する三次元センサと;
    前記測定された複数の動きに基づいて、前記対象物の状態を示す情報を演算する演算手段とを備え;
    前記演算手段は、前記複数の測定点のうち前記動きのあった測定点が形成する領域における位置座標の重み付け無し代表座標を計算する重み付け無し代表位置演算手段と、
    前記動きのあった測定点のそれぞれの位置座標について当該測定点における前記動きの量に関する量で重み付けを行った値に基づいて、前記動きのあった測定点が形成する領域の重み付け重心座標を計算する重み付け重心位置演算手段と、
    前記重み付け無し代表座標と前記重み付け重心座標との差が閾値より大きくなる場合には、警告データを出力するデータ出力手段とを有する;
    状態解析装置。
  2. 前記重み付け無し代表位置演算手段及び前記重み付け重心位置演算手段は、前記複数の測定点の一次元方向の座標のみを用いて重み付け無し代表座標及び重み付け重心座標の計算を行うことを特徴とする;
    請求項1に記載の状態解析装置。
  3. 前記三次元センサは、対象領域にパターン光を投影する投影装置と;
    前記パターン光が投影された対象領域を撮像する撮像装置と;
    前記撮像された像上のパターンの移動を測定する測定手段とを有し;
    前記測定されたパターンの移動に基づいて、前記対象物の高さ方向の動きを複数の点で測定することを特徴とする;
    請求項1又は請求項2に記載の状態解析装置。
  4. 前記三次元センサで測定された動きの量が閾値以下である測定点は、前記演算手段による演算に使用しないことを特徴とする;
    請求項1乃至請求項3のいずれか1項に記載の状態解析装置。
  5. 前記三次元センサで測定された動きの周波数が閾値以上である測定点は、前記演算手段による演算に使用しないことを特徴とする;
    請求項1乃至請求項4のいずれか1項に記載の状態解析装置。
  6. 前記重み付け無し代表位置演算手段が、前記動きのあった測定点のすべての位置座標の平均値を前記重み付け無し代表座標とする計算を行う;
    請求項1乃至請求項5のいずれか1項に記載の状態解析装置。
JP2004064737A 2004-03-08 2004-03-08 状態解析装置 Expired - Fee Related JP4365699B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004064737A JP4365699B2 (ja) 2004-03-08 2004-03-08 状態解析装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004064737A JP4365699B2 (ja) 2004-03-08 2004-03-08 状態解析装置

Publications (2)

Publication Number Publication Date
JP2005245974A JP2005245974A (ja) 2005-09-15
JP4365699B2 true JP4365699B2 (ja) 2009-11-18

Family

ID=35027009

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004064737A Expired - Fee Related JP4365699B2 (ja) 2004-03-08 2004-03-08 状態解析装置

Country Status (1)

Country Link
JP (1) JP4365699B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4895655B2 (ja) 2006-03-29 2012-03-14 住友大阪セメント株式会社 嚥下機能評価装置
JP6119232B2 (ja) 2012-12-19 2017-04-26 株式会社ソシオネクスト 距離測定装置、距離測定方法

Also Published As

Publication number Publication date
JP2005245974A (ja) 2005-09-15

Similar Documents

Publication Publication Date Title
JP3738291B2 (ja) 三次元形状測定装置
JP3782815B2 (ja) 呼吸解析装置
JP3764949B2 (ja) 状態解析装置
JP4895655B2 (ja) 嚥下機能評価装置
US9107638B2 (en) Medical imaging system
Rehouma et al. 3D imaging system for respiratory monitoring in pediatric intensive care environment
JP3710133B2 (ja) 状態解析装置及び状態解析方法
JP4703049B2 (ja) 監視装置
JP4422580B2 (ja) 動き検出装置
JP3939224B2 (ja) 領域監視装置
JP2005253608A (ja) 状態解析装置
JP4588515B2 (ja) 状態解析装置及びソフトウエアプログラム
JP3979238B2 (ja) 空間内監視装置
JP4365699B2 (ja) 状態解析装置
JP2006187510A (ja) 状態解析装置及びソフトウエアプログラム
JP2004093376A (ja) 高さ計測装置及び監視装置
JP2004037274A (ja) 高さ計測装置及び監視装置
JP4372643B2 (ja) 動き検出装置
JP2005005912A (ja) 監視装置
JP2005000388A (ja) 状態推移表示方法及びモニタ装置
JP4411361B2 (ja) 状態推移モニタ装置及び状態推移表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060620

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090706

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090804

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090821

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120828

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4365699

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130828

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140828

Year of fee payment: 5

S201 Request for registration of exclusive licence

Free format text: JAPANESE INTERMEDIATE CODE: R314201

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S303 Written request for registration of pledge or change of pledge

Free format text: JAPANESE INTERMEDIATE CODE: R316303

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R370 Written measure of declining of transfer procedure

Free format text: JAPANESE INTERMEDIATE CODE: R370

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees