JP2007159641A - 画像処理装置及び医療システム - Google Patents

画像処理装置及び医療システム Download PDF

Info

Publication number
JP2007159641A
JP2007159641A JP2005356448A JP2005356448A JP2007159641A JP 2007159641 A JP2007159641 A JP 2007159641A JP 2005356448 A JP2005356448 A JP 2005356448A JP 2005356448 A JP2005356448 A JP 2005356448A JP 2007159641 A JP2007159641 A JP 2007159641A
Authority
JP
Japan
Prior art keywords
image
image data
continuous
vivo
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005356448A
Other languages
English (en)
Other versions
JP5308615B2 (ja
Inventor
Jiro Maruyama
次郎 丸山
Kazuhito Tomii
和仁 富井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
RF KK
Original Assignee
RF KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by RF KK filed Critical RF KK
Priority to JP2005356448A priority Critical patent/JP5308615B2/ja
Publication of JP2007159641A publication Critical patent/JP2007159641A/ja
Application granted granted Critical
Publication of JP5308615B2 publication Critical patent/JP5308615B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Analysis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Endoscopes (AREA)

Abstract

【課題】 従来にない全く新しい視点から、被検者の体内を漏らすことなく撮影した映像を提供でき、かつ体内の平面的に把握することが可能な被検者の体内映像を提供できる画像処理装置及び医療システムを提供する。
【解決手段】被検者500の消化管の周方向を連続して撮影するカプセル型医療装置1からの、周方向についての複数の画像に基づいて、当該複数の画像の少なくとも一部が互いに重なるように、この複数の画像を重ね合わせて1つの連続した体内画像を生成する画像処理部360とを有する画像処理装置300を提供する。
【選択図】 図4

Description

本発明は、画像処理装置及びカプセル型医療システムに関し、詳しくは、医療装置等で撮影された被対象物の画像(映像)を提供するための画像処理装置と、当該画像処理装置を備えた医療システムに関する。
近年、胃カメラや大腸スコープとは異なる錠剤タイプのカプセル型内視鏡が提案され、実用化されつつある。
このカプセル型内視鏡は、小型化及びワイヤレス化されているため、従来の有線タイプ(チューブタイプ)の胃カメラでは撮影することができなかった被検者の消化管の小腸部分等の撮影が可能であり、被検者に対する苦痛等を与えることなく体内撮影を行うことができる。
以下に、従来のカプセル型内視鏡を用いた体内撮影について説明する。図8は、従来のカプセル型内視鏡と当該カプセル型内視鏡により撮影された映像(画像)の一例を示した図である。
図8(a)に示すように、従来のカプセル型内視鏡800は、照明光を照射する照明ユニット810と、照明ユニット110の照明光によって照射された領域を撮影する撮影ユニット820と、撮影された画像をワイヤレスで外部コンピュータ等に送信するための通信ユニット830とを備えている。
撮影ユニット820は、レンズ(広角レンズ)821、CCDセンサやCMOSセンサ等の撮像素子822、及び撮像素子822の駆動回路823を備えている。また、撮像素子822の撮像面は、進行方向前方を向くように配置されており。照明ユニット810とともに、カプセル型内視鏡800の前方部に配置されている。
撮影ユニット820は、毎秒数枚から数十枚の静止画像を撮影し、撮影された静止画像は、通信ユニット830に出力されて画像処理装置に送信される。図8(b)は、カプセル型内視鏡800によって撮影された被検者の体内映像(画像)の一部を示す図である。カプセル型内視鏡800よって撮影された複数の静止画像は、画像処理によって、外部コンピュータ等のディスプレイに動画像として表示され、医師による医療診断等に用いられる。
なお、この動画像は、リアルタイムで表示させることも可能であるが、当該カプセル型内視鏡は、胃や小腸のぜん動運動等によって非常にゆっくりとした速度で移動し、被検者の体外に排出される(排出されるまでに約10時間の時間を要する)。このため、撮影された動画像も、非常にゆっくりとした動画像となるため、一度外部コンピュータ等に動画像を記憶させておき、再生速度を速めて表示している。
このようなカプセル型内視鏡としては、本出願人である株式会社アールエフ社製の「NORIKA」がある(非特許文献1参照)。
日本放斜線技術学会雑誌第58巻第8号、2002年8月20日、p.985−990
しかしながら、従来のカプセル型内視鏡では、以下のような課題があった。
(1)上述の図8(b)に示したように、従来のカプセル型内視鏡で撮影された映像は、進行方向に対して前方を撮影したものであり、位置の前後関係の把握が困難である問題を有している。
すなわち、小腸などの消化管を覗き込むような従来の映像は、胃カメラやカプセル型内視鏡の進行方向に対して、所定の間隔(微小間隔)で輪切りにし、輪切りにした各々の箇所から覗き込んだ複数の映像が連続したものとなるため、患部の広がりや所定区間などを平面的に捉えることが困難であった。
(2)通常、被検者の体内を内視鏡で撮影する場合には、様々なアングルからの撮影が求められる。例えば、胃カメラでは、レンズが設けられた先端部が、ワイヤなどによりある程度自由に動くことができ、体内の形状や突起物等に応じたアングルからの撮影が可能となっている。
しかしながら、例えば、食道や十二指腸では、先端部を動かすことが可能な空間(間隙)が少ないため、その先端部を動かしてアングルを変化させることが困難であり、進行方向前方の撮影しかできないのが現状である。
一方、上記従来のカプセル型内視鏡では、被検者の小腸など、胃カメラでは撮影できなかった部分を撮影できるものの、撮像面が進行方向前方を向くように配置されているため、同様の課題を有している。
このため、体内の形状や突起物等により隠れた部分の撮影が困難となり、体内を漏らすことなく撮影することができない課題を有している。
そこで、従来の胃カメラやカプセル型内視鏡では、撮影ユニットに搭載されるレンズを広角レンズで形成して、進行方向に対する側方(側壁)側の撮影を試みているが、広角レンズを介して撮影された画像は、該広角レンズ特有の周辺部の歪みにより、医療診断を行うために必要な画質を有するに至らない(見えにくい画像となる)。
また、非特許文献1のカプセル型内視鏡は、撮影ユニットの撮影面を、進行方向前方に対して傾斜させて配置しており、側方向の撮影も可能であるが、上述のように、体内の形状や突起部等により隠れた部分の撮影は困難であり、また、傾斜させている方向における一部の画像しか取得できないため、体内を隈なく撮影することは難しい課題を有している。
このように、従来のカプセル型内視鏡では、提供される映像から被検者の体内を平面的に捉えることが難しく、患部の位置関係や前後関係の把握が困難であるために、医療診断に用いる映像としては、十分ではない。
そして、従来のカプセル型内視鏡では、その構成等から体内の形状や突起部により撮影しきれない部分が必然的に生じ、漏らすことなく、体内を撮影した映像を提供することは困難であった。
そこで、本発明は、従来にない全く新しい視点から、被検者の体内を平面的に把握することができ、かつ被検者の体内を漏らすことなく撮影した体内映像を提供できる画像処理装置及びその画像処理装置を備えた医療システムを提供することにある。
本発明の1つの側面としての画像処理装置は、被検者の体内を撮影し、被検者の体内画像を提供するカプセル型医療装置からの複数の画像データに基づいて、1つの連続した平面画像を生成することを特徴とする。
また、本発明の他の側面としての画像処理装置は、被検者の消化管の周方向を連続して撮影するカプセル型医療装置からの、周方向についての複数の画像データに基づく1つの連続した体内画像を生成することを特徴とする。
また、本発明の他の側面としての医療システムは、被検者の消化管の周方向を連続して撮影する撮影ユニットと、撮影ユニットにより撮影された周方向についての複数の画像データを送信する通信ユニットとを備えたカプセル型医療装置と、通信部を介して受信した複数の画像データに基づく1つの連続した体内画像を生成する画像処理装置と、1つの連続した体内画像を表示する画像表示装置とを有することを特徴とする。
本発明によれば、被検者の体内を撮影した画像データから、1つの連続した平面画像を提供するので、被検者の体内を平面的に捉えることが容易となる。
そして、本発明の画像処理装置は、被検者の消化管の周方向を連続して撮影可能なカプセル型医療装置からの複数の画像データに基づいて、1つの連続した体内画像を生成し、提供するので、体内の形状や突起部等に関係なく、高画質で、かつ隈なく撮影された体内画像を提供でき、かつ当該画像処理装置により生成される体内画像が消化管の周方向について連続して撮影された画像に基づくものであることから、被検者の体内を平面的に捉えることが容易となる。
以下、添付図面を参照しながら、本発明の実施例について説明する。
(実施例1)
図1は、本発明の実施例1におけるカプセル型医療装置(カプセル型内視鏡)を用いた医療システムの概略構成図、図2は、本実施例の画像処理装置の構成ブロック図である。
図1に示すように、本実施例の医療システムSは、カプセル型医療装置1と、被検者500が装着する装着ベスト100と、装着ベスト100に設けられた携帯ユニット200と、カプセル型医療装置により撮影された画像データの処理を行う画像処理装置300と、この画像処理装置300から出力された被検者500の体内の画像を表示する画像表示装置400とで構成されている。
装着ベスト100は、カプセル型医療装置1から送信される体内の画像データを受信するための通信アンテナ110と、カプセル型医療装置1に電力(電磁エネルギ)を供給するための送電コイル120と、携帯ユニット200とが設けられている。さらに、携帯ユニット200は、装着ベスト100の通信アンテナ110を介して受信した体内の画像データを記憶するための記憶部211と、送電コイル120に電力を供給する電力供給部212とを備えている。
本実施例のカプセル型医療装置1は、後述するように、電磁波を用いた電力供給を受けて動作する。このため、送電コイル120は、装着ベスト100の全体に同心円状に、かつ被検者の身体を覆うように配設されており、携帯ユニット200の電力供給部212からの電磁エネルギを、体内のカプセル型医療装置1に送信する。
なお、本実施例では、装着ベスト100の通信部110及び送電コイル120と携帯ユニットとが有線で接続された一例を示しているが、無線通信により接続することも可能である。
携帯ユニット200の記憶部110に記憶された体内の画像データは、携帯ユニット200の通信アンテナ213を介して、画像処理装置300に無線で送信される。画像処理装置300では、通信アンテナ370を通じて受信した体内の画像データを処理して、画像表示装置400に出力する。このような構成により、カプセル型医療装置1により撮影された体内の画像データは、画像表示装置400に表示される。
なお、上述したように、カプセル型医療装置1は、小腸などのぜん動運動によって体内を進み、被検者500の体外に排出される。一般に、排出されるまでに約10時間の時間を要することから、非常にゆっくりとした速度で移動することがわかる。このために、画像表示装置400にリアルタイムで撮影された画像(動画像)を表示してもよいが、消化管全体の撮影が終了するまで全ての体内の画像データを記憶部に記憶させたり、所定期間(所定時間)において撮影された体内画像を記憶させ、蓄積された画像データを画像処理装置300により処理し、後日、医療診断のために医師等の提供するように構成することが好ましい。
この場合には、画像処理装置300の記憶部330に、無線通信により送信される体内の画像データを記憶するように構成してもよいが、例えば、携帯ユニット200の記憶部211を、持ち運び可能なメモリーカード等の記憶媒体を含むように構成し、記憶媒体を介して画像処理装置300に体内の画像データを供給するように構成することも可能である。
画像表示装置400は、ディスプレイ410と、操作手段としてのマウス420と、入力手段としてのキーボード430とが設けられ、一般のコンピュータが適用される。また、この画像表示装置400は、画像閲覧ソフトなどのプログラムを搭載するように構成し、ディスプレイ410に表示された体内画像を画像閲覧ソフトの機能を用いて操作手段420で自由にスクロールさせたり、入力手段430からその他の情報を入力可能にすることもできる。
次に、本実施例の画像処理装置300について説明する。図2に示すように、本実施例の画像処理装置300は、通信アンテナ370を介して携帯ユニット200から送信された複数の画像データを受信する通信部310と、受信した複数の画像データのA/D変換を行うA/D変換部320と、A/D変換された複数の画像データを記憶する記憶部330と、記憶部330に記憶された複数の画像データから、連続した1つの体内画像を生成する画像処理部360と、生成された1つの連続した体内画像を画像表示装置400に出力するするデータ出力部(インターフェース部)340と、これらの各部を制御する制御部(CPU)350とを備えている。
画像処理部360は、送信されてきた複数の画像データを重ね合わせるために、連続した複数の画像データ間の共通の特徴点を抽出する特徴点抽出部361と、抽出された特徴点に基づいて、これら複数の画像データを合成して、連続した1つの体内画像を生成する画像合成部362とが設けられている。この画像処理装置300による画像処理についての詳細は、後述する。
このように構成された本実施例の医療システムSでは、図7に示すように、被検者500の体内に取り込まれたカプセル型医療装置1が、消化管の周方向に連続した撮影を開始すると(S301)、撮影された消化管の周方向(側壁)についての画像データは、後述するカプセル型医療装置1の通信ユニットを介して、体外に送信される。
カプセル型医療装置1から送信された画像データは、装着ベスト100の通信アンテナ110で受信され、携帯ユニット200に出力(送信)され、携帯ユニット200の記憶部211に当該画像データが記憶される(S302)。なお、電力供給部212は、所定周期で送電コイル120を介して電磁エネルギを、体内のカプセル型医療装置1に供給している。なお、この電磁エネルギ(電力)の供給は、カプセル型医療装置1の撮影動作により消費する電力に対応させて、所定の撮影動作回数に応じた電力を供給するように構成することも可能である。
携帯ユニット200に記憶された複数の画像データは、通信アンテナ213を介して、無線通信により画像処理装置300に送信される(S303)。画像処理装置300では、複数の画像データを、通信部310が通信アンテナ370を介して受信し、受信した画像データをA/D変換部320でデジタルデータに変換した後、記憶部330に記憶する(S304)。
そして、画像処理装置300の画像処理部360では、記憶部330に保存された画像データを取得して、1つの連続した体内画像を生成し(S305)、生成した1つの連続した体内画像を記憶部330に保存する(S306)。
データ出力部340は、画像表示装置400からの表示要求(又は自動的)に応じて、該1つの連続した体内画像を、当該画像表示装置400に出力し(S306)、画像表示装置400のディスプレイ410に該1つの連続した体内画像が表示される(S308)。
なお、カプセル型医療装置1からの画像データを受信する装着ベスト100の通信アンテナ110及び携帯ユニット200間、携帯ユニット200の通信アンテナ213と画像処理装置300の通信アンテナ370間は、無線、有線のどちらの通信形態を適用してよく、また、携帯ユニット200と画像処理装置300とを、無線LAN等で接続するように構成し、装着ベスト100と携帯ユニット200を携えた被検者500が、画像処理装置300と離れた場所にいても、カプセル型医療装置1からの画像データを受信可能とすることもできる。また、携帯ユニット200を介さずに、装着ベスト100と画像処理装置300とで無線通信することで、カプセル型医療装置1により撮影された画像データを、直接画像処理装置300に送信することも可能である。この場合、携帯ユニット200は、カプセル型医療装置1へ電力を供給する電力供給部のみを備えていればよく、通信機能や記憶手段が不要となり、携帯ユニット200の小型化・軽量化を図ることができる。また、携帯ユニット200の記憶部211は、持ち運び可能な記憶媒体(メモリーカード、CD−ROM、DVD−ROM等)に当該画像データが記憶可能な記憶手段で構成し、被検者500の体内全ての撮影画像データを、一旦記憶媒体に記憶させ、後日その記憶媒体を、画像処理装置300に提供するように構成してもよい。
ここで、本実施例のカプセル型医療装置1について詳細に説明する。図6(a)は、本実施例のカプセル型医療装置1の側面図であり、図6(b)は、カプセル型医療装置1の断面図である。
図6に示すカプセル型医療装置1において、外装部材としての収容部材10は、カプセル状に形成されており、光透過特性を有する透過領域10aと、光を遮光する遮光領域10dとを有している。透過領域10aは、カプセル型医療装置1の長手方向において所定の幅を有しており、カプセル型医療装置1の周方向に形成されている。ここで、収容部材10の外周面に汚れ等が付着するのを抑制するために、収容部材10の外周面に、例えば、生体適合性物質であるMPCポリマー(2−メタクリロイルオキシエチルホスホリルコリンの重合体)等のコーティングを施すことが好ましい。
また、収容部材10の内側面には、該内側面から突出する軸部10b、10cが設けられており、これらの軸部10b、10cは、互いに向かい合う位置に配置されている。すなわち、軸部10b、10cは、カプセル型医療装置1における回転軸上に位置している。
軸部10bの外周には、磁石12が設けられている。また、収容部材10内には、以下に説明する部材が収容されている。
収容部材10の内側には、一部が収容部材10に沿った形状の保持部材11が配置されている。保持部材11は、軸部10b、10cとそれぞれ当接する当接部11a、11bを有している。ここで、保持部材11は、当接部11a、11bを介して軸部10b、10cによって支持されており、後述するように収容部材10に対して回転軸X周りで回転可能となっている。
保持部材11のうち当接部11aを含む領域は、磁石12との干渉を避ける形状に形成されている。ここで、保持部材11の内壁には、磁石12の外周を囲むように、コイルや電磁石等の磁界発生素子15が設けられている。また、保持部材11のうち、収容部材10の透過領域10aと対向する一部の領域11cは、光透過特性を有する透過領域となっており、この透過領域11cには、4つの発光素子17が配置されている。
具体的には、図6(a)に示すように、円形である透過領域11cの周方向において、等間隔に4つの発光素子17が配置されている。ここで、発光素子17としては、低消費電力であるLEDを用いることができる。そして、発光素子17を設ける位置に応じて異なる種類のLEDを用いることができる。例えば、4つの発光素子17のうち、互いに向かい合う一対の発光素子17として、白色光を照射するLEDを用い、他の発光素子17として、他の波長を有する光(近赤外波長光線や紫外線波長光線等)を照射するLEDを用いることができる。
本実施例では、4つの発光素子17を用いた場合について説明したが、これに限るものではなく、撮影対象物(すなわち、消化管内の壁面)を十分に照明できるものであれば、1つの発光素子を用いるだけでもよい。
ここで、発光素子17は、撮影光路外に配置しなければならないため、撮影光軸に対して角度を持った状態で照明光が照射されることになる。この場合において、撮影対象物が凹凸形状を有している場合には、照明光によってハレーションが生じるおそれがある。そこで、撮影光軸を挟んで対向する位置に発光素子17を配置することで、照明光によって生じるハレーションを相殺することが可能となる。
レンズ18は、保持部材11に形成された第1保持部11d及び第2保持部11eによって保持されている。また、レンズ18のうち撮像素子20側の面は、正の光学パワーを有する凸面となっており、収容部材10側の面は、凹面となっている。
第1保持部11dには、被写体光が通過する開口部11d1が形成されている。ここで、被写体光とは、発光素子17から照射された照明光のうち、撮影対象物で反射して後述する撮像素子20に導かれる光である。開口部11d1は、テーパ面を有しており、透過領域11c側からレンズ18側に向かって径が連続的に減少した形状となっている。
第2保持部11eは、撮像素子20が実装された基板21を保持している。撮像素子20としては、CCD(Charge Coupled Device)センサやCMOS(Complementary Metal Oxide Semiconductor)センサを用いることができる。被写体光は、レンズ18を透過して撮像素子20の撮像面上で結像する。撮像素子20は、被写体光を光電変換処理によって電気信号(画像データ)に変換する。コントローラ22は、保持部材11によって保持されており、撮像素子20の駆動を制御する。撮像素子20によって生成された画像データは、基板21を介して送信素子(通信ユニット)16に送られる。送信素子16の動作については、後述する。
撮像素子20に対して軸部10b側及び軸部10c側のスペースには、体外に配置された送電コイル120からの電力(電磁エネルギ)を受信する第1の受信ユニット13及び第2の受信ユニット14が配置されている。第1の受信ユニット13は、コア13bと、コア13bに巻き付けられたコイル13aとを有している。また、第2の受信ユニット14は、コア14bと、コア14bに巻き付けられたコイル14bとを有している。ここで、コイル13a及びコイル14aは、互いにつながった状態でコントローラ22に接続されている。
第1及び第2の受信ユニット13、14で受信された電磁エネルギは、コントローラ22に送信され、コントローラ22においてカプセル型医療装置1の駆動電流が生成される。この駆動電流は、コントローラ22及び撮像素子20の駆動や、磁界発生素子15への通電に用いられる。
コントローラ22が磁界発生素子15への通電を制御すると、磁界が発生し、磁石12との相互作用によって、保持部材11が収容部材10に対して相対回転する。本実施例のカプセル型医療装置1が被検者500の体内に取り込まれると、収容部材10が小腸などの消化管の壁面に圧接することになるので、当該収容部材10は、生体内の壁面との当接によって固定された状態となり、保持部材11は、収容部材10に対して軸X周りに回転することになる。
保持部材11が回転することによって、保持部材11によって保持されている撮像素子20や発光素子17も軸X周りに回転することになる。
保持部材11内のスペースのうち、第2の受信ユニット14と当接部11bとの間のスペースには、送信素子16が配置されている。
なお、カプセル型医療装置1内に電力を発生させる機構(電池等)を設けることもできる。ここで、本実施例では、送電コイル120からの電力供給を受けながら、コントローラ20等の駆動を行うため、カプセル型医療装置1内にバッテリ等を設ける必要がなくなり、カプセル型医療装置1を小型化することができる。
また、送信素子16は、撮像素子20によって生成された画像データを、体外に配置された装着ベスト100の通信アンテナ110に送信する。
このように構成された本実施例のカプセル型医療装置1は、体内に取り込まれると、保持部材11が、収容部材10に対してX軸周りに回転し、被検者500の体内を撮影する。
より具体的には、カプセル型医療装置1が小腸に位置している場合、小腸のぜん動運動によって矢印X方向に進みながら撮影を行う。すなわち、収容部材10が小腸の壁面に圧接されているため、小腸の壁面のぜん動運動によって矢印X方向に押し出されるように、移動しながら、撮影を行う。
ここで、保持部材11が1回転するときの速度が、小腸のぜん動運動によってカプセル型医療装置1が矢印X方向に進む速度よりも速くなるように、コントローラ22は、磁界発生素子15への通電を制御している。したがって、カプセル型医療装置1が小腸内の特定の位置にあるときには、保持部材11の回転に伴う撮像素子20を用いた撮像動作によって、小腸の壁面全周が撮像されることになる。
また、保持部材11の回転動作によって撮像素子20を軸X周りで回転させながら、撮像動作を複数回行うことで、小腸の内壁全周を撮像することができる。
本実施例では、保持部材11(撮像素子20)を軸X周りで所定の回転角度だけ回転させた後、保持部材11の回転を停止させている。そして、保持部材11の回転が停止した状態において、撮像素子20を用いて撮像動作を行うようにしている。
このように保持部材11(撮像素子20)の回転を停止させてから撮像動作を行うようにすることで、画像の振れを抑制して、精度の良い画像データを取得することができる。すなわち、保持部材11(撮像素子20)を軸X周りで回転させながら撮像動作を行った場合には、撮像素子20での電荷蓄積の間に被写体像が変化してしまい、結果として像振れの生じた画像データが生成されてしまう。そこで、本実施例では、保持部材11(撮像素子20)の回転を停止させた状態で撮像動作を行うことにより、像振れが抑制された画像データを生成することができる。
なお、撮像動作によって生成された画像データにおいて、像振れの影響を視認できない程度で、保持部材11(撮像素子20)を軸X周りで回転させるようにすれば、保持部材11(撮像素子20)を回転させながら撮像動作を行うことも可能である。
また、本実施例のカプセル型医療装置1は、上述のような内視鏡カメラの機能の他に、例えば、相対回転可能な収容部材10及び保持部材11を有する構造において、保持部材11内に、薬液等を供給(患部等に噴射等)するための供給機構を設けて、医療装置としての機能を搭載することも可能である。
図4(b)は、本実施例のカプセル型医療装置1が、被検者500の消化管内で1回転した際に撮影した画像の一例を示している。本実施例では、図4(b)に示すように、消化管内の周方向における1回転中に、所定角度毎の複数の撮影動作が行われ、互いに重複する領域を有する連続した複数の画像データが得られることになる。なお、これらの画像データは、撮像素子20の撮像領域Aに対応している。
そして、上述のように、カプセル型医療装置1は、消化管のぜん動運動により進みながらその撮像面が周方向回りに回転し、消化管の側壁を連続して撮影する(図4(a)参照)。例えば、当該カプセル型医療装置1の(消化管の側壁に対向するように配置された)撮像面が、約5秒から約10秒程度の時間をかけて一回転する場合に、撮影回数を1秒間に30回と設定すると、カプセル型医療装置1が1回転する間に、150枚から300枚の連続した画像(連続した側壁の画像)データを得ることができる。
図5A(a)は、ぜん動運動に進みながら撮影された画像の一例を示している。このように、撮影された複数の画像データは、隣り合う画像データと周方向において重複し、カプセル型医療装置1の移動速度がぜん動運動等に依存した非常にゆっくりとした速度であるため(このぜん動運動によってカプセル型医療装置1が進む速度は、約1〜約1.5[m/h])、次の回転動作において撮影された画像データと進行方向Xにおいても重複している(周方向及び進行方向Xの両方向に、少なくとも一部が互いに重なり合っている)。すなわち、本実施例では、特定のタイミングで行われる撮像動作での撮像領域と、次のタイミングで行われる撮像動作での撮像領域とが互いに一部で重複するように、カプセル型医療装置1の撮影動作が制御(コントローラ22が、連続する各撮像領域が互いに一部で重複ように保持部材11の回転角度を制御)することにより、漏れのない体内撮影を行っている。
また、上述の撮影ステップ毎に撮影された画像データには、撮影ステップに基づくに識別情報が付与されて記憶部に記憶される。具体的には、撮影ステップにおいて何周目の何番目の画像データかを識別するための識別情報を含む画像データとして、記憶部330に記憶されている。例えば、1回転目の3ステップ目に撮影された画像データには、C13が画像データの識別情報として付与される(この識別情報をファイル名として保存してもよい)。
なお、この識別情報は、カプセル型医療装置1から撮影した画像データを体外に送信する際に、カプセル型医療装置1において当該識別情報を付加して送信したり、携帯ユニット200や画像処理装置300に記憶する際に、カプセル型医療装置1の制御情報や初期情報からカウントして、この識別情報を付加したり、また、任意の時点から、単純に識別情報を連番で付加するように構成することが可能である。
次に、図3から図5を参照して、本実施例の画像処理について詳細に説明する。図3は、装着ベスト100の携帯ユニット200と画像処理装置300との処理遷移を示すフローチャートであり、図4は、カプセル型医療装置1が消化管内で1回転した際に撮影した画像データを処理して、1つの連続した体内画像を生成する処理過程を示す説明図であり、図5A、図5Bは、カプセル型医療装置1が消化管のぜん動運動により進みながら消化管の側壁を連続して撮影した画像データを、画像処理して1つの連続した体内画像を生成する処理過程を示す説明図である。
図3に示すように、装着ベスト100の通信アンテナ110で受信された被検者の複数の画像データが、携帯ユニット200に出力されると(S101)、当該携帯ユニット200は、受信した画像を記憶部211に記憶する(S102)。なお、本実施例では、複数の画像データをこの携帯ユニット200の記憶部211に記憶する際に、上述の識別情報が付与している。
携帯ユニット200の記憶部211に記憶された画像データは、リアルタイム処理若しくは一括処理(バッチ処理)で、画像処理装置300に送信(出力)される(S103)。
画像処理装置300では、携帯ユニット200から画像データを受信すると(S201)、受信した各画像データをA/D変換し、記憶部330に保存する(S202)。
次に、画像処理部360の特徴点抽出部361は、制御部350から指示により、記憶部330に保存された画像データを、識別情報に基づいて取得する。この特徴点抽出部361は、識別情報に基づく隣り合う各画像データの特徴点抽出を行う(S204)。この特徴点抽出は、従来の特徴点抽出方法が用いられる。
具体的には、例えば、最初の1回転目(以下、回転毎にラインと称する)の画像データC11と画像データC12とは、上述のように互いに重なり合うように撮影された連続する画像データである。したがって、図4(c)に示すように、カプセル型医療装置1の各撮影ステップの回転角度から、画像データC11と画像データC12とが互いに重複する領域(特徴点抽出領域R)を求め、この特徴点抽出領域R内で、従来の特徴点抽出方法に基づいて、特徴点Aを抽出する。そして、画像合成部362は、抽出された特徴点Aに基づいて画像データC11及びC12を重ね合わせる画像合成処理を行う。
また、画像データC11は、上述のように、次の回転動作において撮影されたラインC2の画像データC21と進行方向Xにおいても重複していることから(図5A(a)参照)、同様に、画像データC11と画像データC21との特徴点抽出及び画像合成を行うことで、連続した1つの体内画像が生成されることになる(S205)。このように本実施例では、周方向及び進行方向Xに、少なくとも一部が互いに重なり合う複数の画像データを、当該周方向及び進行方向Xの両方向において画像合成処理し、連続した1つの体内画像を生成している。
なお、上述した特徴点抽出処理の説明では、特徴点抽出領域Rを抽出して、予め抽出範囲を求めることで、特徴点の抽出精度及び処理速度を高めているが、この特徴点抽出領域Rを抽出せずに、特徴点を直接求めるように構成してもよい。
図4(d)及び図4(e)は、消化管の周方向に1回転した際に撮影された複数の画像が、上記画像処理により合成された結果を示す一例である。合成された画像が階段形状の1つの連続した画像となり(図4(d))、さらに不要部分を取り除くことにより、短冊状の1つの連続した画像CT1となる(図4(e))。
このように、本実施例では、カプセル型医装置1からの画像データを、上述のように画像処理することで、1つの連続した体内画像を生成するが、この1つの連続した体内画像を生成する画像処理過程において、本実施例では、図5A及び図5Bに示す2つの方法により行うことが可能である。以下、図5A及び図5Bを用いて本実施例の第1及び第2の画像処理方法を説明する。
図5Aに示す第1の画像処理方法は、カプセル型医療装置1で撮影されたライン毎に、図4(e)に示した短冊状の画像CTを複数生成し、生成された複数の短冊状画像CT1からCT12を、特徴点抽出部361及び画像合成部362による上述の画像合成処理で重ね合わせることで(図5B(b))、1つの連続した全体の体内画像Hを生成するものである(図5(c))。
すなわち、1つのラインの複数の画像を、その周方向において重ね合わせ、その後、生成された各ラインの複数の短冊状画像を進行方向Xにおいて重ね合わせることで、1つの連続した体内画像Hを生成する。
一方、図5Bに示す第2の画像処理方法は、図4(c)に示した特徴点抽出及び画像合成処理を連続して行うことで、1つの連続した全体の体内画像Hを生成するものである。
すなわち、図5B(a)に示すように、C11からC16までの特徴点抽出及び合成処理を行い、さらに続けてC16と次のラインC2における画像データC21との特徴点抽出及び合成処理を行う。このように、各ラインの最後の画像データと次のラインの最初の画像データとを連続して合成することで、らせん状(パイプ状)の連続画像データCR1が生成される(図5B(b))。そして、生成されたらせん状の連続画像データCR1を基準線Lで切り開くように展開し(図5B(c))、1つの連続した体内画像Hを生成する(図5(d))。
本実施例の第1の画像処理方法では、所定区間や消化管の小腸、大腸などの各部分毎の1つの連続した体内画像Hを生成することが容易であり、第2の画像処理方法では、完全に連続したシームレスの1つの連続した体内画像を得ることができる。
また、この第2の画像処理方法は、カプセル型医療装置1における撮像面の回転速度を一定とした場合、当該カプセル型医療装置1の体内移動速度情報(速度及び加速度)を取得することが可能となる。すなわち、らせん状の連続画像データCR1の各ライン毎の間隔(らせん間隔)とカプセル型医療装置1が一回転する間に要する時間とにより、カプセル型医療装置1の進行方向Xに対する速度・加速度情報を得ることができる(らせん間隔が密集して細かい場合は、速度が遅く、らせん間隔が長くあらい場合には、速度が速い)。
そして、このように生成された1つの連続した全体の体内画像Hは、画像処理装置300の記憶部330に保存され(S206)、画像表示装置400に出力されることにより、ディスプレイ410に表示される(S207)。
このように本実施例の医療システムSは、被検者500の体内を撮影した画像データから、被検者500の体内を平面的に捉えることが可能な平面画像を提供する。
このため、撮影された患部の位置関係や前後関係を容易に把握することができ、かつ被検者500の体内を全体的に捉えることが可能になる。
さらに、本実施例の画像処理装置300は、撮像面が小腸等の消化管の壁面と向かい合うように配置されているカプセル型医装置によって連続して撮影された被検者の消化管の周方向の複数の画像データに基づいて、1つの連続した体内画像を生成するため、高画質で、かつ体内の形状や突起物等により隠れた部分などによる撮影漏れがない体内画像を提供することが可能となる(小腸等の消化管の内壁(側壁)を漏らすことのなく撮影された正確な被検者の体内画像を提供すること可能になる)。
以上、実施例1では、1つの連続した体内画像を、画像表示装置400に平面画像として表示しているが、例えば、画像処理部360に、3次元形状で立体視可能な画像変換を行う画像変換部を設けて、1つの連続した平面画像としての体内画像を、小腸の形状に則した3次元形状の画像として、画像表示装置400に提供することも可能である。
より具体的には、図5B(c)に示したように、1つの連続した平面画像を生成する際に、パイプ状に連なった複数の画像データを3次元処理により、小腸の形状に則した3次元画像データとして提供し、当該3次元形状の体内画像を、3次元グラフィックス機能等で3次元的に動かして操作することも可能である。
また、例えば、カプセル型医療装置1の異なる光源において撮影された複数の画像データに基づく、各々異なる上記体内画像を合成して提供することも可能である。具体的には、光源を白色LEDで撮影された画像データに基づく1つの連続した体内画像H1と、光源を近赤外線光で撮影された画像データに基づく1つの連続した体内画像H2をそれぞれ生成し、この体内画像H1及びH2を特徴点抽出等の処理を経て重ね合わせた体内画像H3を生成することも可能である。この体内画像H3は、白色LEDを光源とした撮影では捉えることができないきれない画像データを取得可能な近赤外線光による画像データが合成されているので、より鮮明な体内画像を提供することが可能なる。
また、上記1つの連続した体内画像Hに患部や病巣と思われる領域を視覚的に捉えやすくマッピングして、提供することも可能である。具体的には、症例データが多数保存されたデータベースから、例えば、潰瘍やがん等の形状、色データを含む情報を取得して、テンプレートマッチング方法により、当該1つの連続した体内画像Hとマッチングさせることにより、患部等を抽出し、抽出された患部を色等でマーキングする。このようにマーキングされた1つの連続した体内画像は、被検者500の体内を平面的にかつ視覚的に捉え易く、かつ患部、その他の体内箇所の経年変化等を容易に把握することができる。
本発明の実施例1における医療システムの概略構成図である。 本発明の実施例1における画像処理装置の構成ブロック図である。 本発明の実施例1における画像処理装置の処理遷移を説明するためのフローチャートである。 本発明の実施例1における画像処理装置により生成される体内画像を説明するための図である。 本発明の実施例1における画像処理装置により生成される体内画像を説明するための図である。 本発明の実施例1における画像処理装置により生成される体内画像を説明するための図である。 本発明の実施例1におけるカプセル型医療装置を示す図であり、(a)はカプセル型医療装置側面図、(b)は、カプセル型医療装置の断面図である。 本発明の実施例1における医療システムの処理遷移を説明するためのフローチャートである。 従来のカプセル型内視鏡と、当該カプセル型内視鏡により撮影された映像(画像)の一例を示す図である。
符号の説明
1 カプセル型医療装置
100 装着ベスト
200 携帯ユニット
300 画像処理装置
310 通信部
320 A/D変換部
330 記憶部
340 データ出力部
350 制御部
360 画像処理部
361 特徴点抽出部
362 画像合成部
370 通信アンテナ

Claims (9)

  1. 被検者の体内を撮影して前記被検者の体内画像を提供するカプセル型医療装置からの複数の画像データに基づいて、1つの連続した平面画像を生成することを特徴とする画像処理装置。
  2. 被検者の消化管の周方向を連続して撮影するカプセル型医療装置からの、前記周方向についての複数の画像データに基づく1つの連続した体内画像を生成することを特徴とする画像処理装置。
  3. 前記複数の画像データを受信する通信部と、
    前記複数の画像データの少なくとも一部が互いに重なるように、前記複数の画像データを重ね合わせて前記1つの連続した体内画像を生成する画像処理部とを有することを特徴とする請求項2に記載の画像処理装置。
  4. 前記画像処理部は、前記複数の画像データを前記周方向についての周毎に重ね合わせて、前記周毎の複数の短冊状画像を生成し、前記複数の短冊状画像をさらに重ね合わせて前記1つの連続した体内画像を生成することを特徴とする請求項3に記載の画像処理装置。
  5. 前記画像処理部は、前記周方向について連続した前記複数の画像データを重ね合わせてらせん状画像を生成し、前記らせん状画像から前記1つの連続した体内画像を生成することを特長とする請求項3に記載の画像処理装置。
  6. 前記画像処理部は、
    前記複数の画像データの各々の特徴点を抽出する特徴点抽出部と、
    抽出された前記特徴点に基づいて、前記複数の画像データを重ね合わせて前記1つの連続した体内画像を生成する画像合成部と、
    前記1つの連続した体内画像を格納する記憶部とを有することを特徴とする請求項3から5のいずれか1つに記載の画像処理装置。
  7. 前記体内画像は、1つの連続した前記消化管の平面画像であることを特徴とする請求項2から6のいずれか1つに記載の画像処理装置。
  8. 被検者の消化管の周方向を連続して撮影する撮影ユニットと、前記撮影ユニットにより撮影された前記周方向についての複数の画像データを送信する通信ユニットとを備えたカプセル型医療装置と、
    通信部を介して受信した前記複数の画像データに基づく1つの連続した体内画像を生成する画像処理装置と、
    前記1つの連続した体内画像を表示する画像表示装置とを有することを特徴とする医療システム。
  9. 被検者の消化管の周方向を連続して撮影する撮影ユニットと、前記撮影ユニットにより撮影された前記周方向についての複数の画像データを送信する通信ユニットとを備えたカプセル型医療装置と、
    通信部と、前記通信部を介して受信した前記カプセル型医療装置からの前記複数の画像データを保存する記憶部を備え、前記被検者が装着する装着ベストと、
    前記記憶部に保存された前記複数の画像データから1つの連続した体内画像を生成する画像処理装置と、
    前記1つの連続した体内画像を表示する画像表示装置とを有することを特徴とする医療システム。
JP2005356448A 2005-12-09 2005-12-09 医療システム Active JP5308615B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005356448A JP5308615B2 (ja) 2005-12-09 2005-12-09 医療システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005356448A JP5308615B2 (ja) 2005-12-09 2005-12-09 医療システム

Publications (2)

Publication Number Publication Date
JP2007159641A true JP2007159641A (ja) 2007-06-28
JP5308615B2 JP5308615B2 (ja) 2013-10-09

Family

ID=38243229

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005356448A Active JP5308615B2 (ja) 2005-12-09 2005-12-09 医療システム

Country Status (1)

Country Link
JP (1) JP5308615B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009022667A1 (ja) * 2007-08-13 2009-02-19 Olympus Medical Systems Corp. 体内観察システムおよび体内観察方法
WO2010044330A1 (ja) * 2008-10-16 2010-04-22 オリンパスメディカルシステムズ株式会社 医療機器
US8414479B2 (en) 2008-12-05 2013-04-09 Johnson Electric S.A. Capsule endoscope
WO2015049962A1 (ja) * 2013-10-02 2015-04-09 オリンパスメディカルシステムズ株式会社 内視鏡システム
JP2015526133A (ja) * 2012-06-28 2015-09-10 コーニンクレッカ フィリップス エヌ ヴェ ロボット操作される内視鏡を使用した血管可視化の向上
JP2016519968A (ja) * 2013-05-29 2016-07-11 カン−フアイ・ワン 生体内マルチカメラカプセルからの画像再構築
WO2017158896A1 (ja) * 2016-03-15 2017-09-21 オリンパス株式会社 画像処理装置、画像処理システム、画像処理装置の作動方法

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05108819A (ja) * 1991-03-26 1993-04-30 Olympus Optical Co Ltd 画像処理装置
JPH09327447A (ja) * 1996-06-07 1997-12-22 Olympus Optical Co Ltd 医療用カプセル装置
JP2000134537A (ja) * 1998-10-28 2000-05-12 Ricoh Co Ltd 画像入力装置及びその方法
JP2000331168A (ja) * 1999-03-12 2000-11-30 Tokyoto Gesuido Service Kk 管渠内面画像の処理装置及びその方法
JP2001036898A (ja) * 1999-07-22 2001-02-09 Hitachi Ltd パノラマ映像生成用カメラシステム
JP2003050210A (ja) * 2001-08-07 2003-02-21 Nippon Steel Corp 管内面診断装置及び管内面診断方法
US20040210105A1 (en) * 2003-04-21 2004-10-21 Hale Eric Lawrence Method for capturing and displaying endoscopic maps
WO2004096008A2 (en) * 2003-05-01 2004-11-11 Given Imaging Ltd. Panoramic field of view imaging device
JP2005066095A (ja) * 2003-08-26 2005-03-17 Olympus Corp 電力供給装置
JP2005193052A (ja) * 2003-12-31 2005-07-21 Given Imaging Ltd 生体内感知システム
JP2005205078A (ja) * 2004-01-26 2005-08-04 Olympus Corp カプセル型内視鏡
JP2005319315A (ja) * 2004-05-03 2005-11-17 Given Imaging Ltd パノラミックビューを有する内視鏡

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05108819A (ja) * 1991-03-26 1993-04-30 Olympus Optical Co Ltd 画像処理装置
JPH09327447A (ja) * 1996-06-07 1997-12-22 Olympus Optical Co Ltd 医療用カプセル装置
JP2000134537A (ja) * 1998-10-28 2000-05-12 Ricoh Co Ltd 画像入力装置及びその方法
JP2000331168A (ja) * 1999-03-12 2000-11-30 Tokyoto Gesuido Service Kk 管渠内面画像の処理装置及びその方法
JP2001036898A (ja) * 1999-07-22 2001-02-09 Hitachi Ltd パノラマ映像生成用カメラシステム
JP2003050210A (ja) * 2001-08-07 2003-02-21 Nippon Steel Corp 管内面診断装置及び管内面診断方法
US20040210105A1 (en) * 2003-04-21 2004-10-21 Hale Eric Lawrence Method for capturing and displaying endoscopic maps
WO2004096008A2 (en) * 2003-05-01 2004-11-11 Given Imaging Ltd. Panoramic field of view imaging device
JP2006527012A (ja) * 2003-05-01 2006-11-30 ギブン・イメージング・リミテツド パノラマ視野の撮像装置
JP2005066095A (ja) * 2003-08-26 2005-03-17 Olympus Corp 電力供給装置
JP2005193052A (ja) * 2003-12-31 2005-07-21 Given Imaging Ltd 生体内感知システム
JP2005205078A (ja) * 2004-01-26 2005-08-04 Olympus Corp カプセル型内視鏡
JP2005319315A (ja) * 2004-05-03 2005-11-17 Given Imaging Ltd パノラミックビューを有する内視鏡

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009022667A1 (ja) * 2007-08-13 2009-02-19 Olympus Medical Systems Corp. 体内観察システムおよび体内観察方法
JP5427036B2 (ja) * 2007-08-13 2014-02-26 オリンパスメディカルシステムズ株式会社 体内観察システムおよび体内観察システムの作動方法
US20100198008A1 (en) * 2007-08-13 2010-08-05 Olympus Medical Systems Corp. Iv-vivo observing system and in-vivo observing method
US8568296B2 (en) 2007-08-13 2013-10-29 Olympus Medical Systems Corp. In-vivo observing system and in-vivo observing method
JPWO2010044330A1 (ja) * 2008-10-16 2012-03-15 オリンパスメディカルシステムズ株式会社 医療機器
US8237782B2 (en) 2008-10-16 2012-08-07 Olympus Medical Systems Corp. Medical instrument with mechanism for removing contaminant on observation window
JP4526601B2 (ja) * 2008-10-16 2010-08-18 オリンパスメディカルシステムズ株式会社 医療機器
WO2010044330A1 (ja) * 2008-10-16 2010-04-22 オリンパスメディカルシステムズ株式会社 医療機器
US8414479B2 (en) 2008-12-05 2013-04-09 Johnson Electric S.A. Capsule endoscope
JP2015526133A (ja) * 2012-06-28 2015-09-10 コーニンクレッカ フィリップス エヌ ヴェ ロボット操作される内視鏡を使用した血管可視化の向上
JP2016519968A (ja) * 2013-05-29 2016-07-11 カン−フアイ・ワン 生体内マルチカメラカプセルからの画像再構築
WO2015049962A1 (ja) * 2013-10-02 2015-04-09 オリンパスメディカルシステムズ株式会社 内視鏡システム
JPWO2015049962A1 (ja) * 2013-10-02 2017-03-09 オリンパス株式会社 内視鏡システム
US9662042B2 (en) 2013-10-02 2017-05-30 Olympus Corporation Endoscope system for presenting three-dimensional model image with insertion form image and image pickup image
WO2017158896A1 (ja) * 2016-03-15 2017-09-21 オリンパス株式会社 画像処理装置、画像処理システム、画像処理装置の作動方法
JPWO2017158896A1 (ja) * 2016-03-15 2018-03-29 オリンパス株式会社 画像処理装置、画像処理システム、画像処理装置の作動方法
US10354436B2 (en) 2016-03-15 2019-07-16 Olympus Corporation Image processing apparatus, image processing system and image processing apparatus operation method

Also Published As

Publication number Publication date
JP5308615B2 (ja) 2013-10-09

Similar Documents

Publication Publication Date Title
JP5308615B2 (ja) 医療システム
JP4550048B2 (ja) パノラマ視野の撮像装置
JP4987349B2 (ja) 画像ストリームを表示する方法、撮像器の出力を表示するためのシステム、および画像ストリームを表示するためのシステム
CN101296647B (zh) 生物体内图像获取装置、接收装置及生物体内信息获取***
JP5427036B2 (ja) 体内観察システムおよび体内観察システムの作動方法
JP5388657B2 (ja) 画像処理装置、画像処理装置の作動方法、およびシステム
JP2006320760A (ja) 体腔の広域画像形成用のシステムおよび方法
JP2005198789A (ja) カプセル型内視鏡装置
JP2005193052A (ja) 生体内感知システム
US20110218397A1 (en) Image processing system, external device and image processing method
JP2009273893A (ja) 生体内デバイスを磁気的に操作するためのデバイス、システム及び方法
US20120238812A1 (en) Apparatus, system and method to indicate in-vivo device location
US8206285B2 (en) Apparatus, system and method to indicate in-vivo device location
US20160295126A1 (en) Image Stitching with Local Deformation for in vivo Capsule Images
CN111035351A (zh) 用于胃肠道中的胶囊相机的行进距离测量的方法及装置
US10932648B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
US20140321724A1 (en) Image processing apparatus and image processing method
JP2007159642A (ja) カプセル型内視鏡カメラ
JP2009056160A (ja) 被検体内画像取得システム、被検体内画像処理方法および被検体内導入装置
WO2015182185A1 (ja) カプセル型内視鏡装置
JP5341257B2 (ja) 画像処理装置、画像処理装置の作動方法、画像処理プログラムおよび内視鏡システム
JP5112108B2 (ja) カプセル型内視鏡カメラ及び内視鏡システム
EP1942800B1 (en) Concurrent transfer and processing and real time viewing of in-vivo images
CN202154665U (zh) 医疗***
KR102097445B1 (ko) 캡슐 내시경 장치 및 상기 장치의 동작 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110517

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110715

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120724

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130618

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130701

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5308615

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250