JP2017534322A - 膀胱の診断的マッピング方法及びシステム - Google Patents
膀胱の診断的マッピング方法及びシステム Download PDFInfo
- Publication number
- JP2017534322A JP2017534322A JP2017514628A JP2017514628A JP2017534322A JP 2017534322 A JP2017534322 A JP 2017534322A JP 2017514628 A JP2017514628 A JP 2017514628A JP 2017514628 A JP2017514628 A JP 2017514628A JP 2017534322 A JP2017534322 A JP 2017534322A
- Authority
- JP
- Japan
- Prior art keywords
- video frames
- video
- bladder
- map
- stitching
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 66
- 238000013507 mapping Methods 0.000 title claims description 12
- 210000000056 organ Anatomy 0.000 claims description 27
- 238000012545 processing Methods 0.000 claims description 19
- 238000005286 illumination Methods 0.000 claims description 15
- 201000010099 disease Diseases 0.000 claims description 9
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 claims description 9
- 238000004091 panning Methods 0.000 claims description 8
- 230000001225 therapeutic effect Effects 0.000 claims description 7
- 230000009466 transformation Effects 0.000 claims description 7
- 230000003902 lesion Effects 0.000 claims description 5
- 238000001228 spectrum Methods 0.000 claims description 4
- 206010005003 Bladder cancer Diseases 0.000 claims description 3
- 208000007097 Urinary Bladder Neoplasms Diseases 0.000 claims description 3
- 210000003708 urethra Anatomy 0.000 claims description 3
- 201000005112 urinary bladder cancer Diseases 0.000 claims description 3
- 239000012530 fluid Substances 0.000 claims 2
- 238000000844 transformation Methods 0.000 claims 1
- 238000013459 approach Methods 0.000 abstract description 2
- 230000009278 visceral effect Effects 0.000 abstract 1
- 238000012800 visualization Methods 0.000 abstract 1
- 238000011156 evaluation Methods 0.000 description 20
- 206010061818 Disease progression Diseases 0.000 description 10
- 230000005750 disease progression Effects 0.000 description 10
- 238000002059 diagnostic imaging Methods 0.000 description 9
- 210000001519 tissue Anatomy 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 239000003814 drug Substances 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 238000002203 pretreatment Methods 0.000 description 4
- 238000013442 quality metrics Methods 0.000 description 4
- 206010028980 Neoplasm Diseases 0.000 description 3
- 230000007170 pathology Effects 0.000 description 3
- 238000002574 cystoscopy Methods 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 229940079593 drug Drugs 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001575 pathological effect Effects 0.000 description 2
- 239000008174 sterile solution Substances 0.000 description 2
- 208000024891 symptom Diseases 0.000 description 2
- 229940124597 therapeutic agent Drugs 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 206010061218 Inflammation Diseases 0.000 description 1
- 208000005615 Interstitial Cystitis Diseases 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- FAPWRFPIFSIZLT-UHFFFAOYSA-M Sodium chloride Chemical compound [Na+].[Cl-] FAPWRFPIFSIZLT-UHFFFAOYSA-M 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 210000000013 bile duct Anatomy 0.000 description 1
- 208000029162 bladder disease Diseases 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 210000003679 cervix uteri Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 210000001072 colon Anatomy 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000002405 diagnostic procedure Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 210000001198 duodenum Anatomy 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 238000011846 endoscopic investigation Methods 0.000 description 1
- 210000003238 esophagus Anatomy 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000002496 gastric effect Effects 0.000 description 1
- 230000004054 inflammatory process Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 210000002429 large intestine Anatomy 0.000 description 1
- 244000144972 livestock Species 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000027939 micturition Effects 0.000 description 1
- 210000003101 oviduct Anatomy 0.000 description 1
- 210000000664 rectum Anatomy 0.000 description 1
- 210000005000 reproductive tract Anatomy 0.000 description 1
- 230000000241 respiratory effect Effects 0.000 description 1
- 210000002345 respiratory system Anatomy 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000001624 sedative effect Effects 0.000 description 1
- 210000000813 small intestine Anatomy 0.000 description 1
- 239000011780 sodium chloride Substances 0.000 description 1
- 239000008223 sterile water Substances 0.000 description 1
- 210000002784 stomach Anatomy 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 208000026533 urinary bladder disease Diseases 0.000 description 1
- 210000001635 urinary tract Anatomy 0.000 description 1
- 210000003741 urothelium Anatomy 0.000 description 1
- 210000004291 uterus Anatomy 0.000 description 1
- 238000001429 visible spectrum Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000005406 washing Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Chemical compound O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
- 230000003442 weekly effect Effects 0.000 description 1
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/307—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the urinary organs, e.g. urethroscopes, cystoscopes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
- H04N5/445—Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
- H04N5/44504—Circuit details of the additional information generator, e.g. details of the character or graphics signal generator, overlay mixing circuits
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
- G06T7/0016—Biomedical image inspection using an image reference approach involving temporal comparison
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B2090/364—Correlation of different images or relation of image positions in respect to the body
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30028—Colon; Small intestine
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30084—Kidney; Renal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/555—Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biomedical Technology (AREA)
- Animal Behavior & Ethology (AREA)
- Molecular Biology (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Public Health (AREA)
- Pathology (AREA)
- Veterinary Medicine (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Urology & Nephrology (AREA)
- Quality & Reliability (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Graphics (AREA)
- Endoscopes (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Image Processing (AREA)
Abstract
内部体腔、例えば膀胱のような内臓の表面の視覚化を生成させるための方法及びシステムを提供する。このアプローチは、概して、内視鏡を内部体腔に挿入することと、該内部体腔を画定する組織表面のビデオを取得することと、ビデオフレームを一緒にステッチングして内部体腔を画定する組織表面のパノラママップを生成することと、該パノラママップを表示することとを含む。【選択図】図1
Description
関連出願の相互参照
本出願は、2014年9月17日出願の米国仮出願第62/051,879号の優先権の利益を主張するものであり、それは参照により本明細書に組み込まれる。
本出願は、2014年9月17日出願の米国仮出願第62/051,879号の優先権の利益を主張するものであり、それは参照により本明細書に組み込まれる。
本開示は、概して、医用画像の分野に関し、より具体的には、内部体腔表面の画像診断の方法及びシステムに関する。
膀胱鏡を使用する膀胱の日常的に用いられる検査は、医師が間質性膀胱炎または膀胱癌のような状態の目に見える症状を検出することを可能にする。しかし、膀胱で観察される特徴に関連するデータは、膀胱内の寸法または色の基準がないため、本質的に定性的及び主観的である。膀胱表面の写真またはビデオを取得することができるが、観察の解釈はその医師の判断に委ねられ、個人によって異なる可能性がある。この変動の1つの結果は、複数のリーダーが臨床試験で使用されて、写真やビデオなどの視覚データに関する統一見解を作成することである。このことは、疾患の進行とその目に見える症状を追跡するプロセスを困難にする。
膀胱表面特徴の寸法(長さ、面積)または色などの定量的尺度の導入は、より客観的な観察を可能にする。次に、これらの措置は、疾患の進行の追跡を容易にすることができる。しかしながら、従来の膀胱鏡検査では、絶対的な測定は現在のところ不可能である。これは、膀胱鏡が通常膀胱壁からの距離に関係なく焦点を合わせた観察を可能にし、膀胱鏡のヘッドで装置を単純化するために、無限の焦点距離を有するからである。画像が撮影された膀胱壁からの距離を知らずに、画像内の内部基準がない特徴の寸法を推測することは不可能である。色に関しては、通常は、膀胱鏡処置の前にホワイトバランスが実行されるが、自動輝度設定による検査中の光源の明るさの変化は、結果を混乱させ得る。光源の手動調整は、膀胱内の光強度への必要性が変化するので、操作者による持続的な再調整が必要とされるため実用的ではない。
従来の手法では、膀胱は、固定長アーマチュアと、パノラマステッチングを支援する既知の焦点距離と予め画定された動きを有する画像センサの回転とを使用してマッピングされる。しかし、このプロセスは取得後に実行され、所与の領域またはフレームの画質が低い場合には、再挿入/再撮像が必要となる。さらに、このプロセスは、望ましくないことに画像化を実施するために特殊化されたセンサ及びハードウェア(例えば蛍光または電動膀胱鏡)の使用を必要とし、これらはすべての臨床現場に対して手頃でも実現可能でもない。加えて、例えば、そのようなハードウェアの失敗点に起因する再度の画像化は、痛みを伴う/敏感な膀胱病変を有する患者にとっては選択肢ではない。
したがって、膀胱を画像化し、その膀胱の定量的観察を行うための改良された方法及び/またはシステムが必要とされている。例えば、膀胱疾患の存在及び/または進行(または退行)を評価する際に、患者の膀胱表面に関する定量的観察を行うための改善された手段を提供することが望ましい。
第1の態様では、臓器腔をマッピングする方法を提供し、該方法は、臓器腔内に内視鏡を挿入することであって、該臓器腔が組織表面を有する挿入することと、該臓器腔を画定する該組織表面のビデオを取得することであって、前記ビデオは複数のビデオフレームを含む、取得することと、該ビデオフレームをリアルタイムで一緒にステッチングして、該臓器腔を画定する該組織表面のパノラママップを生成することと、パノラママップを表示することと、を含む。
別の態様では、患者の尿道を通して膀胱内に挿入された膀胱鏡を介して膀胱の取得されたビデオから患者の膀胱をマッピングする方法を提供し、該方法は該取得されたビデオからの複数のビデオフレームを一緒にステッチングして、膀胱を画定する組織表面のパノラママップを生成することと、該パノラママップを表示することと、を含む。
さらに別の態様では、患者内の疾患または状態の進行を追跡する方法を提供し、該方法は、初回に作成された第1のパノラママップと2回目に作成された第2のパノラママップとを比較することを含み、該マップは、本明細書で開示されたマップ生成方法のいずれかを使用して作成される。
さらに別の態様では、臓器腔をマッピングするためのシステムを提供し、該システムは、
内視鏡と;ビデオ取り込み装置と;照明装置と;コンピュータ実行可能命令を記憶するメモリであって、該コンピュータ実行可能命令は、(i)該臓器腔を画定する組織表面のビデオを受信する命令であって、
該ビデオは、該内視鏡を介して該臓器腔に挿入された該ビデオ取り込み装置で得られる複数のビデオフレームを含み、該ビデオは該組織表面が該照明装置によって照明されている間に取得する、命令と、
(ii)該複数のビデオフレームをリアルタイムで一緒にステッチングして、該臓器腔を画定する該組織表面のパノラママップを生成する命令と、
(iii)該パノラママップを表示する命令と、を含む、メモリと、
該少なくとも1つのメモリにアクセスし、該コンピュータ実行可能命令を実行するように構成されたプロセッサと、
表示画面であって、該表示画面は、例えば該パノラママップをリアルタイムで表示するように構成される、表示画面と、を含む。
内視鏡と;ビデオ取り込み装置と;照明装置と;コンピュータ実行可能命令を記憶するメモリであって、該コンピュータ実行可能命令は、(i)該臓器腔を画定する組織表面のビデオを受信する命令であって、
該ビデオは、該内視鏡を介して該臓器腔に挿入された該ビデオ取り込み装置で得られる複数のビデオフレームを含み、該ビデオは該組織表面が該照明装置によって照明されている間に取得する、命令と、
(ii)該複数のビデオフレームをリアルタイムで一緒にステッチングして、該臓器腔を画定する該組織表面のパノラママップを生成する命令と、
(iii)該パノラママップを表示する命令と、を含む、メモリと、
該少なくとも1つのメモリにアクセスし、該コンピュータ実行可能命令を実行するように構成されたプロセッサと、
表示画面であって、該表示画面は、例えば該パノラママップをリアルタイムで表示するように構成される、表示画面と、を含む。
ここで、例示を意味するものでありかつ限定するものではない図面を参照するが、同様の要素には同様の番号が付されている。詳細な説明は、本開示の実施例を示す添付の図面を参照して説明され、同じ参照番号の使用は、類似または同一の項目を示す。本開示の特定の実施形態は、図面に例示された要素、構成要素、及び/または構成以外の構成要素を含むことができ、そして図面に示された要素、構成要素及び/または構成のいくつかは、特定の実施形態では存在しなくてもよい。
内部体腔を画定する組織表面の非構造化されたパノラママッピングを提供するためのシステム及び方法が開発された。このシステム及び方法は、部分的には、寸法及び色の基準として実質的に全身の内部体腔表面全体を使用して相対的な測定値を得ることができるという発見に基づいている。このシステム及び方法は、とりわけ、病理学の長期評価に有用である。好ましい実施形態では、パノラママッピングは、リアルタイムまたはほぼリアルタイムで発生する。
本明細書中に開示される装置及び方法は、男性もしくは女性、成人もしくは子供を問わないヒトでの使用に、または獣医学もしくは家畜の用途のような動物での使用に適合させることができる。したがって、「患者」という用語は、ヒトまたは他の哺乳動物の被験体を指してもよい。
本出願に記載の方法及びシステムは、任意の内部体腔に適用することができるが、好ましい実施形態は、膀胱に関して説明する。従来の膀胱鏡検査は相対的測定値を得ることを困難にする方法で行われるので、膀胱は本システム及び方法に特に適している。本明細書に記載される方法及びシステムでの使用に適当な体腔の他の代表的な例は食道、胃、十二指腸、小腸、大腸(結腸)、胆管及び直腸のような胃腸管腔;鼻または下気道のような呼吸器腔;耳;尿路腔;ならびに子宮頸部、子宮及び卵管のような生殖器系腔が含まれるが、これらに限定されない。
図1は、患者104の内部体腔102の表面の画像診断のためのシステム100の概略図である。図1に示すようにシステムは、内視鏡106を含む。内視鏡106は、膀胱鏡のように、内部体腔内を見るために使用される任意のデバイスとすることができる。
画像診断のためのシステム100は、画像取り込み装置108も含む。画像取り込み装置108は、関心領域から1つ以上の画像、例えば、内部体腔102の表面を取得するために使用される。画像取り込み装置108は、カメラなどの1つ以上の画像を取り込むための任意の従来の装置とすることができる。該画像取り込み装置108は、内視鏡106の一部もしくは全部に一体化されていてもよいし、または内視鏡106の一部もしくは全部に結合されていてもよい。画像取り込み装置108はまた、内視鏡106と離れていてもよい。
画像診断のためのシステム100はまた、照明装置110を含む。照明装置110は、関心領域,例えば内部体腔102の表面を照明するために使用される。照明装置110は、任意の従来の装置とすることができる。照明装置110は、内視鏡106の一部または全部に一体化されていてもよいし、または内視鏡106の一部または全部に結合されていてもよい。照明装置110は、内視鏡106と離れていてもよい。照明装置110は、関心領域を適切な電磁波波長で照明するための1つ以上の光源を含む。例示的な光源には、広帯域または狭帯域の近赤外光源、励起レーザ光源、可視光源、単色光源、他の狭帯域光源、及び紫外線光源等が含まれる。一実施形態では、照明装置110は、可視スペクトルをカバーする白色光源を含み、従来のカラー画像の取得を容易にする。
画像診断システム100は、画像取り込み装置108がコンピュータ114と通信し、画像取り込み装置108の出力、例えば内部体腔表面の1つ以上の取得された画像をコンピュータ114によって受信できるように構成されている。画像取り込み装置108は、任意の従来の手段によってコンピュータ114と通信することができる。例えば、画像取り込み装置108は、光ファイバケーブルによって、無線で、または有線または無線のコンピュータネットワークを介してコンピュータ114と通信することができる。
コンピュータ114は、メモリ116及びプロセッサ118を有する。メモリ116は、コンピュータ実行可能命令を記憶することができる。プロセッサ118は、メモリ116に記憶されたコンピュータ実行可能命令にアクセスし実行するように構成される。コンピュータ実行可能命令は、とりわけ、1つ以上の受信画像を処理し、受信画像からマップを構築し、表示装置120に該マップを表示する。
画像診断システム100は、コンピュータ114が表示装置120と通信し、コンピュータ114の出力、例えば1つ以上の画像から構築されたマップを表示装置120によって受信するのを可能にするように構成されている。コンピュータ114は、任意の従来の手段によって表示装置120と通信することができる。例えば、コンピュータ114は、ビデオケーブルによって、無線で、または有線または無線のコンピュータネットワークを介して表示装置120と通信することができる。
図2は、内部体腔表面の画像診断方法のフローチャートである。ステップ202は、画像診断手順のための患者を前処置する。この前処置は、患者を鎮静または麻酔する等の従来の前処置ステップを含むことができる。いくつかの実施形態では、患者に膀胱の表面の画像診断のため、患者の膀胱を完全に排液し、及び次いで滅菌生理食塩水または滅菌水などの滅菌溶液の既知容量で膀胱を再充填することにより前処置する。患者の膀胱を、当業者に知られている任意の他の手段によって排液しそして再充填してもよい。例えば、膀胱を患者の排尿または挿入されたカテーテルによって排液でき、及び膀胱を従来の膀胱洗浄技術を用いて再充填できる。いくつかの実施形態では、膀胱を排液した後、膀胱に既知容量の滅菌溶液を再充填し、そして膀胱を、画像診断手順の少なくとも一部の間、既知容量(例えば一定体積)に保つ。膀胱を一定の体積に保つことは、実質的に膀胱表面全体を寸法及び色の基準として使用して、相対的な膀胱測定値を得ることを有利に可能にする。
ステップ204では、内視鏡の少なくとも一部、画像取り込み装置の一部、及び照明装置の一部を内部体腔に挿入する。画像取り込み装置及び照明装置は、内視鏡の一部または全部に一体化されていてもよいし、内視鏡の一部または全部に結合されていてもよい。画像取り込み装置及び照明装置は、内視鏡と離れていてもよい。好ましい実施形態では、内視鏡は、デジタルビデオ画像取り込み及び白色照明を備える、手動でガイドする(manually−guided)従来の膀胱鏡である。
ステップ206では、画像取り込み装置は、内部体腔の実質的に全表面をカバーするビデオまたは1つ以上の画像を取得する。本明細書で使用する場合、内部体腔の「実質的に」全表面とは、内部体腔の全表面の約80%超、85%超、90%超、95%超、または97.5%超を指す。
好ましい実施形態では、膀胱の半非構造化された(semi−unstructured)膀胱鏡評価中に、内部体腔の実質的に全表面のビデオが取得される。半非構造化された膀胱鏡評価は、少なくとも1の、但し全部ではない評価のパラメータが計画されている膀胱鏡評価である。例えば、半非構造化された膀胱鏡評価は、画像取り込み装置をパンするための定義済みの開始点及び定義済みの方向を有することができる。別の例では、半非構造化された膀胱鏡評価は、定義済みの開始点及び他のいくらかの定義済みの関心点を有することができる。この場合、医師は、開始点(例えば、第1の関心点)を位置決めし及び画像化し、その後、画像取り込み装置をパンするための定義済みの経路を使用せずに、他の関心点のビデオを取得しようとする。
別の実施形態では、膀胱の完全に非構造化された(fully unstructured)膀胱鏡評価中に、内部体腔の実質的に全表面のビデオが取得される。完全に非構造化された膀胱鏡評価は、評価のパラメータが計画されていない膀胱鏡評価である。例えば、完全に非構造化された膀胱鏡評価は、定義済みの開始点を有さず、定義済みの関心点もなく、画像取り込み装置をパンするための定義済みの経路も有さない。
別の実施形態では、膀胱の完全に構造化された(fully structured)膀胱鏡評価中に、内部体腔の実質的に全表面のビデオが取得される。完全に構造化された膀胱鏡評価は、評価のすべてのパラメータが計画されている膀胱鏡評価である。例えば、完全に構造化された膀胱鏡評価は、定義済みの開始点、定義済みの関心点、及び画像取り込み装置をパンするための定義済みの経路を有することができる
いくつかの実施形態では、医師は、膀胱鏡評価手順またはより具体的には、ビデオ取得段階206に関連する情報を有するディスプレイを提供される。例えば、ディスプレイは、定義済みの関心点または特徴を有する内部体腔のブランクマップを示し得る。前記定義済みの関心点または特徴は、内部体腔の膀胱鏡評価中の使用のための基準のフレームを提供することができ、及び内部体腔の画像取り込み装置をパンするための基準として使用して、内部体腔の実質的に全表面のビデオを取得することを確実にするのを助ける。例えば、ディスプレイは、膀胱及び対応する走査経路の表現を示すことができる。いくつかの実施形態では、関心点は、病理学のまたは表面形態(例えば、表面ランドマーク)の領域に対応する。ディスプレイは、他の関連情報も含むことができる。例えば、ディスプレイは、画像化手順に関して医師を助けるための例示的な画像またはビデオを含むことができる。ディスプレイはまた、膀胱鏡評価手順またはビデオ取得ステップ206のための有用な情報、例えば膀胱鏡、画像取り込み装置及び照明装置をパンするための方向または経路に関する、膀胱鏡、画像取り込み装置及び照明装置の動きの速度に関する、照明装置が出力する光の輝度及びコントラストレベルに関する等の、情報を含み得る。
いくつかの実施形態では、医師は内部体腔表面上の第1の関心点で画像を、内部体腔の残りの表面の画像またはビデオを取得する前に、位置づけし及び取得する。いくつかの実施形態では、医師は、内部体腔表面上の第1の関心点を見つけまたはロックし、次いで他の関心点のビデオをパンするまたは取り込む試みをしながら、内部体腔を介して画像取り込み装置をパンする。
ステップ208では、ステップ206で取得されたビデオまたは1つ以上の画像がコンピュータによって受信及び処理される。好ましい実施形態では、ステップ208は、ステップ206と同時に実行される。しかしながら、ステップ206及び208は、非同期的に実行されてもよい。処理ステップ208は、当業者に知られているビデオまたは画像を処理するために使用される多くの従来の方法を含むことができる。いくつかの態様では、処理ステップ208は、ステップ206で取得したビデオフレームまたは画像を組み合わせて、表示装置上に表示可能なマップを形成することを容易にする。いくつかの実施形態では、処理ステップ208は取得された各ビデオフレームまたは画像を、(1)既知の幾何学変換に基づいて各フレームまたは画像を歪み補正し(unwarp)、(2)各フレームまたは画像から関連する特徴情報を抽出し、(3)各フレームまたは画像と他のフレームまたは画像との間の共通の特徴点を決定し、及び(4)各フレームまたは画像と他のフレームまたは画像との間のホモグラフィを計算する、アルゴリズムに送ることを含む。
いくつかの実施形態では、処理ステップ208は、取得された各ビデオフレームまたは画像をさまざまな画質メトリックについてテストすることを含む。1つ以上の品質メトリックを満たさない、各取得されたビデオフレームまたは画像は、不十分とみなされる。品質メトリックは、当業者に周知である。例示的な品質メトリックは、信号対雑音比、画像輝度、画像コントラスト、低画質、特徴検出/照合の失敗等を含むことができる。
好都合なことに、医師は、取得されたビデオフレームまたは画像が不十分であることを警告することができる。例えば、一実施形態では、不十分なビデオフレームまたは画像は破棄され、(表示装置に表示される)内部体腔表面のマップ上に空白のフレームとして示される。このようにして、マップを見ている医師は、マップ上の空白領域を見ることになり、置き換えビデオまたは画像を取得するためにマップ上の空白領域に対応する内部体腔の特定表面を再走査することが分かる。あるいは、医師は、取り込まれたすべてのビデオまたは画像を破棄して、画像取得手順を完全に再開始することができる。
ステップ210では、処理されたビデオフレームまたは画像を一緒にステッチングして内部体腔表面のマップを作成する。いくつかの実施形態では、ビデオフレームまたは画像を一緒にステッチングして、二次元マップ投影図を形成する。このようにして、寸法を内部体腔表面全体との関係で表すことができる。マップ投影図は、円柱投影図(すなわち、メルカトル投影図)のような任意の適切な投影図とすることができる。いくつかの実施形態では、ビデオフレームまたは画像を、一緒にステッチングして膀胱のパノラママップを作成する。ステッチングは、スケールと回転性には依存しない。さらに、ステッチングされたマップは、定義済みの内部体腔表面形態を組み込むことができる。好ましい実施形態では、ステップ210は、ステップ206及び208と同時に実行される。しかし、ステップ210は、ステップ206及び208と非同期的に実行されてもよい。
特定の実施形態では、各ビデオフレームまたは画像を、先行するビデオフレームまたは画像とのみステッチングする。第1のビデオフレームまたは画像を、その上に表示されている関心点または特徴(例えば、表面モルホロジー)を有する内部体腔表面のブランクマップとステッチングしてもしなくてもよい。しかし、いくつかの実施形態では、ビデオフレームまたは画像が先行するビデオフレームまたは画像だけでなく、他の存在するビデオフレームまたは画像と重なっている場合、該ビデオフレームまたは画像は重なっている全てのビデオフレームまたは画像とステッチングさせる。これにより、各ビデオフレームまたは画像を、他のすべての重なり合うビデオフレームまたは画像に関連して正確に配置することを確実にする。特定の実施形態では、処理ステップ208によって不十分とみなされる各ビデオフレームまたは画像は、マップ上のバンク領域として表示される。
ステップ212では、ステップ210からのステッチングされたマップを表示装置に表示する。好ましい実施形態では、ステップ212は、ステップ206、208、及び210と同時に実行される。しかしながら、ステップ212はまた、ステップ206、208、及び210から非同期的に実行されてもよい。ステップ212をビデオ取得ステップ206と同時に実行すると、処理ステップ208及びステッチングステップ210は、医師が、マップを見ることによってどのような内部体腔表面領域が画像化されたかを識別するだけでなく、先に走査されたが、不十分なビデオフレームまたは画像を生じてマップ上にブランク領域として表示される内部体腔表面領域を医師に再走査できるようにする。ステッチングされた結果及びそれを示すディスプレイが、新たに取得されたビデオフレームまたは画像により連続的かつ即時に更新される好ましい実施形態では、医師はビデオまたは画像取得の経路を単にたどり直すことによって空白領域を再走査することができる。
ステップ214では、医師は、表示された内部体腔表面のマップが許容可能であるかどうかを判定する。例えば、マップが実質的に完全で良質の画像またはビデオフレームで構成されている場合、医師はそのマップを受け入れることができ(すなわち、マップが完成する)、そして内部体腔表面の画像診断法が終了する(216)。あるいは、マップが実質的に完全ではなく及び/または良質の画像またはビデオフレームで構成されていないが、依然として診断用途に十分である場合、医師はマップを受け入れることができ(すなわち、マップが完成する)、そして内部体腔表面の画像診断法が終了する(216)。しかし、マップが実質的に完全ではなく、良質の画像またはビデオフレームで構成されていない場合、または不十分なビデオフレームまたは画像に対応するブランク領域を含む場合、医師はマップを許容できない。この場合、医師は次のステップに移る。
ステップ218では、画像取り込み装置は、置き換え用ビデオまたは1つ以上の画像を取得して、置き換えが必要であるいずれかのビデオフレームまたは画像と置き換える。ステップ218は、ステップ218が特定のビデオフレームまたは画像のみを置き換える必要があるという事実のため、内部体腔の実質的に全表面よりも少ない部分に画像取り込み装置をパンさせることのみを必要とできることを除けば、ステップ206と実質的に同じ方法で実施される。
ステップ220では、ステップ218で取得された置換ビデオまたは1つ以上の画像をコンピュータによって受信し、処理する。ステップ220は、ステップ208と実質的に同じ方法で実行される。
ステップ222では、ステップ220からの処理された置換ビデオフレームまたは画像を、互いに、及び以前にステッチされたフレームと共にステッチングして、該内部体腔表面の更新されたマップを生成する。ステップ222は、ステップ210と実質的に同じ方法で実行される。
ステップ224では、ステップ222からの更新されたマップを表示装置に表示する。ステップ224は、ステップ212と実質的に同じ方法で実行される。表示されるとすぐに、医師はステップ214に戻り、内部体腔表面の更新マップが許容可能であるかどうかを判定する。
図3は、複数のビデオフレームまたは画像を処理する方法のフローチャートである。ステップ302では、ビデオフレームまたは画像は、フレームまたは画像を歪み補正するアルゴリズムに送られる。ビデオフレームまたは画像は、当業者に知られている任意の手段を使用して歪み補正できる。
ステップ304では、ビデオフレームまたは画像は、ビデオフレームまたは画像から関連する特徴情報(例えば、血管)を抽出するアルゴリズムに送られる。関連する特徴情報は、当業者に知られている任意の手段を使用して抽出することができる。いくつかの実施形態では、スペクトルベースのフィルタを使用して、ビデオフレームまたは画像から関連する特徴情報を抽出する。
ステップ306では、ビデオフレームまたは画像は、現ビデオフレームまたは画像と、他の処理されたビデオフレームまたは画像との間の共通の特徴点を決定するアルゴリズムに送られる。現ビデオフレームまたは画像と他の処理されたビデオフレームまたは画像との間の共通の特徴点の決定は、当業者に知られている任意の手段を使用して行うことができる。いくつかの実施形態では、スケール不変特徴変換(SIFT)またはハリスコーナー検出器を使用して、現ビデオフレームまたは画像と他の処理されたビデオフレームまたは画像との間の共通の特徴点を決定する。
ステップ308では、ビデオフレームまたは画像は、現ビデオフレームまたは画像と他の処理されたビデオフレームまたは画像との間のホモグラフィを計算し、外れ値を除去し、ならびに現ビデオフレームまたは画像と他の処理されたビデオフレームまたは画像とをステッチングするための変換を生成するアルゴリズムに送られる。ホモグラフィを計算し、外れ値を除去し、画像ステッチングのための変換を生成することは、当業者に知られている任意の手段を使用して行うことができる。いくつかの実施形態では、現ビデオフレームまたは画像と他の処理されたビデオフレームまたは画像との間のホモグラフィは、ランダムサンプルコンセンサス(RANSAC)アルゴリズムを使用して計算され、SIFT記述子の数を減らす。
ステップ310では、アルゴリズムは、全ての取得したビデオフレームまたは画像が処理されたかどうかを判定する。答えが「はい」である場合、複数のビデオフレームまたは画像を処理する方法が終了する(312)。答えが「いいえ」である場合、新しいビデオフレームまたは画像が選択され(314)、ステップ302に供給される。
図4は、疾患の進行を診断または評価する方法のフローチャートである。ステップ402では、本明細書で開示される方法またはシステムのいずれかを使用して、内部体腔の実質的に全表面の1つ以上のマップが取得される。いくつかの実施形態では、1つ以上のマップが患者について登録される。このようにして、内部体腔の実質的に全表面のマップが特定の患者に関連付けられる。特定の患者に関連する2つ以上のマップがある場合、マップを比較して分析することができる。
いくつかの実施形態では、内部体腔のマッピングは、毎週、隔週で、毎月、毎年等、定期的に実行される。疾病が、例えば治療薬(例えば、薬物)で治療されるいくつかの実施形態では、治療薬による治療前、治療処置中、及び治療処置の終了後に、内部体腔のマッピングを実施することができる。
ステップ404では、1つ以上のマップを使用して、疾患の進行を診断し、評価し、または追跡する。いくつかの実施形態では、単一のマップを使用して疾患の進行を診断しまたは評価する。好ましい実施形態では、2つ以上のマップを互いに比較して疾患の進行を診断し、評価し、または追跡する。2つ以上のマップは、任意の適切な手段によって互いに比較することができる。例えば、医師は、各マップ上の特定の領域または関心領域(例えば、病理領域)を位置決めし、2つ以上のマップ上の該領域または関心領域間で観察されたいずれかの差異を評価することができる。マップ比較プロセスは、とりわけ、膀胱などの内部体腔表面の特定の領域における病理学の長期的な/一時的な評価を利用して、治療的介入に対する応答を評価しまたは疾患の進行を監視することができる。
マップ比較は、例えば、尿路上皮の観察可能な特徴を含むマップ内の領域のサイズ及び/または数を比較することを含むことができる。例えば、観察可能な特徴は、病変、炎症等であってよい。
コンピュータは、疾患の進行を診断し、評価し、及び追跡すること、または当業者に容易に認識されるいずれかの数の手段を用いて互いにマップを比較することを支援することができる。例えば、コンピュータアルゴリズムは、病理領域または表面形態(例えば表面ランドマーク)のような関心点を使用して2つ以上のマップを整列または重ね合わせることができる。コンピュータアルゴリズムを使用して、医師の入力により一旦検証された2つ以上のマップを整列または重ね合わせることは、人間の操作に関連するいくつかの主観性を排除することによって、診断、評価及び追跡プロセスに一貫性を提供する。同様に、コンピュータアルゴリズムは、関心点における変化、例えば大きさ、着色等を検出でき、それはまたマップの人間による読み取りに関連するいくつかの主観性を排除することによって、病気の進行を診断し、評価しまたは追跡することを容易する。
いくつかの実施形態では、2つ以上のマップを互いに比較して、ハンナー病変または膀胱癌などの疾患の治療を必要とする患者に対する選択された治療処置の有効性を評価する。例えば、マッピングを、治療前及び治療中及び治療後に定期的に実施し、次いで可視病変または腫瘍が選択された治療処置に応答しているかどうかを定量的に評価するためにマップを比較する(例えば、病変または腫瘍のサイズが減少する)。この情報は、臨床試験における薬物の治療有効性または忍容性の測定を含む多くの目的に有用であり得る。さらに、癌などの疾患の進行を追跡する場合、比較可能なデータを提供するために患者が評価されるたびに、定量的データを内部体腔(例えば、膀胱)の全表面に対して正規化することができる。いくつかの実施形態では、内部体腔(例えば、膀胱)の表面のバックグラウンドの色をベースラインとして使用し、呈色の変化を分析する。いくつかの実施形態では、関心領域における表面形態のサイズ及び形状を追跡し、サイズ及び形状の変化を分析する。マップを使用して疾患の進行/状態を診断または評価した後、方法が終了される(406)。
本明細書に記載された技術は、膀胱を含むがこれに限定されない種々の異なる内部体腔表面をマッピングするために使用することができる。例えば、この技法は、走査軌道が画定でき、走査及びステッチング中に組織が能動的に操作されず、及び走査領域内の特徴が十分かつ明確に区別され得る、任意の内視鏡手法に適用され得る。
本明細書に引用される刊行物及びそれらが引用される資料は、参照により具体的に組み込まれる。本明細書に記載の方法及び装置の改変及び変形は、前述の詳細な説明から当業者には明らかであろう。そのような改変及び変形は、別記請求の範囲内に入るよう意図されている。
Claims (28)
- 臓器腔をマッピングする方法であって、
臓器腔内に内視鏡を挿入することであって、該臓器腔が組織表面を有する、挿入することと、
該臓器腔を画定する該組織表面のビデオを取得することであって、該ビデオが複数のビデオフレームを含む、取得することと、
該ビデオフレームをリアルタイムで一緒にステッチングして、該臓器腔を画定する該組織表面のパノラママップを生成することと、
該パノラママップを表示することと、を含む、方法。 - 前記臓器腔は膀胱であり、前記ビデオは該膀胱を画定する前記組織表面の実質的にすべてを取り込む、請求項1に記載の方法。
- 前記内視鏡は、ビデオ画像取り込み及び照明を備える手動ガイド膀胱鏡である、請求項1に記載の方法。
- 前記臓器腔から第1の流体を排出し、次いで該臓器腔に既知の体積の第2の流体を充填することをさらに含み、該臓器腔が前記取得するステップ中にほぼ一定の体積を維持する、請求項1に記載の方法。
- 前記パノラママップは二次元円筒投影図である、請求項1に記載の方法。
- 前記取得するステップが、半非構造化様式で行われ、
前記臓器腔の前記組織表面上に第1の関心点を位置決めすることと、
該第1の関心点において第1のビデオフレームを得ることと、
該臓器腔を通じてパンする(panning)ことと、
該臓器腔の該組織表面上の1つ以上の他の関心点における1つ以上の追加のビデオフレームを得ることと、を含む、請求項1に記載の方法。 - 前記複数のビデオフレームの各々を処理することをさらに含み、前記処理は、
該複数のビデオフレームの各々を歪み補正する(unwarping)ことと、
スペクトルベースのフィルタを適用して、該複数のビデオフレームの各々から関連する特徴情報を抽出することと、
スケール不変特徴変換またはハリスコーナー検出器を該複数のビデオフレームの各々に適用して、該複数のビデオフレームの各々と少なくとも1つの他のビデオフレームとの間の共通の特徴点を決定することと、
ランダムサンプルコンセンサスアルゴリズムを用いて、該複数のビデオフレームの各々と少なくとも1つの他のビデオフレームとの間のホモグラフィを計算して、該スケール不変特徴変換記述子の数を減らし、外れ値スケール不変特徴変換記述子を除去し、画像ステッチチングのための変換を生成することと、を含む、請求項6に記載の方法。 - 前記複数のビデオフレームの少なくともいくつかは、前記パンするステップが進行中である間に前記パノラママップ上にステッチング及び表示される、請求項7に記載の方法。
- 前記パノラママップは、低画質であるか、または画像ステッチングのための変換を生成することができなかった前記複数のビデオフレームの各々に対応するブランク領域を含む、請求項8に記載の方法。
- 前記取得するステップ、前記処理するステップ、前記ステッチングするステップ、及び前記表示するステップは、低画質であるか、または変換を生成することができなかった前記複数のビデオフレームの各々に対応する前記臓器腔の1つ以上のセクションに対して任意に繰り返される、請求項9に記載の方法。
- 前記パノラママップは、最初はブランクであり、1つ以上の定義済みの関心点を含む、請求項1に記載の方法。
- 前記複数のビデオフレームの各々を処理することをさらに含み、前記取得するステップが完全に非構造化されており、該処理するステップは、
該複数のビデオフレームの各々を歪み補正することと、
スペクトルベースのフィルタを適用して、該複数のビデオフレームの各々から関連する特徴情報を抽出することと、
スケール不変特徴変換またはハリスコーナー検出器を該複数のビデオフレームの各々に適用して該複数のビデオフレームの各々と少なくとも1つの他のビデオフレームとの間の共通の特徴点を決定することと、
ランダムサンプルコンセンサスアルゴリズムを用いて、該複数のビデオフレームの各々と少なくとも1つの他のビデオフレームとの間のホモグラフィを計算して、該スケール不変特徴変換記述子の数を減らし、外れ値スケール不変特徴変換記述子を除去し、画像ステッチチングのための変換を生成することと、を含む、請求項1に記載の方法。 - 前記複数のビデオフレームの各々を処理することをさらに含み、前記実質的に取り込まれた膀胱の全表面が、前記マップを処理し、ステッチングし、または表示するための基準として使用される、請求項3に記載の方法。
- 前記関連する特徴情報が色を含み、前記実質的に取り込まれた膀胱の全表面がベースラインバックグラウンド色を有する、請求項13に記載の方法。
- 患者の尿道を通して膀胱内に挿入された膀胱鏡を介して該膀胱の取得されたビデオから該患者の該膀胱をマッピングする方法であって、
該取得されたビデオから複数のビデオフレームを一緒にステッチングして該膀胱を画定する組織表面のパノラママップを生成することと、
該パノラママップを表示することと、を含む、方法。 - 前記ステッチングするステップ及び表示するステップは、前記ビデオの取得と共にリアルタイムで実行される、請求項15に記載の方法。
- 患者内の疾患または状態の進行を追跡するための方法であって、
請求項1乃至16のいずれか一項に記載の最初に作成された第1のパノラママップと、請求項1乃至16のいずれか1項に記載の2回目に作成された第2のパノラママップとを比較することを含む、方法。 - 前記臓器腔が前記患者の前記膀胱である、請求項17に記載の方法。
- 前記比較の結果を使用して、前記疾患または状態について前記患者に施された治療処置の有効性または忍容性を評価することをさらに含む、請求項17または18に記載の方法。
- 前記疾患または状態は、ハンナー病変または膀胱癌を含む、請求項19に記載の方法。
- 臓器腔をマッピングするためのシステムであって、
内視鏡と、
ビデオ取り込み装置と、
照明装置と、
コンピュータ実行可能命令を記憶するメモリであって、該コンピュータ実行可能命令は、
該臓器腔を画定する組織表面のビデオを受信する命令であって、該ビデオは、該内視鏡を介して該臓器腔に挿入された該ビデオ取り込み装置で得られる複数のビデオフレームを含み、該ビデオは該組織表面が該照明装置によって照明されている間に取得される、命令と、
該複数のビデオフレームをリアルタイムで一緒にステッチングして、該臓器腔を画定する該組織表面のパノラママップを生成する命令と、
該パノラママップを表示する命令と、を含む、メモリと、
該少なくとも1つのメモリにアクセスし、該コンピュータ実行可能命令を実行するように構成されたプロセッサと、
表示画面であって、該パノラママップをリアルタイムで表示するように構成された、表示画面と、を備える、システム。 - 前記コンピュータ実行可能命令は、前記複数のビデオフレームの各々を処理する命令をさらに含み、該複数のビデオフレームの各々を処理する該命令は、
該複数のビデオフレームの各々を歪み補正することと、
スペクトルベースのフィルタを適用して該複数のビデオフレームの各々から関連する特徴情報を抽出することと、
該複数のビデオフレームの各々にスケール不変特徴変換またはハリスコーナー検出器を適用して、該複数のビデオフレームの各々と少なくとも1つの他のビデオフレームとの間の共通の特徴点を決定することと、
ランダムサンプルコンセンサスアルゴリズムを用いて、該複数のビデオフレームの各々と少なくとも1つの他のビデオフレームとの間のホモグラフィを計算して、該スケール不変特徴変換記述子の数を減らし、外れ値スケール不変特徴変換記述子を除去し、画像ステッチングのための変換を生成することと、を含む、請求項21に記載のシステム。 - 前記コンピュータ実行可能命令は、前記ビデオフレームのうちの少なくともいくつかがまだ取り込まれている間に、前記複数のビデオフレームのうちの少なくともいくつかを一緒にステッチングし、前記パノラママップを表示する命令をさらに含む、請求項21または22に記載のシステム。
- 前記パノラママップは二次元円筒投影図である、請求項21乃至23のいずれか一項に記載のシステム。
- 前記マップは最初はブランクであり、1つ以上の定義済みの関心点を含む、請求項21乃至24のいずれか一項に記載のシステム。
- 前記パノラママップは、低画質であるか、または画像ステッチングのための変換を生成することができなかった前記複数のビデオフレームの各々に対応するブランク領域を可能とするよう構成される、請求項21乃至25のいずれか一項に記載のシステム。
- 前記コンピュータ実行可能命令が、低画質であるか、または変換を生成することができなかった前記複数のビデオフレームの各々に対応する前記臓器腔の1つ以上のセクションに対し追加のビデオフレームを任意に受信し、処理し、ステッチングし、かつ表示するための命令をさらに含む、請求項21乃至26のいずれか一項に記載のシステム。
- 前記内視鏡は、患者の尿道を通過するように構成された膀胱鏡を含む、請求項21乃至27のいずれか一項に記載のシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201462051879P | 2014-09-17 | 2014-09-17 | |
US62/051,879 | 2014-09-17 | ||
PCT/US2015/050744 WO2016044624A1 (en) | 2014-09-17 | 2015-09-17 | Methods and systems for diagnostic mapping of bladder |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017534322A true JP2017534322A (ja) | 2017-11-24 |
Family
ID=54249618
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017514628A Pending JP2017534322A (ja) | 2014-09-17 | 2015-09-17 | 膀胱の診断的マッピング方法及びシステム |
Country Status (10)
Country | Link |
---|---|
US (1) | US20170251159A1 (ja) |
EP (1) | EP3193692A1 (ja) |
JP (1) | JP2017534322A (ja) |
KR (1) | KR20170055526A (ja) |
CN (1) | CN106793939A (ja) |
BR (1) | BR112017005251A2 (ja) |
CA (1) | CA2961218A1 (ja) |
IL (1) | IL251121A0 (ja) |
RU (1) | RU2017112733A (ja) |
WO (1) | WO2016044624A1 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018050890A (ja) * | 2016-09-28 | 2018-04-05 | 富士フイルム株式会社 | 画像表示装置及び画像表示方法並びにプログラム |
JPWO2019203006A1 (ja) * | 2018-04-17 | 2021-05-13 | 富士フイルム株式会社 | 内視鏡装置、内視鏡プロセッサ装置及び内視鏡画像表示方法 |
WO2021149137A1 (ja) * | 2020-01-21 | 2021-07-29 | オリンパス株式会社 | 画像処理装置、画像処理方法およびプログラム |
WO2021171464A1 (ja) * | 2020-02-27 | 2021-09-02 | オリンパス株式会社 | 処理装置、内視鏡システム及び撮像画像の処理方法 |
WO2022114088A1 (ja) * | 2020-11-25 | 2022-06-02 | 株式会社朋 | ハンナ病変の指摘のためのプログラム、学習済みモデル及びその生成方法 |
JP2022546419A (ja) * | 2019-08-30 | 2022-11-04 | オーリス ヘルス インコーポレイテッド | 器具画像信頼性システム及び方法 |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018046092A1 (de) * | 2016-09-09 | 2018-03-15 | Siemens Aktiengesellschaft | Verfahren zum betreiben eines endoskops und endoskop |
WO2018099556A1 (en) * | 2016-11-30 | 2018-06-07 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Image processing device and method for producing in real-time a digital composite image from a sequence of digital images of an interior of a hollow structure |
EP3599982A4 (en) * | 2017-03-20 | 2020-12-23 | 3dintegrated ApS | 3D RECONSTRUCTION SYSTEM |
RU2719929C1 (ru) * | 2018-12-17 | 2020-04-23 | Юрий Анатольевич Игнашов | Способ выбора лечения женщин с синдромом болезненного мочевого пузыря |
JP2020156800A (ja) * | 2019-03-27 | 2020-10-01 | ソニー株式会社 | 医療用アームシステム、制御装置、及び制御方法 |
CN111524071B (zh) * | 2020-04-24 | 2022-09-16 | 安翰科技(武汉)股份有限公司 | 胶囊内窥镜图像拼接方法、电子设备及可读存储介质 |
CN113058140A (zh) * | 2020-07-06 | 2021-07-02 | 母宗军 | 输药泵体剂量控制***以及相应终端 |
CN112365417B (zh) * | 2020-11-10 | 2023-06-23 | 华中科技大学鄂州工业技术研究院 | 共聚焦内窥镜图像修正拼接方法、装置及可读存储介质 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6075905A (en) * | 1996-07-17 | 2000-06-13 | Sarnoff Corporation | Method and apparatus for mosaic image construction |
US6173087B1 (en) * | 1996-11-13 | 2001-01-09 | Sarnoff Corporation | Multi-view image registration with application to mosaicing and lens distortion correction |
US7801584B2 (en) * | 2003-05-01 | 2010-09-21 | Given Imaging Ltd. | Panoramic field of view imaging device |
US20070161854A1 (en) * | 2005-10-26 | 2007-07-12 | Moshe Alamaro | System and method for endoscopic measurement and mapping of internal organs, tumors and other objects |
WO2008004222A2 (en) * | 2006-07-03 | 2008-01-10 | Yissum Research Development Company Of The Hebrew University Of Jerusalem | Computer image-aided method and system for guiding instruments through hollow cavities |
DE102009039251A1 (de) * | 2009-08-28 | 2011-03-17 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Verfahren und Vorrichtung zum Zusammenfügen von mehreren digitalen Einzelbildern zu einem Gesamtbild |
US20150313445A1 (en) * | 2014-05-01 | 2015-11-05 | Endochoice, Inc. | System and Method of Scanning a Body Cavity Using a Multiple Viewing Elements Endoscope |
-
2015
- 2015-09-17 JP JP2017514628A patent/JP2017534322A/ja active Pending
- 2015-09-17 KR KR1020177010032A patent/KR20170055526A/ko unknown
- 2015-09-17 CN CN201580053281.XA patent/CN106793939A/zh active Pending
- 2015-09-17 CA CA2961218A patent/CA2961218A1/en not_active Abandoned
- 2015-09-17 WO PCT/US2015/050744 patent/WO2016044624A1/en active Application Filing
- 2015-09-17 BR BR112017005251A patent/BR112017005251A2/pt not_active Application Discontinuation
- 2015-09-17 EP EP15774793.2A patent/EP3193692A1/en not_active Withdrawn
- 2015-09-17 RU RU2017112733A patent/RU2017112733A/ru not_active Application Discontinuation
- 2015-09-17 US US15/511,820 patent/US20170251159A1/en not_active Abandoned
-
2017
- 2017-03-13 IL IL251121A patent/IL251121A0/en unknown
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018050890A (ja) * | 2016-09-28 | 2018-04-05 | 富士フイルム株式会社 | 画像表示装置及び画像表示方法並びにプログラム |
US10433709B2 (en) | 2016-09-28 | 2019-10-08 | Fujifilm Corporation | Image display device, image display method, and program |
JPWO2019203006A1 (ja) * | 2018-04-17 | 2021-05-13 | 富士フイルム株式会社 | 内視鏡装置、内視鏡プロセッサ装置及び内視鏡画像表示方法 |
JP7179837B2 (ja) | 2018-04-17 | 2022-11-29 | 富士フイルム株式会社 | 内視鏡装置、内視鏡画像表示方法及び内視鏡装置の作動方法 |
JP2022546419A (ja) * | 2019-08-30 | 2022-11-04 | オーリス ヘルス インコーポレイテッド | 器具画像信頼性システム及び方法 |
JP7451686B2 (ja) | 2019-08-30 | 2024-03-18 | オーリス ヘルス インコーポレイテッド | 器具画像信頼性システム及び方法 |
US11944422B2 (en) | 2019-08-30 | 2024-04-02 | Auris Health, Inc. | Image reliability determination for instrument localization |
WO2021149137A1 (ja) * | 2020-01-21 | 2021-07-29 | オリンパス株式会社 | 画像処理装置、画像処理方法およびプログラム |
WO2021171464A1 (ja) * | 2020-02-27 | 2021-09-02 | オリンパス株式会社 | 処理装置、内視鏡システム及び撮像画像の処理方法 |
WO2022114088A1 (ja) * | 2020-11-25 | 2022-06-02 | 株式会社朋 | ハンナ病変の指摘のためのプログラム、学習済みモデル及びその生成方法 |
JP2022083867A (ja) * | 2020-11-25 | 2022-06-06 | 株式会社朋 | ハンナ病変の指摘のためのプログラム |
JP7124041B2 (ja) | 2020-11-25 | 2022-08-23 | 株式会社朋 | ハンナ病変の指摘のためのプログラム |
Also Published As
Publication number | Publication date |
---|---|
CN106793939A (zh) | 2017-05-31 |
BR112017005251A2 (pt) | 2017-12-12 |
KR20170055526A (ko) | 2017-05-19 |
IL251121A0 (en) | 2017-04-30 |
WO2016044624A1 (en) | 2016-03-24 |
EP3193692A1 (en) | 2017-07-26 |
CA2961218A1 (en) | 2016-03-24 |
RU2017112733A (ru) | 2018-10-18 |
US20170251159A1 (en) | 2017-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2017534322A (ja) | 膀胱の診断的マッピング方法及びシステム | |
JP5580637B2 (ja) | 画像処理装置、内視鏡装置の作動方法及びプログラム | |
US7744528B2 (en) | Methods and devices for endoscopic imaging | |
US9445713B2 (en) | Apparatuses and methods for mobile imaging and analysis | |
US20150313445A1 (en) | System and Method of Scanning a Body Cavity Using a Multiple Viewing Elements Endoscope | |
CN113573654A (zh) | 用于检测并测定病灶尺寸的ai*** | |
JP2010279539A (ja) | 診断支援装置および方法並びにプログラム。 | |
US11423318B2 (en) | System and methods for aggregating features in video frames to improve accuracy of AI detection algorithms | |
JP2004321796A (ja) | カプセル形内視鏡装置のためのコンピュータ支援3次元画像形成方法、無線内視鏡装置および医療技術装置 | |
WO2006087981A1 (ja) | 医用画像処理装置、管腔画像処理装置、管腔画像処理方法及びそれらのためのプログラム | |
JP2011156203A (ja) | 画像処理装置、内視鏡システム、プログラム及び画像処理方法 | |
JP7289373B2 (ja) | 医療画像処理装置、内視鏡システム、診断支援方法及びプログラム | |
KR102267509B1 (ko) | 달팽이관에서의 미세 혈류 측정 방법 및 장치 | |
WO2023024701A1 (zh) | 全景内窥镜及其图像处理方法 | |
JPWO2017199635A1 (ja) | 画像解析装置、画像解析システム、及び画像解析装置の作動方法 | |
JP2011200283A (ja) | 制御装置、内視鏡システム、プログラム及び制御方法 | |
US20100262000A1 (en) | Methods and devices for endoscopic imaging | |
Kim et al. | Current status of interpretation of small bowel capsule endoscopy | |
Chadebecq et al. | Measuring the size of neoplasia in colonoscopy using depth-from-defocus | |
CN113331769A (zh) | 用于在内窥镜检查期间检测漏检区域的方法和装置 | |
JP4668624B2 (ja) | 食道粘膜用画像処理装置 | |
WO2023148812A1 (ja) | 画像処理装置、画像処理方法及び記憶媒体 | |
WO2023195103A1 (ja) | 検査支援システムおよび検査支援方法 | |
TW201316954A (zh) | 斷層影像處理方法 | |
WO2023218523A1 (ja) | 第2の内視鏡システム、第1の内視鏡システム、および内視鏡検査方法 |