JP6745508B2 - 画像処理システム、画像処理装置、投影装置、及び投影方法 - Google Patents
画像処理システム、画像処理装置、投影装置、及び投影方法 Download PDFInfo
- Publication number
- JP6745508B2 JP6745508B2 JP2017539197A JP2017539197A JP6745508B2 JP 6745508 B2 JP6745508 B2 JP 6745508B2 JP 2017539197 A JP2017539197 A JP 2017539197A JP 2017539197 A JP2017539197 A JP 2017539197A JP 6745508 B2 JP6745508 B2 JP 6745508B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- image
- biological tissue
- tissue
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 154
- 238000000034 method Methods 0.000 title claims description 28
- 238000001514 detection method Methods 0.000 claims description 250
- 230000003287 optical effect Effects 0.000 claims description 96
- 150000002632 lipids Chemical class 0.000 claims description 41
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 claims description 41
- 230000001678 irradiating effect Effects 0.000 claims description 18
- 238000004458 analytical method Methods 0.000 claims description 16
- 230000004397 blinking Effects 0.000 claims description 5
- 230000000007 visual effect Effects 0.000 claims 4
- 230000006870 function Effects 0.000 description 89
- 239000004973 liquid crystal related substance Substances 0.000 description 19
- 239000011521 glass Substances 0.000 description 18
- 238000000926 separation method Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 16
- 239000000126 substance Substances 0.000 description 14
- 238000003384 imaging method Methods 0.000 description 12
- 230000004048 modification Effects 0.000 description 10
- 238000012986 modification Methods 0.000 description 10
- 230000004044 response Effects 0.000 description 10
- 238000002835 absorbance Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 8
- 238000001356 surgical procedure Methods 0.000 description 7
- 238000007689 inspection Methods 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- MOFVSTNWEDAEEK-UHFFFAOYSA-M indocyanine green Chemical compound [Na+].[O-]S(=O)(=O)CCCCN1C2=CC=C3C=CC=CC3=C2C(C)(C)C1=CC=CC=CC=CC1=[N+](CCCCS([O-])(=O)=O)C2=CC=C(C=CC=C3)C3=C2C1(C)C MOFVSTNWEDAEEK-UHFFFAOYSA-M 0.000 description 5
- 229960004657 indocyanine green Drugs 0.000 description 5
- 230000000630 rising effect Effects 0.000 description 5
- 210000004204 blood vessel Anatomy 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 239000003086 colorant Substances 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 210000000056 organ Anatomy 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 230000002411 adverse Effects 0.000 description 2
- 230000001174 ascending effect Effects 0.000 description 2
- 238000001574 biopsy Methods 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 230000005284 excitation Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000002347 injection Methods 0.000 description 2
- 239000007924 injection Substances 0.000 description 2
- 230000003902 lesion Effects 0.000 description 2
- 230000001575 pathological effect Effects 0.000 description 2
- 230000002441 reversible effect Effects 0.000 description 2
- 238000007920 subcutaneous administration Methods 0.000 description 2
- 229910001218 Gallium arsenide Inorganic materials 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 210000003484 anatomy Anatomy 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000000090 biomarker Substances 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 238000010241 blood sampling Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 238000001647 drug administration Methods 0.000 description 1
- 239000007850 fluorescent dye Substances 0.000 description 1
- 238000002682 general surgery Methods 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000003331 infrared imaging Methods 0.000 description 1
- 238000002350 laparotomy Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000010827 pathological analysis Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 239000000243 solution Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 210000001835 viscera Anatomy 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
- H04N13/341—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using temporal multiplexing
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4887—Locating particular structures in or on the body
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/743—Displaying an image simultaneously with additional graphical information, e.g. symbols, charts, function plots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/7445—Display arrangements, e.g. multiple display units
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B26/00—Optical devices or arrangements for the control of light using movable or deformable optical elements
- G02B26/08—Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light
- G02B26/10—Scanning systems
- G02B26/101—Scanning systems with both horizontal and vertical deflecting means, e.g. raster or XY scanners
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/211—Image signal generators using stereoscopic image cameras using a single 2D image sensor using temporal multiplexing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/254—Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
- H04N13/344—Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/346—Image reproducers using prisms or semi-transparent mirrors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/30—Transforming light or analogous information into electric information
- H04N5/33—Transforming infrared radiation
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B2027/0178—Eyeglass type
Description
本発明は、画像処理システム、画像処理装置、投影装置、及び投影方法に関する。
医療などの分野において、組織上に画像を投影する技術が提案されている(例えば、下記の特許文献1参照)。例えば、特許文献1に係る装置は、赤外線を身体組織に照射し、身体組織で反射した赤外線に基づいて皮下血管の映像を取得する。この装置は、皮下血管の可視光像を身体組織の表面に投影する。これにより、医師や看護師は、目視で見えにくい血管であっても注射を穿刺する部分の血管を可視的に確認し、両手操作で注射をすることができるようになる。
しかしながら、例えば特許文献1のように特定の部位の映像を単に身体組織に投影するのみの技術では、手術や病理検査等におけるユーザ(例、医師や検査技師)に対する支援技術としては十分ではない場合がある。
第1の実施形態によれば、生物組織に赤外光を照射する赤外光照射装置と、赤外光が照射されている生物組織から放射される検出光を検出する光検出部と、光検出部の検出結果を用いて生成された生物組織の画像を表示する表示装置と、生物組織に第一光を照射する投影装置と、生物組織の画像を表示する表示装置に対する入力に基づいて、生物組織に対して入力の内容を反映するように投影装置による第一光の照射を制御する制御装置と、を備える画像処理システムが提供される。
また、第2の実施形態によれば、生物組織に赤外光を照射する赤外光照射装置と、赤外光が照射されている生物組織から放射される検出光を検出する光検出部と、光検出の検出結果を用いて生成された生物組織の画像を表示する表示装置と、生物組織に光を照射する投影装置と、光検出部の検出結果を解析して生物組織の患部を特定し、患部の情報と生物組織の画像とを重ねて表示装置に表示させるとともに、投影装置による生物組織に対する患部の情報の照射を制御する制御装置と、を備える画像処理システムが提供される。
第3の実施形態によれば、赤外光が照射される生物組織から放射される検出光を検出する光検出部による検出結果を用いて生物組織の画像を生成し、当該生成された画像を表示するように表示装置に送信する制御部を備え、制御部は、生物組織の画像を表示する表示装置に対する入力に基づいて、生物組織に対して入力の内容を反映するように生物組織に光を照射する投影部による照射を制御する、画像処理装置が提供される。
第4の実施形態によれば、赤外光が照射される生物組織から放射される検出光を検出する光検出部による検出結果を用いて生物組織の画像を生成し、当該生成された画像を表示するように表示装置に送信する制御部を備え、制御部は、光検出部の検出結果を解析して生物組織の患部を特定し、患部の情報と生物組織の画像とを重ねて表示装置に表示させるとともに、生物組織に光を照射する投影部による生物組織に対する患部の情報の照射を制御する、画像処理装置が提供される。
第5の実施形態によれば、生物組織に赤外光を照射することと、赤外光が照射されている生物組織から放射される検出光を検出することと、検出光の検出結果を用いて生物組織の画像を生成することと、生物組織の画像を表示装置に表示することと、生物組織の画像を表示する表示装置に対する入力に基づいて、生物組織に対して入力の内容を反映するように投影装置による光の照射を制御することと、を含む、投影方法が提供される。
第6の実施形態によれば、生物組織に赤外光を照射することと、赤外光が照射されている生物組織から放射される検出光を検出することと、検出光の検出結果を用いて生物組織の画像を生成することと、生物組織の画像を表示装置に表示することと、検出結果を解析して生物組織の患部を特定し、患部の情報と生物組織の画像とを重ねて表示装置に表示させることと、生物組織に光を照射する投影装置による生物組織に対する患部の情報の照射を制御することと、を含む、投影方法が提供される。
第7の実施形態によれば、生物組織に第一光を照射する投影部と、赤外光が照射される生物組織から放射される検出光を検出する光検出部による検出結果を用いて生成された生物組織の画像を表示する表示装置に対する入力に基づいて、生物組織に対して入力の内容を反映するように投影部による第一光の照射を制御する制御部と、を備える投影装置が提供される。
第8の実施形態によれば、生物組織に光を照射する投影部と、赤外光が照射される生物組織から放射される検出光を検出する光検出部による検出結果を解析して生物組織の患部を特定し、患部の情報と生物組織の画像とを重ねて表示装置に表示させるとともに、投影部による生物組織に対する患部の情報の照射を制御する制御部と、を備える投影装置が提供される。
以下、添付図面を参照して本実施形態について説明する。添付図面では、機能的に同じ要素は同じ番号で表示される場合もある。なお、添付図面は本発明の原理に則った実施形態と実装例を示しているが、これらは本発明の理解のためのものであり、決して本発明を限定的に解釈するために用いられるものではない。本明細書の記述は典型的な例示に過ぎず、本発明の特許請求の範囲又は適用例を如何なる意味においても限定するものではない。
本実施形態では、当業者が本発明を実施するのに十分詳細にその説明がなされているが、他の実装・形態も可能で、本発明の技術的思想の範囲と精神を逸脱することなく構成・構造の変更や多様な要素の置き換えが可能であることを理解する必要がある。従って、以降の記述をこれに限定して解釈してはならない。
更に、本実施形態は、後述されるように、汎用コンピュータ上で稼動するソフトウェアで実装しても良いし専用ハードウェア又はソフトウェアとハードウェアの組み合わせで実装しても良い。
<画像処理システムの構成>
図1は、本実施形態による画像処理システム(医療支援システム、或いは投影システムとも称することも可能である。)の構成を示す図である。画像処理システム1は、生物(例えば、動物など)の組織(被照射体)BT(例えば、臓器:図1には組織BTの例として臓器が示されている)に赤外光(以下、本明細書では、「赤外光」と称した場合には「近赤外光」をも含む概念とする)を照射し、組織BTから放射される光を検出し、その検出結果を使って組織BTに関する情報(例、画像)を表示装置の画面に表示する。例えば、画像処理システム1は、組織BTに関する画像を組織BT上に直接投影する機能を有している。生物の組織BTから放射される光は、例えば、赤外光(例、波長帯が800nmから2400nmなどの光)を組織BTに照射して得られる光(例、赤外光)、や蛍光色素などの発光物質でラベル化された組織BTに励起光を照射して発光される蛍光、などを含む。なお、投影する組織BTに関する情報(例、画像)は組織BT上に2つ以上あっても良い。
図1は、本実施形態による画像処理システム(医療支援システム、或いは投影システムとも称することも可能である。)の構成を示す図である。画像処理システム1は、生物(例えば、動物など)の組織(被照射体)BT(例えば、臓器:図1には組織BTの例として臓器が示されている)に赤外光(以下、本明細書では、「赤外光」と称した場合には「近赤外光」をも含む概念とする)を照射し、組織BTから放射される光を検出し、その検出結果を使って組織BTに関する情報(例、画像)を表示装置の画面に表示する。例えば、画像処理システム1は、組織BTに関する画像を組織BT上に直接投影する機能を有している。生物の組織BTから放射される光は、例えば、赤外光(例、波長帯が800nmから2400nmなどの光)を組織BTに照射して得られる光(例、赤外光)、や蛍光色素などの発光物質でラベル化された組織BTに励起光を照射して発光される蛍光、などを含む。なお、投影する組織BTに関する情報(例、画像)は組織BT上に2つ以上あっても良い。
画像処理システム1は、例えば外科的手術の開腹手術に利用することができる。例えば、本実施形態における画像処理システム1は、手術支援用画像処理システム又は医用画像処理システムである。画像処理システム1は、赤外光を照射して撮影された画像を表示装置に表示する、或いは、光(例、可視光、赤外光)を照射して得られた撮影画像と赤外光を用いて解析された患部の情報とを表示装置の画面上に表示すると共に、当該患部の情報を組織BTの患部の上に直接的又は間接的に投影する。画像処理システム1は、組織BTに関する画像として、組織BTの成分を示す画像を表示可能である。画像処理システム1は、組織BTに関する画像として、組織BTのうち特定の成分を含む領域を強調した画像を表示可能である。このような画像は、例えば、組織BTにおける脂質の分布、水分の分布などを示す画像である。画像処理システム1は、患部に関する画像を患部の少なくとも一部に重ねて表示することも可能であり、手術者は、画像処理システム1によって患部に表示された情報を直接的に見ながら手術等を行うことができる。手術者は、表示装置の画面上に表示された組織BTの撮影画像、或いは患部の情報が合成された合成画像を見ながら手術を行うこともできる。なお、画像処理システム1の操作者(オペレータ:単に「ユーザ」と言うことも可能である)は、手術者(オペレータ)と同じ人でもよいし、別の人(サポート担当者や監療従事者など)でもよい。
画像処理システム1は、一例として、照射部(赤外光照射装置)2と、光検出部3と、投影部(投影装置、情報照射部)5と、制御装置6と、表示装置31と、入力装置32と、を備えている。制御装置(画像処理装置)6は、CPU(プロセッサ)やコンピュータで構成され、画像生成部4を含む制御部、及び記憶部14を備えるとともに、画像処理システム1の各部の動作を制御する。以下、各部の動作概略及び構成について説明する。
(i)照射部2
照射部2は、生物の組織BTに検出光L1を照射する。照射部2は、一例として、赤外光を射出する光源10を備える。光源10は、例えば赤外LED(赤外発光ダイオード)を含み、検出光L1として赤外光を射出する。光源10は、レーザー光源と比較して、波長帯が広い赤外光を射出する。光源10は、一例として、第1波長、第2波長、及び第3波長を含む波長帯の赤外光を射出する。各波長帯の赤外光の射出は、例えば制御装置6によって制御される。第1波長、第2波長、および第3波長については後述するが、組織BTにおける特定の成分の情報を算出するのに使われる波長である。光源10は、LED以外の固体光源を含んでいてもよいし、ハロゲンランプなどのランプ光源を含んでいてもよい。
照射部2は、生物の組織BTに検出光L1を照射する。照射部2は、一例として、赤外光を射出する光源10を備える。光源10は、例えば赤外LED(赤外発光ダイオード)を含み、検出光L1として赤外光を射出する。光源10は、レーザー光源と比較して、波長帯が広い赤外光を射出する。光源10は、一例として、第1波長、第2波長、及び第3波長を含む波長帯の赤外光を射出する。各波長帯の赤外光の射出は、例えば制御装置6によって制御される。第1波長、第2波長、および第3波長については後述するが、組織BTにおける特定の成分の情報を算出するのに使われる波長である。光源10は、LED以外の固体光源を含んでいてもよいし、ハロゲンランプなどのランプ光源を含んでいてもよい。
光源10は、例えば、検出光が照射される領域(検出光の照射領域)が移動しないように固定される。組織BTは、検出光の照射領域に配置される。例えば、光源10と組織BTとは、相対位置が変化しないように配置される。本実施形態において、光源10は、光検出部3から独立して支持され、投影部5から独立して支持される。光源10は、光検出部および投影部5の少なくとも一方と一体的に固定されていてもよい。
(ii)光検出部3
光検出部3は、検出光L1が照射されている組織BTから放射される光(放射光、検出光)を検出する。組織BTを経由した光は、組織BTで反射した光、組織BTを透過した光、及び組織BTで散乱した光の少なくとも一部を含む。本実施形態において、光検出部3は、一例として、組織BTで反射、散乱した赤外光を検出する赤外光センサーである。光検出部3は、赤外光以外の光を検出するセンサーであっても良い。
光検出部3は、検出光L1が照射されている組織BTから放射される光(放射光、検出光)を検出する。組織BTを経由した光は、組織BTで反射した光、組織BTを透過した光、及び組織BTで散乱した光の少なくとも一部を含む。本実施形態において、光検出部3は、一例として、組織BTで反射、散乱した赤外光を検出する赤外光センサーである。光検出部3は、赤外光以外の光を検出するセンサーであっても良い。
本実施形態において、光検出部3は、一例として、第1波長の赤外光と、第2波長の赤外光と、第3波長の赤外光とを分離して検出する。光検出部3は、一例として、撮影光学系(検出光学系)11と、赤外フィルター12と、イメージセンサー13と、を備える。
撮影光学系11は、一例として、1または2以上の光学素子(例、レンズ)、を含み、検出光L1が照射されている組織BTの像(撮影画像)を形成することができる。赤外フィルター12は、一例として、撮影光学系11を通った光のうち所定の波長帯の赤外光を通すとともに、所定の波長帯以外の赤外光を遮断する。イメージセンサー13は、一例として、組織BTから放射された赤外光の少なくとも一部を、撮影光学系11および赤外フィルター12を介して検出する。
イメージセンサー13は、例えばCMOSセンサーあるいはCCDセンサーのように、二次元的に配列された複数の受光要素(受光素子)を有する。この受光要素は、画素あるいはサブ画素と呼ばれることがある。イメージセンサー13は、一例として、フォトダイオード、読出回路、A/D変換器などを備える。フォトダイオードは、受光要素ごとに設けられ、受光要素に入射した赤外光により電荷が発生する光電変換素子である。読出回路は、フォトダイオードに蓄積された電荷を受光要素ごとに読み出し、電荷量を示すアナログ信号を出力する。A/D変換器は、読出回路によって読み出されたアナログ信号をデジタル信号に変換する。なお、イメージセンサー13としては、赤外光のみを検出する受光要素を有するものであっても良いし、赤外光だけでなく可視光をも検出することができる受光要素を有するものであっても良い。前者の場合には組織BT全体の撮影画像としては赤外画像として表示装置31に表示され、後者の場合には組織BT全体の撮影画像としては可視画像及び赤外画像の何れか1つ(操作者によって選択可能としても良い)が表示装置31に表示される。
赤外フィルター12は、一例として、第1フィルターと、第2フィルターと、第3フィルターと、を備える。第1フィルター、第2フィルター、及び第3フィルターは、透過する赤外光の波長が互いに異なる。第1フィルターは、第1波長の赤外光を通すとともに第2波長および第3波長の赤外光を遮断する。第2フィルターは、第2波長の赤外光を通すとともに第1波長および第3波長の赤外光を遮断する。第3フィルターは、第3波長の赤外光を通すとともに第1波長および第2波長の赤外光を遮断する。
第1フィルター、第2フィルター、及び第3フィルターは、各受光要素に入射する赤外光が第1フィルターと第2フィルターと第3フィルターとのいずれか1つを通るように、受光要素の配列に応じて配置されている。例えば、第1フィルターを通った第1波長の赤外光は、イメージセンサー13の第1受光要素に入射する。第2フィルターを通った第2波長の赤外光は、第1受光要素の隣の第2受光要素に入射する。第3フィルターを通った第3波長の赤外光は、第2受光要素の隣の第3受光要素に入射する。このように、イメージセンサー13は、隣り合う3つの受光要素によって、組織BT上の一部分から放射された第1波長の赤外光、第2波長の赤外光、及び第3波長の赤外光の光強度を検出する。
本実施形態において、光検出部3は、イメージセンサー13による検出結果を、画像形式のデジタル信号(以下、撮影画像データという)で出力する。以下の説明において、イメージセンサー13が撮影した画像を、適宜、撮影画像という。撮影画像のデータを撮影画像データという。ここでは、説明の便宜上、撮影画像がフルスペックハイビジョン形式(HD形式)であるものとするが、撮影画像の画素数、画素配列(アスペク卜比)、画素値の階調などについて限定はない。
図2は、画像の画素配列の例を示す概念図である。HD形式の画像において、水平走査方向には1920個の画素が並び、垂直走査方向には1080個の画素が並ぶ。水平走査方向に一列に並ぶ複数の画素は、水平走査線と呼ばれることがある。各画素の画素値は、例えば8ビットのデータで表され、十進数では0から255の256階調で表される。
上述のように、イメージセンサー13の各受光要素が検出する赤外光の波長は、受光要素の位置によって定まっていることから、撮影画像データの各画素値は、イメージセンサー13が検出した赤外光の波長と関連付けられる。ここで、撮影画像データ上の画素の位置を(i,j)で表し、(i,j)に配置されている画素をP(i,j)で表す。iは、水平走査方向の一端の画素を0とし、他端へ向かう順に1、2、3と昇順する画素の番号である。jは、垂直走査方向の一端の画素を0とし、他端へ向かう順に1、2、3と昇順する画素の番号である。HD形式の画像において、iは0から1919までの正の整数をとり、jは0から1079までの正の整数をとる。
第1波長の赤外光を検出するイメージセンサー13の受光要素に対応する第1画素は、例えば、正の整数Nに対してi=3Nを満たす画素群である。第2波長の赤外光を検出する受光要素に対応する第2画素は、例えば、i=3N+1を満たす画素群である。第3波長の赤外光を検出する受光要素に対応する第3画素は、i=3N+2を満たす画素群である。
(iii)制御装置6
制御装置6は、例えば、光検出部3による撮影処理の条件を設定する。制御装置6は、例えば、撮影光学系11に設けられる絞りの開口率を制御する。制御装置6は、例えば、イメージセンサー13に対する露光が開始するタイミング、及び露光が終了するタイミングを制御する。このように、制御装置6は、光検出部3を制御して、検出光L1が照射されている組織BTを撮影させる。制御装置6は、例えば、光検出部3による撮影結果を示す撮影画像データを、光検出部3から取得するデータ取得部(データ受信部と称しても良い)を備える。制御装置6は、記憶部14を備え、撮影画像データを記憶部14に記憶させる。記憶部14は、撮影画像データの他に、画像生成部4が生成したデータ(投影画像データ)、画像処理システム1の設定を示すデータなど各種情報を記憶する。
制御装置6は、例えば、光検出部3による撮影処理の条件を設定する。制御装置6は、例えば、撮影光学系11に設けられる絞りの開口率を制御する。制御装置6は、例えば、イメージセンサー13に対する露光が開始するタイミング、及び露光が終了するタイミングを制御する。このように、制御装置6は、光検出部3を制御して、検出光L1が照射されている組織BTを撮影させる。制御装置6は、例えば、光検出部3による撮影結果を示す撮影画像データを、光検出部3から取得するデータ取得部(データ受信部と称しても良い)を備える。制御装置6は、記憶部14を備え、撮影画像データを記憶部14に記憶させる。記憶部14は、撮影画像データの他に、画像生成部4が生成したデータ(投影画像データ)、画像処理システム1の設定を示すデータなど各種情報を記憶する。
制御装置6内に設けられた画像生成部4は、データ取得部によって取得された光検出部3の検出結果を使って、組織BTに関する画像のデータを生成する。組織BTに関する画像のデータには、例えば、組織BTの全体についての撮影画像のデータ、及び患部に対応する成分画像(例えば、水分量が多い箇所の画像)のデータが含まれる。組織BT上に投影される投影画像は、後述するように、制御部の画像生成部4が光検出部3の検出結果を演算処理することによって生成される。
画像生成部4は、一例として、算出部15と、データ生成部16と、を備える。算出部15は、光検出部3が検出した光(例、赤外光や蛍光など)の波長に対する光強度の分布を使って、組織BTの成分に関する情報を算出する。ここで、組織BTの成分に関する情報を算出する方法を説明する。図3は、近赤外波長領域における第1物質の吸光度の分布D1、及び第2物質の吸光度の分布D2を示すグラフである。図3において、例えば、第1物質は脂質であり、第2物質は水である。図3のグラフの縦軸は吸光度であり、横軸は波長[nm]である。
第1波長λ1は、任意の波長に設定可能であるが、例えば、近赤外波長領域における第1物質(脂質)の吸光度の分布のうち相対的に吸光度が小さく、かつ、近赤外波長領域における第2物質(水)の吸光度の分布のうち相対的に吸光度が小さい波長に設定される。第1波長λ1の赤外光は、脂質に吸収されるエネルギーが少なく、脂質から放射される光強度が強い。また、第1波長λ1の赤外光は、水に吸収されるエネルギーが少なく、水から放射される光強度が強い。
第2波長λ2は、第1波長λ1と異なる任意の波長に設定可能である。第2波長λ2は、例えば、第1物質(脂質)の吸光度が第2物質(水)の吸光度よりも高い波長に設定される。第2波長λ2の赤外光は、物体(例、組織)に照射された際に、この物体に含まれる水に対する脂質の割合が大きいほど、物体に吸収されるエネルギーが多く、この物体から放射される光強度が弱くなる。例えば、組織の第1部分に含まれる脂質の割合が水より大きい場合、第2波長λ2の赤外光は、組織の第1部分に吸収されるエネルギーが多く、この第1部分から放射される光強度が弱くなる。また、例えば、組織の第2部分に含まれる脂質の割合が水より小さい場合、第2波長λ2の赤外光は、組織の第2部分に吸収されるエネルギーが少なく、この第2部分から放射される光強度が第1部分と比べて強くなる。
第3波長λ3は、第1波長λ1と第2波長λ2のいずれとも異なる任意の波長に設定可能である。第3波長λ3は、例えば、第2物質(水)の吸光度が第1物質(脂質)の吸光度よりも高い波長に設定される。第3波長λ3の赤外光は、物体に照射された際に、この物体に含まれる脂質に対する水の割合が大きいほど、物体に吸収されるエネルギーが多く、この物体から放射される光強度が弱くなる。上述の第2波長λ2の場合と反対に、例えば、例えば、組織の第1部分に含まれる脂質の割合が水より大きい場合、第3波長λ3の赤外光は、組織の第1部分に吸収されるエネルギーが少なく、この第1部分から放射される光強度が強くなる。例えば、組織の第2部分に含まれる脂質の割合が水より小さい場合、第3波長λ3の赤外光は、組織の第2部分に吸収されるエネルギーが多く、この第2部分から放射される光強度が第1部分と比べて弱くなる。
算出部15は、光検出部3から出力された撮影画像データを使って、組織BTの成分に関する情報を算出する。本実施形態において、イメージセンサー13の各受光要素が検出する赤外光の波長は、各受光要素と赤外フィルター12(第1から第3フィルター)との位置関係によって定まる。算出部15は、撮影画素(図2参照)のうち、第1波長の赤外光を検出した受光要素の出力に対応する画素値P1と、第2波長の赤外光を検出した受光要素の出力に対応する画素値P2と、第3波長の赤外光を検出した受光要素の出力に対応する画素値P3とを使って、組織BTに含まれる脂質の分布および水分の分布を算出する。
ここで、図2の画素P(i,j)は、イメージセンサー13において第1波長λ1の赤外光を検出する受光要素に対応する画素(画素値P1)とする。また、画素P(i+1,j)は、第2波長λ2の赤外光を検出する受光要素に対応する画素(画素値P2)とする。画素P(i+2,j)は、イメージセンサー13において第3波長λ3の赤外光を検出する受光要素に対応する画素(画素値P3)とする。
算出部15は、これら画素値を使って、指標Q(i,j)を算出する。
例えば、算出される指標Qは、組織BTのうち画素P(i,j)、画素P(i+1,j)、画素P(i+2,j)により撮影された部分において、脂質の量と水の量との比率を示す指標である。例えば、指標Q(i,j)が大きいことは脂質の量が多いことを示し、指標Q(i,j)が小さいことは水の量が多いことを示す。
このように算出部15は、画素P(i,j)における指標Q(i,j)を算出する。算出部15は、i、jの値を変化させながら、他の画素における指標を算出し、指標の分布を算出する。例えば、画素P(i+3,j)は、画素P(i,j)と同様に、イメージセンサー13において第1波長の赤外光を検出する受光要素に対応するので、算出部15は、画素P(i,j)の画素値の代わりに画素P(i+3,j)の画素値を使って、他の画素における指標を算出する。例えば、算出部15は、第1波長の赤外光の検出結果に相当する画素P(i+3,j)の画素値、第2波長の赤外光の検出結果に相当する画素P(i+4,j)の画素値、及び第3波長の赤外光の検出結果に相当する画素P(i+5,j)の画素値を使って、指標Q(i+1,j )を算出する。
そして、算出部15は、複数の画素に関して、各画素の指標Q(i,j)を算出することにより、指標の分布を算出する。算出部15は、指標Q(i,j)の算出に必要とされる画素値が撮影画素データに含まれる範囲において、全ての画素に関する指標Q(i,j)を算出してもよい。算出部15は、一部の画素に関する指標Q(i,j)を算出し、算出した指標Q(i,j)を使って補間演算をすることにより指標Q(i,j)の分布を算出してもよい。
なお、算出部15が算出した指標Q(i,j)は、一般的に正の整数にならない。そこで、図1のデータ生成部16は、適宜、数値の丸めを行って、指標Q(i,j)を所定の画像形式のデータに変換する。例えば、データ生成部16は、算出部15が算出した結果を使って、組織BTの成分に関する画像のデータを生成する。以下の説明において、組織BTの成分に関する画像を、適宜、成分画像(又は投影画像)という。成分画像のデータを成分画像データ(又は投影画像データ)という。
ここでは、説明の便宜上、成分画像は、図2に示したようなHD形式の成分画像であるものとするが、成分画像の画素数、画素配列(アスペクト比)、画素値の階調などについて限定はない。成分画像は、撮影画像と同じ画像形式であってもよいし。撮影画像と異なる画像形式であってもよい。データ生成部16は、撮影画像と異なる画像形式の成分画像のデータを生成する場合に、適宜、補間処理を行う。
データ生成部16は、成分画像の画素P(i,j)の画素値として、指標Q(i,j)を例えば8ビット(256階調)のデジタルデータに変換した値を算出する。例えば、データ生成部16は、画素値の1階調に相当する指標を変換定数として、指標Q(i,j)を変換定数で除算し、その除算値の小数点以下を四捨五入することによって、指標Q(i,j)を画素P(i,j)の画素値に変換する。この場合に、画素値は、指標と概ね線形な関係を溝たすように算出される。
上述のように、撮影画像の3つの画素の画素値を使って1つの画素に関する指標を算出すると、撮影画像の端の画素に関する指標を算出するのに必要な画素が不足する場合がある。その結果、成分画像の端の画素の画素値を算出するのに必要な指標が不足する。このように、成分画像の画素の画素値を算出するのに必要な指標が不足する場合に、データ生成部16は、補間などにより成分画像の画素の画素値を算出してもよい。このような場合に、データ生成部16は、指標の不足により算出できない成分画像の画素の画素値を、予め定められた値(例えば、0)にしてもよい。
なお、指標Q(i,j)を画素値に変換する方法は、適宜変更できる。例えば、データ生成部16は、画素値と指標とが非線形な関係になるように、成分画像データを算出してもよい。データ生成部16は、撮影画像の画素P(i,j)の画素値、画素P(i+1,j)の画素値、及び画素P(i+2,j)の画素値を使って算出した指標を画素値に換算した値を、画素P(i+1,j)の画素値としてもよい。
データ生成部16は、指標Q(i,j)の値が所定の範囲の下限値未満である場合に、指標Q(i,j)に対する画素値を一定値にしてもよい。この一定値は、画素値の最小階調(例えば、0)であってもよい。指標Q(i,j)の値が所定の範囲の上限値を超える場合に指標Q(i,j)に対する画素値を一定値にしてもよい。この一定値は、画素値の最大階調(例えば、255)であってもよいし、画素値の最小階調(例えば、0)であってもよい。
算出される指標Q(i,j)は、脂質の量が多い部位であるほど大きくなることから、画素P(i,j)の画素値は、脂質の量が多い部位であるほど大きくなる。例えば、画素値が大きいことは、一般的に画素が明るく表示されることに対応することから、脂質の量が多い部位であるほど明るく強調されて表示されることになる。
一方、水の量が多い部位を明るく表示したいというオペレータの要望もありえる。そこで、画像処理システム1は、一例として、第1物質(脂質)の量に関する情報を明るく強調して表示する第1モードと、第2物質(水)の量に関する情報を明るく強調して表示する第2モードとを有する。画像処理システム1が第1モードと第2モードのいずれのモードに設定されているかを示す設定情報は、記憶部14に記憶されている。
モードが第1モードに設定されている場合に、データ生成部16は、指標Q(i,j)を画素P(i,j)の画素値に変換した第1の成分画像データを生成する。指標Q(i,j)の逆数を画素P(i,j)の画素値に変換した第2の成分画像データを生成する。組織において水の量が多いほど、指標Q(i,j)の値が小さくなり、指標Q(i,j)の逆数の値が大きくなる。そのため、第2の成分画像データにおいて、水の量が多い部位に対応する画素の画素値(階調)が高くなる。
なお、モードが第2モードに設定されている場合に、一例として、データ生成部16は、指標Q(i,j)から換算された画素値を所定の階調から差し引いた差分値を、画素P(i,j)の画素値として算出してもよい。例えば、指標Q(i,j)から換算された画素債が50である場合に、データ生成部16は、画素値の最大階調(例えば、255)から50を差し引いた205を、画素P(i,j)の画素値として算出してもよい。
そして、画像生成部4は、生成した成分画像データを記憶部14に記憶する。制御装置6は、画像生成部4が生成した成分画像データを投影部5に供給し、組織BTの特定部分(例、上記の第1部分や第2部分など)を強調させるために投影部5に成分画像を組織BT上に投影させる。制御装置6は、投影部5が成分画像を投影するタイミングを制御する。制御装置6は、投影部5が投影する成分画像の明るさを制御する。制御装置6は、投影部5に画像の投影を停止させることができる。制御装置6は、組織BTの特定部分を強調させるために、成分画像が組織BT上で点滅して表示されるように、成分画像の投影の開始と停止とを制御できる。
(iv)投影部5
投影部5は、このデータに基づいて組織BTを可視光L2で走査する投影光学系7を含み、可視光L2の走査によって組織BT上に画像(投影画像)を投影する。投影部5は、投影装置として独立した装置で構成しても良い。
投影部5は、このデータに基づいて組織BTを可視光L2で走査する投影光学系7を含み、可視光L2の走査によって組織BT上に画像(投影画像)を投影する。投影部5は、投影装置として独立した装置で構成しても良い。
投影部5は、例えば、組織BT上に光(例、第一光、投影光)を走査させる走査投影式であって、一例として、光源20と、投影光学系(照射光学系)7と、投影部コントローラ21と、を備える。例えば、光源20は、検出光L1とは異なる所定波長の可視光を射出する。光源20は、レーザーダイオードを含み、可視光としてレーザー光を射出する。光源20は、外部から供給される電流に応じた光強度のレーザー光を射出する。なお、例えば、投影部5は、第一光(例、可視光、赤外光)の照射によって組織BT上に画像や図形等の組織BTに関する情報を投影し、第一光を照射させながら第一光とは別の第二光(例、可視光、赤外光)によって別の組織BTに関する情報(例、画像や図形等)を組織BT上に投影するようにしても良い。また、例えば、投影部5は、第一波長の第一光(例、可視光、赤外光)の照射によって組織BT上に組織BTに関する情報を投影し、第一光を照射させながら第一光とは別の第二波長の第二光によって別の組織BTに関する情報(例、画像や図形等)を組織BT上に投影するようにしても良い。
投影光学系7は、光源20から射出されたレーザー光を組織BT上に導くとともに、このレーザー光で組織BTを走査する。投影光学系7は、一例として、走査部22と、波長選択ミラー23を備える。走査部22は、光源20から射出されたレーザー光を2方向において偏向可能である。例えば、走査部22は、反射系の光学系である。走査部22は、第1走査ミラー24と、第1走査ミラー24を駆動する第1駆動部25と、第2走査ミラー26と、第2走査ミラー26を駆動する第2駆動部27と、を備える。例えば、第1走査ミラー24及び第2走査ミラー26のそれぞれは、ガルバノミラー、MEMSミラー、又はポリゴンミラー等である。
第1走査ミラー24および第1駆動部25は、例えば、光源20から射出されたレーザー光を水平走査方向において偏向させる水平走査部である。第1走査ミラー24は、光源20から射出されたレーザー光が入射する位置に配置されている。第1駆動部25は、投影部コントローラ21に制御されて、投影部コントローラ21から受信する駆動信号に基づいて第1走査ミラー24を回動する。光源20から射出されたレーザー光は、第1走査ミラー24で反射し、第1走査ミラー24の角度位置に応じた方向に偏向する。第1走査ミラー24は、光源20から射出されるレーザー光の光路に配置される。
第2走査ミラー26および第2駆動部27は、例えば、光源20から射出されたレーザー光を垂直走査方向において偏向させる垂直走査部である。第2走査ミラー26は、第1走査ミラー24で反射したレーザー光が入射する位置に配置されている。第2駆動部27は、投影部コントローラ21に制御されて、投影部コントローラ21から受信する駆動信号に基づいて第2走査ミラー26を回動する。第1走査ミラー24で反射したレーザー光は、第2走査ミラー26で反射し、第2走査ミラー26の角度位置に応じた方向に偏向する。第2走査ミラー26は、光源20から射出されるレーザー光の光路に配置される。
水平走査部および垂直走査部のそれぞれは、例えばガルバノスキャナー等である。垂直走査部は、水平走査部と同様の構成であってもよいし、異なる構成であってもよい。例えば、本実施形態における走査部を用いた走査方法は、水平走査と垂直走査とを組み合わせて画面領域全体を走査するラスタースキャン方式でも良いし、必要な線描だけを行うベクタスキャン方式でも良い。ラスタースキャン方式では、水平方向走査は垂直方向の走査よりも高周波数で行われる。そのため、垂直走査方向の走査にガルバノミラーを用いるとともに、水平走査方向の走査に、ガルバノミラーよりも高周波数で動作するMEMSミラーあるいはポリゴンミラーを用いてもよい。
波長選択ミラー(波長選択部)23は、走査部22によって偏向されたレーザー光を、組織BT上に導く光学部材である。第2走査ミラー26で反射したレーザー光は、波長選択ミラー23で反射し、組織BTに照射される。本実施形態において、波長選択ミラー23は、例えば、組織BTと光検出部3との間の光路に配置されている。波長選択ミラー23は、例えば、ダイクロイックミラーあるいはダイクロイックプリズムである。例えば、波長選択ミラー23は、照射部2の光源10から射出される検出光が透過し、かつ投影部5の光源20から射出される可視光が反射する特性を有する。例えば、波長選択ミラー23は、赤外領域の光が透過し、かつ可視領域の光が反射する特性を有する。
本実施形態において、投影光学系7の光軸7aは、投影光学系7がレーザー光を走査する走査範囲SAの中心を通るレーザー光と同軸の軸(同一の光軸)であるとする。一例として、投影光学系7の光軸7aは、第1走査ミラー24および第1駆動部25による水平走査方向の中心を通り、かつ第2走査ミラー26および第2駆動部27による垂直走査方向の中心を通るレーザー光と同軸である。例えば、投影光学系7の光射出側の光軸7aは、投影光学系7のうち最もレーザー光の照射対象物に近い側に配置される光学部材と照射対象物(例、組織BT)との間の光路において、走査範囲SAの中心を通るレーザー光と同軸である。本実施形態において、投影光学系7の光軸のうち少なくとも投影光学系7の光射出側の光軸7aは、波長選択ミラー23と組織BTとの間の光路において、走査範囲SAの中心を通るレーザー光と同軸である。
本実施形態において、撮影光学系11の光軸11aは、例えば、撮影光学系11に含まれるレンズの回転中心軸と同軸である。本実施形態において、撮影光学系11の少なくとも一部の光軸と投影光学系7の少なくとも一部の光軸とは所定の光路(或いは少なくとも一部の光路)において互いに同軸になるように構成されている。例えば、撮影光学系11の光軸11aと投影光学系7の光出射側の光軸7aとは同軸に設定されている。また、例えば、撮影光学系11の光路を通過する光(例、組織BTから放射される光)の光軸と投影光学系7の光路を通過する光(例、第一光)の光軸とは、少なくとも互いの光(組織BTから放射される光と組織BTに照射される光)が通過する共通の光路において同軸に構成されている。したがって、本実施形態における画像処理システム1を用いて組織BTに対する撮影位置がユーザによって変えられた場合であっても、組織BT上に投影する上記成分画像を位置ずれなく投影できる。本実施形態において、光検出部3および投影部5は、それぞれ、筐体30に収容されている。光検出部3および投影部5は、それぞれ、筐体30に固定されている。そのため、光検出部3と投影部5との位置ずれが抑制され、撮影光学系11の光軸7aと投影光学系7の光軸との位置ずれが抑制される。
投影部コントローラ21は、画素値に応じて光源20に供給する電流を制御する。例えば、投影部コントローラ21は、成分画像のうち画素(i,j)を表示する際に、画素(i,j)の画素値に応じた電流を光源20に供給する。一例として、投影部コントローラ21は、光源20に供給される電流を、画素値に応じて振幅変調する。投影部コントローラ21は、第1駆動部25を制御することにより、走査部22によるレーザー光の走査範囲の水平走査方向において、各時刻にレーザー光が入射する位置を制御する。投影部コントローラ21は、第2駆動部27を制御することにより、走査部22によるレーザー光の走査範囲の垂直走査方向において、各時刻にレーザー光が入射する位置を制御する。一例として、投影部コントローラ21は、光源20から射出されるレーザー光の光強度を画素(i,j)の画素値に応じて制御するとともに、レーザー光が走査範囲上で画素(i,j)に相当する位置に入射するように第1駆動部25および第2駆動部27を制御する。
(v)表示装置31
表示装置31は、制御装置6に接続されており、例えば、液晶ディスプレイなどのフラットパネルディスプレイで構成される。制御装置6は、撮影画像や画像処理システム1の動作の設定などを、表示装置31に表示させることができる。制御装置6は、光検出部3が撮影した撮影画像、あるいは撮影画像を画像処理した画像を表示装置31に表示可能である。制御装置6は、画像生成部4が生成した成分画像(例えば、水分が多く含まれる箇所(患部)を示す画像)、あるいは成分画像を画像処理した画像を表示装置31に表示可能である。さらに、制御装置6は、成分画像を撮影画像とともに合成処理した合成画像を、表示装置31に表示可能である。
表示装置31は、制御装置6に接続されており、例えば、液晶ディスプレイなどのフラットパネルディスプレイで構成される。制御装置6は、撮影画像や画像処理システム1の動作の設定などを、表示装置31に表示させることができる。制御装置6は、光検出部3が撮影した撮影画像、あるいは撮影画像を画像処理した画像を表示装置31に表示可能である。制御装置6は、画像生成部4が生成した成分画像(例えば、水分が多く含まれる箇所(患部)を示す画像)、あるいは成分画像を画像処理した画像を表示装置31に表示可能である。さらに、制御装置6は、成分画像を撮影画像とともに合成処理した合成画像を、表示装置31に表示可能である。
撮影画像と成分画像の少なくとも一方を表示装置31に表示させる場合に、そのタイミングは、投影部5によって成分画像を投影するタイミングと同じであってもよいし、異なるタイミングであってもよい。例えば、制御装置6は、記憶部14に成分画像データを記憶させ、表示装置31に表示させる旨の入力信号を入力装置32が受信した場合に、記憶部14に記憶されている成分画像データを表示装置31に供給してもよい。
制御装置6は、可視光の波長帯に感度を有する撮影装置で組織BTを撮影した画像を表示装置31に表示させてもよいし、このような画像とともに、成分画像と撮影画像の少なくとも一方を表示装置31に表示させてもよい。
(vi)入力装置32
入力装置32は、制御装置6に接続されており、例えば、切替スイッチ、マウス、キーボート、タッチパネル式ポインティングデバイス(スタイラスペンや指で操作)などで構成される。入力装置32は、画像処理システム1の動作を設定する設定情報を入力可能である。制御装置6は、入力装置32が操作されたことを検出可能である。制御装置6は、入力装置32を介して入力された情報(入力情報)に応じて、画像処理システム1の設定を変更すること、画像処理システム1の各部に処理を実行させること等ができる。
入力装置32は、制御装置6に接続されており、例えば、切替スイッチ、マウス、キーボート、タッチパネル式ポインティングデバイス(スタイラスペンや指で操作)などで構成される。入力装置32は、画像処理システム1の動作を設定する設定情報を入力可能である。制御装置6は、入力装置32が操作されたことを検出可能である。制御装置6は、入力装置32を介して入力された情報(入力情報)に応じて、画像処理システム1の設定を変更すること、画像処理システム1の各部に処理を実行させること等ができる。
例えば、脂質の量に関する情報を投影部5により明るく表示する第1モードを指定する入力がユーザによって入力装置32になされた場合に、制御装置6は、データ生成部16を制御して、第1モードに応じた成分画像データを生成させる。水の量に関する情報を投影部5により明るく表示する第2モードを指定する入力がユーザによって入力装置32になされた場合に、制御装置6は、データ生成部16を制御して、第2モードに応じた成分画像データを生成させる。このように、画像処理システム1は、投影部5によって投影される成分画像を強調して表示するモードとして、第1モードと第2モードとを切替可能である。
制御装置6は、例えば、入力装置32を介した入力信号に従って投影部コントローラ21を制御し、投影部5による成分画像の表示を開始、中止、あるいは再開させることができる。制御装置6は、例えば、入力装置32を介した入力信号に従って投影部コントローラ21を制御し、投影部5により表示される成分画像の色と明るさとの少なくとも一方を調整可能である。例えば、組織BTは血液などに由来して赤みが強い色彩である場合があり、このような場合に成分画像を組織BTと補色の関係になる色(例えば緑色)で表示すると、組織BTと成分画像とを視覚的に識別しやすい。
<機能1:基本的な画像表示機能>
本実施形態における機能1は、画像処理システム1における基本的な画像表示機能であり、組織BT全体の撮影画像を表示装置31の画面上に表示したり、或いは成分画像(水分を多く含む患部箇所を示す画像)を撮影画像に合成して得られる合成画像を表示装置31の画面上に表示すると共に成分画像を組織BT上に投影したりする機能である。図4は、本実施形態による機能1における処理内容を説明するためのフローチャートである。
本実施形態における機能1は、画像処理システム1における基本的な画像表示機能であり、組織BT全体の撮影画像を表示装置31の画面上に表示したり、或いは成分画像(水分を多く含む患部箇所を示す画像)を撮影画像に合成して得られる合成画像を表示装置31の画面上に表示すると共に成分画像を組織BT上に投影したりする機能である。図4は、本実施形態による機能1における処理内容を説明するためのフローチャートである。
(i)ステップ401
制御装置6からの組織BTに対する撮影動作開始の命令に応答して、照射部2は、組織BTに検出光(例、赤外光)を照射する。
制御装置6からの組織BTに対する撮影動作開始の命令に応答して、照射部2は、組織BTに検出光(例、赤外光)を照射する。
(ii)ステップ402
光検出部3は、検出光が照射されている組織BTから放射される光(例、赤外光)を検出する。光検出部3のイメージセンサー13が可視光をも検出可能な場合には、赤外光及び可視光が検出される。検出された光から組織BT全体の撮影画像が形成され、制御装置6によって記憶部14に当該撮影画像のデータが格納される。
光検出部3は、検出光が照射されている組織BTから放射される光(例、赤外光)を検出する。光検出部3のイメージセンサー13が可視光をも検出可能な場合には、赤外光及び可視光が検出される。検出された光から組織BT全体の撮影画像が形成され、制御装置6によって記憶部14に当該撮影画像のデータが格納される。
(iii)ステップ403
制御装置6は、成分画像の生成が必要か否か判断する。成分画像生成の要否は、例えば、操作者(手術者)が入力装置32を用いて生成の要否が入力される。成分画像を生成する必要がないと判断された場合(ステップ403でNOの場合)、処理はステップ404に移行する。成分画像を生成する必要があると判断された場合(ステップ403でYESの場合)、処理はステップ405に移行する。
制御装置6は、成分画像の生成が必要か否か判断する。成分画像生成の要否は、例えば、操作者(手術者)が入力装置32を用いて生成の要否が入力される。成分画像を生成する必要がないと判断された場合(ステップ403でNOの場合)、処理はステップ404に移行する。成分画像を生成する必要があると判断された場合(ステップ403でYESの場合)、処理はステップ405に移行する。
(iv)ステップ404
制御装置6は、記憶部14から組織BTの撮影画像を読み込み、表示装置31に送信し、撮影画像の画面上での表示を指示する。表示装置31は、当該指示に応答して、受信した撮影画像を画面上に表示する。表示される撮影画像は、赤外画像であっても良いし、可視画像であっても良い。
制御装置6は、記憶部14から組織BTの撮影画像を読み込み、表示装置31に送信し、撮影画像の画面上での表示を指示する。表示装置31は、当該指示に応答して、受信した撮影画像を画面上に表示する。表示される撮影画像は、赤外画像であっても良いし、可視画像であっても良い。
(v)ステップ405
制御装置6は、画像生成部4に含まれる算出部15を用いて、組織BTの脂質量、及び水分量に関する成分情報(組織BTの成分に関する情報)を算出する。例えば、上述したように、算出部15は、複数の画素について、各画素の指標Q(i,j)を算出し、指標の分布を算出する。そして、算出部15は、指標Q(i,j)を画素P(i,j)の画素値に変換する。指標Q(i,j)は脂質の量が多い部位であるほど大きくなるため、画素P(i,j)の画素値は脂質の量が多い部位であるほど大きくなる。一方、水分量が多い部位については脂質とは逆になる。
制御装置6は、画像生成部4に含まれる算出部15を用いて、組織BTの脂質量、及び水分量に関する成分情報(組織BTの成分に関する情報)を算出する。例えば、上述したように、算出部15は、複数の画素について、各画素の指標Q(i,j)を算出し、指標の分布を算出する。そして、算出部15は、指標Q(i,j)を画素P(i,j)の画素値に変換する。指標Q(i,j)は脂質の量が多い部位であるほど大きくなるため、画素P(i,j)の画素値は脂質の量が多い部位であるほど大きくなる。一方、水分量が多い部位については脂質とは逆になる。
従って、成分画像としては、一般的に脂質の量が多い部位は明るく表示され、水分量が多い部位は暗く表示されることになる。なお、上述したように、所定の演算を行えば、水分量が多い部位を明るく表示することも可能である。
(vi)ステップ406
制御装置6は、撮影画像が赤外画像の場合、成分画像を赤外画像に反映して表示装置31に送信し、表示装置31は受信した画像を画面に表示する。一方、撮影画像が可視画像の場合には、制御装置6は、成分画像を可視画像に合成し、合成画像を表示装置に送信し、表示装置31は受信した合成画像を画面に表示する。
制御装置6は、撮影画像が赤外画像の場合、成分画像を赤外画像に反映して表示装置31に送信し、表示装置31は受信した画像を画面に表示する。一方、撮影画像が可視画像の場合には、制御装置6は、成分画像を可視画像に合成し、合成画像を表示装置に送信し、表示装置31は受信した合成画像を画面に表示する。
(vii)ステップ407
制御装置6は、ステップ405で生成した成分画像データを投影部5に送信し、組織BT上に当該成分画像を投影するように指示する。投影部5は、当該成分画像データに基づいて組織BT上を可視光で走査し、成分画像を組織BT上に投影する。上述したように、例えば、画像処理システム1では、成分画像データに基づいて2つの走査ミラー(例、第1走査ミラー24及び第2走査ミラー26)を用いて可視光を2次元(2方向)に順次走査することによって、組織BT上に成分画像を投影することができる。
制御装置6は、ステップ405で生成した成分画像データを投影部5に送信し、組織BT上に当該成分画像を投影するように指示する。投影部5は、当該成分画像データに基づいて組織BT上を可視光で走査し、成分画像を組織BT上に投影する。上述したように、例えば、画像処理システム1では、成分画像データに基づいて2つの走査ミラー(例、第1走査ミラー24及び第2走査ミラー26)を用いて可視光を2次元(2方向)に順次走査することによって、組織BT上に成分画像を投影することができる。
<機能1による作用効果等>
本実施形態による画像処理システム1は、例えば、走査部22を用いてレーザー光で組織BT上を走査することによって、組織BTに関する情報を示す画像(例えば成分画像)を組織BT上に直接的に投影(描画)する。レーザー光は、一般的に平行度が高く、光路長の変化に対してスポットサイズの変化が小さい。そのため、画像処理システム1は、組織BTの凹凸に関わらずボケの少ない鮮明な画像を組織BT上に投影できる。
本実施形態による画像処理システム1は、例えば、走査部22を用いてレーザー光で組織BT上を走査することによって、組織BTに関する情報を示す画像(例えば成分画像)を組織BT上に直接的に投影(描画)する。レーザー光は、一般的に平行度が高く、光路長の変化に対してスポットサイズの変化が小さい。そのため、画像処理システム1は、組織BTの凹凸に関わらずボケの少ない鮮明な画像を組織BT上に投影できる。
画像処理システム1は、撮影光学系11の光軸11aと投影光学系7の光軸7aとが同軸とに設定されている。そのため、組織BTと光検出部3との相対位置が変化した場合であっても、組織BTのうち光検出部3が撮影した部分と、投影部5によって画像が投影される部分との位置ずれが低減される。例えば、投影部5が投影する画像と組織BTとに視差が生じることが低減される。
画像処理システム1では、組織BTに関する情報を示す画像として、組織BTの特定部位が強調された成分画像を投影する。そのため、オペレータは、組織BT上に投影された成分画像を見ながら、特定部位に切開、切除、薬物投与などの処置を施すことができる。画像処理システム1では、成分画像の色と明るさを変えることができるので、成分画像を組織BTと視覚的に識別することが容易なように表示できる。本実施形態のように、投影部5がレーザー光を直接的に組織BTに照射する場合、組織BT上に投影される成分画像に視認しやすいスペックルと呼ばれるちらつきが生じるため、ユーザはこのスペックルによって成分画像を組織BTと容易に識別することができる。
画像処理システム1では、成分画像の1フレームを投影する期間を可変にしてもよい。例えば、投影部5は、60フレーム毎秒で画像を投影可能であって、画像生成部4は、成分画像と次の成分画像との開に、全画素が暗表示の全黒画像を含むように、画像のデータを生成してもよい。この場合、成分画像は、ちらついて視認されやすく、組織BTと識別しやすい。
なお、表示装置31の画面における成分画像の表示、及び組織BT上への成分画像の投影は、リアルタイムで実行されるようにしても良い。例えば、操作者(手術者や検査者等)が組織BTへの医療行為を遂行している状態で、リアルタイムで成分画像の表示及び投影が実行される。操作者(手術者や検査者等)は対象となる特定部位を処置できたか確認することができるようになる。
<機能2:モニター上の入力図形を可視光レーザーで組織BT上に投射する機能>
本実施形態における機能2は、画像処理システム1における特殊機能の1つであり、表示装置31の画面上に表示された組織BT全体の撮影画像に対して入力された図形と同一の図形を組織BT上に投影する機能である。また、画像処理システム1は、組織BTの撮影画像又は成分画像を撮影画像に合成して得られる合成画像を表示装置31の画面上に表示する共に入力装置32に入力されたマーキング情報(図形、線や文字等の入力の内容)を組織BTに光を用いて投射する(照射する)機能である。図5は、当該機能2の概要を説明するための図である。図5に示される画像処理システム1の構成は図1のそれと同一であるため、構成についての詳細な説明は省略する。
本実施形態における機能2は、画像処理システム1における特殊機能の1つであり、表示装置31の画面上に表示された組織BT全体の撮影画像に対して入力された図形と同一の図形を組織BT上に投影する機能である。また、画像処理システム1は、組織BTの撮影画像又は成分画像を撮影画像に合成して得られる合成画像を表示装置31の画面上に表示する共に入力装置32に入力されたマーキング情報(図形、線や文字等の入力の内容)を組織BTに光を用いて投射する(照射する)機能である。図5は、当該機能2の概要を説明するための図である。図5に示される画像処理システム1の構成は図1のそれと同一であるため、構成についての詳細な説明は省略する。
本実施形態による画像処理システム1では、まず表示装置31の画面上に組織BT全体の撮影画像が表示される。この際、成分画像を撮影画像に反映して画面上に表示しても良いし、撮影画像のみを画面上に表示しても良い。撮影画像としては赤外画像でもよいし、可視画像でもよい。組織BT上に成分画像を投影しても良いし、投影しなくても良い。
表示装置31の画面上に組織BTの撮影画像(静止画、動画など)が表示された状態で、操作者(例えば、手術者)が入力装置32を用いて手術や検査に係る箇所(例、患部、強調する部分)にマーキング(任意の図形など)41を入力(描画)すると、制御装置6は当該入力を検知し、それに応答して投影部5の制御を開始し、マーキング41と同じ図形42をマーキング41が入力された位置と同一の組織BT上の位置に可視光で投影する。また、例えば、表示装置31の画面上に組織BTの撮影画像(静止画、動画など)が表示されている間に、操作者が入力装置32を用いて撮影画像にマーキング41を入力すると、制御装置6は当該入力を検知し、その入力に基づき投影部5の光照射の動作(投影動作)を制御する。そして、制御装置6は、撮影画像に入力されたマーキング41と同じマーキング(例、図形42)をマーキング41が入力された位置に対応する組織BT上の位置に光を照射させる。このように表示画面上で入力された図形と同一の図形を組織BT上のほぼ同じ位置に投影することにより、操作者は画面上で確認した箇所に対応する組織BT上の箇所を適切、かつ容易に処置(手術や検査等)することが可能となる。制御装置6は、一例として、操作者によって入力された第一マーキング(任意の線や図形など)を第一光(例、可視光、赤外光)で組織BT上に投影(照射)するように、さらに、操作者によって入力された第二マーキング(任意の線や図形など)を第二光(例、可視光、赤外光)で組織BT上に投影(照射)するように、投影部5を制御しても良い。照射光の数は2つ(2種)に限られず、それ以上であっても良い。
図6は、本実施形態による機能2における処理内容を説明するためのフローチャートである。
(i)ステップ601
ステップ601の処理は、図4のフローチャートで示される、撮影画像を表示装置の画面上に表示、成分画像を撮影画像に反映して画面上に表示する処理と同一である。また、この場合、組織BT上に成分画像を投影させても良いし、成分画像の表示は画面上でのみ行うようにしても良い。ステップ601の詳細説明は省略する。
ステップ601の処理は、図4のフローチャートで示される、撮影画像を表示装置の画面上に表示、成分画像を撮影画像に反映して画面上に表示する処理と同一である。また、この場合、組織BT上に成分画像を投影させても良いし、成分画像の表示は画面上でのみ行うようにしても良い。ステップ601の詳細説明は省略する。
(ii)ステップ602
表示装置31のプロセッサ(図示せず)は、操作者が表示された撮影画像に対して図形(マーキング41)の入力を検知するまで待機する。当該図形の入力を検知すると処理はステップ603に移行する。表示装置31のプロセッサは、入力された図形(マーキング41)の位置の情報(座標情報)及び画素値をメモリ(図示せず)に保持する。図形(マーキング41)の画素値(明るさ)及び色については予め設定することができるようになっている。図形は、例えば、操作者がスタイラスペンや指などを用いて入力したり(タッチ入力)、音声によって入力したりしても良い。
表示装置31のプロセッサ(図示せず)は、操作者が表示された撮影画像に対して図形(マーキング41)の入力を検知するまで待機する。当該図形の入力を検知すると処理はステップ603に移行する。表示装置31のプロセッサは、入力された図形(マーキング41)の位置の情報(座標情報)及び画素値をメモリ(図示せず)に保持する。図形(マーキング41)の画素値(明るさ)及び色については予め設定することができるようになっている。図形は、例えば、操作者がスタイラスペンや指などを用いて入力したり(タッチ入力)、音声によって入力したりしても良い。
なお、ここでは、一例として、表示装置31のプロセッサが図形の入力を検知するとして説明をしたが、制御装置6が表示装置31の画面に対する入力を検知するようにしても良い。
(iii)ステップ603
表示装置31は、入力図形(マーキング41)を撮影画像に重畳して表示する。
表示装置31は、入力図形(マーキング41)を撮影画像に重畳して表示する。
(iv)ステップ604
制御装置6は、操作者が表示装置31に図形を入力したことにより発生する信号(入力信号)を表示装置31から受信し(上述のように、制御装置6が操作者の図形入力によって発生する信号を直接検知する場合もある)、入力された図形(マーキング41)の位置情報及び画素値の情報を取得し、組織BT上に投影するための図形データを生成する。なお、組織BT上に投影される図形(マーク42)の画素値については、表示装置31の画面上に表示された図形(マーキング41)と同一でなくても良く、操作者(手術者)によって適宜調整可能としても良い。例えば、手術室においては、組織BTは手術用無影灯によって非常に明るく照らされており、画面上で表示された図形(マーキング41)と同一の画素値であると組織BT上に投影しても見にくい可能性があるからである。
制御装置6は、操作者が表示装置31に図形を入力したことにより発生する信号(入力信号)を表示装置31から受信し(上述のように、制御装置6が操作者の図形入力によって発生する信号を直接検知する場合もある)、入力された図形(マーキング41)の位置情報及び画素値の情報を取得し、組織BT上に投影するための図形データを生成する。なお、組織BT上に投影される図形(マーク42)の画素値については、表示装置31の画面上に表示された図形(マーキング41)と同一でなくても良く、操作者(手術者)によって適宜調整可能としても良い。例えば、手術室においては、組織BTは手術用無影灯によって非常に明るく照らされており、画面上で表示された図形(マーキング41)と同一の画素値であると組織BT上に投影しても見にくい可能性があるからである。
(v)ステップ605
制御装置6は、ステップ604で生成した入力図形データを投影部5に送信し、組織BT上に当該図形を投影するように指示する。投影部5は、制御装置6から図形投影の指示及び投影すべき入力画像データを受信し、当該入力図形データの撮影画像における位置情報を用いて特定した組織BT上の可視光の照射位置(投影位置)及び当該撮影画像における画素値の情報に基づいて組織BT上を可視光で走査し、図形42を組織BT上に投影する。投影動作については上述した通りであり、ここでは詳細な説明は省略する。
制御装置6は、ステップ604で生成した入力図形データを投影部5に送信し、組織BT上に当該図形を投影するように指示する。投影部5は、制御装置6から図形投影の指示及び投影すべき入力画像データを受信し、当該入力図形データの撮影画像における位置情報を用いて特定した組織BT上の可視光の照射位置(投影位置)及び当該撮影画像における画素値の情報に基づいて組織BT上を可視光で走査し、図形42を組織BT上に投影する。投影動作については上述した通りであり、ここでは詳細な説明は省略する。
<機能3:患部箇所を自動的に輪郭線で囲む機能(患部箇所輪郭表示機能)>
機能3は、画像処理システム1における特殊機能の1つであり、表示装置31の画面上に表示された組織BT全体の撮影画像において患部箇所(例、患部の全部又は一部など)を自動的に輪郭線で囲んで表示すると共に、患部箇所を示す当該輪郭線を組織BT上にも自動的に投影する機能である。図7は、当該機能3の概要を説明するための図である。図7に示される画像処理システム1の構成は図1のそれと同一であるため、構成についての詳細な説明は省略する。
機能3は、画像処理システム1における特殊機能の1つであり、表示装置31の画面上に表示された組織BT全体の撮影画像において患部箇所(例、患部の全部又は一部など)を自動的に輪郭線で囲んで表示すると共に、患部箇所を示す当該輪郭線を組織BT上にも自動的に投影する機能である。図7は、当該機能3の概要を説明するための図である。図7に示される画像処理システム1の構成は図1のそれと同一であるため、構成についての詳細な説明は省略する。
本実施形態による画像処理システム1では、表示装置31の画面上に組織BT全体の撮影画像が表示される。この際、成分画像を撮影画像に反映して画面上に表示しても良いし、撮影画像のみを画面上に表示しても良い。撮影画像としては赤外画像でもよいし、可視画像でもよい。また、組織BT上に成分画像を投影しても良いし、投影しなくても良い。
当該画像処理システム1では、制御装置6のデータ生成部16が、成分画像データに基づいて成分画像の輪郭の位置情報を取得し、輪郭線データを生成する。輪郭線は所定の幅を持たせて表示するため、当該所定の幅に含まれる画素の位置情報が取得される。生成された輪郭線データは表示装置31に送信され、画面上に患部箇所を囲む輪郭線が表示される。
制御装置6は、生成された輪郭線データを投影部5に送信する。そして、投影部5は、受信した輪郭線データに基づいて、患部箇所を囲むように輪郭線を組織BT上に可視光で描画(投影)する。このように患部箇所を所定の太さの輪郭線で囲んで画面上に自動的に表示すると共に、当該輪郭線を組織BTにも自動的に投影することにより、患部箇所をより強調することができ、操作者(例えば、手術者や検査者等)は手術すべき部分や検査すべき部分をより適切に、かつ容易に認識することができる。
図8は、本実施形態による機能3における処理内容を説明するためのフローチャートである。
(i)ステップ801
制御装置6からの組織BTに対する撮影動作開始の命令に応答して、照射部2は、組織BTに検出光(赤外光)を照射する。
制御装置6からの組織BTに対する撮影動作開始の命令に応答して、照射部2は、組織BTに検出光(赤外光)を照射する。
(ii)ステップ802
光検出部3は、検出光が照射されている組織BTから放射される光(赤外光)を検出する。光検出部3のイメージセンサー13が可視光をも検出可能な場合には、赤外光及び可視光が検出される。検出された光から組織BT全体の撮影画像が形成され、制御装置6によって記憶部14に当該撮影画像が格納される。
光検出部3は、検出光が照射されている組織BTから放射される光(赤外光)を検出する。光検出部3のイメージセンサー13が可視光をも検出可能な場合には、赤外光及び可視光が検出される。検出された光から組織BT全体の撮影画像が形成され、制御装置6によって記憶部14に当該撮影画像が格納される。
(iii)ステップ803
制御装置6は、一例として、記憶部14から組織BTの撮影画像を読み込み、表示装置31に送信し、撮影画像の画面上での表示を指示する。表示装置31は、当該指示に応答して、受信した撮影画像を画面上に表示する。表示される撮影画像は、赤外画像であっても良いし、可視画像であっても良い。
制御装置6は、一例として、記憶部14から組織BTの撮影画像を読み込み、表示装置31に送信し、撮影画像の画面上での表示を指示する。表示装置31は、当該指示に応答して、受信した撮影画像を画面上に表示する。表示される撮影画像は、赤外画像であっても良いし、可視画像であっても良い。
(iv)ステップ804
制御装置6は、例えば、画像生成部4に含まれる算出部15を用いて、組織BTの脂質量、及び水分量に関する成分情報(組織BTの成分に関する情報)を算出する。上述したように、算出部15は、複数の画素について、各画素の指標Q(i,j)を算出し、指標の分布を算出する。そして、算出部15は、指標Q(i,j)を画素P(i,j)の画素値に変換する。指標Q(i,j)は脂質の量が多い部位であるほど大きくなるため、画素P(i,j)の画素値は脂質の量が多い部位であるほど大きくなる。水分量が多い部位については脂質とは逆になる。
制御装置6は、例えば、画像生成部4に含まれる算出部15を用いて、組織BTの脂質量、及び水分量に関する成分情報(組織BTの成分に関する情報)を算出する。上述したように、算出部15は、複数の画素について、各画素の指標Q(i,j)を算出し、指標の分布を算出する。そして、算出部15は、指標Q(i,j)を画素P(i,j)の画素値に変換する。指標Q(i,j)は脂質の量が多い部位であるほど大きくなるため、画素P(i,j)の画素値は脂質の量が多い部位であるほど大きくなる。水分量が多い部位については脂質とは逆になる。
以上のようにして、水分量が多い部分が検出され、当該部分が患部箇所として検出される。患部箇所のデータは、上述の成分画像データに対応するものである。
(v)ステップ805
制御装置6は、データ生成部16を用いて、患部箇所データに基づいて患部箇所の輪郭の位置情報を取得し、輪郭線データを生成する。輪郭線は所定の幅を持たせて表示するため、当該所定の幅に含まれる画素の位置情報が取得される。輪郭線データは、表示装置31及び投影部5に送信される。
制御装置6は、データ生成部16を用いて、患部箇所データに基づいて患部箇所の輪郭の位置情報を取得し、輪郭線データを生成する。輪郭線は所定の幅を持たせて表示するため、当該所定の幅に含まれる画素の位置情報が取得される。輪郭線データは、表示装置31及び投影部5に送信される。
(vi)ステップ806
表示装置31は、患部箇所の輪郭線データを撮影画像上に重畳表示する。
表示装置31は、患部箇所の輪郭線データを撮影画像上に重畳表示する。
(vii)ステップ807
投影部5は、受け取った輪郭線データに基づいて、組織BT上に患部箇所の輪郭線を可視光で投影する。投影動作については上述した通りであり、ここでは詳細な説明は省略する。
投影部5は、受け取った輪郭線データに基づいて、組織BT上に患部箇所の輪郭線を可視光で投影する。投影動作については上述した通りであり、ここでは詳細な説明は省略する。
<機能4:複数の患部候補箇所を輪郭線で囲んで画面表示し、選択された箇所を組織BT上に投影する機能>
機能4は、画像処理システム1における特殊機能の1つであり、表示装置31の画面上に表示された組織BT全体の撮影画像において複数の患部候補のそれぞれを自動的に輪郭線で囲んで表示し、操作者の選択(操作者の入力)に応答して、選択された患部候補以外の輪郭線を消去すると共に、当該選択された患部候補の輪郭線を組織BT上にも自動的に投影する機能である。図9は、当該機能4の概要を説明するための図である。図9に示される画像処理システム1の構成は図1のそれと同一であるため、構成についての詳細な説明は省略する。
機能4は、画像処理システム1における特殊機能の1つであり、表示装置31の画面上に表示された組織BT全体の撮影画像において複数の患部候補のそれぞれを自動的に輪郭線で囲んで表示し、操作者の選択(操作者の入力)に応答して、選択された患部候補以外の輪郭線を消去すると共に、当該選択された患部候補の輪郭線を組織BT上にも自動的に投影する機能である。図9は、当該機能4の概要を説明するための図である。図9に示される画像処理システム1の構成は図1のそれと同一であるため、構成についての詳細な説明は省略する。
本実施形態による画像処理システム1では、表示装置31の画面上に組織BT全体の撮影画像が表示される。この際、成分画像を撮影画像に反映して画面上に表示しても良いし、撮影画像のみを画面上に表示しても良い。撮影画像としては赤外画像でもよいし、可視画像でもよい。また、組織BT上に成分画像を投影しても良いし、投影しなくても良い。
画像処理システム1では、一例として、制御装置6の算出部15が、成分情報を算出し、所定量以上の水分量を含む箇所を特定する。そして、この所定量以上の水分量を含む箇所が患部候補の箇所として検出される。なお、ここでは、複数の患部候補箇所が検出されたものとする。
制御装置6のデータ生成部16は、所定量以上の水分量を含む箇所の成分画像データを算出部15から取得する。そして、データ生成部16は、例えば、当該成分画像データに基づいて複数の患部候補箇所の輪郭の位置情報を取得し、輪郭線データを生成する。輪郭線は所定の幅を持たせて表示するため、当該所定の幅に含まれる画素の位置情報が取得される。生成された輪郭線データは表示装置31に送信され、画面上に患部箇所を囲む輪郭線が表示される。
表示装置31は、操作者(例えば、手術者や検査者等:単に「ユーザ」と言うことも可能である)が複数の患部候補箇所の何れか少なくとも1つを選択したことに応答して、選択された患部候補箇所以外の輪郭線を消去する。選択された輪郭線の情報は制御装置6に送信される。
一方、制御装置6は、選択された輪郭線に対応する輪郭線データを投影部5に送信する。そして、投影部5は、受信した輪郭線データに基づいて、患部箇所を囲むように輪郭線を組織BT上に可視光で描画(投影)する。このように複数の患部候補箇所を撮影画像上に画面表示し、操作者の選択に基づいて選択された輪郭線のみを残してそれ以外の輪郭線を消去すると共に、選択された輪郭線を組織BTにも自動的に投影することにより、操作者が所望する患部箇所をより強調することができ、操作者は手術すべき個所や検査すべき個所をより適切に、かつ容易に特定することができる。よって、画像処理システム1は手術や検査をスムーズに進行するようにアシストすることができる。
なお、機能4では、当初は組織BT上に患部候補箇所の輪郭線が投影されていない。画面上に表示された複数の患部候補箇所のうち選択された場合に、当該選択された患部候補箇所の輪郭線を組織BTに投影するようにしている。しかし、検出された複数の患部候補箇所の輪郭線を表示装置31の画面上に表示すると共に、組織BT上にも当該複数の患部候補箇所の輪郭線を投影し、操作者によって画面上で患部候補箇所が選択された場合に、選択された箇所以外の輪郭線を画面上及び組織BT上から消去するようにしても良い。
図10は、本実施形態による機能4における処理内容を説明するためのフローチャートである。
(i)ステップ1001
制御装置6からの組織BTに対する撮影動作開始の命令に応答して、照射部2は、組織BTに検出光(赤外光)を照射する。
制御装置6からの組織BTに対する撮影動作開始の命令に応答して、照射部2は、組織BTに検出光(赤外光)を照射する。
(ii)ステップ1002
光検出部3は、検出光が照射されている組織BTから放射される光(赤外光)を検出する。光検出部3のイメージセンサー13が可視光をも検出可能な場合には、赤外光及び可視光が検出される。検出された光から組織BT全体の撮影画像が形成され、制御装置6によって記憶部14に当該撮影画像が格納される。
光検出部3は、検出光が照射されている組織BTから放射される光(赤外光)を検出する。光検出部3のイメージセンサー13が可視光をも検出可能な場合には、赤外光及び可視光が検出される。検出された光から組織BT全体の撮影画像が形成され、制御装置6によって記憶部14に当該撮影画像が格納される。
(iii)ステップ1003
制御装置6は、記憶部14から組織BTの撮影画像を読み込み、表示装置31に送信し、撮影画像の画面上での表示を指示する。表示装置31は、当該指示に応答して、受信した撮影画像を画面上に表示する。表示される撮影画像は、赤外画像であっても良いし、可視画像であっても良い。
制御装置6は、記憶部14から組織BTの撮影画像を読み込み、表示装置31に送信し、撮影画像の画面上での表示を指示する。表示装置31は、当該指示に応答して、受信した撮影画像を画面上に表示する。表示される撮影画像は、赤外画像であっても良いし、可視画像であっても良い。
(iv)ステップ1004
制御装置6は、画像生成部4に含まれる算出部15を用いて、組織BTの脂質量、及び水分量に関する成分情報(組織BTの成分に関する情報)を算出する。上述したように、算出部15は、複数の画素について、各画素の指標Q(i,j)を算出し、指標の分布を算出する。そして、算出部15は、指標Q(i,j)を画素P(i,j)の画素値に変換する。指標Q(i,j)は脂質の量が多い部位であるほど大きくなるため、画素P(i,j)の画素値は脂質の量が多い部位であるほど大きくなる。水分量が多い部位については脂質とは逆になる。
以上のようにして、一例として、水分量や脂質量が所定値以上の部分が検出され、当該部分が患部候補箇所として検出される。
制御装置6は、画像生成部4に含まれる算出部15を用いて、組織BTの脂質量、及び水分量に関する成分情報(組織BTの成分に関する情報)を算出する。上述したように、算出部15は、複数の画素について、各画素の指標Q(i,j)を算出し、指標の分布を算出する。そして、算出部15は、指標Q(i,j)を画素P(i,j)の画素値に変換する。指標Q(i,j)は脂質の量が多い部位であるほど大きくなるため、画素P(i,j)の画素値は脂質の量が多い部位であるほど大きくなる。水分量が多い部位については脂質とは逆になる。
以上のようにして、一例として、水分量や脂質量が所定値以上の部分が検出され、当該部分が患部候補箇所として検出される。
(v)ステップ1005
制御装置6は、データ生成部16を用いて、複数の患部候補箇所データに基づいて患部候補箇所のそれぞれの輪郭の位置情報を取得し、患部候補箇所それぞれの輪郭線データを生成する。輪郭線は所定の幅を持たせて表示するため、当該所定の幅に含まれる画素の位置情報が取得される。各輪郭線データは、例えば、記憶部14に格納されると共に、表示装置31に送信される。
制御装置6は、データ生成部16を用いて、複数の患部候補箇所データに基づいて患部候補箇所のそれぞれの輪郭の位置情報を取得し、患部候補箇所それぞれの輪郭線データを生成する。輪郭線は所定の幅を持たせて表示するため、当該所定の幅に含まれる画素の位置情報が取得される。各輪郭線データは、例えば、記憶部14に格納されると共に、表示装置31に送信される。
表示装置31は、各輪郭線データに基づいて、表示されている撮影画像の各患部候補箇所に輪郭線を重畳表示する。各輪郭線の色や表示形態(点線、太さ)を変えて表示するようにして各輪郭線が囲む領域を識別しやすいようにしても良い。この色や表示形態は、操作者が予め設定・変更できるようにしても良い。
(vi)ステップ1006
表示装置31のプロセッサ(図示せず)は、操作者が撮影画像上に表示された複数の輪郭線の何れか少なくとも1つに対する操作者による選択入力を検知するまで待機する。当該選択入力を検知すると処理はステップ1007に移行する。また、表示装置31のプロセッサは、選択された輪郭線を特定する情報(輪郭線に識別子(ID)が付与されていれば選択された輪郭線の識別子情報、IDが付与されていなければ当該選択された輪郭線の位置情報(座標情報))をメモリ(図示せず)に保持すると共に、制御装置6に送信する。図形(マーキング41)の画素値(明るさ)及び色については予め設定することができるようになっている。撮影画像上に表示された輪郭線の選択は、例えば、操作者がスタイラスペンや指などを用いて行ったり(タッチ入力)、音声によって行ったりしても良い。
表示装置31のプロセッサ(図示せず)は、操作者が撮影画像上に表示された複数の輪郭線の何れか少なくとも1つに対する操作者による選択入力を検知するまで待機する。当該選択入力を検知すると処理はステップ1007に移行する。また、表示装置31のプロセッサは、選択された輪郭線を特定する情報(輪郭線に識別子(ID)が付与されていれば選択された輪郭線の識別子情報、IDが付与されていなければ当該選択された輪郭線の位置情報(座標情報))をメモリ(図示せず)に保持すると共に、制御装置6に送信する。図形(マーキング41)の画素値(明るさ)及び色については予め設定することができるようになっている。撮影画像上に表示された輪郭線の選択は、例えば、操作者がスタイラスペンや指などを用いて行ったり(タッチ入力)、音声によって行ったりしても良い。
なお、ここでは、表示装置31のプロセッサが操作者の選択入力を検知するとして説明をしたが、制御装置6が表示装置31の画面に対する入力を検知するようにしても良い。
(vii)ステップ1007
制御装置6は、操作者が表示装置31に表示された輪郭線を選択したことにより発生する信号(入力信号)を表示装置31から受信し(上述のように、制御装置6が操作者の選択入力によって発生する信号を直接検知する場合もある)、入力信号に含まれる、選択された輪郭線を特定する情報に基づいて、対応する輪郭線データを特定し、記憶部14から読み込む。当該対応する輪郭線データは、投影部5に送信される。
制御装置6は、操作者が表示装置31に表示された輪郭線を選択したことにより発生する信号(入力信号)を表示装置31から受信し(上述のように、制御装置6が操作者の選択入力によって発生する信号を直接検知する場合もある)、入力信号に含まれる、選択された輪郭線を特定する情報に基づいて、対応する輪郭線データを特定し、記憶部14から読み込む。当該対応する輪郭線データは、投影部5に送信される。
(viii)ステップ1008
投影部5は、制御装置6から輪郭線データの組織BT上の投影の指示、及び輪郭線データを取得し、当該輪郭線データに含まれる、当該輪郭線を形成する画素の位置情報に基づいて、組織BT上に患部箇所の輪郭線を可視光で投影する。投影動作については上述した通りであり、ここでは詳細な説明は省略する。
投影部5は、制御装置6から輪郭線データの組織BT上の投影の指示、及び輪郭線データを取得し、当該輪郭線データに含まれる、当該輪郭線を形成する画素の位置情報に基づいて、組織BT上に患部箇所の輪郭線を可視光で投影する。投影動作については上述した通りであり、ここでは詳細な説明は省略する。
<機能5乃至7:組織BT上に投影(描画)された輪郭線(ガイド光)を強調する機能(ガイド光強調機能)>
手術用無影灯は複数のLED光源で構成されるが、例えば、最大160000ルクスと非常に明るい。このため、機能2〜4によって組織BT上に輪郭線(ガイド光)を投影したいとき、人間の目でガイド光を判別することが困難な場合がある。ガイド光を目立たせるためにはガイド光の強度を高めたり、エネルギー密度を高めたりする必要がある。しかしながら、強力なガイド光を照射すると、人体に対する影響が懸念されるため、できるだけ小さい強度のガイド光を照射することが望ましい。そこで、機能5乃至7を設け、できるだけ小さい強度のガイド光(できるだけ小さい出力の可視光レーザ)でガイド光(輪郭線)を強調表示するようにしている。
手術用無影灯は複数のLED光源で構成されるが、例えば、最大160000ルクスと非常に明るい。このため、機能2〜4によって組織BT上に輪郭線(ガイド光)を投影したいとき、人間の目でガイド光を判別することが困難な場合がある。ガイド光を目立たせるためにはガイド光の強度を高めたり、エネルギー密度を高めたりする必要がある。しかしながら、強力なガイド光を照射すると、人体に対する影響が懸念されるため、できるだけ小さい強度のガイド光を照射することが望ましい。そこで、機能5乃至7を設け、できるだけ小さい強度のガイド光(できるだけ小さい出力の可視光レーザ)でガイド光(輪郭線)を強調表示するようにしている。
(i)機能5
機能5は、光源(可視光レーザー光源)20として、単色(単波長)の光源を点滅させながら組織BTに照射して輪郭線を投影したり、複数色(複数波長)の光源を用い、当該複数色の光源を切り替えながら組織BTに照射して輪郭線を投影したりする機能である。
機能5は、光源(可視光レーザー光源)20として、単色(単波長)の光源を点滅させながら組織BTに照射して輪郭線を投影したり、複数色(複数波長)の光源を用い、当該複数色の光源を切り替えながら組織BTに照射して輪郭線を投影したりする機能である。
図11は、機能5を説明するための図であり、手術室で使用される場合の本実施形態による画像処理システム1の概略構成を示している。当該画像処理システム1の構成は図1のそれと同一であるため、構成についての詳細な説明は省略する。
図11に示されるように、機能5は、例えば、手術室において手術用無影灯71が点灯されている環境で用いられる。機能5は、機能2〜4によって組織BT上に図形(図5のマーク(入力図形)42や図7や図9の輪郭線52及び64)を投影しているとき、或いはこれから投影しようとするときに用いられる機能である。
上述したように、機能5には、例えば、単色可視光レーザー光を点滅させてガイド光(輪郭線73)を強調する点滅モードと、複数色の可視光レーザー光を切り替えてガイド光(輪郭線73)を強調する色切替モードが設けられている。どちらのモードを用いてガイド光(輪郭線73)を強調するかは、入力装置32によって選択可能なようになっている。
機能5によるガイド光強調モードが選択されると、制御装置6は、投影部5に対してガイド光(輪郭線73)を何れかのモードで強調して組織BT上に投影するように指示する。そして、投影部5は、既に組織BT上に投影されているガイド光(輪郭線73)、或いはこれから組織BT上に投影しようとするガイド光(輪郭線73)を点滅させながら投影、或いは色を切り替えながら投影する。
なお、複数の色のガイド光を切り替えながら組織BT上に投影する場合には、ガイド光(輪郭線73)が切り替わったことが人間にとって感知可能でなければならない。つまり、例えば、1/30秒毎に色を切り替えてもフレーム切り替えの単位と同じタイミングであるので、色の切り替えがフレームの切り替えと混ざってしまって人間の目では区別できない。よって、当該実施形態では、色の切り替えは、例えば、0.1〜2秒単位、好ましくは0.5秒単位で行うこととする。
(ii)機能6
機能6は、手術用無影灯71が点灯される手術室において、手術者(ユーザ)がシャッタメガネ81を装着し、当該シャッタメガネ81のシャッタ(例、液晶シャッタ)の開閉のタイミングを手術用無影灯71の点灯タイミングとガイド光(可視光レーザー)照射のタイミングに同期させることによりガイド光を強調表示する機能である。また、本実施形態におけるウェアラブルデバイスのシャッタメガネ81は、一例として、液晶シャッタメガネ等である。ここでは一例としてシャッタメガネで説明したが、シャッタ以外にも光透過・不透過を切り替える(遮光透過切り替え)ことにより視界(視野)を制限するメガネであっても良い。その意味で、メガネ以外にも手術者が装着して手術者の左眼の視界及び右眼の視界を交互に制限するような装置(視界制限装置:例えばヘッドマウント型の視界制限装置)であれば良い。
機能6は、手術用無影灯71が点灯される手術室において、手術者(ユーザ)がシャッタメガネ81を装着し、当該シャッタメガネ81のシャッタ(例、液晶シャッタ)の開閉のタイミングを手術用無影灯71の点灯タイミングとガイド光(可視光レーザー)照射のタイミングに同期させることによりガイド光を強調表示する機能である。また、本実施形態におけるウェアラブルデバイスのシャッタメガネ81は、一例として、液晶シャッタメガネ等である。ここでは一例としてシャッタメガネで説明したが、シャッタ以外にも光透過・不透過を切り替える(遮光透過切り替え)ことにより視界(視野)を制限するメガネであっても良い。その意味で、メガネ以外にも手術者が装着して手術者の左眼の視界及び右眼の視界を交互に制限するような装置(視界制限装置:例えばヘッドマウント型の視界制限装置)であれば良い。
図12は、手術室で使用される場合の本実施形態による画像処理システム1の概略構成を示している。
図12に示されるように、機能6は、機能5と同様に、例えば、手術室において手術用無影灯71が点灯されている環境で用いられる。また、機能6は、機能2〜4によって組織BT上に図形(図5のマーク(入力図形)42や図7や図9の輪郭線52及び64)を投影しているとき、或いはこれから投影しようとするときに用いられる機能である。
機能6によるガイド光強調モードを使用する場合、手術者は液晶シャッタメガネ81を装着し、入力装置32から機能6の実行の指示を入力する。液晶シャッタメガネ81と制御装置6は、例えば無線通信等によって相互に通信することができるようになっている。従って、液晶シャッタメガネ81の液晶シャッタの開閉制御がONされると、制御装置6は、液晶シャッタの開閉のタイミングに関する情報を取得することができるようになっている。制御装置6は、取得した液晶シャッタの開閉タイミングに関する情報に基づいて、手術用無影灯71の点灯タイミング及びガイド光照射のタイミングを制御する。
図13は、機能6の概要を説明するための図である。図13(A)は、ガイド光(レーザー光源)1301を組織BT上に1/60秒間照射する場合に画面1303に表示される右眼用映像(奇数フィールド)1304を示す図である。図13(B)は、手術用無影灯71によって組織BTを1/60秒間点灯する場合に画面1303に表示される左眼映像(偶数フィールド)1305を示す図である。図13(C)は、再生される像1306を示す図である。
図13に示されるように、液晶シャッタは、例えば1/60秒単位で左眼シャッタと右眼シャッタの開閉が交互に切り替えられるようになっている(図13(A)及び(B)参照)。一例として、右眼シャッタが開いているときにはガイド光(可視光レーザー)がガルバノミラーを介して組織BT上に照射され、手術用無影灯(LED光源)71が消灯される(OFFとなる)ように制御される。例えば、右眼で捉えた画像は奇数フィールドの画像1304を構成し、左眼で捉えた画像は偶数フィールドの画像1305を構成する。すると、疑似的に右眼と左眼の像が合成されて見えることによりガイド光1301が強調されて見えるようになる(図13(C)参照)。合成された像は、1/30単位のフレーム画像(再生された像)1306となる。
図14は、液晶シャッタメガネ81の液晶シャッタの開閉の切り替えタイミングと、手術用無影灯71の点灯タイミングと、ガイド光照射(投影)のタイミングを示すタイミングチャートである。制御装置6は、液晶シャッタメガネ81と通信し、当該タイミングチャートに従って、液晶シャッタの開閉を制御する。図14に示されるように、左眼シャッタは、1/60秒毎に開閉を繰り返す。一方、右眼シャッタも1/60秒毎に開閉を繰り返すが、開閉のタイミングが左眼シャッタと逆である。そして、左眼シャッタが開いている間に手術用無影灯71がON(明)され、閉じている間に手術用無影灯71がOFF(暗)される。右眼シャッタが開いている間にガイド光(可視光レーザー)がON(明)され、閉じている間にガイド光(可視光レーザー)がOFF(暗)される。つまり、左眼シャッタの開閉タイミングと手術用無影灯71のON/OFFのタイミングが同一に、右眼シャッタの開閉タイミングとガイド光(可視光レーザー)のON/OFFのタイミングが同一になるように制御される。このように制御すると、疑似的に右眼と左眼の像が合成されて見えるようになり、結果としてガイド光が強調されて見えるようになる(ガイド光をはっきりと区別して見えるようになる)。
なお、制御装置6は、液晶シャッタメガネ81と通信し、左眼シャッタの開閉タイミングとガイド光のON/OFFのタイミングを一致させ、右眼シャッタの開閉タイミングと手術用無影灯71のON/OFFのタイミングを一致させるように制御しても良い。
また、左眼シャッタと右眼シャッタとの役割は所定のタイミングで交替してもよい。例えば、制御装置6は、液晶シャッタメガネ81及び手術用無影灯71と通信し、一定時間において左眼シャッタの開閉タイミングとガイド光のON/OFFのタイミングとを一致させ、右眼シャッタの開閉タイミングと手術用無影灯71のON/OFFのタイミングとを一致させるように制御しても良い。そして、制御装置6は、例えば、一定時間経過後において、左眼シャッタの開閉タイミングと手術用無影灯71のON/OFFのタイミングとを一致させ、右眼シャッタの開閉タイミングとガイド光のON/OFFのタイミングとを一致させるように制御しても良い。制御装置6は、これを繰り返して役割を切り替える。このように構成すると、例えば、片眼だけで組織BTを見るために遠近感が失われるという問題が回避できる。
<変形例>
(1)撮影動作と描画動作の時分割制御
組織BT上に描画(投影)された輪郭線は識別しやすい色で表示されるため、光検出器3が撮影した画像の解析に対して当該輪郭線が悪影響を与える可能性がある。
(1)撮影動作と描画動作の時分割制御
組織BT上に描画(投影)された輪郭線は識別しやすい色で表示されるため、光検出器3が撮影した画像の解析に対して当該輪郭線が悪影響を与える可能性がある。
そこで、光検出部3の撮影動作と光源(可視光レーザー)20による輪郭線の描画動作を時分割で実行することにより、輪郭線による悪影響の可能性を除去することができる。時分割制御は、例えば、1/30秒毎に撮影動作と描画動作を交互に繰り返すことにより実行される。
一例として、制御装置6は、例えば、操作者による動作開始の指示が入力装置32から入力されると、当該動作開始の指示を検知し、最初の1/30秒間に光検出部30が撮影動作(検出動作)を実行するように制御し(この間は投影部5の光源20による描画動作は停止させている)、次の1/30秒間には光検出部30の撮影動作を停止させて投影部5の光源20が輪郭線描画動作を実行するように制御する。制御装置6はこの動作を繰り返すことにより、撮影動作と描画動作の時分割制御を実現する。時分割制御は操作者の選択によりON/OFFできるようにしても良い。ON/OFFの選択も入力装置32を介して行うようにしても良い。
(2)輪郭線のリアルタイム表示及び投影
機能1において、一例として、成分画像をリアルタイムで表示することについて説明した。輪郭線は、成分画像に対応する患部箇所(候補も含む)の輪郭を示すものであるので、成分画像が変化すれば、輪郭線も同様に変化する。
機能1において、一例として、成分画像をリアルタイムで表示することについて説明した。輪郭線は、成分画像に対応する患部箇所(候補も含む)の輪郭を示すものであるので、成分画像が変化すれば、輪郭線も同様に変化する。
よって、機能3乃至7の何れかを使用している場合、輪郭線をリアルタイムに画面表示及び組織BT上に投影すれば、患部箇所の切除等に応じて表示及び投影される輪郭線の形状が変化する。
(3)照射部2の変形例
図15は、照射部2の変形例を示す図である。図15の照射部2は、一例として、光源10a、光源10b、及び光源10cを含む複数の光源を備える。光源10a、光源10b、及び光源10cは、一例として、いずれも赤外光を射出するLEDを含み、射出する赤外光の波長が互いに異なる。光源10aは、一例として、第1波長を含み、第2波長および第3波長を含まない波長帯の赤外光を射出する。光源10bは、一例として、第2波長を含み、第1波長および第3波長を含まない波長帯の赤外光を射出する。光源10cは、一例として、第3波長を含み、第1波長および第2波長を含まない波長帯の赤外光を射出する。
図15は、照射部2の変形例を示す図である。図15の照射部2は、一例として、光源10a、光源10b、及び光源10cを含む複数の光源を備える。光源10a、光源10b、及び光源10cは、一例として、いずれも赤外光を射出するLEDを含み、射出する赤外光の波長が互いに異なる。光源10aは、一例として、第1波長を含み、第2波長および第3波長を含まない波長帯の赤外光を射出する。光源10bは、一例として、第2波長を含み、第1波長および第3波長を含まない波長帯の赤外光を射出する。光源10cは、一例として、第3波長を含み、第1波長および第2波長を含まない波長帯の赤外光を射出する。
制御装置6は、光源10aと光源10bと光源10cとのそれぞれの点灯および消灯を制御できる。例えば、制御装置6は、照射部2を、光源10aが点灯し、かつ光源10bおよび光源10cが消灯している第1状態に設定する。第1状態において、組織BTには、照射部2から射出された第1波長の赤外光が照射される。制御装置6は、照射部2を第1状態に設定しつつ、光検出部3によって組織BTを撮影させ、第1波長の赤外光が照射されている組織BTを撮影した画像のデータ(撮影画像データ)を光検出部3から取得する。
制御装置6は、照射部2を、光源10bが点灯し、かつ光源10aおよび光源10cが消灯している第2状態に設定する。制御装置6は、照射部2を第2状態に設定しつつ、光検出部3によって組織BTを撮影させ、第2波長の赤外光が照射されている組織BTの撮影画像データを光検出部3から取得する。制御装置6は、照射部2を、光源10cが点灯し、かつ光源10aおよび光源10bが消灯している第3状態に設定する。制御装置6は、照射部2を第3状態に設定しつつ、光検出部3によって組織BTを撮影させ、第3波長の赤外光が照射されている組織BTの撮影画像データを光検出部3から取得する。
画像処理システム1は、図5に示した照射部2を適用した構成においても、組織BTに関する情報を示す画像(例、成分画像)を組織BT上に投影できる。このような画像処理システム1は、組織BTを波長帯ごとにイメージセンサー13(図1参照)により撮影するので、解像度を確保することが容易である。
(4)光検出器3の変形例
光検出部3は、第1波長の赤外光、第2波長の赤外光、及び第3波長の赤外光を、同じイメージセンサー13で一括して検出するが、このような構成に限定されない。図16は、光検出部3の変形例を示す図である。図16の光検出部3は、一例として、撮影光学系11と、波長分離部33と、イメージセンサー13a、イメージセンサー13b、及びイメージセンサー13cを含む複数のイメージセンサーと、を備える。
光検出部3は、第1波長の赤外光、第2波長の赤外光、及び第3波長の赤外光を、同じイメージセンサー13で一括して検出するが、このような構成に限定されない。図16は、光検出部3の変形例を示す図である。図16の光検出部3は、一例として、撮影光学系11と、波長分離部33と、イメージセンサー13a、イメージセンサー13b、及びイメージセンサー13cを含む複数のイメージセンサーと、を備える。
波長分離部33は、組織BTから放射された光を波長の違いにより分光する。図16の波長分離部33は、例えばダイクロイックプリズムである。波長分離部33は、第1波長分離膜33aおよび第2波長分離膜33bを有する。第1波長分離膜33aは、第1波長の赤外光IRaが反射し、第2波長の赤外光IRbおよび第3波長の赤外光IRcが透過する特性を有する。第2波長分離膜33bは、第1波長分離膜33aと交差するように設けられている。第2波長分離膜33bは、第3波長の赤外光IRcが反射し、第1波長の赤外光IRaおよび第2波長の赤外光IRbが透過する特性を有する。
組織BTから放射された赤外光IRのうち第1波長の赤外光IRaは、第1波長分離膜33aで反射して偏向され、イメージセンサー13aに入射する。イメージセンサー13aは、第1波長の赤外光IRaを検出することにより、組織BTの第1波長の像を撮影する。イメージセンサー13aは、撮影した画像のデータ(撮影画像データ)を制御装置6に供給する。
組織BTから放射された赤外光IRのうち第2波長の赤外光IRbは、第1波長分離膜33aおよび第2波長分離膜33bを透過して、イメージセンサー13bに入射する。イメージセンサー13bは、第2波長の赤外光IRbを検出することにより、組織BTの第2波長の像を撮影する。イメージセンサー13bは、撮影した画像のデータ(撮影画像データ)を制御装置6に供給する。
組織BTから放射された赤外光IRのうち第3波長の赤外光IRcは、第2波長分離膜33bで反射し、第1波長の赤外光IRaと反対側へ偏向され、イメージセンサー13cに入射する。イメージセンサー13cは、第3波長の赤外光IRcを検出することにより、組織BTの第3波長の像を撮影する。イメージセンサー13aは、撮影した画像のデータ(撮影画像データ)を制御装置6に供給する。
イメージセンサー13a、イメージセンサー13b、及びイメージセンサー13cは、互いに光学的に共役な位置に配置されている。イメージセンサー13a、イメージセンサー13b、及びイメージセンサー13cは、撮影光学系11からの光学的距離がほぼ同じになるように配置されている。
画像処理システム1は、図16に示した光検出部3を適用した構成においても、組織BTに関する情報を示す画像を組織BT上に投影できる。このような光検出部3は、波長分離部33によって分離した赤外光を、イメージセンサー13aとイメージセンサー13bとイメージセンサー13cとに分けて検出するので、解像度を確保することが容易である。
なお、光検出部3は、ダイクロイックプリズムの代わりに、第1波長分離膜33aと同様の特性を有するダイクロイックミラー、及び第2波長分離膜33bと同様の特性を有するダイクロイックミラーを用いて赤外光を波長の違いにより分離する構成でもよい。この場合に、第1波長の赤外光、第2波長の赤外光、及び第3波長の赤外光のいずれか1つ赤外光の光路長が他の赤外光の光路長と異なる場合には、リレーレンズなどにより光路長を揃えてもよい。
(5)投影部5の変形例
上述したように、投影部5は、単色の画像を投影だけでなく、複数色の画像を投影することができる。ここでは、このような投影部5の詳細について説明する。図17は、投影部5の変形例を示す図である。図17の投影部5は、一例として、射出するレーザー光の波長が互いに異なるレーザー光源20aと、レーザー光源20bと、レーザー光源20cと、を備える。
上述したように、投影部5は、単色の画像を投影だけでなく、複数色の画像を投影することができる。ここでは、このような投影部5の詳細について説明する。図17は、投影部5の変形例を示す図である。図17の投影部5は、一例として、射出するレーザー光の波長が互いに異なるレーザー光源20aと、レーザー光源20bと、レーザー光源20cと、を備える。
レーザー光源20aは、赤の波長帯のレーザー光を射出する。赤の波長帯は、700nmを含み、例えば610nm以上780nm以下である。レーザー光源20bは、緑の波長帯のレーザー光を射出する。緑の波長帯は、546.1nmを含み、例えば500nm以上570nm以下である。レーザー光源20cは、青の波長帯のレーザー光を射出する。青の波長帯は、435.8nmを含み、例えば430nm以上460nm以下である。
本例において、画像生成部4は、投影部5によって投影する画像として成分の量や割合に基づくカラー画像を形成可能である。例えば、画像生成部4は、脂質の量が多いほど緑の階調値が高くなるように緑の画像データを生成する。画像生成部4は、例えば、水の量が多いほど青の階調値が高くなるように青の画像データを生成する。制御装置6は、画像生成部4が生成した緑の画像データおよび青の画像データを含む成分画像データを、投影部コントローラ21に供給する。
投影部コントローラ21は、制御装置6から供給された成分画像データのうち緑の画像データを使って、レーザー光源20bを駆動する。例えば、投影部コントローラ21は、緑の画像データに規定された画素値が高いほど、レーザー光源20bから射出される緑のレーザー光の光強度が強くなるように、レーザー光源20bに供給される電流を大きくする。同様に、投影部コントローラ21は、制御装置6から供給された成分画像データのうち青の画像データを使って、レーザー光源20cを駆動する。
このような投影部5を適用した画像処理システム1は、脂質の量が多い部分を緑色で明るく強調して表示できるとともに、水の量が多い部分を青で明るく強調して表示できる。なお、画像処理システム1は、脂質の量および水の量がいずれも多い部分を赤で明るく表示してもよく、脂質と水のいずれとも異なる第3物質の量を赤で表示してもよい。
図1等において、光検出部3は波長選択ミラー23を通った光を検出し、投影部5は波長選択ミラー23で反射した光により成分画像を投影するが、本発明はこのような構成に限定されない。例えば、光検出部3は波長選択ミラー23で反射した光を検出し、投影部5は波長選択ミラー23を通った光により成分画像を投影してもよい。波長選択ミラー23は、撮影光学系11の一部であってもよいし、投影光学系7の一部であってもよい。また、投影光学系7の光軸は、撮影光学系11の光軸と同軸でなくてもよい。また、複数のレーザー光源20のうち1つは赤外光(赤外領域の波長を有する光)を射出可能なレーザー光源であってもよい。このように構成すると、例えば、可視光の波長帯域に感度を有しない赤外カメラ(赤外撮像装置)を光検出部3に用いた場合であっても、該赤外カメラが赤外光を射出可能なレーザー光源によって組織BTに投影された図形などを検出することができ、制御装置6は、上述のような画像合成をすることなく、表示装置31にその投影された図形などを表示することができる。
(6)画像処理システム1の変形例
図18は、変形例に係る画像処理システム1の構成を示す図である。上述の実施形態と同様の構成については、同一の符号を付しており、その説明については簡略化或いは省略する。
図18は、変形例に係る画像処理システム1の構成を示す図である。上述の実施形態と同様の構成については、同一の符号を付しており、その説明については簡略化或いは省略する。
投影部コントローラ21は、一例として、インターフェース140と、画像処理回路141と、変調回路142と、タイミング生成回路143と、を備える。インターフェース140は、制御装置6から画像データを受け取る。この画像データには、各画素の画素値を示す階調データ、及びリフレッシュレート等を規定した同期データが含まれている。インターフェース140は、直線データから階調データを抽出し、階調データを画像処理回路141に供給する。また、インターフェース140は、画像データから同期データを抽出し、同期データをタイミング生成回路143に供給する。
タイミング生成回路143は、一例として、光源20および走査部22の動作タイミングを示すタイミング信号を生成する。タイミング生成回路143は、画像の解像度、リフレッシュレート(フレームレート)、走査方式等に応じて、タイミング信号を生成する。ここでは、画像がフルHD形式であるとし、説明の便宜上、光の走査において、1本の水平走査線の描画が終了してから次の水平走査線の描画が開始するまでの時間(帰線時間)がないものとする。
フルHD形式の画像は、一例として、1920個の画素が並ぶ水平走査線を有し、水平走査線が垂直走査方向に1080本並ぶ形式である。画像を30Hzのリフレッシュレートで表示する場合に、垂直走査方向の走査の周期は、33ミリ秒(1/30秒)程度になる。例えば、垂直走査方向に走査する第2走査ミラー26は、回動範囲の一端から他端まで約33ミリ秒で回動することにより、1フレームの画像の垂直走査方向の走査を行う。タイミング生成回路43は、垂直走査信号VSSとして、第2走査ミラー26が各フレームの最初の水平走査線の描画を開始する時刻を規定する信号を生成する。垂直走査信号VSSは、例えば、約33ミリ秒の周期で立ち上がる波形である。
水平走査線あたりの描画時間(点灯時間)は、例えば、約31マイクロ秒(1/30/1080秒)程度になる。例えば、第1走査ミラー24は、回動範囲の一端から他端までを約31マイクロ秒で回動することにより、水平走査線の1本分に相当する走査を行う。タイミング生成回路143は、水平走査信号HSSとして、第1走査ミラー24が各水平走査線の走査を開始する時刻を規定する信号を生成する。水平走査信号HSSは、例えば、約31マイクロ秒の周期で立ち上がる波形である。
画素あたりの点灯時間は、例えば、約16ナノ秒(1/30/1080/1920秒)程度になる。例えば、光源20は、射出するレーザー光の光強度が画素値に応じて約16ナノ秒の周期で切り替わることにより、各画素を表示する。タイミング生成回路143は、光源20が点灯するタイミングを規定する点灯信号を生成する。点灯信号は、例えば、約16ナノ秒の周期で立ち上がる波形である。
タイミング生成回路143は、生成した水平走査信号HSSを第1駆動部25に供給する。第1駆動部25は、水平走査信号HSSに従って第1走査ミラー24を駆動する。タイミング生成回路143は、生成した垂直走査信号VSSを第2駆動部27に供給する。第2駆動部27は、垂直走査信号VSSに従って第2走査ミラー26を駆動する。
タイミング生成回路143は、生成した水平走査信号HSS、垂直走査信号VSS、及び点灯信号を画像処理回路141に供給する。画像処理回路141は、画像データの階調データにガンマ処理等の各種画像処理を行う。また、画像処理回路141は、階調データが走査部22の走査方式に整合した時間順次で変調回路142に出力されるように、タイミング生成回路143から供給されたタイミング信号に基づいて、階調データを調整する。画像処理回路141は、例えば、階調データをフレームバッファに記憶させておき、この階調データに含まれる画素値を表示される画素の順に読み出して、変調回路142に出力する。
変調回路142は、例えば、光源20から射出されるレーザー光の強度が画素ごとの階調に対応して時間変化するように、光源20の出力を調整する。当該変形例において、変調回路142は、画素値に応じて振幅が変化する波形信号を生成し、この波形信号により光源20を駆動する。これにより、光源20に供給される電流が画素値に応じて時間変化し、光源20から射出されるレーザー光の光強度が画素値に応じて時間変化する。このように、タイミング生成回路143が生成したタイミング信号は、光源20と走査部22との同期をとるのに使われる。
当該変形例において、照射部2は、一例として、照射部コントローラ150と、光源151と、投影光学系7と、を備える。照射部コントローラ50は、光源151の点灯および消灯を制御する。光源151は、検出光としてレーザー光を射出する。照射部2は、光源51から射出されたレーザー光を投影光学系7によって所定の2方向(例、第1方向および第2方向)に偏向し、レーザー光で組織BTを走査する。
光源151は、一例として、レーザー光源151aと、レーザー光源151bと、レーザー光源151cとを含む複数のレーザー光源を備える。レーザー光源151a、レーザー光源151b、及びレーザー光源151cは、いずれも赤外光を射出するレーザー素子を含み、射出する赤外光の波長が互いに異なる。レーザー光源151aは、第1波長を含み、第2波長および第3波長を含まない波長帯の赤外光を射出する。レーザー光源151bは、第2波長を含み、第1波長および第3波長を含まない波長帯の赤外光を射出する。レーザー光源151cは、第3波長を含み、第1波長および第2波長を含まない波長帯の赤外光を射出する。
照射部コントローラ150は、一例として、レーザー光源151a、レーザー光源151b、及びレーザー光源151cのそれぞれにレーザー素子の駆動用の電流を供給する。照射部コントローラ150は、レーザー光源151aに電流を供給してレーザー光源151aを点灯させ、レーザー光源151aへの電流の供給を停止してレーザー光源151aを消灯させる。照射部コントローラ150は、制御装置6に制御されて、レーザー光源151aへの電流の供給を開始または停止する。例えば、制御装置6は、レーザー光源151aを点灯あるいは消灯するタイミングを、照射部コントローラ150を介して制御する。同様に、照射部コントローラ150は、レーザー光源151b及びレーザー光源151cのそれぞれを点灯あるいは消灯する。制御装置6は、レーザー光源151b及びレーザー光源151cのそれぞれについて、点灯あるいは消灯するタイミングを制御する。
投影光学系7は、導光部152と、走査部22を備える。走査部22は、上述の実施形態と同様の構成であり、第1走査ミラー24および第1駆動部25(水平走査部)と、第2走査ミラーおよび第2駆動部27(垂直走査部)とを備える。導光部152は、レーザー光源151a、レーザー光源151b、及びレーザー光源151cのそれぞれから射出される検出光を、投影部5の光源20から射出される可視光と同じ光路を通るように、走査部22へ導く。
導光部152は、一例として、ミラー153と、波長選択ミラー54aと、波長選択ミラー154bと、波長選択ミラー154cと、を備える。ミラー153は、レーザー光源151aから射出された第1波長の検出光が入射する位置に配置されている。
波長選択ミラー154aは、例えば、ミラー153で反射した第1波長の検出光と、レーザー光源151bから射出された第2波長の検出光とが入射する位置に配置されている。波長選択ミラー154aは、第1波長の検出光が透過し、第2波長の検出光が反射する特性を有する。
波長選択ミラー154bは、波長選択ミラー154aを透過した第1波長の検出光と、波長選択ミラー154bで反射した第2波長の検出光と、レーザー光源151cから射出された第3波長の検出光とが入射する位置に配置されている。波長選択ミラー154bは、第1波長の検出光および第2波長の検出光が反射し、第3波長の検出光が透過する特性を有する。
波長選択ミラー154cは、波長選択ミラー154bで反射した第1波長の検出光および第2波長の検出光、波長選択ミラー154bを透過した第3波長の検出光、並びに光源20から射出された可視光が入射する位置に配置されている。波長選択ミラー154cは、第1波長の検出光、第2波長の検出光、及び第3波長の検出光が反射し、可視光が透過する特性を有する。
波長選択ミラー154cで反射した第1波長の検出光、第2波長の検出光、及び第3波長の検出光と、波長選択ミラー154cを透過した可視光は、いずれも同じ光路を通って、走査部22の第1走査ミラー24に入射する。走査部22に入射した第1波長の検出光、第2波長の検出光、及び第3波長の検出光は、それぞれ、画像の投影用の可視光と同様に走査部22によって偏向される。このように、照射部2は、第1波長の検出光、第2波長の検出光、及び第3波長の検出光のそれぞれで、走査部22を用いて組織BT上を走査可能である。したがって、本実施形態における走査型投影装置1は、走査型の撮影機能と走査型の画像投影機能との両方を備える構成である。
当該変形例において、光検出部3は、照射部2によってレーザースキャニングされている組織BTから放射された光を検出する。光検出部3は、検出した光の光強度と、照射部2から照射されたレーザー光の位置情報とを関連付けることにより、照射部2がレーザー光を走査する範囲における、組織BTから放射される光の光強度の空間分布を検出する。光検出部3は、一例として、集光レンズ155と、光センサー156と、画像メモリ157と、を備える。
光センサー156は、シリコンPINフォトダイオードやGaAsフォトダイオードなどのフォトダイオードを含む。集光レンズ155は、組織BTから放射される光の少なくとも一部を光センサー156のフォトダイオードに集光する。集光レンズ155は、組織BT(検出光の照射領域)の像を形成しなくてもよい。
画像メモリ157は、光センサー156から出力されたデジタル信号を記憶する。画像メモリ157には、投影部コントローラ21から水平走査信号HSSおよび垂直走査信号VSSが供給され、画像メモリ157は、水平走査信号HSSおよび垂直走査信号VSSを使って、光センサー156から出力された信号を画像形式のデータに変換する。例えば、画像メモリ157は、垂直走査信号VSSの立ち上がりから立ち下りまでの期間に光センサー156から出力された検出信号を、1フレームの画像データとする。光検出部3は、検出した画像データを制御装置6に供給する。
制御装置6は、照射部2が照射する検出光の波長を制御する。制御装置6は、照射部コントローラ150を制御することによって、光源151から射出される検出光の波長を制御する。制御装置6は、レーザー光源151a、レーザー光源151b、及びレーザー光源151cの点灯あるいは消灯のタイミングを規定する制御信号を、照射部コントローラ150に供給する。照射部コントローラ150は、制御装置6から供給された制御信号に基づき、第1波長の光を射出するレーザー光源151a、第2波長の光を射出するレーザー光源151b、及び第3波長の光を射出するレーザー光源151cを選択的に点灯させる。
例えば、制御装置6は、照射部2に第1波長の光を照射させている第1の期間に、組織BTから放射される光を光検出部3に検出させる。制御装置6は、照射部2に第2波長の光を照射させている第2の期間に、組織BTから放射される光を光検出部3に検出させる。制御装置6は、照射部2に第3波長の光を照射させている第3の期間に、組織BTから放射される光を光検出部3に検出させる。制御装置6は、光検出部3を制御して、第1の期間における光検出部3の検出結果と、第2の期間における光検出部3の検出結果と、第3の期間における光検出部3の検出結果とを別々に、画像生成部4へ出力させる。
図19は、照射部2および投影部5の動作の一例を示すタイミングチャートである。図19には、第1走査ミラー24の角度位置、第2走査ミラー26の角度位置、及び各光源に供給される電力を示した。第1期間T1は、1フレームの表示期間に相当し、その長さはリフレッシュレートが30Hzである場合に1/30秒程度である。第2期間T2、第3期間T3、及び第4期間T4についても同様である。
第1期間T1において、制御装置6は、第1波長用のレーザー光源151aを点灯状態にする。また、第1期間T1において、制御装置6は、第2波長用のレーザー光源151bおよび第3波長のレーザー光源151cを消灯状態にする。
第1期間T1において、第1走査ミラー24および第2走査ミラー26は、投影部5が画像を投影する際と同じ条件で動作する。第1期間T1において、第1走査ミラー24は、回動範囲の一端から他端までの回動を、水平走査線の数だけ繰り返す。第1走査ミラー24の角度位置において、立ち上がりから次の立ち上がりまでの単位波形は、1本の水平走査線を走査する間の角度位置に相当する。例えば、投影部5が投影する画像がフルHD形式である場合に、第1期間T1には、第1走査ミラー24の角度位置における単位波形が1080周期含まれる。第1期間T1において、第2走査ミラー26は、回動範囲の一端から他端までの回動を1回行う。
このような走査部22の動作によって、レーザー光源151aから射出された第1波長のレーザー光は、組織BT上の走査範囲の全域を走査する。制御装置6は、第1期間T1において光検出部3が検出した結果に相当する第1検出画像データを、光検出部3から取得する。
第2期間T2において、制御装置6は、第2波長用のレーザー光源151bを点灯状態にする。第2期間T2において、制御装置6は、第1波長用のレーザー光源51aおよび第3波長用のレーザー光源151cを消灯状態にする。第2期間T2において、第1走査ミラー24および第2走査ミラー26は、第1期間T1と同様に動作する。これにより、レーザー光源151bから射出された第2波長のレーザー光は、組織BT上の走査範囲の全域を走査する。制御装置6は、第2期間T2において光検出部3が検出した結果に相当する第2検出画像データを、光検出部3から取得する。
第3期間T3において、制御装置6は、第3波長用のレーザー光源151cを点灯状態にする。第3期間T3において、制御装置6は、第1波長用のレーザー光源151aおよび第2波長用のレーザー光源151bを消灯状態にする。第3期間T3において、第1走査ミラー24および第2走査ミラー26は、第1期間T1と同様に動作する。これにより、レーザー光源151cから射出された第3波長のレーザー光は、組織BT上の走査範囲の全域を走査する。制御装置6は、第3期間T3において光検出部3が検出した結果に相当する第3検出画像データを、光検出部3から取得する。
図18に示した画像生成部4は、第1検出画像データ、第2検出画像データ、及び第3検出画像データを使って成分画像を生成し、成分画像データを投影部5に供給する。画像生成部4は、上述の実施形態で説明した撮録画像データの代わりに検出画像データを使うことによって、成分画像を生成する。例えば、算出部15は、光検出部3が検出した光の光強度の時間変化を使って、組織BTの成分に関する情報を算出する。
第4期間T4において、図18に示した投影部コントローラ21は、制御装置6から供給された成分画像データを使って、画素値に応じて振幅が時間変化する駆動電力波を投影用の光源20に供給するとともに、走査部22を制御する。このように投影部5は、第4期間T4において、成分画像を組織BT上に投影する。
当該変形例に係る画像処理システム1は、検出光で組織BTをレーザースキヤンしながら、組織BTから放射される光を光センサー156によって検出し、組織BTの撮影画像データに相当する検出画像データを取得する。このような光センサー156は、画素の数がイメージセンサーよりも少ないものであってもよい。そのため、走査型投影装置1は、小型化や軽量化、低コスト化などが可能である。光センサー156の受光面積を、イメージセンサーの1画素の受光面積よりも大きくすることが容易であり、光検出部3の検出精度を高めることができる。
当該変形例において、照射部2は、射出する光の波長が互いに異なる複数の光源を含み、複数の光源のうち点灯する光源を時間的に切り替えて検出光を照射する。そのため、波長がブロードな検出光を照射する構成と比較して、光検出部3によって検出しない波長の光を減らすことができる。そのため、例えば検出光によって組織BTに付与される単位時間当たりのエネルギーを減らすことができ、検出光L1による組織BTの昇温を抑制することができる。検出光によって組織BTに付与される単位時間当たりのエネルギーを増すことなく検出光の光強度を強くすることもでき、光検出部3の検出精度を高めることができる。
図19において、第1期間T1と第2期間T2と第3期間T3とが、照射部2が検出光を照射する照射期間であり、組織BTから放射された光を光検出部3が検出する検出期間である。投影部5は、照射期間と検出期間の少なくとも一部において、画像を投影しない。そのため、投影部5は、投影された画像がちらついて視認されるように、画像を表示することができる。そのため、ユーザは成分画像などを組織BTから識別しやすくなる。
なお、投影部5は、照射期間と検出期間の少なくとも一部において、画像を投影してもよい。例えば、画像処理システム1は、光検出部3が第1の検出期間に検出した結果を使って第1成分画像を生成し、第1の検出期間よりも後の第2の検出期間の少なくとも一部において第1成分画像を組織BT上に投影してもよい。例えば、投影部5が画像を投影している間に、照射部2が検出光を照射するとともに光検出部3が光を検出してもよい。画像生成部4は、投影部5が第1フレームの画像を表示している開に、第1フレームの後に投影する第2フレームの画像のデータを生成してもよい。画像生成部4は、第1フレームの画像が表示されている間に光検出部3が検出した結果を使って、第2フレームの画像のデータを生成してもよい。投影部5は、上記のような第1フレームの画像の次に第2フレームの画像を投影してもよい。
なお、当該変形例において、照射部2は、複数の光源のうち点灯する光源を択一的に切り替えて検出光を照射するが、複数の光源のうち2以上の光源を並行して点灯させて検出光を照射してもよい。例えば、照射部コントローラ150は、レーザー光源151a、レーザー光源151b、及びレーザー光源151cがいずれも点灯状態となるように、光源151を制御してもよい。この場合に、光検出部3は、図16のように組織BTから放射された光を、波長分離して波長ごとに検出してもよい。
(7)投影装置への展開
図1等で示される構成では、投影部5と制御装置6とは独立の処理部(構成)として示され、機能が説明されているが、例えば、投影部5と制御装置6の機能を一体で構成し、投影装置として提供しても良いし、例えば、投影部5と制御装置6の画像生成部4以外の機能を一体で構成し、投影装置として提供しても良い。
図1等で示される構成では、投影部5と制御装置6とは独立の処理部(構成)として示され、機能が説明されているが、例えば、投影部5と制御装置6の機能を一体で構成し、投影装置として提供しても良いし、例えば、投影部5と制御装置6の画像生成部4以外の機能を一体で構成し、投影装置として提供しても良い。
投影部5と制御装置6の画像生成部4以外の機能を一体で構成する場合、投影装置は、例えば、生物組織に可視光を照射する投影部と、表示装置(赤外光が照射される生物組織から放射される光を検出する光検出部による検出結果を用いて生成された生物組織の画像を表示する)31に対する入力に応答して、生物組織に対して入力の内容を反映するように投影部による投影動作を制御する制御部と、を備えることとなる。
投影部5と制御装置6の機能を一体で構成する場合、投影装置は、例えば、生物組織に可視光を照射し、生物組織に図形を投影する投影部と、赤外光が照射される生物組織から放射される光を検出する光検出部による検出結果を解析して生物組織の患部を特定し、当該患部の情報を解析結果として表示装置に送信し、表示装置に患部の情報と光検出部の検出結果に基づいて生成された画像とを重ねて表示させるようにするとともに、解析結果に基づいて投影部による生物組織の患部に対する図形の投影を制御する制御部と、を備えることになる。
(8)蛍光観察への応用
蛍光観察への適用例として、本実施形態における画像処理システム1は、インドシニアングリーン(ICG)などの生体適応蛍光剤を含む溶液を生体(例、組織BT)に注入し、この蛍光剤が特定の組織に集まる性質を利用して組織BTを観察することができる。図20は、当該機能及び構成の概要を説明するための図である。図20における画像処理システム1の構成は図1と同様であるため、構成の詳細な説明は省略する。
蛍光観察への適用例として、本実施形態における画像処理システム1は、インドシニアングリーン(ICG)などの生体適応蛍光剤を含む溶液を生体(例、組織BT)に注入し、この蛍光剤が特定の組織に集まる性質を利用して組織BTを観察することができる。図20は、当該機能及び構成の概要を説明するための図である。図20における画像処理システム1の構成は図1と同様であるため、構成の詳細な説明は省略する。
蛍光観察の場合、例えば、インドシニアングリーン(ICG)が組織BTに注入される。例えば、組織BTのうち特定の部位(例えば腫瘍)に注入されたICGが集まっている場合に、本実施形態における光源201から波長760nmの励起光を組織BTに照射すると、その特定の部位から波長830nmの蛍光が生じる。例えば、図20の光源201は波長760nmの光を射出するLED光源であり、光源201は制御部4によって制御される。また、例えば、光検出部3は組織BTから放射される蛍光の波長830nmに検出感度を有するように構成される。例えば、制御部4の制御によって光源201を発光させている状態で光検出部3が組織BTを撮像することによって、画像処理システム1は組織BTのうちICGが多く集まっている特定の部位(箇所)202において照度が高い画像データを得ることができる。画像処理システム1は、この得られた照度が高い画像データを所定の閾値で階調化(例、2値化)して生成した画像(階調化画像)を組織BTに投影させることによって、ICGの照合状態(又は集合状態)をユーザに肉眼で観察させることができる。
また、蛍光観察モードにおいて、例えば、上述の機能2や機能3を実行するようにしても良い。例えば、機能2を実行する場合、図20で示される画像処理システム1では、表示装置31の画面上に組織BTの撮影画像が表示された状態で、ユーザ(例えば、手術者)が入力装置を用いて、例えば特定部位202にマーキング(任意の図形)を入力(描画)すると、制御装置6は投影部5を制御し、入力されたマーキングと同じ図形をマーキングが入力された位置と同一の組織BT(特定部位)上の位置に可視光で投影する。このように表示画面上で入力された図形と同一の図形を組織BT上の同じ位置に投影することにより、蛍光観察においてもユーザは画面上で確認した箇所に対応する組織BT(例えば特定部位)上の箇所を適切、かつ容易に処置(手術や検査等)することが可能となる。
(9)マルチモダリティーへの応用
マルチモダリティーへの適用例として、本実施形態における画像処理システム1は、上記した入力された図形などを組織BTに投影する機能の他に、MRIや超音波画像診断機器などの他の画像診断装置から入力される情報(例、画像)を組織BTに投影する機能を備えても良い。図21は、当該機能および構成の概要を説明するための図である。図21における画像処理システム1の構成は図1と同様であるため、構成の詳細な説明は省略する。
マルチモダリティーへの適用例として、本実施形態における画像処理システム1は、上記した入力された図形などを組織BTに投影する機能の他に、MRIや超音波画像診断機器などの他の画像診断装置から入力される情報(例、画像)を組織BTに投影する機能を備えても良い。図21は、当該機能および構成の概要を説明するための図である。図21における画像処理システム1の構成は図1と同様であるため、構成の詳細な説明は省略する。
記憶装置211は、他(外部)の画像診断機器(例、MRIや超音波画像診断機器)によって予め取得(採取)された組織BTの情報(例、組織BTの画像212)を格納した記憶部である。例えば、この画像212は、制御装置によって読み出され、表示装置31に表示されるとともに、投影部を介して組織BTに投影される。また、例えば、このとき、画像212の色、位置や大きさ等は、入力装置32によって操作者が任意に設定可能である。このような構成によって、操作者は、組織BTと画像212とを直接目視できるので、他の画像診断機器で強調された画像をもとに所定の処置を行うことができる。また、例えば、画像処理システム1は、撮像装置3で撮影された近赤外画像と画像212とを重ねて表示装置に表示してもよいし、撮像装置3で撮影された近赤外画像と画像212とを重ねて組織BTに投影しても良い。例えば、記憶装置211はインターネットなどで接続されたクラウドであっても良い。
<他の一実施形態>
(i)画像処理システム1は、一般的な手術のように組織BTを傷つける処理の他に、組織BTを傷つけない各種処理など、医療用途や検査用途、調査用途等に対して適用することができる。例えば、画像処理システム1は、採血、病理解剖、病理診断(術中迅速診断を含む)、生体検査(生検)などの臨床検査、バイオマーカ探索用の採材支援などにも利用できる。また、例えば、組織BTは、人間の組織(例、身体組織など)であってもよいし、人間以外の生物の組織であってもよい。例えば、組織BTは、生物から切り取った状態の組織であってもよいし、生物に付随した状態の組織であってもよい。また、例えば、組織BTは、生存している生物の組織(例、生体組織など)であってもよいし、死亡後の生物(死体)の組織であってもよい。組織BTは、生物から摘出した物体であってもよい。例えば、組織BTは、生物のいずれの器官を含んでいてもよく、皮膚を含んでいてもよいし、皮膚よりも内側の内臓などを含んでいてもよい。そこで、組織BTを生物組織と称することができる。
(i)画像処理システム1は、一般的な手術のように組織BTを傷つける処理の他に、組織BTを傷つけない各種処理など、医療用途や検査用途、調査用途等に対して適用することができる。例えば、画像処理システム1は、採血、病理解剖、病理診断(術中迅速診断を含む)、生体検査(生検)などの臨床検査、バイオマーカ探索用の採材支援などにも利用できる。また、例えば、組織BTは、人間の組織(例、身体組織など)であってもよいし、人間以外の生物の組織であってもよい。例えば、組織BTは、生物から切り取った状態の組織であってもよいし、生物に付随した状態の組織であってもよい。また、例えば、組織BTは、生存している生物の組織(例、生体組織など)であってもよいし、死亡後の生物(死体)の組織であってもよい。組織BTは、生物から摘出した物体であってもよい。例えば、組織BTは、生物のいずれの器官を含んでいてもよく、皮膚を含んでいてもよいし、皮膚よりも内側の内臓などを含んでいてもよい。そこで、組織BTを生物組織と称することができる。
(ii)本実施形態による画像処理システム1は、図1に示されるように全ての構成が同一箇所に配置されるようにしても良いが、少なくとも照射部(照射装置)2、光検出部(赤外光カメラ等の光検出装置)3、及び投影部(投影装置)5が組織BTを処理する場所(一例として、手術室や検査室等)に設置されていれば良く、制御装置6、表示装置31、及び入力装置32は遠隔的に設置されていても良い。この場合、制御装置6は光検出部3や投影部5とはネットワークを介して接続されるようにすればよい。表示装置31や入力装置32がネットワークを介してさらに別の場所に設置されていても良い。
(iii)本実施形態による画像処理システムでは、生物組織(組織BT)の画像(撮影画像)を表示装置の画面上に表示している状態で、当該画像に対して入力があった場合に、当該入力の内容を反映して投影部(投影装置)による投影動作を制御するようにしている。生物組織上における入力内容の反映位置は、表示画像上の入力位置に対応する。ここで入力とは、表示装置の画面上で描画される図形、入力される文字や記号、表示されている図形等の選択等を含むものである。このようにすることにより、画面に表示されている画像に対するアクションをそのまま実際の生物組織に反映することができる。よって、操作者は、医療行為や検査行為等の対象箇所を適切、かつ容易に確認・特定することができ、各種処理をスムーズに進行することが可能となる。本実施形態によれば、医療行為や検査行為等を十分かつ適切に支援することが可能となる。
当該画像処理システムでは、撮影光学系と投影光学系とを同軸の光学系で構成している。よって、表示装置の画面と組織BTの位置合わせが不要となり、画像処理における負荷を軽減することが可能となる。
当該画像処理システムでは、光検出部(一例として赤外光センサー)による検出結果を解析し、当該解析の結果(成分画像)を撮影画像と共に表示装置の画面上に表示しても良い。このようにすることにより、生物組織(組織BT)上でだけでなく、画面上でも患部として特定された箇所(成分画像)を確認することができる。
当該画像処理システムでは、解析によって複数の患部候補(複数個所の成分画像)を特定し、当該複数の患部候補の情報を表示装置の画面上に表示する。そして、画像処理システムは、複数の患部候補の情報のうち少なくとも1つの選択入力に応答して、選択入力を投影装置(投影部)による投影に反映させる。このように、画像処理システム1は、成分分析の結果、患部の可能性のある箇所を画面上に表示することにより、処置する患部箇所として疑義のある特定部位を提示することができ、かつその中から患部であると確信を持てる箇所を容易に特定し、医療行為や検査行為等を適切に実施することができるようになる。
当該画像処理システムでは、撮影動作(光検出部(一例として赤外光センサー)による検出動作)と投影装置による入力の内容の投影動作を時分割で実行するようにしても良い。これにより、リアルタイムで撮影動作と投影動作を同時に行う場合に、生物組織(組織BT)上に投影された画像が撮影動作に悪影響を与えることを回避することができるようになる。
当該画像処理システムでは、投影部(投影装置)からの可視光の波長を所定時間間隔単位で切り替えながら生物組織(組織BT)に照射してもよいし、当該可視光を点滅させながら生物組織に照射するようにしても良い。このように投影画像を強調表示することにより、生物組織に投影された画像を見易くすることができる。
当該画像処理システムでは、操作者(手術者や検査者等)にシャッタ眼鏡(一例として液晶シャッタ眼鏡)を装着させ、当該眼鏡の左眼シャッタと右眼シャッタを交互に所定時間間隔毎に開閉させるようにする。生物組織(組織BT)を照らすLED光源の点灯と投影部(投影装置)からの可視光の照射が交互になるようにLED光源及び投影装置をそれぞれ制御する。そして、左眼シャッタ及び右眼シャッタの何れか一方の開閉のタイミング(例えば、左眼シャッタ)とLED光源のON/OFFのタイミングを一致させる。一方、LED光源のON/OFFのタイミングを一致させたシャッタ以外のシャッタ(例えば、右眼シャッタ)の開閉のタイミングと可視光の照射のON/OFFのタイミングを一致させる。このように投影画像を強調表示することにより、非常に明るく生物組織が照らされて通常であれば生物組織上に投影された可視光が見えづらい状況であっても、操作者は生物組織上に投影された画像を問題なく見ることができるようになる。なお、当該画像処理システムにおいて、三次元画像を検出するイメージセンサー、及び三次元画像を表示する表示装置を用いても良い。これにより、表示画面上で患部箇所を三次元で確認することができるので、より的確に患部箇所の位置を確認することができる。
(iv)当該画像処理システムでは、光検出部(一例として赤外光センサー)による検出結果を解析して生物組織の患部を特定し、解析結果としての患部の情報(例えば、患部を囲む輪郭線)を、生物組織(組織BT)全体の撮影画像に重ねて表示させるようにするとともに、生物組織(組織BT)上に患部の情報(患部を囲む輪郭線)を照射して投影する。このようにすることにより、当該画像処理システムは、単に成分画像を画面上に表示したり、生物組織上に投影するだけでは患部箇所を特定しづらい場合に、より確実に患部箇所が特定できるような情報を提供することができる。
(v)本発明は、実施形態の機能を実現するソフトウェアのプログラムコードによっても実現できる。この場合、プログラムコードを記録した記憶媒体をシステム或は装置に提供し、そのシステム或は装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出す。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコード自体、及びそれを記憶した記憶媒体は本発明を構成することになる。このようなプログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、CD−ROM、DVD−ROM、ハードディスク、光ディスク、光磁気ディスク、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどが用いられる。
また、プログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)などが実際の処理の一部又は全部を行い、その処理によって前述した実施の形態の機能が実現されるようにしてもよい。さらに、記憶媒体から読み出されたプログラムコードが、コンピュータ上のメモリに書きこまれた後、そのプログラムコードの指示に基づき、コンピュータのCPUなどが実際の処理の一部又は全部を行い、その処理によって前述した実施形態の機能が実現されるようにしてもよい。
さらに、実施形態の機能を実現するソフトウェアのプログラムコードを、ネットワークを介して配信することにより、それをシステム又は装置のハードディスクやメモリ等の記憶手段又はCD−RW、CD−R等の記憶媒体に格納し、使用時にそのシステム又は装置のコンピュータ(又はCPUやMPU)が当該記憶手段や当該記憶媒体に格納されたプログラムコードを読み出して実行するようにしても良い。
なお、本実施形態によれば、生物組織に赤外光を照射する赤外光照射装置と、赤外光が照射されている生物組織から放射される光を検出する光検出部と、光検出部による検出結果を用いて生物組織の画像を生成する制御装置と、生成された画像を表示する表示装置と、生物組織に第一光を照射する投影装置と、を備え、制御装置は、生物組織の画像を表示する表示装置に対する入力に応答して、生物組織に対して入力の内容を反映するように投影装置による第一光の照射を制御する、画像処理システムが提供される。
また、本実施形態によれば、生物組織に赤外光を照射する赤外光照射装置と、赤外光が照射されている生物組織から放射される光を検出する光検出部と、光検出部による検出結果を用いて生物組織の画像を生成する制御装置と、生成された画像を表示する表示装置と、生物組織に図形を投影する投影装置と、を備え、制御装置は、光検出部による検出結果を解析して生物組織の患部を特定し、当該患部の情報を解析結果として表示装置に送信し、表示装置に患部の情報と生成された画像とを重ねて表示させるようにするとともに、解析結果に基づいて投影装置による生物組織の患部に対する図形の投影を制御する、画像処理システムが提供される。
本実施形態によれば、赤外光が照射される生物組織から放射される光を検出する光検出部による検出結果を用いて生物組織の画像を生成し、当該生成された画像を表示するように表示装置に送信する制御部を備え、当該制御部は、生物組織の画像を表示する表示装置に対する入力に応答して、生物組織に対して入力の内容を反映するように生物組織に第一光を照射する投影部による照射を制御する、画像処理装置が提供される。
本実施形態によれば、赤外光が照射される生物組織から放射される光を検出する光検出部による検出結果を用いて生物組織の画像を生成し、当該生成された画像を表示するように表示装置に送信する制御部を備え、当該制御部は、光検出部による検出結果を解析して生物組織の患部を特定し、当該患部の情報を解析結果として表示装置に送信し、表示装置に患部の情報と生成された画像とを重ねて表示させるようにするとともに、解析結果に基づいて生物組織に光を照射する投影部による生物組織の患部に対する図形の投影を制御する、画像処理装置が提供される。
本実施形態によれば、生物組織に赤外光を照射することと、赤外光が照射されている生物組織から放射される光を検出することと、生物組織から放射される光の検出結果を用いて生物組織の画像を生成することと、生成された生物組織の画像を表示装置に表示することと、生物組織の画像を表示する表示装置に対する入力に応答して、生物組織に対して入力の内容を反映するように投影装置による第一光の照射を制御することと、を含む、投影方法が提供される。
本実施形態によれば、生物組織に赤外光を照射することと、赤外光が照射されている生物組織から放射される光を検出することと、生物組織から放射される光の検出結果を用いて生物組織の画像を生成することと、生成された生物組織の画像を表示装置に表示することと、検出結果を解析して生物組織の患部を特定し、当該患部の情報を解析結果として表示装置に送信し、表示装置に患部の情報と生成された画像を重ねて表示させるようにすることと、解析結果に基づいて投影装置による生物組織の患部に対する図形の投影を制御することと、を含む、投影方法が提供される。
本実施形態によれば、生物組織に第一光を照射する投影部と、赤外光が照射される生物組織から放射される光を検出する光検出部による検出結果を用いて生成された生物組織の画像を表示する表示装置に対する入力に応答して、生物組織に対して入力の内容を反映するように投影部による前記第一光の照射を制御する制御部と、を備える投影装置が提供される。
本実施形態によれば、生物組織に図形を投影する投影部と、赤外光が照射される生物組織から放射される光を検出する光検出部による検出結果を解析して生物組織の患部を特定し、当該患部の情報を解析結果として表示装置に送信し、表示装置に患部の情報と光検出部の検出結果に基づいて生成された画像とを重ねて表示させるようにするとともに、解析結果に基づいて投影部による生物組織の患部に対する図形の投影を制御する制御部と、を備える投影装置が提供される。
ここで述べたプロセス及び技術は本質的に如何なる特定の装置に関連することはなく、コンポーネントの如何なる相応しい組み合わせによってでも実装できる。更に、汎用目的の多様なタイプのデバイスがここで記述した方法に従って使用可能である。ここで述べた方法のステップを実行するのに、専用の装置を構築するのが有益である場合もある。また、実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
本技術分野の通常の知識を有する者には、本発明のその他の実装がここに開示された本発明の明細書及び実施形態の考察から明らかになる。記述された実施形態の多様な態様及び/又はコンポーネントは、単独又は如何なる組み合わせでも使用することが出来る。
1 画像処理システム
2 照射部
3 光検出部
4 画像生成部
5 投影部
6 制御装置
7 投影光学系
11 撮影光学系
15 算出部
16 データ生成部
22 走査部
31 表示装置
32 入力装置
2 照射部
3 光検出部
4 画像生成部
5 投影部
6 制御装置
7 投影光学系
11 撮影光学系
15 算出部
16 データ生成部
22 走査部
31 表示装置
32 入力装置
Claims (24)
- 生物組織に赤外光を照射する赤外光照射装置と、
前記赤外光が照射されている前記生物組織から放射される検出光を検出する光検出部と、
前記光検出部の検出結果を用いて生成された前記生物組織の画像を表示する表示装置と、
前記生物組織に第一光を照射する投影装置と、
前記生物組織の画像を表示する前記表示装置に対する入力に基づいて、前記生物組織に対して前記入力の内容を反映するように前記投影装置による前記第一光の照射を制御する制御装置と、
を備える画像処理システム。 - 請求項1において、
前記光検出部の光学系と前記投影装置の光学系とは、同軸の光学系をなしている、画像処理システム。 - 請求項1又は2において、
前記制御装置は、前記表示装置に表示された前記生物組織の画像上への入力に基づいて、前記画像における前記入力の入力位置に対応した前記生物組織の位置に前記入力の内容を照射するように前記投影装置を制御する、画像処理システム。 - 請求項1から3の何れか一項において、
前記制御装置は、前記光検出部による検出結果を解析し、当該解析の結果を前記表示装置に送信し、
前記表示装置は、前記画像と共に前記解析の結果を表示する、画像処理システム。 - 請求項1から4の何れか一項において、
前記制御装置は、前記光検出部による検出結果を解析することによって複数の患部候補を特定し、当該複数の患部候補の情報を前記表示装置に送信し、
前記表示装置は、前記画像と共に前記複数の患部候補の情報を表示し、
前記制御装置は、さらに、前記複数の患部候補の情報のうち少なくとも1つの選択入力に基づいて前記投影装置を制御し、前記選択入力を前記投影装置による前記入力の内容の照射に反映させる、画像処理システム。 - 請求項4又は5において、
前記制御装置は、前記光検出による検出結果を解析し、当該解析の結果として前記生物組織における水又は脂質を示すデータを前記表示装置に送信する、画像処理システム。 - 請求項1から6の何れか一項において、
前記制御装置は、前記光検出部による検出動作と前記投影装置による前記入力の内容の光照射動作とを時分割で実行する、画像処理システム。 - 請求項1から7の何れか一項において、
前記制御装置は、前記第一光の波長を所定時間間隔単位で切り替えながら前記生物組織に照射するように、或いは前記第一光を点滅させながら前記生物組織に照射するように、前記投影装置を制御する、画像処理システム。 - 請求項1から8の何れか一項において、
視界制限装置を備え、
前記生物組織は、LED光源によって照らされ、
前記視界制限装置は、当該視界制限装置の装着者の左眼の視界と右眼の視界とを交互に所定時間間隔毎に開閉制御し、
前記制御装置は、前記LED光源の点灯と前記第一光の照射とが交互になるように前記LED光源及び前記投影装置をそれぞれ制御し、
前記制御装置は、前記左眼の視界及び前記右眼の視界の何れか一方の開閉のタイミングと前記LED光源のON/OFFのタイミングとを一致させ、前記LED光源のON/OFFのタイミングを一致させた視界以外の視界の開閉のタイミングと前記第一光の照射のON/OFFのタイミングとを一致させる、画像処理システム。 - 請求項1から9の何れか一項において、
前記光検出部は、三次元画像を検出するイメージセンサーであり、
前記表示装置は、三次元画像を表示する装置である、画像処理システム。 - 生物組織に赤外光を照射する赤外光照射装置と、
前記赤外光が照射されている前記生物組織から放射される検出光を検出する光検出部と、
前記光検出の検出結果を用いて生成された前記生物組織の画像を表示する表示装置と、
前記生物組織に光を照射する投影装置と、
前記光検出部の検出結果を解析して前記生物組織の患部を特定し、前記患部の情報と前記生物組織の画像とを重ねて前記表示装置に表示させるとともに、前記投影装置による前記生物組織に対する前記患部の情報の照射を制御する制御装置と、
を備える画像処理システム。 - 請求項11において、
前記患部の情報は、前記検出結果を解析して得られる前記患部の位置情報を含む、画像処理システム。 - 請求項11又は12において、
前記光検出部の光学系と前記投影装置の光学系とは、同軸の光学系をなしている、画像処理システム。 - 請求項11から13の何れか一項において、
前記制御装置は、前記光検出部による検出動作と前記投影装置による光照射動作とを時分割で実行するように制御する、画像処理システム。 - 請求項11から14の何れか一項において、
前記投影装置は、第一光を用いて前記患部の情報を前記生物組織に照射し、
前記制御装置は、前記第一光の波長を所定時間間隔単位で切り替えながら前記生物組織に照射するように、或いは前記第一光を点滅させながら前記生物組織に照射するように、前記投影装置を制御する、画像処理システム。 - 請求項11から15の何れか一項において、
前記投影装置は、第一光を用いて前記患部の情報を前記生物組織に照射し、
視界制限装置を備え、
前記生物組織は、LED光源によって照らされ、
前記視界制限装置は、当該視界制限装置の装着者の左眼の視界と右眼の視界とを交互に所定時間間隔毎に開閉制御し、
前記制御装置は、前記LED光源の点灯と前記第一光の照射とが交互になるように前記LED光源及び前記投影装置をそれぞれ制御し、
前記制御装置は、前記左眼の視界及び前記右眼の視界の何れか一方の開閉のタイミングと前記LED光源のON/OFFのタイミングとを一致させ、前記LED光源のON/OFFのタイミングを一致させた視界以外の視界の開閉のタイミングと前記第一光の照射のON/OFFのタイミングとを一致させる、画像処理システム。 - 請求項11から16の何れか一項において、
前記表示装置は、三次元画像を表示する装置である、画像処理システム。 - 請求項11から17の何れか一項において、
前記制御装置は、前記光検出部の検出結果を解析して前記生物組織における複数の前記患部に関する情報と前記生物組織の画像とを重ねて前記表示装置に表示させる、画像処理システム。 - 赤外光が照射される生物組織から放射される検出光を検出する光検出部による検出結果を用いて前記生物組織の画像を生成し、当該生成された画像を表示するように表示装置に送信する制御部を備え、
前記制御部は、前記生物組織の画像を表示する前記表示装置に対する入力に基づいて、前記生物組織に対して前記入力の内容を反映するように前記生物組織に光を照射する投影部による照射を制御する、画像処理装置。 - 赤外光が照射される生物組織から放射される検出光を検出する光検出部による検出結果を用いて前記生物組織の画像を生成し、当該生成された画像を表示するように表示装置に送信する制御部を備え、
前記制御部は、前記光検出部の検出結果を解析して前記生物組織の患部を特定し、前記患部の情報と前記生物組織の画像とを重ねて前記表示装置に表示させるとともに、前記生物組織に光を照射する投影部による前記生物組織に対する前記患部の情報の照射を制御する、画像処理装置。 - 生物組織に赤外光を照射することと、
前記赤外光が照射されている前記生物組織から放射される検出光を検出することと、
前記検出光の検出結果を用いて前記生物組織の画像を生成することと、
前記生物組織の画像を表示装置に表示することと、
前記生物組織の画像を表示する前記表示装置に対する入力に基づいて、前記生物組織に対して前記入力の内容を反映するように投影装置による光の照射を制御することと、を含む、投影方法。 - 生物組織に赤外光を照射することと、
前記赤外光が照射されている前記生物組織から放射される検出光を検出することと、
前記検出光の検出結果を用いて前記生物組織の画像を生成することと、
前記生物組織の画像を表示装置に表示することと、
前記検出結果を解析して前記生物組織の患部を特定し、前記患部の情報と前記生物組織の画像とを重ねて前記表示装置に表示させることと、
前記生物組織に光を照射する投影装置による前記生物組織に対する前記患部の情報の照射を制御することと、
を含む、投影方法。 - 生物組織に第一光を照射する投影部と、
赤外光が照射される前記生物組織から放射される検出光を検出する光検出部による検出結果を用いて生成された前記生物組織の画像を表示する表示装置に対する入力に基づいて、前記生物組織に対して前記入力の内容を反映するように前記投影部による前記第一光の照射を制御する制御部と、
を備える投影装置。 - 生物組織に光を照射する投影部と、
赤外光が照射される前記生物組織から放射される検出光を検出する光検出部による検出結果を解析して前記生物組織の患部を特定し、前記患部の情報と前記生物組織の画像とを重ねて表示装置に表示させるとともに、前記投影部による前記生物組織に対する前記患部の情報の照射を制御する制御部と、
を備える投影装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015179516 | 2015-09-11 | ||
JP2015179516 | 2015-09-11 | ||
PCT/JP2016/076329 WO2017043539A1 (ja) | 2015-09-11 | 2016-09-07 | 画像処理システム、画像処理装置、投影装置、及び投影方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2017043539A1 JPWO2017043539A1 (ja) | 2018-08-30 |
JP6745508B2 true JP6745508B2 (ja) | 2020-08-26 |
Family
ID=58239942
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017539197A Expired - Fee Related JP6745508B2 (ja) | 2015-09-11 | 2016-09-07 | 画像処理システム、画像処理装置、投影装置、及び投影方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20180288404A1 (ja) |
JP (1) | JP6745508B2 (ja) |
WO (1) | WO2017043539A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6734386B2 (ja) * | 2016-09-28 | 2020-08-05 | パナソニック株式会社 | 表示システム |
JPWO2018216658A1 (ja) * | 2017-05-23 | 2020-03-26 | 国立研究開発法人産業技術総合研究所 | 撮像装置、撮像システム、及び撮像方法 |
JP6921987B2 (ja) * | 2017-11-27 | 2021-08-18 | パナソニック株式会社 | 投影装置 |
CN108542497A (zh) * | 2018-03-06 | 2018-09-18 | 南京生命源医药实业有限公司 | 手术导航设备 |
JP2019184707A (ja) * | 2018-04-04 | 2019-10-24 | パナソニック株式会社 | 画像投影装置 |
US11553863B2 (en) * | 2019-08-01 | 2023-01-17 | Industrial Technology Research Institute | Venous positioning projector |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8706184B2 (en) * | 2009-10-07 | 2014-04-22 | Intuitive Surgical Operations, Inc. | Methods and apparatus for displaying enhanced imaging data on a clinical image |
JP5720108B2 (ja) * | 2010-04-02 | 2015-05-20 | セイコーエプソン株式会社 | 血管表示装置 |
US9107567B2 (en) * | 2012-12-27 | 2015-08-18 | Christie Digital Systems Usa, Inc. | Spectral imaging with a color wheel |
WO2015001806A1 (ja) * | 2013-07-05 | 2015-01-08 | パナソニック株式会社 | 投影システム |
US10194860B2 (en) * | 2013-09-11 | 2019-02-05 | Industrial Technology Research Institute | Virtual image display system |
EP3952298A1 (en) * | 2013-11-14 | 2022-02-09 | Panasonic Intellectual Property Management Co., Ltd. | Projection system |
-
2016
- 2016-09-07 JP JP2017539197A patent/JP6745508B2/ja not_active Expired - Fee Related
- 2016-09-07 WO PCT/JP2016/076329 patent/WO2017043539A1/ja active Application Filing
-
2018
- 2018-03-09 US US15/917,004 patent/US20180288404A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
WO2017043539A1 (ja) | 2017-03-16 |
US20180288404A1 (en) | 2018-10-04 |
JPWO2017043539A1 (ja) | 2018-08-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11439307B2 (en) | Method for detecting fluorescence and ablating cancer cells of a target surgical area | |
JP6745508B2 (ja) | 画像処理システム、画像処理装置、投影装置、及び投影方法 | |
JP6468287B2 (ja) | 走査型投影装置、投影方法、走査装置、及び手術支援システム | |
US11751971B2 (en) | Imaging and display system for guiding medical interventions | |
CA2789051C (en) | Method and device for multi-spectral photonic imaging | |
JP4864515B2 (ja) | 眼底観察装置 | |
US20160086380A1 (en) | Hyperspectral imager | |
US20110261175A1 (en) | Multiple channel imaging system and method for fluorescence guided surgery | |
US20160091707A1 (en) | Microscope system for surgery | |
US20210145248A1 (en) | Endoscope apparatus, operating method of endoscope apparatus, and information storage medium | |
WO2019146582A1 (ja) | 撮像装置、撮像システム、及び撮像方法 | |
US9686484B2 (en) | Apparatus for acquiring and projecting broadband image capable of implementing visible light optical image and invisible light fluorescence image together | |
CN208524828U (zh) | 一种成像光谱内窥镜*** | |
CN111568549A (zh) | 一种具有实时成像功能的可视化*** | |
CN113557462B (zh) | 医疗控制装置和医疗观察装置 | |
US11159749B2 (en) | Infrared imaging system having structural data enhancement | |
JP7029324B2 (ja) | 光源制御装置、眼科装置、及び光源制御方法 | |
EP4312711A1 (en) | An image capture device, an endoscope system, an image capture method and a computer program product | |
EP4185180A1 (en) | Scene adaptive endoscopic hyperspectral imaging system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190716 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200707 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200727 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6745508 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |