JP6965338B2 - 医療用観察装置、制御装置、及び観察視野補正方法 - Google Patents

医療用観察装置、制御装置、及び観察視野補正方法 Download PDF

Info

Publication number
JP6965338B2
JP6965338B2 JP2019508595A JP2019508595A JP6965338B2 JP 6965338 B2 JP6965338 B2 JP 6965338B2 JP 2019508595 A JP2019508595 A JP 2019508595A JP 2019508595 A JP2019508595 A JP 2019508595A JP 6965338 B2 JP6965338 B2 JP 6965338B2
Authority
JP
Japan
Prior art keywords
observation field
observation
unit
view
treatment tool
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019508595A
Other languages
English (en)
Other versions
JPWO2018179681A1 (ja
Inventor
嗣典 田口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Olympus Medical Solutions Inc
Original Assignee
Sony Olympus Medical Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Olympus Medical Solutions Inc filed Critical Sony Olympus Medical Solutions Inc
Publication of JPWO2018179681A1 publication Critical patent/JPWO2018179681A1/ja
Application granted granted Critical
Publication of JP6965338B2 publication Critical patent/JP6965338B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • A61B90/25Supports therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00011Operational features of endoscopes characterised by signal transmission
    • A61B1/00016Operational features of endoscopes characterised by signal transmission using wireless means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00011Operational features of endoscopes characterised by signal transmission
    • A61B1/00018Operational features of endoscopes characterised by signal transmission using electrical cables
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00025Operational features of endoscopes characterised by power management
    • A61B1/00036Means for power saving, e.g. sleeping mode
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00163Optical arrangements
    • A61B1/00188Optical arrangements with focusing or zooming features
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • A61B1/051Details of CCD assembly
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B17/02Surgical instruments, devices or methods, e.g. tourniquets for holding wounds open; Tractors
    • A61B17/0218Surgical instruments, devices or methods, e.g. tourniquets for holding wounds open; Tractors for minimally invasive surgery
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B17/28Surgical forceps
    • A61B17/29Forceps for use in minimally invasive surgery
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/20Surgical microscopes characterised by non-optical aspects
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B17/00Surgical instruments, devices or methods, e.g. tourniquets
    • A61B2017/00367Details of actuation of instruments, e.g. relations between pushing buttons, or the like, and activation of the tool, working tip, or the like
    • A61B2017/00398Details of actuation of instruments, e.g. relations between pushing buttons, or the like, and activation of the tool, working tip, or the like using powered actuators, e.g. stepper motors, solenoids
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2065Tracking using image or pattern recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/371Surgical systems with images on a monitor during operation with simultaneous use of two cameras
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B90/37Surgical systems with images on a monitor during operation
    • A61B2090/372Details of monitor hardware
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • A61B2090/508Supports for surgical instruments, e.g. articulated arms with releasable brake mechanisms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Veterinary Medicine (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Ophthalmology & Optometry (AREA)
  • Microscoopes, Condenser (AREA)

Description

本開示は、医療用観察装置及び観察視野補正方法に関する。
例えば脳神経外科等の微細な領域が対象となる外科手術(いわゆるマイクロサージェリー)において、患部を拡大観察するための観察装置が用いられている。観察装置は、アーム部(支持部)によって顕微鏡部が支持されて構成される。
観察装置としては、光学式の顕微鏡部を備える観察装置(以下、光学式の観察装置ともいう)が主流である。光学式の観察装置を用いた手術では、術者は、顕微鏡部に設けられる接眼部から当該顕微鏡部を直接覗き込んで患部を拡大観察しながら、処置具によって当該患部に対して各種の処置を行う。
一方、近年、画像処理技術が進歩したことや、映像の高解像度化が実現したことにより、撮像素子を有し、患部を電子的に撮影することが可能な電子撮像式の顕微鏡部を備える観察装置(以下、電子撮像式の観察装置ともいう)が開発されている(例えば、特許文献1)。電子撮像式の観察装置を用いた手術では、顕微鏡部によって撮影された映像が適宜拡大されて表示装置に表示される。術者は、その表示された映像(表示映像)によって患部及び処置具の状態を確認しながら、当該処置具によって当該患部に対して各種の処置を行う。
なお、本明細書では、観察装置の顕微鏡部を介して術者によって得られる視野のことを、観察視野と呼称する。光学式の観察装置であれば、観察視野は、光学式の顕微鏡部を覗き込むことによって術者が観察できている範囲に対応する。電子撮像式の観察装置であれば、観察視野は、表示映像の範囲(表示装置に映し出されている映像の範囲)に対応する。
国際公開第2015/046081号 特開平9−28663号公報
観察装置を用いた手術では、様々な方向から患部を観察するため、又は拡大倍率を変更して患部を観察するために、手術中に顕微鏡部に対する操作が頻繁に行われ得る。この際、観察装置では、患部が拡大して観察されているから、顕微鏡部に対する僅かな操作によっても観察視野が大きく移動してしまい、患部が観察視野の中心近傍から外れてしまう恐れがある。患部が観察視野の中心近傍から大きく外れてしまうと、当該患部が当該観察視野の中心近傍に位置するように顕微鏡部の位置及び姿勢を微調整する作業が生じることとなる。当該作業によって手術が中断されることは、円滑な手術の進行の妨げになるとともに、術者にとって精神的な負担となっていた。
ここで、内視鏡下手術を支援するための技術として、特許文献2には、内視鏡によって撮影された映像に基づいて処置具の位置情報を取得する位置検出手段と、当該位置情報に基づいて、処置具の先端部分が表示映像の略中心に位置するように、当該内視鏡の撮像光学系を駆動させてその撮影範囲を変更する制御手段と、を備える内視鏡装置が開示されている。当該内視鏡装置によれば、内視鏡の撮影範囲に処置具の先端部分が常に含まれるように、自動的に当該撮影範囲が変更され得る。従って、所望の映像が得られるように人手で内視鏡を操作する必要がないため、円滑に手術を進行することが可能になる。当該特許文献2に記載の技術を観察装置に適用することにより、上述した顕微鏡部の観察視野の移動に伴う不具合を解消することができる可能性がある。
しかしながら、特許文献2に記載の技術は、内視鏡装置に関するものである。従って、当該技術をそのまま観察装置に適用したとしても、同様の効果が得られるとは限らない。
そこで、本開示では、手術をより円滑に進行することが可能な、新規かつ改良された医療用観察装置及び観察視野補正方法を提案する。
本開示によれば、観察対象を撮影した撮影映像についてのデータである撮影映像データを取得する撮像部と、前記撮像部を支持する支持部と、前記撮像部の動作に関する所定の操作であるトリガ操作を検出するトリガ操作検出部と、前記撮影映像データに基づいて、前記撮影映像に含まれる処置具の形態を認識する処置具認識部と、前記トリガ操作検出部によって前記トリガ操作が検出された場合に、前記処置具認識部によって認識された前記処置具の形態に基づいて、前記撮影映像データに基づいて表示装置に表示される表示映像の範囲である観察視野を補正する観察視野補正部と、を備える、医療用観察装置が提供される。
また、本開示によれば、支持部によって支持された撮像部の動作に関する所定の操作であるトリガ操作を検出することと、前記撮像部によって取得された観察対象を撮影した撮影映像についてのデータである撮影映像データに基づいて、前記撮影映像に含まれる処置具の形態を認識することと、前記トリガ操作が検出された場合に、認識された前記処置具の形態に基づいて、前記撮影映像データに基づいて表示装置に表示される表示映像の範囲である観察視野を補正することと、を含む、観察視野補正方法が提供される。
本開示によれば、撮像部の動作に関する所定の操作であるトリガ操作が検出された場合に(すなわち、撮像部の動作に関する所定の操作が行われた場合に)、認識された処置具の形態に基づいて、観察視野が補正される。従って、当該所定の操作が行われ、撮像部が動作した場合に、ユーザが追加的な作業を行わなくても、手術を続行するために適切な観察視野を得ることができる。よって、手術のより円滑な進行が実現され得る。
以上説明したように本開示によれば、手術をより円滑に進行することが可能になる。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、又は上記の効果に代えて、本明細書に示されたいずれかの効果、又は本明細書から把握され得る他の効果が奏されてもよい。
第1の実施形態に係る観察システム及び観察装置の一構成例を概略的に示す図である。 図1に示す観察システムを用いた手術の様子を示す図である。 脳外科手術における脳と顕微鏡部との位置関係の一例を概略的に示す図である。 第1の実施形態に係る制御装置の機能構成の一例を示すブロック図である。 第1の実施形態に係る観察視野補正機能が搭載されない、一般的な既存の観察装置における観察視野の変更時の動作について説明するための図である。 第1の実施形態に係る観察視野補正機能が搭載されない、一般的な既存の観察装置における観察視野の変更時の動作について説明するための図である。 第1の実施形態に係る観察装置における観察視野の変更時の動作について説明するための図である。 第1の実施形態に係る観察装置における観察視野の変更時の動作について説明するための図である。 第1の実施形態に係る観察視野補正方法の処理手順の一例を示すフロー図である。 第2の実施形態に係る制御装置の機能構成の一例を示すブロック図である。 第2の実施形態に係る観察視野補正方法の処理手順の一例を示すフロー図である。
以下に添付図面を参照しながら、本開示の好適な実施形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.第1の実施形態
1−1.観察システム及び観察装置の構成
1−2.制御装置の機能構成
1−3.観察視野補正方法
2.第2の実施形態
2−1.制御装置の機能構成
2−2.観察視野補正方法
3.変形例
3−1.処置具の認識処理、及び観察視野中心目標の決定処理の他の方法
3−2.観察装置の他の構成例
4.補足
なお、以下の説明では、後述する観察システム及び観察装置を用いるユーザのことを、便宜的に術者と記載することとする。ただし、この記載は、観察システム及び観察装置を用いるユーザを限定するものではなく、当該観察システム及び当該観察装置を用いる主体は、助手や看護師等、他の医療スタッフであってもよい。
(1.第1の実施形態)
(1−1.観察システム及び観察装置の構成)
図1を参照して、本開示の第1の実施形態に係る観察システム及び観察装置の構成について説明する。図1は、第1の実施形態に係る観察システム及び観察装置の一構成例を概略的に示す図である。
図1を参照すると、第1の実施形態に係る観察システム1は、患者の患部を拡大観察するための電子撮像式の観察装置10と、観察装置10によって撮影された映像を表示する表示装置20と、から構成される。観察システム1は、手術又は検査等の医療行為を行う際に、患者の身体の一部である観察対象部位(手術対象部位又は検査対象部位)を観察するための医療用観察システムである。手術時又は検査時には、術者は、観察装置10によって撮影され表示装置20に表示された映像を介して、観察対象部位を観察し、必要に応じて当該観察対象部位に対して各種の処置を行う。以下では、一例として、観察システム1を用いて手術を行う場合について説明することとし、その観察対象部位(手術対象部位)のことを患部とも呼称することとする。
(表示装置)
表示装置20は、後述する観察装置10の制御装置150からの制御により、観察装置10によって撮影された映像を表示する。表示装置20は、例えば手術室の壁面等、手術室内において術者によって視認され得る場所に設置される。表示装置20の種類は特に限定されず、表示装置20としては、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、EL(Electro−Luminescence)ディスプレイ装置等、各種の公知の表示装置が用いられてよい。また、表示装置20は、必ずしも手術室内に設置されなくてもよく、ヘッドマウントディスプレイ(HMD:Head Mounted Display)や眼鏡型のウェアラブルデバイスのように、術者が身に付けて使用するデバイスに搭載されてもよい。
なお、後述するように、例えば観察装置10の顕微鏡部110の撮像部がステレオカメラとして構成される場合、又は高解像度の撮影が可能に構成される場合には、それに対応して、3D表示可能な、又は高解像度での表示が可能な表示装置20が用いられ得る。
(観察装置)
観察装置10は、患者の患部を拡大観察するための顕微鏡部110と、顕微鏡部110を支持するアーム部120(支持部120)と、支持部120の基端が接続され顕微鏡部110及び支持部120を支持するベース部5315と、観察システム1及び観察装置10の動作を制御する制御装置150と、を備える。
なお、以下の説明では、観察装置10が設置される床面に対して鉛直な方向をZ軸方向と定義する。Z軸方向のことを上下方向とも呼称する。また、Z軸方向と直交する方向であって、ベース部5315から支持部120が延伸する方向を、X軸方向と定義する。X軸方向のことを前後方向とも呼称する。また、X軸方向及びZ軸方向とともに直交する方向を、Y軸方向と定義する。Y軸方向のことを左右方向とも呼称する。また、X−Y平面と平行な面のことを水平面とも呼称し、当該水平面と平行な方向のこと水平方向とも呼称する。
(ベース部)
ベース部5315は、顕微鏡部110及び支持部120を支持する。ベース部5315は板状の形状を有する架台と、当該架台の下面に設けられる複数のキャスターと、を有する。当該架台の上面に支持部120の一端が接続され、当該架台から延伸される支持部120の他端(先端)に顕微鏡部110が接続される。また、観察装置10は、キャスターを介して床面と接地し、当該キャスターによって床面上を移動可能に構成されている。
(顕微鏡部)
顕微鏡部110は、電子撮像式の顕微鏡部である。図示する例では、顕微鏡部110の光軸方向は、Z軸方向と略一致している。顕微鏡部110は、略円筒形状を有する筐体である筒状部5305と、筒状部5305内に設けられる撮像部(図示せず)と、から構成される。
筒状部5305の下端の開口面から、観察対象からの光(観察光)が撮像部に入射する。撮像部は、撮像素子と、当該撮像素子に観察光を集光する光学系と、から構成されており、撮像部に入射した観察光は、当該光学系を介して撮像素子の受光面に集光される。観察光が当該撮像素子によって光電変換されることにより、観察対象の映像に係るデータ(映像データ)が取得される。撮像部によって取得された映像データは、制御装置150に送信される。
なお、撮像部は、その光学系のズームレンズ及びフォーカスレンズを光軸に沿って移動させる駆動機構を有してもよい。当該駆動機構によってズームレンズ及びフォーカスレンズが適宜移動されることにより、撮像画像の拡大倍率及び撮像時のピントがそれぞれ調整され得る。また、撮像部には、AE(Auto Exposure)機能やAF(Auto Focus)機能等、一般的に電子撮像式の顕微鏡部に備えられ得る各種の機能が搭載されてもよい。
また、撮像部は、1つの撮像素子を有するいわゆる単板式の撮像部として構成されてもよいし、複数の撮像素子を有するいわゆる多板式の撮像部として構成されてもよい。撮像部が多板式で構成される場合には、当該撮像部は、例えば、立体視(3D表示)に対応する右目用及び左目用の画像信号をそれぞれ取得するための1対の撮像素子を有するように構成されてもよい。3D表示が行われることにより、術者は患部における生体組織の奥行きをより正確に把握することが可能になる。なお、当該撮像部が多板式で構成される場合には、各撮像素子に対応して、光学系も複数系統が設けられ得る。なお、撮像部に搭載される撮像素子は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ又はCCD(Charge Coupled Device)イメージセンサ等、各種の公知の撮像素子であってよい。
顕微鏡部110において、筒状部5305の外壁には、顕微鏡部110の動作を制御するための操作部5307が設けられる。操作部5307は、例えば十字レバー又はスイッチ等によって構成される。
例えば、操作部5307には、ズームスイッチ(ズームSW)及びフォーカススイッチ(フォーカスSW)が設けられ得る。術者は、当該ズームSW及び当該フォーカスSWを介して、顕微鏡部110の拡大倍率及びピントをそれぞれ調整する旨の指示を入力することができる。上記撮像部には、当該ズームSW及び当該フォーカスSWを介した指示入力に従って撮像部の駆動機構がズームレンズ及びフォーカスレンズを適宜移動させることにより、拡大倍率及びピントが調整され得る。なお、以下では、術者が顕微鏡部110における拡大倍率(すなわち、撮像部における拡大倍率)を変更しようとする操作のことをズーム操作とも呼称する。ズーム操作は、上記ズームSWを介した、拡大倍率を指定する旨の操作であり得る。
また、例えば、操作部5307には、動作モード切り替えスイッチ(動作モード切り替えSW)が設けられ得る。術者は、当該動作モード切り替えSWを介して、支持部120の動作モードを、フリーモード及び固定モードのいずれかに切り替える旨の指示を入力することができる。ここで、固定モードは、支持部120の各回転軸における回転がブレーキにより規制されることにより、顕微鏡部110の位置及び姿勢が固定される動作モードである。フリーモードは、当該ブレーキが解除されることにより、支持部120の各回転軸が自由に回転可能な動作モードである。例えば、フリーモードでは、術者による直接的な操作によって顕微鏡部110の位置及び姿勢を調整可能である。ここで、直接的な操作とは、術者が手で顕微鏡部110を把持し、当該顕微鏡部110を直接移動させる操作のことを意味する。例えば、術者が操作部5307における動作モード切り替えSWを押下している間は支持部120の動作モードがフリーモードとなり、術者が当該動作モード切り替えSWから手を離している間は支持部120の動作モードが固定モードとなる。
なお、上記のように、術者が顕微鏡部110を移動させようとする場合には、直接的な操作、すなわち当該術者が筒状部5305を握るように把持した状態で当該顕微鏡部110を移動させる様態が想定される。従って、操作部5307(特に動作モード切り替えSW)は、術者が筒状部5305を移動させている間でも操作可能なように、術者が筒状部5305を握った状態で指によって容易に操作しやすい位置に設けられることが好ましい。
(支持部)
支持部120は、顕微鏡部110を3次元的に移動させるとともに、移動後の顕微鏡部110について、その位置及び姿勢を固定的に支持する。第1の実施形態では、支持部120は、6自由度を有するアームとして構成されている。ただし、第2の実施形態はかかる例に限定されず、支持部120は、用途に応じて顕微鏡部110を適宜移動し得るように構成されればよく、他の異なる数の自由度を有するように構成されてもよい。
支持部120には、6自由度に対応する6つの回転軸(第1軸O、第2軸O、第3軸O、第4軸O、第5軸O及び第6軸O)が設けられる。以下では、説明のため便宜的に、各回転軸を構成する部材をまとめて、回転軸部と呼称することとする。例えば、回転軸部は、軸受、当該軸受に回動可能に挿通されるシャフト、及び回転軸における回転を規制するブレーキ等によって構成され得る。
支持部120は、複数のリンク(第1アーム部5313a〜第6アーム部5313f)が、6つの回転軸に対応する複数の回転軸部(第1回転軸部5311a〜第6回転軸部5311f)によって互いに回動可能に連結されることによって構成される。
第1回転軸部5311aは、略円柱形状を有し、その先端(下端)で、顕微鏡部110の筒状部5305の上端を、当該筒状部5305の中心軸と平行な回転軸(第1軸O)まわりに回動可能に支持する。ここで、第1回転軸部5311aは、第1軸Oが顕微鏡部110の撮像部の光軸と一致するように構成され得る。かかる構成により、第1軸Oまわりに顕微鏡部110を回動させることにより、撮像画像を回転させるように視野を変更することが可能になる。
第1アーム部5313aは、先端で第1回転軸部5311aを固定的に支持する。具体的には、第1アーム部5313aは略L字形状を有する棒状の部材であり、その先端側の一辺が第1軸Oと直交する方向に延伸しつつ、当該一辺の端部が第1回転軸部5311aの外周の上端部に当接するように、第1回転軸部5311aに接続される。第1アーム部5313aの略L字形状の基端側の他辺の端部に第2回転軸部5311bが接続される。
第2回転軸部5311bは、略円柱形状を有し、その先端で、第1アーム部5313aの基端を、第1軸Oと直交する回転軸(第2軸O)まわりに回動可能に支持する。第2回転軸部5311bの基端には、第2アーム部5313bの先端が固定的に接続される。
第2アーム部5313bは、略L字形状を有する棒状の部材であり、その先端側の一辺が第2軸Oと直交する方向に延伸しつつ、当該一辺の端部が第2回転軸部5311bの基端に固定的に接続される。第2アーム部5313bの略L字形状の基端側の他辺には、第3回転軸部5311cが接続される。
第3回転軸部5311cは、略円柱形状を有し、その先端で、第2アーム部5313bの基端を、第1軸O及び第2軸Oと互いに直交する回転軸(第3軸O)まわりに回動可能に支持する。第3回転軸部5311cの基端には、第3アーム部5313cの先端が固定的に接続される。第2軸O及び第3軸Oまわりに顕微鏡部110を含む先端側の構成を回動させることにより、水平面内での顕微鏡部110の位置を変更するように、当該顕微鏡部110を移動させることができる。つまり、第2軸O及び第3軸Oまわりの回転を制御することにより、撮像画像の視野を平面内で移動させることが可能になる。
第3アーム部5313cは、その先端側が略円柱形状を有するように構成されており、当該円柱形状の先端に、第3回転軸部5311cの基端が、両者が略同一の中心軸を有するように、固定的に接続される。第3アーム部5313cの基端側は角柱形状を有し、その端部に第4回転軸部5311dが接続される。
第4回転軸部5311dは、略円柱形状を有し、その先端で、第3アーム部5313cの基端を、第3軸Oと直交する回転軸(第4軸O)まわりに回動可能に支持する。第4回転軸部5311dの基端には、第4アーム部5313dの先端が固定的に接続される。
第4アーム部5313dは、略直線状に延伸する棒状の部材であり、第4軸Oと直交するように延伸しつつ、その先端の端部が第4回転軸部5311dの略円柱形状の側面に当接するように、第4回転軸部5311dに固定的に接続される。第4アーム部5313dの基端には、第5回転軸部5311eが接続される。
第5回転軸部5311eは、略円柱形状を有し、その先端側で、第4アーム部5313dの基端を、第4軸Oと平行な回転軸(第5軸O)まわりに回動可能に支持する。第5回転軸部5311eの基端には、第5アーム部5313eの先端が固定的に接続される。第4軸O及び第5軸Oは、顕微鏡部110を上下方向に移動させ得る回転軸である。第4軸O及び第5軸Oまわりに顕微鏡部110を含む先端側の構成を回動させることにより、顕微鏡部110の高さ、すなわち顕微鏡部110と観察対象との距離を調整することができる。
第5アーム部5313eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材と、が組み合わされて構成される。第5アーム部5313eの第1の部材の鉛直方向に延伸する部位の上端近傍に、第5回転軸部5311eの基端が固定的に接続される。第5アーム部5313eの第2の部材の基端(下端)には、第6回転軸部5311fが接続される。
第6回転軸部5311fは、略円柱形状を有し、その先端側で、第5アーム部5313eの基端を、鉛直方向と平行な回転軸(第6軸O)まわりに回動可能に支持する。第6回転軸部5311fの基端には、第6アーム部5313fの先端が固定的に接続される。
第6アーム部5313fは鉛直方向に延伸する棒状の部材であり、その基端はベース部5315の上面に固定的に接続される。
第1回転軸部5311a〜第6回転軸部5311fの回転可能範囲は、顕微鏡部110が所望の動きを可能であるように適宜設定されている。これにより、以上説明した構成を有する支持部120においては、顕微鏡部110の動きに関して、並進3自由度及び回転3自由度の計6自由度の動きが実現され得る。このように、顕微鏡部110の動きに関して6自由度が実現されるように支持部120を構成することにより、支持部120の可動範囲内において顕微鏡部110の位置及び姿勢を自由に制御することが可能になる。従って、あらゆる角度から患部を観察することが可能となり、手術をより円滑に実行することができる。
支持部120の第1回転軸部5311a〜第6回転軸部5311fには、モータ等の駆動機構、及び各関節部における回転角度を検出するエンコーダ等が搭載されたアクチュエータがそれぞれ設けられ得る。そして、第1回転軸部5311a〜第6回転軸部5311fに設けられる各アクチュエータの駆動が制御装置150によって適宜制御されることにより、支持部120の姿勢、すなわち顕微鏡部110の位置及び姿勢が制御され得る。具体的には、制御装置150は、エンコーダによって検出された各回転軸部の回転角度についての情報に基づいて、支持部120の現在の姿勢、並びに顕微鏡部110の現在の位置及び姿勢を把握することができる。制御装置150は、把握したこれらの情報を用いて、術者からの操作入力に応じた顕微鏡部110の移動を実現するような各回転軸部に対する制御値(例えば、回転角度又は発生トルク等)を算出し、当該制御値に応じて各回転軸部の駆動機構を駆動させる。なお、この際、制御装置150による支持部120の制御方式は限定されず、力制御又は位置制御等、各種の公知の制御方式が適用されてよい。例えば、当該制御方式としては、本願出願人による先行出願である、上記特許文献1に記載の制御方式を用いることができる。
例えば、力制御が適用される場合には、術者による直接的な操作において、当該術者から受ける外力にならってスムーズに支持部120が移動するように第1回転軸部5311a〜第6回転軸部5311fのアクチュエータが駆動される、いわゆるパワーアシスト制御が行われてもよい。これにより、術者が直接的な操作において顕微鏡部110を把持して直接その位置を移動させようとする際に、比較的軽い力で顕微鏡部110を移動させることができる。従って、より直感的に、より簡易な操作で顕微鏡部110を移動させることが可能となり、術者の利便性を向上させることができる。
あるいは、位置制御が適用される場合には、術者が、図示しない入力装置を介して適宜操作入力を行うことにより、当該操作入力に応じて制御装置150によって第1回転軸部5311a〜第6回転軸部5311fのアクチュエータの駆動が適宜制御され、顕微鏡部110の位置及び姿勢が制御されてよい。なお、当該入力装置としては、術者の利便性を考慮して、例えばフットスイッチ等、術者が手に術具を有していても操作可能なものが適用されることが好ましい。また、ウェアラブルデバイスや手術室内に設けられるカメラを用いたジェスチャ検出や視線検出に基づいて、あるいは手術室内に設けられるマイクロフォンを用いた音声検出に基づいて、非接触で操作入力が行われてもよい。これにより、清潔域に属する術者であっても、不潔域に属する観察装置をより自由度高く操作することが可能になる。あるいは、支持部120は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、支持部120は、手術室から離れた場所に設置される入力装置を介して術者によって遠隔操作され得る。
なお、以下では、術者が顕微鏡部110(すなわち、撮像部)を移動させようとする操作のことを移動操作とも呼称する。移動操作は、直接的な操作も含み得るし、フットスイッチ等の入力装置を介した操作、又はジェスチャ等を介した非接触の操作も含み得る。
また、第1回転軸部5311a〜第6回転軸部5311fには、それぞれ、第1回転軸部5311a〜第6回転軸部5311fにおける回転を規制するブレーキが設けられる。これらのブレーキの駆動は、制御装置150によって制御される。例えば、顕微鏡部110の位置及び姿勢を固定したい場合には、制御装置150は各回転軸部のブレーキを作動させる。これにより、アクチュエータを駆動させなくても支持部120の姿勢、すなわち顕微鏡部110の位置及び姿勢が固定され得るため、消費電力を低減させることができる。顕微鏡部110の位置及び姿勢を変更した場合には、制御装置150は、各回転軸部のブレーキを解除し、所定の制御方式に従ってアクチュエータを駆動させればよい。
直接的な操作においては、このようなブレーキの動作は、上述したように、操作部5307の動作モード切り替えSWを介した術者による指示入力に応じて切り替えられ得る。動作モード切り替えSWを介した術者による指示入力に応じて、制御装置150からの制御によりこれらのブレーキが一斉に解除されることにより、支持部120の動作モードがフリーモードに移行する。また、同じく、動作モード切り替えSWを介した術者による指示入力に応じて、制御装置150からの制御によりこれらのブレーキが一斉に駆動させられることにより、支持部120の動作モードが固定モードに移行する。
なお、第1回転軸部5311a〜第6回転軸部5311fに設けられるブレーキとしては、一般的な観察装置に用いられる各種のブレーキが適用されてよく、その具体的な機構は限定されない。例えば、これらのブレーキは、機械的に駆動するものであってもよいし、電気的に駆動する電磁ブレーキであってもよい。
なお、図示する支持部120の構成はあくまで一例であり、支持部120を構成するリンクの数及び形状(長さ)、並びに回転軸部の数、配置位置及び回転軸の方向等は、所望の自由度が実現され得るように適宜設計されてよい。ただし、上述したように、顕微鏡部110を自由に動かすためには、支持部120は少なくとも6自由度を有するように構成されることが好ましい。また、支持部120としては、各種の公知の観察装置の支持部と同様の構成が適用されてよい。例えば、支持部120において、第2回転軸部5311b及び第3回転軸部5311cの代わりに、顕微鏡部110を水平面内においてX軸方向及びY軸方向に移動可能なX−Y装置が設けられてもよい。
(制御装置)
制御装置150は、観察装置10の動作を制御する。また、制御装置150は、表示装置20の動作も併せて制御する。つまり、制御装置150は、観察システム1の動作を統括的に制御し得る。
制御装置150は、例えばCPU(Central Processing Unit)やDSP(Digital Signal Processor)等のプロセッサ、又はこれらのプロセッサとメモリ等の記憶素子がともに搭載された制御基板等によって構成される。制御装置150を構成するプロセッサが所定のプログラムに従って演算処理を実行することにより、制御装置150における各機能が実現される。
制御装置150は、所定の制御方式に従って第1回転軸部5311a〜第6回転軸部5311fのアクチュエータを動作させることにより、支持部120の動作を制御する。また、制御装置150は、上述した操作部5307を介した術者の操作入力に応じて、支持部120の各回転軸部に設けられるブレーキの駆動を制御することにより、上述した支持部120の動作モードを切り替える。また、制御装置150は、上述した操作部5307を介した術者の操作入力に応じて、顕微鏡部110の撮像部の光学系を適宜駆動させ、顕微鏡部110の拡大倍率及びピントを調整する。
また、制御装置150は、顕微鏡部110の撮像部から送信される映像データに対して、例えばガンマ補正処理、ホワイトバランスの調整処理、電子ズーム機能に係る拡大処理、及び画素間補正処理等、各種の画像処理を行う。つまり、制御装置150は、CCU(Camera1 Control Unit)としての機能を有する。当該画像処理では、表示装置20に映像を表示するために一般的に行われる各種の画像処理が行われてよい。制御装置150は、各種の画像処理を施した映像データを表示装置20に送信し、顕微鏡部110によって撮影された映像を表示装置20に表示させる。なお、制御装置150と表示装置20との間の通信は、有線又は無線の各種の公知の方式によって実現されてよい。
なお、以下では、区別のため、顕微鏡部110の撮像部によって取得された映像データのことを撮影映像データとも呼称し、表示装置20によって表示される映像データ(すなわち、撮影映像データに対して各種の画像処理が施された後の映像データ)のことを表示映像データとも呼称することとする。
以上、図1を参照して、第1の実施形態に係る観察システム1及び観察装置10の構成について説明した。なお、第1の実施形態に係る観察装置10の構成は、以上説明したものに限定されない。第1の実施形態に係る観察装置10は、後述する観察視野補正処理が実行可能に構成されればよく、その他の構成は任意に変更されてよい。つまり、第1の実施形態に係る観察装置10は、後述する観察視野補正処理が実行されること以外は、各種の公知の観察装置と同様の構成を有してよい。
ここで、図2は、図1に示す観察システム1を用いた手術の様子を示す図である。図2では、術者5321が、観察システム1を用いて、患者ベッド5323上の患者5325に対して手術を行っている様子を概略的に示している。なお、図2では、簡単のため、制御装置150の図示を省略し、観察装置10を簡略化して示している。
図2に示すように、手術時には、観察システム1を用いて、観察装置10によって撮影された患部の画像が、手術室の壁面に設置される表示装置20に拡大表示される。表示装置20は、術者5321と対向する位置に設置されており、術者5321は、表示装置20に映し出された映像によって患部の様子を観察しながら、当該患部に対して各種の処置を行う。
ここで、観察システム1は、例えば脳外科手術のようなマイクロサージェリーにおいて、患部を拡大観察するために用いられる。脳外科手術では、例えば図3に示すように、脳211の深部に位置する患部212(例えば、腫瘍や動脈瘤等)を、脳211の外部に配置される顕微鏡部110によって観察する必要があるため、当該顕微鏡部110のズーム操作が頻繁に行われる。図3は、脳外科手術における脳211と顕微鏡部110との位置関係の一例を概略的に示す図である。図3では、顕微鏡部110を模擬的に図示するとともにその撮影方向を点線の矢印で示している。
患部212を拡大観察している状態においては、極狭い範囲が、観察視野として表示装置20に表示されていることとなる。従って、移動操作又はズーム操作に応じて、顕微鏡部110が移動したり、あるいは拡大倍率が更に大きくされたりした場合には、患部212が観察視野の中心近傍から外れてしまう事態が頻繁に生じ得る。この場合、更に移動操作を行って、患部212が観察視野の中心近傍に位置するように、顕微鏡部110の位置及び姿勢を微調整する必要が生じるが、直接的な操作によってこのような繊細な調整を行うことは難しい場合がある。一方、例えばフットスイッチ等の入力装置を介した移動操作により、アクチュエータによって顕微鏡部110を移動させれば、直接的な操作に比べれば、より容易に、顕微鏡部110の位置及び姿勢を微調整することができると考えられるが、術者自身、又は他の医療スタッフが、その移動操作を行う手間は発生する。
このように、観察システム1を用いた手術においては、移動操作又はズーム操作によって観察視野を変更した場合に、患部212が当該観察視野の中心近傍から外れてしまうと、当該患部212が当該観察視野に含まれるように更なる移動操作を行う作業が生じる可能性がある。かかる作業は、手術の円滑な進行の妨げとなる恐れがある。
そこで、第1の実施形態では、観察システム1において、移動操作又はズーム操作によって観察視野を変更した場合に、患部212が当該観察視野に含まれるように、自動的に当該観察視野を補正する処理が行われる。かかる観察視野補正処理が行われることにより、上記の更なる移動操作を行う作業が生じなくなるため、術者等の医療スタッフの負担が軽減し、手術をより円滑に進行することが可能になる。
以下、かかる観察視野補正処理を実行するための、制御装置150の機能構成について説明する。
(1−2.制御装置の機能構成)
図4を参照して、以上説明した第1の実施形態に係る観察視野補正処理を実行するための、制御装置150の機能構成について詳細に説明する。図4は、第1の実施形態に係る制御装置150の機能構成の一例を示すブロック図である。
なお、図4では、説明のため、制御装置150以外の構成として、上述した観察装置10の支持部120、観察装置10の顕微鏡部110が有する撮像部130(図1では図示を省略)、及び表示装置20を併せて示している。また、支持部120が撮像部130を物理的に支持していることを、模擬的に、両者を破線で接続することによって表している。
撮像部130は、図1に示す顕微鏡部110に搭載される。撮像部130は、手術中にその撮影範囲を撮影した撮影映像データを随時取得し、取得した当該映像データを後述する制御装置150の画像処理部151及び処置具認識部154に送信する。
表示装置20は、後述する制御装置150の画像処理部151によって生成される表示映像データに基づいて、撮像部130によって撮影された映像を表示する。
制御装置150は、その機能として、画像処理部151と、トリガ操作検出部152と、駆動制御部153と、処置具認識部154と、観察視野中心目標決定部155と、観察視野補正部156と、を有する。
画像処理部151は、撮像部130から送信される撮影映像データに対して、例えばガンマ補正処理、ホワイトバランスの調整処理、電子ズーム機能に係る拡大処理、及び画素間補正処理等、各種の画像処理を行う。当該画像処理では、表示装置20に映像を表示するために一般的に行われる各種の画像処理が行われてよい。画像処理部151は、各種の画像処理を施した撮影映像データ(すなわち、表示映像データ)を表示装置20に送信し、当該表示映像データに基づく映像(すなわち、撮像部130によって撮影された映像)を、表示装置20に表示させる。
トリガ操作検出部152は、観察視野補正処理を実行するためのトリガ操作の入力を検出する。第1の実施形態では、トリガ操作は、術者による観察視野を変更する旨の操作である。例えば、トリガ操作は、移動操作又はズーム操作を含む。具体的には、上述したように、観察装置10では、術者がフリーモードにおいて直接的な操作によって顕微鏡部110を移動させる様態が想定され得るため、移動操作は、術者による、図1に示す操作部5307の動作モード切り替えSWに対する、支持部120の動作モードをフリーモードにする旨の操作であり得る。また、ズーム操作は、術者による、図1に示す操作部5307のズームSWに対する操作であり得る。
ただし、第1の実施形態はかかる例に限定されず、トリガ操作としては、術者による観察視野を変更させる旨の各種の操作が含まれてよい。例えば、支持部120の動作が、フットスイッチや、ジェスチャ、又は音声によって操作され得る場合には、これらの操作がトリガ操作に含まれてよい。具体的にどのような操作をトリガ操作に含めるかは、術者又は観察システム1の設計者等によって適宜設定されてよい。
トリガ操作検出部152は、トリガ操作を検出すると、当該トリガ操作を検出した旨の情報、及びそのトリガ操作の内容についての情報を、駆動制御部153及び処置具認識部154に提供する。
駆動制御部153は、検出されたトリガ操作の内容に応じて、観察視野を変更し得るように観察装置10の動作を制御する。例えば、移動操作がトリガ操作として検出された場合には、駆動制御部153は、支持部120の各回転軸部のアクチュエータの動作を制御し、当該移動操作に従って撮像部130の位置及び姿勢を変化させる。あるいは、例えばズーム操作がトリガ操作として検出された場合には、駆動制御部153は、撮像部130に搭載されるアクチュエータの動作を制御し、当該ズーム操作に従って撮像部130の光学系を構成するレンズ等の位置を移動させ、拡大倍率を変化させる。
処置具認識部154は、トリガ操作検出部152によってトリガ操作が検出された場合に、撮像部130によって取得された撮影映像データに基づいて、処置具の形態を認識する。ここで、処置部の形態とは、処置具の位置及び形状を含む。例えば、脳外科手術では、患部を露出させるために、硬膜に設けた創を広げるための一対の開創器(脳べら)が用いられ得る。例えば、処置具認識部154は、撮影映像データに基づいて、当該一対の開創器の形状を認識するとともに、その撮影映像内における位置を認識する。あるいは、患部を切除することを目的とする手術であれば、当該患部を焼灼して切除するためのエナジーデバイスが用いられ得る。例えば、処置具認識部154は、撮影映像データに基づいて、当該エナジーデバイスの形状を認識するとともに、その撮影映像内における位置を認識する。
なお、駆動制御部153によってトリガ操作に従って観察装置10が動作され、観察視野が変更されているから、処置具認識部154は、その観察視野が変更された状態で撮像部130によって取得された撮影映像データに基づいて、処置具の形態を認識する。
処置具認識部154は、認識した処置具の形態についての情報を、観察視野中心目標決定部155に提供する。
観察視野中心目標決定部155は、認識された処置具の形態に基づいて、観察視野の中心に位置させるべき目標(観察視野中心目標)を決定する。具体的には、観察視野中心目標決定部155は、処置具の形態に基づいて、当該処置具に対する患部の相対的な位置を推測し、推測した当該患部の位置を観察視野中心目標として決定する。
患部の位置を推測する具体的な方法は、その処置具の種類及び用途等に応じて、術者又は観察システム1の設計者等によって適宜設定されてよい。例えば、一般的に、開創器が用いられ得ている場合には、その一対の開創器の間の略中間位置に、患部が存在することが想定される。従って、処置具認識部154によって一対の開創器の形態が認識されている場合には、例えば、観察視野中心目標決定部155は、当該一対の開創器の間の略中間位置に患部が存在すると推測し、推測した当該患部を観察視野中心目標として決定する。あるいは、エナジーデバイスによって患部が切除される場合には、通常は、当該エナジーデバイスの先端付近に患部が存在することが想定される。従って、処置具認識部154によってエナジーデバイスの形態が認識されている場合には、例えば、観察視野中心目標決定部155は、当該エナジーデバイスの先端近傍に患部が存在すると推測し、推測した当該患部を観察視野中心目標として決定する。ただし、第1の実施形態はかかる例に限定されず、処置具認識部154が患部の位置を推測するアルゴリズムは、処置具の形態と、その処置具が用いられている場合において一般的に想定され得る当該処置具と患部との位置関係に応じて、適宜設定されてよい。
観察視野中心目標決定部155は、決定した観察視野中心目標の処置具に対する相対的な位置情報を、観察視野補正部156に提供する。
観察視野補正部156は、観察視野中心目標決定部155によって決定された観察視野中心目標の処置具に対する相対的な位置情報に基づいて、当該観察視野中心目標が、観察視野の略中心に位置するように、観察視野を補正する。第1の実施形態では、観察視野補正部156は、駆動制御部157(駆動制御部153と区別するために、以下、補正駆動制御部157と呼称する)として機能し、支持部120の動作を制御することにより、観察視野を補正する。具体的には、補正駆動制御部157は、観察視野中心目標決定部155によって決定された観察視野中心目標が、観察視野の略中心に位置するように、支持部120の動作を制御し、撮像部130の位置及び姿勢を変化させる。このとき、撮影映像内における処置具の位置が認識されており、当該処置具に対する観察視野中心目標の相対的な位置が分かっているから、補正駆動制御部157は、現時点での観察視野中心目標と撮像部130との相対的な位置関係、及び観察視野中心目標を観察視野の略中心に位置させるための撮像部130の移動量を算出することができる。従って、補正駆動制御部157は、算出した当該移動量の分だけ撮像部130(すなわち、顕微鏡部110)を移動させるように、支持部120を動作させることにより、観察視野を補正することができる。
このとき、具体的には、補正駆動制御部157によって、支持部120の回転軸のうち、先端側の3軸(第1軸O、第2軸O、及び第3軸O)まわりの回転が制御され得る。これらの回転軸まわりの回転により、撮像部130のZ軸まわりの回転角度(すなわち、映像の方向)、及び撮像部130の水平面内での位置が調整され得るからである。あるいは、支持部120がX−Y装置を有するように構成されている場合には、補正駆動制御部157は、当該X−Y装置を動作させて撮像部130の水平面内での位置を調整することにより、観察視野を補正してもよい。
このように、第1の実施形態によれば、術者がトリガ操作に対応する操作を行い、観察視野を変更した場合に、観察視野補正部156(すなわち、補正駆動制御部157)によって撮像部130の位置及び姿勢が制御され、観察視野中心目標、すなわち患部が観察視野の略中心に位置するように、当該観察視野が自動的に変更され得る。
ここで、図5〜図8を参照して、第1の実施形態に係る観察視野補正処理の効果について説明する。まず、比較のため、図5及び図6を参照して、第1の実施形態に係る観察視野補正機能が搭載されない、一般的な既存の観察装置における観察視野の変更時の動作について説明する。図5及び図6は、第1の実施形態に係る観察視野補正機能が搭載されない、一般的な既存の観察装置における観察視野の変更時の動作について説明するための図である。
図5及び図6では、表示装置20の表示画面201に映し出される表示映像(すなわち、観察視野)を概略的に示している。例えば、初めに、術者が手動で撮像部130の位置及び姿勢を調整した結果、図5に示すように、一対の開創器202によって脳の硬膜に設けられた創が広げられて、患部である動脈瘤203が露出されている様子が、観察視野に捉えられているとする。ただし、動脈瘤203は、観察視野の略中心からは外れた位置に位置しているとする。
この状態で、動脈瘤203に対して処置を行うために、術者が、ズーム操作を行ったとする。この場合、通常は、ズーム操作により、図6に示すように、観察視野の中心を基点として当該表示映像が拡大されることとなる。このとき、図示する例では、図5に示す拡大前の状態において、動脈瘤203が観察視野の略中心に位置していないから、図6に示す拡大後の状態においては、動脈瘤203は、観察視野の略中心から大きく外れた位置に存在することとなる。
術者にとっては、処置を行うために、動脈瘤203は観察視野の略中心に存在することが好ましい。従って、一般的な既存の観察装置では、例えば図6に示すように拡大操作を行った後に、動脈瘤203が観察視野の略中心に位置するように、撮像部130の位置及び姿勢を手動で微調整する作業が生じ得る。このとき、撮像部130の拡大倍率が大きい状態であるから、撮像部130の位置及び姿勢の僅かな移動によって、観察視野は大きく変化してしまう。従って、この撮像部130の位置及び姿勢を微調整する作業には、繊細な操作が求められることとなる。このように、一般的な既存の観察装置では、ズーム操作時に撮像部130の位置及び姿勢を微調整するという繊細な作業が生じる可能性があり、当該作業が手術の円滑な進行の妨げとなる恐れがある。
次に、図7及び図8を参照して、第1の実施形態に係る観察装置10(すなわち、観察視野補正機能が搭載された観察装置10)における観察視野の変更時の動作について説明する。図7及び図8は、第1の実施形態に係る観察装置10における観察視野の変更時の動作について説明するための図である。
図7及び図8では、図5及び図6と同様に、表示装置20の表示画面201に映し出される表示映像(すなわち、観察視野)を概略的に示している。例えば、初めに、術者が手動で撮像部130の位置及び姿勢を調整した結果、図5に示す場合と同様に、図7に示すように、一対の開創器202によって脳の硬膜に設けられた創が広げられて、患部である動脈瘤203が露出されている様子が、観察視野に捉えられているとする。ただし、動脈瘤203は、観察視野の略中心からは外れた位置に位置しているとする。
この状態で、図5及び図6を参照して説明した場合と同様に、動脈瘤203に対して処置を行うために、術者がズーム操作を行ったとする。この場合、第1の実施形態では、まず、上述した制御装置150の駆動制御部153によって、撮像部130の光学系が動作され、観察視野が拡大される。
次に、トリガ操作検出部152によって、当該ズーム操作がトリガ操作として検出される。次に、トリガ操作が検出されたことをトリガとして、処置具認識部154によって、一対の開創器202の形態が認識される(便宜的に、このことを、図5において一対の開創器202にハッチングを付すことによって表現している)。次に、観察視野中心目標決定部155によって、認識された当該一対の開創器202の形態に基づいて、当該一対の開創器202の間の略中間位置に患部である動脈瘤203が存在することが推測される。更に、観察視野中心目標決定部155によって、推測された当該動脈瘤203が存在する位置が、観察視野中心目標として決定される。
そして、観察視野補正部156(すなわち、補正駆動制御部157)によって、決定された観察視野中心目標が観察視野の略中心に位置するように(すなわち、動脈瘤203が観察視野の略中心に位置するように)、支持部120の動作が制御され、撮像部130の位置及び姿勢が調整される。以上の一連の処理により、結果的に、図8に示すように、拡大された後の観察視野において、動脈瘤203が観察視野の略中心に位置するように、自動的に当該観察視野が調整されることとなる。
このように、第1の実施形態に係る観察装置10では、ズーム操作時に撮像部130の位置及び姿勢を微調整するという追加的な作業を行うことなく、動脈瘤203が観察視野の略中心に位置するように、自動的に当該観察視野が調整され得る。従って、手術の円滑な進行を実現することができる。
なお、ここでは、一例として、ズーム操作がトリガ操作である場合について説明したが、上述したように、第1の実施形態では、トリガ操作は他の操作であってもよい。例えば、トリガ操作は移動操作であってもよい。この場合には、例えば、手術開始時のセッティングの段階で、術者による直接的な操作によって、処置具及び患部が観察視野に含まれるように撮像部130の位置及び姿勢が大まかに調整された後、観察視野補正処理によって当該患部が当該観察視野の略中央に位置するように撮像部130の位置及び姿勢が微調整される、といった使用態様が想定され得る。
また、以上では、処置具認識部154によって認識される処置具の例として、開創器及びエナジーデバイスを挙げたが、第1の実施形態はかかる例に限定されない。処置具認識部154によって認識される対象は、あらゆる処置具であってよい。例えば、当該処置具は、血管吻合クリップであってよい。当該血管吻合クリップは、一対の挟持部を有し、血管吻合時において、吻合する対象である血管が切断されている部位を挟んで、その血管のそれぞれを当該一対の挟持部によって挟むように用いられる。血管吻合時には、撮像部130によって、その吻合する対象となる部位(すなわち、血管が切断されている部位)が患部として拡大観察され得る。従って、処置具認識部154によって血管吻合クリップが処置具として認識された場合には、観察視野中心目標決定部155は、その血管吻合クリップの一対の挟持部の間の略中間位置を患部の位置と推測し、観察視野中心目標として決定すればよい。これにより、観察視野補正部156によって、吻合する対象となる部位が観察視野の略中心となるように、当該観察視野が自動的に補正され得ることとなる。
また、以上説明した例では、ズーム操作に伴う表示映像の拡大処理が行われた後に、処置具認識部154から観察視野補正部156までの一連の処理が行われていたが、第1の実施形態はかかる例に限定されない。これらの処理が実行される順番の前後関係は任意に設定可能であってよい。例えば、以上説明した例とは逆に、トリガ操作が検出された場合に、患部を観察視野の略中心に位置させるような観察視野の自動的な変更が行われた後に、その観察視野の略中心を中心として表示映像が拡大されてもよい。あるいは、これらの処理は並列的に実行されてもよく、例えば、トリガ操作が検出された場合に、表示映像が拡大されつつ、患部を観察視野の略中心に位置させるような当該観察視野の自動的な変更が行われてもよい。
更に、第1の実施形態では、トリガ操作が検出される前から、処置具認識部154による処置具の認識処理、及び観察視野中心目標決定部155による観察視野中心目標の決定処理が、随時行われていてもよい。この場合には、トリガ操作が検出された場合に、直近に決定された観察視野中心目標に基づいて、観察視野の補正が行われ得る。かかる場合には、トリガ操作が検出された後に、処置具の認識処理及び観察視野中心目標の決定処理を改めて行う必要がないため、これらの処理を行う時間を省くことができ、より迅速に観察視野を補正することが可能になる。
なお、図4では、説明のため、制御装置150の機能のうち、第1の実施形態に係る観察視野補正処理に関係する機能のみを示している。制御装置150は、図示する機能以外にも、一般的に観察装置の制御装置が有する各種の機能を有し得る。例えば、画像処理部151及び駆動制御部153は、観察視野補正処理が実行されるときだけでなく(すなわち、トリガ操作が検出された場合だけでなく)、通常時から、撮影映像データに基づいて表示映像データを生成する処理、及び術者の操作に応じて支持部120及び撮像部130の動作を制御する処理をそれぞれ実行し得る。
ここで、上述したように、上記特許文献2には、内視鏡によって撮影された映像に基づいて処置具の位置情報を取得する位置検出手段と、当該位置情報に基づいて、処置具の先端部分が表示映像の略中心に位置するように、当該内視鏡の撮像光学系を駆動させてその撮影範囲を変更する制御手段と、を備える内視鏡装置が開示されている。当該内視鏡装置によれば、内視鏡の撮影範囲に処置具の先端部分が常に含まれるように、自動的に当該撮影範囲が変更され得る。特許文献2に記載の技術を、そのまま観察装置10に適用した場合にも、適切な観察視野が得られる可能性がある。
しかしながら、特許文献2に記載の技術では、処置具の先端部分が常に含まれるように、自動的に内視鏡の撮影範囲が変更される。従って、処置を行っている間、処置具が移動すると、それに伴い観察視野も変化することとなるため、観察視野の移動が頻繁に生じてしまう。また、処置具の先端部分を撮影範囲に含める対象としているため、処置具の種類や動きによっては、患部自体は撮影範囲に含まれない事態も生じ得る。従って、特許文献2に記載の技術では、必ずしも適切な観察視野が得られるとは限らず、かえって術者が処置を円滑に行い難くなってしまう恐れがある。
これに対して、第1の実施形態では、上述したように、トリガ操作が検出された場合に、観察視野が補正される(すなわち、観察視野が変更される)。従って、不要な観察視野の移動は生じない。また、処置具自体を観察視野に含める対象とするのではなく、処置具の形態から推測される観察視野中心目標(すなわち、患部)を、観察視野に含める対象とする。従って、患部が観察視野により確実に含まれ得ることとなる。このように、第1の実施形態によれば、例えば特許文献2に記載されているような既存の技術に比べて、より適切な観察視野を得ることが可能となる。よって、より円滑な手術の進行が実現され得る。
(1−3.観察視野補正方法)
図9を参照して、第1の実施形態に係る観察視野補正方法の処理手順について説明する。図9は、第1の実施形態に係る観察視野補正方法の処理手順の一例を示すフロー図である。なお、図9に示す各処理は、図1及び図3に示す制御装置150によって実行される処理に対応している。これらの各処理の詳細については、制御装置150の機能構成について説明する際に既に説明しているため、以下の観察視野補正方法の処理手順についての説明では、各処理についての詳細な説明は割愛する。なお、図9に示す各処理が行われている間、撮像部130による撮影映像の取得は随時行われている。
図9を参照すると、第1の実施形態に係る観察視野補正方法では、まず、トリガ操作が検出されたかどうかが判断される(ステップS101)。ステップS101における処理は、図4に示すトリガ操作検出部152によって実行される処理に対応している。
ステップS101でトリガ操作が検出されていないと判断された場合には、ステップS103には進まず、トリガ操作が検出されるまで待機する(すなわち、トリガ操作が検出されるまで、ステップS101における処理が繰り返される)。
ステップS101でトリガ操作が検出されたと判断された場合には、ステップS103に進む。ステップS103では、トリガ操作に応じて、撮像部130の動作が制御される。ステップS103では、具体的には、支持部120が動作されることにより、撮像部130の位置及び姿勢が制御され得る。あるいは、撮像部130の光学系を構成するレンズ等が動作されることにより、拡大倍率が制御され得る。
次に、撮影映像データに基づいて、処置具の形態が認識される(ステップS105)。ステップS105における処理は、図4に示す処置具認識部154によって実行される処理に対応している。
次に、認識された処置具の形態に基づいて、観察視野中心目標が決定される(ステップS107)。ステップS107では、具体的には、認識された処置具の形態に基づいて患部の位置が推測され、その推測された患部の位置が観察視野中心目標として決定される。ステップS107における処理は、図4に示す観察視野中心目標決定部155によって実行される処理に対応している。
次に、決定された観察視野中心目標が観察視野の略中心に位置するように、支持部120が動作され、撮像部130の位置及び姿勢が調整される(すなわち、決定された観察視野中心目標が観察視野の略中心に位置するように観察視野が補正される)(ステップS109)。ステップS109における処理は、図3に示す観察視野補正部156(すなわち、補正駆動制御部157)によって実行される処理に対応している。
以上、第1の実施形態に係る観察視野補正方法の処理手順について説明した。なお、図9に示す例では、ステップS103における処理(トリガ操作に応じた撮像部130の動作の制御処理)が行われた後に、ステップS105〜ステップS109における処理(処置具の認識処理、観察視野中心目標の決定処理、及び観察視野の補正処理)が行われることとなっているが、第1の実施形態はかかる例に限定されない。上述したように、ステップS103における処理と、ステップS105〜ステップS109における処理とは、図示する順番とは逆の順番で実行されてもよいし、並列的に実行されてもよい。また、ステップS105における処理(処理具の認識処理)及びステップS107における処理(観察視野中心目標の決定処理)は、ステップS101における処理(トリガ操作の検出処理)に先立って行われてもよい。
(2.第2の実施形態)
本開示の第2の実施形態について説明する。なお、第2の実施形態は、上述した第1の実施形態において、観察視野を補正する具体的な方法が異なるものに対応する。第2の実施形態におけるこのこと以外の事項は第1の実施形態と同様であるため、以下の第2の実施形態についての説明では、第1の実施形態と相違する事項について主に説明することとし、重複する事項についてはその詳細な説明を省略する。
(2−1.制御装置の機能構成)
第2の実施形態に係る観察システムの構成は、図1を参照して説明した第1の実施形態に係る観察システム1と略同様である。ただし、第2の実施形態では、観察視野補正処理を実行するための制御装置150の機能が、第1の実施形態とは異なる。ここでは、図10を参照して、第2の実施形態に係る制御装置の機能構成について説明する。
図10は、第2の実施形態に係る制御装置150aの機能構成の一例を示すブロック図である。なお、図10では、説明のため、制御装置150a以外の構成として、図1に示す観察装置10の顕微鏡部110が有する撮像部130(図1では図示を省略)、及び表示装置20を併せて示している。
第2の実施形態では、撮像部130は、手術中にその撮影範囲を撮影した撮影映像データを随時取得し、取得した当該撮影映像データを後述する制御装置150aの処置具認識部154及び観察視野補正部156a(補正画像処理部157a)に送信する。表示装置20は、後述する制御装置150の観察視野補正部156a(補正画像処理部157a)によって生成される表示映像データに基づいて、撮像部130によって撮影された映像を表示する。
制御装置150aは、制御装置150と同様に、例えばCPUやDSP等のプロセッサ、又はこれらのプロセッサとメモリ等の記憶素子がともに搭載された制御基板等によって構成される。制御装置150aは、その機能として、トリガ操作検出部152aと、処置具認識部154と、観察視野中心目標決定部155と、観察視野補正部156aと、を有する。制御装置150aを構成するプロセッサが所定のプログラムに従って演算処理を実行することにより、これらの各機能が実現される。なお、これらの機能のうち、処置具認識部154及び観察視野中心目標決定部155の機能は、第1の実施形態におけるこれらの機能と略同様であるため、ここではその詳細な説明を省略する。
トリガ操作検出部152aは、第1の実施形態と同様に、トリガ操作の入力を検出する。ただし、図示する構成例では、トリガ操作がズーム操作である場合が想定されている。つまり、図示する構成例では、トリガ操作検出部152aは、トリガ操作として、ズーム操作のみを検出するように構成され得る。
トリガ操作検出部152aは、トリガ操作を検出した旨の情報、及びそのトリガ操作の内容についての情報を、処置具認識部154に提供する。
処置具認識部154は、第1の実施形態と同様に、撮影映像データに基づいて処置具の形態を認識する。また、観察視野中心目標決定部155は、第1の実施形態と同様に、処置具の形態に基づいて観察視野中心目標を決定する。
観察視野補正部156aは、観察視野中心目標決定部155によって決定された観察視野中心目標の処置具に対する相対的な位置情報に基づいて、当該観察視野中心目標が、観察視野の略中心に位置するように、観察視野を補正する。第2の実施形態では、観察視野補正部156aは、画像処理部157a(図4に示す画像処理部151と区別するために、以下、補正画像処理部157aと呼称する)として機能する。補正画像処理部157aは、第1の実施形態における画像処理部151と同様に、撮影映像データに対して各種の画像処理を実行することにより表示映像データを生成する。ただし、このとき、補正画像処理部157aは、電子ズーム機能により、撮影映像のうち、観察視野中心目標決定部155によって決定された観察視野中心目標を中心として撮影映像の一部領域を切り出し、その切り出した領域をトリガ操作において指定された倍率で拡大して、表示映像データを生成する。
補正画像処理部157aは、撮影映像データに対して当該電子ズームに係る拡大処理を含む各種の画像処理を施すことにより生成した表示映像データを、表示装置20に送信し、当該表示映像データに基づく映像(すなわち、撮像部130による撮影映像が電子ズーム機能によって拡大された映像)を、表示装置20に表示させる。
このように、第2の実施形態では、撮像部130の光学系が駆動されることにより(すなわち、光学ズーム機能によって)観察視野の拡大が行われるのではなく、補正画像処理部157aによって電子ズーム機能により観察視野の拡大が行われる。また、そのとき、観察視野中心目標を中心として電子ズームが実行される。これにより、補正画像処理部157aによって生成される表示映像データは、観察視野中心目標(すなわち、患部)を中心として、トリガ操作において指定された倍率で拡大された映像データとなる。
ここで、電子撮像式の観察装置では、一般的な既存の構成においても、電子ズーム機能は搭載され得る。ただし、かかる一般的な構成における電子ズーム機能では、通常、撮影映像のうち、当該撮影映像の略中心を中心とする所定の領域が切り出されて拡大される。従って、上記図5及び図6を参照して説明した場合と同様に、拡大前において観察視野の略中心に患部が存在していない場合には、電子ズーム機能による拡大後の観察視野においては、当該患部は、当該観察視野の中心から大きく外れた位置に存在し得ることとなる。従って、当該患部を観察視野の略中心に位置させるために、撮像部130の位置及び姿勢を微調整する作業が生じてしまう。これに対して、第2の実施形態によれば、上記のように、患部を中心として電子ズーム機能による拡大処理が行われるため、第1の実施形態と同様に、撮像部130の位置及び姿勢を微調整する作業が生じることがなく、手術の円滑な実行が実現され得る。
なお、第2の実施形態においては、以上説明したように、電子ズーム機能において撮影映像から表示映像に対応する領域が切り出される際に、当該領域の切り出し位置及び切り出し範囲が調整されることにより、観察視野が補正される。このように電子ズーム機能を用いた場合において、その拡大倍率が大きい場合には、表示映像の解像度が低下し、患部を詳細に観察することが困難になることが懸念される。しかしながら、撮影映像が高解像度で撮影されていれば、電子ズーム機能によって当該撮影映像を拡大した場合であっても、鮮明な表示映像を得ることができる。例えば、4Kであれば2倍、8Kであれば4倍に電子ズーム機能によって撮影映像を拡大した場合であっても、表示映像としてはFull HD画質が確保され得る。従って、第2の実施形態においては、表示映像の解像度を確保する観点から、高解像度での撮影が可能な撮像部130が用いられることが好ましい。
なお、第2の実施形態においては、以上説明したように、電子ズーム機能において撮影映像から表示映像に対応する領域を切り出す際に、当該撮影映像の略中心とは異なる位置に存在する観察視野中心目標を中心として当該領域が切り出され得る。従って、観察視野補正処理が行われている間は、その撮像部130の位置及び姿勢によって通常得られる表示映像とは異なる範囲を映した表示映像が得られる可能性がある。よって、例えば、その後、患部を異なる方向から観察するために移動操作を行う際にもこの状態が続いていると、術者による当該撮像部130の移動のための操作と、当該術者が観察している表示映像との間に感覚的なずれが存在することとなり、好ましくない。
そこで、第2の実施形態では、観察視野補正処理が行われている間に(すなわち、撮影映像の略中心とは異なる位置を中心として所定の領域が切り出され拡大表示されている間に)、明示的な移動操作が入力された場合には、通常の電子ズーム機能の態様により拡大された観察視野が表示されるように(すなわち、撮影映像の略中心を中心とした所定の領域が切り出され拡大表示されるように)、当該観察視野が切り替えられてもよい。これにより、上記のような感覚的なずれは解消され得る。ただし、観察視野が切り替えられることにより、術者が戸惑いを感じることが懸念される。そこで、第2の実施形態では、観察視野補正処理が行われている間には、そのことを術者に対して通知する旨の表示が、表示映像に重畳して表示されてもよい。これにより、術者は、観察視野補正処理が行われていること、すなわち、撮影映像の略中心とは異なる位置を中心として所定の領域が切り出され拡大表示されていることを把握することができる。よって、上記のような戸惑いを感じにくくなり、術者の使い勝手をより向上させることが可能となる。
また、以上説明した例では、補正画像処理部157aが、観察視野中心目標を中心とした電子ズーム機能による拡大処理を一括して行っていた。いわば、補正画像処理部157aが、観察視野中心目標を中心とするような観察視野の変更処理と、電子ズーム機能による表示映像の拡大処理と、を同時に行っていた。しかし、第2の実施形態はかかる例に限定されない。例えば、補正画像処理部157aによる上記の処理は、段階的に行われてもよい。具体的には、補正画像処理部157aは、まず、電子ズーム機能による表示映像の拡大処理を行い、次いで、観察視野中心目標を中心とするような観察視野の変更処理(すなわち、撮影映像から切り出す領域を、観察視野中心目標を中心とする領域に変更する処理)を行ってもよい。この場合には、まず表示映像が拡大され、次いで観察視野が移動するように、当該表示映像が術者に対して提示されることとなるため、術者は、観察視野補正処理が行われていることをより直感的に把握することが可能となる。あるいは、上記の2つの処理が逆の順番で行われてもよい。
更に、第2の実施形態では、第1の実施形態と同様に、トリガ操作が検出される前から、処置具認識部154による処置具の認識処理、及び観察視野中心目標決定部155による観察視野中心目標の決定処理が、随時行われていてもよい。この場合には、トリガ操作が検出された場合に、これらの処理が改めて実行される必要がないため、これらの処理を行う時間を省くことができ、より迅速に観察視野を補正することが可能になる。
また、以上説明した例では、トリガ操作がズーム操作に限定されていたが、第2の実施形態はかかる例に限定されない。例えば、第1の実施形態と同様に移動操作をトリガ操作として検出する場合であっても、第2の実施形態のように電子ズーム機能における撮影映像の切り出し位置を変更することによって観察視野を補正することが可能である。この場合、制御装置150aは、例えば、観察視野補正処理が行われる前から(すなわち、トリガ操作が検出される前から)、撮影映像の一部領域を切り出して表示映像データを生成するように構成される。このとき、観察視野補正処理が行われる前においては、撮影映像の略中心を中心とした所定の領域が切り出されて表示映像データが生成され得る。そして、トリガ操作が検出され、観察視野補正処理が行われる際には、観察視野中心目標を中心とした所定の領域が切り出されるように、撮影映像の切り出し位置及び切り出し範囲が変更されて、その切り出された領域について表示映像データが生成される。このように、観察視野補正処理が行われる前から、撮影映像の一部領域を切り出して表示映像データを生成するように制御装置150aを構成すれば、ズーム操作以外の操作をトリガ操作として設定した場合であっても、その撮影映像の切り出し位置及び切り出し範囲を適宜変更すれば、観察視野補正処理を実行することが可能となる。
また、図10では、説明のため、制御装置150aの機能のうち、第2の実施形態に係る観察視野補正処理に関係する機能のみを示している。制御装置150aは、図示する機能以外にも、一般的に観察装置の制御装置が有する各種の機能を有し得る。例えば、制御装置150aは、第1の実施形態と同様に画像処理部151及び駆動制御部153を有し、これら画像処理部151及び駆動制御部153は、観察視野補正処理が実行されるときだけでなく(すなわち、トリガ操作が検出された場合だけでなく)、通常時から、撮影映像データに基づいて表示映像データを生成する処理、及び術者の操作に応じて支持部120及び撮像部130の動作を制御する処理をそれぞれ実行し得る。この際、画像処理部151は、電子ズームも実行し得るが、観察視野補正処理が実行されていない場合には、当該電子ズームでは、撮影映像の略中心を中心とする所定の領域が切り出されて拡大されて表示映像データが生成され得る。
(2−2.観察視野補正方法)
図11を参照して、第2の実施形態に係る観察視野補正方法の処理手順について説明する。図11は、第2の実施形態に係る観察視野補正方法の処理手順の一例を示すフロー図である。なお、図11に示す各処理は、図10に示す制御装置150aによって実行される処理に対応している。これらの各処理の詳細については、制御装置150aの機能構成について説明する際に既に説明しているため、以下の観察視野補正方法の処理手順についての説明では、各処理についての詳細な説明は割愛する。
図11を参照すると、第2の実施形態に係る観察視野補正方法では、まず、トリガ操作が検出されたかどうかが判断される(ステップS201)。第2の実施形態では、トリガ操作として、例えばズーム操作が検出され得る。ステップS201における処理は、図10に示すトリガ操作検出部152aによって実行される処理に対応している。
ステップS201でトリガ操作が検出されていないと判断された場合には、ステップS203には進まず、トリガ操作が検出されるまで待機する(すなわち、トリガ操作が検出されるまで、ステップS201における処理が繰り返される)。
ステップS201でトリガ操作が検出されたと判断された場合には、ステップS203に進む。ステップS203では、撮影映像データに基づいて、処置具の形態が認識される(ステップS203)。ステップS203における処理は、図10に示す処置具認識部154によって実行される処理に対応している。
次に、認識された処置具の形態に基づいて、観察視野中心目標が決定される(ステップS205)。ステップS205では、具体的には、認識された処置具の形態に基づいて患部の位置が推測され、その推測された患部の位置が観察視野中心目標として決定される。ステップS205における処理は、図10に示す観察視野中心目標決定部155によって実行される処理に対応している。
次に、決定された観察視野中心目標が観察視野の略中心に位置するように、撮影映像の切り出し位置及び切り出し範囲が調整され、電子ズームが実行される(すなわち、決定された観察視野中心目標が観察視野の略中心に位置するように観察視野が補正される)(ステップS207)。ステップS207における処理は、図10に示す観察視野補正部156a(すなわち、補正画像処理部157a)によって実行される処理に対応している。
以上、第2の実施形態に係る観察視野補正方法の処理手順について説明した。なお、図11に示す例では、ステップS207において、観察視野中心目標を中心とした電子ズーム機能による拡大処理が一括して行われているが、第2の実施形態はかかる例に限定されない。上述したように、電子ズーム機能による観察視野の拡大処理は、段階的に行われてもよい。また、ステップS203における処理(処理具を認識する処理)及びステップS205における処理(観察視野中心目標を決定する処理)は、ステップS201における処理に先立って行われてもよい。
(3.変形例)
以上説明した実施形態におけるいくつかの変形例について説明する。
(3−1.処置具の認識処理、及び観察視野中心目標の決定処理の他の方法)
以上説明したように、第1及び第2の実施形態では、処置具の形態が認識され、その認識された処置具の形態に応じて、患部の位置が推測される。そして、その推測された患部の位置が、観察視野中心目標として決定される。
しかしながら、このとき、必ずしも患部の位置が正確に推測されない場合も想定され得る。例えば、上述した例では、一対の開創器の間の略中間位置に患部が存在すると推測していたが、創の開口部と患部の位置関係等によっては、一対の開創器と当該患部とは、必ずしもこのような位置関係にはならない可能性がある。
そこで、第1及び第2の実施形態においては、患部の位置を指し示すための処置具が予め設定されていてもよく、当該処置具によって指し示された位置が観察視野中心目標として決定されてもよい。例えば、当該処置具は鉗子であり得る。
かかる機能が搭載される場合には、制御装置150、150aの処置具認識部154は、処置具の形態を認識する際に、当該処置具が鉗子であること、及び当該鉗子の先端位置を認識する。そして、観察視野中心目標決定部155は、当該鉗子の先端によって指し示されている位置を患部の位置と推測し、当該患部の位置を観察視野中心目標として決定する。
当該機能が搭載されることにより、もしも患部の位置が正確に推測されない場合であっても、術者がその患部の位置、すなわち観察視野中心目標を具体的に指定することが可能となるため、術者の利便性を向上させることができる。なお、この場合には、完全に自動的に観察視野補正処理が行われる場合に比べて、観察視野中心目標を指し示すという術者の作業は追加的に生じるものの、当該作業の負荷は、観察視野中心目標を観察視野の略中心に位置させるような移動操作等に比べれば簡便なものである。従って、当該作業が追加的に発生したとしても、手術の円滑な進行にとって大きな妨げにはならない。
(3−2.観察装置の他の構成例)
以上説明した構成例では、観察装置10は6つの回転軸部の全てにアクチュエータが搭載されて構成されていたが、第1及び第2の実施形態はかかる例に限定されない。例えば、バランスアームとして構成される観察装置に対しても、第1及び第2の実施形態に係る観察視野補正処理を適用可能である。ただし、バランスアームとして構成される観察装置に対して、第1の実施形態に係る観察視野補正処理を適用する場合には、その支持部においては、少なくとも顕微鏡部の水平面内での位置を調整し得る回転軸部にはアクチュエータが搭載される必要がある。
また、以上説明した構成例では、観察装置10は電子撮像式の観察装置であった。ただし、第1の実施形態はかかる例に限定されない。第1の実施形態に係る観察視野補正処理は、光学式の観察装置にも適用可能である。例えば、光学式の観察装置には、術者以外の医療スタッフが当該術者の視野を共有するために、その顕微鏡部に撮像素子が搭載され、当該撮像素子によって術者が肉眼で視認している像と略同様の映像を取得し、表示装置に表示可能なものが存在し得る。かかる構成を有する光学式の観察装置において、視野を共有するための取得される撮影映像データに基づいて、以上説明した第1の実施形態に係る観察視野補正処理が実行されてもよい。
(4.補足)
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、図1に示す例では、制御装置150は、顕微鏡部110、支持部120及びベース部5315とは異なる構成として設けられているが、本開示はかかる例に限定されない。例えば、制御装置150と同様の機能を実現するプロセッサや制御基板等が、ベース部5315内に配置されてもよい。また、制御装置150と同様の機能を実現するプロセッサや制御基板等が顕微鏡部110の内部に組み込まれることにより、制御装置150と顕微鏡部110とが一体的に構成されてもよい。図1には示されないが、制御装置150aについても同様に、その設置位置は限定されない。
また、制御装置150、150aは、必ずしも1つの装置でなくてもよく、複数の装置の協働によって実現されてもよい。この場合には、制御装置150、150aの各機能が、これらの機能を実現し得る構成を有する複数の装置に分散して搭載され、これら複数の装置が互いに各種の情報をやり取りしながら協働して動作することにより、全体として、制御装置150、150aとしての機能が実現され得る。例えば、図1に示す構成において、プロセッサや制御基板等が、支持部120を構成する各回転軸部にそれぞれ配置され、これら複数のプロセッサや制御基板等が互いに協働することにより、制御装置150、150aと同様の機能が実現されてもよい。
なお、以上説明した制御装置150、150aの各機能を実現するためのコンピュータプログラムを作製し、PC等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
また、本明細書に記載された効果は、あくまで説明的又は例示的なものであって限定的なものではない。つまり、本開示に係る技術は、上記の効果とともに、又は上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
観察対象を撮影した撮影映像についてのデータである撮影映像データを取得する撮像部と、
前記撮像部を支持する支持部と、
前記撮像部の動作に関する所定の操作であるトリガ操作を検出するトリガ操作検出部と、
前記撮影映像データに基づいて、撮影映像に含まれる処置具の形態を認識する処置具認識部と、
前記トリガ操作検出部によって前記トリガ操作が検出された場合に、前記処置具認識部によって認識された前記処置具の形態に基づいて、前記撮影映像データに基づいて表示装置に表示される表示映像の範囲である観察視野を補正する観察視野補正部と、
を備える、
医療用観察装置。
(2)
前記観察視野補正部は、前記支持部の動作を制御し、前記撮像部の位置及び姿勢を調整することにより、前記観察視野を補正する、
前記(1)に記載の医療用観察装置。
(3)
前記トリガ操作は、前記観察視野に係る表示映像を拡大する旨のズーム操作であり、
前記観察視野補正部は、電子ズーム機能により前記撮影映像の所定の領域を切り出して拡大する際に、前記所定の領域の切り出し位置及び切り出し範囲を調整することにより、前記観察視野を補正する、
前記(1)に記載の医療用観察装置。
(4)
前記処置具認識部によって認識された前記処置具の形態に基づいて、前記観察視野の中心に位置すべき目標である観察視野中心目標を決定する観察視野中心目標決定部、を更に備え、
前記観察視野補正部は、前記観察視野中心目標決定部によって決定された前記観察視野中心目標が、前記観察視野の略中心に位置するように、前記観察視野を補正する、
前記(1)〜(3)のいずれか1項に記載の医療用観察装置。
(5)
前記観察視野中心目標決定部は、前記処置具の形態に基づいて前記処置具の位置に対する患部の相対的な位置を推測し、前記患部の位置を前記観察視野中心目標として決定する、
前記(4)に記載の医療用観察装置。
(6)
前記処置具は一対の開創器であり、
前記観察視野中心目標決定部は、前記一対の開創器の間の略中間位置を患部の位置として推測する、
前記(5)に記載の医療用観察装置。
(7)
前記処置具はエナジーデバイスであり、
前記観察視野中心目標決定部は、前記エナジーデバイスの先端位置を患部の位置として推測する、
前記(5)に記載の医療用観察装置。
(8)
前記処置具は鉗子であり、
前記観察視野中心目標決定部は、前記鉗子の先端位置を患部の位置として推測する、
前記(5)に記載の医療用観察装置。
(9)
前記トリガ操作は、前記観察視野に係る表示映像を拡大する旨のズーム操作であり、
前記観察視野補正部は、前記ズーム操作によって拡大された表示映像に係る観察視野を補正する、
前記(1)〜(8)のいずれか1項に記載の医療用観察装置。
(10)
前記トリガ操作は、前記撮像部の位置及び姿勢を移動させる旨の移動操作であり、
前記観察視野補正部は、前記移動操作によって移動された後に前記撮像部によって取得された前記撮影映像データに基づく表示映像に係る観察視野を補正する、
前記(1)〜(8)のいずれか1項に記載の医療用観察装置。
(11)
支持部によって支持された撮像部の動作に関する所定の操作であるトリガ操作を検出することと、
前記撮像部によって取得された観察対象を撮影した撮影映像についてのデータである撮影映像データに基づいて、前記撮影映像に含まれる処置具の形態を認識することと、
前記トリガ操作が検出された場合に、認識された前記処置具の形態に基づいて、前記撮影映像データに基づいて表示装置に表示される表示映像の範囲である観察視野を補正することと、
を含む、
観察視野補正方法。
1 観察システム
10 観察装置
20 表示装置
110 顕微鏡部
120 支持部(アーム部)
130 撮像部
150、150a 制御装置
151 画像処理部
152、152a トリガ操作検出部
153 駆動制御部
154 処置具認識部
155 観察視野中心目標決定部
156、156a 観察視野補正部
157 補正駆動制御部(駆動制御部)
157a 補正画像処理部(画像処理部)

Claims (10)

  1. 観察対象を撮影した撮影映像についてのデータである撮影映像データを取得する撮像部と
    記撮像部の動作に関する所定の操作であるトリガ操作を検出するトリガ操作検出部と、
    前記撮影映像データに基づいて、前記撮影映像に含まれる処置具の形態を認識する処置具認識部と、
    前記処置具認識部によって認識された前記処置具の形態に基づいて前記処置具の位置に対する患部の相対的な位置を推測し、前記患部の位置を前記撮影映像データに基づいて表示装置に表示される表示映像の範囲である観察視野の中心に位置すべき目標である観察視野中心目標として決定する観察視野中心目標決定部と、
    前記トリガ操作検出部によって前記トリガ操作が検出された場合に、前記観察視野中心目標決定部によって決定された前記観察視野中心目標が、記観察視野の略中心に位置するように、前記観察視野を補正する観察視野補正部と、
    を備える、
    医療用観察装置。
  2. 前記観察視野補正部は、前記撮像部を支持する支持部の動作を制御し、前記撮像部の位置及び姿勢を調整することにより、前記観察視野を補正する、
    請求項1に記載の医療用観察装置。
  3. 前記トリガ操作は、前記観察視野に係る表示映像を拡大する旨のズーム操作であり、
    前記観察視野補正部は、電子ズーム機能により前記撮影映像の所定の領域を切り出して拡大する際に、前記所定の領域の切り出し位置及び切り出し範囲を調整することにより、前記観察視野を補正する、
    請求項1に記載の医療用観察装置。
  4. 前記処置具は一対の開創器であり、
    前記観察視野中心目標決定部は、前記一対の開創器の間の略中間位置を患部の位置として推測する、
    請求項1〜3のいずれか1項に記載の医療用観察装置。
  5. 前記処置具はエナジーデバイスであり、
    前記観察視野中心目標決定部は、前記エナジーデバイスの先端位置を患部の位置として推測する、
    請求項1〜3のいずれか1項に記載の医療用観察装置。
  6. 前記処置具は鉗子であり、
    前記観察視野中心目標決定部は、前記鉗子の先端位置を患部の位置として推測する、
    請求項1〜3のいずれか1項に記載の医療用観察装置。
  7. 前記トリガ操作は、前記観察視野に係る表示映像を拡大する旨のズーム操作であり、
    前記観察視野補正部は、前記ズーム操作によって拡大された表示映像に係る観察視野を補正する、
    請求項1〜のいずれか1項に記載の医療用観察装置。
  8. 前記トリガ操作は、前記撮像部の位置及び姿勢を移動させる旨の移動操作であり、
    前記観察視野補正部は、前記移動操作によって移動された後に前記撮像部によって取得された前記撮影映像データに基づく表示映像に係る観察視野を補正する、
    請求項1〜のいずれか1項に記載の医療用観察装置。
  9. 観察対象を撮影した撮影映像についてのデータである撮影映像データを取得する撮像部の動作に関する所定の操作であるトリガ操作を検出するトリガ操作検出部と、
    前記撮影映像データに基づいて、前記撮影映像に含まれる処置具の形態を認識する処置具認識部と、
    前記処置具認識部によって認識された前記処置具の形態に基づいて前記処置具の位置に対する患部の相対的な位置を推測し、前記患部の位置を前記撮影映像データに基づいて表示装置に表示される表示映像の範囲である観察視野の中心に位置すべき目標である観察視野中心目標として決定する観察視野中心目標決定部と、
    前記トリガ操作検出部によって前記トリガ操作が検出された場合に、前記観察視野中心目標決定部によって決定された前記観察視野中心目標が、前記観察視野の略中心に位置するように、前記観察視野を補正する観察視野補正部と、
    を備える、
    制御装置。
  10. 支持部によって支持された撮像部の動作に関する所定の操作であるトリガ操作を検出することと、
    前記撮像部によって取得された観察対象を撮影した撮影映像についてのデータである撮影映像データに基づいて、前記撮影映像に含まれる処置具の形態を認識することと、
    認識された前記処置具の形態に基づいて前記処置具の位置に対する患部の相対的な位置を推測し、前記患部の位置を前記撮影映像データに基づいて表示装置に表示される表示映像の範囲である観察視野の中心に位置すべき目標である観察視野中心目標として決定することと、
    前記トリガ操作が検出された場合に、決定された前記観察視野中心目標が、記観察視野の略中心に位置するように、前記観察視野を補正することと、
    を含む、
    観察視野補正方法。
JP2019508595A 2017-03-28 2018-01-15 医療用観察装置、制御装置、及び観察視野補正方法 Active JP6965338B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2017062941 2017-03-28
JP2017062941 2017-03-28
PCT/JP2018/000812 WO2018179681A1 (ja) 2017-03-28 2018-01-15 医療用観察装置及び観察視野補正方法

Publications (2)

Publication Number Publication Date
JPWO2018179681A1 JPWO2018179681A1 (ja) 2020-02-06
JP6965338B2 true JP6965338B2 (ja) 2021-11-10

Family

ID=63674624

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019508595A Active JP6965338B2 (ja) 2017-03-28 2018-01-15 医療用観察装置、制御装置、及び観察視野補正方法

Country Status (4)

Country Link
US (1) US20200015655A1 (ja)
EP (1) EP3603562B1 (ja)
JP (1) JP6965338B2 (ja)
WO (1) WO2018179681A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7143092B2 (ja) 2018-03-12 2022-09-28 ソニー・オリンパスメディカルソリューションズ株式会社 医療用画像処理装置、医療用観察装置、および画像処理方法
DE112019003447T5 (de) * 2018-07-06 2021-03-18 Sony Corporation Medizinisches Beobachtungssystem, medizinisches Beobachtungsgerät und Antriebsverfahren für das medizinische Beobachtungsgerät
JP2021022840A (ja) * 2019-07-29 2021-02-18 ソニー株式会社 医療用観察システム、制御装置、および制御方法
CN116171122A (zh) * 2020-09-10 2023-05-26 奥林巴斯株式会社 医疗***和控制方法
CN112971688B (zh) * 2021-02-07 2024-05-31 杭州海康慧影科技有限公司 图像处理方法、装置及计算机设备

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08164148A (ja) * 1994-12-13 1996-06-25 Olympus Optical Co Ltd 内視鏡下手術装置
JP3618413B2 (ja) 1995-05-15 2005-02-09 オリンパス株式会社 内視鏡装置
JPH10118015A (ja) * 1996-10-25 1998-05-12 Olympus Optical Co Ltd 内視鏡下外科手術装置
FR2897703B1 (fr) * 2006-02-20 2008-04-25 Univ Grenoble 1 Detection automatique d'un outil chirurgical sur une image fournie par un systeme d'imagerie medicale
TWI517828B (zh) * 2012-06-27 2016-01-21 國立交通大學 影像追蹤系統及其影像追蹤方法
US9827054B2 (en) * 2014-03-14 2017-11-28 Synaptive Medical (Barbados) Inc. Intelligent positioning system and methods therefore
JP6272885B2 (ja) 2013-09-24 2018-01-31 ソニー・オリンパスメディカルソリューションズ株式会社 医療用ロボットアーム装置、医療用ロボットアーム制御システム、医療用ロボットアーム制御方法及びプログラム
WO2015194319A1 (ja) * 2014-06-20 2015-12-23 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察装置および医療用観察システム
DE102014224044A1 (de) * 2014-11-25 2016-05-25 Carl Zeiss Meditec Ag Toolgesteuerte Multimodallupe im Sichtfeld eines Operationsmikroskop
JP6654006B2 (ja) * 2015-08-11 2020-02-26 ソニー・オリンパスメディカルソリューションズ株式会社 医療用観察装置

Also Published As

Publication number Publication date
EP3603562A4 (en) 2020-02-26
EP3603562B1 (en) 2022-06-29
EP3603562A1 (en) 2020-02-05
US20200015655A1 (en) 2020-01-16
JPWO2018179681A1 (ja) 2020-02-06
WO2018179681A1 (ja) 2018-10-04

Similar Documents

Publication Publication Date Title
JP6965338B2 (ja) 医療用観察装置、制御装置、及び観察視野補正方法
JP7067467B2 (ja) 医療用情報処理装置、情報処理方法、医療用情報処理システム
JPWO2019044328A1 (ja) 医療用画像処理装置、医療用画像処理システム、及び医療用画像処理装置の駆動方法
EP3265008B1 (en) Surgical tool tracking to control surgical system
CN109715106B (zh) 控制装置、控制方法及医疗***
US11510751B2 (en) Medical observation apparatus
WO2015002744A1 (en) Robotic surgery
WO2019087904A1 (ja) 手術アームシステム及び手術アーム制御システム
JP7334499B2 (ja) 手術支援システム、制御装置及び制御方法
JP7444065B2 (ja) 医療用観察システム、医療用観察装置及び医療用観察方法
JP2015154873A (ja) 内視鏡システム
JP7034636B2 (ja) 医療用観察装置、および医療用観察システム
JP6976720B2 (ja) 医療用観察装置、およびズーム制御方法
US11638000B2 (en) Medical observation apparatus
JPWO2018168261A1 (ja) 制御装置、制御方法、及びプログラム
WO2018088105A1 (ja) 医療用支持アーム及び医療用システム
WO2017169650A1 (ja) 医療用観察装置、映像移動補正方法及び医療用観察システム
CN110461205A (zh) 手术成像***、手术用图像处理设备以及用于控制成像过程的方法
JP2018075674A (ja) 関節駆動用アクチュエータ
US20220322919A1 (en) Medical support arm and medical system
WO2018142993A1 (ja) 発光制御装置、発光制御方法、プログラム、発光装置、および撮像装置
JPWO2018173681A1 (ja) 医療用システムの制御装置、医療用システムの制御方法及び医療用システム
US20190154953A1 (en) Control apparatus, control system, and control method
WO2017145606A1 (ja) 画像処理装置、画像処理方法及び内視鏡システム
JP6656237B2 (ja) 手術用顕微鏡装置及び手術用顕微鏡システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201228

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210819

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210928

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211020

R150 Certificate of patent or registration of utility model

Ref document number: 6965338

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150