JP7356697B2 - 画像観察システム - Google Patents
画像観察システム Download PDFInfo
- Publication number
- JP7356697B2 JP7356697B2 JP2019108695A JP2019108695A JP7356697B2 JP 7356697 B2 JP7356697 B2 JP 7356697B2 JP 2019108695 A JP2019108695 A JP 2019108695A JP 2019108695 A JP2019108695 A JP 2019108695A JP 7356697 B2 JP7356697 B2 JP 7356697B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- camera
- observer
- observation
- display device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Endoscopes (AREA)
- Eye Examination Apparatus (AREA)
- Closed-Circuit Television Systems (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
- Controls And Circuits For Display Device (AREA)
- Image Analysis (AREA)
Description
図1は、第1実施形態に係る画像観察システム1の構成を示している。この画像観察システム1は、観察者Sp1が遠隔地から美術品を代表とする鑑賞物、商品等の様々な有体物である対象物Sp2を観察するための画像処理システムである。この画像処理システムは、観察者Sp1が遠隔地に位置する対象物Sp2を観察するための観察者Sp1側の装置と対象物Sp2側の装置とを含むシステムとして構成されることが想定される。ただし、必ずしも観察者Sp1側の装置と対象物Sp2側の装置とが物理的に離れて配置される必要はなく、互いに近くに配置されていてもよいし、一体の装置として構成されていてもよい。特に、コンピュータ9aとコンピュータ9bとは、同一の装置上で一体的に構成されていてもよいし、別々の装置として構成されていてもよい。
図10は、第2実施形態に係る画像観察システム201の構成を示す図であり、図11は、図10の観察画像取得用カメラ205b及びカメラ駆動系207の対象物Sp2側から見た外観を示す正面図である。本実施形態の画像観察システム201の構成は、画像観察システム1の構成と比較して、ディスプレイ装置211、コンピュータ209a、観察画像取得用カメラ205b、カメラ駆動系207、及びコンピュータ209bの構成が異なっている。以下、画像観察システム201の構成における第1実施形態との相違点のみ説明する。
Rr=(|VNR|+|VDR|)/|VNR|
を用いて拡大率Rrを計算する。そして、画像処理部27は、右眼に対応する観察画像を拡大率Rrで拡大するように補正する。同様にして、画像処理部27は、左眼に対応する拡大率Rlを計算して、その拡大率Rlで左眼に対応する観察画像を拡大するように補正する。また、立体画像をディスプレイ装置211の奥側に表示させるように視差を変化させた場合には、画像処理部27は、同様の原理を用いて、両眼に対応する2つの観察画像を縮小するように補正する。このような拡大/縮小の機能により、観察者にとって常に同じ大きさに感じる対象物Sp2の立体画像を表示させることができる(図15、図16)。
Claims (11)
- 対象物を撮像することで観察画像を取得するカメラと、
前記カメラの位置及び姿勢を制御するカメラ制御装置と、
前記観察画像を表示させる表示装置と、
前記表示装置の前面の観察者の顔画像を検出して、前記顔画像を基に観察者の顔部における右の瞳孔及び左の瞳孔の三次元位置を検出する検出部と、
前記検出部によって検出された前記右の瞳孔及び左の瞳孔の三次元位置に基づいて、前記カメラの位置及び姿勢を変更するように前記カメラ制御装置を動作させる情報処理部と、
を備え、
前記情報処理部は、前記観察者の姿勢を、前記右の瞳孔の三次元位置と前記左の瞳孔の三次元位置との間の点から前記表示装置の画面に向かう軸と、前記右の瞳孔の三次元位置と前記左の瞳孔の三次元位置とを通る軸とによって決まる座標系を算出することによって検出し、前記観察者の姿勢を検出した前記座標系の変化に基づいて前記カメラの姿勢を変更するように動作させる、
画像観察システム。 - 対象物を撮像することで観察画像を取得するカメラと、
前記カメラの位置及び姿勢を制御するカメラ制御装置と、
前記観察画像を表示させる表示装置と、
前記表示装置の前面の観察者の顔画像を検出して、前記顔画像を基に観察者の顔部における右の瞳孔及び左の瞳孔の三次元位置を検出する検出部と、
前記検出部によって検出された前記顔部の三次元位置に基づいて、前記カメラの位置及び姿勢を変更するように前記カメラ制御装置を動作させる情報処理部と、
を備え、
前記情報処理部は、前記観察者の姿勢を、前記右の瞳孔の三次元位置と前記左の瞳孔の三次元位置との間の点を通り、前記右の瞳孔の三次元位置から検出した右の眼の視線方向と前記左の瞳孔の三次元位置から検出した左の眼の視線方向とから求めた方向に平行な直線である軸と、前記右の瞳孔の三次元位置と前記左の瞳孔の三次元位置とを通る軸とによって決まる座標系を算出することによって検出し、前記観察者の姿勢を検出した前記座標系の変化に基づいて前記カメラの姿勢を変更するように動作させる、
画像観察システム。 - 前記情報処理部は、前記観察者の姿勢を、前記右の瞳孔の三次元位置と前記左の瞳孔の三次元位置との間の中点から前記表示装置の画面中心に向かう軸と、前記右の瞳孔の三次元位置と前記左の瞳孔の三次元位置とを通る軸とによって決まる座標系を算出することによって検出する、
請求項1に記載の画像観察システム。 - 前記情報処理部は、前記観察者の姿勢を、前記右の瞳孔の三次元位置と前記左の瞳孔の三次元位置との間の中点を通り、前記右の瞳孔の三次元位置から検出した右の眼の視線方向と前記左の瞳孔の三次元位置から検出した左の眼の視線方向とを平均化した方向に平行な直線である軸と、前記右の瞳孔の三次元位置と前記左の瞳孔の三次元位置とを通る軸とによって決まる座標系を算出することによって検出する、
請求項2に記載の画像観察システム。 - 前記カメラは、対象物とともに複数のマーカーを撮像することで観察画像を取得し、
前記情報処理部は、前記観察画像上の前記複数のマーカーの位置を基に前記カメラの姿勢を推定し、推定した前記カメラの姿勢を基に前記観察画像のブレ及び歪を補正して前記観察画像を前記表示装置に表示させる、
請求項1~4のいずれか1項に記載の画像観察システム。 - 前記情報処理部は、前記カメラから前記複数のマーカーを基準に固定された視対象に向かうベクトルに垂直な理想画像面を設定し、前記カメラの撮像面上に対応する前記観察画像の画素の値を、前記カメラの光学中心から前記理想画像面上に投影することにより、前記観察画像を補正する、
請求項5に記載の画像観察システム。 - 対象物を撮像することで観察画像を取得する2台のカメラと、
前記2台のカメラの位置及び姿勢をそれぞれ制御するカメラ制御装置と、
前記観察画像を表示させる表示装置と、
前記表示装置の前面の観察者の顔画像を検出して、前記顔画像を基に観察者の顔部の三次元位置を検出する検出部と、
前記検出部によって検出された前記顔部の三次元位置に基づいて、前記2台のカメラの位置及び姿勢を変更するように前記カメラ制御装置を動作させる情報処理部と、
を備え、
前記検出部は、前記顔画像を基に観察者の右の瞳孔及び左の瞳孔の三次元位置を検出し、
前記情報処理部は、前記検出部によって検出された前記右の瞳孔及び前記左の瞳孔の三次元位置のそれぞれに基づいて、前記2台のカメラの位置及び姿勢を変更するように動作させ、
前記表示装置は、前記2台のカメラによって取得された2つの前記観察画像を用いて、前記表示装置の画面から所定距離の表示位置に立体画像を表示させ、
前記情報処理部は、前記2台のカメラによって取得された前記2つの観察画像間で前記観察者に対して視差を変化させるようにずらし量を調整し、
前記右の瞳孔の三次元位置から前記表示位置までのベクトルの大きさと、前記ベクトルを前記画面上の交点まで伸ばしたベクトルの距離との比を基に右の眼に対応する前記観察画像の拡大率を調整し、前記左の瞳孔の三次元位置から前記表示位置までのベクトルの大きさと、前記ベクトルを前記画面上の交点まで伸ばしたベクトルの距離との比を基に左の眼に対応する前記観察画像の拡大率を調整することによって、前記観察画像を拡大あるいは縮小する、
画像観察システム。 - 前記観察者の周囲に前記表示装置及び前記検出部が複数組配置されている、
請求項1~7のいずれか1項に記載の画像観察システム。 - 前記カメラは、内視鏡の先端において対物レンズの光軸の位置及び方向を制御可能に埋め込まれている、
請求項1~8のいずれか1項に記載の画像観察システム。 - 前記情報処理部は、前記表示装置を、検出した前記観察者の姿勢に基づいて、回転駆動するように制御する、
請求項1又は2に記載の画像観察システム。 - 前記情報処理部は、前記表示装置によって表示される画像を、検出した前記観察者の姿勢に基づいて、回転駆動するように制御する、
請求項1又は2に記載の画像観察システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019108695A JP7356697B2 (ja) | 2019-06-11 | 2019-06-11 | 画像観察システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019108695A JP7356697B2 (ja) | 2019-06-11 | 2019-06-11 | 画像観察システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020202499A JP2020202499A (ja) | 2020-12-17 |
JP7356697B2 true JP7356697B2 (ja) | 2023-10-05 |
Family
ID=73742151
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019108695A Active JP7356697B2 (ja) | 2019-06-11 | 2019-06-11 | 画像観察システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7356697B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115695976A (zh) * | 2022-10-28 | 2023-02-03 | 京东方科技集团股份有限公司 | 一种显示装置及其图像采集方法 |
Citations (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004078125A (ja) | 2002-08-22 | 2004-03-11 | Sharp Corp | 表示補正装置、表示補正方法、表示補正プログラム、および表示補正プログラムを記録した記録媒体 |
WO2004061387A1 (ja) | 2002-12-27 | 2004-07-22 | Hiroshi Arisawa | 多視点ビデオキャプチャシステム |
JP2005033319A (ja) | 2003-07-08 | 2005-02-03 | Canon Inc | 位置姿勢計測方法及び装置 |
JP2005099064A (ja) | 2002-09-05 | 2005-04-14 | Sony Computer Entertainment Inc | 表示システム、表示制御装置、表示装置、表示方法、およびユーザインタフェイス装置 |
JP2005100134A (ja) | 2003-09-25 | 2005-04-14 | Canon Inc | 複合現実感装置 |
JP2008005208A (ja) | 2006-06-22 | 2008-01-10 | Nec Corp | スポーツ競技におけるカメラ自動制御システム、カメラ自動制御方法、カメラ自動制御装置、およびプログラム |
US20100321482A1 (en) | 2009-06-17 | 2010-12-23 | Lc Technologies Inc. | Eye/head controls for camera pointing |
WO2012002347A1 (ja) | 2010-06-30 | 2012-01-05 | 富士フイルム株式会社 | 画像処理装置、撮像装置及び画像処理方法 |
JP2012118188A (ja) | 2010-11-30 | 2012-06-21 | Ditect:Kk | 撮影システム |
JP2013009111A (ja) | 2011-06-23 | 2013-01-10 | Oki Electric Ind Co Ltd | コミュニケーションシステム及びコミュニケーション装置 |
WO2013125122A1 (ja) | 2012-02-23 | 2013-08-29 | 富士フイルム株式会社 | 立体画像表示制御装置、これを備える撮像装置、及び立体画像表示制御方法 |
JP2013223666A (ja) | 2012-04-23 | 2013-10-31 | Hoya Corp | 電子内視鏡、画像処理装置、電子内視鏡システム及び立体視用画像生成方法 |
JP2014010227A (ja) | 2012-06-28 | 2014-01-20 | Nec Saitama Ltd | 携帯電子機器、その制御方法及びプログラム |
WO2014163109A1 (ja) | 2013-04-03 | 2014-10-09 | オリンパスメディカルシステムズ株式会社 | 3d映像を表示する内視鏡システム |
JP2014197109A (ja) | 2013-03-29 | 2014-10-16 | 株式会社コナミデジタルエンタテインメント | 画像表示装置、画像表示方法及びコンピュータプログラム |
WO2015016166A1 (ja) | 2013-07-29 | 2015-02-05 | 国立大学法人浜松医科大学 | 立体視硬性内視鏡 |
JP2015065514A (ja) | 2013-09-24 | 2015-04-09 | 株式会社日立国際電気 | 映像監視システム |
JP2016046780A (ja) | 2014-08-26 | 2016-04-04 | オリンパス株式会社 | 画像記録装置 |
WO2017104320A1 (ja) | 2015-12-16 | 2017-06-22 | ソニー株式会社 | 画像表示装置 |
JP2018031733A (ja) | 2016-08-26 | 2018-03-01 | 株式会社豊田中央研究所 | 距離計測装置及び距離計測方法 |
JP2018152738A (ja) | 2017-03-13 | 2018-09-27 | 株式会社小松製作所 | 表示システム、表示方法、及び遠隔操作システム |
JP2018160081A (ja) | 2017-03-22 | 2018-10-11 | 日本電気株式会社 | 画像表示制御装置、画像表示制御方法、及びプログラム |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05341206A (ja) * | 1992-06-09 | 1993-12-24 | Olympus Optical Co Ltd | 立体視内視鏡装置 |
JPH0630328A (ja) * | 1992-07-08 | 1994-02-04 | Nec Corp | 画像端末制御システム |
JPH07309577A (ja) * | 1994-05-17 | 1995-11-28 | Ohbayashi Corp | クレーン用テレビモニタ装置 |
JPH09163192A (ja) * | 1995-12-08 | 1997-06-20 | Sony Corp | 遠隔監視装置 |
JP3851687B2 (ja) * | 1996-07-04 | 2006-11-29 | オリンパス株式会社 | 手術用顕微鏡 |
JP3783977B2 (ja) * | 1997-02-17 | 2006-06-07 | キヤノン株式会社 | 立体映像装置及び立体映像表示方法 |
-
2019
- 2019-06-11 JP JP2019108695A patent/JP7356697B2/ja active Active
Patent Citations (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004078125A (ja) | 2002-08-22 | 2004-03-11 | Sharp Corp | 表示補正装置、表示補正方法、表示補正プログラム、および表示補正プログラムを記録した記録媒体 |
JP2005099064A (ja) | 2002-09-05 | 2005-04-14 | Sony Computer Entertainment Inc | 表示システム、表示制御装置、表示装置、表示方法、およびユーザインタフェイス装置 |
WO2004061387A1 (ja) | 2002-12-27 | 2004-07-22 | Hiroshi Arisawa | 多視点ビデオキャプチャシステム |
JP2005033319A (ja) | 2003-07-08 | 2005-02-03 | Canon Inc | 位置姿勢計測方法及び装置 |
JP2005100134A (ja) | 2003-09-25 | 2005-04-14 | Canon Inc | 複合現実感装置 |
JP2008005208A (ja) | 2006-06-22 | 2008-01-10 | Nec Corp | スポーツ競技におけるカメラ自動制御システム、カメラ自動制御方法、カメラ自動制御装置、およびプログラム |
US20100321482A1 (en) | 2009-06-17 | 2010-12-23 | Lc Technologies Inc. | Eye/head controls for camera pointing |
WO2012002347A1 (ja) | 2010-06-30 | 2012-01-05 | 富士フイルム株式会社 | 画像処理装置、撮像装置及び画像処理方法 |
JP2012118188A (ja) | 2010-11-30 | 2012-06-21 | Ditect:Kk | 撮影システム |
JP2013009111A (ja) | 2011-06-23 | 2013-01-10 | Oki Electric Ind Co Ltd | コミュニケーションシステム及びコミュニケーション装置 |
WO2013125122A1 (ja) | 2012-02-23 | 2013-08-29 | 富士フイルム株式会社 | 立体画像表示制御装置、これを備える撮像装置、及び立体画像表示制御方法 |
JP2013223666A (ja) | 2012-04-23 | 2013-10-31 | Hoya Corp | 電子内視鏡、画像処理装置、電子内視鏡システム及び立体視用画像生成方法 |
JP2014010227A (ja) | 2012-06-28 | 2014-01-20 | Nec Saitama Ltd | 携帯電子機器、その制御方法及びプログラム |
JP2014197109A (ja) | 2013-03-29 | 2014-10-16 | 株式会社コナミデジタルエンタテインメント | 画像表示装置、画像表示方法及びコンピュータプログラム |
WO2014163109A1 (ja) | 2013-04-03 | 2014-10-09 | オリンパスメディカルシステムズ株式会社 | 3d映像を表示する内視鏡システム |
WO2015016166A1 (ja) | 2013-07-29 | 2015-02-05 | 国立大学法人浜松医科大学 | 立体視硬性内視鏡 |
JP2015065514A (ja) | 2013-09-24 | 2015-04-09 | 株式会社日立国際電気 | 映像監視システム |
JP2016046780A (ja) | 2014-08-26 | 2016-04-04 | オリンパス株式会社 | 画像記録装置 |
WO2017104320A1 (ja) | 2015-12-16 | 2017-06-22 | ソニー株式会社 | 画像表示装置 |
JP2018031733A (ja) | 2016-08-26 | 2018-03-01 | 株式会社豊田中央研究所 | 距離計測装置及び距離計測方法 |
JP2018152738A (ja) | 2017-03-13 | 2018-09-27 | 株式会社小松製作所 | 表示システム、表示方法、及び遠隔操作システム |
JP2018160081A (ja) | 2017-03-22 | 2018-10-11 | 日本電気株式会社 | 画像表示制御装置、画像表示制御方法、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2020202499A (ja) | 2020-12-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11819273B2 (en) | Augmented and extended reality glasses for use in surgery visualization and telesurgery | |
US11510750B2 (en) | Leveraging two-dimensional digital imaging and communication in medicine imagery in three-dimensional extended reality applications | |
US20240080433A1 (en) | Systems and methods for mediated-reality surgical visualization | |
US6891518B2 (en) | Augmented reality visualization device | |
US9766441B2 (en) | Surgical stereo vision systems and methods for microsurgery | |
US9330477B2 (en) | Surgical stereo vision systems and methods for microsurgery | |
US6919867B2 (en) | Method and apparatus for augmented reality visualization | |
JP6396658B2 (ja) | 立体視ビデオ画像を観察および追跡するためのシステムおよび方法 | |
US9077973B2 (en) | Wide field-of-view stereo vision platform with dynamic control of immersive or heads-up display operation | |
US20220079706A1 (en) | Imaging system for surgical robot, and surgical robot | |
JP2020516090A (ja) | ヘッドマウントディスプレイのための光照射野キャプチャおよびレンダリング | |
CN104094162A (zh) | 动态控制沉浸或抬头显示操作的宽视场3d立体视觉平台 | |
WO2021062375A1 (en) | Augmented and extended reality glasses for use in surgery visualization and telesurgery | |
JP5870162B2 (ja) | 画像化システム | |
WO2020042638A1 (zh) | 一种头戴式显示设备 | |
US20210278671A1 (en) | Head wearable device with adjustable image sensing modules and its system | |
JP7356697B2 (ja) | 画像観察システム | |
JP2008017348A (ja) | 映像表示装置、映像信号の歪み補正処理方法 | |
Saraiji et al. | Real-time egocentric superimposition of operator's own body on telexistence avatar in virtual environment | |
US20230363820A1 (en) | Interpolation of medical images | |
US8307295B2 (en) | Method for controlling a computer generated or physical character based on visual focus | |
Schneider et al. | Gaze-aligned head-mounted camera with pan, tilt, and roll motion control for medical documentation and teaching applications | |
Ji et al. | 3D stereo viewing evaluation for the virtual haptic back project | |
JP2008017347A (ja) | 映像表示装置、映像信号の歪み補正処理方法 | |
EP4034028A1 (en) | Augmented and extended reality glasses for use in surgery visualization and telesurgery |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20190625 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220517 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230203 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230328 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230526 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230905 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230915 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7356697 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |