JP7415912B2 - 装置、システム、方法およびプログラム - Google Patents
装置、システム、方法およびプログラム Download PDFInfo
- Publication number
- JP7415912B2 JP7415912B2 JP2020214218A JP2020214218A JP7415912B2 JP 7415912 B2 JP7415912 B2 JP 7415912B2 JP 2020214218 A JP2020214218 A JP 2020214218A JP 2020214218 A JP2020214218 A JP 2020214218A JP 7415912 B2 JP7415912 B2 JP 7415912B2
- Authority
- JP
- Japan
- Prior art keywords
- camera
- subject
- display
- image
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 26
- 238000001514 detection method Methods 0.000 claims description 59
- 238000004891 communication Methods 0.000 claims description 37
- 238000003384 imaging method Methods 0.000 claims description 24
- 230000008859 change Effects 0.000 claims description 21
- 210000001508 eye Anatomy 0.000 claims description 18
- 230000004044 response Effects 0.000 claims description 14
- 230000033001 locomotion Effects 0.000 claims description 5
- 230000007704 transition Effects 0.000 claims description 4
- 238000012545 processing Methods 0.000 description 18
- 230000008569 process Effects 0.000 description 13
- 238000012544 monitoring process Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 238000003860 storage Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000004424 eye movement Effects 0.000 description 3
- 210000003128 head Anatomy 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 2
- 238000002570 electrooculography Methods 0.000 description 2
- 238000010248 power generation Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000003306 harvesting Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000010865 sewage Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B64—AIRCRAFT; AVIATION; COSMONAUTICS
- B64C—AEROPLANES; HELICOPTERS
- B64C39/00—Aircraft not otherwise provided for
- B64C39/02—Aircraft not otherwise provided for characterised by special use
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0094—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/12—Target-seeking control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
- H04N23/632—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
- H04N23/661—Transmitting camera control signals through networks, e.g. control via the Internet
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Aviation & Aerospace Engineering (AREA)
- Human Computer Interaction (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Studio Devices (AREA)
- Closed-Circuit Television Systems (AREA)
- User Interface Of Digital Computer (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Camera Bodies And Camera Details Or Accessories (AREA)
Description
[先行技術文献]
[特許文献]
[特許文献1] 特許6241107号
図1は、本実施形態に係る看視システム1を示す。看視システム1は、プラントの看視を行うものであり、無人機2と、装置3とを備える。
無人機2は、プラント内を移動する。無人機2は、プラント内の予め設定されたルート上を移動してよい。無人機2は、自律的な移動が可能であってもよいし、図示しない操作装置や、装置3によって遠隔操縦が可能であってもよい。
無人機2は、カメラ21と、通信装置22とを有する。
カメラ21は、撮像を行って撮像画像を通信装置22に供給する。本実施形態では一例として、カメラ21は、常時、撮像を行って動画像(映像とも称する)を生成してよい。カメラ21は、向き(撮像方向とも称する)を制御可能であってよく、本実施形態では一例として、通信装置22から供給される後述の向き変更指示に応じて、向きを変更してよい。
通信装置22は、無線または有線で装置3と通信する。
また、通信装置22は、向き変更指示を装置3から受信してカメラ21に供給してよい。
装置3は、無人機2を用いたプラントの看視を支援する。装置3は、通信部31と、表示制御部32と、表示部33と、撮像部34と、検出部35と、向き変更部36とを有する。なお、装置3は、プラントにおける管理室、計器室などに配置されてよい。本実施形態では一例として、装置3は、据え置き型のPCなどであってよい。
通信部31は、無線または有線で無人機2の通信装置22と通信する。通信部31は、取得部の一例であり、通信装置22を介してカメラ21から撮像画像を取得する。通信部31は、撮像画像を表示制御部32に供給してよい。また、通信部31は、後述の向き変更部36から供給される向き変更指示を通信装置22に送信してもよい。
表示制御部32は、表示部33を制御する。表示制御部32は、表示対象の画像(表示画像とも称する)を表示部33に供給して表示画面に表示させてよい。表示画像は、一例として、カメラ21により撮像された撮像画像そのものであってよい。
表示制御部32は、表示画像を検出部35および向き変更部36にも供給してよい。
表示部33は、表示制御部32から供給される表示画像を表示画面に表示する。表示部33は、他の内容をさらに表示してもよい。
撮像部34は、ユーザの目を撮像する。撮像部34は、撮像した目の画像を検出部35に供給してよい。なお、本実施形態においては一例として、撮像部34は、表示部33の表示画面の外周部に設けられるが、他の位置に設けられてもよい。
検出部35は、目の画像に基づいて種々の検出を行う。検出部35は、操作検出部351と、注視位置検出部352と、被写体検出部353とを有する。
操作検出部351は、ユーザの目の動きから、被写体に対するズーム操作を検出する。操作検出部351は、撮像部34から供給される目の画像を用いてズーム操作を検出してよい。ズーム操作は、ズームイン操作およびズームアウト操作の両方であってよい。
注視位置検出部352は、表示画面内でユーザの見ている注視位置を検出する。
被写体検出部353は、表示画面内でユーザの見ている被写体(対象被写体とも称する)を検出する。例えば、被写体検出部353は、プラント内の機器や設備ごとに撮像画像や外観の特徴データを予め記憶してよい。被写体検出部353は、表示画像を表示制御部32から取得し、表示画像に含まれる被写体のうち、注視位置を含む領域に対してエッジ抽出処理などの画像処理を行って取得される被写体の外観を、予め記憶した撮像画像や特徴データと照合することで、対象被写体を検出してよい。これに代えて、プラント内の各機器や設備の外面には、予め固有のコードが設けられてよく、被写体検出部353は、注視位置を含む領域に対してエッジ抽出処理などの画像処理を行って取得される被写体の外面から検出されるコードを解析することで対象被写体を検出してもよい。コードは、バーコードや2次元コード(一例としてQRコード(登録商標))などであってよく、貼付、印刷、または、刻印の少なくとも1つによって機器や設備に設けられてよい。
向き変更部36は、対象被写体がカメラ21の撮像領域から外れないよう、カメラ21の向きを変更する。例えば、向き変更部36は、対象被写体が撮像領域の中央部に位置するようカメラ21の向きを変更してよい。向き変更部36は、通信部31を介してカメラ21の向き変更指示をカメラ21に供給することで、カメラ21の向きを変更してよい。
図2は、装置3の動作を示す。装置3は、ステップS11~S27の処理によってプラントの看視を行う。
図3は、表示画面の例を示す。この図に示されるように、無人機2のカメラ21により撮像されたプラントの外観が表示画面に表示された状態において、図中の2重線枠で囲まれた被写体をユーザが注視すると、この被写体が撮像領域から外れないようにカメラ21の向きが変更される。
なお、上記の実施形態においては、装置3は表示部33を有することとして説明したが、表示部33を有しなくてもよい。この場合には、表示制御部32は外部接続された表示装置に撮像画像を表示させてよい。
2 無人機
3 装置
21 カメラ
22 通信装置
31 通信部
32 表示制御部
33 表示部
34 撮像部
35 検出部
36 向き変更部
351 操作検出部
352 注視位置検出部
353 被写体検出部
2200 コンピュータ
2201 DVD-ROM
2210 ホストコントローラ
2212 CPU
2214 RAM
2216 グラフィックコントローラ
2218 ディスプレイデバイス
2220 入/出力コントローラ
2222 通信インタフェース
2224 ハードディスクドライブ
2226 DVD-ROMドライブ
2230 ROM
2240 入/出力チップ
2242 キーボード
Claims (9)
- 向きを制御可能なカメラから撮像画像を取得する取得部と、
前記撮像画像を表示画面に表示させる表示制御部と、
前記表示画面内でユーザの見ている被写体を検出する検出部と、
前記被写体が前記カメラの撮像領域から外れないよう前記カメラの向きを変更する向き変更部と、
を備え、
前記向き変更部は、前記表示制御部に表示される表示画像の遷移から、当該表示画像内での前記被写体の移動速度を算出し、基準時間の経過後に前記被写体が前記表示画像外に外れると判定されることに応じて、前記被写体が前記表示画像から外れないよう前記カメラの向きを変更する装置。 - 前記向き変更部は、前記被写体が撮像領域の中央部に位置するよう前記カメラの向きを変更する、請求項1に記載の装置。
- 前記検出部は、ユーザの目の動きから、前記被写体に対するズーム操作を検出し、
当該装置は、
前記ユーザが基準頻度以上に瞬きする場合に前記ズーム操作に応じて前記表示画面内で前記被写体の大きさを大きくする大きさ変更部をさらに備える、請求項1または2に記載の装置。 - 請求項1から3の何れか一項に記載の装置と、
向きを制御可能なカメラと、
前記カメラにより撮像された撮像画像を前記装置に送信する通信装置と、
を備えるシステム。 - 前記カメラおよび前記通信装置は、無人機に搭載される、請求項4に記載のシステム。
- 前記無人機は、予め設定されたルート上を移動する、請求項5に記載のシステム。
- 前記カメラは、監視カメラである、請求項5に記載のシステム。
- 向きを制御可能なカメラから撮像画像を取得する取得段階と、
前記撮像画像を表示画面に表示させる表示制御段階と、
前記表示画面内でユーザの見ている被写体を検出する検出段階と、
前記被写体が前記カメラの撮像領域から外れないよう前記カメラの向きを変更する向き変更段階と、
を備え、
前記向き変更段階では、前記表示制御段階により表示される表示画像の遷移から、当該表示画像内での前記被写体の移動速度を算出し、基準時間の経過後に前記被写体が前記表示画像外に外れると判定されることに応じて、前記被写体が前記表示画像から外れないよう前記カメラの向きを変更する方法。 - コンピュータを、
向きを制御可能なカメラから撮像画像を取得する取得部と、
前記撮像画像を表示画面に表示させる表示制御部と、
前記表示画面内でユーザの見ている被写体を検出する検出部と、
前記被写体が前記カメラの撮像領域から外れないよう前記カメラの向きを変更する向き変更部
として機能させ、
前記向き変更部は、前記表示制御部に表示される表示画像の遷移から、当該表示画像内での前記被写体の移動速度を算出し、基準時間の経過後に前記被写体が前記表示画像外に外れると判定されることに応じて、前記被写体が前記表示画像から外れないよう前記カメラの向きを変更するプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020214218A JP7415912B2 (ja) | 2020-12-23 | 2020-12-23 | 装置、システム、方法およびプログラム |
US17/457,674 US20220201194A1 (en) | 2020-12-23 | 2021-12-06 | Apparatus, system, method and storage medium |
EP21215069.2A EP4020970A1 (en) | 2020-12-23 | 2021-12-16 | Apparatus, system, method and program |
CN202111578836.6A CN114666535A (zh) | 2020-12-23 | 2021-12-22 | 装置、***、方法以及记录介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020214218A JP7415912B2 (ja) | 2020-12-23 | 2020-12-23 | 装置、システム、方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022100073A JP2022100073A (ja) | 2022-07-05 |
JP7415912B2 true JP7415912B2 (ja) | 2024-01-17 |
Family
ID=79287896
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020214218A Active JP7415912B2 (ja) | 2020-12-23 | 2020-12-23 | 装置、システム、方法およびプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220201194A1 (ja) |
EP (1) | EP4020970A1 (ja) |
JP (1) | JP7415912B2 (ja) |
CN (1) | CN114666535A (ja) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012118188A (ja) | 2010-11-30 | 2012-06-21 | Ditect:Kk | 撮影システム |
JP2013192184A (ja) | 2012-03-15 | 2013-09-26 | Casio Comput Co Ltd | 被写体追尾表示制御装置、被写体追尾表示制御方法およびプログラム |
JP2017151672A (ja) | 2016-02-24 | 2017-08-31 | 株式会社ミツトヨ | 眼で操作するポインティングデバイス、および、それを利用した測定システム |
JP2017212495A (ja) | 2016-05-23 | 2017-11-30 | 富士通株式会社 | 撮影制御装置、プログラム及び方法 |
WO2019087870A1 (ja) | 2017-10-30 | 2019-05-09 | Necフィールディング株式会社 | 作業支援装置、作業支援方法及びプログラム |
JP2019208197A (ja) | 2017-11-30 | 2019-12-05 | 株式会社コンピュータシステム研究所 | 監視装置、監視プログラム、記憶媒体、および、監視方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5683098A (en) | 1979-12-11 | 1981-07-07 | Matsushita Electric Ind Co Ltd | Bothhside metallic foil stretcher for printed circuit |
JPWO2004032086A1 (ja) * | 2002-10-04 | 2006-02-02 | 富士通株式会社 | ロボットシステムおよび自律走行ロボット |
US8320623B2 (en) * | 2009-06-17 | 2012-11-27 | Lc Technologies, Inc. | Systems and methods for 3-D target location |
-
2020
- 2020-12-23 JP JP2020214218A patent/JP7415912B2/ja active Active
-
2021
- 2021-12-06 US US17/457,674 patent/US20220201194A1/en active Pending
- 2021-12-16 EP EP21215069.2A patent/EP4020970A1/en active Pending
- 2021-12-22 CN CN202111578836.6A patent/CN114666535A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012118188A (ja) | 2010-11-30 | 2012-06-21 | Ditect:Kk | 撮影システム |
JP2013192184A (ja) | 2012-03-15 | 2013-09-26 | Casio Comput Co Ltd | 被写体追尾表示制御装置、被写体追尾表示制御方法およびプログラム |
JP2017151672A (ja) | 2016-02-24 | 2017-08-31 | 株式会社ミツトヨ | 眼で操作するポインティングデバイス、および、それを利用した測定システム |
JP2017212495A (ja) | 2016-05-23 | 2017-11-30 | 富士通株式会社 | 撮影制御装置、プログラム及び方法 |
WO2019087870A1 (ja) | 2017-10-30 | 2019-05-09 | Necフィールディング株式会社 | 作業支援装置、作業支援方法及びプログラム |
JP2019208197A (ja) | 2017-11-30 | 2019-12-05 | 株式会社コンピュータシステム研究所 | 監視装置、監視プログラム、記憶媒体、および、監視方法 |
Also Published As
Publication number | Publication date |
---|---|
US20220201194A1 (en) | 2022-06-23 |
CN114666535A (zh) | 2022-06-24 |
EP4020970A1 (en) | 2022-06-29 |
JP2022100073A (ja) | 2022-07-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10228763B2 (en) | Gaze direction mapping | |
KR20230074780A (ko) | 검출된 손 제스처들에 응답한 터치리스 포토 캡처 | |
JP5765019B2 (ja) | 表示制御装置、表示制御方法、およびプログラム | |
CN110310329A (zh) | 操作显示设备的方法、信息处理***及非暂时性存储介质 | |
CN114727022A (zh) | 在全向视频中的跟踪感兴趣对象 | |
US11016559B2 (en) | Display system and display control method of display system | |
WO2012154989A2 (en) | Point-of-view object selection | |
US10776943B2 (en) | System and method for 3D association of detected objects | |
CN107402577A (zh) | 无人机及其控制方法 | |
JP2016224919A (ja) | データ閲覧装置、データ閲覧方法、及びプログラム | |
WO2022006116A1 (en) | Augmented reality eyewear with speech bubbles and translation | |
US11297244B2 (en) | Click-and-lock zoom camera user interface | |
EP3751422A1 (en) | Information processing device, information processing method, and program | |
US10771707B2 (en) | Information processing device and information processing method | |
JP7419003B2 (ja) | 情報表示装置、情報表示方法及び情報表示システム | |
TWI750822B (zh) | 用於為目標設置可呈現的虛擬對象的方法和系統 | |
JP7415912B2 (ja) | 装置、システム、方法およびプログラム | |
JP2018046427A (ja) | 目標捜索装置、目標捜索方法及び目標捜索プログラム | |
EP2829150B1 (en) | Using camera input to determine axis of rotation and navigation | |
Leung et al. | Toward a large-scale multimodal event-based dataset for neuromorphic deep learning applications | |
US20160274765A1 (en) | Providing a context related view with a wearable apparatus | |
WO2024049513A1 (en) | Methods and apparatus for forecasting collisions using egocentric video data | |
EP4207087A1 (en) | Method and system for creating and storing map targets | |
US20240118786A1 (en) | Augmented reality system and method for collecting custom datasets for 3d hand-object interaction pose estimation | |
TWI759764B (zh) | 基於光通信裝置疊加虛擬物件的方法、電子設備以及電腦可讀取記錄媒體 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220304 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230110 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230307 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230704 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230830 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231205 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231218 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7415912 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |