JP7223776B2 - 表示端末、アプリケーション制御システムおよびアプリケーション制御方法 - Google Patents
表示端末、アプリケーション制御システムおよびアプリケーション制御方法 Download PDFInfo
- Publication number
- JP7223776B2 JP7223776B2 JP2020567318A JP2020567318A JP7223776B2 JP 7223776 B2 JP7223776 B2 JP 7223776B2 JP 2020567318 A JP2020567318 A JP 2020567318A JP 2020567318 A JP2020567318 A JP 2020567318A JP 7223776 B2 JP7223776 B2 JP 7223776B2
- Authority
- JP
- Japan
- Prior art keywords
- icon
- application
- display
- display terminal
- instruction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 39
- 238000004891 communication Methods 0.000 claims description 71
- 238000010191 image analysis Methods 0.000 claims description 68
- 238000012545 processing Methods 0.000 claims description 63
- 230000004913 activation Effects 0.000 claims description 41
- 238000003384 imaging method Methods 0.000 claims description 16
- 238000004458 analytical method Methods 0.000 claims description 12
- 230000004044 response Effects 0.000 claims description 7
- 230000003213 activating effect Effects 0.000 claims description 4
- 230000006870 function Effects 0.000 description 35
- 230000004048 modification Effects 0.000 description 34
- 238000012986 modification Methods 0.000 description 34
- 238000010586 diagram Methods 0.000 description 30
- 239000000284 extract Substances 0.000 description 18
- 238000001514 detection method Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 12
- 230000009471 action Effects 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 210000003128 head Anatomy 0.000 description 4
- 238000012795 verification Methods 0.000 description 4
- 241000282472 Canis lupus familiaris Species 0.000 description 3
- 241000196324 Embryophyta Species 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000004397 blinking Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000005057 finger movement Effects 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 1
- 238000007562 laser obscuration time method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 210000001525 retina Anatomy 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/163—Wearable computers, e.g. on a belt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1686—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1698—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a sending/receiving arrangement to establish a cordless communication link, e.g. radio or infrared link, integrated cellular phone
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/26—Power supply means, e.g. regulation thereof
- G06F1/32—Means for saving power
- G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
- G06F1/3206—Monitoring of events, devices or parameters that trigger a change in power modality
- G06F1/3209—Monitoring remote activity, e.g. over telephone lines or network connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/26—Power supply means, e.g. regulation thereof
- G06F1/32—Means for saving power
- G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
- G06F1/3206—Monitoring of events, devices or parameters that trigger a change in power modality
- G06F1/3215—Monitoring of peripheral devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/26—Power supply means, e.g. regulation thereof
- G06F1/32—Means for saving power
- G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
- G06F1/3234—Power saving characterised by the action undertaken
- G06F1/325—Power saving in peripheral device
- G06F1/3265—Power saving in display device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/26—Power supply means, e.g. regulation thereof
- G06F1/32—Means for saving power
- G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
- G06F1/3234—Power saving characterised by the action undertaken
- G06F1/3287—Power saving characterised by the action undertaken by switching off individual functional units in the computer system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B2027/0178—Eyeglass type
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
- H04M1/724—User interfaces specially adapted for cordless or mobile telephones
- H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
- H04M1/72409—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
- H04M1/724094—Interfacing with a device worn on the user's body to provide access to telephonic functionalities, e.g. accepting a call, reading or composing a message
- H04M1/724097—Worn on the head
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M2250/00—Details of telephonic subscriber devices
- H04M2250/52—Details of telephonic subscriber devices including functional features of a camera
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Optics & Photonics (AREA)
- Computing Systems (AREA)
- User Interface Of Digital Computer (AREA)
- Position Input By Displaying (AREA)
Description
本実施形態では、表示端末において、不要なアイコンを表示させず、所望のアプリケーションを起動させるアプリケーション制御システムを提供する。ユーザは、多数のアイコンの中から、所望のアプリケーションを起動させるためのアイコンを探さなくてもよい。
図2は、本実施形態のHMD200のハードウェア構成図である。本実施形態のHMD200は、基本的に汎用のコンピュータ(情報処理装置)と同様の構成を有する。すなわち、HMD200は、本図に示すように、CPU211と、RAM212と、ROM213と、カメラ214と、ディスプレイ215と、音声インタフェース(I/F)216と、通信インタフェース(I/F)217と、センサ218と、各部を接続するバス219と、を備える。
図3(a)は、本実施形態のHMD200の、上記アプリケーション制御処理に関連する機能であるアプリケーション制御部(アプリ制御部と呼ぶ。)220の機能ブロック図である。アプリ制御部220は、指示受付表示部221と、撮影処理部222と、画像解析部223とアプリ起動部224と、アプリ取得部225と、を備える。
次に、本実施形態のアプリ制御部220によるアプリケーション制御処理の流れを説明する。図5は、本実施形態のアプリケーション制御処理の処理フローである。また、以下の処理は、探索指示を受け付けたことを契機に開始する。
次に、本実施形態のアプリケーション制御システムの具体的な利用例を図6(a)~図7(c)を用いて説明する。ここでは、ユーザ201が、タクシー乗場の近傍において、配車アプリケーションを起動させたい場合を例にあげて説明する。配車アプリケーションは、タクシーの配車を依頼したり、予約したり、料金を検索したりするアプリケーションである。
また、上記実施形態では、指示受付表示部221は、ユーザ201からの指示を、ユーザ201の視線を解析することにより、受け付けている。しかし、指示の受け付け手法は、これに限定されない。例えば、タッチセンサ218eによるセンシングを用いてもよい。ディスプレイ215の表示領域内で、カーソル表示に対する操作によるカーソル移動と選択動作、例えばタッチセンサ218eへの2度タップ動作等によって、当該領域が選択されたことを認識し、受け付ける。
なお、上記実施形態では、図7(a)に示すように、表示アイコン712を、ディスプレイ215の、予め定めた領域に表示しているが、これに限定されない。例えば、指示受付表示部221は、図8(b)に示すように、ディスプレイ215上の、ユーザ201の実視野の、元となる実オブジェクトの位置に、表示アイコン712を仮想オブジェクトのように表示させてもよい。
また、この表示アイコン712の表示は、ユーザ201の指示により表示と非表示との切り替え可能に構成してもよい。表示アイコン712を表示しない場合は、ユーザ201は、実オブジェクトに対応する領域自体をアイコンとして選択操作を行い、対応アプリの起動を行うようにしてもよい。この場合、指示受付表示部221は、視野範囲を撮影した画像を解析することにより、ユーザ201が選択操作した画像領域のオブジェクトからアイコンを特定し、指示を受け付ける。また、表示により、外界の認識が阻害されると判別された場合、指示受付表示部221は、表示アイコン712の表示を禁止してもよい。この場合、指示受付表示部221は、表示前に、実視野に対応する領域の画像を取得し、画像解析部223に解析させ、表示アイコン712の表示により、外界の実オブジェクト群の認識が阻害されるか否かを判別する。また、画像解析部223の解析結果に従って、指示受付表示部221は、外界の実オブジェクト群の認識が、できるだけ阻害されないような領域に表示アイコン712を表示させるよう調整してもよい。
また、上記実施形態では、画像解析部223は、取得された画像233から、ユーザ201の実視野内の図形をオブジェクトとして抽出している。しかし、抽出するオブジェクトは、図形に限定されない。例えば、看板等に表示された文字列でもよい。オブジェクトとして抽出する文字列621、622、623の例を図9(a)から図9(c)に示す。
なお、上記実施形態では、アイコン数が1つの場合、対応するアプリケーションを自動起動させている。しかし、これに限定されない。例えば、起動前にユーザ201から、実行の指示(実行指示)を受け付けるよう構成してもよい。すなわち、上記ステップS1109の前に、実行指示を受け付け、アプリ起動部224は、アプリケーションを起動する。
なお、上記実施形態では、アプリDB232において、1つのアイコンID232aに対し、1つのアプリケーションが対応づけられているが、これに限定されない。例えば、1つのアイコンID232aに対し、複数のアプリケーションが対応づけられていてもよい。
また、HMD200が備える他の機能と連携し、さらに、表示アイコン712またはアプリアイコン714の表示数を低減させてもよい。また、照合対象のアイコン数を低減させて、画像解析部223の処理負担を低減させてもよい。これにより、処理速度を速めるとともに、アイコンとして特定される確率および所望のアイコンが特定される確率を高めることができる。
また、アイコンに相当するオブジェクトの近傍にQRコード(登録商標)等の補助コードが配置されている場合、アプリ制御部220の処理負担を軽減するため、当該補助コードにより提供される補助情報を用いてもよい。例えば、アプリケーションを、当該補助コードの情報に従って取得してもよい。なお、以下、補助コードがQRコードである場合を例にあげて説明する。
なお、上記実施形態および変形例では、HMD200自体が、アイコンDB231を備え、画像解析部223がアイコンDB231を参照し、抽出したオブジェクトがアイコンであるか否かを判別している。また、アプリケーションについても、同様に、HMD200自体がアプリDB232を備え、アプリDB232のアプリ格納場所232dに従って、アプリケーションを起動させている。
次に本発明の第二の実施形態を説明する。第一の実施形態では、表示をHMD200のディスプレイ215に行っているが、本実施形態では、携帯端末とさらに連携し、表示は、携帯端末のディスプレイに行う。
次に、本発明の第三の実施形態を説明する。本実施形態では、第一の実施形態または第二の実施形態のシステム構成に、さらに、ビーコンが加わる。以下、第一の実施形態にビーコンが加わる場合を例に、本実施形態を説明する。
なお、ビーコン800から出力されるビーコン信号は、本実施形態では、基本的に、アイコンに相当するオブジェクトが近傍にあることを意味する信号である。しかしながら、ビーコン800が発信するビーコン信号には、位置情報以外の情報を追加してもよい。例えば、近傍で行われる処理を限定する情報等である。
上記各実施形態および変形例のHMD200は、さらに、使用者認証機能を備えていてもよい。
なお、第一の実施形態、第三の実施形態および各変形例では、表示端末として、HMD200を用いる場合を例にあげて説明したが、表示端末は、これに限定されない。これらの例では、カメラや通信機能を備えたスマートフォンやタブレット型端末等の携帯端末であってもよい。
200:HMD、201:ユーザ、211:CPU、212:RAM、213:ROM、214:カメラ、214a:外向カメラ、214b:視線検出カメラ、215:ディスプレイ、216:音声I/F、217:通信I/F、218:センサ、218a:GPS受信機、218b:ジャイロセンサ、218c:加速度センサ、218d:地磁気センサ、218e:タッチセンサ、219:バス、220:アプリ制御部、221:指示受付表示部、222:撮影処理部、223:画像解析部、224:アプリ起動部、225:アプリ取得部、228:ビーコン受信部、229:認証部、230:記憶装置、
231:アイコンDB、231a:アイコンID、231b:アイコン図形、231c:種別、231d:内容、232:アプリDB、232a:アイコンID、232b:アプリ名称、232c:アプリID、232d:アプリ格納場所、
233:画像、234:表示データ、235:店舗DB、236:照合データ、241:表示制御部、242:表示画像生成部、243:視線検出部、244:解析制御部、
300:サーバ、311:アイコンバンク、311a:アイコンID、311b:アイコン図形、311c:種別、311d:内容、311e:対応アプリURL、311f:関連情報、
400:携帯端末、411:CPU、412:RAM、413:ROM、414:カメラ、414a:外向カメラ、414b:視線検出カメラ、415:ディスプレイ、417:通信I/F、418:センサ、418a:GPS受信機、418b:ジャイロセンサ、418c:加速度センサ、418d:地磁気センサ、418e:タッチセンサ、419:バス、421:探索指示ボタン、422:アイコン図形、423:初期画面、
501:看板、510:実像、511:バスの図形、512:電車の図形、513:タクシーの図形、514:人物、515:花、516:雑草、517:犬、518:マーク、531:QRコード、532:アイコン付QRコード、541:レシート、550:実像、
601:画像、602:オブジェクト、603:タクシー配車アプリ、610:画像、611:図形、612:図形、613:図形、614:図形、615:図形、616:図形、617:図形、618:円、619:楕円、620:オブジェクト群、621:文字列、622:文字列、623:文字列、650:画像、
711:探索指示ボタン、712:表示アイコン、713:初期画面データ、714:アプリアイコン、715:指示ボタン、800:ビーコン
Claims (17)
- 撮影装置を備える表示端末であって、
前記撮影装置で撮影した画像を解析し、前記画像上の、外界に存在する実オブジェクトを抽出し、当該実オブジェクトに対応する画像領域の情報である領域情報を用いて当該実オブジェクトと合致するアイコン図形を探索し、合致するアイコン図形が存在した場合に当該アイコン図形を当該実オブジェクトに関連するアイコンとして特定する画像解析部と、
特定された前記アイコンのユーザによる選択指示に応じて、前記アイコンに対応付けられたアプリケーションを起動する起動部と、を備えること
を特徴とする表示端末。 - 請求項1記載の表示端末であって、
特定された前記アイコンを当該表示端末の表示装置に表示するとともに、表示された前記アイコンに対する実行指示を受け付ける指示受付表示部をさらに備え、
前記起動部は、前記実行指示を受け付けた場合、当該アイコンに対応付けられた前記アプリケーションを起動させること
を特徴とする表示端末。 - 請求項1記載の表示端末であって、
特定された前記アイコンが複数の場合、各前記アイコンを当該表示端末の表示装置に表示するとともに、表示された複数の前記アイコンの中から1つのアイコンの選択指示を受け付ける指示受付表示部をさらに備え、
前記起動部は、前記選択指示を受け付けた前記アイコンに対応付けられた前記アプリケーションを起動させること
を特徴とする表示端末。 - 請求項1記載の表示端末であって、
特定された前記アイコンに対応付けられたアプリケーションが複数の場合、各前記アプリケーションを識別するデータであるアプリアイコンを当該表示端末の表示装置に表示するとともに、表示された複数の前記アプリアイコンの中から1つのアプリアイコンの選択指示を受け付ける指示受付表示部をさらに備え、
前記起動部は、前記選択指示を受け付けた前記アプリアイコンで識別される前記アプリケーションを起動させること
を特徴とする表示端末。 - 請求項1記載の表示端末であって、
予め前記アイコン毎に、当該アイコンの形状情報および対応付けられた前記アプリケーションの処理内容を登録するアイコンデータベースをさらに備え、
前記画像解析部は、前記領域情報と前記アイコンデータベースに登録されている内容を照合し、合致する前記アイコンを、前記関連するアイコンと特定すること
を特徴とする表示端末。 - 請求項5記載の表示端末であって、
前記画像解析部は、予め定めた補助情報を用い、前記アイコンデータベースの照合対象のアイコン数を低減させること
を特徴とする表示端末。 - 請求項6記載の表示端末であって、
前記補助情報は、前記実オブジェクトに最寄りの2次元コードから取得すること
を特徴とする表示端末。 - 請求項6記載の表示端末であって、
前記補助情報は、当該表示端末が備える位置情報取得装置により取得した、当該表示端末の現在位置情報であること
を特徴とする表示端末。 - 請求項1記載の表示端末であって、
前記実オブジェクトは、図形および文字列の少なくとも一方であること
を特徴とする表示端末。 - 請求項1記載の表示端末であって、
外部装置とデータ通信を行う通信インタフェースと、
前記画像解析部が特定した前記アイコンに対応付けられた前記アプリケーションが当該表示端末の記憶装置に登録されていない場合、前記通信インタフェースを介してダウンロードする取得部と、をさらに備えること
を特徴とする表示端末。 - 請求項1記載の表示端末であって、
当該表示端末のユーザを認証する認証部をさらに備え、
前記起動部は、前記認証部により正当なユーザであると認証された場合、前記アプリケーションを起動すること
を特徴とする表示端末。 - 請求項1記載の表示端末であって、
前記画像解析部による解析を行う指示を受け付ける指示受付表示部をさらに備え、
前記画像解析部は、前記指示受付表示部を介して指示を受け付けた場合、前記画像の解析を行うこと
を特徴とする表示端末。 - 請求項1記載の表示端末であって、
外部からの信号を受信する信号受信部をさらに備え、
前記画像解析部は、前記信号受信部を介して予め定めた種類の信号を受信した場合、前記画像の解析を行うこと
を特徴とする表示端末。 - 請求項1から11いずれか1項記載の表示端末であって、
当該表示端末は、ヘッドマウントディスプレイであること
を特徴とする表示端末。 - 表示端末と、前記表示端末にネットワークを介して接続されるサーバとを備えたアプリケーション制御システムであって、
撮影装置と、
記憶装置と、
前記撮影装置で撮影した画像を解析し、前記画像上の、外界に存在する実オブジェクトを抽出し、当該実オブジェクトに対応する画像領域の情報を用いて当該実オブジェクトと合致するアイコン図形を探索し、合致するアイコン図形が存在した場合に当該アイコン図形を当該実オブジェクトに関連するアイコンとして特定する画像解析部と、
特定された前記アイコンに対応付けられたアプリケーションが、前記記憶装置に格納されているか判別し、格納されていると判別した場合、前記アイコンのユーザによる選択指示に応じて当該アプリケーションを起動する起動部と、
前記起動部が、前記アプリケーションが前記記憶装置に格納されていないと判別した場合、当該アプリケーションを前記サーバから取得する取得部と、を備えること
を特徴とするアプリケーション制御システム。 - 請求項15記載のアプリケーション制御システムであって、
前記表示端末と近距離無線通信でデータを送受信する携帯端末をさらに備え、
前記表示端末は、ヘッドマウントディスプレイであり、
前記携帯端末とデータを送受信する通信インタフェースと、
特定された前記アイコンが複数の場合、各前記アイコンを、前記通信インタフェースを介して前記携帯端末に送信するとともに、当該携帯端末から前記通信インタフェースを介して受信した複数の前記アイコンの中から1つのアイコンの選択指示を受け付ける指示受付表示部と、をさらに備え、
前記起動部は、前記選択指示を受け付けた前記アイコンに対応付けられた前記アプリケーションを起動させること
を特徴とするアプリケーション制御システム。 - 撮影装置を備える表示端末におけるアプリケーション制御方法であって、
前記撮影装置で撮影することにより画像を取得し、
取得した前記画像から、外界に存在する実オブジェクトに対応する画像領域を抽出し、
抽出した前記画像領域の情報に基づき、当該領域内の図形と合致するアイコン図形が予め登録されているか否かを判別し、
前記アイコン図形が登録されている場合、ユーザによる前記アイコン図形の選択指示に応じて当該アイコン図形に対応付けられたアプリケーションを起動すること
を特徴とするアプリケーション制御方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2023016069A JP7463578B2 (ja) | 2019-01-24 | 2023-02-06 | アプリケーション制御システムおよびアプリケーション制御方法 |
JP2024050613A JP2024071596A (ja) | 2019-01-24 | 2024-03-27 | 表示端末およびアプリケーション制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2019/002279 WO2020152828A1 (ja) | 2019-01-24 | 2019-01-24 | 表示端末、アプリケーション制御システムおよびアプリケーション制御方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023016069A Division JP7463578B2 (ja) | 2019-01-24 | 2023-02-06 | アプリケーション制御システムおよびアプリケーション制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2020152828A1 JPWO2020152828A1 (ja) | 2021-11-18 |
JP7223776B2 true JP7223776B2 (ja) | 2023-02-16 |
Family
ID=71736846
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020567318A Active JP7223776B2 (ja) | 2019-01-24 | 2019-01-24 | 表示端末、アプリケーション制御システムおよびアプリケーション制御方法 |
JP2023016069A Active JP7463578B2 (ja) | 2019-01-24 | 2023-02-06 | アプリケーション制御システムおよびアプリケーション制御方法 |
JP2024050613A Pending JP2024071596A (ja) | 2019-01-24 | 2024-03-27 | 表示端末およびアプリケーション制御方法 |
Family Applications After (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023016069A Active JP7463578B2 (ja) | 2019-01-24 | 2023-02-06 | アプリケーション制御システムおよびアプリケーション制御方法 |
JP2024050613A Pending JP2024071596A (ja) | 2019-01-24 | 2024-03-27 | 表示端末およびアプリケーション制御方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220057636A1 (ja) |
JP (3) | JP7223776B2 (ja) |
CN (1) | CN113272766A (ja) |
WO (1) | WO2020152828A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117480860A (zh) * | 2021-06-08 | 2024-01-30 | 株式会社半导体能源研究所 | 显示装置及显示*** |
USD985619S1 (en) * | 2021-08-23 | 2023-05-09 | Waymo Llc | Display screen or portion thereof with graphical user interface |
JP7506135B2 (ja) | 2022-11-15 | 2024-06-25 | ソフトバンク株式会社 | 情報処理装置、プログラム、及び表示方法 |
CN116048710B (zh) * | 2023-04-03 | 2023-09-29 | 荣耀终端有限公司 | 应用标识的显示方法、电子设备及可读存储介质 |
JP7481567B1 (ja) | 2023-12-13 | 2024-05-10 | PayPay株式会社 | アプリケーション管理システム、アプリケーション管理装置、アプリケーション管理方法、およびプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014006582A (ja) | 2012-06-21 | 2014-01-16 | Yahoo Japan Corp | 拡張現実表示装置、拡張現実表示システム、拡張現実表示方法、及び拡張現実表示プログラム |
JP2014531662A (ja) | 2011-09-19 | 2014-11-27 | アイサイト モバイル テクノロジーズ リミテッド | 拡張現実システムのためのタッチフリーインターフェース |
WO2018029831A1 (ja) | 2016-08-10 | 2018-02-15 | 三菱電機ビルテクノサービス株式会社 | ビル用ビーコンシステム |
JP2018055416A (ja) | 2016-09-29 | 2018-04-05 | セイコーエプソン株式会社 | 表示装置、頭部装着型表示装置、表示装置の制御方法、及び、プログラム |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000194726A (ja) * | 1998-10-19 | 2000-07-14 | Sony Corp | 情報処理装置及び方法、情報処理システム並びに提供媒体 |
WO2011119167A2 (en) * | 2010-03-26 | 2011-09-29 | Hewlett-Packard Development Company, L.P. | Associated file |
KR101795040B1 (ko) * | 2011-06-21 | 2017-11-08 | 삼성전자주식회사 | 휴대단말기의 어플리케이션 설치 방법 |
KR101343609B1 (ko) * | 2011-08-24 | 2014-02-07 | 주식회사 팬택 | 증강 현실 데이터를 이용할 수 있는 어플리케이션 자동 추천 장치 및 방법 |
JP6044079B2 (ja) * | 2012-02-06 | 2016-12-14 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
US9690457B2 (en) * | 2012-08-24 | 2017-06-27 | Empire Technology Development Llc | Virtual reality applications |
US9924102B2 (en) * | 2013-03-14 | 2018-03-20 | Qualcomm Incorporated | Image-based application launcher |
WO2014157886A1 (en) * | 2013-03-27 | 2014-10-02 | Samsung Electronics Co., Ltd. | Method and device for executing application |
JP6108926B2 (ja) | 2013-04-15 | 2017-04-05 | オリンパス株式会社 | ウェアラブル装置、プログラム及びウェアラブル装置の表示制御方法 |
EP3012587A4 (en) | 2013-06-17 | 2017-03-08 | Sony Corporation | Image processing device, image processing method, and program |
US10943111B2 (en) * | 2014-09-29 | 2021-03-09 | Sony Interactive Entertainment Inc. | Method and apparatus for recognition and matching of objects depicted in images |
JP6596989B2 (ja) * | 2015-07-02 | 2019-10-30 | 富士通株式会社 | 表示制御方法、表示制御プログラム、情報処理端末及びヘッドマウントディスプレイ |
US10360734B2 (en) * | 2017-05-05 | 2019-07-23 | Unity IPR ApS | Contextual applications in a mixed reality environment |
JP6972682B2 (ja) * | 2017-06-13 | 2021-11-24 | セイコーエプソン株式会社 | 頭部装着型表示装置、及び、頭部装着型表示装置の制御方法 |
WO2018230656A1 (ja) * | 2017-06-16 | 2018-12-20 | 本田技研工業株式会社 | 地点情報提供システム、地点情報提供方法、およびプログラム |
US10325409B2 (en) * | 2017-06-16 | 2019-06-18 | Microsoft Technology Licensing, Llc | Object holographic augmentation |
WO2018230649A1 (ja) | 2017-06-16 | 2018-12-20 | 本田技研工業株式会社 | 情報提供システム、情報提供方法、およびプログラム |
-
2019
- 2019-01-24 JP JP2020567318A patent/JP7223776B2/ja active Active
- 2019-01-24 CN CN201980088453.5A patent/CN113272766A/zh active Pending
- 2019-01-24 US US17/421,220 patent/US20220057636A1/en active Pending
- 2019-01-24 WO PCT/JP2019/002279 patent/WO2020152828A1/ja active Application Filing
-
2023
- 2023-02-06 JP JP2023016069A patent/JP7463578B2/ja active Active
-
2024
- 2024-03-27 JP JP2024050613A patent/JP2024071596A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014531662A (ja) | 2011-09-19 | 2014-11-27 | アイサイト モバイル テクノロジーズ リミテッド | 拡張現実システムのためのタッチフリーインターフェース |
JP2014006582A (ja) | 2012-06-21 | 2014-01-16 | Yahoo Japan Corp | 拡張現実表示装置、拡張現実表示システム、拡張現実表示方法、及び拡張現実表示プログラム |
WO2018029831A1 (ja) | 2016-08-10 | 2018-02-15 | 三菱電機ビルテクノサービス株式会社 | ビル用ビーコンシステム |
JP2018055416A (ja) | 2016-09-29 | 2018-04-05 | セイコーエプソン株式会社 | 表示装置、頭部装着型表示装置、表示装置の制御方法、及び、プログラム |
Also Published As
Publication number | Publication date |
---|---|
CN113272766A (zh) | 2021-08-17 |
WO2020152828A1 (ja) | 2020-07-30 |
US20220057636A1 (en) | 2022-02-24 |
JPWO2020152828A1 (ja) | 2021-11-18 |
JP2023041955A (ja) | 2023-03-24 |
JP7463578B2 (ja) | 2024-04-08 |
JP2024071596A (ja) | 2024-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7223776B2 (ja) | 表示端末、アプリケーション制御システムおよびアプリケーション制御方法 | |
CA3041544C (en) | Settlement method, entrance control method, and apparatus | |
KR101330962B1 (ko) | 결제 방식 선택을 위한 결제 디바이스 제어방법 | |
RU2648576C2 (ru) | Устройство и способ для выдачи информации взаимодействия посредством использования изображения на устройстве отображения | |
CN111464692B (zh) | 近场通信卡片确定方法、装置、存储介质及电子设备 | |
JP7003136B2 (ja) | レジシステム | |
KR20160105279A (ko) | 전자 결제 시스템을 포함하는 전자 장치 및 그의 동작 방법 | |
KR20160099464A (ko) | 결제 처리 방법 및 이를 지원하는 전자 장치 | |
CN110023935B (zh) | 信息处理终端、信息处理设备、信息处理方法、信息处理***和程序 | |
TWI466041B (zh) | Payment method, payment method, information recording medium, and portable terminal | |
JP2022511545A (ja) | 近接場情報認証方法、近接場情報認証装置、電子機器及びコンピュータ記憶媒体 | |
US20160260080A1 (en) | Terminal and operating method thereof | |
US20210304210A1 (en) | Information processing method, information processing system, and information processing apparatus | |
JP6757482B1 (ja) | 認証システム、認証端末、ユーザ端末、認証方法、及びプログラム | |
KR20160147340A (ko) | 디스플레이 장치 및 제어 방법 | |
CN114730425A (zh) | 无现金结算***以及信息终端 | |
JP6584855B2 (ja) | 入力支援装置、入力支援方法及びプログラム | |
US11790345B2 (en) | Card to card transaction initiation using light fidelity (“LIFI”) enabled smart glasses | |
JP3156068U (ja) | 地図情報提供システム | |
JP7133107B1 (ja) | 不正検知システム及びプログラム | |
KR20170039464A (ko) | 사용자 장치, 서비스 제공 장치, 조명 장치, 그를 포함하는 결제 시스템, 그의 제어 방법 및 컴퓨터 프로그램이 기록된 기록매체 | |
KR102430833B1 (ko) | 간편결제 플랫폼과 자동연결로 통합된 전자출입명부 서비스 제공 방법 | |
CN110795952B (zh) | 基于智能手机实现电子证件识别及应用场景关联处理的***及其方法 | |
JP2008165346A (ja) | ポイント管理システム | |
JP2021163264A (ja) | 情報処理方法、情報処理システム、情報処理装置及び情報処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210702 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210702 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20211020 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220726 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220915 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230110 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230206 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7223776 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |