JP2019049486A - Display control device, display control method, and program - Google Patents
Display control device, display control method, and program Download PDFInfo
- Publication number
- JP2019049486A JP2019049486A JP2017174227A JP2017174227A JP2019049486A JP 2019049486 A JP2019049486 A JP 2019049486A JP 2017174227 A JP2017174227 A JP 2017174227A JP 2017174227 A JP2017174227 A JP 2017174227A JP 2019049486 A JP2019049486 A JP 2019049486A
- Authority
- JP
- Japan
- Prior art keywords
- user
- unit
- display control
- display
- route guidance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Navigation (AREA)
- Train Traffic Observation, Control, And Security (AREA)
- Traffic Control Systems (AREA)
Abstract
Description
本発明は、表示制御装置、表示制御方法およびプログラムに関する。 The present invention relates to a display control device, a display control method, and a program.
近日、インターネットを通じて提供されるルート検索サービスが広く利用されている。例えば、鉄道のルート検索サービスでは、ユーザが出発駅、目的駅および出発日時などの検索条件を入力すると、検索結果としてルート案内がユーザに提示される。ユーザは、一般的に、目的地に向けて出発する前に、PC(Personal Computer)またはスマートフォンなどを用いてこのようなルート検索サービスを利用する。 Recently, route search services provided via the Internet are widely used. For example, in the railway route search service, when the user inputs search conditions such as a departure station, a destination station, and a departure date and time, route guidance is presented to the user as a search result. A user generally uses such a route search service using a personal computer (PC) or a smartphone before leaving for a destination.
しかし、ユーザが目的地に向けて出発する前にルート案内を確認しても、目的地に到着する途中にユーザがルート案内を忘れる場合、および、実際の移動がルート案内の通りに進まない場合などがあり、このような場合、ユーザは現在地から目的駅に至るためのルート案内の提示を望み得る。また、同じ方面に向かう複数の種類の列車が存在する乗車駅または乗換駅において、ユーザは駅の電子案内表を見てもどの列車に乗るべきか迷う場合がある。 However, even if the user confirms route guidance before leaving for the destination, the user may forget the route guidance while arriving at the destination, and the actual movement does not follow the route guidance. In such a case, the user may wish to present route guidance for reaching the destination station from the current location. In addition, in a boarding station or a transfer station where there are multiple types of trains heading in the same direction, the user may be confused as to which train should be taken even by looking at the station's electronic guide sheet.
特許文献1には、グラス型端末を用いたナビゲーションシステムが開示されている。上記、グラス型端末は、設定された目的地と現在位置に基づき、現在位置から目的地までの移動ルートを検索し、検索された移動ルートに従って移動方向を表示する。特許文献1に記載されたナビゲーションシステムに関連して、逐次ユーザに最新のルート案内を提示するシステムを構築することが考えられる。しかし、ユーザが望んでいないタイミングでルート案内が繰り返し提示されることは、ユーザにとって煩雑である。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、ユーザにとって有用な状況でユーザにルート案内を提示することが可能な、新規かつ改良された表示制御装置、表示制御方法およびプログラムを提供することにある。 Therefore, the present invention has been made in view of the above problems, and an object of the present invention is to provide a new and improved display capable of presenting route guidance to a user in a useful situation for the user. Provided are a control device, a display control method, and a program.
上記課題を解決するために、本発明のある観点によれば、目的地情報を記憶する記憶部と、ユーザの現在地を示す位置情報を取得する位置情報取得部と、前記ユーザの困惑状態を検出する困惑検出部と、前記困惑検出部により前記ユーザの困惑状態が検出されたことに基づき、前記位置情報が示す前記ユーザの現在地から前記記憶部に記憶された目的地情報が示す目的地に移動するためのルート案内を表示部に表示させる表示制御部と、を備える、表示制御装置が提供される。 To solve the above problems, according to one aspect of the present invention, a storage unit that stores destination information, a position information acquisition unit that acquires position information that indicates the current position of the user, and the confusion state of the user are detected. Moving from the current location of the user indicated by the position information to the destination indicated by the destination information stored in the storage unit, based on the confusion detection unit detecting the confusion and the confusion detection unit detecting the confusion state of the user And a display control unit that causes the display unit to display route guidance for the display control unit.
前記表示制御部は、前記ユーザの困惑状態の程度に応じて、前記ルート案内を異なる態様で前記表示部に表示させてもよい。 The display control unit may cause the display unit to display the route guidance in a different manner in accordance with the degree of confusion state of the user.
前記表示制御部は、前記ユーザの困惑状態の程度が高いほど情報量が低くなるように、前記ルート案内を前記表示部に表示させてもよい。 The display control unit may cause the display unit to display the route guidance such that the amount of information decreases as the degree of confusion of the user increases.
前記困惑検出部は、前記ユーザの眼球運動に基づいて前記ユーザの困惑状態を検出してもよい。 The puzzle detection unit may detect the puzzle state of the user based on eye movement of the user.
前記困惑検出部は、前記ユーザの頭部運動に基づいて前記ユーザの困惑状態を検出してもよい。 The puzzle detection unit may detect a puzzle state of the user based on head movement of the user.
前記表示制御装置は、前記ユーザの視野の少なくとも一部を含む撮像画像を取得する画像取得部と、前記撮像画像から所定のオブジェクトを検出するオブジェクト検出部と、をさらに備え、前記表示制御部は、前記困惑検出部により前記ユーザの困惑状態が検出され、かつ、前記オブジェクト検出部により前記所定のオブジェクトが検出されたことに基づき、前記ルート案内を前記表示部に表示させてもよい。 The display control device further includes an image acquisition unit that acquires a captured image including at least a part of the field of view of the user, and an object detection unit that detects a predetermined object from the captured image, and the display control unit The route guidance may be displayed on the display unit based on the confusion detection unit detecting the confusion state of the user and the object detection unit detecting the predetermined object.
前記ルート案内は、移動機関を利用するルートを案内し、前記所定のオブジェクトは、前記移動機関の乗物の出発を案内する電子案内表であってもよい。 The route guidance may guide a route using a mobile engine, and the predetermined object may be an electronic guidance table for guiding a departure of a vehicle of the mobile engine.
前記困惑検出部は、前記位置情報が示す前記ユーザの現在地が設定エリアに到達したことに基づいて前記困惑状態の検出処理を開始してもよい。 The confusion detection unit may start the confusion state detection processing based on the current position of the user indicated by the position information reaching a setting area.
前記画像取得部は、前記位置情報が示す前記ユーザの現在地が設定エリアに到達したことに基づいて前記撮像画像の取得を開始してもよい。 The image acquisition unit may start acquisition of the captured image based on the current position of the user indicated by the position information reaching a setting area.
また、上記課題を解決するために、本発明の別の観点によれば、目的地情報を記憶することと、ユーザの現在地を示す位置情報を取得することと、前記ユーザの困惑状態を検出することと、前記ユーザの困惑状態が検出されたことに基づき、前記位置情報が示す前記ユーザの現在地から前記目的地情報が示す目的地に移動するためのルート案内を表示部に表示させることと、を含む、表示制御方法が提供される。 In order to solve the above problems, according to another aspect of the present invention, storing destination information, acquiring position information indicating a user's current location, and detecting the user's confusion state Displaying on the display unit a route guidance for moving from the current location of the user indicated by the position information to a destination indicated by the destination information based on the detection of the confusion state of the user; And a display control method is provided.
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータに、目的地情報を記憶することと、ユーザの現在地を示す位置情報を取得することと、前記ユーザの困惑状態を検出することと、前記ユーザの困惑状態が検出されたことに基づき、前記位置情報が示す前記ユーザの現在地から前記目的地情報が示す目的地に移動するためのルート案内を表示部に表示させることと、を実行させるための、プログラムが提供される。 In order to solve the above problems, according to another aspect of the present invention, storing destination information in a computer, acquiring position information indicating the current position of the user, and confusion state of the user And displaying on the display unit a route guidance for moving from the current location of the user indicated by the position information to the destination indicated by the destination information, based on the detection of the user's confusion state. A program is provided to execute the program.
以上説明したように本発明によれば、ユーザにとって有用な状況でユーザにルートの検索結果を提示することが可能である。 As described above, according to the present invention, it is possible to present route search results to a user in a situation useful to the user.
以下に添付図面を参照しながら、本発明の実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the present specification and the drawings, components having substantially the same functional configuration will be assigned the same reference numerals and redundant description will be omitted.
また、本明細書及び図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットを付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、複数の構成要素の各々に同一符号のみを付する。 Further, in the present specification and the drawings, a plurality of components having substantially the same functional configuration may be distinguished by attaching different alphabets to the same reference numerals. However, when it is not necessary to distinguish each of a plurality of components having substantially the same functional configuration, each of the plurality of components is only given the same reference numeral.
<ルート案内システムの構成>
本発明の実施形態は、ユーザに指定された目的地から出発地に至るまでのルートを検索し、検索結果をユーザに提示するシステムに関する。当該システムは、例えば、鉄道、バスおよび飛行機などの公共の移動機関を利用するルートの検索に適用され得る。以下では、本発明の実施形態の一例として、鉄道を利用するルートの検索を行い、検索結果であるルート案内をユーザに提示するルート案内システムを説明する。
<Configuration of route guidance system>
An embodiment of the present invention relates to a system for searching for a route from a destination designated by a user to a departure place and presenting search results to the user. The system can be applied, for example, to search for routes using public mobiles such as railways, buses and planes. In the following, as an example of the embodiment of the present invention, a route guidance system will be described which searches for a route using a railway and presents the user with route guidance as a search result.
図1は、本発明の実施形態によるルート案内システムの構成を示す説明図である。図1に示したように、本発明の実施形態によるルート案内システムは、ウェアラブル端末20およびルート検索サーバ30を含む。
FIG. 1 is an explanatory view showing the configuration of a route guidance system according to an embodiment of the present invention. As shown in FIG. 1, a route guidance system according to an embodiment of the present invention includes a
ウェアラブル端末20およびルート検索サーバ30は図1に示したようにネットワーク12を介して接続される。ネットワーク12は、ネットワーク12に接続されている装置から送信される情報の有線、または無線の伝送路である。例えば、ネットワーク12は、インターネット、電話回線網、衛星ネットワークなどの公衆回線網や、Ethernet(登録商標)を含む各種のLAN(Local Area Network)、WAN(Wide Area Network)などを含んでもよい。また、ネットワーク12は、IP−VPN(Internet Protocol−Virtual Private Network)などの専用回線網を含んでもよい。
The
ウェアラブル端末20は、ユーザに装着された状態でユーザによって携帯される。本発明の実施形態によるウェアラブル端末20は、例えば出発駅および目的駅を指定する検索条件をルート検索サーバ30に送信し、ルート検索サーバ30から受信される検索結果をルート案内として表示する。
The
図2は、ウェアラブル端末20が表示するルート案内の具体例を示す説明図である。図2に示したルート案内は、出発駅がA駅であり目的駅がC駅である場合のルート案内であり、A駅でxxx線に乗車した後、B駅でyyy線に乗り換えるべきことが示されている。その他、ルート案内は、出発駅であるA駅およびB駅の発車時刻、C駅への到着時刻、および運賃などの情報を含む。
FIG. 2 is an explanatory view showing a specific example of route guidance displayed by the
なお、図2においてはルート案内を表示する表示制御装置の一例としてグラス型のウェアラブル端末を示したが、表示制御装置はグラス型のウェアラブル端末に限定されない。例えば、表示制御装置は腕時計型またはネックレス型などの他の種類のウェアラブル端末であってもよい。また、表示制御装置はウェアラブル端末に限定されず、表示制御装置はスマートフォンおよび携帯電話などの携帯端末であってもよい。 Although FIG. 2 shows a glass-type wearable terminal as an example of a display control device for displaying route guidance, the display control device is not limited to the glass-type wearable terminal. For example, the display control device may be a watch-type or other type of wearable terminal such as a necklace-type. Further, the display control device is not limited to the wearable terminal, and the display control device may be a mobile terminal such as a smartphone and a mobile phone.
ルート検索サーバ30は、鉄道の路線情報、各駅の列車時刻表などを記憶しており、ウェアラブル端末20から受信した検索条件に従ってルートを検索し、検索結果をウェアラブル端末20に送信する。
The
(背景)
上述したウェアラブル端末20のユーザは、目的地に向けて出発する前にルート検索を実行してルート案内を確認することができる。しかし、目的地に到着する途中にユーザがルート案内を忘れる場合、および、実際の移動がルート案内の通りに進まない場合などがあり、このような場合、ユーザは現在地から目的駅に至るためのルート案内の提示を望み得る。同じ方面に向かう複数の種類の列車が存在する乗車駅または乗換駅において、ユーザは駅の電子案内表を見てもどの列車に乗るべきか迷う場合がある。
(background)
The user of the
この点に関し、ユーザが目的地に向けて出発した後も、ユーザの現在地から目的地までのルート案内を逐次ユーザに提示する方法も考えられる。しかし、ユーザが望んでいないタイミングでルート案内が繰り返し提示されることは、ユーザにとって煩雑である。 In this regard, it is also conceivable to provide the user with route guidance from the user's current location to the destination sequentially, even after the user departs for the destination. However, it is troublesome for the user that route guidance is repeatedly presented at a time when the user does not want it.
本発明の幾つかの実施形態によれば、ユーザにとって有用な状況でルート案内を提示することが可能である。特に、本発明の幾つかの実施形態によれば、ユーザが乗車すべき列車が分からず困惑している状況においてユーザにルート案内を提示し得る。以下、このような本発明の幾つかの実施形態を順次詳細に説明する。なお、本明細書においては各実施形態によるウェアラブル端末をウェアラブル端末20と総称し、各実施形態によるウェアラブル端末をウェアラブル端末21、22のように末尾に異なる数字を付して区別する。
According to some embodiments of the present invention, it is possible to present route guidance in a context that is useful to the user. In particular, according to some embodiments of the present invention, route guidance may be presented to the user in situations where the user is confused and unsure of the train to be boarded. Hereinafter, some embodiments of the present invention will be sequentially described in detail. In the present specification, wearable terminals according to the respective embodiments are collectively referred to as the
<第1の実施形態>
(ウェアラブル端末の構成)
図3は、第1の実施形態によるウェアラブル端末21の構成を示す説明図である。図3に示したように、第1の実施形態によるウェアラブル端末21は、通信部220、表示部224、操作部228、撮像部232、収音部236、位置推定部240、センサ部244、制御部250および記憶部270を備える。
First Embodiment
(Configuration of wearable terminal)
FIG. 3 is an explanatory view showing the configuration of the
通信部220は、ルート検索サーバ30と通信するインタフェースである。通信部220は、操作部228または収音部236を介して入力された出発地、目的地または出発時刻を含む検索条件をルート検索サーバ30に送信する送信部、および、ルート検索サーバ30から検索結果であるルート案内を受信する受信部としての機能を有する。
The
表示部224は、ルート案内を表示する。表示部224は、例えば、ウェアラブル端末21のレンズに貼られた液晶フィルムおよび当該液晶フィルムに映像を投影する投影部で構成されてもよい。
The
操作部228は、ユーザがウェアラブル端末21に情報または指示を入力するために操作を行う構成である。ユーザは、操作部228を操作することで、出発地、目的地または出発時刻を含む検索条件を入力することが可能である。当該操作部228は、例えばタッチパネルであってもよいし、ボタンであってもよい。
The
撮像部232は、撮像面に集光された被写体像を電気的信号に変換することにより撮像画像を取得する画像取得部である。本実施形態による撮像部232の撮像範囲は、ユーザの視野の少なくとも一部を含む。このため、撮像部232はユーザの目の近くに位置し、撮像部232の画角はユーザの視線方向を含むことが望ましい。
The
収音部236は、空気的な振動である音声を電気的信号に変換することにより音声データを取得する音声取得部である。ユーザは、出発地、目的地または出発時刻を発声することにより、検索条件を入力することが可能である。
The
位置推定部240は、ウェアラブル端末21の現在位置を推定する。位置推定部240は、GPS(Global Positioning System)衛星から受信される航法メッセージを解析することによりウェアラブル端末21の現在位置を推定してもよい。または、位置推定部240は、複数のアクセスポイントから受信されるビーコンの受信強度に基づきウェアラブル端末21の現在位置を推定してもよい。
The
センサ部244は、ユーザの動きや状態を検出する。具体的には、第1の実施形態によるセンサ部244はユーザの眼球運動を検出するセンサを有し、このようなセンサとしては、眼電位センサおよび赤外線センサなどが挙げられる。
The
制御部250は、ウェアラブル端末21の動作全般を制御する。特に、本実施形態による制御部250は、ユーザの困惑状態が検出された場合に、ユーザの現在地から目的地に至るためのルート案内を表示部224に表示させる。このような制御部250の機能は、図3に示したように、エリア判定部251、眼球運動パターン検出部252、眼球運動速度特定部253、オブジェクト検出部254、検索制御部255および表示制御部256の機能に細分化される。
The
エリア判定部251は、ウェアラブル端末21(ユーザ)が設定エリアに到達したか否かを判定する。設定エリアは、駅のホームやコンコースに設置されており、列車の出発を案内する電子案内表を含むエリアである。エリア判定部251は、例えば、位置推定部240により推定されるウェアラブル端末21の現在位置に基づいてウェアラブル端末21が設定エリアに到達したか否かを判定することが可能である。また、電子案内表の近傍に設置されたアクセスポイントが所定のフラグを含むビーコンを送信する場合、エリア判定部251は、通信部220により所定のフラグを含むビーコンが受信されたか否かに基づいてウェアラブル端末21が設定エリアに到達したか否かを判定することが可能である。
The
ここで、本実施形態は、電子案内表を見てユーザが困惑している状況においてユーザにルート案内を提示するものである。ユーザが電子案内表の近くに存在する場合、ユーザが電子案内表を見て困惑している可能性があるので、ユーザが電子案内表を見ているか否かを検出するための構成、およびユーザが困惑しているか否かを検出するための構成が動作していることが望ましい。一方、ユーザが電子案内表の近くに存在しない場合、ユーザが電子案内表を見て困惑している可能性が低いので、ユーザが電子案内表を見ているか否かを検出するための構成、およびユーザが困惑しているか否かを検出するための構成は停止していてもよい。このような観点から、ユーザが電子案内表を見ていることを検出するための撮像部232およびオブジェクト検出部254、ユーザの困惑状態を検出するためのセンサ部244および眼球運動パターン検出部252などは、ウェアラブル端末21が設定エリアに到達したことに基づいて起動され、ウェアラブル端末21が設定エリアから離れたことに基づいて停止されてもよい。
Here, in the present embodiment, route guidance is presented to the user in a situation where the user is confused by looking at the electronic guidance table. The configuration for detecting whether or not the user is looking at the electronic guidance list, since the user may be confused by looking at the electronic guidance list if the user is near the electronic guidance list, and the user It is desirable that a configuration for detecting whether or not the user is confused is operating. On the other hand, when the user is not present near the electronic guidance table, there is a low possibility that the user is confused by looking at the electronic guidance table, so that the configuration for detecting whether the user is looking at the electronic guidance table And the configuration for detecting whether or not the user is puzzled may be stopped. From such a viewpoint, an
眼球運動パターン検出部252は、センサ部244から出力される情報に基づき、ユーザの眼球運動から所定の眼球運動パターンを検出する。所定の眼球運動パターンは、ユーザが困惑している際に生じると考えられる運動パターンであり、例えば、眼球が1または2以上の方向上で所定回数(例えば、5回)以上に亘って反復するパターンであってもよい。すなわち、眼球運動パターン検出部252は、ユーザの困惑状態を検出する困惑検出部としての機能を有する。
The eye movement
眼球運動速度特定部253は、眼球運動パターン検出部252により所定の眼球運動パターンが検出された際の眼球の運動速度を特定する。眼球の運動速度が速いほどユーザの困惑状態の程度が高いと考えられる。このため、眼球運動速度特定部253は、ユーザの困惑状態の程度を特定する構成とも言える。
The eye movement
オブジェクト検出部254は、撮像部232により取得された撮像画像から所定のオブジェクトを検出する。本実施形態において、当該所定のオブジェクトは電子案内表である。撮像部232の撮像範囲がユーザの視野を含むことは上述した通りであるので、オブジェクト検出部254が所定のオブジェクト(電子案内表)を検出したことは、所定のオブジェクトがユーザの視野に入っている可能性が高いことを意味する。なお、オブジェクト検出部254は、撮像画像に所定時間(例えば、5秒)以上に亘って所定のオブジェクトが含まれる場合に当該所定のオブジェクトを検出してもよい。
The
検索制御部255は、ユーザにより指定された出発駅、目的駅または出発時刻を含む検索条件を通信部220にルート検索サーバ30へ送信させ、目的駅を記憶部270に記憶させる。その後、検索制御部255は、電子案内表を見てユーザが困惑している状況において、ユーザの現在地または現在駅、および記憶部270に事前に記憶された目的駅を含む検索条件を通信部220にルート検索サーバ30に送信させる。すなわち、検索制御部255は、エリア判定部251によりウェアラブル端末21が設定エリアに到達したと判定され、眼球運動パターン検出部252により所定の眼球運動パターンが検出され、オブジェクト検出部254により撮像画像から所定のオブジェクトが検出されたことに基づき、上記検索条件を通信部220にルート検索サーバ30へ送信させる。ユーザの現在地としては位置推定部240により推定された位置情報を使用可能である。検索制御部255は、地図情報を用いてユーザの現在地から現在駅を得ることも可能である。
The
表示制御部256は、ルート検索サーバ30から通信部220により受信されるルート案内を表示部224に表示させる。例えば、表示制御部256は、ユーザの困惑状態の程度に応じてルート案内を異なる態様で表示部224に表示させる。表示制御部256は、困惑状態の程度として、眼球運動速度特定部253により特定された眼球の運動速度を参照する。ここで、ユーザの困惑状態の程度が高い場合にはユーザには簡単な情報が提示されることが望ましいと考えられる。このため、表示制御部256は、ユーザの困惑状態の程度が高いほど、すなわち眼球運動速度特定部253により特定された眼球の運動速度が速いほど情報量が少なくなるようにルート案内を表示部224に表示させてもよい。以下、図4および図5を参照して、異なる態様で表示されるルート案内の具体例を説明する。
The
図4は、簡易形式のルート案内を示す説明図である。図5は、通常形式のルート案内を示す説明図である。図4および図5は、ユーザがB駅に到着して乗換が分からずに電子案内表を見て困惑している状況で表示され得るルート案内である。表示制御部256は、眼球運動速度特定部253により特定された眼球の運動速度が所定値(例えば、250deg/sec)以上であった場合、通常形式よりも情報量が少ない簡易形式のルート案内を表示部224に表示させてもよい。簡易形式のルート案内は、例えば図4に示したように、乗換先のホームの番号(7番線)、乗換先の列車の発車時刻(10:35発)および車両種類(yyy線普通)、および行動を促す指示文(に乗って下さい。)のみを含む。
FIG. 4 is an explanatory view showing a simplified form of route guidance. FIG. 5 is an explanatory view showing route guidance of a normal type. FIGS. 4 and 5 show route guidance that can be displayed in a situation where the user arrives at station B and sees the electronic guidance table without being aware of a transfer. When the movement speed of the eyeball specified by the eye movement
これに対し、表示制御部256は、眼球運動速度特定部253により特定された眼球の運動速度が所定値(例えば、250deg/sec)未満であった場合、全体のルート情報を含む通常形式のルート案内を表示部224に表示させてもよい。通常形式のルート案内は、例えば図5に示したように、乗換先のホームの番号(7番線)、乗換先の列車の発車時刻(10:35発)および車両種類(yyy線普通)に加え、目的駅への到着時刻(10:49着)および所要時間などの情報を含む。
On the other hand, when the movement speed of the eyeball specified by the eye movement
図3を参照してウェアラブル端末21の構成の説明に戻ると、記憶部270は、ウェアラブル端末21の動作に用いられる多様な情報を記憶する。例えば、記憶部270は、制御部250が上述した各機能を実現するためのプログラムを記憶する。また、記憶部270は、検索条件として用いられた目的駅を示す情報を記憶する。
Returning to the description of the configuration of the
(ウェアラブル端末の動作)
以上、第1の実施形態によるウェアラブル端末21の構成を説明した。続いて、図6を参照して、第1の実施形態によるウェアラブル端末21の動作を整理する。
(Operation of wearable terminal)
The configuration of the
図6は、第1の実施形態によるウェアラブル端末21の動作を示すフローチャートである。図6に示したように、まず、ユーザにより指定された出発駅および目的駅を含む検索条件を通信部220がルート検索サーバ30に送信し(S304)、検索結果としてルート検索サーバ30から受信されるルート案内を表示部224が表示する(S308)。ここで、記憶部270は検索条件として用いられた目的駅を示す情報を記憶する(S312)。
FIG. 6 is a flowchart showing the operation of the
その後、ユーザが設定エリアに到達したとエリア判定部251が判定すると(S316/Yes)、エリア判定部251は、撮像部232およびセンサ部244を起動する(S320)。そして、センサ部244の出力情報から眼球運動パターン検出部252により所定の眼球運動パターンが検出された場合(S324/Yes)、眼球運動速度特定部253が眼球の運動速度を特定する(S328)。さらに、撮像部232が取得した撮像画像からオブジェクト検出部254により所定のオブジェクトが検出されたことに基づき(S332/Yes)、検索制御部255が、ユーザの現在地または現在駅、およびS312において記憶部270に記憶された目的駅を含む検索条件を通信部220にルート検索サーバ30に送信させる(S336)。
Thereafter, when the
そして、表示制御部256は、眼球運動速度特定部253により特定された眼球の運動速度が所定値以上であった場合(S340/Yes)、簡易形式のルート案内を表示部224に表示させる(S344)。一方、表示制御部256は、眼球運動速度特定部253により特定された眼球の運動速度が所定値未満であった場合(S340/No)、通常形式のルート案内を表示部224に表示させる(S348)。
Then, when the movement speed of the eyeball specified by the eye movement
(作用効果)
以上説明したように、本実施形態によれば、ルート案内に従って移動中のユーザが、電子案内表に表示された複数の列車情報を見比べてどの列車に乗るべきか困惑している状況において、ユーザにルート案内(乗車案内)を提示することが可能である。すなわち、ユーザにとって有用な状況においてユーザにルート案内を提示することが可能である。また、本実施形態によるウェアラブル端末21はユーザの困惑状態の程度が高い場合に具体的かつ簡潔に今すべきことをユーザに提示することが可能である。
(Action effect)
As described above, according to the present embodiment, the user who is moving according to the route guidance is compared with the plurality of train information displayed in the electronic guidance table, and in a situation where he is confused as to which train to ride It is possible to present route guidance (ride guidance) on That is, it is possible to present route guidance to the user in a situation useful to the user. Also, the
<第2の実施形態>
以上、本発明の第1の実施形態を説明した。続いて、本発明の第2の実施形態を説明する。本発明の第2の実施形態によるウェアラブル端末22は、ユーザの困惑状態を第1の実施形態によるウェアラブル端末21と異なる方法で検出する。
Second Embodiment
The first embodiment of the present invention has been described above. Subsequently, a second embodiment of the present invention will be described. The wearable terminal 22 according to the second embodiment of the present invention detects the puzzled state of the user in a method different from the
(ウェアラブル端末の構成)
図7は、第2の実施形態によるウェアラブル端末22の構成を説明図である。図7に示したように、第2の実施形態によるウェアラブル端末22は、通信部220、表示部224、操作部228、撮像部232、収音部236、位置推定部240、センサ部248、制御部260および記憶部270を備える。通信部220、表示部224、操作部228、撮像部232、収音部236、位置推定部240および記憶部270の構成は第1の実施形態で説明した通りであるので、ここでの詳細な説明を省略する。
(Configuration of wearable terminal)
FIG. 7 is an explanatory diagram of a configuration of the wearable terminal 22 according to the second embodiment. As shown in FIG. 7, the wearable terminal 22 according to the second embodiment includes a
センサ部248は、ユーザの頭部運動を検出するセンサを有し、このようなセンサとしては、加速度センサおよびジャイロセンサなどが挙げられる。
The
制御部260は、エリア判定部251、オブジェクト検出部254、頭部運動パターン検出部262、頭部運動速度特定部263、検索制御部265、表示制御部266、の機能を有する。エリア判定部251、オブジェクト検出部254の機能は第1の実施形態で説明した通りである。
The
頭部運動パターン検出部262は、センサ部248から出力される情報に基づき、ユーザの頭部運動から所定の頭部運動パターンを検出する。所定の頭部運動パターンは、ユーザが困惑している際に生じると考えられる運動パターンであり、例えば、頭部が1または2以上の方向上で所定回数(例えば、5回)以上に亘って反復するパターンであってもよい。すなわち、頭部運動パターン検出部262は、ユーザの困惑状態を検出する困惑検出部としての機能を有する。
The head movement
頭部運動速度特定部263は、頭部運動パターン検出部262により所定の頭部運動パターンが検出された際の頭部の運動速度を特定する。頭部の運動速度が速いほどユーザの困惑状態の程度が高いと考えられる。このため、頭部運動速度特定部263は、ユーザの困惑状態の程度を特定する構成とも言える。
The head movement
検索制御部265は、電子案内表を見てユーザが困惑している状況において、ユーザの現在地または現在駅、および記憶部270に事前に記憶された目的駅を含む検索条件を通信部220にルート検索サーバ30に送信させる。すなわち、検索制御部265は、エリア判定部251によりウェアラブル端末22が設定エリアに到達したと判定され、頭部運動パターン検出部262により所定の眼球運動パターンが検出され、オブジェクト検出部254により撮像画像から所定のオブジェクトが検出されたことに基づき、上記検索条件を通信部220にルート検索サーバ30へ送信させる。
The
表示制御部266は、ルート検索サーバ30から通信部220により受信されるルート案内を表示部224に表示させる。例えば、表示制御部266は、ユーザの困惑状態の程度に応じてルート案内を異なる態様で表示部224に表示させる。表示制御部266は、困惑状態の程度として、頭部運動速度特定部263により特定された頭部の運動速度を参照する。ここで、ユーザの困惑状態の程度が高い場合にはユーザには簡単な情報が提示されることが望ましいと考えられる。このため、表示制御部266は、ユーザの困惑状態の程度が高いほど、すなわち頭部運動速度特定部263により特定された眼球の運動速度が速いほど情報量が少なくなるようにルート案内を表示部224に表示させてもよい。情報量が少ない簡易形式のルート案内および全体のルート情報を含む通常形式のルート案内は図4および図5を参照して説明した通りである。
The
(ウェアラブル端末の動作)
以上、第2の実施形態によるウェアラブル端末22の構成を説明した。続いて、図8を参照して、第2の実施形態によるウェアラブル端末22の動作を整理する。
(Operation of wearable terminal)
The configuration of the wearable terminal 22 according to the second embodiment has been described above. Subsequently, the operation of the wearable terminal 22 according to the second embodiment will be organized with reference to FIG.
図8は、第2の実施形態によるウェアラブル端末22の動作を示すフローチャートである。図8に示したS424、S428およびS440の処理が図6を参照して説明した第1の実施形態によるウェアラブル端末21の動作と異なるので、以下ではS424、S428およびS440の処理を主に説明する。
FIG. 8 is a flowchart showing the operation of the wearable terminal 22 according to the second embodiment. Since the processing of S424, S428 and S440 shown in FIG. 8 is different from the operation of the
S320において撮像部232およびセンサ部248が起動された後、センサ部248の出力情報から頭部運動パターン検出部262により所定の頭部運動パターンが検出された場合(S424/Yes)、頭部運動速度特定部263が眼球の運動速度を特定する(S428)。さらに、撮像部232が取得した撮像画像からオブジェクト検出部254により所定のオブジェクトが検出されたことに基づき(S332/Yes)、検索制御部255が、ユーザの現在地または現在駅、およびS312において記憶部270に記憶された目的駅を含む検索条件を通信部220にルート検索サーバ30に送信させる(S336)。
When the head movement
そして、表示制御部256は、頭部運動速度特定部263により特定された眼球の運動速度が所定値以上であった場合(S440/Yes)、簡易形式のルート案内を表示部224に表示させる(S344)。一方、表示制御部256は、頭部運動速度特定部263により特定された眼球の運動速度が所定値未満であった場合(S440/No)、通常形式のルート案内を表示部224に表示させる(S348)。
Then, when the motion speed of the eyeball specified by the head motion
以上説明したように、第2の実施形態によれば、頭部運動からユーザの困惑状態を検出して、ユーザにとって有用な状況でユーザにルート案内を提示することが可能である。 As described above, according to the second embodiment, it is possible to detect the puzzled state of the user from the head movement and present route guidance to the user in a useful situation for the user.
<ハードウェア構成>
以上、本発明の各実施形態を説明した。上述した困惑状態の検出や表示制御などの情報処理は、ソフトウェアと、以下に説明するウェアラブル端末20のハードウェアとの協働により実現される。
<Hardware configuration>
The embodiments of the present invention have been described above. The information processing such as the detection of the puzzled state and the display control described above is realized by the cooperation of software and the hardware of the
図9は、ウェアラブル端末20のハードウェア構成を示したブロック図である。ウェアラブル端末20は、CPU(Central Processing Unit)201と、ROM(Read Only Memory)202と、RAM(Random Access Memory)203と、ホストバス204と、を備える。また、ウェアラブル端末20は、ブリッジ205と、外部バス206と、インタフェース207と、入力装置208と、表示装置209と、音声出力装置210と、ストレージ装置(HDD)211と、ドライブ212と、ネットワークインタフェース215とを備える。
FIG. 9 is a block diagram showing the hardware configuration of the
CPU201は、演算処理装置および制御装置として機能し、各種プログラムに従ってウェアラブル端末20内の動作全般を制御する。また、CPU201は、マイクロプロセッサであってもよい。ROM202は、CPU201が使用するプログラムや演算パラメータ等を記憶する。RAM203は、CPU201の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはCPUバスなどから構成されるホストバス204により相互に接続されている。これらCPU201、ROM202およびRAM203とソフトウェアとの協働により、制御部250または制御部260の機能が実現され得る。
The
ホストバス204は、ブリッジ205を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス206に接続されている。なお、必ずしもホストバス204、ブリッジ205および外部バス206を分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
The
入力装置208は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、センサ、スイッチおよびレバーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU201に出力する入力制御回路などから構成されている。ウェアラブル端末20のユーザは、該入力装置208を操作することにより、ウェアラブル端末20に対して各種のデータを入力したり処理動作を指示したりすることができる。
The
表示装置209は、液晶ディスプレイ(LCD)装置、プロジェクター装置、OLED(Organic Light Emitting Diode)装置およびランプなどの表示装置を含む。また、音声出力装置210は、スピーカおよびヘッドホンなどの音声出力装置を含む。
The
ストレージ装置211は、本実施形態にかかるウェアラブル端末20の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置211は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。ストレージ装置211は、例えば、HDD(Hard Disk Drive)またはSSD(Solid Strage Drive)、あるいは同等の機能を有するメモリ等で構成される。このストレージ装置211は、ストレージを駆動し、CPU201が実行するプログラムや各種データを格納する。
The
ドライブ212は、記憶媒体用リーダライタであり、ウェアラブル端末20に内蔵、あるいは外付けされる。ドライブ212は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体24に記録されている情報を読み出して、RAM203またはストレージ装置211に出力する。また、ドライブ212は、リムーバブル記憶媒体24に情報を書き込むこともできる。
The
ネットワークインタフェース215は、例えば、ネットワーク12に接続するための通信デバイス等で構成された通信インタフェースである。また、ネットワークインタフェース215は、無線LAN(Local Area Network)対応通信装置であっても、有線による通信を行うワイヤー通信装置であってもよい。
The
<むすび>
以上説明したように、本発明の各実施形態によれば、ルート案内に従って移動中のユーザが、電子案内表に表示された複数の列車情報を見比べてどの列車に乗るべきか困惑している状況において、ユーザにルート案内(乗車案内)を提示することが可能である。すなわち、ユーザにとって有用な状況においてユーザにルート案内を提示することが可能である。
<End>
As described above, according to each embodiment of the present invention, a user who is moving according to route guidance is confused about which train should be taken by comparing a plurality of train information displayed in the electronic guidance table. It is possible to present route guidance (ride guidance) to the user. That is, it is possible to present route guidance to the user in a situation useful to the user.
なお、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。 Although the preferred embodiments of the present invention have been described in detail with reference to the accompanying drawings, the present invention is not limited to such examples. It is obvious that those skilled in the art to which the present invention belongs can conceive of various changes or modifications within the scope of the technical idea described in the claims. Of course, it is understood that these also fall within the technical scope of the present invention.
例えば、上記ではユーザの困惑状態の検出を眼球運動または頭部運動に基づいて行う例を説明したが、困惑状態の検出はかかる例に限定されない。例えば、眼球運動または頭部運動に加えて、あるいは代えて、ユーザの脈拍または歩行速度に基づいてユーザの困惑状態を検出することも可能である。ウェアラブル端末20が有するイヤホンに脈拍検出手段を実装することにより、ユーザの脈拍数を容易に取得することが可能である。眼球運動または頭部運動に加えてユーザの脈拍数を用いてユーザの困惑状態を検出する場合、ウェアラブル端末20は、例えば眼球の運動速度が所定値以上であり、かつ脈拍数が所定数以上であることに基づき簡易形式のルート案内を表示してもよい。
For example, although the example which performs detection of a user's confusion state based on eye movement or head movement was explained above, detection of a confusion state is not limited to this example. For example, in addition to or instead of eye movement or head movement, it is also possible to detect the user's puzzled state based on the user's pulse or walking speed. By installing the pulse detection means in the earphones of the
また、撮像画像に所定時間以上に亘って所定のオブジェクト(電子案内表)が含まれることは、ユーザが乗車すべき列車が分からずに困惑して電子案内表を見続けている可能性がある。そこで、ウェアラブル端末20は、撮像画像に所定時間以上に亘って所定のオブジェクト(電子案内表)が含まれることをユーザの困惑状態として検出してもよい。
In addition, when the captured image includes a predetermined object (electronic guidance table) for a predetermined time or more, the user may be confused and continue looking at the electronic guidance table without knowing the train to be taken . Therefore, the
また、本明細書のウェアラブル端末20の処理における各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、ウェアラブル端末20の処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
In addition, each step in the processing of the
また、ウェアラブル端末20に内蔵されるCPU、ROMおよびRAMなどのハードウェアに、上述したウェアラブル端末20の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
In addition, it is possible to create a computer program for causing hardware such as a CPU, a ROM, and a RAM built in the
20、21、22 ウェアラブル端末
30 ルート検索サーバ
220 通信部
224 表示部
228 操作部
232 撮像部
236 収音部
240 位置推定部
244 センサ部
248 センサ部
250、260 制御部
251 エリア判定部
252 眼球運動パターン検出部
253 眼球運動速度特定部
254 オブジェクト検出部
255、265 検索制御部
256、266 表示制御部
262 頭部運動パターン検出部
263 頭部運動速度特定部
270 記憶部
20, 21, 22
Claims (11)
ユーザの現在地を示す位置情報を取得する位置情報取得部と、
前記ユーザの困惑状態を検出する困惑検出部と、
前記困惑検出部により前記ユーザの困惑状態が検出されたことに基づき、前記位置情報が示す前記ユーザの現在地から前記記憶部に記憶された目的地情報が示す目的地に移動するためのルート案内を表示部に表示させる表示制御部と、
を備える、表示制御装置。 A storage unit that stores destination information;
A position information acquisition unit that acquires position information indicating the current position of the user;
A puzzle detection unit for detecting a puzzle state of the user;
The route guidance for moving from the current location of the user indicated by the position information to the destination indicated by the destination information stored in the storage unit is detected based on the confusion detection unit detecting the confusion state of the user. A display control unit to be displayed on the display unit;
A display control device comprising:
前記ユーザの視野の少なくとも一部を含む撮像画像を取得する画像取得部と、
前記撮像画像から所定のオブジェクトを検出するオブジェクト検出部と、
をさらに備え、
前記表示制御部は、前記困惑検出部により前記ユーザの困惑状態が検出され、かつ、前記オブジェクト検出部により前記所定のオブジェクトが検出されたことに基づき、前記ルート案内を前記表示部に表示させる、請求項1〜4のいずれか一項に記載の表示制御装置。 The display control device
An image acquisition unit configured to acquire a captured image including at least a part of the field of view of the user;
An object detection unit that detects a predetermined object from the captured image;
And further
The display control unit causes the display unit to display the route guidance based on the confusion detection unit detecting the confusion state of the user and the object detection unit detecting the predetermined object. The display control apparatus as described in any one of Claims 1-4.
前記所定のオブジェクトは、前記移動機関の乗物の出発を案内する電子案内表である、請求項6に記載の表示制御装置。 The route guidance guides a route using a mobile organization,
The display control device according to claim 6, wherein the predetermined object is an electronic guidance table for guiding departure of a vehicle of the mobile engine.
ユーザの現在地を示す位置情報を取得することと、
前記ユーザの困惑状態を検出することと、
前記ユーザの困惑状態が検出されたことに基づき、前記位置情報が示す前記ユーザの現在地から前記目的地情報が示す目的地に移動するためのルート案内を表示部に表示させることと、
を含む、表示制御方法。 Remembering destination information,
Obtaining location information indicating a user's current location;
Detecting the puzzled state of the user;
Displaying on the display unit a route guidance for moving from the current location of the user indicated by the position information to a destination indicated by the destination information, based on the detection of the puzzled state of the user;
Display control method including.
目的地情報を記憶することと、
ユーザの現在地を示す位置情報を取得することと、
前記ユーザの困惑状態を検出することと、
前記ユーザの困惑状態が検出されたことに基づき、前記位置情報が示す前記ユーザの現在地から前記目的地情報が示す目的地に移動するためのルート案内を表示部に表示させることと、
を実行させるための、プログラム。 On the computer
Remembering destination information,
Obtaining location information indicating a user's current location;
Detecting the puzzled state of the user;
Displaying on the display unit a route guidance for moving from the current location of the user indicated by the position information to a destination indicated by the destination information, based on the detection of the puzzled state of the user;
A program for running
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017174227A JP6992336B2 (en) | 2017-09-11 | 2017-09-11 | Display control device, display control method and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017174227A JP6992336B2 (en) | 2017-09-11 | 2017-09-11 | Display control device, display control method and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019049486A true JP2019049486A (en) | 2019-03-28 |
JP6992336B2 JP6992336B2 (en) | 2022-02-03 |
Family
ID=65905512
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017174227A Active JP6992336B2 (en) | 2017-09-11 | 2017-09-11 | Display control device, display control method and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6992336B2 (en) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001165693A (en) * | 1999-09-30 | 2001-06-22 | Toshiba Corp | Pedestrian guidance system and pedestrian guiding method |
JP2011232270A (en) * | 2010-04-30 | 2011-11-17 | Clarion Co Ltd | Navigation device and help presentation method thereof |
US20150051826A1 (en) * | 2013-08-19 | 2015-02-19 | International Business Machines Corporation | System and method for providing global positioning system (gps) feedback to a user |
JP2015153325A (en) * | 2014-02-18 | 2015-08-24 | 富士通フロンテック株式会社 | information processing apparatus, operation support method and operation support program |
JP2017015485A (en) * | 2015-06-30 | 2017-01-19 | 明伸興産株式会社 | Mounting type navigation system |
-
2017
- 2017-09-11 JP JP2017174227A patent/JP6992336B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001165693A (en) * | 1999-09-30 | 2001-06-22 | Toshiba Corp | Pedestrian guidance system and pedestrian guiding method |
JP2011232270A (en) * | 2010-04-30 | 2011-11-17 | Clarion Co Ltd | Navigation device and help presentation method thereof |
US20150051826A1 (en) * | 2013-08-19 | 2015-02-19 | International Business Machines Corporation | System and method for providing global positioning system (gps) feedback to a user |
JP2015153325A (en) * | 2014-02-18 | 2015-08-24 | 富士通フロンテック株式会社 | information processing apparatus, operation support method and operation support program |
JP2017015485A (en) * | 2015-06-30 | 2017-01-19 | 明伸興産株式会社 | Mounting type navigation system |
Also Published As
Publication number | Publication date |
---|---|
JP6992336B2 (en) | 2022-02-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101748226B1 (en) | Method for discovering augmented reality object, and terminal | |
EP2395326A2 (en) | Method for guiding route using augmented reality and mobile terminal using the same | |
US10591310B2 (en) | Travel information providing method, travel information providing apparatus, and non-transitory recording medium | |
WO2016098457A1 (en) | Information processing device, information processing method, and program | |
JPWO2018179644A1 (en) | Information processing apparatus, information processing method, and recording medium | |
WO2017128895A1 (en) | Location sharing-based navigation assistance method and terminal | |
JP2016184276A (en) | Portable terminal, control method of portable terminal, and program for portable terminal | |
JPWO2017163514A1 (en) | Glasses-type wearable terminal, control method thereof, and control program | |
JP2016021169A (en) | Portable terminal for arranging virtual sound source at provision information position, voice presentation program, and voice presentation method | |
US20190049250A1 (en) | Information processing apparatus, information processing method, and computer program | |
JP6559921B1 (en) | Audio information providing system, information processing terminal control method, information processing terminal control program, audio output device control method, and audio output device control program | |
US10645535B2 (en) | Electronic apparatus, control device and computer-readable non-transitory recording medium for selectively transmitting information based on indoor/outdoor specification | |
JP2019028542A (en) | Information processing device, management device, portable electronic apparatus, control program, method for operating information processing device, method for operating portable electronic apparatus, and data structure | |
JP2015138534A (en) | Electronic device | |
JP6306985B2 (en) | Information processing system, information processing method, and program | |
JP6424100B2 (en) | NAVIGATION SYSTEM, NAVIGATION DEVICE, GLASS TYPE DEVICE, AND METHOD FOR LINKING THE DEVICE | |
JP2008249475A (en) | On-vehicle device and traffic information presentation method | |
JP6992336B2 (en) | Display control device, display control method and program | |
JP2012244509A (en) | Vehicle-mounted system | |
JP2022153363A (en) | Server device, information processing method, and server program | |
JP7240865B2 (en) | Guidance information transmission device and guidance information transmission method | |
KR20160053472A (en) | System, method and application for confirmation of identity by wearable glass device | |
JP6760818B2 (en) | Operation business support device | |
EP3528010A1 (en) | Electronic device, control device, control program and operation method of electronic device | |
JP2016082409A (en) | Radio communication device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20190327 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190328 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200513 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210318 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210406 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210524 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211109 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211122 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6992336 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |