JP6993597B2 - Information processing equipment, control methods, and programs - Google Patents

Information processing equipment, control methods, and programs Download PDF

Info

Publication number
JP6993597B2
JP6993597B2 JP2020069516A JP2020069516A JP6993597B2 JP 6993597 B2 JP6993597 B2 JP 6993597B2 JP 2020069516 A JP2020069516 A JP 2020069516A JP 2020069516 A JP2020069516 A JP 2020069516A JP 6993597 B2 JP6993597 B2 JP 6993597B2
Authority
JP
Japan
Prior art keywords
user
trail
information
feature amount
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020069516A
Other languages
Japanese (ja)
Other versions
JP2020119585A (en
JP2020119585A5 (en
Inventor
大樹 深谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Marketing Japan Inc
Canon IT Solutions Inc
Original Assignee
Canon Marketing Japan Inc
Canon IT Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Marketing Japan Inc, Canon IT Solutions Inc filed Critical Canon Marketing Japan Inc
Publication of JP2020119585A publication Critical patent/JP2020119585A/en
Publication of JP2020119585A5 publication Critical patent/JP2020119585A5/en
Application granted granted Critical
Publication of JP6993597B2 publication Critical patent/JP6993597B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Collating Specific Patterns (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、テレワーク管理システムにおいて行う認証技術に関する発明であり、特に、当該認証技術で用いる認証情報の配信方法に関する。 The present invention relates to an authentication technique performed in a telework management system, and more particularly to a method of distributing authentication information used in the authentication technique.

近年、ブロードバンドや情報セキュリティ技術の発達の他、災害時における事業継続性や節電対策への注目などを背景に、各企業でテレワークに対する関心が強まっている。 In recent years, in addition to the development of broadband and information security technologies, each company has become increasingly interested in telework due to business continuity and attention to power saving measures in the event of a disaster.

テレワークを導入する上では、管理者から本人の様子が見えにくいため、家族をはじめとする第三者による情報処理端末へのアクセスにより機密情報が漏えいするリスクや、労働管理がしにくい問題がある。 When introducing telework, it is difficult for the administrator to see the person himself, so there is a risk that confidential information will be leaked due to access to the information processing terminal by a third party such as a family member, and there is a problem that labor management is difficult. ..

機密情報の漏えい予防手段としては、ユーザが、情報処理端末を用いて操作を行うと、そのユーザの顔を撮影して、顔認識技術を用いて個人認証を行い、本人でない場合は情報処理端末をロックするといったシステムが導入されている。 As a means to prevent leakage of confidential information, when a user operates using an information processing terminal, the user's face is photographed and personal authentication is performed using face recognition technology. If the user is not the person, the information processing terminal is used. A system such as locking is introduced.

しかしながら、このようなシステムでは、情報処理端末に表示された内容を第三者に見られたりすることで、情報漏洩に繋がるリスクが生じる。 However, in such a system, there is a risk of information leakage because the content displayed on the information processing terminal can be seen by a third party.

そこで、情報処理端末の前方を撮影した結果、撮影して得られた画像に、顔の数が1つであれば、個人認証を行うが、2人以上の顔がある場合は、情報処理端末の使用を中止させる技術が開示されている(例えば、特許文献1参照)。 Therefore, as a result of photographing the front of the information processing terminal, if the image obtained by photographing has one face, personal authentication is performed, but if there are two or more faces, the information processing terminal is used. A technique for discontinuing the use of the above is disclosed (see, for example, Patent Document 1).

特開2009-211381号公報Japanese Unexamined Patent Publication No. 2009-211881

しかしながら、顔認識を用いたテレワーク管理システムでは、予防機能に重点を置いており、サテライトオフィス勤務といった場面に適用する場合、同一拠点で働く同僚の顔が映ってしまっても予防機能が働いてしまい、ユーザの利便性を損ねることになる。 However, the telework management system using face recognition focuses on the preventive function, and when applied to situations such as working at a satellite office, the preventive function works even if the face of a colleague working at the same base is reflected. , It will impair the convenience of the user.

この予防機能を監視者への通知機能に置き換えたとしても、今度は監視者が状況を確認することに手間を取られてしまう。 Even if this preventive function is replaced with a notification function to the observer, it will be troublesome for the observer to check the situation.

本発明の目的は、情報処理装置の不正な使用にかかる状態を適切に管理する仕組みを提供することを目的とする。 An object of the present invention is to provide a mechanism for appropriately managing a state related to unauthorized use of an information processing apparatus .

上記課題を解決するための第1の発明は、情報処理装置のユーザの拠点における他のユーザを特定する情報を取得する取得手段と、画像から検出された人物が、前記他のユーザを特定する情報により特定される前記他のユーザであるか否かによって、前記情報処理装置の使用状態を管理する管理手段と、を備えたことを特徴とする情報処理装置The first invention for solving the above-mentioned problems is an acquisition means for acquiring information for identifying another user at a user's base of an information processing apparatus, and a person detected from an image identifies the other user. An information processing device including a management means for managing a usage state of the information processing device depending on whether or not the user is the other user specified by information .

上記課題を解決するための第2の発明は、情報処理装置のユーザの拠点における他のユーザを特定する情報を取得する取得ステップと、画像から検出された人物が、前記他のユーザを特定する情報により特定される前記他のユーザであるか否かによって、前記情報処理装置の使用状態を管理する管理ステップと、を実行することを特徴とする情報処理装置の制御方法The second invention for solving the above-mentioned problems is an acquisition step of acquiring information for identifying another user at a user's base of an information processing apparatus, and a person detected from an image identifies the other user. A control method for an information processing device , which comprises executing a management step for managing a usage state of the information processing device depending on whether or not the user is the other user specified by information.

上記課題を解決するための第3の発明は、コンピュータを、情報処理装置のユーザの拠点における他のユーザを特定する情報を取得する取得手段と、画像から検出された人物が、前記他のユーザを特定する情報により特定される前記他のユーザであるか否かによって、前記情報処理装置の使用状態を管理する管理手段として機能させるためのプログラム。 In the third invention for solving the above-mentioned problems, a computer is used as an acquisition means for acquiring information for identifying another user at a user's base of an information processing apparatus, and a person detected from an image is the other user. A program for functioning as a management means for managing the usage state of the information processing apparatus depending on whether or not the user is the other user specified by the information specifying the information processing apparatus.

本発明によれば、情報処理装置の不正な使用にかかる状態を適切に管理することができる、という効果を奏する。 According to the present invention, there is an effect that the state of unauthorized use of the information processing apparatus can be appropriately managed .

本発明の実施形態に係るテレワーク管理システムの構成の一例を示すシステム構成図である。It is a system block diagram which shows an example of the structure of the telework management system which concerns on embodiment of this invention. 本発明の実施形態に係る証跡送信端末、証跡監査端末、及び証跡管理サーバに適用可能な情報処理装置のハードウェア構成を示すブロック図である。It is a block diagram which shows the hardware composition of the information processing apparatus applicable to the trail transmission terminal, the trail audit terminal, and the trail management server which concerns on embodiment of this invention. 本発明の実施形態に係るテレワーク監視システムの機能構成を示すブロック図である。It is a block diagram which shows the functional structure of the telework monitoring system which concerns on embodiment of this invention. 本発明の実施形態において、ログインからログアウトまでの一連の処理の流れを示すフローチャートである。In the embodiment of the present invention, it is a flowchart which shows the flow of a series of processing from login to logout. 本発明の実施形態において、同一拠点のユーザに対して特徴量データを更新する処理の流れを示すフローチャートである。In the embodiment of the present invention, it is a flowchart which shows the flow of the process of updating the feature amount data for the user of the same base. 本発明の実施形態において、不正アクセス通知に関する処理の流れを示すフローチャートである。In the embodiment of the present invention, it is a flowchart which shows the flow of the process concerning the unauthorized access notification. 本発明の実施形態において、不正アクセスの状態を算出する処理の流れを示すフローチャートである。In the embodiment of the present invention, it is a flowchart which shows the flow of the process which calculates the state of an unauthorized access. 本発明の実施形態において、拠点を選択するための画面の構成を示す構成図である。It is a block diagram which shows the structure of the screen for selecting a base in embodiment of this invention. 本発明の実施形態において、動静の確認をするための画面の構成を示す構成図である。In the embodiment of the present invention, it is a block diagram which shows the structure of the screen for confirming the movement | movement. 本発明の実施形態において、動静の確認をするための画面の構成を示す構成図である。In the embodiment of the present invention, it is a block diagram which shows the structure of the screen for confirming the movement | movement. 本発明の実施形態において、ユーザ情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the user information table in embodiment of this invention. 本発明の実施形態において、端末情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the terminal information table in embodiment of this invention. 本発明の実施形態において、拠点情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the base information table in embodiment of this invention. 本発明の実施形態において、チーム情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the team information table in embodiment of this invention. 本発明の実施形態において、ログイン情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the login information table in embodiment of this invention. 本発明の実施形態において、特徴量情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the feature amount information table in embodiment of this invention. 本発明の実施形態において、認証寄与度情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the authentication contribution information table in embodiment of this invention. 本発明の実施形態において、動静情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the motion information table in embodiment of this invention. 本発明の実施形態において、不正アクセス情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the unauthorized access information table in embodiment of this invention. 本発明の実施形態において、証跡情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the trail information table in embodiment of this invention. 本発明の実施形態において、顔認識結果テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the face recognition result table in embodiment of this invention. 本発明の実施形態に係るテレワーク監視システムの機能構成を示すブロック図である。It is a block diagram which shows the functional structure of the telework monitoring system which concerns on embodiment of this invention. 本発明の実施形態において、ログインからログアウトまでの一連の処理の流れを示すフローチャートである。In the embodiment of the present invention, it is a flowchart which shows the flow of a series of processing from login to logout. 本発明の実施形態において、同一拠点のユーザに対して特徴量データを更新する処理の流れを示すフローチャートである。In the embodiment of the present invention, it is a flowchart which shows the flow of the process of updating the feature amount data for the user of the same base. 本発明の実施形態において、不正アクセス通知に関する処理の流れを示すフローチャートである。In the embodiment of the present invention, it is a flowchart which shows the flow of the process concerning the unauthorized access notification. 本発明の実施形態において、不正アクセスの状態を算出する処理の流れを示すフローチャートである。In the embodiment of the present invention, it is a flowchart which shows the flow of the process which calculates the state of an unauthorized access. 本発明の実施形態において、上司情報テーブルの構成を示す構成図である。It is a block diagram which shows the structure of the boss information table in embodiment of this invention.

以下、図面を参照して、本発明の実施形態を詳細に説明する。
[第1の実施形態]
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
[First Embodiment]

図1は、本発明のテレワーク管理システムの構成の一例を示すシステム構成図である。 FIG. 1 is a system configuration diagram showing an example of the configuration of the telework management system of the present invention.

図1に示すテレワーク管理システムは、1又は複数の証跡送信端末100、1又は複数の証跡監査端末110、1又は複数の証跡管理サーバ120が、ローカルエリアネットワーク(LAN)130とルータ140、およびインターネット150を介して接続される構成となっている。 In the telework management system shown in FIG. 1, one or more trail transmission terminals 100, one or more trail audit terminals 110, one or more trail management servers 120, a local area network (LAN) 130 and a router 140, and the Internet. It is configured to be connected via 150.

証跡送信端末100は、使用するユーザ(テレワーカ)の動静および不正アクセスを検出し、その証跡情報を証跡管理サーバ120に送信する。また、動静等の検出に使用するユーザの特徴量データを証跡管理サーバ120に送信する。 The trail transmission terminal 100 detects the movement and unauthorized access of the user (teleworker) to be used, and transmits the trail information to the trail management server 120. In addition, the feature amount data of the user used for detecting the movement and the like is transmitted to the trail management server 120.

証跡監査端末110は、管理者が証跡管理サーバ120に記録された特徴量データの承認操作と、証跡管理サーバ120に記録された証跡の監査操作を行う。 The trail audit terminal 110 allows the administrator to perform an operation of approving the feature amount data recorded in the trail management server 120 and an operation of auditing the trail recorded in the trail management server 120.

証跡監査端末110は、管理者の動静をテレワーカに通知するまたは自身がテレワークを行う際に自身の管理者に動静と不正アクセスを通知するために、証跡送信端末100と同様の機能を備えることもある。 The trail audit terminal 110 may have the same function as the trail transmission terminal 100 in order to notify the teleworker of the movement of the administrator or notify the administrator of the movement and unauthorized access when the remote work is performed by the trailer. be.

証跡管理サーバ120は、証跡送信端末100から受信した特徴量データを記録し、その特徴量データに対する証跡監査端末110の承認操作を処理する。 The trail management server 120 records the feature amount data received from the trail transmission terminal 100, and processes the approval operation of the trail audit terminal 110 for the feature amount data.

そして、証跡送信端末100から受信した証跡を記録し、その証跡に対する証跡監査端末110の監査操作を処理し、また、証跡送信端末100の接続元拠点情報を元に、証跡送信端末100で利用する特徴量データを決定する。 Then, the trail received from the trail transmission terminal 100 is recorded, the audit operation of the trail audit terminal 110 for the trail is processed, and the trail transmission terminal 100 is used based on the connection source base information of the trail transmission terminal 100. Determine feature data.

以下、図2を用いて、図1に示した証跡送信端末100、証跡監査端末110、及び証跡管理サーバ120に適用可能な情報処理装置のハードウェア構成について説明する。 Hereinafter, the hardware configuration of the information processing apparatus applicable to the trail transmission terminal 100, the trail audit terminal 110, and the trail management server 120 shown in FIG. 1 will be described with reference to FIG.

図2は、図1に示した証跡送信端末100、証跡監査端末110、証跡管理サーバ120に適用可能な情報処理装置のハードウェア構成を示すブロック図である。 FIG. 2 is a block diagram showing a hardware configuration of an information processing device applicable to the trail transmission terminal 100, the trail audit terminal 110, and the trail management server 120 shown in FIG.

図2において、201はCPUで、システムバス204に接続される各デバイスやコントローラを統括的に制御する。 In FIG. 2, 201 is a CPU that comprehensively controls each device and controller connected to the system bus 204.

また、ROM203あるいは外部メモリ212には、CPU201の制御プログラムであるBIOS(Basic Input / Output System)やオペレーティングシステムプログラム(以下、OS)や、各サーバ或いは各PCの実行する機能を実現するために必要な後述する各種プログラム等が記憶されている。203はRAMで、CPU201の主メモリ、ワークエリア等として機能する。 Further, the ROM 203 or the external memory 212 is necessary to realize a function executed by a BIOS (Basic Input / Output System) or an operating system program (hereinafter, OS) which is a control program of the CPU 201, and each server or each PC. Various programs described later are stored. Reference numeral 203 denotes a RAM, which functions as a main memory, a work area, and the like of the CPU 201.

CPU201は、処理の実行に際して必要なプログラム等をROM203あるいは外部メモリ212からRAM202にロードして、該ロードしたプログラムを実行することで各種動作を実現するものである。 The CPU 201 realizes various operations by loading a program or the like necessary for executing a process from the ROM 203 or the external memory 212 into the RAM 202 and executing the loaded program.

また、205は入力コントローラで、キーボード(KB)209や証跡送信端末100の前方のユーザを撮影するウェブカメラ等のカメラデバイス210、不図示のマウス等のポインティングデバイス等からの入力を制御する。 Further, 205 is an input controller, which controls input from a camera device 210 such as a webcam for photographing a user in front of a keyboard (KB) 209 or a trail transmission terminal 100, a pointing device such as a mouse (not shown), and the like.

206はビデオコントローラで、CRTディスプレイ(CRT)211等の表示器への表示を制御する。なお、図2では、CRT211と記載しているが、表示器はCRTだけでなく、液晶ディスプレイ等の他の表示器であってもよい。これらは必要に応じて管理者が使用するものである。 Reference numeral 206 denotes a video controller, which controls the display on a display such as a CRT display (CRT) 211. Although it is described as CRT211 in FIG. 2, the display may be not only the CRT but also another display such as a liquid crystal display. These are used by the administrator as needed.

207はメモリコントローラで、ブートプログラム、各種のアプリケーション、フォントデータ、ユーザファイル、編集ファイル、各種データ等を記憶する外部記憶装置(ハードディスク(HD))や、フレキシブルディスク(FD)、或いはPCMCIAカードスロットにアダプタを介して接続されるコンパクトフラッシュ(登録商標)メモリ等の外部メモリ212へのアクセスを制御する。 The 207 is a memory controller that can be used in an external storage device (hard disk (HD)) that stores boot programs, various applications, font data, user files, edit files, various data, etc., a flexible disk (FD), or a PCMCIA card slot. It controls access to an external memory 212 such as a CompactFlash® memory connected via an adapter.

208は通信I/Fコントローラで、ネットワーク(例えば、図1に示したLAN130)を介して外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いた通信等が可能である。 Reference numeral 208 denotes a communication I / F controller, which connects and communicates with an external device via a network (for example, LAN 130 shown in FIG. 1), and executes communication control processing on the network. For example, communication using TCP / IP is possible.

なお、CPU201は、例えばRAM202内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、CRT211上での表示を可能としている。また、CPU201は、CRT211上の不図示のマウスカーソル等でのユーザ指示を可能とする。 The CPU 201 enables display on the CRT 211 by, for example, executing an outline font expansion (rasterization) process in the display information area in the RAM 202. Further, the CPU 201 enables a user instruction with a mouse cursor or the like (not shown) on the CRT 211.

本発明を実現するための後述する各種プログラムは、外部メモリ212に記録されており、必要に応じてRAM202にロードされることによりCPU201によって実行されるものである。 Various programs described later for realizing the present invention are recorded in the external memory 212, and are executed by the CPU 201 by being loaded into the RAM 202 as needed.

さらに、上記プログラムの実行時に用いられる定義ファイル及び各種情報テーブル等も、外部メモリ212に格納されており、これらについての詳細な説明も後述する。 Further, a definition file and various information tables used when executing the above program are also stored in the external memory 212, and detailed explanations thereof will be described later.

次に、図3を用いて、本発明の証跡送信端末100、証跡監査端末110および証跡管理サーバ120の機能ブロック図について説明する。尚、各機能ブロックが処理する詳細な制御については、後述するフローチャートにて説明する。 Next, the functional block diagram of the trail transmission terminal 100, the trail audit terminal 110, and the trail management server 120 of the present invention will be described with reference to FIG. The detailed control processed by each functional block will be described with reference to the flowchart described later.

まず、証跡送信端末100の機能構成について説明する。 First, the functional configuration of the trail transmission terminal 100 will be described.

認証情報入力部301は、ユーザによる認証情報の入力を受け付ける。認証情報送信部302は、認証情報入力部301で受け付けた認証情報を、通信I/Fコントローラ208を介して証跡管理サーバ120の認証情報受信部501に送信し、システムへのログインを行う。ログインに成功したら、拠点選択部303において拠点の選択を依頼する。 The authentication information input unit 301 accepts the input of the authentication information by the user. The authentication information transmission unit 302 transmits the authentication information received by the authentication information input unit 301 to the authentication information receiving unit 501 of the trail management server 120 via the communication I / F controller 208, and logs in to the system. If the login is successful, the base selection unit 303 requests the selection of the base.

拠点選択部303は、通信I/Fコントローラ208を介して証跡管理サーバ120のユーザ情報管理部504からログインユーザが利用可能な拠点リストを取得し、その中から現在の拠点を選択する。 The site selection unit 303 acquires a list of sites that can be used by the logged-in user from the user information management unit 504 of the trail management server 120 via the communication I / F controller 208, and selects the current site from the list.

選択方法としては、拠点リストをCRT211に表示してユーザに選択させる方法や、近辺のWifi網から現在地の住所を推定し自動決定するなどの方法がある。 As a selection method, there are a method of displaying the base list on the CRT211 and letting the user select it, and a method of estimating the current address from the nearby Wifi network and automatically determining the address.

特徴量データ更新部304は、通信I/Fコントローラ208を介して証跡管理サーバ120の特徴量データ取得部507から、ユーザおよびユーザと同じ拠点から接続するログインユーザの特徴量データを取得し、特徴量データ記憶部305のデータを更新する。特徴量データ記憶部305は、顔認識に使用する顔の特徴量データを記憶する。 The feature amount data update unit 304 acquires the feature amount data of the user and the logged-in user connected from the same base as the user from the feature amount data acquisition unit 507 of the trail management server 120 via the communication I / F controller 208, and features. The data in the quantity data storage unit 305 is updated. The feature amount data storage unit 305 stores the feature amount data of the face used for face recognition.

ユーザ情報表示更新部306は、通信I/Fコントローラ208を介して証跡管理サーバ120のユーザ情報管理部504からユーザの動静情報を取得し、CRT211に表示する。 The user information display update unit 306 acquires the user's motion information from the user information management unit 504 of the trail management server 120 via the communication I / F controller 208, and displays it on the CRT 211.

ユーザ情報表示更新部306は、同様にユーザ情報管理部504から取得した拠点リストおよびチームリストを表示し、ユーザに選択させて動静情報を表示するユーザを変える機能も備える。 Similarly, the user information display update unit 306 also has a function of displaying the base list and the team list acquired from the user information management unit 504, and changing the user to be selected by the user to display the motion information.

また、ユーザ情報表示更新部306は、更新通知受信部315から更新通知を受けた際には、ユーザ情報管理部504からユーザの動静情報を取り直し、表示を更新する。 Further, when the user information display update unit 306 receives the update notification from the update notification receiving unit 315, the user information display update unit 306 regains the user's movement information from the user information management unit 504 and updates the display.

映像入力部307は、カメラデバイス210より映像を取得し、特徴量データ抽出部308および状態検出部311にその映像を送信する。 The image input unit 307 acquires an image from the camera device 210 and transmits the image to the feature amount data extraction unit 308 and the state detection unit 311.

特徴量データ抽出部308は、特徴量データの登録がない場合や、ユーザの識別がうまくいかない際にユーザを識別するための特徴量データを抽出する。 The feature amount data extraction unit 308 extracts the feature amount data for identifying the user when the feature amount data is not registered or when the user identification is not successful.

特徴量データ抽出部308は、映像入力部307から受信した映像からユーザの顔を抽出し、その顔を使って識別するかどうかユーザに確認する。確認がとれたら、顔から特徴量データを抽出し、それを特徴量データ送信部310に送信する。顔の抽出および特徴料データの抽出は顔認識部309に依頼する。 The feature amount data extraction unit 308 extracts the user's face from the video received from the video input unit 307, and asks the user whether to identify using the face. After confirmation, the feature amount data is extracted from the face and transmitted to the feature amount data transmission unit 310. The face recognition unit 309 is requested to extract the face and the feature charge data.

顔認識部309は、特徴量データ抽出部308から受信した映像から顔を抽出し、さらにその顔から識別に利用可能な特徴量データを抽出する。また、状態検出部311から受信した映像から顔を抽出し、各顔から抽出した特徴量データと状態検出部311から受信した特徴量データとの類似度を算出する。 The face recognition unit 309 extracts a face from the image received from the feature amount data extraction unit 308, and further extracts feature amount data that can be used for identification from the face. Further, a face is extracted from the image received from the state detection unit 311, and the degree of similarity between the feature amount data extracted from each face and the feature amount data received from the state detection unit 311 is calculated.

特徴量データ送信部310は、特徴量データ抽出部308から受信した特徴量データを証跡管理サーバ120の特徴量データ受信部509に送信する。また、ログアウト前に特徴量データ記憶部305に記憶された識別寄与度を特徴量データ受信部509に送信する。 The feature amount data transmission unit 310 transmits the feature amount data received from the feature amount data extraction unit 308 to the feature amount data reception unit 509 of the trail management server 120. Further, the identification contribution degree stored in the feature amount data storage unit 305 before log-out is transmitted to the feature amount data receiving unit 509.

状態検出部311は、映像入力部307から受信した映像と特徴量データ記憶部305に記憶された特徴量データから、正規のログインユーザによる動静「在席」、「離席」、同一拠点のログインユーザによる不正アクセス「なりすまし」、「覗き見」、拠点外の第三者による不正アクセス「なりすまし」、「覗き見」の状態を検出する。 The state detection unit 311 uses the video received from the video input unit 307 and the feature data stored in the feature data storage unit 305 to move "attended", "away", and logged in at the same base by a regular login user. Unauthorized access by the user "Spoofing", "Peeping", unauthorized access by a third party outside the base "Spoofing", "Peeping" status is detected.

映像と特徴量データを顔認識部309に送信し、得られた顔認識結果から現在の状態を算出する。検出した動静と不正アクセスおよび顔認識結果、その際のカメラ画像は証跡制御部312に送信する。 The video and feature amount data are transmitted to the face recognition unit 309, and the current state is calculated from the obtained face recognition result. The detected movement, unauthorized access, and face recognition result, and the camera image at that time are transmitted to the trail control unit 312.

証跡制御部312は、状態検出部311から受信した動静または不正アクセスおよび顔認識結果、カメラ画像を証跡記憶部313に記憶する。その際、ビデオコントローラ206から取得したスクリーンショットも合わせて記憶する。 The trail control unit 312 stores the motion or unauthorized access and face recognition results received from the state detection unit 311 and the camera image in the trail storage unit 313. At that time, the screenshot taken from the video controller 206 is also stored.

証跡制御部312は、証跡記憶部313に記憶された動静および不正アクセスを総合的に見て、動静および不正アクセスの状態がそれぞれ現在どの状態なのか、その状態に切り替わったのはいつか類推し、切り替わった際の証跡情報(動静または不正アクセス、顔認識結果、カメラ画像、スクリーンショット)を証跡送信部314に送信する。 The trail control unit 312 comprehensively looks at the motion and unauthorized access stored in the trail storage unit 313, and guesses which state the motion and unauthorized access are currently in, and when the state is switched to that state. The trail information (movement or unauthorized access, face recognition result, camera image, screenshot) at the time of switching is transmitted to the trail transmission unit 314.

同じ動静および不正アクセスが継続した際は、その終了日時を随時更新して証跡送信部314に送信する。また、その終了日時のカメラ画像とスクリーンショットを証跡送信部314に送信する。状態の判定に使われなくなった古い証跡情報は、証跡記憶部313から随時破棄する。 When the same movement and unauthorized access continue, the end date and time are updated at any time and transmitted to the trail transmission unit 314. In addition, the camera image and screenshot of the end date and time are transmitted to the trail transmission unit 314. Old trail information that is no longer used for determining the state is discarded from the trail storage unit 313 at any time.

証跡記憶部313は、証跡情報(動静、不正アクセス、顔認識結果、カメラ画像、スクリーンショット)を記憶する。 The trail storage unit 313 stores trail information (movement, unauthorized access, face recognition result, camera image, screenshot).

証跡送信部314は、証跡制御部312から受信した証跡情報を、通信I/Fコントローラ208を介して証跡管理サーバ120の証跡受信部513に送信する。 The trail transmission unit 314 transmits the trail information received from the trail control unit 312 to the trail reception unit 513 of the trail management server 120 via the communication I / F controller 208.

更新通知受信部315は、証跡管理サーバ120のユーザ情報更新通知部506からの更新通知を通信I/Fコントローラ208を介して受信する。 The update notification receiving unit 315 receives the update notification from the user information update notification unit 506 of the trail management server 120 via the communication I / F controller 208.

更新通知受信部315は、特徴量データ登録通知があったら、特徴量データ抽出部308に特徴量の抽出を依頼し、特徴量データ更新通知があったら、特徴量データ更新部304に特徴量データの更新を依頼する。また、動静更新通知があったら、ユーザ情報表示更新部306に表示の更新を依頼する。 The update notification receiving unit 315 requests the feature amount data extraction unit 308 to extract the feature amount when the feature amount data registration notification is received, and when the feature amount data update notification is received, the feature amount data update unit 304 is requested to extract the feature amount data. Request an update. Further, when the motion update notification is received, the user information display update unit 306 is requested to update the display.

次に、証跡監査端末110の機能構成について説明する。 Next, the functional configuration of the trail audit terminal 110 will be described.

ユーザ情報表示更新部401は、証跡送信端末100のユーザ情報表示更新部306と同様に、通信I/Fコントローラ208を介して証跡管理サーバ120のユーザ情報管理部504からユーザの情報を取得し、それをCRT211に表示する。 The user information display update unit 401 acquires user information from the user information management unit 504 of the trail management server 120 via the communication I / F controller 208, similarly to the user information display update unit 306 of the trail transmission terminal 100. Display it on the CRT211.

ユーザ情報表示更新部306と同様の動静情報の表示だけでなく、不正アクセスの発生件数や特徴量データの承認待ち件数などを確認可能な監査情報の表示を行うことができる。ユーザ情報表示更新部401は、更新通知受信部402からの更新通知を受けて、表示を更新する。 In addition to displaying the motion information similar to that of the user information display update unit 306, it is possible to display audit information capable of confirming the number of occurrences of unauthorized access and the number of cases waiting for approval of feature amount data. The user information display update unit 401 updates the display in response to the update notification from the update notification receiving unit 402.

更新通知受信部402は、通信I/Fコントローラ208を介して証跡管理サーバ120の監査情報更新通知部510から更新通知を受信する。 The update notification receiving unit 402 receives an update notification from the audit information update notification unit 510 of the trail management server 120 via the communication I / F controller 208.

更新通知受信部402は、動静更新通知があったら、ユーザ情報表示更新部401に表示の更新を依頼し、特徴量データ更新通知および不正アクセス発生通知があったら、ユーザ情報表示更新部401に表示の更新を依頼し、情報通知部403に管理者への情報の通知を依頼する。 The update notification receiving unit 402 requests the user information display updating unit 401 to update the display when there is a motion update notification, and displays it on the user information display updating unit 401 when there is a feature amount data update notification and an unauthorized access occurrence notification. Request the update of, and request the information notification unit 403 to notify the administrator of the information.

情報通知部403は、特徴量データの承認処理や不正アクセスの監査処理をすぐに実施してもらえるよう管理者に警告する。 The information notification unit 403 warns the administrator so that the feature data approval process and the unauthorized access audit process can be performed immediately.

特徴量データ承認操作部404は、通信I/Fコントローラ208を介して証跡管理サーバ120の特徴量データ承認操作処理部512から取得した特徴量データをCRT211に表示し、管理者に未承認の特徴量データを承認または棄却させる。承認結果は、特徴量データ承認操作処理部512に送信する。 The feature amount data approval operation unit 404 displays the feature amount data acquired from the feature amount data approval operation processing unit 512 of the trail management server 120 via the communication I / F controller 208 on the CRT 211, and the feature amount data is not approved by the administrator. Approve or reject quantity data. The approval result is transmitted to the feature amount data approval operation processing unit 512.

証跡監査操作部405は、通信I/Fコントローラ208を介して証跡管理サーバ120の証跡監査操作処理部515から取得した不正アクセスの証跡をCRT211に表示し、管理者に未監査の不正アクセスが問題かどうか監査させる。監査結果は、証跡監査操作処理部515に送信する。 The trail audit operation unit 405 displays the trail of unauthorized access acquired from the trail audit operation processing unit 515 of the trail management server 120 via the communication I / F controller 208 on the CRT 211, and the administrator has a problem of unaudited unauthorized access. Have them audit whether or not. The audit result is transmitted to the trail audit operation processing unit 515.

問題ないかどうかの判断材料として、その不正アクセス発生期間のカメラ画像およびスクリーンショットを表示する。また、ユーザの動静の履歴を取得して表示したり、統計情報を表示したりする機能も備える。なお、証跡監査端末110は、証跡送信端末100の機能を同時に備えることもある。 Camera images and screenshots of the unauthorized access period are displayed as a basis for determining whether or not there is a problem. It also has a function to acquire and display the history of user's movements and to display statistical information. The trail audit terminal 110 may also have the functions of the trail transmission terminal 100 at the same time.

最後に、証跡管理サーバ120の機能構成について説明する。 Finally, the functional configuration of the trail management server 120 will be described.

認証情報受信部501は、証跡送信端末100の認証情報送信部302から受信した認証情報とユーザ記憶部502の情報を比較し、一致するユーザ情報があった場合にログイン情報記憶部503にログイン情報を記憶する。ユーザ記憶部502は、ユーザ情報を記憶し、ログイン情報記憶部503は、ユーザのログイン情報を記憶する。 The authentication information receiving unit 501 compares the authentication information received from the authentication information transmitting unit 302 of the trail transmitting terminal 100 with the information of the user storage unit 502, and if there is matching user information, the login information is logged in to the login information storage unit 503. Remember. The user storage unit 502 stores user information, and the login information storage unit 503 stores user login information.

ユーザ情報管理部504は、証跡送信端末100の拠点選択部303からの現在拠点の選択を受け付け、ログイン情報記憶部503の該当ユーザのレコードの拠点情報を変更し、ユーザ情報更新通知部506にログイン情報記憶部503から検索した同一拠点のユーザへの特徴量データ更新通知の送信を依頼する。 The user information management unit 504 accepts the selection of the current base from the base selection unit 303 of the trail transmission terminal 100, changes the base information of the record of the corresponding user in the login information storage unit 503, and logs in to the user information update notification unit 506. The information storage unit 503 requests the user at the same site to send the feature amount data update notification.

また、ユーザ情報管理部504は、ユーザ情報更新通知部506に、ログイン情報記憶部503から検索した同一拠点のユーザと、チーム記憶部511から検索した同一チームのユーザへの動静更新通知の送信を依頼する。 Further, the user information management unit 504 transmits a motion update notification to the user information update notification unit 506 to the user at the same base searched from the login information storage unit 503 and the user of the same team searched from the team storage unit 511. Ask.

また、ユーザ情報管理部504は、監査情報更新通知部510に、管理者への動静更新通知を依頼する。また、証跡送信端末100のユーザ情報表示更新部306および証跡監査端末110のユーザ情報表示更新部401からの要求を受け、ユーザの利用可能な拠点リスト(拠点情報記憶部505の全情報と、ユーザの在宅権限がTRUE(詳細後述)である場合はユーザの住所を含む)、ユーザの所属するチームリスト、拠点またはチームに所属するユーザの動静情報(ユーザ記憶部502とログイン情報記憶部503の動静情報をマージしたもの)を返却する。 Further, the user information management unit 504 requests the audit information update notification unit 510 to notify the administrator of the movement update. Further, in response to a request from the user information display update unit 306 of the trail transmission terminal 100 and the user information display update unit 401 of the trail audit terminal 110, a list of available bases for the user (all information of the base information storage unit 505 and the user). If the home authority is TRUE (details will be described later), the user's address is included), the team list to which the user belongs, and the movement information of the user belonging to the base or team (the movement of the user storage unit 502 and the login information storage unit 503). Return the merged information).

また、証跡監査端末110のユーザ情報表示更新部401からの要求を受け、拠点に所属するユーザの監査情報(ユーザ記憶部502とログイン情報記憶部503の動静情報と証跡記憶部514の未監査不正アクセスのレコード数と特徴量データ記憶部508の未承認レコード数をマージしたもの)を返却する。拠点情報記憶部505は、拠点情報を記憶する。 Further, in response to a request from the user information display update unit 401 of the trail audit terminal 110, the audit information of the user belonging to the base (movement information of the user storage unit 502 and the login information storage unit 503 and the unaudited fraud of the trail storage unit 514). The number of access records and the number of unapproved records of the feature amount data storage unit 508 are merged) is returned. The base information storage unit 505 stores the base information.

ユーザ情報更新通知部506は、ユーザがログインおよびログアウトした際およびユーザの動静が変化した際に、そのユーザの接続元拠点に所属するログインユーザ全員の証跡送信端末100の更新通知受信部315に動静更新通知を送信する。 When the user logs in and out, or when the user's movement changes, the user information update notification unit 506 moves to the update notification receiving unit 315 of the trail transmission terminal 100 of all the logged-in users belonging to the connection source base of the user. Send an update notification.

また、ユーザ情報更新通知部506は、ユーザがログインおよびログアウトした際および特徴量データが承認された際に、そのユーザの接続元拠点に所属するログインユーザ全員の証跡送信端末100の更新通知受信部315に特徴量データ更新通知を送信する。 Further, the user information update notification unit 506 is an update notification receiving unit of the trail transmission terminal 100 of all logged-in users belonging to the connection source base of the user when the user logs in and out and when the feature amount data is approved. A feature amount data update notification is sent to 315.

特徴量データ取得部507は、ユーザの特徴量データと、同一拠点のログインユーザの特徴量データを返却する。 The feature amount data acquisition unit 507 returns the feature amount data of the user and the feature amount data of the logged-in user at the same base.

特徴量データ記憶部508は、顔認識に利用する特徴量データを記憶する。また、各特徴量データのユーザ本人であるか否かを識別するための度合いを示す識別寄与度を記憶する。 The feature amount data storage unit 508 stores the feature amount data used for face recognition. In addition, the identification contribution degree indicating the degree for identifying whether or not each feature amount data is the user himself / herself is stored.

特徴量データ受信部509は、証跡送信端末100の特徴量データ送信部310から特徴量データを受信し、特徴量データ記憶部508に記憶する。その際、監査情報更新通知部510に、特徴量データの登録通知を要求する。また、証跡送信端末100の特徴量データ送信部310から識別寄与度を受信し、特徴量データ記憶部508に記憶する。 The feature amount data receiving unit 509 receives the feature amount data from the feature amount data transmitting unit 310 of the trail transmission terminal 100 and stores it in the feature amount data storage unit 508. At that time, the audit information update notification unit 510 is requested to notify the registration of the feature amount data. Further, the identification contribution degree is received from the feature amount data transmission unit 310 of the trail transmission terminal 100 and stored in the feature amount data storage unit 508.

監査情報更新通知部510は、特徴量データおよび不正アクセス発生通知要求を受信した際、その送信ユーザの管理者の証跡監査端末110の更新通知受信部402に更新通知を送信する。チーム記憶部511は、ユーザの監査関係を定義するチーム情報を記憶する。 When the audit information update notification unit 510 receives the feature amount data and the unauthorized access occurrence notification request, the audit information update notification unit 510 transmits an update notification to the update notification receiving unit 402 of the trail audit terminal 110 of the administrator of the transmitting user. The team storage unit 511 stores team information that defines a user's audit relationship.

特徴量データ承認操作処理部512は、証跡監査端末110の特徴量データ承認操作部404による特徴量データの更新情報を受信し、特徴量データ記憶部508の特徴量データを更新する。 The feature amount data approval operation processing unit 512 receives the update information of the feature amount data by the feature amount data approval operation unit 404 of the trail audit terminal 110, and updates the feature amount data of the feature amount data storage unit 508.

証跡受信部513は、証跡送信端末100の証跡送信部314から送信された証跡情報を受信し、証跡記憶部514に記憶する。また、新規の不正アクセスを受信した際、監査情報更新通知部510に不正アクセス発生通知を要求する。 The trail receiving unit 513 receives the trail information transmitted from the trail transmitting unit 314 of the trail transmitting terminal 100 and stores it in the trail storage unit 514. Further, when a new unauthorized access is received, the audit information update notification unit 510 is requested to notify the occurrence of unauthorized access.

証跡記憶部514は、証跡情報として、動静情報、不正アクセス情報、カメラ画像、スクリーンショットを記憶する。 The trail storage unit 514 stores motion information, unauthorized access information, camera images, and screenshots as trail information.

証跡監査操作処理部515は、証跡監査端末110の特徴量データ承認操作部404による特徴量データの更新情報を受信し、特徴量データ記憶部508の特徴量データを更新する。 The trail audit operation processing unit 515 receives the update information of the feature amount data by the feature amount data approval operation unit 404 of the trail audit terminal 110, and updates the feature amount data of the feature amount data storage unit 508.

なお、管理者がシステムを利用する際に必要なログイン認証を行う機能については本発明の趣旨から外れるため省略する。 The function of performing login authentication required for the administrator to use the system is omitted because it deviates from the gist of the present invention.

以下、図4を参照して、本実施形態のテレワーク管理システムにおいて、テレワークを実施するユーザが証跡送信端末100にログインし、ログアウトするまでの一連の流れを説明する。 Hereinafter, in the telework management system of the present embodiment with reference to FIG. 4, a series of flow from the user who performs the telework to logging in to the trail transmission terminal 100 and logging out will be described.

証跡送信端末100の処理は、そのCPU201により、ROM203から取得したプログラムおよびデータをRAM202に記憶することで実行される。また、証跡管理サーバ120の処理は、そのCPU201により、ROM203から取得したプログラムおよびデータをRAM202に記憶することで実行される。 The processing of the trail transmission terminal 100 is executed by storing the program and data acquired from the ROM 203 in the RAM 202 by the CPU 201. Further, the processing of the trail management server 120 is executed by storing the program and data acquired from the ROM 203 in the RAM 202 by the CPU 201.

ステップS101では、ユーザが証跡送信端末100にログインすることにより、証跡送信端末100が常駐アプリケーションを起動し、バックグラウンドで証跡管理サーバ120にアカウントIDとパスワードを送信する。 In step S101, when the user logs in to the trail transmission terminal 100, the trail transmission terminal 100 activates the resident application and transmits the account ID and password to the trail management server 120 in the background.

証跡管理サーバ120は、ユーザ記憶部502に記憶されたユーザ情報(図11参照)と比較し、一致すればログインを許可する。アカウントIDとパスワードは、常駐アプリケーションの初回起動時にユーザが設定し、以降は設定された値を使用するものとする。 The trail management server 120 compares with the user information (see FIG. 11) stored in the user storage unit 502, and if they match, the login is permitted. The account ID and password are set by the user when the resident application is started for the first time, and the set values are used thereafter.

図11に示すユーザ情報テーブルは、ユーザを一意に識別するユーザID、ユーザのアカウント名、ユーザの名称、ユーザの名称に対する読み仮名、対象ユーザが個人かグループかを表すユーザ種別、ユーザが所在する住所、本人の顔画像等の本人を特定するための画像を示すプロフィール画像、動静の監視対象とする居所を示す動静閲覧対象、監査を行う範囲(グループ)を示す監査対象、ユーザに監視権限があるか否かを示す監視権限(TRUEである場合、監視権限あり)、及びユーザが在宅勤務可能であるか否かを示す在宅権限(TRUEである場合、可能)を備えている。 In the user information table shown in FIG. 11, a user ID that uniquely identifies a user, a user account name, a user name, a reading pseudonym for the user name, a user type indicating whether the target user is an individual or a group, and a user are located. A profile image showing an image for identifying the person such as an address and a person's face image, a moving / static viewing target showing the location to be monitored for movement, an audit target indicating the range (group) to be audited, and the user has monitoring authority. It has a monitoring authority (if it is TRUE, it has monitoring authority) indicating whether or not it exists, and a home authority indicating whether or not the user can work from home (possible if it is TRUE).

ステップS102では、ログインユーザの承認済の特徴量データ(図16)が特徴量データ記憶部508に記憶されているか確認する。初回利用時など登録がない場合や、登録はあるが承認されていないまたは棄却されているものだけの場合は証跡送信端末100に特徴量データの登録通知を送信する(ステップS103へ)。承認済の特徴量データの登録がある場合にはステップS105に処理を進める。 In step S102, it is confirmed whether the feature amount data (FIG. 16) approved by the logged-in user is stored in the feature amount data storage unit 508. If there is no registration such as when using for the first time, or if there is registration but it is not approved or rejected, the feature amount data registration notification is transmitted to the trail transmission terminal 100 (to step S103). If the approved feature amount data is registered, the process proceeds to step S105.

図16に示す特徴量データテーブルは、特徴量データを一意に識別するためのID、ユーザID、ユーザと特定するために用いる特徴量データを含んで構成されている。 The feature amount data table shown in FIG. 16 includes an ID for uniquely identifying the feature amount data, a user ID, and feature amount data used for identifying the user.

ステップS103では、証跡送信端末100にて、ログインユーザの特徴量データを登録する。 In step S103, the feature amount data of the logged-in user is registered in the trail transmission terminal 100.

本ステップでは、カメラ画像から顔認識により顔画像を抽出し、ログインユーザに登録確認したのち、その顔画像から特徴量データを抽出し、証跡管理サーバ120に送信する。 In this step, a face image is extracted from the camera image by face recognition, registration is confirmed by the logged-in user, feature amount data is extracted from the face image, and the feature data is transmitted to the trail management server 120.

証跡管理サーバ120では、受信した特徴量データを特徴量データ記憶部508に記憶し、チーム記憶部511の監視情報(図14)から検索したユーザの監視を行う管理者の利用する証跡監査端末110に特徴量データ登録通知を送信する。 In the trail management server 120, the received feature amount data is stored in the feature amount data storage unit 508, and the trail audit terminal 110 used by the administrator who monitors the user searched from the monitoring information (FIG. 14) of the team storage unit 511. Send a feature data registration notification to.

図14には、監視情報テーブルが示されており、監視情報テーブルは、監査対象を一意に識別するためのID、監査対象を識別するための名称、監査対象を識別するための名称の仮名を示すフリガナ、監査対象を監視する管理者を特定するためのIDを示す監視者IDリスト、監視対象となるユーザIDを示す被監視者IDリストを含む構成を備える。 FIG. 14 shows a monitoring information table, in which the monitoring information table has an ID for uniquely identifying the audit target, a name for identifying the audit target, and a pseudonym for the name for identifying the audit target. The configuration includes a frigana to indicate, a monitor ID list indicating an ID for identifying an administrator who monitors an audit target, and a monitored person ID list indicating a user ID to be monitored.

ステップS104では、証跡監査端末110は、特徴量データ登録通知を受信し、管理者に対して特徴量データを承認してもらえるようアラート通知する。 In step S104, the trail audit terminal 110 receives the feature amount data registration notification and notifies the administrator of an alert so that the feature amount data can be approved.

そして、管理者が証跡監査端末110で特徴量データを承認または棄却すると、証跡管理サーバ120は、承認された場合は、ステップS105へ処理を進め、棄却された場合は、ステップS103へ処理を進める。 Then, when the administrator approves or rejects the feature amount data on the trail audit terminal 110, the trail management server 120 proceeds to step S105 if approved, and proceeds to step S103 if rejected. ..

ステップS105では、証跡送信端末100が証跡管理サーバ120からユーザの特徴量データを取得し、特徴量データ記憶部305に記憶する。 In step S105, the trail transmission terminal 100 acquires the feature amount data of the user from the trail management server 120 and stores it in the feature amount data storage unit 305.

証跡管理サーバ120は、すべての特徴量データを返すのではなく、特徴量データ記憶部305に記憶された、各特徴量データの識別寄与度(図17)からユーザの識別に有効な特徴量データを選択して返却する(図5の説明で詳細を記述する)。 The trail management server 120 does not return all the feature amount data, but the feature amount data that is stored in the feature amount data storage unit 305 and is effective for user identification from the identification contribution degree (FIG. 17) of each feature amount data. Select and return (details will be described in the explanation of FIG. 5).

ステップS106では、証跡送信端末100にて、取得した特徴量データを用いてカメラ画像に対して顔認識を行い、ユーザの監視を開始する(図6の説明で詳細を記述する)。ユーザ監視はバックグラウンドで処理し、終了を待たずにステップS107に進む。 In step S106, the trail transmission terminal 100 performs face recognition on the camera image using the acquired feature amount data, and starts monitoring the user (details will be described in the description of FIG. 6). The user monitoring is processed in the background, and the process proceeds to step S107 without waiting for the end.

ステップS107における拠点選択よりも先にユーザ監視を開始するのは、第三者が証跡送信端末100にログインし、拠点選択せずに端末を利用した場合にも、なりすましを検出して証跡管理サーバ120に記憶するためである。 User monitoring is started prior to the site selection in step S107 because spoofing is detected and the trail management server is started even when a third party logs in to the trail transmission terminal 100 and uses the terminal without selecting the site. This is to be stored in 120.

ステップS107では、証跡送信端末100が接続している拠点を、証跡管理サーバ120から取得した拠点の中から選択する。 In step S107, the base to which the trail transmission terminal 100 is connected is selected from the bases acquired from the trail management server 120.

証跡管理サーバ120は、ユーザの利用可能な拠点として、拠点情報記憶部505に記憶された拠点情報(図13)を全て返す。 The trail management server 120 returns all the base information (FIG. 13) stored in the base information storage unit 505 as a base that can be used by the user.

図13には、拠点情報テーブルが示されており、拠点情報テーブルは、拠点を一意に識別するためのID、拠点の名称を示す名前、拠点の名称の仮名、拠点の住所などを含んで構成されている。 FIG. 13 shows a base information table, and the base information table is configured to include an ID for uniquely identifying the base, a name indicating the name of the base, a pseudonym of the name of the base, an address of the base, and the like. Has been done.

また、ユーザ記憶部502のユーザ情報の在宅権限がTRUEである場合は、ユーザの住所から名前が自宅の拠点情報を生成して返却する。 If the home authority of the user information of the user storage unit 502 is TRUE, the home base information whose name is home is generated from the user's address and returned.

返却する拠点情報には、ログイン情報記憶部503に記憶されたログイン情報(図15)から、各拠点での最終ログイン日時を取得しマージする。 For the returned base information, the last login date and time at each base is acquired from the login information (FIG. 15) stored in the login information storage unit 503 and merged.

図15には、ログイン情報テーブルが示されており、ログイン情報テーブルは、ログイン自身を一意に識別するためのID、ユーザID、ログインされた証跡送信端末100を一意に識別するための端末ID、ログインした拠点のIDを示す拠点ID、ログインした拠点がユーザの自宅であるか否かを示す在宅(TRUEの場合、自宅)、ユーザの動静、ログインした日時、及びログアウトした日時を含んで構成されている。 FIG. 15 shows a login information table, in which the login information table includes an ID for uniquely identifying the login itself, a user ID, and a terminal ID for uniquely identifying the logged-in trail transmitting terminal 100. It is composed of a base ID indicating the ID of the logged-in base, a home indicating whether the logged-in base is the user's home (home in the case of TRUE), the user's movement, the date and time of login, and the date and time of logout. ing.

このような拠点情報は、例えば、図8に示すような、ユーザに拠点を選択させる画面に表示させ、この表示された拠点情報から、ユーザが所望する拠点情報を選択させる。 Such base information is displayed on, for example, a screen that allows the user to select a base, as shown in FIG. 8, and the user selects the desired base information from the displayed base information.

証跡送信端末100では、Wifi網等から近辺住所を取得でき、取得した拠点リストから接続元拠点を特定できる場合、自動で接続元拠点を決定してユーザに確認する。 If the trail transmission terminal 100 can acquire a nearby address from a Wifi network or the like and can specify a connection source base from the acquired base list, the connection source base is automatically determined and confirmed by the user.

その例を、図8に示す拠点確認画面601を表示し、特定できた接続元拠点に関する情報を表示する。 As an example, the base confirmation screen 601 shown in FIG. 8 is displayed, and the information regarding the identified connection source base is displayed.

間違っていた場合、拠点リストを近辺住所から近い順に表示し、ユーザに選択させる(最終ログイン日時が新しいものを先に表示する)。 If you make a mistake, display the base list in order from the nearest address and let the user select it (the one with the newest last login date and time is displayed first).

その例として、拠点確認画面601に対して、ユーザが、Cancelボタン602を押下すると、図8の上段に示すように、作業拠点の選択画面604が表示され、近辺住所から近い順に拠点情報を表示して、ユーザに選択させる。 As an example, when the user presses the Cancel button 602 on the base confirmation screen 601, the work base selection screen 604 is displayed as shown in the upper part of FIG. 8, and the base information is displayed in order from the nearest address. And let the user choose.

近辺住所を取得できたが特定には至らない場合、拠点リストを近辺住所から近い順に表示し、ユーザに選択させる。 If the neighborhood address can be obtained but cannot be specified, the base list is displayed in order from the nearest address and the user is made to select it.

同様に、拠点確認画面601に対して、ユーザが、Cancelボタン602を押下すると、図8の上段に示すように、作業拠点の選択画面604が表示され、近辺住所から近い順に拠点情報を表示して、ユーザに選択させる。 Similarly, when the user presses the Cancel button 602 on the base confirmation screen 601, the work base selection screen 604 is displayed as shown in the upper part of FIG. 8, and the base information is displayed in order from the nearest address. And let the user make a choice.

近辺住所を取得できない場合、拠点リストを最終ログイン日時の新しい順に表示し、ユーザに選択させる(同じ住所の拠点がある場合はまとめて表示する)。 If the neighborhood address cannot be obtained, the base list is displayed in the order of the latest login date and time, and the user is selected (if there are bases with the same address, they are displayed together).

その例として、拠点確認画面601に対して、ユーザが、Cancelボタン602を押下すると、図8の下段に示すように、作業拠点の選択画面604が表示され、最終ログイン日時の新しい順に拠点情報を表示して(同じ住所の拠点がある場合はまとめて表示する)、ユーザに選択させる。 As an example, when the user presses the Cancel button 602 on the site confirmation screen 601, the work site selection screen 604 is displayed as shown in the lower part of FIG. 8, and the site information is displayed in the order of the latest login date and time. Display them (if there are bases with the same address, display them all together) and let the user select.

作業拠点の選択画面604において、拠点が選択された状態で、OKボタン605が押下されると、選択した拠点情報が証跡管理サーバ120に送信され、ログイン情報記憶部503に登録されたユーザのログイン情報の拠点に登録される。 When the OK button 605 is pressed while the base is selected on the work base selection screen 604, the selected base information is sent to the trail management server 120, and the login of the user registered in the login information storage unit 503 is logged in. Registered as an information base.

ステップS108では、ログイン情報記憶部503から検索した、同一拠点のユーザの証跡送信端末に特徴量データ更新通知を送信する。 In step S108, the feature amount data update notification is transmitted to the trail transmission terminal of the user at the same base searched from the login information storage unit 503.

ステップS109では、特徴量データ更新通知を受信した証跡送信端末100は、証跡管理サーバ120から利用すべき特徴量データを取得し、特徴量データ記憶部305のデータを置換する。 In step S109, the trail transmission terminal 100 that has received the feature amount data update notification acquires the feature amount data to be used from the trail management server 120 and replaces the data of the feature amount data storage unit 305.

その際、証跡管理サーバ120は、当該ユーザだけでなく、同一拠点のユーザの特徴量データも返却する。この際、ステップS105と同様に、すべての特徴量データを返すのではなく、特徴量データ記憶部305に記憶された、各特徴量データの識別寄与度からユーザの識別に有効な特徴量データを選択して返却する(図5の説明で詳細を記述する)。 At that time, the trail management server 120 returns not only the user but also the feature amount data of the user at the same base. At this time, as in step S105, instead of returning all the feature amount data, the feature amount data that is stored in the feature amount data storage unit 305 and is effective for user identification from the identification contribution of each feature amount data is obtained. Select and return (details will be described in the description of FIG. 5).

ステップS110では、ログイン情報記憶部503から検索した同一拠点のユーザおよび、チーム記憶部511から検索したユーザの所属するチームのメンバー(被監視者IDリスト)に対して、動静更新通知を送信する。 In step S110, a motion update notification is transmitted to the user at the same base searched from the login information storage unit 503 and the team member (monitored person ID list) to which the user searched from the team storage unit 511 belongs.

ステップS111では、動静更新通知を受信した証跡送信端末100は、現在表示しているチームまたは拠点のユーザの動静情報を、証跡管理サーバ120から取得して表示する。 In step S111, the trail transmission terminal 100 that has received the motion update notification acquires the motion information of the currently displayed team or base user from the trail management server 120 and displays it.

同様に、チーム記憶部511から検索したユーザの管理者の証跡監査端末110に対して動静更新通知を送信する。動静更新通知を受信した証跡監査端末110は、現在表示しているチームに所属するユーザの動静を取得して表示する。 Similarly, the motion update notification is transmitted to the trail audit terminal 110 of the user's administrator searched from the team storage unit 511. The trail audit terminal 110 that has received the motion update notification acquires and displays the motion of the user belonging to the currently displayed team.

この動静更新通知を受けた際に証跡送信端末100でユーザの動静情報を表示する画面の例を図9に示す。 FIG. 9 shows an example of a screen for displaying the user's movement information on the trail transmission terminal 100 when the movement update notification is received.

動静確認画面701は、現在、選択した拠点におけるユーザの動静情報を表示する画面であり、図9の上段の左に示すように、田中花子及び鈴木一郎の2名が在席状態となり、動静確認画面701に表示されているが、佐藤元子が、当該拠点に出社し、鈴木一郎が退社すると、図9の上段の右に示すように、田中花子及び佐藤元子の2名が在席状態として表示され、鈴木一郎が他社したことを示すオフラインの状態として表示している。 The movement confirmation screen 701 is a screen that displays the movement information of the user at the selected base, and as shown on the left in the upper part of FIG. 9, two people, Hanako Tanaka and Ichiro Suzuki, are present and the movement confirmation. Although it is displayed on the screen 701, when Motoko Sato arrives at the base and Ichiro Suzuki leaves the office, Hanako Tanaka and Motoko Sato are present as shown on the upper right of Fig. 9. Is displayed as an offline status indicating that Ichiro Suzuki is another company.

ステップS112では、ユーザが証跡送信端末100からログアウトすることをトリガーとして、ステップS106のユーザ監視を終了し、証跡管理サーバ120からログアウトする。 In step S112, the user logs out from the trail transmission terminal 100 as a trigger, the user monitoring in step S106 ends, and the user logs out from the trail management server 120.

ステップS113では、ユーザ監視を終了する際、特徴量データ記憶部305に記憶された識別寄与度を証跡管理サーバ120に送信し、証跡管理サーバ120は、受信した識別寄与度を特徴量データ記憶部508に記憶する。 In step S113, when the user monitoring is terminated, the identification contribution degree stored in the feature amount data storage unit 305 is transmitted to the trail management server 120, and the trail management server 120 transmits the received identification contribution degree to the feature amount data storage unit. Store in 508.

ログアウトの際、証跡管理サーバ120は、ログイン情報記憶部503のユーザの最新のログイン情報のログアウト日時を登録し、状態をオフラインにする。そして、ステップS114では、各証跡監査端末110に対して動静更新通知を行う。 At the time of logout, the trail management server 120 registers the logout date and time of the latest login information of the user of the login information storage unit 503, and makes the state offline. Then, in step S114, a motion update notification is given to each trail audit terminal 110.

以下、図5を参照して、図4のS104およびS108の更新通知をトリガーとして特徴量データの更新が行われ、証跡送信端末100にてユーザおよび同一拠点のユーザを識別可能になるまでの流れを説明する。 Hereinafter, with reference to FIG. 5, the feature amount data is updated with the update notification of S104 and S108 of FIG. 4 as a trigger, and the flow until the user and the user at the same base can be identified by the trail transmission terminal 100. To explain.

証跡送信端末100の処理は、そのCPU201により、ROM203から取得したプログラムおよびデータをRAM202に記憶することで実行される。また、証跡管理サーバ120の処理は、そのCPU201により、ROM203から取得したプログラムおよびデータをRAM202に記憶することで実行される。 The processing of the trail transmission terminal 100 is executed by storing the program and data acquired from the ROM 203 in the RAM 202 by the CPU 201. Further, the processing of the trail management server 120 is executed by storing the program and data acquired from the ROM 203 in the RAM 202 by the CPU 201.

ステップS201では、証跡送信端末100が、証跡管理サーバ120に対して、顔認識のための特徴量データの取得を要求する。 In step S201, the trail transmission terminal 100 requests the trail management server 120 to acquire feature amount data for face recognition.

要求のタイミングとしては、ユーザが証跡送信端末100を通して証跡管理サーバ120へのログインに成功したとき、または証跡送信端末100が証跡管理サーバ120から特徴量データの更新通知を受けたときである。 The timing of the request is when the user succeeds in logging in to the trail management server 120 through the trail transmission terminal 100, or when the trail transmission terminal 100 receives an update notification of the feature amount data from the trail management server 120.

ステップS202では、ユーザと同一拠点から接続しているユーザをログイン情報記憶部503から検索する。 In step S202, a user connected from the same base as the user is searched from the login information storage unit 503.

ステップS204の時点では、自身の最新のログイン情報に拠点は設定されていないはずなので、自身のみを同一拠点のログインユーザとして取得する。 At the time of step S204, the base should not be set in the latest login information of the own base, so only the base is acquired as the login user of the same base.

ステップS207の時点では、自身の最新のログイン情報の拠点と同じ値を持つ(ログアウトしていない)ログイン情報のユーザを取得する。 At the time of step S207, the user of the login information having the same value as the base of the latest login information of the user (not logged out) is acquired.

ステップS203からステップS208では、ステップS202で取得した同一拠点のユーザ全員を識別するのに有効な特徴量データを抽出する。 From step S203 to step S208, feature amount data effective for identifying all users at the same site acquired in step S202 is extracted.

ステップS204では、特徴量データ記憶部508(図17)に記憶された、該当ユーザの識別寄与度情報を登録の新しいものからX件取得し、その中で、識別必須回数(この特徴量データがなければ識別に失敗していた回数)が1以上のものを取得する。 In step S204, X items of the identification contribution information of the corresponding user stored in the feature amount data storage unit 508 (FIG. 17) are acquired from the new registered ones, and among them, the required number of identifications (this feature amount data is If not, the number of times the identification failed) is 1 or more.

図17には、識別寄与度情報テーブルが示されており、識別寄与度情報テーブルは、識別寄与度情報を一意に識別するためのID、特徴量を一意に識別するための特徴量データID、識別寄与度情報を登録したときの日時、認証を行った回数を示す認識回数、認証を行った結果得られた類似度の平均値を示す平均類似度、及び認証必須回数を含んで構成されている(詳細後述)。 FIG. 17 shows an identification contribution information table, in which the identification contribution information table includes an ID for uniquely identifying the identification contribution information, a feature amount data ID for uniquely identifying the feature amount, and the like. It is configured to include the date and time when the identification contribution information was registered, the number of recognitions indicating the number of times of authentication, the average degree of similarity indicating the average value of the degree of similarity obtained as a result of authentication, and the required number of times of authentication. (Details will be described later).

ステップS205では、ステップS204で取得した件数が、最大値N件を超える場合は、ステップS206へ処理を進め、超えない場合は、ステップS207へ処理を進める。 In step S205, if the number of cases acquired in step S204 exceeds the maximum value N, the process proceeds to step S206, and if it does not exceed, the process proceeds to step S207.

ここで最大値を設けているのは、あまり多くの特徴量データを使っても、他人許容率(第三者をユーザ本人と認識してしまう確率)が上がる可能性があるからである。 The reason why the maximum value is set here is that even if too much feature amount data is used, the allowance rate for others (probability of recognizing a third party as the user himself / herself) may increase.

また、主に識別する対象がユーザ本人であるため、それ以外の同一拠点のユーザの場合はN’(<N)件を最大値にしてもよい。 Further, since the target to be identified is mainly the user himself / herself, N'(<N) cases may be set to the maximum value in the case of other users at the same base.

顔認識技術は、撮影した人などの顔を検出し、その属性情報を読み取る技術であり、顔認識技術を用いた個人識別は、顔画像から算出した特徴量を学習した識別器によって他の顔画像から算出した特徴量との類似性を算出し、その顔の人物を識別する技術である。 Face recognition technology is a technology that detects the face of a person who has taken a picture and reads the attribute information, and personal identification using face recognition technology is another face by a classifier that learns the feature amount calculated from the face image. It is a technique to identify a person with a face by calculating the similarity with the feature amount calculated from an image.

この学習の際、同一人物を同じ識別子に関連付けて学習させるが、あまり多くの人物の特徴量を学習しすぎると、識別器の性能にもよるが、本人拒否(登録者を登録者として識別できない)率または他人許容(登録されていない人物を登録者として識別してしまう)率がそれぞれ悪くなってしまう可能性がある。 In this learning, the same person is associated with the same identifier for learning, but if too many features are learned, the person is rejected (the registrant cannot be identified as the registrant), depending on the performance of the classifier. ) Rate or the rate of allowance for others (identifying an unregistered person as a registrant) may be worse.

ステップS206では、ステップS204で取得したものの中から識別必須回数が多いもの上位M(<N)件を取得する。さらに、平均類似度が高いもの上位(N-M)件を取得し、合計N件の特徴量データを取得する。 In step S206, among the items acquired in step S204, the upper M (<N) items having a large number of required identifications are acquired. Further, the high-ranking (NM) cases having a high average similarity are acquired, and the feature amount data of a total of N cases is acquired.

ステップS207では、得られた特徴量データを証跡送信端末100に返却するリストに追加する。 In step S207, the obtained feature amount data is added to the list to be returned to the trail transmission terminal 100.

ステップS209では、証跡管理サーバ120が取得した特徴量データを証跡送信端末100に返却し、証跡送信端末100は、取得した特徴量データを特徴量データ記憶部305に記憶する。 In step S209, the feature amount data acquired by the trail management server 120 is returned to the trail transmission terminal 100, and the trail transmission terminal 100 stores the acquired feature amount data in the feature amount data storage unit 305.

以上により、証跡送信端末100では、ユーザおよび同一拠点のログインユーザを識別できるようになる。 As described above, the trail transmission terminal 100 can identify the user and the logged-in user at the same base.

ちなみに、ステップS204からステップS207の識別に有効な特徴量データの検索方法は一例であり、各パラメータから総合的なスコアを算出して上位のものを選択したり、前述のスコアに対して新しいデータほど上方補正をかけて選択されやすくしたり、いろいろな選択方法が考えられる。 By the way, the method of searching the feature amount data effective for the identification of steps S204 to S207 is an example, and the comprehensive score is calculated from each parameter and the higher one is selected, or new data is obtained for the above-mentioned score. It is possible to make it easier to select by applying upward correction, and various selection methods can be considered.

以下、図6を参照して、図4のステップS106のユーザ監視において、ユーザの動静および不正アクセスの検出と、不正アクセス発生時に監視者へ不正アクセス登録通知を行う流れについて説明する。 Hereinafter, with reference to FIG. 6, in the user monitoring in step S106 of FIG. 4, the flow of detecting the user's movement and unauthorized access and notifying the observer of the unauthorized access registration when the unauthorized access occurs will be described.

この処理は、証跡送信端末100のCPU201により、ROM203から取得したプログラムおよびデータをRAM202に記憶することで実行される。 This process is executed by storing the program and data acquired from the ROM 203 in the RAM 202 by the CPU 201 of the trail transmission terminal 100.

ステップS301では、現在の動静および不正アクセスを初期化する。動静は最初何もない状態であり、不正アクセスは正常な状態である。 In step S301, the current movement and unauthorized access are initialized. The movement is initially empty, and unauthorized access is normal.

ステップS302では、カメラ画像に対して顔認識を適用し、顔認識結果(図21)、顔認識結果から求まる動静(図18)および不正アクセス(図19)、およびその際のカメラ画像あるいはスクリーンショット(図20)を、証跡記憶部313に記憶する。カメラ画像からその動静および不正アクセスの状態を検出する(詳細は図7の説明にて記述する)。 In step S302, face recognition is applied to the camera image, the face recognition result (FIG. 21), the movement obtained from the face recognition result (FIG. 18) and unauthorized access (FIG. 19), and the camera image or screenshot at that time. (FIG. 20) is stored in the trail storage unit 313. The state of movement and unauthorized access is detected from the camera image (details will be described in the description of FIG. 7).

図21には、顔認識結果テーブルが示されており、顔認識結果テーブルは、顔認識の結果を一意に識別するためのID、顔認識を行ったカメラ画像の画像を一意に識別するための画像ID、顔検出が行われたカメラ画像における顔の位置を示す座標、顔検出を行った結果としての類似度、顔認識を行った結果、特定されたユーザのユーザIDを含む構成を備えている。 FIG. 21 shows a face recognition result table, in which the face recognition result table uniquely identifies an ID for uniquely identifying the face recognition result and an image of a camera image for which face recognition has been performed. It has a configuration including an image ID, coordinates indicating the position of a face in a camera image in which face detection has been performed, similarity as a result of face detection, and a user ID of a user identified as a result of face recognition. There is.

図18には、動静情報テーブルが示され、動静情報テーブルは、動静情報を一意に識別するためのID、ユーザID、端末ID、ユーザの動静を示す状態(在席、離席)、監視を開始した日時、及び監視を終了した日時を含んで構成されている。 FIG. 18 shows a movement information table, and the movement information table monitors an ID for uniquely identifying the movement information, a user ID, a terminal ID, a state indicating the movement of the user (attended or absent), and monitoring. It is composed of the date and time when it started and the date and time when monitoring ended.

図19には、不正アクセステーブルが示されており、不正アクセステーブルは、不正アクセスを一意に識別するためのID、ユーザID、端末ID、監視されたユーザの不正アクセスの判定結果を示す状態、この状態が開始された日時、この状態が終了した日時、この不正アクセスに対して、管理者が監査を行ったか否かを示す監査状態、及び監査を行った管理者を示す監査者を含んで構成されている。 FIG. 19 shows an unauthorized access table, and the unauthorized access table shows an ID for uniquely identifying unauthorized access, a user ID, a terminal ID, and a state showing a determination result of unauthorized access of a monitored user. Includes the date and time when this state started, the date and time when this state ended, the audit status that indicates whether the administrator audited this unauthorized access, and the auditor that indicates the administrator who audited. It is configured.

図20には、証跡画像テーブルが示されており、証跡画像テーブルは、証跡対象となる画像を一意に識別するためのID、当該画像が、カメラ画像であるかスクリーンショットであるかの種別、画像を取得した端末ID、取得した画像データ、及び取得した日時を示す撮影日時を含んで構成されている。 FIG. 20 shows a trail image table, in which the trail image table has an ID for uniquely identifying an image to be trailed, a type of whether the image is a camera image or a screenshot, and so on. It is configured to include the terminal ID from which the image was acquired, the acquired image data, and the shooting date and time indicating the acquired date and time.

ステップS303では、証跡記憶部313に記憶された動静情報を元に、最新の動静(新動静)を算出する。 In step S303, the latest movement (new movement) is calculated based on the movement information stored in the trail storage unit 313.

最も単純な算出方法としては、過去数件分の動静情報の中で、最も多い状態を新動静の状態とし、最も古い動静情報を動静の状態とする。 As the simplest calculation method, among the movement information of the past several cases, the most frequent state is the new movement state, and the oldest movement information is the movement state.

同様に、証跡記憶部313に記憶された不正アクセス情報を元に、最新の不正アクセス(新不正アクセス)を算出する。 Similarly, the latest unauthorized access (new unauthorized access) is calculated based on the unauthorized access information stored in the trail storage unit 313.

ステップS304では、動静の状態と新動静の状態が異なるか(つまり状態が変化したか)確認し、異なるならステップS305へ処理を進め、同じであればステップS307に進む。 In step S304, it is confirmed whether the state of motion and the state of new motion are different (that is, whether the state has changed), if they are different, the process proceeds to step S305, and if they are the same, the process proceeds to step S307.

ステップS305では、動静を新動静で置き換え、その動静情報を証跡管理サーバ120に送信し、ステップS306では、証跡管理サーバ120が、受信した動静情報を証跡記憶部514に記憶する。 In step S305, the movement is replaced with a new movement, and the movement information is transmitted to the trail management server 120. In step S306, the trail management server 120 stores the received movement information in the trail storage unit 514.

また、ログイン情報記憶部503に記憶されたユーザの最新のログイン情報の動静を更新する。 In addition, the movement of the latest login information of the user stored in the login information storage unit 503 is updated.

さらに、同一拠点のユーザをログイン情報記憶部503から検索し、ユーザの動静参照者として同一のチームに所属するユーザ(監視者、被監視者)をチーム記憶部511から検索し、各ユーザの証跡送信端末100および証跡監査端末110に動静更新通知を送信する。 Further, a user at the same base is searched from the login information storage unit 503, and a user (monitorer, monitored person) belonging to the same team as a user's motion reference person is searched from the team storage unit 511, and the trail of each user is searched. A motion update notification is transmitted to the transmission terminal 100 and the trail audit terminal 110.

このときも前述と同様に図9に示す動静確認画面701を証跡送信端末100に表示するが、証跡監査端末110には、図9の下段に示す動静全体確認画面702が表示される。 At this time as well, the motion confirmation screen 701 shown in FIG. 9 is displayed on the trail transmission terminal 100 in the same manner as described above, but the trail audit terminal 110 displays the motion confirmation screen 702 shown in the lower part of FIG.

動静確認画面701については、同一拠点内のユーザの動静を確認することが可能であるが、動静全体確認画面702については、全ての拠点内のユーザの動静を確認することが可能である点が主に異なる。動静全体確認画面702では、不正アクセスの有無についても確認することが可能である。 On the movement confirmation screen 701, it is possible to confirm the movements of users in the same base, but on the movement confirmation screen 702, it is possible to confirm the movements of users in all the bases. Mainly different. On the movement confirmation screen 702, it is possible to confirm the presence or absence of unauthorized access.

動静確認画面701及び動静全体確認画面702について言えば、証跡監査端末110を一意に識別するための端末IDに対応する名称を表示する態様を取ることも可能である。 Speaking of the movement confirmation screen 701 and the movement confirmation screen 702, it is also possible to take a mode of displaying the name corresponding to the terminal ID for uniquely identifying the trail audit terminal 110.

この場合、図12に示す端末情報テーブルを用いて、当該名称の表示を行う。この端末情報テーブルは、証跡監査端末110を一意に識別するためのIDと、証跡監査端末110の名称を示す説明を含む構成を備えている。 In this case, the name is displayed using the terminal information table shown in FIG. This terminal information table includes an ID for uniquely identifying the trail audit terminal 110 and a description indicating the name of the trail audit terminal 110.

つまり、ログイン情報記憶部503の端末IDに該当する端末情報テーブルのIDに対応する説明を動静確認画面701あるいは動静全体確認画面702に表示する。 That is, the explanation corresponding to the ID of the terminal information table corresponding to the terminal ID of the login information storage unit 503 is displayed on the movement confirmation screen 701 or the movement confirmation screen 702.

ステップS307では、動静の終了日時を現在時刻で更新し、証跡管理サーバ120に送信する。登録から一定時間経過しているのであれば、最新のカメラ画像およびスクリーンショットも同様に送信する。証跡管理サーバ120は、受信した証跡情報を証跡記憶部514の情報に登録または更新する。 In step S307, the end date and time of the movement is updated with the current time and transmitted to the trail management server 120. If a certain amount of time has passed since registration, the latest camera images and screenshots will be sent as well. The trail management server 120 registers or updates the received trail information in the information of the trail storage unit 514.

ステップS308では、動静が在席である場合、ステップS309へ処理を進め、それ以外(離席)の場合は、ステップS310へ処理を進める。 In step S308, if the movement is present, the process proceeds to step S309, and if it is not (away from the seat), the process proceeds to step S310.

ステップS309では、証跡記憶部313に記憶された最新の動静情報を算出した際の、カメラ画像に対する顔認識結果の類似度から、監視対象の各特徴量データの顔認識における識別寄与度を算出し、特徴量データ記憶部305に記憶する。最新の動静情報の状態が在席である場合のみ行う。 In step S309, the discrimination contribution in face recognition of each feature amount data to be monitored is calculated from the similarity of the face recognition result with respect to the camera image when the latest motion information stored in the trail storage unit 313 is calculated. , Stored in the feature amount data storage unit 305. Perform only when the latest motion information status is present.

識別寄与度における平均類似度は、在席と判定された際に特徴量データの記録した全ての類似度の平均である。識別寄与度における識別必須回数は、在席と判定された際にその特徴量データがなければなりすましと判定されていた、つまり、その特徴量データでなければ本人として識別できなかった回数である。 The average similarity in the discrimination contribution is the average of all the similarity recorded in the feature amount data when it is determined to be present. The required number of identifications in the identification contribution degree is the number of times that the person cannot be identified without the feature amount data, that is, it is determined that the feature amount data must be present when it is determined to be present.

単純に類似度が閾値(0.7)を超えるか否かで識別している場合、特徴量データ1が0.78、特徴量データ2が0.65のとき、特徴量データ1の識別寄与度の識別必須回数を1増やす。 When the identification is simply made based on whether or not the similarity exceeds the threshold value (0.7), when the feature amount data 1 is 0.78 and the feature amount data 2 is 0.65, the identification contribution of the feature amount data 1 Increase the required number of times of identification by 1.

ステップS310では、不正アクセスの状態と新不正アクセスの状態が異なるか(つまり状態が変化したか)否かを判定し、異なると判定したなら、ステップS311へ処理を進め、同じであると判定した場合、ステップS316へ処理を進める。 In step S310, it is determined whether the state of unauthorized access and the state of new unauthorized access are different (that is, whether the state has changed), and if it is determined that they are different, the process proceeds to step S311 and it is determined that they are the same. If so, the process proceeds to step S316.

ステップS311では、不正アクセスを新不正アクセスで置き換え、その新たな不正アクセス情報を証跡管理サーバ120に送信する。ステップS312では、証跡管理サーバ120が、受信した不正アクセス情報を証跡記憶部514に記憶する。 In step S311, the unauthorized access is replaced with the new unauthorized access, and the new unauthorized access information is transmitted to the trail management server 120. In step S312, the trail management server 120 stores the received unauthorized access information in the trail storage unit 514.

ステップS313では、不正アクセスの状態が正常であるか確認し、正常でなければ、その新たな不正アクセス情報を証跡管理サーバ120に送信し、ステップS314に処理を進め、正常であればステップS318に処理を進める。 In step S313, it is confirmed whether the unauthorized access status is normal, and if it is not normal, the new unauthorized access information is transmitted to the trail management server 120, the process proceeds to step S314, and if it is normal, the process proceeds to step S318. Proceed with processing.

ステップS314では、証跡管理サーバ120が、受信した不正アクセス情報を証跡記憶部514に記憶する。 In step S314, the trail management server 120 stores the received unauthorized access information in the trail storage unit 514.

ステップS315では、受信した不正アクセスの状態が「覗き見(同僚)」であれば、ステップS318に処理を進め、そうでなければ、管理者への通知が必要と判断してステップS316に処理を進める。 In step S315, if the received unauthorized access status is "peeping (colleague)", the process proceeds to step S318, and if not, it is determined that notification to the administrator is necessary and the process is performed in step S316. Proceed.

ステップS316では、証跡管理サーバ120が、ユーザの所属チームの監視者をチーム記憶部511から検索し、各監視者の証跡監査端末110に不正アクセス登録通知を送信する。 In step S316, the trail management server 120 searches for the observer of the team to which the user belongs from the team storage unit 511, and sends an unauthorized access registration notification to the trail audit terminal 110 of each observer.

不正アクセス登録通知を受信した証跡監査端末110は、不正アクセスの監査を監視者に促し、ユーザ情報の表示を更新する。 The trail audit terminal 110 that has received the unauthorized access registration notification prompts the observer to audit the unauthorized access and updates the display of the user information.

ここでも、前述したように、証跡監査端末110において、図9の下段に示す動静全体確認画面702が表示され、不正アクセスの有無を動静全体確認画面702で確認することが可能となる。 Here, as described above, on the trail audit terminal 110, the movement overall confirmation screen 702 shown in the lower part of FIG. 9 is displayed, and it is possible to confirm the presence or absence of unauthorized access on the movement overall confirmation screen 702.

さらに、この例に関して、図10を用いて説明する。図10の上段の左に示される動静確認画面701では、田中花子及び鈴木一郎の2名が在席状態となり、動静確認画面701に表示されているが、図10の下段の最も左に示される703では、在席状態である田中花子の証跡送信端末100に田中花子以外の人物が撮影されているが、この人物が、同一拠点で在席状態である鈴木一郎以外の人物が撮影されているため、不正アクセス登録通知を行う。 Further, this example will be described with reference to FIG. On the motion confirmation screen 701 shown on the upper left of FIG. 10, two people, Hanako Tanaka and Ichiro Suzuki, are present and displayed on the motion confirmation screen 701, but are shown on the far left of the lower part of FIG. In 703, a person other than Hanako Tanaka is photographed on the trail transmission terminal 100 of Hanako Tanaka who is present, but this person is photographed by a person other than Ichiro Suzuki who is present at the same base. Therefore, an unauthorized access registration notification is sent.

一方、図10の下段の左から2番目に示される704では、在席状態である田中花子の証跡送信端末100に田中花子以外の人物が撮影されているが、この人物が、同一拠点で在席状態である鈴木一郎が撮影されているため、不正アクセス登録通知を行わず、処理を終了する。 On the other hand, in 704 shown second from the left in the lower part of FIG. 10, a person other than Hanako Tanaka is photographed on the trail transmission terminal 100 of Hanako Tanaka who is present, but this person is present at the same base. Since Ichiro Suzuki, who is in the seat state, is being photographed, the process ends without notifying the unauthorized access registration.

また、図10の上段の左に示すように、田中花子及び鈴木一郎の2名が在席状態である状態から、佐藤元子が、当該拠点に出社し、鈴木一郎が退社すると、図10の上段の右に示すように、田中花子及び佐藤元子の2名が在席状態として表示され、鈴木一郎が退社したことを示すオフラインの状態として表示している。 In addition, as shown in the upper left of FIG. 10, when Hanako Tanaka and Ichiro Suzuki are present, Motoko Sato arrives at the base and Ichiro Suzuki leaves the office. As shown on the right of the upper row, Hanako Tanaka and Motoko Sato are displayed as being present, and as an offline state indicating that Ichiro Suzuki has left the company.

この状態で、図10の下段の左から3番目に示される705では、在席状態である田中花子の証跡送信端末100に田中花子以外の人物が撮影されているが、この人物が、出社した、同一拠点で在席状態である佐藤元子が撮影されているため、不正アクセス登録通知を行わず、処理を終了する。 In this state, in 705, which is the third from the left in the lower part of FIG. 10, a person other than Hanako Tanaka is photographed on the trail transmission terminal 100 of Hanako Tanaka who is present, but this person came to the office. , Since Motoko Sato, who is present at the same base, is being photographed, the process ends without notifying unauthorized access registration.

一方、図10の下段の最も右に示される706では、在席状態である田中花子の証跡送信端末100に田中花子以外の人物が撮影されているが、この人物が、退社した鈴木一郎が撮影されているため、不正アクセス登録通知を行う。 On the other hand, in 706 shown on the far right of the lower part of FIG. 10, a person other than Hanako Tanaka is photographed on the trail transmission terminal 100 of Hanako Tanaka who is present. Since it has been done, an unauthorized access registration notification will be sent.

ステップS317では、不正アクセスの終了日時を現在時刻で更新し、証跡管理サーバ120に送信する。登録から一定時間経過しているのであれば、最新のカメラ画像およびスクリーンショットも同様に送信する。証跡管理サーバ120は、受信した証跡情報を証跡記憶部514の情報に登録または更新する。 In step S317, the end date and time of unauthorized access is updated with the current time and transmitted to the trail management server 120. If a certain amount of time has passed since registration, the latest camera images and screenshots will be sent as well. The trail management server 120 registers or updates the received trail information in the information of the trail storage unit 514.

ステップS318では、ログアウト等の命令を受けていればフローを終了し、そうでなければステップS302に処理を戻し、ステップS302からステップS317の処理を繰り返す。 In step S318, if an instruction such as logout is received, the flow is terminated, otherwise the process is returned to step S302, and the process of step S302 to step S317 is repeated.

以下、図7を参照して、図6のステップS302における、カメラ画像に対して顔認識を行い、その結果からユーザの動静および不正アクセスの状態を算出する流れについて説明する。この処理は、証跡送信端末100のCPU201により、ROM203から取得したプログラムをRAM202に記憶することで実行される。 Hereinafter, with reference to FIG. 7, a flow of performing face recognition on the camera image in step S302 of FIG. 6 and calculating the state of movement and unauthorized access of the user from the result will be described. This process is executed by storing the program acquired from the ROM 203 in the RAM 202 by the CPU 201 of the trail transmission terminal 100.

ステップS401では、カメラデバイス210からカメラ画像の入力を受け付ける。ステップS402では、カメラ画像に対して顔検出と顔識別を行い、複数の顔認識結果(図21)を得る。 In step S401, the input of the camera image is received from the camera device 210. In step S402, face detection and face identification are performed on the camera image, and a plurality of face recognition results (FIG. 21) are obtained.

顔検出は、カメラ画像内に存在する顔の領域を検出する処理であり、顔識別は、検出した顔から特徴量データを抽出し、特徴量データ記憶部105に記憶された特徴量データとのマッチングを行い、各特徴量データとの類似度を算出する処理であり、さらに算出した類似度を元に、その顔が誰の顔であるか識別する。 Face detection is a process of detecting an area of a face existing in a camera image, and face identification is a process of extracting feature amount data from the detected face and combining it with the feature amount data stored in the feature amount data storage unit 105. It is a process of performing matching and calculating the degree of similarity with each feature amount data, and further identifies who the face is based on the calculated degree of similarity.

最も簡単な識別方法は、一定の閾値を超えた最も高い類似度を記録した特徴量データのユーザに識別することである。識別方法は他にも既存技術が多数あり、何れの技術を適用しても良い。 The simplest identification method is to identify to the user of the feature data that records the highest degree of similarity exceeding a certain threshold. There are many other existing techniques for the identification method, and any technique may be applied.

ステップS403では、ステップS402で顔を検出できなかった場合は、ステップS404に処理を進め、顔をひとつだけ検出できた場合は、ステップS405に処理を進め、顔を複数検出できた場合は、ステップS408に処理を進める。 In step S403, if the face could not be detected in step S402, the process proceeds to step S404, if only one face can be detected, the process proceeds to step S405, and if a plurality of faces can be detected, step S. The process proceeds to S408.

ステップS404では、カメラデバイス210に誰も映っていないので、「離席」の動静と「正常」の不正アクセスを証跡記憶部313に記憶する。また、カメラ画像とスクリーンショット、顔認識結果も記憶する。 In step S404, since no one is shown on the camera device 210, the movement of "leaving" and the unauthorized access of "normal" are stored in the trail storage unit 313. It also stores camera images, screenshots, and face recognition results.

ステップS405では、検出できた顔がユーザとして識別されたか否かを判定し、識別されたと判定すれば、ステップS406に処理を進め、識別されていないと判定すれば、ステップS407に処理を進める。 In step S405, it is determined whether or not the detected face is identified as a user, and if it is determined that the face is identified, the process proceeds to step S406, and if it is determined that the face is not identified, the process proceeds to step S407.

ステップS406では、カメラデバイス210にユーザが一人だけ映っているので、「在席」の動静と「正常」の不正アクセスを証跡記憶部313に記憶する。また、カメラ画像とスクリーンショット、顔認識結果も記憶する。 In step S406, since only one user is shown on the camera device 210, the movement of "attended" and the unauthorized access of "normal" are stored in the trail storage unit 313. It also stores camera images, screenshots, and face recognition results.

ステップS407では、カメラデバイス210にユーザ以外の人物が一人だけ映っているので、「離席」の動静と「なりすまし」の不正アクセスを証跡記憶部313に記憶する。また、カメラ画像とスクリーンショット、顔認識結果も記憶する。 In step S407, since only one person other than the user is shown on the camera device 210, the movement of "leaving" and the unauthorized access of "spoofing" are stored in the trail storage unit 313. It also stores camera images, screenshots, and face recognition results.

ステップS408では、検出できた顔の中にユーザとして識別された顔があるか否かを判定し、識別されたと判定すれば、ステップS409に処理を進め、識別されていないと判定すれば、ステップS410に処理を進める。 In step S408, it is determined whether or not there is a face identified as a user among the detected faces, and if it is determined that the face is identified, the process proceeds to step S409, and if it is determined that the face is not identified, the step is taken. Proceed with processing to S410.

ステップS409では、カメラデバイス210にユーザが映っているので、「在席」の動静を証跡記憶部313に記憶する。また、カメラ画像とスクリーンショット、顔認識結果も記憶する。 In step S409, since the user is shown on the camera device 210, the movement of "attended" is stored in the trail storage unit 313. It also stores camera images, screenshots, and face recognition results.

ステップS410では、カメラデバイス210にユーザが映っていないので、「離席」の動静を証跡記憶部313に記憶する。また、カメラ画像とスクリーンショット、顔認識結果も記憶する。 In step S410, since the user is not shown on the camera device 210, the movement of "leaving" is stored in the trail storage unit 313. It also stores camera images, screenshots, and face recognition results.

ステップS411では、すべての顔が同一拠点のユーザの顔として識別されているか確認し、識別されていれば、ステップSS412に処理を進め、識別されていなければ、ステップS413に処理を進める。同一拠点のユーザ判定は、ログイン情報記憶部503から検索したユーザに関する情報を用いて判定することが可能である。 In step S411, it is confirmed whether all the faces are identified as the faces of the users at the same base, and if they are identified, the process proceeds to step SS412, and if not, the process proceeds to step S413. The user determination at the same site can be determined using the information about the user searched from the login information storage unit 503.

ステップS412では、カメラデバイス210に映っているのはユーザ本人とその同一拠点のユーザであるので、「覗き見(同僚)」の不正アクセスを証跡記憶部313に記憶する。 In step S412, since the camera device 210 shows the user himself / herself and the user at the same base, the unauthorized access of the “peeping (colleague)” is stored in the trail storage unit 313.

ステップS413では、カメラデバイス210に同一拠点のユーザ以外の第三者が映っているので、「覗き見」の不正アクセスを証跡記憶部313に記憶する。
[第2の実施形態]
In step S413, since a third party other than the user at the same base is shown on the camera device 210, the unauthorized access of the "peeping" is stored in the trail storage unit 313.
[Second Embodiment]

次に第2の実施形態について説明するが、第1の実施形態では、主に証跡送信端末100において、ユーザの監視に関する処理を行ったが、第2の実施形態では、ユーザの監視に関する主な処理を証跡管理サーバ120で行う構成を備える。 Next, the second embodiment will be described. In the first embodiment, the process related to user monitoring is performed mainly in the trail transmission terminal 100, but in the second embodiment, the main processing related to user monitoring is performed. A configuration is provided in which processing is performed by the trail management server 120.

尚、第1の実施形態と第2の実施形態において、同様な構成を備える場合、あるいは同様な処理を行う場合は、詳細な説明を省略して、同一の符号を用いて説明を行い、相違する場合にのみ詳細な説明を行う。 When the same configuration is provided or the same processing is performed in the first embodiment and the second embodiment, detailed description thereof will be omitted, and explanations will be given using the same reference numerals. A detailed explanation will be given only when this is done.

次に、図22を用いて、本発明の証跡送信端末100、証跡監査端末110および証跡管理サーバ120の機能ブロック図について説明する。尚、各機能ブロックが処理する詳細な制御については、後述するフローチャートにて説明する。 Next, the functional block diagram of the trail transmission terminal 100, the trail audit terminal 110, and the trail management server 120 of the present invention will be described with reference to FIG. 22. The detailed control processed by each functional block will be described with reference to the flowchart described later.

まず、証跡送信端末100の機能構成について説明する。 First, the functional configuration of the trail transmission terminal 100 will be described.

特徴量データ更新部902は、通信I/Fコントローラ208を介して証跡管理サーバ120の特徴量データ取得部507から、ユーザおよびユーザと同じ拠点から接続するログインユーザの特徴量データを取得し、特徴量データ記憶部907のデータを更新する。特徴量データ記憶部907は、顔認識に使用する顔の特徴量データを記憶する。 The feature amount data update unit 902 acquires the feature amount data of the user and the logged-in user connected from the same base as the user from the feature amount data acquisition unit 507 of the trail management server 120 via the communication I / F controller 208, and features. The data of the quantity data storage unit 907 is updated. The feature amount data storage unit 907 stores the feature amount data of the face used for face recognition.

映像入力部801は、カメラデバイス210より映像を取得し、映像送信部802へ出力し、映像送信部802は、映像入力部801から出力された映像を証跡管理サーバ120の映像受信部901へ送信する。 The video input unit 801 acquires video from the camera device 210 and outputs it to the video transmission unit 802, and the video transmission unit 802 transmits the video output from the video input unit 801 to the video reception unit 901 of the trail management server 120. do.

最後に、証跡管理サーバ120の機能構成について説明する。 Finally, the functional configuration of the trail management server 120 will be described.

映像受信部901は、映像送信部802から送信された映像を受信して、特徴量データ抽出部903および状態検出部905にその映像を送信する。 The video receiving unit 901 receives the video transmitted from the video transmitting unit 802, and transmits the video to the feature amount data extraction unit 903 and the state detection unit 905.

特徴量データ更新部902は、特徴量データ取得部507から、ユーザおよびユーザと同じ拠点から接続するログインユーザの特徴量データを取得し、特徴量データ記憶部907のデータを更新する。特徴量データ記憶部907は、顔認識に使用する顔の特徴量データを記憶する。 The feature amount data update unit 902 acquires the feature amount data of the user and the logged-in user connected from the same base as the user from the feature amount data acquisition unit 507, and updates the data of the feature amount data storage unit 907. The feature amount data storage unit 907 stores the feature amount data of the face used for face recognition.

特徴量データ抽出部903は、特徴量データの登録がない場合や、ユーザの識別がうまくいかない際にユーザを識別するための特徴量データを抽出する。 The feature amount data extraction unit 903 extracts the feature amount data for identifying the user when the feature amount data is not registered or when the user identification is not successful.

特徴量データ抽出部903は、映像受信部901から受信した映像からユーザの顔を抽出し、その顔を使って識別するかどうかユーザに確認する。確認がとれたら、顔から特徴量データを抽出し、それを特徴量データ記憶部508に記憶する。その際、監査情報更新通知部510に、特徴量データの登録通知を要求する。顔の抽出および特徴料データの抽出は顔認識部904に依頼する。 The feature amount data extraction unit 903 extracts the user's face from the video received from the video reception unit 901, and asks the user whether to identify using the face. After confirmation, the feature amount data is extracted from the face and stored in the feature amount data storage unit 508. At that time, the audit information update notification unit 510 is requested to notify the registration of the feature amount data. The face recognition unit 904 is requested to extract the face and the feature charge data.

顔認識部904は、特徴量データ抽出部903から受信した映像から顔を抽出し、さらにその顔から識別に利用可能な特徴量データを抽出する。また、状態検出部905から受信した映像から顔を抽出し、各顔から抽出した特徴量データと状態検出部905から受信した特徴量データとの類似度を算出する。 The face recognition unit 904 extracts a face from the image received from the feature amount data extraction unit 903, and further extracts the feature amount data that can be used for identification from the face. Further, a face is extracted from the image received from the state detection unit 905, and the degree of similarity between the feature amount data extracted from each face and the feature amount data received from the state detection unit 905 is calculated.

識別寄与度取得部906は、ログアウト前に特徴量データ記憶部907に記憶された識別寄与度を特徴量データ記憶部508に記憶する。 The identification contribution acquisition unit 906 stores the identification contribution stored in the feature amount data storage unit 907 before logout in the feature amount data storage unit 508.

状態検出部905は、映像受信部901から受信した映像と特徴量データ記憶部907に記憶された特徴量データから、正規のログインユーザによる動静「在席」、「離席」、同一拠点のログインユーザによる不正アクセス「なりすまし」、「覗き見」、拠点外の第三者による不正アクセス「なりすまし」、「覗き見」の状態を検出する。 The state detection unit 905 uses the video received from the video reception unit 901 and the feature amount data stored in the feature amount data storage unit 907 to perform motion "attendance", "leaving", and login at the same base by a regular login user. Unauthorized access by the user "Spoofing", "Peeping", unauthorized access by a third party outside the base "Spoofing", "Peeping" status is detected.

映像と特徴量データを顔認識部904に送信し、得られた顔認識結果から現在の状態を算出する。検出した動静と不正アクセスおよび顔認識結果、その際のカメラ画像は証跡制御部908に送信する。 The image and the feature amount data are transmitted to the face recognition unit 904, and the current state is calculated from the obtained face recognition result. The detected motion, unauthorized access, and face recognition result, and the camera image at that time are transmitted to the trail control unit 908.

証跡制御部908は、状態検出部905から受信した動静または不正アクセスおよび顔認識結果、カメラ画像を証跡記憶部909に記憶する。その際、ビデオコントローラ206から取得したスクリーンショットも合わせて記憶する。 The trail control unit 908 stores the camera image as a motion or unauthorized access and face recognition result received from the state detection unit 905 in the trail storage unit 909. At that time, the screenshot taken from the video controller 206 is also stored.

証跡制御部908は、証跡記憶部909に記憶された動静および不正アクセスを総合的に見て、動静および不正アクセスの状態がそれぞれ現在どの状態なのか、その状態に切り替わったのはいつか類推し、切り替わった際の証跡情報(動静または不正アクセス、顔認識結果、カメラ画像を証跡取得部910に送信する。 The trail control unit 908 comprehensively looks at the movement and unauthorized access stored in the trail storage unit 909, and guesses which state the movement and unauthorized access are currently in, and when the state is switched to that state. The trail information (movement or unauthorized access, face recognition result, camera image at the time of switching is transmitted to the trail acquisition unit 910.

同じ動静および不正アクセスが継続した際は、その終了日時を随時更新して証跡取得部910に送信する。また、その終了日時のカメラ画像を証跡取得部910に送信する。状態の判定に使われなくなった古い証跡情報は、証跡記憶部909から随時破棄する。 When the same movement and unauthorized access continue, the end date and time are updated at any time and transmitted to the trail acquisition unit 910. Further, the camera image of the end date and time is transmitted to the trail acquisition unit 910. Old trail information that is no longer used for determining the state is discarded from the trail storage unit 909 at any time.

証跡記憶部909は、証跡情報(動静、不正アクセス、顔認識結果、カメラ画像)を記憶する。 The trail storage unit 909 stores trail information (movement, unauthorized access, face recognition result, camera image).

ユーザ情報更新通知部911は、ユーザがログインおよびログアウトした際およびユーザの動静が変化した際に、そのユーザの接続元拠点に所属するログインユーザ全員の証跡送信端末100の更新通知受信部315に動静更新通知を送信する。 When the user logs in and out, or when the user's movement changes, the user information update notification unit 911 moves to the update notification receiving unit 315 of the trail transmission terminal 100 of all the logged-in users belonging to the connection source base of the user. Send an update notification.

また、ユーザ情報更新通知部911は、ユーザがログインおよびログアウトした際および特徴量データが承認された際に、そのユーザの接続元拠点に所属するログインユーザ全員の証跡送信端末100の更新通知受信部315に特徴量データ更新通知を送信する。 Further, the user information update notification unit 911 is an update notification receiving unit of the trail transmission terminal 100 of all logged-in users belonging to the connection source base of the user when the user logs in and out and when the feature amount data is approved. A feature amount data update notification is sent to 315.

特徴量データ取得部507は、ユーザの特徴量データと、同一拠点のログインユーザの特徴量データを特徴量データ更新部902へ返却する。 The feature amount data acquisition unit 507 returns the feature amount data of the user and the feature amount data of the logged-in user at the same site to the feature amount data update unit 902.

証跡取得部910は、証跡制御部908から送信された証跡情報を受信し、証跡記憶部912に記憶する。また、新規の不正アクセスを受信した際、監査情報更新通知部510に不正アクセス発生通知を要求する。 The trail acquisition unit 910 receives the trail information transmitted from the trail control unit 908 and stores it in the trail storage unit 912. Further, when a new unauthorized access is received, the audit information update notification unit 510 is requested to notify the occurrence of unauthorized access.

証跡記憶部912は、証跡情報として、動静情報、不正アクセス情報、カメラ画像を記憶する。 The trail storage unit 912 stores motion information, unauthorized access information, and camera images as trail information.

証跡監査操作処理部515は、証跡監査端末110の特徴量データ承認操作部404による特徴量データの更新情報を受信し、特徴量データ記憶部508の特徴量データを更新する。 The trail audit operation processing unit 515 receives the update information of the feature amount data by the feature amount data approval operation unit 404 of the trail audit terminal 110, and updates the feature amount data of the feature amount data storage unit 508.

以下、図23を参照して、本実施形態のテレワーク管理システムにおいて、テレワークを実施するユーザが証跡送信端末100にログインし、ログアウトするまでの一連の流れを説明する。基本的には、図4に示すフローチャートと同様な処理を行うため、異なる処理についてのみ説明を行う。 Hereinafter, in the telework management system of the present embodiment with reference to FIG. 23, a series of flow from the user who performs the telework to logging in to the trail transmission terminal 100 and logging out will be described. Basically, since the same processing as the flowchart shown in FIG. 4 is performed, only different processing will be described.

証跡管理サーバ120が証跡送信端末100から監視対象となったことを受けて、証跡送信端末100にかかる特徴量データを特徴量データ記憶部508から取得して、特徴量データ記憶部907に記憶する。 In response to the fact that the trail management server 120 has been monitored by the trail transmission terminal 100, the feature amount data related to the trail transmission terminal 100 is acquired from the feature amount data storage unit 508 and stored in the feature amount data storage unit 907. ..

証跡管理サーバ120は、すべての特徴量データを登録するのではなく、特徴量データ記憶部508に記憶された、各特徴量データの識別寄与度(図17)からユーザの識別に有効な特徴量データを選択して登録する(図24の説明で詳細を記述する)。尚、特徴量データ記憶部907には、図17に示すテーブルに対して、監視対象となる証跡送信端末100が属する拠点IDに対応して各情報を記憶しているものとする。 The trail management server 120 does not register all the feature amount data, but is a feature amount effective for user identification from the identification contribution degree (FIG. 17) of each feature amount data stored in the feature amount data storage unit 508. Select and register the data (details will be described in the description of FIG. 24). It is assumed that the feature amount data storage unit 907 stores each information in the table shown in FIG. 17 corresponding to the base ID to which the trail transmission terminal 100 to be monitored belongs.

ステップS502では、証跡管理サーバ120にて、取得した特徴量データを用いてカメラ画像に対して顔認識を行い、ユーザの監視を開始する(図25の説明で詳細を記述する)。ユーザ監視はバックグラウンドで処理し、終了を待たずにステップS107に進む。 In step S502, the trail management server 120 performs face recognition on the camera image using the acquired feature amount data, and starts monitoring the user (details will be described in the description of FIG. 25). The user monitoring is processed in the background, and the process proceeds to step S107 without waiting for the end.

ステップS108では、ログイン情報記憶部503から検索した、同一拠点のユーザの証跡送信端末100において特徴量データが更新されたことを検出する。 In step S108, it is detected that the feature amount data has been updated in the trail transmission terminal 100 of the user at the same base, which is searched from the login information storage unit 503.

ステップS109では、特徴量データが更新されたことを検出した証跡送信端末100に関して、証跡管理サーバ120は、利用すべき特徴量データを取得し、特徴量データ記憶部907のデータを置換する。 In step S109, with respect to the trail transmission terminal 100 that has detected that the feature amount data has been updated, the trail management server 120 acquires the feature amount data to be used and replaces the data of the feature amount data storage unit 907.

その際、証跡管理サーバ120は、当該ユーザだけでなく、同一拠点のユーザの特徴量データも登録する。この際、ステップS501と同様に、すべての特徴量データを登録するのではなく、特徴量データ記憶部508に記憶された、各特徴量データの識別寄与度からユーザの識別に有効な特徴量データを選択して登録する(図24の説明で詳細を記述する)。 At that time, the trail management server 120 registers not only the user but also the feature amount data of the user at the same base. At this time, as in step S501, instead of registering all the feature amount data, the feature amount data stored in the feature amount data storage unit 508 is effective for user identification from the identification contribution of each feature amount data. Is selected and registered (details will be described in the description of FIG. 24).

ステップS112では、ユーザが証跡送信端末100からログアウトすることをトリガーとして、ステップS106のユーザ監視を終了し、証跡管理サーバ120からログアウトする。 In step S112, the user logs out from the trail transmission terminal 100 as a trigger, the user monitoring in step S106 ends, and the user logs out from the trail management server 120.

ステップS113では、ユーザ監視を終了する際、証跡管理サーバ120は、特徴量データ記憶部907に記憶された識別寄与度を特徴量データ記憶部508に記憶する。 In step S113, when the user monitoring is terminated, the trail management server 120 stores the identification contribution degree stored in the feature amount data storage unit 907 in the feature amount data storage unit 508.

以下、図24を参照して、図23のS104およびS108の更新通知をトリガーとして特徴量データの更新が行われ、証跡送信端末100にてユーザおよび同一拠点のユーザを識別可能になるまでの流れを説明する。基本的には、図5に示すフローチャートと同様な処理を行うため、異なる処理についてのみ説明を行う。 Hereinafter, with reference to FIG. 24, the feature amount data is updated with the update notification of S104 and S108 of FIG. 23 as a trigger, and the flow until the user and the user at the same base can be identified by the trail transmission terminal 100. To explain. Basically, since the same processing as the flowchart shown in FIG. 5 is performed, only different processing will be described.

証跡送信端末100の処理は、そのCPU201により、ROM203から取得したプログラムおよびデータをRAM202に記憶することで実行される。また、証跡管理サーバ120の処理は、そのCPU201により、ROM203から取得したプログラムおよびデータをRAM202に記憶することで実行される。 The processing of the trail transmission terminal 100 is executed by storing the program and data acquired from the ROM 203 in the RAM 202 by the CPU 201. Further, the processing of the trail management server 120 is executed by storing the program and data acquired from the ROM 203 in the RAM 202 by the CPU 201.

ステップS601では、証跡管理サーバ120は、ログインされた証跡管理サーバ120にかかる特徴量データの登録の指示を受付ける。 In step S601, the trail management server 120 receives an instruction for registering the feature amount data of the logged-in trail management server 120.

登録の指示としては、ユーザが証跡送信端末100を通して証跡管理サーバ120へのログインに成功したとき、または証跡管理サーバ120が証跡送信端末100にかかる特徴量データの更新されたことを検出したときである。 The registration instruction is when the user succeeds in logging in to the trail management server 120 through the trail transmission terminal 100, or when the trail management server 120 detects that the feature amount data related to the trail transmission terminal 100 has been updated. be.

ステップS207では、得られた特徴量データを特徴量データ記憶部907に登録するリストに追加する。 In step S207, the obtained feature amount data is added to the list to be registered in the feature amount data storage unit 907.

ステップS602では、証跡管理サーバ120は、リストに追加した特徴量データを特徴量データ記憶部907に記憶する。 In step S602, the trail management server 120 stores the feature amount data added to the list in the feature amount data storage unit 907.

以上により、証跡送信端末100では、ユーザおよび同一拠点のログインユーザを識別できるようになる。 As described above, the trail transmission terminal 100 can identify the user and the logged-in user at the same base.

以下、図25を参照して、図23のステップS502のユーザ監視において、ユーザの動静および不正アクセスの検出と、不正アクセス発生時に監視者へ不正アクセス登録通知を行う流れについて説明する。基本的には、図6に示すフローチャートと同様な処理を行うため、異なる処理についてのみ説明を行う。 Hereinafter, with reference to FIG. 25, in the user monitoring in step S502 of FIG. 23, the flow of detecting the user's movement and unauthorized access and notifying the observer of the unauthorized access registration when the unauthorized access occurs will be described. Basically, since the same processing as the flowchart shown in FIG. 6 is performed, only different processing will be described.

この処理は、証跡管理サーバ120のCPU201により、ROM203から取得したプログラムおよびデータをRAM202に記憶することで実行される。 This process is executed by storing the program and data acquired from the ROM 203 in the RAM 202 by the CPU 201 of the trail management server 120.

ステップS701では、現在の動静および不正アクセスを初期化する。動静は最初何もない状態であり、不正アクセスは正常な状態である。 In step S701, the current movement and unauthorized access are initialized. The movement is initially empty, and unauthorized access is normal.

ステップS702では、カメラ画像に対して顔認識を適用し、顔認識結果(図21)、顔認識結果から求まる動静(図18)および不正アクセス(図19)、およびその際のカメラ画像(図20)を、証跡記憶部909に記憶する。カメラ画像からその動静および不正アクセスの状態を検出する(詳細は図26の説明にて記述する)。尚、図18から図21の各テーブルには、監視対象となる証跡送信端末100が属する拠点IDに対応して各情報を記憶しているものとする。 In step S702, face recognition is applied to the camera image, the face recognition result (FIG. 21), the motion obtained from the face recognition result (FIG. 18) and unauthorized access (FIG. 19), and the camera image at that time (FIG. 20). ) Is stored in the trail storage unit 909. The state of movement and unauthorized access is detected from the camera image (details will be described in the description of FIG. 26). It is assumed that each table of FIGS. 18 to 21 stores each information corresponding to the base ID to which the trail transmission terminal 100 to be monitored belongs.

ステップS703では、証跡記憶部909に記憶された動静情報を元に、最新の動静(新動静)を算出する。 In step S703, the latest movement (new movement) is calculated based on the movement information stored in the trail storage unit 909.

最も単純な算出方法としては、過去数件分の動静情報の中で、最も多い状態を新動静の状態とし、最も古い動静情報を動静の状態とする。 As the simplest calculation method, among the movement information of the past several cases, the most frequent state is the new movement state, and the oldest movement information is the movement state.

同様に、証跡記憶部909に記憶された不正アクセス情報を元に、最新の不正アクセス(新不正アクセス)を算出する。 Similarly, the latest unauthorized access (new unauthorized access) is calculated based on the unauthorized access information stored in the trail storage unit 909.

ステップS704では、動静の状態と新動静の状態が異なるか(つまり状態が変化したか)確認し、異なるならステップS705へ処理を進め、同じであればステップS707に進む。 In step S704, it is confirmed whether the state of motion and the state of new motion are different (that is, whether the state has changed), if they are different, the process proceeds to step S705, and if they are the same, the process proceeds to step S707.

ステップS705では、動静を新動静で置き換え、ステップS706では、動静情報を証跡記憶部912に記憶する。 In step S705, the movement is replaced with the new movement, and in step S706, the movement information is stored in the trail storage unit 912.

また、ログイン情報記憶部503に記憶されたユーザの最新のログイン情報の動静を更新する。 In addition, the movement of the latest login information of the user stored in the login information storage unit 503 is updated.

さらに、同一拠点のユーザをログイン情報記憶部503から検索し、ユーザの動静参照者として同一のチームに所属するユーザ(監視者、被監視者)をチーム記憶部511から検索し、各ユーザの証跡送信端末100および証跡監査端末110に動静更新通知を送信する。 Further, a user at the same base is searched from the login information storage unit 503, and a user (monitorer, monitored person) belonging to the same team as a user's motion reference person is searched from the team storage unit 511, and the trail of each user is searched. A motion update notification is transmitted to the transmission terminal 100 and the trail audit terminal 110.

このときも前述と同様に図9に示す動静確認画面701を証跡送信端末100に表示するが、証跡監査端末110には、図9の下段に示す動静全体確認画面702が表示される。 At this time as well, the motion confirmation screen 701 shown in FIG. 9 is displayed on the trail transmission terminal 100 in the same manner as described above, but the trail audit terminal 110 displays the motion confirmation screen 702 shown in the lower part of FIG.

ステップS707では、動静の終了日時を現在時刻で更新する。登録から一定時間経過しているのであれば、最新のカメラ画像も同様に登録する。証跡管理サーバ120は、これらの証跡情報を証跡記憶部912の情報に登録または更新する。 In step S707, the end date and time of the movement is updated with the current time. If a certain amount of time has passed since registration, the latest camera image is also registered in the same way. The trail management server 120 registers or updates these trail information in the information of the trail storage unit 912.

ステップS708では、動静が在席である場合、ステップS709へ処理を進め、それ以外(離席)の場合は、ステップS710へ処理を進める。 In step S708, if the movement is present, the process proceeds to step S709, and if it is not (away from the seat), the process proceeds to step S710.

ステップS709では、証跡記憶部912に記憶された最新の動静情報を算出した際の、カメラ画像に対する顔認識結果の類似度から、監視対象の各特徴量データの顔認識における識別寄与度を算出し、特徴量データ記憶部907に記憶する。最新の動静情報の状態が在席である場合のみ行う。 In step S709, the discrimination contribution in face recognition of each feature amount data to be monitored is calculated from the similarity of the face recognition result with respect to the camera image when the latest motion information stored in the trail storage unit 912 is calculated. , Stored in the feature amount data storage unit 907. Perform only when the latest motion information status is present.

ステップS710では、不正アクセスの状態と新不正アクセスの状態が異なるか(つまり状態が変化したか)否かを判定し、異なると判定したなら、ステップS711へ処理を進め、同じであると判定した場合、ステップS716へ処理を進める。 In step S710, it is determined whether the state of unauthorized access and the state of new unauthorized access are different (that is, whether the state has changed), and if it is determined that they are different, the process proceeds to step S711 and it is determined that they are the same. If so, the process proceeds to step S716.

ステップS711では、不正アクセスを新不正アクセスで置き換え、ステップS712では、不正アクセス情報を証跡記憶部912に記憶する。 In step S711, the unauthorized access is replaced with the new unauthorized access, and in step S712, the unauthorized access information is stored in the trail storage unit 912.

ステップS713では、不正アクセスの状態が正常であるか確認し、正常でなければ、ステップS714に処理を進め、正常であればステップS718に処理を進める。 In step S713, it is confirmed whether the state of unauthorized access is normal, and if it is not normal, the process proceeds to step S714, and if it is normal, the process proceeds to step S718.

ステップS714では、不正アクセス情報を証跡記憶部912に記憶し、ステップS715では、受信した不正アクセスの状態が「覗き見(同僚)」であれば、ステップS718に処理を進め、そうでなければ、管理者への通知が必要と判断してステップS716に処理を進める。 In step S714, the unauthorized access information is stored in the trail storage unit 912, and in step S715, if the received unauthorized access status is "peeping (colleague)", the process proceeds to step S718, otherwise the process proceeds to step S718. It is determined that notification to the administrator is necessary, and the process proceeds to step S716.

ステップS716では、ユーザの所属チームの監視者をチーム記憶部511から検索し、各監視者の証跡監査端末110に不正アクセス登録通知を送信する。 In step S716, the observer of the team to which the user belongs is searched from the team storage unit 511, and the unauthorized access registration notification is transmitted to the trail audit terminal 110 of each observer.

不正アクセス登録通知を受信した証跡監査端末110は、不正アクセスの監査を監視者に促し、ユーザ情報の表示を更新する。 The trail audit terminal 110 that has received the unauthorized access registration notification prompts the observer to audit the unauthorized access and updates the display of the user information.

ここでも、前述したように、証跡監査端末110において、図9の下段に示す動静全体確認画面702が表示され、不正アクセスの有無を動静全体確認画面702で確認することが可能となる。 Here, as described above, on the trail audit terminal 110, the movement overall confirmation screen 702 shown in the lower part of FIG. 9 is displayed, and it is possible to confirm the presence or absence of unauthorized access on the movement overall confirmation screen 702.

ステップS717では、不正アクセスの終了日時を現在時刻で更新する。登録から一定時間経過しているのであれば、最新のカメラ画像も同様に登録する。証跡管理サーバ120は、証跡情報を証跡記憶部912の情報に登録または更新する。 In step S717, the end date and time of unauthorized access is updated with the current time. If a certain amount of time has passed since registration, the latest camera image is also registered in the same way. The trail management server 120 registers or updates the trail information with the information of the trail storage unit 912.

ステップS718では、ログアウト等の命令を受けていればフローを終了し、そうでなければステップS702に処理を戻し、ステップS702からステップS717の処理を繰り返す。 In step S718, if an instruction such as logout is received, the flow is terminated, otherwise the process is returned to step S702, and the process of step S702 to step S717 is repeated.

以下、図26を参照して、図25のステップS702における、カメラ画像に対して顔認識を行い、その結果からユーザの動静および不正アクセスの状態を算出する流れについて説明する。この処理は、証跡送信端末100のCPU201により、ROM203から取得したプログラムをRAM202に記憶することで実行される。基本的には、図7に示すフローチャートと同様な処理を行うため、異なる処理についてのみ説明を行う。 Hereinafter, with reference to FIG. 26, a flow of performing face recognition on the camera image in step S702 of FIG. 25 and calculating the state of movement and unauthorized access of the user from the result will be described. This process is executed by storing the program acquired from the ROM 203 in the RAM 202 by the CPU 201 of the trail transmission terminal 100. Basically, since the same processing as the flowchart shown in FIG. 7 is performed, only different processing will be described.

ステップS801では、証跡送信端末100においてカメラデバイス210で撮影して得られたカメラ画像を取得する。ステップS802では、カメラ画像に対して顔検出と顔識別を行い、複数の顔認識結果(図21)を得る。 In step S801, the camera image obtained by taking a picture with the camera device 210 in the trail transmission terminal 100 is acquired. In step S802, face detection and face identification are performed on the camera image, and a plurality of face recognition results (FIG. 21) are obtained.

顔検出は、カメラ画像内に存在する顔の領域を検出する処理であり、顔識別は、検出した顔から特徴量データを抽出し、特徴量データ記憶部907に記憶された特徴量データとのマッチングを行い、各特徴量データとの類似度を算出する処理であり、さらに算出した類似度を元に、その顔が誰の顔であるか識別する。 Face detection is a process of detecting an area of a face existing in a camera image, and face identification is a process of extracting feature amount data from the detected face and combining it with the feature amount data stored in the feature amount data storage unit 907. It is a process of performing matching and calculating the degree of similarity with each feature amount data, and further identifies who the face is based on the calculated degree of similarity.

最も簡単な識別方法は、一定の閾値を超えた最も高い類似度を記録した特徴量データのユーザに識別することである。識別方法は他にも既存技術が多数あり、何れの技術を適用しても良い。 The simplest identification method is to identify to the user of the feature data that records the highest degree of similarity exceeding a certain threshold. There are many other existing techniques for the identification method, and any technique may be applied.

ステップS803では、ステップS802で顔を検出できなかった場合は、ステップS804に処理を進め、顔をひとつだけ検出できた場合は、ステップS805に処理を進め、顔を複数検出できた場合は、ステップS808に処理を進める。 In step S803, if the face could not be detected in step S802, the process proceeds to step S804, if only one face can be detected, the process proceeds to step S805, and if a plurality of faces can be detected, the step The process proceeds to S808.

ステップS804では、カメラデバイス210に誰も映っていないので、「離席」の動静と「正常」の不正アクセスを証跡記憶部909に記憶する。また、カメラ画像と顔認識結果も記憶する。 In step S804, since no one is shown on the camera device 210, the movement of "leaving" and the unauthorized access of "normal" are stored in the trail storage unit 909. It also stores camera images and face recognition results.

ステップS805では、検出できた顔がユーザとして識別されたか否かを判定し、識別されたと判定すれば、ステップS806に処理を進め、識別されていないと判定すれば、ステップS807に処理を進める。 In step S805, it is determined whether or not the detected face is identified as a user, and if it is determined that the face is identified, the process proceeds to step S806, and if it is determined that the face is not identified, the process proceeds to step S807.

ステップS806では、カメラデバイス210にユーザが一人だけ映っているので、「在席」の動静と「正常」の不正アクセスを証跡記憶部909に記憶する。また、カメラ画像と顔認識結果も記憶する。 In step S806, since only one user is shown on the camera device 210, the movement of "attendance" and the unauthorized access of "normal" are stored in the trail storage unit 909. It also stores camera images and face recognition results.

ステップS807では、カメラデバイス210にユーザ以外の人物が一人だけ映っているので、「離席」の動静と「なりすまし」の不正アクセスを証跡記憶部909に記憶する。また、カメラ画像と顔認識結果も記憶する。 In step S807, since only one person other than the user is shown on the camera device 210, the movement of "leaving" and the unauthorized access of "spoofing" are stored in the trail storage unit 909. It also stores camera images and face recognition results.

ステップS808では、検出できた顔の中にユーザとして識別された顔があるか否かを判定し、識別されたと判定すれば、ステップS809に処理を進め、識別されていないと判定すれば、ステップS810に処理を進める。 In step S808, it is determined whether or not there is a face identified as a user among the detected faces, and if it is determined that the face is identified, the process proceeds to step S809, and if it is determined that the face is not identified, the step is taken. The process proceeds to S810.

ステップS809では、カメラデバイス210にユーザが映っているので、「在席」の動静を証跡記憶部909に記憶する。また、カメラ画像と顔認識結果も記憶する。 In step S809, since the user is shown on the camera device 210, the movement of “attended” is stored in the trail storage unit 909. It also stores camera images and face recognition results.

ステップS810では、カメラデバイス210にユーザが映っていないので、「離席」の動静を証跡記憶部909に記憶する。また、カメラ画像と顔認識結果も記憶する。 In step S810, since the user is not shown on the camera device 210, the movement of "leaving" is stored in the trail storage unit 909. It also stores camera images and face recognition results.

ステップS811では、すべての顔が同一拠点のユーザの顔として識別されているか確認し、識別されていれば、ステップS812に処理を進め、識別されていなければ、ステップS813に処理を進める。同一拠点のユーザ判定は、ログイン情報記憶部503から検索したユーザに関する情報を用いて判定することが可能である。 In step S811, it is confirmed whether all the faces are identified as the faces of the users at the same site, and if they are identified, the process proceeds to step S812, and if not, the process proceeds to step S813. The user determination at the same base can be determined using the information about the user searched from the login information storage unit 503.

ステップS812では、カメラデバイス210に映っているのはユーザ本人とその同一拠点のユーザであるので、「覗き見(同僚)」の不正アクセスを証跡記憶部909に記憶する。 In step S812, since the camera device 210 shows the user himself / herself and the user at the same base, the unauthorized access of the “peeping (colleague)” is stored in the trail storage unit 909.

ステップS813では、カメラデバイス210に同一拠点のユーザ以外の第三者が映っているので、「覗き見」の不正アクセスを証跡記憶部909に記憶する。 In step S813, since a third party other than the user at the same base is shown on the camera device 210, the unauthorized access of the "peeping" is stored in the trail storage unit 909.

尚、各ステップにおいて、証跡制御部908は、不正アクセスが発生したと判定したタイミングで、証跡送信端末100に対して、スクリーンショットを取得する要求を行い、証跡送信端末100は、スクリーンショットを取得する要求を受付けると、現在、CRT211に表示されている情報に関してスクリーンショットを取得して証跡管理サーバ120へ送信する。 In each step, the trail control unit 908 requests the trail transmission terminal 100 to take a screenshot at the timing when it is determined that an unauthorized access has occurred, and the trail transmission terminal 100 acquires the screenshot. Upon receiving the request, a screenshot is taken with respect to the information currently displayed on the CRT 211 and sent to the trail management server 120.

証跡制御部908は、このスクリーンショットを受信すると、証跡記憶部909に記憶した動静、カメラ画像、顔認識結果に対応して記憶する。
[第3の実施形態]
Upon receiving this screenshot, the trail control unit 908 stores the motion, the camera image, and the face recognition result stored in the trail storage unit 909.
[Third Embodiment]

次に第3の実施形態について説明するが、第1の実施形態及び第2の実施形態では、不正アクセスの状態が覗き見である場合、ステップS411及びステップS811において、全員が同一拠点のログインユーザが映されているか否かによって判定を行った。 Next, a third embodiment will be described. In the first embodiment and the second embodiment, when the state of unauthorized access is a peep, in step S411 and step S811, all of them are logged-in users at the same base. The judgment was made based on whether or not the image was displayed.

この判定によって、全員が同一拠点のログインユーザであれば、覗き見(同僚)として、全員が同一拠点のログインユーザでなければ、覗き見としているが、このような状態にかかわらず、本実施形態では、映されているユーザが、本人と同僚を示す「覗き見(本人+同僚)」であるのか、あるいは、同僚のみを示す「覗き見(同僚のみ)」であるのか、上司を示す「覗き見(上司)」によって、登録すべく状態を変える態様を備える。 According to this determination, if all of them are logged-in users of the same base, they are peeped (colleagues), and if all of them are not logged-in users of the same base, they are peeped. Then, whether the user being shown is a "peeping (person + colleague)" indicating the person and a colleague, or a "peeping (colleague only)" indicating only a colleague, or a "peeping" indicating the boss. It has a mode to change the state to register by "seeing (boss)".

このような態様を備える理由として、本人が離席中に同僚が覗き込んだ場合、本人が意図しない情報が漏洩するリスクが顕在し、上司が覗き込んだ場合、不正アクセスとみなさなくてもセキュリティを確保できることを想定しており、監視者の監視負荷を低減すること等が可能である。 The reason for providing such an aspect is that if a colleague looks into the desk while the person is away, there is a risk that information that the person does not intend to leak will be revealed, and if the boss looks into it, security is not considered to be unauthorized access. It is possible to reduce the monitoring load of the observer, etc.

本判定は、何れもステップS411及びステップS811において行われるものであり、「覗き見(本人+同僚)」の判定については、ステップS808において映された顔にユーザが存在し、かつ全員が同一拠点のログインユーザであると判定した場合である。 This determination is performed in both steps S411 and S811, and for the determination of "peeping (person + colleague)", the user is present on the face projected in step S808, and all of them are at the same base. This is the case when it is determined that the user is the login user of.

一方、「覗き見(同僚のみ)」の判定については、ステップS808において映された顔にユーザが存在し、かつ全員が同一拠点のログインユーザであると判定した場合である。 On the other hand, the determination of "peeping (only a colleague)" is a case where it is determined that the user exists on the face projected in step S808 and all of them are login users of the same base.

さらに、「覗き見(上司)」の判定については、ステップS808において映された顔にユーザが存在するかいないにかかわらず、かつユーザの上司であると判定した場合であるが、この判定は、図27に示す上司情報テーブルを用いて、ユーザの上司が写りこんでいるか否かを判定する。 Further, the determination of "peeping (boss)" is a case where it is determined that the user is the boss of the user regardless of whether or not the user is present on the face projected in step S808. Using the boss information table shown in FIG. 27, it is determined whether or not the user's boss is reflected.

上司情報テーブルは、ユーザの上司に関する情報を記憶しており、上司を一意に示すためのID(ユーザIDに該当)に対応して、上司の配下に所属するユーザを一意に示すためのユーザIDを含めて記憶している。 The boss information table stores information about the user's boss, and corresponds to the ID (corresponding to the user ID) for uniquely indicating the boss, and the user ID for uniquely indicating the user belonging to the boss's subordinate. I remember including.

また、覗き見である状態として、上司が覗き込んだ場合を示したが、上司にかかるものとして、同僚が映されている場合、その同僚の上司が同じか否かによって状態を分けても良い。 In addition, the case where the boss looks into is shown as a state of peeping, but if a colleague is shown as a state that depends on the boss, the state may be divided according to whether the boss of the colleague is the same or not. ..

本人も含め同僚の上司を上司情報テーブルに記憶された情報から特定して、全て同じ上司であるか否かによって、「覗き見(本人+同僚)」及び「覗き見(同僚のみ)」であって上司が同じあるいは上司が異なるといった状態を判定しても良い。 The bosses of colleagues including the person are identified from the information stored in the boss information table, and depending on whether they are all the same boss or not, they are "peeping (person + colleague)" and "peeping (colleague only)". It may be determined that the boss is the same or the boss is different.

以上、本発明によれば、ユーザの監視環境下に応じて、本人以外の人物が撮影されたことによって不正利用と見做さない場合において、ユーザが使用している情報処理装置利用を制御することなく、また、管理者などへの通知を抑止することで、ユーザまたは管理者の監視に係る労力を軽減することで、効率的な監視方法を実現することができる。 As described above, according to the present invention, the use of the information processing device used by the user is controlled when a person other than the user is photographed and is not regarded as unauthorized use according to the monitoring environment of the user. It is possible to realize an efficient monitoring method by reducing the labor related to the monitoring of the user or the administrator by suppressing the notification to the administrator or the like.

以上、実施形態例を詳述したが、本発明は、例えば、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能であり、具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。 Although examples of embodiments have been described in detail above, the present invention can be, for example, an embodiment as a method, a program, a storage medium, or the like, and specifically, a system composed of a plurality of devices. It may be applied, or it may be applied to a device consisting of one device.

また、本発明におけるプログラムは、各処理方法をコンピュータが実行可能(読み取り可能)なプログラムであり、本発明の記憶媒体は、各処理方法をコンピュータが実行可能なプログラムが記憶されている。 Further, the program in the present invention is a program in which a computer can execute (readable) each processing method, and the storage medium of the present invention stores a program in which a computer can execute each processing method.

なお、本発明におけるプログラムは、各装置の処理方法ごとのプログラムであってもよい。 The program in the present invention may be a program for each processing method of each device.

以上のように、前述した実施形態の機能を実現するプログラムを記録した記録媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムを読取り実行することによっても、本発明の目的が達成されることは言うまでもない。 As described above, a recording medium recording a program that realizes the functions of the above-described embodiment is supplied to the system or device, and the computer (or CPU or MPU) of the system or device stores the program in the recording medium. It goes without saying that the object of the present invention is achieved by reading and executing.

この場合、記録媒体から読み出されたプログラム自体が本発明の新規な機能を実現することになり、そのプログラムを記憶した記録媒体は本発明を構成することになる。 In this case, the program itself read from the recording medium realizes the novel function of the present invention, and the recording medium storing the program constitutes the present invention.

プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD-ROM、CD-R、DVD-ROM、磁気テープ、不揮発性のメモリカード、ROM、EEPROM、シリコンディスク等を用いることができる。 Recording media for supplying programs include, for example, flexible disks, hard disks, optical disks, magneto-optical disks, CD-ROMs, CD-Rs, DVD-ROMs, magnetic tapes, non-volatile memory cards, ROMs, EEPROMs, and silicon. A disc or the like can be used.

また、コンピュータが読み出したプログラムを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムの指示に基づき、コンピュータで稼働しているOS等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Further, by executing the program read by the computer, not only the function of the above-described embodiment is realized, but also the OS or the like running on the computer is a part of the actual processing or based on the instruction of the program. Needless to say, there are cases where the functions of the above-described embodiment are realized by performing all of them and performing the processing.

さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。 Further, after the program read from the recording medium is written in the memory provided in the function expansion board inserted in the computer or the function expansion unit connected to the computer, the function expansion board is based on the instruction of the program code. It goes without saying that there are cases where the CPU or the like provided in the function expansion unit performs a part or all of the actual processing, and the processing realizes the functions of the above-described embodiment.

また、本発明は、複数の機器から構成されるシステムに適用しても、1つの機器からなる装置に適用してもよい。 Further, the present invention may be applied to a system composed of a plurality of devices or a device composed of one device.

また、本発明は、システムあるいは装置にプログラムを供給することによって達成される場合にも適応できることは言うまでもない。この場合、本発明を達成するためのプログラムを格納した記録媒体を該システムあるいは装置に読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。 It goes without saying that the present invention can also be applied when it is achieved by supplying a program to a system or an apparatus. In this case, by reading the recording medium containing the program for achieving the present invention into the system or device, the system or device can enjoy the effect of the present invention.

さらに、本発明を達成するためのプログラムをネットワーク上のサーバ,データベース等から通信プログラムによりダウンロードして読み出すことによって、そのシステム、あるいは装置が、本発明の効果を享受することが可能となる。なお、上述した各実施形態およびその変形例を組み合わせた構成も全て本発明に含まれるものである。 Further, by downloading and reading a program for achieving the present invention from a server, database, or the like on the network by a communication program, the system or device can enjoy the effect of the present invention. It should be noted that the present invention also includes all the configurations in which each of the above-described embodiments and modifications thereof are combined.

100 証跡送信端末
110 証跡監査端末
120 証跡管理サーバ
130 LAN
140 ルータ
150 インターネット
201 CPU
202 ROM
203 RAM
204 システムバス
205 入力コントローラ
206 ビデオコントローラ
207 メモリコントローラ
208 通信I/Fコントローラ
209 KB
210 カメラデバイス
211 CRT
212 外部メモリ
100 Trail transmission terminal 110 Trail audit terminal 120 Trail management server 130 LAN
140 Router 150 Internet 201 CPU
202 ROM
203 RAM
204 System Bus 205 Input Controller 206 Video Controller 207 Memory Controller 208 Communication I / F Controller 209 KB
210 Camera device 211 CRT
212 External memory

Claims (10)

情報処理装置のユーザの拠点における他のユーザを特定する情報を取得する取得手段と、
画像から検出された人物が、前記他のユーザを特定する情報により特定される前記他のユーザであるか否かによって、前記情報処理装置の使用状態を管理する管理手段と、
を備えたことを特徴とする情報処理装置。
An acquisition means for acquiring information that identifies another user at the user's base of the information processing device ,
A management means for managing the usage state of the information processing apparatus depending on whether or not the person detected from the image is the other user specified by the information that identifies the other user.
An information processing device characterized by being equipped with.
前記情報処理装置のユーザの拠点を決定する決定手段を備えることを特徴とする請求項1に記載の情報処理装置。The information processing apparatus according to claim 1, further comprising a determination means for determining a user base of the information processing apparatus. 前記決定手段は、拠点の選択を受付けることにより前記情報処理装置のユーザの拠点を決定することを特徴とする請求項に記載の情報処理装置。 The information processing apparatus according to claim 2 , wherein the determination means determines the location of the user of the information processing apparatus by accepting the selection of the location. 前記決定手段は前記情報処理装置のユーザが所在可能な拠点の選択を受付けることにより前記情報処理装置のユーザの拠点を決定することを特徴とする請求項に記載の情報処理装置。 The information processing apparatus according to claim 3 , wherein the determination means determines the location of the user of the information processing apparatus by accepting the selection of the location where the user of the information processing apparatus can be located. 前記管理手段は、画像から検出された人物が前記他のユーザではない場合には、前記情報処理装置の使用状態を不正として管理し、前記検出された人物が前記他のユーザである場合には、前記情報処理装置の使用状態を不正として管理しないことを特徴とする請求項1~4のいずれか1項に記載の情報処理装置。The management means manages the usage state of the information processing apparatus as fraudulent when the person detected from the image is not the other user, and when the detected person is the other user. The information processing apparatus according to any one of claims 1 to 4, wherein the usage state of the information processing apparatus is not managed as fraudulent. 前記管理手段は、前記検出された人物が前記他のユーザである場合、当該他のユーザの当該拠点での所在状況に基づいて前記情報処理装置の使用状態を管理することを特徴とする請求項1~5のいずれか1項に記載の情報処理装置。The management means is characterized in that, when the detected person is the other user, the management means manages the usage state of the information processing apparatus based on the location status of the other user at the site. The information processing apparatus according to any one of 1 to 5. 前記管理手段は、前記検出された人物が前記他のユーザであって、当該他のユーザが前記情報処理装置のユーザの拠点において勤務中ではない場合には、前記情報処理装置の使用状態を不正として管理し、当該他のユーザが前記情報処理装置のユーザの拠点において勤務中である場合には、前記情報処理装置の使用状態を不正として管理しないことを特徴とする請求項1~6のいずれか1項に記載の情報処理装置。When the detected person is the other user and the other user is not working at the user's base of the information processing apparatus, the management means illegally uses the information processing apparatus. Any of claims 1 to 6, wherein the information processing apparatus is not managed as fraudulent when the other user is working at the user's base of the information processing apparatus. The information processing device according to item 1. 前記管理手段は、前記検出された人物が前記他のユーザであって、当該他のユーザが前記情報処理装置のユーザと同一拠点における情報処理装置にログインしていない場合には、前記情報処理装置の使用状態を不正として管理し、当該他のユーザが前記情報処理装置のユーザと同一の拠点における情報処理装置にログインしている場合には、前記情報処理装置の使用状態を不正として管理しないことを特徴とする請求項1~7のいずれか1項に記載の情報処理装置。The management means is the information processing apparatus when the detected person is the other user and the other user is not logged in to the information processing apparatus at the same site as the user of the information processing apparatus. If the other user is logged in to the information processing device at the same site as the user of the information processing device, the usage status of the information processing device should not be managed as fraudulent. The information processing apparatus according to any one of claims 1 to 7. 情報処理装置のユーザの拠点における他のユーザを特定する情報を取得する取得ステップと、
画像から検出された人物が、前記他のユーザを特定する情報により特定される前記他のユーザであるか否かによって、前記情報処理装置の使用状態を管理する管理ステップと、
を実行することを特徴とする情報処理装置の制御方法。
An acquisition step to acquire information that identifies another user at the user's site of the information processing device ,
A management step for managing the usage state of the information processing apparatus depending on whether or not the person detected from the image is the other user specified by the information that identifies the other user.
A control method for an information processing device, which is characterized by executing.
コンピュータを、
情報処理装置のユーザの拠点における他のユーザを特定する情報を取得する取得手段と、
画像から検出された人物が、前記他のユーザを特定する情報により特定される前記他のユーザであるか否かによって、前記情報処理装置の使用状態を管理する管理手
して機能させるためのプログラム。
Computer,
An acquisition means for acquiring information that identifies another user at the user's base of the information processing device ,
A management means for managing the usage state of the information processing apparatus depending on whether or not the person detected from the image is the other user specified by the information that identifies the other user.
A program to function as .
JP2020069516A 2014-12-26 2020-04-08 Information processing equipment, control methods, and programs Active JP6993597B2 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2014264094 2014-12-26
JP2014264094 2014-12-26

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018143646A Division JP6691306B2 (en) 2014-12-26 2018-07-31 Information processing apparatus, control method, and program

Publications (3)

Publication Number Publication Date
JP2020119585A JP2020119585A (en) 2020-08-06
JP2020119585A5 JP2020119585A5 (en) 2020-09-17
JP6993597B2 true JP6993597B2 (en) 2022-01-13

Family

ID=56359522

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2015131556A Active JP6481203B2 (en) 2014-12-26 2015-06-30 Information processing system, information processing apparatus, server, control method, and program
JP2018143646A Active JP6691306B2 (en) 2014-12-26 2018-07-31 Information processing apparatus, control method, and program
JP2020069516A Active JP6993597B2 (en) 2014-12-26 2020-04-08 Information processing equipment, control methods, and programs

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2015131556A Active JP6481203B2 (en) 2014-12-26 2015-06-30 Information processing system, information processing apparatus, server, control method, and program
JP2018143646A Active JP6691306B2 (en) 2014-12-26 2018-07-31 Information processing apparatus, control method, and program

Country Status (1)

Country Link
JP (3) JP6481203B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018001281A (en) 2016-06-27 2018-01-11 株式会社デンソーウェーブ Robot hand
JP6544413B2 (en) * 2016-12-15 2019-07-17 キヤノンマーケティングジャパン株式会社 Information processing apparatus, control method, program
JP7012182B1 (en) 2021-07-14 2022-01-27 日本コンピュータビジョン株式会社 Output control program, output control method and terminal device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002366530A (en) 2001-06-11 2002-12-20 Hitachi Ltd Service providing method for distributed system
JP2006033852A (en) 2004-07-15 2006-02-02 Avaya Technology Corp Proximity-based authorization
JP2006067563A (en) 2004-07-15 2006-03-09 Avaya Technology Corp Peer-to-peer neighbor detection for proximity-based command execution
JP2012088835A (en) 2010-10-18 2012-05-10 Mitsubishi Electric Corp Composite authentication device

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4086740B2 (en) * 2003-09-09 2008-05-14 日本電気株式会社 Terminal user monitoring system
JP2006259930A (en) * 2005-03-15 2006-09-28 Omron Corp Display device and its control method, electronic device equipped with display device, display device control program, and recording medium recording program
JP4910627B2 (en) * 2006-10-24 2012-04-04 オムロン株式会社 Impersonation detection device
JP2009080668A (en) * 2007-09-26 2009-04-16 Sky Kk Peep prevention system and peep prevention program
JP5001194B2 (en) * 2008-02-20 2012-08-15 アズビル株式会社 Entrance management system
JP2010277205A (en) * 2009-05-26 2010-12-09 Nec Corp Information processing device, method and program
US8904473B2 (en) * 2011-04-11 2014-12-02 NSS Lab Works LLC Secure display system for prevention of information copying from any display screen system
US8914875B2 (en) * 2012-10-26 2014-12-16 Facebook, Inc. Contextual device locking/unlocking

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002366530A (en) 2001-06-11 2002-12-20 Hitachi Ltd Service providing method for distributed system
JP2006033852A (en) 2004-07-15 2006-02-02 Avaya Technology Corp Proximity-based authorization
JP2006067563A (en) 2004-07-15 2006-03-09 Avaya Technology Corp Peer-to-peer neighbor detection for proximity-based command execution
JP2012088835A (en) 2010-10-18 2012-05-10 Mitsubishi Electric Corp Composite authentication device

Also Published As

Publication number Publication date
JP2020119585A (en) 2020-08-06
JP6481203B2 (en) 2019-03-13
JP6691306B2 (en) 2020-04-28
JP2018200705A (en) 2018-12-20
JP2016126747A (en) 2016-07-11

Similar Documents

Publication Publication Date Title
JP6993597B2 (en) Information processing equipment, control methods, and programs
JP6442751B2 (en) Information processing apparatus, information processing system, control method, and program
JP6823267B2 (en) Information processing equipment, information processing systems, control methods, and programs
US8913270B2 (en) Authentication system having an authentication apparatus including an authentication unit configured to search records of identification information associated with group information to find matching identification information matching obtained identification information of a user, authentication method, and apparatus
JP6123653B2 (en) Information processing apparatus, information processing method, and program
CN113490935A (en) Face authentication management server and face authentication management method
CN113519013A (en) Face authentication system and face authentication method
CN113490936A (en) Face authentication device and face authentication method
CN113519014A (en) Gate opening/closing control device and gate opening/closing control method
US8819114B2 (en) Server apparatus, method for controlling the server apparatus, and storage medium
JP2017084025A (en) Automatic login system for information processing device
JP6617804B2 (en) Information processing apparatus, information processing system, control method, and program
JP6770231B2 (en) Information processing device, control method of information processing device, and program
JP6485522B2 (en) Management server, information processing terminal, control method, and program
JP2017152013A (en) Information processing device, information processing method, and program
CN113508389A (en) Face authentication registration device and face authentication registration method
JP6982266B2 (en) Information processing equipment, information processing methods, programs
JP6697170B2 (en) Information processing device, information processing method, and program
JP6159782B2 (en) Information processing apparatus control method, information processing apparatus and control program, terminal control method and terminal control program
WO2023084593A1 (en) Information processing device, information processing system, information processing method, and non-transitory computer-readable medium
JP7356060B2 (en) Information processing equipment, its control method and program
JP7296607B2 (en) Face recognition machine and face recognition method
JP6802473B2 (en) Information processing system, information processing system control method, and program
JP2022084586A (en) Entrance control apparatus and entrance control method
JP2019114277A (en) Information processing device, personal authentication system, control method thereof, personal authentication method, and program therefor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200714

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210303

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210611

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211109

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211122

R151 Written notification of patent or utility model registration

Ref document number: 6993597

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250