JP6926351B1 - 端末装置、情報処理方法、及びプログラム - Google Patents

端末装置、情報処理方法、及びプログラム Download PDF

Info

Publication number
JP6926351B1
JP6926351B1 JP2021014436A JP2021014436A JP6926351B1 JP 6926351 B1 JP6926351 B1 JP 6926351B1 JP 2021014436 A JP2021014436 A JP 2021014436A JP 2021014436 A JP2021014436 A JP 2021014436A JP 6926351 B1 JP6926351 B1 JP 6926351B1
Authority
JP
Japan
Prior art keywords
authentication
information
user
value
authentication information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021014436A
Other languages
English (en)
Other versions
JP2022117757A (ja
Inventor
真旭 徳山
真旭 徳山
Original Assignee
真旭 徳山
真旭 徳山
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 真旭 徳山, 真旭 徳山 filed Critical 真旭 徳山
Priority to JP2021014436A priority Critical patent/JP6926351B1/ja
Application granted granted Critical
Publication of JP6926351B1 publication Critical patent/JP6926351B1/ja
Publication of JP2022117757A publication Critical patent/JP2022117757A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Collating Specific Patterns (AREA)
  • Telephone Function (AREA)

Abstract

【課題】使用状態に関わらず安定して使用者を認証することがきる端末装置、情報処理方法、及びプログラムを提供する。【解決手段】端末装置1は、複数の認証情報を取得する認証用情報取得部と、認証用情報取得部で取得した一つの認証情報または複数の認証情報に基づいて、認証が成功したか否かを判定する認証判定部と、認証判定部で認証が成功したと判定した場合に、認証用情報取得部で取得した複数の認証情報により、保存されている複数の認証情報を更新する認証用情報更新部とを備え、認証判定部は、バックグラウンドにおいて、一の認証情報が予め定められた認証閾値未満の場合に自身の第1使用状態における認証が成功したと判定し、一の認証情報が認証閾値以上、且つ、予め定められた認証許容値以上の場合に第1使用状態における認証が失敗したものとして二の認証情報に基づいて前記自身の第2使用状態における認証が成功したか否かを判定する。【選択図】図1

Description

本発明は、端末装置、情報処理方法、及びプログラムに関する。
通常、端末装置は、不正使用を防止するための認証機能を備え、認証が成功した場合に各機能を使用可能としている。認証処理には、一般的なパスワードに加え、各種の生体情報等も活用されている。例えば特許文献1には、ユーザの顔、虹彩等の像を含む画像をカメラで撮影し、撮影した画像を解析して求めた顔、虹彩等の特徴量によりユーザを本人と認証する技術が開示されている。
特開2020−042404号公報
特許文献1に開示された技術では、ユーザが情報処理装置に接触したことを接触センサで検知すると、カメラがユーザの顔、虹彩等の像を含む画像の撮影を開始する。そして、ユーザが情報処理装置に接触していることを接触センサで検知することができなくなると、カメラはユーザの顔、虹彩等の像を含む画像の撮影を止める。このため、特許文献1に開示された技術では、例えば、ハンズフリーで情報処理装置を使用する場合、情報処理装置を鞄、ポケット等に仕舞ったままで使用する場合等では、ユーザが情報処理装置に接触していないため、ユーザを本人と認証することができない。したがって、特許文献1に開示された技術では、情報処理装置の使用状態によっては、安定してユーザを本人と認証することができないという課題がある。
本発明は上述の課題を解決するものであり、使用状態に関わらず安定して使用者を認証することがきる端末装置、情報処理方法、及びプログラムを提供することを目的とする。
上記の目的を達するため、本発明に係る端末装置は、
複数の認証情報を取得する認証用情報取得部と、
前記認証用情報取得部で取得した前記複数の認証情報のうち少なくとも一つの認証情報または複数の認証情報に基づいて、認証が成功したか否かを判定する認証判定部と、
前記認証判定部で認証が成功したと判定した場合に、前記認証用情報取得部で取得した前記複数の認証情報により、保存されている複数の認証情報を更新する認証用情報更新部とを備え、
前記認証判定部は、バックグラウンドにおいて、前記認証用情報取得部で取得した一の認証情報と自身に登録された一の登録情報とを比較して求めた第1認証値が予め定められた認証閾値未満の場合に自身の第1使用状態における認証が成功したと判定し、前記第1認証値が前記認証閾値にユーザが本人か否かグレーな場合を示す認証許容範囲値を含めた値である認証許容値以上の場合に前記第1使用状態における認証が失敗したものとして前記認証用情報取得部で取得した二の認証情報に基づいて前記自身の第2使用状態における認証が成功したか否かを判定し、前記第1認証値が前記認証閾値以上、且つ、前記認証許容値未満の場合、前記認証用情報取得部で取得した三の認証情報に基づいて認証が成功したか否かを判定し、前記三の認証情報に基づいて認証が成功した場合には前記一の認証情報に基づいて前記ユーザが本人と認証されたものとする。
本発明に係る端末装置によれば、バックグラウンドにおいて、一の認証情報による認証ができない場合に、二の認証情報に基づいて自身の第2使用状態における認証が成功したか否かを判定することができるため、端末装置の使用状態に関わらず安定して使用者を認証することがきる。
本発明の実施の形態に係る端末装置の正面図である。 図1に示す端末装置のブロック図である。 図1に示す端末装置のハードウエア構成の一例を示す図である。 図1に示す端末装置の情報処理ブロックの図である。 図4に示す端末装置から取得する認証用生体情報データベースのテーブルを示す図である。 図4に示す端末装置から取得する認証用振舞情報データベースのテーブルを示す図である。 図4に示す端末装置の傾き情報テーブルを示す図である。 実施の形態に係る認証処理のフローチャートである。 図6Aに示す認証処理のフローチャートの続きのフローチャートである。 実施の形態に係る顔認証値取得処理のフローチャートである。 実施の形態に係る補助認証処理のフローチャートである。 実施の形態に係る音声取得処理のフローチャートである。 実施の形態に係る音声認証処理のフローチャートである。
以下に、本発明を実施するための形態に係る端末装置、情報処理方法、及びプログラムについて、図面を参照して詳細に説明する。なお、図中同一または相当する部分には同一符号を付す。
本実施の形態に係る端末装置1は、ユーザ本人の顔の画像、指紋、音声等の生体情報と、ユーザが端末装置1を操作する際の特有の挙動、操作状態等による振舞情報とに基づいて、ユーザ本人を認証し、端末装置1における各種機能を実行することができるようにした装置である。特に、端末装置1では、端末装置1を鞄、ポケットに仕舞うなど、使用状況によってユーザ本人の顔の画像が撮影できず、顔の画像による認証ができなかった場合には、ユーザ本人の音声によりユーザ本人を認証できるものとする。
また、端末装置1において行われるユーザの認証処理は、端末装置1の稼働中、バックグラウンドで実行されるとともに、ユーザの生体情報と振舞情報とを更新していくことにより、認証の精度を向上させることができる処理である。
端末装置1の正面図を、図1に示す。端末装置1は、いわゆるスマートフォンであり端末装置1は、正面にユーザの顔を撮影するインカメラ11Aと、スピーカ12Aと、通話用のマイクであるマイクロフォン12Bと、端末装置1の傾きを検出する傾き検出部13と、操作入力部14及び表示部19を兼ねるタッチパネルと、ユーザの指紋を検出する左指紋センサ15A及び右指紋センサ15Bと、端末装置1の現在位置を検出する位置検出部16とを備える。また、端末装置1は、背面に、ユーザから見た人間、風景、物体等を撮影することができるメインカメラ11Bを備える。
ここで、以下では、インカメラ11Aとメインカメラ11Bとを総称して、撮影部11と称する。以下では、スピーカ12Aと、通話用のマイクであるマイクロフォン12Bとを総称して、音声入出力部12と称する。また、以下では、左指紋センサ15A及び右指紋センサ15Bを総称して、指紋検出部15と称する。
図2は、端末装置1の構成を示すブロック図である。端末装置1は、通信部10と、撮影部11と、音声入出力部12と、傾き検出部13と、操作入力部14と、指紋検出部15と、位置検出部16と、端末記憶部17と、端末制御部18と、表示部19とを備える。
通信部10は、図示せぬ通信網を介して外部のサーバ、クラウド等と通信し、各種データの送受信をするデータ通信部と、図示せぬ基地局との間で、電話通信用の無線信号を送受信する音声通信部とを含む。データ通信部は、無線LAN(Local Area Network)、Wi−fi(登録商標)、Bluetooth(登録商標)等を用いて構成することができる。また、音声通信部は、基地局との間で、電話通信用の無線信号を送受信する通信機器を用いて構成することができる。
撮影部11は、図1に示したインカメラ11Aとメインカメラ11Bとを含む。撮影部11には、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の撮像素子を用いたカメラ、ビデオカメラ等、静止画または動画を撮影し、撮影した静止画または動画を取得することが可能な各種カメラを用いることができる。
音声入出力部12は、図1に示したスピーカ12Aと、マイクロフォン12Bとを含む。スピーカ12Aは、音声通話で受信した音声、通信網を介して外部から取得した音楽データ等を出力する。マイクロフォン12Bは、ユーザの音声をピックアップする装置である。
傾き検出部13は、端末装置1の傾き、揺れ等を検出することができる装置である。傾き検出部13は、加速度センサ、角度センサ、地磁気を検出する磁気センサ等の端末装置1の傾きを検出できる各種センサを用いて構成することができる。なお、傾き検出部13を構成するセンサの個数及び種類は、単数又は複数のどちらでもよい。
操作入力部14は、図1に示したユーザからの操作を入力することができる装置である。指紋検出部15は、ユーザの指紋を検出するセンサである。指紋検出部15は、図1に示した左指紋センサ15A及び右指紋センサ15Bを含む。なお、指紋検出部15には、指紋センサに限らず、ユーザの指紋を検出することができるセンサ、機器等であれば、いずれのものを用いてもよい。
位置検出部16は、端末装置1の現在位置を検出することができる装置である。位置検出部16は、GPS(Global Positioning System)等の、端末装置1の現在位置を検出することができる機器を用いて構成することができる。
端末記憶部17は、ユーザの認証処理を行うための認証処理プログラム170と、端末装置1で取得したユーザの生体情報をまとめた認証用生体情報データベース171と、端末装置1で取得したユーザの振舞情報をまとめた認証用振舞情報データベース172と、端末装置1の傾き状態を記憶するための傾き情報テーブル173とを備える。また、端末記憶部17には、端末装置1で実行される各種アプリケーションのプログラムが記憶されている。
認証処理プログラム170は、端末装置1で取得したユーザの生体情報及び振舞情報に基づいてユーザを認証する処理を行うプログラムである。認証用生体情報データベース171は、ユーザの生体情報に関する情報と認証に用いる認証値とを保存するためのデータベースである。
認証用振舞情報データベース172は、端末装置1を操作する際のユーザ特有の振舞に関する情報、認証の合格条件等を保存するためのデータベースである。ここで、ユーザ特有の振舞とは、ユーザが端末装置1を操作する際の挙動、表示部19の画面とユーザの顔の距離、キーストローク、持ち方、端末装置1が使用される位置、特定の通信網への接続回数、特定のアプリケーションの起動、操作等、ユーザ固有のものをいう。
傾き情報テーブル173は、傾き検出部13により検出された端末装置1の傾き角度と、取得日時、取得のための待機時間を記憶するためのテーブルである。なお、認証処理プログラム170と、認証用生体情報データベース171と、認証用振舞情報データベース172と、傾き情報テーブル173とについては、その詳細を後述する。
端末制御部18は、端末記憶部17に記憶された各種プログラムを実行する。また、端末制御部18は、通信部10と、撮影部11と、音声入出力部12と、傾き検出部13と、操作入力部14と、指紋検出部15と、位置検出部16とから各種データを取得して処理し、端末記憶部17の各種データベース、テーブルに記憶する。また、端末制御部18は、撮影部11に撮影する指示を送信することで、任意のタイミングで撮影部11に撮影をさせることができる。
表示部19は、端末制御部18で実行される各種プログラムの処理内容を表示する。また、表示部19は、撮影部11で撮影された静止画、動画等の画像、操作入力部14から入力されたデータ等を表示することもできる。表示部19は、操作入力部14上に積層されており、図1に示したタッチパネルを構成する。
次に、端末装置1のハードウエア構成の一例を、図3を参照しつつ説明する。端末装置1は、各種プログラムを実行するプロセッサ21と、各種プログラムを展開するためのメモリ22と、各種表示用データを出力する表示コントローラ23と、各種表示用データを表示する表示機器24と、撮影部11、音声入出力部12等を接続するためのI/Oポート25と、各種プログラム及び各種データを記憶する記憶機器26と、外部との通信し各種データを送受信する通信機器27とを備える。このプロセッサ21と、メモリ22と、表示コントローラ23と、表示機器24と、I/Oポート25と、記憶機器26と、通信機器27とは、データバス28を介して相互に接続されている。
プロセッサ21は、記憶機器26に記憶された各種プログラムを読み出してメモリ22に展開し、実行する。プロセッサ21は、CPU(Central Processing Unit)、MPU(Micro−processing Unit)等の処理装置を用いて構成することができる。また、メモリ22は、RAM(Random Access Memory)、フラッシュメモリ等の揮発性または不揮発性の半導体メモリといった記憶素子および記憶媒体を用いて構成することができる。
表示コントローラ23は、表示機器24に各種表示用データを出力するコントローラである。表示コントローラ23は、ビデオカード、GPU(Graphics Processing Unit)、グラフィックボード等の映像信号出力装置を用いて構成することができる。また、表示機器24は、LCD(Liquid Crystal Display)、有機EL(Electroluminescence)モニタ等の表示装置を用いて構成することができる。
I/Oポート25は、撮影部11と、音声入出力部12と、傾き検出部13と、操作入力部14と、指紋検出部15と、位置検出部16とを接続することができる接続用ポートである。I/Oポート25には、USB(Universal Serial Bus)ポート、IEEE1394ポート等、機器を接続可能な各種ポートを用いて構成することができる。
記憶機器26は、プロセッサ21で実行する各種プログラム、各種プログラムで使用するための各種データを記憶する機器である。記憶機器26は、HDD(Hard Disk Drive)、SSD(Solid State Drive)等の記憶装置を用いて構成することができる。
通信機器27は、図示せぬ通信網を介して外部のサーバ、クラウド等と通信し、各種データの送受信をするデータ通信部と、図示せぬ基地局との間で、電話通信用の無線信号を送受信する音声通信部とを含む。データ通信部は、無線LAN、Wi−fi(登録商標)、Bluetooth(登録商標)等を用いて構成することができる。また、音声通信部は、基地局との間で、電話通信用の無線信号を送受信する通信機器を用いて構成することができる。
上述のプロセッサ21により、図2に示した端末装置1の端末記憶部17に記憶された認証処理プログラム170を実行することにより、端末制御部18に図4に示す情報処理ブロックが実現される。これにより、端末装置1は、ユーザ本人の顔の画像、指紋、声紋等の生体情報と、ユーザが端末装置1を操作する際の特有の挙動、操作状態等による振舞情報とに基づいて、ユーザ本人を認証し、端末装置1における各種機能を実行することができる。
情報処理ブロックは、通信部10、撮影部11等から認証用の生体情報及び振舞情報を取得する認証用情報取得部181と、ユーザを本人か否か認証する認証判定部182と、表示部19に認証結果を表示させる認証結果表示部183と、認証判定部182からの指示により端末記憶部17に記憶されは各種データベース及びテーブルの情報を更新する認証用情報更新部184とを備える。
認証用情報取得部181は、通信部10、撮影部11等から認証用の生体情報及び振舞情報を取得する。認証判定部182は、認証用情報取得部181はから取得した認証用の生体情報及び振舞情報と、端末記憶部17の各種データベースに記憶された認証値、合格条件等に基づいて、ユーザの認証を行う。認証結果表示部183は、認証判定部182からユーザの認証結果を受信し、表示部19に認証結果に応じてメッセージ、画像等を表示させる。認証用情報更新部184は、認証判定部182からの指示に基づいて、端末記憶部17に記憶された各種データベース、テーブルに記憶されたデータを更新する。なお、認証用情報取得部181で取得される生体情報及び振舞情報は、特許請求の範囲における認証情報の一例である。また、認証用情報取得部181で取得される各生体情報は、特許請求の範囲における一の情報及び二の情報の一例である。認証用情報取得部181で取得される各振舞情報は、特許請求の範囲における三の情報の一例である。
次に、端末記憶部17に記憶される認証用生体情報データベース171と、認証用振舞情報データベース172と、傾き情報テーブル173との各テーブルの構成について、図5Aから図5Cを参照しつつ以下に説明する。まず、認証用生体情報データベース171のテーブルには、図5Aに示すように、顔、音声等の生体情報の種類と、ユーザ本人の生体情報である登録情報と、登録情報と図4に示した認証用情報取得部181で取得した生体情報とを比較して求める認証値が記憶されている。
本実施の形態では、音声の生体情報として、声紋、口癖、イントネーションの3種類のデータが、認証用生体情報データベース171に記憶されている。音声の声紋、口癖、イントネーション等のデータは、フィラー機能による本人認証に用いることができるデータである。
認証用生体情報データベース171のテーブルに記憶されている登録情報は、ユーザ本人の生体情報である。登録情報には、端末装置1で認証処理を行う前に予め登録された情報であり、ユーザ本人を認証できた場合に更新される。登録情報には、例えば、生体情報の種類が顔であれば顔画像から求めた特徴量が、生体情報の種類が音声であれば音声データと音声データを解析して求めた声紋、口癖、イントネーションの各特徴量が、生体情報の種類が虹彩であれば虹彩データが、生体情報の種類が指紋であれば指紋の画像から求めた特徴量が、それぞれ記憶されている。なお、生体情報の種類のうち「顔」は、特許請求の範囲における第1生体情報の一例である。また、生体情報の種類のうち「音声」は、特許請求の範囲における第2生体情報の一例である
本実施の形態において、生体情報の類似の判定は、認証値により行われる。認証値は、登録情報と、図4に示した認証用情報取得部181で取得した生体情報とを比較した結果を基に求められる値である。認証値は、登録情報と認証用情報取得部181で取得した生体情報とが類似する場合に0に近づき、類似しない場合に1に近づく。認証用生体情報データベース171には、認証値の平均値と、認証値を判定するための閾値である認証閾値と、認証閾値にユーザがグレーな場合を示す認証許容範囲値を含めた認証許容値とが含まれる。なお、音声の生体情報に対応付けて記憶される認証値は、音声の声紋、口癖、イントネーションの各認証値を平均して求めた認証値である。
まず、認証値の平均値は、登録情報と、認証用情報取得部181で取得した生体情報とを比較し求められた認証値の平均の値である。認証閾値は、登録情報と、認証用情報取得部181で取得した生体情報とを比較し、比較した結果を基に求められた認証値が、この値以下の場合、ユーザをユーザ本人と判定するための基準となる値である。認証閾値は、ユーザの認証の状況に合わせて変動する値であり、予め上限値が定めされている。上限値は、その値以上となった場合、ユーザをユーザ本人と生体情報のみで認証すべきではないとされる値である。例えば、認証閾値のデフォルト値を、登録情報と認証用情報取得部181で取得した生体情報とが類似する場合に近づく0と類似しない場合に近づく1との間の0.4であれば、認証閾値の上限値は0.45といった具合である。
また、認証許容値は、登録情報と認証用情報取得部181で取得した生体情報とを比較し、比較した結果を基に求められた認証値が、この値以上の場合、ユーザをユーザ本人ではないと判定するための基準となる値である。認証許容値は、上述のとおり認証閾値にユーザがグレーな場合を示す認証許容範囲値を含めた値であるため、認証閾値と認証許容範囲値との変動に応じて、変動する値である。認証許容値には、予め上限値が定められており、これを最大認証許容値と呼ぶ。最大認証許容値は、この値以上の場合、ユーザを他人と判断すべきとされる値である。例えば、登録情報と認証用情報取得部181で取得した生体情報とが類似する場合に近づく0と類似しない場合に近づく1との中間の0.5である。
認証閾値と認証許容値との間の値を認証許容範囲値といい、ユーザがユーザ本人か否かグレーな場合を示す値である。認証値が認証許容範囲値内である場合、ユーザがユーザ本人か否かを生体情報だけで判断せず、ユーザ特有の振舞情報が合格条件に合致している場合に、ユーザ本人と認証し、合致してない場合、ユーザ本人と認証しないものとする。振舞情報によるユーザの認証を、以下では、補助認証と称する。認証許容範囲値は、この範囲に収まる認証値であればユーザ本人として概ね考え良いと思われる値を、予め定めたものである。
例えば、類似する場合に近づく0と、類似しない場合に近づく1との一割以下の0.08である。なお、認証閾値が上限値になった場合、最大認証許容値から認証閾値が上限値を引いた値になる。例えば、認証閾値の上限値が0.45、最大認証値が0.5であれば、認証許容範囲値は0.05といった具合である。したがって、認証閾値が上限値になっている場合、認証閾値が上限値になっていない場合よりも認証許容範囲値の値は小さな値をとる。
次に、認証用振舞情報データベース172のテーブルについて、図5Bを参照しつつ、以下に説明する。認証用振舞情報データベース172のテーブルには、通信接続、イベント実行等のユーザの振舞の種類と、図4に示した認証用情報取得部181で取得した取得情報と、各振舞における最新状況と、各振舞の合格条件とが記憶されている。
取得情報には、例えば、振舞の種類が通信接続であれば接続先のアドレス、SSID(Service Set Identifier)、BSSID(Basic Service Set Identifier)等が、振舞の種類がイベント実行であれば予めスケジュール帳に保存されたイベントの行われる場所の名称、住所等の場所情報が、振舞の種類が顔と端末装置との距離であれば距離が、振舞の種類がデバイス接続であれば接続先のデバイスを示す名称、ID(Identifier)等が、振舞の種類が位置情報であれば端末装置1の現在地を示す緯度経度、住所等が、それぞれ記憶されている。
各振舞における最新状況には、例えば、振舞の種類が通信接続であれば、取得情報に示された通信接続先にこれまで接続等された合計回数である。通信接続先への接続等の合計回数は、初期値が0であり、通信接続先への接続等により回数が加算されていく。また、振舞の種類がイベント実行であれば、取得情報に記憶されている場所とユーザの現在地との間の距離が記憶される。
振舞の種類が顔と端末装置1との距離であれば、最新状況には、それまでユーザがユーザ本人と認証された際に算出された顔と端末装置1との距離の平均距離が記憶される。顔と端末装置1との平均距離は、ユーザがユーザ本人と認証される度に更新される。なお、顔と端末装置1との平均距離の初期値は、図5Aに示した生体情報を、端末装置1でユーザ本人の認証を行う前に予め登録する際に求められた距離とする。
また、振舞の種類がデバイス接続であれば、最新状況には、取得情報に記憶された名称、ID等が示すデバイスに接続されているか否かが記憶されている。デバイス接続は、例えば、Bluetooth(登録商標)によりペア設定されたデバイスと端末装置1との接続である。振舞の種類が位置情報であれば、最新状況には、それまでユーザがユーザ本人と認証された際に居た所在地を示す緯度経度、住所等が記憶されている。また、各振舞の合格条件は、各振舞の信頼性を担保できる条件を予め定めた条件である。
次に、傾き情報テーブル173のテーブルを、図5Cに示す。傾き情報テーブル173は、図4に示した傾き検出部13から取得された端末装置1の傾きを示す角度と、その角度を取得した取得日時、傾きを検出するめのインターバルとなる待機時間とを記憶している。端末装置1の傾きを示す角度は、待機時間が経過する毎に図4に示した認証用情報取得部181により傾き検出部13から取得され、更新される。また、その角度を更新する際、角度を取得した取得日時も更新される。
本実施の形態に係る端末装置1は、電源投入後処理のイニシャライズ処理の実行が完了すると、もしくは、スリープ状態から復帰すると、認証が成功するまで各機能の操作を許さないロック状態に入る。このロック状態に入る、若しくは、各機能の操作を行う際に認証が要求されると、図2に示した端末制御部18は、端末記憶部17に記憶された認証処理プログラム170を実行し、ユーザがユーザ本人か否かを判別する。端末制御部18により実行される認証処理プログラム170の処理について、図6Aから図10に示す各処理のフローチャートを参照しつつ、以下に説明する。
まず、図6Aに示す認証処理のフローチャートを参照する。図4に示した端末制御部18は、顔認証値取得処理を実行する(ステップS101)。顔認証値取得処理については、図7に示す顔認証値取得処理を参照しつつ、以下に説明する。
端末制御部18は、リトライ回数に0回を設定する(ステップS201)。図4に示した認証用情報取得部181は、撮影部11に端末装置1を操作しているユーザの顔写真を撮影させる。具体的には、認証用情報取得部181は、端末装置1の正面に向き合っているユーザの顔写真を、インカメラ11Aに撮影させる。認証用情報取得部181は、撮影部11から撮影したユーザの顔写真を取得する(ステップS202)。認証用情報取得部181は、取得したユーザの顔写真がブレているか否か判定する(ステップS203)。
ユーザの顔写真がブレていない場合(ステップS203;NO)、認証用情報取得部181は、撮影部11に撮影させたユーザの顔写真からユーザの顔が検出できるか否か判定する(ステップS204)。ユーザの顔写真からユーザの顔が検出できた場合(ステップS204;YES)、認証用情報取得部181は、検出したユーザの顔の画像の特徴量を求める。認証用情報取得部181は、求めたユーザの顔の画像の特徴量を図4に示した認証判定部182に送信する。
認証判定部182は、図2に示した端末記憶部17に記憶されている認証用生体情報データベース171を取得する。認証判定部182は、図5Aに示した認証用生体情報データベース171のテーブルから、生体情報の種類のうち「顔」に対応付けられた登録情報に記憶された顔画像の特徴量と、認証値の認証許容値及び認証閾値を取得する。認証判定部182は、認証用生体情報データベース171から取得した登録情報の顔画像の特徴量と、認証用情報取得部181から受信した顔画像の特徴量とを比較し、比較の結果を基に顔の認証値を求める。
また、ステップS203で取得したユーザの顔写真がブレている場合(ステップS203;YES)、または、ステップS204でユーザの顔写真からユーザの顔が検出できなかった場合(ステップS204;NO)、認証用情報取得部181は、リトライ回数が、規定回数未満か否か判定する(ステップS206)。この規定回数は、予め定められたリトライできる回数であり、図2に示した端末記憶部17に記憶されているものとする。
リトライ回数が規定回数未満である場合(ステップS206;YES)、認証用情報取得部181は、リトライ回数に1を足す(ステップS207)。認証用情報取得部181は、撮影部11にユーザの顔写真の撮影をリトライさせる(ステップS208)。
また、リトライ回数が規定回数未満でない場合(ステップS206;NO)、認証用情報取得部181は、認証判定部182に端末記憶部17に記憶されている顔の認証値を取得させる(ステップS209)。具体的には、認証用情報取得部181は、認証判定部182に、図2に示した端末記憶部17に記憶されている認証用生体情報データベース171を取得させる。認証判定部182は、図5Aに示した認証用生体情報データベース171のテーブルから、生体情報の種類のうち「顔」に対応付けられた認証値を取得する。なお、ユーザの顔写真からユーザの顔が検出できない場合、今操作しているユーザにこれ以上操作をさせないようにロックをかける、他の認証方法を利用する旨のメッセージを表示する等をしてもよい。
認証判定部182は、顔認証取得処理を終了する。ここで、図6Aに戻る。認証判定部182は、顔認証値取得処理で求めた顔の認証値が認証用生体情報データベース171から取得した認証閾値以上か否か判定する(ステップS102)。顔認証値取得処理で求めた顔の認証値が認証閾値以上の場合(ステップS102;YES)、認証判定部182は、求めた顔の認証値が認証用生体情報データベース171から取得した認証許容値以下か否か判定する(ステップS103)。
求めた顔の認証値が認証許容値以下の場合(ステップS103;YES)、端末装置1を使用しているユーザは、ユーザ本人か否かグレーである。このため、認証判定部182は、振舞情報による認証の処理である補助認証処理を実行する(ステップS104)。補助認証処理については、図8に示すフローチャートを参照しつつ、以下に説明する。
まず、認証判定部182は、図4に示した認証用情報取得部181に通信部10から現在接続している通信接続先を取得させる。認証判定部182は、認証用情報取得部181から、取得させた通信部10の現在の通信接続先を受信する。
続いて、認証判定部182は、図2に示した端末記憶部17から認証用振舞情報データベース172を取得する。認証判定部182は、図5Bに示した認証用振舞情報データベース172のテーブルに記憶されている振舞の種類のうち「通信接続」に対応つけられた取得情報、回数、合格条件を取得する。
例えば、図5Bに示すように、「通信接続」の取得情報にはSSIDであるABC_WLANと123WLANとが記憶されている。このABC_WLANでは、接続した回数に31回、合格条件として接続回数が100回以上と記憶されている。また、123WLANでは、接続した回数に157回、合格条件として接続回数が100回以上と記憶されている。なお、以下では合格条件を満たす場合を信頼するものと呼び、合格条件を満たさない場合を信頼しないものと呼ぶ。
認証判定部182は、認証用情報取得部181から受信した通信部10の現在の通信接続先と、認証用振舞情報データベース172から取得した取得情報とを比較し、現在の通信接続先が信頼する通信接続先か否か判定する(ステップS301)。
ここで、例えば、通信部10の現在の通信接続先としてSSIDの123WLANが取得されているものとする。認証用振舞情報データベース172に記憶された振舞の種類「通信接続」の取得情報における123WLANは、接続した回数が156回であり、合格条件の接続回数が100回以上である。このため、現在の通信接続先は信頼する通信接続先であるため(ステップS301;YES)、認証判定部182は、端末装置1を使用しているユーザをユーザ本人と認証する。
続いて、認証判定部182は、認証間隔を現在の認証間隔よりも長くする(ステップS302)。これは、現在の通信接続先が信頼する通信接続先であれば、ユーザ本人は自宅、職場等の信頼する環境に居るものと考えられるためである。この場合、認証間隔を現在の認証間隔よりも長くし、認証の頻度を下げ必要最低限の回数認証を行うようにすれば良い。また、認証判定部182は、補助認証ができた旨を戻り値として設定する(ステップS303)。
また、ステップS301において、例えば、通信部10の現在の通信接続先としてSSIDのABC_WLANが取得されているものとする。認証用振舞情報データベース172に記憶された振舞の種類「通信接続」の取得情報におけるABC_WLANは、接続した回数が31回であり、合格条件の接続回数が100回以上である。このため、認証判定部182は、現在の通信接続先は信頼する通信接続先ではないものと判定する(ステップS301;NO)。この場合、認証判定部182は、直前もしくは現在、信頼するイベントを実行しているか否かを判定する(ステップS304)。
ここで、例えば、端末装置1に備えられたカレンダーに、現在の日時に行われるイベントの場所として「△●映画館」が記憶されているものとする。認証判定部182は、認証用情報取得部181に位置検出部16から取得させた現在の位置情報と、現在の日時に行われるイベントの場所である「△●映画館」の位置情報とを比較する。例えば、現在の位置情報と、イベントの場所である「△●映画館」の位置情報との間の距離が72mとする。この場合、認証判定部182は、信頼するイベントの実行であるもと判定する(ステップS304;YES)。その後、認証判定部182は、ステップS302、ステップS303を実行する。
また、認証判定部182は、認証用情報取得部181に操作入力部14から直前もしくは現在に実行しているイベントの内容を取得させる。認証判定部182は、端末装置1に備えられたカレンダーから、直前もしくは現在の日時に予定があるか否かと、その予定が行われる場所の情報とを取得する。認証判定部182は、直前もしくは現在の日時に予定が無かった場合、信頼するイベントの実行ではないもの判定する(ステップS304;NO)。この場合、認証判定部182は、顔と端末装置1との距離を算出する(ステップS305)。
また、ステップS304において、直前もしくは現在に予定があった場合、認証判定部182は、認証用情報取得部181に位置検出部16から、現在の位置情報を取得させる。続いて、認証判定部182は、図2に示した端末記憶部17から認証用振舞情報データベース172を取得する。
認証判定部182は、図5Bに示した認証用振舞情報データベース172のテーブルに記憶されている振舞の種類のうち、「イベント実行」に対応つけられた取得情報と合格条件とを取得する。例えば、図5Bに示すように、「イベント実行」の取得情報にはイベントが行われる場所として「○×公園」及び「△●映画館」が記憶され、その両方の合格条件として「距離が100m以内」と記憶されているものとする。
ここで、例えば、端末装置1に備えられたカレンダーに、現在の日時に行われるイベントの場所として「○×公園」が記憶されているものとする。認証判定部182は、認証用情報取得部181に位置検出部16から取得させた現在の位置情報と、現在の日時に行われるイベントの場所である「○×公園」の位置情報とを比較する。例えば、現在の位置情報と、イベントの場所である「○×公園」の位置情報との間の距離が113mとする。この場合、信頼するイベントの実行ではないものとし(ステップS304;NO)、顔と端末装置1との距離を算出する(ステップS305)。
ユーザの顔と端末装置1との距離は、図1に示したインカメラ11Aで撮影した端末装置1の正面に向き合うユーザの顔写真における、ユーザの顔の占める割合を基づいて算出する。
続いて、認証判定部182は、図2に示した端末記憶部17から認証用振舞情報データベース172を取得する。認証判定部182は、図5Bに示した認証用振舞情報データベース172のテーブルに記憶されている振舞の種類のうち「顔と端末装置との距離」に対応つけられた平均距離、合格条件を取得する。例えば、図5Bに示すように、「顔と端末装置との距離」の平均距離には262mm、合格条件に平均距離のプラスマイナス20mmと記憶されている。
認証判定部182は、ステップS109で算出したユーザの顔と端末装置1との距離が、認証用振舞情報データベース172から取得した合格条件に設定された設定範囲内か否か判定する(ステップS306)。具体的には、認証用振舞情報データベース172から取得した平均距離は262mm、合格条件は、平均距離のプラスマイナス20mmであるので、242mmから282mmの範囲か否かを判定する。
ステップS305で算出したユーザの顔と端末装置1との距離が、設定範囲内である場合、具体的には、242mmから282mmの範囲内である場合(ステップS306;YES)、認証判定部182は、ステップS302、ステップS303を実行する。
また、ステップS305で算出したユーザの顔と端末装置1との距離が、設定範囲内ではない場合、具体的には、242mmから282mmの範囲内ではない場合(ステップS306;NO)、認証判定部182は、端末装置1の現在地を求める(ステップS307)。具体的には、認証判定部182は、図4に示した認証用情報取得部181に、位置検出部16から端末装置1の現在地を示す緯度経度を取得させる。
続いて、認証判定部182は、位置検出部16から取得した端末装置1の現在地を示す緯度経度が、認証用振舞情報データベース172の合格条件に設定された設定範囲内か否か判定する(ステップS308)。具体的には、認証判定部182は、図2に示した端末記憶部17から認証用振舞情報データベース172を取得する。認証判定部182は、図5Bに示した認証用振舞情報データベース172のテーブルに記憶されている振舞の種類のうち「位置情報」に対応つけられた最新状況に記憶された緯度経度と、合格条件とを取得する。認証判定部182は、認証用情報取得部181に取得させた端末装置1の現在地を示す緯度経度と、認証用振舞情報データベース172から取得した緯度経度との差分に基づいて距離を求める。認証判定部182は、求めた距離が認証用振舞情報データベース172の合格条件に設定された設定範囲内か否か判定する。
端末装置1の現在地を示す緯度経度が、認証用振舞情報データベース172の合格条件に設定された設定範囲内である場合(ステップS308;YES)、認証判定部182は、ステップS302、ステップS303を実行する。また、端末装置1の現在地を示す緯度経度が、認証用振舞情報データベース172の合格条件に設定された設定範囲内でない場合(ステップS308;NO)、認証判定部182は、補助認証ができなかった旨を戻り値として設定する(ステップS309)。認証判定部182は、補助認証処理を終了する。
ここで、図6Aに戻る。認証判定部182は、補助認証ができたか否か判定する(ステップS105)。補助認証ができなかった場合(ステップS105;NO)、認証判定部182は、図4に示した認証結果表示部183に、キーワードの音声入力を要求する旨を表示部19に表示させる(ステップS106)。このキーワードは、図4に示す端末記憶部17に予め記憶された任意のキーワードとする。
認証判定部182は、音声入力されたキーワードが正しいか否か判定する(ステップS107)。音声入力されたキーワードが正しくない場合(ステップS107;NO)、認証判定部182は、認証結果表示部183に、パスワードの入力を要求する旨を表示部19に表示させる(ステップS108)。このパスワードは、図4に示す端末記憶部17に予め記憶された任意のパスワードとする。
認証判定部182は、入力されたパスワードが正しいか否か判定する(ステップS109)。入力されたパスワードが正しくない場合(ステップS109;NO)、認証判定部182は、続いて、認証判定部182は、図4に示した認証結果表示部183にログイン画面を表示部19に表示させる(ステップS110)。このログイン画面は、パスワードの入力、指紋認証等の端末装置1に含まれるOSによる本人認証である。
また、ステップS102で顔認証値取得処理で求めた顔の認証値が認証閾値以上ではない場合(ステップS102;NO)、ステップS105で補助認証ができた場合(ステップS105;YES)、ステップS107で音声入力されたキーワードが正しい場合(ステップS107;YES)、または、ステップS109で入力されたパスワードが正しい場合(ステップS109;YES)、認証判定部182は音声取得処理を実行する(ステップS111)。
上記のステップS102で顔認証値取得処理で求めた顔の認証値が認証閾値以上ではない場合(ステップS102;NO)、ステップS105で補助認証ができた場合(ステップS105;YES)は、言い換えれば、ユーザの顔による認証が成功した場合である。この場合、端末装置1は、ユーザに把持された状態、ユーザに各種機能を操作されている状態等、ユーザの顔画像を取得できる状態にある。
また、ステップS107で音声入力されたキーワードが正しい場合(ステップS107;YES)、または、ステップS109で入力されたパスワードが正しい場合(ステップS109;YES)は、表示部19に表示させたキーワードまたはパスワードの入力の要求を、ユーザが見られる状態である。この場合、ステップS102、S105における状態と同様に、端末装置1は、ユーザに把持された状態、ユーザに各種機能を操作されている状態等、ユーザの顔画像を取得できる状態にある。
なお、ユーザに把持された状態、ユーザに各種機能を操作されている状態等、ユーザの顔画像を取得できる端末装置1の使用状態は、特許請求の範囲における第1使用状態の一例である。
続いて、音声取得処理について、図9に示すフローチャートを参照しつつ、以下に説明する。認証判定部182は、ユーザの発声があるか否か判定する(ステップS401)。具体的には、認証判定部182は、認証用情報取得部181により、図4に示した音声入出力部12からユーザの音声を取得できる場合、ユーザの発声があるものと判定する。また、認証判定部182は、認証用情報取得部181により、図4に示した音声入出力部12からユーザの音声を取得できない場合、ユーザの発声がないものと判定する。なお、この音声入出力部12は、図1に示したマイクロフォン12Bとする。
ユーザの発声がない場合(ステップS401;NO)、認証判定部182は音声取得処理を終了する。また、ユーザの発声がある場合(ステップS401;YES)、認証判定部182は、録音時間に0秒を設定する(ステップS402)。認証判定部182は、認証用情報取得部181に、図4に示した音声入出力部12からユーザの音声を取得させる(ステップS403)。
認証判定部182は、録音時間が規定時間を超えたか否か判定する(ステップS404)。この規定時間は、予め定められた音声のデータを取得するのに必要な時間である。例えば、10秒、30秒等、任意の時間が設定される。設定された規定時間は、端末記憶部17に記憶されている。
録音時間が規定時間を超えていない場合(ステップS404;NO)、認証判定部182は、ステップS403に戻り、認証用情報取得部181に音声入出力部12からユーザの音声を取得させる。また、録音時間が規定時間を超えた場合(ステップS404;YES)、認証判定部182は、取得した音声のデータを解析する(ステップS405)。具体的には、認証判定部182は、図5Aに示した認証用生体情報データベース171の生体情報の種類に含まれる、音声の声紋、口癖、およびイントネーションの各特徴量を、取得した音声のデータを解析して求める。認証判定部182は、音声取得処理を終了する。
ここで、図6Aに戻る。認証判定部182は、図4に示した認証用情報更新部184に、図2に示した認証用生体情報データベース171及び認証用振舞情報データベース172に記憶された各種データを更新させる(ステップS112)。具体的には、認証用情報更新部184は、図5Aに示した認証用生体情報データベース171のテーブルの生体情報の種類「顔」に対応つけられた登録情報に、登録情報に記憶されていた顔画像の特徴量に認証判定部182が認証用情報取得部181から受信した顔画像の特徴量を加え、登録情報を更新する。また、認証用情報更新部184は、図5Aに示した認証用生体情報データベース171のテーブルの生体情報の種類「音声(声紋)」、「音声(口癖)」、および「音声(イントネーション)」に対応つけられた登録情報に、図9に示した音声取得処理で求めた音声の声紋、口癖、およびイントネーションの各特徴量を加え、登録情報を更新する。
続いて、認証用情報更新部184は、図5Bに示した認証用振舞情報データベース172のテーブルの振舞の種類「通信接続」に対応つけられた最新状況に記憶されている回数に1を加え、更新する。また、図5Bに示した認証用振舞情報データベース172のテーブルに記憶されている振舞の種類「顔と端末装置との距離」に対応つけられた最新状況を、記憶されている平均距離とステップS109で算出された「顔と端末装置との距離」から求められた平均距離で更新する。
このように、認証用生体情報データベース171に記憶された生体情報、及び、認証用振舞情報データベース172に記憶された振舞情報を更新することにより、ユーザの生体情報及び振舞情報の精度が向上する。このため、ユーザの認証の精度を向上させることができる。
ここで、図6Bに移動する。認証判定部182は、生体認証及び補助認証が予め定めされた設定回数成功したか否かを判定する(ステップS113)。この設定回数は、例えば、連続で10回、端末装置1が起動してから合計で20回等、任意の回数である。生体認証及び補助認証が予め定めされた設定回数成功した場合(ステップS113;YES)、認証判定部182は、設定回数分の認証で求められた顔の認証値の平均値を求める(ステップS114)。
具体的には、認証判定部182は、図2に示した認証用生体情報データベース171を、端末記憶部17から取得する。認証判定部182は、図6Aに示した認証用生体情報データベース171のテーブルから、生体情報の種類のうち「顔」に対応付けられた認証値の平均値を取得する。認証判定部182は、ステップS101で求めた顔の認証値と、認証用生体情報データベース171から取得した認証値の平均値とを足して2で割り、顔の認証値の平均値を算出する。また、生体認証及び補助認証が予め定めされた設定回数成功しなかった場合(ステップS113;NO)、ステップS121からステップS123の処理をスキップし、ステップS124へ進む。
認証判定部182は、ステップS114で求めた顔の認証値の平均値を、認証用情報更新部184に送信する。認証用情報更新部184は、受信した顔の認証値の平均値と、予め設定された認証閾値の上限値とを比較する。顔の認証値の平均値が予め設定された認証閾値の上限値以上である場合、認証用情報更新部184は、図6Aに示した認証用生体情報データベース171のテーブルの、生体情報の種類のうち「顔」に対応付けられた認証閾値に、認証閾値の上限値を書き込み、更新する。
また、顔の認証値の平均値が予め設定された認証閾値の上限値以下である場合、認証用情報更新部184は、図6Aに示した認証用生体情報データベース171のテーブルの、生体情報の種類のうち「顔」に対応付けられた認証閾値に、ステップS114で求めた顔の認証値の平均値を書き込み、更新する(ステップS115)。
続いて、認証用情報更新部184は、認証許容値を更新する(ステップS116)。具体的には、ステップS114で求めた顔の認証値の平均値が、予め設定された認証閾値の上限値以上である場合、認証用情報更新部184は、予め設定された最大認証許容値を認証許容値とする。また、ステップS114で求めた顔の認証値の平均値が、予め設定された認証閾値の上限値以下である場合、ステップS114で求めた顔の認証値の平均値とデフォルトの認証許容範囲値とを足した値が最大認証許容値以下であれば、その足した値を認証許容値とする。ステップS114で求めた顔の認証値の平均値とデフォルトの認証許容範囲値とを足した値が最大認証許容値以上であれば、最大認証許容値を認証許容値とする。
認証用情報更新部184は、図2に示した認証用生体情報データベース171を、端末記憶部17から取得する。認証用情報更新部184は、図6Aに示した認証用生体情報データベース171のテーブルの、生体情報の種類のうち「顔」に対応付けられた認証許容値に、求めた認証許容値を書き込み、更新する。
図4に示した認証用情報取得部181は、傾き検出部13から端末装置1の傾きの角度を取得する。続いて、認証用情報取得部181は、図示しないタイマから現在の日時情報を取得する(ステップS117)。認証用情報取得部181は、取得した端末装置1の傾きの角度と現在の日時情報とを認証判定部182に送信する。
認証判定部182は、受信した端末装置1の傾きの角度と現在の日時情報とを、認証用情報更新部184に送信する。認証用情報更新部184は、図2に示した端末記憶部17に記憶された傾き情報テーブル173に、受信した端末装置1の傾きの角度と現在の日時情報とを書き込み、保存する(ステップS118)。
認証判定部182は、図5Cに示した傾き情報テーブル173のテーブルに記憶されている待機時間を取得する。認証判定部182は、認証用情報取得部181に取得した待機時間を送信する。認証用情報取得部181は、受信した待機時間の間、通信部10、撮影部11等からのデータの取得を待機する(ステップS119)。
待機時間が終了すると、認証用情報取得部181は、傾き検出部13から端末装置1の傾きの角度を取得する。続いて、認証用情報取得部181は、図示しないタイマから現在の日時情報を取得する(ステップS120)。認証用情報取得部181は、取得した端末装置1の傾きの角度と現在の日時情報とを認証判定部182に送信する。
認証判定部182は、図5Cに示した傾き情報テーブル173のテーブルに記憶されている端末装置1の角度を取得する。認証判定部182は、認証用情報取得部181から受信した端末装置1の傾きの角度と、傾き情報テーブル173から取得した端末装置1の角度とを比較し、角度が変化してないか否かを判定する(ステップS121)。
端末装置1の角度の変化が、予め定められた設定値の角度、例えば、30度以上の場合(ステップS121;NO)、認証判定部182は、ユーザにより端末装置1が動かされ何某かの操作が行われたものと判断し、図6Aに示したステップS101に戻る。その後、認証判定部182は、ステップS101以降の処理を実行する。
また、端末装置1の角度の変化が、予め定められた設定値の角度以下の場合(ステップS121;YES)、認証判定部182は、ユーザにより端末装置1が動かされていないものと判断する。続いて、認証判定部182は、ユーザを認証するタイミングになったか否かを判定する(ステップS122)。ユーザを認証するタイミングは、予め設定された認証間隔の時間が経過したタイミングである。
ユーザを認証するタイミングになっている場合(ステップS122;YES)、認証判定部182は、図6Aに示したステップS101に戻る。その後、認証判定部182は、ステップS101以降の処理を実行する。ユーザを認証するタイミングになっていない場合(ステップS122;NO)、認証判定部182はステップS118に戻る。その後、認証判定部182は、ステップS118からステップS122を実行する。
ここで、図6Aに戻る。ステップS103において、認証判定部182の求めた顔の認証値が、認証用生体情報データベース171から取得した認証許容値以下ではない場合(ステップS103;NO)、認証判定部182は、音声認証処理を実行する(ステップS123)。
この顔の認証値が、認証用生体情報データベース171から取得した認証許容値以下ではない場合は、言い換えれば、ユーザの顔による認証が失敗した場合である。これは、端末装置1の使用状態が、ユーザの顔による認証ができない使用状態になっていることを示している。例えば、端末装置1を鞄、ポケット等に仕舞ったままで使用する場合には、ユーザの顔画像が取得ないためユーザの顔による認証が失敗する。また、例えば、端末装置1を離れた位置からハンズフリーで使用する場合、ユーザの顔画像を取得できても顔の像が不鮮明、画像内のユーザの顔の像が小さすぎて顔の認証値を求められない等の理由から、ユーザの顔による認証が失敗する。この場合、ユーザの顔による認証からユーザの音声による認証に切り替えることにより、安定してユーザを本人と認証することができる。なお、ユーザの音声による認証を行う端末装置1の使用状態は、特許請求の範囲における第2使用状態の一例である。
音声認証処理については、図10に示すフローチャートを参照しつつ、以下に説明する。認証判定部182は、ユーザの発声があるか否か判定する(ステップS501)。具体的には、認証判定部182は、認証用情報取得部181により、図4に示した音声入出力部12からユーザの音声を取得できる場合、ユーザの発声があるものと判定する。また、認証判定部182は、認証用情報取得部181により、図4に示した音声入出力部12からユーザの音声を取得できない場合、ユーザの発声がないものと判定する。なお、この音声入出力部12は、図1に示したマイクロフォン12Bとする。
ユーザの発声がない場合(ステップS501;NO)、認証判定部182は、戻り値に音声認証ができなかった旨を設定する(ステップS510)。また、ユーザの発声がある場合(ステップS501;YES)、認証判定部182は、図4に示した認証用情報取得部181に、音声入出力部12からユーザの音声を取得させる(ステップS502)。認証判定部182は、取得した音声のデータを解析する(ステップS503)。具体的には、認証判定部182は、図5Aに示した認証用生体情報データベース171の生体情報の種類に含まれる、音声の声紋、口癖、およびイントネーションの各特徴量を、取得した音声のデータを解析して求める。
認証判定部182は、音声の認証値を求める(ステップS504)。音声の認証値は、音声の声紋、口癖、イントネーションの各認証値を平均して求める。具体的には、まず、認証判定部182は、図2に示した端末記憶部17に記憶されている認証用生体情報データベース171を取得する。認証判定部182は、図5Aに示した認証用生体情報データベース171のテーブルから、生体情報の種類のうち「音声(声紋)」、「音声(口癖)」、および「音声(イントネーション)」に対応付けられた登録情報に記憶された各特徴量と、認証値の認証許容値及び認証閾値を取得する。
続いて、認証判定部182は、認証用生体情報データベース171から取得した登録情報の「音声(声紋)」、「音声(口癖)」、および「音声(イントネーション)」の各特徴量と、ステップS503で求めた音声の声紋、口癖、およびイントネーションの各特徴量とを比較する。認証判定部182は、比較の結果を基に「音声(声紋)」、「音声(口癖)」、および「音声(イントネーション)」の各認証値を求める。認証判定部182は、求めた各認証値の平均値を求める。この平均値が、音声の認証値となる。
認証判定部182は、ステップS504で求めた音声の認証値が認証閾値以上か否か判定する(ステップS505)。音声の認証値が認証閾値以上である場合(ステップS505;YES)、認証判定部182は、音声の認証値は認証許容値以下か否か判定する(ステップS506)。また、音声の認証値が認証閾値以上でない場合(ステップS505;NO)認証判定部182は、戻り値に音声認証ができた旨を設定する(ステップS509)。
音声の認証値が認証許容値以下である場合(ステップS506;YES)、認証判定部182は、補助認証処理を実行する(ステップS507)。補助認証処理については、図8に示したフローチャートの処理を実行する。また、音声の認証値が認証許容値以下でない場合(ステップS506;NO)、認証判定部182は、戻り値に音声認証ができなかった旨を設定する(ステップS510)。
認証判定部182は、補助認証ができたか否か判定する(ステップS508)。補助認証ができた場合(ステップS508;YES)、認証判定部182は、戻り値に音声認証ができた旨を設定する(ステップS509)。また、補助認証ができなかった場合(ステップS508;NO)、認証判定部182は、戻り値に音声認証ができなかった旨を設定する(ステップS510)。認証判定部182は、音声認証処理を終了する。
ここで、図6Aに戻る。認証判定部182は、音声認証ができたか否か判定する(ステップS124)。音声認証ができた場合(ステップS124;YES)、認証判定部182は、図4に示した認証用情報取得部181に、音声入出力部12からユーザの音声を取得させる(ステップS125)。
認証判定部182は、図4に示した認証用情報更新部184に、図2に示した認証用生体情報データベース171に記憶された音声の特徴量を更新させる(ステップS126)。具体的には、まず、認証判定部182は、ステップS125で取得した音声のデータを解析し、音声の声紋、口癖、およびイントネーションの各特徴量を求める。認証判定部182は、認証用情報更新部184に、求めた各特徴量を認証用生体情報データベース171のテーブルの生体情報の種類「音声(声紋)」、「音声(口癖)」、および「音声(イントネーション)」に対応つけられた登録情報に加えさせ、登録情報を更新させる。認証判定部182は、ステップS101に戻り、ステップS101以降の処理を実行する。
また、ステップS124において、音声認証ができなかった合(ステップS124;NO)、認証判定部182は、端末装置1を使用しているユーザをユーザ本人ではないと判断する。認証判定部182は、図4に示した認証結果表示部183に、表示部19へ認証できなかった旨を表示させる。続いて、認証判定部182は、端末装置1に備えられている既存の生体認証手段を呼び出す。ここでは、既存の生体認証手段として指紋認証を呼び出すものとする。認証判定部182は、指紋認証を実行する(ステップS127)。なお、端末装置1に備えられている既存の生体認証手段で用いられる各種生体情報は、特許請求の範囲における四の認証情報の一例である。
指紋認証ができた場合(ステップS128;YES)、認証判定部182からの指示により、認証用情報取得部181は、撮影部11に端末装置1を操作しているユーザの顔写真を撮影させる。認証用情報取得部181は、撮影部11から撮影したユーザの顔写真の画像を取得し、ユーザの顔の画像の特徴量を求める。認証用情報取得部181は、認証判定部182に求めたユーザの顔の画像の特徴量を送信する。認証判定部182は、受信したユーザの顔の画像の特徴量を図4に示した認証用情報更新部184に送信する。認証用情報更新部184は、受信したユーザの顔の画像の特徴量を、図5Aに示した認証用生体情報データベース171のテーブルの生体情報の種類「顔」に対応つけられた登録情報に記憶されていた顔画像の特徴量に加え、更新する(ステップS129)。認証判定部182は、ステップS101へ戻り、ステップS101以降のステップを実行する。
また、指紋認証ができなかった場合(ステップS128;NO)、認証判定部182は、図4に示した認証結果表示部183にログイン画面を表示部19に表示させる(ステップS110)。このログイン画面は、パスワードの入力、指紋認証等の端末装置1に含まれるOSによる本人認証である。
なお、上記の実施の形態において、生体情報から求められた認証値と認証閾値とが同じ値となった場合には、生体情報から求められた認証値が認証閾値以下、または、生体情報から求められた認証値が認証閾値以上の、どちらの場合として、認証が成功したか否かを判定してもよい。また、生体情報から求められた認証値と認証許容値とが同じ値となった場合には、生体情報から求められた認証値が認証許容値以下、または、生体情報から求められた認証値が認証許容値以上の、どちらの場合として、認証が成功したか否かを判定してもよい。
以上の通り、上記実施の形態に係る端末装置1は、ユーザ本人の顔の画像、指紋、音声等の生体情報と、ユーザが端末装置1を操作する際の特有の挙動、操作状態等による振舞情報とに基づいて、ユーザ本人を認証し、端末装置1における各種機能を実行することができる。特に、端末装置1では、例えば、端末装置を鞄、ポケット等にいれたまま使用する場合といった、端末装置1の使用状況によってユーザ本人の顔の画像によってユーザ本人を認証できなかった場合に、ユーザ本人の音声によりユーザ本人を認証できるものとする。これにより、端末装置1の使用状態に関わらず、安定して使用者を認証することがきる。
また、端末装置1において行われるユーザの認証処理は、端末装置1の稼働中、バックグラウンドで実行されるとともに、ユーザの生体情報と振舞情報とを更新していくことにより、認証の精度を向上させることができる。これにより、使用者に操作の負担をかけることなく、セキュリティを確保することができる。
(変形例1)
上記の実施の形態において、ユーザの生体情報による認証として、ユーザの顔画像による認証と、音声認証と、指紋認証とを使用した。これに限らず、ユーザの生体情報による認証は、指静脈認証、虹彩認証等、いずれの方法であってもよい。また、上記の実施の形態においては、補助認証を使用する判定の条件としてユーザの顔画像による認証と音声認証とを使用したが、他の生体情報による判定結果に応じて補助認証を使用するようにしてもよい。
(変形例2)
上記の実施の形態では、ユーザの認証処理を図2に示した認証処理プログラム170を実行することにより実現するものとした。この認証処理プログラム170で行われる各ステップの全部または一部を、ASIC(Application Specific Integrated Circuit)、システムLSI(Large−scale Integration)等の半導体チップ、各種回路素子により構成される回路等により実現するようにしてもよい。
(変形例3)
上記の実施の形態において、補助認証の判定条件として信頼する接続先への接続、信頼するイベントの実行、ユーザの顔と端末装置1との顔の距離を用いた。これに限らず、他の方法を用いる又は含めても良い。例えば、ユーザ本人が所有するデバイスと端末装置1とをBluetooth(登録商標)で接続しているか否かを判定し、接続している場合にユーザ本人と認証する。Bluetooth(登録商標)により接続される機器を使用するためには、機器同士を「ペアリング」する必要がある。このため、Bluetooth(登録商標)による機器の接続は、個人の特定性が強く、補助認証として利用することでユーザ本人を認証することが可能である。また、さらに、図2に示した位置検出部16により取得したユーザの行動ルートのパターン、規則性等により、ユーザ本人か否かを判定し、行動ルートのパターン、規則性等が一致する場合にユーザ本人と認証としてもよい。
(変形例4)
上記の実施の形態においては、補助認証のうち、一つの認証が成功した場合に、ユーザ本人と認証した。これに限らず、複数の補助認証がすべて成功した場合にのみユーザ本人と認証するようにしてもよい。これにより、さらに認証の精度を高めることができる。
(変形例5)
上記の実施の形態において、生体認証及び補助認証が成功した場合、図8に示したフローチャートのステップS302において認証判定部182は、認証間隔を現在の認証間隔よりも長くし、認証の頻度を下げている。しかしながら、これに限らず、生体認証及び補助認証が成功した場合、認証間隔を現在の認証間隔よりも長くせずにおき、認証の頻度を下げなくてもよい。具体的には、図8に示したフローチャートのステップS302を行わなくてもよい。
(変形例6)
上記の実施の形態において、ユーザの認証が成功し、ユーザが継続的に端末装置1を操作し続ける状態、且つ端末装置1の傾きの変更がない場合、ユーザ本人が端末装置1を操作し続けているものと判断することができる。この場合、生体認証の認証閾値及び認証許容値を緩めに設定する、認証間隔を長くする等してもよい。こうすることにより、ユーザ本人に対する必要最低限の認証をバックグラウンドで行いつつ、端末装置1のリソースの利用を節約する事ができる。
(変形例7)
上記の実施の形態において、予め定められた認証間隔によりバックグラウンドでの認証を行うようにした。これに限らず、認証のタイミング及び間隔を定めず、ランダムにバックグラウンドで認証を行うようにしてもよい。例えば、端末装置1に搭載されている各種センサの何れかにより、端末装置1の位置の変更、傾きの変更などの空間的な変化があった場合に、随時認証を行うようにしてもよい。また、ユーザが端末装置1に対し特別な処理を行うための操作、イレギュラーな操作等を行った場合に、認証を行うようにしてもよい。
(変形例8)
上記の実施の形態において、図6Aに示した認証処理のステップS112では、認証判定部182は、図4に示した認証用情報更新部184に、図2に示した認証用生体情報データベース171及び認証用振舞情報データベース172に記憶された各種データの登録情報を更新させるものとした。これに限らず、認証判定部182は、例えば、予め定められた回数だけユーザ本人を認証できた場合、予め定められた時間を経過した場合等に、認証用情報更新部184に、認証用生体情報データベース171及び認証用振舞情報データベース172に記憶された各種データの登録情報を更新させるものとしてもよい。
また、上記の実施の形態において、図6Aに示した認証処理のステップS112では、認証判定部182は、認証用情報更新部184に、認証用生体情報データベース171及び認証用振舞情報データベース172に記憶された各種データの登録情報のうち、一部を更新させるようにしてもよい。
(変形例9)
上記の実施の形態において、図6Aに示した認証処理では、ユーザの顔画像によるユーザ本人の認証ができなかった場合に、音声によるユーザ本人の認証をするものとした。これに限らず、例えば、バックグラウンドにおいて、常時ユーザの音声を取得し、音声によるユーザ本人の認証をしてもよい。また、この場合、ユーザ本人の認証が必要になった際に、直前にバックグラウンドで音声による認証が成功していた場合には、認証は成功したものとしてもよい。
また、直前にバックグラウンドでの音声の認証がされていない、音声による認証が失敗していた等の場合に、例えば、ユーザの顔画像によるユーザ本人の認証、指紋認証等の他の生体認証をしてもよい。さらに、ユーザの顔画像によるユーザ本人の認証、指紋認証等の他の生体認証が失敗した場合には、再度、明示的にユーザに発声させ、音声による認証をするようしてもよい。
また、本発明の実施の形態では、端末装置1は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。例えば、端末装置1における各機能を実現するためのプログラムを、コンピュータが読み取り可能なCD−ROM(Compact Disc Read Only Memory)、DVD−ROM(Digital Versatile Disc Read Only Memory)などの記録媒体に格納して配布し、このプログラムをコンピュータにインストールすることにより、上述の各機能を実現することができるコンピュータを構成してもよい。そして、各機能をOS(Operating System)とアプリケーションとの分担、またはOSとアプリケーションとの協同により実現する場合には、アプリケーションのみを記録媒体に格納してもよい。
なお、本発明の技術的範囲は、上記実施の形態と変形例によっては限定されない。本発明は特許請求の範囲に記載された技術的思想の限りにおいて、自由に応用、変形あるいは改良して、実施することができる。
1 端末装置、10 通信部、11 撮影部、11A インカメラ、11B メインカメラ、12 音声入出力部、12A スピーカ、12B マイクロフォン、13 検出部、14 操作入力部、15 指紋検出部、15A 左指紋センサ、15B 右指紋センサ、16 位置検出部、17 端末記憶部、18 端末制御部、19 表示部、21 プロセッサ、22 メモリ、23 表示コントローラ、24 表示機器、25 I/Oポート、26 記憶機器、27 通信機器、28 データバス、170 認証処理プログラム、171 認証用生体情報データベース、172 認証用振舞情報データベース、173 情報テーブル、181 認証用情報取得部、182 認証判定部、183 認証結果表示部、184 認証用情報更新部。

Claims (7)

  1. 複数の認証情報を取得する認証用情報取得部と、
    前記認証用情報取得部で取得した前記複数の認証情報のうち少なくとも一つの認証情報または複数の認証情報に基づいて、認証が成功したか否かを判定する認証判定部と、
    前記認証判定部で認証が成功したと判定した場合に、前記認証用情報取得部で取得した前記複数の認証情報により、保存されている複数の認証情報を更新する認証用情報更新部とを備え、
    前記認証判定部は、バックグラウンドにおいて、前記認証用情報取得部で取得した一の認証情報と自身に登録された一の登録情報とを比較して求めた第1認証値が予め定められた認証閾値未満の場合に自身の第1使用状態における認証が成功したと判定し、前記第1認証値が前記認証閾値にユーザが本人か否かグレーな場合を示す認証許容範囲値を含めた値である認証許容値以上の場合に前記第1使用状態における認証が失敗したものとして前記認証用情報取得部で取得した二の認証情報に基づいて前記自身の第2使用状態における認証が成功したか否かを判定し、前記第1認証値が前記認証閾値以上、且つ、前記認証許容値未満の場合、前記認証用情報取得部で取得した三の認証情報に基づいて認証が成功したか否かを判定し、前記三の認証情報に基づいて認証が成功した場合には前記一の認証情報に基づいて前記ユーザが本人と認証されたものとする、
    端末装置。
  2. 前記認証判定部は、さらに、前記二の認証情報と前記自身に登録された二の登録情報とを比較して求めた第2認証値が前記認証閾値以上、且つ、前記認証許容値未満の場合、前記認証用情報取得部で取得した三の認証情報に基づいて認証が成功したか否かを判定し、前記三の認証情報に基づいて認証が成功した場合には前記二の認証情報に基づいて前記ユーザが本人と認証されたものとする、
    請求項1に記載の端末装置。
  3. 前記認証判定部は、さらに、前記第2認証値が前記認証許容値以上の場合に前記二の認証情報に基づく認証を失敗と判定し、前記認証用情報取得部で取得した四の認証情報に基づいて認証が成功したか否かを判定する、
    請求項2に記載の端末装置。
  4. 前記一の認証情報は、前記認証用情報取得部で取得されたユーザの第1生体情報であり、
    前記二の認証情報は、前記認証用情報取得部で取得されたユーザの第2生体情報であり、
    前記三の認証情報は、ユーザの特有の挙動を含む振舞情報である、
    請求項2または3に記載の端末装置。
  5. 前記第1使用状態は、ユーザにより前記自身を把持された状態での使用状態であり、
    前記第2使用状態は、前記自身を鞄またはポケットに仕舞われた状態での使用状態である、
    請求項1から4の何れか一項に記載の端末装置。
  6. 端末装置において実行される情報処理方法であって、
    複数の認証情報を取得し、
    取得した前記複数の認証情報のうち少なくとも一つの認証情報または複数の認証情報に基づいて、認証が成功したか否かを判定し、
    前記認証が成功したと判定した場合に、取得した前記複数の認証情報により、保存されている複数の認証情報を更新し、
    バックグラウンドにおいて、一の認証情報と自身に登録された一の登録情報とを比較して求めた第1認証値が予め定められた認証閾値未満の場合に自身の第1使用状態における認証が成功したと判定し、前記第1認証値が前記認証閾値にユーザが本人か否かグレーな場合を示す認証許容範囲値を含めた値である認証許容値以上の場合に前記第1使用状態における認証が失敗したものとして二の認証情報に基づいて前記自身の第2使用状態における認証が成功したか否かを判定し、前記第1認証値が前記認証閾値以上、且つ、前記認証許容値未満の場合、三の認証情報に基づいて認証が成功したか否かを判定し、前記三の認証情報に基づいて認証が成功した場合には前記一の認証情報に基づいて前記ユーザが本人と認証されたものとする、
    情報処理方法。
  7. コンピュータに、
    複数の認証情報を取得する処理、
    取得した前記複数の認証情報のうち少なくとも一つの認証情報または複数の認証情報に基づいて、認証が成功したか否かを判定する処理、
    前記認証が成功したと判定した場合に、取得した前記複数の認証情報により、保存されている複数の認証情報を更新する処理、
    バックグラウンドにおいて、一の認証情報と自身に登録された一の登録情報とを比較して求めた第1認証値が予め定められた認証閾値未満の場合に自身の第1使用状態における認証が成功したと判定し、前記第1認証値が前記認証閾値にユーザが本人か否かグレーな場合を示す認証許容範囲値を含めた値である認証許容値以上の場合に前記第1使用状態における認証が失敗したものとして二の認証情報に基づいて前記自身の第2使用状態における認証が成功したか否かを判定し、前記第1認証値が前記認証閾値以上、且つ、前記認証許容値未満の場合、三の認証情報に基づいて認証が成功したか否かを判定し、前記三の認証情報に基づいて認証が成功した場合には前記一の認証情報に基づいて前記ユーザが本人と認証されたものとする処理、
    を実行させるためのプログラム。
JP2021014436A 2021-02-01 2021-02-01 端末装置、情報処理方法、及びプログラム Active JP6926351B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021014436A JP6926351B1 (ja) 2021-02-01 2021-02-01 端末装置、情報処理方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021014436A JP6926351B1 (ja) 2021-02-01 2021-02-01 端末装置、情報処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP6926351B1 true JP6926351B1 (ja) 2021-08-25
JP2022117757A JP2022117757A (ja) 2022-08-12

Family

ID=77364612

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021014436A Active JP6926351B1 (ja) 2021-02-01 2021-02-01 端末装置、情報処理方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6926351B1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7015408B1 (ja) 2021-10-07 2022-02-02 真旭 徳山 端末装置、情報処理方法、及びプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003078952A (ja) * 2001-08-30 2003-03-14 Fujitsu Ltd 携帯型端末及び機能抑制方法
JP2005182159A (ja) * 2003-12-16 2005-07-07 Nec Corp 個人認証方式及び個人認証方法
WO2016175333A1 (ja) * 2015-04-30 2016-11-03 真旭 徳山 端末装置およびコンピュータプログラム
JP2017146663A (ja) * 2016-02-15 2017-08-24 ルネサスエレクトロニクス株式会社 認証装置、認証システム及び認証方法
JP2017524998A (ja) * 2014-06-03 2017-08-31 アリババ・グループ・ホールディング・リミテッドAlibaba Group Holding Limited 本人照合を行うための方法およびシステム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003078952A (ja) * 2001-08-30 2003-03-14 Fujitsu Ltd 携帯型端末及び機能抑制方法
JP2005182159A (ja) * 2003-12-16 2005-07-07 Nec Corp 個人認証方式及び個人認証方法
JP2017524998A (ja) * 2014-06-03 2017-08-31 アリババ・グループ・ホールディング・リミテッドAlibaba Group Holding Limited 本人照合を行うための方法およびシステム
WO2016175333A1 (ja) * 2015-04-30 2016-11-03 真旭 徳山 端末装置およびコンピュータプログラム
JP2017146663A (ja) * 2016-02-15 2017-08-24 ルネサスエレクトロニクス株式会社 認証装置、認証システム及び認証方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7015408B1 (ja) 2021-10-07 2022-02-02 真旭 徳山 端末装置、情報処理方法、及びプログラム
WO2023058424A1 (ja) * 2021-10-07 2023-04-13 真旭 徳山 端末装置、情報処理方法、及びプログラム
JP2023056179A (ja) * 2021-10-07 2023-04-19 真旭 徳山 端末装置、情報処理方法、及びプログラム

Also Published As

Publication number Publication date
JP2022117757A (ja) 2022-08-12

Similar Documents

Publication Publication Date Title
US20220417359A1 (en) Remote control device, information processing method and recording program
JP7203955B2 (ja) 顔認識方法および装置
US20160337851A1 (en) Information processing apparatus, control method for information processing apparatus, and storage medium
WO2017208519A1 (ja) 生体認証装置、携帯端末装置、制御プログラム
JP6926351B1 (ja) 端末装置、情報処理方法、及びプログラム
JP6979135B2 (ja) 端末装置、情報処理方法、及びプログラム
US20220286451A1 (en) Information processing system, information processing method, and program
JP6946592B1 (ja) 認証システム、認証装置、認証方法、及びプログラム
JP7015408B1 (ja) 端末装置、情報処理方法、及びプログラム
JP6964174B1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP7012190B1 (ja) 認証装置、認証方法、認証システム、及びプログラム
JP7433018B2 (ja) 情報処理システム、情報処理方法、及びプログラム
JP6008660B2 (ja) 情報処理装置、情報処理方法
JP7343680B2 (ja) 認証装置、認証支援方法、及びプログラム
WO2024048228A1 (ja) 電子機器及び電子機器の制御方法
JP6652664B2 (ja) 端末装置、および制御プログラム
JP2022025553A (ja) コンピュータプログラム
JP2002008034A (ja) 個人認証装置及び方法並びに通信装置
JP2007208474A (ja) 携帯端末、携帯電話機、および情報管理システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210201

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210204

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210420

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210804

R150 Certificate of patent or registration of utility model

Ref document number: 6926351

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150