JP7503677B1 - 生体行動反応解析システム - Google Patents

生体行動反応解析システム Download PDF

Info

Publication number
JP7503677B1
JP7503677B1 JP2023019353A JP2023019353A JP7503677B1 JP 7503677 B1 JP7503677 B1 JP 7503677B1 JP 2023019353 A JP2023019353 A JP 2023019353A JP 2023019353 A JP2023019353 A JP 2023019353A JP 7503677 B1 JP7503677 B1 JP 7503677B1
Authority
JP
Japan
Prior art keywords
subject
information
classification information
gsr
biobehavioral
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023019353A
Other languages
English (en)
Inventor
眞知子 福原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to JP2023019353A priority Critical patent/JP7503677B1/ja
Application granted granted Critical
Publication of JP7503677B1 publication Critical patent/JP7503677B1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

【課題】カウンセリングのより正確な解析を可能にすることにある。【解決手段】被験者および試験者のGSRおよび心脈拍をそれぞれ検出する第1および第2のGSRセンサならびに第1および第2の心脈拍センサと、被験者および試験者の生体行動に関する画像情報および音声情報を記録して出力する生体行動監視装置と、生体行動監視装置から出力された画像情報および音声情報に基づく被験者および試験者の心理学-生理学的分類情報を入力するための反応キーと、第1および第2のAIモデルによって、生体行動監視装置から出力された画像情報および音声情報を分析して被験者および試験者の補助的心理学-生理学的分類情報をそれぞれ取得し出力する補助的分類情報出力装置と、被験者および試験者のGSRおよび心脈拍ならびに心理学-生理学的分類情報および補助的分類情報を同期させて出力する情報処理出力装置と、を具える生体行動反応解析システムである。【選択図】図1

Description

本発明は、例えば被験者-試験者のような1対1の教育的な人間関係において、両者のコミュニケーションに基づくカウンセリングに使用するための生体行動反応解析システムに関し、特にはカウンセリングおよびカウンセラ教育に好適な生体行動反応解析システムに関するものである。
上述した1対1の教育的な人間関係に類似するものとしては、クライエント(解決すべき問題を有する人)とカウンセラ、患者と医師(あるいは看護師)、クライエントと心理療法士、クライエントと精神医学者、クライエントとケースワーカ、学生と教師、企業内教育における受講者とインストラクタ、親と子等種々の場合がある。これらの例は、その構成および実施方法には差異があるが、両者のコミュニケーションを媒体として問題の解決を図ることを目的とする援助の人間関係(例えば「共感」、「受容性」、「感受性」等相手に係わろうとする姿勢)を成立させようとしている点で共通性があるということを、本願発明者は長年の研究によって確かめた。このように幅広い分野で望まれる援助の人間関係の中の1つであるクライエントとカウンセラとの人間関係、つまりカウンセリングに関し、客観的なデータを得ることは大変意義深いものである。
ここで、先ずカウンセリングの概念について詳述すると、カウンセリングの定義については諸説があるが、一般には図10に示すように表わされる。すなわち、カウンセリング(counseling)に隣接する領域として教育(school psychology)および心理療法(psychotherapy)があり(これらを混同して用いる場合がある)、さらに心理療法に隣接する領域として精神医学(psychiatry)がある。カウンセリングの理論的背景をなすのはカウンセリング心理学(counseling psychology)領域であり、その目的とするものは教育、人間性の開発、精神衛生上の予防である。一方、心理療法の理論的背景をなすものは臨床心理学(clinical psychology)領域であり、その目的とするものは人間性の修正、精神衛生上の予防、治療である。それゆえ、両者には重複する部分がある。また一般に、カウンセリングはいわゆる健常者を対象とし、心理療法はいわゆる非健常者及び両者の接点を対象とするが、広くはカウンセリングにおいても神経症的傾向のある人やボーダーラインの人も対象とする。なお図10中で左方へ向うほど教育的傾向が強まり、右方へ向うほど治療的傾向が強まる。
本願発明者は上述した見地から、カウンセリングに関する種々の研究および実験を積み重ねて来た。しかしながら当時のカウンセリングシステムでは、クライエントの心脈拍やGSR(Galvanic Skin Response:電流皮膚反応)等の生体反応を個々に測定し、それを解析してカウンセリングに関する客観的なデータを得ようとしているものの、複数の生体反応相互の関連性や、それらとクライエント-カウンセラ双方の心理学-生理学的分類情報との関連性が得られないという不都合があった。このため本願発明者は、複数の生体反応に関するデータおよびクライエント-カウンセラ双方の心理学-生理学的分類情報に基づきカウンセリングに関する総合的かつ客観的な解析を行うことができる第1世代の生体行動反応解析システムを発明し、これについて特許を取得した(特許文献1参照)。
この第1世代の生体行動反応解析システムは、被験者および試験者の生体反応であるGSRならびに心脈拍をそれぞれ検出する第1および第2のGSRセンサならびに第1および第2の心脈拍センサと、それら被験者および試験者の生体行動に関する画像情報および音声情報を監視および記録する生体行動監視装置と、その生体行動監視装置から出力された画像情報および音声情報に基づく被験者の「喜」、「怒」、「楽」、「当惑」、「驚き」、「不安」、「スムーズ」、「スムーズでない」等の心理学-生理学的分類情報ならびに試験者の「かかわる」、「かかわらない」、「直視」、「胸上視線」、「胸下視線」、「開かれた質問」、「閉ざされた質問」等の心理学-生理学的分類情報を二人の観察者が入力するための第1および第2の反応キーと、それら被験者および試験者のGSRおよび心脈拍と心理学-生理学的分類情報とを入力し同期させて出力装置の画面等に出力するコンピュータとを具え、そのコンピュータが出力する被験者および試験者のGSRおよび心脈拍ならびにそれらに同期した心理学-生理学的分類情報を用いてカウンセリングの解析を行い得るようにしたものである。
しかしながら、この第1世代の生体行動反応解析システムでは、GSRの検出の際に被験者および試験者の指に電極を装着した後、GSR信号のゲイン(増幅度)調整を適切に行うとともに、被験者および試験者を安静状態とする必要があり、このゲイン調整が不適切であったり、被験者と試験者との少なくとも一方が安静状態でなかったりすると、被験者および試験者の生体反応が高精度で得られない可能性があった。そして被験者および試験者の生体反応が高精度で得られない場合には、カウンセリングのより正確な解析にも不都合をきたす可能性があった。
また、この第1世代の生体行動反応解析システムでは、生体行動監視装置から出力された画像情報および音声情報に基づき被験者および試験者の心理学-生理学的分類情報を入力するための第1および第2の反応キーが何れも、心理学-生理学的分類情報の有無をその分類情報の種類毎にスイッチのON/OFFで入力するのみであるため、被験者の感情の程度や、試験者の質問のかかわりの程度等が判らず、被験者および試験者の心理学-生理学的分類情報が高精度で得られない可能性があった。そして被験者および試験者の心理学-生理学的分類情報が高精度で得られない場合には、カウンセリングのより正確な解析にも不都合をきたす可能性があった。
その一方で近年、人の頭部の複数箇所に近赤外線を照射して、脳表面からの反射光を受光し、脳の前頭前野の活動に伴う脳表面の血流変化による反射光レベルの微細な変化を捉える光トポグラフィ(登録商標)により、人の感情を非侵襲でしかもリアルタイムに検出する技術が知られている(非特許文献1参照)。そこで本願発明者は、上記第1世代の生体行動反応解析システムについてさらに研究を進め、GSR信号のゲインを適切に調整するとともに被験者および試験者の安静状態を確認し、さらに第1および第2の反応キーへの入力も適切に行えるようにして上記の不都合を解消し、加えてカウンセリング中に上記光トポグラフィ技術で被験者および試験者の感情に関する情報を検出し、その情報も参照できるようにした第2世代の生体行動反応解析システムについて、特許文献2に記載のように特許を取得した。
特許第2505290号公報 特許第5150902号公報
社団法人電子情報通信学会発行の電子情報通信学会論文誌、A J88-A(8),PP.994-1001 20050801記載、松下晋および中川匡弘著、「光トポグラフィによる感性情報解析(ヒューマンコミュニケーション)」 https://www.brainpad.co.jp/news/2017/05/30/5286:「ブレインパッドのAI技術が、 Google のイベントに採用 - 人間の発話内容をもとに、ロボットがおすすめのキャンディをピックアップ -」
しかしながら、特許文献1に記載の第1世代の生体行動反応解析システムも、特許文献2に記載の第2世代の生体行動反応解析システムも何れも、生体行動監視装置から出力された画像情報および音声情報に基づき二人の観察者が第1および第2の反応キーをそれぞれ操作して被験者および試験者の心理学-生理学的分類情報を入力しているが、画像情報および音声情報から被験者の感情や試験者の質問のかかわり等を正確に読み取るのは必ずしも容易でないため、被験者の心理学-生理学的分類情報が高精度で得られない可能性があった。
ところで最近は、AI(Artificial Intelligence:人知能)に関する技術の進展により、コンピュータで構成されたAIモデルを用いて録画した人の画像や録音した会話の内容を精度よく分析する技術が知られてきている(非特許文献2参照)。それゆえ本発明は、先に述べた課題を上述の如き最近の技術を用いて解決することで、カウンセリングのより正確な解析を可能にする生体行動反応解析システムを提供することを目的とする。
本発明の第1の態様の生体行動反応解析システムは図1に概念図で示すように、
被験者と試験者とのコミュニケーションに基づくカウンセリングに使用するための生体行動反応解析システムであって、
被験者および試験者のGSRおよび心脈拍をそれぞれ検出する第1のGSRセンサおよび第2のGSRセンサならびに第1の心脈拍センサおよび第2の心脈拍センサと、
前記被験者および前記試験者の生体行動に関する画像情報および音声情報を監視および記録して出力する生体行動監視装置と、
前記生体行動監視装置から出力された前記画像情報および前記音声情報に基づく前記被験者および前記試験者の心理学-生理学的分類情報を二人の観察者が入力するための第1および第2の反応キーと、
被験者および試験者の画像情報および音声情報から前記被験者および前記試験者の心理学-生理学的分類情報をそれぞれ分類する、コンピュータで構成された第1および第2のAIモデルによって、前記生体行動監視装置から出力された前記画像情報および前記音声情報を分析して前記被験者および前記試験者の補助的心理学-生理学的分類情報をそれぞれ取得し、それらの補助的心理学-生理学的分類情報を出力する補助的分類情報出力装置と、
前記第1および第2のGSRセンサならびに前記第1および第2の心脈拍センサと、前記第1および第2の反応キーと、前記生体行動監視装置と、前記補助的分類情報出力装置とを接続されており、前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報および前記補助的心理学-生理学的分類情報を同期させる処理を行うとともに、その同期した前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報および前記補助的心理学-生理学的分類情報を出力する情報処理出力装置と、を具え、
同期した前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報および前記補助的心理学-生理学的分類情報の出力に基づいてカウンセリングの解析を行い得るようにしたことを特徴とするものである。
また本発明の第2の態様の生体行動反応解析システムは図8に概念図で示すように、
被験者と試験者とのコミュニケーションに基づくカウンセリングに使用するための生体行動反応解析システムであって、
被験者および試験者のGSRおよび心脈拍をそれぞれ検出する第1のGSRセンサおよび第2のGSRセンサならびに第1の心脈拍センサおよび第2の心脈拍センサと、
前記被験者および前記試験者の生体行動に関する画像情報および音声情報を監視および記録して出力する生体行動監視装置と、
被験者および試験者の画像情報および音声情報から前記被験者および前記試験者の心理学-生理学的分類情報をそれぞれ分類する、コンピュータで構成された第1および第2のAIモデルによって、前記生体行動監視装置から出力された前記画像情報および前記音声情報を分析して前記被験者および前記試験者の心理学-生理学的分類情報をそれぞれ取得し、それらの心理学-生理学的分類情報を出力する分類情報出力装置と、
前記第1および第2のGSRセンサならびに前記第1および第2の心脈拍センサと、前記生体行動監視装置と、前記分類情報出力装置とを接続されており、前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報を同期させる処理を行うとともに、その同期した前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報を出力する情報処理出力装置と、を具え、
同期した前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報の出力に基づいてカウンセリングの解析を行い得るようにするとともに、
情報処理出力装置の出力に基づいて、コンピュータで構成されたAIモデルによってカウンセリングの解析を補助的に行うカウンセリング補助装置をさらに具えることを特徴とするものである。
本発明の第1の態様の生体行動反応解析システムにあっては、被験者と試験者とがコミュニケーション(主として言語によるが、ボディランゲージ等非言語によるものも含む)を行う間、第1および第2のGSRセンサおよび心脈拍センサがそれぞれ、被験者のGSRおよび心脈拍ならびに試験者のGSRおよび心脈拍を検出して情報処理出力装置に入力し、生体行動監視装置が、被験者および試験者の生体行動に関する画像情報および音声情報を監視および記録して出力する。
その後、生体行動監視装置から出力された画像情報および音声情報を受取る二人の観察者が第1および第2の反応キーを操作して、その生体行動監視装置から出力された画像情報および音声情報に基づく被験者の喜、怒、楽、当惑、驚き、不安、スムーズ、スムーズでない等の心理学-生理学的分類情報および試験者のかかわる、かかわらない、直視、胸上視線、胸下視線、開かれた質問、閉ざされた質問等の心理学-生理学的分類情報を情報処理出力装置に入力する。
さらに補助的分類情報出力装置が、被験者および試験者の画像情報および音声情報から前記被験者および前記試験者の心理学-生理学的分類情報をそれぞれ分類する、コンピュータで構成された第1および第2のAI(人知能)モデルによって、生体行動監視装置から出力された画像情報および音声情報を分析して被験者および試験者の心理学-生理学的分類情報をそれぞれ取得し、それらの心理学-生理学的分類情報を情報処理出力装置に入力する。
そして、第1および第2のGSRセンサならびに第1および第2の心脈拍センサと、第1および第2の反応キーと、生体行動監視装置と、補助的分類情報出力装置とを接続された情報処理出力装置が、入力された被験者および試験者のGSRおよび脈拍ならびに心理学-生理学的分類情報および補助的心理学-生理学的分類情報を同期させる処理を行うとともに、その同期した被験者および試験者のGSRおよび心脈拍ならびに心理学-生理学的分類情報および補助的心理学-生理学的分類情報を出力する。
従って、本発明の第1の態様の生体行動反応解析システムによれば、情報処理出力装置の出力情報において、被験者のGSR、心脈拍のピーク値、心理学-生理学的分類情報および補助的心理学-生理学的分類情報が同期するとともに、試験者のGSR、心脈拍のピーク値、心理学-生理学的分類情報および補助的心理学-生理学的分類情報が同期し、さらにそれらの情報が被験者および試験者の間でも同期しているので、この出力情報に基づいてカウンセリング解析を総合的かつ高精度に行うことができる。また、この出力情報を被験者、試験者の双方またはいずれか一方にフィードバックすることにより、特にカウンセラ教育において多大な効果を得ることができる。
また本発明の第2の態様の生体行動反応解析システムにあっては、被験者と試験者とがコミュニケーション(主として言語によるが、ボディランゲージ等非言語によるものも含む)を行う間、第1および第2のGSRセンサおよび心脈拍センサがそれぞれ、被験者のGSRおよび心脈拍ならびに試験者のGSRおよび心脈拍を検出して情報処理出力装置に入力し、生体行動監視装置が、被験者および試験者の生体行動に関する画像情報および音声情報を監視および記録して出力する。
その後、分類情報出力装置が、被験者および試験者の画像情報および音声情報から前記被験者および前記試験者の心理学-生理学的分類情報をそれぞれ分類する、コンピュータで構成された第1および第2のAI(人知能)モデルによって、生体行動監視装置から出力された画像情報および音声情報を分析して被験者および試験者の心理学-生理学的分類情報をそれぞれ取得し、それらの心理学-生理学的分類情報を情報処理出力装置に入力する。
そして、第1および第2のGSRセンサならびに第1および第2の心脈拍センサと、生体行動監視装置と、分類情報出力装置とを接続された情報処理出力装置が、入力された被験者および試験者のGSRおよび脈拍ならびに心理学-生理学的分類情報を同期させる処理を行うとともに、その同期した被験者および試験者のGSRおよび心脈拍ならびに心理学-生理学的分類情報を出力する。
さらに、カウンセリング補助装置が、前記情報処理出力装置の出力に基づいてカウンセリング解析を補助的に行う。
従って、本発明の第2の態様の生体行動反応解析システムによれば、第1および第2の反応キーを操作する二人の観察者が介在しなくても、情報処理出力装置の出力情報において、被験者のGSR、心脈拍のピーク値および被験者の心理学-生理学的分類情報が同期するとともに、試験者のGSR、心脈拍のピーク値および試験者の心理学-生理学的分類情報が同期し、さらにそれらの情報が被験者および試験者の間でも同期しているので、少ない人手で、情報処理出力装置の出力情報に基づいてカウンセリング解析を総合的かつ高精度に行うことができる。また、この出力情報を被験者、試験者の双方またはいずれか一方にフィードバックすることにより、特にカウンセラ教育において多大な効果を得ることができる。そして、カウンセリング補助装置が、前記情報処理出力装置の出力に基づいてカウンセリング解析を補助的に行うので、カウンセリングのさらに高精度な解析を可能にすることができる。
なお、本発明の第1および第2の態様の生体行動反応解析システムにおいては、前記第1および第2のAIモデルには、過去に前記生体行動監視装置から出力された被験者および試験者の画像情報および音声情報と、それらの情報に基づき二人の観察者が第1および第2の反応キーで入力した被験者および試験者の心理学-生理学的分類情報とを教師データとして、被験者および試験者の画像情報および音声情報と前記被験者および前記試験者の心理学-生理学的分類情報との関係をあらかじめ学習した教師あり学習済みAIモデルを用いてもよく、このようにすれば、AIモデルが被験者および試験者の画像情報および音声情報からそれら被験者および試験者の心理学-生理学的分類情報をより高精度に取得することができる。
また、本発明の第1および第2の態様の生体行動反応解析システムにおいては、前記第1および第2のAIモデルは、別個のコンピュータがそれぞれ所定のプログラムを実行することで構成してもよいが、それらのAIモデルに共通の一台のコンピュータが所定のプログラムを逐次的あるいは並列的に実行することで構成するものでもよく、このようにすれば、コンピュータが一台で済むのでAIモデルをより安価に構成することができる。
そして、本発明の第1の態様の生体行動反応解析システムにおいては、さらに、本発明の第2の態様の生体行動反応解析システムと同様に、前記情報処理出力装置の出力に基づいてカウンセリング解析を補助的に行うカウンセリング補助装置を備えていてもよく、このようにすれば、本発明の第1の態様の生体行動反応解析システムにおいても、カウンセリングのさらに高精度な解析を可能にすることができる。
そしてその場合に、本発明の第1および第2の態様の生体行動反応解析システムにおいては、前記カウンセリング補助装置が、前記情報処理出力装置が出力する同期した被験者および試験者のGSRおよび心脈拍ならびに心理学-生理学的分類情報と、前記生体行動監視装置から出力された被験者および試験者の画像情報および音声情報に基づき前記第1および第2のAIモデルが取得した被験者および試験者の心理学-生理学的分類情報とを対比して示すとともに、それらの分類情報の相違点を明示してもよく、このようにすれば、第1および第2の反応キーで被験者および試験者の心理学-生理学的分類情報を入力する二人の観察者の判断のトレーニングも行うことができる。
この発明の第1の態様の生体行動反応解析システムの構成を示す概念図である。 上記第1の態様の生体行動反応解析システムの一実施形態の構成を示すブロック線図である。 上記実施形態の生体行動反応解析システムのGSR測定回路を示す回路図である。 上記実施形態の生体行動反応解析システムの反応キーを示す外観斜視図である。 上記実施形態の生体行動反応解析システムのコンピュータが実行する測定プログラムの処理内容を示すフローチャートである。 上記実施形態の生体行動反応解析システムのコンピュータがディスプレイ画面上に表示する画像の例を示す説明図である。 上記画像中のクライエントおよびカウンセラの測定データをそれぞれ示す説明図である。 この発明の第2の態様の生体行動反応解析システムの構成を示す概念図である。 上記第2の態様の生体行動反応解析システムの一実施形態の構成を示すブロック線図である。 カウンセリングの学術的分野の位置づけを示す説明図である。
以下、本発明の実施形態を図面に基づき詳細に説明する。ここに、図2は、この発明の第1の態様の生体行動反応解析システムの一実施形態の構成を示すブロック線図であり、図中符号10は被験者としてのクライエント、11は試験者としてのカウンセラ、12, 13はそれぞれ観察者を示す。
この実施形態の生体行動反応解析システムでは、クライエント10およびカウンセラ11のそれぞれに、生体反応検出用のGSRセンサ14および心脈拍センサ15を装着する。GSRセンサ14は、クライエントおよびカウンセラの電流皮膚反応(GSR)を測定するもので、両者の指(例えば人差指と薬指)に装着した電極に微少電圧(例えば10mv)を印加して、流れる電流から皮膚抵抗値を測定し、その変化に基づきGSRを求めるものである。心脈拍センサ15は、クライエントおよびカウンセラの心脈拍(心拍)を測定するもので、両者の指(例えば中指)に装着した光センサにより心脈拍パルスを1拍毎に検出するものである。これらセンサ14,15により検出したGSRおよび心脈拍のデータは、調整器16およびアナログ-デジタル(A/D)コンバータ18を介して情報処理出力装置としてのパーソナルコンピュータ(以下「パソコン」とも称する)20に入力される。なお、一般的にはこれらセンサ14,15および後述するビデオカメラ21は、クライエント10およびカウンセラ11のいる室内、例えばカウンセリング室22に配置するものとする。
調整器16は、上記センサ14,15からのデータおよび後述する反応キー30からのデータを受けてA/Dコンバータ18へアナログデータのまま出力する機能の他、心脈拍パルスを検出するたびに赤色LEDランプを点滅させるモニタ機能を有している。そしてA/Dコンバータ18は、調整器16からのアナログデータをデジタルデータに変換してパソコン20へ出力する機能を有している。なお、GSRは測定条件の変動により時間の経過と共に変動していくことがあり、その場合ゼロセット(GSR測定値がゼロ付近で安定するようにすること)を行うものとする。調整器16には、GSR測定値をモニタするメータが2系統分(クライエント10用およびカウンセラ11用)配設されている。このメータおよび後述するオートバランスにより、以下に示すように、内蔵する図示しないゲイン切換スイッチおよびゼロセット用可変抵抗器の必要最小限の操作によって、調整器16単独でGSR調整を行うことができる。
ところで、皮膚抵抗値R0に基づき定まる基準電圧が基準値の範囲内に入っていないとGSR測定ができないため基準値範囲内に収まるよう基準電圧を調整する必要があるが、オートバランスはその調整を手動で行わずに自動調整するものである。図3は、この実施例の生体行動反応解析システムのGSR測定回路を示す回路図であり、オートバランスはこの回路中で、まずGSRセンサ14よりクライエント10(またはカウンセラ11)の皮膚抵抗R0を読込み、その皮膚抵抗R0に基づき定まる基準電圧V2が基準値の範囲外ならば基準電圧V2を増減する。この基準電圧V2の増減は、基準電圧V2が基準値の範囲内に収まるまでトランジスタTrのベース電流を増減することで行い、基準値の範囲内に収まったら、皮膚抵抗R0に基づき決定されるGSR信号を出力する。
ここでGSRの測定原理について説明すると、GSR測定回路は図3に示すように、GSRセンサ14を、電圧+Vが印加される抵抗R1ならびに、トランジスタTrのコレクタおよび信号出力用のコンデンサCの接続点に接続し、Trのエミッタを、抵抗R2を介して接地し、TrのベースをオペアンプOP1の出力端に接続し、オペアンプOP1の非反転入力端に電圧V0を印加し、オペアンプOP1の反転入力端をTrのエミッタおよび抵抗R2の接続点に接続して構成されており、このGSR測定回路においては、例えは皮膚抵抗R0が増加するとTrのエミッタ電圧V2は減少し、これに応じてオペアンプOP1の入力電圧(V0-V2)の増加分に応じた電圧がTrのベースにフィードバックされ、エミッタ電圧V2が設定値(減少する前の値)になる。このときTrのコレクタ電圧V1が変化するから、このコレクタ電圧V1の変化に応じてGSR信号をコンデンサCから出力する。
このGSR測定回路はさらに、コンデンサCを抵抗R3に接続するとともに、それらコンデンサCと抵抗R3との接続点を、ゼロセットスイッチS1を介して接地可能とし、オペアンプOP2の反転入力端に、その抵抗R3を接続するとともに、両端に電圧±V2を印加されたゼロセット用可変抵抗器VR1の中間端子を、抵抗R4を介して接続し、さらにオペアンOP2の出力端を、抵抗R5を介してフィードバック接続し、オペアンプOP1の非反転入力端を接地し、オペアンプOP3の反転入力端に、オペアンプOP2の出力端を、抵抗R6を介して接続するとともに、オペアンプOP3の出力端を、ゲイン切換スイッチS2で選択される抵抗R7~R10の何れかを介してフィードバック接続し、オペアンプOP3の非反転入力端を接地して構成された増幅回路を備えており、この増幅回路においては、コンデンサCから出力されるGSR信号を、オペアンプOP2でゼロセットおよび増幅し、さらにオペアンプOP3でゲイン調整しつつ増幅して、そのオペアンプOP3の出力端から出力する。
GSR信号は、プラスマイナス5Vの範囲内で出力され、クライエント(またはカウンセラ)の安静時には通常0V付近で安定する(メータは中央の0V位置からほとんど振れない)が、0V付近にない場合には、ゼロセットスイッチS1をONにしてコンデンサCと抵抗R3との接続点を接地した状態でゼロセット用可変抵抗器VR1により0V付近に調整してから、ゼロセットスイッチS1をOFFにしてその接続点の接地を外して実際の測定を行うものとし、またGSR測定値の振幅は、室温、皮膚温度等により変動するため、上記の調整に先立ちメータの振れが適切な振幅になるような増幅回路の増幅度(ゲイン)をゲイン切換スイッチS2によって選択しておくものとする。なお、これらの操作により一旦GSR調整を行ったら、GSR測定中は特に大きなGSRの変動がない限り再調整する必要はない。
生体行動監視装置としてのビデオカメラ21は、クライエント10とカウンセラ11とが実際にカウンセリングを行っている状況を画像および音声により監視し、記録するもので、これも生体行動監視装置としてのパソコン20を介して外付けHD(ハードディスク)レコーダ24に接続し、その画像信号および音声信号をそのHDに記録するとともに、パソコン20内の図示しない内蔵HDドライブ装置にも記録する。そしてパソコン20は、例えば液晶表示式のディスプレイ画面20aを有し、ビデオカメラ21からの現在のカウンセリング状況を示す画像信号および音声信号または、外付けHDレコーダ24が読み出す、先に記録したカウンセリング状況を示す画像信号および音声信号を受けて、ディスプレイ画面20aにそのカウンセリング状況を表示するとともに、図示しないスピーカからカウンセリング中の音声を出力する。
観察者12および観察者13は、一般にカウンセリング室22とは異なる場所でこの表示をモニタするとともに音声を聴いてそれぞれスライド式反応キー30の入力操作を行う。このスライド式反応キー30は、上記カウンセリング中の状況を示す画像および音声に基づく心理学-生理学的分類(カテゴリ)情報の内の1つを入力するための入力装置であり、観察者12, 13がそれぞれ手で操作する。
スライド式反応キー30は、図4に示すように、各々出力手段としてのスライド式可変抵抗器からなる、0~7の番号を付した8つのスライドスイッチ30aを有し、クライエント10用およびカウンセラ11用の各反応キー30の番号0~7の各スライドスイッチ30aにはそれぞれ、異なる心理学-生理学的分類情報(カテゴリ)を割り当てる。例えば、第1の反応キーとしてのクライエント10用の反応キー30においては、番号0に(スムーズでない)、番号1に(スムーズ)、番号2に(不安)、番号3に(喜)、番号4に(楽)、番号5に(怒)、番号6に(当惑)、そして番号7に(驚き)を割り当て、また第2の反応キーとしてのカウンセラ11用の反応キー30においては、番号0に(かかわる:傾聴)、番号1に(かかわらない)、番号2に(直視)、番号3に(視線胸上)、番号4に(視線胸下)、番号5に(開かれた質問)、そして番号6に(閉ざされた質問)を割り当てる(カウンセラ11用の番号7は欠番)。なお、これらのカテゴリは「マイクロカウンセリング」(Allen E Ivey著,福原他訳、川島書店、1985年11月発行、p8)に記載された対話技法に準拠して、本発明者の創意を加えて作成したものである。これにより、クライエント10およびカウンセラ11の行動を生理学的-心理学的に分類することができる。
なお、このスライド式反応キー30は、上記特許文献2に記載したように、各スライドスイッチ30aのスライドノブに連結されたワイヤを繰り出すワイヤドラムに戻り回転を与えるぜんまいバネとその戻り回転を止める摩擦ローラとが設けられており、これによりスライドノブをぜんまいバネの戻し力に抗して任意の位置で停止させることができるとともに、リセットレバー30bの操作で摩擦ローラをワイヤドラムから離してスライドノブを自動的に初期位置に復帰させることができる。従って、この実施形態の生体行動反応解析システムによれば、観察者12, 13が各々スライドスイッチ30aのスライドノブを指でスライドさせることで、スライド式反応キー30が、任意のレベル(程度)の心理学-生理学的分類情報、例えば強い/軽い不安、強い/軽い驚き、強い/軽い傾聴、強い/軽い視線外し等を出力するので、カウンセリングのより正確な解析を可能にすることができる。
パソコン20は、ディスプレイ画面20aに加えて図示しないプリンタを備えており、また後述のように所定のプログラムを実行することで第1、第2のAIモデルを構成するために、通常の中央処理ユニット(CPU)に加えて、好ましくはニューラルネットワークの各層のノード等での演算用の、並列処理に特化したグラフィック処理ユニット(GPU)を備えている。かかるパソコン20は、上記各入力データに基づき、あらかじめ記憶した図2に示す測定プログラム20bを実行して、クライエント10およびカウンセラ11の行動の解析を支援する。なお、この測定プログラム20bの実行に先立って、観察者12または観察者13もしくは他の者である測定者は、各センサ、ビデオカメラ等の動作確認および調整を行う(例えば調整器16においてGSR測定値を確認したり、好ましい画像が得られるようにビデオカメラ21を調整したりする)一方、クライエント10にオリエンテーションを行って、本システムを用いるカウンセリングに対するクライエント10の不安を取除くとともに、クライエント10に対し必要以上に指を動かさないよう協力を求めておく(指を動かすとGSRおよび心脈拍の測定値に影響する)。また、調整器16はAおよびBの2チャンネルを持つので、以下の説明では、クライエント10にAチャンネル(A-ch)、カウンセラ11にBチャンネル(B-ch)を割り当ててある。
図5は、上記測定プログラム20bの処理内容を示すフローチャートであり、この測定プログラム20bでは、パソコン20は、図示しないが、最初にディスプレイ画面20aに、「設定」、「測定」、「グラフ表示」、「生データ表示」、「データ保存」、「データ再生」、「終了」の各ボタンを持つメニュー画面を表示する。ここで、「設定」を選択されて入力されると、測定条件の設定を行い、「測定」を選択されて入力されると、測定条件に従って測定を行い、「グラフ表示」を選択されて入力されると、測定で得られたデータをグラフ表示するとともに指示があればそのグラフを印刷し、「生データ表示」を選択されて入力されると、測定で得られたデータを一覧表で表示するとともに指示があればその一覧表を印字し、「データ保存」を選択されて入力されると、測定で得られた画像と音声以外のデータをパソコン20の内蔵HDドライブ装置に保存し、「データ再生」を選択されて入力されると、その保存していたデータを読み込んでグラフ表示および生データ表示できるようにし、「終了」を選択されて入力されると、このプログラムを終了する。
そして、上記測定者が上記メニュー画面から「設定」を選択して入力すると、パソコン20は、ディスプレイ画面20aに設定画面を表示し、測定者が、その設定画面において測定時間(例えば10分、15分、20分、25分、30分、60分から選択)およびサンプリング時間間隔(例えば20msec、50msec、100msec、200msecから選択)を設定するとともに、ディスプレイ画面20aへ表示するデータとしてGSRおよび心脈拍測定を選択すると、図5のステップS1およびステップS2でそれらの設定および選択結果を入力し、次いでステップS3で、ディスプレイ画面20a上に、後述するようにビデオカメラ21からの画像に重ねてセンサ14,15からのクライエント10およびカウンセラ11の各データをグラフ表示する測定画面を表示し、次いで測定者の操作で外付けHDレコーダ24が、カウンセリング状況を示す画像信号および音声信号の記録(録画)を開始し、ステップS4の予備測定に進む。
この予備測定では、パソコン20は、あらかじめ記憶した準備プログラムを実行して本測定の準備を行う。この準備プログラムでは先ず、パソコン20がディスプレイ画面20a上に、クライエント10のGSRセンサ14からのデータであるGSR-A信号と、カウンセラ11のGSRセンサ14からのデータであるGSR-B信号とのゲインとオートゼロの調整を指示するメッセージを提示し、これにより測定者は、調整器16において、ゲイン切換スイッチS2により、GSR-A信号とGSR-B信号とのゲインを先ず当初のレベル(目盛2)に調整するとともに、ゼロセットスイッチS1およびゼロセット用可変抵抗器VR1により、前述の如くしてそれらGSR-A信号とGSR-B信号とのオートゼロを調整する。
次いでパソコン20は、予備測定を開始して、クライエント10およびカウンセラ11の各データを、センサ14,15から調整器16を経て読み込み、予備測定の開始から30秒間のデータを収集する。この30秒間では、先ず測定者が、カウンセラ11とクライエント10とに所定の刺激(例えばブザー音)を与えた後、カウンセラ11がクライエント10と通常の会話(例えば生活に関する話)を行うことで、GSR-A信号とGSR-B信号とに一旦ピーク(最大値)が生じた後ある程度の変化が続くようにする。その後パソコン20は、上記収集したGSR-A信号とGSR-B信号とのそれぞれについて、最大値と最小値の差が0.1V以下か否かを判断し、少なくとも一方の信号で最大値と最小値の差が0.1V以下の場合は、ディスプレイ画面20a上にその信号のチャンネルを示して「GSRの反応がありません。ゲイン調整を行ってください。」とのメッセージを提示し、さらにディスプレイ画面20a上に「予備測定を続けますか?」とのメッセージを提示し、測定者が「はい」と入力した場合は、次のステップへ進み、測定者が「いいえ」と入力した場合は、前述のメニュー画面に戻る。「はい」と入力した場合、測定者は、カウンセラ11とクライエント10とに再び上記刺激を与え、その時のGSR信号のピークが1V以上で1V近くになるようにゲインを調整する。
一方、GSR-A信号とGSR-B信号との両方とも最大値と最小値の差が0.1Vを越えている場合には、パソコン20は、GSR-A信号とGSR-B信号との両方とも最大値を基準としてその30%以下の値が10秒間続いているか否かを判断し、少なくとも一方の信号で10秒間続いていない場合は次に、5分間が経過したか否かを判断し、5分間経過した場合はディスプレイ画面20a上に「予備測定を続けますか?」とのメッセージを提示し、測定者が「はい」と入力した場合は判断を続け、測定者が「いいえ」と入力した場合は前述のメニュー画面に戻る。そして、GSR-A信号とGSR-B信号との両方とも最大値を基準に30%以下の値が10秒間続いている場合は、クライエント10およびカウンセラ11が両方とも安静状態にあると判断できるので、予備測定を終了して本測定に進む。
従って、この準備プログラムを実行するこの実施例の生体行動反応解析システムによれば、本測定の前にGSR信号のゲイン調整を適切に行うとともに、クライエント10およびカウンセラ11を安静状態とした状態でGSRを測定することができるので、クライエント10およびカウンセラ11の生体反応を高精度で得ることができ、ひいてはカウンセリングのより正確な解析を可能にすることができる。
図5の測定プログラムに戻って、ステップS4での予備測定が終了すると、ステップS5で本測定を行う。なお、最初に行う本測定では、先に設定した測定時間内で、カウンセラ11がクライエント10との間でカウンセリング手法に基づき対話を行い、その間、パソコン20は、ディスプレイ画面20a上に測定画面を表示し、その測定画面上で、図6に示すように、ビデオカメラ21からのクライエント10およびカウンセラ11の画像に重ねてセンサ14, 15からのクライエント10およびカウンセラ11の各データを同一時間軸の下で(カウンセリング中の経過時間に対する表示位置を揃えて)リアルタイムにグラフ表示しつつ、一時ファイルとして上記内蔵HDドライブ装置に記録する。そして、最初の本測定が終了すると、測定者が、パソコン20でその一時ファイルを読み出して、ファイル名を設定して外付けHDレコーダ24に保存する。
パソコン20は、次にステップS7で、スライド式反応キー30からのデータ入力が終了しているか否かを判断し、終了していない場合はステップS8へ進んで、ディスプレイ画面20a上に「スライド式反応キー30からのデータ入力が終了していません。」とのメッセージを提示し、これにより測定者が、前述の設定画面で画面表示に反応キーを含める選択をすると、パソコン20は、ステップS9で、先に保存したセンサ14,15からのデータを上記外付けHDレコーダ24から読み込み、次いでステップS10で、外付けHDレコーダ24から読み込んだカウンセリング状況を示す画像信号および音声信号により、そのカウンセリング状況を示す画像を経過時間とともに、ディスプレイ画面20a上で測定画面に、上記読み込んだデータのうちセンサ14,15のデータと重ね合わせて表示し、それと同期させてそのカウンセリング状況を示すクライエント10およびカウンセラ11の音声を出力する。
この測定画面の表示状態で、ステップS5の本測定の2回目を行い、この2回目の本測定では、2名の観察者12, 13のうち、観察者12がクライエント10用のスライド式反応キー30を持ち、観察者13がカウンセラ11用のスライド式反応キー30を持って、各々測定画面に表示されたクライエント10およびカウンセラ11の画像を観察するとともにそれと同期したクライエント10およびカウンセラ11の音声を聞き取り、その際、観察者12は、カウンセリング中にクライエント10が(スムーズでない)、(スムーズ)、(不安)、(喜)等の心理学-生理学的分類情報(カテゴリ)を示すと、その分類情報(カテゴリ)に対応するスライドスイッチ30aをその分類情報の程度(レベル)に応じた距離だけスライドさせ、観察者13は、カウンセリング中にカウンセラ11が(かかわる:傾聴)、(かかわらない)、(直視)、(視線胸上)等の心理学-生理学的分類情報(カテゴリ)を示すと、その分類情報(カテゴリ)に対応するスライドスイッチ30aをその分類情報の程度(レベル)に応じた距離だけスライドさせる。そしてパソコン20は、それらのスライド式反応キー30の出力データを、上記読み込んだセンサ14, 15からのデータと同一時間軸の下で測定画面にリアルタイムにグラフ表示しつつ、一緒に一時ファイルとして上記内蔵HDドライブ装置に記録し、2回目の本測定が終了すると再度上記ステップS7へ進んで、その一時ファイルのデータを上記外付けHDレコーダ24に保存する。
パソコン20は次に、補助的分類情報出力装置として、ステップS11で、上記外付けHDレコーダ24に保存したデータを読み込み、その一時ファイルのデータから第1および第2のAIモデル20c, 20dにより、クライアント(被験者)10およびカウンセラ(試験者)11の心理学-生理学的分類情報を取得する。ここで、第1および第2のAIモデル20c, 20dは各々、パソコン20のCPU(中央処理ユニット)および/もしくはGPU(グラフィック処理ユニット)が所定のプログラムを実行することで構成されており、上記のスライド式反応キー30の使い分けからも判るように、クライアント10の心理学-生理学的分類情報とカウンセラ11の心理学-生理学的分類情報とは内容が異なるので、処理の効率化のため、第1のAIモデル20cはクライアント10の心理学-生理学的分類情報を取得し、第2のAIモデル20dはカウンセラ11の心理学-生理学的分類情報を取得する。
これらの心理学-生理学的分類情報の取得のため、第1および第2のAIモデル20c, 20dは各々、入力層と出力層との間に複数の中間層を持つニューラルネットワークを構成し、外付けHDレコーダ24に保存している多くのカウンセリングの際の上記本測定のデータを読み出す。なお、この実施形態の生体行動反応解析システムで取得したデータだけでなく、特許文献1に記載の第1世代の生体行動反応解析システムで取得したデータおよび特許文献2に記載の第2世代の生体行動反応解析システムで取得したデータも、何れも2名の観察者が各々操作した反応キーのデータを含んでいるので、この本測定のデータとして用い得る。
そして第1のAIモデル20cは、クライアント10の画像情報(顔の表情や目線、体の動作等)から例えば畳み込み型ニューラルネットワークで特徴量としてその時々のクライアント10の(スムーズでない)、(スムーズ)、(不安)、(喜)等の心理学-生理学的分類情報を読み取るとともに、クライアント10の音声情報(会話の内容や口調等)からも例えば再帰的ニューラルネットワークで特徴量としてそれらの心理学-生理学的分類情報を読み取り、観察者12がその時々に操作するスライド式反応キー30からの出力信号を教師データとして、クライアント10の画像情報および音声情報から得られる心理学-生理学的分類情報が、スライド式反応キー30のスライドキー操作で入力される心理学-生理学的分類情報に最も良く対応するように、ディープラーニングによる教師あり学習を行って各層での特徴量の重みづけを調整する。
また、第2のAIモデル20dは、カウンセラ11の画像情報(顔の表情や目線、体の動作等)から例えば畳み込み型ニューラルネットワークで特徴量としてその時々のカウンセラ11の(かかわる:傾聴)、(かかわらない)、(直視)、(視線胸上)等の心理学-生理学的分類情報を読み取るとともに、カウンセラ11の音声情報(会話の内容や口調等)からも例えば再帰的ニューラルネットワークで特徴量としてそれらの心理学-生理学的分類情報を読み取り、観察者13がその時々に操作するスライド式反応キー30からの出力信号を教師データとして、カウンセラ11の画像情報および音声情報から得られる心理学-生理学的分類情報が、スライド式反応キー30のスライドキー操作で入力される心理学-生理学的分類情報に最も良く対応するように、ディープラーニングによる教師あり学習を行って各層での特徴量の重みづけを調整する。
上述した教師あり学習により、第1および第2のAIモデル20c, 20dは各々学習済みAIモデルとなり、ビデオカメラ21から出力されまたは上記外付けHDレコーダ24から読み込んだカウンセリング中のクライエント10およびカウンセラ11の画像情報および音声情報から、第1の学習済みAIモデル20cは、クライアント10の心理学-生理学的分類情報を高い精度で取得して外付けHDレコーダ24に記録し、第2の学習済みAIモデル20dは、カウンセラ11の心理学-生理学的分類情報を高い精度で取得して外付けHDレコーダ24に記録することができる。
その後、測定者等がパソコン20に、外付けHDレコーダ24から、先に記録したカウンセリング状況を示す画像信号および音声信号を読み出させると、パソコン20は情報処理出力装置として、ステップS12で、例えば図6に示すように、そのカウンセリング状況を示す画像および音声をディスプレイ画面20a上で測定画面にカウンセリング開始からの経過時間とともに、上記読み込んだGSRデータ、心脈拍データ、反応キーデータ並びに、第1および第2のAIモデル20c, 20dが取得したクライエント10およびカウンセラ11の心理学-生理学的分類情報の同一時間軸のグラフと重ね合わせて表示する。なお、図6中、横軸は時間経過、縦軸は各データのレベルおよび、心理学-生理学的分類に対応する番号を示し、例えば第1のAIモデル20cが記録したクライエント10の情報には、番号0に「怒り」、番号1に「喜び」、番号2に「困惑」、番号3に「リラックス」を割り当ててあり、また第2のAIモデル20dが記録したカウンセラ11の情報には、番号0に「かかわる」、番号1に「直視」、番号2に「かかわらない」、番号3に「胸下視線」を割り当ててある。
この測定画面に表示されるクライエント10およびカウンセラ11の各々のGSR、心脈拍および反応キーデータ並びに第1および第2のAIモデル20c, 20dが取得して記録した心理学-生理学的分類情報の時間的に同期したデータを、それらクライエント10とカウンセラ11との対話の画像および音声と併せて検討することで、カウンセリング中にカウンセラ11が用いた種々のカウンセリング技術と、それらの技術に対するクライアント11の反応とを客観的かつ正確に解析することができる。
上記実施形態の生体行動反応解析装置を用いたカウンセリング解析の作用を、図7に示す測定データの例を用いて説明する。この例のカウンセリング状況では、クライエント10は大学院生、カウンセラ11は大学教授であり、カウンセラ11はマイクロカウンセリングの基本的傾聴技法に基づいて、Q1:「あなたの将来の職業の希望について私に少し話してください。(開かれた個人的質問)」、Q2:「この種の職業では人はどのような種類の活動を行いますか?(開かれた非個人的質問)」、Q3:「あなたはこの種の仕事をしている人を誰か知っていますか?(閉ざされた個人的質問)」、Q4:「この種の仕事をするために人にとって大学卒業生の訓練は必要ですか?(閉ざされた非個人的質問)」、Q5:「この種の職業を遂行する際にあなたはどのような種類の課題に直面しますか?(開かれた個人的質問)」、Q6:「大学院でこの種の課題に直面することをあなたは予期していましたか?(閉ざされた個人的質問)」、Q7:「他の大学院生はこの種の課題に直面しますか?(閉ざされた非個人的質問)」、Q8:「他の大学院生はどの様にしてそれらの課題に立ち向かいますか?(開かれた非個人的質問)」の8つの質問をし、クライアント10はそのそれぞれに回答している。また、スライド式反応キー30は、クライアント用およびカウンセラ用の双方とも、積極的(CH0)、消極的(CH1)、中立的(CH2)の3種類の心理学-生理学的分類について任意のレベルで出力している。
まずクライエント10側を見ると、質問Q1に関しては、GSRはピーク値を示し、心脈拍も細かく変化しており、一方、反応キーは(弱く積極的)との情報を示し、第1のAIモデル20cであるAIモデルAは(喜び)の感情を示していることから、将来の職業に漠然とした関心があると思われる。質問Q2に関しては、GSRはピーク値を示すが、心脈拍は緩やかに変化しており、一方、反応キーは(弱く積極的)との情報を示し、AIモデルAは(困惑)の感情を示していることから、具体的な活動が思い浮かばず困惑していると思われる。質問Q3に関しては、GSRはピーク値を示し、心脈拍も大きく変化しており、一方、反応キーは(弱く消極的)との情報を示し、AIモデルAは特に感情を示していないことから、個人的な質問に反応したものの感情は平易に保たれていると思われる。質問Q4に関しては、GSRはピーク値を示し、心脈拍も細かく変化しており、一方、反応キーは(強く積極的)との情報を示し、AIモデルAは(喜び)の感情を示していることから、現在の自分の状況を肯定的に捉えていると思われる。
さらに質問Q5に関しては、GSRも心脈拍もほとんど変化しておらず、一方、反応キーは(弱く中立的)との情報を示し、AIモデルAは(困惑)の感情を示していることから、具体的な課題が思い浮かばず多少困惑していると思われる。質問Q6に関しては、GSRはピーク値を示し、心脈拍も大きく変化しており、一方、反応キーは(強く消極的)との情報を示し、AIモデルAは特に感情を示していないことから、個人的な質問に反応したものの感情は平易に保たれていると思われる。質問Q7に関しては、GSRも心脈拍もほとんど変化しておらず、一方、反応キーは(弱く積極的から弱く消極的に変化)との情報を示し、AIモデルAは(困惑)の感情を示していることから、他の学生に関心が向くものの多少困惑していると思われる。そして質問Q8に関しては、GSRはピーク値を示し、心脈拍も大きく変化しており、一方、反応キーは(強く積極的)との情報を示し、AIモデルAは(喜び)の感情を示していることから、他の学生の適切な対応を思い出して肯定的な感情を持っていると思われる。
次にカウンセラ11側を見ると、質問Q1に関しては、GSRは多少変化を示すが、心脈拍はさほど変化せず、一方、反応キーは(弱く積極的)との情報を示し、第2のAIモデル20d であるAIモデルBは特に情報を示していないことから、開かれた質問をしたと思われる。質問Q2に関しては、GSRは多少変化を示すが、心脈拍はほとんど変化しておらず、一方、反応キーは(弱く消極的)との情報を示し、AIモデルBは(かかわらない)との情報を示していることから、クライエント10の様子にあまり関心を示さずに質面をしたと思われる。質問Q3に関しては、GSRはピーク値を示すが、心脈拍はほとんど変化せず、一方、反応キーは(強く積極的)との情報を示し、AIモデルBは(直視)の情報を示していることから、関心を持って質問したものと思われる。質問Q4に関しては、GSRはほとんど変化せず、心脈拍もさほど変化していず、一方、反応キーは(弱く積極的)との情報を示し、AIモデルBは(直視)の情報を示していることから、質問に対するクライエント10の反応に満足していると思われる。
さらに、質問Q5に関しては、GSRも心脈拍もほとんど変化しておらず、一方、反応キーは(弱く積極的)との情報を示し、AIモデルBは(かかわらない)との情報を示していることから、軽く質問を投げかけたものと思われる。質問Q6に関しても、GSRも心脈拍もほとんど変化しておらず、一方、反応キーは(弱く積極的)との情報を示し、AIモデルBは(かかわらない)との情報を示していることから、質問が的確でなかったと感じたものと思われる。質問Q7に関しては、GSRが穏やかに変化し、心脈拍も細かく変化しており、一方、反応キーは(弱く積極的)との情報を示し、AIモデルBは(直視)との情報を示していることから、話題を転じてよかったと感じていると思われる。そして質問Q8に関しては、GSRは細かく変化し、心脈拍は大きく変化しており、一方、反応キーは(強く積極的)との情報を示し、AIモデルBは(直視)との情報を示していることから、クライエント10の肯定的な感情を引き出せて満足していると思われる。
このようにカウンセラ11およびクラエイント10の生体反応データに着目して心理学-生理学的分類情報の解析を行うとともに第1および第2のAIモデル20c, 20dで得た心理学-生理学的分類情報を補助的に用いて参照することにより、この実施形態の生体行動反応解析システムによれば、カウンセリング解析を、可能な限り主観(経験、判断等)を排除して総合的かつ客観的に、しかも正確に行うことができ、得られた客観的データの蓄積および解析から、カウンセリングにおいてクライエント、カウンセラの心理学-生理学的分類情報とクライエント、カウンセラの生体反応とは同期するということを充分に裏付けることができる。
なお、クライエントの問題解決に際し、カウンセラおよびクラエイント間の、相手に係わろうとする姿勢の下での双方向のコミュニケーションは、カウセリングにおける基本的態度としていかなるカウセリングにおいても望ましいものとされるが、この実施形態のシステムは、明らかに援助の人間関係にあるいわゆる専門的なカウンセリングのみならず、日常的な対話場面等の各種の人間関係においても成立する、上記コミュニケーションの促進、改善のためのトレーニングにも大きな効果を得ることができる。
さらに、上述の如くして得た解析結果を音声あるいは文字データとして、ディスプレイ画面20a上で測定画面に、前述したカウンセリング状況を示す画像および音声と読み込んだGSRデータ、心脈拍データ、反応キーデータ並びに第1および第2のAIモデル20c, 20dで得た心理学-生理学的分類データの同一時間軸のグラフと一緒に表示あるいは再生し、クライエント10およびカウンセラ11の双方またはいずれか一方に示す(フィードバックする)ことにより、クライエント10に対してはより高度の自己洞察、自己認識を援助することができ、カウンセラ11に対しては自己のカウンセリング技術を正確に把握させてより効果的なカウンセラ教育を行うことができる。
この実施形態の生体行動反応解析システムはさらに、情報処理出力装置の出力に基づき、コンピュータで構成されたAIモデルによってカウンセリングの解析を補助的に行う、図示しないカウンセリング補助装置を備えていてもよく、そのカウンセリング補助装置も具体的には、あらかじめ与えられたプログラムに基づき所定のカウンセリング解析を行うパソコン20で構成することができる。このカウンセリング解析は、例えばパソコン20が情報処理出力装置としての処理で出力する同期したクライエント10およびカウンセラ11のGSRおよび心脈拍ならびに心理学-生理学的分類情報と、パソコン20が生体行動監視装置としての処理で出力するクライエント10およびカウンセラ11の画像情報および音声情報に基づき第1および第2のAIモデル20c, 20dが取得したクライエント10およびカウンセラ11の心理学-生理学的分類情報とをディスプレイ画面20a上で対比して示すとともに、それらの分類情報の相違点を明示する。このようにすれば、カウンセリングのさらに高精度な解析を可能にすることができ、また、第1および第2の反応キー30でクライエント10およびカウンセラ11の心理学-生理学的分類情報を入力する二人の観察者12, 13の判断のトレーニングも行うことができる。
図9は、この発明の第2の態様の生体行動反応解析システムの一実施形態の構成を示すブロック線図であり、図9中、先の実施形態におけると同様の部分はそれと同一の符号にて示す。すなわち、この実施形態の生体行動反応解析システムは、先の実施態様の生体行動反応解析システムから観察者12, 13とスライド式反応キー30とを除いた構成となっている。
この実施形態の生体行動反応解析システムにあっては、クライアント10とカウンセラ11とがコミュニケーション(主として言語によるが、ボディランゲージ等非言語によるものも含む)を行う間、第1および第2のGSRセンサ14および心脈拍センサ15がそれぞれ、クライアント10のGSRおよび心脈拍ならびにカウンセラ11のGSRおよび心脈拍を検出して、所定のプログラムを実行するパソコン20で構成される情報処理出力装置に入力し、そのパソコン20とビデオカメラ21とで主に構成される生体行動監視装置が、クライアント10およびカウンセラ11の生体行動に関する画像情報および音声情報を監視および記録して出力する。
その後、所定のプログラムを実行するパソコン20で構成される分類情報出力装置が、クライアント10およびカウンセラ11の画像情報および音声情報からそれらクライアント10およびカウンセラ11の心理学-生理学的分類情報をそれぞれ分類する第1および第2のAI(人知能)モデル20c, 20dによって、上記生体行動監視装置から出力された画像情報および音声情報を分析してクライアント10およびカウンセラ11の心理学-生理学的分類情報をそれぞれ取得し、それらの心理学-生理学的分類情報を上記情報処理出力装置に入力する。
そして、第1および第2のGSRセンサ14ならびに第1および第2の心脈拍センサ15と、生体行動監視装置と、分類情報出力装置とを接続された上記情報処理出力装置が、入力されたクライアント10およびカウンセラ11のGSRおよび脈拍ならびに心理学-生理学的分類情報を同期させる処理を行うとともに、その同期したクライアント10およびカウンセラ11のGSRおよび心脈拍ならびに心理学-生理学的分類情報を出力する。
従って、この実施形態の生体行動反応解析システムによれば、第1および第2の反応キーを操作する二人の観察者が介在しなくても、情報処理出力装置の出力情報において、クライアント10のGSR、心脈拍のピーク値およびクライアント10の心理学-生理学的分類情報が同期するとともに、カウンセラ11のGSR、心脈拍のピーク値およびカウンセラ11の心理学-生理学的分類情報が同期し、さらにそれらの情報がクライアント10とカウンセラ11との間でも同期しているので、少ない人手で、情報処理出力装置の出力情報に基づいてカウンセリング解析を総合的かつ高精度に行うことができる。また、この出力情報をクライアント10とカウンセラ11との双方またはいずれか一方にフィードバックすることにより、特にカウンセラ教育において多大な効果を得ることができる。
さらに、この実施形態の生体行動反応解析システムも先の実施形態と同様に、情報処理出力装置の出力に基づき、コンピュータで構成されたAIモデルによってカウンセリングの解析を補助的に行う、図示しないカウンセリング補助装置を備えており、そのカウンセリング補助装置も具体的には、あらかじめ与えられたプログラムに基づき所定のカウンセリング解析を行うパソコン20で構成することができる。このカウンセリング解析は、例えばパソコン20が情報処理出力装置としての処理で出力する同期したクライエント10およびカウンセラ11のGSRおよび心脈拍ならびに心理学-生理学的分類情報と、パソコン20が生体行動監視装置としての処理で出力するクライエント10およびカウンセラ11の画像情報および音声情報に基づき第1および第2のAIモデル20c, 20dが取得したクライエント10およびカウンセラ11の心理学-生理学的分類情報とをディスプレイ画面20a上で対比して示すとともに、それらの分類情報の相違点を明示する。このようにすれば、カウンセリングのさらに高精度な解析を可能にすることができ、また、先の実施形態の生体行動反応解析システムにおいて第1および第2の反応キー30でクライエント10およびカウンセラ11の心理学-生理学的分類情報を入力する二人の観察者12, 13の判断のトレーニングを行うこともできる。
以上、図示例に基づき説明したが、この発明は上述の例に限定されるものでなく、特許請求の範囲の記載範囲内で適宜変更し得るものであり、この発明の第1および第2の態様の生体行動反応解析システムにおいては、例えば、パソコン20は、外付けのHDレコーダ24や内蔵のHDドライブ装置を用いる代わりに他の媒体、例えば内蔵あるいは外付けのソリッドステートドライブ(SSD)装置を用いて画像情報および音声情報を記録しても良く、また、パソコン20は、第1および第2のAIモデル20c, 20dを逐次的に構成することで処理能力の不足を補ってもよい。
さらに、この発明の第1および第2の態様の生体行動反応解析システムにおいては、クライエント10およびカウンセラ11の一方または双方が外国人の場合に、その外国人の外国語での音声情報も入力できるように例えば再帰的ネットワークを用いて第1および第2のAIモデル20c, 20dを構成し、あるいはそれらのAIモデルの前段に日本語への翻訳用の再帰的ネットワークを用いたAIモデルを追加してもよい。
かくして本発明の第1の態様の生体行動反応解析システムによれば、情報処理出力装置の出力情報において、被験者のGSR、心脈拍のピーク値、心理学-生理学的分類情報および補助的心理学-生理学的分類情報が同期するとともに、試験者のGSR、心脈拍のピーク値、心理学-生理学的分類情報および補助的心理学-生理学的分類情報が同期し、さらにそれらの情報が被験者および試験者の間でも同期しているので、この出力情報に基づいてカウンセリング解析を総合的かつ高精度に行うことができる。また、この出力情報を被験者、試験者の双方またはいずれか一方にフィードバックすることにより、特にカウンセラ教育において多大な効果を得ることができる。
この一方、本発明の第2の態様の生体行動反応解析システムによれば、第1および第2の反応キーを操作する二人の観察者が介在しなくても、情報処理出力装置の出力情報において、被験者のGSR、心脈拍のピーク値および被験者の心理学-生理学的分類情報が同期するとともに、試験者のGSR、心脈拍のピーク値および試験者の心理学-生理学的分類情報が同期し、さらにそれらの情報が被験者および試験者の間でも同期しているので、少ない人手で、情報処理出力装置の出力情報に基づいてカウンセリング解析を総合的かつ高精度に行うことができる。また、この出力情報を被験者、試験者の双方またはいずれか一方にフィードバックすることにより、特にカウンセラ教育において多大な効果を得ることができる。
10 クライエント
11 カウンセラ
12, 13 観察者
14 GSRセンサ
15 心脈拍センサ
16 調整器
18 A/Dコンバータ
20 パーソナルコンピュータ(パソコン)
20a ディスプレイ画面
20b 測定プログラム
20c 第1のAIモデル(第1の学習済みAIモデル)
20d 第2のAIモデル(第2の学習済みAIモデル)
21 ビデオカメラ
22 カウンセリング室
24 HDレコーダ
30 スライド式反応キー
30a スライドスイッチ
30b リセットレバー

Claims (7)

  1. 被験者と試験者とのコミュニケーションに基づくカウンセリングに使用するための生体行動反応解析システムであって、
    被験者および試験者のGSRおよび心脈拍をそれぞれ検出する第1のGSRセンサおよび第2のGSRセンサならびに第1の心脈拍センサおよび第2の心脈拍センサと、
    前記被験者および前記試験者の生体行動に関する画像情報および音声情報を監視および記録して出力する生体行動監視装置と、
    前記生体行動監視装置から出力された前記画像情報および前記音声情報に基づく前記被験者および前記試験者の心理学-生理学的分類情報を二人の観察者が入力するための第1および第2の反応キーと、
    被験者および試験者の画像情報および音声情報から前記被験者および前記試験者の心理学-生理学的分類情報をそれぞれ分類する、コンピュータで構成された第1および第2のAIモデルによって、前記生体行動監視装置から出力された前記画像情報および前記音声情報を分析して前記被験者および前記試験者の補助的心理学-生理学的分類情報をそれぞれ取得し、それらの補助的心理学-生理学的分類情報を出力する補助的分類情報出力装置と、
    前記第1および第2のGSRセンサならびに前記第1および第2の心脈拍センサと、前記第1および第2の反応キーと、前記生体行動監視装置と、前記補助的分類情報出力装置とを接続されており、前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報および前記補助的心理学-生理学的分類情報を同期させる処理を行うとともに、その同期した前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報および前記補助的心理学-生理学的分類情報を出力する情報処理出力装置と、を具え、
    同期した前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報および前記補助的心理学-生理学的分類情報の出力に基づいてカウンセリングの解析を行い得るようにしたことを特徴とする生体行動反応解析システム。
  2. 前記第1および第2のAIモデルには、過去に前記生体行動監視装置から出力された被験者および試験者の画像情報および音声情報と、それらの情報に基づき二人の観察者が第1および第2の反応キーで入力した被験者および試験者の心理学-生理学的分類情報とを教師データとして、被験者および試験者の画像情報および音声情報と前記被験者および前記試験者の心理学-生理学的分類情報との関係をあらかじめ学習した教師あり学習済みAIモデルを用いることを特徴とする、請求項1記載の生体行動反応解析システム。
  3. 前記第1および第2のAIモデルは、それらのAIモデルに共通の一台のコンピュータが所定のプログラムを逐次的あるいは並列的に実行することによって構成することを特徴とする、請求項1記載の生体行動反応解析システム。
  4. 情報処理出力装置の出力に基づいて、コンピュータで構成されたAIモデルによってカウンセリングの解析を補助的に行うカウンセリング補助装置をさらに具えることを特徴とする、請求項1から3までの何れか1項記載の生体行動反応解析システム。
  5. 被験者と試験者とのコミュニケーションに基づくカウンセリングに使用するための生体行動反応解析システムであって、
    被験者および試験者のGSRおよび心脈拍をそれぞれ検出する第1のGSRセンサおよび第2のGSRセンサならびに第1の心脈拍センサおよび第2の心脈拍センサと、
    前記被験者および前記試験者の生体行動に関する画像情報および音声情報を監視および記録して出力する生体行動監視装置と、
    被験者および試験者の画像情報および音声情報から前記被験者および前記試験者の心理学-生理学的分類情報をそれぞれ分類する、コンピュータで構成された第1および第2のAIモデルによって、前記生体行動監視装置から出力された前記画像情報および前記音声情報を分析して前記被験者および前記試験者の心理学-生理学的分類情報をそれぞれ取得し、それらの心理学-生理学的分類情報を出力する分類情報出力装置と、
    前記第1および第2のGSRセンサならびに前記第1および第2の心脈拍センサと、前記生体行動監視装置と、前記分類情報出力装置とを接続されており、前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報を同期させる処理を行うとともに、その同期した前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報を出力する情報処理出力装置と、を具え、
    同期した前記被験者および前記試験者の前記GSRおよび前記心脈拍ならびに前記心理学-生理学的分類情報の出力に基づいてカウンセリングの解析を行い得るようにするとともに、
    情報処理出力装置の出力に基づいて、コンピュータで構成されたAIモデルによってカウンセリングの解析を補助的に行うカウンセリング補助装置をさらに具えることを特徴とする生体行動反応解析システム。
  6. 前記二つのAIモデルには、過去に前記生体行動監視装置から出力された被験者および試験者の画像情報および音声情報と、それらの情報に基づき二人の観察者が第1および第2の反応キーで入力した被験者および試験者の心理学-生理学的分類情報とを教師データとして、被験者および試験者の画像情報および音声情報と前記被験者および前記試験者の心理学-生理学的分類情報との関係をあらかじめ学習した教師あり学習済みAIモデルを用いることを特徴とする、請求項5記載の生体行動反応解析システム。
  7. 前記第1および第2のAIモデルは、それらのAIモデルに共通の一台のコンピュータが所定のプログラムを逐次的あるいは並列的に実行することによって構成することを特徴とする、請求項5記載の生体行動反応解析システム。
JP2023019353A 2023-02-10 2023-02-10 生体行動反応解析システム Active JP7503677B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023019353A JP7503677B1 (ja) 2023-02-10 2023-02-10 生体行動反応解析システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023019353A JP7503677B1 (ja) 2023-02-10 2023-02-10 生体行動反応解析システム

Publications (1)

Publication Number Publication Date
JP7503677B1 true JP7503677B1 (ja) 2024-06-20

Family

ID=91483484

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023019353A Active JP7503677B1 (ja) 2023-02-10 2023-02-10 生体行動反応解析システム

Country Status (1)

Country Link
JP (1) JP7503677B1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2505290B2 (ja) 1988-10-04 1996-06-05 福原 真知子 生体行動反応解析システム
JP5150902B2 (ja) 2009-10-23 2013-02-27 眞知子 福原 生体行動反応解析システム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2505290B2 (ja) 1988-10-04 1996-06-05 福原 真知子 生体行動反応解析システム
JP5150902B2 (ja) 2009-10-23 2013-02-27 眞知子 福原 生体行動反応解析システム

Similar Documents

Publication Publication Date Title
CA2935813C (en) Adaptive brain training computer system and method
Gruss et al. Multi-modal signals for analyzing pain responses to thermal and electrical stimuli
Nguyen et al. Studying parent-child interaction with hyperscanning
Knapp et al. Physiological signals and their use in augmenting emotion recognition for human–machine interaction
US20050177058A1 (en) System and method for analyzing the brain wave patterns of one or more persons for determining similarities in response to a common set of stimuli, making artistic expressions and diagnosis
Chaló et al. Brief biofeedback intervention on anxious freshman university students
RU2319444C1 (ru) Способ психологического анализа и устройство для его реализации (варианты)
US20200085362A1 (en) Method of evaluating a psychophysiological state of a person
Monti et al. Midi-level measurement of social anxiety in psychiatric and non-psychiatric samples
Francis et al. Listener characteristics differentially affect self-reported and physiological measures of effort associated with two challenging listening conditions
JP5150902B2 (ja) 生体行動反応解析システム
Dhaouadi et al. A multimodal physiological-based stress recognition: Deep Learning models’ evaluation in gamers’ monitoring application
JP7503677B1 (ja) 生体行動反応解析システム
Mokhtar et al. Assessing attention and meditation levels in learning process using brain computer interface
Lee et al. Fractal analysis of EEG upon auditory stimulation during waking and hypnosis in healthy volunteers
Bashir et al. Electroencephalogram (EEG) Signals for Modern Educational Research
Kan et al. Signal conversion from attention signals to light emitting diodes as an attention level indicator
Karlsson et al. Brain–computer interface as a potential access method for communication in non-verbal children with cerebral palsy: a state-of-the-art review
JP2505290B2 (ja) 生体行動反応解析システム
RU77149U1 (ru) Устройство для психологического и психофизиологического анализа
Cano et al. Towards the design of a system to measure emotions using physiological signals as Biofeedback: case study in higher education students
Vera-Munoz et al. A wearable EMG monitoring system for emotions assessment
Rickard et al. A computer-based auditory sequential pattern test for school-aged children
Yajima et al. Study of a Visualization System of the Concentration Degree by Biological Signals--Case of Active Learning.
RU2794620C2 (ru) Устройство для оценки эмоций младенцев и детей младшего возраста

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240610

R150 Certificate of patent or registration of utility model

Ref document number: 7503677

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150