JP7262301B2 - 判定装置、判定方法、及びプログラム - Google Patents

判定装置、判定方法、及びプログラム Download PDF

Info

Publication number
JP7262301B2
JP7262301B2 JP2019093677A JP2019093677A JP7262301B2 JP 7262301 B2 JP7262301 B2 JP 7262301B2 JP 2019093677 A JP2019093677 A JP 2019093677A JP 2019093677 A JP2019093677 A JP 2019093677A JP 7262301 B2 JP7262301 B2 JP 7262301B2
Authority
JP
Japan
Prior art keywords
image
determination
stool
estimation
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019093677A
Other languages
English (en)
Other versions
JP2020187693A (ja
Inventor
健太 田中
江美 上田
宣広 滝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lixil Corp
Original Assignee
Lixil Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lixil Corp filed Critical Lixil Corp
Priority to JP2019093677A priority Critical patent/JP7262301B2/ja
Publication of JP2020187693A publication Critical patent/JP2020187693A/ja
Application granted granted Critical
Publication of JP7262301B2 publication Critical patent/JP7262301B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Or Analysing Biological Materials (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Analysis (AREA)

Description

本発明は、判定装置、判定方法、及びプログラムに関する。
生体の***の状況を把握する試みがある。例えば、カメラで***物を撮影し、その画像を解析する技術が開示されている(例えば特許文献1参照)。
また、人間の表情の解析などを行うために機械学習を用いることが一般的に行われている。機械学習を用いた手法では、例えば、人間の表情と、その表情に対応する感情とを対応付けた学習データを用いて機械学習を実行することにより、学習済みモデルを作成する。この学習済みモデルに人間の表情を入力させることにより、その表情が意味する感情を推定させることができ、表情の解析を行うことが可能である。
特開2007-252805号公報
上記の特許文献1のような技術を用いた場合においては、解析の精度が十分なものになるとは言い難かった。すなわち、予め作成した便の排出速度、固さ又は大きさと、便の分類(硬便や水様便など)を対応付けたテーブルを用いた解析を行うため、テーブルに設定されていない対象について正しい分類が得られない懸念がある。
一方、上述した機械学習の手法を、***物の解析に応用することが考えられる。例えば、***後の便鉢の内部空間を撮像した画像と、その分類やその状況を評価した結果とを対応付けた学習データを用いて機械学習を実行することにより学習済みモデルを作成する。この学習済みモデルに、解析の対象とする画像を入力させることにより、***物における望ましい解析の結果を推定することができる。
しかしながら、機械学習の手法を用いて、画像の全体から詳細な判定内容を推定させようとすると、高い演算能力が必要となり、装置コストが増大してしまうという問題があった。
本発明は、このような事情に鑑みてなされたものであり、その目的は、機械学習を用いた***物に関する解析において、装置コストの上昇を低減することができる判定装置、判定方法、及びプログラムを提供することである。
上述した課題を解決するために本発明の一実施形態は、便に関する判定事項を判定する対象となる対象画像であり、***後における便鉢の内部空間を撮像した対象画像の画像情報を取得する画像情報取得部と、前記対象画像の全体を示す全体画像、及び前記対象画像の一部の領域を示す部分画像を生成する前処理部と、***後における便鉢の内部空間の全体を示す画像である学習用全体画像と、前記判定事項のうち大局的な第1判定事項の判定結果との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記全体画像を入力させることにより、前記全体画像について前記第1判定事項に関する第1推定を行うと共に、前記学習用全体画像の一部の領域である学習用部分画像と、前記判定事項のうち前記第1判定事項より詳細な第2判定事項との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記部分画像を入力させることにより、前記部分画像について前記第2判定事項に関する第2推定を行う推定部と、前記推定部による推定結果に基づいて、前記対象画像について前記判定事項に関する判定を行う判定部と、を備える判定装置である。
また、本発明の一実施形態は、上述の判定装置であって、前記前処理部は、前記対象画像における便鉢の開口部を少なくとも含む部分画像を生成する。
また、本発明の一実施形態は、上述の判定装置であって、前記推定部は、前記第1推定として便の飛散の有無を推定し、前記第2推定として便の性状を推定する。
また、本発明の一実施形態は、上述の判定装置であって、前記判定部は、前記第1推定についての推定結果を用いて、前記第2推定の推定結果を補正する。
また、本発明の一実施形態は、画像情報取得部が、便に関する判定事項を判定する対象となる対象画像であり、***後における便鉢の内部空間を撮像した対象画像の画像情報を取得し、前処理部が、前記対象画像としての全体画像、及び前記対象画像の一部の領域である部分画像を生成し、推定部が、***後における便鉢の内部空間の全体を示す画像である学習用全体画像と、前記判定事項のうち大局的な第1判定事項の判定結果との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記全体画像を入力させることにより、前記全体画像について前記第1判定事項に関する第1推定を行うと共に、前記学習用全体画像の一部の領域である学習用部分画像と、前記判定事項のうち前記第1判定事項より詳細な第2判定事項との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記部分画像を入力させることにより、前記部分画像について前記第2判定事項に関する第2推定を行い、判定部が、前記推定部による推定結果に基づいて、前記対象画像について前記判定事項に関する判定を行う、判定方法である。
また、本発明の一実施形態は、判定装置のコンピュータを、便に関する判定事項を判定する対象となる対象画像であり、***後における便鉢の内部空間を撮像した対象画像の画像情報を取得する画像情報取得手段、前記対象画像としての全体画像、及び前記対象画像の一部の領域である部分画像を生成する前処理手段、***後における便鉢の内部空間の全体を示す画像である学習用全体画像と、前記判定事項のうち大局的な第1判定事項の判定結果との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記全体画像を入力させることにより、前記全体画像について前記第1判定事項に関する第1推定を行うと共に、前記学習用全体画像の一部の領域である学習用部分画像と、前記判定事項のうち前記第1判定事項より詳細な第2判定事項との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記部分画像を入力させることにより、前記部分画像について前記第2判定事項に関する第2推定を行う推定手段、前記推定手段による推定結果に基づいて、前記対象画像について前記判定事項に関する判定を行う判定手段、として機能させるためのプログラムである。
機械学習を用いた***物に関する解析において、装置コストの上昇を低減することができる。
第1の実施形態に係る判定装置10が適用される判定システム1の構成を示すブロック図である。 第1の実施形態に係る学習済みモデル記憶部16の構成を示すブロック図である。 第1の実施形態に係る判定装置10が判定の対象とする画像について説明する図である。 第1の実施形態に係る判定装置10が行う処理の全体の流れを示すフローチャートである。 第1の実施形態に係る判定装置10が行う判定処理の流れを示すフローチャートである。 第1の実施形態に係る判定装置10が行う洗浄方法の判定処理の流れを示すフローチャートである。 第2の実施形態に係る判定装置10Aを説明する図である。 第2の実施形態に係る判定装置10Aが適用される判定システム1Aの構成を示すブロック図である。 第2の実施形態に係る前処理部19が行う処理を説明する図である。 第2の実施形態に係る判定装置10Aが行う処理の流れを示すフローチャートである。 第2の実施形態の変形例1に係る前処理部19が行う処理を説明する図である。 第2の実施形態の変形例1に係る判定装置10Aが行う処理の流れを示すフローチャートである。 第2の実施形態の変形例2に係る前処理部19が行う処理を説明する図である。 第2の実施形態の変形例2に係る判定装置10Aが行う処理の流れを示すフローチャートである。 第3の実施形態に係る判定装置10Bの構成を示すブロック図である。 第3の実施形態に係る解析部12Bが行う処理を説明する図である。 第3の実施形態に係る判定装置10Bが行う処理の流れを示すフローチャートである。
以下、実施形態の判定装置を、図面を参照して説明する。
(第1の実施形態)
まず、第1の実施形態について説明する。
図1は、第1の実施形態に係る判定装置10が適用される判定システム1の構成を示すブロック図である。判定システム1は、例えば、判定装置10と、学習装置20とを備える。
判定装置10は、判定の対象とする対象画像(以下、単に画像ともいう)を基に、***に関する判定を行う。対象画像は、***に関する画像であって、例えば、***後の便鉢32(図3参照)の内部空間34(同)を撮像した画像である。***後とは、使用者が***をした後、便器が洗浄される前までの任意の時点であり、例えば、便器30(同)に着座していた使用者が脱座した時である。***に関する判定とは、***行動と状況、及び***物の洗浄に関する判定事項であって、例えば、***の有無、尿の有無、便の有無、便の性状、紙(トイレットペーパ)の使用の有無、紙の使用量等の情報に基づく***後の便器30洗浄方法や***の状況などである。便の性状は、便の形状を示す「硬便」「普通便」「軟便」「泥状便」「水様便」等の便の状態を示す情報であってもよいし、「硬い」「柔らかい」など性状や状態を示す情報であってもよい。便の形状は、便鉢への飛び散りや、溜水部の便の溶け出し方、濁り方、溜水内部(水中)や水面より上(空気中)での特徴などの観点でラベル付(評価)を行う。また便の性状は便の量を示す情報であってもよいし、便の量は多いか少ないかの二つ、あるいは多いか普通か少ないかの三つ等の区分けを示す情報であっても良いし、便の量を数値で示す情報であっても良い。また、便の性状は、便の色を示す情報であってもよい。便の色は、例えば、黄土色~茶色である場合を通常の便の色とし、通常の便の色か否かを示す情報であってもよいし、特に便の色が黒色(いわゆるタール便の色)か否かを示す情報であってもよい。***後の便器30の洗浄方法には、洗浄に用いる洗浄水の水量、水圧、及び洗浄の回数などが含まれる。
判定装置10は、例えば、画像情報取得部11と、解析部12と、判定部13と、出力部14と、画像情報記憶部15と、学習済みモデル記憶部16と、判定結果記憶部17と、を備える。ここで、解析部12は、「推定部」の一例である。
画像情報取得部11は、***に関して撮像された、便鉢32の内部空間34の画像(対象画像)の画像情報を取得する。画像情報取得部11は、取得した画像情報を、解析部12に出力すると共に、画像情報記憶部15に記憶させる。画像情報取得部11は、便器装置3及び撮像装置4(図3参照)と接続する。
解析部12は、画像情報取得部11から得られた画像情報に対応する画像(対象画像)の解析を行う。解析部12による解析とは、***に関する画像を基に、***に関する判定の項目について推定を行うことである。
解析部12は、例えば、判定部13の判定項目に応じた学習済みモデルを用いて推定を行う。学習済みモデルは、例えば、学習済みモデル記憶部16に記憶されたモデルであって、***に関する画像と、***に関する評価の結果との対応関係を学習したモデルである。
例えば、解析部12は、画像と尿の有無との対応関係を学習した学習済みモデルから得られた出力を尿の有無を推定した推定結果とする。また、解析部12は、画像と便の有無との対応関係を学習した学習済みモデルから得られた出力を便の有無を推定した推定結果とする。また、解析部12は、画像と便の性状との対応関係を学習した学習済みモデルから得られた出力を便の性状を推定した推定結果とする。また、解析部12は、画像と紙の使用の有無との対応関係を学習した学習済みモデルから得られた出力を紙の使用の有無を推定した推定結果とする。また、解析部12は、画像と紙の使用量との対応関係を学習した学習済みモデルから得られた出力を紙の使用量を推定した推定結果とする。
解析部12は、画像から複数の項目を推定する学習済みモデルを用いて推定を行うようにしてもよい。例えば、解析部12は、画像と、尿及び便それぞれの有無との対応関係を学習した学習済みモデルを用いて推定を行うようにしてもよい。解析部12は、学習済みモデルから画像に尿及び便の何れもないと推定された場合に、***が無いと推定する。
判定部13は、解析部12から得られた解析結果を用いて、***に関する判定を行う。例えば、判定部13は、画像から推定した尿の有無を、その画像における尿の有無を判定した判定結果とする。また、判定部13は、画像から推定した便の有無を、その画像における便の有無を判定した判定結果とする。また、判定部13は、画像から推定した便の性状を、その画像における便の性状を判定した判定結果とする。また、判定部13は、画像から推定した紙の使用の有無を、その画像における紙の使用の有無を判定した判定結果とする。また、判定部13は、画像から推定した紙の使用量を、その画像における紙の使用量を判定した判定結果とする。
判定部13は、複数の推定結果を用いて、***に関する判定を行うようにしてもよい。例えば、画像から推定した便の性状、及び紙の使用量に基づいて、***後の便器30の洗浄方法を判定するようにしてもよい。
出力部14は、判定部13による判定結果を出力する。出力部14は、例えば、***行動を行ったユーザの端末に判定結果を送信するようにしてもよい。これにより、ユーザが、自身の***行動と状況の判定結果を認識することが可能である。
画像情報記憶部15は、画像情報取得部11により取得された画像情報を記憶する。
学習済みモデル記憶部16は、判定項目の各々に対応した学習済みモデルを記憶する。
判定結果記憶部17は、判定部13による判定結果を記憶する。
学習済みモデル記憶部16に記憶される学習済みモデルは、例えば、ディープラーニング(DL)の手法を用いて作成される。DLは、多層のニューラルネットワークで構成されるディープニューラルネットワーク(DNN)による機械学習の手法である。DNNは、神経科学における予測符号化の原理から発想を得たネットワークにより実現され、神経伝達網を摸した関数により構築される。DLの手法を用いることにより、学習済みモデルに、あたかも人間の思考と同じように、画像に内在する特徴量を自動的に認識させることができる。すなわち、特徴量を抽出する作業を行うことなく、学習済みモデルにデータそのものを学習させることにより、直接画像から推定を行うことが可能となる。
なお、本実施形態では、学習済みモデルがDLの手法を用いて作成された場合を例に説明するが、これに限定されない。学習済みモデルは、少なくとも画像データからその特徴量を抽出することなく、画像データと便性の評価結果とを対応付けた学習データを学習させることにより作成されたモデルであればよい。ここでの画像データは、便鉢32の内部空間34の様々な画像である。
図2は、第1の実施形態に係る学習済みモデル記憶部16の構成を示すブロック図である。学習済みモデル記憶部16は、例えば、尿有無推定モデル161と、便有無推定モデル162と、便性状推定モデル163と、紙使用有無推定モデル165と、使用紙量推定モデル166とを備える。
尿有無推定モデル161は、画像と尿の有無との対応関係を学習した学習済みモデルであり、***に関する画像に、その画像から判断された尿の有無を示す情報が対応付けられた学習データを学習させることにより作成される。
便有無推定モデル162は、画像と便の有無との対応関係を学習した学習済みモデルであり、***に関する画像に、その画像から判断された便の有無を示す情報が対応付けられた学習データを学習させることにより作成される。
便性状推定モデル163は、画像と便の性状との対応関係を学習した学習済みモデルであり、***に関する画像に、その画像から判断された便の性状を示す情報が対応付けられた学習データを学習させることにより作成される。
紙使用有無推定モデル165は、画像と紙の使用の有無との対応関係を学習した学習済みモデルであり、***に関する画像に、その画像から判断された使用された紙の有無を示す情報が対応付けられた学習データを学習させることにより作成される。
使用紙量推定モデル166は、画像と紙の使用量との対応関係を学習した学習済みモデルであり、***に関する画像に、その画像から判断された紙の使用量を示す情報が対応付けられた学習データを学習させることにより作成される。紙の使用量は多いか少ないかの二つ、或いは多いか普通か少ないかの三つなどの区分けを示す情報であってもよいし、紙の量を数値で示す情報であってもよい。
なお、画像から***の有無等を判断する方法としては、例えば、学習データを作成する担当者が判断することが考えられる。
図3は、第1の実施形態に係る判定装置10が判定の対象とする画像について説明する図である。図3には、便器装置3と、撮像装置4との位置関係が模式的に示されている。
便器装置3は、例えば、便鉢32を有する便器30を備える。便器装置3は、便鉢32の内部空間34に設けられた開口部36に、洗浄水Sを供給可能に構成されている。便器装置3は、便器30に設けられた機能部(不図示)により、便器装置3の使用者の着座や脱座、局部洗浄の使用開始、及び***後の便鉢32の洗浄の操作などが検知される。便器装置3は、機能部による検知結果を、判定装置10に送信する。
なお、以下の説明では、便器装置3の使用者が便器30に着座した場合において、使用者の前側を「前側」、後側を「後側」という。また、便器装置3の使用者が便器30に着座した場合において、使用者の左側を「左側」、右側を「右側」という。また、便器装置3が設置されている床面から離れている側を「上側」、床面に近い側を「下側」という。
撮像装置4は、***行動に関する内容が撮像可能に設けられる。撮像装置4は、便器30の上側、例えば、便鉢32の後側の縁の内側などに、便鉢32の内部空間34の方向にレンズが向くように設置される。撮像装置4は、例えば、判定装置10の指示により撮像を行い、撮像した画像の画像情報を判定装置10に送信する。この場合、判定装置10は、通信部18を介して、撮像装置4に撮像の指示を示す制御情報を送信する。
ここで、第1の実施形態に係る判定装置10が行う処理について、図4~図6を用いて説明する。図4は第1の実施形態に係る判定装置10が行う処理の全体の流れ、図5は判定装置10が行う判定処理の流れを示すフローチャートである。図6は判定装置10が行う洗浄方法の判定処理の流れを示すフローチャートである。
まず、図4を用いて、判定装置10が行う処理の全体の流れを説明する。
判定装置10は、便器装置3との通信により、便器装置3の使用者が便器30に着座したか否かを判定し(ステップS10)、使用者が便器30に着座したと判定する場合、画像情報を取得する(ステップS11)。画像情報は、***に関する画像の画像情報である。判定装置10は、撮像装置4に撮像を指示する制御信号を送信し、撮像装置4に便鉢32の内部空間34を撮像させ、撮像させた画像の画像情報を送信させることにより、画像情報を取得する。
なお、図4に示すフローチャートでは、使用者による着座を判定した判定結果を、画像情報を取得するトリガーとして用いる場合を例示して説明したが、これに限定されることはない。画像情報を取得するトリガーとして、他の内容の判定結果が用いられてもよいし、着座を判定した判定結果と他の内容の判定結果との双方を用いて、複合的な条件充足した場合に、画像情報を取得するようにしてもよい。他の内容の判定結果とは、例えば、赤外線などを用いて人体の存在を検知する人体検知センサの検知結果である。この場合、例えば人体検知センサにより、使用者が便器30に近づいたことを検知した場合に、画像取得を開始する。
次に判定装置10は、判定処理を行う(ステップS12)。判定処理の内容については、図5を用いて説明する。判定装置10は、判定結果を判定結果記憶部17に記憶する(ステップS13)。
次に、判定装置10は、便器装置3との通信により、便器装置3の使用者が脱座したか否かを判定し(ステップS14)、使用者が脱座したと判定する場合、処理を終了する。一方、判定装置10は、使用者が脱座していないと判定する場合、一定時間待機し(ステップS15)、ステップS11に戻る。
次に、図5を用いて、判定装置10が行う判定処理の流れを説明する。
判定装置10は、尿有無推定モデル161を用いて、画像における尿の有無を推定する(ステップS122)。
また、判定装置10は、便有無推定モデル162を用いて、画像における便の有無を推定し(ステップS123)、推定結果に基づいて便の有無を判定する(ステップS124)。
判定装置10は、ステップS124において便有りと推定した場合(ステップS124、YES)、便性状推定モデル163を用いて便の性状を推定する(ステップS125)。
また、判定装置10は、紙使用有無推定モデル165を用いて画像における紙の使用の有無を推定する(ステップS126)。
判定装置10は、ステップS126において紙の使用有りと推定した場合(ステップS127、YES)、使用紙量推定モデル166を用いて紙の使用量を推定する(ステップS128)。
判定装置10は、使用後の便器30の洗浄方法を判定する(ステップS129)。
判定装置10が洗浄方法を判定する処理の内容について、図6を用いて説明する。図6に示すフローチャートでは、判定装置10は、洗浄方法を「大」、「中」、「小」、又は「無」の4つの何れかに判定する場合を例示して説明する。洗浄方法における「大」、「中」、「小」は、「大」、「中」、「小」の順に洗浄の強度が小さいことを意味する。洗浄の強度は、便鉢32を洗浄する強さの度合いであり、例えば、強度が小さいほど洗浄水Sの量が少なく、強度が大きいほど洗浄水Sの量が多くなる。或いは、強度が小さいほど洗浄する回数が少なく、強度が大きいほど洗浄する回数が多くなるものであってもよい。なお、洗浄方法が「無」である場合、便鉢32の洗浄を行わないことを意味する。
判定装置10は、紙の使用の有無を判定し(ステップS130)、紙の使用が有ったと判定した場合、紙の使用量が多いか否かを判定する(ステップS131)。判定装置10は、ステップS126にて推定した紙の量が所定の閾値以上である場合に紙の使用量が多いと判定し、所定の閾値未満である場合に紙の使用量が少ないと判定する。判定装置10は、紙の使用量が多いと判定した場合(ステップS131、YES)、洗浄方法を「大」と判定する(ステップS132)。
判定装置10は、紙の使用量が少ないと判定した場合(ステップS131、NO)、便が有るか否かを判定する(ステップS133)。判定装置10は、ステップS123にて推定した便の有無の推定結果に応じて便の有無を判定する。判定装置10は、便が有ると判定した場合(ステップS133、YES)、便の量が多いか否かを判定する(ステップS134)。判定装置10は、ステップS125にて推定した便の性状において、便の量が所定の閾値以上であると推定された場合に便の量が多いと判定し、所定の閾値未満である場合に便の量が少ないと判定する。判定装置10は、便の量が多いと判定した場合(ステップS134、YES)、洗浄方法を「大」と判定する(ステップS132)。
判定装置10は、便の量が少ないと判定した場合(ステップS134、NO)、便の形状が水様便以外であるか否かを判定する(ステップS135)。判定装置10は、ステップS125にて推定した便の性状において、便の形状が水様便ではない(つまり、硬便、普通便、軟便、泥状便の何れかである)と推定された場合に、便の形状が水様便以外であると判定し、便の形状が水様便であると推定された場合に便の形状が水様便であると判定する。判定装置10は、便の形状が水様便以外であると判定した場合(ステップS135、YES)、洗浄方法を「中」と判定する(ステップS136)。一方、判定装置10は、便の形状が水様便であると判定した場合(ステップS135、NO)、洗浄方法を「小」と判定する(ステップS138)。
判定装置10は、ステップS133にて便が無いと判定した場合(ステップS133、NO)、尿が有るか否かを判定する(ステップS137)。判定装置10は、ステップS122にて推定した尿の有無の推定結果に応じて尿の有無を判定する。判定装置10は、尿が有ると判定した場合(ステップS137、YES)、洗浄方法を「小」と判定する(ステップS138)。一方、判定装置10は、尿が無いと判定した場合(ステップS137、NO)、洗浄方法を「無」と判定する(ステップS139)。
図6に示すフローチャートの例のように、判定装置10が、尿の有無、便の有無、紙の有無を推定した結果の組み合わせに応じて洗浄方法をそれぞれ判定することにより、洗浄水量を細かく制御することができ、十分な洗浄を行いつつ、水の無駄遣いを抑制して、適切な節水を行うことが可能である。
なお、判定装置10は、使用者が***を行ったか否かを、ステップS122に示す尿の有無を推定した推定結果、及びステップS123に示す便の有無を推定した推定結果、を用いて使用者が***を行ったか否かを判定してもよい。この場合、判定装置10は、尿が無いと推定され、且つ便が無いと推定された場合に、使用者が***を行っていないと判定する。
以上説明したように、第1の実施形態の判定装置10は、画像情報取得部11と、解析部12と、判定部13とを備える。画像情報取得部11は、便鉢32の内部空間34を撮像した画像(対象画像)の画像情報を取得する。解析部12は、学習済みモデルに画像情報を入力させることにより、対象画像について***に関する判定事項の推定を行う。判定部13は、推定結果に基づいて画像について判定事項の判定を行う。学習済みモデルは、DLの手法を用いて学習されたモデルである。DLの手法を用いて学習を行う場合、画像における***の有無等の判定項目を判断した結果のラベリング(対応付け)のみすればよいため、画像から特徴量を抽出して学習データを作成する必要がない。このため、どのような特徴量をどのような手法により抽出すればよいかを検討する時間が必要ない。すなわち、第1の実施形態の判定装置10は、機械学習を用いた***行動に関する解析において、開発に要する時間を低減することができる。
また、第1の実施形態の判定装置10では、対象画像は、***後における便鉢32の内部空間34を撮像した画像である。これにより、例えば、***物が落下中の画像を連写することにより得られる、数百枚の画像を判定対象とする場合よりも、画像の枚数を抑えることが可能である。このため、推定や判定に要する負荷を低減させ、開発に要する時間を低減することができる。
また、第1の実施形態の判定装置10では、判定事項は、尿の有無、便の有無、便の性状のうち少なくとも何れか一つを含む。これにより、第1の実施形態の判定装置10では、***物に関する判定を行うことができる。
また、第1の実施形態の判定装置10では、判定事項は、***における紙の使用の有無、及び紙が使用された場合における紙の使用量を含む。これにより、第1の実施形態の判定装置10では、***における紙の使用に関する判定を行うことができ、判定結果を用いて例えば、便器30の洗浄方法を判定するための指標に用いることが可能となる。
また、第1の実施形態の判定装置10では、判定部13は、対象画像に示された状況における便器30を洗浄する洗浄方法を判定する。これにより、第1の実施形態の判定装置10では、***物の判定だけでなく、便器30の洗浄方法の判定を行うことができる。
また、第1の実施形態の判定装置10では、判定事項は、便の性状、及び***において使用された紙の量のうち少なくとも一つを含み、解析部12は、対象画像における便の性状、及び***において使用された紙の量のうち少なくとも一つを推定し、判定部13は、解析部12による推定結果を用いて対象画像に示された状況における便器30を洗浄する洗浄方法を判定する。これにより、第1の実施形態の判定装置10では、***物や紙の使用量に応じた適切な洗浄方法を判定することができる。
なお、本実施形態では、***物の判定と洗浄方法の判定とを行う場合を例示して説明したが、***物の判定のみ、或いは洗浄方法の判定のみを行うようにしてもよい。
また、第1の実施形態の判定装置10では、判定事項は、***を行ったか否かの判定を含む。これにより、例えば、高齢者施設などにおいて、高齢者の見守りを行う場合において、高齢者が便器装置3にて***を行ったか否かを把握することが可能である。高齢者をトイレに誘導した場合に自力で***したのか、或いは***しなかったのか否かを基に、介護の内容を検討することもできる。
なお、***物に関する判定結果を用いて使用者の健康状態を判定するようにしてもよい。
(第2の実施形態)
次に、第2の実施形態について説明する。本実施形態では、紙の使用の有無などを判定対象とせず、便の性状のみを判定の対象とする点において上述した実施形態と異なる。また、対象画像に前処理を行う点において、上述した実施形態と異なる。ここでの前処理は、モデルに学習用の画像を機械学習させる前に、学習用の画像に対して行われる処理である。また、前処理は、学習済みモデルに未学習の画像を入力させる前に、未学習の画像に対して行われる処理である。以下の説明では、上述した実施形態と相違する構成のみ説明し、上述した実施形態と同等の構成については同じ符号を付してその説明を省略する。
図7は、第2の実施形態の判定装置10が行う判定について説明する図である。図7には、特定の物をタイプA、B、Cの三種類に分類しようとする際の概念図が示されている。
一般に、便などの様々な性状を取り得る物を、その性状に基づいてタイプA、B、Cの三種類に分類しようとする場合、全ての物を明確に分類することは困難である。すなわち、タイプA、B、Cがそれぞれ混ざり合う状況が発生する場合が多い。例えば、図7に示すように、明確にタイプAと分類することができる領域E1、タイプA又はBと分類されるタイプAとBとが混ざる領域E2、明確にタイプBと分類することができる領域E3、タイプB又はCと分類されるタイプBとCとが混ざる領域E4、明確にタイプCと分類することができる領域E5、タイプC又はAと分類されるタイプCとAとが混ざる領域E6の領域が発生する。
DLにより、便の性状をタイプA、B、Cの三種類に分類するような学習済みモデルを構築した場合、タイプA、B、Cがそれぞれ混ざり合う領域において、推定の精度が低下することが考えられる。特に、水様便が便鉢32に溜められた洗浄水S(溜水面)に落下すると、落下した水様便から洗浄水Sに便の色が移り、拡散してしまう。これにより、水様便の前に***された水様便とは異なる性状の便がある場合であっても、水様便とは異なる性状の便と色が移った洗浄水Sとの色の差がほとんどなくなってしまう。この場合、学習済みモデルが、水様便とは異なる性状を有する便の性状を認識できなくなってしまい、水様便とは異なる性状の便があるにも関わらず、水様便と推定する等、推定誤りが生じることが考えられる。学習済みモデルによる推定に誤りがある場合、対象画像の判定に誤りが生じてしまう。
この対策として、本実施形態では、前処理により洗浄水Sの濁りなどの、推定誤りの要因となり得る要素(以下、ノイズ成分という)を除去する。これにより、学習済みモデルによる推定誤りを低減させ、対象画像の判定誤りを低減させることができる。
図8は、第2の実施形態に係る判定装置10Aが適用される判定システム1Aの構成を示すブロック図である。判定システム1Aは、例えば、判定装置10A備える。判定装置10Aは、画像情報取得部11Aと、解析部12Aと、判定部13Aと、前処理部19を備える。
画像情報取得部11Aは、***前における便鉢32の内部空間34を撮像した画像(基準画像)、及び、***後における便鉢32の内部空間34を撮像した画像(対象画像)それぞれの画像情報を取得する。***前とは、便器装置3の使用者が***をする前の任意の時点であり、例えば、使用者がトイレの個室に入った時や、便器30に着座した時である。
前処理部19は、基準画像と対象画像との画像情報を用いて、差分画像を生成する。差分画像は、基準画像と対象画像との差分を示す画像である。ここでの差分は、対象画像に撮像されており、基準画像に撮像されていない内容のことである。すなわち、差分画像は、***後の対象画像に撮像されており、***前の基準画像に撮像されていない、***物が表現された画像である。
前処理部19は、生成した差分画像の画像情報を、解析部12Aに出力する。また、前処理部19は、生成した差分画像の画像情報を画像情報記憶部15に記憶するようにしてもよい。解析部12Aは、学習済みモデルを用いて、差分画像における便の性状の推定を行う。解析部12Aが推定に用いる学習済みモデルは、***の前後の画像の差分を示す学習用の画像と、便の性状の評価の結果との対応関係を学習したモデルである。ここで、学習済みモデルを作成する際の学習に用いられた画像(***の前後の画像の差分を示す学習用の画像)は、「学習用差分画像」の一例である。
判定部13Aは、解析部12Aにより推定された便の性状に基づいて、対象画像に示された便の性状を判定する。また、判定部13Aは、解析部12Aにより推定された便の性状に基づいて、使用者の***の状況を判定するようにしてもよい。判定部13Aが、使用者の***の状況を判定する方法については、後述する本実施形態のフローチャートにて説明する。
ここで、前処理部19が、差分画像を生成する方法について、基準画像と対象画像と差分画像との各画像の色がR(Red)G(Green)B(Blue)により表現されたRGB画像である場合を例に説明する。しかしながら、各画像はRGBにより色が表現された画像に限定されることはなく、RGB画像以外の画像(例えば、Lab画像や、YCbCr画像)である場合でも同様な方法で生成することができる。ここで、RGB値は、画像の色を示す情報であり、「色情報」の一例である。
前処理部19は、基準画像における所定の画素のRGB値と、前記対象画像における当該所定の画素に対応する画素のRGB値との差分に基づき、前記差分画像における当該所定画素に対応する画素のRGB値を決定する。所定の画素に対応する画素とは、画像において同じ、或いは近傍の位置座標にある画素である。ここでの差分とは、二つの画素における色の差分を示しており、例えば、RGB値の相違に基づいて判定される。例えば、前処理部19は、RGB値が同じ色を示している場合には差分がなく、RGB値が同じ色を示していない場合には差分があると判定する。
例えば、前処理部19は、基準画像における所定画素のRGB値が(255、255、0)(黄色)であり、対象画像における所定画素のRGB値が(255、255、0)(黄色)である場合、二つの画素における色の差分がないため、差分画像における所定画素のRGB値を、差分がない旨を示す所定の色(例えば、白色)とするマスク処理を行う。
一方、前処理部19は、基準画像における所定画素のRGB値が(255、255、0)(黄色)であり、対象画像における所定画素のRGB値が(255、0、0)(赤色)である場合、二つの画素における色の差分があるため、差分画像における所定画素のRGB値を、対象画像における所定画素のRGB値(255、0、0)(赤色)とする。
或いは、前処理部19は、二つの画素における色の差分がある場合、その旨を示す予め定めた所定の色(例えば、黒色)とするようにしてもよい。
或いは、前処理部19は、二つの画素における色の差分がある場合、差分の度合いに応じて予め定めた所定の色とするようにしてもよい。差分の度合いは、例えば、色空間におけるRGB値のベクトル距離に応じて算出された値である。この場合、前処理部19は、二つの画素における色の差分を、その差分の度合いに応じて複数に分類する。例えば、差分の度合いが(大、中、小)の三種類に分類される場合、前処理部19は、差分の度合いが大きい画素については差分画像における当該画素のRGB値を黒色、差分の度合いが中程度の画素については差分画像における当該画素のRGB値を灰色、差分の度合いが小さい画素については差分画像における当該画素のRGB値を薄い灰色などとして、差分画像を生成するようにしてもよい。
ここで、使用者の着座の加減などの影響により、被写体(便鉢32の内部空間34)に照射する光の光量が変化することが考えられる。光量が変化した場合、***の前後において変化がない箇所であっても、色の濃淡が変化する場合がある。このような場合、前処理部19が、色の濃淡の変化を色の差分があると判定してしまうことが考えられる。
この対策として、前処理部19は、基準画像における所定画素の色の比率と、対象画像における所定画素の色の比率とに応じて、差分画像における所定画素の色を決定するようにしてもよい。色の比率は、RGBそれぞれの色の比率であり、例えば、所定の基準値に対する割合で示される。つまり、RGB値(R、G、B)の色の比率は、(R/L:G/L:B/L)である。ここで、Lは所定の基準値を示す。所定の基準値Lは、任意の値であってよい。また、所定の基準値Lは、RGB値によらず固定された値であってもよいし、RGB値により変動する値(例えばRGB値のR値など)であってもよい。
例えば、前処理部19は、基準画像における所定画素が灰色(RGB値(128、128、128))であり、対象画像における所定画素が薄い灰色(RGB値(192、192、192))である場合、二つの画素における色の比率が同じ比率であることから、二つの画素における色の差分がないと判定する。
一方、前処理部19は、基準画像における所定画素が黄色(RGB値(255、255、0))であり、対象画像における所定画素が赤色(RGB値(255、0、0))である場合、二つの画素における色の比率が同じ比率でないことから、二つの画素における色の差分があると判定する。
図9は、第2の実施形態に係る前処理部19が行う処理を説明する図である。図9の左側には基準画像の例として画像G1、中央には対象画像の例として画像G2、右側には差分画像の例として画像G3がそれぞれ示されている。
図9の画像G1に示すように、基準画像には、***前における、内部空間34が撮像されており、内部空間34の略中央にある開口部36に洗浄水Sが貯められた様子が撮像されている。
図9の画像G2に示すように、対象画像には、***後における、内部空間34が撮像されており、内部空間34の前側と後側との方向、洗浄水Sの上側に***物T1、T2がある様子が撮像されている。
図9の画像G3に示すように、差分画像には、基準画像と対象画像との差分である***物T1、T2が表現されている。
ここで、第2の実施形態に係る判定装置10Aが行う処理について、図10を用いて説明する。図10は第2の実施形態に係る判定装置10Aが行う処理の流れを示すフローチャートである。図10に示すフローチャートのうち、ステップS20、S22、S25~S27、及びS29については、図4のフローチャートのS10、S11、S12~S14、及びS15と同様であるため、その説明を省略する。
ステップS21において、判定装置10Aは、使用者が便器30に着座したと判定する場合、基準画像を生成する。基準画像は、***前の便鉢32の内部空間34を示す画像である。判定装置10Aは、使用者が便器30に着座したと判定したら、撮像装置4に撮像を指示する制御信号を送信することにより、基準画像の画像情報を取得する。
ステップS23において、判定装置10Aは、基準画像と対象画像とを用いて、マスク処理を行う。マスク処理は、基準画像と対象画像とに差分がない画素について、所定の色(例えば白色)とする処理である。
ステップS24において、判定装置10Aは、差分画像を生成する。差分画像は、例えば、基準画像と対象画像とに差分がない画素についてマスク処理がなされ、基準画像と対象画像とに差分がある画素について対象画像の画素値(RGB値)が反映された画像である。
ステップS28において、判定装置10Aは、使用者が便器30から脱座したと判定する場合、基準画像、対象画像、及び差分画像の画像情報を破棄する。具体的に、判定装置10Aは、画像情報記憶部15に記憶していた基準画像、対象画像、及び差分画像の画像情報を消去する。これにより、記憶容量が逼迫してしまうことを抑制することが可能である。
なお、図10のステップS25に示す判定処理について、図4のステップS12に示す処理と同様である旨を説明したが、本実施形態では、少なくとも、便の性状を判定項目とした判定処理が行われればよい。
また、図10のステップS25において、判定部13Aは、差分画像における便の性状の推定結果を用いて、使用者の***の状況を判定する。例えば、判定部13Aは、便の形状が、硬便であった場合は使用者の排便の状況が便秘傾向であると判定する。判定部13Aは、便の形状が、普通便であった場合は使用者の排便の状況が良好であると判定する。判定部13Aは、便の形状が、軟便であった場合は使用者の排便の状況が要観察状況であると判定する。判定部13Aは、便の形状が、泥状便、又は水様便であった場合は使用者の排便の状況が下痢傾向であると判定する。或いは、判定部13Aは、排便の状況から使用者の健康状態を判定しても良い。
以上説明したように、第2の実施形態の判定装置10Aでは、前処理部19が基準画像と、対象画像との差分を示す差分画像を生成する。これにより、第2の実施形態の判定装置10Aでは、***の前後において差異がある部分を差分画像に示すことができるために、***物の性状をより精度よく把握して、その性状をより正確に判定することが可能となる。
また、第2の実施形態の判定装置10Aでは、前処理部19は、基準画像における所定画素の色を示す色情報と、対象画像の画素における当該所定画素に対応する画素の色情報との差分に基づいて、差分画像における当該所定画素に対応する画素の色情報を決定する。これにより、第2の実施形態の判定装置10Aでは、***の前後において、色に差異がある部分を差分画像に示すことができるため、上述した効果と同様な効果を奏する。
また、第2の実施形態の判定装置10Aでは、前処理部19は、基準画像における所定画素のRGB値と、対象画像における当該所定画素に対応する画素のRGB値との差分を、差分画像における当該所定画素に対応する画素のRGB値とする。これにより、第2の実施形態の判定装置10Aでは、***の前後の色に差異を、RGB値の差異として認識することができるため、色の差異を定量的に算出でき、上述した効果と同様な効果を奏する。
また、第2の実施形態の判定装置10Aでは、前処理部19は、基準画像における所定画素のR値、G値、B値の比率を示す色比率と、対象画像における当該所定画素に対応する画素の色比率との差分に基づいて、差分画像における当該所定画素に対応する画素のRGB値を決定する。これにより、第2の実施形態の判定装置10Aでは、***の前後において被写体に照射される光量が異なるなどして、背景色に差異が生じた場合であっても、その差異を***物と誤認識することなく、***物の性状を抽出することができ、上述した効果と同様な効果を奏する。
なお、上記では、画像情報取得部11Aが基準画像の画像情報を取得する場合を例に説明したが、これに限定されない。例えば、基準画像の画像情報は任意の機能部により取得されてよいし、予め画像情報記憶部15に記憶されているものであってもよい。
(第2の実施形態の変形例1)
次に、第2の実施形態の変形例1について説明する。本変形例では、前処理として、対象画像を分割した分割画像を生成する点において、上述した実施形態と異なる。以下の説明では、上述した実施形態と相違する構成のみ説明し、上述した実施形態と同等の構成については同じ符号を付してその説明を省略する。
一般に、便鉢32は、便鉢32の縁部から開口部36に向かうにしたがって下側に傾斜するように形成される。このため、便鉢32に落下した便が複数ある場合、先に落下したものが、後に落下したものに押されるようにして、便鉢32の傾斜面に沿って下側に移動すると考えられる。すなわち、先に落下したものが開口部36の前側に移動する性質がある。
この性質を利用して、本変形例では、***物の排出の時系列を考慮した推定を行う。具体的には、対象画像を前側と後側とに分割する。そして、対象画像の前側を分割した画像(前側分割画像)に撮像された***物を古い便、対象画像の後側を分割した画像(後側分割画像)に撮像された***物を新しい便とみなして、便の性状を判定する。これにより、使用者の排便の状況について、古い便を判定することで、現在の状態に近い便に基づく判定を行おうことができる。
本変形例において、前処理部19は、分割画像を生成する。分割画像は、対象画像の一部の領域が含まれている画像であって、例えば、前側分割画像、及び後側分割画像である。対象画像を前側分割画像と後側分割画像とに分割する境界は、任意に設定されてよいが、例えば、便鉢32に溜められた洗浄水Sの溜水面の中心を通る左右方向(左側と右側とを結ぶ方向)の線により分割される。
なお、分割画像は、上記の前側分割画像と後側分割画像とに限定されることはない。分割画像は、対象画像の一部の領域が少なくとも含まれている画像であればよい。対象画像は、前後方向(前側と後側とを結ぶ方向)に三つの領域に分割された画像であってもよいし、前側分割画像が、更に左右方向に複数の領域に分割された画像であってもよい。また、対象画像から、一つの分割画像が生成されてもよいし、複数の分割画像が生成されてもよい。また、対象画像から複数の分割画像を生成する場合において、複数の分割画像に示される領域を結合した領域が、対象画像に示される領域の全部であってもよいし、一部の領域であってもよい。
前処理部19は、生成した分割画像の画像情報を解析部12Aに出力する。また、前処理部19は、生成した分割画像の画像情報を画像情報記憶部15に記憶するようにしてもよい。解析部12Aは、学習済みモデルを用いて、分割画像における便の性状の推定を行う。解析部12Aが推定に用いる学習済みモデルは、***における便鉢32の内部空間34を撮像した画像を分割した学習用の画像と、便の性状の評価の結果との対応関係を学習したモデルである。
判定部13Aは、解析部12Aにより推定された分割画像における便の性状に基づいて、対象画像に示された状況における使用者の***の状況を判定する。判定部13Aは、対象画像から生成された分割画像が複数ある場合、分割画像それぞれの推定結果を総合的にみて使用者の***の状況を判定する。判定部13Aが総合的に使用者の***の状況を判定する方法については、後述する本変形例のフローチャートにて説明する。
ここで、学習済みモデルを作成する際の学習に用いられる画像(***における便鉢32の内部空間34を撮像した画像を分割した学習用の画像)について説明する。本変形例における学習用の画像としての分割画像は、「学習用分割画像」の一例である。学習用の画像としての分割画像は、過去の***の際に撮像された、便鉢32の内部空間34の様々な画像の一部の領域を分割した画像である。前処理部23による画像を分割する方法は、任意であってよいが、前処理部19による分割と同様な方法であることが望ましい。同様な方法とすることにより、学習済みモデルを用いた推定の精度の向上が期待できる。また、学習済みモデルに対象画像の全体を学習させる場合よりも、対象画像の一部の領域、つまり対象画像よりも狭い領域を学習させるようにしたために、学習済みモデルを、より精度よく領域の状態を推定するモデルとすることが可能である。
図11は、第2の実施形態の変形例1に係る前処理部19が行う処理を説明する図である。図11の左側には対象画像の例として画像G4、中央には前側分割画像の例として画像G5、右側には後側分割画像の例として画像G6がそれぞれ示されている。
図11の画像G4に示すように、対象画像には、内部空間34が撮像されており、内部空間34の略中央にある開口部36に洗浄水Sが貯められた様子を含む、内部空間34の全体が撮像されている。
図11の画像G5に示すように、前側分割画像には、内部空間34の前側の領域が抽出されており、開口部36に洗浄水Sが貯められた溜水面の中心を通る左右方向の境界線より前側の領域が抽出されている。
図11の画像G6に示すように、後側分割画像には、内部空間34の後側の領域が抽出されており、溜水面の中心を通る左右方向の境界線より後側の領域が抽出されている。
ここで、第2の実施形態の変形例1に係る判定装置10Aが行う処理について、図12を用いて説明する。図12は第2の実施形態の変形例1に係る判定装置10Aが行う処理の流れを示すフローチャートである。図12に示すフローチャートのうち、ステップS30、S31、S33、S37、及びS42については、図4のフローチャートのS10、S11、S14、S15、及びS13と同様であるため、その説明を省略する。
ステップS32において、判定装置10Aは、対象画像を用いて、分割画像を生成する。分割画像は、例えば、対象画像に撮像された領域の前側の領域を示す前側分割画像、及び後側の領域を示す後側分割画像である。
ステップS34において、判定装置10Aは、前側分割画像及び後側分割画像それぞれの分割画像について判定処理を行う。この判定処理の内容は、図10のフローチャートにおけるステップS25に示す処理と同様であるため、その説明を省略する。
ステップS35において、判定装置10Aは、使用者が便器30から脱座したと判定しない場合(ステップS33、NO)、便器30における局部洗浄の操作が行われたか否かを判定し、便器30における局部洗浄の操作が行われた場合には、ステップS34に示す処理を行う。
ステップS36において、判定装置10Aは、便器30における局部洗浄の操作が行われたと判定しない場合(ステップS35、NO)、便器30における便器洗浄の操作が行われたか否かを判定し、便器30における便器洗浄の操作が行われた場合には、ステップS34に示す処理を行う。
ステップS38において、判定装置10Aは、前側分割画像及び後側分割画像の双方に判定結果があるか否かを判定する。双方に判定結果があるとは、双方に便の画像があり、それぞれの便の画像について性状についての判定結果があることを示す。
ステップS39において、判定装置10Aは、前側分割画像及び後側分割画像の双方に判定結果がある場合、前側分割画像の判定結果を古い便の判定結果、後側分割画像の判定結果を新しい便の判定結果とする。
ステップS40において、判定装置10Aは、判定部13Aにより確定処理を行う。確定処理は、新しい便の判定結果、及び古い便の判定結果を用いて、使用者の***の状況を確定する処理である。判定装置10Aは、例えば、古い便が現在の***の状況を反映するとみなして***の状況を確定する。確定処理において、判定部13Aは、例えば、古い便の性状が硬便と判定され、新しい便の性状が普通便と判定された場合には、排便の際に大腸に残っていた固い便が排出され、使用者の***の状況は便秘傾向であると判定する。一方、確定処理において、判定部13Aは、例えば、古い便の性状が普通便と判定され、新しい便の性状が泥状便と判定された場合には、使用者の***の状況は良好であると判定する。
ステップS41において、判定装置10Aは、判定部13Aにより前側分割画像及び後側分割画像の一方しか判定結果がない場合、前側分割画像の判定結果が有るか否かを判定する。前側分割画像の判定結果が有る場合、前側分割画像の判定結果を用いてステップS40に示す処理を行う。前側分割画像の判定結果がない場合、後側分割画像の判定結果を用いてステップS40に示す処理を行う。前側分割画像の判定結果がない場合とは、例えば、前側分割画像に***物が撮像されておらず、便の性状を判定することができなかった場合である。
以上説明したように、第2の実施形態の変形例1に係る判定装置10Aでは、前処理部19が対象画像の一部の領域を含む分割画像を生成する。これにより、第2の実施形態の変形例1に係る判定装置10Aでは、対象画像の一部の領域を判定の対象とすることができ、対象画像の全体を判定対象とする場合よりも、狭い領域を詳しく判定することができ、より精度よく判定を行うことが可能である。
また、第2の実施形態の変形例1に係る判定装置10Aでは、前処理部19は、対象画像における便鉢の前側の領域を少なくとも示す前側分割画像を生成する。これにより、第2の実施形態の変形例1に係る判定装置10Aでは、対象画像において新しい便と古い便とが撮像されている場合には、新しい便が撮像されたとみなされる領域を分割画像とすることができる。また、対象画像において新しい便と古い便とが撮像されていない場合でも、便が撮像される可能性が高い領域を分割画像とすることができ、上述した効果と同様な効果を奏する。
また、第2の実施形態の変形例1に係る判定装置10Aでは、前処理部19は、前側分割画像と、後側分割画像とを生成し、解析部12Aは、前側分割画像について判定事項に関する推定を行うと共に、後側分割画像について判定事項に関する推定を行い、判定部13Aは、前側分割画像についての推定結果と、後側分割画像についての推定結果を用いて、前記対象画像について前記判定事項に関する判定を行う。これにより、第2の実施形態の変形例1に係る判定装置10Aでは、前側分割画像と後側分割画像との推定結果とを用いて、総合的に使用者の***の状況を判定することが可能となり、前側分割画像又は後側分割画像の何れか一方の推定結果を用いる場合より、精度のよい判定を行うことが可能である。
また、第2の実施形態の変形例1に係る判定装置10Aでは、前処理部19は、前側分割画像についての推定結果を、後側分割画像についての推定結果よりも時系列的に古い推定結果として、前記対象画像について前記判定事項に関する判定を行う。これにより、第2の実施形態の変形例1に係る判定装置10Aでは、前側分割画像についての推定結果を古い便の推定結果、後側分割画像についての推定結果を新しい便の推定結果とみなして、***の時系列を考慮した判定を行うことができ、使用者の***の状況についてより現在の状態に近い精度のよい判定を行うことが可能である。
なお、便鉢32の形状により先に落下した便が移動する方向が変わるため、前側分割画像及び後側分割画像に対応付ける時系列の関係性は逆転してもよい。すなわち、上記では前側分割画像が後側分割画像よりも時系列的に古いものとして説明したが、これに限定されることはなく、前側分割画像が後側分割画像よりも時系列的に新しいものみなして、判定(確定)に係る処理が行われてもよい。
(第2の実施形態の変形例2)
次に、第2の実施形態の変形例2について説明する。本変形例では、前処理として、対象画像の全体を示す全体画像、及び対象画像の一部を切り出した部分画像を生成する点において、上述した実施形態と異なる。以下の説明では、上述した実施形態と相違する構成のみ説明し、上述した実施形態と同等の構成については同じ符号を付してその説明を省略する。
一般に、機械学習の手法を用いて、画像の全体から詳細な判定内容を推定させようとすると、高い演算能力が必要となり、装置コストが増大してしまう。例えば、モデルに用いるDNNの層の数を増やせば、ノードの数が増加するために一回の試行に要する演算の回数が増え処理負荷が増大する。また、モデルが詳細な内容を推定できるようになる(つまり、学習データの入力に対するモデルの出力と、学習データの出力との誤差が最小となる)には、重みWとバイアス成分bを変更させながら、試行を繰り返し何度も行う必要があり、このような繰り返しの試行を現実的な時間で収束させるためには、膨大な演算を高速に処理できる装置が必要となる。すなわち、対象画像の全体を詳細に解析しようとすると高性能の装置が必要となり、装置コストが増大してしまう。
ところで、対象画像は、便鉢32の内部空間34の全体が撮像された画像である。すわち、対象画像には、***物が撮像された領域と、***物が撮像されていない領域とが存在する。このため、対象画像から、***物が落下することが多いと考えられる特定の領域(例えば、開口部36の近傍領域)を切り出し、切り出した領域について、詳細な判定内容を推定させ方法が考えられる。これにより、解析の対象とする画像の領域を狭めることができ、装置コストの増大を抑制することが可能となる。
しかしながら、本来、***物が、便鉢32の何処の領域に落下するか不明である。また、使用者の体調により便の性状は変化する。このため、***物が落下する領域が、便鉢32の特定の領域である場合が多かったとしても、常にその特定の領域のみに***物が落下するとも限らず、周囲に飛散する場合もあり得る。周囲に飛散しているにも関わらず、周囲の画像を用いることなく、特定の領域の画像のみを用いて判定を行うと、実態とは異なる判定をしてしまう可能性がある。
この対策として、本変形例では、前処理により、対象画像の全体を示す全体画像と、対象画像の一部を切り出した部分画像とを生成する。
全体画像については、詳細ではない大局的な判定を行うことにより、装置コストの増大の抑制を図る。大局的な判定とは、便の性状を判定することと比較して、全体的(大局的)な判定であり、例えば、便の飛散の有無を判定することである。便の飛散の有無は、飛散した便の性状を判定するものではないため、便の性状を判定する場合と比較して、比較的大まかで容易な判定であるということができる。ここで、全体画像について行う、便の飛散の有無に係る判定は、「第1判定事項」の一例である。
一方、部分画像については、全体画像に係る判定よりも詳細な判定項目についての判定を行う。詳細な判定項目とは、例えば、便の性状を判定することである。画像の領域を狭めた部分画像を判定対象とすることにより、高性能な装置を用いなくとも、詳細な判定を行うことができ装置コストの増大の抑制を図る。ここで、部分画像について行う、便の性状に係る判定は、「第2判定事項」の一例である。
本変形例において、前処理部19は、全体画像、及び部分画像を生成する。全体画像は、対象画像の全体を示す画像であり、例えば、対象画像そのものである。部分画像は、対象画像の一部の領域を切り出した画像であって、例えば、対象画像から開口部36の近傍領域を切り出した画像である。部分画像として、対象画像の何処の領域を切り出すかは任意に設定されてよく、例えば、便器30の形状に応じて出荷時などに決定された固定の領域である。
前処理部19は、生成した全体画像及び部分画像の画像情報を解析部12Aに出力する。また、前処理部19は、生成した全体画像及び部分画像の画像情報を画像情報記憶部15に記憶するようにしてもよい。
解析部12Aは、学習済みモデルを用いて、全体画像における便の飛散の有無の推定を行う。ここで、全体画像における便の飛散の有無の推定は、「第1推定」の一例である。
また、解析部12Aは、学習済みモデルを用いて、部分画像における便の性状の推定を行う。ここで、部分画像における便の性状の推定は、「第2推定」の一例である。
判定部13Aは、解析部12Aにより推定された全体画像における便の飛散の有無、及び部分画像における便の性状に基づいて、対象画像に示された状況における使用者の***の状況を判定する。判定部13Aが全体画像における推定結果、及び部分画像における推定結果に基づいて使用者の***の状況を判定する方法については、後述する本変形例のフローチャートにて説明する。
ここで、本変形例で用いる学習済みモデルに学習させる学習データについて説明する。
全体画像の推定に用いる学習済みモデルは、***における便鉢32の内部空間34の全体を撮像した学習用の全体画像と、便の飛散の有無を評価した評価結果との対応関係を学習したモデルである。学習用の全体画像は、過去の***の際に撮像された、便鉢32の内部空間34の全体を示す様々な画像である。学習用の全体画像(***における便鉢32の内部空間34の全体を撮像した学習用の画像)は、「学習用全体画像」の一例である。
部分画像の推定に用いる学習済みモデルは、***における便鉢32の内部空間34の全体を撮像した画像から一部を切り出した学習用の部分画像と、便の性状を評価した評価結果との対応関係を学習したモデルである。学習用の部分画像は、全体画像の一部を切り出した画像である。学習用の部分画像(***における便鉢32の内部空間34の全体を撮像した画像から一部を切り出した学習用の画像)は、「学習用部分画像」の一例である。
学習用の全体画像、及び学習用の部分画像を生成する方法は、任意であってよいが、前処理部19による全体画像及び部分画像の生成と同様な方法であることが望ましい。同様な方法とすることにより、学習済みモデルを用いた推定の精度の向上が期待できる。
図13は、第2の実施形態の変形例2に係る前処理部19が行う処理を説明する図である。図13の左側には対象画像の例として画像G7、中央には全体画像の例として画像G8、右側には部分画像の例として画像G9がそれぞれ示されている。
図13の画像G7に示すように、対象画像には、内部空間34が撮像されており、内部空間34の略中央にある開口部36に洗浄水Sが貯められた様子を含む、内部空間34の全体が撮像されている。
図13の画像G8に示すように、全体画像には、対象画像の全体が示されている。全体画像は対象画像そのものであってもよいし、対象画像からその全体を抽出したものであってもよい。
図13の画像G9に示すように、部分画像には、内部空間34の略中央、開口部36の近傍の領域が抽出されており、洗浄水Sが溜められた溜水面とその周辺の領域が抽出されている。
ここで、第2の実施形態の変形例2に係る判定装置10Aが行う処理について、図14を用いて説明する。図14は第2の実施形態の変形例2に係る判定装置10Aが行う処理の流れを示すフローチャートである。図14に示すフローチャートのうち、ステップS50、S51、S53、S57、及びS62については、図4のフローチャートのS10、S11、S14、S15、及びS13と同様であるため、その説明を省略する。また、図14に示すフローチャートのうち、ステップS55、及びS56については、図12のフローチャートのS35、及びS36と同様であるため、その説明を省略する。
ステップS52において、判定装置10Aは、対象画像を用いて、全体画像及び部分画像を生成する。全体画像は、例えば、対象画像に撮像された領域の全体を示す画像である。部分画像は、例えば、対象画像に撮像された領域の特定の一部の領域を示す画像である。
ステップS54において、判定装置10Aは、全体画像及び部分画像それぞれについて判定処理を行う。
判定装置10Aは、全体画像について大局的な判定、例えば便の飛散の有無の判定を行う。判定装置10Aは、学習済みモデルを用いて全体画像における便の飛散の有無を推定し、推定した結果を全体画像における便の飛散の有無を判定した判定結果とする。ここでの学習済みモデルは、学習用の全体画像と便の飛散の有無を判定した判定結果とを対応付けた学習データを用いて学習することにより作成されたモデルである。
また、判定装置10Aは、部分画像について詳細な判定、例えば便の性状の判定を行う。判定装置10Aは、学習済みモデルを用いて部分画像における便の性状を推定し、推定した結果を部分画像における便の性状を判定した判定結果とする。ここでの学習済みモデルは、学習用の部分画像と便の性状を判定した判定結果とを対応付けた学習データを用いて学習することにより作成されたモデルである。
ステップS58において、判定装置10Aは、全体画像及び部分画像の双方に判定結果があるか否かを判定する。双方に判定結果があるとは、全体画像に便の飛散の有無が判定されており、且つ部分画像について便の性状が判定されていることを示す。
ステップS59において、判定装置10Aは、判定部13Aにより全体画像及び部分画像の双方に判定結果がある場合、全体画像の判定結果を用いて、部分画像の判定結果を補正する。部分画像の判定結果を補正するとは、全体画像の判定結果を用いて、部分画像の判定結果を変更又は補足することをいう。
例えば、判定部13Aは、部分画像の判定結果として、便の性状が軟便であった場合において、全体画像の判定結果から便の飛散有りと判定された場合、排便の状況を下痢傾向であると補正する。一方、判定部13Aは、全体画像の判定結果から便の飛散なしと判定された場合、部分画像の判定結果としての排便の状況を補正しない。
ステップS60において、判定装置10Aは、判定部13Aにより確定処理を行う。確定処理は、全体画像の判定結果、及び部分の判定結果を用いて、使用者の排便の状況等を判定する処理である。
ステップS61において、判定装置10Aは、判定部13Aにより全体画像及び部分画像の双方に判定結果がない場合、部分画像の判定結果が有るか否かを判定する。部分画像の判定結果が有る場合、部分画像の判定結果を用いてステップS60に示す処理を行う。部分画像の判定結果がない場合、全体画像の判定結果を用いてステップS60に示す処理を行う。部分画像の判定結果がない場合とは、例えば、部分画像に***物が撮像されておらず、便の性状を判定することができなかった場合である。
以上説明したように、第2の実施形態の変形例2に係る判定装置10Aでは、前処理部19が対象画像から全体画像と部分画像とを生成する。解析部12Aは、学習済みモデルを用いて全体画像から大局的な推定(第1推定)を行うと共に、別の学習済みモデルを用いて部分画像から詳細な推定(第2推定)を行う。これにより、第2の実施形態の変形例2に係る判定装置10Aでは、画素数の多い全体画像を用いて、比較的安易な大局的な推定を行うことで、全体画像から比較的難解な詳細な推定を行う場合よりも、演算処理の負荷を低減させ、装置コストの増大を抑制することができる。また、比較的画素数の少ない部分画像を用いて、詳細な推定を行うことで、比較的画素数の多い全体画像から詳細な推定を行う場合よりも、演算処理の負荷を低減させ、装置コストの増大を抑制することができる。
また、第2の実施形態の変形例2に係る判定装置10Aでは、前処理部19は、対象画像における便鉢32の開口部36を少なくとも含む部分画像を生成する。これにより、第2の実施形態の変形例2に係る判定装置10Aでは、***物が落下する可能性が高い領域を部分画像として切り出すことができ、部分画像を用いて***物に係る詳細な判定を行うことが可能となる。
また、第2の実施形態の変形例2に係る判定装置10Aでは、前処理部19は、大局的な推定(第1推定)として便の飛散の有無を推定し、詳細な推定(第2推定)として便の性状を推定する。これにより、第2の実施形態の変形例2に係る判定装置10Aでは、便の性状とともに飛散の有無を推定することができ、双方の推定結果を用いて、より精度よく判定を行うことが可能となる。
また、第2の実施形態の変形例2に係る判定装置10Aでは、大局的な推定(第1推定)についての推定結果を用いて、詳細な推定(第2推定)の推定結果を補正する。これにより、第2の実施形態の変形例2に係る判定装置10Aでは、詳細な推定を補正することができ、より精度よく判定を行うことが可能となる。
(第3の実施形態)
次に、第3の実施形態について説明する。本実施形態では、対象画像における対象領域を抽出する点において、上述した実施形態と相違する。対象領域は、本実施形態における判定の対象となる領域であり、***物の性状を判定する対象となる領域である。すなわち、判定領域は、対象画像において***物が撮像されていると推定される領域である。以下の説明では、上述した実施形態と相違する構成のみ説明し、上述した実施形態と同等の構成については同じ符号を付してその説明を省略する。
図15は、第3の実施形態に係る判定装置10Bの構成を示すブロック図である。判定装置10Bは、解析部12Bと、判定部13Bとを備える。ここで、解析部12Bは、「抽出部」の一例である。
解析部12Bは、対象画像における画像の色が、***物に想定される所定の色(以下、想定色という)との違い(色差)に基づいて、想定色と近い色の領域を判定領域として抽出する。解析部12Bは、対象画像における色が想定色と近い色であるか否かを、双方の色における色空間上の距離(以下、空間距離という)に基づいて決定する。二つの色の空間距離が小さい場合、色差が小さいことを示しており、当該二つの色が互いに近い色であることを示している。一方、空間距離が大きい場合、色差が大きいことを示しており、当該二つの色が互いに遠い色であることを示している。ここで、空間距離は、「想定色の特性」の一例である。
ここで、解析部12Bが空間距離を算出する方法について説明する。以下では、対象画像がRGB画像であり、想定色がRGB値により示される色である場合を例示して説明するが、これに限定されることはない。対象画像がRGB画像以外の画像(例えば、Lab画像や、YCbCr画像)である場合や、想定色がRGB値以外の色(例えば、Lab値や、YCbCr値)で示される場合でも同様な方法で判定領域を抽出することが可能である。また、以下では、想定色が便の色である場合を例示して説明するが、これに限定されることはない。想定色は、***物に想定される色であればよく、例えば、尿の色であってもよい。
解析部12Bは、空間距離として、例えば、色空間におけるユークリッド距離を算出する。解析部12Bは、以下の(1)式を用いて、ユークリッド距離を算出する。(1)式において、Z1はユークリッド距離、ΔRは対象画像における所定の画素Xと想定色YとのR値の差分、ΔGは画素Xと想定色YとのG値の差分、ΔBは画素Xと想定色YとのB値の差分である。対象画像における所定の画素XのRGB値は(red、green、blue)、想定色YのRGB値は(Rs、Gs、Bs)である。
Z1=(ΔR^2+ΔG^2+ΔB^2)^(1/2) …(1)
但し、
ΔR=red-Rs
ΔG=green-Gs
ΔB=blue-Bs
また、解析部12Bは、空間距離を算出する際に、重みづけを行ってもよい。重みづけは、色を構成する特定の要素の差異を強調するためのものであり、例えば、色を構成するR要素、G要素、及びB要素に互いに異なる係数(重み係数)を乗算することにより行う。重みづけを行うことにより、想定色との色差を要素に応じて強調させることができる。
解析部12Bは、例えば、以下の(2)式を用いて、重みづけしたユークリッド距離を算出することができる。(2)式において、Z2は重みづけしたユークリッド距離、R_COEFはR要素の重み係数、G_COEFはG要素の係数、B_COEFはB要素の重み係数である。ΔRは画素Xと想定色YとのR値の差分、ΔGは画素Xと想定色YとのG値の差分、ΔBは画素Xと想定色YとのB値の差分である。対象画像における所定の画素XのRGB値は(red、green、blue)、想定色YのRGB値は(Rs、Gs、Bs)である。
Z2=(R_COEF×ΔR^2
+G_COEF×ΔG^2
+B_COEF×ΔB^2)^(1/2) …(2)
但し、
R_COEF>G_COEF>B_COEF
ΔR=red-Rs
ΔG=green-Gs
ΔB=blue-Bs
ここで、想定色Yとしての便の色の特性は、R要素がG要素よりも強く、G要素はB要素よりも強い傾向にある。このような色を構成する各要素の特徴に基づいて、解析部12Bは、R要素の重み係数を、G要素の重み係数より大きな値とする。つまり、(2)式において、係数R_COFE、係数G_COFE、及び係数B_COFEには、R_COEF>G_COEF>B_COEFの関係が成立する。
ところで、使用者の着座の加減などの影響により、被写体(便鉢32の内部空間34)に照射する光の光量が変化することが考えられる。光量が変化した場合、同じような色の***物であっても、色の濃淡が異なるかのように撮像される場合がある。このような場合、同じ色にもかかわらず、空間距離が異なる距離として算出されてしまう。
この対策として、解析部12Bは、空間距離として、色を構成する各要素の比率(以下、色比率という)のユークリッド距離を算出してもよい。色比率は、例えば、R値、G値、及びB値のうちの基準とする要素の値で、他の要素の値を除算することにより行う。色比率を用いることにより、色の濃淡に起因する差異を反映させないようにした空間距離を算出することが可能である。
色比率を導出する際に基準とする要素は、任意に決定されてよいが、例えば、その色の支配的な要素とすることが考えられる。例えば、便の色においては、R要素が支配的である。このため、本実施形態において色比率は、R値、G値、及びB値のそれぞれを、R値により除算することにより作成する。
例えば、画素X(RGB値(red、green、blue))の色比率は、(red/red、green/red、blue/red)、つまり(1、green/red、blue/red)である。また、想定色Y(RGB値(Rs、Gs、Bs))の色比率は、(Rs/Rs、Gs/Rs、Bs/Rs)、つまり、(1、Gs/Rs、Bs/Rs)である。
解析部12Bは、以下の(3)式を用いて、色比率のユークリッド距離を算出することができる。(3)式において、Z3は色比率のユークリッド距離、ΔRpは画素Xの色比率と想定色Yの色比率とのR要素の差分、ΔGpは画素Xの色比率と想定色Yの色比率とのG要素の差分、ΔBpは画素Xの色比率と想定色Yの色比率とのB要素の差分である。GR_RATEは想定色Yの色比率におけるG要素の比率、BR_RATEは想定色Yの色比率におけるB要素の比率である。対象画像における所定の画素XのRGB値は(red、green、blue)、想定色YのRGB値は(Rs、Gs、Bs)である。
Z3=(ΔRp^2+ΔGp^2+ΔBp^2)^(1/2)
=(ΔGp^2+ΔBp^2)^(1/2) …(3)
但し、
ΔRp=red/red-Rs/Rs=0(ゼロ)
ΔGp=green/red-GR_RATE
ΔBp=blue/red-BR_RATE
GR_RATE=Gs/Rs
BR_RATE=Bs/Rs
1>GR_RATE>BR_RATE>0
想定色Yとしての便の色の特性は、R要素がG要素よりも強く(Rs>Gs)、G要素はB要素よりも強い(Gs>Bs)傾向にある。比率GR_RATE、及び比率BR_RATEは、共に0(ゼロ)~1までの間の値となる。また、比率GR_RATEより比率BR_RATEのほうが小さい値となる。つまり、(3)式において、比率GR_RATEと比率BR_RATEとに、1>GR_RATE>BR_RATE>0の関係が成立する。
また、解析部12Bは、色比率のユークリッド距離を算出する際に、色比率を構成する特定の要素に重みづけを行ってもよい。解析部12Bは、以下の(4)式を用いて、色比率の重みづけしたユークリッド距離を算出することができる。(4)式において、Z4は色比率の重みづけしたユークリッド距離である。ΔRpは画素Xと想定色YとのR値の差分、ΔGpは画素Xと想定色YとのG値の差分、ΔBpは画素Xと想定色YとのB値の差分である。GR_COEFは差分ΔGpの重み係数、BR_COEFは差分のΔBpの重み係数である。対象画像における所定の画素XのRGB値は(red、green、blue)、想定色YのRGB値は(Rs、Gs、Bs)である。
Z4=(GR_COEF×ΔGp^2
+BR_COEF×ΔBp^2)^(1/2) …(4)
但し、
GP_COEF>BP_COEF
ΔGp=green/red-GR_RATE
ΔBp=blue/red-BR_RATE
GR_RATE=Gs/Rs
BR_RATE=Bs/Rs
1>GR_RATE>BR_RATE>0
(4)式において、(2)式における係数G_COFE、及び係数B_COFEの関係と同様に、係数GR_COFE、及び係数BR_COFEには、GP_COEF>BP_COEFの関係が成立する。また、(4)式において、(3)式と同様に、比率GR_RATEと比率BR_RATEとに、1>GR_RATE>BR_RATE>0の関係が成立する。例えば、比率GR_RATE=0.7、比率BR_RATE=0.3、係数GR_COFE=40、係数BR_COFE=1に設定される。
解析部12Bは、対象画像の画素ごとに算出した空間距離を、グレースケールとした画像(グレースケール対象画像)を作成する。例えば、解析部12Bは、(5)式を用いて、空間距離のスケールを調整し、グレースケール値に換算する。(5)式において、Valはグレースケール値、AMPはスケール調整用の係数、Zは空間距離である。空間距離Zは、RGB値のユークリッド距離Z1、RGB値の重みづけユークリッド距離Z2、色比率のユークリッド距離Z3、色比率の重みづけユークリッド距離Z4の何れであってもよい。また、Z_MAXは、対象画像の画素ごとに算出された空間距離の最大値、Val_MAXは、グレースケール値の最大値である。
Val=AMP×Z …(5)
但し、
AMP=Val_MAX/Z_MAX
例えば、グレースケール対象画像においてグレースケールの階調を0~255の256段階で示す場合、グレースケール値の最大値Val_MAXは255である。この場合、(5)式により空間距離の最大値X_MAXが、グレースケールの最大値Val_MAX(255)となるように、空間距離Zがグレースケール値Valに変換される。これにより、解析部12Bは、想定色との空間距離を、0(白色)~255(黒色)のグレースケール値により表現したグレースケール対象画像を作成する。
ここで、解析部12Bが判定領域を抽出する方法について、図16を用いて説明する。図16は、第3の実施形態に係る解析部12Bが行う処理を説明する図である。図16では、左右方向にグレースケール軸を示しており、グレースケール軸が左から右へ向かうにしたがって、グレースケール値が増加することを示している。
図16に示すように、グレースケール対象画像において、空間距離が小さい画素が小さいグレースケール値で表現される。つまり、想定色としての便の色により近い色が小さいグレースケール値で表現され、グレースケール値が小さい領域を、便が撮像された領域とみなすことができる。一方、グレースケール対象画像において、空間距離が大きい画素が大きいグレースケール値で表現される。つまり、想定色としての便の色とは離れた色が大きいグレースケール値で表現され、グレースケール値が大きい領域を、便が撮像されていない「非便」の領域とみなすことができる。
この性質を利用して、解析部12Bは、判定領域を抽出する。具体的に、解析部12Bは、グレースケール対象画像における画素のグレースケール値が、所定の第1閾値(閾値1)未満である領域を***物がある領域とし、判定領域として当該***物がある領域を抽出する。第1閾値は、便鉢32に溜められた洗浄水Sの色と、水様便の色とを区別する境界に相当するグレースケール値である。
また、硬便と水様便との色を比較した場合、水様便は水(洗浄水S)に溶けているため、硬便より薄くなることが考えられる。この場合、水様便の色に対応するグレースケール値は、硬便に対応するグレースケール値よりも、想定色としての便の色から離れていることを示す濃い灰色で表現される。
この性質を利用して、解析部12Bは、判定領域から、水様便の領域と硬便の領域とを区別して抽出する。具体的に、解析部12Bは、グレースケール対象画像における判定領域のうち、グレースケール値が所定の第2閾値(閾値2)未満である領域を硬便の領域、第2閾値以上である領域を水溶便の領域とする。第2閾値は、第1閾値よりも小さい値に設定される。ここで、水溶便の領域は「判定領域」の一例である。また、硬便の領域は「判定領域」の一例である。
或いは、解析部12Bは、判定領域に水様便の領域と硬便の領域とが混在している場合に、二つの領域(水様便の領域と硬便の領域)を区別して抽出するようにしてもよい。判定領域に二つ領域が混在している場合、判定領域に含まれる画素が取り得るグレースケールの範囲は、水溶便が取り得るグレースケールの範囲と硬便がとり得るグレースケールの範囲とを併せた範囲となるため、比較的広い範囲となる。一方、判定領域に一つの領域(水様便の領域、又は硬便の領域)のみが存在している場合、判定領域に含まれる画素がとり得るグレースケールの範囲は、比較的狭い範囲となる。
この性質を利用して、解析部12Bは、判定領域に含まれる画素におけるグレースケールの範囲に応じて、判定領域に水様便の領域と硬便の領域とが混在しているか否かを判定する。解析部12Bは、例えば、判定領域に含まれる画素におけるグレースケールの最大値と最小値との差分を、グレースケールの範囲とする。解析部12Bは、判定領域におけるグレースケールの範囲が、所定の差分閾値未満である場合、判定領域に水様便の領域と硬便の領域とが混在していない(つまり、判定領域は、水様便の領域、又は硬便の領域のみである)と判定する。解析部12Bは、判定領域におけるグレースケールの範囲が、所定の差分閾値以上である場合、判定領域に水様便の領域と硬便の領域とが混在している。差分閾値は、水溶便が取り得るグレースケールの範囲と硬便がとり得るグレースケールの範囲とに応じて、例えば、何れか広い範囲、何れか狭い範囲、或いは二つの範囲の代表値に対応させた値に設定される。代表値は、二つの範囲の単純加算平均値、重みづけ平均値、中央値等、一般的に用いられる代表値の何れであってもよい。
解析部12Bは、抽出した判定領域を示す画像(抽出画像)の情報を、判定部13Bに出力する。この場合、解析部12Bは、判定領域に水様便の領域と硬便の領域とが混在している場合、判定領域において水様便の領域を示す画像(水様部抽出画像)と、判定領域において硬便の領域を示す画像(硬部抽出画像)の情報を、判定部13Bに出力する。一方、解析部12Bは、判定領域に水様便の領域と硬便の領域とが混在していない場合、判定領域として水様便の領域を示す画像(水様便抽出画像)、又は判定領域として硬便の領域を示す画像(硬便抽出画像)の情報を、判定部13Bに出力する。
図15に戻り、判定部13Bは、解析部12Bにより取得した抽出画像に基づいて、判定事項に関する判定を行う。具体的に、判定部13Bは、水様便抽出画像を用いて、水様便の性状を判定する。判定部13Bは、硬便抽出画像を用いて、硬便の性状を判定する。判定部13Bは、水様部抽出画像を用いて、水様便の性状を判定する。判定部13Bは、硬部抽出画像を用いて、硬便の性状を判定する。
判定部13Bは、上述した他の実施形態と同様に、機械学習による推定結果を用いて便の性状を判定してもよい。この場合、解析部12Bが、機械学習による推定を行なうようにしてもよいし、他の機能部が推定するようにしてもよい。また、判定部13Bは、他の画像解析の手法を用いて便の性状を判定してもよい。この場合、判定装置10Bは、学習済みモデル記憶部16を省略することができる。
判定部13Bは、解析部12Bにより判定領域が抽出され、範囲が絞り込まれた画像を解析の対象とすることができるため、対象画像の全体を解析する必要がない。また、判定部13Bは、水様便か硬便かが区別された画像を解析の対象とすることができるため、水様便か硬便かが区別されていない画像を解析の対象とする場合と比較して、性状を判定する処理が容易となる。
ここで、第3の実施形態の判定装置10Bが行う処理について、図17を用いて説明する。図17は、第3の実施形態に係る判定装置10Bが行う処理の流れを示すフローチャートである。本フローチャートでは、画像情報を取得する処理が行われた以降の処理の流れを示している。画像情報を取得する処理は、図4に示すフローチャートのステップS11に対応する処理であり、本フローチャートでは「カメラ画像」と記載している処理に相当する。
解析部12Bは、対象画像をグレースケール化して、グレースケール対象画像を作成する(ステップS70)。
解析部12Bは、グレースケール対象画像における画素ごとのグレースケール値が第1閾値(閾値1)未満であるか否かを判定する(ステップS71)。
解析部12Bは、グレースケール対象画像において、グレースケール値が第1閾値(閾値1)未満である判定領域の画素群について、グレースケール値の最大値と最小値との差分Dを計算する(ステップS72)。
解析部12Bは、差分Dが所定の差分閾値a未満であるか否かを判定し(ステップS73)、差分Dが所定の差分閾値a未満である場合、判定領域に水様便の領域と硬便の領域とが混在していないと判定し、ステップS74に示す処理に進む。ステップS74において、解析部12Bは、判定領域における画素ごとのグレースケール値が第2閾値(閾値2)未満であるか否かを判定する。
解析部12Bは、判定領域における画素ごとのグレースケール値が第2閾値(閾値2)未満である場合、硬便抽出画像を判定部13Bに出力する(ステップS75)。判定部13Bは、硬便抽出画像に基づいて、硬便だけの(硬便に特化した)便の性状を判定する(ステップS82)。
解析部12Bは、判定領域における画素ごとのグレースケール値が第2閾値(閾値2)以上である場合、水様便抽出画像を判定部13Bに出力する(ステップS76)。判定部13Bは、水様便抽出画像に基づいて、水様便だけの(水様便に特化した)便の性状を判定する(ステップS83)。
一方、解析部12Bは、差分Dが所定の差分閾値a以上である場合(ステップS73、NO)、判定領域に水様便の領域と硬便の領域とが混在していると判定する(ステップS77)。解析部12Bは、判定領域における画素ごとのグレースケール値が第2閾値(閾値2)未満であるか否かを判定する(ステップS78)。
解析部12Bは、判定領域における画素ごとのグレースケール値が第2閾値(閾値2)未満である場合、その領域を硬部画像として判定部13Bに出力する(ステップS79)。判定部13Bは、硬部抽出画像に基づいて、硬部(混在した状態における硬便の領域)の便の性状を判定する(ステップS84)。
解析部12Bは、判定領域における画素ごとのグレースケール値が第2閾値(閾値2)以上である場合、その領域を水様部抽出画像として判定部13Bに出力する(ステップS76)。判定部13Bは、水様部抽出画像に基づいて、水様部(混在した状態における水様便の領域)の便の性状を判定する(ステップS85)。
判定部13Bは、ステップS82~S85による便の性状を判定した結果を用いて、対象画像における便の性状を総合的に判定する(ステップS86)。
なお、ステップS71において、グレースケール対象画像における画素ごとのグレースケール値が第1閾値(閾値1)以上である画素群について、便以外の画像であると判定し判定領域から除外する(ステップS81)。
以上説明したように、第3の実施形態の判定装置10Bでは、解析部12Bが、想定色Yの色の特性に基づいて、対象画像から判定領域を抽出する。これにより、第3の実施形態の判定装置10Bでは、対象画像から***物がある領域を抽出することができる。便の性状を判定する領域を絞り込むことができるので、対象画像の全体を解析対象とする場合と比較して、判定に要する処理負荷を低減させることが可能である。処理負荷を低減させることにより、高い演算能力を有しない装置でも処理を行うことが可能となるために、装置コストの増大を抑制することができる。また、判定の対象となる***物の想定色Yの色の特性に基づいて判定領域を抽出することができるために、想定色Yの色に無関係に抽出された領域と比較して判定領域における判定が容易となる。
また、第3の実施形態の判定装置10Bでは、解析部12Bは、対象画像における画素ごとの色について、想定色Yとの色空間上における空間距離Zを算出し、算出した空間距離Zが所定の閾値未満である画素の集合を、判定領域として抽出する。これにより、第3の実施形態の判定装置10Bでは、空間距離Zにより想定色Yとの色の違い(色差)を算出して想定色Yとの色差が少ない領域を判定することができ、定量的な指標に基づいて判定領域を抽出することが可能となる。
また、第3の実施形態の判定装置10Bでは、解析部12Bは、対象画像における画素ごとの色について、想定色Yとの色の要素ごとの差分に重みづけをした値を用いて、色空間上における空間距離を算出する。これにより、第3の実施形態の判定装置10Bでは、想定色Yとの違いが表れやすい要素(例えば、R要素)を強調させた空間距離を算出することが可能である。これにより、精度よく判定領域を抽出することが可能となる。
また、第3の実施形態の判定装置10Bでは、対象画像はRGB画像であり、想定色はRGB値で示される色であり、解析部12Bは、対象画像における画素ごとのR値、G値、B値の比率を示す色比率と、想定色Yにおける色比率との、R要素における比率の差分、G要素における比率の差分、及びB要素における比率の差分に重みづけをした値を用いて、色空間上における空間距離を算出する。これにより、第3の実施形態の判定装置10Bでは、被写体に照射する光の光量の相違による、色の濃淡の違いに影響されずに空間距離を算出することが可能である。これにより、精度よく判定領域を抽出することが可能となる。
また、第3の実施形態の判定装置10Bでは、解析部12Bは、グレースケール対象画像を作成し、当該グレースケール対象画像における画素のグレースケール値が所定の第1閾値(閾値1)未満である領域を***物がある領域とし、判定領域として当該***物がある領域を抽出する。これにより、第3の実施形態の判定装置10Bでは、グレースケール対象画像における画素ごとのグレースケール値を閾値と比較するという容易な方法により判定領域を抽出することが可能となる。
また、第3の実施形態の判定装置10Bでは、解析部12Bは、グレースケール対象画像における画素のグレースケール値が前記第1閾値未満、且つ前記第1閾値より小さい所定の第2閾値以上である領域を水様便が示された領域とし、前記グレースケール対象画像における画素のグレースケール値が前記第2閾値未満である領域を硬便が示された領域とし、前記判定領域として、当該水様便が示された領域及び当該硬便が示された領域を抽出する。これにより、第3の実施形態の判定装置10Bでは、グレースケール対象画像における画素ごとのグレースケール値を閾値と比較するという容易な方法により、水様便が示された領域と、硬便が示された領域とを区別して判定領域を抽出することができ、より精度よく判定領域を抽出することが可能となる。また、水様便が示された領域と硬便が示された領域とを区別して判定領域を抽出することにより、区別されない場合と比較して、判定部13Bによる判定の処理負荷を低減させることが可能である。
なお、上記では、解析部12Bが一つのグレースケール対象画像を用いて判定領域を抽出する場合を例示して説明したが、これに限定されることはない。解析部12Bは、複数の異なるグレースケール対象画像を用いて判定領域を抽出してもよい。例えば、解析部12Bは、色比率の重みづけしたユークリッド距離Z4をグレースケールに変換したグレースケール対象画像を用いて、第1閾値による判定領域を抽出する処理のみを行うようにしてもよい。そして、解析部12Bは、ユークリッド距離Z1をグレースケールに変換したグレースケール対象画像を用いて、第2閾値による水様便と硬便との領域を区別して抽出する処理のみを行うようにしてもよい。
また、上記では複数の実施形態について説明したが、各実施形態における構成は、当該実施形態の構成のみに限定されることはなく、他の実施形態の構成として用いられてもよい。例えば、第1の実施形態において便の性状を判定する処理に、第2の実施形態及びその変形例に係る差分画像、分割画像、或いは全体画像と部分画像とが用いられてもよい。また、第2の実施形態及びその変形例に係る差分画像等に、第3の実施形態おけるグレースケール対象画像が用いられてもよい。また、第3の実施形態の便の性状を判定する処理に第2の実施形態及びその変形例に係る差分画像、分割画像、或いは全体画像と部分画像とが用いられてもよい。
上述した実施形態における判定装置10(10A、10B)が行う処理の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
1 判定システム
10 判定装置
11 画像情報取得部
12 解析部(推定部)(抽出部)
13 判定部
14 出力部
15 画像情報記憶部
16 学習済みモデル記憶部
17 判定結果記憶部
18 通信部
20 学習装置
21 通信部
22 学習部
3 便器装置
30 便器
32 便鉢
34 内部空間
36 開口部
S 洗浄水
4 撮像装置

Claims (6)

  1. 便に関する判定事項を判定する対象となる対象画像であり、***後における便鉢の内部空間を撮像した対象画像の画像情報を取得する画像情報取得部と、
    前記対象画像の全体を示す全体画像、及び前記対象画像の一部の領域を示す部分画像を生成する前処理部と、
    ***後における便鉢の内部空間の全体を示す画像である学習用全体画像と、前記判定事項のうち大局的な第1判定事項の判定結果との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記全体画像を入力させることにより、前記全体画像について前記第1判定事項に関する第1推定を行うと共に、前記学習用全体画像の一部の領域である学習用部分画像と、前記判定事項のうち前記第1判定事項より詳細な第2判定事項との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記部分画像を入力させることにより、前記部分画像について前記第2判定事項に関する第2推定を行う推定部と、
    前記推定部による推定結果に基づいて、前記対象画像について前記判定事項に関する判定を行う判定部と、
    を備えることを特徴とする判定装置。
  2. 前記前処理部は、前記対象画像における便鉢の開口部を少なくとも含む部分画像を生成する、
    請求項1に記載の判定装置。
  3. 前記推定部は、前記第1推定として便の飛散の有無を推定し、前記第2推定として便の性状を推定する、
    請求項1又は請求項2に記載の判定装置。
  4. 前記判定部は、前記第1推定についての推定結果を用いて、前記第2推定の推定結果を補正する、
    請求項1から請求項3の何れか一項に記載の判定装置。
  5. 画像情報取得部が、便に関する判定事項を判定する対象となる対象画像であり、***後における便鉢の内部空間を撮像した対象画像の画像情報を取得し、
    前処理部が、前記対象画像としての全体画像、及び前記対象画像の一部の領域である部分画像を生成し、
    推定部が、***後における便鉢の内部空間の全体を示す画像である学習用全体画像と、前記判定事項のうち大局的な第1判定事項の判定結果との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記全体画像を入力させることにより、前記全体画像について前記第1判定事項に関する第1推定を行うと共に、前記学習用全体画像の一部の領域である学習用部分画像と、前記判定事項のうち前記第1判定事項より詳細な第2判定事項との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記部分画像を入力させることにより、前記部分画像について前記第2判定事項に関する第2推定を行い、
    判定部が、前記推定部による推定結果に基づいて、前記対象画像について前記判定事項に関する判定を行う、
    判定方法。
  6. 判定装置のコンピュータを、
    便に関する判定事項を判定する対象となる対象画像であり、***後における便鉢の内部空間を撮像した対象画像の画像情報を取得する画像情報取得手段、
    前記対象画像としての全体画像、及び前記対象画像の一部の領域である部分画像を生成する前処理手段、
    ***後における便鉢の内部空間の全体を示す画像である学習用全体画像と、前記判定事項のうち大局的な第1判定事項の判定結果との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記全体画像を入力させることにより、前記全体画像について前記第1判定事項に関する第1推定を行うと共に、前記学習用全体画像の一部の領域である学習用部分画像と、前記判定事項のうち前記第1判定事項より詳細な第2判定事項との対応関係を、ニューラルネットワークを用いた機械学習により学習した学習済みモデルに、前記部分画像を入力させることにより、前記部分画像について前記第2判定事項に関する第2推定を行う推定手段、
    前記推定手段による推定結果に基づいて、前記対象画像について前記判定事項に関する判定を行う判定手段、
    として機能させるためのプログラム。
JP2019093677A 2019-05-17 2019-05-17 判定装置、判定方法、及びプログラム Active JP7262301B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019093677A JP7262301B2 (ja) 2019-05-17 2019-05-17 判定装置、判定方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019093677A JP7262301B2 (ja) 2019-05-17 2019-05-17 判定装置、判定方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2020187693A JP2020187693A (ja) 2020-11-19
JP7262301B2 true JP7262301B2 (ja) 2023-04-21

Family

ID=73223323

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019093677A Active JP7262301B2 (ja) 2019-05-17 2019-05-17 判定装置、判定方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP7262301B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008054835A (ja) 2006-08-30 2008-03-13 Toshiba Corp 健康状態診断システム
JP2008234623A (ja) 2007-02-19 2008-10-02 Seiko Epson Corp カテゴリー識別装置、カテゴリー識別方法、及び、プログラム
WO2018187790A2 (en) 2017-04-07 2018-10-11 Toi Labs, Inc. Biomonitoring devices, methods, and systems for use in a bathroom setting

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008054835A (ja) 2006-08-30 2008-03-13 Toshiba Corp 健康状態診断システム
JP2008234623A (ja) 2007-02-19 2008-10-02 Seiko Epson Corp カテゴリー識別装置、カテゴリー識別方法、及び、プログラム
WO2018187790A2 (en) 2017-04-07 2018-10-11 Toi Labs, Inc. Biomonitoring devices, methods, and systems for use in a bathroom setting

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
David Hachuel, Akshay Jha, Deborah Estrin, Alfonso Martinez, Kyle Staller, Christopher Velez,Augmenting Gastrointestinal Health: A Deep Learning Approach to Human Stool Recognition and Characterization in Macroscopic Images,arXiv,2019年03月,https://arxiv.org/ftp/arxiv/1903/1903.10578.pdf

Also Published As

Publication number Publication date
JP2020187693A (ja) 2020-11-19

Similar Documents

Publication Publication Date Title
JP7394602B2 (ja) 判定装置
US20220375080A1 (en) Determination device
JP2020187089A (ja) 判定装置、判定方法、及びプログラム
US11087462B2 (en) System and method for determining a colonoscopy image
An et al. Application of computer vision in fish intelligent feeding system—A review
CN107145878A (zh) 基于深度学习的老人异常行为检测方法
JPH0737087A (ja) 画像処理装置
JP2018206321A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP7262301B2 (ja) 判定装置、判定方法、及びプログラム
KR101976494B1 (ko) 개인 건강 분석 방법 및 유아용 스마트 변기
JP2020187691A (ja) 判定装置、判定方法、及びプログラム
JP2020187692A (ja) 判定装置、判定方法、及びプログラム
Zmudzinski Deep Learning Guinea Pig Image Classification Using Nvidia DIGITS and GoogLeNet.
CN109087321B (zh) 一种基于视通路多层级抑制区协同作用的轮廓检测方法
US20230009654A1 (en) Excrement management system, excretion information management method, computer program, edge server, and toilet seat device
CN114430474A (zh) ***物状态显示***
Carnimeo et al. An intelligent system for improving detection of diabetic symptoms in retinal images
WO2022171267A1 (en) System, method, and computer executable code for organism quantification
Menchón-Lara et al. Measurement of Carotid Intima-Media Thickness in ultrasound images by means of an automatic segmentation process based on machine learning
CN111598064B (zh) 一种智能卫厕及其清洁控制方法
JP2023068234A (ja) ***物画像表示システムおよび便器
CN112215258B (zh) 一种马桶冲刷控制方法、***及马桶
CN116710964A (zh) ***物判定方法、***物判定装置以及***物判定程序
JP2024051961A (ja) トイレ装置及び***物分析システム
CN116964449A (zh) 信息处理***

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20210120

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220316

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230310

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230314

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230411

R150 Certificate of patent or registration of utility model

Ref document number: 7262301

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150