JP7295181B2 - 判定装置、プログラム、及び判定方法 - Google Patents

判定装置、プログラム、及び判定方法 Download PDF

Info

Publication number
JP7295181B2
JP7295181B2 JP2021146377A JP2021146377A JP7295181B2 JP 7295181 B2 JP7295181 B2 JP 7295181B2 JP 2021146377 A JP2021146377 A JP 2021146377A JP 2021146377 A JP2021146377 A JP 2021146377A JP 7295181 B2 JP7295181 B2 JP 7295181B2
Authority
JP
Japan
Prior art keywords
area
pixels
specified
threshold
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021146377A
Other languages
English (en)
Other versions
JP2023039282A (ja
Inventor
彩菜 藤本
達大 内藤
聡志 原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Priority to JP2021146377A priority Critical patent/JP7295181B2/ja
Publication of JP2023039282A publication Critical patent/JP2023039282A/ja
Application granted granted Critical
Publication of JP7295181B2 publication Critical patent/JP7295181B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、判定装置、プログラム、及び判定方法に関する。
特許文献1には、教師データして数千枚の商品の画像を登録し、ディープラーニングのアルゴリズムを用いて学習させた学習済モデルを用いることによって、商品棚の商品を特定する技術が記載されている。
[先行技術文献]
[特許文献]
[特許文献1]特開2021-047747号公報
本発明の一実施態様によれば、判定装置が提供される。判定装置は、予め撮像された基準画像を格納する画像格納部を備えてよい。判定装置は、予め定められた差分閾値を格納する閾値格納部を備えてよい。判定装置は、基準画像に対して判定装置のユーザによって指定された複数の指定領域を取得する指定領域取得部を備えてよい。判定装置は、画像解析の対象である解析対象画像を取得する画像取得部を備えてよい。判定装置は、基準画像の複数の指定領域の各指定領域内の各ピクセルと、解析対象画像の、基準画像における各指定領域に対応する各対応領域内の各ピクセルとの差分値を取得する差分値取得部を備えてよい。判定装置は、解析対象画像の各対応領域について、対応領域内のピクセルの数である対応領域ピクセル数に対する、差分値が差分閾値より高い対応領域内のピクセルの数である非類似ピクセル数の割合に基づいて、対応領域の状況を判定する状況判定部を備えてよい。
上記閾値格納部は、複数の上記差分閾値のそれぞれを、上記複数の指定領域のそれぞれと対応付けて格納してよい。上記状況判定部は、上記対応領域ピクセル数に対する、上記差分値が指定領域に対応付けられて上記閾値格納部に格納されている上記差分閾値より高い上記非類似ピクセル数の割合に基づいて、上記対応領域の状況を判定してよい。上記画像格納部は、それぞれに1又は複数の種類の商品を陳列する領域である複数の陳列領域を含む上記基準画像を格納してよい。上記閾値格納部は、予め定められた不足閾値をさらに格納してよい。上記指定領域取得部は、上記複数の陳列領域に対して、上記ユーザによって指定された上記複数の指定領域を取得してよい。上記状況判定部は、上記対応領域ピクセル数に対する上記非類似ピクセル数の割合が、上記不足閾値より低い場合、陳列領域に対して指定された指定領域に対応する上記対応領域の上記商品が不足状態であると判定してよい。
上記指定領域取得部は、それぞれに1つの種類の商品を陳列する上記複数の陳列領域に対して、上記ユーザによって指定された上記複数の指定領域を取得してよい。上記閾値格納部は、複数の上記差分閾値のそれぞれを、上記複数の指定領域のそれぞれ及び複数の上記対応領域のそれぞれに陳列される商品の識別情報と対応付けて格納してよい。上記状況判定部は、上記対応領域ピクセル数に対する、上記差分値が上記指定領域及び上記商品の上記識別情報と対応付けられて上記閾値格納部に格納されている上記差分閾値より高い上記非類似ピクセル数の割合が、上記不足閾値より低い場合、上記対応領域の上記商品が不足状態であると判定してよい。上記画像格納部は、上記商品の画像をさらに格納してよい。上記差分値取得部は、上記指定領域の各ピクセルの平均値と、上記商品の画像の各ピクセルの平均値との差分値である平均差分値を取得してよい。上記判定装置は、
上記平均差分値に基づいて、上記差分閾値を設定する閾値設定部をさらに備えてよい。
上記指定領域取得部は、一の上記陳列領域の第1の部分領域及び第2の部分領域のそれぞれに対して、上記ユーザによって指定された2つの上記指定領域を取得してよい。上記状況判定部は、上記第1の部分領域に対して指定された上記指定領域に対応する上記対応領域の上記対応領域ピクセル数に対する上記非類似ピクセル数の割合と、上記第2の部分領域に対して指定された上記指定領域に対応する上記対応領域の上記対応領域ピクセル数に対する上記非類似ピクセル数の割合とに基づいて、上記2つの指定領域に対応する2つの上記対応領域の上記商品の状態を判定してよい。上記第1の部分領域は、上記一の陳列領域の前方領域であってよい。上記第2の部分領域は、上記一の陳列領域の後方領域であってよい。上記状況判定部は、上記第1の部分領域に対して指定された上記指定領域に対応する上記対応領域の上記対応領域ピクセル数に対する上記非類似ピクセル数の割合が、上記不足閾値より低く、且つ、上記第2の部分領域に対して指定された上記指定領域に対応する上記対応領域の上記対応領域ピクセル数に対する上記非類似ピクセル数の割合が、上記不足閾値より高い場合、上記第2の部分領域に対して指定された上記指定領域に対応する上記対応領域の上記商品を、上記第1の部分領域に対して指定された上記指定領域に対応する上記対応領域に前出し可能な状態であると判定してよい。
上記画像格納部は、製品を製造する領域である複数の製造領域を含む上記基準画像を格納してよい。上記閾値格納部は、予め定められた作業閾値をさらに格納してよい。上記指定領域取得部は、上記複数の製造領域に対して、上記ユーザによって指定された上記複数の指定領域を取得してよい。上記状況判定部は、予め定められた期間の間、上記対応領域ピクセル数に対する上記非類似ピクセル数の割合が上記作業閾値より高い場合、製造領域に対して指定された指定領域に対応する上記対応領域で、上記製品の製造が滞留状態であると判定してよい。上記画像格納部は、複数の座席領域を含む上記基準画像を格納してよい。上記閾値格納部は、予め定められた利用閾値をさらに格納してよい。上記指定領域取得部は、上記複数の座席領域に対して、上記ユーザによって指定された上記複数の指定領域を取得してよい。上記状況判定部は、上記対応領域ピクセル数に対する上記非類似ピクセル数の割合が、上記利用閾値より高い場合、座席領域に対して指定された指定領域に対応する上記対応領域の座席が利用状態であると判定してよい。
本発明の一実施態様によれば、コンピュータを、上記判定装置として機能させるためのプログラムが提供される。
本発明の一実施態様によれば、コンピュータによって実行される判定方法が提供される。判定方法は、予め撮像された基準画像に対してコンピュータのユーザによって指定された複数の指定領域を取得する指定領域取得段階を備えてよい。判定方法は、画像解析の対象である解析対象画像を取得する画像取得段階を備えてよい。判定方法は、基準画像の複数の指定領域の各指定領域内の各ピクセルと、解析対象画像の、基準画像における各指定領域に対応する各対応領域内の各ピクセルとの差分値を取得する差分値取得段階を備えてよい。判定方法は、解析対象画像の各対応領域について、対応領域内のピクセルの数である対応領域ピクセル数に対する、差分値が予め定められた差分閾値より高い対応領域内のピクセルの数である非類似ピクセル数の割合に基づいて、対応領域の状況を判定する状況判定段階を備えてよい。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
システム10の一例を概略的に示す。 基準画像400の一例を概略的に示す。 解析対象画像500の一例を概略的に示す。 基準画像400の他の一例を概略的に示す。 解析対象画像500の他の一例を概略的に示す。 基準画像400の他の一例を概略的に示す。 解析対象画像500の他の一例を概略的に示す。 対応領域635、対応領域645、及び対応領域655の状況を表すグラフの一例を概略的に示す。 基準画像400の他の一例を概略的に示す。 解析対象画像500の他の一例を概略的に示す。 判定装置100の機能構成の一例を概略的に示す。 判定装置100による処理の流れの一例を概略的に示す。 判定装置100として機能するコンピュータ1200のハードウェア構成の一例を概略的に示す。
従来のディープラーニングを用いた商品の検出には、逐次画像収集が必要になり、非効率的であり、コストも大きくなってしまう。例えば、小売店において商品の欠品を検出するために従来の技術を利用しようとした場合、小売店の商品は種類も多く、メーカ数も多いので、事前準備の負荷が非常に高くなり、実際に利用することは非常に困難となる。本実施形態に係る判定装置は、このような事前準備の負荷を軽減可能な技術を提供する。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、システム10の一例を概略的に示す。システム10は、判定装置100を備える。システム10は、カメラ200を備えてよい。システム10は、複数のカメラ200を備えてもよい。図1では、システム10が1つのカメラ200を備える一例を示す。
判定装置100は、撮像画像を取得する。判定装置100は、例えば、検出対象が配置される領域を撮像した撮像画像を取得する。例えば、検出対象が商品である場合に、当該領域は、商品棚であり得る。判定装置100は、例えば、基準画像を取得する。基準画像は、検出対象が存在していない状態の撮像画像である。判定装置100は、例えば、実際に検出対象が存在するか否かを判定する対象となる撮像画像(解析対象画像と記載する場合がある。)を取得する。
判定装置100は、例えば、カメラ200によって撮像された撮像画像を取得する。判定装置100は、例えば、ネットワーク20を介してカメラ200と通信することによって、カメラ200から撮像画像を取得する。ネットワーク20は、例えば、インターネットを含む。ネットワーク20は、例えば、LAN(Local Area Network)を含む。ネットワーク20は、移動体通信ネットワークを含んでもよい。移動体通信ネットワークは、例えば、3G(3rd Generation)通信方式、LTE(Long Term Evolution)通信方式、5G(5th Generation)通信方式、及び6G(6th Generation)通信方式以降の通信方式のいずれに準拠してもよい。
判定装置100は、カメラ200と直接通信することによって、カメラ200から撮像画像を取得してもよい。判定装置100は、例えば、カメラ200と無線通信することによって、カメラ200から撮像画像を取得する。無線通信方式の例として、Wi-Fi(登録商標)、Bluetooth(登録商標)及びZigBee(登録商標)等が挙げられる。判定装置100は、カメラ200と有線通信することによって、カメラ200から撮像画像を取得してもよい。尚、判定装置100は、判定装置100に内蔵されたカメラによって撮像された撮像画像を取得してもよい。
撮像画像は、例えば、静止画像である。撮像画像は、動画像であってもよい。
判定装置100は、基準画像に対して判定装置100のユーザによって指定された指定領域を取得する。判定装置100のユーザとは、判定装置100を直接利用する者のことであってよく、判定装置100が提供するサービスを利用する者のことであってもよい。
判定装置100は、基準画像の指定領域内の各ピクセルと、基準画像の指定領域に対応する解析対象画像の対応領域内の各ピクセルとの差分値を取得する。判定装置100は、対応領域内のピクセルの数である対応領域ピクセル数に対する、差分値が予め定められた差分閾値より高い対応領域内のピクセルの数である非類似ピクセル数の割合に基づいて、対応領域の状況を判定する。
カメラ200は、任意の撮像装置であってよい。カメラ200は、例えば、ネットワークカメラである。カメラ200は、Webカメラであってもよい。
従来、予め大量に収集した検出対象の画像を用いて解析対象画像の領域の状態を判定することが行われてきたが、非効率的でコスト面の負担が大きかった。特に、複数の種類の検出対象が存在する場合、検出対象の種類毎に大量の画像を予め収集する必要があり、より一層、非効率的でコスト面の負担が大きかった。これに対して、本実施形態に係る判定装置100は、検出対象が存在していない状態の基準画像を予め準備するだけで、検出対象の種類に関わらず、解析対象画像の対応領域内の大まかな状況を判定することができる。これにより、本実施形態に係る判定装置100は、効率的に、且つ、低コストで対応領域の大まかな状況を判定することができる。
図2は、基準画像400の一例を概略的に示す。図2の基準画像400は、商品が陳列されていない状態の商品棚300を撮像した撮像画像である。
図2は、判定装置100のユーザによって、基準画像400に対して、指定領域330、指定領域340、及び指定領域350が指定された場合を例示している。図2に示す例において、指定領域330は、1種類の商品を陳列する陳列領域であり、指定領域340及び指定領域350は、複数の種類の商品を陳列する陳列領域である。
図3は、解析対象画像500の一例を概略的に示す。図3の解析対象画像500は、図2の基準画像400に対応する、商品棚300を撮像した撮像画像である。図3の対応領域335、対応領域345、及び対応領域355は、それぞれ、図2の指定領域330、指定領域340、及び指定領域350に対応する。
判定装置100は、指定領域330の各ピクセルと対応領域335の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域335における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、指定領域340の各ピクセルと対応領域345の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域345における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、指定領域350の各ピクセルと対応領域355の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域355における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、対応領域335、対応領域345、及び対応領域355における対応領域ピクセル数に対する非類似ピクセル数の割合が、予め定められた不足閾値より低いか否かを判定する。ここでは、対応領域335における対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より低く、対応領域345及び対応領域355における対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より高いものとして説明を続ける。
判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より低いと判定した対応領域335に陳列される商品が不足状態であると判定する。判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より高いと判定した対応領域345及び対応領域355のそれぞれに陳列される商品が充足状態であると判定する。このように、基準画像400に対して複数の指定領域を指定可能にすることで、商品の状態をより細かく把握可能にすることができる。
図4は、基準画像400の他の一例を概略的に示す。図4の基準画像400は、商品が陳列されていない状態の商品棚300を撮像した撮像画像である。
図4は、判定装置100のユーザによって、基準画像400に対して、指定領域330、指定領域340、指定領域350、指定領域360、及び、指定領域370が指定された場合を例示している。図4に示す例において、指定領域330、指定領域340、指定領域350、指定領域360、及び、指定領域370は、1種類の商品を陳列する陳列領域である。
図5は、解析対象画像500の他の一例を概略的に示す。図5の解析対象画像500は、図4の基準画像400に対応する、商品棚300を撮像した撮像画像である。図5の対応領域335、対応領域345、対応領域355、対応領域365、及び対応領域375は、それぞれ、図4の指定領域330、指定領域340、指定領域350、指定領域360、及び指定領域370に対応する。
判定装置100は、指定領域330の各ピクセルと対応領域335の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域335における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、指定領域340の各ピクセルと対応領域345の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域345における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、指定領域350の各ピクセルと対応領域355の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域355における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、指定領域360の各ピクセルと対応領域365の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域365における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、指定領域370の各ピクセルと対応領域375の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域375における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、対応領域335、対応領域345、対応領域355、対応領域365、及び対応領域375における対応領域ピクセル数に対する非類似ピクセル数の割合が、予め定められた不足閾値より低いか否かを判定する。ここでは、対応領域335及び対応領域375における対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より低く、対応領域345、対応領域355、及び対応領域365における対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より高いものとして説明を続ける。
判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より低いと判定した対応領域335及び対応領域375のそれぞれに陳列される商品が不足状態であると判定する。判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が不足閾値より高いと判定した対応領域345、対応領域355、及び対応領域365のそれぞれに陳列される商品が充足状態であると判定する。基準画像400に対して複数の指定領域を指定可能にすることで、図4及び図5に例示したように商品の種類毎に指定領域を設定可能にでき、商品の種類毎に不足状態であるか否かを判定することができる。
図6は、基準画像400の他の一例を概略的に示す。図6の基準画像400は、物が置かれていない状態の製造ラインの作業台600を撮像した撮像画像である。
図6は、判定装置100のユーザによって、基準画像400に対して、指定領域630、指定領域640、及び指定領域650が指定された場合を例示している。図6に示す例において、指定領域630、指定領域640、及び指定領域650は、製品を製造する製造領域である。
図7は、解析対象画像500の他の一例を概略的に示す。図7の解析対象画像500は、図6の基準画像400に対応する、作業台600を撮像した撮像画像である。図7の対応領域635、対応領域645、及び対応領域655は、それぞれ、図6の指定領域630、指定領域640、及び指定領域650に対応する。ここでは、製造ラインが、対応領域635、対応領域645、及び対応領域655の順の製造工程であるものとして説明を続ける。
判定装置100は、指定領域630の各ピクセルと対応領域635の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域635における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、指定領域640の各ピクセルと対応領域645の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域645における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、指定領域650の各ピクセルと対応領域655の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域655における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、対応領域635、対応領域645、及び対応領域655における対応領域ピクセル数に対する非類似ピクセル数の割合が、予め定められた作業閾値より高いか否かを判定する。ここでは、対応領域645及び対応領域655における対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より高く、対応領域635における対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より低いものとして説明を続ける。
判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より高いと判定した対応領域645及び対応領域655のそれぞれで作業員が作業をしている状態であると判定する。判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より低いと判定した対応領域635で作業員が作業をしていない状態であると判定する。
図8は、対応領域635、対応領域645、及び対応領域655の状況を表すグラフの一例を概略的に示す。図8の(A)のグラフは、対応領域635、対応領域645、及び対応領域655における対応領域ピクセル数に対する非類似ピクセル数の割合を表すグラフである。図8の(A)のグラフの横軸は、時間である。図8の(A)のグラフの縦軸は、対応領域ピクセル数に対する非類似ピクセル数の割合である。
図8の(B)のグラフは、判定装置100が対応領域635における対応領域ピクセル数に対する非類似ピクセル数の割合を二値化処理した結果を示すグラフであり、図8の(C)のグラフは、判定装置100が対応領域645における対応領域ピクセル数に対する非類似ピクセル数の割合を二値化処理した結果を示すグラフであり、図8の(D)のグラフは、判定装置100が対応領域655における対応領域ピクセル数に対する非類似ピクセル数の割合を二値化処理した結果を示すグラフである。ここでいう二値化処理は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より高い場合に対応領域ピクセル数に対する非類似ピクセル数の割合を1とし、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より低い場合に対応領域ピクセル数に対する非類似ピクセル数の割合を0とする処理である。
図8の(B)のグラフ、図8の(C)のグラフ、及び図8の(D)のグラフの横軸は、時間である。図8の(B)のグラフ、図8の(C)のグラフ、及び図8の(D)のグラフの縦軸の0は、作業員が作業をしていない状態を表す。図8の(B)のグラフ、図8の(C)のグラフ、及び図8の(D)のグラフの縦軸の1は、作業員が作業をしている状態を表す。
図8の(B)のグラフ、図8の(C)のグラフ、及び図8の(D)のグラフから、対応領域635で20分過ぎから開始された作業が60分手前で終了していること、対応領域645で20分過ぎから開始された作業が100分を過ぎても終了していないこと、及び、対応領域655で70分頃から作業が行われていないことがわかる。これにより、対応領域645において、製品の製造の滞留が発生していることがわかる。
図9は、基準画像400の他の一例を概略的に示す。図9の基準画像400は、物が置かれていない状態の机700を上から撮像した撮像画像である。
図9は、判定装置100のユーザによって、基準画像400に対して、指定領域730及び指定領域740が指定された場合を例示している。指定領域730及び指定領域740は、座席領域である。
図10は、解析対象画像500の他の一例を概略的に示す。図10の解析対象画像500は、図9の基準画像400に対応する、机700を上から撮像した撮像画像である。図10の対応領域735及び対応領域745は、それぞれ、図9の指定領域730及び指定領域740に対応する。
判定装置100は、指定領域730の各ピクセルと対応領域735の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域735における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、指定領域740の各ピクセルと対応領域745の各ピクセルとの差分値を取得する。判定装置100は、取得した差分値から、対応領域745における対応領域ピクセル数に対する非類似ピクセル数の割合を導出する。
判定装置100は、対応領域735及び対応領域745における対応領域ピクセル数に対する非類似ピクセル数の割合のそれぞれが、予め定められた利用閾値より高いか否かを判定する。ここでは、対応領域735における対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値より高く、対応領域745における対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値より低いものとして説明を続ける。
判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値より高いと判定した対応領域735の座席が利用状態であると判定する。利用状態とは、人が座席に座っている状態であってよく、荷物や本等が机700の上に置かれている状態であってもよい。判定装置100は、対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値より低いと判定した対応領域745の座席が空席状態であると判定する。
図11は、判定装置100の機能構成の一例を概略的に示す。判定装置100は、画像格納部102、画像取得部104、表示制御部106、指定領域取得部108、差分値取得部110、閾値格納部112、閾値設定部113、状況判定部114、状況通知部116、画像解析部120、候補領域決定部122、及び候補領域提示部124を備える。尚、判定装置100がこれらの全ての構成を備えることは必須とは限らない。
画像格納部102は、撮像画像を格納する。画像格納部102は、例えば、複数の画像を格納する。画像格納部102は、例えば、基準画像400を格納する。画像格納部102は、例えば、解析対象画像500を格納する。画像格納部102は、商品の画像を格納してもよい。画像格納部102は、製品の画像を格納してもよい。
基準画像400は、例えば、それぞれに1又は複数の種類の商品を陳列する領域である複数の陳列領域を含む。基準画像400は、例えば、製品を製造する領域である複数の製造領域を含む。基準画像400は、例えば、複数の座席領域を含む。
画像取得部104は、撮像画像を取得する。画像取得部104は、例えば、カメラ200から撮像画像を取得する。画像取得部104は、判定装置100が備える撮像部によって撮像された撮像画像を取得してもよい。画像取得部104は、取得した撮像画像を画像格納部102に格納する。
画像取得部104は、例えば、基準画像400を取得する。画像取得部104は、例えば、解析対象画像500を取得する。画像取得部104は、商品の画像を取得してもよい。画像取得部104は、製品の画像を取得してもよい。
表示制御部106は、表示部の表示を制御する。表示制御部106は、例えば、画像格納部102に格納されている撮像画像を表示するよう表示部の表示を制御する。表示制御部106は、例えば、判定装置100が備える表示部の表示を制御する。表示制御部106は、判定装置100のユーザが所有する通信端末が備える表示部の表示を制御してもよい。この場合、表示制御部106は、判定装置100のユーザが所有する通信端末に撮像画像を送信してよい。表示部は、表示制御部106による制御に従って、撮像画像を表示する。
指定領域取得部108は、画像格納部102に格納されている基準画像400に対して判定装置100のユーザによって指定された指定領域を取得する。指定領域取得部108は、例えば、基準画像400に対して判定装置100のユーザによって指定された複数の指定領域を取得する。
指定領域取得部108は、例えば、判定装置100が備える入力デバイスを用いて判定装置100のユーザの入力を受け付けることによって、指定領域を取得する。指定領域取得部108は、判定装置100のユーザが所有する通信端末から、指定領域を受信することによって、指定領域を取得してもよい。
指定領域取得部108は、例えば、基準画像400に含まれる複数の陳列領域に対して、判定装置100のユーザによって指定された複数の指定領域を取得する。指定領域取得部108は、例えば、基準画像400に含まれる一の陳列領域の第1の部分領域及び第2の部分領域のそれぞれに対して、判定装置100のユーザによって指定された2つの指定領域を取得する。例えば、第1の部分領域及び第2の部分領域は、一の陳列領域の前方領域及び後方領域である。第1の部分領域及び第2の部分領域は、一の陳列領域の右側領域及び左側領域であってもよい。
指定領域取得部108は、基準画像400に含まれる複数の製造領域に対して、指定領域取得部108のユーザによって指定された複数の指定領域を取得してもよい。指定領域取得部108は、基準画像400に含まれる複数の座席領域に対して、判定装置100のユーザによって指定された複数の指定領域を取得してもよい。
指定領域は、任意の形状の領域であってよい。指定領域は、例えば、多角形領域である。指定領域は、例えば、矩形領域である。指定領域は、円形領域であってもよい。指定領域は、楕円領域であってもよい。
差分値取得部110は、画像格納部102に格納されている基準画像400の指定領域内の各ピクセルと、画像格納部102に格納されている解析対象画像500の、基準画像400における指定領域に対応する対応領域内の各ピクセルとの差分値を取得する。差分値取得部110は、例えば、基準画像400の複数の指定領域の各指定領域内の各ピクセルと、解析対象画像500の、基準画像400における各指定領域に対応する各対応領域内の各ピクセルとの差分値を取得する。
差分値取得部110は、指定領域の各ピクセルの平均値と、商品の画像の各ピクセルの平均値との差分値である平均差分値を取得してもよい。差分値取得部110は、指定領域の各ピクセルの平均値と、製品の画像の各ピクセルの平均値との差分値である平均差分値を取得してもよい。
閾値格納部112は、予め定められた閾値を格納する。閾値格納部112は、例えば、予め定められた複数の閾値を格納する。
閾値格納部112は、例えば、差分閾値を格納する。閾値格納部112は、例えば、不足閾値を格納する。閾値格納部112は、例えば、作業閾値を格納する。閾値格納部112は、例えば、利用閾値を格納する。
閾値格納部112、例えば、複数の差分閾値のそれぞれを、複数の指定領域のそれぞれと対応付けて格納してよい。閾値格納部112は、複数の差分閾値のそれぞれを、複数の指定領域のそれぞれ及び複数の対応領域のそれぞれに陳列される商品の識別情報と対応付けて格納してもよい。
閾値設定部113は、閾値を設定する。閾値設定部113は、例えば、判定装置100が備える入力デバイス用いて判定装置100のユーザの入力を受け付けることによって、閾値を設定する。閾値設定部113は、判定装置100のユーザが所有する通信端末から、閾値を設定する情報を受信することによって、閾値を設定してもよい。閾値設定部113は、設定した閾値を閾値格納部112に格納する。
閾値設定部113は、例えば、差分閾値を設定する。閾値設定部113は、例えば、不足閾値を設定する。閾値設定部113は、例えば、作業閾値を設定する。閾値設定部113は、例えば、利用閾値を設定する。
閾値設定部113は、例えば、基準画像400が複数の陳列領域を含む場合、指定領域の各ピクセルの平均値と、商品の画像の各ピクセルの平均値との差分値である平均差分値に基づいて、差分閾値を設定する。閾値設定部113は、例えば、当該平均差分値が小さい程、差分閾値を低く設定する。
閾値設定部113は、例えば、基準画像400が複数の製造領域を含む場合、指定領域の各ピクセルの平均値と、製品の画像の各ピクセルの平均値との差分値である平均差分値に基づいて、差分閾値を設定する。閾値設定部113は、例えば、当該平均差分値が小さい程、差分閾値を低く設定する。
状況判定部114は、対応領域の状況を判定する。状況判定部114は、例えば、対応領域ピクセル数に対する非類似ピクセル数の割合に基づいて、対応領域の状況を判定する。状況判定部114は、例えば、対応領域ピクセル数に対する、差分値が指定領域に対応付けられて閾値格納部112に格納されている差分閾値より高い非類似ピクセル数の割合に基づいて、対応領域の状況を判定する。
例えば、状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値より低い場合、陳列領域に対して指定された指定領域に対応する対応領域の商品が不足状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値より高い場合、陳列領域に対して指定された指定領域に対応する対応領域の商品が充足状態であると判定する。
状況判定部114は、例えば、対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値と同一である場合、陳列領域に対して指定された指定領域に対応する対応領域の商品が不足状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値と同一である場合、陳列領域に対して指定された指定領域に対応する対応領域の商品が充足状態であると判定してもよい。
例えば、状況判定部114は、対応領域ピクセル数に対する、差分値が指定領域及び商品の識別情報と対応付けられて閾値格納部112に格納されている差分閾値より高い非類似ピクセル数の割合が、不足閾値より低い場合、対応領域の商品が不足状態であると判定する。状況判定部114は、対応領域ピクセル数に対する、差分値が指定領域及び商品の識別情報と対応付けられて閾値格納部112に格納されている差分閾値より高い非類似ピクセル数の割合が、不足閾値より高い場合、対応領域の商品が充足状態であると判定する。
状況判定部114は、例えば、一の陳列領域の第1の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合と、一の陳列領域の第2の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合とに基づいて、第1の部分領域及び第2の部分領域のそれぞれに対して判定装置100のユーザによって指定された2つの指定領域に対応する2つの対応領域の商品の状態を判定する。例えば、状況判定部114は、第1の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合及び第2の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合の両方が、不足閾値より低い場合、当該2つの対応領域の商品の状態が不足状態であると判定する。状況判定部114は、第1の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合及び第2の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合の両方が、不足閾値より高い場合、当該2つの対応領域の商品の状態が充足状態であると判定する。
状況判定部114は、第1の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合及び第2の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合のいずれか一方が、不足閾値より低い場合、当該2つの対応領域の商品の状態が、不足状態と充足状態との間の状態である中間状態であると判定する。第1の部分領域が一の陳列領域の前方領域であり、第2の部分領域が一の陳列領域の後方領域である場合、状況判定部114は、第1の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値より低く、且つ、第2の部分領域に対して指定された指定領域に対応する対応領域の対応領域ピクセル数に対する非類似ピクセル数の割合が、不足閾値より高い場合、第2の部分領域に対して指定された指定領域に対応する対応領域の商品を、第1の部分領域に対して指定された指定領域に対応する対応領域に前出し可能な状態であると判定してもよい。
例えば、状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より高い場合、製造領域に対して指定された指定領域に対応する対応領域で作業員が作業をしている状態であると判定する。状況判定部114は、例えば、予め定められた期間の間、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より高い場合、製造領域に対して指定された指定領域に対応する対応領域で、製品の製造が滞留状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値より低い場合、製造領域に対して指定された指定領域に対応する対応領域で作業員が作業をしていない状態であると判定する。
状況判定部114は、例えば、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値と同一である場合、製造領域に対して指定された指定領域に対応する対応領域で作業員が作業をしている状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が作業閾値と同一である場合、製造領域に対して指定された指定領域に対応する対応領域で作業員が作業をしていない状態であると判定してもよい。
例えば、状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が、利用閾値より高い場合、座席領域に対して指定された指定領域に対応する対応領域の座席が利用状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が、利用閾値より低い場合、座席領域に対して指定された指定領域に対応する対応領域の座席が空席状態であると判定する。
状況判定部114は、例えば、対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値と同一である場合、座席領域に対して指定された指定領域に対応する対応領域の座席が利用状態であると判定する。状況判定部114は、対応領域ピクセル数に対する非類似ピクセル数の割合が利用閾値と同一である場合、座席領域に対して指定された指定領域に対応する対応領域の座席が空席状態であると判定してもよい。
状況通知部116は、状況判定部114が判定した対応領域の状況を通知する。状況通知部116は、例えば、判定装置100が備える表示部に対応領域の状況を表示することによって、対応領域の状況を通知する。状況通知部116は、判定装置100のユーザが所有する通信端末に対応領域の状況を送信することによって、対応領域の状況を通知してもよい。
画像解析部120は、画像格納部102に格納されている撮像画像を解析する。画像解析部120は、例えば、画像格納部102に格納されている複数の解析対象画像500を解析する。
画像解析部120は、例えば、解析対象画像500が複数の製造領域を含む撮像画像である場合に、過去の複数の解析対象画像500をそれぞれ解析し、解析対象画像500内の製品でない物体が予め定められた頻度以上で検出される領域を特定する。製品でない物体は、例えば、作業員の手である。製品でない物体は、工具であってもよい。
候補領域決定部122は、指定領域の候補である候補領域を決定する。候補領域決定部122は、例えば、複数の製造領域のうち、製品でない物体が予め定められた頻度以上で検出される領域を除いた領域を、候補領域とする。
候補領域提示部124は、候補領域決定部122が決定した候補領域を判定装置100のユーザに提示する。候補領域提示部124は、例えば、表示部が表示している基準画像400に候補領域を重畳して表示することによって、候補領域を判定装置100のユーザに提示する。
図12は、判定装置100による処理の流れの一例を概略的に示す。図12では、画像取得部104が基準画像400を取得していない状態を開始状態として説明する。
ステップ(ステップをSと省略して記載する場合がある。)102において、画像取得部104は、基準画像400を取得する。S104において、指定領域取得部108は、基準画像400に対して、判定装置100のユーザによって指定された複数の指定領域を取得する。判定装置100のユーザは、例えば、基準画像400を確認しながら、複数の指定領域を指定する。
S106において、画像取得部104は、解析対象画像500を取得する。S108において、状況判定部114は、指定領域に対応する対応領域における対応領域ピクセル数に対する非類似ピクセル数の割合に基づいて、対応領域の状況を判定する。S110において、状況判定部114は、全ての対応領域の状況を判定したか否かを判定する。全ての対応領域を判定している場合、S112に進む。全ての対応領域を判定していない場合、S108に戻る。
S112において、状況通知部116は、状況判定部114が判定した複数の対応領域の状況を通知する。その後、処理が終了する。
図13は、判定装置100として機能するコンピュータ1200のハードウェア構成の一例を概略的に示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200を、上記実施形態に係る装置の1又は複数の「部」として機能させ、又はコンピュータ1200に、上記実施形態に係る装置に関連付けられるオペレーション又は当該1又は複数の「部」を実行させることができ、及び/又はコンピュータ1200に、上記実施形態に係るプロセス又は当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつか又はすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
本実施形態によるコンピュータ1200は、CPU1212、RAM1214、及びグラフィックコントローラ1216を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、記憶装置1224、DVDドライブ1226、及びICカードドライブのような入出力ユニットを含み、それらは入出力コントローラ1220を介してホストコントローラ1210に接続されている。DVDドライブ1226は、DVD-ROMドライブ及びDVD-RAMドライブ等であってよい。記憶装置1224は、ハードディスクドライブ及びソリッドステートドライブ等であってよい。コンピュータ1200はまた、ROM1230及びキーボード1242のようなレガシの入出力ユニットを含み、それらは入出力チップ1240を介して入出力コントローラ1220に接続されている。
CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。グラフィックコントローラ1216は、RAM1214内に提供されるフレームバッファ等又はそれ自体の中に、CPU1212によって生成されるイメージデータを取得し、イメージデータがディスプレイデバイス1218上に表示されるようにする。
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。記憶装置1224は、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納する。DVDドライブ1226は、プログラム又はデータをDVD-ROM1227等から読み取り、記憶装置1224に提供する。ICカードドライブは、プログラム及びデータをICカードから読み取り、及び/又はプログラム及びデータをICカードに書き込む。
ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/又はコンピュータ1200のハードウェアに依存するプログラムを格納する。入出力チップ1240はまた、様々な入出力ユニットをUSBポート、パラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入出力コントローラ1220に接続してよい。
プログラムは、DVD-ROM1227又はICカードのようなコンピュータ可読記憶媒体によって提供される。プログラムは、コンピュータ可読記憶媒体から読み取られ、コンピュータ可読記憶媒体の例でもある記憶装置1224、RAM1214、又はROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置又は方法が、コンピュータ1200の使用に従い情報のオペレーション又は処理を実現することによって構成されてよい。
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、記憶装置1224、DVD-ROM1227、又はICカードのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、又はネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
また、CPU1212は、記憶装置1224、DVDドライブ1226(DVD-ROM1227)、ICカード等のような外部記録媒体に格納されたファイル又はデータベースの全部又は必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、当該複数のエントリの中から、第1の属性の属性値が指定されている条件に一致するエントリを検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
上で説明したプログラム又はソフトウェアモジュールは、コンピュータ1200上又はコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワーク又はインターネットに接続されたサーバシステム内に提供されるハードディスク又はRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
本実施形態におけるフローチャート及びブロック図におけるブロックは、オペレーションが実行されるプロセスの段階又はオペレーションを実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、専用回路、コンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプログラマブル回路、及び/又はコンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプロセッサによって実装されてよい。専用回路は、デジタル及び/又はアナログハードウェア回路を含んでよく、集積回路(IC)及び/又はディスクリート回路を含んでよい。プログラマブル回路は、例えば、フィールドプログラマブルゲートアレイ(FPGA)、及びプログラマブルロジックアレイ(PLA)等のような、論理積、論理和、排他的論理和、否定論理積、否定論理和、及び他の論理演算、フリップフロップ、レジスタ、並びにメモリエレメントを含む、再構成可能なハードウェア回路を含んでよい。
コンピュータ可読記憶媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよく、その結果、そこに格納される命令を有するコンピュータ可読記憶媒体は、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読記憶媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読記憶媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROM又はフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(登録商標)ディスク、メモリスティック、集積回路カード等が含まれてよい。
コンピュータ可読命令は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又はSmalltalk(登録商標)、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語又は同様のプログラミング言語のような従来の手続型プログラミング言語を含む、1又は複数のプログラミング言語の任意の組み合わせで記述されたソースコード又はオブジェクトコードのいずれかを含んでよい。
コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路が、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を生成するために当該コンピュータ可読命令を実行すべく、ローカルに又はローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路に提供されてよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
以上、本開示に係る発明を実施の形態を用いて説明したが、本開示に係る発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 システム、20 ネットワーク、100 判定装置、102 画像格納部、104 画像取得部、106 表示制御部、108 指定領域取得部、110 差分値取得部、112 閾値格納部、113 閾値設定部、114 状況判定部、116 状況通知部、120 画像解析部、122 候補領域決定部、124 候補領域提示部、200 カメラ、300 商品棚、330 指定領域、335 対応領域、340 指定領域、345 対応領域、350 指定領域、355 対応領域、360 指定領域、365 対応領域、370 指定領域、375 対応領域、400 基準画像、500 解析対象画像、600 作業台、630 指定領域、635 対応領域、640 指定領域、645 対応領域、650 指定領域、655 対応領域、700 机、730 指定領域、735 対応領域、740 指定領域、745 対応領域、1200 コンピュータ、1210 ホストコントローラ、1212 CPU、1214 RAM、1216 グラフィックコントローラ、1218 ディスプレイデバイス、1220 入出力コントローラ、1222 通信インタフェース、1224 記憶装置、1226 DVDドライブ、1227 DVD-ROM、1230 ROM、1240 入出力チップ

Claims (8)

  1. 判定装置であって
    それぞれに1つの種類の商品を陳列する領域である複数の陳列領域を含む、予め撮像された基準画像を格納する画像格納部と、
    予め定められた差分閾値と、予め定められた不足閾値とを格納する閾値格納部と、
    前記基準画像に含まれる前記複数の陳列領域に対して前記判定装置のユーザによって指定された複数の指定領域を取得する指定領域取得部と、
    画像解析の対象である解析対象画像を取得する画像取得部と、
    前記基準画像の前記複数の指定領域の各指定領域内の各ピクセルと、前記解析対象画像の、前記基準画像における前記各指定領域に対応する各対応領域内の各ピクセルとの差分値を取得する差分値取得部と、
    前記解析対象画像の前記各対応領域について、対応領域内のピクセルの数である対応領域ピクセル数に対する、前記差分値が前記差分閾値より高い前記対応領域内のピクセルの数である非類似ピクセル数の割合に基づいて、前記対応領域の状況を判定する状況判定部と
    を備え、
    前記閾値格納部は、複数の前記差分閾値のそれぞれを、前記複数の指定領域のそれぞれ及び複数の前記対応領域のそれぞれに陳列される商品の識別情報と対応付けて格納し、
    前記状況判定部は、前記対応領域ピクセル数に対する、前記差分値が、陳列領域に対して指定された指定領域及び前記商品の前記識別情報と対応付けられて前記閾値格納部に格納されている前記差分閾値より高い前記非類似ピクセル数の割合が、前記不足閾値より低い場合、前記指定領域に対応する前記対応領域の前記商品が不足状態であると判定する、
    定装置。
  2. 前記画像格納部は、前記商品の画像をさらに格納し、
    前記差分値取得部は、前記指定領域の各ピクセルの平均値と、前記商品の画像の各ピクセルの平均値との差分値である平均差分値を取得し、
    前記判定装置は、
    前記平均差分値に基づいて、前記差分閾値を設定する閾値設定部
    をさらに備える、請求項1に記載の判定装置。
  3. 前記指定領域取得部は、一の前記陳列領域の第1の部分領域及び第2の部分領域のそれぞれに対して、前記ユーザによって指定された2つの前記指定領域を取得し、
    前記状況判定部は、前記第1の部分領域に対して指定された前記指定領域に対応する前記対応領域の前記対応領域ピクセル数に対する前記非類似ピクセル数の割合と、前記第2の部分領域に対して指定された前記指定領域に対応する前記対応領域の前記対応領域ピクセル数に対する前記非類似ピクセル数の割合とに基づいて、前記2つの指定領域に対応する2つの前記対応領域の前記商品の状態を判定する、
    請求項1又は2に記載の判定装置。
  4. 前記第1の部分領域は、前記一の陳列領域の前方領域であり、
    前記第2の部分領域は、前記一の陳列領域の後方領域であり、
    前記状況判定部は、前記第1の部分領域に対して指定された前記指定領域に対応する前記対応領域の前記対応領域ピクセル数に対する前記非類似ピクセル数の割合が、前記不足閾値より低く、且つ、前記第2の部分領域に対して指定された前記指定領域に対応する前記対応領域の前記対応領域ピクセル数に対する前記非類似ピクセル数の割合が、前記不足閾値より高い場合、前記第2の部分領域に対して指定された前記指定領域に対応する前記対応領域の前記商品を、前記第1の部分領域に対して指定された前記指定領域に対応する前記対応領域に前出し可能な状態であると判定する、
    請求項3に記載の判定装置。
  5. 前記画像格納部は、製品を製造する領域である複数の製造領域を含む前記基準画像を格納し、
    前記閾値格納部は、予め定められた作業閾値をさらに格納し、
    前記指定領域取得部は、前記複数の製造領域に対して、前記ユーザによって指定された前記複数の指定領域を取得し、
    前記状況判定部は、予め定められた期間の間、前記対応領域ピクセル数に対する前記非類似ピクセル数の割合が前記作業閾値より高い場合、製造領域に対して指定された指定領域に対応する前記対応領域で、前記製品の製造が滞留状態であると判定する、
    請求項1から4のいずれか一項に記載の判定装置。
  6. 前記画像格納部は、複数の座席領域を含む前記基準画像を格納し、
    前記閾値格納部は、予め定められた利用閾値をさらに格納し、
    前記指定領域取得部は、前記複数の座席領域に対して、前記ユーザによって指定された前記複数の指定領域を取得し、
    前記状況判定部は、前記対応領域ピクセル数に対する前記非類似ピクセル数の割合が、前記利用閾値より高い場合、座席領域に対して指定された指定領域に対応する前記対応領域の座席が利用状態であると判定する、
    請求項1から5のいずれか一項に記載の判定装置。
  7. コンピュータを、請求項1から6のいずれか一項に記載の判定装置として機能させるためのプログラム。
  8. コンピュータによって実行される判定方法であって、
    予め撮像された基準画像に含まれる、それぞれに1つの種類の商品を陳列する領域である複数の陳列領域に対して前記コンピュータのユーザによって指定された複数の指定領域を取得する指定領域取得段階と、
    画像解析の対象である解析対象画像を取得する画像取得段階と、
    前記基準画像の前記複数の指定領域の各指定領域内の各ピクセルと、前記解析対象画像の、前記基準画像における前記各指定領域に対応する各対応領域内の各ピクセルとの差分値を取得する差分値取得段階と
    複数の差分閾値のそれぞれを、前記複数の指定領域のそれぞれ及び複数の対応領域のそれぞれに陳列される商品の識別情報と対応付けて前記コンピュータに格納する閾値格納段階と、
    前記解析対象画像の前記各対応領域について、対応領域内のピクセルの数である対応領域ピクセル数に対する、前記差分値が前記閾値格納段階で前記コンピュータに格納されている差分閾値より高い前記対応領域内のピクセルの数である非類似ピクセル数の割合に基づいて、前記対応領域の状況を判定する状況判定段階と
    を備え、
    前記状況判定段階は、前記対応領域ピクセル数に対する、前記差分値が、陳列領域に対して指定された指定領域及び前記商品の前記識別情報と対応付けられて前記閾値格納段階で前記コンピュータに格納されている前記差分閾値より高い前記非類似ピクセル数の割合が、予め定められた不足閾値より低い場合、前記指定領域に対応する前記対応領域の前記商品が不足状態であると判定する段階を含む、
    定方法。
JP2021146377A 2021-09-08 2021-09-08 判定装置、プログラム、及び判定方法 Active JP7295181B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021146377A JP7295181B2 (ja) 2021-09-08 2021-09-08 判定装置、プログラム、及び判定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021146377A JP7295181B2 (ja) 2021-09-08 2021-09-08 判定装置、プログラム、及び判定方法

Publications (2)

Publication Number Publication Date
JP2023039282A JP2023039282A (ja) 2023-03-20
JP7295181B2 true JP7295181B2 (ja) 2023-06-20

Family

ID=85600639

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021146377A Active JP7295181B2 (ja) 2021-09-08 2021-09-08 判定装置、プログラム、及び判定方法

Country Status (1)

Country Link
JP (1) JP7295181B2 (ja)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009107527A (ja) 2007-10-31 2009-05-21 Denso Corp 車両の乗員検出装置
JP2009110054A (ja) 2007-10-26 2009-05-21 Panasonic Corp 状況判定装置、状況判定方法、状況判定プログラム、異常判定装置、異常判定方法および異常判定プログラム
JP2015090679A (ja) 2013-11-07 2015-05-11 国立大学法人京都大学 車両軌跡抽出方法、車両領域抽出方法、車両速度推定方法、車両軌跡抽出プログラム、車両領域抽出プログラム、車両速度推定プログラム、車両軌跡抽出システム、車両領域抽出システム、及び、車両速度推定システム
JP2016057952A (ja) 2014-09-11 2016-04-21 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP2016091287A (ja) 2014-11-05 2016-05-23 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP2018129090A (ja) 2014-08-21 2018-08-16 パナソニックIpマネジメント株式会社 検知装置、検知システム、およびプログラム
JP2019133286A (ja) 2018-01-30 2019-08-08 三菱電機インフォメーションシステムズ株式会社 状態判定装置及び状態判定プログラム
WO2019171573A1 (ja) 2018-03-09 2019-09-12 日本電気株式会社 セルフレジシステム、購入商品管理方法および購入商品管理プログラム
JP2020106257A (ja) 2018-12-28 2020-07-09 シャープ株式会社 冷蔵庫システム、サーバ装置、冷蔵庫、通信端末およびサーバ装置の制御方法
JP2020184171A (ja) 2019-05-07 2020-11-12 株式会社Hacarus 電子回路、ハードウェアコンポーネント、エッジ処理システム、エッジコンピューティングシステム、識別方法、識別プログラム

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009110054A (ja) 2007-10-26 2009-05-21 Panasonic Corp 状況判定装置、状況判定方法、状況判定プログラム、異常判定装置、異常判定方法および異常判定プログラム
JP2009107527A (ja) 2007-10-31 2009-05-21 Denso Corp 車両の乗員検出装置
JP2015090679A (ja) 2013-11-07 2015-05-11 国立大学法人京都大学 車両軌跡抽出方法、車両領域抽出方法、車両速度推定方法、車両軌跡抽出プログラム、車両領域抽出プログラム、車両速度推定プログラム、車両軌跡抽出システム、車両領域抽出システム、及び、車両速度推定システム
JP2018129090A (ja) 2014-08-21 2018-08-16 パナソニックIpマネジメント株式会社 検知装置、検知システム、およびプログラム
JP2016057952A (ja) 2014-09-11 2016-04-21 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP2016091287A (ja) 2014-11-05 2016-05-23 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
JP2019133286A (ja) 2018-01-30 2019-08-08 三菱電機インフォメーションシステムズ株式会社 状態判定装置及び状態判定プログラム
WO2019171573A1 (ja) 2018-03-09 2019-09-12 日本電気株式会社 セルフレジシステム、購入商品管理方法および購入商品管理プログラム
JP2020106257A (ja) 2018-12-28 2020-07-09 シャープ株式会社 冷蔵庫システム、サーバ装置、冷蔵庫、通信端末およびサーバ装置の制御方法
JP2020184171A (ja) 2019-05-07 2020-11-12 株式会社Hacarus 電子回路、ハードウェアコンポーネント、エッジ処理システム、エッジコンピューティングシステム、識別方法、識別プログラム

Also Published As

Publication number Publication date
JP2023039282A (ja) 2023-03-20

Similar Documents

Publication Publication Date Title
US11853347B2 (en) Product auditing in point-of-sale images
US20160098636A1 (en) Data processing apparatus, data processing method, and recording medium that stores computer program
US9418352B2 (en) Image-augmented inventory management and wayfinding
CN107077686B (zh) 图像处理装置和图像处理方法
US20140201040A1 (en) Presentation-structure-aware display of planograms
JP2016062545A (ja) 商品登録装置
CN108292380B (zh) 要因分析装置、要因分析方法以及记录介质
US20150262370A1 (en) Image processing device, image processing method, and image processing program
US20170330206A1 (en) Motion line processing system and motion line processing method
JPWO2018179361A1 (ja) 画像処理装置、画像処理方法、およびプログラム
CN111814628A (zh) 陈列立柜识别方法、装置、设备以及存储介质
JP7295181B2 (ja) 判定装置、プログラム、及び判定方法
JP7019339B2 (ja) 不良原因抽出システム及びその方法
JP2024023957A (ja) 処理装置、処理方法及びプログラム
US20220019848A1 (en) Information processing apparatus, control method for information processing apparatus, and storage medium
US20200042794A1 (en) Information processing method and information processing system
EP4246438A1 (en) Information processing device, generation method, and generation program
US20160300182A1 (en) Pog adjacency determination
JP6935527B2 (ja) 画像処理装置、プログラム、システム及び画像処理方法
WO2022244176A1 (ja) 欠品検出装置、欠品検出方法、及びプログラム
JP2024066391A (ja) 生成システム、プログラム、及び波形評価モデルの生成方法
JP7503744B2 (ja) 発注管理装置及び発注管理方法
JP7478960B2 (ja) 情報処理方法、情報処理システム及びプログラム
JP2016224884A (ja) 情報処理装置、及びプログラム
JP2020149557A (ja) 分析システム、分析方法、プログラム、及び記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230608

R150 Certificate of patent or registration of utility model

Ref document number: 7295181

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150