JP2022035589A - 画像解析装置、監視システムおよびチェックアウトシステム - Google Patents

画像解析装置、監視システムおよびチェックアウトシステム Download PDF

Info

Publication number
JP2022035589A
JP2022035589A JP2020140023A JP2020140023A JP2022035589A JP 2022035589 A JP2022035589 A JP 2022035589A JP 2020140023 A JP2020140023 A JP 2020140023A JP 2020140023 A JP2020140023 A JP 2020140023A JP 2022035589 A JP2022035589 A JP 2022035589A
Authority
JP
Japan
Prior art keywords
product
processor
image
accounting
work area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020140023A
Other languages
English (en)
Inventor
唯志 竹野
Tadashi Takeno
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2020140023A priority Critical patent/JP2022035589A/ja
Priority to US17/338,624 priority patent/US20220058609A1/en
Publication of JP2022035589A publication Critical patent/JP2022035589A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/202Interconnection or interaction of plural electronic cash registers [ECR] or to host computer, e.g. network details, transfer of information from host to ECR or from ECR to ECR
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/208Input by product or record sensing, e.g. weighing or scanner processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F19/00Complete banking systems; Coded card-freed arrangements adapted for dispensing or receiving monies or the like and posting such transactions to existing accounts, e.g. automatic teller machines
    • G07F19/20Automatic teller machines [ATMs]
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures
    • G07G1/0045Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader
    • G07G1/0054Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles
    • G07G1/0063Checkout procedures with a code reader for reading of an identifying code of the article to be registered, e.g. barcode reader or radio-frequency identity [RFID] reader with control of supplementary check-parameters, e.g. weight or number of articles with means for detecting the geometric dimensions of the article of which the code is read, such as its size or height, for the verification of the registration
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/12Cash registers electronically operated
    • G07G1/14Systems including one or more distant stations co-operating with a central processing unit
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G3/00Alarm indicators, e.g. bells
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/20Point-of-sale [POS] network systems
    • G06Q20/204Point-of-sale [POS] network systems comprising interface for record bearing medium or carrier for electronic funds transfer or payment credit

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Accounting & Taxation (AREA)
  • Multimedia (AREA)
  • Finance (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Signal Processing (AREA)
  • Evolutionary Computation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Geometry (AREA)
  • Human Computer Interaction (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

Figure 2022035589000001
【課題】 複数回に分け実施される会計処理を正しく監視できる画像解析装置、監視システムおよびチェックアウトシステムを提供する。
【解決手段】 実施形態によれば、画像解析装置は、画像インターフェースとプロセッサとを有する。画像インターフェースは、対象商品に対する商品情報を入力する作業と商品情報を入力した商品に対する会計の作業とを実施するための作業エリアを含む撮影領域を撮影した撮影画像を取得する。プロセッサは、商品情報が未入力の商品が存在する状態で会計が実行された場合に前記作業エリアから人物が立ち去ったことを検出すると、アラートを出力する。
【選択図】図3

Description

本発明の実施形態は、画像解析装置、監視システムおよびチェックアウトシステムに関する。
従来、商品を購入する顧客自身の操作によって商品の登録および決済を行うセルフレジ(セルフチェックアウト装置)がある。従来のセルフレジには、会計処理へ移行しようとする場合に未登録の商品があれば、顧客に対してアラートを通知する機能を有するものがある。しかしながら、実施の運用では、レシートを分ける目的などで同一人物が連続して複数回の会計処理を行う場合がある。
上述したような従来のセルフレジは、会計処理への移行時に未登録の商品があればアラートを出す。このため、利用者が複数回に分けて会計を行うために未登録の商品が残った状態で会計処理への移行するたびにアラートが通知される。複数回に分けて会計することは、不正行為ではないので、未登録の商品が残った状態で会計処理への移行するたびにアラートを解除する必要がある。
特開2018-116525号公報
本発明が解決しようとする課題は、複数回に分け実施される会計処理を正しく監視できる画像解析装置、監視システムおよびチェックアウトシステムを提供することである。
実施形態によれば、画像解析装置は、画像インターフェースとプロセッサとを有する。画像インターフェースは、対象商品に対する商品情報を入力する作業と商品情報を入力した商品に対する会計の作業とを実施するための作業エリアを含む撮影領域を撮影した撮影画像を取得する。プロセッサは、商品情報が未入力の商品が存在する状態で会計が実行された場合に前記作業エリアから人物が立ち去ったことを検出すると、アラートを出力する。
図1は、本実施形態に係るチェックアウト装置および画像解析装置を含むチェックアウトシステムの構成例を示すブロック図である。 図2は、本実施形態に係るチェックアウト装置の外観を示す図である。 図3は、本実施形態に係るチェックアウト装置における制御系の構成例を示すブロック図である。 図4は、本実施形態に係る画像解析装置の構成例を示すブロック図である。 図5は、本実施形態に係るアテンダント端末の構成例を示すブロック図である。 図6は、本実施形態に係るチェックアウト装置の動作例を説明するためのフローチャートである。 図7は、本実施形態に係る画像解析装置の動作例を説明するためのフローチャートである。 図8は、本実施形態に係るアテンダント端末のディスプレイに表示するアラートの表示例を示す図である。
以下、本実施形態について、図面を参照しながら説明する。
図1は、本実施形態に係るチェックアウトシステム1の構成例を示すブロック図である。
図1に示すように、チェックアウトシステム1は、チェックアウト装置2、画像解析装置3、セキュリティカメラ4、および、アテンダント端末5などを有する。図1に示す構成例において、画像解析装置3およびアテンダント端末5は、チェックアウト装置2の利用状況などを監視する監視システムを構成する。なお、チェックアウト装置2は、画像解析装置3を含む装置として構成しても良い。
チェックアウト装置2は、商品登録処理および会計処理を実行する装置である。本実施形態において、チェックアウト装置2は、利用者自身の操作によって、当該利用者が購入する商品に対する登録処理および会計処理を行うセルフチェックアウト装置(セルフレジ)であるものとする。
セキュリティカメラ4は、各チェックアウト装置2の利用状況やチェックアウト装置2を操作する利用者の動作などを監視するための画像を撮影する。セキュリティカメラ4は、チェックアウト装置2における商品登録または会計処理に伴う作業を利用者が行うための作業エリアを含む領域の画像を撮影するように構成される。セキュリティカメラ4は、作業エリアを含む撮影領域を撮影した画像を画像解析装置3へ供給する。セキュリティカメラ4は、チェックアウト装置2ごとに設置しても良いし、複数のチェックアウト装置2ごとに設置するようにしても良い。
画像解析装置3は、セキュリティカメラ4が撮影する撮影画像を解析する。画像解析装置3は、セキュリティカメラ4の撮影画像からチェックアウト装置2の利用者の動作やチェックアウト装置2の利用状況などを解析する解析処理を実行する。また、画像解析装置3は、チェックアウト装置2の利用状況や利用者の動作などの解析結果に応じてアラートを出力したり、解析結果を示す情報をアテンダント端末5またはチェックアウト装置2へ通知したりする。
アテンダント端末5は、監視対象とするチェックアウト装置2の利用状況などを示す情報を係員に報知する。アテンダント端末5は、チェックアウト装置2および画像解析装置3に接続される。複数のチェックアウト装置2を監視対象とする場合、アテンダント端末5は、監視対象とする複数のチェックアウト装置2における利用状況などを一元的に監視する。
アテンダント端末5は、監視対象となるチェックアウト装置2の利用状況を示す情報を表示するディスプレイ90(図4参照)を有する。例えば、監視対象とするチェックアウト装置2が複数である場合、アテンダント端末5は、ディスプレイ90の表示画面を監視対象とするチェックアウト装置2の台数分で分割し、分割した各画面に各チェックアウト装置2の利用状況などを示す情報や監視画像などを表示する。
次に、実施形態に係るチェックアウト装置2の構成例について説明する。
図2は、本実施形態に係るチェックアウト装置2の外観を示す図である。
図2に示すチェックアウト装置2は、商品を購入する顧客の操作によって、商品登録処理および会計処理が実行されるセルフチェックアウト装置(セルフレジ)であるものとする。
図2に示すように、チェックアウト装置2は、本体10と、本体10の左右に配置された第1の商品載置台11と第2の商品載置台12とを備える。本実施形態において、第1の商品載置台11は登録処理前の商品を載置する商品置き場である。また、第2の商品載置台12は登録処理後の商品を載置するものとする。ただし、登録処理前の商品は、ショッピングカート(以下、カート)に入れた状態で所定位置(商品置き場)に配置されるようにしても良い。この場合、登録処理前の商品を入れたカートを配置する所定位置は、セキュリティカメラ4の撮影範囲内になるものであれば良い。
第1の商品載置台11は、本体10に向かって本体10の右側に配置する。例えば、第1の商品載置台11には、利用者が購入しようとする商品(登録処理前の商品)を入れたかご(容器)が載置される。また、第1の商品載置台11は、利用者が購入しようとする商品(登録処理前の商品)が直接載置されるものとしても良い。第1の商品載置台11は、少なくとも載置された商品がセキュリティカメラ4で撮影される範囲にあるものであれば良い。
また、第2の商品載置台12は、本体10に向かって本体10の左側に配置する。第2の商品載置台12は、第1の商品載置台11から取り出されて登録処理がなされた商品が載置される。例えば、第2の商品載置台12は、本体10のバーコードが読み取られた商品、或は、キー操作により商品を示す情報(商品情報)を入力した商品(登録処理後の商品)が載置される。図2に示す構成例では、第2の商品載置台12は、上部に支柱を介して一時置き台12aを設ける。一時置き台12aは、例えば、商品を買い物袋に入れる前に一時的に載置するために使用される。一時置き台12aには、左右に離間させて2本の保持アーム12bが設けられる。保持アーム12bは、買い物袋(レジ袋)を開口させた状態で係止する。
本体10には、ディスプレイ21、カードリーダライタ(RW)22、プリンタ23、スピーカ24、スキャナ25、ハンドスキャナ26、および、現金処理機27が設けられる。さらに、本体10の上部には、支柱を介してカメラ28が設けられる。
ディスプレイ21は、表示デバイス21aとタッチセンサ21bとを含むタッチパネルである。表示デバイス21aは、操作案内、顧客が選択可能なアイコン(タッチキー)、或は、アラートとして警告のメッセージなどを表示する。表示デバイス21aは、例えば、LCD(Liquid Crystal Display)である。タッチセンサ21bは、表示デバイス21aの表示画面(操作画面)における人のタッチ位置を検出する。タッチセンサ21bは、検知したタッチ位置を示す情報を処理部としての後述するプロセッサへと送る。
例えば、表示デバイス21aは、顧客のタッチ操作により支払い方法(現金、カード)などの選択指示や各種情報を入力するためのGUI(Graphical User Interface)を表示する。また、表示デバイス21aは、案内画面、情報入力画面、商品登録画面、精算画面などを表示する。案内画面は、顧客に操作方法を知らせるための案内(メッセージ)を表示する画面である。情報入力画面は、例えば、バーコードが付されていない商品の情報を入力するための操作画面である。商品登録画面は、登録した商品に関する情報を表示する画面である。商品登録画面では、例えば、スキャナ25又はハンドスキャナ26が読み取ったバーコードによって識別した商品、および、キー操作で指定された商品などの情報を表示する。精算画面は、商品の代金を顧客が支払う会計処理において、購入する商品(登録した商品)の合計金額、預かり金額、および、釣り銭額などを表示する画面である。
カードリーダライタ(RW)22は、カードを処理する。カードリーダライタ22は、カード挿入口を有する。カードリーダライタ22は、カードに記録されたデータを読み取る機能とカードへデータを書き込む機能とを有する。カードリーダライタ49は、磁気情報を記録する磁気カードであっても良いし、接触式あるいは非接触式のICカードであっても良い。また、カードリーダライタ22は、複数種のカードを処理する機構を有するものであっても良い。
例えば、カードリーダライタ22は、カード挿入口に挿入される精算用のクレジットカード又は会員カードなどのカードを処理する。精算(決済)用のカードとしては、クレジットカード、デビットカード、電子マネーカード、プリペイドカードなどがある。また、会員カードとしては、会員情報を記録したメンバーズカード、或は、サービスとして利用可能なポイントを記録したポイントカードなどがある。
プリンタ23は、レシートを印刷する。プリンタ23は、レシート発行口を有する。プリンタ23は、レシート用紙に対して各種の文字列や画像などを印刷することによりレシートを発行する。プリンタ23は、例えばサーマルプリンタやドットインパクトプリンタなどを実現される。例えば、プリンタ23は、会計処理が完了した場合に、処理内容(会計内容)を印刷したレシートを作成し、作成したレシートをレシート発行口から排出する。
スピーカ24は、アラートしての警告音、或は、メッセージとしての音声などの音を出力する。
スキャナ25およびハンドスキャナ26は、商品を識別する情報を読み取るものである。本実施形態において、スキャナ25およびハンドスキャナ26は、商品を識別する情報として商品に付されたバーコードを読み取るものとする。スキャナ25は、商品に付されたバーコードが相対するように、顧客が翳す商品のバーコードの画像を光学的に読み取る。ハンドスキャナ26は、顧客によって手持ちで操作されるもので、商品に付されたバーコードに近接されることによりバーコードの画像を光学的に読み取る。なお、スキャナ25およびハンドスキャナ26は、商品を認識する情報を読み取るものであれば良く、例えば、バーコード以外の情報を読み取るものであっても良い。
現金処理機27は、現金を処理するものである。現金処理機27は、紙幣投入口、紙幣排出口、硬貨投入口および硬貨排出口などを有する。現金処理機27は、紙幣投入口27aに投入された紙幣を処理する。現金処理機27は、釣銭としての紙幣を紙幣排出口27bから排出する。現金処理機27は、硬貨投入口27cに投入された硬貨を受け入れて処理する。現金処理機27は、釣銭としての硬貨を硬貨排出口27dから排出する。
カメラ28は、少なくても登録処理前(未登録)の商品が置かれる領域(載置領域)を含む撮影範囲の画像を撮影する。例えば、第1の商品載置台11に登録処理前の商品を入れたカゴが載置される形態である場合、カメラ28は、カゴ内の全体を撮影するように撮影範囲が設定される。また、第1の商品載置台11に登録処理前の商品を直接載置される形態である場合、カメラ28は、第1の商品載置台11の全体を撮影するように撮影範囲が設定される。また、登録処理前の商品を入れたカートが所定位置に配置される場合、カメラ28は、所定位置のカート内を撮影するように撮影範囲が設定される。なお、カートを配置する所定位置は、例えば、第1の商品載置台11近傍などに設定される。
また、カメラ28は、顧客による商品登録処理と会計処理のための作業の様子を撮影するように設置しても良い。この場合、カメラ28は、第1の商品載置台11と第2の商品載置台12とが撮影範囲に含まれるように設定する。このような設定によれば、カメラ28は、第1の商品載置台11に載置された商品が第2の商品載置台12に載置されるまでの間の映像を撮影できる。カメラ28が撮影した映像は、データメモリ43などに保存しておくことにより、エラーが発生した場合などに状況を確認するために使用できる。
また、カメラ28は、セキュリティカメラ4として用いても良い。カメラ28をセキュリティカメラ4として用いる場合、カメラ28は、チェックアウトの対象となる商品に対して利用者が商品登録および会計処理などの作業を実施するための作業エリアを含む撮影範囲を撮影するように設定される。また、カメラ28がセキュリティカメラ4として用いられる場合、カメラ28が撮影する画像は、画像解析装置3にも供給されるように構成される。
次に、本実施形態に係るチェックアウト装置2における制御系の構成について説明する。
図3は、本実施形態に係るチェックアウト装置2における制御系の構成例を示すブロック図である。
図3に示す構成例において、チェックアウト装置2の本体10は、制御ユニット30を有する。制御ユニット30は、例えば、コンピュータで実現される。制御ユニット30には、ディスプレイ21、カードリーダライタ22、プリンタ23、スピーカ24、スキャナ25、ハンドスキャナ26、現金処理機27およびカメラ28などが電気的に接続される。また、制御ユニット30は、プロセッサ40、ROM(read-only memory)41、RAM(random-access memory)42、データメモリ43、および、各種のインターフェース(IF)44~53を有する。
プロセッサ40は、プログラムを実行することにより種々の処理を実行する。プロセッサ40は、例えば、CPU(central processing unit)である。プロセッサ40は、ROM41又はデータメモリ43が記憶するプログラムを実行することにより各種の処理機能を実現する。例えば、プロセッサ40は、商品の登録(入力)処理用のプログラムを実行することにより、登録モードとして商品の商品情報を登録(入力)する商品登録処理を実行する。プロセッサ40は、会計処理用のプログラムを実行することにより、会計モードとして商品の代金を決済する会計処理を実行する。
ROM41は、不揮発性のメモリであり、プログラムおよびデータを記憶する。例えば、ROM41は、オペレーティングシステム、ミドルウェア、アプリケーションなどのプログラムを記憶する。また、ROM41は、プロセッサ40が各種の処理を実行する場合に参照するデータを記憶しても良い。
RAM42は、作業用のデータを記憶する。RAM42は、いわゆるワークエリアとして利用されるメモリである。RAM42は、プロセッサ40が各種の処理を実行する場合に参照するデータ、或は、一時的に使用するデータなどを適宜記憶する。
データメモリ43は、データを記憶するメモリである。データメモリ43は、書き換え可能な不揮発性のメモリである。データメモリ43は、例えばEEPROM(登録商標)(electric erasable programmable read-only memory)、HDD(hard disk drive)、あるいはSSD(solid state drive)などで構成する。データメモリ43は、プロセッサ40が各種の処理を実行する場合に使用するデータ、或は、プロセッサ40による処理で生成されたデータを保存する。また、データメモリ43は、プロセッサ40が実行する各種のプログラムを記憶しても良い。例えば、データメモリ43は、登録処理用のプログラム、会計処理用のプログラムを記憶しても良い。
また、RAM42あるいはデータメモリ43は、商品登録処理において登録した商品(登録商品)に関する情報を記憶する。RAM42あるいはデータメモリ43は、例えば、登録商品に関する情報をリスト形式のデータ(登録商品リスト)として記録しても良い。また、RAM42あるいはデータメモリ43は、カメラ28が撮影する撮影画像を記憶する。データメモリ43は、例えば、カメラ28が撮影する撮影画像に撮影時刻を示すタイムスタンプのデータを付加した映像データを記憶しても良い。
プロセッサ40は、スキャナIF44を介してスキャナ25に接続する。プロセッサ40は、スキャナIF44を介してスキャナ25が読み取る画像(スキャン画像)を取得する。また、プロセッサ40は、スキャナIF45を介してハンドスキャナ26に接続する。プロセッサ40は、スキャナIF45を介してハンドスキャナ26が読み取る画像(スキャン画像)を取得する。プロセッサ40は、スキャナ25又はハンドスキャナ26のスキャン画像に含まれるバーコードをデコードすることによりバーコードが示す商品を識別する。
プロセッサ40は、表示IF46を介してディスプレイ21に接続する。プロセッサ40は、表示IF46を介してディスプレイ21の表示デバイス21aが表示する表示内容を制御する。また、プロセッサ40は、表示IF46を介してディスプレイ21のタッチセンサ21bが検知するタッチ位置を示す情報を取得する。例えば、プロセッサ40は、登録処理前(未登録)の商品が存在することを報知するためのアラート或はインジケータとしてのメッセージをディスプレイ21に表示する。また、プロセッサ40は、タッチ位置を示す情報によりディスプレイ21に表示した各アイコン(タッチキー)への入力を検知する。
プロセッサ40は、カードIF47を介してカードリーダライタ22に接続する。プロセッサ40は、カードIF47を介してカードリーダライタ22によるカードに対する処理を制御する。例えば、プロセッサ40は、カードリーダライタ22が処理するクレジットカードによる精算処理を実行する。
プロセッサ40は、プリンタIF48を介してプリンタ23に接続する。プロセッサ40は、プリンタIF48を介してプリンタ23を制御する。例えば、プロセッサ40は、プリンタ23により会計処理の結果を示すレシートを発行する。
プロセッサ40は、音声IF49を介してスピーカ24に接続する。プロセッサ40は、音声IF49を介してスピーカ24から出力する音を制御する。例えば、プロセッサ40は、登録処理前の商品が存在することを報知するためのアラートとしての音(ブザー)をスピーカ24により出力する。
プロセッサ40は、入出金IF50を介して現金処理機27に接続する。プロセッサ40は、入出金IF50を介して現金処理機27を制御する。例えば、プロセッサ40は、顧客が入金した現金を現金処理機27が計数し、現金処理機27が計数した入金金額を示す情報を取得する。また、プロセッサ40は、入金した金額と登録済みの商品の合計金額(商品代金)とから算出した釣銭を現金処理機27によって放出する制御を行う。
プロセッサ40は、カメラIF51を介してカメラ28に接続する。プロセッサ40は、カメラIF51を介してカメラ28が撮影する撮影画像を取得する。例えば、プロセッサ40は、会計処理に移行する際にカメラ28が撮影する第1の商品載置台11上のカゴ(容器)内の画像を含む撮影画像を取得する。また、プロセッサ40は、登録処理中において継続的に(例えば所定周期で)カメラ28が撮影する第1の商品載置台11上のカゴ(容器)内の画像を含む撮影画像を取得する。
プロセッサ40は、通信IF52を介して画像解析装置3に接続する。プロセッサ40は、通信IF52を介して画像解析装置3へ当該チェックアウト装置2の利用状況(例えば、会計処理への移行など)を示す情報を送信する。また、プロセッサ40は、通信IF53を介して画像解析装置3によるセキュリティカメラ4が撮影した画像に対する解析結果を示す情報を取得するようにしても良い。
プロセッサ40は、通信IF53を介してアテンダント端末5に接続する。プロセッサ40は、通信IF53を介してアテンダント端末5に動作状況を示す情報を送信する。例えば、プロセッサ40は、チェックアウト装置2による商品の登録状況あるいは会計処理の実行状況などの利用状況を示す情報をアテンダント端末5へ送信する。また、プロセッサ40は、画像解析装置3による画像解析の結果に応じてアテンダント端末5へアラートを送信するようにしても良い。
なお、通信IF52および通信IF53は、1つのインターフェースで実現しても良い。例えば、チェックアウト装置2がLAN(local area network)などのネットワークに接続された画像解析装置3およびアテンダント端末5と通信する構成であれば、通信IF52および通信IF53は、ネットワーク通信を行うための通信インターフェースであっても良い。また、チェックアウト装置2と画像解析装置3とを1つの装置で実現する場合、通信IF52又は53は省略しても良い。この場合、プロセッサ40、メモリ41およびROM42等を含む制御ユニットが後述する画像解析装置3としての画像解析処理を実行するようにすれば良い。
また、プロセッサ40は、通信IF52又は53を介して管理サーバなどのコンピュータに接続するようにしても良い。例えば、プロセッサ40は、通信IF53によりチェックアウト装置2で登録された商品あるいは会計済みとなった商品を示す情報を管理サーバへ送信する。また、プロセッサ40は、通信IF53を介して通信するストアコンピュータから商品に関する情報などを適宜取得するようにしても良い。
次に、本実施形態に係る画像解析装置3における制御系の構成について説明する。
図4は、本実施形態に係る画像解析装置3における制御系の構成例を示すブロック図である。
図4に示す構成例において、画像解析装置3は、例えば、コンピュータで実現される。画像解析装置3は、セキュリティカメラ4、チェックアウト装置2およびアテンダント端末5に通信接続される。画像解析装置3は、プロセッサ60、ROM(read-only memory)61、RAM(random-access memory)62、データメモリ63、画像インターフェース(IF)64、および、通信インターフェース(IF)65、66を有する。
プロセッサ60は、プログラムを実行することにより種々の処理を実行する。プロセッサ60は、例えば、CPU(central processing unit)である。プロセッサ60は、ROM61又はデータメモリ63が記憶するプログラムを実行することにより各種の処理機能を実現する。例えば、プロセッサ60は、画像解析用のプログラムを実行することにより、セキュリティカメラ4から取得する画像に基づいてチェックアウト装置2の利用状況などを解析する画像解析処理を実行する。さらに、プロセッサ40は、会計処理への移行を検知するためのプログラムを実行することにより、チェックアウト装置2が会計処理に移行したことを検知する。また、プロセッサ40は、動作認識用のプログラムを実行することにより、チェックアウト装置2に対応する作業エリアにおける人物の有無、あるいは、人物の動作などを認識する処理を実行する。
ROM61は、不揮発性のメモリであり、プログラムおよびデータを記憶する。例えば、ROM61は、オペレーティングシステム、ミドルウェア、アプリケーションなどのプログラムを記憶する。また、ROM61は、プロセッサ60が各種の処理を実行する場合に参照するデータを記憶しても良い。
RAM62は、作業用のデータを記憶する。RAM62は、いわゆるワークエリアとして利用されるメモリである。RAM62は、プロセッサ60が各種の処理を実行する場合に参照するデータ、或は、一時的に使用するデータなどを適宜記憶する。
データメモリ63は、データを記憶するメモリである。データメモリ63は、書き換え可能な不揮発性のメモリである。データメモリ43は、例えばEEPROM(登録商標)(electric erasable programmable read-only memory)、HDD(hard disk drive)、あるいはSSD(solid state drive)などで構成する。データメモリ63は、プロセッサ60が各種の処理を実行する場合に使用するデータ、或は、プロセッサ60による処理で生成されたデータを保存する。
例えば、データメモリ63は、セキュリティカメラ4が撮影した画像を一定期間分保存する。さらに、データメモリ63は、セキュリティカメラ4が撮影した画像のうち画像解析処理によってアテンダント端末5に表示させるべきと判定された一連の画像を保存する。また、データメモリ63は、プロセッサ60が実行する各種のプログラムを記憶しても良い。例えば、データメモリ43は、画像解析処理用のプログラム、会計処理への移行を検知するためのプログラム、人物の動きなどを認識するためのプログラムなどのプログラムを記憶しても良い。
プロセッサ60は、画像IF64を介してセキュリティカメラ4に接続する。プロセッサ60は、画像IF64を介してセキュリティカメラ4が撮影した画像(撮影画像)を取得する。なお、チェックアウト装置2が具備するカメラ28をセキュリティカメラ4として利用する場合、プロセッサ60は、通信IF65を介してセキュリティカメラ4としてのカメラ28が撮影する画像を取得するようにしても良い。
プロセッサ60は、通信IF65を介してチェックアウト装置2に接続する。プロセッサ60は、通信IF65を介してチェックアウト装置2から会計処理へ移行したことを示す信号を取得しても良い。また、プロセッサ60は、セキュリティカメラ4が撮影した撮影画像に対する解析結果として得られた利用者の状況(例えば、作業エリアにおける人物の有無など)を示す情報をチェックアウト装置2へ送信するようにしても良い。
プロセッサ60は、通信IF66を介してアテンダント端末5に接続する。プロセッサ60は、通信IF66を介してアテンダント端末5に画像解析処理の結果として得られた情報を送信する。例えば、プロセッサ60は、利用者が未登録(未会計)の商品を残した状態でチェックアウト装置2の作業エリアから立ち去った場合、アテンダント端末5へアラート(利用者が未登録の商品を残した状態で作業エリアから立ち去ったことを示す情報)を送信するようにしても良い。また、プロセッサ60は、アラートと共にセキュリティカメラ4が撮影した撮影画像をアテンダント端末5へ送信するようにしても良い。
なお、通信IF65および通信IF66は、LAN(local area network)などのネットワークを介してチェックアウト装置2およびアテンダント端末5と通信するための1つの通信インターフェースであっても良い。
次に、本実施形態に係るアテンダント端末5における制御系の構成について説明する。
図5は、本実施形態に係るアテンダント端末5における制御系の構成例を示すブロック図である。
図5に示す構成例において、アテンダント端末5は、ディスプレイ90を具備する。アテンダント端末5は、ディスプレイを有するコンピュータなどで実現される。アテンダント端末5は、プロセッサ80、ROM(read-only memory)81、RAM(random-access memory)82、データメモリ83、表示インターフェース(IF)84、および、通信インターフェース(IF)85、86を有する。
プロセッサ80は、プログラムを実行することにより種々の処理を実行する。プロセッサ80は、例えば、CPU(central processing unit)である。プロセッサ80は、ROM81又はデータメモリ83が記憶するプログラムを実行することにより各種の処理機能を実現する。例えば、プロセッサ80は、監視用のプログラムを実行することにより、画像解析装置3からのアラートの通知に応じてディスプレイ90にアラートを表示したり、セキュリティカメラ4が撮影した画像を表示したりする。
ROM81は、不揮発性のメモリであり、プログラムおよびデータを記憶する。例えば、ROM81は、オペレーティングシステム、ミドルウェア、アプリケーションなどのプログラムを記憶する。また、ROM81は、プロセッサ80が各種の処理を実行する場合に参照するデータを記憶しても良い。
RAM82は、作業用のデータを記憶する。RAM82は、いわゆるワークエリアとして利用されるメモリである。RAM82は、プロセッサ80が各種の処理を実行する場合に参照するデータ、或は、一時的に使用するデータなどを適宜記憶する。
データメモリ83は、データを記憶するメモリである。データメモリ83は、書き換え可能な不揮発性のメモリである。データメモリ83は、例えばEEPROM(登録商標)(electric erasable programmable read-only memory)、HDD(hard disk drive)、あるいはSSD(solid state drive)などで構成する。データメモリ83は、プロセッサ80が各種の処理を実行する場合に使用するデータ、或は、プロセッサ80による処理で生成されたデータを保存する。また、データメモリ83は、プロセッサ80が実行する各種のプログラムを記憶しても良い。
プロセッサ80は、表示IF84を介してディスプレイ90に接続する。プロセッサ80は、表示IF86を介してディスプレイ90の表示デバイスが表示する表示内容を制御する。また、ディスプレイ90は、タッチセンサ内蔵の表示装置であっても良い。この場合、プロセッサ80は、表示IF84を介してディスプレイ90のタッチセンサが検知するタッチ位置を示す情報を取得するようにしても良い。例えば、プロセッサ80は、タッチ位置を示す情報によりディスプレイ90に表示した各アイコン(タッチキー)への入力を検知する。
プロセッサ80は、通信IF85を介してチェックアウト装置2に接続する。例えば、プロセッサ80は、通信IF85を介してチェックアウト装置2から商品登録処理あるいは会計処理の処理内容を示す情報を取得する。また、プロセッサ80は、カメラ28が撮影した撮影画像をチェックアウト装置2から取得するようにしても良い。
プロセッサ80は、通信IF86を介して画像解析装置3に接続する。プロセッサ80は、通信IF86を介して画像解析装置3から画像解析処理により発生したアラートなどを取得する。例えば、プロセッサ80は、通信IF86を介して画像解析装置3から未会計の商品を残した状態で利用者が立ち去った旨のアラートを受信する。また、プロセッサ80は、通信IF86を介して画像解析装置3からアラートと共に表示するセキュリティカメラ4が撮影した撮影画像を受信する。
なお、通信IF65および通信IF66は、LAN(local area network)などのネットワークを介してチェックアウト装置2および画像解析装置3と通信するための1つの通信インターフェースであっても良い。
次に、上記のように構成されるチェックアウト装置2の動作例について説明する。
図6は、チェックアウト装置2による商品登録処理および会計処理を含む動作例を説明するためのフローチャートである。
ここで、利用者は、購入する商品を持ってチェックアウト装置2の前に訪れるものとする。利用者は、購入する商品(登録前の商品)を所定の位置にセットする。例えば、利用者は、購入する商品(対象商品)を入れたカゴ(容器)を商品置き場としての第1の商品載置台11上に載置する。また、利用者は、購入する商品を第1の商品載置台11上に直接載置しても良い。また、利用者は、購入する商品を入れたカートを商品置き場としての所定位置に配置するようにしても良い。
購入する商品を商品置き場にセットした後、利用者は、所定の操作によりチェックアウト処理又は商品登録処理の開始を指示する。例えば、利用者は、ディスプレイ21に表示されるタッチキーをタッチすることにより商品登録処理の開始を指示する。また、商品登録処理の開始は、利用者の動きに応じてプロセッサ40が認識するようにしても良い。例えば、プロセッサ40は、カメラ28が撮影する画像を解析することにより利用者の動きを認識し、認識した利用者の動きに応じて商品登録処理の開始を判断しても良い。
チェックアウト装置2のプロセッサ40は、商品登録処理の開始指示に応じて対象となる商品の商品情報を登録(入力)する商品登録処理を実行する(ACT11)。商品登録処理(登録モード)において、プロセッサ40は、利用者の操作に応じてスキャナ25又はハンドスキャナ26が読み取るバーコードにより個々の商品を識別する。バーコードにより商品が識別できた場合、プロセッサ40は、識別した商品に関する情報(商品情報)を登録する。
また、登録処理において、プロセッサ40は、商品を利用者が指定する商品として登録しても良い。例えば、プロセッサ40は、取り出した商品をディスプレイ21に表示するタッチキーを利用者が操作して指定する商品として登録しても良い。商品の登録が完了したと判断した利用者は、会計処理への移行(登録処理の終了)を指示する。例えば、利用者は、ディスプレイ21に表示されるタッチキーを操作することにより会計処理への移行を指示する。
会計処理への移行(又は、商品登録処理の終了)が指示された場合(ACT12、YES)、プロセッサ40は、登録された商品に対する会計処理へ移行する。会計処理へ移行すると、プロセッサ40は、登録された全商品の合計金額を決済する会計処理を実行する(ACT13)。例えば、プロセッサ40は、登録された各商品の代金を特定し、各商品の代金の合計金額を算出する。プロセッサ40は、算出した合計金額をディスプレイ21に表示し、顧客からの合計金額を収受する処理を行う。商品の合計金額の収受が完了すると、プロセッサ40は、登録した商品に対する会計処理を終了する。
登録した商品に対する会計処理を終了する場合、プロセッサ40は、当該利用者が続けて商品登録および会計処理を実施するか否かを判断する(ACT14)。当該利用者は、続けて次の商品に対する登録処理および会計処理を実行する場合、所定の操作により次の商品登録処理の開始を指示する。
例えば、プロセッサ40は、会計処理を終了してから所定期間において当該利用者による次の商品に対する登録処理の開始指示を受付ける。所定期間において次の商品に対する登録処理の開始が指示された場合、プロセッサ40は、ACT11へ戻り、上述した商品登録処理を実行する。また、所定期間内に次の商品に対する登録処理の開始が指示されない場合、プロセッサ40は、当該利用者に対する一連の処理を終了する。
また、プロセッサ40は、会計処理を終了してから当該利用者が所定領域(例えば、作業エリア)から立ち去るまで、次の商品に対する登録処理の開始指示を受付けるようにしても良い。当該利用者が所定領域から立ち去ったか否かは、プロセッサ40がカメラ28の撮影画像から検出するようにしても良いし、画像解析装置3によるセキュリティカメラ4の撮影画像に対する解析結果から判定(検出)するようにしても良い。プロセッサ40は、当該利用者が所定領域から立ち去った場合、あるいは、当該利用者による一連の処理の終了指示が入力された場合、当該利用者に対する一連の処理を終了する。
次に、本実施形態に係る画像解析装置3の動作について説明する。
図7は、本実施形態に係る画像解析装置3による画像解析処理を含む動作例を説明するためのフローチャートである。
画像解析装置3のプロセッサ60は、画像IF64を介して監視対象とするチェックアウト装置2に対応する作業エリアを含む撮影範囲を撮影した画像をセキュリティカメラ4から取得する(ACT31)。プロセッサ60は、セキュリティカメラ4から取得する撮影画像に基づいて作業エリアに人が存在するか否かを判定する(ACT32)。チェックアウト装置2の作業エリアに人が存在しない場合(ACT32、NO)、プロセッサ60は、ACT31へ戻り、ACT32の処理を繰り返し行う。
なお、プロセッサ60は、ACT31の処理として、チェックアウト装置2において利用者による操作に応じた処理が開始されたときからセキュリティカメラ4の撮影画像を取得するようにしても良い。また、プロセッサ60は、ACT32の処理として、センサなどを用いて作業エリアに人が存在すること、あるいは、作業エリアに人が進入してきたことを検知するようにしても良い。
また、作業エリアに人が存在する場合(ACT32、YES)、プロセッサ60は、セキュリティカメラ4が撮影画像をデータメモリ63に記憶する処理を開始する(ACT33)。ここで、プロセッサ60は、作業エリアに存在する人が作業エリアから立ち去るまでの間、セキュリティカメラ4が撮影する画像を継続的にデータメモリ62に記憶するものとする。また、プロセッサ60は、記憶する撮影画像に撮影時刻を示す情報などに対応づけてデータメモリ63に保存する。
ただし、プロセッサ60は、作業エリアにおける人が存在の有無にかかわらずに、セキュリティカメラ4の撮影画像をデータメモリ63に記憶するようにしても良い。この場合、プロセッサ60は、データメモリ63に記憶する撮影画像に撮影時刻を対応づけて記録し、さらに、作業エリアに人が存在することが検出された時刻(作業エリアに人が進入してきた時刻)をデータメモリ63に記録しておくようにすれば良い。
また、プロセッサ60は、チェックアウト装置2の利用状況を監視する(ACT34)。本実施形態において、プロセッサ60は、利用状況の監視によってチェックアウト装置2が会計処理に移行したか否かをチェックする(ACT35)。例えば、プロセッサ60は、通信IF66により会計処理への移行を示す信号をチェックアウト装置2から受信するようにしても良い。この場合、プロセッサ60は、チェックアウト装置2から会計処理への移行を示す信号を受信したことに基づいてチェックアウト装置2が会計処理に移行したものと判定する。
また、プロセッサ60は、画像IF64により取得するセキュリティカメラ4の撮影画像に対する画像分析によってチェックアウト装置2のディスプレイ21に表示される画面の遷移を検出するようにしても良い。この場合、プロセッサ60は、ディスプレイ21に表示される画面が会計処理の画面に遷移したことを検出することにより会計処理への移行したことを検出できる。
また、プロセッサ60は、画像IF64により取得するセキュリティカメラ4の撮影画像に対する画像分析によって利用者の作業状況(動作)を認識するようにしても良い。例えば、プロセッサ60は、OpenPoseのような骨格推定技術を用いて利用者の作業状況を認識する処理を実現することができる。この場合、プロセッサ60は、利用者が実施した作業が会計処理への移行を指示する作業であることを検出することにより会計処理への移行したことを検出するようにしても良い。
チェックアウト装置2が会計処理に移行したことを検出した場合(ACT35、YES)、プロセッサ60は、画像IF64により会計処理へ移行したときにセキュリティカメラ4の撮影画像を取得する(ACT36)。プロセッサ60は、会計処理へ移行したと判定されたときにセキュリティカメラ4が撮影した撮影画像において未登録の商品が残っているか否かをチェックする(ACT36)。
例えば、プロセッサ60は、画像IF64により取得するセキュリティカメラ4の撮影画像において未登録の商品が第1の商品載置台(未登録の商品が置かれる商品置き場)11に残されているか否かを判定する。また、プロセッサ60は、商品置き場としての所定位置に置かれるカートに未登録の商品が残っているか否かを判定するようにしても良い。ここで、プロセッサ60は、例えば、SSDのような物体検出技術を用いた商品の検出処理によって未登録の商品が残っているか否かの判定を実現することができる。また、プロセッサ60は、AlexNetのような識別技術を用いた商品の検出処理によって、未登録の商品があるかないかを判定するようにしても良い。
未登録の商品が残されていると判定した後(ACT38、YES)、プロセッサ60は、セキュリティカメラ4の撮影画像を取得し(ACT39)、チェックアウト装置2が商品登録処理に移行したか否かをチェックする(ACT40)。例えば、プロセッサ60は、通信IF66により商品登録処理への移行を示す信号をチェックアウト装置2から受信するようにしても良い。この場合、プロセッサ60は、チェックアウト装置2が商品登録処理への移行を示す信号に基づいてチェックアウト装置2が商品登録処理に移行したものと判定する。
また、プロセッサ60は、チェックアウト装置2のディスプレイ21に表示される画面の遷移により商品登録処理への移行したことを検出するようにしても良い。また、プロセッサ60は、撮影画像に対する画像分析によって利用者が実施した作業を認識することにより商品登録処理へ移行したことを検出するようにしても良い。
チェックアウト装置2が商品登録処理に移行していない場合(ACT40、NO)、プロセッサ60は、作業エリアに利用者(会計の作業を行う人物)が存在しているか否かをチェックする(ACT41)。例えば、プロセッサ60は、セキュリティカメラ4から取得する撮影画像を解析することにより作業エリアに利用者が存在しているかをチェックする。例えば、プロセッサ60は、OpenPoseのような骨格推定技術又はSSDのような物体検出技術を用いて利用者が作業エリアに存在するか否かを判定するようにしても良い。
利用者が作業エリア内に存在すると判定した場合(ACT41、YES)、プロセッサ60は、ACT39へ戻り、ACT39-41の処理を繰り返し実行する。つまり、プロセッサ60は、利用者が作業エリア内に存在する間にチェックアウト装置2が商品登録処理に移行した場合(ACT40、YES)、ACT34へ戻る。この結果として、プロセッサ60は、会計処理を行った利用者が作業エリア内に留まって次の商品の登録処理および会計処理する行為に対してアラートを出力しないようにできる。
また、利用者が作業エリア内に存在しないと判定した場合(ACT41、NO)、プロセッサ60は、当該利用者が作業エリアに進入してから退出するまでの一連の画像データを保存する(ACT43)。例えば、プロセッサ60は、カメラ4の撮影画像を継続的に保存しているデータメモリ63から当該利用者が作業エリアに進入してから退出するまでの一連の画像を抽出する。プロセッサ60は、当該利用者が作業エリアに進入してから退出するまでの一連の画像をデータメモリ63に監視確認用の画像として保存する。
また、利用者が作業エリア内に存在しないと判定した場合(ACT41、NO)、プロセッサ60は、未登録の商品を残したままで作業エリアから退出した利用者がいることを店員に報知するためにアラートを出力する(ACT44)。例えば、プロセッサ60は、アテンダント端末5へアラートを出力する。この場合、アテンダント端末5は、画像解析装置3からのアラートの通知に応じて、ディスプレイ90に未登録の商品を残したままで作業エリアから退出した利用者がいることを示すポップアップ画像を表示する。また、プロセッサ60は、アラートと共に当該利用者を含む撮影画像(監視確認用の画像)をアテンダント端末5へ送信するようにしても良い。この場合、アテンダント端末5は、利用者を含む撮影画像をディスプレイ90に表示するようにしても良い。
図8は、アテンダント端末5におけるアラートの報知例としての報知画面の表示例である。
図8に示す表示例において、アテンダント端末5は、4つのチェックアウト装置2を監視対象とするものとする。図8に示す例では、ディスプレイ90は、4つのチェックアウト装置(チェックアウト装置A、B、C、D)に対応するように4分割した監視画面を表示する。
チェックアウト装置Aにおいて未登録の商品を残したままで利用者が作業エリアから立ち去った場合、ディスプレイ90は、チェックアウト装置Aに対応する監視画面にアラートを表示する。図8に示す表示例において、チェックアウト装置Aの監視画面には、アラートとして「商品未登録での立ち去りを検出」というメッセージと共に撮影画像を表示させる画像表示用のウインドウを表示する。
画像表示用のウインドウには、画像の表示を指示するための再生ボタンが表示される。管理者が再生ボタンを指示すると、アテンダント端末5のプロセッサ80は、画像解析装置3から取得する当該利用者を含む撮影画像(監視確認用の画像)を表示させる。例えば、監視確認用の画像は、当該利用者が作業エリアに進入してから退出するまでの一連の撮影画像群である。この場合、プロセッサ80は、当該利用者が作業エリアに進入してから退出するまでの一連の画像を時系列で連続して画像表示用のウインドウに表示させるようにすれば良い。
なお、プロセッサ60は、監視員(管理者)が所持する携帯端末にアラートを通知するようにしても良い。また、プロセッサ60は、所定のメールアドレス(例えば、監視員のメールアドレス)に対してアラートの通知を含む電子メールを送付するようにしても良い。さらに、プロセッサ60は、チェックアウト装置2などに設けた表示器を点灯させてアラートを報知するようにしても良い。
以上のように、本実施形態に係る画像解析装置は、チェックアウト装置における対象商品に対する商品情報を入力する作業と商品情報を入力した商品に対する会計の作業とを実施するための作業エリアを含む撮影領域を撮影した撮影画像をセキュリティカメラから取得する。画像解析装置は、商品情報が未入力の商品が存在する状態で会計が実行された場合、作業エリアにおいて会計作業を行う人物の立ち去りを監視する。画像解析装置は、商品情報が未入力の商品が存在する状態で作業エリアから人物が立ち去ったことを検出すると、アテンダント端末へアラートを通知する。
これにより、レシートを分けるなどの目的で複数回の会計処理を実行しようとする利用者に対して1度の会計処理が終了するごとにアラートを報知することなく、複数回に分けて商品の登録処理および会計処理を行うことを許容できる。また、商品が未登録の状態のままで作業エリアから立ち去った場合には、アテンダント端末へアラートを通知することで不正な使用に対する警報も実現でき、セキュリティ性も保つことができる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
1…チェックアウトシステム、2…チェックアウト装置、3…画像解析装置、4…セキュリティカメラ、5…アテンダント端末、11…第1の商品載置台(商品置き場)、40…プロセッサ(第1のプロセッサ)、45、46…通信インターフェース、60…プロセッサ(第2のプロセッサ)、63…データメモリ、64…画像インターフェース、65、66…通信インターフェース、80…プロセッサ(第1のプロセッサ)、85、86…通信インターフェース、90…ディスプレイ。

Claims (5)

  1. 対象商品に対する商品情報を入力する作業と商品情報を入力した商品に対する会計の作業とを実施するための作業エリアを含む撮影領域を撮影した撮影画像を取得する画像インターフェースと、
    商品情報が未入力の商品が存在する状態で会計が実行された場合に前記作業エリアから人物が立ち去ったことを検出すると、アラートを出力するプロセッサと、
    を有する画像解析装置。
  2. さらに、前記画像インターフェースにより取得する撮影画像を記憶するメモリを有し、
    前記プロセッサは、商品情報が未入力の商品が存在する状態で会計が実行された場合に前記作業エリアから人物が立ち去ったことを検出すると、前記会計の作業を行った人物が前記作業エリアに進入してから退出するまでの一連の画像を前記メモリに保存する、
    請求項1に記載の画像解析装置。
  3. さらに、監視員が目視するディスプレイを具備するアテンダント端末と通信する通信インターフェースを有し、
    前記プロセッサは、商品情報が未入力の商品が存在する状態で会計が実行された場合に前記作業エリアから人物が立ち去ったことを検出すると、前記会計の作業を行った人物が前記作業エリアに進入してから退出するまでの一連の画像を前記アテンダント端末のディスプレイの表示させる、
    請求項1又は2の何れかに記載の画像解析装置。
  4. 画像解析装置とアテンダント端末とを有する監視システムであって、
    前記画像解析装置は、
    前記アテンダント端末と通信する第1の通信インターフェースと、
    対象商品に対する商品情報を入力する作業と商品情報を入力した商品に対する会計の作業とを実施するための作業エリアを含む撮影領域を撮影する画像を取得する画像インターフェースと、
    商品情報が未入力の商品が存在する状態で会計が実行された場合に前記作業エリアから立ち去った人物を検出すると、前記第1の通信インターフェースを介して前記アテンダント端末へ未入力の商品が残っていることを示す情報を出力するプロセッサと、を有し、
    前記アテンダント端末は、
    前記画像解析装置と通信する第2の通信インターフェースと、
    前記第2の通信インターフェースを介して前記画像解析装置から未入力の商品が残っていることを示す情報を受信した場合、未入力の商品が残っていることを報知するアラートをディスプレイに表示させる第2のプロセッサと、を有する、
    監視システム。
  5. チェックアウト装置と画像解析装置とを含むチェックアウトシステムであって、
    前記チェックアウト装置は、
    商品情報が未入力の商品が置かれる商品置き場と、
    前記商品置き場から取り出された個々の商品の商品情報を入力する商品入力処理と前記商品入力処理によって商品情報が入力された商品に対する決済を行う会計処理とを実行する第1のプロセッサと、を有し、
    前記画像解析装置は、
    前記商品置き場にある個々の商品に対する商品情報を入力する作業と商品情報を入力した商品に対する会計の作業とを実施するための作業エリアを含む撮影領域を撮影した撮影画像を取得する画像インターフェースと、
    前記商品置き場に商品情報が未入力の商品が存在する状態で会計が実行された場合に前記作業エリアから人物が立ち去ったことを検出すると、アラートを出力する第2のプロセッサと、を有する、
    チェックアウトシステム。
JP2020140023A 2020-08-21 2020-08-21 画像解析装置、監視システムおよびチェックアウトシステム Pending JP2022035589A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020140023A JP2022035589A (ja) 2020-08-21 2020-08-21 画像解析装置、監視システムおよびチェックアウトシステム
US17/338,624 US20220058609A1 (en) 2020-08-21 2021-06-03 Image analysis apparatus, monitoring system, and checkout system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020140023A JP2022035589A (ja) 2020-08-21 2020-08-21 画像解析装置、監視システムおよびチェックアウトシステム

Publications (1)

Publication Number Publication Date
JP2022035589A true JP2022035589A (ja) 2022-03-04

Family

ID=80270904

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020140023A Pending JP2022035589A (ja) 2020-08-21 2020-08-21 画像解析装置、監視システムおよびチェックアウトシステム

Country Status (2)

Country Link
US (1) US20220058609A1 (ja)
JP (1) JP2022035589A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115965249B (zh) * 2022-12-16 2024-01-23 多彩贵州印象网络传媒股份有限公司 基于人工智能技术的视联网客户智能分析管理***

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210319420A1 (en) * 2020-04-12 2021-10-14 Shenzhen Malong Technologies Co., Ltd. Retail system and methods with visual object tracking

Also Published As

Publication number Publication date
US20220058609A1 (en) 2022-02-24

Similar Documents

Publication Publication Date Title
JP6310885B2 (ja) 商品情報処理装置
US11676124B2 (en) Checkout apparatus
EP3352152A1 (en) Checkout apparatus and checkout method
JP2022108991A (ja) 不正行為認識装置及びその制御プログラム、不正行為認識方法
JP7034615B2 (ja) チェックアウト装置およびプログラム
US20180075424A1 (en) Settlement apparatus and method of settling a transaction using the same
JP2022035589A (ja) 画像解析装置、監視システムおよびチェックアウトシステム
CN107424353B (zh) 结算装置及其控制方法、以及结账***
EP3901878A1 (en) Commodity reading device and commodity reading method
KR20230077629A (ko) 결제자 감시 장치 및 그 프로그램, 결제자 감시 방법
US20220180343A1 (en) Checkout apparatus, monitoring apparatus, and monitoring method
JP2022110707A (ja) 監視装置、監視システム及び監視方法
US20220189265A1 (en) Checkout apparatus and number-of-commodities check method
EP3346436A1 (en) Recording apparatus and method for making characters on credit card unreadable
US20240169351A1 (en) Information processing apparatus, information processing system, and information processing method
JP7453030B2 (ja) 決済装置および決済方法報知システム
JP6704978B2 (ja) 会計装置およびプログラム
JP7514770B2 (ja) 不正行為認識装置及びその制御プログラム、不正行為認識方法
EP4109369A1 (en) Self-service checkout device and program
JP2022088173A (ja) 商品読取装置および商品読取プログラム
JP2017068337A (ja) 決済装置及びその制御プログラム
CN116597580A (zh) 监视装置、结算装置及存储介质
JP2020126689A (ja) 会計装置、およびプログラム
JP2022134286A (ja) 不正行為認識装置及びその制御プログラム、並びに不正行為認識方法
JP2021192323A (ja) 会計装置、チェックアウトシステムおよびプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230525

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240405

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240618