JP6529078B2 - 顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラム及び棚システム - Google Patents

顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラム及び棚システム Download PDF

Info

Publication number
JP6529078B2
JP6529078B2 JP2015535322A JP2015535322A JP6529078B2 JP 6529078 B2 JP6529078 B2 JP 6529078B2 JP 2015535322 A JP2015535322 A JP 2015535322A JP 2015535322 A JP2015535322 A JP 2015535322A JP 6529078 B2 JP6529078 B2 JP 6529078B2
Authority
JP
Japan
Prior art keywords
customer
product
behavior analysis
information
customer behavior
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015535322A
Other languages
English (en)
Other versions
JPWO2015033577A1 (ja
Inventor
山下　信行
信行 山下
内田　薫
薫 内田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2015033577A1 publication Critical patent/JPWO2015033577A1/ja
Application granted granted Critical
Publication of JP6529078B2 publication Critical patent/JP6529078B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0201—Market modelling; Market analysis; Collecting market data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Finance (AREA)
  • Development Economics (AREA)
  • Accounting & Taxation (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Game Theory and Decision Science (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラムが格納された非一時的なコンピュータ可読媒体及び棚システムに関し、特に、商品及び顧客の画像を用いた顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラムが格納された非一時的なコンピュータ可読媒体及び棚システムに関する。
多くの商品が陳列された店舗などにおいて、効果的な販売促進活動を可能とするため、顧客の行動分析が行われている。例えば、顧客の店舗内の移動履歴や、商品の購入履歴などから、顧客の行動が分析されている。
関連する技術として、例えば、特許文献１〜３が知られている。
特開２０１１−２５３３４４号公報 特開２０１２−２５２６１３号公報 特開２０１１−１２９０９３号公報
例えば、ＰＯＳシステムを用いて行動分析を行う場合には、商品の決済時点に情報を記録するのみであるため、売れた商品に関する情報しか取得できない。また、特許文献１では、顧客が商品に接触したことを示す情報を取得しているものの、さらに詳細な顧客の行動を分析することはできない。
このため、関連する技術では、例えば、顧客が興味を持って手には取ってみたが購入しなかった商品などのように、顧客が購入しなかった商品についての詳細な情報を取得し分析することができず、効果的な販売施策を打つことができない。
したがって、関連する技術では、商品を購入しなかった場合などにおいて、より詳細な顧客の行動を分析することが困難であるという問題があった。
本発明は、このような問題に鑑み、より詳細な顧客の行動を分析することが可能な顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラムが格納された非一時的なコンピュータ可読媒体及び棚システムを提供することを目的とする。
本発明に係る顧客行動分析システムは、商品を顧客に提示する提示領域を撮像した入力画像情報を取得する画像情報取得部と、前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出する動作検出部と、前記検出した結果と前記顧客の前記商品の購入履歴との関係を含む顧客行動分析情報を生成する顧客行動分析情報生成部と、を備えるものである。
本発明に係る顧客行動分析方法は、商品を顧客に提示する提示領域を撮像した入力画像情報を取得し、前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出し、前記検出した結果と前記顧客の前記商品の購入履歴との関係を含む顧客行動分析情報を生成するものである。
本発明に係る顧客行動分析プログラムが格納された非一時的なコンピュータ可読媒体は、商品を顧客に提示する提示領域を撮像した入力画像情報を取得し、前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出し、前記検出した結果と前記顧客の前記商品の購入履歴との関係を含む顧客行動分析情報を生成する、顧客行動分析処理をコンピュータに実行させるためのものである。
本発明に係る棚システムは、商品を顧客に提示するために配置する棚と、前記商品及び前記顧客を撮像した入力画像情報を取得する画像情報取得部と、前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出する動作検出部と、前記検出した結果と前記顧客の前記商品の購入履歴との関係を含む顧客行動分析情報を生成する顧客行動分析情報生成部と、を備えるものである。
本発明によれば、より詳細な顧客の行動を分析することが可能な顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラムが格納された非一時的なコンピュータ可読媒体及び棚システムを提供することができる。
実施の形態に係る顧客行動分析システムの主要な構成を示す構成図である。 実施の形態１に係る顧客行動分析システムの構成を示す構成図である。 実施の形態１に係る３Ｄカメラの構成例を示す図である。 実施の形態１に係る距離画像解析部の構成を示す構成図である。 実施の形態１に係る顧客行動分析システムの動作を示すフローチャートである。 実施の形態１に係る距離画像解析処理の動作を示すフローチャートである。 実施の形態１に係る動作プロファイルの一例を示す図である。 実施の形態１に係る動作プロファイルの解析例を示す図である。 実施の形態１に係る動作プロファイルの解析例を示す図である。 実施の形態２に係る棚システムの構成を示す構成図である。
（実施の形態の概要）
実施の形態の説明に先立って、実施の形態の特徴についてその概要を説明する。図１は、実施の形態に係る顧客行動分析システムの主要な構成を示している。
図１に示すように、実施の形態に係る顧客行動分析システム１０は、画像情報取得部１１、動作検出部１２、顧客行動分析情報生成部１３を備えている。画像情報取得部１１は、商品を顧客に提示する提示領域を撮像した入力画像情報を取得する。動作検出部１２は、入力画像情報に基づいて、顧客が前記商品を把持した状態で、顧客が当該商品の識別表示を見ているか否かを検出する。顧客行動分析情報生成部１３は、検出した結果と顧客の商品の購入履歴との関係を含む顧客行動分析情報を生成する。
このように、実施の形態では、顧客が前記商品を把持した状態で、顧客が商品の識別表示を見ているか否かを検出し、この検出結果に基づいて顧客行動分析情報を生成する。これにより、顧客が商品のラベルなどの識別表示を見たことと商品の購入との関係を分析できるため、例えば、顧客が商品を購入しなかった理由などを把握することができ、より詳細な顧客の行動を分析することができる。
（実施の形態１）
以下、図面を参照して実施の形態１について説明する。図２は、本実施の形態に係る顧客行動分析システムの構成を示している。この顧客行動分析システムは、店舗等において、顧客の商品に対する動作（行動）を検出し、検出した動作を可視化するための動作プロファイル（顧客行動分析情報）を生成し、分析等を行うシステムである。なお、顧客とは、実際に商品を購入する前（購入決断前）の人物（ショッパー）を含み、例えば、店舗に来店（入店）した任意の人物を含む。
図２に示すように、本実施の形態に係る顧客行動分析システム１は、顧客行動分析装置１００、３Ｄカメラ２１０、顔認識カメラ２２０、店内カメラ２３０を備えている。例えば、顧客行動分析システム１の各構成は同一の店舗に設けられているが、顧客行動分析装置１００を店舗の外部に設けてもよい。なお、ここでは、顧客行動分析システム１の各構成を別々の装置として説明するが、各構成を１または任意の数の装置としてもよい。
３Ｄカメラ（３次元カメラ）２１０は、対象を撮像及び計測し、距離画像（距離画像情報）を生成する撮像装置（距離画像センサ）である。距離画像は、対象を撮像した画像情報と、対象までの距離を計測した距離情報を含んでいる。例えば、３Ｄカメラ２１０は、Ｍｉｃｒｏｓｏｆｔ Ｋｉｎｅｃｔ（登録商標）や、ステレオカメラなどで構成される。３Ｄカメラを用いることで、距離情報を含めて対象（顧客の動作など）を認識（トラッキング）できるため、高精度な認識処理を行うことができる。
図３のように、本実施の形態では、３Ｄカメラ２１０は、顧客の商品に対する行動を検出するために、商品３０１が配置（陳列）された商品棚（商品陳列棚）３００を撮像し、さらに、商品棚３００の前で商品３０１を購入しようとしている顧客４００を撮像する。３Ｄカメラ２１０は、商品棚３００の商品配置領域と商品棚３００の前で顧客が商品を手に取る／見る領域、すなわち、商品棚３００が商品を顧客に提示する提示領域を撮像する。３Ｄカメラ２１０は、商品棚３００と、商品棚３００の前の顧客４００が撮像可能な位置、例えば、商品棚３００の上方（天井など）や前方（壁など）、もしくは商品棚３００に設置されている。例えば、商品３００は実物の商品であるが、実物に限らず、サンプル品や、ラベルなどを印刷した印刷物などでもよい。
なお、商品棚３００及び顧客４００を撮像する装置として、３Ｄカメラ２１０の例について説明するが、３Ｄカメラに限らず、撮像した画像のみを出力する一般的なカメラ（２Ｄカメラ）で構成してもよい。この場合、画像情報のみを用いてトラッキングが行われる。
顔認識カメラ２２０及び店内カメラ２３０は、対象を撮像した画像を生成する撮像装置（２Ｄカメラ）である。顔認識カメラ２２０は、顧客の顔を認識するために、店舗の入口などに設置され、来店した顧客の顔を撮像し顔画像を生成する。店内カメラ２３０は、店舗における顧客の動線を検出するために、店内の複数の位置に配置され、店内の各売り場と顧客し店内画像を生成する。なお、顔認識カメラ２２０及び店内カメラ２３０は、３Ｄカメラで構成してもよい。３Ｄカメラとすることで、顧客の顔や顧客の移動経路を精度よく認識できる。
顧客行動分析装置１００は、距離画像解析部１１０、顧客認識部１２０、動線解析部１３０、動作プロファイル生成部１４０、動作情報解析部１５０、解析結果提示部１６０、商品情報ＤＢ（データベース）１７０、顧客情報ＤＢ１８０、動作プロファイル記憶部１９０を備えている。なお、ここでは、これらの各ブロックを顧客行動分析装置１００の機能として説明するが、後述する本実施の形態に係る動作が実現できれば、その他の構成であってもよい。
顧客行動分析装置１００における各構成は、ハードウェア又はソフトウェア、もしくはその両方によって構成され、１つのハードウェア又はソフトウェアから構成してもよいし、複数のハードウェア又はソフトウェアから構成してもよい。例えば、商品情報ＤＢ１７０、顧客情報ＤＢ１８０、動作プロファイル記憶部１９０を外部のネットワーク（クラウド）に接続された記憶装置としてもよい。また、動作情報解析部１５０、解析結果提示部１６０を、顧客行動分析装置１００とは別の解析装置としてもよい。
顧客行動分析装置１００の各機能（各処理）を、ＣＰＵやメモリ等を有するコンピュータにより実現してもよい。例えば、記憶装置に実施の形態における顧客行動分析方法（顧客行動分析処理）を行うための顧客行動分析プログラムを格納し、各機能を、記憶装置に格納された顧客行動分析プログラムをＣＰＵで実行することにより実現してもよい。
この顧客行動分析プログラムは、様々なタイプの非一時的なコンピュータ可読媒体（non-transitory computer readable medium）を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体（tangible storage medium）を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体（例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ）、光磁気記録媒体（例えば光磁気ディスク）、ＣＤ−ＲＯＭ（Read Only Memory）、ＣＤ−Ｒ、ＣＤ−Ｒ／Ｗ、半導体メモリ（例えば、マスクＲＯＭ、ＰＲＯＭ（Programmable ROM）、ＥＰＲＯＭ（Erasable PROM）、フラッシュＲＯＭ、ＲＡＭ（random access memory））を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体（transitory computer readable medium）によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
距離画像解析部１１０は、３Ｄカメラ２１０が生成した距離画像を取得し、取得した距離画像に基づいて検出対象をトラッキング（追跡）し、その動作を認識する。本実施の形態では、距離画像解析部１１０は、主に、顧客の手元、顧客の視線、顧客が手に取った商品をトラッキングし認識する。距離画像解析部１１０は、距離画像に含まれる商品を認識するため商品情報ＤＢ１７０を参照する。また、３Ｄカメラにマイクを備えておき、音声認識部により、マイクに入力された顧客の音声を認識してもよい。例えば、認識した音声に基づいて、顧客の会話の特徴（声の強弱、高低、テンポなど）を抽出して発話者の感情や会話の盛り上がりを検出し、会話の特徴を動作プロファイルとして記録するようにしてもよい。
顧客認識部１２０は、顔認識カメラ２２０が生成した顧客の顔画像を取得し、顧客情報ＤＢ１８０を参照することで、取得した顔画像に含まれる顧客を認識する。また、顔画像から顧客の表情（喜び、驚きなど）を認識し、を動作プロファイルとして記録するようにしてもよい。動線解析部１３０は、店内カメラ２３０が生成した店内画像を取得し、取得した店内画像に基づいて店内における顧客の移動履歴を解析し、顧客の動線（移動経路）を検出する。
動作プロファイル生成部１４０は、距離画像解析部１１０、顧客認識部１２０、動線解析部１３０の検出結果に基づいて、顧客の行動を分析するための動作プロファイル（顧客行動分析情報）生成し、生成した動作プロファイルを動作プロファイル記憶部１９０に格納する。動作プロファイル生成部１４０は、商品情報ＤＢ１７０、顧客情報ＤＢ１８０を参照し、距離画像解析部１１０により顧客が商品を手に取ったことに関連する情報や、顧客認識部１２０が認識した顧客の情報、動線解析部１３０が解析した顧客の動線の情報を生成し記録する。
動作情報解析部１５０は、動作プロファイル記憶部１９０の動作プロファイルを参照し、動作プロファイルに基づいて顧客の動作を分析する。例えば、動作情報解析部１５０は、顧客／店舗／棚／商品のそれぞれに着目して動作プロファイルを解析し、確率や統計データなどを算出する。
解析結果提示部１６０は、動作情報解析部１５０が解析した結果を提示（出力）する。解析結果提示部１６０は、例えば、表示装置などで構成され、店員やマーケティング（販売促進活動）担当者へ、顧客行動分析結果を表示する。店員やマーケティング担当者は、表示された顧客行動分析結果に基づいて、販売が促進されるように店舗の棚割りや広告などを改善する。
商品情報ＤＢ（商品情報記憶部）１７０は、店舗に配置された商品に関連する商品関連情報を記憶する。商品情報ＤＢ１７０は、商品関連情報として、商品識別情報１７１などを記憶する。商品識別情報１７１は、商品を識別するための情報（商品マスタ）であり、例えば、商品コード、商品名、商品の種類、商品ラベルのイメージ情報（画像）などを含む。
顧客情報ＤＢ（顧客情報記憶部）１８０は、来店した顧客に関連する顧客関連情報を記憶する。顧客情報ＤＢ１８０は、顧客関連情報として、顧客識別情報１８１、属性情報１８２、嗜好情報１８３、履歴情報１８４などを記憶する。
顧客識別情報１８１は、顧客を識別するための情報であり、例えば、顧客の会員ＩＤ、氏名、住所、生年月日、顔のイメージ情報（画像）などを含む。属性情報１８２は、顧客の属性を示す情報であり、例えば、年齢、性別、職業などを含む。
嗜好情報１８３は、顧客の嗜好を示す情報であり、例えば、趣味、好きな食べ物、色、音楽、映画などを含む。履歴情報１８４は、顧客の履歴に関する情報であり、例えば、商品を購入した購入履歴、来店した来店履歴、店舗内の移動履歴、商品を手に取った／商品を見たなどの接触履歴（アクセス履歴）などを含む。
動作プロファイル記憶部１９０は、動作プロファイル生成部１４０が生成した動作プロファイルを記憶する。動作プロファイルは、顧客の行動を可視化し分析するための情報である。行動の可視化とは、行動をデータ化（数値化）することであり、顧客が店舗に入ってから店舗を出るまでの動作をデータとして、動作プロファイルに記録する。すなわち、動作プロファイルには、来店した顧客を記録する来店記録情報１９１、顧客が棚の商品に接触したことを記録する商品記録情報１９２、顧客が店内の売り場を移動する動線を記録する動線記録情報１９３が含まれる。
図４は、顧客行動分析装置１００の距離画像解析部１１０の構成を示している。図４に示すように、距離画像解析部１１０は、距離画像取得部１１１、領域検出部１１２、手元トラッキング部１１３、手元動作認識部１１４、視線トラッキング部１１５、視線動作認識部１１６、商品トラッキング部１１７、商品認識部１１８を備えている。
距離画像取得部１１１は、３Ｄカメラ２１０が撮像し生成した顧客及び商品を含む距離画像を取得する。領域検出部１１２は、距離画像取得部１１１が取得した距離画像に含まれる顧客の各部の領域や商品の領域を検出する。
手元トラッキング部１１３は、領域検出部１１２が検出した顧客の手元（手）の動作をトラッキングする。手元動作認識部１１４は、手元トラッキング部１１３がトラッキングした手元（手）の動作に基づいて、商品に対する顧客の動作を認識する。手元動作認識部１１４は、例えば、商品を把持した状態で手のひらを顔の方向に向けた場合、顧客が当該商品を手に取って見たと判断する。商品を把持した状態において、商品によって手が隠れていてカメラに撮像されない場合には、把持されている商品の位置・方向やその変化を検知することで、客が当該商品を手に取って見たと判断してもよい。
視線トラッキング部１１５は、領域検出部１１２が検出した顧客の視線（目）の動作をトラッキングする。視線動作認識部１１６は、視線トラッキング部１１５が検出した視線（目）の動作に基づいて、顧客の商品に対する動作を認識する。視線動作認識部１１６は、視線の方向に商品が配置されている場合、顧客が当該商品を見たと判断し、また、視線の方向が商品のラベルに向かっている場合、顧客が当該商品のラベルを見たと判断する。
商品トラッキング部１１７は、領域検出部１１２が検出した商品の動作（状態）をトラッキングする。商品トラッキング部１１７は、手元動作認識部１１４で顧客が手に取ったと判断した商品や、視線動作認識部１１６で顧客が見たと判断した商品をトラッキングする。商品認識部１１８は、商品トラッキング部１１７がトラッキングした商品について、商品情報ＤＢ１７０を参照し、どの商品に該当するか識別する。商品認識部１１８は、検出した商品のラベルと、商品情報ＤＢ１７０に記憶された商品識別情報１７１のラベルのイメージ情報とを比較し、マッチング（一致）を行うことで、商品を認識する。また、商品認識部１１８は、棚の配置位置と商品との関係を商品情報ＤＢ１７０に記憶しておき、顧客が手に取った商品、または、顧客が見た商品の棚の位置に基づいて商品を識別する。
次に、図５を用いて、本実施の形態に係る顧客行動分析システム（顧客行動分析装置）で実行される顧客行動分析方法（顧客行動分析処理）について説明する。
図５に示すように、まず、顧客が店舗に入り、店舗内の棚に近づく（Ｓ１０１）。そうすると、店舗内の顔認識カメラ２２０が、顧客の顔撮像を生成し、顧客行動分析装置１００が、顔画像に基づいて年齢・性別等の顧客属性や顧客ＩＤを認識する（Ｓ１０２）。すなわち、顧客行動分析装置１００の顧客認識部１２０は、顧客情報ＤＢ１８０に記憶された顧客識別情報１８１の顔のイメージ情報と、顔認識カメラ２２０が撮像した顔画像とを比較し、マッチング（一致）する顧客を検索することで、顧客を認識し、顧客識別情報１８１から認識した顧客の顧客属し、顧客ＩＤを取得する。
続いて、顧客が棚に配置された商品を手に取る（Ｓ１０３）。そうすると、棚近傍の３Ｄカメラ２１０が顧客の手元を撮像し、顧客行動分析装置１００が、３Ｄカメラ２１０の距離画像により顧客の手元の動きと商品種別を認識する（Ｓ１０４）。すなわち、顧客行動分析装置１００の距離画像解析部１１０は、顧客の手元（視線）及び商品を撮像した距離画像をトラッキングし、顧客が商品を手に取って見た（顧客が商品を見た）動作を検出するとともに、商品情報ＤＢ１７０を参照してマッチング（一致）する商品し、顧客が手に取って見た商品（顧客が見た商品）を認識する。また、距離画像解析部１１０は、顧客が商品のどこを見ているか、特に商品のラベルを見ているか否か認識する。
続いて、顧客が手に取った商品をカゴに入れる、または、商品を棚に戻す（Ｓ１０５）。そうすると、顧客行動分析装置１００は、顧客が商品を手に取った場合と同様に、３Ｄカメラ２１０の距離画像により顧客の手元の動きと商品種別を認識する（Ｓ１０４）。すなわち、顧客行動分析装置１００の距離画像解析部１１０は、顧客の手元及び商品を撮像した距離画像をトラッキングし、顧客が商品をカゴに入れた動作、または、商品を棚に戻した動作を検出する。顧客が商品を手に取った場合と同様に商品を認識してもよいし、既に商品を認識しているため、商品の認識動作を省略してもよい。
続いて、顧客が他の売り場へ移動する（Ｓ１０６）。そうすると、店内カメラ２３０が顧客の売り場間の移動を撮像し、顧客行動分析装置１００が、他の売り場での購買行動を把握する（Ｓ１０７）。すなわち、顧客行動分析装置１００の動線解析部１３０は、複数の売り場の画像に基づいて、顧客の移動履歴を解析し、顧客の導線を検出することで、顧客の購買行動を把握する。その後、Ｓ１０３以降が繰り返され、顧客が移動先の売り場で商品を手に取ると、顧客行動分析装置１００が顧客の動作を検出する。
Ｓ１０２、Ｓ１０４、Ｓ１０７に続いて、顧客行動分析装置１００は、認識した顧客情報、商品情報、動線情報などに基づいて動作プロファイルを生成し（Ｓ１０８）、生成された動作プロファイルを分析して、購買行動を解析し通知等を行う（Ｓ１０９）。すなわち、顧客行動分析装置１００の動作プロファイル生成部１４０は、認識した顧客情報と時刻等とを関連づけ、顧客が手に取って見た商品と時刻等とを関連づけ、顧客が移動した場所と時刻等とを関連づけて動作プロファイルを生成する。さらに、動作情報解析部１５０は、動作プロファイルにおける顧客の行動の確率、統計などを算出し、解析結果を提示する。
図６は、図５のＳ１０４における距離画像解析部１１０で実行される認識処理（トラッキング処理）の詳細を示している。なお、図６の処理は一例であり、その他の画像解析処理により、手元の動作、視線の動作、商品を認識してもよい。
図６に示すように、まず、距離画像取得部１１１は、３Ｄカメラ２１０から顧客及び商品を含む距離画像を取得する（Ｓ２０１）。続いて、領域検出部１１２は、Ｓ２０１で取得した距離画像に含まれる人物及び棚を検出し（Ｓ２０２）、さらに人物及び棚の各領域を検出する（Ｓ２０３）。例えば、領域検出部１１２は、ＳＶＭ（Support Vector Machine）などの識別器を用いて、距離画像に含まれる画像及び距離に基づき、人物（顧客）を検出し、検出した人物の関節を推定することで、人物の骨格を検出する。領域検出部１１２は、検出した骨格に基づいて、人物の手（手元）などの各部の領域を検出する。また、領域検出部１１２は、識別器を用いて、距離画像に含まれる画像及び距離に基づき、棚及び棚の各段を検出し、さらに各棚上の商品の配置領域を検出する。
続いて、手元トラッキング部１１３は、Ｓ２０３で検出した顧客の手元の動作をトラッキングする（Ｓ２０４）。手元トラッキング部１１３は、距離画像に含まれる画像及び距離に基づき、顧客の手の周辺の骨格をトラッキングし、手の指や手のひらの動作を検出する。
続いて、手元動作認識部１１４は、Ｓ２０４でトラッキングした手元の動作に基づいて、手元の動作の特徴を抽出し（Ｓ２０５）、抽出した特徴に基づいて商品に対する顧客の手元の動作、すなわち、商品を把持している動作、商品を見ている動作を認識する（Ｓ２０６）。手元動作認識部１１４は、指、手のひら（手首）の向き、角度、移動量の変化を特徴量として抽出する。例えば、手元動作認識部１１４は、指の角度から顧客が商品を握っていることを検出し、手のひらの法線方向が顔に向かっている場合、顧客が商品を見ていることを検出する。また、商品を握っている状態や商品を手に取って見ている状態を予め学習しておき、学習した特徴量と比較することで、手元の状態を識別してもよい。
Ｓ２０３に続いて、視線トラッキング部１１５は、Ｓ２０３で検出した顧客の視線の動作をトラッキングする（Ｓ２０７）。視線トラッキング部１１５は、距離画像に含まれる画像及び距離に基づいて、顧客の顔周辺の骨格をトラッキングし、顔、目、瞳孔の動作を検出する。
続いて、視線動作認識部１１６は、Ｓ２０７でトラッキングした視線の動作に基づいて、視線の動作の特徴を抽出し（Ｓ２０８）、抽出した特徴に基づいて商品に対する顧客の視線の動作、すなわち、顧客が商品（ラベル）を見ている動作を認識する（Ｓ２０９）。視線動作認識部１１６は、顔、目、瞳孔の向き、角度、移動量の変化を特徴量として抽出する。例えば、視線動作認識部１１６は、顔、目、瞳孔の向きから視線の方向を検出し、視線の方向が商品（ラベル）に向いているか否かを検出する。また、商品を見ている状態を予め学習しておき、学習した特徴量と比較することで、視線の状態を識別してもよい。
Ｓ２０３に続いて、商品トラッキング部１１７は、Ｓ２０３で検出した商品の動作（状態）をトラッキングする（Ｓ２１０）。また、商品トラッキング部１１７は、Ｓ２０６で顧客が手に取ったと判断した商品や、Ｓ２０９で顧客が見たと判断した商品をトラッキングする。商品トラッキング部１１７は、距離画像に含まれる画像及び距離に基づいて、商品のラベルの向き、位置などを検出する。
続いて、商品認識部１１８は、Ｓ２１０でトラッキングした商品について、商品の特徴を抽出し（Ｓ２１１）、抽出した特徴に基づき、商品情報ＤＢ１７０から該当する商品を判断する（Ｓ２１２）。商品認識部１１８は、商品のラベルの文字や画像を特徴量として抽出する。例えば、商品認識部１１８は、抽出したラベルの特徴量と、商品情報ＤＢ１７０のラベルの特徴量とを比較し、特徴量が一致するあるいは２つの特徴量が近似（類似）する商品を識別する。また、棚の配置位置と商品との関係を商品情報ＤＢ１７０に記憶している場合には、距離画像に含まれる画像及び距離に基づいて、顧客が手に取った、または、顧客が見た商品の棚の位置を取得し、棚の位置を商品情報ＤＢ１７０から検索することで、該当する商品を検出する。
図７は、図５のＳ１０８における動作プロファイル生成部１４０で生成される動作プロファイルの一例を示している。
顧客が来店し顔認識カメラ２２０の顔画像に基づいて、顧客認識部１２０が顧客を認識すると（図５のＳ１０２）、動作プロファイル生成部１４０は、動作プロファイルとして、図７のような来店記録情報１９１を生成し記録する。例えば、来店記録情報１９１として、認識した顧客を識別する顧客ＩＤを記録し、顧客ＩＤと来店時刻を関連づけて記録する。
また、顧客が棚に近づき３Ｄカメラ２１０の距離画像に基づいて、距離画像解析部１１０が、顧客が商品を手に取った動作や、顧客が商品をカゴに入れた動作、商品を棚に戻した動作を認識すると（図５のＳ１０４）、動作プロファイル生成部１４０は、動作プロファイルとして、図７のような商品記録情報（商品接触情報）１９２を生成し記録する。
例えば、商品記録情報１９２として、認識した棚を識別する棚ＩＤを記録し、顧客が棚に近づいた動作と棚に近づいた時刻を関連付けて記録し、同様に、顧客が棚から離れた動作と棚から離れた時刻を関連付けて記録する。
また、顧客が手に取ったと認識した商品を識別する商品ＩＤを記録し、商品ＩＤと認識した動作とを関連付けて記録する。顧客が商品を手に取ったことを認識すると、商品ＩＤと手に取った動作、手に取った時刻を関連付けて記録する。顧客が商品のラベルを見た（商品を手にとってラベルを見た）ことを認識すると、商品ＩＤとラベルを見た動作、ラベルを見た時刻を関連付けて記録する。顧客が商品をカゴ（ショッピングカートやショッピングうバスケット）に入れたことを認識すると、商品ＩＤとカゴに入れた動作、カゴに入れた時刻を関連付けて記録する。顧客が商品を棚に戻したことを認識すると、商品ＩＤと棚に戻した動作、棚に戻した時刻を関連付けて記録する。例えば、顧客が商品をカゴに入れたことを検出することで、顧客が商品を購入したこと（購入結果）を把握できる。また、顧客が商品を棚に戻したことを検出することで、顧客が商品を購入しなかったこと（購入結果）を把握できる。
さらに、顧客が移動し店内カメラ２３０の店内画像に基づいて、動線解析部１３０が顧客の導線を解析すると（図５のＳ１０７）、動作プロファイル生成部１４０は、動作プロファイルとして、図７のような動線記録情報１９３を生成し記録する。例えば、動線記録情報１９３として、認識した顧客が通過した売り場（または棚）を識別する売り場（または棚）ＩＤを記録し、売り場（または棚）ＩＤと通過時刻とを関連付けて記録する。
図８は、図５のＳ１０９における動作情報解析部１５０における動作プロファイルの解析結果の一例を示している。図８に示すように、動作情報解析部１５０は、図７の動作プロファイルを解析し、例えば、棚ごとに統計情報を分析した棚分析情報を生成する。
動作情報解析部１５０は、動作プロファイルの全ての顧客に関する商品記録情報１９２を集計し、棚を識別する棚ＩＤごとに、顧客が棚に立ち止った確率及び棚に立ち止った平均時間を生成する。
また、棚に配置された商品を識別する商品ＩＤごとに、顧客が商品を手に取った確率及び商品を手に取った平均時間（持っている時間）、顧客が商品のラベルを見た確率及び商品のラベルを見た平均時間（見ている時間）、顧客が商品をカゴに入れた確率及び商品をカゴに入れた平均時間（見てからカゴに入れるまでの時間）、顧客が商品を棚に戻した確率及び商品を棚に戻した平均時間（見てから棚に戻すまでの時間）を生成する。
図９は、図５のＳ１０９における動作情報解析部１５０における動作プロファイルの解析結果の他の例を示している。図９に示すように、動作情報解析部１５０は、図７の動作プロファイルを解析し、例えば、顧客ごとに統計情報を分析した顧客分析情報を生成する。
動作情報解析部１５０は、動作プロファイルの来店記録情報１９１、商品記録情報１９２を顧客ごとに集計する。例えば、各顧客について、図８と同様に、棚ＩＤごとに立ち止った確率及び平均時間、商品ＩＤごとに、手に取った確率及び平均時間、ラベルを見た確率及び平均時間、カゴに入れた確率及び平均時間、棚に戻した確率及び平均時間を生成する。
さらに、動作情報解析部１５０は、動作プロファイルと顧客の嗜好情報とを比較し、相関性（関連性）を分析する。すなわち、動作プロファイルの各商品に対する動作が、顧客の嗜好に一致しているかどうか判定する。例えば、顧客が好みの商品を手に取った、または購入した（カゴに入れた）場合、一致している（相関している）と判断し、顧客が好みの商品を購入しなかった（棚に戻した）場合、一致していない（相関していない）と判断する。顧客の行動と顧客の嗜好等が一致しないことにより、顧客が商品を購入しなかった理由を分析することができる。例えば、顧客がラベルを見た後に、顧客が好みの商品を購入しない場合、ラベルの表示方法等に問題があると推定される。また、顧客が好みの商品を手に取らず興味を示さない場合、商品の配置方法等に問題があると推定される。
図９の例では、手に取った動作、ラベルを見た動作、カゴに入れた動作、棚に戻した動作のそれぞれについて、顧客情報ＤＢ１８０の属性情報１８２との相関、顧客情報ＤＢ１８０の嗜好情報１８３との相関、顧客情報ＤＢ１８０の履歴情報１８４との相関を判定する。
以上のように、本実施の形態では、商品棚とその前の顧客（ショッパー）が見える位置に配置した３Ｄカメラにより顧客の手元の動きを観察し、どの商品を手に取ったかを認識する。そして、商品を手にとった時点の位置（商品棚の位置と棚内の棚位置）や時刻、商品ＩＤ等の商品を特定する情報を記録・分析し、結果を表示または通知する。
これにより、顧客の商品に対する動作を詳細に検出し分析（可視化）することができるため、顧客の購買前行動を商品配置や広告等の販売方法の改善に活かすことができ、売上アップが実現することができる。具体的な効果は次の通りである。
例えば、どの棚の何段目が顧客によく触られているかが把握できるため、この情報を活用して、商品配置（棚割り）を改善することができる。顧客が棚のどの深さから商品を取っているか把握できるため、棚の後ろから商品を取っている場合に陳列品の補充が必要であると判断できる。
また、チラシや広告の効果を、チラシや広告の実行前と実行後における商品を手にとった頻度を比べることで、その効果測定し、通知することができる。また、顧客が商品の前に来てから、購買の意思決定をするまでの購買前プロセス情報（商品のどこを見て、購買に至ったのか／至らなかったのか、カゴに入れるまでどれぐらい見たか／迷ったか、野菜など、客はどこを見て比べているか等）を商品のメーカに知らせたり、販売することができる。
また、顧客が手にとった商品を元とは異なる場所に戻したことを記録し、従業員に通知して元の状態に戻すことができる。その他、店員の業務（検品、商品の補充等）を可視化し、業務の確実な遂行や冗長な業務の見直しにつなげることができる。例えば、商品棚での商品の配置誤りや非効率的配置を改善したり、店員の冗長な業務や、検品の重複など複数店員の連携の改善することができる。
さらに、売り場間や店舗間での行動追跡を活用することで、買うときの動作と売り場間の動線の改善に活用することができる。例えば、店舗Ａで買わず店舗Ｂで買われたという理由を分析することができる。
また、弁当屋、ラーメン店、アイスクリーム店等のトッピング作業が注文通りに行われているかを認識し、間違っている場合は従業員に知らせることができる。
（実施の形態２）
以下、図面を参照して実施の形態２について説明する。本実施の形態では、実施の形態１を１つの棚システムに適用した例について説明する。図１０は、本実施の形態に係る棚システムの構成を示している。
図８に示すように、本実施の形態に係る棚システム２は、商品棚３００を備えている。商品棚３００は、図３などのように、商品３０１を配置する棚である。本実施の形態では、この商品棚３００に、実施の形態１で説明した、３Ｄカメラ２１０、距離画像解析部１１０、動作プロファイル生成部１４０、動作情報解析部１５０、解析結果提示部１６０、商品情報ＤＢ１７０、動作プロファイル記憶部１９０を備えている。なお、必要に応じて顔認識カメラ２２０、顧客認識部１２０、顧客情報ＤＢ１８０を備えてもよい。
動作プロファイル生成部１４０、距離画像解析部１１０の検出結果に基づいて、顧客の行動を分析するための動作プロファイルを生成する。動作プロファイルには、顧客が棚の商品に接触したことを記録する商品記録情報１９２が含まれる。
すなわち、本実施の形態では、顧客が棚システム２に近づき顧客が商品を手に取ると、棚システム２の距離画像解析部１１０が、顧客の手元の動作を認識し、動作プロファイル生成部１４０が、動作プロファイルとして、商品記録情報１９２（図７と同様）を生成し記録する。さらに、動作情報解析部１５０は、動作プロファイルを解析することで、棚システムについての統計情報を分析した棚分析情報を生成する（図８と同様）。
このように、本実施の形態では、１つの商品棚において、実施の形態１における主要な構成を備えることとした。これにより、実施の形態１と同様に、顧客の商品に対する詳細な動作を検出し、顧客の動作を分析することができる。
さらに、本実施の形態は、１つの商品棚のみで実現可能であるため、棚以外の装置やシステムが不要である。したがって、ＰＯＳシステムやネットワークなど高度なシステムが無い店舗においても、簡易にシステムを導入することが可能である。
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
以上、実施の形態を参照して本願発明を説明したが、本願発明は上記によって限定されるものではない。本願発明の構成や詳細には、発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、２０１３年９月６日に出願された日本出願特願２０１３−１８５１３１を基礎とする優先権を主張し、その開示の全てをここに取り込む。
１ 顧客行動分析システム
２ 棚システム
１０ 顧客行動分析システム
１１ 画像情報取得部
１２ 動作検出部
１３ 顧客行動分析情報生成部
１００ 顧客行動分析装置
１１０ 距離画像解析部
１１１ 距離画像取得部
１１２ 領域検出部
１１３ 手元トラッキング部
１１４ 手元動作認識部
１１５ 視線トラッキング部
１１６ 視線動作認識部
１１７ 商品トラッキング部
１１８ 商品認識部
１２０ 顧客認識部
１３０ 動線解析部
１４０ 動作プロファイル生成部
１５０ 動作情報解析部
１６０ 解析結果提示部
１７０ 商品情報ＤＢ
１７１ 商品識別情報
１８０ 顧客情報ＤＢ
１８１ 顧客識別情報
１８２ 属性情報
１８３ 嗜好情報
１８４ 履歴情報
１９０ 動作プロファイル記憶部
１９１ 来店記録情報
１９２ 商品記録情報
１９３ 動線記録情報
２１０ ３Ｄカメラ
２２０ 顔認識カメラ
２３０ 店内カメラ
３００ 商品棚
３０１ 商品
４００ 顧客

Claims (17)

  1. 商品を顧客に提示する提示領域を撮像した入力画像情報を取得する画像情報取得手段と、
    前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出する動作検出手段と、
    前記動作検出手段により検出した結果と前記顧客の前記商品の購入結果との関係を含む顧客行動分析情報を生成する顧客行動分析情報生成手段と、
    を備える顧客行動分析システム。
  2. 前記入力画像情報は、対象を撮像した画像情報と前記対象までの距離を計測した距離情報を含む距離画像情報である、
    請求項１に記載の顧客行動分析システム。
  3. 前記動作検出手段は、前記顧客の手の動作をトラッキングし、前記顧客の手が前記商品に接触している場合、前記顧客が前記商品を把持していると判断する、
    請求項１または２に記載の顧客行動分析システム。
  4. 前記動作検出手段は、前記顧客の視線の動作をトラッキングし、前記顧客の視線が前記商品の識別表示へ向いている場合、前記顧客が前記商品を見ていると判断する、
    請求項１乃至３のいずれか一項に記載の顧客行動分析システム。
  5. 前記商品の識別表示は、前記商品の特性情報を含むラベルである、
    請求項１乃至４のいずれか一項に記載の顧客行動分析システム。
  6. 前記顧客を認識する顧客認識手段を備え、
    前記顧客行動分析情報生成手段は、前記顧客行動分析情報として、前記認識した顧客に関する情報を生成する、
    請求項１乃至５のいずれか一項に記載の顧客行動分析システム。
  7. 前記顧客の動線を解析する動線解析手段を備え、
    前記顧客行動分析情報生成手段は、前記顧客行動分析情報として、前記解析した顧客の動線に関する情報を生成する、
    請求項１乃至６のいずれか一項に記載の顧客行動分析システム。
  8. 前記商品の購入結果は、前記顧客が前記商品をショッピングカートまたはショッピングバスケットへ入れたか否かを含む、
    請求項１乃至７のいずれか一項に記載の顧客行動分析システム。
  9. 前記商品の購入結果は、前記顧客が前記商品を、当該商品の配置位置へ戻したか否かを含む、
    請求項１乃至８のいずれか一項に記載の顧客行動分析システム。
  10. 前記生成された顧客行動分析情報に基づいて、前記顧客の行動を分析する顧客行動分析手段を備える、
    請求項１乃至９のいずれか一項に記載の顧客行動分析システム。
  11. 前記顧客行動分析手段は、前記顧客が前記商品の識別表示を見た確率、前記顧客が前記商品を購入した確率を求める、
    請求項１０に記載の顧客行動分析システム。
  12. 前記顧客の嗜好情報を記憶する顧客嗜好情報記憶手段を備え、
    前記顧客行動分析手段は、前記顧客行動分析情報と前記顧客の嗜好情報との相関性を判定する、
    請求項１０または１１に記載の顧客行動分析システム。
  13. 前記顧客の属性情報を記憶する顧客属性情報記憶手段を備え、
    前記顧客行動分析手段は、前記顧客行動分析情報と前記顧客の属性情報との相関性を判定する、
    請求項１０乃至１２のいずれか一項に記載の顧客行動分析システム。
  14. 前記顧客の購入履歴情報を記憶する購入履歴情報記憶手段を備え、
    前記顧客行動分析手段は、前記顧客行動分析情報と前記顧客の購入履歴情報との相関性を判定する、
    請求項１０乃至１３のいずれか一項に記載の顧客行動分析システム。
  15. コンピュータが、
    商品を顧客に提示する提示領域を撮像した入力画像情報を取得し、
    前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出し、
    前記検出した結果と前記顧客の前記商品の購入結果との関係を含む顧客行動分析情報を生成する、
    顧客行動分析方法。
  16. 商品を顧客に提示する提示領域を撮像した入力画像情報を取得し、
    前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出し、
    前記検出した結果と前記顧客の前記商品の購入結果との関係を含む顧客行動分析情報を生成する、
    顧客行動分析処理をコンピュータに実行させるための顧客行動分析プログラム。
  17. 商品を顧客に提示するために配置する棚と、
    前記商品及び前記顧客を撮像した入力画像情報を取得する画像情報取得手段と、
    前記入力画像情報に基づいて、前記顧客が前記商品を把持した状態で、前記顧客が当該商品の識別表示を見ているか否かを検出する動作検出手段と、
    前記動作検出手段により検出した結果と前記顧客の前記商品の購入結果との関係を含む顧客行動分析情報を生成する顧客行動分析情報生成手段と、
    を備える棚システム。
JP2015535322A 2013-09-06 2014-09-05 顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラム及び棚システム Active JP6529078B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013185131 2013-09-06
JP2013185131 2013-09-06
PCT/JP2014/004585 WO2015033577A1 (ja) 2013-09-06 2014-09-05 顧客行動分析システム、顧客行動分析方法、非一時的なコンピュータ可読媒体及び棚システム

Publications (2)

Publication Number Publication Date
JPWO2015033577A1 JPWO2015033577A1 (ja) 2017-03-02
JP6529078B2 true JP6529078B2 (ja) 2019-06-12

Family

ID=52628073

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015535322A Active JP6529078B2 (ja) 2013-09-06 2014-09-05 顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラム及び棚システム

Country Status (4)

Country Link
US (1) US20160203499A1 (ja)
JP (1) JP6529078B2 (ja)
CN (1) CN105518734A (ja)
WO (1) WO2015033577A1 (ja)

Families Citing this family (113)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6197952B2 (ja) * 2014-05-12 2017-09-20 富士通株式会社 商品情報出力方法、商品情報出力プログラムおよび制御装置
JP6399096B2 (ja) 2014-09-11 2018-10-03 日本電気株式会社 情報処理装置、表示方法およびコンピュータプログラム
US11851279B1 (en) * 2014-09-30 2023-12-26 Amazon Technologies, Inc. Determining trends from materials handling facility information
US10552750B1 (en) 2014-12-23 2020-02-04 Amazon Technologies, Inc. Disambiguating between multiple users
US10475185B1 (en) 2014-12-23 2019-11-12 Amazon Technologies, Inc. Associating a user with an event
US10438277B1 (en) 2014-12-23 2019-10-08 Amazon Technologies, Inc. Determining an item involved in an event
JP6729553B2 (ja) * 2015-03-16 2020-07-22 日本電気株式会社 システム、画像認識方法、および、プログラム
JP6648408B2 (ja) * 2015-03-23 2020-02-14 日本電気株式会社 商品登録装置、プログラム、及び制御方法
JP6145850B2 (ja) * 2015-06-02 2017-06-14 パナソニックＩｐマネジメント株式会社 人物行動分析装置、人物行動分析システムおよび人物行動分析方法
US9767564B2 (en) * 2015-08-14 2017-09-19 International Business Machines Corporation Monitoring of object impressions and viewing patterns
US10839196B2 (en) * 2015-09-22 2020-11-17 ImageSleuth, Inc. Surveillance and monitoring system that employs automated methods and subsystems that identify and characterize face tracks in video
JP2017076338A (ja) * 2015-10-16 2017-04-20 ソニー株式会社 情報処理装置、および情報処理方法、ウェアラブル端末、並びにプログラム
US10915910B2 (en) * 2015-12-09 2021-02-09 International Business Machines Corporation Passive analysis of shopping behavior in a physical shopping area using shopping carts and shopping trays
US10937039B2 (en) * 2016-01-21 2021-03-02 International Business Machines Corporation Analyzing a purchase decision
US10360572B2 (en) * 2016-03-07 2019-07-23 Ricoh Company, Ltd. Image processing system, method and computer program product for evaluating level of interest based on direction of human action
JP6665927B2 (ja) * 2016-03-23 2020-03-13 日本電気株式会社 行動分析装置、行動分析システム、行動分析方法及びプログラム
JP6662141B2 (ja) * 2016-03-25 2020-03-11 富士ゼロックス株式会社 情報処理装置及びプログラム
US10497014B2 (en) * 2016-04-22 2019-12-03 Inreality Limited Retail store digital shelf for recommending products utilizing facial recognition in a peer to peer network
JP6345729B2 (ja) * 2016-04-22 2018-06-20 Ｃｏｃｏｒｏ Ｓｂ株式会社 応対データ収集システム、顧客応対システム及びプログラム
CN105930886B (zh) * 2016-04-22 2019-04-12 西安交通大学 一种基于临近状态探测的商品关联性挖掘方法
EP3454698B1 (en) * 2016-05-09 2024-04-17 Grabango Co. System and method for computer vision driven applications within an environment
JP6219448B1 (ja) * 2016-05-16 2017-10-25 Ｃｏｃｏｒｏ Ｓｂ株式会社 顧客応対制御システム、顧客応対システム及びプログラム
TWI578272B (zh) * 2016-05-18 2017-04-11 Chunghwa Telecom Co Ltd Shelf detection system and method
JP6575833B2 (ja) * 2016-07-05 2019-09-18 パナソニックＩｐマネジメント株式会社 シミュレーション装置、シミュレーションシステム、及びシミュレーション方法
JP6810561B2 (ja) * 2016-09-14 2021-01-06 Ｓｂクリエイティブ株式会社 購買支援システム
JP2018055248A (ja) * 2016-09-27 2018-04-05 ソニー株式会社 情報収集システム、電子棚札、電子ｐｏｐ、文字情報表示装置
CN106408346A (zh) * 2016-09-30 2017-02-15 重庆智道云科技有限公司 一种基于物联网和大数据的实体场所行为分析***及方法
WO2018110077A1 (ja) * 2016-12-15 2018-06-21 日本電気株式会社 情報処理装置、情報処理方法および情報処理プログラム
FR3061791A1 (fr) * 2017-01-12 2018-07-13 Openfield Systeme et procede de gestion de relations avec des clients presents dans un espace connecte
WO2018151008A1 (ja) 2017-02-14 2018-08-23 日本電気株式会社 画像認識システム、画像認識方法及び記録媒体
JP6862888B2 (ja) * 2017-02-14 2021-04-21 日本電気株式会社 画像認識装置、システム、方法およびプログラム
JP6812268B2 (ja) 2017-02-21 2021-01-13 東芝テック株式会社 情報処理装置およびプログラム
CN107103503B (zh) * 2017-03-07 2020-05-12 阿里巴巴集团控股有限公司 一种订单信息确定方法和装置
US11494729B1 (en) * 2017-03-27 2022-11-08 Amazon Technologies, Inc. Identifying user-item interactions in an automated facility
US11087271B1 (en) 2017-03-27 2021-08-10 Amazon Technologies, Inc. Identifying user-item interactions in an automated facility
US11238401B1 (en) 2017-03-27 2022-02-01 Amazon Technologies, Inc. Identifying user-item interactions in an automated facility
WO2018179361A1 (ja) * 2017-03-31 2018-10-04 日本電気株式会社 画像処理装置、画像処理方法、および記録媒体
JP6791362B2 (ja) * 2017-03-31 2020-11-25 日本電気株式会社 画像処理装置、画像処理方法、およびプログラム
US11200692B2 (en) 2017-08-07 2021-12-14 Standard Cognition, Corp Systems and methods to check-in shoppers in a cashier-less store
CN208957427U (zh) 2017-08-16 2019-06-11 图灵通诺（北京）科技有限公司 结算装置用货架
WO2019033635A1 (zh) * 2017-08-16 2019-02-21 图灵通诺（北京）科技有限公司 结算方法、装置和***
JP6904421B2 (ja) * 2017-08-25 2021-07-14 日本電気株式会社 店舗装置、店舗管理方法、プログラム
CN109509304A (zh) * 2017-09-14 2019-03-22 阿里巴巴集团控股有限公司 自动售货机及其控制方法、装置及计算机***
JP7122689B2 (ja) * 2017-10-03 2022-08-22 パナソニックＩｐマネジメント株式会社 情報提示システム
US11410216B2 (en) 2017-11-07 2022-08-09 Nec Corporation Customer service assistance apparatus, customer service assistance method, and computer-readable recording medium
US20190147228A1 (en) * 2017-11-13 2019-05-16 Aloke Chaudhuri System and method for human emotion and identity detection
US20190156270A1 (en) * 2017-11-18 2019-05-23 Walmart Apollo, Llc Distributed Sensor System and Method for Inventory Management and Predictive Replenishment
CN107944960A (zh) * 2017-11-27 2018-04-20 深圳码隆科技有限公司 一种无人售货方法和设备
WO2019111501A1 (ja) * 2017-12-04 2019-06-13 日本電気株式会社 画像処理装置
JP6965713B2 (ja) * 2017-12-12 2021-11-10 富士フイルムビジネスイノベーション株式会社 情報処理装置及びプログラム
CN108332829A (zh) 2017-12-18 2018-07-27 上海云拿智能科技有限公司 基于重量监测的货品感知***及货品感知方法
JP6821009B2 (ja) * 2017-12-25 2021-01-27 ▲図▼▲霊▼通▲諾▼（北京）科技有限公司Ｙｉ Ｔｕｎｎｅｌ （Ｂｅｉｊｉｎｇ） Ｔｅｃｈｎｏｌｏｇｙ Ｃｏ．，Ｌｔｄ． 会計方法、装置及びシステム
CN108230102A (zh) * 2017-12-29 2018-06-29 深圳正品创想科技有限公司 一种商品关注度调整方法及装置
CN108198030A (zh) * 2017-12-29 2018-06-22 深圳正品创想科技有限公司 一种手推车控制方法、装置及电子设备
CN110070381A (zh) * 2018-01-24 2019-07-30 北京京东金融科技控股有限公司 用于检测货柜商品状态的***、方法及装置
CN108460933B (zh) * 2018-02-01 2019-03-05 王曼卿 一种基于图像处理的管理***及方法
JP7062985B2 (ja) * 2018-02-06 2022-05-09 コニカミノルタ株式会社 顧客行動分析システムおよび顧客行動分析方法
CN108364047B (zh) * 2018-02-11 2022-03-22 京东方科技集团股份有限公司 电子价签、电子价签***及数据处理方法
JP2019144621A (ja) * 2018-02-16 2019-08-29 富士通フロンテック株式会社 商品情報分析方法および情報処理システム
JP7147835B2 (ja) * 2018-02-20 2022-10-05 株式会社ソシオネクスト 表示制御装置、表示制御システム、表示制御方法、及びプログラム
TWI685804B (zh) * 2018-02-23 2020-02-21 神雲科技股份有限公司 促銷訊息播送方法
US11443503B2 (en) 2018-03-09 2022-09-13 Nec Corporation Product analysis system, product analysis method, and product analysis program
JP7148950B2 (ja) * 2018-03-15 2022-10-06 Ｎｅｃプラットフォームズ株式会社 サーバー装置、商業施設内情報システムおよび行動履歴の提示方法
CN110322300B (zh) * 2018-03-28 2024-06-18 北京京东尚科信息技术有限公司 数据处理方法及装置、电子设备、存储介质
CN108647242B (zh) * 2018-04-10 2022-04-29 北京天正聚合科技有限公司 一种热力图的生成方法和***
US10430841B1 (en) * 2018-04-12 2019-10-01 Capital One Services, Llc Systems for determining customer interest in goods
CN110400161A (zh) * 2018-04-25 2019-11-01 鸿富锦精密电子(天津)有限公司 顾客行为分析方法、顾客行为分析***及存储装置
WO2019207795A1 (ja) * 2018-04-27 2019-10-31 株式会社ウフル 行動関連情報提供システム、行動関連情報の提供方法、プログラム、およびカメラ
EP3794577B1 (en) * 2018-05-16 2024-05-08 Conex Digital LLC Smart platform counter display system and method
JP6598321B1 (ja) * 2018-05-21 2019-10-30 Ｎｅｃプラットフォームズ株式会社 情報処理装置、制御方法、及びプログラム
CN108830644A (zh) * 2018-05-31 2018-11-16 深圳正品创想科技有限公司 一种无人商店导购方法及其装置、电子设备
CN108805495A (zh) * 2018-05-31 2018-11-13 京东方科技集团股份有限公司 物品存放管理方法和***及计算机可读介质
CN108898103A (zh) * 2018-06-29 2018-11-27 深圳市宝视达广告控股有限公司 一种到店消费者信息的采集处理方法、装置及服务器与一种存储介质
CN108898104A (zh) * 2018-06-29 2018-11-27 北京旷视科技有限公司 一种物品识别方法、装置、***及计算机存储介质
CN108810485A (zh) * 2018-07-02 2018-11-13 重庆中科云丛科技有限公司 一种监控***工作方法
CN108921098B (zh) 2018-07-03 2020-08-18 百度在线网络技术（北京）有限公司 人体运动分析方法、装置、设备及存储介质
WO2020023798A1 (en) * 2018-07-26 2020-01-30 Standard Cognition, Corp. Deep learning-based store realograms
WO2020023795A1 (en) * 2018-07-26 2020-01-30 Standard Cognition, Corp. Realtime inventory tracking using deep learning
CN109214312B (zh) * 2018-08-17 2021-08-31 连云港伍江数码科技有限公司 信息显示方法、装置、计算机设备和存储介质
CN110909573B (zh) * 2018-09-17 2023-05-02 阿里巴巴集团控股有限公司 信息处理方法及装置、用于识别人与货架距离的方法
CN109190586B (zh) * 2018-09-18 2019-06-11 图普科技（广州）有限公司 顾客到访分析方法、装置及存储介质
CN109353397B (zh) * 2018-09-20 2021-05-11 北京旷视科技有限公司 商品管理方法、装置和***及存储介质及购物车
CN109344770B (zh) * 2018-09-30 2020-10-09 新华三大数据技术有限公司 资源分配方法及装置
CN111079478B (zh) * 2018-10-19 2023-04-18 杭州海康威视数字技术股份有限公司 一种无人售货架监控方法、装置、电子设备及***
US10885661B2 (en) * 2018-12-15 2021-01-05 Ncr Corporation Location determination
CN109859660A (zh) * 2018-12-27 2019-06-07 努比亚技术有限公司 一种展示柜交互方法、展示柜及计算机可读存储介质
JP2020119215A (ja) * 2019-01-23 2020-08-06 トヨタ自動車株式会社 情報処理装置及び情報処理方法、プログラム、需要探索システム
TWI745653B (zh) * 2019-02-18 2021-11-11 宏碁股份有限公司 顧客行為分析方法與顧客行為分析系統
CN111681018A (zh) * 2019-03-11 2020-09-18 宏碁股份有限公司 顾客行为分析方法与顾客行为分析***
WO2020195846A1 (ja) * 2019-03-26 2020-10-01 フェリカネットワークス株式会社 情報処理装置、情報処理方法及びプログラム
US10867187B2 (en) * 2019-04-12 2020-12-15 Ncr Corporation Visual-based security compliance processing
JP7337354B2 (ja) * 2019-05-08 2023-09-04 株式会社オレンジテクラボ 情報処理装置及び情報処理プログラム
CN110110688B (zh) * 2019-05-15 2021-10-22 联想(北京)有限公司 一种信息分析方法及***
CN110288386A (zh) * 2019-06-10 2019-09-27 帷幄匠心科技（杭州）有限公司 商店客户行为统计***
CN110348405A (zh) * 2019-07-16 2019-10-18 图普科技（广州）有限公司 线下交互数据获取方法、装置及电子设备
CN110473016A (zh) * 2019-08-14 2019-11-19 北京市商汤科技开发有限公司 数据处理方法、装置及存储介质
CN110674712A (zh) * 2019-09-11 2020-01-10 苏宁云计算有限公司 交互行为识别方法、装置、计算机设备和存储介质
JP6982259B2 (ja) * 2019-09-19 2021-12-17 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理方法、プログラム
JP7372099B2 (ja) * 2019-09-24 2023-10-31 東芝テック株式会社 情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム
KR102299103B1 (ko) * 2019-10-23 2021-09-07 주식회사 비주얼캠프 시선 분석 장치 및 이를 이용한 시선 분석 시스템 및 방법
CN111192081A (zh) * 2019-12-26 2020-05-22 安徽讯呼信息科技有限公司 一种基于大数据的广告智能显示***
SG10201913955VA (en) * 2019-12-31 2021-07-29 Sensetime Int Pte Ltd Image recognition method and apparatus, and computer-readable storage medium
JP6773389B1 (ja) * 2020-03-18 2020-10-21 株式会社 テクノミライ デジタル・オートファイル・セキュリティシステム、方法及びプログラム
WO2021186610A1 (ja) * 2020-03-18 2021-09-23 株式会社 テクノミライ デジタル・オートファイル・セキュリティシステム、方法及びプログラム
JP7396476B2 (ja) 2020-05-22 2023-12-12 日本電気株式会社 処理装置、処理方法及びプログラム
US11108996B1 (en) 2020-07-28 2021-08-31 Bank Of America Corporation Two-way intercept using coordinate tracking and video classification
CN112150193A (zh) * 2020-09-14 2020-12-29 卖点国际展示(深圳)有限公司 一种客群分析方法、***及存储介质
CN112989198B (zh) * 2021-03-30 2022-06-07 北京三快在线科技有限公司 推送内容的确定方法、装置、设备及计算机可读存储介质
US11842376B2 (en) * 2021-06-25 2023-12-12 Toshiba Global Commerce Solutions Holdings Corporation Method, medium, and system for data lookup based on correlation of user interaction information
JP7318681B2 (ja) * 2021-07-30 2023-08-01 富士通株式会社 生成プログラム、生成方法および情報処理装置
JP2023020755A (ja) * 2021-07-30 2023-02-09 富士通株式会社 接客検出プログラム、接客検出方法および情報処理装置
JP2023050597A (ja) * 2021-09-30 2023-04-11 富士通株式会社 通知プログラム、通知方法および情報処理装置
EP4386652A1 (en) * 2022-12-14 2024-06-19 Fujitsu Limited Information processing program, information processing method, and information processing device

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006105376A2 (en) * 2005-03-29 2006-10-05 Stoplift, Inc. Method and apparatus for detecting suspicious activity using video analysis
JP2009003701A (ja) * 2007-06-21 2009-01-08 Denso Corp 情報システム及び情報処理装置
US9104430B2 (en) * 2008-02-11 2015-08-11 Palo Alto Research Center Incorporated System and method for enabling extensibility in sensing systems
JP4753193B2 (ja) * 2008-07-31 2011-08-24 九州日本電気ソフトウェア株式会社 動線管理システムおよびプログラム
JP2011253344A (ja) * 2010-06-02 2011-12-15 Midee Co Ltd 購買行動分析装置、購買行動分析方法、およびプログラム
CN102881100B (zh) * 2012-08-24 2017-07-07 济南纳维信息技术有限公司 基于视频分析的实体店面防盗监控方法

Also Published As

Publication number Publication date
JPWO2015033577A1 (ja) 2017-03-02
US20160203499A1 (en) 2016-07-14
WO2015033577A1 (ja) 2015-03-12
CN105518734A (zh) 2016-04-20

Similar Documents

Publication Publication Date Title
JP6529078B2 (ja) 顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラム及び棚システム
US11074610B2 (en) Sales promotion system, sales promotion method, non-transitory computer readable medium, and shelf system
JP6172380B2 (ja) Ｐｏｓ端末装置、ｐｏｓシステム、商品認識方法及びプログラム
JP6249021B2 (ja) セキュリティシステム、セキュリティ方法及びセキュリティプログラム
US11887051B1 (en) Identifying user-item interactions in an automated facility
JP7251569B2 (ja) 店舗装置、店舗管理方法、プログラム
WO2017085771A1 (ja) 精算支援システム、精算支援プログラム、及び精算支援方法
JP2011253344A (ja) 購買行動分析装置、購買行動分析方法、およびプログラム
CN107403332B (zh) 货架取物侦测***及方法
US20160063517A1 (en) Product exposure analysis in a shopping environment
WO2019038968A1 (ja) 店舗装置、店舗システム、店舗管理方法、プログラム
JP6058982B2 (ja) 消費者ニーズ分析システム及び消費者ニーズ分析方法
JP2012088878A (ja) 顧客優待管理システム
JP2016081174A (ja) 関連付プログラム及び情報処理装置
JP2019020986A (ja) 人流分析方法、人流分析装置、及び人流分析システム
JP2013238973A (ja) 購買情報管理システム、商品移動検出装置および購買情報管理方法
JP2016076109A (ja) 顧客購買意思予測装置及び顧客購買意思予測方法
JP2017083980A (ja) 行動分析装置及びシステム及び方法
JP2016143334A (ja) 購買分析装置及び購買分析方法
JPWO2015025490A1 (ja) 店舗内顧客行動分析システム、店舗内顧客行動分析方法および店舗内顧客行動分析プログラム
WO2019010557A1 (en) SYSTEM AND METHOD FOR COLLECTING DATA RELATING TO QUALITY OF SERVICE IN A CLIENT SERVICE ENVIRONMENT
KR102260355B1 (ko) 영상 기반 구매 행동 인식 시스템 및 방법
US11238401B1 (en) Identifying user-item interactions in an automated facility
JP2019139321A (ja) 顧客行動分析システムおよび顧客行動分析方法
US11615430B1 (en) Method and system for measuring in-store location effectiveness based on shopper response and behavior analysis

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170328

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170912

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171208

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20171219

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20180223

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190509

R150 Certificate of patent or registration of utility model

Ref document number: 6529078

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150