JP2024023957A - 処理装置、処理方法及びプログラム - Google Patents

処理装置、処理方法及びプログラム Download PDF

Info

Publication number
JP2024023957A
JP2024023957A JP2023220563A JP2023220563A JP2024023957A JP 2024023957 A JP2024023957 A JP 2024023957A JP 2023220563 A JP2023220563 A JP 2023220563A JP 2023220563 A JP2023220563 A JP 2023220563A JP 2024023957 A JP2024023957 A JP 2024023957A
Authority
JP
Japan
Prior art keywords
product
display time
detected
display
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023220563A
Other languages
English (en)
Inventor
悠 鍋藤
Yu Nabeto
壮馬 白石
Soma Shiraishi
貴美 佐藤
Takami Sato
克 菊池
Masaru Kikuchi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2023220563A priority Critical patent/JP2024023957A/ja
Publication of JP2024023957A publication Critical patent/JP2024023957A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/68Food, e.g. fruit or vegetables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30128Food products
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Multimedia (AREA)
  • Economics (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Development Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Human Resources & Organizations (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】陳列されている商品各々の販売期限の状況を把握する。【解決手段】本発明は、陳列領域を含む複数の時系列な画像を取得する取得部と、複数の時系列な画像各々から商品を含む物体領域を検出する検出部と、互いに異なる画像から検出された物体領域の同一性を判断する判断部と、検出結果と同一性の判断結果とに基づき、検出された物体領域の陳列時間を管理する管理部と、陳列時間に関する情報を出力する出力部と、を有する処理装置を提供する。【選択図】図2

Description

本発明は、処理装置、処理方法及びプログラムに関する。
特許文献1は、冷蔵庫の内部を撮影した時系列な画像群各々内の食材を認識し、認識結果に基づき食材の移動の有無を判断し、移動していない期間が閾値を超えた食材は放置品と判断して警告を行う技術を開示している。
特開2016-57022号公報
事故回避等の目的で、商品に販売期限を設ける店舗がある。このような店舗においては、販売期限を過ぎた商品や販売期限間近の商品等を店員が把握する手段が必要となる。例えば、各商品に賞味期限や消費期限等の各種情報を印字したラベルが付与される場合、陳列されている商品各々のラベルを確認する手段が利用できる。しかし、コロッケ、焼き鳥等のような個包装されていな総菜や生鮮食品などの商品においては、ラベルを付与できない場合がある。また、陳列されている商品各々のラベルを確認する作業は、非常に手間である。特許文献1は、このような店舗での課題及び解決手段を開示していない。
本発明は、陳列されている商品各々の販売期限の状況を把握するための技術を提供することを課題とする。
本発明によれば、
陳列領域を含む複数の時系列な画像を取得する取得手段と、
複数の時系列な前記画像各々から商品を検出する商品検出手段と、
互いに異なる前記画像から検出された商品の同一性を判断する同一性判断手段と、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理する陳列時間管理手段と、
検出された商品各々の前記陳列時間に関する情報を出力する出力手段と、
を有する処理装置が提供される。
また、本発明によれば、
コンピュータが、
陳列領域を含む複数の時系列な画像を取得し、
複数の時系列な前記画像各々から商品を検出し、
互いに異なる前記画像から検出された商品の同一性を判断し、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理し、
検出された商品各々の前記陳列時間に関する情報を出力する処理方法が提供される。
また、本発明によれば、
コンピュータを、
陳列領域を含む複数の時系列な画像を取得する取得手段、
複数の時系列な前記画像各々から商品を検出する商品検出手段、
互いに異なる前記画像から検出された商品の同一性を判断する同一性判断手段、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理する陳列時間管理手段、
検出された商品各々の前記陳列時間に関する情報を出力する出力手段、
として機能させるプログラムが提供される。
本発明によれば、陳列されている商品各々の販売期限の状況を把握するための技術が実現される。
本実施形態の処理装置のハードウエア構成の一例を示す図である。 本実施形態の処理装置の機能ブロック図の一例である。 本実施形態の処理装置が処理する情報の一例を示す図である。 本実施形態の処理装置の処理の流れの一例を示すフローチャートである。 本実施形態の処理装置が出力する画像の一例を示す図である。 本実施形態の処理装置が処理する情報の一例を示す図である。 本実施形態の処理装置が出力する画像の一例を示す図である。
「前提事項」
本実施形態の処理装置を利用する店舗では、少なくとも一部の商品の販売期限が、その商品の陳列時間(陳列されている時間)に基づき定められる。具体的には、陳列時間が上限値を超えたタイミングが販売期限となる。
陳列時間に基づき販売期限を管理される少なくとも一部の商品は、例えばコロッケ、焼き鳥等のようなラベルを付与できない商品であってもよいし、ラベルを付与できる商品であってもよい。また、当該商品は、例えば食品であるがこれに限定されず、家電製品や文房具のようなその他の商品であってもよい。
販売期限を過ぎた商品又は販売期限間近の商品は、陳列棚から回収されたり、値引き販売されたりする。
「概要」
本実施形態の処理装置は、商品の陳列領域を含む複数の時系列な画像各々から商品を検出すると、互いに異なる画像から検出された商品の同一性を判断し、検出結果及び同一性の判断結果に基づき、陳列領域に陳列されている商品各々の陳列時間を管理する。そして、処理装置は、陳列されている商品各々の陳列時間に関する情報を出力する。
店員は、処理装置が出力した情報に基づき、陳列されている商品各々の販売期限の状況、すなわち「販売期限を過ぎているか否か」や「販売期限間近か否か」等を把握することができる。
「ハードウエア構成」
次に、処理装置のハードウエア構成の一例を説明する。処理装置の各機能部は、任意のコンピュータのCPU(Central Processing Unit)、メモリ、メモリにロードされるプログラム、そのプログラムを格納するハードディスク等の記憶ユニット(あらかじめ装置を出荷する段階から格納されているプログラムのほか、CD(Compact Disc)等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムをも格納できる)、ネットワーク接続用インターフェイスを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
図1は、処理装置のハードウエア構成を例示するブロック図である。図1に示すように、処理装置は、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5Aを有する。周辺回路4Aには、様々なモジュールが含まれる。処理装置は周辺回路4Aを有さなくてもよい。なお、処理装置は物理的及び/又は論理的に分かれた複数の装置で構成されてもよいし、物理的及び/又は論理的に一体となった1つの装置で構成されてもよい。処理装置が物理的及び/又は論理的に分かれた複数の装置で構成される場合、複数の装置各々が上記ハードウエア構成を備えることができる。
バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPU、GPU(Graphics Processing Unit)などの演算処理装置である。メモリ2Aは、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。入出力インターフェイス3Aは、入力装置、外部装置、外部サーバ、外部センサー、カメラ等から情報を取得するためのインターフェイスや、出力装置、外部装置、外部サーバ等に情報を出力するためのインターフェイスなどを含む。入力装置は、例えばキーボード、マウス、マイク、物理ボタン、タッチパネル等である。出力装置は、例えばディスプレイ、スピーカ、プリンター、メーラ等である。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行うことができる。
「機能構成」
図2に、処理装置10の機能ブロック図の一例を示す。図示するように、処理装置10は、取得部11と、商品検出部12と、同一性判断部13と、陳列時間管理部14と、出力部15とを有する。
取得部11は、陳列領域を含む複数の時系列な画像を取得する。陳列領域は、商品が陳列される領域であり、例えば商品陳列棚等により実現される。処理装置10を利用する店舗では、陳列領域に陳列された商品(好ましくは、陳列領域に陳列されたすべての商品)を撮影する位置及び向きでカメラが設置される。
カメラは動画像を常時(例えば、営業時間中)撮影してもよいし、動画像のフレーム間隔よりも大きい時間間隔で静止画像を継続的に撮影してもよい。取得部11は、このようなカメラが生成した画像を取得する。
商品検出部12は、時系列な複数の画像各々から商品を検出する。そして、商品検出部12は、検出結果として、検出した商品毎に、画像内の位置を示す位置情報(以下、「商品位置情報」)、及び、商品識別情報(商品コード、商品名等)を出力する。
商品の検出は、周知のあらゆる商品認識技術を利用して実現することができる。例えば、商品検出部12は、周知の物体検出技術を用いて、画像内の物体領域(物体が存在する領域)を検出する。商品検出部12は、物体及びその周辺を含む領域(例えば矩形領域)を、物体領域として検出してもよい。その他、商品検出部12は、物体のみが存在する物体の輪郭に沿った形状の領域を、物体領域として検出してもよい。後者は、例えば、セマンティックセグメンテーションやインスタンスセグメンテーションと呼ばれる検出対象が存在するピクセル領域を検出する手法を利用して実現することができる。
そして、商品検出部12は、周知の商品認識技術(特徴点マッチング、ディープラーニング等)を用いて、物体領域の画像に含まれる商品を認識する。
商品位置情報は、例えば画像上に設定された二次元座標系の座標で示される。商品位置情報は、画像内の一点で示されてもよいし、画像内の一部を占める領域で示されてもよい。例えば、商品位置情報は、上記物体領域の代表点(中心、重心等)を示す情報であってもよいし、上記物体領域(画像内の一部領域)を示す情報であってもよい。
同一性判断部13は、互いに異なる画像から検出された商品の同一性を判断する。すなわち、同一性判断部13は、第1の画像から検出された商品と、第2の画像から検出された商品とが同一か否かを判断する。ここでの同一は、同一の個体であることを意味する。すなわち、商品識別情報が一致していても、異なる個体である場合、ここでの同一に該当しない。以下、同一性を判断する処理の例を説明する。
<判断例1>
同一性判断部13は、互いに異なる画像各々から検出された商品の画像内の位置に基づき、商品の同一性を判断することができる。複数の画像各々から検出された商品の画像内の位置が同じか又はその差が閾値以内である場合、複数の画像各々から検出された商品は同一の商品と判断することができる。この例の場合、画像生成タイミング(撮影タイミング)の差が基準時間以下の2つの画像が、同一性判断の処理対象(上記第1の画像及び第2の画像)となる。基準時間は設計的事項であるが、ある程度小さい値となる。
商品位置情報が画像内の一点で示されている場合、同一性判断部13は、「点間の距離が閾値以下」を、同一の商品と判断する条件としてもよい。また、商品位置情報が画像内の一部領域で占めされている場合、同一性判断部13は、「互いに重なる領域が、各々の商品位置情報が示す領域の基準割合以上を占める」を、同一の商品と判断する条件としてもよい。ここで例示した同一の商品と判断する条件はあくまで一例であり、これに限定されない。
なお、同一性判断部13は、「上述の条件を満たし、かつ、商品識別情報が一致すること」を、同一の商品と判断する条件としてもよい。
<判断例2>
同一性判断部13は、互いに異なる画像各々から検出された商品の外観の特徴量(形状、大きさ、色等)に基づき、商品の同一性を判断することができる。同一種類(商品識別情報が一致)であっても、商品の外観に個体差が現れる場合がある。同一性判断部13は、このような外観の個体差に基づき、商品の同一性を判断することができる。
陳列時間管理部14は、商品検出部12による検出結果と、同一性判断部13による同一性の判断結果とに基づき、商品検出部12により検出された商品各々の陳列時間を管理する。
例えば、陳列時間管理部14は、画像から検出された商品の中の、時系列順がそれ以前の画像から検出された商品のいずれとも同一と判断されなかった商品を、新たに陳列領域に陳列された商品として陳列時間の管理を開始することができる。また、陳列時間管理部14は、画像から検出された商品の中の、それ以降の画像から検出された商品のいずれとも同一と判断されなかった商品の陳列時間の管理を終了することができる。
ここで、図3及び図4を用いて、陳列時間管理部14による処理の具体例を説明する。まず、陳列時間管理部14は、図3に示すような陳列時間管理情報を管理している。図示する陳列時間管理情報は、通番と、商品識別情報と、商品位置情報と、陳列開始時刻とを互いに紐付けている。通番は、陳列時間理情報で管理されている商品を互いに識別するための情報である。商品識別情報は、陳列時間理情報で管理されている商品の商品識別情報である。商品位置情報は、陳列時間理情報で管理されている商品各々の最新の商品位置情報である。陳列開始時刻は、陳列時間理情報で管理されている商品各々の陳列が開始された時刻である。なお、陳列開始時刻に代えて、陳列開始日時や陳列開始日等としてもよい。
図4に示すように、商品検出部12が第1の画像から商品を検出すると(S10)、同一性判断部13は検出された商品各々の商品位置情報と、図3に示すような陳列時間管理情報で管理されている商品各々の商品位置情報とに基づき、第1の画像から検出された商品各々と、陳列時間管理情報で管理されている商品との同一性を判断する(S11)。
そして、陳列時間管理部14は、第1の画像から検出された商品の中に、陳列時間管理情報で管理されている商品いずれとも同一と判断されない商品が存在する場合(S12のYes)、その商品の陳列時間の管理を開始する(S13)。具体的には、陳列時間管理部14は、新たな通番に紐付けて、その商品の商品識別情報及び商品位置情報を登録するとともに、第1の画像の生成タイミング(撮影タイミング)またはその近辺のタイミングを、陳列開始時刻として登録する。
なお、S11の判断タイミングにおいて、陳列時間管理情報で管理されている商品がない場合、陳列時間管理部14は、第1の画像から検出された商品の中に、陳列時間管理情報で管理されている商品いずれとも同一と判断されない商品が存在すると判断し(S12のYes)、第1の画像から検出されたすべての商品の陳列時間の管理を開始することとなる(S13)。
一方、第1の画像から検出された商品の中に、陳列時間管理情報で管理されている商品いずれとも同一と判断されない商品が存在しない場合(S12のNo)、陳列時間管理部14は、S13の処理を実行しない。
また、陳列時間管理部14は、陳列時間管理情報で管理されている商品の中に、第1の画像から検出された商品いずれとも同一と判断されない商品が存在する場合(S14のYes)、その商品の陳列時間の管理を終了する(S15)。例えば、陳列時間管理部14は、その商品の情報を陳列時間管理情報から削除してもよい。その他、陳列時間管理部14は、その商品に紐付けて陳列時間の管理が終了した旨を示す情報を登録してもよい。
なお、上述した「陳列時間の管理が終了した旨を示す情報」は、第1の画像の生成タイミング(撮影タイミング)またはその近辺のタイミングを示す時間情報又は日時情報であってもよい。このような情報を登録することにより、複数の商品各々の陳列開始時刻及び陳列終了時刻を記録することができる。そして、当該情報をマーケティング等で利用することができる。
一方、陳列時間管理情報で管理されている商品の中に、第1の画像から検出された商品いずれとも同一と判断されない商品が存在しない場合(S14のNo)、陳列時間管理部14は、S15の処理を実行しない。
また、陳列時間管理部14は、陳列時間管理情報で管理されている商品の中に、第1の画像から検出された商品のいずれかと同一と判断される商品が存在する場合(S16のYes)、陳列時間管理情報で管理されているその商品の商品位置情報を、第1の画像から検出されたその商品の商品位置情報に更新する(S17)。
一方、陳列時間管理情報で管理されている商品の中に、第1の画像から検出された商品のいずれかと同一と判断される商品が存在しない場合(S16のNo)、陳列時間管理部14は、S17の処理を実行しない。
なお、S12、S14及びS16の判断順は図示する例に限定されない。
図2に戻り、出力部15は、商品検出部12により検出された商品各々の陳列時間に関する情報を出力する。例えば、出力部15は、取得部11が取得した画像上に、当該画像から検出された商品各々に紐付けて、各々の陳列時間に関する情報を表示した加工画像を出力する。出力部15は、処理装置10に接続されたディスプレイ、投影装置、プリンター、メーラ等の出力装置を介して上記情報の出力を実現してもよいし、他の外部装置に上記情報を送信してもよい。以下、陳列時間に関する情報の例を説明する。
<陳列時間に関する情報の例1>
出力される「陳列時間に関する情報」は、「陳列時間の目安を示す情報」であってもよい。例えば、陳列時間は、「M1未満」、「M1以上M2未満」、「M2以上」等のように複数のグループに分けられる。なお、グループの数は2以上の任意の数である。そして、「陳列時間の目安を示す情報」は、各商品の現在の陳列時間がどのグループに属するかを示す情報となる。
図5に当該情報を表示した加工画像の一例を示す。図示する例では、商品検出部12により検出された商品P各々に紐付けて枠Fを表示している。枠Fの表示位置は、例えば各商品Pの商品位置情報に基づき決定される。各商品Pの枠Fの表示態様(線の色、線の濃淡、線の種類等)は、各商品Pの陳列時間がいずれのグループに属するかに応じて変化する。予め、図6に示すような陳列時間に応じた枠Fの表示態様が定められており、それに応じた表示態様で各商品Pの枠Fが表示される。
なお、図6に示すような枠表示基準は、商品Pごとに異なってもよい。すなわち、枠表示基準のM1、M2の値は、商品Pごとに異なってもよい。また、図6に示す例では3つのグループに分かれているが、グループの数も商品Pごとに異なってもよい。
また、出力部15は、陳列時間が上限値を超えた商品Pを強調表示してもよい。強調表示の手法は様々であるが、例えば該当する商品Pの枠Fを点滅させたり、所定の色(赤)で表示したりしてもよい。上限値は、商品Pごとに異なってもよい。
<陳列時間に関する情報の例2>
出力される「陳列時間に関する情報」は、「販売期限までの残時間の目安を示す情報」であってもよい。販売期限までの残時間(以下、単に「残時間」という場合がある)は、上述した上限値から陳列時間を引くことで算出される。例えば、残時間は、「L1未満」、「L1以上L2未満」、「L2以上」等のように複数のグループに分けられる。なお、グループの数は2以上の任意の数である。そして、「残時間の目安を示す情報」は、各商品の残時間がどのグループに属するかを示す情報となる。
図5に当該情報を表示した加工画像の一例を示す。図示する例では、商品検出部12により検出された商品P各々に紐付けて枠Fを表示している。枠Fの表示位置は、例えば各商品Pの商品位置情報に基づき決定される。各商品Pの枠Fの表示態様(線の色、線の濃淡、線の種類等)は、各商品Pの残時間がいずれのグループに属するかに応じて変化する。予め、残時間に応じた枠Fの表示態様が定められており、それに応じた表示態様で各商品Pの枠Fが表示される。
なお、枠表示基準は、商品Pごとに異なってもよい。また、上記グループの数も商品Pごとに異なってもよい。また、出力部15は、残時間が下限値を下回った商品Pを強調表示してもよい。強調表示の手法は様々であるが、例えば該当する商品Pの枠Fを点滅させたり、所定の色(赤)で表示したりしてもよい。
<陳列時間に関する情報の例3>
出力される「陳列時間に関する情報」は、「陳列時間」や「販売期限までの残時間」そのものであってもよい。図7に当該情報を表示した加工画像の一例を示す。枠Fに紐付いて表示されている数字が、「陳列時間」又は「販売期限までの残時間」を示す。「陳列時間」や「販売期限までの残時間」は、「月」、「日」、「時間」、「分」、「秒」等の任意の単位で示される。例えば、「1」が紐付いている商品は、陳列時間又は残時間が、「1カ月」、「1日」、「1時間」、「1分」又は「1秒」であることを示す。
なお、上記した例1乃至3において、枠Fを他のマークに変更してもよい。
<陳列時間に関する情報の例4>
当該例では、陳列時間管理部14は、複数の陳列領域における商品各々の陳列時間を、陳列領域毎に管理する。そして、出力部15は、陳列時間が報告基準値を超えた商品が存在する陳列領域識別情報を、陳列時間に関する情報として出力する。陳列領域識別情報は、複数の陳列領域を互いに識別する情報である。報告基準値は商品毎に異なってもよい。
「作用効果」
以上、本実施形態の処理装置10によれば、陳列領域を含む複数の時系列な画像に基づき、陳列領域に陳列されている商品の陳列時間を管理することができる。そして、処理装置10は、陳列されている商品各々の陳列時間に関する情報を出力することができる。店員は、処理装置10が出力した情報に基づき、陳列されている商品各々の販売期限の状況、すなわち「販売期限を過ぎているか否か」や「販売期限間近か否か」等を把握することができる。
また、処理装置10は、図5及び図7に示すように、陳列領域を含む画像上に、当該画像から検出された商品各々に紐付けて陳列時間を示す情報を表示した加工画像を出力することができる。このような加工画像によれば、店員は、直感的に陳列されている商品各々の販売状況を把握することができる。
なお、本明細書において、「取得」とは、ユーザ入力に基づき、又は、プログラムの指示に基づき、「自装置が他の装置や記憶媒体に格納されているデータを取りに行くこと(能動的な取得)」、たとえば、他の装置にリクエストまたは問い合わせして受信すること、他の装置や記憶媒体にアクセスして読み出すこと等、および、ユーザ入力に基づき、又は、プログラムの指示に基づき、「自装置に他の装置から出力されるデータを入力すること(受動的な取得)」、たとえば、配信(または、送信、プッシュ通知等)されるデータを受信すること、また、受信したデータまたは情報の中から選択して取得すること、及び、「データを編集(テキスト化、データの並び替え、一部データの抽出、ファイル形式の変更等)などして新たなデータを生成し、当該新たなデータを取得すること」の少なくともいずれか一方を含む。
以上、実施形態(及び実施例)を参照して本願発明を説明したが、本願発明は上記実施形態(及び実施例)に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限定されない。
1. 陳列領域を含む複数の時系列な画像を取得する取得手段と、
複数の時系列な前記画像各々から商品を検出する商品検出手段と、
互いに異なる前記画像から検出された商品の同一性を判断する同一性判断手段と、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理する陳列時間管理手段と、
検出された商品各々の前記陳列時間に関する情報を出力する出力手段と、
を有する処理装置。
2. 前記出力手段は、前記画像上に、前記画像から検出された商品各々に紐付けて前記陳列時間を示す情報を表示した加工画像を出力する1に記載の処理装置。
3. 前記出力手段は、前記画像から検出された商品各々に紐付けて、前記陳列時間の長さに応じた情報を表示した前記加工画像を出力する2に記載の処理装置。
4. 前記出力手段は、前記陳列時間が上限値を超えた商品を強調表示する前記加工画像を出力する2に記載の処理装置。
5. 前記上限値は、商品毎に異なる4に記載の処理装置。
6. 前記同一性判断手段は、互いに異なる前記画像各々から検出された商品の前記画像内の位置に基づき、商品の同一性を判断する1から5のいずれか1項に記載の処理装置。
7. 前記陳列時間管理手段は、前記画像から検出された商品の中の、それ以前の前記画像から検出された商品のいずれとも同一と判断されなかった商品を、新たに前記陳列領域に陳列された商品として前記陳列時間の管理を開始する1から6のいずれかに記載の処理装置。
8. 前記陳列時間管理手段は、前記画像から検出された商品の中の、それ以降の前記画像から検出された商品のいずれとも同一と判断されなかった商品の前記陳列時間の管理を終了する1から7のいずれかに記載の処理装置。
9. コンピュータが、
陳列領域を含む複数の時系列な画像を取得し、
複数の時系列な前記画像各々から商品を検出し、
互いに異なる前記画像から検出された商品の同一性を判断し、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理し、
検出された商品各々の前記陳列時間に関する情報を出力する処理方法。
10. コンピュータを、
陳列領域を含む複数の時系列な画像を取得する取得手段、
複数の時系列な前記画像各々から商品を検出する商品検出手段、
互いに異なる前記画像から検出された商品の同一性を判断する同一性判断手段、
前記検出結果と、前記同一性の判断結果とに基づき、検出された商品各々の陳列時間を管理する陳列時間管理手段、
検出された商品各々の前記陳列時間に関する情報を出力する出力手段、
として機能させるプログラム。

Claims (10)

  1. 陳列領域を含む複数の時系列な画像を取得する取得手段と、
    複数の時系列な前記画像各々から商品を含む物体領域を検出する検出手段と、
    互いに異なる前記画像から検出された物体領域の同一性を判断する判断手段と、
    前記検出結果と、前記同一性の判断結果とに基づき、検出された物体領域の陳列時間を管理する管理手段と、
    前記陳列時間に関する情報を出力する出力手段と、
    を有する処理装置。
  2. 前記出力手段は、前記画像上に、前記画像から検出された物体領域に紐付けて前記陳列時間を示す情報を表示した加工画像を出力する請求項1に記載の処理装置。
  3. 前記出力手段は、前記画像から検出された物体領域に紐付けて、前記陳列時間の長さに応じた情報を表示した前記加工画像を出力する請求項2に記載の処理装置。
  4. 前記出力手段は、前記陳列時間が上限値を超えた物体領域を強調表示する前記加工画像を出力する請求項2に記載の処理装置。
  5. 前記上限値は、物体領域毎に異なる請求項4に記載の処理装置。
  6. 前記判断手段は、互いに異なる前記画像各々から検出された物体領域の前記画像内の位置に基づき、物体領域の同一性を判断する請求項1から5のいずれか1項に記載の処理装置。
  7. 前記管理手段は、前記画像から検出された物体領域の中の、それ以前の前記画像から検出された物体領域のいずれとも同一と判断されなかった物体領域を、新たな物体領域として前記陳列時間の管理を開始する請求項1から6のいずれか1項に記載の処理装置。
  8. 前記管理手段は、前記画像から検出された物体領域の中の、それ以降の前記画像から検出された物体領域のいずれとも同一と判断されなかった物体領域の前記陳列時間の管理を終了する請求項1から7のいずれか1項に記載の処理装置。
  9. コンピュータが、
    陳列領域を含む複数の時系列な画像を取得し、
    複数の時系列な前記画像各々から商品を含む物体領域を検出し、
    互いに異なる前記画像から検出された物体領域の同一性を判断し、
    前記検出結果と、前記同一性の判断結果とに基づき、検出された物体領域の陳列時間を管理し、
    前記陳列時間に関する情報を出力する処理方法。
  10. コンピュータを、
    陳列領域を含む複数の時系列な画像を取得する取得手段、
    複数の時系列な前記画像各々から商品を含む物体領域を検出する検出手段、
    互いに異なる前記画像から検出された物体領域の同一性を判断する判断手段、
    前記検出結果と、前記同一性の判断結果とに基づき、検出された物体領域の陳列時間を管理する管理手段、
    前記陳列時間に関する情報を出力する出力手段、
    として機能させるプログラム。
JP2023220563A 2020-05-29 2023-12-27 処理装置、処理方法及びプログラム Pending JP2024023957A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023220563A JP2024023957A (ja) 2020-05-29 2023-12-27 処理装置、処理方法及びプログラム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2022527434A JP7416237B2 (ja) 2020-05-29 2020-05-29 処理装置、処理方法及びプログラム
PCT/JP2020/021316 WO2021240772A1 (ja) 2020-05-29 2020-05-29 処理装置、処理方法及びプログラム
JP2023220563A JP2024023957A (ja) 2020-05-29 2023-12-27 処理装置、処理方法及びプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2022527434A Division JP7416237B2 (ja) 2020-05-29 2020-05-29 処理装置、処理方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2024023957A true JP2024023957A (ja) 2024-02-21

Family

ID=78723190

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022527434A Active JP7416237B2 (ja) 2020-05-29 2020-05-29 処理装置、処理方法及びプログラム
JP2023220563A Pending JP2024023957A (ja) 2020-05-29 2023-12-27 処理装置、処理方法及びプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2022527434A Active JP7416237B2 (ja) 2020-05-29 2020-05-29 処理装置、処理方法及びプログラム

Country Status (3)

Country Link
US (1) US20230206507A1 (ja)
JP (2) JP7416237B2 (ja)
WO (1) WO2021240772A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023106034A1 (ja) * 2021-12-08 2023-06-15 株式会社J-オイルミルズ 食品販売促進制御装置、食品販売促進システム、および食品販売促進方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010121784A (ja) 2008-11-17 2010-06-03 Toshiba Corp 冷蔵庫の在庫管理装置
JP2016196981A (ja) * 2015-04-03 2016-11-24 三菱電機株式会社 庫内管理システムおよび庫内管理方法
JP6341388B2 (ja) * 2016-01-20 2018-06-13 パナソニックIpマネジメント株式会社 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法
US11250570B2 (en) * 2017-03-31 2022-02-15 Nec Corporation Display rack image processing device, image processing method, and recording medium

Also Published As

Publication number Publication date
JP7416237B2 (ja) 2024-01-17
WO2021240772A1 (ja) 2021-12-02
US20230206507A1 (en) 2023-06-29
JPWO2021240772A1 (ja) 2021-12-02

Similar Documents

Publication Publication Date Title
EP3211388B1 (en) Weighing system
JP6549558B2 (ja) 売上登録装置、プログラム及び売上登録方法
JP5238933B2 (ja) 客層付販売情報生成システム
JP2024023957A (ja) 処理装置、処理方法及びプログラム
JP6624063B2 (ja) 自動販売機認識装置、商品棚認識装置、自動販売機認識方法、プログラムおよび画像処理装置
JP6463231B2 (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
JP7384516B2 (ja) 情報処理装置、商品推薦方法、プログラム、及びシステム
JP2017102573A (ja) 購買行動分析プログラム、購買行動分析方法、及び購買行動分析装置
JP6565639B2 (ja) 情報表示プログラム、情報表示方法、及び情報表示装置
JP2014075090A (ja) 陳列位置分析システム
JP7487732B2 (ja) 情報処理装置、表示システム、情報処理方法およびプログラム
WO2020179480A1 (ja) 物品推定装置、物品推定方法、及びプログラム
JP6394340B2 (ja) 商品登録装置、商品登録方法およびプログラム
JP2011128761A (ja) 情報処理プログラム及び情報処理方法
JP2015194791A (ja) Pos端末装置
JP2018049584A (ja) 食事量推定プログラム、食事量推定方法及び食事量推定装置
JP2016177433A (ja) 商品登録装置および商品登録方法
CN103366241B (zh) 信息处理装置及信息处理方法
JP2017102564A (ja) 表示制御プログラム、表示制御方法、及び表示制御装置
JP7435716B2 (ja) 登録装置、登録方法及びプログラム
JPWO2019181033A1 (ja) 登録システム、登録方法及びプログラム
US20170278112A1 (en) Information processing apparatus, information processing method, and non-transitory computer readable medium
JP7517428B2 (ja) 情報提供システム、情報提供方法及びプログラム
WO2022030247A1 (ja) 情報提供システム、情報提供方法及びプログラム
WO2024057387A1 (ja) 棚割りデータ生成装置、棚割りデータ生成システム、棚割りデータ生成方法および記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231227