JP2020190950A - 情報処理装置、物品識別装置、及び物品識別システム - Google Patents
情報処理装置、物品識別装置、及び物品識別システム Download PDFInfo
- Publication number
- JP2020190950A JP2020190950A JP2019096182A JP2019096182A JP2020190950A JP 2020190950 A JP2020190950 A JP 2020190950A JP 2019096182 A JP2019096182 A JP 2019096182A JP 2019096182 A JP2019096182 A JP 2019096182A JP 2020190950 A JP2020190950 A JP 2020190950A
- Authority
- JP
- Japan
- Prior art keywords
- image
- detection target
- target image
- identification
- processor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 claims abstract description 130
- 230000015654 memory Effects 0.000 claims abstract description 33
- 238000000034 method Methods 0.000 claims description 62
- 238000003384 imaging method Methods 0.000 claims description 50
- 230000010365 information processing Effects 0.000 claims description 44
- 239000002131 composite material Substances 0.000 claims description 40
- 238000012937 correction Methods 0.000 claims description 21
- 238000012545 processing Methods 0.000 claims description 18
- 238000012549 training Methods 0.000 claims description 12
- 230000003287 optical effect Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 20
- 230000008569 process Effects 0.000 description 14
- 238000010801 machine learning Methods 0.000 description 12
- 238000002372 labelling Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 101100215339 Arabidopsis thaliana ACT11 gene Proteins 0.000 description 2
- 101100217138 Mus musculus Actr10 gene Proteins 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 235000013305 food Nutrition 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 101100215345 Dictyostelium discoideum act18 gene Proteins 0.000 description 1
- 101100215368 Dictyostelium discoideum act21 gene Proteins 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 235000013361 beverage Nutrition 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 235000012055 fruits and vegetables Nutrition 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 230000003936 working memory Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/10—Selection of transformation methods according to the characteristics of the input images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/60—Memory management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
- G06V10/247—Aligning, centring, orientation detection or correction of the image by affine transforms, e.g. correction due to perspective effects; Quadrilaterals, e.g. trapezoids
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
Description
図1は、一実施形態に係る物品識別システム1の概略的な構成の例について説明するための説明図である。
物品識別システム1は、店舗、倉庫などの所定の場所に設置された陳列用の什器2と、什器2に置かれた検出対象である商品(物品)3などを撮像し、撮像した画像から検出対象を識別するラベル付け処理を行うシステムである。
商品棚撮像装置21は、一般的に、広範囲を撮像することが要求される。この為、商品棚撮像装置21の光学系は、対角画角が極力大きな(焦点距離が極力短い)光学系が用いられる。例えば、商品棚撮像装置21の光学系は、第1の射影方式(例えば等距離射影方式、立体射影方式、等立体角射影方式、または正射影方式などの所謂魚眼射影方式)であり、且つ焦点距離の短い光学系が用いられる。なお、以下の説明では、商品棚撮像装置21の光学系は、等距離射影方式の光学系であるとして説明する。
情報処理装置23は、予め生成された識別モデルに基づき、画像中の物体を推論する推論フェーズと、学習用データ(教示データ)に基づき、識別モデルの生成及び更新を行う学習フェーズとを有する。
撮像装置は、商品3のフェイスに撮像装置が正対した状態で、第2の射影方式(例えば中心射影方式)の光学系を有する撮像装置により商品3を撮像することにより、検出対象画像を取得する。より具体的には、検出対象画像は、図6に示されるように、撮像装置の光学系の光軸が商品3のフェイスに直交した状態で、撮像装置により撮像された画像である。
上記したように、情報処理装置23は、学習フェーズにおいて、学習用データに基づいて、機械学習により識別モデルを生成及び更新する機械学習処理を行う。この為に、まず情報処理装置23は、学習用データの生成を行う。
まず、プロセッサ41は、メモリ42から背景画像を読み出す(ACT11)。プロセッサ41は、メモリ42から検出対象画像を読み出す(ACT12)。プロセッサ41は、ランダムで背景画像及び検出対象画像をメモリ42から読み出す構成であってもよいし、操作インタフェース33によって選択された背景画像及び検出対象画像をメモリ42から読み出す構成であってもよい。また、プロセッサ41は、1つの背景画像と、複数の検出対象画像をメモリ42から読み出す構成であってもよい。
上記したように、情報処理装置23は、推論フェーズにおいて、予め生成された識別モデルに基づき、商品棚撮像装置21により取得した識別対象画像から、検出対象である商品3を識別するラベル付け処理を行う。
まず、プロセッサ41は、メモリ42から識別モデルを読み出す(ACT31)。また、プロセッサ41は、カメラ、即ち商品棚撮像装置21を起動させる(ACT32)。プロセッサ41は、商品棚撮像装置21により撮像を実行させるか否か判断する(ACT33)。プロセッサ41は、商品棚撮像装置21により撮像を実行させると判断した場合(ACT33、YES)、商品棚撮像装置21により撮像を実行させ、例えば図5に示される識別対象画像を取得する(ACT34)。また、プロセッサ41は、商品棚撮像装置21により撮像を実行させないと判断した場合(ACT33、NO)、後述するACT40の処理に移行する。
Claims (10)
- 検出対象を含まない背景画像、検出対象の画像である検出対象画像、及び前記検出対象画像の検出対象を示すラベル情報を記憶したメモリと、
前記背景画像を台形補正し、台形補正された前記背景画像に前記検出対象画像を重畳して合成画像を生成し、前記合成画像と前記ラベル情報とに基づいて、学習用データを生成するプロセッサと、
を具備する情報処理装置。 - 前記プロセッサは、前記背景画像を前記検出対象画像と同じ射影方式に射影変換し、射影変換した前記背景画像を台形補正する請求項1に記載の情報処理装置。
- 前記プロセッサは、予め設定された合成パラメータに基づいて前記検出対象画像を補正し、補正した前記検出対象画像を前記背景画像に重畳して前記合成画像を生成する請求項1または2に記載の情報処理装置。
- 前記プロセッサは、前記合成画像における前記検出対象の領域と、前記検出対象に対応するラベル情報とを対応付けて、前記学習用データを生成する請求項1乃至3のいずれか1項に記載の情報処理装置。
- 検出対象を含まない背景画像、検出対象の画像である検出対象画像、及び前記検出対象画像の検出対象を示すラベル情報を記憶したメモリと、
前記背景画像を台形補正し、台形補正された前記背景画像に前記検出対象画像を重畳して合成画像を生成し、前記合成画像と前記ラベル情報とに基づいて、学習用データを生成し、生成した学習用データに基づいて識別モデルを生成し、前記検出対象が写った識別対象画像と、前記識別モデルとに基づいて、前記識別対象画像中の前記検出対象を識別するプロセッサと、
を具備する物品識別装置。 - 前記プロセッサは、前記背景画像を前記検出対象画像と同じ射影方式に射影変換し、射影変換した前記背景画像を台形補正する請求項5に記載の物品識別装置。
- 前記プロセッサは、前記識別対象画像を前記検出対象画像と同じ射影方式に射影変換し、射影変換した前記識別対象画像を台形補正し、台形補正した前記識別対象画像と、前記識別モデルとに基づいて、前記識別対象画像中の前記検出対象を識別する請求項6に記載の物品識別装置。
- 前記プロセッサは、予め設定された合成パラメータに基づいて前記検出対象画像を補正し、補正した前記検出対象画像を前記背景画像に重畳して前記合成画像を生成する請求項5乃至7のいずれか1項に記載の物品識別装置。
- 前記プロセッサは、前記合成画像における前記検出対象の領域と、前記検出対象に対応するラベル情報とを対応付けて、前記学習用データを生成する請求項5乃至8のいずれか1項に記載の物品識別装置。
- 撮像装置と物品識別装置とを具備する物品識別システムであって、
前記撮像装置は、検出対象が写った識別対象画像を撮像し、前記識別対象画像を前記物品識別装置に供給し、
前記物品識別装置は、
検出対象を含まない背景画像、検出対象の画像である検出対象画像、及び前記検出対象画像の検出対象を示すラベル情報を記憶したメモリと、
前記背景画像を台形補正し、台形補正された前記背景画像に前記検出対象画像を重畳して合成画像を生成し、前記合成画像と前記ラベル情報とに基づいて、学習用データを生成し、生成した学習用データに基づいて識別モデルを生成し、前記検出対象が写った識別対象画像と、前記識別モデルとに基づいて、前記識別対象画像中の前記検出対象を識別するプロセッサと、
を具備する物品識別システム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019096182A JP7340353B2 (ja) | 2019-05-22 | 2019-05-22 | 情報処理装置、物品識別装置、及び物品識別システム |
CN201911113448.3A CN111985517A (zh) | 2019-05-22 | 2019-11-14 | 信息处理装置、物品识别装置及物品识别*** |
US16/687,854 US11417025B2 (en) | 2019-05-22 | 2019-11-19 | Information processing apparatus, article identification apparatus, and article identification system |
EP19219246.6A EP3742384A1 (en) | 2019-05-22 | 2019-12-23 | Information processing apparatus, article identification apparatus, and article identification system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019096182A JP7340353B2 (ja) | 2019-05-22 | 2019-05-22 | 情報処理装置、物品識別装置、及び物品識別システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020190950A true JP2020190950A (ja) | 2020-11-26 |
JP7340353B2 JP7340353B2 (ja) | 2023-09-07 |
Family
ID=69005534
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019096182A Active JP7340353B2 (ja) | 2019-05-22 | 2019-05-22 | 情報処理装置、物品識別装置、及び物品識別システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US11417025B2 (ja) |
EP (1) | EP3742384A1 (ja) |
JP (1) | JP7340353B2 (ja) |
CN (1) | CN111985517A (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014178957A (ja) * | 2013-03-15 | 2014-09-25 | Nec Corp | 学習データ生成装置、学習データ作成システム、方法およびプログラム |
JP2018092502A (ja) * | 2016-12-07 | 2018-06-14 | ブラザー工業株式会社 | プログラム及びシステム |
WO2019198200A1 (ja) * | 2018-04-12 | 2019-10-17 | 日本電気株式会社 | 学習用画像生成装置、学習用画像生成方法及びプログラム |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3538228B2 (ja) * | 1994-07-19 | 2004-06-14 | 株式会社ナムコ | 画像合成装置 |
JP4089426B2 (ja) * | 2002-12-26 | 2008-05-28 | カシオ計算機株式会社 | プロジェクタ、撮像装置、台形補正用プログラム |
US8370207B2 (en) * | 2006-12-30 | 2013-02-05 | Red Dot Square Solutions Limited | Virtual reality system including smart objects |
JP2009152951A (ja) | 2007-12-21 | 2009-07-09 | Alpine Electronics Inc | 画像処理装置 |
US20120223943A1 (en) | 2011-03-01 | 2012-09-06 | Joshua Allen Williams | Displaying data for a physical retail environment on a virtual illustration of the physical retail environment |
JP5951367B2 (ja) * | 2012-01-17 | 2016-07-13 | シャープ株式会社 | 撮像装置、撮像画像処理システム、プログラムおよび記録媒体 |
JP6253467B2 (ja) * | 2014-03-24 | 2017-12-27 | 東芝アルパイン・オートモティブテクノロジー株式会社 | 画像処理装置および画像処理プログラム |
KR102272310B1 (ko) * | 2014-11-18 | 2021-07-02 | 삼성전자주식회사 | 영상 처리 방법, 상기 방법을 기록한 컴퓨터 판독 가능 저장매체 및 전자 기기. |
US9443164B2 (en) | 2014-12-02 | 2016-09-13 | Xerox Corporation | System and method for product identification |
JP6596278B2 (ja) * | 2015-09-14 | 2019-10-23 | オリンパス株式会社 | 情報処理装置、情報処理装置の制御方法、及び情報処理プログラム |
JP2018142856A (ja) * | 2017-02-28 | 2018-09-13 | セイコーエプソン株式会社 | プロジェクター、及び、プロジェクターの制御方法 |
JP7011146B2 (ja) * | 2017-03-27 | 2022-01-26 | 富士通株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、及び教師データ生成方法 |
JP6458239B1 (ja) * | 2017-08-29 | 2019-01-30 | 株式会社マーケットヴィジョン | 画像認識システム |
JP6831951B2 (ja) * | 2018-10-16 | 2021-02-24 | 株式会社マーケットヴィジョン | 画像認識システム |
-
2019
- 2019-05-22 JP JP2019096182A patent/JP7340353B2/ja active Active
- 2019-11-14 CN CN201911113448.3A patent/CN111985517A/zh active Pending
- 2019-11-19 US US16/687,854 patent/US11417025B2/en active Active
- 2019-12-23 EP EP19219246.6A patent/EP3742384A1/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014178957A (ja) * | 2013-03-15 | 2014-09-25 | Nec Corp | 学習データ生成装置、学習データ作成システム、方法およびプログラム |
JP2018092502A (ja) * | 2016-12-07 | 2018-06-14 | ブラザー工業株式会社 | プログラム及びシステム |
WO2019198200A1 (ja) * | 2018-04-12 | 2019-10-17 | 日本電気株式会社 | 学習用画像生成装置、学習用画像生成方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
US11417025B2 (en) | 2022-08-16 |
US20200372681A1 (en) | 2020-11-26 |
CN111985517A (zh) | 2020-11-24 |
EP3742384A1 (en) | 2020-11-25 |
JP7340353B2 (ja) | 2023-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10692231B1 (en) | Composite agent representation | |
US10909667B1 (en) | Image rectification using transformation data | |
CN111315670B (zh) | 货架标签检测装置、货架标签检测方法、以及记录介质 | |
US20220130150A1 (en) | Imaging systems and methods for tracking objects | |
US11263795B1 (en) | Visualization system for sensor data and facility data | |
US20220138674A1 (en) | System and method for associating products and product labels | |
US10332066B1 (en) | Item management system using weight | |
WO2015145982A1 (ja) | 情報処理装置、情報処理システム、物流システム、情報処理方法およびプログラム記憶媒体 | |
US10384869B1 (en) | Optical item management system | |
CN111295684A (zh) | 货架监视装置、货架监视方法及货架监视程序 | |
TW201811636A (zh) | 挑選支援裝置 | |
JP6549558B2 (ja) | 売上登録装置、プログラム及び売上登録方法 | |
JP6751882B2 (ja) | 商品モニタリング装置、商品モニタリングシステムおよび商品モニタリング方法 | |
US11300662B1 (en) | Detecting and locating interactions using LIDAR devices | |
US10346659B1 (en) | System for reading tags | |
JP5226096B2 (ja) | カート及びカートシステム | |
JP6395895B1 (ja) | 映像検品認識装置 | |
JP7126066B2 (ja) | 投影指示装置、荷物仕分けシステムおよび投影指示方法 | |
EP3689791A1 (en) | Projection instruction device, package sorting system, and projection instruction method | |
JP2013145422A (ja) | 作業検知システムの設定方法及びそれを用いた作業検知システム | |
JP7340353B2 (ja) | 情報処理装置、物品識別装置、及び物品識別システム | |
US11666948B2 (en) | Projection instruction device, parcel sorting system, and projection instruction method | |
JP6560067B2 (ja) | 支援システム | |
EP4298603A1 (en) | Information processing apparatus, information processing system, information processing method, and recording medium | |
US10943465B1 (en) | Device notification and aggregation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220510 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20230104 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230801 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230828 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7340353 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |