JP7134331B2 - 計数システム、計数装置、機械学習装置、計数方法、部品配置方法、および、プログラム - Google Patents

計数システム、計数装置、機械学習装置、計数方法、部品配置方法、および、プログラム Download PDF

Info

Publication number
JP7134331B2
JP7134331B2 JP2021505523A JP2021505523A JP7134331B2 JP 7134331 B2 JP7134331 B2 JP 7134331B2 JP 2021505523 A JP2021505523 A JP 2021505523A JP 2021505523 A JP2021505523 A JP 2021505523A JP 7134331 B2 JP7134331 B2 JP 7134331B2
Authority
JP
Japan
Prior art keywords
group
information
image
unit
article
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021505523A
Other languages
English (en)
Other versions
JPWO2020183837A1 (ja
Inventor
祐也 島▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2020183837A1 publication Critical patent/JPWO2020183837A1/ja
Application granted granted Critical
Publication of JP7134331B2 publication Critical patent/JP7134331B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06MCOUNTING MECHANISMS; COUNTING OF OBJECTS NOT OTHERWISE PROVIDED FOR
    • G06M11/00Counting of objects distributed at random, e.g. on a surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本開示は、計数システム、計数装置、機械学習装置、計数方法、部品配置方法、および、プログラムに関する。
物品を計数する技術として、物品を撮影した撮影画像と、物品の基準となる画像とを比較して、撮影画像から物品を検出して計数する技術がある。しかしながら、この技術では、物品の基準となる画像を記憶しておく必要がある。そこで、物品の基準となる画像を記憶しておく必要がない物品の計数装置として、特許文献1には、連続して移送される物品を撮影し、撮影した画像を二値化して物品の面積から物品を計数する計数装置が開示されている。
特開平9-124142号公報
特許文献1に記載の計数装置は、コンベアで連続して移送される物品を撮影し、物品の存在していない区切り線と区切り線との間に存在する物品の数を計測する。したがって、コンベア上の物品を区切り線が存在する配置にしなければならない。また、単位時間あたりに移送できる物品の数が制限され、計数に時間がかかる。予め決められた計測範囲の物品を計数する構成にしたとしても、計測範囲の境界を跨いで物品が存在した場合、正確に計数できない問題がある。
本開示は、上記のような問題点に鑑みてなされたものであり、撮影画像から物品を計数する計数装置において、物品の基準となる画像を記憶しておく必要がなく、かつ、より短時間で正確な計数を可能にすることを目的とする。
上記目的を達成するため、本開示に係る計数システムは、撮影範囲に投入されて静止した物品を撮影する撮影装置、および、撮影装置が撮影した物品を計数する計数装置を備える。計数装置は、画像取得部と、二値化部と、面積算出部と、物品数算出部と、情報出力部と、集団の画像と当該集団の物品の数とを対応付けた集団画像情報を記憶する集団画像記憶部とを有する。画像取得部は、撮影装置から撮影画像を取得する。二値化部は、画像取得部が取得した撮影画像を二値化する。面積算出部は、二値化部が二値化した撮影画像のピクセル分布を分類した集団の面積を算出する。物品数算出部は、面積算出部が算出した集団の面積から集団ごとの物品の数を算出し、集団ごとの物品の数を合計し、撮影画像に写っている物品の総数を示す物品数情報を生成する。情報出力部は、物品数算出部が生成した物品数情報を出力する。物品数算出部は、面積算出部が算出した集団の面積から物品の数を算出できない計数不可の集団があって、計数不可の集団の画像と集団の画像が類似する集団画像情報がある場合には、類似する集団の画像に対応付けられた物品の数を、計数不可の集団の物品の数として採用して、撮影画像に写っている物品の総数を算出し、計数不可の集団の画像と集団の画像が類似する集団画像情報がない場合には、ユーザによって入力された計数不可の集団の物品の数を採用して、撮影画像に写っている物品の総数を算出し、計数不可の集団の画像とユーザによって入力された計数不可の集団の物品の数とを対応付けて集団画像情報を生成する。
本開示によれば、撮影画像から物品を計数する計数装置が、静止した物品を撮影した撮影画像を二値化し、二値化した撮影画像のピクセル分布を分類した集団の面積に基づいて物品を計数することで、物品の基準となる画像を記憶しておく必要がなく、かつ、より短時間で正確な計数が可能になる。
実施の形態1に係る計数システムの構成を示す図 実施の形態1に係る計数装置の機能構成例を示す図 実施の形態1に係る計数不可情報の例を示す図 実施の形態1に係る部品数情報の例を示す図 実施の形態1に係る計数装置が実行する計数処理を示すフローチャート 実施の形態2に係る計数装置の機能構成例を示す図 実施の形態1に係る集団画像情報の例を示す図 実施の形態2に係る計数装置が実行する計数処理を示すフローチャート 実施の形態3に係る計数システムの構成を示す図 実施の形態3に係る計数装置の機能構成例を示す図 実施の形態3に係る計数装置が実行する計数処理を示すフローチャート 実施の形態4に係る計数システムの構成を示す図 実施の形態4に係る計数装置の機能構成例を示す図 実施の形態4に係る部品数情報の例を示す図 実施の形態4に係る計数装置が実行する計数処理を示すフローチャート 実施の形態5に係る計数システムの構成を示す図 実施の形態5に係る計数装置の機能構成例を示す図 実施の形態5に係る計数装置が実行する計数処理を示すフローチャート 実施の形態6に係る計数システムの構成を示す図 実施の形態6に係る計数装置および機械学習装置の機能構成例を示す図 実施の形態6に係る機械学習装置が生成するニューラルネットワークの例を示す図 実施の形態6に係る計数システムの構成の他の例を示す図 実施の形態7に係る計数システムの構成の他の例を示す図 実施の形態7に係る部品配置装置が実行する計数処理を示すフローチャート 実施の形態1から7に係る計数装置のハードウェア構成の一例を示す図
以下に、本実施の形態に係る計数システム、計数装置、機械学習装置、計数方法、部品配置方法、および、プログラムについて図面を参照して詳細に説明する。なお、図中同一または相当する部分には同じ符号を付す。本実施の形態は、部品の計数を行う計数システムの例である。
(実施の形態1)
図1に示すように、計数システム100は、部品Pの計数を行う計数装置1と、撮影範囲Cを撮影する撮影装置2と、ユーザが使用するユーザ端末3とを備える。計数装置1と、撮影装置2およびユーザ端末3とは、有線または無線で接続している。
ユーザが撮影範囲Cに部品Pを投入すると、部品Pが静止した状態で撮影装置2が撮影範囲Cを撮影し、計数装置1に撮影画像を送信する。撮影装置2が撮影するタイミングは、ユーザが撮影装置2に撮影指示を入力したタイミングでもよいし、撮影装置2が撮影範囲Cに計数対象の部品Pが投入されたことを検知したタイミングでもよい。計数装置1は、撮影装置2から受信した撮影画像を二値化する。計数装置1は、二値化した撮影画像のピクセル分布を集団に分類する。計数装置1は、集団の面積から集団ごとの部品Pの数を算出して合計し、撮影画像に写っている部品Pの総数を算出する。計数装置1は、算出した部品Pの総数を示す部品数情報を生成し、ユーザ端末3に送信する。部品数情報は、物品数情報の例である。
計数装置1は、集団の面積から部品Pの数を算出できない計数不可の集団がある場合には、計数不可の集団を示す計数不可情報を生成し、ユーザ端末3に送信する。ユーザ端末3は計数装置1から受信した計数不可情報を表示する。ユーザは、ユーザ端末3に表示された計数不可情報が示す計数不可の集団の部品Pの数を目視で数える。ユーザは、計数不可の集団の部品Pの数を示す数値情報をユーザ端末3に入力する。ユーザ端末3は、入力された数値情報を計数装置1に送信する。計数装置1は、ユーザ端末3から数値情報を受信すると、数値情報が示す計数不可の集団の部品Pの数を採用して、撮影画像に写っている部品Pの総数を算出する。なお、部品Pの形状が球体である場合のように部品Pが重ならない場合は、計数不可の集団は発生しない。計数装置1は、算出した部品Pの総数を示す部品数情報を生成し、ユーザ端末3に送信する。ユーザ端末3は計数装置1から受信した部品数情報を画面表示、音声出力などの方法で出力する。これにより、ユーザは投入した部品Pの数を把握できる。
ここで、図2を用いて実施の形態1に係る計数装置1の機能構成について説明する。図2に示すように、計数装置1は、機能構成として、撮影装置2から撮影画像を受信する画像取得部11と、撮影画像を二値化する二値化部12と、二値化した撮影画像を縮小する縮小処理部13と、縮小した撮影画像のピクセル分布を分類した集団の面積を算出する面積算出部14と、集団の面積から部品Pの総数を算出する部品数算出部15と、ユーザ端末3に情報を出力する情報出力部16とを備える。
画像取得部11は、撮影装置2から撮影画像を受信する。撮影画像はデジタルデータである。二値化部12は、画像取得部11が受信した撮影画像をグレースケールに変換し、ガウシアンフィルタ、移動平均化フィルタなどの平滑化フィルタにより、ノイズを除去する。二値化部12は、ノイズが除去されたグレースケールの撮影画像に対し、閾値を算出する。二値化の閾値の算出する方法として、2クラスのクラスタリングによって繰り返し計算を行いながら閾値を算出する方法、分離度が最大となる閾値を算出する判別分析法などがある。判別分析法によれば、繰り返し計算を行う必要がないので、高速で二値化の閾値を算出することができる。二値化部12は、算出した閾値を用いて、ノイズが除去されたグレースケールの撮影画像を二値化する。
縮小処理部13は、二値化部12が二値化した撮影画像を縮小する。部品Pに、例えば電子部品のリード線部分のような微細な構造がある場合、二値化した撮影画像を縮小することで撮影画像に写っている部品Pの微細な構造を除去することができる。これにより、部品Pの輪郭の誤検出を抑制できる。なお、部品Pに微細な構造がない場合は、計数装置1は縮小処理部13を備えなくてもよい。
面積算出部14は、縮小処理部13が縮小した撮影画像のピクセル分布を集団に分類し、各集団のピクセル数を面積として算出する。集団に分類する方法には、例えば、K-means法がある。K-means法を用いる場合、面積算出部14は、二値化した撮影画像中のエッジ数をカウントし、集団数kの値として設定する。エッジ数のカウントには、例えばOpenCV(Open Source Computer Vision Library)のfindcontours関数を使用する。なお、計数装置1が縮小処理部13を備えない場合は、面積算出部14は、二値化部12が二値化した撮影画像のピクセル分布を集団に分類し、各集団のピクセル数を面積として算出する。
部品数算出部15は、面積算出部14が算出した各集団の面積のうち、ノイズを除いた最も小さい集団の面積を部品P1個分の面積と判断し、基準面積とする。ノイズを除く方法として、例えば次の方法がある。計数装置1を用いて予め複数回の実験を行って部品Pの集団がとりうる面積の下限および上限を算出しておく。あるいは、部品数算出部15は、面積算出部14が算出した各集団の面積の値を昇順または降順に並べる。部品数算出部15は、各集団の面積の値を中央から小さい方に比較していき、隣り合う値に決められた値以上の差があれば、その大きい方の値を下限とする。部品数算出部15は、各集団の面積の値を中央から大きい方に比較していき、隣り合う値に決められた値以上の差があれば、その小さい方の値を上限とする。部品数算出部15は、下限よりも小さい面積の集団および上限よりも大きい面積の集団をノイズとして除去する。
部品数算出部15は、基準面積の1倍を含む第1の範囲内の面積の集団の部品Pの数を1個と算出する。部品数算出部15は、基準面積の2倍を含む第2の範囲内の面積の集団の部品Pの数を2個と算出する。部品数算出部15は、基準面積の3倍を含む第3の範囲内の面積の集団の部品Pの数を3個と算出する。このように、部品数算出部15は、基準面積のN倍を含む第Nの範囲内の面積の集団の部品Pの数をN個と算出し、加算していく。Nは正の整数である。第Nの範囲は、部品Pの形状・向きなどによる誤差を吸収する最小の範囲とする。部品数算出部15は、面積が第Nの範囲外の集団は、部品Pが重なっているものと判断し、計数不可とする。部品数算出部15は、計数不可の集団を示す計数不可情報を生成する。情報出力部16は、部品数算出部15が生成した計数不可情報をユーザ端末3に送信する。
部品数算出部15は、ユーザ端末3から計数不可の集団の部品Pの数を示す数値情報を受信する。部品数算出部15は、数値情報が示す計数不可の集団の部品Pの数を採用して、撮影画像に写っている部品Pの総数を算出する。部品数算出部15は、算出した部品Pの総数を示す部品数情報を生成する。部品数算出部15は、物品数算出部の例である。情報出力部16は、部品数算出部15が生成した部品数情報をユーザ端末3に送信する。
続いて、計数不可情報および部品数情報について図3を用いて説明する。図3Aは、計数不可情報の一例を示す。図3Aの例では、ノイズを除いたすべての集団の画像が表示されている。部品数算出部15が計数不可とした集団が四角い枠で囲まれて、「計数不可」の文字が表示されている。「部品数」の欄にも「計数不可」の文字が表示されている。計数不可情報は、図3Aの例に限らず、例えば、部品数算出部15が計数不可とした集団を他の集団と異なる色で表示してもよいし、点滅させてもよい。「部品数」の欄はなくてもよい。あるいは、計数不可情報は、撮影範囲C上の計数不可の集団の座標を示す情報であってもよい。
図3Aに示した計数不可情報がユーザ端末3に表示されると、ユーザは四角い枠で囲まれた集団の部品Pの数を目視で計数し、部品Pの数「5」を示す数値情報をユーザ端末3に入力する。ユーザ端末3は、入力された数値情報を計数装置1に送信する。計数装置1の部品数算出部15は、面積から算出した集団ごとの部品Pの数を加算した合計「46」に、数値情報が示す部品Pの数「5」を加算して、撮影画像に写っている部品Pの総数「51」を算出する。部品数算出部15は、図3Bに示すような、部品Pの総数「51」を示す部品数情報を生成する。情報出力部16は、部品数算出部15が生成した部品数情報をユーザ端末3に送信する。ユーザ端末3は、受信した部品数情報を表示する。これにより、ユーザは、投入した部品Pの数が51個であったことを把握する。
図3Bの例では、ノイズを除いたすべての集団の画像が表示されている。部品Pの数が1個以外の集団が四角い枠で囲まれて、その数が表示されている。図3Aで計数不可の集団として表示されていた集団についても、ユーザが入力した数値情報が示す部品Pの数「5」が反映されている。「部品数」の欄には部品Pの総数である「51」が表示されている。部品数情報は、図3Bの例に限らず、例えば、部品Pの総数だけを表示してもよいし、前回の計数結果、決められた期間に計数した部品Pの累積数などを表示してもよい。あるいは、部品Pの総数を通知する音声データであってもよい。
なお、計数装置1の情報出力部16は、計数不可情報および部品数情報をユーザ端末3に送信せずに、画面表示、音声出力などの方法で出力してもよい。この場合、計数システム100は、ユーザ端末3を備えなくてもよい。ユーザは、情報出力部16が出力した計数不可情報が示す計数不可の集団の部品Pの数を目視で数え、計数不可の集団の部品Pの数を示す数値情報を部品数算出部15に入力する。
ここで、計数装置1が実行する計数処理の流れを説明する。図4に示す計数処理は、計数装置1の電源が投入されたときに開始する。計数装置1の画像取得部11は、撮影装置2から撮影画像を受信しない場合(ステップS11;NO)、ステップS11を繰り返して、撮影画像の受信を待機する。撮影装置2から撮影画像を受信した場合(ステップS11;YES)、二値化部12は、画像取得部11が受信した撮影画像をグレースケールに変換し、平滑化フィルタによりノイズを除去する。二値化部12は、ノイズが除去されたグレースケールの撮影画像に対し、二値化の閾値を算出する(ステップS12)。このとき、判別分析法を用いれば、高速で二値化の閾値を算出することができる。二値化部12は、算出した閾値を用いて、ノイズが除去されたグレースケールの撮影画像を二値化する(ステップS13)。
縮小処理部13は、二値化部12が二値化した撮影画像を縮小する(ステップS14)。なお、計数装置1が縮小処理部13を備えない場合は、ステップS13は省略される。面積算出部14は、縮小処理部13が縮小した撮影画像のピクセル分布を集団に分類し、各集団の面積を算出する(ステップS15)。ステップS13が省略された場合は、面積算出部14は、二値化部12が二値化した撮影画像のピクセル分布を集団に分類し、各集団の面積を算出する。部品数算出部15は、面積算出部14が算出した各集団の面積うち、ノイズを除いた最も小さい面積を、部品P1個分の面積である基準面積として算出する(ステップS16)。このとき、部品数算出部15は、下限および上限を定めて、下限よりも小さい面積の集団および上限よりも大きい面積の集団をノイズとして除去する。
部品数算出部15は、面積算出部14が分類した各集団について、面積が基準面積のN倍を含む第Nの範囲内であるか否かを判定する(ステップS17)。面積が基準面積のN倍を含む第Nの範囲内である場合(ステップS17;YES)、当該集団の部品Pの数をN個として部品Pの数に加算する(ステップS20)。面積が基準面積のN倍を含む第Nの範囲外である場合(ステップS17;NO)、部品数算出部15は、部品Pが重なっているものと判断し、計数不可とする。部品数算出部15は、計数不可の集団を示す計数不可情報を生成する。情報出力部16は、部品数算出部15が生成した計数不可情報をユーザ端末3に送信する(ステップS18)。計数システム100がユーザ端末3を備えない場合は、ステップS18で情報出力部16は、計数不可情報を表示する。
図3Aの計数不可情報の例では、ノイズを除いたすべての集団の画像が表示されている。ステップS17で、面積が第Nの範囲外であると判定された集団、つまり計数不可の集団が四角い枠で囲まれて、「計数不可」の文字が表示されている。「部品数」の欄にも「計数不可」の文字が表示されている。
図4に戻り、部品数算出部15は、ユーザ端末3から計数不可の集団の部品Pの数を示す数値情報を受信しない場合(ステップS19;NO)、ステップS19を繰り返して、数値情報の受信を待機する。部品数算出部15は、ユーザ端末3から計数不可の集団の部品Pの数を示す数値情報を受信した場合(ステップS19;YES)、数値情報が示す部品Pの数を、部品Pの数に加算する(ステップS20)。計数システム100がユーザ端末3を備えない場合は、ステップS19で部品数算出部15は、数値情報が入力されたか否かを判定する。
次の集団がある場合(ステップS21;YES)、処理はステップS17に戻り、ステップS17~ステップS21を繰り返す。面積算出部14が分類したすべての集団について、ステップS17~ステップS21を繰り返し、次の集団がない場合(ステップS21;NO)、部品数算出部15は、すべての集団の部品Pの数を合計した部品Pの総数を示す部品数情報を生成する。情報出力部16は、部品数算出部15が生成した部品数情報をユーザ端末3に送信する(ステップS22)。計数システム100がユーザ端末3を備えない場合は、ステップS22で、情報出力部16は部品数情報を表示する。
図3Bの部品数情報の例では、ノイズを除いたすべての集団の画像が表示されている。ステップS17で、面積が第2の範囲内であると判定された集団が四角い枠で囲まれて、部品Pの数「2」が表示されている。ステップS17で、面積が第3の範囲内であると判定された集団が四角い枠で囲まれて、部品Pの数「3」が表示されている。ステップS17で、面積が第Nの範囲外であると判定され、ステップS18で図3Aに示す計数不可情報が送信された集団についても、四角い枠で囲まれて、ステップS19で受信した数値情報が示す部品Pの数「5」が表示されている。「部品数」の欄には部品Pの総数である「51」が表示されている。
図4に戻り、計数装置1の電源がOFFになっていない場合(ステップS23;NO)、処理はステップS11に戻り、ステップS11~ステップS23を繰り返す。計数装置1の電源がOFFになると(ステップS23;YES)、処理を終了する。なお、部品Pの形状が球体である場合のように部品Pが重ならない場合は、計数不可の集団は発生しないので、ステップS18およびステップS19は省略してもよい。
実施の形態1に係る計数システム100によれば、撮影画像から部品Pを計数する計数装置1が、静止した部品Pを撮影した撮影画像を二値化し、二値化した撮影画像のピクセル分布を分類した集団の面積に基づいて部品Pを計数することで、部品Pの基準となる画像を記憶しておく必要がなく、かつ、より短時間で正確な計数が可能になる。
(実施の形態2)
実施の形態2では、計数装置1は、集団の画像と当該集団の部品Pの数とを対応付けた集団画像情報を記憶しておき、計数不可の集団の画像と類似する集団の画像に対応付けられた部品Pの数を、計数不可の集団の部品Pの数として採用する。
図5を用いて実施の形態2に係る計数装置1の機能構成について説明する。図5に示すように、計数装置1は、機能構成として、画像取得部11、二値化部12、縮小処理部13、面積算出部14、部品数算出部15、および、情報出力部16に加え、集団画像情報を記憶する集団画像記憶部17を備える。
部品数算出部15は、ユーザ端末3から計数不可の集団の部品Pの数を示す数値情報を受信すると、計数不可の集団の画像と数値情報が示す部品Pの数とを対応付けて集団画像情報を生成する。集団画像記憶部17は、部品数算出部15が生成した集団画像情報を記憶する。集団画像情報の例を図6に示す。例えば、1つ目の集団画像情報では、図3Aの計数不可情報に示された計数不可の集団の画像と、数値情報が示す部品Pの数「5」とが対応付けられている。つまり、集団画像情報は、計数不可であった集団の画像と当該集団の部品Pの数とを対応付けた情報である。
図5に戻り、部品数算出部15は、計数不可の集団がある場合、集団画像記憶部17を参照し、計数不可の集団の画像と集団の画像が類似する集団画像情報があるか否かを判定する。2つの画像が類似するか否かの判定方法は、例えば、2つの画像の特徴点を抽出して類似度を算出し、類似度が閾値よりも高ければ類似すると判定する方法がある。
計数不可の集団の画像と集団の画像が類似する集団画像情報がある場合、部品数算出部15は、計数不可の集団の画像と類似する集団の画像に対応付けられた部品Pの数を、計数不可の集団の部品Pの数として採用する。計数不可の集団の画像と集団の画像が類似する集団画像情報がない場合には、実施の形態1と同様に、部品数算出部15は計数不可情報を生成し、情報出力部16が計数不可情報をユーザ端末3に送信する。部品数算出部15は、ユーザ端末3から受信した数値情報が示す計数不可の集団の部品Pの数を採用する。部品数算出部15は、ユーザ端末3から計数不可の集団の部品Pの数を示す数値情報を受信するごとに集団画像情報を生成する。集団画像記憶部17には、集団画像情報が累積記憶されていく。計数装置1のその他の機能は、実施の形態1と同様である。
ここで、計数装置1が実行する計数処理の流れを説明する。図7に示す計数処理は、計数装置1の電源が投入されたときに開始する。ステップS31~ステップS36は、図4に示すフローチャートのステップS11~ステップS16と同様であるので説明を省略する。部品数算出部15は、面積算出部14が分類した各集団について、面積が基準面積のN倍を含む第Nの範囲内であるか否かを判定する(ステップS37)。面積が基準面積のN倍を含む第Nの範囲内である場合(ステップS37;YES)、当該集団の部品Pの数をN個として部品Pの数に加算する(ステップS42)。面積が基準面積のN倍を含む第Nの範囲外である場合(ステップS37;NO)、部品数算出部15は、集団画像記憶部17を参照し、計数不可の集団の画像と集団の画像が類似する集団画像情報があるか否かを判定する(ステップS38)。
計数不可の集団の画像と集団の画像が類似する集団画像情報がある場合(ステップS38;YES)、部品数算出部15は、計数不可の集団の画像と類似する集団の画像に対応付けられた部品Pの数を、計数不可の集団の部品Pの数として採用し、部品Pの数に加算する(ステップS42)。
計数不可の集団の画像と集団の画像が類似する集団画像情報がない場合には(ステップS38;NO)、部品数算出部15は、計数不可の集団を示す計数不可情報を生成する。情報出力部16は、部品数算出部15が生成した計数不可情報をユーザ端末3に送信する(ステップS39)。部品数算出部15は、ユーザ端末3から計数不可の集団の部品Pの数を示す数値情報を受信しない場合(ステップS40;NO)、ステップS40を繰り返して、数値情報の受信を待機する。部品数算出部15は、ユーザ端末3から計数不可の集団の部品Pの数を示す数値情報を受信した場合(ステップS40;YES)、計数不可の集団の画像と数値情報が示す部品Pの数とを対応付けて集団画像情報を生成し、集団画像記憶部17に集団画像情報を記憶する(ステップS41)。
例えば、図6に示す1つ目の集団画像情報では、図3Aの計数不可情報に示された計数不可の集団の画像と、数値情報が示す部品Pの数「5」とが対応付けられている。
図7に戻り、部品数算出部15は、受信した数値情報が示す部品Pの数を、部品Pの数に加算する(ステップS42)。次の集団がある場合(ステップS43;YES)、処理はステップS37に戻り、ステップS37~ステップS43を繰り返す。面積算出部14が分類したすべての集団について、ステップS37~ステップS43を繰り返し、次の集団がない場合(ステップS43;NO)、部品数算出部15は、すべての集団の部品Pの数を合計した部品Pの総数を示す部品数情報を生成する。情報出力部16は、部品数算出部15が生成した部品数情報をユーザ端末3に送信する(ステップS44)。計数装置1の電源がOFFになっていない場合(ステップS45;NO)、処理はステップS31に戻り、ステップS31~ステップS45を繰り返す。計数装置1の電源がOFFになると(ステップS45;YES)、処理を終了する。
実施の形態2に係る計数システム100によれば、撮影画像から部品Pを計数する計数装置1が、静止した部品Pを撮影した撮影画像を二値化し、二値化した撮影画像のピクセル分布を分類した集団の面積に基づいて部品Pを計数することで、部品Pの基準となる画像を記憶しておく必要がなく、かつ、より短時間で正確な計数が可能になる。また、計数不可の集団の画像と類似する集団の画像に対応付けられた部品Pの数を、計数不可の集団の部品Pの数として採用することで、ユーザが計数不可の集団の部品Pの数を目視で数え、数値情報をユーザ端末3に入力する作業を減らすことができる。
(実施の形態3)
実施の形態3では、ユーザが計数不可の集団の部品Pの数を目視で数え、数値情報をユーザ端末3に入力する代わりに、均し動作装置が重なっている部品Pを均して計数可能にする均し動作を行う。
図8に示すように、計数システム100は、計数装置1と、撮影装置2とユーザ端末3とに加え、均し動作を行う均し動作装置4を備える。計数装置1と均し動作装置4とは、有線または無線で接続している。
計数装置1は、集団の面積から部品Pの数を算出できない計数不可の集団がある場合には、均し動作を指示する均し動作指示情報を均し動作装置4に送信する。均し動作装置4は、計数装置1から均し動作指示情報を受信すると均し動作を行う。均し動作装置4は、例えば、部品Pが投入された台を振動させることで部品Pの重なりを崩す。あるいは、均し動作指示情報に、撮影範囲C上の計数不可の集団の座標を含み、均し動作装置4は、計数不可の集団の座標に対して、空気を射出して部品Pの重なりを崩したり、ロボットアームで部品Pの重なりを崩したりする装置であってもよい。
撮影装置2は、均し動作装置4が部品Pの重なりを崩した後の撮影範囲Cを撮影する。撮影装置2が撮影するタイミングは、ユーザが撮影装置2に撮影指示を入力してもよいし、撮影装置2が均し動作装置4の均し動作を検知して撮影してもよい。計数システム100のその他の構成は、実施の形態1と同様である。
ここで、図9を用いて実施の形態3に係る計数装置1の機能構成について説明する。図9に示すように、計数装置1は、機能構成として、画像取得部11、二値化部12、縮小処理部13、面積算出部14、部品数算出部15、および、情報出力部16に加え、均し動作指示部18を備える。画像取得部11、二値化部12、縮小処理部13、面積算出部14は、実施の形態1と同様の処理を行う。
部品数算出部15は、部品P1個分の面積とみなす基準面積を算出し、基準面積のN倍を含む第Nの範囲内の面積の集団の部品Pの数をN個と算出する。部品数算出部15は、面積が第Nの範囲外の集団は、部品Pが重なっているものと判断し、計数不可とする。計数不可の集団がある場合、部品数算出部15は、均し動作装置4に均し動作を指示する均し動作指示情報を生成する。均し動作指示情報に撮影範囲C上の計数不可の集団の座標を含む場合には、部品数算出部15は、撮影範囲C上のすべての計数不可の集団の座標を含む均し動作指示情報を生成する。情報出力部16は、部品数算出部15が生成した均し動作指示情報を均し動作装置4に送信する。
均し動作装置4は、計数装置1から均し動作指示情報を受信すると均し動作を行う。撮影装置2は、均し動作装置4が均し動作で部品Pの重なりを崩した後の撮影範囲Cを撮影する。画像取得部11、二値化部12、縮小処理部13、および、面積算出部14は、実施の形態1と同様の処理を行う。部品数算出部15は、計数不可の集団がなくなると、すべての集団の部品Pの数を合計して、撮影画像に写っている部品Pの総数を算出する。部品数算出部15は、算出した部品Pの総数を示す部品数情報を生成する。情報出力部16は、部品数算出部15が生成した部品数情報をユーザ端末3に送信する。計数装置1のその他の機能は、実施の形態1と同様である。
ここで、計数装置1が実行する計数処理の流れを説明する。図10に示す計数処理は、計数装置1の電源が投入されたときに開始する。ステップS51~ステップS56は、図4に示すフローチャートのステップS11~ステップS16と同様であるので説明を省略する。部品数算出部15は、面積算出部14が分類した各集団について、面積が基準面積のN倍を含む第Nの範囲内であるか否かを判定する(ステップS57)。面積が基準面積のN倍を含む第Nの範囲外である場合(ステップS57;NO)、部品数算出部15は、均し動作装置4に均し動作を指示する均し動作指示情報を生成する。情報出力部16は、部品数算出部15が生成した均し動作指示情報を均し動作装置4に送信する(ステップS58)。
均し動作指示情報に撮影範囲C上の計数不可の集団の座標を含む場合には、部品数算出部15は、ステップS57ですべての集団について第Nの範囲内であるか否かを判定し、第Nの範囲外である集団がある場合には、撮影範囲C上のすべての計数不可の集団の座標を含む均し動作指示情報を生成する。ステップS58で、情報出力部16は、部品数算出部15が生成した均し動作指示情報を均し動作装置4に送信する。この場合、ステップS59で、部品数算出部15は、すべての集団の部品Pの数を合計し、撮影画像に写っている部品Pの総数を示す部品数情報を生成し、ステップS60は省略する。
均し動作装置4は、計数装置1から均し動作指示情報を受信すると均し動作を行う。撮影装置2は、均し動作装置4が部品Pの重なりを崩した後の撮影範囲Cを撮影する。処理は、ステップS51に戻り、ステップS51~ステップS57を繰り返す。面積が基準面積のN倍を含む第Nの範囲内である場合(ステップS57;YES)、当該集団の部品Pの数をN個として部品Pの数に加算する(ステップS59)。
次の集団がある場合(ステップS60;YES)、処理はステップS57に戻り、ステップS57~ステップS60を繰り返す。面積算出部14が分類したすべての集団について、ステップS57~ステップS60を繰り返し、次の集団がない場合(ステップS60;NO)、部品数算出部15は、すべての集団の部品Pの数を合計した部品Pの総数を示す部品数情報を生成する。情報出力部16は、部品数算出部15が生成した部品数情報をユーザ端末3に送信する(ステップS61)。計数装置1の電源がOFFになっていない場合(ステップS62;NO)、処理はステップS51に戻り、ステップS51~ステップS62を繰り返す。計数装置1の電源がOFFになると(ステップS62;YES)、処理を終了する。
実施の形態3に係る計数システム100によれば、撮影画像から部品Pを計数する計数装置1が、静止した部品Pを撮影した撮影画像を二値化し、二値化した撮影画像のピクセル分布を分類した集団の面積に基づいて部品Pを計数することで、部品Pの基準となる画像を記憶しておく必要がなく、かつ、より短時間で正確な計数が可能になる。また、計数不可の集団の部品Pを自動的に均して計数可能にするので、ユーザが計数不可の集団の部品Pの数を目視で数え、数値情報をユーザ端末3に入力する作業が不要となる。
(実施の形態4)
実施の形態4では、計数装置1は出庫する部品の数を計数する。計数装置1は、部品を識別する情報と当該部品の撮影画像とを対応付けた撮影実績情報を記憶しておき、出庫する部品と撮影画像に写っている部品Pとが一致するか否かを判定する。また、計数装置1は、出庫する部品Pの数を、部品Pの在庫数を示す在庫情報に反映する。
図11に示すように、計数システム100は、計数装置1と、撮影装置2とユーザ端末3とに加え、部品の出庫を指示する生産管理システム5と、部品の在庫を管理する在庫管理システム6とを備える。計数装置1は、生産管理システム5および在庫管理システム6とネットワークを介して接続する。
生産管理システム5は、出庫する部品を示す出庫情報をユーザ端末3および計数装置1に送信する。ユーザ端末3は、生産管理システム5から受信した出庫情報を画面表示、音声出力などの方法で出力する。ユーザ端末3が出庫情報を出力すると、ユーザは出庫情報が示す部品を撮影範囲Cに投入する。以下、出庫情報が示す部品を撮影範囲Cに投入する作業を出庫作業という。撮影装置2が撮影範囲Cを撮影し、計数装置1に撮影画像を送信する。
計数装置1は、生産管理システム5から出庫情報を受信し、撮影装置2から撮影画像を受信する度に、出庫する物品と物品を識別する情報が一致する撮影実績情報があるか否かを判定する。物品を識別する情報が一致する撮影実績情報があれば、計数装置1はそれを参照して、出庫する部品と撮影画像に写っている部品Pとが一致するか否かを判定する。一致しない場合には、計数装置1は、警告を示すエラー情報を出力する。物品を識別する情報が一致する撮影実績情報がなければ、計数装置1は、撮影装置2から受信した撮影画像と、生産管理システム5から受信した出庫情報に含まれる部品を識別する情報とを対応付けて撮影実績情報を生成し、記憶する。なお、計数装置1が撮影実績情報を生成して記憶した場合であって、ユーザが撮影範囲Cに投入した部品Pが出庫する部品でないと判明した場合には、該当する撮影実績情報を削除する構成にしてもよい。
在庫管理システム6は、部品Pの在庫数を示す在庫情報を記憶している。計数装置1は、撮影画像に写っている部品Pの総数、つまり1回の出庫作業で出庫する部品Pの総数を算出する。在庫管理システム6が記憶している在庫情報の部品Pの在庫数から、1回の出庫作業で出庫する部品Pの総数を減算して、在庫情報を更新する。計数システム100のその他の構成は、実施の形態1と同様である。
ここで、図12を用いて実施の形態4に係る計数装置1の機能構成について説明する。図12に示すように、計数装置1は、機能構成として、画像取得部11、二値化部12、縮小処理部13、面積算出部14、部品数算出部15、および、情報出力部16に加え、出庫する部品と撮影画像に写っている部品Pとが一致するか否かを判定する正否判定部19、撮影実績情報を記憶する撮影実績記憶部20、および、在庫情報を更新する在庫更新部21を備える。
正否判定部19は、生産管理システム5から出庫情報を受信し、画像取得部11が撮影装置2から撮影画像を受信すると、撮影実績記憶部20を参照し、出庫情報に含まれる部品を識別する情報と、部品を識別する情報が一致する撮影実績情報があるか否かを判定する。
部品を識別する情報が一致する撮影実績情報がない場合には、正否判定部19は、画像取得部11が撮影装置2から受信した撮影画像と、生産管理システム5から受信した出庫情報に含まれる部品を識別する情報とを対応付けて撮影実績情報を生成し、撮影実績記憶部20に記憶する。
部品を識別する情報が一致する撮影実績情報がある場合には、正否判定部19は、撮影実績情報が示す部品の撮影画像と、画像取得部11が受信した撮影画像とを比較し、同じ部品であるか否かを判定する。同じ部品であるか否かの判定方法は、例えば、2つの撮影画像から特徴点を抽出して類似度を算出し、類似度が閾値よりも高ければ同じ部品であると判定する方法がある。
正否判定部19は、同じ部品でないと判定した場合、警告を示すエラー情報を生成する。情報出力部16は、正否判定部19が生成したエラー情報をユーザ端末3に送信する。ユーザ端末3は計数装置1から受信したエラー情報を表示する。これにより、ユーザは、投入した部品Pが間違っていることを知ることができる。正否判定部19が同じ部品であると判定した場合、二値化部12、縮小処理部13、および、面積算出部14は、実施の形態1と同様の処理を行う。なお、出庫情報を計数装置1に送信するのは、生産管理システム5に限らない。例えば、ユーザが出庫情報を正否判定部19に入力してよいし、ユーザ端末3にユーザが入力した出庫情報を正否判定部19がユーザ端末3から取得してもよい。
部品数算出部15は、撮影画像に写っている部品Pの総数を算出すると、図13に示すような、算出した部品Pの総数を示す部品数情報を生成する。情報出力部16は、部品数算出部15が生成した部品数情報をユーザ端末3に送信する。ユーザ端末3は、受信した部品数情報を表示する。図13の例では、図3Bに示した部品Pの総数「51」を示す部品数情報に加えて、出庫情報を受信後に計数した部品Pの累積数である「累積部品数」114と出庫情報が示す部品Pの出庫数「出庫指示数」200とが表示されている。これにより、ユーザは、投入した部品Pの数と、部品Pを残り86個出庫する必要があることを把握することができる。
図12に戻り、部品数算出部15が撮影画像に写っている部品Pの総数、つまり1回の出庫作業で出庫する部品Pの総数を算出すると、在庫更新部21は、在庫管理システム6が記憶している在庫情報の部品Pの在庫数から、1回の出庫作業で出庫する部品Pの総数を減算して、在庫情報を更新する。なお、在庫情報を記憶するのは、在庫管理システム6に限らない。例えば、計数装置1が在庫情報を記憶していてもよいし、外部の記憶装置が在庫情報を記憶していてもよい。計数装置1のその他の機能は、実施の形態1と同様である。
ここで、計数装置1が実行する計数処理の流れを説明する。図14に示す計数処理は、計数装置1の電源が投入されたときに開始する。計数装置1の正否判定部19は、生産管理システム5から出庫情報を受信する(ステップS71)。画像取得部11は、撮影装置2から撮影画像を受信しない場合(ステップS72;NO)、ステップS72を繰り返して、撮影画像の受信を待機する。画像取得部11が撮影装置2から撮影画像を受信した場合(ステップS72;YES)、正否判定部19は、撮影実績記憶部20を参照し、出庫情報に含まれる部品を識別する情報と、部品を識別する情報が一致する撮影実績情報があるか否かを判定する(ステップS73)。
一致する撮影実績情報がない場合には(ステップS73;NO)、正否判定部19は、画像取得部11が撮影装置2から受信した撮影画像と、生産管理システム5から受信した出庫情報に含まれる部品を識別する情報とを対応付けて撮影実績情報を生成する。正否判定部19は、生成した撮影実績情報を撮影実績記憶部20に記憶し(ステップS76)、処理はステップS77に移行する。
一致する撮影実績情報がある場合には(ステップS73;YES)、正否判定部19は、撮影実績情報が示す部品の撮影画像と、画像取得部11が受信した撮影画像とを比較し、同じ部品であるか否かを判定する(ステップS74)。同じ部品でないと判定した場合(ステップS74;NO)、正否判定部19は、警告を示すエラー情報を生成する。情報出力部16は、正否判定部19が生成したエラー情報をユーザ端末3に送信する(ステップS75)。ユーザ端末3は計数装置1から受信したエラー情報を表示する。処理はステップS72に戻り、ステップS72~ステップS74を繰り返す。同じ部品であると判定した場合(ステップS74;YES)、処理はステップS77に移行する。ステップS77~ステップS87は、図4に示すフローチャートのステップS12~ステップS22と同様であるので説明を省略する。
部品数算出部15が撮影画像に写っている部品Pの総数、つまり1回の出庫作業で出庫する部品Pの総数を算出すると、在庫更新部21は、在庫管理システム6が記憶している在庫情報の部品Pの在庫数から、1回の出庫作業で出庫する部品Pの総数を減算して、在庫情報を更新する(ステップS88)。計数装置1の電源がOFFになっていない場合(ステップS89;NO)、処理はステップS71に戻り、ステップS71~ステップS89を繰り返す。計数装置1の電源がOFFになると(ステップS89;YES)、処理を終了する。
実施の形態4に係る計数システム100によれば、撮影画像から部品Pを計数する計数装置1が、静止した部品Pを撮影した撮影画像を二値化し、二値化した撮影画像のピクセル分布を分類した集団の面積に基づいて部品Pを計数することで、部品Pの基準となる画像を記憶しておく必要がなく、かつ、より短時間で正確な計数が可能になる。また、計数装置1が部品を識別する情報と当該部品の撮影画像とを対応付けた撮影実績情報を記憶しておき、出庫する部品と撮影画像に写っている部品Pとが一致するか否かを判定し、一致しない場合はエラー情報を出力することで、誤った部品を出庫することを防止できる。さらに、出庫作業をする度に在庫情報を更新することで、在庫情報が示す部品Pの在庫数と実際の部品Pの在庫数が一致しない時間を短くすることができる。
(実施の形態5)
実施の形態5では、計数装置1は撮影画像から計数範囲を規定するマーカを検出し、計数範囲の中の部品Pの数を計数する。
図15に示すように、計数システム100は、計数装置1と、撮影装置2とユーザ端末3とを備える。ユーザが撮影範囲Cに部品Pを投入すると、撮影装置2が撮影範囲Cを撮影し、計数装置1に撮影画像を送信する。撮影範囲CにはマーカMが付与されており、計数装置1は、マーカMに囲まれた計数範囲Rの中の部品Pの数を算出する。マーカMは、予め付与されていてもよいし、ユーザが付与してもよい。計数システム100のその他の構成は、実施の形態1と同様である。
ここで、図16を用いて実施の形態5に係る計数装置1の機能構成について説明する。図16に示すように、計数装置1は、機能構成として、画像取得部11、二値化部12、縮小処理部13、面積算出部14、部品数算出部15、および、情報出力部16に加え、マーカMを示すマーカ情報を記憶するマーカ記憶部22を備える。
二値化部12は、マーカ情報を参照し、画像取得部11が受信した撮影画像の中のマーカMを検出する。二値化部12は、画像取得部11が受信した撮影画像からマーカMに囲まれた計数範囲Rを特定する。二値化部12、縮小処理部13、面積算出部14、部品数算出部15、および、情報出力部16は、計数範囲Rの撮影画像に対して、実施の形態1と同様の処理を行う。
ここで、計数装置1が実行する計数処理の流れを説明する。図17に示す計数処理は、計数装置1の電源が投入されたときに開始する。計数装置1の画像取得部11は、撮影装置2から撮影画像を受信しない場合(ステップS91;NO)、ステップS91を繰り返して、撮影画像の受信を待機する。画像取得部11が撮影装置2から撮影画像を受信した場合(ステップS91;YES)、二値化部12は、マーカ情報を参照し、画像取得部11が受信した撮影画像の中のマーカMを検出する。二値化部12は、画像取得部11が受信した撮影画像からマーカMに囲まれた計数範囲Rを特定する(ステップS92)。二値化部12、縮小処理部13、面積算出部14、部品数算出部15、および、情報出力部16は、計数範囲Rの撮影画像に対して、ステップS93~ステップS104の処理を行う。ステップS93~ステップS104は、図4に示すフローチャートのステップS12~ステップS23と同様であるので説明を省略する。
実施の形態5に係る計数システム100によれば、撮影画像から部品Pを計数する計数装置1が、静止した部品Pを撮影した撮影画像を二値化し、二値化した撮影画像のピクセル分布を分類した集団の面積に基づいて部品Pを計数することで、部品Pの基準となる画像を記憶しておく必要がなく、かつ、より短時間で正確な計数が可能になる。また、ユーザが計数範囲を設定できるので、ユーザが意図しない範囲の部品を計数してしまったり、投入した部品Pが計数範囲の外に出てしまったりといったことを防止できる。
(実施の形態6)
実施の形態6では、図18に示すように、計数システム100は、計数装置1と、撮影装置2とユーザ端末3とに加え、計数装置1の計数結果を学習する機械学習装置7を備える。機械学習装置7は、計数装置1およびユーザ端末3とネットワークを介して接続する。なお、機械学習装置7は、計数装置1に組み込まれてもよいし、クラウドサーバ上に存在してもよい。
ユーザが撮影範囲Cに部品Pを投入すると、部品Pが静止した状態で撮影装置2が撮影範囲Cを撮影し、計数装置1に撮影画像を送信する。計数装置1は、撮影装置2から受信した撮影画像に基づいて、撮影画像に写っている部品Pの総数を算出する。計数装置1は、算出した部品Pの総数を示す部品数情報を生成し、ユーザ端末3に送信する。また、計数装置1は、算出した部品Pの総数を示す部品数情報と部品Pの総数の算出に用いた撮影画像とを対応付けて機械学習装置7に送信する。ユーザ端末3が部品数情報を出力すると、ユーザは、実際の部品Pの総数を数え、計数装置1の計数結果が正しいか否かを示す正否情報をユーザ端末3に入力する。ユーザ端末3は、入力された正否情報を部品数情報に対応付けて機械学習装置7に送信する。
機械学習装置7は、計数装置1から受信した撮影画像および部品数情報と、ユーザ端末3から受信した正否情報とに基づいて生成されたデータセットから計数装置1の計数結果を学習する。機械学習装置7は、計数装置1の計数結果を学習した結果、入力された撮影画像に写っている部品Pの総数を出力する学習済モデルを生成する。計数システム100のその他の構成は、実施の形態1と同様である。
ここで、図19を用いて計数装置1および機械学習装置7の機能構成について説明する。計数装置1の画像取得部11は、撮影装置2から受信した撮影画像を情報出力部16に送る。情報出力部16は、画像取得部11から受け取った撮影画像と、部品数算出部15が生成した部品数情報とを、機械学習装置7に送信する。計数装置1のその他の機能構成は、実施の形態1と同様である。
機械学習装置7は、計数装置1から撮影画像および部品数情報を受信するデータ取得部71と、ユーザ端末3から正否情報を受信する正否情報取得部72と、計数装置1の計数結果を学習して学習済モデルを生成する学習部73と、学習部73が生成した学習済モデルを記憶する記憶部74とを備える。データ取得部71は、計数装置1から受信した撮影画像および部品数情報を学習部73に送る。正否情報取得部72は、ユーザ端末3から受信した正否情報を学習部73に送る。
学習部73は、データ取得部71から受け取った撮影画像および部品数情報と、正否情報取得部72から受け取った正否情報とに基づいて、機械学習用のデータセットを生成する。学習部73は、生成したデータセットから計数装置1の計数結果を学習する。
学習部73は、例えば、ニューラルネットワークモデルに従って、教師あり学習により、計数装置1の計数結果を学習する。教師あり学習とは、入力と結果(ラベル)のデータセットを大量に学習装置に与えることで、学習装置がそれらのデータセットにある特徴を学習し、入力から結果を推定するモデルをいう。学習部73が教師あり学習を行うために生成するデータセットは、正否情報が示す計数装置1の計数結果が正しかった撮影画像を入力データとし、対応する部品数情報が示す部品Pの総数をラベルデータとして関連づけたデータセットである。正否情報が示す計数装置1の計数結果が正しかった撮影画像に対応する部品数情報が示す部品Pの総数は、正否情報が示す計数装置1の計数結果が正しかった部品Pの総数である。以下、正否情報が示す計数装置1の計数結果が正しかった撮影画像を、単に計数結果が正しかった撮影画像という。正否情報が示す計数装置1の計数結果が正しかった部品Pの総数を、単に計数結果が正しかった部品Pの総数という。
ニューラルネットワークは、複数のニューロンからなる入力層、複数のニューロンからなる中間層および複数のニューロンからなる出力層で構成される。中間層は、1層でもよいし、2層以上でもよい。例えば、図20に示すような3層のニューラルネットワークであれば、複数の入力データが入力層であるニューロンX1~X3に入力されると、その値に重みw11~w16を掛けて中間層であるニューロンY1~Y2に入力される。ニューロンY1~Y2から出力される結果にさらに重みw21~w26を掛けて出力層であるニューロンZ1~Z3から出力される。ニューロンZ1~Z3から出力される結果は、重みw11~w16および重みw21~w26の値によって変わる。
学習部73が、ニューラルネットワークモデルに従って、計数装置1の計数結果を学習する場合、ニューラルネットワークの入力層に、計数結果が正しかった撮影画像が入力される。ニューラルネットワークは重みを調整して、出力層から出力される結果を、計数結果が正しかった部品Pの総数、即ちラベルデータに近づける学習を行う。学習部73は、学習が完了すると、入力された撮影画像に写っている部品Pの総数を出力するニューラルネットワークの学習済モデルを記憶部74に記憶する。学習の完了は、例えば、試験用のデータセットを入力して出力の正解率が閾値を超えた場合に学習を完了する。
また、学習部73は、教師あり学習のクラス分類を行って、計数結果を学習してもよい。この場合、学習部73は、入力データをラベルデータに対応するクラスに分類する。つまり、計数結果が正しかった撮影画像を、計数結果が正しかった部品Pの総数に対応するクラスに分類する。学習部73は、クラスごとに、つまり、計数結果が正しかった部品Pの総数ごとに、計数結果が正しかった撮影画像の特徴を学習する。学習部73は、学習が完了すると、入力された撮影画像をいずれかのクラスに分類し、分類したクラスに対応するラベルである部品Pの総数を出力する学習済モデルを記憶部74に記憶する。
なお、学習部73は、複数の部品に対して生成されるデータセットに従って、計数結果を学習してもよい。この場合、データ取得部71は、計数装置1から撮影画像および部品数情報に加え、部品を識別する情報を受信する。学習部73は、同一の計数装置1から収集される複数の部品の撮影画像、部品数情報および部品を識別する情報と正否情報とに基づいてデータセットを生成してもよいし、複数の計数装置1から収集される複数の部品の撮影画像、部品数情報および部品を識別する情報と正否情報とに基づいてデータセットを生成してもよい。また、データセットを収集する対象の部品を途中で追加したり、削除したりしてもよい。さらに、ある計数装置1のある部品の計数結果を学習した機械学習装置7を、別の計数装置1に取り付け、別の部品の計数結果を再学習させてもよい。
学習部73に用いられる学習アルゴリズムとしては、特徴量そのものの抽出を学習する、深層学習(Deep Learning)を用いることもできる。また、学習部73は、他の公知の方法、例えば遺伝的プログラミング、機能論理プログラミング、サポートベクターマシンなどに従って機械学習を実行してもよい。
なお、機械学習装置7の正否情報取得部72は、ユーザ端末3以外から正否情報を取得してもよい。例えば、図21に示すように、計数システム100は、計数装置1と、撮影装置2と、ユーザ端末3と、機械学習装置7に加え、撮影範囲Cに投入された部品Pの総重量を計測する重量計測装置8を備えてもよい。機械学習装置7と重量計測装置8とは、有線または無線で接続している。
この場合、重量計測装置8は、撮影範囲Cに投入された部品Pの総重量を示す部品総重量情報を機械学習装置7に送信する。正否情報取得部72は、予め部品Pの1個の重量を示す単位重量情報を記憶しておく。正否情報取得部72は、重量計測装置8から受信した総重量情報が示す部品Pの総重量を、部品Pの1個の重量で除算して、撮影範囲Cに投入された部品Pの総数を算出する。正否情報取得部72は、データ取得部71が計測装置1から受信した部品数情報が示す部品Pの総数と、重量計測装置8から受信した総重量情報に基づいて算出した部品Pの総数とが一致する場合、計数装置1の計数結果が正しいことを示す正否情報を生成する。一致しない場合、正否情報取得部72は、計数装置1の計数結果が正しくないことを示す正否情報を生成する。
実施の形態6に係る計数システム100によれば、撮影画像から部品Pを計数する計数装置1が、静止した部品Pを撮影した撮影画像を二値化し、二値化した撮影画像のピクセル分布を分類した集団の面積に基づいて部品Pを計数することで、部品Pの基準となる画像を記憶しておく必要がなく、かつ、より短時間で正確な計数が可能になる。また、機械学習装置7が生成した学習済モデルを用いれば、計数装置1よりも早く、撮影画像に写っている部品Pの総数を算出することができる。また、機械学習装置7が生成した学習済モデルをコンピュータが読み取り可能な記録媒体に格納して配布し、当該学習済モデルを、撮影画像を取得可能なコンピュータにインストールすることにより、計数装置1と同様の装置を簡単に実現することができる。
(実施の形態7)
実施の形態7では、計数装置1が計数した部品Pを基板に配置する。図22に示すように、計数システム100は、計数装置1と、撮影装置2とユーザ端末3とに加え、部品Pを基板に配置する部品配置装置9を備える。部品配置装置9は、計数装置1およびユーザ端末3に接続する。なお、計数装置1は、部品配置装置9に組み込まれてもよい。
部品配置装置9は、図示しない部品供給部に計数装置1が計数した部品Pを収納する。計数装置1が計数可能で、かつ、部品配置装置9が基板に配置する部品が複数ある場合には、部品配置装置9は、部品ごとの部品供給部を備える。計数装置1が計数可能で、かつ、部品配置装置9が基板に配置する部品が複数ある場合、例えば、ユーザがユーザ端末3に撮影範囲Cに投入した部品を識別する情報を入力する。ユーザ端末3は、入力された部品を識別する情報を計数装置に送信する。計数装置1は、ユーザ端末3から受信した部品を識別する情報を、部品数情報に対応付ける。部品配置装置9は、部品供給部に収納された部品を基板に配置する。その後、部品Pが配置された基板がはんだフロー漕に送り込まれることで、部品Pがはんだ付けされて基板に実装される。あるいは、はんだ付け装置によって基板に配置された部品Pがはんだ付けされて実装される。あるいは、作業者によって基板に配置された部品Pが手作業ではんだ付けされて実装される。
計数装置1の情報出力部16は、ユーザ端末3ではなく、部品配置装置9に部品数情報を送信する。計数装置1のその他の機能構成は、実施の形態1と同様である。部品配置装置9は、計数装置1から部品数情報を受信すると、部品数情報が示す部品Pの総数を加算しながら、部品供給部に計数装置1が計数した部品Pを収納する。加算した部品Pの総数、つまり、部品供給部に収納された部品Pの数が一定数に到達すると、部品配置装置9は、ユーザ端末3に部品Pの数が一定数に到達したことを示す到達情報を送信する。一定数は、例えば、部品配置装置9が1日の稼働時間中に基板に配置することができる部品Pの数、つまり、1日あたりの部品配置装置9の部品Pの必要数としてもよいし、部品供給部が収納できる部品Pの数の上限に基づいて決められる数としてもよい。
ユーザ端末3は、部品配置装置9から受信した到達情報を画面表示、音声出力などの方法で出力する。ユーザ端末3が到達情報を出力すると、ユーザは撮影範囲Cへの部品Pの投入をやめる。ユーザは、計数装置1が計数可能で、かつ、部品配置装置9が基板に配置する他の部品がある場合には、次の部品を撮影範囲Cに投入する。到達情報に次の部品を識別する情報を含んでもよい。この場合、ユーザは、ユーザ端末3が出力した到達情報に含まれる次の部品を識別する情報に基づいて、次の部品を撮影範囲Cに投入する。
続いて、計数装置1が実行する計数処理および部品配置装置9が実行する部品配置処理の流れを説明する。計数処理の流れは、図4に示す実施の形態1の計数処理のフローチャートと同様である。ただし、ステップS22で、情報出力部16は、部品数情報をユーザ端末3だけでなく部品配置装置9にも送信する。図23に示す部品配置処理は、部品配置装置9の電源が投入されたときに開始する。部品配置装置9は、計数装置1から部品数情報を受信しない場合(ステップS111;NO)、ステップS111を繰り返して、部品数情報の受信を待機する。
計数装置1から部品数情報を受信した場合(ステップS111;YES)、部品配置装置9は、部品数情報が示す部品の総数を加算し(ステップS112)、計数装置1が計数した部品を部品供給部に収納する(ステップS113)。部品配置装置9は、加算した部品の総数、つまり、部品供給部に収納された部品の数が一定数に到達したか否かを判定する(ステップS114)。一定数に到達していない場合(ステップS114;NO)、処理はステップS111に戻り、ステップS111~ステップS114を繰り返す。一定数に到達した場合(ステップS114;YES)、部品配置装置9は、ユーザ端末3に部品の数が一定数に到達したことを示す到達情報を送信する(ステップS115)。ユーザ端末3は、部品配置装置9から受信した到達情報を出力する。ユーザ端末3が到達情報を出力すると、ユーザは撮影範囲Cへの部品の投入をやめる。
計数装置1が計数可能で、かつ、部品配置装置9が基板に配置する他の部品がある場合(ステップS116;YES)、ユーザは、次の部品を撮影範囲Cに投入する。到達情報に次の部品を識別する情報を含んでもよい。この場合、ユーザは、ユーザ端末3が出力した次の部品を識別する情報を見て、その部品を撮影範囲Cに投入する。計数装置1は、撮影範囲Cに投入された次の部品の総数を算出し、部品数情報を部品配置装置9に送信する。処理は、ステップS111に戻り、部品配置装置9は計数装置1から部品数情報を受信する(ステップS111;YES)。部品配置装置9は、ステップS111~ステップS116を繰り返す。計数装置1が計数可能で、かつ、部品配置装置9が基板に配置する他の部品がない場合(ステップS116;NO)、部品配置装置9は、部品供給部に収納された部品を基板に配置し(ステップS117)、処理を終了する。
実施の形態7に係る計数システム100によれば、撮影画像から部品Pを計数する計数装置1が、静止した部品Pを撮影した撮影画像を二値化し、二値化した撮影画像のピクセル分布を分類した集団の面積に基づいて部品Pを計数することで、部品Pの基準となる画像を記憶しておく必要がなく、かつ、より短時間で正確な計数が可能になる。また、部品配置装置9は、計数装置1が計数した部品Pを一定数に到達するまで部品供給部に収納する。これにより、部品供給部に収納された部品が不足することなく、部品配置装置9がスムーズに基板に部品を配置することが可能になる。
計数装置1のハードウェア構成について図24を用いて説明する。図24に示すように、計数装置1は、一時記憶部101、記憶部102、計算部103、操作部104、入出力部105および表示部106を備える。一時記憶部101、記憶部102、操作部104、入出力部105および表示部106はいずれもBUSを介して計算部103に接続されている。
計算部103は、例えばCPU(Central Processing Unit)である。計算部103は、記憶部102に記憶されている制御プログラムに従って、計数装置1の二値化部12、縮小処理部13、面積算出部14、部品数算出部15、均し動作指示部18、正否判定部19、および、在庫更新部21の各処理を実行する。
一時記憶部101は、例えばRAM(Random-Access Memory)である。一時記憶部101は、記憶部102に記憶されている制御プログラムをロードし、計算部103の作業領域として用いられる。
記憶部102は、フラッシュメモリ、ハードディスク、DVD-RAM(Digital Versatile Disc - Random Access Memory)、DVD-RW(Digital Versatile Disc - ReWritable)などの不揮発性メモリである。記憶部102は、計数装置1の処理を計算部103に行わせるためのプログラムを予め記憶し、また、計算部103の指示に従って、このプログラムが記憶するデータを計算部103に供給し、計算部103から供給されたデータを記憶する。集団画像記憶部17、撮影実績記憶部20、および、マーカ記憶部22は、記憶部102に構成される。
操作部104は、キーボード、ポインティングデバイスなどの入力装置と、キーボード、ポインティングデバイスなどの入力装置をBUSに接続するインターフェース装置である。例えば、計数装置1に直接情報を入力する構成の場合、操作部104を介して、入力された情報が計算部103に供給される。
入出力部105は、ネットワークに接続する網終端装置または無線通信装置、およびそれらと接続するシリアルインターフェースまたはLAN(Local Area Network)インターフェースである。入出力部105は、画像取得部11、部品数算出部15、情報出力部16、均し動作指示部18、正否判定部19、および、在庫更新部21として機能する。
表示部106は、CRT(Cathode Ray Tube)、LCD(Liquid Crystal Display)などの表示装置である。例えば、計数装置1に直接情報を入力する構成の場合、表示部106は、操作画面を表示する。また、情報出力部16が計数不可情報および部品数情報を表示する場合には、表示部106は、情報出力部16として機能する。
図2、図5、図9、図19および図16に示す計数装置1の画像取得部11、二値化部12、縮小処理部13、面積算出部14、部品数算出部15、情報出力部16、集団画像記憶部17、均し動作指示部18、撮影実績記憶部20、正否判定部19、在庫更新部21、および、マーカ記憶部22の処理は、制御プログラムが、一時記憶部101、計算部103、記憶部102、操作部104、入出力部105および表示部106などを資源として用いて処理することによって実行する。
その他、前記のハードウェア構成およびフローチャートは一例であり、任意に変更および修正が可能である。
計算部103、一時記憶部101、記憶部102、操作部104、入出力部105、表示部106などの計数装置1の処理を行う中心となる部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。例えば、前記の動作を実行するためのコンピュータプログラムを、フレキシブルディスク、CD-ROM(Compact Disc - Read Only Memory)、DVD-ROM(Digital Versatile Disc - Read Only Memory)などのコンピュータが読み取り可能な記録媒体に格納して配布し、当該コンピュータプログラムをコンピュータにインストールすることにより、前記の処理を実行する計数装置1を構成してもよい。また、インターネットなどの通信ネットワーク上のサーバ装置が有する記憶装置に当該コンピュータプログラムを格納しておき、通常のコンピュータシステムがダウンロードなどすることで計数装置1を構成してもよい。
また、計数装置1の機能を、OS(Operating System)とアプリケーションプログラムの分担、またはOSとアプリケーションプログラムとの協働により実現する場合などには、アプリケーションプログラム部分のみを記録媒体、記憶装置などに格納してもよい。
また、搬送波にコンピュータプログラムを重畳し、通信ネットワークを介して提供することも可能である。例えば、通信ネットワーク上の掲示板(BBS, Bulletin Board System)に前記コンピュータプログラムを掲示し、通信ネットワークを介して前記コンピュータプログラムを提供してもよい。そして、このコンピュータプログラムを起動し、OSの制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できる構成にしてもよい。
上記の実施の形態4では、計数装置1は、機能構成として、画像取得部11、二値化部12、縮小処理部13、面積算出部14、部品数算出部15、および、情報出力部16に加え、正否判定部19、撮影実績記憶部20、および、在庫更新部21を備えるが、これに限らない。計数装置1は、画像取得部11、二値化部12、縮小処理部13、面積算出部14、部品数算出部15および、情報出力部16に加え、正否判定部19、および、撮影実績記憶部20を備えるが在庫更新部21を備えない構成、または、正否判定部19、撮影実績記憶部20を備えないが在庫更新部21を備える構成であってもよい。
上記の実施の形態4および5の計数装置1は、実施の形態1の計数装置1に機能を追加しているが、これに限らない。実施の形態1の計数装置1に実施の形態4および5の機能の両方の機能を追加してもよいし、実施の形態2または実施の形態3の計数装置1に、実施の形態4および5の機能の一方または両方の機能を追加してもよい。
上記の実施の形態6の機械学習装置7は、計数装置1の計数結果を学習するが、これに限らず、計数装置1の計数結果の正否を学習してもよい。この場合、学習部73が教師あり学習を行うために生成するデータセットは、撮影画像および部品数情報が示す部品Pの総数を入力データとし、対応する正否情報が示す計数装置1の計数結果の正否をラベルデータとして関連づけたデータセットである。学習部73は、生成したデータセットから計数装置1の計数結果の正否を学習する。学習部73は、計数装置1の計数結果の正否を学習した結果、入力された撮影画像および部品Pの総数に対して、計数結果の正否を出力する学習済モデルを生成する。例えば、この学習済モデルに、計数装置1の撮影画像および部品数情報を入力し、計数装置1の計数結果が正しくないことが出力された場合は、ユーザが目視で計数するといった他の計数方法を用いることで、部品Pの総数の計数結果の正解率を上げることができる。
上記の実施の形態6および7の計数システム100は、実施の形態1の計数システム100に機械学習装置7または部品配置装置9を追加しているが、これに限らない。実施の形態1~5の計数システム100に、機械学習装置7または部品配置装置9を追加してもよいし、機械学習装置7と部品配置装置9との両方を追加してもよい。
上記の実施の形態7の計数装置1は、ユーザ端末3ではなく、部品配置装置9に部品数情報を送信し、部品配置装置9は、ユーザ端末3に部品Pの数が一定数に到達したことを示す到達情報を送信する。ユーザ端末3に到達情報が表示されると、ユーザは撮影範囲Cへの部品Pの投入をやめる。これに限らず、計数装置1は、ユーザ端末3および部品配置装置9に部品数情報を送信し、ユーザ端末3が受信した部品数情報が示す部品Pの数を加算して、一定数に到達すると到達情報を表示してもよい。この場合、部品配置装置9は、ユーザ端末3に到達情報を送信しなくてもよい。
上記の実施の形態では、部品の計数を行う計数システム100の例を説明したが、これに限らない。計数システム100は、物品の計数を行う計数システムであればよい。
なお、本開示は、本開示の広義の精神と範囲を逸脱することなく、様々な実施の形態及び変形が可能とされるものである。また、上述した実施の形態は、この開示を説明するためのものであり、本開示の範囲を限定するものではない。即ち、本開示の範囲は、実施の形態ではなく、請求の範囲によって示される。そして、請求の範囲内及びそれと同等の開示の意義の範囲内で施される様々な変形が、この開示の範囲内とみなされる。
本出願は、2019年3月8日に出願された、日本国特許出願特願2019-042438号に基づく。本明細書中に日本国特許出願特願2019-042438号の明細書、特許請求の範囲、図面全体を参照として取り込むものとする。
1 計数装置、2 撮影装置、3 ユーザ端末、4 均し動作装置、5 生産管理システム、6 在庫管理システム、7 機械学習装置、8 重量計測装置、9 部品配置装置、11 画像取得部、12 二値化部、13 縮小処理部、14 面積算出部、15 部品数算出部、16 情報出力部、17 集団画像記憶部、18 均し動作指示部、19 正否判定部、20 撮影実績記憶部、21 在庫更新部、22 マーカ記憶部、71 データ取得部、72 正否情報取得部、73 学習部、74 記憶部、100 計数システム、101 一時記憶部、102 記憶部、103 計算部、104 操作部、105 入出力部、106 表示部、C 撮影範囲、M マーカ、P 部品、R 計数範囲。

Claims (19)

  1. 撮影範囲に投入されて静止した物品を撮影する撮影装置、および、前記撮影装置が撮影した物品を計数する計数装置を備える計数システムであって、
    前記計数装置は、
    前記撮影装置から撮影画像を取得する画像取得部と、
    前記画像取得部が取得した前記撮影画像を二値化する二値化部と、
    前記二値化部が二値化した前記撮影画像のピクセル分布を分類した集団の面積を算出する面積算出部と、
    前記面積算出部が算出した集団の面積から集団ごとの物品の数を算出し、前記集団ごとの物品の数を合計し、前記撮影画像に写っている物品の総数を示す物品数情報を生成する物品数算出部と、
    前記物品数算出部が生成した前記物品数情報を出力する情報出力部と、
    集団の画像と当該集団の物品の数とを対応付けた集団画像情報を記憶する集団画像記憶部と、
    を有し、
    前記物品数算出部は、前記面積算出部が算出した集団の面積から物品の数を算出できない計数不可の集団があって、前記計数不可の集団の画像と集団の画像が類似する前記集団画像情報がある場合には、類似する集団の画像に対応付けられた物品の数を、前記計数不可の集団の物品の数として採用して、前記撮影画像に写っている物品の総数を算出し、前記計数不可の集団の画像と集団の画像が類似する前記集団画像情報がない場合には、ユーザによって入力された前記計数不可の集団の物品の数を採用して、前記撮影画像に写っている物品の総数を算出し、前記計数不可の集団の画像と前記ユーザによって入力された前記計数不可の集団の物品の数とを対応付けて前記集団画像情報を生成する計数システム。
  2. 前記ユーザが使用するユーザ端末をさらに備え、
    前記物品数算出部は、前記面積算出部が算出した集団の面積から物品の数を算出できない計数不可の集団がある場合には、前記計数不可の集団を示す計数不可情報を生成し、
    前記情報出力部は、前記物品数算出部が生成した前記計数不可情報を前記ユーザ端末に送信し、
    前記物品数算出部は、前記ユーザによって入力された前記計数不可の集団の物品の数を示す数値情報を前記ユーザ端末から受信すると、前記数値情報が示す前記計数不可の集団の物品の数を採用して、前記撮影画像に写っている物品の総数を算出する、
    請求項1に記載の計数システム。
  3. 撮影範囲に投入されて静止した物品を撮影する撮影装置、および、前記撮影装置が撮影した物品を計数する計数装置を備える計数システムであって、
    前記計数装置は、
    前記撮影装置から撮影画像を取得する画像取得部と、
    前記画像取得部が取得した前記撮影画像を二値化する二値化部と、
    前記二値化部が二値化した前記撮影画像のピクセル分布を分類した集団の面積を算出する面積算出部と、
    前記面積算出部が算出した集団の面積から集団ごとの物品の数を算出し、前記集団ごとの物品の数を合計し、前記撮影画像に写っている物品の総数を示す物品数情報を生成する物品数算出部と、
    前記物品数算出部が生成した前記物品数情報を出力する情報出力部と、
    物品を識別する情報と当該物品の前記撮影画像とを対応付けた撮影実績情報を記憶する撮影実績記憶部と、
    出庫する物品を識別する情報を含む出庫情報を取得し、前記出庫する物品を識別する情報と前記物品を識別する情報が一致する前記撮影実績情報がある場合には、前記出庫する物品を識別する情報と一致する前記物品を識別する情報に対応付けられた前記撮影画像と前記画像取得部が取得した前記撮影画像とを比較して、前記出庫する物品と前記撮影画像に写っている物品とが一致するか否かを判定し、一致しない場合に警告を示すエラー情報を生成し、前記出庫する物品を識別する情報と前記物品を識別する情報が一致する前記撮影実績情報がない場合には、前記出庫する物品を識別する情報と前記画像取得部が取得した前記撮影画像とを対応付けて前記撮影実績情報を生成する正否判定部と、
    を有し、
    前記情報出力部は、前記正否判定部が生成した前記エラー情報を出力する計数システム。
  4. 前記静止した物品の重なりを崩して計数可能にする均し動作を行う均し動作装置をさらに備え、
    前記計数装置は、
    前記面積算出部が算出した集団の面積から物品の数を算出できない計数不可の集団がある場合に、前記均し動作装置に前記均し動作を指示する均し動作指示部をさらに有する、
    請求項に記載の計数システム。
  5. 前記二値化部は、判別分析法で二値化の閾値を算出する請求項1から4のいずれか1項に記載の計数システム。
  6. 前記計数装置は、前記二値化部が二値化した前記撮影画像を縮小する縮小処理部をさらに有し、
    前記面積算出部は、前記縮小処理部が縮小した前記撮影画像のピクセル分布を分類した集団の面積を算出する、
    請求項1から5のいずれか1項に記載の計数システム。
  7. 前記計数装置は、
    前記物品数算出部が算出した物品の総数を、当該物品の在庫数から減算して、物品の在庫数を示す在庫情報を更新する在庫更新部をさらに有する、
    請求項1からのいずれか1項に記載の計数システム。
  8. 前記計数装置は、
    計数範囲を規定するマーカを示すマーカ情報を記憶するマーカ記憶部をさらに有し、
    前記二値化部は、前記撮影画像から前記マーカ情報が示すマーカを検出して計数範囲を特定し、計数範囲の前記撮影画像を二値化する、
    請求項1からのいずれか1項に記載の計数システム。
  9. 前記撮影画像および前記物品数情報を含むデータを取得するデータ取得部と、
    前記物品数情報が示す前記撮影画像に写っている物品の総数の正否を示す正否情報を取得する正否情報取得部と、
    前記撮影画像および前記物品数情報を含むデータ、ならびに、前記正否情報に基づいて生成されるデータセットから、前記計数装置の計数結果または前記計数装置の計数結果の正否を学習する学習部と、
    をさらに有する、
    請求項1からのいずれか1項に記載の計数システム。
  10. 前記計数装置が計数する物品は、基板に実装される部品であって、
    前記計数装置が計数した前記部品を部品供給部に収納し、前記部品供給部に収納された前記部品を前記基板に配置する部品配置装置をさらに備え、
    前記情報出力部は、前記物品数情報を前記部品配置装置に出力し、
    前記部品配置装置は、前記物品数情報が示す前記撮影画像に写っている部品の総数に基づいて、前記部品供給部に一定数の前記部品を収納する、
    請求項1からのいずれか1項に記載の計数システム。
  11. 撮影範囲に投入されて静止した物品を撮影する撮影装置から撮影画像を取得する画像取得部と、
    前記画像取得部が取得した前記撮影画像を二値化する二値化部と、
    前記二値化部が二値化した前記撮影画像のピクセル分布を分類した集団の面積を算出する面積算出部と、
    前記面積算出部が算出した集団の面積から集団ごとの物品の数を算出し、前記集団ごとの物品の数を合計し、前記撮影画像に写っている物品の総数を示す物品数情報を生成する物品数算出部と、
    前記物品数算出部が生成した前記物品数情報を出力する情報出力部と、
    集団の画像と当該集団の物品の数とを対応付けた集団画像情報を記憶する集団画像記憶部と、
    を備え
    前記物品数算出部は、前記面積算出部が算出した集団の面積から物品の数を算出できない計数不可の集団があって、前記計数不可の集団の画像と集団の画像が類似する前記集団画像情報がある場合には、類似する集団の画像に対応付けられた物品の数を、前記計数不可の集団の物品の数として採用して、前記撮影画像に写っている物品の総数を算出し、前記計数不可の集団の画像と集団の画像が類似する前記集団画像情報がない場合には、ユーザによって入力された前記計数不可の集団の物品の数を採用して、前記撮影画像に写っている物品の総数を算出し、前記計数不可の集団の画像と前記ユーザによって入力された前記計数不可の集団の物品の数とを対応付けて前記集団画像情報を生成する計数装置。
  12. 撮影範囲に投入されて静止した物品を撮影する撮影装置から撮影画像を取得する画像取得部と、
    前記画像取得部が取得した前記撮影画像を二値化する二値化部と、
    前記二値化部が二値化した前記撮影画像のピクセル分布を分類した集団の面積を算出する面積算出部と、
    前記面積算出部が算出した集団の面積から集団ごとの物品の数を算出し、前記集団ごとの物品の数を合計し、前記撮影画像に写っている物品の総数を示す物品数情報を生成する物品数算出部と、
    前記物品数算出部が生成した前記物品数情報を出力する情報出力部と、
    物品を識別する情報と当該物品の前記撮影画像とを対応付けた撮影実績情報を記憶する撮影実績記憶部と、
    出庫する物品を識別する情報を含む出庫情報を取得し、前記出庫する物品を識別する情報と前記物品を識別する情報が一致する前記撮影実績情報がある場合には、前記出庫する物品を識別する情報と一致する前記物品を識別する情報に対応付けられた前記撮影画像と前記画像取得部が取得した前記撮影画像とを比較して、前記出庫する物品と前記撮影画像に写っている物品とが一致するか否かを判定し、一致しない場合に警告を示すエラー情報を生成し、前記出庫する物品を識別する情報と前記物品を識別する情報が一致する前記撮影実績情報がない場合には、前記出庫する物品を識別する情報と前記画像取得部が取得した前記撮影画像とを対応付けて前記撮影実績情報を生成する正否判定部と、
    を備え、
    前記情報出力部は、前記正否判定部が生成した前記エラー情報を出力する計数装置。
  13. 請求項11または12に記載の計数装置の計数結果または前記計数装置の計数結果の正否を学習する機械学習装置であって、
    前記撮影画像および前記物品数情報を含むデータを取得するデータ取得部と、
    前記物品数情報が示す前記撮影画像に写っている物品の総数の正否を示す正否情報を取得する正否情報取得部と、
    前記撮影画像および前記物品数情報を含むデータ、ならびに、前記正否情報に基づいて生成されるデータセットから、前記計数装置の計数結果または前記計数装置の計数結果の正否を学習する学習部と、
    を備える機械学習装置。
  14. 撮影装置が実行する、
    撮影範囲に投入されて静止した物品を撮影する撮影ステップと、
    計数装置が実行する、
    前記撮影装置が撮影した撮影画像を二値化する二値化ステップと、
    前記二値化ステップで二値化した前記撮影画像のピクセル分布を分類した集団の面積を算出する面積算出ステップと、
    前記面積算出ステップで算出した集団の面積から集団ごとの物品の数を算出し、前記集団ごとの物品の数を合計し、前記撮影画像に写っている物品の総数を示す物品数情報を生成する物品数算出ステップと、
    前記物品数算出ステップで生成した物品数情報を出力する情報出力ステップと、
    を備え
    前記物品数算出ステップでは、前記面積算出ステップで算出した集団の面積から物品の数を算出できない計数不可の集団があって、前記計数不可の集団の画像と集団の画像が類似する、集団の画像と当該集団の物品の数とを対応付けた集団画像情報がある場合には、類似する集団の画像に対応付けられた物品の数を、前記計数不可の集団の物品の数として採用して、前記撮影画像に写っている物品の総数を算出し、前記計数不可の集団の画像と集団の画像が類似する前記集団画像情報がない場合には、ユーザによって入力された前記計数不可の集団の物品の数を採用して、前記撮影画像に写っている物品の総数を算出し、前記計数不可の集団の画像と前記ユーザによって入力された前記計数不可の集団の物品の数とを対応付けて前記集団画像情報を生成する計数方法。
  15. 撮影装置が実行する、
    撮影範囲に投入されて静止した物品を撮影する撮影ステップと、
    計数装置が実行する、
    前記撮影装置が撮影した撮影画像を二値化する二値化ステップと、
    前記二値化ステップで二値化した前記撮影画像のピクセル分布を分類した集団の面積を算出する面積算出ステップと、
    前記面積算出ステップで算出した集団の面積から集団ごとの物品の数を算出し、前記集団ごとの物品の数を合計し、前記撮影画像に写っている物品の総数を示す物品数情報を生成する物品数算出ステップと、
    前記物品数算出ステップで生成した物品数情報を出力する情報出力ステップと、
    出庫する物品を識別する情報を含む出庫情報を取得し、前記出庫する物品を識別する情報と前記物品を識別する情報が一致する、物品を識別する情報と当該物品の前記撮影画像とを対応付けた撮影実績情報がある場合には、前記出庫する物品を識別する情報と一致する前記物品を識別する情報に対応付けられた前記撮影画像と前記撮影ステップで撮影した前記撮影画像とを比較して、前記出庫する物品と前記撮影ステップで撮影した前記撮影画像に写っている物品とが一致するか否かを判定し、一致しない場合に警告を示すエラー情報を生成し、前記出庫する物品を識別する情報と前記物品を識別する情報が一致する前記撮影実績情報がない場合には、前記出庫する物品を識別する情報と前記撮影ステップで撮影した前記撮影画像とを対応付けて前記撮影実績情報を生成する正否判定ステップと、
    を備え、
    前記情報出力ステップでは、前記正否判定ステップで生成した前記エラー情報を出力する計数方法。
  16. 撮影装置が実行する、
    撮影範囲に投入されて静止した部品を撮影する撮影ステップと、
    計数装置が実行する、
    前記撮影装置が撮影した撮影画像を二値化する二値化ステップと、
    前記二値化ステップで二値化した前記撮影画像のピクセル分布を分類した集団の面積を算出する面積算出ステップと、
    前記面積算出ステップで算出した集団の面積から集団ごとの前記部品の数を算出し、前記集団ごとの前記部品の数を合計し、前記撮影画像に写っている前記部品の総数を算出する部品数算出ステップと、
    部品配置装置が実行する、
    前記部品数算出ステップで算出された前記撮影画像に写っている前記部品の総数に基づいて、部品供給部に一定数の前記部品を収納する収納ステップと、
    前記部品供給部に収納された前記部品を基板に配置する配置ステップと、
    を備え
    前記部品数算出ステップでは、前記面積算出ステップで算出した集団の面積から部品の数を算出できない計数不可の集団があって、前記計数不可の集団の画像と集団の画像が類似する、集団の画像と当該集団の部品の数とを対応付けた集団画像情報がある場合には、類似する集団の画像に対応付けられた部品の数を、前記計数不可の集団の部品の数として採用して、前記撮影画像に写っている部品の総数を算出し、前記計数不可の集団の画像と集団の画像が類似する前記集団画像情報がない場合には、ユーザによって入力された前記計数不可の集団の部品の数を採用して、前記撮影画像に写っている部品の総数を算出し、前記計数不可の集団の画像と前記ユーザによって入力された前記計数不可の集団の部品の数とを対応付けて前記集団画像情報を生成する部品配置方法。
  17. 撮影装置が実行する、
    撮影範囲に投入されて静止した部品を撮影する撮影ステップと、
    計数装置が実行する、
    前記撮影装置が撮影した撮影画像を二値化する二値化ステップと、
    前記二値化ステップで二値化した前記撮影画像のピクセル分布を分類した集団の面積を算出する面積算出ステップと、
    前記面積算出ステップで算出した集団の面積から集団ごとの前記部品の数を算出し、前記集団ごとの前記部品の数を合計し、前記撮影画像に写っている前記部品の総数を算出する部品数算出ステップと、
    出庫する部品を識別する情報を含む出庫情報を取得し、前記出庫する部品を識別する情報と前記部品を識別する情報が一致する、部品を識別する情報と当該部品の前記撮影画像とを対応付けた撮影実績情報がある場合には、前記出庫する部品を識別する情報と一致する前記部品を識別する情報に対応付けられた前記撮影画像と前記撮影ステップで撮影した前記撮影画像とを比較して、前記出庫する部品と前記撮影ステップで撮影した前記撮影画像に写っている部品とが一致するか否かを判定し、一致しない場合に警告を示すエラー情報を生成し、前記出庫する部品を識別する情報と前記部品を識別する情報が一致する前記撮影実績情報がない場合には、前記出庫する部品を識別する情報と前記撮影ステップで撮影した前記撮影画像とを対応付けて前記撮影実績情報を生成する正否判定ステップと、
    部品配置装置が実行する、
    前記部品数算出ステップで算出された前記撮影画像に写っている前記部品の総数に基づいて、部品供給部に一定数の前記部品を収納する収納ステップと、
    前記部品供給部に収納された前記部品を基板に配置する配置ステップと、
    を備え、
    前記情報出力ステップでは、前記正否判定ステップで生成した前記エラー情報を出力する部品配置方法。
  18. コンピュータを、
    撮影範囲に投入されて静止した物品を撮影した撮影画像を二値化する二値化部、
    前記二値化部が二値化した前記撮影画像のピクセル分布を分類した集団の面積を算出する面積算出部、
    前記面積算出部が算出した集団の面積から集団ごとの物品の数を算出し、前記集団ごとの物品の数を合計し、前記撮影画像に写っている物品の総数を示す物品数情報を生成する物品数算出部、および、
    前記物品数算出部が生成した物品数情報を出力する情報出力部、
    として機能させ
    前記物品数算出部は、前記面積算出部が算出した集団の面積から物品の数を算出できない計数不可の集団があって、前記計数不可の集団の画像と集団の画像が類似する、集団の画像と当該集団の物品の数とを対応付けた集団画像情報がある場合には、類似する集団の画像に対応付けられた物品の数を、前記計数不可の集団の物品の数として採用して、前記撮影画像に写っている物品の総数を算出し、前記計数不可の集団の画像と集団の画像が類似する前記集団画像情報がない場合には、ユーザによって入力された前記計数不可の集団の物品の数を採用して、前記撮影画像に写っている物品の総数を算出し、前記計数不可の集団の画像と前記ユーザによって入力された前記計数不可の集団の物品の数とを対応付けて前記集団画像情報を生成するプログラム。
  19. コンピュータを、
    撮影範囲に投入されて静止した物品を撮影する撮影装置から撮影画像を取得する画像取得部、
    前記画像取得部が取得した前記撮影画像を二値化する二値化部、
    前記二値化部が二値化した前記撮影画像のピクセル分布を分類した集団の面積を算出する面積算出部、
    前記面積算出部が算出した集団の面積から集団ごとの物品の数を算出し、前記集団ごとの物品の数を合計し、前記撮影画像に写っている物品の総数を示す物品数情報を生成する物品数算出部、
    前記物品数算出部が生成した物品数情報を出力する情報出力部、および、
    出庫する物品を識別する情報を含む出庫情報を取得し、前記出庫する物品を識別する情報と前記物品を識別する情報が一致する、物品を識別する情報と当該物品の前記撮影画像とを対応付けた撮影実績情報がある場合には、前記出庫する物品を識別する情報と一致する前記物品を識別する情報に対応付けられた前記撮影画像と前記画像取得部が取得した前記撮影画像とを比較して、前記出庫する物品と前記撮影画像に写っている物品とが一致するか否かを判定し、一致しない場合に警告を示すエラー情報を生成し、前記出庫する物品を識別する情報と前記物品を識別する情報が一致する前記撮影実績情報がない場合には、前記出庫する物品を識別する情報と前記画像取得部が取得した前記撮影画像とを対応付けて前記撮影実績情報を生成する正否判定部、
    として機能させ、
    前記情報出力部は、前記正否判定部が生成した前記エラー情報を出力するプログラム。
JP2021505523A 2019-03-08 2019-12-17 計数システム、計数装置、機械学習装置、計数方法、部品配置方法、および、プログラム Active JP7134331B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019042438 2019-03-08
JP2019042438 2019-03-08
PCT/JP2019/049274 WO2020183837A1 (ja) 2019-03-08 2019-12-17 計数システム、計数装置、機械学習装置、計数方法、部品配置方法、および、プログラム

Publications (2)

Publication Number Publication Date
JPWO2020183837A1 JPWO2020183837A1 (ja) 2021-10-28
JP7134331B2 true JP7134331B2 (ja) 2022-09-09

Family

ID=72427922

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021505523A Active JP7134331B2 (ja) 2019-03-08 2019-12-17 計数システム、計数装置、機械学習装置、計数方法、部品配置方法、および、プログラム

Country Status (3)

Country Link
JP (1) JP7134331B2 (ja)
CN (1) CN113518998B (ja)
WO (1) WO2020183837A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112581016A (zh) * 2020-12-28 2021-03-30 深圳硅纳智慧科技有限公司 物料管理***及采用该物料管理***的物料管理方法
WO2024024090A1 (ja) * 2022-07-29 2024-02-01 ヤマハ発動機株式会社 部品計数装置およびロボットシステム
CN115619811B (zh) * 2022-12-16 2023-04-14 北京远舢智能科技有限公司 一种烟支数量的确定方法、装置、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005242896A (ja) 2004-02-27 2005-09-08 Oki Electric Ind Co Ltd 待ち行列対応表示システム及び待ち行列解析装置
JP2012173901A (ja) 2011-02-21 2012-09-10 Midori Seimitsu:Kk 結束された鋼材束中の鋼材本数の計数方法及び計数装置
WO2019045091A1 (ja) 2017-09-04 2019-03-07 日本電気株式会社 情報処理装置、計数システム、計数方法およびプログラム記憶媒体

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3676878B2 (ja) * 1996-04-30 2005-07-27 國男 船見 花粉自動捕集・解析システム
JPH10214322A (ja) * 1997-01-29 1998-08-11 Masatake Akagawa 商品の検知計数装置
JPH11306314A (ja) * 1998-04-24 1999-11-05 Ishida Co Ltd 物品の計数方法、並びに物品の計数装置、該計数装置を備えた物品の搬送装置及び組合せ計数装置
JP4096729B2 (ja) * 2002-12-24 2008-06-04 カシオ計算機株式会社 注文品確認システム並びにプログラム
CN1609894A (zh) * 2004-09-10 2005-04-27 浙江大学 基于虚拟多传感器融合的钢材支数在线计数***及方法
JP4643400B2 (ja) * 2005-09-06 2011-03-02 パナソニック株式会社 部品計数装置
US8116564B2 (en) * 2006-11-22 2012-02-14 Regents Of The University Of Minnesota Crowd counting and monitoring
CN101777140B (zh) * 2010-02-08 2012-03-21 宁波大学 一种显微图像的复杂粘连细胞个数统计方法
CN103492862A (zh) * 2011-07-13 2014-01-01 松下电器产业株式会社 药片检查装置以及药片检查方法
JP5811923B2 (ja) * 2012-03-28 2015-11-11 富士通株式会社 情報処理装置、画像処理方法およびプログラム
JP2015228094A (ja) * 2014-05-30 2015-12-17 シライ電子工業株式会社 基板計数方法、基板計数プログラム及び基板計数装置
TW201705047A (zh) * 2015-07-24 2017-02-01 Cliff Young Trading Co Ltd 影像式板體數量計數裝置及方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005242896A (ja) 2004-02-27 2005-09-08 Oki Electric Ind Co Ltd 待ち行列対応表示システム及び待ち行列解析装置
JP2012173901A (ja) 2011-02-21 2012-09-10 Midori Seimitsu:Kk 結束された鋼材束中の鋼材本数の計数方法及び計数装置
WO2019045091A1 (ja) 2017-09-04 2019-03-07 日本電気株式会社 情報処理装置、計数システム、計数方法およびプログラム記憶媒体

Also Published As

Publication number Publication date
CN113518998B (zh) 2024-04-16
CN113518998A (zh) 2021-10-19
JPWO2020183837A1 (ja) 2021-10-28
WO2020183837A1 (ja) 2020-09-17

Similar Documents

Publication Publication Date Title
JP7134331B2 (ja) 計数システム、計数装置、機械学習装置、計数方法、部品配置方法、および、プログラム
EP3499418B1 (en) Information processing apparatus, identification system, setting method, and program
WO2019165892A1 (zh) 自动售货方法、装置和计算机可读存储介质
JP6203084B2 (ja) 配達物区分処理システム、および配達物区分処理方法
CN111315670B (zh) 货架标签检测装置、货架标签检测方法、以及记录介质
CN107206384B (zh) 用于实验室自动化的侧视样品管图像中的条形码标签检测
WO2017163714A1 (ja) 投影指示装置、荷物仕分けシステムおよび投影指示方法
EP3689793A1 (en) Package sorting system, projected instruction device, and package sorting method
CN107918767B (zh) 目标检测方法、装置、电子设备及计算机可读介质
WO2017163710A1 (ja) 投影指示装置、荷物仕分けシステムおよび投影指示方法
AU2020205301B2 (en) Method and system for region proposal based object recognition for estimating planogram compliance
US20220028514A1 (en) System and method for augmented reality detection of loose pharmacy items
CN111767908B (zh) 字符检测方法、装置、检测设备及存储介质
WO2017163709A1 (ja) 投影指示装置、荷物仕分けシステムおよび投影指示方法
CN111597857B (zh) 一种物流包裹检测方法、装置、设备及可读存储介质
CN111310826A (zh) 样本集的标注异常检测方法、装置及电子设备
CN112507760A (zh) 暴力分拣行为的检测方法、装置及设备
WO2017163711A1 (ja) 投影指示装置、荷物仕分けシステムおよび投影指示方法
JP2018081629A (ja) 判定装置、判定方法および判定プログラム
WO2021233058A1 (zh) 监控货架上的物品的方法、计算机和***
CN112115745A (zh) 一种商品漏扫码行为识别方法、装置及***
JP6989178B2 (ja) 搬送物の追跡装置、搬送物の計数装置、搬送物の追跡方法、搬送物の計数方法、搬送物の追跡システム、および搬送物の計数システム
CN112560563A (zh) 物品布局的识别方法、装置及电子设备
CN109447000A (zh) 活体检测方法、污渍检测方法、电子设备及记录介质
WO2017163713A1 (ja) 投影指示装置、荷物仕分けシステムおよび投影指示方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210309

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210309

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220617

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220830

R150 Certificate of patent or registration of utility model

Ref document number: 7134331

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150