JP7347807B2 - 搬送システム - Google Patents

搬送システム Download PDF

Info

Publication number
JP7347807B2
JP7347807B2 JP2020117037A JP2020117037A JP7347807B2 JP 7347807 B2 JP7347807 B2 JP 7347807B2 JP 2020117037 A JP2020117037 A JP 2020117037A JP 2020117037 A JP2020117037 A JP 2020117037A JP 7347807 B2 JP7347807 B2 JP 7347807B2
Authority
JP
Japan
Prior art keywords
processing
image
conveyance
conveyed object
conveyed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020117037A
Other languages
English (en)
Other versions
JP2022014615A (ja
Inventor
祐二 神戸
朋彦 吉田
貴大 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daiichi Co Ltd
Original Assignee
Daiichi Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daiichi Co Ltd filed Critical Daiichi Co Ltd
Priority to JP2020117037A priority Critical patent/JP7347807B2/ja
Priority to KR1020210081682A priority patent/KR20220005985A/ko
Priority to CN202110734034.3A priority patent/CN114125209A/zh
Priority to TW110124340A priority patent/TWI834046B/zh
Publication of JP2022014615A publication Critical patent/JP2022014615A/ja
Application granted granted Critical
Publication of JP7347807B2 publication Critical patent/JP7347807B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G43/00Control devices, e.g. for safety, warning or fault-correcting
    • B65G43/08Control devices operated by article or material being fed, conveyed or discharged
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G47/00Article or material-handling devices associated with conveyors; Methods employing such devices
    • B65G47/22Devices influencing the relative position or the attitude of articles during transit by conveyors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G2201/00Indexing codes relating to handling devices, e.g. conveyors, characterised by the type of product or load being conveyed or handled
    • B65G2201/02Articles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G2203/00Indexing code relating to control or detection of the articles or the load carriers during conveying
    • B65G2203/02Control or detection
    • B65G2203/0208Control or detection relating to the transported articles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65GTRANSPORT OR STORAGE DEVICES, e.g. CONVEYORS FOR LOADING OR TIPPING, SHOP CONVEYOR SYSTEMS OR PNEUMATIC TUBE CONVEYORS
    • B65G2203/00Indexing code relating to control or detection of the articles or the load carriers during conveying
    • B65G2203/04Detection means
    • B65G2203/041Camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Control Of Conveyors (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は搬送システムに関する。
従来から、各種の搬送システムにおいて、搬送物を撮影して生成した画像を処理することにより、搬送物の計数、良否の判定、姿勢の判別、搬送状態(速度、密度、間隔等)の検出などが行われている。このような搬送システムの例としては、以下の特許文献1や特許文献2に記載された装置が挙げられる。
特開2017-121995号公報 特開2019-169010号公報
ところで、上記の搬送システムでは、搬送中に搬送物の位置や姿勢が不規則に変化することがあるため、この位置や姿勢の変化に画像処理が影響を受け、誤った判別結果を出してしまう場合があり、この場合には、問題のない搬送物が搬送路上から排除されてしまったり、問題のある搬送物がそのまま下流側へ流れてしまったりするなど、判別結果の誤りによる搬送態様の不具合が発生するという第1の問題がある。
また、搬送物の画像処理を行う場合に、画像処理の対象となる計測エリアの面積が大き過ぎると、計測エリアの内部の搬送物の位置を特定してから搬送物の判別を行う必要があるため、処理すべきデータ量が増大するので、画像処理の負荷が大きく、画像処理に要する時間が長くなるため、高速な判別処理ができず、高速搬送に対応できないという第2の問題もある。ここで、画像処理の高速化を追求すると、搬送物の位置や姿勢の変化に対する判別精度が低下しやすくなることから、上述の搬送物の位置や姿勢の変化による誤判定がさらに増大するというジレンマがある。
そこで、本発明は上記問題を解決するものであり、その課題は、搬送システムにおいて、搬送中の搬送物の位置や姿勢の変動に起因する判別処理の誤りを低減することにある。また、搬送物判別処理の誤りを低減しつつ、搬送物の判別処理を高速に実施可能にすることにある。
上記課題を解決するために、本発明の搬送システムは、搬送物を搬送路に沿って搬送する搬送装置と、前記搬送物が前記搬送路上を通過する計測エリアの画像を取得する手段であって、前記搬送路を通過する全ての前記搬送物がそれぞれ必ず前記計測エリアの二以上の前記画像中に撮影されることとなる態様で複数の前記画像を順次に取得する画像取得手段と、前記画像内の前記搬送物の画像部分を画像処理して前記搬送物を判別する手段であって、前記搬送物ごとに、当該搬送物が撮影されている前記二以上の画像に対して順次に画像処理を実行することにより、前記二以上の画像に対する処理結果に基づいて判別結果を導出する搬送物判別手段と、を具備する。
本発明によれば、画像取得手段により全ての搬送物がそれぞれ二以上の画像中に撮影されることとなる態様で取り込まれるため、各搬送物について、二以上の画像中の搬送物の画像部分を画像処理して求めた二以上の処理結果に基づいて搬送物判定手段が各搬送物に対して判別結果を導出することにより、搬送物の位置や姿勢の変動等に起因する処理結果への影響により判別結果が誤る可能性を低減することができる。
本発明において、前記搬送物判別手段は、前記搬送物ごとに、前記二以上の画像に対する個々の処理結果の中の最多の処理結果に対応する前記判別結果を導出することが好ましい。これによれば、二以上の画像に対する個々の処理結果の中の最多の処理結果に対応する判別結果を導出することにより、判別精度を高めることができる。特に、前記二以上の画像は、三以上の画像であることが望ましい。
本発明において、前記搬送物判別手段は、前記搬送物ごとに、前記二以上の画像に対する既定の処理結果が設定数に達した場合には、前記既定の処理結果に対応する前記判別結果を導出することが好ましい。特に、前記二以上の画像は三以上の画像であり、前記設定数は二以上であることが望ましい。
本発明において、前記搬送物判別手段は、前記二以上の画像に対する画像処理に際して、二回目以降の前記画像に対しては、前回に処理された前記画像から得られた前記搬送物の位置情報と、前記搬送物の予測移動態様とにより限定された観察領域内において前記画像処理を実行することが好ましい。これによれば、搬送物ごとに二以上の画像を処理する必要があるものの、二回目以降の前記画像に対しては、前回に処理された画像における画像処理の結果として得られた搬送物の位置情報と予測移動態様とに基づいて限定された観察領域内において画像処理を実行するようにしたので、画像処理負担を軽減でき、画像処理の高速化を図ることができる。
本発明において、前記予測移動態様は、前記搬送物の搬送速度と、今回処理された前記画像と次回の前記画像の撮影時差とに対応する搬送方向の予測移動量であることが好ましい。
本発明において、前記二回目以降の画像に対する観察領域は、前回に処理された前記画像に対する画像処理で得られた前記搬送物の検出範囲を移動後の予測位置に配置した基準範囲に加えて、当該基準範囲の周囲に配置される周辺域を含むように拡大した領域となるように設定されることが好ましい。これにより、次の画像に対する観察領域内において搬送物をより確実に検出でき、判別処理の処理結果を導出することができる。ここで、上記周辺域は、前記基準範囲の周囲の少なくとも一部に設けられていればよい。ただし、上記周辺域が前記基準範囲の全周にわたり設けられることが処理結果の導出の確実性を高める上で望ましい。この場合において、前記観察領域の前記基準範囲に対する拡大度合は、前記搬送物の過去の移動態様のばらつきの大小に応じて増減されることが望ましい。
本発明において、前記予測移動態様は、前記搬送物の過去の移動態様に基づいて求められることが好ましい。この場合において、前記過去の移動態様とは、前記搬送物の過去の移動速度や移動の向き、位置や姿勢の変化などを言う。また、前記予測移動態様を求める方法は、前記搬送物の移動特性に応じて、種々の方法を採用できる。例えば、前記予測移動態様は、複数の前記過去の移動態様の平均値や中央値などの代表値に基づいて導出されるものであってもよく、また、最新の前記過去の移動態様に基づいて導出されるものであってもよい。
本発明において、前記搬送物判別手段は、前記二以上の画像のうちの初回の前記画像に対しては、前記搬送物が配置され得るように設定された既定の初回の前記観察領域において画像処理を実行し、前記処理結果を求めることが好ましい。ここで、前記画像取得手段により前記画像が前記搬送物の通過箇所の撮像により取得される場合には、前記初回の観察領域は、前記搬送物の通過検出位置に対応して定められることが望ましい。また、この場合においては、既定の初回の前記予測移動態様に基づいて、次回の画像に対する前記観察領域を設定することが好ましい。
本発明において、前記計測エリアの画像内に設定された限定領域を画像処理することにより、前記搬送物が前記限定領域を通過したことを検出する搬送物通過判定手段をさらに具備し、前記搬送物通過判定手段により前記搬送物が前記限定領域を通過したことが判定されると、初回の前記画像に対しては、前記限定領域に対して既定の位置関係にある初回の前記観察領域において画像処理を実行することが好ましい。ここで、前記限定領域は、搬送方向に短く、搬送方向と直交する方向には長い領域であることが望ましい。また、上記搬送物通過判定手段は、前記限定領域に前記搬送物が存在する第1の状態と、前記限定領域に前記搬送物が存在しない第2の状態とを検出可能であり、前記第1の状態から前記第2の状態に切り替わることにより前記搬送物が通過したことを判定するこ都が望ましい。
本発明において、前記画像取得手段は、前記搬送物の有無とは無関係に、トリガ信号を用いることなしに、前記画像を既定の取得タイミングで順次に取得し、前記画像処理手段へ提供することが好ましい。これによれば、搬送物の検出センサなどの画像を取得するタイミングを決定するトリガ信号を用いる必要がなくなるため、搬送物の検出ミスを防止できるとともに、画像取得手段を簡易に構成できる。この場合、前記搬送物の最大移動速度と画像の取得タイミングの時間間隔との関係により、通過する全ての前記搬送物が複数回含まれ得る計測エリアを前記画像内に設定し、初回の画像に対しては、前記搬送物判別手段により前記計測エリアの全体を前記観察領域として処理して初回の前記搬送物検出情報を求めることが望ましい。このとき、前記次回の画像に対する観察領域は、既定の初回の予測移動態様に基づいて設定されることが望ましい。
本発明において、前記観察領域に対する前記搬送物判別手段による判別処理と、前記搬送物の検出範囲と前記予測移動態様とに基づく次回の前記画像に対する観察領域の設定とを複数回繰り返すことにより、前記二以上の画像について前記観察領域における画像処理により前記処理結果を得ることが好ましい。この場合において、前記搬送物判別手段は、複数の搬送物に対して、並行して、それぞれの搬送物について上記二以上の画像における判別処理を実施し、複数の処理結果に基づいて判別結果を導出することが望ましい。
本発明において、上記判別結果に基づいて前記搬送装置を制御する搬送制御部をさらに具備することが好ましい。ここで、前記搬送制御部は、上記判別結果により、前記搬送装置に設けられた前記搬送物の選別若しくは姿勢変更を行うための搬送物処理機構を制御することが挙げられる。例えば、搬送物処理機構としては、搬送物を気流圧によって搬送路上から排除する搬送物排除処理部や、搬送物に気流圧を与えることによって姿勢を変更する姿勢反転処理部などがある。これらの搬送物処理部の制御対象としては、気流圧の作動タイミングや作動圧などがある。
本発明によれば、搬送システムにおいて、搬送中の搬送物の位置や姿勢の変動に起因する判別処理の誤りを低減することができる。また、搬送物ごとに、二回目以降の画像に対する画像処理の対象部分を限定された観察領域内とすることにより、搬送物の判別処理を高速に実施可能とすることができる。
本発明に係る搬送システムの実施形態の搬送物判別処理部の手順の概略を示す概略フローチャートである。 同実施形態の全体構成の例を模式的に示す概略構成図である。 同実施形態の搬送物判別処理の過程の一例を模式的に示す画像説明図(a)-(g)である。 同実施形態の搬送物判別処理において用いる搬送物検出処理過程に相当する機能実現手段による全体構成を模式的に示す概略構成図(a)、及び、この構成による処理内容の原理を説明するための説明図(b)である。 同実施形態の搬送物判別処理における画像処理手段による画像処理により搬送物判別情報を導出する過程を説明するための説明図(a)-(e)である。 同実施形態の搬送物判別処理の実施結果の各例を示す図(a)~(e)である。 搬送物判別処理における従来例の問題点の一例を示す図(a)及び他の例を示す図(b)である。 同実施形態における動作プログラム10Pの一例の処理過程を示す概略フローチャートである。
次に、添付図面を参照して本発明に係る搬送システムの実施形態について詳細に説明する。最初に、図1乃至図5を参照して、本発明に係る搬送システムの実施形態の概要について説明する。図1は、本実施形態に係る搬送システム10のコンピュータによって実行される動作プログラム10Pの一部である搬送物判別処理部100の処理手順を示す概略フローチャートである。図2は、搬送システム10の実施形態の全体構成を模式的に示す概略構成図である。図3は、搬送システム10の搬送路121上の搬送物の搬送態様の例を示す説明図(a)-(g)である。図4は、上記搬送物判別処理部100において用いる搬送物の追跡処理過程を機能実現手段A~Dにて示す概略構成図(a)、及び、上記追跡処理過程の概念を説明するための説明図(b)である。図5は、この処理過程において行われる各種の画像処理を模式的に示す説明図(a)-(e)である。
最初に、図2を参照して、搬送システム10の全体構成について説明する。図2に示すように、この搬送システム10は、所定の搬送路に沿って搬送物CAを搬送する搬送システムである。この搬送システム10は、螺旋状の搬送路111を有するボウル型の搬送体110を備えたパーツフィーダ11と、このパーツフィーダ11の上記搬送路111の出口から搬送物を受け取るように構成された入口を備えた直線状の搬送路121を有する搬送体120を備えたリニアフィーダ12とを具備する振動式の搬送装置を構成する。また、この搬送装置は搬送管理機能を有し、この搬送管理機能は、リニアフィーダ12の搬送体120の搬送路121上の搬送物である搬送物CAを撮影画像GPXに基づいて検査、判定する。なお、本発明において、振動式の搬送装置に限られない構成については、搬送物CAが搬送路に沿って搬送される各種の搬送装置に用いることができる。また、振動式の搬送装置であっても、上記パーツフィーダ11とリニアフィーダ12の組み合せに限定されるものではなく、循環式パーツフィーダなどの他の形式の搬送装置に用いることが可能である。さらに、上記の組み合せにあっても、リニアフィーダ12の搬送路121上の搬送物である搬送物CAを検査するものに限らず、パーツフィーダ11の搬送路111上の搬送物CAを検査するものであっても構わない。
パーツフィーダ11はコントローラCL11によって駆動、制御される。また、リニアフィーダ12はコントローラCL12によって駆動、制御される。これらのコントローラCL11、CL12はパーツフィーダ11やリニアフィーダ12の加振機構(電磁駆動体や圧電駆動体などを含む。)を交流駆動し、搬送体110,120を搬送路111,121上の搬送物(搬送物CA)が所定の搬送方向Fに移動する態様となるように振動させる。また、コントローラCL11、CL12は、搬送管理システムの主体となる画像処理機能を有する検査処理ユニットDTUに入出力回路(I/O)を介して接続されている。
また、コントローラCL11,CL12は、上記搬送物判別処理部100を実行する演算処理装置MPUに対して、マウスなどの後述する操作入力装置SP1,SP2などを介して所定の操作入力(デバッグ操作)が行われると、上記の動作プログラム10Pに従って搬送システム10の搬送装置の駆動を停止する。このとき、上記の動作プログラム10Pに従って、例えば、検査処理ユニットDTUにおける画像計測処理も停止される。このデバッグ操作及び当該操作に応じた各所の動作については後に詳述する。
検査処理ユニットDTUは、パーソナルコンピュータ等の演算処理装置MPU(マイクロプロセシングユニット)を中核構成とする。図示例では、上記演算処理装置MPUは、中央処理ユニットCPU1,CPU2、キャッシュメモリCCM、メモリコントローラMCL、チップセットCHSなどから構成される。また、この検査処理ユニットDTUには、撮像手段であるカメラCM1,CM2にそれぞれ接続された画像処理を行うための画像処理回路GP1,GP2が設けられている。これらの画像処理回路GP1,GP2はそれぞれ画像処理メモリGM1,GM2に接続されている。画像処理回路GP1,GP2の出力は上記演算処理装置MPUにも接続され、カメラCM1,CM2から取り込んだ撮影画像GPXの画像データを処理し、適宜の処理画像(例えば後述する画像エリアGPY内の画像データ)を演算処理装置MPUに転送する。主記憶装置MMには予め搬送管理システムの動作プログラム10Pが格納されている。検査処理ユニットDTUが起動されると、演算処理装置MPUにより上記動作プログラム10Pが読み出されて実行される。また、この主記憶装置MMには、演算処理装置MPUにより、後述する画像計測処理を実行した対象となる撮影画像GPX若しくは画像エリアGPYの画像データが保存される。
また、検査処理ユニットDTUは、入出力回路(I/O)を介して液晶モニタ等の表示装置DP1,DP2や操作入力装置SP1,SP2に接続される。表示装置DP1,DP2は、上記演算処理装置MPUによって処理された撮影画像GPX若しくは画像エリアGPYの画像データ、画像計測処理の結果、すなわち、搬送物判別処理や搬送挙動検出処理の結果などが、所定の表示態様で表示される。なお、この表示機能は、実際に搬送物CAが搬送されている場合に限らず、後述するように、過去のデータを読みだして再生している場合にも機能する。また、表示装置DP1,DP2の画面を見ながら操作入力装置SP1,SP2を操作することにより、各種の操作指令、設定値などの処理条件を上記演算処理装置MPUに入力することができる。
本実施形態では、カメラCM1,CM2が既定の撮影間隔で連続して撮影するとともに、搬送物の搬送速度Vsと撮影間隔Tsとの関係により搬送路を通過する全ての搬送物(搬送物CA)が常に含まれるように予め設定された搬送方向Fの範囲を有する計測エリア内の画像データに対して画像計測処理を施すようにしている。これにより、全ての搬送物CAをいずれかの計測エリアの撮影画像において必ず検出することができるため、従来技術のように個々の搬送物の位置を検知するためのトリガ信号を生成する必要がなくなる。また、この画像に含まれる搬送物CAの画像データを処理することで搬送物判別処理、搬送物検出処理、搬送挙動検出処理などに必要な情報を確実に抽出することができる。なお、本発明の搬送システムでは、上記のようなトリガレス撮影法を採用することなしに、通常のセンサ等による搬送物の検知タイミングに対応する撮影タイミングで画像を取得しても構わない。
本実施形態では、上記の画像計測処理において、さらに、以下の条件が成立するように構成されている。すなわち、上記計測エリア内を通過する全ての搬送物CAが上記計測エリアの所定範囲内において二以上の画像Ai内に撮影されるようにする。ここで、所定範囲内としているのは、後述する実施形態の搬送物処理部(噴気口OPと対面する位置)よりも上流側で判別処理し、その搬送物判別結果を用いて上記搬送物処理部を制御する場合を想定している。このように画像Aiにおいて上記所定範囲を設定する必要がなければ、全ての搬送物CAが二以上の画像Ai内に撮影されていればよい。上記のようにすることで、搬送物CAごとに二以上の画像Aiにおいて搬送物判別処理を実行することが可能になるため、後述するように、二以上の搬送物処理結果Jiを求めることができる。そして、これらの二以上の搬送物処理結果Jiに基づいて、最終的に、搬送物判別結果Kを導出することができる。
搬送システム10においては、上記演算処理装置MPUによって実行される後述する動作プログラム10P(図8参照)に含まれる上記搬送物判別処理部100(図1参照)の実行によって、搬送途中の搬送物判別処理が行われ、この処理による判別結果に従って、上記搬送装置が制御される。この搬送物判別処理部100では、図4(a)に示す搬送物検出処理過程101を利用することによって搬送物検出処理が実行される。
図4(a)に示すように、上記搬送物検出処理過程101は、搬送物CAが存在し得るエリアを包含する複数の画像Aiを順次に取得する画像取得手段Aと、これらの画像Aiの観察領域Di内の画像処理を行う画像処理手段Bと、この画像処理手段Bによって求められた搬送物検出情報Biに係る搬送物CAの予測移動態様Ciを求める移動態様予測手段Cと、上記予測移動態様Ciに基づいて、次の画像Ai+1に関する観察領域Di+1を設定する観察領域設定手段Dとを具備する。ここで、iは自然数であり、1~n(nは2以上の自然数)の複数の数を示す。
搬送物検出情報Biは、搬送物CAの配置を示す搬送物検出範囲Biaを含み、また、搬送物の種類、外観、欠陥の有無や種類、搬送物の良否、搬送物の位置や姿勢に関する情報なども含むことができる。また、上記予測移動態様Ciは、今回の画像Ai内の搬送物CAを基準にしたときの次回の画像Ai+1内の搬送物CAの移動の量と向きを含み、例えば、移動ベクトルの形で表わすことができる。また、この予測移動態様Ciは、今回の画像Ai内の搬送物CAを基準にしたときの次回の画像Ai+1内の搬送物CAへの姿勢の変化を含んでいてもよい。
図4(b)は、或る画像Aiにおいて、観察領域Diの内部に搬送物CAが配置される搬送物検出範囲Biaが求められたとき、この搬送物検出範囲Biaと予測移動態様Ciとから、次の画像Ai+1における観察領域Di+1を設定する様子を示す。次の観察領域Di+1は、次の搬送物検出範囲Bi+1が含まれる領域を予測して設定されるが、その設定は、前の搬送物検出情報Biに基づいて行われる。例えば、図示例では、予測移動態様Ciに基づいて、前の搬送物検出範囲Biaを次の画像Ai+1における予測位置に移動させてなる基準範囲di+1を基準とし、この基準範囲di+1を所定の方法で拡大することにより、次の観察領域Di+1が設定される。
ここで、(x,y)は、搬送物検出範囲Biaの中心座標、(v ,v )は、予測移動態様Ciを示す予測移動ベクトルの値、(xi+1,yi+1)は、基準範囲di+1の中心の位置座標、Δtは、前の画像と次の画像の間の時間間隔(時差)、Δwは、観察領域Di+1における基準範囲di+1の幅Wiからの増加分(x方向の拡大量)、Δhは、観察領域Di+1における高さHiの基準範囲di+1の高さHiからの増加分(y方向の拡大量)とすれば、以下の式(1)~(4)が成立する。ここで、関数σ(v )、σ(v )は、今までの移動速度の集合に対するx成分若しくはy成分の標準偏差を示す。cはスケール定数であり、0.01や0.1などの任意の数を設定できる。ΔwとΔhは、例えば、図示例のように、基準範囲di+1の図示左右両側と図示上下両側にそれぞれ周辺域の拡大分に相当する値として設定されてもよく、或いは、図示左右両側と図示上下両側の周辺域の合計の拡大分に相当する値として設定されてもよい。後者の場合には、基準範囲di+1の図示左右両側と図示上下両側の拡大分の図示左と右の比率、或いは、図示上と下の比率は、1:1としてもよいが、その他の予測移動態様Ciの情報、例えば、図示左右と図示上下の移動確率の比率に応じた比率となるように設定してもよい。
i+1=x+v ・Δt…(1)
i+1=y+v ・Δt…(2)
Δw=c・σ(v ) …(3)
Δh=c・σ(v ) …(4)
なお、図示例では、上記式(1)~(4)に示すように、予測移動態様Ciを、搬送物検出範囲Biaの中心点と基準範囲di+1の中心点の間の予測移動ベクトルの移動の量と向きのみによって表現している。ただし、予測移動態様Ciは、上記の中心位置の移動の量と向きだけでなく、例えば、一般的には、搬送物検出範囲Bia(幅Wiや高さHi)に相当する搬送物CAの移動後の位置及び範囲を表す情報、すなわち、上記基準範囲di+1を導出可能な情報を含むものであってもよく、さらには、上記拡大度合Δw、Δhを導出可能な情報をも含むものであってもよい。なお、予測移動態様Ciには、さらに、搬送物CAの姿勢の変化に関する情報をも含めても構わない。
予測移動態様Ciは、搬送物CAの移動特性に応じて種々の予測方法によって求められる。このとき、初回の画像A1から次の画像A2までの間の搬送物CAの移動態様の予測である予測移動態様C1は、予め事前に決められた初期値とされることが好ましい。例えば、搬送物CAの一般的な移動速度、移動の向き、姿勢の変化がわかっている場合には、初回の予測移動態様C1は、その移動速度、移動の向き、姿勢の変化に設定される。その後の予測移動態様C2以降は、以前に導出される搬送物CAの移動態様をも加味して算出されることが好ましい。例えば、予測移動態様C2は、実際に、初回の観察領域D1を画像処理することによって得られた搬送物検出情報B1と、次の観察領域D2を画像処理することによって得られた搬送物検出情報B2とを用いて導出される、搬送物CAの最初の実際の移動態様E1を勘案して決められることが好ましい。このとき、上記初回の予測移動態様C1と、実際の移動態様E1との双方を勘案して次の予測移動態様C2を定めるようにしてもよい。また、実際の移動態様E1のみに基づいて次の予測移動態様C2を定めてもよい。このことは、次の予測移動態様Ci+1(例えばC2)を、前の実際の移動態様Ei(例えばE1)と同じに設定することを含む。さらに、過去の複数の実際の移動態様Eiが存在する場合には、これらの複数の移動態様Eiから適宜の方法で予測移動態様Ci+1を求めるようにしてもよい。この適宜の方法としては、例えば、平均値、中央値等の代表値とする場合や、より直前の移動態様であるほど重くなる態様の重み付けを与えて代表値を求める方法などが考えられる。
初回の観察領域D1は、上記予測移動態様が求められていない段階で与える必要があるため、搬送物CAの上記エリア内における配置特性に応じて、予め事前に決められた領域とされるか、或いは、搬送物CAの検出位置に応じて予め事前に決められたルールに従って定められる領域とされる。例えば、初回の画像A1において、初回の観察領域D1を画像A1の全体としてもよく、或いは、画像A1の中の搬送物CAが配置される可能性の高い領域としてもよい。予め画像A1中の搬送物CAが配置され得る場所の予測が困難であれば、初回の観察領域D1は比較的広い範囲に設定される。一方、搬送物CAの位置が検出されたときと同時に、或いは、その直後に、初回の画像A1が取得される場合、検出された搬送物CAの位置情報を利用して、観察領域D1を、初回の画像A1内の上記搬送物CAが確実に包摂される領域となるように設定してもよい。
観察領域Diの基準範囲diからの拡大量ΔwやΔhは、例えば、上記式(3)及び(4)によって求められる。このときの拡大度合乃至は拡大率Δw,Δhは、搬送物CAの移動特性に応じて定めることが好ましい。例えば、搬送物CAの移動態様Eiのばらつきが大きい場合には、上記拡大度合や拡大率を大きくする必要があり、移動態様Eiのばらつきが小さい場合には、上記拡大度合や拡大率を小さくすることができる。過去の実際の搬送物CAの移動態様Eiが複数得られている場合には、これらの移動態様Eiの集合のばらつき(例えば、標準偏差)に応じて、上記拡大度合や拡大率を増減することが望ましい。このようにすることにより、観察領域Diにおける画像処理によって搬送物CAに関する搬送物検出情報Biをより確実に求めることができる。
本実施形態において、搬送物CAの検出情報をより詳細に解析する場合には、図4(a)に点線で示すように、上記以外の追加の情報処理を実行することもできる。例えば、搬送物CAの複数の移動態様Eiを求め、これらの移動態様Eiに基づいて、搬送物CAの移動状況MSを算出することが挙げられる。搬送物移動状況MSとしては、例えば、搬送物CAの移動軌跡の態様、移動方位の変動態様、搬送位置や搬送姿勢の変動態様などが含まれ得る。これらの搬送物移動状況MSは、搬送物CAに対する各種の制御や判定を行うための検出量として用いることができる。
次に、上記搬送物検出過程を一例として用いることができる上記搬送物判別処理部100について図1を参照して説明する。この搬送物判別処理部100では、搬送物判別処理部100の全体の開始設定条件と、搬送物CAごとの各種処理における初回の観察領域D1や初回の予測移動態様C1の設定値などの初期条件と、観察領域Diの画像処理の処理ルーチンや各種閾値等の画像処理条件と、搬送物CAの移動態様の予測に用いる処理ルーチンや算出定数等の予測処理条件と、が所定のメモリ-等に格納された状態で、適宜に読みだされた上記の各条件に基づいてプログラムが実行されるように構成される。そして、コンピュータの入出力回路を介して接続された撮像装置(カメラ)を所定の撮影条件で動作させることができ、これによって搬送物CAが配置され得る計測エリアを含む範囲に対して複数の画像を順次に取得することができるようになっている。ただし、搬送物判別処理部100は、予め順次に撮影された複数の画像が保存されてなるデータを処理する装置として構成されていてもよい。この場合には、上記複数の画像のデータを所定の条件で順次にコンピュータに取り込むように構成されているか、或いは、既に取り込まれている複数の画像のデータを、画像ごとに順次に読み出すように構成されていればよい。
搬送物判別処理部100は、所定の開始操作がなされたとき、或いは、検出されるべき或る搬送物CAがセンサ等の手段によって検知されたとき、さらには、撮像装置の撮像開始信号が入力されたときなどのトリガが与えられたときなどに開始される。そのとき、上記初期条件の初期値が読み出され、例えば、上記或る搬送物CAに対して、初回の画像A1が取得されると、既定の範囲に設定された初回の観察領域D1において画像処理が実行される。一般的には、この工程では、図5(a)に示すように、i番目の画像Aiの観察領域Diに対して画像処理により、搬送物検出処理が施される。この搬送物検出処理では、最初に、図5(b)に示すように、観察領域Diの画像データを所定のフィルタ処理によって処理し、搬送物判別処理が容易な態様に変換することが好ましい。例えば、搬送物CAの輪郭を強調した画像に変換したい場合には、エッジ抽出処理やエッジ強調処理が行われる。一方、輪郭以外の影響を低減したい場合には、他の部位の平滑処理が行われる。これらの要求を共に満たすフィルター(処理方法)の例としては、ガイディドフィルター(Guided Filter)やバイラテラルフィルター(Bilateral Filter)などが挙げられる。なお、フィルタ処理としては、二値化フィルタ、移動平均フィルタ、ガウシアンフィルタ、メディアンフィルタ、ソーベルフィルタ、プリューウイットフィルターなども使用し得る。
次に、上述のフィルタ処理後の画像に対しては、搬送物CAの位置、範囲、姿勢、模様、色彩、その他の形態を検出するための画像処理が行われる。その一例としては、例えば、図5(c)や(d)に示すように、搬送物CAの範囲を特定する。一般には、この工程では、輪郭追跡処理や図形検出処理、図形フィッティング処理などが実行される。これらの処理により、観察領域Di内における搬送物CAが検出される範囲を決定することができ、例えば、搬送物検出範囲Biaが求められる。この搬送物検出範囲Biaは、例えば、図5(c)に示す境界ボックス(Bounding Box)などの境界図形や図5(d)に示す楕円フィッティングなどのフィッティング図形によって表現することができる。
上記境界ボックス等の境界図形は、搬送物CAの画像を取り囲む矩形その他の領域を形成するものであり、搬送物CAを取り囲む所定条件の領域(境界図形)をなるべく小さな面積にするように(例えば、外接領域となるように)求める。また、上記楕円フィッティングなどのフィッティング図形は、搬送物CAの画像を円、楕円、矩形、多角形などの各種の図形にフィッティングし、最も近い当該図形を形成する。なお、搬送物検出処理においては、画像処理技術のうち、形状検出技術、図形検出技術、領域抽出技術などを用いることができ、その結果として、搬送物CAに関する各種情報の識別、分類、判別などを行うことが可能になる。上記各技術の具体的な方法は問わず、テンプレートマッチング、ブロブ検出法、各種エッジ検出、各種変換処理などを用いることができる。本実施形態では、境界ボックスを形成するために、rotation calipers algorithmを用い、エッジ画素の点群に対して回転するカリパスによって挟み角度ごとに得た外接矩形のうちの最小面積の矩形を求める方法を使用できる。また、楕円フィッティングとしては、例えば、エッジ画素の点群に対して二乗誤差で最小化した楕円を求める方法を使用できる。
上記のようにして導出できる搬送物検出範囲Biaにより、観察領域Di内における搬送物CAの位置や範囲を知ることができる。また、この搬送物検出範囲Biaから、搬送物CAの姿勢を検出することも可能である。例えば、図5(e)に示すように、境界図形やフィッティング図形の各辺の方向や主軸の方向を求めることによって、搬送物CAの角度姿勢を得ることができる。図示例では、フィッティングした楕円の主軸の角度(主軸角)θを算出することにより、搬送物CAの姿勢を容易に求めることができる。本実施形態では、二次元姿勢を判別する例を挙げているが、搬送物CAの外観を解析することにより、搬送物CAの三次元姿勢を求めることも可能である。なお、一般に、搬送物CAがカメラから遠ざかっている場合や照明環境が均等でない場合などにおいては、後述するように、搬送物CAの精密な外形を反映した境界図形(例えば矩形)を精度よく求めることが困難な場合があるので、楕円や円などのコンパクトなフィッティング図形を求める方法が好ましい。
本実施形態において、観察領域Di内に搬送物CAの画像部分の少なくとも一部が含まれない場合には、搬送物CAの全体が観察領域Di内に含まれるように観察領域Diを修正する観察領域修正手段をさらに具備することも可能である。これによれば、観察領域修正手段により搬送物CAの画像部分の全体が含まれるように観察領域が修正されるので、設定された観察領域の予測が不十分な場合でも確実に搬送物を検出可能となる。ここで、観察領域Di内に搬送物CAの画像部分の少なくとも一部が含まれない場合を検出する方法としては、例えば、前述の方法で求めた搬送物検出範囲Biaが搬送物CAの予め想定されている画像面積の範囲内に収まらない(当該範囲よりも大きいか、小さい)ことを検出する方法、搬送物検出範囲Biaが観察領域Diの境界に接していることを検出する方法、搬送物検出範囲Biaの形状が予め想定されている形状から大きく変形していることを検出する方法、或いは、これらの複数の方法の組み合わせなどが挙げられる。これらの方法によって観察領域Di内に搬送物CAが包摂されていないことが判明すると、その検出態様に応じて、観察領域Diをさらに拡大したり、移動させたりすることによって再設定し、その後、再設定した観察領域Diに対してさらに画像処理を実施する。
上記の搬送物通過判定は、限定領域Tの画素値のプロファイルに応じて搬送物CAの通過中か否かを判別するものであり、この判別処理は、種々の処理過程によって実現できる。一例として、限定領域Tの画素列の画素値を、同数のノードを備えた入力層に入力し、適宜の中間層(隠れ層)を介して、例えば、1又は複数のノードを備える出力層の出力により、限定領域Tを搬送物CAが通過中であるか、或いは、限定領域Tが搬送物CAの間の隙間にあるかを判別するニューラルネットワークを用いることによってこの判別処理を実行することもできる。本実施形態では、例えば、53画素に対応するノードを備えた入力層と、2層の中間層と、1つのノードを備えた出力層を有する全結合型のニューラルネットワークを構成し、これに29フレーム(画像)以上の学習データを与えて学習させた搬送物CAの判別処理ルーチンを使用し、単一の出力層の出力値によって通過中と隙間の判別を行った。この処理では、例えば、出力層のノードを複数とすることによって、搬送物CAの向きや、外観模様(後述するマーク部分)の位置などの判別も可能になる。なお、この搬送物通過判定処理を行う搬送物通過判定手段は、上記構成に限定されるものではなく、所定の限定領域Tを搬送物CAが通過したことを検出できるものであればよい。また、この搬送物CAの通過が検出されたときの初回の画像A1における初回の観察領域D1は、上記限定領域Tと既定の位置関係にあることによって、限定領域Tを通過した搬送物CAが配置され得る範囲とされる。
なお、図示例では、いずれの場合でも、初回の観察領域D1は、搬送物CAが搬送路上に開口した気流を吹付けるための噴気口OPに対面する範囲(搬送物処理部、以下同様。)よりも上流側に設定される。なお、この噴気口OPが設けられる搬送物処理部では、搬送物判別処理によって搬送物CAが搬送路121上で気流を吹き付けられるべきか否かが判定された判定結果に応じて、図示しない電磁弁などが制御され、噴気口OPからの気流の噴出の有無が決定される。
搬送物判別処理では、上記観察領域D1において、前述と同様に画像処理を施し、前述の搬送物検出処理によって搬送物検出情報B1を求める。図示例では、図3(c)に搬送物検出範囲B1aが描かれている。また、必要に応じて、搬送物検出処理以外の搬送物の判別に必要な処理が行われる。上述のように、搬送物CAが噴気口OPに対面する範囲より上流側に観察領域D1が設定される。ここで、初回の観察領域D1において得られた搬送物検出情報B1aに係る搬送物CAに関し初回の予測移動態様C1が求められる。この場合、初回の予測移動態様C1は、搬送物CAの搬送方向Fの移動速度(例えば、搬送路上の搬送物の平均の搬送速度)と、移動の向きとして搬送方向Fの前進の向きとに基づいて求めることができる。
ここで、初回の予測移動態様C1では、搬送方向Fに沿ったx方向の移動成分のみが設定され、y方向(直交方向)の移動成分は0とし、考慮しなくてもよい。ただし、搬送物CAが搬送路121上で振動等により上下動する場合であって、予め搬送物CAのy方向への移動速度(向きも含む。以下同様。)がわかっている場合には、そのまま慣性によって同じ移動速度で移動し続ける可能性が高いので、y方向の移動成分を考慮してもよい。また、搬送物CAの搬送中の上下動が大きい場合には、当該上下動に応じて予め拡大度合Δhを或る程度の値以上に決定するようにしてもよい。さらに、搬送物CAの搬送中の搬送方向Fの速度の増減が激しい場合、予め拡大度合Δwを或る程度の値以上に設定するようにしてもよい。ここで、観察領域Diに或る程度の拡大度合Δw,Δhが設定されていれば、予測移動態様Ciを、移動方向を搬送方向Fの前進の向きとし、搬送物CAの搬送速度を一定速度に仮定して得られる一定の予測移動量に設定することも可能である。このようにすれば、観察領域Diを容易に設定できるため、搬送物検出処理過程101を簡易かつ高速に実行できる。
その後、図3(d)に示すように、搬送物検出範囲B1aと図示しない予測移動態様(C1)とから、図示しない基準範囲(d2)が求められ、これに基づいて、次の画像A2における観察領域D2が設定される。ここで、搬送物CAは搬送路121上を搬送方向Fへ移動するので、この観察領域D2は、上記観察領域D1に対して搬送方向Fに向けて所定の移動量だけずれる。ここで、当該移動量は、搬送物CAの搬送速度(実際の速度を計測してもよく、或いは、平均的な搬送速度を予め設定し、これを用いてもよい。)と、画像A1とA2の間の撮影時差Δtとの積に相当する。この観察領域D2で搬送物検出処理が実行されると、搬送物検出情報Biが求められ、搬送物検出範囲B2aも特定される。ここで、搬送物検出範囲B1aとB2aとから、搬送物CAの過去の移動態様E1、すなわち、搬送物CAの実際の画像A1とA2の間の移動量(移動速度や移動の向き)を求めることができる。一般に、これらの過去の移動態様Eiによって、その後の観察領域Di+1以降を設定するための予測移動態様Ciを求めることができる。
そして、図3(e)に示すように、前述と同様に、次の画像A3における観察領域D3が設定される。これ以降、図3(f)に示すように、次の画像A4における観察領域D4が設定され、図3(g)に示すように、次の画像A5における観察領域D5が設定される。このようにして、搬送物CAが搬送路121上を搬送されていく様子を、上記過程で得られた搬送物検出情報Bi、特に、搬送物検出範囲B1a~B5aの移動の様子、すなわち、前述の移動態様Ei(E1~E3)によって把握することができる。
上記の図3に示す例では、搬送物CAが上記噴気口OPが設けられた搬送物処理部に到達する前に、複数の画像A1~A4において、それぞれ、観察領域D1~D4内の画像処理によって搬送物CAの判別処理を実施することができる。搬送物CAの判別処理は、上記の複数の画像A1~A4において搬送物CAが配置される位置よりも下流側にある搬送物処理部における選別や姿勢変更などの搬送物処理の制御を行うために必要な情報である、搬送物処理情報G1~G4が取得される。この搬送物処理情報Giは、前述の搬送物検出情報Biを含めることができる。なお、上記の必要な情報が、上記の搬送物検出処理で得られた搬送物検出情報Biで足りる場合には、そのまま、搬送物検出情報Biによって搬送物CAの判別が行われる。各画像Aiでは、上記の搬送物処理情報Giにより、搬送物処理結果Jiが導出される。この搬送物処理結果Jiは、上記の必要な情報を直接に表わす結果である。
上記のようにして搬送物処理結果Jiが得られると、所定の計測処理終了条件を満たさない限り、次の観察領域Di+1の予測設定がなされた後に、次の搬送物判別処理に移行する。一方、上記の計測処理終了条件が満たされると、前述のようにして得られた複数の搬送物処理結果Jiから、所定の搬送物判別結果Kが算出される。ここで、上記計測処理終了条件は、既定の最大処理回数mに達したか否か、或いは、最大処理回数mには達していないが、複数の上記搬送物処理結果Jiの組み合わせによって、搬送物判別結果Kが導出可能になったか否かである。上記最大処理回数mは、画像Aiの撮影時差Δtや搬送物CAの搬送速度v、初回の観察領域D1の位置などによって定まる。図示例の場合には、上記各種条件によって最大処理回数mが4となっている。なお、搬送物処理結果Jiと搬送物判別結果Kとの関係については、後述する。
上述の搬送物判別処理部100において用いる搬送物検出処理過程101の方法は、前述の式(1)~(4)に示す方法に限定されるものではない。例えば、搬送物CAは基本的に搬送路121上を搬送方向Fに沿って移動していくので、観察領域Diを、画像間の時差Δtに対応する一定の移動量だけ搬送方向Fにずらしていく方法であってもよい。
上記噴気口OPを備える搬送物処理部の例としては、所定の搬送物判別結果Kが導出された搬送物CAを制御するために、搬送物CAの一部を搬送路121上から排除するための搬送物排除部と、搬送物CAの一部を反転させて姿勢を変更するための姿勢変更部とが挙げられる。また、搬送物CAの一部を二以上の下流側の分岐した経路に分配する搬送物分配部も考えられる。
図6は、搬送システム10の上記実施形態の搬送物判別処理部100による搬送物CAの判別態様を示す説明図(a)~(e)である。なお、これらの説明図において、搬送路121上の搬送物CAの搬送態様は、カメラCM1,CM2による画像Aiを示す図3とは異なる方位から見た様子を示しており、搬送路121は断面構造で描いてある。噴気口OPを備える搬送物処理部は、下流側の図示右側に示してある。ここで、図中に示される複数の搬送物CAはいずれも同じ特定の搬送物CAであり、複数の画像Aiにおいて撮影された上記特定の搬送物CAを重ねて表示したものである。
図6(a)に示す例では、複数(4つ)の画像A1~A4を用いて、搬送物CAが観察領域D1~D4で順次に搬送物判別処理を受け、上記搬送物処理結果J1としてOK、J2としてOK、J3としOKとなったため、同じ処理結果が過半数の3回出たことから、4回目の処理を中止し(不要とし)、最終の搬送物判別結果KをOKとした。したがって、噴気口OPから気流を流すことはなく、搬送物CAはそのまま搬送物処理部を通過する。この例では、4回目の観察領域D4で処理が行われれば、搬送物CAの位置や姿勢の変動によって誤った処理結果J4=NGが出る可能性があったが、既に3回の処理結果がOKとなっているので、それらの結果に従って搬送物判別結果K=OKとしたことにより、誤った判別結果が出されることを回避できた。この例では、計測終了条件として、最大処理回数4回の二つの処理結果OKとNGのうち、設定数であるとともに最多数でもある3回以上同じ搬送物処理結果Jiが出れば、搬送物判別結果Kをその結果とし、その後の処理は中止する。また、最後まで処理を行った場合においては、処理結果OKとNGが2回ずつ同数出たときには、搬送能力(搬送効率)優先であれば、搬送物処理結果JiのOKを優先して搬送物判別結果Kとする。一方、選別精度(選別効果)優先であれば、搬送物処理結果JiのNGを優先して搬送物判別結果Kとする。
図6(b)で示す例では、搬送物処理結果Jiや搬送物判別結果Kは図6(a)に示す例と同様であるが、複数の画像A1~A4の取得時の時差Δtが上記より短く、このために、搬送物CAの搬送速度は同じであるものの、観察領域D1~D4の設定間隔が上記より小さくなっている。このようにすると、搬送物CAが相互に重なるほど相互に近い位置で頻繁に判別処理を受けることとなるため、搬送物判別結果Kが用いられる搬送物処理部に近い場所で処理することができる。この結果、搬送物CAの姿勢等の特性が搬送途中で頻繁に変化しうる搬送路(複数の搬送物処理部が相互に近接している場合など)では、最大処理回数mを大きくし、判別精度を高めることが容易になる。
図6(c)で示す例では、搬送物CAの姿勢が不良であるために、1回目~3回目まで搬送物処理結果がすべてNGであったが、4回目の処理結果として、搬送物CAの姿勢の変動により、OKが出た場合が想定される。しかし、この場合でも、G1~G3で搬送物処理結果Ji=NGが出ているので、それ以上の判別処理を行うことはなく、搬送物判別結果K=NGとされた。これにより、噴気口OPから気流が吹き付けられ、搬送物CAは搬送路121上から排除されるか、或いは、姿勢が反転される。この例では、4回目の観察領域D4で搬送物CAの姿勢が良品姿勢に近くなり、OK判定が出ることが予想されたが、最終的に良品姿勢にはならず、不良品姿勢のまま下流側へ通過することとなると、不具合が生ずる。したがって、NG判定のままで噴気口OPからの気流により搬送物CAが制御されたことで、誤った判別結果による不具合が回避された。
図6(d)に示す例では、搬送物CAの姿勢が変動することによって、搬送物処理結果Jiが不安定になる場合を示す。この場合、4回の最大処理回数のうち、最初の二回(設定数)で連続してNGが出たため、その後の処理は中止し、搬送物判別結果K=NGとしている。この例では、選別精度(選別効果)優先で処理するため、4回の処理のうちのNGが2回以上出た場合には、結論が定まるため、それ以上の処理は不要とし、搬送物判別結果K=NGとしている。
図6(e)に示す例では、搬送物CAの上下動に起因する位置の変化によって搬送物処理結果Jiが異なる例を示す。この例では、上下動が大きすぎると、画像処理の精度が低下し、搬送物処理結果Ji=NGとなるが、通常の上下動であれば、Ji=OKとなる。この例では、搬送能力(搬送効率)優先とし、搬送物処理結果Ji=OKが2回(設定数)出た時点で、それ以上の処理は不要とし、搬送物判別結果K=OKとしている。
ところで、一般に、搬送物処理結果Jiとして、上述のように2つの処理結果(OKとNG)がある場合に限らず、3つ以上の処理結果があっても構わない。これらの場合、一般的には、各処理結果ごとに所定の数(設定数)が生ずると、その結果を搬送物判別結果Kとするように設定できる。この場合、複数の処理結果の間で相互に上記設定数が異なっていても構わない。例えば、前述のように、搬送能力を重視する立場もあるが、搬送精度を重視する立場も考えられるからである。通常、最大処理数mの過半数(最多数)だけ或る処理結果が得られれば、この処理結果Jiに対応する搬送物判別結果Kとすることが好ましい。ただし、必ずしも過半数ではなくとも、最小で2回、同じ処理結果Jiが得られるとすれば、その処理結果Jiに対応する搬送物判別結果Kを導出しても、従来よりも判別結果の確からしさは大幅に向上する。
<動作プログラム10Pの構成>
次に、図8を参照して、本発明に係る各実施形態の全体の動作プログラム10Pの流れについて説明する。図8は、上記検査処理ユニットDTUの演算処理装置MPUにより、動作プログラム10Pに従って実行される搬送管理のための各種処理過程を示す概略フローチャートである。この動作プログラム10Pを起動すると、まず、上記の画像撮影及び画像計測処理が開始されるとともに、コントローラCL11、CL12により搬送装置(パーツフィーダ11及びリニアフィーダ12)の駆動が開始される。そして、前述のデバッグ操作に応じたデバッグ設定がOFFであれば、撮影画像GPX又は画像エリアGPYに対して画像計測処理が実行され、搬送物判別処理の最終の判定結果がOK判定であれば、デバッグ操作が行われない限り、そのまま次の撮影画像GPX又は画像エリアGPYの画像計測処理が実施される。例えば、搬送物排除処理部では、常時は噴気口OPの気流が停止されているが、判定結果がNG(不良品)であれば、噴気口OPから気流が流れる。これにより、不良の搬送物CAを搬送路上から排除する。また、姿勢反転処理部では、常時は噴気口OPからの気流は停止されているが、判定結果がNG(不良品)であれば、噴気口OPから気流を噴出させて搬送路上で反転させる。なお、上記とは逆に、常時は気流を流しているが、判定結果がOK(良品)であれば、気流を停止するようにしてもよい。
このようにして、搬送路上で搬送物である搬送物CAが判別され、その判別結果に応じて処理されることにより、下流側へは良品のみが整列した状態で供給されていく。この場合にも、その後、デバッグ操作が行われない限り、そのまま次の撮影画像GPX又は画像エリアGPYの計測エリア内で画像計測処理と搬送物判別処理が実施される。ここで、搬送物判別処理部100による搬送物判別処理では、或る搬送物CAに対する処理が上述のように行われるが、通常、次々と計測エリア内に搬送されてくる複数の搬送物CAに対して、それぞれ、搬送物CAごとに同様の搬送物判別処理が並行して行われる。また、上記の画像計測処理や搬送物判別処理と並行して、例えば、搬送路上において搬送方向Fに沿って搬送されていくときの搬送物CAの搬送挙動を検出するために、搬送路上の搬送物CAを追跡する搬送挙動検出処理が行われるようになっていてもよい。そして、この搬送挙動検出処理の検出結果により搬送態様を調整するために搬送装置の駆動の制御を行うようにしてもよい。この搬送駆動の制御は、例えば、搬送装置の加振機構の加振要素の駆動条件、例えば、圧電駆動体の周波数や電圧を制御し、適正な搬送態様となるように調整する。なお、上記搬送挙動検出処理は、上記搬送物判別処理部100に用いられる搬送物検出処理過程101と並行して実行されてもよく、或いは、上記搬送物検出処理とは無関係に、全く別の画像処理によって実行されても構わない。例えば、搬送路121上を搬送方向Fに移動していくときの搬送物CAの搬送方向Fとは直交する方向の位置の変動の大小に応じて、振動の周波数や振幅を制御することによって、搬送物CAが搬送路121上で無駄に暴れることを防止することができる。
上記の途中でデバッグ操作が行われ、デバッグ設定がONになると、上記ルーチン(運転モード)から抜け出して、搬送装置の駆動が停止され、画像計測処理や搬送物判別処理、搬送物検出処理、搬送挙動検出処理も停止される。そして、この状態において適宜の操作を行うと、過去の画像ファイルを選択可能な状態となる。このとき、選択表示される画像ファイルは、直前の運転モードにおいて記録していた複数の撮影画像GPX又は画像エリアGPYを含む画像ファイルである。これをそのまま選択して適宜の操作をすると、再実行モードに移行する。このモードでは、上述のようにすでに実行された画像計測処理、搬送物判別処理、搬送物検出処理や上記搬送挙動検出処理等の結果を記録した画像ファイルに基づいて、画像の表示や、各種処理や制御等を再実行することができる。すなわち、搬送装置の搬送物である搬送物CAの制御(排除や反転、搬送物検出)に不具合が生じた場合には、この不具合を解消するために、まず、過去の画像データに基づいて画像処理を再実行することによって、各処理や制御等の問題箇所を探る。当該問題箇所が判明すれば、それに応じて各処理や制御の設定内容(設定値)を変更、調整し、再び過去の画像データに対して画像計測処理等を再実行することで調整、改善作業の結果を確認することができる。その後、適宜の復帰操作を行うと、デバッグ設定がOFFに戻され、画像計測処理が再開されるとともに、搬送装置の駆動が再開される。
なお、以上説明した各実施形態においては、搬送路上の搬送物CAごとに、当該搬送物CAが撮影された二以上の画像Aiを順次に処理することにより、各画像Aiから得られた搬送物CAの複数の処理結果Jiに基づいて搬送物判別結果Kを導出するようにしている。これにより、搬送物CAの位置や姿勢の変化に起因する判別結果の誤りを低減することができる。
これに対して、従来例では、図7(a)に示すように、搬送路131上に光センサSAを設置して搬送物CAの通過を検知し、この検知タイミングで画像SBを撮影し、この画像SBから搬送物CAを判定するようにしている。しかし、この場合、搬送物CAの位置や姿勢の変化により画像処理が影響を受けて搬送物CAが不良品NGであるという誤判定を生じてしまう場合があり、この場合には、当該搬送物CAが本来的には良品OKであっても、噴気口OPからの気流により搬送路131上から排除されたり、姿勢が反転されたりしてしまう。
また、図7(b)に示すように、上記本実施形態と同様のトリガレス撮影による画像計測処理を行う場合でも、搬送物判別処理の対象となる搬送物CAの位置は計測エリアSC内の所定の範囲SD内に限定されてしまうため、上記と同様に、搬送物CAの位置や姿勢の変化に起因して、不良品NGであるという誤判定が生じやすい。
本実施形態では、上記の従来技術とは異なり、搬送物CAごとに二以上の画像Aiに基づいて二以上の搬送物処理結果Jiを求め、これらから搬送物判別結果Kを導出する場合に、さらに、搬送物CAごとに、二以上の画像Aiのうちの画像処理を行う観察領域Diを設けているので、個々の搬送物CAに対する画像処理の負荷を軽減することができ、また、複数の搬送物CAに対する画像処理を並行して行うようにしても、高速な処理が可能となっている。
本実施形態では、搬送物CAごとに、搬送物CAの位置情報と、搬送物CAの予測移動態様Ciとに応じて、観察領域Diを設定し、この観察領域Diにおいて搬送物CAを追跡しながら画像処理を行うため、複数の搬送物CAが計測エリア内に連続して通過するような場合でも、複数の搬送物CAに関して相互に紛れることなく、並行して搬送物判別処理や搬送物検出処理を実行することができる。
本実施形態では、搬送物検出範囲Biaと予測移動態様Ciに対応する次の観察領域Di+1を設定し、この観察領域Di+1内での画像処理による搬送物検出処理によって搬送物CAを検出し、搬送物検出情報Bi+1を導出するようにしているので、処理対象となる画像データを限定しつつ、搬送物CAを追跡して確実に検出することができる。このため、処理の高速化を図ることができ、限られた時間で従来よりも高度な処理も実行可能になる。また、上記の観察領域の予測と画像処理との繰り返しによって、搬送物CAの複雑な移動態様や動作(搬送物移動状況MS)を容易に把握することが可能になる。
特に、上記搬送物検出処理過程101によって搬送物の移動態様や動作を高速かつ確実に把握することができる。これにより、搬送システムの高速化だけでなく、搬送路上における搬送物CAの高密度化や、搬送物CAの整列の高精度化を図ることができる。
本実施形態では、次の観察領域Di+1を設定するに際し、観察領域Diで求めた搬送物検出情報Biと予測移動態様Ciから得た基準範囲di+1にさらにその周辺域を加えることにより、拡大した領域としていることから、搬送物CAが予測移動態様Ciとは異なる移動態様を示した場合でも、次の画像Ai+1からより確実に物体検出情報Bi+1を導出することができる。
なお、本発明の搬送システムは、上述の図示例にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。例えば、本発明は、複数の画像Aiに対する複数の搬送物処理結果Jiに基づいて搬送物判別結果Kを求めるものであればよく、そのJiからKへの求め方は、搬送システムの目的や使用態様に応じて設定すればよい。
10…搬送システム、10P…動作プログラム、11…パーツフィーダ、110…搬送体、111…搬送路、12…リニアフィーダ、120…搬送体、121…搬送路、OP…噴気口、CA、CA1~CA3…搬送物、CM1,CM2…カメラ、CL11,CL12…コントローラ、DTU…検査処理ユニット、DP1,DP2…表示装置、GP1,GP2…画像処理装置、GM1,GM2…画像処理メモリ、GPX…撮影画像、GPY…画像エリア、MPU…演算処理装置、MM…主記憶装置、SP1,SP2…操作入力装置、RAM…演算処理用メモリ、θ…主軸角(角度姿勢)、100…搬送物判別処理部、101…搬送物検出処理過程、A…画像取得手段、Ai…画像、B…画像処理手段、Bi…搬送物検出情報、Bia…搬送物検出範囲、C…移動態様予測手段、Ci…予測移動態様、D…観察領域設定手段、Di…観察領域、di…基準範囲、Ei…搬送物の移動態様、MS…搬送物移動状況、Gi…搬送物処理情報、Ji…搬送物処理結果、K…搬送物判別結果

Claims (12)

  1. 搬送物を搬送路に沿って搬送する搬送装置と、
    前記搬送物が前記搬送路上を通過する計測エリアの画像を取得する手段であって、前記搬送路を通過する全ての前記搬送物がそれぞれ必ず前記計測エリアの二以上の前記画像中に撮影されることとなる態様で複数の前記画像を順次に取得する画像取得手段と、
    前記画像内の前記搬送物の画像部分を画像処理して前記搬送物を判別する手段であって、前記搬送物ごとに、当該搬送物が撮影されている前記二以上の画像に対して順次に前記画像処理を実行することにより、前記二以上の画像に対する処理結果に基づいて判別結果を導出する搬送物判別手段と、
    を具備し、
    前記搬送物判別手段では、前記処理結果としての複数種類の結果と、前記搬送物ごとの前記処理結果を求める前記画像処理の最大処理回数とが予め設定され、
    前記搬送物判別手段は、前記搬送物ごとに、或る種類の前記処理結果の得られた回数が、前記最大処理回数の前記処理結果の中の他のいずれの種類の処理結果の回数よりも多く最多となる場合には、前記或る種類の処理結果を前記判別結果として導出する、
    搬送システム。
  2. 搬送物を搬送路に沿って搬送する搬送装置と、
    前記搬送物が前記搬送路上を通過する計測エリアの画像を取得する手段であって、前記搬送路を通過する全ての前記搬送物がそれぞれ必ず前記計測エリアの二以上の前記画像中に撮影されることとなる態様で複数の前記画像を順次に取得する画像取得手段と、
    前記画像内の前記搬送物の画像部分を画像処理して前記搬送物を判別する手段であって、前記搬送物ごとに、当該搬送物が撮影されている前記二以上の画像に対して順次に前記画像処理を実行することにより、前記二以上の画像に対する処理結果に基づいて判別結果を導出する搬送物判別手段と、
    を具備し、
    前記搬送物判別手段では、前記処理結果としての複数種類の結果と、前記搬送物ごとの前記処理結果を求める前記画像処理の最大処理回数とが予め設定され、
    前記搬送物判別手段では、前記処理結果の種類ごとに2回以上の設定数が規定され、
    前記搬送物判別手段は、前記搬送物ごとに、或る種類の前記処理結果の得られた回数が最初に前記設定数に達した場合には、当該或る種類の処理結果を前記判別結果として導出する、
    搬送システム。
  3. 前記処理結果として2種類の結果が設定され、
    前記搬送物判別手段は、前記搬送物ごとに、前記最大処理回数の前記処理結果が求められた場合であって、前記2種類の処理結果の得られた回数が相互に同数になるときには、予め設定された搬送能力優先と選別精度優先のいずれかの優先順に従って選択される1種類の処理結果を前記判別結果として導出する、
    請求項1又は2に記載の搬送システム。
  4. 前記二以上の画像は三以上の画像である、
    請求項1-3のいずれか一項に記載の搬送システム。
  5. 前記搬送物判別手段は、前記二以上の画像のうち、二回目以降の前記画像に対しては、前回に処理された前記画像から得られた当該搬送物の位置情報と、当該搬送物の予測移動態様とにより限定された観察領域内において前記画像処理を実行する、
    請求項1-4のいずれか一項に記載の搬送システム。
  6. 前記予測移動態様は、前記搬送物の搬送速度と、今回処理された前記画像と次回の前記画像の撮影時差とに対応する搬送方向の予測移動量である、
    請求項5に記載の搬送システム。
  7. 前記二回目以降の画像に対する前記観察領域は、前回の前記画像に対する画像処理で得られた前記搬送物の検出範囲を移動後の予測位置に配置した基準範囲に加えて、当該基準範囲の周囲に配置される周辺域を含むように拡大した領域となるように設定される、
    請求項5又は6に記載の搬送システム。
  8. 前記観察領域の前記基準範囲に対する拡大度合は、前記搬送物の過去の移動態様のばらつきの大小に応じて増減される、
    請求項7に記載の搬送システム。
  9. 前記予測移動態様は、前記搬送物の過去の移動態様に基づいて算出される、
    請求項5-8のいずれか一項に記載の搬送システム。
  10. 前記搬送物判別手段は、前記二以上の画像のうちの初回の前記画像に対しては、前記搬送物が配置され得るように設定された既定の初回の前記観察領域において画像処理を実行し、既定の初回の前記予測移動態様に基づいて次回の前記画像に対する前記観察領域を設定する、
    請求項5-9のいずれか一項に記載の搬送システム。
  11. 前記搬送装置を制御する搬送制御部をさらに具備し、
    前記搬送制御部は、前記判別結果に基づいて前記搬送装置を制御する、
    請求項1-10のいずれか一項に記載の搬送システム。
  12. 前記搬送制御部は、前記判別結果に応じて、前記搬送装置に設けられた前記搬送物の選別若しくは姿勢変更を行うための搬送物処理機構を制御する、
    請求項11に記載の物体搬送システム。
JP2020117037A 2020-07-07 2020-07-07 搬送システム Active JP7347807B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020117037A JP7347807B2 (ja) 2020-07-07 2020-07-07 搬送システム
KR1020210081682A KR20220005985A (ko) 2020-07-07 2021-06-23 반송 시스템
CN202110734034.3A CN114125209A (zh) 2020-07-07 2021-06-30 输送***
TW110124340A TWI834046B (zh) 2020-07-07 2021-07-02 輸送系統

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020117037A JP7347807B2 (ja) 2020-07-07 2020-07-07 搬送システム

Publications (2)

Publication Number Publication Date
JP2022014615A JP2022014615A (ja) 2022-01-20
JP7347807B2 true JP7347807B2 (ja) 2023-09-20

Family

ID=79343015

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020117037A Active JP7347807B2 (ja) 2020-07-07 2020-07-07 搬送システム

Country Status (4)

Country Link
JP (1) JP7347807B2 (ja)
KR (1) KR20220005985A (ja)
CN (1) CN114125209A (ja)
TW (1) TWI834046B (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004010255A (ja) 2002-06-06 2004-01-15 Gunze Ltd 物品の管理方法及び管理装置
JP2013039981A (ja) 2011-08-11 2013-02-28 Sinfonia Technology Co Ltd ワーク選別装置
JP2017121995A (ja) 2016-01-08 2017-07-13 株式会社ダイシン 搬送物判別制御システム及び搬送装置
JP2020033151A (ja) 2018-08-30 2020-03-05 シンフォニアテクノロジー株式会社 ワークカウント制御システム、パーツフィーダ

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106934330B (zh) * 2015-12-31 2020-07-31 杭州海康威视***技术有限公司 物流信息采集方法、平台、***及图像采集设备
JP6884398B2 (ja) 2018-03-24 2021-06-09 株式会社ダイシン 搬送物の判定装置及びこれを用いた搬送システム
CN110697301B (zh) * 2019-09-23 2020-12-18 深圳市前海西游科技有限公司 一种基于人工智能的自动化物流运输方法及其***

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004010255A (ja) 2002-06-06 2004-01-15 Gunze Ltd 物品の管理方法及び管理装置
JP2013039981A (ja) 2011-08-11 2013-02-28 Sinfonia Technology Co Ltd ワーク選別装置
JP2017121995A (ja) 2016-01-08 2017-07-13 株式会社ダイシン 搬送物判別制御システム及び搬送装置
JP2020033151A (ja) 2018-08-30 2020-03-05 シンフォニアテクノロジー株式会社 ワークカウント制御システム、パーツフィーダ

Also Published As

Publication number Publication date
CN114125209A (zh) 2022-03-01
TW202219894A (zh) 2022-05-16
TWI834046B (zh) 2024-03-01
KR20220005985A (ko) 2022-01-14
JP2022014615A (ja) 2022-01-20

Similar Documents

Publication Publication Date Title
TWI616388B (zh) 輸送物辨別控制系統及輸送裝置
US7668388B2 (en) System and method for single image focus assessment
EP2299404A1 (en) Image processing apparatus
KR102633645B1 (ko) 반송관리 시스템 및 반송장치
KR20180074556A (ko) 얼굴검출 방법 및 그 장치
JP4514230B2 (ja) 部品吸着姿勢判別方法及び部品吸着姿勢判別システム
JP6884398B2 (ja) 搬送物の判定装置及びこれを用いた搬送システム
JP7347807B2 (ja) 搬送システム
JP2018036770A (ja) 位置姿勢推定装置、位置姿勢推定方法、及び位置姿勢推定プログラム
US20220084182A1 (en) Control method for controlling system and system
JP7338779B2 (ja) 画像認識装置、画像認識方法、及び、プログラム
JP7333546B2 (ja) 物体認識装置及びこれを用いた物体搬送システム
US10853947B2 (en) Device, method, and program for detecting boundary lines included in captured images
US11830232B2 (en) Image judgment apparatus and image judgment method
WO2018037891A1 (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム記録媒体
CN115362473A (zh) 用于对长于视场的运动物体进行三维扫描的***和方法
JP7302881B2 (ja) 搬送システム
JP7343186B2 (ja) 搬送物検出処理システム及び搬送装置
TWI843004B (zh) 輸送系統
JP7481046B2 (ja) 搬送物の姿勢制御方法及び搬送システム
WO2021221621A1 (en) Adjusting manufacturing parameters based on inspection

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220304

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220908

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230531

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230801

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230831

R150 Certificate of patent or registration of utility model

Ref document number: 7347807

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150