JP7113778B2 - Work take-out device - Google Patents
Work take-out device Download PDFInfo
- Publication number
- JP7113778B2 JP7113778B2 JP2019060437A JP2019060437A JP7113778B2 JP 7113778 B2 JP7113778 B2 JP 7113778B2 JP 2019060437 A JP2019060437 A JP 2019060437A JP 2019060437 A JP2019060437 A JP 2019060437A JP 7113778 B2 JP7113778 B2 JP 7113778B2
- Authority
- JP
- Japan
- Prior art keywords
- information processing
- unit
- gripping
- work
- workpiece
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Manipulator (AREA)
Description
本開示は、ワーク取り出し作業装置に関し、より特定的には、リンク機構による角度調整機能を備えるワーク取り出し作業装置の機械学習を用いた制御に関する。 TECHNICAL FIELD The present disclosure relates to a work picking device, and more particularly to control using machine learning for a work picking device having an angle adjustment function by a link mechanism.
自動化された機械加工または組立作業におけるワークピース（以下、ワークと称する）は、ロボットまたは組立装置等（所謂、ワーク取り出し作業装置）によって自動的にピックアップされ、加工装置または組立物にセットされることが多い。 A workpiece (hereinafter referred to as a workpiece) in automated machining or assembly work is automatically picked up by a robot or an assembly device (so-called work picking device) and set in a processing device or assembly. There are many.
取り出されたワークを後工程の組立作業で別のワークに組み付ける場合、ワーク取り出し作業装置は、ワークを１つずつ取り出す必要がある。しかし、バネやクリップの様に絡みやすいワークを扱う場合、ワーク取り出し作業装置は、２つ以上のワークを同時に把持してしまう可能性がある。そのため、ワーク取り出し作業装置には、ワークの取り出しだけでなく、ワーク同士の絡まりを解く機能（以下、絡まり解き機能と呼ぶ）が求められている。 When the removed work is assembled with another work in the post-process assembly work, the work picking device needs to take out the works one by one. However, when handling workpieces that tend to get entangled, such as springs and clips, the workpiece picking device may grip two or more workpieces at the same time. Therefore, the work unloading device is required to have a function of untangling the works (hereinafter referred to as untangling function) in addition to unloading the work.
また、近年、機械学習の手法が進歩してきたこともあり、ワーク取り出し作業装置の制御の精度向上のために、機械学習を導入することが望まれている。 In addition, in recent years, the technique of machine learning has progressed, and it is desired to introduce machine learning in order to improve the accuracy of control of the work picking device.
ワークの取り出し制御に関し、例えば、特許文献１（特開２０１７－０３０１３５号公報）は、多関節ロボットを用いた「バラ積みされた状態を含む、乱雑に置かれたワークを取り出すときのロボットの最適な動作が人間の介在無しに選択される機械学習装置」を開示している（［要約］参照）。 Regarding work take-out control, for example, Patent Document 1 (Japanese Patent Application Laid-Open No. 2017-030135) describes "optimization of the robot when taking out randomly placed works, including randomly stacked states" using an articulated robot. A machine learning device in which a suitable action is selected without human intervention” (see [Abstract]).
また、絡まり取り制御に関し、例えば、特許文献２（特開平０５－１８５３８８号公報）は、「ロボットハンドのワーク把持状態を絡み検出用カメラが撮像し、この撮像した撮像情報に基づいてロボットハンドが把持するワークに絡み状態が発生しているか否かを視覚装置にて判定する」部品供給装置を開示している（［要約］参照）。 Regarding tangling control, for example, Patent Document 2 (Japanese Patent Application Laid-Open No. 05-185388) discloses that "a tangling detection camera captures an image of a workpiece gripping state of a robot hand, and based on the captured image information, the robot hand detects A visual device determines whether or not a workpiece to be gripped is entangled" (see [Summary]).
例えば、特許文献１および２に開示された技術はいずれも多関節ロボットを前提としている。多関節ロボットは、一般に特異点と呼ばれる構造的に制御できなくなる姿勢を含む。また、多関節ロボットは、ワークに加わる力やモーメントを検出するためのセンサーが必要であり、機械学習と組み合わせた場合に学習用のパラメータが多くなり、学習効率が悪くなる。
For example, the techniques disclosed in
そのため、多関節ロボットと異なり、構造的に特異点を有さず、効率よく機械学習を行うための技術が必要とされている。 Therefore, unlike multi-joint robots, there is a need for a technique for efficient machine learning that does not have singular points structurally.
本開示は、上記のような背景に鑑みてなされたものであって、ある局面における目的は、構造的に特異点を有さず、効率よく機械学習を行うための技術を提供することにある。 The present disclosure has been made in view of the above background, and an object in one aspect is to provide a technique for efficiently performing machine learning without structural singularities. .
ある実施の形態に従うワーク取り出しを行う作業装置は、ワークを容器から取り出して把持する把持部と、把持部が装着され、把持部の向きを調整する角度調整部と、角度調整部が装着される作業ヘッドと、複数の駆動部により作業ヘッドを移動させる位置調整部と、把持部の把持するワークを撮影する把持部撮像装置と、作業装置を制御する制御装置とを備える。角度調整部は、第１および第２のリンクハブと、第１および第２のリンクハブの間に並列に配置された複数のリンクと、複数のリンクのそれぞれを駆動させる複数の駆動部とを含む。制御装置は、把持部撮像装置が撮影した画像に基づいて、把持部が把持するワークの個数を検出し、把持部が把持するワークの個数が２以上であることに基づいて、把持部が把持するワークの個数および角度調整部の各駆動部のトルクを機械学習モデルのパラメータとし、機械学習モデルにより、位置調整部および角度調整部の各駆動部に送信するそれぞれの駆動信号を決定し、決定した駆動信号に基づいて、位置調整部の各駆動部および角度調整部の各駆動部を駆動させることにより、把持部にワークの絡まり解き動作をさせる。 A working device for picking up a workpiece according to an embodiment is equipped with a gripping section for gripping a workpiece after it is retrieved from a container, an angle adjusting section for adjusting the orientation of the gripping section, and an angle adjusting section. It includes a working head, a position adjusting section that moves the working head by a plurality of driving sections, a gripping section imaging device that captures an image of a workpiece gripped by the gripping section, and a control device that controls the working device. The angle adjusting section includes first and second link hubs, a plurality of links arranged in parallel between the first and second link hubs, and a plurality of driving sections for driving each of the plurality of links. include. The control device detects the number of workpieces gripped by the gripping part based on the image captured by the gripping part imaging device, and based on the fact that the number of workpieces gripped by the gripping part is two or more, the gripping part is gripped. The number of workpieces to be processed and the torque of each driving part of the angle adjusting part are used as parameters of the machine learning model, and the respective driving signals to be sent to each driving part of the position adjusting part and the angle adjusting part are determined by the machine learning model. By driving the respective driving portions of the position adjusting portion and the respective driving portions of the angle adjusting portion based on the generated drive signal, the grasping portion is caused to untangle the workpiece.
ある実施の形態によれば、構造的に特異点を有さず、効率よく機械学習を行うことが可能である。 According to an embodiment, it is possible to efficiently perform machine learning without structural singularities.
この発明の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。 The above and other objects, features, aspects and advantages of the present invention will become apparent from the following detailed description of the invention taken in conjunction with the accompanying drawings.
以下、図面を参照しつつ、本開示に係る技術思想の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。 Hereinafter, embodiments of the technical concept according to the present disclosure will be described with reference to the drawings. In the following description, the same parts are given the same reference numerals. Their names and functions are also the same. Therefore, detailed description thereof will not be repeated.
＜Ａ．システム構成＞
図１は、本実施の形態に従うワーク取り出し作業システム１００の一構成例を示す図である。図１を参照して、ワーク取り出し作業システム１００は、ワーク取り出し作業装置１０１と、情報処理装置１０２と、制御装置１０３と、撮像装置１１４，１１５とを備える。
<A. System configuration>
FIG. 1 is a diagram showing one configuration example of a work
ワーク取り出し作業装置１０１は、架台１０４と、第１の直動ユニット１０５と、第２の直動ユニット１０６と、第３の直動ユニット１０７と、電動アクチュエータ１０８Ａ，１０８Ｂ，１０８Ｃ（以降、総称する場合は電動アクチュエータ１０８と呼ぶ）と、作業ヘッド１０９と、回転ユニット取付部材１１０と、角度調整機構１１１と、把持機構１１２と、ワーク入れ１１３とを備える。
The
架台１０４は、第１の直動ユニット１０５と、第２の直動ユニット１０６と、第３の直動ユニット１０７と、それぞれの直動ユニットを駆動させる電動アクチュエータ１０８Ａ，１０８Ｂ，１０８Ｃと、作業ヘッド１０９とからなる位置調整装置が装着される台である。
The
第１の直動ユニット１０５、第２の直動ユニット１０６および第３の直動ユニット１０７は、それぞれ直交するＸ軸、Ｙ軸、Ｚ軸方向に作業ヘッド１０９を移動させる。ある局面において、各直動ユニットは、フレームと、リニアシャフトと、リニアブッシュと、電動アクチュエータ１０８から動力を伝達するための台形ネジおよびボールネジナットとを備えていてもよい。また、ある局面において、各直動ユニットは、リニアシャフトの代わりに、リニアガイドや、フレームの表面を滑るガイドローラーを備えていてもよい。また、ある局面において、各直動ユニットは、台形ネジの代わりに駆動ベルトを備えていてもよい。また、各直動ユニットの端部には、各電動アクチュエータ１０８の初期位置の決定と、安全機構のための、衝突検知センサーが設けられていてもよい。
The first
電動アクチュエータ１０８は、それぞれの直動ユニットを駆動させる。ある局面において、電動アクチュエータ１０８は、ステッピングモータであり、台形ネジや駆動ベルトを介して動力を各直動ユニットに伝達してもよい。また、ある局面において、電動アクチュエータ１０８は、ＡＣサーボモータまたはエンコーダーを備えたギアードモータであってもよい。情報処理装置１０２は、ステッピングモータのステップ数や、エンコーダーの回転数によって、作業ヘッド１０９および把持機構１１２の現在位置を算出してもよい。
The electric actuator 108 drives each linear motion unit. In one aspect, the electric actuator 108 may be a stepping motor and transmit power to each linear motion unit via a trapezoidal screw or drive belt. Also, in one aspect, the electric actuator 108 may be an AC servomotor or a geared motor with an encoder. The
作業ヘッド１０９は、上下方向（Ｚ軸方向）に動作するように第３の直動ユニット１０７に取り付けられている。また、作業ヘッド１０９は、作業に必要なパーツを取り付けるためのネジ穴やアタッチメントを備える。
The
回転ユニット取付部材１１０は、作業ヘッド１０９に取り付けられており、角度調整機構１１１を取り付けるためのネジ穴やアタッチメントを備える。角度調整機構１１１は、把持機構１１２によって把持されたワークの向きを微調整する。また、角度調整機構１１１の根元は電動アクチュエータを用いた回転機構となっている。なお、回転機構は、角度調整機構１１１とは別体でもよい。角度調整機構１１１の詳細については後述する。把持機構１１２は、ワーク取り出し作業におけるワーク、例えば、Ｃ型サークリップや、ばね、コイル等を把持する。把持機構１１２の詳細については後述する。ワーク入れ１１３は、ワークを入れるための箱である。
The rotary
情報処理装置１０２は、制御装置１０３を介して、ワーク取り出し作業装置１０１に対して制御命令を送信し、また、電動アクチュエータ１０８や角度調整機構１１１の電動アクチュエータのモータトルク値等を取得する。情報処理装置１０２の詳細は後述する。
The
制御装置１０３は、ワーク取り出し作業装置１０１および情報処理装置１０２の間のデータを相互に変換する。ある局面において、制御装置１０３は、マイクロコンピューターからなる制御基板であり、情報処理装置１０２から、ワーク取り出し作業装置１０１の電動アクチュエータ１０８や角度調整機構１１１の電動アクチュエータに対する指令（指令トルク、回転量、回転速度等）を受信し、それぞれの電動アクチュエータに制御信号を送信してもよい。
The
撮像装置１１４は、ワーク入れ１１３を上から撮影することによって得られる画像または映像を情報処理装置１０２に送信する。情報処理装置１０２は、撮像装置１１４から受信した画像または映像に基づいて、ワークの位置を検出し、位置調整装置により、把持機構１１２をワークの取り出し位置まで移動させる。
The
撮像装置１１５は、把持機構１１２が把持するワークを横から撮影することによって得られる画像または映像を情報処理装置１０２に送信する。情報処理装置１０２は、撮像装置１１５から受信した画像または映像に基づいて、把持機構１１２が把持するワークの個数を検出する。
The
＜Ｂ．システム構成部品のハードウェア構成＞
図２は、角度調整機構１１１の一構成例を示す図である。図２を参照して、角度調整機構１１１は、基端側の第１リンクハブ３２に対し先端側の第２リンクハブ３３を３組のリンク機構３４によって姿勢変更可能に連結したものである。先端側の第２リンクハブ３３には、図１に示された把持機構１１２が取り付けられる。なお、ここでは３組のリンク機構３４を有する角度調整機構１１１について示したが、リンク機構３４の数は、４組以上であってもよい。
<B. Hardware Configuration of System Components>
FIG. 2 is a diagram showing a configuration example of the
各リンク機構３４は、基端側の端部リンク部材３５、先端側の端部リンク部材３６および中央リンク部材３７で構成される。リンク機構３４は、４つの回転対偶からなる４節連鎖のリンク機構である。基端側および先端側の端部リンク部材３５，３６はＬ字状の形状を有する。
Each
基端側の端部リンク部材３５の一端は、回転軸４２を介して、基端側の第１リンクハブ３２に回転自在に連結されている。先端側の端部リンク部材３６の一端は、回転軸７３を介して、先端側の第２リンクハブ３３に回転自在に連結されている。中央リンク部材３７は、回転軸５５，７５を介して、両端に端部リンク部材３５，３６の各他端がそれぞれ回転自在に連結されている。
One end of the
角度調整機構１１１は、パラレルリンク機構であり、２つの球面リンク機構を組み合わせた構造を有する。端部リンク部材３５，３６と中央リンク部材３７との各回転対偶の中心軸は、ある交差角を持っていてもよいし、平行であってもよい。
The
角度調整機構１１１は、リンクの動作のみで各リンクハブの中心軸の相対角度を調整可能であり、多関節ロボットのように直列に連結された複数の関節の動作を伴わない。このため、先端のわずかな動きに対して構成部材が大きく動くことは無く素早い動作が可能である。また、角度調整機構１１１は、リンクを駆動させる電動アクチュエータのモータトルク値から、任意の姿勢における把持機構１１２の先端に加わる力を検出できる。
The
第２リンクハブ３３は、第１リンクハブ３２から見て半球面上で姿勢を変える。そのため、第１リンクハブ３２から見た第２リンクハブ３３の目標位置と、各リンクの姿勢とは、必ず一対一で対応する。よって、角度調整機構１１１は、ロボットアーム等のマルチリンクを持つ構造と異なり、特異点を有さない。
The second link hub 33 changes its posture on the hemispherical surface when viewed from the
図３は、角度調整機構１１１の回転軸４２に姿勢制御用の電動アクチュエータ１１を取り付けた一構成例を示す。電動アクチュエータ１１は、減速機構６２を備えたロータリアクチュエータ（モータ）である。電動アクチュエータ１１は、基端側の第１リンクハブ３２の上面に、電動アクチュエータ１１の回転軸と回転軸４２とが同軸上に位置するように設置されている。電動アクチュエータ１１および減速機構６２は、一体として設けられてもよい。減速機構６２は、モータ固定部材６３により基端側の第１リンクハブ３２に固定される。ある局面において、電動アクチュエータ１１は、ＡＣサーボモータまたはエンコーダーを備えたギアードモータであってもよい。
FIG. 3 shows a configuration example in which the
図３に示す例では、電動アクチュエータ１１が３組のリンク機構３４の全てに設けられているが、本実施の形態に従う角度調整機構１１１はこれに限られない。角度調整機構１１１は、リンク機構３４のうち少なくとも２組に姿勢制御用の電動アクチュエータ１１が設けられていれば、基端側の第１リンクハブ３２に対する先端側の第２リンクハブ３３の姿勢を確定することができる。
In the example shown in FIG. 3,
図４は、把持機構１１２の一構成例を示す図である。把持機構１１２は、対向する２枚の爪で対象物を挟み込む。本実施の形態に従う把持機構１１２は、エアシリンダを用いて２枚の爪を開閉させる方式である。状態Ａは把持機構１１２の開放時の状態を示す。状態Ｂは把持機構１１２の閉じた状態を示す。図４に示す把持機構１１２は一例であり、本実施の形態に従う把持機構１１２はこれに限られない。ある局面において、把持機構１１２は、電動式の開閉機構、対象物を吸着する機構または他の挟み込み機構であってもよい。
FIG. 4 is a diagram showing a configuration example of the
図５は、把持機構１１２を取り付けた角度調整機構１１１の一例を示す図である。角度調整機構１１１の先端側の第２リンクハブ３３は、把持機構１１２をネジ止めするネジ穴、はめ込み穴またはその他のアタッチメントを備えていてもよい。図５に示す構成によって、ワーク取り出し作業装置１０１は、把持機構１１２が複数のワークを把持したときにおける、絡まり解きの動作を行うことができる。
FIG. 5 is a diagram showing an example of the
なお、本実施の例では、位置調整装置は、角度調整機構１１１を移動させているが、本実施の形態に従うワーク取り出し作業装置１０１はこれに限られない。位置調整装置は、角度調整機構１１１、把持機構１１２およびワーク入れ１１３の中のワークを相対的に位置決めできればよく、ある局面において、位置調整装置は、ワーク入れ１１３を移動させる機構を含んでもよい。
In this embodiment, the position adjustment device moves the
＜Ｃ．回路およびソフトウェア構成＞
図６は、情報処理装置１０２のハードウェアの一構成例を示す図である。図６を参照して、情報処理装置１０２は、ＣＰＵ（Central Processing Unit）７０１と、１次記憶装置７０２と、２次記憶装置７０３と、外部機器インターフェース７０４と、入力インターフェース７０５と、出力インターフェース７０６と、通信インターフェース７０７とを備える。
<C. Circuit and software configuration>
FIG. 6 is a diagram showing a configuration example of hardware of the
ＣＰＵ７０１は、情報処理装置１０２で動作するプログラムやデータを処理する。１次記憶装置７０２は、ＣＰＵ７０１によって実行されるプログラムおよび参照されるデータを格納する。ある局面において、ＤＲＡＭ（Dynamic Random Access Memory）が１次記憶装置７０２として使用されてもよい。
The
２次記憶装置７０３は、プログラムやデータ等を長期間記憶する。一般的に２次記憶装置７０３は、１次記憶装置７０２よりも低速であるため、ＣＰＵ７０１で直接使用するデータは、１次記憶装置７０２に配置され、それ以外のデータは、２次記憶装置７０３に配置される。ある局面において、ＨＤＤ（Hard Disk Drive）やＳＳＤ（Solid State Drive）等の不揮発性の記憶装置が２次記憶装置７０３として使用されてもよい。
A
外部機器インターフェース７０４は、情報処理装置１０２に補助デバイスを接続する場合等に使用される。ある局面において、ＵＳＢ（Universal Serial Bus）インターフェースが、外部機器インターフェース７０４として使用されてもよい。入力インターフェース７０５は、キーボードやマウス等を接続するために使用される。ある局面において、ＵＳＢインターフェースが、入力インターフェース７０５として使用されてもよい。
The
出力インターフェース７０６は、ディスプレイ等の出力デバイスを接続するために使用される。ある局面において、ＨＤＭＩ（登録商標）（High-Definition Multimedia Interface）やＤＶＩ（Digital Visual Interface）が出力インターフェース７０６として使用されてもよい。
通信インターフェース７０７は、外部の通信機器と通信するために使用される。ある局面において、ＬＡＮ（Local Area Network）ポートや、Ｗｉ－Ｆｉ（登録商標）（Wireless Fidelity）の送受信装置等が、通信インターフェース７０７として使用されてもよい。また、ある局面において、情報処理装置１０２は、ＰＣ（Personal Computer）またはワークステーションであってもよい。本実施の形態に従う情報処理装置１０２の処理は、図６に示すハードウェア上で、プログラムとして実行されてもよい。
A
図７は、情報処理装置１０２を実現する機能の一構成例を示す図である。ある局面において、図７に示す機能の一部は、図６に示すハードウェア上で、プログラムが実行されることにより実現され得る。図７を参照して、情報処理装置１０２は、信号入力部８０１と、評価値関数部８０２と、動作パターンテーブル８０３と、動作決定部８０４と、指令生成部８０５と、動作結果判定部８０６と、評価値関数学習部８０７とを含む。
FIG. 7 is a diagram showing a configuration example of functions realizing the
信号入力部８０１は、撮像装置１１４，１１５が撮影することによって取得された画像と、ワーク取り出し作業装置１０１から角度調整機構１１１の電動アクチュエータ１１のモータトルク値とを取得する。ある局面において、信号入力部８０１は、さらに、位置調整装置の電動アクチュエータ１０８のモータトルク値を取得してもよい。
The
評価値関数部８０２は、後述する評価値関数Ｆを用いて信号入力部に入力された画像から検出されたワークの個数およびモータトルク値等に基づいて各動作パターンに対応するそれぞれの評価値を計算する。
The evaluation
動作パターンテーブル８０３は、位置調整装置および角度調整機構１１１の各電動アクチュエータの移動量および移動速度、加速度、指令トルク値の内の少なくとも１つが対応付けられた複数の動作パターンを保管する。動作パターンテーブル８０３は、角度調整機構１１１に関して、個別のアクチュエータの指令値ではなく、角度調整機構１１１の角度等を動作パターンに含めてもよい。
The operation pattern table 803 stores a plurality of operation patterns in which at least one of the movement amount and movement speed, acceleration, and command torque value of each electric actuator of the position adjustment device and
動作決定部８０４は、動作パターンテーブル８０３の動作パターンの中から、評価値が最大となる動作パターンをワーク取り出し作業装置１０１の次の動作として選択する。指令生成部８０５は、動作決定部８０４により選択された動作パターンに基づいて、ワーク取り出し作業装置１０１の各電動アクチュエータへの指令値を生成し、制御装置１０３を介して、当該指令値をワーク取り出し作業装置１０１に送信する。
The
動作結果判定部８０６は、前回選択された動作パターンの実行前後における、把持機構１１２が把持しているワーク個数が１のときは報酬１を与え、２つ以上のワークを把持している場合は０を与える。さらに、動作パターンの実行回数が上限回数を超過した場合は－１を与える。
The motion
評価値関数学習部８０７は、動作結果判定部が出力した報酬を教師信号として、動作パターンを選択した時の評価値と、教師信号との差に基づいて評価値関数Ｆを更新する。ある局面において、評価値関数学習部８０７は、予め定められた回数だけ評価値関数Ｆを更新するごとに、評価値関数部８０２で使用する評価値関数Ｆを最新状態に更新してもよい。
The evaluation value
図８は、評価値関数部８０２の動作の一例を示す図である。評価値関数部８０２は、信号入力部８０１から、各撮像装置１１４，１１５が撮影することによって取得された画像およびモータトルク値等を取得して評価値関数Ｆに入力する。なお、情報処理装置１０２は、画像から検出したワークの個数を評価値関数Ｆに入力してもよい。評価値は動作パターンごとに算出される。図８に示す例では、評価値関数部８０２は、ｎ個の各動作パターンａ１～ａｎに対してそれぞれ評価値を算出する。ある局面において、評価値関数部８０２は、画像（もしくは、画像に写るワークの個数）やモータトルク値等を評価値関数Ｆの入力として受け付け、各動作パターンのそれぞれの評価値を計算するプログラムであってもよい。
FIG. 8 is a diagram showing an example of the operation of the evaluation
評価値関数Ｆが出力するｎ個の評価値は、次に実行すべき動作パターンを選択するための指標であり、対応する評価値が最大の値を示す動作パターンが、次に実行すべき最適な動作であること示す。 The n evaluation values output by the evaluation value function F are indices for selecting the operation pattern to be executed next. indicates that it is a valid action.
そのため、動作決定部８０４は、ｎ個の動作パターンの中から、最大の評価値に対応する動作パターンを次の動作として選択する。図９に示す例では、「評価値＝０．６１４」が最大のため、動作決定部８０４は、「評価値＝０．６１４」に対応する動作パターンａｎ－３を選択する。
Therefore, the
動作決定部８０４は、選択した動作パターンａｎ－３を指令生成部８０５に転送する。指令生成部８０５は、動作パターンテーブル８０３を参照し、ａｎ－３に対応する指令値を生成して制御装置１０３に出力する。
The
図９は、動作パターンテーブル８０３の一例を示す図である。動作パターンテーブル８０３は、動作パターンごとに、位置調整装置の電動アクチュエータ１０８の移動量、移動速度、加速度および指令トルク値と、角度調整機構１１１の根元の回転機構の回転角度、回転速度、加速度、減速度および指令トルク値と、角度調整機構１１１の折れ角変更量、旋回角変更量、回転速度、加速度、減速度および指令トルク値とを格納する。
FIG. 9 is a diagram showing an example of the operation pattern table 803. As shown in FIG. The operation pattern table 803 contains, for each operation pattern, the movement amount, movement speed, acceleration, and command torque value of the electric actuator 108 of the position adjustment device, and the rotation angle, rotation speed, acceleration, and rotation angle of the base rotation mechanism of the
ある局面において、動作パターンテーブル８０３は、角度調整機構１１１の個別の電動アクチュエータの移動量、移動速度、加速度、および指令トルク値を格納してもよい。また、ある局面において、動作パターンテーブル８０３は、２次記憶装置７０３に記憶され、１次記憶装置７０２に読み出されることにより、ＣＰＵ７０１によって参照されてもよい。
In one aspect, the operation pattern table 803 may store the movement amount, movement speed, acceleration, and command torque value of the individual electric actuators of the
＜Ｄ．ワーク取り出し作業における情報処理装置１０２の内部処理＞
図１０は、ワーク取り出し作業システム１００の処理の一例を示すフローチャートである。ある局面において、図１０の処理を実行するためのプログラムは２次記憶装置７０３に記憶され、１次記憶装置７０２に読み出されることにより、ＣＰＵ７０１によって実行されてもよい。これ以降、情報処理装置１０２が図１０の各ステップを実行するものとして当該処理を説明する。
<D. Internal Processing of
FIG. 10 is a flow chart showing an example of processing of the work picking
ステップＳ１００５において、情報処理装置１０２は、撮像装置１１４がワーク入れ１１３を上から撮影することによって得られた画像１に基づいて、ワーク入れ１１３の中のワークの位置を検出する。ある局面において、情報処理装置１０２は、画像１からワーク入れ１１３の中のワークの位置を検出するために、既存の画像認識技術を用いてもよい。
In step S1005, the
ステップＳ１０１０において、情報処理装置１０２は、画像１からワークを検出したか否かを判定する。情報処理装置１０２は、画像１からワークを検出した場合（ステップＳ１０１０にてＹＥＳ）、制御をステップＳ１０１５に移す。そうでない場合（ステップＳ１０１０にてＮＯ）、情報処理装置１０２は、ワーク入れ１１３内から全てのワークの取り出し処理が完了したと判定し、処理を終了する。
In step S<b>1010 , the
ステップＳ１０１５において、情報処理装置１０２は、位置調整装置により、把持機構１１２をワークの取り出し作業のための予め定められた位置に移動させ、ワーク入れ１１３からワークを取り出す。
In step S<b>1015 , the
ステップＳ１０２０において、情報処理装置１０２は、撮像装置１１５が把持機構１１２の先端を側面から撮影することによって取得された画像２を基に、把持機構１１２が把持しているワークの個数を算出する。ある局面において、情報処理装置１０２は、画像２から把持機構１１２が把持しているワークの個数を算出するために、既存の画像認識技術を用いてもよい。
In step S1020, the
ステップＳ１０２５において、情報処理装置１０２は、画像２の解析結果に基づいて、把持機構１１２がワークを１個だけ把持しているか否かを判定する。情報処理装置１０２は、把持機構１１２がワークを１個だけ把持していると判定した場合（ステップＳ１０２５にてＹＥＳ）、制御をステップＳ１０３０に移す。そうでない場合（ステップＳ１０２５にてＮＯ）、制御をステップＳ１０３５に移す。
In step S<b>1025 , the
ステップＳ１０３０において、情報処理装置１０２は、把持機構１１２が把持するワークを予め定められた位置に置き、処理を終了する。
In step S1030, the
ステップＳ１０３５において、情報処理装置１０２は、画像２の解析結果に基づいて、把持機構１１２がワークを１個も把持していないか否かを判定する。情報処理装置１０２は、把持機構１１２がワークを１個も把持していないと判定した場合（ステップＳ１０３５にてＹＥＳ）、処理を終了する。そうでない場合（ステップＳ１０３５にてＮＯ）、情報処理装置１０２は制御をステップＳ１０４０に移す。
In step S<b>1035 , the
ステップＳ１０４０において、情報処理装置１０２は、撮像装置１１４，１１５が撮影した各画像と、各電動アクチュエータのモータトルク値とを取得する。ある局面において、情報処理装置１０２は、各画像および各電動アクチュエータのモータトルク値に加えて、各種センサー値を各種センサーから取得してもよい。
In step S1040, the
ステップＳ１０４５において、情報処理装置１０２は、取得した各画像（もしくは、画像に写るワークの個数）および各電動アクチュエータのモータトルク値を評価値関数部８０２の入力として、動作パターンごとの評価値を算出する。ステップＳ１１５０において、情報処理装置１０２は、動作パターンごとに算出された評価値の中で最大の評価値を選択し、当該最大の評価値に対応する動作パターンａｋを次の動作として選択する。
In step S1045, the
ステップＳ１１５５において、情報処理装置１０２は、指令生成部８０５により、選択した動作パターンａｋを実行するための指令をワーク取り出し作業装置１０１に送信する。ワーク取り出し作業装置１０１は、受信した指令に基づいて、角度調整機構１１１の電動アクチュエータ１１を駆動させることにより、把持機構１１２に絡まり解き動作をさせる。ある局面において、ワーク取り出し作業装置１０１は、角度調整機構１１１の電動アクチュエータ１１および位置調整装置の電動アクチュエータ１０８を駆動させることにより、把持機構１１２に絡まり解き動作をさせてもよい。
In step S1155, the
ステップＳ１１６０において、情報処理装置１０２は、再度、撮像装置１１５により把持機構１１２の先端を側面から撮影することによって取得された画像２を基に、把持機構１１２が把持しているワークの個数を算出する。
In step S1160, the
ステップＳ１１６５において、情報処理装置１０２は、ステップＳ１１６０にて撮影された画像２の解析結果に基づいて、把持機構１１２がワークを１個だけ把持しているか否かを判定する。情報処理装置１０２は、把持機構１１２がワークを１個だけ把持していると判定した場合（ステップＳ１０６５にてＹＥＳ）、絡まり解き作業は完了したため、制御をステップＳ１０３０に移す。そうでない場合（ステップＳ１０６５にてＮＯ）、絡まり解き作業は未完了のため、情報処理装置１０２は制御をステップＳ１０３５に移す。
In step S1165, the
ステップＳ１０４０～Ｓ１０６５において、情報処理装置１０２は、把持機構１１２が１個のワークを把持している状態になるまで、評価値に基づいて選択された動作パターンをワーク取り出し作業装置１０１に実行させ続けることで、ワークの絡まりを解くことができる。
In steps S1040 to S1065, the
図１１は、図１０の処理の動作イメージの一例を示す図である。状態Ｘは、把持機構１１２がワーク入れ１１３からワークを取り出した直後を表している（ステップＳ１０１５に対応）。把持機構１１２は、絡まった状態の３個のワーク（ワークＡ，Ｂ，Ｃ）を把持している。
FIG. 11 is a diagram showing an example of an operation image of the processing of FIG. State X represents the state immediately after the
情報処理装置１０２は、状態Ｘから、図１０のステップＳ１０３５～ステップＳ１０６５の処理を繰り返すことにより、ワーク取り出し作業装置１０１に絡まり解き作業をさせる。情報処理装置１０２は、状態Ｘのときの各画像（もしくは、画像に写るワークの個数）および各電動アクチュエータのモータトルク値を取得する（ステップＳ１０４０に対応）。次に、情報処理装置１０２は、状態Ｘのときの各画像（もしくは、画像に写るワークの個数）および各電動アクチュエータのモータトルク値を評価値関数Ｆの入力として、各動作パターンのそれぞれの評価値を算出する（ステップＳ１０４５に対応）。そして、情報処理装置１０２は、最も評価値の高い動作パターンａｎ－３を選択し（ステップＳ１０５０に対応）、動作パターンａｎ－３に対応する指令をワーク取り出し作業装置１０１に送信する（ステップＳ１０５５に対応）。
From the state X, the
状態Ｙは、ワーク取り出し作業装置１０１が動作パターンａｎ－３を実行した直後の様子を示す。情報処理装置１０２は、把持機構１１２がワークを１個把持しているか否かを判定する（ステップＳ１０６０およびＳ１０６５に対応）。状態Ｙにおいて、把持機構１１２が把持するワークの数は３個のままであり、絡まり解き作業は完了していない。よって、情報処理装置１０２は、再度ステップＳ１０３５からステップＳ１０６５までの処理を繰り返す。
State Y shows the state immediately after the
状態Ｚは、ワーク取り出し作業装置１０１が状態Ｙのときに動作パターンａｎ－１を実行した直後の様子を示す。状態Ｚにおいて、ワークＢ，Ｃは落下しており、把持機構１１２が把持するワークの絡まり解き作業は完了していることがわかる。情報処理装置１０２は、撮像装置１１５が把持機構１１２の先端を側面から撮影することによって取得された画像２から、ワークの絡まり解き作業の完了を検出する。ワークの絡まり解き作業が完了した後は、情報処理装置１０２は、ワーク取り出し作業装置１０１に、ワークを予め定められた位置に運ばせる。その後、情報処理装置１０２は、ワーク取り出し作業装置１０１に、次のワークの取り出し作業を行うための指令を送信してもよい。
State Z shows the state immediately after execution of operation pattern a n-1 when
＜Ｅ．ワーク取り出し作業の学習処理＞
図１０および図１１で説明した例において、情報処理装置１０２は、撮像装置１１４，１１５により撮影することによって取得された画像１，２の撮影した画像（もしくは、画像に写るワークの個数）、角度調整機構１１１および位置調整装置の現在のモータトルク値等に基づいて各動作パターンのそれぞれの評価値を計算し、評価値が最大になる動作パターンを順次実行することで動作を成功させる。そのため、図８の評価値関数Ｆは、画像（もしくは、画像に写るワークの個数）およびモータトルク値等に基づいて次に実行すべき最適な動作パターンに対して最大の評価値を出力するよう最適化されている必要がある。
<E. Learning Processing of Work Picking Work>
In the example described with reference to FIGS. 10 and 11, the
しかし、ワーク取り出し処理の対象となるワークの初期状態（ワーク同士の絡まり方等）は、把持機構１１２に把持されるごとに変化する可能性ある。また、ワーク取り出し作業装置１０１が動作パターンを実行することで、把持機構１１２により把持されたワークの姿勢や絡まり方も変化する可能性がある。これらのあらゆる状態を想定したルールベースの動作プログラムの構築は困難である。よって、本実施の形態に従うワーク取り出し作業システム１００は、強化学習により、繰り返し動作を試行する過程で評価値関数Ｆを最適化する。
However, there is a possibility that the initial state of the workpiece to be picked up (such as how the workpieces are entangled) changes each time the workpiece is gripped by the
図１２は、ワーク取り出し作業システム１００の絡まり解き作業の学習処理の一例を示すフローチャートである。ある局面において、図１２の処理を実行するためのプログラムは、２次記憶装置７０３に記憶され、１次記憶装置７０２に読み出されることにより、ＣＰＵ７０１によって実行されてもよい。これ以降、情報処理装置１０２が図１２の各ステップを実行するものとして当該学習処理を説明する。
FIG. 12 is a flow chart showing an example of learning processing of the untangling work of the work picking
ステップＳ１２１０において、情報処理装置１０２は、変数ｊに１を代入する。ステップＳ１２２０において、情報処理装置１０２は、変数ｊの値が定数Ｊ１以下であるか否かを判定する。情報処理装置１０２は、変数ｊの値が定数Ｊ１以下であると判定すると（ステップＳ１２２０にてＹＥＳ）、ステップＳ１２３０に制御を移す。そうでない場合（ステップＳ１２２０にてＮＯ）、情報処理装置１０２は、ステップＳ１２５０に制御を移す。評価値関数Ｆが未学習の初期状態において、情報処理装置１０２は、変数ｊが定数Ｊ１に達するまで、絡まり解き作業初期学習を繰り返し実行する。
In step S1210, the
ステップＳ１２３０において、情報処理装置１０２は、絡まり解き作業の初期学習処理を実行する。絡まり解き作業の初期学習処理については後述する。ステップＳ１２４０において、情報処理装置１０２は、変数ｊの値をインクリメントする。以降は、情報処理装置１０２は、上限回数として予め定められた回数Ｊ１まで、絡まり解き作業の初期学習処理を繰り返し実行する。
In step S1230, the
ステップＳ１２５０において、情報処理装置１０２は、変数ｊの値が定数Ｊ２以下であるか否かを判定する。情報処理装置１０２は、変数ｊの値が定数Ｊ２以下であると判定すると（ステップＳ１２５０にてＹＥＳ）、ステップＳ１２６０に制御を移す。そうでない場合（ステップＳ１２５０にてＮＯ）、情報処理装置１０２は、学習処理を終了する。
In step S1250, the
ステップＳ１２６０において、情報処理装置１０２は、絡まり解き作業の学習処理を実行する。絡まり解き作業の学習処理については後述する。ステップＳ１２７０において、情報処理装置１０２は、変数ｊの値をインクリメントする。以降は、情報処理装置１０２は、変数ｊが上限値として予め定められた定数Ｊ２より大きくなるまで、絡まり解き作業の学習処理を繰り返し実行する。
In step S1260, the
図１３は、絡まり解き作業の初期学習処理（図１２のステップＳ１２３０に対応）の一例を示すフローチャートである。ある局面において、図１３の処理を実行するためのプログラムは、２次記憶装置７０３に記憶され、１次記憶装置７０２に読み出されることにより、ＣＰＵ７０１によって実行されてもよい。これ以降、情報処理装置１０２が図１３の各ステップを実行するものとして当該初期学習処理を説明する。
FIG. 13 is a flow chart showing an example of initial learning processing (corresponding to step S1230 in FIG. 12) for untangling work. In one aspect, a program for executing the process of FIG. 13 may be stored in
ステップＳ１３０５において、情報処理装置１０２は、位置調整装置により、把持機構１１２を予め定められた位置（ワーク取り出し開始位置）に移動させるための指令をワーク取り出し作業装置１０１に送信する。
In step S1305, the
ステップＳ１３１０において、情報処理装置１０２は、変数ｉに１を代入する。ステップＳ１３１５において、情報処理装置１０２は、ワーク取り出し作業装置１０１の撮像装置１１４，１１５の撮影した画像（もしくは、画像に写るワークの個数）と、各電動アクチュエータのモータトルク値とを状態情報Ｓ１として取得する。なお、状態情報Ｓ１は、さらに、情報処理装置１０２が各種センサーから取得した各種センサー値を含んでいてもよい。
In step S1310, the
ステップＳ１３２０において、情報処理装置１０２は、動作決定部８０４により、乱数を用いて次に実行する動作パターンａｋを選択する。具体的には、情報処理装置１０２は、１～ｎの間の乱数に基づいて動作パターンのインデックス番号ｋを決定する。
In step S1320, the
ステップＳ１３２５において、情報処理装置１０２は、状態情報Ｓ１を評価値関数学習部８０７に保管した後、ワーク取り出し作業装置１０１に動作パターンａｋを実行させるための指令を送信する。
In step S1325, the
ステップＳ１３３０において、情報処理装置１０２は、ワーク取り出し作業装置１０１が動作パターンａｋを実行した後に、ワーク取り出し作業装置１０１の撮像装置１１４，１１５の撮影した画像（もしくは、画像に写るワークの個数）と、各電動アクチュエータのモータトルク値とを状態Ｓ２として取得する。なお、状態Ｓ２は、さらに、情報処理装置１０２が各種センサーから取得した各種センサー値を含んでいてもよい。
In step S1330, the
ステップＳ１３３５において、情報処理装置１０２は、撮像装置１１５が把持機構１１２の先端を側面から撮影することによって取得された画像２を基に、把持機構１１２が把持しているワークの個数を算出する。ある局面において、情報処理装置１０２は、画像２から把持機構１１２が把持しているワークの個数を算出するために、既存の画像認識技術を用いてもよい。
In step S1335, the
ステップＳ１３４０において、情報処理装置１０２は、画像２の解析結果に基づいて、把持機構１１２がワークを１個だけ把持しているか否かを判定する。情報処理装置１０２は、把持機構１１２がワークを１個だけ把持していると判定した場合（ステップＳ１３４０にてＹＥＳ）、制御をステップＳ１３４５に移す。そうでない場合（ステップＳ１３４０にてＮＯ）、情報処理装置１０２は制御をステップＳ１３６０に移す。
In step S<b>1340 , the
ステップＳ１３４５において、情報処理装置１０２は、終了判定をＴｒｕｅ（完了）にし、「動作パターンａｋ」に対する報酬Ｒを１にする。なお、本実施の例では、報酬Ｒは、成功のときは１、失敗のときは－１、それ以外のときは０とするが、報酬Ｒの例はこれに限られない。成功時や失敗時のときの報酬ごとに差があればよい。
In step S1345, the
ステップＳ１３５０において、情報処理装置１０２は、評価値関数学習部８０７に、実行した「動作パターンａｋ」、「状態情報Ｓ１，Ｓ２」、「報酬Ｒ（Ｒ＝１）」および「終了判定Ｔｒｕｅ（完了）」を保存する。ステップＳ１３５５において、情報処理装置１０２は、評価値関数Ｆの更新処理を実行する。
In step S<b>1350 , the
ステップＳ１３６０において、情報処理装置１０２は、画像２の解析結果に基づいて、把持機構１１２がワークを１個も把持していないか否かを判定する。情報処理装置１０２は、把持機構１１２がワークを１個も把持していないと判定した場合（ステップＳ１３６０にてＹＥＳ）、報酬Ｒを生成せず処理を終了する。そうでない場合（ステップＳ１３６０にてＮＯ）、情報処理装置１０２は制御をステップＳ１３６５に移す。
In step S<b>1360 , the
ステップＳ１３６５において、情報処理装置１０２は、変数ｉの値が定数Ｎ１より大きいか否かを判定する。定数Ｎ１は、絡まり解き作業中に繰り返してよい動作パターンの実行回数の上限値である。情報処理装置１０２は、変数ｉの値が定数Ｎ１より大きいと判定した場合（ステップＳ１３６５にてＹＥＳ）、動作パターンの実行回数が上限に達したと判断し、制御をステップＳ１３７０に移す。そうでない場合（ステップＳ１３６５にてＮＯ）、情報処理装置１０２は制御をステップＳ１３７５に移す。
In step S1365, the
ステップＳ１３７０において、情報処理装置１０２は、終了判定をＴｒｕｅにし、動作パターンａｋに対する報酬Ｒを－１にする。ステップＳ１３５０以降の処理は前述した通りになる。ステップＳ１３７５において、情報処理装置１０２は、変数ｉの値をインクリメントする。ステップＳ１３８０において、情報処理装置１０２は、終了判定をＦａｌｓｅにし、実行した「動作パターンａｋ」に対する報酬Ｒを０にする。
In step S1370, the
ステップＳ１３８５において、情報処理装置１０２は、評価値関数学習部８０７に、実行した「動作パターンａｋ」、「状態情報Ｓ１，Ｓ２」、「報酬Ｒ（Ｒ＝０）」および「終了判定Ｆａｌｓｅ（未完了）」を保存する。ステップＳ１３９０において、情報処理装置１０２は、評価値関数Ｆの更新処理を実行する。
In step S<b>1385 , the
図１４は、絡まり解き作業の学習処理（図１２のステップＳ１２６０に対応）の一例を示すフローチャートである。ある局面において、図１４の処理を実行するためのプログラムは、２次記憶装置７０３に記憶され、１次記憶装置７０２に読み出されることにより、ＣＰＵ７０１によって実行されてもよい。これ以降、情報処理装置１０２が図１４の各ステップを実行するものとして当該学習処理を説明する。また、図１４において、前述の処理と同一の処理には、同一の符号を付してある。したがって、同一の処理の説明は繰り返さない。
FIG. 14 is a flow chart showing an example of learning processing for untangling work (corresponding to step S1260 in FIG. 12). In one aspect, a program for executing the process of FIG. 14 may be stored in
ステップＳ１４１０において、情報処理装置１０２は、評価値関数部８０２により、状態情報Ｓ１に基づいて、各動作パターンのそれぞれの評価値を算出する。ステップＳ１４２０において、情報処理装置１０２は、動作パターンテーブル８０３を参照して、最も評価値が高い動作パターンを選択する。
In step S1410, the
図１３の絡まり解きの初期学習処理においては、学習情報が十分にないため、情報処理装置１０２は、ステップＳ１３２０において、乱数で次の動作パターンを選択している。これに対して、図１４の絡まり解きの学習処理においては、一定量以上の学習情報が評価値関数学習部８０７に蓄積されているため、情報処理装置１０２は、ステップＳ１４１０において、評価値関数Ｆに基づいて各動作パターンの評価値を算出する。情報処理装置１０２は、図１４の処理においても、随時、評価値関数Ｆを更新することで絡まり解き作業の精度を向上させる。
In the initial learning process for untangling in FIG. 13, since there is not enough learning information, the
図１５は、評価値関数部８０２の評価値関数Ｆの更新処理の一例を示すフローチャートである。ある局面において、図１５の処理を実行するためのプログラムは２次記憶装置７０３に記憶され、１次記憶装置７０２に読み出されることにより、ＣＰＵ７０１によって実行されてもよい。これ以降、情報処理装置１０２が図１５の各ステップを実行するものとして更新処理を説明する。
FIG. 15 is a flowchart showing an example of update processing of the evaluation value function F of the evaluation
ステップＳ１５１０において、情報処理装置１０２は、評価値関数学習部８０７に保存されている各動作パターンａｋの「状態情報Ｓ１，Ｓ２」、「報酬Ｒ」および「終了判定」を読み出す。
In step S 1510 , the
ステップＳ１５２０において、情報処理装置１０２は、ステップＳ１５１０にて読み出した各種データを用いて、学習用の評価値関数Ｆ’の内部パラメータを更新する。評価値関数Ｆ’は、評価値の算出に使用される評価値関数Ｆとは別に用意する学習用の評価値関数である。評価値関数Ｆ’は、評価値関数学習部８０７によって使用される。評価値関数Ｆは、評価値関数部８０２によって使用される。
In step S1520, the
ステップＳ１５３０において、情報処理装置１０２は、学習処理を予め定められた回数繰り返すごとに、評価値関数Ｆ’を評価値関数Ｆにコピーする。情報処理装置１０２は、図１２～図１４の処理中においても、図１５の処理を随時実行してもよい。
In step S1530, the
以下に、評価値関数Ｆの学習処理の詳細について説明する。評価値関数Ｆはニューラルネットワークのため、学習には教師信号が必要になる。情報処理装置１０２は、終了判定に応じて教師信号ｙを次のように決定する。
Details of the learning process of the evaluation value function F will be described below. Since the evaluation value function F is a neural network, a teacher signal is required for learning. The
絡まり解き処理の終了判定がＴｒｕｅの場合の教師信号ｙは以下のようになる。 The teacher signal y when the untangling process end determination is True is as follows.
絡まり解き処理の終了判定がＦａｌｓｅの場合の教師信号ｙは以下のようになる。 The teacher signal y when the untangling process end determination is False is as follows.
ここで、「ｓ'＝Ｔ２、ａ'」は「Ｑ（ｓ，ａ）」が最大になる動作パターンを意味する。情報処理装置１０２は、上記の教師信号ｙと、評価値関数Ｆとの２乗誤差Ｅを求め、誤差逆伝搬法によりニューラルネットワークの学習を行う。評価値関数Ｆは、下記の式（３）の式で表される。
Here, 's'=T2, a'' means an operation pattern that maximizes 'Q(s, a)'. The
また、情報処理装置１０２は、式（３）を下記の式（４）に代入して誤差を算出する。
Further, the
誤差逆伝搬法は、上記Ｅが０になるようにニューラルネットワークの内部パラメータを最適化する。よって、学習が進むにしたがって下記の式（５）の値が０に近づいていく。 The error backpropagation method optimizes the internal parameters of the neural network so that E becomes zero. Therefore, the value of the following equation (5) approaches 0 as learning progresses.
強化学習も同様に、学習が十分に行われると、下記の式（６）が成り立つので、誤差逆伝搬法によるニューラルネットワークの学習は強化学習の学習結果と同様になる。 Similarly, in reinforcement learning, if the learning is sufficiently performed, the following equation (6) holds, so that the learning result of the neural network by the error backpropagation method is the same as the learning result of the reinforcement learning.
以上説明したように、本実施の形態に従うワーク取り出し作業装置１０１は、直列多関節の構造を有さず、代わりに直動機構およびパラレルリンクのみの構成を有する。その結果、多関節ロボットが持つ特異点の問題が発生せず、多関節ロボットよりも少ないスペースでの作業を可能にする。また、ワーク取り出し作業装置１０１は、機械学習においても、パラレルリンクの基端側リンクハブに取付けられた電動アクチュエータおよび位置調整装置の電動アクチュエータのモータトルク値のみを学習データとすることができる。そのため、ワーク取り出し作業装置１０１は、多関節ロボットと比較して、ワークの絡まり解き処理における学習パラメータが少なく機械学習が容易になる。よって、Ｃ型サークリップや、ばね、コイル等の絡まりやすいワークの取り出し作業における絡まり解き処理の精度を向上させることが可能となる。
As described above, the
今回開示された実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内で全ての変更が含まれることが意図される。 It should be considered that the embodiments disclosed this time are illustrative in all respects and not restrictive. The scope of the present invention is indicated by the scope of the claims rather than the above description, and is intended to include all modifications within the meaning and scope equivalent to the scope of the claims.
１１，１０８Ａ，１０８Ｂ，１０８Ｃ 電動アクチュエータ、３２ 第１リンクハブ、３３ 第２リンクハブ、３４ リンク機構、３５，３６ 端部リンク部材、３７ 中央リンク部材、４２，５５，７３，７５ 回転軸、６２ 減速機構、６３ モータ固定部材、１００ 合作業システム、１０１ 合作業装置、１０２ 情報処理装置、１０３ 制御装置、１０４ 架台、１０５ 第１の直動ユニット、１０６ 第２の直動ユニット、１０７ 第３の直動ユニット、１０９ 作業ヘッド、１１０ 回転ユニット取付部材、１１１ 角度調整機構、１１２ 把持機構、１１３ ワーク入れ、１１４，１１５ 撮像装置、７０２ １次記憶装置、７０３ ２次記憶装置、７０４ 外部機器インターフェース、７０５ 入力インターフェース、７０６ 出力インターフェース、７０７ 通信インターフェース、８０１ 信号入力部、８０２ 評価値関数部、８０３ 動作パターンテーブル、８０４ 動作決定部、８０５ 指令生成部、８０６ 動作結果判定部、８０７ 評価値関数学習部。
Claims (11)
ワークを容器から取り出して把持する把持部と、
前記把持部が装着され、前記把持部の向きを調整する角度調整部と、
前記角度調整部が装着される作業ヘッドと、
複数の駆動部により前記作業ヘッドを移動させる位置調整部と、
前記把持部の把持するワークを撮影する第１の撮像装置と、
前記作業装置を制御する情報処理装置とを備え、
前記角度調整部は、
第１および第２のリンクハブと、
前記第１および第２のリンクハブの間に並列に配置された複数のリンクと、
前記複数のリンクのそれぞれを駆動させる複数の駆動部とを含み、
前記情報処理装置は、
前記第１の撮像装置が撮影した画像に基づいて、前記把持部が把持するワークの個数を検出し、
前記把持部が把持するワークの個数が２以上であることに基づいて、前記把持部が把持するワークの個数および画像、前記角度調整部の各駆動部のトルクを機械学習モデルのパラメータとし、前記機械学習モデルにより、前記位置調整部および前記角度調整部の各駆動部に送信するそれぞれの駆動信号を決定し、
決定した前記駆動信号に基づいて、前記位置調整部の各駆動部および前記角度調整部の各駆動部を駆動させることにより、前記把持部にワークの絡まり解き動作をさせる、作業装置。 A working device for picking up a workpiece,
a gripping portion for gripping the workpiece after taking it out of the container;
an angle adjustment unit to which the gripping portion is attached and which adjusts the orientation of the gripping portion;
a working head on which the angle adjustment part is mounted;
a position adjusting unit that moves the working head by a plurality of driving units;
a first imaging device that captures an image of the workpiece gripped by the gripping unit;
an information processing device that controls the working device;
The angle adjuster is
first and second link hubs;
a plurality of links arranged in parallel between the first and second link hubs;
and a plurality of driving units for driving each of the plurality of links,
The information processing device is
detecting the number of workpieces gripped by the gripping unit based on the image captured by the first imaging device;
Based on the fact that the number of workpieces gripped by the gripping unit is two or more, the number and image of workpieces gripped by the gripping unit and the torque of each driving unit of the angle adjusting unit are parameters of a machine learning model, and using a machine learning model to determine each drive signal to be transmitted to each drive unit of the position adjustment unit and the angle adjustment unit;
A work device that causes the gripping section to perform an untangling operation of the workpiece by driving each driving section of the position adjusting section and each driving section of the angle adjusting section based on the determined drive signal.
前記把持部が絡まり解き動作を実行した後に、再度、前記第１の撮像装置が撮影した画像に基づいて、前記把持部が把持するワークの個数を検出し、
前記把持部が把持するワークの個数が２以上であることに基づいて、前記把持部にワークの絡まり解き動作を再度実行させる、請求項１に記載の作業装置。 The information processing device is
detecting the number of workpieces gripped by the gripping unit again based on the image captured by the first imaging device after the gripping unit performs the untangling operation;
2. The working device according to claim 1, wherein the gripping section is caused to re-execute the untangling operation of the workpieces based on the fact that the number of workpieces gripped by the gripping section is two or more.
前記第１の撮像装置が撮影した画像に基づいて、前記把持部が把持するワークの個数が１であるか否かを判定し、
前記把持部が把持するワークの個数が１であることに基づいて、ワークの絡まり解き作業が完了したと判定し、
前記機械学習モデルの学習に用いる報酬データを生成し、前記機械学習モデルに入力する学習データに前記報酬データを加える、請求項１または２に記載の作業装置。 The information processing device is
determining whether or not the number of workpieces gripped by the gripping unit is 1 based on the image captured by the first imaging device;
Based on the fact that the number of workpieces gripped by the gripping unit is 1, it is determined that the unentangling work of the workpieces has been completed,
3. The working device according to claim 1, wherein reward data used for learning of said machine learning model is generated, and said reward data is added to learning data input to said machine learning model.
前記第１の撮像装置が撮影した画像に基づいて、前記把持部が把持するワークの個数が０であるか否かを判定し、
前記把持部が把持するワークの個数が０個であることに基づいて、前記機械学習モデルの学習に用いる報酬データを生成せずに、絡まり解き作業を終了する、請求項３に記載の作業装置。 The information processing device is
determining whether or not the number of workpieces gripped by the gripping unit is 0 based on the image captured by the first imaging device;
4. The working device according to claim 3, wherein the unentanglement work is terminated without generating reward data used for learning of the machine learning model based on the fact that the number of workpieces gripped by the gripping unit is 0. .
前記情報処理装置は、
前記第２の撮像装置が撮影した画像に基づいて、前記容器内にワークがあるか否かを判定し、
前記容器内にワークがあると判定したことに基づいて、前記把持部を予め定められた取り出し作業の位置に移動させるための前記駆動信号を前記位置調整部および前記角度調整部の各駆動部に送信する、請求項１～４のいずれか１項に記載の作業装置。 further comprising a second imaging device for imaging the workpiece in the container,
The information processing device is
determining whether or not there is a workpiece in the container based on the image captured by the second imaging device;
the drive signal for moving the gripping section to a predetermined position for the take-out operation is sent to each drive section of the position adjustment section and the angle adjustment section based on determination that there is a work in the container; The work device according to any one of claims 1 to 4, which transmits.
前記第２の撮像装置が撮影した画像に基づいて、前記容器内にワークがないと判定すると、前記容器内からのワークの取り出し作業を終了する、請求項５に記載の作業装置。 The information processing device is
6. The working device according to claim 5, wherein when it is determined that there is no workpiece in the container based on the image captured by the second imaging device, the operation of removing the workpiece from the container is finished.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019060437A JP7113778B2 (en) | 2019-03-27 | 2019-03-27 | Work take-out device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019060437A JP7113778B2 (en) | 2019-03-27 | 2019-03-27 | Work take-out device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2020157436A JP2020157436A (en) | 2020-10-01 |
| JP7113778B2 true JP7113778B2 (en) | 2022-08-05 |
Family
ID=72641015
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019060437A Active JP7113778B2 (en) | 2019-03-27 | 2019-03-27 | Work take-out device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7113778B2 (en) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20110211938A1 (en) | 2008-08-29 | 2011-09-01 | Abb Research Ltd. | Compliant End Of Arm Tooling For A Robot |
| JP5185388B2 (en) | 2007-10-05 | 2013-04-17 | クゥアルコム・インコーポレイテッド | Variable feedback in amplifiers |
| US20140100696A1 (en) | 2012-10-04 | 2014-04-10 | Electronics And Telecommunications Research Institute | Working method using sensor and working system for performing same |
| JP2017154231A (en) | 2016-03-03 | 2017-09-07 | ファナック株式会社 | Picking system and method for bulk workpiece |
| WO2019004481A1 (en) | 2017-06-27 | 2019-01-03 | 正好 石井 | Information processing device, manipulator control system, and natural language processing system |
| JP6466536B1 (en) | 2017-09-08 | 2019-02-06 | Ntn株式会社 | Work device using parallel link mechanism |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3151900B2 (en) * | 1992-01-14 | 2001-04-03 | 株式会社デンソー | Parts supply device |
| JP5265296B2 (en) * | 2008-10-10 | 2013-08-14 | 本田技研工業株式会社 | Work removal method |
-
2019
- 2019-03-27 JP JP2019060437A patent/JP7113778B2/en active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5185388B2 (en) | 2007-10-05 | 2013-04-17 | クゥアルコム・インコーポレイテッド | Variable feedback in amplifiers |
| US20110211938A1 (en) | 2008-08-29 | 2011-09-01 | Abb Research Ltd. | Compliant End Of Arm Tooling For A Robot |
| US20140100696A1 (en) | 2012-10-04 | 2014-04-10 | Electronics And Telecommunications Research Institute | Working method using sensor and working system for performing same |
| JP2017154231A (en) | 2016-03-03 | 2017-09-07 | ファナック株式会社 | Picking system and method for bulk workpiece |
| WO2019004481A1 (en) | 2017-06-27 | 2019-01-03 | 正好 石井 | Information processing device, manipulator control system, and natural language processing system |
| JP6466536B1 (en) | 2017-09-08 | 2019-02-06 | Ntn株式会社 | Work device using parallel link mechanism |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2020157436A (en) | 2020-10-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP2224303B1 (en) | Robot with automatic selection of task-specific representations for imitation learning | |
| US20180029221A1 (en) | Robot and robot system | |
| US11833682B2 (en) | Robot, method, and manipulating system | |
| US10272568B2 (en) | Robot apparatus, robot controlling method, program, recording medium, and assembly manufacturing method | |
| JP6472214B2 (en) | Robot apparatus control method and robot apparatus | |
| US11040451B2 (en) | Teaching device and teaching method | |
| JP7117237B2 (en) | ROBOT CONTROL DEVICE, ROBOT SYSTEM AND ROBOT CONTROL METHOD | |
| CN114516060A (en) | Apparatus and method for controlling a robotic device | |
| US20180085920A1 (en) | Robot control device, robot, and robot system | |
| WO2019176478A1 (en) | Operation control device for robot | |
| CN112757284A (en) | Robot control apparatus, method and storage medium | |
| WO2019039006A1 (en) | Robot | |
| JP7113778B2 (en) | Work take-out device | |
| Torres-Jara | Obrero: A platform for sensitive manipulation | |
| CN208584552U (en) | A kind of flexible grabbing device and robot | |
| JP2019111604A (en) | Control device, robot and robot system | |
| JP7290439B2 (en) | Mating device | |
| JP4715296B2 (en) | Robot hand holding and gripping control method. | |
| US20230046345A1 (en) | Robot hand, handling system, robot hand control device, method for controlling robot hand, and storage medium | |
| US20240083023A1 (en) | Robot model learning device, robot model machine learning method, recording medium storing robot model machine learning program, robot control device, robot control method, and recording medium storing robot control program | |
| TWI781708B (en) | Learning apparatus, learning method, learning program, control apparatus, control method, and control program | |
| US20230038804A1 (en) | Master-slave system and controlling method | |
| CN118081837A (en) | Robot, training device, robot equipment, training system and training method of training system | |
| CN113664815B (en) | Triggering and compensating method for teaching position and posture | |
| US20230234231A1 (en) | Teleoperation assist device, teleoperation assist method, and storage medium |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210916 |
|
| TRDD | Decision of grant or rejection written | ||
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220630 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220705 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220726 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7113778 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |