JP6392908B2 - 視覚センサの異常原因推定システム - Google Patents
視覚センサの異常原因推定システム Download PDFInfo
- Publication number
- JP6392908B2 JP6392908B2 JP2017003343A JP2017003343A JP6392908B2 JP 6392908 B2 JP6392908 B2 JP 6392908B2 JP 2017003343 A JP2017003343 A JP 2017003343A JP 2017003343 A JP2017003343 A JP 2017003343A JP 6392908 B2 JP6392908 B2 JP 6392908B2
- Authority
- JP
- Japan
- Prior art keywords
- abnormality
- visual sensor
- information
- camera
- cause
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B23—MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
- B23P—METAL-WORKING NOT OTHERWISE PROVIDED FOR; COMBINED OPERATIONS; UNIVERSAL MACHINE TOOLS
- B23P19/00—Machines for simply fitting together or separating metal parts or objects, or metal and non-metal parts, whether or not involving some deformation; Tools or devices therefor so far as not provided for in other classes
- B23P19/001—Article feeders for assembling machines
- B23P19/007—Picking-up and placing mechanisms
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/10—Programme-controlled manipulators characterised by positioning means for manipulator elements
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1602—Programme controls characterised by the control system, structure, architecture
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1656—Programme controls characterised by programming, planning systems for manipulators
- B25J9/1671—Programme controls characterised by programming, planning systems for manipulators characterised by simulation, either to verify existing program or to create and verify new program, CAD/CAM oriented, graphic oriented programming systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1674—Programme controls characterised by safety, monitoring, diagnostic
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/39—Robotics, robotics to robotics hand
- G05B2219/39008—Fixed camera detects reference pattern held by end effector
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/39—Robotics, robotics to robotics hand
- G05B2219/39045—Camera on end effector detects reference pattern
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/06—Recognition of objects for industrial automation
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Robotics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Automation & Control Theory (AREA)
- Manipulator (AREA)
- Testing And Monitoring For Control Systems (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- General Factory Administration (AREA)
- Image Analysis (AREA)
Description
以下、本発明の第1実施形態について図面を参照しながら説明する。
図1は、本実施形態に係る視覚センサの異常原因推定システム1が組み込まれた生産システムSの構成を示す図である。
図3に示すように、異常原因推定部37は、上述のような機械学習アルゴリズムを利用することによってカメラ6の異常の原因である可能性を異常原因項目ごとに算出し、さらに可能性が高い項目から順に異常原因項目の番号とその可能性とを表示装置4に表示させる。作業者は、この表示装置4に表示された異常原因項目のうち可能性の高いものから順に(図3の例では、項目1、3、4の順に)異常の原因を確認することができるので、従来のように思い当たる原因を総当たりで確認していた場合よりも速やかにカメラ6の異常の原因を特定することができる。
次に、本発明の第2実施形態について図面を参照しながら説明する。本実施形態に係る異常原因推定システム1Aは、カメラ6の異常発生時刻を特定する手段が第1実施形態に係る異常原因推定システム1と異なる。
1,1A…異常原因推定システム
2…環境情報取得手段
3…情報処理装置
31…記憶装置
32,32A…演算装置
33…表示装置(表示手段)
36,36A…ロボット動作判定部(異常発生時刻特定手段)
37,37A…異常原因推定部(異常原因推定手段)
38A…カメラ異常検出部(異常発生時刻特定手段)
5…ロボット(生産装置)
6…カメラ(視覚センサ)
7…制御装置
71…画像処理ユニット(画像処理手段、異常発生時刻特定手段)
72…ロボット制御ユニット
Claims (7)
- 生産装置と、当該生産装置又はその周囲の視覚に関する情報を検出する視覚センサと、前記視覚センサによって得られた視覚情報に基づいて前記生産装置を制御する制御装置と、を備える生産システムにおいて、前記視覚センサの異常の原因を推定する視覚センサの異常原因推定システムであって、
前記視覚センサの環境に関する情報を取得する環境情報取得手段と、
前記環境情報取得手段によって取得された環境情報を用いることによって、前記視覚センサの異常と予め定められた複数の異常原因項目の各々との相関の強さを推定し、推定された相関の強さを前記異常原因項目ごとに表示手段に表示させる異常原因推定手段と、を備えることを特徴とする視覚センサの異常原因推定システム。 - 前記異常原因推定手段は、前記視覚センサの異常発生時刻から所定時間前までの間の環境情報を用いることによって前記相関の強さを推定することを特徴とする請求項1に記載の視覚センサの異常原因推定システム。
- 前記視覚情報に基づいて前記異常発生時刻を特定する異常発生時刻特定手段を備えることを特徴とする請求項2に記載の視覚センサの異常原因推定システム。
- 前記視覚情報に所定の画像処理を施す画像処理手段と、
前記画像処理を経て得られた画像処理情報と前記生産装置において前記視覚情報に基づいて行った動作の結果に関する動作結果情報とを用いることによって前記異常発生時刻を特定する異常発生時刻特定手段と、を備えることを特徴とする請求項2に記載の視覚センサの異常原因推定システム。 - 前記環境情報取得手段は、前記視覚センサの環境を複数の環境項目に分け、前記各環境項目に属する環境情報を取得し、
前記各異常原因項目は、それぞれ前記複数の環境項目の何れかと同じであることを特徴とする請求項1から4の何れかに記載の視覚センサの異常原因推定システム。 - 前記環境項目は、前記視覚センサの周囲に設置された特定装置の振動と、前記特定装置の温度と、前記視覚センサの周囲の明るさと、を含むことを特徴とする請求項5に記載の視覚センサの異常原因推定システム。
- 前記異常原因推定手段は、前記環境情報とその時間変化に関する情報とを入力として用いることによって、前前記視覚センサの異常と前記複数の異常原因項目の各々との相関の強さを推定することを特徴とする請求項1から6の何れかに記載の視覚センサの異常原因推定システム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017003343A JP6392908B2 (ja) | 2017-01-12 | 2017-01-12 | 視覚センサの異常原因推定システム |
US15/862,875 US10497146B2 (en) | 2017-01-12 | 2018-01-05 | Visual sensor abnormality cause estimation system |
CN201810024351.4A CN108462871B (zh) | 2017-01-12 | 2018-01-10 | 视觉传感器的异常原因估计*** |
DE102018200280.0A DE102018200280B4 (de) | 2017-01-12 | 2018-01-10 | Visuellsensor-abnormalitätsursachen-schätzsystem |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017003343A JP6392908B2 (ja) | 2017-01-12 | 2017-01-12 | 視覚センサの異常原因推定システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018113610A JP2018113610A (ja) | 2018-07-19 |
JP6392908B2 true JP6392908B2 (ja) | 2018-09-19 |
Family
ID=62636610
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017003343A Active JP6392908B2 (ja) | 2017-01-12 | 2017-01-12 | 視覚センサの異常原因推定システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US10497146B2 (ja) |
JP (1) | JP6392908B2 (ja) |
CN (1) | CN108462871B (ja) |
DE (1) | DE102018200280B4 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6703279B2 (ja) * | 2015-09-02 | 2020-06-03 | 富士通株式会社 | 異常検知装置、異常検知方法、及び異常検知プログラム |
JP6333871B2 (ja) * | 2016-02-25 | 2018-05-30 | ファナック株式会社 | 入力画像から検出した対象物を表示する画像処理装置 |
US11054811B2 (en) * | 2017-11-03 | 2021-07-06 | Drishti Technologies, Inc. | Systems and methods for line balancing |
KR102126003B1 (ko) * | 2018-08-27 | 2020-06-23 | 아이솔루션(주) | Iot 기술을 기반으로 한 비전검사장비와 생산장비 제어시스템 |
KR102658966B1 (ko) * | 2019-08-21 | 2024-04-19 | 엘지전자 주식회사 | 공기 조화기의 센서 데이터를 보정하는 인공 지능 공기 조화기 및 그 방법 |
DE112021000229T5 (de) * | 2020-01-14 | 2022-09-15 | Fanuc Corporation | Roboter-System |
JP7445460B2 (ja) * | 2020-03-05 | 2024-03-07 | 株式会社Fuji | 作業システム |
CN112947389B (zh) * | 2021-03-31 | 2022-04-22 | 合肥工业大学 | 一种pfc控制***的多故障同步估计方法 |
CN113192277B (zh) * | 2021-04-29 | 2022-09-30 | 重庆天智慧启科技有限公司 | 小区安防的自动报警***及方法 |
WO2024100712A1 (ja) * | 2022-11-07 | 2024-05-16 | ファナック株式会社 | 撮像ユニットの温度を管理する装置、制御装置、方法、及びコンピュータプログラム |
CN117197133B (zh) * | 2023-11-06 | 2024-01-30 | 湖南睿图智能科技有限公司 | 一种复杂工业环境下视觉机器人的控制***及方法 |
CN117754194A (zh) * | 2024-02-21 | 2024-03-26 | 宁德时代新能源科技股份有限公司 | 电池壳盖焊接***及其点检方法 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003131307A (ja) * | 2001-10-25 | 2003-05-09 | Ims:Kk | 写真シール払出装置 |
JP2004363781A (ja) * | 2003-06-03 | 2004-12-24 | Mega Chips Corp | デジタル映像記録システム |
JP3834307B2 (ja) * | 2003-09-29 | 2006-10-18 | ファナック株式会社 | ロボットシステム |
JP2006013120A (ja) * | 2004-06-25 | 2006-01-12 | Matsushita Electric Ind Co Ltd | 不具合原因究明システム |
JP4718253B2 (ja) | 2005-06-17 | 2011-07-06 | 株式会社日立ビルシステム | 監視カメラの画像異常検出装置 |
JP5737989B2 (ja) | 2011-02-14 | 2015-06-17 | 富士機械製造株式会社 | 部品実装機 |
US20130027561A1 (en) * | 2011-07-29 | 2013-01-31 | Panasonic Corporation | System and method for improving site operations by detecting abnormalities |
JP5296847B2 (ja) | 2011-08-26 | 2013-09-25 | ファナック株式会社 | カメラの異常検出機能を備えたロボットシステム |
JP2013115726A (ja) | 2011-11-30 | 2013-06-10 | Sanyo Electric Co Ltd | 電子機器 |
WO2014076755A1 (ja) * | 2012-11-13 | 2014-05-22 | 富士機械製造株式会社 | 基板生産状況監視装置 |
EP2804382B1 (en) | 2013-05-15 | 2015-04-29 | Axis AB | Reliability determination of camera fault detection tests |
CN103308661A (zh) | 2013-05-27 | 2013-09-18 | 中国矿业大学 | 用于表达空间拓扑信息的井下瓦斯传感器层次编码方法 |
WO2015182751A1 (ja) * | 2014-05-30 | 2015-12-03 | 株式会社日立国際電気 | 監視システムおよびカメラ装置 |
JP6400497B2 (ja) | 2015-02-02 | 2018-10-03 | 三菱電機ビルテクノサービス株式会社 | エレベータ乗りかごの異常確認システム |
JP2018051721A (ja) * | 2016-09-30 | 2018-04-05 | キヤノン株式会社 | 異常検出装置、異常検出方法及びプログラム |
JP6971020B2 (ja) * | 2016-11-14 | 2021-11-24 | 株式会社日立製作所 | 異常検出装置および異常検出方法 |
-
2017
- 2017-01-12 JP JP2017003343A patent/JP6392908B2/ja active Active
-
2018
- 2018-01-05 US US15/862,875 patent/US10497146B2/en active Active
- 2018-01-10 CN CN201810024351.4A patent/CN108462871B/zh active Active
- 2018-01-10 DE DE102018200280.0A patent/DE102018200280B4/de active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018113610A (ja) | 2018-07-19 |
US20180197311A1 (en) | 2018-07-12 |
DE102018200280A1 (de) | 2018-07-12 |
US10497146B2 (en) | 2019-12-03 |
DE102018200280B4 (de) | 2019-10-17 |
CN108462871B (zh) | 2019-04-09 |
CN108462871A (zh) | 2018-08-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6392908B2 (ja) | 視覚センサの異常原因推定システム | |
CN116841262A (zh) | 基于机器视觉的智慧工厂生产在线监测分析*** | |
CN110543800B (zh) | 用于吊舱的目标识别跟踪方法、装置和吊舱 | |
CN111542791B (zh) | 使用设施诊断***的设施诊断方法 | |
CN113748389A (zh) | 用于监控工业过程步骤的方法和设备 | |
KR102482240B1 (ko) | 장비 이상 탐지 장치 및 방법 | |
US20210133442A1 (en) | Element operation division device, element operation division method, storage medium, and element operation division system | |
CN111890343B (zh) | 一种机器人载物碰撞检测方法及装置 | |
KR20210050889A (ko) | Cctv 관제 시스템 업데이트 방법 및 cctv 관제 시스템 업데이트 장치 | |
US20130301902A1 (en) | System and method of distributed processing for machine-vision analysis | |
US20170050319A1 (en) | Programmable Machine Vision Device | |
JP5710230B2 (ja) | 監視システムおよび監視方法 | |
Siam et al. | Fault tolerant control of an industrial manufacturing process using image processing | |
JP2020091739A5 (ja) | ||
JP2022038020A (ja) | 検査システム | |
US11478933B2 (en) | Equipment status estimation method and system | |
WO2020044779A1 (ja) | 設置環境推定装置及びプログラム | |
CN116382197B (zh) | 一种基于数字孪生的智慧工厂管理平台及管理方法 | |
Jamal et al. | Fault Tolerant Control of an Industrial Manufacturing Process Using Image Processing | |
US20200320276A1 (en) | Information processing system and method | |
US20230334396A1 (en) | Work instruction system | |
JP2019185083A (ja) | 買物支援システム及び買物支援方法 | |
WO2022190584A1 (ja) | 情報処理装置、方法およびプログラム | |
JP7408731B1 (ja) | 行動検知方法、行動検知装置、行動検知システム | |
JP7495834B2 (ja) | 作業評価システムおよび方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20180502 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180515 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180712 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180731 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180823 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6392908 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |