JP6258480B2 - 画像処理装置、及び位置決めシステム - Google Patents

画像処理装置、及び位置決めシステム Download PDF

Info

Publication number
JP6258480B2
JP6258480B2 JP2016520855A JP2016520855A JP6258480B2 JP 6258480 B2 JP6258480 B2 JP 6258480B2 JP 2016520855 A JP2016520855 A JP 2016520855A JP 2016520855 A JP2016520855 A JP 2016520855A JP 6258480 B2 JP6258480 B2 JP 6258480B2
Authority
JP
Japan
Prior art keywords
image
sensor
processing apparatus
time
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016520855A
Other languages
English (en)
Other versions
JPWO2015177881A1 (ja
Inventor
高志 三枝
高志 三枝
潔人 伊藤
潔人 伊藤
豊和 高木
豊和 高木
井上 智博
智博 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Publication of JPWO2015177881A1 publication Critical patent/JPWO2015177881A1/ja
Application granted granted Critical
Publication of JP6258480B2 publication Critical patent/JP6258480B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/62Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Image Input (AREA)

Description

本発明は、画像センサを接続し、画像センサから取得される画像を認識処理する画像処理装置、及び位置決めシステムに関する。
近年、画像処理装置では、画像中に含まれる特定の物体を判別や、画像中に含まれる特定の物体の位置や、サイズなどの物理量を算出するために必要となる画像処理の高速化のため、画像の全体領域のうち、必要な部分領域のみを画像処理する方法が用いられている。
例えば、このような従来技術として、特許文献1に記載の技術が開示されている。
特許文献1に記載の技術では、複数の画像データから被写体の顔部を検出して、顔部の大きさの変化量、水平/垂直方向への移動量を検出して変化量、移動量の補正量を算出し、補正量に基づいて顔部の器官(口、鼻等)の画像データ上の位置や大きさを補正する。
特開2012−198807号公報
以降の説明は当業者に分かりやすく説明するためのものであり、本発明を限定的に解釈するために意図されたものではない。
特許文献1に記載の技術は、画像センサへの画像転送性能の設定を想定しておらず、画像センサからの画像転送を高速化することが困難である。
また、特許文献1に記載の技術では、画像の位置とサイズを、認識対象の移動量や、変化量のみで決定するため、画像転送の要求性能を満たすように画像のサイズや、画像の位置を変更することが困難である。
本発明は、上述した画像転送の高速化、及び画像転送の要求性能を考慮した画像認識の少なくとも1つに配慮したものである。
本発明は、例えば以下の側面のうち少なくとも1つを有する。
(1)本発明は、要求性能を考慮して取得する画像の取得条件(例えば、寸法、及びフレームレートの少なくとも1つ)を得る。
(2)本発明は、得られた画像から認識対象の軌道を予測し、予測の結果と要求性能を考慮して画像の取得条件を得る。
(3)本発明は、画像センサから転送される画像の位置、サイズ、階調数を画像センサ自体に設定を行うことで変更し、画像転送を高速化する。
(4)本発明は、画像転送の要求性能を満たすように、画像センサから転送される画像の位置、サイズ、階調数を容易に変更可能な画像処理装置を提供する。
本発明は以下の効果の少なくとも1つを奏する。(1)画像センサからの転送画像の位置、サイズ、階調数を変更し、画像センサからの転送データ量を削減できるため、画像転送の高速化が実現できる。(2)画像転送の要求性能を満たしつつ、自動的に画像センサへの設定が可能となるため、容易に、かつ、柔軟に画像転送の速度を制御できる。
本実施形態に係る画像処理装置の位置決め装置への適用例を示す図。 本実施形態に係る画像処理装置の構成図。 本実施形態に係る画像処理装置の処理動作を示すフローチャート。 本実施形態に係る画像処理装置に連続転送される最大サイズの画像を示す図。 本実施形態に係る画像処理装置の認識処理を示す図。 本実施形態に係る画像処理装置に連続転送される画像の一例を示す図。 本実施形態に係る画像処理装置の設定画面を示す図。 本実施形態に係る部品実装装置の第2の実施例を示す図。 数1〜数4を説明する図。 数5〜数10を説明する図。
次に、本発明を実施するための形態(「実施形態」という)について、適宜図面を参照しながら詳細に説明する。なお、以下の実施形態では、画像センサが搭載された可動部を駆動させ、認識対象に位置決めする位置決め装置への適用例として説明する。
ここで、各実施形態(各図面)において、X軸およびY軸のそれぞれの方向は、水平方向と平行な方向であり、X軸およびY軸は、水平方向に沿った平面上の直交座標系を形成するものである。また、XY軸系という場合は、水平方向に平行な平面におけるX軸系とY軸系とを表している。なお、X軸とY軸の関係は、お互いが入れ替わってもよい。また、各実施形態(各図面)において、Z軸の方向は、垂直方向であり、Z軸系という場合は、垂直方向に平行な平面におけるX軸系を表している。
実施形態1
図1は、本実施形態に係る画像処理装置100の位置決め装置110への適用例を示す図である。なお、図1の(a)は、位置決め装置110の上面図であり、図1の(b)は、図1(a)に示すA−A線に沿って切断した構造を示す断面図である。
画像認識装置100は、画像センサ101と、表示入力装置102と接続されている。さらに、
位置決め装置110は、画像センサ101、位置決めヘッド111、ビーム112、架台113、及びベース114を含む。
ベース114は認識対象を搭載するものである。位置決めヘッド111は画像センサ101を搭載し、X軸方向に移動する。ビーム112は位置決めヘッド111を搭載し、Y軸方向に移動する。架台113はビーム112を支持するものである。
位置決め装置110は、位置決めヘッド111をXY方向に駆動させ、認識対象120に位置決め動作を行う。
このため、画像センサ101で撮像される認識対象120は、撮像時刻の異なる連続した複数の画像において、位置決めヘッド111の位置決め動作の駆動方向に対し、反対となる方向に移動する。
また、画像センサ101で撮像される認識対象120は、撮像時刻の異なる連続した複数の画像において、位置決めヘッド111の駆動速度と同等の速度で移動する。
図2は、本実施形態に係る画像処理装置100の構成図である。
画像処理装置100は、画像取得部200、画像認識部201、画像センサ設定部203、画像センサ設定情報演算部202、演算方法指定部204、入出力制御部205を含む。
画像取得部200は、画像センサ101で撮影され、画像センサ101より転送される画像を取得する。
画像認識部201は、画像取得部200と接続されおり、画像取得部200で取得される撮像時刻の異なる連続した複数の画像から、あらかじめ指定された演算方法で認識対象120を認識処理するものである。
画像センサセンサ設定情報演算部202は、画像認識部201と接続されており、画像認識部201の認識結果、及びあらかじめ指定された演算方法に基づき、あらかじめ指定されたフレームレートの要求性能を満たすように、画像センサ101への設定情報を算出するものである。
画像センサ設定部203は、画像センサ設定情報演算部202で算出された設定情報を、画像センサ101に転送し、設定を行うものである。
演算方法指定部204は、画像センサ設定情報演算部202にフレームレートの要求性能などの設定情報や、演算方法を指定するものである。
入出力制御部205は、画像認識部201と、演算方法指定部204への演算方法や、演算処理の実行指令の入力と、画像認識部201と、演算方法指定部204に設定された演算方法や、演算結果を出力するものである。
次に、画像処理装置100の処理動作について図3、図4、図5を用いて説明する。図3は、本実施形態に係る画像処理装置100の処理動作を示すフローチャートである。
画像処理装置100は、まず、入出力制御部205に接続される表示入力装置102を介して、演算方法指定部204に演算方法を指定する(S300)。このとき、演算方法指定部204に指定する演算方法は、以下の(1)〜(7)を含む。(1)画像センサ101から転送される画像のフレームレートの要求値(2)画像センサ101から転送される画像のX軸方向の余剰サイズ比率の下限値(3)画像センサ101から転送される画像のY軸方向の余剰サイズ比率の下限値(4)画像センサ101から転送される画像の中心位置の変更有無(5)画像センサ101から転送される画像の階調の変更有無からなる演算条件情報を複数個(6)各演算条件情報の初期値(7)各演算条件情報の適用条件からなる演算適用条件情報。
次に、S301では、画像処理装置100は、画像処理を開始するか否か判断する。例えば、入出力制御部205に接続される表示入力装置102を介して、演算方法指定部204に画像処理の開始が指令された場合、画像処理装置100は画像処理を開始する。(S301→Yes)。S301の処理でNoの場合、画像処理装置100は、画像処理の開始指令を待つ。
画像処理の開始が決定されると演算方法指定部204に設定された演算適用条件情報に基づき、画像センサ101には所定の初期値が設定される(S302)。
次に、画像センサ101から転送される画像を画像取得部200で取得する(S303)。
ここで、S303で画像センサ101から画像処理装置100に転送される画像の例を図4を用いて説明する。
図4は、本実施形態に係る画像処理装置100に連続転送される最大サイズの画像を示す図である。なお、画像センサ101から転送される画像の座標系は、図1で示した座標系と同じものとする。
画像センサ101から転送される最大サイズの画像である全領域画像400−1〜400−4は、認識対象120を撮像し、固有のフレームレート Fmax [fps] で画像処理装置100に転送される。
このため、全領域画像400−1の撮像時刻を t0 [s] とし、全領域画像400−1〜400−4のそれぞれの撮像間の時間を Tcmax [s](= 1 / Fmax)とすると、全領域画像400−2の撮像時刻は、t0 + Tcmax [s]、全領域画像400−3の撮像時刻は、t0 + 2 × Tcmax [s]、全領域画像400−4の撮像時刻は、t0 + 3 × Tcmax [s]、と表すことができる。
このとき、全領域画像400−1〜400−4に撮像される認識対象120は、位置決めヘッド111の位置決め動作の駆動方向に対して、反対となる方向に移動する。
このため、全領域画像400−1〜400−4に示すとおり、認識対象120は、撮像時刻の経過とともに、全領域画像400−1の画像左下から、全領域画像400−4の中心へと移動し、停止する。
ここから、画像処理装置100の処理動作を、図3に示すフローチャートに戻って、S303からの処理について説明する。
S303の処理の後、画像処理装置100は、画像取得部200で取得された画像を画像認識部201に転送し、画像認識部201にて、画像の認識処理を実行する(S304)。
ここで、S304の行う認識処理の内容を図5(a)を用いて説明する。なお、ここでは、画像センサ101から転送される画像のフレームレートを f [fps]、画像センサ101から転送される連続画像の撮像間の時間を tc [s](= 1 / f)とし、ある時刻 t [s] の撮像画像とその1つ前の撮像時刻 t − tc [s] の撮像画像とを重ね合せた画像を重畳画像500とする。なお、時刻 t − tc [s] の撮像画像は第1の画像、時刻 t [s] の撮像画像は第2の画像、時刻 t [s] より後の時刻に得られた撮像画像は第3の画像と表現することができる。
なお、図5の重畳画像500では、説明の簡便にするため、時刻 t − tc の撮像画像で認識される物体や数値の符号の末尾に−1を付与(例:認識対象120−1)し、時刻 t の撮像画像で認識された物体や数値の符号の末尾に−2を付与(例:認識対象120−2)する。
画像認識部201は、画像センサ101から画像が転送されると、認識対象120−1、120−2の有無を認識する。そして、画像内に認識対象120−1、120−2が存在する場合、以下の(1)〜(3)を認識する。(1)画像内の認識対象120−1、120−2の中心の位置である中心座標510−1、510−2、(2)認識対象120−1、120−2のX軸方向のサイズであるX軸サイズ511−1、511−2、(3)認識対象120−1、120−2のY軸方向のサイズであるY軸サイズ512−1、512−2。
ここで、認識対象120−1、120−2の有無と、中心座標510−1、511−2は、パターンマッチングなどの一般的な画像処理方法で認識を行う。
また、画像認識部201は、重畳画像500の認識対象120−1、120−2の輝度値、及び重畳画像500の認識対象120−1、120−2以外の部分である背景画像の輝度値から、認識処理に最低限必要となる画像センサ101の撮像画像における輝度の階調数である最小階調数 gmin を算出する。
次に、画像認識部201は上述の処理で得られた中心座標510−1、510−2、X軸サイズ511−1、511−2、Y軸サイズ512−1、512−2、及び最小階調数 gmin を画像センサ設定情報演算部202に転送し、その処理を終了する。
ここから、画像処理装置100の処理動作を、図3に示すフローチャートに戻って、S305からの処理について説明する。
画像処理装置100は、画像認識部201の画像認識の結果、認識対象120を検出できた場合(S305→Yes)、S300で演算方法指定部に指定された演算適用条件情報に合致する1つの演算条件情報と、S304で算出された画像認識の結果に基づいて、画像センサ設定情報演算部202の処理により画像センサ101への設定値を算出する(S306)。S305の処理でNoの場合、画像処理装置100は、画像センサ101の設定値を変更せずに、画像センサ101から転送される次の時刻の画像を画像取得部200で取得し(S303)、処理を繰り返す。
ここで、画像センサ設定情報演算部202の処理内容について図5(b)を用いて説明する。
画像センサ設定情報演算部202は、画像認識部201から転送される中心座標510−1、510−2に基づき、認識対象120−1から、認識対象120−2までのX軸方向の移動量であるX軸移動量520と、認識対象120−1から、認識対象120−2までのY軸方向の移動量であるY軸移動量521を算出する。
ここで、中心座標510−1を(x0, y0)、中心座標510−2を(x, y)とし、X軸移動量520を Δx(= x − x0)、Y軸移動量521を Δy(= y − y0) とする。
このとき、認識対象120−1から認識対象120−2までのX軸方向の速度 vx [pixel/s] と、認識対象120−1から認識対象120−2までのY軸方向の速度 vy [pixel/s] は、数1を用いて求められる。
なお、認識対象120のX軸方向の速度、およびY軸方向の速度は、オプティカルフローなどの他の一般的な画像処理方法で求めてもよい。
さらに、X軸サイズ511−1を lx0、X軸サイズ511−2を lx 、Y軸サイズ512−1を ly0、Y軸サイズ512−2を ly とし、X軸方向の認識対象のサイズの変化量を Δlx(= lx − lx0)、Y軸方向の認識対象のサイズの変化量をΔly(= ly − ly0)、とする。
また、認識対象120−1から認識対象120−2までのZ軸方向の速度のうち、X軸方向に作用するものをX軸サイズ変化度 vzx [pixel/s] とし、Y軸方向に作用するものをY軸サイズ変化度 vzy [pixel/s]とする。
このとき、画像センサ設定情報演算部202は、X軸サイズ変化度 vzx と、Y軸サイズ変化度 vz を、数2を用いて算出する。
なお、X軸サイズ変化度と、Y軸サイズ変化度は、ステレオビジョンなどの他の一般的な画像処理方法で求めてもよい。
次に、画像センサ設定情報演算部202は、認識対象120−1、120−2を用いて算出された以下の(1)〜()から画像センサ101の撮像時刻 t の、次の時刻の撮像における認識対象120−3の予測される認識結果を算出する。(1)X軸方向の速度 vx 、(2)Y軸方向の速度 vy 、(3)X軸サイズ変化度 vzx 、(4)Y軸サイズ変化度 vzy
ここで、画像センサ101の時刻 t での撮像に対する、次の時刻の撮像画像が転送される際のフレームレートを f’[fps]、画像センサ101の時刻 t での撮像から、次の時刻の撮像までの時間を tc’[s](= 1 / f’)とし、撮像時刻 t + tc’で撮像される認識対象120−3の予測位置を図5(b)に破線にて示す。
なお、図5(b)では、時刻 t + tc’の画像において予測される認識結果の符合の末尾に−3を付与(例:認識対象120−3)する。
まず、画像センサ設定情報演算部202は、時刻 t + tc’の撮像画像の認識結果の予測値として、以下の(1)〜(3)を算出する。(1)認識対象120−3の重畳画像500の座標系における中心座標510−3、(2)認識対象120−3のX軸サイズ511−3、(3)認識対象120−3のY軸サイズ512−3。
このとき、画像センサ設定情報演算部202は、認識対象120−3の予測される中心座標510−3を(x’, y’)とすると、数3を用いて、中心座標510−3を算出する。
次に、画像センサ設定情報演算部202は、認識対象120−3の予測されるX軸サイズ511−3を lx’、認識対象120−3の予測されるY軸サイズ512−3を ly’とすると、数4を用いて、X軸サイズ511−3と、Y軸サイズ512−3をそれぞれ算出する。
次に、画像センサ設定情報演算部202は、自身で算出した、中心座標510−3、X軸サイズ511−3、及びY軸サイズ512−3に基づいて、以下の(a)〜(c)によって構成される演算条件情報(所定の条件や要求値と表現することができる)を満たす画像センサ設定情報((1)〜(5)、第1の設定情報と表現することができる)を得る。(a)フレームレートの要求値 fr [fps]、(b)X軸サイズ511−3に対するX軸方向の余剰サイズ比率の下限値 αr [%]、(c)Y軸サイズ512−3に対するY軸方向の余剰サイズ比率の下限値 βr [%] 、(1)画像センサ101から転送される画像のX軸方向の転送サイズであるX軸転送サイズ531、(2)画像センサ101から転送される画像のY軸方向の転送サイズであるY軸転送サイズ532、(3)画像センサ101から転送される画像の転送する位置を、最大サイズの画像における位置座標にて指定するための座標情報である転送座標533、(4)画像センサ101から転送される画像の階調数である転送階調数 g、(5)フレームレート f’。なお、X軸転送サイズ531、及びY軸転送サイズ532は第3の画像の寸法と表現することができる。また、転送座標533は第3の画像の位置を規定する情報の一例と表現することもできる。
ここで、X軸転送サイズ531を lpx’、Y軸転送サイズ532を lpy’とし、X軸サイズ511−3に対するX軸方向の余剰サイズ比率をX軸余剰サイズ比率 α [%]、Y軸サイズ512−3に対するY軸方向の余剰サイズ比率をY軸余剰サイズ比率 β [%] とする。 lpx’は第1の方向における寸法と、 lpy’は前記第1の方向と交差する方向における第2の寸法と表現できる。α、βは所定の係数と表現することができる。
まず、画像センサ設定情報演算部202は、数5を用いて、X軸転送サイズ531とY軸転送サイズ532とをそれぞれ算出する。ここで、X軸余剰サイズ比率 α と、Y軸余剰サイズ比率 β は、数6を満たす値とする。
ここで、画像センサ101から転送される画像に設定できる座標の最小値を(xmin, ymin)、画像センサ101から転送される画像に設定できる座標の最大値を(xmax, ymax)とし、転送座標533を(xp, yp)とする。
画像センサ設定情報演算部202は、数7を用いて、転送座標533を算出する。 ここで、数7の数式内の変数 a 、b は、それぞれ、(lx’/ 2) ≦ a ≦ lpx’- (lx’/ 2)、(ly’/ 2) ≦ b ≦ lpy’- (ly’/ 2)、を満たす任意の一意の数とする。
図5(b)では、a = (lpy’/ 2)、b = (lpy’/ 2)とした場合の例を示している。 ここで、さらに、算出されたX軸転送サイズ531とY軸転送サイズ532の場合における画像転送サイズ530を s’[pixel](= lpx’× lpy’)、画像センサ101の露光時間を Te [s]、画像センサ101の画像転送におけるヘッダ部分の転送時間を Th [s]、画像センサ101の1ラインの転送あたりに増加する転送時間を Tl [s]、画像センサ101の画素値の1ビットあたりの転送時間を Td [bps]、画像センサ101に設定される階調値のビット数を d [bit](=ceil(log2g))(ceilは天井関数)とする。これらTe、Th、Tl、d、Tdは第2の設定情報と表現することができる。
画像センサ設定情報演算部202は、数8を用いて、このときのフレームレート f’を算出する。ここで、転送階調数 g は、数9を満たす値とする。
また、画像センサ設定情報演算部202は、数3〜数9に示した数式を計算し、数10を満たすことで、演算条件情報を満足しながら、画像センサ設定情報を算出できる。
このとき、画像センサ設定情報演算部202は、数9に示す条件を満たすように、X軸余剰サイズ比率 α や、Y軸余剰サイズ比率 β 、転送階調数 g の値を調整しながら、画像センサ設定情報を算出する計算手順が必要となる。
このような、画像センサ設定情報演算部202の計算手順の一例として、各パラメータの初期値を、tc’= 1 / fr、α = αr、β = βr、g = gmin、として f’を算出し、数8の条件を満たすようであれば、f’= fr に近づくように α、β、g を増加させていく方法などが考えられる。
なお、このような画像センサ設定情報演算部202の計算手順は、一般的な最適化計算の手法を適用してもよい。
最後に、画像センサ設定情報演算部202は、算出された画像センサ設定情報を画像センサ設定部203に転送し、S306の処理を完了する。
ここから、画像処理装置100の処理動作を、図3に示すフローチャートに戻って、S307からの処理について説明する。
S306の処理の後、画像認識装置100の画像センサ設定部203は、画像センサ設定情報演算部202より転送された画像センサ設定情報を画像センサ101に設定する(S307)。
次に、画像処理装置100は、入出力制御部205に接続される表示入力装置102を介して、演算方法指定部204に画像処理の終了が指令された場合(S308→Yes)、処理を終了する。S308の処理でNoの場合、画像センサ101から転送される次の時刻の画像を画像取得部200で取得し(S303)、処理を繰り返す。
図6は、本実施形態に係る画像処理装置100に連続転送される画像の一例を示す図である。
第一の部分取得画像600−1〜600−7は、画像センサ101から全領域画像400−1〜400−4の部分領域のみを転送した画像であり、フレームレートは、図6の例では、全領域画像400−1〜400−4の約3倍である。
第二の部分取得画像610−1〜610−7は、全領域画像400−1〜400−4の部分領域のみを画像センサ101から転送した画像であり、フレームレートは、図6の例では、全領域画像400−1〜400−4の約6倍であり、第一の部分取得画像600−1〜600−7の約3倍である。
そのため、第二の部分取得画像610−1〜610−7は、第一の部分取得画像600−1〜600−7に比べて転送画像のサイズが小さい。
本実施例のような位置決め装置110に適用される画像処理装置100では、図6に示すとおり、画像センサ101が搭載された位置決めヘッド111と認識対象120との距離が遠いときには、認識対象120を広域で探すために全領域画像400−1の適用が望ましい。また、位置決めヘッド111と認識対象120との距離が近づき、位置決めヘッド111が減速するにつれて、位置決めヘッド111の振動的な誤差を認識するためには、画像センサ101の設定を切り替え、画像センサ101からの転送画像を、第一の部分取得画像600−1〜600−7や、第二の部分取得画像610−1〜610−7に変更することで、フレームレートを向上することが望ましい。
具体的な例として、本実施例の位置決め装置110が、短辺のサイズが数百μmの電子部品をプリント配線板に実装する部品実装装置である場合、全領域画像400−1〜400−4の画像サイズは、X軸方向、Y軸方向ともに約10〜20mm程度とし、そのときのフレームレートは、約100〜200fps程度とし、第一の部分取得画像600−1〜600−7の画像サイズは、X軸方向、Y軸方向ともに約3〜6mm程度とし、そのときのフレームレートは、約300〜600fps程度とし、第二の部分取得画像610−1〜610−7の画像サイズは、約1〜3mm程度とし、そのときのフレームレートは、約1000fps程度とすることが望ましい。
図7は、本実施形態に係る画像処理装置100の設定画面700を示す図である。
設定画面700は、パラメータ設定部701と、パラメータ適用条件設定部702と、画像処理結果表示部703と、処理内容表示部704から構成される。
パラメータ設定部701は、演算条件情報を設定するための入力インタフェースである。
パラメータ設定条件設定部702は、複数の演算条件情報に対して演算適用条件情報を設定するための入力インタフェースである。
画像処理結果表示部703は、パラメータ設定部701で設定された演算条件情報と、パラメータ適用条件設定部702で設定された演算適用条件情報に基づいて、画像処理装置100の画像認識部201と、画像センサ設定情報演算部202の処理の結果を示すための出力インタフェースである。
また、画像処理結果表示部703は、具体的には、画像センサ101から取得される最新の画像の表示や、認識対象120の認識値の表示や、画像センサ101から転送された画像の時刻歴の表示などを行う。
処理内容表示部704は、画像処理装置100の内部処理の進行等を示すための出力インタフェースである。
画像処理装置100の使用者は、まず、パラメータ設定部701で演算条件情報の設定と、パラメータ適用条件設定部702で演算適用条件情報の設定を実施し、次に、画像処理結果表示部703と処理内容表示部704とを参照することによって、所望の認識処理の実行可否を確認し、確認した内容に基づいて、演算条件情報と、演算適用条件情報の調整を行う。
実施形態2
図8は、本実施形態に係る画像処理装置100の第2の実施例を示す図である。
サーボ制御装置800は、アクチュエータ制御部801と、動作情報転送部802から構成される。サーボ制御装置800はアクチュエータ810とアクチュエータ810の位置や、速度、加速度等をフィードバックするためのセンサ820とを接続する。アクチュエータ制御部801は、センサ820のフィードバック情報に基づいてアクチュエータ810の制御を実行する。
また、アクチュエータ制御部801は、センサ820のフィードバック情報により、アクチュエータ810を用いた可動部の現在の位置や、速度などを取得する。
さらに、アクチュエータ制御部801は、アクチュエータ810を駆動させるための位置や、速度の指令波形や、軌道の生成に基づいて、画像センサ101の次の撮像時刻に予測されるアクチュエータ810を用いた可動部の位置や、速度などを算出する。
アクチュエータ制御部801は、算出したアクチュエータ810を用いた可動部の現在の位置や、速度の情報、画像センサ101の次の撮像時刻に予測されるアクチュエータ810を用いた可動部の位置、速度の情報を動作情報転送部802に転送する。
また、動作情報転送部802は、画像処理装置100の画像センサ設定情報演算部202と接続される。
ここで、本実施形態の画像処理装置100の画像センサ設定情報演算部202は、以下の(1)〜()のうち少なくとも1つを、サーボ制御装置800の動作情報転送部802から取得することで処理を実行する。(1)現在の撮像画像の認識対象120−2のX軸方向の速度、(2)Y軸方向の速度、(3)X軸サイズ変化度、(4)Y軸サイズ変化度、(5)次の時刻の撮像画像で予測される中心座標510−3、(6)X軸サイズ511−3、(7)Y軸サイズ511−3。
このとき、画像センサ設定情報演算部202は、自身の処理に必要となる全ての情報のうち、動作情報転送部802から取得しない情報に関しては、実施形態1と同様に画像認識部201から取得する。
このような画像処理装置100の構成にすることによって、画像認識部201と、画像センサ設定情報演算部202の演算負荷を軽減でき、より高速な画像処理が可能となる。
また、本実施形態の画像処理装置100を位置決め装置110に適用し、位置決め装置110の可動部である位置決めヘッド111と、ビーム112の制御に、アクチュエータ810と、センサ820を適用し、さらに、これらのアクチュエータ810と、センサ820の制御にサーボ制御装置800を適用すると、画像処理装置100の認識処理で算出される位置や、速度に比べ、より高精度な位置や、速度を得ることができる。
本実施形態2の部品実装装置によって得られるその他の効果については、実施形態1のものと同様であるため、その重複説明は省略する。
以上、本発明の実施例について説明したが、本発明は実施例に限定されない。本実施例に開示される内容は自動車、鉄道にも適用可能である。すなわち、位置決めシステムとは、部品実装装置、自動車、鉄道、そのほかのシステムを含みえる広義の表現である。
100・・・画像処理装置
101・・・画像センサ
102・・・表示入力装置
110・・・位置決め装置
111・・・位置決めヘッド
112・・・ビーム
113・・・架台
114・・・ベース
120、120−1、120−2、120−3・・・認識対象
200・・・画像取得部
201・・・画像認識部
202・・・画像センサ設定情報演算部
203・・・画像センサ設定部
204・・・演算方法指定部
205・・・入出力制御部
400、400−1〜400−4・・・全領域画像
500・・・重畳画像
510−1、510−2、510−3・・・中心座標
511−1、511−2、511−3・・・X軸サイズ
512−1、512−2、512−3・・・Y軸サイズ
520・・・X軸移動量
521・・・Y軸移動量
530・・・画像転送サイズ
531・・・X軸転送サイズ
532・・・Y軸転送サイズ
533・・・転送座標
600−1〜600−7・・・第一の部分取得画像
610−1〜610−7・・・第二の部分取得画像
700・・・設定画面
701・・・パラメータ設定部
702・・・パラメータ適用条件設定部
703・・・画像処理結果表示部
704・・・処理内容表示部
800・・・サーボ制御装置
801・・・アクチュエータ制御部
802・・・動作情報転送部
810・・・アクチュエータ
820・・・センサ

Claims (16)

  1. センサと、
    処理部と、を有し、
    前記センサは第1の時刻に認識対象を含む第1の画像を得て、第1の時刻よりも後の第2の時刻に前記認識対象を含む第2の画像を得て、前記第2の時刻より後の第3の時刻に前記認識対象を含む第3の画像を得て、
    前記処理部は、前記第3の画像を得る際の前記センサの第1の設定情報を所定の条件を満たすよう前記第1の画像、及び前記第2の画像から決定し、前記第3の画像の寸法を前記第3の画像中での前記認識対象の予測寸法値、及び所定の係数を使用して得て、
    前記第1の設定情報は、前記第3の画像の寸法、及び前記第3の画像を得る際のフレームレートを含む画像処理装置。
  2. 請求項に記載の画像処理装置において、
    前記第3の画像の寸法は第1の方向における寸法と前記第1の方向と交差する方向における第2の寸法を含み、
    前記処理部は、前記フレームレートを前記第2の寸法、及び前記センサの第2の設定情報を使用して得る画像処理装置。
  3. 請求項に記載の画像処理装置において、
    前記第2の設定情報は、前記センサの露光時間、前記センサのヘッダ部分の転送時間、前記センサの1ライン当たりに増加する転送時間、前記センサの階調値のビット数、及び前記センサの1ビット当たりの転送時間を含む画像処理装置。
  4. 請求項1または請求項に記載の画像処理装置において、
    前記所定の条件は、前記フレームレートの要求値を含み、
    前記フレームレートは前記要求値以下である画像処理装置。
  5. 請求項に記載の画像処理装置において、
    前記所定の条件は、前記所定の係数の下限値を含む画像処理装置。
  6. 請求項1または請求項に記載の画像処理装置において、
    前記第1の設定情報は前記第3の画像の位置を規定する情報を含む画像処理装置。
  7. 請求項1または請求項に記載の画像処理装置において、
    前記第1の設定情報は前記第3の画像の階調数を含む画像処理装置。
  8. 請求項1に記載の画像処理装置において、
    前記所定の条件は、前記第3の画像を得るための所定の係数の下限値を含む画像処理装置。
  9. センサと、
    前記センサを移動させる移動部と、
    処理部と、を有し、
    前記センサは第1の時刻に認識対象を含む第1の画像を得て、第1の時刻よりも後の第2の時刻に前記認識対象を含む第2の画像を得て、前記第2の時刻より後の第3の時刻に前記認識対象を含む第3の画像を得て、
    前記処理部は、前記第3の画像を得る際の前記センサの第1の設定情報を所定の条件を満たすよう前記第1の画像、及び前記第2の画像から決定し、前記第3の画像の寸法を前記第3の画像中での前記認識対象の予測寸法値、及び所定の係数を使用して得て、
    前記第1の設定情報は、前記第3の画像の寸法、及び前記第3の画像を得る際のフレームレートを含む位置決めシステム。
  10. 請求項に記載の位置決めシステムにおいて、
    前記第3の画像の寸法は第1の方向における寸法と前記第1の方向と交差する方向における第2の寸法を含み、
    前記処理部は、前記フレームレートを前記第2の寸法、及び前記センサの第2の設定情報を使用して得る位置決めシステム。
  11. 請求項10に記載の位置決めシステムにおいて、
    前記第2の設定情報は、前記センサの露光時間、前記センサのヘッダ部分の転送時間、前記センサの1ライン当たりに増加する転送時間、前記センサの階調値のビット数、及び前記センサの1ビット当たりの転送時間を含む位置決めシステム。
  12. 請求項9または請求項1に記載の位置決めシステムにおいて、
    前記所定の条件は、前記フレームレートの要求値を含み、
    前記フレームレートは前記要求値以下である位置決めシステム。
  13. 請求項1に記載の位置決めシステムにおいて、
    前記所定の条件は、前記所定の係数の下限値を含む位置決めシステム。
  14. 請求項9または請求項13に記載の位置決めシステムにおいて、
    前記第1の設定情報は前記第3の画像の位置を規定する情報を含む位置決めシステム。
  15. 請求項9または請求項14に記載の位置決めシステムにおいて、
    前記第1の設定情報は前記第3の画像の階調数を含む位置決めシステム。
  16. 請求項に記載の位置決めシステムにおいて、
    前記所定の条件は、前記第3の画像を得るための所定の係数の下限値を含む位置決めシステム。
JP2016520855A 2014-05-21 2014-05-21 画像処理装置、及び位置決めシステム Active JP6258480B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2014/063401 WO2015177881A1 (ja) 2014-05-21 2014-05-21 画像処理装置、及び位置決めシステム

Publications (2)

Publication Number Publication Date
JPWO2015177881A1 JPWO2015177881A1 (ja) 2017-04-20
JP6258480B2 true JP6258480B2 (ja) 2018-01-10

Family

ID=54553577

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016520855A Active JP6258480B2 (ja) 2014-05-21 2014-05-21 画像処理装置、及び位置決めシステム

Country Status (3)

Country Link
US (1) US20170094200A1 (ja)
JP (1) JP6258480B2 (ja)
WO (1) WO2015177881A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6765820B2 (ja) * 2016-02-10 2020-10-07 オリンパス株式会社 カメラ

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3046100B2 (ja) * 1991-07-22 2000-05-29 株式会社フォトロン 画像記録装置
JP2002010243A (ja) * 2000-06-16 2002-01-11 Mitsubishi Heavy Ind Ltd 動画像処理カメラ
US7545434B2 (en) * 2002-02-04 2009-06-09 Hewlett-Packard Development Company, L.P. Video camera with variable image capture rate and related methodology
US20050104958A1 (en) * 2003-11-13 2005-05-19 Geoffrey Egnal Active camera video-based surveillance systems and methods
US7471767B2 (en) * 2006-05-03 2008-12-30 Siemens Medical Solutions Usa, Inc. Systems and methods for determining image acquisition parameters
JP5241335B2 (ja) * 2008-06-10 2013-07-17 キヤノン株式会社 X線画像診断装置及び画像処理方法
JP5398341B2 (ja) * 2009-05-11 2014-01-29 キヤノン株式会社 物体認識装置及び物体認識方法
JP5645505B2 (ja) * 2010-06-29 2014-12-24 キヤノン株式会社 撮像装置及びその制御方法
JP5693094B2 (ja) * 2010-08-26 2015-04-01 キヤノン株式会社 画像処理装置、画像処理方法及びコンピュータプログラム
RU2018109081A (ru) * 2012-05-02 2019-02-26 Никон Корпорейшн Устройство формирования изображений
GB2503481B (en) * 2012-06-28 2017-06-07 Bae Systems Plc Surveillance process and apparatus
AU2014254426B2 (en) * 2013-01-29 2018-05-10 Andrew Robert Korb Methods for analyzing and compressing multiple images
US9454827B2 (en) * 2013-08-27 2016-09-27 Qualcomm Incorporated Systems, devices and methods for tracking objects on a display
KR20150041239A (ko) * 2013-10-07 2015-04-16 삼성전자주식회사 엑스선 영상 장치 및 그 제어 방법
US9417196B2 (en) * 2013-10-10 2016-08-16 Bruker Axs Inc. X-ray diffraction based crystal centering method using an active pixel array sensor in rolling shutter mode

Also Published As

Publication number Publication date
WO2015177881A1 (ja) 2015-11-26
JPWO2015177881A1 (ja) 2017-04-20
US20170094200A1 (en) 2017-03-30

Similar Documents

Publication Publication Date Title
JP5869177B1 (ja) 仮想現実空間映像表示方法、及び、プログラム
US11090807B2 (en) Motion generation method, motion generation device, system, and computer program
JP6092437B1 (ja) 仮想空間画像提供方法、及びそのプログラム
JP6167622B2 (ja) 制御システムおよび制御方法
US8515130B2 (en) Conference system, monitoring system, image processing apparatus, image processing method and a non-transitory computer-readable storage medium
US10466775B2 (en) Method and apparatus for changing a field of view without synchronization with movement of a head-mounted display
US20170046881A1 (en) Head-Mounted Display System and Method for Presenting Display on Head-Mounted Display
JP6645151B2 (ja) 投影装置、投影方法及び投影用コンピュータプログラム
US20170032536A1 (en) Method and device for recognizing motion
JP2018202514A (ja) ロボットの教示のための情報を表示するロボットシステム
US10970807B2 (en) Information processing apparatus and storage medium
US20120047466A1 (en) Information processing device, information processing method, and program
US20200023518A1 (en) Robot system
JP2014206866A (ja) 情報処理プログラム、情報処理システム、情報処理装置、および、情報処理の実行方法
CN110355752A (zh) 机器人控制装置、机器人控制方法和存储介质
JP2016081264A (ja) 画像処理方法、画像処理装置及びロボットシステム
JP6258480B2 (ja) 画像処理装置、及び位置決めシステム
CN107862656A (zh) 一种3d图像点云数据的规整化实现方法、***
JPS59229619A (ja) ロボツトの作業教示システムおよびその使用方法
CN110355753A (zh) 机器人控制装置、机器人控制方法和存储介质
JP2017059196A (ja) 仮想現実空間映像表示方法、及び、プログラム
JP7334460B2 (ja) 作業支援装置及び作業支援方法
JP5378143B2 (ja) 画像変換装置及び操作支援システム
WO2018096669A1 (ja) レーザ加工装置、レーザ加工方法、及びレーザ加工プログラム
JP2022055779A (ja) 物体認識結果の良否判定に用いる閾値を設定する方法、及び、物体認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161101

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170111

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171206

R150 Certificate of patent or registration of utility model

Ref document number: 6258480

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150