CN102472612A - 三维物体识别装置以及三维物体识别方法 - Google Patents
三维物体识别装置以及三维物体识别方法 Download PDFInfo
- Publication number
- CN102472612A CN102472612A CN2011800026665A CN201180002666A CN102472612A CN 102472612 A CN102472612 A CN 102472612A CN 2011800026665 A CN2011800026665 A CN 2011800026665A CN 201180002666 A CN201180002666 A CN 201180002666A CN 102472612 A CN102472612 A CN 102472612A
- Authority
- CN
- China
- Prior art keywords
- distance
- dimension sensor
- posture
- point
- closest approach
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
- Manipulator (AREA)
- Image Processing (AREA)
Abstract
本发明提供一种能够提高用于对识别对象物进行识别的处理速度的三维物体识别装置以及三维物体识别方法。存储将识别对象的三维模型置于中心的空间分割为多个三维像素、在各个三维像素记录了到三维模型表面的最近点的距离以及表示最近点的ID的距离场,假定三维传感器的位置姿势,将由三维传感器测量得到的点群变换为设定于三维模型的模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,由此获取与最近点之间的距离,对于所述三维传感器的所有位置姿势,算出到与所述各测量点对应的三维像素所记录的最近点的点群间距离的平方和,根据其结果来求出三维传感器的位置姿势的评价中的极值,使用该极值来进行优化。
Description
技术领域
本发明涉及用于对作为形状已知的识别对象的三维物体进行识别的三维物体识别装置以及三维物体识别方法。
背景技术
近年来,为了能够在生产线上通过机械手(robot arm)来正确地对部件等进行操作,开发出了三维物体识别装置,该三维物体识别装置对堆积如山的部件等一一进行识别,并识别各部件的位置和姿势。
以往,作为这样的三维物体识别装置,例如存在以下装置:在离线(offline)阶段,获取所有位置姿势的识别对象物的二维图像,针对各图像算出二维模型,将多个二维模型保存在三维模型中,在在线(on line)阶段,匹配二维模型来得到识别对象物的三维位置姿势(例如,参照专利文献1)。
在先技术文献
专利文献1:日本特开2009-093611号公报
发明内容
发明要解决的问题
在专利文献1的三维物体识别装置中,为了消除遗漏、提高识别精度,需要对识别对象物的所有位置姿势进行搜索。然而,在如专利文献1那样基于轮廓的三维识别的情况下,需要仔细地进行搜索,因此存在搜索空间过大、无法得到足够的处理速度的问题。
本发明是鉴于上述问题而完成的发明,目的在于提供一种能够提高用于对识别对象物进行识别的处理速度的三维物体识别装置以及三维物体识别方法。
用于解决问题的手段
为了达到上述目的,方案1的三维物体识别装置的其特征在于,具备:距离场存储单元,其存储距离场,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;三维传感器,其对表示所述识别对象物的表面点的三维坐标的点群进行测量;坐标系变换单元,其假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;最近点距离获取单元,其通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID;位置姿势评价单元,其对于所有位置和所有姿势,获取由所述坐标系变换单元变换为模型坐标系后的各测量点和由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;以及第一优化单元,其将由所述位置姿势评价单元求出的所述极大值的所述三维传感器的位置姿势用作初始值,进行所述三维传感器的位置姿势的优化,以使得由所述坐标系变换单元变换为模型坐标系后的各测量点与由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的点群间距离的平方和成为最小。
方案2的三维物体识别装置的其特征在于,还具备:边缘抽取单元,其通过所述三维传感器来获取所述识别对象物的图像,对于该图像抽取所述识别对象物的边缘;和第二优化单元,其对于使用了与由所述第一优化单元得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓间距离的平方和的评价函数、或者与由所述第一优化单元得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓类似度的评价函数,将由所述第一优化单元得到的结果用作初始值来进行所述三维传感器的位置姿势的优化。
方案3的三维物体识别装置的其特征在于,还具备:边缘抽取单元,其通过所述三维传感器来获取所述识别对象物的图像,对于该图像抽取所述识别对象物的边缘;和第三优化单元,其对于合并了轮廓间距离的平方和以及点群间距离的平方和的评价函数,将由所述第一优化单元得到的结果用作初始值来进行所述三维传感器的位置姿势的优化,所述轮廓间距离为与由所述第一优化单元得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的距离,所述点群间距离为由所述三维传感器测量得到的点群被所述坐标变换单元变换为所述模型坐标系后的各测量点和由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的距离。
方案4的三维物体识别装置的特征在于,具备:距离场存储单元,其存储距离场,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;三维传感器,其对表示所述识别对象物的表面点的三维坐标的点群进行测量以及获取所述识别对象物的图像;坐标系变换单元,其假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;最近点距离获取单元,其通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID;位置姿势评价单元,其对于所有位置和所有姿势,获取由所述坐标系变换单元变换为模型坐标系后的各测量点与由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;边缘抽取单元,其对于由所述三维传感器获取的所述图像抽取所述识别对象物的边缘;以及第二优化单元,其对于使用了与由所述位置姿势评价单元求出的所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓间距离的平方和的评价函数、或者与由所述位置姿势评价单元求出的所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓类似度的评价函数,将由所述位置姿势评价单元求出的所述极大值的所述三维传感器的位置姿势用作初始值来进行所述三维传感器的位置姿势的优化。
方案5的三维物体识别装置的特征在于,具备:距离场存储单元,其存储距离场,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;三维传感器,其对表示所述识别对象物的表面点的三维坐标的点群进行测量以及获取所述识别对象物的图像;坐标系变换单元,其假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;最近点距离获取单元,其通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID;位置姿势评价单元,其对于所有位置和所有姿势,获取由所述坐标系变换单元变换为模型坐标系后的各测量点与由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;边缘抽取单元,其由所述三维传感器获取所述识别对象物的图像,对于该图像抽取所述识别对象物的边缘;以及第三优化单元,其对于合并了轮廓间距离的平方和以及点群间距离的平方和的评价函数,将由所述位置姿势评价单元求出的所述极大值的所述三维传感器的位置姿势用作初始值来进行所述三维传感器的位置姿势的优化,所述轮廓间距离是与由所述位置姿势评价单元求出的所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的距离,所述点群间距离是由所述三维传感器测量得到的点群被所述坐标变换单元变换为所述模型坐标系后的各测量点和由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的距离。
方案6的三维物体识别方法的特征在于,具备以下步骤:将距离场存储到距离场存储单元,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;使用三维传感器对表示所述识别对象物的表面点的三维坐标的点群进行测量;假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID;对于所有位置和所有姿势,获取变换为模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;以及第一优化步骤,将所述极大值的所述三维传感器的位置姿势用作初始值,进行所述三维传感器的位置姿势的优化,以使得将由所述三维传感器测量得到的点群变换为所述模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的点群间距离的平方和成为最小。
方案7的三维物体识别方法的其特征在于,还具备以下步骤:对于由所述三维传感器获取的所述识别对象物的图像抽取所述识别对象物的边缘;和第二优化步骤,对于使用了与通过所述第一优化步骤得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓间距离的平方和的评价函数、或者与通过所述第一优化步骤得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓类似度的评价函数,将通过所述第一优化步骤得到的结果用作初始值来进行所述三维传感器的位置姿势的优化。
方案8的三维物体识别方法的特征在于,还具备以下步骤:对于由所述三维传感器获取的所述识别对象物的图像抽取所述识别对象物的边缘;以及第三优化步骤,对于合并了轮廓间距离的平方和以及点群间距离的平方和的评价函数,将通过所述第一优化步骤得到的结果用作初始值来进行所述三维传感器的位置姿势的优化,所述轮廓间距离是与通过所述第一优化步骤得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的距离,所述点群间距离是将由所述三维传感器测量得到的点群变换为所述模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的距离。
方案9的三维物体识别方法的特征在于,具备以下步骤:将距离场存储到距离场存储单元,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;通过三维传感器对表示所述识别对象物的表面点的三维坐标的点群进行测量以及获取所述识别对象物的图像;假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID;对于所有位置和所有姿势,获取变换为所述模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;对于由所述三维传感器获取的所述识别对象物的图像抽取所述识别对象物的边缘;以及第二优化步骤,对于使用了与所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓间距离的平方和的评价函数、或者与所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓类似度的评价函数,将所述极大值的所述三维传感器的位置姿势用作初始值来进行所述三维传感器的位置姿势的优化。
方案10的三维物体识别方法的特征在于,具备以下步骤:将距离场存储到距离场存储单元,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;通过三维传感器对表示所述识别对象物的表面点的三维坐标的点群进行测量以及获取所述识别对象物的图像;假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者表示到该最近点的距离以及表示所述最近点的ID;对于所有位置和所有姿势,获取变换为所述模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;对于由所述三维传感器获取的所述识别对象物的图像抽取所述识别对象物的边缘;以及第三优化步骤,对于合并了轮廓间距离的平方和以及点群间距离的平方和进行合的评价函数,将所述极大值的所述三维传感器的位置姿势用作初始值来进行所述三维传感器的位置姿势的优化,所述轮廓间距离是与所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的距离,所述点群间距离是将由所述三维传感器测量得到的点群变换为所述模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的距离。
发明的效果
根据方案1和6所述的发明,预先制作并存储距离场,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID。并且,假定三维传感器的位置姿势,将由三维传感器测量得到的表示识别对象物的表面点的三维坐标的点群变换为模型坐标系,将变换后的各测量点放入对应的所述距离场的各个三维像素,由此从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID,从而获取点群间距离来进行关于三维传感器的位置姿势的点群间的类似度评价。通过对三维传感器的所有位置姿势进行该评价,从而求出其极大值。这样,使用由三维传感器测量得到的点群求出关于三维传感器的位置姿势的点群间类似度评价中的极大值,因此能够大致进行位置姿势的全部搜索,能够提高处理速度。另外,由于使用距离场,因此通过将各测量点放入对应的各个三维像素,能够容易地从各个三维像素获取到三维模型表面的最近点的距离,因此搜索效率得以提高,能够提高处理速度。
根据方案2和7所述的发明,获取点群间距离,将根据其结果求出的极大值的所述三维传感器的位置姿势用作初始值,进行优化使得点群间距离的平方和成为最小,然后,进一步在使用了轮廓间距离的平方和的评价函数或者轮廓类似度的评价函数中使用该优化的结果作为初始值来进行三维传感器的位置姿势的优化,因此能够更高精度地进行位置姿势的识别。
根据方案3和8所述的发明,获取点群间距离,将根据其结果求出的极大值的所述三维传感器的位置姿势用作初始值,进行优化使得点群间距离的平方和成为最小,然后,进一步在合并了轮廓间距离的平方和以及点群间距离的平方和的评价函数中使用该优化的结果作为初始值来进行三维传感器的位置姿势的优化,因此能够更高精度地进行位置姿势的识别。
根据方案4和9所述的发明,获取点群间距离,将根据其结果求出的极大值的所述三维传感器的位置姿势作为初始值而用于使用了轮廓间距离的平方和的评价函数或者轮廓类似度的评价函数来进行三维传感器的位置姿势的优化,因此能够提高处理速度,并且能够高精度地进行位置姿势的识别。
根据方案5和10所述的发明,算出点群间距离的平方和,将根据其算出结果求出的极大值的所述三维传感器的位置姿势作为初始值而用于合并了轮廓间距离的平方和以及点群间距离的平方和的评价函数来进行三维传感器的位置姿势的优化,因此能够提高处理速度,并且能够高精度地进行位置姿势的识别。
附图说明
图1是表示本发明的第一实施方式所涉及的三维物体识别装置的结构的一例的概略示意图。
图2是表示第一实施方式所涉及的三维物体识别装置的处理流程的流程图。
图3是用于说明距离场(distance field)的概略说明图。
图4是用于说明距离图(distance map)的概略说明图。
图5是用于说明三维传感器的位置姿势的全部搜索的概略说明图。
图6是表示本发明的第二实施方式所涉及的三维物体识别装置的结构的一例的概略示意图。
图7是表示第二实施方式所涉及的三维物体识别装置的处理流程的流程图。
图8是表示本发明的第三实施方式所涉及的三维物体识别装置的结构的一例的概略示意图。
图9是表示第三实施方式所涉及的三维物体识别装置的处理流程的流程图。
具体实施方式
以下,参照附图说明本发明的第一实施方式所涉及的三维物体识别装置1。如图1所示,三维物体识别装置1是用于对载置在工作台2上的具有三维形状的识别对象物3进行识别的装置,该三维物体识别装置1具备:三维传感器4,其用于对表示该识别对象物3的表面点的三维坐标的点群进行测量以及获取识别对象物3的图像;机械手5,其用于把持识别对象物3;以及计算机6,其根据从三维传感器4输入的点群数据和/或图像来控制机械手5的动作。
作为三维传感器4例如是具备光投射单元(未图示)和立体摄像机(未图示)的传感器,所述光投射单元对识别对象物3投射图案光,所述立体摄像机包括将被投射了该图案光的识别对象物3设于不同的位置的基准摄像机和参照摄像机,作为三维传感器4,在由该立体摄像机拍摄得到的多个图像之间确定对应的像素,对建立了对应的基准图像上的像素与参照图像上的像素的位置差(视差)应用三角测量的原理,由此测量从基准摄像机到与该像素对应的测量对象物上点的距离来获取识别对象物3的三维点群。另外,也可以代替这样的三维传感器4而应用测量三维点群的以往公知的技术。
如图1所示,计算机6具有:图像存储器7,其存储由三维传感器得到的图像数据等;硬盘8,其存储用于对识别对象物3进行识别的处理程序等;RAM(Random Access Memory:随机存取存储器)9,其临时存储从该硬盘8读出的处理程序;CPU(Central Processing Unit:中央处理单元)10,其按照该处理程序进行三维识别处理;显示部11,其用于显示存储在图像存储器7中的图像数据、CPU 10的算出结果等;操作部12,其由鼠标、键盘等构成;以及***总线13,其将这些各部相互连接。在本实施方式中,示出了将对三维物体3进行识别的处理程序存储于硬盘8的例子,但也可以代替该结构而构成为:将处理程序存储于计算机可读取的存储介质(未图示),从该存储介质读出处理程序。
以下,使用图2的流程图来说明三维物体识别装置1的处理流程。如图2所示,在本实施方式所涉及的三维物体识别装置1中,首先,离线制作识别对象物3的三维模型以及距离场,并分别存储到三维模型存储单元14以及距离场存储单元15(S101、S102)。识别对象物3的三维模型具有轮廓点数据,利用三维CAD等来制作。在此,将所有姿势(三个自由度)的三维模型存储到三维模型存储单元14(S101)。
如图3所示,距离场17是将识别对象物3的三维模型置于中心的三维空间分割为多个三维像素(voxel)18而在该各个三维像素18记录了到三维模型的表面的三维的最近点(欧几里得距离最小)的距离(平方)以及表示该最近点的ID。在图3中,对于包含三维模型的表面的三维像素18a,画斜线来表示。因而,对于画斜线的三维像素18a,该三维像素18a本身为最近点,因此作为距离而记录零。这样的距离场17被存储于距离场存储单元15(S102),在评价后述的三维传感器4的位置姿势时加以使用。例如可以根据1995年12月发刊的电子信息通信学会论文志Vol.J78、No.12的“欧几里得距离变换算法的高效化”(加藤敏洋、平田富夫、齐藤丰文、吉濑谦二、第1750~1757页)记载的方法来制作该距离场17,在此省略其详细的制作方法的说明。在本实施方式中,考虑距离场存储单元15的容量的负担等,在各个三维像素18记录了到最近点的距离的平方,但也可以记录到最近点的距离本身。
接着,通过三维传感器对表示识别对象物的表面点的三维坐标的点群进行测量以及获取识别对象物3的图像(S103)。此时,由三维传感器测量到的点群为三维模型的何处尚不清楚。另外,虽然通过三维传感器4的测量能得到点群,但是不知道是以哪种位置姿势测量了点群。因此,在坐标系变换单元21中,假定三维传感器的位置姿势,将由三维传感器测量得到的点群变换为设定于三维模型的模型坐标系(S104)。
然后,在最近点距离获取单元22中,通过将变换为该模型坐标系的测量点分别放入到预先制作的距离场17的对应的三维像素18,从各个三维像素18获取表示最近点的ID以及到最近点的距离(S105)。
在位置姿势评价单元23中,如以下式(1)的点群间类似度评价函数所示,算出变换为模型坐标系的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的点群间距离的平方和,评价三维传感器4的位置姿势。通过对所有位置和所有姿势反复进行该位置姿势的评价处理,并进行非极值抑制,由此求出关于三维传感器4的位置姿势的点群间类似度评价中的极大值(S106),所述所有位置是对于三维传感器4的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器4的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势。图5是概略地表示三维传感器4测量识别对象物3时的位置姿势的图,XM表示模型坐标系,XC表示传感器坐标系。另外,三维传感器4的姿势由纬度α、经度β、绕Zc轴的旋转γ来表示。如图5所示,在该位置姿势评价单元23中,使用式(1)对三维传感器4的所有位置姿势(六个自由度)进行评价。
[式1]
其中,
N:三维测量点的总数
R:表示传感器坐标系与模型坐标系之间的旋转的旋转矩阵
t:表示传感器坐标系与模型坐标系的平移的平移矢量(translationvector)
τDF:对于点群间距离的阈值
接着,在第一优化单元24中,将通过S106的处理求出的极大值的三维传感器4的位置姿势作为初始值来使用于由以下式(2)表示的评价函数C1,对三维传感器4的位置姿势进行优化以使得其平方和成为最小(S107)。评价函数C1是使用了通过坐标系变换单元21变换为模型坐标系的各测量点和由最近点距离获取单元22获取的与各测量点对应的各个三维像素18所记录的最近点之间的点群间距离的平方和的评价函数,在第一优化单元24中,作为优化的方案,例如可以使用以往公知的ICP(Iterative Closest Point:迭代最近点)法、马夸特(Marquardt)法。
[式2]
接着,在边缘抽取单元25中,针对由三维传感器4获取的识别对象物3的图像抽取识别对象物的边缘(S108),制作距离图19。如图4所示,距离图19是针对由三维传感器4获取的识别对象物3的图像,抽取识别对象物的边缘20a(用斜线表示的部分),在构成图像的各像素20记录了抽取出的边缘20a中到最近的最近点的距离(平方和)以及表示该最近边缘点的ID。该距离图19是以二维方式表现的距离图,距离场17是以三维方式表现的,在这一点两者不同,但是与距离场17同样地,能够根据上述论文志所记载的方法来制作距离图19。这样制作的距离图19被存储到距离图存储单元16。
然后,在第二优化单元26中,将通过S107的处理优化后的旋转矩阵R以及平移矢量t作为初始值,使用于由以下式(3)表示的评价函数C2来进行三维传感器的位置姿势的优化(S109)。该评价函数C2是使用了与由第一优化单元24得到的三维传感器4的位置姿势相符的射影到图像上的三维模型的轮廓点与抽取出的图像上的边缘点之间的轮廓间距离的平方和的评价函数。能够从通过S108的边缘抽取处理制作的距离图19读出与该轮廓点对应的图像上的边缘点。在该第二优化单元26中,通过在评价函数C2使用以往公知的马夸特法来进行优化。在S109的处理中,将这样通过第一优化单元24得到的结果作为初始值,使用于利用了轮廓间距离的平方和的评价函数C2来进行优化,因此能够高精度地进行位置姿势的识别。
[式3]
J:三维模型的轮廓点的总点数
矢量
p:从三维坐标向图像坐标的射影函数
wj:用于进行将超过了距离阈值的点忽略等的控制的权重系数
在本实施方式中,作为第二优化单元26,使用利用了由式(3)表示的轮廓间距离的平方和的评价函数C2来进行三维传感器4的位置姿势的优化,但也可以代替利用了轮廓间距离的平方和的评价函数C2而使用利用了如式(4)的轮廓类似度的评价函数S来进行三维传感器4的位置姿势的优化。
[式4]
其中,
θmj:射影到图像上的轮廓点的倾斜角度
τd:对于轮廓间距离的差的阈值
τθ:对于倾斜角度的差的阈值
ws:用于取得S1(j)与S2(j)的平衡的权重系数
评价函数S是表示与由第一优化单元24得到的三维传感器4的位置姿势相符的射影到图像上的三维模型的轮廓点和图像上的边缘点之间的轮廓类似度的函数,在S1(j)中,在射影到图像上的三维模型的轮廓点与离该轮廓点最近的边缘点的差较小时,输出接近1的数字,随着差变大而输出接近0的结果。并且,在该差的绝对值大于预先设定的阈值τd的情况下,将0作为输出结果。通过参照距离图19,能够获取离射影到图像上的三维模型的轮廓点最近的边缘点,但也可以构成为使用其它以往公知的方法来得到离轮廓点最近的边缘点。另外,在S2(j)中,在射影到图像上的三维模型的轮廓点的倾斜角度与离轮廓点最近的边缘点的倾斜角度的差较小时,输出接近1的数字,随着差变大而输出接近0的结果。并且,在该差的绝对值大于预先设定的阈值τθ的情况下,将0作为输出结果。将这样的由第一优化单元24得到的结果作为初始值而使用于评价函数S中,以比S106的处理中使用的间隔窄的间隔对三维传感器4的位置姿势进行采样,对各个位置姿势的类似度进行评价,求出其中类似度S最大的三维传感器4的位置姿势,由此进行三维传感器4的位置姿势的优化。
另外,在本实施方式中,在距离场17的各个三维像素18记录了到三维模型的表面的三维的最近点(欧几里得距离最小)的距离(平方)以及表示该最近点的ID,但也可以在该各个三维像素18还记录与最近点的三维模型的表面垂直的方向即法线方向的信息,也使用该法线方向的信息来进行位置姿势的评价。另外,在作为第一优化单元24中的优化的方案而使用马夸特法的情况下,在各个三维像素18至少记录到最近点的距离即可,也可以省略表示最近点的ID。另外,将距离图19用作了对图像上的距离进行评价的手段,但不限于此,除此以外也可以使用以往公知的方法。另外,为了提高处理速度,也可以在得到了S107的第一优化的结果的时刻结束处理。
接着,使用图6和图7来说明第二实施方式所涉及的三维物体识别装置1a。如图6所示,第二实施方式所涉及的三维物体识别装置1a具备与第一实施方式所涉及的三维物体识别装置1大致同样的结构,该三维物体识别装置1a中代替第二优化单元26而具备第三优化单元27。因而,对与第一实施方式所涉及的三维物体识别装置1同样的结构等标记相同的标号,并省略其详细的说明。
如图7的流程图所示,在第二实施方式所涉及的三维物体识别装置1a中,在第二优化单元26的处理(S109)之前,也进行与第一实施方式同样的处理(S201~S208)。之后,在三维物体识别装置1a中,将由第一优化单元24优化得到的旋转矩阵R以及平移矢量t用作初始值,通过第三优化单元27进行优化(S209)。在该第三优化单元27中,代替在第二优化单元26中使用的评价函数C2,使用由以下式(5)表示的评价函数C3来进行三维传感器4的位置姿势的优化。该评价函数C3是合并了轮廓间距离的平方和以及点群间距离的平方和的评价函数,所述轮廓间距离是与由第一优化单元24得到的三维传感器4的位置姿势相符的射影到图像上的三维模型的轮廓点和图像上的边缘点之间的距离,所述点群间距离是由三维传感器4测量得到的点群被坐标变换单元21变换为模型坐标系后的各测量点和由最近点距离获取单元22获取的与各测量点对应的各个三维像素18所记录的最近点之间的距离。通过在这样的合并了轮廓间距离的平方和以及点群间距离的平方和的评价函数C3使用由第一优化单元24优化后的旋转矩阵R以及平移矢量t来作为初始值而进行三维传感器4的位置姿势的优化,由此能够高精度地进行位置姿势的识别。在第三优化单元27中,也通过对于评价函数C3使用以往公知的马夸特法来进行优化。
[式5]
w:用于取得在三维空间中评价的距离与在二维图像上评价的距离的平衡的权重系数
另外,也可以代替在第三优化单元27中使用的评价函数C3而使用由以下式(6)表示的评价函数C4来进行优化。该评价函数C4也与评价函数C3同样地,是合并了轮廓间距离和点群间距离这两者的评价函数,具体而言,是合并了与由第一优化单元24得到的三维传感器4的位置姿势相符的射影到图像上的三维模型的轮廓点和图像上的边缘点之间的轮廓间距离的平方和、以及针对三维传感器4的位置姿势将由坐标变换单元21变换为模型坐标系的各测量点和由最近点距离获取单元22获取的与各测量点对应的各个三维像素18所记录的最近点分别射影到图像上而得到的图像上的距离的平方和。在该评价函数C4使用由第一优化单元24得到的结果来作为初始值而进行优化。在该情况下,也通过在评价函数C4使用以往公知的马夸特法来进行优化。
[式6]
接着,使用图8和图9说明第三实施方式所涉及的三维物体识别装置1b。如图8所示,第三实施方式所涉及的三维物体识别装置1b具备与第一实施方式所涉及的三维物体识别装置1大致同样的结构,与三维物体识别装置1的结构的不同点在于省略了第一优化单元24。因而,对与第一实施方式所涉及的三维物体识别装置1同样的结构等标记相同的标号,并省略其详细的说明。
如图9所示,在第三实施方式所涉及的三维物体识别装置1b中,在由位置姿势评价单元23进行的处理之前,也进行与第一实施方式同样的处理(S301~S306)。之后,如图4所示,在三维物体识别装置1b中,制作距离图19,将该距离图19存储到距离图存储单元16(S307),该距离图19针对由三维传感器4获取的识别对象物3的图像抽取识别对象物的边缘20a(用斜线表示的部分),在构成图像的各像素20记录了到抽取出的边缘20a中最近的最近边缘点的距离(平方)以及表示该最近边缘点的ID。
然后,在第二优化单元26中,对于由式(3)表示的评价函数C2,将由位置姿势评价单元23求出的极大值的三维传感器4的位置姿势用作初始值来进行三维传感器4的位置姿势的优化(S309),所述式(3)使用了与由位置姿势评价单元23求出的关于三维传感器4的位置姿势的点群间类似度评价中的极大值相符的射影到图像上的三维模型的轮廓点与所述图像上的边缘点之间的轮廓间距离的平方和。这样在第三实施方式所涉及的三维物体识别装置1b中,在通过位置姿势评价单元23求出了极大值之后,将求出的极大值的三维传感器4的位置姿势用作初始值来通过第二优化单元26进行优化,而不通过第一优化单元24进行优化,因此能够提高处理速度,并且能够进行高精度的识别。
在本实施方式中,在通过位置姿势评价单元23求出极大值之后,通过第二优化单元26使用评价函数C2来进行优化,但也可以代替评价函数C2而使用利用了由式(4)表示的轮廓类似度的评价函数S来进行三维传感器4的位置姿势的优化。另外,当然也可以构成为:在通过位置姿势评价单元23求出极大值之后,代替第二优化单元26而通过第三优化单元27使用评价函数C3或者C4来进行优化。
另外,在上述说明中,以在载置于工作台2的识别对象物3的周围设定三维传感器4的情况为例进行了说明,但在对如房间那样的三维物体的内部进行识别的情况下,通过将三维传感器4设定在房间的内部,观察房间的墙壁来进行同样的处理,也能够确定三维传感器4的位置姿势。
另外,本发明的实施方式不限于上述方式,不言而喻,当然可以在不脱离本发明的思想的范围内进行适当的变更。
产业上的可利用性
本发明所涉及的三维物体识别装置以及三维物体识别方法能够有效利地作为用于对生产线等上的部件等进行识别的技术来加以利用。另外,也能够有效地作为服务机器人在房间内等确定自己的位置姿势的技术来加以利用。
标号说明
1、1a:三维物体识别装置;3:识别对象物;4:三维传感器;14:三维模型存储单元;15:距离场存储单元;16:距离图存储单元;17:距离场;18:三维像素;19:距离图;20:像素;21:坐标系变换单元;22:最近点距离获取单元;23:位置姿势评价单元;24:第一优化单元;25:边缘抽取单元;26:第二优化单元;27:第三优化单元。
Claims (10)
1.一种三维物体识别装置,其特征在于,具备:
距离场存储单元,其存储距离场,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
三维传感器,其对表示所述识别对象物的表面点的三维坐标的点群进行测量;
坐标系变换单元,其假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;
最近点距离获取单元,其通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
位置姿势评价单元,其对于所有位置和所有姿势,获取由所述坐标系变换单元变换为模型坐标系后的各测量点和由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;以及
第一优化单元,其将由所述位置姿势评价单元求出的所述极大值的所述三维传感器的位置姿势用作初始值,进行所述三维传感器的位置姿势的优化,以使得由所述坐标系变换单元变换为模型坐标系后的各测量点与由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的点群间距离的平方和成为最小。
2.根据权利要求1所述的三维物体识别装置,其特征在于,还具备:
边缘抽取单元,其通过所述三维传感器来获取所述识别对象物的图像,对于该图像抽取所述识别对象物的边缘;和
第二优化单元,其对于使用了与由所述第一优化单元得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓间距离的平方和的评价函数、或者与由所述第一优化单元得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓类似度的评价函数,将由所述第一优化单元得到的结果用作初始值来进行所述三维传感器的位置姿势的优化。
3.根据权利要求1所述的三维物体识别装置,其特征在于,还具备:
边缘抽取单元,其通过所述三维传感器来获取所述识别对象物的图像,对于该图像抽取所述识别对象物的边缘;和
第三优化单元,其对于合并了轮廓间距离的平方和以及点群间距离的平方和的评价函数,将由所述第一优化单元得到的结果用作初始值来进行所述三维传感器的位置姿势的优化,所述轮廓间距离为与由所述第一优化单元得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的距离,所述点群间距离为由所述三维传感器测量得到的点群被所述坐标变换单元变换为所述模型坐标系后的各测量点和由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的距离。
4.一种三维物体识别装置,其特征在于,具备:
距离场存储单元,其存储距离场,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
三维传感器,其对表示所述识别对象物的表面点的三维坐标的点群进行测量以及获取所述识别对象物的图像;
坐标系变换单元,其假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;
最近点距离获取单元,其通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
位置姿势评价单元,其对于所有位置和所有姿势,获取由所述坐标系变换单元变换为模型坐标系后的各测量点与由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;
边缘抽取单元,其对于由所述三维传感器获取的所述图像抽取所述识别对象物的边缘;以及
第二优化单元,其对于使用了与由所述位置姿势评价单元求出的所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓间距离的平方和的评价函数、或者与由所述位置姿势评价单元求出的所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓类似度的评价函数,将由所述位置姿势评价单元求出的所述极大值的所述三维传感器的位置姿势用作初始值来进行所述三维传感器的位置姿势的优化。
5.一种三维物体识别装置,其特征在于,具备:
距离场存储单元,其存储距离场,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
三维传感器,其对表示所述识别对象物的表面点的三维坐标的点群进行测量以及获取所述识别对象物的图像;
坐标系变换单元,其假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;
最近点距离获取单元,其通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
位置姿势评价单元,其对于所有位置和所有姿势,获取由所述坐标系变换单元变换为模型坐标系后的各测量点与由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;
边缘抽取单元,其由所述三维传感器获取所述识别对象物的图像,对于该图像抽取所述识别对象物的边缘;以及
第三优化单元,其对于合并了轮廓间距离的平方和以及点群间距离的平方和的评价函数,将由所述位置姿势评价单元求出的所述极大值的所述三维传感器的位置姿势用作初始值来进行所述三维传感器的位置姿势的优化,所述轮廓间距离是与由所述位置姿势评价单元求出的所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的距离,所述点群间距离是由所述三维传感器测量得到的点群被所述坐标变换单元变换为所述模型坐标系后的各测量点和由所述最近点距离获取单元获取的与所述各测量点对应的各个三维像素所记录的最近点之间的距离。
6.一种三维物体识别方法,其特征在于,具备以下步骤:
将距离场存储到距离场存储单元,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
使用三维传感器对表示所述识别对象物的表面点的三维坐标的点群进行测量;
假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;
通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
对于所有位置和所有姿势,获取变换为模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;以及
第一优化步骤,将所述极大值的所述三维传感器的位置姿势用作初始值,进行所述三维传感器的位置姿势的优化,以使得将由所述三维传感器测量得到的点群变换为所述模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的点群间距离的平方和成为最小。
7.根据权利要求6所述的三维物体识别方法,其特征在于,还具备以下步骤:
对于由所述三维传感器获取的所述识别对象物的图像抽取所述识别对象物的边缘;和
第二优化步骤,对于使用了与通过所述第一优化步骤得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓间距离的平方和的评价函数、或者与通过所述第一优化步骤得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓类似度的评价函数,将通过所述第一优化步骤得到的结果用作初始值来进行所述三维传感器的位置姿势的优化。
8.根据权利要求6所述的三维物体识别方法,其特征在于,还具备以下步骤:
对于由所述三维传感器获取的所述识别对象物的图像抽取所述识别对象物的边缘;以及
第三优化步骤,对于合并了轮廓间距离的平方和以及点群间距离的平方和的评价函数,将通过所述第一优化步骤得到的结果用作初始值来进行所述三维传感器的位置姿势的优化,所述轮廓间距离是与通过所述第一优化步骤得到的所述三维传感器的位置姿势相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的距离,所述点群间距离是将由所述三维传感器测量得到的点群变换为所述模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的距离。
9.一种三维物体识别方法,其特征在于,具备以下步骤:
将距离场存储到距离场存储单元,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
通过三维传感器对表示所述识别对象物的表面点的三维坐标的点群进行测量以及获取所述识别对象物的图像;
假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;
通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
对于所有位置和所有姿势,获取变换为所述模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;
对于由所述三维传感器获取的所述识别对象物的图像抽取所述识别对象物的边缘;以及
第二优化步骤,对于使用了与所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓间距离的平方和的评价函数、或者与所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的轮廓类似度的评价函数,将所述极大值的所述三维传感器的位置姿势用作初始值来进行所述三维传感器的位置姿势的优化。
10.一种三维物体识别方法,其特征在于,具备以下步骤:
将距离场存储到距离场存储单元,该距离场将识别对象物的三维模型置于中心的三维空间分割为多个三维像素,在该各个三维像素记录了到所述三维模型表面的最近点的距离或者到该最近点的距离以及表示所述最近点的ID;
通过三维传感器对表示所述识别对象物的表面点的三维坐标的点群进行测量以及获取所述识别对象物的图像;
假定所述三维传感器的位置姿势,将由所述三维传感器测量得到的点群变换为设定于所述三维模型的模型坐标系;
通过将变换为所述模型坐标系后的各测量点放入对应的所述距离场的各个三维像素,从该各个三维像素获取到所述最近点的距离或者表示到该最近点的距离以及表示所述最近点的ID;
对于所有位置和所有姿势,获取变换为所述模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的点群间距离,根据其结果来求出关于所述三维传感器的位置姿势的点群间类似度评价中的极大值,所述所有位置是对于所述三维传感器的位置的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有位置,所述所有姿势是对于所述三维传感器的姿势的三个自由度分别遍及其能够存在的范围而以预定间隔进行了采样的所有姿势;
对于由所述三维传感器获取的所述识别对象物的图像抽取所述识别对象物的边缘;以及
第三优化步骤,对于合并了轮廓间距离的平方和以及点群间距离的平方和进行合的评价函数,将所述极大值的所述三维传感器的位置姿势用作初始值来进行所述三维传感器的位置姿势的优化,所述轮廓间距离是与所述三维传感器的位置姿势的评价中的极大值相符的射影到所述图像上的所述三维模型的轮廓点和所述图像上的边缘点之间的距离,所述点群间距离是将由所述三维传感器测量得到的点群变换为所述模型坐标系后的各测量点和与该各测量点对应的各个三维像素所记录的最近点之间的距离。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010168493A JP4940461B2 (ja) | 2010-07-27 | 2010-07-27 | 3次元物体認識装置及び3次元物体認識方法 |
JP168493/2010 | 2010-07-27 | ||
PCT/JP2011/060867 WO2012014545A1 (ja) | 2010-07-27 | 2011-05-11 | 3次元物体認識装置及び3次元物体認識方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102472612A true CN102472612A (zh) | 2012-05-23 |
Family
ID=45529768
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2011800026665A Pending CN102472612A (zh) | 2010-07-27 | 2011-05-11 | 三维物体识别装置以及三维物体识别方法 |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP4940461B2 (zh) |
CN (1) | CN102472612A (zh) |
WO (1) | WO2012014545A1 (zh) |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104608136A (zh) * | 2013-11-05 | 2015-05-13 | 发那科株式会社 | 用机器人取出散乱堆积的物品的装置以及方法 |
CN105308412A (zh) * | 2014-04-07 | 2016-02-03 | 大邱庆北科学技术院 | 三维照射装置 |
CN105359163A (zh) * | 2013-07-01 | 2016-02-24 | 三菱电机株式会社 | 用于将基元形状拟合到3d点的集合的方法 |
CN106826809A (zh) * | 2015-11-30 | 2017-06-13 | 发那科株式会社 | 位置姿势测量装置以及机器人*** |
CN107615008A (zh) * | 2015-06-01 | 2018-01-19 | 新日铁住金株式会社 | 曲轴的检查方法和装置 |
CN107907593A (zh) * | 2017-11-22 | 2018-04-13 | 中南大学 | 一种超声检测中机械手防碰撞方法 |
CN109814492A (zh) * | 2017-11-22 | 2019-05-28 | 发那科株式会社 | 工具姿势控制装置 |
CN110316558A (zh) * | 2019-06-28 | 2019-10-11 | 武汉闻道复兴智能科技有限责任公司 | 一种搬运机器人夹具位置控制方法和*** |
WO2019210056A1 (en) * | 2018-04-26 | 2019-10-31 | Markforged, Inc. | System and method for minimizing deviations in 3d printed and sintered parts |
CN110682271A (zh) * | 2019-09-03 | 2020-01-14 | 贵州航天电器股份有限公司 | 一种用于圆形连接器生产线载具更换销钉的设备及方法 |
CN112789654A (zh) * | 2018-10-04 | 2021-05-11 | 日立安斯泰莫株式会社 | 摄像机装置 |
CN114467111A (zh) * | 2019-08-28 | 2022-05-10 | 日产自动车株式会社 | 物体识别方法及物体识别装置 |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2875820C (en) | 2012-07-04 | 2018-08-21 | Creaform Inc. | 3-d scanning and positioning system |
WO2014013363A1 (en) * | 2012-07-18 | 2014-01-23 | Creaform Inc. | 3-d scanning and positioning interface |
JP6370038B2 (ja) | 2013-02-07 | 2018-08-08 | キヤノン株式会社 | 位置姿勢計測装置及び方法 |
JP6192088B2 (ja) * | 2013-02-20 | 2017-09-06 | 国立大学法人九州工業大学 | 物体検出方法および物体検出装置 |
JP6198104B2 (ja) * | 2013-03-15 | 2017-09-20 | 株式会社三次元メディア | 3次元物体認識装置及び3次元物体認識方法 |
JP6271953B2 (ja) | 2013-11-05 | 2018-01-31 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
JP2015147256A (ja) * | 2014-02-04 | 2015-08-20 | セイコーエプソン株式会社 | ロボット、ロボットシステム、制御装置、及び制御方法 |
CN109689156B (zh) | 2016-08-08 | 2023-08-01 | 深部脑刺激技术有限公司 | 用于监测神经活动的***和方法 |
WO2018131163A1 (ja) | 2017-01-16 | 2018-07-19 | 富士通株式会社 | 情報処理装置、データベース生成装置、方法、プログラム、及び記憶媒体 |
CN111200967B (zh) | 2017-05-22 | 2023-06-06 | 深部脑刺激技术有限公司 | 用于监测神经活动的***和方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1293752A (zh) * | 1999-03-19 | 2001-05-02 | 松下电工株式会社 | 三维物体识别方法及使用该方法的零件抓取*** |
CN1928895A (zh) * | 2005-09-05 | 2007-03-14 | 株式会社东芝 | 图像识别装置及其方法 |
WO2009016808A1 (ja) * | 2007-07-27 | 2009-02-05 | Techno Dream 21 Co., Ltd. | 画像処理装置、画像処理方法およびプログラム |
CN101408931A (zh) * | 2007-10-11 | 2009-04-15 | Mv科技软件有限责任公司 | 用于三维目标识别的***和方法 |
JP2009128075A (ja) * | 2007-11-20 | 2009-06-11 | Ihi Corp | 物体認識方法 |
EP2169627A2 (en) * | 2008-09-24 | 2010-03-31 | Canon Kabushiki Kaisha | Model generation apparatus and method |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009218075A (ja) * | 2008-03-10 | 2009-09-24 | Hoshizaki Electric Co Ltd | 電磁調理器 |
JP5335280B2 (ja) * | 2008-05-13 | 2013-11-06 | キヤノン株式会社 | 位置合わせ処理装置、位置合わせ方法、プログラム、及び記憶媒体 |
-
2010
- 2010-07-27 JP JP2010168493A patent/JP4940461B2/ja active Active
-
2011
- 2011-05-11 CN CN2011800026665A patent/CN102472612A/zh active Pending
- 2011-05-11 WO PCT/JP2011/060867 patent/WO2012014545A1/ja active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1293752A (zh) * | 1999-03-19 | 2001-05-02 | 松下电工株式会社 | 三维物体识别方法及使用该方法的零件抓取*** |
CN1928895A (zh) * | 2005-09-05 | 2007-03-14 | 株式会社东芝 | 图像识别装置及其方法 |
WO2009016808A1 (ja) * | 2007-07-27 | 2009-02-05 | Techno Dream 21 Co., Ltd. | 画像処理装置、画像処理方法およびプログラム |
CN101408931A (zh) * | 2007-10-11 | 2009-04-15 | Mv科技软件有限责任公司 | 用于三维目标识别的***和方法 |
JP2009128075A (ja) * | 2007-11-20 | 2009-06-11 | Ihi Corp | 物体認識方法 |
EP2169627A2 (en) * | 2008-09-24 | 2010-03-31 | Canon Kabushiki Kaisha | Model generation apparatus and method |
Non-Patent Citations (1)
Title |
---|
王莹等: "改进的基于结构光投影的三维物体识别", 《光电子 激光》 * |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105359163A (zh) * | 2013-07-01 | 2016-02-24 | 三菱电机株式会社 | 用于将基元形状拟合到3d点的集合的方法 |
US9434070B2 (en) | 2013-11-05 | 2016-09-06 | Fanuc Corporation | Apparatus and method for picking up article randomly piled using robot |
CN104608136A (zh) * | 2013-11-05 | 2015-05-13 | 发那科株式会社 | 用机器人取出散乱堆积的物品的装置以及方法 |
CN105308412B (zh) * | 2014-04-07 | 2018-04-17 | 大邱庆北科学技术院 | 三维照射装置 |
CN105308412A (zh) * | 2014-04-07 | 2016-02-03 | 大邱庆北科学技术院 | 三维照射装置 |
CN107615008A (zh) * | 2015-06-01 | 2018-01-19 | 新日铁住金株式会社 | 曲轴的检查方法和装置 |
CN106826809A (zh) * | 2015-11-30 | 2017-06-13 | 发那科株式会社 | 位置姿势测量装置以及机器人*** |
CN106826809B (zh) * | 2015-11-30 | 2018-04-10 | 发那科株式会社 | 位置姿势测量装置以及机器人*** |
US10055805B2 (en) | 2015-11-30 | 2018-08-21 | Fanuc Corporation | Device for measuring positions and postures of plurality of articles, and robot system having the device |
CN107907593A (zh) * | 2017-11-22 | 2018-04-13 | 中南大学 | 一种超声检测中机械手防碰撞方法 |
CN109814492A (zh) * | 2017-11-22 | 2019-05-28 | 发那科株式会社 | 工具姿势控制装置 |
CN109814492B (zh) * | 2017-11-22 | 2024-05-14 | 发那科株式会社 | 工具姿势控制装置 |
WO2019210056A1 (en) * | 2018-04-26 | 2019-10-31 | Markforged, Inc. | System and method for minimizing deviations in 3d printed and sintered parts |
US10814558B2 (en) | 2018-04-26 | 2020-10-27 | Markforged, Inc. | System and method for minimizing deviations in 3D printed and sintered parts |
CN112789654A (zh) * | 2018-10-04 | 2021-05-11 | 日立安斯泰莫株式会社 | 摄像机装置 |
CN110316558A (zh) * | 2019-06-28 | 2019-10-11 | 武汉闻道复兴智能科技有限责任公司 | 一种搬运机器人夹具位置控制方法和*** |
CN114467111A (zh) * | 2019-08-28 | 2022-05-10 | 日产自动车株式会社 | 物体识别方法及物体识别装置 |
CN114467111B (zh) * | 2019-08-28 | 2023-08-22 | 日产自动车株式会社 | 物体识别方法及物体识别装置 |
CN110682271A (zh) * | 2019-09-03 | 2020-01-14 | 贵州航天电器股份有限公司 | 一种用于圆形连接器生产线载具更换销钉的设备及方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2012026974A (ja) | 2012-02-09 |
WO2012014545A1 (ja) | 2012-02-02 |
JP4940461B2 (ja) | 2012-05-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102472612A (zh) | 三维物体识别装置以及三维物体识别方法 | |
CN110426051B (zh) | 一种车道线绘制方法、装置及存储介质 | |
CN107063228B (zh) | 基于双目视觉的目标姿态解算方法 | |
JP6760114B2 (ja) | 情報処理装置、データ管理装置、データ管理システム、方法、及びプログラム | |
JP5393531B2 (ja) | 位置姿勢推定装置、位置姿勢推定方法、プログラム、記憶媒体 | |
WO2018177159A1 (zh) | 运动物体的位置确定方法及*** | |
EP1870856A2 (en) | Information-processing method and apparatus for calculating information regarding measurement target on the basis of captured images | |
CN104596502A (zh) | 一种基于cad模型与单目视觉的物***姿测量方法 | |
CN103759716A (zh) | 基于机械臂末端单目视觉的动态目标位置和姿态测量方法 | |
CN104677330A (zh) | 一种小型双目立体视觉测距*** | |
CN111279354A (zh) | 图像处理方法、设备及计算机可读存储介质 | |
CN112697044B (zh) | 一种基于无人机平台的静态刚性物体视觉测量方法 | |
CN104134220A (zh) | 一种像方空间一致性的低空遥感影像高精度匹配方法 | |
CN112509036B (zh) | 位姿估计网络训练及定位方法、装置、设备、存储介质 | |
CN112837352A (zh) | 基于图像的数据处理方法、装置及设备、汽车、存储介质 | |
US6175648B1 (en) | Process for producing cartographic data by stereo vision | |
CN115371665B (zh) | 一种基于深度相机和惯性融合的移动机器人定位方法 | |
CN114677435A (zh) | 一种点云全景融合要素提取方法和*** | |
CN113034581A (zh) | 基于深度学习的空间目标相对位姿估计方法 | |
CN115457130A (zh) | 一种基于深度关键点回归的电动汽车充电口检测定位方法 | |
CN112907633B (zh) | 动态特征点识别方法及其应用 | |
Panahandeh et al. | Vision-aided inertial navigation using planar terrain features | |
JP5462662B2 (ja) | 位置姿勢計測装置、物体識別装置、位置姿勢計測方法及びプログラム | |
JP6198104B2 (ja) | 3次元物体認識装置及び3次元物体認識方法 | |
US11544914B2 (en) | Annotation of 3D models with signs of use visible in 2D images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20120523 |