CN112947304A - 智能相机多核异构片上集成***及视觉控制方法 - Google Patents

智能相机多核异构片上集成***及视觉控制方法 Download PDF

Info

Publication number
CN112947304A
CN112947304A CN202110254918.9A CN202110254918A CN112947304A CN 112947304 A CN112947304 A CN 112947304A CN 202110254918 A CN202110254918 A CN 202110254918A CN 112947304 A CN112947304 A CN 112947304A
Authority
CN
China
Prior art keywords
chip
visual
module
control
motion control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110254918.9A
Other languages
English (en)
Inventor
谷朝臣
杨舒盛
位广宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Suzhou Hualu Industrial Control Technology Co ltd
Original Assignee
Shanghai Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Jiaotong University filed Critical Shanghai Jiaotong University
Priority to CN202110254918.9A priority Critical patent/CN112947304A/zh
Publication of CN112947304A publication Critical patent/CN112947304A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4065Monitoring tool breakage, life or condition
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/37Measurements
    • G05B2219/37616Use same monitoring tools to monitor tool and workpiece

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Manufacturing & Machinery (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Studio Devices (AREA)

Abstract

本发明提供了一种智能相机多核异构片上集成***及视觉控制方法,在一颗多核异构芯片中,通过片内计算资源分配,将视觉采集、视觉处理和运动控制任务进行片上集成,实现视觉闭环控制方法的单颗芯片异构并行计算。本发明能够实现视觉控制***的流水线式数据处理以达到更高的时间同步精度,同时降低了视觉控制***的应用难度和部署成本,提高了视觉控制***的控制精度和可靠性,并通过无线传输等技术扩展了视觉控制***的算法改写柔性和边缘端应用场景。

Description

智能相机多核异构片上集成***及视觉控制方法
技术领域
本发明涉及视觉感知与智能控制技术领域,具体地,涉及一种智能相机多核异构片上集成***及视觉控制方法。
背景技术
智能相机是近年来发展起来的一种高度集成的视觉控制器,目前智能相机多采用X86架构,其通常使用场景如交通监控、图像检测等,主要完成视觉计算功能。对于视觉抓取、目标跟踪等场景,多采用智能相机+PLC或者智能相机+网络型运动控制器等结构,由于操作***和非实时网络通信的不确定时延,整个***往往存在时延较大、周期不定的问题,难以保证***精准可靠运行;多个模块之间通过线缆连接,容易出现连接故障和通信干扰;程序变更需要多个模块同步更新,不利于边缘端部署,难以适应不同场景的柔性变更需求。
专利文献CN107272578A(申请号:CN201710528334.X)公开了一种基于多核处理器的视觉伺服控制***,包括运动执行***及连接于运动执行***的视觉反馈***,视觉伺服控制***还包括多核处理器,多核处理器分别连接运动执行***及视觉反馈***;多核处理器包括连接于所述视觉反馈***的第一多核处理器内核及连接于运动执行***的第二多核处理器内核,第一多核处理器通过共享内存模块连接于所述第二多核处理器内核。视觉伺服控制***的第一多核处理器内核及第二多核处理器内核分别对视觉反馈***及运行执行***进行数据处理。该专利的视觉反馈***包括数字摄像机、图像采集模块及图像处理模块,视觉采集模块未与视觉计算模块及运动计算模块集成于同一处理***,***成本及复杂度相对较高;且视觉计算与运动计算全部置于通用处理器进行,难以实现计算速度与功耗成本的平衡;在视觉伺服控制方面,当视觉计算任务较复杂时,未考虑视觉计算延迟对运动物体跟踪精度的影响。本发明则提出在一颗多核异构芯片中,进行视觉采集、视觉处理、运动控制任务等功能进行多核异构芯片内集成,进步简化视觉控制任务部署,提升视觉控制任务性能。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种智能相机多核异构片上集成***及视觉控制方法。
根据本发明提供的智能相机多核异构片上集成***,在一颗多核异构芯片中,通过片内计算资源分配,将视觉采集、视觉处理和运动控制任务进行片上集成,实现视觉闭环控制方法的单颗芯片异构并行计算。
优选的,所述视觉采集任务由片上FPGA通过图像传感协议采集图像传感模组数据,并在FPGA中实现图像数据格式转换、图像预处理和数据存储传输;
所述视觉处理任务从内存读取待计算图像数据,由片***处理器实现自定义视觉算法计算,由片上FPGA实现通用视觉算法加速;
所述运动控制任务由片上实时协处理器根据视觉计算结果实现自定义视觉-运动闭环控制算法计算,由片上FPGA通过实时总线协议或脉冲方式实现运动控制数据的收发。
优选的,所述片内中央处理器与实时协处理器之间以共享内存方式通信,片内FPGA与处理器之间通过片内高速总线通信。
优选的,所述片内中央处理器实现对实时协处理器与片内FPGA的程序管理,同时中央处理器与无线传输模块相连,实现中央处理器、协处理器与FPGA的程序根据使用场景进行远程管理与更换。
优选的,包括高速实时总线模块与多轴脉冲分发模块,用于兼容不同驱动器类型,根据运动控制模块的计算结果,向总线型驱动器或脉冲型驱动器发送相应控制消息,从而带动执行机构运动。
优选的,包括实时闭环反馈采集模块,用于采集各运动轴当前运动位置数据并进行数据的解码,以供运动控制模块根据当前各轴位置、速度及加速度信息,进行各轴的闭环运动控制量计算。
优选的,包括总线扩展与I/O模块,用于与其他外设及控制执行***连接,便于智能相机根据不同场景进行控制功能扩展。
优选的,包括存储模块,用于完成***配置信息、用户程序、计算过程中间量的存储,以及外部存储介质信息的读写。
优选的,包括用户交互模块,用于实现图像显示和传输、用户自定义视觉计算和运动控制算法调试及下载的交互功能。
根据本发明提供的基于智能相机多核异构片上集成的视觉控制方法,包括如下步骤:
视觉采集步骤:由片内FPGA采集图像传感模组原始图像数据并进行数据格式转换,得到通用图像数据格式,同时进行图像预处理与内存传输;
视觉处理步骤:片内高性能中央处理器读取内存中图像数据,根据自定义的视觉算法处理图像,利用FPGA进行图像通用处理算法加速,得到视觉控制指令和运动控制指令并存入内存;
运动控制步骤:片内实时协处理器读取内存中运动控制指令,根据指令进行自定义多轴闭环运动控制与多轴机器人逆运动学计算、运动控制指令分发以及其他预设范围内的控制执行指令下发;
存储步骤:对信号、图像、视觉算法和控制算法进行存储,以及外部存储介质信息的读写;
用户交互步骤:进行图像显示和传输。
优选的,采用视觉感知-运动控制双闭环控制结构抑制视觉***时延和机械***惯性滞后,通过内部定时器获取视觉采集和计算时延,并采用固定最小时延的策略进行视觉感知外环和运动控制内环联合建模和前馈补偿控制。
与现有技术相比,本发明具有如下的有益效果:
(1)本发明提供的智能相机多核异构片上集成方案,将视觉计算和运动控制等功能进行多核异构芯片内集成,极大的扩展了智能相机的控制能力和应用场景;
(2)本发明通过对多核异构芯片资源的合理分配,实现视觉控制任务各模块的片内并行计算,能够实现视觉控制***的流水线式数据处理以达到更高的时间同步精度,同时降低了视觉控制***的应用难度和部署成本,提高了视觉控制***的控制精度和可靠性,并通过无线传输等技术扩展了视觉控制***的算法改写柔性和边缘端应用场景。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1为本发明提供的智能相机多核异构片上集成方案的结构原理图。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变化和改进。这些都属于本发明的保护范围。
实施例:
如图1,为本发明实施例智能相机多核异构片上集成方案的结构原理图,本实施例提供了一种智能相机多核异构片上集成方案,包括:
图像数据采集模块,利用芯片内FPGA资源,通过MIPI图像传感接口采集图像传感模组原始数据,并进行RAW格式到RGB格式转换,并传送至图像预处理模块。
图像预处理模块,利用芯片内FPGA资源,对图像进行预处理,包括图像滤波、色彩校正等。
无线通信模块,利用芯片内高性能ARM处理器驱动WIFI模块,用于以远程无线的方式向视觉算法模块、运动算法模块和FPGA进行算法程序的固化,以更新算法程序的功能。
视觉算法模块,采用芯片内多核高性能ARM处理器,用于根据无线通信模块固化好的算法,读取DDR内存中预处理后图像,对图像进行相应计算,并利用FPGA资源进行算法加速,得出指定物体当前位置坐标等信息,并将结果转换为视觉控制指令和运动控制指令,通过AMP共享内存方式发送给视觉控制通信模块和运动算法模块。
视觉控制通信模块,用于对视觉处理结果的直接对外输出,以满足不同的视觉控制需求,采用工业以太网、工业现场总线将视觉处理结果输出。
运动控制模块,采用芯片内多核实时ARM处理器,用于根据视觉算法模块得出的运动控制指令,以及实时闭环反馈采集模块或高速实时总线模块的数据,进行多运动轴每一控制周期内闭环运动算法控制量的计算。
所述视觉算法模块、运动控制模块、图像预处理及视觉算法加速模块,其内部算法可根据使用场景及使用需求的不同更换,并通过无线通信模块远程进行算法更新。
视觉采集、视觉处理、运动控制任务集成于一颗多核异构SoC(片上***)芯片中,进行任务并行计算,任务之间以串联流水线的方式处理数据,形成视觉处理与运动控制的闭环回路;所述视觉采集任务由片上FPGA通过专用图像传感协议采集图像传感模组数据,并在FPGA中实现图像数据格式转换、图像预处理、数据存储传输;所述视觉处理任务从内存读取待计算图像数据,由片上高性能中央处理器实现自定义视觉算法计算,由片上FPGA实现通用视觉算法加速;所述运动控制任务由片上实时协处理器根据视觉计算结果实现自定义视觉-运动闭环控制算法计算,由片上FPGA通过实时总线协议或脉冲方式实现运动控制数据的收发。
本实施例中,多核异构SoC芯片采用ZYNQ UltraScale+MPSoC系列芯片,利用ZYNQ片内的FPGA资源进行图像数据采集及预处理,利用片内多核高性能ARM处理器进行视觉计算,利用FPGA进行算法加速,利用片内多核实时ARM处理器进行运动控制算法计算。
高速实时总线模块与多轴脉冲分发模块,用于兼容不同的驱动器类型,根据运动控制模块的计算结果,向总线型驱动器或脉冲型驱动器发送相应控制消息,带动执行机构运动。高速实时总线,采用EtherCAT、PowerLink等实时工业以太网,以降低消息发送的延时,提高***实时性。
实时闭环反馈采集模块,用于采集各运动轴当前运动位置数据,并进行数据的解码,以供运动控制模块根据当前各轴位置、速度及加速度等信息,进行各轴的闭环运动控制量计算。
总线扩展与I/O模块,用于与其他外设及控制执行***的连接,方便智能相机根据不同场景进行控制功能扩展。
存储模块,用于完成***配置信息、用户程序、计算过程中间量的存储,以及外部存储介质信息的读写。
用户交互模块,用于图像显示和传输、用户自定义视觉计算和运动控制算法调试及下载等交互功能。
根据本发明提供的一种片上视觉运动控制方法,采用视觉感知-运动控制双闭环控制结构抑制视觉***时延和机械***惯性滞后。视觉感知外环通过内部定时器获取视觉采集和计算时延,并采用固定最小时延的策略对视觉偏差量进行计算,利用基于奇异值分解的无迹卡尔曼滤波对偏差量进行一个控制周期的预测,同时根据图像雅可比矩阵进行图像与执行机构间控制量转换,运动控制内环利用跟踪微分器对给定信号进行平滑处理与微分量提取,利用扩张状态观测器进行扰动前馈抑制。
在本申请的描述中,需要理解的是,术语“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本申请和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本申请的限制。
本领域技术人员知道,除了以纯计算机可读程序代码方式实现本发明提供的***、装置及其各个模块以外,完全可以通过将方法步骤进行逻辑编程来使得本发明提供的***、装置及其各个模块以逻辑门、开关、专用集成电路、可编程逻辑控制器以及嵌入式微控制器等的形式来实现相同程序。所以,本发明提供的***、装置及其各个模块可以被认为是一种硬件部件,而对其内包括的用于实现各种程序的模块也可以视为硬件部件内的结构;也可以将用于实现各种功能的模块视为既可以是实现方法的软件程序又可以是硬件部件内的结构。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变化或修改,这并不影响本发明的实质内容。在不冲突的情况下,本申请的实施例和实施例中的特征可以任意相互组合。

Claims (10)

1.一种智能相机多核异构片上集成***,其特征在于,在一颗多核异构芯片中,通过片内计算资源分配,将视觉采集、视觉处理和运动控制任务进行片上集成,实现视觉闭环控制方法的单颗芯片异构并行计算。
2.根据权利要求1所述的智能相机多核异构片上集成***,其特征在于,所述视觉采集任务由片上FPGA通过图像传感协议采集图像传感模组数据,并在FPGA中实现图像数据格式转换、图像预处理和数据存储传输;
所述视觉处理任务从内存读取待计算图像数据,由片***处理器实现自定义视觉算法计算,由片上FPGA实现通用视觉算法加速;
所述运动控制任务由片上实时协处理器根据视觉计算结果实现自定义视觉-运动闭环控制算法计算,由片上FPGA通过实时总线协议或脉冲方式实现运动控制数据的收发。
3.根据权利要求1所述的智能相机多核异构片上集成***,其特征在于,所述片内中央处理器与实时协处理器之间以共享内存方式通信,片内FPGA与处理器之间通过片内高速总线通信。
4.根据权利要求1所述的智能相机多核异构片上集成***,其特征在于,所述片内中央处理器实现对实时协处理器与片内FPGA的程序管理,同时中央处理器与无线传输模块相连,实现中央处理器、协处理器与FPGA的程序根据使用场景进行远程管理与更换。
5.根据权利要求1所述的智能相机多核异构片上集成***,其特征在于,包括:
高速实时总线模块与多轴脉冲分发模块,用于兼容不同驱动器类型,根据运动控制模块的计算结果,向总线型驱动器或脉冲型驱动器发送相应控制消息,从而带动执行机构运动;
实时闭环反馈采集模块,用于采集各运动轴当前运动位置数据并进行数据的解码,以供运动控制模块根据当前各轴位置、速度及加速度信息,进行各轴的闭环运动控制量计算。
6.根据权利要求1所述的智能相机多核异构片上集成***,其特征在于,包括:
总线扩展与I/O模块,用于与其他外设及控制执行***连接,便于智能相机根据不同场景进行控制功能扩展。
7.根据权利要求1所述的智能相机多核异构片上集成***,其特征在于,包括:
存储模块,用于完成***配置信息、用户程序、计算过程中间量的存储,以及外部存储介质信息的读写。
8.根据权利要求7所述的智能相机多核异构片上集成***,其特征在于,包括:
用户交互模块,所述用户交互模块分别与图像预处理模块和存储模块相连接,用于实现图像显示和传输、用户自定义视觉计算和运动控制算法调试及下载的交互功能。
9.一种基于智能相机多核异构片上集成的视觉控制方法,其特征在于,采用权利要求1-8任一项所述的智能相机多核异构片上集成***,包括如下步骤:
视觉采集步骤:由片内FPGA采集图像传感模组原始图像数据并进行数据格式转换,得到通用图像数据格式,同时进行图像预处理与内存传输;
视觉处理步骤:片内高性能中央处理器读取内存中图像数据,根据自定义的视觉算法处理图像,利用FPGA进行图像通用处理算法加速,得到视觉控制指令和运动控制指令并存入内存;
运动控制步骤:片内实时协处理器读取内存中运动控制指令,根据指令进行自定义多轴闭环运动控制与多轴机器人逆运动学计算、运动控制指令分发以及其他预设范围内的控制执行指令下发;
存储步骤:对信号、图像、视觉算法和控制算法进行存储,以及外部存储介质信息的读写;
用户交互步骤:进行图像显示和传输。
10.根据权利要求9所述的基于智能相机多核异构片上集成的视觉控制方法,其特征在于,采用视觉感知-运动控制双闭环控制结构抑制视觉***时延和机械***惯性滞后,通过内部定时器获取视觉采集和计算时延,并采用固定最小时延的策略进行视觉感知外环和运动控制内环联合建模和前馈补偿控制。
CN202110254918.9A 2021-03-09 2021-03-09 智能相机多核异构片上集成***及视觉控制方法 Pending CN112947304A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110254918.9A CN112947304A (zh) 2021-03-09 2021-03-09 智能相机多核异构片上集成***及视觉控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110254918.9A CN112947304A (zh) 2021-03-09 2021-03-09 智能相机多核异构片上集成***及视觉控制方法

Publications (1)

Publication Number Publication Date
CN112947304A true CN112947304A (zh) 2021-06-11

Family

ID=76230401

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110254918.9A Pending CN112947304A (zh) 2021-03-09 2021-03-09 智能相机多核异构片上集成***及视觉控制方法

Country Status (1)

Country Link
CN (1) CN112947304A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113778031A (zh) * 2021-08-27 2021-12-10 北京和利时***工程有限公司 一种智能控制节点和数据传输方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113778031A (zh) * 2021-08-27 2021-12-10 北京和利时***工程有限公司 一种智能控制节点和数据传输方法

Similar Documents

Publication Publication Date Title
CN101592951B (zh) 分布式仿人机器人通用控制***
CN105643624B (zh) 一种机器视觉控制方法及机器人控制器与机器人控制***
CN104552311A (zh) 基于EtherCAT的智能工业机器人总线模块及其操作方法
CN112091978A (zh) 机械臂实时控制***
CN110412921B (zh) 基于EtherCAT的机器人单腿高实时性控制***
CN214751405U (zh) 多场景通用的边缘视觉运动控制***
CN104820418A (zh) 一种针对机械臂的嵌入式视觉***及其使用方法
CN109471435A (zh) 一种多异构移动机器人控制***
CN107942797A (zh) 基于sopc的嵌入式双核伺服控制器及其设计方法
CN104062935A (zh) 一种双框架磁悬浮变速控制力矩陀螺集成数字控制***
CN111028267A (zh) 一种移动机器人单目视觉跟随***及跟随方法
CN112947304A (zh) 智能相机多核异构片上集成***及视觉控制方法
CN111496774A (zh) 一种机器人分布式控制***及其方法
CN109454641B (zh) 一种运动控制器多任务分工及数据交互方法
CN214375997U (zh) 智能相机多核异构片上集成***
CN117473863A (zh) 面向无人***集群的多节点仿真测试方法和***
US11269313B2 (en) Controller and control system that stores data in current control cycle for output in next control cycle
CN111745645A (zh) 机器人控制方法、装置和***
CN108663958B (zh) 一种输电线巡检机器人的全自动耦合控制***
CN110308697A (zh) 基于Codesys的运动控制***及控制方法
CN115741676A (zh) 多机器人协同工作的控制***
CN109834713B (zh) 仿人脑机器人控制中枢及仿人脑行走机器人控制中枢
Hu et al. The scheme and system architecture of product quality inspection based on software-defined edge intelligent controller (SD-EIC) in industrial internet of things
CN212019735U (zh) 一种激光加工***的通用视觉处理装置及激光加工***
CN216697069U (zh) 基于ros2的移动机器人控制***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20220316

Address after: 215100 room 1103, floor 11, No. 28, Dongwu North Road, Wuzhong District, Suzhou City, Jiangsu Province

Applicant after: Suzhou Hualu Industrial Control Technology Co.,Ltd.

Address before: 200240 No. 800, Dongchuan Road, Shanghai, Minhang District

Applicant before: SHANGHAI JIAO TONG University

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20230530

Address after: 200240 No. 800, Dongchuan Road, Shanghai, Minhang District

Applicant after: SHANGHAI JIAO TONG University

Address before: 215100 room 1103, floor 11, No. 28, Dongwu North Road, Wuzhong District, Suzhou City, Jiangsu Province

Applicant before: Suzhou Hualu Industrial Control Technology Co.,Ltd.

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20230906

Address after: 200240 Room 402, No. 134, Lane 777, Jinping Road, Minhang District, Shanghai

Applicant after: Gu Chaochen

Address before: 200240 No. 800, Dongchuan Road, Shanghai, Minhang District

Applicant before: SHANGHAI JIAO TONG University

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20231226

Address after: 215100 room 1103, floor 11, No. 28, Dongwu North Road, Wuzhong District, Suzhou City, Jiangsu Province

Applicant after: Suzhou Hualu Industrial Control Technology Co.,Ltd.

Address before: 200240 Room 402, No. 134, Lane 777, Jinping Road, Minhang District, Shanghai

Applicant before: Gu Chaochen

TA01 Transfer of patent application right