CN109642865B - 用于在容器中实现改进的颗粒检测的视频触发同步 - Google Patents

用于在容器中实现改进的颗粒检测的视频触发同步 Download PDF

Info

Publication number
CN109642865B
CN109642865B CN201680087900.1A CN201680087900A CN109642865B CN 109642865 B CN109642865 B CN 109642865B CN 201680087900 A CN201680087900 A CN 201680087900A CN 109642865 B CN109642865 B CN 109642865B
Authority
CN
China
Prior art keywords
transparent container
sequence
images
container
agitation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680087900.1A
Other languages
English (en)
Other versions
CN109642865A (zh
Inventor
格拉汉姆·弗兰克·米尔恩
德米特里·福拉德肯因
托马斯·克拉克·皮尔森
邦楚尔·克里斯·古
埃尔文·弗罗因德
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
American Amgen
Original Assignee
American Amgen
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by American Amgen filed Critical American Amgen
Publication of CN109642865A publication Critical patent/CN109642865A/zh
Application granted granted Critical
Publication of CN109642865B publication Critical patent/CN109642865B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Optical investigation techniques, e.g. flow cytometry
    • G01N15/1429Signal processing
    • G01N15/1433Signal processing using image recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition

Landscapes

  • Chemical & Material Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Dispersion Chemistry (AREA)
  • Immunology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biochemistry (AREA)
  • Analytical Chemistry (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Aerodynamic Tests, Hydrodynamic Tests, Wind Tunnels, And Water Tanks (AREA)
  • Accessories For Mixers (AREA)
  • Fire-Detection Mechanisms (AREA)
  • Closures For Containers (AREA)
  • Medicines Containing Antibodies Or Antigens For Use As Internal Diagnostic Agents (AREA)

Abstract

一种方法,包括:在搅拌配置的搅拌期的期间,向含有流体的透明容器施加运动,且在施加所述运动的同时:获取所述透明容器的一部分的原始图像序列;根据所述原始图像序列生成背景图像;根据所述背景图像和所述原始图像序列中的原始图像生成合成图像;以及根据所述合成图像识别在所述流体中的颗粒。

Description

用于在容器中实现改进的颗粒检测的视频触发同步
技术领域
本申请总体上涉及在流体填充容器中的颗粒检测。
背景技术
流体可以含有各种不同形状和尺寸的颗粒。流体可能有意地含有颗粒或可能无意地含有颗粒。无意的颗粒可能源自许多不同的来源,诸如来自环境,来自对流体的不正确的处理或存储,或来自形成、包装或填充容纳流体的容器的残余物。流体也可能含有气泡。
发明内容
在一个实施方案中,一种方法包括:在搅拌配置(profile)的搅拌期的期间,向含有流体的透明容器施加运动,且在施加所述运动的同时:获取所述透明容器的一部分的原始图像序列;根据所述原始图像序列生成背景图像;根据所述背景图像和所述原始图像序列中的原始图像生成合成图像;以及根据所述合成图像识别在所述流体中的颗粒。
在一个实施方案中,一种检查***包括搅拌器,其被配置为接收含有流体的透明容器并在搅拌配置的搅拌期的期间向所述透明容器施加运动。成像器在所述搅拌器施加所述运动时获取所述透明容器的原始图像序列。控制器从所述成像器接收所述原始图像序列,在所述原始图像序列中识别至少两个原始图像的共同特征,生成包括所述共同特征的背景图像,根据所述背景图像和所述原始图像序列生成一个或多个合成图像,以及根据所述背景图像识别在所述流体中的颗粒。
在一个实施方案中,一种方法包括:在搅拌配置的搅拌期的期间,获取透明容器的一部分的原始图像序列;根据所述原始图像序列确定背景图像;根据所述背景图像和所述原始图像序列生成至少一个合成图像;以及根据所述合成图像识别在所述流体中的至少一个颗粒。
附图说明
本领域的技术人员将理解,本文描述的附图是出于说明的目的而包括在其中的,且不限制本公开。附图不一定按比例绘制,而是将重点放在说明本公开的原理上。要理解的是,在一些情况下,可以夸大或放大地示出所述实施方式的各个方面,以便理解所述实施方式。在附图中,在各个附图中相同的参考字符通常是指功能相似和/或结构相似的部件。
图1示出了根据本公开的一个实施方案的视觉检查***。
图2示出了根据本公开的一个实施方案的视觉检查***。
图3示出了用于识别流体中的颗粒的方法的示例。
图4示出了在应用搅拌配置期间的不同时间点时的容器。
图5示出了根据本公开的技术获取和处理的图像的示例。
图6示出了控制器的示例。
具体实施方式
以上介绍的以及以下更详细讨论的各种概念可以按多种方式中的任一种实施,且所述的概念不限于任何特定方式的实施方式。出于说明性目的,提供实施方式的示例。
图1示出了根据本公开的一个实施方案的检查***100。***100包括搅拌器102,其包括机器人子***104和主轴106。***100还包括照明***108,其包括一个或多个照明器以照亮由搅拌器102固持的容器;以及一个或多个成像器110,其在搅拌器102搅拌容器时获取容器的图像。
下面提供了关于***100部件的额外的细节。作为概述,***100被配置为在向容器应用搅拌配置时对容器进行成像。可以在应用于容器的搅拌配置的任何分段期间获取图像。***分析容器的两个或更多个图像以确定容器中是否存在颗粒。可以进一步分析两个或更多个图像以对所存在的颗粒数量进行计数,测量颗粒的大小,跟踪颗粒移动或表征颗粒。颗粒可以是,例如灰尘或其他污染物或蛋白质。在本公开中,讨论了颗粒;然而,要理解的是,本公开的概念也适用于气泡。
搅拌配置包括一个或多个搅拌期。在搅拌配置的每个搅拌期的期间,向容器施加运动或中断运动。例如,在第一搅拌期中的第一运动之后可以是在第二搅拌期中的第二运动,或在第一搅拌期中的第一运动之后可以是在第二搅拌期中的第一运动的中断。运动可以是摇动、旋转、施加超声能、施加声能、翻转、另一种运动或其任何组合。
运动的中断可以包括或可以不包括向容器施加力(诸如施加制动力)以抵消所述运动。制动力可以是,例如摩擦力。通常,并入有运动中断的搅拌期在本文中称为静止期。静止期可以包括初始时间,在所述初始时间期间,容器中的流体继续移动;且还可以包括后续时间,在所述后续时间期间,容器中的流体是静止的。
可以在搅拌配置的一个或多个搅拌期的期间获取容器的图像。获取图像的时间与容器的一个或多个位置相对应。在容器的单个位置上获取的图像序列用于检测在容器中的流体中的颗粒,如下所述。可以在容器的多个位置中的每一个处获取图像序列。
作为非限制性示例,在一个或多个实施方案中,搅拌配置包括在第一搅拌期中的第一运动,之后是在第二搅拌期中的突然停止和静止期,在所述第二搅拌期中,搅拌器102不提供额外的运动(例如,中断第一运动),且然后是在第三搅拌期中的第二运动。可以在第一搅拌期、第二搅拌期或第三搅拌期中的一个或多个的期间获取图像。在一个或多个这样的实施方案中,第一运动是旋转运动,且在***获取旋转流体的图像时,在容器内的流体可以在静止期的期间继续短暂地旋转。然而,一旦容器停止旋转,具有高粘度的流体则可以快速静止,这使得难以获取悬浮在流体中的颗粒的图像,这是因为所述颗粒很快也将静止。对于这样的流体(或其他流体)而言,本文所述的***可以例如,省略突然停止和静止期,而是使用搅拌配置,其中在第一搅拌期中的第一运动是旋转运动,且在第二搅拌期中的第二运动也是旋转运动(其可以按与第一旋转运动不同的速率进行),其允许颗粒在图像获取和分析期间继续移动。许多其他搅拌配置也在本公开的范围内,其中一些在本文中进行了描述。
***100可以使图像获取与搅拌配置同步。例如,对于围绕单个轴线的旋转运动而言,获取容器的相同部分的两个或更多个图像序列,其中当容器处于特定的角位置上时,获取每个图像,且在不同的转期间获取每个图像。以这种方式,可以忽略在运动期间图像不改变的部分,诸如在容器壁上的油脂或污垢或来自容器壁的反射,且因此可以根据图像识别颗粒,如下面所讨论的。
在一个或多个实施方案中,成像器110可以获取容器的多个部分中的每一个的图像序列,其中在容器的不同转时获取单个序列中的每个图像。
在一个或多个实施方案中,多个成像器110从检查***100中的不同位置(诸如,例如,用于更快的平行成像的,用于广角与窄角成像的,用于小面积与大面积成像的,用于彩色与红外成像的等等)获取容器的图像。
现在返回参考图1,主轴106联接到机器人子***104。搅拌器102(包括机器人子***104和主轴106)被配置为产生一个或多个搅拌配置。搅拌配置可以包括摇动、旋转、施加超声能、施加声能、翻转或其任何组合。将搅拌配置应用于容器以使流动中的颗粒运动,且随后可选地保持颗粒运动。可以基于例如,容器的尺寸或形状、容器中的流体粘度、容器中的流体量、容器中预期的颗粒量、其他因素或其组合来产生不同的搅拌配置。
当搅拌器102应用搅拌配置时(例如,当主轴106旋转容器时),成像器110获取容器的图像。成像器110获取容器的图像作为图像序列,其中对紧接在在图像序列中的前一个图像之后的预定数量的完整的转动获得在图像序列中的每个后续图像,且在图像序列中的每个图像为容器的相同区域的。例如,如果在容器转动x度之后获取了第一图像,则在容器转动x+360n度之后获取第二图像,其中n是在获取第一图像和第二图像之间的为整数的转数。在容器转动x+360n度之后获取在初始图像之后的每个图像,且n对于每个图像而言是不同的(例如,按为n的任何递增序列在n=n1、n2、n3等处获取图像)。
本公开中的转动表示围绕相对于容器限定的任何轴线(包括沿着容器长度的纵向轴线或与纵向轴线成任何角度的轴线)的角运动。此外,转动可以指围绕轴线的连续移动,或者可以指振荡运动。例如,一转或多转或部分转可以在第一方向上,之后则是一转或多转或部分转在第二方向上。第二方向可以与第一方向相反,但不一定如此。而且,振荡可以包括在两个方向上的来回运动,但是也可以另外地或替代地包括在多于两个的方向上的运动序列,所述序列可以是或可以不是重复的。
图2示出了根据本公开的一个实施方案的***100的示例。如上所述,***100包括为搅拌器102的一部分的主轴106、照明***108和成像器110。***100还包括控制器202(在这个实施方案中示为计算机)、触发电路204和光控制电路206。
主轴106包括由马达208旋转的夹具210。夹具210被配置为抓住并固持容器212。在一些实施方式中,夹具210是是气动夹具、电动夹具或真空夹具。在其他实施方式中,夹具210可包括由控制器202控制的多个指状物,以将容器212固定到主轴106。马达208可以是伺服马达、步进马达或其他电动马达。马达208可以围绕主轴106的中轴线旋转容器212。在一些实施方式中,马达208被配置为以约200rpm和约2000rpm之间,诸如约200rpm和约1500rpm之间、约200rpm和约1000rpm之间、约500rpm和约800rpm之间或约500rpm和约2000rpm之间的转速旋转容器212。例如,在一个或多个实施方案中,马达208可以在搅拌配置的第一搅拌期的期间以相对高的速率(例如,高于800rpm)并且在搅拌配置的后续搅拌期的期间以相对低的速率(例如,低于约100rpm)来转动容器212。马达208旋转容器212的速率可以由控制器202控制。
在一个或多个实施方案中,搅拌器102的机器人子***104或机器人***104和主轴106是检查***100中的拾取和放置机器人***的部件。例如,控制器202可以控制搅拌器102以从存储单元取回容器212,将容器212(由夹具210固持)运输到图像获取区域(例如,成像器110聚焦的区域),启动搅拌配置,并在完成搅拌配置和相应的图像获取之后将容器212返回到存储单元或另一个位置。要理解的是,可以使用用于取回容器212,放置容器212或将容器212移动到一个位置的其他技术,诸如并入有输送器、星形轮或其他运输器的技术。
除了由主轴106提供的旋转能力之外,机器人子***104还可以具有多个自由度(例如,x、y、z、偏航、俯仰或侧倾中的两个或更多个)。在一个或多个实施方案中,机器人子***104具有六个自由度(x、y、z、偏航、俯仰和侧倾)。在一个或多个实施方案中,机器人子***104可以反转或摇动容器212,且搅拌配置可以包括反转和/或摇动容器。
成像器110被配置为当搅拌器102向容器212应用搅拌配置时收集容器212的图像。***100可包括多个成像器110。在一些实施方式中,多个成像器110中的每一个进行类似地配置,且在其他实施方式中,多个成像器110中的一些不同地进行配置。例如,多个成像器110可各自包括一个或多个透镜,且不同成像器110的透镜可以具有相同或不同的焦距或孔径尺寸。又例如,每个成像器110可包括一个或多个滤光器,且不同成像器110的滤光器可以在相同或不同的光谱上滤光。在另外的示例中,多个成像器110中的每一个可包括具有不同焦距的伸缩式镜头以创建容器212的不同视图。
多个成像器110可以围绕容器212径向定位。在一个或多个实施方案中,多个成像器110中的每一个定位在相对于给定表面(例如,检查***所在的地板、垫子或桌子,主轴106的顶表面或其他表面)的相同的垂直高度上;在其他实施方案中,成像器110可以定位在相对于所述表面的不同高度上,诸如用于沿着容器212的长度获取不同的图像区域。
由成像器110获取的图像可以被传输到控制器202以进行存储和分析。在一些实施方式中,当搅拌器102向容器212施加搅拌时,成像器110获取容器212的各个静态图像。在其他实施方式中,成像器110是视频成像器并获取所搅拌的容器212的视频;成像器110可以与搅拌器102同步,以使得控制器202可以提取对应于在具体角位置上的容器212的视频帧。
触发电路204被配置为确定容器212的位置并产生使成像器110获取图像的触发。确定容器212的位置可包括确定或跟踪容器源于起始位置的转动。
在一个或多个实施方案中,马达208产生对应于预定转动角度的脉冲。作为非限制性示例,马达208可包括旋转编码器,其针对每0.01、0.1、0.2、0.5、1、2、5或10度的转动产生脉冲。旋转编码器可以是绝对编码器或增量式旋转编码器。触发电路204可以对从马达208接收的脉冲进行计数,并产生触发信号以在每第n个脉冲之后触发成像器110,其中n是整数。例如,触发电路204可以在接收到每第九个脉冲之后产生触发信号;在针对容器212的每度的转动产生脉冲的实施方式中,每第九个脉冲获取图像将产生容器212的每九度转动的图像。要理解的是,脉冲可以表示或可以不表示一度的转动,且前述内容是作为示例提供的。
如上所述,可以针对容器212的每一转获取多个图像。触发电路204可以基于来自旋转编码器的脉冲来获取图像。例如,可以在来自两个或更多个旋转编码器的脉冲的上升沿或下降沿处,在脉冲的上升沿和下降沿处,在脉冲的高逻辑电平和/或低逻辑电平处,或者基于脉冲的边沿和/或电平的逻辑组合来获取图像。用于触发图像获取的其他技术也包含在本公开中。
在一个或多个实施方案中,触发电路204包括电子开关电路,诸如固态继电器或晶体管,其激活以将触发信号供给到成像器110。
在一些实施方式中,触发电路204被配置为对从旋转编码器接收的脉冲进行滤波。滤波可以避免对寄生脉冲(例如,在实践中,马达208可能偶尔通过导致转动方向短暂反转的不稳定的马达运动产生额外的寄生脉冲)计数。在一个或多个实施方案中,触发电路忽略了在先前脉冲之后过快到达的脉冲。
在一个或多个实施方案中,触发电路204将触发信号传输到控制器202,所述控制器202可以触发成像器110且还可以将触发信息提供到光控制电路206,诸如用于使照明***108中的一个或多个照明器的选通同步。
在一个或多个实施方案中,触发电路204包括计算装置(诸如,通用处理器、微控制器、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、分立电路或并入有其组合的装置)或由计算装置实施。在一些实施方式中,触发电路204可以是搅拌器102或控制器202的部件。
光控制电路206控制照明***108。照明***108可包括围绕主轴106和容器212设置的一个或多个照明器。照明***108可以在图像获取期间照亮容器212。照明***108可包括LED、激光器、荧光灯泡、白炽灯泡、闪光灯或任何其他合适的照明器或合适的照明器的组合。照明***的照明器可以被配置为产生宽带光或在具体的波长段内的光。例如,照明***108可以产生以约630nm为中心的光(例如,红光)。在一些实施方式中,照明***108产生紫外光或红外光。照明***108的照明器可以设置在相对于容器212的不同位置和角度上。
在一个或多个实施方案中,光控制电路206包括计算装置(诸如,通用处理器、微控制器、FPGA、ASIC、分立电路或并入有其组合的装置)或由计算装置实施。在一些实施方式中,光控制电路206可以是搅拌器102或控制器202的部件。
在一些实施方式中,控制所述照明***108可包括设置由照明***108的照明器产生的光的强度。光控制电路206可控制照明***108的哪些照明器是活动的以及哪种类型的照明模式是活动的(例如,背光、后角照明、红外)。在一些实施方式中,光控制电路206可与触发电路204同步以启动被定时为在成像器110获取图像时发生的光选通。
图3示出了根据本公开的一个实施方案的用于识别在检查***(例如,图1或图2中的检查***100)中的流体中的颗粒的示例方法300的图。方法300包括在搅拌配置的第一搅拌期的期间向容器(例如,容器212)施加第一运动或多个第一运动(框305)。方法还包括启动搅拌配置的第二搅拌期(框310),其中第二搅拌期可以包括施加到容器的第二运动或多个第二运动。第二搅拌期可以直接在第一搅拌期之后,或者可以在其之间存在额外的搅拌期。在第二搅拌期的期间,获取n个图像序列,其中n个图像中的每一个是在容器到达特定位置和取向时(例如,在n个转动中的每一个的相同角位置处,其中n个转动无需是连续的转动)获取的,且n是大于或等于1的整数。启动n个图像序列的获取(框315),诸如通过将索引值i设置为等于1来进行。获取n个图像序列中的第一图像(框320)(例如,通过成像器110进行)。确定是否已经获取了n个图像的整个序列(框325)。如果不是,则递增索引值i(框330),且获取n个图像序列中的下一个(框320)。如果已经获取了n个图像的整个序列(框325),则可以使用n个图像来生成背景图像(框335)。例如,可以通过识别n个图像序列中的两个或更多个的共同特征来生成背景图像。背景图像包括共同特征。然后,可以使用背景图像来根据n个图像序列制备合成图像(框340)。例如,可以从n个图像序列中的一个或多个中的每一个减去背景图像,以制备相应的一个或多个合成图像,其中从合成图像减少或消除背景图像的共同特征。可以使用用于制备合成图像的其他技术(除了减法以外),诸如最小强度投影、最大强度投影或其他技术。根据一个或多个合成图像,可以检测颗粒(框345)(参见,例如,图5的示例)。根据合成图像中的两个或更多个,可以跟踪颗粒。
容器可以是被配置为含有流体的任何类型的容器。在一些实施方式中,容器的壁是透明的,以使得容器内的流体可以由成像器(例如,成像器110)可视化。例如,容器可以是注射器、小瓶、烧杯或其他容器。在一些实施方式中,气隙与容器中的流体一起存在;当容器旋转时,气隙可在流体的弯液面中产生涡流,这便于在停止旋转之后继续流体的运动。在其他实施方式中,在容器中不存在气隙,当容器旋转时,不形成涡流,且在容器停止旋转后不久,在可以获取图像之前,流体可能停止旋转(且因此颗粒停止移动)。类似地,对于高粘度流体而言,在容器停止旋转后不久,在可以获得图像之前,流体抵靠容器的内壁的阻力可以使得流体停止旋转(且因此颗粒停止移动)。对于这种情况,本公开的***和技术提供了搅拌配置,其包括搅拌期,在所述搅拌期的期间,维持流体和颗粒的运动,并获取图像。例如,第一搅拌期可以包括一个或多个剧烈运动(按顺序的或同时的),诸如旋转、摇动或反转,以从容器内部移出颗粒,接下来是不像第一搅拌期那么剧烈的第二搅拌期,在所述第二搅拌期的期间,控制流体的运动以保持颗粒运动且可用于成像。
当在搅拌配置中包括剧烈搅拌期以移出颗粒时,剧烈搅拌可能是由移动容器的搅拌器(例如,搅拌器102)的运动导致的,或可能是通过向容器中的流体施加声能或超声能导致的。
图4(还参考图1和图2)示出了根据本公开的一个实施方案的在应用搅拌配置期间的不同时间点时的容器212。为了方便起见,容器212在图4中示为注射器;然而,要理解的是,所述概念也适用于其他容器。
在图4中,搅拌器102(图1)可以在时间点t1和时间点t2之间的第一搅拌期中使容器212反转一次或多次(例如,快速翻转容器212,如在时间点t1时的针头向下的位置,在时间点t2时的针头向上的位置,以及在时间点t1和时间点t2之间的交叉箭头所示的)。翻转容器212可以从容器壁和针形喷嘴移出颗粒。可以根据特定容器212(例如,根据容器212的类型、形状或材料),容器212中的流体的性质(例如,粘度、分子量、预期的颗粒数量、密度或其他属性),自用流体填充容器212以来的时间量,在容器212中的气隙大小或缺乏气隙或其组合来确定容器212被翻转的次数或持续时间。在第一个搅拌期的期间(在时间点t1和时间点t2之间),当翻转容器212时,可选地由主轴106以第一转动速度旋转容器212。例如,当机器人***104翻转主轴106(和容器212)的同时,主轴106可以转动容器212。
在图4中所示的实施方案中,翻转在时间点t2时停止,且在时间点t2和时间点t3之间存在静止期(在第二搅拌期的期间)。在时间点t3时,搅拌配置的第三搅拌期开始,其中容器212以第二转动速度旋转以使流体和颗粒运动。在图4中所示的实施方案中,容器212包括气隙,且旋转使得涡流出现在流体中。在时间点t4时,中断旋转,且在时间点t4和时间点t5之间的第四搅拌期(静止期)的期间,容器212中的流体继续旋转一会。在第四搅拌期(静止期)的期间,可以通过成像器110获取静止容器的图像,以使得在流体旋转且容器静止时获取图像序列中的每个图像,且不需要(与容器运动的)视频同步。在时间点t5时,当流体仍然在容器212中旋转时,或在流体停止旋转之后,搅拌配置的第五搅拌期开始,其中容器212以第三转动速度旋转。第三转动速度可以比第二转动速度或第一转动速度更慢或更快,且第二转动速度可以比第一转动速度更慢或更快。
如上所述,多个成像器(例如,成像器110)可以从容器周围的不同位置获取图像。成像器可以均匀地分布在容器周围,或可以不均匀地分布在容器周围。另外,每个成像器可以按均匀分布的转动角度获取容器的图像,或可以按不均匀分布的角度获取图像。例如,可以按均匀分布的方式以每十度的转动(或任何其他均匀分布的方式)获取容器的图像。又例如,可以按10度、15度、50度和300度(或不均匀分布的角度的任何其他组合)获取图像。
图5提供了本公开的***和技术的功效的示例。在该示例中,流体填充容器505是注射器。矩形轮廓的部分表示容器505的要分析颗粒的部分510(例如,成像器110所聚焦的部分510)。
获取容器505的所述部分510的n=2个原始图像515、535的序列。在获取原始图像515之后的某一时间时获取原始图像535。在容器505的相同位置和转动角度下获取原始图像515、535序列中的每一个。在原始图像515、535中的每一个中,注射器壁520或与注射器壁520和其他背景特征525(例如,在注射器壁520上的污染物)相关联的伪影是可见的。颗粒530在原始图像515、535序列中的每一个中也是可见的。
根据原始图像515、535序列,生成背景图像540,其包括注射器壁520或与注射器壁520和背景特征525相关联的伪影。不包括在背景图像540中的是颗粒530,其处于原始图像515、535中的不同位置上且因此不是共同的背景特征525。
然后,使用背景图像540来根据原始图像515生成合成图像550,且根据原始图像535生成合成图像555,诸如通过减法、最小强度投影、最大强度投影或其他技术进行。合成图像550、555包括颗粒530,但在合成图像550、555中减少或消除了共同特征(注射器壁520、背景特征525)。因此,可以根据合成图像550、555中的任一个来对颗粒530进行计数或测量大小,且可以在合成图像550、555序列之间跟踪颗粒530。另外,通过了解流体和流体运动的特性,可以基于可以根据合成图像550、555序列识别的颗粒530的速度和轨迹来确定颗粒530的特性。
要理解的是,尽管为了便于理解相关于图5示出并描述了n=2个原始图像(图像515、535)的序列以及两个合成图像(图像550、555)的相应序列,但原始图像序列也可以包括两个或更多个原始图像,且合成图像序列可以包括两个或更多个合成图像。还要注意,并非所有原始图像都需要用于生成背景图像,且并非所有原始图像都需要用于生成合成图像序列。因此,原始图像序列可以包括比在相应的合成图像序列中的合成图像更多的原始图像。
图5中的合成图像550、555示出了对单个颗粒的识别。要理解的是,本公开中描述的技术可用于识别多个颗粒。另外,本公开的技术可以用于在容器的一转期间由相同的成像器多次获取图像(且在后续的一转或多转中重复),以使得单个成像器可以用于根据针对容器的不同位置中的每一个生成的合成图像识别颗粒。此外,可以评估源于容器的不同位置的多个合成图像(使用一个成像器或多个成像器)以在颗粒围绕容器移动时跟踪颗粒,以避免不止一次地对颗粒进行了标记或计数,或验证所有颗粒均在一定程度的确定性上进行了识别和计数。
本公开的***和技术已示为对于各种容器(包括6.3毫米(mm)内径的注射器)来说是有效的。
在本公开的一个实施方案中,注射器的搅拌配置包括第一搅拌期,其中在以每分钟约500转(rpm)来旋转注射器的同时将注射器沿着长轴线(例如,如图4中所示)快速翻转三次。这种移动将颗粒从容器壁和针形喷嘴移出,这允许其在大量液体中移动,在这种情况下,可以有效地获取所述颗粒的图像。搅拌配置还包括在翻转结束后的第二搅拌期,其中以约800rpm来短暂地(例如,一秒或两秒)转动注射器。搅拌配置还包括第三搅拌期,其中转动注射器(例如,以较慢的速率,诸如以约40rpm或其他速率进行)。针对注射器的每一整转获得整数x个图像,其对应于每转的x个固定地均匀间隔的马达位置。已经发现x=40是对于一些注射器来说为有用的值,然而却发现了其他整数值也是有用的。
为了进行减法以正确地消除静止图像的特征,则相对于注射器的转动来精确地触发图像获取。在本公开的一个实施方案中,微控制器接收两个马达编码器信号,其跟踪在马达的马达轴的移动中的微小变化。两个马达编码器信号各自包括一系列的脉冲,其可以用于确定转动方向和速度且从而确定马达轴的相对位置。因此,可以通过对表示360度转动的马达编码器信号中的脉冲数量进行计数来识别源于任意起始位置的每个完整的转动。因此,可以用在其之间的整数个转动获取在图像序列中的连续图像。如果从已知位置开始正确地跟踪了脉冲,则也可以根据脉冲来确定马达轴的绝对转动位置。
作为示例,两个马达编码器信号A和B可以彼此为异相90度;当信号A变为高逻辑电平而信号B处于低逻辑电平时,可以确定马达正在第一方向上(例如,顺时针)转动,且当信号A变为高逻辑电平而信号B处于高逻辑电平时,可以确定马达正在与第一方向相反的第二方向上(例如,逆时针)转动。信号A或信号B的逻辑电平,信号A或信号B的边沿转换,或信号A、B(例如,“A与B”、“A或B”、“A非B”、“A异或B”等)的逻辑电平或边沿转换的逻辑组合可用于触发图像捕获。如果信号A和信号B的边沿转换用于提供了每一转为1000个位置的轴角分辨率的马达,则在一转中则将存在4000个边沿转换,从而提供了0.09度的转动测量分辨率。例如,如果注射器以30rpm转动且每微秒(μs)监控4000个编码器边沿转换,转动测量的精度则为0.00018度(转动速度=30rpm=180度/s=0.00018度/μs)。对于直径为1厘米的注射器而言,这个每转的转动精度的量对应于在注射器外周上的0.016μm的位移,其可能远低于用于监控颗粒的成像***的光学分辨率(例如,在一个成像***中每个像素约21.5μm进行了评估)。因此,可以根据马达编码器信号触发图像获取以使得每转获取足够数量的图像以评估颗粒的存在、大小和分布。
因为同步是基于来自马达的信号,因此本公开的技术能够应用于任何周期性的马达移动且不限于稳定的转动。例如,搅拌配置可以产生从容器壁传播到容器芯的振荡剪切流。
在成像期间缓慢地转动容器可有助于减轻与透镜效应相关的挑战。当圆柱形容器中的流体的屈曲(curvature)导致穿过所述屈曲的光的折射时,可发生透镜效应。透镜效应可能导致位于朝向容器后部处的颗粒放大。另外,当正交观察时,由透镜效应导致的折射会导致朝向容器后部的盲点,如果有限的流体运动无法将颗粒移出盲点的话,这对于高粘度产品而言则可能尤其如此。本公开的***和技术通过保持颗粒移动以使得颗粒最终将穿过检测区域来减轻与透镜效应相关的挑战。记录窗口可以设置得足够长,以使得颗粒将从盲点传出并进入检测区域中。
本公开的实施方案的***和技术还提供了对在非圆柱形容器和围绕容器的长轴线为不对称的容器或具有沿着容器的长度变化的横截面的容器中的颗粒的检测。
如可以通过本公开的实施方案的上述示例看到的,本文所述的技术可用于对颗粒进行计数、测量大小、跟踪或表征。在一些实施方案中,这种能力可用于检测非预期的颗粒,例如,用于验证颗粒的数量或大小在指导范围内。在其他实施方案中,这种能力可用于检测预期的颗粒,例如流体固有或天然的颗粒。因此,例如,颗粒的检测可以用于在产品销售之前的测试,或用于测试以表征产品,或可以用于在不同的时间评估产品,以识别产品随时间的变化,诸如颗粒的生长、收缩、降解或崩解。
图6示出了根据本公开的一个实施方案的控制器202的示例。控制器202包括处理器610、存储器620、输入/输出接口630和通信接口640。总线650提供在控制器202的部件中的两个或更多个之间的通信路径。所示部件是以说明而非限制的方式提供的。控制器202可以具有额外的或更少的部件,或多个相同部件。
处理器610表示处理器、微处理器、微控制器、ASIC和/或FPGA以及相关联的逻辑电路中的一个或多个。
存储器620表示用于存储信息的易失性和非易失性存储器中的一者或两者。存储器的示例包括半导体存储器装置(诸如EPROM、EEPROM、RAM和闪存装置),盘(诸如,内部硬盘驱动器、可移动硬盘驱动器、磁光盘、CD、DVD和蓝光盘),记忆棒等。
本公开的成像***的部分可以实施为控制器202的存储器620中的计算机可读指令,由处理器610执行。
输入/输出接口630表示电子部件和可选代码,其一起提供了从控制器202的内部部件至外部部件的接口。示例包括具有相关联的编程的驱动器集成电路。
通信接口640表示电子部件和可选代码,其一起提供了从控制器202的内部部件至外部网络的接口。
总线650表示在控制器202内的部件之间的一个或多个接口。例如,总线650可以包括在处理器610和存储器620之间的专用连接以及在处理器610和控制器202的多个其他部件之间的共享连接。
本公开的实施方案涉及一种非暂时性计算机可读存储介质,其上面具有用于执行各种计算机实施的操作的计算机代码。术语“计算机可读存储介质”在本文中用于包括能够存储或编码用于执行本文描述的操作、方法和技术的指令或计算机代码序列的任何介质。介质和计算机代码可以是为了本公开的实施方案的目的而专门设计和构造的那些介质和计算机代码,或其可以是在计算机软件领域中的技术人员所公知和可用的种类。计算机可读存储介质的示例包括但不限于:磁介质,诸如硬盘、软盘和磁带;光学介质,诸如CD-ROM和全息装置;光磁介质,诸如光盘;以及专门被配置用于存储和执行程序代码的硬件装置,诸如ASIC、可编程逻辑装置(“PLD”)以及ROM和RAM装置。
计算机代码的示例包括机器代码,诸如由编译器产生的;以及文件,其包含由使用解译器或编译器的计算机执行的高级代码。例如,可以使用Java、C++或其他面向对象的编程语言和开发工具来实施本公开的实施方案。计算机代码的额外示例包括加密代码和压缩代码。此外,本公开的实施方案可以作为计算机程序产品下载,所述计算机程序产品可以经由传输信道从远程计算机(例如,服务器计算机)传输到请求计算机(例如,客户端计算机或不同的服务器计算机)。本公开的另一个实施方案可以用硬连线电路代替或结合机器可执行的软件指令来实施。
如本文所使用的,单数术语“一”、“一个”和“所述/该”可以包括复数个指示物,除非上下文另有明确指示外。
如本文所使用的,相对术语,诸如“上方”、“下方”、“上”、“左”、“右”、“下”、“顶部”、“底部”、“垂直”、“水平”、“侧面”、“更高”、“更低”、“上部”,“在......之上”、“在......之下”、“内”、“内部”、“外”、“外部”、“前”、“后”、“向上”、“下部”、“向下”、“垂直”、“垂直地”、“横向”、“横向地”等是指一组部件相对于彼此的取向;该取向与附图一致,但在制造或使用期间是不需要的。
如本文所使用的,术语“连接”、“被连接”和“连接性”指的是操作性联接或链接。连接的部件可以直接或间接地彼此联接,例如,通过另一组部件进行。
如本文所使用的,术语“近似”、“基本上”、“大致”和“大约”用于描述和考虑微小的变化。当连同事件或情况一起使用时,术语可以指恰好发生所述事件或情况的实例以及近似地发生了所述事件或情况的实例。例如,当连同数值一起使用时,术语可以指小于或等于所述数值的±10%的变化范围,诸如小于或等于±5%、小于或等于±4%、小于或等于±3%、小于或等于±2%、小于或等于±1%、小于或等于±0.5%、小于或等于±0.1%或小于或等于±0.05%。例如,如果两个数值之间的差小于或等于所述两个数值的平均值的±10%,诸如小于或等于±5%、小于或等于±4%、小于或等于±3%、小于或等于±2%、小于或等于±1%、小于或等于±0.5%、小于或等于±0.1%或小于或等于±0.05%,则可以认为所述两个数值“基本上”相同。
另外,在本文中,数量、比率和其他数值有时也以范围格式呈现。要理解的是,这种范围格式是为了方便和简洁而使用的,且应该被灵活地理解为包括被明确地指定为范围限值的数值,而且包括包含在所述范围内的所有个别的数值或子范围,如同明确地指定每个数值和子范围一样。
虽然已经参考本公开的具体实施方案描述和说明了本公开,但这些描述和图示并不限制本公开。本领域的技术人员应理解的是,在不脱离由所附权利要求限定的本公开的精神和范围的情况下,能够进行各种改变且可以替换等同物。图示可能不一定按比例绘制。由于制造工艺和公差,在本公开中的技术再现和实际设备之间可能存在区别。可能存在未具体示出的本公开的其他实施方案。说明书和附图被认为是说明性的而不是限制性的。可以进行修改以使特定的情况、材料、物质的组成、技术或工艺适应于本公开的目的、精神和范围。所有此类修改意图处于所附权利要求书的范围内。尽管已经参考以特定顺序执行的特定操作描述了本文中公开的技术,但是将理解的是,在不脱离本公开的教导的情况下,可以组合、细分或重新排序这些操作以形成等同的技术。因此,除非在本文中具体指出,否则操作的顺序和分组则不是对本公开的限制。

Claims (24)

1.一种用于容器检查的方法,其包括:
在搅拌配置的搅拌期的期间,向含有流体的透明容器施加运动:
在施加所述运动的同时,通过一个或多个成像器获取所述透明容器的一部分的原始图像序列,所述原始图像序列的获取与所述搅拌配置同步,以使所述原始图像序列中的每个原始图像对应于位于相同位置的所述透明容器;
通过一个或多个处理器,根据所述原始图像序列生成背景图像;
通过所述一个或多个处理器,根据所述背景图像和所述原始图像序列中的原始图像生成合成图像;以及
通过所述一个或多个处理器,根据所述合成图像识别在所述流体中的颗粒。
2.如权利要求1所述的方法,其中
所述搅拌期包括第一搅拌期和在所述第一搅拌期之后的第二搅拌期,
所述第一搅拌期包括施加第一运动,并且
所述第二搅拌期包括施加第二运动。
3.如权利要求2所述的方法,其中所述第一运动或所述第二运动包括旋转、转动、摇动、摆动或翻转所述透明容器。
4.如权利要求3所述的方法,其中所述第一运动包括以第一速率旋转所述透明容器。
5.如权利要求4所述的方法,其中所述第二运动包括以比所述第一速率慢的第二速率旋转所述透明容器。
6.如权利要求1所述的方法,其中所述搅拌配置还包括在所述搅拌期之前向所述透明容器施加声能或超声能。
7.如权利要求1所述的方法,其还包括在从所述原始图像序列获取连续图像之间将所述透明容器旋转360度的整数倍。
8.如权利要求7所述的方法,其中所述360度的整数倍是可变整数。
9.如权利要求1所述的方法,其中所述透明容器是注射器。
10.如权利要求1所述的方法,其中所述流体基本上填充所述透明容器,以使所述透明容器没有气隙。
11.如权利要求1所述的方法,其中所述透明容器关于所述透明容器的长轴线是不对称的。
12.如权利要求1所述的方法,其中所述透明容器的横截面沿着所述透明容器的长度变化。
13.如权利要求1所述的方法,其中所述透明容器是非圆柱形的。
14.一种检查***,其包括:
搅拌器,其被配置为接收含有流体的透明容器并在搅拌配置的搅拌期的期间向所述透明容器施加运动;
成像器,其被配置为在所述搅拌器施加所述运动时获取所述透明容器的原始图像序列,所述成像器与所述搅拌配置同步,以使所述原始图像序列中的每个原始图像对应于位于相同位置的所述透明容器;以及
控制器,其被配置为:
从所述成像器接收所述原始图像序列;
在所述原始图像序列中识别至少两个原始图像的共同特征;
生成包括所述共同特征的背景图像;
根据所述背景图像和所述原始图像序列生成一个或多个合成图像;以及
根据所述背景图像识别在所述流体中的颗粒。
15.如权利要求14所述的***,其中所述搅拌器被配置为旋转、转动、摆动或翻转所述透明容器。
16.如权利要求14所述的***,其中所述搅拌器被配置为向所述透明容器施加声能或超声能中的至少一种。
17.如权利要求14所述的***,其中
所述搅拌期包括第一搅拌期和第二搅拌期,所述第一搅拌期在所述第二搅拌期之后,并且
所述搅拌器被配置为在所述第一搅拌期的期间以第一转动速度并且在所述第二搅拌期的期间以较慢的第二转动速度旋转所述透明容器。
18.如权利要求14所述的***,其中所述搅拌器还被配置为在所述搅拌期之前翻转所述透明容器。
19.如权利要求18所述的***,其中所述搅拌器还被配置为在翻转所述透明容器期间旋转所述透明容器。
20.如权利要求14所述的***,其中所述搅拌器包括马达,所述***还包括触发电路,所述触发电路被配置为接收来自所述马达的转动信息并提供触发信号以启动所述成像器来获取所述透明容器的图像,从而促进所述原始图像序列的获取与所述搅拌配置同步。
21.一种用于容器检查的方法,其包括:
在搅拌配置的搅拌期的期间,通过一个或多个成像器获取包含流体的透明容器的一部分的原始图像序列,所述原始图像序列的获取与所述搅拌配置同步,以使所述原始图像序列中的每个原始图像对应于位于相同位置的所述透明容器;
通过一个或多个处理器,根据所述原始图像序列确定背景图像;
通过所述一个或多个处理器,根据所述背景图像和所述原始图像序列生成至少一个合成图像;以及
通过所述一个或多个处理器,根据所述合成图像识别在所述流体中的至少一个颗粒。
22.如权利要求21所述的方法,其中所述原始图像序列是两个原始图像的序列。
23.如权利要求21所述的方法,其中所述搅拌期包括第一搅拌期和第二搅拌期,所述第一搅拌期在所述第二搅拌期之前。
24.如权利要求23所述的方法,其还包括在所述第一搅拌期的期间向所述透明容器施加剧烈运动。
CN201680087900.1A 2016-09-02 2016-09-02 用于在容器中实现改进的颗粒检测的视频触发同步 Active CN109642865B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2016/050283 WO2018044328A1 (en) 2016-09-02 2016-09-02 Video trigger synchronization for improved particle detection in a vessel

Publications (2)

Publication Number Publication Date
CN109642865A CN109642865A (zh) 2019-04-16
CN109642865B true CN109642865B (zh) 2021-07-13

Family

ID=56985671

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680087900.1A Active CN109642865B (zh) 2016-09-02 2016-09-02 用于在容器中实现改进的颗粒检测的视频触发同步

Country Status (15)

Country Link
EP (1) EP3472590B1 (zh)
JP (1) JP6972113B2 (zh)
KR (1) KR102196816B1 (zh)
CN (1) CN109642865B (zh)
AU (1) AU2016421905B2 (zh)
BR (1) BR112019004009B1 (zh)
CA (1) CA3033627C (zh)
DK (1) DK3472590T3 (zh)
EA (1) EA201990634A1 (zh)
ES (1) ES2919129T3 (zh)
IL (1) IL264426B (zh)
MX (1) MX2019002380A (zh)
SG (1) SG11201900387XA (zh)
WO (1) WO2018044328A1 (zh)
ZA (1) ZA201900475B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4065956A4 (en) * 2019-11-27 2024-03-20 Loma Linda University Pathology Medical Group, Inc HEMOSTATIC ANALYSIS SYSTEMS AND METHODS
EP3882611A3 (en) * 2020-03-17 2021-09-29 Manuel A. Soto A pre-filled parenteral drug inspection station and method of using the same
JP2021171874A (ja) * 2020-04-24 2021-11-01 セイコーエプソン株式会社 ワーク処理方法
IT202000031394A1 (it) * 2020-12-18 2022-06-18 Nuova Ompi Srl Apparato e metodo per ispezionare contenitori cilindrici trasparenti contenenti prodotti gel o viscosi trasparenti o semi trasparenti, in particolare per applicazioni medicali

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1720539A (zh) * 2002-12-03 2006-01-11 维森盖特有限公司 使用平行射线照射的小对象的光学层析术和后标本光学放大
US7016523B1 (en) * 1999-04-21 2006-03-21 Hiroyuki Ogawa Method for observing object by projection, method for detecting microorganisms and projection detecting system

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7907765B2 (en) * 2001-03-28 2011-03-15 University Of Washington Focal plane tracking for optical microtomography
JP2002303583A (ja) * 2001-04-05 2002-10-18 Matsushita Electric Works Ltd 容器の検査方法及び容器の検査装置
BRPI0606807A2 (pt) * 2005-01-31 2009-07-14 Univ Illinois dispositivo para analisar partìculas em uma amostra e método para analisar partìculas em uma amostra que contém as referidas partìculas
US8090183B2 (en) 2009-03-12 2012-01-03 Visiongate, Inc. Pattern noise correction for pseudo projections
EP2458367B1 (de) * 2010-11-25 2015-08-05 Mettler-Toledo AG Vorrichtung und Verfahren zur Erkennung fester Substanzen in einer flüssigen Phase
TWI708052B (zh) * 2011-08-29 2020-10-21 美商安美基公司 用於非破壞性檢測-流體中未溶解粒子之方法及裝置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7016523B1 (en) * 1999-04-21 2006-03-21 Hiroyuki Ogawa Method for observing object by projection, method for detecting microorganisms and projection detecting system
CN1720539A (zh) * 2002-12-03 2006-01-11 维森盖特有限公司 使用平行射线照射的小对象的光学层析术和后标本光学放大

Also Published As

Publication number Publication date
EA201990634A1 (ru) 2019-07-31
ZA201900475B (en) 2019-10-30
IL264426A (en) 2019-02-28
CN109642865A (zh) 2019-04-16
WO2018044328A1 (en) 2018-03-08
CA3033627A1 (en) 2018-03-08
ES2919129T3 (es) 2022-07-22
BR112019004009A2 (pt) 2019-06-04
AU2016421905A1 (en) 2019-03-07
SG11201900387XA (en) 2019-02-27
EP3472590B1 (en) 2022-04-06
CA3033627C (en) 2021-07-13
JP6972113B2 (ja) 2021-11-24
MX2019002380A (es) 2019-07-04
JP2019532270A (ja) 2019-11-07
AU2016421905B2 (en) 2019-03-28
EP3472590A1 (en) 2019-04-24
KR102196816B1 (ko) 2020-12-30
DK3472590T3 (da) 2022-06-20
IL264426B (en) 2021-12-01
KR20190027904A (ko) 2019-03-15
BR112019004009B1 (pt) 2021-06-22

Similar Documents

Publication Publication Date Title
US9704239B1 (en) Video trigger synchronization for improved particle detection in a vessel
CN109642865B (zh) 用于在容器中实现改进的颗粒检测的视频触发同步
US11803983B2 (en) Methods and apparati for nondestructive detection of undissolved particles in a fluid
JP6568105B2 (ja) 容器製品を検査する検査装置
EP3829980A1 (en) Robotic system for performing pattern recognition-based inspection of pharmaceutical containers
EP3070431B1 (en) Visual inspection device and visual inspection method
JP2011247835A (ja) 異物検査装置および異物検査方法
CN113433138A (zh) 一种容器异物的视觉检测方法
EA045175B1 (ru) Способ и система для обнаружения частиц в жидкости, находящейся в сосуде
JP2005070013A (ja) 容器充填液体の異物検査方法
JP2020139749A (ja) 粉体封入容器の製造方法
JP2022122072A (ja) 異物検出方法、異物検出システムおよびプログラム
JP2004340643A (ja) 実装基板検査装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40000478

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant