CN116152153A - 用于自动化缺陷检测的方法和装置 - Google Patents
用于自动化缺陷检测的方法和装置 Download PDFInfo
- Publication number
- CN116152153A CN116152153A CN202211460597.9A CN202211460597A CN116152153A CN 116152153 A CN116152153 A CN 116152153A CN 202211460597 A CN202211460597 A CN 202211460597A CN 116152153 A CN116152153 A CN 116152153A
- Authority
- CN
- China
- Prior art keywords
- image
- difference
- defect
- object under
- difference image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/001—Industrial image inspection using an image reference approach
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N29/00—Investigating or analysing materials by the use of ultrasonic, sonic or infrasonic waves; Visualisation of the interior of objects by transmitting ultrasonic or sonic waves through the object
- G01N29/04—Analysing solids
- G01N29/06—Visualisation of the interior, e.g. acoustic microscopy
- G01N29/0654—Imaging
- G01N29/0681—Imaging by acoustic microscopy, e.g. scanning acoustic microscopy
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N29/00—Investigating or analysing materials by the use of ultrasonic, sonic or infrasonic waves; Visualisation of the interior of objects by transmitting ultrasonic or sonic waves through the object
- G01N29/22—Details, e.g. general constructional or apparatus details
- G01N29/26—Arrangements for orientation or scanning by relative movement of the head and the sensor
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N29/00—Investigating or analysing materials by the use of ultrasonic, sonic or infrasonic waves; Visualisation of the interior of objects by transmitting ultrasonic or sonic waves through the object
- G01N29/44—Processing the detected response signal, e.g. electronic circuits specially adapted therefor
- G01N29/4409—Processing the detected response signal, e.g. electronic circuits specially adapted therefor by comparison
- G01N29/4436—Processing the detected response signal, e.g. electronic circuits specially adapted therefor by comparison with a reference signal
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N29/00—Investigating or analysing materials by the use of ultrasonic, sonic or infrasonic waves; Visualisation of the interior of objects by transmitting ultrasonic or sonic waves through the object
- G01N29/44—Processing the detected response signal, e.g. electronic circuits specially adapted therefor
- G01N29/4445—Classification of defects
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N29/00—Investigating or analysing materials by the use of ultrasonic, sonic or infrasonic waves; Visualisation of the interior of objects by transmitting ultrasonic or sonic waves through the object
- G01N29/44—Processing the detected response signal, e.g. electronic circuits specially adapted therefor
- G01N29/449—Statistical methods not provided for in G01N29/4409, e.g. averaging, smoothing and interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N2291/00—Indexing codes associated with group G01N29/00
- G01N2291/02—Indexing codes associated with the analysed material
- G01N2291/023—Solids
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N2291/00—Indexing codes associated with group G01N29/00
- G01N2291/10—Number of transducers
- G01N2291/101—Number of transducers one transducer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
- G06T2207/20104—Interactive definition of region of interest [ROI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20224—Image subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30148—Semiconductor; IC; Wafer
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Biochemistry (AREA)
- Analytical Chemistry (AREA)
- Chemical & Material Sciences (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- Quality & Reliability (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Acoustics & Sound (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
在用于自动化检查的方法和装置中,获取检查中对象的图像,并且生成示出相同类型的无缺陷对象的所获取的图像和参考图像之间的差别的差别图像。将所述差别图像或所述差别图像的所检测到的隔离区的特性传递到自动化缺陷分类器,以对所述检查中对象中的缺陷进行分类。所述差别图像的特性可以是所述差别图像的像素或根据其而确定的特征。所述特征可以是例如使用神经网络来提取的。所述自动化缺陷分类器是使用差别图像来训练的,且在操作中可以是基于操作者分类且使用由操作者识别的缺陷的仿真图像来进一步训练的。
Description
相关申请
本申请要求下述各项的权益:
· 2022年3月28日提交且名称为“Ultrasonic Defect Classification ofIsolated Defects using Machine Learning”的具有序列号63/324,342的临时申请,
· 2022年1月7日提交且名称为“Simulated Dynamic Pretraining forAutomated Defect Classification”的具有序列号63/297,601的临时申请,以及
· 2021年11月17日提交且名称为“Operator-in-the-loop Training of aMachine Learning Model”的具有序列号63/280,511的临时申请。
这些申请的整个内容通过引用并入本文。
背景技术
在制造之后,可以对设备进行检查以检测缺陷。这防止有缺陷的产品到达市场。作为对检查的辅助,可以获取设备的图像。例如,可以使用光学显微术图像或扫描超声显微术图像以辅助小型设备中的表面缺陷的检测,而可以使用扫描超声显微术图像或x射线图像以检测设备内的缺陷。
通常,对操作者进行训练,以检查这些图像,以识别设备中的缺陷。然而,这要求广泛训练,并且另外,由于低对比度缺陷、操作者间的变动、疲劳、以及要分析的设备的庞大数目,该过程易于出错。
存在这些图像的自动化分析的各种方法以检测缺陷。然而,可分析的不同设备的数目、设备自身的复杂性以及缺陷范例的有限数目可能导致在具有足够数据以训练自动化分类器时的大困难。
附图说明
附图提供了视觉表示,该视觉表示将用于更充分地描述各种代表性实施例,且可以被本领域技术人员使用以更好地理解所公开的代表性实施例及其内在优势。在这些附图中,相似附图标记标识对应或相似元素。
图1是根据各种代表性实施例的自动化缺陷分类器的框图。
图2是根据各种代表性实施例的生成用于与所获取的图像比较的一个或多个参考图像的方法的流程图。
图3是根据各种代表性实施例的对设备中的缺陷进行检测和分类的方法的流程图。
图4是根据各种代表性实施例的用于训练用于检查***中的缺陷分类的机器学习(ML)模型的装置的框图。
图5是根据各种代表性实施例的更新基于ML的自动化缺陷分类器的方法的流程图。
图6是根据各种代表性实施例的用于训练自动化缺陷分类器的装置的框图。
图7是根据各种代表性实施例的生成针对自动化缺陷分类器的训练材料的方法的流程图。
图8示出了根据各种代表性实施例的示例图像。
具体实施方式
本文描述的各种装置和设备提供了用于基于设备的所获取的图像对设备中的缺陷进行自动化检测和分类的机制。
尽管本公开易受以许多不同形式存在的实施例的影响,但在附图中示出且本文将详细描述具体实施例,其中要理解,本文示出和描述的实施例应当被视为提供本公开的原理的示例,且不意在将本公开限于所示出和描述的具体实施例。在以下描述中,相似附图标记用于描述附图的若干视图中的相同、类似或对应部分。为了图示的简明和清楚,可以在附图之间重复附图标记以指示对应或相似的元素。
设备中的缺陷的自动化检测和分类可以基于设备的所获取的图像。可以例如通过下述操作来获得图像:使用相机或检测器以捕获电磁辐射,诸如可见光、红外光或X射线。可替换地,可以根据对象上的扫描(诸如,使用扫描声学显微镜的超声扫描或磁共振成像(MRI)扫描)生成图像。
例如,在用于半导体设备的非破坏性测试的扫描超声显微术的环境中,机械扫描装置可以跨测试中设备而在正交(X和Y)方向上移动超声换能器,从而在期望区域上从多个所反射或发射的脉冲构造图像。一个或多个这种设备的图像是对自动化缺陷分类器的输入。超声成像在识别分层、空白、意外融合或桥、裂缝以及对半导体分析来说共有的其他这种缺陷时特别好。这些扫描可以是在晶片、个体设备、半导体封装(诸如,集成电路)和其他这种样本上完成的。
通常,对操作者进行训练,以检查这些图像,以识别设备中的缺陷。这要求广泛训练,并且由于低对比度缺陷、操作者间的变动、疲劳、以及可分析的设备的庞大数目,该过程易于出错。
存在这些图像的自动化分析的各种方法以找到缺陷并对缺陷进行分类。然而,可分析的不同设备的数目、设备自身的复杂性以及缺陷范例的有限数目可能导致在具有足够数据以训练自动化分类器时的大困难。
在在先自动化***中,使用原始缺陷图像或从其导出的特性。原始图像包括测试中设备的结构,因此,自动化分类器必须学***等之类的经典图像测量结果来有用地分析差别图像中的所隔离的缺陷,该分类器将这些识别为诸如裂缝、划痕、空白、意外融合和其他这种类别之类的缺陷。可替换地,可以使用基于ML的分类器来分析图像。如下所讨论,可以以多种方式获得差别,该多种方式包括参考图像的简单扣减。
所识别的缺陷类型可以可选地与用于更详细分类的缺陷位置(诸如,设备的特定部分上的空白)相关联。
该途径的一个特定优点是:可以在许多不同设备中看到所隔离的缺陷类型,从而允许经训练的分类器被应用于多个设备,而无需从所生产的每个设备获取缺陷范例以及每次训练或重新训练分类器。
图1是根据各种代表性实施例的用于自动化缺陷分类的装置100的框图。装置100包括例如图像捕获设备102,诸如扫描超声显微镜或相机。图像捕获设备102产生在储存装置106中的图像储存器104中存储的数字图像。储存装置106还存储用于与所捕获的图像比较的一个或多个参考图像108。装置100还包括一个或多个处理器110。这些可以包括可编程处理器、专用硬件或其组合。相应地,储存装置106还可以存储处理器可执行指令的程序。该一个或多个处理器实现下述各项:缩放和对准块112,其对所获取的图像进行调整、缩放和归一化以更好地与参考图像对准;以及差别化器114,其确定差别图像。在一个实施例中,差别图像是通过下述操作来产生的:从所获取的图像的像素值扣减参考图像的像素值(或者反之亦然)。下面描述其他实施例。可选地,当多个参考图像可用时,可以测量并使用图像之间的变化的统计数据,以对差别图像进行缩放。检测器116根据差别图像识别是否任何区示出显著差距或异常。特别地,检测器识别差别图像中的所隔离的异常。当检测到异常时,将关联信息传递到分类器118。关联信息可以是差别图像或差别图像的示出差距的区的像素120或者区的特性122(诸如形状、大小、对比度、纹理、位置等)。在一个实施例中,像素被传递到自动化特征提取器124,诸如神经网络。分类器118输出分类信息126,包括缺陷类。分类信息还可以包括通过/失败指示符。例如,可以经由操作者界面128将对应分类显示给人类操作者和/或将对应分类存储在储存装置106中的130处。分类信息126还可以被传递到控制器132。控制器132可以响应于分类信息而控制测试中设备的传输和扫描。除了缺陷的分类外,分类信息126还可以包括缺陷的位置和/或程度以及分类的置信水平。为此,储存装置106还可以包含与无缺陷设备的图像之间的期望变化相关的元数据134,连同诸如测试中设备中的感兴趣或有重要性的区的指定之类的附加信息一起。
在图1中所示的示例实施例中,图像捕获设备102是扫描声学显微镜,其包括:扫描仪136,其在多个扫描位置处使声穿透测试中对象;信号获取单元138,其从超声接收器获取信号;以及图像构建器140,其测量经时间门控的信号并在各种时间窗口中的扫描位置处产生接收强度的图像。在一个应用中,测试中对象是包含多个设备(芯片)的晶片。在该应用中,子图像提取器142提取要检查的个体设备的图像。
在一个实施例中,图像中的位置i, j处的差别图像被计算为绝对差:
其中i和j是像素索引,y(i, j)是测试中设备的所获取的图像,并且m(i, j)是在N个参考图像上计算为下式的均值参考图像x n (i, j):
在进一步实施例中,差别是被计算为通过标准差而归一化的绝对差的统计差别,即:
其中λ是非负参数并且标准差σ满足:
因此,参考图像的标准差对于其而言小的像素值中的差别将被给予更高加权。
在更进一步实施例中,位置i, j处的差别图像由最小距离给出:
在不脱离本公开的情况下可以使用差别的其他度量。
图2是根据代表性实施例的生成用于与所获取的图像比较的一个或多个参考图像的方法的流程图200。参考图2,在框202处获取与测试中设备相同类型的无缺陷设备的图像。这些可以是例如相同类型的不同设备的图像。在框204处,形成该一个或多个参考图像。在一个实施例中,对图像进行对准和归一化(如果需要的话),且然后对图像求平均以提供单个参考图像。在框206处,测量无缺陷图像的统计数据。例如,可以计算跨无缺陷图像的像素值的标准差。这允许差别图像的置信度测试或差别图像的缩放。可选地,在框208处,指定针对设备的感兴趣的区。最后,在框210处,存储该一个或多个参考图像,连同任何所测量的统计数据和所指定的感兴趣的区一起。
图3是根据各种代表性实施例的对设备中的缺陷进行检测和分类的方法的流程图300。在框302处,获取测试中设备的图像。图像可以是使用例如相机或扫描仪来获取的。可替换地,图像可以是从所存储的图像的数据库检索的。在框304处,对图像进行缩放和对准以更好地匹配于参考图像。例如,可以基于强度或对比度来对图像进行归一化,平移和/或旋转图像,以及扩充或收缩图像。可以针对改进的准确度而在子像素尺度上执行对准。在框306处,在所获取的图像与参考图像之间生成差别图像。可以通过设备到设备的变化的所测量的统计数据来缩放差别图像。
可选地,在框308处,通过应用边缘增强、纹理提取或其他图像处理操作来增强差别图像。
在决策框310处,确定差别是否指示测试中设备中的缺陷。这可以是通过检测所指定的感兴趣的区中的所隔离的异常来完成的。在一个实施例中,所隔离的异常是通过大小、角度、形状、纹理、对比度和其他这种表征来测量的。如果未指示缺陷,则如来自决策框310的否定分支所描绘,将设备判断为没有缺陷并且流程返回到框302。否则,如来自决策框310的肯定分支所描绘,将差别图像或所测量的表征传递到自动化缺陷分类器。检测可以利用阈值,诸如最小差别强度、最小大小、相对于参考偏差的最小强度、或者在继续传递差别以用于分类之前必须满足的其他这种准则。
在框312处,由自动化缺陷分类器对所隔离的缺陷进行识别和分类。另外,可以基于参考图像的统计数据连同缺陷的位置一起,产生分类的置信水平的指示。在框314处,报告缺陷类和位置,连同分类的置信水平一起。流程然后返回到框302。
在一个实施例中,可以使用先前识别的缺陷的特性的K-均值群集来训练分类器,从而将该当前差别的分类返回到所指定的缺陷类别之一中。可替换地,可以将低置信度分类成组为未经分类的差别,并且可选地返回低置信度分类以用于手动检查。本公开的其他实施例可以使用其他种类的分类器,诸如贝叶斯分类器、神经网络、或者机器学习领域中已知的其他分类器,其中任一个由返回多个潜在标识和置信度强度之一的单个分类器构成。
在上面描述的方法中,不要求分类器在设备的具体结构与缺陷之间进行区分,这是由于设备结构被差别化过程移除,从而对缺陷进行隔离。该途径的主要优点是:不必针对不同设备而重新训练分类器。训练分类器以辨别所隔离的缺陷的不同类是足够的。
分类器可以使用所识别的缺陷的特性,诸如大小、角度、形状、纹理和对比度。可替换地,可以自动从原始差别像素数据获得用于分类的特征向量。在一个实施例中,将原始像素数据传递到卷积神经网络(CNN)或其他神经网络,以提取然后被馈送到基于特征的分类器中的特征。
因此,使用已知良好设备的一个或多个参考图像,确定样本图像与参考的差别。仅差别或差别的所测量的特性用于检测和分类。
分类器(和CNN或其他特征发生器,如果被使用的话)可以是使用以先前识别的、经手动分类的和加标签的缺陷的形式存在的训练数据来训练的。然而,由于样本和参考图像之间的仅所提取的差别被馈送到分类器中,因此可以在不重新训练分类器的情况下测试不同半导体设备。
还可以报告分类的置信水平,并且可以报告未在足够置信度的情况下分类的差别,以用于手动检查。
总而言之,通过下述操作来对检查图像(诸如,半导体设备的超声扫描)中的缺陷进行分类:使用那些缺陷差别的多个测量结果以在多个缺陷类别之间进行区别,来将缺陷隔离为设备图像与一个或多个参考图像之间的差别。具有低分类置信度的差别在需要时还可以参考手动考虑。
回路中的操作者。
典型地,机器学习(ML)模型训练是在将经训练的模型部署到生产环境中之前发生的冗长过程。在该训练时段期间,用户未从模型得到值。另外,用户典型地不知道ML模型是否将在不执行广泛测试的情况下在现实世界环境中工作,这进一步延迟了部署。本公开的实施例力求消除冗长预训练,同时给操作者生产力提供即时值。附加的优点是:ML模型正在消除“数据移位”风险的生产环境中利用现实世界数据连续地进行测试。数据移位是在其上AI被训练和测试的数据与它在现实世界中遇到的数据之间的失配。
图4是根据各种代表性实施例的用于训练用于检查***中的缺陷分类的机器学***报告给操作者,使得操作者可以确定是否已经实现足够准确度。
在图4中所示的实施例中,从可处于操作者本地或远离于操作者的单个图像捕获设备404接收缺陷分类数据。然而,在其他实施例中,可以从多个检查站接收分类数据并使用分类数据以更新相同ML模型。这具有计及扫描工具之间的可能变化的附加优点。另外,多个操作者可以更新在多个站之间共享的ML模型。
图5是根据各种代表性实施例的更新基于ML的自动化缺陷分类器的方法500的流程图。在框502处由图像捕获设备获取测试中设备的图像。在框504处基于所捕获的图像与一个或多个参考图像之间的差别来对图像中的缺陷进行分类。在框506处基于被显示给操作者的差别图像来从操作者接收缺陷的分类。操作者分类可以用于更新图像元数据,使得所捕获的图像可以用于在稍后的时间处训练。在框508处比较操作者分类和基于ML的分类。在框510处由操作者解析分类中的任何差异。基于比较,在框512处更新自动化缺陷分类器的准确度的度量。如果分类器不足够准确,则如来自决策框514的否定分支所指示,在框516处使用操作者分类以更新分类器,以提供经改进的性能,并且流程返回到框502。否则,如来自决策框514的肯定分支所描绘,将分类器判断为足够准确并且不再需要操作者,如框518所指示。当这一点发生时,更新器可以发信号通知操作者。
仿真训练图像。
组件到组件、运行到运行和部分到部分的变动使得难以构建用于自动化检查的通用库。对自动化缺陷分类器(ADC)进行预训练要求处理表示具有和不具有缺陷的实际组件的大量图像(典型地,数千个)。这些图像可能难以获得——尤其是对于新设备。本公开的实施例动态地创建针对ADC的预训练材料,使得可以更早地在***中且在更少人为干预的情况下捕获更多缺陷。
图6是根据各种代表性实施例的用于训练自动化缺陷分类器(ADC)的装置600的框图。参考图6,相同类型的无缺陷设备的一个或多个参考图像被存储在储存装置106中的602处。如上所描述,差别化器114和分类器118用于对在604处存储的所获取的图像中检测到的缺陷进行分类。经由操作者界面128将所得分类传递到操作者。当检测到缺陷时,可以将缺陷的特性传递到仿真图像发生器606,其在多个不同(可行和不可行)视图中创建包含缺陷的仿真差别图像。仿真差别图像被存储在608处。针对图像的分类标签连同在仿真中使用的任何统计数据一起被存储在元数据储存器610中。仿真差别图像提供可以用于训练ADC以辨别缺陷的训练材料。这些可以是结合传统(非仿真)训练材料而使用的。在训练期间,仿真差别图像被直接传递到异常检测器116,如虚线箭头612所描绘。使用由分类器118产生的分类与元数据610中的标签之间的差别以更新分类器,且可选地更新特征提取器124。
在进一步实施例中,仿真图像发生器606生成具有和不具有缺陷的仿真图像。在602处存储的无缺陷图像不需要是设备图像——它们可以是任何图像。可以将噪声添加到包含缺陷的和无缺陷的图像中的一个或全部两个。
随着设备被扫描,可以动态地获得要检查的图像。当操作者识别出缺陷时,可以标记并使用该缺陷以触发多个仿真图像的生成。这可以针对ADC已正确分类、错误分类或未能检测到的缺陷而发生。还可以添加缺陷的新类。以该方式,与使用仅所扫描或所捕获的图像相比,训练图像的库可以被大大地扩大。
应当强调的是,仅在差别上训练ADC,因此,在执行检测和分类之前移除设备的无缺陷结构。以该方式,可以在新设备中辨别诸如例如硅芯片中的分层焊料凸块之类的缺陷,而无需针对新设备而训练ADC。
图7是根据各种代表性实施例的生成针对自动化缺陷分类器的训练材料的方法的流程图700。在检查站处,在框702处获取测试中设备的图像。在框704处获得差别图像并且在框706处将差别图像显示给检查站的操作者。在框708处,从操作者接收在差别图像中可见的缺陷的分类标签。该标签可以是缺陷的现有类或缺陷的新类的标签。在框710处生成包含加标签的缺陷的仿真图像。仿真图像至少部分地基于检查中对象的图像的所识别的区。在框712处,存储与仿真图像相关联的标签和其他元数据以用于未来使用。在框714处基于多个仿真图像和所接收的分类标签来更新自动化缺陷分类器,并且流程返回到702。以该方式,训练样本的数目增加,并且分类器被更新以提供更高准确度。另外,可以识别缺陷的新类并将该新类包括在训练材料中。
图8示出了根据各种代表性实施例的示例图像。图像802是没有缺陷的参考图像。图像804是示出以划痕806的形式存在的缺陷的所获取的图像。图像808是作为参考图像802与所获取的图像804之间的统计差别而获得的差别图像。
根据示例实施例,超声扫描设备将从多个脉冲的反射或发射构建的图像返回到测试中样本中。生成表示所构建的图像与已知良好设备的一个或多个参考图像之间的差别的差别图像。仅差别图像或从它提取的信息被接着传递以用于分类。可选地,可以通过诸如跨设备的参考图像的标准差之类的所观察的统计数据来对差别进行缩放。可选地,可以通过边缘增强、纹理提取或者其他图像处理操作者来对差别进行过滤以增强那些差别。可选地,可以存在阈值,诸如最小差别强度、最小大小、相对于参考偏差的最小强度、或者在继续传递差别以用于分类之前必须满足的其他这种准则。
测量结果可以由任何所检测到的差别组成,该所检测到的差别包括位置、大小、形状、纹理、对比度、取向等。在一个实施例中,差别图像的特征提取由卷积神经网络执行,从而提供被馈送到分类器中的特征的某个集合,连同更传统地计算的特征一起。这些特征自身不是分类,只是针对稍后分类器的附加特征。
可以以先前识别的、经手动分类的和加标签的缺陷的形式提供针对分类器的训练数据。分类器将差别特征的所测量的向量与缺陷的已知类别进行比较,从而报告最佳匹配是什么。使用样本和参考图像之间的仅所提取的差别在不重新训练分类器的情况下允许进一步分析应用于多个样本类型,诸如不同半导体设备。分类器可以使用例如K-均值群集,或者它可以是贝叶斯分类器、在加标签的数据上训练的神经网络、或者对本领域技术人员来说已知的其他机器学习分类器。在实施例中,确定和报告分类的置信度。可选地,可以报告未在足够置信度的情况下分类的差别以用于手动检查。
总而言之,本公开的实施例提供了用于使用机器学习以识别缺陷类型来对半导体设备的超声扫描或其他图像中的缺陷进行分类的机制。实施例一般使用那些缺陷差别的多个测量结果以在多个缺陷类别之间进行区别,来将缺陷隔离为设备图像与参考图像之间的差别。具有低分类确定性的差别在需要时还可以参考手动考虑。
在本文档中,诸如第一和第二、顶部和底部等等之类的相对术语可以仅用于将一个实体或动作与另一实体或动作进行区分,而不必然要求或暗示这种实体或动作之间的任何实际的这种关系或次序。术语“包括”、“包括着”、“包含”、“包含着”、“具有”、“具有着”或其任何其他变型意在覆盖非排他的包含,使得包括元素列表的过程、方法、物品或装置不仅包括那些元素,而且可以包括未被明确列出或者对这种过程、方法、物品或装置来说固有的其他元素。前面有“包括一”的元素在没有更多约束的情况下不排除在包括该元素的过程、方法、物品或装置中存在附加的相同元素。
遍及本文档对“一个实施例”、“某些实施例”、“实施例”、“实现方式”、“方面”或类似术语的引用意味着:结合该实施例而描述的特定特征、结构或特性被包括在本公开的至少一个实施例中。因此,这种短语在遍及本说明书中各处的出现不必然全部指代相同实施例。此外,可以在没有限制的情况下在一个或多个实施例中以任何合适方式组合特定特征、结构或特性。
如本文使用的术语“或”应被解释为包含性的或者意指任一个或任何组合。因此,“A、B或C”意指“以下各项中的任一个:A;B;C;A和B;A和C;B和C;A、B和C”。仅当元素、功能、步骤或动作的组合以某种方式固有地互斥时,该定义的例外将出现。
如本文所使用,术语“被配置成”在被应用于元素时意味着:该元素可以被设计或构造成执行指定功能,或者它具有所要求的结构以使它能够被重配置或适配成执行该功能。
已经阐述许多细节以提供本文描述的实施例的理解。可以在没有这些细节的情况下实践实施例。在其他实例中,未详细描述公知方法、过程和组件,以避免使所描述的实施例模糊。本公开不应被视为限于本文描述的实施例的范围。
本领域技术人员应当认识到,已经凭借示例描述了本公开。可以使用诸如与如所描述和要求保护的本公开等同的专用硬件和/或专用处理器之类的硬件组件等同物来实现本公开。类似地,可以使用专用处理器和/或专用硬连线逻辑以构造本公开的可替换等同实施例。
使用执行以流程图形式宽泛地描述的编程指令的专用硬件、可配置硬件或编程处理器来实现本文描述的各种实施例,该编程指令可以是在任何合适电子储存介质上存储的或者在任何合适电子通信介质上传输的。可以使用这些元素的组合。本领域技术人员应当领会,在不脱离本公开的情况下,可以在任何数目的变型中实现上面描述的过程和机制。例如,在不脱离本公开的情况下,可以常常使所实施的某些操作的次序发生变化,可以添加附加操作或者可以删除操作。这种变型被考虑为且被视为等同的。
已经作为示例而非作为限制而呈现了本文已详细描述的各种代表性实施例。本领域技术人员应当理解,可以在所描述的实施例的形式和细节方面作出各种改变,从而得到仍处于所附权利要求的范围内的等同实施例。
Claims (24)
1.一种自动化检查的方法,包括:
获取检查中对象的图像;
生成与所述检查中对象相同类型的对象的所获取的图像和参考图像之间的差别图像;以及
将所述差别图像的特性传递到自动化缺陷分类器,以对所述检查中对象中的缺陷进行分类,其中所述差别图像的特性包括所述差别图像的像素或根据其而确定的特征。
2.如权利要求1所述的方法,进一步包括:
在所述差别图像中检测包含异常的隔离区,其中被传递到所述自动化缺陷分类器的所述差别图像的特性包括所述隔离区中的所述差别图像的像素或根据其而确定的特征。
3.如权利要求1所述的方法,其中生成差别图像包括:计算所获取的图像的像素与所述参考图像的像素之间的逐像素差别。
4.如权利要求1所述的方法,进一步包括:在生成差别图像之前调整所获取的图像,其中所述调整包括旋转、平移、缩放、强度归一化和对比度归一化中的一个或多个。
5.如权利要求4所述的方法,其中所述调整基于对所获取的图像与所述参考图像之间的差别的度量进行最小化。
6.如权利要求1所述的方法,进一步包括:将所述参考图像生成为与所述检查中对象相同类型的一个或多个无缺陷对象的多个图像的均值。
7.如权利要求1所述的方法,进一步包括:
确定与所述检查中对象相同类型的一个或多个对象的多个图像的标准差;以及
至少部分地基于所计算的标准差来识别所述对象中的一个或多个缺陷。
8.如权利要求7所述的方法,进一步包括:基于所确定的标准差来缩放所述差别图像的值。
9.如权利要求1所述的方法,进一步包括:
将所述对象的差别图像显示给人类操作者;
从所述人类操作者接收在所述差别图像中可见的缺陷的分类标签;以及
基于所述分类标签来更新所述自动化缺陷分类器。
10.如权利要求9所述的方法,其中所述分类标签是现有分类标签或新分类标签。
11.如权利要求9所述的方法,进一步包括:
将从所述人类操作者接收的分类标签与由所述自动化缺陷分类器生成的分类标签进行比较;以及
基于比较的结果来更新所述自动化缺陷分类器的准确度的度量。
12.如权利要求11所述的方法,进一步包括:
将准确度的度量与阈值进行比较;以及
当准确度的度量超过阈值时,启用全自动化缺陷分类。
13.如权利要求1所述的方法,进一步包括:
基于所述差别图像来识别测试中对象的图像的包含所述测试中对象中的缺陷的区;
将所述图像的区显示给人类操作者;
从所述人类操作者接收在所述图像的区中可见的缺陷的分类标签;以及
生成包含加标签的缺陷的多个仿真图像,所述仿真图像至少部分地基于所述检查中对象的图像的所识别的区;以及
基于所述多个仿真图像和所接收的分类标签来更新所述自动化缺陷分类器。
14.如权利要求13所述的方法,所述仿真图像包括差别图像。
15.如权利要求1所述的方法,其中获取检查中对象的图像包括:
执行所述检查中对象的超声扫描以生成多个响应波形;
对所述响应波形进行时间门控;以及
基于经时间门控的波形来构建所述检查中对象的图像。
16.如权利要求1所述的方法,其中获取检查中对象的图像包括:捕获所反射或发射的电磁辐射的图像。
17.如权利要求1所述的方法,其中获取检查中对象的图像包括:从图像的数据库检索所述图像。
18.一种装置,包括:
图像捕获***,被配置成获取检查中对象的图像;
图像差别化器,被配置成接收所获取的图像,并生成与所述检查中对象相同类型的对象的所获取的图像和参考图像之间的差别图像;以及
自动化缺陷分类器,被配置成基于所述差别图像或从其导出的特征来对所述检查中对象中的缺陷进行检测和分类。
19.如权利要求18所述的装置,进一步包括:
检测器,被配置成检测包含异常的所述差别图像中的区,
其中所述自动化缺陷分类器被配置成基于所述差别图像中的所检测到的区或从其导出的特征来对所述检查中对象中的缺陷进行检测和分类。
20.如权利要求19所述的装置,进一步包括:
基于机器学习(ML)的特征提取器,
其中所导出的特征由所述基于ML的特征提取器从所述差别图像中的所检测到的区提取的特征构成。
21.如权利要求19所述的装置,进一步包括:
显示器,被配置成将所述对象的差别图像显示给人类操作者;
操作者界面,被配置成从所述人类操作者接收在所述差别图像中可见的缺陷的分类标签;以及
更新器,被配置成至少部分地基于所述分类标签来更新所述自动化缺陷分类器。
22.如权利要求19所述的装置,进一步包括:
仿真图像发生器,被配置成生成包含加标签的缺陷的多个仿真差别图像,仿真图像至少部分地基于所述差别图像中的所检测到的区且在一个或多个配置中包含加标签的缺陷。
23.如权利要求19所述的装置,进一步包括:
仿真图像发生器,被配置成生成包含加标签的缺陷的多个仿真图像和一个或多个对应无缺陷图像,包含加标签的缺陷的仿真图像至少部分地基于所述差别图像中的所检测到的区且在一个或多个配置中包含加标签的缺陷。
24.如权利要求18所述的装置,进一步包括针对下述各项的储存装置:
所述检查中对象的图像;
所述参考图像;以及
所述检查中对象的元数据,包括所述检查中对象中的感兴趣的区的描述符。
Applications Claiming Priority (8)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202163280511P | 2021-11-17 | 2021-11-17 | |
US63/280511 | 2021-11-17 | ||
US202263297601P | 2022-01-07 | 2022-01-07 | |
US63/297601 | 2022-01-07 | ||
US202263324342P | 2022-03-28 | 2022-03-28 | |
US63/324342 | 2022-03-28 | ||
US17/986524 | 2022-11-14 | ||
US17/986,524 US20230153989A1 (en) | 2021-11-17 | 2022-11-14 | Method and apparatus for automated defect detection |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116152153A true CN116152153A (zh) | 2023-05-23 |
Family
ID=86144095
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211460597.9A Pending CN116152153A (zh) | 2021-11-17 | 2022-11-17 | 用于自动化缺陷检测的方法和装置 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20230153989A1 (zh) |
JP (1) | JP2023081845A (zh) |
KR (1) | KR20230072452A (zh) |
CN (1) | CN116152153A (zh) |
DE (1) | DE102022130393A1 (zh) |
TW (1) | TW202331238A (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116883416B (zh) * | 2023-09-08 | 2023-11-24 | 腾讯科技(深圳)有限公司 | 工业产品缺陷的检测方法、装置、设备及介质 |
-
2022
- 2022-11-14 US US17/986,524 patent/US20230153989A1/en active Pending
- 2022-11-16 TW TW111143705A patent/TW202331238A/zh unknown
- 2022-11-17 JP JP2022184020A patent/JP2023081845A/ja active Pending
- 2022-11-17 KR KR1020220154613A patent/KR20230072452A/ko unknown
- 2022-11-17 DE DE102022130393.4A patent/DE102022130393A1/de active Pending
- 2022-11-17 CN CN202211460597.9A patent/CN116152153A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2023081845A (ja) | 2023-06-13 |
KR20230072452A (ko) | 2023-05-24 |
TW202331238A (zh) | 2023-08-01 |
DE102022130393A1 (de) | 2023-05-17 |
US20230153989A1 (en) | 2023-05-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102613438B1 (ko) | 반도체 표본의 딥 러닝 - 기반 검사의 방법 및 그 시스템 | |
CN111539908B (zh) | 对样本的缺陷检测的方法及其*** | |
KR102377374B1 (ko) | 복수의 아이템들을 분류하기 위한 시스템, 방법 및 컴퓨터 프로그램 제품 | |
KR102549196B1 (ko) | 반도체 시편의 심층 학습 기반 검사 방법 및 그의 시스템 | |
KR102079022B1 (ko) | 검사 레시피를 생성하는 방법 및 그 시스템 | |
CN109844919B (zh) | 优化用于设置检验相关算法的训练组 | |
US20220222806A1 (en) | Machine learning-based classification of defects in a semiconductor specimen | |
CN114092387B (zh) | 生成可用于检查半导体样本的训练数据 | |
US11592400B2 (en) | System, method and computer program product for object examination | |
KR20210150970A (ko) | 약한 라벨링을 사용한 반도체 시편들에서의 결함들의 검출 | |
US20230153989A1 (en) | Method and apparatus for automated defect detection | |
TWI772735B (zh) | 對半導體取樣中的缺陷進行分類的方法及其系統 | |
KR20230139806A (ko) | 머신 러닝을 사용한 초음파 결함 검출 및 분류 시스템 | |
CN111512324B (zh) | 半导体样品的基于深度学习的检查的方法及其*** | |
CN116818891A (zh) | 使用机器学习的超声缺陷检测和分类*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication |