CN117689885A - 芯片图像的版图提取方法及装置、电子设备 - Google Patents
芯片图像的版图提取方法及装置、电子设备 Download PDFInfo
- Publication number
- CN117689885A CN117689885A CN202311524741.5A CN202311524741A CN117689885A CN 117689885 A CN117689885 A CN 117689885A CN 202311524741 A CN202311524741 A CN 202311524741A CN 117689885 A CN117689885 A CN 117689885A
- Authority
- CN
- China
- Prior art keywords
- information
- image
- chip
- chip image
- decoder
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000605 extraction Methods 0.000 title claims abstract description 32
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 109
- 238000003709 image segmentation Methods 0.000 claims abstract description 107
- 230000011218 segmentation Effects 0.000 claims abstract description 77
- 238000000034 method Methods 0.000 claims abstract description 46
- 238000012545 processing Methods 0.000 claims abstract description 20
- 238000003708 edge detection Methods 0.000 claims abstract description 12
- 238000001514 detection method Methods 0.000 claims description 10
- 238000003062 neural network model Methods 0.000 claims description 4
- 238000007499 fusion processing Methods 0.000 claims description 3
- 238000004590 computer program Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 238000003860 storage Methods 0.000 description 8
- 238000013473 artificial intelligence Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 241000282414 Homo sapiens Species 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本申请涉及一种芯片图像的版图提取方法。该方法包括:利用预设图像版图提取模型对芯片图像中的版图进行提取,得到芯片图像中的版图;对芯片图像中所有像素进行边缘检测,得到整幅图像的边缘特征,以及对芯片图像进行实例分割以及语义分割处理,得到整幅图像的其他特征信息;采用图像分割算法的编码器对芯片图像进行编码,得到芯片图像的编码信息;利用提示词编码器对提示信息进行编码;将芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,得到芯片图像的版图的图像掩码。本申请解决了现有的图像分割算法无法实现对芯片图像有效自动版图提取的技术问题。
Description
技术领域
本申请涉及图像分割领域,特别是涉及一种芯片图像的版图提取方法及装置、电子设备。
背景技术
图像分割作为计算机视觉中的四大任务之一,旨在让智能体通过对图像进行分析和理解图像,从而让智能体能够更好的完成相关任务。在图像分割中,通过对图像的每个像素进行分配成对应的类别或对象,从而将数字图像分成多个部分的组合。在图像分割中,主要包含3种分割类别:语义分割,实例分割和全景分割。对于语义分割来说,其是对图像中每个像素预测对应的语义类别,对于实例分割来说,其是对图像中的每个像素预测其对应的实例类别,同时对于同一类的物体进行区分,而全景分割是对语义分割和实例分割的结合。通过图像分割,能够对数字图像中的像素进行精确划分,这也使得图像分割在多种计算机视觉相关任务中都得到应用,如自动驾驶、机器人感知等。
芯片图像是芯片本身的直接展示,且芯片是现代电子产业的基础,而数字化和AI人工智能技术的兴起也为芯片的研究和应用带来了新的思路和机会。通过将芯片三维数字化和AI人工智能相结合,可以实现芯片设计、制造和测试的高效化和智能化,提升芯片的性能和可靠性,同时也有助于拓展芯片应用的新领域。通过将芯片图像进行分割,能够有效促进芯片的物理设计、逻辑设计、和布图等信息,对国家芯片产业具有至关重要的作用。因此,将芯片行业和AI相结合是促进国家相关产业发展的重点。
由于芯片图像在拍摄过程中需要较高的像素和分块进行拍摄,因此普通的图像分割算法对芯片图像已经无法适用,主要存在以下问题:1)芯片图像的区域模式单一且重复,与自然图像有巨大差异。2)芯片图像自身的分辨率太高,且需要分割的类别像素太小,分割难度大,3)目前没有算法能够对芯片图像实现自动化版图提取。
针对现有的图像分割算法无法实现对芯片图像进行有效自动版图提取的问题,目前尚未提出有效的解决方案。
发明内容
本申请实施例提供的一种芯片图像的版图提取方法及装置、电子设备,至少解决现有的图像分割算法无法实现对芯片图像进行有效自动版图提取的问题。
根据本申请实施例的一个方面,提供了一种芯片图像的版图提取方法,包括:利用预设图像版图提取模型对芯片图像中的版图进行提取,得到芯片图像中的版图,其中,版图包括孔属性信息和引线属性信息,孔属性信息和引线属性信息分别为芯片图像中的芯片孔和引线对应的像素;对芯片图像中所有像素进行边缘检测,得到整幅图像的边缘特征,以及对芯片图像进行实例分割以及语义分割处理,得到整幅图像的其他特征信息,其他特征信息至少包括:实例信息和语义分割信息;将芯片图像输入图像分割算法的编码器,采用图像分割算法的编码器对芯片图像进行编码,得到芯片图像的编码信息;将提示信息输入至提示词编码器中,对提示信息进行编码,其中,提示信息包括:边缘特征、孔属性信息、引线属性信息、实例信息和语义分割信息;将芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,得到芯片图像的版图的图像掩码。
可选地,将述芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,包括:将边缘特征、孔属性信息、引线属性信息、实例信息和语义分割信息输入图像分割算法的提示词编码器中,构建版图的编码信息;图像分割算法的解码器利用提示信息的向量信息对版图的编码信息进行解码,得到版图的图像掩码。
可选地,提示信息还包括:像素高亮区域信息、芯片图像中像素对应的边缘信息以及芯片图像的实例信息和语义分割信息,其中,高亮区域信息为芯片图像的版图中对应的孔属性信息。
可选地,将述芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,包括:获取利用实例分割算法对芯片图像进行分割得到的语义类别信息;对语义类别信息进行减少通道维数的卷积操作后,对语义类别信息进行融合处理,得到处理完成的语义类别信息;将处理完成的语义类别信息输入图像分割算法的解码器,构建语义类别信息的向量信息;图像分割算法的解码器利用语义类别信息的向量信息对芯片图像的编码信息进行解码,得到版图的图像掩码。
可选地,将述芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,包括:将孔属性信息输入图像分割算法的解码器,构建孔属性信息对应像素的图像掩码的标签;图像分割算法的解码器利用标签对芯片图像的编码信息进行解码,得到孔属性信息对应的芯片孔的位置信息。
可选地,将述芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,包括:对边缘信息包括的线段信息进行多次分段处理,得到多个子线段信息;对多个子线段信息进行聚合处理后输入图像分割算法的解码器,构建线段信息的向量信息;图像分割算法的解码器利用线段信息的向量信息对芯片图像的编码信息进行解码,得到线段信息的图像掩码。
可选地,将芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码之后,上述方法还包括:对图像分割算法的解码器的神经网络模型参数进行调整。
根据本申请实施例的另一方面,还提供了一种芯片图像的版图提取装置,包括:提取模块,用于利用预设图像版图提取模型对芯片图像中的版图进行提取,得到芯片图像中的版图,其中,版图包括孔属性信息和引线属性信息,孔属性信息和引线属性信息分别为芯片图像中的芯片孔和引线对应的像素;检测模块,用于对芯片图像中所有像素进行边缘检测,得到整幅图像的边缘特征,以及对芯片图像进行实例分割以及语义分割处理,得到整幅图像的其他特征信息,其他特征信息至少包括:实例信息和语义信息;第一编码模块,用于将芯片图像输入图像分割算法的编码器,采用图像分割算法的编码器对芯片图像进行编码,得到芯片图像的编码信息;第二编码模块,用于将提示信息输入至提示词编码器中,对提示信息进行编码,其中,提示信息包括:边缘特征、孔属性信息、引线属性信息、实例信息和语义信息;解码模块,用于将述芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,得到芯片图像的版图的图像掩码。
根据本申请实施例的再一方面,还提供了一种电子设备,包括:处理器,以及存储程序的存储器,程序包括指令,指令在由处理器执行时使处理器执行以上任意一个实施例中的方法。
根据本申请实施例的再一方面,还提供了一种存储有计算机指令的非瞬时机器可读介质,计算机指令用于使计算机执行以上任意一个实施例中的方法。
本申请实施例的有益效果:
在本申请实施例中,采用利用预设图像版图提取模型对芯片图像中的版图进行提取,得到芯片图像中的版图,其中,版图包括孔属性信息和引线属性信息,孔属性信息和引线属性信息分别为芯片图像中的芯片孔和引线对应的像素;对芯片图像中所有像素进行边缘检测,得到整幅图像的边缘特征,以及对芯片图像进行实例分割以及语义分割处理,得到整幅图像的其他特征信息,其他特征信息至少包括:实例信息和语义分割信息;将芯片图像输入图像分割算法的编码器,采用图像分割算法的编码器对芯片图像进行编码,得到芯片图像的编码信息;将提示信息输入至提示词编码器中,对提示信息进行编码,其中,提示信息包括:边缘特征、孔属性信息、引线属性信息、实例信息和语义分割信息;将芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,得到芯片图像的版图的图像掩码的方式,通过利用图像分割算法对芯片图像进行分割,从而实现了对芯片图像进行像素级分类,得到对应类别精细准确的分割结果的技术效果,进而解决了现有的图像分割算法无法实现对芯片图像进行有效自动版图提取的技术问题。
本申请的一个或多个实施例的细节在以下附图和描述中提出,以使本申请的其他特征、目的和优点更加简明易懂。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的实施例。
图1是根据本申请实施例的一种芯片图像的版图提取方法的流程图;
图2a是根据本申请实施例的一种芯片图像;
图2b是根据本申请实施例的一种芯片图像的版图提取结果;
图3是根据本申请实施例的一种边缘检测算法在芯片图像中的处理结果的示意图;
图4根据本申请实施例的一种芯片图像的版图提取方法的架构图;
图5是根据本申请实施例的一种芯片图像的版图提取装置的结构框图;
图6是本实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本实施例的实施例。虽然附图中显示了本实施例的某些实施例,然而应当理解的是,本实施例可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本实施例。应当理解的是,本实施例的附图及实施例仅用于示例性作用,并非用于限制本实施例的保护范围。
为了更好地理解本申请实施例,以下将本申请实施例中涉及的技术术语解释如下:
SAM,Segment Anything Model的简称,即分割一切模型,是一个无监督的图像分割基础模型,在2023年被提出之后旨在统一整个图像分割任务,并且由于其能和人类进行交互,通过人的交互对图像实现所需要的分割方案,在目前的分割算法中有很强的分割效果。
零次学习,利用训练集数据训练模型,使得模型能够对测试集的对象进行分类,但是训练集类别和测试集类别之间没有交集;期间需要借助类别的描述,来建立训练集和测试集之间的联系,从而使得模型有效。
在相关技术中,由于芯片图像在拍摄过程中需要较高的像素和分块进行拍摄,主要存在以下问题:1)芯片图像的区域模式单一且重复,与自然图像有巨大差异。2)芯片图像自身的分辨率太高,且需要分割的类别像素太小,分割难度大。因此普通的图像分割算法对芯片图像已经无法适用。为了解决该问题,本申请实施例中提供了相关的解决方案,以下详细说明。
图1是根据本申请实施例的一种芯片图像的版图提取方法的流程图,如图1所示,该方法包括:
步骤S102,利用预设图像版图提取模型对芯片图像中的版图进行提取,得到芯片图像中的版图,其中,版图包括孔属性信息和引线属性信息,孔属性信息和引线属性信息分别为芯片图像中的芯片孔和引线对应的像素。
图2a是根据本申请实施例的一种芯片图像,图2b是根据本申请实施例的一种芯片图像的版图提取结果,在本步骤中,通过传统数字图像处理方法对图像的版图进行提取,对图像中所对应像素高亮区域的孔属性信息和引线属性信息进行划分,作为其图像中的一大类别,该部分可以为后续SAM中提供点属性的提示信息。
通过对原始图像进行阈值分割,对具有较高亮度信息孔状特征和引线特征进行首次分割,从而实现对该类别的精确分割。
可以理解的是,步骤S102中孔属性信息为芯片图像中的芯片引脚对应的像素区域,引线属性信息为芯片图像中的芯片引线对应的像素区域。
步骤S104,对芯片图像中所有像素进行边缘检测,得到整幅图像的边缘特征,以及对芯片图像进行实例分割以及语义分割处理,得到整幅图像的其他特征信息,其他特征信息至少包括:实例信息和语义分割信息。
在执行步骤S104时,对芯片图像中其他类别像素进行分割,将芯片图像其他类别像素通过边缘检测算法,可以获得图像中其他类别像素区域的边缘特征。图3是根据本申请实施例的一种边缘检测算法在芯片图像中的处理结果的示意图,在本申请的实施例中,边缘检测算法使用的是Canny算子进行检测。
此外,在执行步骤S104时,还可以对芯片图像进行实例分割和语义分割,得到整幅图像的实例信息和语义分割信息。
步骤S106,将芯片图像输入图像分割算法的编码器,采用图像分割算法的编码器对芯片图像进行编码,得到芯片图像的编码信息。
在本步骤中,将原始的芯片数字图像输入到SAM模型的编码器中,对原始的芯片数字图像进行编码。
SAM作为无监督图像分割的算法,能够实现零次学习(zero-shot)的图像分割,更重要的是,通过人为提供给SAM所需要分类的信息,从而能够在重复的图像区域中对像素进行区分,这种能够通过人为交互对分割结果进行提示,最后得到所需的分割结果恰好可以用于加速芯片研发和处理过程。
步骤S108,将提示信息输入至提示词编码器中,对提示信息进行编码,其中,提示信息包括:边缘特征、孔属性信息、引线属性信息、实例信息和语义分割信息。
在执行步骤S108时,将前述步骤中得到的边缘特征、孔属性信息、引线属性信息、实例信息和语义分割信息作为提示信息输入至提示词编码器中进行编码。
步骤S110,将芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,得到芯片图像的版图的图像掩码。
在执行步骤S110时,将芯片图像的编码信息和提示信息的编码信息输入到SAM的解码器中,之后通过解码器部分对芯片图像的编码信息进行解码,得到芯片图像的版图的图像掩码,以此获得芯片图像分割的结果。
图4根据本申请实施例的一种芯片图像的版图提取方法的架构图。本申请实施例所提供的上述方法,通过利用SAM分割模型对芯片图像进行分割,从而实现了对芯片图像进行像素级分类,得到对应类别精细准确的分割结果的技术效果。
根据本申请的一些可选的实施例,将述芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,可以通过以下方法实现:将边缘特征、孔属性信息、引线属性信息、实例信息和语义分割信息输入图像分割算法的提示词编码器中,构建版图的编码信息;图像分割算法的解码器利用提示信息的向量信息对版图的编码信息进行解码,得到版图的图像掩码。
将边缘特征的编码信息、孔属性信息、引线属性信息、实例信息和语义分割信息作为提示信息输入到SAM的解码器中,构建成对应的向量信息,之后通过解码器部分利用构建的向量信息生成芯片图像中版图的图像掩码。
在解码器部分,通过和前述的线段,图像类别边缘,孔所形成的特征以及实例分割和目标检测所构建的掩码特征作为解码器的提示部分,并且将其提示信息进行聚合,以此促进芯片图像分割结果的精细化和有效分割。
根据本申请的另一些可选的实施例,像素高亮区域信息、芯片图像中像素对应的边缘信息以及芯片图像的实例信息和语义分割信息,其中,高亮区域信息为芯片图像的版图中对应的孔属性信息。
在本申请的一些可选的实施例中,除了将边缘特征作为提示信息输入到SAM模型,还使用如实例分割、上文中提到的孔属性信息(也称为高亮区域信息)和目标检测算法对芯片图像中的重复区域进行划分,以获得多层次,精细化的分割结果。包括使用Mask R-CNN,Fast-RCNN等进行实例分割和目标检测,将这些提供的分割信息作为提示信息给解码器,最终得到输出的结果。
Mask R-CNN是一个实例分割算法,可以用来做目标检测、目标实力分割或目标关键点检测。Fast-RCNN也是一个目标监测模型,可以用来做目标检测。
作为本申请的一些可选的实施例,将述芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,还可以通过以下方法实现:获取利用实例分割算法对芯片图像进行分割得到的语义类别信息;对语义类别信息进行减少通道维数的卷积操作后,对语义类别信息进行融合处理,得到处理完成的语义类别信息;将处理完成的语义类别信息输入图像分割算法的解码器,构建语义类别信息的向量信息;图像分割算法的解码器利用语义类别信息的向量信息对芯片图像的编码信息进行解码,得到版图的图像掩码。
在分割部分的解码器提示信息中,利用SAM本身图像编码器得到的信息,同时将编码器部分的参数进行冻结(编码器部分的参数不更新),并且在编码器中提取中间层的特征,将该特征使用卷积操作进行融合,之后再使用现有的实例分割信息作为分割的提示信息,其过程如下所示:
{Fi}=Φi-enc(I)
Fi=DownConv(Fi)
F=FusionConv(Fi…k)
其中,i∈{1,…,k}表示从实例分割算法中得到的语义类别信息。DownConv部分表示减少通道维数的卷积操作,FusionConv表示将之前语义类别信息进行融合后,通过激活函数进行叠加。/>表示得到的图像掩码。
在本申请的一些可选的实施例中,将述芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,还包括:将孔属性信息输入图像分割算法的解码器,构建孔属性信息对应像素的图像掩码的标签;图像分割算法的解码器利用标签对芯片图像的编码信息进行解码,得到孔属性信息对应的芯片孔的位置信息。
在使用孔属性信息作为提示信息输入到解码器中时,通过传统图像处理的阈值分割方法,获得孔所对应的位置信息,因此这部分的信息可以直接作为输出图像分类掩码的标签,过程可用如下描述:
Fimg=Φi-point(I)
之后通过SAM的解码器部分,直接输出孔所对应的位置信息。
在本申请的另一些可选的实施例中,将述芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,还可以通过以下方法实现:对边缘信息包括的线段信息进行多次分段处理,得到多个子线段信息;对多个子线段信息进行聚合处理后输入图像分割算法的解码器,构建线段信息的向量信息;图像分割算法的解码器利用线段信息的向量信息对芯片图像的编码信息进行解码,得到线段信息的图像掩码。
对于线段、边缘的信息,将通过对其进行多次分段进行处理,对分段后的线特征作为提示信息输入到对解码器中,之后将其与上述的特征进行聚合,其计算过程如下:
F′i=ΦDownConv(Fi)
m1=F′1
mi=mi-1+ΦConv2D(mi-1)+F′i
Fagg=ΦFusionConv(mk)
其中,和/>表示SAM模型自身的特征。
作为本申请的一个可选的实施例,将芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码之后,还需要对图像分割算法的解码器的神经网络模型参数进行调整。
SAM模型的解码器自身具有轻量级,也更容易进行调节,也更容易获得类别掩码输出,因此这里将聚合后的信息输入到SAM模型的解码器后,对解码器中的神经网络模型参数进行调节,可得到最后的分割结果。
本申请提供的技术方案,以SAM初始模型为基础,通过引入像素边缘信息、图像中线段等信息,并根据SAM模型中的解码部分构造根据线段、图像边缘、点类别、区域边界框以及图像掩码的提示信息作为分割结果的来源,从而实现对芯片图像中不同类别的特征进行分割和精细化标注,保证基于SAM模型的基础上,对具有重复区域,非自然类别的特征进行分割。在芯片图像数据中进行了分割数据的验证,实验结果表明该方法能够有效对芯片图像进行分割和掩码标注,能够加快芯片制造相关的研发过程。
基于本发明实施例提供的上述芯片图像的版图提取方法,本发明实施例还提供一种芯片图像的版图提取装置,如图5所示,该装置包括:
提取模块50,用于利用预设图像版图提取模型对芯片图像中的版图进行提取,得到芯片图像中的版图,其中,版图包括孔属性信息和引线属性信息,孔属性信息和引线属性信息分别为芯片图像中的芯片孔和引线对应的像素。
检测模块52,用于对芯片图像中所有像素进行边缘检测,得到整幅图像的边缘特征,以及对芯片图像进行实例分割以及语义分割处理,得到整幅图像的其他特征信息,其他特征信息至少包括:实例信息和语义信息。
第一编码模块54,用于将芯片图像输入图像分割算法的编码器,采用图像分割算法的编码器对芯片图像进行编码,得到芯片图像的编码信息。
第二编码模块56,用于将提示信息输入至提示词编码器中,对提示信息进行编码,其中,提示信息包括:边缘特征、孔属性信息、引线属性信息、实例信息和语义信息。
解码模块58,用于将述芯片图像的编码信息和对提示信息进行编码得到的编码信息输入到图像分割算法的解码器,采用图像分割算法的解码器对芯片图像的编码信息进行解码,得到芯片图像的版图的图像掩码。
本发明实施例所提供的上述芯片图像的版图提取装置,通过利用SAM分割模型对芯片图像进行分割,从而实现了对芯片图像进行像素级分类,得到对应类别精细准确的分割结果的技术效果。
需要说明的是,图5所示实施例的优选实施方式可以参见图1所示实施例的相关描述,此处不再赘述。
本发明实施例还提供一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器。上述存储器存储有能够被上述至少一个处理器执行的计算机程序,上述计算机程序在被上述至少一个处理器执行时用于使电子设备执行本发明实施例的方法。
本发明实施例还提供一种存储有计算机程序的非瞬时机器可读介质,其中,上述计算机程序在被计算机的处理器执行时用于使上述计算机执行本发明实施例的方法。
本发明实施例还提供一种计算机程序产品,包括计算机程序,其中,计算机程序在被计算机的处理器执行时用于使计算机执行本发明实施例的方法。
参考图6,现将描述可以作为本发明实施例的服务器或客户端的电子设备的结构框图,其是可以应用于本发明的各方面的硬件设备的示例。电子设备旨在表示各种形式的数字电子的计算机设备,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图6所示,电子设备包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM 603中,还可存储电子设备操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
电子设备中的多个部件连接至I/O接口405,包括:输入单元606、输出单元607、存储单元608以及通信单元609。输入单元606可以是能向电子设备输入信息的任何类型的设备,输入单元606可以接收输入的数字或字符信息,以及产生与电子设备的用户设置和/或功能控制有关的键信号输入。输出单元607可以是能呈现信息的任何类型的设备,并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。存储单元608可以包括但不限于磁盘、光盘。通信单元609允许电子设备通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据,并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信收发机和/或芯片组,例如蓝牙设备、WiFi设备、WiMax设备、蜂窝通信设备和/或类似物。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于CPU、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理。例如,在一些实施例中,本发明的方法实施例可被实现为计算机程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到电子设备上。在一些实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行上述的方法。
用于实施本发明实施例的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得计算机程序当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明实施例的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读信号介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
需要说明的是,本发明实施例使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。本发明实施例中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本发明实施例所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,并且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准,并提供有相应的操作入口,供用户选择授权或者拒绝。
本发明实施例所提供的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本发明的保护范围在此方面不受限制。
“实施例”一词在本说明书中指的是结合实施例描述的具体特征、结构或特性可以包括在本发明的至少一个实施例中。该短语出现在说明书中的各个位置并不一定意味着相同的实施例,也不意味着与其它实施例相互排斥而具有独立性或可供选择。本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见。尤其,对于装置、设备、***实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明。
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对专利保护范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明的保护范围应以所附权利要求为准。
Claims (10)
1.一种芯片图像的版图提取方法,其特征在于,包括:
利用预设图像版图提取模型对芯片图像中的版图进行提取,得到所述芯片图像中的版图,其中,所述版图包括孔属性信息和引线属性信息,所述孔属性信息和引线属性信息分别为所述芯片图像中的芯片孔和引线对应的像素;
对所述芯片图像中所有像素进行边缘检测,得到整幅图像的边缘特征,以及对所述芯片图像进行实例分割以及语义分割处理,得到整幅图像的其他特征信息,所述其他特征信息至少包括:实例信息和语义分割信息;
将所述芯片图像输入图像分割算法的编码器,采用所述图像分割算法的编码器对所述芯片图像进行编码,得到所述芯片图像的编码信息;
将提示信息输入至提示词编码器中,对所述提示信息进行编码,其中,所述提示信息包括:所述边缘特征、所述孔属性信息、所述引线属性信息、所述实例信息和所述语义分割信息;
将所述芯片图像的编码信息和对所述提示信息进行编码得到的编码信息输入到所述图像分割算法的解码器,采用所述图像分割算法的解码器对所述芯片图像的编码信息进行解码,得到所述芯片图像的版图的图像掩码。
2.根据权利要求1所述的方法,其特征在于,将述芯片图像的编码信息和对所述提示信息进行编码得到的编码信息输入到所述图像分割算法的解码器,采用所述图像分割算法的解码器对所述芯片图像的编码信息进行解码,包括:
将所述边缘特征、所述孔属性信息、所述引线属性信息、所述实例信息和所述语义分割信息输入所述图像分割算法的提示词编码器中,构建所述版图的编码信息;
所述图像分割算法的解码器利用所述提示信息的向量信息对所述版图的编码信息进行解码,得到所述版图的图像掩码。
3.根据权利要求1所述的方法,其特征在于,所述提示信息还包括:像素高亮区域信息、所述芯片图像中像素对应的边缘信息以及所述芯片图像的实例信息和语义分割信息,其中,所述高亮区域信息为所述芯片图像的版图中对应的孔属性信息。
4.根据权利要求3所述的方法,其特征在于,将述芯片图像的编码信息和对所述提示信息进行编码得到的编码信息输入到所述图像分割算法的解码器,采用所述图像分割算法的解码器对所述芯片图像的编码信息进行解码,包括:
获取利用实例分割算法对所述芯片图像进行分割得到的语义类别信息;
对所述语义类别信息进行减少通道维数的卷积操作后,对所述语义类别信息进行融合处理,得到处理完成的语义类别信息;
将所述处理完成的语义类别信息输入所述图像分割算法的解码器,构建所述语义类别信息的向量信息;
所述图像分割算法的解码器利用所述语义类别信息的向量信息对所述芯片图像的编码信息进行解码,得到所述版图的图像掩码。
5.根据权利要求3所述的方法,其特征在于,将述芯片图像的编码信息和对所述提示信息进行编码得到的编码信息输入到所述图像分割算法的解码器,采用所述图像分割算法的解码器对所述芯片图像的编码信息进行解码,包括:
将所述孔属性信息输入所述图像分割算法的解码器,构建所述孔属性信息对应像素的图像掩码的标签;
所述图像分割算法的解码器利用所述标签对所述芯片图像的编码信息进行解码,得到所述孔属性信息对应的芯片孔的位置信息。
6.根据权利要求3所述的方法,其特征在于,将述芯片图像的编码信息和对所述提示信息进行编码得到的编码信息输入到所述图像分割算法的解码器,采用所述图像分割算法的解码器对所述芯片图像的编码信息进行解码,包括:
对所述边缘信息包括的线段信息进行多次分段处理,得到多个子线段信息;
对所述多个子线段信息进行聚合处理后输入所述图像分割算法的解码器,构建所述线段信息的向量信息;
所述图像分割算法的解码器利用所述线段信息的向量信息对所述芯片图像的编码信息进行解码,得到所述线段信息的图像掩码。
7.根据权利要求1至6中任意一项所述的方法,其特征在于,将所述芯片图像的编码信息和对所述提示信息进行编码得到的编码信息输入到所述图像分割算法的解码器,采用所述图像分割算法的解码器对所述芯片图像的编码信息进行解码之后,所述方法还包括:对所述图像分割算法的解码器的神经网络模型参数进行调整。
8.一种芯片图像的版图提取装置,其特征在于,包括:
提取模块,用于利用预设图像版图提取模型对芯片图像中的版图进行提取,得到所述芯片图像中的版图,其中,所述版图包括孔属性信息和引线属性信息,所述孔属性信息和引线属性信息分别为所述芯片图像中的芯片孔和引线对应的像素;
检测模块,用于对所述芯片图像中所有像素进行边缘检测,得到整幅图像的边缘特征,以及对所述芯片图像进行实例分割以及语义分割处理,得到整幅图像的其他特征信息,所述其他特征信息至少包括:实例信息和语义信息;
第一编码模块,用于将所述芯片图像输入图像分割算法的编码器,采用所述图像分割算法的编码器对所述芯片图像进行编码,得到所述芯片图像的编码信息;
第二编码模块,用于将提示信息输入至提示词编码器中,对所述提示信息进行编码,其中,所述提示信息包括:所述边缘特征、所述孔属性信息、所述引线属性信息、所述实例信息和所述语义信息;
解码模块,用于将述芯片图像的编码信息和对所述提示信息进行编码得到的编码信息输入到所述图像分割算法的解码器,采用所述图像分割算法的解码器对所述芯片图像的编码信息进行解码,得到所述芯片图像的版图的图像掩码。
9.一种电子设备,包括:处理器,以及存储程序的存储器,其特征在于,所述程序包括指令,所述指令在由所述处理器执行时使所述处理器执行根据权利要求1至7中任一项所述的方法。
10.一种存储有计算机指令的非瞬时机器可读介质,其特征在于,所述计算机指令用于使所述计算机执行根据权利要求1至7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311524741.5A CN117689885A (zh) | 2023-11-15 | 2023-11-15 | 芯片图像的版图提取方法及装置、电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311524741.5A CN117689885A (zh) | 2023-11-15 | 2023-11-15 | 芯片图像的版图提取方法及装置、电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117689885A true CN117689885A (zh) | 2024-03-12 |
Family
ID=90137974
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311524741.5A Pending CN117689885A (zh) | 2023-11-15 | 2023-11-15 | 芯片图像的版图提取方法及装置、电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117689885A (zh) |
-
2023
- 2023-11-15 CN CN202311524741.5A patent/CN117689885A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11367282B2 (en) | Subtitle extraction method and device, storage medium | |
CN109151501B (zh) | 一种视频关键帧提取方法、装置、终端设备及存储介质 | |
CN108665373B (zh) | 一种车辆定损的交互处理方法、装置、处理设备及客户端 | |
CN110555334B (zh) | 人脸特征确定方法、装置、存储介质及电子设备 | |
US10699751B1 (en) | Method, system and device for fitting target object in video frame | |
CN114238904B (zh) | 身份识别方法、双通道超分模型的训练方法及装置 | |
CN112804558B (zh) | 视频拆分方法、装置及设备 | |
CN114679607B (zh) | 一种视频帧率控制方法、装置、电子设备及存储介质 | |
WO2023045635A1 (zh) | 多媒体文件的字幕处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品 | |
CN112163120A (zh) | 一种分类方法、终端及计算机存储介质 | |
CN113705300A (zh) | 音转文训练语料的获取方法、装置、设备以及存储介质 | |
CN112906492A (zh) | 视频场景处理方法、装置、设备及介质 | |
CN110910400A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US9311523B1 (en) | Method and apparatus for supporting object recognition | |
CN117095019B (zh) | 一种图像分割方法及相关装置 | |
KR102277929B1 (ko) | 얼굴 인식에 기반한 실시간 얼굴 마스킹 시스템 및 이를 이용한 실시간 얼굴 마스킹 방법 | |
EP3709666A1 (en) | Method for fitting target object in video frame, system, and device | |
CN117689885A (zh) | 芯片图像的版图提取方法及装置、电子设备 | |
CN110765304A (zh) | 图像处理方法、装置、电子设备及计算机可读介质 | |
CN115830362A (zh) | 图像处理方法、装置、设备、介质及产品 | |
CN113127058B (zh) | 数据标注方法、相关装置及计算机程序产品 | |
CN115984977A (zh) | 活体检测方法和*** | |
TWI669947B (zh) | 圖片轉碼方法、計算設備及儲存介質 | |
CN110781345B (zh) | 视频描述生成模型的获取方法、视频描述生成方法及装置 | |
CN111046232A (zh) | 一种视频分类方法、装置及*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |