CN111937038A - 自动选择扫描策略的3d扫描 - Google Patents
自动选择扫描策略的3d扫描 Download PDFInfo
- Publication number
- CN111937038A CN111937038A CN201980024403.0A CN201980024403A CN111937038A CN 111937038 A CN111937038 A CN 111937038A CN 201980024403 A CN201980024403 A CN 201980024403A CN 111937038 A CN111937038 A CN 111937038A
- Authority
- CN
- China
- Prior art keywords
- volume
- interest
- region
- input
- object surface
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012360 testing method Methods 0.000 claims abstract description 92
- 238000000034 method Methods 0.000 claims abstract description 67
- 230000003287 optical effect Effects 0.000 claims abstract description 35
- 238000003384 imaging method Methods 0.000 claims abstract description 16
- 238000010801 machine learning Methods 0.000 claims description 21
- 239000000523 sample Substances 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 13
- 238000003709 image segmentation Methods 0.000 claims description 10
- 238000013527 convolutional neural network Methods 0.000 claims description 8
- 238000012545 processing Methods 0.000 description 11
- 238000002360 preparation method Methods 0.000 description 10
- 238000005286 illumination Methods 0.000 description 9
- 238000004458 analytical method Methods 0.000 description 7
- 238000010408 sweeping Methods 0.000 description 7
- 238000013528 artificial neural network Methods 0.000 description 6
- 238000012876 topography Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 238000013459 approach Methods 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 239000011505 plaster Substances 0.000 description 4
- 230000011218 segmentation Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 238000003708 edge detection Methods 0.000 description 3
- 238000003703 image analysis method Methods 0.000 description 3
- 210000003484 anatomy Anatomy 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000007493 shaping process Methods 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 210000002455 dental arch Anatomy 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 238000005549 size reduction Methods 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30036—Dental; Teeth
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Dental Tools And Instruments Or Auxiliary Dental Instruments (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
根据一个实施例,公开了一种用于3D扫描对象表面的至少一部分的方法。该方法包括使用包括至少一个相机的光学扫描仪来记录对象表面的该至少一部分的一个或多个测试2D图像;自动识别该测试2D图像中第一感兴趣级别的第一片段,该第一片段对对象表面的该至少一部分上的感兴趣区域成像;识别包括对象表面的该至少一部分的感兴趣区域的第一3D体积;选择限定第一分辨率和/或第一覆盖范围的第一输入;使用第一输入来3D扫描第一3D体积内的对象表面的该至少一部分。
Description
技术领域
本公开总体上涉及对象的3D扫描以获得对象的数字3D表示。更具体地,本公开涉及被配置为基于对象的感兴趣区域的自动识别来选择扫描策略的方法和3D扫描仪。
背景技术
当使用光学方法对对象进行3D扫描时,可以从一系列2D图像中得出对象的数字3D表示,每个2D图像都提供对象表面一部分的表面形貌信息。
3D扫描可以基于几种光学检测技术,例如三角测量或对焦扫描。许多三角测量3D扫描仪使用激光束来探测对象表面,并利用2D相机来寻找激光束反射的位置。取决于激光撞击表面多远,激光束会出现在相机视野的不同位置处。将该技术称为三角测量,因为激光束撞击在表面上所处的点,相机和光源共同形成三角形。通过将激光束扫过对象来记录对象表面较大部分的形貌信息。可使用照亮例如几平方厘米的面积的图案化的探测光束而不是单个激光点或线来加快采集过程。
几种类型的3D扫描仪可商购获得,例如来自3shape A/S的D2000扫描仪,其中要扫描的对象布置在3D扫描仪的扫描体积中。在修复和正畸手术两者中,至关重要的是确定要提供假体处的牙齿部位。通常,对牙齿部位的这种识别由操作员手动进行。这不仅使牙科数字工作流变慢,而且可能使得识别操作容易受到人为错误的影响。
本公开提供了3D扫描仪和扫描方法,其中公开了传统实践的替代方案。
发明内容
本公开涉及选择扫描策略,其通过消除一些用户交互来允许比常规可用方法更快的扫描方法。所公开的方法提供了足够的分辨率和感兴趣区域的覆盖范围,同时通过避免扫描对象的相对较不感兴趣区域或以比更感兴趣区域相对更差的分辨率和/或覆盖范围扫描相对较不感兴趣区域来最小化总扫描时间。在此,“感兴趣区域”是被扫描对象的表面的一部分。
以下描述的和下文中的方法的一些操作/步骤可以被实现为可执行代码并且可以使用数据处理器或其他处理装置来承载。指令可以作为计算机程序产品来提供,其从计算机可读存储介质或从另一计算机经由计算机网络加载到数据处理器的存储器(例如RAM存储器单元)。所描述的操作/步骤还可以通过硬连线电路而不是软件或与计算机程序产品结合来实现。
根据一个实施例,公开了一种用于3D扫描对象表面的至少一部分的方法。该方法包括使用包括至少一个相机的光学扫描仪来记录对象表面的至少一部分的一个或多个测试2D图像;自动识别测试2D图像内的第一感兴趣级别的第一片段,该第一片段对对象表面的至少一部分上的感兴趣区域成像;识别包括对象表面的至少一部分的该感兴趣区域的第一3D体积;选择限定第一分辨率和/或第一覆盖范围的第一输入;以及使用该第一输入在第一3D体积内3D扫描对象表面的该至少一部分。
术语3D扫描是指使用采用3D扫描技术的扫描仪来扫描物理对象并导致生成该物理对象的数字3D模型。
感兴趣区域可以包括与设计牙齿修复或正畸装置有关的区域。例如,当对象是具有一种或多种牙齿制备物的牙科模型,即患者牙齿的至少一部分的物理模型时,牙医或牙科技师可能想要用于该制备的高分辨率数据,特别是制备好的牙齿的边缘线,但其他位置的分辨率较低。牙医或牙科技师可能还希望很好地覆盖范围该制备物,而在其他地方覆盖范围较差通常是可以接受的。在其中牙科模型包含扫描标记的另一个示例中,与牙科模型的其他部分相比,通常应以更高的分辨率和覆盖范围来扫描这些和任何相邻的牙齿,例如紧邻的牙齿。因此,在本公开的上下文中,具有或不具有相邻(例如紧邻)牙齿的制备物和扫描标记代表感兴趣区域的一些示例。
在一个实施例中,基于对对象的测试2D图像的分析来检测对象上的感兴趣区域。由于感兴趣区域(一个或多个)是3D表面(即3D空间中存在的表面)的部分(一个或多个),因此对测试2D图像进行分析,以便显示为3D感兴趣区域的部分将出现在2D图像中。执行这种分析的示意性方式是对测试2D图像进行分段,其中感兴趣的片段指示对象上的感兴趣区域。测试2D图像的分段是将数字2D图像划分为多个片段(例如,像素集)的已知过程。分段允许将图像的表示简化为更有意义的(图像),从而使其更易于分析。图像分段通常可用于在图像中定位对象和/或边界(线,曲线等)。这可以进一步包括将标签分配给图像中的像素的过程,以使具有相同标签的像素共享某些特征,从而允许识别感兴趣区域。从文献中已知许多图像分析方法,例如边缘检测、特征识别或机器学习。
在另一实施例中,该方法还包括在一个或多个测试2D图像内自动识别第二感兴趣级别的第二片段,该第二片段在该对象表面的至少一部分上成像第二感兴趣级别的区域;识别包括对象表面的至少一部分的第二感兴趣级别区域的第二3D体积;选择限定第二分辨率和/或第二覆盖范围的第二输入;以及使用第二输入3D扫描第二3D体积内的对象表面的该至少一部分。
术语“2D图像”可以指从对象反射并由相机记录的光的2D图像。可以使用任何种类的照明,例如通过环境光的均匀照明或来自光源的均匀的探测光,或者例如从如下光源发出的结构化的探测光束,该光源提供包括许多结构(例如许多线)的图案形式的探测光。通常,光学3D扫描仪使用结构化的探测光从2D图像中得出3D表面形貌。从2D图像得出3D表面形貌的几种方法在本领域中是已知的。这些可以包括三角测量和共焦扫描的成像原理以获取2D图像,例如,需要用结构化光照明,而例如立体匹配则不需要。从中识别出第一片段和/或第二片段的2D图像被称为“测试2D图像”,且从中计算出3D表面形貌的2D图像被称为“数据集”或“扫描2D图像”。
在本公开的上下文中,表述“扫描策略”是指对扫描程序的一个或多个参数或其他输入的设置,其确定捕获某些对象表面所用的分辨率和/或覆盖范围,即被捕获的对象表面积的比例。因此,选择第一输入/第二输入涉及调节这些参数中的一个或多个。典型的此类参数可包括视图中的数据集(扫描2D图像)的数量和/或光学3D扫描仪的扫描头的扫掠运动速度。其他这样的输入的示例可以包括用于轴的运动的命令中的至少一个,从而启用视图序列。该策略可以使得对于扫描过程的不同部分设置是不同的,例如,对于不同的视图设置是不同的。
在一个实施例中,基于单个测试2D图像或一些2D图像,例如2、3或4个图像,或多达20个图像,或多达可以在比扫描该对象所需的时间短的时间中获取的某个数量,来确定扫描策略。从不同的视角、即对象和相机的相对方向获取测试2D图像可能是优选的。请注意,虽然“视角”和“视图”的概念两者都与相机和对象的相对方向有关,但是从给定的视角仅拍摄单个2D测试图像,而在一个视图中获得多个数据集(扫描2D图像)。测试2D图像可以专用于仅确定扫描策略,或者它们也可以用作数据集,即测试2D图像可以用于3D扫描以生成3D数字表示。
术语“视图”可以包括被照明对象的一组数据集(扫描2D图像),其由相机在对象和图像获取单元的基本固定的相对空间丛群(constel lation)下记录,目的是得出扫描的对象的一些3D表面形貌。例如在一些扫描仪中,相对空间丛群可能会在视图内的数据集(扫描2D图像)获取过程中以有限的方式发生变化,这些扫描仪的照明模式为少量线,且其相机和光源一起组合在当对象保持静止时执行扫掠运动的扫描头中。无论如何,在视图中只能对对象表面的一部分成像。因此,从2D图像中生成对象表面形貌的大部分的数字3D表示通常需要一个以上的视图。
通常可以在不到20毫秒的时间内获得对象的测试单个2D图像,并且随后的分析也可以由数据处理单元快速处理,从而通常可以在不到1秒的时间内选择扫描策略,即比人类操作员可以执行该任务更快。
在一个实施例中,第二片段的自动识别包括识别未被识别为第一片段的片段,即,除了第一片段之外的片段。光学3D扫描仪中包括的数据处理器可以被配置为执行这种自动识别。
通常优选的是,第一输入限定第一分辨率,其高于第二输入限定的第二分辨率。这允许以比第二3D体积内的对象的表面的部分更高的分辨率来3D扫描第一3D体积内的对象表面的至少一部分。
对象表面上某些区域的更高分辨率和更好的覆盖范围要求获取该区域的相对较多的数据集(扫描2D图像)。视图中更多数量的数据集(扫描2D图像)通常可以提供更好的分辨率。例如,在对焦扫描仪中,以较小的增量在对焦透镜位置获得2D图像通常将会产生更好的深度分辨率。在具有执行扫掠运动的扫描头的结构化光扫描仪中,以扫掠位置的较小增量获得2D图像将产生更好的横向分辨率。大多数扫描仪还可以在多个视图重叠的区域获得更好的分辨率。通常,更好的覆盖范围是通过更多的视图、以及因此总共更多的2D图像而获得的。对于具有例如螺丝孔或狭窄近邻间隙的牙科对象,记录对象和图像获取单元之间的角度仅稍有不同的视图可能是有利的,因此增加了螺丝孔或间隙的深处部分记录在至少一个视图中的机会。每个视图的图像数量和要记录的视图数量取决于对象类型,且通常可以通过实验或通过解释与较早扫描相关的历史数据来找到。
3D扫描可以被配置为在第一输入和第二输入之间交替至少一次。这允许使用第一输入在第一3D体积内以及使用第二输入在第二3D体积内对对象表面的至少一部分进行3D扫描。这样的3D扫描可以是连续的,即以一个动作对整个对象进行3D扫描,或者也可以是间歇性的,即以不同的步骤对整个对象进行3D扫描,其中步骤被相同或不同的时间段(通常是非常短的时间段)打断。
显然,所公开的方法不需要或很少需要人类用户交互来找到扫描策略。用户无需注释任何内容。在许多实施例中,在找到扫描策略之前不需要获得对象的第一(通常是粗略的)3D数字表示。
根据一个实施例,该方法还包括执行以下至少一项:自动选择限定第一分辨率和/或第一覆盖范围的第一输入;或自动选择限定第二分辨率和/或第二覆盖范围的第二输入。光学3D扫描仪中包括的数据处理器可以被配置为执行这种自动选择。因此,该方法不需要或可能需要很少的人工干预来找到扫描策略。在另一实施例中,可以手动执行这种选择。光学3D扫描仪中包括的数据处理器可以被配置为接收来自用户的输入以允许手动选择。
根据一个实施例,该方法进一步包括执行以下至少一项:自动识别包括对象表面的至少一部分的感兴趣区域的第一3D体积;或者自动识别包括对象表面的至少一部分的第二感兴趣级别的区域的第二3D体积。光学3D扫描仪中包括的数据处理器可以被配置为执行这种自动识别。因此,该方法不需要或可能需要很少人工干预来找到扫描策略。在另一个实施例中,这种识别可以手动执行。光学3D扫描仪中包括的数据处理器可以被配置为接收来自用户的输入以允许手动识别。
根据一个实施例,3D扫描包括将探测光束投射到扫描体积中;记录数据集,该数据集包括从放置在扫描体积中的对象表面的至少一部分接收到的光的一个或多个第一数据集和一个或多个第二数据集;在第一输入和第二输入之间交替至少一次,以使用第一输入获取第一3D体积内的一个或多个第一数据集,并使用第二单元获取第二3D体积内的一个或多个第二数据集,以及组合一个或多个第一数据集和一个或多个第二数据集以提供组合的数据集,以生成对象表面的至少一部分的数字3D表示。
使用第一输入对在第一3D体积内的对象表面的至少一部分进行3D扫描可以包括:获取一个或多个第一数据集;以及使用对象表面的至少一部分的一个或多个第一数据集生成数字3D表示,其中感兴趣区域以第一较高的分辨率表示。
使用第二输入对第二3D体积内的对象表面的至少一部分进行3D扫描可以包括:获取一个或多个第二数据集;以及使用对象表面的至少一部分的一个或多个第二数据集生成数字3D表示,其中第二感兴趣级别的区域以第二较低的分辨率表示。
该方法可以进一步包括通过组合使用该一个或多个第一数据集生成的数字3D表示和使用该一个或多个第二数据集生成的数字3D表示,来生成对象表面的至少一部分的数字3D表示。
在一个实施例中,可以由光学3D扫描仪执行3D扫描。该3D扫描可以包括被布置为将探测光投射到布置在3D扫描仪的扫描体积中的对象上的光源,例如激光器或LED或LED阵列,以及相机。探测光可以是在空间上结构化的,例如具有棋盘图案或线条图案,并且可以是单色或彩色的。扫描仪可以具有光学***,该光学***被布置为将来自光源的探测光引导至在扫描体积中的对象和/或用于将从对象反射的光引导至相机。该扫描仪可以进一步包括一个或多个线性或旋转轴,以相对于图像获取单元和/或照明单元移动对象。术语相机广泛用于包括其他图像获取单元,例如CCD芯片。
通常使用计算机实现的算法来组合为视图形成的部分数字3D表示,以生成数字3D表示。可以例如通过迭代最近点算法来进行将部分数字3D表示注册到公共坐标系。可以通过表面重建算法(例如,参见Kazhdan,Michael和Hugues Hoppe的"Screened Poissonsurface reconstruction"(筛选的泊松表面重建),《美国计算机学会图形学汇刊(TOG)》,32.3(2013):29)进行在已注册的部分3D表示的3D中找到共同的表面,且从而找到对象的数字3D表示。数字3D表示通常是三角形网格。数字3D表示的分辨率(例如,网格中三角形的大小)对于其表面的不同区域可有所不同。
在一个实施例中,该方法包括根据至少一个相机的模型来识别包括感兴趣区域的第一3D体积和/或包括第二感兴趣级别的区域的第二3D体积。
在一个实施例中,识别第一片段和/或第二片段包括使用图像分段的一个或多个测试2D图像。可以使用机器学习算法来执行图像分段。这样的机器学习算法可以至少部分地基于卷积神经网络。
在一个实施例中,当记录一个或多个测试2D图像时,可以使用环境光来照亮对象。
该方法还可以包括自动调整至少一个相机的曝光。
相同的至少一个相机可用于获取一个或多个测试2D图像以及获取用于3D扫描的图像。
在一个实施例中,可以使用一个或多个测试2D图像利用数字3D表示来识别包括对象的感兴趣区域的第一3D体积。
根据一个实施例,公开了一种光学3D扫描仪,其被配置为记录放置在扫描体积中的对象的几何数据。该扫描仪包括:扫描单元,该扫描单元包括光源,该光源布置成将探测光束投射到扫描体积中;以及至少一个相机,其被布置为记录从放置在扫描体积中的对象接收的光的一个或多个数据集。该光学3D扫描仪还包括控制单元,该控制单元包括数据处理器,该数据处理器配置为向至少一个相机提供指令,以记录对象表面的至少一部分的一个或多个测试2D图像,自动识别测试2D图像中的第一感兴趣级别的第一片段,该第一片段对对象表面的至少一部分上的感兴趣区域进行成像,识别包括该对象表面的该至少一部分的该感兴趣区域的第一3D体积,选择限定第一分辨率和/或第一覆盖范围的第一输入,并向光学扫描单元提供指令以使用该第一输入在第一3D体积内对对象表面的该至少一部分进行3D扫描。
在一个实施例中,数据处理器可以被配置为在一个或多个测试2D图像内自动识别第二感兴趣级别的第二片段,该第二片段对对象表面的该至少一部分上的第二感兴趣级别的区域成像;识别第二3D体积,该第二3D体积包括对象表面的该至少一部分的第二感兴趣级别的区域;选择限定低于第一分辨率的第二分辨率和/或第二覆盖范围的第二输入;并向光学扫描单元提供指令,以使用第二输入在第二3D体积内执行3D扫描所述对象。
在一个实施例中,数据处理器可以被配置为自动识别第一片段,且然后识别第二片段,以包括未被识别为第一片段的片段,即除第一片段之外的片段。
在一个实施例中,在3D扫描期间,光源被配置为将探测光束投射到扫描体积中;并且至少一个相机配置为记录数据集,该数据集包括从放置在扫描体积中的对象表面的该至少一部分接收的光的一个或多个第一数据集和一个或多个第二数据集。数据处理器被配置为向扫描单元提供指令,以在第一输入和第二输入之间交替至少一次,以使用第一输入来获取第一3D体积内的一个或多个第一数据集,以及使用第二单元来获得第二3D体积内的一个或多个第二数据集,以及组合该一个或多个第一数据集和一个或多个第二数据集以提供用于生成数字3D表示的组合数据集。
数据处理器可以被配置为使用图像分段来分析一个或多个测试2D图像,以识别第一片段和/或第二片段。这种图像分段优选地使用机器学习算法来执行,该机器学习算法可以至少部分地基于卷积神经网络。
在一个实施例中,基于对对象的测试2D图像的分析来检测对象上的感兴趣区域。由于感兴趣区域(一个或多个)是3D表面的部分(一个或多个),因此需要分析测试2D图像,使得显示为3D感兴趣区域的部分会以2D图像呈现。执行这种分析的一种方法是将测试2D图像分段,其中感兴趣片段指示对象上的感兴趣区域。从文献中已知许多图像分析方法,例如边缘检测、特征识别或机器学习。
一种执行分析的方法是对测试2D图像分段,其中感兴趣片段指示对象上的感兴趣区域。从文献中已知许多图像分析方法,例如边缘检测、特征识别或机器学习。
在本公开的上下文中,机器学习是优选的,因为它非常适合于图像分析。可以使用任何种类的机器学习算法。机器学习算法的一些示例包括人工神经网络,例如深度人工神经网络、卷积人工神经网络或递归人工神经网络。机器学习方法可以应用降维方法,例如主成分分析或自动编码器。Long J,Shelhamer E,Darrell T的“Fully convolutionalnetworks for semantic segmentation(《用于语义分割的全卷积网络》)”(IEEE计算机视觉和模式识别2015会议的记录(第3431-3440页),尤其是在第3至4.2节)中公开了根据实施例的适合于对2D图像分段的机器学习算法的示例。
机器学习算法可以使用人工注释的2D测试图像以监督的方式进行训练。在确定扫描策略时,机器学习算法以推理模式运行,对测试2D图像进行分段。
尽管机器学习方法对于测试2D图像中不同的对象取向和大小可能是稳健的,但是如果可以假设给定类型的对象始终以大致相同的方式放置在扫描仪中,则它们通常需要较少的训练。可以指示扫描仪的用户这样做。同样,始终从近似相同的视角获得测试2D图像将会减少训练负担。对于牙科模型,咬合视角通常很好地显示制备物和扫描标记,可能由倾斜的正面视角来补充。牙科技师通常将能够建议哪个视角最好地显示感兴趣区域。
一旦在一个或多个测试2D图像中找到了感兴趣片段,便会从这些片段中得出包含相应感兴趣区域的3D空间中的体积。应当注意,仅给出2D图像,不可能在要扫描的对象上精确地找到感兴趣的3D区域,即因为此时尚未对其进行扫描。相对更靠近相机的小的感兴趣区域可能会在测试2D图像中呈现为与具有相同形状但相对较远离相机的较大感兴趣区域非常相似。
即使可能无法在测试2D图像中准确找到感兴趣区域,了解所述感兴趣区域包含在3D空间中的受约束体积(即小于可扫描体积的体积)中仍是有帮助的。如果结果是实际表面(即感兴趣区域)稍微更远离或更靠近相机,则为例如在所述较小体积的中间的假定表面确定的扫描策略通常将提供相似的分辨率。相同的论点适用于覆盖范围。
根据一个实施例,一种从单个2D测试图像内的感兴趣片段中获得包含感兴趣区域的体积的方法是在成像到所述片段的3D空间中找到通常为锥形的体积。如果有两个或更多个2D测试图像可用,每个图像都是从已知的位置和取向获得的,则可以为它们中的每个找到3D空间中的成像体积。然后,必须将感兴趣区域包含在所有这些体积的相交部中。对于具有多个带已知丛群的图像获取单元的扫描仪,上述过程特别快,因为无需移动对象即可从多个位置和取向看到对象。相机模型(例如针孔模型)将在所有上述方法中提高准确性。
可以根据对象类型的知识来进一步限制包含感兴趣区域的体积。例如,牙科石膏模型始终具有大约相同的高度,且人类牙齿具有大约相同的尺寸。这些尺寸的可变性通常远小于大多数扫描仪的可扫描体积的极限长度,因此这种近似值通常是可以接受的。可以从某些顺序信息或通过测试2D图像的其他分析(例如特征或对象识别)获得对象类型的知识。
当首先记录对象的粗略的3D数字表示时,包含感兴趣区域的体积甚至可以至少近似地约束到实际感兴趣区域,如在现有技术的方法中所做的那样。
如果在多个测试2D图像中找到多个丛群的片段,例如,当石膏模型上存在多个制备物时,必须通过识别所有图像中的感兴趣区域(即通过匹配感兴趣片段)来找到正确的体积相交部。这是一个对应问题,其解决方案在本领域中是众所周知的,因为这是在使用多台相机进行3D扫描期间解决的同类问题。
应当注意,在许多扫描应用中通常不需要非常准确地找到感兴趣区域,并且感兴趣区域可以包括附加区域,例如与感兴趣区域相邻(例如紧邻)的区域。对于制备物或扫描标记的示例,其通常可能是宁可更保守的一种好方法,即,假设大于单独的制备物或扫描标记的感兴趣区域。通过这种方法,牙科模型的某些部分可能会以不必要的高分辨率进行扫描,但是很有可能会以所需的高分辨率来扫描真实的感兴趣区域。利用本领域中已知的扫描仪,人类也倾向于使用保守的方法在粗略的第一3D数字表示上注释感兴趣区域。
通常优选遵循保守的方法,因为这有助于在感兴趣区域的一部分被牙科模型的另一部分遮挡的情况,即在测试2D图像中没有将其完全图像化的情况。它还有助于最大程度地减少不能确切地知道感兴趣区域在受约束体积中位于何处的任何影响。通常认为,除非记录了第一3D表示,否则该方法与现有技术的方法(其两个步骤是记录第一3D表示,以及然后让用户在其上注释感兴趣区域)相比可能需要更高的保守度。因此,与现有技术的方法相比,该方法通常可能需要获得更多的2D扫描图像。然而,通常,通过消除现有技术方法的两个步骤中的至少一个所获得的时间比获取更多的2D扫描图像所需的时间多得多。
在实施例中示出了该保守方法,该实施例公开了一种方法,该方法包括用于3D扫描对象表面的至少一部分的方法。该方法包括使用包括至少一个相机的光学扫描仪来记录对象表面的该至少一部分的一个或多个测试2D图像;自动识别测试2D图像内的第一感兴趣级别的第一片段,该第一片段对感兴趣区域进行成像,该感兴趣区域包括在对象表面的该至少一部分上与该感兴趣区域相邻(例如紧邻)的区域;识别包括对象表面的该至少一部分的感兴趣区域的第一3D体积;选择限定第一分辨率和/或第一覆盖范围的第一输入;以及使用第一输入在第一3D体积内3D扫描对象表面的该至少一部分。包括与感兴趣区域相邻的区域的该感兴趣区域可以被称为扩展的感兴趣区域。
在确定感兴趣区域之前从测试2D图像中删除背景也可能是有利的。扫描仪通常具有黑色表面,以避免杂散反射,这会导致错误的3D表示。因此,可以掩盖黑色的或具有低像素值的测试2D图像的多个部分。牙科石膏模型通常在图像上显得明亮得多,即具有较高的像素值,因此对象和背景之间的区分通常很简单。
除了2D测试图像之外,扫描策略还可以部分地从伴随对象的信息(例如订单)中获得。例如,如果订单指定牙医已经准备好仅一颗牙齿,则测试2D图像分段可以利用以下知识:只可以有一个感兴趣片段。
在找到扫描策略期间获得的有关感兴趣区域的知识也可以用作表面重建算法的输入。例如,很自然地,不仅应该以较高的分辨率扫描感兴趣区域,而且在3D扫描期间,还可以使用比其他区域更小的三角形将其细分。
当光源是多色的时,图像获取单元能够检测颜色,例如使用拜耳滤镜的彩色相机,可以从测试2D图像确定对象的颜色。当3D扫描仪可以调整探测光的颜色时,可以应用此知识。例如,使用包括具有被扫描对象的颜色的光的探测光来减少扫描时间可能是有利的。
在一些实施例中,当记录一个或多个测试2D图像时,环境光用于照亮对象。在其他实施例中,还将执行3D扫描的扫描仪的照明单元用作测试2D图像的照明源。在其他实施例中,扫描仪具有用于测试2D图像的专用光源。
在一些实施例中,扫描策略涉及扫描速度,其中扫描速度例如可以根据扫描中所需的详细程度进行调整。详细程度越高,扫描速度越慢。对于扫描对象的不同部分,可以不同地调整扫描速度。
在一些实施例中,扫描策略涉及逐步扫描程序中的步长。
在一些实施例中,图像获取单元包括一个相机,该相机记录以下两者:用于选择扫描策略的测试2D图像的至少一部分,和为对象的数字3D表示而记录的扫描2D图像的至少一部分。
在一些实施例中,当生成对象的数字3D表示时,也使用用于选择扫描策略的该一个或多个测试2D图像。
在一些实施例中,一个以上的对象被放置在扫描体积中,并且在一次运行中用3D扫描仪进行扫描,即在将一组新的对象放置在扫描体积中之前,顺序地或同时地扫描所有对象。在这样的情况下,该方法可以包括为不同的对象确定并应用不同的扫描策略。
在一个实施例中,存在两个以上的感兴趣级别。除了感兴趣区域之外,还可能存在一个或多个较低感兴趣程度的区域,和其他根本不感兴趣的区域。上面描述的步骤可以简单地扩展到更大数量的感兴趣级别,并且将每个感兴趣级别分别处理。例如,如果订单中指定了一个三单元的桥,则两个模具可具有最高的感兴趣级别,模具之间的牙龈的感兴趣级别为中间级别,而其余的则为标准的感兴趣级别,即以最低的分辨率进行扫描。
因此,根据一个实施例,该方法包括:使用包括至少一个相机的光学扫描仪来记录对象表面的该至少一部分的一个或多个测试2D图像;自动识别测试2D图像内的第一感兴趣级别的第一片段和一个以上随后的感兴趣级别的一个以上片段,该第一片段和该一个以上片段对感兴趣区域和对象表面的该至少一部分上的一个以上随后的感兴趣级别的区域进行成像;识别包括感兴趣区域的第一3D体积和对象表面的该至少一部分的一个以上3D体积;选择限定第一分辨率和/或第一覆盖范围的第一输入以及一个以上限定多个分辨率和/或覆盖范围的输入;以及使用第一输入在第一3D体积内3D扫描对象表面的该至少一部分,并使用该一个以上输入来3D扫描该一个以上3D体积。第一分辨率通常高于多个分辨率中的每一个。
所公开的光学3D扫描仪和3D扫描方法可以提供全自动3D扫描仪***,其中例如该***还包括定位装置,例如传送带或机械臂,其配置为将对象定位到3D扫描仪的扫描体积中。此后,光学3D扫描仪启动用于3D扫描对象表面的至少一部分的方法,如所公开以及随后在权利要求1中要求保护的。
根据一个实施例,公开了一种计算机程序产品,其包括用于使数据处理器执行根据一个或多个实施例的方法的程序代码。特别地,计算机程序产品实施在非暂时性计算机可读介质中。在一个这样的实施例中,计算机程序产品包括可由硬件数据处理器执行的计算机可读程序代码,以使硬件数据处理器向至少一个相机提供指令,以记录放置在扫描体积中的对象表面的至少一部分的一个或多个测试2D图像;自动识别测试2D图像内的第一感兴趣级别的第一片段,该第一片段对对象表面的该至少一部分上的感兴趣区域成像;识别包括对象表面的该至少一部分的感兴趣区域的第一3D体积;选择限定第一分辨率和/或第一覆盖范围的第一输入;以及向包括光源和该至少一个相机的光学扫描单元提供指令,以使用第一输入对第一3D体积内的对象表面的该至少一部分进行3D扫描。
附图说明
从结合附图得到的以下说明性和非限制性的详细描述中,可以最好地理解本公开的实施例及其优点,其中:
图1示出了根据本公开实施例的工作流;
图2示出了根据本公开实施例的3D扫描仪;
图3示出了根据本公开实施例的工作流;
图4A示出了根据本公开实施例的由扫描仪记录的测试2D图像;
图4B示出了根据本公开实施例的注释;
图5根据本公开实施例而示出了如何获得包含感兴趣区域的体积;和
图6示出了根据本公开的实施例的卷积神经网络。
具体实施方式
在下面的描述中,参考了附图,所述附图以说明的方式示出了如何实践本发明。
图1示出了根据实施例的,用于使用基于对象的测试2D图像确定的扫描策略来3D扫描对象表面的至少一部分的方法。
用户可以在100处将对象放置在3D扫描仪(例如,图2中所示的光学3D扫描仪)的可扫描体积内。也可以使用其他自动定位对象的方式,例如传送***或机械臂。优选地,给定用户,且用户遵循关于如何以特定取向放置对象的指令。如果对象是牙科模型,则该指令可以包括将面部侧放置成指向扫描仪中的引导点,而咬合侧向上指向3D扫描仪的至少一个相机。
在101处,使用光学扫描仪来记录对象表面的该至少一部分的一个或多个测试2D图像,光学扫描仪包含至少一个相机。优选地,记录至少两个测试2D图像,以便能够更多地限制其中包含感兴趣区域的体积。使用两个相机(图2,220)也可能有用,因为在对象保持静止的同时可以获得两个测试2D图像。然而,移动平台(图2,217)可能甚至更有用,从而允许从更多的视角看到对象,例如,从倾斜的正面视角获得测试2D图像。
在102,分析测试2D图像以识别感兴趣片段。以下描述细节。测试2D图像也可以用于找到在3D扫描期间要使用的照明单元(图2的212)的适当设置,例如强度,以便不使图像饱和。因此,在102处,自动识别—即,不需要用户交互—测试2D图像内的第一感兴趣级别的第一片段。第一片段对对象表面的该至少一部分上的感兴趣区域成像。
在103处,从感兴趣片段中识别出包含感兴趣区域的体积。以下描述细节。因此,在103处,识别包括对象表面的该至少一部分的感兴趣区域的第一3D体积。优选地,这种识别是自动的并且不需要用户交互。
在104处,计算扫描策略,其提供感兴趣区域(一个或多个)的更高的分辨率和/或覆盖范围。可以通过在记录视图的同时以较小的增量执行扫描头(图2、211)的扫掠运动来实现更高的分辨率。更高的覆盖范围可以通过执行以下至少一项操作来实现:通过在视图之间以较小的增量移动对象,或者通过增加视图的数量。在上文中,“较小”是指小于对象的其他区域或比标准扫描策略中更小。然后,如稍后针对图2所描述的那样执行扫描策略。104优选地是自动的,即,优选地,不需要用户交互。因此,扫描策略可以表示为限定第一分辨率和/或第一覆盖范围的第一输入。
在105处,使用第一输入执行在第一3D体积内的对象表面的该至少一部分的3D扫描,从而生成感兴趣区域的3D数字表示。
图2示出了根据本公开实施例的光学3D扫描仪。该3D扫描仪210包含3D扫描头211,其包括被配置为提供探测光束213的照明单元/光源212。当朝向有待扫描的对象216传播时,探测光可以被布置为穿过光束成形光学器件214。对象被布置在3D扫描仪的扫描体积中。扫描头还包括图像获取单元,在该实施例中,该图像获取单元由两个相机220表示。相机被配置为接收从对象216反射的光218,使得反射光的2D图像被记录在相机的图像传感器上。对象通常由用户放置在平台217上,平台217具有用于旋转和倾斜的两个轴,从而容许获得各种视图。扫描头211可以被配置为沿着线性轴执行扫掠运动以记录视图。在其他实施例中,光束成形光学器件被配置为提供扫掠运动。
控制单元225包括数据处理单元226和用计算机程序产品编码的非暂时性计算机可读介质227,其中计算机程序产品具有用于执行选择扫描策略的过程以及用于从记录的数据文件(扫描2D图像)生成数字3D表示的指令。
在生成对象的数字3D表示之前,控制单元225首先指示3D扫描单元211使用相机220来记录一个或多个测试2D图像。可以使用环境光来记录测试2D图像,使得照明单元212在记录测试2D图像时处于非活动状态。备选地,可以使用光源212来记录测试2D图像。所记录的测试2D图像被传送到控制单元225,在该控制单元225中,数据处理单元226,例如微处理器,执行用于分析测试2D图像的指令,以确定一个或多个包含感兴趣区域的体积。随后,至少部分地基于所确定的包含感兴趣区域的体积来计算用于3D扫描对象216的扫描策略。在一个实施例中,扫描策略可以将预限定的模板用于各种类型的牙科病例。数据处理单元226被配置为自动识别病例类型,并且数据处理单元226还被配置为访问这些模板以限定扫描策略。病例类型可以备选地由用户限定,例如来自订单。模板被存储在数据库中,数据处理单元226被配置为访问该数据库。该数据库可以是光学扫描仪的组件,或者可以是数据处理单元可以访问的远程数据库。在另一个实施例中,数据处理单元226被配置为在不使用这样的模板的情况下计算限定分辨率和/或覆盖范围的扫描策略。数据处理单元还可被配置为修改模板(一个或多个),使得在将来的相同或不同的对象的3D扫描中自动识别/用户限定相同或基本相似类型的牙科病例时,用于限定扫描策略的经修改的模板(一个或多个)可用。
一旦计算出扫描策略,则控制单元225被配置为指示3D扫描单元211使用所选择的扫描策略来记录对象的一系列数据文件(扫描2D图像)。所记录的扫描2D图像被传送到控制单元225,此处生成对象的数字3D表示。
在3D扫描仪利用诸如点或线图案的结构化探测光束的一个实施例中,在所获取的扫描2D图像中检测光,并且使用诸如三角测量或立体匹配的完善建立的投影几何形状,来得出图案的明亮部分照亮的对象表面的3D坐标。这可以针对一系列不同的视图来执行:即,通过使支撑对象的平台217移动的轴,使对象216处于不同的位置。
控制单元可以包括允许执行数据处理的任何设备或设备组合,例如能够运行各种各样不同软件应用程序的通用计算机,或限于特定功能的专用设备。控制单元可以包括任何类型、数量、形式或配置的处理器、***存储器、计算机可读介质、***设备和操作***。在一些实施例中,计算机包括个人计算机(PC),其可以是台式计算机、膝上型计算机、袖珍PC、个人数字助理(PDA)、平板计算机或其他已知形式的个人计算机的形式。
在一个实施例中,公开了一种***,该***包括光学3D扫描仪210和至少一个访问设备和/或接口。该至少一个访问设备和/或接口被配置为允许操作员利用控制单元的功能。该访问设备和/或接口可以包括但不限于键盘229、鼠标230、显示在显示屏幕231中的图形用户接口(GUI)以及其他已知的输入或输出设备和接口。
图3示出了根据本公开实施例的工作流。与图1中包括的数字相同的数字表示相同的操作。因此,数字100、101、102、103、104和105表示如前所述的操作。另外,该方法可以包括在201处的操作,用于自动识别该一个或多个测试2D图像内的第二感兴趣级别的第二片段,该第二片段成像在对象表面的该至少一部分上的第二感兴趣级别的区域。在202处,识别第二3D体积,该第二3D体积包括对象表面的该至少一部分的该第二感兴趣级别的区域。在203处,选择限定第二分辨率和/或第二覆盖范围的第二输入。第二分辨率低于由第一输入限定的第一分辨率。在204处,执行使用第二输入的对第二3D体积内的对象表面的该至少一部分的3D扫描。在该方法期间,将3D扫描配置为在第一输入和第二输入之间至少交替一次。这允许生成3D数字表示,其中以比第二或随后的感兴趣级别的区域更高的分辨率来表示感兴趣区域。在205处,通过考虑使用第一输入和第二输入扫描的对象的部分的3D扫描来获得对象的3D表示。
显然,工作流中的特定操作以特定顺序示出。但是,图3所示的工作流中的这些操作中的某些操作不需要以所示的顺序执行。例如,操作103可以在操作201之前;操作104可以在操作201或202之一或两者之前;甚至可以在操作103之前执行操作201、202和203。在确定操作的任何可能顺序时,可以考虑这些条件:i)在执行任何其他操作之前执行操作100和101;ii)在有或没有来自操作201-204中的任何操作的中断的情况下顺序地执行操作102、103、104,但是在操作105之前执行;iii)在有或没有来自操作102-105中的任何操作的中断的情况下顺序地执行操作201、202、203,但在操作204之前执行。
图4根据本公开的实施例示出了如何可以为机器学习创建训练测试2D图像。图4A示出了由扫描仪相机220记录的测试2D图像。其示出了上颚的牙科石膏模型。图像401的右半部分中的第二前磨牙具有制备物,大概用于牙冠。图4B示出了根据实施例的注释。通常将图4B创建为图4A中图像的覆盖层,但此处仅出于清晰目的而单独显示它。具有制备物的片段被标记为高度感兴趣,即感兴趣区域402,而牙弓的其余部分被标记为中等感兴趣403。图像404的其余部分被标记为不感兴趣。请注意,不仅背景被认为是不感兴趣的,而且石膏模中未显示任何解剖结构或显示与病例无关的解剖结构(即与设计牙冠无关)的部分也被标记为不感兴趣。
注释可以表示为整数值,表示每个像素的类别,这里是感兴趣级别。注释也可以表示为一种高(one-high)编码,其中每个像素由长度等于类别数的向量表示,用于分配的类别的元素设置为1,其他元素设置为0。在图4B的图示中,存在三个类别,代表三个感兴趣级别:高度感兴趣402,中等感兴趣403和不感兴趣403。
图5示出了根据本公开的实施例的如何从每个相机图像中的感兴趣片段获得包含感兴趣区域的体积。该图示出了扫描仪的相关元件的截面图。每个相机220包括图像传感器501。感兴趣片段对应于用于每个图像传感器的由502表示的像素范围。再次针对每个图像传感器,由像素502成像的体积505是从诸如针孔模型的相机模型中找到的,其中,从构造和/或校准中得知相机模型。两个体积501的相交部是体积510(用深灰色阴影化),该体积510一定包含对象上的感兴趣区域530。注意,体积510远小于总可扫描体积520(用浅灰色阴影化),因此可以预期扫描时间会大大减少。
根据一个实施例,图6示出了用于测试2D图像的像素级别分段的合适的卷积神经网络的示例体系结构,作为示例,假设测试2D图像的宽度为120像素,高度为100像素。输入图像是灰度图像,具有1通道像素强度。对于该示例,还假设存在图4所示的三个感兴趣级别,因此输出图像具有3个通道。
I:输入测试2D图像。
P:零填充,具有图像周围的15像素宽度边框。
C:卷积层,之后是矫正的线性单元。
CR:裁剪层,用于减小尺寸以适合后续的层的操作。
B:放大层,使用因子2和双线性插值。
M:最大池化层。
+:用于逐元素添加相应通道的层。
O:输出图像。
图6中还显示了各个层和操作中的数据维度。许多网络体系结构都是可能的。优选地,神经网络具有带小内核的卷积层,例如3×3×M,其中M是通道数。
在该示例中,三个输出图像通道均包含得分,该得分指示属于通道表示的类别的像素的置信度(度量)。如果训练数据也具有三个输出通道—即使用独热(one-hot)编码,其中1表示完全置信度,则使用三个输出通道是很方便的。请注意,图6的卷积神经网络可能无法确保输出通道值严格位于区间[0,1]中,因此剪掉该区间之外的任何值可能是有用的。
在推理模式中,即在分析由扫描仪提供的测试2D图像的102(图1)处,可以分配与最大得分相对应的像素类别。如果某个类别的得分明显大于其他类别,也可以只分配该类别,而如果没有得分明显大于另一个类别,则可以保留像素的类别不做限定。
一旦获得了像素级别的类别,就可以找到感兴趣片段。因为输出图像具有与输入图像相同的宽度和高度,所以两个图像中具有相同坐标的像素彼此相对应。通常,已经观察到图6的神经网络产生实际大小的连续片段,即,该网络在一区域(否则该区域将被发现属于另一类别)中很少产生一个类别的小岛或单个像素。然而,如果发生这种情况,则可以对输出图像进行后处理,从而例如需要片段的最小尺寸。
尽管已经详细描述和示出了一些实施例,但是本公开不限于这些细节,而是还可以在所附权利要求书限定的主题的范围内以其他方式实施。特别地,应当理解,在不脱离本发明的范围的情况下,可以利用其他实施例并且可以进行结构和功能上的修改。
权利要求可以指前述权利要求中的任一项,并且“任意”应理解为是指前述权利要求中的“任意一个或多个”。
应当强调的是,当在本说明书中使用术语“包括/包含/含有”时,它们理解为是用来指定存在所述特征、整体、操作、步骤或构件,但是不排除存在或增加一个或多个其他特征、整体、步骤、构件或其集合。
在列举几种装置的3D扫描仪权利要求中,这些装置中的几种可以由一个相同的硬件物品来实施。在互不相同的从属权利要求中叙述或在不同的实施例中描述某些装置的仅有事实并不表示不能有利地使用这些装置的组合。
Claims (32)
1.一种用于3D扫描对象表面的至少一部分的方法,该方法包括:
使用包括至少一个相机的光学扫描仪记录对象表面的所述至少一部分的一个或多个测试2D图像;
自动识别所述测试2D图像内的第一感兴趣级别的第一片段,所述第一片段对对象表面的所述至少一部分上的感兴趣区域成像;
识别包括对象表面的所述至少一部分的所述感兴趣区域的第一3D体积;
选择限定第一分辨率和/或第一覆盖范围的第一输入;和
使用所述第一输入来3D扫描所述第一3D体积内的对象表面的所述至少一部分。
2.根据权利要求1所述的方法,还包括
在所述一个或多个测试2D图像中自动识别第二感兴趣级别的第二片段,所述第二片段对对象表面的所述至少一部分上的第二感兴趣级别的区域成像;
识别包括对象表面的所述至少一部分的第二感兴趣级别的所述区域的第二3D体积;
选择限定第二分辨率和/或第二覆盖范围的第二输入;和
使用所述第二输入来3D扫描所述第二3D体积内的对象表面的所述至少一部分。
3.根据一项或多项前述权利要求所述的方法,其中,所述第一输入限定所述第一分辨率,所述第一分辨率高于由所述第二输入限定的所述第二分辨率。
4.根据一项或多项前述权利要求所述的方法,其中,所述3D扫描被配置为在所述第一输入和第二输入之间交替至少一次。
5.根据一项或多项前述权利要求所述的方法,其中,
选择限定所述第一分辨率和/或所述第一覆盖范围的所述第一输入是自动执行的;和/或
选择限定所述第二分辨率和/或第二覆盖范围的所述第二输入是自动执行的。
6.根据一项或多项前述权利要求所述的方法,其中,
识别包括对象表面的所述至少一部分的感兴趣区域的所述第一3D体积是自动执行的;和/或
识别包括对象表面的所述至少一部分的第二感兴趣级别的区域的所述第二3D体积是自动执行的。
7.根据一项或多项前述权利要求所述的方法,其中,所述3D扫描包括:
将探测光束投射到扫描体积中;
记录数据集,所述数据集包括从放置在所述扫描体积中的对象表面的所述至少一部分接收的光的一个或多个第一数据集和一个或多个第二数据集;
在所述第一输入和第二输入之间交替至少一次,以使用所述第一输入获取所述第一3D体积内的所述一个或多个第一数据集,并使用所述第二单元获取所述第二3D体积内的所述一个或多个第二数据集,以及
组合一个或多个第一数据集和一个或多个第二数据集,以提供组合的数据集,所述组合的数据集用于生成对象表面的所述至少一部分的数字3D表示。
8.根据一项或多项前述权利要求所述的方法,其中,使用所述第一输入对所述第一3D体积内的对象表面的所述至少一部分进行3D扫描包括:
获取一个或多个第一数据集;和
使用对象表面的所述至少一部分的一个或多个第一数据集生成数字3D表示,其中所述感兴趣区域以第一较高的分辨率表示。
9.根据一项或多项前述权利要求所述的方法,其中,使用所述第二输入对所述第二3D体积内的对象表面的所述至少一部分进行3D扫描包括:
获取一个或多个第二数据集;和
使用对象表面的所述至少一部分的一个或多个第二数据集生成数字3D表示,其中,所述第二感兴趣级别的区域用第二较低分辨率表示。
10.根据权利要求8和9所述的方法,其进一步包括通过组合使用所述一个或多个第一数据集生成的数字3D表示与使用所述一个或多个第二数据集生成的数字3D表示,来生成所述对象表面的所述至少一部分的数字3D表示。
11.根据一项或多项前述权利要求所述的方法,还包括:取决于所述至少一个相机的模型,识别包括所述感兴趣区域的所述第一3D体积和/或包括所述第二感兴趣级别的区域的所述第二3D体积。
12.根据一项或多项前述权利要求所述的方法,其中,识别所述第一片段和/或所述第二片段包括使用图像分段来分析所述一个或多个测试2D图像。
13.根据权利要求12所述的方法,其中,使用机器学习算法来执行图像分段。
14.根据权利要求13所述的方法,其中,所述机器学习算法至少部分地基于卷积神经网络。
15.根据前述权利要求中的一项或多项所述的方法,还包括:当记录所述一个或多个测试2D图像时,使用环境光照射所述对象。
16.根据一项或多项前述权利要求所述的方法,还包括:自动调整所述至少一个相机的曝光。
17.根据一项或多项前述权利要求所述的方法,还包括使用相同的至少一个相机来获取一个或多个测试2D图像以及获取用于3D扫描的图像。
18.根据一个或多个前述权利要求所述的方法,还包括使用所述一个或多个测试2D图像,识别包括使用数字3D表示的所述对象的感兴趣区域的所述第一3D体积。
19.一种光学3D扫描仪,所述光学3D扫描仪被配置为记录放置在扫描体积中的对象的几何数据,所述光学3D扫描仪包括:
扫描单元,所述扫描单元包括:
布置成将探测光束投射到所述扫描体积中的光源,以及
至少一个相机,所述至少一个相机布置成用于记录从放置在所述扫描体积中的对象接收的光的一个或多个数据集;和
控制单元,所述控制单元包括数据处理器,所述数据处理器被配置为:
向所述至少一个相机提供指令,以记录对象表面的至少一部分的一个或多个测试2D图像,
自动识别所述测试2D图像内的第一感兴趣级别的第一片段,所述第一片段对对象表面的所述至少一部分上的感兴趣区域成像,
识别包括对象表面的所述至少一部分的感兴趣区域的第一3D体积,
选择限定第一分辨率和/或第一覆盖范围的第一输入,以及
向光学扫描单元提供指令,以使用所述第一输入对所述第一3D体积内的对象表面的所述至少一部分执行3D扫描。
20.根据权利要求19所述的扫描仪,其中,所述数据处理器被配置为:
在所述一个或多个测试2D图像中自动识别第二感兴趣级别的第二片段,所述第二片段对对象表面的所述至少一部分上的第二感兴趣级别的区域成像;
识别第二3D体积,所述第二3D体积包括对象表面的所述至少一部分的所述第二感兴趣级别的区域;
选择限定低于所述第一分辨率的第二分辨率和/或第二覆盖范围的第二输入;和
向所述光学扫描单元提供指令,以使用所述第二输入对在所述第二3D体积内的所述对象执行3D扫描。
21.根据前述权利要求18-20中的一项或多项所述的扫描仪,其中,所述数据处理器被配置为:
自动选择限定所述第一分辨率和/或第一覆盖范围的所述第一输入;和/或
自动选择限定所述第二分辨率和/或第二覆盖范围的所述第二输入。
22.根据前述权利要求18至21中的一项或多项所述的扫描仪,其中,所述数据处理器被配置为:
自动识别包括对象表面的所述至少一部分的感兴趣区域的所述第一3D体积;和/或
自动识别包括对象表面的所述至少一部分的第二感兴趣级别的区域的所述第二3D体积。
23.根据前述权利要求18-22中的一项或多项所述的扫描仪,其中,在所述3D扫描期间,
所述光源配置成将探测光束投射到所述扫描体积中;
所述至少一个相机被配置为记录数据集,所述数据集包括从放置在所述扫描体积中的对象表面的所述至少一部分接收的光的一个或多个第一数据集和一个或多个第二数据集;
所述数据处理器配置为:
向所述扫描单元提供指令,以在所述第一输入和第二输入之间交替至少一次,以使用所述第一输入来获取所述第一3D体积内的所述一个或多个第一数据集,以及使用所述第二单元来获取所述第二3D体积内的所述一个或多个第二数据集;以及
组合一个或多个第一数据集和一个或多个第二数据集,以提供用于生成数字3D表示的组合数据集。
24.根据前述权利要求18至23中的一项或多项所述的扫描仪,所述数据处理器被配置为使用图像分段来分析所述一个或多个测试2D图像,以识别所述第一片段和/或所述第二片段。
25.根据权利要求24所述的扫描仪,其中,使用机器学习算法来执行所述图像分段。
26.根据权利要求25所述的扫描仪,其中,所述机器学习算法至少部分地基于卷积神经网络。
27.一种实施在非暂时性计算机可读介质中的计算机程序产品,所述计算机程序产品包括能够由硬件数据处理器执行以使所述硬件数据处理器执行以下操作的计算机可读程序代码:
向至少一个相机提供指令,以记录放置在扫描体积中的对象表面的至少一部分的一个或多个测试2D图像;
自动识别所述测试2D图像内的第一感兴趣级别的第一片段,所述第一片段对对象表面的所述至少一部分上的感兴趣区域成像;
识别包括对象表面的所述至少一部分的感兴趣区域的第一3D体积;
选择限定第一分辨率和/或第一覆盖范围的第一输入;和
向包括光源和所述至少一个相机的光学扫描单元提供指令,以使用所述第一输入对所述第一3D体积内的对象表面的所述至少一部分执行3D扫描。
28.根据权利要求27所述的计算机程序产品,所述计算机可读程序代码能够由所述硬件数据处理器执行,以使所述硬件数据处理器:
在所述一个或多个测试2D图像中自动识别第二感兴趣级别的第二片段,所述第二片段对对象表面的所述至少一部分上的第二感兴趣级别的区域成像;
识别第二3D体积,所述第二3D体积包括对象表面的所述至少一部分的第二感兴趣级别的区域;
选择限定低于所述第一分辨率的第二分辨率和/或第二覆盖范围的第二输入;和
向所述光学扫描单元提供指令,以使用所述第二输入在所述第二3D体积内执行3D扫描所述对象。
29.根据权利要求27-28中的一项或多项所述的计算机程序产品,所述计算机可读程序代码能够由所述硬件数据处理器执行,以使所述硬件数据处理器:
向光源提供指令,所述光源被配置为将探测光束投射到所述扫描体积中,对象表面的至少一部分放置在所述扫描体积中;
向所述至少一个相机提供指令,所述至少一个相机被配置为记录数据集,所述数据集包括从对象表面的所述至少一部分接收的光的一个或多个第一数据集和一个或多个第二数据集;
向所述扫描单元提供指令,以在所述第一输入和第二输入之间交替至少一次,以使用所述第一输入获取所述第一3D体积内的所述一个或多个第一数据集,和使用所述第二单元获取所述第二3D体积内的所述一个或多个第二数据集,以及
组合一个或多个第一数据集和一个或多个第二数据集,以提供用于生成数字3D表示的组合数据集。
30.根据权利要求27-29中的一项或多项所述的计算机程序产品,所述计算机可读程序代码能够由所述硬件数据处理器执行,以使所述硬件数据处理器使用用于识别所述第一片段和/或第二片段的图像分段来分析所述一个或多个测试2D图像。
31.根据权利要求30所述的计算机程序产品,其中,使用机器学习算法来执行所述图像分段。
32.根据权利要求31所述的计算机程序产品,其中,所述机器学习算法至少部分基于卷积神经网络。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DKPA201870182 | 2018-03-22 | ||
DKPA201870182 | 2018-03-22 | ||
PCT/EP2019/056548 WO2019179889A1 (en) | 2018-03-22 | 2019-03-15 | 3d scanning with automatic selection of scan strategy |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111937038A true CN111937038A (zh) | 2020-11-13 |
CN111937038B CN111937038B (zh) | 2024-04-05 |
Family
ID=65904382
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980024403.0A Active CN111937038B (zh) | 2018-03-22 | 2019-03-15 | 用于3d扫描对象表面的至少一部分的方法和光学3d扫描仪 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11276228B2 (zh) |
EP (1) | EP3769287A1 (zh) |
CN (1) | CN111937038B (zh) |
WO (1) | WO2019179889A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10052180B1 (en) | 2016-12-29 | 2018-08-21 | David D. Richter | Virtual dental articulator and system |
US11842484B2 (en) | 2021-01-04 | 2023-12-12 | James R. Glidewell Dental Ceramics, Inc. | Teeth segmentation using neural networks |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101680938A (zh) * | 2007-05-31 | 2010-03-24 | 皇家飞利浦电子股份有限公司 | 自动采集磁共振图像数据的方法 |
CN105744891A (zh) * | 2013-11-18 | 2016-07-06 | 皇家飞利浦有限公司 | 基于三维(3d)预扫描图像数据的一幅或多幅二维(2d)规划投影图像 |
CN106133796A (zh) * | 2014-03-25 | 2016-11-16 | Metaio有限公司 | 用于在真实环境的视图中表示虚拟对象的方法和*** |
EP3188127A1 (en) * | 2015-12-29 | 2017-07-05 | Laboratoires Bodycad Inc. | Method and system for performing bone multi-segmentation in imaging data |
CN107111629A (zh) * | 2014-10-30 | 2017-08-29 | 四提拓有限公司 | 用于检测感兴趣的对象的方法和*** |
CN107250789A (zh) * | 2015-04-29 | 2017-10-13 | 伊克斯塞拉公司 | 用于定量血液样品的方法和装置 |
US20170365065A1 (en) * | 2016-06-17 | 2017-12-21 | Hexagon Technology Center Gmbh | Determining object properties with respect to particular optical measurement |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8021147B2 (en) * | 2001-04-13 | 2011-09-20 | Orametrix, Inc. | Method and system for comprehensive evaluation of orthodontic care using unified workstation |
PT1774465E (pt) | 2004-07-23 | 2009-07-08 | 3Shape As | Digitalização 3d adaptativa |
US7762814B2 (en) | 2004-09-14 | 2010-07-27 | Oratio B.V. | Method of manufacturing and installing a ceramic dental implant with an aesthetic implant abutment |
US7653455B2 (en) | 2006-07-28 | 2010-01-26 | 3M Innovative Properties Company | Computer-aided implanting of orthodontic anchorage devices using surgical guides |
US9510757B2 (en) | 2014-05-07 | 2016-12-06 | Align Technology, Inc. | Identification of areas of interest during intraoral scans |
US11291532B2 (en) * | 2016-07-27 | 2022-04-05 | James R. Glidewell Dental Ceramics, Inc. | Dental CAD automation using deep learning |
US10687917B2 (en) * | 2017-07-14 | 2020-06-23 | Dental Smartmirror, Inc. | Using immersive photographs to guide placement of orthodontic brackets, and applications thereof |
-
2019
- 2019-03-15 WO PCT/EP2019/056548 patent/WO2019179889A1/en active Application Filing
- 2019-03-15 EP EP19712931.5A patent/EP3769287A1/en active Pending
- 2019-03-15 US US16/981,384 patent/US11276228B2/en active Active
- 2019-03-15 CN CN201980024403.0A patent/CN111937038B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101680938A (zh) * | 2007-05-31 | 2010-03-24 | 皇家飞利浦电子股份有限公司 | 自动采集磁共振图像数据的方法 |
CN105744891A (zh) * | 2013-11-18 | 2016-07-06 | 皇家飞利浦有限公司 | 基于三维(3d)预扫描图像数据的一幅或多幅二维(2d)规划投影图像 |
CN106133796A (zh) * | 2014-03-25 | 2016-11-16 | Metaio有限公司 | 用于在真实环境的视图中表示虚拟对象的方法和*** |
CN107111629A (zh) * | 2014-10-30 | 2017-08-29 | 四提拓有限公司 | 用于检测感兴趣的对象的方法和*** |
CN107250789A (zh) * | 2015-04-29 | 2017-10-13 | 伊克斯塞拉公司 | 用于定量血液样品的方法和装置 |
EP3188127A1 (en) * | 2015-12-29 | 2017-07-05 | Laboratoires Bodycad Inc. | Method and system for performing bone multi-segmentation in imaging data |
US20170365065A1 (en) * | 2016-06-17 | 2017-12-21 | Hexagon Technology Center Gmbh | Determining object properties with respect to particular optical measurement |
Also Published As
Publication number | Publication date |
---|---|
US11276228B2 (en) | 2022-03-15 |
US20210005017A1 (en) | 2021-01-07 |
CN111937038B (zh) | 2024-04-05 |
WO2019179889A1 (en) | 2019-09-26 |
EP3769287A1 (en) | 2021-01-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11896455B2 (en) | Method and system for braces removal from dentition mesh | |
US11250580B2 (en) | Method, system and computer readable storage media for registering intraoral measurements | |
US11058514B2 (en) | Method and system for dentition mesh braces removal | |
CN111415419B (zh) | 基于多源图像的牙体修复模型制作方法和*** | |
US11961238B2 (en) | Tooth segmentation using tooth registration | |
US9191648B2 (en) | Hybrid stitching | |
US10410363B2 (en) | Jaw surface based registration | |
US10839481B1 (en) | Automatic marker-less alignment of digital 3D face and jaw models | |
JP2022550712A (ja) | 3次元測定値における誤差の検出のための方法、システムおよびコンピュータ可読記憶媒体 | |
KR20200123160A (ko) | 표면 차별화를 갖는 구내 스캐닝 | |
KR20160147980A (ko) | 3d 스캔이 수행 중인 물체에 관한 색상 정보를 수집하기 위한 시스템, 방법, 장치 및 컴퓨터 판독가능 저장 매체 | |
US20220378548A1 (en) | Method for generating a dental image | |
CN111937038B (zh) | 用于3d扫描对象表面的至少一部分的方法和光学3d扫描仪 | |
KR102255592B1 (ko) | 마진 라인의 정밀도 향상을 위한 치과용 ct 영상 처리 방법 | |
KR102534778B1 (ko) | 3차원 데이터 획득 방법, 장치 및 그 방법을 수행하는 프로그램이 저장된 컴퓨터 판독 가능 저장 매체 | |
KR102632338B1 (ko) | 데이터 처리 방법 | |
US20230298270A1 (en) | Method and device for acquiring three-dimensional data, and computer-readable storage medium storing program for performing method | |
WO2023156447A1 (en) | Method of generating a training data set for determining periodontal structures of a patient | |
WO2023117981A1 (en) | Systems and methods for generating a digital representation of a 3d object |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |