CN107798656B - 一种基于距离传感器和陀螺仪的口腔全景图像拼接方法 - Google Patents
一种基于距离传感器和陀螺仪的口腔全景图像拼接方法 Download PDFInfo
- Publication number
- CN107798656B CN107798656B CN201711100060.0A CN201711100060A CN107798656B CN 107798656 B CN107798656 B CN 107798656B CN 201711100060 A CN201711100060 A CN 201711100060A CN 107798656 B CN107798656 B CN 107798656B
- Authority
- CN
- China
- Prior art keywords
- images
- image
- gyroscope
- distance sensor
- video stream
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 21
- 238000012216 screening Methods 0.000 claims abstract description 17
- 210000000214 mouth Anatomy 0.000 claims abstract description 16
- 230000009466 transformation Effects 0.000 claims abstract description 15
- 239000011159 matrix material Substances 0.000 claims abstract description 11
- 230000008901 benefit Effects 0.000 abstract description 5
- 238000003384 imaging method Methods 0.000 description 6
- 230000036541 health Effects 0.000 description 4
- 238000003759 clinical diagnosis Methods 0.000 description 2
- 239000003814 drug Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 239000000853 adhesive Substances 0.000 description 1
- 230000001070 adhesive effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000012634 optical imaging Methods 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 230000003449 preventive effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30036—Dental; Teeth
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Dental Tools And Instruments Or Auxiliary Dental Instruments (AREA)
- Endoscopes (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本发明公开了一种基于距离传感器和陀螺仪的口腔全景图像拼接方法，基于距离传感器和陀螺仪的大视场图像畸变自适应校准算法对牙齿图像畸变进行校准；基于陀螺仪数据的视频流图像的贪婪筛选算法筛选图像；提取每幅图像的尺度不变特征变换特征点，对多幅图像的特征点进行匹配，生成变换矩阵并对图像进行旋转变换，最后完成多幅图像的粘合拼接。本发明的有益效果是能有效解决口腔图像的畸变问题和图像筛选问题，从而提高口腔图像的拼接准确度，并能减小运算复杂度。
Description
技术领域
本发明属于图像处理和口腔医学技术领域，涉及一种基于距离传感器和陀螺仪的口腔全景图像拼接方法。
背景技术
如何获得口腔全景图像一直是口腔医学和牙科成像领域的研究热点和难点。现有的口腔全景成像技术一般是基于扫描仪的原理，例如3shape品牌的口腔激光扫描仪，在高精度扫描的同时，重构出牙齿模型。虽然这种全景口腔成像技术的成像精度较高，但复杂度和成本都很大，需要昂贵的专用扫描设备，并且需要专人操作，只适用于有实力的牙科医院和诊所，无法得到广泛应用。而随着光学成像技术的发展，现在以很低的成本、简单的操作就能获得口腔的局部图像，例如采用价格低廉的口腔内窥摄像头或其他类似设备就可以一次成像获得一两颗牙齿的某一牙面的图像。再通过连续多次的重复操作，医生就能获得所有拍摄到的局部图像。由于缺乏有效的口腔全景图像拼接方法，医生和病人现在只能通过回看来了解口腔情况，无法生成口腔全景图，也就不方便直观地观察整体口腔健康状况。而口腔全景图像拼接具有较大的技术难度，因为这种微距图像的拼接不同于一般远景图像拼接，需要有效解决图像畸变问题和图像筛选问题。虽然可检索到近年有一两项口腔全景图像的专利，但这些专利采用的仍然是传统的图像拼接技术，并没有涉及如何解决上述两个图像拼接过程中的问题。
发明内容
本发明的目的在于提供一种基于距离传感器和陀螺仪的口腔全景图像拼接方法，解决了现有口腔图像拼接方法在图像畸变、图像筛选以及拼接方面效率低，精度低的问题。
本发明所采用的技术方案是按照以下步骤进行：
步骤1：基于距离传感器和陀螺仪的大视场图像畸变自适应校准算法对牙齿图像畸变进行校准；
步骤2：基于陀螺仪数据的视频流图像的贪婪筛选算法筛选图像；
步骤3：提取每幅图像的尺度不变特征变换(Scale-invariant featuretransform，SIFT)特征点，对多幅图像的特征点进行匹配，生成变换矩阵并对图像进行旋转变换，最后完成多幅图像的粘合拼接。
进一步，基于距离传感器和陀螺仪的大视场图像畸变自适应校准算法包括：
步骤21)，构建具有牙齿立体形态和标志性人工特征的靶型模具；
步骤22)，对距离传感器和陀螺仪进行校准；
步骤23)，在不同距离(利用距离传感器信息)和不同拍摄角度下(利用陀螺仪信息)，基于模具图像，对镜头参数进行标定；
步骤24)，生成不同拍摄距离和角度条件下畸变参数的四维矩阵查找表；
步骤25)，结合距离传感器和陀螺仪，利用四维矩阵查找表，对牙齿图像畸变进行校准。
进一步，基于陀螺仪数据的视频流图像的贪婪筛选算法包括：
步骤31)，同步读取视频流信息和陀螺仪数据，以求获得精确的旋转角度信息，并与视频流图像在时间轴上进行匹配；
步骤32)，遍历时刻t到时刻t+Δt的视频流(Δt：用户感兴趣的视频时间长度)，以时间分辨率t0对视频流进行采样，所获得图片标记为{Ip}({Ip}表示图像集合，下标p表示图像序号)。对每一张图像Ip进行极坐标变换，并确定陀螺仪对应数值θp；
步骤33)，贪婪筛选算法。设定两个参数：a.图像之间最大匹配帧数间隔K；b.关联置信阈值T。从第一帧(Ip＝1)开始，依次计算其与每一张图片在θp条件下的关联最大值，直到这个最大值小于T，这一帧标记为第S帧(S是关联最大值小于T时的图像帧数)。保留第一张和第S张这两张图像，而中间图像，即从第二张到第S-1张图全部删除。下一次迭代从第S张开始，重复以上步骤，直到视频流中所有的{Ip}图像都被计算为止。
本发明的有益效果是能有效解决口腔图像的畸变问题和图像筛选问题，从而提高口腔图像的拼接准确度，并能减小运算复杂度。
附图说明
图1是本发明基于距离传感器和陀螺仪的口腔全景图像拼接方法流程示意图。
具体实施方式
下面结合具体实施方式对本发明进行详细说明。
本发明如图1所示，首先采用基于距离传感器和陀螺仪的自适应校准算法，对大视场图像的畸变进行校准，然后采用基于陀螺仪数据的贪婪筛选算法对视频流图像进行筛选，再提取筛选出的每幅图像的尺度不变特征变换(Scale-invariant featuretransform，SIFT)特征点，对多幅图像的特征点进行匹配，生成变换矩阵并对图像进行旋转变换，最后完成多幅图像的粘合拼接。该方法生成的牙齿全景图对于牙科医生的临床诊断治疗和患者的预防保健都有很大益处。具体步骤如下：
第一步：构建具有牙齿立体形态和标志性人工特征的靶型模具。
第二步：对距离传感器和陀螺仪进行校准。
第三步：在不同距离(利用距离传感器信息)和不同拍摄角度下(利用陀螺仪信息)，基于模具图像，对镜头参数进行标定。
第四步：生成不同拍摄距离和角度条件下畸变参数的四维矩阵查找表。
第五步：结合距离传感器和陀螺仪，利用四维矩阵查找表，对牙齿图像畸变进行校准。
第六步：同步读取视频流信息和陀螺仪数据，以求获得精确的旋转角度信息，并与校准后的视频流图像在时间轴上进行匹配。
第七步：遍历时刻t到时刻t+Δt的视频流(Δt：用户感兴趣的视频时间长度)，以时间分辨率t0对视频流进行采样，所获得图片标记为{Ip}({Ip}表示图像集合，下标p表示图像序号)。对每一张图像Ip进行极坐标变换，并确定陀螺仪对应数值θp。
第八步：设定两个参数：a.图像之间最大匹配帧数间隔K；b.关联置信阈值T。从第一帧(Ip＝1)开始，依次计算其与每一张图片在θp条件下的关联最大值，直到这个最大值小于T，这一帧标记为第S帧(S是关联最大值小于T时的图像帧数)。保留第一张和第S张这两张图像，而中间图像，即从第二张到第S-1张图全部删除。下一次迭代从第S张开始，重复以上步骤，直到视频流中所有的{Ip}图像都被计算为止。
第九步：提取每幅图像的尺度不变特征变换(Scale-invariant featuretransform，SIFT)特征点，对多幅图像的特征点进行匹配，生成变换矩阵并对图像进行旋转变换，最后完成多幅图像的粘合拼接。
本发明提出的基于距离传感器和陀螺仪的口腔全景图像拼接方法能够有效解决口腔图像的畸变问题和图像筛选问题，提高口腔图像拼接的准确度，减小运算复杂度。通过本发明所提拼接方法生成的牙齿全景图，医生和病人可以直观准确地了解口腔整体健康状况，对于牙科医生的临床诊断治疗和患者的预防保健都有很大益处。
本发明的优点还在于提出的基于距离传感器和陀螺仪的口腔全景图像拼接方法能有效解决口腔图像的畸变问题和图像筛选问题，从而提高口腔图像的拼接准确度，并能减小运算复杂度。
以上所述仅是对本发明的较佳实施方式而已，并非对本发明作任何形式上的限制，凡是依据本发明的技术实质对以上实施方式所做的任何简单修改，等同变化与修饰，均属于本发明技术方案的范围内。
Claims (2)
1.一种基于距离传感器和陀螺仪的口腔全景图像拼接方法，其特征在于按照以下步骤进行：
步骤1：基于距离传感器和陀螺仪的大视场图像畸变自适应校准算法对牙齿图像畸变进行校准，包括以下步骤：
步骤11)构建具有牙齿立体形态和标志性人工特征的靶型模具；
步骤12)对距离传感器和陀螺仪进行校准；
步骤13)在不同距离和不同拍摄角度下，基于模具图像，对镜头参数进行标定；
步骤14)生成不同拍摄距离和角度条件下畸变参数的四维矩阵查找表；
步骤15)结合距离传感器和陀螺仪，利用四维矩阵查找表，对牙齿图像畸变进行校准；
步骤2：基于陀螺仪数据的视频流图像的贪婪筛选算法对图像进行筛选；
步骤3：提取每幅图像的尺度不变特征变换特征点，对多幅图像的特征点进行匹配，生成变换矩阵并对图像进行旋转变换，最后完成多幅图像的粘合拼接。
2.按照权利要求1所述一种基于距离传感器和陀螺仪的口腔全景图像拼接方法，其特征在于：所述基于陀螺仪数据的视频流图像的贪婪筛选算法包括：
步骤21)同步读取视频流信息和陀螺仪数据，以求获得精确的旋转角度信息，并与视频流图像在时间轴上进行匹配；
步骤22)遍历时刻t到时刻t+Δt的视频流，Δt为用户感兴趣的视频时间长度，以时间分辨率t0对视频流进行采样，所获得图片标记为{Ip}，{Ip}表示图像集合，下标p表示图像序号，对每一张图像Ip进行极坐标变换，并确定陀螺仪对应数值θp；
步骤23)贪婪筛选算法，设定两个参数：a.图像之间最大匹配帧数间隔K；b.关联置信阈值T，从第一帧Ip＝1开始，依次计算其与每一张图片在θp条件下的关联最大值，直到这个最大值小于T，这一帧标记为第S帧，S是关联最大值小于T时的图像帧数，保留第一张和第S张这两张图像，从第二张到第S-1张图全部删除，下一次迭代从第S张开始，重复以上步骤，直到视频流中所有的{Ip}图像都被计算为止。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711100060.0A CN107798656B (zh) | 2017-11-09 | 2017-11-09 | 一种基于距离传感器和陀螺仪的口腔全景图像拼接方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711100060.0A CN107798656B (zh) | 2017-11-09 | 2017-11-09 | 一种基于距离传感器和陀螺仪的口腔全景图像拼接方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN107798656A CN107798656A (zh) | 2018-03-13 |
| CN107798656B true CN107798656B (zh) | 2021-05-18 |
Family
ID=61534737
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201711100060.0A Active CN107798656B (zh) | 2017-11-09 | 2017-11-09 | 一种基于距离传感器和陀螺仪的口腔全景图像拼接方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107798656B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP4202823A1 (en) * | 2021-12-21 | 2023-06-28 | Koninklijke Philips N.V. | System and method for digital reconstruction structures of an object |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108615223A (zh) * | 2018-05-08 | 2018-10-02 | 南京齿贝犀科技有限公司 | 基于局部优化算法的牙齿唇颊侧全景图像拼接方法 |
| CN108597004A (zh) * | 2018-05-08 | 2018-09-28 | 南京齿贝犀科技有限公司 | 基于局部优化算法的牙齿咬合面全景图像拼接方法 |
| CN108648146A (zh) * | 2018-05-08 | 2018-10-12 | 南京齿贝犀科技有限公司 | 基于局部优化算法的牙齿舌腭侧全景图像拼接方法 |
| JP6880380B2 (ja) * | 2019-11-01 | 2021-06-02 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドＳｚ Ｄｊｉ Ｔｅｃｈｎｏｌｏｇｙ Ｃｏ．，Ｌｔｄ | 画像処理装置、画像処理方法、及びプログラム |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101419061B (zh) * | 2008-12-08 | 2011-06-29 | 北京航空航天大学 | 一种镜像式结构光视觉测量***和测量方法 |
| CN102693417A (zh) * | 2012-05-16 | 2012-09-26 | 清华大学 | 基于异构主动视觉网络的人脸图像样本采集优化方法 |
| CN103198501B (zh) * | 2013-04-09 | 2016-12-07 | 上海理工大学 | 一种牙齿全景图像自动重构方法 |
| CN106504321A (zh) * | 2016-11-07 | 2017-03-15 | 达理 | 使用照片或视频重建三维牙模的方法及使用rgbd图像重建三维牙模的方法 |
| CN107301622B (zh) * | 2017-06-20 | 2018-04-06 | 广州华端科技有限公司 | 口腔cbct图像的全景图像获取方法和*** |
-
2017
- 2017-11-09 CN CN201711100060.0A patent/CN107798656B/zh active Active
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP4202823A1 (en) * | 2021-12-21 | 2023-06-28 | Koninklijke Philips N.V. | System and method for digital reconstruction structures of an object |
| WO2023118028A1 (en) * | 2021-12-21 | 2023-06-29 | Koninklijke Philips N.V. | System and method for digital reconstruction structures of an object |
Also Published As
| Publication number | Publication date |
|---|---|
| CN107798656A (zh) | 2018-03-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107798656B (zh) | 一种基于距离传感器和陀螺仪的口腔全景图像拼接方法 | |
| EP1974325B1 (en) | Three-dimensional scan recovery | |
| US20120120216A1 (en) | Endscope apparatus and program | |
| JP5603676B2 (ja) | 画像処理装置及びプログラム | |
| WO2012032914A1 (ja) | 画像処理装置、内視鏡装置、画像処理プログラム及び画像処理方法 | |
| WO2014155778A1 (ja) | 画像処理装置、内視鏡装置、プログラム及び画像処理方法 | |
| CN109730683B (zh) | 内窥镜目标物大小计算方法及分析*** | |
| US20110164810A1 (en) | Image signatures for use in motion-based three-dimensional reconstruction | |
| JPH05108819A (ja) | 画像処理装置 | |
| US20220012954A1 (en) | Generation of synthetic three-dimensional imaging from partial depth maps | |
| KR101921268B1 (ko) | 3d 영상을 재생을 위한 캡슐 내시경 장치, 상기 캡슐 내시경의 동작 방법, 캡슐 내시경과 연동하여 3d 영상을 재생하는 수신기, 캡슐 내시경과 연동하여 수신기의 3d 영상을 재생하는 방법, 및 캡슐 내시경 시스템 | |
| US20230240818A1 (en) | Taking an optical impression of a patient's dental arch | |
| US20160295126A1 (en) | Image Stitching with Local Deformation for in vivo Capsule Images | |
| JP2004202069A (ja) | 画像読取装置、画像読取方法 | |
| JP5638890B2 (ja) | 撮像装置、撮像方法及びプログラム | |
| US10932648B2 (en) | Image processing apparatus, image processing method, and computer-readable recording medium | |
| JP2010220794A (ja) | 内視鏡画像回転装置および方法並びにプログラム | |
| JP2019155026A (ja) | 腔内写真生成装置及び腔内写真生成プログラム | |
| JP7179837B2 (ja) | 内視鏡装置、内視鏡画像表示方法及び内視鏡装置の作動方法 | |
| CN108597004A (zh) | 基于局部优化算法的牙齿咬合面全景图像拼接方法 | |
| US20130162805A1 (en) | Image processing apparatus, image processing system, image processing method, and program for processing a virtual slide image | |
| JP6538262B2 (ja) | リアルタイムまたは既保存された超高速喉頭内視鏡映像を利用した平面スキャンビデオキモグラフィー映像生成サーバーの作動方法、これを遂行する平面スキャンビデオキモグラフィー映像生成サーバー、およびこれを保存する記録媒体 | |
| WO2021141048A1 (ja) | 内視鏡システム、プロセッサ装置、診断支援方法、及びコンピュータプログラム | |
| CN114283236A (zh) | 一种用智能手机进行口腔扫描的方法、装置和存储介质 | |
| JP2018157918A (ja) | 手術用制御装置、制御方法、手術システム、およびプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |