JP2021524768A - リアルタイムでの拡張可視化によりシミュレートされる歯科矯正治療 - Google Patents
リアルタイムでの拡張可視化によりシミュレートされる歯科矯正治療 Download PDFInfo
- Publication number
- JP2021524768A JP2021524768A JP2020563722A JP2020563722A JP2021524768A JP 2021524768 A JP2021524768 A JP 2021524768A JP 2020563722 A JP2020563722 A JP 2020563722A JP 2020563722 A JP2020563722 A JP 2020563722A JP 2021524768 A JP2021524768 A JP 2021524768A
- Authority
- JP
- Japan
- Prior art keywords
- image
- user
- face
- electronic
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000011282 treatment Methods 0.000 title claims abstract description 67
- 238000012800 visualization Methods 0.000 title description 2
- 238000000034 method Methods 0.000 claims abstract description 54
- 210000003484 anatomy Anatomy 0.000 claims abstract description 36
- 238000007408 cone-beam computed tomography Methods 0.000 claims abstract description 9
- 238000009966 trimming Methods 0.000 claims description 4
- 230000003190 augmentative effect Effects 0.000 abstract description 5
- 230000003044 adaptive effect Effects 0.000 description 14
- 238000004088 simulation Methods 0.000 description 8
- 238000009877 rendering Methods 0.000 description 7
- 238000001356 surgical procedure Methods 0.000 description 7
- 238000012986 modification Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 238000001514 detection method Methods 0.000 description 5
- 230000001815 facial effect Effects 0.000 description 5
- 210000004872 soft tissue Anatomy 0.000 description 5
- 230000009466 transformation Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 238000002316 cosmetic surgery Methods 0.000 description 3
- 238000003708 edge detection Methods 0.000 description 3
- 230000033001 locomotion Effects 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000000513 principal component analysis Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000008439 repair process Effects 0.000 description 3
- 230000001225 therapeutic effect Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000008602 contraction Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000000399 orthopedic effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 108030001720 Bontoxilysin Proteins 0.000 description 1
- 206010061274 Malocclusion Diseases 0.000 description 1
- 208000004188 Tooth Wear Diseases 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 239000007844 bleaching agent Substances 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 229940053031 botulinum toxin Drugs 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 239000002537 cosmetic Substances 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 208000002925 dental caries Diseases 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 210000000744 eyelid Anatomy 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 210000004195 gingiva Anatomy 0.000 description 1
- 201000005562 gingival recession Diseases 0.000 description 1
- 210000004209 hair Anatomy 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 239000007943 implant Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 210000004373 mandible Anatomy 0.000 description 1
- 208000028169 periodontal disease Diseases 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 231100000241 scar Toxicity 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000000243 solution Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000005728 strengthening Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 239000003826 tablet Substances 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
- 230000037303 wrinkles Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/50—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
- A61B6/51—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications for dentistry
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/40—Arrangements for generating radiation specially adapted for radiation diagnosis
- A61B6/4064—Arrangements for generating radiation specially adapted for radiation diagnosis specially adapted for producing a particular type of beam
- A61B6/4085—Cone-beams
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/46—Arrangements for interfacing with the operator or the patient
- A61B6/461—Displaying means of special interest
- A61B6/466—Displaying means of special interest adapted to display 3D data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C7/00—Orthodontics, i.e. obtaining or maintaining the desired position of teeth, e.g. by straightening, evening, regulating, separating, or by correcting malocclusions
- A61C7/002—Orthodontic computer assisted systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C7/00—Orthodontics, i.e. obtaining or maintaining the desired position of teeth, e.g. by straightening, evening, regulating, separating, or by correcting malocclusions
- A61C7/12—Brackets; Arch wires; Combinations thereof; Accessories therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C7/00—Orthodontics, i.e. obtaining or maintaining the desired position of teeth, e.g. by straightening, evening, regulating, separating, or by correcting malocclusions
- A61C7/12—Brackets; Arch wires; Combinations thereof; Accessories therefor
- A61C7/14—Brackets; Fixing brackets to teeth
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Pathology (AREA)
- Surgery (AREA)
- Human Computer Interaction (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- High Energy & Nuclear Physics (AREA)
- Optics & Photonics (AREA)
- Radiology & Medical Imaging (AREA)
- General Physics & Mathematics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Dentistry (AREA)
- Epidemiology (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Dental Tools And Instruments Or Auxiliary Dental Instruments (AREA)
Abstract
Description
1.舌側ブラケット、唇側ブラケット、アライナ、クラス矯正具、又は保持具などの歯科矯正装具の加減。
2.クラウン、ブリッジ、インレー、オンレー、ベニア、義歯、又は歯肉などの歯科修復物の加減又は改変。
3.歯漂白剤の使用、咬頭先端若しくは切縁の低減若しくは強化、又は子供における萌出(恐らくは異所萌出を含む)後の歯の外観の予測などによる、天然歯の解剖学的構造の加減又は改変。
4.歯槽手術、歯及び顎顔面インプラント、美容手術、及び下顎手術などの口腔又は顎顔面手術による、頭蓋顔面構造の改変。
5.顎顔面、眼、又は頭蓋顔面プロテーゼの加減又は改変。
6.歯科解剖学的構造、すなわち歯及び歯肉の計画された位置及び形状を含めるための、歯科矯正及び/又は修復治療の結果。
7.恐らくは、不正咬合、歯摩耗、歯肉退縮、歯周病、骨欠損、齲蝕、又は歯欠損などの有害な結果を示す、歯科矯正及び/又は修復治療を受けないことにより予測される結果。
8.ボツリヌス毒素注入による、又は例えば、造鼻術、顎強調、頬強調、しわ取り、まぶたの持ち上げ、首の持ち上げ、眉の持ち上げ、口蓋裂修復、火傷修復、及び傷跡修復などの、より侵襲的な美容及び整形手術などによる顔の軟組織の改変。
9.治療のスケジュールされた進捗と実際の進捗とを比較するための、段階的治療の不透明度可変オーバーレイ。
図1は、歯科矯正治療をシミュレートするためのシステム10の図である。システム10は、カメラ12、ディスプレイデバイス14、出力デバイス18、記憶デバイス19、入力デバイス20、及びそれらと電子的に接続されたプロセッサ16を含む。カメラ12は、例えば、電子デジタル画像又はビデオを提供するデジタル画像センサによって実現することができる。ディスプレイデバイス14は、任意の電子ディスプレイによって、例えば、陰極管(Cathode Ray Tube;CRT)、液晶ディスプレイ(liquid crystal display;LCD)、発光ダイオード(light emitting diode;LED)ディスプレイ、又は有機発光ダイオード(organic light emitting diode;OLED)ディスプレイによって実現することができる。出力デバイス18は、情報を出力するための任意のデバイスによって、例えば、スピーカ、LEDインジケータ、又は補助LCD表示モジュールによって実現することができる。入力デバイス20は、情報又はコマンドを入力するための任意のデバイスによって、例えば、キーボード、マイクロフォン、カーソル制御デバイス、又はタッチスクリーンによって実現することができる。記憶デバイス19は、ハードドライブ、ソリッドステートドライブ、又はフラッシュドライブなど、情報を記憶するための任意の電子デバイスによって実現することができる。記憶デバイス19は任意選択的に、システム10の外部に配置され、ネットワーク接続を介してアクセスされることができる。システム10は、例えば、デスクトップコンピュータ、ノートブックコンピュータ、若しくはタブレットコンピュータ、又は携帯電話によって実現することができる。
このステップは、Viola−Jonesモデル、LBPH(Local Binary Pattern Histogram)カスケード、又は深層学習によって訓練されたモデルなどの、事前訓練モデルを用いてカメラ12からのビデオフレーム内で顔を見つける。顔が検出されると、この顔を複数のフレームにわたって追跡し続けるために、顔コンテキストが作成され得る。この顔コンテキストは、再投影に用いられた重要な特徴、又は以前の複数のフレームにわたって得られたポイントクラウドなどの、以前のフレームデータを含み得る。図3は、カメラ12から受信され検出された顔の例を示す画像の表示であり、画像中のボックスが、検出エリアを示している。図3の画像は任意選択的に、装具を仮想的に追加するのではなく、装具を仮想的に除去するために、歯科矯正装具を伴うユーザの画像とすることができる。
ランドマークは、顔の重要な構造を記述する関心点であり、SVM(サポートベクタマシン)、PCA(主成分分析)、又は、深層学習、及びランダムフォレストのような他の機械学習アルゴリズムを使用し得る、形状予測モデルを用いて見つけることができる。これらのランドマークは、顔又は関心領域を背景からトリミングするために使用され、この例では、一般化された3Dランドマークモデルを用いて顔ポーズを大まかに推定するために使用されることになる。これらはまた、一般化された顔メッシュをモーフィングして、ビデオ中で検出された顔をより正確に表すために、以下のステップで使用することもできる。図4は、顔ランドマーキングを示す画像の表示であり、図3の画像の検出エリアが、ランドマーキングのためのドット又は他の印を含む。
検出された顔ランドマーク及び一般化された3Dランドマークモデルを使用して、一般的なPNP(Perspective N−Point)問題を解決することにより、カメラ外因性推定モデル(変換)を求めることができる。PNP問題の解決は、検出されたランドマークが、カメラレンズの歪み(径方向/接線方向のレンズ歪み)の影響を受けていないこと、又は歪んでいないことを想定している。代わりに、より正確なカメラ外因性モデルを得るために、以下の特徴マッチングステップが複数の連続フレームについて完了した時点で、SfM(Structure from Motion)技術を顔の静的(動かない)部分に適用することができる。カメラ外因性を知ることで、ランドマークそれぞれの良好な3Dポイント表示がもたらされ、これを、ポーズを指摘するのに役立てるとともに、更により正確な拡張現実のために使用することができる。このことは、拡張現実を行うための関心領域のより正確なトリミングを可能にするが、必須のステップではない。図5は、図3の画像上の2つのボックスによって示されるような顔ポーズの推定を示す画像の表示である。
この例は、口領域をトリミングすることになり、唇の内側エッジが、トリミングされた領域の境界を表している。これは、シミュレーションが、顎など、顔の大きなエリア又は異なるエリアを含む場合に、顔全体又は顔の別のエリアとすることができる。図6は、図3〜図5の画像からトリミングされた関心領域を示す。
これは、任意選択的なステップであり、構造的な操作又は拡張精度の向上など、顔又は顔領域の3Dモデルを必要とするシミュレーションのためにのみ必要とされる。2つの方法又は両方の組み合わせを使用することができる。
i.特徴/キーポイントの検出.これらは、画像中の他の画素から際立つ画像上の点(コーナー)であり、同じシーンの異なる角度での別の画像中に存在する可能性が高い。
ii.特徴フィルタリング.これは、検出された特徴のリストが大きすぎる場合に、行う必要があり得る任意選択的なステップである。特徴のリストを簡潔にして、最も強い特徴(最も顕著な特徴)のより小さなリストを得るための様々な技術が存在する。
iii.特徴対応付け.各フレームは、上記のステップを経たはずであり、それら独自の特徴のリストを有していたはずである。これは、ある画像による特徴が他の画像中の特徴と一致する箇所である。全ての特徴が一致するわけではなく、一致しなかった特徴は棄却される。特徴が一致すると、第2の画像中の特徴のリストは、第1の画像による特徴と同じ順序でソートされるはずである。
iv.修正.各画像中の特徴を、同じ平面上で行整列されるように、カメラ外因性モデルを用いて調整する。このことは、ある画像による特徴が、他の画像中の同じ特徴と同じx軸行にあることを意味する。
v.視差マップの計算.視差マップは、一致点間におけるx軸上の視差(距離)のリストである。距離は、画素単位で測定される。
vi.三角形分割.カメラの幾何学的関係を用いて、方法は、エピポーラ形状と、1つの画像中の各特徴の深さを計算するために必要とされる基本行列及び基礎行列と、を計算することができる。
vii.メッシュの再構築.3Dポイントクラウドをシミュレーションステップのための3Dメッシュに変える。これはまた、カメラパラメータ(例えば、カメラ位置)に基づくレイトレーシングによってテクスチャ座標を見つけることも含み得る。
上記のステップが完了すると、拡張又は3D形状操作のいずれかにより、仮想的な治療を適用することができる。これは、シミュレーションを適用する位置又はエリアを正確に特定することを含み得る。この例では、拡張が実施され、装具を設置すべき関心領域上の位置を推定した後に、レンダリングされた歯科矯正装具が関心領域にオーバーレイされ、又は検出された装具が関心領域から仮想的に除去される。3D形状操作を含む治療の場合、3D形状をモーフィングすることによって生じる画像中の穴を埋めるなど、追加のステップを行うことが必要となり得る。レンダリングされた歯科矯正装具は、2D画像又は3Dモデルによって表すことができる。
装具、復元物、又は改変された解剖学的構造によって顔の画像を拡張する別のアプローチが、3Dモデリングの別の態様を含む。上記のアプローチは、3Dモデリングを使用して顔の位置、向き、及びスケールを決定するものであり、このモデリングは、仮想ユニバースにおける3Dアフィン変換によって数学的に記述され得る。次いで、ある程度現実的な位置及び向きで歯科装具の位置が患者の歯に合うように、対応する変換が歯科装具に適用されるが、ブラケットを配置することになる歯の顔軸(FA)点を見つけるために、2D画像解析を最終的に使用してもよい。
このステップは、関心領域を元のフレーム(図3)にオーバーレイし、2D画像の最終画像をユーザに対して表示すること(38)を含む。図14Aは、例えば、ディスプレイデバイス14によってユーザインターフェース内でユーザに対して表示された単一画像の表示内の治療拡張の結果を示す。任意選択的に、図14Aの単一画像は、ユーザによって装着された検出された装具を仮想的に除去した結果を表示することができる。
Claims (28)
- 歯科矯正治療をシミュレートするための方法であって、
ユーザの顔の電子画像を受信するステップと、
前記ユーザの歯を含む、前記画像中の関心領域を特定するステップと、
前記画像中の前記ユーザの歯に仮想的な歯科矯正装具を配置するステップと、
前記仮想的な歯科矯正装具を伴う前記ユーザの画像を電子ディスプレイデバイスに表示するステップと、を含み、
前記受信するステップ、前記特定するステップ、前記配置するステップ、及び前記表示するステップは、リアルタイムで行われる、方法。 - 前記ユーザの顔の前記電子画像をビデオフレーム内で検出することを更に含む、請求項1に記載の方法。
- 前記ユーザの顔の前記電子画像にランドマークを適用することを更に含む、請求項1に記載の方法。
- 前記ランドマークを使用して、前記電子画像中の前記ユーザの顔のポーズを推定することを更に含む、請求項3に記載の方法。
- 特定された前記関心領域を前記ランドマークを用いてトリミングすることを更に含む、請求項3に記載の方法。
- 前記配置するステップは、前記画像中の前記ユーザの歯に仮想的なブラケット及びアーチワイヤを配置することを含む、請求項1に記載の方法。
- 前記ユーザの顔の3次元電子表示を生成することと、前記仮想的な歯科矯正装具を伴う前記ユーザの顔の前記3次元表示を電子ディスプレイデバイスに表示することと、を更に含む、請求項1に記載の方法。
- 歯科矯正治療をシミュレートするためのシステムであって、
電子デジタル画像又はビデオを提供するカメラと、
電子ディスプレイデバイスと、
前記カメラ及び前記電子ディスプレイデバイスに電子的に接続されたプロセッサであって、
前記カメラからユーザの顔の電子画像を受信することと、
前記ユーザの歯を含む、前記画像中の関心領域を特定することと、
前記画像中の前記ユーザの歯に仮想的な歯科矯正装具を配置することと、
前記仮想的な歯科矯正装具を伴う前記ユーザの画像を電子ディスプレイデバイスに表
示することと、を行うように構成されており、
前記受信すること、前記特定すること、前記配置すること、及び前記表示することは、リアルタイムで行われる、プロセッサと、を備えるシステム。 - 前記プロセッサは、前記ユーザの顔の前記電子画像を前記カメラからのビデオフレーム内で検出するように更に構成されている、請求項8に記載のシステム。
- 前記プロセッサは、前記ユーザの顔の前記電子画像にランドマークを適用するように更に構成されている、請求項8に記載のシステム。
- 前記プロセッサは、前記ランドマークを使用して、前記電子画像中の前記ユーザの顔のポーズを推定するように更に構成されている、請求項10に記載のシステム。
- 前記プロセッサは、特定された前記関心領域を、前記ランドマークを用いてトリミングするように更に構成されている、請求項10に記載のシステム。
- 前記プロセッサは、前記画像中の前記ユーザの歯に仮想的なブラケット及びアーチワイヤを配置するように更に構成されている、請求項8に記載のシステム。
- 前記プロセッサは、前記ユーザの顔の3次元電子表示を生成し、前記仮想的な歯科矯正装具を伴う前記ユーザの顔の前記3次元表示を電子ディスプレイデバイスに表示するように更に構成されている、請求項8に記載のシステム。
- 歯科矯正治療をシミュレートするための方法であって、
ユーザの顔の電子画像を受信するステップと、
前記ユーザの歯を含む、前記画像中の関心領域を特定するステップと、
検出された装具を除去するステップと、
検出された前記装具を伴わない前記ユーザの画像を電子ディスプレイデバイスに表示するステップと、を含み、
前記受信するステップ、前記特定するステップ、前記配置又は除去するステップ、及び前記表示するステップは、リアルタイムで行われる、方法。 - 歯科矯正治療をシミュレートするためのシステムであって、
電子デジタル画像又はビデオを提供するカメラと、
電子ディスプレイデバイスと、
前記カメラ及び前記電子ディスプレイデバイスに電子的に接続されたプロセッサであって、
前記カメラからユーザの顔の電子画像を受信することと、
前記ユーザの歯を含む、前記画像中の関心領域を特定することと、
検出された装具を除去することと、
検出された前記装具を伴わない前記ユーザの画像を電子ディスプレイデバイスに表示することと、を行うように構成されており、
前記受信すること、前記特定すること、前記配置又は除去すること、及び前記表示することは、リアルタイムで行われる、プロセッサと、を備えるシステム。 - 歯科矯正治療をシミュレートするための方法であって、
ユーザの顔の電子画像を受信するステップと、
ユーザの顔の解剖学的構造の電子画像又はモデルを取得するステップと、
前記ユーザの歯を含む、前記画像中の関心領域を特定するステップと、
前記画像中の前記ユーザの歯に仮想的な歯科矯正装具を配置するステップと、
前記仮想的な歯科矯正装具及び前記ユーザの顔の解剖学的構造の前記画像又はモデルを伴う前記ユーザの画像を電子ディスプレイデバイスに表示するステップと、を含み、
前記受信するステップ、前記特定するステップ、前記配置するステップ、及び前記表示するステップは、リアルタイムで行われる、方法。 - 前記取得するステップは、X線画像を取得することを含む、請求項17に記載の方法。
- 前記取得するステップは、コーンビームコンピュータ断層撮影(CBCT)画像を取得することを含む、請求項17に記載の方法。
- 前記ユーザの画像を前記ユーザの顔の解剖学的構造の画像又はモデルと位置合わせすることを更に含む、請求項17に記載の方法。
- 前記ユーザの顔の3次元電子表示を生成することと、前記仮想的な歯科矯正装具及び前記ユーザの顔の解剖学的構造の前記画像又はモデルを伴う前記ユーザの顔の前記3次元表示を電子ディスプレイデバイスに表示することと、を更に含む、請求項17に記載の方法。
- 前記3次元表現を前記ユーザの顔の解剖学的構造の画像又はモデルと位置合わせすることを更に含む、請求項21に記載の方法。
- 歯科矯正治療をシミュレートするためのシステムであって、
電子デジタル画像又はビデオを提供するカメラと、
電子ディスプレイデバイスと、
前記カメラ及び前記電子ディスプレイデバイスに電子的に接続されたプロセッサであって、
ユーザの顔の電子画像を受信することと、
ユーザの顔の解剖学的構造の電子画像又はモデルを取得することと、
前記ユーザの歯を含む、前記画像中の関心領域を特定することと、
前記画像中の前記ユーザの歯に仮想的な歯科矯正装具を配置することと、
前記仮想的な歯科矯正装具及び前記ユーザの顔の解剖学的構造の前記画像又はモデルを伴う前記ユーザの画像を電子ディスプレイデバイスに表示することと、を行うように構成されており、
前記受信すること、前記特定すること、前記配置すること、及び前記表示することは、リアルタイムで行われる、プロセッサと、を備えるシステム。 - 前記プロセッサは、前記ユーザの顔の解剖学的構造の画像についてX線画像を取得するように更に構成されている、請求項23に記載のシステム。
- 前記プロセッサは、前記ユーザの顔の解剖学的構造の画像について、コーンビームコンピュータ断層撮影(CBCT)画像を取得するように更に構成されている、請求項23に記載のシステム。
- 前記プロセッサは、前記ユーザの画像をユーザの顔の解剖学的構造の画像又はモデルと位置合わせするように更に構成されている、請求項23に記載のシステム。
- 前記プロセッサは、前記ユーザの顔の3次元電子表示を生成し、前記仮想的な歯科矯正装具及び前記ユーザの顔の解剖学的構造の前記画像又はモデルを伴う前記ユーザの顔の前記3次元表示を電子ディスプレイデバイスに表示するように更に構成されている、請求項23に記載のシステム。
- 前記プロセッサは、前記3次元表示を前記ユーザの顔の解剖学的構造の画像又はモデルと位置合わせするように更に構成されている、請求項27に記載のシステム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862669628P | 2018-05-10 | 2018-05-10 | |
US62/669,628 | 2018-05-10 | ||
US201962809806P | 2019-02-25 | 2019-02-25 | |
US62/809,806 | 2019-02-25 | ||
PCT/IB2019/053599 WO2019215550A1 (en) | 2018-05-10 | 2019-05-02 | Simulated orthodontic treatment via augmented visualization in real-time |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021524768A true JP2021524768A (ja) | 2021-09-16 |
JPWO2019215550A5 JPWO2019215550A5 (ja) | 2022-05-19 |
Family
ID=68467593
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020563722A Pending JP2021524768A (ja) | 2018-05-10 | 2019-05-02 | リアルタイムでの拡張可視化によりシミュレートされる歯科矯正治療 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11517272B2 (ja) |
EP (1) | EP3790495A4 (ja) |
JP (1) | JP2021524768A (ja) |
CN (1) | CN112087985B (ja) |
WO (1) | WO2019215550A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102448169B1 (ko) * | 2021-10-05 | 2022-09-28 | 세종대학교산학협력단 | 딥러닝 기반 치아 교정치료 결과 예측 방법 및 장치 |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115024842A (zh) | 2017-01-31 | 2022-09-09 | 斯威夫特健康***有限公司 | 混合正畸弓丝 |
EP3572030B1 (fr) | 2018-05-22 | 2022-11-02 | Dental Monitoring | Procede d'analyse d'une situation dentaire |
KR20210051141A (ko) | 2019-10-30 | 2021-05-10 | 주식회사 스키아 | 환자의 증강 현실 기반의 의료 정보를 제공하는 방법, 장치 및 컴퓨터 프로그램 |
US11937996B2 (en) * | 2019-11-05 | 2024-03-26 | Align Technology, Inc. | Face capture and intraoral scanner and methods of use |
US11842484B2 (en) | 2021-01-04 | 2023-12-12 | James R. Glidewell Dental Ceramics, Inc. | Teeth segmentation using neural networks |
US11574468B2 (en) * | 2020-03-31 | 2023-02-07 | Toyota Research Institute, Inc. | Simulation-based learning of driver interactions through a vehicle window |
FR3111066A1 (fr) * | 2020-06-06 | 2021-12-10 | Olivier Querbes | Procédé et dispositif de reconstruction tridimensionnelle d’un visage avec partie dentée à partir d’une seule image |
US20220222814A1 (en) * | 2021-01-14 | 2022-07-14 | Motahare Amiri Kamalabad | System and method for facial and dental photography, landmark detection and mouth design generation |
US20220218438A1 (en) * | 2021-01-14 | 2022-07-14 | Orthosnap Corp. | Creating three-dimensional (3d) animation |
CN112967219B (zh) * | 2021-03-17 | 2023-12-05 | 复旦大学附属华山医院 | 基于深度学习网络的二阶段牙体点云补全方法及*** |
GB2614025B (en) * | 2021-09-07 | 2023-12-27 | Neuronav Ltd | Augmented reality surgical navigation system |
CN114224528B (zh) * | 2021-10-26 | 2023-07-18 | 上海交通大学医学院附属第九人民医院 | 基于虚拟现实交互的口腔数字孪生模型***及建立方法 |
CN117237506B (zh) * | 2023-11-15 | 2024-02-02 | 中国科学院长春光学精密机械与物理研究所 | 航拍图像生成模拟激光点云图像的方法 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6632089B2 (en) | 1999-11-30 | 2003-10-14 | Orametrix, Inc. | Orthodontic treatment planning with user-specified simulation of tooth movement |
US7156655B2 (en) * | 2001-04-13 | 2007-01-02 | Orametrix, Inc. | Method and system for comprehensive evaluation of orthodontic treatment using unified workstation |
US8142187B2 (en) * | 2005-09-23 | 2012-03-27 | Orametrix, Inc. | Method and apparatus for digitally evaluating insertion quality of customized orthodontic arch wire |
US7613527B2 (en) | 2006-03-16 | 2009-11-03 | 3M Innovative Properties Company | Orthodontic prescription form, templates, and toolbar for digital orthodontics |
US9326831B2 (en) | 2006-10-20 | 2016-05-03 | Align Technology, Inc. | System and method for positioning three-dimensional brackets on teeth |
US8504139B2 (en) * | 2009-03-10 | 2013-08-06 | Medtronic Xomed, Inc. | Navigating a surgical instrument |
FR2977469B1 (fr) | 2011-07-08 | 2013-08-02 | Francois Duret | Dispositif de mesure tridimensionnelle utilise dans le domaine dentaire |
JP2013128694A (ja) * | 2011-12-22 | 2013-07-04 | Toshiaki Ko | 歯列矯正シミュレーションプログラムおよび歯列矯正シミュレーション装置 |
US9345553B2 (en) * | 2012-10-31 | 2016-05-24 | Ormco Corporation | Method, system, and computer program product to perform digital orthodontics at one or more sites |
US9361510B2 (en) * | 2013-12-13 | 2016-06-07 | Intel Corporation | Efficient facial landmark tracking using online shape regression method |
US9510757B2 (en) | 2014-05-07 | 2016-12-06 | Align Technology, Inc. | Identification of areas of interest during intraoral scans |
EP3149653A4 (en) * | 2014-05-29 | 2017-06-14 | Beijing Kuangshi Technology Co., Ltd. | Facial landmark localization using coarse-to-fine cascaded neural networks |
KR20160004862A (ko) | 2014-07-04 | 2016-01-13 | 주식회사 인스바이오 | 환자맞춤형 치아교정 모의시술과 이를 통한 시뮬레이션 및 치아 교정장치 또는 치아교정 시술유도장치 제작방법 |
US20160228214A1 (en) * | 2014-10-07 | 2016-08-11 | Orametrix, Inc. | Customized orthodontic interface attachment method and device |
US11642194B2 (en) * | 2015-07-07 | 2023-05-09 | Align Technology, Inc. | Multi-material aligners |
CN208942463U (zh) | 2016-07-27 | 2019-06-07 | 阿莱恩技术有限公司 | 口内扫描***和口内扫描装置 |
US10467815B2 (en) * | 2016-12-16 | 2019-11-05 | Align Technology, Inc. | Augmented reality planning and viewing of dental treatment outcomes |
EP3462373A1 (en) * | 2017-10-02 | 2019-04-03 | Promaton Holding B.V. | Automated classification and taxonomy of 3d teeth data using deep learning methods |
US11033361B2 (en) * | 2017-10-19 | 2021-06-15 | Ormco Corporation | Methods for orthodontic treatment planning with augmented visual analysis |
-
2019
- 2019-05-02 CN CN201980031042.2A patent/CN112087985B/zh active Active
- 2019-05-02 JP JP2020563722A patent/JP2021524768A/ja active Pending
- 2019-05-02 US US17/051,908 patent/US11517272B2/en active Active
- 2019-05-02 WO PCT/IB2019/053599 patent/WO2019215550A1/en active Application Filing
- 2019-05-02 EP EP19800352.7A patent/EP3790495A4/en active Pending
Non-Patent Citations (1)
Title |
---|
KEHLER JACOB: "Nerdy Glasses and Braces Snapchat lens", ON THE LINE SOCAL MEDIA, JPN6023025504, 1 July 2016 (2016-07-01), ISSN: 0005092099 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102448169B1 (ko) * | 2021-10-05 | 2022-09-28 | 세종대학교산학협력단 | 딥러닝 기반 치아 교정치료 결과 예측 방법 및 장치 |
WO2023058994A1 (ko) * | 2021-10-05 | 2023-04-13 | 세종대학교산학협력단 | 딥러닝 기반 치아 교정치료 결과 예측 방법 및 장치 |
Also Published As
Publication number | Publication date |
---|---|
EP3790495A4 (en) | 2022-02-09 |
WO2019215550A1 (en) | 2019-11-14 |
CN112087985B (zh) | 2023-05-02 |
CN112087985A (zh) | 2020-12-15 |
US11517272B2 (en) | 2022-12-06 |
EP3790495A1 (en) | 2021-03-17 |
US20210045701A1 (en) | 2021-02-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112087985B (zh) | 经由实时增强可视化的模拟正畸处理 | |
US11704876B2 (en) | Mobile device for viewing of dental treatment outcomes | |
US11559377B2 (en) | Augmented reality enhancements for dental practitioners | |
US10980621B2 (en) | Dental design transfer | |
US20210236241A1 (en) | Face tracking and reproduction with post-treatment smile | |
CA3140069A1 (en) | Visual presentation of gingival line generated based on 3d tooth model | |
US11083552B2 (en) | Rendering of dental models | |
KR20140015239A (ko) | 2d 영상 장치 | |
US20210338392A1 (en) | Rendering a dental model in an image | |
BR112020023692A2 (pt) | método de análise de uma situação dentária real de um paciente e uso deste | |
BR112020023700A2 (pt) | método de análise de uma situação dentária real de um paciente, dispositivo para implementação deste e uso deste | |
EP3629337A1 (en) | Rendering of dental models | |
EP3629301A1 (en) | Rendering a dental model in an image | |
US20240225784A1 (en) | Synthetic video generation showing modified face | |
US20240024076A1 (en) | Combined face scanning and intraoral scanning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20220317 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220428 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220428 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230526 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230627 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230915 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231205 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240131 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20240216 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20240306 |