JP7076154B1 - Spinal sequence estimation device, method and program - Google Patents

Spinal sequence estimation device, method and program Download PDF

Info

Publication number
JP7076154B1
JP7076154B1 JP2020208934A JP2020208934A JP7076154B1 JP 7076154 B1 JP7076154 B1 JP 7076154B1 JP 2020208934 A JP2020208934 A JP 2020208934A JP 2020208934 A JP2020208934 A JP 2020208934A JP 7076154 B1 JP7076154 B1 JP 7076154B1
Authority
JP
Japan
Prior art keywords
spinal column
back surface
function
map
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020208934A
Other languages
Japanese (ja)
Other versions
JP2022096047A (en
Inventor
裕志 西尾
英人 亀嶋
幸男 佐藤
Original Assignee
株式会社スペースビジョン
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社スペースビジョン filed Critical 株式会社スペースビジョン
Priority to JP2020208934A priority Critical patent/JP7076154B1/en
Application granted granted Critical
Publication of JP7076154B1 publication Critical patent/JP7076154B1/en
Publication of JP2022096047A publication Critical patent/JP2022096047A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】脊柱の配列に歪みがある場合でも、脊柱を基準とした背面の左右対称性の評価に資する情報を提供できるようにする。【解決手段】3次元計測装置10は、被検体の背面の3次元計測を行い、背面形状データを出力する。対称性計算部14は、各点について、背面形状データの各水平断面が示す関数と、それをその点で背面の幅方向に反転した関数と、の相互相関を計算し、それら各点の相互相関の値を平面上に配列したマップを生成する。脊柱配列推定部16は、そのマップから脊柱配列を推定する。出力部18は、マップ、及び推定された脊柱配列を画像として表示出力する。【選択図】図1PROBLEM TO BE SOLVED: To provide information useful for evaluation of left-right symmetry of the back surface with respect to a spinal column even when the arrangement of the spinal column is distorted. A three-dimensional measuring device 10 performs three-dimensional measurement of the back surface of a subject and outputs back surface shape data. For each point, the symmetry calculation unit 14 calculates the cross-correlation between the function indicated by each horizontal section of the back surface shape data and the function obtained by inverting it in the width direction of the back surface at that point, and calculates the cross-correlation between the points. Generate a map in which the correlation values are arranged on a plane. The spinal column sequence estimation unit 16 estimates the spinal column sequence from the map. The output unit 18 displays and outputs the map and the estimated spinal column arrangement as an image. [Selection diagram] Fig. 1

Description

本発明は、脊柱診断支援のための脊柱配列を推定する技術に関する。 The present invention relates to a technique for estimating a spinal column sequence for supporting spinal column diagnosis.

脊柱側弯症は、通常は真直ぐに並んでいる背骨がねじれて側方もしくは前後方に歪む疾患であり、学校保健安全法において、就学時及び定期検診でのスクリーニングの実施が義務づけられている。第1次検診(学校検診)では全生徒を対象に学校医、検診専門業者、開業医を中心に視診、触診あるいはモアレ検査が行われる。モアレ画像はモアレトポグラフィに基づいて撮影される画像であり、カメラを基準とした等高線状のパターンが表される。健常者の背面立体形状はほぼ左右対称であるため、モアレ画像のパターンもほぼ左右対称となる。一方、脊柱側弯症の患者のモアレパターンは脊柱の歪みの影響により左右の対称性がくずれる。モアレ検診の読影者はこの非対称性を手掛かりとして側弯症の可能性を判定する。陽性の疑いがあると判断された場合は第2次検診(精密検診)に進み、X線撮影を実施して側弯の有無を確定診断する。 Scoliosis is a disease in which the spine, which is usually straight, is twisted and distorted laterally or anteriorly and posteriorly, and the School Health and Safety Law requires that screening be performed at school and at regular examinations. In the first examination (school examination), all students are inspected, palpated or moireed mainly by school doctors, examination specialists and practitioners. A moiré image is an image taken based on moire topography, and represents a contour-line pattern with reference to a camera. Since the back three-dimensional shape of a healthy person is almost symmetrical, the pattern of the moire image is also almost symmetrical. On the other hand, the moiré pattern of patients with scoliosis loses left-right symmetry due to the influence of spinal strain. The reader of the Moare examination uses this asymmetry as a clue to determine the possibility of scoliosis. If it is judged to be positive, proceed to the second examination (detailed examination) and perform X-ray photography to make a definitive diagnosis of the presence or absence of scoliosis.

モアレ画像は高さのわずかな変化が等高線パターンの大きな変化として表現されるため、高さ方向の表現感度が高い画像といえる。その一方、カメラの位置や被験者のわずかな動きや姿勢にモアレパターンは敏感に影響を受けるため、健常でありながらパターンの非対称性が検知されることがある。そのため側弯症を疑われ、第2次検診に回されて無用なX線撮影が施されることもある。このような偽陽性の判定率は3割程度あり、モアレ検診における重要な問題とされている。 A moire image can be said to be an image with high expression sensitivity in the height direction because a slight change in height is expressed as a large change in the contour pattern. On the other hand, since the moire pattern is sensitively affected by the position of the camera and the slight movement and posture of the subject, pattern asymmetry may be detected while being healthy. Therefore, scoliosis may be suspected, and unnecessary X-rays may be taken for the second examination. The judgment rate of such false positives is about 30%, which is an important problem in moire screening.

特許文献1には、モアレ画像の読影を自動化する方法が開示されているが、この方法も、上述したモアレパターンの姿勢変化に対する敏感性の問題を免れない。 Patent Document 1 discloses a method for automating the interpretation of a moire image, but this method also inevitably has the problem of sensitivity to the posture change of the moire pattern described above.

姿勢変化に対するモアレパターンの敏感性の問題を基本的に解決する方法の一つとして3次元スキャナ等の3次元計測装置で計測される背面の3次元形状情報を利用する方法がある。 As one of the methods for basically solving the problem of the sensitivity of the moire pattern to the posture change, there is a method of using the three-dimensional shape information on the back surface measured by a three-dimensional measuring device such as a three-dimensional scanner.

例えば特許文献2に開示されたシステムは、被験者の背部を撮影してその3次元データを取得する3次元センサと、被験者の背部について湾曲の程度を測定すべき特徴部位を指定する特徴部位指定部と、該特徴部位指定部で指定された特徴部位について、3次元データに基づいて水平方向の体表面の凹凸状態を検出する凹凸状態検出部と、該凹凸状態検出部による検出結果を表示する表示モニタを備える。 For example, the system disclosed in Patent Document 2 has a three-dimensional sensor that photographs the back of a subject and acquires three-dimensional data thereof, and a feature part designation unit that specifies a feature part for measuring the degree of curvature of the back of the subject. And, about the feature part designated by the feature part designation part, the uneven state detection part which detects the uneven state of the body surface in the horizontal direction based on 3D data, and the display which displays the detection result by the uneven state detection part. Equipped with a monitor.

また特許文献3に開示された側弯症診断支援装置は、被験者の背面の3次元形状を示す背面形状情報を取得する第1形状情報取得部と、被験者の背面の3次元形状と、当該3次元形状の矢状面を基準として鏡像の関係にある3次元形状を示す反射対称情報を取得する第2形状情報取得部と、背面形状情報が示す3次元形状と、反射対称情報が示す3次元形状との偏差の分布を取得する偏差分布取得部と、例えば偏差の分布を表示部に表示させる表示制御部とを備える。 Further, the scoliosis diagnosis support device disclosed in Patent Document 3 includes a first shape information acquisition unit that acquires back shape information indicating a three-dimensional shape of the back surface of a subject, a three-dimensional shape of the back surface of the subject, and the three-dimensional shape. A second shape information acquisition unit that acquires reflection symmetry information indicating a three-dimensional shape that is in a mirror image relationship with reference to the sagittal surface of the shape, a three-dimensional shape indicated by back shape information, and a three-dimensional shape indicated by reflection symmetry information. It is provided with a deviation distribution acquisition unit that acquires the distribution of deviations from the above, and a display control unit that displays, for example, the distribution of deviations on the display unit.

特許第6280676号公報Japanese Patent No. 6280676 特許第6132354号公報Japanese Patent No. 6132354 特許第6488536号公報Japanese Patent No. 6488536

3次元形状情報が背面の立体形状を表現しているとしても、その滑らかに変化する形状に内在する脊柱の形状の特徴、例えば側弯症と診断すべき特徴を有効に抽出することは難しい。健常者であれば基本的には背面立体形状はほぼ左右対称であり、脊柱はその鉛直な対称軸付近に存在する。側弯症の場合はこれから外れるが、水平断面ごとに観測すれば、脊柱付近を対称軸とした左右の対称性は高い。ただし胸部がねじれ、大きく回旋している場合は、左右対称性は減少する。側弯症の第一次検診の目的は側弯症の可能性を正しく検知することであるが、同時に脊柱の配列を背面の外観からできるだけ正確に推定し、コブ(cobb)角の推定に役立つ情報を得ることが重要となる。 Even if the three-dimensional shape information expresses the three-dimensional shape of the back surface, it is difficult to effectively extract the characteristics of the shape of the spinal column inherent in the smoothly changing shape, for example, the characteristics to be diagnosed as scoliosis. In a healthy person, the dorsal three-dimensional shape is basically symmetrical, and the spinal column exists near the vertical axis of symmetry. In the case of scoliosis, it deviates from this, but when observed for each horizontal cross section, the left-right symmetry with the vicinity of the spinal column as the axis of symmetry is high. However, if the chest is twisted and rotated significantly, the symmetry is reduced. The purpose of the primary scoliosis screening is to correctly detect the possibility of scoliosis, but at the same time, the arrangement of the spinal column is estimated as accurately as possible from the appearance of the back, and information useful for estimating the cobb angle is provided. It is important to get.

背面の3次元形状と、矢状面を基準としてそれと鏡像の関係にある3次元形状と、の偏差の分布は、背面形状の特徴、例えば側弯症の第一次検診に資する特徴を表現する情報となり得る。 The distribution of deviations between the three-dimensional shape of the back surface and the three-dimensional shape that is in a mirror image relationship with the sagittal plane as a reference is information that expresses the characteristics of the back surface shape, for example, the characteristics that contribute to the primary examination of scoliosis. Can be.

しかし、その分布が診断に資する正確なものとなるためには、鏡像の基準となる矢状面が正確に推定される必要がある。背面の3次元形状からの矢状面の推定の誤差が大きいと、この矢状面を用いて求めた偏差の分布は信頼できないものとなる。不正確なものとなり得る。 However, in order for the distribution to be accurate and useful for diagnosis, it is necessary to accurately estimate the sagittal plane, which is the reference for the mirror image. If the error in estimating the sagittal plane from the three-dimensional shape of the back surface is large, the distribution of deviations obtained using this sagittal plane becomes unreliable. It can be inaccurate.

また、矢状面は平面なので、脊柱の配列が歪んでいる場合、矢状面に脊柱を通らない部分が出てくる。矢状面が脊柱から大きく外れている部分では、脊柱位置ではない場所を基準に背面形状の鏡像が生成されることとなる。そのような部分では、元の背面形状とその鏡像との偏差は、脊柱を基準とした背面形状の左右(すなわち背面の幅の方向)対称性の評価に適したものとはならない。 Also, since the sagittal plane is flat, if the arrangement of the spinal column is distorted, a part that does not pass through the spinal column will appear on the sagittal plane. In the part where the sagittal plane is greatly deviated from the spinal column, a mirror image of the back shape is generated based on the place other than the position of the spinal column. In such a portion, the deviation between the original dorsal shape and its mirror image is not suitable for assessing the left-right (ie, the direction of the back width) symmetry of the dorsal shape relative to the spinal column.

本発明は、脊柱の配列に歪みがある場合でも、脊柱を基準とした背面の左右対称性の評価に資する情報を提供できる装置、方法を提供することを目的とする。 An object of the present invention is to provide a device and a method capable of providing information that contributes to the evaluation of the left-right symmetry of the back surface with respect to the spinal column even when the arrangement of the spinal column is distorted.

本発明に係る脊柱配列推定装置は、被検体の3次元的な背面形状を示す情報を取得する手段と、前記背面形状において前記背面の幅の方向及び前記被検体の脊柱の延びる方向をそれぞれx方向及びy方向とし、前記x方向及び前記y方向の両方に垂直な方向をz方向とした場合に、前記背面形状の各点ごとに、その点を通る前記y方向に垂直な平面での前記背面形状の断面形状に対応する第1関数と、前記第1関数をその点について前記x方向に反転させることにより形成される第2関数と、の相関を示す指標値を計算する計算手段と、計算された前記各点ごとの前記指標値をxy平面上に配列したマップを生成する手段と、を含む脊柱配列推定装置である。 The spinal column alignment estimation device according to the present invention has a means for acquiring information indicating a three-dimensional back surface shape of a subject, and x in the width direction of the back surface and the extension direction of the spinal column of the subject in the back surface shape, respectively. When the direction and the y direction are set and the direction perpendicular to both the x direction and the y direction is the z direction, each point of the back surface shape is said to be a plane perpendicular to the y direction passing through the point. A calculation means for calculating an index value indicating a correlation between a first function corresponding to a cross-sectional shape of a back surface shape and a second function formed by inverting the first function in the x direction at that point . It is a spinal column arrangement estimation device including a means for generating a map in which the calculated index values for each point are arranged on an xy plane.

ここで1つの例では、前記計算手段は、前記各点ごとに、その点を通る前記y方向に垂直な平面での前記背面形状の断面形状に対応する第1関数と、前記第1関数をその点について前記x方向に反転させることにより形成される第2関数と、の相関を計算し、その点を含む前記y方向についての所定幅に渡って前記相関を積分した積分結果から前記指標値を計算する。 Here, in one example, the calculation means has, for each of the points, a first function corresponding to the cross-sectional shape of the back surface shape in a plane perpendicular to the y direction passing through the points, and the first function. The index value is calculated from the integration result of calculating the correlation with the second function formed by inverting the point in the x direction and integrating the correlation over a predetermined width in the y direction including the point. To calculate.

前記第1関数としては、前記断面形状を周期化することにより連続関数化したものを用いてもよい。特に、前記断面形状の両側の端部に、前記断面形状を前記z方向について反転した形状をそれぞれ平行移動したものの端部を接続することにより前記第1関数を形成してもよい。 As the first function, a continuous function may be used by periodicizing the cross-sectional shape. In particular, the first function may be formed by connecting the ends of the cross-sectional shape inverted in the z-direction to the ends on both sides of the cross-sectional shape.

また、脊柱配列推定装置は、生成された前記マップに基づいて前記脊柱の配列を推定する推定手段、を更に備えていてもよい。 Further, the spinal column sequence estimation device may further include an estimation means for estimating the spinal column sequence based on the generated map.

ここで、前記推定手段は、各被検体についての前記マップと前記配列の真値とを含む学習用データを用いて機械学習を行うことにより構成されるものであってもよい。また、前記推定手段は、前記マップに対して動的計画法を適用することにより前記配列を推定するものであってもよい。 Here, the estimation means may be configured by performing machine learning using learning data including the map and the true value of the sequence for each subject. Further, the estimation means may estimate the sequence by applying a dynamic programming method to the map.

本発明では、3次元的な背面形状の各点で、その点における背面形状のx方向に関する対称性の指標値を計算し、それら各点の指標値を配列したマップを生成する。この方法は、背面形状から推定した矢状面を評価に用いることをしないので、矢状面が正確に推定できない場合、又は、矢状面と脊柱の配列が一致しない場合でも、診断に資する情報を含んだマップを生成することができる。 In the present invention, at each point of the three-dimensional back surface shape, the index value of the symmetry of the back surface shape in the x direction at that point is calculated, and a map in which the index values of each point are arranged is generated. Since this method does not use the sagittal plane estimated from the dorsal shape for evaluation, information useful for diagnosis even if the sagittal plane cannot be estimated accurately or the arrangement of the sagittal plane and the spinal column does not match. Can generate a map containing.

脊柱配列推定装置の機能構成を例示する図である。It is a figure which illustrates the functional structure of the spinal column arrangement estimation apparatus. 背面に対する座標系の例を示す図である。It is a figure which shows the example of the coordinate system with respect to the back surface. ある高さyにおける距離関数とこれをx=ξでx方向について反転した関数を示す図である。It is a figure which shows the distance function at a certain height y and the function which inverted this in the x direction with x = ξ. 背面形状から体幹部を抽出する方法を説明するための図である。It is a figure for demonstrating the method of extracting the trunk from the back shape. 距離関数が一定区間にしか存在しないことにより生じる問題を説明するための図である。It is a figure for demonstrating the problem caused by the existence of a distance function only in a certain interval. 距離関数を周期化するためのいくつかの方法を例示する図である。It is a figure which illustrates some methods for periodicizing a distance function. 健常者についてのモアレ画像とこれに対応するSCM画像とを例示する図である。It is a figure which illustrates the moire image about a healthy person, and the corresponding SCM image. 側弯症患者についてのモアレ画像とこれに対応するSCM画像とを例示する図である。It is a figure which illustrates the moire image about the scoliosis patient and the corresponding SCM image. 相互相関をy方向に拡張する際のy方向のウインドウを説明するための図である。It is a figure for demonstrating the window in the y direction when the cross-correlation is expanded in the y direction. コンピュータのハードウエア構成の例を示す図である。It is a figure which shows the example of the hardware configuration of a computer.

<装置の機能的構成の例>
図1に、本発明に係る脊柱配列推定装置の一実施形態の機能構成を例示する。図示したように、この装置は、3次元計測装置10、前処理部12、対称性計算部14、脊柱配列推定部16及び出力部18を備える。
<Example of functional configuration of the device>
FIG. 1 illustrates a functional configuration of an embodiment of the spinal column array estimation device according to the present invention. As shown in the figure, this device includes a three-dimensional measuring device 10, a preprocessing unit 12, a symmetry calculation unit 14, a spinal column arrangement estimation unit 16, and an output unit 18.

3次元計測装置10は、被検体(例えば診断対象の患者)の背面の3次元形状を計測する装置である。3次元計測の手法には、三角測量の原理に基づくもの(例えばステレオ法、光切断法、位相シフト法)、TOF(Time of Flight:光飛行時間)に基づくものなど、いくつかの方式があるが、3次元計測装置10はそのいずれの方式を用いるものでもよい。3次元計測装置10が生成する3次元形状データは、特に限定されない。例えば、3次元形状データは、画像内の各画素の奥行き(距離)zの値を持つ距離画像であってもよいし、ワイヤーフレームモデル、メッシュモデル、サーフェイスモデル等の3次元形状モデルの形式のものであってもよい。以下に示す実施形態では、3次元形状データとして距離画像を用いる場合を主たる例にとって説明するが、他の形式の3次元形状データを用いる場合にも同様の処理方法が適用可能である。 The three-dimensional measuring device 10 is a device that measures the three-dimensional shape of the back surface of a subject (for example, a patient to be diagnosed). There are several methods of three-dimensional measurement, such as those based on the principle of triangular survey (for example, stereo method, optical cutting method, phase shift method) and those based on TOF (Time of Flight). However, the three-dimensional measuring device 10 may use any of the methods. The three-dimensional shape data generated by the three-dimensional measuring device 10 is not particularly limited. For example, the three-dimensional shape data may be a distance image having a value of the depth (distance) z of each pixel in the image, or may be in the form of a three-dimensional shape model such as a wire frame model, a mesh model, or a surface model. It may be a thing. In the embodiment shown below, the case where a distance image is used as the three-dimensional shape data will be described as a main example, but the same processing method can be applied to the case where another type of three-dimensional shape data is used.

前処理部12は、3次元計測装置10から入力される3次元形状データに対して、後の相関マップ生成の演算のための前処理を行う。この前処理は、3次元形状データから背景を除いて被検体背面の体幹部の領域を切り出す処理と、切り出した背面体幹部の3次元形状を背面の幅方向(すなわち水平方向)に周期化する処理とを含む。この前処理については後で詳細な例を説明する。 The preprocessing unit 12 performs preprocessing for the subsequent calculation of the correlation map generation with respect to the three-dimensional shape data input from the three-dimensional measuring device 10. This preprocessing is a process of cutting out the region of the trunk on the back surface of the subject by removing the background from the three-dimensional shape data, and periodicizing the three-dimensional shape of the cut out back trunk portion in the width direction (that is, the horizontal direction) of the back surface. Including processing. A detailed example of this preprocessing will be described later.

対称性計算部14は、前処理部12が出力したデータに基づき、背面の各点での背面形状の水平方向についての対称性を示す指標値を計算する。対称性の指標値としては、例えば、背面形状と、その背面形状の水平方向についての鏡像との相関を用いる。この例では、各点について、背面形状とその点についての背面形状の水平方向についての鏡像との相関を求め、その相関をその点における対称性の指標値とする。そして、対称性計算部14は、背面の高さ方向(すなわち鉛直方向)と幅方向(すなわち水平方向)との2次元平面の各点での対称性の指標値を示す指標値マップを生成し、出力する。対称性計算部14が実行する処理については、後で詳しい例を説明する。 The symmetry calculation unit 14 calculates an index value indicating the horizontal symmetry of the back surface shape at each point on the back surface based on the data output by the preprocessing unit 12. As the index value of symmetry, for example, the correlation between the back surface shape and the horizontal mirror image of the back surface shape is used. In this example, for each point, the correlation between the back surface shape and the horizontal mirror image of the back surface shape for that point is obtained, and the correlation is used as an index value of symmetry at that point. Then, the symmetry calculation unit 14 generates an index value map showing the index value of symmetry at each point of the two-dimensional plane in the height direction (that is, the vertical direction) and the width direction (that is, the horizontal direction) of the back surface. ,Output. A detailed example of the process executed by the symmetry calculation unit 14 will be described later.

脊柱配列推定部16は、指標値マップに基づいて、被検体の脊柱の配列を推定する。この推定の方法には、例えば、機械学習を利用する方法と、DP(すなわち動的計画法)マッチングを用いる方法とがある。脊柱配列推定部16が実行する処理については、後で詳しい例を説明する。 The spinal column sequence estimation unit 16 estimates the spinal column sequence of the subject based on the index value map. Examples of this estimation method include a method using machine learning and a method using DP (that is, dynamic programming) matching. A detailed example of the process executed by the spinal column array estimation unit 16 will be described later.

出力部18は、対称性計算部14が生成した指標値マップ、及び、脊柱配列推定部16が推定した脊柱配列を出力する。この出力は、例えば、付属の表示装置の画面に表示することにより行う。また出力部18は、プリンタから印刷出力する方法や、診断情報データベースに例えば被検体のID(患者番号等)に対応付けて登録する方法等の他の方法で、それらの情報を出力する機能を持っていてもよい。 The output unit 18 outputs the index value map generated by the symmetry calculation unit 14 and the spinal column array estimated by the spinal column array estimation unit 16. This output is performed, for example, by displaying it on the screen of an attached display device. Further, the output unit 18 has a function of outputting the information by another method such as a method of printing out from a printer or a method of registering the image in the diagnostic information database in association with the ID (patient number or the like) of the subject. You may have it.

<対称性の計算>
対称性計算部14が実行する対称性計算の例を説明する。ここでは、3次元計測装置10が生成する3次元形状データが距離画像である場合を例にとって説明する。例えば脊柱側弯症の画像診断を想定した場合、3次元計測装置10は立位の被検体(この場合、診断対象の人物)を撮影するので、距離画像のx方向は水平(左右)方向、y方向は垂直(すなわち鉛直)方向に対応する。図2には立っている人の背面110を撮影した画像100を示しており、この例では人の背筋は概ねy方向に延びており、背面の幅方向がx方向に対応する。距離画像の各画素は、xy平面内の座標(x,y)で特定され、画素の値として、仮想的なカメラ視点から対象物の表面(例えば被検体の背面)までの距離、又はこの距離から計算される対象物表面のz座標の値を持つ。以下では、垂直方向の位置(すなわち高さ)yにおける背面形状の水平断面(すなわちzx断面)の形状をz(x)と定義し、これを距離関数と呼ぶ。対称性計算部14は、この距離関数z(x)の左右非対称性を定量的に評価する。
<Calculation of symmetry>
An example of the symmetry calculation executed by the symmetry calculation unit 14 will be described. Here, a case where the three-dimensional shape data generated by the three-dimensional measuring device 10 is a distance image will be described as an example. For example, assuming image diagnosis of kyphosis of the spinal column, the three-dimensional measuring device 10 captures a standing subject (in this case, the person to be diagnosed), so that the x direction of the distance image is the horizontal (left and right) direction, y. The directions correspond to the vertical (ie, vertical) directions. FIG. 2 shows an image 100 obtained by photographing the back surface 110 of a standing person. In this example, the back muscle of the person extends in the y direction, and the width direction of the back surface corresponds to the x direction. Each pixel of the distance image is specified by the coordinates (x, y) in the xy plane, and the pixel value is the distance from the virtual camera viewpoint to the surface of the object (for example, the back surface of the subject), or this distance. It has the z-coordinate value of the object surface calculated from. In the following, the shape of the horizontal cross section (that is, zx cross section) of the back surface shape at the position (that is, height) y in the vertical direction is defined as zy (x), and this is called a distance function. The symmetry calculation unit 14 quantitatively evaluates the left-right asymmetry of the distance function zy ( x ).

健常者の場合、背面形状は脊柱を中心にして左右対称(すなわち水平方向について対象)なので、その背面形状から生成された距離関数z(x)も脊柱に関して左右対称となる。距離関数z(x)は、脊柱の位置で最も左右対称性が高くなり、脊柱位置から左右方向に離れるに従い左右対称性は低くなると考えられる。 In the case of a healthy person, the dorsal shape is bilaterally symmetric with respect to the spinal column (that is, the object in the horizontal direction), so the distance function zy ( x ) generated from the dorsal shape is also bilaterally symmetric with respect to the spinal column. It is considered that the distance function zy ( x ) has the highest left-right symmetry at the position of the spinal column, and the left-right symmetry decreases as the distance from the spinal column position increases in the left-right direction.

そこで、左右対称性を特徴づける相関関数を定義する。このために、距離関数z(x)と、y軸を中心としてその距離関数を水平方向(すなわちx方向)に反転し、2ξだけ平行移動した距離関数z(-x+2ξ)を考える。図3に示すように、後者の距離関数z(-x+2ξ)は、背面形状を示す前者の距離関数z(x)の、x=ξの位置で水平方向に反転したものとなっている。言い換えれば、z(x)とz(-x+2ξ)はξの位置で左右対称となっている。 Therefore, we define a correlation function that characterizes left-right symmetry. For this purpose, consider the distance function z y (x) and the distance function z y (−x + 2ξ) that is the horizontal direction (that is, x direction) inverted about the y-axis and is translocated by 2ξ. As shown in FIG. 3, the latter distance function zy (−x + ) is horizontally inverted at the position of x = ξ of the former distance function zy ( x ) showing the back surface shape. .. In other words, zy ( x ) and zy (−x + ) are symmetrical at the position of ξ.

そして、それら2つの距離関数のx1からx2までの範囲における相互相関C(ξ)を

Figure 0007076154000002
で求め、これを背面の各点の左右対称性を特徴づける相関関数とする。 Then, the cross-correlation Cy (ξ) in the range of x1 to x2 of these two distance functions is set.
Figure 0007076154000002
This is the correlation function that characterizes the left-right symmetry of each point on the back surface.

ここで、

Figure 0007076154000003
は、相互相関を求める際の関数z(x)及びz(-x+2ξ)それぞれのz方向に対するオフセットを除去するための項である。この項は一般的には以下の式で計算される。
Figure 0007076154000004
here,
Figure 0007076154000003
Is a term for removing the offset in the z direction of each of the functions zy ( x ) and zy (−x + 2ξ) in obtaining the cross-correlation. This term is generally calculated by the following formula.
Figure 0007076154000004

ここで、

Figure 0007076154000005
は式(2)で求められる値のほか、例えばz軸方向の最大値と最小値の中間値をとるなどのバリエーションも考えられる。 here,
Figure 0007076154000005
In addition to the value obtained by Eq. (2), variations such as taking an intermediate value between the maximum value and the minimum value in the z-axis direction can be considered.

x1及びx2は、相互相関を求める際のx方向の範囲の両端である。これらの値には、基本的には距離関数z(x)のx方向の最小値および最大値を採用する。しかしこれは一例に過ぎず、別の例として、背面形状の端部のノイズ等の影響を考慮し、以下の3つの例のように背面形状全体よりも狭くした範囲を設定することも考えられる。なお、以下に例示する3つの範囲のうち、(a)及び(b)は、背面形状の水平断面ごと、すなわち各yについての距離関数z(x)ごと、に設定される。
(a)距離関数z(x)の定義域(x軸方向の範囲)を一定割合で狭くした範囲
(b)距離関数z(x)の値域(z軸方向の範囲)が所定の範囲となるようなx1とx2
(c)背面形状全体の各水平断面から特定の水平断面(例えばx方向の幅が最大となる水平断面)を選択し、その水平断面において上記(a)又は(b)で決定された範囲を、その他の全ての水平断面にも適用
なお、当然上記(a)~(c)の複合条件(例えば論理積ANDまたは論理和ORでの組合せ)を用いてもよい。
x1 and x2 are both ends of the range in the x direction when finding the cross-correlation. As these values, basically, the minimum value and the maximum value in the x direction of the distance function z y (x) are adopted. However, this is only an example, and as another example, considering the influence of noise at the end of the back surface shape, it is conceivable to set a range narrower than the entire back surface shape as in the following three examples. .. Of the three ranges illustrated below, (a) and (b) are set for each horizontal cross section of the back surface shape, that is, for each distance function z y (x) for each y.
(A) A range in which the domain (range in the x-axis direction) of the distance function z y (x) is narrowed by a certain ratio (b) The range (range in the z-axis direction) of the distance function z y (x) is a predetermined range. X1 and x2 such that
(C) A specific horizontal cross section (for example, a horizontal cross section having the maximum width in the x direction) is selected from each horizontal cross section of the entire back surface shape, and the range determined by the above (a) or (b) is set in the horizontal cross section. , And all other horizontal cross sections. Of course, the compound condition of (a) to (c) above (for example, a combination of logical product AND or logical sum OR) may be used.

相互相関C(ξ)は、距離関数z(x)の左右対称性が高いほど鋭いピークをもち、そのピークの位置はその距離関数の形状の左右対称軸の位置を表す。そして、脊柱はその位置の付近に存在すると推定される。 The cross-correlation Cy (ξ) has a sharper peak as the distance function zy ( x ) has higher left-right symmetry, and the position of the peak represents the position of the left-right symmetry axis of the shape of the distance function. And it is presumed that the spinal column exists near that position.

そこで、対称性計算部14は、背面形状の左右対称性を示す情報として、背面上の各点での上述した相関を計算する。 Therefore, the symmetry calculation unit 14 calculates the above-mentioned correlation at each point on the back surface as information indicating the left-right symmetry of the back surface shape.

<前処理1:背面形状の抽出>
3次元計測装置10が生成した距離画像には、目的とする被検体の背面以外に、被検体の腕や背景等の情報が含まれる。そこで、前処理部12は、その距離画像から、必要な背面の部分の情報を抽出する。
<Pretreatment 1: Extraction of back surface shape>
The distance image generated by the three-dimensional measuring device 10 includes information such as the arm and background of the subject in addition to the back surface of the target subject. Therefore, the preprocessing unit 12 extracts necessary information on the back surface from the distance image.

背景の削除には、公知の様々な手法が利用できる。例えば、3次元計測装置10のカメラに対して被検体の立ち位置を固定的に定めておき、距離についての閾値により被検体と背景を分ける方法を用いてもよい。 Various known methods can be used to remove the background. For example, a method may be used in which the standing position of the subject is fixedly determined with respect to the camera of the three-dimensional measuring device 10 and the subject and the background are separated by a threshold value for the distance.

また別の例として、被検体がいない状態で背景の壁面等の形状又はテクスチャをあらかじめ撮影しておき、被検体がいる状態の撮影により得られた距離画像から、その形状又はテクスチャで特定される背景の部分を削除してもよい。 As another example, the shape or texture of the wall surface of the background is photographed in advance in the absence of the subject, and the shape or texture is specified from the distance image obtained by photographing in the presence of the subject. You may delete the background part.

更に別の例では、被検体の立ち位置に相当する場所にあらかじめ平面等の基準物体を置いて3次元計測装置10に撮影させることで被検体の立ち位置を3次元計測装置10に認識させる。そして、実際の被検体を撮影したときの距離画像から、その立ち位置よりもカメラから遠い部分を背景として削除する。 In yet another example, a reference object such as a flat surface is placed in advance in a place corresponding to the standing position of the subject, and the three-dimensional measuring device 10 is made to take an image so that the three-dimensional measuring device 10 recognizes the standing position of the subject. Then, from the distance image when the actual subject is photographed, the portion farther from the camera than the standing position is deleted as the background.

また更に別の例として、3次元計測装置10の撮影範囲内に何も置かないか、背景の壁面を3次元計測装置10のカメラで計測できない特定の色にすることで、はじめから背景の3次元形状が得られないようにしてもよい。 As yet another example, by placing nothing within the shooting range of the 3D measuring device 10 or by making the wall surface of the background a specific color that cannot be measured by the camera of the 3D measuring device 10, the background 3 is set from the beginning. The dimensional shape may not be obtained.

また、腕等の情報を削除して、目的とする体幹部の情報を抽出する方法としては、例えば次のような方法がある。 Further, as a method of deleting the information of the arm and the like and extracting the information of the target trunk, for example, there are the following methods.

この方法では、前処理部12は、背景を削除済みの距離画像から、x方向に形状が連続している(すなわち、脇で形状が分断されていない)領域のうち、x方向の幅が最大の部分を特定し、その部分の幅Wと、その部分のx方向についての中央位置Cを求める(図4参照)。そして、予め定められた定数k(0<k≦1)を用いて、背景削除済みの距離画像のうち、中央位置Cを中心に幅kW内のデータのみ残し、それ以外を削除する。すなわち、
C-kW/2 < x < C+kW/2
となるx座標の範囲のみを残す。
In this method, the preprocessing unit 12 has the maximum width in the x direction in the region where the shape is continuous in the x direction (that is, the shape is not divided by the side) from the distance image whose background has been deleted. The part of the part is specified, the width W of the part and the central position C of the part in the x direction are obtained (see FIG. 4). Then, using a predetermined constant k (0 <k ≦ 1), among the distance images whose background has been deleted, only the data within the width kW centered on the center position C is left, and the rest is deleted. That is,
C-kW / 2 <x <C + kW / 2
Only the range of the x-coordinate that becomes is left.

<前処理2:距離関数の周期化>
背面形状を示す距離関数z(x)はある一定区間にしか存在しないので、左右の不連続な端点の処理が必要である。すなわち、図5に示すように、元の断面形状である距離関数z(x)の値は式(1)の積分範囲であるx1からx2までの範囲全体にわたって存在するが、それをx=ξで左右反転した形状を示す関数z(-x+2ξ)は右端側に値が存在しない領域がある。この値が存在しない領域については、式(1)の計算ができない。
<Preprocessing 2: Periodization of distance function>
Since the distance function zy ( x ) indicating the back surface shape exists only in a certain section, it is necessary to process the left and right discontinuous end points. That is, as shown in FIG. 5, the value of the distance function zy ( x ), which is the original cross-sectional shape, exists over the entire range from x1 to x2, which is the integration range of the equation (1). The function z y (-x + 2ξ), which shows the shape inverted by ξ, has a region on the right end side where no value exists. Equation (1) cannot be calculated for the region where this value does not exist.

この問題を回避するために、本実施形態では、距離関数z(x)を循環的に周期化させて連続関数化する。 In order to avoid this problem, in the present embodiment, the distance function zy ( x ) is cyclically periodically made into a continuous function.

このような周期化の方法のいくつかの例を、図6を参照して説明する。図6の(A)には元々の距離関数z(x)の例を示す。 Some examples of such a periodic method will be described with reference to FIG. FIG. 6A shows an example of the original distance function zy ( x ).

図6の(B)は、距離関数z(x)のコピーを平行移動して元の距離関数の両端に連結する方法を示し、(C)は、距離関数z(x)を左右反転(すなわちx方向について反転)したものを元の距離関数の両端に連結する方法を示す。また、(D)は、距離関数z(x)を上下反転(すなわちz方向について反転)したものを元の距離関数の両端に連結する方法を示し、(E)は、距離関数z(x)を左右反転し更に上下反転したものを元の距離関数の両端に連結する方法を示す。これらいずれかの方法で距離関数z(x)を周期関数化することにより、積分範囲[x1,x2]の全域にわたって式(1)の積分が可能になる。 FIG. 6B shows a method of translating a copy of the distance function z y (x) and connecting it to both ends of the original distance function, and FIG. 6C shows a method of flipping the distance function z y (x) left and right. A method of concatenating (that is, inverted in the x direction) at both ends of the original distance function is shown. Further, (D) shows a method of connecting the distance function z y (x) upside down (that is, inverted in the z direction) to both ends of the original distance function, and (E) shows the distance function z y (that is, inverted in the z direction). A method of flipping x) horizontally and then flipping it vertically is shown at both ends of the original distance function. By converting the distance function zy ( x ) into a periodic function by any of these methods, the integral of the equation (1) becomes possible over the entire range of the integration range [x1, x2].

前処理部12は、例えば、これら(B)~(D)に例示したいずれかの方法を用いて距離関数z(x)を循環的に周期化する。特に、(D)に示した方法で周期化した距離関数は、他の方法で周期化した距離関数と比べて、左右方向の中央位置で左右反転した関数との差が少ないので、相互相関の計算に適している。 The preprocessing unit 12 cyclically cycles the distance function zy ( x ) using, for example, any of the methods exemplified in these (B) to (D). In particular, the distance function periodiced by the method shown in (D) has a smaller difference from the left-right inverted function at the center position in the left-right direction as compared with the distance function periodiced by the other method, so that the mutual correlation is Suitable for calculation.

前処理部12は、以上に例示した方法で、3次元計測装置10が出力した距離画像から体幹部の背面形状の部分のみを取り出し、それらをx方向に沿って両端部から拡張して周期化する。対称性計算部14は、このように周期化された距離画像のy位置ごとの断面の関数を距離関数z(x)として、上述した式(1)を用いて相互相関C(ξ)を計算する。 The preprocessing unit 12 extracts only the back-shaped portion of the trunk from the distance image output by the three-dimensional measuring device 10 by the method exemplified above, and expands them from both ends along the x direction to cycle. do. The symmetry calculation unit 14 uses the above-mentioned equation (1) as a distance function zy (x) as a function of the cross section for each y position of the distance image periodiced in this way, and cross-correlates Cy (ξ). To calculate.

<マップの生成>
次に、対称性計算部14が生成する相互相関のマップについて説明する。
<Map generation>
Next, the map of the cross-correlation generated by the symmetry calculation unit 14 will be described.

対称性計算部14は、式(1)に従って計算した相互相関C(ξ)を元々の距離画像と対応するように行列に写像する。この行列を

Figure 0007076154000006
とすると、
Figure 0007076154000007
と定義できる。ここでW及びHは、周期関数化する前の元々の距離画像の幅及び高さである。このように定義した行列Mを、以下ではSCM(self Symmetric Correlation Map:自己対称相関マップ )と呼ぶ。 The symmetry calculation unit 14 maps the cross-correlation Cy (ξ) calculated according to the equation (1) into a matrix so as to correspond to the original distance image. This matrix
Figure 0007076154000006
Then
Figure 0007076154000007
Can be defined as. Here, W and H are the width and height of the original distance image before the periodic function. The matrix M defined in this way is hereinafter referred to as SCM (self Symmetric Correlation Map).

図7Aに健常者、図7Bに側弯症患者の、背面のモアレ画像(左側)とSCM画像(右側)を例示する。SCM画像は、SCMの値を輝度に変調し、画像としたものである。SCMの値すなわち相互相関の値が高いほど輝度が高い。 7A shows a healthy person, and FIG. 7B shows a back moire image (left side) and an SCM image (right side) of a scoliosis patient. The SCM image is an image obtained by modulating the value of SCM to the luminance. The higher the SCM value, that is, the higher the cross-correlation value, the higher the brightness.

なお、SCMをI(x,y)と表現した場合、x、yの各座標は、単純に3次元計測装置10により撮影された距離画像の画素単位系としてもよいし、3次元形状の座標系において一定の長さ間隔(例えば1mm間隔)でマッピングしてもよい。例えば3次元形状で10mm離れた2点は、SCM上で例えば10画素離れるようにマッピングする。このようにすると、生成されたSCM内の被検体の大きさは、これを生成する際の仮想的なカメラ位置に依存せず背面形状の大きさに比例する。このため、SCMを使った機械学習(これについては後で例を挙げる)において結果が安定する。また、画像スケールの正規化ステップが減るなどの効果が期待できる。 When the SCM is expressed as I (x, y), the coordinates of x and y may be simply a pixel unit system of a distance image taken by the three-dimensional measuring device 10, or the coordinates of the three-dimensional shape. Mapping may be performed at a constant length interval (for example, 1 mm interval) in the system. For example, two points 10 mm apart in a three-dimensional shape are mapped on the SCM so as to be separated by, for example, 10 pixels. In this way, the size of the subject in the generated SCM is proportional to the size of the back surface shape without depending on the virtual camera position at the time of generation. Therefore, the result is stable in machine learning using SCM (this will be described later as an example). In addition, effects such as a reduction in the normalization step of the image scale can be expected.

<相関計算上の工夫>
ヒト等の脊椎動物の背面形状は一般的に滑らかである。しかし、3次元計測装置10の解像度が低い場合や測定ノイズ等の影響により、隣り合うy位置同士の間でSCMの段差が顕著になる場合がある。このようなことを避けるために、相互相関C(ξ)の計算において、注目するy位置の距離関数z(x)だけでなく、y方向についてのその前後の範囲の距離関数を考慮に入れてもよい。
<Ingenuity in correlation calculation>
The dorsal shape of vertebrates such as humans is generally smooth. However, when the resolution of the three-dimensional measuring device 10 is low or due to the influence of measurement noise or the like, the step of SCM between adjacent y positions may become remarkable. In order to avoid such a situation, in the calculation of the cross-correlation Cy (ξ), not only the distance function zy (x) at the y position of interest but also the distance function in the range before and after that in the y direction is taken into consideration. You may put it in.

例えば、図8に例示するように、y位置を中心としてy方向について幅(y2-y1)=2hのウインドウを定義する。y1=y-h、y2=y+hである。そのウインドウ内の相互相関C(ξ)を平均したものを、そのy位置の左右対称性の指標値の関数としてもよい。すなわち、この例では、例えば、

Figure 0007076154000008
で定義される関数D(ξ)を、相互相関C(ξ)の代わりに、座標(ξ,y)における背面の左右対称性の指標値として用いる。これにより、y方向に沿った指標値の変化が滑らかになる。この例では、D(ξ)をC(ξ)の代わりに式(3)及び(4)に適用して得られた行列Mを、SCMとして用いる。 For example, as illustrated in FIG. 8, a window having a width (y2-y1) = 2h in the y direction with the y position as the center is defined. y1 = y—h and y2 = y + h. The average of the cross-correlation Cy (ξ) in the window may be used as a function of the index value of the left-right symmetry of the y position. That is, in this example, for example,
Figure 0007076154000008
The function D y (ξ) defined in is used as an index value of the left-right symmetry of the back surface in the coordinates (ξ, y ) instead of the cross-correlation Cy (ξ). As a result, the change of the index value along the y direction becomes smooth. In this example, the matrix M obtained by applying D y (ξ) to equations (3) and (4) instead of Cy (ξ) is used as the SCM.

<脊柱配列推定部の処理>
脊柱配列推定部16は、上述のようにして得られたSCMを用いて、被検体の脊柱配列を推定する。推定する脊柱配列は、xy平面上の各y位置での脊柱のx位置の配列である。推定した脊柱配列は、脊柱側弯症に罹患しているかどうかのスクリーニングおよびその重症度の診断に役立つ情報となる。
<Processing of spinal column array estimation unit>
The spinal column sequence estimation unit 16 estimates the spinal column sequence of the subject using the SCM obtained as described above. The estimated spinal column array is an array of x positions of the spinal column at each y position on the xy plane. The estimated spinal arrangement provides useful information for screening for the presence of scoliosis and diagnosing its severity.

以下、脊柱配列推定部16が実行する推定の方法を例示する。 Hereinafter, the estimation method performed by the spinal column array estimation unit 16 will be illustrated.

SCMを入力とした脊柱配列の推定関数をψとすると、これにより推定される脊柱配列Sは

Figure 0007076154000009
と表現できる。 Assuming that the estimation function of the spinal column array with SCM as input is ψ, the spinal column array S estimated by this is
Figure 0007076154000009
Can be expressed as.

推定関数ψは、例えばDP(動的計画法)による最短経路問題として解ける。この方法では、SCM:M(=式(3)及び(4)に示した行列)に対して、以下の最適化問題を定式化する。

Figure 0007076154000010
The estimator function ψ can be solved as a shortest path problem by, for example, DP (Dynamic Programming). In this method, the following optimization problem is formulated for SCM: M (= the matrix shown in the equations (3) and (4)).
Figure 0007076154000010

ここでHは、SCM:Mのy方向の大きさ(すなわち高さ)である。この最適化問題は、式(7)で定義されるFを最大化するx座標配列{χ1, χ2, … χH}(式(8))を求めるものである。つまりSCM:Mを上から下まで辿る無数の経路のうち、経路上の

Figure 0007076154000011
の合計が最も大きくなるような経路を求めるという問題である。式(9)は、隣接する水平断面間のx座標の差が±1以内であるという制約条件である。これは、求められる経路が急激に変化しないようにするためのものである。 Here, H is the magnitude (that is, the height) of SCM: M in the y direction. This optimization problem is to find the x-coordinate array {χ 1 , χ 2 , ... χ H } (Equation (8)) that maximizes F defined in Eq. (7). That is, among the innumerable routes that follow SCM: M from top to bottom, on the route
Figure 0007076154000011
The problem is to find the route that maximizes the total of. Equation (9) is a constraint that the difference in x-coordinates between adjacent horizontal sections is within ± 1. This is to prevent the required route from changing suddenly.

脊柱配列推定部16は、以上に示したx座標配列{χ1, χ2, … χH}についての最適化問題を、周知のDPの方法で解く。この結果得られるx座標配列{χ1, χ2, … χH}の最適解が、脊柱配列Sの推定結果である。 The spinal column array estimation unit 16 solves the optimization problem for the x-coordinate array {χ 1 , χ 2 , ... χ H } shown above by a well-known DP method. The optimum solution of the x-coordinate array {χ 1 , χ 2 , ... χ H } obtained as a result is the estimation result of the spinal column array S.

なお、演算に要する時間を厭わなければ、上述した最適化問題を全探索により解いてもよい。 If the time required for the calculation is acceptable, the above-mentioned optimization problem may be solved by a full search.

また、別の例として、脊柱配列推定部16は、機械学習を利用するものであってもよい。この例では、機械学習の学習用データのセットとして、多くの被検体(例えば人)のSCMと脊柱配列の真値を用意する。脊柱配列の真値は、例えば、その被検体のX線画像や、X線その他のエネルギー放射を用いたCT(コンピュータ断層撮影)データ等から求められる。そして、それら多数の学習用データを用いて、入力されたSCMに対して脊柱配列の真値を出力するよう脊柱配列推定部16を学習させる。この場合、脊柱配列推定部16は、例えば、深層学習NN(ニューラルネットワーク)等のNNで構成されていてもよい。また、NN以外の機械学習可能な仕組みを用いて脊柱配列推定部16を構成してもよい。学習により脊柱配列推定部16内に推定関数ψが(例えばNNの各層間の各結合の重みの集合として)構成される。 Further, as another example, the spinal column arrangement estimation unit 16 may utilize machine learning. In this example, the true values of the SCM and spinal column arrangement of many subjects (for example, humans) are prepared as a set of learning data for machine learning. The true value of the spinal column arrangement is obtained from, for example, an X-ray image of the subject, CT (computer tomography) data using X-rays or other energy radiation, or the like. Then, using these many learning data, the spinal column array estimation unit 16 is trained so as to output the true value of the spinal column array for the input SCM. In this case, the spinal column array estimation unit 16 may be composed of, for example, a deep learning NN (neural network) or the like. Further, the spinal column arrangement estimation unit 16 may be configured by using a mechanism other than NN that can be machine-learned. By learning, an estimator function ψ is constructed in the spinal column array estimation unit 16 (for example, as a set of weights of each connection between each layer of NN).

診断時には、学習済みの脊柱配列推定部16に対して、診断対象の被検体の撮影により得られたSCMを入力する。脊柱配列推定部16は、その入力に対して推定関数ψを適用することにより、被検体の脊柱配列Sを推定し、出力する。 At the time of diagnosis, the SCM obtained by photographing the subject to be diagnosed is input to the learned spinal column sequence estimation unit 16. The spinal column sequence estimation unit 16 estimates and outputs the spinal column sequence S of the subject by applying the estimation function ψ to the input.

更に別の例として、脊柱配列の推定に、DPと機械学習を組み合わせた手法を用いてもよい。この例では、機械学習の学習用データのセットとして、被検体ごとに、脊柱配列の真値、SCM、及びそのSCMからDPにより推定された脊柱配列Sの三つ組を用意する。そして、SCM及びDPによる脊柱配列の推定結果を入力とし、脊柱配列の真値を教師データとして、脊柱配列推定部16に機械学習を実行させる。これにより脊柱配列推定部16内に推定関数ψが構成される。 As yet another example, a method combining DP and machine learning may be used to estimate the spinal column arrangement. In this example, as a set of learning data for machine learning, a triplet of the true value of the spinal column sequence, the SCM, and the spinal column sequence S estimated by DP from the SCM is prepared for each subject. Then, the estimation result of the spinal column array by SCM and DP is input, and the true value of the spinal column array is used as the teacher data, and the spinal column array estimation unit 16 is made to execute machine learning. As a result, the estimation function ψ is constructed in the spinal column array estimation unit 16.

診断時には、脊柱配列推定装置は、診断対象の被検体を撮影して得た3次元形状データからSCMを求め、そのSCMからDPにより脊柱配列を推定する。そして、そのSCMと脊柱配列の推定値を、脊柱配列推定部16内の推定関数ψを担う部分に入力する。その部分は、その入力に対して推定関数ψを適用することにより、被検体の脊柱配列Sを推定し、出力する。 At the time of diagnosis, the spinal column sequence estimation device obtains an SCM from the three-dimensional shape data obtained by photographing the subject to be diagnosed, and estimates the spinal column sequence from the SCM by DP. Then, the SCM and the estimated value of the spinal column array are input to the portion of the spinal column array estimation unit 16 that bears the estimation function ψ. The part estimates and outputs the spinal column sequence S of the subject by applying the estimation function ψ to the input.

<出力部の処理>
出力部18は、対称性計算部14が計算した、背面の左右対称性のマップ(例えば前述のSCM)を画像化し、表示出力する機能を備える。図7A,図7Bに示したSCM画像がその一例である。
<Processing of output section>
The output unit 18 has a function of imaging a map of left-right symmetry on the back surface (for example, the above-mentioned SCM) calculated by the symmetry calculation unit 14 and displaying and outputting it. The SCM images shown in FIGS. 7A and 7B are examples thereof.

また出力部18は、脊柱配列推定部16による脊柱配列Sの推定結果を表示出力する機能を備えていてもよい。この表示では、脊柱配列Sの推定結果、すなわちy値ごとのx座標{χ1, χ2, … χH}を、xy平面上に例えば点でプロットする。また、3次元計測装置10のカメラが撮影した被検体の背面の画像上に、それら点の列を重畳して表示してもよい。 Further, the output unit 18 may have a function of displaying and outputting the estimation result of the spinal column array S by the spinal column array estimation unit 16. In this display, the estimation result of the spinal column array S, that is, the x-coordinates {χ 1 , χ 2 , ... χ H } for each y value are plotted on the xy plane, for example, by points. Further, a row of these points may be superimposed and displayed on the image of the back surface of the subject taken by the camera of the three-dimensional measuring device 10.

以上に説明した脊柱配列推定装置は、例えば、汎用のコンピュータを用いて構成される。図9に例示するように、その装置のベースとなるコンピュータは、プロセッサ202、ランダムアクセスメモリ(RAM)等のメモリ(主記憶装置)204、フラッシュメモリやSSD(ソリッドステートドライブ)、HDD(ハードディスクドライブ)等の不揮発性記憶装置である補助記憶装置206を制御するコントローラ、各種の入出力装置208とのインタフェース、ローカルエリアネットワークなどのネットワークとの接続のための制御を行うネットワークインタフェース210等が、例えばバス212等のデータ伝送路を介して接続された回路構成を有する。上記実施形態の処理の内容が記述されたプログラムが、ネットワーク等を経由してそのコンピュータにインストールされ、補助記憶装置206に記憶される。補助記憶装置206に記憶されたプログラムが、プロセッサ202によりメモリ204を用いて実行されることにより、上記実施形態の情報処理装置が構成される。 The spinal column array estimation device described above is configured by using, for example, a general-purpose computer. As illustrated in FIG. 9, the computer on which the device is based includes a processor 202, a memory (main storage device) 204 such as a random access memory (RAM), a flash memory, an SSD (solid state drive), and an HDD (hard disk drive). ) Etc., a controller that controls an auxiliary storage device 206 that is a non-volatile storage device, an interface with various input / output devices 208, a network interface 210 that controls connection with a network such as a local area network, and the like. It has a circuit configuration connected via a data transmission path such as a bus 212. A program in which the contents of the processing of the above embodiment are described is installed in the computer via a network or the like and stored in the auxiliary storage device 206. The information processing device of the above embodiment is configured by executing the program stored in the auxiliary storage device 206 by the processor 202 using the memory 204.

以上に説明した実施の形態は、あくまで一例に過ぎない。特許請求の範囲に記載した発明の範囲内で、様々な変形や改良があり得る。 The embodiments described above are merely examples. Within the scope of the invention described in the claims, there may be various modifications and improvements.

例えば、以上の説明では、高さyにおける背面形状の水平断面(すなわちzx断面)の形状を距離関数z(x)と定義していたが、これを水平断面に対してある角度θを持った断面の形状zy,θ(x)としてもよい。 For example, in the above description, the shape of the horizontal cross section (that is, zx cross section) of the back surface shape at the height y is defined as the distance function z y (x), but this has a certain angle θ with respect to the horizontal cross section. The shape of the cross section may be z y, θ (x).

このθは、例えば一旦距離関数z(x)により脊柱配列を求め、その脊柱配列に直交するような平面を表す角度とすることもできる。 This θ can be, for example, an angle representing a plane orthogonal to the spinal column array once the spinal column array is obtained by the distance function zy ( x ).

またはθを0度~180度の間で変化させた場合に、式(1)のCy(ξ)が最も高くなるθをその(ξ,y)における角度として採用してもよい。 Alternatively, when θ is changed between 0 degrees and 180 degrees, θ at which Cy (ξ) in the equation (1) becomes the highest may be adopted as the angle at that (ξ, y).

10 :3次元計測装置
12 :前処理部
14 :対称性計算部
16 :脊柱配列推定部
18 :出力部
10: 3D measuring device 12: Preprocessing unit 14: Symmetry calculation unit 16: Spinal column array estimation unit 18: Output unit

Claims (9)

被検体の3次元的な背面形状を示す情報を取得する手段と、
前記背面形状において前記背面の幅の方向及び前記被検体の脊柱の延びる方向をそれぞれx方向及びy方向とし、前記x方向及び前記y方向の両方に垂直な方向をz方向とした場合に、前記背面形状の各点ごとに、その点を通る前記y方向に垂直な平面での前記背面形状の断面形状に対応する第1関数と、前記第1関数をその点について前記x方向に反転させることにより形成される第2関数と、の相関を示す指標値を計算する計算手段と、
計算された前記各点ごとの前記指標値をxy平面上に配列したマップを生成する手段と、
を含む脊柱配列推定装置。
A means for acquiring information indicating the three-dimensional back shape of the subject, and
When the width direction of the back surface and the extending direction of the spinal column of the subject are the x direction and the y direction, respectively, and the direction perpendicular to both the x direction and the y direction is the z direction in the back surface shape, the above. For each point of the back surface shape, the first function corresponding to the cross-sectional shape of the back surface shape in the plane perpendicular to the y direction passing through the point and the first function are inverted in the x direction with respect to the point. A calculation means for calculating an index value indicating the correlation between the second function formed by
A means for generating a map in which the calculated index values for each point are arranged on an xy plane, and
Spinal column sequence estimator including.
前記第1関数は、前記断面形状を周期化することにより連続関数化したものである、請求項に記載の脊柱配列推定装置。 The spinal column array estimation device according to claim 1 , wherein the first function is a continuous function by periodicizing the cross-sectional shape. 前記第1関数は、前記断面形状の両側の端部に、前記断面形状を前記z方向について反転した形状をそれぞれ平行移動したものの端部を接続することにより形成される、請求項に記載の脊柱配列推定装置。 The first function is formed according to claim 2 , wherein the first function is formed by connecting the ends of the cross-sectional shape inverted in the z-direction to the end portions on both sides of the cross-sectional shape. Spinal column alignment estimator. 生成された前記マップに基づいて前記脊柱の配列を推定する推定手段、を更に備える請求項1~のいずれか1項に記載の脊柱配列推定装置。 The spinal column sequence estimation device according to any one of claims 1 to 3 , further comprising an estimation means for estimating the spinal column sequence based on the generated map. 前記推定手段は、各被検体についての前記マップと前記配列の真値とを含む学習用データを用いて機械学習を行うことにより構成される、ことを特徴とする請求項に記載の脊柱配列推定装置。 The spinal column array according to claim 4 , wherein the estimation means is configured by performing machine learning using learning data including the map and the true value of the array for each subject. Estimator. 前記推定手段は、前記マップに対して動的計画法を適用することにより前記配列を推定する、ことを特徴とする請求項に記載の脊柱配列推定装置。 The spinal column sequence estimation device according to claim 4 , wherein the estimation means estimates the sequence by applying a dynamic programming method to the map. 前記マップに対して動的計画法を適用することにより前記脊柱の推定配列を求める第2推定手段を更に含み、
前記推定手段は、各被検体についての、前記マップと、前記配列の真値と、前記マップから前記第2推定手段が求めた前記推定配列と、を含む学習用データを用いて機械学習を行うことにより構成され、
前記推定手段に対して、前記被検体の前記背面形状から求められた前記マップと、このマップから前記第2推定手段が求めた前記推定配列と、を入力することにより、前記推定手段が前記被検体についての前記配列を出力する、
ことを特徴とする請求項に記載の脊柱配列推定装置。
Further including a second estimation means for obtaining an estimated sequence of the spinal column by applying dynamic programming to the map.
The estimation means performs machine learning using learning data including the map, the true value of the sequence, and the estimation sequence obtained by the second estimation means from the map for each subject. Consists of
By inputting the map obtained from the back surface shape of the subject and the estimated sequence obtained by the second estimation means from the map to the estimation means, the estimation means is subjected to the subject. Output the sequence for the sample,
The spinal column array estimation device according to claim 4 .
被検体の3次元的な背面形状を示す情報を取得し、
前記背面形状において前記背面の幅の方向及び前記被検体の脊柱の延びる方向をそれぞれx方向及びy方向とし、前記x方向及び前記y方向の両方に垂直な方向をz方向とした場合に、前記背面形状の各点ごとに、その点を通る前記y方向に垂直な平面での前記背面形状の断面形状に対応する第1関数と、前記第1関数をその点について前記x方向に反転させることにより形成される第2関数と、の相関を示す指標値を計算し、
計算された前記各点ごとの前記指標値をxy平面上に配列したマップを生成する、
ことを特徴とする脊柱配列推定方法。
Obtain information indicating the three-dimensional back shape of the subject,
When the width direction of the back surface and the extending direction of the spinal column of the subject are the x direction and the y direction, respectively, and the direction perpendicular to both the x direction and the y direction is the z direction in the back surface shape, the above. For each point of the back surface shape, the first function corresponding to the cross-sectional shape of the back surface shape in the plane perpendicular to the y direction passing through the point and the first function are inverted in the x direction with respect to the point. Calculate the index value showing the correlation with the second function formed by
Generate a map in which the calculated index values for each point are arranged on an xy plane.
A method for estimating the spinal column arrangement.
コンピュータに、
被検体の3次元的な背面形状を示す情報を取得する処理、
前記背面形状において前記背面の幅の方向及び前記被検体の脊柱の延びる方向をそれぞれx方向及びy方向とし、前記x方向及び前記y方向の両方に垂直な方向をz方向とした場合に、前記背面形状の各点ごとに、その点を通る前記y方向に垂直な平面での前記背面形状の断面形状に対応する第1関数と、前記第1関数をその点について前記x方向に反転させることにより形成される第2関数と、の相関を示す指標値を計算する処理、
計算された前記各点ごとの前記指標値をxy平面上に配列したマップを生成する処理、
を実行させるためのプログラム。
On the computer
Processing to acquire information indicating the three-dimensional back shape of the subject,
When the width direction of the back surface and the extending direction of the spinal column of the subject are the x direction and the y direction, respectively, and the direction perpendicular to both the x direction and the y direction is the z direction in the back surface shape, the above. For each point of the back surface shape, the first function corresponding to the cross-sectional shape of the back surface shape in the plane perpendicular to the y direction passing through the point and the first function are inverted in the x direction with respect to the point. Processing to calculate the index value indicating the correlation with the second function formed by
A process of generating a map in which the calculated index values for each point are arranged on an xy plane.
A program to execute.
JP2020208934A 2020-12-17 2020-12-17 Spinal sequence estimation device, method and program Active JP7076154B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020208934A JP7076154B1 (en) 2020-12-17 2020-12-17 Spinal sequence estimation device, method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020208934A JP7076154B1 (en) 2020-12-17 2020-12-17 Spinal sequence estimation device, method and program

Publications (2)

Publication Number Publication Date
JP7076154B1 true JP7076154B1 (en) 2022-05-27
JP2022096047A JP2022096047A (en) 2022-06-29

Family

ID=81753567

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020208934A Active JP7076154B1 (en) 2020-12-17 2020-12-17 Spinal sequence estimation device, method and program

Country Status (1)

Country Link
JP (1) JP7076154B1 (en)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002150303A (en) 2000-08-14 2002-05-24 Siemens Corporate Res Inc Automatic detection of spinal axis and spinal boundary in digital radiography
US20110249876A1 (en) 2004-11-10 2011-10-13 Agfa Healthcare Method of performing measurements on digital images
WO2017141958A1 (en) 2016-02-15 2017-08-24 学校法人慶應義塾 Spinal column alignment assessment apparatus, spinal column alignment assessment method, and spinal column alignment assessment program
JP2018068362A (en) 2016-10-24 2018-05-10 株式会社エーアンドエーシステム Measuring apparatus and measuring method
JP2019032292A (en) 2017-08-09 2019-02-28 株式会社ノア Symmetry visualization device, symmetry visualization method and program
JP2020074876A (en) 2018-11-07 2020-05-21 株式会社スペースビジョン Vertebra posture estimation device
JP2020091761A (en) 2018-12-07 2020-06-11 株式会社スペースビジョン Image generation apparatus

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002150303A (en) 2000-08-14 2002-05-24 Siemens Corporate Res Inc Automatic detection of spinal axis and spinal boundary in digital radiography
US20110249876A1 (en) 2004-11-10 2011-10-13 Agfa Healthcare Method of performing measurements on digital images
WO2017141958A1 (en) 2016-02-15 2017-08-24 学校法人慶應義塾 Spinal column alignment assessment apparatus, spinal column alignment assessment method, and spinal column alignment assessment program
JP2018068362A (en) 2016-10-24 2018-05-10 株式会社エーアンドエーシステム Measuring apparatus and measuring method
JP2019032292A (en) 2017-08-09 2019-02-28 株式会社ノア Symmetry visualization device, symmetry visualization method and program
JP2020074876A (en) 2018-11-07 2020-05-21 株式会社スペースビジョン Vertebra posture estimation device
JP2020091761A (en) 2018-12-07 2020-06-11 株式会社スペースビジョン Image generation apparatus

Also Published As

Publication number Publication date
JP2022096047A (en) 2022-06-29

Similar Documents

Publication Publication Date Title
US11017547B2 (en) Method and system for postural analysis and measuring anatomical dimensions from a digital image using machine learning
US8823775B2 (en) Body surface imaging
JP5685133B2 (en) Image processing apparatus, image processing apparatus control method, and program
KR101318685B1 (en) Image processing apparatus, control method thereof, image processing method, tomography system, and storage medium
CN102727258B (en) Image processing apparatus, ultrasonic photographing system, and image processing method
CN108697375A (en) Spinal alignment estimating device, spinal alignment presumption method and spinal alignment program for estimating
US20160314587A1 (en) Processing apparatus, processing method, and non-transitory computer-readable storage medium
JP4929828B2 (en) Three-dimensional authentication method, three-dimensional authentication device, and three-dimensional authentication program
TWI520576B (en) Method and system for converting 2d images to 3d images and computer-readable medium
US9396576B2 (en) Method and apparatus for estimating the three-dimensional shape of an object
US20070171225A1 (en) Time-dependent three-dimensional musculo-skeletal modeling based on dynamic surface measurements of bodies
JP5035467B2 (en) Three-dimensional authentication method, three-dimensional authentication device, and three-dimensional authentication program
JP6741305B2 (en) Vertebral posture estimation device
CN109661682B (en) Image-based diagnostic system
JP2013146540A (en) Image processing device, image processing method, and image processing program
CN107374638A (en) A kind of height measuring system and method based on binocular vision module
JP6441581B2 (en) Light detection for bending motion of flexible display
KR102357001B1 (en) Scoliosis Diagnosis Method and System using 3D Depth Camera
US20200250815A1 (en) Heart Position Estimation
JP7076154B1 (en) Spinal sequence estimation device, method and program
JP4935769B2 (en) Plane region estimation apparatus and program
JP2012061019A (en) Image processing apparatus, image processing method, and image processing program
Groisser et al. 3d reconstruction of scoliotic spines from stereoradiography and depth imaging
JP2011160824A (en) Spinal curvature determination support apparatus
JP6765130B2 (en) Image generator

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220510

R150 Certificate of patent or registration of utility model

Ref document number: 7076154

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350