KR102374326B1 - Method for prediction of breast cancer using attentive hierarchical adaptive neuro-fuzzy inference system, recording medium and device for performing the method - Google Patents

Method for prediction of breast cancer using attentive hierarchical adaptive neuro-fuzzy inference system, recording medium and device for performing the method Download PDF

Info

Publication number
KR102374326B1
KR102374326B1 KR1020200026391A KR20200026391A KR102374326B1 KR 102374326 B1 KR102374326 B1 KR 102374326B1 KR 1020200026391 A KR1020200026391 A KR 1020200026391A KR 20200026391 A KR20200026391 A KR 20200026391A KR 102374326 B1 KR102374326 B1 KR 102374326B1
Authority
KR
South Korea
Prior art keywords
anfis
breast cancer
functions
hierarchical
attention
Prior art date
Application number
KR1020200026391A
Other languages
Korean (ko)
Other versions
KR20210062532A (en
Inventor
이민호
응웬뜨완린
Original Assignee
경북대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 경북대학교 산학협력단 filed Critical 경북대학교 산학협력단
Publication of KR20210062532A publication Critical patent/KR20210062532A/en
Application granted granted Critical
Publication of KR102374326B1 publication Critical patent/KR102374326B1/en

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/80ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for detecting, monitoring or modelling epidemics or pandemics, e.g. flu
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H70/00ICT specially adapted for the handling or processing of medical references
    • G16H70/60ICT specially adapted for the handling or processing of medical references relating to pathologies

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Primary Health Care (AREA)
  • Biomedical Technology (AREA)
  • Epidemiology (AREA)
  • Databases & Information Systems (AREA)
  • Pathology (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법은, 유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지로부터 계산된 변수 세트를 입력하는 단계; A-ANFIS(Attentive ANFIS) 회귀 단위로 구성된 AH-ANFIS(Attentive Hierarchical ANFIS)의 제1 레이어를 통해, 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출하는 단계; AH-ANFIS의 제2 레이어의 증식 집중 매커니즘을 상기 AH-ANFIS의 제1 레이어로부터 추출된 다수개의 기능에 적용하여, 예측 가능한 해석을 위해 활성화된 규칙과 임계 변수를 선택하는 단계; 선택된 활성화된 규칙과 임계 변수를 기초로 측정된 출력 확률로부터 최대 신뢰도를 선택하여 환자의 재발을 결정하는 단계; 및 환자의 유방암 분류 결과를 악성 또는 양성으로 표시하여 출력하는 단계;를 포함한다. 이에 따라, 유방암 예측의 해석성을 향상시킬 수 있다.The breast cancer prediction method using the attention hierarchical adaptive neural fuzzy inference system comprises: inputting a variable set calculated from a digitized image of a microneedle aspirate (FNA) of breast mass data; Extracting a function using different A-ANFIS parameters from each A-ANFIS through a first layer of AH-ANFIS (Attentive Hierarchical ANFIS) composed of A-ANFIS (Attentive ANFIS) regression units; applying the proliferation concentration mechanism of the second layer of AH-ANFIS to a plurality of functions extracted from the first layer of AH-ANFIS to select activated rules and threshold variables for predictable interpretation; determining the patient's recurrence by selecting the maximum confidence from the measured output probabilities based on the selected activated rule and the threshold variable; and displaying and outputting the result of the patient's breast cancer classification as malignant or benign. Accordingly, the interpretability of breast cancer prediction can be improved.

Figure 112020022481418-pat00001
Figure 112020022481418-pat00001

Description

주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법, 이를 수행하기 위한 기록 매체 및 장치{METHOD FOR PREDICTION OF BREAST CANCER USING ATTENTIVE HIERARCHICAL ADAPTIVE NEURO-FUZZY INFERENCE SYSTEM, RECORDING MEDIUM AND DEVICE FOR PERFORMING THE METHOD}Breast cancer prediction method using attention hierarchical adaptive neural fuzzy reasoning system, recording medium and apparatus for performing the same

본 발명은 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법, 이를 수행하기 위한 기록 매체 및 장치에 관한 것으로서, 더욱 상세하게는 유방암을 예측하기 위해서 해석 가능한 어텐션 기반 규칙 선택기를 가진 주의 계층적 적응 신경 퍼지 추론 시스템(ANFIS)에 관한 것이다.The present invention relates to a method for predicting breast cancer using an attention hierarchical adaptive neural fuzzy inference system, a recording medium and an apparatus for performing the same, and more particularly, to a hierarchical adaptation of attention having an interpretable attention-based rule selector to predict breast cancer. It relates to a neural fuzzy reasoning system (ANFIS).

암은 전 세계에서 죽어가는 사람들의 두 번째로 큰 이유이며 2018년에는 약 960만 명의 사망자가 발생하였다. 특히, 유방암은 선진국형 질병으로 미국에서는 가장 흔한 암으로 보고 있으며, 우리나라에서도 여성에게 발생하는 전체암 중 가장 많은 연간 약 2만2000명의 새로운 환자가 발생하고 있다. 보건복지부의 중앙암등록보고에 따르면 2016년 말 유방암은 전체 여성암의 19.9%를 차지하고 있다.Cancer is the second leading cause of death worldwide, with an estimated 9.6 million deaths in 2018. In particular, breast cancer is regarded as the most common cancer in the United States as an advanced disease, and about 22,000 new patients occur annually in Korea, the most among all cancers that occur in women. According to the Central Cancer Registration Report of the Ministry of Health and Welfare, as of the end of 2016, breast cancer accounted for 19.9% of all female cancers.

유방암이란 유방 밖으로 퍼져서 생명을 위협할 수 있는 악성 종양이다. 정상세포는 자체의 조절기능에 의해 분열하고 성장하다 스스로 사멸하지만, 사멸하지 못한 세포들이 과다 증식하여 유방에 덩어리를 형성하게 될 때 유방암이라 진단하게 된다. Breast cancer is a malignant tumor that can spread outside the breast and can be life-threatening. Normal cells divide and grow by their own regulatory function and then die on their own, but when cells that did not die proliferate excessively and form a lump in the breast, breast cancer is diagnosed.

유방암은 발생 부위에 따라 유관과 소엽에 생기는 암과 그 외의 간질조직에 생기는 암으로 나뉘며, 유관과 소엽의 암은 암세포가 주위 조직으로 퍼진 정도에 따라 다시 침윤성 유방암과 비침윤성 유방암으로 나뉘게 된다. 남성의 유방암은 여성 유방암의 1% 이하로, 침윤성 유관암이 가장 많이 발견된다. Breast cancer is divided into cancers occurring in the ducts and lobules and cancers in other interstitial tissues according to the site of occurrence. Male breast cancer accounts for less than 1% of female breast cancers, and invasive ductal cancer is the most common.

정확한 발병 원인은 밝혀져 있지 않지만 서구화된 식습관, 유전적 요인, 음주, 여성호르몬, 연령 및 출산 경험 등이 위험인자로 밝혀져 있다. 이 중 유방암에 가장 큰 영향을 주는 위험인자로는 '에스트로겐'이다. 유방의 상피세포는 에스트로겐 등의 여성 호르몬의 자극을 받아 성장 및 분열을 하게 되는데 에스트로겐에 노출된 기간이 길수록 유방암 위험이 높아지게 된다.Although the exact cause of the disease is not known, westernized eating habits, genetic factors, drinking, female hormones, age and experience of childbirth have been identified as risk factors. Of these, estrogen is the most important risk factor for breast cancer. Breast epithelial cells are stimulated by female hormones such as estrogen to grow and divide. The longer the period of exposure to estrogen, the higher the risk of breast cancer.

즉, 출산이나 모유 수유 경험이 없는 사람, 초경이 빠르거나 폐경이 늦어 생리를 오래한 여성이 유방암 발생 위험이 높으며, 폐경 후 여성이 비만인 경우에도 여성호르몬이 많아져 위험할 수 있다. 그 외에도 가족력으로 가족 중에 유방암이나 난소암 환자가 있는 경우, 방사선 치료로 과다하게 노출된 경우에도 유방암이 발생할 수 있다. In other words, those who have never given birth or breastfeeding, or women who menstruated for a long time due to early menarche or late menopause are at higher risk of developing breast cancer, and even if postmenopausal women are obese, they may be at risk due to increased female hormones. In addition, if there is a patient with breast or ovarian cancer in the family as a result of a family history, or excessive exposure to radiation therapy, breast cancer may develop.

가족력과도 밀접한 관계가 있는데 어머니나 자매가 유방암에 걸렸다면 본인의 발생위험도는 1.5~3배로 상승한다. 또한, BRAC 유전자의 돌연변이로 인한 유전성 유방암은 평생 유방암에 걸릴 확률이 높게는 80%까지 보고되어 있다. There is also a close relationship with family history, and if a mother or a sister has breast cancer, the risk increases by 1.5 to 3 times. In addition, hereditary breast cancer caused by mutations in the BRAC gene has been reported to have a life-time risk of developing breast cancer as high as 80%.

가족력뿐 아니라 연령에 따라서도 다른 발병률을 보이고 있는데, 한국유방암학회가 전국 20~50대 여성 1000명을 대상으로 유방암에 영향을 미치는 인자를 조사해 유방암 발생률을 예측한 결과 20대 여성이 50대 여성에 비해 유방암 발병 위험도가 2.4배 정도 높은 것으로 나타났다.The incidence rate differs according to age as well as family history. The Korean Breast Cancer Society surveyed the factors affecting breast cancer among 1,000 women in their 20s and 50s nationwide to predict the incidence of breast cancer. Compared to that, the risk of developing breast cancer was 2.4 times higher.

유방암은 대부분 초기에는 아무런 증상이 없어 병이 어느 정도 진행된 뒤에야 서서히 증상이 나타나기 시작한다. 유방암의 5년 생존율은 0기 암의 경우 100%에 가까우나 4기의 경우 20% 미만이므로 생존율을 향상시키려면 조기 발견이 가장 중요하다. Most breast cancers have no symptoms in the early stages, and symptoms begin to appear gradually after the disease has progressed to a certain extent. The 5-year survival rate of breast cancer is close to 100% for stage 0 cancer but less than 20% for stage 4 cancer, so early detection is the most important to improve survival.

최근 들어 유방암의 조기진단, 유방보존술식과 유방성형수술의 증가, 항암보조 치료의 향상 등으로 인해 예후도 양호해졌고 잘 극복할 수 있는 암이 되고 있다. 그러나, 유방암은 인식하기 어렵기 때문에 전문가들도 예측하기가 어렵다. 이에 따라, 유방암에 대한 진단 및 예측 기술에 대한 필요성이 더욱 높아지고 있다.Recently, the prognosis has improved due to the early diagnosis of breast cancer, the increase in breast-conserving techniques and breast plastic surgery, and the improvement of adjuvant chemotherapy, and it is becoming a cancer that can be easily overcome. However, because breast cancer is difficult to recognize, it is difficult for experts to predict. Accordingly, the need for diagnosis and prediction technology for breast cancer is increasing.

KR 10-2011-0052361 AKR 10-2011-0052361 A KR 10-2018-0051990 AKR 10-2018-0051990 A KR 10-2024373 B1KR 10-2024373 B1

A Takagi-Sugeno Fuzzy Inference System for Developing a Sustainability Index of Biomass, Fausto Cavallaro, 2015.9 A Takagi-Sugeno Fuzzy Inference System for Developing a Sustainability Index of Biomass, Fausto Cavallaro, September 2015

이에, 본 발명의 기술적 과제는 이러한 점에서 착안된 것으로 본 발명의 목적은 해석 가능한 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법을 제공하는 것이다.Accordingly, it is an object of the present invention to provide a breast cancer prediction method using an interpretable attention hierarchical adaptive neural fuzzy inference system.

본 발명의 다른 목적은 상기 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법을 수행하기 위한 컴퓨터 프로그램이 기록된 기록 매체를 제공하는 것이다.Another object of the present invention is to provide a recording medium in which a computer program for performing a breast cancer prediction method using the attention hierarchical adaptive neural fuzzy reasoning system is recorded.

본 발명의 또 다른 목적은 상기 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법을 수행하기 위한 장치를 제공하는 것이다.Another object of the present invention is to provide an apparatus for performing a breast cancer prediction method using the attention hierarchical adaptive neural fuzzy inference system.

상기한 본 발명의 목적을 실현하기 위한 일 실시예에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법은, 유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지로부터 계산된 변수 세트를 입력하는 단계; A-ANFIS(Attentive ANFIS) 회귀 단위로 구성된 AH-ANFIS(Attentive Hierarchical ANFIS)의 제1 레이어를 통해, 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출하는 단계; AH-ANFIS의 제2 레이어의 증식 집중 매커니즘을 상기 AH-ANFIS의 제1 레이어로부터 추출된 다수개의 기능에 적용하여, 예측 가능한 해석을 위해 활성화된 규칙과 임계 변수를 선택하는 단계; 선택된 활성화된 규칙과 임계 변수를 기초로 측정된 출력 확률로부터 최대 신뢰도를 선택하여 환자의 재발을 결정하는 단계; 및 환자의 유방암 분류 결과를 악성 또는 양성으로 표시하여 출력하는 단계;를 포함한다.A breast cancer prediction method using an attention hierarchical adaptive neural fuzzy inference system according to an embodiment for realizing the above object of the present invention, a variable set calculated from a digitized image of a microneedle aspirate (FNA) of breast mass data input; Extracting a function using different A-ANFIS parameters from each A-ANFIS through a first layer of AH-ANFIS (Attentive Hierarchical ANFIS) composed of A-ANFIS (Attentive ANFIS) regression units; applying the proliferation concentration mechanism of the second layer of AH-ANFIS to a plurality of functions extracted from the first layer of AH-ANFIS to select activated rules and threshold variables for predictable interpretation; determining the patient's recurrence by selecting the maximum confidence from the measured output probabilities based on the selected activated rule and the threshold variable; and displaying and outputting the result of the patient's breast cancer classification as malignant or benign.

본 발명의 실시예에서, 상기 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출하는 단계는, 규칙 기반 기능 추출기로 동작하는 상기 각 A-ANFIS를 계층적 아키텍처에 통합하여, 모델 차원의 규칙 치수 감소와 입력 기능의 퍼지 이웃 관계를 추출할 수 있다.In an embodiment of the present invention, the step of extracting functions using different A-ANFIS parameters from each A-ANFIS includes integrating each A-ANFIS operating as a rule-based function extractor into a hierarchical architecture, It is possible to extract the fuzzy neighbor relationship of the regular dimension reduction of the dimension and the input function.

본 발명의 실시예에서, 상기 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출하는 단계는, 각 입력 샘플에 대해 입력 기능 위로 작은 창을 밀어 1D 모양의 기능의 서브 세트를 획득하는 단계; 관련 기능의 조합으로 하위 집합을 얻기 위해, 상기 기능의 서브 세트를 오버랩하는 단계; 서로 다른 A-ANFIS 매개 변수를 사용하여 다수개의 A-ANFIS 기능을 추출하는 단계; 및 추출된 기능들을 누적하여 상기 각 A-ANFIS의 출력을 획득하는 단계;를 포함할 수 있다.In an embodiment of the present invention, the step of extracting features using different A-ANFIS parameters from each A-ANFIS includes: for each input sample, pushing a small window over the input features to obtain a subset of features in the 1D shape to do; overlapping subsets of functions to obtain subsets with combinations of related functions; extracting a plurality of A-ANFIS functions using different A-ANFIS parameters; and acquiring the output of each A-ANFIS by accumulating the extracted functions.

본 발명의 실시예에서, 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법은, 상기 서브 세트의 크기 및 오버랩의 양을 선택하는 단계를 더 포함할 수 있다.In an embodiment of the present invention, the breast cancer prediction method using the attention hierarchical adaptive neural fuzzy inference system may further include selecting the size of the subset and the amount of overlap.

본 발명의 실시예에서, 상기 유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지는 정규화된 벡터의 형태로 전달될 수 있다.In an embodiment of the present invention, the digitized image of the microneedle aspiration (FNA) of the breast mass data may be transmitted in the form of a normalized vector.

상기한 본 발명의 다른 목적을 실현하기 위한 일 실시예에 따른 컴퓨터로 판독 가능한 저장 매체에는, 상기 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법을 수행하기 위한 컴퓨터 프로그램이 기록되어 있다. In a computer-readable storage medium according to an embodiment for realizing another object of the present invention, a computer program for performing a breast cancer prediction method using the attention hierarchical adaptive neural fuzzy reasoning system is recorded.

상기한 본 발명의 또 다른 목적을 실현하기 위한 일 실시예에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 장치는, 유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지로부터 계산된 변수 세트를 생성하는 입력부; A-ANFIS(Attentive ANFIS) 회귀 단위로 구성된 AH-ANFIS(Attentive Hierarchical ANFIS)의 제1 레이어를 통해, 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출하는 기능 추출부; AH-ANFIS의 제2 레이어의 증식 집중 매커니즘을 상기 AH-ANFIS의 제1 레이어로부터 추출된 다수개의 기능에 적용하여, 예측 가능한 해석을 위해 활성화된 규칙과 임계 변수를 선택하는 집중 선택부; 상기 집중 선택부에서 선택된 활성화된 규칙과 임계 변수를 기초로 측정된 출력 확률로부터 최대 신뢰도를 선택하여 환자의 재발을 결정하는 분류부; 및 환자의 유방암 분류 결과를 악성 또는 양성으로 표시하여 출력하는 출력부;를 포함한다.The breast cancer prediction apparatus using the attention hierarchical adaptive neural fuzzy inference system according to an embodiment for realizing another object of the present invention is calculated from the digitized image of the microneedle aspirate (FNA) of the breast mass data. an input for generating a set of variables; A function extracting unit that extracts functions using different A-ANFIS parameters from each A-ANFIS through the first layer of AH-ANFIS (Attentive Hierarchical ANFIS) composed of A-ANFIS (Attentive ANFIS) regression units; a concentrated selection unit that applies the proliferation concentration mechanism of the second layer of AH-ANFIS to a plurality of functions extracted from the first layer of the AH-ANFIS to select activated rules and threshold variables for predictable interpretation; a classification unit for determining a patient's recurrence by selecting the maximum reliability from the output probability measured based on the activated rule and the threshold variable selected by the concentrated selection unit; and an output unit for displaying and outputting the breast cancer classification result of the patient as malignant or benign.

본 발명의 실시예에서, 상기 기능 추출부는, 규칙 기반 기능 추출기로 동작하는 상기 각 A-ANFIS를 계층적 아키텍처에 통합하여, 모델 차원의 규칙 치수 감소와 입력 기능의 퍼지 이웃 관계를 추출할 수 있다.In an embodiment of the present invention, the function extracting unit may integrate each A-ANFIS operating as a rule-based function extractor into a hierarchical architecture to extract a model-level rule dimension reduction and a fuzzy neighbor relationship of an input function. .

본 발명의 실시예에서, 상기 기능 추출부의 각 A-ANFIS는, 각 입력 샘플에 대해 입력 기능 위로 작은 창을 밀어 1D 모양의 기능의 서브 세트를 획득하는 서브 세트 획득부; 관련 기능의 조합으로 하위 집합을 얻기 위해, 상기 기능의 서브 세트를 오버랩하는 오버랩부; 서로 다른 A-ANFIS 매개 변수를 사용하여 다수개의 A-ANFIS 기능을 추출하는 계층부; 및 추출된 기능들을 누적하여 상기 각 A-ANFIS의 출력을 획득하는 누적부;를 포함할 수 있다.In an embodiment of the present invention, each A-ANFIS of the function extracting unit includes: a subset obtaining unit for each input sample, pushing a small window over the input function to obtain a subset of 1D-shaped functions; an overlapping portion overlapping the subset of functions to obtain a subset by a combination of related functions; a layer unit that extracts multiple A-ANFIS functions using different A-ANFIS parameters; and an accumulator for accumulating the extracted functions to obtain the output of each A-ANFIS.

본 발명의 실시예에서, 상기 기능 추출부는, 상기 서브 세트의 크기 및 오버랩의 양을 선택할 수 있다.In an embodiment of the present invention, the function extracting unit may select the size of the subset and the amount of overlap.

본 발명의 실시예에서, 상기 입력부는, 상기 유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지를 정규화된 벡터의 형태로 전달받을 수 있다.In an embodiment of the present invention, the input unit may receive the digitized image of the microneedle aspiration (FNA) of the breast mass data in the form of a normalized vector.

이와 같은 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법에 따르면, 방대한 의료 데이터로 인해 발생하는 룰(rule) 팽창문제를 계층적인 구조를 이용하여 극복할 수 있다. 또한, 어텐션 기반 룰 선택기는 유방암 예측에 중요한 환자 특정 기능을 선택하기 위해 가장 활성화된 규칙을 식별하여 유방암 예측의 해석성을 향상시킨다. 이에 따라, 유방암의 조기 발견 및 예측 정확도 개선에 기여할 수 있다.According to the breast cancer prediction method using the attention hierarchical adaptive neural fuzzy reasoning system, it is possible to overcome the rule expansion problem caused by massive medical data by using a hierarchical structure. In addition, the attention-based rule selector improves the interpretability of breast cancer prediction by identifying the most active rule to select a patient-specific function that is important for breast cancer prediction. Accordingly, it may contribute to early detection of breast cancer and improvement of prediction accuracy.

도 1은 본 발명의 일 실시예에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 장치의 블록도이다.
도 2는 본 발명에서 사용하는 TSK(Takagi-Sugeno-Kang) 모델을 설명하기 위한 도면이다.
도 3은 도 1의 기능 추출부의 상세한 블록도이다.
도 4 및 도 5는 본 발명에서 사용하는 심층 신경 퍼지 네트워크를 설명하기 위한 도면들이다.
도 6은 본 발명의 일 실시예에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법의 흐름도이다.
도 7은 도 6의 기능을 추출하는 단계를 설명하기 위한 상세한 흐름도이다.
1 is a block diagram of an apparatus for predicting breast cancer using an attention hierarchical adaptive neural fuzzy inference system according to an embodiment of the present invention.
2 is a view for explaining the TSK (Takagi-Sugeno-Kang) model used in the present invention.
3 is a detailed block diagram of the function extraction unit of FIG. 1 .
4 and 5 are diagrams for explaining a deep neural fuzzy network used in the present invention.
6 is a flowchart of a breast cancer prediction method using an attention hierarchical adaptive neural fuzzy inference system according to an embodiment of the present invention.
7 is a detailed flowchart for explaining the step of extracting the function of FIG.

후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS [0010] DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS [0010] DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS [0013] Reference is made to the accompanying drawings, which show by way of illustration specific embodiments in which the present invention may be practiced. These embodiments are described in sufficient detail to enable those skilled in the art to practice the present invention. It should be understood that the various embodiments of the present invention are different but need not be mutually exclusive. For example, certain shapes, structures, and characteristics described herein may be implemented in other embodiments with respect to one embodiment without departing from the spirit and scope of the invention. In addition, it should be understood that the location or arrangement of individual components within each disclosed embodiment may be changed without departing from the spirit and scope of the present invention. Accordingly, the following detailed description is not intended to be taken in a limiting sense, and the scope of the present invention, if properly described, is limited only by the appended claims, along with all scope equivalents to those claimed. Like reference numerals in the drawings refer to the same or similar functions throughout the various aspects.

이하, 도면들을 참조하여 본 발명의 바람직한 실시예들을 보다 상세하게 설명하기로 한다. Hereinafter, preferred embodiments of the present invention will be described in more detail with reference to the drawings.

도 1은 본 발명의 일 실시예에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 장치의 블록도이다.1 is a block diagram of an apparatus for predicting breast cancer using an attention hierarchical adaptive neural fuzzy inference system according to an embodiment of the present invention.

본 발명에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 장치(10, 이하 장치)는 유방암을 예측하는 어텐션 기반 규칙 선택기를 가진 계층적 적응 신경 퍼지 추론 시스템(ANFIS)을 제안하며, 본 발명에서 제안된 모델은 사용자가 숨겨진 레이어의 모호함을 해석할 수 있도록 하는 ANFIS 규칙 기반 구조를 활용한다. The breast cancer prediction apparatus (10, hereinafter) using the attention hierarchical adaptive neural fuzzy inference system according to the present invention proposes a hierarchical adaptive neural fuzzy inference system (ANFIS) having an attention-based rule selector to predict breast cancer, and the present invention The proposed model utilizes the ANFIS rule-based structure that allows the user to interpret the ambiguity of the hidden layer.

도 1을 참조하면, 본 발명에 따른 장치(10)는 입력부(미도시), 기능 추출부(300), 집중 선택부(500), 분류부(700) 및 출력부(미도시)를 포함한다.Referring to FIG. 1 , an apparatus 10 according to the present invention includes an input unit (not shown), a function extraction unit 300 , a concentrated selection unit 500 , a classification unit 700 , and an output unit (not shown). .

본 발명의 상기 장치(10)는 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측을 수행하기 위한 소프트웨어(애플리케이션)가 설치되어 실행될 수 있으며, 상기 입력부(미도시), 상기 기능 추출부(300), 상기 집중 선택부(500), 상기 분류부(700) 및 상기 출력부(미도시)의 구성은 상기 장치(10)에서 실행되는 상기 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측을 수행하기 위한 소프트웨어에 의해 제어될 수 있다. In the apparatus 10 of the present invention, software (application) for performing breast cancer prediction using an attention hierarchical adaptive neural fuzzy inference system may be installed and executed, and the input unit (not shown) and the function extraction unit 300 may be installed and executed. , the configuration of the concentrated selection unit 500 , the classification unit 700 , and the output unit (not shown) is to perform breast cancer prediction using the attention hierarchical adaptive neural fuzzy inference system executed in the apparatus 10 . can be controlled by software for

상기 장치(10)는 별도의 단말이거나 또는 단말의 일부 모듈일 수 있다. 또한, 상기 입력부(미도시), 상기 기능 추출부(300), 상기 집중 선택부(500), 상기 분류부(700) 및 상기 출력부(미도시)의 구성은 통합 모듈로 형성되거나, 하나 이상의 모듈로 이루어 질 수 있다. 그러나, 이와 반대로 각 구성은 별도의 모듈로 이루어질 수도 있다.The device 10 may be a separate terminal or may be a part of a module of the terminal. In addition, the configuration of the input unit (not shown), the function extraction unit 300, the concentrated selection unit 500, the classification unit 700, and the output unit (not shown) is formed as an integrated module, or one or more It can be made of modules. However, on the contrary, each configuration may be formed of a separate module.

상기 장치(10)는 이동성을 갖거나 고정될 수 있다. 상기 장치(10)는, 서버(server) 또는 엔진(engine) 형태일 수 있으며, 디바이스(device), 기구(apparatus), 단말(terminal), UE(user equipment), MS(mobile station), 무선기기(wireless device), 휴대기기(handheld device) 등 다른 용어로 불릴 수 있다. The device 10 may be mobile or stationary. The apparatus 10 may be in the form of a server or an engine, and may be a device, an application, a terminal, a user equipment (UE), a mobile station (MS), or a wireless device. (wireless device), may be called other terms such as a handheld device (handheld device).

상기 장치(10)는 운영체제(Operation System; OS), 즉 시스템을 기반으로 다양한 소프트웨어를 실행하거나 제작할 수 있다. 상기 운영체제는 소프트웨어가 장치의 하드웨어를 사용할 수 있도록 하기 위한 시스템 프로그램으로서, 안드로이드 OS, iOS, 윈도우 모바일 OS, 바다 OS, 심비안 OS, 블랙베리 OS 등 모바일 컴퓨터 운영체제 및 윈도우 계열, 리눅스 계열, 유닉스 계열, MAC, AIX, HP-UX 등 컴퓨터 운영체제를 모두 포함할 수 있다.The device 10 may execute or manufacture various software based on an operating system (OS), that is, the system. The operating system is a system program for software to use the hardware of the device, and is a mobile computer operating system such as Android OS, iOS, Windows Mobile OS, Bada OS, Symbian OS, Blackberry OS and Windows series, Linux series, Unix series, It can include all computer operating systems such as MAC, AIX, and HP-UX.

상기 입력부(미도시)는 디지털화된 이미지를 정규화된 벡터의 형태로 전달받는 유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지로부터 계산된 변수 세트를 생성할 수 있다. 상기 미세바늘흡인물(FNA)의 디지털화된 이미지는 검사시 또는 수술 중 인체에서 채취할 수 있다.The input unit (not shown) may generate a variable set calculated from the digitized image of the microneedle aspirate (FNA) of the breast mass data that receives the digitized image in the form of a normalized vector. The digitized image of the microneedle aspirate (FNA) may be taken from a human body during an examination or surgery.

상기 기능 추출부(300)는 A-ANFIS(Attentive ANFIS) 회귀 단위로 구성된 AH-ANFIS(Attentive Hierarchical Adaptive Neuro-Fuzzy Inference System)의 제1 레이어를 통해, 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출한다. The function extracting unit 300 uses a first layer of an Attentive Hierarchical Adaptive Neuro-Fuzzy Inference System (AH-ANFIS) composed of an Attentive ANFIS (A-ANFIS) regression unit, Extract functions using variables.

상기 기능 추출부(300)는 규칙 기반 기능 추출기로 동작하는 다수개의 A-ANFIS(310, 330,..., 350)의 계층 구조로 형성되어, 모델 차원의 규칙 치수 감소와 입력 기능의 퍼지 이웃 관계를 추출한다.The function extraction unit 300 is formed in a hierarchical structure of a plurality of A-ANFIS 310 , 330 , ..., 350 operating as a rule-based function extractor, thereby reducing the rule dimension in the model dimension and fuzzy neighbors of the input function. Extract the relationship.

본 발명에서는 정확성과 해석 가능성 사이의 좋은 균형을 이루기 위해 주의 계층적 ANFIS(AH-ANFIS)를 제안한다. 본 발명의 주의 계층적 ANFIS는 TSK(Takagi-Sugeno-Kang) 모델을 기반으로 한 ANFIS를 사용한다. In the present invention, we propose an attention hierarchical ANFIS (AH-ANFIS) to achieve a good balance between accuracy and interpretability. The attention hierarchical ANFIS of the present invention uses ANFIS based on the Takagi-Sugeno-Kang (TSK) model.

도 2를 참조하면, TSK(Takagi-Sugeno-Kang) 모델은 룰의 차원을 줄이고 가시성을 높이기 위한 심층 퍼지 네트워크로서, 가장 활성화된 규칙을 식별하여 정확성과 함께 더 많은 해석성을 제공한다.Referring to FIG. 2 , the Takagi-Sugeno-Kang (TSK) model is a deep fuzzy network for reducing the dimension of rules and increasing visibility, and provides more interpretability with accuracy by identifying the most active rules.

본 발명의 주의 계층적 ANFIS(AH-ANFIS)는 악성 유방암을 예측하기 위해 유방에 대한 미세바늘흡인(FNA)의 디지털화된 이미지로부터 추출된 특징에 대한 분류기로서 작용한다. 제안된 모델의 성능은 SVM(support vector machine), CNN(convolutional neural network) 및 ANFIS와 같은 기존 머신 러닝 모델과 비교된다.The attention hierarchical ANFIS (AH-ANFIS) of the present invention acts as a classifier for features extracted from digitized images of microneedle aspiration (FNA) for the breast to predict malignant breast cancer. The performance of the proposed model is compared with existing machine learning models such as support vector machine (SVM), convolutional neural network (CNN) and ANFIS.

도 3을 참조하면, 각 A-ANFIS(대표적으로 310)는 서브 세트 획득부(301), 오버랩부(303), 계층부(305) 및 누적부(307)를 포함할 수 있다.Referring to FIG. 3 , each A-ANFIS (representatively 310 ) may include a subset acquiring unit 301 , an overlapping unit 303 , a layering unit 305 , and an accumulator 307 .

상기 서브 세트 획득부(301)는 각 입력 샘플에 대해 입력 기능 위로 작은 창을 밀어 1D 모양의 기능의 서브 세트를 획득하고, 상기 오버랩부(303)는 관련 기능의 조합으로 하위 집합을 얻기 위해, 상기 기능의 서브 세트를 오버랩한다.The subset acquiring unit 301 acquires a subset of 1D-shaped functions by pushing a small window over the input functions for each input sample, and the overlapping unit 303 is configured to obtain a subset with a combination of related functions, Overlapping subsets of the above functions.

상기 계층부(305)는 서로 다른 A-ANFIS 매개 변수를 사용하여 다수개의 A-ANFIS 기능을 추출하고, 상기 누적부(307)는 추출된 기능들을 누적하여 상기 각 A-ANFIS의 출력을 획득한다.The layer unit 305 extracts a plurality of A-ANFIS functions using different A-ANFIS parameters, and the accumulator 307 accumulates the extracted functions to obtain the output of each A-ANFIS. .

도 4를 참조하면, 다수개의 룰을 추출하여 누적 추출하는 일반적인 퍼지이론을 보여주고 있으며, 도 5를 참조하면, implication 과정(a), aggregation 과정(b) 및 defuzzification 과정(c)을 보여준다.Referring to FIG. 4, a general fuzzy theory of extracting and cumulatively extracting a plurality of rules is shown. Referring to FIG. 5, an implication process (a), an aggregation process (b), and a defuzzification process (c) are shown.

본 발명의 주의 계층적 ANFIS에서 각 A-ANFIS는 각 입력 샘플에 대해 입력 기능 위로 작은 창을 밀어 1D 모양의 입력 기능 하위 세트를 얻는다. 이에 따라, 더 작은 크기의 입력 하위 집합이 A-ANFIS에 입력되면 규칙 차원 문제가 크게 줄어든다. In the attentional hierarchical ANFIS of the present invention, each A-ANFIS pushes a small window over the input function for each input sample to obtain a 1D-shaped input function subset. Accordingly, the rule dimension problem is greatly reduced when a smaller size input subset is input to A-ANFIS.

이후, 관련 기능의 조합으로 하위 집합을 얻기 위해 추출된 기능들을 오버랩시킨다. 서브 세트의 크기 및 오버랩의 양은 경험적으로 선택될 수 있다. 각기 다른 A-ANFIS 매개 변수를 사용하여 여러 개의 A-ANFIS 기능 추출을 수행한 후, 다음 모든 기능을 함께 쌓고 첫 번째 A-ANFIS 레이어의 출력을 얻는다.Then, the extracted functions are overlapped to obtain a subset with a combination of related functions. The size of the subset and the amount of overlap can be chosen empirically. After performing multiple A-ANFIS feature extractions with different A-ANFIS parameters, all the following features are stacked together to get the output of the first A-ANFIS layer.

상기 집중 선택부(500)는 AH-ANFIS의 제2 레이어의 증식 집중 매커니즘을 상기 AH-ANFIS의 제1 레이어로부터 추출된 다수개의 기능에 적용하여, 예측 가능한 해석을 위해 활성화된 규칙과 임계 변수를 선택한다.The concentrated selection unit 500 applies the proliferation concentration mechanism of the second layer of AH-ANFIS to a plurality of functions extracted from the first layer of AH-ANFIS, and selects activated rules and threshold variables for predictable interpretation. choose

상기 집중 선택부(500)는 상기 기능 추출부(300)로부터 추출된 기능 중 가장 중요한 출력을 선택하는 필터로 작동하며, AH-ANFIS의 제2 레이어 및 Softmax 함수로 구성될 수 있다.The concentrated selection unit 500 operates as a filter that selects the most important output among the functions extracted from the function extraction unit 300 , and may be composed of a second layer of AH-ANFIS and a Softmax function.

상기 분류부(700)는 상기 집중 선택부(500)에서 선택된 활성화된 규칙과 임계 변수를 기초로 측정된 출력 확률로부터 최대 신뢰도를 선택하여 환자의 재발을 결정한다.The classification unit 700 determines the recurrence of the patient by selecting the maximum reliability from the output probability measured based on the activated rule and the threshold variable selected by the concentrated selection unit 500 .

상기 출력부(미도시)는 환자의 유방암 분류 결과를 악성 또는 양성으로 표시하여 출력할 수 있다.The output unit (not shown) may display and output the result of the breast cancer classification of the patient as malignant or benign.

본 발명은 유방암을 효과적으로 예측하기 위하여 해석이 가능한 심층 신경 퍼지 네트워크를 사용한다. 이를 위해, 규칙 기반 분류기의 규칙 세트에 규칙 선택기를 사용하여 가장 중요한 규칙을 규칙 세트와 가장 중요한 입력 변수 중에서 선택한다. The present invention uses an interpretable deep neural fuzzy network to effectively predict breast cancer. To this end, we use a rule selector in the rule set of the rule-based classifier to select the most important rule between the rule set and the most important input variable.

이는 규칙 차원을 줄이고 투명성을 높이기 위해 제안된 계층 구조로서, 가장 활성화된 규칙을 식별하여 정확성과 함께 더 많은 해석성을 제공할 수 있다.This is a hierarchical structure proposed to reduce rule dimension and increase transparency, which can provide more interpretability with accuracy by identifying the most active rules.

도 6은 본 발명의 일 실시예에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법의 흐름도이다. 도 7은 도 6의 기능을 추출하는 단계를 설명하기 위한 상세한 흐름도이다.6 is a flowchart of a breast cancer prediction method using an attention hierarchical adaptive neural fuzzy inference system according to an embodiment of the present invention. 7 is a detailed flowchart for explaining the step of extracting the function of FIG.

본 실시예에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법은, 도 1의 장치(10)와 실질적으로 동일한 구성에서 진행될 수 있다. The breast cancer prediction method using the attention hierarchical adaptive neural fuzzy inference system according to the present embodiment may proceed in substantially the same configuration as the apparatus 10 of FIG. 1 .

따라서, 도 1의 장치(10)와 동일한 구성요소는 동일한 도면부호를 부여하고, 반복되는 설명은 생략한다. 또한, 본 실시예에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법은 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측을 수행하기 위한 소프트웨어(애플리케이션)에 의해 실행될 수 있다.Accordingly, the same components as those of the device 10 of FIG. 1 are given the same reference numerals, and repeated descriptions are omitted. Also, the breast cancer prediction method using the attention hierarchical adaptive neural fuzzy inference system according to the present embodiment may be executed by software (application) for performing breast cancer prediction using the attention hierarchical adaptive neural fuzzy inference system.

본 발명에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법은 유방암을 예측하는 어텐션 기반 규칙 선택기를 가진 계층적 적응 신경 퍼지 추론 시스템(ANFIS)을 제안하며, 본 발명에서 제안된 모델은 사용자가 숨겨진 레이어의 모호함을 해석할 수 있도록 하는 ANFIS 규칙 기반 구조를 활용한다. The breast cancer prediction method using the attention hierarchical adaptive neural fuzzy inference system according to the present invention proposes a hierarchical adaptive neural fuzzy inference system (ANFIS) with an attention-based rule selector to predict breast cancer, and the model proposed in the present invention is a user Utilizes the ANFIS rule-based structure, which allows to interpret the ambiguity of the hidden layer.

도 6을 참조하면, 본 실시예에 따른 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법은, 디지털화된 이미지를 정규화된 벡터의 형태로 전달받는 유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지로부터 계산된 변수 세트를 생성한다(단계 S10). Referring to FIG. 6 , the breast cancer prediction method using the attention hierarchical adaptive neural fuzzy inference system according to the present embodiment is a microneedle aspiration (FNA) of breast mass data that receives a digitized image in the form of a normalized vector. A calculated variable set is generated from the digitized image (step S10).

상기 미세바늘흡인물(FNA)의 디지털화된 이미지는 검사시 또는 수술 중 인체에서 채취할 수 있다.The digitized image of the microneedle aspirate (FNA) may be taken from a human body during an examination or surgery.

A-ANFIS(Attentive ANFIS) 회귀 단위로 구성된 AH-ANFIS(Attentive Hierarchical ANFIS)의 제1 레이어를 통해, 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출한다(단계 S20).Through the first layer of AH-ANFIS (Attentive Hierarchical ANFIS) composed of A-ANFIS (Attentive ANFIS) regression units, functions using different A-ANFIS parameters are extracted from each A-ANFIS (step S20).

상기 AH-ANFIS(Attentive Hierarchical ANFIS)는 다수개의 A-ANFIS가 계층 구조로 형성된다. 각 A-ANFIS는 규칙 기반 기능 추출기로 동작하며, 계층적 아키텍처에 통합되어, 모델 차원의 규칙 치수 감소와 입력 기능의 퍼지 이웃 관계를 추출한다.In the Attentive Hierarchical ANFIS (AH-ANFIS), a plurality of A-ANFISs are formed in a hierarchical structure. Each A-ANFIS acts as a rule-based feature extractor and is integrated into a hierarchical architecture to extract model-level rule dimension reduction and fuzzy neighbor relationships of input features.

본 발명에서는 정확성과 해석 가능성 사이의 좋은 균형을 이루기 위해 주의 계층적 ANFIS(AH-ANFIS)를 제안한다. 본 발명의 주의 계층적 ANFIS는 TSK(Takagi-Sugeno-Kang) 모델을 기반으로 한 ANFIS를 사용한다. In the present invention, we propose an attention hierarchical ANFIS (AH-ANFIS) to achieve a good balance between accuracy and interpretability. The attention hierarchical ANFIS of the present invention uses ANFIS based on the Takagi-Sugeno-Kang (TSK) model.

구체적으로, 도 7을 참조하면, 각 입력 샘플에 대해 입력 기능 위로 작은 창을 밀어 1D 모양의 기능의 서브 세트를 획득하고(단계 S21), 관련 기능의 조합으로 하위 집합을 얻기 위해, 상기 기능의 서브 세트를 오버랩한다(단계 S22). Specifically, referring to Fig. 7, for each input sample, slide a small window over the input function to obtain a subset of 1D-shaped functions (step S21), and to obtain a subset with a combination of related functions, The subsets are overlapped (step S22).

이에 따라, 더 작은 크기의 입력 하위 집합이 A-ANFIS에 입력되면 규칙 차원 문제가 크게 줄어든다. 이때, 서브 세트의 크기 및 오버랩의 양은 경험적으로 선택될 수 있다.Accordingly, the rule dimension problem is greatly reduced when a smaller size input subset is input to A-ANFIS. In this case, the size of the subset and the amount of overlap may be selected empirically.

이후, 서로 다른 A-ANFIS 매개 변수를 사용하여 다수개의 A-ANFIS 기능을 추출하고(단계 S23), 추출된 기능들을 누적하여 상기 각 A-ANFIS의 출력을 획득한다(단계 S24).Thereafter, a plurality of A-ANFIS functions are extracted using different A-ANFIS parameters (step S23), and the extracted functions are accumulated to obtain an output of each A-ANFIS (step S24).

AH-ANFIS의 제2 레이어의 증식 집중 매커니즘을 상기 AH-ANFIS의 제1 레이어로부터 추출된 다수개의 기능에 적용하여, 예측 가능한 해석을 위해 활성화된 규칙과 임계 변수를 선택한다(단계 S30).By applying the proliferation concentration mechanism of the second layer of AH-ANFIS to a plurality of functions extracted from the first layer of AH-ANFIS, activated rules and threshold variables are selected for predictable interpretation (step S30).

상기 AH-ANFIS의 제2 레이어는 상기 AH-ANFIS의 제1 레이어로부터 추출된 기능 중 가장 중요한 출력을 선택하는 필터로 작동하며, Softmax 함수를 포함할 수 있다.The second layer of the AH-ANFIS operates as a filter for selecting the most important output among functions extracted from the first layer of the AH-ANFIS, and may include a Softmax function.

선택된 활성화된 규칙과 임계 변수를 기초로 측정된 출력 확률로부터 최대 신뢰도를 선택하여 환자의 재발을 결정하고(단계 S40), 환자의 유방암 분류 결과를 악성 또는 양성으로 표시하여 출력한다(단계 S50).The recurrence of the patient is determined by selecting the maximum reliability from the output probability measured based on the selected activated rule and the threshold variable (step S40), and the breast cancer classification result of the patient is displayed and output as malignant or benign (step S50).

본 발명은 유방암을 효과적으로 예측하기 위하여 해석이 가능한 심층 신경 퍼지 네트워크를 사용한다. 이를 위해, 규칙 기반 분류기의 규칙 세트에 규칙 선택기를 사용하여 가장 중요한 규칙을 규칙 세트와 가장 중요한 입력 변수 중에서 선택한다. The present invention uses an interpretable deep neural fuzzy network to effectively predict breast cancer. To this end, we use a rule selector in the rule set of the rule-based classifier to select the most important rule between the rule set and the most important input variable.

이는 규칙 차원을 줄이고 투명성을 높이기 위해 제안된 계층 구조로서, 가장 활성화된 규칙을 식별하여 정확성과 함께 더 많은 해석성을 제공할 수 있다.This is a hierarchical structure proposed to reduce rule dimension and increase transparency, which can provide more interpretability with accuracy by identifying the most active rules.

이와 같은, 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법은 애플리케이션으로 구현되거나 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. Such a breast cancer prediction method using the attention hierarchical adaptive neural fuzzy reasoning system may be implemented as an application or implemented in the form of program instructions that may be executed through various computer components and recorded in a computer-readable recording medium. The computer-readable recording medium may include program instructions, data files, data structures, etc. alone or in combination.

상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거니와 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. The program instructions recorded in the computer-readable recording medium are specially designed and configured for the present invention, and may be known and available to those skilled in the computer software field.

컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. Examples of the computer-readable recording medium include hard disks, magnetic media such as floppy disks and magnetic tapes, optical recording media such as CD-ROMs and DVDs, and magneto-optical media such as floppy disks. media), and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like.

프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.Examples of program instructions include not only machine language codes such as those generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like. The hardware device may be configured to operate as one or more software modules for carrying out the processing according to the present invention, and vice versa.

이상에서는 실시예들을 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.Although the above has been described with reference to the embodiments, those skilled in the art can variously modify and change the present invention within the scope without departing from the spirit and scope of the present invention described in the claims below you will understand

암은 전 세계에서 죽어가는 사람들의 두 번째로 큰 이유이며 2018년에는 약 960만 명의 사망자가 발생하였다. 머신러닝 기술은 암 임상 의사 결정의 조기 발견 및 예측 정확도 개선에 기여할 수 있으며, 본 발명은 유방암 환자의 발병을 예측하는데 유용하게 활용할 수 있다. Cancer is the second leading cause of death worldwide, with an estimated 9.6 million deaths in 2018. Machine learning technology can contribute to improvement of early detection and prediction accuracy of cancer clinical decision-making, and the present invention can be usefully utilized to predict the onset of breast cancer patients.

또한, 유방암은 인식하기 어렵기 때문에 전문가들도 예측하기가 어렵다. 그러나, 본 발명에 따라 제안된 시스템은 높은 정확도로 예측할 수 있으며, 이를 통해 전문가는 유방암을 쉽게 진단할 수 있다. Also, because breast cancer is difficult to recognize, it is difficult for experts to predict. However, the system proposed according to the present invention can predict with high accuracy, and through this, an expert can easily diagnose breast cancer.

나아가, 본 발명의 규칙 및 변수 선택의 해석 가능성으로 예측 결과를 적용하도록 사용자를 설득할 수 있다. 본 발명은 한국뿐만 아니라 세계의 치료에도 큰 도움이 될 수 있으며, 유방암을 예측하여 발병률을 줄임으로써 큰 경쟁력을 가질 수 있을 것으로 예상된다.Furthermore, the interpretability of the rules and variable selection of the present invention can persuade users to apply the prediction results. The present invention can be of great help not only in Korea but also in the treatment of the world, and is expected to have great competitiveness by predicting breast cancer and reducing the incidence rate.

10: 유방암 예측 장치
300: 기능 추출부
310, 330, 350: A-ANFIS
500: 집중 선택부
700: 분류부
301: 서브 세트 획득부
303: 오버랩부
305: 계층부
307: 누적부
10: breast cancer prediction device
300: function extraction unit
310, 330, 350: A-ANFIS
500: focus selection
700: classification unit
301: Subset Acquisition Unit
303: overlap portion
305: hierarchy
307: cumulative part

Claims (11)

유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지로부터 계산된 변수 세트를 입력하는 단계;
A-ANFIS(Attentive ANFIS) 회귀 단위로 구성된 AH-ANFIS(Attentive Hierarchical ANFIS)의 제1 레이어를 통해, 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출하는 단계;
AH-ANFIS의 제2 레이어의 증식 집중 매커니즘을 상기 AH-ANFIS의 제1 레이어로부터 추출된 다수개의 기능에 적용하여, 예측 가능한 해석을 위해 활성화된 규칙과 임계 변수를 선택하는 단계;
선택된 활성화된 규칙과 임계 변수를 기초로 측정된 출력 확률로부터 최대 신뢰도를 선택하여 환자의 재발을 결정하는 단계; 및
환자의 유방암 분류 결과를 악성 또는 양성으로 표시하여 출력하는 단계;를 포함하고,
상기 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출하는 단계는,
규칙 기반 기능 추출기로 동작하는 상기 각 A-ANFIS를 계층적 아키텍처에 통합하여, 모델 차원의 규칙 치수 감소와 입력 기능의 퍼지 이웃 관계를 추출하는, 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법.
inputting a set of parameters calculated from digitized images of microneedle aspiration (FNA) of breast mass data;
Extracting a function using different A-ANFIS parameters from each A-ANFIS through a first layer of AH-ANFIS (Attentive Hierarchical ANFIS) composed of A-ANFIS (Attentive ANFIS) regression units;
applying the proliferation concentration mechanism of the second layer of AH-ANFIS to a plurality of functions extracted from the first layer of AH-ANFIS to select activated rules and threshold variables for predictable interpretation;
determining the patient's recurrence by selecting the maximum confidence from the measured output probabilities based on the selected activated rule and the threshold variable; and
Including; displaying and outputting the breast cancer classification result of the patient as malignant or benign;
Extracting functions using different A-ANFIS parameters from each A-ANFIS comprises:
A breast cancer prediction method using attention hierarchical adaptive neural fuzzy reasoning system, which integrates each A-ANFIS operating as a rule-based function extractor into a hierarchical architecture to extract model-level rule dimension reduction and fuzzy neighbor relationships of input functions .
삭제delete 제1항에 있어서, 상기 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출하는 단계는,
각 입력 샘플에 대해 입력 기능 위로 작은 창을 밀어 1D 모양의 기능의 서브 세트를 획득하는 단계;
관련 기능의 조합으로 하위 집합을 얻기 위해, 상기 기능의 서브 세트를 오버랩하는 단계;
서로 다른 A-ANFIS 매개 변수를 사용하여 다수개의 A-ANFIS 기능을 추출하는 단계; 및
추출된 기능들을 누적하여 상기 각 A-ANFIS의 출력을 획득하는 단계;를 포함하는, 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법.
The method of claim 1, wherein extracting functions using different A-ANFIS parameters from each A-ANFIS comprises:
acquiring a subset of 1D-shaped features by sliding a small window over the input features for each input sample;
overlapping subsets of functions to obtain subsets with combinations of related functions;
extracting a plurality of A-ANFIS functions using different A-ANFIS parameters; and
Accumulating the extracted functions to obtain the output of each A-ANFIS; A breast cancer prediction method using an attention hierarchical adaptive neural fuzzy inference system, including.
제3항에 있어서,
상기 서브 세트의 크기 및 오버랩의 양을 선택하는 단계를 더 포함하는, 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법.
4. The method of claim 3,
The method of predicting breast cancer using an attention hierarchical adaptive neural fuzzy inference system, further comprising the step of selecting the size of the subset and the amount of overlap.
제1항에 있어서,
상기 유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지는 정규화된 벡터의 형태로 전달되는, 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법.
According to claim 1,
The digitized image of the microneedle aspiration (FNA) of the breast mass data is transmitted in the form of a normalized vector, a method for predicting breast cancer using an attention hierarchical adaptive neural fuzzy inference system.
제1항에 기재된 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 방법을 수행하기 위한 컴퓨터 프로그램이 기록된 컴퓨터로 판독 가능한 저장 매체.
A computer-readable storage medium in which a computer program for performing the breast cancer prediction method using the attention hierarchical adaptive neural fuzzy reasoning system according to claim 1 is recorded.
유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지로부터 계산된 변수 세트를 생성하는 입력부;
A-ANFIS(Attentive ANFIS) 회귀 단위로 구성된 AH-ANFIS(Attentive Hierarchical ANFIS)의 제1 레이어를 통해, 각 A-ANFIS로부터 서로 다른 A-ANFIS 매개 변수를 사용한 기능을 추출하는 기능 추출부;
AH-ANFIS의 제2 레이어의 증식 집중 매커니즘을 상기 AH-ANFIS의 제1 레이어로부터 추출된 다수개의 기능에 적용하여, 예측 가능한 해석을 위해 활성화된 규칙과 임계 변수를 선택하는 집중 선택부;
상기 집중 선택부에서 선택된 활성화된 규칙과 임계 변수를 기초로 측정된 출력 확률로부터 최대 신뢰도를 선택하여 환자의 재발을 결정하는 분류부; 및
환자의 유방암 분류 결과를 악성 또는 양성으로 표시하여 출력하는 출력부;를 포함하고,
상기 기능 추출부는,
규칙 기반 기능 추출기로 동작하는 상기 각 A-ANFIS를 계층적 아키텍처에 통합하여, 모델 차원의 규칙 치수 감소와 입력 기능의 퍼지 이웃 관계를 추출하는, 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 장치.
an input unit for generating a set of variables calculated from digitized images of microneedle aspiration (FNA) of breast mass data;
A function extracting unit that extracts functions using different A-ANFIS parameters from each A-ANFIS through the first layer of AH-ANFIS (Attentive Hierarchical ANFIS) composed of A-ANFIS (Attentive ANFIS) regression units;
a concentrated selection unit that applies the proliferation concentration mechanism of the second layer of AH-ANFIS to a plurality of functions extracted from the first layer of the AH-ANFIS, and selects activated rules and threshold variables for predictable interpretation;
a classification unit for determining the recurrence of a patient by selecting the maximum reliability from the output probability measured based on the activated rule and the threshold variable selected by the concentrated selection unit; and
Including; an output unit for displaying and outputting the breast cancer classification result of the patient as malignant or benign;
The function extraction unit,
A breast cancer prediction device using an attention hierarchical adaptive neural fuzzy inference system that integrates each A-ANFIS operating as a rule-based function extractor into a hierarchical architecture to extract model-level rule dimension reduction and fuzzy neighbor relationships of input functions .
삭제delete 제7항에 있어서, 상기 기능 추출부의 각 A-ANFIS는,
각 입력 샘플에 대해 입력 기능 위로 작은 창을 밀어 1D 모양의 기능의 서브 세트를 획득하는 서브 세트 획득부;
관련 기능의 조합으로 하위 집합을 얻기 위해, 상기 기능의 서브 세트를 오버랩하는 오버랩부;
서로 다른 A-ANFIS 매개 변수를 사용하여 다수개의 A-ANFIS 기능을 추출하는 계층부; 및
추출된 기능들을 누적하여 상기 각 A-ANFIS의 출력을 획득하는 누적부;를 포함하는, 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 장치.
The method of claim 7, wherein each A-ANFIS of the function extraction unit,
a subset acquiring unit for acquiring a subset of 1D-shaped features by pushing a small window over the input features for each input sample;
an overlapping portion overlapping the subset of functions to obtain a subset by a combination of related functions;
a hierarchical unit for extracting multiple A-ANFIS functions using different A-ANFIS parameters; and
A breast cancer prediction apparatus using an attention hierarchical adaptive neural fuzzy inference system, comprising a; an accumulator for accumulating the extracted functions to obtain the output of each A-ANFIS.
제9항에 있어서, 상기 기능 추출부는,
상기 서브 세트의 크기 및 오버랩의 양을 선택하는, 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 장치.
The method of claim 9, wherein the function extracting unit,
A breast cancer prediction apparatus using an attention hierarchical adaptive neural fuzzy inference system, which selects the size of the subset and the amount of overlap.
제7항에 있어서, 상기 입력부는,
상기 유방 질량 데이터의 미세바늘흡인물(FNA)의 디지털화된 이미지를 정규화된 벡터의 형태로 전달받는, 주의 계층적 적응 신경 퍼지 추론 시스템을 이용한 유방암 예측 장치.
The method of claim 7, wherein the input unit,
A breast cancer prediction device using an attention hierarchical adaptive neural fuzzy inference system, which receives the digitized image of the microneedle aspiration (FNA) of the breast mass data in the form of a normalized vector.
KR1020200026391A 2019-11-21 2020-03-03 Method for prediction of breast cancer using attentive hierarchical adaptive neuro-fuzzy inference system, recording medium and device for performing the method KR102374326B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20190150795 2019-11-21
KR1020190150795 2019-11-21

Publications (2)

Publication Number Publication Date
KR20210062532A KR20210062532A (en) 2021-05-31
KR102374326B1 true KR102374326B1 (en) 2022-03-15

Family

ID=76150210

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200026391A KR102374326B1 (en) 2019-11-21 2020-03-03 Method for prediction of breast cancer using attentive hierarchical adaptive neuro-fuzzy inference system, recording medium and device for performing the method

Country Status (1)

Country Link
KR (1) KR102374326B1 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170014108A1 (en) 2015-07-14 2017-01-19 Duke University Systems and methods for extracting prognostic image features
WO2019020556A1 (en) 2017-07-24 2019-01-31 Ventana Medical Systems, Inc. Methods and systems for evaluation of immune cell infiltrate in tumor samples

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110052361A (en) 2009-11-12 2011-05-18 연세대학교 산학협력단 System for predicting recurrence-free survival for early gastric cancer and prediction methods thereof
KR20180051990A (en) 2016-11-09 2018-05-17 주식회사 피디젠 Method and system for monitoring of recurrent and metastatic cancer
WO2018124831A1 (en) 2016-12-30 2018-07-05 서울대학교 산학협력단 Device and method for predicting disease risk of metabolic disorder disease

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170014108A1 (en) 2015-07-14 2017-01-19 Duke University Systems and methods for extracting prognostic image features
WO2019020556A1 (en) 2017-07-24 2019-01-31 Ventana Medical Systems, Inc. Methods and systems for evaluation of immune cell infiltrate in tumor samples

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
"Breast Cancer Wisconsin(Diagnostic) Data Set". UCI Machine Learning Repository, [online], [2021년 7월 26일 검색], 인터넷:<URL: https://web.archive.org/web/20191107070158/~>(2019.11.07.) 1부.*
Elif Derya Ubeyli. "Adaptive Neuro-Fuzzy Inference Systems for Automatic Detection of Breast Cancer". J Med Syst (2009). 제33권, pp.:353-358, 2008.08.08. 공개 1부.*
임준식. "퍼지신경망과 비중복면적 분산 측정법을 이용한 최소의 특징입력 및 퍼지규칙의 추출". 퍼지 및 지능시스템학회 논문지 2005. 제15권, 제15호, pp599-604, 2005년 공개 1부.*

Also Published As

Publication number Publication date
KR20210062532A (en) 2021-05-31

Similar Documents

Publication Publication Date Title
JP5603639B2 (en) Learning device for prediction device and computer program therefor
US10424411B2 (en) Biopsy-free detection and staging of cancer using a virtual staging score
KR20220131530A (en) Systems and methods for predicting future risk of lung cancer
Balanică et al. Evaluation of breast cancer risk by using fuzzy logic
US20210217524A1 (en) Performing a prognostic evaluation
US20200013163A1 (en) Method for Diagnosing, Predicting, Determining Prognosis, Monitoring, or Staging Disease Based on Vascularization Patterns
Pareek et al. Predicting the spread of vessels in initial stage cervical cancer through radiomics strategy based on deep learning approach
Almutairi et al. Breast cancer classification using Deep Q Learning (DQL) and gorilla troops optimization (GTO)
Reddy et al. Intelligent deep learning algorithm for lung cancer detection and classification
Lu et al. Deep learning-based long term mortality prediction in the National Lung Screening Trial
KR102374326B1 (en) Method for prediction of breast cancer using attentive hierarchical adaptive neuro-fuzzy inference system, recording medium and device for performing the method
CN116703880A (en) Immune state prediction model construction method, prediction method and construction device
Kahaki et al. Weakly supervised deep learning for predicting the response to hormonal treatment of women with atypical endometrial hyperplasia: a feasibility study
Khan et al. Prediction of breast cancer based on computer vision and artificial intelligence techniques
Saeed et al. Optimization and efficiency analysis of deep learning based brain tumor detection
Thanikachalam et al. Diabetic Retinopathy Diagnosis Using Interval Neutrosophic Segmentation with Deep Learning Model.
Bozkurt et al. Comparison of Bayesian network and binary logistic regression methods for prediction of prostate cancer
US11756207B2 (en) Apparatus and method for lesion analysis based on marginal feature
US20230316507A1 (en) System and method for patients stratification through machine-learning immune checkpoint inhibitor response prediction
EP4231313A1 (en) Cadx device and a method of calibration of the device
WO2022249892A1 (en) Feature extraction device, feature extraction method, program, and information recording medium
KR20240035560A (en) Systems and methods for predicting future risk of lung cancer
Wagner et al. Incorporating longitudinal screening data into image-based breast cancer risk assessment
Bodalal Survival prediction using Convolutional Neural Networks based on lung CT scans of patients with Malignant Pleural Mesothelioma Information Science
Chowdhury et al. An efficient deep learning approach to detect skin cancer using image data

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant