KR102487420B1 - A technique for acquiring voice data which is digital biobarker data for dementia identification - Google Patents
A technique for acquiring voice data which is digital biobarker data for dementia identification Download PDFInfo
- Publication number
- KR102487420B1 KR102487420B1 KR1020220069863A KR20220069863A KR102487420B1 KR 102487420 B1 KR102487420 B1 KR 102487420B1 KR 1020220069863 A KR1020220069863 A KR 1020220069863A KR 20220069863 A KR20220069863 A KR 20220069863A KR 102487420 B1 KR102487420 B1 KR 102487420B1
- Authority
- KR
- South Korea
- Prior art keywords
- voice data
- button
- input
- touch input
- dementia
- Prior art date
Links
- 206010012289 Dementia Diseases 0.000 title claims abstract description 110
- 238000000034 method Methods 0.000 title claims abstract description 49
- 239000000090 biomarker Substances 0.000 claims abstract description 28
- 238000003860 storage Methods 0.000 claims description 45
- 238000004891 communication Methods 0.000 claims description 43
- 230000000694 effects Effects 0.000 claims description 23
- 238000004458 analytical method Methods 0.000 claims description 22
- 230000004044 response Effects 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 4
- 238000013528 artificial neural network Methods 0.000 description 18
- 230000006870 function Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 12
- 238000012360 testing method Methods 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 8
- 208000024827 Alzheimer disease Diseases 0.000 description 6
- 238000004422 calculation algorithm Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 208000010877 cognitive disease Diseases 0.000 description 4
- 230000007774 longterm Effects 0.000 description 4
- 208000027061 mild cognitive impairment Diseases 0.000 description 4
- 239000008280 blood Substances 0.000 description 3
- 210000004369 blood Anatomy 0.000 description 3
- 230000003920 cognitive function Effects 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 210000004185 liver Anatomy 0.000 description 2
- 108091063796 miR-206 stem-loop Proteins 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000007480 spreading Effects 0.000 description 2
- 238000003892 spreading Methods 0.000 description 2
- 208000014644 Brain disease Diseases 0.000 description 1
- PEDCQBHIVMGVHV-UHFFFAOYSA-N Glycerine Chemical compound OCC(O)CO PEDCQBHIVMGVHV-UHFFFAOYSA-N 0.000 description 1
- 241000283973 Oryctolagus cuniculus Species 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 241000270666 Testudines Species 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000007278 cognition impairment Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 238000010562 histological examination Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000000415 inactivating effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 206010027175 memory impairment Diseases 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/40—Detecting, measuring or recording for evaluating the nervous system
- A61B5/4076—Diagnosing or monitoring particular conditions of the nervous system
- A61B5/4088—Diagnosing of monitoring cognitive diseases, e.g. Alzheimer, prion diseases or dementia
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4803—Speech analysis specially adapted for diagnostic purposes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7271—Specific aspects of physiological measurement analysis
- A61B5/7275—Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/7445—Display arrangements, e.g. multiple display units
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/7475—User input or interface means, e.g. keyboard, pointing device, joystick
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
- G10L25/66—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for extracting parameters related to health condition
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Public Health (AREA)
- Medical Informatics (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Pathology (AREA)
- Physics & Mathematics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Surgery (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Veterinary Medicine (AREA)
- Neurology (AREA)
- Epidemiology (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Physiology (AREA)
- Psychiatry (AREA)
- Primary Health Care (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Acoustics & Sound (AREA)
- Human Computer Interaction (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Child & Adolescent Psychology (AREA)
- Developmental Disabilities (AREA)
- Hospice & Palliative Care (AREA)
- Psychology (AREA)
- Neurosurgery (AREA)
- User Interface Of Digital Computer (AREA)
- Evolutionary Computation (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
Abstract
Description
본 개시는 치매를 식별을 위한 디지털 바이오 마커 데이터인 음성 데이터를 획득하는 기법에 관한 것으로, 구체적으로 치매 식별을 위한 음성 데이터를 획득하기 위한 화면을 디스플레이하는 장치 및 그 방법에 관한 것이다. The present disclosure relates to a technique for obtaining voice data, which is digital biomarker data for identifying dementia, and more specifically, to a device and method for displaying a screen for acquiring voice data for identifying dementia.
알츠하이머 질환(Alzheimer's Disease, AD)은 노화에 따라 수반되는 뇌 질환으로서, 점진적인 기억력 장애, 인지력 결손, 개인 성격의 변화 등을 초래하는 질병이다. 그리고, 치매(dementia)는 정상적으로 생활해오던 사람이 다양한 원인에 인해 뇌기능이 손상되면서 발생하는, 지속적이고 전반적인 인지 기능의 저하 상태를 의미한다. 여기서 인지 기능이란 기억력, 언어 능력, 시공간 파악 능력, 판단력 및 추상적 사고력 등 다양한 지적 능력을 가리키는 것으로서, 각 인지 기능은 뇌의 특정 부위와 밀접한 관련이 있다. 치매의 가장 흔한 형태가 알츠하이머 질환이다.Alzheimer's disease (AD) is a brain disease that accompanies aging, and is a disease that causes gradual memory impairment, cognitive deficits, changes in individual personality, and the like. And, dementia (dementia) means a continuous and overall deterioration of cognitive function that occurs when a person who has been living a normal life is damaged due to various causes. Here, cognitive function refers to various intellectual abilities such as memory, language ability, time and space understanding ability, judgment, and abstract thinking ability, and each cognitive function is closely related to a specific part of the brain. The most common form of dementia is Alzheimer's disease.
알츠하이머 질환, 치매 또는 경도 인지 장애를 진단하기 위한 다양한 방법들이 제시되고 있다. 예컨대, 후각 조직의 miR-206의 발현 수준을 이용하여 알츠하이머 질환 또는 경도 인지 장애를 진단하는 방법, 혈액 내에서 특징적으로 증가하는 바이오 마커를 이용하여 치매를 진단하는 방법 등이 알려져 있다.Various methods for diagnosing Alzheimer's disease, dementia or mild cognitive impairment have been proposed. For example, a method for diagnosing Alzheimer's disease or mild cognitive impairment using the expression level of miR-206 in olfactory tissue, a method for diagnosing dementia using a biomarker that is characteristically increased in blood, and the like are known.
그러나, 후각 조직의 miR-206을 이용하기 위해서는 조직 검사에 필요한 특수 장비 또는 검사가 필요하고, 혈액 내의 바이오 마커를 이용하기 위해서는 침습적인 방법으로 환자의 혈액을 채취해야 하므로, 환자의 거부감이 상대적으로 크다는 단점이 각각 존재한다.However, in order to use miR-206 in olfactory tissue, special equipment or tests are required for histological examination, and patient's blood must be collected by an invasive method to use biomarkers in the blood. There are big downsides to each.
따라서, 별도의 특수 장비 또는 검사 없이 환자가 거부감을 거의 느끼지 않는 방법으로 치매를 진단할 수 있는 디지털 바이오 마커를 획득하는 방법을 개발할 필요성이 절실한 실정이다.Therefore, there is an urgent need to develop a method for acquiring a digital biomarker capable of diagnosing dementia in a way that patients hardly feel repulsive without any special equipment or examination.
본 개시는 전술한 문제 및 다른 문제를 해결하는 것을 목적으로 한다. 본 개시의 몇몇 실시예가 이루고자 하는 기술적 과제는, 환자가 거부감을 거의 느끼지 않는 방법으로 치매 진단을 위한 디지털 바이오 마커 데이터를 획득하는 것을 그 목적으로 한다. The present disclosure aims to solve the foregoing and other problems. A technical problem to be achieved by some embodiments of the present disclosure is to obtain digital biomarker data for diagnosing dementia in a method in which a patient hardly feels rejection.
본 개시에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 개시의 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical tasks to be achieved in the present disclosure are not limited to the technical tasks mentioned above, and other technical tasks not mentioned can be clearly understood by those skilled in the art from the description below. There will be.
본 개시의 몇몇 실시예에 의한 사용자 단말기의 프로세서에 의해 치매 식별을 위한 디지털 바이오 마커 데이터인 음성 데이터를 획득하는 방법은: 복수의 이미지를 순차적으로 디스플레이하는 것과 연동하여 상기 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득하는 제1 태스크를 수행하는 단계; 및 이미지 디스플레이 없이 제2 음성 데이터를 획득하는 제2 태스크를 수행하는 단계; 를 포함할 수 있다. A method of acquiring audio data, which is digital biomarker data for dementia identification, by a processor of a user terminal according to some embodiments of the present disclosure includes: a plurality of images related to each of the plurality of images in association with sequentially displaying a plurality of images; performing a first task of obtaining first voice data of; and performing a second task of acquiring second voice data without image display; can include
본 개시의 몇몇 실시예에 의하면, 상기 복수의 제1 음성 데이터는, 상기 복수의 이미지 중 N차 이미지가 디스플레이될 때 제1 터치 입력이 입력된 시점부터 제2 터치 입력이 입력된 시점까지 획득되는 음성 데이터를 포함하고, 상기 N은, 1 이상의 자연수일 수 있다. According to some embodiments of the present disclosure, the plurality of first voice data is obtained from a time when a first touch input is input to a time when a second touch input is input when an Nth image among the plurality of images is displayed. voice data, and N may be a natural number of 1 or greater.
본 개시의 몇몇 실시예에 의하면, 상기 제1 터치 입력은, 상기 N차 이미지와 같이 디스플레이되는 제1 버튼에 대한 터치 입력이고, 상기 제2 터치 입력은, 상기 제1 터치 입력에 응답하여 상기 제1 버튼 대신 제2 버튼이 상기 N차 이미지와 같이 디스플레이된 상태에서 상기 제2 버튼에 대한 터치 입력일 수 있다. According to some embodiments of the present disclosure, the first touch input is a touch input for a first button displayed as the Nth image, and the second touch input is the first touch input in response to the first touch input. Instead of the first button, the second button may be a touch input to the second button in a displayed state like the N-th image.
본 개시의 몇몇 실시예에 의하면, 상기 N차 이미지는, 상기 제2 터치 입력에 응답하여 N+1차 이미지로 변경될 수 있다. According to some embodiments of the present disclosure, the N-th image may be changed to an N+1-th image in response to the second touch input.
본 개시의 몇몇 실시예에 의하면, 상기 제1 태스크 이전에, 음성 데이터의 획득 없이 상기 복수의 이미지 각각을 순차적으로 기 설정된 시간 동안 디스플레이하는 단계;를 더 포함할 수 있다. According to some embodiments of the present disclosure, prior to the first task, sequentially displaying each of the plurality of images for a predetermined time period without obtaining voice data; may further include.
본 개시의 몇몇 실시예에 의하면, 상기 제2 음성 데이터는, 상기 제2 태스크 수행 시 디스플레이되는 화면에 제3 터치 입력이 입력된 시점부터 제4 터치 입력이 입력된 시점까지 획득되는 음성 데이터일 수 있다. According to some embodiments of the present disclosure, the second voice data may be voice data obtained from a time when a third touch input is input to a time when a fourth touch input is input on a screen displayed when the second task is performed. there is.
본 개시의 몇몇 실시예에 의하면, 상기 제3 터치 입력은, 상기 제2 태스크가 수행될 때 디스플레이되는 제3 버튼에 대한 터치 입력이고, 상기 제4 터치 입력은, 상기 제3 터치 입력에 응답하여 상기 제3 버튼 대신 제4 버튼이 디스플레이된 상태에서 상기 제4 버튼에 대한 터치 입력일 수 있다. According to some embodiments of the present disclosure, the third touch input is a touch input for a third button displayed when the second task is performed, and the fourth touch input is in response to the third touch input. It may be a touch input to the fourth button in a state where the fourth button is displayed instead of the third button.
본 개시의 몇몇 실시예에 의하면, 상기 복수의 제1 음성 데이터 및 상기 제2 음성 데이터를 이용하여 치매 여부를 식별하기 위해 상기 복수의 제1 음성 데이터 및 상기 제2 음성 데이터를 장치에 전송하는 단계;를 더 포함할 수 있다. According to some embodiments of the present disclosure, transmitting the plurality of first voice data and the second voice data to a device to identify dementia using the plurality of first voice data and the second voice data ; may be further included.
본 개시의 몇몇 실시예에 의한 컴퓨터 판독가능 저장 매체 저장된 컴퓨터 프로그램은 사용자 단말기의 프로세서에서 실행되는 경우, 치매 식별을 위한 디지털 바이오 마커 데이터인 음성 데이터를 획득하는 단계들을 수행하며, 상기 단계들은: 복수의 이미지를 순차적으로 디스플레이하는 것과 연동하여 상기 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득하는 제1 태스크를 수행하는 단계; 및 이미지 디스플레이 없이 제2 음성 데이터를 획득하는 제2 태스크를 수행하는 단계;를 포함할 수 있다. A computer program stored in a computer readable storage medium according to some embodiments of the present disclosure, when executed in a processor of a user terminal, performs steps of acquiring voice data, which is digital biomarker data for dementia identification, and the steps include: performing a first task of acquiring a plurality of first voice data related to each of the plurality of images in association with sequentially displaying images of the; and performing a second task of acquiring second voice data without image display.
본 개시의 몇몇 실시예에 의한 치매 식별을 위한 디지털 바이오 마커 데이터인 음성 데이터를 획득하는 사용자 단말기는: 적어도 하나의 프로그램 명령이 저장된 저장부; 및 상기 적어도 하나의 프로그램 명령을 수행하는 프로세서; 를 포함하고, 상기 프로세서는, 복수의 이미지를 순차적으로 디스플레이하는 것과 연동하여 상기 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득하는 제1 태스크를 수행하고, 이미지 디스플레이 없이 제2 음성 데이터를 획득하는 제2 태스크를 수행할 수 있다. According to some embodiments of the present disclosure, a user terminal acquiring voice data, which is digital biomarker data for dementia identification, includes: a storage unit storing at least one program command; and a processor executing the at least one program instruction. wherein the processor performs a first task of obtaining a plurality of first audio data related to each of the plurality of images in association with sequentially displaying a plurality of images, and obtains second audio data without image display; You can perform the second task of acquiring.
본 개시에서 얻을 수 있는 기술적 해결 수단은 이상에서 언급한 해결 수단들로 제한되지 않으며, 언급하지 않은 또 다른 해결 수단들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical solutions obtainable in the present disclosure are not limited to the above-mentioned solutions, and other solutions not mentioned will become clear to those skilled in the art from the description below. You will be able to understand.
본 개시에 따른 치매 식별을 위한 디지털 바이오 마커 데이터인 음성 데이터를 획득하는 기법의 효과에 대해 설명하면 다음과 같다.Effects of the technique for acquiring voice data, which is digital biomarker data for dementia identification according to the present disclosure, will be described below.
본 개시의 몇몇 실시예에 의하면, 환자가 거부감을 거의 느끼지 않는 방법으로 정확하게 치매를 진단하기 위한 디지털 바이오 마커 데이터를 획득할 수 있다. According to some embodiments of the present disclosure, digital biomarker data for accurately diagnosing dementia can be obtained in a way in which a patient hardly feels rejection.
본 개시를 통해 얻을 수 있는 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.Effects obtainable through the present disclosure are not limited to the effects mentioned above, and other effects not mentioned may be clearly understood by those skilled in the art from the description below. will be.
본 개시의 다양한 실시예들이 도면들을 참조로 설명되며, 여기서 유사한 참조 번호들은 총괄적으로 유사한 구성요소들을 지칭하는데 이용된다. 이하의 실시예에서, 설명 목적을 위해, 다수의 특정 세부사항들이 하나 이상의 실시예들의 총체적 이해를 제공하기 위해 제시된다. 그러나, 그러한 실시예(들)가 이러한 구체적인 세부사항들 없이 실시될 수 있음은 명백할 것이다.
도 1은 본 개시의 몇몇 실시예에 따른 치매를 식별하는 시스템을 설명하기 위한 개략도이다.
도 2는 본 개시의 몇몇 실시예에 따라 치매 식별을 위한 디지털 바이오 마커 데이터인 복수의 제1 음성 데이터 및 제2 음성 데이터를 획득하는 방법의 일례를 설명하기 위한 흐름도이다.
도 3은 본 개시의 몇몇 실시예에 따라 복수의 제1 음성 데이터를 획득하는 방법의 일례를 설명하기 위한 도면이다.
도 4 및 도 5는 본 개시의 몇몇 실시예에 따라 복수의 제1 음성 데이터를 획득할 때 디스플레이되는 복수의 이미지를 설명하기 위한 도면이다.
도 6은 본 개시의 몇몇 실시예에 따라 복수의 제1 음성 데이터를 획득하기 전에 수행되는 태스크의 일례를 설명하기 위한 도면이다.
도 7은 본 개시의 몇몇 실시예에 따라 제2 음성 데이터를 획득하는 방법의 일례를 설명하기 위한 도면이다.
도 8은 본 개시의 몇몇 실시예에 따라 음성 데이터에 기초하여 치매 여부를 식별하는 방법의 일례를 설명하기 위한 흐름도이다.
도 9는 본 개시의 몇몇 실시예에 따라 내용 분석 정보를 획득할 때 사용되는 키워드 및 유사어의 일례를 설명하기 위한 도면이다.Various embodiments of the present disclosure are described with reference to the drawings, wherein like reference numbers are used to collectively refer to like elements. In the following examples, for purposes of explanation, numerous specific details are set forth in order to provide a thorough understanding of one or more embodiments. However, it will be apparent that such embodiment(s) may be practiced without these specific details.
1 is a schematic diagram illustrating a system for identifying dementia according to some embodiments of the present disclosure.
FIG. 2 is a flowchart illustrating an example of a method of acquiring a plurality of first voice data and second voice data, which are digital biomarker data for dementia identification, according to some embodiments of the present disclosure.
3 is a diagram for explaining an example of a method of obtaining a plurality of first voice data according to some embodiments of the present disclosure.
4 and 5 are diagrams for explaining a plurality of images displayed when acquiring a plurality of first voice data according to some embodiments of the present disclosure.
6 is a diagram for explaining an example of a task performed before obtaining a plurality of first voice data according to some embodiments of the present disclosure.
7 is a diagram for explaining an example of a method of acquiring second voice data according to some embodiments of the present disclosure.
8 is a flowchart for explaining an example of a method of identifying dementia based on voice data according to some embodiments of the present disclosure.
9 is a diagram for explaining an example of keywords and synonyms used when obtaining content analysis information according to some embodiments of the present disclosure.
이하에서는 도면을 참조하여 본 개시에 따른 장치 및 장치의 제어 방법의 다양한 실시예(들)를 상세하게 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. Hereinafter, various embodiments (s) of an apparatus and a control method of the apparatus according to the present disclosure will be described in detail with reference to the drawings, but the same or similar components are assigned the same reference numerals regardless of reference numerals, and overlapping Description is omitted.
본 개시의 목적 및 효과, 그리고 그것들을 달성하기 위한 기술적 구성들은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 본 개시의 하나 이상의 실시예들을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 개시의 적어도 하나의 실시예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. Objects and effects of the present disclosure, and technical configurations for achieving them will become clear with reference to embodiments described later in detail in conjunction with the accompanying drawings. In describing one or more embodiments of the present disclosure, if it is determined that a detailed description of a related known technology may obscure the gist of at least one embodiment of the present disclosure, the detailed description will be omitted.
본 개시의 용어들은 본 개시에서의 기능을 고려하여 정의된 용어들로써 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 또한, 첨부된 도면은 본 개시의 하나 이상의 실시예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 개시의 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.The terms of the present disclosure are terms defined in consideration of functions in the present disclosure and may vary according to the intention or custom of a user or operator. In addition, the accompanying drawings are only for making it easier to understand one or more embodiments of the present disclosure, and the technical spirit of the present disclosure is not limited by the accompanying drawings, and all changes included in the spirit and technical scope of the present invention , it should be understood to include equivalents or substitutes.
이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 본 개시의 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. The suffixes "module" and "unit" for the components used in the following description are given or used interchangeably in consideration of ease of preparation of the present disclosure, and do not themselves have a meaning or role that is distinct from each other.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 따라서, 이하에서 언급되는 제1 구성요소는 본 개시의 기술적 사상 내에서 제2 구성 요소가 될 수도 있다. Terms including ordinal numbers, such as first and second, may be used to describe various components, but the components are not limited by the terms. These terms are only used for the purpose of distinguishing one component from another. Accordingly, a first component mentioned below may also be a second component within the technical spirit of the present disclosure.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 즉, 달리 특정되지 않거나 단수 형태를 지시하는 것으로 문맥상 명확하지 않은 경우, 본 개시와 청구범위에서 단수는 일반적으로 "하나 또는 그 이상"을 의미하는 것으로 해석되어야 한다. Singular expressions include plural expressions unless the context clearly dictates otherwise. That is, unless otherwise specified or where the context clearly indicates that the singular form is indicated, the singular shall generally be construed to mean "one or more" in this disclosure and claims.
본 개시에서, "포함하는", "포함한다" 또는 "가지다" 등의 용어는 본 개시상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.In the present disclosure, terms such as "comprising", "includes" or "has" are intended to indicate that there is a feature, number, step, operation, component, part, or combination thereof described in the present disclosure, It should be understood that it does not preclude the possibility of the presence or addition of one or more other features, numbers, steps, operations, components, parts, or combinations thereof.
본 개시에서 "또는"이라는 용어는 배타적 의미의 "또는"이 아니라 내포적 의미의 "또는"으로 이해되어야 한다. 즉, 달리 특정되지 않거나 문맥상 명확하지 않은 경우에, "X는 A 또는 B를 이용한다"는 자연적인 내포적 치환 중 하나를 의미하는 것으로 의도된다. 즉, X가 A를 이용하거나; X가 B를 이용하거나; 또는 X가 A 및 B 모두를 이용하는 경우, "X는 A 또는 B를 이용한다"가 이들 경우들 어느 것으로도 적용될 수 있다. 또한, 본 개시에 사용된 "및/또는"이라는 용어는 열거된 관련 아이템들 중 하나 이상의 아이템의 가능한 모든 조합을 지칭하고 포함하는 것으로 이해되어야 한다. The term "or" in this disclosure should be understood as an inclusive "or" rather than an exclusive "or". That is, unless otherwise specified or clear from the context, “X employs A or B” is intended to mean one of the natural inclusive substitutions. That is, X uses A; X uses B; Or, if X uses both A and B, "X uses either A or B" may apply to either of these cases. Also, the term “and/or” as used in this disclosure should be understood to refer to and include all possible combinations of one or more of the listed related items.
본 개시에서 사용되는 용어 "정보" 및 "데이터"는 서로 상호 교환 가능하도록 사용될 수 있다. The terms “information” and “data” used in this disclosure may be used interchangeably.
다른 정의가 없다면, 본 개시에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 개시의 기술분야에서 통상의 지식을 가진 자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또 일반적으로 사용되는 사전에 정의되어 있는 용어들은 특별히 정의되어 있지 않는 한 과도하게 해석되지 않는다.Unless otherwise defined, all terms (including technical and scientific terms) used in this disclosure may be used with a meaning that can be commonly understood by those skilled in the art of this disclosure. In addition, terms defined in commonly used dictionaries are not excessively interpreted unless specifically defined.
그러나 본 개시는 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있다. 단지 본 개시의 몇몇 실시예들은 본 개시의 기술분야에서 통상의 지식을 가진 자에게 본 개시의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 개시는 청구항의 범주에 의해 정의될 뿐이다. 그러므로 그 정의는 본 개시 전반에 걸친 내용을 토대로 내려져야 할 것이다.However, the present disclosure is not limited to the embodiments disclosed below and may be implemented in a variety of different forms. Only some embodiments of the present disclosure are provided to completely inform those skilled in the art of the scope of the present disclosure, and the present disclosure is only defined by the scope of the claims. Therefore, the definition should be made based on the content throughout this disclosure.
본 개시의 몇몇 실시예에 따르면, 사용자 단말기의 프로세서는 치매 식별을 위한 디지털 바이오 마커 데이터인 음성 데이터를 획득할 수 있다. 여기서, 디지털 바이오 마커 데이터는, 핸드폰 등과 같은 디지털 기기를 통해 획득되는 바이오 마커로 본 개시에서는 치매 식별을 위해 사용되는 바이오 마커일 수 있다. According to some embodiments of the present disclosure, a processor of a user terminal may obtain voice data that is digital biomarker data for dementia identification. Here, the digital biomarker data is a biomarker acquired through a digital device such as a mobile phone, and may be a biomarker used for dementia identification in the present disclosure.
이하에서, 도 1를 참조하여 치매를 식별하는 시스템에 대해서 설명하고, 도 2 내지 도 7을 참조하여 치매 식별을 위한 디지털 바이오 마커 데이터인 음성 데이터를 획득하는 방법에 대해 설명하고, 도 8 및 도 9를 참조하여 디지털 바이오 마커 데이터인 음성 데이터를 이용하여 치매를 식별하는 방법에 대해서 설명한다.Hereinafter, a system for identifying dementia will be described with reference to FIG. 1, and a method for acquiring voice data, which is digital biomarker data for dementia identification, will be described with reference to FIGS. 2 to 7, and FIG. 8 and FIG. 9, a method for identifying dementia using voice data, which is digital biomarker data, will be described.
도 1은 본 개시의 몇몇 실시예에 따른 치매를 식별하는 시스템을 설명하기 위한 개략도이다.1 is a schematic diagram illustrating a system for identifying dementia according to some embodiments of the present disclosure.
도 1을 참조하면 치매를 식별하는 시스템은 치매를 식별하는 장치(100) 및 치매 식별을 위한 디지털 바이오 마커 데이터인 음성 데이터를 획득하는 사용자 단말기(200)를 포함할 수 있다. 여기서, 사용자 단말기(200)는 치매 식별을 필요로 하는 사용자가 사용하는 단말기일 수 있다. 다만, 이에 한정되는 것은 아니다. Referring to FIG. 1 , a system for identifying dementia may include an
장치(100)와 사용자 단말기(200)는 유/무선 네트워크(300)를 통해 통신이 연결될 수 있다. Communication between the
도 1에 도시된 시스템을 구성하는 구성요소들은 치매를 식별하는 시스템을 구현하는데 있어서 필수적인 것은 아니어서, 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다. Components constituting the system shown in FIG. 1 are not essential for implementing a system for identifying dementia, and may have more or fewer components than those listed above.
본 개시의 장치(100)는 유/무선 네트워크(wire/wireless network)(300)를 통하여 사용자 단말기(200)와 페어링 또는 연결(pairing or connecting) 가능하며, 이를 통해 소정 데이터를 송/수신할 수 있다. 이 경우, 유/무선 네트워크(300)를 통해 송/수신되는 데이터는 송/수신 전에 변환(converting)될 수 있다. 여기서, “유/무선 네트워크”(300)라 함은, 장치(100)와 사용자 단말기(200) 사이에서 페어링 또는/및 데이터 송수신을 위해 다양한 통신 규격 내지 프로토콜을 지원하는 통신 네트워크를 통칭한다. 이러한 유/무선 네트워크(300)는, 규격에 의해 현재 또는 향후 지원될 통신 네트워크를 모두 포함하며, 그를 위한 하나 또는 그 이상의 통신 프로토콜들을 모두 지원 가능하다. The
치매를 식별하는 장치(100)는 적어도 하나의 프로세서(110)(이하, 적어도 하나의 프로세서는 프로세서라고 지칭함), 저장부(120) 및 통신부(130)를 포함할 수 있다. 도 1에 도시된 구성요소들은 장치(100)를 구현하는데 있어서 필수적인 것은 아니어서, 본 개시에서 설명되는 장치(100)는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다. The
본 개시의 장치(100)의 각 구성요소는 실제 구현되는 장치(100)의 사양에 따라 통합, 추가, 또는 생략될 수 있다. 즉, 필요에 따라, 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나 하나의 구성요소가 2 이상의 구성요소로 세분화될 수 있다. 또한, 각 블록에서 수행하는 기능은 본 개시의 실시예를 설명하기 위한 것이며, 그 구체적인 동작이나 장치는 본 발명의 권리범위를 제한하지 아니한다.Each component of the
본 개시에서 설명되는 장치(100)는 데이터(data), 콘텐츠(content), 서비스(service) 및 애플리케이션(application) 등을 송신 및 수신 중 적어도 하나 이상을 수행하는 모든 디바이스를 포함할 수 있다. 다만, 이에 한정되는 것은 아니다. The
본 개시의 장치(100)에는 예를 들어, 서버(server), PC(Personal Computer), 마이크로프로세서, 메인프레임 컴퓨터, 디지털 프로세서, 디바이스 제어기 등과 같은 고정형 디바이스(standing device) 스마트 폰(Smart Phone), 태블릿 PC(Tablet PC), 노트북(Notebook) 등과 같은 모바일 디바이스(mobile device or handheld device)가 모두 포함될 수 있다. 다만, 이에 한정되는 것은 아니다. The
본 개시에서, "서버"라 함은, 다양한 종류의 사용자 단말기 즉, 클라이언트(client)로 데이터를 공급 또는 그로부터 데이터를 수신하는 장치 혹은 시스템을 의미한다. 서버로 예컨대, 웹 페이지(web page), 웹 컨텐트 또는 웹 서비스(web content or web service)를 제공하는 웹 서버(Web server)나 포털 서버(portal server), 광고 데이터(advertising data)를 제공하는 광고 서버(advertising server), 컨텐트를 제공하는 컨텐트 서버(content server), SNS(Social Network Service)를 제공하는 SNS 서버, 제조업체(manufacturer)에서 제공하는 서비스 서버(service server), VoD(Video on Demand)나 스트리밍(streaminng) 서비스 제공을 위한 MVPD(Multichannel Video Programming Distributor), 유료 서비스(pay service) 등을 제공하는 서비스 서버 등이 포함될 수 있다.In the present disclosure, a "server" refers to a device or system that supplies data to or receives data from various types of user terminals, that is, clients. As a server, for example, a web server or portal server that provides a web page, web content or web service, or an advertisement that provides advertising data Server (advertising server), content server (content server) that provides content, SNS (Social Network Service) server that provides SNS, service server (manufacturer) provided by the manufacturer, video on demand (VoD) or A multichannel video programming distributor (MVPD) for providing a streaming service, a service server for providing a pay service, and the like may be included.
본 개시에서 장치(100)로 명명하는 경우, 그 의미는 문맥에 따라 서버를 의미하나, 고정형 디바이스 또는 모바일 디바이스를 의미할 수도 있고 특별히 언급하지 않는다면 모두 포함하는 의미로 사용될 수도 있다. In the present disclosure, when the
프로세서(110)는 응용 프로그램과 관련된 동작 외에도 통상적으로 장치(100)의 전반적인 동작을 제어할 수 있다. 프로세서(110)는 장치(100)의 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 저장부(120)에 저장된 응용 프로그램을 구동함으로써, 적절한 정보 또는 기능을 제공 또는 처리할 수 있다. The
프로세서(110)는 저장부(120)에 저장된 응용 프로그램을 구동하기 위하여 장치(100)의 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 프로세서(110)는 응용 프로그램의 구동을 위하여 장치(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다. The
프로세서(110)는 하나 이상의 코어로 구성될 수 있으며, 다양한 상용 프로세서들 중 임의의 프로세서일 수 있다. 예를 들어, 프로세서(110)는 장치의 중앙 처리 장치(CPU: Central Processing Unit), 범용 그래픽 처리 장치 (GPUGP: General Purpose Graphics Processing Unit), 텐서 처리 장치(TPU: Tensor Processing Unit) 등을 포함할 수 있다. 다만, 이에 한정되는 것은 아니다.
본 개시의 프로세서(110)는 듀얼 프로세서 또는 기타 멀티프로세서 아키텍처로 구성될 수 있다. 다만, 이에 한정되는 것은 아니다. The
프로세서(110)는 저장부(120)에 저장된 컴퓨터 프로그램을 판독하여 본 개시의 몇몇 실시예에 따른 치매 식별 모델을 이용하여 사용자가 치매인지 여부를 식별할 수 있다. The
저장부(120)는, 장치(100)의 다양한 기능을 지원하는 데이터를 저장할 수 있다. 저장부(120)는 장치(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 장치(100)의 동작을 위한 데이터들, 명령어들, 적어도 하나의 프로그램 명령을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운될 수 있다. 또한, 이러한 응용 프로그램 중 적어도 일부는, 장치(100)의 기본적인 기능을 위하여 출고 당시부터 장치(100) 상에 존재할 수도 있다. 한편, 응용 프로그램은, 저장부(120)에 저장되고, 장치(100) 상에 설치되어 프로세서(110)에 의하여 장치(100)의 동작(또는 기능)을 수행하도록 구동될 수 있다. The
저장부(120)는 프로세서(110)에서 생성하거나 결정한 임의의 형태의 정보 및 통신부(130)를 통해 수신한 임의의 형태의 정보를 저장할 수 있다. The
저장부(120)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 장치(100)는 인터넷(internet) 상에서 저장부(120)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다. The
본 개시의 몇몇 실시예에 따르면, 장치(100)의 저장부(120)는 기 학습된 치매 식별 모델을 저장하고 있을 수 있다. According to some embodiments of the present disclosure, the
치매 식별 모델은, 학습용 입력 데이터에 라벨링 된 라벨 데이터와 치매 식별 모델에서 출력된 예측 데이터 사이의 차이 값을 역전파(back propagation)하여 신경망의 가중치를 업데이트하는 방법으로 학습될 수 있다. The dementia identification model may be learned by back-propagating a difference between the label data labeled in the training input data and the prediction data output from the dementia identification model to update the weights of the neural network.
본 개시에서 학습용 입력 데이터는 복수의 테스트 사용자 각각이 자신의 테스트 장치를 통해 본 개시의 몇몇 실시예에 따른 복수의 태스크를 수행하여 획득될 수 있다. 여기서, 학습용 입력 데이터는 복수의 태스크를 수행하여 획득된 복수의 제1 학습용 음성 데이터 및 제2 학습용 음성 데이터를 이용하여 획득된 학습용 내용 분석 정보 및 학습용 음성 활동 분석 정보일 수 있다. 다만, 이에 한정되는 것은 아니다. In the present disclosure, input data for learning may be acquired by each of a plurality of test users performing a plurality of tasks according to some embodiments of the present disclosure through their own test device. Here, the input data for learning may be content analysis information for learning and voice activity analysis information for learning obtained by using a plurality of first learning voice data and second learning voice data obtained by performing a plurality of tasks. However, it is not limited thereto.
본 개시에서 테스트 사용자는, 경도 인지 장애가 존재하는 환자로 분류되는 사용자, 알츠하이머 환자로 분류되는 사용자, 정상으로 분류되는 사용자 등을 포함할 수 있다. 다만 이에 한정되는 것은 아니다. In the present disclosure, a test user may include a user classified as a patient with mild cognitive impairment, a user classified as an Alzheimer's patient, a user classified as normal, and the like. However, it is not limited thereto.
본 개시에서 테스트 장치는 학습용 입력 데이터를 확보할 때 다양한 테스트 사용자들이 테스트를 수행하는 장치를 의미할 수 있다. 여기서, 테스트 장치는, 치매 식별에 사용되는 사용자 단말기(200)와 동일하게 휴대폰, 스마트 폰(smart phone), 태블릿 PC(tablet PC), 울트라북(ultrabook) 등과 같은 이동 단말기(mobile device)일 수 있다. 다만, 이에 한정되는 것은 아니다. In the present disclosure, a test device may refer to a device through which various test users perform tests when acquiring input data for learning. Here, the test device may be a mobile device such as a mobile phone, a smart phone, a tablet PC, or an ultrabook, the same as the
본 개시에서 라벨 데이터는 정상, 알츠하이머 환자 및 경도 인지 장애가 존재하는 환자인지 여부를 인지할 수 있는 스코어 값일 수 있다. 다만, 이에 한정되는 것은 아니다. In the present disclosure, the label data may be a score value capable of recognizing whether the patient is a normal patient, an Alzheimer's patient, or a patient with mild cognitive impairment. However, it is not limited thereto.
치매 식별 모델은 일반적으로 노드로 지칭될 수 있는 상호 연결된 계산 단위들의 집합으로 구성될 수 있다. 이러한 노드들은 뉴런(neuron)들로 지칭될 수도 있다. 신경망은 적어도 하나의 노드들을 포함하여 구성될 수 있다. 신경망들을 구성하는 노드(또는 뉴런)들은 하나 이상의 링크에 의해 상호 연결될 수 있다.A dementia identification model can be composed of a set of interconnected computational units, which can generally be referred to as nodes. These nodes may also be referred to as neurons. A neural network may include at least one node. Nodes (or neurons) constituting neural networks may be interconnected by one or more links.
치매 식별 모델 내에서, 링크를 통해 연결된 하나 이상의 노드들은 상대적으로 입력 노드 및 출력 노드의 관계를 형성할 수 있다. 입력 노드 및 출력 노드의 개념은 상대적인 것으로서, 하나의 노드에 대하여 출력 노드 관계에 있는 임의의 노드는 다른 노드와의 관계에서 입력 노드 관계에 있을 수 있으며, 그 역도 성립할 수 있다. 상술한 바와 같이, 입력 노드 대 출력 노드 관계는 링크를 중심으로 생성될 수 있다. 하나의 입력 노드에 하나의 출력 노드가 링크를 통해 연결될 수 있으며, 그 역도 성립할 수 있다. Within the dementia identification model, one or more nodes connected through a link may form a relationship of a relative input node and an output node. The concept of an input node and an output node is relative, and any node in an output node relationship with one node may have an input node relationship with another node, and vice versa. As described above, an input node to output node relationship may be created around a link. One input node can be connected to one output node through a link, and vice versa.
하나의 링크를 통해 연결된 입력 노드 및 출력 노드 관계에서 출력 노드의 데이터는 입력 노드에 입력된 데이터에 기초하여 그 값이 결정될 수 있다. 여기서, 입력 노드와 출력 노드를 상호 연결하는 링크는 가중치(weight)를 가질 수 있다. 가중치는 가변적일 수 있으며, 신경망이 원하는 기능을 수행하기 위해, 사용자 또는 알고리즘에 의해 가변될 수 있다. In a relationship between an input node and an output node connected through one link, the value of data of an output node may be determined based on data input to the input node. Here, a link interconnecting an input node and an output node may have a weight. The weight may be variable, and may be changed by a user or an algorithm in order to perform a function desired by the neural network.
예를 들어, 하나의 출력 노드에 하나 이상의 입력 노드가 각각의 링크에 의해 상호 연결된 경우, 출력 노드는 상기 출력 노드와 연결된 입력 노드들에 입력된 값들 및 각각의 입력 노드들에 대응하는 링크에 설정된 가중치에 기초하여 출력 노드 값을 결정할 수 있다. For example, when one or more input nodes are interconnected by respective links to one output node, the output node is set to a link corresponding to values input to input nodes connected to the output node and respective input nodes. An output node value may be determined based on the weight.
상술한 바와 같이, 치매 식별 모델은 하나 이상의 노드들이 하나 이상의 링크를 통해 상호 연결되어 신경망 내에서 입력 노드 및 출력 노드 관계를 형성할 수 있다. 치매 식별 모델 내에서 노드들과 링크들의 개수 및 노드들과 링크들 사이의 연관 관계, 링크들 각각에 부여된 가중치의 값에 따라, 치매 식별 모델의 특성이 결정될 수 있다. As described above, in the dementia identification model, one or more nodes may be interconnected through one or more links to form a relationship between an input node and an output node in a neural network. Characteristics of the dementia identification model may be determined according to the number of nodes and links in the dementia identification model, an association between the nodes and links, and a weight value assigned to each link.
치매 식별 모델은 하나 이상의 노드들의 집합으로 구성될 수 있다. 치매 식별 모델을 구성하는 노드들의 부분 집합은 레이어(layer)를 구성할 수 있다. 치매 식별 모델을 구성하는 노드들 중 일부는, 최초 입력 노드로부터의 거리들에 기초하여, 하나의 레이어(layer)를 구성할 수 있다. 예를 들어, 최초 입력 노드로부터 거리가 n인 노드들의 집합은, n 레이어를 구성할 수 있다. 최초 입력 노드로부터 거리는, 최초 입력 노드로부터 해당 노드까지 도달하기 위해 거쳐야 하는 링크들의 최소 개수에 의해 정의될 수 있다. 그러나, 이러한 레이어의 정의는 설명을 위한 임의적인 것으로서, 치매 식별 모델 내에서 레이어의 차수는 상술한 것과 상이한 방법으로 정의될 수 있다. 예를 들어, 노드들의 레이어는 최종 출력 노드로부터 거리에 의해 정의될 수도 있다.A dementia identification model may be composed of a set of one or more nodes. A subset of nodes constituting the dementia identification model may constitute a layer. Some of the nodes constituting the dementia identification model may constitute one layer based on distances from the first input node. For example, a set of nodes having a distance of n from the first input node may constitute n layers. The distance from the first input node may be defined by the minimum number of links that must be passed through to reach the corresponding node from the first input node. However, the definition of such a layer is arbitrary for explanation, and the order of a layer in the dementia identification model may be defined in a different way from the above. For example, a layer of nodes may be defined by a distance from a final output node.
최초 입력 노드는 신경망 내의 노드들 중 다른 노드들과의 관계에서 링크를 거치지 않고 학습용 입력 데이터가 직접 입력되는 하나 이상의 노드들을 의미할 수 있다. 또는, 치매 식별 모델 내에서, 링크를 기준으로 한 노드 간의 관계에 있어서, 링크로 연결된 다른 입력 노드들을 가지지 않는 노드들을 의미할 수 있다. 이와 유사하게, 최종 출력 노드는 신경망 내의 노드들 중 다른 노드들과의 관계에서, 출력 노드를 가지지 않는 하나 이상의 노드들을 의미할 수 있다. 또한, 히든 노드는 최초 입력 노드 및 최후 출력 노드가 아닌 신경망을 구성하는 노드들을 의미할 수 있다. An initial input node may refer to one or more nodes to which input data for learning is directly input without going through a link in relation to other nodes among nodes in the neural network. Alternatively, in the relationship between nodes based on links in the dementia identification model, it may refer to nodes that do not have other input nodes connected by links. Similarly, the final output node may refer to one or more nodes that do not have an output node in relation to other nodes among nodes in the neural network. Also, the hidden node may refer to nodes constituting the neural network other than the first input node and the last output node.
본 개시의 몇몇 실시예에 따른 치매 식별 모델은 입력 레이어의 노드의 개수가 출력 레이어의 노드의 개수보다 많을 수 있으며, 입력 레이어에서 히든 레이어로 진행됨에 따라 노드의 수가 감소하는 형태의 신경망일 수 있다. 그리고, 입력 레이어의 노드 각각에 학습용 입력 데이터가 입력될 수 있다. 다만, 이에 한정되는 것은 아니다. The dementia identification model according to some embodiments of the present disclosure may be a neural network in which the number of nodes in the input layer may be greater than the number of nodes in the output layer and the number of nodes decreases as the number of nodes progresses from the input layer to the hidden layer. . In addition, input data for learning may be input to each node of the input layer. However, it is not limited thereto.
본 개시의 몇몇 실시예에 따르면, 치매 식별 모델은 딥 뉴럴 네트워크 구조를 가질 수 있다. According to some embodiments of the present disclosure, the dementia identification model may have a deep neural network structure.
딥 뉴럴 네트워크(DNN: deep neural network, 심층신경망)는 입력 레이어와 출력 레이어 외에 복수의 히든 레이어를 포함하는 신경망을 의미할 수 있다. 딥 뉴럴 네트워크를 이용하면 데이터의 잠재적인 구조(latent structures)를 파악할 수 있다. A deep neural network (DNN) may refer to a neural network including a plurality of hidden layers in addition to an input layer and an output layer. Deep neural networks can reveal latent structures in data.
딥 뉴럴 네트워크는 컨볼루션 뉴럴 네트워크(CNN: convolutional neural network), 리커런트 뉴럴 네트워크(RNN: recurrent neural network), 오토 인코더(auto encoder), GAN(Generative Adversarial Networks), 제한 볼츠만 머신(RBM: restricted boltzmann machine), 심층 신뢰 네트워크(DBN: deep belief network), Q 네트워크, U 네트워크, 샴 네트워크, 적대적 생성 네트워크(GAN: Generative Adversarial Network) 등을 포함할 수 있다. 전술한 딥 뉴럴 네트워크의 기재는 예시일 뿐이며 본 개시는 이에 제한되지 않는다. Deep neural networks include convolutional neural networks (CNNs), recurrent neural networks (RNNs), auto encoders, generative adversarial networks (GANs), and restricted boltzmann machines (RBMs). machine), a deep belief network (DBN), a Q network, a U network, a Siamese network, a Generative Adversarial Network (GAN), and the like. The description of the deep neural network described above is only an example, and the present disclosure is not limited thereto.
본 개시의 치매 식별 모델은 교사 학습(supervised learning) 방식으로 학습될 수 있다. 다만, 이에 한정되는 것은 아니고, 치매 식별 모델은 비교사 학습(unsupervised learning), 반교사학습(semi supervised learning), 또는 강화학습(reinforcement learning) 중 적어도 하나의 방식으로 학습될 수도 있다. The dementia identification model of the present disclosure may be learned using a supervised learning method. However, it is not limited thereto, and the dementia identification model may be learned by at least one of unsupervised learning, semi-supervised learning, and reinforcement learning.
치매 식별 모델의 학습은 치매 식별 모델이 치매를 식별하는 동작을 수행하기 위한 지식을 뉴럴 네트워크에 적용하는 과정일 수 있다. Learning of the dementia identification model may be a process of applying knowledge for the dementia identification model to perform an operation of identifying dementia to a neural network.
치매 식별 모델은 출력의 오류를 최소화하는 방향으로 학습될 수 있다. 치매 식별 모델의 학습에서 반복적으로 학습용 입력 데이터를 치매 식별 모델에 입력시키고 학습용 입력 데이터에 대한 치매 식별 모델의 출력(뉴럴 네트워크를 통해 예측된 스코어 값)과 타겟(라벨 데이터로 사용된 스코어 값)의 에러를 계산하고, 에러를 줄이기 위한 방향으로 치매 식별 모델의 에러를 치매 식별 모델의 출력 레이어에서부터 입력 레이어 방향으로 역전파(backpropagation)하여 치매 식별 모델의 각 노드의 가중치를 업데이트 하는 과정이다. The dementia identification model can be trained in a way to minimize output errors. In the learning of the dementia identification model, the input data for learning is repeatedly input into the dementia identification model, and the output of the dementia identification model for the input data for learning (score value predicted through the neural network) and the target (score value used as label data) This is the process of calculating the error and backpropagating the error of the dementia identification model from the output layer of the dementia identification model to the input layer in the direction of reducing the error, thereby updating the weight of each node of the dementia identification model.
업데이트 되는 각 노드의 연결 가중치는 학습률(learning rate)에 따라 변화량이 결정될 수 있다. 입력 데이터에 대한 치매 식별 모델의 계산과 에러의 역전파는 학습 사이클(epoch)을 구성할 수 있다. 학습률은 치매 식별 모델의 학습 사이클의 반복 횟수에 따라 상이하게 적용될 수 있다. 예를 들어, 치매 식별 모델의 학습 초기에는 높은 학습률을 사용하여 치매 식별 모델이 빠르게 일정 수준의 성능을 확보하도록 하여 효율성을 높이고, 학습 후기에는 낮은 학습률을 사용하여 정확도를 높일 수 있다.The amount of change in the connection weight of each updated node may be determined according to a learning rate. Calculation of the dementia identification model for input data and backpropagation of errors may constitute a learning cycle (epoch). The learning rate may be applied differently according to the number of iterations of the learning cycle of the dementia identification model. For example, a high learning rate is used in the initial stage of learning of the dementia identification model, so that the dementia identification model can quickly secure a certain level of performance to increase efficiency, and in the later stage of learning, a low learning rate can be used to increase accuracy.
치매 식별 모델의 학습에서 학습용 입력 데이터는 실제 데이터(즉, 학습된 치매 식별 모델을 이용하여 처리하고자 하는 데이터)의 부분집합일 수 있으며, 따라서, 학습용 입력 데이터에 대한 오류는 감소하나 실제 데이터에 대해서는 오류가 증가하는 학습 사이클이 존재할 수 있다. 과적합(overfitting)은 이와 같이 학습용 입력 데이터에 과하게 학습하여 실제 데이터에 대한 오류가 증가하는 현상이다. In the learning of the dementia identification model, the input data for learning may be a subset of actual data (ie, data to be processed using the learned dementia identification model). Therefore, errors in the input data for learning are reduced, but for the actual data There may be learning cycles with increasing errors. Overfitting is a phenomenon in which errors for actual data increase due to excessive learning on the input data for learning.
과적합은 머신러닝 알고리즘의 오류를 증가시키는 원인으로 작용할 수 있다. 이러한 과적합을 막기 위하여 다양한 최적화 방법이 사용될 수 있다. 과적합을 막기 위해서는 학습용 입력 데이터를 증가시키거나, 레귤라이제이션(regularization), 학습의 과정에서 네트워크의 노드 일부를 비활성화하는 드롭아웃(dropout), 배치 정규화 레이어(batch normalization layer)의 활용 등의 방법이 적용될 수 있다.Overfitting can act as a cause of increasing the error of machine learning algorithms. Various optimization methods can be used to prevent such overfitting. In order to prevent overfitting, methods such as increasing the input data for learning, regularization, inactivating some nodes in the network during learning, and using a batch normalization layer are methods. can be applied
한편, 본 개시의 몇몇 실시예에 따르면 저장부(120)는 복수의 스토리 각각에 대한 복수의 이미지를 저장할 수 있다. 여기서, 복수의 이미지는 복수의 제1 음성 데이터를 획득할 때 순차적으로 디스플레이되는 이미지일 수 있다. 그리고, 복수의 스토리 마다 서로 다른 복수의 이미지들이 저장되어 있을 수 있다. 이는 도 4 및 도 5를 참조하여 좀더 자세히 후술한다. Meanwhile, according to some embodiments of the present disclosure, the
통신부(130)는 장치(100)와 유선/무선 통신 시스템 사이, 장치(100)와 다른 장치 사이 또는 장치(100)와 외부 서버 사이의 유선/무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 통신부(130)는 장치(100)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다. The
통신부(130)는 유선/무선 인터넷 접속을 위한 모듈을 말하는 것으로 장치(100)에 내장되거나 외장될 수 있다. 통신부(130)는 유선/무선 신호를 송수신하도록 이루어질 수 있다. The
통신부(130)는 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)에 따라 구축된 이동 통신망 상에서 기지국, 외부의 단말 및 서버 중 적어도 하나와 무선 신호를 송수신할 수 있다. The
무선 인터넷 기술로는, 예를 들어 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있을 수 있다. 다만, 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 통신부(130)는 데이터를 송수신할 수 있다. Wireless Internet technologies include, for example, WLAN (Wireless LAN), Wi-Fi (Wireless-Fidelity), Wi-Fi (Wireless Fidelity) Direct, DLNA (Digital Living Network Alliance), WiBro (Wireless Broadband), WiMAX (World Interoperability for Microwave Access), High Speed Downlink Packet Access (HSDPA), High Speed Uplink Packet Access (HSUPA), Long Term Evolution (LTE), Long Term Evolution-Advanced (LTE-A), and the like. However, the
더불어, 통신부(130)는 근거리 통신(Short range communication)을 통해 신호를 송수신하도록 이루어질 수도 있다. 통신부(130)는 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra-Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여 근거리 통신을 수행할 수 있다. 통신부(130)는 근거리 통신망(Wireless Area Networks)을 통해 무선 통신을 지원할 수 있다. 근거리 무선 통신망은 근거리 무선 개인 통신망(Wireless Personal Area Networks)일 수 있다.In addition, the
본 개시의 몇몇 실시예에 따른 장치(100)는 통신부(130)를 통해 사용자 단말기(200)와 유/무선 네트워크(300)가 연결될 수 있다. In the
본 개시에서 사용자 단말기(200)는 유/무선 네트워크(wire/wireless network)(300)를 통하여 치매 식별 모델이 저장된 장치(100)와 페어링 또는 연결(pairing or connecting) 가능하며, 이를 통해 소정 데이터를 송/수신 및 디스플레이할 수 있다. In the present disclosure, the
본 개시에서 설명되는 사용자 단말기(200)는 데이터(data), 콘텐츠(content), 서비스(service) 및 애플리케이션(application) 등을 송신, 수신 및 디스플레이 중 적어도 하나 이상을 수행하는 모든 디바이스를 포함할 수 있다. 그리고, 사용자 단말기(200)는 치매인지 여부를 확인하고 싶어하는 사용자의 단말기를 의미할 수 있다. 다만, 이에 한정되는 것은 아니다. The
본 개시에서 사용자 단말기(200)는 예를 들어, 휴대폰, 스마트 폰(smart phone), 태블릿 PC(tablet PC), 울트라북(ultrabook) 등과 같은 이동 단말기(mobile device)를 포함할 수 있다. 다만, 이에 한정되는 것은 아니고, 사용자 단말기(200)는 PC(Personal Computer), 마이크로프로세서, 메인프레임 컴퓨터, 디지털 프로세서, 디바이스 제어기 등과 같은 고정형 디바이스(standing device)도 포함할 수 있다. In the present disclosure, the
사용자 단말기(200)는 프로세서(210), 저장부(220), 통신부(230), 음향 데이터 획득부(240), 디스플레이부(250) 및 음향 출력부(260)를 포함할 수 있다. 도 1에 도시된 구성요소들은 사용자 단말기(200)를 구현하는데 있어서 필수적인 것은 아니어서, 본 개시에서 설명되는 사용자 단말기(200)는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다. The
본 개시의 사용자 단말기(200)의 각 구성요소는 실제 구현되는 사용자 단말기(200)의 사양에 따라 통합, 추가, 또는 생략될 수 있다. 즉, 필요에 따라, 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나 하나의 구성요소가 2 이상의 구성요소로 세분화될 수 있다. 또한, 각 블록에서 수행하는 기능은 본 개시의 실시예를 설명하기 위한 것이며, 그 구체적인 동작이나 장치는 본 발명의 권리범위를 제한하지 아니한다.Each component of the
사용자 단말기(200)의 프로세서(210), 저장부(220) 및 통신부(230)는 장치(100)의 프로세서(110), 저장부(120) 및 통신부(130)와 동일한 구성 요소이므로, 중복되는 설명은 생략하고, 이하 차이점을 중심으로 설명한다. Since the
본 개시에서 사용자 단말기(200)의 프로세서(210)는 음성 데이터를 획득하기 위한 화면을 디스플레이하도록 디스플레이부(250)를 제어할 수 있다. 여기서, 음성 데이터를 획득하기 위한 화면은 스토리와 관련된 복수의 이미지 각각을 디스플레이하는 화면일 수 있다. 다만, 이에 한정되는 것은 아니다. In the present disclosure, the
본 개시의 몇몇 실시예에 따르면, 스토리와 관련된 복수의 이미지는 장치(100)의 저장부(120)에 저장되어 있을 수도 있고, 사용자 단말기(200)의 저장부(220)에 저장되어 있을 수도 있다. According to some embodiments of the present disclosure, a plurality of images related to the story may be stored in the
복수의 이미지가 장치(100)의 저장부(120)에 저장되어 있는 경우, 사용자 단말기(200)의 프로세서(210)는 복수의 이미지 중 1차 이미지(첫번째 이미지)를 디스플레이할 때 장치(100)에 1차 이미지 요청 신호를 전송한 후 1차 이미지를 수신하도록 통신부(230)를 제어할 수 있다. 사용자 단말기(200)의 프로세서(210)는 1차 이미지를 수신한 경우 1차 이미지를 디스플레이하도록 디스플레이부(250)를 제어할 수 있다. 다음 이미지들은 1차 이미지를 디스플레이한 방법과 동일한 방법으로 사용자 단말기(200)에서 디스플레이될 수 있다. 다만, 이에 한정되는 것은 아니다. When a plurality of images are stored in the
복수의 이미지가 사용자 단말기(200)의 저장부(220)에 저장되어 있는 경우, 사용자 단말기(200)의 프로세서(210)는 저장부(220)에 저장된 복수의 이미지를 순차적으로 디스플레이하도록 디스플레이부(250)를 제어할 수 있다. When a plurality of images are stored in the
한편, 치매 식별 모델을 이용한 연산을 수행하기 위해서는 높은 처리 속도 및 연산 능력이 필요하기 때문에 치매 식별 모델은 장치(100)의 저장부(120)에만 저장되어 있고, 사용자 단말기(200)의 저장부(220)에는 저장되어 있지 않을 수 있다. 다만, 이에 한정되는 것은 아니다. Meanwhile, since high processing speed and computational capability are required to perform calculations using the dementia identification model, the dementia identification model is stored only in the
음향 데이터 획득부(240)는 외부의 음향 신호를 전기적인 음향 데이터로 처리할 수 있다. 처리된 음향 데이터는 사용자 단말기(200)에서 수행 중인 기능(또는 실행 중인 응용 프로그램)에 따라 다양하게 활용될 수 있다. 한편, 음향 데이터 획득부(240)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다. The acoustic
본 개시에서 음향 데이터 획득부(240)는 프로세서(210)의 제어 하에 사용자의 음성을 녹음한 음성 데이터를 획득할 수 있다. 다만, 이에 한정되는 것은 아니다.In the present disclosure, the sound
구체적으로, 사용자 단말기(200)의 프로세서(210)는 복수의 이미지를 순차적으로 디스플레이되는 동안 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득할 수 있다. Specifically, the
좀더 구체적으로, 사용자 단말기(200)의 프로세서(210)는 복수의 이미지 중 1차 이미지가 디스플레이될 때 제1 버튼(예를 들어, 시작 버튼)을 함께 디스플이하도록 디스플레이부(250)를 제어할 수 있다. 프로세서(210)는 제1 버튼에 대한 제1 터치 입력이 입력된 경우, 제1 버튼 대신 제2 버튼(예를 들어, 완료 버튼)을 1차 이미지와 함께 디스플레이하는 것과 연동하여 음향 데이터 획득부(240)를 활성화하여 1차 이미지와 관련된 음성 데이터를 획득하기 시작할 수 있다. 그리고, 프로세서(210)는 제2 버튼에 대한 제2 터치 입력이 입력된 경우, 음성 데이터 획득을 종료할 수 있다. 즉, 1차 이미지가 디스플레이될 때 획득되는 음성 데이터는 제1 터치 입력이 입력된 시점부터 제2 터치 입력이 입력된 시점까지의 사용자의 음성을 녹음한 음성 데이터일 수 있다. More specifically, the
사용자 단말기(200)의 프로세서(210)는 하나의 스토리와 관련된 복수의 이미지를 디스플레이하면서 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득할 수 있다. The
본 개시의 몇몇 실시예에 따르면, 프로세서(210)는 복수의 제1 음성 데이터를 장치(100)에 전송하도록 통신부(230)를 제어할 수 있다. According to some embodiments of the present disclosure, the
일례로, 프로세서(210)는 복수의 제1 음성 데이터 각각을 획득할 때마다 실시간으로 복수의 제1 음성 데이터 각각을 장치(100)에 전송하도록 통신부(230)를 제어할 수 있다.For example, the
다른 일례로, 프로세서(210)는 복수의 제1 음성 데이터를 모두 획득한 때 장치(100)에 복수의 제1 음성 데이터를 전송하도록 통신부(230)를 제어할 수 있다. As another example, the
또 다른 일례로, 프로세서(210)는 복수의 제1 음성 데이터를 모두 획득한 후 이미지 디스플레이 없이 제2 음성 데이터까지 모두 획득한 때 장치(100)에 복수의 제1 음성 데이터 및 제2 음성 데이터를 전송하도록 통신부(230)를 제어할 수 있다. As another example, the
다만, 상술한 예시들은 일 예에 불과할 뿐 본 개시가 상술한 예시들에 한정되는 것은 아니다. However, the above-described examples are merely examples, and the present disclosure is not limited to the above-described examples.
한편, 사용자 단말기(200)의 프로세서(210)는 하나의 스토리와 관련된 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득한 경우, 이미지의 디스플레이 없이 제2 음성 데이터를 획득하도록 음향 데이터 획득부(240)를 제어할 수 있다. Meanwhile, when the
구체적으로, 사용자 단말기(200)의 프로세서(210)는 스토리 내용을 전부 이야기하라는 내용의 메시지를 제3 버튼(예를 들어, 시작 버튼)과 함께 디스플이하도록 디스플레이부(250)를 제어할 수 있다. 프로세서(210)는 제3 버튼에 대한 제3 터치 입력이 입력된 경우, 제3 버튼 대신 제4 버튼(예를 들어, 완료 버튼)을 메시지와 함께 디스플레이하는 것과 연동하여 음향 데이터 획득부(240)를 활성화하여 스토리와 관련된 제2 음성 데이터를 획득하기 시작할 수 있다. 그리고, 프로세서(210)는 제4 버튼에 대한 제4 터치 입력이 입력된 경우, 제2 음성 데이터 획득을 종료할 수 있다. 즉, 제2 음성 데이터는 제3 터치 입력이 입력된 시점부터 제4 터치 입력이 입력된 시점까지의 사용자의 음성을 녹음한 음성 데이터일 수 있다.Specifically, the
디스플레이부(250)는 사용자 단말기(200)에서 처리되는 정보를 표시(출력)할 수 있다. 예를 들어, 디스플레이부(250)는 사용자 단말기(200)에서 구동되는 응용 프로그램의 실행 화면 정보 또는 이러한 실행 화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다. The
디스플레이부(250)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다. 다만, 이에 한정되는 것은 아니다. The
본 개시의 디스플레이부(250)는 프로세서(210)의 제어 하에 스토리와 관련된 복수의 이미지 각각을 순차적으로 디스플레이할 수 있다. The
음향 출력부(260)는 통신부(230)로부터 수신되거나 저장부(220)에 저장된 오디오 데이터(또는 음향 데이터 등)를 출력할 수 있다. 음향 출력부(260)는 사용자 단말기(200)에서 수행되는 기능과 관련된 음향 신호를 출력하기도 한다. The
음향 출력부(260)는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등을 포함할 수 있다. 즉, 음향 출력부(260)는 리시버(receiver)로 구현될 수도 있으며 라우드 스피커(loud speaker)의 형태로 구현될 수도 있다. 다만, 이에 한정되는 것은 아니다. The
본 개시의 몇몇 실시예에 따르면, 음향 출력부(260)는 복수의 이미지를 디스플레이하기 전에 사용자가 수행해야 되는 작업을 설명하는 메시지를 포함하는 화면을 출력하는 것과 연동하여 기 설정된 음향(예를 들어, 사용자가 수행해야 되는 작업을 설명하는 음성)을 출력할 수 있다. 다만, 이에 한정되는 것은 아니다. According to some embodiments of the present disclosure, the
본 개시의 몇몇 실시예에 따르면, 사용자 단말기(200)의 프로세서(210)는 치매 식별을 위한 디지털 바이오 마커 데이터인 복수의 제1 음성 데이터 및 제2 음성 데이터를 획득할 수 있다. 이는 도 2를 참조하여 좀더 자세히 후술한다. According to some embodiments of the present disclosure, the
도 2는 본 개시의 몇몇 실시예에 따라 치매 식별을 위한 디지털 바이오 마커 데이터인 복수의 제1 음성 데이터 및 제2 음성 데이터를 획득하는 방법의 일례를 설명하기 위한 흐름도이다. 도 3은 본 개시의 몇몇 실시예에 따라 복수의 제1 음성 데이터를 획득하는 방법의 일례를 설명하기 위한 도면이다. 도 4 및 도 5는 본 개시의 몇몇 실시예에 따라 복수의 제1 음성 데이터를 획득할 때 디스플레이되는 복수의 이미지를 설명하기 위한 도면이다. 도 6은 본 개시의 몇몇 실시예에 따라 복수의 제1 음성 데이터를 획득하기 전에 수행되는 태스크의 일례를 설명하기 위한 도면이다. 도 7은 본 개시의 몇몇 실시예에 따라 제2 음성 데이터를 획득하는 방법의 일례를 설명하기 위한 도면이다. 도 2 내지 도 7과 관련하여 도 1과 관련하여 상술한 바와 중복되는 내용은 다시 설명하지 않으며, 이하 차이점을 중심으로 설명한다. FIG. 2 is a flowchart illustrating an example of a method of acquiring a plurality of first voice data and second voice data, which are digital biomarker data for dementia identification, according to some embodiments of the present disclosure. 3 is a diagram for explaining an example of a method of obtaining a plurality of first voice data according to some embodiments of the present disclosure. 4 and 5 are diagrams for explaining a plurality of images displayed when acquiring a plurality of first voice data according to some embodiments of the present disclosure. 6 is a diagram for explaining an example of a task performed before obtaining a plurality of first voice data according to some embodiments of the present disclosure. 7 is a diagram for explaining an example of a method of acquiring second voice data according to some embodiments of the present disclosure. In relation to FIGS. 2 to 7 , contents overlapping with those described above with respect to FIG. 1 will not be described again, and hereinafter, differences will be mainly described.
도 2를 참조하면, 사용자 단말기(200)의 프로세서(210)는 복수의 이미지를 순차적으로 디스플레이하는 것과 연동하여 상기 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득하는 제1 태스크를 수행할 수 있다(S110). 여기서, 복수의 제1 음성 데이터는 복수의 이미지 중 N(N은 1 이상의 자연수)차 이미지가 디스플레이될 때 제1 터치 입력이 입력된 시점부터 제2 터치 입력이 입력된 시점까지 획득되는 음성 데이터를 포함할 수 있다. Referring to FIG. 2 , the
제1 터치 입력은 N차 이미지와 같이 디스플레이되는 제1 버튼(예를 들어, 시작 버튼)에 대한 터치 입력일 수 있다. The first touch input may be a touch input to a first button (eg, a start button) displayed as an Nth image.
제2 터치 입력은 제1 터치 입력에 응답하여 제1 버튼 대신 제2 버튼이 N차 이미지와 같이 디스플레이된 상태에서 제2 버튼에 대한 터치 입력일 수 있다. The second touch input may be a touch input to the second button in a state where the second button is displayed as an Nth image instead of the first button in response to the first touch input.
복수의 제1 음성 데이터를 획득하는 과정은 도 3을 참조하여 좀더 자세히 설명한다. A process of obtaining a plurality of first voice data will be described in more detail with reference to FIG. 3 .
도 3의 (a)를 참조하면, 사용자 단말기(200)의 프로세서(210)는 치매 식별을 위한 디지털 바이오 마커 데이터 중 일부인 복수의 제1 음성 데이터를 획득하기 이전에, 사용자가 수행해야하는 작업을 설명하는 설명 화면(S1)이 디스플레이되도록 디스플레이부(250)를 제어할 수 있다. 여기서, 설명 화면(S1)은 사용자가 수행해야하는 작업을 설명하는 메시지(M1) 및 복수의 제1 음성 데이터를 획득하는 제1 태스크를 시작하도록 만드는 시작 버튼(401)을 포함할 수 있다. Referring to (a) of FIG. 3 , the
본 개시의 몇몇 실시예에 따르면, 메시지(M1)가 디스플레이되는 것과 연동하여 음향 출력부(260)를 통해 메시지(M1)와 관련된 음향(예를 들어, 메시지(M1) 내에 포함된 내용을 설명하는 음성)이 출력될 수도 있다. 이와 같이, 메시지(M1)와 함께 음향을 출력하여 사용자가 수행해야하는 작업을 사용자에게 인지시키는 경우 사용자가 현재 수행해야하는 작업이 무엇인지 명확하게 이해할 수 있다. 따라서, 단순 실수로 잘못된 작업을 수행할 가능성이 낮아질 수 있다.According to some embodiments of the present disclosure, sound related to the message M1 through the
도 3의 (b)를 참조하면, 사용자 단말기(200)의 프로세서(210)는 시작 버튼(401)을 선택하는 터치 입력에 기초하여 복수의 이미지 중 1차 이미지(P1)를 디스플레이하도록 디스플레이부(250)를 제어할 수 있다. Referring to (b) of FIG. 3 , the
구체적으로, 사용자 단말기(200)의 프로세서(210)는 복수의 이미지 중 1차 이미지(P1)가 디스플레이될 때 제1 버튼(411)을 함께 디스플이하도록 디스플레이부(250)를 제어할 수 있다. 여기서, 복수의 이미지는 하나의 스토리와 관련된 이미지들로 디스플레이 순서에 따라 디스플레이되는 이미지들이고, 1차 이미지(P1)는 가장 먼저 디스플레이되는 최초 이미지일 수 있다. Specifically, the
한편, 복수의 이미지가 장치(100)의 저장부(120)에 저장되어 있는 경우와 복수의 이미지가 사용자 단말기(200)의 저장부(220)에 저장되어 있는 경우에 이미지를 디스플레이하는 방법이 달라질 수 있다. On the other hand, the method of displaying images is different when a plurality of images are stored in the
일례로, 복수의 이미지가 장치(100)의 저장부(120)에 저장되어 있는 경우, 사용자 단말기(200)의 프로세서(210)는 시작 버튼(401)을 선택하는 터치 입력이 감지된 때 장치(100)에 1차 이미지 요청 신호를 전송한 후 1차 이미지(P1)를 수신하도록 통신부(230)를 제어할 수 있다. 사용자 단말기(200)의 프로세서(210)는 1차 이미지(P1)를 수신한 경우 1차 이미지(P1)를 디스플레이하도록 디스플레이부(250)를 제어할 수 있다. For example, when a plurality of images are stored in the
다른 일례로, 복수의 이미지가 사용자 단말기(200)의 저장부(220)에 저장되어 있는 경우, 프로세서(210)는 시작 버튼(401)을 선택하는 터치 입력이 감지된 때 저장부(220)에 저장된 복수의 이미지 중 1차 이미지(P1)를 디스플레이하도록 디스플레이부를 제어할 수도 있다. As another example, if a plurality of images are stored in the
도 3의 (c)를 참조하면, 프로세서(210)는 제1 버튼(411)에 대한 제1 터치 입력이 입력된 경우, 제1 버튼 대신 제2 버튼(412)을 1차 이미지(P1)와 함께 디스플레이하는 것과 연동하여 음향 데이터 획득부(240)를 활성화하여 1차 이미지(P1)와 관련된 제1 음성 데이터를 획득하기 시작할 수 있다. Referring to (c) of FIG. 3 , when a first touch input to the
제1 버튼(411)에 대한 터치 입력이 감지된 경우, 제1 버튼(411) 대신 디스플레이되는 제2 버튼(412)에 기 설정된 효과가 부가되면서 디스플레이될 수 있다. 예를 들어, 제2 버튼(412)을 중심으로 기 설정된 색상이 퍼져나가는 형태의 효과가 제2 버튼(412)에 부가될 수 있다. 다만, 기 설정된 효과는 상술한 예시에 한정되는 것은 아니고 다양한 효과가 제2 버튼(412)에 부가될 수 있다. 상술한 바와 같이 제2 버튼(412)에 기 설정된 효과가 부가되면 사용자가 현재 제1 음성 데이터가 획득 중이라는 것을 인지할 수 있다.When a touch input to the
프로세서(210)는 제2 버튼(412)에 대한 제2 터치 입력이 입력된 경우, 제1 음성 데이터 획득을 종료하고 음향 데이터 획득부(240)를 비활성화할 수 있다. 즉, 1차 이미지가 디스플레이될 때 획득되는 제1 음성 데이터는 제1 터치 입력이 입력된 시점부터 제2 터치 입력이 입력된 시점까지의 사용자의 음성을 녹음한 음성 데이터일 수 있다. 그리고, 1차 이미지가 디스플레이될 때 획득되는 제1 음성 데이터는 1차 이미지와 관련된 제1 음성 데이터로 기록할 수 있다. When a second touch input to the
본 개시의 몇몇 실시예에 따르면, 프로세서(210)는 제2 버튼(412)에 대한 제2 터치 입력이 입력된 경우, 1차 이미지(P1) 대신 2차 이미지(도 4의 P2)가 디스플레이되도록 디스플레이부(250)를 제어할 수 있다. 즉, N차 이미지(N은 1 이상의 자연수)는, 제2 터치 입력에 응답하여 N+1차 이미지로 변경될 수 있다. According to some embodiments of the present disclosure, the
한편, 프로세서(210)는 2차 이미지가 디스플레이될 때 도 3의 (b) 및 도 3의 (c)와 관련하여 상술한 태스크를 동일하게 수행할 수 있다. 즉, 프로세서(210)는 상술한 바와 같이 사용자의 제2 버튼(412)에 대한 터치 입력이 감지된 때 다음 이미지로 이미지를 순차적으로 변경하고 다음 이미지와 관련된 제1 음성 데이터를 추가로 획득할 수 있다. 이런 방식으로 프로세서(210)는 선택된 스토리와 관련된 모든 이미지와 관련된 복수의 제1 음성 데이터를 획득할 수 있다. Meanwhile, when the secondary image is displayed, the
본 개시의 몇몇 실시예에 따르면, 복수의 이미지는 하나의 스토리와 관련된 이미지로 스토리 타이틀이 달라지면 복수의 이미지도 달라질 수 있다. According to some embodiments of the present disclosure, the plurality of images are images related to one story, and the plurality of images may also be changed when the story title is changed.
장치(1100)의 저장부(120) 또는 사용자 단말기(200)의 저장부(220)에는 복수의 스토리 각각과 관련된 복수의 이미지가 저장되어 있을 수 있다. A plurality of images related to each of a plurality of stories may be stored in the
도 5를 참조하면, 복수의 스토리는 서로 다른 스토리 타이틀을 가질 수 있다. 여기서, 스토리는 이솝우화, 동화와 같이 하나의 줄거리를 갖는 스토리일 수 있다. Referring to FIG. 5 , a plurality of stories may have different story titles. Here, the story may be a story having one plot, such as an Aesop's fable or a fairy tale.
일례로, 복수의 스토리는 제1 스토리, 제2 스토리, 제3 스토리 및 제4 스토리를 적어도 포함할 수 있다. 여기서, 제1 스토리의 스토리 타이틀은 토끼와 거북이이고, 제2 스토리의 스토리 타이틀은 콩쥐팥쥐이고, 제3 스토리의 스토리 타이틀은 해님과 달님이고, 제4 스토리의 스토리 타이틀은 흥부와 놀부일 수 있다. 다만, 이에 한정되는 것은 아니다. For example, the plurality of stories may include at least a first story, a second story, a third story, and a fourth story. Here, the story titles of the first story are the rabbit and the turtle, the story titles of the second story are Kongjwipatjwi, the story titles of the third story are The Sun and the Moon, and the story titles of the fourth story are Heungbu and Nolbu. . However, it is not limited thereto.
한편, 복수의 스토리 각각과 관련된 이미지 개수는 서로 같을 수도 있고 서로 다를 수도 있다. Meanwhile, the number of images associated with each of a plurality of stories may be the same or different.
예를 들어, 제1 스토리, 제2 스토리 및 제3 스토리와 관련된 이미지의 개수는 4개일 수 있고, 제4 스토리와 관련된 이미지의 개수는 5개일 수 있다. 다만, 이에 한정되는 것은 아니다. For example, the number of images related to the first story, the second story, and the third story may be four, and the number of images related to the fourth story may be five. However, it is not limited thereto.
본 개시에서, 사용자 단말기(200)에서 디스플레이되는 복수의 이미지는 상술한 복수의 스토리 중 어느 하나의 스토리와 관련된 이미지들일 수 있다. In the present disclosure, a plurality of images displayed on the
복수의 스토리 중 어느 하나의 스토리는 랜덤하게 선택될 수도 있고, 기 설정된 순서에 따라 선택될 수도 있다. 다만, 이에 한정되는 것은 아니다. Any one of the plurality of stories may be randomly selected or may be selected according to a preset order. However, it is not limited thereto.
도 4를 참조하면, 하나의 스토리와 관련된 복수의 이미지(P1, P2, P3, P4)는 서로 다를 수 있고, 장치(100)의 저장부(120) 또는 사용자 단말기(200)의 저장부(220)에 저장되어 있을 수 있다. 다만, 이에 한정되는 것은 아니다. Referring to FIG. 4 , a plurality of images P1 , P2 , P3 , and P4 related to one story may be different from each other, and the
그리고, 복수의 이미지(P1, P2, P3, P4) 각각에는 순서가 정해져 있을 수 있다. 따라서, 사용자 단말기(200)에 복수의 이미지(P1, P2, P3, P4)가 디스플레이될 때 순차적으로 디스플레이될 수 있다. Also, an order may be determined for each of the plurality of images P1 , P2 , P3 , and P4 . Accordingly, when the plurality of images P1 , P2 , P3 , and P4 are displayed on the
구체적으로, 1차 이미지(P1)가 디스플레이될 때 같이 디스플레이되는 제2 버튼(412)에 대한 제2 터치 입력이 감지되면, 2차 이미지(P2)가 사용자 단말기(200)의 디스플레이부(250) 상에 디스플레이될 수 있고, 2차 이미지(P2)가 디스플레이될 때 같이 디스플레이되는 제2 버튼(412)에 대한 제2 터치 입력이 감지되면, 3차 이미지(P2)가 사용자 단말기(200)의 디스플레이부(250) 상에 디스플레이될 수 있다. 이런 방법으로 복수의 이미지(P1, P2, P3, P4) 전부가 사용자 단말기(200)의 디스플레이부(250) 상에 디스플레이될 수 있다. Specifically, when a second touch input to the
한편, 본 개시의 몇몇 실시예에 따르면, 복수의 이미지를 순차적으로 디스플레이하는 것과 연동하여 상기 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득하는 제1 태스크 이전에, 음성 데이터의 획득 없이 상기 복수의 이미지 각각을 순차적으로 기 설정된 시간 동안 디스플레이하는 태스크가 수행될 수도 있다. 이는 도 6을 참조하여 자세히 설명한다. Meanwhile, according to some embodiments of the present disclosure, prior to the first task of acquiring a plurality of first voice data related to each of the plurality of images in association with sequentially displaying a plurality of images, the first task without obtaining voice data A task of sequentially displaying each of a plurality of images for a preset time may be performed. This will be described in detail with reference to FIG. 6 .
도 6의 (a)를 참조하면, 복수의 이미지 각각을 순차적으로 기 설정된 시간 동안 디스플레이하는 태스크가 수행되기 이전에, 사용자가 수행해야하는 작업을 설명하는 설명 화면(S2)이 디스플레이되도록 디스플레이부(250)를 제어할 수 있다. 여기서, 설명 화면(S2)은 사용자가 수행해야하는 작업을 설명하는 메시지(M2) 및 복수의 이미지 각각을 순차적으로 기 설정된 시간 동안 디스플레이하는 태스크를 시작하도록 만드는 시작 버튼(402)을 포함할 수 있다. Referring to (a) of FIG. 6 , before a task of sequentially displaying a plurality of images for a predetermined time period is performed, the
본 개시의 몇몇 실시예에 따르면, 메시지(M2)가 디스플레이되는 것과 연동하여 음향 출력부(260)를 통해 메시지(M2)와 관련된 음향(예를 들어, 메시지(M2) 내에 포함된 내용을 설명하는 음성)이 출력될 수도 있다. 이와 같이, 메시지(M2)와 함께 음향을 출력하여 사용자가 수행해야하는 작업을 사용자에게 인지시키는 경우 사용자가 현재 수행해야하는 작업이 무엇인지 명확하게 이해할 수 있다. 따라서, 사용자의 집중력을 향상시킬 수 있다. According to some embodiments of the present disclosure, sound related to the message M2 through the
도 6의 (b)를 참조하면, 사용자 단말기(200)의 프로세서(210)는 시작 버튼(402)을 선택하는 터치 입력에 기초하여 복수의 이미지 중 1차 이미지(P1)를 먼저 디스플레이하도록 디스플레이부(250)를 제어할 수 있다. Referring to (b) of FIG. 6 , the
구체적으로, 사용자 단말기(200)의 프로세서(210)는 복수의 이미지 중 1차 이미지(P1)가 디스플레이될 때 이미지의 순서와 관련된 정보(O)를 함께 디스플이하도록 디스플레이부(250)를 제어할 수 있다. 여기서, 복수의 이미지는 하나의 스토리와 관련된 이미지들로 디스플레이 순서에 따라 디스플레이되는 이미지들이고, 1차 이미지(P1)는 가장 먼저 디스플레이되는 최초 이미지일 수 있다. Specifically, the
이미지의 순서와 관련된 정보(O)는 숫자를 포함할 수 있다. 즉, 1차 이미지(P1)가 최초 이미지이기 때문에 1이라는 숫자가 이미지의 순서와 관련된 정보(O)에 포함될 수 있다. 다만, 이에 한정되는 것은 아니다.The information O related to the order of images may include numbers. That is, since the first image P1 is the first image, the number 1 may be included in the information O related to the order of the images. However, it is not limited thereto.
본 개시의 몇몇 실시예에 따르면, 1차 이미지는 기 설정된 시간(예를 들어, 5초) 동안 디스플레이된 후에 2차 이미지로 변경될 수 있다. 다만, 이에 한정되는 것은 아니다. According to some embodiments of the present disclosure, the primary image may be changed to the secondary image after being displayed for a preset time (eg, 5 seconds). However, it is not limited thereto.
한편, 사용자 단말기(200)의 디스플레이부(250)에 디스플레이되는 이미지가 2차 이미지로 변경된 경우, 이미지의 순서와 관련된 정보(O)도 같이 변경될 수 있다. Meanwhile, when the image displayed on the
예를 들어, 2차 이미지는 두번째 이미지이기 때문에 2라는 숫자가 이미지의 순서와 관련된 정보(O)에 포함될 수 있다. 다만, 이에 한정되는 것은 아니다. For example, since the secondary image is the second image, the number 2 may be included in the information O related to the order of the images. However, it is not limited thereto.
즉, 사용자 단말기(200)의 디스플레이부(250)에 디스플레이되는 이미지는 순차적으로 변경될 수 있고, 이미지가 변경될 때 이미지의 순서와 관련된 정보(O)도 같이 변경될 수 있다. That is, the images displayed on the
다시, 도 2를 참조하면, 사용자 단말기(200)의 프로세서(210)는 이미지 디스플레이 없이 제2 음성 데이터를 획득하는 제2 태스크를 수행할 수 있다(S120). Again, referring to FIG. 2 , the
제2 음성 데이터는 제2 태스크 수행 시 디스플레이되는 화면에 제3 터치 입력이 입력된 시점부터 제4 터치 입력이 입력된 시점까지 획득되는 음성 데이터일 수 있다. 다만, 이에 한정되는 것은 아니다. 여기서, 제3 터치 입력은, 제2 태스크가 수행될 때 디스플레이되는 제3 버튼(예를 들어, 시작 버튼)에 대한 터치 입력일 수 있다. 그리고, 제4 터치 입력은, 제3 터치 입력에 응답하여 제3 버튼 대신 제4 버튼이 디스플레이된 상태에서 제4 버튼에 대한 터치 입력일 수 있다. The second voice data may be voice data obtained from the time when the third touch input is input to the time when the fourth touch input is input on the screen displayed when the second task is performed. However, it is not limited thereto. Here, the third touch input may be a touch input to a third button (eg, a start button) displayed when the second task is performed. Also, the fourth touch input may be a touch input to the fourth button in a state where the fourth button is displayed instead of the third button in response to the third touch input.
구체적으로, 도 7의 (a)를 참조하면, 제2 태스크가 수행되기 이전에 사용자가 수행해야하는 작업을 설명하는 설명 화면(S3)이 디스플레이되도록 디스플레이부(250)를 제어할 수 있다. 여기서, 설명 화면(S3)은 사용자가 수행해야하는 작업을 설명하는 메시지(M3) 및 제2 음성 데이터 획득과 관련된 시작 버튼(413)을 포함할 수 있다. 여기서, 메시지(M3)는 제1 태스크에서 디스플레이된 복수의 이미지와 관련된 스토리에 대한 이야기를 하라는 내용을 포함할 수 있다. Specifically, referring to (a) of FIG. 7 , the
본 개시의 몇몇 실시예에 따르면, 메시지(M3)가 디스플레이되는 것과 연동하여 음향 출력부(260)를 통해 메시지(M3)와 관련된 음향(예를 들어, 메시지(M3) 내에 포함된 내용을 설명하는 음성)이 출력될 수도 있다. 이와 같이, 메시지(M3)와 함께 음향을 출력하여 사용자가 수행해야하는 작업을 사용자에게 인지시키는 경우 사용자가 현재 수행해야하는 작업이 무엇인지 명확하게 이해할 수 있다. 따라서, 사용자의 집중력을 향상시킬 수 있다. According to some embodiments of the present disclosure, sound related to the message M3 through the
도 7의 (b)를 참조하면, 사용자 단말기(200)의 프로세서(210)는 제3 버튼(413)을 선택하는 터치 입력이 입력된 경우, 제3 버튼(413) 대신 제4 버튼(414)을 화면(S3) 상에 디스플레이하도록 디스플레이부(250)를 제어할 수 있다. 그리고, 프로세서(210)는 화면(S3) 상에 별도의 이미지를 디스플레이하지 않고 음향 데이터 획득부(240)를 활성화하여 제2 음성데이터를 획득하기 시작할 수 있다. Referring to (b) of FIG. 7 , when a touch input for selecting the
제3 버튼(413)에 대한 터치 입력이 감지된 경우, 제3 버튼(413) 대신 디스플레이되는 제4 버튼(414)에 기 설정된 효과가 부가되면서 디스플레이될 수 있다. 예를 들어, 제4 버튼(414)을 중심으로 기 설정된 색상이 퍼져나가는 형태의 효과가 제4 버튼(414)에 부가될 수 있다. 다만, 기 설정된 효과는 상술한 예시에 한정되는 것은 아니고 다양한 효과가 제4 버튼(414)에 부가될 수 있다. 상술한 바와 같이 제4 버튼(414)에 기 설정된 효과가 부가되면 사용자가 현재 제2 음성 데이터가 획득 중이라는 것을 인지할 수 있다.When a touch input to the
한편, 프로세서(210)는 제4 버튼(414)에 대한 제4 터치 입력이 입력된 경우 제2 음성 데이터 획득을 종료하고 음향 데이터 획득부(240)를 비활성화할 수 있다. 즉, 제2 음성 데이터는 제3 버튼(413)을 선택하는 제3 터치 입력이 입력된 시점부터 제4 터치 입력이 입력된 시점까지의 사용자의 음성을 녹음한 음성 데이터일 수 있다. Meanwhile, when a fourth touch input to the
한편, 본 개시의 몇몇 실시예에 따르면, 사용자 단말기(200)의 프로세서(210)는 복수의 제1 음성 데이터 및 제2 음성 데이터를 장치(100)에 전송하도록 통신부(230)를 제어할 수 있다. Meanwhile, according to some embodiments of the present disclosure, the
일례로, 프로세서(210)는 복수의 제1 음성 데이터 및 제2 음성 데이터를 전부 획득한 후에 장치(100)에 복수의 제1 음성 데이터 및 제2 음성 데이터를 전송하도록 통신부(230)를 제어할 수 있다. For example, the
다른 일례로, 프로세서(210)는 복수의 제1 음성 데이터를 전부 획득한 후에 복수의 제1 음성 데이터를 장치(100)에 전송하도록 통신부(230)를 제어할 수 있다. 그리고, 프로세서(210)는 제2 음성 데이터를 획득한 후에 장치(100)에 전송하도록 통신부(230)를 제어할 수 있다. 즉, 프로세서(210)는 제1 태스크를 통해 복수의 제1 음성 데이터를 전부 획득한 후 제2 태스크가 수행되기 이전에 복수의 제1 음성 데이터를 먼저 장치(100)에 전송하고, 그 다음 제2 음성 데이터를 장치(100)에 전송하도록 통신부(230)를 제어할 수 있다. As another example, the
또 다른 일례로, 프로세서(210)는 복수의 제1 음성 데이터 및 제2 음성 데이터 각각을 획득할 때 마다 장치(100)에 전송하도록 통신부(230)를 제어할 수 있다. As another example, the
다만, 상술한 예시들은 본 개시의 일 예시에 불과할 뿐 본 개시는 상술한 예시들에 한정되는 것은 아니다. However, the above examples are only examples of the present disclosure, and the present disclosure is not limited to the above examples.
장치(100)의 프로세서(110)는 복수의 제1 음성 데이터 및 제2 음성 데이터를 전부 수신한 후에 사용자 단말기(200)의 사용자의 치매 여부를 식별할 수 있다. 이는 도 8을 참조하여 좀더 자세히 후술한다. The
도 8은 본 개시의 몇몇 실시예에 따라 음성 데이터에 기초하여 치매 여부를 식별하는 방법의 일례를 설명하기 위한 흐름도이다. 도 9는 본 개시의 몇몇 실시예에 따라 내용 분석 정보를 획득할 때 사용되는 키워드 및 유사어의 일례를 설명하기 위한 도면이다. 도 8과 관련하여 도 1 내지 도 7과 관련하여 상술한 바와 중복되는 내용은 다시 설명하지 않고, 이하 차이점을 중심으로 설명한다. 8 is a flowchart for explaining an example of a method of identifying dementia based on voice data according to some embodiments of the present disclosure. 9 is a diagram for explaining an example of keywords and synonyms used when obtaining content analysis information according to some embodiments of the present disclosure. In relation to FIG. 8, contents overlapping with those described above with respect to FIGS. 1 to 7 will not be described again, and the differences will be mainly described below.
도 8을 참조하면, 장치(100)의 적어도 하나의 프로세서(110)는 사용자 단말기(200)에서 복수의 태스크를 수행하여 획득된 복수의 제1 음성 데이터 및 제2 음성 데이터를 이용하여 내용 분석 정보 및 음성 활동 분석 정보를 획득할 수 있다(S131). Referring to FIG. 8 , at least one
내용 분석 정보는 복수의 제1 음성 데이터 및 제2 음성 데이터의 내용을 분석한 정보를 의미할 수 있고, 음성 활동 분석 정보는 사용자 단말기(200)의 사용자의 발화 속도나 응답 시간을 나타내는 정보를 의미할 수 있다. 다만, 이에 한정되는 것은 아니다. The content analysis information may refer to information obtained by analyzing the contents of a plurality of first voice data and second voice data, and the voice activity analysis information refers to information representing a user's speech speed or response time of the
본 개시에서 음성 분석 정보는, 사용자 단말기의 사용자의 발화 속도 정보 및 사용자의 응답 시간 정보를 포함할 수 있다. In the present disclosure, voice analysis information may include speech speed information of a user of a user terminal and response time information of a user.
발화 속도 정보는 복수의 제1 음성 데이터 및 제2 음성 데이터 각각에 포함된 음절 수와 복수의 제1 음성 데이터 및 제2 음성 데이터 각각에서 사용자의 음성이 존재하는 총 시간에 기초하여 산출될 수 있다. Speech speed information may be calculated based on the number of syllables included in each of the plurality of first voice data and the second voice data and the total time that the user's voice exists in each of the plurality of first voice data and second voice data. .
예를 들어, 프로세서(110)는 복수의 제1 음성 데이터 및 제2 음성 데이터 각각에 포함된 음절 수에 복수의 제1 음성 데이터 및 제2 음성 데이터 각각에서 사용자의 음성이 존재하는 총 시간을 나누어 발화 속도를 산출할 수 있다. For example, the
본 개시에서 발화 속도 정보를 산출하는 방법은 상술한 예시에 한정되는 것은 아니다. The method of calculating speech speed information in the present disclosure is not limited to the above example.
응답 시간 정보는 사용자가 시작 버튼을 누른 후에 이야기를 할 때까지 지연된 시간에 대한 정보를 의미할 수 있다. 다만, 이에 한정되는 것은 아니다. Response time information may refer to information about a delayed time until a user starts talking after pressing the start button. However, it is not limited thereto.
응답 시간 정보는 복수의 제1 음성 데이터 각각에서 사용자의 음성이 존재하는 제1 시점 정보에 기초하여 산출되는 정보 및 제2 음성 데이터 내에서 사용자의 음성이 존재하는 제2 시점 정보에 기초하여 산출되는 정보를 포함할 수 있다. The response time information is calculated based on information calculated based on information of a first point in time at which the user's voice exists in each of the plurality of first voice data and second point in time information at which the user's voice exists in the second voice data. information may be included.
예를 들어, 복수의 제1 음성 데이터 또는 제2 음성 데이터에서 사용자의 음성이 3초 후에 나오는 경우 사용자의 음성이 존재하는 시점은 3초가 될 수 있다. For example, when the user's voice appears after 3 seconds in the plurality of first voice data or second voice data, the time point at which the user's voice exists may be 3 seconds.
다만, 본 개시에서 상술한 예는 일 예시에 불과할 뿐 본 개시가 상술한 예에 한정되는 것은 아니다. However, the above-described example in the present disclosure is only an example, and the present disclosure is not limited to the above-described example.
복수의 태스크는 복수의 이미지가 순차적으로 디스플레이되는 것과 연동하여 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득하는 제1 태스크 및 이미지 디스플레이 없이 제2 음성 데이터를 획득하는 제2 태스크를 포함할 수 있다. 이는 도 1 내지 도 7에서 상술한 바 자세한 설명은 생략한다. The plurality of tasks may include a first task of obtaining a plurality of first audio data related to each of the plurality of images in association with sequential display of the plurality of images, and a second task of obtaining second audio data without image display. can As this has been described above with reference to FIGS. 1 to 7, a detailed description thereof will be omitted.
본 개시에서 프로세서(110)는 복수의 제1 음성 데이터를 복수의 제1 텍스트 데이터로 변환할 수 있고, 제2 음성 데이터를 제2 텍스트 데이터로 변환할 수 있다. 여기서, 복수의 제1 음성 데이터를 복수의 제1 텍스트 데이터로 변환할 때 그리고 제2 음성 데이터를 제2 텍스트 데이터로 변환할 때, 음성 인식 기술(예를 들어, Speech To Text; STT)과 관련된 알고리즘이 이용될 수 있다. 다만, 이에 한정되는 것은 아니다.In the present disclosure, the
장치(100)의 저장부(120)에는 음성 데이터를 텍스트 데이터로 변환하는 음성 인식 기술(예를 들어, Speech To Text; STT)과 관련된 알고리즘이 저장되어 있을 수 있다. 예를 들어, 음성 인식 기술과 관련된 알고리즘은 HMM(Hidden Markov Model) 등일 수 있다. An algorithm related to speech recognition technology (eg, Speech To Text; STT) for converting voice data into text data may be stored in the
프로세서(110)는 복수의 제1 텍스트 데이터 및 제2 텍스트 데이터를 이용해서 내용 분석 정보를 획득할 수 있다. 여기서, 내용 분석 정보는 복수의 제1 텍스트 데이터 및 제2 텍스트 데이터의 전체 음절 대비 간투사 비율에 대한 제1 정보, 복수의 이미지 각각과 관련된 키워드가 복수의 제1 텍스트 데이터 및 제2 텍스트 데이터에 포함된 정도를 나타내는 제2 정보 및 복수의 이미지 각각과 관련된 키워드의 유사어가 복수의 제1 텍스트 데이터 및 제2 텍스트 데이터에 포함된 정도를 나타내는 제3 정보 를 포함할 수 있다. 다만, 이에 한정되는 것은 아니다. The
종래 기술에 따르면, 간투사 비율을 이용해서 치매 여부를 식별하는 경우가 존재하지 않았으나, 본 개시와 같이 간투사 비율을 함께 이용해서 치매 여부를 식별하는 경우 치매 식별의 정확도가 더욱 향상될 수 있다. According to the prior art, there was no case of identifying dementia using the liver projection ratio. However, if dementia is identified using the liver projection ratio together as in the present disclosure, the accuracy of dementia identification can be further improved.
도 9를 참조하면, 본 개시의 장치(100)의 저장부(120)에는 복수의 이미지 각각과 관련된 복수의 키워드(510) 및 복수의 키워드 각각과 관련된 복수의 유사어(520)가 저장되어 있을 수 있다. 여기서, 복수의 이미지가 서로 다른 이미지이기 때문에, 복수의 키워드 및 복수의 키워드 각각과 관련된 복수의 유사어는 이미지마다 서로 다를 수 있다. Referring to FIG. 9 , a plurality of
본 개시의 몇몇 실시예에서, 프로세서(110)는 복수의 이미지 중 1차 이미지가 디스플레이될 때 획득된 음성 데이터를 텍스트 데이터로 변환한 텍스트 데이터에 1차 이미지와 관련된 키워드 및 복수의 유사어가 포함된 정도(예를 들어, 텍스트 데이터에 포함된 전체 단어 대비 키워드의 비율 및 유사어의 비율)를 산출할 수 있다. 그리고, 프로세서(110)는 복수의 이미지 중 2차 이미지가 디스플레이될 때 획득된 음성 데이터를 텍스트 데이터로 변환한 텍스트 데이터에 2차 이미지와 관련된 키워드 및 복수의 유사어가 포함된 정보를 산출할 수 있다. 이런 식으로, 프로세서(110)는 복수의 제1 음성 데이터 전부에 대해서 키워드 및 복수의 유사어가 포함된 정보를 산출할 수 있다. In some embodiments of the present disclosure, the
본 개시의 몇몇 실시예에 따르면, 프로세서(110)는 제2 음성 데이터를 텍스트 데이터로 변환한 제2 텍스트 데이터에 복수의 이미지 전부와 관련된 복수의 키워드 및 복수의 키워드 각각과 관련된 복수의 유사어가 포함된 정도를 산출할 수 있다. According to some embodiments of the present disclosure, the
복수의 키워드 및 복수의 키워드 각각과 관련된 복수의 유사어는 서로 매핑되어 도 9와 같이 테이블 형태로 저장부(120)에 저장되어 있을 수 있다. 다만, 이에 한정되는 것은 아니고 복수의 키워드 및 복수의 키워드와 관련된 유사어는 다양한 형태로 저장부(120)에 저장되어 있을 수 있다. A plurality of keywords and a plurality of synonyms related to each of the plurality of keywords may be mapped to each other and stored in the
도 8을 다시 참조하면, 프로세서(110)는 복수의 제1 음성 데이터 및 제2 음성 데이터를 이용하여 획득한 내용 분석 정보 및 음성 활동 분석 정보를 치매 식별 모델에 입력하여 사용자 단말기(200)의 사용자의 치매 여부를 식별할 수 있다(S132). Referring back to FIG. 8 , the
구체적으로, 프로세서(110)는 내용 분석 정보 및 음성 활동 분석 정보를 치매 식별 모델에 입력하여 스코어 값을 산출할 수 있다. 그리고, 프로세서(110)는 스코어 값에 기초하여 치매 여부를 식별할 수 있다. Specifically, the
예를 들어, 프로세서(110)는 스코어 값이 기 설정된 임계 값을 초과하는지 여부에 기초하여 사용자 단말기(200)의 사용자가 치매인지 여부를 결정할 수 있다. 즉, 프로세서(110)는 치매 식별 모델에서 출력된 스코어 값이 기 설정된 임계 값을 초과한다고 인식한 경우 사용자가 치매라고 결정하고, 치매 식별 모델에서 출력된 스코어 값이 기 설정된 임계 값 이하라고 인식한 경우 사용자가 치매가 아니라고 결정할 수 있다.For example, the
상술한 예시는 일 예시에 불과할 뿐 본 개시는 상술한 예들에 한정되는 것은 아니다. The above-described example is merely an example, and the present disclosure is not limited to the above-described examples.
본 개시에서 치매 식별 모델은 테스트 사용자들이 본 개시에서 상술한 방법을 통해 획득된 디지털 바이오 마커 데이터를 이용하여 학습이 완료된 딥러닝 모델일 수 있다. 다만, 이에 한정되는 것은 아니다. In the present disclosure, the dementia identification model may be a deep learning model for which test users have completed learning using digital biomarker data obtained through the method described in the present disclosure. However, it is not limited thereto.
본 개시에서 복수의 제1 음성 데이터 및 제2 음성 데이터를 이용하여 획득된 내용 분석 정보 및 음성 활동 분석 정보를 이용하여 치매 여부를 식별하기 때문에 복수의 제1 음성 데이터 및 제2 음성 데이터는 치매 식별을 위한 디지털 바이오 마커 데이터라고 볼 수 있다. In the present disclosure, since dementia is identified using content analysis information and voice activity analysis information acquired using a plurality of first voice data and second voice data, the plurality of first voice data and second voice data identify dementia. It can be seen as digital biomarker data for
인지 정상군 120명과 인지 저하군 9명이 자신의 사용자 단말기를 통해 치매 여부를 식별하는 실험을 진행한 바 있다. 이 실험의 목표는 기 학습된 치매 식별 모델의 정확도를 확인하는 것이었다. 상술한 실험을 통해 산출된 분류의 정확도는 80% 이상인 것을 확인하였다. 120 people in the cognitively normal group and 9 people in the cognitively impaired group conducted an experiment to identify whether or not they had dementia through their user terminals. The goal of this experiment was to confirm the accuracy of the pre-learned dementia identification model. It was confirmed that the accuracy of the classification calculated through the above-described experiment was 80% or more.
상술한 본 발명의 몇몇 실시예들 중 적어도 하나에 의하면, 환자가 거부감을 거의 느끼지 않는 방법으로 정확하게 치매를 진단할 수 있다. According to at least one of the above-described embodiments of the present invention, dementia can be accurately diagnosed in a method in which a patient hardly feels rejection.
본 개시에서 장치(100)는 상기 설명된 몇몇 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 몇몇 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.In the present disclosure, the
본 개시에서 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 디바이스로 읽을 수 있는 기록매체 내에서 구현될 수 있다. Various embodiments described in this disclosure may be implemented in a recording medium readable by a computer or a similar device using, for example, software, hardware, or a combination thereof.
하드웨어적인 구현에 의하면, 여기에 설명되는 몇몇 실시예는 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays, 프로세서, 제어기, 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛(unit) 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 개시에서 설명되는 몇몇 실시예가 적어도 하나의 프로세서로 구현될 수 있다.In terms of hardware implementation, some embodiments described herein include application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), and field programmable gate arrays (FPGAs). , processors, controllers, micro-controllers, microprocessors, and electrical units for performing other functions. Some embodiments may be implemented with at least one processor.
소프트웨어적인 구현에 의하면, 본 개시에서 설명되는 절차 및 기능과 같은 몇몇 실시예는 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 개시에서 설명되는 하나 이상의 기능, 태스크 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 애플리케이션으로 소프트웨어 코드(software code)가 구현될 수 있다. 여기서, 소프트웨어 코드는, 저장부(120)에 저장되고, 적어도 하나의 프로세서(110)에 의해 실행될 수 있다. 즉, 적어도 하나의 프로그램 명령이 저장부(120)에 저장되어 있고, 적어도 하나의 프로그램 명령이 적어도 하나의 프로세서(110)에 의해 실행될 수 있다. According to software implementation, some embodiments, such as procedures and functions described in this disclosure, may be implemented as separate software modules. Each of the software modules may perform one or more functions, tasks, and operations described in this disclosure. Software code may be implemented as a software application written in any suitable programming language. Here, the software code may be stored in the
본 개시의 몇몇 실시예에 따른 장치(100)의 적어도 하나의 프로세서(110)가 치매 식별 모델을 이용하여 치매를 식별하는 방법은 장치(100)에 구비된 적어도 하나의 프로세서(110)가 읽을 수 있는 기록매체에 적어도 하나의 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 적어도 하나의 프로세서가 읽을 수 있는 기록매체는 적어도 하나의 프로세서(110)에 의해 읽힐 수 있는 데이터가 저장되는 모든 종류의 기록 디바이스를 포함한다. 적어도 하나의 프로세서가 읽을 수 있는 기록 매체의 예로는 ROM(Read Only Memory), RAM(Random Access Memory), CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장 디바이스 등이 포함된다. A method for identifying dementia by at least one
한편, 사용자 단말기(200)의 프로세서(210)가 치매 식별을 위한 디지털 바이오 마커 데이터인 음성 데이터를 획득하는 방법은 사용자 단말기(200)에 구비된 프로세서(210)가 읽을 수 있는 기록매체에 적어도 하나의 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 적어도 하나의 프로세서가 읽을 수 있는 기록매체는 적어도 하나의 프로세서(110)에 의해 읽힐 수 있는 데이터가 저장되는 모든 종류의 기록 디바이스를 포함한다. 적어도 하나의 프로세서가 읽을 수 있는 기록 매체의 예로는 ROM(Read Only Memory), RAM(Random Access Memory), CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장 디바이스 등이 포함된다.Meanwhile, a method in which the
한편, 본 개시에서 첨부된 도면을 참조하여 설명하였으나, 이는 실시예일 뿐 특정 실시예에 한정되지 아니하며, 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 변형실시가 가능한 다양한 내용도 청구범위에 따른 권리범위에 속한다. 또한, 그러한 변형실시들이 본 발명의 기술 사상으로부터 개별적으로 이해되어서는 안 된다.On the other hand, although the present disclosure has been described with reference to the accompanying drawings, this is only an embodiment and is not limited to a specific embodiment, and various contents that can be modified and practiced by those skilled in the art to which the invention belongs are also claimed. belongs to the scope of rights according to In addition, such modified implementations should not be individually understood from the technical spirit of the present invention.
Claims (10)
하나의 스토리와 관련된 복수의 이미지를 순차적으로 하나씩 디스플레이하는 것과 연동하여 상기 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득하는 제1 태스크를 수행하는 단계;
이미지 디스플레이 없이 상기 하나의 스토리에 대한 정보를 디스플레이하면서 제2 음성 데이터를 획득하는 제2 태스크를 수행하는 단계; 및
상기 복수의 제1 음성 데이터 및 상기 제2 음성 데이터를 이용하여 획득한 내용 분석 정보 및 음성 활동 분석 정보를 치매 식별 모델에 입력하여 치매 여부를 식별하기 위해 상기 복수의 제1 음성 데이터 및 상기 제2 음성 데이터를 장치에 전송하는 단계;
를 포함하고,
상기 복수의 제1 음성 데이터는,
상기 복수의 이미지 중 N차 이미지가 디스플레이될 때 상기 N차 이미지와 같이 디스플레이된 시작과 관련된 텍스트를 포함하는 N차 버튼에 대한 터치 입력이 입력된 시점부터 상기 N차 버튼에 대한 터치 입력에 따라 상기 N차 버튼 대신 상기 N차 이미지와 함께 디스플레이되는 종료와 관련된 텍스트를 포함하는 N+1차 버튼에 대한 터치 입력이 입력된 시점까지 획득된 N차 음성 데이터; 및
상기 N+1차 버튼에 대한 터치 입력이 입력된 경우 상기 N차 이미지 대신 디스플레이되는 N+1차 이미지와 같이 디스플레이된 시작과 관련된 텍스트를 포함하는 N+2차 버튼에 대한 터치 입력이 입력된 시점부터 상기 N+2차 버튼에 대한 터치 입력에 따라 상기 N+2차 버튼 대신 상기 N+1차 이미지와 함께 디스플레이되는 종료와 관련된 텍스트를 포함하는 N+3차 버튼에 대한 터치 입력이 입력된 시점까지 획득된 N+1차 음성 데이터;
를 포함하고,
상기 N은,
1 이상의 자연수이고,
상기 복수의 제1 음성 데이터의 수는,
상기 하나의 스토리와 관련된 상기 복수의 이미지의 수와 동일한,
치매 식별 방법.A method for obtaining voice data, which is digital biomarker data for dementia identification, by a processor of a user terminal, the method comprising:
performing a first task of obtaining a plurality of first audio data related to each of the plurality of images in association with sequentially displaying a plurality of images related to one story one by one;
performing a second task of acquiring second voice data while displaying information about the one story without displaying an image; and
The plurality of first voice data and the second voice data are used to input content analysis information and voice activity analysis information acquired using the plurality of first voice data and the second voice data to a dementia identification model to identify dementia or not. transmitting voice data to the device;
including,
The plurality of first voice data,
When an Nth image among the plurality of images is displayed, the Nth image is displayed according to a touch input to the Nth button from the time when a touch input to the Nth button including text related to the start displayed as the Nth image is input. Nth voice data acquired up to a point in time when a touch input to an N+1th button including a text related to an end displayed with the Nth image instead of the Nth button is input; and
When the touch input to the N+1 button is input, the time when the touch input to the N+2 button including text related to the displayed start is input, such as the N+1 image displayed instead of the Nth image A time point when a touch input to the N+3 button including a text related to end displayed together with the N+1 image instead of the N+2 button is input according to a touch input to the N+2 button. N+1 order voice data obtained up to;
including,
The N is,
is a natural number greater than or equal to 1;
The number of the plurality of first voice data,
Equal to the number of the plurality of images related to the one story,
Dementia identification methods.
상기 제1 태스크 이전에, 음성 데이터의 획득 없이 상기 복수의 이미지 각각을 순차적으로 기 설정된 시간 동안 디스플레이하는 단계;
를 더 포함하는,
치매 식별 방법.According to claim 1,
prior to the first task, sequentially displaying each of the plurality of images for a predetermined time period without obtaining voice data;
Including more,
Dementia identification methods.
상기 제2 음성 데이터는,
상기 제2 태스크 수행 시 디스플레이되는 화면에 제3 터치 입력이 입력된 시점부터 제4 터치 입력이 입력된 시점까지 획득되는 음성 데이터인,
치매 식별 방법.According to claim 1,
The second voice data,
Voice data obtained from the time when the third touch input is input to the time when the fourth touch input is input on the screen displayed when the second task is performed,
Dementia identification methods.
상기 제3 터치 입력은,
상기 제2 태스크가 수행될 때 디스플레이되는 제3 버튼에 대한 터치 입력이고,
상기 제4 터치 입력은,
상기 제3 터치 입력에 응답하여 상기 제3 버튼 대신 제4 버튼이 디스플레이된 상태에서 상기 제4 버튼에 대한 터치 입력인,
치매 식별 방법.According to claim 6,
The third touch input,
A touch input to a third button displayed when the second task is performed;
The fourth touch input,
A touch input to the fourth button in a state in which the fourth button is displayed instead of the third button in response to the third touch input,
Dementia identification methods.
하나의 스토리와 관련된 복수의 이미지를 순차적으로 하나씩 디스플레이하는 것과 연동하여 상기 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득하는 제1 태스크를 수행하는 단계;
이미지 디스플레이 없이 상기 하나의 스토리에 대한 정보를 디스플레이하면서 제2 음성 데이터를 획득하는 제2 태스크를 수행하는 단계; 및
상기 복수의 제1 음성 데이터 및 상기 제2 음성 데이터를 이용하여 획득한 내용 분석 정보 및 음성 활동 분석 정보를 치매 식별 모델에 입력하여 치매 여부를 식별하기 위해 상기 복수의 제1 음성 데이터 및 상기 제2 음성 데이터를 장치에 전송하는 단계;
를 포함하고,
상기 복수의 제1 음성 데이터는,
상기 복수의 이미지 중 N차 이미지가 디스플레이될 때 상기 N차 이미지와 같이 디스플레이된 시작과 관련된 텍스트를 포함하는 N차 버튼에 대한 터치 입력이 입력된 시점부터 상기 N차 버튼에 대한 터치 입력에 따라 상기 N차 버튼 대신 상기 N차 이미지와 함께 디스플레이되는 종료와 관련된 텍스트를 포함하는 N+1차 버튼에 대한 터치 입력이 입력된 시점까지 획득된 N차 음성 데이터; 및
상기 N+1차 버튼에 대한 터치 입력이 입력된 경우 상기 N차 이미지 대신 디스플레이되는 N+1차 이미지와 같이 디스플레이된 시작과 관련된 텍스트를 포함하는 N+2차 버튼에 대한 터치 입력이 입력된 시점부터 상기 N+2차 버튼에 대한 터치 입력에 따라 상기 N+2차 버튼 대신 상기 N+1차 이미지와 함께 디스플레이되는 종료와 관련된 텍스트를 포함하는 N+3차 버튼에 대한 터치 입력이 입력된 시점까지 획득된 N+1차 음성 데이터;
를 포함하고,
상기 N은,
1 이상의 자연수이고,
상기 복수의 제1 음성 데이터의 수는,
상기 하나의 스토리와 관련된 상기 복수의 이미지의 수와 동일한,
컴퓨터 판독가능 저장 매체 저장된 컴퓨터 프로그램.A computer program stored on a computer-readable storage medium, which, when executed in a processor of a user terminal, performs steps for obtaining voice data, which is digital biomarker data for dementia identification, comprising:
performing a first task of obtaining a plurality of first audio data related to each of the plurality of images in association with sequentially displaying a plurality of images related to one story one by one;
performing a second task of acquiring second voice data while displaying information about the one story without displaying an image; and
The plurality of first voice data and the second voice data are used to input content analysis information and voice activity analysis information acquired using the plurality of first voice data and the second voice data to a dementia identification model to identify dementia or not. transmitting voice data to the device;
including,
The plurality of first voice data,
When an Nth image among the plurality of images is displayed, the touch input to the Nth button from the time when a touch input to the Nth button including the text related to the start displayed as the Nth image is inputted Nth voice data acquired up to a point in time when a touch input to an N+1th button including a text related to an end displayed with the Nth image instead of the Nth button is input; and
When a touch input to the N+1st button is input, a touch input to the N+2nd button including text related to the displayed start is input, such as the N+1st image displayed instead of the Nth image A time point when a touch input to the N+3 button including a text related to end displayed with the N+1 image instead of the N+2 button is input according to a touch input to the N+2 button from N+1 order voice data obtained up to;
including,
The N is,
is a natural number greater than or equal to 1;
The number of the plurality of first voice data,
Equal to the number of the plurality of images related to the one story,
A computer program stored on a computer readable storage medium.
적어도 하나의 프로그램 명령이 저장된 저장부;
상기 적어도 하나의 프로그램 명령을 수행하는 프로세서; 및
통신부
를 포함하고,
상기 프로세서는,
하나의 스토리와 관련된 복수의 이미지를 순차적으로 하나씩 디스플레이하는 것과 연동하여 상기 복수의 이미지 각각과 관련된 복수의 제1 음성 데이터를 획득하는 제1 태스크를 수행하고,
이미지 디스플레이 없이 상기 하나의 스토리에 대한 정보를 디스플레이하면서 제2 음성 데이터를 획득하는 제2 태스크를 수행하고,
상기 복수의 제1 음성 데이터 및 상기 제2 음성 데이터를 이용하여 획득한 내용 분석 정보 및 음성 활동 분석 정보를 치매 식별 모델에 입력하여 치매 여부를 식별하기 위해 상기 복수의 제1 음성 데이터 및 상기 제2 음성 데이터를 장치에 전송하도록 상기 통신부를 제어하고,
상기 복수의 제1 음성 데이터는,
상기 복수의 이미지 중 N차 이미지가 디스플레이될 때 상기 N차 이미지와 같이 디스플레이된 시작과 관련된 텍스트를 포함하는 N차 버튼에 대한 터치 입력이 입력된 시점부터 상기 N차 버튼에 대한 터치 입력에 따라 상기 N차 버튼 대신 상기 N차 이미지와 함께 디스플레이되는 종료와 관련된 텍스트를 포함하는 N+1차 버튼에 대한 터치 입력이 입력된 시점까지 획득된 N차 음성 데이터; 및
상기 N+1차 버튼에 대한 터치 입력이 입력된 경우 상기 N차 이미지 대신 디스플레이되는 N+1차 이미지와 같이 디스플레이된 시작과 관련된 텍스트를 포함하는 N+2차 버튼에 대한 터치 입력이 입력된 시점부터 상기 N+2차 버튼에 대한 터치 입력에 따라 상기 N+2차 버튼 대신 상기 N+1차 이미지와 함께 디스플레이되는 종료와 관련된 텍스트를 포함하는 N+3차 버튼에 대한 터치 입력이 입력된 시점까지 획득된 N+1차 음성 데이터;
를 포함하고,
상기 N은,
1 이상의 자연수이고,
상기 복수의 제1 음성 데이터의 수는,
상기 하나의 스토리와 관련된 상기 복수의 이미지의 수와 동일한,
사용자 단말기.In a user terminal acquiring voice data, which is digital biomarker data for dementia identification, the user terminal comprises:
a storage unit storing at least one program command;
a processor to execute the at least one program instruction; and
Ministry of Communications
including,
the processor,
Performing a first task of acquiring a plurality of first audio data related to each of the plurality of images in association with sequentially displaying a plurality of images related to one story one by one;
performing a second task of obtaining second voice data while displaying information about the one story without displaying an image;
The plurality of first voice data and the second voice data are used to input content analysis information and voice activity analysis information acquired using the plurality of first voice data and the second voice data to a dementia identification model to identify dementia or not. Control the communication unit to transmit voice data to a device;
The plurality of first voice data,
When an Nth image among the plurality of images is displayed, the Nth image is displayed according to a touch input to the Nth button from the time when a touch input to the Nth button including text related to the start displayed as the Nth image is input. Nth voice data acquired up to a point in time when a touch input to an N+1th button including a text related to an end displayed with the Nth image instead of the Nth button is input; and
When the touch input to the N+1 button is input, the time when the touch input to the N+2 button including text related to the displayed start is input, such as the N+1 image displayed instead of the Nth image A time point when a touch input to the N+3 button including a text related to end displayed together with the N+1 image instead of the N+2 button is input according to a touch input to the N+2 button. N+1 order voice data obtained up to;
including,
The N is,
is a natural number greater than or equal to 1;
The number of the plurality of first voice data,
Equal to the number of the plurality of images related to the one story,
user terminal.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220069863A KR102487420B1 (en) | 2022-06-09 | 2022-06-09 | A technique for acquiring voice data which is digital biobarker data for dementia identification |
KR1020230002069A KR20230169828A (en) | 2022-06-09 | 2023-01-06 | A technique for acquiring voice data which is digital biobarker data for dementia identification |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220069863A KR102487420B1 (en) | 2022-06-09 | 2022-06-09 | A technique for acquiring voice data which is digital biobarker data for dementia identification |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020230002069A Division KR20230169828A (en) | 2022-06-09 | 2023-01-06 | A technique for acquiring voice data which is digital biobarker data for dementia identification |
Publications (1)
Publication Number | Publication Date |
---|---|
KR102487420B1 true KR102487420B1 (en) | 2023-01-11 |
Family
ID=84892414
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020220069863A KR102487420B1 (en) | 2022-06-09 | 2022-06-09 | A technique for acquiring voice data which is digital biobarker data for dementia identification |
KR1020230002069A KR20230169828A (en) | 2022-06-09 | 2023-01-06 | A technique for acquiring voice data which is digital biobarker data for dementia identification |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020230002069A KR20230169828A (en) | 2022-06-09 | 2023-01-06 | A technique for acquiring voice data which is digital biobarker data for dementia identification |
Country Status (1)
Country | Link |
---|---|
KR (2) | KR102487420B1 (en) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190135908A (en) | 2019-02-01 | 2019-12-09 | (주)제이엘케이인스펙션 | Artificial intelligence based dementia diagnosing method and apparatus |
JP2021097913A (en) * | 2019-12-23 | 2021-07-01 | 株式会社キャピタルメディカ | Cognitive function confirmation method, cognitive dysfunction determination method, cognitive function confirmation program, cognitive dysfunction determination program and cognitive function confirmation and determination device |
KR20210091561A (en) * | 2020-01-14 | 2021-07-22 | 주식회사 바이칼에이아이 | System and Method for detecting MCI based in AI |
KR20220031957A (en) * | 2020-09-06 | 2022-03-15 | 주식회사 참빛교육 | Reading level test system |
KR102392318B1 (en) * | 2022-01-17 | 2022-05-02 | 주식회사 하이 | A technique for identifying a dementia based on mixed tests |
-
2022
- 2022-06-09 KR KR1020220069863A patent/KR102487420B1/en active IP Right Grant
-
2023
- 2023-01-06 KR KR1020230002069A patent/KR20230169828A/en unknown
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190135908A (en) | 2019-02-01 | 2019-12-09 | (주)제이엘케이인스펙션 | Artificial intelligence based dementia diagnosing method and apparatus |
JP2021097913A (en) * | 2019-12-23 | 2021-07-01 | 株式会社キャピタルメディカ | Cognitive function confirmation method, cognitive dysfunction determination method, cognitive function confirmation program, cognitive dysfunction determination program and cognitive function confirmation and determination device |
KR20210091561A (en) * | 2020-01-14 | 2021-07-22 | 주식회사 바이칼에이아이 | System and Method for detecting MCI based in AI |
KR20220031957A (en) * | 2020-09-06 | 2022-03-15 | 주식회사 참빛교육 | Reading level test system |
KR102392318B1 (en) * | 2022-01-17 | 2022-05-02 | 주식회사 하이 | A technique for identifying a dementia based on mixed tests |
Also Published As
Publication number | Publication date |
---|---|
KR20230169828A (en) | 2023-12-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210005180A1 (en) | Electronic device for modulating user voice using artificial intelligence model and control method thereof | |
KR102638481B1 (en) | A technique for identifying a dementia based on mixed tests | |
US11449672B2 (en) | Method for operating speech recognition service and electronic device and server for supporting the same | |
US11631400B2 (en) | Electronic apparatus and controlling method thereof | |
US20200219492A1 (en) | System and method for multi-spoken language detection | |
US11942077B2 (en) | Electronic device and operating method thereof | |
US20240152809A1 (en) | Efficient machine learning model architecture selection | |
KR102487420B1 (en) | A technique for acquiring voice data which is digital biobarker data for dementia identification | |
KR102487440B1 (en) | A technique for identifying dementia based on voice data | |
KR102455264B1 (en) | A technique for identifying a dementia | |
KR102519725B1 (en) | Technique for identifying cognitive functioning state of a user | |
KR102431261B1 (en) | A technique for training a dementia identification model based on a test result data | |
CN116324763A (en) | Electronic device for answering questions using a plurality of chat robots and control method thereof | |
KR102479598B1 (en) | A technique for identifying mild cognitive impairment based on gaze information | |
US20230233138A1 (en) | Technique for identifying dementia based on plurality of result data | |
KR102421879B1 (en) | A technique for identifying a dementia based on gaze information | |
KR102498426B1 (en) | Techniques to provide cognitive reinforcement training based on digital biomarkers | |
KR102526173B1 (en) | Technique for extracting a voice of a specific speaker from voice data | |
US20220215276A1 (en) | Electronic device and method for controlling electronic device | |
EP4075296A1 (en) | Electronic device and controlling method of electronic device | |
KR20240085122A (en) | Technique for training a model to distinguish a voice of a specific speaker |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
AMND | Amendment | ||
E601 | Decision to refuse application | ||
X091 | Application refused [patent] | ||
AMND | Amendment | ||
X701 | Decision to grant (after re-examination) | ||
A107 | Divisional application of patent | ||
GRNT | Written decision to grant |