KR102678350B1 - English education method using learning level and service system therefor - Google Patents
English education method using learning level and service system therefor Download PDFInfo
- Publication number
- KR102678350B1 KR102678350B1 KR1020210057862A KR20210057862A KR102678350B1 KR 102678350 B1 KR102678350 B1 KR 102678350B1 KR 1020210057862 A KR1020210057862 A KR 1020210057862A KR 20210057862 A KR20210057862 A KR 20210057862A KR 102678350 B1 KR102678350 B1 KR 102678350B1
- Authority
- KR
- South Korea
- Prior art keywords
- english
- images
- sentence
- word
- user
- Prior art date
Links
- 238000000034 method Methods 0.000 title abstract description 33
- 238000004891 communication Methods 0.000 claims description 49
- 239000013598 vector Substances 0.000 claims description 33
- 238000012545 processing Methods 0.000 claims description 18
- 230000009193 crawling Effects 0.000 claims description 15
- 230000001413 cellular effect Effects 0.000 claims description 13
- 239000000284 extract Substances 0.000 claims description 12
- 230000015572 biosynthetic process Effects 0.000 claims 1
- 238000003786 synthesis reaction Methods 0.000 claims 1
- 230000008450 motivation Effects 0.000 abstract description 2
- 238000011017 operating method Methods 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 25
- 230000008569 process Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 12
- 238000007726 management method Methods 0.000 description 12
- 230000004044 response Effects 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 239000000463 material Substances 0.000 description 4
- 238000003825 pressing Methods 0.000 description 4
- 230000002194 synthesizing effect Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000008280 blood Substances 0.000 description 2
- 210000004369 blood Anatomy 0.000 description 2
- 238000002591 computed tomography Methods 0.000 description 2
- 239000004744 fabric Substances 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- 208000006930 Pseudomyxoma Peritonei Diseases 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000002583 angiography Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 230000036760 body temperature Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000002567 electromyography Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000002595 magnetic resonance imaging Methods 0.000 description 1
- 238000001646 magnetic resonance method Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 229920001690 polydopamine Polymers 0.000 description 1
- 229920000306 polymethylpentene Polymers 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000002601 radiography Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000005406 washing Methods 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/20—Education
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/53—Querying
- G06F16/532—Query formulation, e.g. graphical querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/53—Querying
- G06F16/538—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B19/00—Teaching not covered by other main groups of this subclass
- G09B19/06—Foreign languages
Abstract
본 발명의 다양한 실시예는, 학습 레벨을 이용한 영어 교육 방법 및 그를 위한 서비스 시스템에 관한 것이다.
단순히 문법이나 단어를 암기하는 방식의 영어 교육은 영어 교육에 대한 학습자의 흥미와 의욕을 잃게 만들 수 있고, 텍스트만으로 구성된 컨텐츠의 단순성 때문에 학습 효과도 높지 않은 문제점이 있다.
본 발명의 다양한 실시예에 따른 서버 및 그 동작 방법은, 사용자의 선호 카테고리에 기반하여 개인별 학습 컨텐츠를 제작하고, 학습 효율을 높이기 위하여 학습 컨텐츠와 관련된 이미지를 사용자 장치로 함께 제공하며, 사용자가 답변한 영어 문장의 완성도에 기반하여, 사용자에게 힌트 단어를 제공할 수 있다.Various embodiments of the present invention relate to an English education method using learning levels and a service system therefor.
English education that simply memorizes grammar or words can cause learners to lose interest and motivation in English education, and the learning effectiveness is not high due to the simplicity of the content consisting of only text.
The server and its operating method according to various embodiments of the present invention produce personalized learning content based on the user's preference category, provide images related to the learning content to the user's device to increase learning efficiency, and allow the user to respond. Based on the completeness of an English sentence, hint words can be provided to the user.
Description
본 발명의 다양한 실시예는, 학습 레벨을 이용한 영어 교육 방법 및 그를 위한 서비스 시스템에 관한 것이다.Various embodiments of the present invention relate to an English education method using learning levels and a service system therefor.
본 발명의 다양한 실시예는, 영어 학습 서비스를 제공하는 서버 및 그 동작 방법에 관한 것이다.Various embodiments of the present invention relate to a server providing an English learning service and a method of operating the same.
인터넷의 영향에 힘입어 인터넷을 이용한 온라인 교육 프로그램이 교육계에서 각광을 받고 널리 활용되고 있다. 온라인 교육 시스템은 대부분 해당 과목 강사의 강의를 동영상 파일로 제작하여 교육 제공 서버를 통해 인터넷 상에 올린 다음, 사용자가 인터넷이 연결된 PC로 시간과 장소에 상관없이 사용자 자신이 원하는 강의를 다운로드 받아 시청하고 학습할 수 있는 스트리밍 방식의 주문형 강의(LOD: Lecture On Demand) 교육 자료를 제공하고 있다.Thanks to the influence of the Internet, online education programs using the Internet are gaining attention and are being widely used in the educational world. In most online education systems, the lectures of the instructor of the subject are produced as video files and uploaded on the Internet through an education provision server, and then users can download and watch the lectures they want regardless of time and place on a PC connected to the Internet. We provide streaming lecture on demand (LOD) educational materials for learning.
이러한 온라인 교육 시스템은 사용자가 사이버 대학, 인터넷 교육업체 등의 교육 관련 웹 사이트에서 교육 자료(동영상, 음성, 문자 등을 포함한다)를 다운로드 받아 재생하여 학습하는 멀티미디어 인터넷 재택학습이 가능하고, 다운로드 받은 교육 자료는 언제 어디서든지 PC를 통해 반복 학습이 가능하며, 사용자는 교육 자료에 대한 질문 사항이나 강의 평가 등을 인터넷을 통해 교육 서비스 제공자와 주고 받을 수 있는 기능을 포함하고 있다.This online education system enables multimedia internet home learning where users learn by downloading and playing educational materials (including videos, voices, texts, etc.) from education-related websites such as cyber universities and internet education companies. Educational materials can be studied repeatedly through a PC anytime, anywhere, and include a function that allows users to exchange questions about educational materials or lecture evaluations with educational service providers over the Internet.
단순히 문법이나 단어를 암기하는 방식의 영어 교육은 영어 교육에 대한 학습자의 흥미와 의욕을 잃게 만들 수 있고, 텍스트만으로 구성된 컨텐츠의 단순성 때문에 학습 효과도 높지 않은 문제점이 있다. English education that simply memorizes grammar or words can cause learners to lose interest and motivation in English education, and the learning effectiveness is not high due to the simplicity of the content consisting of only text.
본 발명의 다양한 실시예에 따른 서버 및 그 동작 방법은, 사용자의 선호 카테고리에 기반하여 개인별 학습 컨텐츠를 제작하고, 학습 효율을 높이기 위하여 학습 컨텐츠와 관련된 이미지를 사용자 장치로 함께 제공하며, 사용자가 답변한 영어 문장의 완성도에 기반하여, 사용자에게 힌트 단어를 제공할 수 있다.The server and its operating method according to various embodiments of the present invention produce personalized learning content based on the user's preference category, provide images related to the learning content to the user's device to increase learning efficiency, and allow the user to respond. Based on the completeness of an English sentence, hint words can be provided to the user.
본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical problems to be achieved in the present invention are not limited to the technical problems mentioned above, and other technical problems not mentioned will be clearly understood by those skilled in the art from the description below. You will be able to.
다양한 실시예들에 따라서, 영어 학습 서비스를 제공하는 서버는, 통신 인터페이스, 및 프로세서를 포함하고, 상기 프로세서는, 사용자 장치를 이용하는 사용자의 선호 카테고리를 확인하고, 상기 선호 카테고리에 기반하여 웹 크롤링(web crawling)을 이용하여 수집된 컨텐츠 중에서, 상기 사용자의 학습 레벨에 해당하는 영어 문장 및 상기 영어 문장을 번역한 한국어 문장을 동시에 포함하는 학습용 컨텐츠를 선택하고, 상기 학습용 컨텐츠에 포함된 상기 영어 문장 및 상기 한국어 문장을 분석함으로써, 상기 영어 문장에서 미리 정해진 품사에 해당하는 영어 단어와 한 쌍을 구성하고 상기 미리 정해진 품사에 해당하는 한국어 단어를 상기 한국어 문장으로부터 선택하고, 상기 웹 크롤링을 이용하여, 상기 한국어 단어에 해당하는 제1 이미지들을 수집하고 및 상기 영어 단어에 해당하는 제2 이미지들을 수집하고 -상기 사용자 장치가 셀룰러 네트워크에 연결 중인 상태인 경우, 정지 영상에만 해당하는 상기 제1 이미지들 및 상기 제2 이미지들을 수집하고, 상기 사용자 장치가 Wi-Fi 네트워크에 연결 중인 상태인 경우, 정지 영상 또는 동영상에 해당하는 상기 제1 이미지들 및 상기 제2 이미지들을 수집함-, 상기 제1 이미지들과 상기 제2 이미지들 사이의 제1 유사도를 판단하여, 상기 제1 이미지들 중에서 상기 제2 이미지들에 대하여 가장 높은 유사도를 갖는 대표 이미지를 상기 한국어 단어에 연관시키고 -상기 한국어 문장에서 상기 미리 정해진 품사에 해당하는 모든 단어들에 대하여 대표 이미지들을 연관시키는 동작이 수행됨-, 상기 통신 인터페이스를 통하여 상기 대표 이미지들이 연관되어 있는 상기 한국어 문장을 상기 사용자 장치로 제공하고, 상기 통신 인터페이스를 통하여 상기 사용자 장치로부터 상기 한국어 문장에 대한 비교 대상 영어 문장을 수신하고, doc2vec 알고리즘을 이용하여, 상기 비교 대상 영어 문장과 정답 문장으로서의 상기 영어 문장 사이의 제2 유사도를 판단하고, 및 상기 제2 유사도가 제1 임계치 이하이고, 상기 제1 임계치 보다 낮은 제2 임계치 이상인 경우: 1) word2vec 알고리즘을 이용하여, 상기 비교 대상 영어 문장에 포함된 쿼리 영어 단어와 상기 영어 문장에 포함된 정답 영어 단어 사이의 제3 유사도를 판단하고 -상기 비교 대상 영어 문장에 포함된 모든 쿼리 단어 단어들에 대하여 상기 영어 문장에 포함된 모든 정답 영어 단어들과의 유사도를 판단하는 동작이 수행됨-, 2) 상기 제3 유사도가 제3 임계치 미만인 경우, 상기 정답 영어 단어의 기본형에 해당하는 단어를 힌트 단어(hint word)로서 상기 사용자 장치로 제공하고, 3) 상기 제3 유사도가 제4 임계치를 초과한 경우, 상기 정답 영어 단어의 반의어를 상기 힌트 단어로서 상기 사용자 장치로 제공하고, 및 4) 상기 제3 유사도가 상기 제3 임계치 이상이고, 상기 제4 임계치 이하인 경우, 상기 정답 영어 단어의 유의어를 상기 힌트 단어로서 상기 사용자 장치로 제공하도록 설정될 수 있다.According to various embodiments, a server providing an English learning service includes a communication interface and a processor, wherein the processor determines a preference category of a user using a user device and performs web crawling based on the preference category ( From content collected using web crawling, select learning content that simultaneously includes English sentences corresponding to the user's learning level and Korean sentences translated from the English sentences, and select the English sentences and By analyzing the Korean sentence, forming a pair with an English word corresponding to a predetermined part of speech in the English sentence and selecting a Korean word corresponding to the predetermined part of speech from the Korean sentence, using the web crawling, Collecting first images corresponding to a Korean word and collecting second images corresponding to the English word - when the user device is connected to a cellular network, the first images corresponding to still images only and the Collecting second images, and if the user device is connected to a Wi-Fi network, collecting the first images and the second images corresponding to still images or moving images - the first images and Determining a first similarity between the second images, associating a representative image with the highest similarity to the second images among the first images to the Korean word, and - the predetermined part of speech in the Korean sentence An operation of associating representative images with all words corresponding to -, providing the Korean sentence with which the representative images are associated to the user device through the communication interface, and sending from the user device through the communication interface Receiving an English sentence to be compared to the Korean sentence, using the doc2vec algorithm, determine a second similarity between the English sentence to be compared and the English sentence as a correct sentence, and the second similarity is less than or equal to a first threshold. If the second threshold is lower than the first threshold or more: 1) Using the word2vec algorithm, determine the third degree of similarity between the query English word included in the English sentence to be compared and the correct English word included in the English sentence. And - an operation is performed to determine the similarity of all query words included in the English sentence to be compared with all correct English words included in the English sentence. 2) the third similarity is less than a third threshold. In this case, a word corresponding to the basic form of the correct English word is provided to the user device as a hint word, and 3) if the third similarity exceeds the fourth threshold, an antonym of the correct English word is provided to the user device. provided to the user device as a hint word, and 4) when the third similarity is greater than the third threshold and less than the fourth threshold, set to provide a synonym of the correct English word to the user device as the hint word. It can be.
다양한 실시예들에 따라서, 상기 프로세서는, 상기 제2 유사도가 상기 제1 임계치를 초과하는 경우, 상기 비교 대상 영어 문장을 정답 처리하고, 상기 통신 인터페이스를 통하여 상기 영어 문장을 상기 사용자 장치로 제공하고, 및 상기 제2 유사도가 상기 제2 임계치 미만인 경우, 상기 비교 대상 영어 문장을 오답 처리하고, 상기 통신 인터페이스를 통하여 상기 영어 문장을 상기 사용자 장치로 제공하도록 설정될 수 있다.According to various embodiments, when the second similarity exceeds the first threshold, the processor processes the English sentence to be compared as correct, provides the English sentence to the user device through the communication interface, and , and if the second similarity is less than the second threshold, the English sentence to be compared may be processed as an incorrect answer, and the English sentence may be provided to the user device through the communication interface.
다양한 실시예들에 따라서, 상기 프로세서는, 상기 제1 이미지들 및 상기 제2 이미지들을 질감 피처 및 형태 피처 추출을 위한 특정 기준에 따라 프로세싱하고, 프로세싱 결과를 합성하기 위한 기준에 따라 인덱스로 변환하여 상기 제1 이미지들 및 상기 제2 이미지들에 인덱싱하고, 및 상기 타겟 건축물 설계도를 상기 특정 기준에 따라 프로세싱하고, 프로세싱 결과를 합성하기 위한 기준에 따라 변환한 값을 이용하여 상기 제1 유사도를 판단하도록 설정되고, 상기 특정 기준은, 상기 제1 이미지들 및 상기 제2 이미지들로부터 상기 질감 피처를 추출하고, 상기 질감 피처의 벡터를 계산하기 위하여 상기 제1 이미지들 및 상기 제2 이미지들에 아래의 수학식 1을 적용하고, 상기 특정 기준은 상기 제1 이미지들 및 상기 제2 이미지들로부터 상기 형태 피처를 추출하고, 상기 형태 피처를 계산하기 위하여, 상기 제1 이미지들 및 상기 제2 이미지들에 아래의 수학식 2를 적용할 수 있다.According to various embodiments, the processor processes the first images and the second images according to specific criteria for extracting texture features and shape features, and converts the processing results into indices according to criteria for synthesizing them. Indexing the first images and the second images, processing the target building blueprint according to the specific standard, and determining the first similarity using a value converted according to the standard for synthesizing the processing result. The specific criterion is set to extract the texture feature from the first images and the second images, and calculate the vector of the texture feature. Apply Equation 1, and the specific criterion is applied to the first images and the second images to extract the shape feature from the first images and the second images and calculate the shape feature. Equation 2 below can be applied.
[수학식 1][Equation 1]
[수학식 2][Equation 2]
다양한 실시예들에 따라서, 상기 프로세서는, 상기 제1 이미지들 및 상기 제2 이미지들 사이의 상기 제1 유사도를 계산하기 위하여, 상기 특정 기준에 따라 프로세싱한 상기 제1 이미지들 및 상기 제2 이미지들 사이의 거리 값을 아래의 수학식 3을 적용하여 계산하도록 설정될 수 있다.According to various embodiments, the processor processes the first images and the second images according to the specific criteria to calculate the first similarity between the first images and the second images. The distance value between them can be set to be calculated by applying Equation 3 below.
[수학식 3][Equation 3]
다양한 실시예들에 따라서, 상기 프로세서는, 상기 doc2vec 알고리즘을 이용하여, 상기 비교 대상 영어 문장과 상기 영어 문장 사이의 상기 제2 유사도를 아래의 수학식 4를 적용하여 계산하도록 설정되고, 상기 비교 대상 영어 문장 p의 doc2vec가 [p1, p2, …, pn]이고, 상기 영어 문장 q의 doc2vec가 [q1, q2, …, qn]일 수 있다.According to various embodiments, the processor is set to calculate the second similarity between the English sentence to be compared and the English sentence using the doc2vec algorithm by applying Equation 4 below, and the target to be compared doc2vec of English sentence p is [p 1 , p 2 , … , p n ], and the doc2vec of the English sentence q is [q 1 , q 2 , … , q n ].
[수학식 4][Equation 4]
다양한 실시예들에 따라서, 상기 프로세서는, 상기 word2vec 알고리즘의 skip-gram 모델에 기반하는 아래의 수학식 5를 이용하여, 상기 쿼리 영어 단어 및 상기 정답 영어 단어를 벡터화하고, 및 코사인 유사도에 기반하는 아래의 수학식 6을 이용하여 상기 쿼리 영어 단어 및 상기 정답 영어 단어 사이의 상기 제3 유사도를 판단하도록 설정될 수 있다.According to various embodiments, the processor vectorizes the query English word and the correct English word using Equation 5 below based on the skip-gram model of the word2vec algorithm, and based on cosine similarity. The third degree of similarity between the query English word and the correct English word can be determined using Equation 6 below.
[수학식 5][Equation 5]
[수학식 6][Equation 6]
본 발명의 다양한 실시예에 따라, 사용자의 선호 카테고리에 기반하여 학습용 컨텐츠를 사용자 장치로 제공하고, 사용자가 답변한 영어 문장의 완성도에 기반하여, 사용자에게 힌트 단어를 제공함으로써, 사용자의 영어 학습의 효율을 높일 수 있다. According to various embodiments of the present invention, learning content is provided to the user device based on the user's preference category, and hint words are provided to the user based on the completeness of the English sentences answered by the user, thereby improving the user's English learning. Efficiency can be increased.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects that can be obtained from the present invention are not limited to the effects mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the description below. will be.
본 발명의 특정한 바람직한 실시예들의 상기에서 설명한 바와 같은 또한 다른 측면들과, 특징들 및 이득들은 첨부 도면들과 함께 처리되는 하기의 설명으로부터 보다 명백하게 될 것이다.
도 1은 본 발명의 다양한 실시예에 따른 전자 장치 및 네트워크의 블록도를 도시한다.
도 2는 다양한 실시예에 따른 전자 장치의 블록도이다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4a 내지 도 4c는 다양한 실시예들에 따른, 전자 장치가 영어 학습 서비스를 제공하는 방법을 설명하기 위한 흐름도이다.
도 5는 다양한 실시예들에 따른, 전자 장치가 사용자 장치로 제공하는 질의용 컨텐츠를 나타내는 도면이다.
도 6은 다양한 실시예들에 따른, 문장을 임베딩 벡터로 변환하는 과정을 설명하기 위한 예시 도면이다.
도 7은 다양한 실시예들에 따른, word2vec 알고리즘의 skip-gram 모델을 나타내는 도면이다.The above-described and other aspects, features and benefits of certain preferred embodiments of the present invention will become more apparent from the following description taken in conjunction with the accompanying drawings.
1 shows a block diagram of an electronic device and a network according to various embodiments of the present invention.
2 is a block diagram of an electronic device according to various embodiments.
3 is a block diagram of a program module according to various embodiments.
FIGS. 4A to 4C are flowcharts illustrating a method of providing an English learning service by an electronic device, according to various embodiments.
FIG. 5 is a diagram illustrating query content provided by an electronic device to a user device, according to various embodiments.
Figure 6 is an example diagram illustrating a process for converting a sentence into an embedding vector according to various embodiments.
Figure 7 is a diagram showing the skip-gram model of the word2vec algorithm according to various embodiments.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 기재된다. 실시예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.Hereinafter, various embodiments of this document are described with reference to the attached drawings. The examples and terms used herein are not intended to limit the technology described in this document to specific embodiments, and should be understood to include various modifications, equivalents, and/or substitutes for the examples. In connection with the description of the drawings, similar reference numbers may be used for similar components. Singular expressions may include plural expressions, unless the context clearly dictates otherwise. In this document, expressions such as “A or B” or “at least one of A and/or B” may include all possible combinations of the items listed together. Expressions such as “first,” “second,” “first,” or “second,” can modify the corresponding components regardless of order or importance, and are used to distinguish one component from another. It is only used and does not limit the corresponding components. When a component (e.g., a first) component is said to be "connected (functionally or communicatively)" or "connected" to another (e.g., second) component, it means that the component is connected to the other component. It may be connected directly to a component or may be connected through another component (e.g., a third component).
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다. In this document, “configured to” means “suitable for,” “having the ability to,” or “changed to,” depending on the situation, for example, in terms of hardware or software. ," can be used interchangeably with "made to," "capable of," or "designed to." In some contexts, the expression “a device configured to” may mean that the device is “capable of” working with other devices or components. For example, the phrase "processor configured (or set) to perform A, B, and C" refers to a processor dedicated to performing the operations (e.g., an embedded processor), or by executing one or more software programs stored on a memory device. , may refer to a general-purpose processor (e.g., CPU or application processor) capable of performing the corresponding operations.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료기기, 카메라, 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.Electronic devices according to various embodiments of the present document include, for example, smartphones, tablet PCs, mobile phones, video phones, e-book readers, desktop PCs, laptop PCs, netbook computers, workstations, servers, PDAs, and PMPs. (portable multimedia player), MP3 player, medical device, camera, or wearable device. Wearable devices may be accessory (e.g., watches, rings, bracelets, anklets, necklaces, glasses, contact lenses, or head-mounted-device (HMD)), fabric or clothing-integrated (e.g., electronic clothing), In some embodiments, the electronic device may include at least one of body attached (e.g., skin pad or tattoo) or bioimplantable circuitry, for example, a television, a digital video disk (DVD) player, etc. Audio, refrigerator, air conditioner, vacuum cleaner, oven, microwave, washing machine, air purifier, set-top box, home automation control panel, security control panel, media box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ) , it may include at least one of a game console (e.g., Xbox TM , PlayStation TM ), an electronic dictionary, an electronic key, a camcorder, or an electronic picture frame.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM, 상점의 POS(point of sales), 또는 사물 인터넷 장치 (예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다. 어떤 실시예에 따르면, 전자 장치는 가구, 건물/구조물 또는 자동차의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터, 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 플렉서블하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다. In another embodiment, the electronic device may include various medical devices (e.g., various portable medical measurement devices (such as blood sugar monitors, heart rate monitors, blood pressure monitors, or body temperature monitors), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), CT (computed tomography), radiography, or ultrasound, etc.), navigation devices, satellite navigation systems (GNSS (global navigation satellite system)), EDR (event data recorder), FDR (flight data recorder), automobile infotainment devices, marine electronic equipment (e.g. marine navigation devices, gyro compasses, etc.), avionics, security devices, head units for vehicles, industrial or home robots, drones, ATMs at financial institutions, point-of-sale (POS) at stores. of sales), or Internet of Things devices (e.g., light bulbs, various sensors, sprinkler devices, fire alarms, thermostats, street lights, toasters, exercise equipment, hot water tanks, heaters, boilers, etc.). According to some embodiments, the electronic device may be a piece of furniture, a building/structure, or a vehicle, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (e.g., water, electrical, It may include at least one of gas, radio wave measuring equipment, etc.). In various embodiments, the electronic device may be flexible, or may be a combination of two or more of the various devices described above. Electronic devices according to embodiments of this document are not limited to the above-described devices. In this document, the term user may refer to a person using an electronic device or a device (e.g., an artificial intelligence electronic device) using an electronic device.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 한편, 다양한 실시예들에 따른 전자 장치(101)에 대하여 설명은 도 1 내지 도 3을 참조하여 후술하도록 한다.1, an electronic device 101 within a network environment 100, in various embodiments, is described. Meanwhile, the electronic device 101 according to various embodiments will be described later with reference to FIGS. 1 to 3.
도 4a 내지 도 4c는 다양한 실시예들에 따른, 전자 장치(예: 도 1의 전자 장치(101))가 영어 학습 서비스를 제공하는 방법을 설명하기 위한 제1 흐름도이다.FIGS. 4A to 4C are first flowcharts illustrating a method of providing an English learning service by an electronic device (e.g., the electronic device 101 of FIG. 1 ) according to various embodiments.
도 5는 다양한 실시예들에 따른, 전자 장치(101)가 사용자 장치(102)로 제공하는 질의용 컨텐츠를 나타내는 도면이다.FIG. 5 is a diagram illustrating query content provided by the electronic device 101 to the user device 102 according to various embodiments.
도 6은 다양한 실시예들에 따른, 문장을 임베딩 벡터로 변환하는 과정을 설명하기 위한 예시 도면이다.Figure 6 is an example diagram illustrating a process for converting a sentence into an embedding vector according to various embodiments.
도 7은 다양한 실시예들에 따른, word2vec 알고리즘의 skip-gram 모델을 나타내는 도면이다.Figure 7 is a diagram showing the skip-gram model of the word2vec algorithm according to various embodiments.
다양한 실시예들에 따르면, 전자 장치(101)는 사용자 장치(예: 도 1의 전자 장치(102))(예: 스마트폰)와 통신망을 통해 통신하며, 사용자 장치(102)로 복수의 실행 화면들로 구성된 영어 학습 관련 어플리케이션을 운영하는 서버이거나 또는 복수의 웹 페이지(web page)들로 구성된 웹 사이트(web site)를 제공하는 서버일 수 있다. 전자 장치(101)는 사용자 장치(102)가 전용 어플리케이션 또는 웹 사이트의 각 실행 화면을 표시할 수 있도록 하는 소스 코드를 사용자 장치(102)로 송신할 수 있고, 사용자 장치(102)는 상기 소스 코드를 수신하여, 상기 전용 어플리케이션 또는 웹 브라우저를 통하여 요청된 실행 화면을 표시할 수 있다.According to various embodiments, the electronic device 101 communicates with a user device (e.g., the electronic device 102 of FIG. 1) (e.g., a smartphone) through a communication network, and displays a plurality of execution screens to the user device 102. It may be a server that operates an English learning-related application composed of multiple web pages, or a server that provides a web site composed of a plurality of web pages. The electronic device 101 may transmit source code that allows the user device 102 to display each execution screen of a dedicated application or website to the user device 102, and the user device 102 may transmit the source code to the user device 102. Upon receiving the request, the requested execution screen can be displayed through the dedicated application or web browser.
401 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 사용자 장치(102)를 이용하는 사용자의 선호 카테고리를 확인할 수 있다. 사용자의 선호 카테고리를 확인하는 이유는, 영어와 같이 외국어를 공부할 때, 공부하는 사용자의 관심 분야에 해당하는 컨텐츠를 이용하여 외국어를 공부함으로써, 사용자의 집중도를 높이기 위함이다.In operation 401, according to various embodiments, the electronic device 101 (eg, the processor 120 of FIG. 1) may check the preference category of the user using the user device 102. The reason for checking the user's preferred category is to increase the user's concentration by studying the foreign language using content corresponding to the user's field of interest when studying a foreign language such as English.
일 실시예에 따르면, 전자 장치(101)는 사용자 장치(102)가 영어 학습 어플리케이션을 실행한 시점으로부터 미리 정해진 이전 기간(예: 24시간) 동안 처리된 사용자 장치(102)의 로그 데이터에 기반하여 사용자 장치(102)를 이용하는 사용자의 선호 카테고리를 확인할 수 있다. 이 경우, 전자 장치(101)는 사용자 장치(102)의 로그 데이터로서, 웹 검색 내역, 웹 접속 기록, 및 SNS 어플리케이션 이용 기록, 및 미디어 재생 기록 등에 기반하여, 사용자가 관심을 가진 분야를 나타내는 선호 카테고리를 확인할 수 있다.According to one embodiment, the electronic device 101 is based on log data of the user device 102 processed over a predetermined period of time (e.g., 24 hours) from the time the user device 102 executes the English learning application. The preferred categories of the user using the user device 102 can be confirmed. In this case, the electronic device 101 is log data of the user device 102, and is based on web search history, web access history, SNS application use history, and media playback history, and preferences indicating areas of interest to the user. You can check the categories.
일 실시예에 따르면, 전자 장치(101)는 본 발명에 따른 영어 학습 어플리케이션을 통하여 사용자가 직접 선택한 선호 카테고리에 대한 정보를 사용자 장치(102)로부터 수신할 수 있고, 상기 수신된 정보에 기반하여 사용자 장치(102)를 이용하는 사용자의 선호 카테고리를 확인할 수 있다.According to one embodiment, the electronic device 101 may receive information about a preference category directly selected by the user from the user device 102 through the English learning application according to the present invention, and the user can use the information based on the received information. The preferred category of the user using the device 102 can be confirmed.
403 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 사용자의 선호 카테고리에 기반하여 웹 크롤링(web crawling)을 이용하여 수집된 컨텐츠 중에서, 사용자의 학습 레벨에 해당하는 영어 문장 및 상기 영어 문장을 번역한 한국어 문장을 동시에 포함하는 학습용 컨텐츠를 선택할 수 있다.In operation 403, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) selects a user from among content collected using web crawling based on the user's preference category. You can select learning content that simultaneously includes English sentences corresponding to the learning level and Korean sentences translated from the English sentences.
일 실시예에 따르면, 전자 장치(101)는 웹 크롤링(web crawling)을 이용하여, 사용자의 선호 카테고리에 해당하는 컨텐츠를 수집할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 크롤러, 파서, 인덱서를 구비하여, 온라인에서 웹 문서를 수집하고, 웹 문서에 포함된 각종 텍스트 정보에 접근할 수 있다. 예를 들어, 크롤러는 선호 카테고리(즉, 관심 분야)의 웹 주소 목록을 수집하고, 웹사이트를 확인하여 링크를 추적하는 방식으로 텍스트 데이터를 전자 장치(101)로 전달할 수 있다. 이때 파서는 크롤링 과정 중에 수집된 웹 문서를 해석하여 페이지에 포함된 텍스트 정보를 추출하며, 인덱서는 해당 위치와 의미를 색인할 수 있다. 예를 들면, 전자 장치(101)는 선호 카테고리를 나타내는 단어(예: 사건 사고)를 핵심 키워드로 하여, '국내 이슈 사고', '해외 이슈 사고', '오늘 발생한 황당 사고' 등의 사건 사고와 관련된 연관 키워드를 핵심 키워드와 조합하여 웹 크롤링을 수행할 수 있고, 뉴스 기사 제공 서버에서 발행된 영화 관련 뉴스 기사 중에서 영어 문장 및 한국어 문장을 함께 포함하는 학습용 컨텐츠를 수집할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 영어 학습을 위하여 영어 문장과 한국어 문장을 함께 포함하는 뉴스를 발행하는 웹 사이트를 웹 크롤링을 수행할 목표 웹 사이트로서 미리 지정할 수 있다.According to one embodiment, the electronic device 101 may collect content corresponding to the user's preferred category using web crawling. According to one embodiment, the electronic device 101 is equipped with a crawler, a parser, and an indexer, and can collect web documents online and access various text information included in the web documents. For example, a crawler may collect a list of web addresses in preferred categories (i.e., areas of interest), identify websites and track links, thereby delivering text data to the electronic device 101. At this time, the parser interprets the web documents collected during the crawling process to extract text information contained in the page, and the indexer can index the location and meaning. For example, the electronic device 101 uses words representing preferred categories (e.g., accident) as key keywords, and includes incidents and accidents such as 'domestic issue accident', 'overseas issue accident', and 'absurd accident that occurred today'. Web crawling can be performed by combining related keywords with key keywords, and learning content containing both English and Korean sentences can be collected from movie-related news articles published on a news article provision server. According to one embodiment, for learning English, the electronic device 101 may pre-designate a website that publishes news containing both English and Korean sentences as a target website to perform web crawling.
일 실시예에 따르면, 전자 장치(101)는 수집된 컨텐츠로부터, 사용자의 학습 레벨에 해당하는 영어 문장(예: "The boat crashed into a reef and shot under an arched bridge") 및 상기 영어 문장을 번역한 한국어 문장(예: "그 보트는 암초와 충돌하고 난 뒤 아치형 다리 밑으로 쏜살같이 질주했다") 을 동시에 포함하는 학습용 컨텐츠를 선택할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 사용자의 이전 학습 데이터 또는 사용자가 직접 입력한 학습 레벨에 기반하여 사용자의 학습 레벨을 판단할 수 있다. 예를 들어, 전자 장치(101)는 사용자의 학습 레벨을 5단계로 구분할 수 있고, 사용자의 학습 레벨(예: 1단계 내지 5단계)에 해당하는 문법 형식(예: 1형식 내지 5형식)을 확인할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 자연어 이해 모듈(natural language understanding module)(NLU module)을 이용하여, 수집된 컨텐츠에 포함된 텍스트 데이터를 인식 및 분석할 수 있고, 분석된 텍스트 데이터로부터 사용자의 학습 레벨에 해당하는 문법 형식을 갖는 영어 문장 및 상기 영어 문장을 번역한 한국어 문장을 동시에 포함하는 학습용 컨텐츠를 선택할 수 있다.According to one embodiment, the electronic device 101 translates an English sentence corresponding to the user's learning level (e.g., “The boat crashed into a reef and shot under an arched bridge”) and the English sentence from the collected content. You can select learning content that simultaneously contains one Korean sentence (e.g., “The boat hit the reef and then rushed under the arched bridge”). According to one embodiment, the electronic device 101 may determine the user's learning level based on the user's previous learning data or the learning level directly input by the user. For example, the electronic device 101 may divide the user's learning level into 5 levels, and use grammar forms (e.g., formats 1 to 5) corresponding to the user's learning levels (e.g., levels 1 to 5). You can check it. According to one embodiment, the electronic device 101 is capable of recognizing and analyzing text data included in collected content using a natural language understanding module (NLU module), and from the analyzed text data. You can select learning content that simultaneously includes English sentences with a grammatical form corresponding to the user's learning level and Korean sentences translated from the English sentences.
405 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 상기 학습용 컨텐츠에 포함된 상기 영어 문장 및 상기 한국어 문장을 분석함으로써, 상기 영어 문장에서 미리 정해진 품사에 해당하는 영어 단어와 한 쌍을 구성하고 상기 미리 정해진 품사에 해당하는 한국어 단어를 상기 한국어 문장으로부터 선택할 수 있다.In operation 405, according to various embodiments, the electronic device 101 (e.g., the processor 120 in FIG. 1) analyzes the English sentence and the Korean sentence included in the learning content, thereby A pair can be formed with an English word corresponding to a predetermined part of speech, and a Korean word corresponding to the predetermined part of speech can be selected from the Korean sentence.
일 실시예에 따르면, 전자 장치(101)는 자연어 이해 모듈을 이용하여, 학습용 컨텐츠에 포함된 영어 문장 및 한국어 문장을 분석함으로써, 영어 문장 및 한국어 문장의 품사를 확인할 수 있고, 미리 정해진 품사에 해당하고, 의미상 서로 한 쌍을 이루는 영어 단어 및 한국어 단어를 선택할 수 있다. 예를 들어, 전자 장치(101)는 미리 정해진 품사(예: 명사)에 해당하고 의미상 서로 한 쌍을 이루는 영어 단어 및 한국어 단어(예: "boat 및 보트", "reef 및 암초", "arched bridge 및 아치형 다리")를 선택할 수 있다. 또 다른 예를 들어, 전자 장치(101)는 미리 정해진 품사(예: 동사)에 해당하는 의미상 서로 한 쌍을 이루는 영어 단어 및 한국어 단어(예: "crash 및 충돌하다", "shot 및 질주하다")를 선택할 수 있다. According to one embodiment, the electronic device 101 uses a natural language understanding module to analyze English and Korean sentences included in learning content, thereby confirming the parts of speech of the English and Korean sentences, and corresponding to a predetermined part of speech. You can select English words and Korean words that are semantically paired with each other. For example, the electronic device 101 corresponds to a predetermined part of speech (e.g., a noun) and is semantically paired with an English word and a Korean word (e.g., “boat and boat”, “reef and reef”, “arched”). bridge and “arched bridge”) can be selected. As another example, the electronic device 101 may detect English words and Korean words that are semantically paired with each other, corresponding to predetermined parts of speech (e.g., verbs) (e.g., “crash and collide,” “shot and run”). ") can be selected.
407 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 웹 크롤링을 이용하여 상기 한국어 단어에 해당하는 제1 이미지들을 수집하고 및 상기 영어 단어에 해당하는 제2 이미지들을 수집할 수 있다. 예를 들어, 전자 장치(101)는 검색 서비스를 제공하는 웹 사이트에 접속하여 "보트"에 해당하는 제1 이미지들을 검색하고, "boat"에 해당하는 제2 이미지들을 검색할 수 있다. 상기 웹 크롤링을 이용하는 기술은 403 동작에 설명된 방법을 이용할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 사용자 장치(102)가 셀룰러 네트워크(예: 3G 네트워크 또는 LTE 네트워크)에 연결 중인 상태인 경우, 정지 영상에만 해당하는 제1 이미지들 및 제2 이미지들을 수집하고, 사용자 장치(102)가 Wi-Fi 네트워크에 연결 중인 상태인 경우, 정지 영상 또는 동영상에 해당하는 제1 이미지들 및 제2 이미지들을 수집할 수 있다. 이는 사용자 장치(102)가 셀룰러 네트워크에 연결된 경우, 정지 영상에만 해당하는 이미지를 사용자 장치(102)로 제공함으로써, 사용자 장치(102)의 데이터 사용량을 최소화하기 위함이다.In operation 407, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) collects first images corresponding to the Korean word using web crawling and Corresponding second images may be collected. For example, the electronic device 101 may access a website that provides a search service and search for first images corresponding to “boat” and search for second images corresponding to “boat.” The technology using the web crawling may use the method described in operation 403. According to one embodiment, when the user device 102 is connected to a cellular network (e.g., a 3G network or an LTE network), the electronic device 101 displays first images and second images corresponding to only still images. When the user device 102 is connected to a Wi-Fi network, first images and second images corresponding to still images or moving images may be collected. This is to minimize data usage of the user device 102 by providing images corresponding to only still images to the user device 102 when the user device 102 is connected to a cellular network.
409 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 상기 제1 이미지들과 상기 제2 이미지들 사이의 제1 유사도를 판단하여, 상기 제1 이미지들 중에서 상기 제2 이미지들에 대하여 가장 높은 유사도를 갖는 대표 이미지를 상기 한국어 단어에 연관시킬 수 있다.In operation 409, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) determines a first degree of similarity between the first images and the second images, and determines the first similarity between the first images and the second images. Among the first images, the representative image with the highest similarity to the second images can be associated with the Korean word.
다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 한국어 단어(예: "보트")에 해당하는 제1 이미지들 및 영어 단어(예: "boat")에 해당하는 제2 이미지들을 수집한 경우, 제1 이미지들 및 제2 이미지들 사이의 제1 유사도를 판단할 수 있고, 제1 이미지들 중에서 제2 이미지들에 대하여 가장 높은 유사도를 갖는 하나의 특정 이미지를 대표 이미지로 선택할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 제1 이미지들 및 제2 이미지들을 수집하면, 이들의 비교를 위해 제1 이미지들 및 제2 이미지들을 프리 프로세싱할 수 있다. 이미지들에 대한 프리 프로세싱은 이미지들 자체의 스케일을 미리 설정된 포멧에 따라 변경하거나 사이즈를 변경하거나 해상도를 변경할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 제1 이미지들 및 제2 이미지들을 그레이 스케일로 변환할 수 있다. 전자 장치(101)는 제1 이미지들 및 제2 이미지들에서 텍스처 피처 및 형태 피처를 추출할 수 있으며, 해당 피처는 색상 값에 종속되지 않기 때문에 채도 값과 명암 값만 존재하는 그레이 스케일로 변환하는 것이 이후의 프로세싱에 소요되는 자원의 양을 줄일 수 있기 때문이다.According to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) may display first images corresponding to a Korean word (e.g., “boat”) and an English word (e.g., “boat”). When the second images corresponding to You can select an image as the representative image. According to one embodiment, when the electronic device 101 collects first images and second images, it may pre-process the first images and second images for comparison. Pre-processing of images can change the scale of the images themselves according to a preset format, change the size, or change the resolution. According to one embodiment, the electronic device 101 may convert the first images and second images into gray scale. The electronic device 101 can extract texture features and shape features from the first images and the second images, and since the corresponding features are not dependent on color values, it is difficult to convert them to gray scale in which only saturation and brightness values exist. This is because the amount of resources required for subsequent processing can be reduced.
전자 장치(101)는 가버 필터(Gabor Filter)를 제1 이미지들 및 제2 이미지들에 적용하여 텍스처 피처를 추출할 수 있다. 보다 구체적으로, 전자 장치(101)는 제1 이미지들 및 제2 이미지들를 주파수 공간으로 변환하고 가버 필터링하여 텍스처 피처를 추출할 수 있다. 이미지에서 질감, 즉 텍스처 정보는 그 영상의 특징을 나타내는 중요한 시각적 특징 중의 하나로서 오랫동안 연구되어 왔다. 이러한 이미지의 질감 피처는 이미지에서 레이블을 추출하고, 추출된 레이블을 인덱싱하고(indexing) 및 요약화(abstraction)하는 데 있어서, 주요한 하위레벨 기술자(descriptor)로 이용될 수 있다. 또한, 상기 이미지의 텍스처 피처는 타일 또는 직물 데이터베이스에서의 내용기반 검색에 중요하게 이용될 수 있다. 상기 가버 필터는 이미지로부터 피처 벡터를 추출하기 위해 사용되는 알고리즘으로 가우시안 함수에 의한 밴더 패스 필터에 해당한다. 상기 가버 필터(gabor filter)는 아래의 [수학식 1]을 따라 제1 이미지들 및 제2 이미지들로부터 텍스처 피처에 대한 2차원 벡터를 추출할 수 있다.The electronic device 101 may extract texture features by applying a Gabor filter to the first images and the second images. More specifically, the electronic device 101 may convert the first images and the second images into frequency space and perform Gabor filtering to extract texture features. Texture, or texture information, in images has been studied for a long time as one of the important visual characteristics that characterize the image. The texture features of these images can be used as key low-level descriptors in extracting labels from images, indexing and abstracting the extracted labels. Additionally, the texture features of the image can be important for content-based search in tile or fabric databases. The Gabor filter is an algorithm used to extract feature vectors from images and corresponds to a Vander pass filter using a Gaussian function. The Gabor filter can extract a two-dimensional vector for the texture feature from the first images and the second images according to [Equation 1] below.
[수학식 1][Equation 1]
또한, 전자 장치(101)는 제1 이미지들 및 제2 이미지들로부터 형태 피처를 추출할 수 있다. 예를 들어, 전자 장치(101)는 HOG 알고리즘을 적용하여 상기 형태 피처를 추출할 수 있다. HOG 피처는 다양한 버전이 존재할 수 있으나, 주된 컨셉은 객체의 로컬 피처를 계산하고, 상기 객체의 특징을 강도 균등분포를 이용하여 이미지에서 객체의 형태 피처를 추출하는 알고리즘이다. 전자 장치(101)는 아래의 [수학식 2]를 따라 제1 이미지들 및 제2 이미지들로부터 형태 피처에 대한 저차원 벡터를 추출할 수 있다.Additionally, the electronic device 101 may extract shape features from the first images and the second images. For example, the electronic device 101 may extract the shape feature by applying the HOG algorithm. HOG features may exist in various versions, but the main concept is an algorithm that calculates the local features of the object and extracts the shape features of the object from the image using the uniform intensity distribution of the object's features. The electronic device 101 may extract low-dimensional vectors for shape features from the first and second images according to [Equation 2] below.
[수학식 2] [Equation 2]
이후 전자 장치(101)는 추출한 피처에 대한 벡터를 합성(merge)하여 제1 이미지들 및 제2 이미지들 사이의 제1 유사도를 계산할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 제1 이미지들 및 제2 이미지들의 특징 기술자들의 집합을 비교하여, 제1 이미지들 및 제2 이미지들 사이의 동일 유사 여부를 판단할 수 있다. 구체적으로, 전자 장치(101)는 제1 이미지들의 특징 기술자 벡터 값과 제2 이미지들의 특징 기술자 벡터 값 사이의 거리(즉, 제1 유사도)를 판단할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 아래의 [수학식 3]에 따라 제1 이미지들 및 제2 이미지들 사이의 거리값을 계산할 수 있고, 이에 기초하여, 제1 이미지들 중에서 제2 이미지들에 대한 유사도가 가장 높은 특정 이미지를 대표 이미지로 선택할 수 있다. 즉, 전자 장치(101)는 제1 이미지들 및 제2 이미지들을 서로 비교한 결과, 가장 유사하다고 판단된 한 쌍의 제1 특정 이미지(즉, "보트"에 해당하는 이미지) 및 제2 특정 이미지(즉, "boat"에 해당하는 이미지)를 확인할 수 있고, 그 중 제1 특정 이미지를 대표 이미지로 선택할 수 있다.Thereafter, the electronic device 101 may merge vectors for the extracted features and calculate the first similarity between the first images and the second images. According to one embodiment, the electronic device 101 may compare sets of feature descriptors of the first images and the second images to determine whether the first images and the second images are identical or similar. Specifically, the electronic device 101 may determine the distance (i.e., first similarity) between the feature descriptor vector values of the first images and the feature descriptor vector values of the second images. According to one embodiment, the electronic device 101 may calculate the distance value between the first images and the second images according to [Equation 3] below, and based on this, the second image among the first images A specific image with the highest similarity to the images can be selected as the representative image. That is, as a result of comparing the first images and the second images, the electronic device 101 selects a pair of a first specific image (i.e., an image corresponding to a “boat”) and a second specific image that are determined to be most similar. (i.e., images corresponding to “boat”) can be checked, and the first specific image among them can be selected as the representative image.
[수학식 3][Equation 3]
일 실시예에 따르면, 전자 장치(101)는 제1 이미지들 중에서 선택된 대표 이미지를 한국어 단어(예: "보트")에 연관시킬 수 있다. 일 실시예에 따르면, 전자 장치(101)는 학습용 컨텐츠에 포함된 한국어 문장에서 미리 정해진 품사에 해당하는 모든 단어들에 대하여 대표 이미지들을 연관시키는 동작을 수행할 수 있다. 예를 들어, 전자 장치(101)는 미리 정해진 품사(예: 명사 및 동사)에 해당하는 모든 한국어 단어(예: "보트", "암초", "아치형 다리", "충돌하다", "질주하다")들 각각에 대하여 해당하는 대표 이미지를 연관시키는 동작을 수행할 수 있다.According to one embodiment, the electronic device 101 may associate a representative image selected from among the first images with a Korean word (eg, “boat”). According to one embodiment, the electronic device 101 may perform an operation of associating representative images with all words corresponding to predetermined parts of speech in Korean sentences included in learning content. For example, the electronic device 101 may detect all Korean words corresponding to predetermined parts of speech (e.g., nouns and verbs) (e.g., “boat,” “reef,” “arched bridge,” “collide,” “run”). "), an operation can be performed to associate the corresponding representative image for each.
411 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 통신 인터페이스(예: 도 1의 통신 인터페이스(170))를 통하여, 대표 이미지들이 연관되어 있는 한국어 문장을 사용자 장치(102)로 제공할 수 있다. 예를 들어, 도 5를 참조하면, 전자 장치(101)는 영어 학습 어플리케이션을 이용하여 미리 정해진 품사에 해당하는 한국어 단어들에 대한 대표 이미지들과 학습용 컨텐츠에 포함된 한국어 문장(511)(예: "그 보트는 암초와 충돌하고 난 뒤 아치형 다리 밑으로 쏜살같이 질주했다.")을 질의용 컨텐츠(510)에 포함시켜 사용자 장치(102)로 제공할 수 있고, 사용자 장치(102)는 질의용 컨텐츠(510)를 전자 장치(101)로부터 수신하여 디스플레이를 통하여 표시할 수 있다.In operation 411, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) connects the representative images through a communication interface (e.g., the communication interface 170 of FIG. 1). Korean sentences can be provided to the user device 102. For example, referring to FIG. 5, the electronic device 101 uses an English learning application to display representative images of Korean words corresponding to predetermined parts of speech and Korean sentences 511 included in the learning content (e.g. “The boat collided with the reef and then rushed under the arched bridge.”) may be included in the query content 510 and provided to the user device 102, and the user device 102 may provide the query content 510 to the user device 102. Content 510 may be received from the electronic device 101 and displayed through the display.
413 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 통신 인터페이스(170)를 통하여 사용자 장치(102)로부터 질의용 컨텐츠(510)에 포함된 한국어 문장(511)에 대한 비교 대상 영어 문장을 수신할 수 있다. 예를 들어, 사용자는 한국어 문장(예: "그 보트는 암초와 충돌하고 난 뒤 아치형 다리 밑으로 쏜살같이 질주했다.")을 영어로 번역한 비교 대상 영어 문장을 사용자 장치(102)에 입력할 수 있고, 전자 장치(101)는 사용자에 의하여 입력된 비교 대상 영어 문장을 사용자 장치(102)로부터 수신할 수 있다. In operation 413, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) receives information included in the query content 510 from the user device 102 through the communication interface 170. You can receive an English sentence for comparison with the Korean sentence (511). For example, the user may input a Korean sentence (e.g., "The boat hit the reef and then darted under the arched bridge") into English and enter a comparison target English sentence into the user device 102. and the electronic device 101 can receive the English sentence to be compared input by the user from the user device 102.
415 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 doc2vec 알고리즘을 이용하여, 사용자 장치(102)로부터 수신된 비교 대상 영어 문장과 정답 문장으로서 학습용 컨텐츠에 포함된 영어 문장 사이의 제2 유사도를 판단할 수 있다. 예를 들어, 도 5를 참조하면, 전자 장치(101)는 사용자가 입력한 비교 대상 영어 문장과 학습용 컨텐츠에 포함된 정답용 영어 문장(512)(예: "The boat crashed into a reef and shot under an arched bridge") 사이의 제2 유사도를 판단할 수 있다.In operation 415, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) uses the doc2vec algorithm to compare the target English sentence received from the user device 102 with the correct answer sentence. A second degree of similarity between English sentences included in learning content can be determined. For example, referring to FIG. 5, the electronic device 101 compares the English sentence entered by the user with the English sentence 512 for the correct answer included in the learning content (e.g., "The boat crashed into a reef and shot under A second degree of similarity between "an arched bridge") can be determined.
다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 비교 대상 영어 문장과 정답용 영어 문장(512)을 수치형(numerical) 다차원 벡터 형태로 표현할 수 있다. 도 6를 참조하면, 전자 장치(101)는 문장을 다차원의 가상 공간(500)에 실수 값 벡터인 숫자 벡터(501)로 변화시키는 임베딩 기술인 doc2vec를 이용함으로써 비교 대상 영어 문장과 정답용 영어 문장(512)을 숫자 벡터로 표현할 수 있다. 전자 장치(101)는 비교 대상 영어 문장과 정답용 영어 문장(512) 각각에 대하여 형태소 분석기 혹은 색인어 추출기 등 언어 전처리기를 이용하여 무의미한 텍스트 정보를 제거할 수 있다. 예를 들어, 문장에서 조사, 조용사 등 불필요한 품사의 단어나 특수 기호(예컨대, !, ?, / 등) 등을 제거하고 문장에서 나머지 부분, 즉 체언이나 어근에 해당되는 단어를 추출한 후 추출된 단어를 숫자 벡터로 변환할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 비교 대상 영어 문장과 정답용 영어 문장(512) 각각의 임베딩 벡터를 이용하여 비교 대상 영어 문장과 정답용 영어 문장(512) 사이의 제2 유사도를 계산할 수 있다. 이때, 전자 장치(101)는 문장을 구성하는 단어들을 나타내는 벡터 집합을 이용하여 문장 간의 유사성 점수를 산출할 수 있다. 예를 들어, 전자 장치(101)는 doc2vec 간의 유클리디안 거리(Euclidean distance)를 계산함으로써 비교 대상 영어 문장과 정답용 영어 문장 사이의 제2 유사도를 계산할 수 있다. 비교 대상 영어 문장 p의 doc2vec가 [p1, p2, …, pn]이고, 정답용 영어 문장 q의 doc2vec가 [q1, q2, …, qn]라 할 때, 두 문장 p와 q 간의 유사도를 나타내는 유클리디안 거리는 아래의 수학식 4와 같이 정의될 수 있다.According to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) may express the English sentence to be compared and the English sentence 512 for the correct answer in the form of a numeric multidimensional vector. Referring to FIG. 6, the electronic device 101 uses doc2vec, an embedding technology that changes a sentence into a numeric vector 501, which is a real value vector, in a multi-dimensional virtual space 500, thereby creating an English sentence to be compared and an English sentence for the correct answer ( 512) can be expressed as a numeric vector. The electronic device 101 may remove meaningless text information by using a language preprocessor such as a morpheme analyzer or index word extractor for each of the English sentence to be compared and the English sentence for the correct answer 512. For example, remove words from unnecessary parts of speech, such as particles and quiet verbs, or special symbols (e.g., !, ?, /, etc.) from the sentence, extract the remaining part of the sentence, that is, words corresponding to the noun or root, and then extract the extracted Words can be converted to numeric vectors. According to one embodiment, the electronic device 101 calculates the second similarity between the English sentence to be compared and the English sentence to answer the correct answer 512 using the embedding vectors of each of the English sentence to be compared and the English sentence to the correct answer 512. You can. At this time, the electronic device 101 may calculate a similarity score between sentences using a set of vectors representing words constituting the sentence. For example, the electronic device 101 may calculate the second similarity between the English sentence to be compared and the English sentence for the correct answer by calculating the Euclidean distance between doc2vec. The doc2vec of the English sentence p being compared is [p1, p2, … , pn], and the doc2vec of the English sentence q for the correct answer is [q1, q2, … , qn], the Euclidean distance representing the similarity between two sentences p and q can be defined as Equation 4 below.
[수학식 4] [Equation 4]
전자 장치(101)는 임베딩 벡터 간의 유클리디안 거리로부터 문장 간의 유사도를 파악할 수 있고, 이때 유클리디안 거리가 가까울수록 문장 유사도가 높다고 할 수 있다.The electronic device 101 can determine the similarity between sentences from the Euclidean distance between embedding vectors. In this case, it can be said that the closer the Euclidean distance is, the higher the sentence similarity is.
417 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 상기 제2 유사도가 제1 임계치를 초과하는 경우, 상기 비교 대상 영어 문장을 정답 처리하고, 통신 인터페이스(170)를 통하여 상기 정답용 영어 문장(512)을 사용자 장치(102)로 제공할 수 있다. 예를 들어, 전자 장치(101)는 비교 대상 영어 문장과 정답용 영어 문장(512) 사이의 제2 유사도가 제1 임계치(예: 90%)를 초과하는 경우, 비교 대상 영어 문장을 정답 처리하고, 정답용 영어 문장(512)을 사용자 장치(102)로 제공할 수 있다. 이는 사용자가 정답에 가까운 문장을 입력하였기 때문에 간단한 오기에 대해서는 사용자 편의를 위하여 곧바로 정답을 알려주는게 학습에 더 도움이 되기 때문이다.In operation 417, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) processes the English sentence to be compared as the correct answer when the second similarity exceeds the first threshold, and , the English sentence 512 for the correct answer can be provided to the user device 102 through the communication interface 170. For example, if the second similarity between the English sentence to be compared and the English sentence for correct answer 512 exceeds the first threshold (e.g., 90%), the electronic device 101 processes the English sentence to be compared as the correct answer. , the English sentence 512 for the correct answer can be provided to the user device 102. This is because the user entered a sentence close to the correct answer, so it is more helpful for learning to immediately provide the correct answer for simple errors for the user's convenience.
419 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 상기 제2 유사도가 제1 임계치 보다 낮은 제2 임계치 미만인 경우, 상기 비교 대상 영어 문장을 오답 처리하고, 통신 인터페이스(170)를 통하여 상기 정답용 영어 문장(512)을 사용자 장치(102)로 제공할 수 있다. 예를 들어, 전자 장치(101)는 비교 대상 영어 문장과 정답용 영어 문장(512) 사이의 제2 유사도가 제2 임계치(예: 40%) 미만인 경우, 비교 대상 영어 문장을 오답 처리하고, 정답용 영어 문장(512)을 사용자 장치(102)로 제공할 수 있다. 이는 사용자가 정답과 거의 다른 문장을 입력하였기 때문에 사용자의 학습 레벨이 적합하지 않은 문장으로 판단하여 곧바로 정답을 알려주기 위함이다.In operation 419, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) selects the English sentence to be compared when the second similarity is less than a second threshold that is lower than the first threshold. Incorrect answers may be processed, and the English sentence 512 for the correct answer may be provided to the user device 102 through the communication interface 170. For example, when the second similarity between the English sentence to be compared and the English sentence for the correct answer 512 is less than the second threshold (e.g., 40%), the electronic device 101 processes the English sentence to be compared as an incorrect answer, and An English sentence 512 may be provided to the user device 102. This is to determine that the sentence is not appropriate for the user's learning level because the user entered a sentence that is almost different from the correct answer, and to immediately provide the correct answer.
421 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 상기 제2 유사도가 제1 임계치 이하이고, 제2 임계치 이상인 경우, W2V(word2vec) 알고리즘, D2V(doc2vec) 알고리즘, Sent2Vec 알고리즘 중 적어도 어느 하나를 이용하여, 상기 비교 대상 영어 문장에 포함된 쿼리 영어 단어와 상기 정답용 영어 문장(512)에 포함된 정답 영어 단어 사이의 제3 유사도를 판단할 수 있다. 예를 들어, 전자 장치(101)는 비교 대상 영어 문장과 정답용 영어 문장(512) 사이의 제2 유사도가 제1 임계치(예: 90%) 이하이고, 제2 임계치(예: 40%) 이상인 경우, W2V(word2vec) 알고리즘, D2V(doc2vec) 알고리즘, Sent2Vec 알고리즘 중 적어도 어느 하나를 이용하여, 상기 비교 대상 영어 문장에 포함된 쿼리 영어 단어와 상기 정답용 영어 문장(512)에 포함된 정답 영어 단어 사이의 제3 유사도를 판단할 수 있다. 이는 사용자가 정답용 영어 문장을 직접 완성할 수 있도록 사용자가 잘못 입력한 단어들에 대하여 힌트를 제공하기 위함이다.In operation 421, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) performs the W2V (word2vec) algorithm when the second similarity is less than or equal to the first threshold and greater than or equal to the second threshold. , using at least one of the D2V (doc2vec) algorithm and the Sent2Vec algorithm to determine the third degree of similarity between the query English word included in the English sentence to be compared and the correct English word included in the correct English sentence 512. can do. For example, the electronic device 101 may determine that the second similarity between the English sentence to be compared and the correct English sentence 512 is less than or equal to the first threshold (e.g., 90%) and greater than or equal to the second threshold (e.g., 40%). In this case, using at least one of the W2V (word2vec) algorithm, D2V (doc2vec) algorithm, and Sent2Vec algorithm, the query English word included in the English sentence to be compared and the correct English word included in the correct English sentence 512 The third degree of similarity between the two can be determined. This is to provide hints for words entered incorrectly by the user so that the user can directly complete the English sentence for the correct answer.
다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 비교 영어 대상 문장에 포함된 모든 쿼리 영어 단어들 및 정답용 영어 문장(512)에 포함된 모든 정답 영어 단어들을 언어처리 알고리즘을 통하여 벡터화할 수 있다. 여기서, 언어처리 알고리즘은 자연어처리(Natural Language Processing) 분야에서 활용되는 워드 임베딩(word embedding) 알고리즘을 의미할 수 있다. 워드 임베딩은 말뭉치(corpus)에 존재하는 단어들을 연속형의 값을 갖는 벡터로 표현하기 위한 것으로서, 벡터화된 단어 벡터는 다른 단어들과 문맥상의 의미가 최대한 보존될 수 있도록 알고리즘에 의해 학습된다. 워드 임베딩 알고리즘으로는 NNLM(Neural Network Language Model), RNNLM(Recurrent Neural Net Language Model) 및 Word2Vec를 포함할 수 있으나, 본 발명은 이에 한정되지 아니하고 다양한 알고리즘을 적용하여 워드 임베딩을 실시할 수 있다. 이하에서는, Word2Vec 알고리즘을 기반으로 하는 실시 예를 설명하기로 한다. Word2Vec은 전방 전달 신경망(feedforward neural network) 기반의 언어 모델을 활용한 워드 임베딩 알고리즘으로서, hidden layer와 output layer에서 계산에 많은 시간이 소요되는 NNLM의 문제점을 보완하여 신경망 구성의 단순함에 비해 학습된 단어의 벡터표현에 대한 우수한 성능을 나타낸다. Word2Vec은 같은 맥락을 지닌 단어는 가까운 의미를 지고 있다고 전제하여 입력한 말뭉치의 문장에 있는 단어와 인접 단어의 관계를 이용해 단어의 의미를 학습한다. 연관된 의미의 단어들은 문서상에서 가까운 곳에 나타날 가능성이 높기 때문에 학습을 반복해 나가는 과정에서 두 단어는 점차 가까운 벡터값을 가질 수 있다. Word2Vec은 두 가지 모델이 있는데, CBOW(Continuous Bag-Of-Words)와 skip-gram 모델이 있다. CBOW는 주변 단어가 주어졌을 때 중심 단어를 예측하는 모델이고, skip-gram은 CBOW와 반대로 중심 단어를 입력받고 그에 대한 주변 단어를 예측하는 모델이다. 도 7을 참조하면, 본 발명에 적용될 수 있는 Word2Vec 알고리즘에서의 skip-gram 모델의 계층도는, Input layer에서는 벡터화하고자 하는 비교 대상 영어 문장 및 정답용 영어 문장(512)에 포함된 단어들을 one-hot-encoding으로 벡터화한다. Hidden layer에서는 one-hot-encoding으로 벡터화된 데이터에 가중치 행렬 W와 W`를 곱하여 Output layer로 내보낸다. Skip-gram 모델의 input 데이터와 정답 데이터는 모두 1*|V|(=어휘 집합의 크기)의 크기의 one-hot encoding된 벡터이다. W와 W' 는 |V| * d(=임베딩 차원수) 크기를 갖는 행렬이다. Output layer에서는 SoftMax 계산을 수행하고, 계산 결과를 정답 단어의 계산 결과와 비교하여 역전파(backpropagation)한다. 여기서 SoftMax 계산은 아래의 [수학식 5]에 의해 수행될 수 있다.According to various embodiments, the electronic device 101 (e.g., the processor 120 in FIG. 1) stores all query English words included in the comparison English target sentence and all correct English words included in the correct English sentence 512. Words can be vectorized through a language processing algorithm. Here, the language processing algorithm may refer to a word embedding algorithm used in the field of natural language processing. Word embedding is intended to express words existing in a corpus as vectors with continuous values. Vectorized word vectors are learned by an algorithm so that the meaning of other words and their context can be preserved as much as possible. Word embedding algorithms may include Neural Network Language Model (NNLM), Recurrent Neural Net Language Model (RNNLM), and Word2Vec, but the present invention is not limited thereto and word embedding can be performed by applying various algorithms. Below, an embodiment based on the Word2Vec algorithm will be described. Word2Vec is a word embedding algorithm that utilizes a language model based on a feedforward neural network. It complements the problem of NNLM, which requires a lot of time for calculations in the hidden layer and output layer, and compares the simplicity of the neural network configuration to the learned word. It shows excellent performance for vector expression. Word2Vec learns the meaning of words using the relationship between words in sentences in the input corpus and adjacent words, assuming that words with the same context have close meanings. Because words with related meanings are likely to appear close together in a document, two words may have increasingly closer vector values during repeated learning. Word2Vec has two models: CBOW (Continuous Bag-Of-Words) and skip-gram model. CBOW is a model that predicts the center word when surrounding words are given, and skip-gram, on the contrary to CBOW, is a model that receives a center word and predicts surrounding words. Referring to FIG. 7, the hierarchical diagram of the skip-gram model in the Word2Vec algorithm applicable to the present invention shows that in the input layer, words included in the English sentence to be vectorized and the English sentence for the correct answer 512 are divided into one- Vectorize with hot-encoding. In the hidden layer, the vectorized data through one-hot-encoding is multiplied by the weight matrices W and W` and exported to the output layer. Both the input data and the correct answer data of the Skip-gram model are one-hot encoded vectors with a size of 1*|V| (=size of the vocabulary set). W and W' are |V| * It is a matrix with size d (=number of embedding dimensions). In the output layer, SoftMax calculation is performed, and the calculation result is compared with the calculation result of the correct word for backpropagation. Here, SoftMax calculation can be performed by [Equation 5] below.
[수학식 5][Equation 5]
여기서, P(o|c) 는 타겟 단어(o)가 주어졌을 때 문맥 단어(c)가 등장할 조건부 확률, v c 는 타겟 단어에 대한 벡터값, u o 는 문맥 단어에 대한 벡터값을 의미한다. 즉, Word2Vec은 상기 [수학식 5]에 의한 조건부 확률 P(o|c) 를 최대화하는 방향으로 가중치 행렬 W, W`를 업데이트하면서 학습을 수행하여 서로 관련이 있는 단어에 해당하는 벡터값들은 N차원 공간에서 서로 비슷한 곳에 위치하도록 한다. 전자 장치(101)는 상술한 바와 같이 학습을 통하여 파싱된 문장에 포함된 단어들을 벡터화하여 단어 각각에 대한 벡터들을 생성할 수 있다. 전자 장치(101)는 아래의 [수학식 6]을 이용하여, 비교 대상 영어 문장에 포함된 단어 벡터들(a) 및 정답용 영어 문장에 포함된 단어 벡터들(b) 사이의 코사인 유사도(cosine similarity)를 계산할 수 있다. 여기서, R(a,b) 는 코사인 유사도를 의미한다.Here, P(o|c) is the conditional probability that the context word (c) appears given the target word (o), v c is the vector value for the target word, and u o is the vector value for the context word. do. In other words, Word2Vec performs learning while updating the weight matrices W and W' in the direction of maximizing the conditional probability P(o|c) according to [Equation 5], so that the vector values corresponding to related words are N Make sure that they are located in similar places in dimensional space. As described above, the electronic device 101 can vectorize the words included in the parsed sentence through learning and generate vectors for each word. The electronic device 101 uses [Equation 6] below to calculate the cosine similarity between the word vectors (a) included in the English sentence to be compared and the word vectors (b) included in the English sentence for the correct answer. similarity) can be calculated. Here, R(a,b) means cosine similarity.
[수학식 6][Equation 6]
일 실시예에 따르면, 전자 장치(101)는 비교하고자 하는 단어가 복수개인 경우, 각각의 항목마다 가중치를 부여하여 유사도를 계산할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 비교 대상 영어 문장에 포함된 모든 쿼리 단어 단어들에 대하여 정답용 영어 문장(512)에 포함된 모든 정답 영어 단어들과의 유사도를 판단하는 동작을 수행할 수 있다.According to one embodiment, when there are multiple words to be compared, the electronic device 101 may calculate similarity by assigning a weight to each item. According to one embodiment, the electronic device 101 performs an operation to determine the similarity of all query words included in the English sentence to be compared with all correct English words included in the correct English sentence 512. can do.
423 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 상기 제3 유사도가 제3 임계치 미만인 경우, 정답 영어 단어의 기본형에 해당하는 단어를 힌트 단어(hint word)로서 사용자 장치(102)로 제공할 수 있다. 예를 들어, 전자 장치(101)는 비교 대상 영어 문장에 포함된 제1 쿼리 단어와 정답용 영어 문장에 포함된 제1 정답 영어 단어(예: "under") 사이의 유사도가 제3 임계치(예: 50%) 미만인 경우, 제1 정답 영어 단어의 기본형에 해당하는 단어(예: "under")를 힌트 단어로서 사용자 장치(102)로 제공할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 힌트 단어를 선택하기 위하여, 어학 사전 서비스를 제공하는 웹 사이트에서 제1 정답 영어 단어를 검색할 수 있고, 검색 결과로부터 상기 힌트 단어를 추출할 수 있다.In operation 423, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) hints a word corresponding to the basic form of the correct English word when the third similarity is less than a third threshold. It can be provided to the user device 102 as a hint word. For example, the electronic device 101 determines that the similarity between the first query word included in the English sentence to be compared and the first correct English word (e.g., “under”) included in the English sentence for the correct answer is set to a third threshold (e.g. : 50%), a word (e.g., “under”) corresponding to the basic form of the first correct English word may be provided to the user device 102 as a hint word. According to one embodiment, in order to select a hint word, the electronic device 101 can search for the first correct English word on a website that provides a language dictionary service and extract the hint word from the search results. .
425 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 상기 제3 유사도가 제4 임계치를 초과하는 경우, 정답 영어 단어의 반의어에 해당하는 단어를 힌트 단어(hint word)로서 사용자 장치(102)로 제공할 수 있다. 예를 들어, 전자 장치(101)는 비교 대상 영어 문장에 포함된 제1 쿼리 단어와 정답용 영어 문장에 포함된 제1 정답 영어 단어(예: "under") 사이의 유사도가 제4 임계치(예: 80%)를 초과하는 경우, 제1 정답 영어 단어의 반의어(예: "above")를 힌트 단어로서 사용자 장치(102)로 제공할 수 있다.In operation 425, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) selects a word corresponding to an antonym of the correct English word when the third similarity exceeds the fourth threshold. may be provided to the user device 102 as a hint word. For example, the electronic device 101 determines that the similarity between the first query word included in the English sentence to be compared and the first correct English word (e.g., “under”) included in the English sentence for the correct answer is set to a fourth threshold (e.g. : 80%), an antonym (e.g., “above”) of the first correct English word may be provided to the user device 102 as a hint word.
427 동작에서, 다양한 실시예들에 따르면, 전자 장치(101)(예: 도 1의 프로세서(120))는 상기 제3 유사도가 제3 임계치 이상이고, 제4 임계치 이하인 경우, 정답 영어 단어의 유의어에 해당하는 단어를 힌트 단어(hint word)로서 사용자 장치(102)로 제공할 수 있다. 예를 들어, 전자 장치(101)는 비교 대상 영어 문장에 포함된 제1 쿼리 단어와 정답용 영어 문장에 포함된 제1 정답 영어 단어(예: "under") 사이의 유사도가 제3 임계치(예: 50%) 이상이고, 제4 임계치(80%) 이하인 경우, 제1 정답 영어 단어의 유의어(예: "below")를 힌트 단어로서 사용자 장치(102)로 제공할 수 있다. 일 실시예에 따르면, 423 동작 내지 427 동작에서 힌트 단어로서, 정답 영어 단어의 기본형, 반의어, 유의어를 제공하는 이유는 사용자가 힌트 단어를 보고 정답 단어를 용이하게 연상하도록 하기 위함이다.In operation 427, according to various embodiments, the electronic device 101 (e.g., the processor 120 of FIG. 1) determines the synonym of the correct English word when the third similarity is greater than or equal to the third threshold and less than or equal to the fourth threshold. The word corresponding to may be provided to the user device 102 as a hint word. For example, the electronic device 101 determines that the similarity between the first query word included in the English sentence to be compared and the first correct English word (e.g., “under”) included in the English sentence for the correct answer is set to a third threshold (e.g. : 50%) or more and less than the fourth threshold (80%), a synonym (e.g., “below”) of the first correct English word may be provided to the user device 102 as a hint word. According to one embodiment, the reason for providing the basic form, antonym, and synonym of the correct English word as hint words in operations 423 to 427 is to enable the user to easily associate the correct word by looking at the hint word.
도 1 내지 도 3을 참조하여 다양한 실시예들에 따른 전자 장치(101)에 대하여 설명한다.An electronic device 101 according to various embodiments will be described with reference to FIGS. 1 to 3 .
전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다. 버스(110)는 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다. The electronic device 101 may include a bus 110, a processor 120, a memory 130, an input/output interface 150, a display 160, and a communication interface 170. In some embodiments, the electronic device 101 may omit at least one of the components or may additionally include another component. The bus 110 connects the components 110 to 170 to each other and may include circuitry that transfers communication (eg, control messages or data) between the components. The processor 120 may include one or more of a central processing unit, an application processor, or a communication processor (CP). The processor 120 may, for example, perform operations or data processing related to control and/or communication of at least one other component of the electronic device 101.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다. Memory 130 may include volatile and/or non-volatile memory. For example, the memory 130 may store commands or data related to at least one other component of the electronic device 101 . According to one embodiment, memory 130 may store software and/or program 140. The program 140 may include, for example, a kernel 141, middleware 143, an application programming interface (API) 145, and/or an application program (or “application”) 147, etc. . At least a portion of the kernel 141, middleware 143, or API 145 may be referred to as an operating system. Kernel 141 may, for example, provide system resources (e.g., middleware 143, API 145, or application program 147) used to execute operations or functions implemented in other programs (e.g., : bus 110, processor 120, or memory 130, etc.) can be controlled or managed. Additionally, the kernel 141 provides an interface for controlling or managing system resources by accessing individual components of the electronic device 101 in the middleware 143, API 145, or application program 147. You can.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다. The middleware 143 may, for example, perform an intermediary role so that the API 145 or the application program 147 can communicate with the kernel 141 to exchange data. Additionally, the middleware 143 may process one or more work requests received from the application program 147 according to priority. For example, the middleware 143 may use system resources (e.g., bus 110, processor 120, or memory 130, etc.) of the electronic device 101 for at least one of the application programs 147. Priority may be assigned and the one or more work requests may be processed. The API 145 is an interface for the application 147 to control functions provided by the kernel 141 or middleware 143, for example, at least for file control, window control, image processing, or character control. Can contain one interface or function (e.g. command). The input/output interface 150, for example, transmits commands or data input from a user or other external device to other component(s) of the electronic device 101, or to other component(s) of the electronic device 101 ( Commands or data received from (fields) can be output to the user or other external device.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다. 통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.Display 160 may include, for example, a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light-emitting diode (OLED) display, a microelectromechanical system (MEMS) display, or an electronic paper display. It can be included. For example, the display 160 may display various contents (e.g., text, images, videos, icons, and/or symbols, etc.) to the user. The display 160 may include a touch screen and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of the user's body. The communication interface 170, for example, establishes communication between the electronic device 101 and an external device (e.g., the first external electronic device 102, the second external electronic device 104, or the server 106). You can. For example, the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시예에 따르면, 무선 통신은, 예를 들면, WiFi(wireless fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 한실시예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.Wireless communications include, for example, LTE, LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), universal mobile telecommunications system (UMTS), Wireless Broadband (WiBro), or Global (GSM). It may include cellular communication using at least one of the System for Mobile Communications). According to one embodiment, wireless communication includes, for example, wireless fidelity (WiFi), Bluetooth, Bluetooth Low Energy (BLE), Zigbee, near field communication (NFC), Magnetic Secure Transmission, and radio. It may include at least one of frequency (RF) or body area network (BAN). According to one embodiment, wireless communications may include GNSS. GNSS may be, for example, Global Positioning System (GPS), Global Navigation Satellite System (Glonass), Beidou Navigation Satellite System (hereinafter “Beidou”), or Galileo, the European global satellite-based navigation system. Hereinafter, in this document, “GPS” may be used interchangeably with “GNSS.” Wired communication may include, for example, at least one of universal serial bus (USB), high definition multimedia interface (HDMI), recommended standard 232 (RS-232), power line communication, or plain old telephone service (POTS). there is. Network 162 may include at least one of a telecommunications network, for example, a computer network (e.g., a LAN or WAN), the Internet, or a telephone network.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.Each of the first and second external electronic devices 102 and 104 may be of the same or different type as the electronic device 101. According to various embodiments, all or part of the operations performed on the electronic device 101 may be executed on one or more electronic devices (e.g., the electronic devices 102 and 104, or the server 106). In one embodiment, According to this, when the electronic device 101 is to perform a certain function or service automatically or upon request, the electronic device 101 performs at least some functions associated therewith instead of or in addition to executing the function or service on its own. The other electronic device (e.g., electronic device 102, 104, or server 106) may request the requested function or The additional function may be executed and the result may be transmitted to the electronic device 101. For this purpose, the electronic device 101 may process the received result as is or additionally to provide the requested function or service. For example, cloud computing, distributed computing, or client-server computing technologies may be used.
도 2는 다양한 실시예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP)(210), 통신 모듈(220), 가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다. 프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.Figure 2 is a block diagram of an electronic device 201 according to various embodiments. The electronic device 201 may include, for example, all or part of the electronic device 101 shown in FIG. 1 . The electronic device 201 includes one or more processors (e.g., AP) 210, a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, an input device 250, and a display ( 260), an interface 270, an audio module 280, a camera module 291, a power management module 295, a battery 296, an indicator 297, and a motor 298. The processor 210, for example, can run an operating system or application program to control a number of hardware or software components connected to the processor 210, and can perform various data processing and calculations. The processor 210 may be implemented, for example, as a system on chip (SoC). According to one embodiment, the processor 210 may further include a graphic processing unit (GPU) and/or an image signal processor. The processor 210 may include at least some of the components shown in FIG. 2 (eg, the cellular module 221). The processor 210 may load commands or data received from at least one of the other components (eg, non-volatile memory) into the volatile memory, process the commands, and store the resulting data in the non-volatile memory.
통신 모듈(220)(예: 통신 인터페이스(170))와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227), NFC 모듈(228) 및 RF 모듈(229)를 포함할 수 있다. 셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다. It may have the same or similar configuration as the communication module 220 (eg, communication interface 170). The communication module 220 may include, for example, a cellular module 221, a WiFi module 223, a Bluetooth module 225, a GNSS module 227, an NFC module 228, and an RF module 229. there is. For example, the cellular module 221 may provide voice calls, video calls, text services, or Internet services through a communication network. According to one embodiment, the cellular module 221 may use the subscriber identification module (eg, SIM card) 224 to distinguish and authenticate the electronic device 201 within the communication network. According to one embodiment, the cellular module 221 may perform at least some of the functions that the processor 210 can provide. According to one embodiment, the cellular module 221 may include a communication processor (CP). According to some embodiments, at least some (e.g., two or more) of the cellular module 221, WiFi module 223, Bluetooth module 225, GNSS module 227, or NFC module 228 are one integrated chip. (IC) or may be included within an IC package. For example, the RF module 229 may transmit and receive communication signals (eg, RF signals). The RF module 229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), or an antenna. According to another embodiment, at least one of the cellular module 221, WiFi module 223, Bluetooth module 225, GNSS module 227, or NFC module 228 transmits and receives RF signals through a separate RF module. You can. Subscriber identity module 224 may include, for example, a card or embedded SIM that includes a subscriber identity module and may include unique identification information (e.g., integrated circuit card identifier (ICCID)) or subscriber information (e.g., IMSI). (international mobile subscriber identity)).
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 또는 물리적으로 연결될 수 있다.The memory 230 (eg, memory 130) may include, for example, an internal memory 232 or an external memory 234. The built-in memory 232 may include, for example, volatile memory (e.g., DRAM, SRAM, or SDRAM, etc.), non-volatile memory (e.g., one time programmable ROM (OTPROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, etc. , the external memory 234 may include at least one of a flash memory, a hard drive, or a solid state drive (SSD), for example, a compact flash (CF) or a secure digital (SD) drive. ), Micro-SD, Mini-SD, xD (extreme digital), MMC (multi-media card), or memory stick, etc. The external memory 234 may be functionally connected to the electronic device 201 through various interfaces. It can be connected physically or physically.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.For example, the sensor module 240 may measure a physical quantity or sense the operating state of the electronic device 201 and convert the measured or sensed information into an electrical signal. The sensor module 240 includes, for example, a gesture sensor 240A, a gyro sensor 240B, an atmospheric pressure sensor 240C, a magnetic sensor 240D, an acceleration sensor 240E, a grip sensor 240F, and a proximity sensor ( 240G), color sensor (240H) (e.g. RGB (red, green, blue) sensor), biometric sensor (240I), temperature/humidity sensor (240J), illuminance sensor (240K), or UV (ultra violet) ) It may include at least one of the sensors 240M. Additionally or alternatively, the sensor module 240 may include, for example, an olfactory (e-nose) sensor, an electromyography (EMG) sensor, an electroencephalogram (EEG) sensor, an electrocardiogram (ECG) sensor, It may include an infrared (IR) sensor, an iris sensor, and/or a fingerprint sensor. The sensor module 240 may further include a control circuit for controlling at least one sensor included therein. In some embodiments, the electronic device 201 further includes a processor configured to control the sensor module 240, either as part of the processor 210 or separately, while the processor 210 is in a sleep state, The sensor module 240 can be controlled.
입력 장치(250)는, 예를 들면, 터치 패널(252), (디지털) 펜 센서(254), 키(256), 또는 초음파 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(256)는, 예를 들면, 하드웨어 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.The input device 250 may include, for example, a touch panel 252, a (digital) pen sensor 254, a key 256, or an ultrasonic input device 258. The touch panel 252 may use at least one of, for example, a capacitive type, a resistive type, an infrared type, or an ultrasonic type. Additionally, the touch panel 252 may further include a control circuit. The touch panel 252 may further include a tactile layer to provide a tactile response to the user. The (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate recognition sheet. Keys 256 may include hardware buttons, optical keys, or keypads, for example. The ultrasonic input device 258 may detect ultrasonic waves generated from an input tool through a microphone (e.g., microphone 288) and check data corresponding to the detected ultrasonic waves.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 프로젝터(266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나 이상의 모듈로 구성될 수 있다. 한 실시예에 따르면, 패널(262)은 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서)를 포함할 수 있다. 상기 압력 센서는 터치 패널(252)과 일체형으로 구현되거나, 또는 터치 패널(252)과는 별도의 하나 이상의 센서로 구현될 수 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 인터페이스(270)는, 예를 들면, HDMI(272), USB(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다. Display 260 (eg, display 160) may include a panel 262, a holographic device 264, a projector 266, and/or control circuitry for controlling them. Panel 262 may be implemented as flexible, transparent, or wearable, for example. The panel 262 may be composed of a touch panel 252 and one or more modules. According to one embodiment, the panel 262 may include a pressure sensor (or force sensor) that can measure the intensity of pressure in response to the user's touch. The pressure sensor may be implemented integrally with the touch panel 252, or may be implemented as one or more sensors separate from the touch panel 252. The hologram device 264 can display a three-dimensional image in the air using light interference. The projector 266 can display an image by projecting light onto the screen. The screen may be located, for example, inside or outside the electronic device 201. Interface 270 may include, for example, HDMI 272, USB 274, optical interface 276, or D-subminiature (D-sub) 278. Interface 270 may be included in, for example, communication interface 170 shown in FIG. 1 . Additionally or alternatively, the interface 270 may include, for example, a mobile high-definition link (MHL) interface, a SD card/multi-media card (MMC) interface, or an infrared data association (IrDA) standard interface. there is.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다. The audio module 280 can, for example, convert sound and electrical signals in two directions. At least some components of the audio module 280 may be included in, for example, the input/output interface 145 shown in FIG. 1 . The audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, or a microphone 288. The camera module 291 is, for example, a device capable of capturing still images and moving images, and according to one embodiment, it includes one or more image sensors (e.g., a front sensor or a rear sensor), a lens, and an image signal processor (ISP). , or may include a flash (e.g., LED or xenon lamp, etc.). The power management module 295 may manage power of the electronic device 201, for example. According to one embodiment, the power management module 295 may include a power management integrated circuit (PMIC), a charging IC, or a battery or fuel gauge. PMIC may have wired and/or wireless charging methods. The wireless charging method includes, for example, a magnetic resonance method, a magnetic induction method, or an electromagnetic wave method, and may further include an additional circuit for wireless charging, for example, a coil loop, a resonance circuit, or a rectifier. there is. The battery gauge may, for example, measure the remaining amount of the battery 296, voltage, current, or temperature during charging. Battery 296 may include, for example, rechargeable cells and/or solar cells.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다. 전자 장치(201)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치(예: 전자 장치(201))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.The indicator 297 may display a specific state of the electronic device 201 or a part thereof (eg, the processor 210), such as a booting state, a message state, or a charging state. The motor 298 can convert electrical signals into mechanical vibration and generate vibration or haptic effects. The electronic device 201 is, for example, a mobile TV support device (e.g. : GPU) may be included. Each of the components described in this document may be composed of one or more components, and the names of the components may vary depending on the type of electronic device. In various embodiments, an electronic device (e.g., the electronic device 201) omits some components, further includes additional components, or combines some of the components to form a single entity. The functions of the previous corresponding components can be performed in the same way.
본 발명의 다양한 실시예에서, 전자 장치(201)(또는, 전자 장치(101))는, 전면, 후면 및 상기 전면과 상기 후면 사이의 공간을 둘러싸는 측면을 포함하는 하우징을 포함할 수도 있다. 터치스크린 디스플레이(예: 디스플레이(260))는, 상기 하우징 안에 배치되며, 상기 전면을 통하여 노출될 수 있다. 마이크(288)는, 상기 하우징 안에 배치되며, 상기 하우징의 부분을 통하여 노출될 수 있다. 적어도 하나의 스피커(282)는, 상기 하우징 안에 배치되며, 상기 하우징의 다른 부분을 통하여 노출될 수 있다. 하드웨어 버튼(예: 키(256))는, 상기 하우징의 또 다른 부분에 배치되거나 또는 상기 터치스크린 디스플레이 상에 표시하도록 설정될 수 있다. 무선 통신 회로(예: 통신 모듈(220))은, 상기 하우징 안에 위치할 수 있다. 상기 프로세서(210)(또는, 프로세서(120))는, 상기 하우징 안에 위치하며, 상기 터치스크린 디스플레이, 상기 마이크(288), 상기 스피커(282) 및 상기 무선 통신 회로에 전기적으로 연결될 수 있다. 상기 메모리(230)(또는, 메모리(130))는, 상기 하우징 안에 위치하며, 상기 프로세서(210)에 전기적으로 연결될 수 있다.In various embodiments of the present invention, the electronic device 201 (or electronic device 101) may include a housing including a front, a rear, and a side surrounding a space between the front and the rear. A touch screen display (eg, display 260) is disposed within the housing and may be exposed through the front. The microphone 288 is disposed within the housing and may be exposed through a portion of the housing. At least one speaker 282 is disposed within the housing and may be exposed through another part of the housing. Hardware buttons (e.g., keys 256) may be placed on other portions of the housing or configured to display on the touchscreen display. Wireless communication circuitry (eg, communication module 220) may be located within the housing. The processor 210 (or processor 120) is located within the housing and may be electrically connected to the touch screen display, the microphone 288, the speaker 282, and the wireless communication circuit. The memory 230 (or memory 130) is located within the housing and may be electrically connected to the processor 210.
본 발명의 다양한 실시예에서, 상기 메모리(230)는, 텍스트 입력을 수신하기 위한 제 1 사용자 인터페이스를 포함하는 제 1 어플리케이션 프로그램을 저장하도록 설정되고, 상기 메모리(230)는, 실행 시에, 상기 프로세서(210)가, 제 1 동작과 제 2 동작을 수행하도록 야기하는 인스트럭션들을 저장하고, 상기 제 1 동작은, 상기 제 1 사용자 인터페이스가 상기 터치스크린 디스플레이 상에 표시되지 않는 도중에, 상기 버튼을 통하여 제 1 타입의 사용자 입력을 수신하고, 상기 제 1 타입의 사용자 입력을 수신한 이후에, 상기 마이크(288)를 통하여 제 1 사용자 발화를 수신하고, 자동 스피치 인식(ASR: automatic speech recognition) 및 지능 시스템(intelligence system)을 포함하는 외부 서버로 상기 제 1 사용자 발화에 대한 제 1 데이터를 제공하고, 상기 제 1 데이터를 제공한 이후에, 상기 외부 서버로부터 상기 제 1 사용자 발화에 응답하여 상기 지능 시스템에 의하여 생성되는 태스크를 수행하도록 하는 적어도 하나의 명령을 수신하고, 상기 제 2 동작은, 상기 터치스크린 디스플레이 상에 상기 제 1 사용자 인터페이스가 표시되는 도중에 상기 버튼을 통하여 상기 제 1 사용자 입력을 수신하고, 상기 제 1 타입의 사용자 입력을 수신한 이후에, 상기 마이크(288)를 통하여 제 2 사용자 발화를 수신하고, 상기 외부 서버로 상기 제 2 사용자 발화에 대한 제 2 데이터를 제공하고, 상기 제 2 데이터를 제공한 이후에, 상기 서버로부터, 상기 제 2 사용자 발화로부터 상기 자동 스피치 인식에 의하여 생성된 텍스트에 대한 데이터를 수신하지만, 상기 지능 시스템에 의하여 생성되는 명령은 수신하지 않고, 상기 제 1 사용자 인터페이스에 상기 텍스트를 입력할 수 있다.In various embodiments of the present invention, the memory 230 is configured to store a first application program including a first user interface for receiving text input, and the memory 230, when executed, A processor 210 stores instructions causing the processor 210 to perform a first action and a second action, the first action being performed via the button while the first user interface is not displayed on the touchscreen display. Receive a first type of user input, and after receiving the first type of user input, receive a first user utterance through the microphone 288, and perform automatic speech recognition (ASR) and intelligence. Providing first data about the first user utterance to an external server including an intelligence system, and after providing the first data, the intelligence system in response to the first user utterance from the external server Receive at least one command to perform a task created by, and the second operation includes receiving the first user input through the button while the first user interface is displayed on the touch screen display, and , After receiving the first type of user input, receive a second user utterance through the microphone 288, provide second data about the second user utterance to the external server, and After providing the data, receiving, from the server, data about text generated by the automatic speech recognition from the second user utterance, but not receiving commands generated by the intelligent system, the first user You can enter the above text into the interface.
본 발명의 다양한 실시예에서, 상기 버튼은, 상기 하우징의 상기 측면에 위치하는 물리적인 키를 포함할 수 있다.In various embodiments of the present invention, the button may include a physical key located on the side of the housing.
본 발명의 다양한 실시예에서, 상기 제 1 타입의 사용자 입력은, 상기 버튼에 대한 1회 누름, 상기 버튼에 대한 2회 누름, 상기 버튼에 대한 3회 누름, 상기 버튼에 대한 1회 누른 이후에 누름 유지, 또는 상기 버튼에 대한 2회 누름 및 누름 유지 중 하나일 수 있다.In various embodiments of the present invention, the first type of user input includes: one press of the button, two presses of the button, three presses of the button, and one press of the button. This may be either pressing and holding, or pressing and holding the button twice.
본 발명의 다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서가 상기 제 1 사용자 인터페이스를 가상 키보드와 함께 표시하도록 더 야기할 수 있다. 상기 버튼은, 상기 가상 키보드의 일부가 아닐 수 있다.In various embodiments of the present invention, the instructions may further cause the processor to display the first user interface with a virtual keyboard. The button may not be part of the virtual keyboard.
본 발명의 다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 외부 서버로부터, 상기 제 1 동작 내에서의 상기 제 1 사용자 발화로부터 ASR에 의하여 생성되는 텍스트에 대한 데이터를 수신하도록 더 야기할 수 있다.In various embodiments of the present invention, the instructions further enable the processor 210 to receive, from the external server, data about text generated by ASR from the first user utterance within the first operation. can cause
본 발명의 다양한 실시예에서, 상기 제 1 어플리케이션 프로그램은, 노트 어플리케이션 프로그램, 이메일 어플리케이션 프로그램, 웹 브라우저 어플리케이션 프로그램 또는 달력 어플리케이션 프로그램 중 적어도 하나를 포함할 수 있다.In various embodiments of the present invention, the first application program may include at least one of a note application program, an email application program, a web browser application program, or a calendar application program.
본 발명의 다양한 실시예에서, 상기 제 1 어플리케이션 프로그램은, 메시지 어플리케이션을 포함하고, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 텍스트를 입력한 이후에 선택된 시간 기간이 초과하면, 상기 무선 통신 회로를 통하여 자동으로 입력된 텍스트를 송신하도록 더 야기할 수 있다.In various embodiments of the present invention, the first application program includes a messaging application, and the instructions cause the processor 210 to: It can further cause the automatically entered text to be transmitted through .
본 발명의 다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 제 3 동작을 수행하도록 더 야기하고, 상기 제 3 동작은, 상기 터치스크린 디스플레이 상에 상기 제 1 사용자 인터페이스를 표시하는 도중에, 상기 버튼을 통하여 제 2 타입의 사용자 입력을 수신하고, 상기 제 2 타입의 사용자 입력을 수신한 이후에, 상기 마이크를 통하여 제 3 사용자 발화를 수신하고, 상기 외부 서버로 상기 제 3 사용자 발화에 대한 제 3 데이터를 제공하고, 상기 제 3 데이터를 제공한 이후에, 상기 제 3 사용자 발화에 응답하여 상기 지능 시스템에 의하여 생성된 태스크를 수행하기 위한 적어도 하나의 명령을 상기 외부 서버로부터 수신할 수 있다.In various embodiments of the invention, the instructions further cause the processor 210 to perform a third operation, the third operation being during display of the first user interface on the touchscreen display. , receiving a second type of user input through the button, and after receiving the second type of user input, receiving a third user speech through the microphone, and transmitting the third user speech to the external server. provide third data about the system, and after providing the third data, receive at least one command from the external server to perform a task generated by the intelligent system in response to the third user utterance. there is.
본 발명의 다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 제 4 동작을 수행하도록 더 야기하고, 상기 제 4 동작은, 상기 터치스크린 디스플레이 상에 상기 제 1 사용자 인터페이스가 표시되지 않는 도중에, 상기 버튼을 통하여 상기 제 2 타입의 사용자 입력을 수신하고, 상기 제 2 타입의 사용자 입력을 수신한 이후에, 상기 마이크(288)를 통하여 제 4 사용자 발화를 수신하고, 상기 제 4 사용자 발화에 대한 제 4 데이터를 상기 외부 서버로 제공하고, 상기 제 4 데이터를 제공한 이후에, 상기 제 4 사용자 발화에 응답하여, 상기 지능 시스템에 의하여 생성된 태스크를 수행하기 위한 적어도 하나의 명령을 상기 외부 서버로부터 수신하고, 상기 마이크를 통하여 제 5 사용자 발화를 수신하고, 상기 외부 서버로, 상기 제 5 사용자 발화에 대한 제 5 데이터를 제공하고, 및 상기 제 5 데이터를 제공한 이후에, 상기 제 5 사용자 발화에 응답하여 상기 지능 시스템에 의하여 생성된 태스크를 수행하기 위한 적어도 하나의 명령을 상기 외부 서버로부터 수신할 수 있다.In various embodiments of the present invention, the instructions further cause the processor 210 to perform a fourth operation, wherein the first user interface is not displayed on the touchscreen display. During the process, the second type of user input is received through the button, and after receiving the second type of user input, a fourth user speech is received through the microphone 288, and the fourth user speech is received. providing fourth data for the external server, and after providing the fourth data, in response to the fourth user utterance, at least one command for performing a task generated by the intelligent system. receiving from an external server, receiving a fifth user's utterance through the microphone, providing fifth data about the fifth user's utterance to the external server, and after providing the fifth data, the first 5 At least one command for performing a task created by the intelligent system in response to a user utterance may be received from the external server.
본 발명의 다양한 실시예에서, 상기 제 1 타입의 사용자 입력 및 상기 제 2 타입의 사용자 입력은 서로 다르며, 상기 버튼에 대한 1회 누름, 상기 버튼에 대한 2회 누름, 상기 버튼에 대한 3회 누름, 상기 버튼에 대한 1회 누른 이후에 누름 유지, 또는 상기 버튼에 대한 2회 누름 및 누름 유지 중 하나로부터 선택될 수 있다.In various embodiments of the present invention, the first type of user input and the second type of user input are different, such as one press of the button, two presses of the button, and three presses of the button. , pressing the button once and then holding it down, or pressing the button twice and holding it down can be selected.
본 발명의 다양한 실시예에서, 상기 메모리(230)는, 텍스트 입력을 수신하기 위한 제 2 사용자 인터페이스를 포함하는 제 2 어플리케이션 프로그램을 저장하도록 더 설정되며, 상기 인스트럭션들은, 실행 시에, 상기 프로세서(210)가, 제 3 동작을 수행하도록 더 야기하고, 상기 제 3 동작은, 상기 제 2 사용자 인터페이스를 표시하는 도중에 상기 버튼을 통하여 상기 제 1 타입의 사용자 입력을 수신하고, 상기 제 1 타입의 사용자 입력이 수신된 이후에, 상기 마이크를 통하여 제 3 사용자 발화를 수신하고, 상기 외부 서버로, 상기 제 3 사용자 발화에 대한 제 3 데이터를 제공하고, 상기 제 3 데이터를 제공한 이후에, 상기 외부 서버로부터, 상기 제 3 사용자 발화로부터 ASR에 의하여 생성된 텍스트에 대한 데이터를 수신하면서, 상기 지능 시스템에 의하여 생성되는 명령은 수신하지 않고, 상기 제 2 사용자 인터페이스에 상기 텍스트를 입력하고, 및 상기 텍스트를 입력하고, 선택된 시간 기간이 초과하면, 상기 무선 통신 회로를 통하여 상기 입력된 텍스트를 자동으로 송신할 수 있다.In various embodiments of the present invention, the memory 230 is further configured to store a second application program including a second user interface for receiving text input, wherein the instructions, when executed, are transmitted to the processor ( 210) further causes to perform a third operation, wherein the third operation includes receiving a user input of the first type through the button while displaying the second user interface, and receiving a user input of the first type through the button while displaying the second user interface. After the input is received, receive a third user speech through the microphone, provide third data for the third user speech to the external server, and after providing the third data, the external server receiving, from a server, data for text generated by an ASR from the third user utterance, but not receiving commands generated by the intelligent system, entering the text into the second user interface, and is entered, and when the selected time period is exceeded, the entered text can be automatically transmitted via the wireless communication circuit.
본 발명의 다양한 실시예에서, 상기 메모리(230)는, 텍스트 입력을 수신하기 위한 제 1 사용자 인터페이스를 포함하는 제 1 어플리케이션 프로그램을 저장하도록 설정되고, 상기 메모리(230)는, 실행 시에, 상기 프로세서(210)가, 제 1 동작과 제 2 동작을 수행하도록 야기하는 인스트럭션들을 저장하고, 상기 제 1 동작은, 상기 버튼을 통하여 제 1 타입의 사용자 입력을 수신하고, 상기 제 1 타입의 사용자 입력을 수신한 이후에, 상기 마이크(288)를 통하여 제 1 사용자 발화를 수신하고, 자동 스피치 인식(ASR: automatic speech recognition) 및 지능 시스템(intelligence system)을 포함하는 외부 서버로, 상기 제 1 사용자 발화에 대한 제 1 데이터를 제공하고, 및 상기 제 1 데이터를 제공한 이후에, 상기 제 1 사용자 발화에 응답하여 상기 지능 시스템에 의하여 생성된 태스크를 수행하기 위한 적어도 하나의 명령을 상기 외부 서버로부터 수신하고, 상기 제 2 동작은, 상기 버튼을 통하여 제 2 타입의 사용자 입력을 수신하고, 상기 제 2 타입의 사용자 입력을 수신한 이후에, 상기 마이크(288)를 통하여 제 2 사용자 발화를 수신하고, 상기 외부 서버로 상기 제 2 사용자 발화에 대한 제 2 데이터를 제공하고, 상기 제 2 데이터를 제공한 이후에, 상기 서버로부터, 상기 제 2 사용자 발화로부터 ASR에 의하여 생성된 텍스트에 대한 데이터를 수신하면서, 상기 지능 시스템에 의하여 생성되는 명령은 수신하지 않으며, 상기 제 1 사용자 인터페이스에 상기 텍스트를 입력할 수 있다.In various embodiments of the present invention, the memory 230 is configured to store a first application program including a first user interface for receiving text input, and the memory 230, when executed, A processor 210 stores instructions that cause the processor 210 to perform a first operation and a second operation, the first operation comprising: receiving a first type of user input through the button, and receiving a first type of user input through the button. After receiving, the first user utterance is received through the microphone 288, and the first user utterance is transmitted to an external server including an automatic speech recognition (ASR) and an intelligence system. providing first data for, and after providing the first data, receiving from the external server at least one command to perform a task generated by the intelligent system in response to the first user utterance. And, the second operation includes receiving a second type of user input through the button, and after receiving the second type of user input, receiving a second user utterance through the microphone 288, Providing second data about the second user utterance to the external server, and after providing the second data, receiving data about text generated by ASR from the second user utterance from the server. , the command generated by the intelligent system is not received, and the text can be input into the first user interface.
본 발명의 다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(210)가 상기 제 1 사용자 인터페이스를 가상 키보드와 함께 표시하도록 더 야기할 수 있으며, 상기 버튼은, 상기 가상 키보드의 일부가 아닐 수 있다.In various embodiments of the present invention, the instructions may further cause the processor 210 to display the first user interface with a virtual keyboard, and the button may not be part of the virtual keyboard.
본 발명의 다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 외부 서버로부터 상기 제 1 동작 내에서 상기 제 1 사용자 발화로부터 상기 ASR에 의하여 생성되는 텍스트에 대한 데이터를 수신하도록 더 야기할 수 있다.In various embodiments of the invention, the instructions further cause the processor 210 to receive data about text generated by the ASR from the first user utterance within the first operation from the external server. can do.
본 발명의 다양한 실시예에서, 상기 제 1 어플리케이션 프로그램은, 노트 어플리케이션 프로그램, 이메일 어플리케이션 프로그램, 웹 브라우저 어플리케이션 프로그램 또는 달력 어플리케이션 프로그램 중 적어도 하나를 포함할 수 있다.In various embodiments of the present invention, the first application program may include at least one of a note application program, an email application program, a web browser application program, or a calendar application program.
본 발명의 다양한 실시예에서, 상기 제 1 어플리케이션 프로그램은, 메시지 어플리케이션을 포함하고, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 텍스트를 입력한 이후에 선택된 시간 기간이 초과하면, 상기 무선 통신 회로를 통하여 자동으로 입력된 텍스트를 송신하도록 더 야기할 수 있다.In various embodiments of the present invention, the first application program includes a messaging application, and the instructions cause the processor 210 to: It can further cause the automatically entered text to be transmitted through .
본 발명의 다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(210)가 상기 제 1 사용자 인터페이스의 상기 디스플레이 상에 표시와 독립적으로 상기 제 1 동작을 수행하도록 더 야기할 수 있다.In various embodiments of the present invention, the instructions may further cause the processor 210 to perform the first operation independent of the display on the display of the first user interface.
본 발명의 다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 전자 장치가 잠금 상태에 있거나 또는 상기 터치스크린 디스플레이가 턴 오프된 것 중 적어도 하나인 경우에, 상기 제 2 동작을 수행하도록 더 야기할 수 있다.In various embodiments of the present invention, the instructions cause the processor 210 to perform the second operation when at least one of the electronic device is in a locked state or the touch screen display is turned off. It can cause more to happen.
본 발명의 다양한 실시예에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 터치스크린 디스플레이 상에 상기 제 1 사용자 인터페이스를 표시하는 도중에, 상기 제 2 동작을 수행하도록 더 야기할 수 있다.In various embodiments of the present invention, the instructions may further cause the processor 210 to perform the second operation while displaying the first user interface on the touchscreen display.
본 발명의 다양한 실시예에서, 상기 메모리(230)는, 실행 시에, 상기 프로세서(210)가, 상기 마이크(288)를 통하여 사용자 발화를 수신하고, 자동 스피치 인식(automatic speech recognition: ASR) 또는 자연어 이해(natural language understanding: NLU) 중 적어도 하나를 수행하는 외부 서버로, 상기 사용자 발화에 대한 데이터와 함께, 상기 사용자 발화에 대한 데이터에 대하여 상기 ASR을 수행하여 획득된 텍스트에 대하여 상기 자연어 이해를 수행할지 여부와 연관된 정보를 송신하고, 상기 정보가 상기 자연어 이해를 수행하지 않을 것을 나타내면, 상기 외부 서버로부터 상기 사용자 발화에 대한 데이터에 대한 상기 텍스트를 수신하고, 상기 정보가 상기 자연어 이해를 수행할 것을 나타내면, 상기 외부 서버로부터 상기 텍스트에 대한 상기 자연어 이해 수행 결과 획득된 명령을 수신하도록 야기하는 인스트럭션을 저장할 수 있다.In various embodiments of the present invention, the memory 230, when executed, allows the processor 210 to receive user utterances through the microphone 288 and perform automatic speech recognition (ASR) or An external server that performs at least one of natural language understanding (NLU), and performs the natural language understanding on the text obtained by performing the ASR on the data on the user utterance together with the data on the user utterance. transmit information related to whether to perform the natural language understanding, and if the information indicates that the natural language understanding will not be performed, receive the text for data about the user utterance from the external server, and if the information indicates that the natural language understanding will not be performed, If this is indicated, an instruction that causes receiving a command obtained as a result of performing the natural language understanding of the text from the external server may be stored.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 한 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 3을 참조하면, 프로그램 모듈(310)은 커널(320)(예: 커널(141)), 미들웨어(330)(예: 미들웨어(143)), (API(360)(예: API(145)), 및/또는 어플리케이션(370)(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.Figure 3 is a block diagram of a program module according to various embodiments. According to one embodiment, the program module 310 (e.g., program 140) is an operating system that controls resources related to an electronic device (e.g., electronic device 101) and/or various applications running on the operating system ( Example: may include an application program (147). The operating system may include, for example, Android TM , iOS TM , Windows TM , Symbian TM , Tizen TM , or Bada TM . Referring to Figure 3, the program module 310 includes a kernel 320 (e.g. kernel 141), middleware 330 (e.g. middleware 143), (API 360) (e.g. API 145) ), and/or an application 370 (e.g., an application program 147). At least a portion of the program module 310 may be preloaded on an electronic device or an external electronic device (e.g., an electronic device). 102, 104), server 106, etc.).
커널(320)은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330) 는 런타임 라이브러리(335), 어플리케이션 매니저(341), 윈도우 매니저(342), 멀티미디어 매니저(343), 리소스 매니저(344), 파워 매니저(345), 데이터베이스 매니저(346), 패키지 매니저(347), 커넥티비티 매니저(348), 노티피케이션 매니저(349), 로케이션 매니저(350), 그래픽 매니저(351), 또는 시큐리티 매니저(352) 중 적어도 하나를 포함할 수 있다.The kernel 320 may include, for example, a system resource manager 321 and/or a device driver 323. The system resource manager 321 may control, allocate, or retrieve system resources. According to one embodiment, the system resource manager 321 may include a process management unit, a memory management unit, or a file system management unit. The device driver 323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver. . For example, the middleware 330 provides functions commonly required by the application 370 or provides various functions through the API 360 so that the application 370 can use limited system resources inside the electronic device. It can be provided as an application (370). According to one embodiment, the middleware 330 includes a runtime library 335, an application manager 341, a window manager 342, a multimedia manager 343, a resource manager 344, a power manager 345, and a database manager ( 346), a package manager 347, a connectivity manager 348, a notification manager 349, a location manager 350, a graphics manager 351, or a security manager 352.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370)의 생명 주기를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(345)는, 예를 들면, 배터리의 용량 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보를 제공할 수 있다. 한 실시예에 따르면, 파워 매니저(345)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(346)는, 예를 들면, 어플리케이션(370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다. The runtime library 335 may include, for example, a library module used by a compiler to add new functions through a programming language while the application 370 is running. The runtime library 335 may perform input/output management, memory management, or arithmetic function processing. The application manager 341 may, for example, manage the life cycle of the application 370. The window manager 342 can manage GUI resources used on the screen. The multimedia manager 343 can determine the format required to play media files and encode or decode the media files using a codec suitable for the format. The resource manager 344 may manage the source code or memory space of the application 370. The power manager 345 may, for example, manage battery capacity or power and provide power information necessary for the operation of the electronic device. According to one embodiment, the power manager 345 may be linked to a basic input/output system (BIOS). The database manager 346 may create, search, or change a database to be used in the application 370, for example. The package manager 347 can manage the installation or update of applications distributed in the form of package files.
커넥티비티 매니저(348)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 로케이션 매니저(350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 한 실시예에 따르면, 미들웨어(330)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.Connectivity manager 348 may manage wireless connections, for example. The notification manager 349 may provide events such as arrival messages, appointments, and proximity notifications to the user, for example. The location manager 350 may, for example, manage location information of the electronic device. The graphics manager 351 may, for example, manage graphic effects to be provided to users or user interfaces related thereto. Security manager 352 may provide, for example, system security or user authentication. According to one embodiment, the middleware 330 may include a telephony manager for managing the voice or video call function of the electronic device or a middleware module that can form a combination of the functions of the above-described components. . According to one embodiment, the middleware 330 may provide specialized modules for each type of operating system. The middleware 330 may dynamically delete some existing components or add new components. The API 360 is, for example, a set of API programming functions and may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set can be provided for each platform, and in the case of Tizen, two or more API sets can be provided for each platform.
어플리케이션(370)은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 와치(384), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(210)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.The application 370 includes, for example, home 371, dialer 372, SMS/MMS (373), instant message (IM) 374, browser 375, camera 376, and alarm 377. , contact (378), voice dial (379), email (380), calendar (381), media player (382), album (383), watch (384), health care (e.g., measuring the amount of exercise or blood sugar, etc.) , or may include an application that provides environmental information (e.g., atmospheric pressure, humidity, or temperature information). According to one embodiment, the application 370 may include an information exchange application that can support information exchange between an electronic device and an external electronic device. The information exchange application may include, for example, a notification relay application for delivering specific information to an external electronic device, or a device management application for managing the external electronic device. For example, a notification delivery application may deliver notification information generated by another application of an electronic device to an external electronic device, or may receive notification information from an external electronic device and provide it to the user. A device management application may, for example, control the functions of an external electronic device that communicates with the electronic device, such as turning on/off the external electronic device itself (or some of its components) or the brightness (or resolution) of the display. control), or you can install, delete, or update applications running on an external electronic device. According to one embodiment, the application 370 may include an application designated according to the properties of the external electronic device (eg, a health management application for a mobile medical device). According to one embodiment, the application 370 may include an application received from an external electronic device. At least a portion of the program module 310 may be implemented (e.g., executed) in software, firmware, hardware (e.g., processor 210), or a combination of at least two of these, and may be a module for performing one or more functions; May contain programs, routines, instruction sets, or processes.
다양한 실시예들에 따라서, 영어 학습 서비스를 제공하는 서버는, 통신 인터페이스, 및 프로세서를 포함하고, 상기 프로세서는, 사용자 장치를 이용하는 사용자의 선호 카테고리를 확인하고, 상기 선호 카테고리에 기반하여 웹 크롤링(web crawling)을 이용하여 수집된 컨텐츠 중에서, 상기 사용자의 학습 레벨에 해당하는 영어 문장 및 상기 영어 문장을 번역한 한국어 문장을 동시에 포함하는 학습용 컨텐츠를 선택하고, 상기 학습용 컨텐츠에 포함된 상기 영어 문장 및 상기 한국어 문장을 분석함으로써, 상기 영어 문장에서 미리 정해진 품사에 해당하는 영어 단어와 한 쌍을 구성하고 상기 미리 정해진 품사에 해당하는 한국어 단어를 상기 한국어 문장으로부터 선택하고, 상기 웹 크롤링을 이용하여, 상기 한국어 단어에 해당하는 제1 이미지들을 수집하고 및 상기 영어 단어에 해당하는 제2 이미지들을 수집하고 -상기 사용자 장치가 셀룰러 네트워크에 연결 중인 상태인 경우, 정지 영상에만 해당하는 상기 제1 이미지들 및 상기 제2 이미지들을 수집하고, 상기 사용자 장치가 Wi-Fi 네트워크에 연결 중인 상태인 경우, 정지 영상 또는 동영상에 해당하는 상기 제1 이미지들 및 상기 제2 이미지들을 수집함-, 상기 제1 이미지들과 상기 제2 이미지들 사이의 제1 유사도를 판단하여, 상기 제1 이미지들 중에서 상기 제2 이미지들에 대하여 가장 높은 유사도를 갖는 대표 이미지를 상기 한국어 단어에 연관시키고 -상기 한국어 문장에서 상기 미리 정해진 품사에 해당하는 모든 단어들에 대하여 대표 이미지들을 연관시키는 동작이 수행됨-, 상기 통신 인터페이스를 통하여 상기 대표 이미지들이 연관되어 있는 상기 한국어 문장을 상기 사용자 장치로 제공하고, 상기 통신 인터페이스를 통하여 상기 사용자 장치로부터 상기 한국어 문장에 대한 비교 대상 영어 문장을 수신하고, doc2vec 알고리즘을 이용하여, 상기 비교 대상 영어 문장과 정답 문장으로서의 상기 영어 문장 사이의 제2 유사도를 판단하고, 및 상기 제2 유사도가 제1 임계치 이하이고, 상기 제1 임계치 보다 낮은 제2 임계치 이상인 경우: 1) word2vec 알고리즘을 이용하여, 상기 비교 대상 영어 문장에 포함된 쿼리 영어 단어와 상기 영어 문장에 포함된 정답 영어 단어 사이의 제3 유사도를 판단하고 -상기 비교 대상 영어 문장에 포함된 모든 쿼리 단어 단어들에 대하여 상기 영어 문장에 포함된 모든 정답 영어 단어들과의 유사도를 판단하는 동작이 수행됨-, 2) 상기 제3 유사도가 제3 임계치 미만인 경우, 상기 정답 영어 단어의 기본형에 해당하는 단어를 힌트 단어(hint word)로서 상기 사용자 장치로 제공하고, 3) 상기 제3 유사도가 제4 임계치를 초과한 경우, 상기 정답 영어 단어의 반의어를 상기 힌트 단어로서 상기 사용자 장치로 제공하고, 및 4) 상기 제3 유사도가 상기 제3 임계치 이상이고, 상기 제4 임계치 이하인 경우, 상기 정답 영어 단어의 유의어를 상기 힌트 단어로서 상기 사용자 장치로 제공하도록 설정될 수 있다.According to various embodiments, a server providing an English learning service includes a communication interface and a processor, wherein the processor determines a preference category of a user using a user device and performs web crawling based on the preference category ( From content collected using web crawling, select learning content that simultaneously includes English sentences corresponding to the user's learning level and Korean sentences translated from the English sentences, and select the English sentences and By analyzing the Korean sentence, forming a pair with an English word corresponding to a predetermined part of speech in the English sentence and selecting a Korean word corresponding to the predetermined part of speech from the Korean sentence, using the web crawling, Collecting first images corresponding to a Korean word and collecting second images corresponding to the English word - when the user device is connected to a cellular network, the first images corresponding to still images only and the Collecting second images, and if the user device is connected to a Wi-Fi network, collecting the first images and the second images corresponding to still images or moving images -, the first images and Determining a first degree of similarity between the second images, associating a representative image with the highest degree of similarity to the second images among the first images to the Korean word, and - the predetermined part of speech in the Korean sentence An operation of associating representative images with all words corresponding to -, providing the Korean sentence with which the representative images are associated to the user device through the communication interface, and sending from the user device through the communication interface Receiving an English sentence to be compared to the Korean sentence, using the doc2vec algorithm, determine a second similarity between the English sentence to be compared and the English sentence as a correct sentence, and the second similarity is less than or equal to a first threshold. If the second threshold is lower than the first threshold or more: 1) Using the word2vec algorithm, determine the third degree of similarity between the query English word included in the English sentence to be compared and the correct English word included in the English sentence. And - an operation is performed to determine the similarity of all query words included in the English sentence to be compared with all correct English words included in the English sentence. 2) the third similarity is less than a third threshold. In this case, a word corresponding to the basic form of the correct English word is provided to the user device as a hint word, and 3) if the third similarity exceeds the fourth threshold, an antonym of the correct English word is provided to the user device. provided to the user device as a hint word, and 4) when the third similarity is greater than the third threshold and less than the fourth threshold, set to provide a synonym of the correct English word to the user device as the hint word. It can be.
다양한 실시예들에 따라서, 상기 프로세서는, 상기 제2 유사도가 상기 제1 임계치를 초과하는 경우, 상기 비교 대상 영어 문장을 정답 처리하고, 상기 통신 인터페이스를 통하여 상기 영어 문장을 상기 사용자 장치로 제공하고, 및 상기 제2 유사도가 상기 제2 임계치 미만인 경우, 상기 비교 대상 영어 문장을 오답 처리하고, 상기 통신 인터페이스를 통하여 상기 영어 문장을 상기 사용자 장치로 제공하도록 설정될 수 있다.According to various embodiments, when the second similarity exceeds the first threshold, the processor processes the English sentence to be compared as correct, provides the English sentence to the user device through the communication interface, and , and if the second similarity is less than the second threshold, the English sentence to be compared may be processed as an incorrect answer, and the English sentence may be provided to the user device through the communication interface.
다양한 실시예들에 따라서, 상기 프로세서는, 상기 제1 이미지들 및 상기 제2 이미지들을 질감 피처 및 형태 피처 추출을 위한 특정 기준에 따라 프로세싱하고, 프로세싱 결과를 합성하기 위한 기준에 따라 인덱스로 변환하여 상기 제1 이미지들 및 상기 제2 이미지들에 인덱싱하고, 및 상기 타겟 건축물 설계도를 상기 특정 기준에 따라 프로세싱하고, 프로세싱 결과를 합성하기 위한 기준에 따라 변환한 값을 이용하여 상기 제1 유사도를 판단하도록 설정되고, 상기 특정 기준은, 상기 제1 이미지들 및 상기 제2 이미지들로부터 상기 질감 피처를 추출하고, 상기 질감 피처의 벡터를 계산하기 위하여 상기 제1 이미지들 및 상기 제2 이미지들에 아래의 수학식 1을 적용하고, 상기 특정 기준은 상기 제1 이미지들 및 상기 제2 이미지들로부터 상기 형태 피처를 추출하고, 상기 형태 피처를 계산하기 위하여, 상기 제1 이미지들 및 상기 제2 이미지들에 아래의 수학식 2를 적용할 수 있다.According to various embodiments, the processor processes the first images and the second images according to specific criteria for extracting texture features and shape features, and converts the processing results into indices according to criteria for synthesizing them. Indexing the first images and the second images, processing the target building blueprint according to the specific standard, and determining the first similarity using a value converted according to the standard for synthesizing the processing result. The specific criterion is set to extract the texture feature from the first images and the second images, and calculate the vector of the texture feature. Apply Equation 1, and the specific criterion is applied to the first images and the second images to extract the shape feature from the first images and the second images and calculate the shape feature. Equation 2 below can be applied.
[수학식 1][Equation 1]
[수학식 2][Equation 2]
다양한 실시예들에 따라서, 상기 프로세서는, 상기 제1 이미지들 및 상기 제2 이미지들 사이의 상기 제1 유사도를 계산하기 위하여, 상기 특정 기준에 따라 프로세싱한 상기 제1 이미지들 및 상기 제2 이미지들 사이의 거리 값을 아래의 수학식 3을 적용하여 계산하도록 설정될 수 있다.According to various embodiments, the processor processes the first images and the second images according to the specific criteria to calculate the first similarity between the first images and the second images. The distance value between them can be set to be calculated by applying Equation 3 below.
[수학식 3][Equation 3]
다양한 실시예들에 따라서, 상기 프로세서는, 상기 doc2vec 알고리즘을 이용하여, 상기 비교 대상 영어 문장과 상기 영어 문장 사이의 상기 제2 유사도를 아래의 수학식 4를 적용하여 계산하도록 설정되고, 상기 비교 대상 영어 문장 p의 doc2vec가 [p1, p2, …, pn]이고, 상기 영어 문장 q의 doc2vec가 [q1, q2, …, qn]일 수 있다.According to various embodiments, the processor is set to calculate the second similarity between the English sentence to be compared and the English sentence using the doc2vec algorithm by applying Equation 4 below, and the target to be compared doc2vec of English sentence p is [p1, p2, … , pn], and doc2vec of the English sentence q is [q1, q2, … , qn].
[수학식 4][Equation 4]
다양한 실시예들에 따라서, 상기 프로세서는, 상기 word2vec 알고리즘의 skip-gram 모델에 기반하는 아래의 수학식 5를 이용하여, 상기 쿼리 영어 단어 및 상기 정답 영어 단어를 벡터화하고, 및 코사인 유사도에 기반하는 아래의 수학식 6을 이용하여 상기 쿼리 영어 단어 및 상기 정답 영어 단어 사이의 상기 제3 유사도를 판단하도록 설정될 수 있다.According to various embodiments, the processor vectorizes the query English word and the correct English word using Equation 5 below based on the skip-gram model of the word2vec algorithm, and based on cosine similarity. The third degree of similarity between the query English word and the correct English word can be determined using Equation 6 below.
[수학식 5][Equation 5]
[수학식 6][Equation 6]
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다. 다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(130))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.The term “module” used in this document includes a unit comprised of hardware, software, or firmware, and may be used interchangeably with terms such as logic, logic block, component, or circuit, for example. A “module” may be an integrated part, a minimum unit that performs one or more functions, or a part thereof. A “module” may be implemented mechanically or electronically, for example, in application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), known or hereafter developed, that perform certain operations. May include programmable logic devices. At least a portion of the device (e.g., modules or functions thereof) or method (e.g., operations) according to various embodiments includes instructions stored in a computer-readable storage medium (e.g., memory 130) in the form of a program module. It can be implemented as: When the instruction is executed by a processor (eg, processor 120), the processor may perform a function corresponding to the instruction. Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical recording media (e.g. CD-ROM, DVD, magneto-optical media (e.g. floptical disks), built-in memory, etc. The instruction may include code generated by a compiler or code that can be executed by an interpreter. A module or program module according to various embodiments may include at least one of the above-described components. , some parts may be omitted, or other components may be further included. Operations performed by modules, program modules, or other components may be executed sequentially, parallel, iteratively, or heuristically. Some operations may be executed in a different order, omitted, or other operations may be added.
그리고 본 문서에 개시된 실시예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 개시의 범위를 한정하는 것은 아니다. 따라서, 본 개시의 범위는, 본 개시의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.Additionally, the embodiments disclosed in this document are presented for explanation and understanding of the disclosed technical content, and do not limit the scope of the present disclosure. Accordingly, the scope of the present disclosure should be interpreted as including all changes or various other embodiments based on the technical idea of the present disclosure.
Claims (1)
상기 프로세서는:
사용자 장치를 이용하는 사용자의 선호 카테고리를 확인하고,
상기 선호 카테고리에 기반하여 웹 크롤링(web crawling)을 이용하여 수집된 컨텐츠 중에서, 상기 사용자의 학습 레벨에 해당하는 영어 문장 및 상기 영어 문장을 번역한 한국어 문장을 동시에 포함하는 학습용 컨텐츠를 선택하고,
상기 학습용 컨텐츠에 포함된 상기 영어 문장 및 상기 한국어 문장을 분석함으로써, 상기 영어 문장에서 미리 정해진 품사에 해당하는 영어 단어와 한 쌍을 구성하고 상기 미리 정해진 품사에 해당하는 한국어 단어를 상기 한국어 문장으로부터 선택하고,
상기 웹 크롤링을 이용하여, 상기 한국어 단어에 해당하는 제1 이미지들을 수집하고 및 상기 영어 단어에 해당하는 제2 이미지들을 수집하되, ① 상기 사용자 장치가 셀룰러 네트워크에 연결 중인 상태인 경우, 정지 영상에만 해당하는 상기 제1 이미지들 및 상기 제2 이미지들을 수집하고, ② 상기 사용자 장치가 Wi-Fi 네트워크에 연결 중인 상태인 경우, 동영상에 해당하는 상기 제1 이미지들 및 상기 제2 이미지들을 수집하고,
상기 제1 이미지들 및 상기 제2 이미지들 각각에: 가버 필터(Gabor Filter)를 적용함으로써 텍스터 피처(texture feature)들을 추출하고, HOG(Histogram of Oriented Gradients) 알고리즘을 적용함으로써 형태 피처들을 추출하고,
상기 텍스터 피처들과 상기 형태 피처들에 기반하여 상기 제1 이미지들과 상기 제2 이미지들 사이의 제1 유사도를 판단하고,
상기 제1 이미지들 중에서 상기 제2 이미지들에 대하여 가장 높은 유사도를 갖는 대표 이미지를 상기 한국어 단어에 연관시키되, 상기 한국어 문장에서 상기 미리 정해진 품사에 해당하는 모든 단어들에 대하여 대표 이미지들을 연관시키는 동작이 수행되고,
상기 통신 인터페이스를 통하여 상기 대표 이미지들이 연관되어 있는 상기 한국어 문장을 상기 사용자 장치에게 제공하고,
상기 통신 인터페이스를 통하여 상기 한국어 문장에 대한 비교 대상인 제1 영어 문장을 상기 사용자 장치로부터 수신하고,
Doc2Vec 알고리즘을 이용하여, ① 상기 제1 영어 문장으로부터 제1 숫자 벡터(pi)를 추출하고, ② 정답 문장인 제2 영어 문장으로부터 제2 숫자 벡터(qi)를 추출하고,
상기 제1 숫자 벡터(pi)와 상기 제2 숫자 벡터(qi)를 아래의 수학식 1에 적용함으로써, 상기 제1 영어 문장과 상기 제2 영어 문장 사이의 제2 유사도를 산출하되, n은 상기 제1 영어 문장 또는 상기 제2 영어 문장의 개수를 나타내고,
[수학식 1]
상기 제2 유사도가 제1 임계치 이하이고, 상기 제1 임계치 보다 낮은 제2 임계치 이상인 경우:
1) Word2Vec 알고리즘을 이용하여, 상기 제1 영어 문장에 포함된 쿼리 영어 단어와 상기 제2 영어 문장에 포함된 정답 영어 단어 사이의 제3 유사도를 판단하되, 상기 제1 영어 문장에 포함된 모든 쿼리 단어 단어들에 대하여 상기 제2 영어 문장에 포함된 모든 정답 영어 단어들과의 유사도를 판단하는 동작이 수행되고,
2) 상기 제3 유사도가 제3 임계치 미만인 경우, 상기 정답 영어 단어의 기본형에 해당하는 단어를 힌트 단어(hint word)로서 상기 사용자 장치에게 제공하고,
3) 상기 제3 유사도가 제4 임계치를 초과한 경우, 상기 정답 영어 단어의 반의어를 상기 힌트 단어로서 상기 사용자 장치에게 제공하고,
4) 상기 제3 유사도가 상기 제3 임계치 이상이고, 상기 제4 임계치 이하인 경우, 상기 정답 영어 단어의 유의어를 상기 힌트 단어로서 상기 사용자 장치에게 제공하도록 설정되고,
상기 프로세서는:
상기 제2 유사도가 상기 제1 임계치를 초과하는 경우, 상기 제1 영어 문장을 정답 처리하고, 상기 통신 인터페이스를 통하여 상기 제2 영어 문장을 상기 사용자 장치에게 제공하고,
상기 제2 유사도가 상기 제2 임계치 미만인 경우, 상기 제1 영어 문장을 오답 처리하고, 상기 통신 인터페이스를 통하여 상기 제2 영어 문장을 상기 사용자 장치에게 제공하도록 설정되고,
상기 프로세서는:
상기 제1 이미지들 및 상기 제2 이미지들을 질감 피처 및 형태 피처 추출을 위한 특정 기준에 따라 프로세싱하고,
프로세싱 결과를 합성하기 위한 기준에 따라 인덱스로 변환하는, 서비스 시스템.communication interface; and processor; Including,
The processor:
Identify the preferred categories of users using your device,
From content collected using web crawling based on the preference category, select learning content that simultaneously includes English sentences corresponding to the user's learning level and Korean sentences translated from the English sentences,
By analyzing the English sentence and the Korean sentence included in the learning content, a pair is formed with an English word corresponding to a predetermined part of speech in the English sentence, and a Korean word corresponding to the predetermined part of speech is selected from the Korean sentence. do,
Using the web crawling, first images corresponding to the Korean word are collected and second images corresponding to the English word are collected. ① When the user device is connected to a cellular network, only still images are collected. Collect the corresponding first images and the second images, ② If the user device is connected to a Wi-Fi network, collect the first images and the second images corresponding to the video,
To each of the first images and the second images: extracting texture features by applying a Gabor Filter, extracting shape features by applying a Histogram of Oriented Gradients (HOG) algorithm,
Determine a first degree of similarity between the first images and the second images based on the textural features and the shape features,
An operation of associating a representative image with the highest similarity to the second images among the first images to the Korean word, and associating the representative images with all words corresponding to the predetermined part of speech in the Korean sentence. This is done,
providing the user device with the Korean sentence with which the representative images are associated through the communication interface,
Receiving a first English sentence that is a comparison target for the Korean sentence from the user device through the communication interface,
Using the Doc2Vec algorithm, ① extract the first numeric vector (p i ) from the first English sentence, ② extract the second numeric vector (q i ) from the second English sentence, which is the correct sentence,
By applying the first numeric vector (p i ) and the second numeric vector (q i ) to Equation 1 below, a second similarity between the first English sentence and the second English sentence is calculated, where n represents the number of the first English sentence or the second English sentence,
[Equation 1]
When the second similarity is less than or equal to a first threshold and is greater than or equal to a second threshold that is lower than the first threshold:
1) Using the Word2Vec algorithm, determine the third similarity between the query English word included in the first English sentence and the correct English word included in the second English sentence, but all queries included in the first English sentence An operation is performed to determine the similarity of words with all correct English words included in the second English sentence,
2) If the third similarity is less than the third threshold, providing a word corresponding to the basic form of the correct English word as a hint word to the user device,
3) If the third similarity exceeds the fourth threshold, providing an antonym of the correct English word as the hint word to the user device,
4) If the third similarity is greater than or equal to the third threshold and less than or equal to the fourth threshold, the synonym of the correct English word is set to be provided to the user device as the hint word,
The processor:
If the second similarity exceeds the first threshold, processing the first English sentence as correct and providing the second English sentence to the user device through the communication interface,
If the second similarity is less than the second threshold, the first English sentence is processed as an incorrect answer and the second English sentence is provided to the user device through the communication interface,
The processor:
Processing the first images and the second images according to specific criteria for extracting texture features and shape features,
A service system that converts processing results into indices according to criteria for synthesis.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020210057862A KR102678350B1 (en) | 2021-05-04 | English education method using learning level and service system therefor |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020210048210A KR102353687B1 (en) | 2021-04-14 | 2021-04-14 | Server for providing service for educating english and method for operation thereof |
| KR1020210057862A KR102678350B1 (en) | 2021-05-04 | English education method using learning level and service system therefor |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020210048210A Division KR102353687B1 (en) | 2021-04-14 | 2021-04-14 | Server for providing service for educating english and method for operation thereof |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20220142896A KR20220142896A (en) | 2022-10-24 |
| KR102678350B1 true KR102678350B1 (en) | 2024-06-26 |
Family
ID=
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2017188039A (en) | 2016-04-08 | 2017-10-12 | Kddi株式会社 | Program, device and method for estimating score of text by calculating multiple similarity degrees |
| JP2021032911A (en) | 2019-08-13 | 2021-03-01 | 株式会社フォーサイト | Dialogue learning system, method, and program |
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2017188039A (en) | 2016-04-08 | 2017-10-12 | Kddi株式会社 | Program, device and method for estimating score of text by calculating multiple similarity degrees |
| JP2021032911A (en) | 2019-08-13 | 2021-03-01 | 株式会社フォーサイト | Dialogue learning system, method, and program |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102414122B1 (en) | Electronic device for processing user utterance and method for operation thereof | |
| CN109243432B (en) | Voice processing method and electronic device supporting the same | |
| CN111897964B (en) | Text classification model training method, device, equipment and storage medium | |
| CN108292317B (en) | Question and answer processing method and electronic device supporting the same | |
| KR102363794B1 (en) | Information providing method and electronic device supporting the same | |
| US20160170710A1 (en) | Method and apparatus for processing voice input | |
| US10825453B2 (en) | Electronic device for providing speech recognition service and method thereof | |
| CN111985240B (en) | Named entity recognition model training method, named entity recognition method and named entity recognition device | |
| KR102653450B1 (en) | Method for response to input voice of electronic device and electronic device thereof | |
| KR20170044426A (en) | Method for recognizing voice signal and electronic device supporting the same | |
| KR102356889B1 (en) | Method for performing voice recognition and electronic device using the same | |
| US10996922B2 (en) | Electronic apparatus for processing user utterance | |
| CN111368525A (en) | Information searching method, device, equipment and storage medium | |
| KR102222711B1 (en) | Electronic device for providing website related to shopping mall and method for operation thereof | |
| KR20170046912A (en) | Method for providing information and electronic device supporting the same | |
| CN111444321B (en) | Question answering method, device, electronic equipment and storage medium | |
| KR20180096147A (en) | Electronic device and providig information in the electronic device | |
| KR102177203B1 (en) | Method and computer readable recording medium for detecting malware | |
| KR102353687B1 (en) | Server for providing service for educating english and method for operation thereof | |
| KR102678350B1 (en) | English education method using learning level and service system therefor | |
| KR102678351B1 (en) | English education system that analyzes the similarity of English words | |
| KR102678352B1 (en) | Method and System for Providing English Learning Service Using by Mobile Telecommunication Network | |
| KR20170044849A (en) | Electronic device and method for transforming text to speech utilizing common acoustic data set for multi-lingual/speaker | |
| KR102310296B1 (en) | Server operating platform for resale and restoration of used-clothing and methods for operating the same | |
| KR102230933B1 (en) | Electronic device program for providing response data to server providing chatbot service |