KR102441422B1 - Personalized question-answering system, cloud server for privacy protection and method for providing shared nueral model thereof - Google Patents

Personalized question-answering system, cloud server for privacy protection and method for providing shared nueral model thereof Download PDF

Info

Publication number
KR102441422B1
KR102441422B1 KR1020180075840A KR20180075840A KR102441422B1 KR 102441422 B1 KR102441422 B1 KR 102441422B1 KR 1020180075840 A KR1020180075840 A KR 1020180075840A KR 20180075840 A KR20180075840 A KR 20180075840A KR 102441422 B1 KR102441422 B1 KR 102441422B1
Authority
KR
South Korea
Prior art keywords
neural network
network model
data
common
personalized
Prior art date
Application number
KR1020180075840A
Other languages
Korean (ko)
Other versions
KR20190085823A (en
Inventor
임준호
최미란
김현기
김민호
류지희
배경만
배용진
왕지현
이형직
임수종
장명길
허정
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to US16/245,468 priority Critical patent/US20190213480A1/en
Publication of KR20190085823A publication Critical patent/KR20190085823A/en
Application granted granted Critical
Publication of KR102441422B1 publication Critical patent/KR102441422B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Bioethics (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Machine Translation (AREA)
  • Telephone Function (AREA)
  • Storage Device Security (AREA)

Abstract

본 발명에 따른 질의응답 시스템에서의 공통 신경망 모델 제공 방법은 초기 모델 학습 데이터에 기초하여 공통 신경망 모델을 학습하는 단계; 상기 학습이 완료됨에 따라 상기 공통 신경망 모델을 복수의 사용자 단말로 제공하는 단계; 상기 사용자 단말에서 상기 공통 신경망 모델을 개인화된 신경망 모델로 업데이트함에 따라, 상기 업데이트된 개인화된 신경망 모델을 수집하는 단계; 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하는 단계 및 상기 업데이트된 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하는 단계를 포함한다.A method for providing a common neural network model in a question and answer system according to the present invention includes: learning a common neural network model based on initial model training data; providing the common neural network model to a plurality of user terminals as the learning is completed; as the user terminal updates the common neural network model with a personalized neural network model, collecting the updated personalized neural network model; updating the common neural network model based on the collected personalized neural network model; and providing the updated common neural network model to the plurality of user terminals.

Description

개인 정보 보호가 가능한 개인화된 질의응답 시스템, 클라우드 서버 및 이의 공통 신경망 모델 제공 방법{PERSONALIZED QUESTION-ANSWERING SYSTEM, CLOUD SERVER FOR PRIVACY PROTECTION AND METHOD FOR PROVIDING SHARED NUERAL MODEL THEREOF}A personalized question-and-answer system capable of protecting personal information, a cloud server, and a method of providing a common neural network model

본 발명은 질의응답 시스템, 클라우드 서버 및 이의 공통 신경망 모델 제공 방법에 관한 것이다.The present invention relates to a question-and-answer system, a cloud server, and a method for providing a common neural network model thereof.

질의응답시스템은 사용자가 원하는 지식을 얻기 위해 시스템에 질문을 하고, 시스템은 이를 분석하여 관련 답변을 출력하는 것으로서, 현재까지 다양한 방법으로 질의응답 시스템을 구현하여 왔다.The Q&A system asks a question to the system in order to obtain the knowledge desired by the user, and the system analyzes it and outputs a related answer. Until now, the Q&A system has been implemented in various ways.

이러한 질의응답 기술의 종래기술에는 기계독해(Machine Reading Comprehension, MRC) 기술이 있다. In the prior art of such a question-and-answer technique, there is a machine reading comprehension (MRC) technique.

그러나 MRC 기술을 개인 정보를 포함하는 데이터에 적용하기 위해서는 다음과 같은 문제에 대한 해결이 필요하다.However, in order to apply MRC technology to data including personal information, it is necessary to solve the following problems.

첫째로, 학습을 위해서 일반적으로 10만개 이상의 '질의-응답 단락'의 학습데이터 쌍이 필요하나, 개인 정보 보호가 필요한 환경에서는 이와 같은 대용량의 학습 데이터 수집이 어렵다는 문제가 있다.First, learning data pairs of 100,000 or more 'question-response paragraphs' are generally required for learning.

둘째로, MRC 학습 집합이 고정된 경우, 현실 세계에서 지속적으로 나타나는 새로운 단어인 신조어에 대해서는 올바른 임베딩 및 정답 추론이 어렵다는 문제가 있다.Second, when the MRC learning set is fixed, there is a problem in that it is difficult to correctly embed and infer the correct answer for a neologism, which is a new word that appears continuously in the real world.

본 발명은 개별 사용자 단말 측면에서 신경망 모델을 업데이트하고 클라우드 서버는 이를 수집하여 공통 신경망 모델로 생성하여 개별 사용자 단말에 제공함으로써, 개인 데이터에 대한 개인정보가 보호되도록 함과 동시에 사용자의 실사용 데이터에 대해 학습이 가능하게끔 하는 질의응답 시스템, 클라우드 서버 및 이의 공통 신경망 모델 제공 방법을 제공하고자 한다.The present invention updates the neural network model in terms of individual user terminals, and the cloud server collects them, creates a common neural network model and provides them to individual user terminals, so that personal information about personal data is protected and, at the same time, the user's actual use data. To provide a method for providing a question-and-answer system, a cloud server, and its common neural network model that enables learning about it.

다만, 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.However, the technical task to be achieved by the present embodiment is not limited to the above-described technical task, and other technical tasks may exist.

상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 제 1 측면에 따른 질의응답 시스템은 공통 신경망 모델(Shared Neural Model)에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 제공하는 복수의 사용자 단말 및 초기 모델 학습 데이터에 기초하여 상기 공통 신경망 모델을 학습하고, 상기 학습이 완료됨에 따라 상기 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하는 클라우드 서버를 포함한다.As a technical means for achieving the above technical problem, the question and answer system according to the first aspect of the present invention is based on a shared neural network model, text data including personal information and query data input by a user Learning the common neural network model based on a plurality of user terminals and initial model training data that provide response data and evidence data corresponding to , and providing the common neural network model to the plurality of user terminals as the learning is completed Includes cloud servers.

상기 초기 모델 학습 데이터는 MRC(Machine Reading Comprehension) 모델 학습 데이터일 수 있다.The initial model training data may be Machine Reading Comprehension (MRC) model training data.

상기 공통 신경망 모델은 상기 텍스트 데이터 및 질의 데이터를 각각 실수 차원의 벡터로 임베딩하는 워드 신경망 모델과, 상기 임베딩된 결과에 따른 텍스트 데이터 벡터 및 질의 데이터 벡터에 기반하여 응답 데이터 및 상기 응답 데이터에 대응되는 근거 데이터를 추론하는 응답 신경망 모델을 포함할 수 있다.The common neural network model includes a word neural network model that embeds the text data and the query data as real-dimensional vectors, respectively, and the response data and the response data based on the text data vector and the query data vector according to the embedding result. It may include a response neural network model that infers the underlying data.

상기 워드 신경망 모델은 단어별 임베딩 벡터 테이블과 문자 및 서브워드 기반의 신경망 모델을 혼합하여 상기 텍스트 데이터 및 질의 데이터를 각각 실수 차원의 벡터로 임베딩할 수 있다.The word neural network model may embed the text data and the query data as real-dimensional vectors, respectively, by mixing an embedding vector table for each word and a character- and subword-based neural network model.

상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 상기 텍스트 데이터를 분석함에 따라, 상기 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 제공할 수 있다.The user terminal may provide response data and evidence data corresponding to the query data by analyzing the text data based on the common neural network model.

상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트할 수 있다.The user terminal may receive user feedback by providing the response data and evidence data, and may update the common neural network model to a personalized neural network model corresponding to the user terminal based on the fed back data.

상기 사용자 단말은 기 설정된 학습 수량 이상의 피드백 데이터가 누적된 경우 상기 공통 신경망 모델을 상기 개인화된 신경망 모델로 업데이트할 수 있다.The user terminal may update the common neural network model to the personalized neural network model when feedback data equal to or greater than a preset learning quantity is accumulated.

상기 사용자 단말은 상기 업데이트된 개인화된 신경망 모델을 상기 클라우드 서버로 전송하고, 상기 클라우드 서버는 상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집하면, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 사용자 단말로 제공할 수 있다.The user terminal transmits the updated personalized neural network model to the cloud server, and when the cloud server collects more than a preset number of personalized neural network models from the plurality of user terminals, based on the collected personalized neural network model Thus, the common neural network model may be updated and provided to the user terminal.

상기 클라우드 서버는 상기 복수의 사용자 단말에서 각각 학습된 피드백 데이터의 수량과 상기 개인화된 신경망 모델별로 할당된 가중치를 기반으로 평균화하여 상기 공통 신경망 모델을 업데이트할 수 있다.The cloud server may update the common neural network model by averaging based on the quantity of feedback data learned from each of the plurality of user terminals and a weight assigned to each individualized neural network model.

또한, 본 발명의 제 2 측면에 따른 질의응답 시스템에서의 공통 신경망 모델 제공 방법은 초기 모델 학습 데이터에 기초하여 공통 신경망 모델을 학습하는 단계; 상기 학습이 완료됨에 따라 상기 공통 신경망 모델을 복수의 사용자 단말로 제공하는 단계; 상기 사용자 단말에서 상기 공통 신경망 모델을 개인화된 신경망 모델로 업데이트함에 따라, 상기 업데이트된 개인화된 신경망 모델을 수집하는 단계; 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하는 단계 및 상기 업데이트된 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하는 단계를 포함한다.In addition, a method for providing a common neural network model in a question and answer system according to a second aspect of the present invention includes: learning a common neural network model based on initial model training data; providing the common neural network model to a plurality of user terminals as the learning is completed; as the user terminal updates the common neural network model with a personalized neural network model, collecting the updated personalized neural network model; updating the common neural network model based on the collected personalized neural network model; and providing the updated common neural network model to the plurality of user terminals.

상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 사용자에게 제공할 수 있다.Based on the common neural network model, the user terminal may provide text data including personal information and response data and evidence data corresponding to query data input by the user to the user.

상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자의 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트할 수 있다.The user terminal may receive the user's feedback by providing the response data and the evidence data, and update the common neural network model to a personalized neural network model corresponding to the user terminal based on the fed back data.

상기 사용자 단말은 기 설정된 학습 수량 이상의 피드백 데이터가 누적된 경우 상기 공통 신경망 모델을 상기 개인화된 신경망 모델로 업데이트할 수 있다.The user terminal may update the common neural network model to the personalized neural network model when feedback data equal to or greater than a preset learning quantity is accumulated.

본 발명의 일 실시예에 따른 공통 신경망 모델 제공 방법은 상기 사용자 단말로부터 상기 업데이트된 개인화된 신경망 모델을 수신하는 단계; 상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집한 경우, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하는 단계 및 상기 업데이트된 공통 신경망 모델을 상기 사용자 단말로 제공하는 단계를 더 포함할 수 있다.A method for providing a common neural network model according to an embodiment of the present invention includes: receiving the updated personalized neural network model from the user terminal; If more than a preset number of personalized neural network models are collected from the plurality of user terminals, updating the common neural network model based on the collected personalized neural network model and providing the updated common neural network model to the user terminal It may further include the step of

또한, 본 발명의 제 3 측면에 따른 공통 신경망 모델을 학습 및 제공하는 클라우드 서버는 복수의 사용자 단말과 데이터를 송수신하는 통신모듈, 공통 신경망 모델을 학습 및 제공하기 위한 프로그램이 저장된 메모리 및 상기 메모리에 저장된 프로그램을 실행시키는 프로세서를 포함한다. 이때, 상기 프로세서는 상기 프로그램을 실행시킴에 따라, 초기 모델 학습 데이터에 기초하여 공통 신경망 모델을 학습하고, 상기 학습된 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하며, 상기 사용자 단말에서 상기 공통 신경망 모델을 개인화된 신경망 모델로 업데이트함에 따라, 상기 업데이트된 개인화된 신경망 모델을 수집하고, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 복수의 사용자 단말로 제공할 수 있다.In addition, the cloud server for learning and providing a common neural network model according to the third aspect of the present invention includes a communication module for transmitting and receiving data with a plurality of user terminals, a memory in which a program for learning and providing a common neural network model is stored, and the memory. and a processor for executing the stored program. At this time, as the processor executes the program, it learns a common neural network model based on initial model learning data, provides the learned common neural network model to the plurality of user terminals, and the common neural network in the user terminal As the model is updated to the personalized neural network model, the updated personalized neural network model may be collected, and the common neural network model may be updated based on the collected personalized neural network model and provided to the plurality of user terminals.

상기 프로세서는 상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집하면, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 사용자 단말로 제공할 수 있다.When the processor collects more than a preset number of personalized neural network models from the plurality of user terminals, the processor updates the common neural network model based on the collected personalized neural network models and provides them to the user terminals.

상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 사용자에게 제공할 수 있다.Based on the common neural network model, the user terminal may provide text data including personal information and response data and evidence data corresponding to query data input by the user to the user.

상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트할 수 있다.The user terminal may receive user feedback by providing the response data and evidence data, and may update the common neural network model to a personalized neural network model corresponding to the user terminal based on the fed back data.

전술한 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 각 사용자가 실제 사용하는 데이터 및 환경에서 신경망 모델 학습을 가능하게 함으로써 개인화된 질의응답 시스템을 제공할 수 있다.According to any one of the above-described problem solving means of the present invention, it is possible to provide a personalized question and answer system by enabling neural network model learning in the data and environment actually used by each user.

또한, 개인 정보 데이터가 아닌 신경망 모델의 가중치 데이터를 온라인 상으로 전송함으로써 개인 정보를 보호할 수 있다는 효과가 있다.In addition, there is an effect that personal information can be protected by transmitting the weight data of the neural network model online, not the personal information data.

도 1은 본 발명의 일 실시예에 따른 질의응답 시스템을 개략적으로 설명하기 위한 도면이다.
도 2는 본 발명의 일 실시예에 따른 클라우드 서버의 블록도이다.
도 3은 공통 신경망 모델을 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 공통 신경망 모델 제공 방법의 순서도이다.
도 5는 사용자 단말에서 개인화된 신경망 모델을 업데이트하는 과정의 순서도이다.1 is a diagram schematically illustrating a question answering system according to an embodiment of the present invention.
2 is a block diagram of a cloud server according to an embodiment of the present invention.
3 is a diagram for describing a common neural network model.
4 is a flowchart of a method for providing a common neural network model according to an embodiment of the present invention.
5 is a flowchart of a process of updating a personalized neural network model in a user terminal.

아래에서는 첨부한 도면을 참조하여 본원이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본원의 실시예를 상세히 설명한다. 그러나 본원은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본원을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Hereinafter, embodiments of the present application will be described in detail with reference to the accompanying drawings so that those of ordinary skill in the art to which the present application pertains can easily implement them. However, the present application may be implemented in several different forms and is not limited to the embodiments described herein. And in order to clearly explain the present application in the drawings, parts irrelevant to the description are omitted, and similar reference numerals are attached to similar parts throughout the specification.

명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.In the entire specification, when a part "includes" a certain component, it means that other components may be further included, rather than excluding other components, unless otherwise stated.

도 1은 본 발명의 일 실시예에 따른 질의응답 시스템(1)을 개략적으로 설명하기 위한 도면이다. 도 2는 본 발명의 일 실시예에 따른 클라우드 서버(100)의 블록도이다. 도 3은 공통 신경망 모델(10)을 설명하기 위한 도면이다.1 is a diagram schematically illustrating a question and answer system 1 according to an embodiment of the present invention. 2 is a block diagram of a cloud server 100 according to an embodiment of the present invention. 3 is a diagram for explaining the common neural network model 10 .

먼저 도 1을 참조하면, 본 발명의 일 실시예에 따른 질의응답 시스템(1)은 복수의 사용자 단말(200) 및 클라우드 서버(100)를 포함한다.First, referring to FIG. 1 , a question answering system 1 according to an embodiment of the present invention includes a plurality of user terminals 200 and a cloud server 100 .

복수의 사용자 단말(200)은 사용자의 실사용 단말을 의미하여, 이때 복수의 사용자 단말(200)은 수십~수백만개가 구비될 수 있다.A plurality of user terminals 200 means a user's actual terminal, in this case, the plurality of user terminals 200 may be provided in tens to millions.

사용자 단말(200)은 공통 신경망 모델(Shared Neural Model, 10)을 클라우드 서버(100)로부터 제공받아 개인 정보를 포함하는 텍스트 데이터를 분석함에 따라, 질의 데이터에 해당하는 응답 데이터 및 이의 근거 데이터를 사용자에게 제공한다.The user terminal 200 receives a shared neural network model (10) from the cloud server 100 and analyzes text data including personal information, so that the response data corresponding to the query data and the basis data thereof are provided to the user. provide to

한편, 본 발명의 일 실시예에서의 사용자 단말(200)은 휴대용 단말기에 인터넷 통신과 정보 검색 등 컴퓨터 지원 기능을 추가한 지능형 단말기로서, 사용자가 원하는 다수의 응용 프로그램(즉, 애플리케이션)을 설치하여 실행할 수 있는 휴대폰, 스마트 폰(smart phone), 패드(Pad), 스마트 워치(Smart watch), 웨어러블(wearable) 단말, 기타 이동통신 단말 등일 수 있다.On the other hand, the user terminal 200 in an embodiment of the present invention is an intelligent terminal in which computer support functions such as Internet communication and information search are added to a portable terminal, and by installing a plurality of applications (ie, applications) desired by the user It may be an executable mobile phone, a smart phone, a pad, a smart watch, a wearable terminal, and other mobile communication terminals.

클라우드 서버(100)는 원격 클라우드 서버 시스템으로 공통 신경망 모델(10)을 학습하고 학습된 모델을 사용자 단말에 배포한다.The cloud server 100 learns the common neural network model 10 as a remote cloud server system and distributes the learned model to the user terminal.

이때, 클라우드 서버(100)는 도 2와 같이 통신모듈(110), 메모리(120) 및 프로세서(130)를 포함할 수 있다.In this case, the cloud server 100 may include a communication module 110 , a memory 120 , and a processor 130 as shown in FIG. 2 .

통신모듈(110)은 복수의 사용자 단말(200)과 데이터를 송수신한다. 이러한 통신모듈(110)은 유선 통신 모듈 및 무선 통신 모듈을 모두 포함할 수 있다. 유선 통신 모듈은 전화선 통신 장치, 케이블 홈(MoCA), 이더넷(Ethernet), IEEE1294, 통합 유선 홈 네트워크 및 RS-485 제어 장치로 구현될 수 있다. 또한, 무선 통신 모듈은 WLAN(wireless LAN), Bluetooth, HDR WPAN, UWB, ZigBee, Impulse Radio, 60GHz WPAN, Binary-CDMA, 무선 USB 기술 및 무선 HDMI 기술 등으로 구현될 수 있다.The communication module 110 transmits and receives data to and from the plurality of user terminals 200 . The communication module 110 may include both a wired communication module and a wireless communication module. The wired communication module may be implemented as a telephone line communication device, a cable home (MoCA), Ethernet, IEEE1294, an integrated wired home network, and an RS-485 control device. In addition, the wireless communication module may be implemented by wireless LAN (WLAN), Bluetooth, HDR WPAN, UWB, ZigBee, Impulse Radio, 60GHz WPAN, Binary-CDMA, wireless USB technology, wireless HDMI technology, and the like.

메모리(120)에는 공통 신경망 모델(10)을 학습 및 제공하기 위한 프로그램이 저장되며, 프로세서(130)는 메모리(120)에 저장된 프로그램을 실행시킨다. A program for learning and providing the common neural network model 10 is stored in the memory 120 , and the processor 130 executes the program stored in the memory 120 .

여기에서, 메모리(120)는 전원이 공급되지 않아도 저장된 정보를 계속 유지하는 비휘발성 저장장치 및 휘발성 저장장치를 통칭하는 것이다.Here, the memory 120 collectively refers to a non-volatile storage device and a volatile storage device that continuously maintain stored information even when power is not supplied.

예를 들어, 메모리(120)는 콤팩트 플래시(compact flash; CF) 카드, SD(secure digital) 카드, 메모리 스틱(memory stick), 솔리드 스테이트 드라이브(solid-state drive; SSD) 및 마이크로(micro) SD 카드 등과 같은 낸드 플래시 메모리(NAND flash memory), 하드 디스크 드라이브(hard disk drive; HDD) 등과 같은 마그네틱 컴퓨터 기억 장치 및 CD-ROM, DVD-ROM 등과 같은 광학 디스크 드라이브(optical disc drive) 등을 포함할 수 있다.For example, the memory 120 may include a compact flash (CF) card, a secure digital (SD) card, a memory stick, a solid-state drive (SSD), and a micro SD card. NAND flash memory such as cards, magnetic computer storage devices such as hard disk drives (HDDs), and optical disc drives such as CD-ROMs and DVD-ROMs. can

한편 도 3을 참조하면, 본 발명의 일 실시예에서의 공통 신경망 모델(10)은 워드 신경망 모델(Word Neural Network, 11)과 응답 신경망 모델(Answer Neural Network, 12)을 포함한다.Meanwhile, referring to FIG. 3 , the common neural network model 10 according to an embodiment of the present invention includes a word neural network model 11 and a response neural network model 12 .

워드 신경망 모델(11)은 텍스트 데이터(P1)와 질의 데이터(P2)를 각각 실수 차원의 벡터로 임베딩한다. 이때, 워드 신경망 모델(11)은 단어별 임베딩 벡터 테이블과 문자 및 서브워드 기반의 신경망 모델을 혼합하여 텍스트 데이터(P1) 및 질의 데이터(P2)를 각각 실수 차원의 벡터로 임베딩할 수 있다.The word neural network model 11 embeds text data P1 and query data P2 into real-dimensional vectors, respectively. In this case, the word neural network model 11 may embed the text data P1 and the query data P2 as real-dimensional vectors by mixing the embedding vector table for each word and the character and subword-based neural network models.

여기에서, 텍스트 데이터(P1)는 사용자의 문자, 이메일, SNS 정보와 같은 개인정보 보호가 필요한 데이터를 의미한다. 텍스트 데이터(P1)는 사용자 단말에서 미리 설정된 방법에 따라 수집되어 공통 신경망 모델(10)에 입력될 수 있다.Here, the text data P1 means data requiring personal information protection, such as a user's text, email, and SNS information. The text data P1 may be collected according to a method preset in the user terminal and input to the common neural network model 10 .

또한, 질의 데이터(P2)는 자연어 형태의 사용자의 질의를 의미한다. 이때, 사용자 단말(200)은 키보드 입력이나 마이크 등을 통해 사용자의 질의를 인식할 수 있다.Also, the query data P2 means a user's query in the form of a natural language. In this case, the user terminal 200 may recognize the user's query through a keyboard input or a microphone.

응답 신경망 모델(12)은 워드 신경망 모델(11)에 의해 임베딩된 결과에 따른 텍스트 데이터 벡터 및 질의 데이터 벡터에 기반하여 응답 데이터(P3)와, 그리고 응답 데이터(P3)에 대응되는 근거 데이터(P4)를 추론한다.The response neural network model 12 includes response data P3 based on a text data vector and a query data vector according to the results embedded by the word neural network model 11, and evidence data P4 corresponding to the response data P3. ) is inferred.

이때, 응답 신경망 모델(12)은 MRC 기술로 개발된 다양한 알고리즘, 예를 들어 Bi-Directional Attention Flow, Self-Attention 등의 알고리즘이 적용될 수 있다.In this case, the response neural network model 12 may apply various algorithms developed by MRC technology, for example, algorithms such as Bi-Directional Attention Flow and Self-Attention.

한편, 본 발명의 일 실시예에 상술한 공통 신경망 모델(10)을 SMS 및 이메일에 적용한 실시예는 다음과 같다. Meanwhile, an embodiment in which the above-described common neural network model 10 is applied to SMS and e-mail according to an embodiment of the present invention is as follows.

먼저 SMS 실시예의 경우, 'SMS 목록'이 텍스트 데이터(P1)로 공통 신경망(10)의 입력으로 제공되고, 질의 데이터(P2)로 'A와 만나기로 한 날이 언제지?'라는 질의가 공통 신경망 모델(10)의 입력으로 제공된다.First, in the case of the SMS embodiment, the 'SMS list' is provided as an input to the common neural network 10 as text data P1, and the query 'When is the date of meeting with A' as the query data P2 is returned to the common neural network provided as input to the model 10 .

이에 따라, 공통 신경망 모델(10)은 응답 데이터(P3)로 '금요일'을 출력하고, 응답 데이터(P3)에 대응되는 근거 데이터(P4)로 '(보낸사람 A) 그럼 금요일에 봐요'를 출력한다.Accordingly, the common neural network model 10 outputs 'Friday' as the response data P3, and outputs '(Sender A) See you on Friday' as the evidence data P4 corresponding to the response data P3. do.

이와 같은 응답 데이터(P3)와 근거 데이터(P4)에 대해 사용자 단말(200)은 정답 여부를 'CORRECT/INCORRECT 버튼' 등의 사용자 인터랙션을 통해 수집할 수 있으며, 이는 추후 개인화된 신경망 모델(20)로 업데이트시 사용자 피드백으로 이용된다.With respect to the response data P3 and the evidence data P4, the user terminal 200 can collect the correct answer through user interaction such as 'CORRECT/INCORRECT button', which is later personalized neural network model (20) It is used as user feedback when updating to

또 다른 예로 이메일 실시예의 경우, '이메일 텍스트'가 텍스트 데이터(P1)로 공통 신경망(10)의 입력으로 제공되고, 질의 데이터(P2)로 '오늘 10시 회의 장소가 어디지?'라는 질의가 공통 신경망 모델(10)의 입력으로 제공된다.As another example, in the case of the email embodiment, the 'email text' is provided as the input of the common neural network 10 as text data P1, and the query 'Where is the meeting place at 10 o'clock today?' is common as the query data P2. It is provided as an input to the neural network model 10 .

이에 따라, 공통 신경망 모델(10)은 응답 데이터(P3)로 '7 연구동 462호 회의실'을 출력하고, 응답 데이터(P3)에 대응되는 근거 데이터(P4)로 '회의는 1월 5일(금) 10시에 7 연구동 462호 회의실에서 하도록 하겠습니다'를 출력한다.Accordingly, the common neural network model 10 outputs 'Conference Room No. 462 in Research Building 7' as the response data P3, and the 'Meeting is on January 5 (Friday) as the evidence data P4 corresponding to the response data (P3). ) at 10 o'clock in the 7th Research Building, Room 462 Conference Room,' is printed.

이와 같은 응답 데이터(P3) 및 근거 데이터(P4)에 대한 정답 여부로 'CORRECT/INCORRECT 버튼' 등의 사용자 인터랙션이 수집될 수 있다.User interactions such as a 'CORRECT/INCORRECT button' may be collected based on whether the response data P3 and the evidence data P4 are correct.

이하에서는 클라우드 서버(100)에 의해 상술한 공통 신경망 모델(10)이 학습 및 배포되는 내용을 보다 구체적으로 설명하도록 한다.Hereinafter, the content of learning and distribution of the above-described common neural network model 10 by the cloud server 100 will be described in more detail.

본 발명의 일 실시예는 크게 초기 모델 학습 및 배포 과정, 개인화된 신경망 모델(20) 업데이트 과정 및 공통 신경망 모델(10) 업데이트 및 재배포 과정을 수행한다.An embodiment of the present invention largely performs an initial model training and distribution process, a personalized neural network model 20 update process, and a common neural network model 10 update and redistribution process.

먼저, 클라우드 서버(100)의 프로세서(130)는 메모리(120)에 저장된 프로그램을 실행시킴에 따라, 초기 모델 학습 데이터에 기초하여 공통 신경망 모델(10)을 학습하고, 학습이 완료됨에 따라 공통 신경망 모델(10)을 복수의 사용자 단말(200)로 제공한다.First, as the processor 130 of the cloud server 100 executes the program stored in the memory 120, it learns the common neural network model 10 based on the initial model training data, and as the learning is completed, the common neural network The model 10 is provided to a plurality of user terminals 200 .

이때, 본 발명의 일 실시예에서 초기 모델 학습 데이터는 위키백과나 뉴스에 기반한 MRC(Machine Reading Comprehension) 모델 학습 데이터일 수 있다.In this case, in an embodiment of the present invention, the initial model learning data may be MRC (Machine Reading Comprehension) model learning data based on Wikipedia or news.

공통 신경망 모델(10)이 복수의 사용자 단말(200)로 제공되고 나면, 사용자 단말(200)은 공통 신경망 모델(10)에 기초하여 텍스트 데이터(P1)를 분석하여, 질의 데이터(P2)에 해당하는 응답 데이터(P3) 및 근거 데이터(P4)를 사용자에게 제공할 수 있다.After the common neural network model 10 is provided to the plurality of user terminals 200 , the user terminal 200 analyzes the text data P1 based on the common neural network model 10 and corresponds to the query data P2 . It is possible to provide the user with the response data P3 and the evidence data P4.

이후 사용자 단말(200)은 응답 데이터(P3) 및 근거 데이터(P4)를 제공함에 따라 사용자 피드백을 수신하게 되고, 이러한 피드백 데이터에 기초하여 공통 신경망 모델(10)을 자신의 사용자 단말(200)에 대응되는 개인화된 신경망 모델(personalized Neural Model, 20)로 업데이트 할 수 있다.Thereafter, the user terminal 200 receives user feedback by providing the response data P3 and the evidence data P4, and based on the feedback data, the common neural network model 10 is transmitted to the user terminal 200 of the user terminal 200. It can be updated with a corresponding personalized neural network model (20).

이때, 사용자 단말(200)은 미리 설정된 조건을 만족하는 경우 공통 신경망 모델(10)을 개인화된 신경망 모델(20)로 업데이트할 수 있다.In this case, the user terminal 200 may update the common neural network model 10 to the personalized neural network model 20 when a preset condition is satisfied.

예를 들어, 사용자 단말(200)은 미리 설정된 조건으로 미리 정의된 학습 수량 이상의 사용자 피드백이 누적된 경우, 충전 중이거나 사용자 단말(200)이 사용되지 않는 시간(예를 들어 야간 시간)인 경우 중 하나 이상을 만족하는 경우 상기 업데이트를 수행할 수 있다.For example, when user feedback more than a predefined learning quantity is accumulated under a preset condition, the user terminal 200 is charging or when the user terminal 200 is not in use (eg, at night time) When one or more is satisfied, the update may be performed.

업데이트가 완료됨에 따라 사용자 단말(200)은 업데이트된 개인화된 신경망 모델(20)을 클라우드 서버(100)로 전송한다. 이때, 사용자 단말(200)은 와이파이에 연결되어 있는 경우, 충전 중이거나 사용자 단말(200)이 사용되지 않는 시간인 경우 중 하나 이상을 만족하는 경우 상기 개인화된 신경망 모델(20)을 클라우드 서버(100)로 전송할 수 있다.As the update is completed, the user terminal 200 transmits the updated personalized neural network model 20 to the cloud server 100 . At this time, when one or more of the user terminal 200 is connected to Wi-Fi, charging or when the user terminal 200 is not in use, the personalized neural network model 20 is transferred to the cloud server 100 ) can be transmitted.

클라우드 서버(100)의 프로세서(130)는 통신모듈(110)을 통해 복수의 사용자 단말(200)로부터 미리 설정된 개수 이상의 개인화된 신경망 모델(20)을 수집하면, 수집된 개인화된 신경망 모델(20)에 기초하여 공통 신경망 모델(10)을 업데이트한다.When the processor 130 of the cloud server 100 collects more than a preset number of personalized neural network models 20 from a plurality of user terminals 200 through the communication module 110, the collected personalized neural network models 20 Update the common neural network model 10 based on

이때, 프로세서(130)는 기본적인 업데이트 방법으로 각 사용자 단말(200)에서 사용자가 피드백하여 추가 학습에 사용된 피드백 데이터의 수량과 상기 개인화된 신경망 모델(20)별로 할당된 가중치를 기반으로 평균화하여 공통 신경망 모델(10)을 업데이트할 수 있다. 또한, 상술한 업데이트 방법과 함께 또는 이와 별개로 추가적인 업데이트 방법의 적용도 가능함은 물론이다.In this case, as a basic update method, the processor 130 averages the amount of feedback data used for additional learning by the user feedback from each user terminal 200 and the weight assigned to each individualized neural network model 20 by averaging the common The neural network model 10 may be updated. In addition, it is of course also possible to apply an additional update method together with or separately from the above-described update method.

공통 신경망 모델(10)의 업데이트가 완료되면, 평가용 질의 및 응답 데이터 집합에서의 검증 및 최적화 과정을 거치게 되며, 이러한 과정이 완료됨에 따라 공통 신경망 모델(10)은 새로운 모델로 사용자 단말(200)에 다시 배포되게 된다.When the update of the common neural network model 10 is completed, it undergoes a process of verification and optimization in the query and response data set for evaluation, and as this process is completed, the common neural network model 10 becomes a new model in the user terminal 200 will be redistributed in

참고로, 본 발명의 실시예에 따른 도 1 내지 도 3에 도시된 구성 요소들은 소프트웨어 또는 FPGA(Field Programmable Gate Array) 또는 ASIC(Application Specific Integrated Circuit)와 같은 하드웨어 형태로 구현될 수 있으며, 소정의 역할들을 수행할 수 있다.For reference, the components shown in FIGS. 1 to 3 according to an embodiment of the present invention may be implemented in the form of software or hardware such as a Field Programmable Gate Array (FPGA) or Application Specific Integrated Circuit (ASIC). can perform roles.

그렇지만 '구성 요소들'은 소프트웨어 또는 하드웨어에 한정되는 의미는 아니며, 각 구성 요소는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다.However, 'components' are not limited to software or hardware, and each component may be configured to reside in an addressable storage medium or to reproduce one or more processors.

따라서, 일 예로서 구성 요소는 소프트웨어 구성 요소들, 객체지향 소프트웨어 구성 요소들, 클래스 구성 요소들 및 태스크 구성 요소들과 같은 구성 요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다.Thus, as an example, a component includes components such as software components, object-oriented software components, class components, and task components, and processes, functions, properties, procedures, sub It includes routines, segments of program code, drivers, firmware, microcode, circuits, data, databases, data structures, tables, arrays and variables.

구성 요소들과 해당 구성 요소들 안에서 제공되는 기능은 더 작은 수의 구성 요소들로 결합되거나 추가적인 구성 요소들로 더 분리될 수 있다.Components and functions provided within the components may be combined into a smaller number of components or further divided into additional components.

이하에서는 도 4 내지 도 5를 참조하여 본 발명의 일 실시예에 따른 질의응답 시스템(1)에서의 공통 신경망 모델 제공 방법을 설명하도록 한다.Hereinafter, a method of providing a common neural network model in the question and answer system 1 according to an embodiment of the present invention will be described with reference to FIGS. 4 to 5 .

도 4는 본 발명의 일 실시예에 따른 공통 신경망 모델 제공 방법의 순서도이다. 도 5는 사용자 단말(200)에서 개인화된 신경망 모델(20)을 업데이트하는 과정의 순서도이다.4 is a flowchart of a method for providing a common neural network model according to an embodiment of the present invention. 5 is a flowchart of a process of updating the personalized neural network model 20 in the user terminal 200 .

본 발명의 일 실시예에 따른 공통 신경망 모델 제공 방법은 먼저, 초기 모델 학습 데이터에 기초하여 공통 신경망 모델(10)을 학습한다(S110). 그리고 학습이 완료됨에 따라 공통 신경망 모델(10)을 복수의 사용자 단말(200)로 제공한다(S120).In the method for providing a common neural network model according to an embodiment of the present invention, first, the common neural network model 10 is learned based on initial model training data ( S110 ). And as the learning is completed, the common neural network model 10 is provided to the plurality of user terminals 200 (S120).

이후, 사용자 단말(200)에서는 개인화된 신경망 모델(20)을 업데이트 하는 과정이 수행되는데 이과 관련하여 도 5를 참조하면, 사용자 단말(200)은 질의 데이터(P2)를 입력받으면(S210), 공통 신경망 모델(10)에 기초하여 개인 정보를 포함하는 텍스트 데이터(P1)를 분석하고(S220), 분석 결과에 따른 응답 데이터(P3)와 근거 데이터(P4)를 사용자에게 제공한다(S230).Thereafter, the process of updating the personalized neural network model 20 is performed in the user terminal 200. Referring to FIG. 5 in this regard, when the user terminal 200 receives the query data P2 (S210), the common Based on the neural network model 10, the text data P1 including personal information is analyzed (S220), and response data P3 and evidence data P4 according to the analysis result are provided to the user (S230).

이후 사용자 단말(200)은 응답 데이터(P3)와 근거 데이터(P4)에 대한 사용자 피드백을 수신하고(S240), 피드백 데이터에 기초하여 공통 신경망 모델(10)을 자신의 사용자 단말(200)에 대응하는 개인화된 신경망 모델(20)로 업데이트하며(S250), 업데이트가 완료됨에 따라 개인화된 신경망 모델(20)을 클라우드 서버(100)로 전송한다(S260).Thereafter, the user terminal 200 receives user feedback for the response data P3 and the evidence data P4 ( S240 ), and based on the feedback data, the common neural network model 10 corresponds to the user terminal 200 . is updated to the personalized neural network model 20 (S250), and as the update is completed, the personalized neural network model 20 is transmitted to the cloud server 100 (S260).

다시 도 4를 참조하면, 사용자 단말(200)에서 공통 신경망 모델(10)을 개인화된 신경망 모델(20)로 업데이트함에 따라, 복수의 사용자 단말(200)로부터 업데이트된 개인화된 신경망 모델(20)을 수집한다(S130).Referring back to FIG. 4 , as the user terminal 200 updates the common neural network model 10 with the personalized neural network model 20 , the updated personalized neural network model 20 from a plurality of user terminals 200 is Collect (S130).

그리고 수집된 개인화된 신경망 모델(20)에 기초하여 공통 신경망 모델(10)을 업데이트하고(S140), 업데이트된 공통 신경망 모델(10)을 복수의 사용자 단말(200)로 제공한다(S150).Then, the common neural network model 10 is updated based on the collected personalized neural network model 20 ( S140 ), and the updated common neural network model 10 is provided to the plurality of user terminals 200 ( S150 ).

상술한 설명에서, 단계 S110 내지 S260은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 도 1 내지 도 3에서의 질의응답 시스템 및 클라우드 서버에 관하여 이미 기술된 내용은 도 4 및 도 5의 공통 신경망 모델 제공 방법에도 적용된다. In the above description, steps S110 to S260 may be further divided into additional steps or combined into fewer steps, according to an embodiment of the present invention. In addition, some steps may be omitted if necessary, and the order between the steps may be changed. In addition, even if other contents are omitted, the contents already described with respect to the question answering system and the cloud server in FIGS. 1 to 3 are also applied to the method of providing a common neural network model of FIGS. 4 and 5 .

종래 기술의 경우 딥러닝 기술 적용을 위해서는 실제 사용 환경과 동일한 환경에서의 학습이 필요하지만, 개인정보 보호가 필요한 경우 기존과 같은 중앙 집중 형태의 데이터 수집 및 학습 방식을 적용할 수 없다는 문제가 있었다.In the case of the prior art, in order to apply the deep learning technology, learning in the same environment as the actual use environment is required, but when personal information protection is required, there is a problem that the existing centralized data collection and learning method cannot be applied.

그러나 본 발명의 일 실시예는 각 사용자가 실제 사용하는 데이터 및 환경에서 신경망 모델 학습을 가능하게 함으로써 전술한 문제점을 해소할 수 있는 개인화된 질의응답 시스템(1)을 제공할 수 있다.However, an embodiment of the present invention can provide a personalized question-and-answer system 1 that can solve the above-described problems by enabling neural network model learning in the data and environment actually used by each user.

또한, 개인 정보 데이터가 아닌 신경망 모델의 가중치 데이터를 온라인 상으로 전송함으로써 개인 정보를 보호할 수 있다는 효과가 있다.In addition, there is an effect that personal information can be protected by transmitting the weight data of the neural network model online, not the personal information data.

본 발명의 방법 및 시스템은 특정 실시예와 관련하여 설명되었지만, 그것들의 구성 요소 또는 동작의 일부 또는 전부는 범용 하드웨어 아키텍쳐를 갖는 컴퓨터 시스템을 사용하여 구현될 수 있다.Although the methods and systems of the present invention have been described with reference to specific embodiments, some or all of their components or operations may be implemented using a computer system having a general purpose hardware architecture.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The foregoing description of the present invention is for illustration, and those of ordinary skill in the art to which the present invention pertains can understand that it can be easily modified into other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are illustrative in all respects and not restrictive. For example, each component described as a single type may be implemented in a distributed manner, and likewise components described as distributed may also be implemented in a combined form.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is indicated by the following claims rather than the above detailed description, and all changes or modifications derived from the meaning and scope of the claims and their equivalent concepts should be interpreted as being included in the scope of the present invention. do.

1: 질의응답 시스템
10: 공통 신경망 모델
20: 개인화된 신경망 모델
100: 클라우드 서버
200: 사용자 단말1: Q&A system
10: Common Neural Network Model
20: Personalized Neural Network Models
100: cloud server
200: user terminal

Claims (18)

질의응답 시스템에 있어서,
공통 신경망 모델(Shared Neural Model)에 기초하여 개인 정보를 포함하는 텍스트 데이터를 분석함에 따라, 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 상기 응답 데이터가 출력되는 근거인 근거 데이터를 제공하는 복수의 사용자 단말 및
초기 모델 학습 데이터에 기초하여 상기 공통 신경망 모델을 학습하고, 상기 학습이 완료됨에 따라 상기 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하는 클라우드 서버를 포함하는 질의응답 시스템.In the question and answer system,
As text data including personal information is analyzed based on a shared neural network model, response data corresponding to query data input by a user and evidence data that is a basis for outputting the response data are provided. of user terminals and
and a cloud server for learning the common neural network model based on initial model training data, and providing the common neural network model to the plurality of user terminals as the learning is completed. 제 1 항에 있어서,
상기 초기 모델 학습 데이터는 MRC(Machine Reading Comprehension) 모델 학습 데이터인 것인 질의응답 시스템.The method of claim 1,
The initial model training data is a question-and-answer system that is MRC (Machine Reading Comprehension) model training data. 제 1 항에 있어서,
상기 공통 신경망 모델은 상기 텍스트 데이터 및 질의 데이터를 각각 실수 차원의 벡터로 임베딩하는 워드 신경망 모델과,
상기 임베딩된 결과에 따른 텍스트 데이터 벡터 및 질의 데이터 벡터에 기반하여 응답 데이터 및 상기 응답 데이터에 대응되는 근거 데이터를 추론하는 응답 신경망 모델을 포함하는 것인 질의응답 시스템.The method of claim 1,
The common neural network model includes a word neural network model for embedding the text data and the query data as a vector of real dimensions, respectively;
and a response neural network model for inferring response data and evidence data corresponding to the response data based on a text data vector and a query data vector according to the embedded result. 제 3 항에 있어서,
상기 워드 신경망 모델은 단어별 임베딩 벡터 테이블과 문자 및 서브워드 기반의 신경망 모델을 혼합하여 상기 텍스트 데이터 및 질의 데이터를 각각 실수 차원의 벡터로 임베딩하는 것인 질의응답 시스템.4. The method of claim 3,
The word neural network model is a question-and-answer system that embeds the text data and the query data as real-dimensional vectors, respectively, by mixing an embedding vector table for each word and a character- and subword-based neural network model. 삭제delete 제 1 항에 있어서,
상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자의 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트하는 것인 질의응답 시스템.The method of claim 1,
The user terminal receives the user's feedback as the response data and the supporting data are provided, and updates the common neural network model to a personalized neural network model corresponding to the user terminal based on the fed back data. response system. 제 6 항에 있어서,
상기 사용자 단말은 기 설정된 학습 수량 이상의 피드백 데이터가 누적된 경우 상기 공통 신경망 모델을 상기 개인화된 신경망 모델로 업데이트하는 것인 질의응답 시스템.7. The method of claim 6,
The user terminal is a question-and-answer system that updates the common neural network model to the personalized neural network model when feedback data equal to or greater than a preset learning quantity is accumulated. 제 6 항에 있어서,
상기 사용자 단말은 상기 업데이트된 개인화된 신경망 모델을 상기 클라우드 서버로 전송하고,
상기 클라우드 서버는 상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집하면, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 사용자 단말로 제공하는 것인 질의응답 시스템.7. The method of claim 6,
The user terminal transmits the updated personalized neural network model to the cloud server,
When the cloud server collects more than a preset number of personalized neural network models from the plurality of user terminals, it updates the common neural network model based on the collected personalized neural network models and provides them to the user terminals. . 제 8 항에 있어서,
상기 클라우드 서버는 상기 복수의 사용자 단말에서 각각 학습된 피드백 데이터의 수량과 상기 개인화된 신경망 모델별로 할당된 가중치를 기반으로 평균화하여 상기 공통 신경망 모델을 업데이트하는 것인 질의응답 시스템.9. The method of claim 8,
The cloud server is a Q&A system that updates the common neural network model by averaging based on the quantity of feedback data learned from each of the plurality of user terminals and a weight assigned to each individualized neural network model. 질의응답 시스템에서의 공통 신경망 모델 제공 방법에 있어서,
초기 모델 학습 데이터에 기초하여 공통 신경망 모델을 학습하는 단계;
상기 학습이 완료됨에 따라 상기 공통 신경망 모델을 복수의 사용자 단말로 제공하는 단계;
상기 사용자 단말에서 상기 공통 신경망 모델을 개인화된 신경망 모델로 업데이트함에 따라, 상기 업데이트된 개인화된 신경망 모델을 수집하는 단계;
상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하는 단계 및
상기 업데이트된 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하는 단계를 포함하는 공통 신경망 모델 제공 방법.In a method for providing a common neural network model in a question and answer system,
learning a common neural network model based on the initial model training data;
providing the common neural network model to a plurality of user terminals as the learning is completed;
collecting the updated personalized neural network model as the user terminal updates the common neural network model with a personalized neural network model;
updating the common neural network model based on the collected personalized neural network model; and
and providing the updated common neural network model to the plurality of user terminals. 제 10 항에 있어서,
상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 상기 응답 데이터가 출력되는 근거인 근거 데이터를 사용자에게 제공하는 것인 공통 신경망 모델 제공 방법.11. The method of claim 10,
The user terminal provides, based on the common neural network model, text data including personal information and response data corresponding to the query data input by the user, and evidence data that is a basis for outputting the response data to the user. How to provide a neural network model. 제 11 항에 있어서,
상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자의 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트하는 것인 공통 신경망 모델 제공 방법.12. The method of claim 11,
The user terminal receives the user's feedback as the response data and the supporting data are provided, and updates the common neural network model to a personalized neural network model corresponding to the user terminal based on the fed back data. How to provide a neural network model. 제 12 항에 있어서,
상기 사용자 단말은 기 설정된 학습 수량 이상의 피드백 데이터가 누적된 경우 상기 공통 신경망 모델을 상기 개인화된 신경망 모델로 업데이트하는 것인 공통 신경망 모델 제공 방법.13. The method of claim 12,
The method for providing a common neural network model, wherein the user terminal updates the common neural network model to the personalized neural network model when feedback data equal to or greater than a preset learning quantity is accumulated. 제 12 항에 있어서,
상기 사용자 단말로부터 상기 업데이트된 개인화된 신경망 모델을 수신하는 단계;
상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집한 경우, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하는 단계 및
상기 업데이트된 공통 신경망 모델을 상기 사용자 단말로 제공하는 단계를 더 포함하는 공통 신경망 모델 제공 방법.13. The method of claim 12,
receiving the updated personalized neural network model from the user terminal;
If more than a preset number of personalized neural network models are collected from the plurality of user terminals, updating the common neural network model based on the collected personalized neural network models; and
The method of providing a common neural network model further comprising the step of providing the updated common neural network model to the user terminal. 공통 신경망 모델을 학습 및 제공하는 클라우드 서버에 있어서,
복수의 사용자 단말과 데이터를 송수신하는 통신모듈,
공통 신경망 모델을 학습 및 제공하기 위한 프로그램이 저장된 메모리 및
상기 메모리에 저장된 프로그램을 실행시키는 프로세서를 포함하되,
상기 프로세서는 상기 프로그램을 실행시킴에 따라, 초기 모델 학습 데이터에 기초하여 공통 신경망 모델을 학습하고, 상기 학습된 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하며,
상기 사용자 단말에서 상기 공통 신경망 모델을 개인화된 신경망 모델로 업데이트함에 따라, 상기 업데이트된 개인화된 신경망 모델을 수집하고, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 복수의 사용자 단말로 제공하는 것인 클라우드 서버.In the cloud server for learning and providing a common neural network model,
A communication module for transmitting and receiving data to and from a plurality of user terminals;
a memory in which a program is stored for training and providing a common neural network model; and
Including a processor for executing the program stored in the memory,
As the processor executes the program, it learns a common neural network model based on initial model training data, and provides the learned common neural network model to the plurality of user terminals,
As the user terminal updates the common neural network model with a personalized neural network model, the updated personalized neural network model is collected, and the common neural network model is updated based on the collected personalized neural network model to update the plurality of users. A cloud server that is provided to a terminal. 제 15 항에 있어서,
상기 프로세서는 상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집하면, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 사용자 단말로 제공하는 것인 클라우드 서버.16. The method of claim 15,
When the processor collects more than a preset number of personalized neural network models from the plurality of user terminals, the cloud server updates the common neural network model based on the collected personalized neural network models and provides them to the user terminals. 제 15 항에 있어서,
상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 상기 응답 데이터가 출력되는 근거인 근거 데이터를 사용자에게 제공하는 것인 클라우드 서버.16. The method of claim 15,
Cloud that the user terminal provides the user with text data including personal information and response data corresponding to the query data input by the user based on the common neural network model, and evidence data that is a basis for outputting the response data to the user server. 제 17 항에 있어서,
상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자의 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트하는 것인 클라우드 서버.18. The method of claim 17,
The user terminal receives the user's feedback as the response data and the basis data are provided, and updates the common neural network model to a personalized neural network model corresponding to the user terminal based on the fed back data. server.
KR1020180075840A 2018-01-11 2018-06-29 Personalized question-answering system, cloud server for privacy protection and method for providing shared nueral model thereof KR102441422B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/245,468 US20190213480A1 (en) 2018-01-11 2019-01-11 Personalized question-answering system and cloud server for private information protection and method of providing shared neural model thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180003643 2018-01-11
KR20180003643 2018-01-11

Publications (2)

Publication Number Publication Date
KR20190085823A KR20190085823A (en) 2019-07-19
KR102441422B1 true KR102441422B1 (en) 2022-09-07

Family

ID=67511886

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180075840A KR102441422B1 (en) 2018-01-11 2018-06-29 Personalized question-answering system, cloud server for privacy protection and method for providing shared nueral model thereof

Country Status (1)

Country Link
KR (1) KR102441422B1 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110750998B (en) * 2019-10-14 2023-10-31 腾讯科技（深圳）有限公司 Text output method, device, computer equipment and storage medium
KR20210088162A (en) * 2020-01-06 2021-07-14 삼성전자주식회사 Electronic device and Method for controlling the electronic device thereof
KR102393109B1 (en) * 2020-04-29 2022-05-03 한국전력공사 Big data platform for collaboration among heterogeneous organizations and big data learning method using common learning model
KR102491755B1 (en) * 2020-08-03 2023-01-26 (주)한국플랫폼서비스기술 Deep learning inference system based on query, and method thereof
KR102280489B1 (en) * 2020-11-19 2021-07-22 주식회사 두유비 Conversational intelligence acquisition method for intelligently performing conversation based on training on large-scale pre-trained model
CN117874208B (en) * 2024-03-11 2024-06-07 羚羊工业互联网股份有限公司 Method for realizing large model memory sharing, knowledge question-answering method and related equipment thereof

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102033388B1 (en) * 2014-06-30 2019-10-17 한국전자통신연구원 Apparatus and method for question answering
KR102033435B1 (en) * 2014-11-19 2019-11-11 한국전자통신연구원 System and Method for Question and answer of Natural Language and Paraphrase Module
KR102386863B1 (en) * 2015-09-09 2022-04-13 삼성전자주식회사 User-based language model generating apparatus, method and voice recognition apparatus
US10606846B2 (en) * 2015-10-16 2020-03-31 Baidu Usa Llc Systems and methods for human inspired simple question answering (HISQA)

Also Published As

Publication number Publication date
KR20190085823A (en) 2019-07-19

Similar Documents

Publication Publication Date Title
KR102441422B1 (en) Personalized question-answering system, cloud server for privacy protection and method for providing shared nueral model thereof
CN110832511B (en) System and method for learning on a distributed device with data-dependent availability
CN108076224B (en) Application program control method and device, storage medium and mobile terminal
US20190213480A1 (en) Personalized question-answering system and cloud server for private information protection and method of providing shared neural model thereof
KR101547194B1 (en) Method and application for managing cookie-information
CN107516090A (en) Integrated face identification method and system
CN104396219B (en) The special roaming of user is set
CN103140850B (en) Data sharing in mobile device
CN106293765A (en) A kind of layout updates method and device
CN107111433A (en) Electronic system with Access Management Access mechanism and the method for operating the electronic system
Pulver Hands-on internet of things with MQTT: build connected IoT devices with Arduino and MQ telemetry transport (MQTT)
CN109727013A (en) Message handling program, information processing method and the information processing terminal
CN105824671B (en) Information processing method and electronic equipment
CN109313589A (en) Realize the interaction with external function
EP3005619A1 (en) Application ranking calculating apparatus and usage information collecting apparatus
CN105608940A (en) Interactive customization planned teaching system, and teaching method thereof
CN111177562B (en) Recommendation ordering processing method and device for target object and server
CN105610698B (en) The treating method and apparatus of event result
CN102509477A (en) Hand-held terminal system for child
Dautriche et al. End-user-development for smart homes: relevance and challenges
Vitos et al. Community mapping by non-literate citizen scientists in the rainforest
KR20140046430A (en) Repetitive learning system and providing method thereof
CN104200354B (en) A kind of information processing method and electronic equipment
CN108139900A (en) Transmit the newer information about application
CN110879865A (en) Recommendation method and device for nuclear products

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant