KR20200084945A - 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치 및 그 동작 방법 - Google Patents

Abstract

한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치 및 그 동작 방법이 개시된다. 본 발명은 기존 말뭉치 사전에 존재하지 않는 단어들에 대하여 형태소 분석을 정확하게 처리할 수 없었던 한계점을 극복하는데 있어 자소 단위 형태소 분리 및 벡터들의 평균값을 이용해 형태소 분석의 정확도를 높일 수 있도록 지원할 수 있다.

Description

한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치 및 그 동작 방법{MORPHEME ANALYSIS APPARATUS WITH HIGH ACCURACY TO IMPROVE QUALITY OF SEARCH IN KOREAN NATURAL LANGUAGE PROCESSING AND OPERATING METHOD THEREOF}

한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치 및 그 동작 방법에 대한 것이다.

대한민국 등록특허공보 제10-1702055호(2017년 01월 25일, 등록)에 "딥-러닝 기반 형태소 분석 장치와 형태소 분석 애플리케이션의 작동 방법"이 소개되어 있다.

입력 어절로부터 복수의 형태소 후보열들을 생성하는 형태소 후보열 생성 모듈; 형태소 사전을 이용하여 상기 복수의 형태소 후보열들 각각에 포함된 복수의 순차적인 형태소 후보들 각각을 인식하는 형태소 분석 모듈; 인식된 상기 복수의 순차적인 형태소 후보들의 연결 확률을 DNN(Deep Neural Network)을 이용하여 계산하는 연결 확률 계산 모듈; 및 계산된 연결 확률에 기초하여, 상기 복수의 형태소 후보열들 각각의 생성 확률을 계산하고, 계산된 생성 확률이 가장 높은 형태소 후보열을 상기 입력 어절에 대한 형태소 열로 결정하는 형태소 열 결정 모듈을 포함하고, 상기 형태소 분석 모듈은, 코드 할당 규칙을 이용하여 상기 복수의 순차적인 형태소 후보들 각각에 상응하는 각 제1코드를 할당하는 코드 할당 모듈; 할당된 상기 각 제1코드를 이용하여, 상기 형태소 사전에 등록된 복수의 형태소들 중에서 상기 복수의 순차적인 형태소 후보들 각각에 매칭되는 각 형태소를 검색하는 사전 검색 모듈; 검색 결과에 기초하여, 상기 복수의 순차적인 형태소 후보들 각각을 인식하는 형태소 인식 모듈; 및 인식된 복수의 순차적인 형태소 후보들 중 첫 번째 형태소 후보의 품사를 지시하는 제2코드를 상기 첫 번째 형태소 후보에 할당하는 품사 할당 모듈을 포함한다.

그러나, 상기 딥-러닝 기반 형태소 분석 장치와 형태소 분석 애플리케이션의 작동 방법은 자소 단위로 데이터를 이용하는 구성을 개시하고 있지 않아 기존 말뭉치 사전에 존재하지 않는 단어들에 대하여 형태소 분석을 정확하게 처리할 수 없는 한계점이 있다.

대한민국 등록특허공보 제10-0481598호(2005년 03월 29일, 등록)에 "복합 형태소 분석 장치 및 방법"이 소개되어 있다.

한국어 문장의 어절 단위 형태소 분석을 사전에 수행하여 상기 어절 단위 형태소 분석 결과를 저장한 기분석 사전 데이터베이스를 이용하는 한국어 문장의 복합 형태소를 분석하는 방법에 있어서, 문장을 입력받아 정규화하고 상기 기분석 사전 데이터베이스를 이용하여 어절 내 분석 적용여부를 결정하는 전처리 단계와, 상기 전처리 단계에서 어절 내 분석의 적용이 결정된 경우에 어절 내 결합 규칙과 분석 알고리즘을 이용하여 어절 내 형태소 분석을 수행하는 단계와, 띄어쓰기 정보를 사용하여 어절 외 형태소 분석을 수행하는 단계와, 문맥 태깅 데이터와 어휘 태깅 데이터를 사용하여 형태소 태깅을 수행하는 단계를 포함한다.

그러나, 상기 복합 형태소 분석 장치 및 방법은 자소 단위로 분리한 단어의 N-gram과 단어벡터를 결합하는 구성을 개시하고 있지 않아 기존 말뭉치 사전에 존재하지 않는 단어들에 대하여 형태소 분석을 정확하게 처리할 수 없는 단점이 있다.

이에 따라, 자소 단위 형태소 분리 및 벡터들의 평균값을 이용해 형태소 분석의 정확도를 높일 수 있도록 하는 형태소 분석 장치 및 그 동작 방법이 제안된다.

본 발명은 기존 말뭉치 사전에 존재하지 않는 단어들에 대하여 형태소 분석을 정확하게 처리할 수 없었던 한계점을 극복하는데 있어 자소 단위 형태소 분리 및 벡터들의 평균값을 이용해 형태소 분석의 정확도를 높일 수 있도록 지원하고자 한다.

본 발명의 일실시예에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치는 형태소 분석에서 자소 단위로 자소들을 분리하는 자소 분리부, CNN(Convolution Neural Network)을 이용하여 상기 자소 분리부에서 분리된 상기 자소들을 학습시키는 자소 학습부 및 상기 자소 학습부에 의해 학습된 자소들을 기초로 상기 형태소 분석의 효율을 향상시키는 형태소 분석 향상부를 포함한다.

이때, 본 발명의 일실시예에 따르면, 상기 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치는 상기 형태소 분석을 수행할 때, 말뭉치 사전에 없는 단어를 상기 자소 단위로 분리한 후, 분리된 자소들을 벡터들로 변환하여 상기 벡터들의 평균을 연산하는 벡터 평균 연산부를 더 포함할 수 있다.

특히, 본 발명의 일실시예에 따르면, 상기 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치는 상기 자소 단위로 분리한 단어의 N-gram과 단어 임베딩(Word Embedding)을 결합하여 상기 형태소 분석에서의 시계열 데이터(Time Series Data)를 처리하는 시계열 데이터 처리부를 더 포함할 수 있다.

또한, 본 발명의 일실시예에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법은 형태소 분석에서 자소 단위로 자소들을 분리하는 단계, CNN(Convolution Neural Network)을 이용하여 분리된 상기 자소들을 학습시키는 단계 및 학습된 자소들을 기초로 상기 형태소 분석의 효율을 향상시키는 단계를 포함한다.

이때, 본 발명의 일실시예에 따르면, 상기 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법은 상기 형태소 분석을 수행할 때, 말뭉치 사전에 없는 단어를 상기 자소 단위로 분리한 후, 분리된 자소들을 벡터들로 변환하여 상기 벡터들의 평균을 연산하는 단계를 더 포함할 수 있다.

특히, 본 발명의 일실시예에 따르면, 상기 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법은 상기 자소 단위로 분리한 단어의 N-gram과 단어 임베딩(Word Embedding)을 결합하여 상기 형태소 분석에서의 시계열 데이터(Time Series Data)를 처리하는 단계를 더 포함할 수 있다.

본 발명은 기존 말뭉치 사전에 존재하지 않는 단어들에 대하여 형태소 분석을 정확하게 처리할 수 없었던 한계점을 극복하는데 있어 자소 단위 형태소 분리 및 벡터들의 평균값을 이용해 형태소 분석의 정확도를 높일 수 있도록 지원할 수 있다.

도 1은 본 발명의 일실시예에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 구조를 도시한 도면이다.
도 2는 본 발명의 일실시예에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법을 도시한 순서도이다.

이하에서는 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명하기로 한다. 이러한 설명은 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였으며, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 본 명세서 상에서 사용되는 모든 용어들은 본 발명이 속하는 기술분야에서 통상의 지식을 가진 사람에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다.

본 문서에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있다는 것을 의미한다. 또한, 본 발명의 다양한 실시예들에 있어서, 각 구성요소들, 기능 블록들 또는 수단들은 하나 또는 그 이상의 하부 구성요소로 구성될 수 있고, 각 구성요소들이 수행하는 전기, 전자, 기계적 기능들은 전자회로, 집적회로, ASIC(Application Specific Integrated Circuit) 등 공지된 다양한 소자들 또는 기계적 요소들로 구현될 수 있으며, 각각 별개로 구현되거나 2 이상이 하나로 통합되어 구현될 수도 있다.

한편, 첨부된 블록도의 블록들이나 흐름도의 단계들은 범용 컴퓨터, 특수용 컴퓨터, 휴대용 노트북 컴퓨터, 네트워크 컴퓨터 등 데이터 프로세싱이 가능한 장비의 프로세서나 메모리에 탑재되어 지정된 기능들을 수행하는 컴퓨터 프로그램 명령들(instructions)을 의미하는 것으로 해석될 수 있다. 이들 컴퓨터 프로그램 명령들은 컴퓨터 장치에 구비된 메모리 또는 컴퓨터에서 판독 가능한 메모리에 저장될 수 있기 때문에, 블록도의 블록들 또는 흐름도의 단계들에서 설명된 기능들은 이를 수행하는 명령 수단을 내포하는 제조물로 생산될 수도 있다. 아울러, 각 블록 또는 각 단계는 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 명령들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 가능한 실시예들에서는 블록들 또는 단계들에서 언급된 기능들이 정해진 순서와 달리 실행되는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들 또는 단계들은 실질적으로 동시에 수행되거나, 역순으로 수행될 수 있으며, 경우에 따라 일부 블록들 또는 단계들이 생략된 채로 수행될 수도 있다.

도 1은 본 발명의 일실시예에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 구조를 도시한 도면이다.

도 1을 참조하면, 본 발명에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치(110)는 자소 분리부(111), 자소 학습부(112), 형태소 분석 향상부(113)를 포함한다.

자소 분리부(111)는 형태소 분석에서 자소 단위로 자소들을 분리한다.

자소 학습부(112)는 CNN(Convolution Neural Network)을 이용하여 자소 분리부(111)에서 분리된 상기 자소들을 학습시킨다.

여기서, CNN(Convolution Neural Network) 기법 외에 LSTM(Long Short-Term Memory) 기법이 이용될 수도 있다.

형태소 분석 향상부(113)는 자소 학습부(112)에 의해 학습된 자소들을 기초로 상기 형태소 분석의 효율을 향상시킨다.

또한, 본 발명의 일실시예에 따르면, 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치(110)는 벡터 평균 연산부(114)를 더 포함할 수 있다.

벡터 평균 연산부(114)는 상기 형태소 분석을 수행할 때, 말뭉치 사전에 없는 단어를 상기 자소 단위로 분리한 후, 분리된 자소들을 벡터들로 변환하여 상기 벡터들의 평균을 연산한다.

여기서, 말뭉치 사전에 존재하지 않는 단어뿐만 아니라 오타들도 포함될 수 있으며, 상기 연산된 벡터들의 평균을 이용하여 기존의 단어와 유사한 벡터를 구할 수 있다.

또한, 본 발명의 일실시예에 따르면, 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치(110)는 시계열 데이터 처리부(115)를 더 포함할 수 있다.

시계열 데이터 처리부(115)는 상기 자소 단위로 분리한 단어의 N-gram과 단어 임베딩(Word Embedding)을 결합하여 상기 형태소 분석에서의 시계열 데이터(Time Series Data)를 처리한다.

도 2는 본 발명의 일실시예에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법을 도시한 순서도이다.

단계(S210)에서는 형태소 분석에서 자소 단위로 자소들을 분리한다.

단계(S220)에서는 CNN(Convolution Neural Network)을 이용하여 분리된 상기 자소들을 학습시킨다.

단계(S230)에서는 학습된 자소들을 기초로 상기 형태소 분석의 효율을 향상시킨다.

이때, 본 발명의 일실시예에 따르면, 상기 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법은 상기 형태소 분석을 수행할 때, 말뭉치 사전에 없는 단어를 상기 자소 단위로 분리한 후, 분리된 자소들을 벡터들로 변환하여 상기 벡터들의 평균을 연산하는 단계를 더 포함할 수 있다.

이때, 본 발명의 일실시예에 따르면, 상기 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법은 상기 자소 단위로 분리한 단어의 N-gram과 단어 임베딩(Word Embedding)을 결합하여 상기 형태소 분석에서의 시계열 데이터(Time Series Data)를 처리하는 단계를 더 포함할 수 있다.

이상, 도 2를 참조하여 본 발명의 일실시예에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법에 대해 설명하였다. 여기서, 본 발명의 일실시예에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법은 도 1을 이용하여 설명한 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치(110)의 동작에 대한 구성과 대응될 수 있으므로, 이에 대한 보다 상세한 설명은 생략하기로 한다.

본 발명의 일실시예에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법은 컴퓨터와의 결합을 통해 실행시키기 위한 저장매체에 저장된 컴퓨터 프로그램으로 구현될 수 있다.

또한, 본 발명의 일실시예에 따른 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.

이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.

따라서, 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 것들은 본 발명 사상의 범주에 속한다고 할 것이다.

110: 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치
111: 자소 분리부 112: 자소 학습부
113: 형태소 분석 향상부 114: 벡터 평균 연산부
115: 시계열 데이터 처리부

Claims (8)

1. 형태소 분석에서 자소 단위로 자소들을 분리하는 자소 분리부;
   CNN(Convolution Neural Network)을 이용하여 상기 자소 분리부에서 분리된 상기 자소들을 학습시키는 자소 학습부; 및
   상기 자소 학습부에 의해 학습된 자소들을 기초로 상기 형태소 분석의 효율을 향상시키는 형태소 분석 향상부
   를 포함하는 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치.
2. 제1항에 있어서,
   상기 형태소 분석을 수행할 때, 말뭉치 사전에 없는 단어를 상기 자소 단위로 분리한 후, 분리된 자소들을 벡터들로 변환하여 상기 벡터들의 평균을 연산하는 벡터 평균 연산부
   를 더 포함하는 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치.
3. 제2항에 있어서,
   상기 자소 단위로 분리한 단어의 N-gram과 단어 임베딩(Word Embedding)을 결합하여 상기 형태소 분석에서의 시계열 데이터(Time Series Data)를 처리하는 시계열 데이터 처리부
   를 더 포함하는 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치.
4. 형태소 분석에서 자소 단위로 자소들을 분리하는 단계;
   CNN(Convolution Neural Network)을 이용하여 분리된 상기 자소들을 학습시키는 단계; 및
   학습된 자소들을 기초로 상기 형태소 분석의 효율을 향상시키는 단계
   를 포함하는 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법.
5. 제4항에 있어서,
   상기 형태소 분석을 수행할 때, 말뭉치 사전에 없는 단어를 상기 자소 단위로 분리한 후, 분리된 자소들을 벡터들로 변환하여 상기 벡터들의 평균을 연산하는 단계
   를 더 포함하는 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법.
6. 제5항에 있어서,
   상기 자소 단위로 분리한 단어의 N-gram과 단어 임베딩(Word Embedding)을 결합하여 상기 형태소 분석에서의 시계열 데이터(Time Series Data)를 처리하는 단계
   를 더 포함하는 한글 자연어 처리에서 검색의 품질을 향상시키기 위한 정확도 높은 형태소 분석 장치의 동작 방법.
7. 제4항 내지 제6항 중 어느 한 항의 방법을 컴퓨터와의 결합을 통해 실행시키기 위한 컴퓨터 프로그램을 기록한 컴퓨터 판독 가능 기록 매체.
8. 제4항 내지 제6항 중 어느 한 항의 방법을 컴퓨터와의 결합을 통해 실행시키기 위한 저장매체에 저장된 컴퓨터 프로그램.

Images