KR20220060300A - 기계 학습 모델 생성 방법 및 장치 - Google Patents

기계 학습 모델 생성 방법 및 장치 Download PDF

Info

Publication number
KR20220060300A
KR20220060300A KR1020200146143A KR20200146143A KR20220060300A KR 20220060300 A KR20220060300 A KR 20220060300A KR 1020200146143 A KR1020200146143 A KR 1020200146143A KR 20200146143 A KR20200146143 A KR 20200146143A KR 20220060300 A KR20220060300 A KR 20220060300A
Authority
KR
South Korea
Prior art keywords
data
machine learning
properties
item
user
Prior art date
Application number
KR1020200146143A
Other languages
English (en)
Other versions
KR102525231B1 (ko
Inventor
김건수
이상혁
정세희
Original Assignee
주식회사 엔씨소프트
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 엔씨소프트 filed Critical 주식회사 엔씨소프트
Priority to KR1020200146143A priority Critical patent/KR102525231B1/ko
Publication of KR20220060300A publication Critical patent/KR20220060300A/ko
Application granted granted Critical
Publication of KR102525231B1 publication Critical patent/KR102525231B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

기계 학습 모델 생성 방법 및 장치가 개시된다. 일 실시예에 따른 기계 학습 모델 생성 방법은, 아이템과 관련된 하나 이상의 아이템 특성, 사용자와 관련된 하나 이상의 사용자 특성 및 상기 아이템과 상기 사용자 사이의 상호 관계와 관련된 하나 이상의 관계 특성을 포함하는 원본 데이터에 대한 전처리를 수행하는 동작; 상기 하나 이상의 아이템 특성, 상기 하나 이상의 사용자 특성 및 상기 하나 이상의 관계 특성을 포함하는 복수의 특성 중 적어도 하나에 기초하여 하나 이상의 신규 특성을 생성하는 동작; 상기 복수의 특성 및 상기 하나 이상의 신규 특성에 기초한 복수의 기계 학습 알고리즘을 수행하여 상이한 복수의 기계 학습 모델을 생성하는 동작; 및 상기 복수의 기계 학습 모델 중 최적 학습 모델을 결정하는 동작을 포함한다.

Description

기계 학습 모델 생성 방법 및 장치{METHOD AND APPARATUS FOR GENERATING MACHINE LEARNING MODEL}
개시되는 실시예들은 기계 학습 기술과 관련된다.
기계 학습(machine learning) 알고리즘을 이용한 모델 생성에 있어서 학습 데이터의 어떤 특성이 학습을 위한 입력 변수로 이용되었는지 따라 생성되는 모델의 성능에 큰 영향을 미치게 된다. 따라서, 학습을 위해 이용되는 데이터를 가공하여 다양한 특성을 생성하는 특성 엔지니어링(feature engineering) 과정은 매우 중요한 모델 성능 향상을 위한 과정이다.
그러나, 일반적으로 특성 엔지니어링을 통한 특성 생성은 데이터의 도메인에 대한 지식을 가진 분석가에 의해 수행되므로, 분석가의 전문성에 큰 영향을 받게 되며 지나치게 많은 시간과 비용을 요구한다는 문제점이 있다.
개시되는 실시예들은 기계 학습 모델 생성 방법 및 장치를 제공하기 위한 것이다.
일 실시예에 따른 기계 학습 모델 생성 방법은, 아이템과 관련된 하나 이상의 아이템 특성, 사용자와 관련된 하나 이상의 사용자 특성 및 상기 아이템과 상기 사용자 사이의 상호 관계와 관련된 하나 이상의 관계 특성을 포함하는 원본 데이터에 대한 전처리를 수행하는 동작; 상기 하나 이상의 아이템 특성, 상기 하나 이상의 사용자 특성 및 상기 하나 이상의 관계 특성을 포함하는 복수의 특성 중 적어도 하나에 기초하여 하나 이상의 신규 특성을 생성하는 동작; 상기 복수의 특성 및 상기 하나 이상의 신규 특성에 기초한 복수의 기계 학습 알고리즘을 수행하여 상이한 복수의 기계 학습 모델을 생성하는 동작; 및 상기 복수의 기계 학습 모델 중 최적 학습 모델을 결정하는 동작을 포함한다.
상기 신규 특성을 생성하는 동작은, 상기 복수의 특성 중 하나 이상의 특성에 대해 데이터 변환, 데이터 치환, 데이터 분할 및 데이터 결합 중 적어도 하나를 수행하여 상기 하나 이상의 신규 특성을 생성할 수 있다.
상기 신규 특성을 생성하는 동작은, 상기 복수의 특성 각각에 대한 변수 타입, 데이터 타입, 값의 종류 및 값의 범위 중 적어도 하나에 기초하여 상기 데이터 변환, 상기 데이터 치환, 상기 데이터 분할 및 상기 데이터 결합 중 적어도 하나를 수행할 수 있다.
상기 신규 특성을 생성하는 동작은, 상기 하나 이상의 사용자 특성 및 상기 하나 이상의 아이템 특성 중 적어도 하나에 대해 상기 하나 이상의 관계 특성에 기초한 통계값 및 확률값 중 적어도 하나를 산출하여 상기 하나 이상의 신규 특성을 생성할 수 있다.
상기 복수의 기계 학습 알고리즘은, 인공 신경망 기반의 기계 학습 알고리즘, 의사 결정 트리(decision tree), 서포트 벡터 머신(SVM, Support Vector Machine), 선형 회귀(Linear Regression), 로지스틱 회귀(Logistic Regression), 랜덤 포레스트(random forest) 및 앙상블 학습(ensemble learning) 중 적어도 하나를 포함할 수 있다.
일 실시예에 따른 기계 학습 모델 생성 장치는, 하나 이상의 명령어를 저장하는 메모리; 및 상기 하나 이상의 명령어를 실행하는 하나 이상의 하드웨어 프로세서를 포함하고, 상기 하나 이상의 하드웨어 프로세서는, 아이템과 관련된 하나 이상의 아이템 특성, 사용자와 관련된 하나 이상의 사용자 특성 및 상기 아이템과 상기 사용자 사이의 상호 관계와 관련된 하나 이상의 관계 특성을 포함하는 원본 데이터에 대한 전처리를 수행하고, 상기 하나 이상의 아이템 특성, 상기 하나 이상의 사용자 특성 및 상기 하나 이상의 관계 특성을 포함하는 복수의 특성 중 적어도 하나에 기초하여 하나 이상의 신규 특성을 생성하고, 상기 복수의 특성 및 상기 하나 이상의 신규 특성에 기초한 복수의 기계 학습 알고리즘을 수행하여 상이한 복수의 기계 학습 모델을 생성하고, 상기 복수의 기계 학습 모델 중 최적 학습 모델을 결정할 수 있다.
상기 하나 이상의 하드웨어 프로세서는, 상기 복수의 특성 중 하나 이상의 특성에 대해 데이터 변환, 데이터 치환, 데이터 분할 및 데이터 결합 중 적어도 하나를 수행하여 상기 하나 이상의 신규 특성을 생성할 수 있다.
상기 하나 이상의 하드웨어 프로세서는, 상기 복수의 특성 각각에 대한 변수 타입, 데이터 타입, 값의 종류 및 값의 범위 중 적어도 하나에 기초하여 상기 데이터 변환, 상기 데이터 치환, 상기 데이터 분할 및 상기 데이터 결합 중 적어도 하나를 수행할 수 있다.
상기 하나 이상의 하드웨어 프로세서는, 상기 하나 이상의 사용자 특성 및 상기 하나 이상의 아이템 특성 중 적어도 하나에 대해 상기 하나 이상의 관계 특성에 기초한 통계값 및 확률값 중 적어도 하나를 산출하여 상기 하나 이상의 신규 특성을 생성할 수 있다.
상기 복수의 기계 학습 알고리즘은, 인공 신경망 기반의 기계 학습 알고리즘, 의사 결정 트리(decision tree), 서포트 벡터 머신(SVM, Support Vector Machine), 선형 회귀(Linear Regression), 로지스틱 회귀(Logistic Regression), 랜덤 포레스트(random forest) 및 앙상블 학습(ensemble learning) 중 적어도 하나를 포함할 수 있다.
개시되는 실시예들에 따르면, 데이터에 포함된 다양한 특성을 이용하여 하나 이상의 신규 특성을 자동으로 생성하고, 생성된 신규 특성을 이용한 복수의 기계 학습 알고리즘을 수행하여 최적의 학습 모델을 결정함으로써, 도메인 지식 없이도 다양한 특성 생성을 자동적으로 생성 가능하며, 이에 따라 기계 학습을 통해 학습 모델 생성을 위한 시간과 비용을 절감할 수 있게 된다.
도 1은 일 실시예에 따른 기계 학습 모델 생성 장치의 블록도이다.
도 2 내지 도 4는 일 실시예에 따른 신규 특성 생성을 설명하기 위한 예시도이다.
도 5는 일 실시예에 따라 특성별 중요도를 시각화하는 일 예를 도시한 도면이다.
도 6은 일 실시예에 따른 기계 학습 모델 생성 방법의 순서도이다.
도 7은 일 실시예에 따른 컴퓨팅 장치를 포함하는 컴퓨팅 환경을 예시하여 설명하기 위한 블록도이다.
이하, 도면을 참조하여 구체적인 실시형태를 설명하기로 한다. 이하의 상세한 설명은 본 명세서에서 기술된 방법, 장치 및/또는 시스템에 대한 포괄적인 이해를 돕기 위해 제공된다. 그러나 이는 예시에 불과하며 본 발명은 이에 제한되지 않는다.
실시예들을 설명함에 있어서, 관련된 공지기술에 대한 구체적인 설명이 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하기로 한다. 그리고, 후술되는 용어들은 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. 상세한 설명에서 사용되는 용어는 단지 실시예들을 기술하기 위한 것이며, 결코 제한적이어서는 안 된다. 명확하게 달리 사용되지 않는 한, 단수 형태의 표현은 복수 형태의 의미를 포함한다. 본 설명에서, "포함" 또는 "구비"와 같은 표현은 어떤 특성들, 숫자들, 단계들, 동작들, 요소들, 이들의 일부 또는 조합을 가리키기 위한 것이며, 기술된 것 이외에 하나 또는 그 이상의 다른 특성, 숫자, 단계, 동작, 요소, 이들의 일부 또는 조합의 존재 또는 가능성을 배제하도록 해석되어서는 안 된다.
도 1은 일 실시예에 따른 기계 학습 모델 생성 장치의 블록도이다.
도 1을 참조하면, 일 실시예에 따른 기계 학습 모델 생성 장치(100)는 전처리부(110), 특성 생성부(120) 및 모델 생성부(130)를 포함한다.
일 실시예에 따르면, 전처리부(110), 특성 생성부(120) 및 모델 생성부(130)는 각각 물리적으로 구분된 하나 이상의 장치를 이용하여 구현되거나, 하나 이상의 하드웨어 프로세서 또는 하나 이상의 하드웨어 프로세서 및 소프트웨어의 결합에 의해 구현될 수 있으며, 도시된 예와 달리 구체적 동작에 있어 명확히 구분되지 않을 수 있다.
전처리부(110)는 하나 이상의 아이템(item) 각각과 관련된 하나 이상의 특성(feature)(이하, 아이템 특성)을 포함하는 아이템 데이터, 아이템에 대한 하나 이상의 사용자 각각과 관련된 하나 이상의 특성(이하, 사용자 특성)을 포함하는 사용자 데이터 및 하나 이상의 아이템과 하나 이상의 사용자 사이의 상호 관계와 관련된 하나 이상의 특성(이하, 관계 특성)을 포함하는 관계 데이터를 포함하는 원본 데이터에 대한 전처리를 수행한다.
일 실시예에 따르면, 아이템은 사용자에게 제공되거나, 사용자들 사이에 거래 내지는 교환되거나, 사용자에 의해 이용되는 유/무형의 상품 내지는 서비스를 의미할 수 있다. 예를 들어, 아이템은 음원 스트리밍 서비스를 통해 사용자에게 제공되는 음원 콘텐츠, 동영상 스트리밍 서비스를 통해 사용자에게 제공되는 동영상 콘텐츠, 온라인 게임에서 사용자의 캐릭터에 의해 이용되는 게임 아이템, 식당에서 판매되는 음식, 의류 매장에서 판매되는 의류, 온라인 중고거래 서비스에서 사용자 사이에 거래되는 물품, 모바일 통화 서비스, 영상 통화 서비스, 특정 서비스를 통해 제공되는 부가 서비스(예를 들어, 모바일 통화 서비스를 통해 제공되는 MMS(Multimedia Messaging Service) 서비스) 등 일 수 있다.
그러나, 아이템은 반드시 상술한 예에 한정되는 것은 아니며, 실시예에 따라 다양하게 변경될 수 있다.
아이템 특성은 아이템과 관련한 다양한 정보를 포함할 수 있다. 예를 들어, 아이템이 음원 콘텐츠인 경우, 아이템 특성은 음원 콘텐츠의 제목, 작곡가, 작사자, 가수, 장르, 가격, 인기순위, 다운로드 횟수 등을 포함할 수 있다.
다른 예로, 아이템이 의류인 경우, 아이템 특성은 의류 식별정보(예를 들어, 상품 코드), 가격, 판매량, 색상, 의류 카테고리, 할인율 등을 포함할 수 있다.
사용자 특성은 예를 들어, 사용자의 성별, 나이, 거주지, 국적, 아이디, 사용자 유형 등과 같이 사용자와 관련된 다양한 정보를 포함할 수 있다.
또한, 관계 특성은 예를 들어, 특정 아이템에 대한 특정 사용자의 구매 여부, 구매 시간, 구매 경로, 재구매 여부, 구매 가격, 구매 횟수, 시청 시간, 평점 등과 같이 아이템과 사용자 사이의 상호 관계에 대한 다양한 정보를 포함할 수 있다.
한편, 아이템 특성, 사용자 특성 및 관계 특성은 반드시 상술한 예에 한정되는 것은 아니며, 상술한 예 외에도 아이템의 종류, 형태, 유통 방식, 이용 방식 등에 따라 다양한 정보를 포함할 수 있다.
한편, 일 실시예에 따르면, 전처리부(110)에 의해 수행되는 원본 데이터에 대한 전처리는 결측값(missing value) 처리 및 이상값(outlier value) 처리 중 적어도 하나를 포함할 수 있다.
구체적으로, 전처리부(110)는 원본 데이터 중 결측값 또는 이상값 존재하는 경우, 사전 설정된 규칙에 따라 결측값 또는 이상값을 다른 값으로 대체할 수 있다.
예를 들어, 전처리부(110)는 변수 타입이 범주형 변수(categorical variable)인 특성에 대한 데이터에 결측값이 존재하는 경우, 사전 설정된 값으로 결측 값을 대체할 수 있다.
다른 예로, 전처리부(110)는 변수 타입이 수치형 변수(numerical variable)인 특성에 대한 데이터에 결측값이 존재하는 경우, 해당 특성에 대한 다른 데이터들의 평균값, 최빈값, 중간값 등으로 결측값을 대체할 수 있다.
특성 생성부(120)는 전처리된 원본 데이터에 기초하여 하나 이상의 신규 특성을 생성한다.
일 실시예에 따르면, 특성 생성부(120)는 전처리된 원본 데이터에 포함된 하나 이상의 아이템 특성, 하나 이상의 사용자 특성 및 하나 이상의 관계 특성을 포함하는 복수의 특성 중 하나 이상의 특성 각각에 대해 데이터 변환, 데이터 치환, 데이터 분할 및 데이터 결합 중 적어도 하나를 수행하여 하나 이상의 신규 특성을 생성할 수 있다. 이때, 특성 생성부(120)는 예를 들어, 텍스트 데이터의 문자 수를 산출하는 length() 함수, 날짜 데이터를 요일을 나타내는 수치 데이터로 변환하는 WEEKDAY() 함수, 날짜 데이터를 월(month)로 변환하는 MONTH() 함수 등과 같이 사전 설정된 다양한 함수들을 이용하여 데이터 변환, 데이터 치환, 데이터 분할 및 데이터 결합 중 적어도 하나를 수행할 수 있다.
구체적으로, 일 실시예에 따르면, 특성 생성부(120)는 전처리된 원본 데이터의 각 특성에 대한 변수 타입(예를 들어, 범주형 변수, 수치형 변수 등), 데이터 타입(텍스트, 정수, 실수, 불리언(Boolean), 날짜, 요일, 시간), 값의 종류, 값의 범위 중 적어도 하나에 기초하여 데이터 변환, 데이터 치환, 데이터 분할 및 데이터 결합 중 적어도 하나를 수행할 수 있다.
예를 들어, 특성 생성부(120)는 변수 타입이 범주형 변수인 특성에 대해 원-핫 인코딩(one-hot encoding), 레이블 인코딩(label encoding), 바이너리 인코딩(binary encoding), 빈도 인코딩(frequency encoding) 중 적어도 하나를 수행하여 하나 이상의 신규 특성을 생성할 수 있다.
다른 예로, 특성 생성부(120)는 변수 타입이 수치형 변수인 특성에 대해 정규화(normalization) 및 표준화(standardization) 중 적어도 하나를 수행하여 하나 이상의 신규 특성을 생성할 수 있다.
또 다른 예로, 특성 생성부(120)는 데이터 타입이 날짜 데이터 또는 시간 데이터인 특성에 대해 수량화(Quantification)을 수행하여 하나 이상의 신규 특성을 생성할 수 있다.
또 다른 예로, 특성 생성부(120)는 데이터 타입이 날짜 데이터인 특성의 데이터를 년(year), 월(month) 및 일(day)로 분할하여 하나 이상의 신규 특성을 생성할 수 있다.
또 다른 예로, 특성 생성부(120)는 변수 타입이 연속형 변수인 특성을 범주형 변수로 변환(예를 들어, 시간을 오전/오후로 변환)하여 하나 이상의 신규 특성을 생성할 수 있다.
또 다른 예로, 특성 생성부(120)는 데이터 타입이 텍스트인 특성에 대해 POS(Part of Speech) 태깅, 워드 임베딩(word embedding)을 이용한 벡터화, 텍스트 길이 추출 등을 수행하여 하나 이상의 신규 특성을 생성할 수 있다.
또 다른 예로, 특성 생성부(120)는 2 이상의 특성에 대한 데이터를 연결(concatenate)하거나, 2 이상의 특성에 대한 데이터 사이의 연산(예를 들어, 곱셈, 덧셈 등)을 수행하여 하나 이상의 신규 특성을 생성할 수 있다.
한편, 일 실시예에 따르면, 특성 생성부(120)는 하나 이상의 사용자 특성 및 하나 이상의 아이템 특성 중 적어도 하나에 대해 하나 이상의 관계 특성에 기초한 통계값 및 확률값 중 적어도 하나를 생성함으로써 하나 이상의 신규 특성을 생성할 수 있다. 이때, 특성 생성부(120)는 AVG() 함수, MAX() 함수, MIN() 함수, SUM() 함수, STD() 함수, COUNT() 함수 등과 같이 사전 설정된 다양한 함수를 이용하여 하나 이상의 신규 특성을 생성할 수 있다.
예를 들어, 특성 생성부(120)는 특정 사용자의 특정 의상 구입 여부를 나타내는 관계 특성에 기초하여, 특정 의상을 구매한 사용자들의 나이 평균 값을 신규 특성으로 생성할 수 있다.
다른 예로, 특성 생성부(120)는 특정 사용자의 특정 의상 구입 여부를 나타내는 관계 특성에 기초하여, 특정 의상에 대한 사용자의 연령대별 구매 확률을 신규 특성으로 생성할 수 있다.
또 다른 예로, 특정 사용자의 특정 동영상 컨텐츠 시청 횟수를 나타내는 관계 특성에 기초하여, 특정 동영상 컨텐츠를 시청한 사용자들의 평균 시청 횟수를 신규 특성으로 생성할 수 있다.
또 다른 예로, 특성 생성부(120)는 특정 사용자의 특정 아이템에 대한 구매 여부를 나타내는 관계 특성에 기초하여, 특정 아이템을 구매한 사용자의 수를 카운트함으로써 하나 이상의 신규 특성을 생성할 수 있다.
한편, 도 2 내지 도 4는 일 실시예에 따른 신규 특성 생성을 설명하기 위한 예시도이다.
도 2 내지 도 4에서는 아이템이 음원 스트리밍 서비스를 통해 제공되는 음원 컨텐츠인 것으로 가정한다.
구체적으로, 도 2는 음원 스트리밍 서비스를 이용하는 사용자들인 "User 1", "User 2" 및 "User 3" 각각의 사용자 특성인 "나이" 특성과 "성별" 특성을 포함하는 사용자 데이터(310), 음원 스트리밍 서비스를 통해 제공되는 음원 컨텐츠인 "M1", "M2" 및 "M3" 각각의 아이템 특성인 "제목" 특성과 "가수" 특성을 포함하는 아이템 데이터(320) 및 각 음원 컨텐츠와 각 사용자 사이의 관계 특성인 "Music ID" 특성, "청취자 ID" 특성 및 "청취 횟수" 특성을 포함하는 관계 데이터(330)를 예시하고 있다.
한편, 특성 생성부(120)는 도 3에 도시된 예와 같이 사용자 데이터(310)에 포함된 사용자 특성 중 "나이" 특성(311)과 관계 데이터(330)에 포함된 관계 특성 중 "청취자 ID" 특성(331)에 기초하여 각 음원 컨텐츠의 청취자 나이에 해당하는 "나이" 특성(332)을 관계 데이터(330)의 신규 특성으로 생성할 수 있다.
또한, 특성 생성부(120)는 도 4에 도시된 예와 같이 관계 데이터(330)에 포함된 "Music ID" 특성(333)과 도 3에서 관계 데이터(330)에 추가된 "나이" 특성(332)에 기초하여, 각 음원 컨텐츠를 청취한 사용자들의 평균 나이에 해당하는 "평균 나이" 특성(321)을 아이템 데이터(320)의 신규 특성으로 생성할 수 있다.
한편, 특성 생성부(120)에 의한 신규 특성 생성 방식은 반드시 상술한 예에 한정되는 것은 아니며, 특성 생성부(120)는 상술한 예 외에도 사전 설정된 다양한 규칙 내지는 함수를 이용하여 하나 이상의 신규 특성을 생성할 수 있다.
모델 생성부(130)는 전처리된 원본 데이터에 대한 복수의 특성 및 특성 생성부(120)에 의해 생성된 하나 이상의 신규 특성에 기초한 복수의 기계 학습 알고리즘을 수행하여 복수의 학습 모델을 생성하고, 생성된 복수의 학습 모델 중 최적 학습 모델을 결정할 수 있다.
일 실시예에 따르면, 복수의 기계 학습 모델은 각각 상이한 기계 학습 알고리즘을 이용하여 학습될 수 있다. 구체적으로, 모델 생성부(130)는 CNN(Convolutional Neural Network), RNN(Recurrent Neural Network) 등과 같은 인공 신경망 기반의 기계 학습 알고리즘, 의사 결정 트리(decision tree), 서포트 벡터 머신(SVM, Support Vector Machine), 선형 회귀(Linear Regression), 로지스틱 회귀(Logistic Regression), 랜덤 포레스트(random forest) 및 앙상블 학습(ensemble learning) 등과 같이 사전 설정된 복수의 기계 학습 알고리즘을 이용하여 복수의 기계 학습 모델을 학습할 수 있다.
한편, 일 실시예에 따르면, 모델 생성부(130)는 복수의 학습 모델이 생성된 경우, 생성된 각 모델의 예측 값의 정확도에 기초하여 최적 학습 모델을 결정할 수 있다.
또한, 일 실시예에 따르면, 모델 생성부(130)는 최적 학습 모델이 결정된 경우, 결정된 최적 학습 모델과 관련된 모델 정보를 사용자에게 제공할 수 있다. 이때, 모델 정보는 예를 들어, 최적 학습 모델의 구조(예를 들어, 신경망 구조), 학습 및 테스트 결과, 예측 성능, 예측 값 생성을 위해 이용된 특성 및 각 특성별 중요도(feature importance) 중 적어도 하나를 포함할 수 있다.
구체적으로, 도 5는 일 실시예에 따라 특성별 중요도를 시각화하는 일 예를 도시한 도면이다.
도 5에 도시된 예와 같이 모델 생성부(130)는 최적 학습 모델의 예측 값 생성을 위해 이용된 각 특성의 중요도를 그래프의 형태로 시각화하여 사용자에게 제공할 수 있다.
이때, 최적 학습 모델이 예를 들어, 의사 결정 트리와 같은 트리 기반 모델인 경우, 특성별 중요도는 예를 들어, 지니 중요도(Gini Importance)일 수 있으나, 특성별 중요도는 최적 학습 모델의 종류에 따라 상이한 방식으로 측정될 수 있다.
도 6은 일 실시예에 따른 기계 학습 모델 생성 방법의 순서도이다.
도 6에 도시된 방법은 예를 들어, 도 1에 도시된 기계 학습 모델 생성 장치(100)에 의해 수행될 수 있다.
도 6을 참조하면, 우선, 기계 학습 모델 생성 장치(100)는 아이템과 관련된 하나 이상의 아이템 특성, 사용자와 관련된 하나 이상의 사용자 특성 및 상기 아이템과 상기 사용자 사이의 상호 관계와 관련된 하나 이상의 관계 특성을 포함하는 원본 데이터에 대한 전처리를 수행한다(610).
이후, 기계 학습 모델 생성 장치(100)는 하나 이상의 아이템 특성, 하나 이상의 사용자 특성 및 하나 이상의 관계 특성 중 적어도 하나에 기초하여 하나 이상의 신규 특성을 생성한다(620).
이후, 기계 학습 모델 생성 장치(100)는 하나 이상의 아이템 특성, 하나 이상의 사용자 특성, 하나 이상의 관계 특성 및 하나 이상의 신규 특성에 기초한 복수의 기계 학습 알고리즘을 수행하여 상이한 복수의 기계 학습 모델을 생성한다(630).
이후, 기계 학습 모델 생성 장치(100)는 복수의 기계 학습 모델 중 최적 학습 모델을 결정한다(640).
한편, 도 6에 도시된 순서도에서 적어도 일부의 단계들은 순서를 바꾸어 수행되거나, 다른 단계와 결합되어 함께 수행되거나, 생략되거나, 세부 단계들로 나뉘어 수행되거나, 도시되지 않은 하나 이상의 단계가 부가되어 수행될 수 있다.
도 7은 일 실시예에 따른 컴퓨팅 장치를 포함하는 컴퓨팅 환경을 예시하여 설명하기 위한 블록도이다.
도시된 실시예에서, 각 컴포넌트들은 이하에 기술된 것 이외에 상이한 기능 및 능력을 가질 수 있고, 이하에 기술된 것 이외에도 추가적인 컴포넌트를 포함할 수 있다.
도시된 컴퓨팅 환경(10)은 컴퓨팅 장치(12)를 포함한다. 일 실시예에서, 컴퓨팅 장치(12)는 도 1에 도시된 기계 학습 모델 생성 장치(100)에 포함되는 하나 이상의 컴포넌트일 수 있다.
컴퓨팅 장치(12)는 적어도 하나의 프로세서(14), 컴퓨터 판독 가능 저장 매체(16) 및 통신 버스(18)를 포함한다. 프로세서(14)는 컴퓨팅 장치(12)로 하여금 앞서 언급된 예시적인 실시예에 따라 동작하도록 할 수 있다. 예컨대, 프로세서(14)는 컴퓨터 판독 가능 저장 매체(16)에 저장된 하나 이상의 프로그램들을 실행할 수 있다. 상기 하나 이상의 프로그램들은 하나 이상의 컴퓨터 실행 가능 명령어를 포함할 수 있으며, 상기 컴퓨터 실행 가능 명령어는 프로세서(14)에 의해 실행되는 경우 컴퓨팅 장치(12)로 하여금 예시적인 실시예에 따른 동작들을 수행하도록 구성될 수 있다.
컴퓨터 판독 가능 저장 매체(16)는 컴퓨터 실행 가능 명령어 내지 프로그램 코드, 프로그램 데이터 및/또는 다른 적합한 형태의 정보를 저장하도록 구성된다. 컴퓨터 판독 가능 저장 매체(16)에 저장된 프로그램(20)은 프로세서(14)에 의해 실행 가능한 명령어의 집합을 포함한다. 일 실시예에서, 컴퓨터 판독 가능 저장 매체(16)는 메모리(랜덤 액세스 메모리와 같은 휘발성 메모리, 비휘발성 메모리, 또는 이들의 적절한 조합), 하나 이상의 자기 디스크 저장 디바이스들, 광학 디스크 저장 디바이스들, 플래시 메모리 디바이스들, 그 밖에 컴퓨팅 장치(12)에 의해 액세스되고 원하는 정보를 저장할 수 있는 다른 형태의 저장 매체, 또는 이들의 적합한 조합일 수 있다.
통신 버스(18)는 프로세서(14), 컴퓨터 판독 가능 저장 매체(16)를 포함하여 컴퓨팅 장치(12)의 다른 다양한 컴포넌트들을 상호 연결한다.
컴퓨팅 장치(12)는 또한 하나 이상의 입출력 장치(24)를 위한 인터페이스를 제공하는 하나 이상의 입출력 인터페이스(22) 및 하나 이상의 네트워크 통신 인터페이스(26)를 포함할 수 있다. 입출력 인터페이스(22) 및 네트워크 통신 인터페이스(26)는 통신 버스(18)에 연결된다. 입출력 장치(24)는 입출력 인터페이스(22)를 통해 컴퓨팅 장치(12)의 다른 컴포넌트들에 연결될 수 있다. 예시적인 입출력 장치(24)는 포인팅 장치(마우스 또는 트랙패드 등), 키보드, 터치 입력 장치(터치패드 또는 터치스크린 등), 음성 또는 소리 입력 장치, 다양한 종류의 센서 장치 및/또는 촬영 장치와 같은 입력 장치, 및/또는 디스플레이 장치, 프린터, 스피커 및/또는 네트워크 카드와 같은 출력 장치를 포함할 수 있다. 예시적인 입출력 장치(24)는 컴퓨팅 장치(12)를 구성하는 일 컴포넌트로서 컴퓨팅 장치(12)의 내부에 포함될 수도 있고, 컴퓨팅 장치(12)와는 구별되는 별개의 장치로 컴퓨팅 장치(12)와 연결될 수도 있다.
이상에서 대표적인 실시예를 통하여 본 발명에 대하여 상세하게 설명하였으나, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 전술한 실시예에 대하여 본 발명의 범주에서 벗어나지 않는 한도 내에서 다양한 변형이 가능함을 이해할 것이다. 그러므로 본 발명의 권리범위는 설명된 실시예에 국한되어 정해져서는 안 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.
10: 컴퓨팅 환경
12: 컴퓨팅 장치
14: 프로세서
16: 컴퓨터 판독 가능 저장 매체
18: 통신 버스
20: 프로그램
22: 입출력 인터페이스
24: 입출력 장치
26: 네트워크 통신 인터페이스
100: 기계 학습 모델 생성 장치
110: 전처리부
120: 특성 생성부
130: 모델 생성부

Claims (10)

  1. 아이템과 관련된 하나 이상의 아이템 특성, 사용자와 관련된 하나 이상의 사용자 특성 및 상기 아이템과 상기 사용자 사이의 상호 관계와 관련된 하나 이상의 관계 특성을 포함하는 원본 데이터에 대한 전처리를 수행하는 동작;
    상기 하나 이상의 아이템 특성, 상기 하나 이상의 사용자 특성 및 상기 하나 이상의 관계 특성을 포함하는 복수의 특성 중 적어도 하나에 기초하여 하나 이상의 신규 특성을 생성하는 동작;
    상기 복수의 특성 및 상기 하나 이상의 신규 특성에 기초한 복수의 기계 학습 알고리즘을 수행하여 상이한 복수의 기계 학습 모델을 생성하는 동작; 및
    상기 복수의 기계 학습 모델 중 최적 학습 모델을 결정하는 동작을 포함하는 기계 학습 모델 생성 방법.
  2. 청구항 1에 있어서,
    상기 신규 특성을 생성하는 동작은, 상기 복수의 특성 중 하나 이상의 특성에 대해 데이터 변환, 데이터 치환, 데이터 분할 및 데이터 결합 중 적어도 하나를 수행하여 상기 하나 이상의 신규 특성을 생성하는 기계 학습 모델 생성 방법.
  3. 청구항 2에 있어서,
    상기 신규 특성을 생성하는 동작은, 상기 복수의 특성 각각에 대한 변수 타입, 데이터 타입, 값의 종류 및 값의 범위 중 적어도 하나에 기초하여 상기 데이터 변환, 상기 데이터 치환, 상기 데이터 분할 및 상기 데이터 결합 중 적어도 하나를 수행하는 기계 학습 모델 생성 방법.
  4. 청구항 1에 있어서,
    상기 신규 특성을 생성하는 동작은, 상기 하나 이상의 사용자 특성 및 상기 하나 이상의 아이템 특성 중 적어도 하나에 대해 상기 하나 이상의 관계 특성에 기초한 통계값 및 확률값 중 적어도 하나를 산출하여 상기 하나 이상의 신규 특성을 생성하는 기계 학습 모델 생성 방법.
  5. 청구항 1에 있어서,
    상기 복수의 기계 학습 알고리즘은, 인공 신경망 기반의 기계 학습 알고리즘, 의사 결정 트리(decision tree), 서포트 벡터 머신(SVM, Support Vector Machine), 선형 회귀(Linear Regression), 로지스틱 회귀(Logistic Regression), 랜덤 포레스트(random forest) 및 앙상블 학습(ensemble learning) 중 적어도 하나를 포함하는 기계 학습 모델 생성 방법.
  6. 하나 이상의 명령어를 저장하는 메모리; 및
    상기 하나 이상의 명령어를 실행하는 하나 이상의 하드웨어 프로세서를 포함하고,
    상기 하나 이상의 하드웨어 프로세서는,
    아이템과 관련된 하나 이상의 아이템 특성, 사용자와 관련된 하나 이상의 사용자 특성 및 상기 아이템과 상기 사용자 사이의 상호 관계와 관련된 하나 이상의 관계 특성을 포함하는 원본 데이터에 대한 전처리를 수행하고,
    상기 하나 이상의 아이템 특성, 상기 하나 이상의 사용자 특성 및 상기 하나 이상의 관계 특성을 포함하는 복수의 특성 중 적어도 하나에 기초하여 하나 이상의 신규 특성을 생성하고,
    상기 복수의 특성 및 상기 하나 이상의 신규 특성에 기초한 복수의 기계 학습 알고리즘을 수행하여 상이한 복수의 기계 학습 모델을 생성하고,
    상기 복수의 기계 학습 모델 중 최적 학습 모델을 결정하는 기계 학습 모델 생성 장치.
  7. 청구항 6에 있어서,
    상기 하나 이상의 하드웨어 프로세서는, 상기 복수의 특성 중 하나 이상의 특성에 대해 데이터 변환, 데이터 치환, 데이터 분할 및 데이터 결합 중 적어도 하나를 수행하여 상기 하나 이상의 신규 특성을 생성하는 기계 학습 모델 생성 장치.
  8. 청구항 7에 있어서,
    상기 하나 이상의 하드웨어 프로세서는, 상기 복수의 특성 각각에 대한 변수 타입, 데이터 타입, 값의 종류 및 값의 범위 중 적어도 하나에 기초하여 상기 데이터 변환, 상기 데이터 치환, 상기 데이터 분할 및 상기 데이터 결합 중 적어도 하나를 수행하는 기계 학습 모델 생성 장치.
  9. 청구항 6에 있어서,
    상기 하나 이상의 하드웨어 프로세서는, 상기 하나 이상의 사용자 특성 및 상기 하나 이상의 아이템 특성 중 적어도 하나에 대해 상기 하나 이상의 관계 특성에 기초한 통계값 및 확률값 중 적어도 하나를 산출하여 상기 하나 이상의 신규 특성을 생성하는 기계 학습 모델 생성 장치.
  10. 청구항 6에 있어서,
    상기 복수의 기계 학습 알고리즘은, 인공 신경망 기반의 기계 학습 알고리즘, 의사 결정 트리(decision tree), 서포트 벡터 머신(SVM, Support Vector Machine), 선형 회귀(Linear Regression), 로지스틱 회귀(Logistic Regression), 랜덤 포레스트(random forest) 및 앙상블 학습(ensemble learning) 중 적어도 하나를 포함하는 기계 학습 모델 생성 장치.
KR1020200146143A 2020-11-04 2020-11-04 기계 학습 모델 생성 방법 및 장치 KR102525231B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200146143A KR102525231B1 (ko) 2020-11-04 2020-11-04 기계 학습 모델 생성 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200146143A KR102525231B1 (ko) 2020-11-04 2020-11-04 기계 학습 모델 생성 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20220060300A true KR20220060300A (ko) 2022-05-11
KR102525231B1 KR102525231B1 (ko) 2023-04-24

Family

ID=81607000

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200146143A KR102525231B1 (ko) 2020-11-04 2020-11-04 기계 학습 모델 생성 방법 및 장치

Country Status (1)

Country Link
KR (1) KR102525231B1 (ko)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060097074A (ko) * 2005-03-02 2006-09-13 삼성전자주식회사 객체의 모양모델 생성장치 및 방법과 이를 이용한 객체의특징점 자동탐색장치 및 방법
KR20200104522A (ko) * 2019-02-27 2020-09-04 상명대학교산학협력단 기계학습기법을 이용한 이기종 시스템 연계 로그데이터를 통한 장애 예측 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060097074A (ko) * 2005-03-02 2006-09-13 삼성전자주식회사 객체의 모양모델 생성장치 및 방법과 이를 이용한 객체의특징점 자동탐색장치 및 방법
KR20200104522A (ko) * 2019-02-27 2020-09-04 상명대학교산학협력단 기계학습기법을 이용한 이기종 시스템 연계 로그데이터를 통한 장애 예측 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"머신러닝에서 특성 생성 자동화를 위한 딥러닝 활용", 한국지능정보시스템학회 학술대회논문집(pp. 70-71), 2019.06.* *

Also Published As

Publication number Publication date
KR102525231B1 (ko) 2023-04-24

Similar Documents

Publication Publication Date Title
US11297151B2 (en) Responsive action prediction based on electronic messages among a system of networked computing devices
CN112785397B (zh) 一种产品推荐方法、装置及存储介质
Vidanagama et al. Deceptive consumer review detection: a survey
WO2022151923A1 (zh) 一种商品文案处理方法、装置、电子设备、介质和程序
CN111292168B (zh) 数据处理方法、装置及设备
US20210383453A1 (en) Generalized enterprise catalog classification for shorthand item descriptors
CN111966886A (zh) 对象推荐方法、对象推荐装置、电子设备及存储介质
CN115147130A (zh) 问题预测方法、设备、存储介质及程序产品
CN113781149A (zh) 信息推荐方法、装置、计算机可读存储介质及电子设备
US20130325651A1 (en) Product recommendation
CN115935185A (zh) 一种推荐模型的训练方法及装置
Rogic et al. Customer value prediction in direct marketing using hybrid support vector machine rule extraction method
Ermakova et al. Commercial sentiment analysis solutions: a comparative study
KR102525231B1 (ko) 기계 학습 모델 생성 방법 및 장치
Park et al. GNN-IR: Examining graph neural networks for influencer recommendations in social media marketing
Wong et al. Optimising e-commerce customer satisfaction with machine learning
Ermakova et al. A Comparison of Commercial Sentiment Analysis Services
Spelta et al. Wasserstein barycenter for link prediction in temporal networks
Kasimu et al. Explainable Sentiment Analysis for Textile Personalized Marketing
CN109074596A (zh) 基于与促销商品相关的过去交互来强调通信
Kotsokechagia Predictive model for customer satisfaction in e-commerce
Li et al. CTR prediction with user behavior: An augmented method of deep factorization machines
KR20200029647A (ko) 사용자 개인화에 의한 큐레이터 전자상거래 시스템의 일반화 방법
Wicaksono et al. Predicting customer intentions in purchasing property units using deep learning
Behnaz et al. A software architecture for enabling statistical learning on big data

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant