KR102453207B1 - Grain evaluation methods, devices and storage media - Google Patents

Grain evaluation methods, devices and storage media Download PDF

Info

Publication number
KR102453207B1
KR102453207B1 KR1020217000926A KR20217000926A KR102453207B1 KR 102453207 B1 KR102453207 B1 KR 102453207B1 KR 1020217000926 A KR1020217000926 A KR 1020217000926A KR 20217000926 A KR20217000926 A KR 20217000926A KR 102453207 B1 KR102453207 B1 KR 102453207B1
Authority
KR
South Korea
Prior art keywords
image data
grain
feature
evaluated
enhanced
Prior art date
Application number
KR1020217000926A
Other languages
Korean (ko)
Other versions
KR20210019089A (en
Inventor
비둥 천
Original Assignee
포샨 순더 메이디 일렉트리컬 히팅 어플라이언시스 메뉴팩쳐링 코., 리미티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 포샨 순더 메이디 일렉트리컬 히팅 어플라이언시스 메뉴팩쳐링 코., 리미티드 filed Critical 포샨 순더 메이디 일렉트리컬 히팅 어플라이언시스 메뉴팩쳐링 코., 리미티드
Publication of KR20210019089A publication Critical patent/KR20210019089A/en
Application granted granted Critical
Publication of KR102453207B1 publication Critical patent/KR102453207B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06K9/6267
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

본 출원의 실시예는 곡물 평가 방법을 개시하고, 상기 방법은, 평가될 곡물을 포함하는 제1 이미지 데이터를 획득하는 단계; 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계로서, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타내는, 단계; 및 상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득하는 단계를 포함한다. 본 출원의 실시예는 곡물 평가 장치 및 저장 매체를 더 개시한다.An embodiment of the present application discloses a grain evaluation method, the method comprising: obtaining first image data including grain to be evaluated; obtaining a first identification result based on the first image data and a first identification model, wherein the first identification result indicates a category of the grain to be evaluated; and evaluating the grain to be evaluated according to the first image data and an evaluation strategy corresponding to the category of the grain to be evaluated to obtain an evaluation result. Embodiments of the present application further disclose a grain evaluation apparatus and a storage medium.

Description

곡물 평가 방법, 장치 및 저장 매체Grain evaluation methods, devices and storage media

본 출원은 출원 번호가 201810621682.6이고, 출원일이 2018년 6월 15일인 중국특허 출원에 기반하여 제출한 것이며, 상기 중국특허 출원을 우선권으로 주장하는 바, 상기 중국특허 출원의 모든 내용은 본 출원에 인용된다.This application is filed based on a Chinese patent application with an application number of 201810621682.6 and an application date of June 15, 2018, and claims priority to the Chinese patent application. All contents of the Chinese patent application are incorporated herein by reference. do.

본 출원은 이미지 식별 기술에 관한 것으로서, 특히 곡물 평가 방법, 장치 및 컴퓨터 판독 가능한 저장 매체에 관한 것이다.The present application relates to image identification technology, and more particularly, to a grain evaluation method, apparatus, and computer-readable storage medium.

현재 인공 지능은 매우 광범위한 과학을 포함하는 매우 도전적인 과목으로서, 이는 머신 러닝, 컴퓨터 비전, 생물 과학, 신경 네트워크 과학, 에너지 기술, 유전 공학 등과 같은 상이한 분야에 의해 구성된 것이며, 인공 지능 연구의 주요 목적은 기계가 인류의 지능이 필요한 복잡한 작업을 실행하도록 하는 것이다. 사람들의 생활 품질이 부단히 향상됨에 따라, 일상 생활에 대한 요구도 자연스럽게 향상되었다. 식량은 국민 생활의 근본이고, 매일 밥을 먹어야 하므로, 요리는 매우 중요한 일이 되었으며, 밥솥은 밥을 할 수 있으되, 상이한 기능, 상이한 가격의 요리 기기에 의해 만들어진 밥의 식감도 상이하므로, 요리 기기에 대해 곡물 요리 효과를 수정하는 요구를 제의하는 바이다. 그러나 요리 기기를 최적화하기 전, 먼저 어떠한 쌀밥이 대다수 사용자의 음식 습관에 부합되는 지를 알아야 하므로, 곡물의 품질과 식감을 평가 가능한 방법이 필요하다.Currently, artificial intelligence is a very challenging subject that encompasses a very wide range of sciences, composed by different disciplines such as machine learning, computer vision, biological sciences, neural network science, energy technology, genetic engineering, etc., the main purpose of artificial intelligence research is to get machines to perform complex tasks that require human intelligence. As people's quality of life is constantly improving, the demands for daily life have also naturally improved. Food is the basis of people's life, and we have to eat rice every day, so cooking has become a very important job, and the rice cooker can cook, but the texture of the rice made by the cooking devices with different functions and different prices is also different. We propose a request to modify the effect of grain cooking for However, before optimizing a cooking device, it is necessary to know which type of rice is suitable for most users' food habits, so a method capable of evaluating the quality and texture of grains is needed.

종래 기술에서 존재하는 기술적 문제를 해결하기 위해, 본 출원의 실시예는 곡물 평가 방법, 장치 및 컴퓨터 판독 가능한 저장 매체를 제공한다.In order to solve the technical problems existing in the prior art, an embodiment of the present application provides a grain evaluation method, an apparatus, and a computer-readable storage medium.

본 출원의 기술방안은 아래와 같이 구현된다.The technical solution of the present application is implemented as follows.

본 출원의 실시예는 곡물 평가 방법을 제공하고, 상기 방법은,An embodiment of the present application provides a grain evaluation method, the method comprising:

평가될 곡물을 포함하는 제1 이미지 데이터를 획득하는 단계;acquiring first image data including grains to be evaluated;

상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계로서, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타내는, 단계; 및obtaining a first identification result based on the first image data and a first identification model, wherein the first identification result indicates a category of the grain to be evaluated; and

상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득하는 단계를 포함한다.and evaluating the grain to be evaluated according to the first image data and an evaluation strategy corresponding to the category of the grain to be evaluated, and obtaining an evaluation result.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 방법은, 상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계를 더 포함하고;In one selectable embodiment of the present application, the method further comprises: performing feature enhancement processing on the first image data to obtain feature enhanced image data corresponding to the first image data, ;

상응하게, 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계는, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계를 포함한다.Correspondingly, the step of obtaining the first identification result based on the first image data and the first identification model may include: the first identification result based on the feature-enhanced image data corresponding to the first image data and the first identification model comprising the steps of obtaining

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계는, In one selectable embodiment of the present application, performing feature enhancement processing on the first image data to obtain feature enhanced image data corresponding to the first image data includes:

상기 제1 이미지 데이터를 그레이 스케일 이미지로 변환시켜, 상기 그레이 스케일 이미지에 대해 명암비 강화 처리를 수행하여, 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터를 획득하는 단계; 상기 제1 이미지 데이터에 대해 에지 검출을 수행하여, 에지 검출 이미지 데이터를 획득하는 단계; 및converting the first image data into a gray scale image and performing contrast enhancement processing on the gray scale image to obtain contrast enhancement image data of the first image data; performing edge detection on the first image data to obtain edge detection image data; and

상기 제1 이미지 데이터의 명암비 강화 이미지 데이터 및 상기 에지 검출 이미지 데이터에 기반하여 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계를 포함한다.and acquiring feature-enhanced image data corresponding to the first image data based on the contrast-enhanced image data of the first image data and the edge detection image data.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 방법은,In one selectable embodiment of the present application, the method comprises:

복수 개의 제2 이미지 정보를 획득하는 단계로서, 상기 제2 이미지 정보는 제2 이미지 데이터 및 대응되는 라벨 데이터를 포함하고; 상기 라벨 데이터는 곡물이 속하는 카테고리를 나타내는, 단계;obtaining a plurality of second image information, wherein the second image information includes second image data and corresponding label data; wherein the label data indicates a category to which the grain belongs;

상기 제2 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계;performing feature enhancement processing on the second image data to obtain feature enhancement image data corresponding to the second image data;

상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 데이터 강화 처리를 수행하여, 데이터 강화 이미지 데이터를 획득하는 단계; 및performing data enhancement processing on the feature-enhanced image data corresponding to the second image data to obtain data-enhanced image data; and

상기 특징 강화 이미지 데이터 및 상기 데이터 강화 이미지 데이터 중 적어도 하나 및 대응되는 라벨 데이터에 기반하여 러닝 훈련을 수행하여, 상기 제1 식별 모델을 획득하는 단계를 더 포함한다.The method further includes: performing learning training based on at least one of the feature-enhanced image data and the data-enhanced image data and corresponding label data to obtain the first identification model.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 데이터 강화 처리를 수행하여, 데이터 강화 이미지 데이터를 획득하는 단계는,In one selectable embodiment of the present application, performing data enhancement processing on the feature-enhanced image data corresponding to the second image data to obtain data-enhanced image data,

상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 회전 및 플립 중 적어도 하나를 수행하여, 상기 특징 강화 이미지 데이터에 대응되는 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나를 획득하고, 상기 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나에 기반하여 데이터 강화 이미지 데이터를 생성하는 단계를 포함한다.At least one of rotation and flip is performed on the feature-enhanced image data corresponding to the second image data to obtain at least one of flip image data and rotation image data corresponding to the feature-enhanced image data, and the flip image data and generating data-enhanced image data based on at least one of the rotation image data.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하는 단계는,In one selectable embodiment of the present application, the evaluating the grain to be evaluated according to the evaluation strategy corresponding to the first image data and the category of the grain to be evaluated comprises:

상기 평가될 곡물의 카테고리에 따라 대응되는 평가 전략을 획득하는 단계; 및obtaining a corresponding evaluation strategy according to the category of the grain to be evaluated; and

상기 평가 전략 및 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 따라 상기 평가될 곡물을 평가하는 단계를 포함한다.and evaluating the grain to be evaluated according to the evaluation strategy and feature-enhanced image data corresponding to the first image data.

본 출원의 실시예는 곡물 평가 장치를 더 제공하고, 상기 장치는 획득 모듈 및 처리 모듈을 포함하며; 여기서, An embodiment of the present application further provides a grain appraisal device, the device comprising an acquiring module and a processing module; here,

상기 획득 모듈은, 평가될 곡물을 포함하는 제1 이미지 데이터를 획득하도록 구성되고;the acquiring module is configured to acquire first image data including the grain to be evaluated;

상기 처리 모듈은, 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하-며, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타내고;the processing module obtains a first identification result based on the first image data and a first identification model, wherein the first identification result indicates a category of the grain to be evaluated;

상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득하도록 구성된다.and evaluate the grain to be evaluated according to the first image data and an evaluation strategy corresponding to the category of the grain to be evaluated, to obtain an evaluation result.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 처리 모듈은 또한, 상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하고; 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하도록 구성된다.In one selectable embodiment of the present application, the processing module is further configured to: perform feature enhancement processing on the first image data to obtain feature enhancement image data corresponding to the first image data; and obtain a first identification result based on the feature-enhanced image data corresponding to the first image data and a first identification model.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 처리 모듈은, 상기 제1 이미지 데이터를 그레이 스케일 이미지로 변환시켜, 상기 그레이 스케일 이미지에 대해 명암비 강화 처리를 수행하여, 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터를 획득하고; 상기 제1 이미지 데이터에 대해 에지 검출을 수행하여, 에지 검출 이미지 데이터를 획득하며; 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터 및 상기 에지 검출 이미지 데이터에 기반하여 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하도록 구성된다.In one selectable embodiment of the present application, the processing module converts the first image data into a gray-scale image, performs contrast enhancement processing on the gray-scale image, and provides a contrast ratio of the first image data. acquire enhanced image data; performing edge detection on the first image data to obtain edge detection image data; and acquire feature-enhanced image data corresponding to the first image data based on the contrast-enhanced image data of the first image data and the edge detection image data.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 처리 모듈은 또한, 복수 개의 제2 이미지 정보를 획득하고, 상기 제2 이미지 정보는 제2 이미지 데이터 및 대응되는 라벨 데이터를 포함하고; 상기 라벨 데이터는 곡물이 속하는 카테고리를 나타내고; 상기 제2 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하며; 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 데이터 강화 처리를 수행하여, 데이터 강화 이미지 데이터를 획득하며; 상기 특징 강화 이미지 데이터 및 상기 데이터 강화 이미지 데이터 중 적어도 하나 및 대응되는 라벨 데이터에 기반하여 러닝 훈련을 수행하여, 상기 제1 식별 모델을 획득하도록 구성된다.In one selectable embodiment of the present application, the processing module is further configured to obtain a plurality of second image information, the second image information including the second image data and corresponding label data; the label data indicates the category to which the grain belongs; performing feature enhancement processing on the second image data to obtain feature enhancement image data corresponding to the second image data; performing data enhancement processing on the feature-enhanced image data corresponding to the second image data to obtain data-enhanced image data; and perform learning training based on at least one of the feature-enhanced image data and the data-enhanced image data and corresponding label data to obtain the first identification model.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 처리 모듈은, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 회전 및 플립 중 적어도 하나를 수행하여, 상기 특징 강화 이미지 데이터에 대응되는 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나를 획득하고, 상기 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나에 기반하여 데이터 강화 이미지 데이터를 생성하도록 구성된다.In one selectable embodiment of the present application, the processing module performs at least one of rotation and flip on the feature-enhanced image data corresponding to the second image data to flip the feature-enhanced image data corresponding to the feature-enhanced image data. and acquire at least one of image data and rotation image data, and generate data-enhanced image data based on at least one of the flip image data and rotation image data.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 처리 모듈은, 상기 평가될 곡물의 카테고리에 따라 대응되는 평가 전략을 획득하고; 상기 평가 전략 및 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 따라 상기 평가될 곡물을 평가하도록 구성된다.In one selectable embodiment of the present application, the processing module is configured to: obtain a corresponding evaluation strategy according to the category of the grain to be evaluated; and evaluate the grain to be evaluated according to the evaluation strategy and feature-enhanced image data corresponding to the first image data.

본 출원의 실시예는 곡물 평가 장치를 더 제공하고, 상기 장치는 프로세서 및 프로세서에서 작동 가능한 컴퓨터 프로그램을 저장하기 위한 메모리를 포함하고; 여기서, 상기 프로세서는 상기 컴퓨터 프로그램을 작동할 경우, 상기 어느 하나에 따른 상기 곡물 평가 방법의 단계를 실행하기 위한 것이다.An embodiment of the present application further provides a grain appraisal apparatus, the apparatus comprising a processor and a memory for storing a computer program operable in the processor; Here, the processor is for executing the step of the grain evaluation method according to any one of the above when operating the computer program.

본 출원의 실시예는 컴퓨터 프로그램이 저장되어 있는 컴퓨터 판독 가능한 저장 매체를 더 제공하고, 상기 컴퓨터 프로그램이 프로세서에 의해 실행될 경우 어느 하나에 따른 곡물 평가 방법의 단계를 구현한다.An embodiment of the present application further provides a computer-readable storage medium in which a computer program is stored, and when the computer program is executed by a processor, the steps of the grain evaluation method according to any one are implemented.

본 출원의 실시예에서 제공한 곡물 평가 방법, 장치, 컴퓨터 판독 가능한 저장 매체는, 평가될 곡물을 포함하는 제1 이미지 데이터를 획득하고; 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하며, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타내며; 상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득한다. 본 출원의 실시예의 방안에 있어서, 곡물의 이미지를 수집하고 특징 강화 처리를 수행하며, 특징 강화 처리된 이미지에 따라 곡물을 정확하게 식별하며, 곡물 식별 결과 및 강화 처리된 이미지에 따라 평가하여, 상기 곡물의 평가 결과를 획득하며, 상기 평가 결과는 곡물의 품질 및 식감을 반영함으로써, 평가 결과에 따라 요리 기기의 요리 곡선을 수정할 수 있어, 사용자를 위해 식감이 더욱 좋은 곡물을 요리한다.The grain evaluation method, apparatus, and computer-readable storage medium provided in the embodiments of the present application include: acquiring first image data including grains to be evaluated; obtain a first identification result based on the first image data and a first identification model, wherein the first identification result indicates the category of the grain to be evaluated; The grain to be evaluated is evaluated according to the first image data and an evaluation strategy corresponding to the category of the grain to be evaluated, and an evaluation result is obtained. In the method of the embodiment of the present application, an image of a grain is collected, a feature enhancement process is performed, the grain is accurately identified according to the feature-enhanced image, and evaluated according to the grain identification result and the enhanced image, and the grain obtain an evaluation result of , and the evaluation result reflects the quality and texture of the grain, so that the cooking curve of the cooking appliance can be modified according to the evaluation result, thereby cooking grains with better texture for the user.

도 1은 본 출원의 실시예에서 제공한 곡물 평가 방법의 흐름 예시도이다.
도 2는 본 출원의 실시예에서 제공한 다른 곡물 평가 방법의 흐름 예시도이다.
도 3은 본 출원의 실시예에서 제공한 곡물 평가 장치의 구조 예시도이다.
도 4는 본 출원의 실시예에서 제공한 다른 곡물 평가 장치의 구조 예시도이다.
1 is a flowchart illustrating a grain evaluation method provided in an embodiment of the present application.
Figure 2 is a flow diagram of another grain evaluation method provided in the embodiment of the present application.
Figure 3 is a structural exemplary diagram of the grain evaluation device provided in the embodiment of the present application.
Figure 4 is an exemplary structural diagram of another grain evaluation device provided in the embodiment of the present application.

본 출원의 다양한 실시예에 있어서, 평가될 곡물을 포함하는 제1 이미지 데이터를 획득하고; 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하며, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타내며; 상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득한다.In various embodiments of the present application, first image data including grain to be evaluated is obtained; obtain a first identification result based on the first image data and a first identification model, wherein the first identification result indicates the category of the grain to be evaluated; The grain to be evaluated is evaluated according to the first image data and an evaluation strategy corresponding to the category of the grain to be evaluated, and an evaluation result is obtained.

아래에 실시예를 결합하여 본 출원을 추가적으로 상세하게 설명한다.The present application will be further described in detail by combining examples below.

도 1은 본 출원의 실시예에서 제공한 곡물 평가 방법의 흐름 예시도이고; 도 1에 도시된 바와 같이, 상기 방법은 아래와 같은 단계를 포함한다.1 is a flowchart illustrating a grain evaluation method provided in an embodiment of the present application; As shown in FIG. 1 , the method includes the following steps.

단계 101에 있어서, 평가될 곡물을 포함하는 제1 이미지 데이터를 획득한다.In step 101, first image data including grains to be evaluated is obtained.

단계 102에 있어서, 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하고, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타낸다.In step 102, a first identification result is obtained based on the first image data and a first identification model, wherein the first identification result indicates the category of the grain to be evaluated.

단계 103에 있어서, 상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득한다.In step 103, the grain to be evaluated is evaluated according to the first image data and an evaluation strategy corresponding to the category of the grain to be evaluated, and an evaluation result is obtained.

본 실시예에 있어서, 상기 제1 이미지 데이터는 평가될 곡물을 포함하고, 상기 평가될 곡물은 예를 들어 입쌀, 좁쌀 등이다.In the present embodiment, the first image data includes grains to be evaluated, and the grains to be evaluated are, for example, millet, millet, and the like.

상기 곡물 평가 방법은 기기에 적용될 수 있고; 첫 번째 실시형태로서, 상기 기기는 요리 기기일 수 있으며, 요리 기기에는 이미지 수집 컴포넌트(예를 들어 카메라)가 설치되며, 이미지 수집 컴포넌트를 통해 이미지 데이터를 수집하고, 수집된 이미지 데이터에 대해 분석 식별을 수행하여, 평가될 곡물이 속하는 카테고리를 결정하며; 두 번째 실시형태로서, 기기는 요리 기기일 수 있고, 상기 요리 기기는 이미지 수집 기능을 구비하지 않으며, 요리 기기는 이미지 수집 컴포넌트를 구비하는 다른 기기와 통신할 수 있으며, 다른 기기의 이미지 수집 컴포넌트를 통해 이미지 데이터를 수집하고, 요리 기기는 상기 다른 기기와의 통신 링크를 통해 상기 다른 기기에 의해 수집된 이미지 데이터를 획득하며, 수집된 이미지 데이터에 대해 분석 식별을 수행하여, 평가될 곡물이 속하는 카테고리를 결정하며; 세 번째 실시형태로서, 기기는 전자 기기일 수 있고, 상기 전자 기기는 모바일 기기일 수 있으며, 예를 들어 핸드폰, 태블릿 컴퓨터 등 기기이며, 전자 기기를 통해 이미지 데이터를 수집하고, 수집된 이미지 데이터에 대해 분석 식별을 수행하여, 평가될 곡물이 속하는 카테고리를 결정한다. 실제 응용에 있어서, 상기 요리 기기는 전기 밥솥, 압력 밥솥 등 주방 가열 기기일 수 있다.The above grain evaluation method can be applied to the machine; In a first embodiment, the device may be a cooking device, and an image collection component (eg, a camera) is installed in the cooking device, collects image data through the image collection component, and analyzes and identifies the collected image data to determine the category to which the grain to be evaluated belongs; As a second embodiment, the appliance may be a cooking appliance, wherein the cooking appliance does not have an image collection function, and the cooking appliance may communicate with another appliance having an image collection component, and use the image collection component of the other appliance. collect image data through, the cooking appliance acquires image data collected by the other appliance through a communication link with the other appliance, and performs analysis and identification on the collected image data, to which category the grain to be evaluated belongs to determine; As a third embodiment, the device may be an electronic device, and the electronic device may be a mobile device, for example, a mobile phone, a tablet computer, etc., collect image data through the electronic device, and An analytic identification is performed on the subject to determine the category to which the grain to be evaluated belongs. In practical applications, the cooking appliance may be a kitchen heating appliance such as an electric rice cooker or a pressure cooker.

본 실시예에 있어서, 상기 곡물 평가 방법은, 상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계를 더 포함하고; 이에 상응하게, 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계는, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계를 포함한다.In this embodiment, the grain evaluation method further includes: performing feature enhancement processing on the first image data to obtain feature enhanced image data corresponding to the first image data; Correspondingly, the step of obtaining a first identification result based on the first image data and the first identification model may include first identification based on the feature-enhanced image data corresponding to the first image data and the first identification model. obtaining a result.

본 실시예에 있어서, 다른 물체 식별 작업과 상이하게, 곡물의 이미지 데이터의 컬러 공간이 특수한 것을 고려하여, 처리되어 획득된 이미지 데이터는 대체적으로 컬러 정보가 존재하지 않으며, 즉, 제1 이미지 데이터가 그레이 스케일 이미지로 변환된 후, 곡물의 형태 특징이 선명한 것도 아니고, 분류 효과가 좋지 않으므로, 본 출원의 실시예에서 상기 제1 이미지 데이터가 변환된 그레이 스케일 이미지에 대해 특징 강화를 수행하며, 주로 상기 그레이 스케일 이미지의 명암비에 대해 강화 처리를 수행한다. 상기 명암비는 이미지 데이터에서의 가장 밝은 픽셀 포인트 및 가장 어두운 픽셀 포인트 사이의 상이한 휘도 레벨의 측정을 나타내고, 차이 범위가 클수록 명암비가 더욱 큰 것을 나타내며, 차이 범위가 작을수록 명암비가 더욱 작은 것을 나타낸다. 여기서, 명암비 강화 알고리즘을 사용하여, 이미지 데이터의 명암비를 강화시킬 수 있으며, 특히 이미지 데이터의 유용한 데이터의 명암비가 매우 접근할 경우, 상이한 쌀알 사이의 구별을 더욱 분명하게 하여, 상이한 쌀알의 투광 정도를 반영할 수 있다. 상기 명암비 강화 알고리즘은 선형 변환 알고리즘, 지수 변화 알고리즘, 로그 변화 알고리즘, 히스토그램 알고리즘 등 중 적어도 하나를 포함하지만 이에 한정되지 않는다.In this embodiment, different from other object identification tasks, taking into account that the color space of the image data of grain is special, the processed and obtained image data generally has no color information, that is, the first image data After being converted to a gray scale image, the shape characteristics of the grain are not clear and the classification effect is not good, so in the embodiment of the present application, feature enhancement is performed on the gray scale image in which the first image data is converted, mainly the Enhancement processing is performed on the contrast ratio of the gray scale image. The contrast ratio represents the measurement of different luminance levels between the brightest and darkest pixel points in the image data, a larger difference range indicates a greater contrast ratio, and a smaller difference range indicates a smaller contrast ratio. Here, by using the contrast enhancement algorithm, the contrast ratio of the image data can be enhanced, and in particular, when the contrast ratio of useful data of the image data is very close, the distinction between different grains of rice can be made clearer, so that the degree of light transmission of different grains of rice can be improved. can reflect The contrast enhancement algorithm includes, but is not limited to, at least one of a linear transformation algorithm, an exponential change algorithm, a log change algorithm, and a histogram algorithm.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계는, 상기 제1 이미지 데이터를 그레이 스케일 이미지로 변환시켜, 상기 그레이 스케일 이미지에 대해 명암비 강화 처리를 수행하여, 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터를 획득하는 단계; 상기 제1 이미지 데이터에 대해 에지 검출을 수행하여, 에지 검출 이미지 데이터를 획득하는 단계; 및 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터 및 상기 에지 검출 이미지 데이터에 기반하여 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계를 포함한다.In one selectable embodiment of the present application, the step of performing feature enhancement processing on the first image data to obtain feature enhanced image data corresponding to the first image data includes: converting to a gray scale image and performing contrast enhancement processing on the gray scale image to obtain contrast enhancement image data of the first image data; performing edge detection on the first image data to obtain edge detection image data; and obtaining feature-enhanced image data corresponding to the first image data based on the contrast-enhanced image data of the first image data and the edge detection image data.

본 실시예에 있어서, 에지 검출을 통해, 곡물의 윤곽 정보를 더욱 잘 획득할 수 있어, 상이한 쌀알 사이의 구별이 더욱 분명하게 하여, 상이한 쌀알의 투광 정도를 반영할 수 있다. 사용된 에지 검출 알고리즘은 Roberts 에지 검출 알고리즘, 소벨(Sobel) 에지 검출 알고리즘, Prewitt 에지 검출 알고리즘, Canny 에지 검출 알고리즘, Laplacian 에지 검출 알고리즘, Log 에지 검출 알고리즘 및 2 진 방향성 도함수 등 연산자 검출 방법 중 적어도 하나를 포함하지만 이에 한정되지 않는다.In this embodiment, through edge detection, grain contour information can be better obtained, so that the distinction between different grains of rice can be made clearer, reflecting the light transmission degree of different grains of rice. The edge detection algorithm used is at least one of operator detection methods such as Roberts edge detection algorithm, Sobel edge detection algorithm, Prewitt edge detection algorithm, Canny edge detection algorithm, Laplacian edge detection algorithm, Log edge detection algorithm and binary directional derivative. including, but not limited to.

본 실시예에 있어서, 요리 기기의 제조 업체는 러닝 훈련의 방법을 미리 응용하여 상기 제1 식별 모델을 획득하고 이를 기기에 저장한다.In this embodiment, the manufacturer of the cooking appliance acquires the first identification model by applying the method of running training in advance and stores it in the device.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 곡물 평가 방법은 또한, 러닝 훈련의 방법을 통해 제1 식별 모델을 획득하는 단계를 더 포함할 수 있고, 상기 제1 식별 모델의 획득 방식은 구체적으로 아래와 같은 단계를 포함할 수 있다.In one selectable embodiment of the present application, the grain evaluation method may further include acquiring a first identification model through a method of running training, wherein the acquiring method of the first identification model is specific may include the following steps.

단계 001에 있어서, 복수 개의 제2 이미지 정보를 획득하고; 상기 제2 이미지 정보는 제2 이미지 데이터 및 대응되는 라벨 데이터를 포함하며; 상기 라벨 데이터는 곡물이 속하는 카테고리를 나타낸다.In step 001, a plurality of second image information is obtained; the second image information includes second image data and corresponding label data; The label data indicates the category to which the grain belongs.

단계 002에 있어서, 상기 제2 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득한다.In step 002, feature enhancement processing is performed on the second image data to obtain feature enhancement image data corresponding to the second image data.

단계 003에 있어서, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 데이터 강화 처리를 수행하여, 데이터 강화 이미지 데이터를 획득한다.In step 003, data enhancement processing is performed on the feature-enhanced image data corresponding to the second image data to obtain data-enhanced image data.

단계 004에 있어서, 상기 특징 강화 이미지 데이터 및 상기 데이터 강화 이미지 데이터 중 적어도 하나 및 대응되는 라벨 데이터에 기반하여 러닝 훈련을 수행하여, 상기 제1 식별 모델을 획득한다.In step 004, the first identification model is obtained by performing learning training based on at least one of the feature-enhanced image data and the data-enhanced image data and corresponding label data.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 제2 이미지 데이터에 대해 특징 강화 처리를 수행하여, 특징 강화 이미지 데이터를 획득하는 단계는, 상기 제2 이미지 데이터를 그레이 스케일 이미지로 변환시켜, 상기 그레이 스케일 이미지에 대해 명암비 강화 처리를 수행하여, 상기 제2 이미지 데이터의 명암비 강화 이미지 데이터를 획득하는 단계; 상기 제2 이미지 데이터에 대해 에지 검출을 수행하여, 에지 검출 이미지 데이터를 획득하는 단계; 및 상기 제2 이미지 데이터의 명암비 강화 이미지 데이터 및 상기 에지 검출 이미지 데이터에 기반하여 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계를 포함할 수 있다.In one selectable embodiment of the present application, performing feature enhancement processing on the second image data to obtain feature enhanced image data includes converting the second image data into a gray scale image, performing contrast enhancement processing on the gray scale image to obtain contrast enhancement image data of the second image data; performing edge detection on the second image data to obtain edge detection image data; and obtaining feature-enhanced image data corresponding to the second image data based on the contrast-enhanced image data of the second image data and the edge detection image data.

일 실시예에 있어서, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 데이터 강화 처리를 수행하여, 데이터 강화 이미지 데이터를 획득하는 단계는, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 플립 및 회전 중 적어도 하나를 수행하여, 상기 특징 강화 이미지 데이터에 대응되는 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나를 획득하고, 상기 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나에 기반하여 데이터 강화 이미지 데이터를 생성하는 단계를 포함할 수 있다.In an embodiment, the acquiring of data-enhanced image data by performing data enhancement processing on the feature-enhanced image data corresponding to the second image data includes: performing at least one of flipping and rotating the image data to obtain at least one of flip image data and rotation image data corresponding to the feature enhanced image data, and a data enhancement image based on at least one of the flip image data and the rotation image data It may include generating data.

여기서, 특징 강화 이미지 데이터를 회전하고, 회전된 각도는 제1 기설정된 각도일 수 있으며, 상기 제1 기설정된 각도는 90 도, 180 도, 270 도 중 하나이며; 특징 강화 이미지 데이터를 플립하고, 플립된 특징 강화 이미지 데이터를 추가로 회전시키며, 회전된 각도는 제2 기설정된 각도일 수 있고, 상기 제2 기설정된 각도는 90 도, 180 도, 270 도 중 하나이다.Here, the feature-enhanced image data is rotated, and the rotated angle may be a first preset angle, wherein the first preset angle is one of 90 degrees, 180 degrees, and 270 degrees; flip the feature enhanced image data, and further rotate the flipped feature enhanced image data, the rotated angle may be a second preset angle, wherein the second preset angle is one of 90 degrees, 180 degrees, and 270 degrees .

본 실시예에 있어서, 상기 기기에는 적어도 하나의 곡물 카테고리에 대응되는 평가 전략이 미리 저장되어 있으며; In this embodiment, the device pre-stores an evaluation strategy corresponding to at least one grain category;

상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득하는 단계는, 상기 평가될 곡물의 카테고리에 따라 대응되는 평가 전략을 획득하는 단계; 및 상기 평가 전략 및 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 따라 상기 평가될 곡물을 평가하여, 상기 평가될 곡물의 평가 결과를 결정하는 단계를 포함한다.Obtaining an evaluation result by evaluating the grain to be evaluated according to the first image data and an evaluation strategy corresponding to the category of the grain to be evaluated includes: obtaining an evaluation strategy corresponding to the category of the grain to be evaluated step; and evaluating the to-be-evaluated grain according to the evaluation strategy and feature-enhanced image data corresponding to the first image data, and determining an evaluation result of the grain to be evaluated.

여기서, 상기 평가 전략은 요리 기기의 제조 업체에 의해 미리 설정되고 기기에 저장되고, 상기 평가 전략은 상이한 카테고리의 곡물에 대한 품질, 식감 및 스코어 등을 평가할 수 있다.Here, the evaluation strategy is preset by the manufacturer of the cooking appliance and stored in the appliance, and the evaluation strategy may evaluate the quality, texture and score of different categories of grains.

도 2는 본 출원의 실시예에서 제공한 다른 곡물 평가 방법의 흐름 예시도이고; 도 2에 도시된 바와 같이, 상기 방법은 아래와 같은 단계를 포함한다.Figure 2 is a flow diagram of another grain evaluation method provided in the embodiment of the present application; As shown in FIG. 2 , the method includes the following steps.

단계 201에 있어서, 평가될 곡물을 포함하는 제1 이미지 데이터를 획득한다.In step 201, first image data including grains to be evaluated is obtained.

여기서, 상기 평가될 곡물은 취사된 밥과 같은 요리된 곡물을 가리킨다.Here, the grain to be evaluated refers to a cooked grain such as cooked rice.

단계 202에 있어서, 상기 제1 이미지 데이터에 대해 사전 처리를 수행한다.In step 202, pre-processing is performed on the first image data.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 제1 이미지 데이터에 대해 사전 처리를 수행하는 단계는, 상기 제1 이미지 데이터를 그레이 스케일 이미지로 변환시켜, 상기 그레이 스케일 이미지에 대해 명암비 강화 처리를 수행하여, 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터를 획득하는 단계; 상기 제1 이미지 데이터에 대해 에지 검출을 수행하여, 에지 검출 이미지 데이터를 획득하는 단계; 및 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터 및 상기 에지 검출 이미지 데이터에 기반하여 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계를 포함한다.In one selectable embodiment of the present application, the performing of the pre-processing on the first image data includes converting the first image data into a gray-scale image, and performing contrast enhancement processing on the gray-scale image. performing the first image data contrast-ratio enhancement image data; performing edge detection on the first image data to obtain edge detection image data; and obtaining feature-enhanced image data corresponding to the first image data based on the contrast-enhanced image data of the first image data and the edge detection image data.

단계 203에 있어서, 딥 러닝 이미지 분류기를 운용하여 곡물 카테고리를 식별한다.In step 203, a deep learning image classifier is operated to identify a grain category.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 딥 러닝 이미지 분류기를 운용하여 곡물 카테고리를 식별하는 단계는, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계를 포함하고, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타낸다.In one selectable embodiment of the present application, the step of identifying a grain category by operating the deep learning image classifier includes a first based on the feature-enhanced image data corresponding to the first image data and a first identification model. obtaining an identification result, wherein the first identification result indicates the category of the grain to be evaluated.

단계 204에 있어서, 곡물 카테고리 및 사전 처리된 이미지에 따라 곡물 평가를 수행한다.In step 204, a grain evaluation is performed according to the grain category and the pre-processed image.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 곡물 카테고리 및 사전 처리된 이미지에 따라 곡물 평가를 수행하는 단계는, 상기 평가될 곡물의 카테고리에 따라 대응되는 평가 전략을 획득하는 단계; 및 상기 평가 전략 및 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 따라 상기 평가될 곡물의 불연속성, 입자 간 밀접성, 광택도 등을 평가하는 단계를 포함함으로써, 상기 평가될 곡물에 대한 품질, 식감 및 스코어 등을 평가한 평가 결과를 획득한다.In one selectable embodiment of the present application, the performing grain evaluation according to the grain category and the pre-processed image may include: acquiring a corresponding evaluation strategy according to the grain category to be evaluated; and evaluating discontinuity, inter-particle closeness, glossiness, etc. of the grain to be evaluated according to the evaluation strategy and feature-enhanced image data corresponding to the first image data, thereby improving the quality and texture of the grain to be evaluated. and an evaluation result obtained by evaluating a score and the like.

단계 205에 있어서, 곡물의 평가 결과를 획득한다.In step 205, a grain evaluation result is obtained.

본 출원의 실시예의 방안에 있어서, 곡물의 이미지를 수집하고 특징 강화 처리를 수행하며, 특징 강화 처리된 이미지에 따라 곡물을 정확하게 식별하며, 곡물 식별 결과 및 강화 처리된 이미지에 따라 평가하여, 상기 곡물의 평가 결과를 획득하며, 상기 평가 결과는 곡물의 품질 및 식감을 반영함으로써, 평가 결과에 따라 요리 기기의 요리 곡선을 수정할 수 있어, 사용자를 위해 식감이 더욱 좋은 곡물을 요리한다.In the method of the embodiment of the present application, an image of a grain is collected, a feature enhancement process is performed, the grain is accurately identified according to the feature-enhanced image, and evaluated according to the grain identification result and the enhanced image, and the grain obtain an evaluation result of , and the evaluation result reflects the quality and texture of the grain, so that the cooking curve of the cooking appliance can be modified according to the evaluation result, thereby cooking grains with better texture for the user.

도 3은 본 출원의 실시예에서 제공한 곡물 평가 장치의 구조 예시도이고; 도 3에 도시된 바와 같이, 상기 장치는 획득 모듈(301) 및 처리 모듈(302)을 포함하고; 여기서, Figure 3 is a structural exemplary diagram of the grain evaluation device provided in the embodiment of the present application; As shown in FIG. 3 , the apparatus includes an acquiring module 301 and a processing module 302 ; here,

상기 획득 모듈(301)은, 평가될 곡물을 포함하는 제1 이미지 데이터를 획득하도록 구성되고; the acquiring module 301 is configured to acquire first image data including the grain to be evaluated;

상기 처리 모듈(302)은, 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하-며, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타냄내고; 상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득하도록 구성된다.the processing module 302 obtains a first identification result based on the first image data and a first identification model, wherein the first identification result indicates a category of the grain to be evaluated; and evaluate the grain to be evaluated according to the first image data and an evaluation strategy corresponding to the category of the grain to be evaluated, to obtain an evaluation result.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 처리 모듈(302)은 또한, 상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하고; 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하도록 구성된다.In one selectable embodiment of the present application, the processing module 302 also performs feature enhancement processing on the first image data to obtain feature enhancement image data corresponding to the first image data, ; and obtain a first identification result based on the feature-enhanced image data corresponding to the first image data and a first identification model.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 처리 모듈(302)은, 상기 제1 이미지 데이터를 그레이 스케일 이미지로 변환시켜, 상기 그레이 스케일 이미지에 대해 명암비 강화 처리를 수행하여, 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터를 획득하고; 상기 제1 이미지 데이터에 대해 에지 검출을 수행하여, 에지 검출 이미지 데이터를 획득하며; 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터 및 상기 에지 검출 이미지 데이터에 기반하여 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하도록 구성된다.In one selectable embodiment of the present application, the processing module 302 converts the first image data into a gray scale image, and performs contrast enhancement processing on the gray scale image, so that the first image acquiring contrast-enhanced image data of the data; performing edge detection on the first image data to obtain edge detection image data; and acquire feature-enhanced image data corresponding to the first image data based on the contrast-enhanced image data of the first image data and the edge detection image data.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 처리 모듈(302)은 또한, 복수 개의 제2 이미지 정보를 획득하고 상기 제2 이미지 정보는 제2 이미지 데이터 및 대응되는 라벨 데이터를 포함하고; 상기 라벨 데이터는 곡물이 속하는 카테고리를 나타내고; 상기 제2 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하며; 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 데이터 강화 처리를 수행하여, 데이터 강화 이미지 데이터를 획득하며; 상기 특징 강화 이미지 데이터 및 상기 데이터 강화 이미지 데이터 중 적어도 하나 및 대응되는 라벨 데이터에 기반하여 러닝 훈련을 수행하여, 제1 식별 모델을 획득하도록 구성된다.In one selectable embodiment of the present application, the processing module 302 is further configured to obtain a plurality of second image information, wherein the second image information includes second image data and corresponding label data; the label data indicates the category to which the grain belongs; performing feature enhancement processing on the second image data to obtain feature enhancement image data corresponding to the second image data; performing data enhancement processing on the feature-enhanced image data corresponding to the second image data to obtain data-enhanced image data; and perform learning training based on at least one of the feature-enhanced image data and the data-enhanced image data and corresponding label data to obtain a first identification model.

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 처리 모듈(302)은, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 회전 및 플립 중 적어도 하나를 수행하여, 상기 특징 강화 이미지 데이터에 대응되는 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나를 획득하고, 상기 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나에 기반하여 데이터 강화 이미지 데이터를 생성하도록 구성된다.In one selectable embodiment of the present application, the processing module 302 performs at least one of rotation and flip on the feature-enhanced image data corresponding to the second image data, and acquire at least one of corresponding flip image data and rotation image data, and generate data enhancement image data based on at least one of the flip image data and rotation image data.

여기서, 특징 강화 이미지 데이터를 회전하고, 회전된 각도는 제1 기설정된 각도일 수 있으며, 상기 제1 기설정된 각도는 90 도, 180 도, 270 도 중 하나이며; 특징 강화 이미지 데이터를 플립하고, 플립된 특징 강화 이미지 데이터를 추가로 회전시키며, 회전된 각도는 제2 기설정된 각도일 수 있고, 상기 제2 기설정된 각도는 90 도, 180 도, 270 도 중 하나이다.Here, the feature-enhanced image data is rotated, and the rotated angle may be a first preset angle, wherein the first preset angle is one of 90 degrees, 180 degrees, and 270 degrees; flip the feature enhanced image data, and further rotate the flipped feature enhanced image data, the rotated angle may be a second preset angle, wherein the second preset angle is one of 90 degrees, 180 degrees, and 270 degrees .

본 출원의 한 가지 선택 가능한 실시예에 있어서, 상기 처리 모듈(302)은, 상기 평가될 곡물의 카테고리에 따라 대응되는 평가 전략을 획득하고; 상기 평가 전략 및 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 따라 상기 평가될 곡물을 평가하여, 상기 평가될 곡물의 평가 결과를 결정하도록 구성된다.In one selectable embodiment of the present application, the processing module 302 is configured to: obtain a corresponding evaluation strategy according to the category of the grain to be evaluated; and evaluate the grain to be evaluated according to the evaluation strategy and feature enhanced image data corresponding to the first image data to determine an evaluation result of the grain to be evaluated.

본 발명의 실시예에 있어서, 상기 장치에서의 획득 모듈(301) 및 처리 모듈(302)은, 실제 응용에서 상기 단말에서의 중앙처리장치(Central Processing Unit, CPU), 디지털 신호 프로세서(Digital Signal Processor, DSP), 마이크로 컨트롤 유닛(Microcontroller Unit, MCU) 또는 필드 프로그래머블 게이트 어레이(Field-Programmable Gate Array, FPGA)에 의해 구현될 수 있다.In an embodiment of the present invention, the acquisition module 301 and the processing module 302 in the device include a central processing unit (CPU) and a digital signal processor in the terminal in actual applications. , DSP), a microcontroller unit (MCU), or a field-programmable gate array (FPGA).

설명해야 하는 것은, 상기 실시예에서 제공한 곡물 평가 장치가 곡물 평가를 수행할 경우, 상기 각 프로그램 모듈의 분할로 예를 들면, 실제 응용에서, 수요에 따라 상기 처리 분배를 상이한 프로그램 모듈을 통해 완료할 수 있고, 즉 장치의 내부 구조를 상이한 프로그램 모듈로 분할하여, 상기 설명한 전부 또는 일부 처리를 완료한다. 또한, 상기 실시예에서 제공한 곡물 평가 장치와 곡물 평가 방법의 실시예는 동일한 사상에 속하며, 이의 구체적인 구현 과정은 방법 실시예를 참조하면 되고, 여기서 더 이상 반복하지 않는다.It should be explained that when the grain evaluation apparatus provided in the above embodiment performs grain evaluation, the respective program modules are divided into, for example, in practical applications, the processing distribution is completed through different program modules according to demand. can, that is, divide the internal structure of the device into different program modules, to complete all or part of the processing described above. In addition, the embodiment of the grain evaluation apparatus and the grain evaluation method provided in the above embodiment belong to the same idea, and the specific implementation process thereof may refer to the method embodiment, which will not be repeated any longer.

본 출원의 실시예의 방법을 구현하기 위해, 본 출원의 실시예는 다른 곡물 평가 장치를 제공하며, 요리 기기 또는 모바일 단말에 설치되며, 도 4에 도시된 바와 같이, 상기 장치(40)는,In order to implement the method of the embodiment of the present application, the embodiment of the present application provides another grain evaluation apparatus, which is installed in a cooking appliance or a mobile terminal, and as shown in FIG. 4 , the apparatus 40 includes:

프로세서(401) 및 상기 프로세서에서 작동 가능한 컴퓨터 프로그램을 저장하기 위한 메모리(402)를 포함하고; 여기서, a processor (401) and a memory (402) for storing a computer program operable on the processor; here,

상기 프로세서(401)는 상기 컴퓨터 프로그램을 작동할 경우, 평가될 곡물을 포함하는 제1 이미지 데이터를 획득하는 단계; 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계로서, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타내는, 단계; 및 상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득하는 단계를 실행하기 위한 것이다.when the processor 401 operates the computer program, acquiring first image data including grains to be evaluated; obtaining a first identification result based on the first image data and a first identification model, wherein the first identification result indicates a category of the grain to be evaluated; and evaluating the grain to be evaluated according to the first image data and an evaluation strategy corresponding to the category of the grain to be evaluated, and obtaining an evaluation result.

일 실시예에 있어서, 상기 프로세서(401)는 상기 컴퓨터 프로그램을 작동할 경우, 상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계; 및 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계를 실행하기 위한 것이다.In one embodiment, when the processor 401 operates the computer program, performing feature enhancement processing on the first image data to obtain feature enhanced image data corresponding to the first image data ; and obtaining a first identification result based on the feature-enhanced image data corresponding to the first image data and a first identification model.

일 실시예에 있어서, 상기 프로세서(401)는 상기 컴퓨터 프로그램을 작동할 경우, 상기 제1 이미지 데이터를 그레이 스케일 이미지로 변환시켜, 상기 그레이 스케일 이미지에 대해 명암비 강화 처리를 수행하여, 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터를 획득하는 단계; 상기 제1 이미지 데이터에 대해 에지 검출을 수행하여, 에지 검출 이미지 데이터를 획득하는 단계; 및 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터 및 상기 에지 검출 이미지 데이터에 기반하여 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계를 실행하기 위한 것이다.In an embodiment, the processor 401 converts the first image data into a gray-scale image when operating the computer program, and performs contrast enhancement processing on the gray-scale image, so that the first image obtaining image data for enhanced contrast ratio of the data; performing edge detection on the first image data to obtain edge detection image data; and acquiring feature-enhanced image data corresponding to the first image data based on the contrast-enhanced image data of the first image data and the edge detection image data.

일 실시예에 있어서, 상기 프로세서(401)는 상기 컴퓨터 프로그램을 작동할 경우, 복수 개의 제2 이미지 정보를 획득하는 단계로서, 상기 제2 이미지 정보는 제2 이미지 데이터 및 대응되는 라벨 데이터를 포함하고; 상기 라벨 데이터는 곡물이 속하는 카테고리를 나타내는, 단계; 상기 제2 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계; 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 데이터 강화 처리를 수행하여, 데이터 강화 이미지 데이터를 획득하는 단계; 및 상기 특징 강화 이미지 데이터 및 상기 데이터 강화 이미지 데이터 중 적어도 하나 및 대응되는 라벨 데이터에 기반하여 러닝 훈련을 수행하여, 제1 식별 모델을 획득하는 단계를 실행하기 위한 것이다.In one embodiment, when the processor 401 operates the computer program, obtaining a plurality of second image information, wherein the second image information includes second image data and corresponding label data; ; wherein the label data indicates a category to which the grain belongs; performing feature enhancement processing on the second image data to obtain feature enhancement image data corresponding to the second image data; performing data enhancement processing on the feature-enhanced image data corresponding to the second image data to obtain data-enhanced image data; and performing learning training based on at least one of the feature-enhanced image data and the data-enhanced image data and corresponding label data to obtain a first identification model.

일 실시예에 있어서, 상기 프로세서(401)는 상기 컴퓨터 프로그램을 작동할 경우, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 회전 및 플립 중 적어도 하나를 수행하여, 상기 특징 강화 이미지 데이터에 대응되는 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나를 획득하고, 상기 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나에 기반하여 데이터 강화 이미지 데이터를 생성하는 단계를 실행하기 위한 것이다.In an embodiment, when the processor 401 operates the computer program, the processor 401 performs at least one of rotation and flip on the feature-enhanced image data corresponding to the second image data, so that the feature-enhanced image data is acquiring at least one of the corresponding flip image data and the rotation image data, and generating data enhancement image data based on at least one of the flip image data and the rotation image data.

일 실시예에 있어서, 상기 프로세서(401)는 상기 컴퓨터 프로그램을 작동할 경우, 상기 평가될 곡물의 카테고리에 따라 대응되는 평가 전략을 획득하는 단계; 및 상기 평가 전략 및 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 따라 상기 평가될 곡물을 평가하여, 상기 평가될 곡물의 평가 결과를 결정하는 단계를 실행하기 위한 것이다.In one embodiment, when the processor 401 operates the computer program, the method further comprises: acquiring a corresponding evaluation strategy according to the category of the grain to be evaluated; and evaluating the grain to be evaluated according to the evaluation strategy and feature-enhanced image data corresponding to the first image data, and determining an evaluation result of the grain to be evaluated.

설명해야 할 것은, 상기 실시예에서 제공한 곡물 평가 장치와 곡물 평가 방법의 실시예는 동일한 사상에 속하며, 이의 구체적인 구현 과정은 방법 실시예를 참조하면 되고, 여기서 더 이상 반복하지 않는다.It should be noted that the embodiments of the grain evaluation apparatus and the grain evaluation method provided in the above embodiment belong to the same idea, and the specific implementation process thereof may refer to the method embodiment, which will not be repeated any longer.

물론, 실제 응용 시, 도 4에 도시된 바와 같이, 상기 장치(40)는 또한 적어도 하나의 네트워크 인터페이스(403)를 포함할 수 있다. 곡물 평가 장치(40)에서의 각 컴포넌트는 버스 시스템(404)을 통해 하나로 연결된다. 이해할 수 있는 것은, 버스 시스템(404)은 이러한 컴포넌트 사이의 연결 통신을 구현하기 위한 것이다. 버스 시스템(404)은 데이터 버스 외에도, 전원 버스, 제어 버스 및 상태 신호 버스를 더 포함한다. 그러나 설명의 명확성을 위해, 도 4에서 다양한 버스는 모두 버스 시스템(404)으로 표기된다. 여기서, 상기 프로세서(401)의 개수는 적어도 하나일 수 있다. 네트워크 인터페이스(403)는 곡물 평가 장치(40)와 다른 기기 사이의 유선 또는 무선 방식의 통신에 사용된다. 본 출원의 실시예에서의 메모리(402)는 장치(40)의 동작을 지원하기 위해 다양한 타입의 데이터를 저장하기 위한 것이다.Of course, in practical application, as shown in FIG. 4 , the device 40 may also include at least one network interface 403 . Each component in the grain evaluation device 40 is connected to one via a bus system 404 . It can be understood that the bus system 404 is for implementing the connection communication between these components. In addition to the data bus, the bus system 404 further includes a power bus, a control bus, and a status signal bus. However, for clarity of explanation, the various buses in FIG. 4 are all denoted as bus system 404 . Here, the number of the processors 401 may be at least one. The network interface 403 is used for wired or wireless communication between the grain evaluation device 40 and other devices. The memory 402 in the embodiment of the present application is for storing various types of data to support the operation of the device 40 .

상기 본 출원의 실시예에서 언급된 방법은 프로세서(401)에 적용 가능하거나, 프로세서(401)에 의해 구현된다. 프로세서(401)는 신호 처리 능력을 구비하는 집적 회로 칩일 수 있다. 구현 과정에서, 상기 방법의 각 단계는 프로세서(401)에서의 하드웨어의 집적 논리 회로 또는 소프트웨어 형태의 명령어를 통해 완료될 수 있다. 상기 프로세서(401)는 범용 프로세서, 디지털 신호 프로세서(Digital Signal Processor, DSP), 또는 다른 프로그래머블 논리 소자, 이산 게이트 또는 트랜지스터 논리 장치, 이산 하드웨어 컴포넌트 등일 수 있다. 프로세서(401)는 본 출원의 실시예에서 개시한 각 방법, 단계 및 논리 블록도를 구현 또는 실행할 수 있다. 범용 프로세서는 마이크로 프로세서 또는 임의의 일반적인 프로세서 등일 수도 있다. 본 출원의 실시예를 결합하여 개시된 방법의 단계는, 하드웨어 디코딩 프로세서로 직접 반영되어 실행 및 완료될 수 있거나, 디코딩 프로세서에서의 하드웨어 및 소프트웨어 모듈의 조합에 의해 실행 및 완료될 수 있다. 소프트웨어 모듈은 저장 매체에 위치할 수 있고, 상기 저장 매체는 메모리(402), 프로세서(401)에 위치하여 메모리(402)에서의 정보를 판독하며, 하드웨어와 결합하여 전술한 방법의 단계를 완료한다.The method mentioned in the embodiment of the present application is applicable to the processor 401 or is implemented by the processor 401 . The processor 401 may be an integrated circuit chip having signal processing capability. In the implementation process, each step of the method may be completed through an integrated logic circuit of hardware in the processor 401 or an instruction in the form of software. The processor 401 may be a general purpose processor, a digital signal processor (DSP), or other programmable logic device, a discrete gate or transistor logic device, a discrete hardware component, or the like. The processor 401 may implement or execute each method, step, and logic block diagram disclosed in the embodiments of the present application. A general-purpose processor may be a microprocessor or any general processor or the like. The steps of the disclosed method by combining the embodiments of the present application may be directly reflected and executed and completed by a hardware decoding processor, or may be executed and completed by a combination of hardware and software modules in the decoding processor. The software module may be located in a storage medium, the storage medium being located in the memory 402, the processor 401 to read information from the memory 402, and in combination with hardware to complete the steps of the above-described method .

메모리(402)는 임의의 타입의 휘발성 또는 비휘발성 저장 기기, 또는 이들의 조합에 의해 구현될 수 있다. 여기서, 비휘발성 메모리는 롬(Read Only Memory, ROM), 프로그래머블 롬(Programmable Read-Only Memory, PROM), 소거 가능 프로그래머블 롬(Erasable Programmable Read-Only Memory, EPROM), 전기적 소거 가능한 프로그램머블 롬(Electrically Erasable Programmable Read-Only Memory, EEPROM), 에프램(Ferromagnetic Random Access Memory, FRAM), 플래쉬 메모리(Flash Memory), 자기 표면 메모리, 광디스크, 또는 판독 전용 광디스크(Compact Disc Read-Only Memory, CD-ROM)일 수 있으며; 자기 표면 메모리는 마그네틱 메모리 또는 자기 테이프 메모리일 수 있다. 휘발성 메모리는 외부 쾌속 캐시 역할을 하는 랜덤 액세스 메모리(Random Access Memory, RAM)일 수 있다. 한정적이 아닌 예시적인 설명을 통해, 많은 형태의 RAM이 사용 가능하며, 예를 들어, 정적 랜덤 액세스 메모리(Static RAM, SRAM), 동적 랜덤 액세스 메모리(Dynamic RAM, DRAM), 동기식 동적 랜덤 액세스 메모리(Synchronous DRAM, SDRAM), 더블 데이터 레이트 동기식 동적 랜덤 액세스 메모리(Double Data Rate SDRAM, DDR SDRAM), 향상된 동기식 동적 랜덤 액세스 메모리(Enhanced SDRAM, ESDRAM), 동기식 연결 동적 랜덤 액세스 메모리(Synchlink DRAM, SLDRAM) 및 직접 메모리 버스 랜덤 액세스 메모리(Direct Rambus RAM, DR RAM)이다. 본 발명의 실시예에서 설명한 메모리(402)는 이러한 메모리 및 다른 임의의 타입의 메모리를 포함하지만 이에 한정되지 않는다.Memory 402 may be implemented by any type of volatile or non-volatile storage device, or a combination thereof. Here, the non-volatile memory includes a ROM (Read Only Memory, ROM), a Programmable Read-Only Memory (PROM), an Erasable Programmable Read-Only Memory (EPROM), and an Electrically Erasable Programmable ROM (EPROM). Erasable Programmable Read-Only Memory (EEPROM), Ferromagnetic Random Access Memory (FRAM), Flash Memory, Magnetic Surface Memory, Optical Disc, or Compact Disc Read-Only Memory (CD-ROM) can be; The magnetic surface memory may be a magnetic memory or a magnetic tape memory. The volatile memory may be a random access memory (RAM) serving as an external fast cache. By way of example and not limitation, many types of RAM are available, for example, static random access memory (SRAM), dynamic random access memory (DRAM), synchronous dynamic random access memory ( Synchronous DRAM, SDRAM); Direct Memory Bus Random Access Memory (Direct Rambus RAM, DR RAM). Memory 402 described in embodiments of the present invention includes, but is not limited to, these and any other types of memory.

예시적인 실시예에 있어서, 상기 곡물 평가 장치(40)는 하나 또는 복수 개의 주문형 집적 회로(Application Specific Integrated Circuit, ASIC), DSP, 프로그래머블 논리 소자(Programmable Logic Device, PLD), 복합 프로그래머블 논리 소자(Complex Programmable Logic Device, CPLD), 필드 프로그래머블 게이트 어레이(Field-Programmable Gate Array. FPGA), 범용 프로세서, 컨트롤러, 마이크로 컨트롤러(Micro Controller Unit, MCU), 마이크로 프로세서(Microprocessor), 또는 다른 전자 구성 요소에 의해 구현되어, 전술한 방법을 실행하기 위한 것이다.In an exemplary embodiment, the grain evaluation device 40 includes one or a plurality of application specific integrated circuits (ASICs), DSPs, programmable logic devices (PLDs), and complex programmable logic devices (Complex). Implemented by a Programmable Logic Device (CPLD), Field-Programmable Gate Array (FPGA), general-purpose processor, controller, Micro Controller Unit (MCU), Microprocessor, or other electronic component and to carry out the method described above.

구체적으로, 본 출원의 실시예는 컴퓨터 프로그램이 저장되어 있는 컴퓨터 판독 가능한 저장 매체를 제공하고, 상기 컴퓨터 프로그램이 프로세서에 의해 작동될 경우, 본 출원의 실시예에 따른 방법의 단계를 실행한다.Specifically, an embodiment of the present application provides a computer-readable storage medium in which a computer program is stored, and when the computer program is operated by a processor, the steps of the method according to the embodiment of the present application are executed.

본 출원에서 제공된 몇 개의 실시예에 있어서, 개시된 방법은 다른 방식으로 구현될 수 있음을 이해해야 한다. 전술한 기기 실시예는 다만 예시적일 뿐이고, 예컨대, 상기 유닛에 대한 분할은 다만 논리적 기능 분할이고, 실제로 구현될 경우 다른 분할 방식이 있을 수 있으며, 예를 들어, 복수 개의 유닛 또는 컴포넌트는 다른 시스템에 결합되거나 통합될 수 있거나, 또는 일부 특징을 무시하거나 실행하지 않을 수 있다. 또한, 나타내거나 논의된 각 구성 부분의 상호간의 결합 또는 직접 결합 또는 통신 연결은, 일부 인터페이스, 기기 또는 유닛을 통한 간접 결합 또는 통신 연결일 수 있고, 전기적, 기계적 또는 다른 형태일 수 있다.In the several embodiments provided in this application, it should be understood that the disclosed method may be implemented in other ways. The above-described device embodiment is merely exemplary, for example, the division for the unit is merely logical function division, and when actually implemented, there may be other division methods, for example, a plurality of units or components are divided into different systems. They may be combined or integrated, or some features may be ignored or not implemented. In addition, the mutual coupling or direct coupling or communication connection of each component shown or discussed may be an indirect coupling or communication connection through some interface, device or unit, and may be in an electrical, mechanical or other form.

상기 분리 부재로서 설명된 유닛은, 물리적으로 분리되거나, 분리되지 않을 수도 있고, 유닛으로서 나타낸 부재는 물리적 유닛일 수도, 아닐 수도 있으며, 즉 한 곳에 위치할 수 있거나, 복수 개의 네트워크 유닛에 분포될 수도 있으며; 실제 필요에 따라 유닛의 일부 또는 전부를 선택하여 본 실시예의 방안의 목적을 구현할 수 있다.The unit described as the separation member may or may not be physically separated, and the member shown as a unit may or may not be a physical unit, that is, it may be located in one place or may be distributed in a plurality of network units. there is; Some or all of the units may be selected according to actual needs to implement the purpose of the scheme of this embodiment.

또한, 본 출원의 각 실시예에서의 각 기능 유닛은 하나의 처리 유닛에 전부 통합될 수 있으며, 각 유닛이 각각 독립적으로 하나의 유닛으로서 존재할 수도 있거나, 두 개 또는 두 개 이상의 유닛이 하나의 유닛에 통합될 수도 있으며; 상기 통합된 유닛은 하드웨어의 형태로 구현될 수 있을 뿐만 아니라, 하드웨어와 소프트웨어 기능 유닛의 형태로 구현될 수도 있다.In addition, each functional unit in each embodiment of the present application may be all integrated into one processing unit, and each unit may exist independently as one unit, or two or more units may be combined into one unit. may be incorporated into; The integrated unit may be implemented not only in the form of hardware, but may also be implemented in the form of hardware and software functional units.

본 기술분야의 통상의 기술자는 상기 방법 실시예를 구현하기 위한 모든 또는 일부 동작은 프로그램 명령어와 관련되는 하드웨어를 통해 완성되며, 전술한 프로그램은 컴퓨터 판독 가능 저장 매체에 저장될 수 있으며, 상기 프로그램이 실행될 때, 실행은 상기 방법 실시예의 단계를 포함하며; 전술한 저장 매체는 모바일 저장 기기, 롬(Read-Only Memory, ROM), 램(Random Access Memory, RAM), 자기 디스크 또는 광 디스크와 같은 프로그램 코드를 저장할 수 있는 다양한 매체를 포함한다.A person skilled in the art will know that all or some operations for implementing the method embodiment are completed through hardware related to program instructions, and the above-described program may be stored in a computer-readable storage medium, and the program When executed, the execution includes the steps of the method embodiment; The above-described storage medium includes various media capable of storing a program code such as a mobile storage device, a read-only memory (ROM), a random access memory (RAM), a magnetic disk, or an optical disk.

또는, 본 출원의 상기 통합된 유닛이 소프트웨어 기능 유닛의 형태로 구현되고 독립적인 제품으로서 판매되거나 사용되는 경우, 컴퓨터 판독 가능 저장 매체에 저장될 수도 있다. 이러한 이해에 기반하여, 본 출원의 실시예의 기술 방안, 즉 종래 기술에 기여하는 부분은 소프트웨어 제품의 형태로 구현될 수 있고, 상기 컴퓨터 소프트웨어 제품은 하나의 저장 매체에 저장되며, 하나의 컴퓨터 기기(개인용 컴퓨터, 서버 또는 네트워크 기기 등일 수 있음)로 하여금 본 출원의 각 실시예의 상기 방법의 전부 또는 일부를 실행하는데 사용되는 복수 개의 명령어를 포함한다. 전술한 저장 매체는, 모바일 하드 디스크, ROM, RAM, 자기 디스크 또는 광 디스크 등과 같은 프로그램 코드를 저장할 수 있는 다양한 매체를 포함한다.Alternatively, when the integrated unit of the present application is implemented in the form of a software functional unit and sold or used as an independent product, it may be stored in a computer-readable storage medium. Based on this understanding, the technical solutions of the embodiments of the present application, that is, the part contributing to the prior art may be implemented in the form of a software product, the computer software product being stored in one storage medium, and one computer device ( It includes a plurality of instructions used to cause a personal computer, server, or network device, etc.) to execute all or part of the method of each embodiment of the present application. The above-described storage medium includes various media capable of storing a program code, such as a mobile hard disk, ROM, RAM, magnetic disk or optical disk.

본 출원에서 제공한 몇 개의 방법 실시예에서 언급된 방법은, 충돌되지 않는 경우 임의로 조합되어, 새로운 방법 실시예를 얻을 수 있다.Methods mentioned in several method examples provided in the present application can be arbitrarily combined if they do not conflict to obtain new method examples.

본 출원에서 제공한 몇 개의 제품 실시예에서 언급된 특징은, 충돌되지 않는 경우 임의로 조합되어, 새로운 제품 실시예를 얻을 수 있다.The features mentioned in several product examples provided in this application can be arbitrarily combined if they do not conflict to obtain a new product embodiment.

본 출원에서 제공한 몇 개의 방법 또는 기기 실시예에서 언급된 특징은, 충돌되지 않는 경우 임의로 조합되어, 새로운 방법 실시예 또는 기기 실시예를 얻을 수 있다.The features mentioned in several method or device embodiments provided in this application can be arbitrarily combined, if not in conflict, to obtain a new method embodiment or device embodiment.

이상의 설명은 다만 본 발명의 구체적인 실시형태일 뿐이고, 본 발명의 보호 범위는 이에 한정되지 않는다. 본 발명이 속하는 기술 분야의 통상의 기술자라면, 본 발명에서 개시된 기술적 범위 내의 변화 또는 교체가 모두 본 출원의 보호 범위 내에 속해야 함을 쉽게 알 수 있을 것이다. 따라서, 본 출원의 보호 범위는 청구 범위의 보호 범위를 기준으로 해야 한다.The above description is only specific embodiments of the present invention, and the protection scope of the present invention is not limited thereto. Those of ordinary skill in the art to which the present invention pertains will readily appreciate that all changes or replacements within the technical scope disclosed in the present invention must fall within the protection scope of the present application. Accordingly, the protection scope of the present application should be based on the protection scope of the claims.

Claims (14)

곡물 평가 방법으로서,
평가될 곡물을 포함하는 제1 이미지 데이터를 획득하는 단계;
상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계로서, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타내는, 단계; 및
상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득하는 단계를 포함하고,
상기 곡물 평가 방법은, 상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계를 더 포함하고;
상응하게, 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계는, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 단계를 포함하고,
상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계는,
상기 제1 이미지 데이터를 그레이 스케일 이미지로 변환시켜, 상기 그레이 스케일 이미지에 대해 명암비 강화 처리를 수행하여, 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터를 획득하는 단계; 상기 제1 이미지 데이터에 대해 에지 검출을 수행하여, 에지 검출 이미지 데이터를 획득하는 단계; 및
상기 제1 이미지 데이터의 명암비 강화 이미지 데이터 및 상기 에지 검출 이미지 데이터에 기반하여 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계를 포함하는,
곡물 평가 방법.
A method for evaluating grains, comprising:
acquiring first image data including grains to be evaluated;
obtaining a first identification result based on the first image data and a first identification model, wherein the first identification result indicates a category of the grain to be evaluated; and
Evaluating the grain to be evaluated according to the evaluation strategy corresponding to the first image data and the category of the grain to be evaluated, and obtaining an evaluation result,
The grain evaluation method further includes: performing feature enhancement processing on the first image data to obtain feature enhancement image data corresponding to the first image data;
Correspondingly, the step of obtaining the first identification result based on the first image data and the first identification model may include: the first identification result based on the feature-enhanced image data corresponding to the first image data and the first identification model comprising the steps of obtaining
performing feature enhancement processing on the first image data to obtain feature enhanced image data corresponding to the first image data,
converting the first image data into a gray scale image and performing contrast enhancement processing on the gray scale image to obtain contrast enhancement image data of the first image data; performing edge detection on the first image data to obtain edge detection image data; and
Comprising the step of obtaining feature-enhanced image data corresponding to the first image data based on the contrast-enhanced image data of the first image data and the edge detection image data,
Grain valuation methods.
제1항에 있어서,
상기 곡물 평가 방법은,
복수 개의 제2 이미지 정보를 획득하는 단계로서, 상기 제2 이미지 정보는 제2 이미지 데이터 및 대응되는 라벨 데이터를 포함하고; 상기 라벨 데이터는 곡물이 속하는 카테고리를 나타내는, 단계;
상기 제2 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 단계;
상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 데이터 강화 처리를 수행하여, 데이터 강화 이미지 데이터를 획득하는 단계; 및
상기 특징 강화 이미지 데이터 및 상기 데이터 강화 이미지 데이터 중 적어도 하나 및 대응되는 라벨 데이터에 기반하여 러닝 훈련을 수행하여, 상기 제1 식별 모델을 획득하는 단계를 더 포함하는,
곡물 평가 방법.
According to claim 1,
The grain evaluation method,
obtaining a plurality of second image information, wherein the second image information includes second image data and corresponding label data; wherein the label data indicates a category to which the grain belongs;
performing feature enhancement processing on the second image data to obtain feature enhancement image data corresponding to the second image data;
performing data enhancement processing on the feature-enhanced image data corresponding to the second image data to obtain data-enhanced image data; and
The method further comprising: performing learning training based on at least one of the feature-enhanced image data and the data-enhanced image data and corresponding label data to obtain the first identification model,
Grain valuation methods.
제2항에 있어서,
상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 데이터 강화 처리를 수행하여, 데이터 강화 이미지 데이터를 획득하는 단계는,
상기 제2 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 대해 회전 및 플립 중 적어도 하나를 수행하여, 상기 특징 강화 이미지 데이터에 대응되는 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나를 획득하고, 상기 플립 이미지 데이터 및 회전 이미지 데이터 중 적어도 하나에 기반하여 데이터 강화 이미지 데이터를 생성하는 단계를 포함하는,
곡물 평가 방법.
3. The method of claim 2,
performing data enhancement processing on the feature-enhanced image data corresponding to the second image data to obtain data-enhanced image data,
At least one of rotation and flip is performed on the feature-enhanced image data corresponding to the second image data to obtain at least one of flip image data and rotation image data corresponding to the feature-enhanced image data, and the flip image data and generating data-enhanced image data based on at least one of the rotation image data.
Grain valuation methods.
제1항에 있어서,
상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하는 단계는,
상기 평가될 곡물의 카테고리에 따라 대응되는 평가 전략을 획득하는 단계; 및
상기 평가 전략 및 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터에 따라 상기 평가될 곡물을 평가하는 단계를 포함하는,
곡물 평가 방법.
According to claim 1,
Evaluating the grain to be evaluated according to the evaluation strategy corresponding to the first image data and the category of the grain to be evaluated,
obtaining a corresponding evaluation strategy according to the category of the grain to be evaluated; and
evaluating the grain to be evaluated according to the evaluation strategy and feature-enhanced image data corresponding to the first image data,
Grain valuation methods.
제1항에 있어서,
상기 평가될 곡물의 카테고리에 대응되는 평가 전략은 상기 평가될 곡물의 카테고리에 대응되는 식감 등급 전략을 포함하는,
곡물 평가 방법.
According to claim 1,
The evaluation strategy corresponding to the category of grain to be evaluated includes a texture rating strategy corresponding to the category of grain to be evaluated,
Grain valuation methods.
곡물 평가 장치로서,
획득 모듈 및 처리 모듈을 포함하고;
상기 획득 모듈은, 평가될 곡물을 포함하는 제1 이미지 데이터를 획득하도록 구성되고;
상기 처리 모듈은, 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하고, 상기 제1 식별 결과는 상기 평가될 곡물의 카테고리를 나타내며; 상기 제1 이미지 데이터 및 상기 평가될 곡물의 카테고리에 대응되는 평가 전략에 따라 상기 평가될 곡물을 평가하여, 평가 결과를 획득하도록 구성되고,
상기 처리 모듈이 상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하도록 더 구성되고; 상응하게, 상기 제1 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 것은, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터 및 제1 식별 모델에 기반하여 제1 식별 결과를 획득하는 것을 포함하도록 더 구성되고,
상기 처리 모듈이 상기 제1 이미지 데이터에 대해 특징 강화 처리를 수행하여, 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 것은,
상기 제1 이미지 데이터를 그레이 스케일 이미지로 변환시켜, 상기 그레이 스케일 이미지에 대해 명암비 강화 처리를 수행하여, 상기 제1 이미지 데이터의 명암비 강화 이미지 데이터를 획득하는 것; 상기 제1 이미지 데이터에 대해 에지 검출을 수행하여, 에지 검출 이미지 데이터를 획득하는 것; 및
상기 제1 이미지 데이터의 명암비 강화 이미지 데이터 및 상기 에지 검출 이미지 데이터에 기반하여 상기 제1 이미지 데이터에 대응되는 특징 강화 이미지 데이터를 획득하는 것을 포함하도록 구성되는,
곡물 평가 장치.
A grain evaluation device, comprising:
an acquisition module and a processing module;
the acquiring module is configured to acquire first image data including the grain to be evaluated;
the processing module is configured to obtain a first identification result based on the first image data and a first identification model, wherein the first identification result indicates a category of the grain to be evaluated; and evaluate the grain to be evaluated according to the first image data and an evaluation strategy corresponding to the category of the grain to be evaluated, to obtain an evaluation result,
the processing module is further configured to perform feature enhancement processing on the first image data to obtain feature enhancement image data corresponding to the first image data; Correspondingly, obtaining the first identification result based on the first image data and the first identification model includes: obtaining the first identification result based on the feature-enhanced image data and the first identification model corresponding to the first image data. further configured to include obtaining,
The processing module performs feature enhancement processing on the first image data to obtain feature enhanced image data corresponding to the first image data,
converting the first image data into a gray scale image and performing contrast enhancement processing on the gray scale image to obtain contrast enhancement image data of the first image data; performing edge detection on the first image data to obtain edge detection image data; and
configured to include acquiring feature-enhanced image data corresponding to the first image data based on the contrast-enhanced image data and the edge detection image data of the first image data,
Grain appraisal device.
제6항에 있어서,
상기 평가될 곡물의 카테고리에 대응되는 평가 전략은 상기 평가될 곡물의 카테고리에 대응되는 식감 등급 전략을 포함하는,
곡물 평가 장치.
7. The method of claim 6,
The evaluation strategy corresponding to the category of grain to be evaluated includes a texture rating strategy corresponding to the category of grain to be evaluated,
Grain appraisal device.
곡물 평가 장치로서,
프로세서 및 프로세서에서 작동 가능한 컴퓨터 프로그램을 저장하기 위한 메모리를 포함하고;
상기 프로세서는 상기 컴퓨터 프로그램을 작동할 경우, 제1항 내지 제5항 중 어느 한 항에 따른 곡물 평가 방법의 단계를 실행하기 위한 것인,
곡물 평가 장치.
A grain evaluation device, comprising:
a processor and a memory for storing a computer program operable on the processor;
The processor, when operating the computer program, is for executing the steps of the method for evaluating grain according to any one of claims 1 to 5,
Grain appraisal device.
컴퓨터 프로그램이 저장되어 있는 컴퓨터 판독 가능한 저장 매체로서, 상기 컴퓨터 프로그램이 프로세서에 의해 실행될 경우 제1항 내지 제5항 중 어느 한 항에 따른 곡물 평가 방법의 단계를 실행하는,
컴퓨터 판독 가능한 저장 매체.
A computer readable storage medium having a computer program stored thereon, which when the computer program is executed by a processor executes the steps of the method for evaluating grain according to any one of claims 1 to 5,
A computer-readable storage medium.
삭제delete 삭제delete 삭제delete 삭제delete 삭제delete
KR1020217000926A 2018-06-15 2019-06-14 Grain evaluation methods, devices and storage media KR102453207B1 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201810621682.6 2018-06-15
CN201810621682.6A CN110610183A (en) 2018-06-15 2018-06-15 Grain evaluation method, grain evaluation device, and storage medium
PCT/CN2019/091399 WO2019238130A1 (en) 2018-06-15 2019-06-14 Grain evaluation method and device and storage medium

Publications (2)

Publication Number Publication Date
KR20210019089A KR20210019089A (en) 2021-02-19
KR102453207B1 true KR102453207B1 (en) 2022-10-07

Family

ID=68841744

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020217000926A KR102453207B1 (en) 2018-06-15 2019-06-14 Grain evaluation methods, devices and storage media

Country Status (4)

Country Link
JP (1) JP2021526646A (en)
KR (1) KR102453207B1 (en)
CN (1) CN110610183A (en)
WO (1) WO2019238130A1 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111579724B (en) * 2020-06-01 2022-07-12 中国标准化研究院 Rapid classification method and device for sensory sensitivity of tingling and peppery suprathreshold and application
CN111879735B (en) * 2020-07-22 2021-11-09 武汉大学 Rice appearance quality detection method based on image
CN114486877B (en) * 2020-10-23 2024-01-19 合肥美亚光电技术股份有限公司 Rice quality detection method, rice quality detection device and storage medium

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005055245A (en) * 2003-08-01 2005-03-03 Seirei Ind Co Ltd Apparatus and method for sorting grain
CN101701916A (en) * 2009-12-01 2010-05-05 中国农业大学 Method for quickly identifying and distinguishing variety of corn

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101234381B (en) * 2008-03-07 2011-09-07 天津市华核科技有限公司 Granular material sorting classifying method based on visual sense recognition
CN101398886B (en) * 2008-03-17 2010-11-10 杭州大清智能技术开发有限公司 Rapid three-dimensional face identification method based on bi-eye passiveness stereo vision
CN101271522A (en) * 2008-05-21 2008-09-24 中国农业大学 Automatic recognition method for yellow-colored rice in rice
CN102436589B (en) * 2010-09-29 2015-05-06 中国科学院电子学研究所 Complex object automatic recognition method based on multi-category primitive self-learning
JP5716234B2 (en) * 2010-12-28 2015-05-13 独立行政法人農業・食品産業技術総合研究機構 Harvest quality prediction system and harvest quality prediction method using cross-sectional images of rice to be harvested
JP6435740B2 (en) * 2014-09-22 2018-12-12 日本電気株式会社 Data processing system, data processing method, and data processing program
CN106198442A (en) * 2016-09-14 2016-12-07 南京财经大学 A kind of spectroscopic analysis methods differentiating Panjin rice
WO2018084612A1 (en) * 2016-11-02 2018-05-11 한국식품연구원 System for measuring quality of rice, method for evaluating palatability of rice, system for predicting germination rate of grain and method for predicting germination rate
CN107951485B (en) * 2017-11-27 2019-06-11 深圳市凯沃尔电子有限公司 Ambulatory ECG analysis method and apparatus based on artificial intelligence self study
CN108108767B (en) * 2017-12-29 2021-03-23 美的集团股份有限公司 Grain identification method and device and computer storage medium

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005055245A (en) * 2003-08-01 2005-03-03 Seirei Ind Co Ltd Apparatus and method for sorting grain
CN101701916A (en) * 2009-12-01 2010-05-05 中国农业大学 Method for quickly identifying and distinguishing variety of corn

Also Published As

Publication number Publication date
KR20210019089A (en) 2021-02-19
WO2019238130A1 (en) 2019-12-19
CN110610183A (en) 2019-12-24
JP2021526646A (en) 2021-10-07

Similar Documents

Publication Publication Date Title
CN108108767B (en) Grain identification method and device and computer storage medium
KR102453207B1 (en) Grain evaluation methods, devices and storage media
CN110399929B (en) Fundus image classification method, fundus image classification apparatus, and computer-readable storage medium
JP7413400B2 (en) Skin quality measurement method, skin quality classification method, skin quality measurement device, electronic equipment and storage medium
Radman et al. Automated segmentation of iris images acquired in an unconstrained environment using HOG-SVM and GrowCut
WO2020024585A1 (en) Method and apparatus for training object detection model, and device
CN108090518A (en) A kind of cereal recognition methods, device and computer storage media
CN108090517A (en) A kind of cereal recognition methods, device and computer storage media
KR102333500B1 (en) Grain recognition method, apparatus and computer readable storage medium
Mairon et al. A closer look at context: From coxels to the contextual emergence of object saliency
US20210118133A1 (en) System, method, apparatus and computer program product for the detection and classification of different types of skin lesions
CN116503932B (en) Method, system and storage medium for extracting eye periphery characteristics of weighted key areas
CN108875899A (en) Data processing method, device and system and storage medium for neural network
KR102430742B1 (en) Apparatus and method for developing space analysis model based on data augmentation
Chagnon-Forget et al. Enhanced visual-attention model for perceptually improved 3D object modeling in virtual environments
Raikwar et al. Calorie estimation from fast food images using support vector machine
Merkle et al. State of the art of quality assessment of facial images
CN114756115A (en) Interaction control method, device and equipment
RU2775808C9 (en) Neural network-based systems and computer-implemented methods for identifying and/or evaluating one or more food items present in a visual input
RU2775808C2 (en) Neural network systems and computer-implemented methods of identifying and/or evaluating one or more food products in visual input information
CN115937145B (en) Skin health visualization method, device and equipment based on big data analysis
CN108427937A (en) Stability region choosing method and device
CN112822426B (en) Method and equipment for generating high dynamic range image
CN112330666B (en) Image processing method, system, device and medium based on improved twin network
CN109543567B (en) Quantity determination method and device

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant