KR102155846B1 - Method and apparatus for sampling inspection using the rate of return of previous work - Google Patents

Method and apparatus for sampling inspection using the rate of return of previous work Download PDF

Info

Publication number
KR102155846B1
KR102155846B1 KR1020190120791A KR20190120791A KR102155846B1 KR 102155846 B1 KR102155846 B1 KR 102155846B1 KR 1020190120791 A KR1020190120791 A KR 1020190120791A KR 20190120791 A KR20190120791 A KR 20190120791A KR 102155846 B1 KR102155846 B1 KR 102155846B1
Authority
KR
South Korea
Prior art keywords
work
section
sampling
inspection
rejection rate
Prior art date
Application number
KR1020190120791A
Other languages
Korean (ko)
Inventor
박민우
김주영
Original Assignee
주식회사 크라우드웍스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 크라우드웍스 filed Critical 주식회사 크라우드웍스
Priority to KR1020190120791A priority Critical patent/KR102155846B1/en
Application granted granted Critical
Publication of KR102155846B1 publication Critical patent/KR102155846B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06316—Sequencing of tasks or work
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063—Operations research, analysis or management
    • G06Q10/0637—Strategic management or analysis, e.g. setting a goal or target of an organisation; Planning actions based on goals; Analysis or evaluation of effectiveness of goals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management

Landscapes

  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Engineering & Computer Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • Educational Administration (AREA)
  • Tourism & Hospitality (AREA)
  • Development Economics (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Game Theory and Decision Science (AREA)
  • Data Mining & Analysis (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

Provided are a method and an apparatus for a sampling inspection using the return rate of a previous job. The method includes the following steps of: allocating a crowdsourcing-based job for one single project to a plurality of workers; receiving a job result from each of the workers; dividing the job result of each of the workers into a plurality of sections as an inspection begins; allocating a job result corresponding to a first job section of the plurality of sections to at least one inspector; determining a sampling ratio of a job result corresponding to a second job section following the first job section based on the return rate of the first job section; and allocating a job result corresponding to the second job section to the at least one inspector by sampling the same in accordance with the determined sampling ratio. Therefore, the present invention is capable of quickly providing a reliable project result to a client.

Description

이전 작업의 반려율을 활용한 샘플링 검수 방법 및 장치{METHOD AND APPARATUS FOR SAMPLING INSPECTION USING THE RATE OF RETURN OF PREVIOUS WORK}Sampling inspection method and device utilizing the rejection rate of previous work {METHOD AND APPARATUS FOR SAMPLING INSPECTION USING THE RATE OF RETURN OF PREVIOUS WORK}

본 발명은 이전 작업의 반려율을 활용한 샘플링 검수 방법 및 장치에 관한 것이다.The present invention relates to a sampling inspection method and apparatus using the rejection rate of previous work.

최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.Recently, more and more companies collect and process large amounts of data on a crowdsourcing basis that engages the general public in some process of corporate activities. In other words, by opening a project and allowing the general public, that is, workers to participate in the project, necessary information is collected through the work results completed by the workers.

그리고, 기업은 보다 신뢰도가 높은 정보를 수집하기 위해, 작업자에 의해 완료된 작업 결과를 검수자에게 배정하여 검수 작업을 수행하도록 한다.And, in order to collect more reliable information, the company assigns the results of work completed by the worker to the inspector to perform the inspection work.

구체적으로, 하나의 프로젝트가 오픈되면, 복수의 작업자에게 각각 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다.Specifically, when one project is opened, each task is assigned to a plurality of workers. Each worker performs a plurality of tasks assigned to it, and provides the task results.

이후, 복수의 검수자 각각에게 작업 결과에 대한 복수의 검수 작업이 배정되고, 각각의 검수자는 배정받은 복수의 검수 작업을 수행하게 된다.Thereafter, a plurality of inspection tasks are assigned to each of the plurality of inspectors, and each inspector performs a plurality of inspection tasks assigned to them.

현재, 검수자의 검수 방법에 있어서, 하나의 프로젝트에 대한 복수의 작업 결과에 대해 기본적으로 전수 검수를 수행하는 것을 원칙으로 하고 있다.Currently, in the method of inspection by an inspector, it is a principle to basically perform full inspection on the results of multiple work for one project.

하지만, 하나의 프로젝트에 참여하는 검수자의 수는 작업자의 수에 비해 현저히 적기 때문에, 한명의 검수자에게 수많은 검수 작업이 배정되고 있어 검수자의 업무가 과중된다는 문제가 있다.However, since the number of inspectors participating in a project is considerably smaller than the number of workers, there is a problem that the inspector's work is heavy because numerous inspection tasks are assigned to one inspector.

또한, 전체 작업 결과에 대해 전수 검수를 기본으로 하고 있기 때문에, 검수가 필요 없는 작업임에도 불구하고 검수자에 의해 검수가 수행되고 있어, 검수자가 효율적으로 검수 작업을 수행해는 데에 어려움이 있다는 문제점이 있다.In addition, since the entire work result is based on full inspection, there is a problem that it is difficult for the inspector to efficiently perform the inspection work because the inspection is performed by the inspector even though the inspection is not necessary. .

공개특허공보 제10-2014-0095956호, 2014.08.04.Unexamined Patent Publication No. 10-2014-0095956, 2014.08.04.

본 발명의 실시예는 작업자의 작업 결과를 복수의 작업 구간으로 분할하고, 이전 작업 구간의 반려율에 기초하여 다음 작업 구간의 샘플링 비율을 결정하고, 결정된 샘플링 비율의 작업량만큼 검수자에게 검수량으로 할당함으로써 검수자로 하여금 검수 부담을 줄이고 검수 품질을 높일 수 있는 이전 작업의 반려율을 활용한 샘플링 검수 방법 및 장치를 제공한다.The embodiment of the present invention divides the work result of the worker into a plurality of work sections, determines the sampling rate of the next work section based on the rejection rate of the previous work section, and allocates the work amount of the determined sampling rate to the inspector as the inspection amount. By doing so, it provides a sampling inspection method and apparatus utilizing the rejection rate of previous work that can reduce the inspection burden and increase inspection quality.

본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.The problems to be solved by the present invention are not limited to the problems mentioned above, and other problems that are not mentioned will be clearly understood by those skilled in the art from the following description.

상술한 과제를 해결하기 위한 수단으로서, 본 발명의 제1 측면에 따른 이전 작업의 반려율을 활용한 샘플링 검수 방법은, 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자에게 할당하는 단계, 각각의 작업자로부터 작업 결과를 수신하는 단계, 검수가 시작됨에 따라 각각의 작업자의 작업 결과를 복수의 구간으로 분할하는 단계, 상기 복수의 구간 중 제1 작업 구간에 대응하는 작업 결과를 하나 이상의 검수자에게 할당하는 단계, 상기 제1 작업 구간의 반려율에 기초하여 상기 제1 작업 구간에 연속되는 제2 작업 구간에 대응하는 작업 결과의 샘플링 비율을 결정하는 단계, 및 상기 결정된 샘플링 비율에 따라 상기 제2 작업 구간에 대응하는 작업 결과를 샘플링하여 하나 이상의 검수자에게 할당하는 단계를 포함한다.As a means for solving the above-described problem, the sampling inspection method utilizing the rejection rate of the previous work according to the first aspect of the present invention comprises: allocating a crowdsourcing-based work for one project to a plurality of workers, Receiving work results from each worker, dividing the work results of each worker into a plurality of sections as inspection starts, and sending the work results corresponding to the first work section of the plurality of sections to one or more inspectors Allocating, determining a sampling rate of a work result corresponding to a second work period continuous to the first work period based on the rejection rate of the first work period, and the second in accordance with the determined sampling rate And sampling the work results corresponding to the work section and assigning them to one or more inspectors.

또한, 본 발명의 제2 측면에 따른 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어, 상술한 이전 작업의 반려율을 활용한 샘플링 검수 방법을 실행시키며, 컴퓨터 판독가능 기록매체에 저장된다.Further, the computer program according to the second aspect of the present invention is combined with a computer which is hardware, executes the sampling verification method utilizing the rejection rate of the previous work, and is stored in a computer-readable recording medium.

또한, 본 발명의 제3 측면에 따른 이전 작업의 반려율을 활용한 샘플링 검수 장치는, 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자에게 송신하고, 상기 복수의 작업자로부터 작업 결과를 수신하며, 상기 복수의 작업자로부터 입력된 작업 결과를 복수의 검수자에게 송신하고, 상기 복수의 검수자로부터 검수 결과를 수신하는 통신모듈, 상기 통신모듈로부터 수신한 데이터 및 이전 작업의 반려율을 활용한 샘플링 검수 방법을 실행시키기 위한 프로그램이 저장된 메모리, 및 상기 메모리에 저장된 프로그램을 실행시킴에 따라, 상기 복수의 작업자로부터 입력된 작업량에 기초하여 검수 시작 여부를 결정하고, 상기 검수가 시작됨에 따라 각각의 작업자의 작업 결과를 복수의 구간으로 분할하며, 상기 복수의 구간 중 제1 작업 구간에 대응하는 작업 결과를 하나 이상의 검수자에게 할당하고, 상기 복수의 구간 중 제1 작업 구간의 반려율에 기초하여 상기 제1 작업 구간에 연속되는 제2 작업 구간에 대응하는 작업 결과의 샘플링 비율을 결정하고, 상기 결정된 샘플링 비율에 따라 제2 작업 구간에 대응하는 작업 결과를 샘플링하여 하나 이상의 검수자에게 할당하는 프로세서를 포함한다.In addition, the sampling inspection device using the rejection rate of previous work according to the third aspect of the present invention transmits a crowdsourcing-based work for one project to a plurality of workers, and receives work results from the plurality of workers. And, a communication module that transmits the work results input from the plurality of workers to a plurality of inspectors and receives the inspection results from the plurality of inspectors, the data received from the communication module, and sampling inspection using the rejection rate of previous work A memory in which a program for executing the method is stored, and as the program stored in the memory is executed, it is determined whether to start inspection based on the amount of work input from the plurality of workers, and as the inspection starts, each worker's The work result is divided into a plurality of sections, the work result corresponding to the first work section among the plurality of sections is allocated to one or more inspectors, and the first of the plurality of sections is based on the rejection rate of the first work section. And a processor that determines a sampling rate of the work result corresponding to the second work period consecutive to the work period, samples the work result corresponding to the second work period according to the determined sampling rate, and assigns it to one or more inspectors.

이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체가 더 제공될 수 있다.In addition to this, another method for implementing the present invention, another system, and a computer-readable recording medium for recording a computer program for executing the method may be further provided.

본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.Other specific details of the present invention are included in the detailed description and drawings.

전술한 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 많은 작업량을 포함하는 프로젝트 내의 모든 작업에 대하여 전수 검수하지 않고, 이전 작업 구간에 대한 반려율을 확인하여 다음 작업 구간의 검수 샘플량을 결정하여 검수자에게 할당함으로써, 의뢰자에게 신속하면서도 신뢰도가 보장된 프로젝트 결과를 제공할 수 있다.According to any one of the above-described problem solving means of the present invention, not all tasks in the project including a large amount of work are completely inspected, but the rejection rate for the previous work section is checked, and the inspection sample amount of the next work section is determined. By assigning it to the inspector, it is possible to provide the client with a project result that is fast and reliable.

또한, 검수자 역시 배정되는 검수 작업의 수가 전반적으로 감소되게 되는바, 검수자의 업무 및 관련 비용이 줄어들고, 또한 작업 결과에 대한 반려율이 높은 경우에 한해 보다 집중적으로 검수자가 검수를 하게끔 할 수 있어 효율적인 검수 작업이 수행되도록 할 수 있다.In addition, since the number of inspection tasks assigned to the inspector is also reduced overall, the inspector's work and related costs are reduced, and the inspector can more intensively perform the inspection only when the rejection rate for the work result is high. You can have the inspection work performed.

특히, 반려율이 낮은 경우 마지막 작업 구간에 대해서는 검수를 하지 않게 하거나 극히 일부만을 검수하도록 함으로써, 검수자에게 배정되는 검수 작업의 수가 전반적으로 감소되는바, 검수자의 검수 작업 과다 및 적체로 인한 프로젝트의 병목현상을 방지할 수 있다.In particular, when the rejection rate is low, the number of inspection tasks assigned to the inspector is generally reduced by not inspecting the last work section or inspecting only a small part of it, the bottleneck of the project due to excessive and congestion of inspectors. It can prevent the phenomenon.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to the effects mentioned above, and other effects not mentioned will be clearly understood by those skilled in the art from the following description.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 이전 작업의 반려율을 활용한 샘플링 검수 방법의 순서도이다.
도 4는 하나의 프로세스에 대한 작업자의 작업 내역의 일 예시를 도시한 도면이다.
도 5는 하나의 프로세스를 복수의 작업 구간으로 분할한 일 예시를 도시한 도면이다.
도 6은 복수의 작업 구간에 대한 검수 방법을 설명하기 위한 일 예시도이다.
도 7은 본 발명의 일 실시예에 따른 이전 작업의 반려율을 활용한 샘플링 검수 장치를 설명하기 위한 도면이다.1 is a conceptual diagram of a crowdsourcing service according to an embodiment of the present invention.
2 is a flowchart illustrating a crowdsourcing-based project progress process according to an embodiment of the present invention.
3 is a flowchart of a sampling inspection method using a rejection rate of a previous operation according to an embodiment of the present invention.
4 is a diagram illustrating an example of a work history of a worker for one process.
5 is a diagram illustrating an example in which one process is divided into a plurality of work sections.
6 is an exemplary diagram for explaining an inspection method for a plurality of work sections.
7 is a diagram for explaining a sampling inspection apparatus using a rejection rate of a previous operation according to an embodiment of the present invention.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. Advantages and features of the present invention, and a method of achieving them will become apparent with reference to the embodiments described below in detail together with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in a variety of different forms, only the present embodiments are intended to complete the disclosure of the present invention, It is provided to fully inform the technician of the scope of the present invention, and the present invention is only defined by the scope of the claims.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.The terms used in the present specification are for describing exemplary embodiments and are not intended to limit the present invention. In this specification, the singular form also includes the plural form unless specifically stated in the phrase. As used in the specification, “comprises” and/or “comprising” do not exclude the presence or addition of one or more other elements other than the mentioned elements. Throughout the specification, the same reference numerals refer to the same elements, and “and/or” includes each and all combinations of one or more of the mentioned elements. Although "first", "second", and the like are used to describe various elements, it goes without saying that these elements are not limited by these terms. These terms are only used to distinguish one component from another component. Therefore, it goes without saying that the first component mentioned below may be the second component within the technical idea of the present invention.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.Unless otherwise defined, all terms (including technical and scientific terms) used in the present specification may be used as meanings that can be commonly understood by those of ordinary skill in the art to which the present invention belongs. In addition, terms defined in a commonly used dictionary are not interpreted ideally or excessively unless explicitly defined specifically.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다. Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.1 is a conceptual diagram of a crowdsourcing service according to an embodiment of the present invention.

도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.Referring to FIG. 1, a crowdsourcing service is performed by being composed of a client 10, a service provider 20, and a public 30.

의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.The sponsor 10 refers to a company or individual who requests a crowdsourcing-based project (hereinafter, referred to as a project).

의뢰자(10)는 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.The requester 10 requests a project for the purpose of collecting source data or annotating data. Collection of source data refers to collecting raw data such as recorded voice collection and photo collection. Data annotation refers to inputting relevant annotation data into source data such as text, photos, and videos. For example, the data annotation may include finding an entity in a given fingerprint or finding a similar sentence, but is not limited thereto. Meanwhile, the types of the above-described projects are only one embodiment, and various projects may be handled in the present invention according to the design of the client.

서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.The service provider 20 refers to a company that provides crowdsourcing services.

서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰 받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.When the service provider 20 receives a request for a project for a product or service from the client 10, the service provider 20 allocates a task for the project to the general public 30 and receives the work result from the public 30. Thereafter, the final product extracted based on the work result is provided to the client 10.

이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰 받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.At this time, the service provider 20 provides a crowdsourcing service to the client 10 and the public 30 through a crowdsourcing platform (hereinafter, the platform). That is, when the service provider 20 receives a request for a project from the client 10, the service provider 20 opens the project on the platform. Thereafter, when the work result for the open project is received from the public 30, the project is terminated on the platform, and the final product may be extracted and provided to the client 10.

대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다. The public 30 refers to the general public participating in the project open on the platform. Here, the public 30 may participate in a project opened on the platform through an application or website provided by the service provider 20.

대중(30)은 작업자(32) 및 검수자(34)로 구성된다.The public 30 is composed of a worker 32 and an inspector 34.

작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.The worker 32 decides to participate in a specific project among a plurality of projects open on the platform. Thereafter, the operator 32 performs an operation such as collection of source data or data annotation, and transmits it to the platform.

검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 작업 통과 또는 반려를 할 수 있고, 작업 반려 시 반려 사유를 입력할 수 있다.The inspector 34 decides to participate in a specific project among a plurality of projects open on the platform. Thereafter, the inspector 34 inspects the result of the work performed by the operator 32. As a result of performing the inspection, the inspector 34 may pass or reject the job, and may input a reason for rejection when returning the job.

도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다. 2 is a flowchart illustrating a crowdsourcing-based project progress process according to an embodiment of the present invention.

먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).First, the requester 10 requests one or more projects to the service provider 20 (S11).

이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.Thereafter, the service provider 20 opens the requested project on the platform (S12). At this time, the service provider 20 may determine the grade in consideration of the difficulty of the project before opening the project. That is, depending on the difficulty level, it is possible to determine which level or higher public 30 to expose the project. Accordingly, it is possible to increase the reliability of the work result of the project.

이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 배정한다(S13).Thereafter, the service provider 20 allocates a task to the workers 32 of the corresponding grade or higher according to the grade of the project (S13).

이후, 작업자(32)는 배정된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다. Thereafter, the worker 32 performs the assigned task (S14). In this case, the worker 32 may input the reason for the inability to work without performing the work for a work in which the work itself is impossible for some reason.

이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 배정한다(S16).Thereafter, the service provider 20 receives the work result from the worker 32 (S15), and assigns the inspection work on the work result to the inspector 34 (S16).

이후, 검수자(34)는 배정된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 제대로 수행된 것으로 판단하면 검수 통과를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려를 결정한다. 반려 결정 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.Thereafter, the inspector 34 performs the assigned inspection (S17). At this time, the inspector 34 decides to pass the inspection when it is determined that the work has been properly performed, and determines rejection when it is determined that the inspection work is wrong. When deciding to reject, the inspector 34 inputs the rejection reason for what reason the task was judged to be wrong.

이때, 본 발명의 일 실시예는 검수자(34)에게 검수량을 할당함에 있어, 이전 작업 구간에 대한 반려율을 산출하고, 이에 기초하여 당해 작업 구간에 대한 샘플 작업량을 결정하여 검수자(34)에게 할당함으로써, 일정 신뢰도를 확보함과 동시에 검수자(34)의 검수 부담을 최소화시킬 수 있는 것을 특징으로 한다.At this time, in an embodiment of the present invention, in allocating the inspection amount to the inspector 34, the rejection rate for the previous work section is calculated, and the sample work amount for the relevant work section is determined based on this to the inspector 34 By allocating, it is possible to secure a certain degree of reliability and minimize the inspection burden on the inspector 34.

이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18). Thereafter, the service provider 20 receives the inspection result from the inspector 34 (S18).

검수 결과가 통과인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.If the inspection result is Pass, the service provider 20 uses the work result as valid data, and based on this, extracts the final product at the end of the project.

검수 결과가 반려인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 작업을 수행하게 할 수도 있다.If the inspection result is rejected, the service provider 20 may internally perform the inspection again or assign the job again to the worker 32 to perform the job.

이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).Thereafter, when the project period ends or sufficient valid data is secured, the service provider 20 terminates the project (S19), calculates a final result based on the secured valid data, and provides it to the client 10 ( S20).

이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.At this time, before the end of the project, the service provider 20 evaluates the performance results of the worker 32 and the inspector 34, calculates the work cost and the inspection cost according to the evaluation, to the worker 32 and the inspector 34. give.

한편, 도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.Meanwhile, in FIGS. 1 and 2, the client 10, the service provider 20, the worker 32, and the inspector 34 are simply expressed, but these are smartphones, tablets, PDAs, and laptops operated by each participant. It means a computer device or a telecommunication device such as a desktop or a server.

도 3은 본 발명의 일 실시예에 따른 이전 작업의 반려율을 활용한 샘플링 검수 방법의 순서도이다. 도 4는 하나의 프로세스에 대한 작업자(32)의 작업 내역의 일 예시를 도시한 도면이다. 도 5는 하나의 프로세스를 복수의 작업 구간으로 분할한 일 예시를 도시한 도면이다. 도 6은 복수의 작업 구간에 대한 검수 방법을 설명하기 위한 일 예시도이다.3 is a flowchart of a sampling inspection method using a rejection rate of a previous operation according to an embodiment of the present invention. 4 is a view showing an example of the work history of the worker 32 for one process. 5 is a diagram illustrating an example in which one process is divided into a plurality of work sections. 6 is an exemplary diagram for explaining an inspection method for a plurality of work sections.

한편, 도 3에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.Meanwhile, the steps shown in FIG. 3 may be understood as being performed by a platform server (hereinafter, referred to as a server) operated by the service provider 20, but are not limited thereto.

도 3을 참조하면, 서버는 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 할당하고(S110), 복수의 작업자(32) 각각으로부터 작업 결과를 입력받아 수신한다(S120). Referring to FIG. 3, the server allocates a crowdsourcing-based task for one project to a plurality of workers 32 (S110), and receives and receives a task result from each of the plurality of workers 32 (S120). .

여기에서, 하나의 프로젝트에는 복수의 작업이 포함될 수 있으며, 복수의 작업은 종류에 따라 복수의 태스크로 그룹화될 수 있고, 또는 각각의 작업이 서로 다른 종류의 작업일 수도 있으며, 동일한 작업일 수도 있지만, 이에 제한되는 것은 아니다.Here, one project may contain multiple jobs, and the plurality of jobs may be grouped into a plurality of tasks according to their type, or each job may be a different type of job or the same job. , But is not limited thereto.

이때, 본 발명의 일 실시예는 하나의 프로젝트 내에 포함된 전체 작업량이 복수의 검수자(34)보다 더 많은 것을 특징으로 한다.At this time, an embodiment of the present invention is characterized in that the total amount of work included in one project is greater than that of the plurality of inspectors 34.

즉, 크라우드소싱 기반의 서비스에서는 선별되는 검수자(35)가 자유롭게 참여 가능한 작업자(32)보다 항상 절대적으로 부족하기 때문에, 본 발명의 일 실시예는 검수자(34) 대비 작업량이 너무나도 많은 경우에 보다 효율적일 수 있다. 다시 말해, 해당 프로젝트에 대해 높은 품질을 요하는 경우, 작업 결과에 대해 샘플링 검수를 수행함으로써 검수량을 줄이는 것을 목표로 한다.That is, in a crowdsourcing-based service, since the selected inspector 35 is always absolutely insufficient than the freely participating operator 32, an embodiment of the present invention is more efficient when the workload is too large compared to the inspector 34. I can. In other words, if high quality is required for the project, it aims to reduce the amount of inspection by performing sampling inspection on the work results.

하지만 이는 일 실시예에 불과하며, 작업량이 검수자(34)의 수보다 적은 경우에도 본 발명의 실시예들이 적용될 수 있음은 물론이다.However, this is only an example, and it goes without saying that the embodiments of the present invention may be applied even when the amount of work is less than the number of inspectors 34.

또한, 본 발명의 일 실시예는 작업 건수가 너무나도 적은 프로젝트의 경우 복수의 작업 구간으로 분할하지 않고 전수 검수를 시행하거나, 어느 정도 작업량이 쌓이기 전까지는 검수 자체를 시작하지 않도록 할 수 있다. In addition, according to an embodiment of the present invention, in the case of a project with an extremely small number of work, the entire inspection may be performed without dividing into a plurality of work sections, or the inspection itself may not be started until a certain amount of work is accumulated.

즉, 본 발명의 일 실시예는 프로젝트의 성격에 따라 확보해야 하는 데이터 수가 기 설정된 기준 데이터 수 이상인 경우 샘플링 검수를 적용할 수 있고, 확보해야 하는 데이터 수가 상기 기준 데이터 수 미만인 경우에는 전수 검수를 적용하는 등, 프로젝트 별로 샘플링 검수 적용 여부를 결정할 수 있다.In other words, according to an embodiment of the present invention, when the number of data to be secured according to the nature of the project is greater than or equal to the preset reference data number, sampling inspection may be applied, and when the number of data to be secured is less than the reference data number, full inspection is applied. It is possible to decide whether to apply sampling inspection or not for each project.

한편, 복수의 작업자(32)나 복수의 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.On the other hand, a plurality of workers 32 or a plurality of inspectors 34 perform a task using a predetermined terminal device. The terminal device of the worker 32 may be a computer device or a telecommunication device such as a smart phone, tablet, PDA, laptop, desktop, etc., but is not limited thereto.

일 실시예로, 본 발명은 복수의 작업자(32)로부터 입력된 전체 작업량에 기초하여 검수 시작 여부를 결정할 수 있다.In one embodiment, the present invention may determine whether to start inspection based on the total amount of work input from the plurality of workers 32.

즉, 본 발명의 일 실시예는 프로젝트가 오픈되어 작업자(32)의 작업 참여가 시작되고 난 이후, 즉시 실시간 검수를 수행하는 것이 아니라, 복수의 작업자(32) 전체로부터 현재까지 입력된 작업량이 기 설정된 작업량 이상인 경우 검수가 시작될 수 있다.That is, one embodiment of the present invention does not immediately perform real-time inspection after the project is opened and the worker 32 begins to participate in the work, but the amount of work input from the entire plurality of workers 32 If it is more than the set amount of work, inspection can be started.

예를 들어, 현재까지의 각 작업자별 작업 현황으로 작업자 A가 50건, 작업자 B가 10건, 작업자 C가 100건을 수행한 상태이고, 검수를 시작하기 위해 설정된 작업량이 150건인 경우, 세 명의 작업자의 전체 작업량이 160건으로 150건을 초과한 상태이므로 검수를 시작하게 된다. 이는 서버가 실시간 또는 기 설정된 주기마다 전체 작업량을 체크할 수 있다.For example, if worker A has performed 50, worker B has performed 10, and worker C has performed 100, and the amount of work set to start inspection is 150, three Since the total work volume of the worker exceeds 150 with 160, the inspection starts. This allows the server to check the total workload in real time or at preset cycles.

또한, 본 발명의 일 실시예는 검수가 시작됨에 따라 최소 작업량과 복수의 작업자(32)별 현재 작업량을 비교하여 각 작업자별 샘플링 검수 여부를 결정할 수 있다.In addition, according to an embodiment of the present invention, as the inspection starts, it is possible to determine whether to inspect the sampling for each worker by comparing the minimum workload and the current workload for each of the plurality of workers 32.

즉, 검수가 시작되는 시점에서 각 작업자들의 현재 작업량을 샘플링 검수를 적용하기 위한 최소 작업량과 비교한 결과, 현재 작업량이 최소 작업량 이상인 작업자에게는 샘플링 검수를 적용하고, 현재 작업량이 최소 작업량 미만인 작업자에게는 샘플링 검수를 적용하지 않으며, 해당 프로젝트는 샘플링 검수를 적용하기로 전제되어 있기에, 현재 작업량이 최소 작업량 미만인 작업자에 대해서는 검수를 개시하지 않는다.In other words, as a result of comparing the current workload of each worker with the minimum workload for applying the sampling inspection at the time the inspection starts, sampling inspection is applied to workers whose current workload is more than the minimum workload, and sampling to workers whose current workload is less than the minimum workload. Since inspection is not applied, and the project is premised to apply sampling inspection, inspection is not initiated for workers whose current workload is less than the minimum amount of work.

예를 들어, 최소 작업량이 20건이고, 작업자 A의 현재 작업량이 50건, 작업자 B의 현재 작업량이 10건, 작업자 C의 현재 작업량이 100건이므로, 작업자 A와 작업자 C에 대해서는 샘플링 검수를 시작하게 되며, 작업자 B에 대해서는 샘플링 검수를 진행하지 않는다.For example, since the minimum workload is 20, worker A's current workload is 50, worker B's current workload is 10, and worker C's current workload is 100, sampling inspection is started for worker A and worker C. The sampling inspection is not performed for worker B.

다만, 검수가 시작된 이후 샘플링 검수를 수행하지 않기로 결정된 작업자(32)의 작업량이 최소 작업량 이상이 된 경우, 다시 샘플링 검수를 시작할 수 있다.However, if the workload of the operator 32, which is determined not to perform the sampling inspection after the inspection starts, becomes more than the minimum workload, the sampling inspection may be started again.

즉, 전술한 예시에서 작업자 B에 대해서는 검수를 시작하지 않지만, 작업자 B가 추가적으로 작업을 수행하여 현재 작업량이 20건 이상이 된 경우에는, 작업자 B에 대해서도 샘플링 검수를 적용하여 검수자를 투입할 수 있다.That is, in the above example, the inspection is not started for worker B, but when worker B additionally performs the work and the current workload is more than 20, the inspector can be applied by applying sampling inspection to worker B as well. .

한편, 최소 작업량은 검수 가능 수량과 신뢰도에 따라 유동적으로 결정될 수 있으며, 신뢰도는 의뢰자(10)가 요구한 수준 또는 프로젝트의 성격에 따라 결정될 수 있다. Meanwhile, the minimum amount of work may be determined flexibly according to the quantity and reliability available for inspection, and the reliability may be determined according to the level requested by the client 10 or the nature of the project.

또한, 본 발명의 일 실시예는 프로젝트의 전체적인 작업 결과가 사전에 설정된 작업 목표량을 초과한 경우도 불구하고, 작업자(32)가 최소 작업량을 도과하지 못한 경우, 작업 결과에 대한 신뢰도를 확보하기 위해 해당 작업자(32)에게는 전수 검수를 적용할 수 있다.In addition, an embodiment of the present invention is to secure reliability of the work result when the worker 32 fails to exceed the minimum amount of work even if the overall work result of the project exceeds the preset work target amount. A total inspection can be applied to the worker 32.

즉, 전술한 예시에서 해당 프로젝트의 작업 목표량이 500건이고, 500건이 도달할 때까지 작업자 B가 20건 이상을 작업하지 못한 경우, 작업자 B의 작업에 대해서는 샘플링 검수를 적용하지 않고 검수를 수행하지 않고 있다가, 프로젝트 작업 목표량인 500건 도달 이후에는 작업자 B가 수행한 작업에 대해 전수 검사를 실시하게 된다. In other words, in the above example, if the target amount of work for the project is 500, and worker B fails to work more than 20 tasks until 500 tasks are reached, the inspection is not performed without applying sampling inspection to worker B's work. In the meantime, after reaching the project work target of 500, the entire work performed by worker B will be inspected.

다음으로, 검수가 시작됨에 따라 각각의 작업자의 작업 결과를 복수의 구간으로 분할한다(S130).Next, as the inspection starts, the work result of each worker is divided into a plurality of sections (S130).

도 4 및 도 5를 참조하면, '작업자 A'는 하나의 프로젝트 내에 포함된 복수의 작업을 수행하게 된다. 이때, 각각의 작업들은 서로 동일한 시간이 소요되거나 또는 난이도에 따라 좀 더 많은 시간이 소요되는 경우도 있다.Referring to FIGS. 4 and 5, the'worker A'performs a plurality of tasks included in one project. In this case, each of the tasks may take the same amount of time or may take more time depending on the difficulty.

이러한 작업의 난이도나 소요 시간, 능숙도 등은 각각의 작업마다 그리고 작업이 진행되는 초기, 중기 등의 프로젝트 진행도에 따라 점차적으로 향상되는 것이 일반적이다.In general, the difficulty, required time, and proficiency of such work are gradually improved according to the progress of the project for each task and in the early and mid-term of the work.

이러한 점을 고려하여, 본 발명의 일 실시예는 각각의 작업자의 작업 결과를 복수의 구간으로 분할함에 있어서, 도 5에 도시된 바와 같이 초기 작업 구간, 중기 작업 구간 및 능숙 작업 구간으로 분할할 수 있다. 이때, 중기 작업 구간은 필요에 따라 복수 개의 작업 구간으로 더 분할할 수도 있다.In consideration of this point, in the embodiment of the present invention, in dividing the work result of each worker into a plurality of sections, as shown in FIG. 5, it can be divided into an initial work section, a mid-term work section, and a skilled work section have. In this case, the mid-term work section may be further divided into a plurality of work sections as necessary.

예를 들어, 복수의 작업 구간을 구분하는 비율은 검수자(34)의 수와 전체 작업량에 기반하여 산출된 검수 가능 수량 정보 및 신뢰도에 기초하여 결정될 수 있다. For example, the ratio of dividing the plurality of work sections may be determined based on the number of inspectors 34 and the reliability and information on the number of inspectors calculated based on the total amount of work.

도 5의 예시에서는 초기 작업 구간은 20%, 중기 작업 구간은 50%, 능숙 작업 구간은 30%으로 구분된 것이 도시되어 있다.In the example of FIG. 5, it is shown that the initial work section is divided into 20%, the mid-term work section is divided into 50%, and the proficient work section is divided into 30%.

일 예시로, 작업 결과물에 대한 신뢰도가 높게 설정된 경우에는, 초기에 전수 검수하는 작업량이 많을수록 신뢰도가 높기 때문에, 초기 작업 구간은 50%, 중기 작업 구간은 30%, 능숙 작업 구간은 20%로 분할할 수 있다.As an example, if the reliability of the work result is set to be high, the reliability is high as the amount of work to be inspected initially increases, so the initial work section is divided into 50%, the mid-term work section is 30%, and the proficient work section is divided into 20%. can do.

그리고 작업 결과물에 대한 신뢰도가 낮게 설정된 경우에는, 즉 신뢰도는 낮되 빠른 작업 결과를 원하는 경우에는, 초기에 전수 검수하는 작업량이 적을수록 신뢰도가 낮기 때문에, 초기 작업 구간은 20%, 중기 작업 구간은 30%, 검수를 전부 통과하거나 일부만을 검수하는 능숙 작업 구간은 50%로 분할할 수 있다.And if the reliability of the work result is set to be low, that is, if the reliability is low but a quick work result is desired, the reliability is low as the amount of work to be inspected initially decreases. %, the proficient work section that passes all or only part of the inspection can be divided into 50%.

여기에서 미리 설정된 비율은 신뢰도에 따라 서버에 의해 미리 설정되는 것일 수 있다. 즉, 서버는 의뢰자(10)가 요구한 수준 또는 프로젝트의 성격에 따라 요구되는 수준의 신뢰도가 높을수록 해당 비율을 낮게 설정할 수 있다.Here, the preset ratio may be preset by the server according to the reliability. That is, the server may set the corresponding ratio lower as the reliability of the level requested by the client 10 or the level required according to the nature of the project is higher.

또 다른 예로, 복수의 작업 구간을 분할하는 비율을 동일 또는 기 설정된 유사도를 갖는 프로젝트를 참조하여 결정할 수 있다.As another example, the ratio of dividing a plurality of work sections may be determined with reference to a project having the same or preset similarity.

즉, 본 발명의 일 실시예는 이미 수행된 특정 프로젝트와 기 설정된 유사도를 갖는 타 프로젝트의 분할된 작업 구간의 개수 및 작업량 비율 등을 적용할 수 있다.That is, according to an embodiment of the present invention, the number of divided work sections and the ratio of the work amount of a specific project that has already been performed and another project having a preset similarity may be applied.

일 실시예로, 기 설정된 유사도는 타 프로젝트와 해당 프로젝트 간의 전체 또는 일부 키워드 분석, 이미지 분석, 요약서 분석 등을 하나 이상 수행한 결과, 임계치 이상의 일치도를 갖는 경우 기 설정된 유사도를 갖는 것으로 취급할 수 있다.In one embodiment, a preset similarity may be treated as having a preset similarity when it has a degree of agreement greater than or equal to a threshold value as a result of performing one or more analysis of all or part of keywords, image analysis, and summary analysis between other projects and the project. .

또는, 의뢰자(10) 또는 관리자에 의해 타 프로젝트가 특정된 경우 특정된 타 프로젝트를 해당 프로젝트와 기 설정된 유사도를 갖는 것으로 취급할 수도 있다.Alternatively, when another project is specified by the client 10 or the manager, the specified other project may be treated as having a preset similarity to the corresponding project.

이와 같이 결정된 복수의 구간을 분할하는 비율은 검수가 시작된 시점을 기준으로 입력된 각 작업자별 작업량에 대하여 일괄 적용될 수 있다.The ratio of dividing the plurality of sections determined as described above may be applied collectively to the input amount of work for each worker based on the time when the inspection started.

예를 들어, 전술한 예시에서 A가 50건, 작업자 B가 10건, 작업자 C가 100건을 수행하여 검수 시작 조건인 총 150건을 초과한 상태로 검수가 시작됨에 따라, 복수의 구간을 분할하는 비율이 초기 작업 구간 20%, 중기 작업 구간 50%, 능숙 작업 구간 30%로 설정된 경우, 초기 작업 구간, 중기 작업 구간 및 능숙 작업 구간의 작업량은 일괄 적용되어, 작업자 A의 경우 10건, 25건, 15건, 작업자 작업자 C의 경우 20건, 50건, 30건으로 적용된다. 이때, 작업자 B는 최소 작업량을 달성하지 못한 상태이므로 검수가 시작되지 않아 해당 비율을 적용받을 수 없다.For example, in the above example, as the inspection starts with 50 cases of A, 10 cases of worker B, and 100 cases of worker C. When the percentage of work done is set to 20% of the initial work section, 50% of the mid-term work section, and 30% of the proficient work section, the amount of work in the initial work section, mid-term work section, and proficient work section is applied collectively, and for worker A, 10 cases, 25 Cases, 15 cases, worker C, 20 cases, 50 cases, and 30 cases are applied. At this time, worker B is in a state that has not achieved the minimum amount of work, so the inspection cannot be started and the ratio cannot be applied.

한편, 본 발명의 일 실시예는 복수의 구간을 초기 작업 구간, 중기 작업 구간 및 능숙 작업 구간으로 분할할 수 있으며, 이때 복수의 구간이 분할된 이후 작업자(32)에 의해 입력된 작업 결과는 능숙 작업 구간으로 할당될 수 있다.On the other hand, an embodiment of the present invention may divide a plurality of sections into an initial work section, a mid-term work section, and a proficient work section, and at this time, the work result input by the worker 32 after the plurality of sections are divided is proficient. It can be assigned as a work section.

예를 들어, 전술한 예시에서 작업자 A는 작업량이 50건인 상태이며, 중기 작업 구간이 50%, 능숙 작업 구간이 30%일 때, 작업자 A가 추가적으로 작업량 α만큼을 더 수행한 경우, 중기 작업 구간 25건에 대해서는 중기 작업 구간에 대한 샘플링 검수를 수행한 후, 능숙 작업 구간에 대해서는 15건+α만큼을 대상으로 샘플링 검수를 할 수 있다.For example, in the above example, when worker A has 50 work loads, and when the mid-term work section is 50% and the proficient work section is 30%, when worker A additionally performs the amount of work α, the mid-term work section For 25 cases, sampling inspection for the mid-term work section can be performed, and 15 cases + α for the proficient work section can be sampled.

이와 같이 샘플링 검수가 시작되고 나면, 서버는 복수의 구간 중 제1 작업 구간에 대응하는 작업 결과를 하나 이상의 검수자(34)에게 할당하여 검수 요청하고(S140), 검수 결과에 기초하여 제1 작업 구간에 대한 반려율을 산출한다(S150).After the sampling inspection is started in this way, the server allocates the work result corresponding to the first work section among the plurality of sections to one or more inspectors 34 to request the inspection (S140), and the first work section based on the inspection result The rejection rate for is calculated (S150).

그리고, 서버는 산출된 제1 작업 구간의 반려율에 기초하여 제1 작업 구간에 연속되는 제2 작업 구간에 대한 작업량의 샘플링 비율을 결정하고(S160), 결정된 샘플링 비율에 따라 제2 작업 구간에 대응하는 작업 결과를 하나 이상의 검수자(34)에게 할당하여 검수 요청한다(S170).In addition, the server determines a sampling rate of the amount of work for the second work section consecutive to the first work section based on the calculated rejection rate of the first work section (S160), and in the second work section according to the determined sampling rate. The corresponding work results are assigned to one or more inspectors 34 to request inspection (S170).

일 실시예로, 도 6을 참조하면 복수의 구간 중 제1 작업 구간에 대응하는 작업 결과를 하나 이상의 검수자(34)에게 할당함에 있어서, 제1 작업 구간이 초기 작업 구간인 경우, 제1 작업 구간에 해당하는 작업 결과를 하나 이상의 검수자(34)에게 전수 검수하도록 할당할 수 있다.As an embodiment, referring to FIG. 6, in allocating a work result corresponding to a first work section among a plurality of sections to one or more inspectors 34, when the first work section is an initial work section, the first work section It is possible to allocate the results of the work corresponding to the one or more inspectors (34) for full inspection.

즉, 초기 작업 구간으로 분할된 구간은 이전에 작업한 구간이 존재하지 않아, 반려율을 고려하여 검수할 작업 결과 샘플링 비율을 결정할 수 없기 때문에, 초기 작업 구간의 경우에는 검수자(34)로 하여금 전수 검수하도록 할 수 있다.In other words, since the section divided into the initial work section does not have a previously worked section, the sampling rate of the result of the work to be inspected cannot be determined in consideration of the rejection rate. In the case of the initial work section, the inspector 34 transmits it. You can have it inspected.

또 다른 일 실시예로, 산출된 제1 작업 구간의 반려율에 기초하여 제1 작업 구간에 연속되는 제2 작업 구간에 대한 작업량의 샘플링 비율을 결정함에 있어서, 제2 작업 구간이 능숙 작업 구간이고, 제1 작업 구간의 반려율이 기 설정된 비율 미만인 경우, 서버는 제2 작업 구간에 해당하는 작업 결과에 대한 검수를 생략할 수 있다.In another embodiment, in determining the sampling rate of the amount of work for the second work section consecutive to the first work section based on the calculated rejection rate of the first work section, the second work section is a proficient work section. , If the rejection rate of the first work section is less than a preset ratio, the server may omit the inspection of the work result corresponding to the second work section.

즉, 제1 작업 구간이 중기 작업 구간으로 작업 결과의 신뢰도가 매우 높아 반려율이 매우 낮은 경우에는, 검수자(34)로 하여금 제2 작업 구간인 능숙 작업 구간의 작업 결과에 대해 전체적으로 검수를 생략하도록 할 수 있다.That is, if the first work section is a mid-term work section and the rejection rate is very low because the reliability of the work result is very high, the inspector 34 is asked to skip the overall inspection of the work result of the proficient work section, which is the second work section. can do.

또 다른 실시예로, 산출된 제1 작업 구간의 반려율에 기초하여 제1 작업 구간에 연속되는 제2 작업 구간에 대한 작업량의 샘플링 비율을 결정함에 있어서, 제2 작업 구간이 능숙 작업 구간이고, 제1 작업 구간의 반려율이 기 설정된 비율 이상인 경우, 서버는 제1 작업 구간의 반려율만을 고려하여 제2 작업 구간에 대한 작업량의 샘플링 비율을 결정할 수 있다.In another embodiment, in determining the sampling rate of the amount of work for the second work section consecutive to the first work section based on the calculated rejection rate of the first work section, the second work section is a proficient work section, When the rejection rate of the first work section is greater than or equal to a preset ratio, the server may determine a sampling rate of the amount of work for the second work section by considering only the rejection rate of the first work section.

또는, 제1 작업 구간의 반려율과 제1 작업 구간 뒤에 연속되는 이전 작업 구간을 함께 고려한 반려율에 기초하여 서버는 제2 작업 구간에 대한 작업량의 샘플링 비율을 결정할 수 있다.Alternatively, the server may determine a sampling rate of the amount of work for the second work section based on the rejection rate in which the rejection rate of the first work section and the rejection rate in which the previous work section successively after the first work section are considered together.

즉, 제1 작업 구간이나 또는 이전 작업 구간의 신뢰도가 매우 낮아 반려율이 높은 경우, 서버는 검수자(34)로 하여금 제2 작업 구간인 능숙 작업 구간의 작업 결과에 대해서는 결정된 샘플링 비율만큼의 작업 결과만을 검수하도록 할 수 있다.That is, when the reliability of the first or previous work section is very low and the rejection rate is high, the server asks the inspector 34 to perform the work result of the determined sampling rate for the work result of the proficient work section, which is the second work section. Can only be inspected.

이때, 기 설정된 반려율의 비율은 신뢰도에 따라 설정될 수 있으며, 신뢰도는 전술한 바와 같이, 의뢰자(10)가 요구한 수준 또는 프로젝트의 성격에 따라 요구되는 수준의 신뢰도가 높을수록 해당 비율을 낮게 설정할 수 있다.At this time, the ratio of the preset rejection rate may be set according to the reliability, and the reliability is, as described above, the higher the level requested by the client 10 or the level required according to the nature of the project, the lower the corresponding rate. Can be set.

한편, 본 발명의 일 실시예는 복수의 작업 구간에 대한 작업량의 샘플링 비율을 결정함에 있어서, 서버는 이전 구간들의 반려율에 대한 감소율을 산출 및 적용하여 결정할 수 있다.Meanwhile, in an embodiment of the present invention, in determining the sampling rate of the amount of work for a plurality of work sections, the server may calculate and apply a reduction rate for the rejection rate of previous sections.

즉, 서버는 제1 작업 구간의 반려율과 제2 작업 구간에 대한 반려율에 대한 감소율을 산출하고, 산출된 제1 및 제2 작업 구간의 반려율에 대한 감소율에 기초하여 제2 작업 구간에 연속되는 제3 작업 구간에 대한 작업량의 샘플링 비율을 결정할 수 있다.That is, the server calculates the reduction rate for the rejection rate for the first work section and the rejection rate for the second work section, and based on the calculated reduction rate for the rejection rate of the first and second work sections, the second work section is It is possible to determine a sampling rate of the amount of work for the third continuous work section.

예를 들어, 제1 작업 구간의 반려율이 20%이고, 제2 작업 구간의 반려율이 12%인 경우, 반려율이 20%에서 12%로 -40% 감소한 것이므로 40%의 감소율만큼을 제3 작업 구간의 작업 결과에 대해 적용하여 검수할 샘플링 비율을 결정할 수 있다.For example, if the rejection rate of the first work section is 20% and the rejection rate of the second work section is 12%, the rejection rate is reduced by -40% from 20% to 12%, so the reduction rate of 40% is subtracted. 3 It is possible to determine the sampling rate to be inspected by applying it to the work result of the work section.

여기에서 이전 구간의 반려율들에 대한 감소율은 반드시 두 개의 작업 구간에 대한 반려율의 감소율만을 적용하는 것에 제한되지 않으며, 하나의 작업 구간에 대한 작업량의 샘플링 비율을 결정시 복수 개의 이전 구간의 반려율들에 대한 감소율을 산출 및 적용할 수 있음은 물론이다.Here, the reduction rate for rejection rates of the previous section is not necessarily limited to applying only the reduction rate of rejection rates for two work sections, and rejection of multiple previous sections when determining the sampling rate of the amount of work for one work section It goes without saying that it is possible to calculate and apply a reduction rate for the rates.

한편, 상술한 설명에서, 단계 S110 내지 S170은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 7의 내용은 도 1 내지 도 6의 샘플링 검수 방법에도 적용될 수 있다.Meanwhile, in the above description, steps S110 to S170 may be further divided into additional steps or may be combined into fewer steps, according to an embodiment of the present invention. In addition, some steps may be omitted as necessary, and the order between steps may be changed. In addition, even if other contents are omitted, the contents of FIG. 7 to be described later may also be applied to the sampling inspection method of FIGS. 1 to 6.

이하에서는 도 7을 참조하여, 본 발명의 일 실시예에 따른 이전 작업의 반려율을 활용한 샘플링 검수 장치(100)에 대하여 설명하도록 한다.Hereinafter, with reference to FIG. 7, a description will be given of a sampling inspection apparatus 100 using a rejection rate of a previous operation according to an embodiment of the present invention.

도 7은 본 발명의 일 실시예에 따른 이전 작업의 반려율을 활용한 샘플링 검수 장치(100)를 설명하기 위한 도면이다.7 is a diagram for explaining a sampling inspection apparatus 100 using a rejection rate of a previous operation according to an embodiment of the present invention.

도 7을 참조하면, 이전 작업의 반려율을 활용한 샘플링 검수 장치(100)는 통신모듈(110), 메모리(120) 및 프로세서(130)를 포함한다.Referring to FIG. 7, the sampling and inspection apparatus 100 utilizing the rejection rate of a previous job includes a communication module 110, a memory 120, and a processor 130.

통신모듈(110)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하고, 복수의 작업자(32)로부터 작업 결과를 수신한다. The communication module 110 transmits a crowdsourcing-based work for one project to a plurality of workers 32 and receives work results from the plurality of workers 32.

또한, 통신모듈(110)은 복수의 작업자(32)로부터 입력된 작업 결과를 복수의 검수자(34)에게 송신하고, 복수의 검수자(34)로부터 검수 결과를 수신한다.Further, the communication module 110 transmits the work results input from the plurality of workers 32 to the plurality of inspectors 34 and receives the inspection results from the plurality of inspectors 34.

메모리(120)에는 통신모듈(110)로부터 수신한 데이터에 기초하여 복수의 검수자에게 할당하고자 하는 작업량을 결정하기 위한 프로그램이 저장된다.A program for determining the amount of work to be allocated to a plurality of inspectors based on data received from the communication module 110 is stored in the memory 120.

프로세서(130)는 메모리(120)에 저장된 프로그램을 실행시킨다. 프로세서(130)는 메모리(120)에 저장된 프로그램을 실행시킴에 따라, 분할된 복수의 구간 중 제1 작업 구간의 반려율에 기초하여 제1 작업 구간에 연속되는 제2 작업 구간에 대한 작업량의 샘플링 비율을 결정하고, 결정된 샘플링 비율에 따라 제2 작업 구간에 대응하는 작업 결과를 복수의 검수자에게 할당한다.The processor 130 executes a program stored in the memory 120. As the processor 130 executes the program stored in the memory 120, based on the rejection rate of the first work section among a plurality of divided sections, the amount of work is sampled for the second work section consecutive to the first work section. The ratio is determined, and the work results corresponding to the second work section are allocated to a plurality of inspectors according to the determined sampling rate.

도 7을 참조하여 설명한 샘플링 검수 장치(100)는 상술한 서버의 구성요소로 제공될 수 있다.The sampling inspection apparatus 100 described with reference to FIG. 7 may be provided as a component of the above-described server.

이상에서 전술한 본 발명의 일 실시예에 따른 이전 작업의 반려율을 활용한 샘플링 검수 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.The sampling inspection method using the rejection rate of the previous work according to the embodiment of the present invention described above may be implemented as a program (or application) to be executed in combination with a computer, which is hardware, and stored in a medium.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.The above-described program includes C, C++, JAVA, Ruby, which can be read by a processor (CPU) of the computer through the device interface of the computer, in order for the computer to read the program and execute the methods implemented as a program. It may include a code (Code) coded in a computer language such as machine language. Such code may include a functional code related to a function that defines necessary functions for executing the methods, and includes a control code related to an execution procedure necessary for the processor of the computer to execute the functions according to a predetermined procedure. can do. In addition, these codes may further include additional information required for the processor of the computer to execute the functions, or code related to a memory reference to which location (address address) of the internal or external memory of the computer should be referenced. have. In addition, when the processor of the computer needs to communicate with any other computer or server in the remote in order to execute the functions, the code uses the communication module of the computer to determine how It may further include a communication-related code for whether to communicate, what kind of information or media should be transmitted and received during communication.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.The stored medium is not a medium that stores data for a short moment, such as a register, cache, memory, etc., but a medium that stores data semi-permanently and can be read by a device. Specifically, examples of the storage medium include, but are not limited to, ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, and the like. That is, the program may be stored in various recording media on various servers to which the computer can access, or on various recording media on the user's computer. In addition, the medium may be distributed over a computer system connected through a network, and computer-readable codes may be stored in a distributed manner.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The above description of the present invention is for illustrative purposes only, and those of ordinary skill in the art to which the present invention pertains can understand that it is possible to easily transform it into other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are illustrative in all respects and not limiting. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as being distributed may also be implemented in a combined form.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is indicated by the claims to be described later rather than the detailed description, and all changes or modified forms derived from the meaning and scope of the claims and their equivalent concepts should be interpreted as being included in the scope of the present invention. do.

10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자
100 : 샘플링 검수 장치
110 : 통신모듈
120: 메모리
130 : 프로세서10: Client
20: service provider
30: public
32: worker
34: inspector
100: sampling inspection device
110: communication module
120: memory
130: processor

Claims (17)

컴퓨터에 의해 수행되는 방법으로서,
하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자에게 할당하는 단계;
각각의 작업자로부터 작업 결과를 수신하는 단계;
검수가 시작됨에 따라 각각의 작업자의 작업 결과를 복수의 구간으로 분할하는 단계;
상기 복수의 구간 중 제1 작업 구간에 대응하는 작업 결과를 하나 이상의 검수자에게 할당하는 단계;
상기 제1 작업 구간의 반려율에 기초하여 상기 제1 작업 구간에 연속되는 제2 작업 구간에 대응하는 작업 결과의 샘플링 비율을 결정하는 단계; 및
상기 결정된 샘플링 비율에 따라 상기 제2 작업 구간에 대응하는 작업 결과를 샘플링하여 하나 이상의 검수자에게 할당하는 단계를 포함하는
이전 작업의 반려율을 활용한 샘플링 검수 방법.As a method performed by a computer,
Allocating a crowdsourcing-based work for one project to a plurality of workers;
Receiving work results from each worker;
Dividing the work result of each worker into a plurality of sections as the inspection starts;
Allocating a work result corresponding to a first work section among the plurality of sections to one or more inspectors;
Determining a sampling rate of a work result corresponding to a second work period consecutive to the first work period based on the rejection rate of the first work period; And
Comprising the step of sampling the work result corresponding to the second work section according to the determined sampling rate and allocating it to one or more inspectors
A sampling inspection method using the rejection rate of previous work. 제1항에 있어서,
상기 검수가 시작됨에 따라 각각의 작업자의 작업 결과를 복수의 구간으로 분할하는 단계는,
상기 복수의 구간을 초기 작업 구간, 중기 작업 구간 및 능숙 작업 구간으로 분할하는 것인
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 1,
As the inspection starts, the step of dividing the work result of each worker into a plurality of sections,
Dividing the plurality of sections into an initial work section, a mid-term work section, and a proficient work section
A sampling inspection method using the rejection rate of previous work. 제2항에 있어서,
제1상기 복수의 구간 중 제1 작업 구간에 대응하는 작업 결과를 하나 이상의 검수자에게 할당하는 단계는,
상기 제1 작업 구간이 초기 작업 구간인 경우, 상기 제1 작업 구간에 대응하는 작업 결과를 상기 하나 이상의 검수자에게 전수 검수하도록 할당하는 것인
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 2,
The step of allocating a work result corresponding to the first work section among the first plurality of sections to one or more inspectors,
When the first work section is an initial work section, allocating a work result corresponding to the first work section to the at least one inspector to fully inspect
A sampling inspection method using the rejection rate of previous work. 제2항에 있어서,
상기 제1 작업 구간의 반려율에 기초하여 상기 제1 작업 구간에 연속되는 제2 작업 구간에 대응하는 작업 결과의 샘플링 비율을 결정하는 단계는,
상기 제2 작업 구간이 능숙 작업 구간이고, 상기 제1 작업 구간의 반려율이 기 설정된 비율 미만인 경우, 상기 제2 작업 구간에 대응하는 작업 결과에 대한 검수를 생략하는 것인
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 2,
Determining a sampling rate of the work result corresponding to the second work section consecutive to the first work section based on the rejection rate of the first work section,
When the second work section is a proficient work section and the rejection rate of the first work section is less than a preset ratio, the inspection of the work result corresponding to the second work section is omitted.
A sampling inspection method using the rejection rate of previous work. 제2항에 있어서,
상기 제1 작업 구간의 반려율에 기초하여 상기 제1 작업 구간에 연속되는 제2 작업 구간에 대응하는 작업 결과의 샘플링 비율을 결정하는 단계는,
상기 제2 작업 구간이 능숙 작업 구간이고, 상기 제1 작업 구간에 대응하는 검수 결과의 반려율이 기 설정된 비율 이상인 경우, 상기 제1 작업 구간의 반려율 또는 상기 제1 작업 구간 및 상기 제1 작업 구간과 연속되는 이전 작업 구간을 함께 고려한 반려율에 기초하여 상기 제2 작업 구간에 대응하는 작업 결과의 샘플링 비율을 결정하는 것인
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 2,
Determining a sampling rate of the work result corresponding to the second work section consecutive to the first work section based on the rejection rate of the first work section,
When the second work section is a proficient work section and the rejection rate of the inspection result corresponding to the first work section is more than a preset ratio, the rejection rate of the first work section or the first work section and the first task To determine the sampling rate of the work result corresponding to the second work section based on the rejection rate taking into account the section and the continuous previous work section together
A sampling inspection method using the rejection rate of previous work. 제5항에 있어서,
상기 미리 설정된 비율은 신뢰도에 따라 설정되는 것인
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 5,
The preset ratio is set according to the reliability.
A sampling inspection method using the rejection rate of previous work. 제1항에 있어서,
상기 제1 작업 구간의 반려율과 상기 제2 작업 구간의 반려율에 대한 감소율을 산출하는 단계; 및
상기 산출된 제1 및 제2 작업 구간의 반려율에 대한 감소율에 기초하여, 상기 제2 작업 구간에 연속되는 제3 작업 구간에 대응하는 작업 결과의 샘플링 비율을 결정하는 단계를 더 포함하는
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 1,
Calculating a reduction rate for the rejection rate of the first work section and the rejection rate of the second work section; And
Based on the calculated reduction rates for the rejection rates of the first and second work sections, determining a sampling rate of the work result corresponding to the third work section consecutive to the second work section
A sampling inspection method using the rejection rate of previous work. 제1항에 있어서,
상기 검수가 시작됨에 따라 각각의 작업자의 작업 결과를 복수의 구간으로 분할하는 단계는,
상기 검수자의 수와 전체 작업량에 기반하여 산출된 검수 가능 수량 정보 및 신뢰도에 기초하여 상기 복수의 구간을 분할하는 비율을 결정하는 것인
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 1,
As the inspection starts, the step of dividing the work result of each worker into a plurality of sections,
To determine the ratio of dividing the plurality of sections based on the number of inspectors and the reliability and information on the quantity available for inspection calculated based on the total amount of work.
A sampling inspection method using the rejection rate of previous work. 제1항에 있어서,
상기 복수의 작업자로부터 입력된 전체 작업량에 기초하여 검수 시작 여부를 결정하는 단계를 더 포함하는
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 1,
Further comprising the step of determining whether to start inspection based on the total amount of work input from the plurality of workers
A sampling inspection method using the rejection rate of previous work. 제9항에 있어서,
상기 복수의 작업자로부터 입력된 전체 작업량에 기초하여 검수 시작 여부를 결정하는 단계는,
상기 복수의 작업자로부터 현재까지 입력된 작업량이 기 설정된 작업량 이상인 경우 상기 검수가 시작되는 것인
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 9,
The step of determining whether to start inspection based on the total amount of work input from the plurality of workers,
If the amount of work input from the plurality of workers to date is more than the preset amount of work, the inspection starts.
A sampling inspection method using the rejection rate of previous work. 제1항에 있어서,
상기 검수가 시작됨에 따라 최소 작업량과 복수의 작업자별 현재 작업량을 비교하여 각각의 작업자 별 샘플링 검수 여부를 결정하는 단계를 더 포함하는
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 1,
As the inspection starts, the step of comparing the minimum workload and the current workload for each of the plurality of workers to determine whether to inspect the sampling for each worker further comprises
A sampling inspection method using the rejection rate of previous work. 제11항에 있어서,
상기 검수가 시작된 이후 상기 샘플링 검수를 수행하지 않기로 결정된 작업자의 작업량이 상기 최소 작업량 이상이 된 경우, 상기 샘플링 검수를 시작하는 것인
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 11,
When the work amount of the operator who has decided not to perform the sampling check after the test is started becomes more than the minimum work amount, the sampling check is started.
A sampling inspection method using the rejection rate of previous work. 제10항에 있어서,
상기 검수가 시작됨에 따라 각각의 작업자의 작업 결과를 복수의 구간으로 분할하는 단계는,
상기 검수가 시작된 시점을 기준으로 입력된 각 작업자별 작업량에 대하여, 상기 복수의 구간을 분할하는 비율이 일괄 적용되는 것인
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 10,
As the inspection starts, the step of dividing the work result of each worker into a plurality of sections,
The ratio of dividing the plurality of sections is applied collectively with respect to the amount of work for each worker input based on the time when the inspection started.
A sampling inspection method using the rejection rate of previous work. 제10항에 있어서,
상기 검수가 시작됨에 따라 각각의 작업자의 작업 결과를 복수의 구간으로 분할하는 단계는,
상기 복수의 구간을 초기 작업 구간, 중기 작업 구간 및 능숙 작업 구간으로 분할하되, 상기 복수의 구간이 분할된 이후 작업자에 의해 입력된 작업 결과는 능숙 작업 구간으로 할당되는 것인
이전 작업의 반려율을 활용한 샘플링 검수 방법.The method of claim 10,
As the inspection starts, the step of dividing the work result of each worker into a plurality of sections,
The plurality of sections are divided into an initial work section, a mid-term work section, and a proficient work section, but after the plurality of sections are divided, the work result input by the worker is assigned to the proficient work section.
A sampling inspection method using the rejection rate of previous work. 삭제delete 하드웨어인 컴퓨터와 결합되어, 제1항 내지 제14항 중 어느 한 항의 이전 작업의 반려율을 활용한 샘플링 검수 방법을 실행시키기 위하여 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.A computer program stored in a computer-readable recording medium in order to execute a sampling inspection method utilizing a rejection rate of a previous operation according to any one of claims 1 to 14, combined with a computer as hardware. 이전 작업의 반려율을 활용한 샘플링 검수 장치에 있어서,
하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자에게 송신하고, 상기 복수의 작업자로부터 작업 결과를 수신하며, 상기 복수의 작업자로부터 입력된 작업 결과를 복수의 검수자에게 송신하고, 상기 복수의 검수자로부터 검수 결과를 수신하는 통신모듈;
상기 통신모듈로부터 수신한 데이터 및 이전 작업의 반려율을 활용한 샘플링 검수 방법을 실행시키기 위한 프로그램이 저장된 메모리; 및
상기 메모리에 저장된 프로그램을 실행시킴에 따라, 상기 복수의 작업자로부터 입력된 작업량에 기초하여 검수 시작 여부를 결정하고, 상기 검수가 시작됨에 따라 각각의 작업자의 작업 결과를 복수의 구간으로 분할하며, 상기 복수의 구간 중 제1 작업 구간에 대응하는 작업 결과를 하나 이상의 검수자에게 할당하고, 상기 복수의 구간 중 제1 작업 구간의 반려율에 기초하여 상기 제1 작업 구간에 연속되는 제2 작업 구간에 대응하는 작업 결과의 샘플링 비율을 결정하고, 상기 결정된 샘플링 비율에 따라 제2 작업 구간에 대응하는 작업 결과를 샘플링하여 하나 이상의 검수자에게 할당하는 프로세서를 포함하는
이전 작업의 반려율을 활용한 샘플링 검수 장치.In the sampling inspection device using the rejection rate of the previous work,
Sending crowdsourcing-based work for one project to a plurality of workers, receiving work results from the plurality of workers, sending work results input from the plurality of workers to a plurality of inspectors, and the plurality of inspectors A communication module for receiving an inspection result from;
A memory storing a program for executing a sampling inspection method utilizing data received from the communication module and a rejection rate of a previous job; And
As the program stored in the memory is executed, it is determined whether to start inspection based on the amount of work input from the plurality of workers, and as the inspection starts, the work result of each worker is divided into a plurality of sections, and the Assigning work results corresponding to the first work section among a plurality of sections to one or more inspectors, and responding to the second work section consecutive to the first work section based on the rejection rate of the first work section among the plurality of sections Comprising a processor for determining a sampling rate of the job result to be performed, sampling the job result corresponding to the second job section according to the determined sampling rate, and assigning it to one or more inspectors
Sampling inspection device utilizing the rejection rate of previous work.
KR1020190120791A 2019-09-30 2019-09-30 Method and apparatus for sampling inspection using the rate of return of previous work KR102155846B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190120791A KR102155846B1 (en) 2019-09-30 2019-09-30 Method and apparatus for sampling inspection using the rate of return of previous work

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190120791A KR102155846B1 (en) 2019-09-30 2019-09-30 Method and apparatus for sampling inspection using the rate of return of previous work

Publications (1)

Publication Number Publication Date
KR102155846B1 true KR102155846B1 (en) 2020-09-14

Family

ID=72471360

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190120791A KR102155846B1 (en) 2019-09-30 2019-09-30 Method and apparatus for sampling inspection using the rate of return of previous work

Country Status (1)

Country Link
KR (1) KR102155846B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102486983B1 (en) * 2022-07-04 2023-01-10 주식회사 데이터메이커 Method for variable sampling inspection for artificial intelligence learning

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101174192B1 (en) * 2009-09-18 2012-08-14 엔에이치엔(주) System and method for monitoring service
KR101266173B1 (en) * 2011-11-16 2013-05-21 한국과학기술원 System for an ubiquitous online marketplace and method for communications between requesters and crowd-workers
KR20140095956A (en) 2013-01-25 2014-08-04 한국전자통신연구원 Method and system for generating image-knowledge contents based on crowdsourcing
JP2015200985A (en) * 2014-04-04 2015-11-12 Kddi株式会社 Skill evaluation device for evaluating operator skill in cloud sourcing, program, and method
JP6206692B2 (en) * 2014-06-20 2017-10-04 株式会社村田製作所 Sampling data processing apparatus, sampling data processing method, and computer program

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101174192B1 (en) * 2009-09-18 2012-08-14 엔에이치엔(주) System and method for monitoring service
KR101266173B1 (en) * 2011-11-16 2013-05-21 한국과학기술원 System for an ubiquitous online marketplace and method for communications between requesters and crowd-workers
KR20140095956A (en) 2013-01-25 2014-08-04 한국전자통신연구원 Method and system for generating image-knowledge contents based on crowdsourcing
JP2015200985A (en) * 2014-04-04 2015-11-12 Kddi株式会社 Skill evaluation device for evaluating operator skill in cloud sourcing, program, and method
JP6206692B2 (en) * 2014-06-20 2017-10-04 株式会社村田製作所 Sampling data processing apparatus, sampling data processing method, and computer program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102486983B1 (en) * 2022-07-04 2023-01-10 주식회사 데이터메이커 Method for variable sampling inspection for artificial intelligence learning

Similar Documents

Publication Publication Date Title
KR102155790B1 (en) Method and apparatus for measuring competence of worker using average return rate
KR102164844B1 (en) Method for evaluating workers using the unit of work difficulty of crowdsourcing based projects for artificial intelligence training data generation
KR102232859B1 (en) Method for automatically generating a worker pool based on the functional elements and difficulty of crowdsourcing based projects for artificial intelligence training data generation
KR102244697B1 (en) Project curation method considering worker’s tendency of crowdsourcing based projects for artificial intelligence training data generation
KR102195629B1 (en) Method for selecting workers based on capability of work in crowdsourcing based projects for artificial intelligence training data generation
KR102155846B1 (en) Method and apparatus for sampling inspection using the rate of return of previous work
KR102205811B1 (en) Method for setting minimum work time using work time of each functional elements of crowdsourcing based project for artificial intelligence training data generation
KR102155839B1 (en) Method and apparatus for monitoring worker based on the reason for not wokring
KR102183836B1 (en) Method for automatically calculating estimates based on estimated work time of crowdsourcing based projects for artificial intelligence training data generation
KR102155749B1 (en) Method for deciding proper unit price and proper amount of work using reference work time of crowdsourcing based project for artificial intelligence training data generation
KR102155748B1 (en) Method for automatic apdating inspection unit price using work time versus inspection time of crowdsourcing based project for artificial intelligence training data generation
US20220327450A1 (en) Method for increasing or decreasing number of workers and inspectors in crowdsourcing-based project for creating artificial intelligence learning data
KR102155747B1 (en) Method for setting minimum re-work and re-inspection time based on the number of objects returned of crowdsourcing based project for artificial intelligence training data generation
KR102164852B1 (en) Method for restricting participation of project considering urgent degree of crowdsourcing based project for artificial intelligence training data generation
KR102155886B1 (en) Method for applying maximum number of work limits per worker based on inspection result of crowdsourcing based projects for artificial intelligence training data generation
KR102155854B1 (en) Keyword management method and apparatus for collecting various sentences
KR102232890B1 (en) Method for determining whether to assign work based on the estimated inspection time of a crowdsourcing based projects for artificial intelligence training data generation
KR102205810B1 (en) Method for automatically returning rework result of crowdsourcing based project for artificial intelligence training data generation
KR102195631B1 (en) Method for automatically granting inspection authority to workers based on the results of the work of crowdsourcing based projects for artificial intelligence training data generation
KR102155746B1 (en) Method for verifying inspectors by sample inspection between inspectors
KR102195956B1 (en) Method for updating maximum number of work limits according to work difficulty of crowdsourcing based project for artificial intelligence training data generation
KR102156586B1 (en) Method for sequentially assigning work and inspection of crowdsourcing based project for artificial intelligence training data generation
KR102156585B1 (en) Method for controlling worker inflow into project by adjusting work unit price between crowdsourcing based projects for artificial intelligence training data generation
KR102155792B1 (en) Method for selecting inspector according to feature of project based on crowd sourcing
KR102195608B1 (en) Method for automatically returning using object return rate of crowdsourcing based project for artificial intelligence training data generation

Legal Events

Date Code Title Description
GRNT Written decision to grant