KR102155747B1 - Method for setting minimum re-work and re-inspection time based on the number of objects returned of crowdsourcing based project for artificial intelligence training data generation - Google Patents
Method for setting minimum re-work and re-inspection time based on the number of objects returned of crowdsourcing based project for artificial intelligence training data generation Download PDFInfo
- Publication number
- KR102155747B1 KR102155747B1 KR1020190168166A KR20190168166A KR102155747B1 KR 102155747 B1 KR102155747 B1 KR 102155747B1 KR 1020190168166 A KR1020190168166 A KR 1020190168166A KR 20190168166 A KR20190168166 A KR 20190168166A KR 102155747 B1 KR102155747 B1 KR 102155747B1
- Authority
- KR
- South Korea
- Prior art keywords
- minimum
- work
- result
- inspection
- time
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/10—Office automation; Time management
- G06Q10/109—Time management, e.g. calendars, reminders, meetings or time accounting
- G06Q10/1093—Calendar-based scheduling for persons or groups
- G06Q10/1097—Task assignment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
- G06Q10/06311—Scheduling, planning or task assignment for a person or group
- G06Q10/063112—Skill-based matching of a person or a group to a task
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0631—Resource planning, allocation, distributing or scheduling for enterprises or organisations
- G06Q10/06311—Scheduling, planning or task assignment for a person or group
- G06Q10/063114—Status monitoring or status determination for a person or group
Landscapes
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- Engineering & Computer Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Strategic Management (AREA)
- Economics (AREA)
- Tourism & Hospitality (AREA)
- Marketing (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Educational Administration (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Data Mining & Analysis (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
본 발명은 인공지능 학습데이터 생성에 관한 것으로, 보다 상세하게는 크라우드소싱 기반 프로젝트의 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 방법에 관한 것이다.The present invention relates to artificial intelligence learning data generation, and more particularly, to a method of setting a minimum rework and re-review time based on the number of objects rejected in a crowdsourcing-based project.
최근, 기업 활동의 일부 과정에 일반 대중을 참여시키는 크라우드소싱 기반으로 많은 양의 데이터를 수집 및 가공하는 기업들이 늘고 있다. 즉, 기업은 하나의 프로젝트를 오픈하여 일반 대중, 즉 작업자가 해당 프로젝트에 참여하게 함으로써, 작업자에 의해 완료된 작업 결과를 통해 필요한 정보를 수집하게 된다.Recently, more and more companies collect and process large amounts of data on a crowdsourcing basis that engages the general public in some process of corporate activities. In other words, by opening a project and allowing the general public, that is, workers to participate in the project, necessary information is collected through the work results completed by the workers.
그리고, 기업은 보다 신뢰도가 높은 정보를 수집하기 위해, 작업자에 의해 완료된 작업 결과를 검수자에게 배정하여 검수 작업을 수행하도록 한다.And, in order to collect more reliable information, the company assigns the results of work completed by the worker to the inspector to perform the inspection work.
구체적으로, 하나의 프로젝트가 오픈되면, 복수의 작업자에게 각각 작업이 배정된다. 각각의 작업자는 배정받은 복수의 작업을 수행하고, 작업 결과를 제공한다.Specifically, when one project is opened, each task is assigned to a plurality of workers. Each worker performs a plurality of tasks assigned to it, and provides the task results.
이후, 복수의 검수자에게 각각 작업 결과에 대한 복수의 검수 작업이 배정되고, 각각의 검수자는 배정받은 복수의 검수 작업을 수행하게 된다.Thereafter, a plurality of inspection tasks are assigned to each of the plurality of inspectors, and each inspector performs the assigned plurality of inspection tasks.
하지만, 일부 작업자들 및 검수자들에 의한 비상식적인 작업 진행과 검수 진행이 존재하는바, 이를 방지하기 위한 대책이 필요한 실정이다.However, there is an emergency work progress and inspection by some workers and inspectors, and measures to prevent this are necessary.
본 발명이 해결하고자 하는 과제는 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 방법을 제공하는 것이다.The problem to be solved by the present invention is to provide a method of setting a minimum rework and re-review time based on the number of objects returned.
다만, 본 발명이 해결하고자 하는 과제는 상기된 바와 같은 과제로 한정되지 않으며, 또다른 과제들이 존재할 수 있다.However, the problem to be solved by the present invention is not limited to the problem as described above, and other problems may exist.
상술한 과제를 해결하기 위한 본 발명의 일 면에 따른 방법은, 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 작업자에게 할당하여 작업 요청하는 단계, 제1 최소 작업시간이 경과한 후에 작업결과 입력 인터페이스를 활성화시켜 상기 작업자로부터 작업 결과를 입력받는 단계, 검수자에게 상기 작업 결과에 대하여 검수 요청하여, 상기 검수자로부터 검수 결과를 입력받는 단계, 상기 검수자에 의한 검수 결과가 반려 처리인 경우, 반려된 작업 결과에 대하여 작업자에게 재작업 요청하는 단계, 상기 반려된 작업 결과에 대하여 오브젝트 기반 반려율을 산출하는 단계, 및 상기 오브젝트 기반 반려율에 상응하는 제2 최소 작업시간이 경과한 후에 작업결과 입력 인터페이스를 활성화시켜 상기 작업자로부터 재작업 결과를 입력받는 단계를 포함한다.A method according to an aspect of the present invention for solving the above-described problem is the step of allocating a crowdsourcing-based task for one project to a worker and requesting a task, a task result input interface after the first minimum working time has elapsed. Activating and receiving a work result from the operator, requesting an inspector to inspect the work result, receiving the inspection result from the inspector, and when the inspection result by the inspector is rejection processing, the rejected operation result Activating the work result input interface after requesting rework from the operator for the job, calculating an object-based rejection rate for the rejected job result, and after a second minimum working time corresponding to the object-based rejection rate has elapsed And receiving a rework result from the operator.
상술한 과제를 해결하기 위한 본 발명의 다른 면에 따른 방법은, 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 작업자에게 할당하여 작업 요청하는 단계, 상기 작업자로부터 작업 결과를 입력받는 단계, 검수자에게 상기 작업 결과에 대하여 검수 요청하는 단계, 제1 최소 검수시간이 경과한 후에 검수결과 입력 인터페이스를 활성화시켜 상기 검수자로부터 작업 결과를 입력받는 단계, 상기 검수자에 의한 검수 결과가 반려 처리인 경우, 반려된 작업 결과에 대하여 작업자에게 재작업 요청하는 단계, 상기 반려된 작업 결과에 대하여 오브젝트 기반 반려율을 산출하는 단계, 상기 작업자로부터 재작업 결과를 입력받는 단계, 및 상기 오브젝트 기반 반려율에 따라 상응하는 제2 최소 검수시간이 경과한 후에 검수결과 입력 인터페이스를 활성화시켜 상기 검수자로부터 재검수 결과를 입력받는 단계를 포함한다.The method according to another aspect of the present invention for solving the above-described problem is the step of assigning a crowdsourcing-based task for one project to a worker and requesting a task, receiving a task result from the worker, and the inspector. Requesting an inspection on the work result, activating the inspection result input interface after the first minimum inspection time has elapsed, and receiving the job result from the inspector, and if the inspection result by the inspector is rejection processing, the rejected job Requesting a rework from a worker for a result, calculating an object-based rejection rate for the rejected work result, receiving a rework result from the worker, and a second corresponding to the object-based rejection rate And activating an inspection result input interface after the minimum inspection time has elapsed, and receiving a re-examination result from the inspector.
본 발명의 기타 구체적인 사항들은 상세한 설명 및 도면들에 포함되어 있다.Other specific details of the present invention are included in the detailed description and drawings.
상술한 본 발명에 의하면, 검수 결과 반려 처리로 인하여 재작업시 해당 작업의 최초 진행시 설정된 최소 작업시간을 동일하게 적용하는 것이 아닌, 즉, 일률적으로 최소 작업시간을 적용하지 않고, 반려 처리된 작업의 오브젝트 기반 반려율을 산출하고, 오브젝트 기반 반려율을 적용하여 새로운 최소 작업시간을 설정함으로써 재작업시 작업자의 불필요한 대기 시간을 감축시킬 수 있다.According to the present invention described above, when reworking is performed due to rejection processing as a result of the inspection, the minimum operation time set at the initial progress of the corresponding operation is not applied equally, that is, the rejected operation is not uniformly applied, By calculating the object-based rejection rate of and applying the object-based rejection rate to set a new minimum working time, unnecessary waiting time for workers can be reduced during rework.
또한, 상술한 본 발명에 의하면, 재검수의 경우도 재작업과 마찬가지로, 검수 결과 반려 처리 및 재작업으로 인하여 재검수시 해당 검수의 최초 진행시 설정된 최소 검수시간을 동일하게 적용하는 것이 아닌, 즉, 일률적으로 최소 검수시간을 적용하지 않고, 반려 처리된 작업의 오브젝트 기반 반려율을 산출하고, 오브젝트 기반 반려율을 적용하여 새로운 최소 검수시간을 설정함으로써 재검수시 검수자의 불필요한 대기 시간을 감축시킬 수 있다.In addition, according to the present invention, in the case of re-examination, as in the case of rework, the minimum inspection time set at the initial progress of the inspection is not applied equally when re-examination due to the rejection processing and rework of the inspection result, that is, By not uniformly applying the minimum inspection time, calculating the object-based rejection rate of the rejected job, and setting a new minimum inspection time by applying the object-based rejection rate, it is possible to reduce unnecessary waiting time for inspectors during re-examination.
결론적으로 반려 처리로 인한 재작업 및 재검수 시간을 단축시킴으로써 프로젝트의 전체 진행 속도를 향상시킬 수 있다는 장점이 있다.In conclusion, there is an advantage that the overall progress of the project can be improved by shortening the rework and re-review time due to rejection processing.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to the effects mentioned above, and other effects not mentioned will be clearly understood by those skilled in the art from the following description.
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다.
도 3은 본 발명의 일 실시예에 따른 반려된 오브젝트 수에 기반하여 최소 재작업 시간을 설정하는 방법의 순서도이다.
도 4는 본 발명의 일 실시예에 따른 반려된 오브젝트 수에 기반하여 최소 재검수 시간을 설정하는 방법의 순서도이다.
도 5a 및 도 5b는 본 발명의 일 실시예에서의 재검수 시간을 설정하는 예시를 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 장치를 설명하기 위한 도면이다.1 is a conceptual diagram of a crowdsourcing service according to an embodiment of the present invention.
2 is a flowchart illustrating a crowdsourcing-based project progress process according to an embodiment of the present invention.
3 is a flowchart of a method of setting a minimum rework time based on the number of objects returned according to an embodiment of the present invention.
4 is a flowchart of a method of setting a minimum re-examination time based on the number of objects returned according to an embodiment of the present invention.
5A and 5B are diagrams for explaining an example of setting a re-examination time according to an embodiment of the present invention.
6 is a diagram illustrating an apparatus for setting a minimum rework and re-review time based on the number of objects returned according to an embodiment of the present invention.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. Advantages and features of the present invention, and a method of achieving them will become apparent with reference to the embodiments described below in detail together with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in a variety of different forms, only the present embodiments are intended to complete the disclosure of the present invention, It is provided to fully inform the technician of the scope of the present invention, and the present invention is only defined by the scope of the claims.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.The terms used in the present specification are for describing exemplary embodiments and are not intended to limit the present invention. In this specification, the singular form also includes the plural form unless specifically stated in the phrase. As used in the specification, “comprises” and/or “comprising” do not exclude the presence or addition of one or more other elements other than the mentioned elements. Throughout the specification, the same reference numerals refer to the same elements, and “and/or” includes each and all combinations of one or more of the mentioned elements. Although "first", "second", and the like are used to describe various elements, it goes without saying that these elements are not limited by these terms. These terms are only used to distinguish one component from another component. Therefore, it goes without saying that the first component mentioned below may be the second component within the technical idea of the present invention.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.Unless otherwise defined, all terms (including technical and scientific terms) used in the present specification may be used as meanings that can be commonly understood by those of ordinary skill in the art to which the present invention belongs. In addition, terms defined in a commonly used dictionary are not interpreted ideally or excessively unless explicitly defined specifically.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다. Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 일 실시예에 따른 크라우드소싱 서비스의 개념도이다.1 is a conceptual diagram of a crowdsourcing service according to an embodiment of the present invention.
도 1을 참조하면, 크라우드소싱 서비스는 의뢰자(10), 서비스 제공 업체(20) 및 대중(30)으로 구성되어 수행된다.Referring to FIG. 1, a crowdsourcing service is performed by being composed of a
의뢰자(10)는 크라우드소싱 기반의 프로젝트(이하, 프로젝트)를 의뢰하는 기업이나 개인을 의미한다.The
의뢰자(10)는 소스 데이터의 수집 또는 데이터 어노테이션 등을 목적으로 프로젝트를 의뢰한다. 소스 데이터의 수집은 녹음된 음성 수집, 사진 수집 등 가공되지 않은 데이터를 수집하는 것을 의미한다. 데이터 어노테이션은 텍스트, 사진, 비디오 등의 소스 데이터에 관련 주석 데이터를 입력하는 것을 의미한다. 예들 들어, 데이터 어노테이션은 주어진 지문에서 개체를 찾는 것, 유사한 문장을 찾는 것 등이 있을 수 있으나 이에 제한되지 않는다. 한편, 전술한 프로젝트의 종류는 일 실시예에 불과하며, 의뢰자의 설계에 따라 다양한 프로젝트가 본 발명에서 취급될 수 있다.The requester 10 requests a project for the purpose of collecting source data or annotating data. Collection of source data refers to collecting raw data such as recorded voice collection and photo collection. Data annotation refers to inputting relevant annotation data into source data such as text, photos, and videos. For example, the data annotation may include finding an entity in a given fingerprint or finding a similar sentence, but is not limited thereto. Meanwhile, the types of the above-described projects are only one embodiment, and various projects may be handled in the present invention according to the design of the client.
서비스 제공 업체(20)는 크라우드소싱 서비스를 제공하는 기업을 의미한다.The
서비스 제공 업체(20)는 의뢰자(10)로부터 제품 또는 서비스에 대한 프로젝트를 의뢰 받으면, 해당 프로젝트에 대한 작업을 일반 대중(30)에게 배정하여 대중(30)으로부터 작업 결과를 제공받는다. 이후, 작업 결과를 기반으로 추출된 최종 산출물을 의뢰자(10)에게 제공한다.When the
이때, 서비스 제공 업체(20)는 크라우드소싱 플랫폼(이하, 플랫폼)을 통해 의뢰자(10) 및 대중(30)에게 크라우드소싱 서비스를 제공한다. 즉, 서비스 제공 업체(20)는 의뢰자(10)로부터 프로젝트를 의뢰 받으면, 플랫폼에 프로젝트를 오픈한다. 이후, 대중(30)으로부터 오픈된 프로젝트에 대한 작업 결과를 제공받으면, 해당 프로젝트를 플랫폼 상에서 종료하고, 최종 산출물을 추출하여 의뢰자(10)에게 제공할 수 있다.At this time, the
대중(30)은 플랫폼에 오픈된 프로젝트에 참여하는 일반 대중을 의미한다. 여기서, 대중(30)은 서비스 제공 업체(20)가 제공하는 애플리케이션 또는 웹사이트 등을 통해 플랫폼에 오픈된 프로젝트에 참여할 수 있다. The public 30 refers to the general public participating in the project open on the platform. Here, the public 30 may participate in a project opened on the platform through an application or website provided by the
대중(30)은 작업자(32) 및 검수자(34)로 구성된다.The public 30 is composed of a
작업자(32)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 작업자(32)는 소스 데이터의 수집 또는 데이터 어노테이션 등의 작업을 수행하고, 이를 플랫폼에 전송한다.The
검수자(34)는 플랫폼에 오픈된 복수의 프로젝트 중 특정 프로젝트에 참여를 결정한다. 이후, 검수자(34)는 작업자(32)가 수행한 작업 결과에 대한 검수를 수행한다. 검수자(34)는 검수 수행 결과로서, 검수 통과 또는 반려 처리를 할 수 있고, 반려 처리시 반려 사유를 입력할 수 있다.The
도 2는 본 발명의 일 실시예에 따른 크라우드소싱 기반의 프로젝트의 진행 프로세스를 설명하기 위한 흐름도이다. 2 is a flowchart illustrating a crowdsourcing-based project progress process according to an embodiment of the present invention.
먼저, 의뢰자(10)는 서비스 제공 업체(20)로 하나 이상의 프로젝트를 의뢰한다(S11).First, the requester 10 requests one or more projects to the service provider 20 (S11).
이후, 서비스 제공 업체(20)는 의뢰된 프로젝트를 플랫폼 상에 오픈한다(S12). 이때, 서비스 제공 업체(20)는 프로젝트 오픈 전에, 해당 프로젝트의 난이도 등을 고려하여 등급을 결정할 수 있다. 즉, 난이도에 따라 어떤 등급 이상의 대중(30)에게 해당 프로젝트를 노출시킬지를 결정할 수 있다. 이에 따라, 프로젝트의 작업 결과의 신뢰도를 높일 수 있게 된다.Thereafter, the
이후, 서비스 제공 업체(20)는 프로젝트의 등급에 따라 해당 등급 이상의 작업자(32)에게 작업을 할당하여 작업 요청한다(S13).Thereafter, the
이후, 작업자(32)는 할당된 작업을 수행하게 된다(S14). 이때, 작업자(32)는 어떤 이유에 의해 작업 자체가 불가능한 작업에 대해서는 작업을 수행하지 않고 작업 불가 사유를 입력할 수 있다. Thereafter, the
이후, 서비스 제공 업체(20)는 작업자(32)로부터 작업 결과를 제공받고(S15), 해당 작업 결과에 대한 검수 작업을 검수자(34)에게 할당하여 검수 요청한다(S16).Thereafter, the
이후, 검수자(34)는 할당된 검수를 수행하게 된다(S17). 이때, 검수자(34)는 작업이 제대로 수행된 것으로 판단하면 검수 완료를 결정하고, 검수 작업이 잘못된 것으로 판단하면 반려 처리한다. 반려 처리 시, 검수자(34)는 어떤 이유로 작업이 잘못된 것으로 판단했는지에 대한 반려 사유를 입력한다.Thereafter, the
이후, 서비스 제공 업체(20)는 검수자(34)로부터 검수 결과를 제공받는다(S18). Thereafter, the
검수 결과가 검수 완료인 경우, 서비스 제공 업체(20)는 해당 작업 결과를 유효한 데이터로 사용하여, 이를 기반으로 하여 프로젝트 종료 시 최종 산출물을 추출하게 된다.When the inspection result is the inspection completion, the
검수 결과가 반려 처리인 경우, 서비스 제공 업체(20)는 내부적으로 검수를 다시 수행하거나, 작업자(32)에게 다시 작업을 배정하여 재작업을 수행하게 할 수도 있다. 재작업시 검수자의 재검수가 필요하다.When the inspection result is rejection processing, the
이후, 서비스 제공 업체(20)는 프로젝트 기간이 종료되거나 충분한 유효 데이터를 확보하게 되면 해당 프로젝트를 종료하고(S19), 확보된 유효 데이터를 기반으로 최종 결과물을 산출하여 의뢰자(10)에게 제공한다(S20).Thereafter, when the project period ends or sufficient valid data is secured, the
이때, 프로젝트 종료 전, 서비스 제공 업체(20)는 작업자(32) 및 검수자(34)의 수행 결과를 평가하고, 평가에 따라 작업 비용 및 검수 비용을 산출하여 작업자(32) 및 검수자(34)에게 지급한다.At this time, before the end of the project, the
도 1 및 도 2에서는 단순히 의뢰자(10), 서비스 제공 업체(20), 작업자(32), 검수자(34)로 표현하였으나, 이들은 각 참여자에 의해서 운용되는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱, 서버 등과 같은 컴퓨터 장치 또는 전기 통신 장치를 의미한다.In FIGS. 1 and 2, it is simply expressed as a requester 10, a
한편, 현재 시스템에서는 비상식적인 작업 진행과 검수 진행을 방지하기 위해, 하나의 작업 및 검수를 수행하는데 소요해야 하는 최소시간을 설정해 놓고 있다.On the other hand, in the current system, in order to prevent an emergency operation and inspection, the minimum time required to perform one operation and inspection is set.
예를 들어, 최소 작업시간이 1분일 경우 작업자는 1분이 지난 이후에야 작업완료를 할 수 있으며, 최소 검수시간이 30초일 경우 검수자는 30초가 지난 이후에 검수완료를 할 수 있다.For example, if the minimum working time is 1 minute, the operator can complete the work only after 1 minute, and if the minimum inspection time is 30 seconds, the inspector can complete the inspection after 30 seconds.
최소 작업시간이 경과한 후에만 작업결과 입력 인터페이스가 활성화되고, 최소 검수시간이 경과한 후에만 검수결과 입력 인터페이스가 활성화되었다.The operation result input interface was activated only after the minimum operation time had elapsed, and the inspection result input interface was activated only after the minimum inspection time had elapsed.
하지만, 하나의 작업에 많은 오브젝트가 포함된 프로젝트에서, 단지 몇 개의 오브젝트 때문에 반려된 경우, 해당 작업자는 재작업을 하는 과정에서 최소 작업시간만큼 불필요하게 대기해야하는 상황이 발생하게 되고, 이로 인해 전반적인 작업 속도가 느려지는 문제가 있다.However, in a project that includes many objects in a single task, if it is rejected because of only a few objects, a situation occurs in which the worker has to wait as much as the minimum work time unnecessarily in the process of reworking. There is a problem of slowing down.
예를 들어, 한 소스당 30개의 오브젝트가 존재하며, 최소 작업시간이 5분인 상황에서 1개의 오브젝트로 인해 해당 작업 결과가 반려 처리된 경우, 1개의 오브젝트를 재작업하는데는 1분도 걸리지 않지만, 최소 작업시간 설정으로 인해 5분을 기다려야만 한다.For example, if there are 30 objects per source and the minimum work time is 5 minutes, and the work result is rejected by 1 object, it takes less than 1 minute to rework 1 object, but at least You have to wait 5 minutes due to the working time setting.
이러한 문제는 검수자에게도 동일하게 발생하며, 그 결과 검수자의 피로도가 급격하게 증가하는 문제가 있다.This problem occurs equally to the inspector, and as a result, there is a problem that the fatigue of the inspector increases rapidly.
따라서, 반려된 작업에 대한 최소 재작업 시간과 재검수 시간을 별도로 적용해야할 필요가 있다.Therefore, it is necessary to separately apply the minimum rework time and re-review time for the rejected work.
이하에서는 도 3 내지 도 6을 참조하여 본 발명의 실시예에 따른 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 방법 및 장치에 대해 설명하도록 한다.Hereinafter, a method and apparatus for setting a minimum rework and re-review time based on the number of returned objects according to an embodiment of the present invention will be described with reference to FIGS. 3 to 6.
도 3은 본 발명의 일 실시예에 따른 반려된 오브젝트 수에 기반하여 최소 재작업 시간을 설정하는 방법의 순서도이다. 도 4는 본 발명의 일 실시예에 따른 반려된 오브젝트 수에 기반하여 최소 재검수 시간을 설정하는 방법의 순서도이다. 도 5a 및 도 5b는 본 발명의 일 실시예에서의 재검수 시간을 설정하는 예시를 설명하기 위한 도면이다.3 is a flowchart of a method of setting a minimum rework time based on the number of objects returned according to an embodiment of the present invention. 4 is a flowchart of a method of setting a minimum re-examination time based on the number of objects returned according to an embodiment of the present invention. 5A and 5B are diagrams for explaining an example of setting a re-examination time according to an embodiment of the present invention.
한편, 도 3 및 도 4에 도시된 단계들은 서비스 제공 업체(20)에 의해 운영되는 플랫폼 서버(이하, 서버)에 의해 수행되는 것으로 이해될 수 있지만, 이에 제한되는 것은 아니다.Meanwhile, the steps illustrated in FIGS. 3 and 4 may be understood as being performed by a platform server (hereinafter, referred to as a server) operated by the
또한, 복수의 작업자(32)나 복수의 검수자(34)는 소정의 단말 장치를 이용하여 작업을 수행한다. 작업자(32)와 검수자(34)의 단말 장치는 스마트폰, 태블릿, PDA, 랩톱, 데스크톱 등과 같은 컴퓨터 장치 또는 전기 통신 장치일 수 있으나, 이에 제한되는 것은 아니다.In addition, a plurality of
설명의 편의를 위하여 도 2와 중복되는 일부 단계들은 도 3 및 도 4에 도시하지 않았다.For convenience of explanation, some steps overlapping with FIG. 2 are not shown in FIGS. 3 and 4.
먼저 도 3을 참조하면, 서버는 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 생성하고, 복수의 작업자(32)에게 할당하여 작업 요청한다(S110).First, referring to FIG. 3, the server creates a crowdsourcing-based task for one project, assigns it to a plurality of
여기에서, 하나의 프로젝트는 복수의 데이터 세트로 구성되며, 하나의 데이터 세트에는 복수의 작업이 포함된다. 복수의 작업은 종류에 따라 복수의 태스크로 그룹화될 수 있고, 또는 각각의 작업이 서로 다른 종류의 작업일 수도 있으며, 동일한 작업일 수도 있지만, 이에 제한되는 것은 아니다. Here, one project consists of a plurality of data sets, and one data set contains a plurality of tasks. The plurality of jobs may be grouped into a plurality of tasks according to types, or each job may be a different type of job or the same job, but is not limited thereto.
이때, 본 발명의 일 실시예에서는 각 작업이 하나 이상의 오브젝트를 포함하도록 구성된 것을 대상으로 한다. In this case, in one embodiment of the present invention, each task is configured to include one or more objects.
오브젝트는 하나의 작업을 구성하는 일 단위로서, 하나의 작업 내에서 검수 통과 또는 반려 처리를 결정할 수 있는 일 단위를 의미한다. 일 예로, 시나리오에 따라 복수의 문장을 완성하는 작업의 경우 하나의 문장이 하나의 오브젝트일 수 있으며, 특정 이미지에서 특정 조건을 충족하는 영역을 어노테이션하는 작업의 경우 조건을 충족하는 하나의 영역이 하나의 오브젝트일 수 있다. 즉, An object is a unit of work that composes a work, and refers to a unit of work that can determine whether to pass or reject inspection within a work. For example, in the case of completing a plurality of sentences according to a scenario, one sentence may be one object, and in the case of annotating an area that satisfies a specific condition in a specific image, one area that satisfies the condition is one It may be an object of. In other words,
작업자(32)는 하나의 작업을 구성하는 복수 개의 오브젝트 중 어느 하나의 오브젝트에 대하여 검수자(34)로부터 반려 처리 결정을 받은 경우 하나의 작업에 대해 전체적으로 반려 처리를 받게 된다.When the
이러한 오브젝트는 프로젝트 의뢰자에 의해 미리 설정 및 구성되어 작업자들에게 작업으로 할당될 수 있다.These objects can be pre-set and configured by the project sponsor and assigned to the workers as tasks.
다음으로, 제1 최소 작업시간이 경과한 후에 복수의 작업자(32)로부터 완료된 작업 결과를 입력받는다(S120).Next, after the first minimum work time has elapsed, the completed work results are inputted from the plurality of workers 32 (S120).
이때, 본 발명의 일 실시예는 제1 최소 작업시간이 경과한 후에만 작업 결과를 입력받는 인터페이스가 활성화될 수 있다. 즉, 작업자(32)가 작업 결과를 서버로 전송하기 위해서는 반드시 제1 최소 작업시간이 경과되어야만 한다.In this case, according to an embodiment of the present invention, an interface for receiving a work result may be activated only after the first minimum work time has elapsed. That is, in order for the
예를 들어, 작업 결과를 입력하기 위한 인터페이스는 소스 데이터의 수집 또는 데이터 어노테이션 등 작업을 수행하기 위하여 작업자에게 제공되는 인터페이스와는 별개로, 해당 작업 결과의 입력을 완료하거나 다음 작업으로 넘어가기 위한 인터페이스일 수 있다.For example, the interface for inputting work results is separate from the interface provided to the operator to perform work such as collection of source data or data annotation, and an interface for completing input of the work result or moving to the next work. Can be
일 실시예로, 제1 최소 작업시간은 기준 시간당 임금 및 작업별 단가에 기초하여 결정될 수 있다.In an embodiment, the first minimum working time may be determined based on a standard hourly wage and a unit price for each job.
일 예로, 제1 최소 작업시간은 기준 시간당 임금의 소정 배수를 벌어들일 수 있는 시간당 작업 수행 수량에 기초하여 결정될 수 있다. 기준 시간당 임금으로 최저시급 최저시급인 8,350원을 적용하고, 소정 배수로 1.5배를 적용할 경우, 12,525원을 벌어들일 수 있는 시간당 작업 수행 수량에 기초하여 결정하는 것이다.As an example, the first minimum work time may be determined based on the number of work performed per hour that can earn a predetermined multiple of the standard hourly wage. If the minimum hourly wage is 8,350 won, which is the minimum hourly wage, and 1.5 times the predetermined multiple is applied as the standard hourly wage, it is determined based on the amount of work performed per hour that can earn 12,525 won.
작업별 단가는 하나의 작업별로 적용되는 단가로, 작업 난이도가 높을 경우 작업 단가는 높아지고 난이도가 낮을 경우 작업 단가는 낮아지게 된다. 작업 난이도가 높은 경우 더 높은 퀄리티가 요구되는바 제1 최소 작업시간도 더 많이 필요하고, 작업 난이도가 낮은 경우에는 그 반대가 된다.The unit price for each job is a unit price that is applied for each job. When the difficulty is high, the unit cost is high, and when the difficulty is low, the unit price is decreased. When the difficulty of the work is high, a higher quality is required, so that the first minimum work time is also required, and when the work difficulty is low, the opposite is true.
이에 따라, 제1 최소 작업시간은 다음 식 1과 같이 결정될 수 있다.Accordingly, the first minimum working time may be determined as in Equation 1 below.
[식 1][Equation 1]
제1 최소 작업시간=3600초/((기준 시간당 임금 * 일정 비율)/작업별 단가)1st minimum working time = 3600 sec/((standard hourly wage * constant rate)/unit price per job)
작업별 단가가 1,000원으로 설정되어 있는 경우, 위 예시에서의 제1 최소 작업시간은 약 287초로 5분 정도가 된다.If the unit price for each job is set to 1,000 won, the first minimum working time in the above example is about 287 seconds, which is about 5 minutes.
작업자(32)로부터 작업 결과가 입력됨에 따라 복수의 검수자(34)에게 상기 작업 결과에 대한 검수를 할당하여 검수 결과를 입력받고, 이 중 반려된 작업 결과에 대하여 작업자(32)에게 재작업을 요청한다(S130).As the work result is input from the
다음으로, 반려된 작업 결과에 대하여 오브젝트 기반 반려율이 산출되고(S140), 제2 최소 작업시간이 경과된 후에 재작업한 작업자(32)로부터 완료된 재작업 결과를 입력받는다(S150).Next, the object-based rejection rate is calculated for the rejected work result (S140), and the completed rework result is input from the reworked
제1 최소 작업시간과 마찬가지로, 본 발명의 일 실시예는 제2 최소 작업시간이 경과한 후에만 재작업 결과를 입력받는 인터페이스가 활성화될 수 있다. 즉, 작업자(32)가 재작업 결과를 서버로 전송하기 위해서는 반드시 제2 최소 작업시간이 경과되어야만 한다.Like the first minimum working time, according to an embodiment of the present invention, the interface for receiving the rework result may be activated only after the second minimum working time has elapsed. That is, in order for the
일 실시예로, 제2 최소 작업시간은 제1 최소 작업시간에 오브젝트 기반 반려율이 적용되어 결정될 수 있다.In an embodiment, the second minimum working time may be determined by applying an object-based rejection rate to the first minimum working time.
여기에서 오브젝트 기반 반려율은 반려된 작업에 포함된 하나 이상의 오브젝트 중 반려된 오브젝트 수에 기반한 반려율로, 통상 반려율 즉 작업자 단위나 검수자 단위로 측정되는 반려율과는 상이하다. 통상 반려율은 한 작업자가 10개의 작업을 수행하였고 이 중 3개의 작업이 반려된 경우 0.3이 된다.Here, the object-based rejection rate is a rejection rate based on the number of rejected objects among one or more objects included in the rejected job, and is different from the rejection rate, which is usually measured in worker units or inspectors. Typically, the rejection rate is 0.3 when one worker performs 10 tasks and 3 of them are rejected.
이와 같은 오브젝트 기반 반려율이 적용된 제2 최소 작업시간은 식 2에 따라 산출될 수 있다.The second minimum working time to which the object-based rejection rate is applied may be calculated according to Equation 2.
[식 2][Equation 2]
제2 최소 작업시간=3600초/((기준 시간당 임금 * 일정 비율)/작업별 단가)*오브젝트 기반 반려율Second minimum working time = 3600 seconds/((standard hourly wage * constant rate)/unit price per job)*object-based rejection rate
위 예시에서, 반려 처리된 하나의 작업이 10개의 오브젝트를 포함하며 이 중 3개의 오브젝트가 반려 처리된 경우 오브젝트 기반 반려율은 0.3이 된다.In the above example, if one rejected job includes 10 objects and 3 of them are rejected, the object-based rejection rate is 0.3.
이를 식 2에 적용하면, 제2 최소 작업시간은 86초로 약 1분 30초가 된다.Applying this to Equation 2, the second minimum working time is 86 seconds, which is about 1 minute and 30 seconds.
즉, 작업자(32)는 3개의 오브젝트만을 수정하는 재작업 결과를 입력하기 위해 기존에는 약 5분의 시간을 대기해야만 했으나, 실제 반려된 오브젝트 단위를 기준으로 하는 오브젝트 기반 반려율을 적용함에 따라 실제 작업에 소요되는 시간인 약 1분 30초 정도만을 할애하면 되는바, 전체 작업 시간을 감축시킬 수 있다는 장점이 있다.In other words, the
한편, 하나의 프로젝트에 속하는 모든 작업에 대한 작업 단가가 동일한 경우, 제1 최소 작업시간은 모든 작업에 대하여 동일하나, 제2 최소 작업시간은 오브젝트를 기반으로 하는 반려율이 적용되므로 오브젝트 기반 반려율이 서로 다를 경우 각각의 작업별로 서로 다르게 설정될 수 있다.On the other hand, if the work unit price for all tasks belonging to one project is the same, the first minimum work time is the same for all tasks, but the second minimum work time is object-based rejection rate because object-based rejection rate is applied. If these are different, they may be set differently for each task.
이와 달리, 하나의 프로젝트에 속하는 각 작업에 대한 작업 단가가 각각 상이한 경우, 제1 및 제2 최소 작업시간은 작업별로 서로 다르게 설정될 수 있다.In contrast, when the work unit cost for each work belonging to one project is different, the first and second minimum work hours may be set differently for each work.
이와 같은 본 발명의 일 실시예는 작업자(32)의 재작업 시간을 단축시킬뿐만 아니라, 검수자(34)에게도 동일하게 적용되어 재검수 시간을 단축시킬 수 있다.This embodiment of the present invention not only shortens the rework time of the
도 4를 참조하면, 서버는 하나의 프로젝트에 대한 소싱 기반의 작업을 생성하고, 복수의 작업자(32)에게 할당하여 작업 요청하여, 작업자(32)로부터 작업 결과를 수신하고, 복수의 검수자(34)에게 할당하여 검수 요청한다(S210).Referring to FIG. 4, the server generates a sourcing-based job for one project, assigns it to a plurality of
다음으로, 제1 최소 검수시간이 경과한 후에 복수의 검수자(34)로부터 완료된 검수 결과를 입력받는다(S220).Next, after the first minimum inspection time has elapsed, the completed inspection results are received from the plurality of inspectors 34 (S220).
이때, 본 발명의 일 실시예는 제1 최소 검수시간이 경과한 후에만 검수 결과를 입력할 수 있는 인터페이스가 활성화될 수 있다. 즉, 검수자(34)는 제1 최소 검수시간이 경과된 이후에야 서버로 검수 결과를 전송할 수 있다.In this case, according to an exemplary embodiment of the present invention, an interface for inputting an inspection result may be activated only after the first minimum inspection time has elapsed. That is, the
예를 들어, 검수 결과를 입력하기 위한 인터페이스는 검수를 수행하기 위하여 작업자의 작업결과가 검수자에게 제공되는 인터페이스와는 별개로, 작업자의 작업결과에 대하여 검수를 수행한 결과 '검수완료'를 결정하거나 '반려하기'를 결정하여 입력하기 위한 인터페이스일 수 있다.For example, the interface for inputting the inspection result is separate from the interface in which the operator's work results are provided to the inspector to perform the inspection, and the result of the inspection of the operator's work result is determined or'reviewed' It may be an interface for determining and inputting'reject'.
일 실시예로, 제1 최소 검수시간은 기준 시간당 임금 및 검수별 단가에 기초하여 결정될 수 있다.In an embodiment, the first minimum inspection time may be determined based on a standard hourly wage and a unit price per inspection.
일 예로, 제1 최소 검수시간은 기준 시간당 임금의 소정 배수를 벌어들일 수 있는 시간당 검수 수행 수량에 기초하여 결정될 수 있다. 기준 시간당 임금으로 최저시급 최저시급인 8,350원을 적용하고, 소정 배수로 1.5배를 적용할 경우, 12,525원을 벌어들일 수 있는 시간당 검수 수행 수량에 기초하여 결정하는 것이다.As an example, the first minimum inspection time may be determined based on the number of inspections performed per hour that can earn a predetermined multiple of the standard hourly wage. If the minimum hourly wage is 8,350 won, which is the minimum hourly wage, and 1.5 times the predetermined multiple is applied as the standard hourly wage, it is determined based on the number of inspections performed per hour that can earn 12,525 won.
검수별 단가는 하나의 검수별로 적용되는 단가로, 검수 난이도가 높을 경우 검수 단가는 높아지고 난이도가 낮을 경우 검수 단가는 낮아지게 된다. 검수 난이도가 높은 경우 더 높은 퀄리티가 요구되므로 제1 최소 검수시간도 더 많이 필요하게 되며, 검수 난이도가 낮은 경우에는 그 반대가 된다.The unit price for each inspection is a unit price that is applied for each inspection. If the inspection difficulty is high, the inspection unit price increases, and when the difficulty level is low, the inspection unit price decreases. If the inspection difficulty is high, a higher quality is required, so the first minimum inspection time is also required, and when the inspection difficulty is low, the opposite is true.
이에 따라, 제1 최소 검수시간은 다음 식 3과 같이 결정될 수 있다.Accordingly, the first minimum inspection time may be determined as in Equation 3 below.
[식 3][Equation 3]
제1 최소 검수시간=3600초/((기준 시간당 임금 * 일정 비율)/검수별 단가)1st minimum inspection time = 3600 seconds/((standard hourly wage * constant rate)/unit price per inspection)
검수별 단가가 1,500원으로 설정되어 있는 경우, 위 예시에서의 제1 최소 검수시간은 약 431초로 7분 정도가 된다.If the unit price for each inspection is set to 1,500 won, the first minimum inspection time in the example above is about 431 seconds, which is about 7 minutes.
검수 결과가 입력되면 이 중 반려된 작업 결과에 대하여 작업자(32)에게 재작업이 요청되며, 다음으로, 반려된 작업 결과에 대하여 오브젝트 기반 반려율이 산출된다(S230).When the inspection result is input, rework is requested from the
작업자(32)로부터 재작업 결과를 수신하면, 재작업 결과에 대하여 검수자(34)에게 재검수를 할당하여 재검수 요청한다(S240).When the rework result is received from the
제2 최소 검수시간이 경과된 후에 재검수한 검수자(34)로부터 완료된 재검수 결과를 입력받는다(S250).After the second minimum inspection time has elapsed, the completed re-examination result is input from the re-examined inspector 34 (S250).
제1 최소 검수시간과 마찬가지로, 본 발명의 일 실시예는 제2 최소 검수시간이 경과한 후에만 재검수 결과를 입력할 수 있는 인터페이스가 활성화될 수 있다. 즉, 검수자(34)는 제2 최소 검수시간이 경과된 이후에 서버로 재검수 결과를 제출할 수 있다.Like the first minimum inspection time, in an embodiment of the present invention, an interface for inputting a re-examination result may be activated only after the second minimum inspection time has elapsed. That is, the
일 실시예로, 제2 최소 검수시간은 제1 최소 검수시간에 오브젝트 기반 반려율이 적용되어 결정될 수 있다.In an embodiment, the second minimum inspection time may be determined by applying an object-based rejection rate to the first minimum inspection time.
이때, 오브젝트 기반 반려율이 적용된 제2 최소 검수시간은 제2 최소 작업시간에서의 경우와 마찬가지로, 식 4에 따라 산출될 수 있다.In this case, the second minimum inspection time to which the object-based rejection rate is applied may be calculated according to Equation 4 as in the case of the second minimum working time.
[식 4][Equation 4]
제2 최소 검수시간=3600초/((기준 시간당 임금 * 일정 비율)/검수별 단가)* 오브젝트 기반 반려율2nd minimum inspection time = 3600 seconds/((standard hourly wage * constant rate)/unit price per inspection)* object-based rejection rate
도 5a 및 도 5b의 예시는 검수자(34)의 검수 화면을 나타낸 것으로, 하나의 작업은 40개의 오브젝트로 구성되어 있으며, 1차 검수되어 반려된 이후 작업자(32)의 재작업 결과를 전달받아 재검수해야 하는 상황을 나타낸다.5A and 5B show the inspection screen of the
검수자(34)는 해당 작업에 대한 1차 검수 결과 40개의 오브젝트 중 9개의 오브젝트를 반려한 상태로, 9개의 오브젝트만을 재검수하면 된다.The
검수자(34)는 최초 검수시에는 제1 최소 검수시간에 따라 약 7분 정도의 시간을 할애하여 해당 작업 전체를 검수하게 된다. At the time of the initial inspection, the
하지만 제2 최소 검수시간을 적용하지 않게 되면, 단지 9개의 오브젝트만을 검수하게 되는 상황에서도 7분 정도의 시간을 무조건 할애해야 검수를 완료할 수 있게 되는 문제가 발생한다.However, if the second minimum inspection time is not applied, there arises a problem in that the inspection can be completed only when 7 minutes of time is unconditionally allocated even in a situation where only 9 objects are inspected.
이러한 문제를 해소하기 위해, 본 발명의 일 실시예는 오브젝트 단위의 반려율인 22.5%를 제1 최소 검수시간에 적용하여 산출된 제2 최소 검수시간에 따라, 약 1분 30초 정도만을 할애하면 재검수 결과를 제출할 수 있게 된다.In order to solve this problem, an embodiment of the present invention applies only about 1 minute and 30 seconds according to the second minimum inspection time calculated by applying 22.5%, which is the rejection rate per object, to the first minimum inspection time. You will be able to submit the re-examination results.
한편, 제1 및 제2 최소 작업시간의 경우와 마찬가지로, 하나의 프로젝트에 속하는 모든 작업에 대한 검수 단가가 동일한 경우, 제1 최소 검수시간은 모든 작업에 대하여 동일하나, 제2 최소 검수시간은 오브젝트를 기반으로 하는 반려율이 적용되므로 오브젝트 기반 반려율이 서로 다를 경우 각각의 작업별로 서로 다르게 설정될 수 있다.On the other hand, as in the case of the first and second minimum working hours, if the inspection unit price for all tasks belonging to one project is the same, the first minimum inspection time is the same for all tasks, but the second minimum inspection time is the object Since the rejection rate based on is applied, if the object-based rejection rate is different, it may be set differently for each task.
이와 달리, 하나의 프로젝트에 속하는 각 작업에 대한 검수 단가가 각각 상이한 경우, 제1 및 제2 최소 검수시간은 작업별로 서로 다르게 설정될 수 있다.In contrast, when the inspection unit price for each job belonging to one project is different, the first and second minimum inspection times may be set differently for each job.
한편, 상술한 설명에서, 단계 S11 내지 S240은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 후술하는 도 6의 내용은 도 1 내지 도 5b 의 재작업 및 재검수 시간 설정 방법에도 적용될 수 있다.Meanwhile, in the above description, steps S11 to S240 may be further divided into additional steps or may be combined into fewer steps, according to an embodiment of the present invention. In addition, some steps may be omitted as necessary, and the order between steps may be changed. In addition, even if other contents are omitted, the contents of FIG. 6 to be described later may also be applied to the rework and re-examination time setting methods of Figs. 1 to 5B.
이하에서는 도 6을 참조하여, 본 발명의 일 실시예에 따른 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 장치(100)에 대하여 설명하도록 한다.Hereinafter, with reference to FIG. 6, an apparatus 100 for setting a minimum rework and re-review time based on the number of rejected objects according to an embodiment of the present invention will be described.
도 6은 본 발명의 일 실시예에 따른 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 장치(100)를 설명하기 위한 도면이다.6 is a diagram for explaining an apparatus 100 for setting a minimum rework and re-review time based on the number of objects returned according to an embodiment of the present invention.
도 6을 참조하면, 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 장치(100)는 통신모듈(110), 메모리(120) 및 프로세서(130)를 포함한다.Referring to FIG. 6, an apparatus 100 for setting a minimum rework and re-review time based on the number of returned objects includes a communication module 110, a memory 120, and a processor 130.
통신모듈(110)은 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 복수의 작업자(32)에게 송신하고, 복수의 작업자(32)로부터 작업 결과 및 재작업 결과를 수신한다. 그리고 복수의 작업자(32)로부터 입력된 작업 결과 및 재작업 결과를 복수의 검수자(34)에게 송신하고, 복수의 검수자(34)로부터 검수 결과 및 재검수 결과를 수신한다.The communication module 110 transmits a crowdsourcing-based work for one project to a plurality of
메모리(120)에는 작업에 포함된 오브젝트 수에 기초하여 최소 재작업 및 재검수 시간을 설정하기 위한 프로그램이 저장된다.A program for setting a minimum rework and re-review time based on the number of objects included in the work is stored in the memory 120.
프로세서(130)는 메모리(120)에 저장된 프로그램을 실행시킨다. 프로세서(130)는 메모리(120)에 저장된 프로그램을 실행시킴에 따라, 복수의 작업자(32)로부터 제1 최소 작업시간이 경과된 후 작업 결과를 입력 가능하도록 하고, 제2 최소 작업시간이 경과된 후 재작업 결과를 입력 가능하도록 한다.The processor 130 executes a program stored in the memory 120. As the processor 130 executes the program stored in the memory 120, it is possible to input the work result after the first minimum work time has elapsed from the plurality of
또한, 프로세서(130)는 복수의 검수자(34)로부터 제1 최소 검수시간이 경과된 후 검수 결과를 입력 가능하도록 하고, 제2 최소 검수시간이 경과된 후 재검수 결과를 입력되도록 한다.Further, the processor 130 enables the input of the inspection result after the first minimum inspection time has elapsed from the plurality of
여기에서 제2 최소 작업시간과 제2 최소 검수시간은 반려된 작업에 포함된 오브젝트 중 반려된 오브젝트 수에 기반하여 산출된다.Here, the second minimum work time and the second minimum inspection time are calculated based on the number of rejected objects among objects included in the rejected job.
도 6을 참조하여 설명한 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 장치(100)는 상술한 서버의 구성요소로 제공될 수 있다.The apparatus 100 for setting the minimum rework and re-review time based on the number of rejected objects described with reference to FIG. 6 may be provided as a component of the above-described server.
이상에서 전술한 본 발명의 일 실시예에 따른 반려된 오브젝트 수에 기반하여 최소 재작업 및 재검수 시간을 설정하는 방법은, 하드웨어인 컴퓨터와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.The method of setting the minimum rework and re-review time based on the number of returned objects according to the embodiment of the present invention described above is implemented as a program (or application) to be executed in combination with a computer that is hardware Can be stored in.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, Ruby, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.The above-described program includes C, C++, JAVA, Ruby, which can be read by a processor (CPU) of the computer through the device interface of the computer, in order for the computer to read the program and execute the methods implemented as a program. It may include a code (Code) coded in a computer language such as machine language. Such code may include a functional code related to a function that defines necessary functions for executing the methods, and includes a control code related to an execution procedure necessary for the processor of the computer to execute the functions according to a predetermined procedure. can do. In addition, these codes may further include additional information required for the processor of the computer to execute the functions, or code related to a memory reference to which location (address address) of the internal or external memory of the computer should be referenced. have. In addition, when the processor of the computer needs to communicate with any other computer or server in the remote in order to execute the functions, the code uses the communication module of the computer to determine how It may further include a communication-related code for whether to communicate, what kind of information or media should be transmitted and received during communication.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.The stored medium is not a medium that stores data for a short moment, such as a register, cache, memory, etc., but a medium that stores data semi-permanently and can be read by a device. Specifically, examples of the storage medium include, but are not limited to, ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, and the like. That is, the program may be stored in various recording media on various servers to which the computer can access, or on various recording media on the user's computer. In addition, the medium may be distributed over a computer system connected through a network, and computer-readable codes may be stored in a distributed manner.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The above description of the present invention is for illustrative purposes only, and those of ordinary skill in the art to which the present invention pertains will be able to understand that it can be easily modified into other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are illustrative in all respects and not limiting. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as being distributed may also be implemented in a combined form.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is indicated by the claims to be described later rather than the detailed description, and all changes or modified forms derived from the meaning and scope of the claims and their equivalent concepts should be interpreted as being included in the scope of the present invention. do.
10 : 의뢰자
20 : 서비스 제공 업체
30 : 대중
32 : 작업자
34 : 검수자
100 : 최소 재작업 및 재검수 시간 설정 장치
110 : 통신모듈
120 : 메모리
130 : 프로세서10: Client
20: service provider
30: public
32: worker
34: inspector
100: Minimum rework and retest time setting device
110: communication module
120: memory
130: processor
Claims (12)
상기 서버가 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 작업자에게 할당하여 작업 요청하는 단계;
상기 서버가 제1 최소 작업 제한 시간이 경과한 후에 작업결과 입력 인터페이스를 활성화시켜 상기 작업자로부터 작업 결과를 입력받는 단계;
상기 서버가 검수자에게 상기 작업 결과에 대하여 검수 요청하여, 상기 검수자로부터 검수 결과를 입력받는 단계;
상기 서버가 상기 검수자에 의한 검수 결과가 반려 처리인 경우, 반려된 작업 결과에 대하여 작업자에게 재작업 요청하는 단계;
상기 서버가 상기 반려된 작업 결과에 대하여 오브젝트 기반 반려율을 산출하는 단계; 및
상기 서버가 상기 오브젝트 기반 반려율에 상응하는 제2 최소 작업 제한 시간이 경과한 후에 작업결과 입력 인터페이스를 활성화시켜 상기 작업자로부터 재작업 결과를 입력받는 단계를 포함하고,
상기 오브젝트 기반 반려율은 상기 작업에 포함된 하나 이상의 오브젝트 중 반려 처리된 오브젝트 수에 기반하여 산출되는 것인,
반려된 오브젝트 수에 기반하여 최소 재작업 시간을 설정하는 방법.As a method performed by a crowdsourcing platform server computer (hereinafter, a server),
Requesting a job by allocating, by the server, a crowdsourcing-based job for one project to a worker;
Receiving, by the server, a job result input interface from the worker by activating a job result input interface after a first minimum job limit time elapses;
Receiving, by the server, a request for inspection of the work result from an inspector, and receiving an inspection result from the inspector;
Requesting, by the server, an operator for rework of the rejected job result when the result of the inspection by the inspector is rejection processing;
Calculating, by the server, an object-based rejection rate for the rejected job result; And
And receiving, by the server, activating a work result input interface after a second minimum work limit time corresponding to the object-based rejection rate has elapsed, and receiving a rework result from the worker,
The object-based rejection rate is calculated based on the number of rejected objects among one or more objects included in the job,
How to set a minimum rework time based on the number of objects dropped.
상기 제1 최소 작업 제한 시간은 기준 시간당 임금 및 작업별 단가에 기초하여 결정되는 것인,
반려된 오브젝트 수에 기반하여 최소 재작업 시간을 설정하는 방법.The method of claim 1,
The first minimum work time limit is determined based on a standard hourly wage and a unit price per work,
How to set a minimum rework time based on the number of objects dropped.
상기 제2 최소 작업 제한 시간은 상기 제1 최소 작업 제한 시간에 상기 오브젝트 기반 반려율을 적용하여 결정되는 것인,
반려된 오브젝트 수에 기반하여 최소 재작업 시간을 설정하는 방법.The method of claim 1,
The second minimum work limit time is determined by applying the object-based rejection rate to the first minimum work limit time,
How to set a minimum rework time based on the number of objects dropped.
동일한 작업 단가를 갖는 제1 작업과 제2 작업의 제1 최소 작업 제한 시간은 동일하게 설정되고,
서로 다른 오브젝트 기반 반려율에 의하여, 동일한 작업 단가를 갖는 상기 제1 작업과 상기 제2 작업의 제2 최소 작업 제한 시간은 서로 다르게 설정되는,
반려된 오브젝트 수에 기반하여 최소 재작업 시간을 설정하는 방법.The method of claim 1,
The first minimum work time limit for the first work and the second work having the same work unit cost are set the same,
According to different object-based rejection rates, the second minimum task time limit of the first task and the second task having the same work unit cost are set differently from each other,
How to set a minimum rework time based on the number of objects dropped.
상기 서버가 하나의 프로젝트에 대한 크라우드소싱 기반의 작업을 작업자에게 할당하여 작업 요청하는 단계;
상기 서버가 상기 작업자로부터 작업 결과를 입력받는 단계;
상기 서버가 검수자에게 상기 작업 결과에 대하여 검수 요청하는 단계;
상기 서버가 제1 최소 검수 제한 시간이 경과한 후에 검수결과 입력 인터페이스를 활성화시켜 상기 검수자로부터 작업 결과를 입력받는 단계;
상기 서버가 상기 검수자에 의한 검수 결과가 반려 처리인 경우, 반려된 작업 결과에 대하여 작업자에게 재작업 요청하는 단계;
상기 서버가 상기 반려된 작업 결과에 대하여 오브젝트 기반 반려율을 산출하는 단계;
상기 서버가 상기 작업자로부터 재작업 결과를 입력받는 단계; 및
상기 서버가 상기 오브젝트 기반 반려율에 따라 상응하는 제2 최소 검수 제한 시간이 경과한 후에 검수결과 입력 인터페이스를 활성화시켜 상기 검수자로부터 재검수 결과를 입력받는 단계를 포함하고,
상기 오브젝트 기반 반려율은 상기 작업에 포함된 하나 이상의 오브젝트 중 반려 처리된 오브젝트 수에 기반하여 산출되는 것인,
반려된 오브젝트 수에 기반하여 최소 재검수 시간을 설정하는 방법.As a method performed by a crowdsourcing platform server computer (hereinafter, a server),
Requesting a job by allocating, by the server, a crowdsourcing-based job for one project to a worker;
Receiving, by the server, a work result from the worker;
Requesting, by the server, an inspector to inspect the work result;
Receiving, by the server, a work result from the inspector by activating an inspection result input interface after a first minimum inspection time has elapsed;
Requesting, by the server, an operator for rework of the rejected job result when the result of the inspection by the inspector is rejection processing;
Calculating, by the server, an object-based rejection rate for the rejected job result;
Receiving, by the server, a rework result from the worker; And
And receiving, by the server, activating an inspection result input interface after a corresponding second minimum inspection time has elapsed according to the object-based rejection rate, and receiving a re-examination result from the inspector,
The object-based rejection rate is calculated based on the number of rejected objects among one or more objects included in the job,
How to set the minimum retest time based on the number of rejected objects.
상기 제1 최소 검수 제한 시간은 기준 시간당 임금 및 검수별 단가에 기초하여 결정되는 것인,
반려된 오브젝트 수에 기반하여 최소 재검수 시간을 설정하는 방법.The method of claim 6,
The first minimum inspection time limit is determined based on a standard hourly wage and a unit price per inspection,
How to set the minimum retest time based on the number of rejected objects.
상기 제2 최소 검수 제한 시간은 상기 제1 최소 검수 제한 시간에 상기 오브젝트 기반 반려율을 적용하여 결정되는 것인,
반려된 오브젝트 수에 기반하여 최소 재검수 시간을 설정하는 방법.The method of claim 6,
The second minimum inspection time limit is determined by applying the object-based rejection rate to the first minimum inspection time limit,
How to set the minimum retest time based on the number of rejected objects.
동일한 작업 단가를 갖는 제1 작업과 제2 작업의 제1 최소 검수 제한 시간은 동일하게 설정되고,
서로 다른 오브젝트 기반 반려율에 의하여, 동일한 작업 단가를 갖는 상기 제1 작업과 상기 제2 작업의 제2 최소 검수 제한 시간은 서로 다르게 설정되는,
반려된 오브젝트 수에 기반하여 최소 재검수 시간을 설정하는 방법.The method of claim 6,
The first minimum inspection time limit for the first task and the second task having the same work unit cost is set equally,
According to different object-based rejection rates, the second minimum inspection time limit of the first task and the second task having the same work unit cost are set differently,
How to set the minimum retest time based on the number of rejected objects.
A computer program stored in a computer-readable recording medium to execute a method for setting a minimum re-examination time based on the number of rejected objects in any one of claims 6 to 8 and 10.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190168166A KR102155747B1 (en) | 2019-12-16 | 2019-12-16 | Method for setting minimum re-work and re-inspection time based on the number of objects returned of crowdsourcing based project for artificial intelligence training data generation |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190168166A KR102155747B1 (en) | 2019-12-16 | 2019-12-16 | Method for setting minimum re-work and re-inspection time based on the number of objects returned of crowdsourcing based project for artificial intelligence training data generation |
Publications (2)
Publication Number | Publication Date |
---|---|
KR102155747B1 true KR102155747B1 (en) | 2020-09-16 |
KR102155747B9 KR102155747B9 (en) | 2021-09-06 |
Family
ID=72669595
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190168166A KR102155747B1 (en) | 2019-12-16 | 2019-12-16 | Method for setting minimum re-work and re-inspection time based on the number of objects returned of crowdsourcing based project for artificial intelligence training data generation |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102155747B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102333642B1 (en) * | 2021-06-04 | 2021-12-01 | 셀렉트스타 주식회사 | Method, Computing Device, and Computer-readable Medium for Providing Guide Information on Contour Information of Objects Included in Images in Crowdsourcing |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000067111A (en) * | 1998-08-26 | 2000-03-03 | Hitachi Ltd | Scheduling device and ordered production planning system |
JP2011013763A (en) * | 2009-06-30 | 2011-01-20 | Hitachi Ltd | Duration calculator and duration calculation method |
KR20140095956A (en) | 2013-01-25 | 2014-08-04 | 한국전자통신연구원 | Method and system for generating image-knowledge contents based on crowdsourcing |
KR101887415B1 (en) * | 2017-11-21 | 2018-08-10 | 주식회사 크라우드웍스 | Program and method for checking data labeling product |
-
2019
- 2019-12-16 KR KR1020190168166A patent/KR102155747B1/en active IP Right Review Request
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000067111A (en) * | 1998-08-26 | 2000-03-03 | Hitachi Ltd | Scheduling device and ordered production planning system |
JP2011013763A (en) * | 2009-06-30 | 2011-01-20 | Hitachi Ltd | Duration calculator and duration calculation method |
KR20140095956A (en) | 2013-01-25 | 2014-08-04 | 한국전자통신연구원 | Method and system for generating image-knowledge contents based on crowdsourcing |
KR101887415B1 (en) * | 2017-11-21 | 2018-08-10 | 주식회사 크라우드웍스 | Program and method for checking data labeling product |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102333642B1 (en) * | 2021-06-04 | 2021-12-01 | 셀렉트스타 주식회사 | Method, Computing Device, and Computer-readable Medium for Providing Guide Information on Contour Information of Objects Included in Images in Crowdsourcing |
WO2022255584A1 (en) * | 2021-06-04 | 2022-12-08 | 셀렉트스타 주식회사 | Method, computing device, and computer-readable medium for providing guidance information about contour information about object included in image via crowdsourcing |
Also Published As
Publication number | Publication date |
---|---|
KR102155747B9 (en) | 2021-09-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102155790B1 (en) | Method and apparatus for measuring competence of worker using average return rate | |
KR102164844B1 (en) | Method for evaluating workers using the unit of work difficulty of crowdsourcing based projects for artificial intelligence training data generation | |
KR102232866B1 (en) | Method for distributing functional element unit work of crowdsourcing based project for artificial intelligence training data generation | |
KR102156582B1 (en) | Method for selecting sincere worker and prioritizing inspection of crowdsourcing based projects for artificial intelligence training data generation | |
KR102195630B1 (en) | Method for providing rewarded training for training participants in a crowdsourcing based projects for artificial intelligence training data generation | |
KR102155889B1 (en) | Method for improving quality through secondary work on work results of other workers in a crowdsourcing based projects for artificial intelligence training data generation | |
KR102195629B1 (en) | Method for selecting workers based on capability of work in crowdsourcing based projects for artificial intelligence training data generation | |
KR102205811B1 (en) | Method for setting minimum work time using work time of each functional elements of crowdsourcing based project for artificial intelligence training data generation | |
KR102164769B1 (en) | Method for measuring competence using the number of inspection pass of crowdsourcing based project for artificial intelligence training data generation | |
KR102155748B1 (en) | Method for automatic apdating inspection unit price using work time versus inspection time of crowdsourcing based project for artificial intelligence training data generation | |
KR102183836B1 (en) | Method for automatically calculating estimates based on estimated work time of crowdsourcing based projects for artificial intelligence training data generation | |
KR102155747B1 (en) | Method for setting minimum re-work and re-inspection time based on the number of objects returned of crowdsourcing based project for artificial intelligence training data generation | |
KR102155839B1 (en) | Method and apparatus for monitoring worker based on the reason for not wokring | |
KR102195606B1 (en) | Method for improving reliability by selective self check of worker of crowdsourcing based project for artificial intelligence training data generation | |
KR102164837B1 (en) | Method for cost-effectively managing inspection quality of crowdsourcing based projects for artificial intelligence training data generation | |
KR102195608B1 (en) | Method for automatically returning using object return rate of crowdsourcing based project for artificial intelligence training data generation | |
US20210383329A1 (en) | Method of distributing functional element unit tasks of crowdsourcing-based project, apparatus therefor, and computer program therefor | |
KR102155886B1 (en) | Method for applying maximum number of work limits per worker based on inspection result of crowdsourcing based projects for artificial intelligence training data generation | |
KR102205810B1 (en) | Method for automatically returning rework result of crowdsourcing based project for artificial intelligence training data generation | |
KR102183812B1 (en) | Method for paying inspection fee based on hourly wage for each inspector using the verification work results of crowdsourcing based projects for artificial intelligence training data generation | |
KR102156586B1 (en) | Method for sequentially assigning work and inspection of crowdsourcing based project for artificial intelligence training data generation | |
KR102155846B1 (en) | Method and apparatus for sampling inspection using the rate of return of previous work | |
KR102155746B1 (en) | Method for verifying inspectors by sample inspection between inspectors | |
KR102232890B1 (en) | Method for determining whether to assign work based on the estimated inspection time of a crowdsourcing based projects for artificial intelligence training data generation | |
KR102195956B1 (en) | Method for updating maximum number of work limits according to work difficulty of crowdsourcing based project for artificial intelligence training data generation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
GRNT | Written decision to grant | ||
J202 | Request for trial for correction [limitation] | ||
J301 | Trial decision |
Free format text: TRIAL NUMBER: 2021105000092; TRIAL DECISION FOR CORRECTION REQUESTED 20210728 Effective date: 20210817 |