KR102461482B1 - The apparatus of harmful contents blocking service platform based on ai agent - Google Patents
The apparatus of harmful contents blocking service platform based on ai agent Download PDFInfo
- Publication number
- KR102461482B1 KR102461482B1 KR1020210098594A KR20210098594A KR102461482B1 KR 102461482 B1 KR102461482 B1 KR 102461482B1 KR 1020210098594 A KR1020210098594 A KR 1020210098594A KR 20210098594 A KR20210098594 A KR 20210098594A KR 102461482 B1 KR102461482 B1 KR 102461482B1
- Authority
- KR
- South Korea
- Prior art keywords
- agent
- content
- management
- harmful
- harmfulness
- Prior art date
Links
- 230000000903 blocking effect Effects 0.000 title claims abstract description 51
- 238000007689 inspection Methods 0.000 claims abstract description 57
- 238000013473 artificial intelligence Methods 0.000 claims abstract description 37
- 238000000034 method Methods 0.000 claims abstract description 22
- 230000004044 response Effects 0.000 claims abstract description 7
- 238000012360 testing method Methods 0.000 claims description 12
- 230000000694 effects Effects 0.000 claims description 9
- 238000004891 communication Methods 0.000 claims description 4
- 238000009434 installation Methods 0.000 claims description 3
- 238000012790 confirmation Methods 0.000 abstract description 2
- 238000007726 management method Methods 0.000 description 97
- 230000000875 corresponding effect Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 5
- 238000009826 distribution Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 238000012423 maintenance Methods 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
- 238000005728 strengthening Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0207—Discounts or incentives, e.g. coupons or rebates
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Physics & Mathematics (AREA)
- Accounting & Taxation (AREA)
- Development Economics (AREA)
- Finance (AREA)
- Tourism & Hospitality (AREA)
- Computer Security & Cryptography (AREA)
- Economics (AREA)
- General Business, Economics & Management (AREA)
- Software Systems (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Human Resources & Organizations (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Computer Hardware Design (AREA)
- Game Theory and Decision Science (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Transfer Between Computers (AREA)
Abstract
Description
본 발명은 유해 컨텐츠 차단 서비스 기술에 관한 것으로, 보다 상세하게는 인공지능 에이전트를 기반으로 인터넷 상에 유해 컨텐츠를 실시간 검사 및 차단하여 유해 컨텐츠의 유포를 미연에 방지할 수 있는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치에 관한 것이다.The present invention relates to a harmful content blocking service technology, and more particularly, an artificial intelligence agent-based harmful content that can prevent the distribution of harmful content in advance by inspecting and blocking harmful content on the Internet in real time based on an artificial intelligence agent. It relates to a content blocking service platform device.
모바일 기기와 컨텐츠 플랫폼의 보급이 확산되며, 다양한 형태의 유해 컨텐츠가 억제되지 못하고 유포되고 있는 상황이다. 현재 유해 컨텐츠를 차단하기 위해서 많은 노력이 이어지고 있다.The spread of mobile devices and content platforms is spreading, and various types of harmful content are being distributed without being restrained. Currently, many efforts are being made to block harmful content.
예컨대, 유튜브, 페이스북, 야후 등과 같은 SNS 및 전자상거래를 운영하는 서버에 업로드 되는 컨텐츠들을 다양한 기술을 활용하여 유해한 것을 찾아 차단, 삭제 등의 조치를 취하고 있다. 하지만, 이것은 실시간 대응이 어려우며, 검사방식을 피해가거나, 관리자에 의한 전수 검사를 시행하는 경우, 등록과정이 복잡하거나 심사기간이 매우 길어 유해 컨텐츠를 실시간 선별 검사 및 차단 대응이 불가능하다.For example, content uploaded to servers running SNS and e-commerce such as YouTube, Facebook, Yahoo, etc. are found harmful using various technologies, and measures such as blocking and deletion are taken. However, it is difficult to respond in real time, and if the inspection method is bypassed or if a full inspection is performed by an administrator, the registration process is complicated or the review period is very long, so it is impossible to screen for and block harmful content in real time.
기존의 전수 검사 방식은 인건비가 반영되어 비용이 높다. 일부 대기업에서는 인공지능(AI)을 활용하여 자체 유해 컨텐츠 차단 서비스에 적용하고 있으나, 중소기업은 그것을 도입하기엔 비용 부담이 크다. 이로 인하여, 선제 대응보다는 피해 신고를 받은 후에 대응하는 사후처리 경우가 대다수이다.The existing total inspection method is expensive because labor costs are reflected. Some large companies are applying artificial intelligence (AI) to their own harmful content blocking services, but small and medium-sized enterprises are too expensive to introduce it. For this reason, the majority of cases involve post-processing after receiving a report of damage rather than a preemptive response.
기술의 발전과 더불어 다양해지는 미디어를 따라가기에는 기존의 URL(Uniform Resource Identifier) 목록이나 네트워크 주소 기반의 차단과 관리자에 의한 전수검사 방식은 시간과 비용이 많이 소요되며, 사후처리에 대한 법적인 부담까지 생기고 있다. 또한, 세계각국에서 규제강화를 나서는 국가나 지방정부가 늘어나고 있다.In order to keep up with the diversified media along with the development of technology, blocking based on the existing URL (Uniform Resource Identifier) list or network address and the total inspection method by the administrator are time-consuming and costly, and the legal burden of post-processing is also high. is occurring In addition, an increasing number of countries and local governments are strengthening regulations around the world.
이에 업로드 단계에서부터 또는 배포초기 단계에서 대응할 수 있는 기술, 나아가 자동으로 검사하고 유해성 기준을 넘지 못할 경우 사전에 차단, 경고를 함으로서 보다 적극 대응할 수 있는 기술이 필요하게 되었다.Therefore, it is necessary to develop a technology that can respond from the upload stage or the initial stage of distribution, and furthermore, a technology that can respond more actively by automatically inspecting and blocking and warning in advance if the harmfulness standard is not exceeded.
본 발명의 일 실시예는 인공지능 에이전트를 기반으로 인터넷 상에 유해 컨텐츠를 실시간 검사 및 차단하여 유해 컨텐츠의 유포를 미연에 방지할 수 있는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치를 제공하고자 한다.An embodiment of the present invention is to provide an artificial intelligence agent-based harmful content blocking service platform device that can prevent the distribution of harmful content in advance by inspecting and blocking harmful content on the Internet in real time based on an artificial intelligence agent. .
본 발명의 일 실시예는 유해 컨텐츠 검사를 에이전트 형태로 운영 및 관리하여 로컬 단말로 컨텐츠의 유해성 판별을 분산 처리할 수 있어 유지, 관리 비용을 절감하고 검사 절차가 간소화될 수 있는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치를 제공하고자 한다.An embodiment of the present invention is based on an artificial intelligence agent that can reduce maintenance and management costs and simplify inspection procedures by operating and managing harmful content inspection in the form of an agent to distribute harmful content determination to local terminals. We want to provide a platform device for blocking harmful content.
본 발명의 일 실시예는 에이전트를 독립적인 하나의 객체로 또는 그룹으로 구성하고 에이전트들 간에 유해성 검사 및 차단의 결과를 공유함으로써 유해 컨텐츠에 대해 빠르게 대응할 수 있는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치를 제공하고자 한다.An embodiment of the present invention is an artificial intelligence agent-based parental content blocking service platform that can quickly respond to harmful contents by configuring agents as an independent object or group and sharing the results of harmfulness inspection and blocking between agents. We want to provide a device.
실시예들 중에서, 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치는 관리 대상 사이트의 검사 대상 컨텐츠의 유해성을 확인하고 유해성 확인 결과를 보고하는 에이전트, 및 상기 에이전트의 검사 대상과 시간, 검사 후 대응 방법을 포함하는 활동범위를 정하여 상기 에이전트의 운영을 관리하고 상기 에이전트로부터 유해성 발견 보고시 사이트 관리자에게 유해 컨텐츠 발견을 통보하는 에이전트 관리 서버를 포함한다.Among the embodiments, the AI agent-based harmful content blocking service platform device includes an agent that checks the harmfulness of the content to be inspected on the managed site and reports the harmfulness confirmation result, and the inspection target and time of the agent, and a response method after inspection and an agent management server for managing the operation of the agent by determining an activity range including
상기 에이전트는 브라우저에 애드온 형태로 설치되고 사용자 단말에 로딩되는 컨텐츠의 유해성을 확인하여 유해성이 확인된 사이트를 상기 에이전트 관리 서버에 보고하는 일반 에이전트들과, 독립적인 객체로 상기 에이전트 관리 서버를 통해서 매칭되는 관리 대상에 대해 컨텐츠 유해성 검사를 자체 실행하고 검사 결과를 상기 에이전트 관리 서버에 통보하여 검사 실행에 따른 보상을 지급받는 독립형 에이전트들로 구성될 수 있다.The agent is installed in the browser in the form of an add-on, checks the harmfulness of the content loaded on the user terminal, and matches through the agent management server as an independent object with general agents that report the site of the confirmed harmfulness to the agent management server It may consist of independent agents that self-execute a content harmfulness test on a managed target and notify the agent management server of the test result to receive a reward according to the test execution.
상기 에이전트는 상기 일반 에이전트들 중 상기 에이전트 관리 서버의 보상 시스템에 가입한 에이전트의 경우, 상기 에이전트 관리 서버로부터 검사목록을 제공받아 검사목록에 있는 웹사이트의 컨텐츠 검사를 대행하고 검사결과를 상기 에이전트 관리 서버에 통보하여 검사 대행에 따른 보상을 지급받을 수 있다.In the case of an agent subscribing to the compensation system of the agent management server among the general agents, the agent receives a checklist from the agent management server, performs content inspection of websites in the checklist, and manages the agent management results. By notifying the server, you can receive compensation according to the inspection agent.
상기 에이전트는 특정 기준에 따라 그룹핑하고 그룹내 또는 그룹간 다른 에이전트들과 통신을 통해 다른 에이전트들의 유해 컨텐츠 검사와 차단 결과를 공유하여 해당 유해 컨텐츠에 대해 선제적으로 차단을 시행할 수 있다.The agent can preemptively block the harmful content by grouping them according to specific criteria and sharing the harmful content inspection and blocking results of other agents through communication with other agents within the group or between groups.
상기 에이전트는 설치 위치에 따라, 관리 대상 사이트의 서버에 설치되거나 내부 네트워크로 연결되고 상기 관리 대상 사이트의 서버 내부의 파일 및 폴더에 대한 검사를 진행할 수 있는 권한을 가진 내부형 에이전트 그룹과, 상기 관리 대상 사이트의 서버에 외부 네트워크로 연결되어 일정기간 동안 임대형으로 제공되고 주기적으로 상기 관리 대상 사이트의 서버에 신규 및 갱신되는 컨텐츠에 대한 검사를 진행할 수 있는 권한을 가진 외부형 에이전트 그룹으로 구분될 수 있다.The agent is installed on the server of the managed site or connected to the internal network according to the installation location, and has an internal agent group having the right to inspect files and folders inside the server of the managed site; It can be divided into an external agent group that is connected to the server of the target site through an external network and is provided as a lease for a certain period of time and has the authority to periodically inspect new and updated content on the server of the managed site. .
상기 에이전트는 그룹 내 에이전트들 중 리더 에이전트를 통하여 상기 에이전트 관리 서버와 하위 에이전트들 사이에 통신을 수행하는 수직형으로 운영되거나, 그룹 내 에이전트들 각각 독립적으로 상기 에이전트 관리 서버와 통신을 수행하는 수평형으로 운영되거나 수직형과 수평형이 혼합된 형태로 운영될 수 있다.The agent is operated in a vertical type that communicates between the agent management server and sub-agents through a leader agent among agents in the group, or a horizontal type in which each of the agents in the group independently communicates with the agent management server It can be operated as a vertical or a mixed type of vertical and horizontal types.
상기 에이전트는 파일의 업로드시 업로드할 파일에 대해 유해성 확인을 하여 유해성이 발견되면 파일의 업로드를 차단하고 안전함이 확인되면 관리 레벨에 기초한 안전인증을 나타내는 메타데이타를 포함하여 파일 업로드될 수 있다.The agent checks the harmfulness of the file to be uploaded when uploading the file, blocks the upload of the file when it is found to be harmful, and when it is confirmed that it is safe, the file can be uploaded including metadata indicating safety authentication based on the management level.
상기 에이전트 관리 서버는 관리 레벨에 따라 관리 대상 사이트의 서버에 유해성이 발견된 컨텐츠의 서비스 중지 및 격리를 요청할 수 있다.The agent management server may request the server of the management target site to stop service and isolate the content found to be harmful according to the management level.
상기 에이전트 관리 서버는 상기 독립형 에이전트의 관리목록 요청에 따라 관리대상을 매칭하여 관리대상 목록을 제공하고, 상기 독립형 에이전트의 유해성 발견 보고에 따라 관리목록 레벨을 확인하여 유해 컨텐츠 발견을 관리대상 관리자에게 통보하고 확인된 관리 레벨이 높으면 유해물이 있는 컨텐츠의 서비스를 중지 및 격리시킬 수 있다.The agent management server provides a management target list by matching the management target according to the management list request of the independent agent, checks the management list level according to the harmfulness discovery report of the independent agent, and notifies the management target manager of the discovery of harmful contents And if the checked management level is high, the service of contents with harmful contents can be stopped and quarantined.
상기 에이전트 관리 서버는 상기 관리대상 목록에 있는 관리 대상 사이트에 대해 유해성 검사를 수행하는 에이전트에 대해 포인트 보상을 수행할 수 있다.The agent management server may perform point compensation for an agent that performs a harmfulness check on a management target site in the management target list.
개시된 기술은 다음의 효과를 가질 수 있다. 다만, 특정 실시예가 다음의 효과를 전부 포함하여야 하거나, 다음의 효과만을 포함하여야 한다는 의미는 아니므로, 개시된 기술의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.The disclosed technology may have the following effects. However, since a specific embodiment does not mean that it should include all of the following effects or only the following effects, it should not be understood that the scope of the disclosed technology is limited thereby.
본 발명의 일 실시예에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치는 인공지능 에이전트를 기반으로 인터넷 상에 유해 컨텐츠를 실시간 검사 및 차단하여 유해 컨텐츠의 유포를 미연에 방지할 수 있다.The artificial intelligence agent-based harmful content blocking service platform apparatus according to an embodiment of the present invention can prevent the distribution of harmful content in advance by detecting and blocking harmful content on the Internet in real time based on the artificial intelligence agent.
본 발명의 일 실시예에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치는 유해 컨텐츠 검사를 에이전트 형태로 운영 및 관리하여 로컬 단말로 컨텐츠의 유해성 판별을 분산 처리할 수 있어 유지, 관리 비용을 절감하고 검사 절차가 간소화될 수 있다.The artificial intelligence agent-based harmful content blocking service platform device according to an embodiment of the present invention operates and manages harmful content inspection in the form of an agent, so that the harmful content determination can be distributed to local terminals, thereby reducing maintenance and management costs and the inspection procedure can be simplified.
본 발명의 일 실시예에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치는 에이전트를 독립적인 하나의 객체로 또는 그룹으로 구성하고 에이전트들 간에 유해성 검사 및 차단의 결과를 공유함으로써 유해 컨텐츠에 대해 빠르게 대응할 수 있다.The artificial intelligence agent-based harmful content blocking service platform device according to an embodiment of the present invention configures agents as an independent object or group, and shares the results of harmfulness inspection and blocking between agents, so that harmful content can be quickly dealt with. can respond.
도 1은 본 발명의 일 실시예에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치를 개략적으로 도시한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치의 기본 구성을 도시한 블록도이다.
도 3은 도 1에 있는 에이전트와 에이전트 관리 서버 간의 연결 구성을 나타내는 도면이다.
도 4는 본 발명의 일 실시예에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치를 설명하기 위한 구성도이다.
도 5 및 도 6은 본 발명에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치의 운영 과정을 도시한 순서도이다.1 is a block diagram schematically illustrating an artificial intelligence agent-based harmful content blocking service platform apparatus according to an embodiment of the present invention.
2 is a block diagram showing the basic configuration of an artificial intelligence agent-based harmful content blocking service platform device according to an embodiment of the present invention.
FIG. 3 is a diagram illustrating a connection configuration between the agent in FIG. 1 and an agent management server.
4 is a block diagram illustrating an artificial intelligence agent-based harmful content blocking service platform apparatus according to an embodiment of the present invention.
5 and 6 are flowcharts illustrating an operation process of an artificial intelligence agent-based harmful content blocking service platform device according to the present invention.
본 발명에 관한 설명은 구조적 내지 기능적 설명을 위한 실시예에 불과하므로, 본 발명의 권리범위는 본문에 설명된 실시예에 의하여 제한되는 것으로 해석되어서는 아니 된다. 즉, 실시예는 다양한 변경이 가능하고 여러 가지 형태를 가질 수 있으므로 본 발명의 권리범위는 기술적 사상을 실현할 수 있는 균등물들을 포함하는 것으로 이해되어야 한다. 또한, 본 발명에서 제시된 목적 또는 효과는 특정 실시예가 이를 전부 포함하여야 한다거나 그러한 효과만을 포함하여야 한다는 의미는 아니므로, 본 발명의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.Since the description of the present invention is merely an embodiment for structural or functional description, the scope of the present invention should not be construed as being limited by the embodiment described in the text. That is, since the embodiment is capable of various changes and may have various forms, it should be understood that the scope of the present invention includes equivalents capable of realizing the technical idea. In addition, since the object or effect presented in the present invention does not mean that a specific embodiment should include all of them or only such effects, it should not be understood that the scope of the present invention is limited thereby.
한편, 본 출원에서 서술되는 용어의 의미는 다음과 같이 이해되어야 할 것이다.On the other hand, the meaning of the terms described in the present application should be understood as follows.
"제1", "제2" 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위한 것으로, 이들 용어들에 의해 권리범위가 한정되어서는 아니 된다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.Terms such as “first” and “second” are for distinguishing one component from another, and the scope of rights should not be limited by these terms. For example, a first component may be termed a second component, and similarly, a second component may also be termed a first component.
어떤 구성요소가 다른 구성요소에 "연결되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결될 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다고 언급된 때에는 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 한편, 구성요소들 간의 관계를 설명하는 다른 표현들, 즉 "~사이에"와 "바로 ~사이에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.When a component is referred to as being “connected” to another component, it may be directly connected to the other component, but it should be understood that other components may exist in between. On the other hand, when it is mentioned that a certain element is "directly connected" to another element, it should be understood that the other element does not exist in the middle. On the other hand, other expressions describing the relationship between elements, that is, "between" and "between" or "neighboring to" and "directly adjacent to", etc., should be interpreted similarly.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한 복수의 표현을 포함하는 것으로 이해되어야 하고, "포함하다"또는 "가지다" 등의 용어는 실시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The singular expression is to be understood to include the plural expression unless the context clearly dictates otherwise, and terms such as "comprises" or "have" refer to the embodied feature, number, step, action, component, part or these It is intended to indicate that a combination exists, and it should be understood that it does not preclude the possibility of the existence or addition of one or more other features or numbers, steps, operations, components, parts, or combinations thereof.
각 단계들에 있어 식별부호(예를 들어, a, b, c 등)는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 일어날 수 있다. 즉, 각 단계들은 명기된 순서와 동일하게 일어날 수도 있고 실질적으로 동시에 수행될 수도 있으며 반대의 순서대로 수행될 수도 있다.Identifiers (eg, a, b, c, etc.) in each step are used for convenience of description, and the identification code does not describe the order of each step, and each step clearly indicates a specific order in context. Unless otherwise specified, it may occur in a different order from the specified order. That is, each step may occur in the same order as specified, may be performed substantially simultaneously, or may be performed in the reverse order.
본 발명은 컴퓨터가 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현될 수 있고, 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있다. 또한, 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.The present invention can be embodied as computer-readable codes on a computer-readable recording medium, and the computer-readable recording medium includes all types of recording devices in which data readable by a computer system is stored. . Examples of the computer-readable recording medium include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, and the like. In addition, the computer-readable recording medium may be distributed in a network-connected computer system, and the computer-readable code may be stored and executed in a distributed manner.
여기서 사용되는 모든 용어들은 다르게 정의되지 않는 한, 본 발명이 속하는 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한 이상적이거나 과도하게 형식적인 의미를 지니는 것으로 해석될 수 없다.All terms used herein have the same meaning as commonly understood by one of ordinary skill in the art to which this invention belongs, unless otherwise defined. Terms defined in the dictionary should be interpreted as being consistent with the meaning of the context of the related art, and cannot be interpreted as having an ideal or excessively formal meaning unless explicitly defined in the present application.
도 1은 본 발명의 일 실시예에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치를 개략적으로 도시한 구성도이다.1 is a block diagram schematically illustrating an artificial intelligence agent-based harmful content blocking service platform apparatus according to an embodiment of the present invention.
도 1을 참조하면, 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치(100)는 사용자 단말(110), 웹서버(130), 에이전트(150) 및 에이전트 관리 서버(170)를 포함한다.Referring to FIG. 1 , the AI agent-based parental content blocking
먼저, 사용자 단말(110)은 사용자가 이용하는 단말장치로서 예를 들어 PC, 노트북뿐 아니라 스마트폰, 태블릿PC와 같은 모바일기기를 포함한 모든 컴퓨팅 장치일 수 있다. 사용자는 사용자 단말(110)을 통해 온라인 게시판 등에 업로드 된 새로운 글, 이미지 또는 동영상 등의 다양한 컨텐츠들을 구독할 수 있다. 이 경우, 사용자 단말(110)은 구독자 단말에 해당할 수 있다. 사용자는 사용자 단말(110)을 통해 온라인 게시판 등에 새로운 글, 이미지 또는 동영상 등의 컨텐츠를 업로드할 수 있다. 이 경우, 사용자 단말(110)은 게시자 단말에 해당할 수 있다. 여기에서, 사용자 단말(110)은 웹서버(130) 및 에이전트 관리 서버(170)와 네트워크를 통해 연결될 수 있고, 복수의 사용자 단말(110)들과 동시에 연결될 수 있다. First, the
웹서버(130)는 사용자 단말(110)에서 구독하는 컨텐츠를 제공하는 웹서비스 프로바이더에 해당한다. 웹서버(130)는 다양한 컨텐츠들이 등록 및 갱신되는 데이터베이스를 운영한다.The
에이전트(150)는 사용자 단말(110)에서 이용하고자 하는 컨텐츠에 대해 유해성을 판별하는 프로그램에 해당한다. 에이전트(150)는 에이전트 관리 서버(170)에 의해 배포 및 운영된다. 이때, 에이전트(150)는 기업용 및 개인용으로 구분되어 배포 및 운영될 수 있다. 에이전트(150)는 사용자 단말(110)에 설치되어 사용자 단말(110)에서 이용하고자 하는 컨텐츠에 대해 유해 컨텐츠는 차단하는 서비스를 제공한다. 에이전트(150)는 유해 컨텐츠 검사용 디바이스로 별도 구현될 수도 있다.The
에이전트 관리 서버(170)는 사용자 단말(110)에서 컨텐츠의 유해성 검사가 이루어지도록 에이전트(150)를 제공할 수 있다. 에이전트 관리 서버(170)는 사용자 단말(110)에 설치된 에이전트(150)와 유선 네트워크 또는 블루투스, WiFi 등과 같은 무선 네트워크로 연결될 수 있고, 유선 또는 무선 네트워크를 통해 사용자 단말(110)에 설치된 에이전트(150)와 통신을 수행할 수 있다. 에이전트 관리 서버(170)는 컨텐츠의 유해성을 검사 및 차단하는 데 필요한 다양한 정보들을 보유할 수 있다. 예를 들어, 에이전트 관리 서버(170)는 유해 URL 리스트 및 다수의 유해성 판단 모델 파일을 보유할 수 있다. 에이전트(150)는 에이전트 관리 서버(170)와 연동하여 유해 URL 리스트 및 다수의 유해성 판단 모델 파일을 통해 사용자 단말(110)의 구독 컨텐츠의 유해성 여부를 실시간으로 판단할 수 있다. 에이전트(150)는 컨텐츠 검사 및 그에 따른 조치를 웹서버(130) 및 에이전트 관리 서버(170)에 전달할 수 있다. 에이전트(150)는 웹서버(130)에 업로드되는 컨텐츠의 유해성을 검사하고 검사결과를 웹서버 관리자에게 보고할 수 있도록 한다. 에이전트(150)는 또한, 감시할 네트워크 및 서버, 특정 폴더 등이 지정된 경우에 정기적으로 사용 동향을 파악하여 감시 및 관리할 수 있도록 하고, 이에 대한 결과를 자동으로 설정된 관리자에게 보고할 수 있도록 한다. 에이전트(150)는 다른 에이전트들과 검사결과를 공유할 수 있어 에이전트들의 숫자가 많아질수록 감시와 검사가 그물망과 같이 24시간 상시체제로 운영될 수 있다. 이에 따라, 유해 컨텐츠가 배포되더라도 피해를 최소화할 수 있으며 유해 컨텐츠의 재생산 및 재배포를 최소화할 수 있다.The
도 2는 본 발명의 일 실시예에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치의 기본 구성을 도시한 블록도이다.2 is a block diagram showing the basic configuration of an artificial intelligence agent-based harmful content blocking service platform device according to an embodiment of the present invention.
도 2를 참조하면, 인터넷, 방송, 케이블 TV 등의 컨텐츠(210)가 지능형 에이전트(230)로 입력되고, 지능형 에이전트(230)는 에이전트 운영,관리 센터(220)로부터 인증키를 전달받아 입력된 컨텐츠의 유해성을 검사하여 유해 정도 및 차단, 보고, 알림 등을 에이전트 운영,관리 센터(220)에서 정한 정책에 따라 실시간으로 시행한다. 실시간 유해성 검사 결과, 유해하지 않다고 판단된 컨텐츠들만 다수의 단말기(240)를 통해 출력된다. 지능형 에이전트(230)는 컴퓨터나 각종 디바이스 기기들로 구성되는 다수의 단말기(240) 각각에 설치되어 운영된다.Referring to FIG. 2 ,
도 3은 도 1에 있는 에이전트와 에이전트 관리 서버 간의 연결 구성을 나타내는 도면이다.FIG. 3 is a diagram illustrating a connection configuration between the agent in FIG. 1 and an agent management server.
도 3을 참조하면, 에이전트(150)는 일반 에이전트들(151)과 독립형 에이전트들(153)로 구성될 수 있다. 일반 에이전트들(151)은 브라우저(Browser)에 애드온(Add-on) 형태로 설치된 사용자 에이전트(User Agent)이다. 일반 에이전트들(151) 각각은 브라우저에서 방문하여 개인의 로컬 PC에 로딩되는 컨텐츠의 유해성을 검사 및 차단하고 유해성이 확인된 사이트를 에이전트 관리 서버(170)에 보고한다. 일반 에이전트들(151) 중 보상 시스템에 가입한 에이전트의 경우에는 에이전트 관리 서버(170)로부터 검사목록을 제공받아 검사목록에 있는 웹사이트의 컨텐츠 검사를 대행할 수 있고, 검사결과를 에이전트 관리 서버(170)에 통보하여 검사 대행에 따른 보상을 포인트 등 다양한 형태로 지급받을 수 있다.Referring to FIG. 3 , the
독립형 에이전트들(153)은 컨텐츠 유해성 검사, 차단 및 격리 등의 기능을 자체적으로 실행할 수 있는 독립적인 객체로서, 중앙 관제센터(310)을 통해 관리 대상이 매칭되고 매칭된 관리 대상에 대해 유해성 확인을 진행하고 그에 따라 보상을 받을 수 있다. 독립형 에이전트들(153)은 독립형 관제센터(330)를 통해 관리될 수 있다.
에이전트(150)는 또한, 내부형과 외부형으로 구분될 수 있다. 내부형은 관리해야 되는 서버와 같은 로컬 네트워크망에 있거나 관리 대상의 서버에 직접적으로 연결이 되거나, 설치가 되어, 서버 내부의 모든 파일에 대한 검사를 진행할 수 있는 권한을 가질 수 있다. 독립형 에이전트들(153) 중 서버 내부에 설치된 에이전트의 경우에는 해당 서버에서 서비스 중인 컨텐츠 이외에 파일들에 대한 유해물 검사를 할 수 있는 것이 이에 해당한다.The
외부형은 관리해야 되는 대상의 서버와 다른 네트워크망에 있거나, 물리적으로 관리대상과 다른 장치(PC, 서버)에 설치된 경우이다. 주로 검사를 목적으로 운영 되는 서버나 PC로, 웹서비스가 진행 중인 서버와 분리된 경우이다.External type is a case in which it is located on a network different from the server of the target to be managed, or is physically installed in a device (PC, server) different from the target to be managed. This is a server or PC that is mainly operated for the purpose of inspection, and is separated from the server where the web service is running.
한편, 에이전트(150)는 에이전트 관리 서버(170)에 해당하는 중앙 관제센터(310)와 RTMS(Real Time Messaging Service)로 연결되어 특정 통신채널을 만들어 통신한다. 독립형 에이전트들(153)은 독립형 관제센터(330)를 경유하거나, 리더 에이전트를 통하여 중앙 관제센터(310)와 통신 연결될 수도 있다.On the other hand, the
도 4는 본 발명의 일 실시예에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치를 설명하기 위한 구성도이다.4 is a block diagram illustrating an artificial intelligence agent-based harmful content blocking service platform apparatus according to an embodiment of the present invention.
도 4를 참조하면, 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치(100)는 에이전트그룹부(410), 에이전트 운영관리부(430) 및 웹서비스 관리부(450)를 포함할 수 있다.Referring to FIG. 4 , the AI agent-based parental content blocking
에이전트그룹부(410)는 적어도 하나 이상의 에이전트(150)들을 특정 기준에 따라 그룹으로 구성할 수 있다. 물론, 에이전트(150)는 독립적인 하나의 객체로 역할을 할 수 있다. 일 실시예에서, 에이전트그룹부(410)는 에이전트의 설치 위치에 따라 내부형 에이전트 그룹(410a)과 외부형 에이전트 그룹(310b)으로 구성할 수 있다. 내부형 에이전트 그룹(410a)은 사용자 단말(110) 및 웹서버(130) 등의 관리 대상에 설치 또는 연결되거나 인트라넷 등의 내부 네트워크에서 컨텐츠 검사를 수행할 수 있는 권한을 가진 적어도 하나의 에이전트들의 묶음으로 구성된다. 외부형 에이전트 그룹(410b)은 외부 네트워크에서 관리 대상에 제공되는 컨텐츠에 대해 검사를 수행하는 검사용 에이전트들의 묶음으로 구성된다. 내부형 에이전트 그룹(410a)은 외부형 에이전트 그룹(410b) 보다 강력한 관리가 가능하다. 예를 든다면, 내부형 에이전트 그룹(410a)은 실제 웹으로 서비스되는 컨텐츠 외의 특정 로컬 디렉토리에 있는 폴더 및 파일들을 관리할 수 있다. 외부형 에이전트 그룹(410b)은 기업을 대상으로 일정기간 동안 임대형으로 제공될 수 있다. The
에이전트그룹부(410)는 에이전트의 운영 및 관리측면에서 독립형 에이전트 그룹(410c)을 더 포함할 수 있다. 독립형 에이전트 그룹(410c)은 관리 대상이 많을 경우, 외부의 관리 통제를 받을 수 없는 경우, 내부에 별도의 독립형 관리센터의 도입이 필요한 경우에 사용될 수 있다.The
에이전트그룹부(410)는 에이전트들을 그룹으로 묶는 경우 그룹 내 에이전트들 간에 수직형, 수평형 및 혼합형 중 적어도 하나로 형태로 운영될 수 있다. 수직형은 에이전트 중에 리더가 있고 이 리더를 통해 에이전트들이 통신을 하고 진행사항, 역할에 관한 정보를 주고받을 수 있다. 리더 에이전트(411)는 에이전트 운영관리부(430)로부터 명령을 받고 그것을 하위 에이전트(413)에게 전달, 전파하며 명령을 내릴 수 있다. 리더 에이전트(411)는 또한, 하위 에이전트(413)들로부터 작업 수행 내용 및 결과를 받아 에이전트 운영관리부(430)에 보고할 수 있다. 수평형은 각각의 에이전트들이 모두 독립적으로 작동하며, 에이전트 운영관리부(430)와 직접 통신하며 작업 내용을 받고 보고한다. 또한, 필요에 따라 서로 정보를 실시간으로 주고받는다. 에이전트그룹부(410)는 그룹내 또는 그룹간 에이전트들 상호 검사와 차단 결과를 공유할 수 있다. The
에이전트그룹부(410)에 포함되는 에이전트들 각각은 컨텐츠를 실시간 검사하고 유해정도에 따라 차단할 수 있다. 여기에서, 에이전트들 각각은 본 출원인에 의해 선출원된 등록특허 제10-2213373호의 “메타데이터를 이용한 유해 컨텐츠 관리 장치 및 방법” 및 등록특허 제10-2259730호의 “인공지능 기반의 유해 컨텐츠 차단 장치” 등에 개시된 유해 컨텐츠의 검사 및 차단 기술이 적용될 수 있다. Each of the agents included in the
에이전트 운영관리부(430)는 에이전트(150)를 배포하고 배포된 에이전트(150)들의 운영을 관리할 수 있다. 일 실시예에서, 에이전트 운영관리부(430)는 에이전트그룹별로 에이전트들을 관리할 수 있다. 에이전트 운영관리부(430)는 내부형 에이전트 그룹(410a)의 경우 등록되거나 등록되지 않은 모든 개인에게 무료로 배포된 에이전트들을 관리할 수 있다. 예컨대, 에이전트 버전, 사용되고 있는 유해성 판단 AI 모델, 고객 관리, 인증키 등을 관리할 수 있다. 에이전트 운영관리부(430)는 외부형 에이전트 그룹(410b)의 경우 특정기간, 특수목적에 사용되기 위한 임대형 에이전트들을 내부형 에이전트 그룹(410a)의 관리와 동일하게 관리하되 목적에 따라 유해성 판단 AI 모델 종류, 대응사항 발생시 처리 방법 및 대응 방법, 인증키 등의 옵션을 제공할 수 있다. 에이전트 운영관리부(430)는 각각의 에이전트(150)와 전용 통신 채널(RTMS, Real Time Messaging Service)을 통해 연결될 수 있다. 독립형 에이전트 그룹(410c)의 경우 독립형 에이전트 운영관리부(435)를 통해 독립적으로 관리될 수 있다. 독립형 에이전트 운영관리부(435)는 에이전트 운영관리부(430)와 동일하게 동작될 수 있다. 독립형 에이전트 운영관리부(435)는 독립형 에이전트 그룹(410c)을 관리 감독하고 기업에서 관리해야 되는 웹사이트, 기타 컨텐츠 등의 웹서버(130)를 관리할 수 있다. 이 경우, 독립형 에이전트 그룹(410c)은 에이전트 운영관리부(430)에서 사용인증을 받지만 검사대상, 검사시간, 검사 후 대응 방법 등의 활동범위에 대한 컨트롤은 독립형 에이전트 운영관리부(335)에 의하여 관리를 받는다. The agent
에이전트 운영관리부(430)는 에이전트의 컨텐츠 검사 내용 및 차단 결과를 보고서 작성하여 웹서버 관리부(450)에 제공할 수 있다. 에이전트 운영관리부(430)는 에이전트그룹부(410)에 그룹핑된 에이전트들 간에 특정 채널을 통해 서로 통신하고 컨텐츠 검사 및 그에 대한 조치를 제공할 수 있도록 한다. 예컨대, 에이전트 운영관리부(430)는 그룹핑된 에이전트들 간에 특정 로컬 디렉토리에 있는 모든 컨텐츠를 나누어 검사하거나 검사 결과에 따른 정보를 공유하여 중복 검사를 방지할 수 있도록 한다. 에이전트 운영관리부(430)는 유해성 판단 AI 모델 확인 후 업데이트, 컨텐츠 검사 항목에 대한 조정 명령, 그룹핑 된 에이전트들의 그룹핑 해제 및 그룹 체결, 차단해야 하는 사이트 및 유해 컨텐츠 정보의 그룹 내 전파, 전수 검사 실시 및 특정된 범위 안의 컨텐츠만 재검사 실시 후 안전인증 업데이트, 리더 에이전트에 대해 검사수행 시 검사하는 컨텐츠들을 목록화하여 하위 에이전트에게 분배하고 검사지시 및 결과를 취합할 수 있도록 한다.The agent
일 실시예에서, 에이전트 운영관리부(430)는 에이전트(150)의 관리목록 요청에 따라 관리 대상을 에이전트(150)에 매칭시켜 관리대상 목록을 에이전트(150)에 제공할 수 있다. 예컨대, 에이전트(150)는 설치된 로컬 PC의 사용자가 자리를 비웠을 때, 자동으로 에이전트 운영관리부(430)에 관리목록을 요청하여 관리목록에 있는 관리 대상 사이트를 자동으로 유해성 검사하고 그에 따른 보상을 받을 수 있다. 에이전트 운영관리부(430)는 에이전트의 유해성 검사 결과를 보고받고 포인트 보상할 수 있다. 에이전트의 구매자나 설치 관리자는 에이전트 운영관리부(430)에서 지급된 포인트를 온라인 쇼핑몰 등에서 사용할 수 있다. In one embodiment, the agent operation and
웹서비스 관리부(450)는 에이전트 운영관리부(430)로부터 에이전트의 컨텐츠 검사 내용을 보고받을 수 있고 웹서비스 정책에 따라 해당 컨텐츠 게시자에게 경고, 알람을 할 수 있고 해당 컨텐츠가 게시되는 게시판, 블로그 등에 차단, 해제, 비공개 전환 등의 조치를 취할 수 있다. The web service management unit 450 can receive the agent's content inspection report from the agent
도 5 및 도 6은 본 발명에 따른 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치의 운영 과정을 도시한 순서도이다.5 and 6 are flowcharts illustrating an operation process of an artificial intelligence agent-based harmful content blocking service platform apparatus according to the present invention.
도 5를 참조하면, 사용자 단말(110)의 컨텐츠 요청에 따른 유해 컨텐츠 차단 서비스 과정을 도시한 것이다.Referring to FIG. 5 , a harmful content blocking service process according to a content request from the
먼저, 사용자는 사용자 단말(110)을 통해 웹사이트 접속하고 해당 웹서버(130)에 컨텐츠를 요청할 수 있다. 일 실시예에서, 사용자 단말(110)은 웹브라우저, 앱, IoT 디바이스 등을 통해 원하는 컨텐츠 요청을 할 수 있다. 여기에서, 요청 가능한 컨텐츠는 웹사이트, 이미지, 동영상, 스마트폰 문자 메시지 등 다양하게 포함될 수 있다. 사용자 단말(110)에는 에이전트 관리 서버(170)를 통해 검사용 에이전트 프로그램(150)이 설치될 수 있다.First, a user may access a website through the
에이전트(150)는 사용자 단말(110)에 컨텐츠가 로딩되기 전에 우선적으로 안전인증 유무를 확인할 수 있다(단계 S510). 일 실시예에서, 에이전트(150)는 안전인증 유무를 확인하고 인증내용이 없으면 에이전트 관리 서버(170)에 이를 알릴 수 있고, 인증내용이 있어도 유효하지 않거나, 훼손되었을 경우, 업데이트할 수 있다. 여기에서, 안전인증은 컨텐츠의 메타데이터에 해당할 수 있고, 메타데이터는 컨텐츠 관련 정보와 유해 정도에 기초한 등급을 포함할 수 있고 게시자의 이메일주소, 아이디, IP주소, 게시 날짜, 유해성 검사 날짜, 등록 웹사이트 주소 및 저작권 보호 여부 중 적어도 하나 이상을 포함하는 정보를 더 포함할 수 있다.The
에이전트(150)는 사용자가 요청한 컨텐츠에 대해 우선적으로 URL 검사를 실시하여 유해 URL 등록 여부를 판단할 수 있다(단계 S520). 일 실시예에서, 에이전트(150)은 에이전트 관리 서버(170)에 연동하여 에이전트 관리 서버(170)에 보유된 사이트 점검목록과 대조하여 실시간으로 URL 검사를 실시할 수 있다. 여기에서, 사이트 점검목록에는 공공 유해 URL 리스트뿐 아니라 사용자 개인 성향에 기초하여 등록된 개인 유해 URL 리스트가 함께 저장되어 에이전트(150)는 사용자의 기준에 만족하는 URL 검사를 실시할 수 있다. 에이전트(150)는 URL 검사 결과, 유해 URL로 등록된 경우에는 사용자 단말(110)에 결과를 표시할 수 있고, 유해 URL로 등록되지 않은 경우에는 해당 컨텐츠를 로딩할 수 있다.The
에이전트(150)는 컨텐츠 로딩과 동시에 사용자 단말(110)의 화면에 출력하기 전에 실시간으로 유해성 판단 여부를 진행할 수 있다(단계 S530). 일 실시예에서, 에이전트(150)은 유해성 판단 AI 모델들에 기초하여 실시간으로 유해성 컨텐츠 검사를 실시할 수 있다. 에이전트(150)는 유해성 검사 결과, 유해 컨텐츠로 판단된 경우에는 에이전트 관리 서버(170)에 유해 URL 등재 요청을 할 수 있고 웹서버(130)에는 유해 컨텐츠 발견을 통보할 수 있다. The
에이전트(150)는 유해 정도에 따라 웹서버(150)에 직접 유해물이 있는 컨텐츠의 서비스 중지 및 검사를 요청할 수 있다(단계 S540).The
도 6을 참조하면, 사용자 단말(110)의 컨텐츠 업로드 요청에 따른 유해 컨텐츠 차단 서비스 과정을 도시한 것이다.Referring to FIG. 6 , a harmful content blocking service process according to a content upload request of the
먼저, 사용자는 사용자 단말(110)을 통해 웹사이트 접속하고 해당 웹서버(130)에 컨텐츠 업로드를 요청할 수 있다. 여기에서, 업로드 형태는 일반적인 파일 업로드로 블로그, 게시판, 이메일 등에 파일을 첨부하는 형식이다. 블로그 편집기에서 그림을 추가하는 것도 업로드로 본다. 사용자 단말(110)에는 에이전트 관리 서버(170)를 통해 검사용 에이전트 프로그램(150)이 설치될 수 있다.First, a user may access a website through the
에이전트(150)는 사용자 단말(110)에서 컨텐츠를 업로드하기 전에 에이전트 관리 서버(170)에 보유한 회원관리목록을 조회하여 회원 유무를 확인할 수 있다(단계 S610). 일 실시예에서, 에이전트(150)는 비회원이면 에이전트 관리 서버(170)에 이를 알리고 에이전트 관리 서버(170)의 지시에 따라 업로드를 차단할 수 있다. 에이전트(150)는 회원이면 관리레벨을 확인할 수 있다. The
에이전트(150)는 안전인증 유무를 확인하고 인증내용이 없으면 에이전트 관리 서버(170)에 이를 알려 안전인증 관련 조치를 취할 수 있도록 하고, 인증내용이 있더라도 신뢰성을 상실했을 경우, 버전이 낮은 경우, 업데이트할 수 있다(단계 S620). 에이전트(150)는 사용자 단말(110)에 안전인증 앱이 없을 경우, 안전인증 관련 조치 없이 에이전트 사용자의 설정에 따라 업로드를 차단할 수 있다.The
에이전트(150)는 안전인증 확인 후 업로드할 컨텐츠를 선택할 수 있고(단계 S630), 선택한 컨텐츠에 대해 업로드하기 전에 유해성 판단 여부를 진행할 수 있다(단계 S640). 일 실시예에서, 에이전트(150)은 유해성 판단 AI 모델들에 기초하여 실시간으로 유해성 컨텐츠 검사를 실시할 수 있다. 에이전트(150)는 유해성 검사 결과, 유해 컨텐츠로 판단된 경우에는 유해성 발견 컨텐츠에 대해 업로드를 차단할 수 있다. 에이전트(150)는 안전한 컨텐츠로 확인되면 회원 관리레벨에 준하는 메타데이터를 포함하여 웹서버(130)에 업로드할 수 있다.The
상술한 바와 같이, 에이전트를 통해 컨텐츠를 검사하고 해당 컨텐츠 관리자에게 보고 및 조치를 요청할 수 있으며, 에이전트 관리자 설정에 따라 유해 컨텐츠의 서비스를 중지하거나 업로드를 차단할 수 있는 효과가 있다.As described above, it is possible to inspect the content through the agent and request a report and action from the corresponding content manager, and there is an effect of stopping the service of harmful content or blocking uploading according to the agent manager setting.
유해성 확인된 컨텐츠에 대한 정보는 에이전트에 저장되고 에이전트들 사이에 공유되어 해당 컨텐츠가 있는 사이트에 재접속시 선재 차단을 시행할 수 있으며, 중복 검사를 피할 수 있다.Information on content that has been identified as harmful is stored in the agent and shared between agents, so that pre-existing blocking can be enforced when reconnecting to a site with the corresponding content, and duplicate inspection can be avoided.
개인 및 기업에서 유해 컨텐츠 검사에 소요되는 비용 부담을 줄일 수 있다.It is possible to reduce the burden of costs for harmful content inspection for individuals and businesses.
상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.Although the above has been described with reference to preferred embodiments of the present invention, those skilled in the art can variously modify and change the present invention within the scope without departing from the spirit and scope of the present invention as set forth in the claims below. You will understand that it can be done.
100: 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치
110: 사용자 단말 130: 웹서버
150: 에이전트
151: 일반 에이전트들 153: 독립형 에이전트들
170: 에이전트 관리 서버
210: 컨텐츠 220: 에이전트 운영,관리 센터
230: 지능형 에이전트 240: 단말기
310: 중앙 관제센터 330: 독립형 관제센터
410: 에이전트그룹부
410a: 내부형 에이전트 그룹 410b: 외부형 에이전트 그룹
410c: 독립형 에이전트 그룹
411: 리더 에이전트 413: 하위 에이전트
430: 에이전트 운영관리부 435: 독립형 에이전트 운영관리부
450: 웹서비스 관리부100: AI agent-based parental content blocking service platform device
110: user terminal 130: web server
150: agent
151: generic agents 153: standalone agents
170: agent management server
210: content 220: agent operation, management center
230: intelligent agent 240: terminal
310: central control center 330: stand-alone control center
410: agent group unit
410a:
410c: Standalone Agent Group
411: leader agent 413: subagent
430: agent operation and management unit 435: stand-alone agent operation and management unit
450: web service management unit
Claims (10)
상기 에이전트의 검사 대상과 시간, 검사 후 대응 방법을 포함하는 활동범위를 정하여 상기 에이전트의 운영을 관리하고 상기 에이전트로부터 유해성 발견 보고시 사이트 관리자에게 유해 컨텐츠 발견을 통보하는 에이전트 관리 서버를 포함하되,
상기 에이전트는
특정 기준에 따라 그룹핑하고 그룹내 또는 그룹간 다른 에이전트들과 통신을 통해 다른 에이전트들의 유해 컨텐츠 검사와 차단 결과를 공유하여 해당 유해 컨텐츠에 대해 선제적으로 차단을 시행하며 중복 검사를 방지하고,
상기 특정 기준이 설치 위치인 경우에, 관리 대상 사이트의 서버에 설치되거나 내부 네트워크로 연결되고 상기 관리 대상 사이트의 서버 내부의 파일 및 폴더에 대한 검사를 진행할 수 있는 권한을 가진 내부형 에이전트 그룹과, 상기 관리 대상 사이트의 서버에 외부 네트워크로 연결되어 일정기간 동안 임대형으로 제공되고 주기적으로 상기 관리 대상 사이트의 서버에 신규 및 갱신되는 컨텐츠에 대한 검사를 진행할 수 있는 권한을 가진 외부형 에이전트 그룹으로 구분되고,
그룹 내 에이전트들 중 리더 에이전트를 통하여 상기 에이전트 관리 서버와 하위 에이전트들 사이에 통신을 수행하는 수직형으로 운영되거나, 그룹 내 에이전트들 각각 독립적으로 상기 에이전트 관리 서버와 통신을 수행하는 수평형으로 운영되거나 수직형과 수평형이 혼합된 형태로 운영되는 것을 특징으로 하는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치.
an agent that checks the harmfulness of the content to be inspected on the managed site and reports the harmfulness check result; and
An agent management server that manages the operation of the agent by determining an activity range including the target and time of the agent's inspection, and a response method after inspection, and notifies a site administrator of the discovery of harmful content when the agent reports the discovery of harmful content;
the agent
By grouping according to specific criteria and sharing the results of inspection and blocking of harmful contents of other agents through communication with other agents within or between groups, preemptively blocking the harmful contents and preventing duplicate scanning;
When the specific criterion is the installation location, an internal agent group installed on the server of the managed site or connected to the internal network and having the authority to inspect files and folders inside the server of the managed site; It is connected to the server of the management site through an external network and is provided as a lease for a certain period of time and is divided into an external agent group having the authority to periodically inspect new and updated content on the server of the management site. ,
It operates in a vertical type that communicates between the agent management server and sub-agents through a leader agent among agents in the group, or operates in a horizontal type that communicates with the agent management server independently of each of the agents in the group. An artificial intelligence agent-based harmful content blocking service platform device, characterized in that it operates in a mixed form of vertical and horizontal.
브라우저에 애드온 형태로 설치되고 사용자 단말에 로딩되는 컨텐츠의 유해성을 확인하여 유해성이 확인된 사이트를 상기 에이전트 관리 서버에 보고하는 일반 에이전트들과,
독립적인 객체로 상기 에이전트 관리 서버를 통해서 매칭되는 관리 대상에 대해 컨텐츠 유해성 검사를 자체 실행하고 검사 결과를 상기 에이전트 관리 서버에 통보하여 검사 실행에 따른 보상을 지급받는 독립형 에이전트들로 구성되는 것을 특징으로 하는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치.
The method of claim 1, wherein the agent
General agents that are installed in the browser as an add-on and check the harmfulness of the content loaded on the user terminal and report the site for which the harmfulness is confirmed to the agent management server;
As an independent object, it is composed of independent agents that self-execute the content harmfulness test on the matched management target through the agent management server and notify the test result to the agent management server to receive compensation according to the test execution. An artificial intelligence agent-based parental content blocking service platform device.
상기 일반 에이전트들 중 상기 에이전트 관리 서버의 보상 시스템에 가입한 에이전트의 경우, 상기 에이전트 관리 서버로부터 검사목록을 제공받아 검사목록에 있는 웹사이트의 컨텐츠 검사를 대행하고 검사결과를 상기 에이전트 관리 서버에 통보하여 검사 대행에 따른 보상을 지급받는 것을 특징으로 하는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치.
3. The method of claim 2, wherein the agent
Among the general agents, in the case of an agent subscribing to the compensation system of the agent management server, the agent management server receives the checklist, performs the inspection of the contents of the website in the checklist, and reports the test result to the agent management server An artificial intelligence agent-based harmful content blocking service platform device, characterized in that it receives compensation according to the inspection agency.
파일의 업로드시 업로드할 파일에 대해 유해성 확인을 하여 유해성이 발견되면 파일의 업로드를 차단하고 안전함이 확인되면 관리 레벨에 기초한 안전인증을 나타내는 메타데이타를 포함하여 파일 업로드되도록 하는 것을 특징으로 하는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치.
The method of claim 1, wherein the agent
Artificial intelligence, characterized in that when a file is uploaded, the file to be uploaded is checked for harmfulness, and if harmfulness is found, the file upload is blocked, and when it is confirmed that it is safe, the file is uploaded including metadata indicating safety certification based on the management level. Agent-based parental content blocking service platform device.
관리 레벨에 따라 관리 대상 사이트의 서버에 유해성이 발견된 컨텐츠의 서비스 중지 및 격리를 요청하는 것을 특징으로 하는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치.
The method of claim 1, wherein the agent management server
An artificial intelligence agent-based harmful content blocking service platform device, characterized in that it requests the server of the managed site to stop service and isolate the content found to be harmful according to the management level.
상기 독립형 에이전트의 관리목록 요청에 따라 관리대상을 매칭하여 관리대상 목록을 제공하고, 상기 독립형 에이전트의 유해성 발견 보고에 따라 관리목록 레벨을 확인하여 유해 컨텐츠 발견을 관리대상 관리자에게 통보하고 확인된 관리 레벨이 높으면 유해물이 있는 컨텐츠의 서비스를 중지 및 격리시키는 것을 특징으로 하는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치.
The method of claim 2, wherein the agent management server
According to the management list request of the independent agent, the management object is matched and the management object list is provided, the management list level is checked according to the harmfulness discovery report of the independent agent, and the discovery of harmful contents is notified to the management object manager and the confirmed management level If this is high, an artificial intelligence agent-based harmful content blocking service platform device, characterized in that it stops and isolates the service of harmful content.
상기 관리대상 목록에 있는 관리 대상 사이트에 대해 유해성 검사를 수행하는 에이전트에 대해 포인트 보상을 수행하는 것을 특징으로 하는 인공지능 에이전트 기반의 유해 컨텐츠 차단 서비스 플랫폼장치.
10. The method of claim 9, wherein the agent management server
An artificial intelligence agent-based harmful content blocking service platform device, characterized in that points are rewarded for an agent that performs a harmfulness check on a management target site in the management target list.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020210098594A KR102461482B1 (en) | 2021-07-27 | 2021-07-27 | The apparatus of harmful contents blocking service platform based on ai agent |
PCT/KR2022/011004 WO2023008894A1 (en) | 2021-07-27 | 2022-07-27 | Harmful content blocking service platform device based on artificial intelligence agent |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020210098594A KR102461482B1 (en) | 2021-07-27 | 2021-07-27 | The apparatus of harmful contents blocking service platform based on ai agent |
Publications (1)
Publication Number | Publication Date |
---|---|
KR102461482B1 true KR102461482B1 (en) | 2022-11-03 |
Family
ID=84041097
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020210098594A KR102461482B1 (en) | 2021-07-27 | 2021-07-27 | The apparatus of harmful contents blocking service platform based on ai agent |
Country Status (2)
Country | Link |
---|---|
KR (1) | KR102461482B1 (en) |
WO (1) | WO2023008894A1 (en) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20090053426A (en) * | 2007-11-23 | 2009-05-27 | 주식회사 가자아이 | Method and system for for blocking harmful internet site |
KR102158747B1 (en) | 2019-10-30 | 2020-09-22 | 김민석 | Harmful contents posting blocking and preventing system |
KR20200116773A (en) * | 2019-04-02 | 2020-10-13 | 김종철 | Cyber inspection system |
KR102259730B1 (en) | 2019-10-31 | 2021-06-02 | 김민석 | Apparatus for blocking harmful contents based on artificial intelligence |
KR20210089041A (en) * | 2020-01-07 | 2021-07-15 | 삼성전자주식회사 | Blockchain based peer-to-peer content sharing apparatus for blocking illegal contents |
-
2021
- 2021-07-27 KR KR1020210098594A patent/KR102461482B1/en active IP Right Grant
-
2022
- 2022-07-27 WO PCT/KR2022/011004 patent/WO2023008894A1/en unknown
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20090053426A (en) * | 2007-11-23 | 2009-05-27 | 주식회사 가자아이 | Method and system for for blocking harmful internet site |
KR20200116773A (en) * | 2019-04-02 | 2020-10-13 | 김종철 | Cyber inspection system |
KR102158747B1 (en) | 2019-10-30 | 2020-09-22 | 김민석 | Harmful contents posting blocking and preventing system |
KR102259730B1 (en) | 2019-10-31 | 2021-06-02 | 김민석 | Apparatus for blocking harmful contents based on artificial intelligence |
KR20210089041A (en) * | 2020-01-07 | 2021-07-15 | 삼성전자주식회사 | Blockchain based peer-to-peer content sharing apparatus for blocking illegal contents |
Also Published As
Publication number | Publication date |
---|---|
WO2023008894A1 (en) | 2023-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11627054B1 (en) | Methods and systems to manage data objects in a cloud computing environment | |
US10764290B2 (en) | Governed access to RPA bots | |
US10467426B1 (en) | Methods and systems to manage data objects in a cloud computing environment | |
US9553918B1 (en) | Stateful and stateless cookie operations servers | |
CN101517557B (en) | Methods and apparatuses for managing resources within a virtual room | |
WO2019138129A1 (en) | Method and system for managing access to artifacts in a cloud computing environment | |
CN111861140A (en) | Service processing method, device, storage medium and electronic device | |
US9477574B2 (en) | Collection of intranet activity data | |
US20140157244A1 (en) | Rule engine system controlling devices of disparate types and protocols | |
US20120110058A1 (en) | Management system and information processing method for computer system | |
CN112994958A (en) | Network management system, method and device and electronic equipment | |
KR20170101624A (en) | System for monitoring digital contents and method for processing thereof | |
CN103297266B (en) | A kind of system access management method based on utility integration bus | |
CN117971623A (en) | Data operation and maintenance method, device, equipment and medium | |
KR102461482B1 (en) | The apparatus of harmful contents blocking service platform based on ai agent | |
JP6636605B1 (en) | History monitoring method, monitoring processing device, and monitoring processing program | |
CN111030997A (en) | Method and device for monitoring and filtering internal and external network flow, electronic equipment and storage medium | |
Gill et al. | Social architecture: An emergency management case study | |
CN110351719A (en) | A kind of wireless network management method, system and electronic equipment and storage medium | |
CN105071959A (en) | Plug-and-play management method and system based on unified registration of power network devices | |
US20190050791A1 (en) | Methods and Apparatus for Automatically Generating and Managing Test Customer Accounts | |
Suroso | Implementation of COSO ERM as security control framework in cloud service provider | |
JP5977536B2 (en) | Inappropriate post management system | |
US20160307168A1 (en) | System and Method for Managing Products, Product Services, and Stakeholders over an Internet | |
CN104991794A (en) | Android intelligent terminal application remote management system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |