WO2017002477A1 - 表示画面内画像処理方法及びプログラム - Google Patents
表示画面内画像処理方法及びプログラム Download PDFInfo
- Publication number
- WO2017002477A1 WO2017002477A1 PCT/JP2016/064815 JP2016064815W WO2017002477A1 WO 2017002477 A1 WO2017002477 A1 WO 2017002477A1 JP 2016064815 W JP2016064815 W JP 2016064815W WO 2017002477 A1 WO2017002477 A1 WO 2017002477A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- display screen
- image data
- output
- image
- area
- Prior art date
Links
- 238000012545 processing Methods 0.000 title claims abstract description 52
- 238000000034 method Methods 0.000 title abstract description 11
- 238000003672 processing method Methods 0.000 claims abstract description 12
- 238000012544 monitoring process Methods 0.000 description 30
- 238000001514 detection method Methods 0.000 description 25
- 230000006870 function Effects 0.000 description 11
- 230000033001 locomotion Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 238000005259 measurement Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 5
- 230000005856 abnormality Effects 0.000 description 3
- 238000007796 conventional method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012806 monitoring device Methods 0.000 description 2
- 238000012946 outsourcing Methods 0.000 description 2
- 241000723369 Cocculus trilobus Species 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/14—Display of multiple viewports
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/269—Analysis of motion using gradient-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/207—Analysis of motion for motion estimation over a hierarchy of resolutions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/10—Special adaptations of display systems for operation with variable images
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/10—Special adaptations of display systems for operation with variable images
- G09G2320/103—Detection of image changes, e.g. determination of an index representative of the image change
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/003—Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/003—Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
- G09G5/005—Adapting incoming signals to the display format of the display terminal
Definitions
- the present invention relates to a still image, a video screen (hereinafter referred to as “display”) displayed on the screen of an information device (hereinafter simply referred to as “computer etc.”) such as a personal computer (personal computer), a smartphone, or a tablet terminal.
- a video screen hereinafter referred to as “display”
- computer etc. an information device
- the present invention relates to an image processing method and program for outputting target information from image data in an arbitrary area of a screen.
- a screen displayed on a monitor (display) such as a computer is displayed by a browser such as Internet Explorer (IE: trademark) or Firefox (trademark), for example, Windows (trademark) OS, iOS (trademark), Android (trademark), or the like. It works on the software.
- a system for displaying a screen imaged by a WEB camera or the like on a monitor such as a computer In order to monitor a person or an object using an image to be monitored displayed on such a monitor as a computer or the like, conventionally, it has been necessary for a person to always see the image.
- Patent Document 1 As a monitoring device using a camera, the one shown in Patent Document 1 has been proposed. That is, for the image data captured by the imaging means, a specific area setting means sets a specific area that is parallel to the horizontal plane of the frame image and is horizontally long, and each frame image is processed by the image data processing means. Then, the image data of the specific area is extracted, and the movement vector is extracted from the extracted image data. Further, in the change detection means, when the value obtained by adding the vector values in the predetermined direction in the movement vector information is larger than the threshold set by the change detection threshold setting means, the other moving body is too close to the own moving body. It is determined that the vehicle is dangerous, and a warning is sounded or displayed via a change notification means to notify the driver of the danger and call attention.
- the monitoring device described in the above-mentioned Patent Document 1 is a dedicated device for monitoring, and it is difficult to cope with a browser or image software using a computer or the like.
- the present invention provides an image processing method for outputting desired information from image data in an arbitrary area by directly using an image displayed by image software such as a browser used in a computer or the like. And to provide a program.
- the first configuration of the present invention is: Set one or more arbitrary areas on the display screen, Sequentially acquiring the image data in the set area from the image data displayed on the display screen and transferring it to the memory;
- the image data on the memory is subjected to data processing to make a desired determination,
- the display screen image processing method is characterized in that the determination result is output to the outside.
- the second configuration of the present invention is a computer, Means for setting one or more arbitrary areas on the display screen; Means for sequentially transferring the image data in the set area onto a memory; Means for processing the image data on the memory to make a target determination; This is a program for functioning as a means for outputting the determination result to the outside.
- the determination result can be output as information by software.
- the determination result can be output as an electrical signal to a serial port or a parallel port.
- the determination result can be output to the network in the form of e-mail, information data, image data, or the like.
- the network includes a short-range wireless communication network such as Bluetooth (registered trademark) or infrared communication.
- Bluetooth registered trademark
- infrared communication for image data in a plurality of areas having different or the same position and / or size on the display screen, different or the same data processing is performed independently or in cooperation with data processing of other areas. Can be executed.
- an area-specific name can be added to one or a plurality of areas on the display screen, and when the determination result is output, the area-specific name can be added to the output.
- E-mail notification to other communication terminals communication terminals: devices with communication functions such as personal computers, mobile phones, smartphones, tablets, etc.
- Event notification to other communication terminals network, serial communication, etc.
- Warning sound system speaker, external device
- Output contact, serial communication, etc.
- Save image Save as file: Movie, Still image
- -Automatic operation of display terminals automated operation of touch panel, mouse, keyboard, etc.
- the present invention has the following effects. (1) A person can visually perform an operation that is performed by judging a specific situation / state. Example) A system with only a monitoring function becomes an automatic monitoring system. Example) It is possible to save labor for monitoring. (2) Does not affect other software (systems) and equipment. (Operates as independent software) -Since there is only software, there is no problem with compatibility with the equipment. -No need to access hardware by simply reading the display screen. (3) It can be restored at any time and resumed at any time. (Software startup operation only) (4) Since only software is used, it is easy to replace functions. (5) Since it is software only, it can be realized at low cost.
- FIG. 1 is a flowchart showing a processing procedure in the image data processing system according to the present embodiment.
- the image data processing system in the present embodiment is realized by executing the image data processing program in the present embodiment on a personal computer as an information device is shown.
- Other devices such as a smartphone and a tablet terminal can be used as long as the device can have an image data processing program in this embodiment and can be executed.
- Step S100 One area (position / size) on the display screen of the personal computer is set. The area is specified by setting a rectangular frame (Windows frame), for example, by clicking at the area start position of the mouse and dragging to the diagonal position. Since it is not displayed when processing is executed, it is not visible on the display. When setting the area designation to a plurality of locations, the same is done.
- Windows frame Windows frame
- Step S110 The image data in the set area is acquired in the bitmap format from the image data displayed on the display screen of the personal computer (standard capture function).
- the bitmap format image data to be acquired is R, G. B element luminance information (0-255).
- the standard capture function of the OS is executed by the image data processing program in the present embodiment.
- Bitmap object to capture Bitmap bmp new Bitmap (area.Width, area.Height); (Bmp: Defines the storage destination bitmap, area: Information on the position and size of the set rectangular area, area.Width, area.Height: Area width and height) 2.
- Create a Graphics object Graphics gp Graphics.FromImage (bmp); (Because CopyFromScreen can use Graphic objects, it generates Graphic objects from Bitmap objects.) 3.
- Step S120 The bitmap information (R, G, B luminance information) of the image data is transferred to the image data processing memory. Since the bitmap information is a special format, it is arranged as simple data (array) on the memory. This makes it easier to read from the program.
- Step S130 Pre-designated image data processing (details will be described later) is performed.
- Data processing includes still image processing and moving image processing.
- Step S140 The image data result is determined. The determination is performed by comparing the determination result with the result obtained by the image data processing.
- Step S150 It is determined whether output is necessary. If it is determined that output is necessary, the process proceeds to step S160. If unnecessary, the process returns to step S110.
- Step S160 Output is executed (details will be described later). After execution, the process returns to step S110.
- FIG. 2 is a flowchart of still image data processing.
- data processing is performed on the last acquired image data. For example, appearance inspection, positioning, dimension measurement, color determination, and the like. Information on the processing result is output.
- FIG. 3 shows an example of simple position and dimension measurement.
- the image data is continuously arranged in the memory in an area of size of image width ⁇ image height.
- a dark color is small and a light color is a large value.
- Ya ⁇ image width (Ya is the initial value in the height direction when searching for the horizontal position and size of the object, generally the center of the area. Read from the data continuously. The horizontal position X0 and the width of the object can be found from the horizontal line reading result.
- Xb (Xb is the initial value in the horizontal direction when searching for the vertical position and size of the object, generally starting from the vicinity of the center of the area) is added to the head of the image memory. Then, the data is read at the image width interval.
- the vertical position Y0 and height of the object can be known from the reading result of the vertical line.
- the upper left position (X0, Y0) and size (size: W ⁇ H) of the object are known. If it is out of the default position and size, some warning output (contact, sound, e-mail, etc.) is output.
- pixel data is stored up to the lower end in the height direction.
- the memory arrangement may be reversed vertically and horizontally.
- FIG. 4 shows an example of color measurement.
- the image data of the area of the object whose position and dimensions are known is read by R, G and B, and averaged.
- This data (R, G, B) is converted into a color space HSV (hue hue, saturation saturation, brightness value lightness brightness).
- HSV hue, saturation saturation, brightness value lightness brightness
- FIG. 5 shows an example of moving image data processing. Processing is performed on a plurality of continuous image data from the past to the latest. In the case of moving image data processing, the required number of old image data is stored. As a result, processing results such as motion detection, stillness detection, change detection, and foreign object detection can be output.
- the present invention can be applied to intrusion detection, object movement, stop detection, passage count, traffic volume count of people and vehicles, and the like.
- FIG. 6 shows an example of simple motion detection.
- the absolute value of the difference between the latest image data and the previous image data is calculated pixel by pixel for each RGB.
- the ratio of the number of pixels in which the absolute value of the difference is equal to or greater than a specified value is calculated. If the ratio is larger than the reference value, some warning output (contact point, sound, e-mail, etc.) is issued because there is a movement.
- FIG. 7 shows an example of simple object extraction.
- An average image moving average of time axis
- An average image moving average of time axis
- the rest is object image data.
- the object image data is scanned to obtain individual sizes and shapes.
- some warning output contact, sound, e-mail, etc.
- Color determination and the like can be added to the conditions.
- FIG. 8 shows an example of determination result output.
- the output of the determination result is classified into the following three.
- -Output as software information.
- -Output as electrical signals to cable connection devices connected to the serial port or parallel port.
- FIG. 9 shows an example of software output.
- Software output includes display, sound, operation, image, and recording.
- Display A warning message is displayed on the screen to call attention.
- a display is displayed on the detection portion to indicate the location.
- Sound A standard beep is sounded. Alternatively, the registered audio file is played back.
- Operation Perform mouse operations and keyboard operations using software based on information registered in advance.
- Image The image at the time of detection is saved as a still image or a moving image. Record: Saves the date, phenomenon, etc. as a log for the event that occurred.
- FIG. 10 shows an example of output to a cable connection device.
- Cable connection includes parallel, serial, and LAN.
- the parallel connection is applied to contact output and alarm lamp control.
- the serial cable is used for controlling USB devices and devices connected to RS232C and RS485.
- the LAN cable is used to control a device that supports network connection.
- the kind of apparatus changes with uses.
- FIG. 11 shows an example of output via a network (Internet). Notify remote locations via the Internet. Alternatively, it is sent all at once to an e-mail address registered in advance. Further, it is possible to select a transmission destination according to an event and transmit it. If a management server is installed, system processing can be performed by notifying the server of events. Remote devices can also be operated by output.
- the network includes the short distance wireless communication network such as Bluetooth (registered trademark) and infrared communication in addition to the Internet, wireless LAN, and wired LAN.
- FIG. 12 shows the configuration of the target monitoring system.
- FIG. 12 shows a monitoring system in which the monitoring system 20 that operates on the OS 10 such as Windows (trademark) captures video from a camera or the like and displays it on the display screen 30 so that a person can visually confirm an abnormality on the monitoring image 32. ing.
- OS 10 such as Windows (trademark)
- FIG. 13 shows an example of a conventional method for automating monitoring.
- a monitoring system 20 ′ modified to add software for performing detection processing 22 and notification processing 24 from a camera image in the monitoring software, and performing operation verification, correction work, etc. on the existing software.
- the system is constructed.
- the monitoring system 20 ′ is stopped at the time of modification or confirmation. If the monitoring software manufacturer does not have image data processing technology, it cannot be handled. When outsourcing, monitoring software must be released. In addition, if there is no designer of the monitoring software, there is a possibility that it cannot be handled. If a defect occurs in the additional modification, visual monitoring is no longer possible.
- a system for solving such a problem is the system shown in the block diagram of the embodiment of the present invention shown in FIG.
- the additional software 40 sets one or more arbitrary areas on the display screen, sequentially transfers the image data in the setting area 34 to a memory (not shown), and processes the signals on the memory.
- the target determination is performed and the determination result is output to the outside.
- each setting area can have the same position and size, or at least one of the position and size can be different.
- the image data processing for each setting area can be the same or different. For example, even if setting areas having the same position and size are set, different image data processing can be performed. Further, the image data processing of each setting area can be executed independently, or can be executed in cooperation with other setting areas. For example, it is possible to determine the result by outputting a combination of a plurality of results after all the conditions are met. The determination and determination of the image data processing result can be executed independently or in cooperation with other screens. The output of the result can be executed in common, original, or linked with a specific screen.
- Single or multiple setting areas 34 can be given individual names. For example, depending on the monitoring area, names such as ⁇ entrance door '', ⁇ living room window '', ⁇ bed '', ⁇ kitchen '', etc. are used instead of mere numbers, and when a display screen abnormality is detected, for example, ⁇ living room '' By transmitting an output such as “window, abnormal” by e-mail or the like, the transmission information itself can be given meaning. Also, different image data processing can be designated for each monitoring area.
- the system according to this embodiment has the following effects. (1) Since it operates as software different from the monitoring system, it is not necessary to stop the monitoring system. (2) When outsourcing, it can be created regardless of the contents of the monitoring software. (3) Confirmation can be performed in parallel with visual monitoring. (4) Even if a problem occurs, conventional visual monitoring can be performed as it is.
- FIG. 15 shows an initial screen for setting the name, the type of image data processing, and the like for the setting area set on the display screen.
- the setting area set on the display screen is referred to as “sensor”.
- the number of sensors, logic sensors, and outputs can be any number.
- the upper “sensor name” is a name given to each setting area.
- the “logic sensor” in the middle is a virtual sensor that is a combination of “sensors”.
- FIG. 16 shows a sensor type selection screen.
- a function list is displayed from the pull-down menu.
- FIG. 17 shows a screen for setting “intruder when lamp is red”. That is, when the red lamp is lit, an area where entry is prohibited is monitored because of danger. On the display screen, a camera image showing a prohibited area and a lamp is displayed. When a person monitors the display screen, if a person is found while the red lamp is lit, a warning is given with a microphone.
- the screen sensor software of the present embodiment When this is performed by the screen sensor software of the present embodiment, it is as follows. On the first sensor screen, set the lamp area and detect red. On the second sensor screen, a dangerous area including a lamp is set, and movement (intrusion) is detected. The result on the second screen is valid only when red is detected on the first sensor screen. If motion is detected on the screen of the second sensor while detecting the red color of the lamp on the screen of the first sensor, a warning voice message is played to warn.
- FIG. 18 is a security and camera failure setting screen. The difference in output depending on the screen is as follows. Assume that the display screen shows a camera image monitoring the intrusion of a suspicious person. When a person monitors, if a suspicious person is found, the guard is contacted. Also, if the camera breaks down, contact the technology.
- the screen sensor software of the present embodiment When this is performed by the screen sensor software of the present embodiment, it is as follows. On the first sensor screen, an area where people pass is set and an object (intruder) is detected. On the second sensor screen, set the area of the part that is always reflected in the same way and measure the brightness. When an object is detected (finding an intruder) on the screen of sensor # 1, the warning lamp in the security room lights up and the security is contacted. If the brightness of the second sensor screen is significantly different from normal, the camera may be broken, so the warning lamp in the security room is turned on and the technology is contacted by e-mail. In this way, desired output can be obtained by setting the type of image data processing, processing contents, output conditions, and output contents for each sensor.
- the present invention can be suitably used for the following applications, for example.
- Corporate use (1) Unmanned image monitoring system and manned process monitoring system, labor saving (2) Stable system operation (exclusion of factors such as individual differences, fatigue and carelessness) (3) Function improvement without system stop and continuous function improvement.
- Personal use Effective use of built-in display terminal camera and USB camera. Since it is performed on the display content, there is no compatibility with the camera.
- Night monitoring of display terminals (abnormal alarm)
- Monitoring and monitoring at absence notification by e-mail, image storage
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Computer Hardware Design (AREA)
- Alarm Systems (AREA)
- Closed-Circuit Television Systems (AREA)
- Burglar Alarm Systems (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
Description
このようなコンピュータ等のモニタ上に表示された監視対象の画像を用いて人や物の監視を行うには、従来は、人が画像を常時見ている必要があった。
(1)監視する人の疲労、よそ見、不注意などにより見逃しが発生する可能性がある。
(2)自動化(無人化)を行うには、問題が多かった。
・システムの開発メーカーが、自動化(画像データ処理など)への対応不可。
・バージョンアップする場合、システムの停止が必要。
・不具合(誤検出含む)発生時、簡単に、元に戻せない。
・システム変更に伴う、予期せぬ問題発生の可能性。
(3)特殊な検出などのソフトは、一般的に高価であった。
(特定場所の変化の検出や明るさの変化への対応など)
(4)コンピュータ等では動作しないカメラなどがある。(機器との相性)
表示画面上の任意のエリアを1つまたは複数設定し、
前記表示画面上に表示される画像データから前記設定されたエリア内の画像データを逐次取得してメモリ上に転送し、
前記メモリ上の画像データをデータ処理して目的とする判定を行い、
その判定結果を外部に出力することを特徴とする表示画面内画像処理方法である。
表示画面上の任意のエリアを1つまたは複数設定する手段と、
前記設定されたエリア内の画像データを逐次、メモリ上に転送する手段と、
前記メモリ上の画像データをデータ処理して目的とする判定を行う手段と、
その判定結果を外部に出力する手段として機能させるためのプログラムである。
また、前記判定結果を、シリアルポートまたはパラレルポートに電気信号として出力することができる。
また、前記判定結果を、電子メール、情報データや画像データ等の形態でネットワークに出力することができる。ここで、ネットワークには、Bluetooth(登録商標)や赤外線通信等の近距離無線通信ネットワークを含む。
また、前記表示画面上の、位置およびサイズの少なくとも一方が異なるあるいは同一の複数のエリア内の画像データについて、各々異なるあるいは同一のデータ処理を、独立、あるいは他のエリアのデータ処理と連携して実行することができる。
さらに、前記表示画面上の1つまたは複数のエリアに対してエリア個別の名称を付加可能とし、前記判定結果を出力する際に、当該エリア個別の名称を出力に付加することができる。
・変化の検出
・動き(物体)検出
・静止(物体)検出
・色検出(任意の色範囲、サイズ)
・計測処理(寸法測定、水位計測等)
・検査処理(異常検出、正常判定)
・フィルター処理(輝度操作、特徴抽出等)
・他の通信端末へ電子メール通知(通信端末:パーソナルコンピュータ、携帯電話、スマートフォン、タブレット等の通信機能を持った機器)
・他の通信端末へのイベント通知(ネットワーク、シリアル通信等)
・警告音(本体スピーカー、外部機器)
・出力(接点、シリアル通信等)
・画像の保存(ファイルとして保存:動画、静止画)
・表示端末の自動操作(タッチパネル、マウス、キーボード等の自動操作)
・機器への通知
(1)人が目視で、特定の状況・状態を判断して行っていた操作を代行できる。
例)監視機能のみのシステムが、自動監視システムになる。
例)モニタ監視の省人化が可能になる。
(2)他のソフト(システム)・機器に影響を与えない。
(独立したソフトとして動作)
・ソフトウェアのみなので、機器との相性の問題発生なし。
・表示画面を読み取るだけで、ハードウエアへのアクセスなし。
(3)いつでも元に戻せ、いつでも再開可能。(ソフトの起動操作のみ)
(4)ソフトウェアのみなので、機能の入れ替えが容易。
(5)ソフトウェアのみなので、安価に実現可能。
20 監視システム
30 表示画面
32 監視画像
34 設定エリア
40 追加ソフト
図1は、本実施の形態に係る画像データ処理システムにおける処理手順を示すフローチャートである。なお、本実施の形態では、情報機器としてパーソナルコンピュータ上で本実施の形態における画像データ処理プログラムを実行することにより本実施の形態における画像データ処理システムを実現した例を示しているが、表示機能を持ち、本実施の形態における画像データ処理プログラムを追加して実行することのできる機器であれば、スマートフォン、タブレット端末等の他の機器を用いることもできる。
図1の各ステップについて説明する。
ステップS100:パーソナルコンピュータの表示画面上のエリア(位置・サイズ)を1つ設定する。エリアの指定は、矩形状の枠(Windows枠)を設定することにより行い、例えばマウスのエリア開始位置でのクリック及び対角位置までのドラッグ操作により行う。処理実行時は、非表示なので、表示上は、見えない。
エリア指定を複数箇所に設定する場合は、同様に行う。
Bitmap bmp = new Bitmap(area.Width, area.Height);
(bmp:収納先のビットマップを定義、area:設定された長方形のエリアの位置とサイズの情報、area.Width,area.Height:areaの幅と高さ)
2.Graphicsオブジェクトの生成
Graphics gp = Graphics.FromImage(bmp);
(CopyFromScreenを使えるのがGraphicオブジェクトなので、BitmapオブジェクトからGraphicオブジェクトを生成)
3.CopyFromScreenメソッドでキャプチャ
Gp.CopyFromScreen(area.Left, area.Top, 0, 0, bmp.Size);
(area.Left, area.Top:areaの左上座標、bmp.Size:bmpのサイズ)
以上により、パーソナルコンピュータの表示画面上に表示される画像データからbmpに設定された長方形のエリア内の画像データがビットマップ形式で取得される。こうして取得した長方形の画像データをそのまま、あるいは、多角形、円、円弧などの指定した任意の形状で取り出し、使用する。
ステップS140:画像データ結果を判定する。判定は、画像データ処理で得られた結果と判定基準を比較することにより行う。
ステップS150:出力が必要かどうか判定する。出力が必要と判定した場合はステップS160に進む。不要な場合はステップS110に戻る。
ステップS160:出力を実行する(詳細は後述)。実行後、ステップS110に戻る。
水平ラインの読み取り結果で対象物の横方向の位置X0と幅がわかる。
垂直なラインを読むときは、画像メモリの先頭に、Xb(Xbは対象物の縦方向の位置とサイズを探す際の横方向の初期値、一般的にエリアの中央付近から始める。)を加算して、画像幅間隔でデータを読む。
垂直ラインの読み取り結果で対象物の縦方向の位置Y0と高さがわかる。
結果として、対象物の左上の位置(X0,Y0)とサイズ(大きさ:W×H)がわかる。
既定の位置とサイズを外れていれば、何かの警告出力(接点、音、電子メールなど)を出力する。
なお、メモリ上の画像データの配置は、高さ方向Y=0、横方向X=0から始まり、Xを加算(+1)する形で、右端まで、画像データを構成する画素データが保存される。右端まで来たら、Y=1、X=0から始まり、Xを加算(+1)する形で、画素データが配置される。同様に、高さ方向の下端まで画素データが保存される。なお、縦、横逆のメモリ配置をする場合もある。
位置と寸法がわかった対象物のエリアの画像データをR,G,B別にすべて読み、平均化する。このデータ(R,G,B)を、色空間HSV(色相Hue,彩度Saturation chroma,明度Value Lightness Brightness)に変換する。
これにより対象物の色がわかる。
既定の色を外れていれば、何かの警告出力(接点、音、電子メールなど)を出す。
過去から最新までの連続した複数の画像データに対して処理を行う。
動画像データ処理の場合、古い画像データも、必要数保存しておく。
これより、動き検出、静止検出、変化検出、異物検出等の処理結果を出力することができる。例えば、侵入検知や対象物の動き、停止検知、通過カウント、人や車の交通量カウントなどに適用することができる。
最新の画像データと1つ前の画像データの差の絶対値を、RGB別で画素単位で計算する。
差の絶対値が、規定値以上の画素数の割合を計算する。
割合が、基準値より大きければ、動きありとして、何かの警告出力(接点、音、電子メールなど)を出す。
過去N枚分の画像データの平均画像(時間軸の移動平均)を作成し、背景画像とする。
最新画像データから、背景画像との一致部分を消去する。
残りが、物体画像データとなる。
物体画像のデータをスキャンして、個々のサイズや形状を求める。
サイズ、形状が、判定条件と合致した場合は、物体検出として、何かの警告出力(接点、音、電子メールなど)を出す。
色判定なども条件に加えることができる。
判定結果の出力は、以下の3つに分類される。
・ソフトウェアによる情報として出力。
・シリアルポートやパラレルポートに接続されたケーブル接続機器へ電気信号として出力。
・電子メール、情報データまたは画像データの形態でネットワークに出力。
ソフトウェアによる出力は、表示、音、操作、画像、記録がある。
表示:画面上に警告メッセージを出して注意を促す。検出部分に、表示を出して、場所を示す。
音:標準のビープ音を鳴らす。あるいは、登録しておいた音声ファイルを再生する。
操作:あらかじめ、登録していた情報に基づき、マウス操作やキーボード操作をソフトウェアで行う。
画像:検出時の画像を、静止画、あるいは、動画で保存する。
記録:発生した事象に対して、日時、現象などをログとして、保存する。
ケーブル接続は、パラレル、シリアル、LANなどがある。
パラレル接続は、接点出力や警報ランプの制御などに適用される。
シリアルケーブルは、USB機器や、RS232C,RS485接続の機器の制御に用いられる。
LANケーブルは、ネットワーク接続対応機器の制御に用いられる。
なお、機器の種類は、用途により変わる。
インターネットを経由して、遠隔地へ通知する。あるいは、あらかじめ登録していた電子メールアドレスへ、一斉送信する。
また、事象によって、送信先を選択して送信することもできる。
管理用のサーバーが設置されている場合は、サーバーへイベント通知することで、システム処理できる。出力によって、遠隔地の機器を操作することもできる。
なお、ネットワークには、インターネットや無線LAN、有線LANのほかBluetooth(登録商標)や赤外線通信等の近距離無線通信ネットワークを含む。
図12は対象の監視システムの構成を示すものである。
図12では、Windows(商標)等のOS10で動作する監視システム20が、カメラ等の映像を取り込み、表示画面30に表示し、人が目視で監視画像32上の異常を確認する監視システムを示している。しかし、これでは、人の不注意や目をそらすことにより監視対象を見落とすことが避けられない。
これは、監視ソフト内にカメラ画像からの検出処理22および通知処理24を行うソフトを追加する改造を行った監視システム20’を設けたもので、既存ソフトに対する動作検証、修正作業などを行うことによりシステムが構築される。
しかし、改造時、確認時に監視システム20’の停止が発生する。監視ソフトメーカーに画像データ処理技術がない場合、対応不可である。外部に委託する場合、監視ソフトを公開する必要がある。また、監視ソフトの設計者がいない場合、対応不可の可能性がある。追加改造部分に不具合が発生したら、目視の監視もできなくなる。
これは、図12に示した既存の監視システムを改造するのではなく、追加ソフト40により実現するものである。この追加ソフト40は、表示画面上の任意のエリアを1つまたは複数設定し、設定エリア34内の画像データを逐次、メモリ(図示せず)上に転送し、メモリ上の信号をデータ処理して目的とする判定を行い、その判定結果を外部に出力するものである。
画像データ処理結果の判定、判断を、独自に、あるいは、他の画面と連携して実行できる。
結果による出力は、共通、あるいは、独自、あるいは、特定の画面と連携して、実行できる。
(1)監視システムとは別のソフトとして動作するので、監視システムを停止する必要がない。
(2)外部に委託する場合、監視ソフトの内容と無関係に作成できる。
(3)目視監視と並行して、確認ができる。
(4)不具合が発生しても、従来の目視の監視は、そのまま、行える。
上段の「センサー名」は、設定エリアのそれぞれに付される名称である。
中段の「論理センサー」は、「センサー」の組み合わせによる仮想的なセンサーである。定義式のL1= ,・・・,L4= の0はON、1はOFFである。1を超える値になった場合は、1である。センサー番号をS1,S2,・・・とする。
定義式をL1=S1*S2とすると、S1とS2の論理積(AND)となる。
L1=S1+S2とすると、S1とS2の論理和(OR)となる。
図17は、この中から、「ランプ赤時に侵入者」を設定する画面を示している。すなわち、赤いランプが点灯中は、危険なので侵入禁止というエリアを監視する。
表示画面には、通行禁止エリアとランプが映ったカメラ映像が表示されている。
人が表示画面を監視する場合は、赤いランプが点灯中に人を見つけたら、マイクで警告する。
1番センサーの画面で、ランプの部分をエリア設定し、赤色の検出を行う。
2番センサーの画面で、ランプも含めた、危険エリアを設定し、動き(人の侵入)を検知する。
1番センサーの画面で赤を検出したときだけ、2番の画面の結果は有効になる。
1番センサーの画面で、ランプの赤色を検出中に、2番センサーの画面で動きを検知したら、警告用音声メッセージを流して、警告する。
画面による出力の違いは次の通りである。
表示画面には、不審者の侵入を監視しているカメラ映像が映っているとする。
人が監視する場合は、不審者を見つけると警備に連絡する。また、カメラが故障した場合、技術に連絡する。
1番センサーの画面で、人が通行するエリアを設定し、物体(侵入者)検知を行う。
2番センサーの画面で、いつも、同じように映っている部分のエリア設定をして、輝度測定を行う。
1番センサーの画面で、物体検知(侵入者を発見)したら、警備室の警告ランプを点灯し、警備に連絡する。
2番センサーの画面で、輝度が、通常と大きく異なる場合は、カメラの故障が考えられるので、警備室の警告ランプを点灯するとともに、技術に電子メール連絡する。
このようにして、各センサーに対して、画像データ処理の種類と、処理内容と、出力条件、出力内容を設定することにより、所望の出力を得ることができる。
1.動き検出(上述した図6及びその説明参照)
2.色検出(上述した図4及びその説明参照)
3.物体検出(上述した図7及びその説明参照)
4.点ゲージ(上述した図3及びその説明参照)
などが用意されているが、これに限定されない。
企業用途
(1)有人画像監視システム、有人プロセス監視システムの無人化、省人化
(2)安定してシステム稼動(個人差、疲労、不注意などの要因排除)
(3)システム停止なしでの機能アップ、継続した機能向上。
個人用途
表示端末の内蔵カメラやUSBカメラの有効活用。
表示内容に対して行うのでカメラとの相性は皆無。
(1)表示端末の夜間監視モニタ化(異常警報)
(2)留守時の監視モニタ化(電子メールで通知、画像保存)
(3)画面を見て行う、単純操作の代行
Claims (12)
- 表示画面上の任意のエリアを1つまたは複数設定し、
前記表示画面上に表示される画像データから前記設定されたエリア内の画像データを逐次取得してメモリ上に転送し、
前記メモリ上の画像データをデータ処理して目的とする判定を行い、
その判定結果を外部に出力することを特徴とする表示画面内画像処理方法。 - 前記判定結果は、ソフトウェアによる情報として出力することを特徴とする請求項1記載の表示画面内画像処理方法。
- 前記判定結果は、シリアルポートまたはパラレルポートに電気信号として出力することを特徴とする請求項1記載の表示画面内画像処理方法。
- 前記判定結果は、電子メール、情報データまたは画像データの形態でネットワークに出力することを特徴とする請求項1記載の表示画面内画像処理方法。
- 前記表示画面上の、位置およびサイズの少なくとも一方が異なるあるいは同一の複数のエリア内の画像データについて、各々異なるあるいは同一のデータ処理を、独立、あるいは他のエリアのデータ処理と連携して実行することを特徴とする請求項1から4のいずれかに記載の表示画面内画像処理方法。
- 前記表示画面上の1つまたは複数のエリアに対してエリア個別の名称を付加可能とし、前記判定結果を出力する際に、当該エリア個別の名称を出力に付加することを特徴とする請求項1から5のいずれかに記載の表示画面内画像処理方法。
- コンピュータを、
表示画面上の任意のエリアを1つまたは複数設定する手段と、
前記表示画面上に表示される画像データから前記設定されたエリア内の画像データを逐次取得してメモリ上に転送する手段と、
前記メモリ上の信号をデータ処理して目的とする判定を行う手段と、
その判定結果を外部に出力する手段
として機能させるための画像処理プログラム。 - 前記判定結果を、コンピュータのソフトウェアによる情報として出力する手段をさらに含むことを特徴とする請求項7記載の画像処理プログラム。
- 前記判定結果を、シリアルポートまたはパラレルポートに電気信号として出力する手段をさらに含むことを特徴とする請求項7記載の画像処理プログラム。
- 前記判定結果を、電子メール、情報データまたは画像データの形態でネットワークに出力する手段をさらに含むことを特徴とする請求項7記載の画像処理プログラム。
- 前記表示画面上の、位置およびサイズの少なくとも一方が異なるあるいは同一の複数のエリア内の画像データについて、各々異なるあるいは同一のデータ処理を、独立、あるいは他のエリアのデータ処理と連携して実行する手段をさらに含むことを特徴とする請求項7から10のいずれかに記載の画像処理プログラム。
- 前記表示画面上の1つまたは複数のエリアに対してエリア個別の名称を付加可能とし、前記判定結果を出力する際に、当該エリア個別の名称を出力に付加する手段をさらに含むことを特徴とする請求項7から11のいずれかに記載の画像処理プログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201680001227.5A CN106797431A (zh) | 2015-06-30 | 2016-05-19 | 显示画面内图像处理方法和程序 |
KR1020167030468A KR20170012874A (ko) | 2015-06-30 | 2016-05-19 | 표시 화면 내 화상 처리 방법 및 프로그램 |
JP2017526217A JP6757927B2 (ja) | 2015-06-30 | 2016-05-19 | 表示画面内画像処理方法及びプログラム |
US15/361,252 US10102825B2 (en) | 2015-06-30 | 2016-11-25 | Method and program for processing image within display screen |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015-131459 | 2015-06-30 | ||
JP2015131459 | 2015-06-30 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
US15/361,252 Continuation US10102825B2 (en) | 2015-06-30 | 2016-11-25 | Method and program for processing image within display screen |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2017002477A1 true WO2017002477A1 (ja) | 2017-01-05 |
Family
ID=57608475
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2016/064815 WO2017002477A1 (ja) | 2015-06-30 | 2016-05-19 | 表示画面内画像処理方法及びプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US10102825B2 (ja) |
JP (1) | JP6757927B2 (ja) |
KR (1) | KR20170012874A (ja) |
CN (1) | CN106797431A (ja) |
WO (1) | WO2017002477A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020180966A (ja) * | 2019-03-25 | 2020-11-05 | エフ.ホフマン−ラ ロシュ アーゲーF. Hoffmann−La Roche Aktiengesellschaft | 診断機器の動作方法 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11545013B2 (en) * | 2016-10-26 | 2023-01-03 | A9.Com, Inc. | Customizable intrusion zones for audio/video recording and communication devices |
US10891839B2 (en) | 2016-10-26 | 2021-01-12 | Amazon Technologies, Inc. | Customizable intrusion zones associated with security systems |
KR102427292B1 (ko) * | 2021-01-20 | 2022-07-29 | 국방과학연구소 | 로봇시스템 운용을 위한 제어 방법 및 시스템 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003255442A (ja) * | 2002-02-28 | 2003-09-10 | Minolta Co Ltd | 監視装置、監視方法および監視プログラム |
JP2006285507A (ja) * | 2005-03-31 | 2006-10-19 | Secom Co Ltd | 遠隔監視装置 |
JP2009239507A (ja) * | 2008-03-26 | 2009-10-15 | Smk Corp | 監視システム |
JP2014123276A (ja) * | 2012-12-21 | 2014-07-03 | Nippon Hoso Kyokai <Nhk> | 監視装置、監視方法及びプログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020057840A1 (en) * | 1999-02-26 | 2002-05-16 | Belmares Robert J. | System and method for monitoring visible changes |
JP3873554B2 (ja) * | 1999-12-27 | 2007-01-24 | 株式会社日立製作所 | 監視装置、監視プログラムが記録された記録媒体 |
US7257235B2 (en) * | 2002-02-28 | 2007-08-14 | Minolta Co., Ltd. | Monitoring apparatus, monitoring method, monitoring program and monitoring program recorded recording medium readable by computer |
JP3952305B2 (ja) | 2004-02-06 | 2007-08-01 | シャープ株式会社 | 移動体周辺監視装置、移動体周辺監視方法、制御プログラムおよび可読記録媒体 |
CN102663792B (zh) * | 2012-03-28 | 2016-01-20 | 上海量明科技发展有限公司 | 一种针对截图中冗余区域进行删除的方法及*** |
CN102833563B (zh) * | 2012-08-02 | 2015-12-16 | 深圳Tcl新技术有限公司 | 一种3d视频顺序格式的自动识别方法及装置 |
CN103198424B (zh) * | 2013-03-29 | 2017-09-08 | Tcl集团股份有限公司 | 一种基于智能显示设备的购物方法及装置 |
CN103500095A (zh) * | 2013-09-27 | 2014-01-08 | 太仓苏易信息科技有限公司 | 屏幕截图监控*** |
-
2016
- 2016-05-19 CN CN201680001227.5A patent/CN106797431A/zh active Pending
- 2016-05-19 JP JP2017526217A patent/JP6757927B2/ja active Active
- 2016-05-19 KR KR1020167030468A patent/KR20170012874A/ko not_active Application Discontinuation
- 2016-05-19 WO PCT/JP2016/064815 patent/WO2017002477A1/ja active Application Filing
- 2016-11-25 US US15/361,252 patent/US10102825B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003255442A (ja) * | 2002-02-28 | 2003-09-10 | Minolta Co Ltd | 監視装置、監視方法および監視プログラム |
JP2006285507A (ja) * | 2005-03-31 | 2006-10-19 | Secom Co Ltd | 遠隔監視装置 |
JP2009239507A (ja) * | 2008-03-26 | 2009-10-15 | Smk Corp | 監視システム |
JP2014123276A (ja) * | 2012-12-21 | 2014-07-03 | Nippon Hoso Kyokai <Nhk> | 監視装置、監視方法及びプログラム |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020180966A (ja) * | 2019-03-25 | 2020-11-05 | エフ.ホフマン−ラ ロシュ アーゲーF. Hoffmann−La Roche Aktiengesellschaft | 診断機器の動作方法 |
JP7104738B2 (ja) | 2019-03-25 | 2022-07-21 | エフ.ホフマン-ラ ロシュ アーゲー | 診断機器の動作方法 |
US11947344B2 (en) | 2019-03-25 | 2024-04-02 | Roche Diagnostics Operations, Inc. | Method of operating a diagnostic instrument |
Also Published As
Publication number | Publication date |
---|---|
US10102825B2 (en) | 2018-10-16 |
US20170084252A1 (en) | 2017-03-23 |
KR20170012874A (ko) | 2017-02-03 |
JP6757927B2 (ja) | 2020-09-23 |
JPWO2017002477A1 (ja) | 2018-05-24 |
CN106797431A (zh) | 2017-05-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
AU2021201574A1 (en) | Security system and method | |
WO2017002477A1 (ja) | 表示画面内画像処理方法及びプログラム | |
KR101307698B1 (ko) | 출입 제한 영역 침입자 검출 시스템, 침입자 검출 장치, 출입 제한 영역 침입자 검출 방법 및 그 프로그램을 기록한 컴퓨터 판독 가능 기록 매체 | |
KR101544019B1 (ko) | 합성 영상을 이용한 화재감지시스템 및 방법 | |
KR20150043146A (ko) | 모니터링 방법 | |
KR200433431Y1 (ko) | 독립형 감시 시스템 | |
KR101521236B1 (ko) | 열영상을 이용한 감시 시스템 | |
JP2009159448A (ja) | 物体検出装置及び物体検出方法 | |
JP2010028627A (ja) | 表示装置 | |
JP7021652B2 (ja) | かご内監視装置 | |
KR101895843B1 (ko) | 알람 검증 시스템 및 그 방법 | |
KR101046819B1 (ko) | 소프트웨어 휀스에 의한 침입감시방법 및 침입감시시스템 | |
JP2009239507A (ja) | 監視システム | |
US20140147011A1 (en) | Object removal detection using 3-d depth information | |
CN114241389A (zh) | 燃烧物质识别方法、电子设备及可读存储介质 | |
KR101460440B1 (ko) | 화재 감지 기능을 가지는 카메라 및 그 화재 감지 방법 | |
TWM495585U (zh) | 居家保全影像監控系統 | |
JP3874539B2 (ja) | 画像監視装置 | |
KR20190056750A (ko) | 영상 불꽃 감지 장치 및 방법 | |
WO2019082474A1 (ja) | 3次元侵入検知システムおよび3次元侵入検知方法 | |
Mariappan et al. | A design methodology of an embedded motion-detecting video surveillance system | |
CN111669652A (zh) | 一种视频监控告警方法和电视机 | |
JP2024081326A (ja) | 情報処理システム、情報処理方法及びプログラム | |
JP6911888B2 (ja) | 監視装置、監視方法、及びプログラム | |
US20230401859A1 (en) | Management apparatus, management method, management system, computer program and recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
ENP | Entry into the national phase |
Ref document number: 20167030468 Country of ref document: KR Kind code of ref document: A |
|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 16817586 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2017526217 Country of ref document: JP Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 16817586 Country of ref document: EP Kind code of ref document: A1 |