JP2008054150A - Multiple channel image transfer device - Google Patents

Multiple channel image transfer device Download PDF

Info

Publication number
JP2008054150A
JP2008054150A JP2006229985A JP2006229985A JP2008054150A JP 2008054150 A JP2008054150 A JP 2008054150A JP 2006229985 A JP2006229985 A JP 2006229985A JP 2006229985 A JP2006229985 A JP 2006229985A JP 2008054150 A JP2008054150 A JP 2008054150A
Authority
JP
Japan
Prior art keywords
image
channel
still image
still
channels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006229985A
Other languages
Japanese (ja)
Other versions
JP4828354B2 (en
Inventor
Tomohide Ota
知英 太田
Hiromi Ikenoue
博美 池之上
Tomohide Iwao
友秀 岩尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2006229985A priority Critical patent/JP4828354B2/en
Publication of JP2008054150A publication Critical patent/JP2008054150A/en
Application granted granted Critical
Publication of JP4828354B2 publication Critical patent/JP4828354B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a system preventing a user from missing a suspicious person, etc. when a still image acquired from an image accumulation device loading input systems of a plurality of channels is reproduced on the reproduction terminal connected via a network. <P>SOLUTION: A CPU of the image accumulation device 4 computes an inter-frame difference value between a still image previously transferred and a still image to be transferred in the current term for every channel of the input systems and performs processing for relatively raising probability to select still images of channels with large motion between recorded images in which the inter-frame difference values exceed a predetermined threshold in the plurality of channels. Then, the CPU of the same device 4 selects a channel to be preferentially transferred based on selection probability of the respective channels and transfers a still image of the selected channel to a reproduction terminal 3 via the network 2. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、複数スキャン画像転送装置に関する。   The present invention relates to a multi-scan image transfer apparatus.

一般的に、人間の目は、静止画像が連続的に描画されたものを、動画として認識している。日本のテレビ放送などでは、1秒間に約30回画像が連続表示される仕様になっている。1秒間に何回静止画像が表示されると(以下、1フレームの静止画像が1秒間に表示される回数を「秒間フレームレート」と言う。)、人間の目は連続表示される静止画像を違和感なく動画として認識することができるのかについては実証的に示すことが不可能であるため、本明細書では具体的な秒間フレームレート値を定義しない。しかしながら、秒間フレームレートが減少するにつれて、人間の目が連続静止画を動画であると認識しづらくなることは一般的に広く知られている事実である。   In general, the human eye recognizes a continuous image of still images drawn as a moving image. In Japanese television broadcasting, etc., the image is continuously displayed about 30 times per second. When a still image is displayed many times per second (hereinafter, the number of times a one-frame still image is displayed per second is referred to as “second frame rate”), the human eyes Since it is impossible to empirically indicate whether it can be recognized as a moving image without a sense of incongruity, a specific second frame rate value is not defined in this specification. However, it is a generally well-known fact that it becomes difficult for human eyes to recognize continuous still images as moving images as the frame rate decreases for a second.

そこで、本明細書では、人間の目が連続静止画を違和感なく動画であると認識できる秒間フレームレートを「比較的高い秒間フレームレート」として、又、連続静止画が少しカクカクして見えてしまい動画として認識するには少し違和感がある秒間フレームレートを「比較的低い秒間フレームレート」として、更に、動画として認識するには著しく違和感がある秒間フレームレートを「極端に低い秒間フレームレート」と定義して、議論を進める。   Therefore, in this specification, the second frame rate at which the human eye can recognize a continuous still image as a moving image without a sense of incongruity is referred to as a “relatively high second frame rate”, and the continuous still image looks a little jerky. A frame rate that is a little strange to recognize as a video is defined as a "relatively low frame rate", and a frame rate that is extremely strange to be recognized as a video is defined as an "extremely low second frame rate". And proceed with the discussion.

表示すべき連続静止画データが再生端末側に蓄積されている場合には、それを倍速再生することは比較的容易である。即ち、再生端末側の不揮発性記録領域に格納されている静止画像を、通常再生の2倍の秒間フレームレートで表示(更新)することで、倍速再生が実現される。   When continuous still image data to be displayed is stored on the playback terminal side, it is relatively easy to play back at double speed. That is, double-speed playback is realized by displaying (updating) a still image stored in the non-volatile recording area on the playback terminal side at a frame rate that is twice that of normal playback.

次に、再生端末側に連続静止画データが蓄積されておらず、ネットワークを介して遠隔地から画像データを取得して再生する状況を考える。一般的に、このような再生方法は、「ネットワーク再生」と呼ばれている。ネットワークで接続された再生端末で、通常再生あるいは倍速再生を行う場合には、ネットワークの転送帯域(1秒間に転送可能なデータ量)を考慮する必要がある。再生端末側で再生画面を注視しているユーザに、違和感なく再生画像を動画像として認識させるためには、1秒間に複数枚の静止画像を転送する必要がある。ここで、1秒間に転送すべき画像データの合計がネットワークの転送帯域を下回っていれば問題は発生しないが、逆の場合にはコマ落ちが発生する。   Next, consider a situation in which continuous still image data is not accumulated on the playback terminal side, and image data is acquired and played back from a remote location via a network. Generally, such a reproduction method is called “network reproduction”. When normal playback or double speed playback is performed on a playback terminal connected via a network, it is necessary to consider the network transfer bandwidth (the amount of data that can be transferred per second). In order for the user who is watching the playback screen on the playback terminal side to recognize the playback image as a moving image without a sense of incongruity, it is necessary to transfer a plurality of still images per second. Here, there is no problem if the total amount of image data to be transferred per second is below the network transfer band, but in the opposite case, frame dropping occurs.

とりわけ、映像入力系統が1つでない場合には、その傾向が顕著になる。例えば、画像転送側の装置が16個の映像入力系統を有しており、且つ、画像データのサイズが同じであると仮定すると、1秒間に転送すべき画像データの合計は、映像入力系統が1つの場合と比較して16倍になる。このように膨大なデータ量を転送しなければならない場合、理論上すべてのデータを転送できない可能性が高くなる。   In particular, when the number of video input systems is not one, the tendency becomes remarkable. For example, assuming that the device on the image transfer side has 16 video input systems and the size of the image data is the same, the total amount of image data to be transferred per second is calculated by the video input system. Compared to one case, it is 16 times. When a huge amount of data has to be transferred in this way, there is a high possibility that all data cannot be transferred theoretically.

ここで、多チャンネルの入力系統を搭載しており、主に監視用途などに使用されることを目的とした画像蓄積装置が再生端末とネットワークで接続され、且つ、転送帯域が制限された環境下において、画像蓄積装置から転送された画像を、再生端末側のソフトウェアで、すべてのチャンネルを1つのモニタへ分割多画面表示した状態で、通常再生あるいは多倍速再生することを考える。前述のとおり、ネットワーク環境においては転送帯域制限がボトルネックとなり、オフライン環境のようにコマ落ちすることなく多倍速再生することが難しいだけでなく、通常再生においてもパケットロスや遅延などが起きる可能性も否めないことから、再生環境が堅牢であるとはいえない。   Here, in an environment in which a multi-channel input system is mounted, an image storage device intended to be used mainly for monitoring purposes is connected to a playback terminal via a network, and the transfer bandwidth is limited Suppose that the image transferred from the image storage device is played back at normal playback or multiple speed playback with software on the playback terminal side in a state in which all channels are divided and displayed on one monitor on multiple screens. As mentioned above, the transfer bandwidth limitation becomes a bottleneck in the network environment, and it is not only difficult to play multiple times without dropping frames like in the offline environment, but also packet loss and delay may occur during normal playback However, it cannot be said that the reproduction environment is robust.

特開2001−333383号公報JP 2001-333383 A 特開2004−159034号公報JP 2004-159034 A 特開2006−50435号公報JP 2006-50435 A 特開平8−297792号公報JP-A-8-297792

本発明で想定している複数チャンネル画像転送装置(例えばデジタルレコーダの様な画像蓄積装置)は、画像入力機器(監視カメラ等)を介して任意の記録秒間フレームレートで画像を記録し、機器の内部又は外部に搭載している不揮発性記憶領域に当該画像を蓄積し、その蓄積画像をネットワークで接続された再生端末へ転送することができるものであり、且つ、画像入力機器を制御することで、記録する静止画の記録秒間フレームレートを任意に設定できる機能を有しているものとする。又、不揮発性記憶領域には、図2に示すように、1、2・・と順に各チャンネルの画像が格納されているものとする。最後のチャンネルの次には、次のタームの始めのチャンネルから各チャンネルの画像が順に格納されており、順次この繰り返しで全チャンネルの画像が蓄積されている。ここで言う「ターム」とは時刻を指し、「現タームの画像」とは同一時刻に記録された全てのチャンネルの画像を指すものとする。又、本発明の後述する具体的記載では、簡単化のために便宜上、入力系統が4チャンネルの場合を例にしている。このときの、再生端末側のソフトウェアによって制御されて、再生端末側の一つのモニタの画面上に分割表示される4チャンネルの画面を、図3に示す。   A multi-channel image transfer device (for example, an image storage device such as a digital recorder) envisioned in the present invention records an image at an arbitrary recording second frame rate via an image input device (such as a surveillance camera). By storing the image in a nonvolatile storage area installed inside or outside, and transferring the stored image to a playback terminal connected via a network, and controlling the image input device Suppose that it has a function capable of arbitrarily setting the recording second frame rate of a still image to be recorded. In addition, as shown in FIG. 2, it is assumed that the images of the respective channels are stored in the nonvolatile storage area in the order of 1, 2,. Next to the last channel, the images of the respective channels are stored in order from the first channel of the next term, and the images of all the channels are sequentially accumulated by this repetition. Here, “term” refers to time, and “current term image” refers to images of all channels recorded at the same time. Further, in the specific description to be described later of the present invention, for the sake of simplicity, the case where the input system is four channels is taken as an example. FIG. 3 shows a 4-channel screen which is controlled by the software on the playback terminal side and is divided and displayed on the screen of one monitor on the playback terminal side.

ネットワークを用いない実機での通常再生の場合、ネットワーク環境とは異なり転送帯域制限等がないため、多倍速再生に関する先行発明は多く提案されている。比較的多いのは、MPEG関連の従来発明であり、例えば、MPEGの多倍速再生における表示画面のフレーム間の欠性を軽減した特許文献1がある。また、再生関連として、MPEGの巻き戻し再生に関する先行技術を開示する特許文献2もある。MPEGやJPEG等に代表される圧縮画像は、データ構造そのものがビットマップ画像とは異なる複雑な形態をとっており、再生するためには圧縮画像を復号化する必要がある。特にMPEGは、ビットストリーム構造であるため、静止画像のように1枚毎にデータを切り分けることが難しい場合が多い。これらの先行文献は、再生関連の先行技術例として紹介したが、本発明ではネットワーク環境での再生を想定しているため、本発明と上記先行文献の従来発明とでは、分野が少し異なる。本発明のシステムにおいて、想定している静止画像の画像フォーマットは、ビットストリーム構造をとらないビットマップや、JPEG、JPEG2000等をはじめとするものである。   In the case of normal playback on an actual device that does not use a network, unlike the network environment, there is no transfer bandwidth limitation, and so many prior inventions relating to multiple speed playback have been proposed. A relatively large number of related inventions are related to MPEG. For example, there is Patent Document 1 in which the deficiency between frames of a display screen in MPEG multiple speed playback is reduced. In addition, there is Patent Document 2 that discloses the prior art related to MPEG rewind playback as playback related. A compressed image represented by MPEG, JPEG, or the like has a complicated form in which the data structure itself is different from that of a bitmap image, and it is necessary to decode the compressed image for reproduction. In particular, since MPEG has a bit stream structure, it is often difficult to separate data for each frame like a still image. These prior documents have been introduced as examples of prior art related to reproduction. However, since the present invention assumes reproduction in a network environment, the field of the present invention is slightly different from the prior art of the above prior art. In the system of the present invention, the assumed image format of the still image is a bitmap that does not have a bit stream structure, JPEG, JPEG2000, or the like.

本発明の想定環境に比較的近いネットワーク監視システムを提案している先行発明としては、特許文献3が挙げられる。ネットワーク監視システムにおいては、特許文献3の文中にも記載されているように、ネットワーク環境では転送帯域の制限などがあるため、再生端末側での再生時のコマ落ちを完全に防ぐことはできない。特許文献3は、多少のコマ落ちは伴うものの、ネットワークカメラが遠隔地に於いて取得した画像をネットワークで接続された再生端末側においてリアルタイムで監視することを目的として、斯かるリアルタイム監視を実現している。しかしながら、この特許文献3では、監視用途で使用する際に、コマ落ちが発生した場合に関して、再生端末側のユーザが不審(人)物などを見落とす確率を下げる手法については提案されていない。   Patent document 3 is mentioned as a prior invention which has proposed the network monitoring system comparatively close to the assumption environment of this invention. In the network monitoring system, as described in the text of Patent Document 3, since there is a transfer bandwidth limitation in the network environment, it is not possible to completely prevent frame dropping during playback on the playback terminal side. Patent Document 3 realizes such real-time monitoring for the purpose of monitoring an image acquired by a network camera at a remote location in real time on a playback terminal connected via a network, although some frame dropping is involved. ing. However, Patent Document 3 does not propose a method for reducing the probability that a user on the playback terminal side may overlook a suspicious (human) object or the like when a frame drop occurs when used for monitoring purposes.

又、フレーム間差分を用いた動き検知機を有している監視システムを提案している特許文献4がある。特許文献4では、映像だけでなく音声情報も利用することで、動き検知の精度を高めることに成功している。しかしながら、特許文献4も、ネットワークで接続された端末側で画像を再生する手法自体には触れておらず、再生端末側に異常事態を知らせることを主たる目的としている。   Further, there is Patent Document 4 that proposes a monitoring system having a motion detector using inter-frame differences. Patent Document 4 succeeds in improving the accuracy of motion detection by using not only video but also audio information. However, Patent Document 4 also does not touch on the technique itself for reproducing an image on the terminal side connected via the network, but mainly aims to notify the reproduction terminal side of the abnormal situation.

又、その他にも、監視用画像蓄積装置等自体でフレーム間差分を行い、動きのある画像を高い画質で記録しておくシステム等は多く存在するが、これらはネットワーク接続された再生端末で再生することを想定していないか、あるいは、再生端末側での再生を想定しているものであっても単純に画像蓄積装置に記録されている画像を再生端末側に転送するものでしかない。   In addition, there are many systems that record inter-frame differences with a monitoring image storage device or the like and record moving images with high image quality, but these can be played back on a network-connected playback terminal. Even if the reproduction is assumed to be performed on the reproduction terminal side, the image recorded in the image storage device is simply transferred to the reproduction terminal side.

これに対して、本発明は、再生端末側への画像の転送方法、及び、再生端末側での表示方法を提案する。   On the other hand, the present invention proposes an image transfer method to the playback terminal side and a display method on the playback terminal side.

即ち、本発明の課題ないしは目的とは、複数チャンネルの入力系統を搭載した画像蓄積装置がネットワークを介して再生端末と接続され、且つ、ネットワーク転送帯域が制限された環境下において、画像蓄積装置から取得した画像を、再生端末側のソフトウェアで、すべてのチャンネルを1つのモニタへ分割多画面表示した状態で通常再生あるいは多倍速再生する際にコマ落ちが発生した場合、主に監視用途として使用する際に、再生端末側で監視するユーザが不審(人)物等を見逃すケースを減らすことが可能な複数チャンネル画像転送装置及び複数チャンネル画像再生装置を提供する点にある。   That is, the problem or object of the present invention is that an image storage device equipped with an input system of a plurality of channels is connected to a playback terminal via a network, and the network from which the network transfer band is limited is changed from the image storage device. Mainly used for monitoring purposes when frame dropping occurs during normal playback or multiple-speed playback of the acquired image on the playback terminal software while all channels are divided into one monitor and displayed on multiple screens. At this time, it is an object to provide a multi-channel image transfer device and a multi-channel image playback device that can reduce the case where a user monitored on the playback terminal side misses a suspicious (human) object or the like.

本発明の主題に係る複数チャンネル画像転送装置は、複数チャンネルの入力系統で各画像入力機器からの静止画像を入力する画像入力手段と、前記画像入力手段で入力した複数チャンネルの各々の静止画像を不揮発性記憶領域に順次蓄積する画像蓄積手段と、ネットワークを介して前記不揮発性記憶領域に蓄積されている前記複数チャンネルの各々の静止画像を再生端末側に転送する際に、チャンネル毎に、前回転送した静止画像と現タームで転送対象となっている静止画像とのフレーム間差分値を算出し、前記複数チャンネルの内で、当該フレーム間差分値が所定のしきい値を上回る記録画像間の動きが激しいチャンネルの静止画像が選択される確率を相対的に上げる処理を行うことで、各チャンネルの選択確率に基づき優先的に転送すべきチャンネルを選択し、被選択チャンネルの静止画像を転送する静止画像転送手段とを備えることを特徴とする。   A multi-channel image transfer apparatus according to the subject of the present invention includes an image input means for inputting a still image from each image input device with a multi-channel input system, and a still image for each of the plurality of channels input by the image input means. Image storage means for sequentially storing in the nonvolatile storage area, and when transferring each still image of the plurality of channels stored in the nonvolatile storage area via the network to the playback terminal side, The inter-frame difference value between the transferred still image and the still image to be transferred in the current term is calculated, and between the recorded images in which the inter-frame difference value exceeds a predetermined threshold value among the plurality of channels. By performing processing that relatively increases the probability of selecting still images of channels with intense movement, transfer should be preferentially performed based on the selection probability of each channel. Select the channel, characterized in that it comprises a still image transfer means for transferring the still image of the selected channel.

以下、この発明の主題の様々な具体化を、添付図面を基に、その効果・利点と共に、詳述する。   Hereinafter, various embodiments of the subject of the present invention will be described in detail along with the effects and advantages thereof with reference to the accompanying drawings.

本発明の主題によれば、複数チャンネルの静止画像中、不審(人)物等が出現した可能性が高いチャンネルの画像を、ネットワークを介して再生端末側に優先的に転送することが出来る可能性を、格段に高めることが出来る。   According to the subject matter of the present invention, it is possible to preferentially transfer a channel image having a high possibility of appearance of a suspicious (human) object among a plurality of channel still images to the playback terminal side via a network. Sexually can be improved significantly.

(実施の形態1)
図1は、本発明の各実施の形態に係る複数チャンネル画像転送装置が適用されるシステム全体の構成を示すブロック図である。本発明の中核部たる画像蓄積装置(例えば業務用デジタルレコーダー)4は、各入力端でその出力端が接続された監視カメラ等の各画像入力機器1で記録した画像を蓄積しておくための機器であり、機能的にはパーソナルコンピュータ(以下、PCと言う。)のような性能を必要とする。このため、市販のPCを画像蓄積装置4として利用しても良いと考えられる。
(Embodiment 1)
FIG. 1 is a block diagram showing the overall configuration of a system to which a multi-channel image transfer apparatus according to each embodiment of the present invention is applied. An image storage device (for example, a business digital recorder) 4 which is the core of the present invention stores an image recorded by each image input device 1 such as a monitoring camera having an output terminal connected to each input terminal. It is a device and functionally requires performance like a personal computer (hereinafter referred to as a PC). For this reason, it is considered that a commercially available PC may be used as the image storage device 4.

又、画像蓄積装置4は、その最低限の機能として、複数チャンネルの画像入力機器1からの静止画像を記録する際に任意の記録秒間フレームレート(1秒間に記録可能なフレーム数を言う。)で当該静止画像を記録し、その静止画像を本装置4の内部(図1の一例に該当)あるいは外部に設けた不揮発性記憶領域5に蓄積しておくことができるハードウェアを有しており、他の機器への画像転送機能及びネットワーク通信を行うための通信プロトコルの両方を実装した組み込みソフトウェアを搭載している。   The image storage device 4 has, as its minimum function, an arbitrary recording second frame rate (referred to as the number of frames that can be recorded in one second) when recording a still image from the multi-channel image input device 1. And has hardware that can store the still image in the nonvolatile storage area 5 provided inside the apparatus 4 (corresponding to an example in FIG. 1) or outside. Embedded software that implements both an image transfer function to other devices and a communication protocol for network communication is installed.

又、画像蓄積装置4の不揮発性記憶領域5には、例えば図2に示すように、1、2、3、4と順に各チャンネルの静止画像が記録(格納)されているものとする。   In addition, in the nonvolatile storage area 5 of the image storage device 4, for example, as shown in FIG. 2, still images of channels 1, 2, 3, and 4 are recorded (stored) in this order.

本実施の形態では、記載の簡単化のために、入力系統が4チャンネルの場合を例にしている。即ち、画像入力機器(例えば、監視カメラ等)1が4台配置されており、画像蓄積装置4は、これら4台の画像入力機器1から送られてくる静止画像をそれぞれ入力することのできる4チャンネルの入力系統(入力端、A/D変換器、チップセット等)を有しているものとする。   In the present embodiment, in order to simplify the description, an example in which the input system has four channels is taken as an example. That is, four image input devices (for example, surveillance cameras) 1 are arranged, and the image storage device 4 can input still images sent from these four image input devices 1 4. It is assumed that a channel input system (input end, A / D converter, chipset, etc.) is provided.

不揮発性記憶領域5に於いては、図2に模式的に示す通り、最後のチャンネルの次には、また1チャンネルから順に次の時刻(ここでは、ターム)の画像6が順に格納されており、順次この繰り返しで画像6が蓄積されていくものとする。ただし、蓄積方法について特に限定するものではなく、図2に示す様な方法は説明のための一実装例である。なお、不揮発性記憶領域5は、図1の様に、画像蓄積装置4の内部に内蔵されていても良いとする。   In the non-volatile storage area 5, as schematically shown in FIG. 2, the image 6 of the next time (here, the term) is stored in order from the first channel after the last channel. Assume that the images 6 are sequentially accumulated in this repetition. However, the accumulation method is not particularly limited, and the method as shown in FIG. 2 is an implementation example for explanation. It is assumed that the nonvolatile storage area 5 may be built in the image storage device 4 as shown in FIG.

特に、画像蓄積装置4の組み込みソフトウェアには、比較的多くの機能を実装する必要がある。そのため、実装の負担を減らし且つ信頼性を高める意味でも、マルチタスクやネットワーク関連の通信プロトコルが実装済みである比較的高機能なオペレーティングシステムを採用することが現実的である(例えば、Linux, Windows(登録商標)CE, Vxworks等)。   In particular, it is necessary to implement a relatively large number of functions in the embedded software of the image storage device 4. Therefore, in order to reduce the burden of implementation and increase reliability, it is realistic to adopt a relatively high-performance operating system that has already implemented multitasking and network-related communication protocols (for example, Linux, Windows (Registered trademark) CE, Vxworks, etc.).

図1の再生端末(例えば、PC、ワークステーション等)3は、その最低限の機能として、画像蓄積装置4からネットワーク2を介して転送されて来る複数チャンネルの静止画像を一つのモニタに多画面分割表示を行うことができ、且つ、通常再生及び倍速再生をユーザが任意に設定することができる機能を有している。   The playback terminal (for example, PC, workstation, etc.) 3 in FIG. 1 has, as its minimum function, multi-screen still images transferred from the image storage device 4 via the network 2 on one monitor. It has a function capable of performing split display and allowing the user to arbitrarily set normal playback and double speed playback.

ユーザは、再生端末3にインストールされているソフトウェアを操作することにより、転送されて来た画像を通常再生あるいは多倍速再生して当該画像を閲覧する。   The user operates the software installed in the playback terminal 3 to view the transferred image by normal playback or multiple speed playback.

尚、図1は、画像蓄積装置4と再生端末3とがネットワーク2を介して互いに接続されている場合の一例であるが、接続形態はこれに限られるものではなく、ローカル接続やグローバル接続であっても良い。   FIG. 1 shows an example in which the image storage device 4 and the playback terminal 3 are connected to each other via the network 2. However, the connection form is not limited to this, and local connection or global connection is possible. There may be.

図3は、再生端末3の一つのモニタ(表示装置)上に、チャンネル7毎に分割表示された画面8を示す図である。図3に示す様に、分割画面8には、画像蓄積装置4から取得した1〜4チャンネルの各画像が表示される。   FIG. 3 is a diagram showing a screen 8 divided and displayed for each channel 7 on one monitor (display device) of the playback terminal 3. As shown in FIG. 3, the divided screen 8 displays each image of channels 1 to 4 acquired from the image storage device 4.

図4は、画像蓄積装置4側の画像転送手順を示したフローチャートである。本実施の形態は、多倍速再生する際は、転送回数を固定にした状態で、転送するチャンネルの画像選択方法を工夫する。尚、ここでいう「転送回数」は、転送画像の枚数と同義である。ここでは、簡単化のため、倍速再生を例にして画像転送手順を記載するが、画像転送手順の内容としては、この点は多倍速再生の場合でも同じである。   FIG. 4 is a flowchart showing an image transfer procedure on the image storage device 4 side. In this embodiment, when performing multiple speed playback, the image selection method for the channel to be transferred is devised with the number of transfers fixed. The “transfer count” here is synonymous with the number of transfer images. Here, for simplification, the image transfer procedure is described by taking double speed reproduction as an example, but the contents of the image transfer procedure are the same even in the case of multiple speed reproduction.

又、図4の例では、ネットワークとして一般的に良く知られているTCP/IPプロトコルを使用して通信している。TCP/IPプロトコルを利用した通信では、はじめに再生端末3側から画像転送要求コマンドを画像蓄積装置4に送信し、それを受けた画像蓄積装置4は画像要求コマンドに対する着信応答を返送し、続けて画像データを送信する。画像蓄積装置4は一枚の画像データを「パケット」と呼ばれるデータ単位に分割し、複数回にわけて一枚の画像データを送信する。再生端末3側は適宜、画像データパケットに対する着信応答を返し、画像データのどの部分までを受信したのかを画像蓄積装置4に伝える。画像蓄積装置4はこの着信応答に応じて残りの画像データを送信する。このような手順を順次繰り返すことで、再生端末3側は一枚の画像データを取得することができる。これは、画像蓄積装置4がサーバ、再生端末3側がクライアントの役割を担った、いわゆるクライアントサーバシステムである。   In the example of FIG. 4, communication is performed using a TCP / IP protocol generally well known as a network. In communication using the TCP / IP protocol, first, an image transfer request command is transmitted from the playback terminal 3 side to the image storage device 4, and the image storage device 4 that has received the command returns an incoming response to the image request command, and then continues. Send image data. The image storage device 4 divides one piece of image data into data units called “packets” and transmits one piece of image data in multiple times. The playback terminal 3 side appropriately returns an incoming call response to the image data packet, and tells the image storage device 4 what part of the image data has been received. The image storage device 4 transmits the remaining image data in response to this incoming call response. By sequentially repeating such a procedure, the playback terminal 3 can acquire one piece of image data. This is a so-called client-server system in which the image storage device 4 serves as a server and the playback terminal 3 serves as a client.

処理手順としては、最初に、画像蓄積装置4のCPUは、変数cntに0を設定することで初期化している(ステップS1)。ここで、変数cntは、現ターム内で再生端末3側に転送した画像の枚数を格納しておくためのものである。再生端末3側から画像転送要求があると(ステップS2)、画像蓄積装置4のCPUは、選択したチャンネルの画像を1枚単位で転送するが(ステップS3、S4)、この例では倍速再生であるため、4チャンネルすべての画像を転送することができない。このため、画像蓄積装置4のCPUは、2枚の画像を転送した時点で(ステップS6)、次のタームへ移動することで(ステップS7)、倍速再生を実現している。   As a processing procedure, first, the CPU of the image storage device 4 is initialized by setting 0 to a variable cnt (step S1). Here, the variable cnt is for storing the number of images transferred to the playback terminal 3 in the current term. When there is an image transfer request from the playback terminal 3 side (step S2), the CPU of the image storage device 4 transfers the image of the selected channel in units of one sheet (steps S3 and S4). Therefore, it is impossible to transfer all four channels of images. For this reason, when the CPU of the image storage device 4 transfers two images (step S6), it moves to the next term (step S7), thereby realizing double speed reproduction.

本実施の形態では、4チャンネルの計4枚の画像から、2枚の画像を選択しているフローチャート中段のステップS3[転送するチャンネルを1つ選択]の処理が最も重要となる。   In the present embodiment, the process of step S3 [select one channel to transfer] in the middle of the flowchart in which two images are selected from a total of four images of four channels is the most important.

図5は、本実施の形態における、図4で示したステップS3[転送するチャンネルを1つ選択]の処理手順を詳細に示すフローチャートである。図5の処理手順では、画像蓄積装置4のCPUは、始めにチャンネル数を格納する目的で使用する変数Aを1に設定することで初期化する(ステップS31)。これは、1チャンネルから処理を開始するためである。次に、画像蓄積装置4のCPUは、該当するチャンネルの前回転送した静止画像を取得し(ステップS32)、その静止画像と現タームで転送対象となっている静止画像とのフレーム間差分値を計算する(ステップS33)。このとき、フレーム間差分値が高いほど、前回転送した静止画像と、現タームの静止画像との画像間の動きが激しいことになる。ただし、図5のフローチャート中のステップS32の処理で取得される[前回転送したAチャンネルの画像]は、必ずしも現タームの1つ前のタームの静止画像であるとは限らない。これは、1つ前のタームの静止画像が転送されたとは限らないためである。   FIG. 5 is a flowchart showing in detail the processing procedure of step S3 [select one channel to be transferred] shown in FIG. 4 in the present embodiment. In the processing procedure of FIG. 5, the CPU of the image storage device 4 is initialized by first setting the variable A used for the purpose of storing the number of channels to 1 (step S <b> 31). This is to start processing from one channel. Next, the CPU of the image storage device 4 acquires the previously transferred still image of the corresponding channel (step S32), and calculates an inter-frame difference value between the still image and the still image to be transferred in the current term. Calculate (step S33). At this time, the higher the inter-frame difference value, the more intense the motion between the still image transferred last time and the still image of the current term. However, the [A channel image transferred last time] acquired in the process of step S32 in the flowchart of FIG. 5 is not necessarily a still image of the term immediately before the current term. This is because the still image of the previous term is not always transferred.

本実施の形態では、画像蓄積装置4のCPUは、経験値に基づき予め設定された「フレーム間差分値のしきい値」と前回ステップS33で算出した当該チャンネルのフレーム間差分値との大小関係を比較し(ステップS34)、上記しきい値を上回るフレーム間差分値が検出された場合には、該当チャンネルの静止画像が転送対象として選択される確率を上げる処理を行なう(ステップS35)。その結果、選択確率を上げる処理を行なったチャンネルの静止画像が転送画像として選択される確率は、高くなる。従って、選択される確率が増加したチャンネルの画像に対して、その他3つのチャンネルの静止画像に関しては、転送画像として選択される確率は相対的に低くなる。そして、画像蓄積装置4のCPUは、4チャンネル全ての現タームの静止画像に関して、選択確率を求める(ステップS36、S37)。最後に、画像蓄積装置4のCPUは、これら4チャンネル計4つの画像から、各チャンネルの画像の選択確率を考慮したうえで、転送するチャンネルの画像を1つ選択する(ステップS38)。即ち、画像蓄積装置4のCPUは、各チャンネルの画像の選択確率に対して例えば重み付けの乱数処理を行うことで、各チャンネルの画像の選択確率に基づき優先的に転送すべきチャンネルの画像を1つ選択し、被選択チャンネルの静止画像を再生端末3側に転送する。   In the present embodiment, the CPU of the image storage device 4 has a magnitude relationship between the “threshold value of interframe difference value” set in advance based on experience values and the interframe difference value of the channel calculated in the previous step S33. (Step S34), and if a difference value between frames exceeding the threshold value is detected, a process of increasing the probability that a still image of the corresponding channel is selected as a transfer target is performed (step S35). As a result, the probability that the still image of the channel that has been subjected to the process of increasing the selection probability is selected as the transfer image is increased. Therefore, the probability of being selected as a transfer image is relatively low with respect to the still image of the other three channels with respect to the image of the channel whose probability of being selected is increased. Then, the CPU of the image storage device 4 obtains selection probabilities for the still images of the current terms of all four channels (steps S36 and S37). Finally, the CPU of the image storage device 4 selects one image of the channel to be transferred from the four images in total, taking into account the selection probability of the image of each channel (step S38). In other words, the CPU of the image storage device 4 performs, for example, weighted random number processing on the image selection probability of each channel, so that the image of the channel to be preferentially transferred based on the image selection probability of each channel is 1 And select the still image of the selected channel and transfer it to the playback terminal 3 side.

尚、本実施の形態で用いている「フレーム間差分」という用語は広義の意味であり、一般的な画像処理技術(例えば、背景差分、オプティカルフロー検出処理等)においてもその処理過程においてフレーム間差分処理を利用するものはすべて、本発明の対象となる。   Note that the term “interframe difference” used in the present embodiment has a broad meaning, and even in general image processing techniques (for example, background difference, optical flow detection processing, etc.) Anything that uses differential processing is the subject of the present invention.

又、これら一連の処理を、ハードウェアとソフトウェアのどちらを用いて実行しても問題はないが、処理手順が比較的複雑であるため、一般的にはソフトウェアで上記処理手順を実現するのが現実的である。   Moreover, there is no problem whether the series of processing is executed using either hardware or software, but the processing procedure is relatively complicated. Therefore, the above processing procedure is generally realized by software. Realistic.

又、上述の記載では、チャンネル数が4チャンネルの場合について説明しているが、これに限られるものではなく、2チャンネル以上の複数チャンネルであれば良い。   In the above description, the case where the number of channels is four is described. However, the present invention is not limited to this, and a plurality of channels of two or more channels may be used.

以上に記載したように、本実施の形態に係る、ネットワーク監視のための複数チャンネル画像転送装置は、(1)複数チャンネルの入力系統で画像入力機器1からの静止画像を入力する「画像入力手段」(図1の入力端、A/D変換器等から成る部分に該当)と、(2)画像入力機器1を制御して任意の記録秒間フレームレートで各チャンネルの静止画像を不揮発性記憶領域5に順次蓄積する「画像蓄積手段」(図1ではCPUの機能に該当)と、(3)ネットワークを介して不揮発性記憶領域5に蓄積されている複数チャンネルの静止画像を再生端末3側へ転送する際に、フレーム間差分を利用した指標を利用し、記録画像中、前回転送時の静止画像と比較して動きの激しいチャンネルの静止画像を優先的に転送する「静止画像転送手段」(図1ではCPUの機能に該当)を備えている。   As described above, the multi-channel image transfer apparatus for network monitoring according to the present embodiment (1) “image input means for inputting a still image from the image input device 1 with a multi-channel input system” (Corresponding to the portion consisting of the input end, A / D converter, etc. in FIG. 1), and (2) controlling the image input device 1 to store the still image of each channel at a frame rate of arbitrary recording seconds. “Image storage means” (corresponding to the function of the CPU in FIG. 1) that is sequentially stored in 5, and (3) a plurality of channels of still images stored in the nonvolatile storage area 5 via the network to the playback terminal 3 side `` Still image transfer means '' that preferentially transfers still images of channels that are moving more rapidly than recorded still images during recording, using an index that uses inter-frame differences when transferring And a corresponding) in Figure 1, the CPU functions.

そのため、本実施の形態によれば、再生端末3側で蓄積画像を再生するユーザが、不審(人)物などが出現している可能性が高い、画像間で動きの激しいチャンネルの画像を優先的に閲覧することができる可能性を格段に高めることが出来る。   Therefore, according to the present embodiment, a user who reproduces an accumulated image on the reproduction terminal 3 side gives priority to an image of a channel that is highly likely to have a suspicious (human) object or the like and that moves between images. The possibility of being able to browse automatically can be greatly increased.

とりわけ、屋内で不審(人)物の発見や警報等の目的で監視カメラを設置する場合、基本的に動物体がない場所に監視カメラが設置されることが多いと考えられる。この場合、照明条件(電器照明の強さ、規則的点滅等など)がほぼ一定であると仮定すると、監視カメラから入力される各画像間の輝度値の差分値は、不審(人)物をはじめとする動物体が出現しない限り、殆ど変化しないケースが多い。   In particular, when a surveillance camera is installed indoors for the purpose of detecting a suspicious (human) object or alarming, it is considered that the surveillance camera is often installed in a place where there is basically no moving object. In this case, assuming that the lighting conditions (electric lighting intensity, regular blinking, etc.) are almost constant, the difference value of the brightness value between the images input from the surveillance camera is the suspicious (human) object. There are many cases in which almost no change is made unless a starting animal body appears.

又、本実施の形態においては、再生端末3側で蓄積画像を再生するユーザが、コマ落ちが発生する3倍速以上の再生においても、不審(人)物の出現などの重要な情報を見逃す確率を低くすることができる。   In the present embodiment, the probability that the user who plays the stored image on the playback terminal 3 side misses important information such as the appearance of a suspicious (human) object even during playback at 3 × speed or more where frame dropping occurs. Can be lowered.

しかも、本実施の形態においては、再生端末3は、ネットワーク2を介して画像蓄積装置4から転送されてくる静止画像を多倍速再生する機能を備えている。従って、通常再生の場合に比べて、再生端末3側での画像再生時間を短縮することができる。例えば、再生端末3で倍速再生する場合は、通常再生のおよそ半分に、N(N;1以上の整数)倍速再生の場合は通常再生のおよそN分の1に短縮できる。   In addition, in the present embodiment, the playback terminal 3 has a function of playing back still images transferred from the image storage device 4 via the network 2 at multiple speeds. Therefore, it is possible to shorten the image reproduction time on the reproduction terminal 3 side as compared with the case of normal reproduction. For example, when playback at the playback terminal 3 is performed at double speed, the playback speed can be reduced to about half of normal playback, and at N (N: integer greater than or equal to 1) speed playback can be reduced to about 1 / N of normal playback.

(実施の形態2)
実施の形態1は、画像蓄積装置1に蓄積されている複数チャンネルの静止画像をネットワーク2を介して多倍速再生するための再生端末3に転送する際に、一般的な画像処理技術であるフレーム間差分を利用した指標を導入することで、記録画像中、前回転送時の静止画像と較べて動きの激しいチャンネルの静止画像を優先的に転送するものであった。
(Embodiment 2)
The first embodiment is a frame that is a general image processing technique when transferring a plurality of channels of still images stored in the image storage device 1 to the playback terminal 3 for playback at multiple speeds via the network 2. By introducing an index using a difference between channels, a still image of a channel that moves more rapidly than a still image at the previous transfer is preferentially transferred among recorded images.

実施の形態1のみであっても、有用性は高いと考えられるが、本発明で想定している環境においては、画像入力機器1から任意の記録秒間フレームレートで画像蓄積装置4に画像を蓄積しておくことができる。   Although only the first embodiment is considered to be highly useful, in the environment assumed in the present invention, an image is stored in the image storage device 4 from the image input device 1 at an arbitrary recording second frame rate. Can be kept.

そこで、本実施の形態では、前述の実施の形態1で用いたフレーム間差分に加えて、記録秒間フレームレートの情報も利用して、各チャンネルの選択確率を求めて、当該各チャンネルの選択確率に基づき優先的に転送すべきチャンネルの静止画像を選択する。尚、記録秒間フレームレートの情報に関しては、画像蓄積装置4のハードウェア側で当該情報を管理しているため、画像蓄積装置4に於いてユーザが自由に当該情報を設定することができ、しかも、ソフトウェアの処理によって当該情報を容易に参照・取得することが出来る。   Therefore, in the present embodiment, in addition to the inter-frame difference used in the first embodiment, information on the recording second frame rate is also used to obtain the selection probability of each channel, and the selection probability of each channel. The still image of the channel to be preferentially transferred is selected based on. The information about the frame rate of the recording seconds is managed by the hardware side of the image storage device 4, so that the user can freely set the information in the image storage device 4. The information can be easily referred to and acquired by software processing.

本実施の形態に係る処理手順を図6のフローチャートに示す。処理手順では、実施の形態1で用いたフレーム間差分処理に加えて、記録秒間フレームレートの情報を利用している。従って、画像蓄積装置4のCPUが行う、図6中のステップS351及びS352が追加されることとなる。ここで、記録秒間フレームレートが少なくなるにつれて、1秒間当たりの情報量を密に取得できなくなる。そのため、記録秒間フレームレートの場合にも、フレーム間差分値の場合と同じく、しきい値(第2しきい値とも言う。それに対して、フレーム間差分値のしきい値を第1しきい値と定義する。)を設定し、画像蓄積装置4のCPUは、所定の第2しきい値よりも記録秒間フレームレートが低い場合には(ステップS351)、実施の形態1と同じく、該当チャンネルの静止画像が再生端末3側への転送画像として選択される確率を上げる処理を行なう(ステップS352)。選択確率を上げたチャンネルの静止画像は、転送画像として選択される確率が高くなる。従って、選択される確率が増加したチャンネルの画像に対して、その他3つのチャンネルに関しては、相対的に転送画像として選択される確率は低くなる。最後に、画像蓄積装置4のCPUは、これら4チャンネル計4つの静止画像から、各チャンネルの静止画像の選択確率を考慮した上で(各チャンネルの静止画像の選択確率に基づき)、優先的に転送すべきチャンネルの静止画像を1つ選択する。   The processing procedure according to this embodiment is shown in the flowchart of FIG. In the processing procedure, in addition to the inter-frame difference processing used in the first embodiment, information on the frame rate of recording seconds is used. Accordingly, steps S351 and S352 in FIG. 6 performed by the CPU of the image storage device 4 are added. Here, as the frame rate of recording seconds decreases, the information amount per second cannot be obtained densely. Therefore, also in the case of the frame rate for recording seconds, as in the case of the inter-frame difference value, the threshold value (also referred to as the second threshold value. When the frame rate of the recording seconds is lower than the predetermined second threshold value (step S351), the CPU of the image storage device 4 sets the corresponding channel as in the first embodiment. Processing for increasing the probability that a still image is selected as a transfer image to the playback terminal 3 is performed (step S352). A still image of a channel whose selection probability has been raised has a high probability of being selected as a transfer image. Therefore, with respect to the image of the channel whose probability of being selected has increased, the probability of being selected as a transfer image is relatively low with respect to the other three channels. Finally, the CPU of the image storage device 4 preferentially considers the selection probability of each channel still image (based on the selection probability of each channel still image) from a total of four still images of these four channels. Select one still image of the channel to be transferred.

本実施の形態では、記録秒間フレームレートが低くなればなるほど、且つ、フレーム間差分値が高くなるほどに、その該当チャンネルが転送画像として優先的に選択される確率が高くなる。但し、これはあくまで一例であり、複数チャンネルの画像を取得し、再生端末3側で分割画面表示した状態で倍速以上の再生を行なう際に記録秒間フレームレートとフレーム間差分技術を利用するものは全て、本発明の対象内にある。   In the present embodiment, the lower the frame rate for recording seconds and the higher the inter-frame difference value, the higher the probability that the corresponding channel is preferentially selected as a transfer image. However, this is only an example, and when using a playback terminal 3 side to obtain a multiple screen image and performing playback at a speed of double speed or higher while displaying a divided screen, the recording second frame rate and inter-frame difference techniques are used. All are within the scope of the present invention.

本実施の形態によれば、実施の形態1で記載した利点を残しつつ、画像入力機器1からの記録の際に1秒間当たりの情報が密にとれていないチャンネルの画像に関しても、再生端末3側のユーザが優先的に閲覧することができる蓋然性を格段に高めることが出来る。   According to the present embodiment, the reproduction terminal 3 can also be used for an image of a channel in which information per second is not densely recorded at the time of recording from the image input device 1 while retaining the advantages described in the first embodiment. The probability that the user on the side can preferentially browse can be greatly enhanced.

ここで、実施の形態1、2の処理手順中のステップS38[転送するチャンネルを1つ選択]の処理に関するシンプルな一実装例を示す。   Here, a simple implementation example regarding the process of step S38 [select one channel to be transferred] in the processing procedure of the first and second embodiments will be described.

図7は、1〜4チャンネルが転送チャンネルとして選択される確率を基に、実際に転送するチャンネルを決定する手順を示している。ここで、S(N)はNチャンネル(N;1〜4)が転送チャンネルとして選択される確率(%)を各々示している。ここでは簡単化のために、(1)式が成立するものとする。   FIG. 7 shows a procedure for determining a channel to be actually transferred based on the probability that channels 1 to 4 are selected as transfer channels. Here, S (N) indicates the probability (%) that the N channel (N; 1 to 4) is selected as the transfer channel. Here, for simplification, it is assumed that equation (1) holds.

Figure 2008054150
Figure 2008054150

例えば、各チャンネルの選択確率が全く変更されていない場合には、S(1)=S(2)=S(3)=S(4)=25であり、各チャンネルが選択される確率はそれぞれ25%である。処理手順では、始めに各チャンネル格納用の変数を100個準備し、この変数の中に各チャンネルをそれぞれの選択確率の数だけ格納する。最後に、1から100までの乱数を発生させることで、それぞれの選択確率を反映させて、転送するチャンネルを選択することができる。尚、この実装例はソフトウェアで実現するための例であり、乱数発生処理などは言語のライブラリ等を用いて行なっても良い。   For example, when the selection probability of each channel is not changed at all, S (1) = S (2) = S (3) = S (4) = 25, and the probability that each channel is selected is 25%. In the processing procedure, first, 100 variables for storing each channel are prepared, and each channel is stored in this variable by the number of selection probabilities. Finally, by generating random numbers from 1 to 100, it is possible to select a channel to be transferred, reflecting each selection probability. This implementation example is an example for realizing by software, and random number generation processing and the like may be performed using a language library or the like.

(実施の形態3)
実施の形態1及び2は、転送あるいは蓄積する静止画像のフォーマットに関しては、ビットマップであるか、あるいは、その他の圧縮形態(JPEG,JPEG2000等)であるかについては、特に定めていない。しかしながら、ネットワーク2の転送帯域に制限がある場合には、転送画像に圧縮形態フォーマットを採用することが現実的な選択肢となる場合が多い。
(Embodiment 3)
In the first and second embodiments, the format of a still image to be transferred or stored is not particularly defined as to whether it is a bitmap or other compression format (JPEG, JPEG2000, etc.). However, when the transfer band of the network 2 is limited, it is often a realistic option to adopt a compression format for the transfer image.

そこで、本実施の形態では、実施の形態1及び2に共通の処理である図6及び図7で示したステップS38[転送するチャンネルを1つ選択]の処理後に、選択されたチャンネルの静止画像を圧縮形態のフォーマットにエンコードする処理(ステップS39;静止画像圧縮手段)を追加する。ここで、実施の形態1に本実施の形態を適用した場合の、画像蓄積装置4のCPU(静止画像転送手段)に於ける処理手順を示すフローチャートを図8に例示する。更に、画像蓄積装置4のCPU(静止画像転送手段)は、転送画像の圧縮形態のフォーマットを選択した上で、圧縮後の当該転送画像を再生端末3側に転送する。尚、圧縮形態としては、JPEG、JPEG2000等が候補となる。但し、CODECの圧縮率は、任意の値で固定されているものとする。   Therefore, in the present embodiment, the still image of the selected channel after the process of step S38 [select one channel to be transferred] shown in FIGS. 6 and 7 which is the process common to the first and second embodiments. Is added to the compressed format (step S39; still image compression means). Here, FIG. 8 illustrates a flowchart showing a processing procedure in the CPU (still image transfer means) of the image storage device 4 when the present embodiment is applied to the first embodiment. Further, the CPU (still image transfer means) of the image storage device 4 selects the format of the transfer image compression form, and transfers the compressed transfer image to the playback terminal 3 side. Note that JPEG, JPEG2000, and the like are candidates for the compression format. However, the CODEC compression rate is fixed at an arbitrary value.

これにより、再生端末3側のユーザは、ネットワーク2の転送帯域を有効に利用することが可能となったため、コマ落ちが少ない再生環境を得ることができると共に、再生端末3側に転送された画像は圧縮形態の画像であるため、再生端末3側の記憶部が存在する場合は、その容量も節約することができる。   As a result, the user on the playback terminal 3 side can effectively use the transfer bandwidth of the network 2, so that it is possible to obtain a playback environment with less frame dropping and to transfer the image transferred to the playback terminal 3 side. Is an image in a compressed form, so that if the storage unit on the playback terminal 3 side exists, its capacity can also be saved.

尚、本実施の形態は、倍速以上の再生に限らず、通常再生の場合にも適用することができる。   Note that this embodiment can be applied not only to reproduction at a speed higher than double speed but also to normal reproduction.

(実施の形態4)
実施の形態3は、再生端末3への転送対象として選択されたチャンネルの静止画像のみを所定の圧縮形態に変換し、再生端末3側に転送することを特徴としている。但し、このときの圧縮形態の圧縮率は、任意の値で固定されているものであった。
(Embodiment 4)
The third embodiment is characterized in that only a still image of a channel selected as a transfer target to the playback terminal 3 is converted into a predetermined compression format and transferred to the playback terminal 3 side. However, the compression rate of the compression form at this time was fixed at an arbitrary value.

本実施の形態では、実施の形態3に於ける特徴点を踏襲しつつ、転送対象となったチャンネルの選択確率に応じて、転送対象の画像の圧縮率を動的に変化させる。   In the present embodiment, the compression rate of the transfer target image is dynamically changed according to the selection probability of the transfer target channel while following the feature points in the third embodiment.

図9は、実施の形態1及び2で説明したフレーム間差分や記録秒間フレームレートの情報を利用して転送チャンネルが選択された以後、転送前での圧縮処理手順の一例を示す。   FIG. 9 shows an example of a compression processing procedure before the transfer after the transfer channel is selected using the inter-frame difference and the recording second frame rate information described in the first and second embodiments.

本実施の形態では、一例として、それぞれ異なる画像圧縮率を持つCODECを10個用意し、圧縮率が高い方から順に、CODEC1、2、・・10とする。図9に示す画像蓄積装置4のCPUに於ける処理手順では、始めに転送チャンネルの画像の選択確率を取得し、選択確率が高くなるにつれて、圧縮率の低いCODECで転送画像を圧縮し、圧縮画像の画質を高めている。又、本実施の形態では、簡単化のために、実施の形態3と同様に、選択確率(%)の合計を100としている。   In the present embodiment, as an example, 10 CODECs having different image compression rates are prepared, and CODECs 1, 2,. In the processing procedure in the CPU of the image storage device 4 shown in FIG. 9, first, the transfer channel image selection probability is acquired. The image quality is improved. In the present embodiment, the total selection probability (%) is set to 100 as in the third embodiment for simplification.

本実施の形態では、転送チャンネルの画像の選択確率に応じて転送画像の圧縮率を変化させる処理をソフトウェアで実現する例を示している。しかしながら、圧縮形態によっては、JPEG2000等のようにエンコードに時間がかかるものもあるため、ハードウェアエンコードを使用した方が良い場合もある。   In the present embodiment, an example is shown in which the process of changing the compression rate of the transfer image according to the transfer channel image selection probability is realized by software. However, depending on the compression format, encoding may take time, such as JPEG2000, so it may be better to use hardware encoding.

本実施の形態により、再生端末3側のユーザにとって重要度が高いと考えられる画像ほど、その画質を高めることができる。又、転送画像として選択されたものの、選択確率が低くさほど重要度が高くないと考えられる画像の圧縮率は高くなるため、余分なデータ量を節約することができ、ネットワーク転送帯域を効率的に利用することが可能となる。   According to the present embodiment, it is possible to improve the image quality of an image considered to be more important for the user on the playback terminal 3 side. Moreover, since the compression rate of an image that is selected as a transfer image but is considered to be less important as the selection probability is lower, the amount of extra data can be saved, and the network transfer bandwidth can be efficiently reduced. It can be used.

(実施の形態5)
本実施の形態では、再生端末3側のユーザがマウス等の入力デバイスを使用して分割表示された各チャンネルの秒間再生フレームレート(1秒間当たりに再生ないし表示可能なフレーム数)を調節できるシステムについて記載する。
(Embodiment 5)
In the present embodiment, the user on the playback terminal 3 side can adjust the playback frame rate per second (the number of frames that can be played back or displayed per second) of each channel divided and displayed using an input device such as a mouse. Is described.

本実施の形態では、再生端末3側の分割表示された各チャンネルの画面上にマウスポインタを移動させ、マウスの左ボタンをクリックすると当該チャンネルの秒間再生フレームレートが高くなり、マウスの右ボタンをクリックすると当該チャンネルの秒間再生フレームレートが低くなるものとする。   In this embodiment, when the mouse pointer is moved on the screen of each divided channel on the playback terminal 3 side and the left button of the mouse is clicked, the playback frame rate for that channel is increased, and the right button of the mouse is pressed. When clicked, the second playback frame rate of the channel is assumed to be low.

図10は、本実施の形態に関する再生端末3側及び画像蓄積装置4のCPU側の処理手順を示す。本処理手順では、再生端末3側のソフトウェアで、ユーザが分割表示された各チャンネルの画面でマウスをクリックした時のチャンネル数、及び、クリックしたマウスのボタンの状態を示す情報を取得し、再生端末3は、それらのデータを「秒間再生フレームレート変更要求」として画像蓄積装置4側に送信する。尚、本実施の形態では、マウスの左ボタンをクリックしたときのマウスボタン情報として1という数字が、逆にマウスの右ボタンをクリックしたときのマウスボタン情報として2という数字が、用意された変数Mに格納されるものとする。   FIG. 10 shows a processing procedure on the playback terminal 3 side and the CPU side of the image storage device 4 according to the present embodiment. In this processing procedure, the software on the playback terminal 3 side acquires information indicating the number of channels when the user clicks the mouse on the screen of each divided channel and the state of the clicked mouse button. The terminal 3 transmits these data as a “second playback frame rate change request” to the image storage device 4 side. In this embodiment, the number 1 is provided as mouse button information when the left button of the mouse is clicked, and the number 2 is provided as mouse button information when the right button of the mouse is clicked. Suppose that it is stored in M.

他方、秒間再生フレームレート変更要求を受けた画像蓄積装置4のCPUは、再生端末3から送信された情報(CH,M)を基に、クリックされたチャンネルの選択確率を上下させる処理を行なうことで、再生端末3側に於けるクリックされたチャンネルの秒間再生フレームレートを調整することができる。   On the other hand, the CPU of the image storage device 4 that has received the second playback frame rate change request performs processing to increase or decrease the selection probability of the clicked channel based on the information (CH, M) transmitted from the playback terminal 3. Thus, the second playback frame rate of the clicked channel on the playback terminal 3 side can be adjusted.

本実施の形態の実装は比較的容易であると考えられるが、以下に実装の指針を示す。始めに、再生端末3側のソフトウェアに関しては、いま、再生端末3がPCであると仮定すると、マウスなどのデバイス情報に関しては、一般的なオペレーティングシステムを利用することで、デバイス取得情報をソフトウェア側に比較的容易に渡すことができる。   Although the implementation of this embodiment is considered to be relatively easy, the following is a guideline for implementation. First, regarding the software on the playback terminal 3 side, assuming that the playback terminal 3 is a PC, device information such as a mouse is obtained from the device side by using a general operating system. Can be delivered relatively easily.

次に、画像蓄積装置4側にも組み込みソフトウェアが搭載されており、ネットワークプロトコルスタックやマルチタスクが実装済みの一般的なオペレーティングシステムを利用すれば、画像蓄積装置4のCPUは、再生端末3側からの再生フレームレート変更要求を正確に受信することができる。   Next, embedded software is also installed on the image storage device 4 side, and if a general operating system in which a network protocol stack and multitasking are already installed is used, the CPU of the image storage device 4 is connected to the playback terminal 3 side. The playback frame rate change request from can be accurately received.

実施の形態1及び2で示したフレーム間差分などの画像処理技術は、画像中の輝度値の変化を用いた手法である。しかしながら、不審(人)物などが存在しない場合でも、照明条件(太陽、電器照明の強さ、規則的点滅等)や不審(人)物以外の動き(木、葉、旗のゆれ等)によって記録画像中の輝度値が変化することでフレーム間差分値が高くなり、不審(人)物が存在しないチャンネルであっても、再生端末3側に当該チャンネルの静止画像が転送される確率が高くなってしまう場合が考えられる。   The image processing technique such as inter-frame difference shown in the first and second embodiments is a method using a change in luminance value in an image. However, even if there are no suspicious (human) objects, etc., depending on lighting conditions (intensity of the sun, electrical lighting, regular flashing, etc.) and movements other than suspicious (human) objects (trees, leaves, flag swings, etc.) The difference value between frames increases due to the change of the luminance value in the recorded image, and there is a high probability that the still image of the channel is transferred to the playback terminal 3 side even for a channel where there is no suspicious (human) object. It may be the case.

本実施の形態によれば、再生端末3側のユーザが、不審(人)物が存在しないにもかかわらず、フレーム間差分値などが高いため画像蓄積装置4側から優先して転送されてくるチャンネルの画像の転送レート(再生秒間フレームレート)を制限したり、あるいは、継続して情報を監視したいと考えるチャンネルの転送レートを上げたりというような操作を行なうことができる。   According to the present embodiment, the user on the playback terminal 3 side is preferentially transferred from the image storage device 4 side because the inter-frame difference value is high even though there is no suspicious (human) thing. It is possible to perform operations such as limiting the channel image transfer rate (frame rate for playback seconds) or increasing the channel transfer rate for which information is to be continuously monitored.

(付記)
以上、本発明の実施の形態を詳細に開示し記述したが、以上の記述は本発明の適用可能な局面を例示したものであって、本発明はこれに限定されるものではない。即ち、記述した局面に対する様々な修正や変形例を、この発明の範囲から逸脱することの無い範囲内で考えることが可能である。
(Appendix)
While the embodiments of the present invention have been disclosed and described in detail above, the above description exemplifies aspects to which the present invention can be applied, and the present invention is not limited thereto. In other words, various modifications and variations to the described aspects can be considered without departing from the scope of the present invention.

本発明は、画像蓄積装置とネットワークで接続された再生端末に於いて、1つのモニタへ分割多画面で表示した状態で通常再生あるいは多倍速再生を行うような環境下であれば、どのようなケースにも適用できる。例えば、本発明の複数チャンネル画像転送装置を用いたシステムを監視用途に用いる場合について考えると、ユーザである監視者は、監視カメラ等の画像入力機器から入力され、監視用画像蓄積装置内部の不揮発性記憶領域に蓄積された画像を、監視用画像蓄積装置とネットワークで接続された再生端末側のモニタですべてのチャンネルをひとつのモニタに表示した状態で、通常再生あるいは多倍速再生することができる。更に本発明は、記録秒間フレームレートの情報やフレーム間差分を利用することで、前回転送時と較べて動きの激しい画像を優先して再生できるため、監視業務等で動きの激しいシーンに出現する可能性が高いと考えられる不審(人)物を見落とす確率を低下させることに加えて、通常再生よりも短時間で再生を終えることができるため、ユーザは再生端末側で効率的に監視業務を行うことができる。   The present invention can be applied to any playback terminal connected to an image storage device through a network in an environment in which normal playback or multiple speed playback is performed with a split multi-screen display on one monitor. It can also be applied to cases. For example, when considering a case where a system using the multi-channel image transfer apparatus of the present invention is used for monitoring purposes, a supervisor who is a user is input from an image input device such as a monitoring camera and is nonvolatile in the monitoring image storage apparatus. Images stored in the video storage area can be played back normally or at multiple speeds with all channels displayed on a single monitor on the monitor of the playback terminal connected to the monitoring image storage device via the network. . Furthermore, according to the present invention, by using the frame rate information and the difference between frames for recording seconds, it is possible to preferentially reproduce an image that is more intense than the previous transfer, so that it appears in a scene with intense movement in a monitoring operation or the like. In addition to reducing the probability of overlooking suspicious (human) objects that are likely to be high, the playback can be completed in a shorter time than the normal playback. It can be carried out.

本発明に係る複数チャンネル画像転送装置が適用されるシステム全体の構成を示すブロック図である。1 is a block diagram illustrating a configuration of an entire system to which a multi-channel image transfer apparatus according to the present invention is applied. 不揮発性記憶領域への画像の記録状況を模式的に示す図である。It is a figure which shows typically the recording condition of the image to a non-volatile storage area. 各チャンネルの画像が表示される再生端末側の分割画面を示す図である。It is a figure which shows the division | segmentation screen by the side of the reproduction | regeneration terminal on which the image of each channel is displayed. 倍速再生のための画像蓄積装置側の画像転送手順を示すフローチャートである。It is a flowchart which shows the image transfer procedure by the image storage apparatus side for double speed reproduction. 実施の形態1に於ける転送チャンネルの選択ステップを示すフローチャートである。3 is a flowchart showing transfer channel selection steps in the first embodiment. 実施の形態2に於ける転送チャンネルの選択ステップを示すフローチャートである。10 is a flowchart showing a transfer channel selection step in the second embodiment. 実施の形態1及び2に共通する部分の処理の一実装例を示すフローチャートである。10 is a flowchart illustrating an example of implementation of a process common to the first and second embodiments. 実施の形態3に於ける処理手順の一例を示すフローチャートである。12 is a flowchart illustrating an example of a processing procedure in the third embodiment. 実施の形態4に於ける処理手順の一例を示すフローチャートである。10 is a flowchart illustrating an example of a processing procedure in the fourth embodiment. 実施の形態5に於ける処理手順の一例を示すフローチャートである。10 is a flowchart illustrating an example of a processing procedure in the fifth embodiment.

符号の説明Explanation of symbols

1 画像入力機器、2 ネットワーク、3 再生端末、4 画像蓄積装置、5 不揮発性記憶領域、6 画像、7 チャンネル、 8 分割表示された画面。
1 image input device, 2 network, 3 playback terminal, 4 image storage device, 5 non-volatile storage area, 6 images, 7 channels, 8 divided screens.

Claims (5)

複数チャンネルの入力系統で各画像入力機器からの静止画像を入力する画像入力手段と、
前記画像入力手段で入力した複数チャンネルの各々の静止画像を不揮発性記憶領域に順次蓄積する画像蓄積手段と、
ネットワークを介して前記不揮発性記憶領域に蓄積されている前記複数チャンネルの各々の静止画像を再生端末側に転送する際に、チャンネル毎に、前回転送した静止画像と現タームで転送対象となっている静止画像とのフレーム間差分値を算出し、前記複数チャンネルの内で、当該フレーム間差分値が所定のしきい値を上回る記録画像間の動きが激しいチャンネルの静止画像が選択される確率を相対的に上げる処理を行うことで、各チャンネルの選択確率に基づき優先的に転送すべきチャンネルを選択し、被選択チャンネルの静止画像を転送する静止画像転送手段とを備えることを特徴とする、
複数チャンネル画像転送装置。
Image input means for inputting still images from each image input device with a multi-channel input system;
Image storage means for sequentially storing still images of each of the plurality of channels input by the image input means in a nonvolatile storage area;
When transferring still images of each of the plurality of channels stored in the non-volatile storage area to the playback terminal via the network, the still images transferred last time and the current terms are transferred for each channel. Calculating a difference value between frames with a still image, and, among the plurality of channels, a probability that a still image of a channel with a strong motion between recorded images in which the difference value between frames exceeds a predetermined threshold is selected. It is characterized by comprising a still image transfer means for selecting a channel to be preferentially transferred based on the selection probability of each channel by performing a relatively increasing process and transferring a still image of the selected channel.
Multi-channel image transfer device.
複数チャンネルの入力系統で各画像入力機器からの静止画像を入力する画像入力手段と、
前記画像入力手段で入力した複数チャンネルの各々の静止画像を不揮発性記憶領域に順次蓄積する画像蓄積手段と、
ネットワークを介して前記不揮発性記憶領域に蓄積されている前記複数チャンネルの各々の静止画像を再生端末側に転送する際に、チャンネル毎に、(1)前回転送した静止画像と現タームで転送対象となっている静止画像とのフレーム間差分値を算出し、前記複数チャンネルの内で、当該フレーム間差分値が所定の第1しきい値を上回る記録画像間の動きが激しいチャンネルの静止画像が選択される確率を相対的に上げる処理を行うと共に、(2)当該チャンネルの記録秒間フレームレートが所定の第2しきい値よりも低い場合には当該チャンネルの静止画像が選択される確率を相対的に上げる処理を行うことで、各チャンネルの選択確率に基づき優先的に転送すべきチャンネルを選択し、被選択チャンネルの静止画像を転送する静止画像転送手段とを備えることを特徴とする、
複数チャンネル画像転送装置。
Image input means for inputting still images from each image input device with a multi-channel input system;
Image storage means for sequentially storing still images of each of the plurality of channels input by the image input means in a nonvolatile storage area;
When transferring the still images of each of the plurality of channels stored in the non-volatile storage area to the playback terminal via the network, for each channel, (1) the last transferred still image and the current term An inter-frame difference value with a still image is calculated, and among the plurality of channels, a still image of a channel in which movement between recorded images in which the inter-frame difference value exceeds a predetermined first threshold is intense (2) If the recording second frame rate of the channel is lower than a predetermined second threshold, the relative probability of selecting the still image of the channel is selected. By selecting the channel to be preferentially transferred based on the selection probability of each channel, the still image that transfers the still image of the selected channel Characterized in that it comprises a feed means,
Multi-channel image transfer device.
請求項1又は2に記載の複数チャンネル画像転送装置であって、
前記静止画像転送手段は、
前記再生端末側へ転送される前記被選択チャンネルの静止画像のみを、転送前に、圧縮率固定でJPEGフォーマット又はJPEG2000フォーマットの一方のフォーマットの画像データに圧縮する静止画像圧縮手段を有することを特徴とする、
複数チャンネル画像転送装置。
The multi-channel image transfer device according to claim 1 or 2,
The still image transfer means includes:
Still image compression means for compressing only still images of the selected channel transferred to the playback terminal side into image data of one format of JPEG format or JPEG2000 format with a fixed compression ratio before transfer. And
Multi-channel image transfer device.
請求項1又は2に記載の複数チャンネル画像転送装置であって、
前記静止画像転送手段は、
前記再生端末側へ転送される前記被選択チャンネルの静止画像のみを、転送前に、その転送画像の選択確率に応じてJPEGフォーマット又はJPEG2000フォーマットの一方のフォーマットの圧縮率を動的に変化させて当該静止画像を圧縮する静止画像圧縮手段を有することを特徴とする、
複数チャンネル画像転送装置。
The multi-channel image transfer device according to claim 1 or 2,
The still image transfer means includes:
Only the still image of the selected channel transferred to the playback terminal side is dynamically changed before the transfer, depending on the selection probability of the transferred image, the compression rate of one of the JPEG format or JPEG2000 format. It has still image compression means for compressing the still image,
Multi-channel image transfer device.
請求項1乃至4の何れか一つに記載の複数チャンネル画像転送装置であって、
前記再生端末側のソフトウェアで分割表示された各チャンネルの再生秒間フレームレートを任意に調節できる手段を更に備えたことを特徴とする、
複数チャンネル画像転送装置。
The multi-channel image transfer device according to any one of claims 1 to 4,
The apparatus further comprises means capable of arbitrarily adjusting the playback second frame rate of each channel divided and displayed by the software on the playback terminal side,
Multi-channel image transfer device.
JP2006229985A 2006-08-28 2006-08-28 Multi-channel image transfer device Expired - Fee Related JP4828354B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006229985A JP4828354B2 (en) 2006-08-28 2006-08-28 Multi-channel image transfer device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006229985A JP4828354B2 (en) 2006-08-28 2006-08-28 Multi-channel image transfer device

Publications (2)

Publication Number Publication Date
JP2008054150A true JP2008054150A (en) 2008-03-06
JP4828354B2 JP4828354B2 (en) 2011-11-30

Family

ID=39237733

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006229985A Expired - Fee Related JP4828354B2 (en) 2006-08-28 2006-08-28 Multi-channel image transfer device

Country Status (1)

Country Link
JP (1) JP4828354B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019128967A (en) * 2018-01-19 2019-08-01 株式会社リコー Information processing system, information processing device, information processing method, and information processing program
CN115037727A (en) * 2022-08-10 2022-09-09 深圳海卫通网络科技有限公司 Broadband blocking processing method and device for shipborne satellite communication video transmission

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11110530A (en) * 1997-10-03 1999-04-23 Fuji Electric Co Ltd Image monitoring device
JP2003009131A (en) * 2001-06-22 2003-01-10 Matsushita Electric Ind Co Ltd Image supervising system and method for delivering image
JP2003289528A (en) * 2002-03-28 2003-10-10 Toshiba Corp Remote monitoring system and monitoring control method for the same

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11110530A (en) * 1997-10-03 1999-04-23 Fuji Electric Co Ltd Image monitoring device
JP2003009131A (en) * 2001-06-22 2003-01-10 Matsushita Electric Ind Co Ltd Image supervising system and method for delivering image
JP2003289528A (en) * 2002-03-28 2003-10-10 Toshiba Corp Remote monitoring system and monitoring control method for the same

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019128967A (en) * 2018-01-19 2019-08-01 株式会社リコー Information processing system, information processing device, information processing method, and information processing program
JP7114908B2 (en) 2018-01-19 2022-08-09 株式会社リコー Information processing system, information processing device, information processing method, and information processing program
CN115037727A (en) * 2022-08-10 2022-09-09 深圳海卫通网络科技有限公司 Broadband blocking processing method and device for shipborne satellite communication video transmission
CN115037727B (en) * 2022-08-10 2022-11-11 深圳海卫通网络科技有限公司 Broadband blocking processing method and device for shipborne satellite communication video transmission

Also Published As

Publication number Publication date
JP4828354B2 (en) 2011-11-30

Similar Documents

Publication Publication Date Title
US10951820B2 (en) System and method for generating a plurality of unique videos of a same event
KR102324326B1 (en) Streaming multiple encodings encoded using different encoding parameters
US9516225B2 (en) Apparatus and method for panoramic video hosting
KR102146042B1 (en) Method and system for playing back recorded video
EP1233591A2 (en) Progressive streaming media rendering
US20020089587A1 (en) Intelligent buffering and reporting in a multiple camera data streaming video system
WO2005074274A1 (en) Image display method, image display device, and image display program
CN112822502B (en) Live broadcast jitter removal intelligent caching and live broadcast method, equipment and storage medium
JP4802524B2 (en) Image processing apparatus, camera system, video system, network data system, and image processing method
CN108965883A (en) The system and method that video content is encoded using virtual intra frame
KR20170101755A (en) Information processing apparatus and information processing method
JP6567286B2 (en) Method and system for playback of animated video
US20080175559A1 (en) Image process apparatus and method thereof
JP2008109434A (en) Stream data reproducing system, transmitter for stream data reproducing system, receiver for stream data reproducing system and program for stream data reproducing system
JP2020524450A (en) Transmission system for multi-channel video, control method thereof, multi-channel video reproduction method and device thereof
JP4828354B2 (en) Multi-channel image transfer device
TW201218770A (en) Multi-stream video system, video monitoring device and multi-stream video transmission method
CN107018442B (en) A kind of video recording synchronized playback method and device
JP2019033362A (en) Distribution apparatus, reception apparatus, and program
Fernandez et al. An Interactive Video Streaming Architecture Featuring Bitrate Adaptation.
CN116708389B (en) Multi-terminal monitoring method, terminal equipment and readable storage medium for online examination
WO2013178500A1 (en) Interactive audio/video broadcast system, method for operating the same and user device for operation in the interactive audio/video broadcast system
JP2004194200A (en) Data transmission system, decoding method, and decoding apparatus
TW202318880A (en) Method and system for real-time streaming multi-angle video
JP2003304525A (en) Data distribution reproduction system, data distribution reproduction method, program, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090629

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20090629

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110701

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110712

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110829

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110913

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110914

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140922

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees