JP2001309354A - 画像処理装置 - Google Patents
画像処理装置Info
- Publication number
- JP2001309354A JP2001309354A JP2000117302A JP2000117302A JP2001309354A JP 2001309354 A JP2001309354 A JP 2001309354A JP 2000117302 A JP2000117302 A JP 2000117302A JP 2000117302 A JP2000117302 A JP 2000117302A JP 2001309354 A JP2001309354 A JP 2001309354A
- Authority
- JP
- Japan
- Prior art keywords
- recording
- change
- transmission
- control signal
- state
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000008859 change Effects 0.000 claims abstract description 248
- 230000005540 biological transmission Effects 0.000 claims abstract description 116
- 230000033001 locomotion Effects 0.000 claims description 169
- 238000012545 processing Methods 0.000 claims description 165
- 239000013598 vector Substances 0.000 claims description 82
- 238000001514 detection method Methods 0.000 claims description 39
- 230000007704 transition Effects 0.000 claims description 10
- 238000000034 method Methods 0.000 description 70
- 230000008569 process Effects 0.000 description 38
- 230000006870 function Effects 0.000 description 20
- 238000012544 monitoring process Methods 0.000 description 16
- 238000012937 correction Methods 0.000 description 15
- 238000004891 communication Methods 0.000 description 8
- 230000006835 compression Effects 0.000 description 8
- 238000007906 compression Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000005856 abnormality Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000013139 quantization Methods 0.000 description 4
- 241001465754 Metazoa Species 0.000 description 3
- 230000004913 activation Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000012806 monitoring device Methods 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 102100036738 Guanine nucleotide-binding protein subunit alpha-11 Human genes 0.000 description 1
- 241000238631 Hexapoda Species 0.000 description 1
- 101100283445 Homo sapiens GNA11 gene Proteins 0.000 description 1
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000002250 progressing effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- UWHCKJMYHZGTIT-UHFFFAOYSA-N tetraethylene glycol Chemical compound OCCOCCOCCOCCO UWHCKJMYHZGTIT-UHFFFAOYSA-N 0.000 description 1
- 230000017260 vegetative to reproductive phase transition of meristem Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19602—Image analysis to detect motion of the intruder, e.g. by frame subtraction
- G08B13/19604—Image analysis to detect motion of the intruder, e.g. by frame subtraction involving reference image or background adaptation with time to compensate for changing conditions, e.g. reference image update on detection of light level change
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19665—Details related to the storage of video surveillance data
- G08B13/19669—Event triggers storage or change of storage policy
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B13/00—Burglar, theft or intruder alarms
- G08B13/18—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
- G08B13/189—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
- G08B13/194—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
- G08B13/196—Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
- G08B13/19665—Details related to the storage of video surveillance data
- G08B13/19676—Temporary storage, e.g. cyclic memory, buffer storage on pre-alarm
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/147—Scene change detection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Television Signal Processing For Recording (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
る前や、変化しなくなった後の背景画像、風景画像など
も一連の画像として記録又は伝送することが可能な画像
処理装置を提供する。 【解決手段】 入力動画像データの画面間での変化が小
さい状態から大きい状態に移ったことを示す第1の制御
信号と、変化が大きい状態から小さい状態に移ったこと
を示す第2の制御信号とを出力する変化検出部13と、第
1の制御信号及び第2の制御信号に従って、入力動画像
データの記録/伝送の開始、停止を制御する動作制御部
14とを備えた画像処理装置であって、動作制御手段14
は、記録/伝送中の状態において、第2の制御信号が入
力された後、予め定められた任意の時間T1が経過するま
で第1の制御信号の入力が無かった時に、記録/伝送を
停止させる。また、該動作制御手段14による記録/伝送
の開始、停止を制御する動作が起動されると直ちに入力
動画像データの記録/伝送を開始すると共に、その後、
第1の制御信号が入力されることなく予め定められた任
意の時間T2が経過した時に、記録/伝送を停止させる。
Description
記録又は伝送する画像処理装置に関し、より詳細には、
監視システムや動物、植物などの生態の観察などに用い
た場合に好適な、記録/伝送の開始、終了を入力画像の
変化に従って、自動的に制御する自動撮影機能を備えた
画像処理装置に関するものである。
ディジタル符号化技術の進歩、発展により、画像機器の
ディジタル化が進展している。画像記録装置の分野で
も、ディジタルビデオカメラやディジタルスチルカメラ
などが普及しており、これらの機器では、入力された画
像信号はまずディジタル化され、符号化などの信号処理
から媒体への記録までの処理において、画像信号は全て
ディジタル情報として取り扱われている。
号処理が行われることが一般的になると、符号化、記録
フォーマットへの変換などの該機器の本来の目的のため
に必要となる機能以外にも信号処理機能を追加して、様
々な機能を実現することが容易となる。
セキュリティ管理や動植物の生態観察などの監視システ
ムに用いられる自動撮影機能がある。これは、例えばセ
キュリティ管理においては、カメラなどの撮像手段を、
監視対象に向けて常設しておき、侵入者や異常の発生な
どによって、画像内容が変化したことを検出し、変化が
あった際の画像を記録、もしくはセンタ装置などへ伝送
することによって、異常の通知、侵入者の特定、状況の
把握/確認などに用いると共に、記録容量、伝送コスト
などを節約する機能である。
などが出現した画像のみを記録、伝送したり、植物の開
花、昆虫の脱皮などゆっくりと変化する現象の画像を数
秒〜数十秒間隔で記録、伝送したりする機能が実現され
る。
アプリケーションの性格上、使用者が常時機器を操作す
ることはできないため、重要となる要素技術は、入力画
像信号から画像の内容が変化したことを検出する技術
と、その検出結果に従って、画像の記録、伝送を自動制
御する技術である。
非常に多いため、記録、伝送を行う際には、通常は符号
化により情報量を圧縮している。一般的に動画像の符号
化では、フレーム/フィールド間予測を用いて画面間で
変化があった情報のみを抽出して利用している。
参照した以前の画面からの差分情報のみが符号化データ
として記録、伝送される。また、画面間での予測の際に
は、画面を分割した局所領域ごとに予測参照画面からの
動きを検出して、この動きを補正する処理が併用され
る。
また、局所領域の動きは、動きの水平成分の大きさと垂
直成分の大きさとから成る2次元ベクトル値として表す
ことができるため、動きベクトルと呼ばれる。
力画像信号において画面が変化した成分を抽出して、こ
れを処理の対象としている。これは、上述の監視カメラ
システムにおける画像の変化の検出と同等な技術のた
め、動画像符号化における処理を流用、あるいは、共用
した監視カメラシステムが実現されている。
ては、例えば、特開平6-153199号公報、特開平10-28554
2号公報、特開平10-322682号公報、特開平11-18076号公
報などに記載の装置が知られている。これらの従来技術
について、以下に説明する。
手段において、入力画像情報または圧縮処理が行われた
後の圧縮画像情報に基づいて状態変化を検出し、変化が
検出されると、伝送手段を起動して、状態が変化した前
後の圧縮画像情報を監視ステーションなどに伝送する監
視装置が提案されている。
手段として、赤外線センサやレーザビームを用いて人の
侵入を感知するものの他に、最新の圧縮画像と基準圧縮
画像、もしくは、圧縮前の入力画像と基準画像との画素
ごとの差分に基づいて、状態の変化を検出することが開
示されている。
をブロックに分割して、各ブロックについてブロック内
の全画素の輝度値を累算して、該累算値の画像毎の変化
量から物体の有無を検出する方法が、例えば特開平9-25
1541号公報にて開示されている。
画像のうち所定の画像を記憶手段に記憶しておき、入力
画像と前記所定の画像とを比較手段で比較して、比較の
結果に対応して前記入力画像の録画の開始または停止を
制御する録画装置が提案されている。
て、前記所定の画像を予測参照画像として、前記入力画
像における動きベクトルを検出し、該動きベクトルに従
って動き補償した後の残差を閾値と比較すること、及
び、前記動きベクトル検出と前記動き補償には、画像の
圧縮符号化手段における当該処理部を共用することが開
示されている。
換による演算結果より得られる画像フレームのトータル
あるいはブロックアクティビティの差分を検出して、映
像の動き、あるいは、動きベクトルを検出する方法は、
例えば特開平6-165181号公報にて開示されている。
ベクトル検出手段において、入力動画像と前フレームの
画像との間で動きベクトルを検出し、該動きベクトルを
基に、入力動画像を動画像符号化部で符号化処理すると
共に、動物体検出部において、動きベクトルのノルム
(大きさ)が閾値以上となるブロックの割合が予め定めら
れた範囲内にある場合に動物体が検出されたと判定し
て、ISDN回線接続を行って入力画像を伝送する遠隔動画
像監視装置が提案されている。
信号を一定間隔ごとに間欠記録するタイムラプス記録の
機能を備えた映像記録装置において、映像データ変換部
において入力映像信号をMPEG画像圧縮によって符号化し
て、MPEG画像圧縮情報から映像データの動きが検出され
ると、その時間帯の映像信号はタイムラプス記録ではな
く、連続する動画として詳細記録させる映像記録装置が
提案されている。
ステムにおいては、侵入者や異常の発生などを検知して
通報することを主な目的としていたため、基準画像、ま
たは、初期入力画像などと比較して状態変化が検出され
た画像のみを記録、伝送するように構成されていた。
ーションでは、通常、監視対象は特定されているので、
基準画像の内容は既知であり、変化の無い状態の画像を
記録、伝送することには意味が無かったため、上述のよ
うな構成でも充分であった。
だけを記録すると、記録された画像は変化だけを捉えた
ぎこちないものとなってしまう。また、侵入者の動作が
小さく、画像の変化が少ない場合は、その画像は記録さ
れない、という問題があった。
動撮影が終了するまで、画像に変化が無かった場合に
は、画像、及び、付帯情報の記録を一切行わないように
特別な制御をする必要がある、という問題があった。
や、特開平10-322682号公報に記載のもののように、画
像の状態変化に従って伝送手段を起動すると、状態変化
が大きい状態と小さい状態とが交互に繰り返すような場
合に、回線の接続と切断の処理を頻繁に行う必要があ
り、処理が煩雑となるばかりでなく、接続の度に接続手
順におけるネゴシエーション遅延、初期伝送遅延などが
生じる、という問題があった。
ののように、状態変化が検出された前後、特に変化が起
こる以前の画像に遡って画像情報を伝送する場合には、
変化の発生に備えて、常に入力もしくは符号化画像情報
を保持しておくための記憶手段を設ける必要があり、ま
た、状態変化を検出した後、以前の画像情報から伝送を
始めることによる大きな遅延が生じてしまう、という問
題があった。
は、状態変化が検出された時点の前後に位置する所定の
期間の画像を一塊として扱っているに過ぎず、変化が生
じた後、伝送中に画像で再び変化があった場合に、後に
生じた変化が検出されないか、または、たとえ検出され
たとしても、すでに伝送中の状態にあり、後の変化に対
応する画像情報を追加して伝送することが出来ない、と
いう問題もあった。
て、特開平6-153199号公報や、特開平9-251541号公報に
記載のもののように、画像間での画素値の差分を用いる
と、確実に変化が検出できる反面、入力画像に含まれる
雑音、照明や明るさの変化、背景や風景がわずかにゆれ
ている画像など、本来、変化として記録したくない画像
も変化と検出してしまう、という問題があった。
ているように、画像を圧縮符号化処理する際の動き補償
予測後の予測誤差を変化の検出に用いる場合には、動き
補償予測が効果的に働くと、画像には動きが含まれるに
も関わらず予測誤差は小さくなるなど、予測誤差の大小
が必ずしも画像に含まれる変化の度合いを表してはいな
い、という問題がある。
もののように、動きベクトルを用いて画像の変化を検出
する場合、利用する動きベクトルは、あくまで画像符号
化処理を目的として検出されたものを共用するため、画
像の正確な動きを表現しているとは限らず、また、画像
の複雑な変化や、色や明るさの変動を伴う動きなどは、
動きとして検出できないため、画像の状態変化とは判定
されなくなってしまう、という問題があった。
開始と停止を、装置が自動的に制御すると、ユーザが外
部から装置の動作状態、即ち、現在記録、伝送中である
か、停止中であるか、を容易には判別できない。そのた
め、従来はビューファインダ、モニタなど入力画像の表
示部に動作状態を示す文字、あるいはマーカなどを重畳
して表示していた。
においては、画像記録/伝送装置は監視対象に向けて常
設しておき、ユーザは離れた位置にいることが通常であ
る。即ち、ユーザがビューファインダ、モニタなどを観
察していることはないため、これらに状態表示を行った
としても、ユーザは容易には判別できず、離れた位置か
らは装置の動作状態が識別できない、という問題があっ
た。
であり、入力画像の変化を検出して、画像の記録/伝送
の開始、停止を制御する自動撮影機能を実現する際に、
自動撮影の起動時には即座に記録/伝送を開始すると共
に、画像の変化が小さいと判定されてから画像の変化が
大きいと判定されることなく所定の時間が経過した後
に、記録/伝送を停止することにより、状態変化が検出
された画像に加えて、変化する前や、変化しなくなった
後の背景画像、風景画像なども一連の画像として記録/
伝送することが可能な画像処理装置を提供することを目
的とする。
差分と動きベクトルの大きさとの両方を用いて画像に変
化があったか否かを判定して、画像に含まれる様々な状
態変化に対応することによって、一般のユーザが、普通
の動画撮影と同様な感覚で、様々な用途に応じて利用で
きるように、より自然な画像としての記録/伝送が可能
な画像処理装置を提供することを目的とする。
なく、簡単な処理のみで、確実に画像の変化を検出し
て、記録/伝送の開始、停止を制御することができる画
像処理装置を提供することを目的とする。
止中などの動作状態を、離れた位置からも容易に判別す
ることができる画像処理装置を提供することを目的とす
る。
力された動画像データの画面間での変化を検出して、変
化が小さい状態から変化が大きい状態に移ったことを示
す第1の制御信号と、変化が大きい状態から変化が小さ
い状態に移ったことを示す第2の制御信号とを出力する
変化検出手段と、前記第1の制御信号及び前記第2の制
御信号に従って、入力動画像データの記録/伝送の開
始、停止を制御する動作制御手段とを備えた画像処理装
置であって、前記動作制御手段は、記録/伝送中の状態
において、前記第2の制御信号が入力された後、任意に
設定可能な時間T1が経過するまで前記第1の制御信号の
入力が無かった時に、前記入力動画像データの記録/伝
送を停止するように制御することを特徴とする。
ータの画面間での変化を検出して、変化が小さい状態か
ら変化が大きい状態に移ったことを示す第1の制御信号
と、変化が大きい状態から変化が小さい状態に移ったこ
とを示す第2の制御信号とを出力する変化検出手段と、
前記第1の制御信号及び前記第2の制御信号に従って、
入力動画像データの記録/伝送の開始、停止を制御する
動作制御手段とを備えた画像処理装置であって、前記動
作制御手段は、該動作制御手段による記録/伝送の開
始、停止を制御する動作が起動されると直ちに入力動画
像データの記録/伝送を開始するように制御すると共
に、その後、前記第1の制御信号が入力されることなく
任意に設定可能な時間T2が経過した時に、前記入力動画
像データの記録/伝送を停止するように制御することを
特徴とする。
る画像処理装置において、前記動作制御手段は、記録/
伝送中の状態において、前記第2の制御信号が入力され
た後、任意に設定可能な時間T1が経過するまで前記第1
の制御信号の入力が無かった時に、入力動画像データの
記録/伝送を停止するように制御することを特徴とす
る。
る画像処理装置において、前記時間T1と前記時間T2と
は、それぞれ異なる値に設定されていることを特徴とす
る。
ずれかの発明に係る画像処理装置において、前記変化検
出手段は、入力された動画像データの画面を所定の大き
さのブロックに分割して、該ブロックに含まれる画素に
ついて画面間での輝度値の差分2乗和が所定の閾値S1以
上であるか、または、前記ブロックに対する動きベクト
ルの長さが所定の閾値V1以上であるブロックの数をカウ
ントする第1のカウント手段と、前記差分2乗和が所定
の閾値S2以上であるか、または、前記動きベクトルの長
さが所定の閾値V2以上であるブロックの数をカウントす
る第2のカウント手段とを有し、前記第1の制御信号
は、前記第1のカウント手段の出力が所定の閾値C1以上
であることに基づいて出力され、前記第2の制御信号
は、前記第2のカウント手段の出力が所定の閾値C2以上
であることに基づいて出力されることを特徴とする。
る画像処理装置において、前記閾値S1、前記閾値V1、前
記閾値C1と、前記閾値S2、前記閾値V2、前記閾値C2と
は、それぞれ異なる値に設定されていることを特徴とす
る。
ずれかの発明に係る画像処理装置において、入力された
動画像データの画面を所定の領域に分割して、前記各領
域についてフレームメモリに格納された参照画面との間
で動き補償予測を行って、予測誤差と、前記各領域の動
きベクトルと、画面間での前記領域内画素の輝度値の差
分2乗和とを出力する動き補償予測手段と、前記予測誤
差を符号化して符号化動画像データを出力する予測誤差
符号化手段とを設け、前記変化検出手段は、前記動きベ
クトルと前記差分2乗和とから画面間での変化を検出し
て、変化が小さい状態から変化が大きい状態に移ったこ
とを示す第1の制御信号と、変化が大きい状態から変化
が小さい状態に移ったことを示す第2の制御信号とを出
力することを特徴とする。
る画像処理装置において、前記フレームメモリには、入
力動画像データを記録中の状態では、前記動き補償予測
手段から出力される予測画面と、前記予測誤差符号化手
段から出力される予測誤差の復号結果とを加算した局部
復号画像が格納され、記録が停止中の状態では、入力動
画像データの画面が格納されることを特徴とする。
ずれかの発明に係る画像処理装置において、前記動作制
御手段による入力動画像データの記録/伝送の開始、停
止の制御に従って、記録/伝送動作中であることを装置
外部に告知する告知手段を設けたことを特徴とする。
係る画像処理装置において、前記告知手段は、LEDも
しくはランプを点灯することによって、記録/伝送動作
中であることを表示することを特徴とする。
係る画像処理装置において、前記告知手段は、記録/伝
送動作の開始時、及び/または、記録/伝送動作の停止
時に、音を発することによって、動作状態が変化したこ
とを報知することを特徴とする。
データの画面を所定の領域に分割して、前記各領域につ
いてフレームメモリに格納された参照画面との間で動き
補償予測を行って、予測誤差と、前記各領域の動きベク
トルと、画面間での前記領域内画素の輝度値の差分2乗
和とを出力する動き補償予測手段と、前記予測誤差を符
号化して符号化動画像データを出力する予測誤差符号化
手段と、前記動きベクトルと前記差分2乗和とから画面
間での変化を検出して、変化が小さい状態から変化が大
きい状態に移ったことを示す第1の制御信号と、変化が
大きい状態から変化が小さい状態に移ったことを示す第
2の制御信号とを出力する変化検出手段と、前記第1の
制御信号及び前記第2の制御信号に従って、入力動画像
データの記録/伝送の開始、停止を制御する動作制御手
段とを備えたことを特徴とする。
に係る画像処理装置において、前記フレームメモリに
は、入力動画像データを記録/伝送中の状態では、前記
動き補償予測手段から出力される予測画面と、前記予測
誤差符号化手段から出力される予測誤差の復号結果とを
加算した局部復号画像が格納され、記録/伝送が停止中
の状態では、入力動画像データの画面が格納されること
を特徴とする。
データを所定の時間間隔ごとに間欠的に記録/伝送する
ように、記録/伝送のタイミングを指示する動作制御手
段を備え、入力動画像データの一部を間欠的に記録/伝
送するタイムラプス記録/伝送を行う画像処理装置にお
いて、前記動作制御手段による入力動画像データの記録
/伝送の開始、停止の制御に従って、記録/伝送動作中
であることを装置外部に告知する告知手段を設けたこと
を特徴とする。
実施形態を、例えば画像記録装置について、図1乃至図
5とともに詳細に説明する。
概略構成を示すブロック図である。図1において、入力
動画像データは、画像を撮像するカメラ部11あるいは外
部入力から入力される。該入力動画像データは、動画像
符号化部12で圧縮符号化されて、符号化動画像データが
出力される。
は、例えば、ITU-T勧告H.261、H.262、 H.263、H.26L、
ISO標準11172-2(MPEG-1)、13818-2(MPEG-2)、14496-2(M
PEG-4)などの動画像符号化方式や、非標準の独自方式に
従った処理が行われ、これらの方式での規定に合致した
形式の符号化動画像データが出力される。前記符号化動
画像データは、記録制御部17へ送られ、記録媒体18へ格
納される。
化動画像データを所定の形式に従って記録媒体18へ記録
するために、符号化動画像データをパケット化するなど
の整形処理、音声データとの多重化処理などが行われる
と共に、ヘッダ、フッタ、インデックス、タイトル、属
性情報などの制御情報が生成され、前記符号化動画像デ
ータと一緒に、記録媒体18の所定の場所に所定の形式で
格納される。
メディア、光ディスクや磁気ディスクなどのディスクメ
ディア、ICカード、メモリカードなどのカードメディ
アのいずれでも良く、前記符号化動画像データ、前記制
御情報が格納される形式は、それぞれのメディアに応じ
た記録フォーマット、ファイルフォーマットなどに従う
ものとする。
と、直ちに、新たな符号化動画像データを記録するため
の前記制御情報の生成と記録、新規動画像ファイルの作
成などの処理を行うことが可能に構成されている。
動作起動後に最初の動画像データを記録するように、動
作制御部14から必ず開始制御信号が出力されるためであ
る。
像データに変化が検出されなかった場合には、符号化動
画像データの記録を行わない上記従来例とは異なる、本
実施形態の画像記録装置における特徴の一つである。
データを圧縮符号化処理する際に得られた動きベクト
ル、画面間の画素値の差分2乗和などが出力されて、変
化検出部13へ送られる。
ら入力された前記情報を用いて、入力動画像データにお
ける画像の変化を検出して、動作制御部14へ制御信号を
出力する。
ら変化の大きい状態へ移ったことを示す第1制御信号、
あるいは、画像が変化の大きい状態から変化の小さい状
態へ移ったことを示す第2制御信号のいずれかである。
制御信号に基づいて、前記動画像符号化部12、記録制御
部17へ記録の開始制御信号、停止制御信号を出力する。
画像符号化部12での圧縮符号化処理と、符号化動画像デ
ータの出力動作と、前記記録制御部17での符号化動画像
データの記録媒体18への記録動作との開始、停止をそれ
ぞれ指示するものである。前記変化検出部13、前記動作
制御部14の詳細な動作の説明は後述する。
信号、前記停止制御信号を告知部16へも出力する。該告
知部16では、入力された前記制御信号に従って、LED
やランプ等の点灯、あるいは、発音などの手段によっ
て、画像記録装置の動作状態を装置外部へ告知する。
用いる場合には、前記告知部16は、前記開始制御信号が
入力された時に点灯、前記停止制御信号が入力された時
に消灯させ、記録動作中はLEDやランプを点灯させて
おくことによって告知を行う。これらの動作を逆にし
て、記録中は消灯、停止中は点灯させるようにしても良
い。
場合には、各部における処理そのものが起動されていな
い非動作状態の時は消灯、停止中は緑色点灯、記録中は
赤色点灯させるようにしても良い。
には、前記告知部16は、前記開始制御信号、及び/また
は、前記停止制御信号が入力された時点で、ブザーを鳴
動する、「ピー」などの信号音、パルス音信号でスピー
カを駆動するなどによって、動作状態が変化したことを
装置外部へ告知する。
「記録を開始します」、セキュリティ監視システムであ
れば、「異常を発見しました」、「侵入者です」などの
音声信号を発することもできる。
操作など、ユーザや外部からの指示を受け付けて、前記
各モジュールでの処理の起動、終了など、画像記録装置
全体の制御を行う。
部13からの前記制御信号による入力動画像データの変化
に基づいた記録の開始、停止の制御以外に、入力動画像
データを間欠的に記録する、いわゆるタイムラプス記録
も制御する。
号化部12及び前記記録制御部17に対して、数秒などの適
当な時間間隔をおいて、1乃至複数の所望の画面だけ入
力動画像データを符号化、記録するように制御する。
御信号を発行して、前記所望した数の画面後に前記停止
制御信号を発行することにより行うこともできるし、前
記所望の画面数のみ符号化、記録することをパラメータ
として指定した前記開始制御信号を前記適当な間隔で発
行することにより行うことができる。
ラプス記録を制御する場合も、上述の場合と同様、動作
制御部14からの前記開始制御信号、前記停止制御信号に
従って、前記告知部16が画像記録装置の動作状態を装置
外部へ告知する。
は、変化検出部13で、入力された動画像データにおける
画面間での変化を検出して、第1制御信号と第2制御信
号とを出力する。前記第1制御信号は、画像の変化が小
さい状態から変化が大きい状態に移ったことが検出され
た時に出力される。前記第2制御信号は、画像の変化が
大きい状態から変化が小さい状態に移ったことが検出さ
れた時に出力される。
は、動作制御部14に入力される。動作制御部14は、ユー
ザの操作などの外部からの指示によって、制御動作が起
動されると、入力動画像データの記録を開始するように
制御する。
動画像データを符号化して、符号化動画像データを出力
する処理を開始するように指示すると共に、記録制御部
17に対して、動画像符号化部12から出力される符号化動
画像データを記録媒体18へ記録するように指示すること
によって行う。
変化検出部13からの前記第1制御信号の入力が無かった
場合、動作制御部14は、入力動画像データの記録を停止
するように制御する。
に対しては、入力動画像データの符号化と符号化動画像
データの出力とを停止するように指示すると共に、記録
制御部17に対しては、符号化動画像データの記録媒体18
への記録動作を停止するように指示することによって行
う。
ら、前記動作制御部14に前記第1制御信号が入力される
と、動作制御部14は、制御動作が起動された場合の上述
の動作と同様に、入力動画像データの記録を開始するよ
うに制御する。
御部14は、前記変化検出部13から入力される第2制御信
号を待ち続ける。そして、前記動作制御部14に前記第2
制御信号が入力されると、予め定められた時間T1の間、
前記変化検出部13からの前記第1制御信号の入力が無か
った場合、動作制御部14は、入力動画像データの記録を
停止するように制御する。
同様である。ここで、前記時間T1と前記時間T2とは、異
なる値を独立に設定可能である。また、この前記時間T1
と前記時間T2とは、工場出荷時にメーカが任意に設定し
たものであっても、ユーザが任意に可変して設定できる
ものであっても良い。
データの記録を開始するように制御する時に、告知部16
に対して、記録を開始することを通知する。また、前記
動作制御部14は、入力動画像データの記録を停止するよ
うに制御する時にも、告知部14に対して、記録を停止す
ることを通知する。
記録開始時にはLED、ランプなどを点灯し、記録停止
時にはこれを消灯するなどして、動作状態を外部へ告知
する動作を行う。
消灯すると同時、あるいは、それらの代わりに音を発す
ることによって、記録の開始、記録の停止を告知するこ
ともできる。
を含めて記録したい場合は、動画像符号化部12、記録制
御部17の動作開始後の適当なタイミング、前記の音を記
録したくない場合には、動画像符号化部12、記録制御部
17の動作開始直前とすれば良い。
動画像符号化部12の概略構成を図2に示す。尚、図2に
おいて、変化検出部13、動作制御部14は、図1とともに
上述したものと同様である。
符号化対象画面と参照画面との間で動きベクトルの検
出、動き補償予測を行って予測誤差を出力する動き補償
予測部21と、予測誤差を符号化して符号化動画像データ
を出力する予測誤差符号化部22と、参照画面を格納して
おくフレームメモリ部23と、動画像符号化部12の各部を
制御する符号化制御部24とから構成されている。
タの符号化対象画面と、フレームメモリ部23から読み出
した参照画面との間でフレーム/フィールド間予測を行
って、参照画面に含まれる情報から、符号化対象画面に
対する予測値を作成する。
て、予測値との差分を予測誤差として出力する。前記フ
レーム/フィールド間予測においては、単純に、符号化
対象画面の画素に対して、参照画面中で同一位置にある
画素の値を予測値とする以外に、動画像データに含まれ
る動きを考慮して、動きを補正する動き補償予測が用い
られる。
画面を所定の大きさの領域、例えば16×16画素、8×8画
素などから成る矩形領域、であるブロックに分割する。
そして、参照画面内で各ブロックの予測値として適切な
ブロックを探索する。
設定された範囲内で、ブロックの位置を少しずつ動かし
て、当該位置のブロックが予測値として適切か否かを判
定することによって行っている。
内の各画素値の差分2乗和、差分絶対値和などが用いら
れる。このようにして、符号化対象画面のあるブロック
に対し、参照画面内で当該ブロックの予測値として探索
されたブロックの位置のずれは、動きベクトルとして表
現される。
ックについて動き補償の有り、無し(動きベクトルをゼ
ロとして、同一位置のブロックを予測値とする)、ある
いは、画面間の予測を行わずに符号化対象画面の当該ブ
ロックの画素値そのものを符号化対象とする(フレーム
内モード、イントラモードと呼ばれる)か、の判定処理
が行われる。
動き補償の有無に関しては、動き補償無しの誤差エネル
ギー(ブロック内画素値の差分2乗和、差分絶対値和な
ど)と、動き補償後の誤差エネルギーとの比較、画面間
の予測を行うか否かに関しては、動き補償無しあるいは
動き補償予測後の誤差エネルギーと、ブロック内画素の
エネルギー(画素値の2乗和など)との比較を行う。
理の過程で得られた符号化対象画面の各ブロックに対す
る動きベクトル、動き補償無し(動きベクトル=0)の誤
差エネルギー(参照画面の同一位置のブロックとの画素
値の差分2乗和)などを変化検出部13へ出力する。
償予測部21から出力される予測誤差、あるいは、イント
ラモードのブロックについては画素値そのものに対し
て、DCTなどの直交変換、変換係数の量子化、量子化
結果であるインデックスの可変長符号化などの処理を行
って符号化動画像データを出力する。
のの符号化結果である可変長符号化後の符号語の他に、
画面サイズ、画面番号、符号化方法の識別などを含むヘ
ッダ情報や、量子化幅、選択した符号化モードを示す属
性情報、前記動き補償予測部21で予測に用いた動きベク
トル値、などの情報も含まれている。
て、前記符号化動画像データを作成するために必要なこ
れらの情報は、前記動き補償予測部21、符号化制御部24
などから入力される。
は、次の符号化対象画面に対する予測の参照画面として
利用する。このため、前記予測誤差符号化部22では、符
号化した予測誤差を自分自身で復号する処理を行い、予
測誤差の復号結果を出力する。
記動き補償予測部21から出力された当該符号化対象画面
に対する予測値と加算されて、符号化対象画面の復号結
果である復号画面が作成される。
再生装置などの動画像復号化手段において、出力される
符号化動画像データを復号した時に得られる画像を想定
して、前記動画像符号化部12の内部で作成したものであ
り、局部復号画像と呼ばれる。
像は、次の符号化対象画面での予測の参照画面として利
用するため、フレームメモリ部23に格納する。
上述した各部の制御を行う。前記符号化制御部24は、入
力動画像データの符号化処理において必要となる量子化
幅などのパラメータの決定と指示、符号化対象とする画
面のフレーム間隔の指定、などの制御のほかに、各部の
処理動作の起動、終了などの動作の制御も行う。
動画像符号化部12での処理動作の起動、終了の制御、符
号化処理の開始制御信号、停止制御信号が入力される。
ら、処理動作の起動が指示されると、前記動き補償予測
部21、前記フレームメモリ部23が処理を開始するように
起動し、前記予測誤差符号化部22は起動しない。
が、変化検出部13へ動きベクトル、ブロック内画素値の
差分2乗和などを求めて出力するためと、それに伴って
フレームメモリ部23は参照画面を格納し、前記動き補償
予測部21へ供給するために、それぞれ処理を起動しなけ
ればならないが、実際の符号化処理は必要ないため、予
測誤差符号化部22を起動する必要は無い。
前記動きベクトル、前記差分2乗和を変化検出部13へ出
力すれば十分であるため、該動き補償予測部21でのすべ
ての処理を行う必要は無い。
ておらず、前記局部復号画像は得られないため、参照画
面として局部復号画像を利用することはできない。その
ため、符号化制御部24は、入力動画像データの画面を、
次の対象画面の動き補償予測における参照画面としてフ
レームメモリ部23へ格納するように、該フレームメモリ
部23の入力を切り替えておく。
クトル、前記差分2乗和を求める処理の対象とする画面
は、入力動画像データの全ての画面でも良いし、実際に
符号化処理を行う際と同様に、入力動画像データからい
くつかの画面を間引いて駒落としした画面であっても良
い。
動き補償予測処理にかかる処理量が非常に多く、全体の
処理に占める割合も大きいため、前記動き補償予測部21
は、所定の駒落としを行った後の動画像データの画面に
対してのみ実時間処理が行えるように設計される。
した後の画面を処理する方法が採用される。尚、フレー
ムメモリ部23に格納する画面は、処理の対象となった画
面でも良いし、駒落としされて処理されなかった画面で
あっても良い。
入力されると、符号化制御部24は、上記に加えて、前記
動き補償予測部21のすべての処理と、予測誤差符号化部
22での処理を起動して、入力動画像データを符号化処理
して符号化動画像データを出力するように制御する。
号画像が格納されるように、その入力を切り替える。従
って、動き補償予測部21は、フレームメモリ部23に格納
された局部復号画像を参照画面として、通常の符号化処
理における動き補償予測処理が可能となる。
が入力されると、符号化制御部24は、予測誤差符号化部
22、動き補償予測部21での不要な処理を停止し、フレー
ムメモリ部23の入力を入力動画像データの画面とするよ
うに切り替える制御を行い、動画像符号化部12は上述し
た処理の起動後の状態に戻る。
は、前記動画像符号化部12が、入力動画像データの符号
化対象画面と参照画面との間で、動きベクトル検出、動
き補償予測などを行う動き補償予測部21と、予測誤差を
符号化する予測誤差符号化部12と、参照画面を格納して
おくフレームメモリ部23とを含んでいる。
部12が符号化処理を行っている時に動作して、符号化動
画像データを出力する。一方、動き補償予測部21は、動
画像符号化部12が符号化処理を行っていない間も動作し
ており、検出された動きベクトル、及び、対象画面と参
照画面とで同一位置のブロック間での画素の輝度値の差
分2乗和を、前記変化検出部13へ出力する。
即ち、動きベクトルがゼロの場合の画面間差分として計
算したものである。前記変化検出部13は、動き補償予測
部21からの動きベクトル、差分2乗和を用いて、画像の
変化を検出する。
き補償予測部21での予測参照画面が格納されている。次
の入力画面の予測において、参照するためにフレームメ
モリ部23に格納される画像は、動画像符号化部12が符号
化動作中の場合は、動画像符号化部12における現在の符
号化対象画面の局部復号画像、動画像符号化部12が動作
停止中の場合は、符号化処理を施していない入力動画像
データの画面である。
クトル、差分2乗和の検出には、動画像符号化部12の一
部の処理部を共用している。従って、入力画像の変化を
検出するために必要となる新たな処理を追加することな
く、画像の変化に応じた記録の開始、停止の自動制御機
能を、容易に実現することが可能である。
を示す。尚、図4において、状態間の遷移を示す矢印に
付してある説明は、“/”の前が当該状態遷移の契機と
なる信号の入力やイベントの発生を示し、“/”の後が
状態遷移に伴って出力される信号やその際に行われる処
理を示している。
非動作状態41と、前記動画像符号化部12での符号化処
理、前記記録制御部17での記録媒体18への記録を行って
いる記録中状態43と、起動されてはいるが、符号化処
理、記録は行っていない停止中状態42と、前記記録中状
態43と同様に符号化処理、記録を行ってはいるが、前記
停止中状態42へ移行するまでの時間待ちを行っている停
止待ち状態44との四つの状態を持ち、これらを管理して
いる。
を説明する。また、動作制御部14の制御動作に従った符
号化処理、記録の開始、停止の様子の例を、図3に示
す。
直後など、該動作制御部14の制御に基づく符号化、記録
動作、いわゆる自動記録モード、が起動されていない場
合は、非動作状態41にある。
イッチの切り替えなどの操作を行う、あるいは、装置外
部からの制御信号、コマンド信号の入力などによって、
動作制御部14の動作(自動記録モード)の起動が指示され
ると、動作制御部14は、前記動画像符号化部12の前記符
号化制御部24、前記記録制御部17に対して起動制御信号
を出力して動作の起動を指示する。
号化部12の前記符号化制御部24、前記記録制御部17に対
して開始制御信号を出力して、符号化処理、記録の開始
を指示する。動作制御部14は、時間待ちのタイマの値を
時間T2にセットして、停止待ち状態44へ移行する。
て、値が減算されるタイマである。このような処理によ
り、本実施形態の画像記録装置では、起動直後から、図
3に示す初期画面記録区間31のT2時間分の画像が必ず記
録される。これは、上記従来例には見られない本実施形
態の画像記録装置の特徴の一つである。
マが満了、即ち、タイマにセットされた時間が経過し
て、タイマ値がゼロになると、動作制御部44は、前記動
画像符号化部12の前記符号化制御部24、前記記録制御部
17に対して停止制御信号を出力して、符号化処理、記録
の停止を指示する。そして、画像の符号化、記録が停止
され、動作制御部14は、停止中状態42へ移行する。
から画像の変化が大きい状態に移ったことを示す第1制
御信号が入力されると、動作制御部14は、前記動画像符
号化部12の前記符号化制御部24、前記記録制御部17に対
して開始制御信号を出力して、符号化処理、記録の開始
を指示して、記録中状態43へ移行する。
14は、タイマによる経過時間の監視を行っていないこと
が、前記停止待ち状態44との違いである。記録中状態43
において、変化検出部13から画像の変化が小さい状態に
移ったことを示す第2制御信号が入力されると、動作制
御部14は、タイマの値を時間T1にセットして停止待ち状
態44へ移行する。
の外部への出力は行われず、動作制御部14の内部状態が
変化するのみである。このようにして、図3に示す画像
の変化の大きい区間32と引き続くT1時間分の画像が記録
される。
検出部13から第1制御信号が入力されると、動作制御部
14は、記録の対象とすべき変化の大きい動画像データが
入力されたと判定して、記録中状態43へ移行する。この
時、停止待ち状態44で使用していたタイマは、移行先の
記録中状態43では、もはや使用しないため、タイマを停
止しておく。
号化、記録の処理は既に実行中であり、処理を継続すれ
ば良いため、開始制御信号、停止制御信号などは出力し
ない。
区間34である。画像の変化が大きい区間である区間33及
び区間34の間には、本来、記録の対象とならない画像の
変化が小さいT1時間以下の長さの区間が存在している。
それにも関わらず、本実施形態の画像記録装置では、区
間33の初めから、区間34が終了してT1時間が経過するま
での画像が記録される。
御信号が出力されると、動作制御部14はタイマ値をT1に
セットして停止待ち状態44へ移行する。ここで、タイマ
満了前、つまりT1時間経過以前に、区間34の初めで変化
検出部13から第1制御信号が出力されると、動作制御部
14は記録中状態43へ移行して、記録を継続する。
記録されず、区間33の終わりと区間34の初めとが繋がっ
て記録されるため、つなぎ目において動きや変化が不自
然に変化する画像となったり、記録の開始、停止の頻繁
な切り替えが発生したりしていたが、本実施形態の画像
記録装置においては、連続した画像が記録され、頻繁な
切り替えも発生しない。
ち状態44のそれぞれの状態において、ユーザが画像記録
装置のボタンの押下、スイッチの切り替えなどの操作を
行う、あるいは、装置外部からの制御信号、コマンド信
号の入力などによって、動作制御部14の動作(自動記録
モード)の終了が指示されると、動作制御部14は、前記
動画像符号化部12の前記符号化制御部24、前記記録制御
部17に対して終了制御信号を出力して動作の終了を指示
する。
御部17、動作制御部14は、記録中の画像の終端など、動
作を終結するための処理を行い、処理動作を終了する。
動作制御部14は、非動作状態41へ移行する。
独立して設定され、異なる値でも同一の値でも良い。ま
た、時間T1と時間T2との大小関係も、用途や目的に応じ
て任意に設定することができる。
が大きい区間32、33、34の画像のみが記録されることと
なり、従来の監視システムなどにおける画像記録装置と
同様な動作となる。また、T1 = 0、T2≠0に設定すれ
ば、変化が大きい区間32、33、34の画像に加えて、それ
らの最初に初期画像、基準画像を追加した画像が記録さ
れる。
ーチャートを示す。変化検出部13は、第1制御信号、第
2制御信号にそれぞれ対応する画像の変化が小さい状態
から大きい状態への移行、画像の変化が大きい状態から
変化が小さい状態への移行、を管理するための状態変数
を内部に保持している。
と、状態変数に、画像の変化が小さい状態であることを
示す「変化未検出」を設定する(ステップS1)。次に入力
動画像データの処理対象画面、1画面分の処理を開始す
る。まず、カウンタの値を0にリセットする(ステップS
2)。
(ステップS3)、ブロック内画素の輝度値に対する差分2
乗和(ステップS5)が入力される。前記ステップS3で入力
された動きベクトル値は、2次元のベクトル量であるか
ら、これから評価に用いる動きベクトルの大きさを求め
る(ステップS4)。
と、求める動きベクトルの大きさ(長さ)MVlは、例え
ば、 MVl = (Vx 2 + Vy 2)1/2 として計算される。
は、動画像符号化部12の動き補償予測部21で求められた
ものを用いている。例えば、動き補償予測部21におい
て、動きベクトルの情報量増加による符号化効率低下を
考慮したレート・歪特性最適化探索法によって動きベク
トルが求められる場合には、動き補償予測部21において
最適と判定された動きベクトルが画像の動きを適切に表
現しているとは限らないが、変化検出部13では該動きベ
クトルをそのまま用いるか、あるいは、動き補償予測部
21での探索中に誤差最小となった動きベクトルを符号化
処理に用いるものとは別に変化検出部13へ出力する。
探索の処理量を削減するために、ステップサーチなど簡
略化した探索手法が用いられる場合には、該手法で求め
られた動きベクトルを変化検出部13へ出力し、変化検出
部13で用いる動きベクトルを求めるために処理量が増加
することを避ける。
動きベクトルと局所的な動きを表す局所動きベクトルを
別に探索するグローバル動き補償などの手法が用いられ
る場合には、変化検出部13に対して、前記両方の動きベ
クトルを出力して、変化検出部13では、グローバル動き
ベクトルに局所動きベクトルを加算して用いるか、前記
局所動きベクトルのみを出力して用いるか、のいずれか
とする。後者の方法は、カメラにパン、ズームなどの動
きがあっても、画像中の局所的な変化のみを検出したい
場合に有効である。
て処理が分かれる(ステップS6)。状態変数が「変化未検
出」の場合、前記ステップS4で求めた動きベクトルの大
きさMVlを閾値V1と比較する(ステップS7)。
1インクリメントする(ステップS9)。MVlがV1より小さ
かった場合には、差分2乗和を閾値S1と比較する(ステ
ップS8)。
には、ステップS9へ進んで、カウンタを1インクリメン
トする。前記ステップS3からステップS9間での処理を、
画面内のすべてのブロックについて繰り返す(ステップS
10)。
が終了すると、カウンタの値を閾値C1と比較する(ステ
ップS11)。ここで、カウンタの値は、対象画面の中で、
参照画面との変化が大きいと判定されたブロックの数、
即ち、動きベクトルの大きさが閾値V1以上、または、差
分2乗和が閾値S1以上となるブロックの数、を表してい
る。
は、画像として変化が大きいと判定して、変化検出部13
は、第1制御信号を出力する(ステップS12)。そして、
変化検出部13の内部状態変数を「変化検出済」に設定し
ておく(ステップS13)。これで対象画面に対する処理が
終了したため、ステップS2に戻って次の対象画面の処理
を行う。
0、ステップS11において、1画面のすべてのブロックに
ついての処理が終了したと判断されてから、カウンタ値
を閾値C1と比較している。
ステップS9において、単純に1ずつインクリメントされ
る場合のみであり、画面の途中のブロックであっても、
ステップS9の後でカウンタ値を閾値C1と比較して、C1以
上であればステップS12へ進むようにして、対象画面の
残っているブロックの処理を省略することもできる。
りのブロックのすべてが、ステップS7またはステップS8
でYesと判定されて、ステップS9でカウントされたとし
ても、画面内の全ブロックの処理終了時に、カウンタ値
がC1以上とはならないことが確定した時点(例えば、現
在のカウント<C1−残りのブロック数)で当該画面の処
理を終了し、ステップS2へ戻るようにすることもでき
る。
クトルの大きさを求めるために平方根の計算を行ってい
たが、MVl 2 = (Vx 2 + Vy 2)を判定に用いることとし
て、平方根の計算を使わないようにすることもできる。
値として、V1 2 を用いれば良く、ステップS7では、前
記MVl 2と前記閾値V1 2 とを比較する。このようにすれ
ば、一般に処理の負担が大きい平方根の計算が不要とな
り、処理時間の短縮、処理の簡略化、処理量の低減を図
ることができる。
記動画像符号化部12の前記動き補償予測部21から差分2
乗和を出力して、変化検出部13での処理に用いている
が、差分2乗和以外にも、対象画面のブロックと参照画
面のブロックとの間で、ブロック内画素値の差分の総和
やエネルギーを表現した特徴量であれば、差分絶対値
和、周波数成分または視覚特性などで重み付けしたエネ
ルギーなどを利用することができる。
13内部の状態変数が「変化検出済」であった場合には、
ステップS14へ進む。ステップS14〜ステップS20の処理
は、前記ステップS7〜ステップS13の処理とほぼ同様で
ある。
ではなくV2を用いること、ステップS15の閾値がS1では
なくS2を用いること、ステップS17での閾値がC1ではな
くC2を用いること、ステップS19で第2制御信号を出力
すること、ステップS20で状態変数を「変化未検出」に
設定することである。
動画像データでの画像の変化が小さい状態において、大
きな変化が生じたことを検出する処理を行っている一
方、前記ステップS14〜ステップS20での処理は、これと
は逆に、画像の変化が大きい状態で、変化が小さくなっ
たことを検出することに対応する。
V2、S2、C2とは、独立して設定することができるため、
V1とV2、S1とS2、C1とC2は用途や目的に応じて異なる
値、もしくは、同一の値に設定することができる。
変化のみを検出するためには、V1、S1、C1を大きな値と
すれば良く、逆に、ごくわずかな変化でも検出できるよ
うにするには、V1、S1、C1を小さな値とする。
号を出力するための判定条件についても、V2、S2、C2の
値によって、適当に設定することが可能である。これら
の値は、前記V1、S1、C1の値と独立である。
数に従って前記ステップS6で処理の分岐を行うようにし
たが、例えば、処理を分岐させずにステップS7、ステッ
プS8、ステップS11で、状態変数によって使用する閾値
の値を切り替えるようにすることもできるし、1画面の
処理の初めであるステップS2の直前で分岐するなど、上
述の処理と等価な処理結果が得られれば、処理の順序な
どを限定するものではない。
で、対象画面内のすべてのブロックを処理対象とするよ
うにしたが、例えば、画面の端のブロックは処理に用い
ないようにすることもできる。
ど、画像信号のタイミングジッタ、撮像時の雑音、イン
タレース形式からプログレッシブ形式に変換した画像に
おける走査線のちらつきなどによる変化検出部13での処
理への影響を避けることができる。
として検出されないようになり、雑音を含む入力動画像
データに対しても、正しく確実に画像の変化を検出する
ことができるようになる。
は、変化検出部13には、動画像符号化部12から、入力さ
れた動画像データの画面を所定の大きさに分割したブロ
ックに対する動きベクトル値、及び、画面間で同一位置
のブロックに対する画素の輝度値の差分2乗和が入力さ
れる。
から変化が大きい状態に移ったことを検出する際に、前
記各ブロックについて、差分2乗和と予め定められた閾
値S1、動きベクトルの長さと予め定められた閾値V1とを
比較する。
いて行い、差分2乗和が閾値S1以上、または、動きベク
トルの長さが閾値V1以上であるブロックの数をカウント
する。該カウント結果が予め定められた閾値C1以上であ
った場合、第1制御信号を出力する。
小さい状態に移ったことを検出する時には、差分2乗和
が閾値S2以上、または、動きベクトルの長さが閾値V2以
上であるブロックの数をカウントして、カウント結果が
閾値C2以上であった場合に、第2制御信号を出力する。
タを記録する場合について述べてきたが、本実施形態の
画像記録装置は、画像に加えて音声データも記録するよ
うに構成しても良い。
力動画像データと同様、動作制御部14からの開始制御信
号、停止制御信号などに従って、符号化、記録などの処
理が開始、停止される。
が少ないため、圧縮符号化処理を行わずに、入力された
音声データをそのまま記録する場合もある。また、記録
の開始、停止時点における画像と音声の同期を保つた
め、同時に発生、入力された動画像データ、音声データ
から記録を開始し、同時に発生、入力された動画像デー
タ、音声データで記録を停止するように、符号化処理、
記録などが制御される。
を記録媒体18へ記録するため、記録制御部17は、記録媒
体18での記録フォーマット、ファイルフォーマットに従
って符号化動画像データ、(符号化)音声データの多重化
処理を行う。
明を画像記録装置に応用した場合の例について述べた
が、例えば、変化があった動画像データを、伝送路を介
してセンタ装置や相手端末などへ送出する画像伝送装置
に応用することも可能である。
通信プロトコル処理、符号化動画像データの伝送用フォ
ーマットへの成形などを行う通信制御部に、記録媒体18
は、通信回線などの伝送路に、それぞれ置き換えられ
る。その他の構成は、上述した本発明の一実施形態に係
る画像記録装置と同様である。
像データに変化があったと判定されて、動作制御部14か
ら開始制御信号が出力されると、通信制御部は、回線の
接続を行って通信相手へ符号化動画像データを送出す
る。
は、発呼などの物理的な回線接続処理でも良いし、伝送
路としてLANのようなコネクションレス型のネットワ
ークを用いる場合には、論理的な接続を行えば良い。
は物理的な接続は保持されたまま、データ送出を行って
いない場合には、接続手順を明示的に実行する必要はな
いが、通信制御部は、動作制御部14から出力される開始
制御信号に従って、動画像符号化部12から出力された符
号化動画像データを順次送出することとなる。
動画像データの変化が小さくなったと判定された後、動
作制御部14から停止制御信号が出力されると、通信制御
部は、上記とは逆に回線の切断を行って通信相手への符
号化動画像データの送出を停止する。
れている伝送路の種類に応じて、物理的、あるいは、論
理的な接続の切断処理であるのは、上述の説明と同様で
ある。
化が小さくなったことが検出されてから、予め定められ
た時間が経過した後に、記録/伝送を停止するよう制御
するため、変化が生じた画像に引き続いて、侵入者や異
常が解消、もしくは、観察対象が動作停止、消失した後
の背景画像、風景画像などまで、変化が発生してから解
消するまでの一連の画像を記録/伝送することができ
る。従って、自然な流れの画像が得られると共に、変化
が解消したことが記録/伝送された画像上で確認でき
る。
的に動作を停止した場合などにも、記録/伝送を続ける
ことができるため、監視対象の状況を確実に把握するこ
とが可能な画像が得られる。
て記録/伝送する際にも、それらの間に変化が無い様子
を挟んだ画像を記録/伝送することが可能であるため、
自然な画像が得られるばかりでなく、記録/伝送された
画像において、途中に侵入者や異常が解消した状態があ
ったことを確認することができる。
繰り返すような画像においても、記録/伝送の開始と停
止を頻繁に切り替えることなく、連続した画像として扱
うことができる。
流れや動き、変化が自然な画像を記録/伝送することが
可能となり、特に、画像を伝送する場合には、回線の接
続に伴って生じる接続遅延、ネゴシエーション遅延、初
期伝送遅延などを避けることができる。
ために必要となる処理は、変化が小さいことが検出され
た後、タイマなどによって、所定の時間T1待たせること
で、簡単に実現することができるため、容易に実装する
ことが可能である。そのため、処理に必要となるハード
ウェア、ソフトウェアの増加がほとんど無く、小型、携
帯型の機器においても、手軽に実装することができる。
段により記録/伝送の開始、停止を制御する動作が起動
されると、初期状態として、まず記録/伝送を開始する
ように制御するため、変化が生じる前の監視、観察対象
となる背景、風景などのいわゆる基準画像を、最初に記
録/伝送しておくことができる。
録/伝送された際に、どのような変化が生じたかを一連
の画像の中で確認することが可能となる。これは、特
に、監視対象が予め特定されているセキュリティ管理シ
ステムのようなものではなく、一般の画像を対象とした
場合でも、記録/伝送された画像によって、変化が無い
状態と変化が生じた状態を共に確認することができるた
め、予め監視対象に関する知識をもっていなくても、変
化の様子や状況を正しく認識することができる。
変化が発生した画像へ、連続した画像として記録/伝送
することが可能であるため、自然な流れの画像を得るこ
とができる。
と、後に画像に変化が生じなかったとしても、最初の画
像だけは必ず記録/伝送される。このため、記録/伝送
された画像が存在することによって、監視、観察を行っ
たが、変化が生じなかったという事実を画像による記録
/伝送として残すことができる。
は、画像及び付帯情報の記録を行わないように記録途中
の情報や、一時的な記録内容を完全に削除するなどの特
別な制御が不要となり、前記制御動作の起動時には、必
ず、記録領域の確保、付帯情報の記録、伝送リンク確立
など予備的な回線接続などを行うように構成すればよ
く、処理が簡単になる。
基づく記録動作が起動された後、直ちに記録/伝送を開
始しておき、タイマなどによって、所定の時間T2待って
から記録/伝送を停止する制御を追加することで、簡単
に実現することができるため、容易に実装することが可
能である。そのため、処理に必要となるハードウェア、
ソフトウェアの増加がほとんど無く、小型、携帯型の機
器においても、手軽に実装することができる。
る前の背景、風景などの画像から始まって、変化が起こ
った様子、再び変化の無い状態に戻った画像が、一つの
連続した画像として、記録/伝送されるため、途中で開
始、停止を行うことによって画像の流れや動き、変化な
どが不連続になったり、不自然になったりすることによ
る違和感が非常に小さく、より自然な画像を得ることが
できる。
最初に必ず画像を記録/伝送する時間T2と、画像の状態
変化が検出された後、変化が小さくなったと判定された
後も記録/伝送を続ける時間T1とを異なる値に設定する
ことが可能であるため、これらの時間として用途や目的
に応じた適当な値を選択して利用することができる。
記録/伝送を中断せずに、次に変化が生じるまで記録を
続けるように時間T1のみを大きな値に設定したり、基準
画像となる初期画像をきっちりと記録/伝送しておきた
い場合には、時間T2のみを大きな値にしたりするなど、
自由な使い分けができる。
がり、かつ、様々なユーザ、アプリケーションに対し
て、適切な内容の画像を記録/伝送することができるよ
うになる。
画像における画面間の画素値の差分と、動きベクトルの
大きさとの両方に基づいて、画像の変化を検出するた
め、これらをそれぞれ単独で用いた場合と比較して、両
方の利点を有効に活用し、かつ、欠点を補い合って、確
実に画像の変化を検出することができるようになる。
変化を検出しているため、画像中で被写体の動きなどが
あった場合に、被写体あるいは動いている領域の大きさ
が小さかったとしても、変化として検出することができ
る。
とによって、画像に何らかの変化が生じて、画素値が変
動した場合も、確実に変化として検出することができ
る。加えて、画像の複雑な変化や、色や明るさの変動を
伴う動きなど、動きベクトルでは検出できない変化も検
出することができるようになる。
明るさの変化、背景や風景がわずかにゆれている画像な
ど、本来、変化として判定したくない画像では、画面間
の差分を評価する際の閾値S1、S2を大きな値に設定し
て、これらが変化と検出されないようにしておき、併用
する動きベクトルの評価によって、変化を検出すること
が可能となる。
件に応じて、画像中で変化している部分は少ないが、動
きの大きい場合、動きとしては検出することができない
が、全体が変化している場合などの両方に適用可能で、
柔軟かつ確実に画像の変化を検出することができるよう
になる。
を開始するように判定する条件と、記録/伝送を停止す
るように判定する条件とを、それぞれ異なるように設定
することができるため、これらの条件を用途や目的に応
じて変更することが可能である。
合など、比較的変化が大きい画像に対して、記録/伝送
を開始すると判定し、その後、観察対象の動きがあまり
大きくなくても観察を続けるように、記録/伝送の停止
を判定する閾値を小さくして、判定条件を厳しくするこ
ともできる。
/伝送を開始するようにしておき、大きな変化がなけれ
ば、記録/伝送を停止するような判定条件に設定するこ
ともできる。また、記録/伝送の開始を判定する閾値
と、停止を判定する閾値を同じ値として、これらの条件
を同一とすることも容易である。
像の内容に応じて、適切な判定閾値を設定して、記録/
伝送の開始、停止を制御することが可能になるため、画
像処理装置の応用範囲が広がり、様々なアプリケーショ
ンに利用して、目的に見合った条件で画像の変化を検出
することができるようになる。
データを記録/伝送するために符号化処理する際の動き
補償予測処理で求められる動きベクトルと、画面間の画
素値の差分とを用いて画像の変化を検出するようにして
いるため、画像の変化の検出に必要な特徴量を求めるた
めに、新たな処理を追加する必要が無い。
理は、前記動きベクトルや、前記差分2乗和を閾値と比
較するなどの非常に簡単な処理だけであり、これらの追
加による処理量の増加はほとんど無視できる。このた
め、携帯型の機器など、小型、低消費電力などが求めら
れる場合にも、容易に実装することができる。
に広く普及している画像処理装置に対して、上記の簡単
な処理を追加するだけで、画像の変化に応じた記録/伝
送の開始、停止の自動制御機能を持たせることが容易と
なる。従って、これらの装置でディジタル画像処理を行
っていることのメリットを最大限に発揮して、簡単に機
能の追加、拡張が行えることによる用途展開、普及拡大
を図ることができる。
録/伝送中の処理動作中と停止中とでフレームメモリを
共用することができる。特に、フレームメモリなどのメ
モリの量は、機器への実装における実装面積、コスト、
消費電力などに与える影響が大きいため、動画像符号化
処理のための前記フレームメモリを共用して、メモリ量
を増加させずに記録/伝送の自動制御機能を追加できる
ことは、装置の小型化、経済化、低消費電力化において
非常に有用である。
機能を追加するだけで実現できるため、非常に簡単な変
更ですみ、動き補償予測手段は、記録/伝送の動作中、
停止中の状態に関わらず、常に前記フレームメモリから
参照画面を読み出せば良いため、通常の動画像符号化処
理のための動き補償予測処理部をそのまま利用すること
ができる。
像データの画面をそのままフレームメモリに格納するた
め、予測誤差符号化部での局部復号処理が必要なく、前
記予測誤差符号化部の処理を完全に停止して、消費電力
の削減などを図ることができる。
よって画像処理装置が記録中/伝送中であるか、停止中
であるかの動作状態を告知することが可能であるので、
ユーザは装置の動作状態を離れた位置から容易に判別す
ることができるようになる。
ザに対しても、動作状態を告知することができるため、
ユーザは画像処理装置の状態を確認するために該装置の
ビューファインダ、モニタ画面などを見る必要はない。
従って、被写体の動きや変化に従って、記録/伝送の開
始、停止が目的に沿って正しく制御されているか否か
を、容易に確認することができる。
画像処理装置の状態を確認しながら、自分の画像を撮影
したり、写真機のセルフタイマーの代わりに動きや変化
などによって記録/伝送を開始させてその状態を確認し
たり、停止中に被写体を移動させておいて、記録/伝送
された画像でアニメーションを作成したり、などのよう
に、いわゆる監視システム向けではない画像処理装置の
新たな応用分野への展開を図ることが可能となる。
しくはランプの点灯によって、記録中/伝送中であるこ
とを告知することができるため、視認性が高く、ユーザ
は遠く離れた位置からも容易に装置の動作状態を認知す
ることが可能となる。
で、消費電力もほとんど必要ないため、告知手段を設け
ることによるコスト、消費電力、大きさの増加がほとん
ど無く、機構やデザインなどの実装上の制約もほとんど
無い。従って、小型、携帯型機器に好適であり、簡単に
実装することができる。
ることによって、記録/伝送が開始されたこと、停止さ
れたことを告知することができるため、ユーザは画像処
理装置を視認していなくても、容易に動作状態の変化を
認知することが可能となる。
設置するなど、監視システムにおいてしばしば行われる
設置方法においても、動作状態の認識が可能である。こ
のため、上述のユーザ自身が被写体となる場合などに
も、ユーザが装置の方を向いている必要が無く、横顔や
後ろ姿などの画像を撮影することが可能となる。
に記録/伝送されるように、記録/伝送の動作開始直後
のタイミングで告知するようにすれば、記録/伝送の開
始と停止の繰り返しが連続して記録/伝送された画像に
おいて、前記告知の音を識別することによって、記録/
伝送が開始された位置、即ち、数回の繰り返しのつなぎ
目を、後から容易に特定することが可能になる。
像データを符号化処理する際の動き補償予測処理で求め
られる動きベクトルと、画面間の画素値の差分とを用い
て画像の変化を検出するようにしているため、画像の変
化の検出に必要な特徴量を求めるために、新たな処理を
追加する必要が無い。
理は、前記動きベクトルや、前記差分2乗和を閾値と比
較するなどの非常に簡単な処理だけであり、これらの追
加による処理量の増加はほとんど無視できる。このた
め、携帯型の機器など、小型、低消費電力などが求めら
れる場合にも、容易に実装することができる。
に広く普及している画像処理装置に対して、上記の簡単
な処理を追加するだけで、画像の変化に応じた記録/伝
送の開始、停止の自動制御機能を持たせることが容易と
なる。従って、これらの装置でディジタル画像処理を行
っていることのメリットを最大限に発揮して、簡単に機
能の追加、拡張が行えることによる用途展開、普及拡大
を図ることができる。
記録/伝送中の処理動作中と停止中とでフレームメモリ
を共用することができる。特に、フレームメモリなどの
メモリの量は、機器への実装における実装面積、コス
ト、消費電力などに与える影響が大きいため、動画像符
号化処理のための前記フレームメモリを共用して、メモ
リ量を増加させずに記録/伝送の自動制御機能を追加で
きることは、装置の小型化、経済化、低消費電力化にお
いて非常に有用である。
機能を追加するだけで実現できるため、非常に簡単な変
更ですみ、動き補償予測手段は、記録/伝送の動作中、
停止中の状態に関わらず、常に前記フレームメモリから
参照画面を読み出せば良いため、通常の動画像符号化処
理のための動き補償予測処理部をそのまま利用すること
ができる。
像データの画面をそのままフレームメモリに格納するた
め、予測誤差符号化部での局部復号処理が必要なく、前
記予測誤差符号化部の処理を完全に停止して、消費電力
の削減などを図ることができる。
像データを間欠的に記録/伝送するタイムラプス記録/
伝送を行っている際に、記録/伝送するタイミングを告
知することによって、ユーザは離れた位置から、装置が
いつ記録/伝送を行っているかを容易に判別することが
可能になる。
ザに対しても、記録/伝送タイミングを告知することが
できるため、記録/伝送のタイミングを確認しながら、
その間の停止中に被写体を移動させておいて、記録/伝
送された画像でアニメーションを作成したりすることが
簡単に行えるようになる。
機のセルフタイマー撮影のように自分の画像を撮影する
際にも、記録/伝送のタイミングを容易かつ明確に認識
することができるため、目的通りの画像を確実に記録/
伝送することができるようになり、失敗することも少な
くなる。
用途向けだけではなく、一般ユーザが様々な目的で手軽
に利用できるようになり、画像処理装置の新たな応用展
開を図ることが可能となる。
略構成例を示すブロック図である。
要部の構成例を示すブロック図である。
の開始、停止の動作例を示す説明図である。
作制御部の状態遷移例を示す説明図である。
化検出部の動作例を示すフローチャートである。
2)
ずれかの発明に係る画像処理装置において、前記変化検
出手段は、入力された動画像データの画面を所定の大き
さのブロックに分割して、該ブロックに含まれる画素に
ついて画面間での輝度値の差分2乗和が所定の閾値S1以
上であるか、または、前記ブロックに対する動きベクト
ルの長さが所定の閾値V1以上であるブロックの数をカウ
ントする第1のカウント手段と、前記差分2乗和が所定
の閾値S2以上であるか、または、前記動きベクトルの長
さが所定の閾値V2以上であるブロックの数をカウントす
る第2のカウント手段とを有し、前記第1の制御信号
は、前記第1のカウント手段の出力が所定の閾値C1以上
であることに基づいて出力され、前記第2の制御信号
は、前記第2のカウント手段の出力が所定の閾値C2以下
であることに基づいて出力されることを特徴とする。
ではなくV2を用いること、ステップS15の閾値がS1では
なくS2を用いること、ステップS18での閾値としてC1で
はなくC2を用いて、カウント値が閾値C2以下か否かの
比較を行うこと、ステップS19で第2制御信号を出力す
ること、ステップS20で状態変数を「変化未検出」に設
定することである。
小さい状態に移ったことを検出する時には、差分2乗和
が閾値S2以上、または、動きベクトルの長さが閾値V2以
上であるブロックの数をカウントして、カウント結果が
閾値C2以下であった場合に、第2制御信号を出力する。
Claims (14)
- 【請求項1】 入力された動画像データの画面間での変
化を検出して、変化が小さい状態から変化が大きい状態
に移ったことを示す第1の制御信号と、変化が大きい状
態から変化が小さい状態に移ったことを示す第2の制御
信号とを出力する変化検出手段と、 前記第1の制御信号及び前記第2の制御信号に従って、
入力動画像データの記録/伝送の開始、停止を制御する
動作制御手段とを備えた画像処理装置であって、 前記動作制御手段は、記録/伝送中の状態において、前
記第2の制御信号が入力された後、任意に設定可能な時
間T1が経過するまで前記第1の制御信号の入力が無かっ
た時に、前記入力動画像データの記録/伝送を停止する
ように制御することを特徴とする画像処理装置。 - 【請求項2】 入力された動画像データの画面間での変
化を検出して、変化が小さい状態から変化が大きい状態
に移ったことを示す第1の制御信号と、変化が大きい状
態から変化が小さい状態に移ったことを示す第2の制御
信号とを出力する変化検出手段と、 前記第1の制御信号及び前記第2の制御信号に従って、
入力動画像データの記録/伝送の開始、停止を制御する
動作制御手段とを備えた画像処理装置であって、 前記動作制御手段は、該動作制御手段による記録/伝送
の開始、停止を制御する動作が起動されると直ちに入力
動画像データの記録/伝送を開始するように制御すると
共に、その後、前記第1の制御信号が入力されることな
く任意に設定可能な時間T2が経過した時に、前記入力動
画像データの記録/伝送を停止するように制御すること
を特徴とする画像処理装置。 - 【請求項3】 前記請求項2に記載の画像処理装置にお
いて、 前記動作制御手段は、記録/伝送中の状態において、前
記第2の制御信号が入力された後、任意に設定可能な時
間T1が経過するまで前記第1の制御信号の入力が無かっ
た時に、入力動画像データの記録/伝送を停止するよう
に制御することを特徴とする画像処理装置。 - 【請求項4】 前記請求項3に記載の画像処理装置にお
いて、 前記時間T1と前記時間T2とは、それぞれ異なる値に設定
されていることを特徴とする画像処理装置。 - 【請求項5】 前記請求項1乃至4のいずれかに記載の
画像処理装置において、 前記変化検出手段は、入力された動画像データの画面を
所定の大きさのブロックに分割して、該ブロックに含ま
れる画素について画面間での輝度値の差分2乗和が所定
の閾値S1以上であるか、または、前記ブロックに対する
動きベクトルの長さが所定の閾値V1以上であるブロック
の数をカウントする第1のカウント手段と、 前記差分2乗和が所定の閾値S2以上であるか、または、
前記動きベクトルの長さが所定の閾値V2以上であるブロ
ックの数をカウントする第2のカウント手段とを有し、 前記第1の制御信号は、前記第1のカウント手段の出力
が所定の閾値C1以上であることに基づいて出力され、 前記第2の制御信号は、前記第2のカウント手段の出力
が所定の閾値C2以上であることに基づいて出力されるこ
とを特徴とする画像処理装置。 - 【請求項6】 前記請求項5に記載の画像処理装置にお
いて、 前記閾値S1、前記閾値V1、前記閾値C1と、前記閾値S2、
前記閾値V2、前記閾値C2とは、それぞれ異なる値に設定
されていることを特徴とする画像処理装置。 - 【請求項7】 前記請求項1乃至6のいずれかに記載の
画像処理装置において、 入力された動画像データの画面を所定の領域に分割し
て、前記各領域についてフレームメモリに格納された参
照画面との間で動き補償予測を行って、予測誤差と、前
記各領域の動きベクトルと、画面間での前記領域内画素
の輝度値の差分2乗和とを出力する動き補償予測手段
と、 前記予測誤差を符号化して符号化動画像データを出力す
る予測誤差符号化手段とを設け、 前記変化検出手段は、前記動きベクトルと前記差分2乗
和とから画面間での変化を検出して、変化が小さい状態
から変化が大きい状態に移ったことを示す第1の制御信
号と、変化が大きい状態から変化が小さい状態に移った
ことを示す第2の制御信号とを出力することを特徴とす
る画像処理装置。 - 【請求項8】 前記請求項7に記載の画像処理装置にお
いて、 前記フレームメモリには、入力動画像データを記録/伝
送中の状態では、前記動き補償予測手段から出力される
予測画面と、前記予測誤差符号化手段から出力される予
測誤差の復号結果とを加算した局部復号画像が格納さ
れ、記録/伝送が停止中の状態では、入力動画像データ
の画面が格納されることを特徴とする画像伝送装置。 - 【請求項9】 前記請求項1乃至8のいずれかに記載の
画像処理装置において、 前記動作制御手段による入力動画像データの記録/伝送
の開始、停止の制御に従って、記録/伝送動作中である
ことを装置外部に告知する告知手段を設けたことを特徴
とする画像処理装置。 - 【請求項10】 前記請求項9に記載の画像処理装置に
おいて、前記告知手段は、LEDもしくはランプを点灯
することによって、記録/伝送動作中であることを表示
することを特徴とする画像処理装置。 - 【請求項11】 前記請求項9に記載の画像処理装置に
おいて、前記告知手段は、記録/伝送動作の開始時、及
び/または、記録/伝送動作の停止時に、音を発するこ
とによって、動作状態が変化したことを報知することを
特徴とする画像処理装置。 - 【請求項12】 入力された動画像データの画面を所定
の領域に分割して、前記各領域についてフレームメモリ
に格納された参照画面との間で動き補償予測を行って、
予測誤差と、前記各領域の動きベクトルと、画面間での
前記領域内画素の輝度値の差分2乗和とを出力する動き
補償予測手段と、 前記予測誤差を符号化して符号化動画像データを出力す
る予測誤差符号化手段と、 前記動きベクトルと前記差分2乗和とから画面間での変
化を検出して、変化が小さい状態から変化が大きい状態
に移ったことを示す第1の制御信号と、変化が大きい状
態から変化が小さい状態に移ったことを示す第2の制御
信号とを出力する変化検出手段と、 前記第1の制御信号及び前記第2の制御信号に従って、
入力動画像データの記録/伝送の開始、停止を制御する
動作制御手段とを備えたことを特徴とする画像処理装
置。 - 【請求項13】 前記請求項12に記載の画像処理装置
において、 前記フレームメモリには、入力動画像データを記録/伝
送中の状態では、前記動き補償予測手段から出力される
予測画面と、前記予測誤差符号化手段から出力される予
測誤差の復号結果とを加算した局部復号画像が格納さ
れ、記録/伝送が停止中の状態では、入力動画像データ
の画面が格納されることを特徴とする画像処理装置。 - 【請求項14】 入力された動画像データを所定の時間
間隔ごとに間欠的に記録/伝送するように、記録/伝送
のタイミングを指示する動作制御手段を備え、 入力動画像データの一部を間欠的に記録/伝送するタイ
ムラプス記録/伝送を行う画像処理装置において、 前記動作制御手段による入力動画像データの記録/伝送
の開始、停止の制御に従って、記録/伝送動作中である
ことを装置外部に告知する告知手段を設けたことを特徴
とする画像処理装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000117302A JP3677192B2 (ja) | 2000-04-19 | 2000-04-19 | 画像処理装置 |
EP20010303548 EP1148715A1 (en) | 2000-04-19 | 2001-04-19 | Image processing apparatus with automatic image pickup feature |
US09/838,668 US6928232B2 (en) | 2000-04-19 | 2001-04-19 | Image processing apparatus with automatic image pickup feature |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000117302A JP3677192B2 (ja) | 2000-04-19 | 2000-04-19 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001309354A true JP2001309354A (ja) | 2001-11-02 |
JP3677192B2 JP3677192B2 (ja) | 2005-07-27 |
Family
ID=18628636
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000117302A Expired - Fee Related JP3677192B2 (ja) | 2000-04-19 | 2000-04-19 | 画像処理装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US6928232B2 (ja) |
EP (1) | EP1148715A1 (ja) |
JP (1) | JP3677192B2 (ja) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009071771A (ja) * | 2007-09-18 | 2009-04-02 | Seiko Epson Corp | 画像処理装置、画像データ記録システム、監視カメラシステム及び画像処理装置の制御方法 |
JP2009089265A (ja) * | 2007-10-02 | 2009-04-23 | Central Res Inst Of Electric Power Ind | 電線観測方法、電線観測システム及び電線観測プログラム |
JP2009302856A (ja) * | 2008-06-12 | 2009-12-24 | Panasonic Electric Works Co Ltd | 監視システム |
JP2011050090A (ja) * | 2003-05-12 | 2011-03-10 | Google Inc | ビデオ圧縮方法 |
JP2011244293A (ja) * | 2010-05-20 | 2011-12-01 | Canon Inc | 画像処理装置 |
KR20120041440A (ko) * | 2010-10-21 | 2012-05-02 | 에스케이 텔레콤주식회사 | 전역움직임을 기반하여 결정된 부호화구조를 이용한 영상 부호화/복호화 방법 및 장치 |
JP2012090235A (ja) * | 2010-10-22 | 2012-05-10 | Mitsubishi Electric Building Techno Service Co Ltd | 映像監視システム |
JP2012142892A (ja) * | 2011-01-06 | 2012-07-26 | Canon Inc | 動画記録装置、その制御方法、動画再生装置、及び動画記録再生システム |
JP2014192715A (ja) * | 2013-03-27 | 2014-10-06 | Fujitsu Ltd | 映像蓄積配信装置、システム、方法及びプログラム |
JP2015188134A (ja) * | 2014-03-26 | 2015-10-29 | 富士通株式会社 | 映像データ管理装置、映像データ管理プログラム及び映像データ管理方法 |
JP2017126896A (ja) * | 2016-01-14 | 2017-07-20 | 株式会社東芝 | 監視システム、監視装置、および再生装置 |
JP6230085B1 (ja) * | 2017-06-01 | 2017-11-15 | 株式会社ReTech | 動画再生システム |
KR101811152B1 (ko) * | 2013-09-30 | 2017-12-20 | 후지쯔 가부시끼가이샤 | 영상 축적 배신 장치, 시스템, 방법 및 기록매체 |
WO2024070751A1 (ja) * | 2022-09-30 | 2024-04-04 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置、画像処理方法及びプログラム |
Families Citing this family (37)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB2378338A (en) * | 2001-07-31 | 2003-02-05 | Hewlett Packard Co | Automatic identification of features of interest within a video signal |
US20040086152A1 (en) * | 2002-10-30 | 2004-05-06 | Ramakrishna Kakarala | Event detection for video surveillance systems using transform coefficients of compressed images |
KR20040084517A (ko) * | 2003-03-28 | 2004-10-06 | 삼성전자주식회사 | 동영상 휴대 전화기를 이용한 보안 감시 시스템 |
US8989516B2 (en) * | 2007-09-18 | 2015-03-24 | Fotonation Limited | Image processing method and apparatus |
US8417055B2 (en) * | 2007-03-05 | 2013-04-09 | DigitalOptics Corporation Europe Limited | Image processing method and apparatus |
US8180173B2 (en) | 2007-09-21 | 2012-05-15 | DigitalOptics Corporation Europe Limited | Flash artifact eye defect correction in blurred images using anisotropic blurring |
US8264576B2 (en) | 2007-03-05 | 2012-09-11 | DigitalOptics Corporation Europe Limited | RGBW sensor array |
US7639889B2 (en) | 2004-11-10 | 2009-12-29 | Fotonation Ireland Ltd. | Method of notifying users regarding motion artifacts based on image analysis |
US7636486B2 (en) | 2004-11-10 | 2009-12-22 | Fotonation Ireland Ltd. | Method of determining PSF using multiple instances of a nominally similar scene |
US8199222B2 (en) * | 2007-03-05 | 2012-06-12 | DigitalOptics Corporation Europe Limited | Low-light video frame enhancement |
US9160897B2 (en) * | 2007-06-14 | 2015-10-13 | Fotonation Limited | Fast motion estimation method |
JP4371859B2 (ja) * | 2004-03-09 | 2009-11-25 | 日本電気株式会社 | 動画情報伝送方法および装置 |
US7639888B2 (en) * | 2004-11-10 | 2009-12-29 | Fotonation Ireland Ltd. | Method and apparatus for initiating subsequent exposures based on determination of motion blurring artifacts |
WO2006070046A1 (en) * | 2004-12-29 | 2006-07-06 | Nokia Corporation | Exposure of digital imaging |
US8705614B2 (en) * | 2005-04-04 | 2014-04-22 | Broadcom Corporation | Motion estimation using camera tracking movements |
TWI264709B (en) * | 2005-11-01 | 2006-10-21 | Lite On It Corp | DVD recorder with monitoring function |
IES20070229A2 (en) * | 2006-06-05 | 2007-10-03 | Fotonation Vision Ltd | Image acquisition method and apparatus |
US8446480B2 (en) * | 2006-12-20 | 2013-05-21 | Nokia Corporation | Exposure control based on image sensor cost function |
US7773118B2 (en) * | 2007-03-25 | 2010-08-10 | Fotonation Vision Limited | Handheld article with movement discrimination |
US20080309770A1 (en) * | 2007-06-18 | 2008-12-18 | Fotonation Vision Limited | Method and apparatus for simulating a camera panning effect |
US20100271554A1 (en) * | 2007-09-10 | 2010-10-28 | Volker Blume | Method And Apparatus For Motion Estimation In Video Image Data |
KR101041178B1 (ko) * | 2008-05-21 | 2011-06-13 | 삼성전자주식회사 | 전자기기에서 영상 녹화 방법 및 장치 |
KR101100551B1 (ko) * | 2008-12-17 | 2011-12-29 | 삼성메디슨 주식회사 | 클러터 신호를 필터링하는 초음파 시스템 및 방법 |
JP5047203B2 (ja) * | 2009-02-10 | 2012-10-10 | パナソニック株式会社 | 監視カメラシステム、映像記録装置及び映像記録方法 |
KR20100101375A (ko) * | 2009-03-09 | 2010-09-17 | 삼성전자주식회사 | 디지털 동영상 촬영장치, 그 제어방법, 제어방법을 실행시키기 위한 프로그램을 저장한 기록매체 및 피사체 움직임 판단방법 |
JP5493709B2 (ja) * | 2009-03-13 | 2014-05-14 | 株式会社リコー | 映像編集装置 |
JP5489557B2 (ja) * | 2009-07-01 | 2014-05-14 | パナソニック株式会社 | 画像符号化装置及び画像符号化方法 |
US8850071B2 (en) * | 2010-05-10 | 2014-09-30 | Liaison Technologies, Inc. | Map intuition system and method |
JP2012049679A (ja) * | 2010-08-25 | 2012-03-08 | Sony Corp | 端末装置、サーバ、データ処理システム、データ処理方法、及びプログラム |
US20160049051A1 (en) * | 2013-06-21 | 2016-02-18 | Hello Inc. | Room monitoring device with packaging |
EP2863566B1 (en) | 2013-10-18 | 2020-09-02 | Université de Nantes | Method and apparatus for reconstructing a data block |
EP3151552A4 (en) * | 2014-05-30 | 2018-02-21 | Hitachi Kokusai Electric Inc. | Monitoring system and camera device |
US9967456B2 (en) | 2014-07-18 | 2018-05-08 | Xiaomi Inc. | Photographing method and device |
CN104113691B (zh) * | 2014-07-18 | 2015-10-14 | 小米科技有限责任公司 | 拍摄方法及装置 |
CN105791766A (zh) * | 2016-03-09 | 2016-07-20 | 京东方科技集团股份有限公司 | 一种监控方法及监控装置 |
JP7030534B2 (ja) * | 2018-01-16 | 2022-03-07 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
US11284125B2 (en) * | 2020-06-11 | 2022-03-22 | Western Digital Technologies, Inc. | Self-data-generating storage system and method for use therewith |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4679077A (en) * | 1984-11-10 | 1987-07-07 | Matsushita Electric Works, Ltd. | Visual Image sensor system |
US5047850A (en) * | 1989-03-03 | 1991-09-10 | Matsushita Electric Industrial Co., Ltd. | Detector for detecting vector indicating motion of image |
US5151945A (en) * | 1990-09-11 | 1992-09-29 | The Research Foundation Of State Univ. Of N.Y. | Determination of ambient light level changes in visual images |
JP3067275B2 (ja) | 1991-05-23 | 2000-07-17 | 日本放送協会 | シーンチェンジ検出装置 |
GB9206651D0 (en) * | 1992-03-26 | 1992-05-06 | Solid State Logic Ltd | Video processing |
JP3315766B2 (ja) * | 1992-09-07 | 2002-08-19 | 富士通株式会社 | 画像データ符号化方法、その方法を用いた画像データ符号化装置、画像データ復元方法、その方法を用いた画像データ復元装置、シーン変化検出方法、その方法を用いたシーン変化検出装置、シーン変化記録装置、及び画像データのシーン変化記録・再生装置 |
JPH06153199A (ja) | 1992-11-06 | 1994-05-31 | Kubota Corp | 画像による監視装置 |
JPH06165181A (ja) | 1992-11-25 | 1994-06-10 | Toshiba Corp | 監視カメラシステム |
JPH07123403A (ja) | 1993-10-27 | 1995-05-12 | Hitachi Ltd | 動き検出装置 |
US6055025A (en) | 1993-12-21 | 2000-04-25 | Lucent Technologies, Inc. | Method and apparatus for detecting abrupt and gradual scene changes in image sequences |
US5809200A (en) * | 1995-08-07 | 1998-09-15 | Victor Company Of Japan, Ltd. | Video signal recording apparatus |
JPH09219854A (ja) | 1996-02-14 | 1997-08-19 | Matsushita Electric Ind Co Ltd | 撮像記録装置 |
JPH09251541A (ja) | 1996-03-14 | 1997-09-22 | Atsumi Electron Corp Ltd | 物体検知方法及び監視カメラ |
KR100213055B1 (ko) * | 1996-07-27 | 1999-08-02 | 윤종용 | 감시용 시스템에서의 기록 매체 절약형 기록방법 |
CA2190785A1 (en) | 1996-11-20 | 1998-05-20 | Nael Hirzalla | Method of processing a video stream |
JPH10285542A (ja) | 1997-04-04 | 1998-10-23 | Sony Corp | 録画装置および録画方法 |
JP3119199B2 (ja) | 1997-05-16 | 2000-12-18 | 日本電気株式会社 | 遠隔動画像監視装置 |
JPH1118076A (ja) | 1997-06-23 | 1999-01-22 | Hitachi Ltd | 監視カメラ等の映像記録装置 |
US6433839B1 (en) * | 2000-03-29 | 2002-08-13 | Hourplace, Llc | Methods for generating image set or series with imperceptibly different images, systems therefor and applications thereof |
US6646676B1 (en) * | 2000-05-17 | 2003-11-11 | Mitsubishi Electric Research Laboratories, Inc. | Networked surveillance and control system |
-
2000
- 2000-04-19 JP JP2000117302A patent/JP3677192B2/ja not_active Expired - Fee Related
-
2001
- 2001-04-19 EP EP20010303548 patent/EP1148715A1/en not_active Withdrawn
- 2001-04-19 US US09/838,668 patent/US6928232B2/en not_active Expired - Fee Related
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011050090A (ja) * | 2003-05-12 | 2011-03-10 | Google Inc | ビデオ圧縮方法 |
JP2009071771A (ja) * | 2007-09-18 | 2009-04-02 | Seiko Epson Corp | 画像処理装置、画像データ記録システム、監視カメラシステム及び画像処理装置の制御方法 |
JP2009089265A (ja) * | 2007-10-02 | 2009-04-23 | Central Res Inst Of Electric Power Ind | 電線観測方法、電線観測システム及び電線観測プログラム |
JP2009302856A (ja) * | 2008-06-12 | 2009-12-24 | Panasonic Electric Works Co Ltd | 監視システム |
JP2011244293A (ja) * | 2010-05-20 | 2011-12-01 | Canon Inc | 画像処理装置 |
KR101693284B1 (ko) * | 2010-10-21 | 2017-01-05 | 에스케이 텔레콤주식회사 | 전역움직임을 기반하여 결정된 부호화구조를 이용한 영상 부호화/복호화 방법 및 장치 |
KR20120041440A (ko) * | 2010-10-21 | 2012-05-02 | 에스케이 텔레콤주식회사 | 전역움직임을 기반하여 결정된 부호화구조를 이용한 영상 부호화/복호화 방법 및 장치 |
JP2012090235A (ja) * | 2010-10-22 | 2012-05-10 | Mitsubishi Electric Building Techno Service Co Ltd | 映像監視システム |
JP2012142892A (ja) * | 2011-01-06 | 2012-07-26 | Canon Inc | 動画記録装置、その制御方法、動画再生装置、及び動画記録再生システム |
JP2014192715A (ja) * | 2013-03-27 | 2014-10-06 | Fujitsu Ltd | 映像蓄積配信装置、システム、方法及びプログラム |
KR101811152B1 (ko) * | 2013-09-30 | 2017-12-20 | 후지쯔 가부시끼가이샤 | 영상 축적 배신 장치, 시스템, 방법 및 기록매체 |
US10147462B2 (en) | 2013-09-30 | 2018-12-04 | Fujitsu Limited | Footage collecting/broadcasting device, footage collecting/broadcasting system, footage collecting/broadcasting method, and recording medium recorded with a program |
JP2015188134A (ja) * | 2014-03-26 | 2015-10-29 | 富士通株式会社 | 映像データ管理装置、映像データ管理プログラム及び映像データ管理方法 |
JP2017126896A (ja) * | 2016-01-14 | 2017-07-20 | 株式会社東芝 | 監視システム、監視装置、および再生装置 |
JP6230085B1 (ja) * | 2017-06-01 | 2017-11-15 | 株式会社ReTech | 動画再生システム |
WO2024070751A1 (ja) * | 2022-09-30 | 2024-04-04 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置、画像処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
EP1148715A1 (en) | 2001-10-24 |
JP3677192B2 (ja) | 2005-07-27 |
US6928232B2 (en) | 2005-08-09 |
US20020006163A1 (en) | 2002-01-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3677192B2 (ja) | 画像処理装置 | |
US7421727B2 (en) | Motion detecting system, motion detecting method, motion detecting apparatus, and program for implementing the method | |
AU2008200926B2 (en) | On-camera summarisation of object relationships | |
JP2004023373A (ja) | 画像処理装置及びその方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体 | |
CN105991976A (zh) | 生成事件视频序列的方法和***以及包括此***的摄像机 | |
TW201628405A (zh) | 視訊編碼方法及視訊編碼器系統 | |
JP2008042695A (ja) | 監視カメラ装置、監視カメラシステム、監視カメラ画像記録方法 | |
JP2006033380A (ja) | 監視システム | |
JP2003163914A (ja) | 監視システム及び画像伝送ユニット | |
US20220129680A1 (en) | Alert generation based on event detection in a video feed | |
JP4698260B2 (ja) | 画像記録装置及び監視システム | |
JP2003284062A (ja) | 監視システム | |
JP4508043B2 (ja) | 映像監視装置及び映像監視用プログラム | |
JP2003284050A (ja) | テレビジョン監視システム | |
JP2005328333A (ja) | 監視システム | |
JP2005300943A (ja) | 情報表示位置制御方法及び装置 | |
JP3061430U (ja) | 遠隔監視セキュリティシステム | |
KR100563781B1 (ko) | 주목해야 할 화상의 표시방법과 장치 및 원격화상감시시스템 | |
JP2003319386A (ja) | モバイル端末機への撮影画像伝送システム | |
JP2003111061A (ja) | 動体検出装置、動体検出システムおよび動体検出方法 | |
JP2006165664A (ja) | 画像送受信システム | |
JPH11275557A (ja) | 監視画像記録装置 | |
EP4270939A1 (en) | System and method for adding one additional image frame or a sequence of additional image frames to a stream of encoded image frames | |
JP2006180200A (ja) | 監視装置 | |
JP2001245278A (ja) | 監視装置及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20040827 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040907 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20050106 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050207 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20050207 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20050329 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050426 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050506 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080513 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090513 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100513 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110513 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110513 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120513 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120513 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130513 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140513 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |