JP2006295854A - マルチカメラシステム、撮像装置およびコントローラ、並びに、撮像制御方法、撮像装置制御方法および撮像方法 - Google Patents

マルチカメラシステム、撮像装置およびコントローラ、並びに、撮像制御方法、撮像装置制御方法および撮像方法 Download PDF

Info

Publication number
JP2006295854A
JP2006295854A JP2005117625A JP2005117625A JP2006295854A JP 2006295854 A JP2006295854 A JP 2006295854A JP 2005117625 A JP2005117625 A JP 2005117625A JP 2005117625 A JP2005117625 A JP 2005117625A JP 2006295854 A JP2006295854 A JP 2006295854A
Authority
JP
Japan
Prior art keywords
imaging
frame
reference signal
synchronization reference
controller
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005117625A
Other languages
English (en)
Other versions
JP4501758B2 (ja
Inventor
Koji Kurosawa
宏司 黒沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2005117625A priority Critical patent/JP4501758B2/ja
Priority to EP06007449A priority patent/EP1713256A3/en
Priority to KR1020060032344A priority patent/KR101209497B1/ko
Priority to US11/401,322 priority patent/US7889238B2/en
Priority to CNB2006100754019A priority patent/CN100426840C/zh
Publication of JP2006295854A publication Critical patent/JP2006295854A/ja
Application granted granted Critical
Publication of JP4501758B2 publication Critical patent/JP4501758B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • H04N5/06Generation of synchronising signals
    • H04N5/067Arrangements or circuits at the transmitter end
    • H04N5/073Arrangements or circuits at the transmitter end for mutually locking plural sources of synchronising signals, e.g. studios or relay stations
    • H04N5/0733Arrangements or circuits at the transmitter end for mutually locking plural sources of synchronising signals, e.g. studios or relay stations for distributing synchronisation pulses to different TV cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 複数の撮像装置の撮像フレームを同期させる。
【解決手段】 タイミング信号発生部25は、同期基準信号に基づき、映像フレームを読み出すタイミングを指定するタイミング信号を生成する。システムコントローラ27は、コントローラ10から供給されたフレーム比とフレームシーケンス番号とに基づき、映像フレーム内の画素位置とライン位置とを示すリセット位相を決定する。撮像タイミング信号発生部26は、リセット位相が示す画素位置およびライン位置と、タイミング信号により示される映像フレーム内の画素位置およびライン位置とが一致すると、撮像タイミング信号を生成し、撮像部21は、撮像タイミング信号により1撮像フレーム毎に撮像を開始する。このように、撮像フレームの先頭位置を、同期基準信号に同期した映像フレームの所定の位置に合わせることで、複数の撮像装置の撮像フレームを同期させることができる。
【選択図】 図1

Description

この発明は、可変速撮像が可能なマルチカメラシステム、撮像装置およびコントローラ、並びに、撮像制御方法、撮像装置制御方法および撮像方法に関する。
放送局やスタジオで用いられる撮像装置や編集装置などの放送機器には、その放送局内やスタジオ内で共通の同期信号が供給され、この同期信号に基づき各機器の同期をとっている。従来の放送システムは、複数の撮像装置を用いて被写体を撮影した場合でも、再生時に、各撮像装置から出力された映像信号を切り替えた際に、映像のタイミングがずれることなく再生することが可能であった。
このように、放送局やスタジオで用いられる複数の放送機器に対して、共通の同期信号を供給し、各機器の同期をとる技術が非特許文献1に記載されている。
長坂 進夫、小野 義一、渡辺 詔二、小山 賢二共著「よくわかるテレビ・放送技術」オーム社出版局、平成10年1月20日、p.69−74
ところで、特殊撮影などでは、撮影した被写体が撮影時の速度よりも速く動いて見えることを想定して撮影する可変速撮影を行うことがある。例えば、フィルムを用いた撮影の場合、撮影時に、フィルムの回転速度を通常の撮影時よりも遅くした状態で撮影を行い、映写時に、通常の速度でフィルムを回転させることにより、高速映写を実現することができる。
また、例えば、撮像映像をディジタルビデオデータにより記録する場合、通常通り撮影および記録を行い、記録されたディジタルビデオデータの中から所定間隔で映像フレームを取り出し、取り出した映像フレームを連続的に再生することにより、高速再生を実現している。
しかしながら、従来方法によるディジタルビデオデータを用いた可変速撮影の場合、再生に用いる映像フレーム数に対して、記録される映像フレーム数が多く、再生に必要のない映像フレームまで記録することになり、再生映像フレームのデータ容量よりも大容量の記録媒体が必要となっていた。
この問題を解決するために、撮影時の映像フレームのフレーム周波数を再生時の映像フレームのフレーム周波数よりも低く設定して被写体を撮影し、再生時に規定のフレーム周波数の映像信号として再生することにより、高速再生を実現するようにした可変速撮像が可能な撮像装置が提案されている。
このような可変速撮像が可能な撮像装置を複数台用いて可変速撮像を行う場合について考える。この場合、撮影時の撮像フレームのフレーム周波数と、再生時の映像フレームのフレーム周波数とが異なるため、撮像装置から出力される映像フレームの同期をとるだけでなく、撮影のタイミングを合わせるために、撮像フレームについても同期をとる必要がある。
複数の撮像装置の可変速の撮像フレームを同期させる方法として、撮像フレームを同期させるための可変速に対応したタイミング信号を、現在の放送システムに用いられている同期信号に重畳させて、各撮像装置に供給する方法が考えられる。しかしながら、この場合、従来の同期信号と、可変速に対応したタイミング信号を重畳させた同期信号との互換性がとれなくなってしまうという問題点があった。
複数の撮像装置の可変速の撮像フレームを同期させる別の方法として、撮像装置を制御する制御コマンドを用いて、可変速の撮像フレームのタイミングを指定する方法も考えられる。しかしながら、制御コマンドは、非同期の信号であるため、正確なタイミングを指定するのは難しく、撮像フレームを同期させることが極めて困難であるという問題点があった。
このように、従来の放送システムにおいて、複数台の撮像装置を用いて可変速撮像を行う場合、複数の撮像装置の撮像フレームを同期させる方法がなかった。
したがって、この発明の目的は、可変速での撮像時に、複数の撮像装置の撮像フレームを同期させるようなマルチカメラシステム、撮像装置およびコントローラ、並びに、撮像制御方法、撮像装置制御方法および撮像方法を提供することにある。
上述した課題を解決するために、請求項1に記載の発明は、同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報を、フレームの1つ前のフレームのフレーム周期内に1または複数の撮像装置にそれぞれ送信するリセット位相送信部を有するコントローラと、被写体からの光を撮像する撮像部と、コントローラから送信されたリセット位相を示す情報に基づき、1撮像フレーム分の撮像を開始するように撮像部を駆動する撮像駆動部と、撮像部で撮像された1撮像フレーム分の撮像データを、コントローラから送信された同期信号に基づき出力する出力部とを有する1または複数の撮像装置とを備えることを特徴とするマルチカメラシステムである。
また、請求項4に記載の発明は、同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報を、フレームの1つ前のフレームのフレーム周期内に1または複数の撮像装置にそれぞれ送信し、1または複数の撮像装置のそれぞれは、コントローラから送信されたリセット位相を示す情報に基づき1撮像フレーム分の撮像を開始し、撮像により得られた1撮像フレーム分の撮像データを、コントローラから送信された同期基準信号に基づき出力するようにしたことを特徴とする撮像制御方法である。
また、請求項5に記載の発明は、同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報を、フレームの1つ前のフレームのフレーム周期内に1または複数の撮像装置にそれぞれ送信するリセット位相送信部を有することを特徴とするコントローラである。
また、請求項6に記載の発明は、同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報を、フレームの1つ前のフレームのフレーム周期内に1または複数の撮像装置に対してそれぞれ送信するようにしたことを特徴とする撮像装置制御方法である。
また、請求項7に記載の発明は、被写体からの光を撮像する撮像部と、外部から送信された同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報に基づき、1撮像フレーム分の撮像を開始するように撮像部を駆動する撮像駆動部と、撮像部で撮像された1撮像フレーム分の撮像データを、外部から送信された同期基準信号に基づき出力する出力部とを有することを特徴とする撮像装置である。
また、請求項8に記載の発明は、外部から送信された同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報に基づき、1撮像フレーム分の撮像を開始するように撮像を行い、撮像により得られた1撮像フレーム分の撮像データを、外部から送信された同期基準信号に基づき出力するようにしたことを特徴とする撮像方法である。
上述したように、請求項1および4に記載の発明は、同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報を、フレームの1つ前のフレームのフレーム周期内に1または複数の撮像装置にそれぞれ送信し、1または複数の撮像装置のそれぞれは、コントローラから送信されたリセット位相を示す情報に基づき1撮像フレーム分の撮像を開始し、撮像により得られた1撮像フレーム分の撮像データを、コントローラから送信された同期基準信号に基づき出力するようにしているため、複数の撮像装置から出力されるそれぞれの撮像フレームを同期させることができる。
また、請求項5および6に記載の発明は、同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報を、フレームの1つ前のフレームのフレーム周期内に1または複数の撮像装置に対してそれぞれ送信するようにしているため、複数の撮像装置から出力されるそれぞれの撮像フレームを同期させることができる。
また、請求項7および8に記載の発明は、外部から送信された同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報に基づき、1撮像フレーム分の撮像を開始するように撮像を行い、撮像により得られた1撮像フレーム分の撮像データを、外部から送信された同期基準信号に基づき出力するようにしているため、複数の撮像装置を用いても、それぞれの撮像装置が出力する撮像フレームを同期させることができる。
この発明は、同期基準信号に基づき、映像フレームの読み出しタイミングを制御して、複数の撮像装置の映像フレームの同期をとるようにしている。そして、この映像フレームを基準として、映像フレームの所定の画素を読み出すタイミングを用いて、撮像フレームの先頭の位置が書き込まれるタイミングを指定するようにしているため、複数の撮像装置の撮像フレームの同期をとることができるという効果がある。
以下、この発明の実施の一形態について、図面を参照しながら説明する。図1は、この発明の実施の一形態に適用可能な撮像装置11の一例の構成を示す。撮像装置11は、例えば、撮像部21、A/D変換部22、ディジタル信号処理部23、メモリ24、タイミング信号発生部25、撮像タイミング信号発生部26、システムコントローラ27および表示装置28を有する。
タイミング信号発生部25は、外部から供給された同期基準信号に基づき、タイミング信号を生成し、ディジタル信号処理部23に供給すると共に、撮像タイミング信号発生部26に供給する。この同期基準信号は、この撮像装置11が放送局内やスタジオ内で用いられる場合は、放送局内やスタジオ内の放送機器で共通に用いられる信号である。例えば、放送局内やスタジオ内では、この同期基準信号を用いて、映像フレームの同期をとることができる。
システムコントローラ27は、例えばCPU(Central Processing Unit)からなり、図示されないROM(Read Only Memory)に予め記憶されたプログラムに従い、図示されないRAM(Random Access Memory)をプログラム実行の際のワークメモリとして用いて、この撮像装置11の各部を制御する。システムコントローラ27は、外部から供給された制御コマンドに基づき、撮像信号の撮像フレームのフレーム周波数を決定するための信号を生成し、撮像タイミング信号発生部26に供給する。
撮像タイミング信号発生部26は、タイミング信号発生部25から供給されたタイミング信号と、システムコントローラ27から供給された撮像フレームのフレーム周波数を決定するための信号とに基づき、撮像部21による撮像タイミングを決定する撮像タイミング信号を生成し、撮像部21およびディジタル信号処理部23に供給する。
撮像部21は、例えば、CCD(Charge Coupled Devices)を撮像素子として用い、撮像素子に受光された光を光電変換により撮像信号に変換する。撮像素子は、例えば、2200画素×1125ラインを有効画素とする。撮像部21は、撮像タイミング信号発生部26から供給された撮像タイミング信号に基づき、1フレーム分の撮像信号を出力する。撮像部21から出力された撮像信号は、A/D変換部22に供給され、ディジタル撮像信号に変換され、ディジタル信号処理部23に供給される。
ディジタル信号処理部23は、供給されたディジタル撮像信号に対して、γ(ガンマ)補正やホワイトバランス調整といった所定の信号処理を施し、メモリ24に書き込む。メモリ24は、データを書き込む領域として、それぞれ少なくとも1フレーム分の映像信号を書き込むことができるバンクa、バンクbおよびバンクcの少なくとも3バンクを有する。ディジタル信号処理部23から供給されたディジタル撮像信号に基づく撮像フレームのデータは、3バンクのうち、所定に選択されたバンクに書き込まれる。メモリ24のバンクに書き込まれた撮像フレームのデータは、タイミング信号発生部25から供給されたタイミング信号に同期してメモリ24のバンクから読み出され、読み出されたデータが映像信号として外部に出力されると共に、表示装置28に供給される。
表示装置28は、例えば、ビューファインダとして用いられ、ディジタル信号処理部23から出力された映像信号を表示する。
次に、撮像装置11により可変速撮像を行う方法について説明する。撮像部21でCCDに撮像され、所定の信号処理を施した後、A/D変換部22でディジタル撮像信号に変換された撮像フレームのデータがメモリ24のバンクに書き込まれる。このメモリ24に書き込まれた撮像フレームのデータは、1撮像フレーム分のデータが全て書き込まれ、当該撮像フレームのデータの書き込み完了後にくる、同期基準信号に同期した映像フレームの先頭の位置から読み出される。
なお、同期基準信号に同期した映像フレームは、フレーム周波数が30Hz(ヘルツ)、1フレームあたりのライン数が1125ライン、1ラインあたりの画素数が2200画素であるものとする。
ここで、例えば、再生時の速度が撮像時の速度の1.5倍となるようにする場合について考える。これは、例えば、20Hzのフレーム周波数で撮像した映像を、30Hzのフレーム周波数で再生することで実現できる。したがって、撮像フレームのフレーム周波数と、同期基準信号に同期した映像フレームのフレーム周波数との比をフレーム比とするとき、この値が2/3になる。CCDを駆動するクロック周波数と1フレームあたりのライン数とが固定的であるとき、撮像フレームの1ラインあたりの画素数は、撮像フレームのフレーム周波数が30Hzの場合の1ラインあたりの画素数である2200画素に、フレーム比の逆数である3/2を乗じて、3300画素となる。
すなわち、再生時の速度が撮像時の速度のX倍となるようにする場合には、フレーム比を1/Xとすればよいので、1ラインあたりの画素数は、同期基準信号に基づく撮像フレームのフレーム周波数における1ラインあたりの画素数である2200画素に、フレーム比の逆数であるXを乗じて、「2200×X」画素となる。
一方、CCDを駆動するクロック周波数が固定的であると共に、CCDの1ラインあたりの有効画素数がフレーム周波数によらず固定的である。そのため、図2に示すように、撮像フレームのフレーム周波数に対応した1ラインあたりの画素数(この例では、3300画素)と、CCDの1ラインあたりの画素数との差分である1100画素分の時間については、例えば、何も撮像されないようにして、ブランキング部分とする。メモリ24のバンクには、ブランキング部分を除いた、2200画素×1125ラインの撮像フレームのデータが書き込まれる。
撮像装置11により可変速撮像を行う方法について、図3を参照して、より具体的に説明する。図3Aは、バンクaのデータの書き込みおよび読み出しのタイミングを示し、図3Bは、バンクbのデータの書き込みおよび読み出しのタイミングを示し、図3Cは、バンクcのデータの書き込みおよび読み出しのタイミングを示す。図3Dは、同期基準信号に基づくフレーム先頭位置に対応するタイミングを示す。
撮像フレームのデータは、例えば、メモリ24の3つのバンクに順に書き込まれ、書き込みが完了した撮像フレームのデータは、映像フレームの先頭の位置で、データの読み出しが行われる。なお、映像フレームのデータの読み出しが終わっても、次の撮像フレームの書き込みが完了していない場合は、次の映像フレームの先頭で、当該映像フレームのデータが再度読み出される。
図3において、撮像フレーム#1のデータがメモリ24のバンクaに書き込まれる(図3A)。バンクaに書き込まれた撮像フレーム#1のデータは、撮像フレーム#1のデータの書き込み完了後にくる、同期基準信号に基づくフレームの先頭の位置から映像フレーム#11として、同期基準信号に基づき読み出される。
撮像フレーム#1のデータの書き込みが完了すると、撮像フレーム#2のデータがメモリ24のバンクbに書き込まれる(図3B)。映像フレーム#11の読み出しが完了した時点では、撮像フレーム#2のデータの書き込みが完了していないので、バンクaに書き込まれている撮像フレーム#1のデータが、同期基準信号に基づくフレームの先頭の位置から、映像フレーム#12として再度読み出される。バンクbに書き込まれた撮像フレーム#2のデータは、撮像フレーム#2のデータの書き込み完了後にくる、同期基準信号に基づくフレームの先頭の位置から映像フレーム#13として、同期基準信号に基づき読み出される。
撮像フレーム#2のデータの書き込みが完了すると、撮像フレーム#3のデータがメモリ24のバンクcに書き込まれる(図3C)。バンクcに書き込まれた撮像フレーム#3のデータは、撮像フレーム#3のデータの書き込み完了後にくる、同期基準信号に基づくフレームの先頭の位置から映像フレーム#14として、同期基準信号に基づき読み出される。撮像フレーム#3のデータの書き込みが完了すると、撮像フレーム#4のデータがメモリ24のバンクaに書き込まれる。映像フレーム#14の読み出しが完了した時点では、撮像フレーム#4のデータの書き込みが完了していないので、バンクcに書き込まれている撮像フレーム#3のデータが、同期基準信号に基づくフレームの先頭の位置から、映像フレーム#15として再度読み出される。
映像フレーム#15の読み出しが完了した後、バンクaに書き込まれた撮像フレーム#4のデータは、撮像フレーム#4のデータの書き込み完了後にくる、同期基準信号に基づくフレームの先頭の位置から映像フレーム#16として、同期基準信号に基づき読み出される。
以下、上述と同様にして、メモリ24の各バンクへの撮像フレームの書き込みおよび映像フレームの読み出しが行われる。
このように、フレーム周波数が20Hzの撮像フレームを、フレーム周波数が30Hzの映像フレームとして読み出し、重複した映像フレームを取り去ることにより、この映像信号を再生した場合に、被写体の速度が撮影時の速度よりも1.5倍速く見えるように再生することができる。
次に、上述した撮像装置11を複数台用いたマルチカメラシステム1の一例の構成について、図4を参照して説明する。なお、図4では、4台の撮像装置11、11、・・・が接続されているが、これに限らず、さらに多数の撮像装置を用いてもよい。また、例えば、少数の撮像装置を用いてもよい。
コントローラ10は、各撮像装置11、11、・・・を制御する制御コマンドを生成し、各撮像装置11、11、・・・へ供給すると共に、各撮像装置11、11、・・・に対して同期基準信号を供給する。また、撮像装置11、11、・・・から供給された映像信号は、コントローラ10に供給される。
図5は、コントローラ10の一例の構成を示す。信号処理部50は、入力された映像信号に対して、所定の信号処理を施し、外部に出力する。制御部51は、各撮像装置11、11、・・・を制御する制御コマンドを生成し、生成された制御コマンドを各撮像装置11、11、・・・に供給する。同期基準信号部52は、同期基準信号を各撮像装置11、11、・・・に供給する。この同期基準信号は、例えば、同期基準信号部52で生成してもよいし、外部から供給された同期基準信号を成形して出力するようにしてもよい。また、例えば、同期基準信号は、外部の機器から各撮像装置11、11、・・・に供給するようにしてもよい。コントローラ10は、例えば、図示されないシステムコントローラにより、コントローラ10全体が制御される。
ここで、各撮像装置11、11、・・・の撮像フレームを同期させる方法について考える。複数の撮像装置11、11、・・・を使用する場合、各撮像装置11、11、・・・がそれぞれ撮像を開始してしまい、各撮像装置11、11、・・・の撮像開始タイミングがずれてしまうことが考えられる。そのため、各撮像装置11、11、・・・の撮像フレームを同期させる必要がある。
そこで、この発明の実施の一形態では、各撮像装置11、11、・・・において、メモリ24から読み出される映像フレームを基準として、映像フレームの所定の画素を読み出すタイミングを用いて、撮像が開始されるタイミングを撮像フレーム毎に指定することで、各撮像装置11、11、・・・の撮像フレームを同期させるようにした。
図6は、撮像装置11におけるタイミング信号発生部25および撮像タイミング信号発生部26の一例の構成を示す。タイミング信号発生部25は、例えば、同期信号分離部30、第1のリセット信号発生部31および第1のカウンタ32を有する。同期信号分離部30は、コントローラ10から供給された同期基準信号から、垂直同期信号および水平同期信号を分離すると共に、クロックを抽出する。垂直同期信号、水平同期信号およびクロックは、第1のリセット信号発生部31に供給される。クロックはまた、後述する第2のリセット信号発生部40にも供給される。第1のリセット信号発生部31は、同期信号分離部30から供給された垂直同期信号および水平同期信号に基づきリセット信号を生成し、生成されたリセット信号と、同期信号分離部30から供給されたクロックとを第1のカウンタ32に供給する。
第1のカウンタ32は、第1のリセット信号発生部31から供給されたリセット信号に基づきリセットされ、同期基準信号に同期した画素位置およびライン位置をカウントする。第1のカウンタ32でカウントされたライン中の画素位置を示す画素カウント値と、フレーム中のライン位置を示すラインカウント値は、メモリ24からの映像フレームの読み出しタイミングを指示する読み出しタイミング信号としてディジタル信号処理部23へ供給されると共に、撮像タイミング信号発生部26に供給される。
一方、コントローラ10は、撮像速度の設定に基づき、フレーム比と後述するフレームシーケンス番号とを生成する。このフレーム比およびフレームシーケンス番号は、制御コマンドとして各撮像装置11、11、・・・のそれぞれのシステムコントローラ27に供給される。システムコントローラ27は、コントローラ10から供給されたフレーム比とフレームシーケンス番号とに基づき、撮像フレームの1ラインあたりの画素数を示す信号と、後述するリセット位相を示す情報とを生成し、撮像タイミング信号発生部26に供給する。
撮像タイミング信号発生部26は、例えば、第2のリセット信号発生部40、第2のカウンタ41および駆動パルス発生部42を有する。第2のリセット信号発生部40は、第1のカウンタ32から供給された映像フレームの画素カウント値、ラインカウント値およびクロックと、システムコントローラ27から供給されたリセット位相を示す情報とに基づき、第2のカウンタ41の値をリセットするリセット信号を所定のタイミングで生成する。生成されたリセット信号は、第2のカウンタ41に供給される。また、クロックも第2のリセット信号発生部40から第2のカウンタ41に供給される。
第2のカウンタ41は、システムコントローラ27から供給された、撮像フレームの1ラインあたりの画素数を示す信号に基づき、第2のカウンタ41における画素カウント値の上限値をセットする。また、第2のカウンタ41は、リセット部40から供給されたリセット信号に基づきリセットされ、撮像フレームのライン中の画素位置および1撮像フレーム中のライン位置のカウントを開始する。すなわち、第2のカウンタ41がリセットされることで、撮像フレームの先頭の位置が指定される。第2のカウンタ41でカウントされたライン中の画素位置を示す画素カウント値と、フレーム中のライン位置を示すラインカウント値は、駆動パルス発生部42に供給される。
駆動パルス発生部42は、第2のカウンタ41から供給された画素カウント値とラインカウント値とにしたがって、CCDを駆動させるための駆動パルスを生成し、撮像部21に供給する。
この実施の一形態による撮像装置11は、映像フレームの所定の位置に対して、フレーム比およびフレームシーケンス番号に応じて撮像フレームの先頭の位置を指定することにより、複数の撮像装置11、11、・・・の間で撮像タイミングを同期させた可変速撮像を可能としている。
図7は、フレーム比とフレームシーケンス番号と撮像フレームの先頭の位置との一例の対応関係を示す。画素数は、フレーム比に基づく撮像フレームの1ラインあたりの画素数を示す。例えば、フレーム比が2/3である場合、撮像フレームの1ラインあたりの画素数が3300画素であることを示す。なお、この撮像フレームの1ラインあたりの画素数は、上述したように、映像フレームの1ラインあたりの画素数である2200画素にフレーム比の逆数を乗じることによって算出できる。
フレームシーケンス番号は、撮像フレームの先頭の位置と、映像フレームの先頭の位置とが一致する映像フレームから、次に撮像フレームの先頭の位置と映像フレームの先頭の位置とが一致する映像フレームまでの時間を1周期として考え、1周期内の映像フレームに対して割り当てられる連続した番号を示す。例えば、フレーム比が2/3の場合は、3映像フレームで1周期であるので、1周期内の3映像フレームに対して、フレームシーケンス番号として、「0」、「1」および「2」が割り当てられる。なお、フレームシーケンス番号「0」は、撮像フレームと映像フレームとの先頭のタイミングが一致する映像フレームに設定される。
リセット位相は、撮像フレームの先頭の位置を指定するための同期基準信号内の位置を示し、映像フレームの読み出し位置に一致している。例えば、リセット位相が「ライン=563、画素=1100」の場合は、カウンタ32のラインカウント値が「563」となり、かつ、画素カウント値が「1100」となった時に、カウンタ41のカウント値をリセットして、撮像フレームの先頭の位置を指定する。また、リセット位相の記載がない欄は、カウンタ41の値をリセットしないことを示す。
なお、図7に示す、フレーム比とフレームシーケンス番号と撮像フレームの先頭の位置との対応関係は、例えば、システムコントローラ27に接続された図示されないROMに、予めテーブルとして記憶される。システムコントローラ27は、制御コマンドが供給されたときに、制御コマンドに重畳されたフレーム比とフレームシーケンス番号とに基づき、このテーブルを参照し、撮像フレームにおける1ラインあたりの画素数とリセット位相とを求める。また、これに限らず、例えば、フレーム比とフレームシーケンス番号とに基づき、画素数とリセット位相を算出するようにしてもよい。
図7に示すフレーム比とフレームシーケンス番号と撮像フレームの先頭の位置との対応関係を用いて可変速撮像を行う方法について、図8を参照して説明する。図8Aは、バンクaのデータの書き込みおよび読み出しのタイミングを示し図8Bは、バンクbのデータの書き込みおよび読み出しのタイミングを示し、図8Cは、バンクcのデータの書き込みおよび読み出しのタイミングを示す。図8Dは、フレーム比およびフレームシーケンス番号がコントローラ10からシステムコントローラ27に供給されるタイミングを示し、図8Eは、同期基準信号に基づくフレーム先頭位置に対応するタイミングを示す。
この例では、撮像開始時のフレーム比を2/3に設定し、その後、時点Aでフレーム比を1/2に変更し、時点Bでフレーム比を1/3に変更するようにしている。すなわち、映像フレームのフレーム周波数を30Hz、1ラインあたりの画素数を2200画素とすると、地点Aまでの撮像フレームのフレーム周波数が20Hz、1ラインあたりの画素数が3300画素となる。また、時点Aから時点Bまでの撮像フレームのフレーム周波数が15Hz、1ラインあたりの画素数が4400画素となる。さらに、時点B以降の撮像フレームのフレーム周波数が10Hz、1ラインあたりの画素数が6600画素となる。
コントローラ10は、指定された撮像速度に基づき、撮像フレーム毎にフレーム比およびフレームシーケンス番号を出力する。このフレーム比およびフレームシーケンス番号は、それぞれの撮像装置11、11、・・・のシステムコントローラ27に供給され、同期基準信号の1フレーム内の任意のタイミングで、1フレームシーケンス番号毎に1つ送られる。
システムコントローラ27は、フレーム比およびフレームシーケンス番号に基づき、上述のテーブルを参照してリセット位相および撮像フレームの1ラインあたりの画素数を決定する。同期基準信号のリセット位相で示されたタイミングで第2のカウンタ41がリセットされ、さらに、撮像フレームの1ラインあたりの画素数に基づき、画素カウント値の上限値が設定されて撮像が開始される。撮像された撮像フレーム#1のデータは、メモリのバンクaに書き込まれる(図8A)。
一方、フレーム比およびフレームシーケンス番号(フレーム比=2/3、フレームシーケンス番号=0)がコントローラ10から出力され、システムコントローラ27に供給される(図8D)。このフレーム比およびフレームシーケンス番号が供給された直後の同期基準信号における先頭が、映像フレーム#11の先頭の位置になる。このフレーム比とフレームシーケンス番号とに基づくリセット位相の値により、第1のカウンタ32のカウント値が「ライン=0、画素=1」となったときに、第2のカウンタ41がリセットされて1撮像フレーム分の撮像が開始される。撮像された撮像フレーム#2のデータは、メモリ24のバンクbに書き込まれる(図8B)。バンクaに書き込まれた撮像フレーム#1のデータは、撮像フレーム#1のデータの書き込み完了後にくる、同期基準信号に基づくフレームの先頭の位置から映像フレーム#11として、同期基準信号に基づき読み出される。
フレーム比およびフレームシーケンス番号(フレーム比=2/3、フレームシーケンス番号=1)がコントローラ10から出力され、システムコントローラ27に供給される。このフレーム比およびフレームシーケンス番号が供給された直後の同期基準信号における先頭が、映像フレーム#12の先頭の位置になる。このフレーム比とフレームシーケンス番号とに基づくリセット位相の値により、第1のカウンタ32のカウント値が「ライン=563、画素=1100」となったときに、第2のカウンタ41がリセットされて1撮像フレーム分の撮像が開始される。撮像された撮像フレーム#3のデータは、メモリ24のバンクcに書き込まれる(図8C)。映像フレーム#11の読み出しが完了した時点では、撮像フレーム#2のデータの書き込みが完了していないので、バンクaに書き込まれている撮像フレーム#1のデータが、映像フレーム#12として同期基準信号に基づき、再度読み出される。
フレーム比およびフレームシーケンス番号(フレーム比=2/3、フレームシーケンス番号=2)がコントローラ10から出力され、システムコントローラ27に供給される。このフレーム比およびフレームシーケンス番号が供給された直後の同期基準信号における先頭が、映像フレーム#13の先頭の位置になる。このフレーム比およびフレームシーケンス番号の場合は、リセット位相が設定されていないため、撮像は行われない。バンクbに書き込まれた撮像フレーム#2のデータは、撮像フレーム#2のデータの書き込み完了後にくる、同期基準信号に基づくフレームの先頭の位置から映像フレーム#13として、同期基準信号に基づき読み出される。
フレーム比およびフレームシーケンス番号(フレーム比=1/2、フレームシーケンス番号=0)がコントローラ10から出力され、システムコントローラ27に供給される。このフレーム比およびフレームシーケンス番号が供給された直後の同期基準信号における先頭が、映像フレーム#14の先頭の位置になる。このフレーム比およびフレームシーケンス番号がシステムコントローラ27に供給されると、時点Aにおいて、フレーム比が2/3から1/2に変更され、第2のカウンタ41にセットされている画素カウント値の上限値が3300画素から4400画素にセットされ、撮像速度が変更される。
以下、同様にして、フレーム比およびフレームシーケンス番号がシステムコントローラ27に供給され、このフレーム比とフレームシーケンス番号とに基づき撮像が行われ、撮像フレームの書き込みおよび映像フレームの読み出しが行われる。
フレーム比およびフレームシーケンス番号(フレーム比=1/3、フレームシーケンス番号=0)がコントローラ10から出力され、システムコントローラ27に供給される。このフレーム比およびフレームシーケンス番号が供給された直後の同期基準信号における先頭が、映像フレーム#20の先頭の位置になる。このフレーム比およびフレームシーケンス番号がシステムコントローラ27に供給されると、時点Bにおいて、フレーム比が1/2から1/3に変更され、第2のカウンタ41にセットされている画素カウント値の上限値が4400画素から6600画素にセットされ、撮像速度が変更される。
このように、図5に示すフレーム比とフレームシーケンス番号と撮像フレームの先頭の位置との対応関係に基づき、同期基準信号に同期した映像フレームの所定の画素を読み出すタイミングを用いて、撮像フレームの先頭の位置を書き込むタイミングを指定することにより、複数の撮像装置11、11、・・・の撮像フレームの同期をとることができる。
なお、この例では、フレーム比を2/3、1/2および1/3とした場合の可変速撮像の方法について説明したが、これはこの例に限られない。例えば、フレーム比は、1/30〜30/30の間の任意のフレーム比に対して適用可能である。すなわち、1〜30倍速撮影に対応できる。また、映像フレームのフレームサイズが2200画素×1125ラインである場合について説明したが、これは一例であって、他のフレームサイズである場合にも適用できる。
さらに、リセット位相は、コントローラ10からシステムコントローラ27に送られるフレーム比とフレームシーケンス番号とに基づき、決定されるように説明したが、これに限らず、例えば、コントローラ10からシステムコントローラ27に、リセット位相を示す情報を直接供給するようにしてもよい。
また、この発明の実施の一形態では、コントローラを用いて複数の撮像装置を制御するように説明したが、これはこの例に限られない。例えば、1台の撮像装置がコントローラ10の代わりとなり、自身が動作しているフレーム比とフレームシーケンス番号を他の撮像装置に対して送信することによって、複数の撮像装置の撮像フレームを同期させるようにしてもよい。
この発明の実施の一形態に適用可能な撮像装置11の一例の構成を示すブロック図である。 撮像フレームの一例を示す略線図である。 可変速撮像を行う際の撮像フレームおよび映像フレームのタイミングを示す略線図である。 マルチカメラシステムの一例の構成を示すブロック図である。 コントローラの一例の構成を示すブロック図である。 タイミング信号発生部25および撮像タイミング信号発生部26の一例の構成を示すブロック図である。 フレーム比とフレームシーケンス番号と撮像フレームの先頭の位置との一例の対応関係を示す略線図である。 撮像中に撮像フレームのフレーム周波数を変更して可変速撮像を行う際の撮像フレームおよび映像フレームのタイミングを示す略線図である。
符号の説明
1 マルチカメラシステム
10 コントローラ
11 撮像装置
23 ディジタル信号処理部
24 メモリ
25 タイミング信号発生部
26 撮像タイミング信号発生部
27 システムコントローラ
30 同期信号分離部
31 第1のリセット信号発生部
32 第1のカウンタ
40 第2のリセット信号発生部
41 第2のカウンタ
42 駆動パルス発生部
50 信号処理部
51 制御部
52 同期基準信号部

Claims (8)

  1. 同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報を、上記フレームの1つ前のフレームのフレーム周期内に1または複数の撮像装置にそれぞれ送信するリセット位相送信部を有するコントローラと、
    被写体からの光を撮像する撮像部と、
    上記コントローラから送信された上記リセット位相を示す情報に基づき、1撮像フレーム分の撮像を開始するように上記撮像部を駆動する撮像駆動部と、
    上記撮像部で撮像された1撮像フレーム分の撮像データを、上記コントローラから送信された上記同期信号に基づき出力する出力部と
    を有する1または複数の撮像装置と
    を備えることを特徴とするマルチカメラシステム。
  2. 請求項1に記載のマルチカメラシステムにおいて、
    上記リセット位相を示す情報は、上記同期基準信号に基づくクロックで上記撮像フレームの1ラインあたりの画素をカウントしたときの映像フレームの1ラインあたりの画素に対する比を示すフレーム比と、
    撮像フレームの先頭の位置と映像フレームの先頭の位置とが一致する周期内の映像フレームに対して割り当てられる番号を示すフレームシーケンス番号と
    からなることを特徴とするマルチカメラシステム。
  3. 請求項1に記載のマルチカメラシステムにおいて、
    上記撮像フレームは、上記同期基準信号に基づくフレームと異なるフレーム周期であることを特徴とするマルチカメラシステム。
  4. 同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報を、上記フレームの1つ前のフレームのフレーム周期内に1または複数の撮像装置にそれぞれ送信し、
    上記1または複数の撮像装置のそれぞれは、コントローラから送信された上記リセット位相を示す情報に基づき1撮像フレーム分の撮像を開始し、
    上記撮像により得られた1撮像フレーム分の撮像データを、上記コントローラから送信された上記同期基準信号に基づき出力するようにした
    ことを特徴とする撮像制御方法。
  5. 1または複数の撮像装置を制御するコントローラにおいて、
    同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報を、上記フレームの1つ前のフレームのフレーム周期内に上記1または複数の撮像装置にそれぞれ送信するリセット位相送信部を有する
    ことを特徴とするコントローラ。
  6. 1または複数の撮像装置を制御する撮像装置制御方法において、
    同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報を、上記フレームの1つ前のフレームのフレーム周期内に1または複数の撮像装置に対してそれぞれ送信するようにした
    ことを特徴とする撮像装置制御方法。
  7. 被写体からの光を撮像する撮像部と、
    外部から送信された同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報に基づき、1撮像フレーム分の撮像を開始するように上記撮像部を駆動する撮像駆動部と、
    上記撮像部で撮像された1撮像フレーム分の撮像データを、上記外部から送信された同期基準信号に基づき出力する出力部と
    を有することを特徴とする撮像装置。
  8. 外部から送信された同期基準信号に同期したフレーム内の位置を示すリセット位相を示す情報に基づき、1撮像フレーム分の撮像を開始するように撮像を行い、
    上記撮像により得られた1撮像フレーム分の撮像データを、上記外部から送信された同期基準信号に基づき出力するようにした
    ことを特徴とする撮像方法。
JP2005117625A 2005-04-15 2005-04-15 マルチカメラシステムおよび撮像装置、並びに、撮像制御方法および撮像方法 Expired - Fee Related JP4501758B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2005117625A JP4501758B2 (ja) 2005-04-15 2005-04-15 マルチカメラシステムおよび撮像装置、並びに、撮像制御方法および撮像方法
EP06007449A EP1713256A3 (en) 2005-04-15 2006-04-07 Multicamera system, image pickup apparatus, controller, image pickup control method, image pickup apparatus control method, and image pickup method
KR1020060032344A KR101209497B1 (ko) 2005-04-15 2006-04-10 멀티 카메라 시스템, 촬상 제어 방법, 촬상 장치 및 촬상 방법
US11/401,322 US7889238B2 (en) 2005-04-15 2006-04-11 Multicamera system, image pickup apparatus, controller, image pickup control method, image pickup apparatus control method, and image pickup method
CNB2006100754019A CN100426840C (zh) 2005-04-15 2006-04-14 多相机***、图像拾取设备及方法、控制器及控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005117625A JP4501758B2 (ja) 2005-04-15 2005-04-15 マルチカメラシステムおよび撮像装置、並びに、撮像制御方法および撮像方法

Publications (2)

Publication Number Publication Date
JP2006295854A true JP2006295854A (ja) 2006-10-26
JP4501758B2 JP4501758B2 (ja) 2010-07-14

Family

ID=36764679

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005117625A Expired - Fee Related JP4501758B2 (ja) 2005-04-15 2005-04-15 マルチカメラシステムおよび撮像装置、並びに、撮像制御方法および撮像方法

Country Status (5)

Country Link
US (1) US7889238B2 (ja)
EP (1) EP1713256A3 (ja)
JP (1) JP4501758B2 (ja)
KR (1) KR101209497B1 (ja)
CN (1) CN100426840C (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009098763A1 (ja) * 2008-02-06 2009-08-13 Fujitsu Limited 映像処理装置、映像処理方法及び映像処理プログラム
JP2011217062A (ja) * 2010-03-31 2011-10-27 Sony Corp カメラシステム、信号遅延量調整方法及びプログラム
KR20140051737A (ko) * 2012-10-23 2014-05-02 현대모비스 주식회사 차량 카메라 영상 동기화 방법 및 시스템
WO2018101034A1 (ja) 2016-11-29 2018-06-07 ソニー株式会社 撮像装置、撮像制御方法、及び、プログラム
WO2023100680A1 (ja) * 2021-12-03 2023-06-08 ソニーグループ株式会社 情報処理システムおよび情報処理方法

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101208427B1 (ko) * 2008-12-22 2012-12-05 한국전자통신연구원 동기화된 다중 영상 취득을 위한 다중 카메라 제어 및 영상저장 장치 및 방법
KR101007609B1 (ko) * 2009-05-12 2011-01-12 엠텍비젼 주식회사 영상 녹화 장치 및 다채널 영상 인코딩 방법
JP5451260B2 (ja) * 2009-08-28 2014-03-26 キヤノン株式会社 制御装置、制御システム及びコマンド送信方法ならびにプログラム
CN103040435A (zh) * 2011-10-14 2013-04-17 上海美沃精密仪器有限公司 一种移轴断层眼睛扫描***及其方法
US20140085497A1 (en) * 2012-09-26 2014-03-27 Omnivision Technologies, Inc. Systems And Methods For Sychronizing Multiple Video Sensors
CN103108125B (zh) * 2013-01-07 2015-08-19 华中科技大学 一种多相机***的取像同步控制设备及其方法
US10621406B2 (en) * 2017-09-15 2020-04-14 Key Technology, Inc. Method of sorting
US10602119B1 (en) * 2019-05-20 2020-03-24 A & L Canada Laboratories Inc. System and method for multiplexing MIPI multispectral imaging devices
CN111182226B (zh) * 2019-07-16 2021-07-23 北京欧比邻科技有限公司 一种多相机同步工作的方法、装置、介质和电子设备
CN110996011A (zh) * 2019-12-20 2020-04-10 易思维(杭州)科技有限公司 多相机同步触发***
CN115866154B (zh) * 2023-01-28 2023-04-28 南京芯驰半导体科技有限公司 车载多摄像头***的时延测量方法、装置、***及汽车

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001211347A (ja) * 2000-01-27 2001-08-03 Fuji Photo Film Co Ltd タイミング発生器
JP2005039709A (ja) * 2003-07-18 2005-02-10 Sony Corp 撮像装置
JP2005039707A (ja) * 2003-07-18 2005-02-10 Sony Corp 撮像装置と同期信号発生装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4631125B2 (ja) * 2000-04-07 2011-02-16 ソニー株式会社 カメラコントロールユニット、映像信号同期方法およびカメラシステム
US8023796B2 (en) * 2000-11-07 2011-09-20 Panasonic Corporation Video signal producing system and video signal recording/reproducing device in that system
JP2004266458A (ja) * 2003-02-28 2004-09-24 Shimadzu Corp 撮影装置、および、同期撮影タイミング制御器

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001211347A (ja) * 2000-01-27 2001-08-03 Fuji Photo Film Co Ltd タイミング発生器
JP2005039709A (ja) * 2003-07-18 2005-02-10 Sony Corp 撮像装置
JP2005039707A (ja) * 2003-07-18 2005-02-10 Sony Corp 撮像装置と同期信号発生装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009098763A1 (ja) * 2008-02-06 2009-08-13 Fujitsu Limited 映像処理装置、映像処理方法及び映像処理プログラム
JP2011217062A (ja) * 2010-03-31 2011-10-27 Sony Corp カメラシステム、信号遅延量調整方法及びプログラム
US9032459B2 (en) 2010-03-31 2015-05-12 Sony Corporation Camera system, signal delay amount adjusting method and program
KR20140051737A (ko) * 2012-10-23 2014-05-02 현대모비스 주식회사 차량 카메라 영상 동기화 방법 및 시스템
KR101896890B1 (ko) * 2012-10-23 2018-09-10 현대모비스 주식회사 차량 카메라 영상 동기화 방법 및 시스템
WO2018101034A1 (ja) 2016-11-29 2018-06-07 ソニー株式会社 撮像装置、撮像制御方法、及び、プログラム
WO2023100680A1 (ja) * 2021-12-03 2023-06-08 ソニーグループ株式会社 情報処理システムおよび情報処理方法

Also Published As

Publication number Publication date
US20060232679A1 (en) 2006-10-19
JP4501758B2 (ja) 2010-07-14
US7889238B2 (en) 2011-02-15
CN1848916A (zh) 2006-10-18
EP1713256A2 (en) 2006-10-18
EP1713256A3 (en) 2008-10-01
KR101209497B1 (ko) 2012-12-07
KR20060109315A (ko) 2006-10-19
CN100426840C (zh) 2008-10-15

Similar Documents

Publication Publication Date Title
JP4501758B2 (ja) マルチカメラシステムおよび撮像装置、並びに、撮像制御方法および撮像方法
JP3731589B2 (ja) 撮像装置と同期信号発生装置
CN100372367C (zh) 摄像设备
US20110199496A1 (en) Image capturing apparatus, image capturing control method, and storage medium
JP2005039710A (ja) 撮像装置
US20130058618A1 (en) Imaging device and imaging method
JP6147116B2 (ja) 撮像装置、その制御方法及び制御プログラム
JP2009010903A (ja) 撮像装置及び撮像方法
JP5972016B2 (ja) 撮像装置
JP4561452B2 (ja) 撮像装置、映像出力方法および映像再生プログラム
JP4547877B2 (ja) 撮像装置
JP4525388B2 (ja) 撮像信号記録装置
JP2011205406A (ja) 複眼カメラ
JP2003274221A (ja) 撮像装置及び撮像装置における表示の制御方法
JP2017199985A (ja) 撮像装置
JP2006191307A (ja) 撮像装置及び方法
JP2016009968A (ja) 記録装置
JP2013219623A (ja) 撮像装置
JP2008028607A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100330

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100412

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130430

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140430

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees