JP2019092022A - 撮像装置、撮像方法および撮像システム - Google Patents

撮像装置、撮像方法および撮像システム Download PDF

Info

Publication number
JP2019092022A
JP2019092022A JP2017218999A JP2017218999A JP2019092022A JP 2019092022 A JP2019092022 A JP 2019092022A JP 2017218999 A JP2017218999 A JP 2017218999A JP 2017218999 A JP2017218999 A JP 2017218999A JP 2019092022 A JP2019092022 A JP 2019092022A
Authority
JP
Japan
Prior art keywords
area
movement
imaging device
motion
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017218999A
Other languages
English (en)
Inventor
星野 和弘
Kazuhiro Hoshino
和弘 星野
隆弘 飯沼
Takahiro Iinuma
隆弘 飯沼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2017218999A priority Critical patent/JP2019092022A/ja
Priority to PCT/JP2018/031126 priority patent/WO2019097797A1/ja
Priority to US16/761,728 priority patent/US11514581B2/en
Priority to CN201880072103.5A priority patent/CN111345027B/zh
Priority to EP18878084.5A priority patent/EP3713214B1/en
Publication of JP2019092022A publication Critical patent/JP2019092022A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/65Control of camera operation in relation to power supply
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/707Pixels for event detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • H04N7/013Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the incoming video signal comprising different parts having originally different frame rate, e.g. video and graphics

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】撮像装置の消費電力をさらに低減することを可能とする技術が提供されることが望ましい。【解決手段】複数の画素の加算信号に基づいて前記複数の画素における動きの有無を判定して動き判定結果を得る動き判定部と、前記動き判定結果に基づいて、少なくとも前記複数の画素に対応する画像データの送信を行うか否かを制御する送信制御部と、を備える、撮像装置が提供される。【選択図】図1

Description

本開示は、撮像装置、撮像方法および撮像システムに関する。
近年、様々な撮像装置が開発されている。例えば、動きが有るエリアの画像データを第1の圧縮率で圧縮するとともに、動きが無いエリアに対応する画像データを第1の圧縮率よりも高い圧縮率の第2の圧縮率で圧縮する撮像装置が開示されている(例えば、特許文献1参照)。かかる撮像装置によれば、動きの有るエリアに対応する画像データを動きの無いエリアに対応する画像データに比べて高画質で圧縮することが可能である。
また、第1のモードと第2のモードとの間で動作モードの切り替えを行う撮像装置が開示されている(例えば、特許文献2参照)。第1のモードにおいては、撮像によって得られたアナログ信号に基づいてデジタル信号(画像データ)が生成される。一方、第2のモードにおいては、アナログ信号に差分が検出されない間は、デジタル信号処理回路が駆動されず、アナログ信号に差分が検出された場合に、動作モードが第1のモードに遷移される。
特開2004−200739号公報 特開2016−208116号公報
しかし、撮像装置の消費電力をさらに低減することを可能とする技術が提供されることが望ましい。
本開示によれば、複数の画素の加算信号に基づいて前記複数の画素における動きの有無を判定して動き判定結果を得る動き判定部と、前記動き判定結果に基づいて、少なくとも前記複数の画素に対応する画像データの送信を行うか否かを制御する送信制御部と、を備える、撮像装置が提供される。
本開示によれば、複数の画素の加算信号に基づいて前記複数の画素における動きの有無を判定して動き判定結果を得ることと、プロセッサにより、前記動き判定結果に基づいて、少なくとも前記複数の画素に対応する画像データの送信を行うか否かを制御することと、を含む、撮像方法が提供される。
本開示によれば、複数の画素の加算信号に基づいて前記複数の画素における動きの有無を判定して動き判定結果を得る動き判定部と、前記動き判定結果に基づいて、少なくとも前記複数の画素に対応する画像データの送信を行うか否かを制御する送信制御部と、を備える、撮像システムが提供される。
以上説明したように本開示によれば、撮像装置の消費電力をさらに低減することを可能とする技術が提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の実施形態に係る撮像装置の構成例を示す図である。 撮像面の構成例を示す図である。 イメージセンサの構成例を示す図である。 本開示の実施形態に係るイメージセンサが有する画素アレイの構成例を示す図である。 図4に示された画素群Aを拡大した図である。 撮像装置の状態遷移の様子を示す図である。 動作モードごとの各ブロックの状態の例を示す図である。 モニタリングモードにおける各ブロックの動作の例を示す図である。 部分画像出力モードにおける各ブロックの動作の例を示す図である。 全画像出力モードにおける各ブロックの動作の例を示す図である。 第1の変形例に係る撮像装置の機能構成例を示すブロック図である。 第2の変形例に係るイメージセンサが有する画素アレイの構成例を示す図である。 サンプルホールド回路の構成例を示す図である。 本開示に係る技術が適用され得るIoTシステムの概略的な構成の一例を示す図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書および図面において、実質的に同一または類似の機能構成を有する複数の構成要素を、同一の符号の後に異なる数字を付して区別する場合がある。ただし、実質的に同一または類似の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。また、異なる実施形態の類似する構成要素については、同一の符号の後に異なるアルファベットを付して区別する場合がある。ただし、類似する構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
なお、説明は以下の順序で行うものとする。
0.概要
1.実施形態の詳細
1.1.撮像装置の構成例
1.1.1.イメージセンサの構成例
1.1.2.イメージセンサの画素構成例
1.1.3.他のブロックの機能構成例
1.1.4.詳細な機能説明
2.各種の変形例
3.応用例
4.むすび
<0.概要>
まず、本開示の実施形態の概要について説明する。カメラの低消費電力に寄与するイベントドリブン駆動方式の技術が開発されている。イベントドリブン駆動方式は、カメラの撮影画角内で何らかの変化をフレーム単位で検知すると、動作モードが変わる仕組みであり得る。イベントドリブン駆動方式によるカメラは、電力消費が少ない照度計モードで動作しているのが通例である。そして、イベントドリブン駆動方式によるカメラは、動きなどにより部分的な照度変化を検知すると、全画素動作モードに遷移し、全画素の画像データの送信が完了すると再び照度計モードに復帰する。
かかる制御により、イベントドリブン駆動方式によるカメラは、コインサイズの電池1個で数カ月の駆動を実現可能な場合がある。例えば、イベントドリブン駆動方式によるカメラは、撮像した画像データを、LTE(Long Term Evolution)、無線LAN(Local Area Network)、Bluetooth(登録商標)などによりセンターに送信し、センターに送信された画像データは、二次的に利用され得る。
先に説明したように、出力インタフェースの部分において、イベントドリブン駆動方式によるカメラならでは特徴を生かした低電力伝送が望まれる。しかし、かかる低電力伝送について具体的な提案はこれまでになされていない。低消費電力化のための一つの策として、伝送データ量を削減する策が挙げられる。しかしながら、伝送データ量を減らしてしまうと、解像度が劣化してしまうというトレードオフが生じるため、高解像度かつ低電力なシステムの実現が求められている。
以上、本開示の実施形態の概要について説明した。
<1.実施形態の詳細>
以下、本開示の実施形態の詳細について説明する。
[1.1.撮像装置の構成例]
まず、本開示の実施形態に係る撮像装置の構成例について説明する。
図1は、本開示の実施形態に係る撮像装置の構成例を示す図である。図1に示されるように、本開示の実施形態に係る撮像装置1は、画素31と、アナログデジタルコンバータ(以下、「ADC」とも言う。)41と、動き判定部42と、画素・ADC制御部43と、Image Signal Processor(以下、「ISP」とも言う。)44と、ISP制御部45と、コーデック部46とを備える。なお、図1には、便宜上1つの画素31のみが示されているが、実際には複数の画素31が撮像面に存在している。
画素31について説明する。図2は、撮像面の構成例を示す図である。画素アレイは、所定数の画素がアレイ状に配置されることによって、1つの単位(エリア)を構成する。ここで、所定数の画素は、1画素であってもよいし、複数の画素であってもよい。以下の説明においては、所定数の画素が、複数の画素である場合を主に説明する。より具体的に、図2に示された例では、エリア33は、垂直方向32個×水平方向32個の画素によって構成されている。しかし、エリア33における垂直方向および水平方向それぞれの画素数は、特に限定されない。
また、図2に示されたように、複数のエリア33が格子状に配置されることによって、撮像面30が構成される。垂直方向および水平方向それぞれのエリア数は、特に限定されない。ここで、動きの有無は、エリア単位で判定され得る。例えば、移動する被写体が撮像面30によって撮像された場合、1または複数のエリアが動きの有るエリアであると判定される。図2には、移動する被写体Buが撮像された複数のエリア(垂直方向3個×水平方向3個のエリア)が、動きの有るエリア34と判定されている。
<1.1.1.イメージセンサの構成例>
図3は、イメージセンサの構成例を示す図である。図3に示されるように、イメージセンサ90は、センサ基板91、信号処理基板92およびメモリ基板93を含んでいる。センサ基板91には、垂直方向N個×水平方向N個のエリアによって構成される撮像面30が構成される。信号処理基板92には、上記したADC41、ISP44およびコーデック部46などが構成される。メモリ基板93には、メモリが構成される。
本開示の実施形態においては、イメージセンサ90の構造として、図3に示されたように、3層構造の積層型CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ構造(CIS構造)が採用される場合を主に想定する。しかし、イメージセンサ90の構造は、かかる構造に限定されない。
例えば、イメージセンサ90は、メモリ基板93を有していなくてもよい。また、本開示の実施形態においては、ADC41とISP44とが、同一の基板(信号処理基板92)に設けられる場合を主に想定する。しかし、ADC41とISP44とは、異なる基板に設けられていてもよい。
また、本開示の実施形態においては、イメージセンサ90の構造として、N×Nのエリアのそれぞれに対応して、センサ基板91、信号処理基板92およびメモリ基板93が並列に設けられる構造(エリア並列アーキテクチャ)が採用される場合を主に想定する。かかる構造によれば、後に説明するような各種の処理をエリアごとに実行することが可能となる。
<1.1.2.イメージセンサの画素構成例>
続いて、本開示の実施形態に係るイメージセンサが有する画素アレイの構成例について説明する。図4は、本開示の実施形態に係るイメージセンサが有する画素アレイの構成例を示す図である。画素アレイは、所定数の画素がアレイ状に配置されることによって、1つの単位(エリア)を構成する。図4に示された例では、画素アレイは、垂直方向32個×水平方向32個の画素(画素31−1−1〜画素31−32−32)によって構成されている。
なお、以下の説明において、画素31−1−1〜31−32−32それぞれを、特に区別する必要がない場合、単に「画素31」と称する場合がある。
上記したように、イメージセンサは、センサ基板91、信号処理基板92およびメモリ基板93を含んでいる。一方、図4に示したように、イメージセンサは、画素アレイ(画素31−1−1〜画素31−32−32)、切り替え回路35およびADC41を有している。画素アレイ(画素31−1−1〜画素31−32−32)は、センサ基板91に構成される。ADC41は、信号処理基板92に構成される。切り替え回路35は、信号処理基板92に構成される。
切り替え回路35は、画素31−1−1〜31−32−32それぞれの画素信号が一括で読み出されてADC41に出力されるモードと、画素31−1−1〜31−32−32それぞれの画像信号が1画素ずつ順次に読み出されてADC41に出力されるモードとの間で、動作モードの切り替えを行うことが可能である。切り替え回路35による動作モードの切り替えは、画素・ADC制御部43による制御によって実行され得る。
画素31−1−1〜31−32−32それぞれの画素信号が一括で読み出されてADC41に出力された場合には、ADC41によって画素31−1−1〜31−32−32それぞれの画素信号の加算信号がデジタル信号に変換される。一方、画素31−1−1〜31−32−32それぞれの画素信号が1画素ずつ順次に読み出されてADC41に出力された場合には、ADC41によって画素31−1−1〜31−32−32それぞれの画素信号が順次にデジタル信号に変換される。
図5は、図4に示された画素群Aを拡大した図である。図5に示されるように、複数の画素31それぞれのFloating Diffusion(以下、「FD」とも言う。)64同士を連結するFD連結用配線71が設けられる。また、FD連結用配線71を連結するためのスイッチ81が画素31の行間に配置される。そして、必要な解像度に応じてスイッチ81のオン・オフの組み合わせが切り替えられることによって、読み出し回数が低減される。
図6に示された例においては、画素31−1−1〜31−1−3が同一の垂直信号線32に接続されており、画素31−1−1〜31−1−3に画素回路51−1〜51−3が設けられている。画素回路51−1は、リセット(RST)トランジスタ61−1、増幅トランジスタ62−1、選択(SEL)トランジスタ63−1、およびFD64−1を備えている。
なお、図5に示された例においては、画素回路51−1においてのみ、リセット(RST)トランジスタ61−1、増幅トランジスタ62−1、選択(SEL)トランジスタ63−1およびFD64−1の符号が付されている。そして、それ以外の画素回路51(画素回路51−2および画素回路51−3)については、これらの符号が省略されている。以下の説明においても、必要に応じて符号の表記を省略する。
RSTトランジスタ61は、各画素のフォトダイオードをリセットする際、または、FD64をリセットする際に開閉されるトランジスタである。増幅トランジスタ62は、ゲートにFD64が接続されており、FD64における基準電位、または、信号電位を増幅し、画素信号として選択(SEL)トランジスタ63に出力する。選択(SEL)トランジスタ63は、選択信号SELに基づいて開閉し、増幅トランジスタ62により増幅された画素信号を垂直信号線32に出力して転送する。
また、図示しないが、画素31には、フォトダイオード、および転送(TRG)トランジスタが設けられている。転送(TRG)トランジスタの開閉は、リセット(RST)トランジスタとの開閉に応じて、フォトダイオードをリセットする、または、フォトダイオードに蓄積された電荷をFD64に転送する。ここで、画素回路51は、上記したように4個のトランジスタから構成されてよいが、それ以外のトランジスタから構成されてもよく、例えば、転送(TRG)トランジスタを含まない、3個のトランジスタから構成されてもよい。
また、画素回路51−2および画素回路51−3にも、画素回路51−1と同様の構成が設けられている。FD連結用配線71には、画素31−1−1〜31−1−3のFD64−1〜64−3を連結するスイッチ81−1〜81−3が設けられている。そして、スイッチ81−1〜81−3のオン・オフによりFD連結用配線71が連結され、画素31−1−1〜31−1−3を跨ぐ範囲でのFD加算が実現され得る。
切り替え回路35は、転送(TRG)トランジスタの開閉を制御する転送信号TRG、リセット(RST)トランジスタ61の開閉を制御するリセット信号RST、および、選択トランジスタ63の開閉を制御する選択信号SELといった制御信号を発生する。切り替え回路35は、これらの制御信号に基づいて、行単位で画素回路51の動作を制御する。
<1.1.3.他のブロックの機能構成例>
図1に戻って説明を続ける。ADC41は、画素31から転送される画素信号(アナログ信号)をデジタル信号に変換する。より具体的に、ADC41は、撮像面全体(全画素)によって撮像される画像信号(アナログ信号)のデジタル信号への変換処理(以下、「AD変換処理」とも言う。)を、画素単位(ピクセル単位)で行うことも可能であるし、エリア単位で行うことも可能である。画素単位(ピクセル単位)およびエリア単位のどちらでADC41にAD変換処理を実行させるかは、画素・ADC制御部43によって制御され得る。
ISP44は、例えば、DSP(Digital Signal Processor)などの画像処理プロセッサによって構成される。ISP44は、ADC41から出力されるデジタル信号に対して、所定の信号処理を実行する。ISP44は、所定の信号処理は、画素単位(ピクセル単位)に行われるが、全画素に対してなされてもよいし、特定のエリアに対してのみなされてもよい。全画素および特定のエリアのどちらに対して信号処理を実行させるかは、ISP制御部45によって制御され得る。
ISP44によって実行される信号処理は、特に限定されない。例えば、信号処理は、画像信号に対して、R,G,Bの黒レベルを所定のレベルにクランプするクランプ処理、R,G,Bの色チャンネル間の補正処理などを含んでよい。あるいは、信号処理は、各画素に対応する画像データが、R,G,B全ての色成分を有するようにするデモザイク処理を含んでもよい。あるいは、信号処理は、R,G,Bの画像データから、輝度(Y)信号および色(C)信号を生成(分離)する処理を含んでもよい。
コーデック部46は、CPU(Central Processing Unit)またはGPU(Graphics Processing Unit)などの画像処理プロセッサによって構成される。コーデック部46は、ISP44から出力された画像データに対して符号化を行う。本開示の実施形態においては、コーデック部46が、画像データに対して送信用の符号化処理を行う場合を主に想定する。しかし、コーデック部46は、画像データに対して記録用の符号化処理を行ってもよい。コーデック部46によって、画像データに対する符号化が行われるに際しては、画像データに対する圧縮がなされる。コーデック部46による画像データに対する圧縮の度合いは、ISP制御部45によって制御され得る。
コーデック部46によって符号化された後の画像データは、図示しない通信装置によって撮像装置1の後段に送信される。撮像装置1の後段には、どのような機器が接続されていてもよい。例えば、撮像装置1の後段には、画像データが記録される記録装置が接続されていてもよいし、画像データを表示するディスプレイが接続されていてもよい。後段に送信される画像データは、全画素または特定のエリアに対応する。全画素および特定のエリアのどちらの画像データが送信されるは、ISP制御部45によって制御され得る。
動き判定部42、画素・ADC制御部43、ISP制御部45は、図示しない制御部に存在してもよい。図示しない制御部は、CPU、ROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリなどを備えたマイクロコンピュータ(演算処理装置)により構成される。CPUは、ROMおよびフラッシュメモリなどに記憶されたプログラムを実行することで、撮像装置1の全体を統括的に制御する。RAMは、CPUの各種データ処理の際の作業領域として、データおよびプログラムなどの一時的な格納に用いられる。ROMおよびフラッシュメモリ(不揮発性メモリ)は、CPUが各部を制御するためのOS(Operating System)、各種動作のためのプログラム、ファームウエアなどの記憶に用いられる。
なお、動き判定部42、画素・ADC制御部43、ISP制御部45それぞれの機能についての説明は、後に詳細に説明する。
撮像装置1は、様々な機器に搭載されることが可能である。例えば、撮像装置1は、スマートフォンに搭載されてもよいし、携帯電話に搭載されてもよい。あるいは、撮像装置1は、タブレット端末に搭載されてもよいし、ヘッドマウントディスプレイに搭載されてもよいし、デジタルカメラに搭載されてもよい。あるいは、撮像装置1は、PC(Personal Computer)に搭載されてもよい。
<1.1.4.詳細な機能説明>
続いて、本開示の実施形態に係る撮像装置1の詳細な機能について説明する。本開示の実施形態において、動き判定部42は、複数の画素の加算信号に基づいて複数の画素における動きの有無を判定して動き判定結果を得る。そして、ISP制御部45は、動き判定結果に基づいて、少なくとも複数の画素に対応する画像データの送信を行うか否かを制御する送信制御部の一例として機能し得る。かかる構成によれば、複数の画素一括で動きの有無が判定されるため、撮像装置1の消費電力をさらに低減することが可能となる。
より具体的に、動き判定部42は、画像全体における動きの有無をエリアごとに判定し、ISP制御部45は、動き判定結果に基づいて、画像データの送信を行うか否かをエリアごとに制御する。かかる構成によれば、エリア一括で動きの有無が判定されるため、撮像装置1の消費電力をさらに低減することが可能となる。
例えば、動きが有るエリア(以下、「動きエリア」とも言う。)が存在しないと判定された場合、すなわち、動きが無いエリア(以下、「非動きエリア」とも言う。)しか存在しないと判定された場合、画像データが後段に送信されない第1のモード(以下、「モニタリングモード」とも言う。)に動作モードが遷移される。一方、動きエリアが存在すると判定された場合、少なくとも動きエリアに対応する画像データが後段に送信されるモードに動作モードが遷移される。
少なくとも動きエリアに対応する画像データが後段に送信されるモードには、動きエリアに対応する画像データが後段に送信されるが、非動きエリアに対応する画像データは後段に送信されない第2のモード(以下、「部分画像出力モード」とも言う。)、および、画像全体(全画素)に対応する画像データが後段に送信される第3のモード(以下、「全画像出力モード」とも言う。)が存在し得る。
かかる構成によれば、モニタリングモードにおいては、画像データが後段に送信されないため、撮像装置1の消費電力をさらに低減することが可能となる。後段は、画像全体(全画素)を受信した場合には、画像全体を保持し、動きエリアに対応する画像データのみを受信した場合には、既に保持している画像全体の動きエリアに対応する部分を、受信した画像データで上書きすればよい。後段にとって、非動きエリアに対応する画像データは得られなくとも、比較的重要なエリアである動きエリアに対応する画像データさえ得られれば、大きな不都合は生じないと考えられる。
動きエリアおよび非動きエリアは、どのようにして判定されてもよい。例えば、動き判定部42は、加算信号のフレーム間差分値が第1の閾値を上回るエリアを動きエリアであると判定してよい。一方、動き判定部42は、加算信号のフレーム間差分値が第2の閾値を下回るエリアを非動きエリアであると判定してよい。第1の閾値と第2の閾値とは、同一であってもよいし、異なっていてもよい。
ここでは、図4に示されたように、加算信号のADC41によるAD変換後の信号のフレーム間差分値に基づいて動きの有無を判定する方式(デジタル方式)が採用される場合を想定する。例えば、動き判定部42は、第n−1フレームに対応する変換後の信号をメモリに書き込み、第nフレームに対応する変換後の信号が得られると、メモリから第n−1フレームに対応する変換後の信号を読み込み、第n−1フレームと第nフレームとにおける変換後の信号の差分値に基づいて動きの有無を判定してもよい。しかし、後に説明するように、他の方式(アナログ方式)が採用されてもよい。
なお、撮像装置1の初期設置時には、後段がまだ画像全体を保持していないため、動作モードが全画像出力モードに設定されてよい。その後、動作モードは、全画像出力モードからモニタリングモードに遷移されてもよい。また、単位時間あたりではさほど大きな動きはなくても、長期的に見ると大きく動く被写体もあり得る。したがって、動作モードは、所定の時間ごとに全画像出力モードに遷移されてもよい。その後、動作モードは、全画像出力モードからモニタリングモードに遷移されてもよい。
図6は、撮像装置1の状態遷移の様子を示す図である。撮像装置1の動作モードは、撮像装置1の初期設定時には全画像出力モードに設定される。その後、動作モードは、モニタリングモードS11に遷移される。モニタリングモードにおいて、動き判定部42は、動きの有無を判定する。そして、ISP制御部45は、動きエリアが存在しない場合には、動きエリアが存在しないこと(すなわち、正常動作中であること)を示す情報を後段に通知する。動きエリアが存在しないことは、1ビット乃至数ビットの少ないデータ量で表現可能である。
一方、動きエリアが存在する場合には、部分画像出力モードまたは全画像出力モードに動作モードが遷移される。ここでは、動作モードが部分画像出力モードに遷移される場合を想定する。ISP制御部45は、部分画像出力モードにおいて、動きエリアに対応する機能を起動する(S12)。これによって、動きエリアに対応する画像データに対して、ISP44による信号処理、および、コーデック部46による符号化処理が実行されるようになる。
動きエリアに対応する画像データに対して、ISP44による信号処理、および、コーデック部46による符号化処理が実行され、動きエリアに対応する画像データが切り出されると(S13)、動きエリアに対応する画像データが後段に送信される。その後、動きエリアが存在しなくなった場合には、ISP制御部45は、ISP44およびコーデック部46を休止させ、部分画像出力モードからモニタリングモードS11に動作モードが遷移される。
図7は、動作モードごとの各ブロックの状態の例を示す図である。上記したように、撮像装置1の設置時においては、動作モードが全画像出力モードに設定される。したがって、図7に示されるように、撮像装置1の設置時において、画素・ADC制御部43は、ADC41によって画像全体のAD変換処理が画素単位で実行されるようにADC41を制御する。
また、図7に示されるように、撮像装置1の設置時において、ISP制御部45は、ISP44によって画像全体に対する所定の信号処理が実行されるようにISP44を制御する。また、図7に示されるように、撮像装置1の設置時において、ISP制御部45は、コーデック部46によって画像全体に対する符号化処理が実行されるようにコーデック部46を制御する。符号化処理による圧縮率は限定されない(図7に示すように低圧縮であってよい)。
図7に示されるように、モニタリングモードにおいては(すなわち、動き判定部42によって動きエリアが存在しないと判定された場合)、画素・ADC制御部43は、非動きエリア(すなわち、画像全体の各エリア)を構成する複数の画素のAD変換処理がADC41によって非動きエリアにおいて一括で行われるようにADC41を制御する変換制御部の一例として機能する。
また、図7に示されるように、モニタリングモードにおいては(すなわち、動き判定部42によって動きエリアが存在しないと判定された場合)、ISP制御部45は、非動きエリア(すなわち、画像全体の各エリア)を構成する複数の画素に対する所定の信号処理がISP44によって実行されないように(所定の信号処理が休止されるように)ISP44を制御する第1の処理制御部の一例として機能する。
また、図7に示されるように、モニタリングモードにおいては(すなわち、動き判定部42によって動きエリアが存在しないと判定された場合)、ISP制御部45は、非動きエリア(すなわち、画像全体の各エリア)を構成する複数の画素に対する符号化処理がコーデック部46によって実行されないように(符号化処理が休止されるように)コーデック部46を制御する第2の処理制御部の一例として機能する。
図7に示されるように、部分画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、画素・ADC制御部43は、動きエリアを構成する複数の画素のAD変換処理がADC41によって画素単位で行われるようにADC41を制御する変換制御部の一例として機能する。かかる場合、画素・ADC制御部43は、非動きエリアを構成する複数の画素のAD変換処理がADC41によって実行されないようにADC41を制御すればよい。
また、図7に示されるように、部分画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、ISP制御部45は、動きエリアを構成する複数の画素に対する所定の信号処理がISP44によって実行されるようにISP44を制御する第1の処理制御部の一例として機能する。かかる場合、ISP制御部45は、非動きエリアを構成する複数の画素に対する所定の信号処理がISP44によって実行されないように(所定の信号処理が休止されるように)ISP44を制御すればよい。
また、図7に示されるように、部分画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、ISP制御部45は、動きエリアを構成する複数の画素に対する符号化処理がコーデック部46によって実行されるようにコーデック部46を制御する第2の処理制御部の一例として機能する。符号化処理による圧縮率は限定されない(図7に示すように低圧縮であってよい)。かかる場合、ISP制御部45は、非動きエリアを構成する複数の画素に対する符号化処理がコーデック部46によって実行されないように(符号化処理が休止されるように)コーデック部46を制御すればよい。
図7に示されるように、全画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、撮像装置1の設置時と同様に、画素・ADC制御部43は、ADC41によって画像全体のAD変換処理が画素単位で実行されるようにADC41を制御する。
また、図7に示されるように、全画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、撮像装置1の設置時と同様に、ISP制御部45は、ISP44によって画像全体に対する所定の信号処理が実行されるようにISP44を制御する。また、図7に示されるように、全画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、撮像装置1の設置時と同様に、ISP制御部45は、コーデック部46によって画像全体に対する符号化処理が実行されるようにコーデック部46を制御する。符号化処理による圧縮率は限定されない(図7に示すように低圧縮であってよい)。
図7には、撮像装置1の設置時、モニタリングモード、部分画像出力モードおよび全画像出力モードそれぞれにおける、消費電力相対値も示されている。図7を参照すると、撮像装置1の設置時および全画像出力モードにおいては、画像全体に対して、ADC41によるAD変換、ISP44による所定の信号処理、コーデック部46による符号化処理が実行されるため、消費電力相対値が「1」とされている。
一方、部分画像出力モードにおいては、動きエリアのみ全画素に対して、ADC41によるAD変換、ISP44による所定の信号処理、および、コーデック部46による符号化処理が実行される。そのため、図7を参照すると、部分画像出力モードにおける消費電力相対値は、「0.1」〜「0.9」と、撮像装置1の設置時および全画像出力モードにおける消費電力相対値「1」よりも低い値とされている。なお、部分画像出力モードにおける消費電力相対値は、動きエリアの大きさ(被写体の画像全体に対する大きさ)によって変化し得る。
さらに、モニタリングモードにおいては、ISP44による所定の信号処理、および、コーデック部46による符号化処理が実行されない。そして、モニタリングモードにおいては、ADC41によるAD変換も、エリア一括で実行される。
例えば、垂直方向32個×水平方向32個の画素に対して、AD変換をエリア一括で実行した場合(モニタリングモードの場合)、AD変換を画素単位で実行した場合(全画像出力モードの場合)よりも、ADC41における消費電力は、約1/1000程度で済む。特にセンサチップにおいてはADCにおける消費電力が大きくなりやすいため、AD変換をエリア一括で実行することによる効果は大きい。図7を参照すると、モニタリングモードにおける消費電力相対値は、「0.001」と、部分画像出力モードにおける消費電力相対値「0.1」〜「0.9」よりもさらに低い値とされている。
なお、図7には、動きエリアが存在すると判定された場合における遷移先の動作モードとして、部分画像出力モードおよび全画像出力モードが示されている。ここで、動きエリアが存在すると判定された場合、部分画像出力モードおよび全画像出力モードのどちらに動作モードが遷移されてもよい。すなわち、画素・ADC制御部43は、動きエリアが存在すると判定された場合、所定の情報に基づいて、AD変換処理の対象を動きエリアを構成する複数の画素のみにするか、画像全体にするかを決定する変換制御部の一例として機能し得る。
例えば、所定の情報は、ユーザによる設定情報を含んでもよい。すなわち、画素・ADC制御部43は、動きエリアが存在する場合におけるAD変換処理の対象を動きエリアのみにする設定がユーザによってなされている場合において、動きエリアが存在すると判定された場合、部分画像出力モードに動作モードを遷移させてよい。一方、画素・ADC制御部43は、動きエリアが存在する場合におけるAD変換処理の対象を画像全体にする設定がユーザによってなされている場合において、動きエリアが存在すると判定された場合、全画像出力モードに動作モードを遷移させてよい。
例えば、所定の情報は、動きエリアの大きさ(被写体の画像全体に対する大きさ)を含んでもよい。すなわち、画素・ADC制御部43は、動きエリアが存在すると判定された場合、動きエリアの大きさ(被写体の画像全体に対する大きさ)が閾値を下回る場合には、部分画像出力モードに動作モードを遷移させてよい。一方、画素・ADC制御部43は、動きエリアが存在すると判定された場合、動きエリアの大きさ(被写体の画像全体に対する大きさ)が閾値を上回る場合には、全画像出力モードに動作モードを遷移させてよい。
図8は、モニタリングモードにおける各ブロックの動作の例を示す図である。上記したように、モニタリングモードにおける撮像装置1Aにおいては(すなわち、動き判定部42によって動きエリアが存在しないと判定された場合)、画素・ADC制御部43が、非動きエリア(すなわち、画像全体の各エリア)を構成する複数の画素のAD変換処理がADC41によってエリア一括で行われるようにADC41を制御する。一方、モニタリングモードにおいて、ISP44、ISP制御部45およびコーデック部46は、休止している。図8には、休止しているこれらのブロックが、塗り潰しによって示されている。
図9は、部分画像出力モードにおける各ブロックの動作の例を示す図である。上記したように、部分画像出力モードにおける撮像装置1Bにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、画素・ADC制御部43は、動きエリアを構成する複数の画素のADC41におけるAD変換処理を、エリア単位からピクセル単位(画素単位)で行われるように変更する(S21)。
また、画素・ADC制御部43は、動き判定部42による動き検知後にフレームレートを変更可能であってよい(S22)。より具体的に、画素・ADC制御部43は、部分画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、動きエリアを構成する複数の画素のフレームレートを、動きの大きさ、または、動きを有する被写体の明るさに応じて制御する画素制御部として機能し得る(S23)。
例えば、画素・ADC制御部43は、部分画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、動きエリアの動きが大きいほど動きエリアのフレームレートを高くすることによって、動きが大きい被写体を捉えやすくするのがよい。あるいは、画素・ADC制御部43は、部分画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、動きエリアの被写体が暗いほど動きエリアのフレームレートを低くすることによって、暗い被写体を捉えやすくするのがよい。
また、ISP制御部45は、部分画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、動きエリアに基づいて、動きエリアを構成する複数の画素に対して実行される符号化処理による圧縮率を制御する第2の処理制御部として機能し得る(S24)。例えば、ISP制御部45は、部分画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、動きエリアの動きが大きい、高品質な画像データが要求されるため、動きエリアの符号化処理による圧縮率を低くしてもよい。
図10は、全画像出力モードにおける各ブロックの動作の例を示す図である。上記したように、撮像装置1Cにおける全画像出力モードにおいては(すなわち、動き判定部42によって動きエリアが存在すると判定された場合)、画素・ADC制御部43は、全画素(画像全体)に対するADC41におけるAD変換処理を、エリア単位からピクセル単位(画素単位)で行われるように変更する(S31)。
以上、本開示の実施形態に係る撮像装置1の詳細な機能について説明した。
<2.各種の変形例>
続いて、各種の変形例について説明する。図11は、第1の変形例に係る撮像装置の機能構成例を示すブロック図である。図11に示されたように、第1の変形例に係る撮像装置2は、上記した撮像装置1と比較して露光制御部47をさらに備える。露光制御部47は、動き判定部42によって動きエリアが存在すると判定された場合、動きエリアを構成する複数の画素に対応する露光時間を、複数の画素の明るさに応じて制御してよい。
より具体的に、露光制御部47は、動き判定部42によって動きエリアが存在すると判定された場合、動きエリアの暗いほど動きエリアに対応する露光時間を長くすることによって、暗い動きエリアにおいて被写体を捉えやすくするのがよい。
また、上記では、複数の画素の加算信号のADC41によるAD変換後の信号のフレーム間差分値に基づいて動きの有無を判定する方式(デジタル方式)が採用される場合を主に説明した。しかし、第2の変形例として、複数の画素の加算信号のアナログ信号からデジタル信号への変換前の信号のフレーム間差分値に基づいて動きの有無を判定する方式(アナログ方式)が採用されてもよい。
図12は、第2の変形例に係るイメージセンサが有する画素アレイの構成例を示す図である。図12を参照すると、ADC41の前段にサンプルホールド回路48が設けられている。図13は、サンプルホールド回路48の構成例を示す図である。サンプルホールド回路48は、複数の画素の加算信号のアナログ信号からデジタル信号への変換前の信号のフレーム間差分値を電圧値として読み取る。このとき、動き判定部42は、かかるフレーム間差分値に基づいて動きの有無を判定してもよい。
また、上記では、動きエリアが存在すると判定された場合、動きエリアを構成する複数の画素のAD変換処理が画素単位で行われるように制御する場合を主に説明した。しかし、実際に動きエリアが存在すると判定する代わりに、または、動きエリアが存在すると判定する場合に追加して、動きの変化を予測し、動きの変化の予測結果に基づいて、動きを有するように変化するエリアが存在するかを判定してもよい。
このとき、画素・ADC制御部43は、動き判定部42によって、動きを有するように変化するエリアが存在すると判定された場合、動きを有するように変化するエリアを構成する複数の画素のAD変換処理が画素単位で行われるように制御する変換制御部として機能し得る。これによって、高速に移動する被写体を捉えやすくなるという効果が享受され得る。
上記では、加算信号のフレーム間差分値が第1の閾値を上回るエリアを動きエリアであると判定し、加算信号のフレーム間差分値が第2の閾値を下回るエリアを非動きエリアであると判定する場合を主に説明した。このとき、第1の閾値および第2の閾値を、ユーザ操作に基づいて設定可能とする回路を追加することによって、動きエリアおよび非動きエリアの検出感度を可変としてもよい。なお、上記したように、第1の閾値と第2の閾値とは、同一であってもよいし、異なっていてもよい。
また、上記では、図2に示されたように、エリア33が、垂直方向32個×水平方向32個の画素によって構成される場合を主に想定した。しかし、上記したように、エリア33における垂直方向および水平方向それぞれの画素数は、特に限定されない。例えば、エリア33における垂直方向および水平方向それぞれの画素数は、エリア間を連結する配線によって逓倍で可変であり得る。
また、上記では、動き判定部42によって、画像全体に対して動きの有無がエリアごとに判定される場合を主に想定した。しかし、動きを有する可能性のある位置が特定の位置に限定される場合(例えば、道路など)もあり得る。かかる場合には、動き判定部42によって、動きを有する可能性のある位置に対してのみ、動きの有無がエリアごとに判定されてもよい。動きを有する可能性のある位置は、ユーザによって設定可能であってもよいし、過去の画像データに基づいて機械学習によって得られてもよい。
<3.応用例>
本開示に係る技術は、いわゆる「物のインターネット」であるIoT(Internet of things)と呼ばれる技術へ応用可能である。IoTとは、「物」であるIoTデバイス9001が、他のIoTデバイス9003、インターネット、クラウド9005などに接続され、情報交換することにより相互に制御する仕組みである。IoTは、農業、家、自動車、製造、流通、エネルギー、など様々な産業に利用できる。
図14は、本開示に係る技術が適用され得るIoTシステム9000の概略的な構成の一例を示す図である。IoTデバイス9001には、温度センサー、湿度センサー、照度センサー、加速度センサー、距離センサー、画像センサー、ガスセンサー、人感センサーなどの各種センサーなどが含まれる。また、IoTデバイス9001には、スマートフォン、携帯電話、ウェアラブル端末、ゲーム機器などの端末を含めてもよい。IoTデバイス9001は、AC電源、DC電源、電池、非接触給電、いわゆるエナジーハーベストなどにより給電される。IoTデバイス9001は、有線、無線、近接無線通信などにより通信することができる。通信方式は3G/LTE(登録商標)、Wi-Fi(登録商標)、IEEE802.15.4、Bluetooth(登録商標)、Zigbee(登録商標)、Z−Waveなどが好適に用いられる。IoTデバイス9001は、これらの通信手段の複数を切り替えて通信してもよい。
IoTデバイス9001は、1対1、星状、ツリー状、メッシュ状のネットワークを形成してもよい。IoTデバイス9001は、直接に、またはゲートウエイ9002を通して、外部のクラウド9005に接続してもよい。IoTデバイス9001には、IPv4、IPv6、6LoWPANなどによって、アドレスが付与される。IoTデバイス9001から収集されたデータは、他のIoTデバイス9003、サーバ9004、クラウド9005などに送信される。IoTデバイス9001からデータを送信するタイミングや頻度は好適に調整され、データを圧縮して送信してもよい。このようなデータはそのまま利用してもよく、統計解析、機械学習、データマイニング、クラスタ分析、判別分析、組み合わせ分析、時系列分析など様々な手段でデータをコンピュータ9008で分析してもよい。このようなデータを利用することにより、コントロール、警告、監視、可視化、自動化、最適化、など様々なサービスを提供することができる。
本開示に係る技術は、家に関するデバイス、サービスにも応用可能である。家におけるIoTデバイス9001には、洗濯機、乾燥機、ドライヤ、電子レンジ、食洗機、冷蔵庫、オーブン、炊飯器、調理器具、ガス器具、火災報知器、サーモスタット、エアコン、テレビ、レコーダ、オーディオ、照明機器、温水器、給湯器、掃除機、扇風機、空気清浄器、セキュリティカメラ、錠、扉・シャッター開閉装置、スプリンクラー、トイレ、温度計、体重計、血圧計などが含まれる。さらにIoTデバイス9001には、太陽電池、燃料電池、蓄電池、ガスメータ、電力メータ、分電盤を含んでもよい。
家におけるIoTデバイス9001の通信方式は、低消費電力タイプの通信方式が望ましい。また、IoTデバイス9001は屋内ではWi-Fi、屋外では3G/LTE(登録商標)により通信するようにしてもよい。クラウド9005上にIoTデバイス制御用の外部サーバ9006を設置し、IoTデバイス9001を制御してもよい。IoTデバイス9001は、家庭機器の状況、温度、湿度、電力使用量、家屋内外の人・動物の存否などのデータを送信する。家庭機器から送信されたデータは、クラウド9005を通じて、外部サーバ9006に蓄積される。このようなデータに基づき、新たなサービスが提供される。このようなIoTデバイス9001は、音声認識技術を利用することにより、音声によりコントロールすることができる。
また各種家庭機器からテレビに情報を直接送付することにより、各種家庭機器の状態を可視化することができる。さらには、各種センサーが居住者の有無を判断し、データを空調機、照明などに送付することで、それらの電源をオン・オフすることができる。さらには、各種家庭機器に供えられたディスプレイにインターネットを通じて広告を表示することができる。
以上、本開示に係る技術が適用され得るIoTシステム9000の一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像装置1に好適に適用され得る。
<4.むすび>
以上説明したように、本開示の実施形態によれば、複数の画素の加算信号に基づいて複数の画素における動きの有無を判定して動き判定結果を得る動き判定部42と、動き判定結果に基づいて、少なくとも複数の画素に対応する画像データの送信を行うか否かを制御するISP制御部45と、を備える、撮像装置1が提供される。
かかる構成によれば、撮像装置の消費電力をさらに低減することが可能である。具体的に、監視対象エリアに変化が無い場合には、エリア一括のAD変換処理によって消費電力を激減させることが可能となる。また、かかる構成によれば、変化が検知されたエリアに対応する画像データのみに対してISPによる信号処理が実行されればよいため、処理量が激減し、省電力効果が得られる。変化が検知された重要なエリアに対応する画像データは、高品質な画像データとして送信される。
なお、エリア一括でAD変換処理を実行する場合、AD変換処理の実行周期を通常フレームレート(例えば、60fps)としてよい。しかし、AD変換処理の実行周期を原理的に1000倍のフレームレート(例えば、6万fps)とすることも可能である。かかる場合、非常に高速に移動する物体を捉える可能となるため、グローバルシャッターと同等の効果を得ることも可能である。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、コンピュータに内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上記した制御部が有する機能と同等の機能を発揮させるためのプログラムも作成可能である。また、該プログラムを記録した、コンピュータに読み取り可能な記録媒体も提供され得る。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
複数の画素の加算信号に基づいて前記複数の画素における動きの有無を判定して動き判定結果を得る動き判定部と、
前記動き判定結果に基づいて、少なくとも前記複数の画素に対応する画像データの送信を行うか否かを制御する送信制御部と、
を備える、撮像装置。
(2)
前記動き判定部は、前記動きの有無をそれぞれが複数の画素を含むエリアごとに判定し、
前記送信制御部は、前記動き判定結果に基づいて、前記画像データの送信を行うか否かを前記エリアごとに制御する、
前記(1)に記載の撮像装置。
(3)
前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアを構成する複数の画素のアナログ信号からデジタル信号への変換処理が画素単位で行われるように制御する変換制御部を備える、
前記(2)に記載の撮像装置。
(4)
前記変換制御部は、前記動きが有るエリアが存在しないと判定された場合、前記動きが無いエリアを構成する複数の画素の前記変換処理が前記動きが無いエリアにおいて一括で行われるように制御する、
前記(3)に記載の撮像装置。
(5)
前記変換制御部は、前記動きが有るエリアが存在すると判定された場合、画像全体の前記変換処理が画素単位で行われるように制御する、
前記(3)または(4)に記載の撮像装置。
(6)
前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、所定の情報に基づいて、アナログ信号からデジタル信号への変換処理の対象を前記動きが有るエリアを構成する複数の画素のみにするか、画像全体にするかを決定する変換制御部を備える、
前記(2)に記載の撮像装置。
(7)
前記所定の情報は、ユーザによる設定情報または前記動きを有する被写体の大きさを含む、
前記(6)に記載の撮像装置。
(8)
前記動き判定部は、前記動きの変化の予測結果に基づいて、前記動きを有するように変化するエリアが存在するかを判定し、
前記撮像装置は、前記動きを有するように変化するエリアが存在すると判定された場合、前記動きを有するように変化するエリアを構成する複数の画素のアナログ信号からデジタル信号への変換処理が画素単位で行われるように制御する変換制御部を備える、
前記(2)に記載の撮像装置。
(9)
前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアを構成する複数の画素に対する所定の信号処理が実行されるように制御する第1の処理制御部を備える、
前記(2)〜(8)のいずれか一項に記載の撮像装置。
(10)
前記第1の処理制御部は、前記動きが有るエリアが存在しないと判定された場合、前記動きが無いエリアを構成する複数の画素に対する前記信号処理が実行されないように制御する、
前記(9)に記載の撮像装置。
(11)
前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアを構成する複数の画素に対する符号化処理が実行されるように制御する第2の処理制御部を備える、
前記(2)〜(10)のいずれか一項に記載の撮像装置。
(12)
前記第2の処理制御部は、前記動きが有るエリアが存在しないと判定された場合、前記動きが無いエリアを構成する複数の画素に対する前記符号化処理が実行されないように制御する、
前記(11)に記載の撮像装置。
(13)
前記第2の処理制御部は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアに基づいて、前記動きが有るエリアを構成する複数の画素に対して実行される前記符号化処理による圧縮率を制御する、
前記(11)または(12)に記載の撮像装置。
(14)
前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアを構成する複数の画素のフレームレートを、前記動きの大きさ、または、前記動きを有する被写体の明るさに応じて制御する画素制御部を備える、
前記(2)〜(13)のいずれか一項に記載の撮像装置。
(15)
前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアを構成する複数の画素に対応する露光時間を、前記複数の画素の明るさに応じて制御する露光制御部を備える、
前記(2)〜(14)のいずれか一項に記載の撮像装置。
(16)
前記送信制御部は、前記動きが有るエリアが存在しないと判定された場合、前記動きが有るエリアが存在しない旨の情報を出力する、
前記(2)〜(15)のいずれか一項に記載の撮像装置。
(17)
前記動き判定部は、前記加算信号のフレーム間差分値が第1の閾値を上回るエリアを前記動きが有るエリアであると判定する、
前記(1)〜(16)のいずれか一項に記載の撮像装置。
(18)
前記動き判定部は、前記加算信号のフレーム間差分値が第2の閾値を下回るエリアを前記動きが無いエリアであると判定する、
前記(1)〜(17)のいずれか一項に記載の撮像装置。
(19)
複数の画素の加算信号に基づいて前記複数の画素における動きの有無を判定して動き判定結果を得ることと、
プロセッサにより、前記動き判定結果に基づいて、少なくとも前記複数の画素に対応する画像データの送信を行うか否かを制御することと、
を含む、撮像方法。
(20)
複数の画素の加算信号に基づいて前記複数の画素における動きの有無を判定して動き判定結果を得る動き判定部と、
前記動き判定結果に基づいて、少なくとも前記複数の画素に対応する画像データの送信を行うか否かを制御する送信制御部と、
を備える、撮像システム。
1(1A〜1C),2 撮像装置
30 撮像面
31 画素
33 エリア
34 動きの有るエリア
41 ADC
42 動き判定部
43 画素・ADC制御部
44 ISP
45 ISP制御部
46 コーデック部
47 露光制御部
48 サンプルホールド回路
90 イメージセンサ
91 センサ基板
92 信号処理基板
93 メモリ基板


Claims (20)

  1. 複数の画素の加算信号に基づいて前記複数の画素における動きの有無を判定して動き判定結果を得る動き判定部と、
    前記動き判定結果に基づいて、少なくとも前記複数の画素に対応する画像データの送信を行うか否かを制御する送信制御部と、
    を備える、撮像装置。
  2. 前記動き判定部は、前記動きの有無をそれぞれが複数の画素を含むエリアごとに判定し、
    前記送信制御部は、前記動き判定結果に基づいて、前記画像データの送信を行うか否かを前記エリアごとに制御する、
    請求項1に記載の撮像装置。
  3. 前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアを構成する複数の画素のアナログ信号からデジタル信号への変換処理が画素単位で行われるように制御する変換制御部を備える、
    請求項2に記載の撮像装置。
  4. 前記変換制御部は、前記動きが有るエリアが存在しないと判定された場合、前記動きが無いエリアを構成する複数の画素の前記変換処理が前記動きが無いエリアにおいて一括で行われるように制御する、
    請求項3に記載の撮像装置。
  5. 前記変換制御部は、前記動きが有るエリアが存在すると判定された場合、画像全体の前記変換処理が画素単位で行われるように制御する、
    請求項3に記載の撮像装置。
  6. 前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、所定の情報に基づいて、アナログ信号からデジタル信号への変換処理の対象を前記動きが有るエリアを構成する複数の画素のみにするか、画像全体にするかを決定する変換制御部を備える、
    請求項2に記載の撮像装置。
  7. 前記所定の情報は、ユーザによる設定情報または前記動きを有する被写体の大きさを含む、
    請求項6に記載の撮像装置。
  8. 前記動き判定部は、前記動きの変化の予測結果に基づいて、前記動きを有するように変化するエリアが存在するかを判定し、
    前記撮像装置は、前記動きを有するように変化するエリアが存在すると判定された場合、前記動きを有するように変化するエリアを構成する複数の画素のアナログ信号からデジタル信号への変換処理が画素単位で行われるように制御する変換制御部を備える、
    請求項2に記載の撮像装置。
  9. 前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアを構成する複数の画素に対する所定の信号処理が実行されるように制御する第1の処理制御部を備える、
    請求項2に記載の撮像装置。
  10. 前記第1の処理制御部は、前記動きが有るエリアが存在しないと判定された場合、前記動きが無いエリアを構成する複数の画素に対する前記信号処理が実行されないように制御する、
    請求項9に記載の撮像装置。
  11. 前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアを構成する複数の画素に対する符号化処理が実行されるように制御する第2の処理制御部を備える、
    請求項2に記載の撮像装置。
  12. 前記第2の処理制御部は、前記動きが有るエリアが存在しないと判定された場合、前記動きが無いエリアを構成する複数の画素に対する前記符号化処理が実行されないように制御する、
    請求項11に記載の撮像装置。
  13. 前記第2の処理制御部は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアに基づいて、前記動きが有るエリアを構成する複数の画素に対して実行される前記符号化処理による圧縮率を制御する、
    請求項11に記載の撮像装置。
  14. 前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアを構成する複数の画素のフレームレートを、前記動きの大きさ、または、前記動きを有する被写体の明るさに応じて制御する画素制御部を備える、
    請求項2に記載の撮像装置。
  15. 前記撮像装置は、前記動きが有るエリアが存在すると判定された場合、前記動きが有るエリアを構成する複数の画素に対応する露光時間を、前記複数の画素の明るさに応じて制御する露光制御部を備える、
    請求項2に記載の撮像装置。

  16. 前記送信制御部は、前記動きが有るエリアが存在しないと判定された場合、前記動きが有るエリアが存在しない旨の情報を出力する、
    請求項2に記載の撮像装置。
  17. 前記動き判定部は、前記加算信号のフレーム間差分値が第1の閾値を上回るエリアを前記動きが有るエリアであると判定する、
    請求項1に記載の撮像装置。
  18. 前記動き判定部は、前記加算信号のフレーム間差分値が第2の閾値を下回るエリアを前記動きが無いエリアであると判定する、
    請求項1に記載の撮像装置。
  19. 複数の画素の加算信号に基づいて前記複数の画素における動きの有無を判定して動き判定結果を得ることと、
    プロセッサにより、前記動き判定結果に基づいて、少なくとも前記複数の画素に対応する画像データの送信を行うか否かを制御することと、
    を含む、撮像方法。
  20. 複数の画素の加算信号に基づいて前記複数の画素における動きの有無を判定して動き判定結果を得る動き判定部と、
    前記動き判定結果に基づいて、少なくとも前記複数の画素に対応する画像データの送信を行うか否かを制御する送信制御部と、
    を備える、撮像システム。



JP2017218999A 2017-11-14 2017-11-14 撮像装置、撮像方法および撮像システム Pending JP2019092022A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2017218999A JP2019092022A (ja) 2017-11-14 2017-11-14 撮像装置、撮像方法および撮像システム
PCT/JP2018/031126 WO2019097797A1 (ja) 2017-11-14 2018-08-23 撮像装置、撮像方法および撮像システム
US16/761,728 US11514581B2 (en) 2017-11-14 2018-08-23 Image capturing device, image capturing method, and image capturing system
CN201880072103.5A CN111345027B (zh) 2017-11-14 2018-08-23 摄像装置、摄像方法以及摄像***
EP18878084.5A EP3713214B1 (en) 2017-11-14 2018-08-23 Imaging device, imaging method, and imaging system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017218999A JP2019092022A (ja) 2017-11-14 2017-11-14 撮像装置、撮像方法および撮像システム

Publications (1)

Publication Number Publication Date
JP2019092022A true JP2019092022A (ja) 2019-06-13

Family

ID=66539615

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017218999A Pending JP2019092022A (ja) 2017-11-14 2017-11-14 撮像装置、撮像方法および撮像システム

Country Status (5)

Country Link
US (1) US11514581B2 (ja)
EP (1) EP3713214B1 (ja)
JP (1) JP2019092022A (ja)
CN (1) CN111345027B (ja)
WO (1) WO2019097797A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021082994A (ja) * 2019-11-21 2021-05-27 キヤノン株式会社 撮像装置、撮像装置の制御方法
JP2021082995A (ja) * 2019-11-21 2021-05-27 キヤノン株式会社 撮像装置、撮像装置の制御方法
WO2021172145A1 (ja) * 2020-02-26 2021-09-02 ソニーセミコンダクタソリューションズ株式会社 撮像回路および撮像装置

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3595295B1 (en) * 2018-07-11 2024-04-17 IniVation AG Array of cells for detecting time-dependent image data
US11303808B2 (en) * 2019-08-20 2022-04-12 Robert Bosch Gmbh Energy gathering image sensor system
JP2021150814A (ja) * 2020-03-19 2021-09-27 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像制御方法及びプログラム
CN113055596B (zh) * 2021-03-16 2023-01-17 上海商米科技集团股份有限公司 一种用于ipc的自动夜视切换方法
US20240107185A1 (en) * 2022-09-23 2024-03-28 Pixart Imaging Inc. Motion sensor and motion detection system using the same

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000261728A (ja) 1999-03-11 2000-09-22 Canon Inc 固体撮像装置
JP3449468B2 (ja) 1999-05-06 2003-09-22 日本電気株式会社 固体撮像装置およびその駆動方法
JP3430994B2 (ja) * 1999-09-28 2003-07-28 ミノルタ株式会社 カメラ
EP1102323B1 (en) 1999-11-19 2012-08-15 CSEM Centre Suisse d'Electronique et de Microtechnique SA - Recherche et Développement Method for detecting electromagnetic radiation using an optoelectronic sensor
US20030107648A1 (en) * 2001-12-12 2003-06-12 Richard Stewart Surveillance system and method with adaptive frame rate
JP2004200739A (ja) 2002-12-16 2004-07-15 Sanyo Electric Co Ltd 画像処理装置
TWI298155B (en) 2005-03-14 2008-06-21 Avermedia Information Inc Surveillance system having auto-adjustment function
US7546026B2 (en) 2005-10-25 2009-06-09 Zoran Corporation Camera exposure optimization techniques that take camera and scene motion into account
JP2009232275A (ja) 2008-03-24 2009-10-08 Olympus Imaging Corp 撮像装置
KR101052207B1 (ko) 2010-05-12 2011-07-27 엠텍비젼 주식회사 물체의 속도에 따른 카메라 모듈의 영상 녹화 속성 조절 방법 및 장치
JP2014209696A (ja) 2012-07-23 2014-11-06 ソニー株式会社 固体撮像装置、信号読み出し方法、および電子機器
JP5604700B2 (ja) 2012-10-29 2014-10-15 弘一 関根 動き検出用撮像装置、動き検出カメラおよび動き検出システム
KR102104413B1 (ko) * 2014-01-16 2020-04-24 한화테크윈 주식회사 감시 카메라 및 디지털 비디오 리코더
US9204048B2 (en) 2014-03-27 2015-12-01 Facebook, Inc. Stabilization of low-light video
CN105450936B (zh) 2014-05-30 2019-02-15 杭州海康威视数字技术股份有限公司 摄像机自动曝光时智能调节方法及其装置
JP6502597B2 (ja) 2015-04-16 2019-04-17 株式会社半導体エネルギー研究所 撮像装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021082994A (ja) * 2019-11-21 2021-05-27 キヤノン株式会社 撮像装置、撮像装置の制御方法
JP2021082995A (ja) * 2019-11-21 2021-05-27 キヤノン株式会社 撮像装置、撮像装置の制御方法
JP7446091B2 (ja) 2019-11-21 2024-03-08 キヤノン株式会社 撮像装置、撮像装置の制御方法
JP7506468B2 (ja) 2019-11-21 2024-06-26 キヤノン株式会社 撮像装置、撮像装置の制御方法
WO2021172145A1 (ja) * 2020-02-26 2021-09-02 ソニーセミコンダクタソリューションズ株式会社 撮像回路および撮像装置

Also Published As

Publication number Publication date
CN111345027B (zh) 2022-05-13
CN111345027A (zh) 2020-06-26
US11514581B2 (en) 2022-11-29
US20200342607A1 (en) 2020-10-29
EP3713214A1 (en) 2020-09-23
EP3713214A4 (en) 2020-09-23
EP3713214B1 (en) 2023-11-01
WO2019097797A1 (ja) 2019-05-23

Similar Documents

Publication Publication Date Title
WO2019097797A1 (ja) 撮像装置、撮像方法および撮像システム
US11297234B2 (en) Systems and methods for automatic exposure in high dynamic range video capture systems
US11399147B2 (en) Imaging apparatus, and imaging apparatus control method
KR101583658B1 (ko) 도어폰을 이용한 도어감시 시스템
CN106878668A (zh) 对物体的移动检测
JP2012257193A (ja) 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
CA2505340A1 (en) Surveillance device
US20160148476A1 (en) Monitoring system
JP2012222529A (ja) 固体撮像素子および駆動方法、並びに電子機器
US20160006990A1 (en) Method for configuration of video stream output from a digital video camera
JP6413443B2 (ja) 電子機器、プログラム及び通信システム
US10542200B2 (en) Surveillance camera system
JP2019012870A (ja) 固体撮像素子、撮像素子、および、固体撮像素子の制御方法
Akrarai et al. An asynchronous hybrid pixel image sensor
JP2019012869A (ja) 画像送受信システム、サーバおよび撮像装置
JP2009055367A (ja) 映像伝送システム
EP3035689B1 (en) Transmission apparatus, relay apparatus and reception apparatus
JP2019009819A (ja) 通信装置、及び、プログラム
Subbalakshmi Embedded Based Web Server UsingARM 9 and SMS Alert System
Angajal Moving Object Detection Algorithm in Distributed Wireless Sensor Networks.
JP2015159360A (ja) 画像伝送装置及び画像伝送システム
JP2012156654A (ja) 送信装置及びそれを用いた動画伝送システム
JP2013078016A (ja) 画像解析システム及び画像解析システムの制御方法