JP7292850B2 - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP7292850B2
JP7292850B2 JP2018196077A JP2018196077A JP7292850B2 JP 7292850 B2 JP7292850 B2 JP 7292850B2 JP 2018196077 A JP2018196077 A JP 2018196077A JP 2018196077 A JP2018196077 A JP 2018196077A JP 7292850 B2 JP7292850 B2 JP 7292850B2
Authority
JP
Japan
Prior art keywords
image
target
images
data amount
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018196077A
Other languages
English (en)
Other versions
JP2020064466A (ja
Inventor
茂樹 弘岡
重樹 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018196077A priority Critical patent/JP7292850B2/ja
Priority to US16/598,650 priority patent/US11430092B2/en
Publication of JP2020064466A publication Critical patent/JP2020064466A/ja
Application granted granted Critical
Publication of JP7292850B2 publication Critical patent/JP7292850B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/188Vegetation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30188Vegetation; Agriculture

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Description

本発明は、連続的に撮影した画像を処理する技術に関する。
農業分野において、圃場、農作物を撮影して、その撮影画像を解析することにより、農作物の生育状態や病害虫による被害状況を把握する取り組みが行われている。例えば特許文献1には、圃場を走行しながら連続的に圃場内の局所を撮影するビデオカメラとGPSとを搭載した農用車両が開示されている。これにより、圃場内の任意の領域における詳細な画像解析を可能としている。
一方で、生育状態の判定や病害虫の被害を見落とさないためには、一定以上の解像度・フレームレートでの撮影が必要だが、常に高解像度・高フレームレートで撮影し続けると、膨大な記憶容量が必要となる。そのため、被写体に応じて撮影頻度や解像度を上げるような取り組みが行われている。例えば特許文献2には、被写体(障害物)との距離や相対速度を検出し、この距離及び/又は相対速度をトリガとしてフレームレートを可変して記憶するドライブレコーダーが開示されている。これにより、衝突事故や衝突事故に繋がる急接近時の画像を確実に保存することができるようになっている。
特開2001-120042号公報 特開2012-38229号公報
特許文献2では、被写体もしくは事象の検出時または検出以降のみ高フレームレート/高解像度で保存している。一方で、農業分野において分析したい農作物の生育状態や病害虫による被害状況では、ある事象がある地点で発見された場合、その周囲の位置的な(特に2次元的な)範囲をより詳細に検討して事象の広がりの程度等を知る必要がある。従って従来のように、被写体もしくは事象の検出時または検出以降の時間的な範囲に着目するだけでは、発見された事象の周囲の位置的な範囲の詳細な検討に必要な情報が十分に得られない場合があった。このように従来は、位置的な範囲に影響し得るに広がりを伴う被写体や事象に適応した、高解像度画像の保存や画像のデータ量の削減が難しかった。
そこで、本発明は、位置的な範囲に影響し得る被写体や事象に適応した、高解像度画像の保存および画像のデータ量の削減を可能にすることを目的とする。
本発明の画像処理装置は、撮影により得られた複数の第1のデータ量の画像を取得する取得手段と、前記複数の第1のデータ量の画像のそれぞれから、農作物のうち病気の症状が現れた部分及び害虫の少なくとも一方である注目対象を検出し、前記撮影が行われた空間において前記注目対象が存在する位置を示す情報を取得する対象検出手段と、前記撮影が行われた空間において前記注目対象が存在する位置に基づいて位置の範囲を特定する特定手段と、前記複数の第1のデータ量の画像のそれぞれが得られた位置が前記範囲に含まれるか否かに応じて、前記複数の第1のデータ量の画像のうち少なくとも一部を前記第1のデータ量より少ない第2のデータ量の画像に変換する変換手段と、を有することを特徴とする。
本発明によれば、位置的な範囲に影響し得る被写体や事象に適応した、高解像度画像の保存および画像のデータ量の削減が可能となる。
実施形態の撮像装置のハードウェア構成の一例を示した図である。 第1の実施形態の撮像装置の機能構成の一例を示した図である。 撮像装置における撮影処理のフローチャートである。 第1の実施形態の検出済注目対象テーブルの一例を表す図である。 第1の実施形態の注目対象検出処理のフローチャートである。 第1の実施形態の詳細調査仕様テーブルの一例を表す図である。 第1の実施形態の記憶部間の画像保存処理のフローチャートである。 第2の実施形態の撮像装置の機能構成の一例を示した図である。 第2実施形態の検出済注目対象テーブルの一例を表す図である。 第2の実施形態の検出済単位領域端点テーブルの一例を表す図である。 第2の実施形態の注目対象検出処理のフローチャートである。 第2の実施形態の詳細調査仕様テーブルの一例を表す図である。 第2の実施形態の記憶部間の画像保存処理のフローチャートである。 巡回順路に沿った撮影と病気発生位置と詳細調査の範囲を示す図である。
以下、添付の図面を参照して、本発明をその好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
本実施形態では、農業分野において、圃場、農作物を撮影し、その撮影画像を解析することによって、農作物の生育状態や病害虫による被害状況を把握可能にするための構成を例に挙げている。
<第1の実施形態>
図1は、本実施形態の画像処理装置の適用例である撮像装置100のハードウェア構成の一例を示したブロック図である。撮像装置100は、CPU102、ROM103、RAM104、記憶装置105、入力部106、出力部107、撮像部108、システムバス101を有する。
CPU102は中央演算処理装置であり、後述する各種処理のための演算および論理判断等を行い、データや命令をやり取りするためのシステムバス101に接続された各構成要素を制御する。
本実施形態の撮像装置100には、プログラムメモリとデータメモリを含むメモリが搭載されている。プログラムメモリは、後述するフローチャートを用いて説明する処理手順を含む各種制御等をCPU102が実行するためのプログラムを格納する。このプログラムメモリは、ROM103であっても良いし、記憶装置105等からプログラムがロードされるRAM104であっても良い。
記憶装置105は、本実施形態の撮像装置100にて撮影した画像データ、プログラムを記憶しておくためのHDD(ハードディスクドライブ)やSSD(ソリッドステートドライブ)等により構成されている。
入力部106は、ユーザが情報の入力あるいは操作を行なうためのマウス、キーボード、タブレット等により構成されている。
出力部107は、グラフィックコントローラ等の出力のための回路を含むディスプレイ等により構成されている。
撮像部108は、レンズなどの撮影光学系、CMOSなどの撮像素子、各種センサ、画像処理回路等を含み、被写体等の撮影を行う。本実施形態の場合、被写体は、例えば、圃場、その圃場内の農作物等である。
図2は、本実施形態の撮像装置100における各機能構成を機能ブロックとして表した図である。なお、図2に示す機能ブロックは、すべてハードウェア構成により実現されても良いし、あるいはソフトウェア構成により実現されても良く、またハードウェア構成とソフトウェア構成の組み合わせにより実現されても良い。このことは後述する各実施形態の機能ブロックにおいても同様である。
撮像部201は、画像を撮影するための機能部であり、図1の撮像部108が含まれる。
位置検出部202は、GPS信号などを基に、画像を撮影した位置を検出するための機能部である。
第1記憶部203は、撮像部201により取得された撮影画像を一時保存するための記憶部である。
対象検出部206は、撮像部201により撮影された画像を解析し、例えば農作物のうち病気の症状が現れた部分や害虫などの注目対象を検出する。さらに、本実施形態では、撮影された画像の撮影位置情報を使用して注目対象の位置も取得する機能部である。ただし、注目対象の位置情報は、位置検出部202にて検出された位置情報を使用して得るように構成してもよい。詳細は後述するが、対象検出部206は、画像解析を行うことにより、撮影画像から、後述する図6の詳細調査仕様テーブル600に登録されている各注目対象の種類に対応した、注目対象を検出する処理を行う。
対象記憶部207は、対象検出部206により検出された注目対象に関する情報を記憶する記憶部である。詳細は後述するが、対象記憶部207には、対象検出部206により検出された注目対象に関する情報を検出済注目対象テーブルに格納する。
範囲特定部208は、対象記憶部207に記憶された注目対象に関する情報を基に、当該注目対象によって圃場や農作物に影響が生じ得る位置的な範囲(以下、影響の範囲)を特定する機能部である。また、画像変換部204が画像変換して得られる画像のデータ量を決定する処理を行う機能部である。詳細は後述するが、範囲特定部208は、対象記憶部207に記憶された注目対象に関する情報のうち、特に注目対象の検出位置に基づいて影響の範囲を特定する。なお注目対象の検出位置とは、圃場における二次元的な位置である。なお、範囲特定部208は、注目対象の種類に基づいて、影響の範囲を特定することも可能であり、また画像のデータ量を決定することも可能となされている。
画像変換部204は、第1記憶部203に保存されている画像が得られた位置と、範囲特定部208で特定された位置的な範囲の包含関係に基づいて、第1記憶部203に保存されている画像の少なくとも一部のデータ量を小さくする制御する機能部である。本実施形態では、第1記憶部203に保存されている画像が得られた位置が、範囲特定部208で特定された範囲に含まれていない場合に、例えば画像の解像度を小さくしてデータ量を少なくするような画像変換処理を行う機能部である。ここで画像が得られた位置とは、本実施形態の場合は、画像が撮影された際の撮影位置であるが、撮影された被写体の位置を解析して得た位置情報等を利用しても構わない。例えば、撮像部201にて取得された撮像画像が第1のデータ量である場合、画像変換部204における画像変換処理では、第1のデータ量より少ない第2のデータ量の画像への変換が行われる。
第2記憶部205は、第1記憶部203に保存された画像が必要に応じて画像変換部204で変換された後の画像を、保存するための記憶部である。
図3は、本実施形態の撮像装置100における撮影処理の一例を示すフローチャートである。以下の説明では、ステップS301~ステップS306をそれぞれS301~S306のように略記する。このことは後述する他のフローチャートにおいても同様とする。
まず、S301において、CPU102は、入力部106を介して、ユーザにより撮影の終了が指示されたか否かを判断する。CPU102は、S301において、撮影終了が指示されたと判断した場合には後述するS306に処理を進め、一方、撮影終了の指示がないと判断した場合にはS302に処理を進める。
S302に進むと、撮像部201は、画像撮影時の解像度を第1の設定にして画像撮影を実行する。本実施形態において、第1の設定に係る解像度は、後述する詳細調査仕様テーブル600に登録されている種類の各注目対象について詳細に調査するために必要な解像度のうちの最も高い解像度となされている。
次にS303に進むと、対象検出部206は、撮影画像から注目対象を検出する処理を実行し、その検出した注目対象に関する情報を、後述する図4で説明する検出済注目対象テーブル400に格納する。S303にて行われる処理の詳細な説明は後述する。
次にS304に進むと、第1記憶部203は、撮影画像の保存処理を実行する。すなわち、第1記憶部203には、S302で解像度が設定された撮像部201により撮像された画像が保存される。
次にS305に進むと、CPU102は、予め決められた撮影間隔だけスリープした後、S301に処理を戻す。
またS301で撮影終了指示がなされたと判断してS306に進むと、CPU102は、第1記憶部203に保存された画像を、必要に応じて画像変換部204により変換した上で、第2記憶部205に保存させた後、フローチャートの処理を終了する。S306にて行われる処理の詳細な説明は後述する。
図4は、S303において対象検出部206により検出された注目対象に関する情報が格納される検出済注目対象テーブル400のデータ構造の一例を示す概念図である。
図4に示すように、検出済注目対象テーブル400の各行には、対象検出部206による画像解析で撮影画像から検出された病気の症状や害虫などの一つの注目対象に関する情報が格納される。
検出済注目対象テーブル400の列401には、検出された各注目対象をそれぞれ個別に識別するための注目対象識別子(ID)が格納され、列402には、それぞれの注目対象が検出された撮影画像の画像ファイル名が格納される。また、列403には、検出された注目対象が存在する位置を示す情報が格納され、列404には、検出された注目対象の種類を表す情報が格納される。この図4の例からもわかるように、一つの撮影画像からは複数の注目対象が検出される場合がある。また、本実施形態の場合、撮影時には農作物等に対して近接撮影が行われるため、注目対象の位置は、撮影時の撮像装置100の位置情報(GPS情報等)で近似代用するものとする。検出済注目対象テーブル400は、例えば圃場等に対する一連の撮影処理が行われるごとに初期化される一時データであり、テーブル初期化時には注目対象に関する情報は格納されていない。また、検出済注目対象テーブル400は、RAM104あるいは記憶装置105に保存され、一連の撮像処理が終了すると削除されるものとする。
図5は、図3のS303において、対象検出部206で実行される、撮影画像から注目対象を検出する処理の一例を示すフローチャートである。
まずS501において、対象検出部206は、撮影画像から、深層学習やパターン認識などの手法により、すべての種類の注目対象を検出する。
次にS502において、対象検出部206は、検出した注目対象が一つ以上存在するか否かを判断する。対象検出部206は、注目対象が一つも存在しない場合にはこのフローチャートの処理を終了し、注目対象が一つ以上存在する場合にはS503に処理を進める。
S503に進むと、対象検出部206は、検出した最初の注目対象に関する情報を取得する。
そしてS504において、対象検出部206は、前述した検出済注目対象テーブル400に対し、最初の注目対象に関する情報を追加する。つまり、対象検出部206は、この注目対象に対応する一行について、列401には注目対象の識別子を、列402には注目対象の画像ファイル名を、列403には注目対象の画像が撮影された位置を、列404には当該注目対象の種類の各情報を格納する。
次にS505において、対象検出部206は、撮影画像から検出した注目対象が他にも存在するか否かを判断し、存在する場合にはS506に処理を進め、存在しない場合にはフローチャートの処理を終了する。
S506に進むと、対象検出部206は、次の注目対象に関する情報を取得した後、S504に処理を戻す。
図6は、本実施形態における詳細調査仕様テーブル600のデータ構造の一例を表す概念図である。
図6に示すように、詳細調査仕様テーブル600の各行には、対象検出部206にて検出する病気の症状が現れた農作物の部分や害虫などの注目対象ごとに詳細な調査を行うために必要となる、撮影画像の仕様に関する情報が格納される。
詳細調査仕様テーブル600の列601には、後に詳細な調査を行うために必要となる画像の仕様をそれぞれ個別に識別するための仕様識別子(ID)が格納され、列602には、注目対象のそれぞれ種類を表す情報が格納されている。また、列603には、列602に格納された種類の注目対象が検出された際に、詳細な調査を行うのに必要とされる画像の解像度を表す情報が格納されている。また、列604には、列602に格納された種類の注目対象が検出された際に、その種類の注目対象による影響(病気や害虫の影響)が及ぶ可能性がある影響範囲、つまり、詳細に調査すべき範囲の半径を表す情報が格納されている。このように詳細調査仕様テーブル600に格納されている情報は、撮影処理が行われる前に事前に用意されている固定データであり、例えばROM103、RAM104、あるいは記憶装置105に保存されているものとする。
図7は、本実施形態の第1記憶部203に一時的に保存されている撮影画像を、必要に応じて画像変換部204で変換した上で第2記憶部205に保存する処理の一例を示すフローチャートである。
まずS701において、画像変換部204は、第1記憶部203に撮影画像が存在しているか否かを判断する。画像変換部204は、第1記憶部203に撮影画像が存在していないと判断した場合にはフローチャートの処理を終了し、一方、撮影画像が存在していると判断した場合にはS702に処理を進める。
S702に進むと、画像変換部204は、第1記憶部203に記憶されている撮影画像のうちの先頭の画像It(具体的には撮影日時がより古い画像)を選択する。
次にS703において、画像変換部204は、画像Itを第2記憶部205に保存する際の解像度Rを、対象検出部206で検出されたどの注目対象からも影響を受けない十分な距離だけ離れている場合の粗い解像度Roで初期化する。
そしてS704において、画像変換部204は、撮影画像から検出されて前述した検出済注目対象テーブル400に格納された注目対象群の先頭要素を、現在の注目対象Icとする。
次にS705において、範囲特定部208は、前述した検出済注目対象テーブル400に注目対象Icとなる情報が存在しているか否かを判断する。範囲特定部208は、検出済注目対象テーブル400に注目対象Icに関する情報が存在していないと判断した場合には、後述するS711に処理を進める。一方、範囲特定部208は、検出済注目対象テーブル400に注目対象Icに関する情報が存在していると判断した場合には、S706に処理を進める。
S706に進むと、範囲特定部208は、前述した詳細調査仕様テーブル600から、検出済注目対象テーブル400の列404に格納されている注目対象Icの種類と一致する詳細調査仕様Scの情報を取得する。
次にS707において、範囲特定部208は、注目対象Icが検出された撮影画像の撮影位置と、第1記憶部203に記憶されている先頭の画像Itの撮影位置との間の距離を、それら両画像に関する位置情報から算出する。そして、範囲特定部208は、その距離が、詳細調査仕様Scを基に詳細に調査すべき影響範囲の半径以下であるか否かを判断する。そして、範囲特定部208において、半径以下であると判断された場合にはS708の処理に進み、一方、半径を超えると判断された場合には後述するS710の処理に進む。
S708に進んだ場合、範囲特定部208は、第1記憶部203の画像を第2記憶部205に保存する際の解像度Rが、詳細調査仕様Scに記述されている必要解像度Rcよりも小さいか否かを判断する。範囲特定部208は、解像度Rが必要解像度Rcよりも小さいと判断した場合にはS709に処理を進め、一方、解像度Rが必要解像度Rcよりも小さくないと判断した場合にはS710に処理を進める。
S709に進むと、範囲特定部208は、画像変換部204に対し、必要解像度Rcを新たな解像度Rに設定した後、S710に処理を進める。
S710に進むと、画像変換部204は、検出済注目対象テーブル400に格納されている撮影画像から検出された注目対象の次の要素を、現在の注目対象Icとした後、S705に処理を戻す。
またS705からS711に進んだ場合、画像変換部204は、前述した画像Itを解像度Rの画像に変換した上で、次のS712において、その変換後の画像Itを第2記憶部205に保存させる。
その後、S713において、画像変換部204は、第1記憶部203の先頭の画像Itを削除した後、S701の処理に戻る。
以上、説明した第1の実施形態の撮像装置100によれば、撮影画像から病気の症状や害虫が検出された場合には、その病気や害虫の種類に応じた影響範囲で撮影された画像をそれら病気や害虫の種類に応じたより高い解像度で保存することが可能となる。一方、それ以外の撮影画像は、より低い解像度に変換することにより、必要な記憶容量を低減することが可能となる。
なお、本実施形態では、検出された病気の症状や害虫の種類に応じて、解像度を変換したが、例えば撮影された画像を間引くように撮影画像間隔を変更することで、必要となる記憶容量を低減してもよい。また、解像度の変換と画像の間引きは共に行われても良い。
<第2の実施形態>
前述した第1の実施形態では、注目対象からの距離に基づいて保存する画像の解像度を決定している。
ここで、注目対象の種類によっては、注目対象が検出された位置からの距離が同じであっても、注目対象が発見された農作物とその隣の農作物とではリスクの度合いは異なることもあると考えられる。したがって、より詳細な画像(高解像度な画像)が必要となる範囲を、第1の実施形態のように距離だけに基づいて決定することが適切であるとは言い難いケースも考えられる。そこで、第2の実施形態では、注目対象が検出された農作物から数えて何本目の農作物であるかのような、注目対象からの単位領域数に基づいて、より詳細な画像が必要な範囲を決定する例について説明する。なお、第2の実施形態における撮像装置100のハードウェア構成や撮影処理は、前述した第1の実施形態と同様であるため、それらの図示と説明は省略する。
図8は、第2の実施形態における撮像装置100における各機能構成を機能ブロックとして表した図である。図8の機能ブロックにおいて、前述した図2の機能部と同様のものには、図2で用いたのと同じ参照符号を付して、それらの説明は省略する。
図8の場合、撮像装置100は、端点検出部801をも有している。端点検出部801は、撮像部201により撮影された画像を解析し、農作物や圃場の区画の境界を示す物体などを認識することで、撮影画像から農作物や区画といった単位領域の端点を検出する。そして、端点検出部801は、検出した単位領域の端点を示す情報を、後述の図10で説明する検出済単位領域端点テーブル1000に格納する。
図9は、第2の実施形態における検出済注目対象テーブル900のデータ構造の一例を表す概念図である。なお、第2の実施形態の検出済注目対象テーブル900において、前述した図4の各列と同様の列には、図4で用いたのと同じ参照符号を付して、それらの説明は省略する。
図9の検出済注目対象テーブル900の場合、列901には、検出した注目対象の画像内における左端からの水平方向の座標を示す情報が格納される。すなわち第2の実施形態の場合、対象検出部206は、注目対象に関する情報として、第1の実施形態で説明した情報に加え、検出した注目対象の画像内における左端からの水平方向の座標を示す情報も取得して、検出済注目対象テーブル900に格納する。
図10は、第2の実施形態における検出済単位領域端点テーブル1000のデータ構造の一例を表す概念図である。
図10に示すように、検出済単位領域端点テーブル1000の各行には、撮影画像から検出した農作物等の単位領域の端点に関する情報が格納される。
検出済単位領域端点テーブル1000の列1001には、検出した単位領域の端点の識別子(ID)が格納され、列1002には、単位領域の端点が検出された画像ファイル名が格納される。また、列1003には、検出された単位領域の端点の種類(左右両端のいずれであるのか)の情報、列1004には、検出された単位領域の端点の画像内での座標が格納される。この検出済単位領域端点テーブル1000からもわかるように、一つの撮影画像から複数の単位領域の端点が検出される場合がある。また、検出済単位領域端点テーブル1000は、一連の撮像処理ごとに生成される一時データであり、生成時には検出された単位領域の端点の情報は格納されていない。また、検出済単位領域端点テーブル1000は、RAM104あるいは記憶装置105に保存され、一連の撮像処理が終了すると削除されるものとする。
図11は、第2の実施形態において、撮影画像から注目対象を検出する処理の一例を示すフローチャートである。なお、図11のフローチャートにおいて、S501~S503、S505、S506の処理は前述した図5のフローチャートの対応した処理と同様であるため、その説明は省略する。図11のフローチャートの場合、S503の後にS1101の処理に進み、S1101の後にS505の処理に進む。また、S502において注目対象が一つも存在しないと判断された場合、もしくは、S505において注目対象がもうないと判断された場合には、S1102に処理が進む。
S1101に進むと、対象検出部206では前述したS504と同様の処理が行われ、さらに検出した注目対象の画像内における左端を基準とする水平方向座標の検出が行われる。そして、この水平方向の座標の情報は、検出済注目対象テーブル900の列901に格納される。
またS1102に進むと、端点検出部801は、深層学習やオブジェクト認識などの手法により、撮影画像から単位領域の端点を検出する。
次にS1103において、端点検出部801は、検出した端点が一つ以上存在するか否かを判断する。端点検出部801は、検出した単位領域の端点が一つ以上ある場合には、S1104に処理を進め、一方、端点が存在しない場合にはこのフローチャートの処理を終了する。
S1104に進むと、端点検出部801は、検出した最初の端点の情報を取得する。
次にS1105において、端点検出部801は、その取得した端点の情報を、検出済単位領域端点テーブル1000に追加する。またこの時、端点検出部801は、新しい検出済みの単位領域の端点の識別子(ID)を列901に、端点を検出した注目対象の画像ファイル名を列902に、端点の種類を列903に、画像内における端点の座標を列904にそれぞれ記述する。
次にS1106において、端点検出部801は、検出した単位領域の端点がまだ存在するか否かを判断し、端点がまだ存在すると判定した場合にはS1107に処理を進め、一方、端点が存在しないと判断した場合にはこのフローチャートの処理を終了する。
そして、S1107に進むと、端点検出部801は、次の検出された端点の情報を取得した後、S1105の処理に戻す。
図12は、第2の実施形態における詳細調査仕様テーブル1200のデータ構造の一例を表す概念図である。なお、第2の実施形態の詳細調査仕様テーブル1200において、前述した図6の各列と同様の列には、図6で用いたのと同じ参照符号を付して、それらの説明は省略する。
図12の詳細調査仕様テーブル1200の場合、図6の列604に代えて、列1201が設けられている。列1201には、注目対象の種類が検出された際に詳細に調査すべき影響範囲の単位領域数が登録されている。ここで、詳細に調査すべき影響範囲の単位領域数が0である場合には、影響範囲は注目対象が検出された農作物だけに限定されることを示しており、単位領域数が1以上の場合にはその数値だけ隣の単位領域も詳細に調査する必要があることを示している。この詳細調査仕様テーブル1200も、前述した詳細調査仕様テーブル600と同様、予め撮像処理の前に用意される固定データであり、例えばROM103、RAM104、あるいは記憶装置105に保存されているものとする。
図13は、第2の実施形態において、第1記憶部203に保存した画像を、必要に応じて画像変換部204で変換した上で第2記憶部205に保存する処理の一例を示すフローチャートである。なお、図13のフローチャートにおいて、S701~S705、S606、S708~S713の処理は前述した図7のフローチャートの対応した処理と同様であるため、その説明は省略する。図13のフローチャートの場合、S705において検出済注目対象テーブル900に注目対象Icの情報が存在していると判断した場合、S1301に処理が進む。そして、S1301の後にS706の処理に進み、S706の後にS1302の処理に進む。S1302からS708に進む場合、S1302からS710に進む場合については後述する。
図13のフローチャートにおいて、S1301に進むと、範囲特定部208は、現在の注目対象Icを検出した撮影画像の撮影位置と、第1記憶部203に記憶されている先頭の画像Itの撮影位置との間に、単位領域がいくつあるかを算出する。単位領域数は、検出済単位領域端点テーブル1000に登録されている端点の情報を使用して、注目対象icを検出した画像の撮影位置から画像Itの撮影位置までの間に撮影された画像に含まれる端点数を積算することで算出するものとする。
またS1302に進むと、範囲特定部208は、注目対象Icの撮影画像と第1記憶部203内の先頭の画像Itの撮影位置間の単位領域数が、詳細調査仕様Scに記述されている、詳細に調査すべき影響範囲の単位領域数の閾値以下であるか否かを判断する。そして、単位領域数が、詳細に調査すべき影響範囲の単位領域数の閾値以下であると判断された場合にはS708に処理が進み、一方、詳細に調査すべき影響範囲の単位領域数より多いと判断された場合にはS710に処理が進む。
以上説明した第2の実施形態の撮像装置によれば、注目対象が検出された農作物から数えて何本目の農作物であるかのような、注目対象からの単位領域数に基づいて、より詳細な画像が必要な範囲を特定することができる。
前述したように、第1、第2の実施形態の撮像装置100においては、より詳細な画像が必要な範囲を特定でき、その範囲では、高解像度の画像を取得して詳細な調査を実施することが可能となる。一方、詳細な画像が必要な範囲以外の範囲では、低解像度の画像を保存することで、保存データ量を削減することが可能となる。例えば図14に示すように、第1、第2の実施形態の撮像装置100によれば、巡回順路1402に沿って農作物1401等の画像を撮影する場合、病気や害虫等の発見位置1404に基づいた要詳細調査範囲1403のみ詳細な画像を保存できる。一方、それ以外の範囲では、記憶容量の小さい粗い画像を保存することで、保存データ量を削減することが可能となる。言い換えると、第1、第2の実施形態の撮像装置100においては、注目対象からの距離や単位領域数により決定される2次元的な撮影範囲に基づいて、注目対象に適応した、高解像度の画像の取得、および画像のデータ量の調整が可能となっている。
<その他の実施形態>
前述した各実施形態では、撮像装置において撮影した画像から注目対象を検出したが、別途外部から入力された画像から注目対象を検出するように構成しても良い。
また、前述の各実施形態では、保存する画像の解像度を調整する例を挙げたが、詳細な調査が必要な範囲では撮影間隔を短くつまりフレームレートを高く、その範囲外では撮影間隔を長くつまりフレームレートを低くするように構成しても良い。
また、前述の各実施形態では、撮影が終了した後に、必要に応じて画像を変換した上で画像を保存しているが、撮影途中で必要に応じて画像を変換した上で画像を保存するように構成しても良い。
また、前述の各実施形態では、直前に撮影した際に検出した注目対象のみに基づいて詳細な調査が必要な範囲を決定しているが、任意のタイミングで1回以上撮影した際に検出した注目対象群を基に詳細な調査が必要な範囲を決定するよう構成しても良い。
さらに前述の実施形態では、農業分野を例に挙げ、注目対象を農作物の病気の症状や害虫などとしたが、本発明は農業分野のみに限定されず、他の分野の注目対象についても適用可能である。
本発明は、前述の各実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
前述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
100:撮像装置、102:CPU、103:ROM、104:RAM、105:記憶装置、108:撮像部、202:位置検出部、203:第1記憶部、204:画像変換部、205:第2記憶部、206:対象検出部、207:対象記憶部、208:範囲特定部、801:端点検出部

Claims (13)

  1. 撮影により得られた複数の第1のデータ量の画像を取得する取得手段と、
    前記複数の第1のデータ量の画像のそれぞれから、農作物のうち病気の症状が現れた部分及び害虫の少なくとも一方である注目対象を検出し、前記撮影が行われた空間において前記注目対象が存在する位置を示す情報を取得する対象検出手段と、
    前記撮影が行われた空間において前記注目対象が存在する位置に基づいて位置の範囲を特定する特定手段と、
    前記複数の第1のデータ量の画像のそれぞれが得られた位置が前記範囲に含まれるか否かに応じて、前記複数の第1のデータ量の画像のうち少なくとも一部を前記第1のデータ量より少ない第2のデータ量の画像に変換する変換手段と、
    を有することを特徴とする画像処理装置。
  2. 前記複数の第1のデータ量の画像を記憶する第1の記憶手段と、
    前記画像が撮影された際の撮影位置を検出する位置検出手段を更に有し、
    前記複数の第1のデータ量の画像のそれぞれが得られた位置とは、前記複数の第1のデータ量の画像のそれぞれについて前記位置検出手段によって検出された撮影位置であって、
    前記変換手段は、前記第1の記憶手段に記憶された前記複数の第1のデータ量の画像のうちそれぞれの撮影位置が前記範囲に含まれない画像を、前記第1のデータ量より少ない第2のデータ量の画像に変換することを特徴とする請求項1に記載の画像処理装置。
  3. 前記対象検出手段は、前記撮影された前記複数の第1のデータ量の画像から、前記注目対象を検出し、前記複数の第1のデータ量の画像について前記位置検出手段によって検出された撮影位置に基づいて前記注目対象が存在する位置を示す情報を取得することを特徴とする請求項2に記載の画像処理装置。
  4. 前記対象検出手段が前記注目対象を検出した位置を記憶する第2の記憶手段をさらに有することを特徴とする請求項3に記載の画像処理装置。
  5. 前記変換手段による前記変換は、前記撮影された前記複数の第1のデータ量の画像のうち少なくとも一部の解像度を低くする処理であることを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
  6. 前記変換手段による前記変換は、前記撮影された前記複数の第1のデータ量の画像のうち少なくとも一部を間引く処理であることを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
  7. 前記変換手段による前記変換は、前記撮影された前記複数の第1のデータ量の画像のうち少なくとも一部の解像度を低くする処理、および前記撮影された前記複数の第1のデータ量の画像のうち少なくとも一部を間引く処理であることを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
  8. 前記特定手段は、さらに前記注目対象の種類に応じて、前記変換手段による前記変換において前記第1のデータ量より少ない第2のデータ量にする際の、少なくするデータ量を決定することを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
  9. 前記特定手段は、さらに、前記検出された注目対象までの距離に基づいて、前記変換手段による前記変換において前記第1のデータ量より少ない第2のデータ量にする際の、データ量を少なくする範囲を特定することを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
  10. 単位領域の端点を検出する端点検出手段をさらに有し、
    前記特定手段は、前記端点検出手段で検出された単位領域の端点に基づいて、前記変換手段による前記変換において前記第1のデータ量より少ない第2のデータ量にする際の、データ量を少なくする範囲を特定することを特徴とする請求項1から9のいずれか1項に記載の画像処理装置。
  11. 前記画像処理装置は、圃場、農作物を撮影し、前記圃場及び農作物の撮影画像を解析することによって、前記農作物の生育状態や病害虫による被害状況をユーザが把握可能であるように出力する処理に用いられることを特徴とする請求項1から10のいずれか1項に記載の画像処理装置。
  12. 画像処理装置が実行する画像処理方法であって、
    撮影により得られた複数の第1のデータ量の画像を取得する取得工程と、
    前記複数の第1のデータ量の画像のそれぞれから、農作物のうち病気の症状が現れた部分及び害虫の少なくとも一方である注目対象を検出し、前記撮影が行われた空間において前記注目対象が存在する位置を示す情報を取得する対象検出工程と、
    前記撮影が行われた空間において前記注目対象が存在する位置に基づいて位置の範囲を特定する特定工程と、
    前記複数の第1のデータ量の画像のそれぞれが得られた位置が前記範囲に含まれるか否かに応じて、前記複数の第1のデータ量の画像のうち少なくとも一部を前記第1のデータ量より少ない第2のデータ量の画像に変換する変換工程と、
    を有することを特徴とする画像処理方法。
  13. コンピュータを、請求項1から11のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2018196077A 2018-10-17 2018-10-17 画像処理装置、画像処理方法、及びプログラム Active JP7292850B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018196077A JP7292850B2 (ja) 2018-10-17 2018-10-17 画像処理装置、画像処理方法、及びプログラム
US16/598,650 US11430092B2 (en) 2018-10-17 2019-10-10 Image processing apparatus, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018196077A JP7292850B2 (ja) 2018-10-17 2018-10-17 画像処理装置、画像処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2020064466A JP2020064466A (ja) 2020-04-23
JP7292850B2 true JP7292850B2 (ja) 2023-06-19

Family

ID=70280962

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018196077A Active JP7292850B2 (ja) 2018-10-17 2018-10-17 画像処理装置、画像処理方法、及びプログラム

Country Status (2)

Country Link
US (1) US11430092B2 (ja)
JP (1) JP7292850B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2021100429A1 (ja) * 2019-11-18 2021-05-27
CN111898590A (zh) * 2020-08-26 2020-11-06 龙川县林业科学研究所 一种油茶病虫害监测方法
JP2023161794A (ja) 2022-04-26 2023-11-08 新東工業株式会社 植物状態検出システム及びガス検知装置
JP2023161793A (ja) 2022-04-26 2023-11-08 新東工業株式会社 植物状態検出システム及びにおい検知装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006343573A (ja) 2005-06-09 2006-12-21 Olympus Corp 顕微鏡システム、観察方法および観察プログラム
JP2009049976A (ja) 2007-07-20 2009-03-05 Fujifilm Corp 画像処理装置、画像処理方法、及びプログラム
JP2017016271A (ja) 2015-06-29 2017-01-19 株式会社オプティム 無線航空機、位置情報出力方法及び無線航空機用プログラム。
WO2017077543A1 (en) 2015-11-08 2017-05-11 Agrowing Ltd A method for aerial imagery acquisition and analysis

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001120042A (ja) 1999-10-22 2001-05-08 Hokuriku Natl Agricultural Experiment Station 画像マッピングシステム
JP5040943B2 (ja) * 2009-03-12 2012-10-03 セイコーエプソン株式会社 画像音声供給装置、画像音声供給システム、画像音声供給方法、及び画像音声供給用プログラム
JP2012038229A (ja) 2010-08-11 2012-02-23 Kantatsu Co Ltd ドライブレコーダー
JP2013125519A (ja) 2011-12-16 2013-06-24 Canon Inc 画像処理装置、データ構造、および画像生成装置
EP3304439A4 (en) * 2015-05-25 2018-10-31 Agromentum Ltd. Closed loop integrated pest management

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006343573A (ja) 2005-06-09 2006-12-21 Olympus Corp 顕微鏡システム、観察方法および観察プログラム
JP2009049976A (ja) 2007-07-20 2009-03-05 Fujifilm Corp 画像処理装置、画像処理方法、及びプログラム
JP2017016271A (ja) 2015-06-29 2017-01-19 株式会社オプティム 無線航空機、位置情報出力方法及び無線航空機用プログラム。
WO2017077543A1 (en) 2015-11-08 2017-05-11 Agrowing Ltd A method for aerial imagery acquisition and analysis

Also Published As

Publication number Publication date
US20200126198A1 (en) 2020-04-23
US11430092B2 (en) 2022-08-30
JP2020064466A (ja) 2020-04-23

Similar Documents

Publication Publication Date Title
JP7292850B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5227911B2 (ja) 監視映像検索装置及び監視システム
JP6184271B2 (ja) 撮像管理装置、撮像管理システムの制御方法およびプログラム
JP5484184B2 (ja) 画像処理装置、画像処理方法及びプログラム
US20140161312A1 (en) Setting apparatus, image processing apparatus, control method of setting apparatus, and storage medium
JP6821772B2 (ja) 検出装置および方法、ならびに画像処理装置およびシステム
WO2014081726A1 (en) Method and system for metadata extraction from master-slave cameras tracking system
CN107305693B (zh) 信息处理装置、信息处理方法及存储介质
JP6914007B2 (ja) 情報処理装置および情報処理方法
JP7299692B2 (ja) 画像処理装置、画像処理システム、画像処理装置の制御方法、及び、プログラム
US20090245579A1 (en) Probability distribution constructing method, probability distribution constructing apparatus, storage medium of probability distribution constructing program, subject detecting method, subject detecting apparatus, and storage medium of subject detecting program
KR20220098030A (ko) 타깃 운동 궤적 구축 방법, 기기 및 컴퓨터 저장 매체
CN110490196A (zh) 主体检测方法和装置、电子设备、计算机可读存储介质
US20180220065A1 (en) Information processing apparatus, image capturing apparatus, information processing method, and recording medium storing program
CN114092720A (zh) 目标跟踪方法、装置、计算机设备和存储介质
EP3576419A1 (en) Image processing apparatus, information processing apparatus, information processing method, and program
TWI671707B (zh) 影像分析方法、電子系統以及非暫態電腦可讀取記錄媒體
JP2003006654A (ja) 動画像における移動体の特徴量抽出方法と自動追跡方法及びそれらの装置、並びに、それらの方法の実行プログラムとこの実行プログラムを記録した記録媒体
JP6758237B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JP7384158B2 (ja) 画像処理装置、移動装置、および方法、並びにプログラム
JP7243372B2 (ja) 物体追跡装置および物体追跡方法
JP3962607B2 (ja) 画像処理装置及び方法及びプログラム及び記憶媒体
JP2004171375A (ja) 画像処理方法
JP5193944B2 (ja) 画像処理方法
CN111667404A (zh) 目标信息采集方法、装置、***、电子设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211015

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230315

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230607

R151 Written notification of patent or utility model registration

Ref document number: 7292850

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151