JP6720756B2 - 情報処理装置、情報処理方法及び情報処理システム - Google Patents

情報処理装置、情報処理方法及び情報処理システム Download PDF

Info

Publication number
JP6720756B2
JP6720756B2 JP2016150604A JP2016150604A JP6720756B2 JP 6720756 B2 JP6720756 B2 JP 6720756B2 JP 2016150604 A JP2016150604 A JP 2016150604A JP 2016150604 A JP2016150604 A JP 2016150604A JP 6720756 B2 JP6720756 B2 JP 6720756B2
Authority
JP
Japan
Prior art keywords
captured image
tracking
attention area
information processing
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016150604A
Other languages
English (en)
Other versions
JP2017073119A (ja
JP2017073119A5 (ja
Inventor
真司 渡辺
真司 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to PCT/JP2016/004345 priority Critical patent/WO2017061080A1/en
Priority to EP16779193.8A priority patent/EP3360113A1/en
Priority to CN201680058029.2A priority patent/CN108140241A/zh
Priority to US15/765,103 priority patent/US10929985B2/en
Publication of JP2017073119A publication Critical patent/JP2017073119A/ja
Publication of JP2017073119A5 publication Critical patent/JP2017073119A5/ja
Application granted granted Critical
Publication of JP6720756B2 publication Critical patent/JP6720756B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20116Active contour; Active surface; Snakes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)

Description

本開示は、情報処理装置、情報処理方法及び情報処理システムに関する。
医療および生命科学の分野において、多くの種類の生体組織の運動、または状態の変化を観察することが行われている。このような生体組織の運動または状態の変化を追跡するために、画像処理を用いて撮像画像から生体組織等に対応する領域をトラッキングする技術が開発されている。
例えば、下記特許文献1には、臓器等の生体組織を観察対象として、超音波またはCT(Computed Tomography)等を用いて得られる画像から、観察対象の領域の一部について追跡点を配置し、当該追跡点の動きを追跡する技術が開示されている。かかる技術により、追跡点の動きを算出することで、観察対象である生体組織の動きを定量的に評価することができる。
特許第5508035号公報
しかし、観察対象が臓器等の生体組織ではなく細胞である場合、細胞の成長および運動等によって、細胞自身の形状が短時間で大きく変化する。そのため、上記特許文献1に開示された技術において、一度配置された追跡点の動きを追跡するだけでは、追跡点が配置されていない部分の形状の変化を追跡することが困難である。
そこで、本開示では、観察対象の形状変化を高精度で追跡することが可能な、新規かつ改良された情報処理装置、情報処理方法および情報処理システムを提案する。
本開示によれば、撮像画像における注目領域に関して複数の追跡点を配置する配置部と、上記撮像画像と、上記撮像画像とは撮像時点が異なる他の撮像画像との比較に基づいて、上記追跡点の上記他の撮像画像における位置を推定する推定部と、上記推定部により推定された上記追跡点の位置に基づいて上記他の撮像画像における注目領域を設定する設定部と、を備え、上記設定部により上記撮像画像における上記注目領域が設定されている場合、上記配置部は、設定された上記注目領域に関して上記追跡点を再配置し、上記推定部は、再配置された追跡点の上記他の撮像画像における位置を推定する情報処理装置が提供される。
また、本開示によれば、プロセッサが、撮像画像における注目領域に関して複数の追跡点を配置することと、上記撮像画像と、上記撮像画像とは撮像時点が異なる他の撮像画像との比較に基づいて、上記追跡点の上記他の撮像画像における位置を推定することと、推定された上記追跡点の位置に基づいて上記他の撮像画像における注目領域を設定することと、を含み、上記プロセッサにより上記撮像画像における上記注目領域が設定されている場合、上記プロセッサが、設定された上記注目領域に関して上記追跡点を再配置することと、再配置された追跡点の他の撮像画像における位置を推定することと、をさらに含む情報処理方法が提供される。
また、本開示によれば、複数の撮像画像を生成する撮像部を備える撮像装置と、上記撮像部から取得した一の撮像画像における注目領域に関して複数の追跡点を配置する配置部と、上記一の撮像画像と、上記一の撮像画像とは上記撮像部による撮像時点が異なる他の撮像画像との比較に基づいて、上記追跡点の上記他の撮像画像における位置を推定する推定部と、推定された上記追跡点の位置に基づいて上記他の撮像画像における注目領域を設定する設定部と、を備え、上記設定部により上記一の撮像画像における上記注目領域が設定されている場合、上記配置部は、設定された上記注目領域に関して上記追跡点を再配置し、上記推定部は、再配置された追跡点の上記他の撮像画像における位置を推定する情報処理装置と、を備える情報処理システムが提供される。
以上説明したように本開示によれば、観察対象の形状変化を高精度で追跡することが可能である。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態に係る情報処理システムの構成の概要を示す図である。 同実施形態に係る情報処理装置の機能構成例を示すブロック図である。 同実施形態に係る情報処理装置による処理の一例を示すフローチャートである。 同実施形態に係る初期設定処理における撮像画像の表示例を示す図である。 同実施形態に係る初期設定処理における撮像画像および初期注目領域の表示例を示す図である。 同実施形態に係る初期設定処理における追跡点の配置例を示す図である。 同実施形態に係る追跡処理における追跡領域および探索範囲の設定例を示す図である。 同実施形態に係る追跡処理における動きベクトルの算出例および追跡点の位置の推定例を示す図である。 同実施形態に係る追跡処理における注目領域の設定例を示す図である。 同実施形態に係る追跡処理における追跡点の再配置例を示す図である。 同実施形態に係る配置部による配置処理の第1の応用例を説明するための図である。 同実施形態に係る配置部による配置処理の第2の応用例を説明するための図である。 同実施形態に係る配置部による配置処理の第3の応用例を説明するための図である。 同実施形態に係る推定部による推定処理の応用例を説明するための図である。 同実施形態の変形例に係る情報処理装置の機能構成例を示すブロック図である。 同変形例に係る情報処理装置による処理の一例を示すフローチャートである。 同実施形態に係る情報処理装置の第1の適用例(神経細胞)について説明するための図である。 同実施形態に係る情報処理装置による軸索の初期設定処理の例を示す図である。 同実施形態に係る情報処理装置による軸索の追跡処理の例を示す図である。 同実施形態に係る情報処理装置の第2の適用例(ゼブラフィッシュ)について説明するための図である。 同実施形態に係る情報処理装置の第3の適用例(コロニー)について説明するための図である。 同実施形態に係る情報処理装置の第4の適用例(マクロファージ、異物)について説明するための図である。 本開示の実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.情報処理システムの概要
2.情報処理装置
2.1.構成例
2.2.処理例
2.3.効果
2.4.応用例
2.5.変形例
2.6.適用例
3.ハードウェア構成例
4.まとめ
<1.情報処理システムの概要>
図1は、本開示の一実施形態に係る情報処理システム1の構成の概要を示す図である。図1に示すように、情報処理システム1は、撮像装置10、および情報処理装置20を備える。撮像装置10および情報処理装置20は、有線または無線の各種ネットワークにより接続される。
(撮像装置)
撮像装置10は、撮像画像(動画像)を生成する装置である。本実施形態に係る撮像装置10は、例えば、デジタルカメラにより実現される。他にも、撮像装置10は、例えばスマートフォン、タブレット、ゲーム機、またはウェアラブル装置など、撮像機能を有するあらゆる装置により実現されてもよい。例えば、撮像装置10は、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子、および撮像素子への被写体像の結像を制御するためのレンズなどの各種の部材を用いて実空間を撮像する。また、撮像装置10は、情報処理装置20との間で撮像画像等を送受信するための通信装置を含む。本実施形態において、撮像装置10は、観察対象である細胞が培養されている培地Mを撮像するための撮像ステージSの上方に設けられる。そして、撮像装置10は、培地Mを特定のフレームレートで撮像することにより動画像データを生成する。なお、撮像装置10は、培地Mを直接(他の部材を介さずに)撮像してもよいし、顕微鏡等の他の部材を介して培地Mを撮像してもよい。また、上記フレームレートは特に限定されないが、観察対象の変化の度合いに応じて設定されることが好ましい。なお、撮像装置10は、観察対象の変化を正しく追跡するため、培地Mを含む一定の撮像領域を撮像する。撮像装置10により生成された動画像データは、情報処理装置20へ送信される。
なお、本実施形態において、撮像装置10は光学顕微鏡等に設置されるカメラであることを想定しているが、本技術はかかる例に限定されない。例えば、撮像装置10は、SEM(Scanning Electron Microscope;走査型電子顕微鏡)、もしくはTEM(Transmission Electron Microscope;透過型電子顕微鏡)等の電子線を用いた電子顕微鏡等に含まれる撮像装置、または、AFM(Atomic Force Microscope;原子間力顕微鏡)、もしくはSTM(Scanning Tunneling Microscope;走査型トンネル顕微鏡)等の探針を用いたSPM(Scanning Probe Microscope;走査型プローブ顕微鏡)等に含まれる撮像装置であってもよい。この場合、撮像装置10により生成される撮像画像は、例えば電子顕微鏡の場合、電子線を観察対象に照射することにより得られる画像であり、また、SPMの場合、短針を用いて観察対象をなぞることにより得られる画像である。これらの撮像画像も、本実施形態に係る情報処理装置20により画像解析され得る。
(情報処理装置)
情報処理装置20は、画像解析機能を有する装置である。情報処理装置20は、PC(Personal Computer)、タブレット、スマートフォンなど、画像解析機能を有するあらゆる装置により実現される。また、情報処理装置20は、ネットワーク上の1または複数の情報処理装置によって実現されてもよい。本実施形態に係る情報処理装置20は、撮像装置10から撮像画像を取得し、取得した撮像画像について観察対象の領域の追跡を実行する。情報処理装置20による追跡処理の解析結果は、情報処理装置20の内部または外部に備えられる記憶装置または表示装置等に出力される。なお、情報処理装置20の各機能を実現する機能構成については後述する。
なお、本実施形態において、撮像装置10および情報処理装置20により情報処理システム1が構成されるが、本技術はかかる例に限定されない。例えば、撮像装置10が、情報処理装置20に関する処理(例えば追跡処理)を行ってもよい。この場合、情報処理システム1は、観察対象の追跡機能を有する撮像装置により実現される。
ここで、観察対象となる細胞は、人、動物、植物または無生物である構造体等の通常の被写体と異なり、短時間において成長、***、結合、変形、またはネクローシス(Necrosis;壊死)等の各種現象を発生させる。この場合、細胞の形状が短時間で大きく変化し得る。そうすると、例えば特許第5508035号明細書に開示された技術を用いて撮像画像内の観察対象である細胞の形状を追跡しても、追跡点が配置されていない部分の形状が変化した場合、当該部分の形状の変化を追跡することができない。よって、細胞の形状の変化を精度高く追跡することが困難である。また、観察対象が動物、植物または無生物である構造体であっても、例えば、薄膜またはナノクラスタ結晶の成長等、観察対象の構造または形状が短時間で著しく変化する場合、上記文献に開示された技術を用いて観察対象を精度高く追跡し続けることは困難である。
そこで、本実施形態に係る情報処理システム1によれば、撮像画像内に設定された注目領域に関して複数の追跡点を配置し、撮像時点が異なる他の撮像画像における追跡点について位置を推定し、推定された位置における追跡点に基づいて注目領域を再設定し、さらに再設定した注目領域に関して追跡点を再配置する。かかる技術により、観察対象である細胞の領域を追跡するときに、当該領域の変化を追跡するための追跡点を撮像フレームごとに適切な位置に再配置することができる。これにより、細胞の形状の変化に追随して追跡点の位置を適切に調整することができるので、細胞の形状の変化の程度に関わらず精度高く細胞の形状の変化を追跡することができる。
以上、本開示の一実施形態に係る情報処理システム1の概要について説明した。本開示の一実施形態に係る情報処理システム1に含まれる情報処理装置20は、以下の実施形態において実現される。以下、情報処理装置20の具体的な構成例および動作処理について説明する。
<2.情報処理装置>
まず、図2〜図22を参照して本開示の第1の実施形態に係る情報処理装置20について説明する。
[2.1.構成例]
図2は、本開示の一実施形態に係る情報処理装置20の機能構成例を示すブロック図である。図2に示すように、情報処理装置20は、画像取得部210、初期設定部215、配置部220、推定部230、設定部240、および出力制御部250を含む。
(画像取得部)
画像取得部210は、撮像装置10により生成された撮像画像データを、不図示の通信装置を介して取得する。例えば、画像取得部210は、撮像装置10により生成された動画像データを時系列に取得する。
なお、画像取得部210が取得する画像は、RGB画像またはグレースケール画像等が含まれる。取得した画像がRGB画像である場合、画像取得部210は、当該RGB画像である撮像画像をグレースケールに変換する。
また、画像取得部210は、取得した撮像画像データを初期設定部215、または推定部230に出力する。例えば、情報処理装置20による追跡処理が開始されていない場合、後述する初期設定部215による注目領域の初期設定のために、画像取得部210は、取得した撮像画像データのうち一の画像データを初期設定部215に出力する。一方で、情報処理装置20による追跡処理が実行されている場合、推定部230による推定のために、画像取得部210は、取得した撮像画像データのうち、一時刻前に実施した追跡処理に用いられた撮像画像データとは異なる撮像画像データを出力する。
なお、本明細書において追跡処理とは、詳しくは後述するが、図2に示すように、配置部220、推定部230、および設定部240による一連の処理を意味する。この追跡処理は、画像取得部210により取得される動画像データに含まれる撮像画像データについて、繰り返し実施され得る。
(初期設定部)
初期設定部215は、情報処理装置20による追跡処理が開始されていない場合に、画像取得部210から取得した撮像画像について注目領域の初期設定を行う機能を有する。
なお、本明細書において注目領域とは、撮像画像内において追跡処理の対象となる領域を意味する。本実施形態において、注目領域は、撮像された細胞等の観察対象に対応する領域に相当する領域である。つまり、一連の追跡処理において、後述する設定部240により設定される注目領域が観察対象に対応する領域の追跡結果となる。なお、初期設定部215において設定される注目領域は、撮像画像内における観察対象に対応する領域と完全に一致していなくてもよい。ただし、観察対象に対応する領域を精度高く追跡するためには、注目領域を適切に設定することが好ましい。
また、本明細書における注目領域は、例えば開曲線(直線を含む)により表現される領域であってもよく、または、閉曲線(始点と終点が一致する曲線)により包囲される領域であってもよい。また、ユーザの操作等により、複数の閉領域、または8の字のような領域が設定されてもよい。
初期設定部215において、注目領域はユーザの操作により設定されてもよい。例えば、ユーザが不図示のマウス、タッチペン、またはタッチパネル等の入力装置を操作して、不図示の表示装置(ディスプレイ等)に表示されている撮像画像内の観察対象の外周(例えば、細胞の輪郭)をなぞることにより、注目領域が設定されてもよい。これにより、ユーザが所望する領域を注目領域として設定することができる。
また、ユーザの操作により開曲線が表現された場合においても、初期設定部215は、補間処理等により注目領域を閉曲線により包囲される領域として設定してもよい。また、初期設定部215において、注目領域は画像解析処理により自動的に設定されてもよい。例えば、初期設定部215は、2値画像変換、ハフ変換、または機械学習等の画像解析手法を用いて注目領域を設定してもよい。これにより、注目領域の初期設定により生じるユーザへの負担を軽減することができる。
初期設定部215により設定された注目領域に関する情報は、配置部220に出力される。
(配置部)
配置部220は、注目領域に関して、複数の追跡点を配置する機能を有する。
ここで、本明細書において追跡点とは、ある撮像画像について設定された注目領域に対応して配置される点である。例えば本実施形態において、追跡点は注目領域を定義する線または輪郭上に、所定の間隔を空けて配置される。後述する推定部230において、当該注目領域が設定された際に用いられた撮像画像とは異なる時点において撮像された他の撮像画像における追跡点の位置が推定される。この追跡点の位置を時系列に推定することにより、細胞の形状の変化を追跡することができる。
なお、注目領域が開曲線により表現される場合、配置部220は当該開曲線の端点にそれぞれ追跡点を配置する。一方で注目領域が閉曲線により表現される場合、配置部220は、閉曲線上の特定の位置に追跡点を配置しなくともよい。ただし、ユーザの操作により注目領域が閉曲線により設定された場合、配置部220は、当該閉曲線の始点(終点)に追跡点を配置してもよい。これにより、ユーザが所望する位置に追跡点を配置することができる。
追跡点の配置数および配置間隔は、観察対象の種類、または観察対象の形状に応じて決定されてもよい。例えば、観察対象である細胞の形状が大きく変化する場合、追跡点の配置数を増やし、配置間隔を小さくすることが好ましい。これにより、細胞の形状が大きく変化しても、精度高くその形状の変化を追跡することができる。また、計算負荷の低減のためには、追跡点の配置数を減らし、配置間隔を大きくすることが好ましい。
情報処理装置20による追跡処理が開始されていない場合、本実施形態に係る配置部220は、初期設定部215により設定された注目領域に関して、追跡点を配置する。
一方で、情報処理装置20による追跡処理が実行されている場合、配置部220は、設定部240により設定された注目領域に関して、追跡点を再配置する。これにより、追跡処理ごとに適切な追跡点を配置することができる。例えば追跡点を再配置しない場合、観察対象である細胞のうち、追跡点が配置されていない部分の形状の変化を追うことができない。本実施形態によれば、一時刻前に設定部240により設定された注目領域に関して、配置部220により追跡処理ごとに追跡点が適切な間隔を空けて再配置される。そのため、細胞の形状が大きく変化しても、注目領域が細胞に対応する領域と大きく乖離することを最小限にとどめることができる。よって、細胞に対応する領域を精度高く追跡することができる。
なお、配置部220は、先に配置された追跡点のうち少なくとも一の追跡点を、後述する推定部230により推定された位置と同一の位置に再配置してもよい。例えば、配置部220が配置した追跡点の近傍の領域に含まれる観察対象がその特徴を大きく変化させない場合、同一の位置に追跡点を再配置したほうが、追跡処理の精度が向上するためである。
配置部220により配置(再配置)された追跡点に関する情報は、注目領域の設定に用いられた撮像画像に関する情報とともに、推定部230に出力される。
(推定部)
推定部230は、注目領域の設定に用いられた撮像画像(以後、第1の撮像画像と呼称する)と、画像取得部210から取得した他の撮像画像(以後第2の撮像画像と呼称する)との比較に基づいて、第1の撮像画像における注目領域に関して配置された追跡点の第2の撮像画像における位置を推定する機能を有する。ここで、第2の撮像画像とは、第1の撮像画像とは撮像時点が異なる撮像画像を意味する。第2の撮像画像は、例えば、第1の撮像画像のフレームの前後の数フレームのうちのいずれかのフレームの撮像画像であってもよい。より具体的には、第2の撮像画像は、第1の撮像画像の1フレーム後に生成された撮像画像であってもよい。また、詳細は後述するが、観察対象の状態または変化等に応じて、推定対象となる第2の撮像画像の撮像時点(第1の撮像画像と第2の撮像画像の間のフレーム数)が指定されてもよい。
推定部230は、例えば、第1の撮像画像と第2の撮像画像との比較により算出される動きベクトルに基づいて、追跡点の位置を推定してもよい。この動きベクトルとは、追跡点ごとに算出される動きベクトルであってもよい。当該動きベクトルは、例えばブロックマッチング、または勾配法等の手法により算出されてもよい。本明細書において、推定部230は、当該動きベクトルをブロックマッチングにより推定するものとして説明する。
例えば、推定部230は、追跡点を含む所定の大きさの追跡領域について、第1の撮像画像と第2の撮像画像との間で追跡領域内の画素に関する情報が最も合致する領域を第2の撮像画像の所定の探索範囲から検出することにより、追跡点の第2の撮像画像における位置を推定してもよい。このとき、追跡領域および探索範囲の大きさは、撮像装置10の撮像条件(例えば撮像倍率)、観察対象の種類、または観察対象に対して行う解析の種類等に応じて決定されてもよい。例えば、観察対象の動きが大きい場合は、追跡領域または探索範囲をより大きくしてもよい。これにより、推定部230による追跡点の位置の推定精度を向上させることができる。また、追跡点が注目領域に関して多数存在する場合は、計算負荷の低減のために、追跡領域または探索範囲を小さくするよう調整してもよい。
また、推定部230は、観察対象に関する情報に基づいて決定される撮像時点に生成された第2の撮像画像における追跡点の位置を推定してもよい。例えば、形状の変化のスピードが遅い細胞の形状の変化を追跡する場合、撮像装置10により生成された連続する複数のフレームの間における撮像画像の違いは小さい。そのため、形状の変化スピードが遅い細胞の形状の変化を追跡する際、推定部230は、第1の撮像画像のフレームから前後数フレーム離れた撮像画像を第2の撮像画像として推定処理を行ってもよい。より具体的には、推定部230は、第1の撮像画像のフレームから数フレーム後の撮像画像を第2の撮像画像として推定処理を行ってもよい。第1の撮像画像と第2の撮像画像のフレーム間隔を空けることにより、追跡処理の対象となる撮像画像のデータ数を減らすことができる。これにより、計算負荷を減らすことができ、また、より長時間にわたる細胞の形状の変化を追跡することができる。上記フレーム間隔は、細胞の種類または状態等に応じて適宜設定され得る。
推定部230は、推定した追跡点の位置に関する情報を、設定部240に出力する。
(設定部)
設定部240は、推定部230から取得した第2の撮像画像における追跡点の位置に基づいて、第2の撮像画像における注目領域を設定する機能を有する。
設定部240は、例えば、推定部230により推定された各追跡点の位置を通過するような閉曲線(元の注目領域が開曲線である場合は開曲線)で補間することにより、注目領域を設定してもよい。閉曲線の補間方法として、例えばベジェ曲線補間、またはスプライン曲線補間等、公知の補間方法が用いられる。
また、設定部240は、推定された各追跡点の位置に加えて、撮像画像の画像解析結果を用いて注目領域を設定してもよい。例えば、観察対象である細胞が***または結合等により注目領域の数が増減する場合、上記の各追跡点の位置だけを用いて注目領域を精度高く設定することは困難である。そのため、設定部240は、例えば撮像画像についてエッジ解析または濃淡解析等の画像解析を行うことにより、各追跡点に基づいて設定される補間曲線の調整をすることができる。より具体的には、観察している細胞が***した場合、設定部240は、エッジ解析等により細胞の***を検出し、当該検出結果を用いて注目領域を設定してもよい。これにより、細胞の***に応じて注目領域の数および位置を適切に設定することができる。
設定部240は、設定した注目領域に関する情報を、配置部220および出力制御部250に出力する。なお、一連の追跡処理を終了する場合、設定部240は、配置部220に上記情報を出力しなくてもよい。
(出力制御部)
出力制御部250は、設定部240から取得した注目領域に関する情報など、一連の追跡処理において得られた各種情報を出力する機能を有する。出力制御部250は、例えば、配置部220による追跡点の配置結果、推定部230による追跡点の位置の推定結果、または設定部240による注目領域の設定結果等を出力してもよい。出力制御部250による出力態様については特に限定されない。例えば、出力制御部250は撮像画像を不図示の表示装置に表示し、表示された撮像画像上に追跡点または注目領域等の各種情報を重畳してもよい。また、出力制御部250は、上記の各種情報を不図示の記憶装置に記憶してもよいし、不図示の通信装置を用いて外部装置に送信してもよい。
[2.2.処理例]
以上、本開示の一実施形態に係る情報処理装置20の構成例について説明した。次に、本開示の一実施形態に係る情報処理装置20による処理の一例について、図3〜図10を参照して説明する。なお、本実施形態に係る処理において得られる追跡点および注目領域等は、出力制御部250により表示装置の表示部Dに適宜表示されるものとして説明する。
図3は、本開示の一実施形態に係る情報処理装置20による処理の一例を示すフローチャートである。本実施形態に係る処理は、初期設定処理(図3のステップS101〜S105)、および追跡処理(図3のステップS107〜S121)からなる。
(初期設定処理)
まず、画像取得部210は、撮像装置10から動画像データを取得し、当該動画像データから一の撮像画像を初期設定部215に出力する(S101)。
図4は、本実施形態に係る初期設定処理における撮像画像の表示例を示す図である。図4に示したように、表示部Dには撮像画像P1が表示されており、撮像画像P1には細胞の像C1が含まれている。
次に、初期設定部215は、撮像画像P1に表示されている細胞の像C1に対して初期注目領域を設定する(図3のS103)。
図5は、本実施形態に係る初期設定処理における撮像画像および初期注目領域の表示例を示す図である。図5に示したように、初期設定部215は、細胞の像C1の周囲に閉曲線1010を描画し、閉曲線1010が包囲する領域を初期注目領域1001として設定する。なお、図5に示した例では閉曲線1010が細胞の像C1の輪郭に沿って描画されることにより初期注目領域1001が設定されているが、初期注目領域1001は、細胞の像C1の内部、外部、または細胞の像C1の輪郭を横断する領域に設定されてもよい。また、閉曲線1010は、不図示の入力装置を介したユーザの操作により描画されてもよく、撮像画像P1に対する画像解析処理に基づいて描画されてもよい。
次に、配置部220は、初期注目領域1001に関して追跡点を配置する(図3のS105)。
図6は、本実施形態に係る初期設定処理における追跡点の配置例を示す図である。図6に示したように、配置部220は、初期注目領域1001を定義する閉曲線1010上に、複数の追跡点1011(1011a、1011b、1011c、・・・)を配置する。なお、図6に示した例では、閉曲線1010上において追跡点1011が略等間隔で配置されているが、追跡点の配置間隔については特に限定されない。追跡点の配置方法については後述する。また、図6に示した例では、閉曲線1010上に追跡点1011が配置されているが、追跡点1011の配置位置は、初期注目領域1001に関連付けられる位置であれば特に限定されない。しかし、設定部240による注目領域の設定処理において追跡点を補間する曲線により注目領域が設定されるので、初期注目領域を定義する閉曲線上に追跡点を配置することが好ましい。
(追跡処理)
以上、情報処理装置20による初期設定処理について説明した。続いて、情報処理装置20による追跡処理について説明する。
初期設定処理が終了すると、推定部230は、追跡点1011を中心とする追跡領域、および追跡領域の探索範囲を設定する(図3のS107)。
図7は、本実施形態に係る追跡処理における追跡領域および探索範囲の設定例を示す図である。図7に示したように、推定部230は、追跡領域2001として、追跡点1011を中心とする矩形領域を設定する。追跡領域2001の大きさは特に限定されず、例えばn画素×n画素(n=4、8、16、32など)であってもよい。また、追跡領域2001の大きさは、撮像装置10の撮像条件、または観察対象の種類等に応じて決定されてもよい。また、推定部230は、追跡領域2001の探索対象となる探索範囲2011を設定する。探索範囲2011の大きさ、探索範囲2011の中心位置、および探索範囲2011の形状は特に限定されない。例えば、探索範囲2011の大きさは、撮像装置10の撮像条件(例えば撮像倍率)、または観察対象に対して行う解析の種類等に応じて決定されてもよい。
図3に戻って説明すると、次に、推定部230は、注目領域の設定に用いられた撮像画像とは異なる他の撮像画像を画像取得部210から取得する(図3のS109)。そして、推定部230は、各追跡点に対応する追跡領域の動きベクトルを算出し(S111)、算出した動きベクトルに基づいて各追跡点の当該他の撮像画像における位置を推定する(S113)。
図8は、本実施形態に係る追跡処理における動きベクトルの算出例および追跡点の位置の推定例を示す図である。図8に示したように、まず、本実施形態において推定部230は、撮像画像P1の次のフレームである撮像画像P2を取得する。撮像画像P2は、撮像画像P1に示されている細胞と同一の細胞の像C2が表示されており、当該細胞が変形していることが認められる。なお、図8には、初期注目領域1001および初期注目領域1001を定義する閉曲線1010が示されているが、実際には表示部Dには初期注目領域1001および初期注目領域1001を定義する閉曲線1010は表示されない。
次に、推定部230は、各追跡点に対応する追跡領域の動きベクトルを算出する。図8を参照すると、例えば、推定部230は、撮像画像P1における追跡点1011aに対応する追跡領域2001に含まれる画素情報と最も合致する画素情報を含む領域を撮像画像P2から探索する。なお、図8に示した例では、追跡領域2001の探索範囲2011は追跡領域2001(追跡点1011a)を中心とする矩形領域として設定されているが、当該探索範囲は撮像画像P2全体であってもよい。
追跡領域2001に含まれる画素情報と最も合致する画素情報を含む領域2021が特定されると、推定部230は、上記特定された領域2021に基づいて動きベクトル2022を算出する。動きベクトル2022は、例えば、ブロックマッチング法を用いて算出される。そして、推定部230は、算出した動きベクトル2022に基づいて、撮像画像P2における各追跡点1011の位置を推定し、推定した位置に各追跡点1011を移動させる。例えば、追跡点1011の座標を(X(n)、Y(n))(n=1、2、・・・、N)、および各追跡点1011に対応する動きベクトル2022を(MvX(n)、MvY(n))とすると(Nは追跡点1011の総数)、移動後の追跡点1021の座標(X’(n)、Y’(n))は、下記式(1)および式(2)により表現される。これにより、移動後の追跡点1021の位置が確定する。
図3に戻って説明すると、次に、設定部240は、移動後の各追跡点の位置に基づいて注目領域を設定する(S115)。
図9は、本実施形態に係る追跡処理における注目領域の設定例を示す図である。図9に示したように、設定部240は、移動後の追跡点1021を補間する閉曲線1020を描画し、閉曲線1020が包囲する領域を撮像画像P2における注目領域1002として設定する。なお、撮像画像P1において設定された初期注目領域1001と撮像画像P1に含まれる細胞の像のC2が一致している場合であっても、図9に示したように、撮像画像P2に含まれる細胞の像C2の輪郭と、設定部240により設定される注目領域1002を定義する閉曲線1020とが必ずしも一致するとは限らない。その場合、例えば、追跡点の数もしくは配置間隔、または追跡領域もしくは探索範囲を適切に調整することにより、注目領域1002を細胞の像C2により精度高く一致させることができる。また、ステップS115において設定された注目領域1002は、不図示の入力装置を介したユーザの操作により適宜修正がなされてもよい。例えば、ユーザの操作により、閉曲線1020の形状、または移動後の追跡点1021の位置が修正されてもよい。これにより、追跡処理による注目領域の設定に誤りがあった場合において、注目領域を適切に修正することができる。
図3に戻って説明すると、次に、出力制御部250は、移動後の各追跡点および設定部240により設定された注目領域等を表示部Dに出力する(S117)。なお、上述したステップS107〜S115の処理は表示部Dに表示されない状態で行われてもよいし、各ステップにおける処理が表示部Dに逐次表示されて行われてもよい。
次に、情報処理装置20は、ステップS107〜S117における追跡処理を終了するか否かを判定する(S119)。追跡処理の終了には、例えば、動画像データの全フレームに対する追跡処理の完了、またはユーザによる情報処理装置20の使用の終了等が含まれる。追跡処理が継続して行われる場合(S119/NO)、配置部220は、設定部240により設定された注目領域に関して追跡点を再配置する(S121)。
図10は、本実施形態に係る追跡処理における追跡点の再配置例を示す図である。図10に示したように、設定部240により設定された注目領域1002を定義する閉曲線1020上に存在する追跡点1021(1021a、1021b、1021c、・・・)は、推定部230により推定された位置に各々が移動したことにより、各追跡点の配置間隔にばらつきが生じる。そのため、移動後の追跡点1021をそのまま利用してさらに異なるフレームの撮像画像について追跡点1021の位置を推定した場合、例えば追跡点の配置間隔が広がっている部分における細胞の形状を追跡することが困難となる。また、各追跡点が近接した場合、追跡領域が重なることにより追跡可能な領域が全体として小さくなってしまうので、細胞の形状を追跡できる範囲が限られてしまう。
そこで、配置部220は、追跡点1021を削除し、閉曲線1020上に改めて追跡点1022(1022a、1022b、1022c、・・・)を配置する。図10に示した例では、追跡点1022は、一定の間隔を空けて閉曲線1020上に配置されている。これにより、追跡点の配置位置の偏りをなくすことができ、追跡処理の精度を維持することができる。
なお、配置部220により再配置される追跡点の配置間隔については、ステップS105と同様に特に限定されない。追跡点の配置方法については後述する。また、図10に示した例では、閉曲線1020上に追跡点1022が再配置されているが、追跡点1022の再配置位置は、注目領域1002に関連付けられる位置であれば特に限定されない。しかし、設定部240による注目領域の設定処理において追跡点を補間する曲線により注目領域が設定されるので、注目領域を定義する閉曲線上に追跡点を再配置することが好ましい。
情報処理装置20は、上述したステップS107〜S121における処理を繰り返し実施する。逐次的に変化する細胞の領域に対応する注目領域を設定し、設定された注目領域に関して追跡点を再配置し、再配置された追跡点の他のフレームの撮像画像における位置を推定することを繰り返すことにより、細胞の形状の変化を追跡することができる。
[2.3.効果]
以上、本開示の一実施形態に係る情報処理装置20の構成例および処理例について説明した。本実施形態によれば、初期設定部215が、第1の撮像画像について細胞の領域に対応する注目領域を設定し、配置部220が、設定された注目領域に関して追跡点を配置し、推定部230が、配置された追跡点の第2の撮像画像における位置を推定する。さらに、本実施形態によれば、設定部240が、推定された追跡点の位置に基づいて第2の撮像画像について注目領域を設定し、配置部220が、設定された注目領域に関して追跡点を再配置する。かかる構成により、変化する注目領域に応じて追跡点を適切な位置に再配置することができる。これにより、追跡点どうしの離隔または近接による追跡処理の精度低下を防ぐことができ、観察対象の形状変化を高精度で追跡することが可能となる。
[2.4.応用例]
本開示の一実施形態に係る情報処理装置20による各種処理は、上述した処理例に限定されない。以下、本実施形態に係る情報処理装置20の配置部220、および推定部230による処理の応用例について説明する。
(配置処理の応用例1:形状に応じた配置間隔の調整)
まず、配置部220による配置処理(再配置処理を含む)の第1の応用例について説明する。配置部220は、例えば、注目領域を定義する線の少なくとも一部の形状に応じて、当該形状を有する線上に配置される追跡点の配置間隔(配置数)を決定してもよい。つまり、配置部220は、形状に応じて追跡点の配置間隔を大きく、または小さくしてもよい。
図11は、本実施形態に係る配置部220による配置処理の第1の応用例を説明するための図である。図11に示したように、撮像画像P3上において、観察対象である細胞(不図示)について、閉曲線1030により定義される注目領域1003が設定されている。ここで、閉曲線1030のうち、二点鎖線部1032に囲まれた領域内にある曲線は、当該領域外の曲線と比較して、複雑な形状を有している。より具体的には、二点鎖線部1032に囲まれた領域内にある曲線は、当該領域外の曲線と比較して、曲率が大きい形状を有している。
このように、曲率が大きい部分については、観察対象である細胞の形状の変化が細かく生じている部分であることが考えられる。そのため、配置部220は、曲線の形状の曲率の大きさに応じて、追跡点1031の配置間隔を決定してもよい。より具体的には、図11に示したように、配置部220は、曲線の形状の曲率が大きい部分(二点鎖線部1032に囲まれた領域内にある曲線)について、追跡点の配置間隔を小さくし、より多くの追跡点を配置するよう決定してもよい。これにより、細胞の形状の細かな変化を追跡することができる。この配置処理は、例えば、細かく形状が変化するような観察対象(細胞)に対して適用されてもよい。
(配置処理の応用例2:注目領域の輝度情報に応じた配置間隔の調整)
次に、配置部220による配置処理の第2の応用例について説明する。配置部220は、注目領域内の画素に関する情報に基づいて追跡点の配置間隔(配置数)を決定してもよい。ここで、注目領域内の画素に関する情報は、例えば各画素の輝度情報であってもよい。また、当該画素に関する情報は、輝度情報に限らず、画素の濃淡の分布、またはエッジの強弱等であってもよい。
図12は、本実施形態に係る配置部220による配置処理の第2の応用例を説明するための図である。図12に示したように、撮像画像P4上において、観察対象である細胞(不図示)について、閉曲線1040により定義される注目領域1004(1004Aおよび1004B)が設定されている。ここで、注目領域1004のうち、注目領域1004Aの輝度は低く、注目領域1004Bの輝度は高い。
細胞を観察した際に、輝度が高い領域については細胞死が生じていると考えられる。細胞死が生じている領域の形状の変化は小さい(または形状の変化が生じない)ので、配置部220は、輝度が高い領域について、追跡点の配置間隔を大きくし、追跡点の配置数を少なくしてもよい。逆に、輝度が低い領域については細胞が生きていると考えられる。そのため、配置部220は、輝度が低い領域について、追跡点の配置間隔を小さくし、追跡点の配置数を多くするよう決定してもよい。このように、輝度に応じて追跡点の配置間隔(配置数)を決定することにより、形状が変化し得る領域についての追跡を効率的に行うことができる。この配置処理は、例えば、細胞死を発現し得る観察対象(細胞)に対して適用されてもよい。
なお、上述した例においては、輝度の高低に応じて追跡点の配置間隔が決定されるとしたが、例えば、輝度の分散値に応じて追跡点の配置間隔が決定されてもよい。より具体的には、輝度の分散値が大きい領域は、観察対象である細胞が活動している領域に相当すると考えられる。そのため、配置部220は、輝度の分散値が大きい領域について、追跡点の配置間隔を小さくし、追跡点の配置数を多くするよう決定してもよい。一方、輝度の分散値が小さい領域は、細胞が活動していない領域に相当すると考えられる。そのため、配置部220は、輝度の分散値が小さい領域について、追跡点の配置間隔を大きくし、追跡点の配置数を少なくするよう決定してもよい。これにより、細胞が活動している領域についてより詳細に追跡することができる。
(配置処理の応用例3:動きベクトルに応じた配置間隔の調整)
次に、配置部220による配置処理の第3の応用例について説明する。配置部220は、先の追跡処理において推定部230により推定された、各追跡点の動きベクトルの大きさに基づいて追跡点の配置間隔(配置数)を決定してもよい。配置部220は、例えば、各追跡点の動きベクトルの大きさの分布を取得し、当該分布に応じて追跡点の配置間隔を決定してもよい。
図13は、本実施形態に係る配置部220による配置処理の第3の応用例を説明するための図である。図13に示したように、撮像画像P5上において、観察対象である細胞(不図示)について、閉曲線1060により定義される注目領域1006が設定されている。なお、点線で示されている閉曲線1050は、撮像画像P5の一つ前のフレームにおける撮像画像において設定された注目領域を定義する曲線である。閉曲線1050上には先の撮像画像において設定された注目領域に関して追跡点1051(1051a、1051b、・・・)が配置されている。推定部230により算出された動きベクトルに基づいて算出された位置に、各追跡点1051は移動する(移動後の追跡点は追跡点1061として示されている)。例えば、追跡点1051aは、動きベクトルM1aに基づいて追跡点1061a(破線)となる位置に移動する。同様に、追跡点1051bは、動きベクトルM1bに基づいて追跡点1061bとなる位置に移動する。
ここで、図13に示したように、動きベクトルM1aは、動きベクトルM1bよりも大きい。つまり、追跡点1051aの近傍の形状の変化が、追跡点1051bの近傍の形状の変化よりも大きいということが考えられる。そのため、移動後の追跡点1061に基づいて設定部240により撮像画像P5における注目領域1006が設定された後に当該注目領域1006に関して追跡点が再配置される場合、配置部220は、大きい動きベクトルに対応する追跡点の近傍に多くの追跡点を再配置してもよい。例えば、図13に示すように、追跡点1062は、動きベクトルM1aに対応する追跡点1061aの近傍に多く配置される。一方、動きベクトルM1bに対応する追跡点1061bの近傍においては、追跡点1062の配置間隔が大きくなるよう設定されている。このように、動きベクトルの大きさに応じて追跡点を設定することにより、細胞が活動している領域についてより詳細に追跡することができる。
(推定処理の応用例:観察対象の移動量の算出)
次に、推定部230による推定処理の応用例について説明する。本実施形態に係る推定部230は、他の撮像画像における各追跡点の位置を推定するが、その際に、推定部230は、推定結果を用いて観察対象の移動量をさらに算出してもよい。より具体的には、推定部230は、各追跡点について算出した動きベクトルを用いて、観察対象の移動量を算出してもよい。
図14は、本実施形態に係る推定部230による推定処理の応用例を説明するための図である。図14に示したように、撮像画像P6上において、観察対象である細胞(不図示)について、推定部230により推定された追跡点1081(1081a、1081b、・・・)、および設定部240により追跡点1081に基づいて描画される閉曲線1080により定義される注目領域1008が設定されている。また、点線で示された閉曲線1070(注目領域1007に対応する)の描画に用いられた追跡点1071(1071a、1071b、・・・)は、撮像画像P6の前フレームである撮像画像(不図示)において配置された追跡点である。つまり、追跡点1071は、推定部230により算出された動きベクトルに基づいて算出された位置に移動する(移動後の追跡点は追跡点1081として示されている)。例えば、追跡点1081aは、元の追跡点1071aから、推定部230により算出された動きベクトルM2aの大きさおよび方向に移動した点である。
ここで、図14に示したように、細胞の形状が大きく変化しない場合、設定部240により設定される各注目領域の形状は大きく変化しない。そのため、追跡点の位置の推定に用いられた動きベクトルが、細胞の移動の状態を反映すると考えられる。
そこで、推定部230は、追跡点の位置の推定のために算出した動きベクトルから、注目領域に対応する観察対象の動きの大きさを算出してもよい。例えば、図14に示したように、推定部230は、各追跡点1071a、1071b、・・・、について算出した動きベクトルM2a、M2b、・・・、に基づいて、観察対象の動きを示すベクトルM3を算出してもよい。ベクトルM3は、例えば、動きベクトルM2の分布について最小二乗法に基づいて算出されてもよい。このベクトルM3が、観察対象の動きの値として出力されてもよい。
また、推定部230は、各追跡点の動きベクトルM2に基づいて、観察対象の並進方向の動きだけではなく、観察対象の回転を算出してもよい。例えば、推定部230は、動きベクトルM2の大きさおよび方向に基づいて、観察対象の回転中心を推定し、回転中心に基づく回転の動きを算出してもよい。
このように、推定部230により算出される動きベクトルに基づいて、観察対象の様々な動きを定量的に解析することができる。これにより、観察対象の追跡について、より詳細に評価することができる。
[2.5.変形例]
(注目領域内の動き解析)
次に、本開示の一実施形態に係る情報処理装置20の変形例について説明する。図15は、本開示の一実施形態の変形例に係る情報処理装置20Aの機能構成例を示すブロック図である。本変形例に係る情報処理装置20Aは、本実施形態に係る情報処理装置20に含まれる画像取得部210、初期設定部215、配置部220、推定部230、設定部240、および出力制御部250を含むが、初期設定部215の代わりに初期処理部255および解析部260を含み得る。より具体的には、本変形例に係る情報処理装置20Aは、初期処理部255にて算出された動きベクトルに基づき、解析部260において追跡処理で特定された注目領域内の動き特徴量を算出し得る。
(初期処理部)
初期処理部255は、画像取得部210により取得された複数の撮像画像データについて動き解析を行い動きベクトルの算出を行う機能を有する。ここで算出される動きベクトルは上述した注目領域について配置された追跡点の動きベクトルではなく、撮像画像データのフレーム内部における動きベクトルを意味する。かかる動きベクトルは、後段の解析部260における動き特徴量の算出に用いられる。動きベクトルの算出対象となる撮像画像データは、取得された全ての撮像画像(動画像)データのフレームであってもよいし、自動的にまたはユーザの選択により選択された区間におけるフレームであってもよい。動きベクトルの算出については、ブロックマッチング等の公知のアルゴリズムを用いて適宜行われる。
なお、初期処理部255は、上述した初期設定部215の機能も有し得る。すなわち、初期処理部255は、取得した撮像画像について注目領域を設定する機能を有し得る。したがって、初期処理部255によって、注目領域の初期設定処理と上記の動きベクトル算出処理が行われ得る。これらの処理の順序は特に限定されない。初期処理部255による動きベクトルの算出処理は、後段の追跡処理の前に行われることが好ましい。計算にかかる負荷を低減させるためである。初期処理部255により得られた動きベクトルに関する情報は、後段の解析部260に出力され得る。
(解析部)
解析部260は、追跡処理において設定部240により設定された注目領域についての動き特徴量を算出する機能を有する。具体的には、解析部260は、初期処理部255において予め算出された動きベクトルのうち、設定部240により設定された注目領域の内部における動きベクトルを特定し、特定された動きベクトルに基づいて注目領域についての動き特徴量を算出する。
かかる動き特徴量は、例えば、動き量、動き領域、平均動き量、動き量の標準偏差、加速度、動き方向、または動き周波数の少なくともいずれかである。これらの動き特徴量は、公知のアルゴリズム等により適宜算出される。
また、算出された動き特徴量は、出力制御部250に出力される。動き特徴量の出力態様としては、時系列グラフ、二次元マッピング、レーダーチャート、ヒストグラム等、解析したい動きの特性に応じて適宜選択される。
このように、注目領域について動き解析を行うことにより、単に注目領域に対応する観察対象の動きを追跡するだけではなく、観察対象の特徴的な動きを定量的に評価することが可能となる。また、追跡処理に先立って予め動きベクトルを算出しておくことにより、追跡処理と動きベクトル算出処理を同時に行うよりも、計算負荷を低減させることができる。したがって、追跡処理をより早く行うことが可能である。
(処理の流れ)
図16は、本変形例に係る情報処理装置20Aによる処理の一例を示すフローチャートである。図16を参照すると、まず画像取得部210により動画像データ(撮像画像データ)が取得される(S201)。次に、初期処理部255により動画像データについて動きベクトルが算出される(S203)。
次に、初期処理部255により一の撮像画像について注目領域が設定され(S205)、配置部220により当該注目領域に追跡点が配置される(S207)。その後、推定部230は、追跡点を中心とする追跡領域、および追跡領域の探索範囲を設定する(S209)。
次に、画像取得部210が、注目領域が設定された一の撮像画像の次のフレームの画像を取得し(S211)、推定部230が当該画像における追跡点の位置を推定する(S213)。そして、設定部240は、追跡処理後の追跡点の位置に基づいて注目領域を設定する(S215)。さらに、解析部260は、設定された注目領域についての動き特徴量を注目領域の内部における動きベクトルに基づいて算出し、算出した動き特徴量を所定の態様で出力する(S217)。
かかる追跡処理および動き特徴量算出処理(S209〜S217)は終了するまで繰り返し行われる(S219)。なお、ステップS219において追跡処理を続行する場合(S219/NO)、配置部220により追跡処理後に設定された注目領域について追跡点が再配置される(S221)。
[2.6.適用例]
続いて、本開示の一実施形態に係る情報処理装置20の適用例について説明する。
(適用例1:神経細胞)
本実施形態に係る情報処理装置20について、短時間でその形態を大きく変化させる細胞が、処理の主な対象となる。まず、本実施形態に係る情報処理装置20の第1の適用例について説明する。
図17は、本実施形態に係る情報処理装置20の第1の適用例(神経細胞)について説明するための図である。図17に示したように、本適用例における観察対象である神経細胞C10は、神経細胞体C10Aおよび軸索C10Bからなる(なお、本適用例における説明の都合上、神経細胞C10を構成する樹状突起および核等の他の要素については省略する)。神経細胞C10は、神経回路を形成するために、軸索C10Bを他の細胞に向かって伸長させる。つまり、神経細胞C10において、軸索C10Bは短時間で成長する。そこで、本実施形態に係る情報処理装置20を用いれば、軸索C10Bの成長を追跡することができる。
図17に示したように、例えば、追跡点3001を軸索C10Bに重なるように配置することにより、注目領域3000を軸索C10Bの形状および伸長方向に合わせて設定することができる。図17に示した例では、注目領域3000は、直線または曲線により定義される。この場合、軸索C10Bの成長を追跡するために、少なくとも軸索C10Bの先端、および神経細胞体C10Aと軸索C10Bとの境界に追跡点3001が配置されることが好ましい。なお、この注目領域3000は、軸索C10Bの形状に応じた平面領域により定義されてもよい。
図18は、本実施形態に係る情報処理装置20による軸索C11Bの初期設定処理の例を示す図である。図18に示したように、神経細胞C11の軸索C11Bに重なるように、注目領域3010が設定されている。また、注目領域3010を定義する追跡点3011のうち、追跡点3011aは神経細胞体C11Aと軸索C11Bとの境界上に配置され、追跡点3011cは、軸索C11Bの先端に配置されている。
図19は、本実施形態に係る情報処理装置20による軸索C11Bの追跡処理の例を示す図である。軸索C11Bは、図18に示した状態から、軸索C11Bの長手方向に沿って伸長した状態となっている。このとき、追跡点3011は推定部230により推定された位置に移動する。例えば、追跡点3011cは、軸索C11Bの先端に相当する位置に移動する。一方で、追跡点3011aは、神経細胞体C11Aと軸索C11Bとの境界に相当する位置に移動する(移動しない場合も考えられる)。その後、設定部240により移動後の追跡点3011に基づいて注目領域3020が設定される。そして、配置部220により、注目領域3020に関して新たな追跡点3021が配置される。なお、例えば軸索C11Bの先端、および神経細胞体C11Aと軸索C11Bとの境界には、先の追跡点3011aおよび3011cと同じ位置に、追跡点3021aおよび3021fが再配置される。また、図19に示したように、配置部220により再配置される追跡点の数は、軸索C11Bの伸長に応じて増加されてもよい。
軸索C11Bについて上記のような追跡処理を繰り返し実行することにより、軸索C11Bの伸長を追跡することができる。
(適用例2:ゼブラフィッシュ)
本実施形態に係る情報処理装置20の適用対象は上述したような細胞に限られない。例えば、適用対象は、動物、植物または無生物である構造体であってもよい。これらの適用対象が短時間でその形状または構造を大きく変化させる場合、本実施形態に係る情報処理装置20による追跡処理は有用である。以下、本実施形態に係る情報処理装置20の第2の適用例について説明する。
図20は、本実施形態に係る情報処理装置20の第2の適用例(ゼブラフィッシュ)について説明するための図である。本適用例における観察対象であるゼブラフィッシュC20は、単なる観賞用ではなく、脊椎動物のモデル生物として、生物学の研究において多く用いられている。つまり、ゼブラフィッシュC20の形態の変化を観察し、評価をすることが多く実施されている。そこで、本実施形態に係る情報処理装置20を用いれば、ゼブラフィッシュC20の成長および形態の変化を、客観的に追跡することができる。
図20に示したように、ゼブラフィッシュC20は、眼C20Aおよび背骨C20Bを含む。初期設定処理において、眼C20Aの輪郭上および背骨C20B上に追跡点4001を配置することにより、眼C20Aを包囲する注目領域4000Aおよび背骨C20Bの形状に沿った注目領域4000Bが設定される。
注目領域4000Bは、背骨C20Bの動きを追跡するために設定される。そのため、本実施形態に係る情報処理装置20を用いて、ゼブラフィッシュC20の動態を追跡することができる。また、注目領域4000Aは、眼C20Aの輪郭上に設定されている。眼C20Aの形状は特に大きく変化しない。そのため、眼C20Aを包囲する注目領域4000Aを固定の領域として、注目領域4000Bの相対的な動態または形態の変化を追跡することができる。例えば、注目領域4000Aおよび4000Bを接続する追跡点4001cの位置を基準として、追跡点4001aの相対的な動きを算出してもよい。これにより、ゼブラフィッシュC20の動態と、ゼブラフィッシュC20に含まれる各要素(例えば背骨C20B等)の動態または形態の変化を分別して追跡することができる。したがって、ゼブラフィッシュC20が細かく移動を継続的に行う場合であっても、ゼブラフィッシュC20の形態の変化、またはゼブラフィッシュC20に含まれる各要素の動態または形態の変化を、客観的に追跡することが可能となる。
(適用例3:コロニー)
本実施形態に係る情報処理装置20の適用対象(観察対象)は上述した一つの構造体だけでなく、複数の構造体からなる集団であってもよい。これらの適用対象が集団として短時間でその形状または構造を大きく変化させる場合、本実施形態に係る情報処理装置20による追跡処理は有用である。以下、本実施形態に係る情報処理装置20の第3の適用例について説明する。
図21は、本実施形態に係る情報処理装置20の第3の適用例(コロニー)について説明するための図である。本適用例における観察対象であるコロニーC30は、細菌または細胞等が培養過程で形成する単一種由来の集団である。コロニーC30の形態の変化を観察することにより、個々の細胞や細菌等の特徴や観察対象に対する処置の効果を評価することが可能である。例えば、ES細胞などから分化した細胞のコロニー形成能を評価したり、薬剤を入れたがん細胞のコロニーC30の増殖能に基づいて薬効を評価したりすることができる。
図21に示したように、観察対象がコロニーC30である場合には、コロニーC30の最も外側に追跡点5001を配置して、コロニーC30の最外輪郭を注目領域5000として設定することが好ましい。ここで、コロニーC30の形状は、コロニー内部C31の細胞***による全体の膨張と外郭近辺C32の細胞の変化による一部輪郭の突出とにより複雑に変化する。そのため、コロニーC30に対しては、追跡点5001をバランスよく配置する必要がある。例えば、追跡点5001の間隔をコロニーC30を構成する細胞一つ分の幅と同じまたは少し狭くすることにより、コロニーC30の複雑な形態変化を追跡することが可能になる。
(適用例4:マクロファージ、がん細胞等異物)
本実施形態に係る情報処理装置20は、一の撮像画像データに対して一種類の構造体だけを適用対象とするだけではなく、異なる複数種類の構造体を適用対象としてもよい。これらの適用対象が相互に作用して短時間でその形状または構造を大きく変化させる場合、本実施形態に係る情報処理装置20による追跡処理は有用である。以下、本実施形態に係る情報処理装置20の第4の適用例について説明する。
図22は、本実施形態に係る情報処理装置20の第4の適用例(マクロファージ、異物)について説明するための図である。本適用例における観察対象であるマクロファージC40は、生体内を遊走する白血球であり、死細胞、体内の変性物質または細菌などの異物を捕食および消化する貪食作用を有する。マクロファージC40を適用対象とする場合、マクロファージC40の遊走および形状の変化を捉え、貪食時におけるマクロファージC40動き解析を行うことにより、マクロファージC40の貪食能を評価することができる。
図22に示したように、観察対象がマクロファージC40であり、マクロファージC40の貪食作用について評価したい場合、マクロファージC40およびがん細胞等の異物C50の各々の輪郭上に追跡点6001、7001を配置して、マクロファージC40および異物C50の最外輪郭を注目領域6000、7000として設定することが好ましい。マクロファージC40は、貪食過程で大きく形状が変化するため、追跡点6001の配置数を増やし、配置間隔6002を小さくすることが望ましい。一方で、異物C50は、貪食過程を通して形状の変化がほとんどないことから、追跡点7001の配置数を減らし、配置間隔7002を大きくすることが好ましい。また、異物C50については追跡処理において追跡点7001の再配置は行われなくてもよい。これにより、計算負荷を削減することができ、それぞれの細胞に適した追跡処理をすることができる。
上述した適用例に示したように、本実施形態に係る情報処理装置20の配置部220は、注目領域が設定される観察対象に関する情報(例えば、観察対象の種類、数または活性もしくは不活性等の状態)に基づいて、それぞれの追跡点の配置間隔を適宜決定してもよい。これにより、計算負荷を低減させつつ、各観察対象に適した追跡処理を行うことが可能となる。
<3.ハードウェア構成例>
次に、図23を参照して、本開示の実施形態に係る情報処理装置のハードウェア構成について説明する。図23は、本開示の実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。図示された情報処理装置900は、例えば、上記の実施形態における情報処理装置20を実現しうる。
情報処理装置900は、CPU(Central Processing unit)901、ROM(Read Only Memory)903、およびRAM(Random Access Memory)905を含む。また、情報処理装置900は、ホストバス907、ブリッジ909、外部バス911、インターフェース913、入力装置915、出力装置917、ストレージ装置919、ドライブ921、接続ポート925、通信装置929を含んでもよい。情報処理装置900は、CPU901に代えて、またはこれとともに、DSP(Digital Signal Processor)またはASIC(Application Specific Integrated Circuit)と呼ばれるような処理回路を有してもよい。
CPU901は、演算処理装置および制御装置として機能し、ROM903、RAM905、ストレージ装置919、またはリムーバブル記録媒体923に記録された各種プログラムに従って、情報処理装置900内の動作全般またはその一部を制御する。例えば、CPU901は、上記の実施形態における情報処理装置20に含まれる各機能部の動作全般を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータなどを記憶する。RAM905は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータなどを一次記憶する。CPU901、ROM903、およびRAM905は、CPUバスなどの内部バスにより構成されるホストバス907により相互に接続されている。さらに、ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチおよびレバーなど、ユーザによって操作される装置である。入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、情報処理装置900の操作に対応した携帯電話などの外部接続機器927であってもよい。入力装置915は、ユーザが入力した情報に基づいて入力信号を生成してCPU901に出力する入力制御回路を含む。ユーザは、この入力装置915を操作することによって、情報処理装置900に対して各種のデータを入力したり処理動作を指示したりする。
出力装置917は、取得した情報をユーザに対して視覚的または聴覚的に通知することが可能な装置で構成される。出力装置917は、例えば、LCD、PDP、OELDなどの表示装置、スピーカおよびヘッドホンなどの音響出力装置、ならびにプリンタ装置などでありうる。出力装置917は、情報処理装置900の処理により得られた結果を、テキストまたは画像などの映像として出力したり、音響などの音として出力したりする。
ストレージ装置919は、情報処理装置900の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)などの磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス、または光磁気記憶デバイスなどにより構成される。このストレージ装置919は、CPU901が実行するプログラムや各種データ、および外部から取得した各種のデータなどを格納する。
ドライブ921は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブル記録媒体923のためのリーダライタであり、情報処理装置900に内蔵、あるいは外付けされる。ドライブ921は、装着されているリムーバブル記録媒体923に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されているリムーバブル記録媒体923に記録を書き込む。
接続ポート925は、機器を情報処理装置900に直接接続するためのポートである。接続ポート925は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポートなどでありうる。また、接続ポート925は、RS−232Cポート、光オーディオ端子、HDMI(登録商標)(High-Definition Multimedia Interface)ポートなどであってもよい。接続ポート925に外部接続機器927を接続することで、情報処理装置900と外部接続機器927との間で各種のデータが交換されうる。
通信装置929は、例えば、通信ネットワークNWに接続するための通信デバイスなどで構成された通信インターフェースである。通信装置929は、例えば、有線または無線LAN(Local Area Network)、Bluetooth(登録商標)、またはWUSB(Wireless USB)用の通信カードなどでありうる。また、通信装置929は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデムなどであってもよい。通信装置929は、例えば、インターネットや他の通信機器との間で、TCP/IPなどの所定のプロトコルを用いて信号などを送受信する。また、通信装置929に接続される通信ネットワークNWは、有線または無線によって接続されたネットワークであり、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信または衛星通信などである。
以上、情報処理装置900のハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。かかる構成は、実施する時々の技術レベルに応じて適宜変更されうる。
<4.まとめ>
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記実施形態では、情報処理システム1は撮像装置10と情報処理装置20とを備える構成であるとしたが、本技術はかかる例に限定されない。例えば、撮像装置10が情報処理装置20の有する機能(追跡機能)を備えてもよい。この場合、情報処理システム1は、撮像装置10により実現される。また、情報処理装置20が撮像装置10の有する機能(撮像機能)を備えてもよい。この場合、情報処理システム1は、情報処理装置20により実現される。また、情報処理装置20の有する機能の一部を撮像装置10が有してもよく、撮像装置10の有する機能の一部を情報処理装置20が有してもよい。
また、上記実施形態では、情報処理システム1による解析の観察対象として細胞が挙げられていたが、本技術はかかる例に限定されない。例えば、上記観察対象は、細胞小器官、生体組織、臓器、人、動物、植物または無生物である構造体等であってもよく、これらの構造または形状が短時間で変化する場合に、これらの観察対象の変化を当該情報処理システム1を用いて追跡することが可能である。
なお、本明細書の情報処理装置の処理における各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、情報処理装置の処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
また、情報処理装置に内蔵されるCPU、ROMおよびRAMなどのハードウェアに、上述した調整指示特定部等を備える情報処理装置の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
撮像画像における注目領域に関して複数の追跡点を配置する配置部と、
前記撮像画像と、前記撮像画像とは撮像時点が異なる他の撮像画像との比較に基づいて、前記追跡点の前記他の撮像画像における位置を推定する推定部と、
前記推定部により推定された前記追跡点の位置に基づいて前記他の撮像画像における注目領域を設定する設定部と、
を備え、
前記設定部により前記撮像画像における前記注目領域が設定されている場合、
前記配置部は、設定された前記注目領域に関して前記追跡点を再配置し、
前記推定部は、再配置された追跡点の前記他の撮像画像における位置を推定する情報処理装置。
(2)
前記配置部は、前記注目領域を定義する線上に前記複数の追跡点を配置する、前記(1)に記載の情報処理装置。
(3)
前記配置部は、前記注目領域を定義する線の少なくとも一部の形状に応じて、当該形状を有する線上に配置される前記複数の追跡点の前記配置間隔を決定する、前記(2)に記載の情報処理装置。
(4)
前記配置部は、前記形状の曲率に応じて前記複数の追跡点の配置間隔を決定する、前記(3)に記載の情報処理装置。
(5)
前記配置部は、前記撮像画像における前記注目領域内の画素に関する情報に基づいて前記複数の追跡点の配置間隔を決定する、前記(2)〜(4)のいずれか1項に記載の情報処理装置。
(6)
前記画素に関する情報は、輝度情報を含む、前記(5)に記載の情報処理装置。
(7)
前記配置部は、前記注目領域に対応する観察対象に関する情報に基づいて前記複数の追跡点の配置間隔を決定する、前記(2)〜(6)のいずれか1項に記載の情報処理装置。
(8)
前記注目領域を定義する線は、前記注目領域を包囲する閉曲線である、前記(2)〜(7)のいずれか1項に記載の情報処理装置。
(9)
前記配置部は、先に配置された追跡点のうち少なくとも一の追跡点を、前記推定部により推定された位置と同一の位置に再配置する、前記(1)〜(8)のいずれか1項に記載の情報処理装置。
(10)
前記推定部は、前記撮像画像と前記他の撮像画像との比較により得られる動きベクトルに基づいて前記他の撮像画像における前記追跡点の位置を推定する、前記(1)〜(9)のいずれか1項に記載の情報処理装置。
(11)
前記推定部は、前記撮像画像内の前記追跡点を含む追跡領域について、前記他の撮像画像における前記追跡領域の位置を所定の探索範囲において探索することにより、前記動きベクトルを算出する、前記(10)に記載の情報処理装置。
(12)
前記追跡領域の大きさは、前記注目領域に対応する観察対象に関する情報に基づいて決定される大きさである、前記(11)に記載の情報処理装置。
(13)
前記探索範囲の大きさは、前記注目領域に対応する観察対象に関する情報に基づいて決定される大きさである、前記(11)または(12)に記載の情報処理装置。
(14)
前記推定部は、前記動きベクトルに基づいて、前記注目領域に対応する観察対象の移動量を算出する、前記(10)〜(13)のいずれか1項に記載の情報処理装置。
(15)
前記配置部は、前記動きベクトルの大きさに基づいて前記複数の追跡点の配置間隔を決定する、前記(10)〜(14)のいずれか1項に記載の情報処理装置。
(16)
前記撮像画像の各々の解析により得られる動きベクトルを用いて、前記注目領域の内部の動き特徴量を算出する解析部をさらに備える、前記(1)〜(15)のいずれか1項に記載の情報処理装置。
(17)
前記推定部は、前記注目領域に対応する観察対象に関する情報に基づいて決定される撮像時点において撮像された他の撮像画像における前記追跡点の位置を推定する、前記(1)〜(16)のいずれか1項に記載の情報処理装置。
(18)
前記設定部は、前記撮像画像内の画素に関する情報を用いて前記注目領域を設定する、前記(1)〜(17)のいずれかに記載の情報処理装置。
(19)
プロセッサが、
撮像画像における注目領域に関して複数の追跡点を配置することと、
前記撮像画像と、前記撮像画像とは撮像時点が異なる他の撮像画像との比較に基づいて、前記追跡点の前記他の撮像画像における位置を推定することと、
推定された前記追跡点の位置に基づいて前記他の撮像画像における注目領域を設定することと、
を含み、
前記プロセッサにより前記撮像画像における前記注目領域が設定されている場合、
前記プロセッサが、
設定された前記注目領域に関して前記追跡点を再配置することと、
再配置された追跡点の他の撮像画像における位置を推定することと、
をさらに含む情報処理方法。
(20)
複数の撮像画像を生成する撮像部
を備える撮像装置と、
前記撮像部から取得した一の撮像画像における注目領域に関して複数の追跡点を配置する配置部と、
前記一の撮像画像と、前記一の撮像画像とは前記撮像部による撮像時点が異なる他の撮像画像との比較に基づいて、前記追跡点の前記他の撮像画像における位置を推定する推定部と、
推定された前記追跡点の位置に基づいて前記他の撮像画像における注目領域を設定する設定部と、
を備え、
前記設定部により前記一の撮像画像における前記注目領域が設定されている場合、
前記配置部は、設定された前記注目領域に関して前記追跡点を再配置し、
前記推定部は、再配置された追跡点の前記他の撮像画像における位置を推定する
情報処理装置と、
を備える情報処理システム。
1 情報処理システム
10 撮像装置
20 情報処理装置
210 画像取得部
215 初期設定部
220 配置部
230 推定部
240 設定部
250 出力制御部
255 初期処理部
260 解析部

Claims (18)

  1. 撮像画像における注目領域に関して、前記注目領域を定義する線上に複数の追跡点を配置し、前記注目領域を定義する線の少なくとも一部の形状に応じて、当該形状を有する線上に配置される前記複数の追跡点の配置間隔を決定する配置部と、
    前記撮像画像と、前記撮像画像とは撮像時点が異なる他の撮像画像との比較に基づいて、前記追跡点の前記他の撮像画像における位置を推定する推定部と、
    前記推定部により推定された前記追跡点の位置に基づいて前記他の撮像画像における注目領域を設定する設定部と、
    を備え、
    前記設定部により前記撮像画像における前記注目領域が設定されている場合、
    前記配置部は、設定された前記注目領域に関して前記追跡点を再配置し、
    前記推定部は、再配置された追跡点の前記他の撮像画像における位置を推定する情報処理装置。
  2. 前記配置部は、前記形状の曲率に応じて前記複数の追跡点の配置間隔を決定する、請求項に記載の情報処理装置。
  3. 前記配置部は、前記撮像画像における前記注目領域内の画素に関する情報に基づいて前記複数の追跡点の配置間隔を決定する、請求項1または請求項2に記載の情報処理装置。
  4. 前記画素に関する情報は、輝度情報を含む、請求項に記載の情報処理装置。
  5. 前記配置部は、前記注目領域に対応する観察対象に関する情報に基づいて前記複数の追跡点の配置間隔を決定する、請求項1乃至請求項4の何れか1項に記載の情報処理装置。
  6. 前記注目領域を定義する線は、前記注目領域を包囲する閉曲線である、請求項1乃至請求項5の何れか1項に記載の情報処理装置。
  7. 前記配置部は、先に配置された追跡点のうち少なくとも一の追跡点を、前記推定部により推定された位置と同一の位置に再配置する、請求項1乃至請求項6の何れか1項に記載の情報処理装置。
  8. 前記推定部は、前記撮像画像と前記他の撮像画像との比較により得られる動きベクトルに基づいて前記他の撮像画像における前記追跡点の位置を推定する、請求項1乃至請求項7の何れか1項に記載の情報処理装置。
  9. 前記推定部は、前記撮像画像内の前記追跡点を含む追跡領域について、前記他の撮像画像における前記追跡領域の位置を所定の探索範囲において探索することにより、前記動きベクトルを算出する、請求項に記載の情報処理装置。
  10. 前記追跡領域の大きさは、前記注目領域に対応する観察対象に関する情報に基づいて決定される大きさである、請求項に記載の情報処理装置。
  11. 前記探索範囲の大きさは、前記注目領域に対応する観察対象に関する情報に基づいて決定される大きさである、請求項9または請求項10に記載の情報処理装置。
  12. 前記推定部は、前記動きベクトルに基づいて、前記注目領域に対応する観察対象の移動量を算出する、請求項8乃至請求項11の何れか1項に記載の情報処理装置。
  13. 前記配置部は、前記動きベクトルの大きさに基づいて前記複数の追跡点の配置間隔を決定する、請求項8乃至請求項12の何れか1項に記載の情報処理装置。
  14. 前記撮像画像の各々の解析により得られる動きベクトルを用いて、前記注目領域の内部の動き特徴量を算出する解析部をさらに備える、請求項1乃至請求項13の何れか1項に記載の情報処理装置。
  15. 前記推定部は、前記注目領域に対応する観察対象に関する情報に基づいて決定される撮像時点において撮像された他の撮像画像における前記追跡点の位置を推定する、請求項1乃至請求項14の何れか1項に記載の情報処理装置。
  16. 前記設定部は、前記撮像画像内の画素に関する情報を用いて前記注目領域を設定する、請求項1乃至請求項15の何れか1項に記載の情報処理装置。
  17. プロセッサが、
    撮像画像における注目領域に関して、前記注目領域を定義する線上に複数の追跡点を配置し、前記注目領域を定義する線の少なくとも一部の形状に応じて、当該形状を有する線上に配置される前記複数の追跡点の配置間隔を決定することと、
    前記撮像画像と、前記撮像画像とは撮像時点が異なる他の撮像画像との比較に基づいて、前記追跡点の前記他の撮像画像における位置を推定することと、
    推定された前記追跡点の位置に基づいて前記他の撮像画像における注目領域を設定することと、
    を含み、
    前記プロセッサにより前記撮像画像における前記注目領域が設定されている場合、
    前記プロセッサが、
    設定された前記注目領域に関して前記追跡点を再配置することと、
    再配置された追跡点の他の撮像画像における位置を推定することと、
    をさらに含む情報処理方法。
  18. 複数の撮像画像を生成する撮像部
    を備える撮像装置と、
    前記撮像部から取得した一の撮像画像における注目領域に関して、前記注目領域を定義する線上に複数の追跡点を配置し、前記注目領域を定義する線の少なくとも一部の形状に応じて、当該形状を有する線上に配置される前記複数の追跡点の配置間隔を決定する配置部と、
    前記一の撮像画像と、前記一の撮像画像とは前記撮像部による撮像時点が異なる他の撮像画像との比較に基づいて、前記追跡点の前記他の撮像画像における位置を推定する推定部と、
    推定された前記追跡点の位置に基づいて前記他の撮像画像における注目領域を設定する設定部と、
    を備え、
    前記設定部により前記一の撮像画像における前記注目領域が設定されている場合、
    前記配置部は、設定された前記注目領域に関して前記追跡点を再配置し、
    前記推定部は、再配置された追跡点の前記他の撮像画像における位置を推定する
    情報処理装置と、
    を備える情報処理システム。
JP2016150604A 2015-10-08 2016-07-29 情報処理装置、情報処理方法及び情報処理システム Active JP6720756B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
PCT/JP2016/004345 WO2017061080A1 (en) 2015-10-08 2016-09-26 Information processing device, information processing method, and information processing system
EP16779193.8A EP3360113A1 (en) 2015-10-08 2016-09-26 Information processing device, information processing method, and information processing system
CN201680058029.2A CN108140241A (zh) 2015-10-08 2016-09-26 信息处理装置、信息处理方法和信息处理***
US15/765,103 US10929985B2 (en) 2015-10-08 2016-09-26 System and methods for tracking motion of biological cells

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015199991 2015-10-08
JP2015199991 2015-10-08

Publications (3)

Publication Number Publication Date
JP2017073119A JP2017073119A (ja) 2017-04-13
JP2017073119A5 JP2017073119A5 (ja) 2019-08-22
JP6720756B2 true JP6720756B2 (ja) 2020-07-08

Family

ID=58537198

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016150604A Active JP6720756B2 (ja) 2015-10-08 2016-07-29 情報処理装置、情報処理方法及び情報処理システム

Country Status (4)

Country Link
US (1) US10929985B2 (ja)
EP (1) EP3360113A1 (ja)
JP (1) JP6720756B2 (ja)
CN (1) CN108140241A (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10796142B2 (en) * 2017-08-28 2020-10-06 Nutech Ventures Systems for tracking individual animals in a group-housed environment
JP6981533B2 (ja) * 2018-03-20 2021-12-15 株式会社島津製作所 細胞画像解析装置、細胞画像解析システム、学習データの生成方法、学習モデルの生成方法、学習データの生成プログラム、および、学習データの製造方法
KR102085699B1 (ko) * 2018-07-09 2020-03-06 에스케이텔레콤 주식회사 객체 추적 서버, 객체 추적 시스템 및 객체 추적 방법을 수행하는 컴퓨터 판독 가능 기록매체에 저장된 프로그램
JPWO2020174862A1 (ja) * 2019-02-28 2021-12-23 ソニーグループ株式会社 情報処理装置、情報処理方法および情報処理システム
JPWO2020202701A1 (ja) * 2019-03-29 2021-12-23 富士フイルム株式会社 細胞評価装置、細胞評価装置の作動方法、細胞評価装置の作動プログラム、並びに細胞培養システム
JP7438684B2 (ja) * 2019-07-30 2024-02-27 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
CN115118876B (zh) * 2022-04-19 2023-09-22 北京航天飞行控制中心 拍摄参数的确定方法、装置及计算机可读存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5508035B2 (ja) 2002-09-12 2014-05-28 株式会社日立メディコ 画像診断装置
CN100393283C (zh) 2002-09-12 2008-06-11 株式会社日立医药 生物体组织动状态跟踪方法、使用该方法的图像诊断装置
US8848974B2 (en) * 2008-09-29 2014-09-30 Restoration Robotics, Inc. Object-tracking systems and methods
WO2017041303A1 (en) * 2015-09-11 2017-03-16 SZ DJI Technology Co., Ltd. Systems and methods for detecting and tracking movable objects

Also Published As

Publication number Publication date
EP3360113A1 (en) 2018-08-15
JP2017073119A (ja) 2017-04-13
US10929985B2 (en) 2021-02-23
US20180268557A1 (en) 2018-09-20
CN108140241A (zh) 2018-06-08

Similar Documents

Publication Publication Date Title
JP6720756B2 (ja) 情報処理装置、情報処理方法及び情報処理システム
JP6696152B2 (ja) 情報処理装置、情報処理方法、プログラム及び情報処理システム
JP6777086B2 (ja) 情報処理装置、情報処理方法及び情報処理システム
JP6922891B2 (ja) 情報処理装置、情報処理方法、プログラム及び情報処理システム
WO2018083984A1 (ja) 情報処理装置、情報処理方法及び情報処理システム
WO2018105298A1 (ja) 情報処理装置、情報処理方法及び情報処理システム
EP3485458A1 (en) Information processing device, information processing method, and information processing system
JP4373682B2 (ja) 関心組織領域抽出方法、関心組織領域抽出プログラム及び画像処理装置
WO2017159011A1 (ja) 情報処理装置、情報処理方法、プログラム及び情報処理システム
JP4887491B2 (ja) 医用画像処理方法及びその装置、プログラム
WO2017169397A1 (ja) 画像処理装置、画像処理方法、及び画像処理システム
WO2017061080A1 (en) Information processing device, information processing method, and information processing system
CN114926448A (zh) 一种胶囊内窥镜图像特征点提取方法
Khanal et al. EchoFusion: tracking and reconstruction of objects in 4D freehand ultrasound imaging without external trackers
JP2013505779A (ja) 運動情報を用いて医用画像の質を改善するコンピュータ可読媒体、システム、および方法
Pan et al. Nasopharyngeal Organ Segmentation Algorithm Based on Dilated Convolution Feature Pyramid
JP2004261377A (ja) 中空臓器血管抽出方法、中空臓器血管抽出処理プログラムおよび画像処理装置
Dhruv et al. Detection of Pancreatic Tumor using Particle Swarm Optimization based Image Enhancement
WO2018012353A1 (en) Information processing device, information processing method, and information processing system
CN115994886A (zh) 利用放大来保持邻近的环境感知

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190712

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190712

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200601

R151 Written notification of patent or utility model registration

Ref document number: 6720756

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151