JP2021158982A - データ取得装置、データ取得方法及び生体試料観察システム - Google Patents

データ取得装置、データ取得方法及び生体試料観察システム Download PDF

Info

Publication number
JP2021158982A
JP2021158982A JP2020063877A JP2020063877A JP2021158982A JP 2021158982 A JP2021158982 A JP 2021158982A JP 2020063877 A JP2020063877 A JP 2020063877A JP 2020063877 A JP2020063877 A JP 2020063877A JP 2021158982 A JP2021158982 A JP 2021158982A
Authority
JP
Japan
Prior art keywords
data
biological sample
image
feature amount
processing unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020063877A
Other languages
English (en)
Inventor
友彦 中村
Tomohiko Nakamura
和博 中川
Kazuhiro Nakagawa
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Priority to JP2020063877A priority Critical patent/JP2021158982A/ja
Priority to CN202180024186.2A priority patent/CN115335502A/zh
Priority to PCT/JP2021/008996 priority patent/WO2021199936A1/ja
Priority to US17/913,771 priority patent/US20240212370A1/en
Publication of JP2021158982A publication Critical patent/JP2021158982A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/693Acquisition
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M1/00Apparatus for enzymology or microbiology
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M1/00Apparatus for enzymology or microbiology
    • C12M1/34Measuring or testing with condition measuring or sensing means, e.g. colony counters
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12QMEASURING OR TESTING PROCESSES INVOLVING ENZYMES, NUCLEIC ACIDS OR MICROORGANISMS; COMPOSITIONS OR TEST PAPERS THEREFOR; PROCESSES OF PREPARING SUCH COMPOSITIONS; CONDITION-RESPONSIVE CONTROL IN MICROBIOLOGICAL OR ENZYMOLOGICAL PROCESSES
    • C12Q1/00Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions
    • C12Q1/02Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions involving viable microorganisms
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation

Landscapes

  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Organic Chemistry (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Wood Science & Technology (AREA)
  • Zoology (AREA)
  • General Physics & Mathematics (AREA)
  • Biotechnology (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Biochemistry (AREA)
  • Microbiology (AREA)
  • Medicinal Chemistry (AREA)
  • General Engineering & Computer Science (AREA)
  • Genetics & Genomics (AREA)
  • Analytical Chemistry (AREA)
  • Immunology (AREA)
  • Sustainable Development (AREA)
  • Proteomics, Peptides & Aminoacids (AREA)
  • Biophysics (AREA)
  • Hematology (AREA)
  • Urology & Nephrology (AREA)
  • Food Science & Technology (AREA)
  • Pathology (AREA)
  • Apparatus Associated With Microorganisms And Enzymes (AREA)
  • Microscoopes, Condenser (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Measuring Or Testing Involving Enzymes Or Micro-Organisms (AREA)

Abstract

【課題】生体試料を撮像する際に、出力するデータ量を低減できるデータ取得装置を提供すること。
【解決手段】生体試料の2以上の異なる時点での画像信号を取得する取得部と、前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部と、前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部と、を有する撮像素子を備え、前記信号取得部、前記情報処理部及び前記出力部は、単一のチップ内に配置されているデータ取得装置。
【選択図】図3

Description

本技術は、データ取得装置、データ取得方法及び生体試料観察システムに関する。
細胞をCCDやCMOSなどのイメージャーで撮像し、経時的に細胞の状態をモニタリングできるインキュベータ付き顕微鏡が、細胞の培養時や生殖細胞の状態を判断する際などに、使われている。また、モニタリング時に機械学習を用いて細胞の状態を判断する技術も開発されている。
例えば、特許文献1では、細胞画像の各関心領域について、その細胞の状態の評価結果を出力する評価器と、成長前段階の第1の細胞画像内における特定の関心領域の周辺領域の評価結果と、成長前段階よりも後の時点の第2の細胞画像内における特定の関心領域の細胞の状態との関係を機械学習させた予測器とを備え、予測器が、特定の時点に撮影した第3の細胞画像内における特定の関心領域の周辺領域の評価結果に基づいて、特定の時点よりも後の時点の特定の関心領域の細胞の状態を予測して出力することが記載されている。
また、例えば、特許文献2には、細胞を収容するウェルが複数設けられた培養容器を撮影領域ごとに撮影するように撮影機構を制御する撮影制御部と、前記撮影機構によって撮影されたそれぞれの画像について画像処理を施し、画像処理結果に基づいて複数の前記撮影領域を、撮影を継続する第1の撮影領域と、撮影を継続しない第2の撮影領域に分類する撮影領域分類部と、前記第1の撮影領域に分類された撮影領域を撮影し、前記第2の撮影領域に分類された撮影領域を撮影しないように前記撮影制御部に指示する観察制御部とを具備する情報処理装置が記載されている。
例えば、特許文献3には、複数の画素が行列状に配置される画素領域と、前記画素を行ごとに駆動する垂直駆動回路とを備え、前記垂直駆動回路は、前記画素を駆動する駆動信号を出力する出力素子に電力を供給する電源と、前記電源から電力を出力する配線と接地レベルとの間を流れる電流を、動作モードの切り替え時に、所定のパルス幅のパルスに従って制御する制御素子と有する撮像素子が記載されている。
WO2018/101004号公報 WO2018/100913号公報 WO2018/051819号公報
例えば、サーバーにて画像データから細胞の状態を判断する場合、膨大な画像に関する画像データを大量に送信する必要がある。撮像された生体試料に関する画像データを大量に出力する際、例えば撮像頻度やモニタリング期間、対象サンプルの数に制約などが発生する。
そこで、本技術は、生体試料の画像信号を取得する際に、出力されるデータ量を低減できるデータ取得装置を提供することを主目的とする。
本技術は、生体試料の2以上の異なる時点での画像信号を取得する信号処理部と、
前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部と、
前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部とを有する撮像素子を備え、
前記信号取得部、前記情報処理部及び前記出力部は、単一のチップ内に配置されているデータ取得装置を提供する。
前記信号取得部は、複数の画素が2次元に並んだ構成であり、前記撮像素子が、対物レンズを介して前記生体試料を撮像するように構成されていてもよい。
前記情報処理部が、学習済みモデルを用いて、前記生体試料に関するデータを生成しうる。
前記情報処理部が、前記特徴量を取得する特徴量抽出部と、前記特徴量に基づいて前記生体試料の状態を判別する状態判別部とを有し、前記情報処理部は、前記状態判別部による判別結果に基づき、出力される生体試料に関するデータを生成しうる。
前記特徴量が、細胞培養物に関する特徴量、受精卵に関する特徴量、***に関する特徴量、核酸に関する特徴量、又は生体組織片に関する特徴量のいずれかであってもよい。
前記生体試料が、細胞培養物、受精卵、***、核酸、及び生体組織片から選択される1種又は2種以上であってもよい。
前記生体試料に関するデータが、画像データ、アラートデータ、フラグデータ、又は核酸配列データを含みうる。
前記生体試料が、細胞培養物を含み、前記情報処理部が、前記細胞培養物に関する特徴量に基づき、所定の細胞密度に到達したか又は細胞培養物中に異物が発生したかを判別しうる。
前記生体試料が、細胞培養物を含み、前記情報処理部が、前記細胞培養物に関する特徴量に基づき、培養細胞の画像データを生成しうる。
前記生体試料が、受精卵を含み、前記情報処理部が、前記受精卵に関する特徴量に基づき、所定の分割過程に到達したかを判別しうる。
前記生体試料が、受精卵を含み、前記情報処理部が、前記受精卵に関する特徴量に基づき、前記受精卵の画像データを生成しうる。
前記生体試料が、***を含み、前記情報処理部が、前記***に関する特徴量に基づき、***の状態を判別しうる。
前記生体試料が、***を含み、前記情報処理部が、前記***に関する特徴量に基づき、前記***の画像データを生成しうる。
前記生体試料が、核酸を含み、前記情報処理部が、前記核酸に関する特徴量に基づき、前記核酸の配列データを生成しうる。
本技術は、生体試料を2以上の異なる時点で撮像素子により撮像して得られた画像データから特徴量を抽出する特徴量抽出工程と、
当該特徴量に基づき前記生体試料に関するデータを生成するデータ生成工程と、
前記生体試料に関するデータを前記撮像素子の外部に出力させる出力工程と、
を含むデータ取得方法を提供する。
本技術は、生体試料を保持可能な保持部;
前記生体試料に対して光を照射する照射部;及び、
前記生体試料の2以上の異なる時点での画像信号を取得する信号取得部と、前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部と、前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部とを有する撮像素子
を備え、
前記信号取得部、前記情報処理部及び前記出力部とは、単一のチップ内に配置されている生体試料観察システムを提供する。
前記保持部を格納するインキュベータを更に備えうる。
前記生体試料観察システムは、顕微鏡観察システムでありうる。
前記生体試料観察システムは、核酸配列解析システムでありうる。
本技術に係るデータ取得装置における構成例を示すブロック図である。 撮像装置2の構成例を示すブロック図である。 撮像装置2の外観構成例の概要を示す斜視図である。 本技術に係るシステムの構成例を示す模式図である。 本技術に従うデータ取得装置による処理のフローの一例である。 本技術に従うデータ取得装置による処理のフローの一例である。 一般的な特化AI型の処理手順例を簡略的に示すブロック図である。 本技術に従うデータ取得装置による処理のフローの一例である。 本技術に従うデータ取得装置による処理のフローの一例である。 本技術に係る細胞培養物に関するデータ処理の一例である。 本技術に係る受精卵に関するデータ処理の一例である。 本技術に係る***に関するデータ処理の一例である。 本技術に係る核酸に関するデータ処理の一例である。 本技術に係る核酸に関するデータ処理のフローの一例である。 本技術に係る生体組織片に関するデータ処理の一例である。
以下、本技術を実施するための好適な形態について説明する。なお、以下に説明する実施形態は、本技術の代表的な実施形態を示したものであり、本技術の範囲がこれらの実施形態のみに限定されることはない。なお、本技術の説明は以下の順序で行う。
1.第1の実施形態(データ取得装置)
(1)第1の実施形態の説明
(1−1)撮像素子
(1−2)信号取得部
(1−3)撮像処理部
(1−4)情報処理部
(1−5)出力制御部
(1−6)出力部及び入力部
(1−7)照明光学系
(1−8)観察光学系
(2)撮像素子の構成例
(3)第1の実施形態の第1の例
(4)第1の実施形態における撮像素子によるデータの処理の例
(4−1)第1の実施形態における撮像素子によるデータの処理の第1例
(4−2)第1の実施形態における撮像素子によるデータの処理の第2例
(4−3)撮像素子による細胞培養物に関するデータの処理の第3例
(4−4)撮像素子による受精卵に関するデータの処理の第4例
(4−5)撮像素子による***に関するデータの処理の第5例
(4−6)撮像素子による核酸に関するデータの処理の第6例
(4−7)撮像素子による生体組織片に関するデータの処理の第7例
2.第2の実施形態(アプリケーション装置)
3.第3の実施形態(データ取得方法)
4.第4の実施形態(プログラム)
5.第5の実施形態(生体試料観察システム)
1.第1の実施形態(データ取得装置)
(1)第1の実施形態の説明
本技術に従うデータ取得装置1の例について、図1を参照しながら説明する。ただし、本技術は、この説明に限定されない。
本技術に従うデータ取得装置1は、撮像素子100を備える。撮像素子100は、信号取得部110、撮像処理部120、情報処理部101、及び出力制御部150を備えている。
データ取得装置1は、照明光学系、観察光学系、核酸配列解析系などをさらに備えてもよい。データ処理装置1は、例えば、生体試料観察システムなどに備えられてもよく、当該生体試料観察システムとして、例えば顕微鏡観察システム及び核酸配列解析システムなどが挙げられるが、これらに限定されない。
データ取得装置1は、さらに、撮像素子100が出力する生体試料に関するデータや画像データなどを一時的に記憶するメモリを備えてもよい。
(1−1)撮像素子
撮像素子100は、生体試料の2以上の異なる時点での画像信号を取得する信号取得部110と、前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部101を備えている。
さらに、撮像素子100は、前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部150を備えてもよい。これにより、撮像素子100は、画像データなどを含む生体試料に関するデータを出力する際に、撮像素子の外部に出力するデータ量を低減できる。また、撮像素子100は、出力するデータ量を低減できるため、例えば長時間観察、リアルタイム観察、及び観察対象の多数化などにも適している。また、撮像素子100は、出力するデータ量を低減することができるため、データ転送の負荷を軽減することができ、処理速度の向上も可能である。
撮像素子100により得られる画像データは、例えば動画像データ又はタイムラプス画像データであってよい。
撮像素子100は、取得された画像信号に基づき生体試料に関するデータを生成し、当該生成された生体試料に関するデータを、出力制御部150を介して、撮像素子の外部(例えばサーバや装置)に出力するように構成されている。これにより、取得された画像信号を、そのデータ量のままで連続的に又は経時的に出力しなくともよくなるため、出力するデータ量を低減できる。
さらに、撮像素子100により、上記のとおり出力されるデータ量を低減することができる。そのため、撮像間隔をより短くすることもでき、これにより生体試料に関する状態をより精度高く判別することも可能となる。さらに、生体試料を長時間にわたりモニタリングすることも可能となる。加えて、多くの生体試料を一括でモニタリングすることもできる。
また、撮像素子100は、生体試料に関する状態の判別結果に基づき、取得された画像データの出力タイミングを制御しうる。撮像素子100は、出力するデータ量を圧縮して出力することもできる。また、撮像素子100は、生体試料に関して重要な状態(例えば、薬剤投与、受精卵の分割過程)のときだけ、短い撮像間隔で撮像された画像データを生成し出力することもできる。
さらに、撮像素子100は、生体試料を撮像する信号取得部110、当該撮像部の撮像を制御する撮像処理部120をさらに備えてもよい。
撮像素子100は、対物レンズを介して生体試料を撮像するように構成されていてもよい。なお、対物レンズを備える装置は、正立型又は倒立型のいずれでもよい。
撮像素子100は、複数の画素が2次元に並んだ信号取得部を有し、信号取得部110及び情報処理部101が、1チップ内に配置されていることが好ましい。撮像素子100は、例えば、1チップで構成されるCMOS(Complementary Metal Oxide Semiconductor)イメージセンサであることが好ましい。撮像素子100は、光源からの入射光を受光し、光電変換を行って、光源からの入射光に対応する画像信号を出力できるように構成されていることが好ましい。なお、光源の光は、自然光、人工光のいずれでもよい。
(1−2)信号取得部
信号取得部110は、生体試料の2以上の異なる時点での画像信号を取得する。信号取得部110は、複数の画素が二次元に並んで構成されてよい。信号取得部110は、例えば撮像により当該画像信号を取得してよく、この場合、信号取得部110は撮像部とも呼ばれうる。信号取得部110は、撮像処理部120によって駆動され、生体試料を撮像し、画像信号を取得しうる。信号取得部110は、生体試料の2以上の異なる時点での画像信号を取得することができる。例えば、信号取得部110に、生体試料からの光が入射する。信号取得部110は、各画素において、生体試料からの入射光を受光し、光電変換を行って、入射光に対応するアナログの画像信号を出力する。
なお、信号取得部110が出力する画像(信号)のサイズは、例えば、12M(3968×2976)ピクセルや、VGA(Video Graphics Array)サイズ(640×480ピクセル)などの複数のサイズの中から選択することができる。
また、信号取得部110が出力する画像については、例えば、RGB(赤、緑、青)のカラー画像とするか、又は、輝度のみの白黒画像とするかを選択することができる。
これらの選択は、撮像モードの設定の一種として行うことができる。
(1−3)撮像処理部
撮像処理部120は、例えば信号取得部110の駆動、信号取得部110が出力するアナログの画像信号のAD(Analog to Digital)変換、及び撮像信号処理など、信号取得部110での撮像に関連する撮像処理の制御を行うことができる。撮像処理部120によるAD変換によって、信号取得部110が出力するアナログの画像信号が、デジタルの画像信号に変換される。
ここで、撮像信号処理としては、例えば、信号取得部110が出力する画像信号について、所定の小領域ごとに、画素値の平均値を演算することなどにより、小領域ごとの明るさを求める処理や、信号取得部110が出力する画像信号を、HDR(High Dynamic Range)画像に変換する処理、欠陥補正、現像などがある。
また、撮像処理部120は、撮像に関する撮像情報、その他各種情報に従って、信号取得部110の制御を行ってもよい。
撮像情報などとして、特に限定されないが、より具体的には、例えば、ISO感度(撮像処理におけるAD変換時のアナログゲイン)、露光時間(シャッタースピード)、フレームレート、フォーカス、撮像モード、切り出し範囲など(を表す情報)などが採用されうる。撮像モードには、例えば、露光時間やフレームレートなどが手動で設定されている手動モードと、シーンに応じて自動的に設定される自動モードとがあってもよい。例えば、自動モードには、観察対象の種類、観察対象の状態、観察の状況など各種撮像シーンに応じたモードがあってもよい。
(1−4)情報処理部
情報処理部101は、生体試料を2以上の異なる時点で撮像することにより取得された画像信号から特徴量を抽出し取得する特徴量抽出部102と、当該特徴量に基づいて前記生体試料の状態を判別する状態判別部103とを含む認識処理部104を備えている。
前記生体試料としては、例えば細胞培養物、受精卵、***、核酸、及び生体組織片などが挙げられ、このなかから1種又は2種以上を選択することができる。
前記特徴量としては、例えば細胞培養物に関する特徴量、受精卵に関する特徴量、***に関する特徴量、核酸に関する特徴量、又生体組織片に関する特徴量などが挙げられ、このなかから1種又は2種以上を選択することができる。
情報処理部101は、状態判別部103による判別結果に基づき、生体試料に関するデータを生成するように構成されていることが好ましい。
前記生体試料に関するデータは、画像データ、アラートデータ、フラグデータ、及び核酸配列データ、着目データなどが挙げられる。情報処理部101は、このなかから選択された1種又は2種以上を生体試料に関するデータとして選択することができる。
情報処理部101は、学習済みモデルを用いて、前記生体試料に関するデータを生成することが好ましい。
情報処理部101は、取得された画像信号から、状態判別部103による判別結果に基づき、出力される生体試料に関するデータを生成するように構成されている画像生成部105を備えてもよい。当該画像信号は、信号取得部110により撮像され、撮像処理部120を経たデータであってもよい。
情報処理部101にて生成される生体試料に関するデータは、例えば、画像データ、アラートデータ、フラグデータ、核酸配列データ、着目データから選択される1種又は2種以上を含みうる。前記生体試料に関するデータがこれらデータの2種以上を組み合わせである場合、一つのデータに他方のデータが紐付けられていてもよい。
画像生成部105は、信号取得部110から、生体試料に関する画像信号を、撮像処理部120を介して受信しうる。画像生成部105は、受信した画像信号に基づき、例えば画像データを生成しうる。画像生成部105は、画像データを出力制御部150へそのまま伝送してよく、又は、画像生成部105は、生体試料に関する画像データを圧縮し、得られた圧縮画像データを出力制御部150へ伝送してもよい。
認識処理部104は、例えば生体試料の2以上の異なる時点での画像信号から特徴量を抽出する特徴量抽出部と、前記特徴量に基づいて前記生体試料の状態を判別する状態判別部とを有しうる。情報処理部101、特には認識処理部104は、前記状態判別部による判別結果に基づき、出力される生体試料に関するデータを生成しうる。
このように、撮像素子により、撮像素子内において生体試料に関するデータが生成される。例えば、画像データを出力せずに、画像データ以外の生体試料に関するデータを出力することで、撮像素子から出力されるデータ量を削減することができる。
また、認識処理部104は、取得された複数の画像信号から、状態判別部103による判別結果に基づき、生体試料に関する画像データの優先度(例えば、フラグデータの有無)に応じて圧縮率を変化させる画像データを判別する。この判別結果に基づき、画像生成部105は、画像データの圧縮処理を行い、生体試料に関するデータとして生成することができる。例えば、優先度が高い(例えばフラグデータあり)と判別された場合には、画像生成部105は、圧縮されていない画像データ又はより低い圧縮率で圧縮された画像データ(例えばより解像度の高い画像データなど)を、出力制御部150を介して、撮像素子の外部に出力してもよい。また、例えば、優先度が低い(例えばフラグデータなし)と判別された場合には、画像生成部105は、画像データを撮像素子の外部に出力しなくてよく、又は、圧縮率のより高い画像データ、若しくは、画像データに代えてアラートデータ(例えば、文字データなど)を、出力制御部150を介して、撮像素子の外部に出力してもよい。また、画像データの生成が必要ない、信号データ(例えばアラートデータなど)などの場合には、認識処理部104が、信号データ(例えばアラートデータなど)などを、出力制御部150を介して、撮像素子の外部に出力してもよい。これにより、撮像素子の外部に出力されるデータ量を低減することができる。
また、認識処理部104は、撮像された画像において、状態判別部103による判別結果に基づき、撮像素子の外部に出力する画像の領域を選択してもよい。この判別結果に基づき、画像生成部105は、前記撮像された画像を、この領域のみの画像データ又はこの領域とその周辺画素のみからなる画像データへと圧縮処理を行い、生体試料に関するデータとして生成しうる。例えば、この圧縮処理として、必要とする領域のみの画像データを生成すること、及び、この領域以外の領域を除去した画像データに生成することなどが挙げられる。なお、この生体試料に関するデータは、この領域の座標(例えば、x軸、y軸、z軸、t(時間)軸など)位置データと当該座標位置データに紐付けられた画像データとを含んでもよい。これにより、撮像素子の外部に出力されるデータ量を低減することができる。
また、認識処理部104は、状態判別部103による判別結果に基づき、撮像された画像においてシグナルを発するスポットにある核酸の核酸配列データを生成する。状態判別部103による判別の基準として、スポットに関するデータ、例えば、光学特性、蛍光波長、蛍光スペクトル、吸収スペクトル、面積、輝度、中心からの距離、円形状の抽出(hough変換など)などが挙げられる。また、スポットに関するデータ(例えば光学特性、蛍光波長、蛍光スペクトル、吸収スペクトルなど)から、核酸の種類を決定することもできる。より具体的には、核酸の種類の決定は、核酸にラベリングされたシグナルの特性を解析することで実施されてよい。当該特性の解析は、例えば、蛍光色素の蛍光波長などの特性をフィルター方式やスペクトル方式で測定することによって行われうる。また、スポットに関する、光学特性、蛍光波長、蛍光スペクトル、吸収スペクトル、面積、輝度、中心からの距離などから、核酸の数を決定することもできる。このように、認識処理部104は、スポットに関するデータに基づき、例えば核酸の種類及び/又は数を決定しうる。認識処理部104は、決定された核酸の種類及び/又は数に基づき核酸配列データを生成しうる。
また、状態判別部103による判別結果に基づき、画像生成部105は、画像データの画像上を規則的に分割(例えば、升目やブロックに区分け)し、シグナルを発するスポットの座標位置を設定し、この座標位置を各スポットの核酸配列データに紐つけし、生体試料に関するデータに含めてもよい。すなわち、画像生成部105は、各スポットの座標位置データと当該座標位置データに紐付けられた核酸配列データとを含む生体試料に関するデータを生成しうる。また、状態判別部103による判別結果に基づき、画像生成部105は、スポット以外の領域に関する画像データを除外するようにして、画像データの圧縮処理を行うこともできる。これにより、撮像素子の外部に出力されるデータ量を低減することができる。
また、撮像された画像データの画像から、状態判別部103による判別結果に基づき、画像生成部105は、特徴領域を検出しその領域にフラグを付すように、生体試料に関するデータを生成できる。また、撮像された画像データ群から、前記判別結果に基づき、画像生成部105は、特徴領域を含む画像データを検出し、その画像データにフラグを付すように、生体試料に関するデータを生成することもできる。なお、このときの判別には、観察時間の長さ、移動速度の遅さなどを考慮されうる。
(1−5)出力制御部
出力制御部150は、前記生体試料に関するデータを撮像素子の外部に出力させるように構成されている。出力制御部150は、画像データを出力させてもよい。好ましくは、出力制御部150は、例えば、撮像素子100から、画像データを含む生体試料に関するデータを出力させるか又は画像データを含まない生体試料に関するデータを出力させるかを制御しうる。当該制御によって、例えば必要な場合には画像データを含む生体試料に関するデータを出力し、それ以外の場合は、画像データを含まない生体試料に関するデータを出力することができる。これにより、撮像素子から出力されるデータを削減することができる。また、出力制御部150は、情報処理部101により生成されたアラートデータなど撮像素子100から出力させてもよい。
(1−6)出力部及び入力部
データ取得装置1は、出力部を備えていてよい。当該出力部は、撮像素子から出力された生体試料に関するデータ及び/又は画像データを出力しうる。さらに出力部は、アラートデータに基づきアラートを出力してもよい。当該出力部は例えば、画像を表示する表示装置を含みうる。また、当該出力部は、音を出力するスピーカーなどを含んでもよい。
データ取得装置1は、入力部を備えていてもよい。当該入力部は、ユーザ操作を受け付ける。当該入力部は、例えばマウス及び/又はキーボードなどを含みうる。また、表示装置のディスプレイ面がタッチ操作を受け付ける入力部として構成されてもよい。
データ取得装置1は、記憶部を備えていてもよい。当該記憶部は、撮像素子から出力された生体試料に関するデータ及び/又は画像データを記憶しうる。また、当該記憶部は、アラートデータを記憶してもよい。当該記憶部は例えば記録媒体を含んでよい。
(1−7)照明光学系
照射光学系は、撮像素子100による撮像において対象Sを照明するための光学系である。照射光学系は、照明のための光源を含み、例えば可視光又は紫外光を対象Sに照射しうる。照射光学系に含まれる光源は、撮像素子100により取得されるべき画像データの種類に応じて当業者により適宜選択されてよく、例えばハロゲンランプ、LEDランプ、水銀ランプ、及びキセノンランプから選ばれる少なくとも一つを含みうる。例えば、前記画像データが明視野画像データである場合、照射光学系は、例えばLEDランプ又はハロゲンランプを含みうる。前記画像データが蛍光画像データである場合、照射光学系は、例えばLEDランプ、水銀ランプ、又はキセノンランプを含みうる。蛍光を発する蛍光体の種類に応じて、照射される光の波長又はランプの種類は選択されてよい。
(1−8)観察光学系
観察光学系は、撮像素子100が対象Sを拡大して撮像することを可能とするように構成されている。観察光学系は、例えば対物レンズを含みうる。また、観察光学系は、対物レンズによって拡大された像を撮像素子100に中継するためのリレーレンズを含んでもよい。観察光学系の構成は、対象Sに応じて選択されてよい。例えば対物レンズの倍率は、例えば対象Sに応じて適宜選択されうる。また、リレーレンズの構成は、例えば対物レンズ及び撮像素子100に応じて適宜選択されうる。観察光学系は、前記対物レンズ及び前記リレーレンズ以外の光学部品を含んでもよい。
(2)撮像素子の構成例
以下で、撮像素子100のより具体的な構成例を図2を参照しながら詳述するが、撮像素子の構成はこの例に限定されない。
図2に示されるとおり、撮像素子100は、撮像ブロック20と信号処理ブロック30とを有する。撮像ブロック20と信号処理ブロック30とは、接続線(内部バス)CL1、CL2、及びCL3によって電気的に接続されている。
撮像ブロック20は、撮像部21、撮像処理部22、出力制御部23、出力I/F24、及び撮像制御部25を有する。
信号処理ブロック30は、CPU(Central Processing Unit)31、DSP(Digital Signal Processor)32、及びメモリ33を含みうる。信号処理ブロック30は、さらに通信I/F34、画像圧縮部35、及び、入力I/F36を有していてもよい。信号処理ブロック30は、撮像部により得られた全体画像データを用いて、所定の信号処理を行う。信号処理ブロック30によって、上記で説明した情報処理部101による処理(例えば特徴量の抽出処理及び生体試料に関するデータ生成処理)が実現される。
以下で、撮像素子100のこれら構成要素について説明する。
撮像部21は、上記「(1−2)信号取得部」において説明した信号取得部110に相当する。撮像部21は、生体組織を含む対象Sの全体を撮像する。撮像部21は、例えば撮像処理部22によって駆動されて、前記撮像を行いうる。撮像部21は、例えば2次元に並んで配列された複数の画素を備えていてよい。撮像部21に含まれる各画素は、光を受光し、光電変換を行い、そして、受光した光に基づくアナログ画像信号を出力する。
撮像部21が出力する画像(信号)のサイズは、例えば12M(3968×2976)ピクセル又はVGA(Video Graphics Array)サイズ(640×480ピクセル)などの複数のサイズの中から選択することができる。撮像部21が出力する画像は、カラー画像又は白黒画像であってよい。カラー画像は、例えばRGB(赤、緑、青)により表されうる。白黒画像は、例えば輝度によってあらわされうる。これらの選択は、撮像モードの設定の一種として行うことができる。
撮像処理部22は、撮像部21による画像の撮像に関連する撮像処理を行いうる。例えば、撮像処理部22は、撮像制御部25の制御に従い、撮像部21の駆動、撮像部21が出力するアナログの画像信号のAD(Analog to Digital)変換、又は撮像信号処理などの撮像処理を行いうる。
前記撮像信号処理は、より具体的には、例えば、撮像部21が出力する画像について、所定の小領域ごとに、画素値の平均値を演算すること等により、小領域ごとの明るさを求める処理、撮像部21が出力する画像をHDR(High Dynamic Range)画像に変換する処理、欠陥補正、又は現像でありうる。
撮像処理部22は、撮像部21が出力するアナログの画像信号のAD変換等によって得られるデジタルの画像信号(例えば12Mピクセル又はVGAサイズの画像)を、撮像画像として出力しうる。
撮像処理部22が出力する撮像画像は、出力制御部23に供給されうる。また、撮像処理部22が出力する撮像画像は、接続線CL2を介して信号処理ブロック30(特には画像圧縮部35)に供給されうる。
出力制御部23には、撮像処理部22から撮像画像が供給されうる。また、出力制御部23には、信号処理ブロック30から、接続線CL3を介して、例えば撮像画像などを用いた判別結果が供給されうる。
出力制御部23は、撮像処理部22から供給された撮像画像、及び、信号処理ブロック30による判別結果を、(1つの)出力I/F24から撮像素子100の外部に選択的に出力させる出力制御を行う。
すなわち、出力制御部23は、撮像処理部22からの撮像画像、又は、信号処理ブロック30からの判別結果を選択し、出力I/F24に供給する。
出力I/F24は、出力制御部23から供給される撮像画像、及び、判別結果を外部に出力するI/Fである。出力I/F24としては、例えばMIPI(Mobile Industriy Processor Interface)などの比較的高速なパラレルI/Fを採用することができる。出力I/F24は、出力制御部23による出力制御に応じて、撮像処理部22からの撮像画像、又は、信号処理ブロック30からの判別結果を、外部に出力する。したがって、例えば、外部において、信号処理ブロック30からの判別結果だけが必要であり、撮像画像そのものが必要でない場合には、判別結果だけを出力することができ、出力I/F24から外部に出力するデータ量を削減することができる。
また、信号処理ブロック30が、判別処理を行って、撮像素子100の外部の構成要素(例えば第二撮像素子112及び/又は制御部113(図示せず))で用いられる判別結果を得、当該判別結果が、出力I/F24から出力される。これにより、外部で信号処理を行う必要がなくなり、外部のブロックの負荷を軽減することができる。
撮像制御部25は、レジスタ群27に記憶された撮像情報(画像データなど)に従って、撮像処理部22を制御し、これにより、撮像部21による撮像を制御しうる。
レジスタ群27は、撮像情報、撮像処理部22での撮像信号処理の結果、出力制御部23での出力制御に関する出力制御情報を記憶することができる。出力制御部23は、レジスタ群27に記憶された出力制御情報に従って、撮像画像(撮像画像データなど)及び判別結果を選択的に出力させる出力制御を行うことができる。
撮像制御部25と信号処理ブロック30に含まれるCPUとは接続線CL1を介して接続されていてよい。当該CPUは当該接続線を介して、レジスタ群27に対して、情報の読み書きを行うことができる。すなわち、レジスタ群27に対する情報の読み書きは、通信I/F26から行われてよく、又は、当該CPUからも行われてよい。
信号処理ブロック30は、前記全体画像データに基づいて、前記対象に関する特徴を判別する。信号処理ブロック30は、例えばCPU(Central Processing Unit)31、DSP(Digital Signal Processor)32、及びメモリ33を含みうる。信号処理ブロック30は、さらに通信I/F34、画像圧縮部35、及び、入力I/F36を有していてもよい。判別部30は、撮像部により得られた全体画像データを用いて、所定の信号処理を行いうる。
信号処理ブロック30を構成するCPU31、DSP32、メモリ33、通信I/F34、入力I/F36は、相互にバスを介して接続され、必要に応じて、情報のやりとりを行うことができる。
CPU31は、メモリ33に記憶されたプログラムを実行することで、例えば信号処理ブロック30の制御又は撮像制御部25のレジスタ群27への情報の読み書きなどの各種の処理を行う。例えば、CPU31は、プログラムを実行することにより、DSP32での信号処理により得られる信号処理結果を用いて、撮像情報を算出する撮像情報算出部として機能し、信号処理結果を用いて算出した新たな撮像情報を、接続線CL1を介して、撮像制御部25のレジスタ群27にフィードバックして記憶させうる。したがって、CPU31は、撮像画像の信号処理結果に応じて、撮像部21による撮像及び/又は撮像処理部22による撮像信号処理を制御することができる。また、CPU31がレジスタ群27に記憶させた撮像情報は、通信I/F26から外部に提供(出力)することができる。例えば、レジスタ群27に記憶された撮像情報のうちのフォーカスの情報は、通信I/F26から、フォーカスを制御するフォーカスドライバ(図示せず)に提供することができる。
DSP32は、メモリ33に記憶されたプログラムを実行することで、撮像処理部22から、接続線CL2を介して、信号処理ブロック30に供給される撮像画像や、入力I/F36が外部から受け取る情報を用いた信号処理を行う信号処理部として機能する。
メモリ33は、SRAM(Static Random Access Memory)やDRAM(Dynamic RAM)等で構成されうる。メモリ33は、例えば信号処理ブロック30の処理のために用いられるデータなどの各種データを記憶する。
例えば、メモリ33は、通信I/F34を介して外部から受信したプログラム、画像圧縮部35で圧縮された撮像画像、特にはDSP32での信号処理において用いられる撮像画像、DSP32で行われた信号処理の信号処理結果、又は、入力I/F36が受け取った情報などを記憶する。
通信I/F34は、例えば、SPI(Serial Peripheral Interface)等のシリアル通信I/F等の第2の通信I/Fであり、外部の構成要素(例えば、第一撮像素子111の外部のメモリ又は情報処理装置など)との間で、CPU31又はDSP32が実行するプログラム等の必要な情報のやりとりを行う。
例えば、通信I/F34は、CPU31又はDSP32が実行するプログラムを外部からダウンロードし、メモリ33に供給して記憶させる。したがって、通信I/F34がダウンロードするプログラムによって、CPU31又はDSP32で様々な処理を実行することができる。なお、通信I/F34は、外部との間で、プログラムだけでなく、任意のデータのやりとりを行うことができる。例えば、通信I/F34は、DSP32での信号処理により得られる信号処理結果を、外部に出力することができる。また、通信I/F34は、CPU31の指示に従った情報を、外部の装置に出力し、これにより、CPU31の指示に従って、外部の装置を制御することができる。
ここで、DSP32での信号処理により得られる信号処理結果は、通信I/F34から外部に出力する他、CPU31によって、撮像制御部25のレジスタ群27に書き込むことができる。レジスタ群27に書き込まれた信号処理結果は、通信I/F26から外部に出力することができる。CPU31で行われた処理の処理結果についても同様である。
画像圧縮部35には、撮像処理部22から接続線CL2を介して、撮像画像が供給される。画像圧縮部35は、撮像画像を圧縮する圧縮処理を行い、その撮像画像よりもデータ量が少ない圧縮画像を生成する。
画像圧縮部35で生成された圧縮画像は、バスを介して、メモリ33に供給されて記憶される。
ここで、DSP32での信号処理は、撮像画像そのものを用いて行う他、画像圧縮部35で撮像画像から生成された圧縮画像を用いて行うことができる。圧縮画像は、撮像画像よりもデータ量が少ないため、DSP32での信号処理の負荷の軽減や、圧縮画像を記憶するメモリ33の記憶容量の節約を図ることができる。
画像圧縮部35での圧縮処理としては、例えば、12M(3968×2976)ピクセルの撮像画像を、VGAサイズの画像に変換するスケールダウンを行うことができる。また、DSP32での信号処理が輝度を対象として行われ、かつ、撮像画像がRGBの画像である場合には、圧縮処理としては、RGBの画像を、例えば、YUVの画像に変換するYUV変換を行うことができる。
なお、画像圧縮部35は、ソフトウエアにより実現することもできるし、専用のハードウエアにより実現することもできる。
入力I/F36は、外部から情報を受け取るI/Fである。入力I/F36は、例えば、外部のセンサから、その外部のセンサの出力(外部センサ出力)を受け取り、バスを介して、メモリ33に供給して記憶させる。
入力I/F36としては、例えば、出力I/F24と同様に、MIPI(Mobile Industriy Processor Interface)等のパラレルI/F等を採用することができる。
また、外部のセンサとしては、例えば、距離に関する情報をセンシングする距離センサを採用することができる、さらに、外部のセンサとしては、例えば、光をセンシングし、その光に対応する画像を出力するイメージセンサ、すなわち、撮像装置2とは別のイメージセンサを採用することができる。
DSP32では、撮像画像(から生成された圧縮画像)を用いる他、入力I/F36が上述のような外部のセンサから受け取り、メモリ33に記憶される外部センサ出力を用いて、信号処理を行うことができる。
以上のように構成される1チップの撮像素子100では、撮像部21での撮像により得られる撮像画像(から生成される圧縮画像)を用いた信号処理がDSP32で行われ、その信号処理の信号処理結果、及び、撮像画像が、出力I/F24から選択的に出力される。したがって、ユーザが必要とする情報を出力する撮像装置を、小型に構成することができる。
ここで、撮像素子100において、DSP32の信号処理を行わず、したがって、撮像素子100から、信号処理結果を出力せず、撮像画像を出力する場合、すなわち、撮像素子100を、単に、画像を撮像して出力するだけのイメージセンサとして構成する場合、撮像素子100は、出力制御部23を設けない撮像ブロック20だけで構成することができる。
図3は、図1の撮像素子100の外観構成例の概要を示す斜視図である。
撮像素子100は、例えば、図3に示すように、複数のダイが積層された積層構造を有する1チップの半導体装置として構成することができる。
図3では、撮像素子100は、ダイ51及び52の2枚のダイが積層されて構成される。
図3において、上側のダイ51には、撮像部21が搭載され、下側のダイ52には、撮像処理部22ないし撮像制御部25、及び、CPU31ないし入力I/F36が搭載されている。
上側のダイ51と下側のダイ52とは、例えば、ダイ51を貫き、ダイ52にまで到達する貫通孔を形成することにより、又は、ダイ51の下面側に露出したCu配線と、ダイ52の上面側に露出したCu配線とを直接接続するCu−Cu接合を行うこと等により、電気的に接続される。
ここで、撮像処理部22において、撮像部21が出力する画像信号のAD変換を行う方式としては、例えば、列並列AD方式やエリアAD方式を採用することができる。
列並列AD方式では、例えば、撮像部21を構成する画素の列に対してADC(AD Converter)が設けられ、各列のADCが、その列の画素の画素信号のAD変換を担当することで、1行の各列の画素の画像信号のAD変換が並列に行われる。列並列AD方式を採用する場合には、その列並列AD方式のAD変換を行う撮像処理部22の一部が、上側のダイ51に搭載されることがある。
エリアAD方式では、撮像部21を構成する画素が、複数のブロックに区分され、各ブロックに対して、ADCが設けられる。そして、各ブロックのADCが、そのブロックの画素の画素信号のAD変換を担当することで、複数のブロックの画素の画像信号のAD変換が並列に行われる。エリアAD方式では、ブロックを最小単位として、撮像部21を構成する画素のうちの必要な画素についてだけ、画像信号のAD変換(読み出し及びAD変換)を行うことができる。
なお、撮像素子100の面積が大になることが許容されるのであれば、撮像素子100は、1枚のダイで構成することができる。
また、図3では、2枚のダイ51及び52を積層して、1チップの撮像素子100を構成することとしたが、1チップの撮像素子100は、3枚以上のダイを積層して構成することができる。例えば、3枚のダイを積層して、1チップの撮像素子100を構成する場合には、図3のメモリ33を、別のダイに搭載することができる。
ユーザが必要とする情報が、撮像画像である場合には、撮像素子100は、撮像画像を出力することができる。
また、ユーザが必要とする情報が、撮像画像を用いた信号処理により得られる場合には、撮像素子100は、DSP32において、その信号処理を行うことにより、ユーザが必要とする情報としての信号処理結果を得て出力することができる。
(3)第1の実施形態の第1の例
本技術に従うデータ取得装置は、例えば、生体試料を2以上の異なる時点で撮像することにより得られる画像データを処理し、出力する撮像素子を備える装置として構成されてよい。このように構成された本技術に従うデータ取得装置の例及び当該データ処理装置による処理例を、以下で図4を参照しながら説明する。ただし、本技術はこの説明に限定されない。
図4に、本技術に従う撮像素子100を備えるデータ処理装置1を含む生体試料観察システム1000が示されているが、本技術は当該生体試料観察システムに限定されない。当該生体試料観察システム1000は、生体試料の観察を行う系として構成されており、さらに細胞培養、細胞回収や蛍光反応などを行う系として構成されていてもよい。
生体試料の観察を行う系における生体試料として、例えば、細胞培養物、受精卵、***、核酸及び生体組織片から選択される1種又は2種以上を用いることができるが、これらに特に限定されない。
細胞培養物、受精卵、***、生体組織片などの生体試料の観察を行う系として、例えば、培養システムや顕微鏡観察システムなどが挙げられる。また、核酸などの生体試料の観察を行う系の例として、例えば、核酸配列解析システムなどが挙げられる。
生体試料観察システム1000は、例えば、生体試料を保持可能な保持部と、生体試料に対して光を照射する照射部と、を備えてもよい。生体試料観察システム1000は、前記保持部を格納するインキュベータを更に備えてもよい。
前記照射部について、上述した「(1−7)照明光学系」において説明した照明光学系に関する説明が当てはまる。
前記保持部は、単数又は複数の生体試料を収容可能な又は載置可能な容器又はプレートなどを含む構成でもよい。当該容器又はプレートなどは、生体試料の観察用及び/又は培養用であってもよい。当該容器及びプレートなどとして、例えば、ウェル、アッセイ用プレート、マイクロプレート、スライドガラス(Microscope slide)などが挙げられるが、これらに限定されない。
例えば、細胞培養物、受精卵、***などの観察を行う系の例として、図4を示す。
図4に示すように、生体試料観察システム1000は、インキュベータ1010と、観察装置1020と、湿度・温度・ガス制御部1030と、検出部1040と、撮像素子100を備えるデータ取得装置1と、PC(Personal Computer)1050と、出力部1060と、入力部1070とを、含むように構成されうる。
インキュベータ1010は、観察装置1020、湿度・温度・ガス制御部1030、検出部1040を収容可能な培養装置であり、その内部の温度や湿度などを一定に保つ機能を有していてもよい。インキュベータ1010は、任意のガスが流入可能に構成されてもよい。当該ガスの種類は、特に限定されないが、例えば、窒素、酸素、二酸化炭素などから選択される1種又は2種以上である。
観察装置1020は、撮像素子100を備えるデータ取得装置1と、光源1022と、生体試料を収容する容器群1023と、を含む。当該光源1022は、生体試料に対して光を照射する照射部として機能しうる。当該生体試料を収容する容器群1023は、生体試料を保持可能な保持部として機能しうる。当該撮像素子100には、生体試料を撮像するための信号取得部110を含むように構成されている。
撮像素子100は、生体試料を収容する容器1023a(デッシュ)に収容されている生体試料を経時的に撮像することができる。撮像素子100は、図4では生体試料に対して下方向に配置されているが、配置は特に限定されず、上下方向、前後方向、左右方向などいずれの方向に配置してもよい。観察装置としては、正立型又は倒立型のいずれでもよい。撮像素子100における撮像方向は、XYZ方向のいずれでもよく、特に限定されない。撮像素子100は、撮像のために、光軸方向(Z軸方向)及び水平方向(Z軸方向に直交する方向)に移動できるように構成されていてもよい。また、撮像素子100は、対物レンズを介して生体試料を撮像されるように構成されていてもよい。
また、データ取得装置1は、静止画や動画を撮像可能に構成されてもよい。
光源1022は、特に限定されず、例えば、特定の波長の光を照射可能なLED(Light Emitting Diode)、可視光ランプ、キセノンランプなどが採用されうる。
容器群1023は、複数の容器を含むように構成されてもよい。容器群1023の配置は特に限定されず、例えば、容器群1023は、撮像素子100と光源1022との間において、観察ステージS上に配置され、このとき、当該観察ステージSは、光源1022が照射する光を透過可能に構成されうる。
また、容器群1023を構成する材料は、特に限定されず、照射された光が透過できる材料であることが好ましい。
湿度・温度・ガス制御部1030は、インキュベータ1010内の温度及び湿度と、インキュベータ1010内に誘導されたガスを制御するものであり、例えば、細胞培養に適した温度37〜38℃程度に制御することができる。
検出部1040は、インキュベータ1010内の温度、湿度及び気圧や、光源1022の照度などを検出し、データ取得装置1に出力するように構成されうる。
データ取得装置1は、上述の「(1)第1の実施形態の説明」において説明したとおりであり、当該説明が本実施形態にも当てはまる。具体的には、データ取得装置1は、生体試料を2以上の異なる時点で撮像することにより画像信号を取得する信号取得部110と、前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部101と、前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部150と、を有する撮像素子100を備えている。前記信号取得部110、情報処理部101、出力制御部150は、単一のチップ内に配置されてもよい。
また、データ取得装置1は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)などのコンピュータに必要なハードウエアを有してもよい。CPUが、ROMやHDDに格納された本技術のプログラムをRAMにロードして実行することにより、後述するデータ取得方法の動作が制御されうる。
プログラムは、例えば種々の記憶媒体(内部メモリ)を介してデータ取得装置1にインストールされてもよい。あるいは、インターネットなどを介してプログラムのインストールが実行されてもよい。
本実施形態では、撮像素子100を備えるデータ取得装置1は、例えば、情報処理装置(例えばPC(Personal Computer)など)1050と接続されていてもよい。
出力部1060は、生体試料に関するデータ(画像データやアラートデータなど)などを出力可能に構成されている。出力部1060は、例えば、液晶、有機EL(Electro-Luminescence)などを用いた表示装置(ディスプレイ)を含みうる。前記表示装置は、前記生体試料に関するデータを、画像(静止画像又は動画像)データ、文字データ、音データなどとして、出力しうる。また、出力部1060は、例えば印刷装置を含みうる。前記印刷装置は、前記生体試料に関するデータを、例えば紙などの印刷媒体に印刷して出力しうる。
入力部1070は、例えばユーザによる操作を受け付ける装置である。入力部1070は、例えばマウス、キーボード、又はディスプレイ(この場合ユーザ操作はディスプレイへのタッチ操作であってよい)を含みうる。入力部1070は、ユーザによる操作を電気信号としてデータ処理装置1に送信しうる。データ処理装置1の情報処理部101は、当該電気信号に応じて、各種の処理を行いうる。
(4)第1の実施形態における撮像素子によるデータの処理の例
以下、本技術に従う撮像素子100によるデータの処理の例について詳細に説明するが、これに特に限定されない。
(4−1)撮像素子によるデータの処理の第1例
データ取得装置1に備えられている撮像素子100による生体試料に関するデータの処理の例を、図5及び図6を参照しながら以下で説明する。図5及び図6は、撮像素子100による生体試料に関するデータを処理するフロー図の概要の一例である。
撮像素子100は、上記で図1を参照して説明したとおりのものであり、生体試料を撮像し、生体試料の2以上の異なる時点での画像信号を取得しうる信号取得部110、当該信号取得部110での撮像に関する撮像処理の制御を行う撮像処理部120、前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部101、生体試料に関するデータを撮像素子の外部に出力させる出力制御部150、を備えている。
<第1例に関する実施形態>
ステップS101において、撮像素子100は生体試料に関するデータの取得処理を開始する。撮像素子100は、生体試料を撮像し、画像信号を連続的に又は経時的に取得することを開始する。開始は、自動的でもよいし、例えば、ユーザが出力部のディスプレイに表示されている所定の処理開始ボタンをクリックなどを行なうことにより開始されてもよい。
なお、前記生体試料データの処理の開始に先立ち、学習済みモデルが生成されてよく、当該学習済みモデルが撮像素子100に備えられている記憶部に格納されていてもよい。
ステップS102において、撮像素子100は、生体試料を撮像し、画像信号を取得する。撮像素子100は、生体試料の2以上の異なる時点での画像信号を取得することができる。例えば、撮像素子100が、撮像処理部120を制御し、これにより、信号取得部110による前記撮像を制御しうる。撮像素子100は、例えば動画像データ又はタイムラプス画像データを取得する。
信号取得部110によって取得されたアナログ画像信号は、例えば撮像処理部120によってデジタル画像信号に変換され、当該デジタル画像信号は情報処理部101へ送信される。情報処理部101は、当該画像信号を、後述のステップS103における生体試料に関するデータ生成のために用いる。
ステップS103において、情報処理部101は、生体試料の2以上の異なる時点での画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する。
前記生体試料は、細胞培養物、受精卵、***、核酸及び生体組織片から選択される1種又は2種以上であることが好ましい。
前記特徴量は、細胞培養物に関する特徴量、受精卵に関する特徴量、***に関する特徴量、核酸に関する特徴量、又は生体組織片に関する特徴量のいずれかであることが好ましい。
前記生体試料に関するデータは、画像データ、アラートデータ、フラグデータ、核酸配列データ、着目量データから選択される1種又は2種以上を含むことが好ましい。当該生体試料に関するデータが画像データである場合は、当該画像データは例えば画像生成部105により生成されてよい。なお、本明細書内において、生体試料に関するデータのうち、画像データ以外のデータ(例えばアラートデータ、フラグデータ、核酸配列データ、着目データなど)を信号データともいう。
ステップS104において、出力制御部150は、生成された生体試料に関するデータを撮像素子の外部に出力させる。生体試料に関するデータが生成されなかった場合には、情報処理部101は、データを撮像素子の外部に出力させなくともよい。
また、出力された生体試料に関するデータは、データ取得装置の内部又は外部にある記憶部やサーバ上に記憶されてもよい。さらに、生体試料に関するデータのうち、信号データ(例えば、アラートデータ、フラグデータなど)と画像データとを紐づけて、当該信号データと当該信号データに紐付けられた画像データとを記憶しておくことが好ましい。画像データ又は信号データのいずれか一つを出力制御部150から出力した場合でも、紐づけられた他方のデータを呼び出し表示することも可能である。このとき信号データを出力することが、出力されるデータ量をより低減することができる観点から、好ましい。
ステップS104において、生体試料に関するデータが出力されたら、データ取得処理が終了されうる(ステップS105)。なお、ステップS104において、生体試料に関するデータが出力された後に、再度ステップS102〜S104の処理が繰り返されてもよい。
以下で、ステップS103の詳細を、図6を参照しながら説明する。
図6に示されるステップS201において、情報処理部101は、例えばS102において取得された2以上の異なる時点での画像信号を受信することに応じて、生体試料に関するデータを生成処理を開始する。
ステップS202において、情報処理部101は、生体試料の2以上異なる時点での画像信号から特徴量を取得する。前記特徴量の取得は、特徴量抽出部102により行われうる。例えば、認識処理部104に備えられる特徴量抽出部102が、2以上の異なる時点の画像信号の変化(差)を抽出する。
ステップS203において、情報処理部101は、前記特徴量に基づいて生体試料の状態を判別する。前記生体試料の判別は、状態判別部103により行われうる。例えば、認識処理部104に備えられる状態判別部103が、所定のイベントが起こることを判別することができる。例えば、認識処理部104は、2以上の異なる時点の画像信号の変化(差)を判別し、所定のイベントが起こることを判別することができる。これにより、前記生体試料の状態の判別結果を得ることができる。また、所定のイベントが起こる手前の状態の判別結果を得ることもできる。
ステップS204において、前記生体試料の状態の判別による判別結果に基づき、出力される生体試料に関するデータを生成する。前記生体試料に関するデータは、画像データ、アラートデータ、フラグデータ、核酸配列データ、着目データから選択される1種又は2種以上を含むように構成されることが好ましい。前記生体試料に関するデータの生成は、画像生成部105により行われてもよい。また、画像データ以外の生体試料に関するデータ(例えば、アラートデータなどの信号データなど)は、認識処理部104により生成されてもよい。また、情報処理部101は、画像データとこれ以外のデータ(例えば信号データ)とが紐付けられた生体試料に関するデータを生成してもよい。
以上のとおりにして、生体試料に関するデータが取得される。データが取得されたら、情報処理部101は、ステップS103における処理を終了する(ステップS205)。
情報処理部101は、前記生体試料に関するデータを生成する際に、学習済みモデルを用いることが好ましい。図7は、本技術において学習済みモデルとして用いられうる特化型AIの処理手順例を簡略的に示すブロック図である。本技術における学習済みモデルを用いた処理は、一般的な特化型AI(Artificial Intelligence)の処理手順に従って行われてよい。特化型AIは、所定のアルゴリズムに学習データ(教師データ)を機械学習させることで生成される学習済みモデルを用いる。当該学習済みモデルに対して、任意の入力データを適用することにより結果物が得られる。
あらかじめ、情報処理部101は、生体試料に関する特徴量に基づき、生体試料に関する画像データに対し、変換又は加工処理を施し、学習手法による解析を容易にするために生成された二次的な加工データを教師データ(学習データ)として、設定する。このときの生体試料に関する特徴量は、ユーザによって任意に設定されうるものでもよく、経験則的に導き出された生体試料に関する特徴量によって設定されうるものであってもよい。また、生体試料に関する画像データは、信号取得部110にて撮像することによって得てもよいし、記憶部やサーバー上などの装置内部や装置外部から得てもよい。
次いで、情報処理部101は、あらかじめ設定されているアルゴリズムに、教師データを用いて機械学習させることによって学習済みモデルを構築しうる。これにより、情報処理部101は、学習済みモデルを有する構成となる。
前記アルゴリズムは、例えば機械学習アルゴリズムとして機能する。情報処理部101は、それぞれの特徴量から構築された学習済みモデルのなかから、単数の学習済みモデルを選択してもよいし、複数を組み合わせた学習済みモデルを選択してもよい。また、学習済みモデルは、ユーザが単数又は複数を選択してもよく、特に限定されない。
機械学習アルゴリズムの種類として、特に限定されず、例えばRNN(RecurrentNeural Network:再帰型ニューラルネットワーク)、CNN(Convolutional NeuralNetwork:畳み込みニューラルネットワーク)又はMLP(Multilayer Perceptron:多層パーセプトロン)等のニューラルネットワークを用いたアルゴリズムであってもよく、任意のアルゴリズムであってもよい。
次いで、情報処理部101は、信号取得部110にて取得された画像信号を、構築された学習済みモデルに入力することで、出力制御部150から出力するための生体試料に関するデータを生成しうる。なお、取得された画像信号は、図7の入力データに相当し、出力するための生体試料に関するデータは、図7の結果物に相当する。
前記学習済みモデルは、例えば深層学習(ディープラーニング)により生成された学習済みモデルであってよい。例えば、前記学習済みモデルは、多層ニューラルネットワークであってよく、例えば深層ニューラルネットワーク(DNN:Deep Neural Network)であってよく、より具体的には畳込みニューラルネットワーク(CNN:Convolutional Neural Network)であってもよい。
前記特徴量抽出部が特徴量抽出を行うために用いられる学習済みモデルとして、多層ニューラルネットワークが用いられてよい。前記多層ニューラルネットワークは、画像データを入力する入力層と、前記画像データの特徴量を出力する出力層と、入力層と出力層との間に設けられる少なくとも1層の中間層とを有しうる。
前記状態判別部が生体試料に関するデータを生成するために用いられる学習済みモデルとしても、多層ニューラルネットワークが用いられてよい。前記多層ニューラルネットワークは、特徴量を入力する入力層と、前記特徴量に基づく生体試料に関するデータを出力する出力層と、入力層と出力層との間に設けられる少なくとも1層の中間層とを有しうる。
情報処理部101が取得しうる生体試料に関する画像データは、信号取得部110により撮像された画像データでもよく、内部(例えば、記憶部)や外部(例えばネットワーク上)の画像データでもよく、これに特に限定されない。
なお、本技術に従う第1例は、第2例〜第7例で示されるデータ取得方法から必要に応じた方法を適宜採択し、適宜組み合わせて適用することができる。
(4−2)撮像素子によるデータの処理の第2例
データ取得装置1に備えられている撮像素子100による生体試料に関するデータの処理の例を、図8及び図9を参照しながら以下で説明する。図8及び図9は、撮像素子100による生体試料に関するデータを処理するフロー図の概要の一例である。
当該第2例に関する撮像素子100、信号取得部110、撮像処理部120、情報処理部101、出力制御部150などは、上記(4−1)撮像素子によるデータの処理の第1例を採用しうる。図8及び図9を参照して、第2例に関する実施形態について説明する。これにより、生体試料を撮像する際に、出力するデータ量を低減できる。
なお、本技術に従う第2例は、第1例、第3例〜第7例で示されるデータ取得方法から必要に応じた方法を適宜採択し、適宜組み合わせて適用することができる。
第2例Aに関する実施形態について、図8を参照して説明する。
ステップS301において、撮像素子100は生体試料に関するデータの処理を開始する。撮像素子100は、生体試料を撮像することにより画像信号を連続的に又は経時的に得ることを開始する。
ステップS302において、情報処理部101は、信号取得部110から、撮像処理部120を介して、生体試料の2以上の異なる時点での画像信号を取得する。
ステップS303において、情報処理部101は、生体試料の2以上の異なる時点での画像信号から特徴量を抽出する。
ステップS304において、情報処理部101は、生体試料の状態が所定の状態に達したか否かを判別する。情報処理部101は、所定の状態に達しうるか否かの判別でもよい。所定の状態には、経過時間なども含みうる。情報処理部101は、学習済みモデルを用いて、特徴量や所定の状態から、生体試料に関するデータを生成してもよい。
情報処理部101が、所定の状態に達していないと判別した場合には、ステップS302に戻り、画像信号の取得を行なう。
情報処理部101が、所定の状態に達したと判別した場合には、ステップS305に進み、前記特徴量に基づき前記生体試料に関する信号データ(例えば、アラートデータなど)を生成する。
ステップ305において、情報処理部101は、生体試料に関する信号データを、撮像素子の外部に出力する。
ステップS304において、生体試料に関するデータが出力されたら、データ取得処理が終了されうる(ステップS305)。なお、ステップS304において、生体試料に関するデータが出力された後に、再度ステップS302〜S304の処理が繰り返されてもよい。
第2例Bに関する実施形態について、図9を参照して説明する。
ステップS401において、撮像素子100は生体試料に関するデータの処理を開始する。撮像素子100は、生体試料を撮像することにより取得された画像信号を連続的に又は経時的に得ることを開始する。
ステップS402において、情報処理部101は、撮像処理部120から、生体試料の2以上の異なる時点での画像信号を得る。
ステップS403において、情報処理部101は、生体試料の2以上の異なる時点での画像信号から特徴量を抽出する。
ステップS404において、情報処理部101は、生体試料の状態が所定の状態に達したか否かを判別する。情報処理部101は、所定の状態に達しうるか否かを判別してもよい。情報処理部101は、学習済みモデルを用いて、生体試料に関するデータを生成してもよい。
情報処理部101が、所定の状態に達していないと判別した場合には、ステップS402に戻り、画像信号の取得を行なう。
情報処理部101が、所定の状態に達していると判別した場合には、ステップS405に進み、前記特徴量に基づき前記生体試料に関する画像データを生成する。また、情報処理部101が、所定の状態に達したと判別した場合、画像データの重要度の程度によって、画像データの圧縮率を変化させてもよく、例えば、画像データの重要度が高い場合には、画像データを圧縮しない又は画像データの圧縮率を低くしてもよく、画像データの重要度が低い場合には画像データの圧縮率を高くしてもよい。また、必要とする領域以外の領域の画像データを圧縮してもよい。また、画像データを生成する際に、経過時間などの時間データや場所などの座標位置データとこのデータに紐付けられた画像データを生成してもよい。また、このとき信号データ(例えば、アラートデータなど)も生成しうる。
ステップ405において、情報処理部101は、生体試料に関する画像データを含むデータを、撮像素子の外部に出力する。この生体試料に関するデータには、信号データを含んでもよい。
ステップ404において、生体試料に関するデータが出力されたら、データ取得処理が終了されうる(ステップS405)。なお、ステップS404において、生体試料に関するデータが出力された後に、再度ステップS402〜S404の処理が繰り返されてもよい。
(4−3)撮像素子による細胞培養物に関するデータの処理の第3例
以下に、本技術の第3例として、撮像素子100による細胞培養物に関するデータの処理について、図10を参照して説明する。
本技術に従う情報処理部101は、細胞培養物を2以上の異なる時点で撮像することにより画像信号を取得し、取得された画像信号から特徴量を抽出し、当該特徴量に基づき細胞培養物に関するデータを生成する。
情報処理部101は、細胞培養物の特徴量に基づき生体試料の状態を判別することができる。
情報処理部101は、細胞培養物に関し所定の状態であると判別した場合、細胞培養物に関するデータを生成し、出力しうる。情報処理部101は、所定の状態に達したま又は達しうると判別した場合には、出力しうる際に、判別結果に基づき、細胞培養物に関する作業処理を行ってもよく、また、ユーザが出力された細胞培養物に関するデータを判断して細胞培養物に関する作業処理を入力してもよい。細胞培養物に関する作業処理として、例えば、培養終了、継代培養、薬剤添加、細胞分取、細胞回収などやこれらの組み合わせ(例えば、薬剤添加次いで細胞分取/回収)から1種又は2種以上を選択することができる。
また、情報処理部101は、例えば、培養容器(例えば、シャーレ、ボトル、チャンバーなど)の形態のモデル化、培養容器の有無など;細胞培養の有無、培養容器の数、一培養容器当たりの培養期間;細胞の形態のモデル化、ドット化など;細胞の数、増殖、消失、形態、トラッキング、動き;を、生体試料に関するデータにすることができる。
従来は、CCDやCMOSなどのイメージャーでリアルタイムでモニタリングを行なうと、画像データが膨大になってしまう課題があった。
これに対し、本技術に従う撮像素子100を用いることで、画像データ量の低減を行なうことができる。本技術は、データ量を削減できるため、長期間、リアルタイム、モニタリング対象の多数化などを行なうことができる。また、本技術に従う撮像素子100を用いることで、細胞分取、継代、薬剤投与のタイミングなど、細胞培養を自動化できる。
本技術における細胞培養物は、組織、細胞、ウイルス、細菌、培養液、代謝物などを含みうる。組織には、二次元培養または三次元培養された組織、スフェロイド、細胞塊を含む。さらに、細胞には、幹細胞、induced pluripotent stem cells (iPS)細胞、がん細胞株、遺伝子操作した細胞などを含む。
細胞に関する特徴量として、特に限定されないが、例えば、形状、細胞数、密度、増殖スピード、活性度、動きなどが挙げられ、これらから1種又は2種以上を選択することができる。
また、培養液に関する特徴量として、特に限定されないが、例えば、培地中の異物数、培地の栄養成分(例えば、タンパク質、炭水化物、脂質、ミネラルなど)、各栄養成分の含有量、二酸化炭素濃度、酸素濃度、温度、気圧、気体雰囲気、光透過、光散乱、光吸収、pH、pH応答物などが挙げられ、これらから1種又は2種以上を選択することができる。当該異物として、特に限定されないが、例えば、微生物(例えば、菌類(例えば、細菌、真菌など)、ウイルス、マイコプラズマなど)などが挙げられる。
前記細胞培養物に関する特徴量の抽出は、特に限定されないが、例えば、2以上の異なる時点で撮像された細胞培養物に関する画像信号の変化(差)に基づき、行なうことができる。より具体的には、2以上の異なる時点における画像信号の変化(差)が生じる場合に、その変化(差)を細胞培養物に関する特徴量として抽出できる。これにより、細胞培養に関する特徴量を取得できる。
前記細胞培養物に関する特徴量に基づき、生体試料に関する所定の状態を判別できる。当該所定の状態として、特に限定されないが、例えば、所定の細胞密度に到達した状態又は到達しうる状態、異物が発生した状態又は発生しうる状態などが挙げられる。
そして、所定の細胞密度に到達した状態又は到達しうる状態に達したと判別した場合には、細胞培養物に関するデータを生成し、出力する。当該細胞培養物に関するデータとして、特に限定されないが、例えば、細胞密度のアラート、継代時期のアラート、薬剤投与のアラート、生成された細胞培養物に関する画像データなどが挙げられ、これから選択される1種又は2種以上を含むことができる。
また、異物が発生した又は発生しうる状態に達したと判別した場合には、細胞培養物に関するデータを生成し、出力する。当該細胞培養物に関するデータとして、特に限定されないが、例えば、異物発生のアラート、継代時期のアラート、薬剤投与のアラート、培養液交換アラート、生成された細胞培養物に関する画像データなどが挙げられ、これから選択される1種又は2種以上を含むことができる。
本技術により、細胞培養物の管理を行うことができる。また、本技術は、細胞培養物を撮像し取得された複数の画像信号に対して学習モデルを用いて、細胞培養物に関する特徴量を判別してもよい。
本技術により、撮像画素上で、細胞培養物の2以上の異なる時点での画像信号から、細胞培養物に関する特徴量を判別し、当該細胞培養物に関するデータを生成できる。これにより、撮像素子の外部に大量の画像データを連続的に出力しなくともよくなり、撮像素子の外部へのデータ転送量を低減させることができる。
また、細胞培養物に関する特徴量は、特に限定されないが、例えば、細胞数、細胞***(例えば、数、速度、形状など)、細胞活性度(例えば、酵素、代謝物など)、細胞の動きなどの細胞に関する特徴量;培養液組成、微生物数などの培養液に関する特徴量;などを含んでもよく、これらから1種又は2種以上を選択してもよい。特徴量を検出する際に、必要に応じて、呈色法検出、蛍光法検出、抗原抗体反応検出などやこれらの組み合わせを適宜利用してもよい。
本技術により、コンタミネーション対策などの培養管理を行う場合、例えば、本来培養したい細胞とは異なる特徴を持つものを異物として認識し、アラートを提示することもできる。また、このとき、本来の細胞培養物と異物との違いを学習モデルを用いて判別してもよい。当該異物として、例えば、細菌、真菌、マイクロプラズマ、ウイルスなどの微生物などが挙げられるが、これに限定されない。
培養管理において、細胞と異物との違いとして、例えば、大きさ、形状、増殖速度、***速度、動き、活性、存在場所、光散乱、内部構造などが挙げられ、これらから選択される1種又は2種以上を細胞培養物の特徴量とすることができるが、これに特に限定されない。
また、本技術であれば、イベントが発生する前に又は発生した際に、情報処理部101が2以上の異なる時点での画像信号を取得し、当該画像信号に基づき細胞培養物に関するデータを生成し、撮像素子の外部に細胞培養物に関するデータ(例えば、培養細胞などの画像データやアラートデータなど)として出力させてもよい。
イベントが発生する前として、特に限定されないが、例えば、薬剤添加前、継代前、細胞分取前、細胞の追加前、細胞培養終了前などが挙げられる。
イベントが発生した際として、特に限定されないが、例えば、設定時間に到達したとき;目的の細胞密度又は細胞数まで細胞培養が到達したとき;培養液中に異物が発生したとき;薬剤を投与したときなどが挙げられる。
本技術により、出力されるデータ量をより低減することができる。
撮像素子による細胞培養物に関するデータの処理の第3例Aとして、以下に例示するが、これに特に限定されない(図10参照)。
ステップS501において、細胞培養物の培養を開始し、培養細胞物のモニタリングが開始される。
ステップS502において、情報処理部101が、2以上の異なる時点での細胞培養物の画像信号を取得するように信号取得部110を制御する。
ステップS503において、情報処理部101が、細胞培養物の2以上の異なる時点での画像信号から細胞培養物の特徴量を抽出し、当該特徴量に基づき細胞培養物に関するデータを生成する。このとき、学習済みモデルを用いてもよい。
ステップS504において、出力制御部150が、前記細胞培養物に関するデータを撮像素子の外部に出力する。
ステップS504において、細胞培養物に関するデータが出力されたら、データ取得処理が終了されうる(ステップS505)。なお、ステップS504において、細胞培養物に関するデータが出力された後に、再度ステップS502〜S504の処理が繰り返されてもよい。
ステップS505において、細胞培養物に関するデータに基づき細胞培養物に関する作業処理を行う。ユーザが、出力された細胞培養物に関するデータに基づき、細胞培養物に関する作業処理を入力又は指示してもよい。また、細胞培養物に関する作業処理部を設け、この作業処理部において各種作業処理方法を予め設定しておき、前記細胞培養物に関するデータが細胞培養物に関する作業処理部に送信され、この送信されたデータに基づき細胞培養物に関する作業処理部にて細胞培養物の各種作業処理を行ってもよく、これにより自動的な作業処理が可能となる。
撮像素子による細胞培養物に関するデータの処理の第3例Bとして、以下に例示するが、これに特に限定されない(図10参照)。
ステップS501において、細胞培養物の培養を開始し、培養細胞物のモニタリングが開始される。
ステップS502において、情報処理部101が、2以上の異なる時点での細胞培養物の画像信号を取得するように信号取得部110を制御する。
ステップS503において、情報処理部101が、前記画像信号から細胞数及び細胞密度の特徴量を抽出し、当該特徴量に基づき細胞数及び細胞密度に関するデータを生成する。このとき、学習済みモデルを用いてもよい。
ステップS504において、情報処理部101が、細胞数及び細胞密度に関するデータに基づき細胞培養物の状態を判別する。このときの細胞培養物の状態が、所定の細胞数及び/又は所定の細胞密度に到達しうる又は到達した状態であることが好ましい。到達しうる又は到達した状態を含む細胞培養物に関するデータを生成し、撮像素子の外部に出力する。このステップS504において、当該データとして、アラートデータを連続的に撮像素子の外部に出力してもよい。また、到達直前又は到達時に撮像された画像データを、撮像素子の外部に出力してもよい。また、当該アラートデータ及び当該画像データを含むデータを、撮像素子の外部に出力してもよい。
ステップS504において、細胞培養物に関するデータが出力されたら、データ取得処理が終了されうる(ステップS505)。なお、ステップS504において、細胞培養物に関するデータが出力された後に、再度ステップS502〜S504の処理が繰り返されてもよい。
本技術により、出力されるデータ量をより低減することができる。また、作業処理に必要な画像データやアラートデータが適切に出力されるため、ユーザが細胞培養物に関する作業処理を行い易い。
例えば、培養の継続を判別する場合、出力された細胞培養物に関するデータに基づき、ユーザが、培養の終了や細胞の継代の判別し、終了などの入力を行ってもよい。
例えば、細胞培養物の薬剤添加を判別する場合、出力された細胞培養に関するデータに基づき、ユーザが、細胞培養物に対して薬剤添加を行うことができる。
例えば、細胞分取又は細胞回収を判別する場合、出力された細胞培養に関するデータに基づき、ユーザが、細胞培養物に対して細胞分取又は細胞回収を行うことができる。
細胞培養物の薬剤添加次いで細胞分取/回収を判別する場合、出力された細胞培養に関するデータに基づき、ユーザが、細胞培養物に対して薬剤添加を行うことができる。さらに、細胞培養を継続し、上述した第3例BにおけるステップS501〜S504と同様のステップを行い、細胞分取/回収を行ってもよい。
なお、細胞培養物に関する作業処理部を設け、この作業処理部において各種作業処理方法を予め設定しておき、当該作業処理部がユーザが行う作業処理と同様の作業処理を、ユーザに代わり行ってもよい。例えば、前記細胞培養物に関するデータが細胞培養物に関する作業処理部に送信され、この送信されたデータに基づき細胞培養物に関する作業処理部が細胞培養物の各種作業処理を自動的に行なうことが可能である。
また、本技術に従う第3例は、第1例〜第2例や第4例〜第7例で示されるデータ取得方法から必要に応じた方法を適宜採択し、適宜組み合わせて適用することができる。
(4−4)撮像素子による受精卵に関するデータの処理の第4例
以下に、本技術の第4例として、撮像素子による受精卵に関するデータの処理について、図11を参照して説明する。
本技術に従う情報処理部101は、受精卵を2以上の異なる時点で撮像することにより画像信号を取得し、取得された画像信号から特徴量を抽出し、当該特徴量に基づき受精卵に関するデータを生成する。
情報処理部101は、受精卵の特徴量に基づき生体試料の状態を判別することができる。
情報処理部101は、受精卵に関し所定の状態に達したと判別した場合、受精卵に関するデータを生成し、出力しうる。情報処理部101は、所定の状態に達したと判別した場合には、出力しうる際に、判別結果に基づき、受精卵に対する作業処理を行ってもよく、また、ユーザが出力された受精卵に関するデータを判断して受精卵に関する作業処理を入力してもよい。受精卵に関する作業処理として、例えば、細胞分割、培養終了、継代培養、薬剤添加、細胞分取、細胞回収などやこれらの組み合わせ(例えば、細胞分割次いで細胞分取/回収)から1種又は2種以上を選択することができる。
情報処理部101は、2以上の異なる時点で取得された画像信号の変化量(差)に応じて画像データにタグを付け、タグが付された画像データを、受精卵に関するデータとして、撮像素子の外部に出力できる。これ以前に撮像された画像データはメモリに保持してもよい。例えば、連続撮像した2画像を画像データとしてメモリに保存する;連続撮像した2画像を比較し、所定の状態を超えた(又は超えない)場合に、その画像データにタグデータを付する;タグが付された画像データを受精卵に関するデータとして、撮像画素の外部に出力する;タグが付されていない画像データ(例えば、変化(差)がない画像データ)は、撮像素子の外部に出力しない又は画像データ以外の量の少ないデータ(例えばアラートデータなど)に生成し、撮像素子の外部に出力する;ことができる。
なお、タグ付けは、例えば、受精卵などの細胞が***した時点など細胞培養物の状態が変化した時点又は変化しうる前の画像データ;病理医や外科医が注目した座標(ステージ移動や内視鏡の操作の速度を変化させた視野);ラインスキャン時の画像変化点の抽出;などに行なうことができるが、これに限定されない。
従来、受精卵をモニタリングする際に、モニタリングにて得られた画像データを連続的に外部のサーバに出力し、サーバに保存した画像データを解析していたが、画像データの量が大きくこれを連続的に外部に出力するため、出力された画像データや処理する画像データ量が大きくなる。
これに対し、本技術に従う撮像素子100を用いて、特徴量(特徴点や時間など)を抽出することで、データ量の低減を行なうことができる。画像データの保存と同時にデータ量の低減を行ってもよい。本技術は、データ量を削減できるため、長期間、リアルタイム、モニタリング対象の多数化などを行なうことができる。また、本技術に従う撮像素子100を用いることで、受精卵の***、細胞分取、継代、薬剤投与のタイミングなど、細胞培養を自動化できる。
本技術における受精卵を含む生体試料は、受精卵や培養液などを含みうる。受精卵に関する特徴量として、特に限定されないが、例えば、分割(例えば、分割形状、分割速度など)、受精卵形状、活性度などが挙げられ、これらから1種又は2種以上を選択することができる。培養液は、上述した細胞培養物における培養液と同様である。
前記受精卵に関する特徴量の抽出は、特に限定されないが、例えば、2以上の異なる時点で取得された受精卵に関する画像信号の変化(差)に基づき、当該抽出を行なうことができる(例えば図11参照)。より具体的には、2以上の異なる時点における画像信号の変化(差)が生じる場合に、その変化(差)を受精卵に関する特徴量として抽出できる。これにより、受精卵に関する特徴量を取得できる。
前記受精卵に関する特徴量に基づき、生体試料に関する所定の状態を判別できる。当該所定の状態として、特に限定されないが、例えば、所定の分割過程に到達した状態又は到達しうる状態、異物が発生した状態又は発生しうる状態などが挙げられる。
そして、情報処理部101は、所定の分割過程に到達した状態又は到達しうる状態に達したと判別した場合には、受精卵に関するデータを生成し、出力する。当該受精卵に関するデータとして、特に限定されないが、例えば、分割過程のアラート、細胞分取/回収のアラート、培養液交換のアラート、薬剤投与のアラート、生成された受精卵に関する画像データなどが挙げられ、これから選択される1種又は2種以上を含むことができる。
本技術により、受精卵分割過程の管理を行うことができる。また、本技術は、受精卵の分割過程を撮像し取得された複数の画像信号に対して学習モデルを用いて、受精卵に関する特徴量を判別してもよい。
本技術により、撮像素子上で、受精卵の2以上の異なる時点での画像信号から、受精卵に関する特徴量を判別し、当該判別結果に基づき当該受精卵に関するデータを生成できる。これにより、撮像素子の外部に大量の画像データを連続的に出力しなくともよくなり、撮像素子の外部へのデータ転送量を低減させることができる。
また、受精卵に関する特徴量として、特に限定されないが、例えば、受精卵の分割(例えば、分割数、分割速度、分割形状など)、細胞活性度(例えば、酵素、代謝物など)などの受精卵に関する特徴量;培養液組成、微生物数などの培養液に関する特徴量;などが含まれてもよく、これらから1種又は2種以上を選択してもよい。
また、本技術であれば、***過程などの受精卵管理を行う場合、情報処理部101が、受精卵の2以上の異なる時点での画像信号を取得し、当該画像信号に基づき受精卵に関するデータを生成し、撮像素子の外部に受精卵に関するデータ(例えば、タグ付きの画像データやアラートデータなど)を出力させてもよい。
本技術により、***過程などの受精卵管理を行う場合、例えば、2以上の異なる時点で取得された画像信号に基づき分割時点を判別し、当該判別結果に基づき受精卵に関するデータを生成できる。
受精卵に関するデータは、アラートデータの他、分割時点で撮像された画像データを含みうる。情報処理部101は、分割時点で、フラグのデータを紐付けた画像データを生成してもよい。このフラグは、受精卵の分割過程における経過時間、受精卵の座標などを含みうる。情報処理部101は、フラグ付き画像データとフラグなしの画像データとで圧縮率を変化させることができ、フラグなしの画像データの圧縮率を高めることで、撮像素子の外部に出力するデータ量を低減することができる。さらに、フラグ付き画像データを内部に記憶させてもよい。
また、フラグ付き画像データを、撮像素子の外部に出力するとともに、フラグなしの画像データを、撮像素子の外部に出力させない又は画像データ以外の量の少ないデータ(例えばアラートデータなど)に生成して、撮像素子の外部に出力させてもよい。
本技術であれば、大量の画像データをストレージし読み出して解析しなくともよく、装置内部で分割時点を解析し、適宜記憶することもできる。さらに、サーバなどの外部でのストレージや解析計算量を低減できる。
本技術により、出力されるデータ量をより低減することができる。また、作業処理に必要な画像データやアラートデータが適切に出力されるため、ユーザが受精卵に関する作業処理を行い易い。
なお、本技術に従う第4例は、第1例〜第3例や第5例〜第7例で示されるデータ取得方法から必要に応じた方法を適宜採択し、適宜組み合わせて適用することができる。
(4−5)撮像素子による***に関するデータの処理の第5例
以下に、本技術の第5例として、撮像素子による***に関するデータの処理について、図12を参照して説明する。
本技術に従う情報処理部101は、***を含む生体試料を2以上の異なる時点で撮像することにより画像信号を取得し、取得された画像信号から特徴量を抽出し、当該特徴量に基づき***に関するデータを生成する。
情報処理部101は、***の特徴量に基づき生体試料の状態を判別することができる。
情報処理部101は、***に関し所定の状態であると判別した場合、***に関するデータを生成し、出力しうる。情報処理部101は、所定の状態に達したと判別した場合には、出力しうる際に、判別結果に基づき、***に対する作業処理を行ってもよく、また、ユーザが出力された***に関するデータを判断して***に関する作業処理を入力してもよい。***に関する作業処理として、例えば、***細胞分取、***細胞回収、薬剤添加などから1種又は2種以上を選択することができる。
従来は、CCDやCMOSなどのイメージャーでリアルタイムでモニタリングを行なうと、画像データが膨大になってしまう課題があった。
これに対し、本技術に従う撮像素子100を用いることで、画像データ量の低減を行なうことができる。本技術は、データ量を削減できるため、長期間、リアルタイム、モニタリング対象の多数化などを行なうことができる。
本技術における***を含む生体試料は、***や培養液などを含みうる。***に関する特徴量として、特に限定されないが、例えば、***の動き、***形状、活性度などが挙げられ、これらから1種又は2種以上を選択することができる。培養液は、上述した細胞培養物における培養液と同様である。
前記***に関する特徴量の抽出は、特に限定されないが、例えば、2以上の異なる時点で取得された***に関する画像信号の変化(差)に基づき、当該抽出を行なうことができる(例えば図12参照)。より具体的には、2以上の異なる時点における画像信号の変化(差)が生じる場合に、その変化(差)を***に関する特徴量として抽出できる。これにより、***に関する特徴量を取得できる。
前記***に関する特徴量に基づき、生体試料に関する所定の状態に達した否かを判別できる。当該所定の状態として、特に限定されないが、例えば、***が良好な状態、異物が発生した状態又は発生しうる状態などが挙げられる。
***が良好な状態に達したと判別した場合には、***に関するデータを生成し、出力する。当該***に関するデータとして、特に限定されないが、例えば、細胞分取/回収のアラート、薬剤投与のアラート、生成された***に関する画像データなどが挙げられ、これからから選択される1種又は2種以上を含むことができる。
本技術により、***選択の管理を行うことができる。また、本技術は、***を含む生体試料を撮像し取得された複数の画像信号に対して学習モデルを用いて、***に関する特徴量を判別してもよい。
本技術により、撮像素子上で、***を含む生体試料の2以上の異なる時点での画像信号から、***に関する特徴量を判別し、当該***に関するデータを生成することで、撮像素子の外部に大量の画像データを連続的に出力しなくともよくなり、撮像素子の外部へのデータ量を低減させることができる。
また、***に関する特徴量は、特に限定されながいが、例えば、***の活動(例えば、***数、***の運動速度、***形状など)、細胞活性度(例えば、酵素、代謝物など)などの***に関する特徴量;培養液組成、微生物数などの培養液に関する特徴量;などを含んでもよく、これらから1種又は2種以上を選択してもよい。
本技術により、***選択の管理を行う場合、情報処理部101が、***を含む生体試料の2以上の異なる時点での画像信号を取得し、当該画像信号に基づき***に関するデータを生成し、撮像素子の外部に***に関するデータ(例えば、タグ付きの画像データやアラートデータなど)を出力させてもよい。例えば、体外受精に良好な***を判別し、当該***に関するデータを生成してもよい。
***に関するデータは、アラートデータの他、選択された***が撮像された画像データを含みうる。情報処理部101は、体外受精に良好な***を判別し、当該判別結果に基づきその***の領域のみの画像データ又はこの領域と周辺画素のみからなる画像データを生成してもよい。また、情報処理部101は、判別した***を追跡し、***が存在する座標位置から座標位置データを生成してもよい。このとき、***の領域のみの画像データ又はこの領域とその周辺画素のみからなる画像データを切り出し、切り出された画像データと***が存在する座標位置データとを紐付け、当該座標位置データと当該座標位置に紐付けられた画像データとを生成することが好ましい。また、***の領域のみの画像データ以外の領域を削除してもよく、***の領域とその周辺画素のみからなる画像データ以外の領域を削除してもよい。生成された***に関するデータは、撮像素子の外部に出力される。
本技術であれば、装置内部で良好な***を選択し、その***の領域のみの画像データ又はこの領域とその周辺画素のみからなる画像データにすることができる。これにより、観察全領域の大量となる画像データを出力しなくともよくなる。また、本技術により、出力されるデータ量をより低減することができる。また、作業処理に必要な画像データやアラートデータが適切に出力されるため、ユーザが***の処理を行い易い。
なお、本技術に従う第5例は、第1例〜第4例や第6例、第7例で示されるデータ取得方法から必要に応じた方法を適宜採択し、適宜組み合わせて適用することができる。
(4−6)撮像素子による核酸に関するデータの処理の第6例
以下に、本技術の第6例として、撮像素子による核酸に関するデータの処理について、図13を参照して説明する。
本技術に従う情報処理部101は、核酸のスポットを撮像し画像信号を取得し、取得された画像信号から特徴量を抽出し、当該特徴量に基づき核酸に関するデータを生成する。
情報処理部101は、核酸の特徴量に基づき生体試料の状態を判別することができる。判別する前に行なう工程として、取得された画像信号においてシグナルを発するスポットをスポットごとの領域に区分することが好ましい。情報処理部101は、核酸に関し所定の状態に達したと判別した場合、核酸配列データを生成し、出力しうる。
核酸に関する特徴量として、特に限定されない。例えば、スポットの波長、蛍光スペクトル、吸収スペクトル、光学特性、蛍光波長、面積、輝度、中心からの距離、円形状の抽出(hough変換)などが挙げられ、これらから1種又は2種以上を選択することができる。
また、情報処理部101は、スポット以外の領域の画像データを除外して画像データを作成することができる。
情報処理部101は、取得された画像信号から、蛍光波長、蛍光スペクトル、蛍光強度などの核酸に関する特徴量に基づき、AGCTの核酸配列データに変換しうる。本明細書内において、「核酸に関する特徴量」は、核酸自体に関する特徴量及び核酸にラベリングされた物質(例えば蛍光色素など)に関する特徴量の両方を包含し、これらのいずれか一方又は両方であってよい。
情報処理部101は、取得された画像信号に基づき、設定された閾値以上の蛍光シグナル強度かつ蛍光波長から、核酸の種類に変換しうることが好ましい。例えば、対象となるスポットから核酸の数を算出する場合、[対象スポットの面積又は輝度]÷[塩基1つの場合のスポットの面積又は輝度(基準(閾値)1)]に基づき、算出することができる。
このように、情報処理部101は、取得された画像信号に基づき、例えば核酸の種類及び/又は数を決定しうる。情報処理部101は、決定された核酸の種類及び/又は数に基づき核酸配列データを生成しうる。
これにより、取得された画像信号を、AGCTの文字などのデータに変換することで、データ量を圧縮でき、データ量を低減できる。また、本技術により、出力されるデータ量をより低減することができる。
また、画像信号に起点を設定することで、画像信号における蛍光シグナルの座標位置が容易に設定しやすく、核酸の核酸配列データに変換する際又は変換したあとに、核酸の核酸配列データの順序が明確にしやすくなる。例えば、画像データを、二次元に配置していなくともよく、単純にスポット番号を付して一次元にして順番に配列させてもよい。
従来の核酸配列解析方式は、画像データのままで転送しているため、データ量が膨大になりデータ転送に負荷がかかるという課題がある。このようにデータ量が多くなるため、撮像頻度の減少、撮像期間の制限、モニタリング対象試料の制約をする必要があった。
これに対し、本技術に従う撮像素子100を用いることで、従来の核酸配列解析方式で得られる画像データから核酸配列データにすることができ、データ転送の負荷を軽減し、スピート向上が期待できる。
第5例に関する実施形態について、図14を参照して説明する。
ステップS601において、情報処理部101が、核酸のシークエンシングが開始される。
ステップS602において、情報処理部101が、蛍光標識法を行い、複数の蛍光スポットを含む蛍光画像を2以上の異なる時点で撮像することにより、蛍光画像に関する画像信号を取得する。
ステップS603において、情報処理部101は、取得された画像信号から、蛍光スポットの特徴量(例えば、蛍光波長、蛍光スペクトル、蛍光強度、蛍光領域など)を抽出する。情報処理部101は、閾値以上のシグナルやスポット位置などを特徴量として抽出しうる。例えば、蛍光スポット波長に基づき、AGCTのいずれかに設定できる。所定のスポット強度1で1塩基と設定したときに、この倍の強度がある場合には、その倍分が塩基数と設定することができ、例えば、核酸Aのスポット強度の2倍の強度が検出された場合、その蛍光スポットは、AAというようにAの2塩基数と判別できる。また、蛍光面積にて、同様に塩基の種類や数、配列順序を判別することができる。また、蛍光スポットと蛍光面積とを組み合わせて、塩基の種類や数、配列順序を判別してもよい。
ステップS604において、情報処理部101は、蛍光スポットの特徴量に基づき、核酸の配列に関するデータを生成する。蛍光スポットごとに区分し、起点を設定することで、二次元から一次元的データとすることができ、情報処理部101は、さらに、核酸の配列を順序よく設定できる。
また、情報処理部101は、S602〜S604やS603〜S604を繰り返すことで、図13のようなACGATGなどと核酸の配列を延ばしながら、核酸の配列に関するデータを作成してもよい。
ステップS605において、情報処理部101は、核酸の配列に関するデータを外部に出力する。
ステップS605において、核酸の配列に関するデータが出力されたら、データ取得処理が終了されうる(ステップS606)。なお、ステップS605において、核酸の配列に関するデータが出力された後に、再度ステップS602〜S604の処理が繰り返されてもよい。
核酸の配列に関するデータをユーザに表示することにより、ユーザが引き続き蛍光標識法を行うかどうかを判別し、これを入力できる。また、蛍光標識法に関する作業処理部が、行うかどうかを判別してもよい。
本技術により、出力されるデータ量をより低減することができる。また、作業処理に必要な画像データやアラートデータが適切に出力されるため、ユーザが核酸に関するデータ処理を行い易い。
なお、本技術に従う第6例は、第1例〜第5例や第7例で示されるデータ取得方法から必要に応じた方法を適宜採択し、適宜組み合わせて適用することができる。
(4−7)撮像素子による生体組織片に関するデータの処理の第7例
以下に、本技術の第7例について、図15を参照して説明する。
本技術に従う情報処理部101は、生体組織片を含む生体試料を2以上の異なる時点で撮像することにより画像信号を取得し、取得された画像信号から特徴量を抽出し、当該特徴量に基づき生体組織片に関するデータを生成する。当該特徴量として、例えば、着目量(例えば、着目時間、着目領域、着目回数など)などが挙げられる。
情報処理部101は、前記特徴量に基づき、生体組織片を含む生体試料の状態を判別することができる。
前記生体組織片に関する特徴量に基づき、生体試料に関する所定の状態に達した否かを判別できる。当該所定の状態として、例えば着目量が挙げられる。
情報処理部101は、所定の着目量に状態に達したと判別した場合には、生体組織片に関するデータを生成し、出力する。当該生体組織片に関するデータは、特に限定されないが、例えば着目データであってよい。当該着目データとして、着目量(観察回数、観察時間など)の多い画像領域に関するアラートや画像データ、着目量(移動速度の遅さ、回数、観察時間など)の多い撮像フレームに関するアラートや画像データなどが挙げられ、これからから選択される1種又は2種以上を含むことができる。
本技術により、生体組織片に関する観察の管理を行うことができる。また、本技術は、生体組織片を撮像し、取得された複数の画像信号に対して学習モデルを用いて、生体組織片に関する特徴量を判別してもよい。
本技術により、撮像素子の外部へのデータ量を低減することができる。
例えば、第7例Aとして、情報処理部101は、ユーザが広い視野の標本を顕微鏡観察する際に、顕微鏡観察の画像のなかで特徴領域を検出し、この特徴領域を含む視野にフラグを付けることができる。
情報処理部101は、このフラグ付きの特徴領域のみの画像データ又はこの特徴領域と周辺画素のみからなる画像データと、当該画像データ以外の領域の画像データとの圧縮率を変化させうる。当該画像データ以外の領域の画像データを圧縮させることで、外部に出力するデータを低減することができる。さらに、情報処理部101は、フラグ付き画像データを内部に記憶させてもよく、また、フラグなしの画像データを外部に出力せずに、フラグ付き画像データのみを撮像素子の外部に出力してもよい。また、フラグに関する情報のみを、信号データとして外部に出力してもよい。
また、第7例Bとして、情報処理部101は、顕微鏡観察の画像のなかで特徴領域を検出し、その特徴領域のみの画像データ又はこの特徴領域と周辺画素のみからなる画像データにフラグを付してもよい。このフラグには、座標、操作時間、操作領域などのデータを含みうる。特徴領域の検出の例として、例えば、ユーザが繰り返し観察した視野を画像解析から検出してもよい。
上記第7例Bと同様に、フラグ付きの画像データや信号データを、撮像素子の外部に出力してもよい。また、情報処理部101は、特徴領域として検出された特徴領域のみの画像データ又はこの特徴領域と周辺画素のみからなる画像データを生成し、当該特徴領域のみの画像データ又はこの特徴領域と周辺画素のみからなる画像データ、信号データを、撮像素子の外部に出力してもよい。
また、第7例Cとして、情報処理部101は、複数の画像フレームを観察する場合、一定フレームレートで動画を撮像し、視野(撮像フレーム)間での画像変化から移動速度を算出する。情報処理部101は、この移動速度の変換がある場合に、変化のあるフレームにフラグを付す。情報処理部101は、フラグ付きの画像データ以外の画像データを圧縮することで、出力される画像データを低減することができる。
なお、本技術に従う第7例は、必要に応じて、第1例〜第6例で示されるデータ取得方法から必要に応じた方法を適宜採択し、適宜組み合わせて適用することができる。
2.第2の実施形態(アプリケーション装置)
本技術に従うデータ取得装置は、種々の装置として適用することが可能であり、また種々の装置に備えてもよい。当該装置として、例えば、細胞培養装置、顕微鏡観察装置、核酸配列解析装置、生体組織観察装置、生体試料観察装置などが挙げられるが、これに限定されない。前記核酸配列解析装置は、例えば次世代シーケンサー(NGS、Next Generation Sequencer)であってもよい。上記1.において説明したとおりであり、その説明が本実施形態においても当てはまる。
3.第3の実施形態(データ取得方法)
本技術は、生体試料の2以上の異なる時点での画像信号を取得する信号取得工程と、前記画像信号から特徴量を抽出する特徴量抽出工程と、
当該特徴量に基づき前記生体試料に関するデータを生成するデータ生成工程と、
前記生体試料に関するデータを前記撮像素子の外部に出力させる出力工程と、
を含むデータ取得方法も提供する。
本技術の方法は、前記信号取得工程の前に、生体試料に対して光を照射する照射工程を含んでもよい。
本技術は、生体試料を2以上の異なる時点で撮像素子により撮像して取得された画像信号から特徴量を抽出する特徴量抽出工程と、
当該特徴量に基づき前記生体試料に関するデータを生成するデータ生成工程と、
前記生体試料に関するデータを前記撮像素子の外部に出力させる出力工程と、
を含むデータ取得方法も提供する。
本技術に従うデータ取得方法は、前記特徴量に基づいて前記生体試料の状態を判別する判別工程を含みうる。
本技術に従うデータ取得方法は、例えば、学習済みモデルを用いて、前記生体試料に関するデータを生成することも可能である。
また、本技術に従うデータ取得方法は、上述した装置(例えば、上記1.において述べたデータ取得装置など)によって実行されうる。
本技術の生体試料観察方法は、上述したデータ取得方法を含むことができる。当該生体試料観察方法は、顕微鏡観察方法又は核酸配列解析方法であってもよい。
4.第4の実施形態(プログラム)
本技術は、生体試料を2以上の異なる時点の画像信号を取得する信号取得部と、
前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部と、
前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部と、
を有する撮像素子を備えているデータ取得装置に実行させるためのプログラムも提供する。当該プログラムは、上記1.〜3.において説明したとおりであり、当該説明が本実施形態にも当てはまる。
前記特徴量抽出工程は、生体試料の2以上の異なる時点での画像信号から特徴量を抽出する。前記データ生成工程は、当該特徴量に基づき前記生体試料に関するデータを生成する。前記出力工程は、前記生体試料に関するデータを前記撮像素子の外部に出力させる。前記生体試料に関するデータを生成するために、学習済みモデルを含んでもよく、データ取得装置の外部の記憶部などに格納されていてもよい。
5.第5の実施形態(生体試料観察システム)
本技術は、生体試料を保持可能な保持部と、
前記生体試料に対して光を照射する照射部と、
前記生体試料の2以上の異なる時点での画像信号を取得する信号取得部と、
前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部と、
前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部とを有する撮像素子とを備え、
前記信号取得部、前記情報処理部及び前記出力部とは、単一のチップ内に配置されている生体試料観察システムも提供する。
前記生体試料観察システムは、保持部を格納するインキュベータを更に備えてもよい。
前記生体試料観察システムは、顕微鏡観察システム又は核酸配列解析システムでもよい。
当該システムは、上記1.〜4.において説明したとおりであり、当該説明が本実施形態にも当てはまる。
なお、本技術では、以下の構成を取ることもできる。
〔1〕
生体試料の2以上の異なる時点での画像信号を取得する取得部と、
前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部と、
前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部と、
を有する撮像素子を備え、前記信号取得部、前記情報処理部及び前記出力部は、単一のチップ内に配置されているデータ取得装置。
〔2〕
前記信号取得部は、複数の画素が2次元に並んだ構成であり、
前記撮像素子が、対物レンズを介して前記生体試料を撮像するように構成されている、前記〔1〕に記載のデータ取得装置。
〔3〕
前記情報処理部が、学習済みモデルを用いて、前記生体試料に関するデータを生成する、〔1〕又は〔2〕に記載のデータ取得装置。
〔4〕
前記情報処理部が、前記特徴量を取得する特徴量抽出部と、前記特徴量に基づいて前記生体試料の状態を判別する状態判別部とを有し、
前記情報処理部は、前記状態判別部による判別結果に基づき、出力される生体試料に関するデータを生成する、〔1〕〜〔3〕のいずれか1つに記載のデータ取得装置。
〔5〕
前記特徴量が、細胞培養物に関する特徴量、受精卵に関する特徴量、***に関する特徴量、核酸に関する特徴量、又は生体組織片に関する特徴量のいずれかである、〔1〕〜〔4〕のいずれか1つに記載のデータ取得装置。
〔6〕
前記生体試料が、細胞培養物、受精卵、***、核酸、及び生体組織片から選択される1種又は2種以上である、〔1〕〜〔5〕のいずれか1つに記載のデータ取得装置。
〔7〕
前記生体試料に関するデータが、画像データ、アラートデータ、フラグデータ、又は核酸配列データを含む、〔1〕〜〔6〕のいずれか1つに記載のデータ取得装置。
〔8〕
前記生体試料が、細胞培養物を含み、
前記情報処理部が、前記細胞培養物に関する特徴量に基づき、所定の細胞密度に到達したか又は細胞培養物中に異物が発生したかを判別する、〔1〕〜〔7〕のいずれか1つに記載の撮像装置。
〔9〕
前記生体試料が、細胞培養物を含み、
前記情報処理部が、前記細胞培養物に関する特徴量に基づき、培養細胞の画像データを生成する、〔1〕〜〔7〕、〔8〕のいずれか1つに記載の撮像装置。
〔10〕
前記生体試料が、受精卵を含み、
前記情報処理部が、前記受精卵に関する特徴量に基づき、所定の分割過程に到達したかを判別する、〔1〕〜〔7〕のいずれか1つに記載のデータ取得装置。
〔11〕
前記生体試料が、受精卵を含み、
前記情報処理部が、前記受精卵に関する特徴量に基づき、前記受精卵の画像データを生成する、〔1〕〜〔7〕、〔10〕のいずれか1つに記載のデータ取得装置。
〔12〕
前記生体試料が、***を含み、
前記情報処理部が、前記***に関する特徴量に基づき、***の状態を判別する、
〔1〕〜〔7〕のいずれか1つに記載のデータ取得装置。
〔13〕
前記生体試料が、***を含み、
前記情報処理部が、前記***に関する特徴量に基づき、前記***の画像データを生成する、〔1〕〜〔7〕、〔12〕のいずれか1つに記載のデータ取得装置。
〔14〕
前記生体試料が、核酸を含み、
前記情報処理部が、前記核酸に関する特徴量に基づき、前記核酸の配列データを生成する、〔1〕〜〔7〕のいずれか1つに記載のデータ取得装置。
〔15〕
生体試料を2以上の異なる時点で撮像素子により撮像して取得された画像信号から特徴量を抽出する特徴量抽出工程と、
当該特徴量に基づき前記生体試料に関するデータを生成するデータ生成工程と、
前記生体試料に関するデータを前記撮像素子の外部に出力させる出力工程と、
を含むデータ取得方法。
〔16〕
生体試料を保持可能な保持部と、
前記生体試料に対して光を照射する照射部と、
前記生体試料の2以上の異なる時点での画像信号を取得する信号取得部と、
前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部と、
前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部とを有する撮像素子とを備え、
前記信号取得部、前記情報処理部及び前記出力部とは、単一のチップ内に配置されている生体試料観察システム。
〔17〕
前記保持部を格納するインキュベータを更に備える、前記〔16〕に記載の生体試料観察システム。
〔18〕
前記生体試料観察システムは顕微鏡観察システムである、前記〔16〕又は〔17〕に記載の生体試料観察システム。
〔19〕
前記生体試料観察システムは核酸配列解析システムである、前記〔16〕に記載の生体試料観察システム。
1 データ処理装置
100 撮像素子
101 情報処理部
102 特徴量抽出部
103 状態判別部
104 認識処理部
105 画像生成部
110 信号取得部(撮像部)
120 撮像処理部
150 出力制御部

Claims (19)

  1. 生体試料の2以上の異なる時点での画像信号を取得する信号取得部と、
    前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部と、
    前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部とを有する撮像素子を備え、
    前記信号取得部、前記情報処理部及び前記出力部は、単一のチップ内に配置されているデータ取得装置。
  2. 前記信号取得部は、複数の画素が2次元に並んだ構成であり、
    前記撮像素子が、対物レンズを介して前記生体試料を撮像するように構成されている、請求項1に記載のデータ取得装置。
  3. 前記情報処理部が、学習済みモデルを用いて、前記生体試料に関するデータを生成する、請求項1に記載のデータ取得装置。
  4. 前記情報処理部が、前記特徴量を取得する特徴量抽出部と、前記特徴量に基づいて前記生体試料の状態を判別する状態判別部とを有し、
    前記情報処理部は、前記状態判別部による判別結果に基づき、出力される生体試料に関するデータを生成する、
    請求項1に記載のデータ取得装置。
  5. 前記特徴量が、細胞培養物に関する特徴量、受精卵に関する特徴量、***に関する特徴量、核酸に関する特徴量、又は生体組織片に関する特徴量のいずれかである、請求項1にお記載のデータ取得装置。
  6. 前記生体試料が、細胞培養物、受精卵、***、核酸、及び生体組織片から選択される1種又は2種以上である、請求項1に記載のデータ取得装置。
  7. 前記生体試料に関するデータが、画像データ、アラートデータ、フラグデータ、又は核酸配列データを含む、請求項1に記載のデータ取得装置。
  8. 前記生体試料が、細胞培養物を含み、
    前記情報処理部が、前記細胞培養物に関する特徴量に基づき、所定の細胞密度に到達したか又は細胞培養物中に異物が発生したかを判別する、請求項1に記載の撮像装置。
  9. 前記生体試料が、細胞培養物を含み、
    前記情報処理部が、前記細胞培養物に関する特徴量に基づき、培養細胞の画像データを生成する、
    請求項1に記載の撮像装置。
  10. 前記生体試料が、受精卵を含み、
    前記情報処理部が、前記受精卵に関する特徴量に基づき、所定の分割過程に到達したかを判別する、
    請求項1に記載のデータ取得装置。
  11. 前記生体試料が、受精卵を含み、
    前記情報処理部が、前記受精卵に関する特徴量に基づき、前記受精卵の画像データを生成する、
    請求項1に記載のデータ取得装置。
  12. 前記生体試料が、***を含み、
    前記情報処理部が、前記***に関する特徴量に基づき、***の状態を判別する、
    請求項1に記載のデータ取得装置。
  13. 前記生体試料が、***を含み、
    前記情報処理部が、前記***に関する特徴量に基づき、前記***の画像データを生成する、
    請求項1に記載のデータ取得装置。
  14. 前記生体試料が、核酸を含み、
    前記情報処理部が、前記核酸に関する特徴量に基づき、前記核酸の配列データを生成する、
    請求項1に記載のデータ取得装置。
  15. 生体試料を2以上の異なる時点で撮像素子により撮像して取得された画像信号から特徴量を抽出する特徴量抽出工程と、
    当該特徴量に基づき前記生体試料に関するデータを生成するデータ生成工程と、
    前記生体試料に関するデータを前記撮像素子の外部に出力させる出力工程と、
    を含むデータ取得方法。
  16. 生体試料を保持可能な保持部;
    前記生体試料に対して光を照射する照射部;及び、
    前記生体試料の2以上の異なる時点での画像信号を取得する信号取得部と、前記画像信号から特徴量を抽出し、当該特徴量に基づき前記生体試料に関するデータを生成する情報処理部と、前記生体試料に関するデータを撮像素子の外部に出力させる出力制御部とを有する撮像素子
    を備え、
    前記信号取得部、前記情報処理部及び前記出力部とは、単一のチップ内に配置されている生体試料観察システム。
  17. 前記保持部を格納するインキュベータを更に備える、
    請求項16に記載の生体試料観察システム。
  18. 前記生体試料観察システムは顕微鏡観察システムである、
    請求項16に記載の生体試料観察システム。
  19. 前記生体試料観察システムは核酸配列解析システムである、
    請求項16に記載の生体試料観察システム。
JP2020063877A 2020-03-31 2020-03-31 データ取得装置、データ取得方法及び生体試料観察システム Pending JP2021158982A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020063877A JP2021158982A (ja) 2020-03-31 2020-03-31 データ取得装置、データ取得方法及び生体試料観察システム
CN202180024186.2A CN115335502A (zh) 2020-03-31 2021-03-08 数据获取装置、数据获取方法和生物样本观察***
PCT/JP2021/008996 WO2021199936A1 (ja) 2020-03-31 2021-03-08 データ取得装置、データ取得方法及び生体試料観察システム
US17/913,771 US20240212370A1 (en) 2020-03-31 2021-03-08 Data acquisition device, data acquisition method, and biological sample observation system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020063877A JP2021158982A (ja) 2020-03-31 2020-03-31 データ取得装置、データ取得方法及び生体試料観察システム

Publications (1)

Publication Number Publication Date
JP2021158982A true JP2021158982A (ja) 2021-10-11

Family

ID=77927213

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020063877A Pending JP2021158982A (ja) 2020-03-31 2020-03-31 データ取得装置、データ取得方法及び生体試料観察システム

Country Status (4)

Country Link
US (1) US20240212370A1 (ja)
JP (1) JP2021158982A (ja)
CN (1) CN115335502A (ja)
WO (1) WO2021199936A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2024054578A (ja) * 2022-10-05 2024-04-17 株式会社アステック タイムラプス撮影機能付き培養装置および培養方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4389347B2 (ja) * 2000-05-15 2009-12-24 ソニー株式会社 演算機能付き撮像素子
JP7001060B2 (ja) * 2016-11-02 2022-01-19 ソニーグループ株式会社 情報処理装置、情報処理方法及び情報処理システム
US20200294235A1 (en) * 2017-03-31 2020-09-17 Sony Corporation Information processing device, information processing method, program, and observation system
JP7024231B2 (ja) * 2017-07-10 2022-02-24 ソニーグループ株式会社 情報処理装置、情報処理方法、プログラム及び観察システム

Also Published As

Publication number Publication date
US20240212370A1 (en) 2024-06-27
WO2021199936A1 (ja) 2021-10-07
CN115335502A (zh) 2022-11-11

Similar Documents

Publication Publication Date Title
JP6063967B2 (ja) 細胞画像取得および遠隔モニタリングシステム
US10803290B2 (en) Classifier construction method and method for determining life or death of cell using same
JP5783043B2 (ja) 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
JP2018180635A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
WO2010146802A1 (ja) 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
WO2009119330A1 (ja) 細胞観察の画像解析方法、画像処理プログラム及び画像処理装置
CN106973258B (zh) 病理切片信息快速获取装置
JP2015536140A (ja) バイオイメージング法
US20180342078A1 (en) Information processing device, information processing method, and information processing system
JP2010181402A (ja) 受精卵品質評価支援システム、受精卵品質評価支援装置および受精卵品質評価支援方法
JP4848520B2 (ja) 植物培養細胞塊の状態を判別する方法、そのための装置および植物培養細胞塊の状態を判別するためのプログラム
JP5516108B2 (ja) 観察装置、観察方法、及びプログラム
CA2426798A1 (en) Method and apparatus for screening chemical compounds
WO2021199936A1 (ja) データ取得装置、データ取得方法及び生体試料観察システム
JP2009229274A (ja) 細胞観察の画像解析方法、画像処理プログラム及び画像処理装置
US11009446B1 (en) Plate reader observation methods and operation
JP2012039929A (ja) 受精卵観察の画像処理方法、画像処理プログラム及び画像処理装置、並びに受精卵の製造方法
JP2009229276A (ja) 細胞観察の画像解析方法、画像処理プログラム及び画像処理装置
US20200074628A1 (en) Image processing apparatus, imaging system, image processing method and computer readable recoding medium
CN113166701A (zh) 用于细胞培养监测的紧凑型光学成像***
EP4125065A1 (en) Image processing method and classification model construction method
Tran et al. Mobile Fluorescence Imaging and Protein Crystal Recognition
CN100483432C (zh) 生殖感染智能识别***与方法
JP2007174963A (ja) 生体試料培養観察装置および生体試料培養観察方法
Bonnard et al. Automatically tracking feeding behavior in populations of foraging worms