JP2018021894A - 画像生成装置及び画像生成方法 - Google Patents

画像生成装置及び画像生成方法 Download PDF

Info

Publication number
JP2018021894A
JP2018021894A JP2017077843A JP2017077843A JP2018021894A JP 2018021894 A JP2018021894 A JP 2018021894A JP 2017077843 A JP2017077843 A JP 2017077843A JP 2017077843 A JP2017077843 A JP 2017077843A JP 2018021894 A JP2018021894 A JP 2018021894A
Authority
JP
Japan
Prior art keywords
image
light source
light
substance
mask
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017077843A
Other languages
English (en)
Other versions
JP6817566B2 (ja
Inventor
加藤 弓子
Yumiko Kato
弓子 加藤
好秀 澤田
Yoshihide Sawada
好秀 澤田
康博 向川
Yasuhiro Mukogawa
康博 向川
卓哉 舩冨
Takuya Funatomi
卓哉 舩冨
尋之 久保
Hiroyuki Kubo
尋之 久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to CN201710540521.XA priority Critical patent/CN107645625B/zh
Priority to US15/641,322 priority patent/US10607316B2/en
Publication of JP2018021894A publication Critical patent/JP2018021894A/ja
Application granted granted Critical
Publication of JP6817566B2 publication Critical patent/JP6817566B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Apparatus Associated With Microorganisms And Enzymes (AREA)

Abstract

【課題】小型化することが可能な画像生成装置を提供する。【解決手段】画像生成装置10は、物質を照明する第1の光源141Aおよび第2の光源141Bと、物質が配置されるイメージセンサ150と、光が透過する透光部分、ならびに光を遮蔽する遮光部分を有し、イメージセンサ150と第1の光源141Aおよび第2の光源141Bとの間に位置するマスク142と、明暗画像処理部120とを備え、イメージセンサ150は、第1の光源141Aにより照明されたときに、物質の第1の画像を取得し、第2の光源141Bにより照明されたときに、物質の第2の画像を取得し、明暗画像処理部120は、第1の画像に含まれる画素の輝度値と第2の画像に含まれる画素であって、前記第1の画像に含まれる画素と同一の位置にある画素の輝度値との差分を導出することにより、その物質の第3の画像を生成する。【選択図】図2

Description

本開示は、例えば、レンズレス顕微鏡などの画像を生成する画像生成装置および画像生成方法に関する。
培養細胞を染色することなく連続的に観察したいという要求は、治療用の細胞の産生または薬効の試験等、もしくは培養細胞を医療または産業に用いる多くの分野にある。しかしながら、細胞の多くは、ほとんど無色透明であるため、透過光による光学顕微鏡での撮影ではコントラストが小さいため観察は困難である。コントラストの小ささの一要因として、被写体周辺の媒質および被写体自身による光の散乱または屈折が上げられる。
特許文献1では、光ビームの照射および照射停止の明暗二つの状態の輝度から、反射光のノイズ成分を除去する方法を示している。
ところで、培養細胞の連続的観察は、細胞を培養するための多湿な環境を維持するためのインキュベータという限られた空間内で行われる。このような限られた空間内での観察のために、特許文献2および3は、レンズを用いずに微小な細胞を観察することのできるレンズレス顕微鏡を開示している。これらの文献では、複数の異なる位置から照射する照明によって撮影された複数の画像を用いて解像度の高い画像が生成される。また、非特許文献1は、高周波照明を用いた散乱光除去技術を開示している。
特許第5403458号公報 特許第5789766号公報 米国特許出願公開第2014/0133702号明細書
IEEE International Conference on Computational Photography (ICCP2013) Apr. 2013, Cambridge ‘Descattering of transmissive observation using parallel high-frequency illumination’
しかしながら、特許文献1の方法では、装置が大型化するという問題がある。つまり、この方法では、照明の反射光の輝度を記録して、対象物表面の凹凸を計測する装置において、平行光とデジタルマイクロミラーデバイスを用いる。そして、第1の明暗パタンを照射して記録した輝度と、第2の明暗パタンを照射して記録した輝度との差分により、相対輝度を求めることで、対物レンズの位置ごとの輝度を比較しやすくしている。しかし、明暗のパタンをイメージセンサ全体に広げようとすると、レンズが必要となり、装置が大型化する。一方、特許文献2および3のように多光源で撮影を行う場合には、照明の位置を変更する必要がある。光源およびデジタルマイクロミラーデバイスの位置を変更しながら撮影を行うには、装置が大型化するため、レンズレス顕微鏡にデジタルマイクロミラーデバイスによる明暗の反転を組み合わせるのは困難である。
そこで、本開示は、小型化することが可能な画像生成装置および画像生成方法を提供する。
本開示の一態様に係る画像生成装置は、透光性を有する物質の画像を生成する画像生成装置であって、前記物質を照明する第1の光源と、前記第1の光源から所定の距離だけ離れた位置から前記物質を照明する第2の光源と、前記物質が配置されるイメージセンサと、前記第1の光源および第2の光源からの光が透過する透光部分、ならびに前記光を遮蔽する遮光部分を有し、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置するマスクと、処理回路とを備え、前記イメージセンサは、前記第1の光源により照明されたときに、前記物質の第1の画像を取得し、前記第2の光源により照明されたときに、前記物質の第2の画像を取得し、前記処理回路は、前記第1の画像に含まれる画素の輝度値と、前記第2の画像に含まれる画素であって、前記第1の画像に含まれる画素と同一の位置にある画素の輝度値との差分を導出することにより、前記物質の第3の画像を生成する。
また、本開示の一態様に係る画像生成装置は、透光性を有する物質の画像を生成する画像生成装置であって、前記物質を照明する第1の光源、および前記第1の光源から所定の距離だけ離れた位置から前記物質を照明する第2の光源を含む複数の光源からなる光源群と、前記物質が配置されるイメージセンサと、前記第1の光源および前記第2の光源からの光が透過する透光部分、ならびに前記光を遮蔽する遮光部分を有するマスクと、処理回路とを備え、前記イメージセンサは、(a)前記第1の光源により照明されたときに、前記物質の第1の画像を取得し、(b)前記第2の光源により照明されたときに、前記物質の第2の画像を取得し、(c)前記光源群に含まれる光源により照明されたときに、前記物質の第4の画像を取得し、ここで、前記第1の画像および前記第2の画像は、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置する前記マスクを介して取得され、前記第4の画像は、前記マスクを介さず取得され、前記処理回路は、前記第1の画像および前記第2の画像から、大きい輝度値を有する画像または小さい輝度値を有する画像を選択し、前記選択された画像と前記第4の画像とに基づく差分を導出することにより、前記物質の第5の画像を生成する。
なお、これらの包括的又は具体的な態様は、システム、方法、集積回路、コンピュータプログラム又はコンピュータ読み取り可能な記録媒体で実現されてもよく、装置、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。コンピュータ読み取り可能な記録媒体は、例えばCD−ROM(Compact Disc−Read Only Memory)などの不揮発性の記録媒体を含む。
本開示によれば、画像生成装置を小型化することができる。本開示の一態様の付加的な恩恵及び有利な点は本明細書及び図面から明らかとなる。この恩恵及び/又は有利な点は、本明細書及び図面に開示した様々な態様及び特徴により個別に提供され得るものであり、その1以上を得るために全てが必要ではない。
実施の形態1に係る細胞培養容器の斜視図である。 実施の形態1に係る細胞培養容器の断面図である。 実施の形態1に係る画像生成装置の機能的な構成の一例を示すブロック図である。 実施の形態1に係る照明器の構造の一例を模式的に示す図である。 実施の形態1に係る複数の点光源の配置の一例を模式的に示す図である。 実施の形態1に係るマスクの構造の一例を模式的に示す図である。 実施の形態1に係るイメージセンサと対象物との位置関係を説明する模式図である。 実施の形態1に係る、点光源の位置と、イメージセンサ150が受ける光との関係の一例を示す図である。 実施の形態1に係る記憶部が記憶する内容の一例を示す図である。 実施の形態1に係る明暗画像処理部の機能的な構成の一例を示すブロック図である。 実施の形態1に係る画像生成装置の動作の一例を示すフローチャートである。 実施の形態1に係る撮影部の動作の一例を示すフローチャートである。 実施の形態1に係る明区間と暗区間による周期の具体例を説明する模式図である。 実施の形態1に係る明区間と暗区間による周期の具体例を説明する模式図である。 実施の形態1に係るイメージセンサ上の各位置における光の強度を示す図である。 実施の形態1に係る明暗画像処理部の動作の一例を示すフローチャートである。 実施の形態1に係るマスクを用いたイメージセンサによる撮影結果の一例を示す図である。 実施の形態1の変形例に係る明暗画像処理部の動作の一例を示すフローチャートである。 実施の形態2に係る画像生成装置の機能的な構成の一例を示すブロック図である。 実施の形態2に係る照明器の構造の一例を模式的に示す図である。 実施の形態2に係る記憶部が記憶する内容の一例を示す図である。 実施の形態2に係る撮影部の動作の一例を示すフローチャートである。 実施の形態2に係る明暗画像処理部の動作の一例を示すフローチャートである。 実施の形態2に係る明暗画像処理部の動作の他の例を示すフローチャートである。 実施の形態2の変形例に係る撮影部の動作の一例を示すフローチャートである。 実施の形態2の変形例に係る明暗画像処理部の動作の一例を示すフローチャートである。 実施の形態2の変形例に係る明暗画像処理部の動作の他の例を示すフローチャートである。 点光源による照明を照射し、かつ、マスクなしの状態で撮影された画像を示す図である。 実施の形態1の方法で撮影し、かつ合成された画像を示す図である。 図26Aの画像と図26Bの画像の輝度プロファイルを示す図である。 点光源による照明を照射し、かつ、マスクなしの状態で撮影された画像を示す図である。 実施の形態2の方法で撮影し、かつ合成された画像を示す図である。 図28Aの画像と図28Bの画像の輝度プロファイルを示す図である。
本開示の一態様に係る画像生成装置は、透光性を有する物質の画像を生成する画像生成装置であって、前記物質を照明する第1の光源と、前記第1の光源から所定の距離だけ離れた位置から前記物質を照明する第2の光源と、前記物質が配置されるイメージセンサと、前記第1の光源および第2の光源からの光が透過する透光部分、ならびに前記光を遮蔽する遮光部分を有し、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置するマスクと、処理回路とを備え、前記イメージセンサは、前記第1の光源により照明されたときに、前記物質の第1の画像を取得し、前記第2の光源により照明されたときに、前記物質の第2の画像を取得し、前記処理回路は、前記第1の画像に含まれる画素の輝度値と、前記第2の画像に含まれる画素であって、前記第1の画像に含まれる画素と同一の位置にある画素の輝度値との差分を導出することにより、前記物質の第3の画像を生成する。
これにより、互いに離れた位置にある第1の光源および第2の光源による照明によって、明暗パタンの異なる第1の画像と第2の画像とを取得することができる。したがって、それらの差分を導出することによって、散乱光あるいは屈折光によるノイズを削減し、直接光による鮮明な第3の画像を生成することができる。また、明暗パタンの異なる2つの画像を取得するために、物質を照明する光源を切り替えればよいため、例えば光源またはデジタルマイクロミラーデバイスなどの構造物の位置を変更する必要がなく、装置全体を小型化することができる。
つまり、本開示の一態様に係る画像生成装置は、レンズレス顕微鏡であって、点光源からの拡散光を、例えばスリットあるいはチェッカーパタンを有するマスクに通過させる。そして、第1の明暗パタンを持つ照明の下で撮影された画像と、第1の明暗パタンとは明暗が入れ違いの第2の明暗パタンを持つ照明の下で撮影された画像とに基づいて、対象物の画像を生成する。
これにより、デジタルマイクロミラーデバイスを用いることなく、多光源撮影によって明暗二つの状態での撮影を行うことによって、ノイズを削減した撮影画像を生成することができる。言い換えれば、イメージセンサ上に物質を設置して、透過光によって撮影するレンズレスの撮影システムにおいて、明暗二つの状態で撮影した画像を用いることにより、ノイズを削減した高画質な画像を生成することができる。
また、前記イメージセンサの受光面の一部の領域は、前記物質を照明する第1の光源と前記領域との間に前記マスクの前記透光部分が配置されている状態で前記第1の画像を取得し、前記物質を照明する第2の光源と前記領域との間に前記マスクの前記遮光部分が配置されている状態で前記第2の画像を取得してもよい。例えば、前記イメージセンサの受光面の一部の領域は、前記第1の光源および前記第2の光源を含む複数の光源のそれぞれが順に前記物質を照明しているときに、前記第1の画像および前記第2の画像を含む互いに輝度値の異なる複数の画像を取得し、前記処理回路は、前記複数の画像のうち、最大の輝度値を有する画像であって、前記第1の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第1の画像として選択し、前記複数の画像のうち、最小の輝度値を有する画像であって、前記第2の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第2の画像として選択する。
これにより、明区間で撮影された第1の画像と、暗区間で撮影された第2の画像との差分を導出することができ、ノイズをより削減し、より鮮明な第3の画像を生成することができる。
また、前記第1の光源は前記第2光源から半周期離れて位置し、前記イメージセンサの受光面の一部の領域は、前記第1の光源および前記第2の光源を含む複数の光源のそれぞれが順に前記物質を照明する場合において、最大の輝度値を有する画像と最小の輝度値を有する画像とを取得し、前記処理回路は、最大の輝度値を有する輝度最大画像を含む第1の画像群と、最小の輝度値を有する輝度最小画像を含む第2の画像群とのうち、輝度値の分散が小さい画像群を選択し、(i)選択された前記画像群が前記第1の画像群である場合には、前記第1の画像群のうち、最大の輝度値を有する画像であって、前記第1の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第1の画像として選択し、前記第2の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第2の画像として選択し、(ii)選択された前記画像群が前記第2の画像群である場合には、前記第2の画像群のうち、最小の輝度値を有する画像であって、前記第2の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第2の画像として選択し、前記第1の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第1の画像として選択してもよい。
これにより、輝度の最大値または最小値が不安定であっても、周期に基づいて、明区間で撮影された第1の画像と、暗区間で撮影された第2の画像とを適切に選択することができる。これにより、より鮮明な画像を生成することができる。
また、本開示の一態様に係る画像生成装置は、透光性を有する物質の画像を生成する画像生成装置であって、前記物質を照明する第1の光源、および前記第1の光源から所定の距離だけ離れた位置から前記物質を照明する第2の光源を含む複数の光源からなる光源群と、前記物質が配置されるイメージセンサと、前記第1の光源および前記第2の光源からの光が透過する透光部分、ならびに前記光を遮蔽する遮光部分を有するマスクと、処理回路とを備え、前記イメージセンサは、(a)前記第1の光源により照明されたときに、前記物質の第1の画像を取得し、(b)前記第2の光源により照明されたときに、前記物質の第2の画像を取得し、(c)前記光源群に含まれる光源により照明されたときに、前記物質の第4の画像を取得し、ここで、前記第1の画像および前記第2の画像は、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置する前記マスクを介して取得され、前記第4の画像は、前記マスクを介さず取得され、前記処理回路は、前記第1の画像および前記第2の画像から、大きい輝度値を有する画像または小さい輝度値を有する画像を選択し、前記選択された画像と前記第4の画像とに基づく差分を導出することにより、前記物質の第5の画像を生成する。例えば、前記第1の画像、前記第2の画像、前記第4の画像および前記第5の画像のそれぞれは、前記イメージセンサに含まれる同一の画素に対応する輝度値を有する。
これにより、第1の光源または第2の光源による照明によって、明暗パタンを有する第1の画像または第2の画像と、一様に明るく明暗パタンがない第4の画像を取得することができる。したがって、それらに基づく差分を導出することによって、散乱光あるいは屈折光によるノイズを削減し、直接光による鮮明な第5の画像を生成することができる。また、明暗パタンを有する画像と、一様に明るく明暗パタンがない画像とを取得するために、例えばデジタルマイクロミラーデバイスなどの複雑な構造物の位置を変更する必要がなく、装置全体を小型化することができる。
また、前記マスクにおける前記透光部分と前記遮光部分との面積比は1:1であってもよい。このとき、前記処理回路は、前記選択された画像の輝度値の2倍と、前記第4の画像の輝度値との差分を導出することにより、前記第5の画像の輝度値を生成してもよい。例えば、前記処理回路は、前記第1の画像および前記第2の画像から、大きい輝度値を有する画像を選択した場合には、前記選択された画像の輝度値の2倍から、前記第4の画像の輝度値を減算することにより、前記第5の画像の輝度値を生成する。または、前記処理回路は、前記第1の画像および前記第2の画像から、小さい輝度値を有する画像を選択した場合には、前記第4の画像の輝度値から、前記選択された画像の輝度値の2倍を減算することにより、前記第5の画像の輝度値を生成する。
これにより、マスクの透光部分および遮光部分の面積比を利用して、散乱光あるいは屈折光によるノイズを削減し、直接光による鮮明な第5の画像を生成することができる。
なお、これらの全般的又は具体的な態様は、装置、方法、集積回路、コンピュータプログラム又はコンピュータ読取可能なCD−ROMなどの記録媒体で実現されてもよく、装置、方法、集積回路、コンピュータプログラム又は記録媒体の任意な組み合わせで実現されてもよい。
以下、本開示の一態様に係る画像生成装置および画像生成方法について、図面を参照しながら具体的に説明する。
なお、以下で説明する実施の形態は、いずれも包括的又は具体的な例を示すものである。以下の実施の形態で示される数値、形状、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、請求の範囲を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
実施の形態1に係る画像生成装置は、複数の点光源と、スリットまたはチェッカーパタンのように、光を透過する透光部分と光を遮断する遮光部分とが作られたマスクとからなる照明器と、イメージセンサと、処理回路とを備える。その照明器における互いに位置の異なる複数の点光源は、イメージセンサ上に位置する対象物を順次照明する。このとき、イメージセンサは、そのイメージセンサおよび対象物に到達する光の明暗のパタンが切り替えられながら対象物の撮影を行う。これにより、明暗パタンの異なる複数の画像が取得される。処理回路は、イメージセンサの画素ごとに、複数の画像中で当該画素の輝度が最も高い画像と当該画素の輝度が最も低い画像との輝度の差を求め、画素ごとの輝度の差を画素の輝度値とした画像を生成する。
ここで、実施の形態1に係る画像生成装置は、例えば、細胞培養容器に収容された混合液中の細胞を対象物として撮影する。まず、この細胞培養容器などについて詳細に説明する。なお、本実施の形態における撮影の対象物は、例えば細胞であるが、透光性を有する物質であればよく、細胞以外の物質であってもよい。
[1.細胞培養容器の構造]
図1Aは、実施の形態1に係るディッシュ型の細胞培養容器1000の斜視図である。図1Bは、実施の形態1に係るディッシュ型の細胞培養容器1000の断面図である。図1Aおよび図1Bに示すように、細胞培養容器1000は、容器部1010と、照明器140と、イメージセンサ150とを備える。なお、細胞培養容器1000は、シャーレあるいはペトリ皿と呼ばれるディッシュ型の容器であるが、横置きのフラスコ型の容器であってもよい。
容器部1010は、細胞及び培養液を含む混合液を収容する容器である。つまり、容器部1010は、混合液を内部に位置させる容器である。容器部1010は、例えばガラス製又は樹脂製の透明な容器であり、蓋部1011と本体部1012とを備える。
本体部1012は、容器部1010の底部及び側部を形成する有底筒状の部材である。
蓋部1011は、本体部1012と嵌め合わされることにより本体部1012の開口を塞ぐ有底筒状の部材である。蓋部1011は、容器部1010の上部を形成する。
照明器140は、蓋部1011の内面に設けられており、光を容器部1010内の混合液に照射する。その結果、照射された光は、混合液中を透過して、透過光として出力する。つまり、透過光とは、照明器140から混合液を透過した光であり、半透明物質である混合液で屈折及び減衰した光である。具体的には、照明器140は、蓋部1011の内面に固定されており、容器部1010内の混合液に上方から光を照射する。なお、照明器140は、蓋部1011の外面に固定されてもよい。
また、本実施の形態では、照明器140は、容器部1010の上部から容器部1010の内方に突出しており、照明器140における光の出射面140sは、容器部1010内の細胞C1及び培養液L1を含む混合液中に位置する。つまり、照明器140における光の出射面140sは、混合液の液面L2よりも下方、かつ、容器部1010の底部よりも上方に位置する。
イメージセンサ150は、容器部1010の底部に設けられており、混合液から出力された透過光を受け取る。イメージセンサ150は、例えば、CCDイメージセンサ(Charge Coupled Device Image Sensor)あるいはCMOSイメージセンサ(Complementary Metal Oxide Semiconductor Image Sensor)等の固体撮像素子である。イメージセンサ150には複数の画素がマトリックス状に配置されている。イメージセンサ150の各画素には、照明器140から照射された光が入射する。イメージセンサ150は、光が照射されることでイメージセンサ150の受光面に形成される細胞の光学像を撮影する。
具体的には、図1Bに示すように、イメージセンサ150は、容器部1010の底部に形成された開口に嵌め込まれている。透明保護膜150aに覆われたイメージセンサ150の受光面は、容器部1010内の空間に露出している。細胞C1は、容器部1010内に満たされた培養液L1の中に沈んでおり、透明保護膜150aの上に直接接触した状態で培養されている。図1Bに示すように、細胞C1とイメージセンサ150との間に集光レンズは存在しない。
このように、撮影の対象物である細胞C1は、透明保護膜150aを介して、イメージセンサ150の受光面上に載置された状態で培養される。
[2.画像生成装置の構成]
図2は、実施の形態1に係る画像生成装置10の機能ブロック図である。図1に示される画像生成装置10は、細胞などの透光性を有する物質の画像を生成する装置であって、撮影部100と、記憶部110と、明暗画像処理部120と、出力部130とを備える。
[2−1.撮影部]
まず、撮影部100の構成について説明する。撮影部100は、照明器140と、イメージセンサ150と、制御部160とを備える。撮影部100は、対象物である物質の撮影画像(photographic image)を取得する。ここでは、撮影部100は、フォーカスレンズを有さない。なお、実施の形態1に係る画像生成装置10は、制御部160、記憶部110および出力部130を備えているが、これらの構成要素は必須ではなく、画像生成装置10はこれらの構成要素を備えていなくてもよい。
実施の形態1における照明器140は、第1の光源141Aと、第2の光源141Bと、マスク142とを備える。第1の光源141Aは、物質を照明する点光源である。第2の光源141Bは、第1の光源141Aから所定の距離だけ離れた位置からその物質を照明する点光源である。マスク142は、第1の光源141Aおよび第2の光源141Bからの光が透過する透光部分、ならびにその光を遮蔽する遮光部分を有し、イメージセンサ150と第1の光源141Aおよび第2の光源141Bとの間に位置する。なお、上述の所定の距離は、後述の周期の1/3の距離である。
以下、この照明器140の詳細について説明する。
図3は、実施の形態1における照明器140の構造の一例を模式的に示す図である。具体的には、照明器140は、上述の第1の光源141Aおよび第2の光源141Bを含む複数の点光源141と、マスク142とを備える。マスク142は、スリットまたはチェッカーパタンを有する。つまり、マスク142は、光を透過する透光部分と光を遮断する遮光部分とを有する。
図4は、複数の点光源141の配置の一例を示す模式図である。図4の例では、複数の点光源141は、等間隔に配列されている。複数の点光源141のそれぞれは、例えば、発光する直径10μmの発光面を有し、遮光板に設けられた直径10μmのピンホールからその発光面が露出するように、その遮光板に取り付けられている。光は点光源141から全方向へ均等に広がるものとする。
図5は、マスク142の例を示す。具体的には、図5の(a)は、スリットを有するマスク142の一例を示し、図5の(b)は、チェッカーパタンを有するマスク142の一例を示す。なお、図5中の黒色の部分は、上述の遮光部分であり、白色の部分は、上述の透光部分である。図5の例では、(a)のスリットにおいて、黒色ラインの遮光部分と白色ラインの透光部分との幅は同一である。また、(b)のチェッカーパタンにおいて、黒色正方形の遮光部分と、白色正方形の透光部分との大きさは同一である。また、複数の透光部分と複数の遮光部分はマスク142上では等間隔に設定されている。つまり、マスク142の複数の透光部分および複数の遮光部分は、周期的に規則正しく配置されている。また、スリットにおけるラインの幅あるいはチェッカーパタンにおける正方形の一辺の長さは、何れかの点光源141からマスク142を通った光束によって対象物の一部が明るく、残りの部分が暗くなるように設定されている。つまり、その光束による対象物およびイメージセンサ150上での光の明暗パタンが対象物を少なくとも2つの領域(明るい領域と暗い領域)に分割するように、上述の幅あるいは正方形の一辺の長さが設定されている。例えば、対象物が100μmの場合、スリットにおけるラインの幅あるいはチェッカーパタンの正方形の一辺の長さは、例えば30μmである。マスク142は、例えばガラス上に金属を蒸着することで実現される。
図6は、イメージセンサ150の上に設置した対象物の一例である。なお、図6では、透明保護膜150aなどを省略している。イメージセンサ150の上に直接、撮影の対象物が設置されている。対象物は、例えば複数の半透明の物質である。複数の物質は3次元的に重なって位置する。物質の具体例は、細胞または培養細胞である。図6の例では、対象物は初期胚である。
イメージセンサ150は、複数の画素を有し、上述の物質が配置される。イメージセンサ150の各画素は、受光面に配置され、複数の点光源141から照射された光の強度(すなわち輝度値)を取得する。イメージセンサ150は、各画素により取得された光の強度に基づいて、撮影画像を取得する。つまり、イメージセンサ150は、複数の点光源141のうちの第1の光源141Aにより照明されたときに、物質の第1の画像を取得し、複数の点光源141のうちの第2の光源により照明されたときに、物質の第2の画像を取得する。
イメージセンサ150の例は、CMOS(Complementary Metal−Oxide Semiconductor)イメージセンサ又はCCD(Complementary Metal−Oxide Semiconductor)イメージセンサである。
照明器140の複数の点光源141は、順に光を照射する。複数の点光源141は互いに異なる位置に配置され、互いに異なる方向からマスク142を通して対象物に光を照射する。
制御部160は、複数の点光源141による光の照射、及びイメージセンサ150による撮影を制御する。具体的には、制御部160は、複数の点光源141が光を照射する順番、複数の点光源141が光を照射する時間間隔を制御する。制御部160は、CPU(Complementary Metal−Oxide Semiconductor)、RAM(Random Access Memory)、ROM(Read−Only Memory)などからなるコンピュータシステム(図示せず)により構成される。制御部160の構成要素の一部又は全部の機能は、CPUがRAMを作業用のメモリとして用いてROMに記録されたプログラムを実行することによって達成されてもよい。また、制御部160の構成要素の一部又は全部の機能は、専用のハードウェア回路によって達成されてもよい。
図7は、点光源141の位置と、イメージセンサ150が受ける光との関係の一例を示す。例えば、図7の(a)に示すように、点光源141からマスク142の透光部分を透過した光は、物質の一部と、イメージセンサ150の受光面の一部の領域bとを照らす。このとき、物質の一部と、イメージセンサ150の領域bとを照らす光は、点光源141からの直接光だけでなく、屈折光も含む。屈折光は、点光源141からマスク142の透光部分を透過し、培養液または透過性を有する物質によって屈折、反射または散乱した光である。一方、点光源141からの一部の直接光は、マスク142の遮光部分によって遮られ、イメージセンサ150の受光面の領域aには到達しない。しかし、屈折光はその領域aに到達する。したがって、イメージセンサ150の受光面の領域aは、直接光を受光せず、屈折光を受光するため暗く、領域bは、直接光と屈折光とを受光するため明るい。
しかし、図7の(a)に示す点光源141が消灯し、図7の(b)に示す他の点光源141が点灯すると、イメージセンサ150の受光面のうち領域aと異なる領域eが、屈折光のみを受光するため暗くなる。また、イメージセンサ150の受光面のうち領域bと異なる領域fが、屈折光と直接光とを受光するため明るくなる。
つまり、物質を照明する点光源141の位置が異なると、イメージセンサ150の受光面の一部の領域は、屈折光と直接光とを受光するために明るくなったり、直接光を受光せず、屈折光を受光するために暗くなったりする。実施の形態1では、図4に示すように配置された複数の点光源141、具体的には、マスク142の透光部分および遮光部分が交互に規則的に配列されている方向に沿う複数の点光源141が、順に照明する。したがって、イメージセンサ150の受光面の一部の領域(具体的には画素)は、照明の位置によって周期的に、明るくなったり、暗くなったりする。以下、明るくなる照明位置の区間を明区間といい、暗くなる照明位置の区間を暗区間という。実施の形態1では、このイメージセンサ150の受光面の領域(例えば画素)ごとに、その照明位置による明るさ(すなわち輝度値)の変化を利用することによって、屈折光のノイズを除去した物質の画像を生成する。
[2−2.記憶部]
記憶部110は、イメージセンサ150で取得された画像を、制御部160で設定された撮影時に照明または点灯していた点光源141の位置(以下、照明位置ともいう)と対応させて記憶する。
図8は、記憶部110が記憶する情報の例である。記憶部110は、イメージセンサ150で取得した画像を識別するIDと、撮影時に点灯していた点光源141の照明位置とを対応させて、記憶する。照明位置は、例えば、イメージセンサ150の複数の有効画素からなる平面の左上角を原点とし、イメージセンサ150の横方向をx軸、縦方向をy軸とする座標上の点として示される。実施の形態1の照明器140の例では、複数の点光源141は、イメージセンサ150の表面(すなわち受光面)と平行な平面上に、そのイメージセンサ150の表面に対向するように配置されている。つまり、イメージセンサ150の表面から、すべての点光源141のそれぞれまでの距離は同一である。そのため、照明位置は2次元で表現されている。照明位置は、3次元で表現されてもよい。また、全ての点光源141が直線状に配置されている場合には、照明位置は1次元で表現されてもよい。
[2−3.明暗画像処理部]
明暗画像処理部120は、少なくとも1つの制御回路または処理回路によって実現される。実施の形態1では、明暗画像処理部120は、上述の第1の画像と第2の画像との差分を導出することにより、物質の第3の画像を生成する。ここで、実施の形態1では、第1の画像、前記第2の画像および前記第3の画像のそれぞれは、イメージセンサ150に含まれる同一の画素に対応する輝度値を有する。
図9は、明暗画像処理部120の詳細な構成を示す機能ブロック図である。図9に示すように、明暗画像処理部120は、データ取得部121と、最大値決定部122と、最小値決定部123と、計算部124と、画像生成部125と、画素選択部126と、記憶部127とからなる。
データ取得部121は、画像処理に使用する画像、すなわちその画像に含まれる画素ごとの輝度値と、その画像に対応する照明位置とを、記憶部110から取得する。
画素選択部126は、イメージセンサ150の複数の画素、すなわち生成しようとする画像中の複数の画素より、輝度計算を行う画素を選択する。なお、この画素選択部126によって選択される画素を、以下、選択画素ともいう。
最大値決定部122は、記憶部110に記憶された複数の画像のそれぞれの、画素選択部126が選択した画素と同一位置にある画素の輝度値を比較し、最大の輝度値を有する画素を含む画像を、その複数の画像から特定する。最大値決定部122は、その最大の輝度値を、選択画素の輝度の最大値として決定する。
最小値決定部123は、記憶部110に記憶された複数の画像のそれぞれの、画素選択部126が選択した画素と同一位置にある画素の輝度値を比較し、最小の輝度値を有する画素を含む画像を、その複数の画像から特定する。最小値決定部123は、その最小の輝度値を、選択画素の輝度の最小値として決定する。
記憶部127は、データ取得部121が記憶部110より取得した画像および照明位置と、最大値決定部122が決定した最大値と、最小値決定部123が決定した最小値とを記憶する。
計算部124は、生成しようとする画像の選択画素ごとに、最大値決定部122で決定された、当該選択画素に対応する最大値から、最小値決定部123で決定された、当該選択画素に対応する最小値を減じる。これにより、生成しようとする画像の各画素の輝度値が計算される。
画像生成部125は、計算部124で計算された各画素の輝度値からなる画像を生成する。
すなわち、実施の形態1では、イメージセンサ150の受光面の一部の領域は、第1の光源および第2の光源を含む複数の光源のそれぞれが順に物質を照明しているときに、第1の画像および第2の画像を含む互いに輝度値の異なる複数の画像を取得する。具体的には、イメージセンサ150の受光面の一部の領域は、画素である。この場合、処理回路である明暗画像処理部120は、その複数の画像のうち、最大の輝度値を有する画像であって、第1の光源141Aが物質を照明しているときにイメージセンサ150によって取得される画像を、第1の画像として選択する。また、明暗画像処理部120は、複数の画像のうち、最小の輝度値を有する画像であって、第2の光源141Bが物質を照明しているときにイメージセンサ150によって取得される画像を、第2の画像として選択する。
なお、明暗画像処理部120に含まれるデータ取得部121、最大値決定部122、最小値決定部123、計算部124、および画像生成部125は、CPU(Complementary Metal−Oxide Semiconductor)、RAM(Random Access Memory)、ROM(Read−Only Memory)などからなるコンピュータシステム(図示せず)により構成される。明暗画像処理部120の構成要素の一部又は全部の機能は、CPUがRAMを作業用のメモリとして用いてROMに記録されたプログラムを実行することによって達成されてもよい。また、明暗画像処理部120の構成要素の一部又は全部の機能は、専用のハードウェア回路によって達成されてもよい。
[2−4.出力部]
出力部130は、明暗画像処理部120によって生成された画像を提示する出力装置、またはその画像を電子データとして出力する手段である。画像を提示する出力装置は、例えばディスプレイである。電子データとして出力する手段は、例えばUSBコネクタである。
[3.画像生成装置の動作]
次に、以上のように構成された画像生成装置10の動作について説明する。
図10は、実施の形態1に係る画像生成装置10の動作の一例を示すフローチャートである。
画像生成装置10は、図示しない動作開始命令の入力により動作を開始する。
(ステップS1200)
撮影部100は、多光源撮影を行う。すなわち、撮影部100は、照明器140の複数の点光源141のそれぞれを順に用いて、対象物を、マスク142を通過した光により照明し、当該対象物の複数の画像を撮影する。具体的には、撮影部100は、照明器140の複数の点光源141のそれぞれが対象物を照明するたびに、イメージセンサ150の受光面に到達した光の強度を記録することにより、対象物の画像を取得する。取得された画像は、撮影時に対象物を照明していた点光源141の位置情報(すなわち照明位置)とともに記憶部110で記憶される。ここでは、複数の点光源141の位置は、イメージセンサ150に対して固定されており、複数の点光源141の各々の位置情報は予め定められている。多光源撮影の詳細は後述する。
(ステップS1300)
明暗画像処理部120は、照明器140のマスク142によってステップS1200で撮影された画像上の明部と暗部に対して、明暗画像処理を行う。ステップS1200において、互いに異なる複数の位置の点光源141のそれぞれにより照明して撮影を行うことで、画像ごとに明部と暗部の位置が異なる。明暗画像処理部120は、ステップS1200で撮影された複数の画像に対して、同一の画素位置の輝度について、画像間で比較する。明暗画像処理部120は、画素ごとに、輝度の最大値より最小値を減算することによって、画素ごとの輝度値を決定する。明暗画像処理の詳細は後述する。
(ステップS1400)
明暗画像処理部120の画像生成部125は、ステップS1300で画素ごとに決定された輝度値に基づき画像を生成し、出力する。その後、画像生成装置10は動作を終了する。
このように、実施の形態1に係る画像生成方法は、透光性を有する物質の画像を生成する画像生成方法であって、第1の光源141Aと、第2の光源141Bと、イメージセンサ150と、マスク142とを用いる。そして、この画像生成方法では、ステップS1200において、(a)第1の光源141Aにより照明されたときに、イメージセンサ150が物質の第1の画像を取得し、(b)第2の光源141Bにより照明されたときに、イメージセンサ150が物質の第2の画像を取得する。さらに、この画像生成方法では、ステップS1300およびステップS1400において、(c)第1の画像の輝度値と第2の画像の輝度値との差分を導出することにより、物質の第3の画像を生成する。
[3−1.多光源撮影]
ここで、図10に示すステップS1200の撮影部100の動作の詳細を説明する。
図11は、撮影部100の動作の一例を示すフローチャートである。
(ステップS1210)
制御部160は、予め定められた複数の照明位置を示すリスト、すなわち照明器140の複数の点光源141の位置を示すリスト(以下、照明位置リストという)を参照して、各照明位置から照明された対象物の撮影が終了したか否かを判定する。
ここで、照明位置リストに含まれるすべての照明位置からの照明による撮影が終了している場合(ステップS1210においてyes)、ステップS1300へ進む。一方、照明位置リスト内のいずれかの照明位置からの照明による撮影が終了していない場合(ステップS1210においてno)、ステップS1120へ進む。なお、照明位置リストに含まれるすべての照明位置からの照明による撮影が終了している場合とは、2周期分の画像の撮影が終了していることを意味する。ここで、各画素において、1周期は、直接光と屈折光とを受光する明区間と、直接光を受光せずかつ屈折光を受光する暗区間とをあわせた区間である。2周期分の画像とは、各画素において、複数の照明位置からの照明により撮影された複数の画像を、照明位置の配置順に配列した際に、直接光と屈折光とを受光する照明位置の範囲である明区間と、直接光を受光せずかつ屈折光を受光する照明位置の範囲である暗区間とを、それぞれ2回含む、照明位置の範囲に配置された複数の照明により撮影された複数の画像を意味する。その2周期分の周期の詳細については、図12A、図12Bを用いて後述する。
(ステップS1220)
制御部160は、照明位置リストに含まれる複数の照明位置の中から、まだ照明が行われていない照明位置を選択し、照明器140へ制御信号を出力する。この制御信号には、選択された照明位置が含まれている。照明位置リストにおける各照明位置、すなわち各点光源141の位置は、例えば、点光源141ごとに割り当てられた番号によって示される。あるいは、各照明位置は、例えば、イメージセンサ150表面をxy平面とするxyz空間における座標値、または、イメージセンサ150表面に平行な面上に設定されたxy平面における座標値によって示される。照明位置の選択は、例えば、照明位置リストの昇順に行われる。
(ステップS1230)
照明器140は、ステップS1220で制御部160より出力された制御信号に従って、対象物への照明を開始する。つまり、照明器140に含まれる複数の点光源141のうち、ステップS1220で選択された照明位置にある点光源141が光の照射を開始する。
(ステップS1240)
点光源141によって対象物が照明されている間に、イメージセンサ150は、当該点光源141からマスク142を通し、さらに対象物を透過した光によって形成される画像を取得する。
(ステップS1250)
制御部160は、ステップS1240で取得した画像と、当該画像の取得時に照明していた点光源141の照明位置とを対応付けて記憶部110に出力する。記憶部110は画像と照明位置とを対応付けて記憶する。
(ステップS1260)
その後、制御部160は、照明器140へ制御信号を出力して、対象物への照明を停止させる。なお、照明の停止は、制御部160からの制御信号に従って行われなくてもよい。例えば、照明器140は、点光源141のうちの1つの点光源による照明を開始してからの時間長を計時して、計時した時間長が予め定められた時間長を超えたら照明を能動的に停止してもよい。あるいはステップS1240でイメージセンサ150が画像の取得を終了した後に、イメージセンサ150は、照明を停止するための制御信号を照明器140に出力してもよい。ステップS1260の後、ステップS1210へ戻る。
ステップS1210からステップS1260までの処理が繰り返されることで、照明位置リストに含まれるすべての照明位置の点光源141から順次対象物に光が照射される。そして、対象物にマスク142を通して光が照射されるたびに、イメージセンサ150が画像を取得する。
[3−2.点光源配置]
ここで、照明位置すなわち複数の点光源141の位置と、明区間、暗区間、および明区間と暗区間をあわせた周期について詳細に説明する。
図12Aは、イメージセンサ150上の任意の1画素における、点光源141の位置とマスク142の位置とによる明暗のパタンを説明する模式図である。マスク142の黒く塗りつぶした長方形は遮光部分を示し、白抜きの長方形は光を透過する透光部分を示している。点光源141a、点光源141b、点光源141cが存在したと仮定する。
点光源141aからイメージセンサ150上の任意の画素Aへ届く光は、光線1であり、マスク142の遮光部分142bと透光部分142aとの境界線上を通る。点光源141bから画素Aへ届く光は、光線2であり、マスク142の遮光部分142bと透光部分142cとの境界線上を通る。点光源141が、点光源141aと点光源141bを含む直線上、かつ、図12A中の点光源141aより紙面に向かって左側、かつ、点光源141bより紙面に向かって右側に位置する場合(図12Aにおいて、点光源141が「画素Aでの暗区間」と示された区間に位置する場合)、当該点光源141から画素Aへ照射する光線は、マスク142の遮光部分142bにさえぎられる。すなわち、画素Aに対して、点光源141aの位置と点光源141bとの間の直線上の区間(図12Aにおいて、点光源141が「画素Aでの暗区間」と示された区間に位置する場合)は、点光源からの直接光がマスク142の遮光部分142bによってさえぎられて光線が到達しない。屈折光が到達するが直接光は到達しないため、相対的に輝度値が低く、画像として暗い画像が取得される区間(以降では暗区間と表示する)となる。なお、暗区間は、点光源141aが存在すると仮定した場所と、点光源141bが存在すると仮定した場所の間の直線上の連続区間のことであるが、暗区間に存在する一つの点光源が照明した場合に画素Aが検出する光量は、下記で述べる明区間に存在する一つの点光源が照明した場合に画素Aが検出する光量より小さい。一つの暗区間に存在する1または複数の光源が点灯する一連の時間を暗区間と呼ぶことがある。
一方、点光源141cから画素Aへ届く光線は、光線3であり、マスク142の透光部分142cと遮光部分142dとの境界線上を通る。点光源141が、点光源141bと点光源141cを含む直線上、かつ、図12A中の点光源141bより紙面に向かって左側、かつ、点光源141cより紙面に向かって右側に位置する場合(図12Aにおいて、点光源141が「画素Aでの明区間」と示された区間に位置する場合)、当該点光源141から画素Aへ照射する光線は、マスク142の透光部分142cを透過して、イメージセンサ150表面の画素Aに到達する。すなわち、画素Aに対して、点光源141bの位置と点光源141cとの間の直線上の区間(図12Aにおいて、点光源141が「画素Aでの明区間」と示された区間に位置する場合)は、点光源からの直接光が到達し、あわせて屈折光も到達する、相対的に輝度値が高く、画像として明るい画像が取得される区間(以降では明区間と表示する)となる。なお、明区間は、点光源141bが存在すると仮定した場所と、点光源141cが存在すると仮定した場所の間の直線上の連続区間のことであるが、明区間に存在する1つの点光源が照明した場合に画素Aが検出する光量は、上記した暗区間に存在する1つの点光源が照明した場合に画素Aが検出する光量より大きい。1つの明区間に存在する1または複数の光源が点灯する一連の期間を明区間と呼ぶことがある。
マスク142の1つの透過部分に対応する明区間(場所)に存在する1または複数の点光源が点灯する時間の区間である1つの明区間の次に、その1つの透過部分に隣接するマスク142の1つの遮光部分に対応する暗区間(場所)に存在する点光源が点灯する時間の区間である1つの暗区間をあわせて照明の1周期とする。言い換えれば、照明器140における複数の点光源141のそれぞれが、等間隔離れて配置され、予め定められた時間ごとに順に照明する場合、「1つの明区間(場所)とこの1つの明区間(場所)に隣接する1つの暗区間(場所)とに配置された複数の点光源141のそれぞれが順に照明する期間」が、1周期となる。
なお、点光源141において、点光源の位置によって撮影時の優先度が異なる場合、1つの暗区間または明区間に存在する複数の照明が一連の時間区間で照明されない場合がある。例えば、点光源141を1周期の1/6ごとに配置して撮影するものとする。点光源141は少なくとも1周期の1/3ごとに配置される。すなわち、1周期の1/3ごとの照明は必ず必要であり、これらの点光源の位置を優先度の高い位置とし、1/3ごとの間に配置された点光源の位置を優先度の低い位置とする。撮影時間が十分でない場合、優先度の高い位置の点光源の照明による撮影を先に行い、優先度の低い位置の点光源の照明による撮影は、優先度の高い位置の照明による撮影が終了した後に行われる。このような場合、1周期(場所)の区間に配置された6つの点光源は一連の時間区間で照明されない。従って、時間としての1周期である「1つの明区間(場所)とこの1つの明区間(場所)に隣接する1つの暗区間(場所)とに配置された複数の点光源141のそれぞれが順に照明する期間」は存在しない。点光源141のそれぞれが、等間隔離れて配置されている場合、1つの明区間(場所)とこの1つの明区間(場所)に隣接する1つの暗区間(場所)とに配置された複数の点光源141の、それぞれが配置される区間を1周期の区間とし、1周期の区間に配置された、複数の点光源141のそれぞれが照明した状態で撮影された複数の画像を1周期分の画像とする。
1つの明区間(場所)とその明区間(場所)に隣接する暗区間(場所)に存在する照明が一連の時間区間で照明されない場合であっても、1つの明区間(場所)とその明区間(場所)に隣接する1つの暗区間(場所)の照明によって照明される状態を、場所すなわち空間的な1周期とみなす。
図12A中の画素Aとは位置の異なる画素Bにおいては、明区間と暗区間の境界位置が画素Aに対する境界位置とは異なる。しかしながら、画素Aに対する明区間と暗区間の大きさと、画素Bに対する明区間と暗区間の大きさとは、同一である。これは、画素Aと画素Bとに対して、マスク142の遮光部分と透光部分の大きさ、マスク142とイメージセンサ150表面との距離、および、点光源141とイメージセンサ150表面との距離が同じであるからである。すなわち、イメージセンサ150上の任意の画素において、明暗の周期は同じであるが、画素の位置によって明区間の照明位置と暗区間の照明位置が異なることになる。
図10に示すステップS1300において、明暗画像処理部120は、イメージセンサ150の各画素について、撮影によって取得された複数画像のそれぞれの同一位置の画素での輝度の最大値から最小値を減算する。この輝度の最大値と最小値はそれぞれ、イメージセンサ150上の各画素の明区間と暗区間に対応している。
すなわち、実施の形態1では、イメージセンサ150の受光面の一部の領域は、物質を照明する第1の光源とその領域との間にマスク142の透光部分が配置されている状態で第1の画像を取得する。これにより、明区間にある第1の画像が取得される。また、イメージセンサ150の受光面の一部の領域は、物質を照明する第2の光源とその領域との間にマスク142の遮光部分が配置されている状態で第2の画像を取得する。これにより、暗区間にある第2の画像が取得される。
ここで、撮影された画像の全画素で、輝度の最大値と最小値を特定するために必要な撮影の条件は、イメージセンサ150上の全画素で、明区間に位置する点光源141の照明による撮影と、暗区間に位置する点光源141の照明による撮影の両方が行われていることである。
イメージセンサ150上の全画素のそれぞれでは、同一の点光源であっても、画素によって当該の点光源が明区間に位置するか、暗区間に位置するかが異なる。例えば図12Bに示すように、点光源141dに対して画素Aでは直接光は遮光部分142bにさえぎられて暗区間となるが、画素Bでは点光源141aから射出された光はマスク142の透光部分142aを透過して画素Bに到達する。すなわち画素Bでは点光源141dは明区間にある。
イメージセンサ150上の2つの異なる画素において、照明の明区間と暗区間は区間の大きさは同じだが、その位置が異なる。2つの画素間の距離に応じて、明区間と暗区間の位置がずれる。例えば図12Aの画素Aと画素Bの場合である。画素Bとマスク142の遮光部分142bと透光部分142aの境界を通る照明位置である点光源141a’と画素Bとマスク142の遮光部分142bと透光部分142cの境界を通る照明位置である点光源141b’を仮定した場合、点光源141aと点光源141a’、点光源141bと点光源141b’の位置は異なるが、点光源141aと点光源141bとの距離すなわち画素Aにおける暗区間の大きさと、点光源141a’と点光源141b’との距離すなわち画素Bにおける暗区間の大きさは同じである。隣接する明区間についても同様であり、画素Aと画素Bにおいて、暗区間と明区間の大きさが同一である。すなわち、画素ごとの照明の位置に対する照明の周期は同一である。
したがって、画素A、画素Bについて、少なくとも、図12Aに示すそれぞれの画素における明区間に配置された1つの点光源141と、図12Aに示すそれぞれの画素における暗区間に配置された1つの点光源141とから照明が行われたときの撮影が必要である。すなわち、1つの暗区間の距離と1つの明区間の距離を合算した距離を1周期の距離とした場合、隣りあう点光源間の距離は、1/2周期の距離以下である必要がある。実際には、複数の点光源141からの光を順に照射した場合に、マスク142の透光部分を直接光が透過してイメージセンサ150表面に到達する明区間と、マスク142の遮光部分により直接光が遮断されてイメージセンサ150表面に到達しない暗区間との境界は、はっきりとはしない。
図13は、イメージセンサ150上の各位置における光の強度を示す。例えば、図13のように、境界部分の輝度はなだらかに変化する。そのため、隣り合う点光源141間の距離を1/2周期の距離としても、すなわち、1つの暗区間の距離と1つの明区間の距離を合算した距離を1周期の距離とした場合に1周期の距離において2つの点光源を設けても、イメージセンサ150上の全画素で明区間と暗区間での撮影結果を得ることができない場合がある。発明者らは経験的に、1つの暗区間の距離と1つの明区間の距離を合算した距離を1周期の距離とした場合、1/3周期の距離間隔で点光源141を配置し、すなわち、1周期の距離に3つの点光源を配置し、逐次点光源141を点灯して撮影を行うと、イメージセンサ150上の全画素で明区間と暗区間での撮影結果が得られることを確認している。つまり、照明器140における複数の点光源141の間隔は、1/2周期の距離以下であり、好ましくは、1/3周期の距離以下である。そして、上述の第1の光源141Aと第2の光源141Bとの間の所定の距離は、イメージセンサ150上の任意の画素に対する明区間の照明位置と、その画素に対する暗区間の照明位置との間の距離である。具体的には、複数の点光源141の間隔が1/3周期の距離である場合、上述の第1の光源141Aと第2の光源141Bとの間の所定の距離は、1つの暗区間の距離と1つの明区間の距離を合算した距離を1周期の距離とした場合、その周期の1/3の距離である。
ステップS1210で参照される照明位置リストは、例えば、1/3周期の距離間隔で点光源141を配置し、すなわち、1周期の距離に3つの点光源を配置し、スリットを横切る方向に点光源141を配置した際の7点照明位置を示したリストである。ここでは照明は2周期とし、1/3周期の距離間隔で点光源141を配置するため、照明周期の両端を含め、2周期の区間に7点の照明が配置される。なお、スリットを横切る方向とは、マスク142の遮光部分と透光部分とが交互に配列される方向である。
[3−3.明暗画像処理]
図10に示すステップS1300の明暗画像処理部120の動作の詳細を説明する。
図14は、実施の形態1に係る明暗画像処理部120の動作の一例を示すフローチャートである。
(ステップS1301)
明暗画像処理部120のデータ取得部121は、複数の画像と、その複数の画像のそれぞれに対応する照明位置とが記憶部110に格納されているか否かを判定する。この複数の画像と複数の照明位置のそれぞれは、ステップS1200において2周期の区間に配置された複数の点光源141がそれぞれ順に照明したときに取得された画像および照明位置である。データ取得部121は、格納されていると判定すると(ステップS1301においてyes)、明暗画像処理を続行する(ステップS1310へ進む)。
(ステップS1310)
データ取得部121は、ステップS1200で取得された複数の画像およびその複数の画像のそれぞれに対応する照明位置を記憶部110より取得する。
(ステップS1320)
画素選択部126は、生成する画像に含まれる全画素について輝度値の計算処理が終了したか否かを判定する。より具体的には、その計算処理とは、ステップS1320からステップS1360までの処理を意味する。
生成する画像に含まれる全画素について計算処理が終了している場合(ステップS1320においてyes)、明暗画像処理部120は、明暗画像処理を終了する(ステップS1400へ進む)。
生成する画像に含まれるいずれかの画素について計算処理が終了していない場合(ステップS1320においてno)、明暗画像処理部120は、明暗画像処理を続行する(ステップS1330へ進む)。
生成する画像は、ステップS1200で取得した複数の画像のうち最も画素の少ない画像よりも、少ない画素を含む。すなわち、生成する画像の画素数は、取得した複数の画像の何れの画素数よりも少ない。
(ステップS1330)
画素選択部126は、生成する画像に含まれる複数の画素の中から1つの画素を選択する。ここで選択される1つの画素、つまり選択画素は、生成する画像に含まれる複数の画素のうち、計算処理がまだ実行されていない画素である。なお、生成する画像の画素値(すなわち輝度値)の初期値は0である。
(ステップS1341)
最大値決定部122は、ステップS1330で選択された画素(すなわち選択画素)について、ステップS1200で撮影された複数の画像のそれぞれに含まれる、当該選択画素と同一位置にある画素の輝度値を比較する。その比較の結果、最大値決定部122は、最大の輝度値を、当該選択画素の輝度の最大値として決定する。
(ステップS1342)
最小値決定部123は、ステップS1330で選択された画素(すなわち選択画素)について、ステップS1200で撮影された複数の画像のそれぞれに含まれる、当該選択画素と同一位置にある画素の輝度値を比較する。その比較の結果、最小値決定部123は、最小の輝度値を、当該選択画素の輝度の最小値として決定する。
なお、ステップS1341とステップS1342はどちらを先に行っても良い。また並列して行っても良い。
(ステップS1350)
計算部124は、ステップS1341で決定された輝度の最大値より、ステップS1342で決定された輝度の最小値を減算する。
(ステップS1360)
画像生成部125は、ステップS1350で計算した輝度値を、当該選択画素の輝度値として記憶する。
明暗画像処理部120は、ステップS1320からステップS1360を繰り返すことで、生成する画像の全画素の輝度値を生成することができる。
[4.効果]
以上のように実施の形態1に係る画像生成装置10によれば、位置の異なる複数の点光源141からの光を、マスク142に通して対象物およびイメージセンサ150に投射して、透過光による撮影を行う。マスク142は、スリットあるいはチェッカーパタンなどの、遮光部分と透光部分との繰り返しパタンを持つ。この撮影によって取得された複数の画像から、生成しようとする画像中の画素(すなわち選択画素)ごとに、マスク142の透光部分を光が通過して直接光としてその画素に届いた状態で撮影された画像を特定する。そして、その特定された画像に含まれる、その選択画素と同一位置にある画素の輝度値を輝度の最大値として決定する。同様に、撮影によって取得された複数の画像から、選択画素ごとに、マスク142の遮光部分により点光源141からの直接光がさえぎられた状態で撮影された画像を特定する。そして、その特定された画像に含まれる、その選択画素と同一位置にある画素の輝度値を輝度の最小値として決定する。輝度の最大値は、直接光と対象物による散乱光あるいは屈折光とに応じた輝度を示す。輝度の最小値は、直接光以外の、対象物による散乱光あるいは屈折光に応じた輝度を示す。輝度の最大値から最小値を減算することで、直接光によって得られた輝度値を求めることができる。これにより、散乱光あるいは屈折光によるノイズを削減し、直接光による鮮明な画像を生成することができる。
ここで、非特許文献1は、高周波照明を用いた散乱光除去技術を開示している。
高周波照明において、光源から出力される光の種類と、対象物に照射される光で明暗パタンを生成する方法とを変えることが考えられる。
非特許文献1では、対象物と、光源およびマスクとの間の距離が十分に離れていることを想定している。そのため、光源を用いて、平行光又は平行光に近い光で照明することにより、対象物の画像を撮影している。
対象物に照射される光で明暗パタンを生成する方法には、(i)明暗パタンを有する光を利用する方法と、(ii)照明と対象物との間に遮光用のマスクを設置する方法とがある。さらに、対象物の上面において、照射される光の明暗パタンの位置を移動させることを考えた場合、(iii)光源の位置を変える方法と、(iv)マスクの位置を変える方法とがある。
非特許文献1のように、平行光又は平行光に近い光を用いて画像を撮像する場合、マスクの位置を固定して、かつ、光源の位置を動かしても、マスクを通過して対象物へ照射される光には変化がない。つまり、(iii)光源の位置を変えることによって、照射される光の明暗パタンの位置を移動させる方法を採用することが難しい。
一方、光源およびマスクと、対象物との間の距離が小さい条件を有する顕微鏡の場合、平行光を簡易に得るのは難しい。よって、光源から出力される光の種類として、拡散光が用いられることが考えられる。
拡散光が用いられる場合、マスクから対象物までの距離が大きいと、明暗のパタンが広がって、高周波照明の効果を得ることが難しい。
例えば、マスクを対象物に近づけた場合、(iv)マスクの移動に伴って、細胞のような微小な対象物への影響が出る可能性がある。具体的には、マスクの移動に伴って、微小な対象物が移動又は回転する可能性がある。細胞のような微小な対象物の画像を撮像する場合、光源及びマスクと対象物との間の距離が小さくなる。よって、マスクと対象物との間の距離が小さく、かつ、拡散光を照射する光源を用いなければならない場合、マスクを固定し、かつ、光源を移動させることによって、光の明暗パタンの位置を移動することで、高周波照明を効果的に行うことができる。
<実施の形態1の効果>
図26Aおよび図26Bは、0.04mmの平均直径を有する複数のガラスビーズが樹脂で固められた状態を撮影した画像である。図26A及び図26Bに示す複数の球が、ガラスビーズに相当する。
図26Aの画像は、点光源による照明を照射し、かつ、マスクなしの状態で撮像された画像である。図26Bの画像は、実施の形態1の方法で撮影し、かつ合成された画像である。図26Bの画像は、図26Aの画像に比べて、コントラストが大きく、かつ、輪郭が明瞭である。
図27は、図26Aの画像及び図26Bの画像輝度プロファイルを示す。図27において、図26Aの画像の輝度プロファイルを実線し、図26Bの実施の形態1の方法で撮影合成された画像の輝度プロファイルを破線で示す。図27の横軸は、画像の横軸位置を画素数で示した値であり、縦軸は輝度値である。図27に示す輝度プロファイルは、図26Aおよび図26Bの矢印で示した位置で算出された。
図27の横軸が50以上の領域において、図26Bの画像(破線)の輝度勾配が、図26Aの画像の輝度勾配(実線)よりも大きい。よって、図27に示すように、実施の形態1の方法で撮影し、かつ合成された画像は、マスクなしの状態で撮像された画像よりも高いコントラストを有することが確認できる。
(実施の形態1の変形例)
次に、実施の形態1の変形例について説明する。実施の形態1では、各画素が1周期以上の範囲で撮影され、選択画素ごとに、複数の画像のそれぞれにおける、その選択画素と同一位置の画素の最大の輝度値と最小の輝度値とを決定する。そして、最大の輝度値から最小の輝度値を減じて当該選択画素の輝度を求めた。本変形例では、最大の輝度値と最小の輝度値とのうち分散が小さい、すなわち安定している輝度値を、選択画素の輝度の最大値または最小値に採用する。そして、採用された輝度値が最大値であれば、その最大値が得られときの照明位置と上述の周期とを用いて、選択画素の輝度の最小値を決定する。一方、採用された輝度値が最小値であれば、その最小値が得られときの照明位置と上述の周期とを用いて、選択画素の輝度の最大値を決定する。
図15は、マスク142を用いたイメージセンサ150による撮影結果の一例を示す。具体的には、図15は、点光源141からの光を、スリットのマスク142に通過させ、マスク142と平行に設置されたイメージセンサ150の表面で受光しているときに、撮影を行って得られた画像の例を示す。この例では、対象物は無い。図15のように、マスク142を通過した光の干渉等により、強度ムラが発生し、最大値または最小値が得られる照明位置が不安定になる場合がある。このような場合には、輝度の最大値を示す画像が、明区間の直接光が最も強い画像とは異なる可能性がある。あるいは、輝度の最小値を示す画像が、暗区間の直接光が最も少ない画像とは異なる可能性がある。
本変形例では、このような場合に、画素ごとの輝度の計算結果をより安定なものにすることができる。
すなわち、本変形例に係る画像生成装置10では、イメージセンサの受光面の一部の領域(具体的には、選択画素)は、第1の光源141Aおよび第2の光源141Bを含む複数の光源のそれぞれが順に物質を照明する場合において、最大の輝度値を有する画像と最小の輝度値を有する画像とを周期ごとに取得する。そして、処理回路である明暗画像処理部120は、周期ごとに取得される最大の輝度値を有する輝度最大画像を含む第1の画像群と、周期ごとに取得される最小の輝度値を有する輝度最小画像を含む第2の画像群とのうち、輝度値の分散が小さい画像群を選択する。ここで、明暗画像処理部120は、(i)選択された画像群が第1の画像群である場合には、第1の画像群のうち、最大の輝度値を有する画像であって、第1の光源141Aが物質を照明しているときにイメージセンサ150によって取得される画像を、第1の画像として選択する。さらに、明暗画像処理部120は、第1の画像がイメージセンサ150によって取得されてから、その周期の半周期ずれたタイミングでイメージセンサ150によって取得される画像であって、第2の光源141Bが物質を照明しているときにイメージセンサ150によって取得される画像を、第2の画像として選択する。一方、明暗画像処理部120は、(ii)選択された画像群が第2の画像群である場合には、第2の画像群のうち、最小の輝度値を有する画像であって、第2の光源141Bが物質を照明しているときにイメージセンサ150によって取得される画像を、第2の画像として選択する。さらに、明暗画像処理部120は、第2の画像がイメージセンサ150によって取得されてから、その周期の半周期ずれたタイミングでイメージセンサ150によって取得される画像であって、第1の光源141Aが物質を照明しているときにイメージセンサ150によって取得される画像を、第1の画像として選択する。なお、具体的には、第1の画像および第2の画像のそれぞれは、イメージセンサ150に含まれる同一の画素に対応する輝度値を有する。
より具体的には、画像生成装置10では、3周期以上の範囲で撮影し、周期ごとに輝度の最大値と最小値を求める。以下、1周期における最大値を、1周期内最大値ともいい、1周期における最小値を、1周期内最小値ともいう。各周期の1周期内最大値からなる最大値群と、各周期の1周期内最小値からなる最小値群とのうち、分散の小さい群を選択する。そして、選択された群が最大値群であれば、その最大値群に含まれる複数の1周期内最大値から、最大の1周期内最大値を、全周期内最大値として選択するとともに、選択画素の輝度の最大値として採用する。一方、選択された群が最小値群であれば、その最小値群に含まれる複数の1周期内最小値から、最小の1周期内最小値を、全周期内最小値として選択するとともに、選択画素の輝度の最小値として採用する。ここで、全周期内最大値を選択したときには、その全周期内最大値に対応する画像を取得した際の照明位置から、半周期に相当する距離だけ離れた照明位置の点光源141が照明しているときに撮影された画像を特定する。そして、その特定された画像に含まれる、選択画素と同一位置にある画素の輝度値を、選択画素の輝度の最小値として採用する。一方、全周期内最小値を選択したときには、その全周期内最小値に対応する画像を取得した際の照明位置から、半周期に相当する距離だけ離れた照明位置の点光源141が照明しているときに撮影された画像を特定する。そして、その特定された画像に含まれる、選択画素と同一位置にある画素の輝度値を、選択画素の輝度の最大値として採用する。
以下に、実施の形態1の変形例について、実施の形態1と異なる点を中心に説明する。また、本変形例に係る画像生成装置10の構成は、実施の形態1と同様であるため、詳細な説明を省略する。
[1.画像生成装置の動作]
本変形例に係る画像生成装置10の動作について説明する。本変形例に係る画像生成装置10の全体的な概略動作は、実施の形態1の図10に示すフローチャートで示した動作と同様である。しかし、本変形例に係るステップS1200の多光源撮影およびステップS1300の明暗画像処理のそれぞれの詳細な動作は、実施の形態1とは異なる。また、本変形例に係るステップS1400の画像生成の動作は、実施の形態1と同様であるため、その動作の説明を省略する。
[1−1.多光源撮影]
本変形例に係るステップS1200の多光源撮影の詳細について説明する。本変形例に係るステップS1200では、図11に示すステップS1210からステップS1260の動作のうち、ステップS1210の動作が実施の形態1と異なる。
実施の形態1では、ステップS1210において制御部160は、予め定められた複数の照明位置を示す照明位置リストを参照して、各照明位置から照明された対象物の撮影が終了したか否かを判定する。具体的には、照明位置リストに示される複数の点光源141の照明位置は、2周期の区間において、1/3周期の間隔だけ互いに離れて、スリットを横切る方向に沿って配置されている。本変形例では、照明位置リストに示される複数の点光源141の照明位置はそれぞれ、3周期以上、例えば5周期の区間において、1/6周期の間隔だけ互いに離れて、スリットを横切る方向に沿って配置されている。つまり、本変形例における照明位置リストでは、1周期の区間に6つの照明が、5周期の区間に配置される。両端に配置された照明を含め31点の照明位置が示されている。
ここで、照明位置リストに含まれるすべての照明位置からの照明による撮影が終了している場合(ステップS1210においてyes)、ステップS1300へ進む。一方、照明位置リスト内のいずれかの照明位置からの照明による撮影が終了していない場合(ステップS1210においてno)、ステップS1220へ進む。
これにより、照明の3周期以上のそれぞれの周期において、本変形例では照明5周期のそれぞれの周期において、明区間と暗区間での撮影が行われる。したがって、明区間と暗区間の光の強度にムラがある場合にも、複数の明区間の輝度の最大値と、複数の暗区間の輝度の最小値とを参照できる。
[1−2.明暗画像処理]
次に、本変形例に係るステップS1400の明暗画像処理の詳細を説明する。
図16は、本変形例に係る明暗画像処理部120の動作の詳細の一例を示すフローチャートである。図16に示すフローチャート中、実施の形態1の図14に示すステップS1301からステップS1330と、ステップS1350と、ステップS1360と同様のステップに対しては、同一の符号を付し、詳細な説明を省略する。
ステップS1310において、データ取得部121は、ステップS1200で取得された複数の画像およびその複数の画像のそれぞれに対応する照明位置を記憶部110より取得する。ステップS1320では、画素選択部126は、生成する画像に含まれる全画素について輝度値の計算処理が終了したか否かを判定する。
生成する画像に含まれる全画素について計算処理が終了している場合(ステップS1320においてyes)、明暗画像処理部120は、明暗画像処理を終了する(ステップS1400へ進む)。
生成する画像に含まれるいずれかの画素について計算処理が終了していない場合(ステップS1320においてno)、明暗画像処理部120は、明暗画像処理を続行する(ステップS1330へ進む)。
ステップS1330では、画素選択部126は、生成する画像に含まれる複数の画素のうち、計算処理がまだ実行されていない1画素を選択画素として選択する。
(ステップS2301)
画素選択部126は、ステップS1310でデータ取得部121が取得した複数の画像のそれぞれを、周期が異なる複数のグループに分類する、すなわちグループ化する。つまり、画素選択部126は、複数の画像のそれぞれに対応する照明位置に基づき、明区間と暗区間とからなる周期ごとに、1周期分の複数の照明位置のそれぞれの画像を1つのグループに分類する。この複数のグループのそれぞれは、明区間および暗区間からなる周期に対応する。なお、周期の始点と終点は明区間と暗区間の境界である必要は無い。本変形例では、ステップS1200で参照される予め定められた照明位置リストは、3周期以上の区間に位置する複数の照明位置を示す。本変形例では5周期の区間に位置する1周期辺り6つの照明の位置を示す。すなわち、ステップS2301では、複数の画像は、3つ以上のグループ、本変形例では5つのグループにグループ化される。ステップS1200において、5周期分の区間に位置する複数の照明位置からの照明による撮影が行われた場合には、ステップS2301において、複数の画像は、5つのグループにグループ化される。
(ステップS2302)
さらに、画素選択部126は、ステップS2301でのグループ化によって生成された全てのグループ、すなわち全ての周期のそれぞれについて、選択画素の輝度の最大値と、その選択画素の輝度の最小値とが決定されているか否かを判定する。その輝度の最大値は、上述の1周期内最大値であり、その輝度の最小値は、上述の1周期内最小値である。つまり、ステップS2302では、全ての周期のそれぞれで、選択画素の1周期内最大値および1周期内最小値が決定されているか否かが判定される。
全グループについて輝度の最大値と最小値の決定が終了している場合(ステップS2302においてyes)、ステップS2307へ進む。
全グループについて輝度の最大値と最小値の決定が終了していない場合(ステップS2302においてno)、明暗画像処理部120は、最大値および最小値の決定処理を続行する(ステップS2303へ進む)。この決定処理は、ステップS2303〜S2306の処理である。
(ステップS2303)
画素選択部126は、全周期(すなわち全てのグループ)のうち、選択画素の輝度の最大値と最小値の決定がまだ実行されていない1周期(すなわちグループ)を決定する。
(ステップS2304)
最大値決定部122は、その決定された1周期(すなわちグループ)に分類された複数の画像のそれぞれの、選択画素と同一位置にある画素の輝度値を比較する。具体的には、最大値決定部122は、ステップS1200で撮影された複数の画像のうちの、ステップS2303で決定された1周期の区間に配置された複数の照明により撮影された複数の画像の中で、ステップS1330で選択された画素と同一位置にある画素の輝度値を比較する。これにより、最大値決定部122は、その1周期(すなわちグループ)に対して、選択画素の輝度の最大値(すなわち1周期内最大値)を決定する。
(ステップS2305)
最小値決定部123は、その決定された1周期(すなわちグループ)に分類された複数の画像のそれぞれの、選択画素と同一位置にある画素の輝度値を比較する。具体的には、最小値決定部123は、ステップS1200で撮影された複数の画像のうちの、ステップS2303で決定された1周期の区間に配置された複数の照明により撮影された複数の画像の中で、ステップS1330で選択された画素と同一位置にある画素の輝度値を比較する。これにより、最小値決定部123は、その1周期(すなわちグループ)に対して、選択画素の輝度の最小値(すなわち1周期内最小値)を決定する。
(ステップS2306)
記憶部127は、ステップS2304で決定された輝度の最大値と、撮影によってその最大値が得られたときの点光源141の照明位置と記憶する。さらに、記憶部127は、ステップS2305で決定された輝度の最小値と、撮影によってその最小値が得られたときの点光源141の照明位置とを記憶する。このとき、記憶部127は、最大の輝度値と、その最大の輝度値に対応する照明位置と、最小の輝度値と、その最小の輝度値に対応する照明位置とを、ステップS2303で選択された周期とあわせて記憶する。その後、明暗画像処理部120は、ステップS2302からステップS2306の処理を繰り返し実行する。
明暗画像処理部120は、ステップS2302からステップS2306までの処理を繰り返すことで、3周期以上の全周期のそれぞれに対して、選択画素の輝度の最大値および最小値を求め、その最大値および最小値のそれぞれに対応する照明位置を決定する。
(ステップS2307)
計算部124は、ステップS2306で記憶された周期ごとの輝度の最大値の分散を求める。さらに、計算部124は、周期ごとの輝度の最小値の分散を求める。さらに、計算部124は、輝度の最大値の分散と最小値の分散とを比較する。
ステップS2307において輝度の最小値の分散が最大値の分散より小さい場合、すなわちステップS2307においてyesの場合、ステップS2308へ進む。ステップS2307において輝度の最小値の分散が最大値の分散より大きい、または最小値の分散と最大値の分散とが等しい場合、すなわちステップS2307においてnoの場合、ステップS2310へ進む。すなわち、計算部124は、各周期の1周期内最大値からなる最大値群と、各周期の1周期内最小値からなる最小値群とのうち、分散の小さい群を選択する。
(ステップS2308)
計算部124は、ステップS2306で記憶された周期ごとの最小値のうち最も小さい値を、選択画素に採用される最終的な輝度の最小値として決定する。この最終的な輝度の最小値は、上述の全周期内最小値である。すなわち、計算部124は、ステップS2307で選択された群が最小値群であれば、その最小値群に含まれる複数の1周期内最小値から、最小の1周期内最小値を、全周期内最小値として選択するとともに、選択画素の輝度の最小値として採用する。
(ステップS2309)
計算部124は、ステップS2308で決定された選択画素の輝度の最小値(すなわち全周期内最小値)に対応する照明位置から半周期の距離だけずれた照明位置を特定する。そして、計算部124は、記憶部127が保持する複数の画像から、その特定された照明位置の点光源141の照明により撮影された画像を参照する。計算部124は、その参照する画像に含まれる、選択画素と同一位置にある画素の輝度値を、その選択画素に採用される最終的な輝度の最大値として決定する。この最終的な輝度の最大値は、上述の全周期内最大値である。すなわち、計算部124は、ステップS2308で全周期内最小値を選択したときには、その全周期内最小値に対応する画像を取得した際の照明位置から、半周期の距離だけ離れた照明位置の点光源141が照明しているときに撮影された画像を特定する。そして、計算部124は、その特定された画像に含まれる、選択画素と同一位置にある画素の輝度値を、選択画素の輝度の最大値として採用する。
(ステップS2310)
計算部124は、ステップS2306で記憶された周期ごとの最大値のうち最も大きい値を、選択画素に採用される最終的な輝度の最大値として決定する。この最終的な輝度の最大値は、上述の全周期内最大値である。すなわち、計算部124は、ステップS2307で選択された群が最大値群であれば、その最大値群に含まれる複数の1周期内最大値から、最大の1周期内最大値を、全周期内最大値として選択するとともに、選択画素の輝度の最大値として採用する。
(ステップS2311)
計算部124は、ステップS2310で決定された選択画素の輝度の最大値(すなわち全周期内最大値)に対応する照明位置から半周期の距離だけずれた照明位置を特定する。そして、計算部124は、記憶部127が保持する複数の画像から、その特定された照明位置の点光源141の照明により撮影された画像を参照する。計算部124は、その参照する画像に含まれる、選択画素と同一位置にある画素の輝度値を、その選択画素に採用される最終的な輝度の最小値として決定する。この最終的な輝度の最小値は、上述の全周期内最小値である。すなわち、計算部124は、ステップS2310で全周期内最大値を選択したときには、その全周期内最大値に対応する画像を取得した際の照明位置から、半周期の距離だけ離れた照明位置の点光源141が照明しているときに撮影された画像を特定する。そして、計算部124は、その特定された画像に含まれる、選択画素と同一位置にある画素の輝度値を、選択画素の輝度の最小値として採用する。
(ステップS1350)
計算部124は、ステップS2309あるいはステップS2310で決定された選択画素の輝度の最大値より、ステップS2308あるいはステップS2311で決定された選択画素の輝度の最小値を減算する。
(ステップS1360)
画像生成部125は、ステップS1350で計算した最大値と最小値の差分を、選択画素の輝度値として記憶する。
明暗画像処理部120は、ステップS1320からステップS1360を繰り返すことで、生成する画像の全画素の輝度値を生成することができる。
なお、実施の形態1の変形例では、計算部124は、ステップS2307において、周期ごとに求められた最大値の分散と最小値の分散とを比較して、最大値と最小値のうち安定した値を決定した。しかし、計算部124は、互いに隣り合う周期のそれぞれで輝度の最大値が得られた照明位置の間の距離の分散、すなわち最大値間の距離の分散を求めてもよい。この場合、計算部124は、同様に、互いに隣り合う周期のそれぞれで輝度の最小値が得られた照明位置の間の距離、すなわち最小値間の距離の分散を求める。そして、計算部124は、最大値間の距離の分散と最小値間の距離の分散とを比較して、最大値と最小値のうち安定した値を決定してもよい。
[2.効果]
以上のように、マスク142の透光部分を通過した光による撮影によって得られたはずの輝度の最大値と、マスク142の遮光部分により直接光がさえぎられた状態の撮影によって得られたはずの輝度の最小値が、不安定になる場合がある。これは、光のマスク142通過時の干渉等が原因としてあげられる。しかし、実施の形態1の変形例に係る画像生成装置10によれば、明区間と暗区間とを含む周期を3周期以上含むように、照明位置を設定して撮影を行う。そして、輝度の最小値と最大値のどちらかの安定している一方を基準として選択し、その基準に対応する照明位置から半周期ずれた照明位置による撮影結果の輝度を計算に用いる。つまり、本変形例では、干渉等によって不安定になった値ではなく、マスク142の周期によって生ずる輝度の最大値と最小値の組み合わせを用いる。これにより、散乱光あるいは屈折光によるノイズを削減し、直接光による鮮明な画像を生成することができる。すなわち、干渉等の不安定な状態があっても、直接光による輝度を生成することが出来る。
(実施の形態2)
実施の形態2について説明する。実施の形態1では、各画素を明区間と暗区間の1周期以上の範囲で撮影し、選択画素ごとに、輝度の最大値と最小値を決定して、最大値から最小値を減じることによって当該選択画素の輝度値を求める。また、実施の形態1の変形例では、3周期以上の区間で撮影し、周期ごとに輝度の最大値と最小値を求め、周期ごとの最大値と最小値のうち分散の小さい値を選択する。そして、分散が小さい値が最大値であれば、周期ごとの最大値のうちの最大の値を基準とし、逆に、分散が小さい値が最小値であれば、周期ごとの最小値のうちの最小の値を基準として扱う。基準の値を有する画像を取得した際の照明位置から半周期の距離だけずれた照明位置の点光源141が照明しているときに撮影された画像のうちの、選択画素と同一位置にある画素の輝度を、選択画素の輝度の最小値または最大値として採用する。これにより、図15に示したような輝度の最大値または最小値が不安定であるような場合でも、ノイズを削減し、直接光によって照明された物質の画像を生成することができる。
実施の形態2では、マスク142なしで撮影し、マスク142なしで撮影された画像とマスク142がある状態で撮影された画像とを用いる。これにより、図15に示したような輝度の最大値または最小値が不安定な場合であっても、散乱光あるいは屈折光を除去することが出来る。つまり、実施の形態2であっても、ノイズを削減し、直接光によって照明された物質の画像を生成することができる。以下に、実施の形態2について詳細に説明する。
[1.画像生成装置の構成]
図17は、実施の形態2に係る画像生成装置20の機能ブロック図である。図17に示すように、画像生成装置20は、細胞などの透光性を有する物質の画像を生成する装置であって、撮影部200と、記憶部110と、明暗画像処理部120と、出力部130とを備える。撮影部200は、照明器240、制御部260およびイメージセンサ150を備える。照明器240は、第1の光源141A、第2の光源141B、マスク242および駆動部243を備える。
つまり、実施の形態2に係る画像生成装置20は、実施の形態1の画像生成装置10と同様、記憶部110、明暗画像処理部120および出力部130を備える。しかし、画像生成装置20は、撮影部100の代わりに撮影部200を備えている点が、実施の形態1の画像生成装置10とは異なる。また、実施の形態2に係る撮影部200は、実施の形態1の撮影部100と同様、イメージセンサ150を備える。しかし、撮影部200は、照明器140の代わりに照明器240を備え、制御部160の代わりに制御部260を備えている点が、実施の形態1の撮影部100とは異なる。また、実施の形態2に係る照明器240は、実施の形態1の照明器140と同様、第1の光源141Aおよび第2の光源141Bを備える。しかし、照明器240は、マスク142の代わりにマスク242を備え、さらに駆動部243を備える点が、実施の形態1の照明器140とは異なる。なお、実施の形態2における各構成要素のうち、実施の形態1と同様の構成要素については同一の符号を付し、詳細な説明を省略する。
実施の形態2では、実施の形態1と同様に、照明器240に含まれる互いに位置の異なる複数の点光源141がマスク242を介して、対象物である物質を順次照明することで、イメージセンサ150および対象物に到達する光の明暗のパタンを切り替える。なお、実施の形態2に係るマスク242は、実施の形態1と同様、スリットまたはチェッカーパタンを有する。つまり、マスク242は、光を透過する透光部分と、光を遮断する遮光部分とを有する。さらに、実施の形態2では、マスク242がない状態、すなわち、点光源141の光線のすべてが遮断されること無くイメージセンサ150および対象物に到達する状態でも撮影を行う。そして、実施の形態2では、マスク242なしでの撮影結果と、明区間の画像および暗区間の画像とから、鮮明な画像を生成する。
なお、実施の形態2に係る画像生成装置20は、制御部260、記憶部110、出力部130および駆動部243を備えているが、これらの構成要素は必須ではなく、画像生成装置20はこれらの構成要素を備えていなくてもよい。
[1−1.撮影部]
まず、撮影部200の構成について説明する。撮影部200は、照明器240と、イメージセンサ150と、制御部260とを備える。
実施の形態2に係る照明器240は、第1の光源141Aおよび第2の光源141Bを含む複数の光源からなる光源群と、マスク242と、駆動部243とを備える。第1の光源141Aは、物質を照明する点光源である。第2の光源141Bは、第1の光源141Aから所定の距離だけ離れた位置からその物質を照明する点光源である。マスク242は、第1の光源141Aおよび第2の光源141Bからの光が透過する透光部分、ならびにその光を遮蔽する遮光部分を有する。また、駆動部243はマスク242を駆動する。
以下、この照明器240の詳細について説明する。
図18は、実施の形態2における照明器240の構造の一例を模式的に示す図である。具体的には、照明器240は、上述の第1の光源141Aおよび第2の光源141Bを含む複数の点光源141と、マスク242と、駆動部243とを備える。
照明器240の複数の点光源141はそれぞれ、順に光を照射する。複数の点光源141は互いに異なる位置に配置され、互いに異なる方向から光をマスク242に通して対象物に照射する。
マスク242は、スリットまたはチェッカーパタンを有する。つまり、マスク242は、光を透過する透光部分と光を遮断する遮光部分とを有する。駆動部243は、マスク242の設置あるいは除去を行う、例えばモータなどのアクチュエータを含む機構である。具体的には、駆動部243は、イメージセンサ150と第1の光源141Aおよび第2の光源141Bとの間に、マスク242を設置したり、その設置されているマスク242を除去したりする。
イメージセンサ150は、複数の画素を有し、上述の物質が配置される。イメージセンサ150の各画素は、受光面に配置され、複数の点光源141から照射された光の強度(すなわち輝度値)を取得する。イメージセンサ150は、各画素により取得された光の強度に基づいて、撮影画像を取得する。つまり、イメージセンサ150は、複数の点光源141からなる光源群のうちの第1の光源141Aにより照明されたときに、物質の第1の画像を取得し、複数の点光源141からなる光源群のうちの第2の光源141Bにより照明されたときに、物質の第2の画像を取得する。また、イメージセンサ150は、その光源群に含まれる光源により照明されたときに、物質の第4の画像を取得する。ここで、その第1の画像および第2の画像は、イメージセンサ150と第1の光源141Aおよび第2の光源141Bとの間に位置するマスク242を介して取得される。第4の画像は、マスク242を介さず取得される。
制御部260は、複数の点光源141による光の照射、及びイメージセンサ150による撮影を制御する。さらに、制御部260は、マスク242の設置と除去のための駆動部243への制御信号を出力する。具体的には、制御部260は、マスク242の設置の信号、またはマスク242の除去の信号を駆動部243へ出力する。また、制御部260は、複数の点光源141が光を照射する順番、複数の点光源141が光を照射する時間間隔を制御する。
[1−2.記憶部]
記憶部110は、イメージセンサ150で取得された画像を、制御部260で設定された撮影時の照明位置と、マスク242の有無の情報とに対応させて記憶する。マスク242の有無の情報は、イメージセンサ150と複数の点光源141との間に、マスク242が設置されているか(すなわちマスク242があるか)、その間からマスク242が除去されているか(すなわちマスク242がないか)を示す。
図19は、記憶部110が記憶する情報の例である。記憶部110は、イメージセンサ150で取得した画像を識別するIDと、撮影時に点灯していた点光源141の照明位置と、マスク242の有無の情報とを対応させて、記憶する。なお、マスク242の有無の「あり」は、マスク242が設置されている状態を示し、「なし」は、マスク242が除去されている状態を示す。
[1−3.明暗画像処理部]
明暗画像処理部120は、実施の形態1の明暗画像処理部120と同様の構成を有し、少なくとも1つの制御回路または処理回路によって実現される。実施の形態2に係る明暗画像処理部120は、上述の第1の画像および第2の画像から、大きい輝度値を有する画像または小さい輝度値を有する画像を選択し、選択された画像と第4の画像とに基づく差分を導出することにより、物質の第5の画像を生成する。ここで、実施の形態2では、その第1の画像、第2の画像、第4の画像および第5の画像のそれぞれは、イメージセンサ150に含まれる同一の画素に対応する輝度値を有する。
より具体的には、明暗画像処理部120は、実施の形態1の図9に示す明暗画像処理部120と同様、データ取得部121と、最大値決定部122と、最小値決定部123と、計算部124と、画像生成部125と、画素選択部126と、記憶部127とからなる。
データ取得部121は、画像処理に使用する画像、すなわちその画像に含まれる画素ごとの輝度値と、その画像に対応する照明位置とを、記憶部110から取得する。
画素選択部126は、イメージセンサ150の複数の画素、すなわち生成しようとする画像中の複数の画素より、輝度計算を行う画素を、選択画素として選択する。
最大値決定部122は、記憶部110に記憶された複数の画像のそれぞれの、選択画素と同一位置にある画素の輝度値を比較し、最大の輝度値を有する画素を含む画像を特定し、その最大の輝度値を、選択画素の輝度の最大値として決定する。
最小値決定部123は、記憶部110に記憶された複数の画像のそれぞれの、選択画素と同一位置にある画素の輝度値を比較し、最小の輝度値を有する画素を含む画像を特定し、その最小の輝度値を、選択画素の輝度の最小値として決定する。
記憶部127は、データ取得部121が取得した画像と照明位置とを記憶し、また、最大値決定部122が決定した最大値と照明位置とを対応させて記憶し、最小値決定部123が決定した最小値と照明位置とを対応させて記憶する。
計算部124は、生成しようとする画像の選択画素ごとに、最大値決定部122で決定された、当該選択画素の輝度の最大値の2倍から、マスク242がない状態で撮影された画像に含まれる、当該選択画素と同一位置にある画素の輝度値を減じる。または、計算部124は、選択画素ごとに、マスク242がない状態で撮影された画像に含まれる、当該選択画素と同一位置にある画素の輝度値から、最小値決定部123で決定された、当該選択画素の最小値の2倍を減じる。これにより、生成しようとする画像の各画素の輝度値が計算される。
このように、計算部124は、上述の第1の画像および第2の画像から、大きい輝度値を有する画像または小さい輝度値を有する画像を選択し、選択された画像と第4の画像とに基づく差分を導出することにより、物質の第5の画像を生成する。なお、その第1の画像、第2の画像、第4の画像および第5の画像のそれぞれは、イメージセンサ150に含まれる同一の画素の輝度値を有する。
ここで、マスク242における透光部分と遮光部分との面積比は1:1である。したがって、計算部124は、選択された画像の輝度値の2倍と、第4の画像の輝度値との差分を導出することにより、第5の画像の輝度値を生成する。
具体的には、計算部124は、第1の画像および第2の画像から、大きい輝度値を有する画像を選択した場合には、選択された画像の輝度値の2倍から、第4の画像の輝度値を減算することにより、第5の画像の輝度値を生成する。または、計算部124は、第1の画像および第2の画像から、小さい輝度値を有する画像を選択した場合には、第4の画像の輝度値から、選択された画像の輝度値の2倍を減算することにより、第5の画像の輝度値を生成する。
画像生成部125は、計算部124で計算された各画素の輝度値からなる画像を生成する。
[1−4.出力部]
出力部130は、明暗画像処理部120によって生成された画像を提示する出力装置、またはその画像を電子データとして出力する手段である。
[2.画像生成装置の動作]
次に、以上のように構成された画像生成装置20の動作について説明する。実施の形態2に係る画像生成装置20の全体的な概略動作は、実施の形態1の図10のフローチャートで示した画像生成装置10の全体的な概略動作と同様であるので説明を省略する。
すなわち、実施の形態2に係る画像生成方法は、透光性を有する物質の画像を生成する画像生成方法であって、第1の光源141Aおよび第2の光源141Bを含む複数の光源からなる光源群と、イメージセンサ150と、マスク242とを用いる。そして、この画像生成方法では、ステップS1200において、以下の(a)〜(e)の動作を行い、ステップS1300およびステップS1400において、以下の(f)および(g)の動作を行う。その(a)では、イメージセンサ150と第1の光源141Aおよび第2の光源141Bとの間にマスク242を配置する。(b)では、マスク242が配置されている状態で第1の光源141Aにより照明されたときに、イメージセンサ150が物質の第1の画像を取得する。(c)では、マスク242が配置されている状態で第2の光源141Bにより照明されたときに、イメージセンサ150が物質の第2の画像を取得する。(d)では、イメージセンサ150と第1の光源141Aおよび第2の光源141Bとの間からマスク242を除去する。(e)では、マスク242が除去されている状態で、上述の光源群に含まれる光源により照明されたときに、イメージセンサ150が物質の第4の画像を取得する。(f)では、第1の画像および第2の画像から、大きい輝度値を有する画像または小さい輝度値を有する画像を選択する。(g)では、選択された画像と第4の画像とに基づく差分を導出することにより、物質の第5の画像を生成する。
[2−1.多光源撮影]
図20は、実施の形態2に係る画像生成装置20の撮影部200の動作の詳細の一例を示したフローチャートである。図20に従って、撮影部200の動作の詳細を説明する。
(ステップS2210)
制御部260は、駆動部243にマスク除去信号を出力する。駆動部243は、照明器240のマスク242を、複数の点光源141とイメージセンサ150との間から除去、すなわち移動させる。これにより、制御部260は、複数の点光源141から射出される光がマスク242によって遮断されない状態を設定する。
(ステップS2220)
制御部260は、複数の点光源141のうち、イメージセンサ150の中央の直上にある点光源141を点灯する中央点灯信号を出力する。照明器240は、制御部260からの中央点灯信号を受け、複数の点光源141のうち、イメージセンサ150の中央の直上にある点光源141のみの光の照射を開始する。
(ステップS2230)
点光源141によって対象物が照明されている間に、イメージセンサ150は、当該点光源141から対象物を透過した光によって形成される画像を取得する。このとき当該点光源141から射出された光はマスク242を通過しない。すなわち、当該点光源141から射出された光は、遮断されることなく、対象物及びイメージセンサ150へ到達する。
(ステップS2240)
制御部260は、ステップS2230で取得した画像と、当該画像を取得したときの照明位置と、マスク242の有無の情報(具体的には「なし」)とをあわせて、記憶部110に出力する。記憶部110は、画像と照明位置とマスク242の有無の情報とを対応付けて、例えば図19に示すように記憶する。
(ステップS2250)
制御部260は、駆動部243にマスク設置信号を出力する。駆動部243は、照明器240のマスク242を移動させ、複数の点光源141とイメージセンサ150との間に設置する。これにより、制御部260は、複数の点光源141から射出される光が、マスク242を通して対象物およびイメージセンサ150に照射される状態を設定する。
以降の動作は、実施の形態1の撮影動作(図11に示すステップS1200)と同様である。図20のフローチャートには、実施の形態1の図11と同じ動作には同じ符号を付し、詳細な説明を省略する。
(ステップS1210)
制御部260は、照明位置リストを参照して、各照明位置から照明された対象物の撮影が終了したか否かを判定する。
ここで、照明位置リストに含まれるすべての照明位置からの照明による撮影が終了している場合(ステップS1210においてyes)、ステップS1300へ進む。一方、照明位置リスト内のいずれかの照明位置からの照明による撮影が終了していない場合(ステップS1210においてno)、ステップS1220へ進む。
(ステップS1220)
制御部260は、照明位置リストに含まれる複数の照明位置の中から、まだ照明が行われていない照明位置を選択し、照明器240へ制御信号を出力する。
(ステップS1230)
照明器240は、ステップS1220で制御部260より出力された制御信号に従って、対象物への照明を開始する。つまり、照明器140に含まれる複数の点光源141のうち、ステップS1220で選択された照明位置にある点光源141が光の照射を開始する。
(ステップS1240)
点光源141によって対象物が照明されている間に、イメージセンサ150は、当該点光源141からマスク242を通し、さらに対象物を透過した光によって形成される画像を取得する。
(ステップS2260)
制御部260は、ステップS1240で取得した画像と、当該画像を取得したときの照明位置と、マスク242の有無の情報(具体的には「あり」)とを対応付けて記憶部110に出力する。記憶部110は、画像と照明位置とマスク242の有無の情報とを対応付けて記憶する。
(ステップS1260)
その後、制御部260は、照明器240へ制御信号を出力して、対象物への照明を停止させる。ステップS1260の後、ステップS1210へ戻る。
ステップS1210からステップS1260までの処理が繰り返されることで、照明位置リストに含まれるすべての照明位置の点光源141から順次対象物に光が照射される。そして、イメージセンサ150は、対象物にマスク242を通して光が照射されるたびに、画像を取得する。
[2−2.明暗画像処理]
ステップS1300の明暗画像処理部120の動作の詳細を説明する。
図21は、実施の形態2に係る明暗画像処理部120の動作の一例を示すフローチャートである。図21に示すフローチャート中、実施の形態1の図14に示すステップS1301からステップS1330と、ステップS1360と同様のステップに対しては、同一の符号を付し、詳細な説明を省略する。
(ステップS1310)
明暗画像処理部120のデータ取得部121は、ステップS1200で取得された複数の画像と、その複数の画像のそれぞれに対応する照明位置と、マスク242の有無の情報とを記憶部110より取得し、記憶部127に記憶する。
(ステップS1320)
画素選択部126は、生成する画像に含まれる全画素について輝度値の計算処理が終了したか否かを判定する。
生成する画像に含まれる全画素について計算処理が終了している場合(ステップS1320においてyes)、明暗画像処理部120は、明暗画像処理を終了する(ステップS1400へ進む)。
生成する画像に含まれるいずれかの画素について計算処理が終了していない場合(ステップS1320においてno)、明暗画像処理部120は、明暗画像処理を続行する(ステップS1330へ進む)。
(ステップS1330)
画素選択部126は、生成する画像に含まれる複数の画素の中から1つの画素を選択する。ここで選択される1つの画素、つまり選択画素は、生成する画像に含まれる複数の画素のうち、計算処理がまだ実行されていない画素である。
(ステップS2331)
最大値決定部122は、ステップS1330で選択された画素(すなわち選択画素)について、マスク242があるときにステップS1240で撮影された複数の画像のそれぞれに含まれる、当該選択画素と同一位置にある画素の輝度値を比較する。その比較の結果、最大値決定部122は、最大の輝度値を、当該選択画素の輝度の最大値として決定する。
(ステップS2332)
計算部124は、ステップS2331で決定された当該選択画素の輝度の最大値の2倍より、マスク242がないときにステップS2230で撮影された画像に含まれる、当該選択画素と同一位置の画素の輝度値を減算する。
(ステップS1360)
画像生成部125は、ステップS2332で計算した輝度値を、当該選択画素の輝度として記憶する。
明暗画像処理部120は、ステップS1320からステップS1360を繰り返すことで、生成する画像の全画素の輝度値を生成することができる。
ここで、ステップS2332の計算について説明する。
マスク242が除去されている場合、イメージセンサ150上の任意の画素で受ける光のうち、点光源141から対象物を透過して、直進してイメージセンサ150まで到達する光を、直接成分Dとする。また、点光源から媒質または対象物にあたり、屈折または散乱した光を、大域成分Gとする。つまり、マスク242が除去されている場合、イメージセンサ150上の任意の画素で受ける光は、D+Gとなる。
マスク242が設置されている場合、任意の画素において、明区間の光が理想的に照射されているときには、実施の形態2では、その画素における輝度値は最大となる。この場合、点光源141からの直接成分は、マスク242が除去されている場合の直接成分Dと同等である。しかし、マスク242が設置されている場合には、点光源141から射出される光の半分は遮光部分によってさえぎられる。なお、マスク242における透光部分と遮光部分との面積比は1:1である。したがって、マスク242が設置されている場合には、マスク242が除去されている場合と比べて、屈折または散乱する光は半分に減っている。すなわち、マスク242が設置されている場合、大域成分は、マスク242が除去されている場合の大域成分Gの半分と同等になる。従って、マスク242が設置されている場合、明区間におけるイメージセンサ150上の任意の画素で受ける光は、
となる。
マスク242が設置されている場合、任意の画素において、理想的な暗区間の状態の場合、実施の形態2では、その画素における輝度値は最小となる。この場合、点光源141からの直接成分は、マスク242によって遮断されているため、受光されない。受光される光は、点光源141からイメージセンサ150上の他の画素に直接届くように透光部分を通った光が、屈折または散乱して、その画素へ到達する大域成分である。つまり、マスク242の透光部分と遮光部分との面積比が1:1であるため、暗区間における画素が受ける光は、点光源141から射出される光の半分のうちの一部の光が屈折または散乱して当該の画素へ到達する大域成分である。この大域成分は、マスク242が除去されている場合の大域成分Gの半分である。したがって、暗区間の理想状態、すなわち輝度の最小値が得られる際に、画素が受ける光は、
となる。
屈折または散乱による光はノイズとなって、直接光による画像を不鮮明にするので、屈折光または散乱光、すなわち大域成分Gを除去することで、画像を鮮明化することができる。そこで、実施の形態2の図21に示すステップS2332では、直接成分Dを決定するために、明区間の輝度値を2倍し、すなわち輝度の最大値を2倍する。そして、以下の(式1)のように、その最大値の2倍から、マスク242が除去された状態で受光したときの成分、すなわちマスク無しで撮影した際の輝度値を減算する。
また、暗区間で受ける光、すなわち輝度の最小値は大域成分である。したがって、直接成分Dを決定するために、以下の(式2)のように、マスク無しで撮影した際の輝度値から、暗区間で受ける光の2倍、すなわち輝度の最小値の2倍を減算してもよい。
図22は、実施の形態2に係る明暗画像処理部120の動作の他の例を示すフローチャートである。具体的には、図22のフローチャートは、上記(式2)の減算を用いた動作を示す。
図22のフローチャートは、図21のフローチャートのステップS2331とS2332の代わりに、ステップS2341とステップS2342を含む。
(ステップS2341)
最小値決定部123は、ステップS1330で選択された画素(すなわち選択画素)について、マスク242があるときにステップS1240で撮影された複数の画像のそれぞれに含まれる、当該選択画素と同一位置にある画素の輝度値を比較する。その比較の結果、最小値決定部123は、最小の輝度値を、当該選択画素の輝度の最小値として決定する。
(ステップS2342)
計算部124は、マスク無しのときにステップS2230で撮影された画像に含まれる、選択画素と同一位置の画素の輝度値から、ステップS2341で決定された選択画素の輝度の最小値の2倍を減じる。これにより、当該選択画素の直接成分による輝度値を生成することが出来る。
[3.効果]
以上のように、実施の形態2に係る画像生成装置20によれば、遮光部分と透光部分との繰り返しパタンを持つマスク242を通して対象物およびイメージセンサ150に光を投射する。そして、生成しようとする画像に含まれる選択画素ごとに、透過光により撮影された複数の画像のそれぞれの中の、その選択画素と同一位置にある画素の輝度値のうち、最大の輝度値を、その選択画素の輝度の最大値として求める。さらに、生成しようとする画像に含まれる選択画素ごとに、その選択画素の輝度の最大値の2倍から、マスク242が無い状態で撮影された画像の当該選択画素と同一位置にある画素の輝度値を減じる。これにより、光のうち屈折光または散乱光を除去した直接成分によって照明された対象物の画像を生成することができる。または、生成しようとする画像に含まれる選択画素ごとに、透過光により撮影された複数の画像のそれぞれの中の、その選択画素と同一位置にある画素の輝度値のうち、最小の輝度値を、その選択画素の輝度の最小値として求める。さらに、生成しようとする画像に含まれる選択画素ごとに、マスク242が無しの状態で撮影された画像の当該選択画素と同一位置にある画素の輝度値から、その選択画素の輝度の最小値の2倍を減じる。これにより、光のうち屈折光または散乱光を除去した直接成分によって照明された対象物の画像を生成することができる。
このように、実施の形態2では、散乱光あるいは屈折光によるノイズを削減し、直接光による鮮明な画像を生成することができる。
(実施の形態2の変形例)
実施の形態2の変形例について説明する。実施の形態2では、計算に用いるマスク242がない状態で撮影を行うときに、イメージセンサ150の中央の直上に位置する点光源141を用いた。しかし、厳密には、点光源141からの光の直接成分は、点光源141の位置とイメージセンサ150上の画素の位置との関係によって異なる。したがって、実施の形態2のように、最大値または最小値の輝度の画素を含む画像に対応する照明位置と、マスク242がない状態での撮影時の照明位置とが必ずしも一致しない場合には、直接成分に誤差が含まれる。
そこで、実施の形態2の変形例では、マスク242がある状態で撮影が行われたときに用いられる複数の照明位置のすべてを、マスク242がない状態での撮影にも用いる。輝度値の計算処理では、同じ照明位置が用いられているときに撮影された、マスク242がある状態での画像の輝度と、マスク242がない状態での画像の輝度とを用いて、選択画素の輝度値を計算する。これにより、照明位置の不一致による直接成分の誤差を解消することができる。以下に、実施の形態2の変形例について、実施の形態2と異なる点を中心に説明する。
本変形例に係る画像生成装置20の構成は、実施の形態2と同様であるため、説明を省略する。
[1.画像生成装置の動作]
本変形例に係る画像生成装置20の動作について説明する。本変形例に係る画像生成装置20の全体的な概略動作は、実施の形態1の図10のフローチャートで示した画像生成装置10の全体的な概略動作と同様である。しかし、本変形例に係るステップS1200の多光源撮影およびステップS1300の明暗画像処理のそれぞれの詳細な動作は、実施の形態1または2とは異なる。また、本変形例に係るステップS1400の画像生成の動作は、実施の形態1または2と同様であるため、その動作の説明を省略する。
[1−1.多光源撮影]
図23は、実施の形態2の変形例に係る画像生成装置20の撮影部200の詳細な動作の一例を示したフローチャートである。つまり、図23は、実施の形態2の変形例における多光源撮影(図10のステップS1200)の詳細な動作の一例を示す。図23に従って、ステップS1200の詳細について説明する。本変形例の多光源撮影に含まれる各動作のうち、実施の形態1の図11および実施の形態2の図20と共通の動作については、同一の符号を付し、説明を省略する。
(ステップS2210)
制御部260は、駆動部243にマスク除去信号を出力する。駆動部243は、照明器240のマスク242を、複数の点光源141とイメージセンサ150との間から移動させる。これにより、制御部260は、複数の点光源141から射出される光がマスク242によって遮断されない状態を設定する。
(ステップS4210)
制御部260は、照明位置リストを参照して、各照明位置から照明された対象物の撮影が終了したか否かを判定する。この照明位置リストは、マスク242を設置した条件で用いられる照明位置リストと共通である。
ここで、照明位置リストに含まれるすべての照明位置からの照明による撮影が終了している場合(ステップS4210においてyes)、ステップS2250へ進む。一方、照明位置リスト内のいずれかの照明位置からの照明による撮影が終了していない場合(ステップS4210においてno)、ステップS4220へ進む。
(ステップS4220)
制御部260は、照明位置リストに含まれる複数の照明位置の中から、まだ照明が行われていない照明位置を選択し、照明器240へ制御信号を出力する。
(ステップS4230)
照明器240は、ステップS4220で制御部260より出力された制御信号に従って、その照明器240に含まれる複数の点光源141のうち、ステップS4220で選択された照明位置にある点光源141による光の照射を開始する。
(ステップS4240)
点光源141によって対象物が照明されている間に、イメージセンサ150は、当該点光源141から射出され、対象物を透過した光によって形成される画像を取得する。
(ステップS4250)
制御部260は、ステップS4240で取得した画像と、当該画像を取得したときの照明位置と、マスク242の有無の情報(具体的には「なし」)とを対応付けて記憶部110に出力する。記憶部110は、画像と照明位置とマスク242の有無の情報とを対応付けて記憶する。
(ステップS4260)
その後、制御部260は、照明器240へ制御信号を出力して、対象物への照明を停止させる。ステップS4260の後、ステップS4210へ戻る。
ステップS2210の後、ステップS4210からステップS4260までの処理が繰り返されることで、照明位置リストに含まれるすべての照明位置の点光源141から順次対象物に光が照射される。そして、イメージセンサ150は、対象物に光が照射されるたびに、マスク242がない状態で画像を取得する。
(ステップS2250)
マスク242がない状態での撮影終了後、制御部260は、駆動部243にマスク設置信号を出力する。駆動部243は、照明器240のマスク242を移動させ、複数の点光源141とイメージセンサ150との間に設置する。これにより、制御部260は、複数の点光源141から射出される光が、マスク242を通して対象物およびイメージセンサ150に照射される状態を設定する。
(ステップS1210)
制御部260は、照明位置リストを参照して、各照明位置から照明された対象物の撮影が終了したか否かを判定する。この照明位置リストは、ステップS4210で参照した照明位置リストと同一である。
ここで、照明位置リストに含まれるすべての照明位置からの照明による撮影が終了している場合(ステップS1210においてyes)、ステップS1300へ進む。一方、照明位置リスト内のいずれかの照明位置からの照明による撮影が終了していない場合(ステップS1210においてno)、ステップS1120へ進む。
(ステップS1220)
制御部260は、照明位置リストに含まれる複数の照明位置の中から、まだ照明が行われていない照明位置を選択し、照明器240へ制御信号を出力する。
(ステップS1230)
照明器240は、ステップS1220で制御部260より出力された制御信号に従って、対象物への照明を開始する。つまり、照明器240に含まれる複数の点光源141のうち、ステップS1220で選択された照明位置にある点光源141が光の照射を開始する。
(ステップS1240)
点光源141によって対象物が照明されている間に、イメージセンサ150は、当該点光源141からマスク242を通し、さらに対象物を透過した光によって形成される画像を取得する。
(ステップS2260)
制御部260は、ステップS1240で取得した画像と、当該画像を取得したときの照明位置と、マスク242の有無の情報(具体的には「あり」)とを対応付けて記憶部110に出力する。記憶部110は、画像と照明位置とマスク242の有無の情報とを対応付けて記憶する。
(ステップS1260)
その後、制御部260は、照明器240へ制御信号を出力して、対象物への照明を停止させる。ステップS1260の後、ステップS1210へ戻る。
ステップS1210からステップS1260までの処理が繰り返されることで、照明位置リストに含まれるすべての照明位置の点光源141から順次対象物に光が照射される。そして、イメージセンサ150は、対象物にマスク242を通して光が照射されるたびに、画像を取得する。
[1−2.明暗画像処理]
ステップS1300の明暗画像処理部120の動作の詳細を説明する。
図24は、実施の形態2の変形例に係る明暗画像処理部120の動作の一例を示すフローチャートである。図24に示すフローチャート中、実施の形態1の図14と実施の形態2の図21のそれぞれのステップと同様のステップに対しては、同一の符号を付し、詳細な説明を省略する。
(ステップS4310)
明暗画像処理部120のデータ取得部121は、ステップS1200で取得された複数の画像と、その複数の画像のそれぞれに対応する照明位置と、マスク242の有無の情報とを記憶部110より取得し、記憶部127に記憶する。
(ステップS4320)
画素選択部126は、生成する画像に含まれる全画素について輝度の計算処理が終了したか否かを判定する。
生成する画像に含まれる全画素について計算処理が終了している場合(ステップS4320においてyes)、明暗画像処理部120は、明暗画像処理を終了する(ステップS1400へ進む)。
生成する画像に含まれるいずれかの画素について計算処理が終了していない場合(ステップS4320においてno)、明暗画像処理部120は、明暗画像処理を続行する(ステップS4330へ進む)。
(ステップS4330)
画素選択部126は、生成する画像に含まれる複数の画素の中から1つの画素を選択する。ここで選択される1つの画素、つまり選択画素は、生成する画像に含まれる複数の画素のうち、計算処理がまだ実行されていない画素である。
(ステップS4331)
最大値決定部122は、ステップS4330で選択された画素(すなわち選択画素)について、マスク242があるときにステップS1240で撮影された複数の画像のそれぞれに含まれる、当該選択画素と同一位置にある画素の輝度値を比較する。その比較の結果、最大値決定部122は、最大の輝度値を、当該選択画素の輝度の最大値として決定する。さらに、最大値決定部122は、その最大の輝度値を有する画素を含む画像が撮影された照明位置を特定する。
(ステップS4332)
計算部124は、ステップS4331で特定された照明位置のときに、マスク242がない状態で撮影された画像を、記憶部127より選択する。
(ステップS4333)
計算部124は、ステップS4331で決定された当該選択画素の輝度の最大値の2倍より、ステップS4332で選択された画像における、その選択画素と同一位置にある画素の輝度値を減算する。なお、ステップS4332で選択された画像は、最大の輝度値を有する画素を含む画像が取得されたときの照明位置と同一の照明位置の点光源141がマスク242を通さずに対象物を照明しているときに撮影された画像である。
(ステップS1360)
画像生成部125は、ステップS4333で計算した輝度値を当該選択画素の輝度値として記憶する。
明暗画像処理部120は、ステップS4320からステップS1360を繰り返すことで、生成する画像の全画素の輝度値を生成することができる。
なお、図24に示す例では、上記(式1)のように、同一の照明位置の点光源141が照明しているときに、マスク242がある状態で得られた輝度の最大値の2倍から、マスク242が無い状態で撮影された画像の輝度を減じた。しかし、上記(式2)のように、同一の照明位置の点光源141が照明しているときに、マスク242が無い状態で撮影された画像の輝度から、マスク242がある状態で得られた輝度の最小値の2倍を減じてもよい。
図25は、実施の形態2の変形例に係る明暗画像処理部120の動作の他の例を示すフローチャートである。図25に示すフローチャート中、図24と同様のステップに対しては、同一の符号を付し、詳細な説明を省略する。この図25に示すフローチャートでは、図24のステップS4331およびステップS4333の代わりに、ステップS4341およびステップS4343の動作が行われる。
(ステップS4341)
最小値決定部123は、ステップS4330で選択された画素(すなわち選択画素)について、マスク242が設置されているときにステップS1240で撮影された複数の画像のそれぞれに含まれる、当該選択画素と同一位置にある画素の輝度値を比較する。その比較の結果、最小値決定部123は、最小の輝度値を、当該選択画素の輝度の最小値として決定する。さらに、最小値決定部123は、その最小の輝度値を有する画素を含む画像が撮影された照明位置を特定する。
(ステップS4343)
計算部124は、ステップS4332で選択された画像における、その選択画素と同一位置にある画素の輝度値より、ステップS4341で決定された当該選択画素の輝度の最小値の2倍を減算する。なお、ステップS4332で選択された画像は、最小の輝度値を有する画素を含む画像が取得されたときの照明位置と同一の照明位置の点光源141がマスク242を通さずに対象物を照明しているときに撮影された画像である。
[2.効果]
以上のように、実施の形態2の変形例に係る画像生成装置20によれば、遮光部分と透光部分との繰り返しパタンを持つマスク242を通して対象物およびイメージセンサ150に光を投射する。そして、生成しようとする画像に含まれる選択画素ごとに、透過光により撮影された複数の画像のそれぞれの中の、その選択画素と同一位置にある画素の輝度値のうち、最大の輝度値を、その選択画素の輝度の最大値として求める。さらに、選択画素ごとに、その輝度の最大値が撮影によって得られたときと同一の照明位置から照明され、マスク242が無い状態で撮影された画像のうちの当該選択画素と同一位置にある画素の輝度値をマスクなし撮影輝度値として求める。そして、選択画素ごとに、その選択画素の輝度の最大値の2倍から、その選択画素に対応するマスクなし撮影輝度値を減じる。これにより、光のうち屈折光または散乱光を除去した直接成分によって照明された対象物の画像を生成することができる。
または、生成しようとする画像に含まれる選択画素ごとに、透過光により撮影された複数の画像のそれぞれの中の、その選択画素と同一位置にある画素の輝度値のうち、最小の輝度値を、その選択画素の輝度の最小値として求める。さらに、選択画素ごとに、その輝度の最小値が撮影によって得られたときと同一の照明位置から照明され、マスク242が無い状態で撮影された画像のうちの当該選択画素と同一位置にある画素の輝度値をマスクなし撮影輝度値として求める。そして、選択画素ごとに、その選択画素に対応するマスクなし撮影輝度値から、その選択画素の輝度の最小値の2倍を減じる。これにより、光のうち屈折光または散乱光を除去した直接成分によって照明された対象物の画像を生成することができる。
このように、実施の形態2の変形例では、散乱光あるいは屈折光によるノイズを削減し、照明位置の誤差なく直接光による鮮明な画像を生成することができる。
<実施の形態2の効果>
図28Aおよび図28Bは、図26A、図26Bと同様に、0.04mmの平均直径を有する複数のガラスビーズが樹脂で固められた状態を撮影した画像である。図28Aの画像は、図26Aの画像と同一である。図28Bの画像は、実施の形態2の方法で撮影し、かつ合成された画像である。図28Bの画像は、図28Aの画像に比べて、コントラストが大きく、かつ、輪郭が明瞭である。
図29は、図28Aの画像及び図28Bの画像輝度プロファイルを示す。図29において、図28Aの画像の輝度プロファイルを実線し、図28Bの実施の形態2の方法で撮影合成された画像の輝度プロファイルを破線で示す。図29の横軸は、画像の横軸位置を画素数で示した値であり、縦軸は輝度値である。図29に示す輝度プロファイルは、図28Aおよび図28Bの矢印で示した位置で算出された。
図29における高輝度のピークは、図28Aのマスクがない状態で撮影された画像と、図28Bの実施の形態2の方法で撮影、かつ合成された画像とに大きな違いは見られない。しかし、図29における低輝度の部分については、図28Bの画像(破線)の輝度が、図28Aの画像の輝度(実線)よりも低い。つまり、図28Bの画像(破線)の輝度の差が、図28Aの画像の輝度(実線)の差よりも大きい。よって、図29に示すように、実施の形態2の方法で撮影し、かつ合成された画像は、マスクなしの状態で撮像された画像よりも高いコントラストを有することが確認できる。
(その他の実施の形態)
以上、一つまたは複数の態様に係る画像生成装置について、各実施の形態およびその変形例に基づいて説明したが、本開示は、これらの各実施の形態およびその変形例に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を上記各実施の形態またはその変形例に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本開示の範囲内に含まれてもよい。
例えば、上記各実施の形態および各変形例では、生成しようとする画像またはイメージセンサ150に含まれる1つの画素を順に選択画素として選択し、その選択画素ごとに輝度値を計算する。しかし、生成しようとする画像またはイメージセンサ150に含まれる1つの画素を順に選択するのではなく、例えば4×4画素または8×8画素などからなるブロックを順に選択してもよい。この場合には、上述の第1の画像〜第5の画像のそれぞれは、イメージセンサ150に含まれる同一のブロックに対応する画像である。
また、上記実施の形態2およびその変形例では、マスク242を移動させたが、マスク242を液晶シャッターによって構成することにより、そのマスク242を移動させないようにしてもよい。すなわち、マスク242は、複数の点光源141とイメージセンサ150との間に設置された状態で固定される。マスク242は、上述のようにスリットまたはチェッカーパタンを有するが、例えば電圧が印加されると、一様に透明になる。つまり、このときには、マスク242の全体が透光部分となり、複数の点光源141とイメージセンサ150との間からマスク242が除去された状態と光学的に同様の状態を実現することができる。したがって、この場合には、照明器240は、駆動部243を備えることなく、制御部260は、マスク242に電圧の印加と、その印加の停止とを切り替えることによって、マスク242の設置および除去と同様の動作を行うことができる。これにより、画像生成装置20のさらなる小型化を図ることができる。
なお、上記各実施の形態および各変形例において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態または各変形例の画像生成装置などを実現するソフトウェアプログラムは、図10、図14、図16、および図20〜図25に示すフローチャートに含まれる各ステップをコンピュータに実行させるプログラムである。
また、本開示において、ユニット、デバイスの全部又は一部、又は図2、図9、および図17に示されるブロック図の機能ブロックの全部又は一部は、半導体装置、半導体集積回路(IC)、又はLSI(large scale integration)を含む一つ又は一つ以上の電子
回路によって実行されてもよい。LSI又はICは、一つのチップに集積されてもよいし、複数のチップを組み合わせて構成されてもよい。例えば、記憶素子以外の機能ブロックは、一つのチップに集積されてもよい。ここでは、LSI、または、ICと呼んでいるが、集積の度合いによって呼び方が変わり、システムLSI、VLSI(very large scale integration)、若しくはULSI(ultra large scale integration) と呼ばれるかもしれない。LSIの製造後にプログラムされる、Field Programmable Gate Array (FPGA)、又はLSI内部の接合関係の再構成又はLSI内部の回路区画のセットアップができるreconfigurable logic deviceも同じ目的で使うことができる。
さらに、ユニット、装置、又は装置の一部の、全部又は一部の機能又は操作は、ソフトウエア処理によって実行することが可能である。この場合、ソフトウエアは一つ又は一つ以上のROM、光学ディスク、ハードディスクドライブ、などの非一時的記録媒体に記録され、ソフトウエアが、処理装置(processor)によって実行された場合に、ソフトウエ
アは、ソフトウエア内の特定の機能を、処理装置(processor)と周辺のデバイスに実行
させる。システム又は装置は、ソフトウエアが記録されている一つ又は一つ以上の非一時的記録媒体、処理装置(processor)、及び必要とされるハードウエアデバイス、例えば
インターフェース、を備えていても良い。
本開示は、例えば培養中の細胞あるいは胚等の細胞塊の画像を生成する装置などに広く利用可能であり、インキュベータ内で対象物を撮影する際に有用である。
10、20 画像生成装置
100、200 撮影部
110、127 記憶部
120 明暗画像処理部
121 データ取得部
122 最大値決定部
123 最小値決定部
124 計算部
125 画像生成部
126 画素選択部
130 出力部
140、240 照明器
141 点光源
142、242 マスク
160、260 制御部
150 イメージセンサ
243 駆動部

Claims (20)

  1. 透光性を有する物質の画像を生成する画像生成装置であって、
    前記物質を照明する第1の光源と、
    前記第1の光源から所定の距離だけ離れた位置から前記物質を照明する第2の光源と、
    前記物質が配置されるイメージセンサと、
    前記第1の光源および第2の光源からの光が透過する透光部分、ならびに前記光を遮蔽する遮光部分を有し、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置するマスクと、
    処理回路とを備え、
    前記イメージセンサは、
    前記第1の光源により照明されたときに、前記物質の第1の画像を取得し、前記第2の光源により照明されたときに、前記物質の第2の画像を取得し、
    前記処理回路は、
    前記第1の画像に含まれる画素の輝度値と、前記第2の画像に含まれる画素であって、前記第1の画像に含まれる画素と同一の位置にある画素の輝度値との差分を導出することにより、前記物質の第3の画像を生成する、
    画像生成装置。
  2. 前記イメージセンサの受光面の一部の領域は、
    前記物質を照明する第1の光源と前記領域との間に前記マスクの前記透光部分が配置されている状態で前記第1の画像を取得し、
    前記物質を照明する第2の光源と前記領域との間に前記マスクの前記遮光部分が配置されている状態で前記第2の画像を取得する、
    請求項1に記載の画像生成装置。
  3. 前記イメージセンサの受光面の一部の領域は、
    前記第1の光源および前記第2の光源を含む複数の光源のそれぞれが順に前記物質を照明しているときに、前記第1の画像および前記第2の画像を含む互いに輝度値の異なる複数の画像を取得し、
    前記処理回路は、
    前記複数の画像のうち、最大の輝度値を有する画像であって、前記第1の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第1の画像として選択し、
    前記複数の画像のうち、最小の輝度値を有する画像であって、前記第2の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第2の画像として選択する、
    請求項2に記載の画像生成装置。
  4. 前記第1の光源は前記第2光源から半周期離れて位置し、
    前記イメージセンサの受光面の一部の領域は、
    前記第1の光源および前記第2の光源を含む複数の光源のそれぞれが順に前記物質を照明する場合において、最大の輝度値を有する画像と最小の輝度値を有する画像とを取得し、
    前記処理回路は、
    最大の輝度値を有する輝度最大画像を含む第1の画像群と、最小の輝度値を有する輝度最小画像を含む第2の画像群とのうち、輝度値の分散が小さい画像群を選択し、
    (i)選択された前記画像群が前記第1の画像群である場合には、
    前記第1の画像群のうち、最大の輝度値を有する画像であって、前記第1の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第1の画像として選択し、
    前記第2の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第2の画像として選択し、
    (ii)選択された前記画像群が前記第2の画像群である場合には、
    前記第2の画像群のうち、最小の輝度値を有する画像であって、前記第2の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第2の画像として選択し、
    前記第1の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第1の画像として選択する、
    請求項2に記載の画像生成装置。
  5. 透光性を有する物質の画像を生成する画像生成装置であって、
    前記物質を照明する第1の光源、および前記第1の光源から所定の距離だけ離れた位置から前記物質を照明する第2の光源を含む複数の光源からなる光源群と、
    前記物質が配置されるイメージセンサと、
    前記第1の光源および前記第2の光源からの光が透過する透光部分、ならびに前記光を遮蔽する遮光部分を有するマスクと、
    処理回路とを備え、
    前記イメージセンサは、
    (a)前記第1の光源により照明されたときに、前記物質の第1の画像を取得し、
    (b)前記第2の光源により照明されたときに、前記物質の第2の画像を取得し、
    (c)前記光源群に含まれる光源により照明されたときに、前記物質の第4の画像を取得し、
    ここで、前記第1の画像および前記第2の画像は、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置する前記マスクを介して取得され、前記第4の画像は、前記マスクを介さず取得され、
    前記処理回路は、
    前記第1の画像および前記第2の画像から、大きい輝度値を有する画像または小さい輝度値を有する画像を選択し、前記選択された画像と前記第4の画像とに基づく差分を導出することにより、前記物質の第5の画像を生成する、
    画像生成装置。
  6. 前記第1の画像、前記第2の画像、前記第4の画像および前記第5の画像のそれぞれは、
    前記イメージセンサに含まれる同一の画素に対応する輝度値を有する、
    請求項5に記載の画像生成装置。
  7. 前記マスクにおける前記透光部分と前記遮光部分との面積比は1:1である、
    請求項5または6に記載の画像生成装置。
  8. 前記処理回路は、
    前記選択された画像の輝度値の2倍と、前記第4の画像の輝度値との差分を導出することにより、前記第5の画像の輝度値を生成する、
    請求項7に記載の画像生成装置。
  9. 前記処理回路は、
    前記第1の画像および前記第2の画像から、大きい輝度値を有する画像を選択した場合には、
    前記選択された画像の輝度値の2倍から、前記第4の画像の輝度値を減算することにより、前記第5の画像の輝度値を生成する、
    請求項8に記載の画像生成装置。
  10. 前記処理回路は、
    前記第1の画像および前記第2の画像から、小さい輝度値を有する画像を選択した場合には、
    前記第4の画像の輝度値から、前記選択された画像の輝度値の2倍を減算することにより、前記第5の画像の輝度値を生成する、
    請求項8に記載の画像生成装置。
  11. 透光性を有する物質の画像を生成する画像生成方法であって、
    前記物質を照明する第1の光源と、
    前記第1の光源から所定の距離だけ離れた位置から前記物質を照明する第2の光源と、
    前記物質が配置されるイメージセンサと、
    前記第1の光源および第2の光源からの光が透過する透光部分、ならびに前記光を遮蔽する遮光部分を有し、前記イメージセンサと前記第1の光源および前記第2の光源との間に位置するマスクとを用い、
    (a)前記第1の光源により照明されたときに、前記イメージセンサが前記物質の第1の画像を取得し、
    (b)前記第2の光源により照明されたときに、前記イメージセンサが前記物質の第2の画像を取得し、
    (c)前記第1の画像に含まれる画素の輝度値と、前記第2の画像に含まれる画素であって、前記第1の画像に含まれる画素と同一の位置にある画素の輝度値との差分を導出することにより、前記物質の第3の画像を生成する、
    画像生成方法。
  12. 前記イメージセンサの受光面の一部の領域は、
    前記(a)では、
    前記物質を照明する第1の光源と前記領域との間に前記マスクの前記透光部分が配置されている状態で前記第1の画像を取得し、
    前記(b)では、
    前記物質を照明する第2の光源と前記領域との間に前記マスクの前記遮光部分が配置されている状態で前記第2の画像を取得する
    請求項11に記載の画像生成方法。
  13. 前記(a)および(b)では、
    前記イメージセンサの受光面の一部の領域は、
    前記第1の光源および前記第2の光源を含む複数の光源のそれぞれが順に前記物質を照明しているときに、前記第1の画像および前記第2の画像を含む互いに輝度値の異なる複数の画像を取得し、
    前記(c)では、
    前記複数の画像のうち、最大の輝度値を有する画像であって、前記第1の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第1の画像として選択し、
    前記複数の画像のうち、最小の輝度値を有する画像であって、前記第2の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第2の画像として選択する
    請求項12に記載の画像生成方法。
  14. 前記第1の光源は前記第2光源から半周期離れて位置し、
    前記(a)および(b)では、
    前記イメージセンサの受光面の一部の領域は、
    前記第1の光源および前記第2の光源を含む複数の光源のそれぞれが順に前記物質を照明しているときに、最大の輝度値を有する画像と最小の輝度値を有する画像とを取得することによって、前記第1の画像および前記第2の画像を含む複数の画像を取得し、
    前記(c)では、
    取得される最大の輝度値を有する輝度最大画像を含む第1の画像群と、取得される最小の輝度値を有する輝度最小画像を含む第2の画像群とのうち、輝度値の分散が小さい画像群を選択し、
    (i)選択された前記画像群が前記第1の画像群である場合には、
    前記第1の画像群のうち、最大の輝度値を有する画像であって、前記第1の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第1の画像として選択し、
    前記第2の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第2の画像として選択し、
    (ii)選択された前記画像群が前記第2の画像群である場合には、
    前記第1の画像群のうち、最小の輝度値を有する画像であって、前記第2の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第2の画像として選択し、
    前記第1の光源が前記物質を照明しているときに前記イメージセンサによって取得される画像を、前記第1の画像として選択する
    請求項12に記載の画像生成方法。
  15. 透光性を有する物質の画像を生成する画像生成方法であって、
    前記物質を照明する第1の光源、および前記第1の光源から所定の距離だけ離れた位置から前記物質を照明する第2の光源を含む複数の光源からなる光源群と、
    前記物質が配置されるイメージセンサと、
    前記第1の光源および前記第2の光源からの光が透過する透光部分、ならびに前記光を遮蔽する遮光部分を有するマスクとを用い、
    (a)前記イメージセンサと前記第1の光源および前記第2の光源との間に前記マスクを配置し、
    (b)前記マスクが配置されている状態で前記第1の光源により照明されたときに、前記イメージセンサが前記物質の第1の画像を取得し、
    (c)前記マスクが配置されている状態で前記第2の光源により照明されたときに、前記イメージセンサが前記物質の第2の画像を取得し、
    (d)前記イメージセンサと前記第1の光源および前記第2の光源との間から前記マスクを除去し、
    (e)前記マスクが除去されている状態で、前記光源群に含まれる光源により照明されたときに、前記イメージセンサが前記物質の第4の画像を取得し、
    (f)前記第1の画像および前記第2の画像から、大きい輝度値を有する画像または小さい輝度値を有する画像を選択し、
    (g)前記選択された画像と前記第4の画像とに基づく差分を導出することにより、前記物質の第5の画像を生成する、
    画像生成方法。
  16. 前記第1の画像、前記第2の画像、前記第4の画像および前記第5の画像のそれぞれは、
    前記イメージセンサに含まれる同一の画素に対応する輝度値を有する
    請求項15に記載の画像生成方法。
  17. 前記マスクにおける前記透光部分と前記遮光部分との面積比は1:1である
    請求項15または16に記載の画像生成方法。
  18. 前記(g)では、
    前記選択された画像の輝度値の2倍と、前記第4の画像の輝度値との差分を導出することにより、前記第5の画像の輝度値を生成する、
    請求項17に記載の画像生成方法。
  19. 前記(g)では、
    前記第1の画像および前記第2の画像から、大きい輝度値を有する画像を選択した場合には、
    前記選択された画像の輝度値の2倍から、前記第4の画像の輝度値を減算することにより、前記第5の画像の輝度値を生成する、
    請求項18に記載の画像生成方法。
  20. 前記(g)では、
    前記第1の画像および前記第2の画像から、小さい輝度値を有する画像を選択した場合には、
    前記第4の画像の輝度値から、前記選択された画像の輝度値の2倍を減算することにより、前記第5の画像の輝度値を生成する、
    請求項18に記載の画像生成方法。
JP2017077843A 2016-07-22 2017-04-10 画像生成装置及び画像生成方法 Active JP6817566B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201710540521.XA CN107645625B (zh) 2016-07-22 2017-07-05 图像生成装置以及图像生成方法
US15/641,322 US10607316B2 (en) 2016-07-22 2017-07-05 Image generating apparatus and image generating method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016144808 2016-07-22
JP2016144808 2016-07-22

Publications (2)

Publication Number Publication Date
JP2018021894A true JP2018021894A (ja) 2018-02-08
JP6817566B2 JP6817566B2 (ja) 2021-01-20

Family

ID=61164436

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017077843A Active JP6817566B2 (ja) 2016-07-22 2017-04-10 画像生成装置及び画像生成方法

Country Status (1)

Country Link
JP (1) JP6817566B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020075375A1 (ja) * 2018-10-10 2020-04-16 Ckd株式会社 検査装置、ptp包装機及びptpシートの製造方法
JPWO2019039581A1 (ja) * 2017-08-25 2020-08-20 大学共同利用機関法人情報・システム研究機構 試料観察方法、試料観察装置、及び顕微鏡

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7738090B1 (en) * 2007-05-29 2010-06-15 Kla-Tencor Corporation Fourier filters, systems for fabricating fourier filters, and systems and methods for inspecting a specimen using fourier filters
JP2013542468A (ja) * 2010-10-26 2013-11-21 カリフォルニア インスティチュート オブ テクノロジー 走査型投影レンズレス顕微鏡システム
WO2014196203A1 (ja) * 2013-06-06 2014-12-11 パナソニックIpマネジメント株式会社 画像取得装置、画像取得方法、およびプログラム
JP2015084055A (ja) * 2013-10-25 2015-04-30 株式会社キーエンス 顕微鏡撮像装置、顕微鏡撮像方法および顕微鏡撮像プログラム
WO2015104870A1 (ja) * 2014-01-08 2015-07-16 三菱電機株式会社 画像生成装置
JP2015219282A (ja) * 2014-05-14 2015-12-07 ソニー株式会社 画像処理装置、画像処理プログラム、画像処理方法及び顕微鏡システム
JP2016119890A (ja) * 2014-12-25 2016-07-07 パナソニックIpマネジメント株式会社 画像出力装置、画像出力方法、及びプログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7738090B1 (en) * 2007-05-29 2010-06-15 Kla-Tencor Corporation Fourier filters, systems for fabricating fourier filters, and systems and methods for inspecting a specimen using fourier filters
JP2013542468A (ja) * 2010-10-26 2013-11-21 カリフォルニア インスティチュート オブ テクノロジー 走査型投影レンズレス顕微鏡システム
WO2014196203A1 (ja) * 2013-06-06 2014-12-11 パナソニックIpマネジメント株式会社 画像取得装置、画像取得方法、およびプログラム
JP2015084055A (ja) * 2013-10-25 2015-04-30 株式会社キーエンス 顕微鏡撮像装置、顕微鏡撮像方法および顕微鏡撮像プログラム
WO2015104870A1 (ja) * 2014-01-08 2015-07-16 三菱電機株式会社 画像生成装置
JP2015219282A (ja) * 2014-05-14 2015-12-07 ソニー株式会社 画像処理装置、画像処理プログラム、画像処理方法及び顕微鏡システム
JP2016119890A (ja) * 2014-12-25 2016-07-07 パナソニックIpマネジメント株式会社 画像出力装置、画像出力方法、及びプログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2019039581A1 (ja) * 2017-08-25 2020-08-20 大学共同利用機関法人情報・システム研究機構 試料観察方法、試料観察装置、及び顕微鏡
JP7161218B2 (ja) 2017-08-25 2022-10-26 大学共同利用機関法人情報・システム研究機構 試料観察方法、試料観察装置、及び顕微鏡
WO2020075375A1 (ja) * 2018-10-10 2020-04-16 Ckd株式会社 検査装置、ptp包装機及びptpシートの製造方法
JP2020060437A (ja) * 2018-10-10 2020-04-16 Ckd株式会社 検査装置、ptp包装機及びptpシートの製造方法

Also Published As

Publication number Publication date
JP6817566B2 (ja) 2021-01-20

Similar Documents

Publication Publication Date Title
CN107645625B (zh) 图像生成装置以及图像生成方法
JP6739060B2 (ja) 画像生成装置及び画像生成方法
US8542274B2 (en) Wide field microscopic imaging system and method
US8878929B2 (en) Three dimensional shape measurement apparatus and method
CN105313762B (zh) 照明***
JP6126693B2 (ja) 光学レンズを用いることなく試料の光学的分析を行う容器及びシステム
JP2018511815A (ja) アレイレベルのフーリエ・タイコグラフィ撮像
JP6272617B2 (ja) 複数のサブ画像から構成される物体の複合画像を生成するための方法
US10116848B2 (en) Illumination and imaging system for imaging raw samples with liquid in a sample container
US9386233B2 (en) Image acquisition apparatus, image acquisition method, and computer program
JP5965644B2 (ja) 時間遅延積分方式センサーを使用したイメージングに対する時間領域多重化
JP7009619B2 (ja) 2回通過式マクロ画像
JP6605716B2 (ja) 病理学的明視野画像における自動染色検出
JP2020536277A (ja) 貼り付けスライド判定システム
JP2021193459A (ja) 二重光学経路および単一撮像センサを使用した低解像度スライド撮像、スライドラベル撮像および高解像度スライド撮像
US10674044B2 (en) Observation apparatus, method for controlling observation apparatus, and non-transitory computer-readable medium storing control program for observation apparatus
CN110021042B (zh) 图像检查装置及照明装置
JP6817566B2 (ja) 画像生成装置及び画像生成方法
JP7008029B2 (ja) 源自己蛍光を低減させ、均一性を改良するための散乱を伴う撮像システムおよび方法
JP7026333B2 (ja) 画像生成装置及び画像生成方法
JP2021501349A (ja) 2×3および1×3スライド用のカルーセル
JP5197712B2 (ja) 撮像装置
JP2018500576A (ja) 光学測定の構成
JP2018120363A (ja) 画像生成装置及び画像生成方法
EP4006613A1 (en) Digital microscope and method of operating a digital microscope

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191030

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200825

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201009

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201210

R151 Written notification of patent or utility model registration

Ref document number: 6817566

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151