JP2005331488A - 拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体または記録した機器 - Google Patents

Abstract

【課題】複数の３次元画像対比する際に、高さ関係を視覚的に容易に把握できる拡大観察装置等を提供する。
【解決手段】拡大観察装置は、３次元画像が高さ情報を含んでおり、この高さ情報の分布を測定し、表示部で表現可能な画素の表現パターンを高さ情報の分布と対応させ、高さ情報の変化を表現パターンの変化で表現できるよう各高さと表現パターンの対応関係を割り当てる割り当て部５１２と、３次元画像が有する高さ情報毎に、割り当て部５１２の対応関係に基づいて表現パターンを各々割り当て、高さに相当する３次元表現パターン画像を生成する表現パターン画像生成部とを備える。また表示部は、複数の３次元画像を同時に表示可能で、複数の３次元画像に対して、表現パターン画像生成部が各々３次元表現パターン画像を生成する際の各高さと表現パターンの対応関係を、すべての３次元画像で共通としている。
【選択図】図３２

Description

本発明は、拡大した画像を撮像して表示するマイクロスコープや顕微鏡のような拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体または記録した機器に関し、特に画像データから試料の３次元形状を視覚的に表示する技術の改良に関する。

今日、微小物体などを拡大して表示する拡大観察装置として、光学レンズを使った光学顕微鏡やデジタルマイクロスコープなどが利用されている。マイクロスコープは、光学系を介して入射する観察対象固定部に固定された観察対象からの反射光または透過光を、２次元状に配置された画素毎に電気的に読み取るＣＣＤなどの受光素子を備える。ＣＣＤを用いて電気的に読み取られた画像をディスプレイ等の表示部に表示する（例えば特許文献１参照）。

拡大観察装置においては、一般に拡大倍率が高くなると焦点深度が浅くなり、ピントの合う領域が狭くなるため、観察対象の試料（ワーク）に凹凸や高低差があると全体を観察することが困難となる。このため、画像全体にピントの合った画像を深度合成によって作成する手法が利用されている。深度合成は、高さ方向にレンズまたは試料を移動させ、光軸方向における相対距離を変化させて複数の画像を撮影し、ピントの合った部分を抽出して合成することで、焦点深度の深い画像を撮像する。また、複数の画像を撮影する際に、レンズまたは観察対象の移動量を同時に記録しておけば、合成画像を作成する際に観察対象の高さ情報も得ることができるので、取得した画像を３次元データとして構築することも可能である。３次元データに基づいて３次元画像を拡大観察装置の表示部に再現することで、様々な視点や角度から立体的に画像を観察、評価したり、高さなど表面形状の測定を行うことができる。

また、このようにして得られた３次元画像は、撮像された表面のパターンや形状によっては、高さの違いを一見しただけでは把握し難いことがある。このため、３次元画像の高さを感覚的に理解し易くするため、高さに応じて異なる色を着色し、色の変化によって高低差を示すようにした技術が開発されている（例えば特許文献２参照）。この表示装置においては、観察対象の試料の高さの違いを視覚的に把握するために、高さの範囲を複数の閾値により分割し、これら分割された各高さ範囲に対してそれぞれ表示色及び表示濃度を１対１に対応させて、試料に着色して表示している。例えば高さの低い部分は暗い色、高い部分は明るい色を用いて、表面形状の３次元表示を色分けするといった、高さに応じた濃淡パターンやカラーグラデーションによって着色することで、高さ毎にパターンで色分けされた状態に試料表面を着色して表示できる。これにより、ユーザは試料の色パターンから各部の高さ関係や、ひいては表面プロファイルをイメージすることが容易となる。

一方で、本願出願人は先に、３次元画像を同一画面上に複数表示してこれらを容易に対比可能な拡大観察装置を開発した（特願２００３−３２９０２４号）。この装置で表示される複数の３次元画像に、各々高さに応じた着色処理を施すことにより、複数の３次元画像の高さ情報を認識しつつ、これらを対比することが可能となる。

しかしながら、従来の装置においては、各３次元画像毎に独立した着色処理が個別に行われていた。着色処理は、色の違いによる表現力を増すように色のダイナミックレンジをできるだけ多くとるため、通常は３次元画像に含まれる高さ情報の内、最も高い位置と最も低い位置を各々上限、下限とする高さ範囲を設定し、この高さ範囲に対して色の割り当てを均等に行っていた。この方法では、一の３次元画像を観察する際は、高さ範囲の全域に使用可能なすべての色を割り当てて、色の違いによる表現力の高い表示が可能となる。しかしながら、複数の３次元画像を表示させる場合において、各画像毎にこのような処理を行ったのでは、色の割り当てられる高さが各画像毎に異なってしまう。これでは、各３次元画像毎の個別の高さ変化については把握できるものの、異なる３次元画像間の対比においては、同じ色でも示す高さが異なるため、対比し難いという問題があった。
特開２０００−２１４７９０号公報 特開平１１−２８７６２７号公報

本発明は、このような問題点を解決するためになされたものである。本発明の主な目的は、複数の３次元画像を対比する際に、各々の高さを相対的に認識し易い状態に表示可能な拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体または記録した機器を提供することにある。

上記の目的を達成するために、本発明の拡大観察装置は、観察対象を撮像するための撮像部と、撮像部で取得された信号に基づいて３次元の観察画像を生成する制御部と、制御部で生成された３次元の観察画像を表示するための表示部とを備える。この拡大観察装置は、３次元画像が高さ情報を含んでおり、さらに３次元画像データが有する高さ情報の分布を測定し、かつ表示部で表現可能な一定の変化可能な範囲を有する画素の表現パターンを高さ情報の分布と対応させ、高さ情報の変化を表現パターンの変化で表現できるよう各高さと表現パターンの対応関係を割り当てる割り当て部と、３次元画像が有する高さ情報毎に、割り当て部の対応関係に基づいて表現パターンを各々割り当て、高さに相当する３次元表現パターン画像を生成する表現パターン画像生成部とを備える。さらにまた表示部は、複数の３次元画像を同時に表示可能である。加えて、複数の３次元画像に対して、表現パターン画像生成部が各々３次元表現パターン画像を生成する際の各高さと表現パターンの対応関係を、すべての３次元画像で共通としている。これにより、各３次元画像の表現パターンが、同じ高さについて同じ表現パターンで表示されるため、複数の３次元画像を比較する際に相対的な高さ関係を容易に把握できる。

また、本発明の他の拡大観察装置は、観察対象を撮像するための撮像部と、撮像部で取得された信号に基づいて３次元の観察画像を生成する制御部と、制御部で生成された３次元の観察画像を表示するための表示部とを備える。この拡大観察装置は、３次元画像が高さ情報を含んでおり、さらに３次元画像データが有する高さ情報の分布に基づき、その最大高さと最小高さを検出し、かつ表示部で表現可能な画素の表現パターンであって、最大値と最小値を有する一定範囲の表現パターンを高さ情報の分布と対応させ、高さの最大高さと最小高さを、表現パターンの最大値と最小値に各々対応させるように、各高さと表現パターンの対応関係を割り当てる割り当て部と、３次元画像が有する高さ情報毎に、割り当て部の対応関係に基づいて表現パターンを各々割り当て、高さに相当する３次元表現パターン画像を生成する表現パターン画像生成部とを備える。また表示部が、複数の３次元画像を同時に表示可能である。さらに複数の３次元画像に対して、表現パターン画像生成部が各々３次元表現パターン画像を生成する際の各高さと表現パターンの対応関係を、すべての３次元画像で共通にしている。これにより、各３次元画像の表現パターンが、同じ高さについて同じ表現パターンで表示されるため、複数の３次元画像を比較する際に相対的な高さ関係を容易に把握でき、さらに高さの最大高さと最小高さを、表現パターンの最大値と最小値に対応させることで、表現パターンの範囲を有効に使用して表現力を高めることができる。

さらに、本発明の他の拡大観察装置は、割り当て部が表現パターンの対応関係を割り当てる際、複数の３次元画像の内、基準となる３次元画像に含まれる高さ情報の分布に基づき、その最大高さと最小高さを検出し、一定範囲の表現パターンを高さ情報の分布と対応させ、一の３次元画像に含まれる高さの最大高さと最小高さを、表現パターンの最大値と最小値に各々対応させるようにして各高さと表現パターンの対応関係を割り当て、この対応関係をすべての３次元画像に対して実行し、統一された対応関係に従って表現パターン画像生成部が３次元表現パターン画像を生成する。これにより、一の基準３次元画像の高さ分布に基づいて対応関係が決定されるため、基準となる３次元画像をベースとして同じ高さを同じ表現パターンで表示できる。

さらにまた、本発明の他の拡大観察装置は、基準３次元画像が、複数の３次元画像の内で、最大高さと最小高さとの差が最大である３次元画像である。これにより、最も高低差のある３次元画像に合わせて表現パターンの割り当てを行うため、相対的な高さ測定においてはすべての高さを表現パターンで表現できることとなり、確実な対比観察が行える。

さらにまた、本発明の他の拡大観察装置は、割り当て部が表現パターンの対応関係を割り当てる際、複数の３次元画像に含まれるすべての高さ情報の分布に基づき、その最大高さと最小高さを検出し、一定範囲の表現パターンを高さ情報の分布と対応させ、すべての３次元画像に含まれる高さの内、最大高さと最小高さを、表現パターンの最大値と最小値に各々対応させるようにして各高さと表現パターンの対応関係を割り当て、この対応関係をすべての３次元画像に対して実行し、統一された対応関係に従って表現パターン画像生成部が３次元表現パターン画像を生成する。これにより、比較したい３次元画像のすべての高さ分布に基づいて対応関係が決定されるため、絶対的な高さ測定においてもすべての高さを表現パターンで表現でき、しかも同じ高さを同じ表現パターンで表示できる。

さらにまた、本発明の他の拡大観察装置は、表現パターンが、色もしくは輝度の少なくともいずれかである。これにより、各３次元画像の高さが、同じ高さについて同じ色もしくは輝度で表示されるため、複数の３次元画像を比較する際に相対的な高さ関係を容易に把握できる。

さらにまた、本発明の他の拡大観察装置は、観察対象を撮像するための撮像部と、撮像部で取得された信号に基づいて３次元の観察画像を生成する制御部と、制御部で生成された３次元の観察画像を表示するための表示部とを備える。この拡大観察装置は、３次元画像に関して、高さ情報を含む３次元画像データを保持する記憶部と、３次元画像データが有する高さ情報の分布に基づき、その最大高さと最小高さを検出し、所定の範囲の色を階調表示させて高さを表現する色パレットを高さ情報の分布と対応させ、高さの最大高さと最小高さが、色パレットの範囲の最大色と最小色に各々対応するように、各高さと色の対応関係を割り当てる割り当て部と、３次元画像が有する高さ情報毎に、割り当て部の対応関係に基づいて色を各々割り当て、高さに相当する３次元着色画像を生成する着色画像生成部とを備える。また複数の３次元画像に対して、基準となる基準３次元画像に基づき、割り当て部がその高さ情報の分布に基づき対応関係を決定し、この対応関係を他の３次元画像に対しても実行し、統一された対応関係に従って生成された３次元着色画像を複数、表示部に表示可能に構成している。これにより、色によって高さを表現すると共に、各３次元着色画像が、同じ高さを同じ色で表示するため、複数の３次元画像を比較する際に相対的な高さ関係を容易に把握できる。

さらにまた、本発明の他の拡大観察装置は、表示部において、各３次元画像を表示する表示領域に、該３次元画像に割り当てられた色の分布を示す色ゲージを、各色に割り当てられた高さの代表値と共に表示可能としている。これにより、各３次元画像毎に使用される色パレットの範囲が、３次元着色画像と共に表示され、ユーザは３次元画像における高さの分布を容易に理解できる。また色パレットに高さも表示されるので、各色に割り当てられた高さが判明し、色と高さの関係が視覚的に理解できる。

さらにまた、本発明の他の拡大観察装置は、表示部は各３次元画像に対し３次元着色画像を重ねて表示可能であり、かつ各３次元画像に重ねて表示される３次元着色画像は透過性を持たせることができ、３次元着色画像の透過率を調整可能な透過率調整部を備える。これにより、元の３次元画像と色による高さ情報とを同時に表示でき、しかも適切な比率に変更できるので、ユーザの嗜好や観察目的などに応じた表示状態に調整できる。

さらにまた、本発明の他の拡大観察装置は、３次元画像データが、さらに該３次元画像の大きさに関する情報を含んでおり、さらに、基準となる３次元画像が有する大きさに関する情報に基づいて、比較対象となる３次元画像の表示倍率が同じ倍率となるよう調整するための倍率調整部を備える。これにより、基準となる３次元画像に合わせて比較する３次元画像の表示倍率を拡大または縮小表示し、大きさの基準を揃える処理を事前に行うことで、より精度の高い比較が可能となる。

さらにまた、本発明の他の拡大観察装置は、複数の３次元画像を表示部に表示させる際、基準となる３次元画像で表示される対象物の視点に基づいて、比較対象となる３次元画像で表示される対象物の視点を基準３次元画像のそれと一致させるように調整するための視点調整部を備える。これにより、異なる３次元画像を同じ視点に合わせた状態で観察できる利点が得られる。

さらにまた、本発明の他の拡大観察装置は、さらに視点調整部によって複数の３次元画像を重ね合わせる際に、重ね合わせの基準となる高さを指定可能に構成している。これにより、重ね合わせを行う３次元画像の高さ方向の基準位置を調整して、高さ方向に位置ずれやオフセットが生じている画像においても重ね合わせを容易に行うことができる。

さらにまた、本発明の他の拡大観察装置は、複数の３次元画像に対して、各々の３次元画像に含まれる高さの最大値および最小値に色パレットの最大色および最小色をそれぞれ割り当て、各３次元画像毎に独立した対応関係に基づき着色画像生成部が３次元着色画像を生成して表示部に表示する通常モードと、複数の３次元画像の内、基準となる３次元画像に含まれる高さの最大値および最小値に色パレットの最大色および最小色を割り当て、共通の対応関係に基づき着色画像生成部が３次元着色画像を生成して表示部に表示する絶対値比較モードとを切り替えるモード切替部を備える。これにより、一の３次元画像を観察する際には通常モードでダイナミックレンジを広くとった観察が可能となり、また複数の３次元画像を対比して観察する場合には絶対値比較モードに切り替えて、同じ色ですべての高さを表示できるようにでき、目的に応じて適した観察が行える。

また、本発明の拡大観察方法は、複数の３次元の観察画像を撮像して各々表示部に表示し、これらを対比して観察可能な拡大観察方法である。この方法は、複数の３次元画像データを構築し、データに高さ情報を含めて保持するステップと、比較したい画像データを複数選択し、表示部に並べて表示するステップと、３次元画像データが有する高さ情報の分布に基づき、その最大高さと最小高さを検出し、所定の範囲の色を階調表示させて高さを表現する色パレットを高さ情報の分布と対応させ、高さの最大高さと最小高さが、色パレットの範囲の最大色と最小色に各々対応するように、各高さと色の対応関係を割り当てるステップと、３次元画像が有する高さ情報毎に、割り当て部の対応関係に基づいて色を各々割り当て、高さに相当する３次元着色画像を生成するステップと、表示部に表示される各３次元画像画像の表面に、３次元着色画像を各々重ねて表示するステップとを有している。さらに、各高さと色の対応関係を割り当てるステップが、複数の３次元画像の内、基準となる基準３次元画像に含まれる高さ情報の分布に基づき対応関係を決定し、この対応関係を他の３次元画像に対しても実行する。これにより、統一された対応関係に従って３次元着色画像を生成するので、同じ高さが同じ色で表現され、高さ、形状の違いが色の違いとなって表示されるので、複数の３次元画像の違いを認識することが容易になる。

さらに、本発明の拡大観察用操作プログラムは、複数の３次元の観察画像を撮像して各々表示部に表示し、これらを対比して観察可能な拡大観察用操作プログラムであり、コンピュータに、複数の３次元画像データを構築し、データに高さ情報を含めて保持する機能と、比較したい画像データを複数選択し、表示部に並べて表示する機能と、基準となる３次元画像データが有する高さ情報の分布に基づき、その最大高さと最小高さを検出し、所定の範囲の色を階調表示させて高さを表現する色パレットを高さ情報の分布と対応させ、高さの最大高さと最小高さが、色パレットの範囲の最大色と最小色に各々対応するように、各高さと色の対応関係を割り当てる機能と、複数の３次元画像が有する高さ情報毎に、割り当て部の対応関係に基づいて色を各々割り当て、高さに相当する３次元着色画像を生成する機能と、表示部に表示される各３次元画像画像の表面に、３次元着色画像を各々重ねて表示する機能と、各３次元画像に重ねて表示される３次元着色画像の透過率を調整する機能と、基準となる３次元画像が有する大きさに関する情報に基づいて、比較対象となる３次元画像の表示倍率が同じ倍率となるよう調整する機能とを実現させる。これにより、統一された対応関係に従って３次元着色画像を生成するので、同じ高さが同じ色で表現され、高さ、形状の違いが色の違いとなって表示されるので、複数の３次元画像の違いを認識することが容易になる。

また、本発明のコンピュータで読み取り可能な記録媒体または機器は、拡大観察用操作プログラムを記録したものである。記録媒体には、ＣＤ−ＲＯＭ、ＣＤ−Ｒ、ＣＤ−ＲＷやフレキシブルディスク、磁気テープ、ＭＯ、ＤＶＤ−ＲＯＭ、ＤＶＤ−ＲＡＭ、ＤＶＤ−Ｒ、ＤＶＤ−ＲＷ、ＤＶＤ＋Ｒ、ＤＶＤ＋ＲＷ、ｂｌｕ−ｌａｙ、ＨＤ ＤＶＤ（ＡＯＤ）等の磁気ディスク、光ディスク、光磁気ディスク、半導体メモリその他のプログラムを格納可能な媒体が含まれる。また上記のプログラムは、ネットワークを介してダウンロード可能な形態も含まれる。

以上の本発明の拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体または記録した機器によれば、複数の３次元画像を比較する際に、基準画像に対する比較画像の高さ、形状の違いが色等の表示パターンの違いとして容易に認識できるようになる。特に、同じ高さが複数の３次元画像上で同じ表現パターンにより表現されるため、視覚的に高さの異同を把握しやすく、比較に好適である。

以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するための拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体または記録した機器を例示するものであって、本発明は拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体または記録した機器を以下のものに特定しない。

また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものでは決してない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特に特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。

本発明の実施例において使用される拡大観察装置とこれに接続される操作、制御、表示、その他の処理等のためのコンピュータ、プリンタ、外部記憶装置その他の周辺機器との接続は、例えばＩＥＥＥ１３９４、ＲＳ−２３２ｘやＲＳ−４２２、ＵＳＢ等のシリアル接続、パラレル接続、あるいは１０ＢＡＳＥ−Ｔ、１００ＢＡＳＥ−ＴＸ、１０００ＢＡＳＥ−Ｔ等のネットワークを介して電気的、あるいは磁気的、光学的に接続して通信を行う。接続は有線を使った物理的な接続に限られず、ＩＥＥＥ８０２．１ｘ、ＯＦＤＭ方式等の無線ＬＡＮやＢｌｕｅｔｏｏｔｈ等の電波、赤外線、光通信等を利用した無線接続等でもよい。さらにデータの交換や設定の保存等を行うための記録媒体には、メモリカードや磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が利用できる。なお本明細書において拡大観察装置とは、拡大観察装置本体のみならず、これにコンピュータ、外部記憶装置等の周辺機器を組み合わせた撮像システムも含む意味で使用する。
［第１の実施の形態］

以下、図１から図２を用いて、本発明の第１の実施の形態に係る拡大観察装置を説明する。拡大観察装置は、図１に示すように観察対象の試料を照明するための照明部６０と、照明部６０により照明された試料を撮像する撮像部１０と、撮像部１０で撮像された拡大画像を表示する表示部５２を有する情報処理装置５０を備える。さらに図１の拡大観察装置は、試料を固定する試料固定部（試料Ｓを載置するステージ３０）と、光学系１１を介して入射する試料固定部に固定された試料Ｓからの反射光または透過光を電気的に読み取る撮像素子（ＣＣＤ１２）と、試料固定部と光学系１１の光軸方向における相対距離を変化させ焦点を調整する焦点調整部（ステージ昇降器２０）とを備える。さらにまた情報処理装置５０は、図２に示すように、焦点調整部によって焦点を調整したときの試料固定部と光学系１１の光軸方向における相対距離に関する焦点距離情報を、光軸方向とほぼ垂直な面内における試料の２次元位置情報と共に記憶する焦点距離情報記憶部（メモリ５３）と、撮像素子によって読み取られた画像を表示する表示部５２と、表示部５２によって表示された画像の一部の領域を少なくとも一つ設定可能な領域設定部（操作部５５、ポインティングデバイス５５Ａ）と、領域設定部によって設定された領域に対応する試料Ｓの一部または全部に関する焦点距離情報記憶部に記憶された焦点距離情報に基づいて、領域設定部によって設定された領域に対応する試料Ｓの光軸方向における平均高さを演算する演算部（制御部５１）とを備える。この拡大観察装置は、光学系を介して入射する試料固定部に固定された試料からの反射光または透過光を電気的に読み取る撮像素子を用いて、指定された領域に対応する試料の光軸方向における平均高さ（深さ）を演算できる。

撮像部１０は、図２に示すように、試料Ｓを載置する試料固定部の一形態であるステージ３０と、ステージ３０を移動させるステージ昇降器２０と、ステージ３０に固定された試料に光学系を介して入射される光の反射光または透過光を、２次元状に配置された画素毎に電気的に読み取る撮像素子の一形態としてＣＣＤ１２と、ＣＣＤ１２を駆動制御するＣＣＤ制御回路１３とを備える。さらに撮像部１０には、拡大観察装置本体である情報処理装置５０が接続される。情報処理装置５０は、撮像素子によって電気的に読み取られた画像データを記憶する画像データ記憶部の一形態としてメモリ５３と、撮像素子によって電気的に読み取られた画像データに基づいて画像を表示するディスプレイやモニタ等の表示部５２と、表示部５２上に表示される画面に基づいて入力その他の操作を行う操作部５５と、操作部５５によって入力された情報に基づいて画像処理その他各種の処理を行う制御部５１とを備える。表示部５２を構成するディスプレイは、高解像度表示が可能なモニタであり、ＣＲＴや液晶パネル等が利用される。

操作部５５はコンピュータと有線もしくは無線で接続され、あるいはコンピュータに固定されている。一般的な操作部５５としては、例えばマウスやキーボード、スライドパッド、トラックポイント、タブレット、ジョイスティック、コンソール、ジョグダイヤル、デジタイザ、ライトペン、テンキー、タッチパッド、アキュポイント等の各種ポインティングデバイスが挙げられる。またこれらの操作部５５は、拡大観察用操作プログラムの操作の他、拡大観察装置自体やその周辺機器の操作にも利用できる。さらに、インターフェース画面を表示するディスプレイ自体にタッチスクリーンやタッチパネルを利用して、画面上をユーザが手で直接触れることにより入力や操作を可能としたり、または音声入力その他の既存の入力手段を利用、あるいはこれらを併用することもできる。図１の例では、操作部５５はマウス５５ａ等のポインティングデバイス５５Ａで構成される。

図１に本発明の実施の形態に係る拡大観察装置の外観図を示す。光学系および撮像素子を有するカメラ１０ａは、スタンド台４１から鉛直方向に延びる支柱４２に固定されたカメラ取り付け部４３に取り付けられる。スタンド台４１には、試料Ｓを載置するステージ３０が上部に取り付けられたステージ昇降器２０が配置される。カメラ１０ａおよびステージ昇降器２０は情報処理装置５０に接続されて制御される。情報処理装置５０は、表示部５２、およびマウス５５ａ等の操作部５５を備える。表示部５２には、観察画像が表示される。

また、情報処理装置５０である拡大観察装置にはコンピュータ７０を接続可能であり、コンピュータ７０に別途拡大観察用操作プログラムをインストールして、コンピュータ７０側からも拡大観察装置を操作することもできる。本明細書において、コンピュータを使って拡大観察装置を操作する拡大観察用操作プログラムとは、拡大観察装置に外部接続された汎用もしくは専用コンピュータにインストールされる操作プログラムの他、上述した拡大観察装置の制御部である情報処理装置５０に内蔵された操作プログラムも含む。拡大観察装置には、予め拡大観察装置を操作する操作機能あるいは操作プログラムが内蔵されている。この操作プログラムは、書き換え可能なソフトウェア、ファームウェアなどの形態で拡大観察装置に対してインストール、あるいはアップデートすることも可能である。従って、本明細書において拡大観察用操作プログラムを実行させるコンピュータには、拡大観察装置自体も含まれる。

図２に本発明の実施の形態に係る拡大観察装置のブロック図を示す。情報処理装置５０は、表示部５２と、制御プログラム・焦点距離情報・受光データ・２次元情報等を記憶するメモリ５３と、情報処理装置５０がカメラ１０ａおよびステージ昇降器２０とデータを通信するためのインターフェイス５４と、操作者が拡大観察装置に関する操作を行う操作部５５とから構成される。ステージ昇降器２０は、例えばステッピングモータ２１と、ステッピングモータ２１の昇降を制御するモータ制御部２２とから構成される。撮像部１０は、撮像素子として例えばＣＣＤ１２等の受光素子と、ＣＣＤ１２を駆動制御するＣＣＤ制御回路１３と、照明部６０からステージ３０上に載置された試料Ｓに対して照射された光の透過光や反射光をＣＣＤ１２上に結像させる光学系１１とを備える。
［画素ずらし手段］

さらに撮像部１０は、画素ずらしによってＣＣＤ１２の持つ解像度以上の高解像度を得るための画素ずらし手段を備えることができる。画素ずらしとは、例えば画素ピッチの半分だけ被写体をずらして撮影した画像と、ずらす前の画像とを合成することにより高解像度化を図るものである。代表的な画像ずらしの機構としては、撮像素子を移動させるＣＣＤ駆動方式、ＬＰＦを傾斜させるＬＰＦ傾斜方式、レンズを移動させるレンズ移動方式等がある。図２においては、ステージ３０に固定された試料Ｓから光学系１１を介してＣＣＤ１２に入射される反射光または透過光の入射光路を、少なくとも一の方向に、その方向におけるＣＣＤ１２の一画素の間隔よりも小さい距離で光学的にシフトさせる光路シフト部１４を備える。本発明の一実施形態において画素ずらしを実現するための機構や手法は、上記の構成に限られず、既知の方法や将来開発される方法が適宜利用できる。

情報処理装置５０は、モータ制御回路２２に対してステッピングモータ２１の制御に関する制御データを入力することによって、試料固定部であるステージ３０と、光学系１１および撮像素子であるＣＣＤ１２を有するカメラ１０ａとの光軸方向における相対距離、ここではｚ方向における高さを変化させる。具体的には、情報処理装置５０は、ステージ昇降器２０の制御に必要な制御データをモータ制御回路２２に入力することによってステッピングモータ２１の回転を制御し、ステージ３０の高さｚ（ｚ方向の位置）を昇降させる。ステッピングモータ２１は、回転に応じた回転信号を生成する。情報処理装置５０は、モータ制御回路２２を介して入力される回転信号に基づいて、試料固定部と光学系１１の光軸方向における相対距離に関する情報としてのステージ３０の高さｚを記憶する。なお本実施の形態においては、ステージ３０の高さを変化させることによって試料固定部と光学系の光軸方向における相対距離を変化させる例を示したが、ステージ３０を固定して光学系１１の高さ、例えばカメラ１０ａの高さを変化させてもよい。

ＣＣＤ１２は、ｘ方向およびｙ方向に２次元状に配置された画素毎に受光量を電気的に読み取ることができる。ＣＣＤ１２上に結像された試料Ｓの像は、ＣＣＤ１２の各画素において受光量に応じて電気信号に変換され、ＣＣＤ制御回路１３においてさらにデジタルデータに変換される。情報処理装置５０は、ＣＣＤ制御回路１３において変換されたデジタルデータを受光データＤとして、光軸方向（図２中のｚ方向）とほぼ垂直な面内（図２中のｘ、ｙ方向）における試料の２次元位置情報としての画素の配置情報（ｘ、ｙ）と共にメモリ５３に記憶する。ここで、光軸方向とほぼ垂直な面内とは、厳密に光軸に対して９０°をなす面である必要はなく、その光学系および撮像素子における解像度において試料の形状を認識できる程度の傾きの範囲内にある観察面であればよい。

また、以上の説明では試料固定部の一例として、試料がステージに載置される例を示したが、例えばステージの代わりにアームを取り付け、その先端に試料を固定する構成とすることもできる。さらにカメラ１０ａは、カメラ取り付け部４３に装着して使用する他、脱着可能として手持ち等の方法により所望の位置、角度に配置することもできる。

図１に示す照明部６０は、試料に落射光を照射するための落射照明６０Ａと、透過光を照射するための透過照明６０Ｂを備える。これらの照明は、光ファイバー６１を介して情報処理装置５０と接続される。情報処理装置５０は光ファイバー６１を接続するコネクタ６２を備えると共に、コネクタ６２を介して光ファイバー６１に光を送出するための光源（図示せず）を内蔵する。光源にはハロゲンランプ等が用いられる。
［制御部５１］

制御手段である制御部５１は、撮像した観察画像を、表示部５２で表示可能な解像度に変換して表示するよう制御する。図１の拡大観察装置においては、撮像部１０がＣＣＤ１２によって試料Ｓを撮像した観察画像を表示部５２に表示する。一般にＣＣＤ等の撮像素子の性能は、表示部での表示能力を上回ることが多いので、撮像した観察画像を一画面に表示するためには画像を間引く等して解像度を一画面で表示可能なサイズまで落とし、縮小表示している。撮像部１０で読み取ったときの読取解像度を第一の解像度とすると、表示部５２においては第一の解像度よりも低い第二の解像度で表示されることとなる。
［第２の実施の形態］

次に、本発明の第２の実施の形態に係る拡大観察装置を、図３を用いて説明する。第２の実施の形態の拡大観察装置において、撮像部であるカメラは、試料Ｓに対して照射された第一の光源（レーザ１０１）からの光の反射光を第一の光学系１００を介して第一の受光素子（フォトダイオード１１２）によって受光する第一の撮像部と、試料Ｓに対して照射された第二の光源（白色ランプ２０１）からの光の反射光を第二の光学系２００を介して第二の受光素子（ＣＣＤ２１２）によって受光する第二の撮像部とを備える。

まず、第一の撮像部について説明する。第一の光学系１００は、試料Ｓに単色光（例えばレーザ光）を照射するレーザ１０１、第一のコリメートレンズ１０２、偏光ビームスプリッタ１０３、１／４波長板１０４、水平偏向装置１０５、垂直偏向装置１０６、第一のリレーレンズ１０７、第二のリレーレンズ１０８、対物レンズ１０９、結像レンズ１１０、ピンホール板１１１、フォトダイオード１１２を有する。

第一の光源には、例えば赤色レーザ光を発する半導体レーザ１０１が用いられる。レーザ駆動回路１１５によって駆動されるレーザ１０１から出射されたレーザ光は、第一のコリメートレンズ１０２を通り、偏光ビームスプリッタ１０３で光路を変えられ、１／４波長板１０４を通過する。この後、水平偏向装置１０５および垂直偏向装置１０６によって水平（横）方向および垂直（縦）方向に偏向された後、第一のリレーレンズ１０７および第二のリレーレンズ１０８を通過し、対物レンズ１０９によってステージ３０上に置かれた試料Ｓの表面に集光される。

水平偏向装置１０５および垂直偏向装置１０６は、それぞれガルバノミラーで構成され、レーザ光を水平および垂直方向に偏向させることにより、試料Ｓの表面をレーザ光で走査する。ステージ３０は、ステージ昇降器２０によりｚ方向（光軸方向）に駆動される。これにより、対物レンズ１０９の焦点と試料Ｓとの光軸方向での相対距離を変化させることができる。

試料Ｓで反射されたレーザ光は、上記の光路を逆に辿る。すなわち、対物レンズ１０９、第二のリレーレンズ１０８および第一のリレーレンズ１０７を通り、水平偏向装置１０５および垂直偏向装置１０６を介して１／４波長板１０４を再び通る。この結果、レーザ光は偏光ビームスプリッタ１０３を透過し、結像レンズ１１０によって集光される。集光されたレーザ光は、結像レンズ１１０の焦点位置に配置されたピンホール板１１１のピンホールを通過してフォトダイオード１１２に入射する。フォトダイオード１１２は受光量を電気信号に変換する。受光量に相当する電気信号は、出力アンプおよびゲイン制御回路（図示せず）を介してＡ／Ｄコンバータ１１３に入力され、デジタルデータに変換される。ここでは、第一の受光素子としてフォトダイオードを用いる例を示したが、フォトマルチプライヤ等を用いてもよい。また、レーザ１０１は赤色レーザに限定されず、青色、紫外光レーザを用いてもよい。このような短波長レーザを用いることによって高解像度の高さデータが得られる。

上記のような構成の第一の撮像部により、試料Ｓの高さ（深さ）情報を得ることができる。以下に、その原理を簡単に説明する。上述のように、ステージ３０がステージ昇降器２０のステッピングモータ２１およびモータ制御回路２２によってｚ方向（光軸方向）に駆動されると、対物レンズ１０９の焦点と試料Ｓとの光軸方向における相対距離が変化する。そして、対物レンズ１０９の焦点が試料Ｓの表面（被測定面）に結ばれたときに、試料Ｓの表面で反射されたレーザ光は上記の光路を経て結像レンズ１１０で集光され、ほとんどすべてのレーザ光がピンホール板１１１のピンホールを通過する。したがって、このときにフォトダイオード１１２の受光量が最大になる。逆に、対物レンズ１０９の焦点が試料Ｓの表面（被測定面）からずれている状態では、結像レンズ１０９によって集光されたレーザ光はピンホール板１１１からずれた位置に焦点を結ぶので、一部のレーザ光しかピンホールを通過することができない。その結果、フォトダイオード１１２の受光量は著しく低下する。

したがって、試料Ｓの表面の任意の点について、ステージ３０をｚ方向（光軸方向）に駆動しながらフォトダイオード１１２の受光量を検出すれば、その受光量が最大になるときのステージ３０の高さを求めることができる。

実際には、ステージ３０を１ステップ移動するたびに水平偏向装置１０５および垂直偏向装置１０６によって試料Ｓの表面を走査してフォトダイオード１１２の受光量を取得する。図４は、１つの点（画素）におけるステージ３０の高さｚに対する受光データＤの変化を示す。ステージ３０を測定範囲の下端から上端までｚ方向に移動させたとき、走査範囲内の複数の点（画素）について、図４に示したように高さｚに応じて変化する受光データＤが得られる。この受光データＤに基づいて、最大受光量とそのときの焦点距離Ｚｆが各点（画素）ごとに得られる。この受光データＤの最大値に対応するステージ３０の高さｚが焦点距離Ｚｆとなる。したがって、この焦点距離Ｚｆに基づいて試料Ｓの表面高さのｘ−ｙ平面での分布が得られる。この処理は、インターフェイス５３を介して入力されると共にメモリ５３に記憶されたＣＣＤ１２の受光データＤを画素の配置情報（ｘ、ｙ）および高さ情報ｚに基づいて、制御部５１によって行われる。

得られた表面高さの分布は、いくつかの方法で表示部５２に表示することができる。例えば３次元表示によって試料の高さ分布（表面形状）を立体的に表示することができる。あるいは、高さデータを輝度データに変換することにより、明るさの２次元分布として表示できる。また高さデータを色差データに変換することにより、高さの分布を色の分布として表示してもよい。

第２の実施の形態においても、第１の実施の形態と同様に、第一の撮像部によって得られた高さデータに基づき、ポインティングデバイス５５Ａ等によって表示部５２の画像上の２点を指定することによって矩形状に領域の設定を行い、領域内の平均高さや各領域間の相対高さを演算し、表示部５２に表示することができる。

また、ｘ−ｙ走査範囲内の各点（画素）について得られた受光量を輝度データとする輝度信号から、試料ｗの表面画像（白黒画像）が得られる。各画素における最大受光量を輝度データとして輝度信号を生成すれば、表面高さの異なる各点でピントの合った被写界深度の非常に深い共焦点画像が得られる。また、任意の注目画素で最大受光量が得られた高さ（ｚ方向位置）に固定した場合は、注目画素の部分と高低差が大きい部分の画素の受光量は著しく小さくなるので、注目画素と同じ高さの部分のみが明るい画像が得られる。

次に、第二の撮像部について説明する。第二の光学系２００は、試料Ｓに白色光（カラー画像撮影用の照明光）を照射するための第二の光源２０１、第二のコリメートレンズ２０２、第１ハーフミラー２０３、第２ハーフミラー２０４、第２受光素子としてのＣＣＤ２１２を有する。また、第二の光学系２００は第一の光学系１００の対物レンズ１０９を共用し、両光学系１００、２００の光軸は一致している。

第二の光源２０１には例えば白色ランプが用いられるが、特に専用の光源を設けず、自然光または室内光を利用してもよい。第二の光源２０１から出た白色光は、第二のコリメートレンズ２０２を通り、第一のハーフミラー２０３で光路を曲げられ、対物レンズ１０９によってステージ３０上に置かれた試料Ｓの表面に集光される。

試料Ｓで反射された白色光は、対物レンズ１０９、第一のハーフミラー２０３、第二のリレーレンズ１０８を通過し、第二のハーフミラー２０４で反射されてカラーで受光可能なＣＣＤ２１２に入射して結像する。ＣＣＤ２１２は、第一の光学系１００のピンホール板１１１のピンホールと共役または共役に近い位置に設けられている。ＣＣＤ２１２で撮像されたカラー画像は、ＣＣＤ制御回路２１３によって読み出されると共にデジタルデータに変換される。このようにして得られたカラー画像は、試料Ｓの観察用の拡大カラー画像として表示部５２に表示される。

また、第一の撮像部で得られた被写界深度の深い共焦点画像と第二の撮像部で得られた通常のカラー画像とを組み合わせて、すべての画素でピントの合った被写界深度の深いカラー共焦点画像を生成し、表示することもできる。例えば、第二の撮像部で得られたカラー画像を構成する輝度信号を第一の光学系１００で得られた共焦点画像の輝度信号で置き換えることにより、簡易的にカラー共焦点画像を生成することができる。

ここでは、共焦点光学系である第一の光学系１００を有する第一の撮像部と非共焦点光学系である第二の光学系２００を有する第二の撮像部を備える拡大観察装置を示したが、第１の撮像部のみを備える構成とすることもできる。

また、第１の実施の形態に係る拡大観察装置のように、受光素子は２次元状に配置された画素毎に受光量を読み取る２次元撮像素子（例えばＣＣＤ）であり、焦点調整部が領域設定部によって設定された領域に対応する試料の一部または全部に対応する受光量の和に基づいて焦点を調整する構成とした場合、共焦点光学系のような複雑な構成を必要とすることなく、簡単な構成で試料の高さを測定することができる。特に、この拡大観察装置においては、画素単位でなく、操作者によって設定された領域単位、すなわち相当数の画素の相対距離に対する受光データの変化から受光データの最大値を判断すると共に、そのときの平均焦点距離に基づいて平均高さを演算することから、白色光を光源としＣＣＤを受光素子として用いた場合であっても、各画素における受光データの焦点距離に対する変化のばらつきを低減でき、信頼性の高い平均高さの測定を行うことができる。さらに、２次元撮像素子としてカラーＣＣＤを用いる場合は、ＲＧＢの受光データに基づいてその画素の受光データを算出してもよく、またＲＧＢのうちの１または２の色調の受光データに基づいてその画素の受光データとしてもよい。

また、領域設定部によって設定された領域が、試料の大きさよりも大きく試料の全部を含んでいる場合には、試料以外の部分、すなわちステージの上面は平均高さの演算の対象から除外することが好ましい。より正確な試料の高さを演算することができるからである。この場合ステージの上面であるか否かは、その画素とその画素に隣接する画素との高さの差が所定高さ以上あるか否か等によって判別することができる。もちろん、領域設定部によって設定された領域が、試料の一部であっても、ステージの上面が領域に含まれる場合は、平均高さの演算の対象から除外することが好ましい。

また、以上の実施の形態においては、試料固定部に固定された試料からの反射光を電気的に読み取る例を示したが、試料の背面から光を照射してその透過光を電気的に読み取るように構成してもよい。また、以上の説明では、試料固定部の一例として、試料がステージに載置される例を示したが、例えばステージの代わりにアームを取り付けその先端に試料を固定する構成とすることもできる。
［３次元画像］

また拡大観察装置は、２次元的な画像のみならず、３次元画像を表示させることもできる。３次元データに基づいて３次元画像を拡大観察装置の表示部５２に再現することで、様々な視点や角度から立体的に画像を観察、評価したり、高さなど表面形状やプロファイルの測定を行うことができる。３次元画像を生成して表示するには、例えば光軸方向における相対距離、すなわち観察対象の試料とレンズの距離を変化させて、画像を複数枚撮像し、同時に画像撮像時の移動量を記録しておく。これによって合成画像を作成する際に観察対象の高さ情報も得ることができるので、取得した画像を３次元データとして構築できる。なお３次元データの生成や後述する位置合わせなどの処理は、制御部５１で行われる。制御部５１などの部材は、所定のゲートアレイ（ＦＰＧＡ、ＡＳＩＣ）等のハードウエアやソフトウエア、あるいはこれらの混在により実現できる。また必ずしも各構成要素が図２や図３に示した構成と同一でなくてもよく、その機能が実質的に同一であるもの、及び一つの要素が図２や図３に示す構成における複数の要素の機能を備えるものは、本発明に含まれる。

一般的な３次元データの撮像方法を図５に基づいて説明する。まずステップＳ１で撮像部１０、ステージ昇降器２０および情報処理装置５０等を初期化する。そしてステップＳ２で、レンズの移動量と移動範囲を設定する。レンズの移動範囲はレンズの高さの範囲であり、例えばユーザが大まかな高さを移動開始位置として指定する。またレンズの移動量はレンズの一回当たりの移動距離であり、細かく設定するほど詳細な画像が撮像できる反面、生成に時間がかかるので、観察目的に応じて適切な値に設定する。指定方法としては、ユーザが画像の精細さを指定し、これに応じた移動距離を拡大観察装置側が自動的に設定したり、ユーザが直接移動距離を数値などで指定する、あるいはデフォルトの既定値を利用するなどの方法がある。

次にステップＳ３では、上記で指定された移動開始位置にレンズを設定する。そしてステップＳ４で撮像を開始する。撮像後、ステップＳ５でレンズをステップＳ２で設定された移動量だけ移動させ、ステップＳ６で移動範囲が終了位置に達したか否かを判定を行う。終了位置に達していない場合はステップＳ４に戻って撮像と移動ステップを繰り返す。移動の結果、ステップＳ２で設定された移動範囲を終えた時点でステップＳ７に移行し、２次元の撮像画像を合成する。そしてステップＳ８で、撮像された複数の２次元画像データに基づいて３次元画像データを構築し、表示部５２に表示させる。
［３次元画像データの作成］

３次元データの構築には、レンズの位置とそのときに撮像された画像から、高さ方向に変化するプロファイルが演算できるので、異なる高さ毎に撮像された複数枚の２次元画像データを合成することで、立体的な形状を構築できる。例えば撮像された２次元画像で得られる離散的なプロファイルを補完して、連続的なプロファイルを合成する。この処理はハードウェア的に高速に行うことができる。

以下、図６のフローチャートに基づいて３次元画像を合成する一手順を説明する。ここでは、複数の２次元画像を入力画像とし、これらに基づいて３次元画像データを生成すると共に、３次元画像をピントのあった状態に合成した２次元合成画像を生成する。まず、ステップＳ８−１で各部の初期化を、ステップＳ８−２で合成画像を作成する領域として用意された合成画像領域の初期化を行う。そしてステップＳ８−３で、入力画像である２次元画像データの周波数解析を行う。例えば２次元離散フーリエ変換や２次元離散ウェーブレット変換などによって、画像データの周波数成分を検出できる。さらにステップＳ８−４で、一定の領域について合成画像と入力画像を比較する。一定の領域とは、合成画像領域を所定の基準領域に分割したものであり、この基準領域を単位として合成画像と入力画像を比較しながら合成画像領域を走査していく。

そして、ステップＳ８−５で入力画像が合成画像よりピントが合っているかどうかを判定する。ピントの合焦点の度合いについては、上記ステップＳ８−３における周波数的な解析の結果から判断できる。判定の結果、入力画像の方がピントが合っている場合はステップＳ８−６に移行して、一定の領域について合成画像データを入力画像データと入れ替える。さらに、入れ替えた入力画像データを撮像時の高さ情報も合わせて保存される。そしてステップＳ８−７に進む。一方、ピントが合っていない場合はステップＳ８−６をスキップしてステップＳ８−７にジャンプする。なお、最初のループでは合成画像データの入力がない状態であるため、入力画像がそのまま合成画像として入力される。そしてステップＳ８−７のループを繰り返す内、ピントの合う画像と次々に入れ替えられ、最終的にピントのあった２次元合成画像が取得される。

ステップＳ８−７では、次の入力画像が存在するか否かを判定する。存在する場合はステップＳ８−３に戻ることで、すべての入力画像について上記の処理を繰り返す。存在しない場合は処理を終了する。以上のステップを経て、複数の２次元画像データからピントのあった２次元合成画像が取得され、同時に各ピントの合った位置における高さ情報が得られているため、立体的な情報を持つ３次元画像データが構築される。

以上のようにして構築された３次元画像は、自由に観察視点を変更したり画像を拡大・縮小等して表示させることができる。観察視点の変更には、任意の方向への画像の回転、反転、変形等の処理も含まれる。変更操作は、マウス５５ａ等のポインティングデバイス５５Ａで行われる。画像の回転は、マウス５５ａを操作し、画像を選択してドラッグしたままマウスポインタ５５ｅを移動させることで、ドラッグされた方向に回転する。また拡大・縮小は、ホイールマウスのスクロールボタン５５ｄに画面の拡大、縮小機能を割り当てることも可能である。これらの方法に限られず、操作部として操作ボタンやツールをソフトウェア画面上に配置して操作したり、操作機能をキーボードの特定のキーに割り付けたり、操作用の専用ハードウェアを操作部とすることもできる。

このような３次元画像の取得方法や、取得された３次元データの表示を変更する手法は、既知の方法や将来開発される方法が適宜利用できる。例えば、オープンＧＬ（Open Graphics Library）等のＡＰＩが利用できる。

取得された３次元データについては、上述の撮像過程で取得した撮像位置に関する基準情報を併せて保持できる。位置に関する基準情報は、撮像時におけるＸ，Ｙ，Ｚ方向の基準となる情報である。上述の通り３次元データの構築には、撮像時のレンズの高さとその高さで撮像された２次元画像が用いられ、異なる高さ毎に撮像された複数枚の２次元画像データを合成して３次元画像データが構築されるため、上述したレンズの移動量や移動範囲といった画像撮像時の高さ方向の移動量が記録されている。この情報を高さ方向、すなわちＺ方向の基準情報として利用する。また、Ｘ，Ｙ方向については、例えば３次元画像データの構築に使用された２次元画像の１ピクセルが、実際にどのくらいの長さに相当するかという実寸法に関する情報が利用できる。これらの基準情報を保持することで、複数の３次元画像を比較する際の倍率の調整や位置合わせ等に利用できる。なお、ここで必要な情報は必ずしも撮像された画像の実寸法に相当する情報でなくともよく、他の３次元画像データと相対的に比較できる情報であれば足り、例えば撮像時の拡大率や解像度、ドット数等も利用できる。このように、３次元画像データに基準情報を持たせることで、後述するように比較対象となる各３次元画像が持つＸ，Ｙ，Ｚ方向の基準データを元に、基準となる３次元画像データに合わせて比較する３次元画像の表示倍率を拡大縮小する。

また、基準情報に加えて、倍率情報や撮影条件に関する情報を併せて保持することもできる。例えば、照明の強度や撮影時刻、試料名など、任意のデータを３次元画像データと共に保存することができる。データの保存形式としては、３次元画像データファイルに、これらの情報を保持する専用のデータ領域を設けて、この部分にデータを書き込む方法などが利用できる。あるいは、個別のファイルに保存したデータを関連付けて保存することもできる。
［表示領域］

このようにして撮像された３次元画像を同一画面上に複数並べて表示させることで、対比を容易に行うことができる。図７に、本発明の一実施の形態に係る拡大観察用操作プログラムのインターフェース画面を示す。この図に示すインターフェース画面は、２つの表示領域Ａ、Ｂを設け、画面の左側を表示領域Ａ、右側を表示領域Ｂとしている。このように、一の画面上の任意の位置に表示領域（３次元画像）を配置する構成の他、例えば画面に境界線を表示して複数の表示領域に分割してもよい。あるいは、別ウィンドウで表示領域を構成し、一画面上に複数のウィンドウを縮小して並べて表示することもできる。

それぞれの表示領域Ａ、Ｂには、異なる３次元画像を表示できる。各々の領域において表示したい３次元画像をユーザは選択する。例えば、「ファイルを開く」ダイヤログボックスから、保存されたファイルを選択して開く。各々の３次元画像は、それぞれ個別に視点を変更したり、回転、拡大・縮小することができる。例えば一方の画像を固定したまま他方の画像のみを回転させたり拡大縮小できる。また、複数の３次元画像を連動して視点変更、拡大・縮小などさせることもできる。このような各画像を連動させた表示変更モードと、独立させた個別の表示変更モードとを切り替えて操作できる。図８は、図７の状態から表示領域Ａの３次元画像を固定したまま、表示領域Ｂの３次元画像の視点を変更した状態を示す。また図９は、図７の状態から表示領域Ｂの３次元画像を固定したまま、表示領域Ａの３次元画像の表示を変更した状態をそれぞれ示す。さらに図１０は、図７の状態から、表示領域Ａ、Ｂ両方の３次元画像を同時に変化させる例を示す。上記の例では、マウス５５ａの左右ボタン５５ｂ、５５ｃにそれぞれの画像の視点変更を割り当てている。マウス５５ａの左ボタン５５ｂを押下したままマウス５５ａを移動させると、その方向に画面左の表示領域Ａの３次元画像が回転し（図９）、同様にマウス５５ａの右ボタン５５ｃを操作すると、画面右に配置された表示領域Ｂの３次元画像が操作できる（図８）。また、マウス５５ａの左右ボタン５５ｂ、５５ｃを同時に押下して操作すると、左右の３次元画像が同時に操作でき、同じように回転される（図１０）。さらに、この例ではマウス５５ａのスクロールボタン５５ｄを回転させると２つの表示領域が同時に拡大・縮小される（図１１〜図１３）。スクロールボタン５５ｄを手前から奥に回転させると、画面が拡大表示され、図１１から図１２、図１３のように細部が確認できる。また逆に回転させると画面が縮小されて、図１３から図１２、図１１のように切り替えられる。この例に限られず、一方の倍率を固定して、他方の３次元画像のみを拡大・縮小表示させることもできる。なお、各表示領域で異なる観察対象を表示することはもちろん、同一の観察対象を各表示領域で異なる視点から表示することも可能であることはいうまでもない。

このように２つの画像を同一画面に表示させ、さらに表示態様を自由に変化可能とすることによって、画像の対比が容易に行える。また、任意の表示領域に表示される観察対象を固定し、他の表示領域に表示される観察対象を他の画像と入れ替えて表示することも可能である。また、入れ替える画像を自動的に切り替えて表示させてもよい。この機能は、特に良品と不良品の判別などの作業に好適に利用できる。例えば、基準となるリファレンス品と検査対象品を同時に表示させ、一方の表示領域でリファレンス品を表示させたまま、他方の表示領域で検査対象品の画像を順次入れ替えて表示することにより、同じ種類の検査対象品を順次比較検査できる。また、後述するように各画像を同じ姿勢や角度等の表示状態で表示させることにより、リファレンス品と検査品をさらに効率よく対比観察できる。さらにまた、入れ替える画像をスライドショーのように自動的に更新してもよい。これによって同じ種類の検査品から不良品を容易に発見できるようになる。

もちろん、表示部５２には一の画像のみを表示させることもできる。図１６に、他の実施の形態として異なるインターフェース画面に対象画像を表示する例を示す。このように、表示部に一の画像のみを表示させるモードと、複数の表示領域を表示するモードとを制御部５１で切り替えて表示できる。
［画像の位置合わせ］

さらに、複数の表示領域で表示される画像群は、それぞれが同一の姿勢や位置、角度や傾きで表示されるように調整できる。この調整は、ユーザが手動で行う他、自動的に行うこともできる。例えば、図１４に示すように２つの観察対象のワークＷ１、Ｗ２の初期表示状態が合致しないでずれることも考えられる。初期位置がずれているとその後の比較がしづらくなるので、図１５に示すように２つのワークＷ１、Ｗ２が同一の姿勢で表示されるように画像の視点や傾きを修正する。この例では、左側の表示領域ＡのワークＷ１をリファレンスとして固定し、右側の表示領域Ｂに表示されるワークＷ２が、表示領域ＡのワークＷ１と同一の姿勢で表示されるように、画像認識やパターンマッチングの技術を利用して自動調整される。例えば各画像から特徴点を抽出して同一の箇所を特定し、この位置を基準として同一の姿勢となるようにいずれか、あるいは両方の画像を回転させる。両方の画像を回転させる際には、水平姿勢の正面図や平面図、右斜め上４５°から見た斜視図など、基準となる所定の表示形態を予め設定しておき、両方の画像をこの姿勢に合致させる。あるいは、任意の時点における一方の表示領域での表示状態に視点や拡大率を合わせるように、他方の表示領域における表示状態を調整することもできる。例えば図９や図１０に示すインターフェース画面において、類似のワークＷ３、Ｗ４が異なる視点で表示されている状態から、両者の姿勢を揃えるように一方を回転させ、また一方のワークを回転、拡大縮小させるのに同期して、他方のワークの表示状態も同様に変更することができる。

ワークＷ１、Ｗ２の位置合わせを行う具体的な手法を、図１７のフローチャートに基づいて説明する。まず、ステップＳ’１で各部の初期化を行う。次いでステップＳ’２でワーク１の画像合成処理を、ステップＳ’３でワーク２の画像合成処理をそれぞれ行う。画像合成処理は、図６に基づいて上述した３次元画像データの作成と同様の処理である。ここでは、ピントのあった２次元画像同士の位置決めを行う。次にステップＳ’４で、ワーク１とワーク２の２次元合成画像間でパターンマッチングを行う。さらにステップＳ’５で、ワーク１とワーク２の画像のパターンマッチング結果に基づいて、画像間の位置ずれしている回転角度および拡大率を計算する。この計算結果を基に、ステップＳ’６で一方の画像について位置の補正を行う。すなわち、基準となる画像と略同一の表示となるように、回転角度と拡大率を変更して表示する。これによって、２次元画像の位置合わせが実現される。

以上の手順では、３次元画像を特定の姿勢で表示した２次元画像を対象に画像の位置あわせを行った。この例に限られず、３次元画像データ同士の位置合わせを行うこともできる。例えば、３次元のパターンマッチングや、３次元の各画像データから立体画像の重心を算出し、重心の軸を基準として３次元画像の姿勢を調整することで、３次元画像を同一姿勢に一致させることができる。重心軸の算出にはモーメントの演算等が利用できる。これによって、３次元の画像データを使って２次元データよりも正確な位置合わせが実現される。

姿勢や角度などを同じくする表示態様で複数の画像を表示させることによって、両者の共通部分の認識や相違点の把握を容易に行える。さらに、位置合わせの自動調整機能を使用することで、撮像された画像の表示状態を手動で一致させる手間を省くことができ、例えば画像撮像時の位置決め作業を簡素化して画像取り込みを容易にできる。

またこの位置合わせは、任意のタイミングで実行できる。例えば画像を画面に表示させた際の初期状態として自動的に行わせることもできる。あるいは、それぞれの画像に対して回転や拡大・縮小などの処理を行った後に、これらの操作をリセットして同一姿勢や初期状態、あるいは設定された状態に回転角度や拡大率などを戻すこともできる。設定された状態としては、任意の回転角や姿勢が設定でき、例えば平面図や斜視図の表示姿勢等が指定できる。特に自動調整された状態を初期状態に設定しておくことで、常に同じ姿勢で対比可能な状態に角度や拡大率を戻すことができ、操作のやり直しや確認作業等に便利である。なお設定された姿勢や初期状態に戻す機能は、すべての表示領域に対して一律に実行する他、任意の表示領域のみを対象とすることもできる。このような位置合わせ機能の実行には、専用の位置合わせボタンを用意しておくことで、機能の呼び出しが容易となりユーザは任意のタイミングで所定の姿勢への復帰を行える。また、画面をダブルクリックする、あるいは特定のショートカットを割り当てる等の方法で位置合わせ機能や初期状態へのリセットを実行させることも可能である。

上記の例では表示領域Ａ、Ｂの２つで３次元画像を表示させる例を示したが、３以上の３次元画像を表示させることも可能であることはいうまでもない。また、３次元画像に限られず２次元画像等を表示することも可能である。さらに、同一の観察対象を複数の画面に表示させることも可能である。例えば、同一の試料につき、正面と背面を同時に確認するなど、視点を変えた画像を表示させる場合に有効である。
［キャリブレーション機能］

次に、画像の位置合わせについて具体例を詳述する。図１８は、画像の位置合わせ等の操作を行う拡大観察用操作プログラムのコントローラ部３００のユーザインターフェース画面を示すイメージ図である。まず画像の位置合わせ、すなわち同一の対象物を複数の画像で表示する際に、各画像で表示される対象物の大きさが一致するように補正するキャリブレーション機能について説明する。キャリブレーション機能は、例えば同一の試料を異なる倍率で撮像したため、得られた３次元画像のサイズが異なる場合に、これらの３次元画像で表示される試料の大きさを画面上で揃えるように、一方を拡大・縮小して他方に合わせるよう補正する機能である。キャリブレーション機能は、図２６に基づいて後述する倍率調整部５２２により実現される。図１８において、下段の「ファイル選択」欄３０２から、まず基準（リファレンス）となる３次元画像データを選択する。図の例ではプルダウンメニューで選択しているが、「ファイルを開く」ダイヤログ画面等から選択することも可能であることはいうまでもない。ファイルを選択して「３Ｄを表示」ボタン３０４を押下すると、表示部５２Ｂとして図１９のような３次元画像のビューワ画面が開き、選択された３次元画像が表示される。この状態では、一の３次元画像のみが表示され、ユーザは上記と同様に画像の拡大・縮小や回転、移動等を行うことができる。また下部の「３Ｄを閉じる」ボタン３０６を押下すると、図１９のビューワ画面を閉じる。

次に、基準３次元画像と比較したい比較３次元画像データを、同じく図１８の「ファイル選択」欄３０２から選択する。ファイルを選択後、「ファイル選択」欄３０２の上段に設けられた「３Ｄファイル比較」欄３１０の「比較モード」ボタン３１２を押下すると、表示部５２Ｂは図２０に示すような画面に切り替わり、表示領域Ａ、表示領域Ｂに分割される。ここでは、既に表示されている基準３次元画像が左側の表示領域Ａに表示されると共に、その右側の表示領域Ｂに、選択した比較３次元画像が並んで表示される。なお、基準３次元画像を保持したまま、比較３次元画像を入れ替える場合は、同様にして図１８の「ファイル選択」欄３０２から、新たに選択したい基準３次元画像を選択する。そして「ファイル選択」欄３０２の上部に設けられた「サブ切換」ボタン３１３を押下すると、図２０において左側の表示領域Ａはそのままで、右側の表示領域Ｂに、新たに選択した比較３次元画像が並んで表示される。

図２０の例に示す画像データは、同一あるいは類似の対象を撮影したものであるが、撮像時の倍率が異なっており、表示されるイメージの大きさが一致しない。この状態から、図１８の「３Ｄファイル比較」欄３１０の「連動モード」ボタン３１４を押下すると、図２１に示すように、比較３次元画像の表示倍率が変更されて、左側の基準３次元画像と同じ大きさとなるように縮小して表示される。拡大縮小倍率の調整は、上述したとおり３次元データと共に保存された撮像位置に関する基準情報に基づいて行われる。ここでは、各画像の撮像時の倍率を比較して、左側の基準３次元画像の倍率を基準として、右側の比較３次元画像の倍率を一致させるように自動的に拡大縮小率を演算し、演算された値に基づいて表示倍率を変更している。これによって、同じスケールで画像を並べて比較できるので、対比して観察する際に非常に便利となる。なお、倍率調整部５２２は、表示の拡大縮小倍率の調整を自動で行うこともできるが、手動で行うようにすることもできる。ユーザが手動で表示倍率を変更するには、例えばマウス５５ａで対象となる３次元画像を選択後、スクロールボタン５５ｄをクリックしたままマウス５５ａを下方に動かすと画像が縮小表示され、上方に動かすと拡大表示される。
［画像の視点合わせ］

次に、観察の視点を合わせる手順について説明する。上記と同様に、図１８のコントローラ部３００から基準３次元画像を選択して表示させ、所望の視点に調整する。視点の調整は、上述の通りマウスのドラッグなどにより行える。ここでは、図１９の基準３次元画像を図２２のように視点を変更したものとする。次に、上記と同様にして図１８のコントローラ部３００から比較対象の比較３次元画像を選択して「比較モード」ボタン３１２を押下すると、図２３に示すように基準３次元画像が左側の表示領域Ａに、比較３次元画像が右側の表示領域Ｂに、各々表示される。この状態から、図１８の「３Ｄファイル比較」欄３１０の「同期セット」ボタン３１６を押下すると、図２４に示すように比較３次元画像の姿勢が、左側の基準３次元画像と同じ視点となるように変更される。視点の変更処理には、上述した画像認識やパターンマッチングの技術が利用される。各画像の回転角度やオフセット位置などを演算し、比較３次元画像の表示姿勢が基準３次元画像と一致するように演算して処理される。またこの際に、上述した３次元データと共に保存された撮像位置に関する基準情報を利用してもよい。以上のようにして、同じ視点から２つの画像を対比して観察できるので、ユーザは視点合わせを手動で行う必要が無く便利に使用できる。

さらにこの状態から、図１８の「３Ｄファイル比較」欄３１０の「連動モード」ボタン３１４を押下すると、図２５に示すように、視点を同じに維持したまま比較３次元画像の表示倍率が変更されて、左側の基準３次元画像と同じ視点および倍率で表示される。このように、倍率および視点の一致を共に行うことで、様々な画像を観察しやすい優れた環境が実現される。

またユーザは、表示中の３次元画像を表示状態を、２次元画像として保存することもできる。図１８のコントローラ部３００画面上部の「高さ調整」スライダ３２０の下に設けられた「保存」ボタン３２２を押下すると、２次元画像として保存するダイヤログボックスが開くので、保存先やファイル名、ファイル形式などを指定して、３次元画像を現在表示中の２次元画像として保存する。また、「保存」ボタン３２２の下に設けられた「リセット」ボタン３２４は、３次元画像を回転、移動等させた後初期状態に戻したい場合に押下すると、ファイルを開いた直後の状態での初期状態の姿勢に戻る。さらに「保存」ボタン３２２の上方に配置された「高さ調整」スライダ３２０は、３次元画像の立体感を調整するものである。「高さ調整」スライダ３２０を中間位置から下方に移動させるほど、立体感が強調され、逆に上方に移動させるほど立体感が弱められ平面に近付く。なお、ここで説明したコントローラ部３００の機能や操作方法は一例であって、プログラムのユーザインターフェース画面や操作方法などは、適宜変更可能であることはいうまでもない。また、コントローラ部に相当するハードウェアを拡大観察装置に設置することもできる。
［３次元表現パターン画像］

次に、３次元画像の高さに基づいて３次元表現パターン画像を生成する手順について説明する。撮像部で撮像された３次元画像は高さ情報を有しているが、その表面状態によっては高さが判別しづらいことがある。一般に、３次元画像はコンピュータグラフィック（ＣＧ）の技法を用いて、表面を撮像した画像データ（テクスチャ）を３次元画像に貼り付けるなど、表示画面上で擬似的に再現されたものであるため、表面の模様が複雑な場合など、高低差を判別し難くなることがある。そこで、３次元画像の表面を高低差に応じて色分けするよう着色し、色の違いで高さを表現することが行われている。例えば、高い位置から低い位置にかけて、色を赤→橙→黄→緑→水→青→黒となるように、一定幅の高さ毎に色を区切ったり、あるいはカラーグラデーションによって漸増的に色変化させるなどして、所定の範囲の色変化を有する色パレットを作成し、色パレットの各色に対して高さを割り当てる。色パレットは、表示部で表示可能な色数の範囲内で、色の区分けを決定する。例えば８色や１６色、２５６色といった区分けを行う。色パレットに含まれる区分けされた色と高さの割り当ては、割り当て部５１２が自動的に行う。割り当て部５１２で決定された対応関係に基づいて、高さあるいは高さの範囲毎に色が１：１に対応する。なお、高さに対応する色をそのまま３次元着色画像に表示してもよいし、３次元画像上で高さ方向（Ｚ方向）に隣接する色同士の間でグラデーションを施し、色同士の境界部分をなめらかに表示するようにしてもよい。
［制御部５１のブロック図］

図２６に、生成された３次元画像に対して種々の処理を行う制御部５１の構成をブロック図で示す。この図に示すように、制御部５１は３次元画像を保持又は記憶するための記憶部５３Ａと、生成、調整された３次元画像や３次元着色画像を表示するための表示部５２と、ユーザが各種の操作を行うための操作部５５とを接続している。記憶部５３Ａは、上記の手順で生成した３次元画像を一時的に保存するメモリや、データファイルとして保存するハードディスクなどの二次記憶媒体などが利用できる。３次元画像データは、上述の通り、高さに関する情報及び大きさに関するＸ，Ｙ，Ｚ方向の基準データを含んでいる。操作部５５は、上述の通りユーザが拡大観察装置に対して操作を行うための入力デバイスである。また図２６に示す制御部５１は、割り当て部５１２と、着色画像生成部５１４と、画像調整部５１６と、モード切替部５１８を備える。画像調整部５１６はさらに、透過率調整部５２０と、倍率調整部５２２と、視点調整部５２４とを備えている。なお画像調整部５１６は、後述の通り３次元着色画像のみならず、元の３次元画像に対しても種々の調整を行うことができる。
［割り当て部５１２］

割り当て部５１２は、まず３次元画像データが有する高さ情報の分布を調べ、その最大高さと最小高さを検出する。一方で、所定の範囲の色を階調表示させて高さを表現する色パレットを予め設定し、この色パレットの範囲の終端に位置する最大色と最小色が、最大高さと最小高さになるように、高さと色の対応関係を割り当てる。割り当ては均等に行い、高さと色の範囲の終端値を一致させた状態で、色の区分け数で高さの高低差を均等に割り、区分けされた色毎の高さを算出する。３次元画像の高さは、最小値が０となるように相対的な高低差で算出することにより、分かり易くできる。また色の区分は、範囲の終端値である最大色と最小色を決定し、この間の区分けする増分が高さで５、１０、１００など、区切りのよい値となるように割り当てると、表示部５２での表示が見やすくなり好ましい。

また、割り当て部５１２による割り当て方法は、最大、最小高さといった終端の値を基準とする方法の他、例えば高さの分散や標準偏差に基づき、平均や中心値を基準として割り当てる方法や、ヒストグラムから高さの分布の多い領域を中心として割り当てる方法、あるいは最大値や最小値をエラーとして排除し、次点のデータに基づいて割り当てる方法なども適宜利用できる。
［着色画像生成部５１４］

このようにして対応関係が決まると、これに基づいて３次元画像の表面の高さ毎に色を割り当てていき、３次元着色画像を着色画像生成部５１４で生成する。３次元着色画像は、３次元画像の表面を走査し、各位置の高さ情報を色情報に置き換えて作成される。この例においては、３次元画像の表面位置のみについて着色を行うことで処理の簡素化を図っている。着色は、例えば、ワイヤフレームモデルをベースにして、各高さに割り当てられた色のテクスチャデータを表面に貼り付ける。ただ、より詳細な観察を行うためにサーフェスモデルやソリッドモデルを使用したり、ボクセル（３D画素）データに変換することもできる。一例として、図２７の３次元画像を３次元着色画像に変換した例を図２８に示す。３次元着色画像を表示するには、図１８に示すコントローラ部３００おいて「高さ／カラー」ボタン３２６を押下する。これにより３次元画像が３次元着色画像に切り替えられ、高さに応じて色分けされて表示されるので、試料の表面模様などに拘わらず形状、特に高さのイメージを容易に把握できるようになる。
［色ゲージ４０２］

さらに、表示部５２の一部に色と高さの対応関係を示す色ゲージ４０２を表示する。図２８の例では画面の左側に色ゲージ４０２を表示しているが、色ゲージ４０２は任意の位置に配置してよく、また表示／非表示を切り替え可能としてもよい。この図に示す色ゲージ４０２は、バー状の色パレットを縦置きに表示し、色に割り当てられた高さの代表値を併記している。色ゲージ４０２によって、どの色がどの程度の高さに相当するかの指標がユーザに理解でき、さらに高さの数値を併記することで表示部５２における長さと実際の寸法の尺度の表示ともなる。この例では、最低高さを基準すなわち０とする相対高さを示しており、最高高さを色ゲージ４０２の上部に表示することで、試料のピーク高さが理解できる。なお、高さの代表値は５、１０、１００など、一定の増分とすることもできる。またこの例では、最低高さを０とした相対高さを示しているが、相対高さの基準値は任意の値が使用でき、または絶対的な高さ表記とすることもできる。色ゲージ４０２を表示することで、ユーザは色と高さとの対応関係を確認できるので、この具体的な関係や値を一々記憶しておく必要がなく、色で高低のイメージを把握しつつ、具体的な値は色ゲージ４０２を参照して観察を容易にできる。
［スケールグリッド４０４］

さらに、３次元画像のＸ，Ｙ，Ｚ方向の大きさを示すスケールグリッド４０４を表示することもできる。図２９に、図２８の３次元着色画像にスケールグリッド４０４を表示した例を示す。この図に示すように、スケールグリッド４０４は３次元画像のＸ，Ｙ，Ｚ方向の直交座標軸を表示し、各座標軸上には尺度を表記する。尺度の表記は、色ゲージ４０２の尺度表記と一致させるが、ここでも５、１０、１００など、一定の増分の代表値としてもよい。スケールグリッド４０４を表示することで、３次元画像の奥行きや幅などの実際の寸法を把握できる。またスケールグリッド４０４は、３次元画像に付随して表示され、３次元画像を回転させると、スケールグリッド４０４も一体となって回転する。このため、直交座標が３次元画像の基準線のようにも機能し、回転角度や視点の確認にも役立つ。スケールグリッド４０４の表示切り替えは、図１８に示すコントローラ部３００の「スケール」ボタン３３０を押下することで、トグル式にＯＮ／ＯＦＦを切り替え可能である。
［透過率調整部５２０］

また、着色画像生成部５１４で生成された３次元着色画像は、表示部５２上で元の３次元画像上に重ねて表示可能である。また、元の３次元画像と独立して表示させてもよい。例えば元の３次元画像と並べて３次元着色画像を表示したり、３次元着色画像のみを表示させるよう構成できる。さらに３次元着色画像は透過性を持たせることができ、３次元画像に３次元着色画像を重ねて表示する際に、３次元画像の表面パターンが３次元着色画像の下から透けて見えるように調整できる。図３０に、図２９の３次元着色画像において透過率を５０％に設定した状態を示す。図３０は、図２７の元の３次元画像と図２８の３次元着色画像とを重ね合わせた状態に表示されており、これによって３次元画像で表示される観察対象の試料の高さと表面状態とを同時に確認できる。透過率は、図２６の画像調整部５１６に含まれる透過率調整部５２０で調整される。図１８に示すコントローラ部３００の例では、「高さ／カラー」ボタン３２６の下に設けられた透過率調整スライダ３２８を操作することで、透過率を０〜１００％まで連続的に調整できる。これにより、元の３次元画像と色による高さ情報とを同時に、所望の比率で表示でき、ユーザの嗜好や観察目的などに応じて調整できる。また透過率調整部５２０は、３次元着色画像でなく３次元画像の透過率を調整することでも同様の効果を得られる。
［倍率調整部５２２］

さらに、図２６の画像調整部５１６に含まれる倍率調整部５２２は、上述した画像の位置合わせを行うキャリブレーション機能を実行するための部材である。倍率調整部５２２により、後述するように複数の３次元画像を表示する際の試料の大きさを表示部５２の画面上で自動的に揃えることができる。
［視点調整部５２４］

さらにまた、図２６の画像調整部５１６に含まれる視点調整部５２４は、上述した複数の３次元画像の視点を合わせる機能を実現する。視点調整部５２４は、基準となる３次元画像で表示される対象物の視点と、比較対象となる３次元画像で表示される対象物の視点とを一致させるように調整する。具体的には、上述の通り画像認識やパターンマッチングなどの手法により、基準となる３次元画像の回転角度やオフセット量を検出し、これに基づいて比較３次元画像の姿勢を変更する。この視点調整部５２４は、３次元画像に対しても、３次元着色画像に対しても適用可能である。また、この視点調整部５２４は自動で相互の３次元画像の視点が一致するよう調整するが、ユーザが手動で３次元画像や３次元着色画像の姿勢を変更して、各画像の視点が一致するよう調整することもできる。ユーザが手動で視点を調整する場合は、上述の通りマウス５５ａを使用して各３次元画像を回転、移動させて、これらの姿勢が一致するように調整する。この例では、マウス５５ａの左ボタン５５ｂをドラッグすると選択された３次元画像が回転し、右ボタン５５ｃをドラッグすると３次元画像を移動できる。またスクロールボタン５５ｄをクリックしたままマウス５５ａを上下動させると、選択された３次元画像の表示倍率が変更される。なお、マウス５５ａの左右ボタン５５ｂ、５５ｃを同時にクリックすると、３次元画像読み込み時の初期状態の姿勢に戻すことができる。このような操作によって、ユーザは所望の視点に３次元画像を調整できる。
［高さ基準位置の指定］

さらに視点調整部は、３次元着色画像に限らず、複数の３次元画像を重ね合わせる際に、重ね合わせの基準となる高さを指定可能とすることで、重ね合わせを行う３次元画像間の高さに関してずれがある場合でも重ね合わせを容易に行える。異なる３次元画像においては、同じ形状を含んでいても高さ方向に位置ずれやオフセットが存在することがあり、このような画像においてはそのままで比較や重ね合わせを行う前に、基準となる高さを揃えてやることでこれらの作業をより適切に行うことができる。基準高さの指定は、３次元画像上から所望の位置をマウス等のポインティングデバイスでクリックすること等により容易に行える。このようにして、高さ方向の基準が異なる３次元画像においても、指定された基準に基づいて各画像の基準を揃えることにより、重ね合わせを容易に行うことができる。
［モード切替部５１８］

以上は、一枚の３次元画像に対して３次元着色画像を生成、表示する例を説明したが、本実施の形態では図３１及び図３２に示すように、複数の３次元画像に対しても同様に３次元着色画像を生成、表示できる。この際、高さと色の対応関係は、各画像毎に独立して設定することもできるし、統一した対応関係をすべての画像に適用することもできる。本実施の形態に係る拡大観察装置は、各３次元画像毎に独立して対応関係を設定する通常モードと、１の３次元画像を基準３次元画像として、これに基づいて設定される対応関係をすべての３次元画像に適用する絶対値比較モードを備えている。これらのモードは、図２６において制御部５１に含まれるモード切替部５１８により切り替えられる。モード切替部５１８は、ユーザが操作部５５によって命令を入力し、これに基づいてモードを切り替える。

図３１及び図３２は、類似する形状で大きさの異なる試料を撮像した３次元画像を、表示部５２の表示領域Ａ、Ｂにそれぞれ表示したものである。この例では、表示領域Ａに示す３次元画像を基準３次元画像とし、表示領域Ｂに示す３次元画像を比較３次元画像とする。これらの図に示す複数の３次元着色画像の表示例において、図３１は通常モードによる表示を、図３２は、絶対値比較モードによる表示を、それぞれ示している。
［通常モード］

通常モードでは、上述の通り各々の３次元画像に含まれる高さの最大値および最小値に色パレットの最大色および最小色をそれぞれ割り当て、各３次元画像毎に独立した対応関係を設定して、着色画像生成部５１４が３次元着色画像を生成して表示部５２に表示する。図３１の例では、表示領域Ａ、Ｂそれぞれにおいて各３次元画像に、色パレットの色をすべて割り当てて３次元着色画像を生成しているため、ダイナミックレンジを広くとり表現力の高い表示が可能で、各３次元着色画像を単独で観察するのに適している。また、通常モードにおいて、上述したスケールグリッド４０４の表示ＯＮ／ＯＦＦや透過率の変更が利用できる。図３３に、図３１の通常モードにおいて３次元着色画像の透過率を透過率調整スライダ３２８で０％として元の３次元画像を表示させた例を、また図３４に、同じく図３１の透過率を５０％として元の３次元画像に３次元着色画像を重ねて表示させた例を、それぞれ示す。一方、この状態では各３次元着色画像に着色した色パターンのスケール感が統一されていないため、実際の大きさを対比するには適していない。
［絶対値比較モード］

これに対して、図３２に示す絶対値比較モードでは、基準３次元画像である表示領域Ａの３次元画像データに基づいて決定された色パレットの対応関係を、表示領域Ｂの比較大正３次元画像にも適用している。このように共通の対応関係に基づいて着色を行う結果、同じ高さが同じ色で表示されるため、高さの比較という観察には適している。図３２の例では、同時にキャリブレーション機能を実行して、右側の比較３次元画像の表示倍率を変更して左側の基準３次元画像と同じスケールで表示している。これにより、高さののみならず、大きさも統一した状態でより精度の高い比較が可能となる。もちろん、各画像は独立して拡大縮小表示や回転、移動などが自在に行えるため、必要な部位を拡大して観察することも容易に行える。さらに、両者を連動して拡大縮小、回転、移動など視点変更を行えることも、上述した通りである。さらに、透過率調整スライダ３２８により３次元着色画像の透過率の調整も可能である。例えば、同じスケールで試料の表面状態を確認したい場合は、図３５に示すように３次元着色画像の透過率を０％として元の３次元画像のみを表示させることもでき、また図３６に示すように透過率を５０％として元の３次元画像と３次元着色画像をそれぞれ重ねた状態に表示して、表面状態と高さを同時に観察することもできる。さらに、各表示領域に色ゲージ４０２を表示し、またスケールグリッド４０４の表示をＯＮ／ＯＦＦすることも可能であることは上述した通りである。特に、各画像は独立して視点を変更できるので、スケールグリッド４０４を表示させたまま画像に回転させるとスケールグリッド４０４も付随して回転し、スケールグリッド４０４の表示状態から現在の視点の位置を確認できるので、各画像における視点の位置を把握できる利点が得られる。このように、絶対値比較モードは複数の試料を対比して観察する用途に好適に利用できる。

なお、上記の例では基準３次元画像と一の比較３次元画像の２つの画像を表示する例を示したが、３以上の画像を表示可能であることはいうまでもない。複数の画像は、表示部５２を複数の表示領域に分割して、並べて一覧表示する。また、別ウィンドウを開いてウィンドウ毎に個別に表示させてもよい。
［表現パターン］

以上のようにして、高さを色で表現して３次元着色画像を生成したが、色に限られず、表示部５２で表現可能な他の表現パターンを用いて高さを表現することもできる。例えば表現パターンとして、色に変わって輝度や明るさ、濃淡、あるいはテクスチャやハッチングなど表面模様の変更や、所定高さ毎に色やハッチングパターンが異なる等高線を付加する手法等が利用できる。特に輝度を表現パターンとして使用すると、表示画面がモノクロで色を表現できない場合等に、明暗で高さを表現できる。また逆に色の再現性が優れた表示部５２の場合は、明るさ、色相、彩度のいずれかを変更するように表現パターンを設定することもでき、さらに複数の表現パターンを組み合わせることもできる。このようにして、着色画像生成部に代わって表現パターン画像生成部が、３次元着色画像に代わって３次元表現パターン画像を生成することでも、表示部において高さを様々な表現パターンにより表現できる。

本発明の拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体または記録した機器は、顕微鏡やデジタルマイクロスコープに利用して、観察対象の試料を複数同一画面に表示して対比できる。

本発明の実施の形態に係る拡大観察装置の外観図である。 本発明の第１の実施の形態に係る拡大観察装置のブロック図である。 本発明の第２の実施の形態に係る拡大観察装置のブロック図である。 高さｚに対する受光データの変化を示すグラフである。 ３次元データの撮像方法の一例を示すフローチャートである。 複数の２次元画像データから合成画像を生成する一手順を説明するフローチャートである。 本発明の一実施の形態に係る拡大観察用操作プログラムのインターフェース画面を示すイメージ図である。 図７の状態から表示領域Ｂの３次元画像の視点を変更した状態を示すイメージ図である。 図７の状態から表示領域Ａの３次元画像の視点を変更した状態を示すイメージ図である。 図７の状態から表示領域Ａ、Ｂの３次元画像の視点を同時に変更した状態を示すイメージ図である。 表示領域Ａ、Ｂの３次元画像の拡大率を変更した状態を示すイメージ図である。 表示領域Ａ、Ｂの３次元画像の拡大率を変更した状態を示すイメージ図である。 表示領域Ａ、Ｂの３次元画像の拡大率を変更した状態を示すイメージ図である。 ２つの画像の表示状態が合致しない例を示すイメージ図である。 図１４の画像の表示状態を一致させた例を示すイメージ図である。 本発明の他の実施の形態に係る拡大観察用操作プログラムのインターフェース画面を示すイメージ図である。 ワークの位置合わせを行う一手順を説明するフローチャートである。 拡大観察用操作プログラムのコントローラ部のユーザインターフェース画面の一例を示すイメージ図である。 図１８の操作に基づき基準となる３次元画像を表示するイメージ図である。 図１９の基準３次元画像と、比較対象の３次元画像とを表示するイメージ図である。 図２０の画面から、比較３次元画像を基準３次元画像と同じ倍率に変更して表示する例を示すイメージ図である。 図１９の基準３次元画像を表示する視点を変更した例を示すイメージ図である。 図２２の基準３次元画像と、比較対象の３次元画像とを表示するイメージ図である。 図２３の画面から、比較３次元画像の視点を基準３次元画像と同じに変更して表示する例を示すイメージ図である。 図２４の画面から、さらに比較３次元画像を基準３次元画像と同じ倍率に変更して表示する例を示すイメージ図である。 ３次元着色画像を生成する制御部の構成を示すブロック図である。 ３次元画像の一例を示すイメージ図である。 図２７の３次元画像を３次元着色画像に変換した一例を示すイメージ図である。 図２８の３次元着色画像にスケールグリッドを表示した例を示すイメージ図である。 図２９の３次元着色画像の透過率を５０％に設定した例を示すイメージ図である。 複数の３次元着色画像を通常モードで表示する例を示すイメージ図である。 複数の３次元着色画像を絶対値比較モードで表示する例を示すイメージ図である。 図３１の３次元着色画像の透過率を０％として元の３次元画像を表示させた例を示すイメージ図である。 図３１の３次元着色画像の透過率５０％とした例を示すイメージ図である。 図３２の３次元着色画像の透過率を０％として元の３次元画像を表示させた例を示すイメージ図である。 図３２の３次元着色画像の透過率を５０％とした例を示すイメージ図である。

符号の説明

１０・・・撮像部；１０ａ・・・カメラ
１１・・・光学系
１２、２１２・・・ＣＣＤ；１３、２１３・・・ＣＣＤ制御回路
１４・・・光路シフト部
２０・・・ステージ昇降器
２１・・・ステッピングモータ
２２・・・モータ制御回路
３０・・・ステージ
４１・・・スタンド台
４２・・・支柱
４３・・・カメラ取り付け部
５０・・・情報処理装置
５１・・・制御部
５２、５２Ｂ・・・表示部
５３・・・メモリ；５３Ａ・・・記憶部
５４・・・インターフェイス
５５・・・操作部；５５Ａ・・・ポインティングデバイス
５５ａ・・・マウス；５５ｂ・・・左ボタン；５５ｃ・・・右ボタン
５５ｄ・・・スクロールボタン；５５ｅ・・・マウスポインタ
６０・・・照明部；６０Ａ・・・落射照明；６０Ｂ・・・透過照明
６１・・・光ファイバー
６２・・・コネクタ
７０・・・コンピュータ
１００・・・第一の光学系
１０１・・・レーザ
１０２・・・第一のコリメートレンズ
１０３・・・偏光ビームスプリッタ
１０４・・・１／４波長板
１０５・・・水平偏向装置；１０６・・・垂直偏向装置
１０７・・・第一のリレーレンズ；１０８・・・第二のリレーレンズ
１０９・・・対物レンズ
１１０・・・結像レンズ
１１１・・・ピンホール板
１１２・・・フォトダイオード
１１３・・・Ａ／Ｄコンバータ
１１５・・・レーザ駆動回路
２００・・・第二の光学系
２０１・・・白色ランプ
２０２・・・第二のコリメートレンズ
２０３・・・第１ハーフミラー；２０４・・・第２ハーフミラー
３００・・・コントローラ部
３０２・・・「ファイル選択」欄
３０４・・・「３Ｄを表示」ボタン；３０６・・・「３Ｄを閉じる」ボタン
３１０・・・「３Ｄファイル比較」欄
３１２・・・「比較モード」ボタン；３１３・・・「サブ切換」ボタン
３１４・・・「連動モード」ボタン；３１６・・・「同期セット」ボタン
３２０・・・「高さ調整」スライダ
３２２・・・「保存」ボタン；３２４・・・「リセット」ボタン
３２６・・・「高さ／カラー」ボタン
３２８・・・透過率調整スライダ
３３０・・・「スケール」ボタン
４０２・・・色ゲージ
４０４・・・スケールグリッド
５１２・・・割り当て部
５１４・・・着色画像生成部
５１６・・・画像調整部
５１８・・・モード切替部
５２０・・・透過率調整部
５２２・・・倍率調整部
５２４・・・視点調整部
Ｓ・・・試料；Ａ、Ｂ・・・表示領域；Ｗ１、Ｗ２・・・ワーク

Claims (16)

1. 観察対象を撮像するための撮像部と、前記撮像部で取得された信号に基づいて３次元の観察画像を生成する制御部と、前記制御部で生成された３次元の観察画像を表示するための表示部とを備える拡大観察装置であって、
   前記３次元画像が高さ情報を含んでおり、３次元画像データが有する高さ情報の分布を測定し、かつ前記表示部で表現可能な一定の変化可能な範囲を有する画素の表現パターンを前記高さ情報の分布と対応させ、高さ情報の変化を表現パターンの変化で表現できるよう各高さと表現パターンの対応関係を割り当てる割り当て部と、
   前記３次元画像が有する高さ情報毎に、前記割り当て部の対応関係に基づいて表現パターンを各々割り当て、高さに相当する３次元表現パターン画像を生成する表現パターン画像生成部と、
   を備えており、
   前記表示部が、複数の３次元画像を同時に表示可能であって、
   かつ複数の３次元画像に対して、前記表現パターン画像生成部が各々３次元表現パターン画像を生成する際の各高さと表現パターンの対応関係を、すべての３次元画像で共通にしてなることを特徴とする拡大観察装置。
2. 観察対象を撮像するための撮像部と、前記撮像部で取得された信号に基づいて３次元の観察画像を生成する制御部と、前記制御部で生成された３次元の観察画像を表示するための表示部とを備える拡大観察装置であって、
   前記３次元画像が高さ情報を含んでおり、３次元画像データが有する高さ情報の分布に基づき、その最大高さと最小高さを検出し、かつ前記表示部で表現可能な画素の表現パターンであって、最大値と最小値を有する一定範囲の表現パターンを前記高さ情報の分布と対応させ、高さの最大高さと最小高さを、表現パターンの最大値と最小値に各々対応させるように、各高さと表現パターンの対応関係を割り当てる割り当て部と、
   前記３次元画像が有する高さ情報毎に、前記割り当て部の対応関係に基づいて表現パターンを各々割り当て、高さに相当する３次元表現パターン画像を生成する表現パターン画像生成部と、
   を備えており、
   前記表示部が、複数の３次元画像を同時に表示可能であって、
   かつ複数の３次元画像に対して、前記表現パターン画像生成部が各々３次元表現パターン画像を生成する際の各高さと表現パターンの対応関係を、すべての３次元画像で共通にしてなることを特徴とする拡大観察装置。
3. 請求項２に記載の拡大観察装置であって、
   前記割り当て部が表現パターンの対応関係を割り当てる際、複数の３次元画像の内、基準となる３次元画像に含まれる高さ情報の分布に基づき、その最大高さと最小高さを検出し、前記一定範囲の表現パターンを前記高さ情報の分布と対応させ、一の３次元画像に含まれる高さの最大高さと最小高さを、表現パターンの最大値と最小値に各々対応させるようにして各高さと表現パターンの対応関係を割り当て、
   この対応関係をすべての３次元画像に対して実行し、統一された対応関係に従って前記表現パターン画像生成部が３次元表現パターン画像を生成することを特徴とする拡大観察装置。
4. 請求項３に記載の拡大観察装置であって、
   前記基準３次元画像が、複数の３次元画像の内で、最大高さと最小高さとの差が最大である３次元画像であることを特徴とする拡大観察装置。
5. 請求項２に記載の拡大観察装置であって、
   前記割り当て部が表現パターンの対応関係を割り当てる際、複数の３次元画像に含まれるすべての高さ情報の分布に基づき、その最大高さと最小高さを検出し、前記一定範囲の表現パターンを前記高さ情報の分布と対応させ、すべての３次元画像に含まれる高さの内、最大高さと最小高さを、表現パターンの最大値と最小値に各々対応させるようにして各高さと表現パターンの対応関係を割り当て、
   この対応関係をすべての３次元画像に対して実行し、統一された対応関係に従って前記表現パターン画像生成部が３次元表現パターン画像を生成することを特徴とする拡大観察装置。
6. 請求項１に記載の拡大観察装置であって、
   前記表現パターンが、色もしくは輝度の少なくともいずれかであることを特徴とする拡大観察装置。
7. 観察対象を撮像するための撮像部と、前記撮像部で取得された信号に基づいて３次元の観察画像を生成する制御部と、前記制御部で生成された３次元の観察画像を表示するための表示部とを備える拡大観察装置であって、
   前記３次元画像に関して、高さ情報を含む３次元画像データを保持する記憶部と、
   ３次元画像データが有する高さ情報の分布に基づき、その最大高さと最小高さを検出し、
   所定の範囲の色を階調表示させて高さを表現する色パレットを前記高さ情報の分布と対応させ、高さの最大高さと最小高さが、色パレットの範囲の最大色と最小色に各々対応するように、各高さと色の対応関係を割り当てる割り当て部と、
   前記３次元画像が有する高さ情報毎に、前記割り当て部の対応関係に基づいて色を各々割り当て、高さに相当する３次元着色画像を生成する着色画像生成部と、
   を備えており、
   複数の３次元画像に対して、基準となる基準３次元画像に基づき、前記割り当て部がその高さ情報の分布に基づき対応関係を決定し、この対応関係を他の３次元画像に対しても実行し、統一された対応関係に従って生成された３次元着色画像を複数、表示部に表示可能に構成してなることを特徴とする拡大観察装置。
8. 請求項７に記載の拡大観察装置であって、
   前記表示部において、各３次元画像を表示する表示領域に、該３次元画像に割り当てられた色の分布を示す色ゲージを、各色に割り当てられた高さの代表値と共に表示可能としたことを特徴とする拡大観察装置。
9. 請求項７に記載の拡大観察装置であって、
   表示部は各３次元画像に対し３次元着色画像を重ねて表示可能であり、
   かつ各３次元画像に重ねて表示される３次元着色画像は透過性を持たせることができ、
   ３次元着色画像の透過率を調整可能な透過率調整部を備えることを特徴とする拡大観察装置。
10. 請求項９に記載の拡大観察装置であって、
    前記３次元画像データが、さらに該３次元画像の大きさに関する情報を含んでおり、
    さらに、複数の３次元画像を表示部に表示させる際、基準となる３次元画像が有する大きさに関する情報に基づいて、比較対象となる３次元画像で表示される対象物の大きさを基準３次元画像のそれと一致させるように調整するための倍率調整部を備えることを特徴とする拡大観察装置。
11. 請求項９に記載の拡大観察装置であって、さらに、
    複数の３次元画像を表示部に表示させる際、基準となる３次元画像で表示される対象物の視点に基づいて、比較対象となる３次元画像で表示される対象物の視点を基準３次元画像のそれと一致させるように調整するための視点調整部を備えることを特徴とする拡大観察装置。
12. 請求項１に記載の拡大観察装置であって、さらに、
    前記視点調整部によって複数の３次元画像を重ね合わせる際に、重ね合わせの基準となる高さを指定可能に構成してなることを特徴とする拡大観察装置。
13. 請求項７から１２のいずれかに記載の拡大観察装置であって、さらに
    複数の３次元画像に対して、各々の３次元画像に含まれる高さの最大値および最小値に色パレットの最大色および最小色をそれぞれ割り当て、各３次元画像毎に独立した対応関係に基づき着色画像生成部が３次元着色画像を生成して表示部に表示する通常モードと、
    複数の３次元画像の内、基準となる３次元画像に含まれる高さの最大値および最小値に色パレットの最大色および最小色を割り当て、共通の対応関係に基づき着色画像生成部が３次元着色画像を生成して表示部に表示する絶対値比較モードと、
    を切り替えるモード切替部を備えることを特徴とする拡大観察装置。
14. 複数の３次元の観察画像を撮像して各々表示部に表示し、これらを対比して観察可能な拡大観察方法であって、
    複数の３次元画像データを構築し、データに高さ情報を含めて保持するステップと、
    比較したい画像データを複数選択し、表示部に並べて表示するステップと、
    ３次元画像データが有する高さ情報の分布に基づき、その最大高さと最小高さを検出し、
    所定の範囲の色を階調表示させて高さを表現する色パレットを前記高さ情報の分布と対応させ、高さの最大高さと最小高さが、色パレットの範囲の最大色と最小色に各々対応するように、各高さと色の対応関係を割り当てるステップと、
    前記３次元画像が有する高さ情報毎に、前記割り当て部の対応関係に基づいて色を各々割り当て、高さに相当する３次元着色画像を生成するステップと、
    表示部に表示される各３次元画像画像の表面に、３次元着色画像を各々重ねて表示するステップと、
    を有しており、
    前記各高さと色の対応関係を割り当てるステップが、複数の３次元画像の内、基準となる基準３次元画像に含まれる高さ情報の分布に基づき対応関係を決定し、この対応関係を他の３次元画像に対しても実行することを特徴とする拡大観察方法。
15. 複数の３次元の観察画像を撮像して各々表示部に表示し、これらを対比して観察可能な拡大観察用操作プログラムであって、コンピュータに
    複数の３次元画像データを構築し、データに高さ情報を含めて保持する機能と、
    比較したい画像データを複数選択し、表示部に並べて表示する機能と、
    基準となる３次元画像データが有する高さ情報の分布に基づき、その最大高さと最小高さを検出し、所定の範囲の色を階調表示させて高さを表現する色パレットを前記高さ情報の分布と対応させ、高さの最大高さと最小高さが、色パレットの範囲の最大色と最小色に各々対応するように、各高さと色の対応関係を割り当てる機能と、
    複数の３次元画像が有する高さ情報毎に、前記割り当て部の対応関係に基づいて色を各々割り当て、高さに相当する３次元着色画像を生成する機能と、
    表示部に表示される各３次元画像画像の表面に、３次元着色画像を各々重ねて表示する機能と、
    各３次元画像に重ねて表示される３次元着色画像の透過率を調整する機能と、
    基準となる３次元画像が有する大きさに関する情報に基づいて、比較対象となる３次元画像の表示倍率が同じ倍率となるよう調整する機能と、
    を実現させることを特徴とする拡大観察用操作プログラム。
16. 請求項１５に記載される拡大観察用操作プログラムを記録したコンピュータで読み取り可能な記録媒体または記録した機器。